Процесор AMD Ryzen AI Max+ 395 утричі швидший за GeForce RTX 5080 у ШІ DeepSeek R1

[lewerlin]

По тих цінниках які будуть жадати за ноутбуки із 395+ каменем - мабуть простіше буде купити 5090.

Ага, і тягати її з дому в офіс/коворкінг. Де ноут, а де робоча станція?
Порівняння з боку АМД видається максимально тупим, а інакше - а з ким їм порівнювати? В ноутах вони, поки що, єдині здатні видати подібний продукт(це не оцінка самого продукту, просто констатація).

[sagifire]

Одним из преимуществ "игровых" видеокарт нвидиа уже которое десятилетие является КУДА в рабочих задачах. Уже с 4000й серии непрофильное использование карт стало настолько распространенным, что топовые модели получили экспортные ограничения. А в 5000й серии даже официально проговаривается заточенность под ИИ.

Ещё одна манипуляция Инструмент выбирают под задачу, если задача требует 80 ГБ VRAM, а для тестов выбирают видеокарту с 16 ГБ буфером, то это только для того, чтобы показать неграмотность своего выбора, в этом и заключается манипуляция новости, неграмотность выбора железа под задачу представляют как фейл игровой карты Nvidia. При этом не показывая абсолютную производительность своего процессора в этом режиме, потому она выражена относительно неэффективного режима использования решения конкурента. Это тупо не красиво для всех, кто хоть не много понимает что происходит.

Те кто хотят крутить LLM-ку на своём железе собирают риги из нескольких видеокарт, получая хорошую производительность, а не занимаются ерундой с АМД процессорами.

Собственно, мы видим как работают манипулятивные статьи, фанатики ведутся с религиозной фанатичностью

Відправлено через 47 секунд:

Мені здається ви втратили лінію дискусії

Это вы её не поняли.

Гаразд, я тоді просто відзеркалю вашу логіку щоб показати наскільки вона абсурдна.
Для вас було б нормальне порівняння у тесті риги з пачкою топових відях NVidia із встройкою ноутбучного процесора із висновком що залізо NVidia топ а АМД гівно ?

[Denvys5]

а інакше - а з ким їм порівнювати? В ноутах вони, поки що, єдині здатні видати подібний продукт(це не оцінка самого продукту, просто констатація).

Яблуко
Конфігурації з 128гб як раз стартують з х2-х3 цінником від опцій з сабжем

[block_stupid]

Ostin
Ми тестимо фуру і бачимо шо тягне 20 тон. І жере 30 літрів на 100-ку.
І седан, який тягне 300кг, і жере 5 літрів на 100-ку.

Мені для моїх задач, достатньо седана і я візьму тягать груз седана, бо ефективніше і дешевше.
Але тут ще вияснилось, що седан тоже може тягнути 20 тон і більше і все за ті ж 5 літрів. а не 30.
Для моїх задач, думаю вибір очевидний. Але це все у вакуумі.
бо якщо брати систему, з таким райзеном і кількістю пам'яті, пристрій може обійтись як сама система на 5080, тільки на 5080, я ще можу не тільки "20 тон грузу тягати", а і вигравати в гонках) та ще багато чого іншого.

Але якщо система з райзеном в районі 1400 (наприклад всякі портативки з купою пам'яті). А не всякі Ануси про хеймер, за х5 прайс.
І мені треба локальна ллм а граю ріжко і для ігр тієї продуктивності ок і + в інших задачах. То система яка коштує всяка менше ніж 5080, яка сама по собі кірпіч.
А якщо збирати систему на 5080, а оціню вже вартість тичасової оренди, або SaaS якийсь, по грошам і як часто юзаю. То може я куплю і систему на райзені для простих задача.
І працюватиму на орендованій системі яка себе окупить, і буде продуктивніше в сотні раз за 5080)))

[Ostin]

тут ще вияснилось, що седан тоже може

Все чудово, але навіщо тоді вантажівки, якщо седан "тоже може"?

[vmsolver]

Всем кто поверил в манимуляцию, я критично воспринимаю информацию с этой новости, а вы верите, что значит вы в этом не понимаете. Остаётся только добавить:

Ефект амнезії Гелл-Манна — це когнітивне упередження, яке описує схильність людей критично оцінювати повідомлення ЗМІ в тій сфері, про яку вони добре обізнані, але продовжують довіряти повідомленням в інших сферах, незважаючи на те, що визнають подібні потенційні неточності.

Гаразд, я тоді просто відзеркалю вашу логіку щоб показати наскільки вона абсурдна.

Вы только лишь показали, что способны множество раз находить не верное решение или выбирать не верный инструмент для решения задачи не осознавая этого. Пример из новости похож на примерно следующее: а давайте устроим соревнование по плаванию, пригласим для этого чемпиона по плаванию, позовём СМИ, а перед заплывом привяжем к рукам чемпиона 10 кг гантелю. Вопросы:
1) Покажет ли чемпион по плаванию свои возможности?
2) Смысл подобного соревнования?
Вот в новости подобное соревнование было проведено, соперник чемпиона всего в три раза от него отстал на коротких забегах, а на длинном начал существенно опережать. Спасибо, очень полезное соревнование, очень содержательно.

Для вас було б нормальне порівняння

С матричными считалками в других процессорах.

[Enjthesilence]

Ostin
Ми тестимо фуру і бачимо шо тягне 20 тон. І жере 30 літрів на 100-ку.
І седан, який тягне 300кг, і жере 5 літрів на 100-ку.

Мені для моїх задач, достатньо седана і я візьму тягать груз седана, бо ефективніше і дешевше.
Але тут ще вияснилось, що седан тоже може тягнути 20 тон і більше і все за ті ж 5 літрів. а не 30.
Для моїх задач, думаю вибір очевидний. Але це все у вакуумі.
бо якщо брати систему, з таким райзеном і кількістю пам'яті, пристрій може обійтись як сама система на 5080, тільки на 5080, я ще можу не тільки "20 тон грузу тягати", а і вигравати в гонках) та ще багато чого іншого.

Але якщо система з райзеном в районі 1400 (наприклад всякі портативки з купою пам'яті). А не всякі Ануси про хеймер, за х5 прайс.
І мені треба локальна ллм а граю ріжко і для ігр тієї продуктивності ок і + в інших задачах. То система яка коштує всяка менше ніж 5080, яка сама по собі кірпіч.
А якщо збирати систему на 5080, а оціню вже вартість тичасової оренди, або SaaS якийсь, по грошам і як часто юзаю. То може я куплю і систему на райзені для простих задача.
І працюватиму на орендованій системі яка себе окупить, і буде продуктивніше в сотні раз за 5080)))

Що я прочитав, ахтунг. Так беруть 5080 в ігри погратись, першочергово. Звичайно, якщо мова йде про «працювати» треба брати залізо для цього. Ти ж на орендованій системі в цяцькі не пограєш, от в чому питання. Короче, порівняння максимально дивне. Типу 5080 - декстопна карта для ігор, яка бонусом може щось в ші, порівнюють з процесором, який спеціально розроблений під ці задачі. Я десь помиляюсь? підкажіть

[lewerlin]

Яблуко
Конфігурації з 128гб як раз стартують з х2-х3 цінником від опцій з сабжем

Закрита екосистема. Взагалі не конкуренти ніяк. Яблуко працює лише з яблуком(залізо і ОС). І в них немає ГПУ такого рівня. Їх попугаї - попугаї всього комплексу, а не гола продуктивність заліза.

[AntonyKandaurov]

Ostin
Ми тестимо фуру і бачимо шо тягне 20 тон. І жере 30 літрів на 100-ку.
І седан, який тягне 300кг, і жере 5 літрів на 100-ку.

Мені для моїх задач, достатньо седана і я візьму тягать груз седана, бо ефективніше і дешевше.
Але тут ще вияснилось, що седан тоже може тягнути 20 тон і більше і все за ті ж 5 літрів. а не 30.
Для моїх задач, думаю вибір очевидний. Але це все у вакуумі.
бо якщо брати систему, з таким райзеном і кількістю пам'яті, пристрій може обійтись як сама система на 5080, тільки на 5080, я ще можу не тільки "20 тон грузу тягати", а і вигравати в гонках) та ще багато чого іншого.

Але якщо система з райзеном в районі 1400 (наприклад всякі портативки з купою пам'яті). А не всякі Ануси про хеймер, за х5 прайс.
І мені треба локальна ллм а граю ріжко і для ігр тієї продуктивності ок і + в інших задачах. То система яка коштує всяка менше ніж 5080, яка сама по собі кірпіч.
А якщо збирати систему на 5080, а оціню вже вартість тичасової оренди, або SaaS якийсь, по грошам і як часто юзаю. То може я куплю і систему на райзені для простих задача.
І працюватиму на орендованій системі яка себе окупить, і буде продуктивніше в сотні раз за 5080)))

Що я прочитав, ахтунг. Так беруть 5080 в ігри погратись, першочергово. Звичайно, якщо мова йде про «працювати» треба брати залізо для цього. Ти ж на орендованій системі в цяцькі не пограєш, от в чому питання. Короче, порівняння максимально дивне. Типу 5080 - декстопна карта для ігор, яка бонусом може щось в ші, порівнюють з процесором, який спеціально розроблений під ці задачі. Я десь помиляюсь? підкажіть

Та такий же 16 котловий проц як і попередники, просто тензорні ядра в нього впихнули і поставили iGpu якій можна виділити купу рами щоб і погратися можна було і з ШІ побавитись. Купляєш 395+, ставишь до нього 128ГБ рами, виділяєш в бівісі 96гб під врам і кайфуєш із цим ноутбучним сферичним коником монстром в коворкінгу.

[Enjthesilence]

Що я прочитав, ахтунг. Так беруть 5080 в ігри погратись, першочергово. Звичайно, якщо мова йде про «працювати» треба брати залізо для цього. Ти ж на орендованій системі в цяцькі не пограєш, от в чому питання. Короче, порівняння максимально дивне. Типу 5080 - декстопна карта для ігор, яка бонусом може щось в ші, порівнюють з процесором, який спеціально розроблений під ці задачі. Я десь помиляюсь? підкажіть

Та такий же 16 котловий проц як і попередники, просто тензорні ядра в нього впихнули і поставили iGpu якій можна виділити купу рами щоб і погратися можна було і з ШІ побавитись. Купляєш 395+, ставишь до нього 128ГБ рами, виділяєш в бівісі 96гб під врам і кайфуєш із цим ноутбучнимсферичним коником монстром в коворкінгу.

Тю, так а в чому доцільність порівняння з ртх5080 в якої 16 ГБ а не 96гб врам? Я так розумію це основна фішка цього камінця? А якщо умовно можливо було б 5080 докинути таким чином враму, результат був би схожий?

[AntonyKandaurov]

По тих цінниках які будуть жадати за ноутбуки із 395+ каменем - мабуть простіше буде купити 5090.

Ага, і тягати її з дому в офіс/коворкінг. Де ноут, а де робоча станція?
Порівняння з боку АМД видається максимально тупим, а інакше - а з ким їм порівнювати? В ноутах вони, поки що, єдині здатні видати подібний продукт(це не оцінка самого продукту, просто констатація).

Нє, ну якщо стоїть задача показати яблучникам в коворкінгу who is boss of the gym хто тут татусь то в принципі окєй.

Відправлено через 2 хвилини 14 секунд:

Та такий же 16 котловий проц як і попередники, просто тензорні ядра в нього впихнули і поставили iGpu якій можна виділити купу рами щоб і погратися можна було і з ШІ побавитись. Купляєш 395+, ставишь до нього 128ГБ рами, виділяєш в бівісі 96гб під врам і кайфуєш із цим ноутбучнимсферичним коником монстром в коворкінгу.

Тю, так а в чому доцільність порівняння з ртх5080 в якої 16 ГБ а не 96гб врам? Я так розумію це основна фішка цього камінця?

Про що я і написав трошки вище, в 5080 32гб не припаяєш а тут яке поле для експериментів, аби ж тільки асус або рейзер 16 гб ддр5 не припаяв

[Enjthesilence]

Ага, і тягати її з дому в офіс/коворкінг. Де ноут, а де робоча станція?
Порівняння з боку АМД видається максимально тупим, а інакше - а з ким їм порівнювати? В ноутах вони, поки що, єдині здатні видати подібний продукт(це не оцінка самого продукту, просто констатація).

Нє, ну якщо стоїть задача показати яблучникам в коворкінгу who is boss of the gym хто тут татусь то в принципі окєй.

Відправлено через 2 хвилини 14 секунд:

Тю, так а в чому доцільність порівняння з ртх5080 в якої 16 ГБ а не 96гб врам? Я так розумію це основна фішка цього камінця?

Про що я і написав трошки вище, в 5080 32гб не припаяєш а тут яке поле для експериментів, аби ж тільки асус або рейзер 16 гб ддр5 не припаяв

Все, второпав. Дякую

[Denvys5]

lewerlin
Яблуко так само підходе аби крутити ллмку, як і сабж
Там і перформанс порівняний буде (в мак ультра має бути навіть швидше, бо більше пзп)

[Stamb]

А який сенс з 128 чи 256 гіг, якщо для запуску повної моделі діп сік і так треба в рази більше?
Також графіки без значень це класика.
Одні видадуть 0.5 токена/с, інші 1.

[Tiufin]

А тут є ті, хто собі на локальному пк запустив та користується ШІ? Що ви на ній робите? Цікавить це питання, бо іноді, коли бачу теми про локальні моделі ШІ, замислююся- може і мені воно треба. Але я дуже поверхнево із темою знайомий, тому поки не знаходжу для себе відповіді, навіщо воно. Бо все одно ж наче як буде в рази "тупіше", ніж чатгпт, клод, перплексіті чи грок.
Ну, хіба що прн0 чат запустити - там достовірність інформації, яку буде генерити нейронка - неважлива, а ось відсутність цензури та приватність дає переваги.

[sagifire]

А тут є ті, хто собі на локальному пк запустив та користується ШІ? Що ви на ній робите? Цікавить це питання, бо іноді, коли бачу теми про локальні моделі ШІ, замислююся- може і мені воно треба. Але я дуже поверхнево із темою знайомий, тому поки не знаходжу для себе відповіді, навіщо воно. Бо все одно ж наче як буде в рази "тупіше", ніж чатгпт, клод, перплексіті чи грок.
Ну, хіба що прн0 чат запустити - там достовірність інформації, яку буде генерити нейронка - неважлива, а ось відсутність цензури та приватність дає переваги.

Локально Gemma 3 себе дуже добре показує у порівняні з іншими, в деяких задачах можна навіть порівнювати з GPT 3-4. Гарно розуміє та формує відповіді на українській та інших мовах.
Можуть бути випадки коли потрібно мати доступ до такого функціоналу (чатбот асистента) без доступу до інтернету.
А так це в основному використовується як компонент для побудови якихось інтелектуальних систем. Наприклад аналіз документів, векторна індексація документів для розумного пошуку, інтелектуальне прийняття рішень на основі аналізу інформації, інтелектуальна категоризація даних. Можна багато цікавих речей робити через агентські системи, там вже на що фантазії вистачить.

В загальному, коли починаєш заглиблюватись в тему і пробувати рішення які потребують АПІ чат ботів, які є платними то само собою починаєш цікавитись наскільки можливо їх замінити чимось таким що можна запустити самому.