Процесор AMD Ryzen AI Max+ 395 утричі швидший за GeForce RTX 5080 у ШІ DeepSeek R1

[lewerlin]

По тих цінниках які будуть жадати за ноутбуки із 395+ каменем - мабуть простіше буде купити 5090.

Ага, і тягати її з дому в офіс/коворкінг. Де ноут, а де робоча станція?
Порівняння з боку АМД видається максимально тупим, а інакше - а з ким їм порівнювати? В ноутах вони, поки що, єдині здатні видати подібний продукт(це не оцінка самого продукту, просто констатація).

[sagifire]

Одним из преимуществ "игровых" видеокарт нвидиа уже которое десятилетие является КУДА в рабочих задачах. Уже с 4000й серии непрофильное использование карт стало настолько распространенным, что топовые модели получили экспортные ограничения. А в 5000й серии даже официально проговаривается заточенность под ИИ.

Ещё одна манипуляция Инструмент выбирают под задачу, если задача требует 80 ГБ VRAM, а для тестов выбирают видеокарту с 16 ГБ буфером, то это только для того, чтобы показать неграмотность своего выбора, в этом и заключается манипуляция новости, неграмотность выбора железа под задачу представляют как фейл игровой карты Nvidia. При этом не показывая абсолютную производительность своего процессора в этом режиме, потому она выражена относительно неэффективного режима использования решения конкурента. Это тупо не красиво для всех, кто хоть не много понимает что происходит.

Те кто хотят крутить LLM-ку на своём железе собирают риги из нескольких видеокарт, получая хорошую производительность, а не занимаются ерундой с АМД процессорами.

Собственно, мы видим как работают манипулятивные статьи, фанатики ведутся с религиозной фанатичностью

Відправлено через 47 секунд:

Мені здається ви втратили лінію дискусії

Это вы её не поняли.

Гаразд, я тоді просто відзеркалю вашу логіку щоб показати наскільки вона абсурдна.
Для вас було б нормальне порівняння у тесті риги з пачкою топових відях NVidia із встройкою ноутбучного процесора із висновком що залізо NVidia топ а АМД гівно ?

[Denvys5]

а інакше - а з ким їм порівнювати? В ноутах вони, поки що, єдині здатні видати подібний продукт(це не оцінка самого продукту, просто констатація).

Яблуко
Конфігурації з 128гб як раз стартують з х2-х3 цінником від опцій з сабжем

[block_stupid]

Ostin
Ми тестимо фуру і бачимо шо тягне 20 тон. І жере 30 літрів на 100-ку.
І седан, який тягне 300кг, і жере 5 літрів на 100-ку.

Мені для моїх задач, достатньо седана і я візьму тягать груз седана, бо ефективніше і дешевше.
Але тут ще вияснилось, що седан тоже може тягнути 20 тон і більше і все за ті ж 5 літрів. а не 30.
Для моїх задач, думаю вибір очевидний. Але це все у вакуумі.
бо якщо брати систему, з таким райзеном і кількістю пам'яті, пристрій може обійтись як сама система на 5080, тільки на 5080, я ще можу не тільки "20 тон грузу тягати", а і вигравати в гонках) та ще багато чого іншого.

Але якщо система з райзеном в районі 1400 (наприклад всякі портативки з купою пам'яті). А не всякі Ануси про хеймер, за х5 прайс.
І мені треба локальна ллм а граю ріжко і для ігр тієї продуктивності ок і + в інших задачах. То система яка коштує всяка менше ніж 5080, яка сама по собі кірпіч.
А якщо збирати систему на 5080, а оціню вже вартість тичасової оренди, або SaaS якийсь, по грошам і як часто юзаю. То може я куплю і систему на райзені для простих задача.
І працюватиму на орендованій системі яка себе окупить, і буде продуктивніше в сотні раз за 5080)))

[Ostin]

тут ще вияснилось, що седан тоже може

Все чудово, але навіщо тоді вантажівки, якщо седан "тоже може"?

[vmsolver]

Всем кто поверил в манимуляцию, я критично воспринимаю информацию с этой новости, а вы верите, что значит вы в этом не понимаете. Остаётся только добавить:

Ефект амнезії Гелл-Манна — це когнітивне упередження, яке описує схильність людей критично оцінювати повідомлення ЗМІ в тій сфері, про яку вони добре обізнані, але продовжують довіряти повідомленням в інших сферах, незважаючи на те, що визнають подібні потенційні неточності.

Гаразд, я тоді просто відзеркалю вашу логіку щоб показати наскільки вона абсурдна.

Вы только лишь показали, что способны множество раз находить не верное решение или выбирать не верный инструмент для решения задачи не осознавая этого. Пример из новости похож на примерно следующее: а давайте устроим соревнование по плаванию, пригласим для этого чемпиона по плаванию, позовём СМИ, а перед заплывом привяжем к рукам чемпиона 10 кг гантелю. Вопросы:
1) Покажет ли чемпион по плаванию свои возможности?
2) Смысл подобного соревнования?
Вот в новости подобное соревнование было проведено, соперник чемпиона всего в три раза от него отстал на коротких забегах, а на длинном начал существенно опережать. Спасибо, очень полезное соревнование, очень содержательно.

Для вас було б нормальне порівняння

С матричными считалками в других процессорах.

[Enjthesilence]

Ostin
Ми тестимо фуру і бачимо шо тягне 20 тон. І жере 30 літрів на 100-ку.
І седан, який тягне 300кг, і жере 5 літрів на 100-ку.

Мені для моїх задач, достатньо седана і я візьму тягать груз седана, бо ефективніше і дешевше.
Але тут ще вияснилось, що седан тоже може тягнути 20 тон і більше і все за ті ж 5 літрів. а не 30.
Для моїх задач, думаю вибір очевидний. Але це все у вакуумі.
бо якщо брати систему, з таким райзеном і кількістю пам'яті, пристрій може обійтись як сама система на 5080, тільки на 5080, я ще можу не тільки "20 тон грузу тягати", а і вигравати в гонках) та ще багато чого іншого.

Але якщо система з райзеном в районі 1400 (наприклад всякі портативки з купою пам'яті). А не всякі Ануси про хеймер, за х5 прайс.
І мені треба локальна ллм а граю ріжко і для ігр тієї продуктивності ок і + в інших задачах. То система яка коштує всяка менше ніж 5080, яка сама по собі кірпіч.
А якщо збирати систему на 5080, а оціню вже вартість тичасової оренди, або SaaS якийсь, по грошам і як часто юзаю. То може я куплю і систему на райзені для простих задача.
І працюватиму на орендованій системі яка себе окупить, і буде продуктивніше в сотні раз за 5080)))

Що я прочитав, ахтунг. Так беруть 5080 в ігри погратись, першочергово. Звичайно, якщо мова йде про «працювати» треба брати залізо для цього. Ти ж на орендованій системі в цяцькі не пограєш, от в чому питання. Короче, порівняння максимально дивне. Типу 5080 - декстопна карта для ігор, яка бонусом може щось в ші, порівнюють з процесором, який спеціально розроблений під ці задачі. Я десь помиляюсь? підкажіть

[lewerlin]

Яблуко
Конфігурації з 128гб як раз стартують з х2-х3 цінником від опцій з сабжем

Закрита екосистема. Взагалі не конкуренти ніяк. Яблуко працює лише з яблуком(залізо і ОС). І в них немає ГПУ такого рівня. Їх попугаї - попугаї всього комплексу, а не гола продуктивність заліза.

[AntonyKandaurov]

Ostin
Ми тестимо фуру і бачимо шо тягне 20 тон. І жере 30 літрів на 100-ку.
І седан, який тягне 300кг, і жере 5 літрів на 100-ку.

Мені для моїх задач, достатньо седана і я візьму тягать груз седана, бо ефективніше і дешевше.
Але тут ще вияснилось, що седан тоже може тягнути 20 тон і більше і все за ті ж 5 літрів. а не 30.
Для моїх задач, думаю вибір очевидний. Але це все у вакуумі.
бо якщо брати систему, з таким райзеном і кількістю пам'яті, пристрій може обійтись як сама система на 5080, тільки на 5080, я ще можу не тільки "20 тон грузу тягати", а і вигравати в гонках) та ще багато чого іншого.

Але якщо система з райзеном в районі 1400 (наприклад всякі портативки з купою пам'яті). А не всякі Ануси про хеймер, за х5 прайс.
І мені треба локальна ллм а граю ріжко і для ігр тієї продуктивності ок і + в інших задачах. То система яка коштує всяка менше ніж 5080, яка сама по собі кірпіч.
А якщо збирати систему на 5080, а оціню вже вартість тичасової оренди, або SaaS якийсь, по грошам і як часто юзаю. То може я куплю і систему на райзені для простих задача.
І працюватиму на орендованій системі яка себе окупить, і буде продуктивніше в сотні раз за 5080)))

Що я прочитав, ахтунг. Так беруть 5080 в ігри погратись, першочергово. Звичайно, якщо мова йде про «працювати» треба брати залізо для цього. Ти ж на орендованій системі в цяцькі не пограєш, от в чому питання. Короче, порівняння максимально дивне. Типу 5080 - декстопна карта для ігор, яка бонусом може щось в ші, порівнюють з процесором, який спеціально розроблений під ці задачі. Я десь помиляюсь? підкажіть

Та такий же 16 котловий проц як і попередники, просто тензорні ядра в нього впихнули і поставили iGpu якій можна виділити купу рами щоб і погратися можна було і з ШІ побавитись. Купляєш 395+, ставишь до нього 128ГБ рами, виділяєш в бівісі 96гб під врам і кайфуєш із цим ноутбучним сферичним коником монстром в коворкінгу.

[Enjthesilence]

Що я прочитав, ахтунг. Так беруть 5080 в ігри погратись, першочергово. Звичайно, якщо мова йде про «працювати» треба брати залізо для цього. Ти ж на орендованій системі в цяцькі не пограєш, от в чому питання. Короче, порівняння максимально дивне. Типу 5080 - декстопна карта для ігор, яка бонусом може щось в ші, порівнюють з процесором, який спеціально розроблений під ці задачі. Я десь помиляюсь? підкажіть

Та такий же 16 котловий проц як і попередники, просто тензорні ядра в нього впихнули і поставили iGpu якій можна виділити купу рами щоб і погратися можна було і з ШІ побавитись. Купляєш 395+, ставишь до нього 128ГБ рами, виділяєш в бівісі 96гб під врам і кайфуєш із цим ноутбучнимсферичним коником монстром в коворкінгу.

Тю, так а в чому доцільність порівняння з ртх5080 в якої 16 ГБ а не 96гб врам? Я так розумію це основна фішка цього камінця? А якщо умовно можливо було б 5080 докинути таким чином враму, результат був би схожий?

[AntonyKandaurov]

По тих цінниках які будуть жадати за ноутбуки із 395+ каменем - мабуть простіше буде купити 5090.

Ага, і тягати її з дому в офіс/коворкінг. Де ноут, а де робоча станція?
Порівняння з боку АМД видається максимально тупим, а інакше - а з ким їм порівнювати? В ноутах вони, поки що, єдині здатні видати подібний продукт(це не оцінка самого продукту, просто констатація).

Нє, ну якщо стоїть задача показати яблучникам в коворкінгу who is boss of the gym хто тут татусь то в принципі окєй.

Відправлено через 2 хвилини 14 секунд:

Та такий же 16 котловий проц як і попередники, просто тензорні ядра в нього впихнули і поставили iGpu якій можна виділити купу рами щоб і погратися можна було і з ШІ побавитись. Купляєш 395+, ставишь до нього 128ГБ рами, виділяєш в бівісі 96гб під врам і кайфуєш із цим ноутбучнимсферичним коником монстром в коворкінгу.

Тю, так а в чому доцільність порівняння з ртх5080 в якої 16 ГБ а не 96гб врам? Я так розумію це основна фішка цього камінця?

Про що я і написав трошки вище, в 5080 32гб не припаяєш а тут яке поле для експериментів, аби ж тільки асус або рейзер 16 гб ддр5 не припаяв

[Enjthesilence]

Ага, і тягати її з дому в офіс/коворкінг. Де ноут, а де робоча станція?
Порівняння з боку АМД видається максимально тупим, а інакше - а з ким їм порівнювати? В ноутах вони, поки що, єдині здатні видати подібний продукт(це не оцінка самого продукту, просто констатація).

Нє, ну якщо стоїть задача показати яблучникам в коворкінгу who is boss of the gym хто тут татусь то в принципі окєй.

Відправлено через 2 хвилини 14 секунд:

Тю, так а в чому доцільність порівняння з ртх5080 в якої 16 ГБ а не 96гб врам? Я так розумію це основна фішка цього камінця?

Про що я і написав трошки вище, в 5080 32гб не припаяєш а тут яке поле для експериментів, аби ж тільки асус або рейзер 16 гб ддр5 не припаяв

Все, второпав. Дякую

[Denvys5]

lewerlin
Яблуко так само підходе аби крутити ллмку, як і сабж
Там і перформанс порівняний буде (в мак ультра має бути навіть швидше, бо більше пзп)

[Stamb]

А який сенс з 128 чи 256 гіг, якщо для запуску повної моделі діп сік і так треба в рази більше?
Також графіки без значень це класика.
Одні видадуть 0.5 токена/с, інші 1.

[Tiufin]

А тут є ті, хто собі на локальному пк запустив та користується ШІ? Що ви на ній робите? Цікавить це питання, бо іноді, коли бачу теми про локальні моделі ШІ, замислююся- може і мені воно треба. Але я дуже поверхнево із темою знайомий, тому поки не знаходжу для себе відповіді, навіщо воно. Бо все одно ж наче як буде в рази "тупіше", ніж чатгпт, клод, перплексіті чи грок.
Ну, хіба що прн0 чат запустити - там достовірність інформації, яку буде генерити нейронка - неважлива, а ось відсутність цензури та приватність дає переваги.

[sagifire]

А тут є ті, хто собі на локальному пк запустив та користується ШІ? Що ви на ній робите? Цікавить це питання, бо іноді, коли бачу теми про локальні моделі ШІ, замислююся- може і мені воно треба. Але я дуже поверхнево із темою знайомий, тому поки не знаходжу для себе відповіді, навіщо воно. Бо все одно ж наче як буде в рази "тупіше", ніж чатгпт, клод, перплексіті чи грок.
Ну, хіба що прн0 чат запустити - там достовірність інформації, яку буде генерити нейронка - неважлива, а ось відсутність цензури та приватність дає переваги.

Локально Gemma 3 себе дуже добре показує у порівняні з іншими, в деяких задачах можна навіть порівнювати з GPT 3-4. Гарно розуміє та формує відповіді на українській та інших мовах.
Можуть бути випадки коли потрібно мати доступ до такого функціоналу (чатбот асистента) без доступу до інтернету.
А так це в основному використовується як компонент для побудови якихось інтелектуальних систем. Наприклад аналіз документів, векторна індексація документів для розумного пошуку, інтелектуальне прийняття рішень на основі аналізу інформації, інтелектуальна категоризація даних. Можна багато цікавих речей робити через агентські системи, там вже на що фантазії вистачить.

В загальному, коли починаєш заглиблюватись в тему і пробувати рішення які потребують АПІ чат ботів, які є платними то само собою починаєш цікавитись наскільки можливо їх замінити чимось таким що можна запустити самому.

[AssayMAS]

если задача требует 80 ГБ VRAM, а для тестов выбирают видеокарту с 16 ГБ буфером

так как бы есть под разный Vram языковые модели - там есть на 8 12 24 48 ГБ... . И даже под 200+Гб и десяток карт типо 4090.
Так что поиграться могут многие с 8ГБ врам у себя в DeepSeek R1... на хабре даже статья-рецепт есть.

[block_stupid]

Все чудово, але навіщо тоді вантажівки, якщо седан "тоже може"?

Все чудово, але навіщо тоді вантажівки, якщо седан "тоже може"?
Бо фура може при тому вантажі їхати значно швидше. Та інші задачі виконувати швидше.
Всякі оці аналогії з чимсь постійно мають вразливості.

Відправлено через 15 хвилин 52 секунди:

Що я прочитав, ахтунг. Так беруть 5080 в ігри погратись, першочергово.

І навіть статка у вас, чи так виріте тому що куртка "сказав".
А може більшість беруть щоб донавчати локальні маленькі LLM, а 5090 вже занадто дорого?
Або робити інші задачі. GPU давно універсальний пристрій, не тільки для ігр. Ігри це просто основна частина маркетингу і "маркетинговий бенч", щоб показати, що новий продукт типу краще і назбирати хом'ячків і хейтерів з обох лагерів які срачами тільки допомомагають маркетингу.

Звичайно, якщо мова йде про «працювати» треба брати залізо для цього.

Я б тут сказав не для цього, а яке краще мені підходить в даних момент часу, по ціні, доступності і як воно буде задачу виконувати і за який час.
Враховуючи що інколи треба паралельну задачу робити. Наприклад бувби якийсь asic під LLM за 100$ і 100 попугаями.
І є карточка за 150$ і 80 попугаями, мабуть виберу не цільове залізо і дорожче. Бо останнє може робити ще цілий ряд задач, а не одну.

Ти ж на орендованій системі в цяцькі не пограєш, от в чому питання.

Чого це? Пограю, купа людей користується хмарним геймінгом, це і собі налаштувати можна.

Короче, порівняння максимально дивне. Типу 5080 - декстопна карта для ігор, яка бонусом може щось в ші, порівнюють з процесором, який спеціально розроблений під ці задачі.

Хто сказав що він спеціально створений під ці задачі, тому що там написали модняве "AI", яке почали ліпити ще під камерою нонейм телефона Nefos в якомусь там 2017-18 році?
Це проц, як раз універсальний і більше про геймінг і портативну робочу станцію, а не про AI, але за рахунок підтримки великого об'єму пам'яті пристрої не від Ануса, можуть за свої гроші бути кращими ніж 5080, виграючи у всьому останню. Бо як писав, більше пам'яті (більшу модель запхаю), це вже готовий пристрій, який робить купу задач. А 5080 просто кірпіч, ще х2 по ціні.

Я десь помиляюсь? підкажіть

Так, рахуючи для 5080 карта для ігор. Ні це карта "також і для ігор". Річ в нюансах.
Останні ігрові карточки були до вибуху майнінгу кріпти. Далі пішли універсальні обчислювачі з асіками, які чомусь досі називають ігровими картками.
На встройках інтела ще 15 років, тому багато народу грало в ігри, але чому ж їх ігровими не називали?.
"Ігровий" це просто маркетиговий ярлик і все.
От в мене "ігрові" монітори, але взяв я їх не для ігр, а для комфортної роботи, бо більша герцовка, приємніше очам, менше втомлюються.
Колеги брати собі "ігрові" ноутбуки, але в ігри ні разу не грали на них. А брали бо портативний потужний пристрій для роботи і часто катаються по різним країнам на різні конфи і зустрічі.

Відправлено через 6 хвилин 42 секунди:
Tiufin
Локально в мене купа тонких налаштувань.
А в сучасних підписках на всякі хмарні LLM, дуже часто трапляєься таке "ой надто довгий контекст, чекай 6 годин, можеш поюзати вже ось ту тупу модель".
Або "ой, все кіькість відповідей закінчилась, чекай тиждень".
З локальними моделями такого немає, а ще я їх можу доналаштувати чітко під задачу.
Дуже дешево для якоїсь задачі піднавчить, потестувати. А потім можна і шерити масштабувати в хмарі і платити за залізо, а не залізо+підписку (всякі chatgpt і подібне).
Розбір якихось даних. Буває грубою силою LLM швидше і дешевше робити, ніж писати і думати над складним алгоритмом обробки якогось банально корявого xml чи json, чи csv. Бо наче все врахував, але ні, знову десь який косяк. А LLM трохи задав попреденього контексту, сказав, шо треба. І вперед.
На підписці, я вперся б в обмеження, в хмарі, я б отримав космічний рахунок. А локально, та тільки почекати і за світло заплатити, значно дешевше все обходиться.

[AssayMAS]

З локальними моделями такого немає, а ще я їх можу доналаштувати чітко під задачу.

ну как бы "системные требования" от 1 ГБ до 1,4ТБ Видео пямяти от 1шт 3060 до 16шт А100 с 80ГБ на борту
https://habrastorage.org/r/w1560/getpro ... 18351.jpeg