Процесор AMD Ryzen AI Max+ 395 утричі швидший за GeForce RTX 5080 у ШІ DeepSeek R1

[sagifire]

Тепер зрозуміла хоч якась логіка у тому що AMD не сильно наростила кількість памяті у відеокартах, вони просто зробили ставку на зв'язку спецблоків проца і звичайної пам'яті. Відеокарті для ігор вистачає а для ШІ є хороша альтернатива.
А от чим думали NVidia, можливо розраховували на те що всі будуть сидіти далі у хмарах де в них зараз монополія на залізо. А по результату получили під дих і тупо за пару місяців після релізу злили користувацький сегмент ШІ в топовому сегменті відях.
В цікаві часи живемо

P/S У мене для вас погані новини що до цін на нові проци AMD

[UnnamedUA]

Стаття списана зі статті яка має маніпулятивний заголовок та где опущено з оригіналу що то не r1 чиста, а дісцільовані

[ronemun]

Пропоную обговорити Процесор AMD Ryzen AI Max+ 395 утричі швидший за GeForce RTX 5080 у ШІ DeepSeek R1

в цього проца торетичні 256 ГБайт/с це загальна швидкість памяті - запис+читання (ddr чіп одночасно або читає або записує, і вся його шина йде на цю операцію)
Тоді як х16 PCIe v5 в Geforce 5000 це 64 Гбайт/с в одну сторону, але одночасно діють і запис і зчитування паралельно, в сумі 128 Гбайт/с.
Звичайно це не 256, але все ж правильно кешувати в оперативну память дозволяє любий обєм, а не тільки 96 Гбайт, особливо в 4-8 каналах на дешевих EPYC чи Xeon. А по внутрішній швидкості навіть geforce 5070 має 670 Гбайт/с, 5080 взагалі 960, + внутрішні кеші на 48/64 Мбайт відповідно.
І звичайно, в одну материнку з EPYC/Xeon можна поставити багато карт, це щодо їх вартості.

[sagifire]

Звичайно що ще потрібно почекати тестів з інших джерел, особливо мені цікаві тести не DeepSeek а Gemma 3.
Я раніше шукав інформацію по продуктивності нових відеокарт AMD 90xx у генеративних моделях і там якось все дуже сумно, продуктивність на рівні карт Nvidia 40xx серії а новій лінійці 50хх зливали досить відчутно. Це при тому що AMD заявляли що вони наростили продуктивність тензорних блоків у 8 разів, що виглядає дуже дивно. Можливо є ще якісь бар'єри із підтримкою софтом які з часом допилять.
Але в загальному зрозуміло що є стабільна тенденція на міграцію обчислень ШІ з відеокарт на спеціалізовані пристрої. Вона проглядалась вже давно, хід подій тільки все підтверджує.

[Enjthesilence]

Тепер зрозуміла хоч якась логіка у тому що AMD не сильно наростила кількість памяті у відеокартах, вони просто зробили ставку на зв'язку спецблоків проца і звичайної пам'яті. Відеокарті для ігор вистачає а для ШІ є хороша альтернатива.
А от чим думали NVidia, можливо розраховували на те що всі будуть сидіти далі у хмарах де в них зараз монополія на залізо. А по результату получили під дих і тупо за пару місяців після релізу злили користувацький сегмент ШІ в топовому сегменті відях.
В цікаві часи живемо

P/S У мене для вас погані новини що до цін на нові проци AMD

Дуже дивне порівняння, процесора і декстопної ігрової гпу.

[sagifire]

Дуже дивне порівняння, процесора і декстопної ігрової гпу.

Ну це не дивне а нішеве порівняння. Зараз якщо хочеш локально використовувати ШІ то альтернативи за розумну ціну ігровим відеокартам немає.

[Creature4O]

Enjthesilence
сенс порівняння в тому, що багато людей шукають мобільну альтернативу робочій станції/десктопу, або вже працюють на мобільній платформі і хочуть її оновити. АМД як раз і пропонує це. А от порівнювати мобільний проц і робочу станцію на серверних процессорах от це вважаю дивним.

[vmsolver]

Игровые видеокарты не предназначены для больших LLM, у них мало для этого памяти и тестерам изначально это было известно, поэтому статья манипулятивная, откровенно говоря не красиво это.
Также, хотелось бы видеть абсолютную производительность, а не показать, что тут мы сливаем, а тут красавчики, а по факту там условно 3 фпс ))

Тепер зрозуміла хоч якась логіка у тому що AMD не сильно наростила кількість памяті у відеокартах, вони просто зробили ставку на зв'язку спецблоків проца і звичайної пам'яті.

О божечки, вы действительно так думаете? АМД просто делает видеокарты и процессоры. Никаких "ставок" там нет. Во всех процах появился AI-ускоритель, но у АМД оказывается есть какая-то ставка

Відеокарті для ігор вистачає а для ШІ є хороша альтернатива.

В игровых видеокартах матричные ускорители для ускорения нейросетей для игр, это их основная задача, и DLSS, шумодав и тьма новых техник, для которых в обновлённом стандарте DirectX12 предусмотрен новый тип шейдеров - нейронные шейдеры.

А от чим думали NVidia, можливо розраховували на те що всі будуть сидіти далі у хмарах де в них зараз монополія на залізо. А по результату получили під дих і тупо за пару місяців після релізу злили користувацький сегмент ШІ в топовому сегменті відях.
В цікаві часи живемо

О сколько же глупостей могут породить новостные манипуляции ))

P/S У мене для вас погані новини що до цін на нові проци AMD

Зашел в Розетку и вижу 9950X3D за 40к грн, это ещё хорошие новости или будет ещё хуже?

[Vlaad13]

порівняли цеглину і зелений колір - норм че

[sagifire]

vmsolver, Vlaad13
Мені здається ви втратили лінію дискусії

[AntonyKandaurov]

Коротше кажучи 5080 стає смітником коли закінчується її врама. Досить логічно, мабуть новенький райзен також стане смітником коли його рама також закінчиться
Особливо якщо якийсь ноутбучний вендор дбайливо розпаяє в ноутбуці 16 гб рами

[Ostin]

Як людина не в темі, не дуже розумію, чому для потреб локального ШІ не випускають спеціалізований під це продукт, а використовуються якісь милиці в якості відеоадаптера чи мобільного процесора? З інженерної точки зору хіба не простіше всі ті обчислювальні ресурси, які наявні у відеокарті всередині, скомпонувати в акуратну цеглинку, яку потім можна монтувати у відповідну стійку? Там же купа всякого лівого лайна у вигляді тих же драйверів і т.н.
Це вже ж було під час майнінгу, коли обладнання йшло не під цільове використання. Навіщо зараз робити так само? Виробник на дефіциті так сильніше наварюється чи що?

[waryag]

Игровые видеокарты не предназначены для больших LLM, у них мало для этого памяти и тестерам изначально это было известно, поэтому статья манипулятивная, откровенно говоря не красиво это.

Одним из преимуществ "игровых" видеокарт нвидиа уже которое десятилетие является КУДА в рабочих задачах. Уже с 4000й серии непрофильное использование карт стало настолько распространенным, что топовые модели получили экспортные ограничения. А в 5000й серии даже официально проговаривается заточенность под ИИ.

Коротше кажучи 5080 стає смітником коли закінчується її врама. Досить логічно, мабуть новенький райзен також стане смітником коли його рама також закінчиться
Особливо якщо якийсь ноутбучний вендор дбайливо розпаяє в ноутбуці 16 гб рами

Якщо процесор знайде мысце в робочих завданнях, з оперативкою все буде нормально (але не дешево).

[AntonyKandaurov]

Як людина не в темі, не дуже розумію, чому для потреб локального ШІ не випускають спеціалізований під це продукт, а використовуються якісь милиці в якості відеоадаптера чи мобільного процесора? З інженерної точки зору хіба не простіше всі ті обчислювальні ресурси, які наявні у відеокарті всередині, скомпонувати в акуратну цеглинку, яку потім можна монтувати у відповідну стійку? Там же купа всякого лівого лайна у вигляді тих же драйверів і т.н.

Простіше випускати один чіп і більш вдалі та якісні відправляти в ШІ а те що залишилося - злити гей-мерам. Тим паче що топовий GB100 навіть не присутній в лінійці відеокарт, RTX5090 побудована на GB102.

[block_stupid]

Ostin
Спеціалізовані продукти випускають і для ші.
І також карточки окремі для кодингу/декодингу відео.
І відповідні стійки робляться. А в користувацьких продуктах це все є, бо це затребувано.
Вам це не треба, я хочу щоб в мене не проц всираєтсья від декодування відео і дерт 50 ват, а спецальний асік в GPU, який жертиме 2 вата.
І з локальним ші, щоб деякі операції були локально, а не засирало мені мережу, поки я десь катку граю і не всирати не зареєстровані кулі.
Тобто універсалізація продукту.

Навіть в процесорі з часом поз'являлось купа "лівих" інструкцій, у Вас можуть їх 50% не юзатись, а в мене 90% будуть юзатись.
Що робити окремі процесори для мене і Вас? Замість 10 моделей в одному поколінні, будемо мати 100, тут і так з маркетингом клонів плодять під різними назвами.

[AntonyKandaurov]

waryag
По тих цінниках які будуть жадати за ноутбуки із 395+ каменем - мабуть простіше буде купити 5090.

[Ostin]

block_stupid
AntonyKandaurov
Відповіді зрозумів. Але не зрозумів іншого - навіщо відбраковку тестять в тому, куди вона вже не підійшла і є кращі продукти? Це щось типу протестити легковик на можливість потягнути 10-ти тонний причеп. Коли є купа відповідних рішень для цього.

[AntonyKandaurov]

block_stupid
AntonyKandaurov
Відповіді зрозумів. Але не зрозумів іншого - навіщо відбраковку тестять в тому, куди вона вже не підійшла і є кращі продукти? Це щось типу протестити легковик на можливість потягнути 10-ти тонний причеп. Коли є купа відповідних рішень для цього.

Вигідніше умовний GB102 продати як проф картку за умовні десятки тисяч доларів, аніж продати як RTX5090 за умовні 1500 за штучку вендору. Але судячи з того що деколи дуже рідко вилазять картки з меншою кількістю ROP - тестують вони вже також так собі.

[waryag]

По тих цінниках які будуть жадати за ноутбуки із 395+ каменем - мабуть простіше буде купити 5090.

Але у 5090 не буде 96 ГБ. А у проф карт з 96ГБ ціна буде зовсім інша.

[vmsolver]

Одним из преимуществ "игровых" видеокарт нвидиа уже которое десятилетие является КУДА в рабочих задачах. Уже с 4000й серии непрофильное использование карт стало настолько распространенным, что топовые модели получили экспортные ограничения. А в 5000й серии даже официально проговаривается заточенность под ИИ.

Ещё одна манипуляция Инструмент выбирают под задачу, если задача требует 80 ГБ VRAM, а для тестов выбирают видеокарту с 16 ГБ буфером, то это только для того, чтобы показать неграмотность своего выбора, в этом и заключается манипуляция новости, неграмотность выбора железа под задачу представляют как фейл игровой карты Nvidia. При этом не показывая абсолютную производительность своего процессора в этом режиме, потому она выражена относительно неэффективного режима использования решения конкурента. Это тупо не красиво для всех, кто хоть не много понимает что происходит.

Те кто хотят крутить LLM-ку на своём железе собирают риги из нескольких видеокарт, получая хорошую производительность, а не занимаются ерундой с АМД процессорами.

Собственно, мы видим как работают манипулятивные статьи, фанатики ведутся с религиозной фанатичностью

Відправлено через 47 секунд:

Мені здається ви втратили лінію дискусії

Это вы её не поняли.