AMD випускає ШІ-прискорювач Instinct MI350P у форматі карти розширення PCIe 5.0 x16

[max1996]

Предлагаю обсудить AMD випускає ШІ-прискорювач Instinct MI350P у форматі карти розширення PCIe 5.0 x16

Через три роки в продажі на всіх закордонних інтернет платформах

[Afit]

Ну если даже AMD уже в сервера 12VHPWR не побоялись сделать, тем более с максимальным потреблением для него, то у них либо яйца стальные, либо так уверены в нём

[Ostin]

не побоялись сделать

Зараз ніхто нічого не боїться) Бо відповідальності як такої немає) А то що? Перестануть купувати?

[waryag]

Ну если даже AMD уже в сервера 12VHPWR не побоялись сделать, тем более с максимальным потреблением для него, то у них либо яйца стальные, либо так уверены в нём

Тут не будет типичных десктопных проблем с переходниками, узкими корпусами и т.п., а бешеный продув стоек дополнительно охладит конектор.

А если все равно повалят проблемы - ТАКУЮ АМД не жалко

[hohlid19]

Afit
Не дай боже они это засунут в некст потребительское поколение

[ronemun]

в 2 рази потужніший MI355x на 1400 Вт у вигляді модуля OAM має розмір всього 102х165 мм, і крім 16 ліній убого PCIe v5 ще є 7 лінків IF по 155 ГБайт/с (1200 Гбіт/с) кожен. І це без жодної необхідності кабелів - все йде з плати.
Це щодо ефективності формфактора PCIe х16 - тут тільки сам порт має 100мм, а ще тре кабелі 12В живлення, яке навіть на 600 Вт займає всю величезну плату. Уявіть скільки місця тре на 1400 Вт.
Про надійність і зручність кріплення промовчу.

[KingofgamE]

в 2 рази потужніший MI355x на 1400 Вт у вигляді модуля OAM має розмір всього 102х165 мм, і крім 16 ліній убого PCIe v5 ще є 7 лінків IF по 155 ГБайт/с (1200 Гбіт/с) кожен. І це без жодної необхідності кабелів - все йде з плати.
Це щодо ефективності формфактора PCIe х16 - тут тільки сам порт має 100мм, а ще тре кабелі 12В живлення, яке навіть на 600 Вт займає всю величезну плату. Уявіть скільки місця тре на 1400 Вт.
Про надійність і зручність кріплення промовчу.

Новий вид асіків

[vltk]

Согласно TeчПоверАп (не проверял), это самый быстрый на сегодня ускоритель/видеоадаптер/асик на базе pci-e 5 (включая и нвидию). Если нужен заточенный под свои задачи и адаптируемый ИИ агент, любая большая модель (даже не дестилированная) на вывод, это сейчас на базе х64 РС самое интересное решение и главное, впервые с вроде с вылизанным для Про софтом под установку любой ллс модели. Очень бы хотелось повозиться с подобным решением, но цена будет карты ~ 15000$. Поэтому решение на NPU + видео встройка в новых процах этого года - 495+, с поддержкой 192 ГБ быстрой ддр5 памяти сможет делать тоже самое, но очень очень медленее. И если цены на потребительскую память упадут, это будет стоить (весь комп) ~ 4000-5000$