З'явилися детальні фотографії AMD Instinct MI325X

[bes]

Предлагаю обсудить З'явилися детальні фотографії AMD Instinct MI325X
Понятно только что хуанг в два раза меньше памяти чем у конкурентов - впаривает и в корпоративном сегменте

[jumanji]

А нам ddr7 ddr6

[waryag]

А нам ddr7 ddr6

Бо в десктопі не готові платити десятки тисяч доларів.

[leif]

А чому обсяг пам'яті порівнюється з hopper h200, а трохи нижче продуктивність вже з h100?

[1nsane]

Осталось допилить ROCm и будет норм. Имхо отсутствие норм поддержки tensorflow капитально снижает востребованность такой железки.
У самого девайсы АМД, я вручную компилировал ROCm и tensorflow под него - репы заброшены разрабом, версии питона и tf капитально устаревшие... Я уже молчу про старую версию ROCm, где у них была очепятка в детекции девайса и вся линейка RDNA2 не проходила чек совместимости.

Лиза заявила, что АМД теперь разраб софта, а не девайсов - пока с трудом верится.

[jiganhir]

https://ibb.co/sRh38qT така дорога вундерфавля але на нижній лівій збірці, резістор ну дуже криво запаян))

[Ghody]

Я бы такой разъём на материнку хотел - максимально крепкий и м2 с обратной стороны такая бы подставка под монитор заработала с водой - можно и цельным водоблоком на проц, врм, камм2 память и видюху

[Ray2000gt]

Я бы такой разъём на материнку хотел - максимально крепкий и м2 с обратной стороны такая бы подставка под монитор заработала с водой - можно и цельным водоблоком на проц, врм, камм2 память и видюху

Всі хочуть. Воно вже давно проситься.

[Джон_Иваныч]

А чому обсяг пам'яті порівнюється з hopper h200, а трохи нижче продуктивність вже з h100?

З Н200 порівнюється обсяг пам'яті нової моделі - Instinct MI325X. А з Н100 порівнюється продуктивність Instinct MI300Х, тобто минуле покоління і вона не нижча, а "генерує стільки ж токенів".

[waryag]

А з Н100 порівнюється продуктивність Instinct MI300Х, тобто минуле покоління і вона не нижча, а "генерує стільки ж токенів".

Nvidia H100 80GB генерує стільки ж токенів, скільки й вісім AMD Instinct MI300X 192GB

[Creature4O]

https://ibb.co/sRh38qT така дорога вундерфавля але на нижній лівій збірці, резістор ну дуже криво запаян))

то конденсатор в smd корпусі

Added in 1 minute 56 seconds:

А з Н100 порівнюється продуктивність Instinct MI300Х, тобто минуле покоління і вона не нижча, а "генерує стільки ж токенів".

Nvidia H100 80GB генерує стільки ж токенів, скільки й вісім AMD Instinct MI300X 192GB

У бенчмарку MLPerf 4.1 на моделі Llama 2 70B система з вісьмома Nvidia H100 80GB генерує стільки ж токенів, скільки й вісім AMD Instinct MI300X 192GB.

[Джон_Иваныч]

А з Н100 порівнюється продуктивність Instinct MI300Х, тобто минуле покоління і вона не нижча, а "генерує стільки ж токенів".

Nvidia H100 80GB генерує стільки ж токенів, скільки й вісім AMD Instinct MI300X 192GB

"система з ВІСЬМОМА Nvidia H100 80GB генерує стільки ж токенів, скільки й ВІСІМ AMD Instinct MI300X 192GB" тут наголос йде лише на різницю у об'ємі пам'яті

[Guest003]

Я бы такой разъём на материнку хотел - максимально крепкий и м2 с обратной стороны такая бы подставка под монитор заработала с водой - можно и цельным водоблоком на проц, врм, камм2 память и видюху

Всі хочуть. Воно вже давно проситься.

А що це за інтерфейс? Намагався фото материнок з ним знайти в гуглі але не знайшов) Навіть чатжпт сказав що такі фото знайти складно)

[Ray2000gt]

А що це за інтерфейс? Намагався фото материнок з ним знайти в гуглі але не знайшов) Навіть чатжпт сказав що такі фото знайти складно)

Ось, продається материнка недорого https://www.ebay.com/itm/196550154846
Так виглядає з кулерами

спойлер

В AMD це зветься OAM (Open Accelerator Module). Виглядає так само.

[oleg5d75]

А що це за інтерфейс? Намагався фото материнок з ним знайти в гуглі але не знайшов) Навіть чатжпт сказав що такі фото знайти складно)

Ось, продається материнка https://www.ebay.com/itm/196550154846
Так виглядає з кулерами

спойлер

В AMD це зветься OAM (Open Accelerator Module). Виглядає так само.

Потрібно брати, на балконі поставлю щоб завивання кулерів спати не заважало

[Ray2000gt]

Ось, продається материнка https://www.ebay.com/itm/196550154846
Так виглядає з кулерами

спойлер

В AMD це зветься OAM (Open Accelerator Module). Виглядає так само.

Потрібно брати, на балконі поставлю щоб завивання кулерів спати не заважало

Це серверна платформа, зрозуміло, що воно не для дому в такому виконанні.
Але суть від цього не міняється. Ніщо не заважає використовувати на таких домашніх модулях СО, подібне до процесрної. Це даєе змогу оптимізувати охолодження. Умовно дві башти поряд з продувом знизу-вверх. Не виламується слот PCI-E, не висить текстоліт відеокарти, немає зайвих дротів додаткового живлення.

[Ghody]

Потрібно брати, на балконі поставлю щоб завивання кулерів спати не заважало

Це серверна платформа, зрозуміло, що воно не для дому в такому виконанні.
Але суть від цього не міняється. Ніщо не заважає використовувати на таких домашніх модулях СО, подібне до процесрної. Це даєе змогу оптимізувати охолодження. Умовно дві башти поряд з продувом знизу-вверх. Не виламується слот PCI-E, не висить текстоліт відеокарти, немає зайвих дротів додаткового живлення.

давно пора отмизировать 30 летний атх сегмент. паралельная видюха, параллельная память, м2 для хранения и всякие звуковухи и карты захвата или даже 10гигабит эзернет или оптика по разъёму как на главной плате 5090 и весь сверхмощный комп можно впихнуть в тихейший 2U под монитором - всё железо под водой сбоку или за моником, основные цепи продувают тихие 80мм на минималках, а радиатор большой с вентилями на всю доступную толщину

[l-m]

Ось, продається материнка https://www.ebay.com/itm/196550154846
Так виглядає з кулерами

спойлер

В AMD це зветься OAM (Open Accelerator Module). Виглядає так само.

Потрібно брати, на балконі поставлю щоб завивання кулерів спати не заважало

Насправді зараз на більшості серверів з такими прискорювачами ставлять воду, тож можна й без завивання.

приклад з H100 SXM5 по 700 Вт та парою Епіків, але з Instinct все так само:

[Ghody]

Це серверна платформа, зрозуміло, що воно не для дому в такому виконанні.
Але суть від цього не міняється. Ніщо не заважає використовувати на таких домашніх модулях СО, подібне до процесрної. Це даєе змогу оптимізувати охолодження. Умовно дві башти поряд з продувом знизу-вверх. Не виламується слот PCI-E, не висить текстоліт відеокарти, немає зайвих дротів додаткового живлення.

давно пора отмизировать 30 летний атх сегмент. паралельная видюха, параллельная память, м2 для хранения и всякие звуковухи и карты захвата или даже 10гигабит эзернет или оптика по разъёму как на главной плате 5090 и весь сверхмощный комп можно впихнуть в тихейший 2U под монитором - всё железо под водой сбоку или за моником, основные цепи продувают тихие 80мм на минималках, а радиатор большой с вентилями на всю доступную толщину

визуализировал своё видение современного пка. в м2 слоты можно втыкать всё и у него дожно быть io на заднюю крышку - карты захвата, внешние ии, звуковухи, роботы хоть что
на перед по-моему оптимальный размер чтобы вентили 80мм на низких оборотах втыкались

[EvhenS]

Так і запишемо "чайні блюдця зі 100500 CU ви робити вмієте, але геймерам ви це не продасте".
waryag
Вега-56 з 8гб самої першої, самої нової самої дорогої, бо не робилася раніше, HBM продавалася по 400$ MSRP і жодна зараза не збанкрутувала.