З'явилися детальні фотографії AMD Instinct MI325X

[bes]

Предлагаю обсудить З'явилися детальні фотографії AMD Instinct MI325X
Понятно только что хуанг в два раза меньше памяти чем у конкурентов - впаривает и в корпоративном сегменте

[jumanji]

А нам ddr7 ddr6

[waryag]

А нам ddr7 ddr6

Бо в десктопі не готові платити десятки тисяч доларів.

[leif]

А чому обсяг пам'яті порівнюється з hopper h200, а трохи нижче продуктивність вже з h100?

[1nsane]

Осталось допилить ROCm и будет норм. Имхо отсутствие норм поддержки tensorflow капитально снижает востребованность такой железки.
У самого девайсы АМД, я вручную компилировал ROCm и tensorflow под него - репы заброшены разрабом, версии питона и tf капитально устаревшие... Я уже молчу про старую версию ROCm, где у них была очепятка в детекции девайса и вся линейка RDNA2 не проходила чек совместимости.

Лиза заявила, что АМД теперь разраб софта, а не девайсов - пока с трудом верится.

[jiganhir]

https://ibb.co/sRh38qT така дорога вундерфавля але на нижній лівій збірці, резістор ну дуже криво запаян))

[Ghody]

Я бы такой разъём на материнку хотел - максимально крепкий и м2 с обратной стороны такая бы подставка под монитор заработала с водой - можно и цельным водоблоком на проц, врм, камм2 память и видюху

[Ray2000gt]

Я бы такой разъём на материнку хотел - максимально крепкий и м2 с обратной стороны такая бы подставка под монитор заработала с водой - можно и цельным водоблоком на проц, врм, камм2 память и видюху

Всі хочуть. Воно вже давно проситься.

[Джон_Иваныч]

А чому обсяг пам'яті порівнюється з hopper h200, а трохи нижче продуктивність вже з h100?

З Н200 порівнюється обсяг пам'яті нової моделі - Instinct MI325X. А з Н100 порівнюється продуктивність Instinct MI300Х, тобто минуле покоління і вона не нижча, а "генерує стільки ж токенів".

[waryag]

А з Н100 порівнюється продуктивність Instinct MI300Х, тобто минуле покоління і вона не нижча, а "генерує стільки ж токенів".

Nvidia H100 80GB генерує стільки ж токенів, скільки й вісім AMD Instinct MI300X 192GB

[Creature4O]

https://ibb.co/sRh38qT така дорога вундерфавля але на нижній лівій збірці, резістор ну дуже криво запаян))

то конденсатор в smd корпусі

Added in 1 minute 56 seconds:

А з Н100 порівнюється продуктивність Instinct MI300Х, тобто минуле покоління і вона не нижча, а "генерує стільки ж токенів".

Nvidia H100 80GB генерує стільки ж токенів, скільки й вісім AMD Instinct MI300X 192GB

У бенчмарку MLPerf 4.1 на моделі Llama 2 70B система з вісьмома Nvidia H100 80GB генерує стільки ж токенів, скільки й вісім AMD Instinct MI300X 192GB.