Micron налагодила серійний випуск пам'яті HBM3E із пропускною здатністю 1,2 ТБ/с

[Kanjo]

Предлагаю обсудить Micron налагодила серійний випуск пам'яті HBM3E із пропускною здатністю 1,2 ТБ/с

К примеру у той же 4090,такая же пропускная способность

[Ghody]

Не пойму - в h200 141 гиг или 5.87 чипов. Куда память от остальной 0.13 чипа дели?

[Yalg]

К примеру у той же 4090,такая же пропускная способность

Не надейся, ни псп ни объем памяти не будут наращивать без крайней меры, глянь на 6гб кастрата с 96-бит шиной в лице НОВОЙ, вышедшей в этом месяце 3050.
Ибо большой объем памяти и годная псп полезны в бизнесе, а значит мешают продажам проф. продуктов.

[vmsolver]

К примеру у той же 4090,такая же пропускная способность

Не имеет смысла сравнивать, это продукты для разных отраслей.

Не пойму - в h200 141 гиг или 5.87 чипов. Куда память от остальной 0.13 чипа дели?

Вероятнее 3 ГБ из полных 144 ГБ зарезервировали для служебных целей.

[Ray2000gt]

Предлагаю обсудить Micron налагодила серійний випуск пам'яті HBM3E із пропускною здатністю 1,2 ТБ/с

К примеру у той же 4090,такая же пропускная способность

У 4090 скільки чипів розпаяно? Отож.
А тут на один чіп, яких зараз розміщають по 6 шт на підложці, а може і по 8 шт, лінь гуглити.

Отправлено спустя 29 секунд:

Не пойму - в h200 141 гиг или 5.87 чипов. Куда память от остальной 0.13 чипа дели?

ECC?

[Ghody]

ECC?

я думал, что оно уже заранее в памяти заложено и указан полный объём, но может и так. или зарезервировано на случай битых блоков чтобы меньше было брака?

[l-m]

Предлагаю обсудить Micron налагодила серійний випуск пам'яті HBM3E із пропускною здатністю 1,2 ТБ/с

К примеру у той же 4090,такая же пропускная способность

Ні, у 4090 в стоці 0,985 ТБ/с.

Те що одним чіпом можна отримати 24 ГБ з такою швидкістю вражає.
Не знаю навіщо, а було б круто щоб хтось випустив компактну дескотопну карту з ним

[LordTornado]

Современные чипы и сами по себе горячие и отводить от них тепло сложно. Главный недостаток памяти HBM - она часто перегревается и через какое-то время выходит из строя. А заменить её можно только вместе с чипом GPU... Веги почти все померли на сегодняшний день...

[ronemun]

Не пойму - в h200 141 гиг или 5.87 чипов. Куда память от остальной 0.13 чипа дели?

ECC буває різне. Наприклад у шині PCIe корекція помилок вшита прямо у протокол, тобто надлишок інформації, так само як у протокол TCP.
до v3 використовували 1 біт дадаткових даних для корекції на кожних 8 біт корисних даних, тобто 1/8. А починаючи з 3ї версії всього 2 біт на 128 біт - 2/128=1/64 - дуже суттєва економія, в 8 раз
Так само і тут - на 144 ГБайт даних всього 144/64 для корекції, тобто залишається 141+ для корисних даних.

Відправлено через 4 хвилини 58 секунд:
LordTornado
Перегрів давно в минулому - Нвідія не настільки тупа, видно по ціні в 2+ трильйони.
Основна проблема, як це не дивно, в монтуванні радіаторів на суперскладну поверхню прискорювача - кажуть в серйозних ресурсах, яким Нвідія довіряє свої прискорювачі для тестів ще перед випуском, що вона також присилає спеціальну супервикрутку для точного прикручування радіатора. Її ціна сама по собі до 500 доларів. Без неї кожен другий прискорювач виходить з ладу через мікронерівності кріплення радіатора
Можете самі прочитати на ресурсах типу nextplatform
AMD Mi300, які щойно вийшли, взагалі зашкалюють по складності - в них замість 1го чіпа прискорювача аж 8, які накладені на 4 величезних хаба+кеш, які ще накладені на 1ну супервелику матрицю з конролерами памяті HBM і вже до неї йдуть 8 чіпів HBM на 192 ГБайт (8х24)

[vmsolver]

ECC буває різне. Наприклад у шині PCIe корекція помилок вшита прямо у протокол, тобто надлишок інформації, так само як у протокол TCP.
до v3 використовували 1 біт дадаткових даних для корекції на кожних 8 біт корисних даних, тобто 1/8. А починаючи з 3ї версії всього 2 біт на 128 біт

Это не коррекция ошибок это баланс по постоянному току и ещё синхронизация сигналов, ЕСС это совсем другое, и вообще такое кодирование нужно для:

64b/66b's design goals are clock recovery, stream alignment, DC balance, transition density and run length. 8b/10b encoding guarantees strict bounds on DC balance, transition density and run length, whereas 64b/66b provides statistical bounds on these properties

Так само і тут - на 144 ГБайт даних всього 144/64 для корекції

Как я уже выше сказал, просто 3 ГБ зарезервировали для каких целей, например кеш или таги памяти других GPU в общей сети, которых у Нвидиа уже 256 штук как единая система (H200) работают, вот скорее всего для этого (или похожего, служебного).

спеціальну супервикрутку для точного прикручування радіатора

Это с динамометром которая? ))

Главный недостаток памяти HBM - она часто перегревается и через какое-то время выходит из строя.

Тем не менее, количество слоёв в HBM со временем растёт, а значит с этим "главным" недостатком научились жить, при этом пользуясь огромными преимуществами этого типа памяти, при этом никто не собирается останавливаться, память будет развиваться и дальше. Выходит, "главный" недостаток не такой уже и главный.