Пам'ять HBM3E від Samsung досі неспроможна пройти кваліфікаційні тести Nvidia

Обсуждение статей и новостей сайта
Автор
Повідомлення
bes
Member
Звідки: Kryvyi Rih

Повідомлення

Предлагаю обсудить Пам'ять HBM3E від Samsung досі неспроможна пройти кваліфікаційні тести Nvidia
ничего добавят еще видео чип и тогда планку в киловатт на какой то 5090 преодолеют
Sanc
Member

Повідомлення

Бо не треба гнатися за абсолютною продуктивністю і обємом підвищуючи ціну вдвоє за кожні 20% обєму і продуктивності.
Ринок потребує дешевих малообємних чіпів по 8-16Гб\штука, а не по 32-64.

Зроби чіпи по 8Гб за 20$ - і будуть продажі.
vmsolver
Member

Повідомлення

Вы оба как будто новость не читали, причем тут 5090 или дешевые чипы памяти, речь о HPC сегменте, это вообще не про вас, слово "дешево" в этом сегменте не модно.

Удивительно что Samsung не смог в память, что-то странное происходит, одни корейцы смогли (Hynix), а вторые нет, чуднО.
fatality
Junior
Звідки: Київ

Повідомлення

vmsolver: 25.05.2024 14:47 Удивительно что Samsung не смог в память, что-то странное происходит, одни корейцы смогли (Hynix), а вторые нет, чуднО.
Нічого дивного, так буває. На якомусь етапі розвитку технології Hynix вирвався вперед, можливо за деякий час Samsung наздожене, а може й ні.
(С) Це ж було вже. І Samsung не одразу лідером чипів пам'яті став.
Artempo100
Member

Повідомлення

Доведеться йти в гості до amd ) Щось придумають,не нвідіа єдиною
7mindfields
Member
Аватар користувача

Повідомлення

Коротше одна назва він самсунга лишилась в сегменті памʼяті :laugh:
MqM
Member
Аватар користувача
Звідки: Україна

Повідомлення

Sanc: 25.05.2024 14:33 Бо не треба гнатися за абсолютною продуктивністю і обємом підвищуючи ціну вдвоє за кожні 20% обєму і продуктивності.
Ринок потребує дешевих малообємних чіпів по 8-16Гб\штука, а не по 32-64.

Зроби чіпи по 8Гб за 20$ - і будуть продажі.
Ринок потребує різноманіття, але звісно по адекватній ціні. Відеопам'ять потрібна усім хто займається чимось серйозним на пк.
vmsolver
Member

Повідомлення

fatality: 25.05.2024 14:57Нічого дивного, так буває. На якомусь етапі розвитку технології Hynix вирвався вперед, можливо за деякий час Samsung наздожене, а може й ні.
(С) Це ж було вже. І Samsung не одразу лідером чипів пам'яті став.
Звичайно, можливо все, але від Samsung я очікував що він топ в HBM пам'яті, та й новини від Samsung о розробках пам'яті нового покоління утворювали враження, що у них все добре з цим.
7mindfields: 25.05.2024 15:12Коротше одна назва він самсунга лишилась в сегменті памʼяті
Может в GDDR7 он наверстает, но это другой рынок.
MqM: 25.05.2024 15:36Ринок потребує різноманіття, але звісно по адекватній ціні
Якщо розмовляти про ігровий ринок, то він чекає появи 3 ГБ чіпів пам'яті, ніякого іншого різноманіття не потрібно, все різноманіття утворюється зміною ширини шини пам'яті.
Sanc
Member

Повідомлення

MqM: 25.05.2024 15:36
Sanc: 25.05.2024 14:33 Бо не треба гнатися за абсолютною продуктивністю і обємом підвищуючи ціну вдвоє за кожні 20% обєму і продуктивності.
Ринок потребує дешевих малообємних чіпів по 8-16Гб\штука, а не по 32-64.

Зроби чіпи по 8Гб за 20$ - і будуть продажі.
Ринок потребує різноманіття, але звісно по адекватній ціні. Відеопам'ять потрібна усім хто займається чимось серйозним на пк.
Більше того стандарт PCIExpress 5.0 передбачає Своп ОЗП в Відеопамять а не тільки на ССД, що дозволило б використовувати Відеопамять в робочих задачах
І тут би пригодилися НВМ чіпи по 8 і 16Гб по внятній ціні (щоб зробити відеокарти на 16, 32, 64 Гб)
vmsolver
Member

Повідомлення

Sanc: 25.05.2024 19:34Більше того стандарт PCIExpress 5.0 передбачає Своп ОЗП в Відеопамять а не тільки на ССД, що дозволило б використовувати Відеопамять в робочих задачах
І тут би пригодилися НВМ чіпи по 8 і 16Гб по внятній ціні (щоб зробити відеокарти на 16, 32, 64 Гб)
Заканчивайте фантазировать ерунду, никто по PCIe видеопамять к чипу подключать не будет.
Kanjo
Member

Повідомлення

Sanc: 25.05.2024 14:33 Бо не треба гнатися за абсолютною продуктивністю і обємом підвищуючи ціну вдвоє за кожні 20% обєму і продуктивності.
Ринок потребує дешевих малообємних чіпів по 8-16Гб\штука, а не по 32-64.

Зроби чіпи по 8Гб за 20$ - і будуть продажі.
Там погоня за баблом :rotate:
ronemun
Advanced Member

Повідомлення

очевидно, проблема не в загальному споживанні, хоч 8 чіпів HBM на 192 ГБайт теж немало жруть. Але чіп прискорювача все одно недосяжний :lol:
Видно все таки нагрів упаковки на 8 чи 12 кристалів зашкалює, а це шкодить надійності - ремонт HBM неможливий через високий ризик змарнувати весь прискорювач
З другої сторони самі комірки памяті навряд чи стільки споживають, напевно в самсунга обслуговуюча логіка і втрати на передачі даних високі
waryag
Member
Аватар користувача
Звідки: Суми

Повідомлення

Sanc: 25.05.2024 14:33Бо не треба гнатися за абсолютною продуктивністю і обємом підвищуючи ціну вдвоє за кожні 20% обєму і продуктивності.
Ринок потребує дешевих малообємних чіпів по 8-16Гб\штука, а не по 32-64.
Не видавайте свої забаганки за потреби ринку. Якщо ринок щось потребує - він готовий за це платити.
Високопродуктивні прискорювачі для дата-центрів/ШІ, на які стоїть черга покупців навіть за неадекватним прайсом, а виробники готові на все, щоб примазатися до фінансових потоків - чудовий приклад.
Sanc: 25.05.2024 14:33 Зроби чіпи по 8Гб за 20$ - і будуть продажі.
Навіщо інвестувати в лінію, щоб продавати дешевші чіпи, якщо можна продавати дорожчі чіпи з існуючих ліній? :spy:

Відправлено через 1 хвилину 25 секунд:
bes: 25.05.2024 14:06 ничего добавят еще видео чип и тогда планку в киловатт на какой то 5090 преодолеют
Рішення, що використовують НВМ3е, дивляться на 5090 як на дешеву енергоефективну затичку.
Sanc
Member

Повідомлення

waryag: 26.05.2024 09:23
Sanc: 25.05.2024 14:33Бо не треба гнатися за абсолютною продуктивністю і обємом підвищуючи ціну вдвоє за кожні 20% обєму і продуктивності.
Ринок потребує дешевих малообємних чіпів по 8-16Гб\штука, а не по 32-64.
Не видавайте свої забаганки за потреби ринку. Якщо ринок щось потребує - він готовий за це платити.
Високопродуктивні прискорювачі для дата-центрів/ШІ, на які стоїть черга покупців навіть за неадекватним прайсом, а виробники готові на все, щоб примазатися до фінансових потоків - чудовий приклад.
Sanc: 25.05.2024 14:33 Зроби чіпи по 8Гб за 20$ - і будуть продажі.
Навіщо інвестувати в лінію, щоб продавати дешевші чіпи, якщо можна продавати дорожчі чіпи з існуючих ліній? :spy:

Відправлено через 1 хвилину 25 секунд:
bes: 25.05.2024 14:06 ничего добавят еще видео чип и тогда планку в киловатт на какой то 5090 преодолеют
Рішення, що використовують НВМ3е, дивляться на 5090 як на дешеву енергоефективну затичку.
І розмір ринку НВМ3 проти ринку GDDR?
Вигідно дерти обидва ринки одночасно

Відправлено через 1 хвилину 41 секунду:
vmsolver: 25.05.2024 19:40
Sanc: 25.05.2024 19:34Більше того стандарт PCIExpress 5.0 передбачає Своп ОЗП в Відеопамять а не тільки на ССД, що дозволило б використовувати Відеопамять в робочих задачах
І тут би пригодилися НВМ чіпи по 8 і 16Гб по внятній ціні (щоб зробити відеокарти на 16, 32, 64 Гб)
Заканчивайте фантазировать ерунду, никто по PCIe видеопамять к чипу подключать не будет.
І тому ця функція додана як базова в стандарт PCIExpress 5.0 з функцією об'єднання памяті
vmsolver
Member

Повідомлення

Sanc: 26.05.2024 21:51І тому ця функція додана як базова в стандарт PCIExpress 5.0 з функцією об'єднання памяті
Какую функцию, передавать данные по шине данных?
ronemun
Advanced Member

Повідомлення

Sanc: 25.05.2024 19:34
MqM: 25.05.2024 15:36

Ринок потребує різноманіття, але звісно по адекватній ціні. Відеопам'ять потрібна усім хто займається чимось серйозним на пк.
Більше того стандарт PCIExpress 5.0 передбачає Своп ОЗП в Відеопамять а не тільки на ССД, що дозволило б використовувати Відеопамять в робочих задачах
І тут би пригодилися НВМ чіпи по 8 і 16Гб по внятній ціні (щоб зробити відеокарти на 16, 32, 64 Гб)
в компах логіка працює навпаки - швидший, але дорогий, контролер свопить тимчасові дані з дорогої памяті (HBM) в повільнішу і дешевшу память, тобто в память проца.
Ніхто не буде кешувати дані з дешевої і суперобємної оперативи проца в дорожезну і обмежену в обємі память відяхи чи прискорювача.
Те що ви пишете про спільну память через PCIe призначено для прямого доступу, спільну адресацію, щоб напряму писати з проца в прискорювач і навпаки, а ТАКОЖ між самими прискорювачами без участі проца. Це , особливо вигідно коли багато прискорювачів в одному сервері, як зараз. Проци там лише обслуговуючі функції виконують, в т.ч. звязок і кеш в оперативі.
Єдиний випадок який підходить під ваш опис це т.зв. зовнішні контролери оперативи, які вже масово випускаються, і використовуються як кеш 4го рівня - в них затримки в 200+ нс. Це дозволяє використовувати дешеві планки 64 Гбайт замість супердорогих 128/256+ і дуже гнучко використовувати оперативу взагалі. Але для відеокарт/прискорювачів AI вони ніщо - занадто повільні. 1 чіп HBM3 памяті має швидкість 1 Тбайт/с, а в прискорювачі Nvidia таких 6, в АМД - 8. Тоді як PCIe v5 має всього 32 Гбіт/с=4Гбайт/с на 1 лінію, тож для 6-8 ТераБайт/с тре всього 1500-2000 ліній :lol: Сам конторлер PCie v5 на стільки ліній займе більше місця ніж декілька прискорювачів :lol: І з сторони оперативи теж стільки тре, і без жодної користі - просто дані ганяти :laugh:
p.s. АМД приєднує HBM память через зовнішні контролери з кешом в Радеонах 7800-7900, через IF-лінк v3 - той же інтерейс що в HBM, але на частоті 9,6 ГТ/с, всього 850 ГБайт/с на чіп, з затримкою 20 нс. В прискорювачі MI300 гігантський окремий кристал - хаб + кеш + 8 контролерів HBM, а вже на той кристал зверху, як кеш 3д в райзенах, лежать 8 чіплетів-прискорювачів + чіпсет з PCIe і IF. Нвідія взагалі давно все зєднує через NVLink на швидкості 110 Гбіт/с на лінію в 1 сторону, що в 3.5 рази швидше за PCIe v5
waryag
Member
Аватар користувача
Звідки: Суми

Повідомлення

Sanc: 26.05.2024 21:51І розмір ринку НВМ3 проти ринку GDDR?
Вигідно дерти обидва ринки одночасно
Конкретно по пам'яті даних немає, але можна прикинути, що він вже співставний або більше, ще й зі значним потенціалом зростання і меншою конкуренцією.
А з gddr вони і так мають прибуток. І будуть заробляти далі, з наступного покоління, а не здешевлення актуального.
Sanc
Member

Повідомлення

vmsolver: 26.05.2024 23:07
Sanc: 26.05.2024 21:51І тому ця функція додана як базова в стандарт PCIExpress 5.0 з функцією об'єднання памяті
Какую функцию, передавать данные по шине данных?
Хардверний своп ОЗП в Відеопамять в PCIExpress5.0.
Якщо раніше відеокарта могла свопить свою відопамять в ОЗП, то тепер ОЗП може свопиться в відеопамять.
От у тебе наприклад 32ГБ ОЗП і 16ГБ Відеокарта, при заповненні програмою ОЗП на 45Гб буде заповнено ОЗП на 32Гб і 13ГБ відеопамяті на рівні заліза (навіть не ОС)

Відповідно з 5 ПСІ буде можливість взагалі відмовитися від слотів ОЗП і розмістити 32Гб LPDDR5T 9000с40 на проці за 55 баксів, що в 2 дешевше за DIMM слоти і тоді материнки можна буде робити 6шарові для PCI5 i 8шарові для PCI6.
Для ігрового, офісного, робочого, медіа ПК більше 32Гб непотрібно і ще років 5 потрібно не буде (тоді вже буде рости з новими процами)
Більше 32Гб потрібно лише для робочих станцій (раніше це було HEDT), яких 1 на 10000 проданих\зібраних ПК максимум.

Тоді можна було б зробити розділення: H i B чіпсет з 6шарами та I3-I7К зробити під звичайний ПК без слотів ОЗП з 32Гб LPDDR на проці, а Z-чіпсет з 12 шарами і І7Х - І9Х зробити як HEDT з 2 слотами CAMM2 (4 канали сумарно) та без LPDDR, і в серваки теж CAMM2.

Тоді всі будуть довольні: для звичайних задач ОЗП + Свопа у ВК буде вистачати з головою, а Рендерщикам і іншим користувачам робочих станцій - буде своя 4 канальна CAMM2 на 128 Гб 8000С40 нативно (зараз через недостачу шарів і застарілість DIMM доступно 6000с42 максимум на 10 шарових платах)
vmsolver
Member

Повідомлення

Sanc: 27.05.2024 10:42 Хардверний своп ОЗП в Відеопамять в PCIExpress5.0.
Якщо раніше відеокарта могла свопить свою відопамять в ОЗП, то тепер ОЗП може свопиться в відеопамять.
От у тебе наприклад 32ГБ ОЗП і 16ГБ Відеокарта, при заповненні програмою ОЗП на 45Гб буде заповнено ОЗП на 32Гб і 13ГБ відеопамяті на рівні заліза (навіть не ОС)

Відповідно з 5 ПСІ буде можливість взагалі відмовитися від слотів ОЗП і розмістити 32Гб LPDDR5T 9000с40 на проці за 55 баксів, що в 2 дешевше за DIMM слоти і тоді материнки можна буде робити 6шарові для PCI5 i 8шарові для PCI6.
Для ігрового, офісного, робочого, медіа ПК більше 32Гб непотрібно і ще років 5 потрібно не буде (тоді вже буде рости з новими процами)
Більше 32Гб потрібно лише для робочих станцій (раніше це було HEDT), яких 1 на 10000 проданих\зібраних ПК максимум.

Тоді можна було б зробити розділення: H i B чіпсет з 6шарами та I3-I7К зробити під звичайний ПК без слотів ОЗП з 32Гб LPDDR на проці, а Z-чіпсет з 12 шарами і І7Х - І9Х зробити як HEDT з 2 слотами CAMM2 (4 канали сумарно) та без LPDDR, і в серваки теж CAMM2.

Тоді всі будуть довольні: для звичайних задач ОЗП + Свопа у ВК буде вистачати з головою, а Рендерщикам і іншим користувачам робочих станцій - буде своя 4 канальна CAMM2 на 128 Гб 8000С40 нативно (зараз через недостачу шарів і застарілість DIMM доступно 6000с42 максимум на 10 шарових платах)
Вся эта ваша писанина к реальности не имеет никакого отношения, изучайте матчасть.
Перед тем как выдумывать, надо привести ссылку на фичи в спецификации на которые вы ссылаетесь или там где прочитали, тогда хоть как-то будет очерчен круг фич, о которых вы будете вести речь, а так одни абстрактные фантазии основанные только на хотелках.
Sanc
Member

Повідомлення

vmsolver: 27.05.2024 12:26
Sanc: 27.05.2024 10:42 Хардверний своп ОЗП в Відеопамять в PCIExpress5.0.
Якщо раніше відеокарта могла свопить свою відопамять в ОЗП, то тепер ОЗП може свопиться в відеопамять.
От у тебе наприклад 32ГБ ОЗП і 16ГБ Відеокарта, при заповненні програмою ОЗП на 45Гб буде заповнено ОЗП на 32Гб і 13ГБ відеопамяті на рівні заліза (навіть не ОС)

Відповідно з 5 ПСІ буде можливість взагалі відмовитися від слотів ОЗП і розмістити 32Гб LPDDR5T 9000с40 на проці за 55 баксів, що в 2 дешевше за DIMM слоти і тоді материнки можна буде робити 6шарові для PCI5 i 8шарові для PCI6.
Для ігрового, офісного, робочого, медіа ПК більше 32Гб непотрібно і ще років 5 потрібно не буде (тоді вже буде рости з новими процами)
Більше 32Гб потрібно лише для робочих станцій (раніше це було HEDT), яких 1 на 10000 проданих\зібраних ПК максимум.

Тоді можна було б зробити розділення: H i B чіпсет з 6шарами та I3-I7К зробити під звичайний ПК без слотів ОЗП з 32Гб LPDDR на проці, а Z-чіпсет з 12 шарами і І7Х - І9Х зробити як HEDT з 2 слотами CAMM2 (4 канали сумарно) та без LPDDR, і в серваки теж CAMM2.

Тоді всі будуть довольні: для звичайних задач ОЗП + Свопа у ВК буде вистачати з головою, а Рендерщикам і іншим користувачам робочих станцій - буде своя 4 канальна CAMM2 на 128 Гб 8000С40 нативно (зараз через недостачу шарів і застарілість DIMM доступно 6000с42 максимум на 10 шарових платах)
Вся эта ваша писанина к реальности не имеет никакого отношения, изучайте матчасть.
Перед тем как выдумывать, надо привести ссылку на фичи в спецификации на которые вы ссылаетесь или там где прочитали, тогда хоть как-то будет очерчен круг фич, о которых вы будете вести речь, а так одни абстрактные фантазии основанные только на хотелках.
Коли введуть цю функцію - побачите що воно таке.
Ну от почитайте специфікацію, вона в Інеті є, я не памятаю де з вагона сторінок те описано.
ПСІ 5 передбачає 2 функції важливі для мене: хардверний своп ОЗП в Відеопамять і навпаки, а також підтримка рівні ОС обєднання ОЗП+Відео в єдину память.

Те що ви не розумієте, що корінь проблеми зараз з ОЗП в фізичних явищах (опір і шуми), що потребує нарощувати кількість шарів до 8 щоб брати 8000с40 в нативі при 32Гб і 12 шарів для 128Гб 8000с40, а далі для ДДР6 32Гб 10000с50 буде 10 шарів і 14-16 шарів для 128Гб.

По суті кожні 4 шари - це ще одна МП фактично і по ціні і по суті (перехід від ДДР4 до ДДР5 це +60..+100 баксів мінімум до кожної МП). Мене не пре ріст ціни аж ніяк.

При тому що 32Гб для домашнього користування (а не як сервер\робоча станція) вище голови, особливо з свопом в Відео при потребі (а ще є своп в ССД на рівні ОС).
І саме LPDDR на проці (як у Епла і Інтел Метеорлейк) за ціною в 55баксів за 32ГБ LPDDR5X 8200c42 дозволяє і зекономити і отримати максимальний буст продуктивності і оптимізувати м-ІТХ плати (де висота ОЗП обмежує кулер).
А робочі станції потрібно виперти назад в HEDT і для Server\HEDT ввести CAMM2 память в 4 канали (1 модуль 2 канальний, 2 двоканальні) так якраз ціна відповідна по 175 баксів за 32Гб 8000с46 і 400 за 128Гб
Відповісти