Samsung першою починає постачанння високошвидкісної пам’яті HBM4 для ШІ

[LetterBee]

Предлагаю обсудить Samsung першою починає постачанння високошвидкісної пам’яті HBM4 для ШІ

Вот бы оно уже сдулось к тому моменту когда они смогут поставлять память, будет феерично.

[Alexx-wisa]

Впровадження передових енергоощадних технологій дало змогу знизити показники енергоефективності на 40% і поліпшити розсіювання тепла на 30%.

[AlcoRider]

Вот бы оно уже сдулось к тому моменту когда они смогут поставлять память, будет феерично.

Чтоб ты больше в игрульки играл?
Было б феерично, если бы ты передумал к тому моменту хотеть играть

[mavrsmart]

Предлагаю обсудить Samsung першою починає постачанння високошвидкісної пам’яті HBM4 для ШІ

Вот бы оно уже сдулось к тому моменту когда они смогут поставлять память, будет феерично.

Це буде. І вже було.

Після буму 1993–1995 років, викликаного виходом Windows 95, виробники (особливо японські та корейські) переоцінили попит і масово інвестували в нові фабрики. У 1996 році ринок перенаситився, що призвело до падіння цін на пам'ять на 70-80% лише за один рік.

Хто постраждав найбільше?
Японські виробники: Це був початок кінця панування Японії. Компанії як Fujitsu та Mitsubishi почали нести мільярдні збитки, що зрештою призвело до створення об'єднаної компанії Elpida Memory (яка теж згодом збанкрутувала).

Американські гіганти: Навіть піонери галузі не витримали. Texas Instruments продала свій бізнес пам'яті компанії Micron у 1998 році, а IBM почала вихід з ринку DRAM у 1999-му.

Чекаємо

[ronemun]

ШІ навпаки скоро сильно знизить необхідність в оперативі. ЦЕ видно по текстурах, ШІ маштабуванню і нових системах зтиснеснення.
Головне щоб йому задали таку задачу, а вона вже назріла, очевидно.
Те що раніше називалось оптимізацією коду і було дуже затратним по часу для людей насправді ідеальна задача для ШІ.
Він може підбирати і прикидувати параметри дуже швидко і до бескінченості. Заодно лікує помилки коду, статичні і ні, в т.ч. витоки памяті, безпеку і т.п., і враховує масу шаблонів оптимізації які люди просто не змозі осягнути одночасно.
А якщо врахувати що ШІ по трохи тренується, а потім ці натреновані параметри мережі можна легко скопіювати, то взагалі все спрощується.

[rizakrko]

ronemun
Не хочу вас засмучувати, але буде все навпаки. Зараз така кільість коду генеруєтьяс, що добре якщо хоча б на коректність перевірять. Оптимізація це справа складна, часозатратна та ще й вимагає шкіряних мішків - а оскільки сьогодні в менеджерів нова мода на вимірювання кількості згенерованих рядків коду, то ніхто цим і не займається.

спойлер

[kyon]

Роняя кал и слюни, быстрее-быстрее, ну давай уже засовывай дрожащими руками

[f24gun69]

Роняя кал и слюни, быстрее-быстрее, ну давай уже засовывай дрожащими руками

Парень, с тобой все в порядке ?

[kyon]

f24gun69

у меня все просто отлично учитывая то что я весной закупил 32Гб DDR5-6000 за 5199 и 2Тб ССД PCIe4 за 5899 грн, а еще взял 5070Ти за 43509 13 платежей оплата частями

[Аціо]

ШІ навпаки скоро сильно знизить необхідність в оперативі. ЦЕ видно по текстурах, ШІ маштабуванню і нових системах зтиснеснення.
Головне щоб йому задали таку задачу, а вона вже назріла, очевидно.
Те що раніше називалось оптимізацією коду і було дуже затратним по часу для людей насправді ідеальна задача для ШІ.
Він може підбирати і прикидувати параметри дуже швидко і до бескінченості. Заодно лікує помилки коду, статичні і ні, в т.ч. витоки памяті, безпеку і т.п., і враховує масу шаблонів оптимізації які люди просто не змозі осягнути одночасно.
А якщо врахувати що ШІ по трохи тренується, а потім ці натреновані параметри мережі можна легко скопіювати, то взагалі все спрощується.

Давайте спробуємо у рівняння?
Що нам відомо за ШІ?
Дивіться - ШІ генерить багато коду зі шкодою до якості, перша величина коливається від х3 до х10, нехай буде оптимістична середня х5.
Друге ШІ сам для своєї діяльності резервує буфер 2-32гб, ОЗП не підійде бо швидкість та спритність не дозволить під час гри носити до ОЗП данні.
Третє ШІ тренується так, тому за 2 роки реального тренінгу працює на рівні пів року - рік кодера, і що саме цікаве щоб підняти якість, що він може звичайно, але тоді йому треба більше буфер.
Четверте ШІ може швидко але йому потрібна щоб робити це поточно HBM4 буфер.

Маємо результат - по самим оптимістичним підрахункам, така ШІ відеокарта має мати 16гбHBM4+ пам'яті + 24-32гб можна зекономити на умовної гддр7-гддр8.
Вартість майбутніх ШІ відеокарт починатиметься від 8000 баксів з ЦА 0.000001% для ігор по оптимістичним прогнозам, десь в ОАЕ.