AMD купує розробників спеціалізованих ШІ-чипів Taalas

[Ostin]

Пропоную обговорити AMD купує розробників спеціалізованих ШІ-чипів Taalas

рішучі кроки в напрямку посилення конкуренції з NVIDIA

Ще з відеокартами пам'ятаємо, як амд рішуче забрала ринок, вільний від зеленого впливу дядечки.

[Conqistador]

Похоже Хуанг использует АМД как рычаг борьбы с конкурентами, скупает за деньги АМД конкурентов и банкротит

спойлер

шутка

[StingerYar]

І тут 12V-2x6... у спеціалізованого ШІ-чипа...
Сподіваюсь нові власники хоч зроблять спец-модифікації для 48В лінії живлення, а не залишать as is

[mavrsmart]

А може і буде толк, якщо накласти напрацювання Taalas на FPGA Xilinx

[Demedik]

А може і буде толк, якщо накласти напрацювання Taalas на FPGA Xilinx

Тоже об этом подумал. Пускай и в 2 раза скажем будет медленнее, но это эта штука может быть революционной.

[Барбарис]

А може і буде толк, якщо накласти напрацювання Taalas на FPGA Xilinx

Та це як арм - можна зробити чіп лише для своєї моделі. Головне встигнути спроектувати, виготовити до тої пори поки актуальна та не зостатись у розбитого корита

[Rabbitultra]

А може і буде толк, якщо накласти напрацювання Taalas на FPGA Xilinx

Та це як арм - можна зробити чіп лише для своєї моделі. Головне встигнути спроектувати, виготовити до тої пори поки актуальна та не зостатись у розбитого корита

Головне - встигнути прогріти інвесторів на гроші, бажано через якусь фірми-прокладки. А що буде після то вже не важливо. В крайньому випадку доведеться знову робити норм карти цим жахливим геймерам

[vmsolver]

Чип на 53 млрд транзисторов запускает.. LLM Llama 3.1 8B

Присмотритесь к плате, там не видно памяти:
- или её нет вообще, тогда модель запускается во внутренней SRAM памяти, которой не много, поэтому большую модель не запустить, это объясняет куда делись 53 млрд транзисторов - на SRAM память, это полностью объясняет за счет чего ускорение в десятки раз
- HBM память таки там есть и можно запускать модели сильно по-больше чем 8B, но скорость будет такая, что о ней предпочли умолчать, гораздо лучше "ярко прокричать" про "мы в десятки раз быстрее", но в реальной работе "купите нас кто-нибудь".

Ещё есть варианты?

[AssayMAS]

Ещё есть варианты?

"пам’яті SRAM" оно как минимуму в 6 раз дороже чем DDR и в пару+ раз быстрее при том же объёме
То есть это хай хай тек... так сказать максимум уровня технологий доступной за деньги и если не выстрелит то амд сама думаю все железо оприходует свои чипы считать.
Там память могут сунуть на обратную сторону платы под радиатор - с одной стороны охлад чипа, с другой охлад ОЗУ SRAM - что кушает в несколько раз больше чем самая прожорливая ддр.

[vmsolver]

AssayMAS
SRAM быстрее на пару порядков по латентности, а ширина шины к ней может быть любой, поэтому полоса к ней может быть 200 ТБ/с, полоса к HBM ну пусть 8 ТБ/с. За счет этого и рост производительности. SRAM не ест много, но если вы прокачиваете не 8, а 200 ТБ/с, то это конечно должно сопровождаться увеличением потребления.

[AssayMAS]

SRAM не ест много

в ддр один транзистор и кондёр, а срам шесть транзисторов - вот тута уже шесть раз по потреблению...
а что срам можно загнать в маленькое потребление не означает что на предельных для технологии частотах будет мало... я как бы сервера последние на срам с водоблоком на памяти помню как и массивные радиаторы об которые даже один раз обжёгся...
SRAM мало ест когда в неё не пишут, а читают - а когда регулярно идёт запись то много кушает.
Это как в процах 16МБ кэша л3 на каком-то виде "срама" 65Ватт, а 96МБ уже 90\120+Ватт в зависимости от проца и частот.

[yariksom]

Вони вже колись АТІ купили за дохуліард, ледве вижили, фабрики правда довелось продати.