Мобільні процесори AMD Strix Point отримають вбудовану графіку RDNA 3+

[Scoffer]

SergiusTheBest
Матриці можна перемножити і на папірці. Але ти не плутай матричний процесор, котрий апаратно є систолічним масивом/MISD, і GPU, котрі є SIMD в першому приближенні. Прям абсолютно протилежні штуки.

Відправлено через 6 хвилин 20 секунд:
Якщо колись комусь поставлять ТЗ "зробити GPU навпаки", то на виході у нього TPU/NPU і буде

[SergiusTheBest]

Матриці можна перемножити і на папірці. Але ти не плутай матричний процесор, котрий апаратно є систолічним масивом/MISD, і GPU, котрі є SIMD в першому приближенні. Прям абсолютно протилежні штуки.

Поки що всі датацентри купують GPU. Я за те, щоб був універсальний перемножувач матриць, а не на кожен вид робити окремий. Подивимося, як воно буде.

[Scoffer]

SergiusTheBest
Поки що вже не всі датацентри купують GPU тому що у них вибору іншого немає. Ті датацентри, у котрих вибір є, вже наклепали своїх TPU, наприклад гугл і авс комерційно доступні, а ажур фізично вже є, комерційно теж скоро буде.
За що ти там - справа десята. Є просто факт того що архітектура GPU не дуже гарно налізає на нейромережі бо взагалі з чого б їй гарно налізати, вона не для того вигадана була.

Відправлено через 9 хвилин 19 секунд:
Як універсальний прискорювач для компа може виступати або нова реінкарнація трансп'ютерів, або реінкарнація xeon phi перших генерацій де вони з бортовою локальною пам'ятю, або реінкарнація SPU з cell. Вони всі однаково ніяк підходять практично під всі види завдань, котрі можна розпаралелити. Не жахливо, і не прекрасно. Середненько. Але, судячи з усіх трьох імплементацій - погромісти дуже погано осилюють концепцію масово-паралельний систем з локальними оперативами

[SergiusTheBest]

SergiusTheBest
Поки що вже не всі датацентри купують GPU тому що у них вибору іншого немає. Ті датацентри, у котрих вибір є, вже наклепали своїх TPU, наприклад гугл і авс комерційно доступні, а ажур фізично вже є, комерційно теж скоро буде.
За що ти там - справа десята. Є просто факт того що архітектура GPU не дуже гарно налізає на нейромережі бо взагалі з чого б їй гарно налізати, вона не для того вигадана була.

Відправлено через 9 хвилин 19 секунд:
Як універсальний прискорювач для компа може виступати або нова реінкарнація трансп'ютерів, або реінкарнація xeon phi перших генерацій де вони з бортовою локальною пам'ятю, або реінкарнація SPU з cell. Вони всі однаково ніяк підходять практично під всі види завдань, котрі можна розпаралелити. Не жахливо, і не прекрасно. Середненько. Але, судячи з усіх трьох імплементацій - погромісти дуже погано осилюють концепцію масово-паралельний систем з локальними оперативами

Ну а скажіть, архітектура прискорення фізики в іграх гарно на GPU налазить? Мабуть що також не ідеально. Але окремі фізичні прискорювачі померли.

[Scoffer]

SergiusTheBest
От тому прискорення фізики і практично померло бо погано налазить на GPU. Вмикаєш physX - потокові проци починають маслати незрозумілу для них фігню замість вершин, фпс радикально падає.

спойлер

Кому це треба? Правильно, нікому, GPU і без того ледве вивозить сучасні криві проекти.

[vmsolver]

Поки що всі датацентри купують GPU. Я за те, щоб був універсальний перемножувач матриць

У Nvidia развита платформа CUDA и всё что им было нужно это внедрить NPU внутрь GPU, это, как выше уже заметили, и сделали, это tensor-core, это мелкий NPU подключенный к регистровому файлу каждого proccessing block в SM (коих там четыре), получилось универсально, довольно быстро и в рамках развитой программной платформы, которая устоялась уже в фактически стандарт индустрии. Понятное дело, чистый NPU при прочих равных будет быстрее GPU с аппаратным ускорением матриц (тот же NPU внутри), просто любое специализированное будет быстрее универсального, это нормально.

NPU узкоспециализирован, хорош для генерации (inference), а не обучения, в то время как на универсальном решении обучать лучше, перечень решаемых задач шире чем просто взять готовые веса и прогнать вход на выход.

Сейчас бум прежде всего в разработке моделей, для этого и покупают универсальную платформу, можно обрабатывать данные как хочешь, много памяти и быстродействие топовое как для универсальных решений.

[the lamer]

Пропоную обговорити Мобільні процесори AMD Strix Point отримають вбудовану графіку RDNA 3+



Підкажіть що за "ШІ-застосунки", що для них аж частину масового процессора віддали, замість додати ядер, чи посилити вбудоване відео? Хоч один?

Це треба в маленького цукерберга питати з його метавсесвітом, де там у фейсбук використовується штучний інтелект, на мою думку там взагалі інтелекту немає.

Це треба в Microsoft питати, не в Цукерберга.

[AFU_power]

Пропоную обговорити Мобільні процесори AMD Strix Point отримають вбудовану графіку RDNA 3+

Це, за заявами AMD, забезпечить в три рази більшу продуктивність у ШІ-застосунках щодо актуальних Ryzen 8040 (Hawk Point),

Підкажіть що за "ШІ-застосунки", що для них аж частину масового процессора віддали, замість додати ядер, чи посилити вбудоване відео? Хоч один?

Той же фотошоп з генерацією фонів, простенькі нейронки для обробки аудіо(прибирання шумів, шорохів, нормалізація), фоторедактори з АІ підбром параметрів, художніх ефектів, автоHDR. Той же copilot от майків. Та ну вже багато чого з'явилось, де прості нейронки спрощують роботу

[WinGo]

Маю ноутбук з Ryzen 7 6800h, і скажу чесно, що встройка від АМД - це непотріб... дискретна 3060 більш енергоефективніша в простих задачах, та потужніша коли це потрібно... виключив встройку, і ноут став холодніший + довше від батарейки живе, бо 3060 в 2д режимі споживає меньше... от такий парадокс