NVIDIA оприлюднила детальні характеристики процесорів Vera з 88 ядрами Olympus для ШІ

[yurius_r]

Пропоную обговорити NVIDIA оприлюднила детальні характеристики процесорів Vera з 88 ядрами Olympus для ШІ

Оце вже серйозні ядра. Таке можна було б глянути в ноутах windows on arm. Тут тобі і SMT, і новіші ядра на тоньшому ТП.

[1234waltz]

Там немає SMT
The Vera CPU takes a different approach with NVIDIA Spatial Multithreading (SMT). Rather than relying solely on opportunistic resource sharing, the wide Olympus core is designed to partition resources more effectively across two hardware threads. This enables Olympus to operate as a high-throughput single-threaded core when maximum per-thread performance is needed, with the sibling thread handling management activity, or as two more isolated execution contexts when higher thread density is required.
The result is strong per-thread performance, improved utilization, and more predictable behavior under load. With 88 Olympus cores and 176 SMT threads, the Vera CPU can support large numbers of concurrent agent tasks while reducing thread-to-thread interference and delivering more consistent latency and throughput.

спойлер

Відправлено через 4 хвилини 27 секунд:
Там є сильні та слабкі сторони, судячи по всьому Хуангу для цього типу завдань саме Spatial Multithreading. З одного боку немає конкуренції, з іншого - при простої одного потому другий не може забрати всі ресурси.

[nazar-pc]

16 інструкцій за такт

Серйозна заявка, оптимізований специфічний софт буде цьому дуже радий!

[Scoffer]

Серйозна заявка, оптимізований специфічний софт буде цьому дуже радий!

Це маркетингова замануха. Якщо так рахувати, то інтол і аплє штук 25 за такт виконують в піковому пікі.
А якщо по нормальному то дивись на блок-схему архітектури - це щось середнє між маковим ядром і маковим недоядром. Ближче до недоядра.

The Vera CPU takes a different approach with NVIDIA Spatial Multithreading

Хуанг перевинайшов бульдозер

[nazar-pc]

Серйозна заявка, оптимізований специфічний софт буде цьому дуже радий!

Це маркетингова замануха. Якщо так рахувати, то інтол і аплє штук 25 за такт виконують в піковому пікі.
А якщо по нормальному то дивись на блок-схему архітектури - це щось середнє між маковим ядром і маковим недоядром. Ближче до недоядра.

Можна код в студію, в якому perf показує 25 IPC на будь-якому процесорі Intel?
Навіть спрощу задачу, хоча б 10. Дуже цікаво подивитися.

Бо на скільки я розумію в Intel більше 8 не буває навіть на останніх процесорах.

[Scoffer]

Можна код в студію

Не можна. І на нвідії не можна. Дивись на блок схему. 16 це кількість інструкцій, котру ядро може покласти в чергу виконання. Декодувати з черги може ніяк не більше 10, перейменувати і закинути в блоки виконання також 10, а виконати взагалі 1-2-3 однотипних.

Відправлено через 2 хвилини 26 секунд:
При цьому ще й розділяючі апаратні блоки виконання на 2 потоки. Дуже схоже на бульдозер з усіма відповідними бульдозерними наслідками.

Відправлено через 7 хвилин 42 секунди:
Ось тобі для прикладу аплє

спойлер

Після перейменування може фіганути до 29 типів різносортних мікрооперацій одночасно. І шо тепер?)

[waryag]

Оце вже серйозні ядра. Таке можна було б глянути в ноутах windows on arm. Тут тобі і SMT, і новіші ядра на тоньшому ТП.

Це дуже дороге задоволення: для 88 ядер довелося робити моночип на 800+ кв. мм. на новенькому процесі.

[RoMiLiUs]

Боюсь пан Жупан з такими темпами про десктоп взагалі та/або заб'є. Охлос потерпить

[yurius_r]

waryag
Так, але моноліт на 8-12 ядер із SMT був би непоганим. Правда не зрозуміло що робити із RTX частиною в разі Spark. Але все це проблеми зелених, нехай займаються.

[yariksom]

Боюсь пан Жупан з такими темпами про десктоп взагалі та/або заб'є. Охлос потерпить

Не заб'є, він в цьому бізнесі не перший рік і мабуть уже привив собі здатність кожне яйце в різних трусах тримати

[waryag]

waryag
Так, але моноліт на 8-12 ядер із SMT був би непоганим. Правда не зрозуміло що робити із RTX частиною в разі Spark. Але все це проблеми зелених, нехай займаються.

Проблема віндовс на арм в слабкій і кривій екосистемі, а не ядрах.

[yurius_r]

waryag
Та там проблема на проблемі. Можна робити довжелезний список із проблем. Але виробники вирішують або намагаються вирішити щось одне зі списку і вважають що після цього як попруть продажі!