Серверний ARM-процесор NVIDIA Vera виявився швидшим за AMD EPYC та Intel Xeon у перших тестах

[Барбарис]

Пропоную обговорити Серверний ARM-процесор NVIDIA Vera виявився швидшим за AMD EPYC та Intel Xeon у перших тестах

Коли певні читачі з форуму осилять цю новину, то виробники серветок озолотяться.

[hohlid19]

Пропоную обговорити Серверний ARM-процесор NVIDIA Vera виявився швидшим за AMD EPYC та Intel Xeon у перших тестах

Кому оно надо, если придется софт под АРМ перекатывать, чтоб получить +30% в одном бенчмарке?

[Earanak]

hohlid19, какой еще один бенчмарк, там серия тестов была с разными задачами

...результаты по итогам всех специализированных тестов, включая компиляцию кода, сжатие данных, скорость работы с подсистемой памяти, кодирование видео и другое...

[Demedik]

Коли певні читачі з форуму осилять цю новину, то виробники серветок озолотяться.

Та да, Юра будет очень "взволнован" и радость выйдет за края. ))

По теме.
Интересно. Для серваков за частую не нужны мощности, а энергоэффективность(тут больше про охлаждение, хоть экономию никто не отменял), а тут еще и мощь. Хотелось бы, чтобы это пошло и пользователям... но зная НеВидиа - тут будет облом. + софт еще сырой(возможно тут спасет святой Линукс).

[S0N1C]

[hohlid19]

S0N1C
Ой вей, а как так получилось?

[Grava]

Що за тести такі де 1 проц = 2 проци? Чому у двох епіків майже такі самі результати як і у одного?

[Earanak]

Если кого интересуют конкретные составляющие этих тестов...

Их можно найти тут :
https://www.phoronix.com/review/nvidia-vera-benchmarks/

[IvanCh]

Заголовки дуже перебільшені і клікбейтні.

Але загалом так, процесор тягається на рівних з конкурентами і у ряді бенчмарків має 1 місце.
10% — це в середньому геометричному по всіх тестах.
тести можна глянути тут https://www.phoronix.com/review/nvidia-vera-benchmarks

[Keyser Soze]

"Чувствую, что где то нае... обманывают, не пойму где"

[nazar-pc]

З іншого боку, Epyc фізично не вміє працювати з пам'ятю на таких швидкостях, тому...

Зрозуміло що бенчмарки гарно підібрані щоб показати сильні сторони процесора, але сказати що вони зовсім безглузді теж не можна.
Для підходящих задач буде цілком вдалою покупкою якщо ціну не загнуть космічну.

Щільність плати, звичайно, вражає

[yariksom]

Різні процесори краще підходять для тих чи інших завдань, один кращий в одному інший в другому.

[1234waltz]

Замість тисячі слів залишу одну статтю
https://cast.ai/blog/2026-state-of-kube ... ing-worse/
CPU overprovisioning jumped from 40% to 69% year over year. Memory overprovisioning sits at 79%. Organizations are paying for infrastructure that their workloads don’t even require.
GPU sharing is well understood, and almost nobody uses it
The standard deployment model gives each model its own dedicated GPU instance. For most inference workloads, that’s wasteful – request rates are bursty, with long idle periods between them. On dedicated instances, those idle periods cost the same as full utilization.

What GPU sharing actually looks like in practice: ALLEN Digital was running 7 models on SageMaker: 3 open-source and 4 custom. GPU instances ran continuously but served an intermittent load.

Тобто навіть існуючий найгірший Зіон в сервері воно не утилізує, а просто гріє атмосферу та жере електроенергію. Там кожна строка статті просто "мьод". Хто буде усувати софтові ботлнеки - не ясно, мабуть вайбкодери. Хто буде користуватись цими потужностями, якщо існуючи навіть з шаленим софтовим оверхедом та нульовою оптимізацією не можуть завантажувати - теж загадка. Але головне підвищувати ціни, знижувати ліміти на токени та розповідати про дефіцит потужностей гоям

[XAMCTBO]

(возможно тут спасет святой Линукс).

Доречі є новина, що майкрософт випустила свій Лінукс з блекджеком, але дистрибутів оптимізований під ШІ та серверні навантаження.
Azure Linux 4.0

[kabostebeztak]

ЮРААААААААА

Відправлено через 8 хвилин 57 секунд:
7-Zip is a great multi-threaded CPU benchmark and with Vera its performance came in right where expected for being an 88 core part. Fascinatingly the NVIDIA Vera 88-core CPU was outperforming the 128-core Xeon 6980P processor!

7-Zip прекрасний багатопоточний бенчмарк CPU, та продуктивність Vera виявилась такою, яка і очікувалась від залізки з 88 ядрами. Що цікаво, 88-ядерний процесор NVIDIA Vera обганяв 128-ядерний Xeon 6980P!

Але перемогли все ж таки амд.
А в святому для нашого Юрія однопотоці в 7зіп Vera щось тіпа на 1% швидше за ті ж самі епіки. Всьо, біжу в магазин за базовим макбук про м5!

Відправлено через 42 секунди:
Джерело: тести Phoronix на які посилається оригінальна стаття Wccftech

[Scoffer]

The standard deployment model gives each model its own dedicated GPU instance. For most inference workloads, that’s wasteful – request rates are bursty, with long idle periods between them. On dedicated instances, those idle periods cost the same as full utilization.

Шаред гпу виявились супер-пупер дірявими і це внятно не лікується, принаймні поки що не вигадали як. На тому свого часу графічно-прискорений vdi загнувся як клас сервісів.

[Yaroslav308]

ЮРААААААААА

Він ще з учора почав розповідати про цей «успішний успіх» у своєму загончику.

[1234waltz]

Але якщо ви думаєте, що ця новина в чомусь маніпулятивна, то є новина смішніша.
https://mezha.ua/news/uber-vitrati-na-s ... ti-311639/

Після того як Uber вичерпав свій річний бюджет на ШІ всього за чотири місяці 2026 року, компанія почала ставити під сумнів реальну результативність цих витрат. Про це пише The Verge із посиланням на недавнє інтерв'ю президента та операційного директора Uber Ендрю Макдональда.

У 2025-му Uber витратив $3,4 млрд на дослідження і розробки, що на 9% більше, ніж у попередній рік.

3,4 млрд пішли... кудись... якось... результату немає, але перспективи грандіозні...

[Filabatya]

UberCitizen)

[kabostebeztak]

ЮРААААААААА

Він ще з учора почав розповідати про цей «успішний успіх» у своєму загончику.

За рахунок швидкої пам'яті)