Джон Кармак поскаржився, що ШІ-суперкомп’ютер NVIDIA DGX Spark не забезпечує заявлену швидкодію

[Kyro]

Doom 2 вийшов через рік після Doom, потім Quake і т.д.

Квейк вийшов в 1996, це було 29 рочків тому

Cходи уже на википедию и не умничай.

[Inqizitor2022]

Десь так, чим він після Doom займався? Це вже 30+ рочків пройшло

Так то его движок в новом думе 2025 и индиане джонсе работает как минимум.

[dead_rat]

Десь так, чим він після Doom займався? Це вже 30+ рочків пройшло

Так то его движок в новом думе 2025 и индиане джонсе работает как минимум.

Якщо так, то круто

[Mike88]

Є одна чудова книжка, зветься "Володарі DOOM", майже випадково купив з книжкової полиці в Сільпо на районі
Ось огляд, якщо кому цікаво:
https://mezha.ua/reviews/volodari-doom- ... er-301591/

[xtbtch]

мусор от хуанины

[OldGoodGames]

Це Ви зараз творця перших в історії 3д ігор з бомжом Валєрою порівняли?

Десь так, чим він після Doom займався? Це вже 30+ рочків пройшло

3д рушії - Wolfenstein 3-D, Doom 1,2, Quake 1,2,3, Doom 3
https://doom.fandom.com/wiki/John_Carmack

Carmack's most notable programming ventures are in the area of first-person shooter games. His programming skills contributed heavily to the development of seminal games of that genre: Wolfenstein 3-D, Doom, and Quake, as well as their newer versions (including Doom 3 and the rest of the Quake series). He has invented several computer graphic algorithms, notably surface caching and "Carmack's Reverse". Carmack's game engines have been licensed for use in other influential first person action shooter games such as Hexen, Half-Life and Medal of Honor.

Відправлено через 2 хвилини 42 секунди:

Скоро певно підросте покоління яке й про Лінуса Торвальдса та Білла Гейтса не чуло

Які недоліки? Може ви виросли знаючи засновників General Motors чи Siemens?

як нам у школі казали - "а ваше пакалєніє пушкіна не чітали, а от наше..."
кому надо почує і про Лінуса і про Кармака і про Гейтса...

Відправлено через 1 хвилину 17 секунд:

мусор от хуанины

проте скільки розмов було

Відправлено через 3 хвилини 23 секунди:

Є одна чудова книжка, зветься "Володарі DOOM", майже випадково купив з книжкової полиці в Сільпо на районі
Ось огляд, якщо кому цікаво:
https://mezha.ua/reviews/volodari-doom- ... er-301591/

+

спойлер

https://www.shacknews.com/article/10115 ... n-shooters

[fantomrulezz]

Так то его движок в новом думе 2025 и индиане джонсе работает как минимум.

А ще багато сучасних двигунів навіть від непов'язаних компаній мають запозичення з оригінальних id Tech і несуть в собі код, написаний Кармаком ще в 90-х.

[yurius_r]

У куртки вже не перший раз таке. Сподіваюся Кармак не купував 5070

[erazel]

Які недоліки? Може ви виросли знаючи засновників General Motors чи Siemens?

Ну якби я ошивався на форумі присвяченому турбінам Сіменс то було б дивно не знати засновника . Я розумію що всіх в світі знати не будеш, але ... Ну коротше кожен з своєї дзвіниці судить. Моє покоління виросло з намертво вкарбованими в мозок прізвищами Пажитнов, Кармак, Ромеро, Свіні. І нам дивно розуміти що молодші покоління про них не чули. Але таке вже життя. 40- вже напевне й не застали цю епоху.

Відправлено через 4 хвилини 15 секунд:

Сучасне полкоління мене дійсно турбує знають усіх довбнів з тіктоку, але не знають знаменитостей ігрової індустрії в чиї ігри грають, або принаймні на їх технологіях виникли їх улюблені ігри.

Ага, можна подумати багато хто знає Кнутта , хоча на наслідках його робіт працюють багато хто.А Томпсон і Річчі? І зізнаюсь, я гуглив, бо сам не знав їх прізвищ. Завжди є рівень абстракцій з котрими більше стикаємось. Ми знаємо співаків ротом котрих бачимо в телехвізорі/тіктоку, але не знаємо авторів винаходів котрі використовуємо у повсякденному житті.

[Alekss]

Дані звсідси : перевірена реальна продуктивність : MAMF виміряв ~99,8 TFLOPs BF16 та ~207,7 TFLOPs FP8.
значить fp4 буде 400+ TFLPs, що явно не 1000

У куртки вже не перший раз таке. Сподіваюся Кармак не купував 5070

Не удивительно, что такой понимающий в 3d как Джон Кармак поделился тем, что Nvidia приписывает 1000 Ai tops производительности NVIDIA DGX Spark (RTX 5070 -192 tensor), которых там и никогда не было. Там 250 Ai tops. Это шутка такая: - видите 1000 Ai tops? нет не видим, а они там есть! Nvidia уже 2 поколение после Ampere (RTX 3000), вешает лапшу пользователям, про невероятную производительность в Ai tops своих GPU.

Что заявляет Nvidia? Производительность Ampere RTX 3070 (174 tensor) составляет 154 Ai tops. И в эту производительность можно поверить и просчитать ее. Я пишу поверить, потому, что и AMD делает то же самое, что и Nvidia, поэтому мы признаем 154 Ai tops в RTX 3070. Надо четко понимать, что архитектурные улучшения GPU следующих поколений Nvidia играют тут мало роли потому, что интересуют исключительно Tensor core потому, что Nvidia и AMD считают в основном только матричные Ai tops.

После этого Nvidia выпускает RTX 4070 (184 tensor +5%) Ada Lovelace, заявляя о 466 Ai tops (которых на самом деле 233), а весь интернет поет о невероятно возросших возможностях (в 2 или 3 раза) в работе с Ai (LLM) GPu Nvidia. На самом деле возможности и правда выросли (FP8), только Nvidia скромно умалчивает о том, что это в режиме (2:4 sparsity). Ничего не понимающие обзорщики и блогеры раздувают эту новость как невероятное достижение (что и правда было достижением FP8). Только они не знают о том, что применить эти самые (х2 sparsity) никто не может по причине, что ни одна LLM модель на рынке в 2023-2024 (да и в 2025 году) не поддерживает работу в режиме умножения матриц (sparsity). Чтобы это работало, нужно практически заново переобучить LLM работе с умножением матриц (sparsity), при этом потеряв в точности. Это практически бесполезное занятие.

Что же дальше?
Nvidia выпускает в 2025 году RTX 5070 (192 tensor +5%) Blackwell и история повторяется! Опять чип архитектурно (tensor) ничем не отличается от Ampere и Ada Lovelace (256 int8) , но зато может показать уже невероятные 1000 Ai tops по заявлениям Nvidia (которых там 245). Стоит признать, что в Blackwell Nvidia наконец то признала, что 1000 Ai tops достигаются не просто в int8, а в режиме nvfp4 (2:4 sparsity). В Ada Lovelace Nvidia этого открыто не признавала - это ведь "amazing" все и так съедят.

Что по сути делает Nvidia на примере RTX 5070 (192 tensor) Blackwell?
Nvidia берет 192 tensor*256 инструкций int8 (которые в реальности может архитектурно умножить GPU) *умножает на частоту GPU (2512 MHz) . И получается (125)123469824 TOPS. Не забываем, что стандартно Ai tops считаются в Int8 (256 инструкций за такт).

Так, а где же тут 1000 Ai tops? спросите вы?
Тут начинается магия умножения матриц! мы берем 125 Ai tops (int8) и превращаем в 250 Ai tops (int8) суммируя операции умножения FMA (256*2). Это называется режим mixed (тоже самое делает и AMD). Затем нам нужно превратить 250 Ai tops в 1000 Ai tops, или в 4 раза умножить. Но как? тут приходит магический режим nvfp4 (2:4 sparsity).

Уравнение сразу меняется:
192 tensor*(1024 nvfp4 mixed)*умножает на частоту GPU (2512 MHz)=493879296 tops. И все это мы умножаем *2 (2:4 sparsity)= 1000 Ai tops заявленных Nvidia. По сути мы превратили 125 Ai tops (int8), в 1000 Ai tops nvfp4 (2:4 sparsity). Или завысили показатели в 8 раз для маркетинговой красоты от реальных.

Теперь на сцену выходит Джон Кармак купивший ШІ-суперкомп’ютер NVIDIA DGX Spark (RTX 5070-192 tensor) и говорит да где там 1000 ai tops? Он как считал 256 инструкций за такт так и считает, а магический режим nvfp4 (2:4 sparsity) никто не может применить, потому, что никому нет дела до заявлений Nvidia про маркетинговые Ai tops в реальности. Надо так же отметить, что в 2025 году уже появились LLM использующие режим умножения матриц (2:4 sparsity). Но их невероятно мало.

AMD стоит похвалить за честность. Она публикует на сайте открыто расчеты Ai tops используя как реальные Ai tops в int8, так и коммерческие в режиме:
Peak 8-bit Precision (INT8 Matrix) Performance - 289 TOPs
Peak 8-bit Precision (INT8 Matrix) Performance with Structured Sparsity -583 TOPs
Peak 4-bit Precision (INT4 Matrix) Performance with Structured Sparsity -1165 TOPs

А следуя логике Nvidia производительность AMD RX 9070 равна 1165 Ai tops.

[Intel74320ASuperFin+]

Липовые CUDA ядра, гигабайты памяти и тераопсы. More you buy - more you save. Impossible without Artificial Intelligence - impossible without AI.

Толку от красных честных тераопсов, если большинство софта работает только на зеленых картах? Дженсен сильно подсадил всех на зеленую иглу. Амд кое как одолели синих дармоедов, но племяннице уже никак не тягаться с дядей в его сфере.

[vmsolver]

Разжёвывать LLM-кой основы да и еще так растянуто, понял только тот, кто и так понимал.

Разряженная матрица, это матрица в которой часть элементов равны нулю, в данном случае - половина, в своих слайдах Nvidia показывает производительность разреженных матриц вместе с умножениями на элементы равные нулю, умножения которых на самом деле не происходит (очевидно что результат умножения чего угодно на нуль равен нулю).

Вот поэтому пиковая производительность завышена в 2 раза. Также, на практике достичь теорпика практически невозможно, реальная производительность ниже и это зависит от реализации,.Так как это матричная считалка, то лишь темп запуска влияет на производительность, сами матрицы считаются аппаратно и поэтому быстро.

Все специалисты и рядом проходящие об этом знают, и Кармак, надо понимать, тоже. Почему он сделал вид будто удивлен спекам? Ну, видимо, нужна была публикация и внимание.

С другой стороны, производительность коробки за 4к баксов не поражает воображение, я как увидел 5 токенов/с у 30B модели даже перестал смотреть обзор.У меня по большому счету древний ноут, но 30B модель работает с примерно такой же скоростью, в общем, даже вчитываться далее стало не интересно. Плюс малые размеры коробки оставляют много вопросов по шуму и нагреву. В общем, шляпа )

Возможно, Кармак это и хотел сказать, но акцент на теорпике разряженных матриц делает пост как будто он для менее прошаренной аудитории, с немного PR-ными целями.

Да, эта коробка лучше чем ноут, на малых размерах модели она работает быстрее, а если не быстрее, то с большим контекстом, тем кто не хочет колхозить на ПК, а надо готовое решение - вы это ЦА этого решения; запускать модели большего размера она может, но скорость радовать все равно не будет, проще заплатить $20 за доступ к платным моделям, там и скорость неплохая и модели лучше чем в открытом доступе. Пока ситуация такая.

В любом, случае, коробка разочаровывает первыми впечатлениями тестов, Ей бы быть раза в три быстрее, но это ограничения в первую очередь LPDDR, потом GPU, по хорошему там должна быть GDDR7, но тогда будет проблема внутренней конкуренции с ProViz картами, что наверное и является ответом, почему коробка такая немощная. В общем, всё сложно