Тензорні процесори Google для ШІ можуть відвоювати частку ринку у Nvidia

[Keyser Soze]

Пропоную обговорити Тензорні процесори Google для ШІ можуть відвоювати частку ринку у Nvidia
Чем быстрее ASIC оборудование заменит универсальное барахло от Nvidia, тем лучше для всех. Ибо, никто не покупает трактор, чтобы ездить на нём на работу, в магазин, в поле, на охоту, на рыбалку и т.д.

[tornadox]

Зараз компанія Nvidia є головним монополістом і вигодонабувачем від буму штучного інтелекту, оскільки вона постачає найшвидші та найпоширеніші прискорювачі обчислень на базі GPU, які широко використовуються для подібних задач.

Де то антимонопольне законодавство коли воно так потрібне.

Keyser Soze
Крім нвідії

[Lekrs]

tornadox
Що саме воно повинно зробити? Розділити нвідію на кілька компаній? Щоб що...?
Чи заборонити розвивати передові технології, щоб аутсайдери наздогнали?

[vmsolver]

Що саме воно повинно зробити?

Заставить Nvidia продавать 5080 за 250 баксов, чтобы всё было по-честному!

[daesz]

А можуть і не відвоювати

[Ghody]

Зараз компанія Nvidia є головним монополістом і вигодонабувачем від буму штучного інтелекту, оскільки вона постачає найшвидші та найпоширеніші прискорювачі обчислень на базі GPU, які широко використовуються для подібних задач.

Де то антимонопольне законодавство коли воно так потрібне.

Keyser Soze
Крім нвідії

для "антимонопольщиков" надо лет 15-20 быть монопольщиком и тогда они почешутся и подадут в суд. и ещё лет через 15 суд скажет, что это было неправильно и судья с новой яхтой и деньгами для правнуков уйдёт в отпуск

[daesz]

Де то антимонопольне законодавство коли воно так потрібне.

Keyser Soze
Крім нвідії

для "антимонопольщиков" надо лет 15-20 быть монопольщиком и тогда они почешутся и подадут в суд. и ещё лет через 15 суд скажет, что это было неправильно и судья с новой яхтой и деньгами для правнуков уйдёт в отпуск

Думаю, таке закінчення і буде, тільки нвідію признають невинною, інцел значно бідніший і нічого їм не було.
https://www.overclockers.ua/ua/news/har ... 25/135965/
Ці антимонопольні комітети курям на сміх.

[tornadox]

tornadox
Що саме воно повинно зробити? Розділити нвідію на кілька компаній? Щоб що...?
Чи заборонити розвивати передові технології, щоб аутсайдери наздогнали?

Так, це один з варіантів, загалом антимонопольне законодавство може вплинути на Nvidia кількома способами:

Розслідування та штрафи: Якщо влада виявить, що Nvidia порушує закони, її можуть оштрафувати або змусити змінити правила гри.

Розділення компанії: У гіршому випадку, щоб зменшити монополію, доведеться поділити Nvidia на кілька частин або відмовитися від певних активів.

Доступ для конкурентів: Nvidia можуть змусити надати доступ до своїх технологій, щоб інші компанії могли розвиватися.

Контроль за злиттями: Якщо Nvidia захоче придбати іншу компанію, антимонопольники можуть заважати цьому або ставити певні умови. (спроба викупити ARM)

Покращення інновацій: Більше конкурентів на ринку стимулюватиме нові технології та зниження цін. Це вигідно всім споживачам.

Нові правила: Влада може ввести нові норми, щоб обмежити агресивні маркетингові ходи або ексклюзивні угоди. (Зараз таку угоди існують з виробниками ноутбуків)

Отже, антимонопольні закони можуть допомогти підтримати баланс на ринку, що призведе до кращих умов для споживачів: зниження цін, покращення якості продукції та більше варіантів на вибір.

[Lekrs]

tornadox
Що саме воно повинно зробити? Розділити нвідію на кілька компаній? Щоб що...?
Чи заборонити розвивати передові технології, щоб аутсайдери наздогнали?

Так, це один з варіантів, загалом антимонопольне законодавство може вплинути на Nvidia кількома способами:

Розслідування та штрафи: Якщо влада виявить, що Nvidia порушує закони, її можуть оштрафувати або змусити змінити правила гри.

Розділення компанії: У гіршому випадку, щоб зменшити монополію, доведеться поділити Nvidia на кілька частин або відмовитися від певних активів.

Доступ для конкурентів: Nvidia можуть змусити надати доступ до своїх технологій, щоб інші компанії могли розвиватися.

Контроль за злиттями: Якщо Nvidia захоче придбати іншу компанію, антимонопольники можуть заважати цьому або ставити певні умови. (спроба викупити ARM)

Покращення інновацій: Більше конкурентів на ринку стимулюватиме нові технології та зниження цін. Це вигідно всім споживачам.

Нові правила: Влада може ввести нові норми, щоб обмежити агресивні маркетингові ходи або ексклюзивні угоди. (Зараз таку угоди існують з виробниками ноутбуків)

Отже, антимонопольні закони можуть допомогти підтримати баланс на ринку, що призведе до кращих умов для споживачів: зниження цін, покращення якості продукції та більше варіантів на вибір.

Це ші написав?

[Alligator]

Доступ для конкурентів: Nvidia можуть змусити надати доступ до своїх технологій, щоб інші компанії могли розвиватися.

Ваш gemini не хоче відповісти яким чином компанія яка витратили лярди на технології повинна надати доступ до своїх технологій?

Ибо, никто не покупает трактор, чтобы ездить на нём на работу, в магазин, в поле, на охоту, на рыбалку и т.д.

Lamborghini предоставить три моделі

[tornadox]

Lekrs
Переклав з англійської, але я так і думав що не для цієї аудиторії.

Alligator
Якщо хочете зайнятися самовдосконаленням то можете самі спитати вашого gemini про Microsoft antitrust law case.

[AssayMAS]

Заставить Nvidia продавать 5080 за 250 баксов

дык анонсировали 5050 и в Китае внезапно нашли "самобытную" rtx4010 (как только дрова слепили) - так что новый карта за 250баксов "будет - но потом". Когда Нвидиа опять увидит в геймерских картах прибыль в виду того что из ниши "ИИ" её конкуренты выдавят. А так и будет ибо универсальные решения - а ля видеокарта проиграют специализированным на каком-то конкретном алгоритме.
Вангую 2-5 лет и нвидиа будет новые карты по паре сот баксов продавать типо RT6010 RT7030... .

[vmsolver]

Когда Нвидиа опять увидит в геймерских картах прибыль

Она в них и не переставала видеть прибыль. Я думаю, наивно полагать, что в Нвидиа не понимают, что оказались в нужное время в нужном месте, и что так будет не всегда, поэтому ничего они не сворачивают, интерес к графике у них не изменился, наоборот, потихоньку "лупають цю скалу далі".

А так и будет ибо универсальные решения - а ля видеокарта проиграют специализированным на каком-то конкретном алгоритме.

Не всё так просто, Нвидиа изначально засунула прямо внутрь GPU специализированный ускоритель, поэтому у неё всё хорошо, мало того, она смогла сделать виртуализированный GPU, состоящий из множества отдельных GPU, объединив все их ресурсы в единое логическое целое, получился большой суперкомп для датацентров с огромными возможностями и поддержкой платформы CUDA, универсальное решение для разработки, исследований и продуктов, что для корпоративщиков, а это крупняк, - хорошо, меньше зоопарк решений - меньше рисков, универсальность - меньше рисков и так далее.
Специализированных алгоритмов в нейросетях нет, они все на матрицах, железо должно иметь достаточно памяти, полосы и уметь быстро щёлкать матрицы разных размеров, всё, специализированость, что бы это не значило, если и может проявиться, то выше по уровням абстракций, где тип железа уже не важен.

[AssayMAS]

Специализированных алгоритмов в нейросетях нет

Тесты читал - на двух 4090 картинку генерит в каком то ПО за 20 минут, а на десятке "+-" китайских Moore Threads 5-12 минут. А вот 3 карты 4090 все равно 16-18минут... .
Так что есть предел эффективности при масштабировании карт с CUDA, а вот у Moore Threads декларируют пулы из карт поболее. Но опять китайцы могут и солгать по приказу партии за миска рис.
Например видео кодеки - их можно на обычном процессоре посчитать, а можно на специализированном - так и с нейронками.
Вот Moore Threads в нейронках как 4070, а в играх как 1030, а цена как у 3060... и никому не надо. А вот 4090 карта универсальный и дефицит с непрозрачным ценообразованием.

[vmsolver]

Тесты читал - на двух 4090 картинку генерит в каком то ПО за 20 минут, а на десятке "+-" китайских Moore Threads 5-12 минут. А вот 3 карты 4090 все равно 16-18минут... .

И причем тут специализированные алгоритмы? Возможно там памяти не хватало, поэтому так долго. Nvidia, если что, завоевала рынок АИ ускорителей не 4090, а HPC чипами, у которых пределы выше, памяти больше, мастабирование - несопоставимое с игровыми картами. Не знаю как пример с Moore Threads может что-то доказать.

Так что есть предел эффективности при масштабировании карт с CUDA, а вот у Moore Threads декларируют пулы из карт поболее. Но опять китайцы могут и солгать по приказу партии за миска рис.

Сначала про это надо выяснить, а не приводить это как пример... Собственно, нет предмета обсуждения.

Например видео кодеки - их можно на обычном процессоре посчитать, а можно на специализированном - так и с нейронками.
Вот Moore Threads в нейронках как 4070, а в играх как 1030, а цена как у 3060... и никому не надо. А вот 4090 карта универсальный и дефицит с непрозрачным ценообразованием.

Не релевантное сравнение, видеокодеки алгоритмически заметно сложнее на базовом уровне, нейросетям же надо матричные ускорители с простыми командами плюс чуть-чуть. Сравнивать надо сравнимое.
Откровенно говоря, плевать на ту Moore Threads, они никто на рынке и анализировать что-то там не имеет смысла, если бы они были интересны - это можно было заметить по рыночному охвату.

Відправлено через 1 годину 31 хвилину 34 секунди:

мастабирование - несопоставимое с игровыми картами

Имелось в виду наоборот, масштабирование игровых карт несопоставимое с HPC решениями

[AssayMAS]

это можно было заметить по рыночному охвату.

а как же монополия корпораций добра - что на рынок не пускают конкурентов? и опять тонкий тех процесс для Китая дефицит вот и нет количества - но многие блогеры, инженеры, себе купили 1 штука Moore Threads пощупать "самобытный китайский рукоблудство" - слухи говорят что там есть "уникальные костыли" и их надо посмотреть.
Видеокарта это универсальный вычислитель, а нейронка может быть аппаратная на микросхеме как в 80е-90е годики. Просто в 80е-90е совали в кремний сотню "нейронов" (не знаю за характеристики), сча несколько десятков+ тысяч сумеют.
А ты говоришь про программные МОДЕЛИ нейронов и нейронок. А аппаратные решения будут во много раз, а то и десятков раз быстрее. То есть делаем "программную" нейронку - обучаем - делаем кремнеевую копию аппаратной.

[vmsolver]

а как же монополия корпораций добра - что на рынок не пускают конкурентов?

Китайцы знают об этом? А то они низкими ценами вынесли кучу конкурентов во многих областях, видимо им не сообщили, что у них ничего не получится, бывает

и опять тонкий тех процесс для Китая дефицит вот и нет количества - но многие блогеры, инженеры, себе купили 1 штука Moore Threads пощупать "самобытный китайский рукоблудство" - слухи говорят что там есть "уникальные костыли" и их надо посмотреть.

Пусть говорят, китайцы хотят справедливости, а потом заваливают рынок демпингом.

Видеокарта это универсальный вычислитель, а нейронка может быть аппаратная на микросхеме как в 80е-90е годики.

GPU с оговорками это универсальный вычислитель, в который добавили аппаратный ускоритель матричных вычислений.

Просто в 80е-90е совали в кремний сотню "нейронов" (не знаю за характеристики), сча несколько десятков+ тысяч сумеют.
А ты говоришь про программные МОДЕЛИ нейронов и нейронок. А аппаратные решения будут во много раз, а то и десятков раз быстрее. То есть делаем "программную" нейронку - обучаем - делаем кремнеевую копию аппаратной.

Хм, а аппаратные решения это не модели имеющие физическую реализацию?
И те, и другие основаны на моделях. И по большому счету разницы нет. Матрицы удобная абстракция для выражения арифметики пригодной для создания когнитивных архитектур.
Аппаратных решений, в смысле чтобы вот каждый нейрон имел свою реализацию и четкую функцию в общей нейросети нет и не будет, все чипы конфигурируемые и универсальные в плане весов и связей, какую угодно можно туда загрузить и просчитать, главное чтобы влезла. "Аппаратных решений" в твоём смысле не существует, они все программные. Есть сомнения, что вообще будут существовать, слишком велика проблема размера и широты применения, да и дорого делать чип на 2нм чтобы он мог делать что-то одно, надо делать чтобы он потенциально мог делать многое. Можешь считать что АЛУ ускорителя это твой аппаратный нейрон, просто он переконфигурируемый, как логический элемент в FPGA, из которых можно построить любую логическую схему загружая в эти элементы таблицу истинности и схему их соединений. В этом смысле, они полные аналогии.

Словосочетание "аппаратное ускорение" имеет относительный смысл, ускорение по отношению к чему-то. Матрицы можно щёлкать программно, на АЛУшках GPU, аппаратный блок, такой как tensor-core будет ускорителем таких операций по отношению к АЛУшкам. Но щёлкание матриц на АЛУшках GPU будет аппаратным ускорением по отношению например к CPU, то есть не CPU этим занимается, а отдельная железка. И так далее, всегда есть пара субъект и объект, объект снимает вычислительную нагрузку с субъекта.

[AssayMAS]

vmsolver
сейчас создаётся процессор с памятью и на нём МОДЕЛИРУЕТСЯ поведение нейрона по алгоритмам.
а аппаратный нейрон это кристалл (куча транзисторов - явно меньше чем на проц надо) с поведением как у нейрона. И куча "кремнеевых нейронов" в нейронную сети по чертежу в микросхему организовано. У нейрона ограничено много входов сигнала (цифра, аналог), и мало выходов и уже в микросхеме с структурой (полученной из моделей на ГПУ обучением) и скоростя это даст более чем сейчас.
В 2000 +- Пентагон в Дискавери или какой то типо передаче хвастался чипами такими что применяются в ракетах и умеют за мало энергии распознавать кучу образов из видео из радаров из ... .
Сейчас парочку серверов в моделями на ГПУ умеет в такое - что умела одна микросхема аппаратно... распознавание нескольких тысяч образов техники (для знания куда надо попадать).

[vmsolver]

AssayMAS
Кошмар, распинался, объяснял, а в ответ получил пример чипа для военки .
Вот она кроме распознавания танка и подобной техники ничего делать не способна, такой подход плодит номенклатуру и не жизнеспособен в обычной жизни, не позволяет делать большие системы, LLM так не сделать, а значит и весь прогресс ИИ за последнее время недоступен для этого подхода, о чем мы тогда говорим?

Функциональность подобных чипов влёт реализуется на обычных вычислителях, просто как то вот не подумали, чтобы каждый телефон мог распознавать танк из любого ракурса.