Монополія Nvidia на ринку ШІ під загрозою через постійне зростання енергоспоживання графічних процесорів

Обсуждение статей и новостей сайта
Ответить
Автор
Сообщение
Scoffer
Member
Аватара пользователя

Сообщение

Пропоную обговорити Монополія Nvidia на ринку ШІ під загрозою через постійне зростання енергоспоживання графічних процесорів
також великі софтверні компанії, включаючи Microsoft, Meta та інші, ведуть розробку власних вузькоспеціалізованих чипів під свої обчислювальні центри та власні ШІ.
Вже розробили і посилено тиражують. Деякі вже продають.
Azure Maia 100, AWS Trainium 2, Meta MTIA v1. Ну і так далі. Навіть китайці туди ж з Huawei Ascend. Реально кожна з великих контор вже або на фінальній стадії впровадження власних аі-чіпів, або за нею. Також кожна з них паралельно штампує CPU загального призначення на базі ARM. Так що нвідія, разом з амд і інтелом скоро стануть потрібними лише мілким замовникам.

Відправлено через 11 хвилин 27 секунд:
І я думаю що це на краще, а то упоролись зі своїми двістіядерними процами і калориферними відеокартами. А так доведеться спуститись на землю і робити адекватні десктопи.
KimRomik
Member
Аватара пользователя

Сообщение

Хтось поспішає оцифрувати себе та стати Скайнетом...
WhiteBike
Member
Откуда: Киев

Сообщение

Изображение
Dilfin
Member

Сообщение

Здуріли вже зі своїм ШІ, що люди вже розучились думати, чи придумали ШІ, який розумніший за людський мозок? цукер з дебілом маском і всі хто над тими дурачками стоїть, повірили в себе і в свій метавсесвіт і що на лохах в мережі можна буде заробляти з повітря величезні гроші, цей світ би робили кращим, всюди війни, пандемії, конфлікти, а а вони віртуальний світ хочуть зробити ідеальним. Накипіло вже, коли вже людство включить мозок і побачить що світ не тільки в мобільому телефоні і фейсбуці, тіктоці чи інстаграмі.
vmsolver
Member

Сообщение

Новость из серии через тридцать лет население планеты будет 100 млрд человек и мы все умрём от голода, или через 10 лет улицы Лондона будут по пояс в конском навозе.

Те проекты, которые не могут быть обеспечены энергией - не будут реализованы.
Компанії, які запропонують економніші та малопотужні рішення, можуть отримати серйозну конкурентну перевагу в майбутньому.
Нвидиа уже предлагает маломощные карты для генерации/inference, экономные и низкомощные, но проблема ведь лежит не в этом сегменте, а в сегменте машин для обучения, где нужны большие мощные вычислители с огромной памятью, вот они едят много энергии и заменить их экономными версии от других компаний не смогут, это разные сегменты вообще, с разными возможностями и назначением.

Под словом заменить надо ещё и понимать предложение программной платформы. Сколько Нвидиа развивает cuda? Очень долго и постоянно. Всё что выйдет от конкурентов будет бледным подобием, поэтому, напротив, рыночная позиция Нвидиа кажется довольно сильной, их концепция добавления специализированного ускорителя в существующую GPU платформу перебить будет довольно сложно, Гугл, Мета и другие давно производят ускорители для генерации, но обучают до сих пор на железе Нвидиа, это не совпадение, задача сделать железку для генерации и для бучения это очень разные задачи, очень.

Далее, за счет чего другие компании повысят энергоэффективность своих универсальных решений? Почему Нвидиа не сможет внедрить подобные принципы повышения энергоэффективности? Есть сомнения, что это вообще возможно без каких-то кардинальных изменений базы. Надо полагать, что Нвидиа держит руку на пульсе и появление чего-то принципиально нового в обозримое время маловероятно.

Забавно, что все носились с чиплетами, а когда оказалось, что на них начали собирать большие системы потребляющие много энергии почему-то удивились, внезапно-то как! Способ повышения площади чипов на платах привёл как к повышению производительности, так и повышению потребления.

Сколько там банковская система в мире потребляет, не помню чисел, но вовремя майнерской истерии вся вместе взятая крипта блекла по сравнению с потреблением фин.системами.
Scoffer
Member
Аватара пользователя

Сообщение

vmsolver: 23.04.2024 13:10Далее, за счет чего другие компании повысят энергоэффективность своих универсальных решений?
Ні за рахунок чого. У них не універсальні рішення. Універсальні їм не потрібні.
vmsolver: 23.04.2024 13:10Почему Нвидиа не сможет внедрить подобные принципы повышения энергоэффективности?
Тому що універсальне гірше за спеціалізоване рівно в 100% випадків. А якщо нвідія випустить спеціалізоване, то вся куда накриється мідним тазом. Вони самі заручники ніші, котру створили.
vmsolver: 23.04.2024 13:10 задача сделать железку для генерации и для бучения это очень разные задачи, очень.
Взагалі жодних проблем. Ті ж самі тензоропроци тільки не 8-бітні, а 32-бітні. Гугл вчиться на своєму залізі давно і успішно.
vmsolver
Member

Сообщение

Scoffer: 23.04.2024 13:25Ні за рахунок чого. У них не універсальні рішення. Універсальні їм не потрібні.
Ты не понял, Нвидиа засунула специализированное железо внутрь универсального, ничего лучше никто не придумает, совместили лучшее двух подходов, всё в рамках универсальной платформы - не нужно бояться смены архитектуры нейросети, чтобы там не придумали архитектурно нового GPGPU всё посчитает (а узкий матричный ускоритель может потребовать внешних вычислений), и обработка очень быстрая, так как за скорость отвечает специализированное железо. И быстро, и универсально. Для разработки это именно то, что нужно.

Поэтому, если ничего принципиально нового не предложат, то и скинуть Нвидиа с первого места никто не сможет.
Scoffer: 23.04.2024 13:25Гугл вчиться на своєму залізі давно і успішно.
И всё равно почему-то покупают GPU от Нвидиа.
Scoffer
Member
Аватара пользователя

Сообщение

vmsolver
спойлер
Изображение
Гугла з тобою не згодна ні в тому що краще не вигадаєш, ні в тому що треба купляти нвідію, бо так то вони навчають свої нейронки на своїх же TPU, а ні на яких нвідієвських. То тільки перше покоління було 8-бітне.
https://cloud.google.com/tpu/docs/v5p-training
v5p is optimized for large scale training
А різниця в жорі всього-то в 16-29 раз по їхнім замірам :rotate:
vmsolver
Member

Сообщение

Scoffer
vmsolver: 23.04.2024 13:56И всё равно почему-то покупают GPU от Нвидиа.
:lol:
Задумайся, почему это так.
Scoffer
Member
Аватара пользователя

Сообщение

vmsolver
пруфи в студію
vmsolver
Member

Сообщение

Scoffer
Что гугл строит компы с H100? Сам найдёшь, не маленький уже.
Scoffer
Member
Аватара пользователя

Сообщение

vmsolver
Пруфи що гугл будує їх для себе, а не на замовлення. На замовлення вони можуть хоч на хуавеях побудувати. За твої бабки будь-який каприз.
Ответить