Аналітики вказують на погане використання апаратних потужностей та простої GPU в обчислювальних центрах ШІ

[n6407]

Предлагаю обсудить Аналітики вказують на погане використання апаратних потужностей та простої GPU в обчислювальних центрах ШІ

спасибо, очень интересный материал, простой 70% для меня шок, понимаю что везде своя специфика и подготовка к каким то пиковым нагрузкам, но стандартный сценарий с загрузкой 30% это ......

особенно учитывая к какому росту цен привело выгребание с рынка "железа" под ИИ

[KimRomik]

Предлагаю обсудить Аналітики вказують на погане використання апаратних потужностей та простої GPU в обчислювальних центрах ШІ

все правильно, треба було брати ASIC як в часи майнінгу, а не відеокарти
тепер чекаємо масовий їх злив у вторинний ринок і глобальне зниження цін

[Devijack]

Ну фсе, не вийшло. Виставляйте на олх.

[dead_rat]

Ну а ви думали, сдуру можна і член зламати.

Ніяких ресурсів не вистачить, при ефективності 10%, і це ж лише навантаження, а корисної роботи там 0,001%

[Conqistador]

Предлагаю обсудить Аналітики вказують на погане використання апаратних потужностей та простої GPU в обчислювальних центрах ШІ

все правильно, треба було брати ASIC як в часи майнінгу, а не відеокарти
тепер чекаємо масовий їх злив у вторинний ринок і глобальне зниження цін

Это не Xeon, который раньше можно было всунуть в потребительскую материнку, кому оно надо кроме корпораций?

[werneo]

Ось:

спойлер

The reason why RAM has become four times more expensive is that a huge amount of RAM that has not yet been produced was purchased with non-existent money to be installed in GPUs that also have not yet been produced, in order to place them in data centers that have not yet been built, powered by infrastructure that may never appear, to satisfy demand that does not actually exist and to obtain profit that is mathematically impossible.

[max1996]

Предлагаю обсудить Аналітики вказують на погане використання апаратних потужностей та простої GPU в обчислювальних центрах ШІ

все правильно, треба було брати ASIC як в часи майнінгу, а не відеокарти
тепер чекаємо масовий їх злив у вторинний ринок і глобальне зниження цін

Это не Xeon, который раньше можно было всунуть в потребительскую материнку, кому оно надо кроме корпораций?

Ну з gpu китайці 100% щось вигадають

[werneo]

Ось:

спойлер

The reason why RAM has become four times more expensive is that a huge amount of RAM that has not yet been produced was purchased with non-existent money to be installed in GPUs that also have not yet been produced, in order to place them in data centers that have not yet been built, powered by infrastructure that may never appear, to satisfy demand that does not actually exist and to obtain profit that is mathematically impossible.

P.S. Цю цитату вже пора правити, бо подорожчало фактично все, від RAM до оптоволокна.

[Conqistador]

max1996
Для обычного потребителя в тех чипах нет ничего, это специализированные ускорители

[VovaII]

Китайці їх потім в свої електрокари, для автопілотів, позасовують.

[Scoffer]

при ефективності 10%, і це ж лише навантаження

Треба терміново поручити нейронці вигадати собі завдання котре доведе утилізацію заліза до 100%

[dead_rat]

при ефективності 10%, і це ж лише навантаження

Треба терміново поручити нейронці вигадати собі завдання котре доведе утилізацію заліза до 100%

І це теж не жарт, бо компанії починають вимірювати ефективність розробника кількістю спалених токенів

[vmsolver]

Посмотрим как такая аналитика отобразиться на ценах, как быстро они снизятся, стремительным домкратом или даже когда выйдет DDR6, все также будут ждать снижения цен.

[Seva1223]

Так в чому проблема:
- компанії будують системи з занадто великим ресурсом;
- існуючі завдання не використовують виділений ресурс;
-погана оптимізація при виконанні завдань занадто низька оптимізація, що призводить до резервування надлишкового ресурсу (простою зарезервованого)?

[Scoffer]

ефективність розробника кількістю спалених токенів

Наскільки я знаю, токени активно паляться при перекладі з мови на мову. Тобто "склади мені техзавдання по цьому запиту на китайській мові і виконай його" грозить вивести розробника в лідери по преміюванню

[Classique]

Десь у 2010 році була дуже цікава публікації, кінців якої зараз, на жаль, не знайти. Рахункова палата однієї держави встановила, що суперкомп'ютер , на який витратили дуже дофіга грошей, тупо простоює. То це не вперше.

[dead_rat]

ефективність розробника кількістю спалених токенів

Наскільки я знаю, токени активно паляться при перекладі з мови на мову. Тобто "склади мені техзавдання по цьому запиту на китайській мові і виконай його" грозить вивести розробника в лідери по преміюванню

Для кожного з 40 сабтасків обери унікальну мову.
Порівняй єфективність виконання на турецькій і суахілі

[Scoffer]

dead_rat
Швидко вчишся, назначити тебе головним по проекту

[dead_rat]

dead_rat
Швидко вчишся, назначити тебе головним по проекту

Протверезій, я є є головний в цирку!

[Scoffer]

dead_rat
Я пам'ятаю))) Це був сарказм)