Huawei анонсувала нові чипи для ШІ — Ascend 960DT із 288 ГБ пам’яті з’явиться вже у 2027 році

[dead_rat]

Пропоную обговорити Huawei анонсувала нові чипи для ШІ — Ascend 960DT із 288 ГБ пам’яті з’явиться вже у 2027 році

Всі ресурси людства заради генераціі слопа.

[yariksom]

Всі ресурси людства заради генераціі слопа.

Генерація слопа це те, що ти можеш осягнути?

У ШІ є багато способів застосування.

Взагалі це дуже великі можливості, проте не всі доступні звичайному споживачу.

[Scoffer]

Взагалі це дуже великі можливості отупіння

fixed

[dead_rat]

yariksom
Бюджет на АІ в моєму департменті близько 5 мільйонів $ до кінця року(тобто на 3.5 місяці що лишилося). Я плюс мінус бачу Return on investment.

А скільки ти можеш дозволити србі, щоб оцінити перспективи яких я не можу усвідомити?

Відправлено через 46 хвилин 42 секунди:
АІ мав:

1. Дати економічне зростання - ніколи не сталося
2. Зменшити поголівʼя працівників - ніколи не сталося
3. Підняти продуктивність - ми зараз тут.

Поки що левова частка успіху це просто кнутом заставити працівників пахати більше.
Навіть у кодингу успіхи дуже сумнівні - от мені дали вайбкожений проект для толкового бізнес кейсу - 500 000 строк кода все що можна перевірити, це які збитки будуть коли воно впаде - якщо невеликі, то покласти в прод і хай користуються.

[Demedik]

Подпишусь под словами dead_rat . У нас используют на проекте Клод, но его можно использовать только когда сидит хороший спец. и следит за ним. Доверие к его коду у нас - уровень трейни. Надо все проверить и поправить. Сам код и ответственность за него принадлежит разрабу. Может ли ускорить ИИ разраба - да, может... но чтобы это было качественно - работать с ним должен человек уровня Синьора. И не будет каких-то диких приростов... у нас стоит показатель - мы должны тратить 75% времени на задачи вместе с ним.

+ не стоит забывать про то, что сейчас ИИ дешевый... компании не прибыльные. Т.е. как только начнет гореть - сразу взвинтят цены ИИ старомодный мясной рабочий внезапно будет очень выгодный... но проблема в том, что люди/бизнесы построили процессы вокруг ИИ. И это будет оооочень больно. Я собственно поэтому брал себе ноут специально под ИИ. Теперь могу сидеть и наблюдать за этим без страха, что мои процессы как-то поломаются.

Да и локалки как бы сейчас уже не сильно далеко от передовых моделей... diminishing returns как они есть.

Какая обстановка с ИИ по прибыльности можно смотреть здесь:

спойлер

https://isaiprofitable.com/

[dead_rat]

Demedik
Сайт вражає, особливо якщо зрозуміти, що усі компанії в списку намагаються заробити, здаючи датацентри в аренду ОпенАІ та Антропік

Тобто практично весь справжній дохід це 32Б Опенаі + 22В Антропіка на десь 1900В вкладень

[Scoffer]

dead_rat
Мене більше вражає настирливість впарювання шішечки. Воно ж вже зараз очевидно що капітальні витрати не окупляться ніколи, банально залізо протухне швидше ніж прибуток піде, це не кажучи вже про електрику і інші супутні витрати.
Щоб окупилось треба підвищувати відпускні ціні на ші-послуги в десятки раз. А кому вони всрались за такі гроші. Стадо індусів сильно дешевше.

Відправлено через 3 хвилини 38 секунд:
Мотивація хуанга зрозуміла, але категорично незрозуміла мотивація того ж мілкософту і амазону. Ну не розбагатішають вони на цій темі.

[vmsolver]

О, снова это нытьё про якобы ИИ что-то всем должен

LLM-ки это инструмент, вот в какой момент и какому умнику пришло в голову, что инструмент придёт и сделает всё хорошо САМ? Накидали на бедную ии-шечку своих больных проекций и ругают что ИИ тупой и не настоящий

Вот увидели топовые компании в LLM перспективу, прежде всего как то, что лучше чем всё что было ранее, и начали монополизировать рынки, для этого надо построить кучу датацентров и инфраструктуры к ним (связь, энергетика, логистика), в эту хрень эти компании и вкладывают кучу денег, и прежде всего вкладывали свои деньги, там под триллион суммарно за пару лет только своих денег, даже если это всё испариться, ничего не станется, а оно не испариться, там вполне себе современное оборудование, стареть оно будет медленнее чем консьюмерское, это не взять сейчас GTX 1080 и пытаться что-то считать на ней, то оборудование имеет много памяти и не плохие характеристики. То, что взяли в долг выше этого, то кто знает, может вложить в оборудование выгоднее чем в акции, которые могут упасть не в разы, как железо, а в сто раз, поэтому пусть они сами занимаются своим риск-менеджментом.

По сути, всё это нытьё про "плохой ИИ" можно охарактеризовать как "имитация пессимизма", пессимизм всегда выглядит умнее оптимизма или реализма, но это не всегда так.

Когда внедрялись компьютеры, всё было абсолютно точно также, компания внедрившая ЭВМ не стала зарабатывать больше - основное обвинение нытиков сейчас, но оглянитесь вокруг, все компании сейчас обмазаны ПК, потому что это инструмент, как и LLM, от того, что контора закупит 50 ПК никто же не ждёт, что она станет из-за этого зарабатывать больше? Почему LLM-ки обвиняют в этом? Абсурд!

Может для менеджеров без результатов это прекрасное обоснование своих просчетов, но инструменты не виноваты в том, что люди не способны реализовать потенциал инструментов сразу, а тем более, когда появился новый инструмент и его пробуют где надо или не надо, это тоже нормальный процесс развития.

Компания может набрать дополнительных 100 человек, просто потому что ожидает дополнительной нагрузки через полгода, никто не задаётся вопросом сколько денег это должно принести компании (нисколько), это просто снижение риска в будущем. А тут оказывается LLM виноваты, деньги сами в клюве не приносят

https://isaiprofitable.com/

А что там должно быть, если несколько лет в инфраструктуру будут вкладывать?

Интересно, сколько Китай вложил в энергетику и датацентры

[leif]

vmsolver
яку ж базу видали моя повага

[Scoffer]

стареть оно будет медленнее чем консьюмерское

Одразу видно що з серверами справи ніколи не мав. Через 6 років закінчується розширена післяпродажна гарантія і сервера списуються в утиль. І це не просто така забавна дата. За цей час маслання 24/365 вичерпують ресурс всі винти щонайменше двічі, і вся оператива починає масово сипатись есс помилками. БЖ туди ж під заміну. І того від сервера залишається лише коробка і вже енергетично неефективний проц.

[vmsolver]

Мене більше вражає настирливість впарювання шішечки.

Есть такое, самое забавное, что OpenAI больше всех в этом плане надоел, давай ванговать, чтобы он обанкротился, пусть станет жертвоприношением ии-нытикам, чтобы успокоились ))

Відправлено через 2 хвилини 17 секунд:

Через 6 років

Это же не три года, как ранее пишут. Далее, мне кажется, но я точно не знаю, утилизация GPU меньше чем CPU, поэтому ты написал то, что наблюдают для CPU, для GPU этот срок может быть длиннее. Но определить на сколько, данных мало. В любом случае, это не три года, а в разы больше.

[Scoffer]

vmsolver
3 роки це стандартна гарантія від хуанга. Якщо ти хочеш 5 років, то ти маєш купити так званий крітікал сапорт на 5 років, інакше підеш лісом з будь-якими питаннями включно з драйверними. Вартість цієї забави порядку 10% вартості карти на рік. І того ще бабосів на піввідюхи на бочку будь ласка. Після 5 років жорсткий і безваріантний EOL з утилізацією на китайські розбірки.

Відправлено через 3 хвилини 56 секунд:
Капіталовкладення в сервер мають окупитись за один рік це максимальний максимум. Тому що супутніх витрат там ще достобіса, а треба б ще й прибуток отримати. Поки що я не бачу щоб воно окупилось і за 10.

[Аціо]

Всі ресурси людства заради генераціі слопа.

Генерація слопа це те, що ти можеш осягнути?

У ШІ є багато способів застосування.

Взагалі це дуже великі можливості, проте не всі доступні звичайному споживачу.

Ну гаразд давайте їх осягнемо разом!
Адже ШІ дійсно має великі можливості, але напряму загрожує становищу наприклад політичних та привладних еліт, тому навіть нехай не сподівається, отож далі ШІ-слопа ніхто його не випустить, отож dead_rat цілком об'єктивний.

[vmsolver]

Капіталовкладення в сервер мають окупитись за один рік це максимальний максимум.

Это в обычное время и в обычном бизнесе, а когда речь о новом рынке, дохода можно подождать дольше, растянуть время эксплуатации и так далее. Просто смотрим на реалии, их цель не просто получить деньги назад, а не дать Китаю закрепиться на рынке, им нужна монополия на мировом рынке, ибо она и есть гарантия возврата инвестиций.

[yariksom]

Взагалі це дуже великі можливості отупіння

fixed

Ну не можна ігнорувати, що ШІ принесе глобальне отупіння для 95% населення, головним завданням стане увійти в 5%, або ж збільшити цей відсоток, чим не стимул для розвитку?

[Scoffer]

vmsolver
Ти не можеш розтягнути період експлуатації тому що залізо в серверному режимі активно зношується. Це тобі не домашній компухтер інтел пентіум 2 ммх. Окрім того що зношується залізо, ти залежний від підтримки залізячного вендора. Не дасть хуанг тобі свіжий драйвер, скаже йти купляти нову відяху, і що ти йому зробиш? Те ж саме з патчами на бівіс, секьютними там чи ще якимись. Немає їх після закінчення гарантії і все тут.
Так що гівно ваш бізнес-план

[Rabbitultra]

yariksom
Бюджет на АІ в моєму департменті близько 5 мільйонів $ до кінця року(тобто на 3.5 місяці що лишилося). Я плюс мінус бачу Return on investment.

А скільки ти можеш дозволити србі, щоб оцінити перспективи яких я не можу усвідомити?

Відправлено через 46 хвилин 42 секунди:
АІ мав:

1. Дати економічне зростання - ніколи не сталося
2. Зменшити поголівʼя працівників - ніколи не сталося
3. Підняти продуктивність - ми зараз тут.

Поки що левова частка успіху це просто кнутом заставити працівників пахати більше.
Навіть у кодингу успіхи дуже сумнівні - от мені дали вайбкожений проект для толкового бізнес кейсу - 500 000 строк кода все що можна перевірити, це які збитки будуть коли воно впаде - якщо невеликі, то покласти в прод і хай користуються.

Поголів'я працівників знизилося, але є нюанс

[vmsolver]

Ти не можеш розтягнути період експлуатації тому що залізо в серверному режимі активно зношується. Це тобі не домашній компухтер інтел пентіум 2 ммх. Окрім того що зношується залізо, ти залежний від підтримки залізячного вендора. Не дасть хуанг тобі свіжий драйвер, скаже йти купляти нову відяху, і що ти йому зробиш? Те ж саме з патчами на бівіс, секьютними там чи ще якимись. Немає їх після закінчення гарантії і все тут.
Так що гівно ваш бізнес-план

Я не могу, а производители могут, до 5 лет можно легко растянуть, во вторых сервак может быть 2 года на обучении новых моделей, а остальные 3-4 на инференсе, который сильно проще. Так что, при желании, это всё решается. А НВ и другие производители вполне этого желают.
Так что "гівно" ваш пессимизм

[Vladimir]

Відверто стурбований ші міопією наших форумчан.
Дуже схоже як плювалися не електрички 5-10 років тому.

Капіталовкладення в сервер мають окупитись за один рік це максимальний максимум.

Это в обычное время и в обычном бизнесе, а когда речь о новом рынке, дохода можно подождать дольше, растянуть время эксплуатации и так далее. Просто смотрим на реалии, их цель не просто получить деньги назад, а не дать Китаю закрепиться на рынке, им нужна монополия на мировом рынке, ибо она и есть гарантия возврата инвестиций.

Отправлено спустя 4 минуты 43 секунды:
По перше, це 20/80.
Теж саме можна сказати про інтернет та соц медіа.
В принципі, будь яка проривна технологія ділить людство на тих хто вміє нею користуватися та просто споживачів контенту.

fixed

Ну не можна ігнорувати, що ШІ принесе глобальне отупіння для 95% населення, головним завданням стане увійти в 5%, або ж збільшити цей відсоток, чим не стимул для розвитку?

[dead_rat]

Когда внедрялись компьютеры, всё было абсолютно точно также, компания внедрившая ЭВМ не стала зарабатывать больше -

ти ж жартуєш? Коли внедрили компи, Валмарт з місцевого супермаркету зміг вирости у всеамериканську мережу і саму дорогу компанію світу свого часу. чисто завдяки можливості рахувати що є на складі швидше за журнал.

І це був кінець 1970х якщо не помиляюся. (Ibm computers to track inventory- 1975)

Тобто там можливості улітали в космос - причому в прямому смислі.