Google випускає процесори Axion і нове покоління TPU Ironwood для ШІ

[yuriy_dd]

Пропоную обговорити Google випускає процесори Axion і нове покоління TPU Ironwood для ШІ

Процесори Axion засновані на архітектурі Armv9

а чому не х86?

а - бо це ж тупик

[yurius_r]

Тести на Phoronix дуже комплементарні. Цікаво було б глянути якийсь готовий виріб, як це можливо на Ampere

[Sanьka]

До М4 дотягне ? Чи знову в прольоті?

[-orion-]

Пропоную обговорити Google випускає процесори Axion і нове покоління TPU Ironwood для ШІ

Процесори Axion засновані на архітектурі Armv9

а чому не х86?

а - бо це ж тупик

а чому не М5?

а - бо це ж тупик

[AssayMAS]

х86? а - бо це ж тупик

разве что патентный
И тратить года на суды такое себе удовольствие если есть халява в виде Armv9 и самое главное много "голодных" высококвалифицированных инженеров кто умеет в неё.

Цікаво було б глянути якийсь готовий виріб

не увидишь ибо тогда сможешь сравнить и проголосовать деньгой против.
вначале нейронки были на FP32, потом на FP16, сча на FP8 и FP4... что делает всё железо не умеющее в "FP8 и FP4" мусором. Но потом опять подумали и ввели в эксплатацию нейронки на int8 Tensor Core и единицу измерений TOPS (Tera Operations Per Second = триллионы операций за одну секунду) что бы как то сравнивать "тёплое с мягким" (разносортное "низко бюджетное" железо).

[yurius_r]

AssayMAS

не увидишь ибо тогда сможешь сравнить и проголосовать деньгой против.

Я вже подивився. Я б хотів глянути виконання в стилі плати від Asrock для Ampere

[AssayMAS]

Я вже подивився.

"реклама" что не учитывает кучу узких мест
в статье железо и его режимы работы как бы не рассматривается

виконання в стилі плати від Asrock для Ampere

а покупателем такого рукоблудства кто будет?
сильно нишевый продукт - готовые решения от конкурентов в другом форм факторе что как бы уже почти стандарт.

[yurius_r]

"реклама"

Phoronix трохи про інше

а покупателем такого рукоблудства кто будет?

Ampere купляють, а виходячі із тестів це краще. Тож як мінімум ті ж люди

[AssayMAS]

а виходячі із тестів це краще

железо где?
спеки железа "от и до" где?
конкретная цена и сроки поставок?
независимые обзоры где?
А кичится что прототип лучше конкурента можно - но это ж не серийное изделие с объявленной стоимостью. Может там цена такая что эта железяка никому не нужна в количестве.

[M1Z0]

От интересно - статью кто-то читал?)
"Нові серверні рішення будуть розгорнуті для внутрішніх потреб і хмарної платформи Google Cloud."
Дальше ЦОДов гугла оно никуда не пойдет, а тут уже про готовые устройства и голосование деньгами...

[AssayMAS]

Дальше ЦОДов гугла оно никуда не пойдет, а тут уже про готовые устройства и голосование деньгами...

у вас причина и следствие перепутаны
из за неконкурентоспособной цены пойдёт туда где отказаться не смогут - это ЦОДы гугла, а что бы пальцем в них не тыкали и не смеялись выпускают статью типо Benchmarks Of Google's Axion Arm-based CPU совсем "не за ангажированным" писателем с внезапным намёком мол халява $2.16 в час но никому за такие деньги не продадим ибо "first public" "Google was kind enough to allow me gratis access"...
Так что такое называется бета тест... а без цены нельзя сказать это провал или победа...

[waryag]

Так что такое называется бета тест... а без цены нельзя сказать это провал или победа...

Вопрос именно что в возможности выполнять задачи без радикальной переплаты за количество стоек или электрику. Даже с учетом РнД выйдет гораздо дешевле, чем решения нвидиа, АМД и интел - 300-мм пластина на свежем т/п по цене сравнима с одним ускорителем, которых с нее можно нарезать десятки. Понятно, что остается память, РСВ и связь, но порядок цифр именно таков.

[AssayMAS]

выйдет гораздо дешевле, чем решения нвидиа, АМД и интел

а НИОКР? Или он бесплатен?
Например китайцы пытаются свои вычислители для нейронок научить в ФПС и никак уже третий+ год... не осиливуют финансово - по ФПС плата как 1030, по TOPS для "ИИ" как 4060 и кушает Ватт значительно больше 4060...
Так и тут - как-то что-то считает но ЦЕНА в рознице решит жить этому рукоблудству или нет... и НИОКР может статься большей половине цены в железяке будет.
А покупая например Нвидию ты получаешь готовую экосистему, что "росла" пару десятков лет... а у конкурентов например китайцев просто числодробилки - да чуток лучше считают но нет поддержки пула технологий и универсальности.
Вот 10 летнии карты Нвидии для ускорения вычислений что умеют ТОЛЬКО в FP32\16 до сих пол имеют цену на вторичке, а вот китайские ускорители через пол года как закончилась поддержку уже никому не нужны... ибо секрет секретный ПО, а без ПО это мусор.

[waryag]

а НИОКР? Или он бесплатен?

Я же написал про РнД. У АМД это миллиарды в год на ВСЁ. Уже не запредельно много на фоне многомиллиардных затрат гугла на ускорители.

Например китайцы пытаются свои вычислители для нейронок научить в ФПС и никак уже третий+ год... не осиливуют финансово - по ФПС плата как 1030, по TOPS для "ИИ" как 4060 и кушает Ватт значительно больше 4060...

тем более, гуглу не нужно пытаться обьять все. Достаточно заточить их под отдельные специфичные задачи, а остальное можно гонять и на универсальном чужом железе.
Есть и перспективы развития, и лишний аргумент на переговорах с той же нвидиа.

Відправлено через 2 хвилини 36 секунд:

а вот китайские ускорители через пол года как закончилась поддержку

Ты же понимаешь, что в случае гугла и китайцев поддержку будут обеспечивать ровно столько, сколько нужно себе любимым? И продаваться оно будет большим покупателям с оговоренной поддержкой. Либо вообще спишут, на фоне общих затрат это не играет большой роли.

[AssayMAS]

будут обеспечивать ровно столько, сколько нужно себе любимым? И продаваться оно будет большим покупателям с оговоренной поддержкой. Либо вообще спишут, на фоне общих затрат это не играет большой роли.

ты понимаешь что нельзя родить НОВУЮ коммерчески успешную архитектуру процессора потому что уже 80+% ПО написано под "х86" на этой планете и только недавно что то под андроид уникального запилили. Так и с ускорителями вычислений - экосистема решает об экономической успешности. До андроид сколько было попыток в смартфон ЛИЧНО превозмочь всё и ПО и железо... не выстрелило и там большие деньги задействованы были.
Так и у Гугла железка есть? Есть. Работает: ДА!... а экономическую целесообразность(=прибыль от внедрения) никто не обещал в этом столетии.

[Scoffer]

Так и с ускорителями вычислений

Ні, не так. В умовах штучного дефіциту заліза комерційно успішними зненацька стають всі архітектури, котрі можна купити за гроші.
До того ж для нейронок не те що немає сталого софту чи бібліотек, там немає навіть сталого стандарту форматів даних і домовитись ні про що не здатні. Ситуація як з компухтерами приблизно в 60х.

[yuriy_dd]

а чому не М5?

від Гугл - на АРМ, М5 - на АРМ - чому гугл має використовувати продукт іншої компанії коли їм краще зробити свій під свої потреби?
ви би хоч трішки логіку включали
АРМ - дає можливості кожному клієнту зробити що він хоче
х86 - дає лише готове лайно, бери і жри

ты понимаешь что нельзя родить НОВУЮ коммерчески успешную архитектуру процессора потому что уже 80+% ПО написано под "х86" на этой планете

де ви таку маячню берете? софт написаний на умовному С - який просто перекомпільовується і тестується - що Гугл саме зараз і робить
гроші в компілятори вкладаються дуже великі всіма - почитайте про LLVM і думайте тріши перед тим як писати

[AssayMAS]

софт написаний на умовному С

в основном софт лежит в виде - *.exe никакими Сями там и не пахнет, коммерчески успешный софт в исходниках не валяется.
А что у вас "перекомпільовується і тестується" "просто" то это показатель далёкости от ИТ.

гроші в компілятори вкладаються дуже великі всіма - почитайте про LLVM і думайте тріши перед тим як писати

как мне это поможет *.exe или *.dll превратить в код?
Что бы по вашей "маня теории" перекомпилировать под другую архитектуру проца... причём влёт без кучи просратого времени.

Ситуація як з компухтерами приблизно в 60х.

ты еще скажи что как в СССР - где палка трудодня важнее прибыли.

немає навіть сталого стандарту форматів даних

Как это нет стандарта - а NPU в процессоре это что? Да пока в пользовательском ЭВМ, но не за горами и в серверном сегменте... . Нейронки на удалёнке это ж терминал, а оно было из за дороговизны полноценных ПК.
MMX или SEE когда вышли тоже по году другому без дела висели, так и версии NPU будут развиваться...
Сча нейроки жрут МегаВатты - как первые ПК... но когда-то количество перейдёт в качество - таков закон времени.

[Scoffer]

Как это нет стандарта - а NPU в процессоре это что?

А отак немає. Подивись формати даних нпу аплє, квалкома, ібм, амд, інтела і нвідії, і знайди 10 відміностей. Під кожен треба софт окремо писати. Вони тільки в 23му вперше вирішили зібратись і накидати стандарт щодо microscaling formats. Вийшло якось не дуже. Можлива занадто широка інтерпритація стандарту і багато варіацій реалізації, котрі вбивають в нуль ідею сумісності.

Відправлено через 3 хвилини 39 секунд:
І зовсім не факт що взагалі до чогось колись домовляться. Та ж віртуалізація, наприклад, абсолютно несумісна ні в кого ні з ким вже не перше десятиліття.

[yuriy_dd]

в основном софт лежит в виде - *.exe никакими Сями там и не пахнет, коммерчески успешный софт в исходниках не валяется

та невже? що компанія яка розробляє софт - не має коду, що компілюється?
а під Лінукс - теж ехе?

А что у вас "перекомпільовується і тестується" "просто" то это показатель далёкости от ИТ.

ваша маячня про софт лежить в exe - оце показник близькості до ІТ