Спеціалізовані серверні процесори Microsoft Cobalt 200 отримали 132 ядра ARM

[VRoman]

"Одной из инноваций является гибкое индивидуальное управление питанием, что позволяет каждому ядру работать на разной частоте" - давно пора. Когда Интел переместила регулятор питания под крышку проца, я ещё не понимал зачем. А вот для много-много ядерных решений с индивидуальным контролем напряжения каждого ядра раздельно, эта фича бы как раз и пригодилась.

Ви плутаєте індивідуальний контроль частот з індивідуальним контролем напруг: перше з'явилося лише в Rocket Lake (не знаю про AMD), друге фізично не існує взагалі бо є лише спільний Power Plane для всіх ядер, а далі або LDO(AMD), або DLVR(Intel 15+), або нічого (Intel 14-), з відповідними і неминучими втратами

Я просто неясно выразился. Регулировка частоты без изменения напряжения это малоэффективно. Я как раз к тому и говорю, что ещё бы и напряжение отдельно менять вместе с частотой на каждом ядре независимо, вот это было бы дело.

[Scoffer]

я не сумнівався що за свої слова ви не готові відповідати

Ха-ха-ха

я знаю про ці контори - може щось і випускають, але воно не конкурентне

Гравці? гравці
Нові? нові
Хто за слова не відповідає?

чому Амазон, Гугл, Майкрософт - не захотіли зявитись як незалежними гравцями на ринку х86?

Тому що вони не є ніякими незалежними гравцями. Вони купили ГОТОВЕ ядро і перепродають його. Ніхто з них не те що ядро, а навіть обв'язку не робив. Все що вони зробили це модне гравірування на кришці процесора. Тим часом у китайців ядра х86 модификовані. Як мінімум додані расово китайські шифрування і зонди. А zhaoxin взагалі далеко відійшов від оригінальних розробок віа.

у Епл М проців - стороння реалізація?

Поки є діюча ліцензія. У нвідії ліцензія закінчилась, і їм довелось купляти у арма готове ядро за наявності свого власного.

трохи не за те судиться

Саме за те.

маєте докази?

Апле активно наймає інженерів з досвідом ріскви. Мабуть тому що арм перспективна

знаєте конкуручі до АРМ рішення - щоб такі ж швидкі були?

х86

сильно програла?

Так, програла радикально тому що її власне рішення мало підтримку sequential consistency, чого не має жодне стокове ядро арма. Мішн-крітікал завдання, котрі працювали на ранніх теграх, тепер під великим питанням на пізніх теграх. Софт як мінімум доведеться переписати, як максимум ще і повторно пересертифікувати в усяких авіа, автомотів і біля того.

[ArmagedoonZergs]

Так зараз усі роблять під свої ДЦ щось кастомне. Amazon має свої Graviton, Google має свої Axion

так на цих всіх ARM досі мало що працює,
а з MS так взагалі незрозуміло - хто цей Cobalt має використовувати в Azure, якщо вінда на ньому не працює взагалі (а не заради вінди в Azure і сенса йти немає)

Що за брєд про вінду. В Azure by far найкраща Active Directory з якою неможливо порівнювати щось ще. + він дешевше.

Ми всі наші робочі навантаження вже як рік перевели на АРМ. Ціни х2 дешевше, а продуктивність така сама.

Відправлено через 3 хвилини 19 секунд:

yuriy_dd
Мені пофігу що ти там думаєш і уявляєш. Не так давно створені контори zhaoxin (2013) i hygon (2016) випускають ліцензійно чисті х86 процесори.
Чи з'явиться наступного року новий гравець залежить виключно від бажання цього гравця з'явитись.
Тим часом ARM заборонила всі сторонні реалізації ARM-ядра, через що і судиться з квалкомом, і, відповідно, ніяких нових сторонніх ядер ARM не намічається, в осяжному майбутньому так точно. Та ж аплє вже продумує запасний варіант з'їжджання на ріскву, на випадок якщо не вдасться домовитись коли термін поточної ліцензії закінчиться, а нвідії вже зараз довелось з'їхати з власного ядра на стокове.

Кста, офф топ. А як буде вирішуватись на risc-v зоопарк різних кастомних інструкцій і ядер, зі сторони софта (Linux)?

[Scoffer]

А як буде вирішуватись на risc-v зоопарк різних кастомних інструкцій і ядер, зі сторони софта (Linux)?

У аплє - батогом, у інших - та ніяк. Хто і є тупіковим шляхом розвитку так це risc-v. Просто конкретно еплу воно підходить. Ну може ще гугл теж батогом зможе, тільки у нього особливої мотивації немає.

[pawn]

Ох знали б ви, хто цей Юра по факту є, в яких умовах і де живе)))) але з етично-моральної точки зору не буду компрометувати
Це той випадок, що срати ходить у відро, але з м4
Це такій треш.

[Scoffer]

Active Directory з якою неможливо порівнювати щось ще

Мене оце завжди смішать віндовбивці на лінуксах, у котрих немає жодної притомної служби каталогів. А саме забавне що це не винахід вінд, служби каталогів прийшли зі старих "важких" юніксів. Технології більш високорозвинених пращурів

[tornadox]

виходьте з коми:
- Amazon - найбільша хмара світу - 2/3 обчислень на ARM
- в Microsoft весь софт скомпільований для ARM, навіть драйвера
- Google Android - тут і так все ясно
- основні обчислення сучасності - ШІ - для управління Nvidia перейшла тільки на ARM, замовлень міліони на сотні міліардів, 2/3 всіх чіпів світу, на роки наперед,
все тому що за 64 ядра на 560мм2 кремнію AMD дре 10 000, а аналогічний свій чіп - максимум 250.
Фактично ядра сучасні займають менше 5% пластини, 1-1,5мм2 на ядро, решту це кеші/шини/живлення/мережі і т.п. Купляєте готові IP, платите за компіляцію кристалу/чіпа, а далі плата лише за пластини - 0,3-0,4 дол. за мм2 на 3нм, тобто кристал 400мм2 за 150-160, 2х800мм2=500-600 разом зі спайкою.

порівнюєш абсолютно різні речі.
Amazon не продає "ARM", Amazon продає сервіс. Вони замовляють кастомні конфіги під свої задачі, мають власні команди що оптимізують і компілюють софт під свій датацентр. Кінцевому користувачу взагалі байдуже що крутиться під CDN, хоч ARM, хоч MIPS. Там ядра можуть бути заточені під вузькоспеціальні операції які в звичайному ПК просто не потрібні.

З драйверами теж все не так райдужно. "весь софт Microsoft під ARM" звучить красиво, але драйвери для найпоширеніших речей, наприклад відеокарт, відсутні. Нема нормальних драйверів від Nvidia, нема від AMD, максимум якесь базове WDDM. Виходить що Windows on ARM існує багато років, але в нормальне масове використання не зайшла саме через відсутність підтримки заліза.

Microsoft разом з Qualcomm вже кілька років пробують протистояти Apple… але поки що програють по всіх фронтах, крім ціни. По продуктивності, по енергоефективності, по стабільності софту – всюди відставання. І це ще без урахування того що під x86 існує буквально незліченна кількість софту який роками заточувався під цю архітектуру. ARM цього не має.

Azure на ARM? ну от і відповідь. Якщо навіть Microsoft не поспішає переводити свою хмару на ARM, значить економія там далека від тої казки яку малюють фанати ARM. До того ж половина Azure працює на Linux – бо навіть вони визнають що для серверного навантаження Linux вигідніший.

Google з Chromebook теж гарний приклад. Кінцевому користувачу здавалося би все одно що там усередині… але моделі на ARM продаються в рази гірше. І виходить що якщо навіть у сегменті ультрабюджетних де ARM мав би бути ідеальним – він не зайшов, то що вже говорити про десктопи і робочі машини.

Grace CPU – це не ARM для "всіх", це ARM як подавач даних до GPU в задачах де все крутиться на NVLink і HBM. В AI важлива масштабованість, а не те наскільки добре там працює умовний Lightroom. Nvidia вибрала ARM тому що їх можна кастомізувати під кластерні задачі і тому що ARM банально дешевший. Але головна цінність Nvidia не ARM, а GPU і інтерконекти.

Apple повністю провалилась у серверному сегменті. Їх Xserve здох, нікому він був не потрібен, бо сервери на ARM тоді були нікому не потрібні. Навіть зараз, коли ARM став популярнішим, Apple не повернулася на цей ринок, бо не має ані інфраструктури, ані стека, ані компетенцій. Їх ARM-чіпи гарні тільки всередині їх закритої екосистеми.

Єдина їх робоча станція яка ще дозволяла ставити сторонні карти розширення - згорнута. Все, кінець. Ставка зроблена на Mac Studio, повністю закритий ящик без апгрейдів. Це рішення чітко показує що Apple не планує грати на ринку професійного заліза та серверів, бо ARM у них заточений під мультимедію і енергоефективність, а не під реальні workstation-навантаження.

От Юра постійно міксує всі ці сегменти докупи, ніби це один ринок. Він бачить що ARM добре працює у спеціалізованих серверах чи IoT і автоматично робить висновок що ARM "переміг всюди". Але це не так. У кожного сегмента свої вимоги, і те що працює в датацентрі зовсім не факт що працюватиме у масових ПК або workstation.

і якщо ARM такий всемогутній, то чому ж тоді весь світ зараз паралельно вкладається в RISC-V?
Бо саме RISC-V вважають майбутнім для кастомних рішень. Вільна архітектура, без ліцензійних платежів і з можливістю робити що хочеш. У перспективі саме RISC-V стане тим що зараз є ARM у серверах, і тому всі великі гравці страхуються наперед.

[ArmagedoonZergs]

Active Directory з якою неможливо порівнювати щось ще

Мене оце завжди смішать віндовбивці на лінуксах, у котрих немає жодної притомної служби каталогів. А саме забавне що це не винахід вінд, служби каталогів прийшли зі старих "важких" юніксів. Технології більш високорозвинених пращурів

Я скоріше про Azure Entra ID коли у тебе через sso працює все, починаючи з офіса і тімза закінчуючи всим корпоративним софтом.
В гугла/aws такого немає. І для багатьох компаній це вже причина сидіти на Azure. Т.к внутрішні сервіси там для більшості користувачів однакові.

Відправлено через 2 хвилини 18 секунд:

виходьте з коми:
- Amazon - найбільша хмара світу - 2/3 обчислень на ARM
- в Microsoft весь софт скомпільований для ARM, навіть драйвера
- Google Android - тут і так все ясно
- основні обчислення сучасності - ШІ - для управління Nvidia перейшла тільки на ARM, замовлень міліони на сотні міліардів, 2/3 всіх чіпів світу, на роки наперед,
все тому що за 64 ядра на 560мм2 кремнію AMD дре 10 000, а аналогічний свій чіп - максимум 250.
Фактично ядра сучасні займають менше 5% пластини, 1-1,5мм2 на ядро, решту це кеші/шини/живлення/мережі і т.п. Купляєте готові IP, платите за компіляцію кристалу/чіпа, а далі плата лише за пластини - 0,3-0,4 дол. за мм2 на 3нм, тобто кристал 400мм2 за 150-160, 2х800мм2=500-600 разом зі спайкою.

порівнюєш абсолютно різні речі.
Amazon не продає "ARM", Amazon продає сервіс. Вони замовляють кастомні конфіги під свої задачі, мають власні команди що оптимізують і компілюють софт під свій датацентр. Кінцевому користувачу взагалі байдуже що крутиться під CDN, хоч ARM, хоч MIPS. Там ядра можуть бути заточені під вузькоспеціальні операції які в звичайному ПК просто не потрібні.

З драйверами теж все не так райдужно. "весь софт Microsoft під ARM" звучить красиво, але драйвери для найпоширеніших речей, наприклад відеокарт, відсутні. Нема нормальних драйверів від Nvidia, нема від AMD, максимум якесь базове WDDM. Виходить що Windows on ARM існує багато років, але в нормальне масове використання не зайшла саме через відсутність підтримки заліза.

Microsoft разом з Qualcomm вже кілька років пробують протистояти Apple… але поки що програють по всіх фронтах, крім ціни. По продуктивності, по енергоефективності, по стабільності софту – всюди відставання. І це ще без урахування того що під x86 існує буквально незліченна кількість софту який роками заточувався під цю архітектуру. ARM цього не має.

Azure на ARM? ну от і відповідь. Якщо навіть Microsoft не поспішає переводити свою хмару на ARM, значить економія там далека від тої казки яку малюють фанати ARM. До того ж половина Azure працює на Linux – бо навіть вони визнають що для серверного навантаження Linux вигідніший.

Google з Chromebook теж гарний приклад. Кінцевому користувачу здавалося би все одно що там усередині… але моделі на ARM продаються в рази гірше. І виходить що якщо навіть у сегменті ультрабюджетних де ARM мав би бути ідеальним – він не зайшов, то що вже говорити про десктопи і робочі машини.

Grace CPU – це не ARM для "всіх", це ARM як подавач даних до GPU в задачах де все крутиться на NVLink і HBM. В AI важлива масштабованість, а не те наскільки добре там працює умовний Lightroom. Nvidia вибрала ARM тому що їх можна кастомізувати під кластерні задачі і тому що ARM банально дешевший. Але головна цінність Nvidia не ARM, а GPU і інтерконекти.

Apple повністю провалилась у серверному сегменті. Їх Xserve здох, нікому він був не потрібен, бо сервери на ARM тоді були нікому не потрібні. Навіть зараз, коли ARM став популярнішим, Apple не повернулася на цей ринок, бо не має ані інфраструктури, ані стека, ані компетенцій. Їх ARM-чіпи гарні тільки всередині їх закритої екосистеми.

Єдина їх робоча станція яка ще дозволяла ставити сторонні карти розширення - згорнута. Все, кінець. Ставка зроблена на Mac Studio, повністю закритий ящик без апгрейдів. Це рішення чітко показує що Apple не планує грати на ринку професійного заліза та серверів, бо ARM у них заточений під мультимедію і енергоефективність, а не під реальні workstation-навантаження.

От Юра постійно міксує всі ці сегменти докупи, ніби це один ринок. Він бачить що ARM добре працює у спеціалізованих серверах чи IoT і автоматично робить висновок що ARM "переміг всюди". Але це не так. У кожного сегмента свої вимоги, і те що працює в датацентрі зовсім не факт що працюватиме у масових ПК або workstation.

і якщо ARM такий всемогутній, то чому ж тоді весь світ зараз паралельно вкладається в RISC-V?
Бо саме RISC-V вважають майбутнім для кастомних рішень. Вільна архітектура, без ліцензійних платежів і з можливістю робити що хочеш. У перспективі саме RISC-V стане тим що зараз є ARM у серверах, і тому всі великі гравці страхуються наперед.

Ти плтаєш тепле з мяким.
Є "consumer" маркет про який ти тут написав простиню.
А є enterprise маркет. Де увесь софт крутиться в докер контейнері. І все що тобі треба щоб запустити його на арм - зібрати arm імейдж.
І все. Про це і мова. Крутити софт на АРМ в хмарах зараз х2 дешевше чим на х86.
І все що ти тут розпинаєшся це не має значення.
Ми буквально рік назад перевели всі worker ноди в AKS кластерах з х86 на АРМ, тим самим зрізали витрати з 60к юсд в місяць до 30к.
Із топ10 самих популярних віртуалок в Azure зараз - топ8 - АРМ.

[AssayMAS]

є нові ноути на її процах?

ага в 2010-2015 и не взлетело
Via сча в колаборации с Китайским Zhaoxin принимает участие в создании совместимых х86 процов и SoC
Вот тута табличка что Виа дала процы китаю https://ru.wikipedia.org/wiki/Zhaoxin

Відправлено через 3 хвилини 53 секунди:

Крутити софт на АРМ в хмарах зараз х2 дешевше чим на х86.

в плане кушанья Ватт? Или разработки полного цикла на ПО (много готового в экосистеме)? Или в цене ВСЕГО железа за тот де попугай?

[1234waltz]

За ARM майбутнє, але чомусь найбільший кластер Azure для суперкомпьюта, який на 5 місці в світі по продуктивності, з загадкових причин, на Зіонах

спойлер

Та Убунту

Так багато питань, так мало відповідей.

[tornadox]

Ти плтаєш тепле з мяким.
Є "consumer" маркет про який ти тут написав простиню.
А є enterprise маркет. Де увесь софт крутиться в докер контейнері. І все що тобі треба щоб запустити його на арм - зібрати arm імейдж.
І все. Про це і мова. Крутити софт на АРМ в хмарах зараз х2 дешевше чим на х86.
І все що ти тут розпинаєшся це не має значення.
Ми буквально рік назад перевели всі worker ноди в AKS кластерах з х86 на АРМ, тим самим зрізали витрати з 60к юсд в місяць до 30к.
Із топ10 самих популярних віртуалок в Azure зараз - топ8 - АРМ.

ти описуєш дуже вузький випадок де все вже в контейнерах і не торкається заліза, там ARM справді дешевший і це нормально. але це не весь ентерпрайз, це просто твій тип навантаження. як тільки заходить мова про БД, пропрієтарні драйвери, важкі сервіси, GPU, storage, legacy-софт, фінтех чи будь-які системи що зав’язані на x86-екосистему - ARM перестає бути х2 дешевше і часто взагалі не варіант. твій кейс - це легкі worker-ноди, а не доказ універсальної переваги архітектури. ARM хороший в спеціалізованих сценаріях, а не "переміг усюди".

[ArmagedoonZergs]

Ти плтаєш тепле з мяким.
Є "consumer" маркет про який ти тут написав простиню.
А є enterprise маркет. Де увесь софт крутиться в докер контейнері. І все що тобі треба щоб запустити його на арм - зібрати arm імейдж.
І все. Про це і мова. Крутити софт на АРМ в хмарах зараз х2 дешевше чим на х86.
І все що ти тут розпинаєшся це не має значення.
Ми буквально рік назад перевели всі worker ноди в AKS кластерах з х86 на АРМ, тим самим зрізали витрати з 60к юсд в місяць до 30к.
Із топ10 самих популярних віртуалок в Azure зараз - топ8 - АРМ.

ти описуєш дуже вузький випадок де все вже в контейнерах і не торкається заліза, там ARM справді дешевший і це нормально. але це не весь ентерпрайз, це просто твій тип навантаження. як тільки заходить мова про БД, пропрієтарні драйвери, важкі сервіси, GPU, storage, legacy-софт, фінтех чи будь-які системи що зав’язані на x86-екосистему - ARM перестає бути х2 дешевше і часто взагалі не варіант. твій кейс - це легкі worker-ноди, а не доказ універсальної переваги архітектури. ARM хороший в спеціалізованих сценаріях, а не "переміг усюди".

Всі популярні бд, навіть оракл (тільки що провірив) мають арм білди.
Про які драйвери ти говориш? А потім почитав далі, зрозумів що ти взагалі досвіду з хмарами не маєш.
забий. Гарного вечора.

[tornadox]

Всі популярні бд, навіть оракл (тільки що провірив) мають арм білди.
Про які драйвери ти говориш? А потім почитав далі, зрозумів що ти взагалі досвіду з хмарами не маєш.
забий. Гарного вечора.

ти плутаєш "є ARM-білд" із "це реально працює так само і так само підтримується в проді". на папері ARM зараз є майже всюди, а в реальних впровадженнях більшість команд все одно тримає критичні сервіси на x86 через стабільність, інтеграції і підтримку вендорів. це не про "немає досвіду", це про те що ти взяв свій типовий кейс і видаєш його за глобальну картину. але ок, якщо тобі достатньо пару контейнерів щоб робити висновки за весь ентерпрайз - без питань, теж гарного вечора.

[SergiusTheBest]

Крутити софт на АРМ в хмарах зараз х2 дешевше чим на х86.

Це перебільшення, ось актуальні ціни за 1 год роботи хмари Амазон:

m7g.2xlarge - $0.3264
m7a.2xlarge - $0.46368
m7i.2xlarge - $0.4032

m8g.2xlarge - $0.35904
m8a.2xlarge - $0.48688
m8i.2xlarge - $0.42336

g - ARM Graviton
a - AMD Epyc
i - Intel Xeon

Плюс треба враховувати, що на певні задачі ARM потрібно більше часу (завдяки апаратним особливостям або поганій оптимізації софта), тому він може вийти навіть дорожче.

[WarraxUA]

- Amazon - найбільша хмара світу - 2/3 обчислень на ARM
- в Microsoft весь софт скомпільований для ARM, навіть драйвера

навчись відризняти Amazon від Amazon Web Services
і гравітони якщо що - в AWS складають 20%
а на Cobalt, про який вище стаття, вінда - не підтримується

[ArmagedoonZergs]

Крутити софт на АРМ в хмарах зараз х2 дешевше чим на х86.

Це перебільшення, ось актуальні ціни за 1 год роботи хмари Амазон:

m7g.2xlarge - $0.3264
m7a.2xlarge - $0.46368
m7i.2xlarge - $0.4032

m8g.2xlarge - $0.35904
m8a.2xlarge - $0.48688
m8i.2xlarge - $0.42336

g - ARM Graviton
a - AMD Epyc
i - Intel Xeon

Плюс треба враховувати, що на певні задачі ARM потрібно більше часу (завдяки апаратним особливостям або поганій оптимізації софта), тому він може вийти навіть дорожче.

Я про Azure.
https://cloudprice.net/vm/Standard_B4ls_v2
https://cloudprice.net/vm/Standard_B4pls_v2
І так по всій лінійці.

[Scoffer]

І так по всій лінійці.

А це тому що він майже вдвічі і тормознутіший по сінгл треду, а ти якраз поядерно і береш
https://www.cpubenchmark.net/compare/60 ... -Gold-6530
так що шило на мило
МС себе не дасть обдурити на гроші

[ArmagedoonZergs]

І так по всій лінійці.

А це тому що він майже вдвічі і тормознутіший по сінгл треду, а ти якраз поядерно і береш
https://www.cpubenchmark.net/compare/60 ... -Gold-6530
так що шило на мило
МС себе не дасть обдурити на гроші

Почитай що таке абстрактний 1CPU в Azure він ніякого відношення до реальних потоків не має.

[Scoffer]

ArmagedoonZergs
Ну так зроби натурні тести, подивимось. Думаю всім цікаво буде.
Ти виходиш з того що ці папугометри мають рівну продуктивність, а це явно не так.

[yuriy_dd]

І на ринку АРМ гравцями, начебто, не стали - роблять процесори для себе та продають не їх, а послуги чи готові пристої.

їм треба проци, купують багато. х86 - запропонувати нічого конкурентного не зміг
величезний серверний ринок втрачений для х86

Відправлено через 26 хвилин 57 секунд:

Кінцевому користувачу взагалі байдуже що крутиться під CDN, хоч ARM, хоч MIPS

ну але їм потрібна швидкість, і якби АРМ були погані - їх би так масово не замовляли

До того ж половина Azure працює на Linux – бо навіть вони визнають що для серверного навантаження Linux вигідніший

так Лінукс давно працює на АРМ

От Юра постійно міксує всі ці сегменти докупи, ніби це один ринок. Він бачить що ARM добре працює у спеціалізованих серверах чи IoT і автоматично робить висновок що ARM "переміг всюди". Але це не так. У кожного сегмента свої вимоги, і те що працює в датацентрі зовсім не факт що працюватиме у масових ПК або workstation

я постійно розділяю ноути / десктопи / сервери / робочі станції
АРМ наступає всюди

Бо саме RISC-V вважають майбутнім для кастомних рішень. Вільна архітектура, без ліцензійних платежів і з можливістю робити що хочеш. У перспективі саме RISC-V стане тим що зараз є ARM у серверах, і тому всі великі гравці страхуються наперед

ви напевне поняття не маєте що таке архітектура (яка безкоштовна для RISC-V) і реалізація цієї архітектури - якої для RISC-V - або нема або дуже дорого
нікому не потрібна просто архітектура, без реалізації
АРМ - пропонує все і дешево

ти плутаєш "є ARM-білд" із "це реально працює так само і так само підтримується в проді"

маєте докази своєї маячні?