Серверні процесори Intel Diamond Rapids запропонують до 192 P‑ядер при 500-ватному TDP

[IvTK]

Пропоную обговорити Серверні процесори Intel Diamond Rapids запропонують до 192 P‑ядер при 500-ватному TDP

500 Вт х 4 сокети = 2 кВт , не враховуючи, що Intel любить занижувати TDP.
Цікаво, як далеко це може зайти.

[1234waltz]

6-канальний контролер оперативної пам’яті DDR5 з підтримкою модулів MRDIMM на швидкості до 12800 МТ/с, а також контролер PCI Express 6.0

Датацентри відірвуть з руками.

[Fulkrum]

500 Вт х 4 сокети = 2 кВт , не враховуючи, що Intel любить занижувати TDP.

Так у амд плюс мінус теж саме, епік 9965 має 500 вт тдп при 192 ядрах. Поки дозволятиме термопакет проца та температура VRM проци будуть буститись. Як тільки десь упруться в трешхолд тротлити. У датацентрі буде фіолетово на температури і виючі кулєра.

[Scoffer]

Цікаво, як далеко це може зайти.

Далеко, але не дуже. Хмари активно переходять на власні процесори, а поза хмарами 768 ядер в одному сервері нафіг не потрібно. Це занадто жирно навіть для локальної віртуалізації, ніколи в житті бюджети десятків сервісів не збереш до купи щоб адекватно розподілити витрати по внутрішнім замовникам.

[yurius_r]

О, чіплети. Поки що лише 4.

[Kashtan]

Вони не вийдуть в 26 році.

[block_stupid]

Scoffer
Я б стільки ядер зжер на одному сервері, як раз таки бажано на одному сервері.
В мене для статистики 550+- інтеграцій API, всякі json, csv, arrow, parquet. Кожні хвилин 10-30 треба забирати дані, валідувати і писати в БД.
І це все легко (легше) збирається на одному серваку ніж розкидати по купі серваків з купою гемороя.

Але бажано x86 ядер.

[Scoffer]

block_stupid
У тебе все це на одному серваку благополучно здохло б на гонці доступу в оперативу і І/О. QoS же в х86 не завезли.

[block_stupid]

Scoffer
Є така проблема. А ще є Epyc з I/O кристалом та HBM

[ronemun]

Scoffer
свої 4 канали ddr5/6@10000+ на кожні 48 ядер
+ загалом 16 каналів памяті на проц
+ CXL memory на швидкості pcie v6 дасть в теорії 256 Гбайт/с на кожні 16 ліній (16*2*8), а вже на виставках представили агрегати з PCIe v7
+ швидкий доступ в память інших проців через UPI (тепер тіж лінії PCIe)
+ кешування на ультрашвидкому флеші bics 10+ Miops
+ мережі 200/400/800 ГБіт/с на порт

[Scoffer]

А ще є Epyc з I/O кристалом та HBM

Ну є, і що? Як це впливає на відсутність QoS на рівні архітектури?

ronemun
Справа не в пропускній спроможності, а в чергах і лімітаціях. Один особливо упоротий однопоточний процес може вкласти на лопатки цей 768-ядерний сервер. Ще гірше стане якщо це буде серія з багато-багато надкоротких процесів. Ти там і курсор здвинути не зможеш. Поточні архітектури погано пристосовані до багатоядерності. Наскільки я в курсі, QoS в хоч якомусь вигляді завезли лише на мейнфрейми.

Відправлено через 31 хвилину 11 секунд:

QoS в хоч якомусь вигляді завезли лише на мейнфрейми

Та і то лише на І/О, не на оперативу.

[block_stupid]

Ну є, і що?

Те що це виконає мою задачу і відсутність QoS як мертвому припарка.

Як це впливає на відсутність QoS на рівні архітектури?

А нащо на це впливати.
Пропонуєш x30 прайс за IBM платити? Вони вже показали 768 ядер де їх варіант працює?
Нє, можна цвяхи і мікроскопом забивати.
Ти просто так говориш ніби ця проблема десь вже вирішена, точніше вона то вирішена частково за дурні гроші.

[Scoffer]

block_stupid
Ця проблема легко вирішується розділенням незалежних процесів по фізичним серверам. 100500-ядерні сервери без QoS це шлях в нікуди.

Відправлено через 1 хвилину 24 секунди:

Те що це виконає мою задачу

Дуже сильно сумніваюсь

[block_stupid]

Scoffer
Або на одному серваку софтварно по NUMA розкидатись, куди легше, ніж купа окремих інстансів.

[Scoffer]

block_stupid
Це вирішить лише частину проблем в частині випадків з пам'ятю, і ніяк не задіне І/О.
В реальності 100500 ядерні процесори гарно працюють лише в хмарах, і то тільки тому що вони самі їх не юзають, а лише перепродають. Навіть якщо це саас/паас, то він буде з поядерною тарифікацією або близькими до того папугами. Піпл зжере все. А наскільки ефективно то не їх проблеми.

[block_stupid]

Це вирішить лише частину проблем в частині випадків з пам'ятю, і ніяк не задіне І/О.

В моєму випадку, проблеми не буде, я буду обмежений мережею, до пам'яті там черга навіть близько не дійде.
В мне софт не написаний на фортрані чи коболі, чи на іншому старому лайні мамонта, яке спасе тільки ота божа роса від IBM.
І то не гарант.

Відправлено через 2 хвилини 11 секунд:
А ще можна накинути більше SRAM (3D-V), то взагалі ще більше можна зменшити міфічну проблему в моєму випадку, з пам'яттю.