Huawei представила ШІ-чип Ascend 920 на заміну Nvidia H20, які тепер не можна постачати в Китай

[Tiufin]

Ну, по-перше, американці і самі заборонили продаж прискорювачів у Китай, а не Китай відмовився.
А по-друге, щодо можливостей китаю- тут наче не все так просто, бо (наскільки я розумію) всі досягнення китайців тут базуються на тому, що вони встигли купили у асмл декілька літографів на 5-7нм. То ж, масштабувати виробництво в них не вийде. Та й асмл може припинити підтримувати вже продані літографи - тоді карета швидко перетвориться на тикву.

Коли американці зі своєї сторони забороняють - то китайці шукають спосіб обійти це обмеження і нвідія продовжує отримувати прибуток через треті країни, коли Китай відмовиться від продуктів нвідії - вони магічним чином не знайдуть новий ринок збуту, бо його просто немає.
Здається, різниця очевидна.

Ну я для того і написав про "по-друге" - що якщо вдатися у деталі, то виходить, що реальні можливості Китаю по виробництву своїх прискорювачів досить обмежені. Ну або вони вже секретно розробили свої 5-7нм літографи, що сумнівно. Здається, їм було б вигідніше заявити про це на весь світ.

Що до літографічного обладнання - то я не впевнений де вони його взяли

В гуглі пишуть, що це все те, що встигли купити у асмл

[Scoffer]

Дивно від тебе це чути, бо ти ж у інших темах обурювався щодо монополії нвідіа )

Ну так там ще гірше, жодне з тих рішень не можна купити, тільки взяти в аренду в хмарі. Хуанг звісно в прольоті, але мені шо з того? Який профіт?

[daesz]

Tiufin
Scoffer
стало от цікаво - а де moore threads беруть вафлі під їхні ВК?
https://www.overclockers.ua/ua/news/har ... 31/132758/
https://www.overclockers.ua/ua/news/har ... 09/135133/
Явно ж не у ТSMC купляють?
В одній із статтей вище написано

Компанія Moore Threads уже перебуває в чорному санкційному списку й не має доступу до передових техпроцесів, але продовжує розробку нових рішень і поступово просувається вперед у сегменті ШІ. Moore Threads налагодила стратегічне партнерство з великими державними операторами зв'язку China Mobile і China Unicom, а також з China Energy Engineering Corp. та Gulin Huajue Big Data Technology. Метою цієї масштабної співпраці є розробка трьох обчислювальних кластерів, які сприятимуть розвитку ШІ в Китаї.

Значить якесь літографічне обладнання у них є, власного (в розумінні китайського) чи не дуже виробництва?

[Scoffer]

daesz
Десь в середині минулого року проскакувала новина що вони осилили власний сканер з цільовим техпроцесом 8нм чи щось типу того. Все що менше звісно ж на імпортному обладнанні. Але насправді і 8нм це доволі круто, на такому техпроцесі багато чого цікавого наробити можна з процесорів-відях. Свою пам'ять вони доволі давно клепають на власних станках з техпроцесами біля 20нм (власне, як і у більшості іншої пам'яті), там штуки 3 чи 4 асмлоподібних контори для внутрішнього ринку, так що брати є де.
Коротше кажучи скільки б там штати не гавкали, а караван їде.

Відправлено через 5 хвилин 22 секунди:
Щодо контрактних виробників аля TSMC, то є SMIC, котрий себе б'є в груди що вже вміє в 5нм. Ну, 5 там чи не 5, а 7 точно вміє. І є ще кілька контор поменше з техпроцесами попростіше. Вливання бабла сотнями лярдів не пройшло непоміченим.

[daesz]

Scoffer
в тієї ж nanya є nand та чіпи для ddr4 (хоч і назнати наскільки вони надійні та стабільні), але процес і справді йде.

[Scoffer]

daesz
Вже ддр5 є

[Tiufin]

Tiufin
Scoffer
стало от цікаво - а де moore threads беруть вафлі під їхні ВК?
https://www.overclockers.ua/ua/news/har ... 31/132758/
https://www.overclockers.ua/ua/news/har ... 09/135133/
Явно ж не у ТSMC купляють?
В одній із статтей вище написано

Компанія Moore Threads уже перебуває в чорному санкційному списку й не має доступу до передових техпроцесів, але продовжує розробку нових рішень і поступово просувається вперед у сегменті ШІ. Moore Threads налагодила стратегічне партнерство з великими державними операторами зв'язку China Mobile і China Unicom, а також з China Energy Engineering Corp. та Gulin Huajue Big Data Technology. Метою цієї масштабної співпраці є розробка трьох обчислювальних кластерів, які сприятимуть розвитку ШІ в Китаї.

Значить якесь літографічне обладнання у них є, власного (в розумінні китайського) чи не дуже виробництва?

З того, що знайшлося - це те, що до недавна як раз на тсмц і замовляли. Але потім санкції та лавочку прикрили. Зараз напевно на smic їх виготовляють, бо лише там є 7нм літографи (оті західні, про які писалося вище). В гуглі пишуть, що суто свої літографи у китайців є 28нм. Та наче щось обіцяють ось-ось зробити 14нм (але це не точно).

[daesz]

Scoffer
ну от тим більше - значить процес таки йде в них.

Tiufin
пан Scoffer вище пише, що у SMICa є свої 5 (7) нм хоча мб він мав на увазі на обладнанні ASMLa, а не на своїх власних

[Scoffer]

В гуглі пишуть, що суто свої літографи у китайців є 28нм.

Це дуже застаріла інфа
https://finance.yahoo.com/news/china-to ... 00371.html
8нм точність накладення, в маркетологічних цифрах це навіть менше буде

[Tiufin]

daesz
Десь в середині минулого року проскакувала новина що вони осилили власний сканер з цільовим техпроцесом 8нм чи щось типу того. Все що менше звісно ж на імпортному обладнанні. Але насправді і 8нм це доволі круто, на такому техпроцесі багато чого цікавого наробити можна з процесорів-відях. Свою пам'ять вони доволі давно клепають на власних станках з техпроцесами біля 20нм (власне, як і у більшості іншої пам'яті), там штуки 3 чи 4 асмлоподібних контори для внутрішнього ринку, так що брати є де.
Коротше кажучи скільки б там штати не гавкали, а караван їде.

Відправлено через 5 хвилин 22 секунди:
Щодо контрактних виробників аля TSMC, то є SMIC, котрий себе б'є в груди що вже вміє в 5нм. Ну, 5 там чи не 5, а 7 точно вміє. І є ще кілька контор поменше з техпроцесами попростіше. Вливання бабла сотнями лярдів не пройшло непоміченим.

Ні, там немає ніякого 8нм. На вересень 24 року і з 28 не все зрозуміло було (наче є, а наче і немає):

https://www.trendforce.com/news/2024/09 ... rstanding/
Take SMEE, for instance. In June 2020, it announced that it would deliver China’s first domestically-made 28nm immersion lithography machine between 2021 and 2022, model SSA/800-10W. However, the news soon faded. By May 2023, rumors resurfaced that the 28nm machine was nearing completion, and by December, Zhangjiang Group in Shanghai claimed via its official WeChat account that SMEE had successfully developed the 28nm lithography machine. The post was deleted shortly afterward.

As of now, the SSA/800-10W has yet to appear on SMEE’s official product list

І ось ще щодо 8нм (зі статті за березень 25 року):

https://www.heise.de/en/news/Lithograph ... 12978.html
Last autumn, for example, speculation circulated that China had developed its own DUV systems for production processes up to 8 nm. The source for this was Chinese government documents, which were presumably translated incorrectly.

They state that domestic companies can manufacture systems with DUV lithography for 65 nm processes with an “overlay” of 8 nm. Overlay typically refers to the alignment accuracy of wafers.

Відправлено через 1 хвилину 49 секунд:

В гуглі пишуть, що суто свої літографи у китайців є 28нм.

Це дуже застаріла інфа
https://finance.yahoo.com/news/china-to ... 00371.html
8нм точність накладення, в маркетологічних цифрах це навіть менше буде

Ні, не застаріла. А ця новина про 8нм була викликана плутаниною у термінах. Вище привів текст

Відправлено через 7 хвилин 5 секунд:

Tiufin
пан Scoffer вище пише, що у SMICa є свої 5 (7) нм хоча мб він мав на увазі на обладнанні ASMLa, а не на своїх власних

Так, це лише на західних літографах. До власних таких поки далеко. Хоча наче і обіцяють в цьому році випустити якийсь прототип, який дозволить з часом налагодити 7нм. Але це все плани, в майбутньому часі і незрозуміло коли. А що і коли там по факту в них вийде - невідомо. Вони навіть на західних літографах (ті, котрі розраховані на 5-7нм) 5нм не можуть ще освоїти.

[Scoffer]

Tiufin
Така собі контора SMEE серійно постачає DUV ArF сканери. На ArF сканерах інтол не так давно 10нм проци штампувала. З більшою кількістю масок можна осилити і тонші техпроцеси. Це не дуже вигідно фінансово, але чисто фізично можна.

Відправлено через 2 хвилини 39 секунд:

В гуглі пишуть, що суто свої літографи у китайців є 28нм.

Треба розуміти що це "за один прохід". За один прохід ніхто не робить з моменту як відійшли від планарної технології, та і до цього теж рідко. На типовому фінфеті це добрий десяток засвічень. І от тут і стає важливим параметр вирівнювання, від його точності залежить все.

[vmsolver]

Їхній кластер CloudMatrix на чипах Ascend 910C здатний протистояти новітній системі Nvidia GB200 NVL72, яка налічує 72 GPU Blackwell і 36 CPU Grace.

Противостоять это широкий термин, что это означает не знает никто, просто звучит хорошо. С точки зрения техники не ясно что у них получилось, с точки зрения маркетинга - и я бы сравнивал с мировым топом и говорил широкими фразами о перспективах, но говорить и иметь это разные вещи.

Відправлено через 16 хвилин 7 секунд:

Мені здається, тут головний параметр, на який треба дивитись - це продуктивність на ватт електроенергії.

В энергоэффективности китайцы будут отставать из-за тонких техпроцессов, это неизбежно. Но для Китая это не особо важно, с их шизой, что всё в мире должны производить они, для чего они повторяют продукт и обваливают на него цену, так вот они найдут электричество.

[Scoffer]

В энергоэффективности китайцы будут отставать из-за тонких техпроцессов, это неизбежно.

Це відносно таких же спеціалізованих тензоропроцесорів. Відносно відях хуанга і лізи все не так однозначно бо ці відяхи сами по собі в жеруть набагато більше за TPU.

спойлер

Гугла наміряла різницю в 29 раз. Може щось там і прибрехали, але все одно різниця така що ніякий техпроцес не виправить. Тут з чисто енергетичної точки зору може виявитись що вигідніше на старих-добрих 28нм тензоропроци робити, ніж у хуанга скуплятись.

Відправлено через 10 хвилин 20 секунд:
Це, до речі, головна причина чому вінда вимагає окремого TPU і флопси з відеокарти їй не годяться: ноути з копілотом без TPU непристойно швидко розряжатимуться.

[vmsolver]

Це відносно таких же спеціалізованих тензоропроцесорів. Відносно відях хуанга і лізи все не так однозначно бо ці відяхи сами по собі в жеруть набагато більше за TPU.

TPU конечно эффективнее, но посмотри на Nvidia, она забита заказами, не похоже на то, что у неё что-то плохо. Может, важно что-то ещё? Смотри сколько в NVL72 дополнительного железа: куча ARM ядер, много памяти, коммуникация типа один ко всем и так далее.

Гугла наміряла різницю в 29 раз. Може щось там і прибрехали, але все одно різниця така що ніякий техпроцес не виправить. Тут з чисто енергетичної точки зору може виявитись що вигідніше на старих-добрих 28нм тензоропроци робити, ніж у хуанга скуплятись.

Ужас ужасный, но Хаунг гребёт деньги лопатой, вопрос почему? Все дурные, чтобы покупать сотнями тысяч GPU?
Надо смотреть TPU от гугла, они разные, уже шестое поколение, но купить их нельзя, только арендовать в облаке.

Це, до речі, головна причина чому вінда вимагає окремого TPU і флопси з відеокарти їй не годяться: ноути з копілотом без TPU непристойно швидко розряжатимуться.

Меньше будет следить ))

[Scoffer]

vmsolver
Вироби хуанга можна купити в першому-ліпшому рандомному магазі. Це багато чого вирішує.
Особливо враховуючи що справжня ші-істерія почалась буквально недавно і ще не встигли адекватно на оте все зреагувати.
Але це все не причини технічного характеру. Чисто технічно відяхи для даного конкретного завдання є не надто ефективним інструментом, і якщо китайцям приспічить, а їм вже приспічило, то конкурувати з самого початку неефективним рішенням на внутрішньому ринку вони зможуть.

[vmsolver]

Scoffer
Не совсем, у Хуанга универсальная платформа, которая может ещё много чего, для разработки это важно, TPU это не обеспечивают, они хороши, когда заранее известно что надо и не надо больше ничего.
Почему нельзя купить TPU, а только арендовать?

Чисто технічно відяхи для даного конкретного завдання є не надто ефективним інструментом

Реальные задачи это не только перемножить матрицы, а TPU кроме этого ничего не умеют, поэтому надо смотреть в комплексе, а не просто взять один параметр и объявить его главным. TPU хоть jpeg картинку сможет декодировать? Или для этого отдельный датацентр надо?

Надо обратить внимание, что Nvidia делает очень большую и сложную систему, вкладывается в коммуникации (чип коммутатора на 100 ярдов транзисторов, как тебе?) и так далее, зачем, если страшно эффективные TPU уже существуют и уже вышли на охоту за конкурентами?

[Scoffer]

vmsolver
Серверне обладнання купляють під конкретне завдання, а не щоб "аби було". Якщо його купили щоб крутити нейронку, то там крутитиметься нейронка і нічого іншого.

[vmsolver]

Серверне обладнання купляють під конкретне завдання, а не щоб "аби було". Якщо його купили щоб крутити нейронку, то там крутитиметься нейронка і нічого іншого.

Любое оборудование покупается под конкретную задачу, но на вопросы ты не ответил. Если для TPU надо обязательно покупать ещё один датацентр, то понятное дело, лучше купить более универсальное решение, с кучей ресурсов и большой масштабируемостью, которое и от jpeg картинки в обморок не упадёт, и посчитает нейросеть быстро, и ещё много чего сможет сделать (даже не говорю про банальную токенизацию).

То есть, TPU это не самостоятельное устройство и общую энергоэффективность надо считать не только по TPU, а по всей системе. Ну и как там успехи?

Только одному мне кажется странной ситуация, когда есть суперкласные и эффективные TPU, а Nvidia ломится от заказов продавая ужасные
и якобы не эффективные решения?

Что-то тут не так

[Scoffer]

то понятное дело, лучше купить более универсальное решение

Ні, не краще. Ти мислиш як дестопний юзверь, "а може мені знадобиться шпег конвертнути чи в дум пограти". В серверах так не працює. Складаються вимоги до ттх і все. Якщо там не заявлена необхідність конвертації картинок, то значить її там не буде. І думу не буде. І навіть ворд не запуститься, ага.

То есть, TPU это не самостоятельное устройство

GPU це також не самостійний пристрій, і шо з того? На один проц вішається стільки прискорювачів, скільки дозволяє кількість PCIe в ньому. Сам проц в основному прохолоджується в обох випадках, і ні на що принципово не впливає.

Только одному мне кажется странной ситуация, когда есть суперкласные и эффективные TPU, а Nvidia ломится от заказов продавая ужасные
и якобы не эффективные решения?

В цьому немає нічого дивного тому що а хто їх має випустити? МС, амазон, гугл і хуавей мають власні хмарні датацентри і наповнюють їх в першу чергу. Нвідія датацентрів не має, і вимушена продавати наліво і направо. Були б у хуанга ДЦ, то ніяких кластерів в роздріб і тим паче окремих відях ніхто б в живу не побачив.
Всі інші просто вимушені брати відеокарти за відсутності реальних альтернатив в продажах. Жеріть що дають (ц).

[vmsolver]

Ні, не краще. Ти мислиш як дестопний юзверь, "а може мені знадобиться шпег конвертнути чи в дум пограти". В серверах так не працює.

Причем тут дум и всё остальное? Банальную токенизацию кто будет делать? TPU не может.

GPU це також не самостійний пристрій, і шо з того?

Выше картинку постил, посмотри сколько ARM ядер на борту у NVL72. Теперь понимаешь разницу решений от Хуанга и просто TPU? У Nvidia полноценное универсальное решение

В цьому немає нічого дивного тому що а хто їх має випустити? МС, амазон, гугл і хуавей мають власні хмарні датацентри і наповнюють їх в першу чергу. Нвідія датацентрів не має, і вимушена продавати наліво і направо. Були б у хуанга ДЦ, то ніяких кластерів в роздріб і тим паче окремих відях ніхто б в живу не побачив.

Какие-то свои датацентры у Nvidia есть, в том числе и суперкомпы, они им нужны для R&D и прочих исследований, но претензия странная вообще-то, Nvidia всю жизнь делала и продавала железо, это их хлеб, зачем им от этого отказываться, если они выросли на таких продуктах. МС, амазон, гугл, хувей кроме прочего продают услуги на рынке датацентров, поэтому делать TPU для других они не будут по причине конкуренции, зачем помогать конкуренту если можно продать время TPU за 3-4 доллара? У Nvidia бизнес другой.

Всі інші просто вимушені брати відеокарти за відсутності реальних альтернатив в продажах. Жеріть що дають

Ну, сказать жрите что дают и предлагать стойку NVL72 это совсем не похоже на проклятие, мягко говоря, готовая система с рабочим софтом, поддержкой и так далее.

В итоге, оказывается что TPU есть и они эффективны, но
1) их нет в продаже;
2) к ним всё равно нужен датацентр, что ухудшает разрекламированную энергоэффективность и какая она по факту не очевидно;
И смысл говорить о том, чего фактически нет? Арендовать TPU чтобы за год отдать цену приличного датацентра? Ну такое.