Китайська GeForce RTX 5090D урізана в обчисленнях ШІ та майнінгу

[kairo]

коли в h200 ставлять вже 141гб і до того ж hbm3е, а конкурент від амд має взагалі 256гб.

H200 коштує $30-40 тис, в той час, як 5090 ~$2 тис. Попередній флагман був одним із кращих рішень для ШІ на ринку, що вже говорити про нинішнього.

[leif]

*не встиг дописати до попереднього повідомлення

Так багато беруть, що тільки на новинах про припинення виробництва ціна виросла? А раніше чому не виросла?

Відправлено через 2 хвилини 5 секунд:

коли в h200 ставлять вже 141гб і до того ж hbm3е, а конкурент від амд має взагалі 256гб.

H200 коштує $30-40 тис, в той час, як 5090 ~$2 тис. Попередній флагман був одним із кращих рішень для ШІ на ринку, що вже говорити про нинішнього.

Треба порівнювати ціну і можливості всього дата центру, а не окремих позицій. Це сферичні коні в вакуумі. "Кращі ai рішення" мають в рази більше пам'яті, це необхідність, як я вже писав на початку цього топіку.

[kairo]

потужний пруф, "plenty of indications" це що? Які саме indications?

То тепер вже й Tom's Hardware, як ви кажете "балаболи", бо пишуть не маючи точних цифр на руках.

Які саме аі-workloads? Вдома у тих хто хоче на хайптрейн аі? В невеличкому офісі для якихось тестувань розробок? В дата центрах? Де?

Звідки ви взяли, що подібні карти будуть лише в даних обмежених сценаріях використовуватись? У вас є дані чи це просто голослівна заява?

[leif]

leif
У альтернатив обмежений тираж. Хуавей оно грозиться поставити 70к прискорювачів за рік. Це багато, але все одно недостатньо, для прикладу маск для своєї нейронки сто тишь встановив. А їм же не одна нейронка треба. Викручуються як можуть. Завдання попростіше будуть винесені на відяхи попростіше.

А шо крім хуавей ніхто не спромігся з китайців?

Відправлено через 1 хвилину 29 секунд:

потужний пруф, "plenty of indications" це що? Які саме indications?

То тепер вже й Tom's Hardware, як ви кажете "балаболи", бо пишуть не маючи точних цифр на руках.

Які саме аі-workloads? Вдома у тих хто хоче на хайптрейн аі? В невеличкому офісі для якихось тестувань розробок? В дата центрах? Де?

Звідки ви взяли, що подібні карти будуть лише в даних обмежених сценаріях використовуватись? У вас є дані чи це просто голослівна заява?

Так а де цифри? Наведіть, будь-ласка, я подивлюсь.

Не перекручуйте те що я кажу, я ставлю питання, а не стверджую. Ви можете відповісти на поставлені питання? Ні? То так і скажіть.

[kairo]

Так багато беруть, що тільки на новинах про припинення виробництва ціна виросла? А раніше чому не виросла?

Бо пропозиція почала падати, а попит залишився на тому ж рівні. І це при тому, що до виходу 5090 залишалось пару місяців, тобто клієнти не готові чекати.

Кращі ai рішення" мають в рази більше пам'яті, це необхідність, як я вже писав на початку цього топіку.

Яка саме необхідність? На основі чого ви вирішили, що 32ГБ буде обмежуючим фактором?

Відправлено через 2 хвилини 50 секунд:

Так а де цифри? Наведіть, будь-ласка, я подивлюсь.

Напишіть листа Tom's Hardware і скажіть, що вони балаболи, бо не написали "імхо". Які до мене питання, я лише навів цитату із авторитетного видання.

[leif]

І це при тому, що до виходу 5090 залишалось пару місяців, тобто клієнти не готові чекати.

не пару, а 4 повних місяці. нвідія просто зробила великий зазор між закінченням виробництва старої моделі і початком продажів нової, а великіх запасів таких дорогих карт ніхто не тримає на порозі анонсу некстгену. от ціна і зросла. а це каже про те, що ніякого ажіотажу немає, як його і не було до цього. так що аргумент про "розкупають всі 4090 шо бачать для аі" не валідний.

Яка саме необхідність?

необхідність для запуску все більш складних аі-моделей і завдань.

На основі чого ви вирішили, що 32ГБ буде обмежуючим фактором?

на основі того, що спеціалізовані аі-прискорювачі мають в разі більше пам'яті, у випадку амд - в 8 разів.

Відправлено через 1 хвилину 35 секунд:

Які до мене питання, я лише навів цитату із авторитетного видання.

яка нічого не доводить чи вам здається, що доводить? ну, як вам завгодно. їжте такі "пруфи", на здоров'я.

[Scoffer]

А шо крім хуавей ніхто не спромігся з китайців?

Спромігся, але все обмежується потужностями SMIC. Вони їх поступово нарощують, але це не так швидко.
До того ж варто розглянути варіант коли китаянці пересаджують чіп на плату з більшою кількістю пам'яті. От шо-шо, а пересаджувати чіпи вони майстри.

[kairo]

а це каже про те, що ніякого ажіотажу немає, як його і не було до цього.

Якби не було ажіотажу, 4090 перед анонсом 5090 вже б йшли із знижками, а не навпаки росли в ціні.

необхідність для запуску все більш складних аі-моделей і завдань.

Звідки саме ви взяли ці дані і чому вирішили, що більш складні моделі не можна буде реалізувати на 5090?

на основі того, що спеціалізовані аі-прискорювачі мають в разі більше пам'яті

Н200 має майже в два рази більше пам'яті ніж Н100. Тому об'єм пам'яті, це не аргумент. На основі чого ви вирішили, що 32ГБ буде обмежуючим фактором?

яка нічого не доводить чи вам здається, що доводить?

Між думкою коментатора, який ледве не під кожною статтею про *090 та ШІ ставить під сумнів використання даних карт для ШІ, думка авторитетного видання Tom's Hardware для мене більш важлива.

[leif]

До того ж варто розглянути варіант коли китаянці пересаджують чіп на плату з більшою кількістю пам'яті. От шо-шо, а пересаджувати чіпи вони майстри.

а ти бачив щоб китайці 4090 збільшували обсяг пам'яті?

Відправлено через 1 хвилину 30 секунд:

Якби не було ажіотажу, 4090 перед анонсом 5090 вже б йшли із знижками, а не навпаки росли в ціні.

зі знижками, ага

а якщо самому свій "пруф" почитати?

When the RTX 2080 Ti launched at $1,199 initially, we never saw much in the way of the promised $999 cards. By the time RTX 2080 Ti was due for retirement, supplies had mostly run out and the cards remained expensive right up to the last minute. Almost the exact same scenario played out with the RTX 3090 Ti, RTX 3090, and RTX 3080 GPUs two years later.

Відправлено через 2 хвилини 16 секунд:

Звідки саме ви взяли ці дані і чому вирішили, що більш складні моделі не можна буде реалізувати на 5090?

почитайте навіщо в спеціалізованих аі прискорювачах взагалі багато дуже швидкої пам'яті. прямо так в гугл і вбийте "why ai-accelerators need a lot of memory", можна скопіювати.

Між думкою коментатора, який ледве не під кожною статтею про *090 та ШІ ставить під сумнів використання даних карт для ШІ, думка авторитетного видання Tom's Hardware для мене більш важлива.

аж під двома новинами="мало не під кожною статетю"

ЗРОЗ.

я не ставлю під сумнів що карти використовуються для аі, ви взагалі яким місцем читаєте?

[kairo]

а якщо самому свій "пруф почитати"?
When the RTX 2080 Ti launched at $1,199 initially, we never saw much in the way of the promised $999 cards.

RTX 2080 Ti, 3090 Ті та інші карти виходили в епоху майнінгу і саме через неадекватний ажіотаж не мали нормальних цін. В мене мою 1080Ті, яку я сам купував бв із ферми, за 1000 баксів в 2020-му із руками виривали.

почитайте навіщо в спеціалізованих аі прискорювачах взагалі багато дуже швидкої пам'яті.

Не викручуйтесь. Ви написали "Кращі ai рішення" мають в рази більше пам'яті, це необхідність". Аргументуйте те, що для ШІ треба в рази більше пам'яті ніж має 4090 та 5090.

[leif]

RTX 2080 Ti, 3090 Ті та інші карти виходили в епоху майнінгу і саме через неадекватний ажіотаж не мали нормальних цін.

ви може забули коли закінчилась епоха майнінгу на гпу? а за скільки часу це було анонсовано? а попередньої хвилі в 18 році? коли почала падати дохідність і опускались ціни? освіжіть в пам'яті, співставте з тим коли закінчувався життєвий цикл 3000 і 2000 лінійки. чи згадайте, які ціни були на 2080ті більшість часу, коли вона продавалась, навіть в Україні. чи була вона цікава майнерам? чому?

Не викручуйтесь. Ви написали "Кращі ai рішення" мають в рази більше пам'яті, це необхідність". Аргументуйте те, що для ШІ треба в рази більше пам'яті ніж має 4090 та 5090.

поспішав і не дописав до кінця речення, перепрошую. необхідність... для досягнення високої продуктивності і запуску складних сучасних моделей з великою кількістю параметрів. отак хотів написати. я взагалі на початку цієї теми це теж вже писав в діалозі зі скофером, але ви видно і там якось по діагоналі читали.

простіші аі моделі можна запускати і на менших обсягах пам'яті, от тільки я не знаю, наскільки це нині вигідно і затребувано, адже ШІ-задачі стають все більш складними. а прості моделі можливо буде сенс на якихось китайських домашніх або ще якихось більш дешевих прискорювачах крутити.

[kairo]

освіжіть в пам'яті, співставте... згадайте...

Наведіть дані, бо о це - "почитайте в інтернеті", "згадайте" і все зрозумієте, це не аргументація.

простіші аі моделі можна запускати і на менших обсягах пам'яті, от тільки я не знаю, наскільки це нині вигідно і затребувано, адже ШІ-задачі стають все більш складними. а прості моделі можливо буде сенс на якихось китайських домашніх або ще якихось більш дешевих прискорювачах крутити.

Наведіть дані, що складніші ШІ-моделі не можна буде запустити на 4090 чи 5090.

[leif]

kairo
Ну я ж не винен, що у вас аж настільки бракує знань по предмету обговорення, що вас доводиться постійно в Гугл посилати. Підтягуйте знання, а то вам як дитині треба все розжовувати, так не цікаво. Зробіть зусилля, не лінуйтесь.

[kairo]

kairo
Ну я ж не винен, що у вас аж настільки бракує знань по предмету обговорення, що вас доводиться постійно в Гугл посилати. Підтягуйте знання, а то вам як дитині треба все розжовувати, так не цікаво. Зробіть зусилля, не лінуйтесь.

Тобто ви злились банально.

[leif]

kairo
Ахаха. Так так, злився жесть. Прям як ви минулого разу.

З людиною достатньо в темі поговорити можна, навіть якщо у неї протилежні погляди. а з нубом, який не знає навіть, коли майнінг на гпу був активним, коли і які ціни на карти були і чому аі-прискорювачі потребують багато пам'яті, вибачте, мені банально вже стало не цікаво, я зливаюсь, радібога. шукайте співрозмовника свого рівня, успіхів.

[Earanak]

а ти бачив щоб китайці 4090 збільшували обсяг пам'яті?

Видел вагон новостей на эту тему. Сами видеокарты конечно не видел.

https://www.overclockers.ua/ua/news/har ... 12/135378/

https://habr.com/ru/companies/x-com/articles/846556/

Отправлено спустя 7 минут 16 секунд:
Хуанг кстати показывал когда 5090 там было сравнение с 4090 в Flux.Dev, толстенная модель которая сама по себе весит 24гб, а к ней ещё подавай VAE+CLIP на 8Гб, выжирает всю видеопамять и вываливается в GPU Shared Memory (ОЗУ), ей в самый раз будут те 32гб, удобненькое сравнение

[dfcz]

Китайська GeForce RTX 5090D урізана в обчисленнях ШІ та майнінгу

А по цене и лучам? Выпускали бы 2 версии просто: полнофункциональную для мамкиных вычислителей ИИ на дому за $1999 и вот такую игровую за $1199. Все были бы довольны.

[leif]

Earanak
Дякую, я ці новини пропустив.

Але пересадка на плати від 3090ті? Цікаво, як це взагалі працює) та і щоб жодної фотки цього франкенштейна не витікло за стільки часу теж трохи дивно

[Scoffer]

Цікаво, як це взагалі працює

А шо там працювати, адресація 64-бітна, до петабайтів ще далеко, так шо просто паяй собі чипи пам'яті побільше та й усе. Головне щоб по шині збігалось. Це апаратно. А програмно Хуанг що образить своїє друзяшок чи що?)

[leif]

Scoffer
я про те, що пересаджують чіп від 4090 на плату від 3090ті. З класичним подвоєнням обсягу пам'яті на тій же платі все давно ясно, це вже проходили неодноразово. Але от таких Франкенштейнів я не пам'ятаю