AMD продає прискорювачі Instinct MI300X в рази дешевше за Nvidia H100

[Павло]

Пропоную обговорити AMD продає прискорювачі Instinct MI300X в рази дешевше за Nvidia H100
Відразу видно, що КОРПОРАЦІЯ ДОБРА! Такі знижки дає! Все для людей!
p.s. сарказм... риночок порішав

[Robostyle]

CUDA порешал.

[Ray2000gt]

Продають за скільки продається.

[kalakawa]

Пропоную обговорити AMD продає прискорювачі Instinct MI300X в рази дешевше за Nvidia H100
Відразу видно, що КОРПОРАЦІЯ ДОБРА! Такі знижки дає! Все для людей!
p.s. сарказм... риночок порішав

Видно для когось не сарказм. Хоча чому тут дивуватись, цих свідків корпорації добра по ютубам та по форумам як саранчі

[doc-oc]

Бедные, так бы продавали геймерам карты по 1,5-2к зелени, а так приходится лохам по 40к зелени впаривать. Бедная кожанка, страдает наверное каждую ночь

[Scoffer]

А реалізували б у себе CUDA - теж би продавали по 40к.

[nikolaiii]

Scoffer
Є купа складнощів, перша НВіда не дозволяє використовувати своє Кудкуда з чужим залізом. Програмістам дуже зручне Куда, і через невелику розповсюдженість відеокарт АМД лінуються використовувати інші аналогічні інструменти. Як приклад, 4 роки тому коли в мене була Вега64, я запитав у розробників одного цікавого софта, а коли ви зробите прискорення для карт АМД. На що вони сказали, що не мають зайвого часу, бо доведеться пиляти компонент з нуля. От так от, і що я зробив, так, придбав 1080ті.

[Scoffer]

nikolaiii
У АМД з нвідією є кросс-патентне ліцензіювання. АМД може класти болта на всі заборони. Проблема в тому що бажання немає. І АМД традиційно слабка в софті.
А щодо розробників то так, куда - стандарт де-факто. Немає куди - немає gpgpu, хоч хто б що там собі не вигадував.

[Rederst]

А де його можна і треба задіяти звичайному користувачу, окрім "ШІ"?

[kalakawa]

А де його можна і треба задіяти звичайному користувачу, окрім "ШІ"?

так і бачу як звичайний користувач бере пристрій за 15к$ в ПК для не ШІ

[-falconer-]

Це десь 350000 штук AMD планує продати (якщо по 10000 рахувати). Цікаво, а як Дрібно-м'які використовують прискорювачі AMD для GPT-4? Пишуть, що CUDA там необхідний, але ж вони якось пристосували ці прискорювачі для цієї цілі і без CUDA

[Scoffer]

-falconer-
На коболі можна написати все те ж саме, що й на с++, тільки навіщо? От з GPGPU приблизно так само. Якщо дуже припече - напишуть і на опенЦЛ. А якщо не дуже - куплять нвідію з кудою, до котрої ця сама нвідія написала мегатони готових біблиотек і організували тисячі курсів, презентацій і інших документацій і інструментів для розробників.

[Goster]

Це десь 350000 штук AMD планує продати (якщо по 10000 рахувати). Цікаво, а як Дрібно-м'які використовують прискорювачі AMD для GPT-4? Пишуть, що CUDA там необхідний, але ж вони якось пристосували ці прискорювачі для цієї цілі і без CUDA

В амд є аналог, називається ROCm він повністю сумісний з куда, почитайте про нього.

[Rederst]

Це десь 350000 штук AMD планує продати (якщо по 10000 рахувати). Цікаво, а як Дрібно-м'які використовують прискорювачі AMD для GPT-4? Пишуть, що CUDA там необхідний, але ж вони якось пристосували ці прискорювачі для цієї цілі і без CUDA

В амд є аналог, називається ROCm він повністю сумісний з куда, почитайте про нього.

Перший раз чую. Хоча й дивився чим можна у Блендері користуватися.

[vmsolver]

Правильно делает, что продаёт сильно дешевле, ей сейчас не о доходе надо думать, а о проникновении на рынок матричных ускорителей, а вот со следующего поколения уже можно и поднимать цены, если займут рынок, конечно же.

У АМД з нвідією є кросс-патентне ліцензіювання

С Интелом есть, с Нвидией - зачем это Нвидии?

А якщо не дуже - куплять нвідію з кудою

Пупок развяжется

В амд є аналог, називається ROCm

Скорее расчет на то, что на сэкономленные деньги с покупки железа можно переписать уже готовый код под МИ300, ведь железо мощное и дешевое, соблазн сэкономить большой, и для АМД это шанс, поэтому анонс следующего AI чипа от Nvidia должен быть весьма скоро, да и 3нм техпроцесс не сильно дороже 4нм, а плотность выше, а значит этот потенциал надо осваивать как можно быстрее, ведь конкуренция не позволит долго почивать на лаврах. В общем, прогресс немного ускоряется в сфере нейросетей, уже появляются продукты для тренировки и использования готовых моделей (inference) как у Нвидиа так и в CPU - слух про следующее поколение процессоров интел в основном был про производительность матричных ускорителей, когда как сейчас всем на них ещё плевать, ядра бы делали быстрее, но подготовка железа к будущему уже происходит.

[Scoffer]

зачем это Нвидии

Затим щоб не затравити один одного ще й патентами.
Інтела з нвідією теж є.
PS: кросс-ліцензіювання це не безкоштовно взагалі-то, та ж інтел платить нвідії. Хто кому платить в парі нвідія-амд я не в курсі.

Пупок развяжется

Відеокарту, а не компанію

Відправлено через 2 хвилини 52 секунди:

В амд є аналог

Це не аналог в тому плані, що воно не може запустити куда-програму напряму. Це свій рантайм, котрий включає "перекомпілятор" з куди. Звісно краще хоч так, ніж ніяк, але в цілому проблему не вирішує: готову програмулину, умовний фотожоп наприклад, кінцевий користувач не зможе прискорити за допомогою цієї штуки, тільки розробник.

[Misanthrop]

Подивимось як воно там буде.
Адже підтримку Cuda софту вони вже давно завезли під лінукс, залишилося тільки щоби корпорації спробували та налаштували все

[Scoffer]

Misanthrop
Та не завозили вони. Вони завезли підтримку перекомпіляції файла з куда-ядром (котре kernel, а не core) в файл з рокм-ядром. І так, тільки для лінуксу.
Це для розробників, спрощення портування. А кінцевому користувачу від того ні холодно, ні жарко. Він не зможе зростити програму з cuda на радеоні. CUDA-драйвера в системі не з'являється.

[vmsolver]

Затим щоб не затравити один одного ще й патентами.

Чтобы другие не травили исками и существуют патенты, кросс-лицензия это же другое, когда есть интеллектуальная собственность, модификация которой автоматически становится доступна всем подписантам кросс-лицензии. Ничего общего у Нвидиа и АМД в этом плане нет, у них разные архитектуры, разная система команд, свои компиляторы, дебагеры и прочее.

Відеокарту, а не компанію

А я уж подумал: какой размах мысли! Если не получится портануть CUDA-код - просто купить всю Нвидиа. Гениально! Эх, такая мысль пропала

Вот большинство и решает сразу купить видеокарту Нвидиа и не парить мозг портами, иначе "фигак-фигак и в продакш" не работает. А вот от Майкрософт может случайно отколоться пылинка на пару миллиардов баксов, и весь совет директоров дружно будут наблюдать как она падает на увлажнённую почву, и нет-нет да прорастёт во что-то полезное. А для АМД эта пылинка — целая вселенная

[Scoffer]

vmsolver
У них у всіх є кросс-ліцензії один з одним. Кожна з цих контор тримає за собою десятки, якщо не сотні тисяч патентів. Не натикнутись на міну неможливо.
AMD не світить своїми ліцензіями на увесь світ, так що без пруфів, але якщо подивишся на публічні угоди нвідії, то там всі, починаючи від інтела і епла, і закінчуючи самсом і китайцями.
Ну і конкретно для cuda взагалі ніякі ліцензії не треба. Верховний суд між гуглом і ораклом щодо java став на сторону гугла, прецедент створений.
Так шо "нвідія не дозволяє" - слабка відмазка. Особливо враховуючи, що перекомпілятор з цієї ж самої куди амд таки реалізувала і роздає всім охочим.

Відправлено через 18 хвилин 3 секунди:

А вот от Майкрософт

Робить ставку на DirectCompute.