AMD випускає відеокарти Radeon AI Pro R9700S та R9600D із 32 гігабайтами GDDR6

[waryag]

Пропоную обговорити AMD випускає відеокарти Radeon AI Pro R9700S та R9600D із 32 гігабайтами GDDR6

Далі повинна йти новина про зменшення поставок звичайних відеокарт через дефіцит пам'яті!

[Azerty]

Пропоную обговорити AMD випускає відеокарти Radeon AI Pro R9700S та R9600D із 32 гігабайтами GDDR6

Далі повинна йти новина про зменшення поставок звичайних відеокарт через дефіцит пам'яті!

Вона зі старою памʼяттю

[waryag]

Вона зі старою памʼяттю

Дефіцит торкнувся навіть ДДР4, а тут відносно нова швидкісна ГДДР6

[Geinz21]

Пропоную обговорити AMD випускає відеокарти Radeon AI Pro R9700S та R9600D із 32 гігабайтами GDDR6

Далі повинна йти новина про зменшення поставок звичайних відеокарт через дефіцит пам'яті!

Ничего личного, только бизнес. Правда потом падение будем даже больнее чем после майнинга.

[denizen]

ну так це ж чисто анонс, ніхто ж не казав що вони будуть доступні

[Nekros]

Ничего личного, только бизнес. Правда потом падение будем даже больнее чем после майнинга.

Як там зараз падіння відеокарт після майнінгу, вже повернулись ціні до 700$ за старшу карту у лінійці?

[Geinz21]

Ничего личного, только бизнес. Правда потом падение будем даже больнее чем после майнинга.

Як там зараз падіння відеокарт після майнінгу, вже повернулись ціні до 700$ за старшу карту у лінійці?

По крайней мере, в магазинах появились, а не у спекулей

[Tiufin]

Пропоную обговорити AMD випускає відеокарти Radeon AI Pro R9700S та R9600D із 32 гігабайтами GDDR6

Далі повинна йти новина про зменшення поставок звичайних відеокарт через дефіцит пам'яті!

Ничего личного, только бизнес. Правда потом падение будем даже больнее чем после майнинга.

Мені це постійне кивання на майнінг нагадує якийсь карго-культ, бо люди бачать зовнішню схожість, але не розуміють, що суть цих процесів зовсім різна. Потреба в чіпах тепер надовго, навіть без ШІ-датацентрів. Та й вони будуть розвиватися і далі у будь-якому випадку (навіть якщо поточна ітерація виявиться роздутою)

[Bukakanga]

Мені це постійне кивання на майнінг нагадує якийсь карго-культ, бо люди бачать зовнішню схожість, але не розуміють, що суть цих процесів зовсім різна. Потреба в чіпах тепер надовго, навіть без ШІ-датацентрів. Та й вони будуть розвиватися і далі у будь-якому випадку (навіть якщо поточна ітерація виявиться роздутою)

исторически у нас других примеров дефицита комплектухи просто нет, только две волны майнинга. Так что приходится ссылаться на то, что есть. А так-то да - нынешний дефицит много более жесткий и по окончании пузыря мы даже ужаренные в хлам железки не увидим на вторичке.

[yurius_r]

9600d цікавий витвір. Чи буде щось схоже в десктопі? Він якраз по середині між 9600xt та 9700xt l, ближчій до 9700. Хоча як і у випадку 9700 non xt все буде залежати від ціни

[Demedik]

Кто рассчитывает на предыдущие цены - тут смотря какие будут последствия от лопанья. К примеру если будет сильная инфляция - то и текущая цена будет зафиксирована как новая норма. + производители могут сказать - что все уже привыкли к тами ценам, поэтому оставляем(тем более им придется платить инвесторам, которые закинули денежек на ИИшку).

[Tiufin]

Мені це постійне кивання на майнінг нагадує якийсь карго-культ, бо люди бачать зовнішню схожість, але не розуміють, що суть цих процесів зовсім різна. Потреба в чіпах тепер надовго, навіть без ШІ-датацентрів. Та й вони будуть розвиватися і далі у будь-якому випадку (навіть якщо поточна ітерація виявиться роздутою)

исторически у нас других примеров дефицита комплектухи просто нет, только две волны майнинга. Так что приходится ссылаться на то, что есть. А так-то да - нынешний дефицит много более жесткий и по окончании пузыря мы даже ужаренные в хлам железки не увидим на вторичке.

Справа в тому, що це не бульбашка, а структурний перехід. Тобто, в світовій економіці потреба у чіпах зросла на постійній основі. Компанії-виробники ще не встигли до цього адаптуватись, бо введення нових фабрик у експлуатацію потребує кілька років (плюс, ніхто не хоче вводити їх випереджаючими темпами - щоб потім не виявилось, що виробництво надлишкове, і багатомільярдні інвестиції не окупились). Тому і дефіцит. І саме через те, що розширювати виробництво будуть обережно, цей дефіцит (можливо і не такий гострий як зараз, хоча може навіть і більший) буде зберігатись доволі довго, поки ця перебудова структури попиту на чіпи у світі (по суті, структури світової економіки ) не стабілізується.

[Bukakanga]

Справа в тому, що це не бульбашка, а структурний перехід. Тобто, в світовій економіці потреба у чіпах зросла на постійній основі. Компанії-виробники ще не встигли до цього адаптуватись, бо введення нових фабрик у експлуатацію потребує кілька років (плюс, ніхто не хоче вводити їх випереджаючими темпами - щоб потім не виявилось, що виробництво надлишкове, і багатомільярдні інвестиції не окупились). Тому і дефіцит. І саме через те, що розширювати виробництво будуть обережно, цей дефіцит (можливо і не такий гострий як зараз, хоча може навіть і більший) буде зберігатись доволі довго, поки ця перебудова структури попиту на чіпи у світі (по суті, структури світової економіки ) не стабілізується.

да, вполне логичное наблюдение. Плюс стоит отметить, что если майнеры старались до отвалов оборудку не доводить, а сливать на вторичном рынке, то корпоративным операторам в целом плевать - они будут убивать чипы в ноль.

[n+gibat[]r]

Пропоную обговорити AMD випускає відеокарти Radeon AI Pro R9700S та R9600D із 32 гігабайтами GDDR6

Далі повинна йти новина про зменшення поставок звичайних відеокарт через дефіцит пам'яті!

Ничего личного, только бизнес. Правда потом падение будем даже больнее чем после майнинга.

Зате після краху та обвалу прайсів кожен зможе за сто американських гривнів купити потужний комплект на 128гб DDR5

[Alekss]

На рынке GPU сложись ситуация, когда не возможно купить новый видеоускоритель с 30+ гигабайтами памяти по адекватной цене (в районе $1000) и поддержкой fp8 матричных и векторных вычислений. RDNA3 типа RX 7900 XTX, нет никакого смысла рассматривать по причине их ограниченного предложения и отсутствия доступа к матричным вычислениям fp8. Цены на ускорители Nvidia начинаются от $2000-5000 и выше.

Смысл данной покупки нужно рассматривать только как профессиональный gpu ускоритель для работы с LLM моделями, или легкого fine-tuning, а не для полноценного обучения LLM, или работе где требуется большой объем видеопамяти. Чтобы загрузить хорошую LLM на 20+ миллиардов параметров и (важно) предоставить ей возможность работы с длиной конекста более 10 000+ токенов, нужен ускоритель типа Radeon AI PRO R9700 32gb и выше. Он стоит MSRp только 1,299 USD.

Nvidia предлагает RTX PRO 4500 Blackwell 32Gb за 2800$. Или RTX 5090 32Gb за теже $2500.

И вот тут AMD решила занять эту нишу: выпустив Radeon AI Pro R9600D 32GB (3072 Shaders). По характеристикам это AMD Radeon RX 9070 GRE - 3072 Shaders, а стоимость я рассчитываю будет MSRP $800-1000. На рынке отсутствует такой видеоускоритель за эту цену, с 32Gb видеопамяти.

Но что важно! AMD публикует статистику:
Peak 8-bit Precision (FP8 Matrix) Performance (E5M2, E4M3)-199 TFLOPs
Peak 8-bit Precision (FP8 Matrix) Sparsity (E5M2, E4M3) -397 TFLOPs
Peak 8-bit Precision (INT8 Matrix) -199 TOPs
Peak 8-bit Precision (INT8 Matrix) Sparsity -397 TOPs

Стоит понимать, чтобы работать с fp8, или (int8, что гораздо хуже) модель должна быть оптимизирована, но для целей типа загрузки модели и обработки большого количества токенов это не особо важно. Думаю он спокойно выдаст 20-50 token/sek что вполне комфортно. Поэтому, если он вдруг появится в доступной продаже Radeon AI Pro R9600D 32GB - это будет лучшее предложение из возможных для бюджета до $1000.