AMD Radeon RX 7700 — ще одна відеокарта на архітектурі RDNA 3‑го покоління

[_Andrik_]

Пропоную обговорити AMD Radeon RX 7700 — ще одна відеокарта на архітектурі RDNA 3‑го покоління

Розвинути нове покоління до 9080? , ні доповнити старе яке зі скрипом і так продається в ніші котра завалена конкуретноспроможними рішеннями що синіх , що зелених.

[Leedroid]

Краще вони б FSR 4 випустили для RDNA 3.

[Sanьka]

Розвинути нове покоління до 9080?

Ага, а 5070ті/5080 типу не існує? Конкурента нема тільки в одній ніші - між 5080 і 5090, там прірва.
Але навряд у АМД було б щось необхідної продуктивності.
Та і карти подібного рівня купують в рази менше ніж, мідлові.

[Capz]

Вот что обраковочка животворящая делает. Характеристики данного кадавра не сбалансированы от слова совсем:
1. Жирная подсистема памяти, с высокой ПСП. Тут вам 16 ГБ, 256 бит и высокая частота GDDR6.
2. При этом чип урезан до безобразия, он намного ближе к 7600 (ХТ), чем к 7700/7800 ХТ.
3. Бонусом TBP карты в 250 Вт минимум.
Как это будет позиционироваться тогда? Тут либо под бюджетное ускорение ИИ, на что намекает 16 ГБ памяти и ПСП, либо в какие то готовые безумные сборки, типа 16 ядер CPU, 16 гиг ОЗУ, 16 гиг видео, 16 ГБ SSD.
Так как в играх оно медленнее 7700 ХТ и 9600 ХТ, когда 9600 уже стоит 350-400 USD.

[_Andrik_]

Розвинути нове покоління до 9080?

Ага, а 5070ті/5080 типу не існує? Конкурента нема тільки в одній ніші - між 5080 і 5090, там прірва.
Але навряд у АМД було б щось необхідної продуктивності.
Та і карти подібного рівня купують в рази менше ніж, мідлові.

З 5070ті карти 9070хт , та 7900хт/хтх, а от для 5080 і вище немає противника

[man1242]

Краще вони б FSR 4 випустили для RDNA 3.

Завжди є рх9070хт на полиці, якщо дуже кортить звісно, а так рх7000 ще з березня були легасі карти

спойлер

ще з липня 2024 якщо вірити амд

[1234waltz]

7700 з 2560 SP проти 3456 SP в 7700 XT. Хм. А нащо такому чіпу стільки відеопам'яті При тому, в гені, якому відмовили в нових технологіях від самої АМД. Не позорились би та робили з 10-12 ГБ врами. Все одно для ШІ це дуже сумнівно купувати на фоні RX 9060 XT.

[DDt]

Все одно для ШІ це дуже сумнівно купувати на фоні RX 9060 XT.

читал отзывы на редите что 9060 не очень в плане ЛЛМ, ширина шины памяти(128 а не 256) видимо влияет в купе с гддр6(а не 7)

[curious user]

Ловіть наркоманів

[neonglaу]

Який сенс в новій вк без підтримки fsr 4?

[Des]

Странная карта и вопрос цены, тут должно быть не больше чем 250 уе, ибо дальше идут rx 9060 xt
На деле получается конкурент rx 6700 xt - rx 6750 xt, с большим количеством памяти.

[Bukakanga]

Який сенс в новій вк без підтримки fsr 4?

оптискейлер в помощь, вполне работает фср4 на 7000-х

[Rolexandr]

Який сенс в новій вк без підтримки fsr 4?

Просто сплавити накопичений відбракований неліквід 7х00 ХТ

[Alekss]

Все одно для ШІ це дуже сумнівно купувати на фоні RX 9060 XT.

читал отзывы на редите что 9060 не очень в плане ЛЛМ, ширина шины памяти(128 а не 256) видимо влияет в купе с гддр6(а не 7)

Это глупости пишут на Reddit.
Для работы и запуска LLM RX 9060 XT 16GB подходит идеально с производительностью в 205 Ai TOPS (int8, fp8). Для обучения LLM такие GPU не используются, только для работы, или finetuning (переобучение). Давно прошли времена, когда только Cuda Nvidia хорошо справлялись с работой языковых моделей. Для AMD сейчас используется Vulkan llama.cpp, а Nvidia использует CUDA llama.cpp

Сравнение:
RTX 3080 10GB - 235 Ai TOPS (int8) уже с sparsity! (умножение) х1,35, не поддерживает FP8.
RX 9060 XT 16GB - 205 Ai TOPS (it8) поддерживает fp8, sparsity (умножение) х2 - или 410 Ai tops (int8, fp8)

Ниже приведу тесты с использованием Ai benchmark и языковой модели LLama 3.1

Для понимания:
First token (миллисекунды)- это время ответа модели на вопрос. Пользователь задал вопрос, а модель сгенерировала первый токен ответа.
Output Token speed (токен/ сек)- Это общий запас времени для генерации ответа модели. Примерно 500 токенов (имхо). Довольно полноценный ответ модели.

для RX 9060 XT 16GB (Output Token speed) = 51,69, а например RTX 5060 =75.67 (+40%). Тут не удивительно, производительность RTX 5060 = 614 Ai tops (int8).
опять же уточню, для GPU AMD не нужны только Ai tops (int8) чтобы работать с языковой моделью. Vulkan llama.cpp вполне может использовать матричные (тензорные) FP16, int8 в RX 7600. Производительность RX 7600 - 43,5 Ai tops int8.

для работы с языковой моделью достаточно скорости и 15 Output Token speed (токен/ сек). Такой результат показывает RX 6600XT с 22,5 Ai tops (int8)

[daesz]

7700xt з 12гб та 7700 з 16, якісь наркомани.

Пропоную обговорити AMD Radeon RX 7700 — ще одна відеокарта на архітектурі RDNA 3‑го покоління

Розвинути нове покоління до 9080? , ні доповнити старе яке зі скрипом і так продається в ніші котра завалена конкуретноспроможними рішеннями що синіх , що зелених.

По-перше? магічним чином чип не збільшиш для 9080, для цього потрібен час на розробку нового чіпу який ніхто в свому розумі не буде робити, коли йде робота над наступним поколінням вже; по-друге, в синіх немає конкурента до 7700.

[DDt]

читал отзывы на редите что 9060 не очень в плане ЛЛМ, ширина шины памяти(128 а не 256) видимо влияет в купе с гддр6(а не 7)

Это глупости пишут на Reddit.
Для работы и запуска LLM RX 9060 XT 16GB подходит идеально с производительностью в 205 Ai TOPS (int8, fp8). Для обучения LLM такие GPU не используются, только для работы, или finetuning (переобучение). Давно прошли времена, когда только Cuda Nvidia хорошо справлялись с работой языковых моделей. Для AMD сейчас используется Vulkan llama.cpp, а Nvidia использует CUDA llama.cpp

Сравнение:
RTX 3080 10GB - 235 Ai TOPS (int8) уже с sparsity! (умножение) х1,35, не поддерживает FP8.
RX 9060 XT 16GB - 205 Ai TOPS (it8) поддерживает fp8, sparsity (умножение) х2 - или 410 Ai tops (int8, fp8)

unknown_2025.09.19-18.30.png

Ниже приведу тесты с использованием Ai benchmark и языковой модели LLama 3.1

Для понимания:
First token (миллисекунды)- это время ответа модели на вопрос. Пользователь задал вопрос, а модель сгенерировала первый токен ответа.
Output Token speed (токен/ сек)- Это общий запас времени для генерации ответа модели. Примерно 500 токенов (имхо). Довольно полноценный ответ модели.

для RX 9060 XT 16GB (Output Token speed) = 51,69, а например RTX 5060 =75.67 (+40%). Тут не удивительно, производительность RTX 5060 = 614 Ai tops (int8).
опять же уточню, для GPU AMD не нужны только Ai tops (int8) чтобы работать с языковой моделью. Vulkan llama.cpp вполне может использовать матричные (тензорные) FP16, int8 в RX 7600. Производительность RX 7600 - 43,5 Ai tops int8.

для работы с языковой моделью достаточно скорости и 15 Output Token speed (токен/ сек). Такой результат показывает RX 6600XT с 22,5 Ai tops (int8)

Ai token speed_2025.09.19-10.33.png

я правильно понимаю что поддержка fp8 лучше чем int8? и где посмотреть спеки что именно поддерживает видюха(включая sparsity)? например моя 3060 12Гб
и по производительности моделей, я правильно понимаю что если нет поддержки fp8 то модель которая спецом не собрана под int8 будет хуже работать?
просто на huggingface в моделях обычно это не упоминается

[DDt]

вообще интересно получается, RX 9060 XT 16GB с 205 Ai TOPS (int8) выпущенная в 2025 году, в Ai benchmark на уровне или хуже чем моя RTX 3060 12 GB с 102 Ai TOPS (int8 ?) выпущенная четыре года назад
видимо это и мелось в виду когда на Reddit писали что 9060 не очень в плане ЛЛМ

[1234waltz]

Это глупости пишут на Reddit.
Для работы и запуска LLM RX 9060 XT 16GB подходит идеально с производительностью в 205 Ai TOPS (int8, fp8). Для обучения LLM такие GPU не используются, только для работы, или finetuning (переобучение). Давно прошли времена, когда только Cuda Nvidia хорошо справлялись с работой языковых моделей. Для AMD сейчас используется Vulkan llama.cpp, а Nvidia использует CUDA llama.cpp

Сравнение:
RTX 3080 10GB - 235 Ai TOPS (int8) уже с sparsity! (умножение) х1,35, не поддерживает FP8.
RX 9060 XT 16GB - 205 Ai TOPS (it8) поддерживает fp8, sparsity (умножение) х2 - или 410 Ai tops (int8, fp8)

INT8 - 203 TOPS це буквально показник Arc B570. Це для розуміння, наскільки слабкі радеони для AI завдань, що його доводиться порівнювати з лоу-мідлом Інтела та вишедшим 5 років тому хуангівським RTX 3000, у якого до того-ж найкраща сумісність та набір софта для AI.

[Alekss]

Это глупости пишут на Reddit.
Для работы и запуска LLM RX 9060 XT 16GB подходит идеально с производительностью в 205 Ai TOPS (int8, fp8). Для обучения LLM такие GPU не используются, только для работы, или finetuning (переобучение). Давно прошли времена, когда только Cuda Nvidia хорошо справлялись с работой языковых моделей. Для AMD сейчас используется Vulkan llama.cpp, а Nvidia использует CUDA llama.cpp

Сравнение:
RTX 3080 10GB - 235 Ai TOPS (int8) уже с sparsity! (умножение) х1,35, не поддерживает FP8.
RX 9060 XT 16GB - 205 Ai TOPS (it8) поддерживает fp8, sparsity (умножение) х2 - или 410 Ai tops (int8, fp8)

INT8 - 203 TOPS це буквально показник Arc B570. Це для розуміння, наскільки слабкі радеони для AI завдань, що його доводиться порівнювати з лоу-мідлом Інтела та вишедшим 5 років тому хуангівським RTX 3000, у якого до того-ж найкраща сумісність та набір софта для AI.

Это не слабость а достижение для AMD.
Порадуйтесь за них - они смогли невероятно много добиться в RDNA 4.
Intel выпустил свои Arc B570, B580 уже учитывая все нюансы и требования архитектур RDNA 1,2,3 и RTX 2000, 3000, 4000 а также реальности рынка Ai ускорителей, что также достижение.

Отправлено спустя 4 минуты 18 секунд:

вообще интересно получается, RX 9060 XT 16GB с 205 Ai TOPS (int8) выпущенная в 2025 году, в Ai benchmark на уровне или хуже чем моя RTX 3060 12 GB с 102 Ai TOPS (int8 ?) выпущенная четыре года назад
видимо это и мелось в виду когда на Reddit писали что 9060 не очень в плане ЛЛМ

Вы не совсем правильно поняли мой пост. Производительность Ai Tops это некая условная производительность (int8), или количество инструкций (mac=умножения (int8)) за такт, которые может обработать GPU. Нет прямого стандарта как именно считается Ai tops int8 (AMD, intel, Nvidia) считают так как им удобно (AMD х2(sparsity RDNA 4), intel публикуют чистую. Nvidia только (sparsity)). И все они правы по своему. Также стоит учитывать какие именно используются int8 (tensor (matrix), или vector) как например в RDNA 2.

умножения (все коммерческий вариант ai tops)
NVIDIA Ampere ×2 (2× structured sparsity 2:4)
NVIDIA Ada ×2.58 (×2 sparsity ×1.29 ускорения FP8/INT4)
NVIDIA Blackwell ×1.1 близок к реальному
AMD RDNA 4 ×2 (sparsity 4:2 удваивает (dense / sparse 4:2))
AMD RDNA 1, 2,3 - без умножения

Чтобы было проще понять как считается Ai tops:
AMD RDNA 2,3: Units (размер CU), (MAC=операция умножения) per CU)) = (256 int8 за такт)
RX 6600 XT (RDNA 2) 32 CU * (256 int8 (vector) за такт)* 2600 MHz (32×256×2600) =21.25 Ai tops (int8), или FP16 (half) 21.21 TFLOPS (2:1)

RTX 3060 12GB (Ampere) 36 units (112 tensor)* (256 int8 за такт) *1777 MHz (112×256×1777) =50.95 Ai tops, или FP16 (half) 12.74 TFLOPS (1:1)
RX 9060 XT 16Gb (RDNA 4) 64 (Matrix Cores )*1024 (int8)*3130 mhz =205 ai tops, или (INT8 Matrix Sparsity 410 TOPs), или (FP16 Matrix) 103 TFLOPs

NVIDIA Ampere: Units = размер Tensor Cores, (MAC per TC) = 256 (int8 за такт)
NVIDIA Ada Lovelace: Units = размер Tensor Cores, (MAC per TC) = 512 (int8 за такт)
NVIDIA Blackwell: Units = Tensor Cores, (MAC per TC) = 1024 (int8 за такт)
AMD RDNA 4: Units (размер CU (MAC per CU)) =1024 (int8 за такт)

В вашем же случае производительность выпущенная четыре года назад Rtx 3060 12Gb = 102 Ai TOPS (int8 ) уже с умножением sparsity (или х2).
112 tensor*256 (int8)*1777mhz=50,95 Ai tops. *2(sparsity) =101,9 Ai tops .

если прикинуть математически то заявленная Nvidia Rtx 3060 12Gb = 50,9 (102 Sparsity) Ai TOPS, никак не может быть равна чистой производительности RX 9060XT 16Gb (205 Ai TOPS int8), а меньше в 3 раза, что невероятно много. Фактически RX 9060 XT 16Gb - в 3 раза производительней в чистой int8, или в х3 раза с умножением sparsity.

Но стоит учесть, что для работы с любой LLM RTx 3060 12GB отлично подходит. Ведь не зря Microsoft установила стандарта в 50+ Ai TOPS для Copilot PC

вы спрашивали где прочитать про sparsity:
https://blogs.nvidia.com/blog/sparsity-ai-inference
https://www.nvidia.com/content/PDF/nvid ... per-v2.pdf

[DDt]

INT8 - 203 TOPS це буквально показник Arc B570. Це для розуміння, наскільки слабкі радеони для AI завдань, що його доводиться порівнювати з лоу-мідлом Інтела та вишедшим 5 років тому хуангівським RTX 3000, у якого до того-ж найкраща сумісність та набір софта для AI.

Это не слабость а достижение для AMD.
Порадуйтесь за них - они смогли невероятно много добиться в RDNA 4.
Intel выпустил свои Arc B570, B580 уже учитывая все нюансы и требования архитектур RDNA 1,2,3 и RTX 2000, 3000, 4000 а также реальности рынка Ai ускорителей, что также достижение.

но при этом всё равно, в основном, для запуска локальных ЛЛМ рекомендуют Nvidia

вообще интересно получается, RX 9060 XT 16GB с 205 Ai TOPS (int8) выпущенная в 2025 году, в Ai benchmark на уровне или хуже чем моя RTX 3060 12 GB с 102 Ai TOPS (int8 ?) выпущенная четыре года назад
видимо это и мелось в виду когда на Reddit писали что 9060 не очень в плане ЛЛМ

если прикинуть математически то заявленная Nvidia Rtx 3060 12Gb = 50,9 (102 Sparsity) Ai TOPS, никак не может быть равна чистой производительности RX 9060XT 16Gb (205 Ai TOPS int8), а меньше в 3 раза, что невероятно много. Фактически RX 9060 XT 16Gb - в 3 раза производительней в чистой int8, или в х3 раза с умножением sparsity.

Спасибо за развёрнутый ответ!

но согласно скрину с тестами - RX 9060 XT 16Gb не в 3 раза производительней, из-за чего? оптимизация софта?