Це питання вирішили розпайкою пам'яті на платі, як на АМД 380-395, без використання слотів.
Це не так працює. Поки у вас в SoC немає контролера пам'яті ширшого за два канали ніяка розпайка нічого не вирішить
8050 та 8060 фактично знищують увесь лоу енд, та мають швидкість рівня RX7600.
Дуже смішно. Скільки коштуватиме mITX 7500f із 7600 і скільки система на AI Max? Ці рішення не перетинаються ні ціною ні форм фактором. Може десь в ноутах лише.
Відправлено через 53 хвилини 22 секунди:
Як раз вийшов огляд
alexeygalas
прочитав твій пост і зрозумів що я знаю лише про 8060s (AI MAX 395+) яка і справді в одному планшеті і лептопі, піду якісь огляди подивлюся чи почитаю.
890m це AI HX 370
методики измерения тех процесса у всех разные... интел 18А считает 1,8нМ, а TSMC 18A считает за 3,6нМ. Оно так мало что всего менее сотни электронных микроскопом в мире что бы точно измерить "как оно на самом деле".
Суть то 40-60нМ на 40-60нМ транзистор или 3д сложной формы строенный и самое узкое место (=тех процесс)... его то тоже можно разными методиками измерять. Некоторые статистически измеряют типо сколько затворов транзисторов на единицу объёма так там ваще годовой прирост мизерный.
цитата: хорошо справляется с квантизированными 15 t/sek, но не очень хорошо справляется полно размерными моделями 3 t/sek.
(15 t/sek и 3 t/sek) это невероятно медленно. Вы устанете ждать ответа модели, или мирится с вылетами AMD Rocm.
Если вам интересно, вот более профессиональный подход.
Ryzen Ai max 395+ показывает очень много ошибок (50%) при запуске полно размерных моделей 60+ миллиардов параметров. Я бы назвал Ryzen Ai max 395+ первым поколением подобной технологии AMD VGM. И это невероятно круто! intel в Panther Lake только анонсировала подобную технологию типа ( AMD Variable Graphics Memory), но о ней практически ничего не известно, кроме туманных релизов и обещаний. Не известно, как это будет работать в реальных приложениях и с большими LLM и будет ли.
Alekss: ↑
20.09.2025 19:43
Мое имхо таково, что этот тест AI Text Generation Benchmark работает через ONNX с DirectML (DirectX 12). GPU Nvidia лучше отптимизированны для работы с ONNX DirectML (DirectX 12), чем GPU AMD. И результаты в нем довольно противоречивые.
Например:
RX 9060XT показывает одинаковую производительность с RTX 5060 (+5%), хотя RTX 5060 намного больше производительней для машинного обучения. Но RTx 3060ti типа производительней RTX 5060, что является не правдой.
Зеленым цветом Cuda Llama.cpp. красным Vulcan Llama.cpp
Этот бенчмарк наглядно показывает производительность GPU при использовании языковых моделей, через Vulcan Llama.cpp или Cuda Llama.cpp
GPU Nvidia используют как Vulcan Llama.cpp или Cuda Llama.cpp, AMD и intel только Vulcan Llama.cpp.
Краткий вывод:
на системе c Ryzen Ai max 395+ работа c полноразмерными моделями 60+ миллиардов параметров возможна (больше ни для чего этот нотубук или система на нем не нужна), но с очень большими неудобствами или медлительностью, а также ошибками и вылетми. За $3000 хочется больше комфорта или скорости. Возможно AMD в следующих архитектурах, или релизах улучшит саму технологию AMD Variable Graphics Memory и производительность, а также снизит стоимость таких решений.
Alekss
Виглядає як світова проблема. Сподіваюся інвестиції OpenAI в AMD дозволять червоним все це виправити. Можливо в наступних поколіннях продуктів. Особливо мені пофігу швидкість червоних в AI обчисленнях, але гроші зароблені на AI дозволять AMD випускати кращі GPU для ігор
