Майбутній флагманський процесор Apple M7 Ultra підтримуватиме 1,5 ТБ пам’яті

[yariksom]

Підтримуватиме то підтримуватиме, хто ж йому стільки дасть?

[Demedik]

Перейдуть на LPDDR6 ну або більше каналів LPDDR5X додадуть

Ну пока это вилами по воде... Если сделают - то будет интересный девайс, если нет - то это просто мертвые терабайт. А с тем, что в прифиле они сильно отстают(вот даже от АМД) - им это просто необходимо.

[Nick_888]

Перейдуть на LPDDR6 ну або більше каналів LPDDR5X додадуть

Ну пока это вилами по воде... Если сделают - то будет интересный девайс, если нет - то это просто мертвые терабайт. А с тем, что в прифиле они сильно отстают(вот даже от АМД) - им это просто необходимо.

у M5 додали тензорні ядра в GPU, якими в AMD навіть і не пахне, тому точно не відстає, а перевершує. На фоні M5 Pro/M5 Max умовний Strix Halo з допотопною RDNA3 виглядає так собі.

[Kassatka]

На фоні M5 Pro/M5 Max умовний Strix Halo з допотопною RDNA3 виглядає так собі.

Що, бляха, досі заважає архітектуру RDNA4 використати для ноутбучних відях та для APU?.. Що потрібно вигадувати всякі гібридні франкенштейни RDNA 3.5.

[kabostebeztak]

Ну пока это вилами по воде... Если сделают - то будет интересный девайс, если нет - то это просто мертвые терабайт. А с тем, что в прифиле они сильно отстают(вот даже от АМД) - им это просто необходимо.

у M5 додали тензорні ядра в GPU, якими в AMD навіть і не пахне, тому точно не відстає, а перевершує. На фоні M5 Pro/M5 Max умовний Strix Halo з допотопною RDNA3 виглядає так собі.

Е, слоп

[Demedik]

у M5 додали тензорні ядра в GPU, якими в AMD навіть і не пахне, тому точно не відстає, а перевершує. На фоні M5 Pro/M5 Max умовний Strix Halo з допотопною RDNA3 виглядає так собі.

И? У текущих машин Эпл префил(обработка контекста) идет в районе 200 токенов в сек. У НеВидии на их коробочке - 1800+-, АМД коробочка 800+-(В ноуте на Винде лично видел 900-1000, так что запас для роста есть). Генерация 50+- на метале, НеВидиа и АМД 40-50. Проблема конкретно в пропускной способности памяти. Это не дает НеВидии показать класс. Работать адекватно локально могут только МоЕ на всех. Денс модели только на кластерах. Да тут у Эпл и НеВидиа положение вещей чуть лучше - встроенный DMA. С АМД нужно брать компы с PCI-E, чтобы можно было это поставить. Когда ставиться - тогда и тут проблем нет.

[Nick_888]

у M5 додали тензорні ядра в GPU, якими в AMD навіть і не пахне, тому точно не відстає, а перевершує. На фоні M5 Pro/M5 Max умовний Strix Halo з допотопною RDNA3 виглядає так собі.

И? У текущих машин Эпл префил(обработка контекста) идет в районе 200 токенов в сек. У НеВидии на их коробочке - 1800+-, АМД коробочка 800+-(В ноуте на Винде лично видел 900-1000, так что запас для роста есть). Генерация 50+- на метале, НеВидиа и АМД 40-50. Проблема конкретно в пропускной способности памяти. Это не дает НеВидии показать класс. Работать адекватно локально могут только МоЕ на всех. Денс модели только на кластерах. Да тут у Эпл и НеВидиа положение вещей чуть лучше - встроенный DMA. С АМД нужно брать компы с PCI-E, чтобы можно было это поставить. Когда ставиться - тогда и тут проблем нет.

Дайте конкретне порівняння з конкретними моделями і результатами

[Demedik]

Дайте конкретне порівняння з конкретними моделями і результатами

спойлер

+ вот это тулкит для Стрикс Хало. Тут и бенчмарки есть.

спойлер

https://strix-halo-toolboxes.com/

[Nick_888]

Дайте конкретне порівняння з конкретними моделями і результатами

спойлер

+ вот это тулкит для Стрикс Хало. Тут и бенчмарки есть.

спойлер

https://strix-halo-toolboxes.com/

А, ну так там порівняння з M4 Pro було, не M5. M5 серія у кожному GPU ядрі має Neural Accelerator, який прискорює matmul операції. (До 4 разів швидший prefill порівняно з М4). Mac mini з M5 Pro поки не релізнули.

[Demedik]

А, ну так там порівняння з M4 Pro було, не M5. M5 серія у кожному GPU ядрі має Neural Accelerator, який прискорює matmul операції. (До 4 разів швидший prefill порівняно з М4). Mac mini з M5 Pro поки не релізнули.

Что доступно. А так ему немного огурцов подкинули за то, что РОКМ не использовал(он для АМД использовал Вулкан), который уже стал гораздо лучше. + находил гибридный вариант использования на АМД(когда гпу и нпю сразу) - но тут надо ковыряться. Скажем так пока ограничения явно из-за ширины канала при сравнение всех против всех. Будет интересно когда выпустят 8... но это пока мечты.

Сам жду НеВидиа чип в ноутах. Если будет хороший прирост прифила с АМД и какой ни какой прирост генерации - то буду думать на счет того, чтобы купить. Текущий ноут Асус ПроАрт пх13 тянет в целом нормально работу с unsloth/Qwen3.6-35B-A3B-MTP-GGUF Q8_K_XL с 256к контекста. Как поставил Линь сразу решилась проблема UMA + перестал сбрасываться кеш контекста.