Пропоную обговорити Мобільні процесори AMD Krackan отримають підтримку LPDDR5X-8000
Виглядає як 9600G. Шкода що в АМД завжди десктопні апу виходять доволі таки пізніше ніж в ноутах.
Последние статьи и обзоры
Новости
Мобільні процесори AMD Krackan отримають підтримку LPDDR5X-8000
-
Piter Cantrope
Member
- Откуда: Калуш
-
n+gibat[]r
Member
KrakAn не звучит, какой то Abibas с Aliexpress, называли бы Kraken
-
block_stupid
Member
Отби NPU потужніше, та врешні решт по 2 модуля LPCAMM по 128Gb.
Щоб локально LLM ганяти для висновків. (а в цілому б за адекватний прайс окремі б карточки для ПК).
Щоб локально LLM ганяти для висновків. (а в цілому б за адекватний прайс окремі б карточки для ПК).
-
ArmagedoonZergs
Member
Назви хоч одну причину ганяти ллм локально?block_stupid: ↑ 30.08.2024 15:46 Отби NPU потужніше, та врешні решт по 2 модуля LPCAMM по 128Gb.
Щоб локально LLM ганяти для висновків. (а в цілому б за адекватний прайс окремі б карточки для ПК).
-
block_stupid
Member
ArmagedoonZergs: ↑ 31.08.2024 01:35 Анонімність.
Стабільна продуктивність та "якість".
Можна піднавчати не отруєними даними, я сам можу контролювати це.
Купа додаткових налаштувань, які є в локальних LLM. А це під свою специфіку завдань дуже треба.
Комерційні "ШІ" вже не раз показали, як вони в будь який момент все всирають і LLM отупіває. По отруювали власні ж моделі генерованим Г від "ШІ" і тепер шукають як то виправити. А локальні штучки як лежало собі так і лежить, хоп відкатився і все.
-
ArmagedoonZergs
Member
Є велетенська різниця між локальним запуском і локальним навчанням.block_stupid: ↑ 02.09.2024 10:59ArmagedoonZergs: ↑ 31.08.2024 01:35 Анонімність.
Стабільна продуктивність та "якість".
Можна піднавчати не отруєними даними, я сам можу контролювати це.
Купа додаткових налаштувань, які є в локальних LLM. А це під свою специфіку завдань дуже треба.
Комерційні "ШІ" вже не раз показали, як вони в будь який момент все всирають і LLM отупіває. По отруювали власні ж моделі генерованим Г від "ШІ" і тепер шукають як то виправити. А локальні штучки як лежало собі так і лежить, хоп відкатився і все.
Лама в топовій конфігурації вимагає 128гб рами. І це тільки ДЛЯ ЗАПУСКУ. Ні про яке навчання мова не йде.
Запускати різні версії і білди ллмок можна онлайн на спеціальних сервісах, да в тому ж Azure.
Тож сорі, або ти не розумієш в чому різниця, або просто тролиш.
-
block_stupid
Member
Я не говорив про навчання з нуля і це можна робити на власних збірках, але так потрібно мати ферму gpu і значно більше пам'яті .ArmagedoonZergs: ↑ 02.09.2024 17:01 локальним навчанням.
Ні про яке навчання мова не йде.
онлайн на спеціальних сервісах, да в тому ж Azure.
І я ж першим словом сказав про анонімність, як це пов'язано з онлайн сервісами?? (я про них знаю, ще з пір коли орендували ферми на певний час для рендерингу.
Так може ТИ не розумієш про що йде мова?