Альтернатива чат-гпт для роботи

[_clawfinger_]

qwen 3b

почему не qwen 3,5 4б ?
в чём запускаешь? какой харнес (Jan, LMstudio, OpenWebUI, голый llama.cpp)?
можно пример для какой задачи?
потому как по моему опыту "щупанья" маленьких локальных моделек, ничего не годится в качестве модели для общих задач
но может это я что-то не так делаю

Гола llama.cpp, заходжу через додаток terminus на телефоні, або планшеті тупо в консолі. У мене малина 5 з UPS модулем, там 4 елемента 21700.
Запускаю конкретну модель, бо вона оптимізована під малину.
Завдання у всіх різні, навіть поняття «загальні» надто довільне трактування.

[DDt]

_clawfinger_
что за модель? интересно что там оптимизировали под малину если она запускается на обычном llama.cpp

Завдання у всіх різні, навіть поняття «загальні» надто довільне трактування.

можешь привести конкретный пример где конкретно твоя модель даёт ответы точнее чем бесплатный чатжпт?