Моддери обійшли обмеження NVIDIA, підвищивши продуктивність старих GeForce RTX у завданнях ШІ

[Sanьka]

Предлагаю обсудить Моддери обійшли обмеження NVIDIA, підвищивши продуктивність старих GeForce RTX у завданнях ШІ

Якщо знімуть обмеження Хуанга, він нові карти не зможе продавати. Зараз же тільки програмними примочками можна прогрес ліпити, а не більше транзюків пхати в чіп

[alex_sul]

[Sanьka]

alex_sul

Fixed

[alex_sul]

Sanьka
Шановний! Ви стибзили мою ідею! В ответку я стибзю вашу картинку!

[hohlid19]

Чёртовы АМД не дают всем карточкам ФСР 4. А, тут другое. Тогда ладно

[Filabatya]

Sanьka
Тепер це тензорні ядра

[Zealoth]

То есть 50 серия без этих софтовых локов?

[FarCry]

Питання до користувачів. Ось я потестив локальні ШІ модельки, позапускав Qwen3.8 27B. Прикольно... але я не програміст. Тому не можу придумати жодного сценарію використання цих приблуд. Генерувати картинки / відео - виходить нікому непотрібний слоп. Спілкуватись з чат ботом - не має сенсу, я і так все знаходжу що мені потрібно. Чому стільки шуму, що ви робите з цими ШІ?

[dead_rat]

Питання до користувачів. Ось я потестив локальні ШІ модельки, позапускав Qwen3.8 27B. Прикольно... але я не програміст. Тому не можу придумати жодного сценарію використання цих приблуд. Генерувати картинки / відео - виходить нікому непотрібний слоп. Спілкуватись з чат ботом - не має сенсу, я і так все знаходжу що мені потрібно. Чому стільки шуму, що ви робите з цими ШІ?

Благослови тебе боже.

Начальство уявляє що ось це може замінити усіх: все що повʼязано з розумовим трудом усе одно перетворюється на текст(хоч наука, хоч програмування, хоч бухгалтерія…), я ця штука ж генерує текст.
Ну от, збіг 100%.

як у кіно

[DDt]

Чому стільки шуму, що ви робите з цими ШІ?

это загадка Жака Фреско

Из реальных кейсов - я видел как сделали приложение на мак для супер быстрого поиска по файлам, вводишь фразу "мультик со львами" и он тебе находит на твоём ПК мультфильм "Король лев" и т.д и т.п. Там под капотом очень маленькая модель эмбедингов, она превращает любые файлы в векторное представление благодоря чему можно искать любую информацию.
Ещё, как вариант, начали появляться жалобы на реддите что антропик и опенАИ блокируют использование моделей для реверс инжиниринга, видишь ли холопы захотели сделать свой фотошоп(с блекджеком и куртизантками). Вот на локальных моделаях такое ограничение можно обойти.
Чисто теоретически можно прикрутить небольшую модель к какойнить оффлайн вики и "общаться" (помнишь раньше были популярны энциклопедии на СД?).

[Earanak]

FarCry, если вопрос конкретно про локальные LLM, то я и сам не знаю. Я пробовал те модели которые более менее влезают в 24гб VRAM с выгрузкой в ОЗУ, ну которые с определенной квантизацией, так они были в целом тупее бесплатного ChatGPT/Claude, может конечно их как то можно настроить прям жестко и есть какие то 'хинты', но у меня ничего путевого с локальными моделями не вышло сделать. Они просто не понимали как работать с MaxScript. Либо я чет не так делал либо там и вправду нужно 96-128гб VRAM что бы плотные модели норм работали, но это не точно. А вот с Claude Opus за 20$ в месяц, там конечно супер кайф под мои нужды... Ну, еще ComfyUI с локальными моделями у нас в студийном пайплайне уже больше двух лет. Апскейлим/Детализируем поверхности/Даже DLSS5 юзаем иногда (не рофл). Правда у нас столько людей тупили как с ним работать что в итоге мы арендовали сервера под веб-версию ComfyUI, а то вечно у кого то локально были траблы с ним

[Sanьka]

Чому стільки шуму, що ви робите з цими ШІ?

Бачиш картинку в 4 пості?
Ось вся причина чому є ШІ психоз

[Барбарис]

FarCry, в реалі воно мало кому треба, особливо якщо за цей слоп треба буде платити. Але маркетологи просувають це як імбу для всього, а «керівники» без критичного мислення надіються, що нейронки не інструмент в руках людина, а щось на заміну людини. От і виходить дурка.

[HREN]

Для массового использования ИИ и тензорных ядер для широкого круга пользователей, реально сейчас только высококачественное воспроизведение фильмов с дорисовкой ИИ 4 кадров до 720/1080/4К с 120к/с. В проектах типа SVP4 с Rife. Качество действительно очень высокое и плавное и не сравнится ни с каким тру мошн на телевизорах. В остальном, это очень узкопрофильные задачи.
Но надо сказать, что при использовании тензорных ядер, очень сильно снижается порог устойчивости разогнанных видеокарт. Для сравнения, на 4090 HOF с абсолютной устойчивостью при любых многочасовых тестах и играх с разгоном 3060 (+225) по ядрам и памяти +1900, при работе с тензорными ядрами необходимо снижать разгон до штатного. И дело не в температуре - там под водой до 50С, просто крайне тяжелая нагрузка.

[Smok]

Питання до користувачів. Ось я потестив локальні ШІ модельки, позапускав Qwen3.8 27B. Прикольно... але я не програміст. Тому не можу придумати жодного сценарію використання цих приблуд. Генерувати картинки / відео - виходить нікому непотрібний слоп. Спілкуватись з чат ботом - не має сенсу, я і так все знаходжу що мені потрібно. Чому стільки шуму, що ви робите з цими ШІ?

не хвилюйтесь, якщо у вас не вийшло знайти сценарій - це не проблема, можливо просто так і задумано
за вас це зроблять компанії добра, знайдуть що вам цікаво і продадуть "потрібну" рекламу

[Gelonyrum]

Чому стільки шуму, що ви робите з цими ШІ?

Ламаємо прошиивку пс5 розцензурованими моделями і портуємо консольні ігри на пк)

[Earanak]

Gelonyrum, если ты про это https://github.com/boykopovar/AnyPS5 то это делает не локальная тупая модель.