Моддери обійшли обмеження NVIDIA, підвищивши продуктивність старих GeForce RTX у завданнях ШІ

[Sanьka]

Предлагаю обсудить Моддери обійшли обмеження NVIDIA, підвищивши продуктивність старих GeForce RTX у завданнях ШІ

Якщо знімуть обмеження Хуанга, він нові карти не зможе продавати. Зараз же тільки програмними примочками можна прогрес ліпити, а не більше транзюків пхати в чіп

[alex_sul]

[Sanьka]

alex_sul

Fixed

[alex_sul]

Sanьka
Шановний! Ви стибзили мою ідею! В ответку я стибзю вашу картинку!

[hohlid19]

Чёртовы АМД не дают всем карточкам ФСР 4. А, тут другое. Тогда ладно

[Filabatya]

Sanьka
Тепер це тензорні ядра

[Zealoth]

То есть 50 серия без этих софтовых локов?

[FarCry]

Питання до користувачів. Ось я потестив локальні ШІ модельки, позапускав Qwen3.8 27B. Прикольно... але я не програміст. Тому не можу придумати жодного сценарію використання цих приблуд. Генерувати картинки / відео - виходить нікому непотрібний слоп. Спілкуватись з чат ботом - не має сенсу, я і так все знаходжу що мені потрібно. Чому стільки шуму, що ви робите з цими ШІ?

[dead_rat]

Питання до користувачів. Ось я потестив локальні ШІ модельки, позапускав Qwen3.8 27B. Прикольно... але я не програміст. Тому не можу придумати жодного сценарію використання цих приблуд. Генерувати картинки / відео - виходить нікому непотрібний слоп. Спілкуватись з чат ботом - не має сенсу, я і так все знаходжу що мені потрібно. Чому стільки шуму, що ви робите з цими ШІ?

Благослови тебе боже.

Начальство уявляє що ось це може замінити усіх: все що повʼязано з розумовим трудом усе одно перетворюється на текст(хоч наука, хоч програмування, хоч бухгалтерія…), я ця штука ж генерує текст.
Ну от, збіг 100%.

як у кіно

[DDt]

Чому стільки шуму, що ви робите з цими ШІ?

это загадка Жака Фреско

Из реальных кейсов - я видел как сделали приложение на мак для супер быстрого поиска по файлам, вводишь фразу "мультик со львами" и он тебе находит на твоём ПК мультфильм "Король лев" и т.д и т.п. Там под капотом очень маленькая модель эмбедингов, она превращает любые файлы в векторное представление благодоря чему можно искать любую информацию.
Ещё, как вариант, начали появляться жалобы на реддите что антропик и опенАИ блокируют использование моделей для реверс инжиниринга, видишь ли холопы захотели сделать свой фотошоп(с блекджеком и куртизантками). Вот на локальных моделаях такое ограничение можно обойти.
Чисто теоретически можно прикрутить небольшую модель к какойнить оффлайн вики и "общаться" (помнишь раньше были популярны энциклопедии на СД?).

[Earanak]

FarCry, если вопрос конкретно про локальные LLM, то я и сам не знаю. Я пробовал те модели которые более менее влезают в 24гб VRAM с выгрузкой в ОЗУ, ну которые с определенной квантизацией, так они были в целом тупее бесплатного ChatGPT/Claude, может конечно их как то можно настроить прям жестко и есть какие то 'хинты', но у меня ничего путевого с локальными моделями не вышло сделать. Они просто не понимали как работать с MaxScript. Либо я чет не так делал либо там и вправду нужно 96-128гб VRAM что бы плотные модели норм работали, но это не точно. А вот с Claude Opus за 20$ в месяц, там конечно супер кайф под мои нужды... Ну, еще ComfyUI с локальными моделями у нас в студийном пайплайне уже больше двух лет. Апскейлим/Детализируем поверхности/Даже DLSS5 юзаем иногда (не рофл). Правда у нас столько людей тупили как с ним работать что в итоге мы арендовали сервера под веб-версию ComfyUI, а то вечно у кого то локально были траблы с ним

[Sanьka]

Чому стільки шуму, що ви робите з цими ШІ?

Бачиш картинку в 4 пості?
Ось вся причина чому є ШІ психоз

[Барбарис]

FarCry, в реалі воно мало кому треба, особливо якщо за цей слоп треба буде платити. Але маркетологи просувають це як імбу для всього, а «керівники» без критичного мислення надіються, що нейронки не інструмент в руках людина, а щось на заміну людини. От і виходить дурка.

[HREN]

Для массового использования ИИ и тензорных ядер для широкого круга пользователей, реально сейчас только высококачественное воспроизведение фильмов с дорисовкой ИИ 4 кадров до 720/1080/4К с 120к/с. В проектах типа SVP4 с Rife. Качество действительно очень высокое и плавное и не сравнится ни с каким тру мошн на телевизорах. В остальном, это очень узкопрофильные задачи.
Но надо сказать, что при использовании тензорных ядер, очень сильно снижается порог устойчивости разогнанных видеокарт. Для сравнения, на 4090 HOF с абсолютной устойчивостью при любых многочасовых тестах и играх с разгоном 3060 (+225) по ядрам и памяти +1900, при работе с тензорными ядрами необходимо снижать разгон до штатного. И дело не в температуре - там под водой до 50С, просто крайне тяжелая нагрузка.

[Smok]

Питання до користувачів. Ось я потестив локальні ШІ модельки, позапускав Qwen3.8 27B. Прикольно... але я не програміст. Тому не можу придумати жодного сценарію використання цих приблуд. Генерувати картинки / відео - виходить нікому непотрібний слоп. Спілкуватись з чат ботом - не має сенсу, я і так все знаходжу що мені потрібно. Чому стільки шуму, що ви робите з цими ШІ?

не хвилюйтесь, якщо у вас не вийшло знайти сценарій - це не проблема, можливо просто так і задумано
за вас це зроблять компанії добра, знайдуть що вам цікаво і продадуть "потрібну" рекламу

[Gelonyrum]

Чому стільки шуму, що ви робите з цими ШІ?

Ламаємо прошиивку пс5 розцензурованими моделями і портуємо консольні ігри на пк)

[Earanak]

Gelonyrum, если ты про это https://github.com/boykopovar/AnyPS5 то это делает не локальная тупая модель.

[yariksom]

Ламаємо прошиивку пс5 розцензурованими моделями і портуємо консольні ігри на пк)

Так і зробили, свіженький злам ПС5 ніби ще минулого тижня був.

[Alexsandr]

Питання до користувачів. Ось я потестив локальні ШІ модельки, позапускав Qwen3.8 27B. Прикольно... але я не програміст. Тому не можу придумати жодного сценарію використання цих приблуд. Генерувати картинки / відео - виходить нікому непотрібний слоп. Спілкуватись з чат ботом - не має сенсу, я і так все знаходжу що мені потрібно. Чому стільки шуму, що ви робите з цими ШІ?

помогает в быту и работе дает направление какие товары смотреть к примеру, может перенастроить пакеты для докера что бы заработали... только доверять ему не следует, все итоги надо перепроверять руками, но до итогов еще надо дойти.
Надо доделать еще приложение которым хочу управлять монитором как мне надо, а не покупать за 30баксов программу которая не все делает как мне хочется но в целом да, маркетологи пихают везде, а по факту это еще один инструмент причем очень "капризный" т.к. может выдать белиберду вместо нужного, но в процессе диалога можно и решение придумать. надо будет прогнать еще одну софтину через ИИ. Год или больше тому ИИ так и не смог сделать изменения которые я хотел.

Даже банальный поиск чего-то лучше. выдает информацию (проверяем хоть 1 источником), а на сайте начинается, "вы хотите узнать сколько будет 2+2, тогда начнем, цифры из примера придуманы тогда-то тем-то, расрпостранялиьс по миру так-то и пример типа 2+2 могли решить еще в древние времена, и так посомтрим насколько де сложное задание будет 2+2, для начала повторим правила сложения, потом правила умножения и заодно вычитания и деления, а вы знали что некоторые операции можно заменит обратными? так можно сделать и в примере 2+2 к примеру возьмем 3+3 и попробуем заменить... и в самом конце будет 2+2=4. " тратить время на чтение одного и того же, что применяют для поисковых алгоритмов (частота упоминания) мне некомфортно.