Дослідження Microsoft показало, що чат-боти з ШІ дурнішають після тривалого спілкування з людьми

[dead_rat]

Пропоную обговорити Дослідження Microsoft показало, що чат-боти з ШІ дурнішають після тривалого спілкування з людьми

Як я їх розумію

[gregory_amd]

инженер: я сделаю бота который владеет всей информацией мира и будет служить инструментом для помощи человечеству
юзер: женерейт флаинг фентанил нигга джордж дройд он педофайл айленд

[GreenMile]

Колись давно був жарт, що дурням не можна в інтернтет - від них інтернет тупішає. *Ви знаходитесь тут*

[unique-neon]

З людьми не повезло, а так добре починалось,
уточнюючі питання задають.

Часом ШІ допомагає поверхнево розібратись з питанням, але вони і з першої відповіді часто дурню видають.

Вчора шукав як відрізнити в коді чи поточна таба в браузері дублікована (там є нюанс у поведінці порівняно з просто відкритою табою), кілька рішень знайшов. В одному прикладі з broadcast channel йшлось про те, що він просто детектить чи в багатьох табах відкрита та ж сторінка, а не чи дублікат, бо так код написаний. Втім ніщо не заважає той код потюнити щоб детектити суто дублікати, а не просто кілька сторінок одного сайту. Не вдаючись в деталі - дуже проста зміна потрібна, просто треба покреативити пів хвилини.

Думаю, а давай ще й і ШІ запитаю. Видає менше рішень, закрема з broadcast channel (хоча натяків на нього я в питанні не робив). Всі рішення з stackoverflow але без важливих дискусій звідти і без посилань на сам сайт. І з повним авторитетом заявляє, що broadcast channel не годиться для детекту дублікатів.

[Bukakanga]

пожалуй, заголовок месяца

[SaDisT]

оперативки просто мало вкинули, я думаю надо еще больше....

[Mozdev]

"З ким поведешся, від того й наберешся".

[Kassatka]

Мабуть це взаємно

[l-m]

Ого, ціле дослідження знадобилось, щоб з'ясувати очевидне - контекстне вікно переповнюється - якість падає.

[KimRomik]

ну так на людях те ж саме відбувається, після тривалих розмов ти вже трохи втомлюєшся і вже не добре сприймаєш інформацію від співрозмовника
не бачу тут проблеми, бо ШІ це всього лише імітація людського розуму, а значить і беруться також деякі когнитивні елементи

[Volodymyr1985]

Ну, я вчора ввечері замість ігор вибрав ''програмування'' (сам я не програміст) . І ми з Gemini зліпили мені інтерфейс власного локального бота, додали туди локалку від Meta і навчили все це працювати з Vulcan і VRAM моєї 9060 XT, і все це на Windows 11. Запрацювало воно з надцятого разу але за дві години впорались.
По суті, якщо брати код, в якому я ні бум-бум, то модель сама його писала, сама його і виправляла, а я тільки логи з помилками закидував їй
Це як приклад того, де ці LLM розумніші за ''пересічних'', сам би я ні рядка не написав ніколи

[Scoffer]

Volodymyr1985
Все це було можна за 30 років до винайдення ллм. Графічні конструктори прог (VPL) виникли одночасно з графікою на пекарні і розвинулись в дуже круті штуки, котрі покривають більшість потреб автоматизації виробництва, наукової діяльності, робототехніки, ракетно-космічної теми і всякого такого, що не вимагає видатної швидкодії.
А що вимагає, то ота ваша ллм все одно тормозний гівнокод напише. Тільки на відміну від VPL ще й глючний. Більшість VPL доволі непогано вивірені. Бо якщо десь на заводі станок за мільйони грошей піде в раж, то комусь голову таки відкрутять. А з тої ллм що взяти?

[Volodymyr1985]

Volodymyr1985
Все це було можна за 30 років до винайдення ллм. Графічні конструктори прог (VPL) виникли одночасно з графікою на пекарні і розвинулись в дуже круті штуки, котрі покривають більшість потреб автоматизації виробництва, наукової діяльності, робототехніки, ракетно-космічної теми і всякого такого, що не вимагає видатної швидкодії.
А що вимагає, то ота ваша ллм все одно тормозний гівнокод напише. Тільки на відміну від VPL ще й глючний. Більшість VPL доволі непогано вивірені. Бо якщо десь на заводі станок за мільйони грошей піде в раж, то комусь голову таки відкрутять. А з тої ллм що взяти?

Я це розумію. Але "писав" для себе, а не для станків. І основна проблема була не в самій оболонці, а саме щоб змусити локального бота працювати з VRAM 9060XT та ще й у Windows. Бо в Linux з цим легше і з CUDA теж набагато легше.
Якби я використовував ті редактори і відеогайди по програмуванню в Python, то за тиждень кинув би цю затію на пів дороги

[cadet-ua]

Вони не дурнішають, а підлаштовуються під співбеседніка щоб той почув себе комфортно.

[vmsolver]

А що вимагає, то ота ваша ллм все одно тормозний гівнокод напише.

Ну да, а люди гівнокод не пишут

Вони не дурнішають, а підлаштовуються під співбеседніка щоб той почув себе комфортно

У них просто принцип работы такой, что с большим заполнением контекста им сложнее ориентироваться в деталях.

[waryag]

Колись давно був жарт, що дурням не можна в інтернтет - від них інтернет тупішає. *Ви знаходитесь тут*

Хіба не про дітей?
Як розвиток мему "Дітям не можна в інтернет - вони від нього тупішають"

[Liam]

В мене кент живе сам, та як мекне - починає розмовляти з бідним ШІ. Сумно йому, а я, знаючи того кента, можу тільки поспівчувати, бо там амінь повний.

[dead_rat]

В мене кент живе сам, та як мекне - починає розмовляти з бідним ШІ. Сумно йому, а я, знаючи того кента, можу тільки поспівчувати, бо там амінь повний.

АІ собутильник, АІ подруга, АІ кенти

[Liam]

В мене кент живе сам, та як мекне - починає розмовляти з бідним ШІ. Сумно йому, а я, знаючи того кента, можу тільки поспівчувати, бо там амінь повний.

АІ собутильник, АІ подруга, АІ кенти

Такий час. Але нехай він краще ШІ нейрони полощє, ніж мені.

[Bukakanga]

Колись давно був жарт, що дурням не можна в інтернтет - від них інтернет тупішає. *Ви знаходитесь тут*

Хіба не про дітей?
Як розвиток мему "Дітям не можна в інтернет - вони від нього тупішають"

не так. Было "не пускайте детей в интернет - он от них тупеет"