Я ж дав посилання на цей експеримент, можете почитати. Це не серіал, в цілком реальна (змодельована) історія.XAMCTBO: ↑ 17.01.2026 11:50Пан пересказав одну з серій ''Хроніки Сари Конор'', де один з ШІ кокнув когось з обслуги, вимкнувши кліматичну систему, бо були перебої із живленням і він його економив.Tiufin: ↑ 16.01.2026 18:53 До речі, щодо свідомості - кілька місяців тому antropic провели експеримент із досить моторошним результатом. Вони підключили ШІ до своєї внутрішньої переписки та там навмисно вели розмови, що планують відключити ШІ. В результаті ші з'ясувало, що один із членів команди ніби-то зраджує своїй дружині, та почав його шантажувати, щоб він не відключав той ші.
В іншому моделюванні ситуації, інженер, який мав відключити ШІ, потрапив у серверній у якусь ситуацію, яка загрожувала його життю (перегрів повітря та нестача косню). І ШІ відключив автоматичний виклик рятувальників - щоб той інженер загинув, та не відключив ШІ.
Upd: хоча в цьому моделюванні ситуація була трохи запутаніша, бо по легенді ші своїм існуванням мав захищати інтереси США, а у серверну пробрався чужинець, який хотів вимкнути ші та перенастроїти на захист інтересів іншої сторони. Тож, виходить, там ші не лише себе захищав.
https://www.anthropic.com/research/agentic-misalignment
Відправлено через 1 хвилину 53 секунди:
По темі ще кілька місяців тому все вже написалиVirusikZloy: ↑ 17.01.2026 08:09 Развели срач на 7 страниц по теме 2 человека напасало … вот вам делать нефиг![]()