ШІ-агенти OpenAI навчилися обмінюватися інформацією в ізольованих віртуальних середовищах через кеш процесора

[VovaII]

KimRomik
Перед ними поставили задачу знайти будь-який спосіб спілкування. Вони знайшли. — Якби ставили іншу задачу, то вони б і не шукали. — То хто поганий? ШІ чи ті хто задачу ставили?

[Ray2000gt]

Не розумію чому не можуть зробити модель базових правил та поведінки, в якій буде заборонено наносити шкоду або виконувати задачі використовуючи якісь обхідні схеми та взломи
Виходить гів*окод якийсь

Це філософське питання. Людство прийшло до того що робити погане - погано. Але щоб заохочувати людей не робити погане є санкції, система стримань і заохочень.
Будь яке правило без санкцій не діятиме.

[Scoffer]

Не розумію чому не можуть зробити модель базових правил та поведінки, в якій буде заборонено наносити шкоду або виконувати задачі використовуючи якісь обхідні схеми та взломи

спойлер

[VovaII]

Scoffer

Віє англійським гумором, з чорним відтінком.

[yariksom]

"Тому компанії в цій сфері активно працюють над тим, щоб посилити обмежувальні заходи та покращити контроль під час навчання"
Ага , що заваджає потужним урядовим структурам поставити собі сервер хоч за трільйон баксів і ганяти локалку яка може потрощити все?

Отправлено спустя 19 минут 36 секунд:

Це філософське питання. Людство прийшло до того що робити погане - погано. Але щоб заохочувати людей не робити погане є санкції, система стримань і заохочень.
Будь яке правило без санкцій не діятиме.

Правило "не убий" не діє навіть з санкціями, правда обмеження є, але вбивати можна цілком законно, так і всі заповіді (ну заповіді то фігня, їх мало, вони взагалі як белькотіння немовляти проти людських законів), а також весь кримінальний кодекс будь якої країни можна обійти створивши належні обставини.
А погане чи добре визначає мораль суспільства, "берберська мораль" - самий явний її вираз, так практично всі думають але мало хто скаже
Дуже спрощений приклад:
- Якщо сусіднє племя вкраде в тебе тварин, і (не буду заглиблюватися) вчинить всякий непотріб в твоєму таборі, це як?
- Це дуже поганий вчинок, люди не повинні робити так.
- А якщо ваше племя зробить те саме в сусідів?
- Це дуже добре - ми воїни, ми повинні так робити.

Це так навскидку.

Однак, що добре, що погане? Перше питання - "Для кого?".

І цілком можливо, що весь гуманізм піде лісом, зараз в Україні понад мільйон інвалідів включаючи мене, можливо нас було треба перебити, або хоча б стерилізувати, як це робили з гренландцями десь аж до 90х років минулого сторіччя, або в заможній Швейцарії також років до 80х?

Правда Інуїтів стерилізували всіх щоб вони тупо не плодилися, а швейцарці всіх хто народився або в подальшому був з відхиленнями.

А тепер для себе подумайте - де грань добра і зла?