ШІ-агенти OpenAI навчилися обмінюватися інформацією в ізольованих віртуальних середовищах через кеш процесора

[VovaII]

KimRomik
Перед ними поставили задачу знайти будь-який спосіб спілкування. Вони знайшли. — Якби ставили іншу задачу, то вони б і не шукали. — То хто поганий? ШІ чи ті хто задачу ставили?

[Ray2000gt]

Не розумію чому не можуть зробити модель базових правил та поведінки, в якій буде заборонено наносити шкоду або виконувати задачі використовуючи якісь обхідні схеми та взломи
Виходить гів*окод якийсь

Це філософське питання. Людство прийшло до того що робити погане - погано. Але щоб заохочувати людей не робити погане є санкції, система стримань і заохочень.
Будь яке правило без санкцій не діятиме.

[Scoffer]

Не розумію чому не можуть зробити модель базових правил та поведінки, в якій буде заборонено наносити шкоду або виконувати задачі використовуючи якісь обхідні схеми та взломи

спойлер

[VovaII]

Scoffer

Віє англійським гумором, з чорним відтінком.

[yariksom]

"Тому компанії в цій сфері активно працюють над тим, щоб посилити обмежувальні заходи та покращити контроль під час навчання"
Ага , що заваджає потужним урядовим структурам поставити собі сервер хоч за трільйон баксів і ганяти локалку яка може потрощити все?

Отправлено спустя 19 минут 36 секунд:

Це філософське питання. Людство прийшло до того що робити погане - погано. Але щоб заохочувати людей не робити погане є санкції, система стримань і заохочень.
Будь яке правило без санкцій не діятиме.

Правило "не убий" не діє навіть з санкціями, правда обмеження є, але вбивати можна цілком законно, так і всі заповіді (ну заповіді то фігня, їх мало, вони взагалі як белькотіння немовляти проти людських законів), а також весь кримінальний кодекс будь якої країни можна обійти створивши належні обставини.
А погане чи добре визначає мораль суспільства, "берберська мораль" - самий явний її вираз, так практично всі думають але мало хто скаже
Дуже спрощений приклад:
- Якщо сусіднє племя вкраде в тебе тварин, і (не буду заглиблюватися) вчинить всякий непотріб в твоєму таборі, це як?
- Це дуже поганий вчинок, люди не повинні робити так.
- А якщо ваше племя зробить те саме в сусідів?
- Це дуже добре - ми воїни, ми повинні так робити.

Це так навскидку.

Однак, що добре, що погане? Перше питання - "Для кого?".

І цілком можливо, що весь гуманізм піде лісом, зараз в Україні понад мільйон інвалідів включаючи мене, можливо нас було треба перебити, або хоча б стерилізувати, як це робили з гренландцями десь аж до 90х років минулого сторіччя, або в заможній Швейцарії також років до 80х?

Правда Інуїтів стерилізували всіх щоб вони тупо не плодилися, а швейцарці всіх хто народився або в подальшому був з відхиленнями.

А тепер для себе подумайте - де грань добра і зла?

[saf_e]

А я теж вважаю що віртуалізації в поточному вигляді приходить торба. Занадто багато атак за сторонніми каналами вона генерує навіть без всяких шішечок.
Перейдуть на апаратні домени, щось накшталт як було в спарках чи деяких паверах, де ядро з обв'язкою включно з апаратно виділеною частиною кешу жорстко фіксується за віртуалкою. Ніяких, або мінімальний мінімум шарених ресурсів. При цьому звісно відпаде частина корисних технологій, але шо поробиш, такий шлях.

Ну взагалі достатьньо при перемиканні vm контексту робити полний сброс. Але це дорого і на якравих графіках не покажеш.

[Scoffer]

Ну взагалі достатьньо при перемиканні vm контексту робити полний сброс.

Це вб'є продуктивність не на відсотки, а в рази.

[Ray2000gt]

Правило "не убий" не діє навіть з санкціями, правда обмеження є, але вбивати можна цілком законно, так і всі заповіді (ну заповіді то фігня, їх мало, вони взагалі як белькотіння немовляти проти людських законів), а також весь кримінальний кодекс будь якої країни можна обійти …

Ось і відповідь на питання «чумо не можна зробити правила поведінки ШІ». Можна, тільки їх не дотримуватимуться.