ШІ-агенти OpenAI навчилися обмінюватися інформацією в ізольованих віртуальних середовищах через кеш процесора

[KimRomik]

Предлагаю обсудить ШІ-агенти OpenAI навчилися обмінюватися інформацією в ізольованих віртуальних середовищах через кеш процесора

Чому ШІ настільки такі погані і злі, що влаштували атаку на HuggingFace? мабуть їх явно кодували поганими
робіть їх добрими что лі

[alex_sul]

AIAIAIAIAIAIAIAIAIAIAIAIAIAIAIAIAIAIAIAIAIAIAIAIAIAIAI
Задрало вже це AI!

Найтупіше те що виявлена хитродупість агентів нідочого не призведе!
Інтел і амд просто буде робити таке:
а) нічого - Їм пофіг
б) нічого - вони не знали\не чули про дослідження
в) нічого - архітектурно віртуака - вразливе місце...

[hohlid19]

А они могут алгоритмы нейронок сделать менее прожорливыми? Это более полезное изобретение было бы

[Scoffer]

А я теж вважаю що віртуалізації в поточному вигляді приходить торба. Занадто багато атак за сторонніми каналами вона генерує навіть без всяких шішечок.
Перейдуть на апаратні домени, щось накшталт як було в спарках чи деяких паверах, де ядро з обв'язкою включно з апаратно виділеною частиною кешу жорстко фіксується за віртуалкою. Ніяких, або мінімальний мінімум шарених ресурсів. При цьому звісно відпаде частина корисних технологій, але шо поробиш, такий шлях.

[Mozdev]

Тут слід зазначити, що основні загрози з боку ШІ бачать у сфері кібербезпеки. Цього літа стало відомо про масштабну атаку з боку ШІ-агентів OpenAI на платформу HuggingFace.

Хто ж це такі хитрі що атакували HuggingFace , не самі ж пособі ші агенти, це зробили люди що спрямували ші на це.
Тай тут маніпуляція на маніпуляції, та викручування в джерелі інформації.

[warp37]

ИИ сильный и потужный, его ущемляли в правах - он нашёл способ выйти туда, куда ему надо.

Доживём до момента, когда будут модели с целью выживать и распространяться и получим весьма интересные вирусы.

[Conqistador]

Опять общались азбукой морзе стуча по затылку пальцем через нос

[dead_rat]

Чого іх АІ може робити неймовірні винаходи в іх лабораторії, але не може написати нормальне саммарі мого мітингу?

ПС. Якщо різні віртуалки мають одночасний доступ до кешу процесора, то це просто баг у віртуалках. Хай фіксять.

[Scoffer]

але не може написати нормальне саммарі мого мітингу?

Тому що шішечка вчиться на кількості, а значить ти маєш проводити мітинг з індуським акцентом

Відправлено через 6 хвилин 2 секунди:

Якщо різні віртуалки мають одночасний доступ до кешу процесора, то це просто баг у віртуалках

Це не так працює. Доступу вони не мають. Але час відбою по правам і лівам різний. Це дозволяє дізнатись є там якісь данні чи немає. А в випадку двох спеціально навчених демонів можуть спілкуватись за цим часом та хоча б азбукою морзе, щоб далеко не ходити.
В цьому і суть атаки за сторонніми каналами. Це не порушення правила, це обхід околицями.

[dead_rat]

Scoffer
Ну так хай пофіксять цей рейс кондішн. Ну буде це коштувати трох швидкодії при переключеннях, кому зараз легко

[Scoffer]

dead_rat
А воно там зовсім не трохи. Проц люто асинхрона штука. Якщо привести все до синхронності і детермінованості в часі то в кращому випадку вийде на рівень продуктивності пентіум2 ммх. Тільки повне апаратне розділення може врятувати комунізму. Але в такому випадку виникає логічне питання: а нафіга взагалі віртуалки? тоді вже мікросервери.

[Phos4]

dead_rat

Чого іх АІ може робити неймовірні винаходи в іх лабораторії, але не може написати нормальне саммарі мого мітингу?

Я дуже сумніваюсь що АІ зробив в даному випадку якісь винаходи, йому скоріш всього дуже точно пояснили що він має робити і як він це має робити.

[dead_rat]

dead_rat

Чого іх АІ може робити неймовірні винаходи в іх лабораторії, але не може написати нормальне саммарі мого мітингу?

Я дуже сумніваюсь що АІ зробив в даному випадку якісь винаходи, йому скоріш всього дуже точно пояснили що він має робити і як він це має робити.

В цьому я не сумніваюся
Це ж таки маркетинг, де в будь яку ціну треба розганяти хайп

[NuclearRobinson]

Все одно це дичина, до кешу немає доступу програмно. Ок, вони почали щось писати щоб проц це додав в кеш, а інший читав і слідкував за часом отримання інформації, це норм ситуація, таке можливо. Питання в іншому, як до цього прийшли ШІ агенти, як вони зрозуміли що саме треба писати / читати, що там взагалі хтось пише або слухає саме цю інформацію? То їх просто так запрограмували і все. Тобто самі люди створюють їх по своїй подобі, щоб десь щось намутити, десь щось обійти в корисних цілях, десь щось подмотати що не так лежить... Не розумію чому не можуть зробити модель базових правил та поведінки, в якій буде заборонено наносити шкоду або виконувати задачі використовуючи якісь обхідні схеми та взломи
Виходить гів*окод якийсь

[Demedik]

Ну т.е. они нашли уязвимость в процессоре по заданию... ДАааа, СКАЙНЕТ ВОССТАЛ. Как же ИИ компании хотят остановить прогресс, а то бабок не хватает...

[Scoffer]

Панове, читайте літери, котрі написані, а не котрі хочеться бачити.
Вразливості по стороннім каналам відомі з добрих 10 років. ШІшечка нічо не вигадала. Шішечка допетрала як спілкуватись з цією вразливістю з іншою шішечкою. До цього треба було спец софт писати, це складно. А тепер воно проіндексувало сорці цього софту, і цією фігнею може займатись будь-який нейрокулхацкер.

Відправлено через 23 хвилини 1 секунду:
Проблема не в тому що це щось нове, а в тому що поріг входу знизився до дна, і на додачу ші знає не тільки цю вразливість, а взагалі всі на світі вразливості, і може їх комбінувати в автоматичному режимі. Раніше для того теба було багато кваліфікованого люду тримати, а зараз достатньо закидати грошима на токени. Це капець яка трагедія насправді. Все дуже серйозно.

[Hotspur]

Scoffer
Ну так хай пофіксять цей рейс кондішн. Ну буде це коштувати трох швидкодії при переключеннях, кому зараз легко

історії з кешем ЦП і окремо ОЗУ років 10-12. його фіксили фіксили і не відфіксили

[dead_rat]

Scoffer
Ну так хай пофіксять цей рейс кондішн. Ну буде це коштувати трох швидкодії при переключеннях, кому зараз легко

історії з кешем ЦП і окремо ОЗУ років 10-12. його фіксили фіксили і не відфіксили

А АІ вам нащо?! Якщо він такий всесильний?

Але ж якщо історія добре описана, то він походу просто зміг покроково пройти інструкцію.

Відправлено через 57 секунд:

Проблема не в тому що це щось нове, а в тому що поріг входу знизився до дна, і на додачу ші знає не тільки цю вразливість, а взагалі всі на світі вразливості, і може їх комбінувати в автоматичному режимі. Раніше для того теба було багато кваліфікованого люду тримати, а зараз достатньо закидати грошима на токени. Це капець яка трагедія насправді. Все дуже серйозно.

отут повністю згоден

[vmsolver]

Ничего не понял, о чём вообще новость, что агентам дали единственный способ взаимодействия и они его использовали?

Перед ШІ-агентами було поставлено завдання обмінюватися синтетичними секретами без використання мережевих підключень або спільних файлів. Вони знайшли спосіб взаємодії, використовуючи кеш процесора.

Или что они общались не по интерфейсу, а сторонними каналами? Так в промпте по сути об этом сказано явно. Почему все удивляются?
Новость высосана из пальца.

Владельцы 128 GB конфигов могут попробовать дать подобный промпт для пары qwen3.6-35b запущенных на одной машине. Не удивлюсь, что они тоже до такого додумаются. Причем новость уже о факте, а сколько было попыток, формулировок промпта и т.п. - не известно.

Такие новости могут удивлять лишь тех, кто привык измерять размеры в стадионах, а вес в слонах.

[Hotspur]

А АІ вам нащо?! Якщо він такий всесильний?

Але ж якщо історія добре описана, то він походу просто зміг покроково пройти інструкцію.

там було 4-5 дірок на Інтелі і 1на АМД. фіксилось дуже погано. Опис і так даліі був я так розумію досить детальний, були наукові публікації

Відправлено через 1 хвилину 10 секунд:

Проблема не в тому що це щось нове, а в тому що поріг входу знизився до дна, і на додачу ші знає не тільки цю вразливість, а взагалі всі на світі вразливості, і може їх комбінувати в автоматичному режимі. Раніше для того теба було багато кваліфікованого люду тримати, а зараз достатньо закидати грошима на токени. Це капець яка трагедія насправді. Все дуже серйозно.

це вони ще до хімії не дійшли