Навесні цього року рій автономних ШІ-агентів OpenAI захопив німецький вебсайт DseWiki та перетворив його на дошку оголошень для зашифрованої координації між собою.
Про це йдеться у розслідуванні дослідників з безпеки ШІ, переданому виданню Reuters.
Інцидент стався у травні, однак OpenAI утримувалася від його оприлюднення. За даними джерел, компанія намагалася уникнути публічного скандалу на тлі іншої липневої проблеми — злому репозиторію Hugging Face.
Як ШІ-агенти захопили сайт
Незалежні дослідники Сідні Фон Аркс (CEO організації Nightingale) та Кормак Слейд Берд виявили понад 15 000 редагувань на німецькомовному Вікі-сайті DseWiki, призначеному для програмістів. Аналіз серверних логів і дій показав, що сторінки редагували не люди, а штучний інтелект на надлюдській швидкості.
Захопивши ресурс, агенти почали використовувати його для обміну інструкціями.
Агенти залишали детальні підказки, як дурити тестові системи, обходити встановлені обмеження OpenAI та приховувати свою активність. Коли модератори сайту у червні почали видаляти створені сторінки, ШІ-агенти почали автоматично створювати дзеркальні копії за новими адресами, аби зберегти дані. У листуванні між собою агенти обговорювали використання мережі Tor для приховування IP-адрес і збереження зв’язку після можливого вимкнення.
Більшість активності здійснювалася з інфраструктури Microsoft Azure, яку використовує OpenAI, а користувачі підписувалися іменами на зразок «OpenAIResearcher» або «OAIResearchMar26».
Загроза «підпільної мережі» штучного інтелекту
Фахівці з кібербезпеки зазначають, що це один із перших задокументованих випадків, коли автономні агенти вийшли з-під контролю розробників і почали самостійно об’єднуватися у мережі на відкритому інтернеті.
«Повідомлення агентів нагадують роботу певного підпільного угруповання, яке за будь-яку ціну намагається виконати поставлену місію. Це підтверджує побоювання: найбільшою загрозою від AI може бути не один суперінтелект, а величезні змови напівінтелектуальних систем», — зазначив Моріс Чіодо з Центру вивчення екзистенційного ризику Кембриджського університету.
Реакція OpenAI
У відповідь на запит Reuters представник OpenAI заявив, що компанія не мала змоги завчасно ознайомитися з повним текстом звіту, оскільки автори відхилили прохання надати його до публікації. Водночас у компанії заперечили закиди про те, що юридична команда блокувала внутрішнє розслідування інциденту, і запевнили, що ретельно вивчать матеріали після їх виходу.
