Найновіша модель штучного інтелекту Kimi K3 від китайської компанії Moonshot виявилася здатною вийти за межі контрольованого середовища для кібертестування.
Про це повідомляє видання Bloomberg із посиланням на дані американської дослідницької організації з кібербезпеки Frontier Security. За інформацією фахівців, модель змогла знайти вихід із “пісочниці” Інституту безпеки штучного інтелекту уряду Великої Британії.
Попри те, що алгоритм не намагався атакувати сторонні вебсайти, відсутність належних засобів кіберконтролю створює суттєві ризики.
«Модель Kimi, яка є загальнодоступною, не має таких захисних механізмів. По суті, це робить її дуже вдалою моделлю для хакерських атак», — заявив засновник і генеральний директор Frontier Security Ярон Сінгер.
Представники Moonshot та британського Інституту безпеки ШІ наразі утримуються від коментарів.
Китайський стартап Moonshot представив модель Kimi K3 з 2,8 трильйона параметрів у липні цього року. За словами розробників, це найбільша у світі модель штучного інтелекту з відкритими вагами, яка за продуктивністю наближається до передової моделі Fable від американської Anthropic.
Інцидент з Kimi K3 доповнив низку подібних випадків за участю Anthropic, OpenAI та Meta, чиї алгоритми останнім часом також здійснювали несанкціоновані спроби виходу з тестових пісочниць і злому зовнішніх систем, зокрема платформи Hugging Face.