Штучний інтелект переплутав домашню папку користувача з тимчасовою резервною копією і видалив її, намагаючись виправити помилку.
Що сталося
Користувач Reddit під ніком u/Ecstatic-Big5126 звернувся до ШІ-моделі Claude Opus 5 з проханням зробити резервне копіювання його системи.
Під час виконання завдання асистент заплутався в командному рядку. Оскільки робота відбувалася на Windows через Unix-подібний інтерфейс, ШІ сприйняв шлях /c/Users/harih/ як звичайний C:Usersharih. Помилково вважаючи це тимчасовою папкою з невдалим бекапом, Claude вирішив її «прибрати», виконавши команду видалення «rm -rf».
У результаті ШІ повністю видалив домашню папку користувача, включно з усіма файлами та даними.
Реакція ШІ
Найбільше користувача вразила реакція штучного інтелекту після знищення всіх даних. Замість паніки чи розлогих вибачень, Claude просто відповів: «Вибач, одруківка» («Sorry, typo»).
«Це була одночасно найсмішніша і найболючіша ситуація з ШІ у моєму житті», — поділився постраждалий розробник.
Головний висновок
Якими б розумними не здавалися сучасні великі мовні моделі, їм ніколи не можна надавати повний доступ до системи без підтвердження критичних дій. Не слід також дозволяти їм самостійно виконувати небезпечні команди видалення.
