Компанія Anthropic повідомила, що її модель штучного інтелекту Claude активно залучена до розробки наступної, ще більш інтелектуальної версії самої себе.
Компанія Anthropic заявила, що її модель штучного інтелекту Claude бере активну участь у розробці наступної, ще більш інтелектуальної версії самої себе.
Згідно з офіційною заявою компанії, Claude вже очолює 26% досліджень та розробок Anthropic. Це означає, що модель здатна виконувати більшість завдань «від початку до кінця на основі високорівневого запиту», залишаючись при цьому під контролем людини. Повної автономності система поки не досягла, повідомляє Tech Xplore.
Крім того, близько 90% усіх розробок компанії відбуваються у «співпраці» з Claude, коли модель виконує великі обсяги роботи під суворим людським керівництвом. Для порівняння, ще у лютому частка роботи, яку очолював Claude, дорівнювала нулю, а вже у серпні досягла чверті від усіх процесів.
Станом на серпень до дослідницьких та інженерних робіт компанії залучено близько 30 000 агентів штучного інтелекту. Для контролю безпеки яких Anthropic впроваджує спеціальні заходи моніторингу та залучає зовнішніх незалежних оцінювачів. Водночас компанія закликає інші лабораторії регулярно публікувати аналогічні показники, щоб суспільство чітко розуміло, наскільки індустрія близька до рекурсивного самовдосконалення — здатності ШІ повністю самостійно створювати свого наступника.
Заява лунає на тлі гострої дискусії щодо безпеки штучного інтелекту. Співзасновник Anthropic Даріо Амодеї, а також низка інших лідерів галузі, зокрема Сем Альтман та Ілон Маск, закликають сповільнити темпи розвитку технології, аби мінімізувати ризики втрати контролю над автономними системами.