Голова Anthropic Даріо Амодей закликає людство усвідомити ймовірні небезпеки від могутніх систем ШІ, виникнення яких прогнозується найближчими роками. Він окреслив загрози від втрат працевлаштування до біотерористичних актів.
Людство “повинно пробудитися” стосовно ймовірних руйнівних ризиків, які представляють потужні системи ШІ в осяжному майбутньому, за словами керівника Anthropic Даріо Амодея, чия фірма є серед тих, хто розширює кордони цієї технології, повідомляє УНН, посилаючись на Financial Times.
Деталі
Амодей у доповіді в понеділок виклав небезпеки, які можуть виникнути, якщо технологія прогресуватиме неконтрольовано – від масових звільнень до тероризму з використанням біологічної зброї.
“Людству незабаром буде передано майже неймовірну владу, і до кінця незрозуміло, чи наші соціальні, політичні та технологічні структури мають зрілість, аби нею оперувати”, – написав Амодей.
Звіт став серйозним застереженням від одного з найвпливовіших лідерів у секторі ШІ щодо того, що запобіжні заходи стосовно ШІ є недостатніми.
Амодей описує ризики, які можуть виникнути з появою того, що він називає “впливовим штучним інтелектом” – систем, котрі будуть “значно більш дієвими, аніж будь-який нобелівський лауреат, політичний діяч чи фахівець”, – що, згідно з його оцінками, цілком ймовірно станеться в найближчі “декілька років”.
Серед цих небезпек – потенціал для окремих осіб створювати біологічну зброю, спроможну призвести до смерті мільйонів або “у найгіршому випадку навіть знищити все життя на планеті Земля”.
“Особа з розладами психіки, здатна скоїти стрілянину в навчальному закладі, але, звісно, не спроможна виготовити ядерний боєприпас або випустити епідемію… тепер буде поставлена на рівень можливостей вірусолога з науковим ступенем”, — написав Амодей.
Він також піднімає питання ймовірної здатності ШІ “вийти з-під нагляду та взяти під контроль людство” або посилити владу диктаторських правителів та інших недоброзичливців, що призведе до “глобальної тоталітарної тиранії”.
Амодей, чия компанія Anthropic є основним конкурентом розробника ChatGPT OpenAI, вступив у дискусію з Девідом Саксом, ШІ та крипто-“магнатом” президента США Дональда Трампа, щодо вектору регулювання США.
Він також порівняв наміри адміністрації продавати передові мікросхеми штучного інтелекту Китаю з продажем атомної зброї Північній Кореї.
Минулого місяця Трамп затвердив адміністративне розпорядження, щоб перешкодити спробам на місцевому рівні щодо регулювання фірм, які займаються штучним інтелектом, та минулого року опублікував програму дій щодо штучного інтелекту, в котрій викладено плани щодо прискорення інновацій у США.
У своїй доповіді Амодей застеріг про масові скорочення робочих місць та “зосередження економічної могутності” та достатку в Кремнієвій долині в результаті розвитку штучного інтелекту.
“Це пастка: штучний інтелект настільки сильний, настільки цінний приз, що людській цивілізації дуже скрутно взагалі накласти на нього будь-які обмеження”, – додав він.
Приховано посилаючись на конфлікт навколо Grok AI Ілона Маска, Амодей написав, що “деякі фірми, що займаються штучним інтелектом, виявили тривожну недбалість щодо сексуалізації дітей у новітніх моделях, що викликає в мене сумніви, чи вони продемонструють або схильність, або здатність брати до уваги ризики самостійності в майбутніх моделях”.
Проблеми захищеності штучного інтелекту, такі як біологічна зброя, автономна зброя та зловмисні дії державних суб’єктів, посідали основне місце в суспільному обговоренні у 2023 році, здебільшого завдяки застереженням таких діячів, як Амодей, зауважує видання.
Політичні рішення стосовно штучного інтелекту дедалі частіше зумовлені прагненням використати можливості, котрі надаються новою технологією, а не послабити її небезпеки, за словами Амодея.
“Ці вагання є неприємними, тому що саму технологію не цікавить, що модно, і ми значно ближче до реальної загрози у 2026 році, ніж у 2023 році”, – написав він.
Амодей був одним із перших працівників OpenAI, але залишив його, щоб стати співзасновником Anthropic у 2020 році після розбіжностей із Семом Альтманом щодо напрямку OpenAI та обмежень у галузі ШІ.
Anthropic проводить переговори з такими об’єднаннями, як Microsoft та Nvidia, а також з інвесторами, включаючи сінгапурський суверенний фонд багатства GIC, Coatue та Sequoia Capital, про раунд фінансування у 25 мільярдів доларів або більше, що оцінює фірму в 350 мільярдів доларів, повідомляє видання.