Ватикан закликає до “роззброєння” штучного інтелекту: Понтифік попереджає про цифрову неволю та автономну зброю
Папа Лев XIV у своєму останньому маніфесті, енцикліці Magnifica Humanitas, звернувся з нагальним закликом до “роззброєння” штучного інтелекту (ШІ). Його Святість висловив глибоке занепокоєння щодо зростання цієї технології, попереджаючи про небезпеку виникнення нових форм цифрового рабства та розробки автономної зброї.
Ключові виклики цифрової ери
Його Святість, перший Папа американського походження, висловив застереження щодо “гонки за все більш потужними алгоритмами та розширеними наборами даних, що підживлюється прагненням до геополітичного чи комерційного домінування”.
Особисто представивши свою першу енцикліку “Magnifica Humanitas” у Ватикані, Папа Лев XIV співпрацював з провідними експертами у сфері штучного інтелекту, зокрема з Крістофером Олахом, співзасновником американської компанії Anthropic.
Anthropic, до речі, зараз бере участь у судових процесах з американськими військовими, виступаючи проти використання її технологій у розробці смертоносної автономної зброї та систем масового спостереження. Олах під час презентації зазначив, що компанії, які працюють над ШІ, функціонують “в межах системи стимулів та обмежень, які іноді можуть суперечити правильним моральним принципам”. Він привітав залучення зовнішніх сторін, таких як Католицька церква, для “направлення подій у кращому руслі”, підкресливши, що “питання, які ставить штучний інтелект, є більш глобальними, ніж сама дослідницька спільнота в цій галузі”.
Безпека та етика в епоху ШІ
В енцикліці Папа Лев XIV також висловив серйозне занепокоєння щодо зброї, керованої штучним інтелектом, наголосивши, що “неприпустимо довіряти смертельні рішення” технологіям.
Понтифік неодноразово висловлював розбіжності з адміністрацією Білого дому щодо питань війни та використання релігії для виправдання конфліктів. Він вважає теорію “справедливої війни”, яку підтримала адміністрація Трампа, “застарілою”, додавши, що “жоден алгоритм не може зробити війну морально прийнятною”.
Згідно з прогнозами Організації Об’єднаних Націй, вартість ринку штучного інтелекту може сягнути 4,8 трильйона доларів США (приблизно 192 трильйони гривень за поточним курсом) до 2033 року, що в 25 разів більше, ніж нині, при цьому основні прибутки зосередяться в руках обмеженої групи осіб.
«Роззброїти штучний інтелект означає звільнити його від менталітету «гонки озброєнь»», — написав Папа. «Це не означає відмову від технологій, а запобігання їхньому домінуванню над людством», — підкреслив він. Папа Лев XIV закликав, щоб ШІ був “дружнім до людини”, доступним для всіх та відкритим для обговорень.
Історичний документ та його значення
Очільник 1,4 мільярда католиків світу зробив цю актуальну тему одним із центральних питань свого понтифікату, присвятивши їй свою першу енцикліку — документ, який закладає основи церковного вчення та довгострокових дискусій. У маніфесті згадуються видатні постаті культури, від давньогрецького філософа Платона до Людвіга ван Бетховена та його Дев’ятої симфонії, а також наводиться цитата з твору Дж. Р. Р. Толкіна “Володар перснів”.
Енцикліка “Magnifica Humanitas” була підписана 15 травня, у 135-ту річницю публікації енцикліки Лева XIII від 1891 року, яка заклала основи соціальної доктрини Церкви в період промислової революції.
Папа Лев XIV також попередив про нові форми рабства, які стали рушійною силою технологічної революції, зазначивши, що “ніщо у світі штучного інтелекту не є нематеріальним чи магічним”. Він наголосив, що “кожна, здавалося б, миттєва та бездоганна відповідь… залежить від невидимої праці мільйонів людей”: від модераторів контенту, змушених переглядати тривожні матеріали, до дітей, які видобувають рідкоземельні елементи, необхідні для роботи ШІ. Вони “покриті шрамами, поранені та виснажені, щоб обчислювальний потік міг безперебійно тривати”, — написав він.
Більша ефективність чи інновації не можуть виправдати “ланцюг експлуатації, який навмисно приховується”, заявив понтифік, наголосивши на необхідності докласти більше зусиль для зменшення впливу ШІ на довкілля та “захисту нашого спільного дому”.
Як зазначає The Wall Street Journal, Папа Лев порівняв загрозу, яку несе ШІ, з біблійною “Вавилонською вежею”. Понтифік попередив, що штучний інтелект “загрожує нормалізувати антилюдське бачення” і наголосив на необхідності протистояти концентрації величезної цифрової влади в руках кількох приватних осіб. Ризик, за його словами, полягає в тому, що люди будуть зведені “до простих гвинтиків у системі, яка прагне все більшої ефективності”.
Папа Лев використав два біблійні образи, щоб описати вибір, що стоїть перед людством: “Головний вибір — це не “так” чи “ні” технологіям, а скоріше будівництво Вавилону або відновлення Єрусалиму”, — написав він.
Як повідомляє AFP, Папа також висловив безпрецедентні вибачення за роль Ватикану в работоргівлі та у сприянні виправданню рабства, назвавши це “раною в християнській пам’яті”. “За це, від імені Церкви, я щиро прошу вибачення”, — написав Лев.
Цей документ опубліковано після кількох років вивчення церквою технологій, пов’язаних зі штучним інтелектом. Експерти припускають, що “Magnifica Humanitas” може виявитися настільки ж впливовою, як і “Laudato Si” Папи Франциска — кліматичний маніфест 2015 року, який викликав значний політичний та громадський резонанс у всьому світі.
Порада від АіФ UA:
Ця новина є надзвичайно актуальною для кожного, хто користується сучасними технологіями. Енцикліка Папи Римського Лев XIV нагадує про важливість етичних аспектів розвитку штучного інтелекту та потенційні ризики, пов’язані з його неконтрольованим поширенням. Вона спонукає до критичного осмислення ролі ШІ у нашому житті та необхідності збереження людської гідності й безпеки в цифрову епоху.