Міністр державної безпеки Китаю Чень Ісінь окреслив шість ключових ризиків, які штучний інтелект становить для Пекіна. Найбільше занепокоєння китайських спецслужб викликає потенційна загроза для політичної стабільності та ідеологічної безпеки країни через автоматизоване поширення фейків.
Міністр державної безпеки Китаю Чень Ісінь окреслив шість ключових ризиків, які штучний інтелект становить для Пекіна. Найбільше занепокоєння китайських спецслужб викликає потенційна загроза для політичної стабільності та ідеологічної безпеки країни через автоматизоване поширення фейків.
Про це повідомляє Business Insider з посиланням на статтю Ісіня, яку він написав у своїй статті для журналу China Cyberspace.
За словами очільника відомства, іноземні сили та зловмисники все частіше застосовують генеративні моделі для ведення когнітивних війн і дискредитації влади.
«Різні ворожі сили та зловмисні особи зловживають технологіями генеративного штучного інтелекту — такими, як аудіо- та відеоматеріали діпфейк, згенеровані зображення й тексти, а також онлайн-армії — для поширення політичних чуток із мінімальними витратами та у великих обсягах», — наголосив Чень Ісінь.
Окрім «безпеки режиму», очільник розвідки виділив ще п’ять критичних напрямків ризику:
-
кібератаки на критичну інфраструктуру за допомогою високоефективних моделей на кшталт Mythos;
-
ризик масштабних витоків національних, комерційних та персональних даних;
-
технологічний дисбаланс і фрагментація ланцюгів постачання через монополії;
-
порушення громадського порядку та соціального управління;
-
фундаментальні зміни у веденні війни через використання ШІ для високоточного наведення на цілі.
Для нейтралізації цих загроз Пекін планує прискорити розбудову системи державного контролю та посилити регулювання розробок. Позицію силовиків підтримав і лідер КНР Сі Цзіньпін. Під час виступу на саміті БРІКС у Нью-Делі він закликав світову спільноту створити глобальну систему управління ШІ, яка базуватиметься на консенсусі та принципах орієнтації на людяність.
Раніше керівники технологічних компаній, зокрема Даріо Амодей з Anthropic, Сем Альтман з OpenAI та Ілон Маск зі SpaceX, напередодні закликали владу США до жорсткішого регулювання галузі через зростаючі побоювання, що ШІ становить екзистенційну загрозу для людства. Однак президент країни Дональд Трамп проігнорував їхні заклики.
В англомовній державній газеті Китаю Global Times відреагували на заклики західних компаній до уповільнення розвитку штучного інтелекту. Зокрема, в ній відзначили есе Амодея, яке назвали «інструкцією з холодної війни», спрямованим проти Китаю.