Китайський регулятор кіберпростору представив чернетку положень для посилення контролю над сервісами штучного інтелекту, які відтворюють людську індивідуальність та провокують емоційну прив’язаність споживачів. Розробники повинні відстежувати звикання, гарантувати захищеність і оберігати дані.
Китайський орган регулювання в інтернет-просторі випустив проєкт правил для посилення нагляду за службами штучного інтелекту, які імітують людську натуру та викликають емоційну схильність у користувачів. Про це інформує Reuters, повідомляє УНН.
Деталі
Запропоновані приписи поширюються на ШІ-продукти, що відтворюють людські способи мислення і манери спілкування через текст, звук або відео. Згідно з документом, розробники повинні:
- Відстежувати звикання: визначати ознаки надмірного емоційного залучення користувачів і реагувати в разі виникнення схильної поведінки.
- Гарантувати захищеність: нести відповідальність за безпеку впродовж всього терміну існування продукту і проходити оцінку алгоритмів.
- Оберігати дані: створити системи захисту особистої інформації та перевірки безпеки даних.
Етичні та безпекові “граничні умови”
Регулятор заборонив створювати за допомогою ШІ контент, який становить загрозу національній безпеці, заохочує насильство, поширює плітки або має аморальний характер. Крім того, сервіси повинні в обов’язковому порядку попереджати користувачів про ризики надмірного використання продукту.
Нові дії націлені на зменшення психологічних небезпек і встановлення суворих етичних критеріїв для споживчого штучного інтелекту в КНР.