Китайський орган регулювання кіберпростору представив чернетку положень з метою посилення контролю над платформами штучного інтелекту, які відтворюють людську індивідуальність та викликають емоційну прив’язаність у користувачів. Розробники повинні стежити за схильністю до залежності, гарантувати надійність і оберігати інформацію.
Китайський наглядач за кіберпростором випустив проєкт правил для посилення контролю за платформами штучного інтелекту, що відтворюють людську поведінку та викликають емоційну прихильність у клієнтів. Про це інформує Reuters, повідомляє УНН.
Деталі
Запропоновані правила стосуються продуктів ШІ, які симулюють людські когнітивні процеси та манери комунікації за допомогою тексту, аудіо або відео. Відповідно до документа, розробники мають:
- Контролювати звикання: виявляти ознаки надмірної емоційної взаємодії користувачів та втручатися в разі виникнення звикання.
- Гарантувати захищеність: брати на себе відповідальність за безпеку протягом усього часу існування продукту та проходити оцінку алгоритмів.
- Оберігати дані: створити системи безпеки персональних даних та підтвердження цілісності даних.
Етичні та безпекові “червоні лінії”
Регулюючий орган заборонив створювати за допомогою ШІ контент, який ставить під загрозу національну безпеку, пропагує жорстокість, поширює неправдиві відомості або має аморальний характер. Крім того, сервіси повинні офіційно попереджати клієнтів про ризики надмірного використання продукту.
Нові заходи мають на меті зменшення психологічних небезпек та встановлення суворих етичних норм для споживчого штучного інтелекту в КНР.