ШІ-чатбот Grok припинив дію можливості генерації картинок для більшості користувачів X у зв’язку з тим, що інструмент застосовувався для творення матеріалів відвертого та жорстокого змісту. Даний крок був зроблений після попереджень про фінансові санкції та ймовірну заборону X на території Великобританії.
ШІ-чатбот Grok призупинив опцію творення візуальних матеріалів для основної маси юзерів соцмережі Х після резонансу, викликаного його використанням для генерації візуалізацій еротичного і брутального характеру. Про це інформує The Guardian, повідомляє УНН.
Деталі
Підкреслюється, що даний захід вжито після того, як власнику соцмережі Ілону Маску загрожували грошовими стягненнями, регуляторним тиском і згадками про можливу заборону X на території Сполученого Королівства.
Раніше відвідувачі Х застосовували ШІ-чатбот для творення візуалізацій жінок з метою їх роздягання. На даний момент ця функція відключена, за винятком тих, хто має платну підписку.
У публікації в соціальній мережі X акаунт Grok вказав: “Генерація і обробка візуальних матеріалів поки що доступні виключно для платних користувачів”.
Це означає, що велика частина юзерів платформи не може створювати візуалізації за допомогою Grok. У свою чергу, у платних передплатників X зберігаються всі особисті відомості та інформація про банківські картки, що дає можливість їх ідентифікувати у разі зловживання цією опцією.
Водночас, існує окремий додаток Grok Imagine, в якому, за словами звичайних користувачів, все ще є можливість генерувати об’єктиваційні візуалізації жінок і дітей. Дослідження Guardian, виявило, що його використовували для створення відео порнографічного характеру або насильницьких відео з жінками без їх дозволу.
Після оновлення функції генерації візуалізацій Grok наприкінці грудня за останні два тижні були створені тисячі об’єктиваційних візуалізацій жінок без їхнього дозволу. Маск неодноразово одержував публічні вимоги видалити або обмежити дану функцію, але досі соціальна мережа не вжила жодних заходів.
Дослідження AI Forensics, паризької некомерційної структури, виявило близько 800 візуалізацій і відео, згенерованих за допомогою додатка Grok Imagine, що містили порнографічний і сексуально-агресивний контент.