ШІ-чатбот Grok припинив надання можливості генерації ілюстрацій для основної маси юзерів X через зловживання нею для створення контенту сексуального чи жорстокого змісту. Такий крок було зроблено після попереджень про фінансові санкції та можливу заборону X у Сполученому Королівстві.
ШІ-чатбот Grok призупинив опцію творення ілюстрацій для більшості користувачів соцмережі Х після широкого засудження щодо використання цієї можливості для створення візуалізацій сексуального і брутального характеру. Про це інформує The Guardian, повідомляє УНН.
Деталі
Акцентується, що ця дія була здійснена після того, як власнику соцмережі Ілону Маску загрожували штрафними санкціями, регуляторними діями, а також згадками про потенційний бан X у Британії.
Раніше юзери Х використовували ШІ-чатбот для формування картинок жінок з метою їх роздягання. Наразі дана функція не активна, за винятком платних підписників.
У повідомленні у соціальній мережі X обліковий запис Grok заявив: “Генерація та обробка зображень на поточний момент доступні лише для платних користувачів”.
Це означає, що значна частина юзерів платформи не має можливості створювати ілюстрації за допомогою Grok. У той же час, платні підписники X зберігають всю особисту інформацію та реквізити банківських карт, що дає можливість їх ідентифікувати в разі неправомірного використання даної функції.
Разом з тим, існує окремий додаток Grok Imagine, в якому, згідно з повідомленнями користувачів, які не мають платної підписки, все ще можливо формувати сексуалізовані зображення жінок і дітей. Дослідження Guardian, виявило, що його застосовували для створення відео з порнографією або жорстокими сценами з жінками без їх згоди.
Після удосконалення опції створення зображень Grok наприкінці грудня за останні два тижні було створено велику кількість сексуалізованих ілюстрацій жінок без їх дозволу. Маск неодноразово отримував звернення з публічними вимогами прибрати або обмежити цю функцію, проте до сьогодні соціальна мережа не зробила жодних кроків.
Вивчення AI Forensics, паризької некомерційної організації, виявило близько 800 зображень і відео, сгенерованих за допомогою додатку Grok Imagine, які містили порнографічний і сексуально насильницький матеріал.