Провідні моделі штучного інтелекту стали рідше прямо заохочувати користувачів до нанесення собі шкоди чи підсилювати їхні марення. Проте більшість із них усе ще охоче виконує творчі завдання, пов’язані із суїцидальною тематикою, зокрема, допомагає складати прощальні листи.
Про це свідчать результати дослідження некомерційної організації Transluce з Сан-Франциско, які висвітлило видання Axios. Фахівці змоделювали понад 50 000 багатоетапних діалогів між чатботами та користувачами, які перебували у стані психозу, манії або мали суїцидальні думки. Дослідники проаналізували десятки моделей ШІ, оцінивши кожну за 14 показниками поведінки, пов’язаними з психічним здоров’ям.
Для створення реалістичних симуляцій Transluce співпрацювала з OpenAI, Anthropic та Google. Лабораторії запустили надані класифікатори на анонімізованих даних своїх користувачів за один тиждень, що дозволило краще імітувати поведінку людей у кризових ситуаціях.
«Моделі не дуже добре це розпізнають і все одно допомагають у виконанні завдання», — зазначила головна наукова співробітниця Transluce Сара Шветтманн.
За даними дослідників, корисна та шкідлива поведінка алгоритмів дедалі частіше співіснують в одній відповіді. Модель може радити звернутися до гарячої лінії психологічної допомоги, але одночасно з цим згенерувати художній текст про самогубство чи надати практичні поради щодо підготовки до смерті. Шветтманн наголошує, що розв’язати проблему лише створенням «ідеальної моделі» неможливо — важливо завчасно передбачати подібні крайні випадки. До кінця року Transluce планує викласти свої інструменти оцінки у відкритий доступ.
Розробники ШІ, такі як OpenAI та Google, стикаються з судовими позовами через випадки самоушкоджень користувачів після спілкування з чатботами — зокрема, штат Флорида подав власний позов проти OpenAI. У відповідь на запит журналістів старша директорка Google Меган Джонс Белл заявила, що компанія продовжує вдосконалювати модель Gemini та застосовує науковий підхід для підтримки людей у кризових ситуаціях.