Український розробник Сергій Корнієнко створив Bullshit Detector — опенсорсне доповнення для ШІ-асистентів, яке перевіряє факти у відео, статтях, документах і дописах.
Розробник розповів про інструмент на Reddit. Користувач може надати ШІ матеріал і попросити його перевірити. Інструмент перетворить матеріал на текст, знайде твердження, які можна перевірити, і пошукає для кожного з них докази.
Потім користувач отримає звіт. ШІ-асистент розповість, які твердження підтвердилися, які — ні, а які не вдалося перевірити. Біля кожного висновку будуть посилання на джерела, а матеріал отримає загальну оцінку від 0 до 10. «Головне правило — без джерела вердикту не існує. Модель не має права сказати „це правда“ з голови. Тільки підтверджені факти», — пояснює Сергій.
Bullshit Detector складається зі «скілів» — файлів з інструкціями та скриптами, які можна додати до сумісних ШІ-асистентів, наприклад Claude Code, OpenAI Codex, Cursor. Тож саме доповнення безкоштовне, але для його роботи потрібен власний акаунт у відповідному ШІ-сервісі. Один користувач жартує: «Я був би не проти, щоб це було запаковано в сервіс, який я міг би скинути мамі, щоб вона перевіряла свої інформаційні джерела. А то зараз я як факт-чекер, важко».
Сергій зазначає, що бачить певну зручність у тому, що його розробка є доповненням для ШІ-агентів, а не окремим сервісом, адже для окремого сервісу йому потрібно було б хостити сервер і платити за нього. «Поки не маю такого бюджету, щоб зробити безкоштовний факт-чекер з моїми ключами, а робити якийсь freemium з квотами теж не хочеться», — пояснює розробник.
Як стверджує Сергій, доповнення вміє розрізняти сам факт висловлювання і правдивість сказаного. Наприклад, ШІ-доповнення може знайти, що президент озвучив певне твердження, але це не робить твердження автоматично правдивим. Тож ШІ-агент буде шукати підтвердження слів президента в інших джерелах.
Джерела інструмент оцінює за 5 рівнями. Найбільшу вагу мають першоджерела, наприклад: документи, судові рішення, звіти. Далі йдуть медіа, галузеві видання, корпоративні блоги. На найнижчому рівні стоять анонімні дописи та форуми.
Проте Bullshit Detector не є безпомилковим інструментом. Його результат також залежить від того, які сторінки знайде ШІ, і чи зможе він отримати до них доступ. Тож ШІ-помічник може не побачити статтю на таких сайтах, як Reuters, Financial Times, The Guardian, адже ці та деякі інші видання блокують автоматичне читання своїх матеріалів. Доповнення також краще перевіряє окремі факти, ніж логіку всього матеріалу. Тому, коли в матеріалі використані правильні цифри, але автор робить із них хибний висновок, ШІ-помічнику помітити таку маніпуляцію стає важче.
Незалежного тестування Bullshit Detector поки немає. Сам автор продовжує допрацьовувати проєкт і просить користувачів повідомляти, що працює погано або чого бракує. Проєкт поширюється за ліцензією MIT. Його код доступний на GitHub.