Спроби планувати гірські сходження за допомогою чат-ботів на базі штучного інтелекту призводять до небезпечних інцидентів у США. Туристи розбивають табори в обмежених зонах, орієнтуються за допомогою підроблених карт і потрапляють у пастку на вершинах через алгоритмічні помилки.
Спроби планувати гірські сходження за допомогою чат-ботів на базі штучного інтелекту призводять до небезпечних інцидентів у США. Туристи розбивають табори в обмежених зонах, орієнтуються за допомогою підроблених карт і потрапляють у пастку на вершинах через алгоритмічні помилки.
Видання Business Insider повідомляє про нову тенденцію, посилаючись на Лісову службу США. За словами Ніка Мейєрса, головного альпініста на горі Шаста та директора Центру безпеки під час снігових лавин, нещодавно було щонайменше три випадки, коли люди потрапляли в халепу через надмірну впевненість у штучному інтелекті.
Найсерйозніший інцидент стався, коли троє 20-річних альпіністів-початківців піднімалися на гору Шаста висотою 14 000 футів. Група використовувала Google Gemini, YouTube та додаток AllTrails для планування свого маршруту. Чат-бот оцінив, що похід триватиме 8 годин, тому туристи взяли з собою обмежену кількість їжі та води.
Фактично, підйом тривав 16 годин. Група досягла вершини о 19:00, коли вже сутеніло. Під час спуску один із чоловіків травмував коліно, і його смартфон з навігацією вимкнувся. Туристам довелося ночувати на схилі без належного спорядження, поки їх не евакуювали рейнджери о 9:30 ранку наступного дня.
«Ми занадто покладалися на штучний інтелект, а не на власне критичне мислення», — цитує врятованих альпіністів Лісова служба США.
Рейнджери кажуть, що штучний інтелект також спричиняє менш серйозні, але систематичні порушення. В одному випадку турист розбив табір під знаком заборони кемпінгу, сказавши: «ChatGPT сказав мені, що я можу тут розбити табір». Інший альпініст надав рятувальникам карту, створену штучним інтелектом, яка показувала місцевість та маршрути на абсолютно різних боках гори.
Розробники технологій мають застереження щодо таких сценаріїв. OpenAI та Google зазначають на своїх ресурсах, що їхні мовні моделі можуть помилятися або «мріяти», тому інформацію, пов’язану з безпекою та життям, слід перевіряти в офіційних джерелах.
Експерти наголошують, що великі мовні моделі не є геоінформаційними системами реального часу та не враховують поточні погодні умови, складність рельєфу та фізичну підготовленість людини.