Jev: чому розробники масово тестують найшвидшу модель Vercel AI Gateway

Фото до статті

Фото до статті

Майже 13% платних команд Vercel AI Gateway почали використовувати Jev лише за добу. Це спеціалізована ШІ-модель, яка допомагає програмам і ШІ-агентам швидко приймати рішення — наприклад, вибрати, яку кнопку натиснути, який інструмент запустити або чи варто взагалі виконувати певну дію.

Про це повідомляє Startup Fortune.

Vercel AI Gateway — сервіс, через який розробники можуть підключати до своїх застосунків сотні ШІ-моделей через єдиний API, не інтегруючи кожного провайдера окремо.

Компанію TypeSafe, що створила Jev, заснував колишній дослідник OpenAI Діогу Алмейда. Він працював над методами навчання моделей, що згодом лягли в основу ChatGPT. Після запуску 15-го вересня інтерес до Jev виявився настільки великим, що TypeSafe певний час не могла обслуговувати всі запити до API.

На відміну від ChatGPT, Claude чи Gemini, Jev не призначений для написання текстів, коду або відповідей користувачам. Коли їй дають завдання, модель отримує кілька можливих дій і швидко обирає одну з них. Наприклад, дозволити чи заблокувати команду, натиснути одну з кнопок або передати задачу іншому інструменту.

Разом із вибором Jev показує, наскільки впевнена у ньому. Тому розробник може встановити правило: якщо впевненість висока — дія виконується автоматично, якщо ні — рішення передають людині або потужнішій моделі.

Цей підхід уже випробовують на реальних задачах. Інженер Vercel Пранит Шарма розповідає, що протестував Jev у системі, яка перевіряє, чи безпечно виконувати певні команди. Раніше для цього використовували GPT-5.6 Luna. За його словами, із Jev перевірка стала у 5–18 разів швидшою, а точність у цьому тесті також зросла.

А CTO Bryo AI Нікхіл Мудхолкар натомість дав Jev сортувати робочі листи. Gemini впорався трохи точніше, але використання Jev обійшлося у 10–20 разів дешевше. Тож Jev може добре справлятися із завданнями, де агенту доводиться приймати багато дрібних рішень поспіль, а викликати для кожного з них велику модель на кшталт GPT або Gemini може бути надто повільно й дорого.

TypeSafe заявляє, що Jev відповідає приблизно за 70–500 мс. Обробка 1 млн вхідних токенів коштує $0,042. А за вихідні токени платити не потрібно, адже звичайної текстової відповіді модель не генерує.

У власних тестах TypeSafe на окремих задачах Jev працював до 193,6 раза швидше та до 444,6 раза дешевше за великі мовні моделі. Утім, це максимальні результати в тестах самої компанії, а в реальних сценаріях різниця може бути меншою.

Раніше dev.ua писав, що ШІ-агенти, які працюють із сайтами так само, як людина, наприклад, клікають по елементах інтерфейсу та читають сторінки, можуть витрачати у 45 разів більше токенів, ніж під час виконання того ж завдання через API.

Anthropic переробила Claude Projects. Тепер ШІ може керувати командою агентів

Anthropic переробила Claude Projects. Тепер ШІ може керувати командою агентів

DeepSeek навчила V4 Flash «бачити» зображення. Чому на їхню обробку потрібно менше токенів, ніж у моделей-конкурентів?

DeepSeek навчила V4 Flash «бачити» зображення. Чому на їхню обробку потрібно менше токенів, ніж у моделей-конкурентів?

Читайте головні IT-новини країни в нашому Telegram

Читайте головні IT-новини країни в нашому Telegram
No votes yet.
Please wait...

Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *