OpenAI готова сповільнити гонку за найпотужнішим ШІ, але не хоче робити це сама. Сем Альтман заявив співробітникам, що компанія може зменшити темпи розробки передових моделей, якщо до цього приєднаються й інші великі ШІ-компанії.
OpenAI готова сповільнити гонку за найпотужнішим ШІ, але не хоче робити це сама. Сем Альтман заявив співробітникам, що компанія може зменшити темпи розробки передових моделей, якщо до цього приєднаються й інші великі ШІ-компанії.
Про це повідомляє Bloomberg із посиланням на людей, знайомих із перебігом внутрішньої зустрічі OpenAI цього тижня.
За їхніми словами, Альтман допускає скоординоване уповільнення розробки разом із кількома конкурентами, хоча визнає, що погодяться на це далеко не всі.
Також цього тижня OpenAI офіційно закликала до спільних правил для найпотужніших ШІ-моделей. Компанія вважає, що розробники та держави мають заздалегідь домовитися, за яких умов розвиток ШІ потрібно сповільнювати або зупиняти, якщо системи стають занадто небезпечними.
А ще така угода має бути законною. За даними WIRED, OpenAI останніми тижнями зверталася до американських законодавців, щоб з’ясувати, чи не порушуватиме спільне уповільнення розробки ШІ антимонопольне законодавство США. А коли кілька найбільших конкурентів разом домовляються обмежити обсяги своєї діяльності, це потенційно може розглядатися як антиконкурентна координація.
Тому одна з ідей — залучити до цього державу. У липні понад 1300 працівників компаній, які розробляють передовий ШІ, підтримали звернення під назвою Pacing the Frontier. Вони попросили уряд США допомогти створити міжнародний механізм, який дозволив би всій галузі одночасно пригальмувати розвиток найпотужніших систем, якщо це стане необхідним.
Розмови про уповільнення посилилися після кількох інцидентів із автономними ШІ-агентами та появи значно сильніших моделей.
Нова GPT-6 Astra стала першою моделлю OpenAI, якій компанія присвоїла критичний рівень кіберможливостей. За оцінкою OpenAI Astra вже здатна самостійно знаходити раніше невідомі вразливості в добре захищених системах і розробляти способи їх використання. Через це OpenAI раніше вже затримувала окремі етапи розробки Astra, щоб посилити захист і перевірити запобіжники перед релізом.
Раніше dev.ua вже писав, що Anthropic пропонувала конкурентам домовитися про тимчасове уповільнення навчання надпотужного ШІ через ризик того, що системи почнуть дедалі більше автоматизувати власну розробку.