Компанія «Anthropic», яка розробила чат-бот Claude, б’є на сполох: галузь рухається надто швидко, і це загрожує втратою людського контролю над технологією. Вже тепер Claude пише понад 80% коду «Anthropic», хоча до лютого 2025 року ця частка трималася в межах однозначних цифр.

Головне побоювання — так зване рекурсивне самовдосконалення, коли ШІ стає здатним повністю автономно проєктувати та розробляти свого наступника — без участі людини.

«Anthropic» закликала галузь уповільнитись, щоб дати час суспільним структурам встигати за розвитком технології. Водночас компанія застерігає: якщо частина гравців скористається зупинкою, щоб наздогнати конкурентів, це зробить усіх менш захищеними.

«Без глобального механізму координації компаніям та урядам доведеться приймати складні рішення щодо безпеки під конкурентним та геополітичним тиском», — йдеться у заяві розробників.