Разработчики Claude призвали к глобальной паузе в ИИ-гонке, сравнив риски с ядерным оружием

Компания Anthropic, стоящая за одной из самых заметных нейросетей Claude, призвала международное сообщество к unprecedented шагу — глобальной паузе в разработке передовых систем искусственного интеллекта. В своем докладе представители компании утверждают, что нынешние ИИ-модели уже проявляют признаки того, что в перспективе могут выйти из-под управления людей.

Тормоз для гонки: зачем нужна пауза

По мнению Anthropic, если разработчики синхронно притормозят создание наиболее мощных ИИ, это принесет пользу всему миру. Общественные институты и исследователи безопасности получат время, чтобы адаптироваться к стремительному прогрессу. Однако сооснователь компании Джек Кларк образно заметил: «Сейчас у ИИ-индустрии есть педаль газа, но нет педали тормоза».

Важнейшим условием успеха инициативы является всеобщее участие. Если остановится лишь одна компания, конкуренты просто продолжат технологическую гонку. Anthropic подчеркивает, что соглашение должно быть многосторонним: к нему необходимо привлечь несколько крупных корпораций и государств, прежде всего США и Китай.

Контроль сложнее ядерного

В компании проводят параллель с договорами по ограничению ядерных вооружений. Однако признают: контролировать разработку ИИ будет значительно сложнее. Обучение моделей, в отличие от ядерных установок, намного проще скрыть от глаз международных инспекторов.

Инициатива уже столкнулась с критикой. Некоторые конкуренты и официальные лица США опасаются, что замедление американских компаний даст стратегическое преимущество Китаю. Другие открыто заявляют, что Anthropic преувеличивает риски безопасности, чтобы притормозить соперников. Компания, в свою очередь, настаивает на необходимости выработки механизмов контроля, которые позволили бы убедиться, что все стороны соблюдают соглашение.

Таким образом, призыв Anthropic знаменует новый этап в дискуссии о безопасности ИИ: от теоретических опасений к попытке практической международной координации, пусть и встретившей сопротивление.