США заключили с IT-гигантами соглашение о досмотре ИИ-моделей для нацбезопасности

Центр стандартов и инноваций в области ИИ (CAISI), входящий в структуру Министерства торговли США, сообщил о достигнутых договоренностях во вторник. По словам представителей агентства, процесс рецензирования поможет лучше понять возможности новых мощных моделей и защитить национальную безопасность. Сотрудничество с технологическими гигантами позволит федеральному правительству «масштабировать свою работу в интересах общества в критический момент», говорится в пресс-релизе CAISI.

Цель проверок — безопасность, а не ограничения

Директор CAISI Крис Фолл подчеркнул, что «независимая, строгая измерительная наука необходима для понимания передового ИИ и его последствий для нацбезопасности». CAISI создан для облегчения взаимодействия между техиндустрией и правительством в разработке стандартов и оценке рисков коммерческих ИИ-систем.

Соглашения с Microsoft, Google DeepMind и xAI в первую очередь направлены на выявление рисков в сферах кибербезопасности, биобезопасности и химического оружия. Ранее аналогичные сделки с администрацией Байдена заключили OpenAI и Anthropic. CAISI отметил, что уже провел более 40 таких оценок, в том числе для еще не выпущенных моделей.

Обычно разработчики передают государству версии ИИ с ослабленными или снятыми мерами безопасности — это позволяет властям «тщательно оценить возможности и риски, связанные с национальной безопасностью», пояснили в агентстве.

Контекст: растущие страхи вокруг самых мощных моделей

Новые соглашения заключаются на фоне опасений, что новейшие и самые мощные ИИ-модели, такие как Mythos от Anthropic, могут быть опасны для широкого доступа. Эксперты по безопасности, госчиновники и технологические компании опасаются, что их расширенные возможности позволят хакерам эксплуатировать уязвимости кибербезопасности в беспрецедентных масштабах.

Anthropic ограничила запуск Mythos несколькими компаниями и инициировала совместный проект Glasswing, объединяющий технологические компании для «защиты самого критически важного программного обеспечения в мире». В понедельник издания New York Times и Wall Street Journal сообщили, что администрация Трампа рассматривает возможный исполнительный указ о создании процесса государственного надзора за такими инструментами ИИ. Однако администрация охарактеризовала эти сообщения как «спекуляции».

Google и xAI не ответили на запросы о комментариях. В тот же вторник Microsoft объявила о аналогичном соглашении в Великобритании с государственным Институтом безопасности ИИ, который также занимается безопасной разработкой ИИ. В своем блоге Microsoft отметила: «Хотя Microsoft регулярно проводит многие виды тестирования ИИ самостоятельно, тестирование на предмет национальной безопасности и крупномасштабных рисков для общественной безопасности обязательно должно быть совместной работой с правительствами».