Мифос от Anthropic: британские банки получат доступ к опасному ИИ, а регуляторы бьют тревогу

Доступ к мощному инструменту искусственного интеллекта Mythos, который разработчик Anthropic ранее счёл слишком опасным для публичного релиза, откроется для британских банков в течение следующей недели. Об этом в интервью Bloomberg TV заявила Пип Уайт, глава операций Anthropic в Великобритании, Ирландии и Северной Европе. Она отметила значительный интерес со стороны британских CEO. До сих пор новая модель была доступна лишь ограниченному кругу компаний, в основном из США, включая Amazon, Apple и Microsoft.

В самом Anthropic, стоящем за семейством ИИ-инструментов Claude, открыто предупреждают о рисках Mythos. В блоге компании ранее в этом месяце говорилось, что ИИ-модели достигли уровня способностей в программировании, позволяющего им превосходить в поиске и эксплуатации уязвимостей программного обеспечения всех, кроме самых опытных людей. Последствия для экономик, общественной безопасности и национальной безопасности могут быть серьёзными.

Реакция регуляторов: между страхом и возможностями

Потенциальные угрозы от Mythos стали одной из тем обсуждения министров финансов, руководителей и регуляторов на весенних встречах МВФ и Всемирного банка в Вашингтоне. Канадский министр финансов Франсуа-Филипп Шампань в интервью BBC охарактеризовал ситуацию как достаточно серьёзную, чтобы привлечь внимание всех министров. Он провёл аналогию с Ормузским проливом, отметив ключевое отличие: с Anthropic и Mythos мир столкнулся с «неизвестной неизвестностью», требующей повышенного внимания и создания защитных механизмов для обеспечения устойчивости финансовой системы.

Эндрю Бейли, управляющий Банка Англии и председатель Совета по финансовой стабильности глобальных регуляторов, назвал это очень серьёзным вызовом для всех, напоминающим о стремительном развитии мира ИИ. При этом он отметил дилемму регуляторов: необходимость балансировать между контролем над технологией и стремлением правительств получить экономические выгоды от ИИ. Бейли задался вопросом об оптимальном моменте для установления «правил дорожного движения», указав, что слишком раннее регулирование рискует промахнуться мимо цели и исказить эволюцию, а слишком позднее — позволить ситуации выйти из-под контроля.

Поиск рамок для управления рисками

Президент Европейского центрального банка Кристин Лагард назвала развитие событий с Anthropic и Mythos хорошим примером ответственной компании, которая осознаёт как потенциал технологии, так и её опасность в чужих руках. Она отметила, что все заинтересованы в наличии рамок для работы, но признала, что на данный момент не существует управленческой структуры, которая могла бы надзирать за подобными рисками, и над этим необходимо работать.

Активность наблюдается и по другую сторону Атлантики. Министр финансов США Скотт Бессент на прошлой неделе вызвал руководителей американских банков в Вашингтон для обсуждения модели Mythos. Встреча была сосредоточена на системно значимых банках, сбой в работе или крах которых, по мнению регуляторов, может поставить под угрозу финансовую стабильность. Британские регуляторы, в свою очередь, планируют поднять вопрос о рисках Mythos с руководителями банков и правительственными чиновниками в ближайшие недели.

Заместитель главы МВФ Дэн Кац, ранее занимавший пост главы аппарата Бессента, подчеркнул, что эволюция цифровых технологий создаёт огромные риски с точки зрения кибербезопасности. По его словам, этот вопрос станет абсолютно важным в международной повестке на ближайшие месяцы. Обсуждения в Вашингтоне проходили параллельно с решением проблем, связанных с глобальными последствиями войны США и Израиля с Ираном, что подчёркивает комплексный характер современных угроз.