Американские регуляторы собрали банкиров из-за киберрисков новой модели AI от Anthropic

Министр финансов США Скотт Бессент на этой неделе созвал глав крупнейших американских банков на встречу в Вашингтоне. Причиной стали растущие опасения по поводу киберугроз, которые может создавать новейшая модель искусственного интеллекта Claude Mythos от компании Anthropic. По данным Bloomberg, на встрече в здании Минфина присутствовал и председатель Федеральной резервной системы Джером Пауэлл.

Поводом для тревоги стал недавний инцидент с утечкой кода Claude, после которого Anthropic опубликовала заявление. В нём компания предупредила, что её AI-модели теперь превосходят «всех, кроме самых опытных людей, в поиске и эксплуатации уязвимостей программного обеспечения». В заявлении отмечалось, что последствия для экономик, общественной безопасности и национальной безопасности могут быть серьёзными.

Кто был на встрече и почему

Встреча была организована в то время, когда руководители банков уже находились в столице для собрания одной из лоббистских групп. Список приглашённых был сфокусирован на главах так называемых системно значимых банков. Регуляторы считают, что серьёзные сбои в их работе или потенциальный крах могут поставить под угрозу финансовую стабильность всей системы.

Согласно отчёту Bloomberg, среди присутствовавших были генеральный директор Goldman Sachs Дэвид Соломон, глава Bank of America Брайан Мойнихан, CEO Citigroup Джейн Фрейзер, руководитель Morgan Stanley Тед Пик и глава Wells Fargo Чарли Шарф. Джейми Даймон из JPMorgan был приглашён, но не смог присутствовать. При этом в своём ежегодном письме акционерам, опубликованном на этой неделе, Даймон предупредил, что кибербезопасность «остаётся одним из наших самых больших рисков» и что «искусственный интеллект почти наверняка усугубит этот риск».

Что известно о модели Mythos и её ограничениях

Anthropic заявила, что её модель Mythos, которая ещё не выпущена широко, выявила тысячи уязвимостей в программном обеспечении и популярных приложениях. Это заставило компанию ограничить выпуск новой модели небольшим кругом бизнесов. В их число вошли Amazon, Apple и Microsoft. Для Anthropic это первый случай, когда она ограничивает релиз своего продукта.

Доступ к модели также получили сетевые компании Cisco и Broadcom, а также Linux Foundation, которая продвигает свободную, открытую операционную систему Linux. По данным компании, самые старые из обнаруженных Mythos уязвимостей насчитывали до 27 лет, и ни одна из них, как полагают, не была замечена их создателями или техническими мониторами до обнаружения AI-моделью.

Новости о встрече появились на фоне опасений, что хакеры в конечном итоге могут использовать подобные инструменты для подбора паролей или взлома шифрования, предназначенного для защиты данных. Кроме того, встреча состоялась через несколько недель после того, как правительство США обозначило Anthropic как риск для цепочек поставок — обвинения, которые компания оспаривает в суде.

Федеральная резервная система, Anthropic и американские банки отказались комментировать ситуацию для Bloomberg. Министерство финансов не ответило на запрос новостного издания.