Anthropic расследует утечку доступа к модели Mythos, способной взламывать системы

Американский стартап Anthropic заявил, что проверяет данные о том, что несколько человек получили доступ к модели Mythos через среду стороннего поставщика. Об этом стало известно после публикации Bloomberg, где утверждалось, что небольшая группа пользователей на частном онлайн-форуме смогла подключиться к Mythos в тот же день, когда Anthropic объявила о тестировании модели с ограниченным кругом компаний, включая Apple и Goldman Sachs.

Как произошла утечка

По информации Bloomberg, доступ к Mythos получил один из участников группы, работавший в компании-подрядчике Anthropic. Используя методы, применяемые исследователями кибербезопасности, он предоставил доступ остальным. При этом группа не запускала на модели запросы, связанные с кибербезопасностью. По словам источника, они скорее «играли» с технологией, нежели пытались навредить. Bloomberg подтвердил эти сведения скриншотами и демонстрацией модели в реальном времени.

Опасения экспертов

Новость о возможной утечке вызвала беспокойство у властей, которые ранее предупреждали об угрозе, которую Mythos представляет для кибербезопасности. Министр по вопросам ИИ Великобритании Канишка Нараян заявил, что британским компаниям «стоит беспокоиться» из-за способности модели находить уязвимости в IT-системах, которыми могут воспользоваться хакеры.

Модель уже прошла проверку в Британском институте безопасности ИИ (AISI) — ведущем мировом органе по безопасности технологий. На прошлой неделе AISI предупредил, что Mythos представляет собой «шаг вперёд» по сравнению с предыдущими моделями с точки зрения киберугроз. Специалисты института отметили, что Mythos способна проводить многоэтапные атаки и самостоятельно обнаруживать слабые места в IT-системах без участия человека. Обычно на выполнение таких задач у профессионалов уходят дни.

Примечательно, что Mythos стала первой моделью ИИ, успешно выполнившей 32-шаговую симуляцию кибератаки, разработанную AISI. Модель справилась с заданием в трёх из десяти попыток. Этот результат наглядно демонстрирует потенциальную опасность технологии, если она попадёт в недобросовестные руки.

Anthropic продолжает расследование инцидента. Пока неизвестно, какие меры примет компания для предотвращения подобных утечек в будущем. Однако сам факт несанкционированного доступа поднимает важные вопросы о том, как разработчики могут контролировать распространение потенциально опасных технологий.