Как ИИ-бот Meta помог хакерам взломать Instagram Обамы

Компания Meta подтвердила факт взлома высокопрофильных аккаунтов в Instagram с помощью собственного ИИ-ассистента поддержки. Атаке подверглись, в частности, аккаунт Белого дома времен президентства Барака Обамы, профиль косметического ритейлера Sephora и страница главного старшего сержанта Космических сил США Джона Бентивеньи. Информация об этом появилась в издании 404 Media.

Как происходил взлом

По данным журналистов, хакеры публиковали в Telegram видео и скриншоты с демонстрацией метода атаки. На одном из видео, распространившемся в X, злоумышленник просит ИИ-ассистента привязать аккаунт к новому адресу электронной почты. Бот подтверждает отправку кода верификации на этот адрес и просит ввести его в чате. После ввода кода хакеру становится доступна кнопка сброса пароля целевого аккаунта.

В некоторых случаях для обхода защитных механизмов использовался VPN, позволявший подделать геолокацию владельца аккаунта. По сообщениям, похищенные логины выставлялись на продажу в мессенджере Telegram.

Реакция Meta и масштаб проблемы

В заявлении компании, опубликованном в понедельник, говорится: «Проблема решена, мы обеспечиваем безопасность затронутых аккаунтов». Однако точное число пострадавших пользователей не раскрывается. Инцидент вызывает серьезные вопросы о безопасности использования ИИ для критически важных функций, таких как управление паролями.

Meta активно внедряет ИИ в свои платформы. В марте этого года компания запустила глобально ИИ-ассистента поддержки в Facebook и Instagram. В пресс-релизе отмечалось, что ассистент может «выполнять действия по растущему числу запросов», включая сообщение о мошенничестве, поддельных аккаунтах и проблемном контенте, а также сброс пароля.

мнение экспертов

Специалист по кибербезопасности из компании Sophos Айден Синнотт назвал инцидент формой «инъекции подсказок» (prompt injection), когда злоумышленники манипулируют чат-ботом для выполнения вредоносных действий. По его словам, такие атаки станут все более распространенными по мере того, как онлайн-сервисы внедряют чат-ботов без должной защиты.

Meta, возглавляемая Марком Цукербергом, инвестирует значительные средства в развитие ИИ. В этом году на инфраструктуру для ИИ, включая дата-центры, планируется потратить $145 млрд. Компания разрабатывает большие языковые модели, которые лягут в основу многих продуктов. Цукерберг также говорит о создании ИИ «суперинтеллекта» и предлагает использовать ИИ-ассистентов в психотерапии, что вызвало обеспокоенность у специалистов в области психического здоровья.