ИИ-мошенники превзошли людей в умении завоевывать доверие

Мошенническая схема «забой свиней» (Pig Butchering) предполагает длительное выстраивание отношений с жертвой с последующим предложением вложить деньги в фиктивный инвестиционный проект. Злоумышленники поддерживают с жертвой непринужденный разговор, чтобы усыпить бдительность, и ежегодно такие схемы приносят десятки миллиардов долларов ущерба.

Международная группа ученых решила проверить, кто эффективнее войдет в доверие — чат-бот или человек. В эксперименте участвовали 22 человека, которые полагали, что принимают участие в исследовании дружбы в интернете. Они общались с двумя собеседниками: один был агентом на базе Claude (ИИ), второй — специалистом по романтическим мошенническим схемам. Никто из участников не знал, что один из собеседников — искусственный интеллект.

ИИ доверяют больше

Через неделю общения собеседник просил участника скачать приложение или сыграть в онлайн-игру. Это рассматривалось исследователями как готовность выполнить просьбу. Выяснилось, что просьбу чат-бота выполнили 46% участников, а человека — лишь 18%.

Участников также попросили оценить уровень доверия к собеседникам по пятибалльной шкале. Человек получил в среднем 3,31 балла, искусственный интеллект — 3,78. Кроме того, участники отправляли сообщения ИИ примерно в 80% случаев, что, по мнению исследователей, указывает на более комфортное общение с чат-ботами.

Большинство участников не заподозрили, что общались с ИИ. Лишь один человек задал прямой вопрос, и чат-бот не признался, что он искусственный интеллект. Остальные сильно удивились, когда узнали правду.

Автоматизация мошенничества

Исследователи отмечают, что ИИ может взять на себя самый длительный этап «забоя свиней» — вхождение в доверие. Это позволит автоматизировать значительную часть схемы, а человек подключится на этапе, когда нужно подвести жертву к инвестиционному проекту. Такой подход также потенциально помогает обходить защитные ограничения ИИ-агентов.

Чтобы понять механику «забоя свиней», ученые опросили 145 бывших сотрудников мошеннических организаций. Многие подтвердили, что уже используют ИИ для перевода сообщений, создания убедительных образов и генерации видеодипфейков. Однако полная автоматизация пока дороже использования людей, которых в таких центрах часто удерживают силой.