Wells Fargo предупреждает: ИИ-мошенничество стало настолько убедительным, что профессионалы не отличают подделку

Wells Fargo бьет тревогу: современные ИИ-инструменты позволяют создавать поддельные письма, которые выглядят как настоящие. В сообщении от имени поставщика может быть верный логотип, правильный тон и даже номер счета-фактуры, совпадающий с вашими записями, — и все равно оно может быть фальшивкой. Генеративный ИИ устранил те «сигналы опасности», на которые пользователи полагались годами.

Как ИИ меняет ландшафт мошенничества

По словам экспертов банка, новый уровень угрозы заключается в том, что даже опытные профессионалы не могут сразу отличить подлинное письмо от созданного нейросетью. Раньше фишинговые атаки часто выдавали себя опечатками, странными адресами отправителя или нелогичными просьбами. Теперь же поддельные сообщения лишены этих недостатков.

Мошенники используют генеративные модели для персонализации атак: они анализируют открытые данные о компании, ее партнерах и типичные паттерны переписки, чтобы сделать письмо максимально убедительным. В частности, подделываются не только тексты, но и визуальные элементы — логотипы, подписи, форматирование.

Что делать бизнесу

Wells Fargo рекомендует компаниям пересмотреть протоколы безопасности. Прежние методы, основанные на визуальной проверке, больше не надежны. Вместо этого стоит внедрять многофакторную аутентификацию, обучать сотрудников обращать внимание на контекст запросов, а не только на внешний вид письма.

Банк также подчеркивает, что особенно уязвимы малые и средние предприятия, где нет выделенных ИТ-специалистов. Для них риск потерять деньги из-за поддельного счета от «поставщика» особенно высок.

Эксперты предупреждают: генеративный ИИ продолжит совершенствоваться, и мошенники будут все более изобретательны. Единственный способ защиты — комбинация технологий и человеческой бдительности, адаптированных к новым реалиям.