AI-галлюцинации привели к ошибкам в документах элитной юридической фирмы Sullivan & Cromwell

Andrew Dietderich, соруководитель отдела реструктуризации корпораций S&C, в минувшую субботу направил судье письмо с извинениями. Он признал, что поданные 9 апреля документы содержали неверные цитаты из Кодекса о банкротстве США и неправильные ссылки на судебные прецеденты. Ошибки обнаружила юридическая фирма Boies Schiller Flexner (BSF), которая также участвует в деле.

Как ИИ подвёл юристов

По словам Dietderich, в нескольких случаях S&C представила неточно обобщённые выводы из других дел, полученные с помощью ИИ. Фирма заявила, что у неё есть «всеобъемлющие политики и требования к обучению сотрудников по использованию инструментов ИИ в юридической работе», призванные предотвращать такие ошибки. Однако в письме указано, что эти политики не соблюдались, а вторичная проверка «не выявила неточных ссылок, сгенерированных ИИ». Позже S&C подала исправленную версию документов.

«Мы глубоко сожалеем, что это произошло, — написал Dietderich. — Я приношу извинения от имени всей нашей команды. В пятницу я также позвонил в BSF, чтобы поблагодарить их за то, что обратили наше внимание на проблему, и лично извиниться».

Контекст и последствия

Дело, в рамках которого была допущена ошибка, связано с компанией Prince Group, принадлежащей китайскому бизнесмену Чэнь Чжи. S&C представляет ликвидаторов, назначенных властями Британских Виргинских островов. В прошлом году прокуратура США предъявила Чэню обвинения в мошенничестве с использованием электронных средств и отмывании денег, утверждая, что он руководил работой лагерей принудительного труда в Камбодже. Prince Group тогда назвала обвинения необоснованными. Кроме того, американские власти пытаются конфисковать почти 9 миллиардов долларов в биткоинах, которые, по их данным, являются доходами от преступной деятельности группы. Чэнь был арестован в этом году в Камбодже и экстрадирован в Китай.

Законодательство США не запрещает юристам использовать ИИ, но этически они обязаны проверять достоверность подаваемых в суд документов. В письме не указано, какая именно программа ИИ использовалась и какие юристы готовили бумаги, а также применялись ли к ним санкции.

Этот инцидент — очередное напоминание о рисках применения генеративных нейросетей в профессиональной деятельности, особенно там, где точность имеет решающее значение. S&C, в штате которой более 900 юристов и одна из лучших репутаций в корпоративном праве США, публично признала сбой, что может усилить внимание регулирующих органов к использованию ИИ в юридической практике.