Учёные бьют тревогу: ИИ «галлюцинирует» тысячи несуществующих ссылок в научных статьях

Качество научной литературы напрямую зависит от достоверности цитируемых источников. Когда читатель видит ссылку, он предполагает, что она ведёт к реально существующей и проверенной работе. Однако новый масштабный анализ показал, что инструменты искусственного интеллекта, используемые при написании статей, всё чаще «выдумывают» ссылки, и эти поддельные цитаты успешно проходят рецензирование.

Масштаб проблемы: почти 150 тысяч ложных ссылок

Исследователи из Корнелла и UCLA проанализировали научные статьи, вышедшие за последние несколько лет, и обнаружили, что примерно в каждой 30-й работе есть цитаты, сгенерированные ИИ. В общей сложности было выявлено около 150 тысяч несуществующих ссылок. Эти цифры говорят о системной проблеме, которая затрагивает не только престиж конкретных журналов, но и основы научного метода — проверку источников.

Особую тревогу вызывает то, что многие из этих фиктивных цитат выглядят вполне правдоподобно: содержат имена авторов, названия журналов, годы публикации. Однако при попытке найти указанную статью выясняется, что она никогда не существовала. Это вводит в заблуждение других учёных и может искажать результаты обзоров и мета-анализов.

Как ИИ «обманывает» научный мир

Генеративные языковые модели, обученные на огромных массивах данных, не всегда способны отличить факт от вымысла. При создании текста они часто стремятся к правдоподобию, а не к точности. Если модель не находит в своей базе подходящей реальной ссылки, она может просто «додумать» её. В контексте научного письма это приводит к появлению ссылок, которые выглядят как настоящие, но ведут в никуда.

ПРОЦЕНТ ПОДДЕЛОК: исследователи подчёркивают, что даже единичные случаи таких «галлюцинаций» подрывают доверие к системе цитирования. Если в статье одна-две ссылки ложные, читатель не может быть уверен и в остальных.

Авторы работы призывают научные журналы и издательства внедрять более строгие процедуры проверки, а также разрабатывать инструменты для автоматического обнаружения подозрительных цитат. Пока же ответственность за достоверность ссылок полностью лежит на авторах статей, и игнорирование этой проблемы может привести к серьёзным последствиям для репутации науки в целом.