Искусственный интеллект против научной интуиции: сможет ли ИИ заменить рецензента?

Группа исследователей, отслеживающих проникновение искусственного интеллекта в академическую среду, пришла к выводу: значительная доля научных работ, написанных после 2020 года, в той или иной степени создана с использованием генеративных алгоритмов. Однако идея поручить ИИ рецензирование вызывает жаркие споры. С одной стороны, это сулит экономию времени, с другой — несёт риски для качества науки, конфиденциальности и академической культуры.

О том, способен ли алгоритм заменить человеческий взгляд на научные открытия, мы поговорили с кандидатом физико-математических наук Юрием Чеховичем — заведующим лабораторией №42 в ИПУ РАН и основателем сервиса интеллектуальной проверки академических работ «Думейт». По его словам, в научной среде рецензирование всегда считалось не просто технической проверкой, а интеллектуальным диалогом, элементом доверия и признания со стороны коллег.

Кризис рецензирования и соблазн автоматизации

С ростом числа публикаций и развитием цифровых платформ система рецензирования столкнулась с кризисом: рецензенты перегружены, их труд в большинстве случаев не оплачивается. Для журнала подобрать хороших экспертов — серьёзный вызов. Нередко уважаемые учёные делегируют написание рецензий младшим коллегам — студентам и аспирантам, что из-за нехватки опыта ведёт к ошибкам. На этом фоне идея привлечь ИИ выглядит соблазнительно: алгоритм быстро анализирует текст, выделяет ключевые тезисы, указывает на неточности. Формально такая рецензия может быть не хуже многих человеческих.

Но рецензирование — это не только грамматика и логические связи. Прежде всего это оценка научной новизны, корректности методики, релевантности цитируемых источников. Машина не всегда улавливает контекст дискуссии и тем более не способна предложить осмысленную критику. Опытный учёный, напротив, на интуитивном уровне может почувствовать, что в работе что-то не так: заметить несоответствия, сопоставить результаты с другими исследованиями. Алгоритм же, лишённый научного чутья, может принять фальшь за правду, если статья аккуратно оформлена.

Правовые и этические риски

Использование ИИ в рецензировании порождает серьёзную правовую проблему: чтобы подготовить рецензию, в систему нужно загрузить неопубликованную рукопись — данные, не подлежащие разглашению. В отличие от человека, сервисы ИИ могут использовать текст для обучения собственных моделей, что создаёт риск утечки уникальных идей и методик. Даже если утечка обнаружена, авторам трудно предъявить иски, хотя известны прецеденты успешной защиты прав — например, иск против компании Anthropic, которую могут обязать выплатить по три тысячи долларов каждому из 500 000 авторов, чьи книги пиратским способом использовали для обучения модели. Общая сумма компенсации может достичь 1,5 миллиарда долларов.

Проведём мысленный эксперимент: исследователь спрашивает у нейросети о перспективных направлениях и получает описание ещё не опубликованной чужой работы. Если он быстро проведёт своё исследование и опубликует его раньше, доказать первенство открытия будет практически невозможно. По словам эксперта, это не умозрительная, а вполне реальная ситуация.

Крупнейшие научные издательства прямо запрещают использование генеративных моделей при рецензировании. Если выяснится, что эксперт применял ИИ без разрешения, его, скорее всего, исключат из числа рецензентов. Однако есть и легитимный вариант участия ИИ — как вспомогательного инструмента для технических задач: поиска цитат, проверки формата ссылок, анализа структуры текста. В таком случае этические риски минимальны и зависят прежде всего от добросовестности учёного.