В научном сообществе назревает кризис доверия. Количество публикаций растет лавинообразно, но их качество вызывает все больше вопросов. Исследователи из университетов Беркли и Корнелла решили выяснить, какую роль в этом играет искусственный интеллект. Они проанализировали около 2 миллионов научных работ, опубликованных на платформах препринтов arXiv, bioRxiv и SSRN в период с 2018 по 2024 год.
Результаты оказались неоднозначными: ИИ одновременно и демократизирует науку, и угрожает размыть её стандарты.
Взрывной рост и языковой барьер
Главный вывод исследования — после появления доступных LLM (больших языковых моделей) поток статей резко увеличился. На платформах bioRxiv и SSRN рост составил до 100%, на arXiv — более 40%. Особенно активно нейросети используют ученые из Азии. Для них ИИ стал спасательным кругом, помогающим преодолеть языковой барьер. Тексты стали более грамотными и понятными, что позволяет доносить идеи до широкой аудитории, не владея английским в совершенстве. Это безусловный плюс.
Красивая обертка для посредственности
Однако у медали есть и обратная сторона. ИИ делает тексты «лингвистически сложнее» и убедительнее, создавая иллюзию высокого качества работы. Но статистика неумолима: статьи с явными следами ИИ-генерации реже проходят рецензирование и чаще так и остаются в статусе черновиков (препринтов), не попадая в серьезные журналы.
Возникает опасный разрыв: за красивым, гладким слогом и умными терминами может скрываться слабая научная база. Человеку становится всё труднее отличить качественное исследование от «галлюцинации» нейросети без глубокого погружения в тему.
Польза для библиографии
Интересно, что ИИ-статьи часто оказываются полезными с точки зрения ссылочного аппарата. Нейросети отлично умеют находить свежие публикации и связывать исследования между собой. Даже если сама статья не несет прорывных идей, она может служить отличным обзором литературы — при условии, что автор не поленился проверить ссылки (мы все знаем, как ИИ любит их выдумывать).
Главная угроза
Авторы доклада предупреждают: сейчас на страже качества стоят живые рецензенты. Но их катастрофически не хватает. Если научное сообщество начнет использовать ИИ не только для написания, но и для проверки статей, мы рискуем попасть в замкнутый круг, где машины генерируют бред, а другие машины его одобряют. Науке нужен компромисс: использовать ИИ как инструмент оформления мыслей, но не как замену исследовательскому труду.