Год бана за ИИ-слоп: arXiv ужесточил правила для авторов

Платформа препринтов arXiv ввела годовой бан для авторов, в чьих работах находят неопровержимые следы "ИИ-мусора". О новом подходе написал X Томас Диттерих, глава секции информатики arXiv: по его словам, если автор работы использовал ИИ для создания контента и не проверил его вручную, то такой статье нельзя доверять целиком.

Под "неопровержимыми доказательствами" понимают вполне конкретные вещи. Это галлюцинированные ссылки — то есть выдуманные моделью источники, которых не существует. И мета-комментарии самой нейросети, случайно оставленные в тексте: например, "вот краткое содержание на 200 слов, хотите что-то изменить?" или "данные в этой таблице иллюстративные, подставьте реальные числа из ваших экспериментов". Логика arXiv простая: если автор не заметил такую вставку, значит, он не вычитывал и остальное.

Попавшийся хотя бы раз получает год запрета на загрузку, а после него все новые материалы автора должны сначала пройти прием на признанной рецензируемой площадке — журнале или конференции. Решения можно обжаловать, и Диттерих подчеркивает, что правило применяют только к случаям с бесспорными уликами, а не к подозрениям на стилистику.

Ужесточение — реакция на резкий увеличение количества некачественных работ. По данным модераторов, множество лет доля отклоняемых статей держалась около 4%, после выхода ChatGPT в 2022-м ничего не менялось, но с начала 2025 года число "мусорных" статей пошло вверх по экспоненте — сначала в информатике, потом в других дисциплинах. Сейчас отклоняют уже 10–12% присланных работ. В октябре площадка уже запретила публиковать обзорные статьи и аналитические доклады по информатике без предварительного рецензирования — теперь очередной этап ужесточения.

P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.