Представьте: вы покупаете книгу про искусственный интеллект, написанную признанным экспертом. Открываете — и видите цитату из статьи, которой не существует. Автор ссылается на исследование, которое никогда не проводилось. Это не сюжет антиутопии. Это реальность 2026 года, которая ударила по репутации сразу нескольких авторов и научных изданий.
Скандал с синтетическими цитатами в новой книге об ИИ (назовем её условно «Мозг машин») вызвал волну обсуждений. Оказалось, что автор, уважаемый профессор, поручил нейросети подборку ссылок для литературного обзора. ИИ честно сгенерировал 17 библиографических записей. 12 из них оказались вымышленными. Крупное издательство отозвало тираж, автор извинился, но осадок остался.
Это не единичный случай. Годом ранее детектор GPTZero обнаружил фальшивые цитаты в 47 статьях, принятых на престижную конференцию NeurIPS. В 23 случаях ссылки вели в никуда. Система просто выдумала работы — с авторами, годами и даже названиями журналов.
Когда книга врет: anatomy of a lie
Как это работает на практике? Исследователь просит ChatGPT (или другую LLM) «найти релевантные источники по теме внимания в трансформерах». Модель не лезет в Google Scholar — она вспоминает (из своих весов) статистические паттерны того, как выглядят нормальные ссылки. И выдает правдоподобный, но абсолютно ложный результат.
| Что ИИ выдал | Реальность | Вероятный источник галлюцинации |
|---|---|---|
| «Smith et al. (2024) показали, что attention механизмы превосходят CNN на 300%» | Такой статьи не существует. Smith не публиковал работы в 2024 году. | GPT-5, Claude 3.5 |
| «В исследовании Johnson and Lee (2023) представлена архитектура NeuroTransformer-XL» | Johnson и Lee действительно публиковались, но не про эту архитектуру. | GPT-4o, Gemini Ultra 2.0 |
| «Wang et al. (2025) провели мета-анализ 500+ работ по RLHF» | Wang et al. существует, но мета-анализа не проводила. | Claude 4 Opus |
С формальным тоном и академическим стилем такие ссылки проходят рецензирование. Рецензенты — тоже люди, они не проверяют каждую строчку библиографии. Особенно если статья написана убедительно. А нейросеть умеет убеждать.
Эпидемия галлюцинаций: от NeurIPS до вашего диплома
Скандал с книгой — лишь верхушка айсберга. Мы писали про детектор GPTZero, который нашел фальшивые цитаты в топовых исследованиях NeurIPS. И это не единичные случаи. Студенты генерируют дипломы с вымышленными источниками. Стартапы выпускают white papers со ссылками на несуществующие эксперименты. Даже серьезные журналы ловят такие ошибки.
Параллельно растет число случаев ИИ-плагиата, когда нейросеть переписывает чужие работы, не ссылаясь на них. А некоторые и вовсе используют ИИ для p-хакерства на стероидах, подгоняя данные под нужный результат.
Почему я (все еще) пишу с помощью ИИ? Честный ответ
Самое неудобное признание: автор этого текста тоже использует нейросети. Каждый день. Для редактуры, поиска идей, структурирования мыслей. И после описанных выше скандалов я не собираюсь отказываться от ИИ. Почему?
Потому что проблема не в инструменте — проблема в культуре использования. Молотком можно забить гвоздь, а можно разбить голову. Никто не требует запретить молотки.
Делегировать нейросети поиск и проверку фактов — преступная халатность. Использовать ее как генератор черновиков или помощника в формулировках — нормально. Разница — в том, кто несет ответственность за конечный результат. Если автор перекладывает ответственность на ИИ — это путь в пропасть. Если автор использует ИИ, но проверяет каждый факт — это разумная эффективность.
«Мы доверяем нейросетям, потому что они звучат уверенно. Но уверенность — не синоним истины. Это просто стиль», — заметил один из разработчиков GPTZero в недавнем интервью.
Спасти науку от самой себя: что делать с синдромом слепого доверия
Синдром слепого доверия — это когда мы принимаем информацию, сгенерированную ИИ, без критической оценки. Исследование 2025 года в Nature показало: даже после предупреждения о возможных галлюцинациях 40% ученых продолжают вставлять сгенерированные ссылки без проверки. Лень? Нет. Это когнитивное искажение, подкрепленное эффектом ореола: если текст выглядит академично, мы верим ему больше.
Что можно сделать? Во-первых, обязательная проверка всех ссылок перед подачей в журнал. Во-вторых, использование детекторов галлюцинаций (GPTZero, Copyleaks AI Detector, Scribbr). В-третьих, прозрачность: честно указывать, что ИИ использовался для поиска литературы, — и брать на себя ответственность за точность.
Некоторые издательства уже начали внедрять политику «AI-assisted»: если автор использовал нейросеть для библиографии, он обязан предоставить доказательства верификации каждой ссылки. Например, скриншоты из Google Scholar или DOI. Пока это рекомендация, но, скорее всего, станет обязательным требованием к 2027 году.
Отдельный разговор — рецензенты. Если они будут проверять ссылки так же тщательно, как проверяют методы, — фальшивки отсеются. Но для этого нужно время и ресурсы, которых у научного сообщества нет. Здесь могли бы помочь автоматические валидаторы, которые стучатся в CrossRef и Semantic Scholar.
Прогноз: доверие придется пересобрать
ИИ не исчезнет. Он станет только быстрее, убедительнее и доступнее. Галлюцинации тоже никуда не денутся — они заложены в архитектуру генеративных моделей, которые не знают истины, а только предсказывают вероятности.
Единственный способ сохранить науку — вернуть человека в цикл. Не как пассивного потребителя текстов ИИ, а как активного фильтра. Каждый факт — проверяй. Каждую ссылку — верифицируй. Каждый вывод — подвергай сомнению. Звучит как мантра. Но другого пути нет.
Автор скандальной книги, кстати, не уволился и не ушел из профессии. Он написал публичное письмо, где объяснил: «Я доверился машине. Это моя ошибка. Но я не собираюсь отказываться от технологии — я собираюсь научиться ею пользоваться правильно». Глупая или смелая позиция? Покажет время. Но я, пожалуй, с ним соглашусь.
