AI-галлюцинация (hallucination) — это сбой генерации, при котором языковая модель составляет грамматически связный ответ из статистически вероятных слов, а не из проверенных данных. Что это значит на практике: модель предсказывает следующий токен по вероятности, и когда в обучающей выборке нет точного ответа, она достраивает недостающее правдоподобной выдумкой.
Явление касается любого продукта на базе LLM — чат-ботов, поисковых ассистентов, генераторов кода. Ложный факт от LLM опасен именно уверенным тоном: выдуманная ссылка, несуществующая статья закона или неверная цитата подаются с той же интонацией, что и корректный ответ. Проверить вывод можно только сверкой с первоисточником — через поиск, документацию или инструмент с доступом к базе фактов.
§ 01Что это и чем отличается от обычной ошибки
Галлюцинация нейросети отличается от опечатки или сбоя парсинга тем, что ответ внутренне логичен и оформлен корректно. Модель не ломается — она выдаёт результат, который выглядит как знание. Различают два типа: фактологический (выдуманное событие, дата, число) и контекстный, когда вывод противоречит заданному промпту или источнику. Confabulation — второе название эффекта, подчёркивающее, что модель заполняет пробел, а не сообщает об отсутствии данных. Ключевой признак: недостоверный вывод нейросети не сопровождается пометкой о неуверенности.
§ 02Почему появляется
Причина заложена в архитектуре: LLM обучена предсказывать вероятное продолжение текста, а не хранить базу истинных фактов. Риск растёт в нескольких условиях: узкая или редкая тема без покрытия в данных, запрос на точные реквизиты (номера, даты, авторство), длинный контекст с потерей начала диалога. Отдельный источник — устаревшие данные: модель отвечает по срезу обучения и не знает событий после него. Температура генерации выше 0 повышает вариативность и вместе с ней долю выдуманных ответов модели.
фактических ошибок −38% — Медиапортал о финансах на WordPress внедрил обязательную сверку AI-черновиков с first-party источниками через RAG на внутренней базе. Доля выдуманных цифр в статьях упала на 38% за 4 месяца. Замер через ручной аудит 200 материалов и логи проверок редакции.
цитируемость +120% — B2B SaaS с MRR $180k подключил grounding с ссылками на документацию в чат-боте поддержки вместо свободной генерации. Бот перестал придумывать несуществующие функции, а корректных ссылок на реальные разделы стало больше на 120% за 5 месяцев. Динамика по логам диалогов и разметке QA-команды.
§ 03На кого влияет
Затрагивает всех, кто использует вывод LLM без проверки. Для SEO и контента это риск публикации ложных фактов и битых ссылок на несуществующие источники. Для разработки — сгенерированный код с вызовом библиотек и методов, которых не существует. Для юридических и медицинских запросов эта ошибка генерации несёт прямой вред. Поисковые ответы вроде AI Overviews тоже подвержены эффекту, поэтому Google маркирует их как экспериментальные и оставляет ссылки на первоисточники.
§ 04Как адаптироваться
Снизить долю выдумок помогает набор приёмов. Основные:
- RAG — подключение внешней базы, откуда модель берёт факты вместо генерации по памяти;
- температура
0для фактологических задач; - требование в промпте указывать источник и признавать, когда данных нет;
- ручная сверка чисел, дат, цитат и ссылок с первоисточником.
Полностью убрать галлюцинирование нейросети нельзя — оно следствие вероятностной природы модели. Практический подход: относиться к выводу как к черновику, требующему фактчекинга, а не как к готовому ответу.