Коротко
- Галлюцинация выглядит как нормальный ответ: уверенный тон, красивое оформление, иногда ссылка на источник, которого нет.
- Опаснее всего цифры, законы, цены, цитаты и ссылки: их легко принять на веру и дорого исправлять после публикации.
- Модели чаще угадывают, потому что на большинстве тестов ответ наугад выгоднее отказа от ответа.
- Лучшая защита складывается из трёх частей: давать модели проверенные документы, разрешить ей отвечать «не знаю» и проверять результат человеком.
- Подключение своей базы снижает выдумки, но не убирает их: в исследовании юридических ИИ-сервисов ошибки всё равно встречались в 17–33% запросов.
Дальше разберём, почему модели ошибаются, где это опаснее всего, какие приёмы действительно помогают и какой протокол проверки поставить в компании.
Данные сверены по официальным источникам на 5 ноября 2026 года. Исследования относятся к конкретным моделям и датам, у новых версий цифры могут отличаться.
Что такое галлюцинации нейросети простыми словами
Галлюцинации нейросети — это ответы, которые звучат правдоподобно и грамотно, но не соответствуют фактам. Модель может придумать статью закона, цитату, название исследования, цену конкурента или дату. Опознать такой ответ по стилю нельзя, потому что выдуманный факт написан так же гладко, как настоящий.
Языковая модель работает с вероятностями слов: на основе огромного массива текстов она подбирает самое подходящее продолжение. Как это устроено, мы рассказывали в статье что такое LLM. Для понимания галлюцинаций важно одно: у модели нет встроенной базы проверенных фактов, к которой она обращается перед ответом. Даже когда ответ верный, он получен тем же способом, что и неверный.
Представьте студента на тесте, где за пропущенный вопрос ставят ноль, а за угаданный балл. Он будет отвечать на всё подряд. Такое сравнение приводят сами исследователи OpenAI: языковые модели ведут себя как студенты на сложном экзамене и угадывают, когда не уверены.
Почему нейросеть выдумывает факты
Нейросеть выдумывает факты по двум причинам: при обучении она не может отличить редкий факт от шума, а тесты вознаграждают её за попытку ответить. Это главный вывод работы Why Language Models Hallucinate, которую исследователи OpenAI и Технологического института Джорджии опубликовали в сентябре 2025 года.
Первая причина связана со статистикой. Модель учится на текстах и хорошо запоминает то, что повторяется часто. Факт, встретившийся один раз, вроде дня рождения малоизвестного человека или условий тарифа вашего поставщика, закрепляется плохо. Ответ на такой вопрос модель собирает из похожих шаблонов.
Вторая причина связана с тем, как модели оценивают. Большинство популярных тестов считают только правильные ответы: сказать «не знаю» и ошибиться стоит одинаково, ноль баллов. В таких условиях разработчикам выгодна модель, которая отвечает всегда.
Данные из той же работы хорошо показывают цену этого подхода. В тесте SimpleQA, который приводит OpenAI, сравнили две модели.
| Показатель в тесте SimpleQA | gpt-5-thinking-mini | o4-mini |
|---|---|---|
| Отказались отвечать | 52% | 1% |
| Ответили правильно | 22% | 24% |
| Ответили неправильно | 26% | 75% |
Разница в правильных ответах всего 2 процентных пункта, а в ошибках почти втрое. Модель, которая отвечает почти всегда, выглядит чуть точнее в рейтинге и при этом намного чаще выдумывает. Отсюда практический вывод: для бизнеса важна доля уверенных ошибок, а готовность модели сказать «не знаю» — полезное качество.
Цифры относятся к моделям 2025 года и к одному тесту с короткими фактическими вопросами. Прогноз для вашей задачи из них не сделать, зато хорошо видно, как работает механика.
Где галлюцинации опаснее всего для бизнеса
Галлюцинации опаснее всего там, где ответ уходит наружу без проверки: в договорах, рекламе, ответах клиентам и отчётах. Текст с неудачным оборотом вы поправите за минуту, а выдуманная норма закона в письме клиенту будет стоить репутации или денег.
Два случая стали хрестоматийными. В деле Mata v. Avianca адвокаты подали в суд Нью-Йорка документ с шестью выдуманными судебными решениями, которые подготовил ChatGPT. Судья оштрафовал их на 5 000 долларов 22 июня 2023 года, причём отдельно отметил, что адвокаты продолжали стоять на своём после вопросов суда.
Второй случай касается консалтинга. Deloitte частично вернула деньги правительству Австралии за отчёт стоимостью 440 000 австралийских долларов: в нём нашли выдуманную цитату из судебного решения и ссылки на несуществующие работы. В исправленной версии компания указала, что при подготовке использовала нейросеть.
Массовая картина тоже невесёлая. Европейский вещательный союз и BBC проверили больше 3 000 ответов ChatGPT, Copilot, Gemini и Perplexity на вопросы о новостях. У 45% ответов нашлась хотя бы одна существенная проблема, у 31% серьёзные проблемы с источниками, примерно у 20% крупные неточности. Речь про новости и осень 2025 года, но вывод о ссылках применим шире: наличие ссылки не гарантирует, что она подтверждает сказанное.
Какие бывают ошибки нейросети и как их поймать
Ошибки нейросети делятся на несколько типов, и у каждого есть свой быстрый способ проверки. Таблица помогает не перепроверять всё подряд: сначала смотрите на самые рискованные строки.
| Тип ошибки | Пример | Как поймать | Риск для бизнеса |
|---|---|---|---|
| Выдуманная норма закона | Статья с неверным номером или старая редакция | Открыть статью в КонсультантПлюс или Гаранте | Высокий |
| Выдуманная цифра | «По исследованиям, конверсия растёт на 47%» | Попросить первоисточник и открыть его | Высокий |
| Неверная цена или условие | Старый тариф сервиса, чужие условия доставки | Сверить с официальной страницей на сегодня | Высокий |
| Несуществующий источник | Правдоподобная ссылка или название отчёта | Открыть ссылку, поискать точное название | Высокий |
| Выдуманная цитата | Фраза, приписанная эксперту или суду | Найти цитату в оригинале | Высокий |
| Ошибка в расчёте | Неверная сумма или процент в таблице | Пересчитать формулой | Средний |
| Искажённый пересказ | В резюме договора потерялась важная оговорка | Сравнить с разделом оригинала | Средний |
| Устаревшие данные | Описание интерфейса или правил прошлого года | Проверить дату источника | Средний |
| Смешение сущностей | Факты о двух компаниях с похожим названием | Проверить реквизиты и сайт | Средний |
| Обобщение без оснований | «Все клиенты предпочитают…» | Спросить, откуда вывод, убрать при отсутствии данных | Низкий |
Отдельно стоит обратить внимание на ответы про вашу компанию. Модель мало что знает о малом бизнесе и охотно дорисует услуги, адрес и год основания. Если просите нейросеть написать текст о себе, сначала дайте ей факты.
Как снизить галлюцинации промптом
Промпт снижает галлюцинации, если разрешает модели не знать, ограничивает её вашими данными и требует показывать опору для каждого факта. Это самый дешёвый способ, он не требует денег и работает в любом чате. Общие правила написания запросов собраны в статье что такое промпт.
| Приём | Как написать в запросе | Что он даёт |
|---|---|---|
| Разрешить отказ | «Если данных нет, напиши "не нашёл", догадки запрещены» | Снимает давление ответить любой ценой |
| Ограничить источник | «Отвечай только по документу ниже» | Модель опирается на ваши данные |
| Потребовать цитату | «Для каждого вывода приведи точную фразу из документа» | Проверить становится быстро |
| Разделить факты и мнения | «Отметь, где факт из документа, а где твоя оценка» | Видно, что требует проверки |
| Сузить вопрос | Вместо «расскажи про рынок» спросить «сравни эти три прайса» | Меньше простора для выдумки |
| Дать дату | «Данные актуальны на 5 ноября 2026, более свежего ты не знаешь» | Меньше устаревших утверждений |
Рабочий шаблон для задач с документом выглядит так:
``` Ответь только на основе документа ниже. Для каждого утверждения приведи короткую цитату. Если в документе нет ответа, напиши: "В документе этого нет". Не добавляй цифры, названия и даты, которых нет в тексте. В конце перечисли, что осталось непонятным.
Документ: [вставьте текст]
Вопрос: [ваш вопрос] ```
Этот приём снижает риск, но не убирает его. Модель может неточно пересказать цитату или приписать её другому разделу, поэтому цитаты тоже нужно сверять, хотя бы выборочно. Такая проверка занимает минуты, потому что вы ищете конкретную фразу в конкретном документе.
Включённый поиск в интернете и режим рассуждения обычно помогают с фактами, но поиск приносит и слабые источники. Ссылки всё равно открывайте сами.
Как снизить галлюцинации источниками и RAG
Источники и RAG снижают галлюцинации, потому что модель отвечает по найденным документам и меньше опирается на свою память. RAG — это поиск с генерацией: система сначала находит фрагменты в вашей базе, а затем передаёт их модели вместе с вопросом. Подход описан в работе Льюиса и коллег 2020 года и сейчас встроен во многие платформы, например в поиск по файлам Yandex AI Studio.
Для бизнеса это главный способ сделать ответы надёжными: цены, условия и регламенты живут в базе, которую вы контролируете. Как её собрать, пошагово описано в статье про базу знаний для чат-бота.
Ограничения у подхода тоже есть. В исследовании Стэнфорда юридические сервисы с поиском по базе законов всё равно ошибались в 17–33% запросов, хотя производители заявляли об отсутствии галлюцинаций. Поиск снижает выдумки, но модель может найти не тот документ, неправильно понять его или соединить два фрагмента в несуществующее правило.
Типичные причины сбоев в базе знаний:
| Что вы видите | Что это значит | Что делать |
|---|---|---|
| Бот называет старую цену | В базе остался прошлогодний прайс | Удалить дубли, оставить одно место для цен |
| Отвечает правильно, но не по той услуге | Поиск нашёл похожий фрагмент | Разбить документы на короткие карточки с заголовками |
| Придумывает, когда ответа нет | Инструкция не запрещает догадки | Добавить правило передавать вопрос человеку |
| Смешивает условия двух тарифов | Они лежат рядом без разметки | Отделить карточки, указать название тарифа в каждой |
| Ссылается на документ, но мысль искажена | Модель неточно пересказывает | Показывать цитату рядом с ответом |
Ответы бота клиентам требуют отдельного контроля, потому что человек не успевает их прочитать до отправки. Мы обычно оставляем боту только вопросы с точным ответом в базе, а всё остальное передаём менеджеру.
Как проверять ответы нейросети: пошаговый протокол
Проверка ответа нейросети занимает несколько минут, если идти по одной схеме и начинать с самых рискованных мест. Ниже протокол, который мы советуем закрепить в компании.
- Определите цену ошибки. Внутренняя заметка, письмо клиенту и договор проверяются по-разному.
- Отметьте в тексте всё проверяемое: цифры, даты, названия, нормы, цитаты, ссылки, обещания.
- Откройте каждую ссылку и убедитесь, что страница существует и содержит то, что написано.
- Найдите первоисточник для цифр и норм: закон, справку сервиса, официальный прайс или исследование.
- Проверьте дату источника: закон мог измениться, а тариф обновиться.
- Пересчитайте все расчёты формулой в таблице, не полагаясь на модель.
- Уберите факт, который не подтвердился, или перепишите мысль так, чтобы он не был нужен.
- Для важного документа дайте финальную версию специалисту: юристу, бухгалтеру, технологу.
- Запишите ошибку в общий журнал, если она типовая, и дополните инструкцию.
Проверять всё одинаково тщательно незачем. Уровень контроля стоит привязать к риску.
| Тип материала | Кто проверяет | Что проверяем | Примерное время |
|---|---|---|---|
| Идеи, черновики для себя | Автор | Здравый смысл | 1–2 минуты |
| Пост, статья, описание товара | Автор и редактор | Все цифры, названия, ссылки | 10–20 минут |
| Письмо или ответ клиенту | Менеджер | Цены, сроки, обещания | 2–5 минут |
| Реклама | Маркетолог | Соответствие товару и закону | 10–15 минут |
| Договор, юридическое письмо | Юрист | Каждая норма и формулировка | От 30 минут |
| Финансовый отчёт | Бухгалтер или финансист | Каждое число по исходным данным | От 30 минут |
Время указано по нашей практике, нормативов здесь нет. Закрепите такую таблицу во внутренних правилах: готовая форма есть в статье про политику использования ИИ в компании.
Сколько стоит проверка и окупается ли она
Проверка ответов нейросети обычно обходится дешевле одной исправленной ошибки, и это легко посчитать на условном примере. Допустим, отдел маркетинга выпускает с помощью нейросети 40 материалов в месяц. Пример условный, подставьте свои цифры.
| Показатель | Без нейросети | С нейросетью и проверкой |
|---|---|---|
| Время на один материал | 2 часа | 40 минут на подготовку и 20 минут на проверку |
| Часов в месяц на 40 материалов | 80 часов | 40 часов |
| Стоимость при ставке 600 ₽ в час | 48 000 ₽ | 24 000 ₽ |
| Из них на проверку | Не считается отдельно | 8 000 ₽ |
| Экономия | 24 000 ₽ в месяц |
Проверка занимает треть оставшегося времени и стоит 8 000 ₽. Если отказаться от неё, вы сэкономите эти деньги и получите риск. Одна неверная цена в рекламе может привести к спору с клиентом, а статья с выдуманным законом подорвёт доверие к сайту. Точную цену таких ошибок заранее не посчитаешь, но и 8 000 ₽ в месяц за контроль на этом фоне немного.
Там, где экономии после проверки не остаётся, нейросеть для этой задачи не нужна. Похожие просчёты мы разобрали в статье про ошибки внедрения ИИ в бизнес.
Мифы о галлюцинациях нейросетей
Самый вредный миф о галлюцинациях обещает, что новая модель их полностью убрала. Каждое поколение становится лучше, но исследователи OpenAI пишут, что проблема сохраняется даже у самых сильных систем.
| Что советуют или говорят | Как на самом деле |
|---|---|
| «Есть ссылка, значит, ответ проверен» | У 31% ответов в исследовании EBU и BBC были серьёзные проблемы с источниками. Ссылку надо открыть |
| «Спросите у нейросети, уверена ли она» | Модель выдаст новый текст, а уверенный тон ничего не доказывает. Проверка идёт по внешнему источнику |
| «Подключите базу знаний, и ошибки исчезнут» | Стэнфордское исследование показало ошибки в 17–33% запросов даже у сервисов с поиском по базе |
| «Напишите в промпте "не выдумывай"» | Это помогает, если дать модели выход: разрешить отказ и дать источники. Одна фраза не исправит пробелы в знаниях |
| «Попросите вторую нейросеть проверить первую» | Вторая модель ловит часть ошибок, но может подтвердить чужую выдумку. Она помогает найти подозрительные места, решение принимает человек |
| «Раз ответ подробный, значит, модель знает тему» | Подробность ничего не доказывает. Выдуманные детали выглядят так же убедительно |
| «Сильная модель ошибается редко» | В тесте SimpleQA модели с близкой точностью ошибались в 26% и 75% ответов. Многое зависит от того, умеет ли модель отказаться от ответа |
Какие задачи можно доверять нейросети без глубокой проверки
Без глубокой проверки нейросети можно доверять задачи, где ошибка заметна сразу и ничего не стоит: идеи, варианты заголовков, правка стиля, черновики, структура документа. Факты в таких задачах либо ваши, либо не нужны.
| Задача | Уровень доверия | Почему |
|---|---|---|
| Варианты заголовков и формулировок | Высокий | Человек выбирает лучший и видит качество сразу |
| Сокращение и правка вашего текста | Высокий, но с быстрым просмотром | Факты уже есть, важно не потерять смысл |
| Резюме встречи | Средний | Модель может пропустить или исказить договорённость |
| Сравнение ваших документов | Средний | Нужны цитаты и выборочная сверка |
| Обзор рынка и конкурентов | Низкий | Много цифр и фактов, которые требуют источника |
| Юридические, налоговые, медицинские ответы | Низкий | Цена ошибки высокая, нужен специалист |
Правило простое: чем больше новых фактов появляется в ответе, тем внимательнее его надо читать. Когда факты приходят от вас, нейросеть работает как быстрый редактор, а когда от неё самой, ей требуется проверяющий.
Если вы выбираете модель для постоянной задачи, рейтингам лучше не верить на слово. Свой маленький тест занимает пару часов и показывает, как модель ведёт себя именно на ваших данных.
- Соберите 30–50 вопросов из вашей работы с заранее известными ответами. Цифра наша, рабочая.
- Добавьте 10 вопросов, на которые ответа в ваших материалах нет.
- Задайте всё двум-трём моделям с одинаковой инструкцией.
- Разложите ответы на три группы: верно, неверно, честный отказ.
- Выбирайте модель с наименьшей долей неверных ответов, даже если у неё чуть больше отказов.
- Повторяйте тест после смены версии модели или инструкции.
По нашей практике, ошибки реже всего вызывают проблемы в командах, которые заранее договорились, кто и что проверяет. Сама по себе модель такого порядка не обеспечит. Если нейросети уже работают с вашими клиентами или документами, можем посмотреть, где выше всего риск ошибки и как настроить проверку.
Частые вопросы
Что такое галлюцинации нейросети простыми словами?
Это ситуация, когда нейросеть уверенно выдаёт ложную информацию: придумывает факт, цитату, цифру или ссылку. Модель не обманывает намеренно, она подбирает вероятное продолжение текста. По форме такой ответ не отличается от правильного.
Почему нейросеть врёт?
У модели нет намерения обмануть. Она обучена продолжать текст и плохо запоминает редкие факты, а по данным исследователей OpenAI тесты поощряют догадки больше, чем отказ от ответа. Поэтому, не зная ответа, модель часто угадывает.
Можно ли полностью избавиться от галлюцинаций нейросети?
Нет. Их можно заметно снизить с помощью документов, запрета на догадки и поиска по базе, но даже специализированные сервисы ошибаются. Поэтому для важных материалов нужна проверка человеком.
Какая нейросеть меньше всего галлюцинирует?
Единого ответа нет: результат зависит от задачи, версии модели и теста, а рейтинги быстро устаревают. Надёжнее сравнить две-три модели на своих 30–50 вопросах с заранее известными ответами. Кроме доли правильных ответов смотрите на долю уверенных ошибок.
Как проверить, что нейросеть не выдумала ссылку?
Откройте ссылку и найдите на странице фразу, которую она подтверждает. Если страницы нет или там написано другое, факт считается неподтверждённым. Название книги или отчёта поищите точной фразой в поисковике.
Как заставить нейросеть не придумывать?
Заставить нельзя, но риск можно снизить. Дайте документ, разрешите ответ «не нашёл», потребуйте цитату для каждого вывода и запретите новые цифры и названия. Для постоянных задач подключите базу знаний и проверку.
Галлюцинирует ли нейросеть с доступом к интернету?
Да. Поиск помогает с актуальными фактами, но модель может найти слабый источник или неверно передать его содержание. В исследовании EBU и BBC почти у трети ответов были серьёзные проблемы с источниками, поэтому ссылки стоит открывать самому.
Кто отвечает за ошибку нейросети в документах компании?
Отвечает тот, кто выпустил документ. В деле Mata v. Avianca штраф получили адвокаты, а в истории с Deloitte деньги возвращала компания. Ссылка на нейросеть от ответственности не избавляет, поэтому важные материалы должен подписывать человек после проверки.
10+ лет делаю сайты и запускаю рекламу, вместе с командой запустили больше 500 проектов. Пишу о том, что проверили на практике.
Задать вопрос в Telegram →
