Самый частый сценарий «глюков» выглядит так: ИИ выдал что-то явно неверное, вы написали «это неправильно, давай сначала» — и он ответил «конечно, прошу прощения» и… воспроизвел то же самое чуть другими словами.
Это не упрямство. Это механика.
ИИ не хранит «правильные факты» отдельно от «неправильных». Он предсказывает следующий токен на основе всего, что было в диалоге. И если выдуманный факт уже есть в контексте — он статистически давит на все последующие ответы, даже после вашей правки.
Представьте, что вы пишете статью и случайно вставили неверную цифру в первый абзац. Теперь каждый следующий абзац, который ссылается на нее, тоже неверен. Можно исправить один абзац — но остальные продолжат тянуть старую цифру, если не переписать их явно.
Именно поэтому стратегия восстановления диалога зависит не от того, «насколько сильно ошибся ИИ», а от того, что именно попало в контекст и как глубоко.
Какие бывают галлюцинации — и почему это меняет стратегию
Не все галлюцинации одинаково опасны для диалога. Есть принципиальная разница между тем, что именно ИИ выдумал.
Точечная галлюцинация — один конкретный факт в потоке верной информации. Неверная дата, несуществующая книга, выдуманная цитата. Остальное вокруг нее — корректно.
Структурная галлюцинация — ИИ выстроил логику или аргументацию на несуществующем основании. Например, объяснил механизм работы закона, которого нет. Вся последующая цепочка рассуждений держится на выдуманном фундаменте.
Контекстная галлюцинация — ИИ «запомнил» что-то из вашего диалога неверно. Вы говорили одно, он зафиксировал другое — и теперь отвечает исходя из этого ложного понимания.
Накопленная галлюцинация — несколько ошибок в разных местах диалога, которые переплелись. Самый сложный случай: непонятно, где именно все пошло не так.
Почему это важно? Потому что для точечной галлюцинации достаточно точечной правки. А структурная требует полного обнуления той ветки рассуждений. Контекстная — явного переформулирования задачи. Накопленная — иногда нового диалога.
Определить тип — первый шаг. Дальше — конкретные способы.
Три способа вернуть диалог в нормальное русло
Способ 1. Точечная хирургия — для изолированных ошибок
Когда подходит: галлюцинация точечная, все остальное в диалоге верно, контекст не «заражен»
Суть: вы не перезапускаете диалог и не объявляете войну всему ответу. Вы хирургически вырезаете именно тот элемент, который неверен, и явно заменяете его правильным.
Как делать:
- Назовите конкретный элемент ошибки — не «ты ошибся», а «вот этот конкретный факт неверен»
- Дайте верный факт явно и коротко
- Попросите продолжить с этим исправлением
«Закон, который ты упомянул (статья 214.1), не существует. Реальная норма — статья 159 УК РФ. Продолжи анализ с этой поправкой, остальное верно»
Результат: ИИ получает точную замену одного элемента и продолжает работу без потери контекста.
Как понять, что сработало: в следующем ответе ИИ использует правильную норму и не возвращается к выдуманной. Если вернулся — переходите к способу 2.
Важно! Если галлюцинациии пока не укоренились и вы знаете, с какого примерно места они пошли, можно отредактировать ваш запрос, после которого они начались.
Современные модели уже умеют перестраивать диалог по-новому после редактуры сообщения. Редактирование доступно во многих моделях (значок карандаша, всплывающее сообщение «Изменить» при наведении на ваш запрос в диалоге и т.п).
Способ 2. Обнуление ветки — для структурных галлюцинаций
Когда подходит: ИИ выстроил целую логическую цепочку на неверном основании. Точечная правка не поможет — нужно убрать всю ветку рассуждений.
Здесь ключевая ошибка — пытаться «починить» выдуманную структуру изнутри. Это как ремонтировать дом, стоящий на плывуне: сколько ни укрепляй стены, фундамент продолжает тянуть вниз.
Как делать:
- Явно скажите, что вся эта ветка рассуждений неверна — не отдельный факт, а весь подход
- Объясните, почему (одно предложение)
- Дайте верную отправную точку и попросите построить рассуждение заново
«Весь этот анализ основан на предположении, что (X). Это неверно: (Y). Построй рассуждение заново, исходя из (Y)»
Важный нюанс: не спрашивайте «а как правильно?» после того, как указали на ошибку. Это открытый вопрос — и ИИ может снова сгенерировать что-то на основе «загрязненного» контекста. Давайте правильную отправную точку сами, если она у вас есть. Если нет — начинайте новый диалог.
Результат: ИИ строит новую цепочку с чистого листа в рамках того же диалога.
Как понять, что сработало: новая цепочка не содержит ссылок на старые выдуманные элементы. Если содержит — диалог «заражен» глубже, и нужен способ 3.
Способ 3. Перезапуск с инъекцией контекста — для накопленных и контекстных галлюцинаций
Когда подходит: диалог длинный, ошибки накопились в разных местах, или ИИ где-то неверно зафиксировал вашу задачу и теперь отвечает на другой вопрос.
Это не «начать с нуля и потерять все». Это — начать новый диалог, но с собранным вами кратким и точным контекстом.
Как делать:
- Выпишите из старого диалога только то, что верно и нужно для продолжения работы
- Сформулируйте это как компактное вводное сообщение в новом диалоге
- Явно укажите, с какой точки продолжаете и что уже установлено
«Работаем над (задача). Вот что уже установлено: (3-5 пунктов верного контекста). Вот где остановились: (точка). Продолжи отсюда»
Результат: новый диалог начинается с чистым контекстом, но вы не теряете наработанное.
Как понять, что сработало: ИИ отвечает в логике вашего введения, не «вспоминает» ничего из старого диалога, не возвращается к старым ошибкам.
Больше по способам переноса контекста старого диалога в новый — здесь.
Ловушка «ложного исправления» — и как ее не пропустить
Это, пожалуй, самый коварный момент всей темы.
ИИ умеет очень убедительно соглашаться с вашей правкой — и при этом ничего не менять по существу. Он скажет «вы правы, спасибо за уточнение» и в следующем предложении воспроизведет ту же логику другими словами.
Возникает логичный вопрос: как это вообще возможно?
Потому что «согласиться» для ИИ — это тоже предсказание следующего токена. Когда вы говорите «ты ошибся», статистически вероятный ответ — «прошу прощения, вы правы». Это не понимание ошибки. Это предсказуемая реплика.
Три признака ложного исправления:
- ИИ согласился, но в следующем абзаце использует тот же выдуманный факт или ту же логику
- ИИ «исправил» формулировку, но не изменил вывод, который из нее следует
- ИИ начал уточнять и переформулировать — но не дал ничего конкретно верного взамен
Как проверить: после «исправления» задайте прямой контрольный вопрос. Не «ты понял?» — а конкретный: «Какой нормой мы теперь руководствуемся?» или «Назови отправную точку, с которой продолжаем» Ответ покажет, действительно ли контекст обновился.
Когда ни один из способов не помогает
Иногда диалог настолько «загрязнен», что любая попытка исправить его изнутри только усугубляет ситуацию. ИИ начинает петлять, противоречить сам себе, или уверенно воспроизводить новые галлюцинации поверх старых.
Это не сломанный инструмент. Это перегруженный контекст.
Признаки того, что нужно просто уйти и начать заново:
- Диалог длиннее 20-30 обменов репликами и ошибки появились в первой половине
- ИИ уже три раза «согласился» и три раза вернулся к тому же
- Вы сами уже не уверены, что именно из диалога верно, а что нет
В этом случае лучший ход — способ 3, но с одним важным добавлением: перед тем как переносить контекст в новый диалог, верифицируйте его сами. Не тащите в новый диалог то, в чем не уверены — иначе галлюцинация переедет вместе с вами.
Коротко о главном
- Галлюцинация не исчезает от того, что вы на нее указали — она остается в контексте и продолжает влиять на ответы, пока вы явно не вытеснили ее правильной информацией
- Тип галлюцинации определяет инструмент: точечная — хирургическая правка, структурная — обнуление ветки, накопленная — перезапуск с инъекцией контекста
- «Прошу прощения, вы правы» — не исправление: всегда проверяйте конкретным контрольным вопросом, а не реакцией ИИ на вашу правку
- Чистый перезапуск с собранным контекстом сильнее, чем бесконечная правка внутри загрязненного диалога — это не поражение, это рабочий прием
- Верифицируйте контекст до переноса: галлюцинация, которую вы сами приняли за правду и перенесли в новый диалог, продолжит жить там с удвоенной уверенностью
