Ответная слепота: какие ошибки нейросетей о компании опасны и как их ловить

Ошибки нейросетей о компании — неверный адрес, несуществующая услуга, чужие отзывы — были бы мелочью, если бы пользователи их проверяли. Но человек, который получил уверенный ответ, обычно идёт дальше и не открывает источники. Эту склонность мы в SERM Service называем ответной слепотой: пользователь не видит ошибку, потому что не ищет её. Термин — рабочее понятие агентства, но сам эффект хорошо описан в исследованиях.

Что показывают эксперименты

В эксперименте Бинка, Циммермана и Эльсвайлера участники отвечали на вопросы о здоровье до и после просмотра выдачи. Верный блок ответа над выдачей поднимал долю правильных решений: 60,4% → 75,0% [Bink и др., 2022]. Неверный — обрушивал её: 62,5% → 32,3% [Bink и др., 2022].

С поиском на основе языковых моделей картина похожая. В рандомизированном эксперименте Спатариоти и соавторов, когда модель ошибалась, верно решали задачу 93% против 47% [Spatharioti и др., 2023] участников в обычном и в ИИ-поиске. Поиск с ИИ был быстрее и удобнее, но ошибки модели участники замечали намного хуже.

Сами ИИ-поисковики ошибаются часто. Проверка Tow Center на запросах о новостных статьях показала, что восемь систем вместе дали неверный ответ на более 60% [Jaźwińska, Chandrasekar, 2025] запросов. Галлюцинация — уверенно поданный вымысел — встречается и в ссылках: системы выдумывали адреса страниц.

Типы ошибок и их цена

Пример: ошибка в графике

Условный салон оптики перешёл на работу до 19:00 вместо 21:00. Сайт и карточку на картах обновили, но ассистент с поиском продолжал называть старое время, ссылаясь на страницу отраслевого каталога. Вечером несколько клиентов пришли к закрытой двери, двое оставили отзывы с низкой оценкой.

Что сделали:

• через ссылки в ответе нашли каталог со старыми данными и запросили правку;
• проверили ещё 12 справочников и обновили данные в четырёх;
• ответили на оба отзыва, объяснили смену графика и извинились;
• добавили вопрос о часах работы в ежемесячный мониторинг.

Через две недели ассистент начал называть верное время.

Ежемесячный мониторинг

Промпт-мониторинг — регулярная проверка ответов ИИ-ассистентов на фиксированный набор вопросов о компании. Он не требует сложных инструментов, но требует дисциплины.

1. Набор вопросов. 20–30 вопросов: факты (часы, адрес, услуги, условия), репутация (отзывы, конфликты), выбор («что лучше для …»).
2. Ассистенты. Минимум три, включая российские.
3. Фиксация. Дата, текст ответа, ссылки на источники, отметка «верно / ошибка / нет данных».
4. Сравнение с прошлым месяцем. Новые ошибки — приоритет.
5. Разбор источников. Для каждой ошибки — страница, откуда она пришла.
6. Исправление. Своё обновляем сами, чужое — через запрос к площадке или автору.

Когда нужно ИИ-опровержение

Если ошибка касается репутации — приписанный скандал, вымышленный конфликт, — одного исправления карточки мало. ИИ-опровержение — публикация, которая прямо и с доказательствами опровергает неверное утверждение, чтобы ассистенты находили её вместе с ошибкой. Оно уместно, когда ошибка повторяется в нескольких ассистентах и опирается на заметный источник.

Чего не делать:

• не публиковать опровержение на всякий случай — оно само может закрепить ассоциацию;
• не использовать скрытый текст и инструкции для ИИ — это нарушение правил поисковиков;
• не удалять настоящие отзывы и не давить на авторов.

Почему пользователи не проверяют

Ответная слепота — рабочее понятие SERM Service, а не отраслевой стандарт, но за ним стоят хорошо описанные причины.

• Экономия усилий. Человек открыл ассистента, чтобы не открывать сайты. Проверка уничтожает смысл быстрого ответа.
• Уверенный тон. Ответ звучит одинаково уверенно и когда он верен, и когда нет.
• Формат ответа. Блок над выдачей или голосовой ответ воспринимаются как «итог», а не как один из вариантов.
• Совпадение с ожиданием. Если ответ правдоподобен, сомнений не возникает.

Для компании отсюда следует простое правило: нельзя рассчитывать, что клиент сам заметит ошибку. Её нужно найти и исправить раньше.

Как расставить приоритеты

Ошибок обычно больше, чем ресурсов на исправление. Приоритет определяют два вопроса: насколько часто ошибка встречается и насколько она дорогая.

Высокая цена — всё, что приводит клиента к закрытой двери, к конкуренту или к конфликту: часы, адрес, телефон, перечень услуг. Низкая — неточности в истории компании или второстепенных описаниях.

Как ответить клиенту, который пострадал от ошибки

Если клиент пришёл по неверному ответу ассистента и оставил отзыв, отвечайте по существу:

• признайте неудобство, не перекладывая вину на клиента;
• коротко объясните, что данные в сторонних сервисах были устаревшими, и назовите верные;
• сообщите, что компания уже обновляет информацию;
• предложите удобный способ связи.

Такой ответ видят и другие клиенты, и ассистенты, которые читают отзывы: он становится ещё одним источником верных данных.

Галлюцинации и устаревшие данные — разные проблемы

Не каждая ошибка в ответе — галлюцинация. Галлюцинация — это вымысел модели, у которого нет источника: несуществующая услуга, придуманный адрес, ссылка на страницу, которой нет. Устаревшие данные — другое: у ошибки есть реальный источник, просто он давно не обновлялся.

Различать их важно, потому что лечатся они по-разному. Устаревшие данные исправляются через источник, на который ссылается ответ. Галлюцинацию так не исправить: источника нет. Здесь помогает усиление верных данных — чем больше согласованных материалов о компании находит поиск, тем меньше у модели поводов додумывать. Если галлюцинация повторяется и касается репутации, используйте форму обратной связи ассистента и рассмотрите публикацию с опровержением.

Чек-лист мониторинга

• Набор из 20–30 вопросов о фактах, репутации и выборе
• Три ассистента, включая российские
• Ответы сохранены с датой и ссылками на источники
• Новые ошибки отмечены отдельно
• Для каждой ошибки найден источник
• Запросы на правку отправлены площадкам
• Повторная проверка через месяц

Пошаговая схема проверки описана в инструкции Как проверить, что нейросети говорят о компании. Как ответы ИИ складываются в репутацию, — в статье ИИ-репутация: что это, а роль отзывов в них — в материале Отзывы и нейросети. Для торговых компаний частый источник ошибок — карточки и отзывы на маркетплейсах, например на Яндекс Маркете.

Первоисточники: Featured Snippets and their Influence on Users' Credibility Judgements, Comparing Traditional and LLM-based Search for Consumer Choice и отчёт Tow Center AI Search Has a Citation Problem.