Галлюцинация

Также: галлюцинации ИИ, галлюцинация нейросети

Коротко

Уверенно поданный, но неверный или выдуманный ответ нейросети — например, несуществующий адрес, услуга или отзыв о компании.

Галлюцинации возникают, когда модели не хватает надёжных данных и она «достраивает» ответ по шаблону. О малоизвестных компаниях нейросети ошибаются чаще.

Как снизить риск ошибок о бренде

Публиковать точные факты о компании в нескольких авторитетных источниках.
Держать одинаковыми название, адрес, телефон и список услуг.
Регулярно проверять ответы ассистентов и фиксировать ошибки.

Упоминается в статьях

✨AIO AIO

Ответная слепота: какие ошибки нейросетей о компании опасны и как их ловить

Пользователи доверяют ответу ИИ и не перепроверяют его, даже когда он неверен. Разбираем типы ошибок о компаниях, их последствия и ежемесячный мониторинг.

⏱ 6 минЧитать →

🎯GEO GEO · AEO

Как измерять GEO: метрики видимости в нейросетях, промпт-мониторинг и отчёт

Какие метрики показывают результат GEO, как собрать набор промптов, как часто проверять ответы нейросетей, как учесть случайность ответов и как сделать понятный отчёт.

⏱ 7 минЧитать →

Упоминается в исследованиях

Препринт 2023

Поиск с ИИ вдвое ускоряет выбор товара, но люди не замечают его ошибок

Spatharioti и др. · arXiv:2307.03744 (версия 2); доработанная версия — CHI 2025 под названием «Effects of LLM-based Search on Decision Making: Speed, Accuracy, and Overreliance»

3,4 → 1,6 минСреднее время на задачу в обычном поиске и в поиске на основе языковой модели.

🎯 Ответы в поиске (AEO)Читать →

Рецензируемое исследование 2023

Когда не доверять модели: о малоизвестных сущностях ИИ знает хуже

Mallen и др. · Proceedings of the 61st Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), 9802–9822

14 тыс. вопросовРазмер датасета PopQA с сущностями разной популярности.

🧠 Языковые модели (LLMO)Читать →

Исследовательский отчёт 2025

ИИ-поисковики ошибаются с источником новостей более чем в 60% случаев

Jaźwińska, Chandrasekar · Columbia Journalism Review, Tow Center for Digital Journalism

более 60%Доля запросов, на которые восемь ИИ-поисковиков вместе дали неверный ответ.

🧭 Генеративный поиск (GEO)Читать →

Рецензируемое исследование 2023

Насколько можно доверять ссылкам в ответах нейросетей: исследование Стэнфорда

Liu и др. · Findings of EMNLP 2023

51,5%Доля утверждений в ответах, полностью подтверждённых указанными источниками (полнота цитирования).

✨ ИИ и поискЧитать →