Ответная слепота

Ответная слепота — оборотная сторона удобства ответов в выдаче и ИИ-ассистентов. Чем быстрее и увереннее подан ответ, тем реже человек его перепроверяет. Для бизнеса это значит, что ошибка в ответе о компании почти никем не будет замечена.

На чём основано

• В эксперименте с блоками ответов неверный блок снизил долю правильных решений с 62,5% до 32,3%, а уверенность участников при этом росла.
• В сравнении поиска с ИИ и обычного поиска при ошибке модели верных решений было 47% против 93%, и участники не заметили разницы в надёжности.

Где проявляется сильнее

• в сравнительных вопросах «что лучше, A или B»;
• в темах, где у человека мало знаний;
• в голосовых ответах, где нет списка альтернатив.

Что делать компании

Раз пользователь не проверит ответ, проверять должна компания: регулярно смотреть, что ИИ-ассистенты и быстрые ответы говорят о характеристиках, условиях, адресах и графике работы, и исправлять источники ошибок.

Подробно, с примером и чек-листом, — в статье Ответная слепота: какие ошибки нейросетей о компании опасны и как их ловить.