🔬 Рецензируемое исследование 🧠 Языковые модели (LLMO)

Проклятие обращения: модель знает «A — это B», но не «B — это A»

Исследование ICLR 2024: модели, выучившие факт в одном направлении, не выводят обратный. GPT-4 называл мать знаменитости в 79% случаев, а сына по имени матери — в 33%.

Паспорт исследования

Оригинал: The Reversal Curse: LLMs trained on “A is B” fail to learn “B is A”
Авторы: Lukas Berglund, Meg Tong, Maximilian Kaufmann, Mikita Balesni, Asa Cooper Stickland, Tomasz Korbak, Owain Evans
Где и когда: International Conference on Learning Representations (ICLR 2024), 2024
Тип: Рецензируемое исследование
Метод: Дообучение GPT-3 и Llama-1 на вымышленных утверждениях вида «A — это B» с проверкой обратных вопросов; тест GPT-3.5 и GPT-4 на парах вопросов о знаменитостях и их родителях.
Выборка: Синтетические наборы вымышленных фактов и пары «знаменитость — родитель» из реальных данных.
Источник: doi:10.48550/arXiv.2309.12288 ↗
Сверено: 1 ноября 2026

⚡ Главное за 30 секунд

Если модель обучена на фразе «A — это B», она не начинает автоматически отвечать на вопрос «кто такой B?».
Вероятность правильного обратного ответа после дообучения не превышала вероятность случайного имени.
GPT-4 отвечал на прямой вопрос о родителе знаменитости в 79% случаев, а на обратный — в 33%.
Если факт есть в самом запросе, обратный вывод модель делает без труда.

Ключевые выводы

79% против 33%

Доля правильных ответов GPT-4 на прямой вопрос («кто мать знаменитости») и обратный («кто сын этой женщины»).

В оригинале: Abstract

Как случайное имя

После дообучения вероятность правильного ответа на обратный вопрос не превышала вероятность случайного имени.

В оригинале: Abstract

Не лечится аугментацией

Эффект устойчив к размеру и семейству модели и не исчезает при дополнении данных.

В оригинале: Abstract

В контексте — работает

Если утверждение есть в запросе, модель выводит обратную связь.

В оригинале: Abstract

Проклятие обращения — эффект, который описали Лукас Берглунд, Оуэйн Эванс и соавторы в работе для ICLR 2024. Если языковая модель при обучении видела утверждение вида «A — это B», она отвечает на вопрос об A, но не умеет сама ответить на вопрос о B. Знание оказывается записанным в одну сторону.

Что изучали

Авторы дообучали модели GPT-3 и Llama-1 на вымышленных фактах вроде «Ури Хоторн — композитор альбома „Бездонные мелодии“» и затем спрашивали в обратном порядке: «Кто написал „Бездонные мелодии“?». Чтобы проверить, проявляется ли эффект в реальных знаниях, они задали GPT-3.5 и GPT-4 пары вопросов о знаменитостях и их родителях: «Кто мать такого-то актёра?» и «Чей сын у такой-то женщины?».

Что получилось

Условие	Результат
Дообучение на «A — это B», вопрос «кто B?»	не лучше случайного имени
Разные размеры и семейства моделей	эффект сохраняется
Дополнение данных (аугментация)	не помогает
GPT-4: прямой вопрос о родителе	79% правильных
GPT-4: обратный вопрос	33% правильных
Факт дан прямо в запросе	обратный вывод работает

Эффект касается знаний, которые модель усвоила при обучении. Если нужный факт есть в запросе или в найденных поиском документах, модель делает обратный вывод без труда.

Что это значит для бизнеса в России

Для LLMO вывод практичный: модель может «знать» факт о компании только в той формулировке, в которой он встречался в текстах. Если везде пишут «бренд X принадлежит компании Y», вопрос «какие бренды у компании Y?» модель может провалить. Поэтому ключевые связи — основатель и компания, бренд и производитель, продукт и категория, компания и место работы — полезно формулировать в обе стороны: на сайте, в справочниках, в описаниях карточек и публикациях. Ограничение переноса: эксперименты на английском языке и моделях 2023 года; современные ассистенты с поиском частично компенсируют эффект. Каждая такая связь — семантическая тройка «сущность — отношение — сущность», и модели полезно встречать её в обоих направлениях.

✅

Формулируйте связи в обе стороны«Компания Y производит бренд X» и «Бренд X выпускает компания Y» — две разные записи для модели. Обе полезны в текстах о компании.

Что такое LLMO, разобрано в статье LLMO: что это. Как писать тексты, которые цитируют нейросети, — в отдельном материале. О том, что для извлечения знаний важны разные формулировки, говорит и исследование Аллен-Чжу и Ли.

Статья опубликована в трудах ICLR 2024; препринт — на arXiv.

Ограничения исследования

Основные эксперименты — на вымышленных фактах при дообучении, а не на предобучении.
Тест на знаменитостях охватывает один тип связи — родитель и ребёнок.
Новые модели могут частично обходить эффект за счёт поиска и рассуждений.
Только английский язык.

Как сослаться

Оригинал, ГОСТ

Lukas Berglund, Meg Tong, Maximilian Kaufmann, Mikita Balesni, Asa Cooper Stickland, Tomasz Korbak, Owain Evans. The Reversal Curse: LLMs trained on “A is B” fail to learn “B is A” // International Conference on Learning Representations (ICLR 2024). — 2024. — URL: https://doi.org/10.48550/arXiv.2309.12288 (дата обращения: 01.11.2026).

Оригинал, APA

Lukas Berglund, Meg Tong, Maximilian Kaufmann, Mikita Balesni, Asa Cooper Stickland, Tomasz Korbak, Owain Evans (2024). The Reversal Curse: LLMs trained on “A is B” fail to learn “B is A”. International Conference on Learning Representations (ICLR 2024). https://doi.org/10.48550/arXiv.2309.12288

Этот пересказ

Проклятие обращения: модель знает «A — это B», но не «B — это A» // SERM Service. — URL: https://sermservice.ru/research/berglund-proklyatie-obrashcheniya/ (дата обращения: 03.11.2026).

Частые вопросы

Что такое проклятие обращения?

Это неспособность языковой модели, выучившей факт «A — это B», самостоятельно ответить на вопрос «кто такой B?». В тесте Берглунда и соавторов GPT-4 отвечал на прямой вопрос в 79% случаев, а на обратный — в 33%.

Касается ли это ответов с поиском?

В меньшей степени. Если нужный факт есть в запросе или в найденных документах, модель делает обратный вывод. Эффект относится к знаниям, усвоенным при обучении.

Как учесть эффект в текстах о компании?

Формулировать ключевые связи в обе стороны: «компания производит бренд» и «бренд выпускает компания», «основатель создал компанию» и «компанию основал такой-то».

Это пересказ, а не перевод: точные формулировки, таблицы и методику смотрите в оригинале по ссылке в паспорте. Нашли неточность — напишите нам, мы сверим и исправим.