Безопасно размещаем отзывы и Работаем с репутацией!
Дообучение
Также: fine-tuning, файнтюнинг, тонкая настройка
Коротко
Дополнительное обучение готовой языковой модели на специальных данных, чтобы она лучше решала конкретные задачи или говорила в нужном стиле.
Для актуальных фактов о компании дообучение обычно не нужно — чаще используют RAG: модель ищет свежие данные при каждом ответе.
Упоминается в исследованиях
Рецензируемое исследование
2024
Проклятие обращения: модель знает «A — это B», но не «B — это A»
Berglund и др. · International Conference on Learning Representations (ICLR 2024)
79% против 33%Доля правильных ответов GPT-4 на прямой вопрос («кто мать знаменитости») и обратный («кто сын этой женщины»).
Рецензируемое исследование
2024
Чтобы модель извлекала факт, он должен встречаться в разных формулировках
Allen-Zhu, Li · Proceedings of the 41st International Conference on Machine Learning (ICML 2024), PMLR 235, 1067–1077
0%Без разнообразия формулировок знание может быть запомнено, но не извлекаться: точность ответов на вопросы нулевая независимо от последующего…