Fine-tuning звучит мощно, и есть соблазн начать с него. Но это дорого, сложно, требует данных и обновляется тяжело. Почти всегда стоит сначала попробовать более простые подходы — часто они решают задачу без дообучения. Порядок: промптинг → примеры в промпте (few-shot) → RAG (для знаний) → и только если не хватило, fine-tuning. Понимание этого порядка экономит массу времени и денег.
Fine-tuning — крайняя мера; сначала пробуйте промптинг, примеры и RAG.
Лестница подходов (от простого к сложному)
Хороший промпт: чёткая инструкция, системный промпт с ролью и правилами. Часто этого достаточно.
Примеры в промпте (few-shot): дать модели несколько примеров «вход → выход» прямо в промпте. Мощно настраивает поведение без обучения.
RAG: если нужны знания по вашим данным — RAG, а не дообучение.
Fine-tuning: только если промптинг и примеры не дают нужного поведения стабильно, и это оправдано.
Почему стоит начинать с промптинга, а не сразу дообучать?
Практические причины начинать с простого: 1) Промптинг часто решает задачу. Современные модели очень гибки — хороший системный промпт + несколько примеров (few-shot) в промпте настраивают поведение, стиль, формат зачастую так же хорошо, как дообучение, но БЕЗ его затрат. Попробуйте это ПЕРЕД дообучением — часто оказывается, что fine-tuning не нужен. 2) Fine-tuning дорог и сложен: нужно подготовить качественный набор данных (сотни-тысячи примеров), провести обучение, оценить, задеплоить. Это время, деньги, экспертиза. Промпт можно изменить за секунду, дообучение — переучивать. 3) Гибкость: промпт легко менять и итерировать. Дообученную модель менять сложно и дорого (переобучать). Если задача может измениться — промптинг гибче. 4) Обновление: если поведение/требования меняются, промпт правится мгновенно, а дообученную модель надо переучивать. 5) Few-shot особенно мощен: примеры прямо в промпте («вот как надо: [пример1] [пример2]») дают модели образец поведения без обучения. Это недооценённый инструмент — часто заменяет fine-tuning. Когда fine-tuning всё же оправдан (после того как простое не хватило): — Промптинг и few-shot не дают нужное поведение стабильно. — Нужно очень специфическое поведение/формат, которое трудно/дорого объяснять длинным промптом каждый раз. — Большой объём: если вы делаете миллионы вызовов, дообучение может сократить длину промптов (нужного поведения) и снизить стоимость на масштабе. — Есть качественный набор обучающих данных. Практическое правило: идите по лестнице снизу вверх. Начните с промпта. Не хватило — добавьте примеры (few-shot). Нужны знания — RAG. И только если всё это не даёт стабильно нужного ПОВЕДЕНИЯ и есть данные — рассматривайте fine-tuning. Частая ошибка — прыгнуть сразу к дообучению («это же мощно»), потратить недели и деньги, хотя задача решалась хорошим промптом. Fine-tuning — специализированный инструмент для случаев, когда проще не хватает, а не первый выбор.
Few-shot — недооценённая альтернатива
Особо выделим few-shot: дать модели несколько примеров «вход → выход» прямо в промпте. Это мощно настраивает поведение без всякого обучения — модель следует образцу из примеров. Часто few-shot заменяет то, ради чего люди хотят дообучать. Прежде чем думать о fine-tuning, попробуйте дать хорошие примеры в промпте: нередко этого достаточно, и это в разы дешевле и гибче.
Когда дообучение оправдано
Fine-tuning становится разумным, когда: промптинг и few-shot не дают нужное поведение стабильно; нужно очень специфическое поведение/формат, дорогое для объяснения промптом каждый раз; большой объём вызовов, где дообучение сократит промпты и стоимость на масштабе; и у вас есть качественные данные для обучения. Это специализированный инструмент для случаев, где проще не хватило, — а не первый выбор. Идите по лестнице снизу вверх.
Правило: идите от простого — промпт → few-shot примеры → RAG (для знаний) → fine-tuning (только если проще не хватило и оправдано). Few-shot часто заменяет дообучение; не прыгайте к нему сразу.