SSkilvy

Донастроить готовую модель под себя

Fine-tuning (дообучение) — это взять уже обученную модель и дообучить её на ваших примерах, чтобы настроить поведение под вашу задачу. Модель уже «умеет язык» из базового обучения; вы донастраиваете её на своих данных, чтобы она отвечала в нужном стиле, формате или на специфическую задачу. Это одна из техник кастомизации, но, как мы увидим, не всегда лучшая.

Идея дообучения

  • Берём готовую модель: она уже обучена на огромных данных, умеет язык и рассуждение.
  • Дообучаем на своих примерах: набор «вход → желаемый выход» из вашей задачи.
  • Модель настраивается: начинает вести себя ближе к вашим примерам.

Что fine-tuning делает хорошо

Что реально даёт fine-tuning, а что нет?
Важно понять, для чего fine-tuning силён, а для чего нет — это убережёт от частой ошибки. ХОРОШО дообучение подходит для настройки ПОВЕДЕНИЯ: 1) Стиль и тон: чтобы модель отвечала в вашем фирменном стиле, определённым голосом, формой. 2) Формат: если нужен стабильно специфический формат вывода, сложный для описания промптом. 3) Специфическая задача/паттерн: научить модель конкретному типу задач на многих примерах (например, особый вид классификации, преобразования). 4) Краткость промпта: то, что пришлось бы каждый раз объяснять длинной инструкцией, можно «вшить» в модель дообучением. ПЛОХО fine-tuning подходит для добавления ЗНАНИЙ/ФАКТОВ: 1) «Запомнить наши документы» — распространённое заблуждение. Дообучение плохо запоминает факты, модель всё равно может выдумывать, а обновлять знания дорого (переобучать при каждом изменении). Для фактов по вашим данным нужен RAG, а не fine-tuning (мы разбирали это в курсе про RAG). 2) Свежие/меняющиеся данные — дообучение статично, переобучать под изменения дорого. Ключевое различие: fine-tuning меняет КАК модель отвечает (поведение, стиль, формат), а не ЧТО она знает (факты). Для знаний — RAG или контекст; для поведения — fine-tuning. Частая дорогая ошибка новичков: пытаться дообучить модель, чтобы она «знала наши данные». Обычно это неверный инструмент — дорого, сложно, и всё равно выдумывает. Правильно: RAG для знаний, fine-tuning для стиля/поведения/формата, и то — когда промптинг не справляется. Об этом весь следующий модуль.

Fine-tuning меняет «как», а не «что»

Ключевое понимание всего курса: fine-tuning настраивает как модель отвечает (стиль, тон, формат, тип задачи), а не что она знает (факты). Для добавления знаний по вашим данным нужен RAG или контекст, а не дообучение. Путаница здесь — источник дорогих ошибок: люди пытаются «дообучить, чтобы знала наши документы», а это не работает. Держите это различие в голове весь курс.

Правило курса: fine-tuning — дообучение готовой модели на ваших примерах для настройки поведения (стиль, формат, задача). Он меняет «как» модель отвечает, а не «что» знает — для знаний нужен RAG.
Готовая модельДообучение на ваших примерахМодель под вашу задачу Fine-tuning Настройка поведения
Fine-tuning — дообучение готовой модели на ваших примерах для настройки её поведения.

🧠 Что fine-tuning настраивает?