Дообучение или RAG: что выбрать для работы модели со своими данными

Дообучение или RAG: вопрос звучит как выбор из двух вариантов, но на деле это разные инструменты для разных задач. Дообучение (fine-tuning) меняет само поведение модели: стиль, формат ответа, узкую специализацию. RAG («генерация, дополненная поиском») и длинный контекст не меняют модель, а подкладывают ей нужные факты в запрос. Ниже сравниваем три подхода и даём простое правило выбора.

Сразу об области применимости. Zukko — шлюз для запросов к готовым моделям, и ниже мы считаем стоимость запросов. Запуск и цену дообучения у конкретных поставщиков мы не описываем и не знаем: условия там свои и меняются, смотрите их на сайте поставщика.

Чем три подхода отличаются по сути

Дообучение берёт уже обученную модель и доучивает её на ваших примерах «вопрос → правильный ответ». После этого модель по-другому реагирует на запросы. Факты при этом запоминаются ненадёжно и без указания источника: дообучение лучше подходит для манеры, чем для знаний.

RAG хранит ваши документы отдельно, на каждый вопрос находит подходящие фрагменты и добавляет их в запрос. Модель не меняется, меняется входной текст.

Длинный контекст кладёт в запрос документы целиком. Это самый простой вариант, он ограничен размером окна (у большинства моделей из каталога Zukko 1M токенов, у Grok 256K, у GLM 5.3 128K) и ценой за каждый запрос.

Дообучение или RAG: таблица сравнения

Когда уместно дообучение

Дообучение стоит рассматривать, если выполняются все условия:

1. Задача повторяется тысячи раз в одном формате (например, разметка обращений по вашим категориям).
2. Есть сотни или тысячи проверенных примеров «вход → правильный выход».
3. Вам нужен определённый стиль, строгий формат или короткий промпт, а не новые знания.
4. Вы готовы оценивать качество на отложенной выборке и повторять обучение при изменении правил.

До дообучения попробуйте дешёвые заменители: чёткую инструкцию и несколько примеров прямо в промпте. Приёмы описаны в статье few-shot примеры в промпте↗. Нередко этого хватает, а переучивать ничего не нужно.

Когда уместен RAG для ИИ-ассистента

RAG для ИИ нужен, когда ответы зависят от фактов, которые часто меняются или не помещаются в окно: база знаний поддержки, внутренние регламенты, каталог товаров. Он даёт то, чего дообучение не даёт: свежие данные без переобучения и указание источника. Если в базе поменялась цена или правило, достаточно обновить индекс.

Что нужно учитывать: придётся построить поиск и проверять его отдельно, и ответ будет не лучше найденных фрагментов. Минимальный пример кода есть в статье RAG своими руками↗.

Когда достаточно длинного контекста

Если документов немного, а вопросов тоже немного, самый дешёвый по трудозатратам путь — положить всё в запрос. Особенно если нужно работать с документом целиком: сравнить две версии договора, найти противоречия, сделать сводку. Поиск по фрагментам такие задачи рвёт, а длинный контекст нет.

Сколько это стоит в запросах

Возьмём пример: справочник на 30 тысяч токенов и 5000 запросов в месяц. Выходные токены в сравнение не включаем: в обоих вариантах они одинаковые. Для RAG берём 3000 токенов входа на запрос. Цены на 18 октября 2026, $ за 1M токенов (вход), формула: токены × цена.

С кэшем картина для длинного контекста сильно меняется, если префикс одинаков и запросы идут достаточно часто. Идеальный случай (кэш срабатывает на все запросы, кроме первого):

• gpt-6.1-sol: 0.03 × 0.27 + 4999 × 0.03 × 0.013 = 0.0081 + 1.95 = около $1.96.
• claude-sonnet-5-5 в Anthropic-формате (запись 0.5, чтение 0.05): 0.03 × 0.5 + 4999 × 0.03 × 0.05 = 0.015 + 7.50 = около $7.51.

То есть при небольшой базе и частых запросах кэшированный длинный контекст может оказаться сопоставим с RAG по цене и при этом не требует индекса. Но расчёт идеальный: если между запросами бывают длинные паузы, кэш успевает истечь, и следующий запрос снова оплачивается по цене входа, а у Claude ещё и с записью в кэш. Как учитывается кэш, описано в документации по лимитам и кэшу↗, а общая логика — в статье кэширование промптов↗.

У дообучения в этой таблице строки нет сознательно: цена зависит от поставщика и размера обучающей выборки, а цену запроса вы уже знаете из таблицы цен каталога. Актуальные цены — GET https://api.zukko.pro/v1/models или страница «Модели» в кабинете.

Правило выбора за пять минут

Задайте себе вопросы по порядку:

1. Дело в фактах или в манере? Если модель не знает ваших данных, нужен контекст или RAG. Если знает, но отвечает не в том формате или стиле, попробуйте промпт с примерами, затем дообучение.
2. Помещаются ли данные в окно, и сколько вопросов? Мало данных и мало вопросов: длинный контекст. Много данных или много вопросов: RAG.
3. Меняются ли данные? Если да, дообучение для фактов отпадает: переучивать придётся постоянно.
4. Нужны ли ссылки на источник? Тогда RAG или контекст.
5. Сколько стоит ошибка? Для юридических и медицинских ответов нужен источник и проверка человеком независимо от подхода.

Подходы комбинируют: дообучение отвечает за формат, RAG за факты. Но начинайте с самого простого, длинного контекста, и усложняйте только когда он перестаёт работать.

Любой из подходов проверяйте на ваших вопросах: индекс силы модели и цена не заменяют тест.

Частые вопросы

Дообучение научит модель моим документам?

Частично и ненадёжно. Модель может запомнить часть фактов, но ошибаться в деталях и не показывать источник. Для знаний лучше RAG или контекст.

Что дешевле?

Зависит от объёма. Для малой базы и редких запросов дешевле всего длинный контекст, потому что нет затрат на индекс и обучение. Для большой базы и частых запросов дешевле RAG. Считайте по формуле выше на своих числах.

Можно ли сочетать дообучение и RAG?

Да. Дообучение задаёт формат и тон, RAG приносит актуальные факты. Но это самый трудоёмкий вариант, и начинать с него не стоит.

Как проверить, что выбранный подход работает?

Соберите 20–50 реальных вопросов с известными ответами и прогоняйте их после каждого изменения. Попробовать дешёвую модель можно по ключу из кабинета↗.