RAG или дообучение модели: как выбрать и сколько это стоит

Вопрос ставят как выбор из двух технологий, а решается он одним признаком: что именно вы хотите изменить в поведении модели — то, что она знает, или то, как она отвечает.

Знания — это факты: цены, условия, регламенты, характеристики. Они меняются, требуют проверки и ссылки на источник. Их место — во внешнем хранилище, откуда они подаются модели в момент вопроса. Это RAG.

Манера — это стиль, формат, терминология, устойчивая структура ответа. Её нельзя надёжно задать инструкцией, зато можно передать примерами. Это дообучение.

Терминологическую путаницу вокруг слова «обучение» разбирает отдельная статья для заказчиков — «Обучение чат-бота на своих данных». Здесь — инженерная сторона выбора и его стоимость.

Пять признаков, по которым видно ответ

1. Меняются ли сведения? Если да — RAG. Дообученная модель помнит то, что было на момент обучения, и обновляется только повторным обучением.

2. Нужна ли ссылка на источник? Если да — RAG. В дообученной модели знание растворено в параметрах, показать его происхождение нельзя.

3. Нужно ли разграничение доступа? Если да — RAG, и без вариантов. Дообученная модель знает всё, чему её учили, для всех — «Разграничение доступа в RAG».

4. Есть ли пары «вопрос — эталонный ответ»? Для дообучения нужны сотни или тысячи размеченных примеров. Документов недостаточно: из них нельзя обучить, из них можно искать.

5. Проблема в фактах или в манере? Если модель знает, но формулирует не так — дообучение. Если не знает — никакое дообучение стиля не поможет.

Сравнение

Последняя строка важна и часто понимается неправильно. Дообучение на своих документах не делает модель честной. Она продолжит генерировать правдоподобный текст там, где сведений не хватает, — просто в вашей стилистике, что делает вымысел убедительнее. Механизм — «Почему нейросеть выдумывает».

Расчёт: во что обходится каждый вариант

Числа условные, важна структура и соотношение. Задача: система отвечает на вопросы по внутренним регламентам, 2 000 страниц, поток 3 000 обращений в месяц.

Вариант A: RAG

Вариант B: дообучение

Что показывает расчёт.

Дообучение дешевле на обращение — контекст короче, передавать фрагменты не нужно. Это единственное, в чём оно выигрывает.

И этот выигрыш съедается повторным обучением. Регламенты в примере меняются ежеквартально; каждое изменение требует новой разметки и нового цикла обучения. При месячном цикле изменений вариант B перестаёт быть жизнеспособным вообще.

Плюс к этому дообученная модель не сможет сослаться на пункт регламента и не сможет показывать разным сотрудникам разное — а для внутренней базы знаний это обычно обязательные требования, не подлежащие обсуждению.

Строка, которой нет в таблице. Разметка 1 500 пар — это работа людей, знающих предмет. Не подрядчика. В расчёте она стоит денег, но в реальности упирается в то, что этих людей нужно отвлечь от их работы на несколько недель. Проекты дообучения чаще всего останавливаются именно здесь, а не на технической части.

Когда дообучение оправдано

Не «никогда» — просто реже, чем предполагают.

Устойчивая манера ответа, которую трудно описать словами: тон поддержки, структура заключения, принятая в компании форма.

Профессиональный язык, который модель систематически понимает неверно: узкие термины, отраслевые сокращения, слова с особым значением в вашей области.

Строгий формат вывода, когда требование в инструкции соблюдается не всегда.

Экономия на большом потоке: небольшая дообученная модель решает узкую задачу дешевле крупной с длинной инструкцией. Считается, а не предполагается — «Сколько стоит эксплуатация ИИ».

Общий признак: дообучение годится для того, как отвечать, и почти никогда — для того, что отвечать.

Технически при этом почти всегда используется не полное дообучение, а облегчённые методы, меняющие небольшую часть параметров. Это резко снижает стоимость и требования к оборудованию, но не отменяет главного — необходимости в размеченных данных.

Когда совмещают

Схема, которая на практике встречается чаще, чем чистое дообучение: RAG даёт факты, дообучение даёт манеру.

Модель дообучена отвечать в нужном стиле и правильно понимать терминологию. Факты подаются поиском из актуального корпуса.

Оправдано, когда есть оба требования одновременно: сведения меняются и нужна ссылка на источник, но при этом ответы должны звучать определённым образом.

Разумный порядок: сначала собрать RAG, измерить — «Метрики RAG» — и посмотреть на оставшиеся ошибки. Если это ошибки фактов, дообучение не поможет. Если ошибки формы и стиля, которые не лечатся инструкцией, — тогда есть предмет для разговора.

Начинать с дообучения — почти всегда преждевременная оптимизация: дорого, долго, и обычно выясняется, что задача была не в этом.

Частые вопросы

Что выбрать: RAG или дообучение модели?

RAG — если нужно передать модели факты, которые меняются, требуют ссылки на источник или разграничения доступа. Дообучение — если нужно изменить манеру ответа, формат или понимание специальной терминологии. Признак простой: знания идут через поиск, стиль — через обучение.

Дообучение уберёт выдумывание?

Нет. Модель, дообученная на ваших данных, продолжит генерировать правдоподобный текст там, где сведений не хватает, — только в вашей стилистике, что делает вымысел убедительнее. Выдумывание снижается другим: возможностью отказаться от ответа и обязательной ссылкой на источник.

Сколько данных нужно для дообучения?

Не документы, а пары «вопрос — правильный ответ», обычно сотни или тысячи, единообразно оформленные. Их подготовка — самая дорогая часть проекта, и делают её люди, знающие предмет. Именно на этом чаще всего останавливаются проекты дообучения.

Что дешевле в эксплуатации?

Дообученная модель дешевле на обращение: контекст короче, фрагменты передавать не нужно. Но этот выигрыш съедается повторным обучением при каждом существенном изменении сведений. Если ваши документы меняются ежемесячно, дообучение как способ хранить знания нежизнеспособно.

Можно ли совместить RAG и дообучение?

Можно, и это распространённая схема: дообучение задаёт манеру и терминологию, RAG подаёт актуальные факты. Разумный порядок — сначала собрать RAG, измерить качество и посмотреть, какие ошибки остались. Если это ошибки формы, а не фактов, тогда добавлять дообучение.

Почему нельзя просто дообучить модель на наших регламентах?

Технически можно, практически бесполезно для этой задачи. Обновить сведения потом получится только повторным обучением, сослаться на пункт регламента модель не сможет, и разграничить доступ между сотрудниками тоже не выйдет. Плюс потребуются размеченные пары вопросов и ответов, а не сами регламенты.

Что дальше

Если выбор за RAG — начните с «RAG простыми словами» и «Архитектуры RAG по шагам». Требования к материалам — «Подготовка базы знаний для ИИ». Прикладной взгляд для заказчика — «Обучение чат-бота на своих данных».

Разбор задачи и обоснованный выбор между поиском и дообучением делаю до начала работ — это часть разработки и внедрения ИИ и аудита процессов.