Как подготовить базу знаний, чтобы по ней отвечала нейросеть (RAG)?

Нейросеть отвечает по базе знаний так же хорошо, как устроены сами документы. Уберите дубли и устаревшие версии, разбейте длинные файлы на страницы по одной теме, дайте каждой понятный заголовок и дату актуальности. Проверяйте ответы на наборе из 20–30 реальных вопросов и требуйте, чтобы ассистент показывал источник: так ошибки видно сразу.

Обновлено

Подробно

Почему качество документов важнее модели

Подход RAG устроен так: система находит в базе фрагменты, похожие по смыслу на вопрос, и передаёт их модели, чтобы та ответила по ним. Если в базе три версии регламента отпусков, модель может взять устаревшую. Если ответ размазан по пятидесятистраничному документу, нужный кусок может не попасть в найденные фрагменты. Поэтому подготовка документов даёт больше, чем смена модели.

Подготовка

Что сделать с документами

Подробно

Как проверить, что всё работает

Соберите список реальных вопросов из чатов и поддержки, запишите правильные ответы и прогоните их через ассистента. Смотрите не только на ответ, но и на источник: если ответ правильный, а ссылка ведёт не туда, это случайность. Повторяйте проверку после крупных изменений базы.

Вопросы

Частые вопросы по теме

Нужно ли дообучать модель на своих документах?

Для ответов по базе знаний обычно нет: RAG подставляет нужные фрагменты в момент вопроса, и обновлять ничего не надо, кроме самих документов.

Почему ассистент иногда выдумывает?

Когда подходящих фрагментов не нашлось, модель может достроить ответ сама. Помогает требование отвечать только по источникам и показывать их.

Какой формат документов лучше?

Текст с заголовками: Markdown, обычные страницы, текстовые PDF. Таблицы и сканы работают хуже.

Можно ли так сделать для личных заметок?

Да, многие приложения для заметок уже умеют отвечать по вашим записям со ссылками на них.

Fast Notes

Как это устроено в Fast Notes

В Fast Notes так устроен раздел «Спросить»: вы задаёте вопрос простыми словами, а ответ собирается по вашим заметкам и встречам со ссылками на источники. Для сводных вопросов есть режим «Эксперт», а подключить заметки к Claude и другим агентам можно через MCP.

Источники

Источники