Как нейросеть ищет ответы в моих документах (RAG)?

Этапы по шагам

1. Индексация: документы и заметки делятся на куски по нескольку абзацев.
2. Для каждого куска строится эмбеддинг — вектор, отражающий смысл.
3. Вопрос тоже превращается в вектор, и ищутся ближайшие куски; часто вместе с обычным поиском по словам.
4. Лучшие фрагменты вставляются в запрос к модели с инструкцией отвечать по ним.
5. Модель пишет ответ и указывает, какие фрагменты использовала.

Почему RAG точнее обычного чата

Модель отвечает не «по памяти», а по конкретному тексту, поэтому меньше выдумывает и может показать источник. Знания обновляются сразу: добавили заметку — она участвует в поиске после индексации, переобучать модель не нужно.

Где RAG ошибается

• Нужный фрагмент не нашёлся — тогда модель скажет «нет данных» или ответит хуже.
• Ответ требует собрать информацию из десятков заметок — в контекст попадает только часть.
• Вопросы вида «сколько раз за год…» требуют подсчёта, а не поиска.
• Плохо разбитые документы: мысль рассечена между кусками.

Пример

Вы спрашиваете у своих заметок: «Что я обещал Ане по поводу презентации?» Система превращает вопрос в вектор и находит три фрагмента: заметку со встречи двухнедельной давности, сообщение из Telegram и строку в ежедневной заметке. Модель читает только их и отвечает: «Обещали прислать черновик до четверга», — и показывает ссылки на эти заметки.

Как это устроено в Fast Notes

Раздел «Спросить» в Fast Notes работает по этой схеме: ищет по смыслу и по словам в ваших заметках, стенограммах встреч и досье, отвечает по найденному и показывает источники.