Зачем разбирать эту тему
Рабочий RAG начинается с качественного retrieval, а не с длинного prompt. Документы очищаем, сохраняем структуру и metadata: источник, раздел, дата и права доступа.
Как устроена задача на практике
Chunking должен уважать смысловые блоки. Для точных терминов lexical search часто лучше vectors, поэтому hybrid retrieval обычно устойчивее чистого semantic search.
Что важно в production
Первичный поиск даёт кандидатов, reranker выбирает лучшие фрагменты, а ответ связывается с конкретными источниками. Права фильтруются до передачи контекста модели.
Типичные ошибки
Главная ошибка — выбирать технологию или паттерн раньше, чем сформулирован пользовательский сценарий и ограничения. Второй частый промах — проверять решение только на идеальном happy path и не продумывать восстановление после сбоя, повторный запрос и права доступа.
Практический вывод
Качество измеряем набором реальных вопросов: нашли ли нужный источник, правильно ли модель процитировала его и умеет ли честно отказаться, когда данных нет.
- фиксируйте допущения до реализации;
- проверяйте решение на реальных данных и устройствах;
- сохраняйте наблюдаемость и возможность безопасного отката;
- усложняйте архитектуру только когда это подтверждает задача.