Как передать ИИ свои документы: RAG
Чат-модель великолепно владеет языком, но слепа к вашему миру. Она никогда не читала справочник вашей компании, ваши конспекты, вчерашние новости или PDF, лежащий у вас на рабочем столе. Генерация с дополнением поиском (Retrieval-Augmented Generation, RAG) — это приём, который позволяет модели отвечать на вопросы, используя ваши собственные документы, и даже указывать точную страницу, откуда взят ответ.
Главная идея в одном предложении
Вместо того чтобы надеяться, что модель уже запомнила нужные факты, RAG находит самые подходящие фрагменты ваших документов в момент вопроса и вставляет их в промпт, чтобы модель отвечала, имея перед собой реальную, проверяемую информацию.
Что вы сможете делать после этого урока
- Объяснять, почему языковая модель не знает ни ваших приватных файлов, ни того, что произошло после её даты отсечения знаний.
- Описывать простыми словами, что такое эмбеддинг — текст, превращённый в точку в пространстве, где близкие по смыслу тексты располагаются рядом.
- Понимать векторный поиск: нахождение фрагментов документа, ближайших к вопросу.
- Проходить шаг за шагом полный конвейер RAG — от исходных документов до обоснованного ответа со ссылками на источники.
- Оценивать, почему важны разбиение на чанки и качество поиска, и распознавать, когда RAG выдаёт уверенный, но неверный ответ.
- Называть реальные продукты на основе RAG, которыми вы, скорее всего, уже пользовались.