Разработка RAG-системы с нуля: от поиска по файлам до графа знаний

Разработчики крупного проекта столкнулись с необходимостью создавать собственную систему для обработки и генерации ответов (RAG). Изначально нейросеть лишь осуществляла поиск по "сырым" MD-файлам, но со временем стало очевидно, что для эффективной работы требуется более сложный подход. Причиной стало понимание, что существующие фреймворки не обеспечивают необходимую гибкость и глубину обработки данных.

В результате система постепенно трансформировалась в многослойный пайплайн, включающий граф знаний для семантического понимания информации и гибридный ретрив, сочетающий различные методы извлечения данных. Также была реализована адаптивная схема рассуждений, позволяющая системе более точно и контекстно отвечать на запросы пользователей. Этот путь показывает, что зачастую для достижения высокой производительности и специфических задач приходится отходить от стандартных решений.