Trong bối cảnh các doanh nghiệp đang cố gắng ứng dụng AI vào dữ liệu nội bộ, RAG-Engine nổi lên như một giải pháp mã nguồn mở toàn diện. Dự án này thực hiện kỹ thuật Retrieval-Augmented Generation (RAG) nhưng được tối ưu hóa đặc biệt cho các định dạng văn phòng phổ biến như PDF, DOCX, XLSX và thậm chí là các chuỗi email.
Điểm nổi bật của RAG-Engine là khả năng xử lý cấu trúc phức tạp trong tài liệu. Ví dụ, khi phân tích một bảng tính Excel, công cụ không chỉ trích xuất văn bản thô mà còn hiểu được mối quan hệ giữa các ô, các công thức và các vùng dữ liệu. Điều này cho phép các câu hỏi phức tạp như 'Tổng doanh thu quý 3 của khu vực miền Nam là bao nhiêu và so với quý 2 thay đổi thế nào?' được trả lời chính xác dựa trên dữ liệu gốc.
RAG-Engine sử dụng các mô hình embedding mã nguồn mở như BGE-M3 để chuyển đổi văn bản thành vector, kết hợp với các công cụ tìm kiếm vector như Milvus hoặc Qdrant. Dự án hiện đã được sử dụng trong hơn 500 doanh nghiệp vừa và nhỏ tại châu Á và châu Âu, với hiệu suất được đánh giá cao nhờ vào khả năng triển khai dễ dàng trên Kubernetes và Docker.