VectorDB-Lite, một dự án do nhóm kỹ sư người Hàn Quốc phát triển, đã thu hút hơn 15.000 sao chỉ trong 48 giờ đầu tiên xuất hiện trên GitHub. Dự án này giải quyết vấn đề lớn trong việc triển khai các ứng dụng Retrieval-Augmented Generation (RAG) trên thiết bị di động, nơi băng thông và quyền riêng tư là mối lo ngại hàng đầu.
Điểm nổi bật của VectorDB-Lite là thuật toán nén vector mới tên là 'Quantized-HNSW', cho phép lưu trữ hàng triệu vector 1536 chiều trong chỉ 50MB bộ nhớ, giảm 90% so với các giải pháp truyền thống. Dự án hỗ trợ Python và Swift, tích hợp dễ dàng với các khung ứng dụng phổ biến như Flutter và React Native. Các bài benchmark cho thấy tốc độ truy vấn trung bình dưới 10ms trên các chip Apple M3 và Snapdragon 8 Gen 3.
Cộng đồng đang đặc biệt chú ý đến tính năng 'On-Device Embedding', cho phép chạy các mô hình nhúng nhỏ (như MiniLM) trực tiếp trên thiết bị mà không cần kết nối internet. Điều này mở ra cơ hội cho các ứng dụng trợ lý cá nhân hoàn toàn offline, bảo vệ dữ liệu người dùng tuyệt đối. Dự án hiện đang tìm kiếm các công ty đối tác để thương mại hóa và mở rộng bộ SDK sang các nền tảng khác.