Dự án Ollama vừa chạm cột mốc lịch sử khi đạt 1 triệu sao trên GitHub, vượt qua cả Kubernetes và React về mức độ phổ biến trong cộng đồng phát triển. Ollama được phát triển bởi John Shaffer và đội ngũ nhỏ tại San Francisco, cho phép người dùng tải xuống và chạy các mô hình LLM như Llama, Mistral, Phi và Qwen trực tiếp trên máy tính cá nhân mà không cần kết nối internet hay tài khoản API.
Tính năng nổi bật nhất của Ollama là giao diện dòng lệnh đơn giản ('ollama run llama3.1:8b') và khả năng tự động quản lý bộ nhớ RAM/VRAM, giúp người dùng không chuyên cũng có thể trải nghiệm AI ngay trên laptop. Dự án cũng tích hợp sẵn 'Ollama Web UI', một giao diện chat hiện đại cho phép quản lý nhiều mô hình và lịch sử hội thoại.
Theo GitHub Blog, Ollama có hơn 50.000 contributor và 200.000 fork, với cộng đồng phát triển phụ thuộc (ecosystem) bao gồm hơn 500 plugin và tích hợp bên thứ ba. Đáng chú ý, nhiều công ty lớn như Slack, Notion và Zapier đã tích hợp Ollama làm backend cho các tính năng AI nội bộ, nhằm đảm bảo dữ liệu người dùng không rời khỏi máy chủ nội bộ (on-premise). Dự án được tài trợ bởi quỹ Y Combinator và các nhà đầu tư thiên thần, với định giá ước tính 500 triệu USD trong vòng gọi vốn Series B gần đây.