Hugging Face, nền tảng mã nguồn mở hàng đầu cho AI, vừa ra mắt SmolLM, một bộ sưu tập các mô hình ngôn ngữ lớn (LLM) cực kỳ nhỏ gọn, với kích thước từ 50 triệu đến 900 triệu tham số. Mục tiêu của SmolLM là đưa khả năng AI vào các thiết bị thông minh thông thường như bóng đèn thông minh, loa thông minh, cảm biến công nghiệp và phương tiện tự lái.
Trước đây, việc chạy một mô hình AI có khả năng hiểu và phản hồi ngôn ngữ tự nhiên đòi hỏi phần cứng mạnh và kết nối đám mây. SmolLM thay đổi điều này bằng cách tối ưu hóa kiến trúc để chạy trực tiếp trên chip xử lý có tài nguyên hạn chế. Một thử nghiệm cho thấy SmolLM-90M (90 triệu tham số) có thể xử lý các lệnh đơn giản như 'điều chỉnh nhiệt độ' hoặc 'báo cáo trạng thái pin' trong thời gian thực trên một Raspberry Pi 4 mà không cần truy cập internet.
Cộng đồng phát triển IoT trên GitHub đã nhanh chóng đón nhận dự án, với hơn 5.000 fork trong tuần đầu tiên. Nhiều startup phần cứng Việt Nam cũng đang xem xét tích hợp SmolLM vào các sản phẩm nhà thông minh của mình, nhằm giảm chi phí vận hành và tăng cường quyền riêng tư dữ liệu cho người dùng. Hugging Face cam kết sẽ tiếp tục phát triển các phiên bản nhỏ hơn trong tương lai, hướng tới việc đưa AI vào mọi thiết bị điện tử trong nhà.