Hôm nay, Hugging Face đã đăng tải bản phát hành chính thức của Llama 4.1, một mô hình ngôn ngữ lớn mã nguồn mở được phát triển bởi đội ngũ Meta AI. Điểm đột phá của Llama 4.1 nằm ở kiến trúc hybrid MoE (Mixture-of-Experts), trong đó chỉ có 12% tổng số tham số được kích hoạt tại mỗi bước suy luận, giúp giảm thiểu yêu cầu về bộ nhớ và tăng tốc độ xử lý.
Mô hình có tổng cộng 2.4 nghìn tỷ tham số, nhưng chỉ cần 296 tỷ tham số hoạt động để tạo ra đầu ra. Điều này cho phép Llama 4.1 chạy hiệu quả trên các cụm GPU nhỏ hơn so với các mô hình dense có kích thước tương đương. Benchmark cho thấy Llama 4.1 đạt hiệu suất ngang ngửa với các mô hình đóng cùng quy mô, đặc biệt trong các tác vụ đa ngôn ngữ và lập trình.
Llama 4.1 được phát hành theo giấy phép Llama Community License, cho phép sử dụng thương mại miễn phí nếu doanh nghiệp có dưới 700 triệu doanh thu hàng năm. Đối với các công ty lớn, phí cấp phép sẽ được tính dựa trên doanh thu. Hugging Face cũng cung cấp các phiên bản quantized 4-bit và 8-bit để người dùng cá nhân có thể chạy mô hình trên phần cứng tiêu dùng.
Cộng đồng GitHub đã nhanh chóng phản ứng với hàng nghìn sao (stars) chỉ trong vài giờ đầu tiên, cùng với nhiều repo fine-tuning và adapter được đăng tải liên tục trên Hugging Face Hub.