Cộng đồng phát triển AI lại một lần nữa chứng kiến sự bùng nổ của một dự án mã nguồn mở khi 'OpenDiffusion' vừa được Hugging Face chính thức công bố và ngay lập tức lọt vào top 10 trending trên GitHub. Dự án này tập trung vào việc tối ưu hóa các mô hình khuếch tán (diffusion models) như Stable Diffusion để chúng có thể chạy hiệu quả trên các thiết bị chỉ có bộ xử lý CPU (Central Processing Unit), không cần đến card đồ họa GPU đắt tiền.
Cơ chế hoạt động của OpenDiffusion dựa trên kỹ thuật lượng tử hóa (quantization) và cắt tỉa mạng (pruning) được thực hiện trong thời gian thực. Thay vì tính toán toàn bộ các lớp mạng nơ-ron với độ chính xác cao (FP32), OpenDiffusion chuyển đổi các tham số sang độ chính xác thấp (INT8 hoặc INT4), giảm dung lượng bộ nhớ và tăng tốc độ tính toán lên đến 10 lần so với phiên bản gốc.
Theo mô tả trong file README, dự án này đặc biệt hữu ích cho các nhà phát triển làm việc trên laptop mỏng nhẹ hoặc các hệ thống nhúng (embedded systems). Một số người dùng đã chia sẻ rằng họ có thể tạo ra các bức ảnh 512x512 pixel chỉ trong vòng 30 giây trên một chiếc MacBook Air M1, điều mà trước đây là bất khả thi nếu không có GPU rời.
Mặc dù chất lượng ảnh có thể giảm nhẹ so với khi chạy trên GPU cao cấp, nhưng với mục đích sử dụng trong các ứng dụng thời gian thực như tạo avatar động hay hiệu ứng video, OpenDiffusion được đánh giá là một giải pháp thay thế hoàn hảo. Dự án hiện đang ở phiên bản 1.0 và đã được tích hợp sẵn vào thư viện Transformers của Hugging Face.