'VisionDiffusion-Fast' là một dự án mã nguồn mở mới nổi trên GitHub, tập trung vào việc tối ưu hóa hiệu suất của các mô hình tạo ảnh dựa trên kiến trúc diffusion. Dự án này cung cấp một bộ công cụ hoàn chỉnh bao gồm các kỹ thuật như latent caching, adaptive step scheduling và mixed-precision inference để giảm thiểu thời gian tạo ảnh.
Theo tài liệu README, VisionDiffusion-Fast có thể giảm thời gian tạo ảnh từ Stable Diffusion XL từ khoảng 30 giây xuống còn dưới 6 giây trên một card RTX 4090, mà vẫn giữ nguyên chất lượng đầu ra. Kỹ thuật chính được sử dụng là 'step distillation', nơi mô hình được huấn luyện lại để tạo ra ảnh chất lượng cao với số bước ít hơn đáng kể.
Dự án hiện hỗ trợ nhiều kiến trúc diffusion phổ biến như Stable Diffusion 3, DALL-E 3 (phiên bản mở) và Flux. Các API được thiết kế theo hướng tương thích với Diffusers của Hugging Face, cho phép người dùng dễ dàng tích hợp vào các ứng dụng có sẵn. Dự án đã đạt 8.500 stars trong vòng một tuần kể từ khi phát hành.
Điểm đáng chú ý là dự án được phát triển bởi một nhóm 5 kỹ sư từ một startup nhỏ tại Berlin, và họ đã công bố kế hoạch hỗ trợ thêm các mô hình video diffusion trong quý tới. Cộng đồng đang rất kỳ vọng vào phiên bản 1.1 dự kiến ra mắt vào tháng 11.