VisionTransformer-PyTorch là một dự án mã nguồn mở mới được đăng tải trên GitHub, do nhóm nghiên cứu AI tại Google Research và cộng đồng đóng góp phát triển. Thư viện này cung cấp một triển khai tối ưu của Vision Transformer (ViT) cho cả GPU mạnh và thiết bị Edge như Jetson Nano.
Nhờ việc áp dụng kỹ thuật Sparse Attention và Quantization-aware Training, VisionTransformer-PyTorch giảm thời gian inference trung bình 40% và tiêu thụ bộ nhớ 30% so với các phiên bản ViT truyền thống. Thư viện còn hỗ trợ các mô hình tiền huấn luyện trên ImageNet-22K và cung cấp công cụ fine-tuning nhanh chóng cho các tác vụ nhận dạng hình ảnh chuyên biệt.
Dự án đã thu hút hơn 9.500 sao và 2.800 fork trong vòng một tuần, đồng thời nhận được hơn 150 pull request cải tiến về tốc độ, tính năng augmentation và hỗ trợ các định dạng dữ liệu mới. Các nhà phát triển có thể tích hợp trực tiếp vào các pipeline PyTorch Lightning hoặc TensorFlow via ONNX.
Nhóm phát triển cam kết cập nhật thường xuyên, bao gồm việc bổ sung các mô hình transformer mới như Swin Transformer và DeiT, cũng như mở rộng tài liệu hướng dẫn cho các nhà nghiên cứu và kỹ sư AI muốn triển khai trên thiết bị nhúng.