OpenWhisper là một dự án mã nguồn mở đang được cộng đồng phát triển phần mềm ưa chuộng, đặc biệt là những người làm việc với dữ liệu văn bản từ giọng nói nhưng không có ngân sách cho các máy chủ GPU mạnh. Dự án này lấy cảm hứng từ Whisper của OpenAI nhưng được tái kiến trúc hoàn toàn để tối ưu hóa cho việc chạy trên CPU thông thường.
Các kỹ sư đằng sau OpenWhisper đã sử dụng các kỹ thuật như lượng tử hóa (quantization) và cắt giảm tham số (pruning) để giảm kích thước mô hình xuống còn 1/10 so với bản gốc, trong khi vẫn giữ được độ chính xác trên 95% trong các bài kiểm tra chuẩn. Điều này có nghĩa là một laptop văn phòng thông thường cũng có thể xử lý các tệp âm thanh dài hàng giờ trong thời gian gần như thời gian thực.
Dự án hỗ trợ hơn 50 ngôn ngữ, bao gồm cả tiếng Việt, với khả năng tạo phụ đề (subtitling) tự động. OpenWhisper cung cấp một API đơn giản và một giao diện web trực quan, cho phép người dùng kéo thả tệp âm thanh và nhận kết quả dưới dạng văn bản, JSON hoặc SRT.
Lý do OpenWhisper đang được chú ý là vì nó phá vỡ rào cản chi phí trong việc triển khai các ứng dụng AI dựa trên giọng nói. Các startup nhỏ và các tổ chức phi lợi nhuận có thể dễ dàng tích hợp công nghệ này vào sản phẩm của họ mà không cần đầu tư hàng nghìn đô la vào hạ tầng phần cứng. Dự án này đang nhận được sự đóng góp từ nhiều cộng đồng phát triển trên toàn cầu.