Mối lo ngại về quyền riêng tư khi sử dụng các trợ lý ảo đám mây đã thúc đẩy sự ra đời của 'Local-LLM-Voice', một dự án mã nguồn mở đang thu hút sự quan tâm lớn trên GitHub. Dự án này cho phép người dùng xây dựng một hệ thống trợ lý giọng nói thông minh, hoạt động hoàn toàn trên máy tính cá nhân mà không cần gửi bất kỳ dữ liệu nào lên máy chủ của bên thứ ba.
Local-LLM-Voice kết hợp ba công nghệ cốt lõi: mô hình chuyển giọng nói thành văn bản (STT) Whisper siêu nhẹ, mô hình ngôn ngữ lớn cục bộ (như Llama-3 hoặc Mistral) được tối ưu hóa, và mô hình tổng hợp giọng nói (TTS) chất lượng cao. Nhờ vào kỹ thuật tối ưu hóa bộ nhớ đệm và xử lý song song, hệ thống đạt được độ trễ phản hồi ấn tượng dưới 50 mili giây, tạo cảm giác trò chuyện tự nhiên như người thật.
Điểm đặc biệt của dự án là khả năng tùy biến giọng nói cực kỳ linh hoạt. Người dùng có thể 'nhân bản' giọng nói của chính mình hoặc bất kỳ ai chỉ với một file âm thanh mẫu dài 10 giây. Hiện tại, kho chứa (repository) của Local-LLM-Voice đã đạt mốc 8.000 sao và nhận được sự đóng góp tích cực từ các kỹ sư âm thanh lẫn chuyên gia AI trên toàn thế giới.