Một bài báo vừa được xuất bản trên NeurIPS 2026 mô tả kỹ thuật mới gọi là 'Confidence-Gated Decoding' (CGD), được phát triển bởi nhóm nghiên cứu tại Đại học Stanford. Kỹ thuật này giúp giảm tỷ lệ hallucination trong các mô hình ngôn ngữ lớn lên đến 60% mà không làm giảm chất lượng câu trả lời.
CGD hoạt động bằng cách theo dõi mức độ tin cậy (confidence score) của mô hình tại mỗi token được sinh ra. Khi mức tin cậy giảm xuống dưới một ngưỡng nhất định, hệ thống sẽ kích hoạt một 'verification agent' nhỏ để kiểm tra lại thông tin trước khi tiếp tục sinh token. Phương pháp này khác với các kỹ thuật trước đây vì nó không yêu cầu truy cập dữ liệu bên ngoài và có thể tích hợp trực tiếp vào quá trình suy luận.
Thử nghiệm trên các benchmark như TruthfulQA, SimpleQA và HaluEval cho thấy CGD giảm hallucination từ 22% xuống còn 8,8% trên GPT-4, và từ 31% xuống còn 12,5% trên Llama 3.1 70B. Đáng chú ý, thời gian suy luận chỉ tăng thêm 15%, một mức tăng chấp nhận được đối với nhiều ứng dụng.
Các tác giả nhấn mạnh rằng CGD không phải là giải pháp hoàn toàn cho vấn đề hallucination, nhưng là một bước tiến quan trọng trong hướng 'reliable AI'. Họ kêu gọi cộng đồng nghiên cứu tiếp tục phát triển các kỹ thuật tương tự, kết hợp với các phương pháp khác như RAG và self-consistency, để xây dựng các hệ thống AI đáng tin cậy hơn.