Một bài báo khoa học gây chấn động giới học thuật vừa được đăng tải trên arXiv bởi nhóm Human-centered Artificial Intelligence (HAI) thuộc Đại học Stanford. Nghiên cứu đề xuất khung làm việc 'Self-Correction Loop' (Vòng lặp Tự Hiệu chỉnh), nơi mô hình không chỉ tạo ra câu trả lời mà còn đóng vai trò là 'người phê bình' (critic) cho chính mình dựa trên các tiêu chí logic chặt chẽ.
Kết quả thí nghiệm cho thấy khi áp dụng kỹ thuật này lên các mô hình open-source chuẩn mực, tỷ lệ ảo giác (hallucination rate) trong các tác vụ hỏi đáp tri thức giảm từ mức trung bình 15% xuống còn dưới 1.5%. Phương pháp này không đòi hỏi thêm dữ liệu huấn luyện mới mà tận dụng cấu trúc attention head có sẵn trong transformer để tách biệt chức năng sáng tạo và chức năng kiểm chứng.
Điều đáng chú ý là kỹ thuật này hoạt động hiệu quả nhất khi kết hợp với Retrieval-Augmented Generation (RAG). Mô hình RAG truyền thống thường chấp nhận mọi thông tin retrieved là đúng, nhưng với Self-Correction Loop, nó sẽ cross-check thông tin retrieved với kiến thức nội tại và logic bên ngoài trước khi tổng hợp.
Cộng đồng developer đang khẩn trương tích hợp module này vào các framework như LangChain và LlamaIndex, hứa hẹn tạo ra thế hệ ứng dụng AI đáng tin cậy hơn cho lĩnh vực y tế và pháp luật vốn đòi hỏi độ chính xác tuyệt đối.