Hiện tượng ảo tưởng (hallucination) - khi AI tự tạo ra thông tin sai lệch nhưng trình bày một cách đầy tự tin - vẫn luôn là rào cản lớn nhất ngăn cản việc ứng dụng AI vào các lĩnh vực quan trọng như y tế và luật pháp. Để giải quyết vấn đề này, một nhóm các nhà khoa học máy tính tại Đại học Stanford hôm nay đã công bố một bài báo nghiên cứu mang tính bước ngoặt, giới thiệu kỹ thuật mang tên "Logic-Gate Retrieval-Augmented Generation" (Logic-Gate RAG).
Phương pháp truyền thống RAG chỉ đơn thuần là tìm kiếm tài liệu liên quan và đưa vào ngữ cảnh để AI đọc. Tuy nhiên, nếu tài liệu chứa thông tin mâu thuẫn hoặc AI hiểu sai ngữ cảnh, lỗi vẫn xảy ra. Logic-Gate RAG giải quyết bằng cách thiết lập một hệ thống các "cổng logic kiểm chứng" đa lớp. Trước khi đưa thông tin vào mô hình tạo văn bản, hệ thống sẽ phân rã câu hỏi và tài liệu tìm kiếm được thành các mệnh đề logic cơ bản, sau đó đối chiếu chéo tính nhất quán của chúng thông qua một bộ kiểm chứng toán học nghiêm ngặt.
Trong các thử nghiệm lâm sàng giả lập sử dụng cơ sở dữ liệu y khoa PubMed, hệ thống AI được trang bị Logic-Gate RAG đã giảm tỷ lệ đưa ra chẩn đoán sai lệch hoặc thông tin thuốc không chính xác xuống dưới mức 0.5%, so với mức trung bình 15% của các hệ thống RAG thông thường hiện nay. Đây là một bước tiến vô cùng quan trọng, mở đường cho việc đưa các trợ lý AI vào hỗ trợ trực tiếp cho các bác sĩ tại phòng khám.
Nghiên cứu này không chỉ có ý nghĩa về mặt học thuật mà còn nhanh chóng thu hút sự chú ý của các tập đoàn công nghệ y tế lớn. Nhóm nghiên cứu cho biết họ đang lên kế hoạch mở mã nguồn bộ khung (framework) của Logic-Gate RAG trong vài tuần tới để cộng đồng toàn cầu có thể cùng đóng góp và áp dụng vào nhiều lĩnh vực chuyên môn khác nhau.