Một trong những rào cản lớn nhất ngăn cản việc ứng dụng rộng rãi các mô hình ngôn ngữ lớn (LLM) vào các lĩnh vực nhạy cảm như y tế và pháp lý là hiện tượng "ảo giác" - khi AI tự tin đưa ra các thông tin sai sự thật. Để giải quyết triệt để vấn đề này, nhóm nghiên cứu tại Viện Nhân học Nhân tạo Stanford (HAI) đã phát triển một kiến trúc lai mới mang tên "Neuro-Symbolic AI" (AI Thần kinh - Ký hiệu), mở ra một hướng đi đầy triển vọng cho khoa học máy tính.
Phương pháp mới này kết hợp khả năng học sâu (Deep Learning) mạnh mẽ của mạng thần kinh với tính chính xác, chặt chẽ của hệ thống logic dựa trên luật lệ (Symbolic AI). Khi nhận được một câu hỏi phức tạp, phần mạng thần kinh sẽ chịu trách nhiệm hiểu ngữ cảnh và tạo ra các giả thuyết ban đầu. Sau đó, phần logic ký hiệu - hoạt động như một kiểm toán viên nghiêm ngặt - sẽ đối chiếu các giả thuyết này với một cơ sở tri thức đã được xác thực, loại bỏ ngay lập tức những lập luận phi logic hoặc không có căn cứ thực tế.
Trong các thử nghiệm lâm sàng, mô hình Neuro-Symbolic của Stanford được giao nhiệm vụ phân tích bệnh án và đề xuất phác đồ điều trị. Kết quả cho thấy tỷ lệ đưa ra thông tin sai lệch hoặc không chính xác của mô hình đã giảm xuống mức dưới 0.1%, một con số kỷ lục chưa từng có ở các mô hình LLM thuần túy hiện nay. Hơn thế nữa, mô hình này còn có khả năng giải thích chi tiết từng bước lập luận của mình, giúp các bác sĩ dễ dàng kiểm chứng và tin tưởng vào quyết định của AI.
Nghiên cứu này không chỉ là một thành tựu về mặt học thuật mà còn có ý nghĩa thực tiễn vô cùng to lớn. Nó dọn đường cho việc triển khai AI vào các hệ thống tự động hóa quan trọng, nơi mà một sai sót nhỏ cũng có thể dẫn đến hậu quả nghiêm trọng. Nhóm nghiên cứu Stanford đã công bố toàn bộ tài liệu kỹ thuật và mã nguồn thử nghiệm của dự án, kêu gọi sự hợp tác từ các tổ chức nghiên cứu khác để sớm đưa công nghệ này vào ứng dụng thực tế trên diện rộng.