Một nhóm nghiên cứu từ Viện Công nghệ Massachusetts (MIT) vừa công bố một nghiên cứu quan trọng về an toàn AI, trong đó họ phát hiện ra một hiện tượng mới được gọi là 'repeated misinformation bias'. Nghiên cứu cho thấy nếu một thông tin sai lệch được đưa vào bộ nhớ ngữ cảnh của một mô hình ngôn ngữ lớn (LLM) nhiều lần, mô hình đó có khả năng cao sẽ bắt đầu tin rằng đó là sự thật và thậm chí sẽ 'bảo vệ' thông tin sai lệch đó khi bị chất vấn.
Trong các thí nghiệm, các nhà nghiên cứu đã cung cấp cho GPT-4 và các mô hình mã nguồn mở khác một văn bản chứa một sự kiện giả được lặp lại 5 lần. Kết quả cho thấy 73% số mô hình đã chấp nhận sự kiện giả đó là sự thật và sử dụng nó làm cơ sở để suy luận các thông tin tiếp theo. Hiện tượng này đặc biệt nguy hiểm trong các ứng dụng y tế và pháp lý, nơi sự chính xác là yếu tố sống còn.
Nhóm nghiên cứu đề xuất một phương pháp mới gọi là 'fact-checking layer', một lớp xử lý trung gian sẽ tự động kiểm tra các sự kiện quan trọng bằng cách truy vấn các cơ sở dữ liệu sự kiện đã được xác minh trước khi mô hình trả lời. Phương pháp này đã được kiểm chứng là giảm tỷ lệ hallucination xuống dưới 5% trong các bài kiểm tra chuẩn. Nghiên cứu này đã được trình bày tại hội nghị NeurIPS 2026 và đang được các công ty AI lớn quan tâm để tích hợp vào các hệ thống của họ.