Một nhóm nghiên cứu tại Viện Công nghệ Massachusetts (MIT) đã công bố kết quả thí nghiệm cho thấy phương pháp “counterfactual data augmentation” (CDA) có thể giảm bias trong các mô hình ngôn ngữ lớn (LLM) lên tới 90 %.
Phương pháp này tạo ra các dữ liệu phản chứng dựa trên các ví dụ hiện có, sau đó huấn luyện lại mô hình để nhận diện và loại bỏ các mẫu thiên kiến. Thử nghiệm trên các mô hình như GPT‑3 và LLaMA cho thấy mức độ giảm bias trong các tác vụ như phân loại giới tính, chủng tộc và độ tuổi đạt mức thấp nhất từng ghi nhận.
Các nhà nghiên cứu MIT khẳng định rằng việc giảm bias không chỉ cải thiện độ công bằng mà còn nâng cao hiệu suất tổng thể của mô hình, vì mô hình ít bị “overfit” vào các mẫu dữ liệu thiên lệch. Họ đã công bố mã nguồn và bộ dữ liệu thử nghiệm trên GitHub để cộng đồng AI có thể tái tạo và mở rộng nghiên cứu.
Bài báo đã được xuất bản trên tạp chí *Nature Machine Intelligence* và nhận được sự quan tâm rộng rãi từ các công ty công nghệ đang tìm cách đáp ứng các tiêu chuẩn đạo đức trong AI.