DeepMind công bố kiến trúc "Synaptic-AI": Mạng thần kinh tự tiến hóa không bao giờ quên kiến trúc cũ

Một trong những rào cản lớn nhất của trí tuệ nhân tạo hiện đại là "sự quên lãng thảm họa" (catastrophic forgetting) - hiện tượng một mô hình AI khi được huấn luyện để làm một nhiệm vụ mới sẽ nhanh chóng quên đi những kiến thức của các nhiệm vụ đã học trước đó. Để giải quyết triệt để vấn đề này, Google DeepMind hôm nay đã công bố nghiên cứu về "Synaptic-AI", một kiến trúc mạng thần kinh tự tiến hóa lấy cảm hứng từ cơ chế thích ứng của các khớp thần kinh trong não bộ con người. Theo bài báo nghiên cứu, Synaptic-AI sử dụng một cơ chế định tuyến động (dynamic routing) kết hợp với các "vùng nhớ bảo tồn". Khi mô hình tiếp nhận một tác vụ huấn luyện mới, nó sẽ tự động phân tích và chỉ kích hoạt một phần các tham số rỗi, hoặc tự động sinh thêm các liên kết thần kinh mới mà không làm ảnh hưởng đến các trọng số (weights) đã được tối ưu hóa cho các tác vụ cũ. Điều này cho phép AI có thể học hỏi liên tục (continual learning) suốt đời mà không cần phải huấn luyện lại từ đầu. Thử nghiệm thực tế cho thấy, một mô hình Synaptic-AI sau khi được huấn luyện qua 500 tác vụ hoàn toàn khác nhau - từ chơi game, giải toán cho đến phân tích hình ảnh y khoa - vẫn duy trì được độ chính xác trên 95% ở tác vụ đầu tiên. Đây là một con số không tưởng đối với các kiến trúc Transformer truyền thống hiện nay. Nghiên cứu này được đánh giá là một bước tiến quan trọng hướng tới việc xây dựng các hệ thống AI đa năng thực thụ, có khả năng đồng hành và học hỏi từ môi trường sống của con người theo thời gian thực. DeepMind cho biết họ sẽ sớm mở rộng quy mô thử nghiệm kiến trúc này trên các hệ thống robot tự hành trong tương lai gần.