DeepMind hôm nay công bố một thuật toán mới mang tên Neuro‑Evolutionary Search (NES), một phương pháp kết hợp giữa học sâu và thuật toán tiến hóa để tối ưu hoá siêu tham số của các mô hình AI.
NES sử dụng một quần thể các “genome” đại diện cho các cấu hình siêu tham số, sau đó áp dụng các phép biến đổi di truyền (đột biến, lai ghép) cùng với một mạng nơ‑ron dự đoán hiệu suất. Quá trình lặp lại cho đến khi tìm được cấu hình tối ưu nhất, giảm đáng kể thời gian thử nghiệm so với các phương pháp truyền thống như Grid Search hay Bayesian Optimization.
Trong các thử nghiệm trên mô hình ngôn ngữ lớn và mạng thị giác, NES đã giảm thời gian tìm kiếm siêu tham số từ 48 giờ xuống còn 14 giờ, đồng thời cải thiện độ chính xác trung bình 1.3 điểm phần trăm. DeepMind công bố sẽ tích hợp NES vào nền tảng AI Cloud của mình, cho phép các nhà phát triển và nhà nghiên cứu truy cập dễ dàng.
Kết quả này mở ra cơ hội giảm chi phí và tăng tốc độ phát triển các mô hình AI phức tạp, đặc biệt trong các lĩnh vực yêu cầu tối ưu hoá nhanh như y tế, tài chính và robot tự động.