Baidu vừa giới thiệu ERNIE Evolve, một hệ thống nghiên cứu tự động có khả năng tự đề xuất, chỉnh sửa và thử nghiệm các cải tiến mã nguồn cho mô hình trí tuệ nhân tạo. Hệ thống này đã đạt kết quả vượt trội trên một số tiêu chuẩn đánh giá công khai và giúp tăng tốc độ suy luận cho mô hình ERNIE-5.5-Flash.

Bối cảnh và chi tiết công nghệ

ERNIE Evolve vận hành thông qua hai vòng lặp lồng nhau, trong đó một bộ phận điều phối chọn hướng nghiên cứu và các nhánh song song thực hiện thử nghiệm mã nguồn.

Hệ thống sử dụng một trình đánh giá ẩn và một trình kiểm duyệt độc lập để ngăn chặn các hành vi gian lận kết quả hoặc khai thác lỗ hổng trong quá trình tối ưu hóa.

Trên các bài kiểm tra thực tế, ERNIE Evolve đã tăng tốc độ tạo văn bản trên chip Kunlunxin P800 lên 623,6% so với phiên bản gốc sau 4 vòng nghiên cứu.

Hệ thống đạt kết quả tốt hơn các kỷ lục cũ trên 3 trong 4 chỉ số đo lường công khai, bao gồm NanoChat và NanoGPT Speedrun.

Đánh giá tác động và góc nhìn chuyên môn

Việc sử dụng các trình đánh giá ẩn và kiểm duyệt độc lập cho thấy nỗ lực của Baidu trong việc giải quyết vấn đề 'hack phần thưởng' thường gặp ở các hệ thống tự động hóa nghiên cứu.

Kết quả đạt được trên ERNIE-5.5-Flash cho thấy tiềm năng của việc áp dụng tự động hóa vào các tác vụ kỹ thuật thực tế, thay vì chỉ giới hạn trong các bài kiểm tra học thuật.

Xu hướng tiếp theo và điều cần theo dõi

Baidu chưa công bố kiến trúc của các mô hình ngôn ngữ lớn (LLM) đóng vai trò vận hành các tác nhân (agent) trong hệ thống ERNIE Evolve.

Hệ thống hiện vẫn là phần mềm đóng, chỉ có kết quả và nhật ký nghiên cứu được chia sẻ công khai trên GitHub.