Viện Trí tuệ Nhân tạo MBZUAI ra mắt mô hình thế giới PAN 2

Tóm lược nhanh
“Viện Trí tuệ Nhân tạo thuộc Đại học MBZUAI vừa phát hành PAN 2, một mô hình thế giới mã...”
Các điểm cốt lõi
- 1.Viện Trí tuệ Nhân tạo tại MBZUAI đã công bố mô hình PAN 2, hệ thống mô phỏng cảnh quan và hành động văn bản thành video dưới dạng mã nguồn mở.
- 2.Mô hình này sử dụng kiến trúc máy biến áp khuếch tán dày đặc 29 tỷ tham số chạy ở định dạng BF16, được huấn luyện từ đầu trên hàng trăm triệu video.
- 3.Theo các thử nghiệm do nhóm nghiên cứu tự công bố, PAN 2 đạt tỷ lệ hoàn thành toàn bộ kế hoạch đa bước là 34,0% trên 100 tác vụ kiểm thử.
- 4.Toàn bộ trọng số, mã nguồn huấn luyện và mã suy luận được phát hành theo giấy phép Apache 2.0.
Viện Trí tuệ Nhân tạo thuộc Đại học MBZUAI vừa phát hành PAN 2, một mô hình thế giới mã nguồn mở với 29 tỷ tham số nhằm hỗ trợ tác vụ AI vật lý. Hệ thống này kết hợp bộ lập lịch ngôn ngữ lớn với mô hình khuếch tán để mô phỏng các chuỗi hành động phức tạp thành video.
Bối cảnh và chi tiết công nghệ
Viện Trí tuệ Nhân tạo tại MBZUAI đã công bố mô hình PAN 2, hệ thống mô phỏng cảnh quan và hành động văn bản thành video dưới dạng mã nguồn mở.
Mô hình này sử dụng kiến trúc máy biến áp khuếch tán dày đặc 29 tỷ tham số chạy ở định dạng BF16, được huấn luyện từ đầu trên hàng trăm triệu video.
Theo các thử nghiệm do nhóm nghiên cứu tự công bố, PAN 2 đạt tỷ lệ hoàn thành toàn bộ kế hoạch đa bước là 34,0% trên 100 tác vụ kiểm thử.
Toàn bộ trọng số, mã nguồn huấn luyện và mã suy luận được phát hành theo giấy phép Apache 2.0.
Đánh giá tác động và góc nhìn chuyên môn
Việc kết hợp bộ suy luận khái niệm dạng ngôn ngữ lớn giúp hệ thống duy trì tính nhất quán cấu trúc trong các chuỗi hành động kéo dài, giải quyết điểm yếu mất mạch lạc của các mô hình video thuần túy.
Yêu cầu phần cứng nặng khi mỗi worker phải tải toàn bộ mô hình 29 tỷ tham số ở định dạng BF16 đặt ra thách thức lớn cho các nhà phát triển ứng dụng robot thời gian thực.
Xu hướng tiếp theo và điều cần theo dõi
Dữ liệu cụ thể về mức tiêu thụ bộ nhớ VRAM và thời gian xử lý thực tế trên các cụm phần cứng khác nhau chưa được nhóm nghiên cứu công bố đầy đủ.







