NVIDIA mở rộng mã nguồn mở với OpenShell cùng hạ tầng trí tuệ nhân tạo mới

Tóm lược nhanh
“NVIDIA chuyển giao mã nguồn mở OpenShell cho Quỹ Cloud Native Computing để bảo mật và quản...”
Các điểm cốt lõi
- 1.NVIDIA đã đóng góp OpenShell, một môi trường thời gian chạy mã nguồn mở nhằm bảo mật và quản trị các tác nhân tự trị, cho Quỹ Cloud Native Computing Foundation dưới dạng dự án Sandbox.
- 2.Công ty cũng tham gia vào dự án Agent Substrate do Google dẫn dắt nhằm vận hành các tác nhân chạy dài trên Kubernetes, đồng thời tích hợp công cụ này với NVIDIA Dynamo và KAI Scheduler.
- 3.Ba thành phần mới của nền tảng DSX AI Factory Platform bao gồm NVIDIA Kubernetes Engine, NVIDIA Kubernetes Recipes và NVIDIA Snapshot nhằm hỗ trợ triển khai và mở rộng quy mô cụm máy chủ.
- 4.Công cụ NVIDIA Snapshot giúp khôi phục các bản sao lưu trong vài giây mà không cần tải lại mô hình hay khởi động ấm, giúp đối tác Crusoe giảm thời gian sẵn sàng từ khoảng tám phút xuống còn 31 giây.
NVIDIA chuyển giao mã nguồn mở OpenShell cho Quỹ Cloud Native Computing để bảo mật và quản trị các tác nhân tự trị trên nền tảng Kubernetes. Công ty đồng thời giới thiệu các thành phần phần mềm mới nhằm tăng tốc độ vận hành hệ thống hạ tầng trí tuệ nhân tạo quy mô lớn.
Bối cảnh và chi tiết công nghệ
NVIDIA đã đóng góp OpenShell, một môi trường thời gian chạy mã nguồn mở nhằm bảo mật và quản trị các tác nhân tự trị, cho Quỹ Cloud Native Computing Foundation dưới dạng dự án Sandbox.
Công ty cũng tham gia vào dự án Agent Substrate do Google dẫn dắt nhằm vận hành các tác nhân chạy dài trên Kubernetes, đồng thời tích hợp công cụ này với NVIDIA Dynamo và KAI Scheduler.
Ba thành phần mới của nền tảng DSX AI Factory Platform bao gồm NVIDIA Kubernetes Engine, NVIDIA Kubernetes Recipes và NVIDIA Snapshot nhằm hỗ trợ triển khai và mở rộng quy mô cụm máy chủ.
Công cụ NVIDIA Snapshot giúp khôi phục các bản sao lưu trong vài giây mà không cần tải lại mô hình hay khởi động ấm, giúp đối tác Crusoe giảm thời gian sẵn sàng từ khoảng tám phút xuống còn 31 giây.
Đánh giá tác động và góc nhìn chuyên môn
Việc chuẩn hóa các công cụ bảo mật và quản trị tác nhân trong cộng đồng mã nguồn mở giúp giảm bớt rủi ro phân mảnh công nghệ khi doanh nghiệp mở rộng quy mô hệ thống tự động hóa.
Việc kết hợp cơ chế tạm dừng và khôi phục trạng thái bộ nhớ mô hình giải quyết trực tiếp nút thắt thời gian khởi động, tối ưu hóa chi phí vận hành cho các mô hình ngôn ngữ lớn.
Xu hướng tiếp theo và điều cần theo dõi
Hiệu quả vận hành thực tế của OpenShell và Agent Substrate khi triển khai ở quy mô lớn tại các hệ thống doanh nghiệp đa mây chưa được kiểm chứng độc lập ngoài các thử nghiệm đối tác.
Chi tiết về lộ trình tích hợp thương mại từ các đối tác sinh thái phần cứng và đám mây đối với NVIDIA Kubernetes Engine vẫn cần thêm thời gian để đo lường mức độ tiếp nhận.







