Lambda dùng công nghệ quang học NVIDIA để tối ưu hóa cụm AI siêu lớn

Tóm lược nhanh
“Lambda tích hợp các bộ chuyển mạch quang học đóng gói chung của NVIDIA để kết nối hơn...”
Các điểm cốt lõi
- 1.Nhà cung cấp đám mây Lambda triển khai các bộ chuyển mạch quang học đóng gói chung NVIDIA Photonics nhằm liên kết các giá đỡ NVIDIA GB300 NVL72 với hơn 10.000 GPU.
- 2.Trong các thử nghiệm, công nghệ này giúp giảm độ trễ mạng khoảng 4% ở cấp độ giá đỡ và lên đến khoảng 10% ở cấp độ vùng, đồng thời duy trì thông lượng tương đương cáp quang truyền thống.
- 3.Kiến trúc mới tích hợp các động cơ quang học ngay trên gói mạch chuyển mạch, mang lại hiệu quả năng lượng cao gấp 5 lần và độ tin cậy vượt trội so với các bộ thu phát cắm rời.
Lambda tích hợp các bộ chuyển mạch quang học đóng gói chung của NVIDIA để kết nối hơn 10.000 GPU, giúp tăng cường độ bền và hiệu quả năng lượng cho các trung tâm dữ liệu trí tuệ nhân tạo quy mô lớn.
Bối cảnh và chi tiết công nghệ
Nhà cung cấp đám mây Lambda triển khai các bộ chuyển mạch quang học đóng gói chung NVIDIA Photonics nhằm liên kết các giá đỡ NVIDIA GB300 NVL72 với hơn 10.000 GPU.
Trong các thử nghiệm, công nghệ này giúp giảm độ trễ mạng khoảng 4% ở cấp độ giá đỡ và lên đến khoảng 10% ở cấp độ vùng, đồng thời duy trì thông lượng tương đương cáp quang truyền thống.
Kiến trúc mới tích hợp các động cơ quang học ngay trên gói mạch chuyển mạch, mang lại hiệu quả năng lượng cao gấp 5 lần và độ tin cậy vượt trội so với các bộ thu phát cắm rời.
Đánh giá tác động và góc nhìn chuyên môn
Việc đưa chuyển đổi quang điện tiến sát chip chuyển mạch giúp rút ngắn đường truyền tín hiệu từ inch xuống milimet, từ đó loại bỏ các chip định thời lại và giảm thiểu lượng linh kiện dễ hỏng.
Giải pháp làm mát bằng chất lỏng giữ nhiệt độ quang học ở mức trung bình 36 độ C, đồng thời cho phép kỹ thuật viên thay thế các nguồn sáng bên ngoài tại hiện trường khi cần thiết.
Xu hướng tiếp theo và điều cần theo dõi
Hiệu quả thực tế của hệ thống khi vận hành các mô hình huấn luyện ngôn ngữ lớn liên tục trong thời gian dài chưa được lượng hóa ngoài dữ liệu thử nghiệm.







