Marvell nói giao dịch bộ nhớ chiếm hơn 80% lưu lượng khi mở rộng cụm AI

Tóm lược nhanh
“Một lãnh đạo Marvell cho biết giao dịch bộ nhớ chiếm hơn 80% lưu lượng mạng khi mở rộng cụm...”
Ý chính
- 1.Theo mô tả của Andy Mills, thiết bị của Penguin đặt bộ nhớ cách GPU hàng chục mét và kết nối qua công nghệ truyền dẫn quang của Marvell. Mỗi thiết bị chứa tổng cộng 16 TB bộ nhớ HBM và DDR5 để các máy chủ ở nhiều tủ rack cùng sử dụng.
- 2.Preet Virk, lãnh đạo bộ phận Photonic Fabric của Marvell, nói giao dịch bộ nhớ chiếm hơn 80% lưu lượng mạng khi mở rộng cụm hệ thống. Ông cho rằng dùng chung bộ nhớ có thể tránh phải chuyển đi một phần lớn dữ liệu đó.
- 3.Virk ước tính giải pháp này có thể dùng khoảng một phần tư năng lượng trên mỗi bit dữ liệu được truyền so với cách truyền dữ liệu qua dây đồng. Phát biểu đó chỉ nói về năng lượng truyền dữ liệu, không phải điện năng của toàn trung tâm dữ liệu.
- 4.Cuộc phỏng vấn diễn ra trong một chương trình của theCUBE tại SC26. SiliconANGLE công bố Penguin tài trợ cho chương trình và cho biết nhà tài trợ không kiểm soát nội dung biên tập.
Một lãnh đạo Marvell cho biết giao dịch bộ nhớ chiếm hơn 80% lưu lượng mạng khi mở rộng cụm AI. Marvell và Penguin Solutions đang giới thiệu cách cho nhiều máy chủ dùng chung bộ nhớ qua kết nối quang để giảm việc di chuyển dữ liệu.
Chi tiết sản phẩm & Tính năng nổi bật
Theo mô tả của Andy Mills, thiết bị của Penguin đặt bộ nhớ cách GPU hàng chục mét và kết nối qua công nghệ truyền dẫn quang của Marvell. Mỗi thiết bị chứa tổng cộng 16 TB bộ nhớ HBM và DDR5 để các máy chủ ở nhiều tủ rack cùng sử dụng.
Preet Virk, lãnh đạo bộ phận Photonic Fabric của Marvell, nói giao dịch bộ nhớ chiếm hơn 80% lưu lượng mạng khi mở rộng cụm hệ thống. Ông cho rằng dùng chung bộ nhớ có thể tránh phải chuyển đi một phần lớn dữ liệu đó.
Virk ước tính giải pháp này có thể dùng khoảng một phần tư năng lượng trên mỗi bit dữ liệu được truyền so với cách truyền dữ liệu qua dây đồng. Phát biểu đó chỉ nói về năng lượng truyền dữ liệu, không phải điện năng của toàn trung tâm dữ liệu.
Cuộc phỏng vấn diễn ra trong một chương trình của theCUBE tại SC26. SiliconANGLE công bố Penguin tài trợ cho chương trình và cho biết nhà tài trợ không kiểm soát nội dung biên tập.
Đánh giá thực tế & Góc nhìn chuyên môn
Bộ nhớ dùng chung có thể giúp nhiều máy chủ tiếp cận cùng dữ liệu mà không cần giữ một bản sao riêng ở mỗi nơi. Lợi ích thực tế sẽ phụ thuộc vào việc giảm truyền dữ liệu có bù được độ trễ khi truy cập bộ nhớ ở xa hay không.
Tỷ lệ lưu lượng hơn 80% và mức năng lượng một phần tư đo hai khía cạnh khác nhau. Không thể dùng chúng để suy ra mức giảm điện năng của toàn bộ hệ thống AI.
Giá bán, thời điểm ra mắt & Điều cần theo dõi
Nguồn không cung cấp phép đo độc lập, cấu hình thử nghiệm hay cách tính tỷ lệ lưu lượng hơn 80% và mức năng lượng mà Virk nêu.
Chưa rõ độ trễ, chi phí triển khai và hiệu quả của bộ nhớ dùng chung khi nhiều máy chủ chạy tác vụ AI đồng thời.







