Google mở rộng hệ sinh thái phần cứng TPU thế hệ thứ 8 với hai cấu hình mới

Tóm lược nhanh
“Google vừa giới thiệu hai hệ thống phần cứng mới thuộc dòng TPU thế hệ thứ 8 gồm TPU 8tx...”
Các điểm cốt lõi
- 1.Google công bố hai cấu hình hệ thống mới mang tên TPU 8tx và TPU 8i Max, được xây dựng trên nền tảng các chip TPU 8t và TPU 8i ra mắt hồi tháng 4.
- 2.TPU 8tx kết hợp silicon của TPU 8t với CPU AMD EPYC thế hệ thứ 5 để cung cấp khả năng bảo mật ngay từ tầng phần cứng cho việc suy luận và huấn luyện quy mô nhỏ.
- 3.TPU 8i Max ghép hai chip TPU 8i vào một gói duy nhất nhằm giải quyết nút thắt cổ chai về băng thông bộ nhớ cho các tác vụ ngữ cảnh dài.
- 4.Bên cạnh phần cứng, Google đồng thời mở mã nguồn các công cụ phần mềm như TorchTPU và TPU Sync để giảm độ trễ và hỗ trợ nhà phát triển tích hợp.
Google vừa giới thiệu hai hệ thống phần cứng mới thuộc dòng TPU thế hệ thứ 8 gồm TPU 8tx tối ưu cho bảo mật và TPU 8i Max tập trung vào băng thông bộ nhớ. Các hệ thống này được xây dựng dựa trên những con chip sẵn có kết hợp cùng các công cụ phần mềm mở nhằm đáp ứng đa dạng nhu cầu của khách hàng.
Bối cảnh và chi tiết công nghệ
Google công bố hai cấu hình hệ thống mới mang tên TPU 8tx và TPU 8i Max, được xây dựng trên nền tảng các chip TPU 8t và TPU 8i ra mắt hồi tháng 4.
TPU 8tx kết hợp silicon của TPU 8t với CPU AMD EPYC thế hệ thứ 5 để cung cấp khả năng bảo mật ngay từ tầng phần cứng cho việc suy luận và huấn luyện quy mô nhỏ.
TPU 8i Max ghép hai chip TPU 8i vào một gói duy nhất nhằm giải quyết nút thắt cổ chai về băng thông bộ nhớ cho các tác vụ ngữ cảnh dài.
Bên cạnh phần cứng, Google đồng thời mở mã nguồn các công cụ phần mềm như TorchTPU và TPU Sync để giảm độ trễ và hỗ trợ nhà phát triển tích hợp.
Đánh giá tác động và góc nhìn chuyên môn
Chiến lược cấu hình lại hệ thống thay vì thiết kế chip hoàn toàn mới cho phép Google tung ra các giải pháp phần cứng chuyên biệt nhanh chóng hơn nhằm theo kịp tốc độ phát triển của ngành trí tuệ nhân tạo.
Việc chuyển sang sử dụng CPU AMD EPYC thay cho chip Arm tự phát triển giúp Google tận dụng cơ chế gốc tin cậy có sẵn để phục vụ nhóm khách hàng doanh nghiệp có yêu cầu bảo mật khắt khe.
Xu hướng tiếp theo và điều cần theo dõi
Lịch trình thương mại cụ thể và bảng giá cho thuê của hai hệ thống TPU 8tx và TPU 8i Max vẫn chưa được công bố chi tiết.
Hiệu quả thực tế của phần mềm TPU Sync trong việc điều phối dữ liệu quy mô lớn giữa nhiều tầng bộ nhớ chưa được kiểm chứng đầy đủ thông qua các số liệu định lượng độc lập.







