Google vừa bổ sung hai bộ vi xử lý chuyên dụng mới vào dòng kiến trúc đơn vị xử lý ten-xơ thế hệ thứ tám nhằm giải quyết nhu cầu tính toán mật độ cao và suy luận bảo mật.

Bối cảnh và chi tiết công nghệ

Google đã giới thiệu TPU 8i Max và TPU 8tx nhằm mở rộng thế hệ chip chuyên dụng thứ tám cho trí tuệ nhân tạo.

Bộ vi xử lý TPU 8i Max được thiết kế để tăng gấp đôi dung lượng bộ nhớ SRAM và bộ nhớ băng thông cao so với phiên bản tiêu chuẩn, nhằm hỗ trợ các cửa sổ ngữ cảnh cực lớn.

Phiên bản TPU 8tx tích hợp vùng bảo mật phần cứng nhằm bảo vệ dữ liệu nhạy cảm và trọng số mô hình trong quá trình suy luận bảo mật.

Đánh giá tác động và góc nhìn chuyên môn

Việc tích hợp bộ nhớ lớn hơn trực tiếp trên đế chip giúp giảm thiểu tình trạng nghẽn cổ chai khi xử lý các tài liệu dài hoặc chuỗi dữ liệu phức tạp của các mô hình ngôn ngữ lớn.

Tính năng mã hóa phần cứng cho phép các tổ chức quản lý dữ liệu nhạy cảm chạy các tác vụ tinh chỉnh và tự động hóa mà không cần di chuyển dữ liệu qua nhiều cụm máy chủ riêng biệt.

Xu hướng tiếp theo và điều cần theo dõi

Thông tin chi tiết về hiệu năng tiêu thụ điện năng thực tế và biểu giá thương mại của từng dòng chip vẫn chưa được công bố đầy đủ.