AIINEWS

AIINEWS

Báo cáo chuyên sâu về Trí tuệ nhân tạo và Công nghệ toàn cầu

Exa tăng thông lượng tạo nhúng trên chip AI của AWS nhờ tối ưu hóa phần cứng

Ban biên tập AIINEWS•hardware
19 tháng 11, 2026•2 phút đọc
Exa tăng thông lượng tạo nhúng trên chip AI của AWS nhờ tối ưu hóa phần cứng

Tóm lược nhanh

“Công ty tìm kiếm Exa cải thiện 47% thông lượng và hiệu quả chi phí cho quy trình tạo nhúng...”

Ý chính

  • 1.Quá trình tái nhúng bộ dữ liệu gồm 30 tỷ tài liệu ưu tiên đã tạo ra động lực thúc đẩy đội ngũ đánh giá lại hạ tầng phần cứng và tối ưu hóa hiệu năng.
  • 2.Đội ngũ kỹ thuật áp dụng các kỹ thuật như tối ưu hóa bố cục trọng số, tự động chuyển đổi kiểu dữ liệu và sử dụng giao diện kernel tùy chỉnh trên phần cứng AWS Neuron.
  • 3.Các cải tiến này mang lại mức tăng khoảng 47% về hiệu suất và chi phí trên mỗi triệu tài liệu được nhúng so với mức ban đầu, đồng thời duy trì độ tương đồng cosine đạt 0,999.

Công ty tìm kiếm Exa cải thiện 47% thông lượng và hiệu quả chi phí cho quy trình tạo nhúng tài liệu web. Đội ngũ kỹ thuật đã tận dụng phần cứng AWS Inferentia2 và Trainium2 cùng quy trình tự động hóa tác nhân.

Chi tiết sản phẩm & Tính năng nổi bật

Quá trình tái nhúng bộ dữ liệu gồm 30 tỷ tài liệu ưu tiên đã tạo ra động lực thúc đẩy đội ngũ đánh giá lại hạ tầng phần cứng và tối ưu hóa hiệu năng.

Đội ngũ kỹ thuật áp dụng các kỹ thuật như tối ưu hóa bố cục trọng số, tự động chuyển đổi kiểu dữ liệu và sử dụng giao diện kernel tùy chỉnh trên phần cứng AWS Neuron.

Các cải tiến này mang lại mức tăng khoảng 47% về hiệu suất và chi phí trên mỗi triệu tài liệu được nhúng so với mức ban đầu, đồng thời duy trì độ tương đồng cosine đạt 0,999.

Đánh giá thực tế & Góc nhìn chuyên môn

Việc tự thiết kế các kernel tùy chỉnh cho cấu trúc mô hình giúp giảm thiểu tình trạng nghẽn bộ nhớ băng thông cao và loại bỏ các phép tính thừa, qua đó khai thác tối đa năng lực phần cứng chuyên dụng.

Giá bán, thời điểm ra mắt & Điều cần theo dõi

Hiệu quả chi phí thực tế và độ trễ ở quy mô toàn cầu khi triển khai trên các vùng AWS khác nhau chưa được định lượng đầy đủ ngoài môi trường thử nghiệm tại Oregon.

Bài viết được thẩm định, biên tập và xuất bản độc lập bởi Ban biên tập AIINEWS
Đã kiểm chứng 3 lớp
Tiêu chuẩn biên tập
Chia sẻ bài phân tích này:
Góc nhìn mở rộng & Đột phá công nghệ

Các phân tích & Tiêu điểm liên quan

Hiển thị 8 bài phân tích tuyển chọn
Cách Amazon Bedrock cắt giảm chi phí token và độ trễ cho tác nhân AI xử lý JSON

Cách Amazon Bedrock cắt giảm chi phí token và độ trễ cho tác nhân AI xử lý JSON

Đội ngũ phát triển tại AWS áp dụng ba chiến lược kết hợp để giảm 71% lượng token và hạ 80% độ trễ cho một tác nhân AI quản lý lịch trình bay trên nền tảng Amazon Bedrock AgentCore. Giải pháp này giúp hệ thống xử lý các tệp dữ liệu JSON lớn mà không làm phình to ngữ cảnh của mô hình ngôn ngữ lớn.

2 phút đọc3,493
Lỗ hổng phpAfterShell đe dọa phiên PHP ra sao và cách vá
An ninh mạng & AI Defensekhoảng 1 giờ trước

Lỗ hổng phpAfterShell đe dọa phiên PHP ra sao và cách vá

Các nhà phát triển PHP đã phát hành bản vá cho một lỗ hổng trọng yếu định danh CVE-2026-126714 có khả năng cho phép kẻ tấn công thực thi mã từ xa thông qua cơ chế lưu trữ phiên làm việc mặc định. Lỗi này xuất phát từ việc ghi tệp phiên bị ngắt quãng kết hợp với dữ liệu không an toàn.

2 phút đọc91