AIINEWS

AIINEWS

Báo cáo chuyên sâu về Trí tuệ nhân tạo và Công nghệ toàn cầu

AWS bổ sung công cụ tìm GPU bất thường trong các tác vụ huấn luyện trên SageMaker HyperPod

Ban biên tập AIINEWS•software
20 tháng 11, 2026•3 phút đọc
AWS bổ sung công cụ tìm GPU bất thường trong các tác vụ huấn luyện trên SageMaker HyperPod

Tóm lược nhanh

“AWS công bố tính năng giám sát mới cho SageMaker HyperPod nhằm giúp các nhóm vận hành xác...”

Ý chính

  • 1.AWS cho biết tính năng giám sát nâng cao hiện có tại mọi khu vực AWS hỗ trợ SageMaker HyperPod.
  • 2.Bản tóm tắt chẩn đoán dùng API DetectGroupOutliers của CloudWatch để so sánh mức sử dụng, bộ nhớ, nhiệt độ, điện năng và xung nhịp của các GPU trong cùng tác vụ. GPU lệch đáng kể so với các thiết bị còn lại sẽ được đánh dấu. Cơ chế này hỗ trợ cả EKS và Slurm.
  • 3.AWS cũng đưa vào các quy tắc nhận diện lỗi đã biết, gồm lỗi bộ nhớ ECC và lỗi XID của GPU. Với sự cố được phát hiện, hệ thống hiển thị tác vụ, cụm máy, nút, bộ tăng tốc và vị trí của thiết bị trong tác vụ.
  • 4.Theo AWS, bộ chỉ số mặc định tự động theo dõi tình trạng cụm máy, tài nguyên máy chủ, mức sử dụng và nhiệt độ GPU, cùng tài nguyên của từng tác vụ. Dữ liệu được thu thập mỗi 30 giây; AWS ước tính phần thu thập này dùng thêm khoảng 1–2% CPU và 250–300 MB bộ nhớ.
  • 5.CloudWatch là nơi lưu chỉ số mặc định mới; khách hàng cũng có thể chọn Amazon Managed Service for Prometheus. Các chỉ số nâng cao là tùy chọn vì làm tăng lượng dữ liệu gửi đến nơi lưu chỉ số và có thể phát sinh chi phí.

AWS công bố tính năng giám sát mới cho SageMaker HyperPod nhằm giúp các nhóm vận hành xác định GPU hoặc thành phần hạ tầng gây trục trặc khi huấn luyện mô hình. Tính năng này phục vụ các tác vụ chạy trên cả Amazon EKS và Slurm.

Chi tiết sản phẩm & Tính năng nổi bật

AWS cho biết tính năng giám sát nâng cao hiện có tại mọi khu vực AWS hỗ trợ SageMaker HyperPod.

Bản tóm tắt chẩn đoán dùng API DetectGroupOutliers của CloudWatch để so sánh mức sử dụng, bộ nhớ, nhiệt độ, điện năng và xung nhịp của các GPU trong cùng tác vụ. GPU lệch đáng kể so với các thiết bị còn lại sẽ được đánh dấu. Cơ chế này hỗ trợ cả EKS và Slurm.

AWS cũng đưa vào các quy tắc nhận diện lỗi đã biết, gồm lỗi bộ nhớ ECC và lỗi XID của GPU. Với sự cố được phát hiện, hệ thống hiển thị tác vụ, cụm máy, nút, bộ tăng tốc và vị trí của thiết bị trong tác vụ.

Theo AWS, bộ chỉ số mặc định tự động theo dõi tình trạng cụm máy, tài nguyên máy chủ, mức sử dụng và nhiệt độ GPU, cùng tài nguyên của từng tác vụ. Dữ liệu được thu thập mỗi 30 giây; AWS ước tính phần thu thập này dùng thêm khoảng 1–2% CPU và 250–300 MB bộ nhớ.

CloudWatch là nơi lưu chỉ số mặc định mới; khách hàng cũng có thể chọn Amazon Managed Service for Prometheus. Các chỉ số nâng cao là tùy chọn vì làm tăng lượng dữ liệu gửi đến nơi lưu chỉ số và có thể phát sinh chi phí.

Đánh giá thực tế & Góc nhìn chuyên môn

So sánh GPU trong cùng một tác vụ có thể giúp đội vận hành khoanh vùng thiết bị bất thường trước khi rà từng bảng chỉ số. Cảnh báo vẫn cần được đối chiếu với dữ liệu sự cố để xác định nguyên nhân.

Với cụm huấn luyện lớn, việc chọn chỉ số nâng cao đòi hỏi cân nhắc giữa mức chi tiết cần để điều tra lỗi và chi phí dữ liệu phát sinh.

Giá bán, thời điểm ra mắt & Điều cần theo dõi

AWS không đưa ra phép đo đối chứng cho thấy tính năng mới rút ngắn thời gian chẩn đoán bao nhiêu trong các tác vụ thực tế.

Thông tin được cung cấp chưa đủ để tính chi phí chỉ số nâng cao cho một cấu hình cụm máy cụ thể.

Bài viết được thẩm định, biên tập và xuất bản độc lập bởi Ban biên tập AIINEWS
Đã kiểm chứng 3 lớp
Tiêu chuẩn biên tập
Chia sẻ bài phân tích này:
Góc nhìn mở rộng & Đột phá công nghệ

Các phân tích & Tiêu điểm liên quan

Hiển thị 8 bài phân tích tuyển chọn
Amazon Bedrock AgentCore ra mắt Web Search API
Công cụ & Workflow AI5 ngày trước

Amazon Bedrock AgentCore ra mắt Web Search API

Amazon vừa ra mắt Web Search API trên Amazon Bedrock AgentCore, cho phép các ứng dụng và nhà phát triển gọi trực tiếp tính năng tìm kiếm web thông qua một lệnh API duy nhất mà không cần thiết lập cổng giao tiếp phức tạp.

2 phút đọc7,006
Khung kiến trúc tham chiếu bảy lớp cho trí tuệ nhân tạo tác nhân doanh nghiệp

Khung kiến trúc tham chiếu bảy lớp cho trí tuệ nhân tạo tác nhân doanh nghiệp

Amazon Web Services giới thiệu một khung kiến trúc tham chiếu bảy lớp nhằm giúp các doanh nghiệp mở rộng quy mô ứng dụng trí tuệ nhân tạo tác nhân từ giai đoạn thử nghiệm lên môi trường sản xuất. Khung thiết kế này tách biệt rõ ràng các trách nhiệm chức năng và sử dụng giao diện chuẩn để các tổ chức dễ dàng thay thế linh hoạt từng thành phần phần mềm.

2 phút đọc4,065
Tong thong Trump ne tranh thoi điểm nắm thông tin về CEO Nvidia Jensen Huang
Kinh doanh10 ngày trước

Tong thong Trump ne tranh thoi điểm nắm thông tin về CEO Nvidia Jensen Huang

Trong cuộc họp báo tại Nhà Trắng, Tổng thống Trump từ chối xác nhận chính xác thời điểm ông nhận được thông tin tình báo về mối quan hệ giữa CEO Nvidia Jensen Huang và một nghi phạm gián điệp Trung Quốc. Tuy nhiên, ông cho biết Nvidia trưởng điều tra và bản thân ông đã trò chuyện trực tiếp với nhà lãnh đạo doanh nghiệp này.

2 phút đọc7,809
Isomorphic Labs huy động 5 tỷ đô la để phát triển thuốc bằng trí tuệ nhân tạo

Isomorphic Labs huy động 5 tỷ đô la để phát triển thuốc bằng trí tuệ nhân tạo

Isomorphic Labs vừa huy động thành công khoản đầu tư 5 tỷ đô la do Greenoaks và Sequoia Capital dẫn dắt nhằm đẩy nhanh tiến độ nghiên cứu dược phẩm dựa trên trí tuệ nhân tạo. Công ty con thuộc Alphabet này đặt mục tiêu mở rộng cơ sở hạ tầng sinh học và đưa các chương trình trị liệu đầu tiên vào thử nghiệm lâm sàng.

2 phút đọc7,542
Startup Dreeze huy động 33 triệu USD để phục hồi toàn bộ ứng dụng đám mây

Startup Dreeze huy động 33 triệu USD để phục hồi toàn bộ ứng dụng đám mây

Startup Dreeze chính thức ra mắt với khoản đầu tư 33 triệu USD nhằm cung cấp giải pháp khôi phục toàn diện các ứng dụng điện toán đám mây chứ không chỉ sao lưu dữ liệu riêng lẻ. Hệ thống tự động theo dõi các tài nguyên phụ thuộc để tái tạo cơ sở hạ tầng khi xảy ra sự cố.

2 phút đọc6,778
Tesorai huy động 5,3 triệu USD để khai thác dữ liệu sinh học bị bỏ quên

Tesorai huy động 5,3 triệu USD để khai thác dữ liệu sinh học bị bỏ quên

Startup Tesorai vừa huy động thành công 5,3 triệu USD để phát triển nền tảng AI giúp khai thác các dữ liệu thô từ phòng thí nghiệm mà các nghiên cứu trước đây đã bỏ lỡ. Công nghệ này nhằm mục đích tối ưu hóa việc đào tạo các mô hình AI phục vụ nghiên cứu thuốc và liệu pháp điều trị mới.

2 phút đọc7,224
Bảy nhà sáng lập Anthropic dự kiến thu về 250 triệu USD mỗi người trong đợt phát hành cổ phiếu công khai
Kinh doanh9 ngày trước

Bảy nhà sáng lập Anthropic dự kiến thu về 250 triệu USD mỗi người trong đợt phát hành cổ phiếu công khai

Hồ sơ S-1 mới đây tiết lộ bảy nhà sáng lập Anthropic chuẩn bị bán hơn 3,3 triệu cổ phiếu mỗi người trong đợt phát hành cổ phiếu lần đầu ra công chúng. Thương vụ này có thể mang về cho mỗi lãnh đạo khoảng 250 triệu USD dựa trên mức giá trung bình.

2 phút đọc8,708
AWS bổ sung công cụ tìm GPU bất thường trong các tác vụ huấn luyện... | AIINEWS