AWS cho phép tính phí theo mức sử dụng với AI phát trực tuyến hai chiều trên SageMaker

Tóm lược nhanh
“AWS công bố cơ chế để nhà cung cấp mô hình báo cáo lượng sử dụng trong phiên AI phát trực...”
Các điểm cốt lõi
- 1.AWS cho biết nhà cung cấp mô hình có thể báo cáo lượng sử dụng thực tế trong phiên phát trực tuyến để tính phí phần mềm trên AWS Marketplace. Phí hạ tầng của điểm cuối SageMaker AI vẫn áp dụng riêng.
- 2.Cơ chế này thêm một kết nối WebSocket dành cho dữ liệu tính phí bên cạnh kết nối xử lý mô hình. Máy chủ mô hình gửi các bản ghi sử dụng qua kết nối mới trong khi phiên đang diễn ra.
- 3.Deepgram là đối tác triển khai đầu tiên, đưa cách tính phí theo mức sử dụng cho mô hình chuyển giọng nói thành văn bản và tạo giọng nói lên AWS Marketplace.
- 4.Đơn vị tính phí phụ thuộc vào quy tắc của nhà cung cấp và điều khoản sản phẩm. AWS nêu ví dụ một sản phẩm tính theo giây âm thanh sẽ ghi nhận 720 đơn vị cho 12 phút âm thanh được tính phí, nhưng việc mở kết nối trong 12 phút không tự quyết định lượng âm thanh phải trả tiền.
- 5.Theo cấu hình mặc định, quá trình xử lý vẫn tiếp tục nếu kết nối dữ liệu tính phí bị mất, dù việc ghi nhận mức sử dụng sẽ dừng. Nhà cung cấp có thể chọn dừng xử lý khi kết nối này lỗi, nhưng lựa chọn đó không bảo đảm các bản ghi sai định dạng hoặc bị loại bỏ sẽ được tính phí.
AWS công bố cơ chế để nhà cung cấp mô hình báo cáo lượng sử dụng trong phiên AI phát trực tuyến hai chiều trên SageMaker, làm cơ sở tính phí phần mềm qua AWS Marketplace. Khách hàng vẫn phải trả riêng chi phí hạ tầng cho điểm cuối SageMaker AI.
Bối cảnh và chi tiết công nghệ
AWS cho biết nhà cung cấp mô hình có thể báo cáo lượng sử dụng thực tế trong phiên phát trực tuyến để tính phí phần mềm trên AWS Marketplace. Phí hạ tầng của điểm cuối SageMaker AI vẫn áp dụng riêng.
Cơ chế này thêm một kết nối WebSocket dành cho dữ liệu tính phí bên cạnh kết nối xử lý mô hình. Máy chủ mô hình gửi các bản ghi sử dụng qua kết nối mới trong khi phiên đang diễn ra.
Deepgram là đối tác triển khai đầu tiên, đưa cách tính phí theo mức sử dụng cho mô hình chuyển giọng nói thành văn bản và tạo giọng nói lên AWS Marketplace.
Đơn vị tính phí phụ thuộc vào quy tắc của nhà cung cấp và điều khoản sản phẩm. AWS nêu ví dụ một sản phẩm tính theo giây âm thanh sẽ ghi nhận 720 đơn vị cho 12 phút âm thanh được tính phí, nhưng việc mở kết nối trong 12 phút không tự quyết định lượng âm thanh phải trả tiền.
Theo cấu hình mặc định, quá trình xử lý vẫn tiếp tục nếu kết nối dữ liệu tính phí bị mất, dù việc ghi nhận mức sử dụng sẽ dừng. Nhà cung cấp có thể chọn dừng xử lý khi kết nối này lỗi, nhưng lựa chọn đó không bảo đảm các bản ghi sai định dạng hoặc bị loại bỏ sẽ được tính phí.
Đánh giá tác động và góc nhìn chuyên môn
Với sản phẩm tính phí theo lượng âm thanh xử lý, việc gửi bản ghi trong suốt phiên có thể phản ánh mức sử dụng sát hơn cách tính phí phần mềm theo giờ, vốn có thể phát sinh cả lúc mô hình không nhận âm thanh. Điều đó không làm mất khoản phí hạ tầng riêng.
Nhà cung cấp cần đối chiếu bản ghi từ máy chủ với báo cáo AWS Marketplace và khoản phí của người mua, nhất là khi phiên bị gián đoạn. Việc gửi bản ghi qua kết nối không đồng nghĩa khoản sử dụng đó đã được tính tiền.
Xu hướng tiếp theo và điều cần theo dõi
Thông tin được cung cấp không nêu giá cụ thể của từng sản phẩm Deepgram hoặc tổng chi phí cho một khối lượng sử dụng nhất định sau khi cộng phí hạ tầng.
Chưa có số liệu trong thông tin được cung cấp về mức độ khớp giữa lượng sử dụng được báo cáo và khoản tiền thực tế bị tính trong các phiên bị gián đoạn.







