Amazon Bedrock bổ sung các lựa chọn maxAgentIteration mới giúp các ứng dụng chuyển đổi linh hoạt giữa truy vấn đơn shot, tác vụ nhiều vòng và chỉ trẫm xuất nguồn. Điều này giúp cân bằng giữa tốc độ và độ chính xác cho từng yêu cầu mà không cần đến các hệ thống riêng biệt.

Bối cảnh và chi tiết công nghệ

Amazon Bedrock mở rộng phạm vi maxAgentIteration từ 0 đến 5 cho dịch vụ Managed Knowledge Base.

Thiết lập maxAgentIteration bằng 1 thực hiện truy xuất duy nhất kèm một lười sinh câu trả lời mà không cần các vòng lập lập kế hoạch.

Thiết lập maxAgentIteration bằng 0 trả về các đoạn văn bản nguồn mà không gọi mô hình ngôn ngữ lớn.

Các mức từ 2 đến 5 giữ nguyên cơ chế tác tử cho phép nhiều vòng truy vấn và phân rã câu hỏi phức tạp.

Đánh giá tác động và góc nhìn chuyên môn

Việc mở rộng các chế độ truy xuất giúp nhà phát triển tối ưu hóa chi phí và độ trễ bằng cách tránh các vòng lặp lập kế hoạch không cần thiết cho các câu hỏi đơn giản.

Việc duy trì một API duy nhất cho cả ba chế độ giảm thiểu đáng kể phức tạp trong kiến trúc ứng dụng khi cần chuyển đổi giữa tra cứu nhanh và so sánh chi tiền.

Xu hướng tiếp theo và điều cần theo dõi

Bài viết sử dụng ví dụ giả định về ngân hàng để minh họa, chưa cung cấp số liệu đo lường hiệu năng thực tế trên quy mô lớn.