
Amazon Bedrock hỗ trợ lưu trữ bộ nhớ đệm cho các mô hình mã nguồn mở
Amazon Bedrock hiện cho phép các mô hình AI mã nguồn mở tái sử dụng dữ liệu ngữ cảnh thông qua tính năng lưu trữ bộ nhớ đệm. Công nghệ này giúp giảm chi phí đầu vào và độ trễ phản hồi bằng cách tránh xử lý lại các nội dung tĩnh như tài liệu tham khảo hoặc định nghĩa công cụ.
















