Khi các tác nhân AI sản xuất xử lý các nhiệm vụ như phân tích dữ liệu và tạo báo cáo, việc quản lý bối cảnh có thể trở thành một nút thắt lớn. Khoảng thời gian 200K mã thông báo nghe có vẻ hào phóng cho đến khi một nhiệm vụ trong thế giới thực tiêu tốn phần lớn số tiền đó trong vài phút. Việc phân tích dữ liệu và tạo báo cáo khiến tác nhân không thực hiện được giữa chừng, mất độ chính xác hoặc tăng chi phí. Một phần hướng dẫn được xuất bản đã đề cập đến vấn đề này, nhưng các kỹ thuật riêng lẻ thì dễ đọc hơn là áp dụng. Được áp dụng cùng nhau, chúng tạo ra sự khác biệt có thể đo lường được: trong quá trình triển khai tham chiếu mà bài đăng này hướng dẫn, một công cụ viết và thực thi duy nhất sẽ cắt giảm các mã thông báo mà mỗi tập lệnh thêm vào ngữ cảnh khoảng 95% và các kỹ năng tải theo yêu cầu sẽ thu hẹp lời nhắc hệ thống khoảng 97%. Loạt bài này sắp xếp hướng dẫn đó thành các phương pháp thực hành mà bạn có thể áp dụng trực tiếp. Các bài đăng kỹ thuật của Anthropic, cùng với các tính năng được tích hợp trong SDK Agents của Strands, hội tụ bốn lớp kỹ thuật bối cảnh: cô lập bối cảnh ở cấp độ kiến ​​trúc, kiểm soát nó thông qua các lời nhắc, đưa nó ra bên ngoài hệ thống tệp và xác minh nó bằng các tác nhân và biện pháp bảo vệ độc lập. Trong bài đăng này (Phần 2), bạn sẽ tìm hiểu cách mỗi lớp hoạt động và nó trông như thế nào trong mã đang hoạt động. Chúng tôi đã áp dụng các kỹ thuật này trong Deep Insight, một giải pháp phân tích dữ liệu đa tác nhân nguồn mở được xây dựng trên Strands Agents SDK và Amazon Bedrock AgentCore, đóng vai trò triển khai tham chiếu xuyên suốt. loạt bài đăng

Phần 1: 5 thách thức sản xuất trong hệ thống đa tác nhân và cách Deep Insight giải quyết chúng. Phần 2: Bốn lớp kỹ thuật bối cảnh cho các tác nhân AI sản xuất: Deep Insight áp dụng chúng như thế nào trong mã làm việc. Phần 3: Khai thác kỹ thuật trong thực tế: chuyển Deep Insight từ nhà phát triển sang sản xuất. (Sắp ra mắt!)

Bài đăng đầu tiên xác định năm thách thức cốt lõi mà các hệ thống đa tác nhân sản xuất phải giải quyết. Nó giới thiệu cách mỗi Strands Agents SDK, Amazon Bedrock và Bedrock AgentCore cũng như AWS Fargate giải quyết các lớp khác nhau của vấn đề, kèm theo các ví dụ về mã. Bài đăng thứ hai này đề cập đến bốn lớp thực hành kỹ thuật ngữ cảnh nằm trên kiến ​​trúc đó và hiển thị từng lớp được triển khai. Bài đăng thứ ba hướng dẫn bạn cách triển khai và vận hành các tác nhân trong mạng riêng an toàn trên Amazon Virtual Private Cloud (Amazon VPC), bao gồm mọi thứ cần thiết cho hoạt động trong thế giới thực. Kỹ thuật bối cảnh là gì? Kỹ thuật ngữ cảnh là kỷ luật tối ưu hóa thông tin trong cửa sổ ngữ cảnh giới hạn của mô hình ngôn ngữ lớn (LLM) để các tổng đài viên hoạt động tốt nhất. Anthropic Claude Sonnet 4.5, có sẵn trên Amazon Bedrock, cung cấp cửa sổ ngữ cảnh 200K nhưng các tác vụ sản xuất phức tạp sẽ nhanh chóng vượt quá con số đó. Ví dụ: một yêu cầu có vẻ đơn giản như “Phân tích dữ liệu bán hàng và tạo báo cáo DOCX” sẽ trải qua nhiều giai đoạn: tải và khám phá dữ liệu (5 phút), phân tích doanh số bán hàng theo danh mục (3 phút), tạo năm biểu đồ để phân tích chuỗi thời gian (10 phút), xác thực thống kê (3 phút) và tạo báo cáo cuối cùng (5 phút). Họ cùng nhau tiêu thụ hơn 150 nghìn mã thông báo trong 15 phút. Việc xử lý các tác vụ như vậy trong một ngữ cảnh duy nhất sẽ gây ra sự cố: cửa sổ tràn ra giữa tác vụ, ngữ cảnh cũ làm giảm hiệu suất và lỗi yêu cầu phải chạy lại toàn bộ quy trình. Khi bối cảnh phát triển, sự chú ý đến thông tin quan trọng sẽ giảm xuống và tính kém hiệu quả sẽ làm tăng chi phí khi định giá mỗi mã thông báo.

“Khi số lượng mã thông báo trong cửa sổ ngữ cảnh tăng lên, khả năng thu hồi chính xác thông tin từ ngữ cảnh đó của mô hình sẽ giảm (Context rot).” — Anthropic, “Kỹ thuật bối cảnh hiệu quả cho các tác nhân AI” (2025.09)

Kỹ thuật bối cảnh giải quyết chính xác những vấn đề này và nó không chỉ là tập hợp các kỹ thuật. Bao gồm thiết kế kiến ​​trúc mở rộng, viết nhanh, triển khai công cụ và xác minh, đó là một nguyên tắc phân lớp trong đó mỗi lớp bù đắp cho những gì lớp trước thiếu. Bài đăng này trình bày chi tiết về cách tiếp cận bốn lớp mà bạn có thể áp dụng để quản lý bối cảnh một cách hiệu quả. Cách xử lý các tác vụ vượt quá cửa sổ ngữ cảnh Anthropic đã xuất bản một số kỹ thuật để xử lý các nhiệm vụ dài hạn. Deep Insight nhóm các kỹ thuật này thành bốn lớp, mỗi lớp giải quyết các hạn chế của các lớp khác. Bảng sau đây trình bày bốn lớp.

Lớp Thực hành Nguyên tắc cốt lõi Hạn chế

Lớp 1: Kiến trúc Cô lập bối cảnh thông qua kiến trúc đa tác nhân Mỗi tác nhân hoạt động trong một bối cảnh độc lập Khi sự cô lập thôi là chưa đủ

Lớp 2: Nhắc Kiểm soát đầu ra và quy tắc hành vi Giới hạn việc tiếp nhận ngữ cảnh thông qua lời nhắc Khi lời nhắc thôi là không đủ

Lớp 3: Công cụ Ngoại hóa bối cảnh dựa trên tệp Giữ nội dung nặng trong các tệp bên ngoài ngữ cảnh Khi vấn đề vẫn còn phát sinh

Lớp 4: Cơ quan xác minh và biện pháp bảo vệ Xác minh độc lập và biện pháp bảo vệ Bắt lỗi và ngăn chặn tràn ngữ cảnh Tuyến phòng thủ cuối cùng

Các phần tiếp theo sắp xếp từng lớp theo thứ tự, nêu rõ những gì lớp quy định, tại sao chỉ các lớp trước là không đủ và cách thực hành trong Deep Insight.

1. Cô lập bối cảnh thông qua kiến trúc đa tác nhân Cung cấp cho mỗi tác nhân chuyên biệt một cửa sổ ngữ cảnh riêng và chỉ chuyển kết quả đã nén cho người điều phối. Deep Insight thực hiện điều này với hệ thống phân cấp gồm Người điều phối, Người lập kế hoạch, Người đánh giá kế hoạch, Người giám sát và Người đại diện công cụ (Người viết mã, Người xác thực, Người báo cáo, Người theo dõi, Người kiểm tra). Với một tác nhân duy nhất, tất cả thông tin, từ yêu cầu của người dùng cho đến khám phá, phân tích dữ liệu, tạo biểu đồ, xác thực và báo cáo, đều được tích lũy trong một ngữ cảnh và dễ dàng vượt ra ngoài cửa sổ. Việc cung cấp cho mỗi tác nhân bối cảnh riêng sẽ giữ lại ngay cả Coder, bộ mã sử dụng nhiều nhất, tổng số dưới 25 nghìn mã thông báo. Mỗi tác nhân chỉ nhận được những gì mình cần và báo hiệu cho người khác bằng thông báo hoàn thành và bản tóm tắt ngắn gọn. Chìa khóa của sự cô lập là giảm thiểu thông tin được chia sẻ. Deep Insight sử dụng từ điển Python, Shared_state, chỉ lưu trữ bốn thứ:

tin nhắn: Tin nhắn cuối cùng của tổng đài viên trước đó (không phải toàn bộ lịch sử cuộc trò chuyện). manh mối: Bản tóm tắt nén được thu thập từ mỗi tác nhân. full_plan: Danh sách kiểm tra do Planner tạo và được Tracker cập nhật. lịch sử: Nhật ký ngắn gọn về tên và tin nhắn của đại lý.

Các manh mối sử dụng CLUES_FORMAT cố định: thay vì cuộc trò chuyện đầy đủ của mỗi nhân viên (hàng chục nghìn mã thông báo), chỉ các kết quả cốt lõi được nén mới được thông qua.

code_agent_tool.py -- định dạng truyền ngữ cảnh

CLUES_FORMAT = "Đây là manh mối từ {}:\n\n \n{}\n \n\n" RESPONSE_FORMAT = "Phản hồi từ {}:\n\n \n{}\n \n\nVui lòng thực hiện bước tiếp theo."

Sau khi Coder hoàn thành: chỉ thêm kết quả đã nén vào manh mối

manh mối += CLUES_FORMAT.format("codec", reply["text"])

Mẫu này là mẫu được đề xuất trong bài đăng “Cách chúng tôi xây dựng hệ thống nghiên cứu đa tác nhân” của Anthropic, mô tả mô hình người điều phối-công nhân trong đó tác nhân chính ủy quyền cho các tác nhân phụ chuyên biệt, trong đó mỗi tác nhân chỉ làm việc trong bối cảnh riêng của nó. Bạn không cần phải tự xây dựng nó: mẫu tác nhân như công cụ trong SDK tác nhân của Strands cung cấp sự cô lập này ở cấp khung. 2. Kiểm soát luồng ngữ cảnh thông qua lời nhắc Chỉ cách ly Lớp 1 thôi là chưa đủ: ngay cả với các bối cảnh độc lập, một tác nhân tạo ra phản hồi dài sẽ làm tăng bối cảnh của Người giám sát. Lớp 2 giới hạn đầu ra của mỗi tác nhân thông qua lời nhắc. Đối với Deep Insight, chúng tôi sử dụng lời nhắc để giới hạn lượng thông tin mà mỗi nhân viên trả lại cho Người giám sát. Ba quy tắc thực hiện hầu hết công việc, như lời nhắc của Deep Insight cho thấy.

"Bắt đầu với mô hình mạnh nhất và một lời nhắc đơn giản. Sau đó, dần dần thêm các hướng dẫn cụ thể dựa trên các trường hợp lỗi được quan sát thực tế." — Anthropic, “Kỹ thuật bối cảnh hiệu quả cho các tác nhân AI” (2025.09)

Chi tiết triển khai 2-1: Ngân sách mã thông báo đầu ra rõ ràng cho mỗi đại lý Lời nhắc của mỗi tổng đài viên chỉ định số lượng mã thông báo phản hồi tối đa, ngăn chặn các phản hồi dài gây ô nhiễm bối cảnh của Người giám sát.

đại lý Ngân sách mã thông báo đầu ra Lý do

Bộ mã hóa 1.000–1.500 token Mã phân tích được lưu vào tệp nên tác nhân chỉ trả về bản tóm tắt trạng thái, nhiệm vụ đã hoàn thành và thông tin chi tiết

Trình xác thực 800 token Kết quả xác thực được lưu vào cites.json. Tác nhân chỉ trả về một bản tóm tắt

Phóng viên 1.000 token Tác nhân tạo báo cáo dưới dạng tệp DOCX và chỉ trả về bản tóm tắt kết quả

Bài đăng "Viết các công cụ hiệu quả dành cho đại lý" của Anthropic đề xuất cung cấp cho các công cụ tùy chọn phản hồi Súc tích hoặc CHI TIẾT để đạt hiệu quả theo ngữ cảnh. Áp dụng ý tưởng tương tự khi lên cấp cao hơn trong lời nhắc hệ thống của mỗi tổng đài viên. Trong Deep Insight, tất cả các tổng đài viên đều có chung một định dạng chuẩn hóa:

Trạng thái

[THÀNH CÔNG | PHẦN_THÀNH CÔNG | LỖI]

Nhiệm vụ đã hoàn thành

• [Nhiệm vụ 1 từ FULL_PLAN -- sử dụng từ ngữ chính xác để Trình theo dõi có thể khớp]
• [Nhiệm vụ 2 -- cụ thể, không chung chung]

Thông tin chi tiết chính

• [Tìm khóa 1 bằng số và tỷ lệ]
• [Phát hiện chính 2 có ý nghĩa kinh doanh]

Tệp được tạo

• ./artifacts/chart.png -- mô tả ngắn gọn
• ./artifacts/computer_metadata.json -- N phép tính

Chi tiết triển khai 2-2: Triết lý mã độc lập Lời nhắc của tác nhân Coder nêu rõ "các biến không tồn tại giữa các tập lệnh". Mọi tập lệnh phải bao gồm tất cả dữ liệu nhập và tải cần thiết trực tiếp. Lời nhắc cung cấp cả ví dụ sai và đúng:

SAU -- Cố gắng sử dụng một biến từ Lượt 1 trong Lượt 2

Lượt 1:

df = pd.read_csv('data.csv') tổng = df['Số tiền'].sum()

Lượt 2:

print(f"Total: {total}") # NameError: tên 'total' không được xác định

ĐÚNG -- Mọi tập lệnh đều khép kín

nhập gấu trúc dưới dạng pd df = pd.read_csv('./artifacts/cache/df_main.csv') # Tải từ bộ đệm tổng = df['Số tiền'].sum() print(f"Tổng cộng: {total}")

Lý do quy tắc này liên quan đến kỹ thuật ngữ cảnh là vì việc tham chiếu các biến từ các tập lệnh trước đó yêu cầu tác nhân phải “ghi nhớ” các cuộc hội thoại trước đó, có nghĩa là mã quá khứ phải được giữ nguyên trong ngữ cảnh. Nguyên tắc khép kín có nghĩa là mã quá khứ có thể được xóa khỏi ngữ cảnh một cách an toàn. Chi tiết thực hiện 2-3: Quy tắc hoàn thành phần của người giám sát Lời nhắc của Người giám sát bao gồm quy tắc “Không chuyển sang nhân viên tiếp theo cho đến khi tất cả các mục trong danh sách kiểm tra trong phần của nhân viên hiện tại được đánh dấu [x]”. Chúng tôi thể hiện quy tắc này một cách nhanh chóng vì việc quyết định xem công việc của Người viết mã có hoàn thành hay không đòi hỏi Người giám sát phải diễn giải kế hoạch bằng cách sử dụng thông tin từ các bản cập nhật của Người theo dõi. Phán quyết này rất khó diễn đạt chỉ bằng mã. 3. “Chỉ con trỏ trong ngữ cảnh, dữ liệu thực tế trong tệp” Lớp 1 tách biệt bối cảnh giữa các tác nhân và Lớp 2 giới hạn đầu ra trong các tác nhân. Nhưng khi tác nhân Coder tạo ra 100 dòng mã Python, mã đó sẽ tự đi vào ngữ cảnh. Ngay cả với hướng dẫn nhắc nhở “trả lời ngắn gọn”, một số mã không thể được viết ngắn gọn. Lớp 3 sử dụng thiết kế công cụ để di chuyển nội dung nặng ra ngoài ngữ cảnh vào hệ thống tệp. Bốn kỹ thuật mang lại hầu hết lợi ích, như chi tiết triển khai sau đây cho thấy. Chi tiết triển khai 3-1: Di chuyển mã ra ngoài ngữ cảnh bằng Công cụ Viết và Thực thi Coder đọc kế hoạch phân tích, viết Python và thực thi nó để tạo ra các hình ảnh trực quan. Nhưng khi mã dài, cách tiếp cận thông thường (các công cụ ghi và thực thi tệp riêng biệt) sẽ thêm 100 dòng trực tiếp vào ngữ cảnh trên mỗi tập lệnh, tích lũy hơn 1.000 dòng. Cách khắc phục là thu gọn hai bước thành một công cụ duy nhất để mã không bao giờ nhập ngữ cảnh dưới dạng thông báo. Tác nhân Coder của Deep Insight sử dụng một công cụ write_and_execute_tool cho việc này. Đây là một phần của write_and_execute_tool. Sau khi ghi và thực thi tệp, nó chỉ trả về một bản tóm tắt: “Đã viết 105 dòng, thực hiện thành công, hoàn thành phân tích năm loại.” Mã vẫn còn trong tệp và khoảng ba dòng tóm tắt vẫn còn trong ngữ cảnh. Dựa trên ví dụ này, điều đó tiết kiệm được khoảng 95% số token.

write_and_execute_tool.py

def _handle_write_and_execute_tool(file_path, nội dung, timeout=300): """Viết một tập lệnh Python và thực thi nó ngay lập tức."""

Bước 1: Viết file

với open(file_path, 'w',coding='utf-8') là f: f.write(nội dung)

Bước 2: Thực hiện ngay

kết quả = subprocess.run( f"python {file_path}", vỏ=Đúng, capture_output=Đúng, hết thời gian=hết giờ )

Chỉ trả về bản tóm tắt

trả về các dòng f"Đã viết {len(content.split(chr(10)))} cho {file_path}\n"
f"Thực thi thành công\n"
f"Đầu ra: {result.stdout[:500]}" # Chỉ 500 ký tự đầu tiên

“Lọc phía máy chủ: lọc dữ liệu ở lớp thực thi trước khi nó đến ngữ cảnh, giảm 98,7% mã thông báo (150K xuống 2K).” — Anthropic, “Thực thi mã với MCP” (2025.11)

Chi tiết triển khai 3-2: Sử dụng lại logic chung làm mô-đun trong tác nhân Coder Các mô-đun phổ biến được sử dụng lại trong các phân tích. Thay vì tạo lại chúng mỗi lần, hãy xác định các hàm được sử dụng thường xuyên dưới dạng mô-đun một lần và nhập chúng, điều này giúp tránh lãng phí mã thông báo và trùng lặp ngữ cảnh. Nếu không có điều này, việc xác định các hàm như to_python_type() hoặc track_computer() trong mỗi phân tích sẽ tạo ra 200–300 dòng mã trùng lặp trên 10 phân tích. Deep Insight tạo một mô-đun có tên là Code_analysis_utils.py trước nhiệm vụ đầu tiên. Nó bao gồm các chức năng để chuyển đổi các loại khó hiểu, theo dõi siêu dữ liệu tính toán và lưu vào JSON. Các phân tích tiếp theo sẽ nhập nó, thay thế 20–30 dòng được tạo lại bằng hai dòng nhập, giúp tiết kiệm mã thông báo và cải thiện tính nhất quán cũng như gỡ lỗi.

code_analysis_utils.py -- mô-đun chung được tạo trước nhiệm vụ đầu tiên

nhập numpy dưới dạng np nhập json từ ngày giờ nhập ngày giờ

_tính toán = []

def to_python_type(giá trị): """Chuyển đổi kiểu numpy/gấu trúc thành kiểu gốc Python""" if isinstance(value, (np.integer, np.int64)): trả về int(value) elif isinstance(value, (np.floating, np.float64)): trả về float(value) elif isinstance(value, np.ndarray): trả về value.tolist() giá trị trả về

def track_tính toán (calc_id, giá trị, mô tả, công thức, source_file, source_columns, tầm quan trọng): """Siêu dữ liệu tính toán theo dõi -- Trình xác thực sẽ xác minh độc lập sau""" _tính toán.append({ "id": calc_id, "value": to_python_type(value), "mô tả": mô tả, "công thức": công thức, "source_file": source_file, "source_columns": source_columns, “importance”: tầm quan trọng })

def save_computer_metadata(path="./artifacts/computer_metadata.json"): """Lưu tất cả các phép tính được theo dõi vào JSON""" với open(path, 'w',coding='utf-8') là f: json.dump({"generated_at": datetime.now().isoformat(), "phép tính": _tính toán}, f, Ensure_ascii=False, thụt lề=2)

Chi tiết triển khai 3-3: Lưu và chia sẻ kết quả phân tích thông qua ghi chú có cấu trúc Chúng tôi sử dụng tính năng ghi chú có cấu trúc để chia sẻ kết quả phân tích chi tiết mà không cần chuyển chúng qua ngữ cảnh của từng tổng đài viên. Deep Insight lưu trữ những kết quả này trong một tệp có tên all_results.txt, sau đó được nhân viên hỗ trợ đọc khi cần. Ví dụ: tác nhân Coder sẽ thêm kết quả vào all_results.txt sau mỗi tác vụ phân tích:

với open('./artifacts/all_results.txt', 'a',coding='utf-8') là f: f.write(f"""

Phân tích doanh số ngành hàng (hoàn thành lúc: 14:32)

• Danh mục doanh thu cao nhất: Trái cây (417.166.008 KRW, 45% tổng số)
• Top 3 loại: Trái cây, Rau củ, Thịt (78% tổng số)
• Tệp được tạo: ./artifacts/category_sale_chart.png """)

Coder ghi lại kết quả chi tiết vào file này sau mỗi lần phân tích và Reporter đọc nó khi viết báo cáo cuối cùng. Các tác nhân khác cộng tác thông qua all_results.txt theo cách tương tự. Không cần ghi chú, Người viết mã sẽ chuyển kết quả chi tiết cho Người giám sát sau mỗi nhiệm vụ, tích lũy theo ngữ cảnh của nó. Với tính năng ghi chú, chỉ một thông báo khoảng 30 mã thông báo như “Hoàn thành phân tích doanh số theo danh mục, tìm thấy 3 thông tin chi tiết chính, kết quả chi tiết được lưu vào all_results.txt” được chuyển và Trình báo cáo sẽ đọc tệp khi cần. Mẫu này khái quát hóa ngoài một tệp duy nhất. Bản thân hệ thống tập tin có thể đóng vai trò là bus liên lạc giữa các tác nhân, giống như trong Deep Insight:

Tên tập tin Nhà sản xuất Người tiêu dùng Vai trò

all_results.txt Bộ mã hóa Phóng viên Nhật ký tích lũy của kết quả phân tích

tính toán_metadata.json Bộ mã hóa Trình xác thực Bản ghi các phép tính số: nguồn, công thức và giá trị (để xác minh)

trích dẫn.json Trình xác thực Phóng viên Dữ liệu trích dẫn đã được xác minh (được chèn dưới dạng [1], [2] trong báo cáo)

kiểm toán_findings.json Kiểm toán viên Phóng viên Các lỗi trích dẫn được tìm thấy trong báo cáo cuối cùng (thúc đẩy các lần thử lại của Trình báo cáo được nhắm mục tiêu)

code_analysis_utils.py Bộ mã hóa Tất cả tập lệnh Các chức năng tiện ích được chia sẻ (viết một lần, nhập nhiều lần)

full_plan (shared_state) Người lập kế hoạch/Theo dõi Giám sát viên Trạng thái danh sách kiểm tra (đang cập nhật [x])

Cách tiếp cận “đúng lúc”, tải dữ liệu động vào ngữ cảnh trong thời gian chạy thay vì xử lý trước tất cả dữ liệu có liên quan, giúp ngữ cảnh luôn mới mẻ, phù hợp và thích ứng với trạng thái phát triển của nhiệm vụ.” — Anthropic, “Kỹ thuật bối cảnh hiệu quả cho các tác nhân AI” (2025.09)

Chi tiết triển khai 3-4: Chỉ tải kiến thức cần thiết bằng Kỹ năng Thay vì đưa tất cả kiến thức chuyên ngành vào dấu nhắc hệ thống, phương pháp này chỉ tải nó khi cần thiết. Bao gồm mọi hướng dẫn kỹ năng (kiểm tra cấu trúc dữ liệu, tạo README, tạo kỹ năng, viết lời nhắc hệ thống, tạo công cụ) sẽ bổ sung hơn 20 nghìn mã thông báo, tải thông tin không cần thiết vào tác nhân Coder trong mỗi cuộc gọi và buộc triển khai lại để thêm kỹ năng. Hệ thống Kỹ năng của Deep Insight chỉ tải danh mục kỹ năng khoảng 500 mã thông báo khi khởi động, với danh sách kỹ năng chỉ chứa tên và mô tả ngắn gọn. Khi người dùng yêu cầu “Tạo tệp README”, nhân viên sẽ quyết định “Tôi cần kỹ năng readme-generator” và gọi kỹ năng_tool(skill_name="readme-generator"). SkillLoader đọc readme-generator/SKILL.md và trả về hướng dẫn chi tiết về khoảng 3K mã thông báo.

#1. Khám phá kỹ năng (lúc khởi tạo) từ src.utils.skills.skill_utils nhập khởi tạo_skills available_skills, kỹ năng_prompt = khởi tạo_skills( Skill_dirs=["./skills"], dài dòng=Đúng )

2. Thêm vào Dấu nhắc hệ thống (danh mục ~ 500 mã thông báo)

system_prompt = base_prompt + kỹ năng_prompt

#3. Runtime -- Agent nạp kỹ năng khi cần

Agent quyết định: "Đây là thế hệ README, tôi cần kỹ năng readme-generator"

-> Skill_tool(skill_name="readme-generator")

-> Trả về nội dung SKILL.md đầy đủ (~3K token)

Mỗi kỹ năng được định nghĩa là một tệp SKILL.md bao gồm YAML frontmatter và hướng dẫn đánh dấu chi tiết. Nó bao gồm siêu dữ liệu như tên, mô tả, giấy phép và các công cụ được phép, cùng với Tổng quan, Khi nào nên sử dụng Kỹ năng này, hướng dẫn chi tiết và Thực tiễn tốt nhất. Để thêm một kỹ năng mới, hãy tạo một thư mục mới trong Skills/ và viết tệp SKILL.md và nó sẽ tự động được phát hiện. Khi khởi động, tác nhân tải danh mục kỹ năng gồm khoảng 500 mã thông báo thay vì lãng phí hơn 20.000 mã thông báo cho các hướng dẫn đầy đủ (ít hơn khoảng 97%). Khi cần, nó có thể tải thêm hướng dẫn chi tiết về kỹ năng trị giá vài nghìn mã thông báo. 4. Xác minh chất lượng bằng các tác nhân xác minh và biện pháp bảo vệ Ngay cả với Lớp 1–3, vẫn còn một rủi ro: các nhân viên bị cô lập không thể nhìn thấy công việc của nhau, vì vậy nếu Người viết mã tính toán sai, Người báo cáo sẽ đưa lỗi đó vào báo cáo. Lớp 4 là tuyến phòng thủ cuối cùng.

"Cung cấp các công cụ kiểm tra để tác nhân có thể tự xác minh các tính năng và sửa các lỗi không rõ ràng chỉ bằng mã. Yêu cầu mô hình cam kết tiến trình của nó với git bằng các thông báo cam kết mô tả và viết tóm tắt tiến trình trong một tệp tiến trình." — Anthropic, “Khai thác hiệu quả cho các tác nhân lâu dài” (2025.11)

Chi tiết triển khai 4-1: Tác nhân theo dõi, xác thực và kiểm tra viên: theo dõi tiến độ và đảm bảo chất lượng Trình theo dõi cập nhật danh sách kiểm tra của kế hoạch theo thời gian thực. Khi Coder hoàn tất việc tải dữ liệu, Người giám sát gọi Trình theo dõi để cập nhật mục kế hoạch từ [ ] đến [x] dựa trên thông tin như “Hoàn tất tải dữ liệu (1.000 hàng, 5 cột)”. Điều này giúp cả người dùng và hệ thống biết chính xác tiến độ đang ở đâu. Trình xác thực thực hiện lại các phép tính của Coder một cách độc lập để xác minh độ chính xác. Nó đọc tính toán_metadata.json, thực hiện lại từng phép tính từ dữ liệu nguồn và so sánh: các kết quả khớp trong phạm vi 0,01 lượt, những kết quả không khớp được gắn cờ. Tính toán đã xác minh thì vào cites.json để Người báo cáo trích dẫn. Sau khi Trình báo cáo kết thúc, Kiểm tra viên sẽ kiểm tra DOCX cuối cùng dựa trên cites.json và Calculate_metadata.json mà không sửa đổi chúng. Nó ghi lại các lỗi trích dẫn trong Audit_findings.json và có thể yêu cầu tối đa hai lần thử lại có chủ đích từ Trình báo cáo. Chi tiết triển khai 4-2: Ưu tiên tính toán để xác minh Việc xác minh mọi phép tính đều không hiệu quả, vì vậy hãy xác minh phạm vi theo mức độ quan trọng. OptimizedValidator của Deep Insight áp dụng các ngưỡng sau:

Hơn 50 phép tính: lọc tích cực, xác minh tất cả cao cộng chỉ 10 trung bình. Hơn 20 phép tính: lọc vừa phải, xác minh tất cả cao cộng với 15 trung bình. 20 phép tính trở xuống: xác minh hầu hết, tất cả cao cộng với tất cả trung bình cộng với 5 thấp.

Nó cũng áp dụng so sánh an toàn kiểu: để tránh các vấn đề về kiểu numpy so với Python, tất cả các giá trị được chuyển đổi thành float() và kiểm tra sự khác biệt tuyệt đối dưới 0,01:

validator.md -- so sánh số an toàn kiểu

thử: match = abs(float(dự kiến) - float(thực tế)) < 0,01 ngoại trừ: match = str(dự kiến) == str(thực tế)

Chi tiết triển khai 4-3: Tóm tắtConversationManager: mạng lưới an toàn cuối cùng Ngữ cảnh vẫn có thể bị tràn trong các trường hợp đặc biệt, vì vậy hãy giữ một mạng lưới an toàn bên dưới các lớp khác. Deep Insight sử dụng SummarizingConversationManager trong Strands Agents SDK cho việc này.

#strand_sdk_utils.py -- cấu hình mạng an toàn khi tạo tác nhân đại lý = Đại lý( người mẫu=llm, system_prompt=system_prompt, công cụ=công cụ, Conversation_manager=Tóm tắtConversationManager( summary_ratio=0,5, # tóm tắt 50% cũ nhất khi tràn bảo tồn_recent_messages=10, # luôn lưu giữ 10 tin nhắn gần đây nhất tóm tắt_system_prompt=apply_prompt_template("tóm tắt", {}) ) )

Khi tràn, LLM tóm tắt 50 phần trăm tin nhắn cũ nhất thành một, trong khi luôn giữ nguyên 10 tin nhắn gần đây nhất để giữ bối cảnh của nhiệm vụ hiện tại. Lời nhắc tóm tắt (summarization.md) yêu cầu các manh mối, kế hoạch và trạng thái theo dõi phải được giữ nguyên nguyên văn. Chi tiết triển khai 4-4: Bộ nhớ đệm nhanh có chọn lọc để tối ưu hóa chi phí Kỹ thuật bối cảnh bao gồm tối ưu hóa chi phí, không chỉ tiết kiệm mã thông báo. Bật bộ nhớ đệm lời nhắc cho mỗi tác nhân, dựa trên tần suất mỗi tác nhân được gọi với cùng một lời nhắc. Cài đặt cho mỗi tác nhân của Deep Insight:

đại lý Bộ nhớ đệm nhắc nhở Bộ đệm công cụ Lý do

Giám sát viên Có Có Tần suất gọi lặp lại cao, với lời nhắc hệ thống lớn và định nghĩa công cụ

Bộ mã hóa Có Có Chạy nhiều tập lệnh phân tích một cách tuần tự, với cùng một lời nhắc mỗi lần

Phóng viên Có Có Tạo báo cáo tăng dần theo từng phần với tần suất sử dụng lại lời nhắc cao

Kiểm toán viên Có Có Kiểm tra các tệp DOCX và JSON qua nhiều lượt với cùng một lời nhắc và công cụ, đồng thời chạy lại sau mỗi lần Trình báo cáo thử lại

Điều phối viên Không Không Một cuộc gọi một lần, không có lợi ích bộ nhớ đệm

Người lập kế hoạch Không Không Được gọi một lần cho mỗi yêu cầu và chỉ gọi lại khi người dùng yêu cầu sửa đổi gói

Trình xác thực Không Không Được gọi với dữ liệu khác nhau mỗi lần, tỷ lệ nhấn bộ đệm thấp

Trình theo dõi Không Không Tác vụ nhẹ, không cần công cụ, không cần bộ nhớ đệm

Các tổng đài viên có bật bộ nhớ đệm sẽ chèn các điểm bộ nhớ đệm vào lời nhắc hệ thống và định nghĩa công cụ, giảm tới 90% chi phí mã thông báo đầu vào cho các cuộc gọi lặp lại. Đây là một tính năng được hỗ trợ nguyên bản bởi Strands Agents SDK. Người đánh giá kế hoạch không xuất hiện trong bảng vì đây là bước trong vòng lặp thu thập sự chấp thuận hoặc phản hồi của người dùng thay vì gọi mô hình. Kết luận Bài đăng này trình bày chi tiết về phương pháp kỹ thuật bốn lớp mà bạn có thể sử dụng để quản lý ngữ cảnh một cách hiệu quả cho các tác vụ phức tạp vượt quá cửa sổ ngữ cảnh.

Lớp 1 (cách ly cấp độ kiến ​​trúc): Mỗi tác nhân hoạt động trong bối cảnh độc lập thông qua kiến ​​trúc đa tác nhân, chỉ truyền các bản tóm tắt được nén. Lớp 2 (kiểm soát dựa trên lời nhắc): Ngân sách mã thông báo đầu ra, định dạng phản hồi được tiêu chuẩn hóa và triết lý mã độc lập chủ động hạn chế luồng vào ngữ cảnh. Lớp 3 (sử dụng hệ thống tệp): write_and_execute_tool giữ mã bên ngoài ngữ cảnh, hệ thống tệp đóng vai trò là bus giao tiếp giữa các tác nhân và kiến ​​thức chỉ được tải từng phần khi cần. Lớp 4 (xác minh và bảo vệ): Xác minh lại tính toán độc lập của Người xác thực, kiểm tra trích dẫn chỉ đọc của Kiểm toán viên trong báo cáo cuối cùng, theo dõi tiến trình của Trình theo dõi, ngăn chặn tràn của SummarizingConversationManager và bộ nhớ đệm nhanh có chọn lọc quản lý cả chất lượng và chi phí.

Mỗi lớp tạo thành một hệ thống phòng thủ bù đắp cho những gì các lớp trước đó thiếu. Khi cách ly kiến ​​trúc không đủ, sẽ nhắc nhở giới hạn đầu ra. Khi không đủ lời nhắc, các công cụ sẽ giữ nội dung ở bên ngoài. Và khi vấn đề vẫn nảy sinh, việc xác minh sẽ phát hiện được chúng. Mỗi lớp này được ghi lại trong các bài đăng kỹ thuật của Anthropic, “Kỹ thuật bối cảnh hiệu quả cho tác nhân AI”, “Thực thi mã với MCP” và “Cách chúng tôi xây dựng hệ thống nghiên cứu đa tác nhân của mình”. Phần lớn những gì họ đề xuất đã có sẵn trong Strands Agents SDK thay vì là thứ bạn xây dựng: SummarizingConversationManager, bộ nhớ đệm nhanh chóng và mẫu tác nhân như công cụ. Khi xây dựng các tác nhân sản xuất, chỉ riêng cửa sổ ngữ cảnh của LLM hiếm khi là đủ. Áp dụng các kỹ thuật kỹ thuật bối cảnh này để quản lý bối cảnh một cách hiệu quả và mở rộng quy mô cho các tác nhân của bạn cho khối lượng công việc sản xuất. Deep Insight, cách triển khai tham chiếu được sử dụng ở đây, là nguồn mở. Xem lại mã và mở rộng mã cho miền của bạn.

GitHub Xưởng

Về các tác giả