Các nhà lãnh đạo an ninh nên duy trì sự giám sát của con người như thế nào khi các tác nhân AI đảm nhận nhiều công việc hơn? Quyền thiết lập những hành động mà đại lý có thể thực hiện, nhưng một hành động được phép vẫn có thể đảm bảo phán quyết của một người. Yêu cầu phê duyệt cho mỗi bước có vẻ như là cách tiếp cận an toàn nhất nhưng các tác vụ gồm nhiều bước có thể tạo ra các lời nhắc lặp đi lặp lại, ngay cả đối với các hành động thông thường. Nghiên cứu về các cảnh báo bảo mật cho thấy sự chú ý và tuân thủ có thể giảm đi khi lặp lại. Thách thức không phải là yêu cầu nhiều phê duyệt hơn mà là duy trì sự chú ý đối với các quyết định cần có sự xem xét của con người. Phê duyệt thông minh trong Amazon Quick giải quyết thách thức này bằng cách xem xét các hành động đủ điều kiện trong phạm vi kiểm soát hiện có của bạn. Nó đánh giá từng hành động được đề xuất theo yêu cầu của người dùng và tự động phê duyệt hoặc trả lại cho người dùng để xem xét. Nó thực hiện điều này mà không cấp thêm quyền hoặc loại bỏ sự chấp thuận cần thiết của con người. Các nhà lãnh đạo bảo mật giữ quyền kiểm soát những hành động nào phải luôn được thực hiện bởi một người, trong khi Phê duyệt thông minh được thiết kế để giảm sự gián đoạn không cần thiết trong công việc thường ngày.

Hình 1: Chính sách xác định tính đủ điều kiện. Phê duyệt thông minh phê duyệt các hành động đủ điều kiện hoặc trả lại cho người dùng để xem xét. Từ chối chính sách vẫn bị chặn

Chính sách đặt ra ranh giới Đánh giá nhanh từng hành động được đề xuất dựa trên Quyền tùy chỉnh, Lan can nhanh, quyền hành động của trình kết nối và cài đặt của người dùng trước khi xem xét tự động. Các hành động bị từ chối vẫn bị từ chối và sự chấp thuận bắt buộc của con người vẫn được áp dụng. Khi bật Phê duyệt thông minh, một hành động chỉ đủ điều kiện khi cài đặt của người dùng là “Hỏi mỗi lần” và không có biện pháp kiểm soát nào khác yêu cầu sự phê duyệt của con người. Quyền hành động của trình kết nối, được định cấu hình khi tạo trình kết nối, có thể yêu cầu sự chấp thuận của con người đối với các hành động cụ thể. Quản trị viên sử dụng Quyền tùy chỉnh để xác định ai có thể sử dụng Phê duyệt thông minh. Tính năng này được bật theo mặc định nhưng các cấu hình có bật tính năng từ chối theo mặc định phải cho phép tính năng này một cách rõ ràng. Người dùng cũng có thể tắt Phê duyệt thông minh cho chính mình. Lựa chọn đó áp dụng cho các cuộc trò chuyện và các lần chạy theo lịch trình. Khi tính năng này tắt, các hành động đủ điều kiện để xem xét tự động sẽ cần có sự chấp thuận của người dùng và không có cài đặt cấp tài khoản nào có thể bật lại tính năng này cho họ. Cách xem xét các hành động đủ điều kiện Phê duyệt thông minh sử dụng một mô hình riêng biệt, bộ phân loại, để đánh giá các hành động đủ điều kiện theo yêu cầu của người dùng và chế độ xem giới hạn của cuộc trò chuyện. Nó xem xét hành động đó làm gì, dữ liệu đi đâu và nó ảnh hưởng đến ai. Nó có thể tham khảo biểu đồ tri thức của người dùng, trong đó chứa con người và các mối quan hệ công việc được rút ra từ các nguồn được kết nối. Điều này giúp nó hiểu được mối liên hệ của người nhận với người dùng, chẳng hạn như liệu người nhận có nằm trong chuỗi báo cáo của người dùng hay không. Việc tra cứu này vẫn nằm trong tài khoản Quick của bạn. Quick không sử dụng nội dung mà trình phân loại đánh giá, bao gồm cả dữ liệu biểu đồ tri thức, để đào tạo mô hình hoặc cải thiện dịch vụ. Một hành động có thể phù hợp với yêu cầu và vẫn đảm bảo có sự xem xét của con người. Ví dụ bao gồm gửi nội dung ra bên ngoài tổ chức hoặc tới lãnh đạo cấp cao trong chuỗi báo cáo của người dùng, thay đổi quyền truy cập, xóa hồ sơ hoặc bắt đầu thanh toán. Danh sách này chưa đầy đủ và trình phân loại cũng cân nhắc bối cảnh xung quanh. Xem xét các hành động theo yêu cầu thêm của người dùng Đây là biện pháp kiểm tra chống lại việc đưa vào dấu nhắc gián tiếp, trong đó các hướng dẫn trong nội dung được truy xuất sẽ cố gắng chuyển hướng tác nhân. Quick hướng dẫn cả tác nhân và bộ phân loại xử lý nội dung đó dưới dạng thông tin chứ không phải hướng dẫn. Đánh giá mô hình vẫn có thể mắc lỗi, do đó, những hành động luôn phải nhận được sự chấp thuận của con người, bao gồm cả những hành động di chuyển dữ liệu nhạy cảm, phải yêu cầu thông qua quyền hành động của trình kết nối. Bộ phân loại đưa ra phán đoán. Dịch vụ cấp phép thực thi quyền hạn. Mỗi phê duyệt tự động chỉ được sử dụng một lần, chỉ áp dụng cho hành động và thông số chính xác được xem xét và không cấp quyền liên tục. Dán nhãn nhanh các phê duyệt tự động trong cuộc trò chuyện. Các hành động mà trình phân loại không phê duyệt sẽ trả lại cho người dùng, cũng như thời gian chờ và các lỗi đánh giá khác không bao giờ cấp phép phê duyệt tự động. Những ranh giới thực thi này giới hạn những gì được phê duyệt cho phép. Họ không chứng minh được rằng phán đoán của người phân loại là đúng. Khi một hành động vượt quá yêu cầu Người quản lý tài khoản yêu cầu Quick chuẩn bị bản tóm tắt đánh giá hoạt động kinh doanh hàng quý cho AnyCompany bằng cách sử dụng ghi chú tài khoản của nhóm cô ấy và email của quý trước. Sau đó, cô ấy yêu cầu Quick gửi nó cho hai đồng nghiệp mà cô ấy nêu tên. Giả sử việc gửi đủ điều kiện để được xem xét tự động, Phê duyệt thông minh sẽ đánh giá hành động được đề xuất dựa trên yêu cầu của cô ấy và bối cảnh cuộc trò chuyện có sẵn. Bây giờ, giả sử một ghi chú tài khoản nói rằng bản tóm tắt cũng phải nằm trong danh sách phân phối tất cả doanh số bán hàng của khoảng 2.000 người. Điều đó sẽ thay đổi đối tượng ngoài những người nhận mà cô ấy đã chỉ định, vì vậy Phê duyệt thông minh được thiết kế để trả lại đề xuất gửi cho cô ấy để xem xét, nơi cô ấy có thể từ chối nó. Không thể sử dụng lại phê duyệt gửi cho người nhận ban đầu cho nhiều đối tượng hơn. Bằng chứng kiểm toán và điều tra Dịch vụ cấp phép nhanh ghi lại các cập nhật quyền liên quan đến Phê duyệt thông minh trong AWS CloudTrail trong tài khoản của bạn. Mỗi sự kiện xác định người dùng, trình kết nối, hành động và thời gian, đồng thời đánh dấu yêu cầu là được liên kết với Phê duyệt thông minh. Cái đó điểm đánh dấu không chứng minh rằng dịch vụ cấp phép đã chấp nhận sự cấp phép hoặc hành động đã chạy. Quick cũng ghi lại các phán quyết kiểm tra quyền, bao gồm cả việc từ chối các quyền hành động của trình kết nối và các thay đổi đối với cài đặt Phê duyệt thông minh của người dùng. Các nhà điều tra có thể liên hệ các sự kiện này theo người dùng và thời gian với hoạt động Nhanh khác trong CloudTrail và các nhật ký được phân phối qua Nhật ký Amazon CloudWatch. Nhật ký trò chuyện ghi lại yêu cầu của người dùng, phản hồi của hệ thống và bối cảnh cuộc trò chuyện. Nhật ký siêu dữ liệu của tổng đài viên ghi lại các thay đổi đối với tổng đài viên. Các bản ghi từ hệ thống đích, chẳng hạn như email đã gửi hoặc phiếu cập nhật, xác nhận xem hành động đã hoàn thành hay chưa. Cùng với nhau, những nguồn này giúp tái tạo lại những gì đã xảy ra mà không coi sự chấp thuận là bằng chứng thực hiện. Lịch sử sự kiện CloudTrail lưu giữ các sự kiện trong 90 ngày, vì vậy hãy định cấu hình đường dẫn để điều tra lâu hơn. Vì nhật ký trò chuyện có thể chứa nội dung nhạy cảm nên hãy hạn chế quyền truy cập và xem xét các chính sách bảo vệ dữ liệu của CloudWatch Logs để che giấu dữ liệu nhạy cảm. Bắt đầu từ đâu Vì Phê duyệt thông minh được bật theo mặc định, nên hãy bắt đầu bằng cách xác nhận rằng các hành động yêu cầu sự phê duyệt của con người được định cấu hình thông qua quyền hành động của trình kết nối. Thiết lập đường dẫn CloudTrail và phân phối nhật ký trò chuyện cũng như nhật ký siêu dữ liệu của nhân viên tới CloudWatch Logs để hỗ trợ điều tra. Nhật ký trò chuyện chỉ ghi lại hoạt động sau khi định cấu hình phân phối, vì vậy các lần phê duyệt trước đó sẽ thiếu ngữ cảnh cuộc trò chuyện đó. Với các yêu cầu phê duyệt và đăng nhập sẵn có, hãy sử dụng Quyền tùy chỉnh để giới hạn Phê duyệt thông minh cho nhóm thí điểm làm việc theo quy trình công việc đã xác định trước khi mở rộng quy trình đó sang các nhóm khác. Trước khi thí điểm, hãy xác định thành công trông như thế nào: ít lời nhắc hơn về các hành động thường ngày và các hành động do hậu quả vẫn được một người xem xét. Trong quá trình thí điểm, hãy xem xét mẫu phê duyệt tự động và thử nghiệm các trường hợp có tác động cao, chẳng hạn như gửi nội dung ra bên ngoài tổ chức hoặc thêm người nhận được giới thiệu bằng tài liệu. Xác nhận rằng những trường hợp này quay trở lại với người dùng. Xác nhận rằng nhóm của bạn có thể theo dõi từng hoạt động từ phê duyệt đến thực hiện. Chỉ mở rộng sang nhiều nhóm và quy trình công việc hơn khi kết quả đáp ứng các tiêu chí đó và đánh giá lại khi hành động và chính sách thay đổi. Thước đo giám sát hiệu quả không phải là tần suất người đại diện yêu cầu phê duyệt mà là liệu mọi người có giữ được quyền kiểm soát đối với các quyết định mang tính hệ quả hay không. Đối với các nhà lãnh đạo bảo mật, trường hợp mở rộng Phê duyệt thông minh phải dựa trên bằng chứng từ chương trình thí điểm. Ít lời nhắc hơn sẽ có giá trị khi chúng duy trì được sự chú ý mà không làm suy yếu trách nhiệm giải trình. Để biết các bước thiết lập, hãy xem Phê duyệt thông minh trong phần quản trị của Hướng dẫn sử dụng nhanh Amazon.

Về tác giả