WIRED cho biết, cơ quan giám sát của chính phủ Vương quốc Anh đang xem xét một cuộc điều tra về việc Bộ Nội vụ sử dụng các công cụ AI tổng hợp để xử lý đơn xin tị nạn. Cuộc thăm dò tiềm năng theo chân các nhà lập pháp và nhà nghiên cứu công khai đặt câu hỏi về độ chính xác của các công cụ này cũng như tính bí mật của chính phủ xung quanh việc sử dụng chúng.

Chánh thanh tra độc lập về Biên giới và Nhập cư (ICIBI), cơ quan giám sát việc quản lý biên giới, nhập cư và hải quan của Bộ Nội vụ, đã yêu cầu Nhóm Quyền mở phi lợi nhuận về quyền kỹ thuật số (ORG) chia sẻ thêm thông tin về các công cụ khi họ lên kế hoạch cho các chủ đề mà họ sẽ kiểm tra vào năm tới, nhà vận động Sara Alsherif nói với WIRED. Phát hiện của ORG đến từ cuộc điều tra kéo dài sáu tháng về các công cụ, bao gồm 11 câu hỏi của quốc hội, hai lá thư của bộ trưởng và 10 yêu cầu hồ sơ công nhằm cố gắng thu thập thông tin chi tiết từ Bộ Nội vụ, cơ quan đã giữ kín thông tin chi tiết về các công cụ này.

ICIBI nói với WIRED rằng họ không thể xác nhận những chủ đề nào đang được xem xét tích cực trước khi công bố các ưu tiên kiểm tra hàng năm, nhưng họ cho biết họ nhận thức được những lo ngại về việc sử dụng các công cụ AI và chỉ ra những phát hiện của mình vào năm ngoái rằng một trong những “hiệu quả và độ tin cậy của công cụ này rất đa dạng”.

"Các quyết định về nơi tị nạn được đưa ra bởi các nhân viên phụ trách đã được đào tạo, với các công cụ AI chỉ được sử dụng để hỗ trợ điều hướng hồ sơ phỏng vấn và thông tin chính sách. Chúng không thể được sử dụng riêng lẻ và không đưa ra quyết định về các yêu cầu bồi thường", người phát ngôn của Home Office nói với WIRED trong email. “Chúng tôi thường xuyên giám sát hiệu suất của các công cụ này cùng với các quy trình đảm bảo chất lượng đã được thiết lập của chúng tôi và đã cam kết công bố các đánh giá cập nhật khi triển khai chúng”.

Bộ Nội vụ sử dụng các công cụ Tóm tắt trường hợp tị nạn (ACS) và Tìm kiếm chính sách tị nạn (APS), được xây dựng trên mô hình ngôn ngữ lớn GPT-4 2023 của OpenAI và Microsoft Foundry, để tóm tắt bản ghi các cuộc phỏng vấn với những người xin tị nạn và thông tin về quốc gia xuất xứ của họ, theo các tài liệu mà ORG thu được. Cơ quan thực thi pháp luật và nhập cư bắt đầu thí điểm những công cụ này vào cuối năm 2024 khi chính phủ Lao động cố gắng giải quyết khoảng 100.000 trường hợp tị nạn tồn đọng, đồng thời luôn cập nhật hàng chục nghìn đơn đăng ký mới mà Vương quốc Anh nhận được mỗi năm. Trong khi bộ đã đạt được tiến bộ đáng kể, giảm một nửa số người chờ đợi quyết định ban đầu trong năm tính đến tháng 6, số lượng khiếu nại các quyết định đã tăng vọt.

Các nhà nghiên cứu lo ngại về tính chính xác của các công cụ AI – đặc biệt là trong việc quyết định một vấn đề mang tính rủi ro cao như liệu có nên gửi ai đó trở lại quốc gia nơi họ lo sợ bị đàn áp hay không. ORG nhận thấy rằng tỷ lệ phần trăm các bản tóm tắt do ACS tạo ra được coi là không phù hợp để sử dụng—thường do chúng chứa sai sót thực tế hoặc trình bày sai—cao hơn đáng kể so với tỷ lệ lỗi 9% đã công bố được tính toán trong đánh giá thí điểm. Nó cũng cho thấy không có sự kiểm soát chất lượng đối với các bản tóm tắt do APS tạo ra.

Những người ra quyết định về tị nạn sử dụng các công cụ này để tiết kiệm thời gian khi xem xét các trường hợp tị nạn; theo ước tính của chính phủ, khi được sử dụng cùng nhau, phi công đã cho thấy các công cụ này có thể tiết kiệm khoảng một giờ cho mỗi trường hợp. Nhân viên phụ trách sử dụng ACS để đẩy nhanh quá trình xem xét bản ghi các cuộc phỏng vấn trong đó những người xin tị nạn giải thích họ đã bị bức hại như thế nào ở đất nước của họ và lý do họ sợ quay trở lại. Họ sử dụng APS như một trợ lý tìm kiếm để tìm và tóm tắt thông tin chính sách quốc gia, thông báo cho họ biết liệu người nộp đơn có phải đối mặt với nguy cơ bị tổn hại thực sự ở quê nhà hay không. Vào tháng 7, một thẩm phán Vương quốc Anh đã cáo buộc Bộ Nội vụ trích dẫn một tài liệu “ảo giác AI” để từ chối đơn xin tị nạn của một phụ nữ Maroc và con của cô ấy với lý do rằng quê hương của cô ấy sẽ an toàn để cô ấy trở về.

"Chúng tôi đang đối phó với cuộc sống của mọi người. Chúng tôi đang nói về những người đã phải đối mặt với một số hoàn cảnh tồi tệ nhất và chúng tôi phải đưa ra quyết định dựa trên thực tế và hiểu biết về tác hại", Nghị sĩ đảng Lao động Bell Ribeiro-Addy nói với WIRED. “Tôi chỉ không nghĩ việc máy móc làm điều đó là phù hợp.”

Người phát ngôn của Home Office cho biết: “Việc sử dụng Trí tuệ nhân tạo chỉ là một trong những công cụ mà chúng tôi có thể sử dụng để bảo vệ biên giới của mình và không thay thế hoặc tự động hóa vai trò của những người ra quyết định của con người”.

Ribeiro-Addy, Alsherif và Dự án Luật công, vốn đang điều tra riêng các công cụ, cũng lo ngại rằng “sự thiên vị văn hóa” được ghi chép rõ ràng trong các mô hình GPT có thể dẫn đến rào cản ngôn ngữ và mất đi sắc thái văn hóa trong các bản tóm tắt, từ đó có thể dẫn đến các quyết định phân biệt đối xử. Người phát ngôn của OpenAI nhấn mạnh với WIRED công việc đang diễn ra của công ty nhằm cải thiện độ chính xác của các mô hình và chỉ ra rằng công ty sẽ ngừng sử dụng GPT-4 vào tháng 1.

Trong trường hợp không có quy định, “Sách AI” của Vương quốc Anh yêu cầu các bộ phận phải minh bạch về các công cụ thuật toán mà họ sử dụng trong quá trình ra quyết định và cung cấp thông tin về chúng cho công chúng, bao gồm cả việc liệt kê các công cụ đó trên kho lưu trữ công cộng. Các công cụ tìm kiếm chính sách và tóm tắt trường hợp của Home Office không có trong danh sách đó.

Những người xin tị nạn cũng không được thông báo khi nào các công cụ AI này được sử dụng trong trường hợp của họ. Alsherif, người đứng đầu chương trình tư pháp kỹ thuật số dành cho người di cư của ORG, cho biết: “Các tổ chức di cư, những người hành nghề luật, không nhiều người trong số họ biết về cách sử dụng thực tế của công cụ này”. “Vì vậy, chúng tôi cần cho họ biết về điều này, cho họ biết nó hoạt động như thế nào để họ có thể thách thức nó.” Luật sư của Cloisters viết trong một quan điểm pháp lý độc lập do ORG ủy quyền. Việc không thể phản đối bản tóm tắt AI không chính xác về thông tin cá nhân của họ có thể vi phạm luật về quyền dữ liệu của Vương quốc Anh. Home Office tuyên bố rằng các phần của quá trình ra quyết định có thể liên quan đến việc tự động hóa trong thông báo về quyền riêng tư của họ.

Cả hai nhóm đều đã gửi phát hiện của mình tới Ủy ban Thông tin, cơ quan quản lý dữ liệu của Vương quốc Anh, hiện đang điều tra việc Bộ Nội vụ từ chối cho ORG biết cách nhân viên sử dụng và được đào tạo để sử dụng hai công cụ AI.

Nhà nghiên cứu cấp cao của Dự án Luật Công Caroline Selman cũng lưu ý rằng các công cụ ACS và APS chỉ là hai trong số 11 hệ thống AI có rủi ro cao mà nhóm của cô nhận thấy đang được sử dụng trong toàn bộ chính phủ nhưng không có trong kho lưu trữ công cộng. Cô lo ngại rằng có thể có nhiều lực lượng được triển khai hơn trong chính phủ mà ngay cả các nhà nghiên cứu, chứ đừng nói đến những cá nhân mà họ đang được sử dụng, cũng không biết đến.

Selman nói: “Các công cụ khác đang được sử dụng nhưng hoàn toàn không được công bố, và bạn thậm chí không thể bắt đầu đặt câu hỏi về mọi thứ nếu bạn không biết rằng chúng đang được sử dụng”.

Bình luận

Quay lại đầu trang