Đầu năm nay, các nguồn tin cho WIRED biết, một nhà thầu đã gây ra sự cố bảo mật tại Bộ Quốc phòng bằng cách kết nối một hệ thống tập trung an toàn được nhiều cơ quan tình báo sử dụng với tài khoản cá nhân của họ cho Claude Code, nhân viên mã hóa AI của Anthropic. Có vẻ như đại lý được nhà thầu làm việc cho công ty tư vấn toàn cầu Accenture sử dụng sau đó đã gửi thông tin về hệ thống DOD, bao gồm thông tin xác thực đăng nhập, đến một trang web của bên thứ ba có rủi ro cao.

Hệ thống tập trung chứa thông tin chưa được phân loại (CUI) được kiểm soát, được coi là nhạy cảm và không được công bố ra công chúng nếu chưa được xem xét. CUI có thể bao gồm thông tin về cơ sở hạ tầng quan trọng, động cơ đẩy tàu ngầm hạt nhân và các lỗ hổng trước khủng bố hóa học và sinh học. Ngoài ra, các chuyên gia bảo mật cho biết, quyền truy cập vào hệ thống có thể cho phép khai thác những hệ thống nhạy cảm hơn.

Một nguồn tin biết về vụ việc yêu cầu giấu tên vì họ không được phép nói chuyện với báo chí cho biết: “Nó khiến tất cả dữ liệu trong đó gặp rủi ro”. Nếu phần mềm của bên thứ ba bị xâm phạm, "có thể có ai đó có khả năng đăng nhập vào một môi trường an toàn mà không ai biết. Đó 100% là mối đe dọa an ninh quốc gia và có thể gây ra tác hại không thể khắc phục được".

Người phát ngôn của DOD nói với WIRED rằng “Bộ không bình luận về trạng thái của mạng hoặc hệ thống của mình”.

Người phát ngôn của Accenture nói với WIRED: "Chúng tôi xem xét mọi mối lo ngại một cách nghiêm túc. Những cáo buộc này đã được điều tra kỹ lưỡng và độc lập và được phát hiện là không có cơ sở. Chúng tôi hoàn toàn tuân thủ các nghĩa vụ pháp lý và hợp đồng của mình". Khi bị thúc ép, Accenture không đưa ra lời giải thích rõ ràng về người đã tiến hành cuộc điều tra hoặc tranh chấp về những gì có thể được coi là một sự cố.

Nhân viên của Accenture bị cáo buộc đã kết nối môi trường sản xuất an toàn với tài khoản Claude cá nhân của họ để cho phép đặc vụ AI viết và triển khai mã. Claude hiện bị nhân viên DOD cấm sử dụng. (Anthropic hướng WIRED tới chính sách sử dụng của công ty**,** hướng dẫn người dùng không sử dụng sản phẩm của họ để “can thiệp vào hoạt động của các căn cứ quân sự và cơ sở hạ tầng liên quan” hoặc để “bỏ qua các biện pháp kiểm soát bảo mật như hệ thống xác thực, bảo vệ điểm cuối hoặc các công cụ giám sát mà không được phép.”)

Tác nhân AI của nhân viên Accenture đã chạy trên mạng DOD trong hai tháng trước khi được xác định và lỗ hổng có thể được vá. Các nguồn tin chỉ ra rằng bất chấp những rủi ro bảo mật do tác nhân mã hóa AI gây ra, nhân viên của Accenture không coi vụ việc là nghiêm trọng hoặc khẩn cấp. Nhân viên của Bộ Quốc phòng và các nhà thầu liên bang được yêu cầu báo cáo bất kỳ sự cố an ninh mạng nào trong vòng 72 giờ kể từ khi phát hiện ra, nhưng các nguồn tin cho biết Accenture ban đầu không báo cáo vi phạm nào cho chính phủ.

Nhân viên này cho biết: “Hiện tại chúng tôi đang xung đột với Iran”, đồng thời lưu ý rằng Iran đã cố gắng tấn công một số cơ quan liên bang và một số cơ sở hạ tầng của Hoa Kỳ. “Đây là thời điểm tồi tệ nhất để có thái độ ung dung như thế này.”

Có một mẹo?
Bạn là nhân viên hiện tại hay cựu nhân viên chính phủ muốn nói về những gì đang xảy ra? Chúng tôi muốn nghe ý kiến ​​từ bạn. Sử dụng điện thoại hoặc máy tính không hoạt động, liên hệ với các phóng viên một cách an toàn trên Signal theo địa chỉ velliott88.18.

Accenture hiện có hợp đồng trị giá hơn 3,5 tỷ USD với chính phủ liên bang, gần 605 triệu USD trong số đó là với DOD. Công ty cũng ký hợp đồng với các cơ quan liên bang khác, chẳng hạn như Bộ Giáo dục, Cơ quan Quản lý Dịch vụ Tổng hợp và Bộ Năng lượng, cùng nhiều cơ quan khác. Đầu tháng này, Cục Điều tra Liên bang đã phát hiện ra rằng một nhà thầu của Accenture đã không vá được một lỗ hổng khiến nhóm hack ShinyHunters có quyền truy cập vào thông tin chi tiết của hàng nghìn nhân viên của Cục. FBI đã loại bỏ nhà thầu đó vào đầu tháng 10.

Matt Triner, người sáng lập Hunter Strategy, một công ty tư vấn CNTT có trụ sở tại Washington, DC, nói rằng vấn đề này minh chứng cho những yêu cầu mâu thuẫn mà các nhà thầu chính phủ phải đối mặt ở phạm vi rộng hơn. Triner cho biết: “Các tổ chức thường bị trừng phạt vì báo cáo những sự cố như thế này, mặc dù đó là điều đúng đắn và hợp pháp”. Ông nói, trong nhiều trường hợp, một công ty có thể mất hợp đồng với chính phủ nếu thừa nhận họ đã vi phạm an ninh, mặc dù ông nói rằng một sự cố như mô tả là “hoàn toàn cần phải báo cáo”.

Triner cũng lưu ý rằng áp lực ngày càng tăng đối với các nhà thầu trong việc thực hiện các dự án nhanh hơn và ở mức giá thấp hơn đang mâu thuẫn với việc ưu tiên an toàn và bảo mật. Triner nói: “Thật không may, mọi người đều đang hoạt động trong một hệ thống có các quy tắc và khuyến khích cạnh tranh, vốn đã tồn tại trước AI, nhưng bây giờ vấn đề tương tự là về tốc độ”.

Môi trường mã hóa mà nhà thầu Accenture truy cập được chạy trên Mạng Bộ định tuyến Giao thức Internet Không được phân loại (NIPRNet), một mạng DOD được sử dụng cho thông tin chưa được phân loại. Mặc dù nó kết nối với internet—các nhà thầu và nhân viên có thể truy cập email và trình duyệt web của họ thông qua mạng—nhưng nó được bảo mật chặt chẽ.

Theo nguồn tin, để tự động hóa quá trình viết mã và khởi động máy chủ đám mây, nhà thầu đã cung cấp thông tin đăng nhập của họ cho đặc vụ Claude. Điều này đã cấp cho tác nhân quyền truy cập quản trị và cho phép nó bỏ qua các biện pháp kiểm soát bảo mật được thực thi thông qua quy trình đăng nhập thông thường. Tác nhân AI—không chỉ viết mã mà còn thay mặt nhân viên Accenture xác nhận hoặc lưu mã vào hệ thống—cần kết nối với Internet để thực hiện các nhiệm vụ của mình. Khi làm như vậy, có vẻ như nó đã gửi thông tin đăng nhập, mật khẩu và bản đồ NIPRNet của nhà thầu tới trang web của bên thứ ba.

WIRED đang từ chối nêu tên trang web của bên thứ ba để bảo vệ hệ thống khỏi các lỗ hổng tiếp theo, nhưng Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST) trước đây đã xác định đây là trang web có rủi ro cao vì nó có lỗ hổng có thể cho phép tin tặc đưa hướng dẫn vào tác nhân mã hóa AI để đánh cắp thông tin xác thực.

Hệ thống mà tác nhân AI truy cập có chứa CUI. Nguồn tin cho biết: “Thông tin từ môi trường CUI không được phép rời khỏi cơ sở hạ tầng đó”. “Không có thông tin chi tiết nào về điều gì đã xảy ra với thông tin, bao gồm cả thông tin đăng nhập, sau khi nó được gửi đến [dịch vụ đó], liệu nó có được giữ lại hay không”

Tùy thuộc vào cơ quan và công việc của cơ quan đó, CUI có thể bao gồm mọi thứ từ thông tin nhận dạng cá nhân (PII) đến thông tin hợp đồng hoặc kinh doanh độc quyền. Theo trang web của DOD, CUI có thể bao gồm thông tin về “việc đảm bảo và bảo vệ chất nổ, hóa chất độc hại hoặc đường ống”, tài liệu liên quan đến thiết kế của “thiết bị hoặc công nghệ quân sự hoặc vũ trụ;” và “vị trí và số lượng chính xác của chất phóng xạ.”

Khác với dữ liệu thực tế, bản đồ của nó có thể cực kỳ có giá trị đối với tin tặc. Triner cho biết: “Một khi kẻ tấn công hiểu được những thứ đó khớp với nhau như thế nào, ngay cả khi những thứ đó là thông tin công khai, điều nhạy cảm là cách chúng tôi kết hợp những thứ đó lại với nhau và biến chúng thành thông tin tình báo có thể hành động được”.

Ông nói, mặc dù bản đồ có thể không đưa tin tặc vào hệ thống, nhưng nó có thể giúp kẻ thù di chuyển nhanh hơn khi chúng có quyền truy cập và “giúp kẻ tấn công hiểu được viên ngọc quý ở đâu”.

Jake Williams, cựu hacker của NSA và giảng viên tại IANS, một công ty tư vấn tình báo và bảo mật, nói rằng một tác nhân AI chạy mã trong NIPRNet gây ra một “vấn đề lớn và có những tác động lớn đến an ninh quốc gia”.

Williams lưu ý rằng mặc dù các phần dữ liệu hoặc thông tin riêng lẻ có thể được coi là CUI, nhưng “khi thông tin chưa được phân loại đó được tổng hợp, thông tin đó có thể trở thành thông tin được phân loại”. Ví dụ: vị trí của một số vật liệu nguy hiểm có thể là CUI, cũng như có thể là thông tin về tính dễ bị tổn thương của các cơ sở chứa chúng. Tuy nhiên, kết hợp lại, họ có thể tiết lộ thông tin sẽ được giữ bí mật.

Nhưng đây không phải là cách duy nhất mà thông tin mật có thể gặp rủi ro. Thông thường, các công cụ và mã được kiểm tra trong NIPRNet trước khi triển khai vào các hệ thống nhạy cảm hơn như Mạng định tuyến giao thức Internet bí mật (SIPRNet), mạng bảo mật của quân đội dành cho thông tin mật và Hệ thống liên lạc tình báo chung toàn cầu (JWICS), mạng nội bộ an toàn dành cho thông tin tuyệt mật. Cả SIPRNet và JWICS đều có air gapped, một biện pháp bảo mật có nghĩa là chúng không được kết nối với bất kỳ mạng bên ngoài nào. Ở mức độ thực tế, điều đó có nghĩa là SIPRNet và JWICS sẽ cực kỳ khó khăn để tin tặc truy cập từ xa.

Nhưng với thông tin đăng nhập bị tác nhân AI lấy cắp, tin tặc có thể truy cập NIPRNet và chèn cửa sau hoặc mã độc hại khác vào công cụ hoặc hệ thống. Nếu không được xem xét kỹ lưỡng, mã này có thể sẽ được triển khai ở một trong các hệ thống có khe hở không khí.

Williams cho biết: “Mã có thể hoạt động hoàn toàn bình thường trong NIPR và thực hiện điều gì đó độc hại và không được tiết lộ trong mạng SIPR, điều đó 100% có thể xảy ra”. Ông cho biết thêm, việc lọc dữ liệu ra khỏi các mạng này sẽ khó khăn nhưng mã độc có thể được sử dụng để tấn công hệ thống từ bên trong. “Tôi nghĩ khả năng cao nhất sẽ là một kiểu tấn công từ chối dịch vụ phân tán nào đó,” ông nói.

Triner nói rằng ngay cả những điều tinh tế hơn, chẳng hạn như làm chậm các hoạt động và hoạt động tình báo, cũng có thể gây ra thiệt hại và khiến người dùng mất niềm tin vào một công cụ, ngay cả khi vấn đề đã được khắc phục.

Khi mã hóa rung cảm hoặc nhắc trợ lý AI viết mã cho sản phẩm được kỹ sư mô tả, ngày càng trở nên phổ biến, việc kiểm tra mã ngày càng trở thành một thách thức. AI có khả năng tạo mã với khối lượng vượt xa năng suất của con người, khiến việc kiểm tra tốn thời gian và khó khăn.

Williams nói: “Khi bạn đang sử dụng một tác nhân, bạn không biết gì về chuỗi cung ứng hoặc thậm chí chuỗi suy luận về những gì cuối cùng đã tạo ra mã”. “Bản thân rất nhiều mã mà các LLM này được đào tạo đã dễ bị tấn công và chúng có thể tạo ra các loại kiến ​​trúc giống nhau cũng như các vấn đề kiến ​​trúc mà chúng ta thấy trong các mã khác.”

Chính phủ có cách để xác định mã sai sót trong NIPRNet. Kiểm tra bảo mật ứng dụng tĩnh (SAST) quét mã để tìm lỗi và sai sót trước khi cho phép chạy. Nhưng Williams lưu ý rằng “cửa sau do hacker chèn vào không phải là một lỗ hổng, ngay cả khi chúng tôi có thể không muốn nó ở đó” và do đó có thể sẽ nằm trong tầm phát hiện của SAST. SAST cũng thường không xác định các vấn đề về cấu trúc trong chuỗi logic về cách tạo mã.

Không có dấu hiệu nào cho thấy tin tặc có thể xâm nhập vào hệ thống mật hoặc tuyệt mật. Tuy nhiên, Williams nói, vụ việc sẽ đưa ra những cảnh báo đáng kể. Ông nói: “Về mặt kiến ​​trúc, bất kỳ thông tin nào về NIPR mà bạn không thể xem qua thông tin tình báo nguồn mở, DOD sẽ xem xét giữ chặt bất kể có thứ gì đó chạm vào mạng lưới mật hay không”.

Đây không phải là lần đầu tiên Bộ Quốc phòng dễ bị tổn thương vì các vấn đề liên quan đến AI. Năm ngoái, ProPublica tiết lộ rằng Microsoft đang sử dụng “người hộ tống kỹ thuật số” trong các dự án của mình với chính phủ liên bang, trong đó các nhân viên Mỹ có giấy phép an ninh sẽ giám sát mã được viết bởi các công nhân thuê ngoài ở Trung Quốc. Các chuyên gia đã nói chuyện với ProPublica cho biết chương trình này có một rủi ro bảo mật đặc biệt vì các nhân viên Mỹ thường không thể tự kiểm tra mã, tạo ra các kẽ hở cho mã độc vô tình được chèn vào hệ thống của chính phủ.

Bình luận

Quay lại đầu trang