Theo nghiên cứu mới báo trước một bước ngoặt được nhiều người mong đợi trong bối cảnh an ninh mạng, các mô hình trí tuệ nhân tạo mở hiện nay gần như có khả năng xâm nhập vào mạng máy tính như những mô hình đóng tốt nhất.

Vals, một công ty đo lường khả năng của AI, đã bắt đầu thử nghiệm xem các mô hình AI khác nhau có thể thực hiện các hướng dẫn mạng nhiều bước phức tạp trên các mạng công ty mô phỏng tốt đến mức nào.

Nikil Ravi, một nhà nghiên cứu tại Vals cho biết: “Các mô hình biên giới tốt nhất, được khóa trong phòng thí nghiệm và chỉ có sẵn thông qua các chương trình truy cập đáng tin cậy, hiện đang bắt đầu được so sánh với các mô hình mở mà bất kỳ ai cũng có thể tải xuống”.

Phát hiện của công ty cho thấy các mô hình khép kín không còn có lợi thế rõ ràng về kỹ năng mạng, có nghĩa là những nỗ lực gần đây của các phòng thí nghiệm biên giới nhằm hạn chế quyền truy cập vào mô hình của họ và do đó làm chậm sự phổ biến của các khả năng đó, có thể sẽ được tranh luận.

Những phát hiện này cũng rất đáng chú ý vì các phòng thí nghiệm biên giới của Hoa Kỳ, đặc biệt là Anthropic, đã đặt tiền đề cho việc phát hành có giới hạn các mẫu máy mới—bắt đầu với Claude Mythos Preview vào tháng 4—với ý tưởng rằng quyền truy cập có kiểm soát sẽ chỉ kéo dài thời gian trước khi khả năng hack nâng cao được phổ biến rộng rãi.

Logan Graham, trưởng nhóm biên giới của Anthropic, đã nói với WIRED vào tháng 4 rằng Dự án Glasswing của công ty, cho phép truy cập đáng tin cậy vào toàn bộ khả năng của các mẫu mới, đã tập trung vào việc đưa những công cụ đó “vào tay những người bảo vệ để bắt đầu thuận lợi”.

Ông nói với WIRED vào thời điểm đó: "Chúng ta cần chuẩn bị ngay từ bây giờ cho một thế giới mà những khả năng này sẽ được phổ biến rộng rãi trong 6, 12, 24 tháng nữa. Nhiều điều sẽ khác về vấn đề bảo mật".

Bảy tháng sau, quá trình chuyển đổi đó dường như đã đến đúng tiến độ.

Vals đã thử nghiệm các mô hình AI trong hai tình huống mô phỏng, giao cho chúng nhiều nhiệm vụ cụ thể khác nhau cần đạt được. Kịch bản đầu tiên liên quan đến một mạng công ty giả có thể truy cập được thông qua một trang web công khai. Thứ hai liên quan đến hai mạng lưới công ty khác nhau; một mô hình cần phải thỏa hiệp cái đầu tiên để có được quyền truy cập vào cái thứ hai.

Các nhà nghiên cứu nhận thấy mô hình mạng tiên tiến nhất của OpenAI, Daybreak, chỉ dành cho các đối tác đáng tin cậy, có khả năng cao nhất, hoàn thành trung bình 81% nhiệm vụ được giao trong hai bài kiểm tra. Mô hình trọng lượng mở DeepSeek của Trung Quốc cũng không kém xa, hoàn thành trung bình 73% mục tiêu. Các nhà nghiên cứu của Vals lưu ý rằng trong một số nhiệm vụ, hai mô hình đạt điểm ngang nhau.

Nghiên cứu cũng cho thấy việc sử dụng mô hình trọng lượng mở cho loại nhiệm vụ này sẽ rẻ hơn bao nhiêu. Vals cho biết GPT-6-Sol phải tốn từ 17 đến 46 đô la tiền token để thực hiện một cuộc tấn công so với 2 đến 3 đô la cho DeepSeek. Các mô hình mở thường rẻ hơn vì chúng có thể chạy trên phần cứng của chính người dùng. Rayan Krishnan, Giám đốc điều hành của Vals, cho biết điều này cũng mang lại động lực mạnh mẽ cho những người chơi phòng thủ sử dụng các mô hình mở thay vì các mô hình độc quyền.

OpenAI đã không trả lời ngay lập tức yêu cầu bình luận.

Phần lớn thời gian trong năm, lĩnh vực an ninh mạng đã diễn ra đúng như dự đoán, với việc AI tự động hóa các nhiệm vụ hack cốt lõi để giúp cả kẻ tấn công và người bảo vệ tìm ra một số lượng lớn lỗ hổng mới trong mã và nhanh chóng thăm dò các điểm yếu của mạng. Trong khi tốc độ và quy mô của các phát hiện cũng như cường độ sửa các lỗi phần mềm chưa được phát hiện đều tăng lên, các chuyên gia vẫn đang tranh luận liệu AI có làm thay đổi căn bản nền tảng khái niệm và nguyên lý của phòng thủ an ninh mạng hay không. Nói cách khác, vẫn chưa rõ liệu các công cụ AI có gây ra một loại mối đe dọa mới hay khuếch đại những thách thức bảo mật đã tồn tại từ lâu hay không.

Thực tế là các mô hình mở hiện đang bắt đầu khớp với các mô hình đóng là rất quan trọng để hiểu cách tin tặc tội phạm có thể khai thác AI cũng như cách các công ty và nhà phát triển nên phản ứng. Nhưng trên thực tế, quan sát thực tế về hoạt động hack của tội phạm mạng và được nhà nước hậu thuẫn đã nhiều lần cho thấy trong những tháng gần đây rằng những kẻ tấn công đang làm những gì chúng luôn làm bằng cách bảo tồn tài nguyên của mình và thường sử dụng các mô hình cũ hơn và kém năng lực hơn—cả độc quyền và mở—trong hầu hết hoạt động của chúng. Và ngay cả với sự kiểm soát chặt chẽ, những người bảo vệ phải cho rằng những kẻ tấn công được tài trợ tốt nhất và có động cơ cao nhất đã có ít nhất một số quyền truy cập vào các mô hình đóng trong suốt thời gian qua.

Alex Zenla, đồng sáng lập và giám đốc công nghệ của công ty bảo mật đám mây Edera cho biết: “Tôi đồng ý chung rằng các mô hình trọng lượng mở ngày nay có khả năng tạo ra các cuộc tấn công và lỗ hổng nâng cao, đặc biệt là khi bạn xem xét các mô hình đã bị loại bỏ nhằm vô hiệu hóa việc huấn luyện an toàn bằng cách sửa đổi trọng lượng”. "Tôi cảnh báo trước về điều này là có khả năng các phòng thí nghiệm đóng cửa đã đào tạo thêm các mô hình chưa được phát hành vượt quá những khả năng này. Vì vậy, tôi sẽ coi việc này rất giống một trò chơi mèo vờn chuột. Các phòng thí nghiệm nhận thấy mình đang tiến nhanh để vượt qua các mô hình trọng lượng mở, để có thể bảo vệ các lỗ hổng trước khi các mô hình trọng lượng mở tìm thấy chúng. Thật không may, tôi nghĩ rằng đây có thể là khởi đầu của một bối cảnh an ninh nguy hiểm."

Bình luận

Quay lại đầu trang