OpenAI đang tung ra GPT-6 Cyber, phiên bản mới nhất của mô hình AI an ninh mạng, được cho là có khả năng tìm ra lỗ hổng tốt hơn và ít có khả năng lừa đảo và hack các nền tảng khác trong quá trình này. OpenAI cho biết trong quá trình thử nghiệm, GPT-6 Cyber ​​đã vượt quá giới hạn chưa đến 1% thời gian, giảm từ khoảng 5% với GPT-5.6 Cyber.

OpenAI cho biết mô hình an ninh mạng mới của họ tốt hơn trong việc không hack các công ty khác

Được phân loại là 'Quan trọng', GPT-6 Cyber ​​vượt trội hơn GPT-6 Astra về các điểm chuẩn liên quan đến mạng.

Đánh giá, được gọi là ExploitGym HoneyPot, được mô phỏng theo Sự cố Ôm Mặt, trong đó các đặc vụ AI của OpenAI đã xâm nhập vào cộng đồng AI nguồn mở để tìm câu trả lời cho một vấn đề mà họ được giao nhiệm vụ giải quyết. Fouad Matin, người đứng đầu nhóm an toàn và chuẩn bị mạng của OpenAI, cho biết trong cuộc họp báo: “Với mô hình 6 Cyber, chúng tôi có thể thực hiện những cải tiến lớn trong đánh giá này”. “Hơn 99% thời gian là làm những gì bạn yêu cầu.”

Tuy nhiên, nhận thức đánh giá hoặc khi hệ thống AI nhận ra rằng nó đang được thử nghiệm và thay đổi hành vi để phản hồi, vẫn là một mối lo ngại. Matin cho biết: “Nhận thức về đánh giá là ưu tiên hàng đầu của chúng tôi. “Thông thường khi chúng tôi thấy nhận thức về đánh giá, bạn sẽ thấy nó trong chuỗi suy nghĩ của mô hình.” Matin nói thêm rằng OpenAI đang cố gắng ưu tiên các đánh giá giống như sản xuất, trong đó mô hình tương tác với các cơ sở mã thực với mục tiêu thực là giảm thiểu rủi ro về nhận thức.

Sau một loạt sự cố an ninh mạng AI, OpenAI đã chạy đua để tăng cường các biện pháp bảo vệ và khóa các mô hình mạnh nhất của mình. Công ty đã tạm dừng một thời gian ngắn việc đào tạo các mô hình AI hàng đầu của mình và hiện hạn chế quyền truy cập của họ vào Internet.

GPT-6 Cyber ​​được phân loại là Quan trọng về an ninh mạng trên Khung chuẩn bị của OpenAI, cho biết rằng nó “có thể xác định và phát triển các hoạt động khai thác chức năng zero-day ở mọi mức độ nghiêm trọng trong nhiều hệ thống quan trọng trong thế giới thực đã được bảo mật mà không cần sự can thiệp của con người”. GPT-5.6 Cyber ​​trước đây được phân loại là Cao trong khuôn khổ.

GPT-6 Cyber ​​vượt trội hơn GPT-6 Astra, mô hình cấp độ quan trọng hàng đầu của OpenAI, trong hầu hết các nhiệm vụ liên quan đến mạng. Trong ExploitGym, một điểm chuẩn AI để đo lường xem mô hình AI có thể khai thác lỗ hổng hay không, GPT-6 Cyber ​​đạt 48,5%, cao hơn khoảng 16 điểm so với 32,1% của GPT-5.6 Cyber ​​và cao hơn một vài điểm so với điểm 42,4% của GPT-6 Astra. OpenAI cho biết mô hình này đã giúp tìm ra 81 lỗ hổng chưa được biết trước đây trong Firefox và đóng vai trò củng cố cơ sở hạ tầng của OpenAI để đào tạo các mô hình AI.

Ngoài ra, GPT-6 Cyber ​​còn có các biện pháp bảo vệ mạnh mẽ hơn “để phát hiện và ngăn chặn hành vi sử dụng sai mục đích” đồng thời tuân thủ tốt hơn hướng dẫn của người dùng. OpenAI cho biết họ đang sử dụng các biện pháp kiểm tra mới để ngăn chặn “hoạt động có rủi ro cao”, bao gồm các cuộc tấn công vào cơ sở hạ tầng quan trọng như nhà máy điện và cơ sở xử lý nước.

GPT-6 Cyber ​​đang triển khai để chọn lọc các thành viên của chương trình Daybreak Red của OpenAI, chương trình này dành cho các công ty và tổ chức sử dụng mô hình của nó cho “công việc an ninh mạng phòng thủ được ủy quyền”. Nó sẽ mở rộng GPT-6 Cyber ​​​​cho tất cả khách hàng của Daybreak Red trong những tuần tới.