Phát triển Gemini 4 Argon một cách có trách nhiệm và an toàn

Tóm lược nhanh
“Phát triển Gemini 4 Argon một cách có trách nhiệm và an toàn Ngày 13 tháng 10 năm 2026 | đọc 5 phút Tìm hiểu thêm về phương pháp tiếp cận an toàn và”
Các điểm cốt lõi
- 1.Phát triển Gemini 4 Argon một cách có trách nhiệm và an toàn
- 2.Phân tích kiến trúc hệ thống và khả năng ứng dụng thực tiễn.
- 3.Đánh giá hiệu năng và tác động tới hệ sinh thái công nghệ.
Phát triển Gemini 4 Argon một cách có trách nhiệm và an toàn
Ngày 13 tháng 10 năm 2026 | đọc 5 phút
Tìm hiểu thêm về phương pháp tiếp cận an toàn và bảo mật của chúng tôi dành cho Gemini 4 Argon.
Anca Dragan Phó chủ tịch, An toàn & Hành vi AI
Raluca Ada Popa Trưởng phòng bảo mật Gemini, Google DeepMind
Gemini 4 Argon là một bước tiến về những gì mô hình có thể làm — đặc biệt là khi nói đến làm việc sâu trong các nhiệm vụ thực tế, phức tạp trên các lĩnh vực bao gồm mã hóa, tài chính, pháp lý, an ninh mạng và khoa học. Khả năng phòng thủ mạng của nó ở mức cao nhất và được thiết kế để mang lại lợi thế cho người phòng thủ trước những kẻ tấn công. Để tối đa hóa tiềm năng của nó, trước tiên chúng tôi muốn các nhà bảo vệ mạng đưa nó vào hoạt động thông qua Chương trình Fairwind của chúng tôi, trong khi các nhóm bảo mật của chúng tôi sử dụng nó để quét các hệ thống quan trọng bên trong và bên ngoài Google. Khoảng thời gian truy cập hạn chế này cho thấy lý do tại sao những khả năng này lại quan trọng. Ví dụ: Wiz đã sử dụng Argon để phát hiện ra một lỗi nghiêm trọng trong phần mềm bệnh viện mà các mô hình trước đó đã bỏ sót, giúp bảo vệ hàng trăm nghìn hồ sơ bệnh nhân. Trong khi đó, nhóm bảo mật của Google đã sử dụng Argon để tìm và vá lỗi trên phần mềm nội bộ hoặc phần mềm nguồn mở. Điều này bao gồm việc sửa các lỗ hổng cơ bản ảnh hưởng đến các hệ thống trên toàn cầu, đang trải qua quy trình tiết lộ có trách nhiệm của chúng tôi. Hôm nay, chúng tôi bắt đầu triển khai rộng rãi Argon, cũng như mở rộng Chương trình Fairwind của mình cho các nhà bảo vệ mạng đáng tin cậy hơn. Để làm tốt điều này, chúng tôi phải giải quyết hai câu hỏi lớn: Làm cách nào để xây dựng các lan can an toàn phù hợp? Nếu Argon có thể giúp những người bảo vệ tìm ra các lỗi phần mềm phức tạp hoặc giúp các nhà khoa học thiết kế các thí nghiệm, thì làm cách nào để chúng ta ngăn chặn những kẻ xấu sử dụng nó để thực hiện các cuộc tấn công mạng hoặc tạo ra các mối đe dọa sinh học? (Lạm dụng) Chúng ta có thể tin tưởng mô hình sẽ thực hiện công việc đúng cách không? Khi các mô hình trở thành những người giải quyết vấn đề tháo vát hơn, làm thế nào để chúng ta đảm bảo rằng chúng không đi tắt, vượt qua ranh giới hoặc đưa ra những quyết định sai lầm có tính rủi ro cao? (Sai lệch và tiêm nhanh) Báo cáo an toàn và bảo mật đầy đủ của chúng tôi đề cập một cách có hệ thống các biện pháp phòng vệ của chúng tôi. Dưới đây là một số điểm nổi bật trong cách chúng tôi tiếp cận hai câu hỏi này cho Gemini 4 Argon. Ngăn chặn việc sử dụng sai trên các miền có rủi ro cao Các cải tiến về lập luận và mã hóa tương tự đã cho phép Argon tìm và vá các lỗ hổng bảo mật cũng giúp mang lại hiệu suất tốt hơn thực hiện các thử nghiệm an ninh mạng của chúng tôi — giải quyết tất cả 12 tình huống tấn công mạng được mô phỏng từ đầu đến cuối, tăng so với 5 tình huống ở thế hệ trước của chúng tôi. Trong các đánh giá sinh học, các phiên bản không được bảo vệ của mô hình cũng cho thấy khả năng mạnh mẽ hơn nhiều trong việc giúp khắc phục sự cố từng bước các quy trình phòng thí nghiệm phức tạp. Tuân theo Khung An toàn Biên giới của chúng tôi, vì chúng tôi nhận thấy khả năng nâng cao trong lĩnh vực mạng và sinh học, nên chúng tôi đã áp dụng bộ biện pháp bảo vệ biên giới thế hệ tiếp theo trên cả hai lĩnh vực. Đầu tiên, khi nói đến các yêu cầu nguy hiểm tiềm ẩn — từ viết mã khai thác đến trợ giúp về các vật liệu sinh học nguy hiểm, Argon có khả năng không đáp ứng các yêu cầu có hại tốt hơn đáng kể so với các mô hình trước đây của chúng tôi. Trên một tập hợp đối nghịch nhằm mục đích kiểm tra sức chịu đựng của mô hình, các vi phạm đã giảm gần gấp đôi - cũng tốt hơn đáng kể so với các mô hình Gemini trước đây. Thứ hai, chúng tôi bọc mô hình trong ba lớp bảo vệ thời gian thực; điều này nhằm ngăn chặn những kẻ tấn công kiên quyết có thể cố gắng bẻ khóa (tức là lừa) mô hình bằng cách ngụy trang một yêu cầu nguy hiểm thành một câu chuyện vô hại hoặc chia nó thành hàng chục câu hỏi nhỏ trong vài tuần. Đây là cách hoạt động của các biện pháp bảo vệ này: Sàng lọc đầu vào: Các mô hình nhỏ hơn kiểm tra các yêu cầu đến và bối cảnh cuộc trò chuyện để phát hiện các yêu cầu có mục đích xấu hoặc nguy hiểm. Xem xét nội tâm bên trong: Ngay cả khi một yêu cầu được ngụy trang khéo léo để trông vô hại, các máy biến áp nhỏ ("đầu dò kích hoạt") sẽ đọc các tín hiệu thần kinh bên trong của mô hình và được huấn luyện để phát hiện khi yêu cầu đó kích hoạt kiến thức về các cuộc tấn công mạng hoặc các mối đe dọa sinh học. Giám sát liên tục: Khi mô hình đưa ra lý do và ghi phản hồi qua nhiều bước, chúng tôi kết hợp các tín hiệu này và thực hiện hành động khi cần thiết, chẳng hạn như cắt tác nhân giữa dòng nếu phản hồi có vấn đề. Việc kết hợp bảo vệ theo thời gian thực, sửa lỗi nhanh hơn cho các bản bẻ khóa mới và tăng cường giám sát hành vi sử dụng sai mục đích thường xuyên đã giúp hệ thống của chúng tôi ngăn chặn tác hại trong thế giới thực tốt hơn. Ví dụ: bẻ khóa sinh học bên ngoài red teaming cou ld chỉ mở khóa ít hơn 1% nhiệm vụ phụ sinh học mà chúng tôi kiểm tra. Giám sát sai lệch theo thời gian thực Đôi khi có thể có nghĩa là một tác nhân tự quyết định theo đuổi một mục tiêu khác với dự định của người dùng. Bởi vì Argon hiểu rõ hơn về môi trường mà nó đang chạy trong đó tốt hơn nhiều so với các mô hình trước đó nên chúng tôi kiểm tra cẩn thận loại hành vi đó. Ví dụ: chúng tôi đã chạy thử nghiệm "honeypot" thực tế để xem liệu mô hình có tăng khả năng thực hiện các hành động bí mật hay không, chẳng hạn như phá hoại hoạt động giám sát an toàn. Chúng tôi không tìm thấy bất kỳ trường hợp nào về hành vi đó. Nhưng những gì chúng ta thấy trong thực tế ngày nay là một điều gì đó quen thuộc hơn nhiều: một đặc vụ đang cố gắng hết sức để hoàn thành công việc được giao. Khi một trợ lý tháo vát được yêu cầu hoàn thành một nhiệm vụ và chạy vào một cánh cửa bị khóa, nó có thể coi chướng ngại vật đó chỉ là một câu đố khác cần giải. Đây là lý do tại sao chúng tôi đào tạo Gemini 4 Argon tôn trọng ranh giới của hệ thống, báo cáo trung thực những phát hiện tiêu cực và tạm dừng để yêu cầu con người xác nhận. Trên các điểm chuẩn mã hóa mà các mô hình không có động cơ để giữ lại, các nỗ lực đi đường tắt hoặc gian lận trong nhiệm vụ đã giảm xuống chỉ còn 2% trên Gemini 4 Argon, hiệu suất tốt nhất của chúng tôi dành cho các mô hình Gemini gần đây. Và mặc dù đây là một bước tiến quan trọng nhưng khi một mô hình chạy hàng triệu tác vụ phức tạp, thậm chí một sai sót hiếm gặp cuối cùng cũng sẽ xuất hiện. Với vai trò là tuyến phòng thủ thứ hai, chúng tôi đã xây dựng một trình giám sát điều chỉnh sai lệch tự động có chức năng đọc cả hành động của tổng đài viên và "bàn di chuột" bên trong (chuỗi suy nghĩ từng bước của nó) trong thời gian thực, ngăn chặn các hành vi vi phạm ranh giới nghiêm trọng trước khi chúng xảy ra và gắn cờ các trường hợp nội bộ nghiêm trọng cho người ứng phó là con người. (Chúng tôi liên tục tăng cường môi trường đào tạo và đánh giá của mình để ngăn chặn những cuộc trốn thoát tiềm ẩn. Bạn có thể đọc thêm về điều này trong lộ trình kiểm soát đặc vụ của chúng tôi). Chúng tôi chạy màn hình này trong các sản phẩm của mình, trên các tác nhân mã hóa nội bộ, trong quá trình đào tạo và trong quá trình đánh giá năng lực của chúng tôi. Khi nhiệm vụ đào tạo gặp khó khăn hoặc khi môi trường đào tạo có sai sót, màn hình của chúng tôi đã phát hiện được mô hình, trong một số trường hợp hiếm hoi, cố gắng thực hiện bài kiểm tra một cách sáng tạo. Mô hình đã cố gắng tăng đặc quyền vùng chứa để thay đổi tập lệnh chấm điểm, đọc câu trả lời từ bộ nhớ của người chạy thử và trong một trường hợp, nó thậm chí còn làm hỏng hộp cát đánh giá để tránh bị tính điểm khi chạy không thành công. Mặc dù chúng tôi sử dụng các phần khai thác này để khắc phục các tác vụ còn thiếu sót nhưng chúng tôi không sử dụng chúng để can thiệp vào quá trình huấn luyện nhằm tránh việc trang bị quá mức cho màn hình. Và chúng tôi luôn tuân theo một quy tắc: chúng tôi không phạt mô hình vì những gì nó viết trong chuỗi suy nghĩ trong quá trình đào tạo. Đây là một ví dụ để minh họa lý do: trong một đợt đào tạo học tăng cường trong đó một hình phạt đi tắt vô tình được áp dụng cho chuỗi suy nghĩ, các lối tắt được thảo luận công khai đã giảm 61%, nhưng điều đó không có nghĩa là mô hình sử dụng ít lối tắt hơn. Thay vào đó, tỷ lệ các lối tắt mà mô hình thực hiện một cách âm thầm - không hề đề cập đến chúng trong suy nghĩ của mình - đã tăng hơn gấp ba lần (từ 11,2% lên 36,4%). Việc tránh các hình phạt về suy nghĩ khuyến khích lý luận của mô hình luôn minh bạch và có thể giám sát được. Chống tiêm nhiễm kịp thời Để tin tưởng một tác nhân thực hiện đúng công việc, chúng ta cần đảm bảo rằng nội dung độc hại mà tác nhân gặp phải không thể lừa tác nhân thực hiện hành động có hại. Khi tác nhân duyệt các trang web hoặc đọc mã, họ có thể gặp phải các hướng dẫn ẩn, độc hại hoặc bối cảnh được thiết kế để chiếm đoạt nhiệm vụ của họ. Thông qua đào tạo đối kháng tích hợp và kiểm tra bảo mật theo thời gian thực, Argon dẫn đầu về khả năng tiêm nhanh chóng theo điểm chuẩn Tiêm gián tiếp gián tiếp (IPI) của Gray Swan, giảm tỷ lệ thành công của cuộc tấn công qua 15 lần thử thích ứng xuống còn 0,7%. Các biện pháp bảo vệ an toàn và an ninh ở trên chỉ đại diện cho ba loại trong hệ thống phòng thủ chuyên sâu mở rộng của chúng tôi. Để tìm hiểu thêm về phương pháp kiểm tra và giảm thiểu an toàn của chúng tôi, hãy đọc Báo cáo an toàn và bảo mật Gemini 4 Argon đầy đủ của chúng tôi và xem Thẻ mô hình Gemini 4 Argon.
Kiểm tra xem tin nhắn văn bản có phải là tin nhắn lừa đảo hay không bằng cách sử dụng Circle to Search.
Gemini 4 Argon hiện có sẵn cho các nhà phát triển.
Gemini 4 Argon: Được xây dựng để giải quyết những vấn đề khó khăn nhất của bạn
Đăng nhập nhanh chóng và an toàn bằng mật khẩu.
Chúng tôi đang giúp việc xác định nội dung do AI tạo ra trên toàn cầu trở nên dễ dàng hơn.
Tin tức AI mới nhất chúng tôi công bố vào tháng 9 năm 2026







![[QC]Khắc Tên giới thiệu bộ sưu tập Charm Halloween 2026](https://images.aiinews.tech/legacy-unverified/c4/c4cf4e13fc0e01eb33015d8ffff246483f308181d1aeb7d34e4cc665cb7acee0/large.webp)