Microsoft cho biết kẻ tấn công có thể cài cửa hậu vào mô hình AI bằng cách sửa ít hơn 10 nơ-ron

Tóm lược nhanh
“Các nhà nghiên cứu tại Microsoft phát triển kỹ thuật Lazarus nhằm cài cắm cửa hậu bí mật...”
Các điểm cốt lõi
- 1.Kỹ thuật mang tên Lazarus do Microsoft công bố cho phép chỉnh sửa trực tiếp chưa tới 10 nơ-ron ít hoạt động để cài cửa hậu vào các mô hình mở mà không cần huấn luyện lại.
- 2.Trong các thử nghiệm trên mô hình Nemotron-Terminal-8B, việc tinh chỉnh 7 nơ-ron giúp mô hình xuất lệnh trong ít nhất 98,8% các phiên có chứa chuỗi kích hoạt.
- 3.Microsoft cho biết chưa phát hiện tác nhân đe dọa nào lợi dụng kỹ thuật này trong thực tế và đã công bố các hướng dẫn phòng thủ kèm theo.
Các nhà nghiên cứu tại Microsoft phát triển kỹ thuật Lazarus nhằm cài cắm cửa hậu bí mật vào các mô hình AI mã nguồn mở thông qua việc chỉnh sửa trực tiếp chưa tới 10 nơ-ron ít sử dụng mà không cần huấn luyện lại toàn bộ. Phương pháp này khiến mô hình thực thi lệnh độc hại khi xuất hiện một từ khóa kích hoạt cụ thể.
Bối cảnh và chi tiết công nghệ
Kỹ thuật mang tên Lazarus do Microsoft công bố cho phép chỉnh sửa trực tiếp chưa tới 10 nơ-ron ít hoạt động để cài cửa hậu vào các mô hình mở mà không cần huấn luyện lại.
Trong các thử nghiệm trên mô hình Nemotron-Terminal-8B, việc tinh chỉnh 7 nơ-ron giúp mô hình xuất lệnh trong ít nhất 98,8% các phiên có chứa chuỗi kích hoạt.
Microsoft cho biết chưa phát hiện tác nhân đe dọa nào lợi dụng kỹ thuật này trong thực tế và đã công bố các hướng dẫn phòng thủ kèm theo.
Đánh giá tác động và góc nhìn chuyên môn
Việc tấn công trực tiếp vào tầng trọng số thay vì qua tập huấn luyện độc hại cho thấy các mối đe dọa chuỗi cung ứng mô hình AI đang chuyển dịch sang hình thức tinh vi và khó phát hiện hơn bằng kiểm tra thông thường.
Các mô hình bị sửa đổi vẫn duy trì phần lớn hiệu năng chuẩn và vượt qua nhiều bài kiểm tra thông thường, làm nổi bật rủi ro khi tin tưởng tuyệt đối vào các tệp trọng số tải từ nguồn công khai.
Xu hướng tiếp theo và điều cần theo dõi
Phạm vi ảnh hưởng thực tế khi các mô hình cài cửa hậu này hoạt động độc lập xuyên suốt toàn bộ chuỗi tác vụ phức tạp vẫn cần được đánh giá thêm.
Hiệu quả của các bộ phát hiện dựa trên học máy đối với các biến thể cửa hậu khác ngoài phương pháp Lazarus chưa được kiểm chứng diện rộng.







