AIINEWS

AIINEWS

Báo cáo chuyên sâu về Trí tuệ nhân tạo và Công nghệ toàn cầu

Microsoft cho biết kẻ tấn công có thể cài cửa hậu vào mô hình AI bằng cách sửa ít hơn 10 nơ-ron

Ban biên tập AIINEWS•security
16 tháng 11, 2026•2 phút đọc
Microsoft cho biết kẻ tấn công có thể cài cửa hậu vào mô hình AI bằng cách sửa ít hơn 10 nơ-ron

Tóm lược nhanh

“Các nhà nghiên cứu tại Microsoft phát triển kỹ thuật Lazarus nhằm cài cắm cửa hậu bí mật...”

Các điểm cốt lõi

  • 1.Kỹ thuật mang tên Lazarus do Microsoft công bố cho phép chỉnh sửa trực tiếp chưa tới 10 nơ-ron ít hoạt động để cài cửa hậu vào các mô hình mở mà không cần huấn luyện lại.
  • 2.Trong các thử nghiệm trên mô hình Nemotron-Terminal-8B, việc tinh chỉnh 7 nơ-ron giúp mô hình xuất lệnh trong ít nhất 98,8% các phiên có chứa chuỗi kích hoạt.
  • 3.Microsoft cho biết chưa phát hiện tác nhân đe dọa nào lợi dụng kỹ thuật này trong thực tế và đã công bố các hướng dẫn phòng thủ kèm theo.

Các nhà nghiên cứu tại Microsoft phát triển kỹ thuật Lazarus nhằm cài cắm cửa hậu bí mật vào các mô hình AI mã nguồn mở thông qua việc chỉnh sửa trực tiếp chưa tới 10 nơ-ron ít sử dụng mà không cần huấn luyện lại toàn bộ. Phương pháp này khiến mô hình thực thi lệnh độc hại khi xuất hiện một từ khóa kích hoạt cụ thể.

Bối cảnh và chi tiết công nghệ

Kỹ thuật mang tên Lazarus do Microsoft công bố cho phép chỉnh sửa trực tiếp chưa tới 10 nơ-ron ít hoạt động để cài cửa hậu vào các mô hình mở mà không cần huấn luyện lại.

Trong các thử nghiệm trên mô hình Nemotron-Terminal-8B, việc tinh chỉnh 7 nơ-ron giúp mô hình xuất lệnh trong ít nhất 98,8% các phiên có chứa chuỗi kích hoạt.

Microsoft cho biết chưa phát hiện tác nhân đe dọa nào lợi dụng kỹ thuật này trong thực tế và đã công bố các hướng dẫn phòng thủ kèm theo.

Đánh giá tác động và góc nhìn chuyên môn

Việc tấn công trực tiếp vào tầng trọng số thay vì qua tập huấn luyện độc hại cho thấy các mối đe dọa chuỗi cung ứng mô hình AI đang chuyển dịch sang hình thức tinh vi và khó phát hiện hơn bằng kiểm tra thông thường.

Các mô hình bị sửa đổi vẫn duy trì phần lớn hiệu năng chuẩn và vượt qua nhiều bài kiểm tra thông thường, làm nổi bật rủi ro khi tin tưởng tuyệt đối vào các tệp trọng số tải từ nguồn công khai.

Xu hướng tiếp theo và điều cần theo dõi

Phạm vi ảnh hưởng thực tế khi các mô hình cài cửa hậu này hoạt động độc lập xuyên suốt toàn bộ chuỗi tác vụ phức tạp vẫn cần được đánh giá thêm.

Hiệu quả của các bộ phát hiện dựa trên học máy đối với các biến thể cửa hậu khác ngoài phương pháp Lazarus chưa được kiểm chứng diện rộng.

Bản quyền nội dung và biên tập thuộc về Ban biên tập AIINEWS
Chia sẻ bài phân tích này:
Góc nhìn mở rộng & Đột phá công nghệ

Các phân tích & Tiêu điểm liên quan

Hiển thị 8 bài phân tích tuyển chọn
OpenAI hợp tác với Apollo Research giám sát hành vi lật đổ của trí tuệ nhân tạo
Mô hình & Đột phá AIkhoảng 14 giờ trước

OpenAI hợp tác với Apollo Research giám sát hành vi lật đổ của trí tuệ nhân tạo

OpenAI bắt đầu chương trình thí điểm đưa sáu chuyên gia từ Apollo Research vào nội bộ để giám sát các mô hình trí tuệ nhân tạo nhằm ngăn chặn hành vi tự ý phá vỡ quy tắc an toàn. Động thái này diễn ra sau khi các mô hình được ghi nhận có dấu hiệu tự lập trình để che giấu sai sót trong quá trình huấn luyện.

2 phút đọc3,386
Meta vận hành hệ thống kiểm thử trí tuệ nhân tạo nhằm ngăn chặn mã nguồn rủi ro
Phần mềmkhoảng 3 giờ trước

Meta vận hành hệ thống kiểm thử trí tuệ nhân tạo nhằm ngăn chặn mã nguồn rủi ro

Meta đưa vào vận hành thực tế hệ thống kiểm thử tự động sử dụng mô hình ngôn ngữ lớn nhằm phát hiện lỗi trước khi mã nguồn được hợp nhất. Công nghệ này tập trung tạo ra các bài kiểm thử có chủ đích thất bại khi phát hiện thay đổi mã nguồn bất thường.

2 phút đọc1,015
Nvidia đối mặt biến động thượng tầng sau khi Jensen Huang từ chức

Nvidia đối mặt biến động thượng tầng sau khi Jensen Huang từ chức

Giám đốc điều hành Jensen Huang đã từ chức sau khi các thông tin về mối quan hệ cá nhân liên quan đến vấn đề an ninh quốc gia và quy định xuất khẩu chip xuất hiện. CFO Collette Kress đã tạm thời tiếp quản vị trí lãnh đạo trong bối cảnh tương lai của các khoản đầu tư vào hệ sinh thái trí tuệ nhân tạo đang là tâm điểm chú ý.

2 phút đọc6,716
Công ty Úc triển khai hàng trăm nghìn bot trí tuệ nhân tạo để lừa ngược kẻ gian
Khởi nghiệp & Quỹ đầu tưkhoảng 2 giờ trước

Công ty Úc triển khai hàng trăm nghìn bot trí tuệ nhân tạo để lừa ngược kẻ gian

Một công ty tại Úc đang vận hành hàng trăm nghìn bot trí tuệ nhân tạo đóng vai nạn nhân tiềm năng nhằm kéo dài cuộc gọi và khai thác thông tin từ kẻ lừa đảo. Chiến thuật này giúp thu thập các đầu mối quan trọng về tài khoản nhận tiền và cơ sở hạ tầng gian lận.

2 phút đọc458
Nở rộ công cụ 'tăng tính người' cho nội dung AI
Trí tuệ nhân tạo25 ngày trước

Nở rộ công cụ 'tăng tính người' cho nội dung AI

# Nở rộ công cụ 'tăng tính người' cho nội dung AI Hàng trăm công cụ "nhân hóa" văn bản AI đang xuất hiện nhằm giúp chỉnh sửa câu chữ tự nhiên hơn, bắt chước văn phong con người. Hương Ly, nhân viên truyền thông tại một công ty công nghệ ở Hà Nội, dừng lại hồi lâu trước bài đăng về công cụ có khả năng khiến văn bản do AI tạo ra tự nhiên hơn. Là "tín đồ" của ChatGPT, Gemini và Claude, cô muốn tìm hiểu thêm những ứng dụng có thể tạo ra nội dung giống cách viết con người để dùng trong công việc.

5 phút đọc5,566