Khi việc áp dụng AI lan rộng giữa cả tin tặc và người bảo vệ độc hại, ngay cả tội phạm mạng tương đối đơn giản cũng đang kết hợp AI tác nhân vào các chiến dịch của chúng và vượt qua các biện pháp bảo vệ mô hình, theo thông tin chi tiết mới được công bố hôm thứ Tư về các cuộc tấn công thành công gần đây của bốn nhóm mối đe dọa khác nhau.

Các nhà nghiên cứu từ công ty tình báo mối đe dọa CrowdStrike đã xem xét các cuộc tấn công hỗ trợ cơ sở hạ tầng AI được thực hiện từ tháng 5 đến tháng 8 bởi bốn nhóm chưa được báo cáo trước đó—một nhóm hoạt động bằng tiếng Trung, một nhóm bằng tiếng Tây Ban Nha và tiếng Anh, một nhóm bằng tiếng Indonesia và một nhóm bằng tiếng Nga. Hai phần trước trưng bày “khai thác” AI phức tạp, phần mềm hỗ trợ và hướng dẫn mô hình thực hiện các nhiệm vụ. Các nhà nghiên cứu nhận thấy hai tên lửa sau có năng lực kỹ thuật kém hơn nhưng vẫn có thể tấn công nhiều mục tiêu. Tất cả đều để cơ sở hạ tầng AI của họ có thể truy cập công khai trên các máy chủ web, cho phép các nhà nghiên cứu phân tích hoạt động của họ và mô hình nào họ đã sử dụng – phần lớn là các phiên bản Claude của Anthropic cũng như các phiên bản của mô hình Deepseek trọng lượng mở. Tất cả những người tham gia đã nghĩ ra cách để cho phép các chiến dịch của họ diễn ra một cách tự chủ trong khoảng thời gian tương đối dài.

Adam Meyers, phó chủ tịch cấp cao phụ trách công tác chống đối thủ của CrowdStrike, cho biết: "Bạn có thể tận dụng các mô hình khác nhau cho các khía cạnh khác nhau trong hoạt động. Việc định tuyến và lựa chọn mô hình rất quan trọng vì nó tốn kém và nhiều khi sẽ là quá mức cần thiết nếu sử dụng các mô hình mới hơn". Các nhà nghiên cứu đã quan sát những kẻ tấn công sử dụng cả mô hình trọng lượng mở và trọng lượng đóng; trong hầu hết các trường hợp, họ sử dụng các phiên bản cũ hơn là làm việc với các mô hình tiên phong. Meyers lưu ý rằng việc làm nhiều nhất có thể với các mô hình cũ hơn cũng là điều phổ biến trong việc sử dụng AI hợp pháp khi chi phí tăng lên.

Những kẻ tấn công cũng sử dụng nhiều mô hình để lợi dụng sự khác biệt trong các rào chắn nhằm ngăn chặn mọi người sử dụng AI để thực hiện các cuộc tấn công kỹ thuật số.