Chào mừng bạn đến với Kernel Panic, bản tin hàng tuần của Lily Hay Newman và Matt Burgess từ bên trong thế giới mới về quyền riêng tư và bảo mật kỹ thuật số. Để nhận bản tin này trong hộp thư đến của bạn mỗi tuần, hãy đăng ký tại đây.

Nghiên cứu mới được chia sẻ độc quyền với Kernel Panic cho thấy tin tặc đã bắt đầu thêm chức năng AI vào một loại phần mềm độc hại đánh cắp thông tin mới, giúp hệ thống có thể tự động lập hồ sơ nạn nhân và nhanh chóng tìm ra các mục tiêu có giá trị cao nhất cũng như thông tin của họ. Được mệnh danh là “Volta-Autodoxer” do cách phần mềm độc hại đề cập đến chính nó trong nội bộ, phát hiện của các nhà nghiên cứu của Cisco Talos đã làm sáng tỏ những cách mà LLM thương mại đang được sử dụng để tăng cường và nâng cao khả năng của các loại phần mềm độc hại đã được thiết lập.

Thường ẩn trong phần mềm giả mạo, những kẻ đánh cắp thông tin được thiết kế để hoạt động đúng như tên gọi của chúng, lấy tên người dùng, mật khẩu, mã thông báo xác thực, cookie, dữ liệu thẻ tín dụng, v.v. từ các máy bị nhiễm. Nhiều vụ vi phạm dữ liệu lớn nhất trong những năm gần đây—từ các vụ vi phạm rộng rãi liên quan đến Snowflake bao gồm AT&T và Ticketmaster cho đến vụ đánh cắp 1 terabyte dữ liệu của Disney—là kết quả của việc tin tặc truy cập vào các mục tiêu bằng cách sử dụng thông tin đăng nhập do những kẻ đánh cắp thông tin thu thập. Nhìn chung, phần mềm độc hại đã được sử dụng để đánh cắp hàng trăm triệu thông tin đăng nhập trong những năm gần đây.

Ryan Fetterman, một nhà nghiên cứu bảo mật tại Cisco Talos cho biết: "Volta là một kẻ đánh cắp khá thành thạo. Nó tạo ra một mạng lưới khá rộng cho những gì nó thu thập được". "Nó tổng hợp tất cả những thứ đó lại với nhau, cuối cùng tạo ra một hồ sơ được tuần tự hóa mà nó có thể gửi đến một vài mô hình LLM. Nó yêu cầu mô hình này hoạt động như một nhà phân tích tình báo và đưa ra đánh giá dựa trên trích dẫn có cấu trúc về nạn nhân. Nó giống như một chức năng phân tích và ưu tiên."

Talos đã gắn cờ phần mềm độc hại bằng cách sử dụng khung CAIRN mới, được xây dựng để xác định các công cụ hack kết hợp khả năng AI. Fetterman lưu ý rằng Talos không theo dõi xem Volta có được sử dụng trong tự nhiên hay không.

Khả năng đánh cắp thông tin truyền thống của Volta rất mạnh mẽ và dường như hướng đến việc nhắm mục tiêu đến những người dùng Internet trẻ tuổi có đời sống số mạnh mẽ. Nó quét các mật khẩu được lưu trữ trong trình duyệt, mã thông báo Microsoft OAuth, cookie, thẻ thanh toán và cụm từ hạt giống của ví tiền điện tử cũng như các phiên Discord, Telegram, Steam và Roblox đang hoạt động. Sau đó, phần mềm độc hại thực hiện lần quét thứ hai sâu hơn bằng cách sử dụng các phát hiện ở vòng đầu tiên. Bằng cách xem qua Gmail của mục tiêu hoặc tài khoản trung tâm khác, Volta xây dựng bức tranh đầy đủ hơn về nạn nhân, vị trí và thói quen của họ bằng cách sử dụng dữ liệu như biên lai và lịch sử đặt hàng từ các dịch vụ bao gồm UberEats và DoorDash.

Sau khi hoàn thành tất cả những điều này, phần mềm độc hại sẽ đưa những phát hiện của nó vào các công cụ AI để phân tích bằng OpenRouter, một dịch vụ có thể gửi lời nhắc đến nhiều nhà cung cấp AI khác nhau. Volta mặc định yêu cầu của mình đối với Claude Opus 4.6 của Anthropic. Nhưng dường như đang chuẩn bị cho khả năng các lan can của mô hình có thể chặn hoạt động, Volta được xây dựng với các dự phòng cho Moonshot AI Kimi K2 trọng lượng mở của Trung Quốc và, nếu điều đó không thành công, Gemini 2.5 Flash của Google. Xây dựng dựa trên các phương án dự phòng và dựa vào các mô hình thế hệ cũ, tiết kiệm chi phí là những kỹ thuật phổ biến của những kẻ tấn công.

Những người tạo ra Volta đã đưa vào lời nhắc 240 từ, bao gồm các dấu đầu dòng và danh sách được đánh số, như một phần hướng dẫn của họ cho bất kỳ LLM nào phân tích dữ liệu được thu thập. “Bạn là một nhà phân tích tình báo pháp y đang soạn thảo một bản đánh giá mục tiêu từ một gói bằng chứng có cấu trúc,” lời nhắc của Volta cho biết. Nó hướng dẫn chatbot tạo một “bản tóm tắt điều hành” về người đó, chi tiết về những gì họ làm, “giá trị của họ” và bản tóm tắt về “hoạt động của họ”. Nó cho biết thêm rằng chatbot nên “kết nối các điểm trên các trường”, chẳng hạn như kiểm tra xem mật khẩu Wi-Fi của ai đó có khớp với họ của họ hay không. “Đi sâu, không rộng,” lời nhắc nói.

Fetterman nói: “Lời nhắc được xây dựng khá cẩn thận để không ngụ ý bất cứ điều gì quá ác ý”. "Nhưng họ đang kỳ vọng rằng có thể xảy ra trường hợp từ chối mô hình ở lần yêu cầu đầu tiên. Và vì vậy, họ lên kế hoạch chuyển đổi dự phòng theo kiểu xếp tầng sang các mô hình được chấp nhận hơn khi chúng đi xuống chuỗi. Ngoài ra, còn có khả năng vẫn sử dụng bộ cấy mà không cần AI. Các cuộc gọi AI gần như vượt trội, nhưng phần mềm độc hại vẫn sẽ hoạt động nếu không có nó."

Một số tội phạm mạng cấp thấp và những kẻ lừa đảo đã phàn nàn về việc AI lấp đầy các diễn đàn tội phạm mạng một cách cẩu thả, nhưng các nhà nghiên cứu bảo mật đang ngày càng phát hiện ra các tin tặc khác sử dụng LLM để mã hóa các tác vụ hoặc phân tích kho thông tin bị đánh cắp. Ví dụ, các nhà nghiên cứu tại công ty tình báo mối đe dọa Crowdstrike gần đây đã nói với WIRED rằng họ đã thấy bốn nhóm hack riêng biệt với mức độ tinh vi khác nhau – hoạt động bằng tiếng Trung, tiếng Tây Ban Nha và tiếng Anh, tiếng Indonesia và tiếng Nga – sử dụng các công cụ AI để xâm phạm hàng chục mục tiêu trên khắp thế giới, bao gồm các tổ chức chính phủ và doanh nghiệp trong lĩnh vực chăm sóc sức khỏe, bán lẻ và du lịch.

Fetterman của Cisco cho biết Volta chứa một số manh mối cho thấy nó có thể được xây dựng để bán cho nhiều kẻ tấn công hơn là được phát triển cho các chiến dịch của một tác nhân cụ thể. Và mặc dù phần mềm độc hại cốt lõi vẫn là một kẻ đánh cắp thông tin truyền thống, nhưng việc mở rộng AI báo trước những hoạt động xâm lấn và độc ác hơn nữa trong tương lai.

“Nếu bạn có thể xác định các mục tiêu có giá trị cao nhanh hơn, bạn có thể có cơ hội tốt hơn trong việc sử dụng thông tin xác thực của họ hoặc xác thực bằng mã thông báo bị đánh cắp thường xuyên hơn so với khả năng bạn phải tự mình thực hiện việc phân loại đó,” Fetterman nói, đề cập đến thực tế là mã thông báo xác thực hết hạn và mật khẩu có thể được thay đổi. "Chúng tôi đang thấy những khả năng nâng cao hơn có thể tiếp cận được đối với những kẻ tấn công tinh vi ở cấp độ thấp hơn. Điều đó thực sự thú vị và đáng lo ngại."

Bình luận

Quay lại đầu trang