Google DeepMind và Chính phủ Singapore hợp tác xây dựng mô hình AI tinh chỉnh để phát hiện lừa đảo

Tóm lược nhanh
“Ngày 14 tháng 10 năm 2026 Trách nhiệm & An toàn Google DeepMind và Chính phủ Singapore hợp tác xây dựng mô hình AI tinh chỉnh để phát hiện lừa đảo JJ”
Các điểm cốt lõi
- 1.Google DeepMind và Chính phủ Singapore hợp tác xây dựng mô hình AI tinh chỉnh để phát hiện lừa đảo
- 2.Phân tích kiến trúc hệ thống và khả năng ứng dụng thực tiễn.
- 3.Đánh giá hiệu năng và tác động tới hệ sinh thái công nghệ.
Ngày 14 tháng 10 năm 2026 Trách nhiệm & An toàn Google DeepMind và Chính phủ Singapore hợp tác xây dựng mô hình AI tinh chỉnh để phát hiện lừa đảo JJ Geewax và Miguel de Andrés Chia sẻ Hợp tác với Cơ quan Công nghệ Chính phủ Singapore (GovTech Singapore) để bảo vệ người dùng mà không ảnh hưởng đến quyền riêng tư. Các hành vi lừa đảo, chẳng hạn như gian lận đầu tư, lời mời làm việc giả và mạo danh quan chức chiếm hơn một nửa số tội phạm được báo cáo ở Singapore và gây thiệt hại hơn 4 tỷ đô la Singapore kể từ năm 2019. Đồng thời, các chiến thuật lừa đảo đã chuyển từ lừa đảo đơn giản sang kỹ thuật xã hội phức tạp, theo đó những kẻ tấn công thao túng nạn nhân bằng những cuộc trò chuyện thuyết phục trước khi yêu cầu tiền. Những trò lừa đảo như vậy hiện chiếm tới 80% tổng số tổn thất. Để giải quyết vấn đề này, Google DeepMind và Cơ quan Công nghệ Chính phủ Singapore (GovTech Singapore) đã hợp tác cùng nhau trong khuôn khổ Quan hệ Đối tác AI Quốc gia của chúng tôi với Chính phủ Singapore. Cùng nhau, chúng tôi đã tinh chỉnh mô hình phát hiện lừa đảo trên thiết bị, đảm bảo quyền riêng tư. Bảo vệ AI trên thiết bị mà không ảnh hưởng đến quyền riêng tư Các mô hình chung thường gặp khó khăn với các kỹ thuật lừa đảo cục bộ, khiến việc phát hiện lừa đảo trở nên khó khăn hơn. Để giải quyết vấn đề này, mô hình Gemma gọn nhẹ của Google đã được tinh chỉnh đối với các cuộc trò chuyện lừa đảo tại địa phương. Những hành vi này bao gồm từ việc mạo danh các tổ chức công, ngân hàng và nhân vật địa phương cho đến các kế hoạch đang thịnh hành trong khu vực. Điều này đảm bảo mô hình được tinh chỉnh sẽ có thể phân biệt những cuộc trò chuyện xã hội lành tính với sự thao túng thực sự khi được triển khai trong các ứng dụng do công dân cài đặt. Không giống như tính năng phát hiện mối đe dọa truyền thống dựa vào việc quét tin nhắn trên đám mây từ phía máy chủ, mô hình này có thể xử lý dữ liệu hội thoại trực tiếp trên thiết bị. Khi được tích hợp vào các ứng dụng, điều này sẽ cho phép phân tích nhanh hơn các mẫu hội thoại để phát hiện ý định thao túng và giúp công dân hành động trước khi xảy ra rủi ro về tài chính hoặc thông tin xác thực. Việc triển khai mô hình trong các ứng dụng sẽ được thực hiện theo từng giai đoạn và phát triển một cách cẩn thận trong các đối tác. p với Chính phủ Singapore. Khi được triển khai, mô hình sẽ chỉ có thể truy cập các cuộc hội thoại trên thiết bị khi có sự đồng ý của người dùng, tuân theo các điều khoản sử dụng của ứng dụng đó. Vì mô hình chạy hoàn toàn trên thiết bị nên cả Chính phủ Singapore và Google đều không thể truy cập các cuộc hội thoại của người dùng thông qua quá trình triển khai. Chống lừa đảo không có nghĩa là hy sinh quyền riêng tư cá nhân. Hợp tác với Google DeepMind, chúng tôi đang đưa biện pháp bảo vệ AI tiên tiến trực tiếp lên thiết bị của công dân. Điều này cho phép chúng tôi phát hiện các nỗ lực lừa đảo cục bộ, có mục tiêu cao trong thời gian thực trong khi vẫn giữ kín thông tin liên lạc cá nhân. Mark Chen Giám đốc, Tin cậy và An toàn, GovTech Singapore Tìm hiểu sâu: bối cảnh cục bộ và hiệu quả biên Khi mô hình phát hiện các kiểu trò chuyện lôi kéo, nó sẽ kích hoạt cảnh báo thời gian thực trực tiếp trên thiết bị của người dùng khuyên họ nên tạm dừng và thận trọng trước khi chia sẻ thông tin nhạy cảm hoặc tiền. Chạy một mô hình phân loại lừa đảo phức tạp trên điện thoại thông minh hiện đại không phải là một nhiệm vụ dễ dàng, trong đó hiệu quả sử dụng pin là một lĩnh vực quan trọng cần được quan tâm. Để thực hiện việc này, chúng tôi dựa vào quy trình gồm hai giai đoạn: Giai đoạn 1: Trình phân loại nhẹ, hiệu quả sẽ sàng lọc các thư gửi đến, sử dụng năng lượng tối thiểu, tập trung vào việc phát hiện các mối đe dọa tiềm ẩn. Giai đoạn 2: Phân tích trong ngữ cảnh với mô hình Gemma đã được tinh chỉnh của chúng tôi, trong đó chúng tôi phân tích ảnh chụp nhanh lớn hơn về cuộc trò chuyện để xác nhận mối đe dọa hoặc loại bỏ cảnh báo sai. Được xây dựng dựa trên quản trị chặt chẽ Được trình bày tại Tuần lễ Điện tử Quốc tế Singapore (SICW 2026), sự hợp tác này cung cấp một mô hình cho các nền tảng nhắn tin cân bằng khả năng bảo vệ người dùng với mã hóa đầu cuối. Quản trị chặt chẽ được duy trì trong suốt quá trình phát triển: Hộp cát có chủ quyền: Việc tinh chỉnh diễn ra trong môi trường GCP do GovTech Singapore quản lý và duy trì, giữ cho dữ liệu đào tạo được tách biệt. Không có dữ liệu công dân: Đào tạo loại trừ nghiêm ngặt thông tin cá nhân hoặc thông tin nhận dạng cá nhân, sử dụng các tập dữ liệu ẩn danh lấy từ các báo cáo lừa đảo và nguồn cấp dữ liệu thông minh. S tress-Testing: Mô hình đã được thử nghiệm dựa trên các cuộc đối thoại tổng hợp và tập tin địa phương để bao quát các danh mục lừa đảo đa dạng và các chiến thuật mạo danh đang phát triển. Tương lai của sự an toàn trên thiết bị Dự án chứng minh cách AI có thể giúp chống tội phạm mà không ảnh hưởng đến sự an toàn hoặc quyền riêng tư. Nó cũng cho thấy các chính phủ và nhà cung cấp mô hình có thể làm việc cùng nhau như thế nào để xây dựng công nghệ vì lợi ích cộng đồng. Với mô hình gọn nhẹ trên thiết bị này, chúng tôi đã chứng minh được khả năng phát hiện hành vi lừa đảo theo thời gian thực tại địa phương trong khi vẫn đảm bảo các hoạt động tương tác trò chuyện vẫn được bảo mật. Chúng tôi mong muốn sớm được chia sẻ nhiều hơn về sự hợp tác của chúng tôi với chính phủ Singapore, cũng như khám phá tiềm năng triển khai công nghệ tương tự ở các quốc gia khác. Các bài viết liên quan Tăng cường tương lai AI của Singapore: Quan hệ đối tác quốc gia mới Tháng 5 năm 2026Trách nhiệm và An toàn Tìm hiểu thêm Mở khóa việc xây dựng nhà ở ở Vương quốc Anh với quy hoạch tăng tốc AI Tháng 6 năm 2026Trách nhiệm và An toàn Tìm hiểu thêm Công bố quan hệ đối tác của chúng tôi với Hàn Quốc Tháng 4 năm 2026Trách nhiệm và An toàn Tìm hiểu thêm Đẩy nhanh khám phá ở Ấn Độ thông qua khoa học và giáo dục do AI cung cấp Tháng 2 năm 2026Trách nhiệm & An toàn Tìm hiểu thêm Tăng cường quan hệ đối tác của chúng tôi với chính phủ Vương quốc Anh để hỗ trợ sự thịnh vượng và an ninh trong kỷ nguyên AI Tháng 12 năm 2025Trách nhiệm và An toàn Tìm hiểu thêm Tăng cường mối quan hệ đối tác của chúng tôi với Viện An ninh AI của Vương quốc Anh Tháng 12 năm 2025Trách nhiệm và An toàn Tìm hiểu thêm Google DeepMind hỗ trợ Bộ Năng lượng Hoa Kỳ trên Genesis: sứ mệnh quốc gia nhằm tăng tốc đổi mới và khám phá khoa học Tháng 12 năm 2025Khoa học Tìm hiểu thêm







