OpenAI ra mắt bộ phân loại hình ảnh lạm dụng trẻ em do trí tuệ nhân tạo tạo ra

Tóm lược nhanh
“OpenAI vừa công bố một công nghệ phân loại mới nhằm giúp cơ quan thực thi pháp luật sàng...”
Các điểm cốt lõi
- 1.Đường dây nóng của Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột nhận được 400.000 báo cáo liên quan đến trí tuệ nhân tạo sinh ảnh trong năm 2025, tăng mạnh từ mức 67.000 vào năm 2024.
- 2.Công cụ phân loại mới của OpenAI giảm 48 phần trăm các trường hợp cảnh báo sai, đồng thời các hình ảnh được nhận diện có xác suất chứa nội dung lạm dụng cao gấp đôi.
- 3.OpenAI áp dụng biện pháp tạm dừng quyền truy cập ChatGPT trong 24 giờ đối với người dùng lần đầu vi phạm yêu cầu tạo nội dung độc hại và cung cấp tài nguyên hỗ trợ.
OpenAI vừa công bố một công nghệ phân loại mới nhằm giúp cơ quan thực thi pháp luật sàng lọc khối lượng lớn hình ảnh lạm dụng trẻ em do trí tuệ nhân tạo tạo ra. Hệ thống này hứa hẹn giảm đáng kể số lượng cảnh báo sai để các nhà điều tra tập trung vào các tài liệu có thật.
Bối cảnh và chi tiết công nghệ
Đường dây nóng của Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột nhận được 400.000 báo cáo liên quan đến trí tuệ nhân tạo sinh ảnh trong năm 2025, tăng mạnh từ mức 67.000 vào năm 2024.
Công cụ phân loại mới của OpenAI giảm 48 phần trăm các trường hợp cảnh báo sai, đồng thời các hình ảnh được nhận diện có xác suất chứa nội dung lạm dụng cao gấp đôi.
OpenAI áp dụng biện pháp tạm dừng quyền truy cập ChatGPT trong 24 giờ đối với người dùng lần đầu vi phạm yêu cầu tạo nội dung độc hại và cung cấp tài nguyên hỗ trợ.
Đánh giá tác động và góc nhìn chuyên môn
Việc gia tăng đột biến các hình ảnh giả mạo do trí tuệ nhân tạo tạo ra đang làm suy yếu năng lực điều tra của các cơ quan chức năng, khiến họ khó phân biệt giữa nạn nhân thực tế và nội dung hư cấu.
Sự hợp tác giữa doanh nghiệp công nghệ và các cơ quan tư pháp đánh dấu một bước chuyển hướng từ việc xử lý hậu quả pháp lý sang nỗ lực ngăn chặn hành vi từ gốc.
Xu hướng tiếp theo và điều cần theo dõi
Hiệu quả thực tế của công cụ phân loại này khi triển khai rộng rãi bởi các tổ chức ngoài vòng kiểm soát trực tiếp của OpenAI vẫn chưa được kiểm chứng đầy đủ.
Phản ứng chính xác từ các nhà lập pháp liên bang đối với các biện pháp tự nguyện này và liệu có quy định pháp lý bắt buộc nào tiếp theo hay không vẫn còn bỏ ngỏ.







