AIINEWS

AIINEWS

Báo cáo chuyên sâu về Trí tuệ nhân tạo và Công nghệ toàn cầu

OpenAI ra mắt bộ phân loại hình ảnh lạm dụng trẻ em do trí tuệ nhân tạo tạo ra

Ban biên tập AIINEWS•frontier-models
16 tháng 11, 2026•2 phút đọc
OpenAI ra mắt bộ phân loại hình ảnh lạm dụng trẻ em do trí tuệ nhân tạo tạo ra

Tóm lược nhanh

“OpenAI vừa công bố một công nghệ phân loại mới nhằm giúp cơ quan thực thi pháp luật sàng...”

Các điểm cốt lõi

  • 1.Đường dây nóng của Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột nhận được 400.000 báo cáo liên quan đến trí tuệ nhân tạo sinh ảnh trong năm 2025, tăng mạnh từ mức 67.000 vào năm 2024.
  • 2.Công cụ phân loại mới của OpenAI giảm 48 phần trăm các trường hợp cảnh báo sai, đồng thời các hình ảnh được nhận diện có xác suất chứa nội dung lạm dụng cao gấp đôi.
  • 3.OpenAI áp dụng biện pháp tạm dừng quyền truy cập ChatGPT trong 24 giờ đối với người dùng lần đầu vi phạm yêu cầu tạo nội dung độc hại và cung cấp tài nguyên hỗ trợ.

OpenAI vừa công bố một công nghệ phân loại mới nhằm giúp cơ quan thực thi pháp luật sàng lọc khối lượng lớn hình ảnh lạm dụng trẻ em do trí tuệ nhân tạo tạo ra. Hệ thống này hứa hẹn giảm đáng kể số lượng cảnh báo sai để các nhà điều tra tập trung vào các tài liệu có thật.

Bối cảnh và chi tiết công nghệ

Đường dây nóng của Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột nhận được 400.000 báo cáo liên quan đến trí tuệ nhân tạo sinh ảnh trong năm 2025, tăng mạnh từ mức 67.000 vào năm 2024.

Công cụ phân loại mới của OpenAI giảm 48 phần trăm các trường hợp cảnh báo sai, đồng thời các hình ảnh được nhận diện có xác suất chứa nội dung lạm dụng cao gấp đôi.

OpenAI áp dụng biện pháp tạm dừng quyền truy cập ChatGPT trong 24 giờ đối với người dùng lần đầu vi phạm yêu cầu tạo nội dung độc hại và cung cấp tài nguyên hỗ trợ.

Đánh giá tác động và góc nhìn chuyên môn

Việc gia tăng đột biến các hình ảnh giả mạo do trí tuệ nhân tạo tạo ra đang làm suy yếu năng lực điều tra của các cơ quan chức năng, khiến họ khó phân biệt giữa nạn nhân thực tế và nội dung hư cấu.

Sự hợp tác giữa doanh nghiệp công nghệ và các cơ quan tư pháp đánh dấu một bước chuyển hướng từ việc xử lý hậu quả pháp lý sang nỗ lực ngăn chặn hành vi từ gốc.

Xu hướng tiếp theo và điều cần theo dõi

Hiệu quả thực tế của công cụ phân loại này khi triển khai rộng rãi bởi các tổ chức ngoài vòng kiểm soát trực tiếp của OpenAI vẫn chưa được kiểm chứng đầy đủ.

Phản ứng chính xác từ các nhà lập pháp liên bang đối với các biện pháp tự nguyện này và liệu có quy định pháp lý bắt buộc nào tiếp theo hay không vẫn còn bỏ ngỏ.

Bản quyền nội dung và biên tập thuộc về Ban biên tập AIINEWS
Chia sẻ bài phân tích này:
Góc nhìn mở rộng & Đột phá công nghệ

Các phân tích & Tiêu điểm liên quan

Hiển thị 8 bài phân tích tuyển chọn
OpenAI triển khai bộ phân loại ảnh và cảnh báo trên ChatGPT để chặn nội dung lạm dụng trẻ em
Mô hình & Đột phá AIkhoảng 14 giờ trước

OpenAI triển khai bộ phân loại ảnh và cảnh báo trên ChatGPT để chặn nội dung lạm dụng trẻ em

OpenAI vừa công bố một loạt công cụ an toàn mới nhằm phát hiện và ngăn chặn nội dung lạm dụng tình dục trẻ em. Công nghệ này bao gồm bộ phân loại ảnh thông minh, các màn hình cảnh báo người dùng và bộ công cụ hỗ trợ cơ quan thực thi pháp luật.

2 phút đọc3,415
Anthropic ra mắt dòng mô hình Claude Fable 5.2 và Mythos 5.2 với mức độ bảo vệ linh hoạtTin nóng
Trí tuệ nhân tạo7 ngày trước

Anthropic ra mắt dòng mô hình Claude Fable 5.2 và Mythos 5.2 với mức độ bảo vệ linh hoạt

Công ty trí tuệ nhân tạo Anthropic vừa phát hành các dòng mô hình Claude Fable 5.2 và Mythos 5.2 dựa trên cùng một kiến trúc cơ bản nhưng sở hữu các tầng kiểm duyệt an toàn khác nhau. Những mô hình mới này hỗ trợ cửa sổ ngữ cảnh một triệu token và định vị dành cho các tác vụ lập trình dài hạn hay nghiên cứu tác tử.

2 phút đọc18,041
Công ty Úc triển khai hàng trăm nghìn bot trí tuệ nhân tạo để lừa ngược kẻ gian
Khởi nghiệp & Quỹ đầu tưkhoảng 1 giờ trước

Công ty Úc triển khai hàng trăm nghìn bot trí tuệ nhân tạo để lừa ngược kẻ gian

Một công ty tại Úc đang vận hành hàng trăm nghìn bot trí tuệ nhân tạo đóng vai nạn nhân tiềm năng nhằm kéo dài cuộc gọi và khai thác thông tin từ kẻ lừa đảo. Chiến thuật này giúp thu thập các đầu mối quan trọng về tài khoản nhận tiền và cơ sở hạ tầng gian lận.

2 phút đọc388
Alibaba ra mắt mô hình ngôn ngữ lớn Qwen4-Max với kiến trúc huấn luyện tối ưu
Mô hình & Đột phá AIkhoảng 8 giờ trước

Alibaba ra mắt mô hình ngôn ngữ lớn Qwen4-Max với kiến trúc huấn luyện tối ưu

Alibaba vừa chính thức giới thiệu Qwen4-Max, mô hình ngôn ngữ lớn mạnh mẽ nhất của hãng với tổng số tham số lên tới 2.4 nghìn tỷ nhưng chỉ kích hoạt 71 tỷ tham số tại mỗi thời điểm hoạt động. Nền tảng này tích hợp các cải tiến chuyên sâu về cơ chế chú ý và quy trình huấn luyện giúp giảm đáng kể chi phí vận hành.

2 phút đọc2,501
Scott Wiener chuẩn bị định hình chính sách trí tuệ nhân tạo tại quốc hội Mỹ

Scott Wiener chuẩn bị định hình chính sách trí tuệ nhân tạo tại quốc hội Mỹ

Vừa giành chiến thắng trong cuộc đua vào hạ viện Mỹ tại ghế của cựu chủ tịch Nancy Pelosi, nghị sĩ Scott Wiener mang góc nhìn an toàn công nghệ tiên tiến lên cấp liên bang. Ông thúc giục các nhà lập pháp nhanh chóng ban hành những quy định kiểm soát rủi ro kiểm soát hệ thống.

2 phút đọc7,389