AIINEWS

AIINEWS

Báo cáo chuyên sâu về Trí tuệ nhân tạo và Công nghệ toàn cầu

OpenAI triển khai bộ phân loại ảnh và cảnh báo trên ChatGPT để chặn nội dung lạm dụng trẻ em

Ban biên tập AIINEWS•frontier-models
16 tháng 11, 2026•2 phút đọc
OpenAI triển khai bộ phân loại ảnh và cảnh báo trên ChatGPT để chặn nội dung lạm dụng trẻ em

Tóm lược nhanh

“OpenAI vừa công bố một loạt công cụ an toàn mới nhằm phát hiện và ngăn chặn nội dung lạm...”

Các điểm cốt lõi

  • 1.OpenAI phát triển một bộ phân loại ảnh mới có khả năng phát hiện các hình ảnh lạm dụng tình dục trẻ em, bao gồm cả nội dung do trí tuệ nhân tạo tạo ra.
  • 2.Bộ phân loại này được phát triển phối hợp cùng Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột, đồng thời giảm 48% số lượng ảnh bị gắn cờ nhầm trong các thử nghiệm ban đầu.
  • 3.ChatGPT được tích hợp các màn hình cảnh báo mới, hướng dẫn người dùng đến các dịch vụ hỗ trợ và tự động tạm khóa tài khoản trong 24 giờ đối với những hành vi vi phạm.

OpenAI vừa công bố một loạt công cụ an toàn mới nhằm phát hiện và ngăn chặn nội dung lạm dụng tình dục trẻ em. Công nghệ này bao gồm bộ phân loại ảnh thông minh, các màn hình cảnh báo người dùng và bộ công cụ hỗ trợ cơ quan thực thi pháp luật.

Bối cảnh và chi tiết công nghệ

OpenAI phát triển một bộ phân loại ảnh mới có khả năng phát hiện các hình ảnh lạm dụng tình dục trẻ em, bao gồm cả nội dung do trí tuệ nhân tạo tạo ra.

Bộ phân loại này được phát triển phối hợp cùng Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột, đồng thời giảm 48% số lượng ảnh bị gắn cờ nhầm trong các thử nghiệm ban đầu.

ChatGPT được tích hợp các màn hình cảnh báo mới, hướng dẫn người dùng đến các dịch vụ hỗ trợ và tự động tạm khóa tài khoản trong 24 giờ đối với những hành vi vi phạm.

Đánh giá tác động và góc nhìn chuyên môn

Việc tích hợp công cụ phân loại ảnh miễn phí cho các doanh nghiệp qua API giúp mở rộng năng lực rà soát nội dung độc hại trên toàn hệ sinh thái công nghệ.

Việc kết hợp giữa cảnh báo thời gian thực và hình phạt khóa tài khoản tạm thời tạo ra hàng rào ngăn chặn hành vi tìm kiếm nội dung sai trái.

Xu hướng tiếp theo và điều cần theo dõi

Hiệu quả thực tế của các công cụ mới khi áp dụng ở quy mô lớn ngoài các bài kiểm tra thử nghiệm chưa được làm rõ hoàn toàn.

Bản quyền nội dung và biên tập thuộc về Ban biên tập AIINEWS
Chia sẻ bài phân tích này:
Góc nhìn mở rộng & Đột phá công nghệ

Các phân tích & Tiêu điểm liên quan

Hiển thị 8 bài phân tích tuyển chọn
Anthropic ra mắt dòng mô hình Claude Fable 5.2 và Mythos 5.2 với mức độ bảo vệ linh hoạtTin nóng
Trí tuệ nhân tạo7 ngày trước

Anthropic ra mắt dòng mô hình Claude Fable 5.2 và Mythos 5.2 với mức độ bảo vệ linh hoạt

Công ty trí tuệ nhân tạo Anthropic vừa phát hành các dòng mô hình Claude Fable 5.2 và Mythos 5.2 dựa trên cùng một kiến trúc cơ bản nhưng sở hữu các tầng kiểm duyệt an toàn khác nhau. Những mô hình mới này hỗ trợ cửa sổ ngữ cảnh một triệu token và định vị dành cho các tác vụ lập trình dài hạn hay nghiên cứu tác tử.

2 phút đọc18,041
Alibaba ra mắt mô hình ngôn ngữ lớn Qwen4-Max với kiến trúc huấn luyện tối ưu
Mô hình & Đột phá AIkhoảng 8 giờ trước

Alibaba ra mắt mô hình ngôn ngữ lớn Qwen4-Max với kiến trúc huấn luyện tối ưu

Alibaba vừa chính thức giới thiệu Qwen4-Max, mô hình ngôn ngữ lớn mạnh mẽ nhất của hãng với tổng số tham số lên tới 2.4 nghìn tỷ nhưng chỉ kích hoạt 71 tỷ tham số tại mỗi thời điểm hoạt động. Nền tảng này tích hợp các cải tiến chuyên sâu về cơ chế chú ý và quy trình huấn luyện giúp giảm đáng kể chi phí vận hành.

2 phút đọc2,501