OpenAI triển khai bộ phân loại ảnh và cảnh báo trên ChatGPT để chặn nội dung lạm dụng trẻ em

Tóm lược nhanh
“OpenAI vừa công bố một loạt công cụ an toàn mới nhằm phát hiện và ngăn chặn nội dung lạm...”
Các điểm cốt lõi
- 1.OpenAI phát triển một bộ phân loại ảnh mới có khả năng phát hiện các hình ảnh lạm dụng tình dục trẻ em, bao gồm cả nội dung do trí tuệ nhân tạo tạo ra.
- 2.Bộ phân loại này được phát triển phối hợp cùng Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột, đồng thời giảm 48% số lượng ảnh bị gắn cờ nhầm trong các thử nghiệm ban đầu.
- 3.ChatGPT được tích hợp các màn hình cảnh báo mới, hướng dẫn người dùng đến các dịch vụ hỗ trợ và tự động tạm khóa tài khoản trong 24 giờ đối với những hành vi vi phạm.
OpenAI vừa công bố một loạt công cụ an toàn mới nhằm phát hiện và ngăn chặn nội dung lạm dụng tình dục trẻ em. Công nghệ này bao gồm bộ phân loại ảnh thông minh, các màn hình cảnh báo người dùng và bộ công cụ hỗ trợ cơ quan thực thi pháp luật.
Bối cảnh và chi tiết công nghệ
OpenAI phát triển một bộ phân loại ảnh mới có khả năng phát hiện các hình ảnh lạm dụng tình dục trẻ em, bao gồm cả nội dung do trí tuệ nhân tạo tạo ra.
Bộ phân loại này được phát triển phối hợp cùng Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột, đồng thời giảm 48% số lượng ảnh bị gắn cờ nhầm trong các thử nghiệm ban đầu.
ChatGPT được tích hợp các màn hình cảnh báo mới, hướng dẫn người dùng đến các dịch vụ hỗ trợ và tự động tạm khóa tài khoản trong 24 giờ đối với những hành vi vi phạm.
Đánh giá tác động và góc nhìn chuyên môn
Việc tích hợp công cụ phân loại ảnh miễn phí cho các doanh nghiệp qua API giúp mở rộng năng lực rà soát nội dung độc hại trên toàn hệ sinh thái công nghệ.
Việc kết hợp giữa cảnh báo thời gian thực và hình phạt khóa tài khoản tạm thời tạo ra hàng rào ngăn chặn hành vi tìm kiếm nội dung sai trái.
Xu hướng tiếp theo và điều cần theo dõi
Hiệu quả thực tế của các công cụ mới khi áp dụng ở quy mô lớn ngoài các bài kiểm tra thử nghiệm chưa được làm rõ hoàn toàn.







