OpenAI bổ sung các giới hạn chặt chẽ hơn đối với thanh thiếu niên hỏi về súng

Tóm lược nhanh
“# OpenAI bổ sung các giới hạn chặt chẽ hơn đối với thanh thiếu niên hỏi về súng Công ty cho biết nh”
Các điểm cốt lõi
- 1.# OpenAI bổ sung các giới hạn chặt chẽ hơn đối với thanh thiếu niên hỏi về súng Công ty cho biết những hạn chế chặt chẽ hơn này sẽ được áp dụng ngay cả khi câu hỏi được hỏi “có vẻ vô hại”.
- 2.OpenAI đang kiểm soát "thông tin liên quan đến vũ khí" mà thanh thiếu niên có thể nhận được từ ChatGPT, ngay cả khi câu hỏi của họ "có vẻ vô hại", công ty đã thông báo trong bài đăng mới nhất của mình.
- 3.OpenAI lưu ý rằng họ đã có chính sách ngăn chặn ChatGPT giúp người dùng thực hiện các hành vi bạo lực hoặc thanh thiếu niên chạm tay vào vũ khí.
Công ty cho biết những hạn chế chặt chẽ hơn này sẽ được áp dụng ngay cả khi câu hỏi được hỏi “có vẻ vô hại”.
OpenAI đang kiểm soát "thông tin liên quan đến vũ khí" mà thanh thiếu niên có thể nhận được từ ChatGPT, ngay cả khi câu hỏi của họ "có vẻ vô hại", công ty đã thông báo trong bài đăng mới nhất của mình. OpenAI lưu ý rằng họ đã có chính sách ngăn chặn ChatGPT giúp người dùng thực hiện các hành vi bạo lực hoặc thanh thiếu niên chạm tay vào vũ khí. Để hạn chế hơn nữa những tình huống đó, OpenAI cho biết họ sẽ “hạn chế thông tin thực tế về vũ khí và hệ thống an ninh có thể bị lạm dụng để tạo điều kiện cho bạo lực, ngay cả khi không có dấu hiệu của ý định bạo lực” với người dùng tuổi teen.
Gã khổng lồ AI lưu ý rằng thanh thiếu niên vẫn có thể sử dụng ChatGPT khi muốn ngăn chặn hoặc giảm bớt bạo lực leo thang, tìm kiếm sự hỗ trợ và kết nối với một người lớn đáng tin cậy. Không chỉ với thanh thiếu niên, OpenAI đang củng cố các ranh giới chính sách cho tất cả người dùng, đặc biệt khi được hỏi về “việc tái hiện các cuộc tấn công hàng loạt trong quá khứ, bao gồm thông tin chi tiết về vũ khí và thiết bị được sử dụng cũng như cách lấy được chúng, cũng như so sánh chi tiết về quy mô thiệt hại có thể khuếch đại danh tiếng của kẻ tấn công”.
Tuy nhiên, những hạn chế này sẽ hoạt động cùng với các biện pháp kiểm soát của phụ huynh mà OpenAI đưa ra vào năm ngoái, sẽ gửi thông báo cho phụ huynh nếu tài khoản thanh thiếu niên được liên kết của họ vi phạm chính sách ChatGPT liên quan đến các mối đe dọa bạo lực hoặc hành vi bạo lực. Những biện pháp bảo vệ bổ sung này được đưa ra sau khi OpenAI bị kiện trong một vụ kiện oan sai vào năm ngoái và khi Giám đốc điều hành của công ty, Sam Altman, công khai xin lỗi vì đã không cảnh báo cảnh sát về nhật ký trò chuyện đáng báo động liên quan đến vụ nổ súng ở Tumbler Ridge hồi đầu năm nay. Nhìn về phía trước, OpenAI cho biết họ sẽ xuất bản Báo cáo An toàn Cộng đồng đầu tiên vào đầu năm 2027, sau đó sẽ là các bản cập nhật sáu tháng một lần.






