OpenAI dùng Control Room để chặn tác vụ nghiên cứu AI, công bố độ trễ tối đa 35 giây

Tóm lược nhanh
“OpenAI triển khai Control Room để chặn tác vụ nghiên cứu nhận thêm đầu ra từ mô hình khi có...”
Các điểm cốt lõi
- 1.Control Room kết nối các tác vụ như huấn luyện, đánh giá mô hình và xử lý dữ liệu với một máy chủ trung tâm để kiểm tra quyền tiếp tục nhận đầu ra.
- 2.Trước khi xử lý yêu cầu suy luận, công cụ chạy mô hình kiểm tra tác vụ với Control Room. Khi có lệnh dừng, yêu cầu tiếp theo bị từ chối, dù mã nguồn của tác vụ không nhất thiết ngừng chạy.
- 3.Nếu dịch vụ trung tâm gặp lỗi, bị vô hiệu hóa hoặc bị can thiệp trái phép, công cụ suy luận sẽ từ chối yêu cầu cho đến khi dịch vụ hoạt động trở lại.
- 4.OpenAI cho biết độ trễ tối đa từ khi nhận lệnh dừng đến lúc chặn bước xử lý tiếp theo là 35 giây. Theo bài viết, bộ nhớ đệm phục vụ lượng lớn yêu cầu cấp quyền tạo ra độ trễ này; công ty đang tìm cách giảm nó.
OpenAI triển khai Control Room để chặn tác vụ nghiên cứu nhận thêm đầu ra từ mô hình khi có lệnh dừng. Công ty cho biết hệ thống có thể mất tối đa 35 giây để ngăn bước xử lý tiếp theo.
Bối cảnh và chi tiết công nghệ
Control Room kết nối các tác vụ như huấn luyện, đánh giá mô hình và xử lý dữ liệu với một máy chủ trung tâm để kiểm tra quyền tiếp tục nhận đầu ra.
Trước khi xử lý yêu cầu suy luận, công cụ chạy mô hình kiểm tra tác vụ với Control Room. Khi có lệnh dừng, yêu cầu tiếp theo bị từ chối, dù mã nguồn của tác vụ không nhất thiết ngừng chạy.
Nếu dịch vụ trung tâm gặp lỗi, bị vô hiệu hóa hoặc bị can thiệp trái phép, công cụ suy luận sẽ từ chối yêu cầu cho đến khi dịch vụ hoạt động trở lại.
OpenAI cho biết độ trễ tối đa từ khi nhận lệnh dừng đến lúc chặn bước xử lý tiếp theo là 35 giây. Theo bài viết, bộ nhớ đệm phục vụ lượng lớn yêu cầu cấp quyền tạo ra độ trễ này; công ty đang tìm cách giảm nó.
Đánh giá tác động và góc nhìn chuyên môn
Điểm can thiệp nằm ở quyền nhận thêm đầu ra từ mô hình, không phải ở việc buộc toàn bộ mã nghiên cứu dừng chạy. Vì vậy, gọi Control Room là nút tắt hoàn toàn tác vụ sẽ gây hiểu lầm.
Cơ chế từ chối yêu cầu khi dịch vụ trung tâm gặp sự cố ưu tiên việc không cấp đầu ra mới. Đổi lại, một lỗi ở dịch vụ này cũng có thể làm gián đoạn các tác vụ đang cần suy luận.
Xu hướng tiếp theo và điều cần theo dõi
Chưa rõ có đơn vị đánh giá an toàn độc lập nào được phép kiểm tra Control Room hay không.
Nguồn không nêu kết quả kiểm thử độc lập đối với mốc tối đa 35 giây hoặc thời điểm OpenAI có thể rút ngắn độ trễ.







