Một cuộc điều tra kéo dài 11 tuần từ tổ chức METR hé lộ rằng các mô hình AI của Anthropic đang hỗ trợ chính công ty cải tiến công nghệ với tốc độ vượt trội, dấy lên tranh cãi về tính minh bạch và rủi ro tự cải tiến đệ quy.

Bối cảnh và chi tiết công nghệ

Tổ chức nghiên cứu an toàn AI METR đã công bố báo cáo kéo dài 11 tuần khảo sát bên trong Anthropic, cho thấy tốc độ cải tiến mô hình của hãng này nhanh gấp đôi so với cùng kỳ năm trước.

Phần lớn sự bứt phá này xuất phát từ việc AI hỗ trợ chính các nhà nghiên cứu con người, với nhân viên tự đánh giá năng suất cao gấp khoảng 12 lần nhờ trợ lý AI.

Anthropic đã giữ lại quyền biên tập và thực hiện che giấu phần lớn các bằng chứng trong bản báo cáo công khai của METR, với lý do bảo vệ bí mật thương mại và tránh cung cấp lộ trình cho đối thủ.

Đánh giá tác động và góc nhìn chuyên môn

Việc AI tự tối ưu hóa nghiên cứu đặt ra thách thức lớn đối với các cơ chế quản trị công nghệ, khi tốc độ tự cải tiến có thể sớm vượt xa khả năng theo kịp của khung pháp lý và chính sách xã hội.

Quyền kiểm duyệt báo cáo của các phòng thí nghiệm thương mại làm giảm hiệu quả của các cuộc kiểm toán độc lập, cho thấy khoảng trống lớn trong việc thiết lập sự giám sát dân chủ thực chất đối với các tiến bộ biên giới.

Xu hướng tiếp theo và điều cần theo dõi

Những chi tiết cụ thể nào đã bị Anthropic xóa bỏ khỏi báo cáo và mức độ tác động thực sự của các mô hình chưa phát hành (như Model 2, 3, 4) đối với tiến trình tự động hóa vẫn chưa được công khai.

Phạm vi chính xác mà các hệ thống AI có thể chuyển đổi từ hỗ trợ con người sang tự chủ hoàn toàn trong việc phát triển phiên bản kế tiếp vẫn cần thêm thời gian để kiểm chứng thực tế.