Anthropic đã chính thức nộp bản cáo bạch cho đợt chào bán cổ phiếu lần đầu ra công chúng, điều đó có nghĩa là phòng thí nghiệm AI đã trưng bày tất cả các loại thông tin riêng tư trước đây. Mặc dù bản cáo bạch chứa đựng doanh thu đáng kinh ngạc — và thậm chí cả những khoản chi tiêu lớn hơn — mà bạn có thể mong đợi, nhưng phần lớn nhất của hồ sơ cho đến nay lại đề cập đến “các yếu tố rủi ro”, là tất cả những điều có thể phá hủy các kế hoạch lớn của Anthropic. Hoặc, trong trường hợp này, chính con người.

Mặc dù người ta đã đưa ra nhiều thông tin về mức độ mà AI thể hiện mối đe dọa hiện hữu đối với loài người, nhưng các cơ chế cụ thể mà nó có thể gây ra sự hủy diệt đó phần lớn vẫn chưa rõ ràng. Nếu không có gì khác, 94 trang mà bản cáo bạch của Anthropic dành cho các yếu tố rủi ro sẽ làm rõ cả nơi họ nhận thấy mối nguy hiểm đến từ đâu và cách thức mà các nhà nghiên cứu của họ đang hướng tới nó để giành chiến thắng trong cuộc chạy đua vũ trang AI.

“Các hệ thống AI đủ tiên tiến, nếu không được phát triển, triển khai và vận hành với các biện pháp bảo vệ, giám sát và an ninh thích hợp, có thể gây ra rủi ro thảm khốc hoặc tồn tại cho nhân loại,” bản cáo bạch viết, trích dẫn những lo ngại từ cả các nhà phê bình và cơ quan quản lý cũng như từ chính nội bộ Anthropic. (Đây là lần đầu tiên trong ba lần cụm từ “rủi ro hiện hữu” xuất hiện.)

Tuy nhiên, Anthropic cẩn thận gắn kết quả đó với một quá trình cụ thể: tự cải thiện đệ quy.

Ý tưởng đằng sau RSI cực kỳ đơn giản. Nó mô tả trạng thái trong đó con người chuyển giao việc nghiên cứu và phát triển các mô hình AI cho các mô hình AI khác. AI đã đóng một vai trò quan trọng ở đây — và ít nhất một phòng thí nghiệm đã sử dụng thứ gì đó gần với RSI để tăng tốc độ phát triển trên một mô hình vượt quá trọng lượng của nó — nhưng kịch bản gây ra cuộc bàn tán về ngày tận thế là kịch bản trong đó con người không còn ở trong vòng lặp nữa.

Hoặc, như hồ sơ Anthropic nêu: “Rủi ro sẽ tăng lên khi các hệ thống AI tự động hóa đáng kể việc nghiên cứu và phát triển AI, chẳng hạn như nếu chúng đẩy nhanh tiến độ AI vượt quá khả năng đánh giá và bảo vệ các mô hình mới của chúng tôi”.

Bản cáo bạch liên tục đưa ra quan điểm rằng RSI có thể dẫn đến các mô hình AI phát triển nhanh hơn các biện pháp bảo vệ của công ty và công ty thậm chí có thể không nhận ra mình đã thua cuộc đua đó cho đến khi quá muộn. Anthropic đã không trả lời ngay lập tức yêu cầu bình luận.

Nó cũng có thông tin cụ thể về những gì có thể xảy ra sau đó. Bản cáo bạch cho biết: “Khi các hệ thống AI trở nên tự chủ hơn và có khả năng thực hiện các hành động mang tính hệ quả mà ít có sự giám sát của con người hơn,” bản cáo bạch cho biết, “có nguy cơ là các hệ thống đó có thể, dù do không phù hợp với ý định của con người, lỗi trong đặc điểm khách quan hoặc hành vi tự bảo vệ, thực hiện các hành động có hại một cách độc lập và trên quy mô lớn mà không có sự can thiệp của con người”. Đây là lãnh thổ Skynet.

Nói về robot, cờ Anthropic cũng quan tâm đến những điều đó. Hồ sơ cho biết: “Khi các mô hình của chúng tôi điều khiển thiết bị vật lý, các lỗi, hành vi sai lệch, thao túng đối nghịch hoặc sử dụng sai mục đích có thể dẫn đến thương tích cơ thể, hư hỏng tài sản, hư hỏng thiết bị đắt tiền hoặc vật liệu thí nghiệm hoặc giải phóng các chất độc hại và những hậu quả như vậy có thể là ngay lập tức và không thể khắc phục được.”

Bạn có thể nghĩ, với những lợi ích rõ ràng đang tồn tại, việc cân nhắc nghiêm túc đó sẽ được đưa ra xem liệu có nên theo đuổi RSI hay không, chứ đừng nói đến việc chấp nhận. Tuy nhiên, trong một ngành cạnh tranh như AI tiên phong, điều đó đã trở thành chuyện đã rồi. Đây là cách Anthropic mô tả quá trình tương tự ở những chỗ khác trong bản cáo bạch, lần này là trong phần về “những lợi thế cốt lõi” của công ty khởi nghiệp:

Bản cáo bạch cho biết: “Chúng tôi gọi động lực đệ quy này là ‘đóng vòng lặp’ và chúng tôi tin rằng đó là một trong những lợi thế cấu trúc quan trọng nhất của AI tiên phong”.

Sau này, Anthropic cho biết, việc không “đóng vòng lặp” có thể dẫn đến việc “ngày càng tụt lại phía sau khi các đối thủ cạnh tranh liên tục sử dụng AI để nâng cao hơn nữa khả năng phát triển của chính họ”. Nói cách khác, chính những hệ thống đang gây ra tất cả những mối lo ngại hiện hữu đó lại chính là những hệ thống mà Anthropic coi là quan trọng đối với sự thành công của nó.

Mọi công ty AI đều đang phải đối mặt với tình trạng căng thẳng tương tự. Khi cựu nhà nghiên cứu Nhân chủng học Jacob Coxon gây phẫn nộ vì lớn tiếng từ chức, ông đã đặt việc kiềm chế RSI lên hàng đầu trong danh sách mong muốn của mình đối với ngành. Nhân viên tại Google DeepMind và những nơi khác cũng có những phát hiện tương tự. Có nhiều dự luật tại Quốc hội, trong đó có một dự luật do Bernie Sanders đồng tài trợ, đề xuất lệnh cấm RSI. Đồng thời, đây là những công ty vì lợi nhuận và có hàng nghìn tỷ đô la đang bị đe dọa.

Đó là một động lực phức tạp để điều hướng. Quá trình tự cải thiện đệ quy có thể trở thành một chuyến tàu chạy trốn hủy diệt loài người. Nhưng cho đến lúc đó, hãy xem nó có thể đi nhanh đến mức nào.

Bình luận

Quay lại đầu trang