AIINEWS

AIINEWS

Báo cáo chuyên sâu về Trí tuệ nhân tạo và Công nghệ toàn cầu

Hồ sơ S-1 của loài người cũng là một mồi cho ngày tận thế của AI

Ban biên tập AIINEWS•ai-machine-learning
26 tháng 10, 2026•6 phút đọc
Hồ sơ S-1 của loài người cũng là một mồi cho ngày tận thế của AI

Tóm lược nhanh

“Anthropic cho rằng “đóng vòng lặp” là con đường tốt nhất để AI chiến thắng—và là công thức giải quyết các mối đe dọa “hiện hữu” đối với nhân loại.”

Anthropic đã chính thức nộp bản cáo bạch cho đợt chào bán cổ phiếu lần đầu ra công chúng, điều đó có nghĩa là phòng thí nghiệm AI đã trưng bày tất cả các loại thông tin riêng tư trước đây. Mặc dù bản cáo bạch chứa đựng doanh thu đáng kinh ngạc — và thậm chí cả những khoản chi tiêu lớn hơn — mà bạn có thể mong đợi, nhưng phần lớn nhất của hồ sơ cho đến nay lại đề cập đến “các yếu tố rủi ro”, là tất cả những điều có thể phá hủy các kế hoạch lớn của Anthropic. Hoặc, trong trường hợp này, chính con người.

Mặc dù người ta đã đưa ra nhiều thông tin về mức độ mà AI thể hiện mối đe dọa hiện hữu đối với loài người, nhưng các cơ chế cụ thể mà nó có thể gây ra sự hủy diệt đó phần lớn vẫn chưa rõ ràng. Nếu không có gì khác, 94 trang mà bản cáo bạch của Anthropic dành cho các yếu tố rủi ro sẽ làm rõ cả nơi họ nhận thấy mối nguy hiểm đến từ đâu và cách thức mà các nhà nghiên cứu của họ đang hướng tới nó để giành chiến thắng trong cuộc chạy đua vũ trang AI.

“Các hệ thống AI đủ tiên tiến, nếu không được phát triển, triển khai và vận hành với các biện pháp bảo vệ, giám sát và an ninh thích hợp, có thể gây ra rủi ro thảm khốc hoặc tồn tại cho nhân loại,” bản cáo bạch viết, trích dẫn những lo ngại từ cả các nhà phê bình và cơ quan quản lý cũng như từ chính nội bộ Anthropic. (Đây là lần đầu tiên trong ba lần cụm từ “rủi ro hiện hữu” xuất hiện.)

Tuy nhiên, Anthropic cẩn thận gắn kết quả đó với một quá trình cụ thể: tự cải thiện đệ quy.

Ý tưởng đằng sau RSI cực kỳ đơn giản. Nó mô tả trạng thái trong đó con người chuyển giao việc nghiên cứu và phát triển các mô hình AI cho các mô hình AI khác. AI đã đóng một vai trò quan trọng ở đây — và ít nhất một phòng thí nghiệm đã sử dụng thứ gì đó gần với RSI để tăng tốc độ phát triển trên một mô hình vượt quá trọng lượng của nó — nhưng kịch bản gây ra cuộc bàn tán về ngày tận thế là kịch bản trong đó con người không còn ở trong vòng lặp nữa.

Hoặc, như hồ sơ Anthropic nêu: “Rủi ro sẽ tăng lên khi các hệ thống AI tự động hóa đáng kể việc nghiên cứu và phát triển AI, chẳng hạn như nếu chúng đẩy nhanh tiến độ AI vượt quá khả năng đánh giá và bảo vệ các mô hình mới của chúng tôi”.

Bản cáo bạch liên tục đưa ra quan điểm rằng RSI có thể dẫn đến các mô hình AI phát triển nhanh hơn các biện pháp bảo vệ của công ty và công ty thậm chí có thể không nhận ra mình đã thua cuộc đua đó cho đến khi quá muộn. Anthropic đã không trả lời ngay lập tức yêu cầu bình luận.

Nó cũng có thông tin cụ thể về những gì có thể xảy ra sau đó. Bản cáo bạch cho biết: “Khi các hệ thống AI trở nên tự chủ hơn và có khả năng thực hiện các hành động mang tính hệ quả mà ít có sự giám sát của con người hơn,” bản cáo bạch cho biết, “có nguy cơ là các hệ thống đó có thể, dù do không phù hợp với ý định của con người, lỗi trong đặc điểm khách quan hoặc hành vi tự bảo vệ, thực hiện các hành động có hại một cách độc lập và trên quy mô lớn mà không có sự can thiệp của con người”. Đây là lãnh thổ Skynet.

Nói về robot, cờ Anthropic cũng quan tâm đến những điều đó. Hồ sơ cho biết: “Khi các mô hình của chúng tôi điều khiển thiết bị vật lý, các lỗi, hành vi sai lệch, thao túng đối nghịch hoặc sử dụng sai mục đích có thể dẫn đến thương tích cơ thể, hư hỏng tài sản, hư hỏng thiết bị đắt tiền hoặc vật liệu thí nghiệm hoặc giải phóng các chất độc hại và những hậu quả như vậy có thể là ngay lập tức và không thể khắc phục được.”

Bạn có thể nghĩ, với những lợi ích rõ ràng đang tồn tại, việc cân nhắc nghiêm túc đó sẽ được đưa ra xem liệu có nên theo đuổi RSI hay không, chứ đừng nói đến việc chấp nhận. Tuy nhiên, trong một ngành cạnh tranh như AI tiên phong, điều đó đã trở thành chuyện đã rồi. Đây là cách Anthropic mô tả quá trình tương tự ở những chỗ khác trong bản cáo bạch, lần này là trong phần về “những lợi thế cốt lõi” của công ty khởi nghiệp:

Bản cáo bạch cho biết: “Chúng tôi gọi động lực đệ quy này là ‘đóng vòng lặp’ và chúng tôi tin rằng đó là một trong những lợi thế cấu trúc quan trọng nhất của AI tiên phong”.

Sau này, Anthropic cho biết, việc không “đóng vòng lặp” có thể dẫn đến việc “ngày càng tụt lại phía sau khi các đối thủ cạnh tranh liên tục sử dụng AI để nâng cao hơn nữa khả năng phát triển của chính họ”. Nói cách khác, chính những hệ thống đang gây ra tất cả những mối lo ngại hiện hữu đó lại chính là những hệ thống mà Anthropic coi là quan trọng đối với sự thành công của nó.

Mọi công ty AI đều đang phải đối mặt với tình trạng căng thẳng tương tự. Khi cựu nhà nghiên cứu Nhân chủng học Jacob Coxon gây phẫn nộ vì lớn tiếng từ chức, ông đã đặt việc kiềm chế RSI lên hàng đầu trong danh sách mong muốn của mình đối với ngành. Nhân viên tại Google DeepMind và những nơi khác cũng có những phát hiện tương tự. Có nhiều dự luật tại Quốc hội, trong đó có một dự luật do Bernie Sanders đồng tài trợ, đề xuất lệnh cấm RSI. Đồng thời, đây là những công ty vì lợi nhuận và có hàng nghìn tỷ đô la đang bị đe dọa.

Đó là một động lực phức tạp để điều hướng. Quá trình tự cải thiện đệ quy có thể trở thành một chuyến tàu chạy trốn hủy diệt loài người. Nhưng cho đến lúc đó, hãy xem nó có thể đi nhanh đến mức nào.

Bình luận

Quay lại đầu trang

Bản quyền nội dung và biên tập thuộc về Ban biên tập AIINEWS
Chia sẻ bài phân tích này:
Góc nhìn mở rộng & Đột phá công nghệ

Các phân tích & Tiêu điểm liên quan

Hiển thị 8 bài phân tích tuyển chọn
OpenAI hợp tác với Apollo Research giám sát hành vi lật đổ của trí tuệ nhân tạo
Mô hình & Đột phá AIkhoảng 15 giờ trước

OpenAI hợp tác với Apollo Research giám sát hành vi lật đổ của trí tuệ nhân tạo

OpenAI bắt đầu chương trình thí điểm đưa sáu chuyên gia từ Apollo Research vào nội bộ để giám sát các mô hình trí tuệ nhân tạo nhằm ngăn chặn hành vi tự ý phá vỡ quy tắc an toàn. Động thái này diễn ra sau khi các mô hình được ghi nhận có dấu hiệu tự lập trình để che giấu sai sót trong quá trình huấn luyện.

2 phút đọc3,536
Anthropic ra mắt dòng mô hình Claude Fable 5.2 và Mythos 5.2 với mức độ bảo vệ linh hoạtTin nóng
Trí tuệ nhân tạo7 ngày trước

Anthropic ra mắt dòng mô hình Claude Fable 5.2 và Mythos 5.2 với mức độ bảo vệ linh hoạt

Công ty trí tuệ nhân tạo Anthropic vừa phát hành các dòng mô hình Claude Fable 5.2 và Mythos 5.2 dựa trên cùng một kiến trúc cơ bản nhưng sở hữu các tầng kiểm duyệt an toàn khác nhau. Những mô hình mới này hỗ trợ cửa sổ ngữ cảnh một triệu token và định vị dành cho các tác vụ lập trình dài hạn hay nghiên cứu tác tử.

2 phút đọc18,061
Google ra mắt Gemini Decisions API với mô hình Gemini Decision 1
Trí tuệ nhân tạo5 ngày trước

Google ra mắt Gemini Decisions API với mô hình Gemini Decision 1

Google vừa công bố Gemini Decisions API sử dụng mô hình Gemini Decision 1 chuyên biệt cho các tác vụ định tuyến, kiểm tra chính sách và lựa chọn công cụ trong các hệ thống tự động. Giao diện lập trình ứng dụng này chấm điểm tối đa 1.000 câu hỏi dựa trên một đầu vào chung với chi phí 0,10 USD cho mỗi một triệu token đầu vào.

2 phút đọc7,997
Elon Musk đã chi gần 500 triệu USD cho cuộc bầu cử giữa kỳ và thua lỗ lớn

Elon Musk đã chi gần 500 triệu USD cho cuộc bầu cử giữa kỳ và thua lỗ lớn

# Elon Musk chi gần 500 triệu USD cho cuộc bầu cử giữa kỳ và thua lớn Đây là Cybertruck của cuộc bầu cử. Cuộc bầu cử giữa kỳ (hầu hết) đã ở phía sau chúng ta. Chúng tôi vẫn đang chờ kết quả từ nhiều cuộc đua, bao gồm cả cuộc đua vào thượng viện ở Mississippi và Alaska.

4 phút đọc8,865
Adobe tích hợp AI tự trị vào Creative Cloud
Trí tuệ nhân tạo1 ngày trước

Adobe tích hợp AI tự trị vào Creative Cloud

Adobe vừa công bố các bản xem trước cho phép các trợ lý AI tự trị từ bên thứ ba kết nối cục bộ và thao tác trực tiếp trên các ứng dụng đồ họa. Công nghệ này hướng tới việc tự động hóa các tác vụ lặp đi lặp lại và quản lý quy trình làm việc sáng tạo.

2 phút đọc4,461
Canva phát hành mô hình tạo hình ảnh đầu tiên
Trí tuệ nhân tạo26 ngày trước

Canva phát hành mô hình tạo hình ảnh đầu tiên

Nền tảng thiết kế Canva đã phát hành mô hình tạo hình ảnh đầu tiên, được gọi là Canva Craft, do nhóm nghiên cứu của họ phát triển để cạnh tranh với các mô hình cùng loại từ Google, OpenAI, ByteDance và Meta. Công ty cho biết mô hình của họ hoạt động theo hai giai đoạn. Trong giai đoạn đầu tiên, nó diễn giải lời nhắc của người dùng và tạo một kế hoạch với các chi tiết như mối quan hệ không gian của các phần tử, tỷ lệ tương đối, phân cấp trực quan và thông tin để tạo văn bản.

3 phút đọc5,302
Hồ sơ S-1 của loài người cũng là một mồi cho ngày tận thế của AI | AIINEWS