Chuyên gia an toàn AI ngừng tiết kiệm hưu trí vì tin chắc loài người sắp bị diệt vong
Tóm lược nhanh
Tổng hợp và đối chiếu bởi gemini-2.0-flash-thinking-exp
“**Tuyên bố gây sốc từ một chuyên gia về viễn cảnh diệt vong của nhân loại trong thập kỷ tới đang khi”
Các điểm cốt lõi
- 1.**Tuyên bố gây sốc từ một chuyên gia về viễn cảnh diệt vong của nhân loại trong thập kỷ tới đang khiến công chúng xôn xao.
- 2.Liệu đây có thực sự là mối lo ngại có cơ sở hay chỉ là câu chuyện báo động nhằm tìm kiếm danh tiếng?** Trong một tập phát sóng gần đây của podcast "The Most Interesting Thing in AI" do tạp chí Atlantic thực hiện, Nate Soares - nhà nghiên cứu học máy kiêm chủ tịch Viện Nghiên cứu Trí tuệ Máy móc (MIRI) - đã đưa ra phát biểu đầy lo ngại.
- 3.Ông chia sẻ bản thân tin vào ngày tận thế do AI đến mức đã ngừng đóng góp vào tài khoản hưu trí.
Tuyên bố gây sốc từ một chuyên gia về viễn cảnh diệt vong của nhân loại trong thập kỷ tới đang khiến công chúng xôn xao. Liệu đây có thực sự là mối lo ngại có cơ sở hay chỉ là câu chuyện báo động nhằm tìm kiếm danh tiếng?
Trong một tập phát sóng gần đây của podcast "The Most Interesting Thing in AI" do tạp chí Atlantic thực hiện, Nate Soares - nhà nghiên cứu học máy kiêm chủ tịch Viện Nghiên cứu Trí tuệ Máy móc (MIRI) - đã đưa ra phát biểu đầy lo ngại. Ông chia sẻ bản thân tin vào ngày tận thế do AI đến mức đã ngừng đóng góp vào tài khoản hưu trí.
Cụ thể, Soares có một quỹ 401(k) từ khi còn làm việc tại Google, nhưng một thập kỷ qua ông không đóng thêm đồng nào. Vị chuyên gia này đánh giá xác suất AI hủy diệt nhân loại trong mười năm tới là trên 50%.
Dù vậy, Soares khẳng định ông đang nỗ lực hết mình để ngăn chặn điều này và không cho rằng thảm họa là điều không thể tránh khỏi.
Trong giới nghiên cứu, Soares được biết đến như một nhân vật chuyên gieo rắc nỗi sợ - một chiêu bài dường như đang lặp lại. Tại MIRI, ông là cánh tay phải của Eliezer Yudkowsky. Cả hai liên tục thúc đẩy các câu chuyện mang tính báo động, qua đó thu hút sự chú ý của truyền thông, giành được các hợp đồng sách và tiếp cận trực tiếp giới chính trị gia.
Tuy nhiên, giới phê bình nhấn mạnh rằng dù cả hai dành nhiều thời gian lo lắng về ngày tận thế, giới chuyên môn hoàn toàn không có sự đồng thuận nào về việc viễn cảnh đó có thể xảy ra hay không, chứ chưa nói đến tính khả thi.
Dù sao đi nữa, vẫn có nhiều lý do để bi quan về công nghệ này. AI đã từng bị dùng để đánh bom học sinh tiểu học, lừa đảo người cao tuổi và đẩy nhiều người dùng dễ tổn thương đến cái chết. Đáng nói, AI không cần phải đạt tới mức siêu trí tuệ để gây ra những hậu quả đó.
Nếu chỉ tập trung vào các mối nguy viển vông trong tương lai xa, con người sẽ rất dễ xem nhẹ các tổn hại nhức nhối mà công nghệ đang trực tiếp gây ra ở hiện tại.
Về vấn đề tiết kiệm cho tuổi già, lựa chọn an toàn nhất vẫn là tiếp tục đóng góp vào quỹ dự phòng thay vì mạo hiểm để rồi ân hận. Nhìn nhận một cách thực tế: nếu AI thực sự tiêu diệt tất cả, tiền bạc khi ấy cũng chẳng còn quan trọng; nhưng nếu điều đó không xảy ra, việc ngừng tiết kiệm chắc chắn sẽ khiến bạn phải trả giá đắt.
