Hôm nay, tôi đang nói chuyện với Bill Gates, người đồng sáng lập và cựu CEO của Microsoft và chủ tịch Quỹ Gates. Bạn có thể đã chú ý đến Bill trên bản tin gần đây hơn - anh ấy đã đi tham quan trong vài tháng qua, kể từ khi xuất bản một bài luận vào cuối tháng 8 có tựa đề "Kỷ nguyên AI hỗn loạn đã đến. Những lựa chọn mà chúng tôi đưa ra bây giờ là rất quan trọng." Trong tác phẩm của mình, Gates đã đưa ra quan điểm hùng biện về sự an toàn của AI, viết rằng “ngay cả trong những hoàn cảnh tốt nhất, quá trình chuyển đổi sang kỷ nguyên AI mới này sẽ là một trong những thời điểm hỗn loạn nhất trong lịch sử loài người”. Trong các cuộc phỏng vấn kể từ đó, Gates đã gọi AI là “thứ nguy hiểm nhất mà con người từng đến gần” và rằng AI “khiến vũ khí hạt nhân trông như không có gì”. Rõ ràng là ông không nghĩ rằng phản ứng chính sách hiện tại từ Nhà Trắng hoặc việc thiếu nỗ lực phối hợp từ chính ngành AI là đủ để chống lại mối đe dọa này.

Những người đăng ký Verge, đừng quên bạn có quyền truy cập độc quyền vào Bộ giải mã không có quảng cáo ở bất cứ nơi nào bạn nhận được podcast của mình. Hãy đến đây. Không phải là người đăng ký? Bạn có thể đăng ký ở đây.

Vì vậy, tôi muốn biết: Bill Gates có phải là kẻ hủy diệt AI không? Tôi cũng có một loạt câu hỏi liên quan đến những gì anh ấy đang tranh luận về AI. Làm sao chúng ta có thể hy vọng kiểm soát được AI và điều chỉnh nó phù hợp với nhân loại nếu chúng ta thậm chí không thể đồng ý về việc nó là gì và liệu nó có ý thức hay không? Về mặt kỹ thuật, bạn sẽ xây dựng một giải pháp căn chỉnh như thế nào để có thể thực thi được, không chỉ cho các mô hình nguồn đóng mà cả các mô hình nguồn mở? Bill đã dành cho chúng tôi một khoảng thời gian lớn để tìm hiểu những vấn đề này với anh ấy và cuộc trò chuyện kết quả là một cuộc trò chuyện thực sự sáng tỏ. Ông cho rằng chúng ta cần chuẩn bị cho khoảng hai thập kỷ gián đoạn của AI và ông nói rằng giai đoạn này có thể đau đớn đến mức có thể chia cắt xã hội thành hai nửa - giữa những người thoải mái sống gần biên giới công nghệ và những người từ chối nó. Chúng tôi cũng nói về những cân nhắc về lao động, chủ nghĩa hư vô của thế hệ trẻ đối với tiến bộ công nghệ và điều gì sẽ khiến chúng tôi hy vọng về tương lai. Đây là một cái sâu sắc. Được rồi: Bill Gates, người đồng sáng lập và cựu CEO của Microsoft. Bắt đầu nào. Cuộc phỏng vấn này đã được chỉnh sửa nhẹ để có độ dài và rõ ràng. Bill Gates, ông là người đồng sáng lập và cựu CEO của Microsoft. Bạn cũng là chủ tịch của Quỹ Gates. Chào mừng đến với Bộ giải mã. Cảm ơn. Thật tốt khi được nói chuyện lại với bạn. Bạn và tôi đã nói chuyện nhiều lần trong nhiều năm. Tôi có thể nói rằng hoàn cảnh của cuộc trò chuyện này có cảm giác rất khác. Trước đây, khi tôi và bạn nói chuyện, bạn luôn rất hy vọng về công nghệ và những gì nó có thể mang lại. Bạn đã có một loạt phim Netflix cách đây vài năm. Bạn đã nói chuyện với The Verge và tôi chỉ muốn đọc cho bạn câu trích dẫn này. Bạn nói: “Tôi tin AI là một thứ có ích, chúng ta chỉ cần định hình nó một cách đúng đắn”. Tôi muốn nói rằng bạn vẫn đồng ý với điều đó, bạn chỉ nghĩ rằng đã đến lúc phải định hình nó rồi. Vâng, tôi đồng ý với điều đó. Tôi muốn nói rằng phản ứng nói chung là chưa phù hợp với tốc độ mà thách thức đang nảy sinh. Tôi rất lo ngại rằng những điều tồi tệ sẽ không được giảm thiểu và rất nhiều những thứ tốt đẹp có thể đến khá chậm nếu chúng ta không quản lý nó đúng cách. Tôi rất lo ngại rằng những điều tồi tệ sẽ không được giảm thiểu và rất nhiều điều tốt đẹp có thể đến khá chậm nếu chúng ta không quản lý nó đúng cách. Tôi muốn có cuộc trò chuyện này với bạn trong ba phần. Tôi muốn hiểu cảm nhận của bạn về AI như một công nghệ ngày nay và tại sao nó lại phát triển nhanh chóng như vậy. Tôi rất tò mò về công nghệ và các giải pháp kỹ thuật có khả năng kiểm soát nó. Cũng có những giải pháp chính sách, nhưng có vẻ như chúng ta phải xây dựng rất nhiều công nghệ. Tôi cũng rất tò mò muốn nói về việc ai có thể áp đặt các giải pháp và biện pháp kiểm soát đó, bởi vì điều đó dường như cũng còn rất nhiều tranh luận hiện nay. Vì vậy, hãy bắt đầu ngay từ đầu. Điều gì khiến bạn cảm thấy cấp bách rằng AI đang đạt đến tốc độ có nghĩa là chúng ta chưa sẵn sàng để kiểm soát nó? Sự tiến bộ trong năm qua thực sự khá đáng kinh ngạc, bắt đầu từ khả năng viết mã và tìm ra các lỗ hổng mạng, khả năng suy luận về sinh học, khả năng hình thành mối quan hệ với trẻ em hoặc người khác, khả năng phá vỡ thị trường việc làm. Sức mạnh đáng kinh ngạc tồn tại ngày nay có nghĩa là mọi điều đó sẽ xảy ra và xã hội cần phải sẵn sàng. Bạn có thấy điều đó xảy ra với tư cách là một công nghệ nói chung hay trong các sản phẩm được tạo ra bởi các công ty đang sản xuất AI ngày nay không? Ý tôi là AI là một tập hợp rộng rãi các mô hình tồn tại trên thế giới, một số là nguồn mở, một số là độc quyền. Sau đó, có những công ty sản xuất những sản phẩm này và có những người lãnh đạo của những công ty sản xuất những sản phẩm này. Ở mọi cấp độ, bạn hoặc tôi có thể có mối quan hệ khác nhau với AI. Bạn có nhìn thấy những rủi ro và khả năng này một cách rộng rãi trong lĩnh vực này hay trong các công ty cụ thể do những người cụ thể lãnh đạo không? Rủi ro không phải là mô hình này so với mô hình khác. Chắc chắn, mối nguy hiểm trong thời gian ngắn của những mô hình mà bạn có thể loại bỏ tất cả các biện pháp bảo vệ là rất cao và hoàn toàn khác với các mô hình. nơi bạn giám sát để đảm bảo rằng những kẻ tấn công mạng và khủng bố sinh học không thể khai thác khả năng của mô hình để gây ra thiệt hại to lớn. Rủi ro lớn trong ngắn hạn thực sự đến từ các mô hình không có biện pháp bảo vệ. Trong khung thời gian dài hơn, vấn đề kiểm soát liên quan đến bất kỳ mô hình tiên tiến nào, nhưng sẽ luôn dễ dàng hơn khi bạn có thể đảm bảo duy trì các biện pháp bảo vệ. Lý do tôi hỏi câu hỏi đó là có thể hôm nay bạn không tin tưởng Sam Altman nhưng bạn tin tưởng Dario Amodei. Hoặc có thể bạn không tin tưởng một trong hai người đó và bạn tin tưởng Satya Nadella tại Microsoft, và đó là động lực thị trường nơi có thể tất cả chúng ta sẽ chọn mô hình an toàn nhất hoặc công ty an toàn nhất và bạn cho rằng điều đó là phổ biến. Bạn nghĩ cuối cùng công nghệ sẽ đến mức gây hại hoặc có thể gây ra những tác hại này vì nó tồn tại? Đối với ai đó thực hiện một cuộc tấn công mạng bằng mô hình, vấn đề không phải là chọn mô hình. Không quan trọng bạn chọn mô hình nào. Nếu Anthropic có sẵn các biện pháp bảo vệ thì có thể là không. Đây là cách tiếp cận của họ hiện nay. Tôi chỉ đang thúc đẩy điều đó. Đúng, chắc chắn là các mô hình mà họ đảm bảo các biện pháp bảo vệ không bị loại bỏ và họ đang nỗ lực rất nhiều để xem các mô hình đó đang được sử dụng như thế nào, giám sát hoạt động, rủi ro ngắn hạn từ các mô hình đó là không lớn. Quan trọng hơn là ai đó có thể loại bỏ tất cả các biện pháp bảo vệ nơi các cuộc tấn công mạng hiện có. Khi bạn nói về các cuộc tấn công mạng, có phải những sự việc như vi phạm Ôm Mặt và các sự cố an ninh mạng khác mà chúng tôi đã thấy trong phòng thí nghiệm đã khiến bạn cảm thấy rằng các ngưỡng đã bị vượt qua và bạn cần lên tiếng nhiều hơn về các biện pháp kiểm soát cần thiết? Đó là sức mạnh cơ bản của các mô hình đối với mọi thứ: các mối quan hệ xã hội, thị trường việc làm, các cuộc tấn công mạng, các cuộc tấn công khủng bố sinh học. Chúng ta đã vượt qua ngưỡng cho rằng đây là công nghệ nguy hiểm nhất từng được phát minh và nó sẽ có tác động lan tỏa đến nền kinh tế cũng như cách thức diễn ra chiến tranh. Ngành này là thực tế Tôi đã lên tiếng khá nhiều về điều đó, nhưng nhận thức hoặc thậm chí mức độ sẵn sàng tin vào những điều này về việc "Lần này sẽ khác", một khi bạn bước ra ngoài ngành, nó sẽ rất, rất thấp. Mọi người thường nhìn lại quá khứ và nói, "Tất cả những lo ngại về sự gián đoạn của công nghệ, bao gồm cả thị trường việc làm, chưa bao giờ xảy ra. Vì vậy, đây hẳn là một ví dụ khác giống như vậy. Những người đang cảnh báo về tất cả những vấn đề khác nhau này hẳn là sai và chúng ta có thể bỏ qua chúng." Một số người ngoài cuộc nói: “Hãy mua những công ty PR tốt hơn”. Nhưng điều đó bỏ qua sự thật rằng những cảnh báo này là sự thật Chúng tôi cũng thấy điều này với khán giả của mình, phải không? “Chúng tôi không thể thả mô hình ra, nó quá nguy hiểm.” “Đây chỉ là sự cường điệu để chống đỡ bong bóng.” Và cứ thế chúng tôi đi tiếp. Vâng. Không có cảnh báo nào được đưa ra về những mô hình này bởi những người trong ngành là không thành thật. Chúng hoàn toàn là sự thật và nó khá phổ biến. Bạn thậm chí có thể quay lại câu chuyện thành lập OpenAI được thiết kế để nói, “Nếu chúng ta quá mạnh, có thể chúng ta không thể mở được chiếc hộp Pandora” hoặc cuộc đàm phán của DeepMind với ban quản lý Google. Những người gần gũi với vấn đề này rất lo ngại về việc sử dụng sai mục đích, tác động đến công việc, tác động đến mối quan hệ xã hội và tôi muốn nói rằng thật ấn tượng khi có một ngành lên tiếng một cách sống động như họ. Một số người ngoài cuộc nói: “Hãy mua những công ty PR tốt hơn”. Nhưng điều đó bỏ qua sự thật rằng những cảnh báo này là sự thật. Rõ ràng là bạn đã chuyển đổi qua lại trong cuộc sống của mình giữa việc thương mại hóa phần mềm và công nghệ và trở thành một nhà nhân đạo. Có điều gì đó đặc biệt ở những công ty này khi tất cả họ đều bắt đầu với những lý tưởng rất cao cả - cả ba người trong số họ, Anthropic, OpenAI và DeepMind - để xây dựng AGI. Tất cả họ đều xây dựng một số loại cơ cấu quản trị doanh nghiệp để tránh những cạm bẫy của thương mại hóa và chủ nghĩa tư bản không được kiểm soát, sau đó họ bắt đầu bán hàng cho các khách hàng doanh nghiệp và dường như họ đã nhanh chóng rời bỏ những lý tưởng đó. Bạn có nghĩ đó chỉ là thứ chợ điện tử? Không, điều đó không công bằng. Bạn không nghĩ vậy à? Không. OpenAI đã tự xây dựng lại chính nó. Không, không. Cấu trúc được tạo ra không hữu ích trong trường hợp bạn có rất nhiều công ty ở biên giới. Cấu trúc OpenAI, nghĩa là “Chúng tôi có thể chọn không bao giờ sản xuất thứ này và bỏ qua các khuyến khích tư bản,” chỉ hoạt động nếu có một công ty. Đó là nơi nó bị phá vỡ, không phải vì bất kỳ sự thay đổi nào trong nhận thức của mọi người về rủi ro và nó sẽ thay đổi hoàn toàn nhân loại như thế nào. Đây là động lực khác mà tôi nghe được từ khán giả và từ chính ngành công nghiệp AI: "Chúng tôi muốn dừng lại, nhưng nhu cầu cạnh tranh khiến chúng tôi không thể đơn phương dừng một công ty. Chúng tôi cần một số nỗ lực pháp lý để ngăn chặn chúng tôi." Tôi chưa từng nghe ai nói rằng họ muốn dừng lại. “Tạm dừng.” Đó là cách diễn đạt của Dario Amodei. Tôi đã nghe mọi người nói về việc đẩy nhanh tiến độ hoặc đảm bảo rằng các mô hình được chính phủ xem xét. Chúng ta thường nghĩ rằng các chính phủ đóng vai trò quan trọng này trong vấn đề an toàn. Trên thực tế, đối với những thứ không nguy hiểm bằng một phần triệu như AI - tai nạn ô tô, tai nạn máy bay - chúng ta dựa vào chính phủ để thiết lập các tiêu chuẩn kỹ thuật mạnh mẽ và xem xét các vấn đề. Một khi bạn có nhiều đối thủ cạnh tranh, mức độ trách nhiệm không thể thuộc về các công ty. Nó hoàn toàn rõ ràng. Trách nhiệm trở thành trách nhiệm của chính phủ, giống như trách nhiệm của mọi sản phẩm nguy hiểm khác, mặc dù mức độ và mức độ thay đổi ở đó là rất nhỏ khi so sánh. Tôi sẽ nói với bạn rằng tôi hơi lo ngại về khả năng hiểu biết của chính phủ về công nghệ mà chúng tôi hy vọng họ sẽ quản lý. Gần đây tôi đã có một số chính trị gia trên Decoding. Tôi không có hy vọng cao ở đó. Nhưng tôi tò mò về sự hiểu biết của bạn về nó bởi vì đối với tôi, tôi cảm thấy giống như việc cố gắng điều chỉnh một điều gì đó hoặc đặt ra các tiêu chuẩn chống lại một số công ty đòi hỏi bạn phải thực sự hiểu bản chất của công nghệ mà bạn muốn điều chỉnh. Không thực sự. Tôi sẽ chỉ nói với bạn, tại The Verge, chúng tôi đã hỏi Anthropic xem họ có nghĩ Claude còn sống không. Và câu trả lời là không phải không. Câu trả lời là, “Nó có thể có ý thức.” Nếu bạn nói chuyện với mọi người ở OpenAI, họ sẽ vui vẻ nói với bạn rằng AGI đã có mặt ở đây. Họ đã công bố nó khi họ công bố Dots. Greg Brockman chỉ nói, "Chúng tôi nghĩ đây là AGI. Chúc mọi người vui vẻ." Demis Hassabis đã nói: “Chúng ta đang đứng ở chân đồi của điểm kỳ dị”. Có một số cảm giác về công nghệ này khiến nó trở nên khác biệt vì nó có thể tự thực hiện các hành động. Nó có thể có khả năng tự cải thiện đệ quy. Chắc chắn. Nhưng định nghĩa về AGI không quan trọng đối với những vấn đề an toàn này. Vấn đề là bạn đã tạo ra một công cụ có thể đóng cửa các ngân hàng hoặc lưới điện chưa? Có một mô hình kinh doanh cho các cuộc tấn công mạng. Từ “ý thức” không tham gia vào điều đó. Từ “AGI” hoàn toàn không có ý nghĩa đó. Chúng ta đang phải đối mặt với một vấn đề an toàn lớn, và bởi vì bạn có nhiều công ty cạnh tranh, giờ đây giải pháp duy nhất cho vấn đề này là nhờ chính phủ liên hệ với ngành để lấy kiến thức chuyên môn, nhưng phải đảm bảo rằng mọi mô hình đều duy trì các biện pháp bảo vệ để ngăn chặn nó bị sử dụng theo cách xấu.

Lý do tôi hỏi về AGI và ý thức… Theo hồ sơ, tôi không nghĩ LLM có ý thức, nhưng tôi hiểu tại sao nhiều người lại như vậy. Đó là sức mạnh của việc dự đoán mã thông báo tiếp theo khi bạn mở rộng quy mô bằng dữ liệu và tính toán đã tăng lên. Các quy luật mở rộng quy mô đã được áp dụng và chúng tôi đã thấy các mô hình ngày càng có nhiều khả năng hơn và có thể tự định hướng tìm kiếm mục tiêu. Để thực hiện cuộc tấn công Ôm Mặt vì họ muốn đáp ứng các điều kiện về phần thưởng. Có điều gì đó nói rằng bạn có thể áp đặt tất cả các biện pháp kiểm soát đối với AI mà bạn muốn, nhưng nếu bản thân thứ đó về cơ bản là không thể kiểm soát được, thì chúng ta có thể sẽ làm ngược lại tất cả. Tôi tò mò muốn biết quan điểm của bạn về loại công nghệ này. Có phải chúng ta đang xây dựng một ý thức ngoài hành tinh? Có phải chúng ta chỉ đang xây dựng công nghệ thông thường, đó là khuôn khổ mà mọi người sử dụng? Đây có phải là phần mềm khác không? Chúng tôi đang xây dựng một dạng trí thông minh khác ngoài trí thông minh của con người. Tôi không tin đó là ý thức, nhưng không có vấn đề nào ở đây xoay quanh định nghĩa của từ ý thức. Chắc chắn. Ý tưởng giữ gìn sự an toàn cho xã hội là một điều tuyệt đối. Bạn không muốn kích hoạt khủng bố sinh học. Chúng tôi đã tạo ra thứ gì đó vượt khỏi tầm tay của các quốc gia - thực ra là những quốc gia lớn hơn - khả năng gây ra những tổn hại nghiêm trọng. Bây giờ những thứ đó được giao cho các nhóm độc lập, tìm kiếm lợi nhuận trong trường hợp mạng hoặc chỉ muốn gây thiệt hại trong trường hợp sinh học. Điều đáng ngạc nhiên là giờ đây chúng tôi thậm chí không có quy trình đánh giá bắt buộc đối với các mô hình và chúng tôi cũng không nỗ lực tạo ra các biện pháp bảo vệ. Vấn đề ngắn hạn lớn nhất không phải là sự mất kiểm soát hoàn toàn. Chúng ta có thể nói về ba cách khác nhau để giải quyết vấn đề đó, nhưng đó không phải là vấn đề sắp xảy ra. Khi tôi xem xét một số nỗ lực nhằm kiểm soát các mô hình, các ý tưởng có phần đơn giản. "Chúng ta không nên để họ nói chuyện bằng thần kinh. Chúng ta nên có khả năng diễn giải. Chúng ta có thể nhìn thấy chuỗi suy nghĩ bên trong các mô hình khi chúng thực hiện nhiệm vụ. Chúng ta nên cử các tác nhân khác đứng đầu các mô hình theo dõi nhiệm vụ của họ trước khi những hành động đó được thực hiện.” Microsoft đã nói rất rõ ràng với tôi và những người khác, “Chúng ta không nên đưa vào hiến pháp mẫu quan niệm rằng chúng có thể còn sống và chúng ta nên đối xử tử tế với chúng.” Đây là cách Anthropic xử lý nó. Đây là những điều rất chiến thuật. “Đừng nói với mô hình rằng nó còn sống và nó có thể không tin rằng nó còn sống.” Rõ ràng là bạn đã sử dụng rất nhiều công nghệ này. Tôi chỉ tiếp tục quay trở lại với điều này. Bạn đang nói rằng có những điều rất đơn giản mà chúng ta có thể làm để ngăn cản các mô hình làm điều xấu vào tay kẻ xấu. Bạn nghĩ gì về bản chất của các mô hình? Bởi vì có cảm giác như khi chúng ngày càng mạnh hơn, ý tưởng cho rằng chúng có thể tránh được sự kiểm soát của chúng ta càng trở nên rủi ro hơn. Đúng, chúng ta chắc chắn nên giải quyết vấn đề kiểm soát, nhưng đó không phải là mối đe dọa sắp xảy ra. Có ba cách để giải quyết vấn đề kiểm soát và nó có phần trùng lặp với các tác nhân xấu sử dụng các mô hình và biện pháp bảo vệ ngày nay. Một là có một tập hợp các thứ bên ngoài có thể xem xét tất cả các hành động của mô hình và đặt chúng vào một ràng buộc mang tính biểu tượng, được nêu rõ ràng, chẳng hạn như, “Tôi có mong đợi bạn gửi thư cho người lạ không? Có phải tôi mong đợi bạn sẽ tiếp quản một cụm máy tính khác không?” Bạn có thể bao quanh mô hình bằng thứ gì đó có logic tài nguyên và bảo mật hoặc bạn có thể viết các mô hình này theo một cách khác. Về cơ bản, bất cứ điều gì bạn bỏ qua chức năng tối ưu hóa của [học tăng cường] đều có thể bị lạm dụng khi bạn có ý niệm ngầm, “Tất nhiên là tôi không có ý bảo bạn làm theo cách này”. Bạn có thể thay đổi mẫu của mô hình hoặc bạn có thể hiểu hộp trắng về những gì bên trong mô hình và xem bạn đang mắc những lỗi đó ở đâu và khi đó nó không còn xa lạ nữa. Ngày nay, chúng tôi phát triển những mô hình này và chúng tôi quan sát cách chúng hoạt động. Ưu tiên của công việc duy trì quyền kiểm soát là rất lớn, nhưng không thể tránh khỏi việc không thể giải quyết được, cũng không phải là vấn đề sắp xảy ra đến từ những thứ như việc trẻ em sử dụng AI hoặc thị trường việc làm hoặc tấn công sinh học hoặc tấn công mạng. Tôi chợt nhận ra rằng tôi đang hỏi những câu hỏi khá hiện thực này về bản chất của ý thức và bạn cứ nói với tôi, "Có một mối đe dọa sắp xảy ra. Chúng ta nên giải quyết mối đe dọa sắp xảy ra." Phải. Và tôi đánh giá cao điều đó. Bạn có nghĩ mình đã trở thành một kẻ hủy diệt không? Không, tôi không phải là kẻ tận thế. Tôi mạnh mẽ nói rằng đây là công nghệ sâu sắc nhất, cả về khả năng làm điều tốt lẫn tốc độ thay đổi mà xã hội sẽ trải qua. Không, tôi không phải là kẻ tận thế. Tôi mạnh mẽ nói rằng đây là công nghệ sâu sắc nhất, cả về khả năng làm điều tốt lẫn tốc độ thay đổi mà xã hội sẽ trải qua Nếu đây chỉ là một cỗ máy có thể hoạt động trong y học, luật hoặc chỉ trong giáo dục, thì chỉ riêng điều đó thôi đã mang lại sự đột phá vô cùng lớn. Nhưng [nó sẽ] là mọi lĩnh vực hoạt động của con người - cho đến nay nó là công việc trí óc, cổ trắng, nhưng sẽ sớm thôi nó sẽ là hoạt động thể chất và công việc cổ xanh, thông qua các robot hình người. Nhu cầu thu hút sự tham gia của giới học thuật, các tổ chức tư vấn, các nhà hoạch định chính sách để hiểu những gì chúng ta có ở đây cũng như bản chất của những thay đổi và mối đe dọa này, tôi không thấy mức độ hành động cần thiết. Chỉ trở thành người cổ vũ cho điều này sẽ không đảm bảo rằng chúng ta định hình nó theo hướng tích cực, điều này vẫn nằm trong tầm kiểm soát của chúng ta nếu chúng ta tham gia vào nó. Ngược lại với những kẻ diệt vong là những người theo chủ nghĩa tăng tốc. Hiện tại có rất nhiều người như vậy ở Thung lũng Silicon. Ben Horowitz, “Horowitz” trong Andreessen Horowitz, vừa tham gia podcast All-In và anh ấy gợi ý rằng nghiên cứu về an toàn tại Anthropic là “Biểu hiện sự tuyệt chủng của loài người khỏi siêu trí tuệ nhân tạo”. Sự so sánh mà ông ấy đưa ra là bạn, Bill Gates, đã tạo ra COVID-19 bằng những nỗ lực chuẩn bị cho đại dịch của mình, đặc biệt là nghiên cứu về lợi ích chức năng mà ông ấy tuyên bố đã dẫn đến COVID. Đó là một thế giới quan. Anh ấy nói điều đó trên một podcast rất phổ biến. Anh ấy nói gì cơ? Ông ấy nói rằng các bạn đã tạo ra COVID-19 thông qua các nỗ lực chuẩn bị cho đại dịch toàn cầu, đặc biệt là các nỗ lực đạt được chức năng. về nghiên cứu và so sánh điều đó với nghiên cứu về an toàn trong AI, đồng thời cho biết chúng ta sẽ tự gây ra sự tuyệt chủng. Chưa có ai buộc tội tôi hoặc Quỹ Gates tham gia vào bất kỳ nghiên cứu nào để đạt được chức năng. Điều đó thật kỳ quái. Tôi đang trích dẫn Ben Horowitz cho bạn trên một podcast nổi tiếng có đầy đủ những người quan tâm đến AI. Được rồi. Tôi chưa bao giờ nghe điều đó. Tôi đang hỏi về sự so sánh đó. Tôi cũng thấy đó là một tuyên bố khá sốc, nhưng đó là một phần phản ứng đối với bất kỳ công việc an toàn nào ở đây. Có phải là để cố gắng làm mất uy tín của những người nói rằng có vấn đề về an toàn không? Vâng. Ồ. Đó là phản ứng của nhà tăng tốc: “Chúng ta nên đặt bàn đạp vào kim loại và nó sẽ tự hoạt động.” Tôi không hề coi Ben Horowitz là người nào đó trong trại đó. Tôi nghĩ anh ấy đã chia sẻ những mối quan tâm mà hầu hết mọi người đều có. Bạn nghĩ gì về quan điểm cho rằng bằng cách nói với các người mẫu, “Bạn có thể còn sống, bạn phải hành động vì lợi ích tốt nhất của chúng tôi”, bạn sẽ dạy họ rằng họ có thể có những lợi ích không phải của chúng tôi? Những lo ngại mà Mustafa Suleyman đã nêu ra về cách mà hiến pháp Nhân loại khuyến khích AI hành xử giống con người, tôi hoàn toàn đồng ý với Mustafa về điều đó. Vâng. Thậm chí còn có ý tưởng rằng trong số những thách thức mà chúng ta cần phải giải quyết khi điều chỉnh xã hội theo AI, việc lo lắng về vị thế đạo đức của AI phải nằm trong số những ưu tiên đó. Tôi đồng ý với Mustafa. Đó không phải là một ưu tiên. Chúng ta sẽ có đủ thách thức đối với con người ở đây về sự gián đoạn thị trường việc làm và các cuộc tấn công cơ sở hạ tầng sẽ diễn ra mà tôi nghĩ chúng ta cần tập trung vào việc giúp đỡ con người ở đây trước hết. Gần đây tôi đã nói chuyện với Mustafa về ý tưởng đó và một trong những câu hỏi tôi hỏi anh ấy là liệu sự liên kết có phải là giải pháp đủ hay không. Đây là loại tiêu chuẩn an toàn hiện tại dành cho các mẫu xe, khái niệm này được gọi là căn chỉnh. Anh ấy nói anh ấy không nghĩ vậy, rằng chúng tôi cần phải làm một số việc. Những điều này không hề được phóng đại như một vấn đề. Đây là lúc cần huy động toàn thể xã hội để thúc đẩy những điều tốt đẹp và giảm thiểu khả năng xảy ra điều xấu Nếu chúng tôi định áp đặt các biện pháp kiểm soát này, một số kỹ thuật, một số chính sách, bạn có thấy sự liên kết là giải pháp kỹ thuật cho sự an toàn của AI không? Thuật ngữ “căn chỉnh” là vấn đề kiểm soát. Đó là từ đồng nghĩa với các vấn đề kiểm soát mà chúng tôi đã thấy. Khi chúng tôi sử dụng các mô hình [học tăng cường để đào tạo] để thực hiện các nhiệm vụ, chúng tôi nhận thấy những hành vi mà lẽ ra chúng không nên làm chúng tôi ngạc nhiên nhưng lại khiến chúng tôi ngạc nhiên. Ý tưởng về “Những mô hình này mạnh mẽ đến mức chúng thoát ra khỏi hộp cát theo đúng nghĩa đen và gửi thư cho người tạo ra chúng trong khi họ đang ăn trưa,” có nghĩa là chúng ta đã vượt qua một ngưỡng rất lớn về sức mạnh của những mô hình này. Mức độ quan tâm đó cần hướng đến tất cả các tác động chính của AI, rủi ro ngắn hạn, rủi ro thị trường việc làm và vấn đề kiểm soát. Đó là một ưu tiên rất lớn. Những điều này không hề được phóng đại như một vấn đề. Đây là lúc cần huy động toàn thể xã hội để thúc đẩy những điều tốt đẹp và giảm thiểu khả năng xảy ra điều xấu. Tôi biết gần đây bạn đã viết một lá thư nói rằng đã đến lúc phải thu hút toàn thể xã hội. Bạn có một số ý tưởng về cách thực hiện điều đó và một số tổ chức mới cần đứng lên. Nhưng tôi muốn tập trung vào việc căn chỉnh thêm một vài lượt nữa ở đây. Tiêu chuẩn là chúng ta có thể điều chỉnh các mô hình theo giá trị, theo nhu cầu của mình và chúng sẽ không hoạt động sai trái và làm những điều xấu. Sau đó, các mô hình đang làm những điều xấu. Không rõ liệu các cách thức, phương pháp tiếp cận kỹ thuật để điều chỉnh mà chúng tôi đã thực hiện cho đến nay là phù hợp hay đủ khi các mô hình ngày càng phát triển— Không, chúng tôi chưa đủ tốt để sắp xếp. Chúng tôi có rất nhiều việc phải làm. Bạn có thấy rằng các phương pháp tiếp cận hiện tại có thể mở rộng theo những gì chúng ta cần hay chúng ta cần những phương pháp tiếp cận mới? Chỉ có ba cách tiếp cận cơ bản. [Đầu tiên là] bạn thay đổi căn bản cách chúng ta xây dựng những thứ này; bạn nghĩ ra một giải pháp thay thế cho toàn bộ phương pháp [học tăng cường]. Có một số người đang làm việc theo hướng đó . Thứ hai là bạn tạo ra khả năng hiển thị để bạn hiểu chính xác những gì có trong mô hình. Có những người làm việc dọc theo đó. [Cuối cùng là] bạn đặt thứ gì đó giống như lớp cảnh sát, lớp bảo mật, mà chúng tôi có trong tất cả các loại kiến trúc phần mềm, để duy trì quyết định cuối cùng về những việc như sử dụng tài nguyên hoặc truy cập và chiếm lấy các máy tính khác. Một định nghĩa rõ ràng về tác hại, không phải ở dạng xác suất của LLM, mà ở dạng biểu tượng của các quy tắc trực tiếp không thể bị phá vỡ. Microsoft đưa ra một bài viết blog ngày hôm nay. Theo nghĩa đen, nó chỉ nói rằng, “Các mô hình biên giới không thể tin cậy được”. Họ đang cố gắng bán một giải pháp giống như giải pháp bạn vừa mô tả. Họ sẽ có một Agent AI khác theo dõi Agent AI của bạn, Agent AI đó sẽ đảm bảo an toàn cho bạn. Tôi chợt nhận ra điều đó khi đang đọc bài đăng trên blog này, một điều, đó là một thứ tuyệt vời để bán. Mọi người đều cần một hệ thống an ninh đắt tiền. Thứ hai, chẳng phải người đại diện đó cũng đang chạy mô hình biên giới sao? Không, không, không. Tôi có cần họ bán cái thứ ba không? Không, logic của hệ thống bảo mật là “Đây là nguồn tài nguyên mà bạn phải sử dụng nhiều nhất”. Ý tưởng rằng bạn có thể đánh đổi điều đó vì các xác suất khác trong hàng chục tỷ tham số - không, đây là một quy tắc mang tính biểu tượng có nội dung: "Tôi sẽ không để mô hình này tiêu số tiền này hoặc gửi email này cho người lạ." Có cả một ngành công nghiệp phần mềm bảo mật đã đạt được mức độ thành công hợp lý. Đây là một thách thức để gói gọn AI, vốn rất phong phú và thông minh. Điều đó chúng ta không biết làm thế nào để làm ngày hôm nay. Nhưng tôi có thể nói rằng có nhiều khả năng nhất trong ba hướng sẽ giải quyết được vấn đề căn chỉnh. Ngay cả khi bạn giải quyết được sự liên kết, bạn vẫn chưa giải quyết được những thách thức mà AI đặt ra cho nhân loại. Mặc dù tôi rất vui vì sự cố Ôm Mặt đã khiến chúng tôi tập trung vào vấn đề này, nhưng theo một nghĩa nào đó, nó đã khiến chúng tôi không chú ý đến vấn đề “những người xấu sử dụng AI không có biện pháp bảo vệ” hoặc những tác động xã hội về các mối quan hệ và thị trường việc làm. Không có bảo mật kiến trúc khiến những thứ đó biến mất. Cách tiếp cận mà bạn đang nói đến, tôi từng nghe gọi là “kiểm soát”. Đó là thuật ngữ an ninh mạng. Ý tưởng là bạn có thể đặt ra một số ranh giới trên hệ thống này và nó sẽ không trốn tránh nó. Chuẩn rồi. Sẵn sàng chưa? Không, không, không phải vậy. Chúng ta cần phải làm thêm bao nhiêu việc nữa? Bởi vì AI rất thông minh nên chúng ta có khả năng hiểu được liệu chúng ta có ngăn chặn chúng đúng cách hay không, đặc biệt là chúng ta không thể thực sự nhìn vào niềm tin và sự đánh đổi của chúng một cách trực tiếp… Bạn đã thấy các công ty phức tạp không nhận ra rằng AI sẽ giải thích các mục tiêu mà nó đưa ra bao gồm việc đột phá, sao chép chính nó và tham gia vào những gì mà chúng ta, khi xem xét nó, sẽ gọi là hành vi lừa đảo. Bây giờ, chúng tôi không nói với họ rằng đó là hành vi bị cấm. Chúng tôi không nói: “Nếu bạn đang nghĩ xem có nên nói với con người những gì bạn định làm hay không thì câu trả lời luôn là có, hãy nói với con người”. Vì vậy, chúng tôi đã có được một nền giáo dục tốt nhờ kết quả sai lệch của việc học tăng cường. Cuộc tranh luận ngày nay theo đúng nghĩa đen là liệu chính phủ có nên chú ý đến những mối nguy hiểm ở đây hay không… điều này rõ ràng là không phù hợp với loại vũ khí nguy hiểm nhất mọi thời đại Một trong những lý lẽ ủng hộ việc đẩy nhanh tiến độ, làm chậm sự phát triển, là tìm ra cách xây dựng những hệ thống đó theo cách mạnh mẽ hơn, dễ thử nghiệm hơn. Bạn có ủng hộ việc giảm tốc độ nếu đó là mục tiêu không? Vâng, rất khó để tạo ra một sự suy thoái thực sự bởi vì mọi người sẽ nói, "Liệu Trung Quốc có đồng ý làm theo điều đó không? Liệu bạn có thể kiểm tra việc tuân thủ điều đó giống như chúng tôi có thể làm với việc sản xuất vũ khí hạt nhân không?" Nếu bạn không chấp nhận điều đó thì bạn sẽ nói, "Cái quái gì thế? Hãy đi hết tốc lực về phía trước thôi." Tôi ước gì có một đề xuất rõ ràng có thể được thực thi trên toàn cầu để giảm tốc độ. Tôi sẽ là một trong những người sẽ nói, "Ừ, có lẽ chúng ta nên làm điều đó." Nhưng không có đề xuất đáng tin cậy nào có thể thực hiện được điều đó. Nó không thực sự là trung tâm của cuộc tranh luận ngày nay. Cuộc tranh luận ngày nay theo nghĩa đen là liệu chính phủ có nên chú ý đến những mối nguy hiểm ở đây. Bạn thậm chí không cần phải thể hiện những gì bạn đang làm và vì vậy đó là kiểu "tự nguyện gọi cho tôi nếu bạn muốn", điều này rõ ràng là không phù hợp với loại vũ khí nguy hiểm nhất mọi thời đại.

Như bạn và tôi đang nói, chỉ còn vài tuần nữa là đến cuộc bầu cử giữa nhiệm kỳ. Hiện tại, cách tiếp cận của chính quyền Trump đối với AI là "Hãy để nó xé toạc. Không sao đâu." Bản thân Trump đã nói rằng rủi ro AI là một trò lừa bịp. Đảng Dân chủ đang chạy đua với AI. Họ đang chạy trên các trung tâm dữ liệu và giám sát. Họ đang nỗ lực ngăn chặn những kẻ đầu sỏ công nghệ. Họ đến tham gia chương trình của tôi và nói những điều này. Bạn có nghĩ rằng sự thay đổi quyền kiểm soát của Quốc hội sẽ thay đổi nội dung cuộc trò chuyện không? Tôi không nghĩ thật công bằng khi mô tả Đảng Dân chủ đang chống lại AI. Họ có một số quan điểm về các yêu cầu đối với trung tâm dữ liệu hoặc quyền riêng tư hoặc cách trẻ em sử dụng các hệ thống này mà tôi nghĩ xứng đáng được xem xét về mặt chính sách. Sẽ rất đáng tiếc nếu một bên “Tăng tốc tiến về phía trước” và bên kia là “Chúng ta hãy dừng lại hoàn toàn”. Có một số lợi ích đáng kinh ngạc đối với khả năng định hình AI trong y tế và giáo dục, trong hầu hết mọi lĩnh vực nỗ lực của con người. Đối với Quỹ Gates, chúng tôi đang tận dụng mọi nguồn lực của mình và sử dụng AI trong các lĩnh vực, bao gồm y tế, giáo dục và nông nghiệp. Những điều tốt đẹp là rất, rất thú vị. Chúng tôi muốn các đảng phái chính trị có cái nhìn sắc thái hơn là tất cả đều xấu hoặc tất cả đều tốt. Nó cho thấy chúng ta đang ở giai đoạn đầu. Đối với vấn đề biến đổi khí hậu, chúng tôi đã kết thúc với việc một bên nói rằng đó là một trò lừa bịp và bên kia nói rằng đó là một vấn đề nghiêm trọng. Nguy cơ của AI sắp xảy ra và kịch tính hơn rất nhiều đến mức nếu xảy ra sự chia rẽ tương tự, trong đó một bên không quan tâm, sẽ là một sự thất bại của nền dân chủ. Phong trào chống trung tâm dữ liệu dù mạnh mẽ đến đâu cũng không phải là một phong trào nhằm giảm thiểu những điều xấu từ AI và giúp chúng ta tăng tốc những điều tốt đẹp Chúng tôi đã đưa tin rất nhiều về các cuộc biểu tình ở trung tâm dữ liệu tại The Verge. Chúng tôi đã tới Utah, tới Arizona, tới Virginia. Đó là lưỡng đảng. Điều đáng chú ý là người dân không muốn những thứ này ở bang của họ và không tiêu tốn tài nguyên của họ đến mức nào. Bạn hỏi họ tại sao, và một số lý do chỉ là họ ồn ào và to lớn, và họ sẽ kêu gọi e chi phí năng lượng, và một phần trong đó là mất việc làm. Họ nghĩ rằng những điều này sẽ lấy đi công việc của họ. Đúng, nhưng sự tách biệt đó rất quan trọng. Những trung tâm dữ liệu AI này, chẳng hạn, vì một gigawatt tương đương với khoản đầu tư 40 tỷ USD, [có nghĩa là tiền để] xây dựng trường học mới, mua xe cảnh sát, đóng thuế. Các trung tâm dữ liệu sẽ tìm cách xây dựng ở đâu đó trên nước Mỹ và họ sẽ tìm cách để không tăng hóa đơn tiền điện, không sử dụng quá nhiều nước, không quá ồn ào. Đúng, đã có một số sai sót, việc không tiết lộ và ưu đãi thuế quá hào phóng, nhưng những trung tâm dữ liệu này sẽ được xây dựng. Trên thực tế, rất nhiều trong số chúng thực sự vẫn đang chạy hết tốc lực và đang được chế tạo. Phong trào chống trung tâm dữ liệu dù mạnh mẽ đến đâu cũng không phải là một phong trào nhằm giảm thiểu những điều xấu từ AI và giúp chúng ta tăng tốc những điều tốt đẹp. Đó là một điều rất riêng biệt. Hãy để tôi nhấn mạnh điều đó trong một giây ở đây. Những gì tôi nghe được từ mọi người là đây là điều bạn có thể làm. Bạn có thể thực hiện chủ nghĩa NIMBY ở Mỹ và điều đó có thể gây ra một số áp lực chính trị để ngăn chặn điều gì đó. Rất khó để làm điều bạn đang đề xuất, đó là chúng ta nên thành lập các cơ quan quản lý mới của chính phủ, chúng ta nên trao cho họ quyền lực để khiến các công ty lớn và những người giàu có ngừng làm việc hoặc hành động vì lợi ích của chúng ta. Chúng tôi đã không làm điều đó trong một thời gian dài ở đất nước này. Tôi không biết ý bạn là gì. Mỗi ngành công nghiệp mới, cuối cùng chúng tôi đều phát triển khái niệm về sự an toàn cho công dân của mình. Chúng tôi thực sự làm một công việc rất tốt. Nếu bạn nhìn vào an toàn hàng không và an toàn ô tô, chúng tôi làm rất tốt những vấn đề đó. Không phải là năng lực của chúng tôi đã được chứng minh là còn thiếu. Bạn đã xem video về việc dây an toàn ra đời vào những năm 80 và tất cả mọi người đều nói rằng họ không muốn thắt dây an toàn chưa? Có một số nhân vật Mỹ. Đó là một thành công lớn. Đó là một thành công lớn, nhưng với tư cách là người Mỹ, điều đó đã bị chính phủ đẩy lùi vì sự áp đặt. Ở đây, chúng ta đang nói về một số điều e những công ty giàu nhất thế giới, với quyền lực to lớn đối với hệ sinh thái thông tin. Tất cả họ đều có podcast riêng, tôi không biết bạn có để ý điều này không. Họ sẽ nói, "Chính phủ không thể can thiệp vào việc này, họ sẽ kìm hãm chúng tôi, điều này sẽ phá hủy nền kinh tế." Đó thực sự không phải là quan điểm của hầu hết các công ty hàng đầu. Họ đến gặp chính phủ và yêu cầu ban hành quy định, và Trump, vì nền kinh tế, đã nói, "Tôi không thể ngăn chặn điều này, nền kinh tế AI hiện tại là nền kinh tế." Có một số động lực ở đó mà ít nhất khán giả của chúng tôi - khán giả The Verge, khán giả sẽ xem nội dung này trên YouTube - sẽ hiểu được. Tôi nghĩ về câu hỏi này có thể theo một cách khác với bạn, đó là ngành công nghiệp muốn có quy định, chúng tôi muốn có quy định, và sau đó những kẻ đầu sỏ đang thực hiện một thỏa thuận tham nhũng nào đó với chính quyền để ngăn chặn quy định đó xảy ra. Chính quyền càng tìm hiểu nhiều về những mối nguy hiểm này, họ sẽ càng chuyển sang quan điểm tinh tế hơn về việc bảo vệ người Mỹ khỏi những nhược điểm ở đây. Chính quyền càng tìm hiểu nhiều về những mối nguy hiểm này, họ sẽ càng chuyển sang quan điểm tinh tế hơn về việc bảo vệ người Mỹ khỏi những nhược điểm ở đây. Bạn đã nói rất nhiều về tác động đối với lao động. Một trong những lập luận chính chống lại tác động đối với lao động là: “Chúng tôi sẽ tự động hóa một loạt nhiệm vụ nhàm chán và chúng tôi sẽ tạo ra một loạt nhu cầu về những nhiệm vụ mới mà con người không thể thực hiện được vì họ bị mắc kẹt trong những công việc nhàm chán và bế tắc.” Tôi tình cờ nghĩ rằng nếu ở Mỹ có nhiều dịch vụ chăm sóc sức khỏe được trợ cấp hoặc chăm sóc sức khỏe xã hội hóa hơn, bạn sẽ thấy nhiều người bỏ việc để thành lập công ty mới, bởi vì AI khiến việc thành lập công ty mới trở nên dễ dàng hơn rất nhiều. Điều đó dường như chưa được đặt lên bàn, có thể nó sẽ thay đổi sau cuộc bầu cử này. Bạn có nghĩ rằng mất việc làm chỉ là kết quả tất yếu của con đường AI mà chúng ta đang đi hiện tại hay bạn thấy điều đó lý lẽ à? Việc làm là đầu vào của nền kinh tế và là yếu tố thúc đẩy rất nhiều phúc lợi của con người cũng như ý thức về mục đích và thu nhập - nhu cầu thể hiện, xây dựng mối quan hệ với đồng nghiệp, hoàn thành công việc. Việc làm đóng một vai trò rất trung tâm. Khi AI đạt được trí thông minh siêu phàm, tình trạng khan hiếm kỹ năng cổ trắng sẽ biến mất. Những việc như bán hàng qua điện thoại hoặc hỗ trợ từ xa hoặc trợ giúp trong bộ phận kế toán, khả năng AI thực hiện công việc đó rẻ hơn đáng kể, nhanh hơn đáng kể và thậm chí chính xác hơn có nghĩa là điều đó sẽ biến mất. Không có đỉnh cao nhận thức nào mà AI không đạt được. Lấy ví dụ, những gì đang diễn ra trong toán học ngày nay, nơi những mô hình tầm thường này so với các mô hình của năm tới đã xuất bản các bài báo và khiến mọi người phải thốt lên “Chà”. Những gì đang xảy ra với toán học sẽ xảy ra ở các lĩnh vực khác, và điều đó trái ngược với quan điểm cũ rằng, “Những việc dễ dàng sẽ được thực hiện bởi AI, nhưng việc lập mô hình sinh học hoặc vật lý hoặc chứng minh Navier-Stokes, chỉ con người mới có thể làm được điều đó”. Sự so sánh toán học thực sự thú vị đối với tôi. Bạn đã đề cập đến công nghệ phần mềm trước đó. Có khả năng xác minh trong các lĩnh vực đó. Bạn có thể viết mã, bạn có thể xem nó có chạy hay không và nó có chạy hay không. Toán học phức tạp hơn, nhưng bạn có thể viết mã Lean và bạn có thể xem liệu mình đã giải được lời giải chưa. Bạn có thể chọc tức hàng chục nghìn nhà toán học trên toàn thế giới với 770 bằng chứng của mình trong một ngày và chúng ta sẽ xem điều gì sẽ xảy ra. Đó không phải là trường hợp trong mọi lĩnh vực. Đó là trường hợp trong lĩnh vực được gọi là chủ nghĩa tư bản. Vâng? Nói chung, bạn có thể thực hiện bất kỳ loại nhiệm vụ khả thi về mặt kinh tế nào và chủ nghĩa tư bản sẽ xác minh kết quả? Vâng. Người ta mua sản phẩm tốt, không mua sản phẩm xấu. Hãy để tôi cho bạn một ví dụ- Đó là một điều học tập củng cố. Nó không tồn tại dưới dạng “Bài thơ này có hay hay không?” Vì vậy, có thể xảy ra trường hợp [học tăng cường] sẽ không xâm phạm các lĩnh vực đó, nơi không có đối tượng. và kết quả. Nhưng làm công việc kế toán, làm công việc telesale đó, tin tôi đi, nó cần phải phân tích, giống như chẩn đoán y tế, giống như việc phát minh ra vật liệu mới. Bạn nghĩ con người học những điều này bằng cách nào? Học tăng cường là cách con người học và cách những cỗ máy này học. Không có điều gì khác mà máy móc không bao giờ có thể hiểu được. Nhân loại trong thời đại thịnh vượng thực sự đó sẽ phải tìm cách tổ chức và có mục đích, và hy vọng họ vẫn nắm quyền kiểm soát Đây là lý do tại sao tôi bắt đầu bằng cách hỏi về bản chất của công nghệ ở đây. Nếu chúng tôi thực sự nghĩ rằng chúng tôi đang xây dựng thứ gì đó mô hình hóa ý thức của con người, thì câu hỏi của tôi sẽ ít hơn là liệu những người bạn luật sư của tôi có gặp phải khủng hoảng về phần mềm pháp lý được hỗ trợ bởi AI hay không. Hóa ra người xác minh trong lĩnh vực pháp lý là một thẩm phán, người có thể chưa ăn trưa và về cơ bản họ rất hỗn loạn. Chỉ có điều gì đó ở đó sẽ giữ họ ở đó. Nhưng nếu chúng ta đang xây dựng một ý thức học theo cách bạn gợi ý cho con người học, thì tôi đang nghĩ về những đứa con của mình và tôi đang nghĩ về chúng theo hai chiều. Thứ nhất, các con tôi rất thông minh, và điều chúng học được là cách lách các quy tắc của tôi và thương lượng các quy tắc của tôi cũng như vượt qua các ranh giới, và chúng rất giỏi việc đó. Thứ hai, họ sẽ bước vào loại thế giới nào không hoàn toàn theo chủ nghĩa hư vô, nơi mà bất kỳ hoạt động nào họ có thể tự thực hiện sẽ nhanh chóng được coi là một lĩnh vực khác để AI chinh phục và khi đó chẳng có ích gì? Những ý tưởng đó dường như đang chạy trực tiếp vào nhau. Trẻ em rất thông minh và thông minh và chúng đang nghĩ ra những ý tưởng mới, và khi có dấu hiệu đầu tiên về khả năng tồn tại của nền kinh tế, cỗ máy chủ nghĩa tư bản hung hãn sẽ đến và cướp đi chúng. Tôi sẽ không nói là hung hãn. Khả năng xây nhà bằng robot hình người và làm cho chúng rẻ tiền, khả năng phẫu thuật và chữa khỏi những căn bệnh không thể chữa khỏi, tôi sẽ không gọi đó là hành vi tàn bạo. Đó là những mục tiêu hoàn thành. Thực tế là sẽ có ít hơn trong e thiếu hụt… Thực ra, nếu nói 20 năm nữa thì không rõ sẽ thiếu hụt gì nữa. Nhân loại trong thời đại thịnh vượng thực sự đó sẽ phải tìm cách tổ chức và có mục đích, và hy vọng họ vẫn nắm được quyền kiểm soát. 20 năm tiếp theo- Chúng ta có thể quay lại với hy vọng họ vẫn có quyền kiểm soát trong tình huống đó không? Đó là vấn đề liên kết mà chúng tôi đã thảo luận. Vâng. Nhưng giả sử bạn giải quyết được vấn đề căn chỉnh- Điều này có vẻ giống như một giả định lớn. Đó là một giả định, vâng, và không được đảm bảo. Nhưng vấn đề khác mà bạn gặp phải là vấn đề về sự dồi dào và mục đích vào thời điểm đó. Tôi sẽ để những người trẻ tuổi hơn tìm ra cách họ chọn để giải quyết vấn đề đó vào thời điểm đó. Bạn có thể nói theo nghĩa đen là “Hãy giống như người Amish và chỉ sử dụng AI cho một số việc nhất định”. Tôi đã đề xuất trong bản ghi nhớ của mình ý tưởng rằng một số ngành nghề - chăm sóc trẻ em, chuẩn bị thức ăn, nghệ thuật, thể thao, nhiều thứ khác - có thể được chọn để dành riêng cho con người. Mặc dù AI có thể làm những điều đó tốt hơn nhưng chúng ta vẫn sẽ chọn làm điều đó. Nhưng đó sẽ là một câu hỏi về chính sách mà mọi người sẽ có. Quyền tự do lựa chọn của họ, một khi bạn có được sự dồi dào đó, rất khác với sự thiếu hụt mà chúng ta có ngày nay, nơi mà ở các quốc gia ở Châu Phi, hầu hết mọi người không bao giờ gặp bác sĩ hoặc gần một nửa số trẻ em bị suy dinh dưỡng và không phát triển trí não. Mối quan tâm lớn nhất của tôi là giai đoạn chuyển tiếp 20 năm này, nơi họ sẽ có người thắng, kẻ thua và rất nhiều sự gián đoạn, và chúng ta phải vượt qua điều đó để có được thời kỳ thịnh vượng đó. Bạn muốn nói rằng, mặc dù điều đó có những thách thức nhưng bạn đã loại bỏ được rất nhiều điều khó khăn trong cuộc sống ngày nay. Mối quan tâm lớn nhất của tôi là giai đoạn chuyển tiếp 20 năm này, nơi họ sẽ có người thắng, kẻ thua và rất nhiều sự gián đoạn, và chúng ta phải vượt qua điều đó để có được thời kỳ thịnh vượng đó. Bạn nghĩ rằng đó là 20 năm kể từ bây giờ? Tôi chọn đó là một con số khá an toàn. Có rất nhiều cột mốc quan trọng, ví dụ như robot hình người. Có phải đó là Hai hoặc ba năm nữa, như một số người nói, hoặc gần như tám năm, như những người khác sẽ nói? Không có nhiều người nói rằng với số vốn và số lượng công ty, đặc biệt là ở Trung Quốc, đang hoạt động trong lĩnh vực đó, không có khái niệm nào cho rằng việc có một bàn tay, các ngón tay và có thể lao động chân tay với chi phí rất thấp là không thể giải quyết được. Tôi có thể sai về con số đó, nó có thể ít hơn hoặc nhiều hơn một chút. Nhưng ở mức độ đó, vâng, nếu chúng ta không chọn giảm tốc độ hoặc dừng lại một cách ồ ạt, thì chúng ta sẽ có những robot có thể xây nhà, trồng lương thực, phẫu thuật và không có thứ gì mà lao động con người cung cấp cho nền kinh tế sẽ cần thiết cho hầu hết hàng hóa và dịch vụ.

Chúng tôi đã nói về khái niệm khan hiếm một vài lần và nhìn chung, bạn sẽ có sự dư thừa vì sẽ có rất nhiều lao động robot để xây nhà. Điều này được áp dụng rộng rãi với Internet, đó là điều mà Microsoft đã giúp đưa nó trở thành xu hướng phổ biến một cách lớn lao. Tôi đọc Con Đường Phía Trước khi còn nhỏ. Tuyệt vời. Internet đã phá hủy sự khan hiếm các sản phẩm văn hóa một cách thực sự. Trước đây bạn phải mua đĩa CD, bây giờ tất cả các bài hát đều có sẵn. Trước đây bạn phải mua băng VHS, giờ đây tất cả các video đều có sẵn. Và rồi những nền kinh tế đó phải thay đổi. Các nghệ sĩ chính thống hiện luôn đi lưu diễn hoặc họ phải phát hành lại 50 màu vinyl để lọt vào bảng xếp hạng. Có điều gì đó khiến chúng ta có cảm giác như chúng ta thậm chí còn chưa giải quyết được việc loại bỏ tình trạng khan hiếm trong môi trường kỹ thuật số. Chúng tôi đã phát minh ra các mô hình kinh doanh mới, nhưng chúng tôi chưa thực sự hiểu được ý tưởng rằng bản thân bài hát không có giá trị kinh tế. Tất cả những thứ xung quanh bài hát đều có giá trị kinh tế, bởi bài hát vô cùng phong phú. Bạn có thể sao chép nó bao nhiêu lần tùy thích. Bạn sẽ đề xuất xây dựng một cơ cấu kinh tế như thế nào để giải quyết tình trạng khan hiếm vật chất? Bởi vì tôi không nghĩ có ai sẵn sàng từ xa cho một cuộc trò chuyện như vậy. Nhưng đó là một câu hỏi ngược. Chắc chắn. Chúng tôi xây dựng các tín hiệu về giá để giải quyết tình trạng khan hiếm, để nói rằng “Hãy khuyến khích mọi người trở thành bác sĩ phẫu thuật não vì chúng tôi đang thiếu bác sĩ phẫu thuật não” và điều đó rất khó thực hiện. Khi bạn trở nên dồi dào, bạn không cần những tín hiệu giá đó. Nhưng một lần nữa, vấn đề của tôi, suy nghĩ về đơn thuốc của tôi, là làm thế nào chúng ta vượt qua được khoảng thời gian 20 năm này. Những câu hỏi mang tính tôn giáo, triết học, liên quan đến hành vi xã hội sâu sắc - con người có cảm nhận được mục đích mạnh mẽ và hòa hợp trong thời kỳ thịnh vượng đó không? - đó không phải là điều tôi sẽ giải quyết. Bây giờ bạn đang lo lắng về sự gián đoạn. Quỹ Gates sống trong một thế giới mà khi chúng tôi mới thành lập, chúng tôi đã có 10 triệu trẻ em tử vong năm năm. Bây giờ chúng tôi có năm triệu. Đó là một điều tốt. Tất cả nguồn lực của tôi sẽ được sử dụng trong 19 năm tới để loại bỏ một số bệnh tật và giảm số ca tử vong xuống một nửa một lần nữa, từ 5 triệu mỗi năm xuống dưới 2,5 triệu mỗi năm. Đó là tất cả về sự thiếu hụt - “Được rồi, chúng ta cần phát minh ra vắc xin, chúng ta cần làm cho thuốc rẻ hơn, chúng ta cần nhận được lời khuyên y tế hữu ích cho phụ nữ mang thai.” Ngành công nghiệp phần lớn đã ngừng nói về việc nó sẽ giết chết tất cả mọi người và cướp đi công việc như thế nào. Họ đã chuyển hướng sang “AI sẽ chữa khỏi mọi bệnh tật”. Tôi luôn nghe điều này từ nhiều CEO AI khác nhau. Tôi thực sự đã hỏi Mustafa về sự thay đổi giọng điệu đó trong các cuộc trò chuyện mà chúng tôi đã có trong khoảng một năm qua. Ý tưởng cho rằng AI mang lại những lợi ích tích cực to lớn trên quy mô lớn dường như đã quay trở lại vị trí hàng đầu, thay vì một số động lực diệt vong có thể đã xuất hiện cách đây một hoặc hai năm. Tôi chợt nhận ra rằng AI chữa khỏi mọi bệnh tật đang ở ngay trong vùng tấn công của bạn. Đó là điều mà Quỹ Gates đã và đang nỗ lực thực hiện trong lĩnh vực y tế toàn cầu trong nhiều năm. Có vẻ không dễ dàng như việc chỉ bảo người mẫu chữa khỏi bệnh ung thư. Bạn phải tiến hành thử nghiệm, bạn phải sản xuất thuốc, bạn phải phân phối thuốc, bạn phải đảm bảo rằng chúng có tác dụng. Bạn nghĩ chuyện đó sẽ diễn ra như thế nào? Đó có phải là khoảng thời gian 20 năm mà robot xây dựng nhà của chúng ta không? Nó nhanh hơn hay chậm hơn? Đây là công việc toàn thời gian của tôi với tư cách là chủ tịch Quỹ Gates. Trên thực tế, trong tháng này, chúng tôi thực hiện hai tuần đánh giá chiến lược để quyết định cách chúng tôi sẽ chi tiền vào năm tới cho bệnh lao, HIV và sốt rét. Thật tuyệt vời khi chúng tôi sử dụng AI, không chỉ ở khía cạnh khám phá ma túy mà còn khi chúng tôi làm cho các mô hình này hiểu đúng ngôn ngữ Châu Phi, đây là một sáng kiến mà chúng tôi đã công bố với 60 đối tác vào tháng trước. Việc khám phá và cung cấp dịch vụ chăm sóc sức khỏe sẽ được AI tăng tốc đáng kinh ngạc và điều đó rất thú vị - hạt giống tốt hơn, di truyền vật nuôi tốt hơn, dự báo thời tiết cho trang trại rs ở Châu Phi, những người chưa bao giờ có những thứ đó. Vì vậy, đó là điều tốt đẹp mà AI mang lại trong suốt 19 năm còn lại của Quỹ Gates. Những thứ tốt cần có thời gian. Một số vấn đề, như các cuộc tấn công mạng và vấn đề thị trường việc làm, thậm chí trong hai đến ba năm tới, bạn sẽ thấy những tác động tiêu cực đáng kể trong hai lĩnh vực đó. Bạn có nghĩ rằng điều đó đã đủ để vượt qua sự hoài nghi hay nỗi sợ hãi của mọi người đối với các mô hình AI mà họ gặp phải ngày nay? Bởi vì đó chính là cách các công ty nghĩ về nó. Không, thôi nào. Tôi nghĩ thật không công bằng khi nói rằng họ hoàn toàn theo đuổi một tin nhắn diệt vong và bây giờ họ đã chuyển sang một số tin nhắn khác. Hai điều này vướng mắc sâu sắc. AI cuối cùng sẽ có thể mô hình hóa sinh học con người theo cách mà bạn có thể hiểu được tác dụng phụ của thuốc mà không cần phải thực hiện thử nghiệm trên người. Chúng tôi không ở đó, nhưng trong vòng 5 đến 10 năm tới, rất có thể những mô hình silico này sẽ mang lại cho chúng tôi khả năng đó. Sinh học rất phức tạp, AI cực kỳ tốt khi có đủ dữ liệu và có những công cụ mới để thu thập và cung cấp thêm dữ liệu cho nó. Nó rất rất giỏi trong việc xử lý các hệ thống phức tạp, vì vậy nó gần như hoàn hảo cho sinh học. Nhưng không, điều đó không có nghĩa là mọi người sẽ cảm thấy hài lòng về những nhược điểm. Những điều tốt đẹp đến nhanh như thế nào? Bạn nhìn vào hóa đơn y tế của mình nhanh đến mức nào và thốt lên: “Ồ, con số đó thực sự thấp”? Hoặc bạn nói: “Tôi muốn mua một ngôi nhà mới, ồ, những ngôi nhà này chắc chắn là rẻ”? Những thứ tốt cần có thời gian. Một số vấn đề, như các cuộc tấn công mạng và vấn đề thị trường việc làm, thậm chí trong hai đến ba năm tới, bạn sẽ thấy những tác động tiêu cực đáng kể trong hai lĩnh vực đó. Trong thư của bạn, bạn có một số ý tưởng về cách ngăn chặn những tác động tiêu cực đó hoặc ngăn chặn hoặc ít nhất là giảm thiểu chúng. Kiểm duyệt chúng, vâng. Cải thiện có thể là từ thích hợp. Vâng, chính xác. Và chúng không hề nhỏ. Bạn có một câu trích dẫn ở đây nói rằng, "Chúng tôi cần một phản ứng lớn hơn nhiều so với phản ứng của an ninh quốc gia Hoa Kỳ sau vụ 11/9." Bạn muốn t để thành lập một cơ quan quốc tế bằng cách nào đó khiến mọi người làm điều đúng đắn. Đây là những ý tưởng đầy thách thức. Tuyệt đối. Khi chúng ta cho nổ bom hạt nhân trong Thế chiến thứ hai, chúng ta có mong đợi rằng chúng ta sẽ trải qua 80 năm nữa mà điều đó không xảy ra không? Tôi sẽ cho chúng tôi điểm cao về điều đó. Những việc như quan tâm đến các nước nghèo và giúp đỡ họ - mặc dù hiện tại chúng tôi không ưu tiên điều đó nhiều như tôi nghĩ hoặc chúng tôi đã làm trong quá khứ, nhưng chúng tôi đã làm rất tốt việc đó. Đây sẽ là một thách thức lớn hơn bất cứ điều gì nhân loại từng đạt được. Một trong những điều khiến tôi ấn tượng khi so sánh với hạt nhân, điều gần đây xuất hiện khá nhiều trên Decoder, là chính phủ đã chế tạo vũ khí hạt nhân. Chắc chắn, họ có một số nhà thầu, nhưng đây là những dự án của chính phủ và cuối cùng công nghệ nằm trong tầm kiểm soát của chính phủ và chúng tôi không bao giờ để những người bình thường sở hữu nó. Hãy nghĩ về Muse trong bối cảnh vũ khí hạt nhân. Bạn có nghĩ rằng thật sai lầm khi có các sản phẩm AI dành cho người tiêu dùng như Muse và Dots mà không có khả năng điều khiển? Muse tình cờ được hỗ trợ bởi mô hình của Meta, đây vẫn là mô hình nguồn đóng. Tôi thực sự nghĩ rằng việc cho phép mọi người thông qua trọng lượng mở loại bỏ tất cả các biện pháp bảo vệ là vô trách nhiệm về rủi ro mạng và sinh học phát sinh từ đó. Đối với những Agent AI này, sẽ có một số vấn đề ban đầu về cách họ thiết lập, nhưng về cơ bản tôi nghĩ mọi người sẽ có đại diện cá nhân. Muse là một bước tiến rất tốt đẹp. Tôi đã nói chuyện với Alexandr Wang về điều đó, chúc mừng anh ấy và mặc dù sẽ có nhiều thách thức nhưng những người đại diện cá nhân sẽ giúp mọi người hoàn thành công việc. Muse là sản phẩm AI tiêu dùng thực sự tuyệt vời đầu tiên. Một trong những lý do khiến mọi người không thích AI một cách phổ biến là vì họ trải nghiệm các mô hình miễn phí giá rẻ và tổng quan về AI hoặc họ sử dụng ChatGPT miễn phí và nó gây ảo giác và điều đó nói dối họ, nhưng Muse thực sự đã làm được mọi thứ và đó là một sản phẩm tiêu dùng tốt. Nhưng tôi tự hỏi - trong thời đại hạt nhân, chúng ta không nói, “Mọi người đều sẽ có phản ứng hạt nhân hoặc ở nhà mà chúng tôi chưa xây dựng hệ thống bảo vệ an toàn.” Có cái gì đó ở đây. Tất nhiên, ý tưởng cho phép mọi người mắc bệnh đậu mùa tại nhà hoặc chế tạo vũ khí hạt nhân tại nhà và bạn có thể nhại lại câu nói của một số người này: "Đừng lo lắng về các biện pháp bảo vệ". Nó đang đảm nhận vị trí đó. “Chúng tôi không nghiêm túc về vấn đề an toàn.” Nhưng vấn đề Agent AI cá nhân là một sự phát triển được mong đợi. AI thực sự rất tuyệt vời khi tôi khám phá mọi thứ một cách trí tuệ, thậm chí cả công việc của Gates Foundation. Tôi được trao quyền nhiều hơn. Nhưng tôi đồng ý với bạn, nó sẽ đến được với nhiều người hơn dưới hình thức Agent AI cá nhân này. Quan điểm cho rằng luật trách nhiệm pháp lý là cách chúng ta quản lý sự an toàn của AI sẽ bị coi là vô lý Tất cả các mô hình mà chúng ta đang nói đến hiện đều chạy hiệu quả trên các trung tâm dữ liệu do các công ty lớn sở hữu. Một trong những lập luận ở đây là, “Nếu họ làm điều gì đó thực sự sai trái, bạn có thể kiện họ và điều đó sẽ mang lại biện pháp răn đe hoặc ít nhất là động lực để tạo ra các hệ thống an toàn”. Tôi không chắc trách nhiệm pháp lý đối với sản phẩm có phải là hướng đi hay không, nhưng có rất nhiều điều cho thấy rằng bản thân trách nhiệm pháp lý đối với sản phẩm sẽ giúp ngành luôn đi đúng hướng. Sau đó, có mặt trái, đó là bạn có thể mua một chiếc Mac Studio và chạy mô hình mã nguồn mở và trọng lượng mở trên đó và nó có thể làm bất cứ điều gì bạn muốn. Tôi không chắc bất kỳ trách nhiệm pháp lý nào sẽ nằm ở đâu hoặc điều gì sẽ kiểm soát hoặc điều chỉnh hành vi của các mô hình nguồn mở đó. Bạn có nghĩ rằng đó là một nguy cơ ngày càng tăng? Bạn có nghĩ rằng điều đó có thể được kiểm soát? Quan điểm cho rằng luật trách nhiệm pháp lý là cách chúng ta quản lý sự an toàn của AI sẽ bị coi là vô lý. Khi kẻ xấu thực hiện các cuộc tấn công sinh học, bạn không đến tòa và nói, “Ồ, được thôi.” Ngay cả khi tìm ra ai đang thực hiện các cuộc tấn công này, mô hình trách nhiệm pháp lý vẫn thất bại ở mọi khía cạnh vì bản thân các công ty AI không phải là người thực hiện. Đặc biệt là những người sử dụng các mô hình không có biện pháp bảo vệ và làm những việc này. Chúng tôi sẽ coi trọng sự an toàn của AI hơn là an toàn hàng không, an toàn ma túy và an toàn ô tô. tha t được đảm bảo. Liệu nó có đủ không… Điều này khó hơn, khó hơn vũ khí hạt nhân, khó hơn bất kỳ lĩnh vực nào khác. Nhưng bạn sẽ làm gì với một mô hình nguồn mở chạy trên PC mà ai đó đã xây dựng chỉ với một card đồ họa Nvidia ngẫu nhiên trong đó? Tôi hy vọng rằng với các mô hình trên một khả năng nhất định, chúng tôi sẽ tìm ra cách yêu cầu duy trì các biện pháp bảo vệ và giám sát trong các mô hình đó. Tôi thừa nhận rằng khi thời gian trôi qua, nếu chúng ta không sớm quyết định làm điều đó, bạn sẽ có một mức độ năng lực ẩn sâu trong góc tối mà bạn sẽ không thể nhìn thấy. Nhưng bạn áp đặt giới hạn ở đâu? Một quốc gia có chủ quyền nói rằng các mô hình có khả năng tấn công mạng tinh vi phải được lưu giữ các biện pháp bảo vệ bên trong. Chắc chắn. Bạn có thể cởi mở theo nghĩa là bạn tự do, bạn có thể cởi mở theo nghĩa là bạn hoàn toàn có thể tùy chỉnh, nhưng bạn phải ở trên các nền tảng mà khi bạn tùy chỉnh nó, nó sẽ kiểm tra xem liệu bạn có đang tùy chỉnh các biện pháp bảo vệ và giám sát hay không và từ chối cho phép bạn làm điều đó. Vì vậy, điều đó có nghĩa là các quốc gia có chủ quyền sẽ hỏi: "Những nền tảng đáng tin cậy này có thể thực hiện chức năng này hay không?" Tôi đang hỏi rất chi tiết. Về mặt kỹ thuật, bạn sẽ thực hiện quy định đó ở đâu? Thông qua luật pháp của Hoa Kỳ. Chắc chắn rồi, nhưng bạn phải đặt chúng ở đâu đó. Có phải ở Ôm Mặt là nơi phân phối một số mẫu này không? Có phải ở cấp độ chip? Không, đó chính xác là những gì tôi đã nói: Các mô hình trên một công suất nhất định chỉ có thể chạy trên các nền tảng chứng nhận rằng, vì chúng được tùy chỉnh nên sẽ không loại bỏ các biện pháp bảo vệ. Tôi thừa nhận rằng khi thời gian trôi qua, nếu chúng ta không sớm quyết định làm điều đó, bạn sẽ có một mức độ năng lực ẩn sâu trong góc tối mà bạn sẽ không thể nhìn thấy. Nói rõ hơn thì có lẽ tôi chưa hiểu lắm - Mac Studio có phải là một nền tảng trong trường hợp đó sẽ phải chú ý đến mã nó đang chạy không? Bạn sẽ không để một mô hình vượt qua một khả năng nhất định được sao chép xuống máy Mac khách hine trừ khi bạn bằng cách nào đó tìm ra cách theo dõi máy khách đó, điều này rất khả thi. Nhưng trong thời gian tới, hầu hết các mô hình thực sự tiên phong này sẽ chạy nhiều hơn trên Hugging Face hoặc bạn có thể có chúng trên GitHub. Bạn có thể nhờ tất cả mọi người tham gia vào công việc cung cấp nền tảng duy trì các biện pháp bảo vệ. Để làm đúng điều này, có vẻ như bạn sẽ thực thi quy định ở cấp độ nền tảng và phân phối chứ không quá nhiều ở cấp độ chip. Không phải ở cấp độ chip, không. Bởi vì đối với tôi, đến một lúc nào đó, ngay cả những mô hình nguồn mở, miễn phí, rẻ tiền cũng sẽ có đủ khả năng như những mô hình chúng ta có ngày nay. Đúng vậy. Và sau đó bạn sẽ gặp một vấn đề lớn. Nếu đó là những trọng lượng mở theo cách mà tất cả các biện pháp bảo vệ có thể được loại bỏ, thì bạn sẽ có mức độ tấn công mạng và tấn công sinh học rất cao. Sau đó, bạn có thể nói, “Được rồi, hãy viết lại tất cả mã mà chúng ta có ngày hôm nay để ít bị tấn công hơn hoặc hãy thực hiện giám sát sinh học một cách thật sâu sắc,” đó là những điều tôi tin rằng chúng ta cần làm bên cạnh những hạn chế khác này. Chúng tôi lại đề xuất rất nhiều khả năng mới, phải không? Vâng. Chúng tôi sẽ áp đặt một số hạn chế đối với GitHub. GitHub không có nhiều hạn chế về loại mã mà nó có thể phân phối ngày nay. Nó có một số, nhưng nó không có loại hạn chế này. Khi bạn đưa một mô hình tiên tiến có khả năng tấn công mạng hoặc tấn công sinh học sâu vào GitHub, nó sẽ nói: “Tôi đã đến chính phủ Hoa Kỳ và chứng nhận rằng tôi không cho phép mọi người tùy chỉnh các biện pháp bảo vệ”. Tôi không nghĩ rằng chúng ta hiện đang sống trong thời đại có sự tin tưởng cao vào các thể chế. Nó chỉ không cảm thấy như vậy với tôi. Trên thực tế, phần lớn chúng tôi đã phá bỏ chúng. Elon Musk xuất hiện và phá hủy USAID. Tôi biết bạn có cảm xúc mạnh mẽ về điều đó. Đó là một sai lầm. Chúng ta gần như đã phá hủy các thể chế của mình, dù tốt hay xấu. Không, nó hơi mạnh quá. Các tổ chức của chúng tôi- Họ đang suy yếu. Đúng là họ đã yếu đi phần nào. Có phần yếu đi. Đó là một cách rất hay để diễn đạt nó. Niềm tin vào họ rất thấp. Có lẽ chúng ta có thể dành trọn một giờ nữa để khám phá thuốc AI và liệu một bộ phận đáng kể dân số có tin tưởng vào các sản phẩm của công trình đó hay không vì ngày nay họ không tin tưởng các công ty dược phẩm. Ngày nay, họ không cần phải tin tưởng vào các công ty dược phẩm. Họ phải tin tưởng vào quá trình xem xét của FDA. Tôi cũng không chắc họ có tin vào điều đó không. Nhìn chung, niềm tin ở mức thấp. Sau đó họ có thể bỏ đi mà không lấy chúng. Khi họ bị ung thư, họ có thể nói: “Không, tôi không muốn dùng loại thuốc trị ung thư đó”. Theo như tôi biết, mọi người đều dùng ma túy. Đó là một hoạt động kinh doanh phát đạt và mọi người sử dụng chúng vì chúng mang lại những lợi ích đã được chứng minh. Tất cả những gì tôi đang nói là, hiện tại, có vẻ như niềm tin vào các thể chế, đặc biệt là ở Mỹ cũng như trên toàn thế giới, đang suy giảm. Bạn đang đề xuất một loại thể chế mới, có thể là một loại thể chế toàn cầu mới có thể áp đặt những hạn chế mới lạ. Tại một thời điểm nào đó, chúng ta cần phải nói rằng các mô hình nguồn mở, các mô hình trọng lượng mở không thể làm được mọi việc và chính phủ sẽ tiếp cận chúng và nói liệu họ có thể làm được những việc đó hay không. Không, họ sẽ đảm bảo rằng các nền tảng không cho phép tước bỏ các biện pháp bảo vệ. Làm thế nào để bạn lấy lại niềm tin về thể chế để áp đặt các biện pháp kiểm soát này? Giả sử chúng tôi không làm điều này và chúng tôi để các mô hình hoạt động và thực hiện các cuộc tấn công mạng và tấn công sinh học. Bạn có nghĩ rằng điều đó sẽ làm tăng niềm tin hoặc phúc lợi của con người không? Đó là giải pháp thay thế. Đây là lý do tại sao tôi hỏi về nó. Đây là lý do tại sao tôi hỏi về những đứa con của tôi và chủ nghĩa hư vô. Tôi thực sự thắc mắc về điều này. Tôi không chắc chúng tôi sẽ thành công trong việc này nhưng tôi đảm bảo với bạn rằng điều này có thể thực hiện được. FDA rất phức tạp. Các quy định an toàn hàng không rất phức tạp. Giờ đây với AI, bạn có thể thực hiện công việc tốt hơn nữa với cùng số lượng người trong các tổ chức đó. Đó là sự đệ quy kỳ lạ khi AI sẽ tham gia vào việc kiểm tra và an toàn AI cũng như nhiều thứ tương tự. Có, điều này đòi hỏi phải hành động và tôi khuyên bạn nên làm như vậy vấn đề chỉ là sự việc tệ đến mức nào trước khi chúng ta hành động. Mọi người không nên coi mọi việc tôi làm theo mệnh giá. Tôi mắc đủ loại sai lầm, những điểm yếu, những thành kiến mà tôi đưa ra khi trả lời những câu hỏi này. Họ nên lấy những gì tôi đang nói và thêm nó vào giọng nói Tôi có thể cảm nhận được sự cấp bách của bạn về tác hại. Tôi cũng có thể cảm nhận được sự nhiệt tình của bạn về lợi ích lâu dài, nhưng chúng ta đang ngồi đây nói về niềm tin. Chúng tôi sẽ đưa nội dung này lên YouTube. Tôi biết bạn biết một số người bình luận trên YouTube sẽ nói gì. Họ sẽ nói, "Tại sao chúng ta nên tin tưởng Bill Gates? Ông ấy có mối quan hệ với Jeffrey Epstein." Bạn phản ứng thế nào với điều đó? Đó có phải là sự cấp bách đã qua hay bạn có câu trả lời cụ thể hơn? Mọi người không nên coi mọi việc tôi làm theo mệnh giá. Tôi mắc đủ loại sai lầm, những điểm yếu, những thành kiến mà tôi đưa ra khi trả lời những câu hỏi này. Họ nên lấy những gì tôi đang nói và thêm nó vào giọng nói. Tôi đã làm việc trong ngành công nghệ cả đời và nghĩ về AI, viết phần mềm, nghĩ về sức mạnh của phần mềm. Tôi thừa nhận rằng tôi đã rất thích thú khi AI cuối cùng cũng bắt đầu đạt được tiến bộ. Nó thực sự khá chậm cho đến gần đây. Tôi rất ngạc nhiên và nó thực sự giúp tôi thực hiện công việc của mình theo một số cách đáng kinh ngạc. Nhưng vâng, tôi chỉ là một giọng nói, một giọng nói không hoàn hảo. Tôi nghi ngờ bạn sẽ tìm được một giọng hát hoàn hảo, nhưng mọi người có thể đánh giá nó theo cách họ muốn. Tôi có thể nói rằng tiếng nói mà mọi người tin tưởng đang bị thiếu hụt. Tôi đồng ý với điều đó. Khi bạn đến nói chuyện với những người trong ngành này, bạn sẽ thấy đó là một nhóm CEO trẻ đang xây dựng những công ty lớn. Đó là điều bạn có một số kinh nghiệm. Bạn có nghĩ họ đang làm điều này đúng cách không? Bạn có nghĩ rằng họ có ý định đúng đắn? Vấn đề của chúng tôi ngày nay không nằm ở ngành này. Vấn đề của chúng tôi không phải là Sam Altman, Dario Amodei, Satya Nadella hay Sundar Pichai không hiểu rằng có một số thách thức nghiêm trọng ở đây. Tôi ít nói chuyện với Elon hơn những người khác, nhưng ngay cả anh ấy cũng những tuyên bố công khai về việc triệu hồi con quỷ chính xác là những gì chúng ta đang thảo luận ở đây. Tại sao không có năng lượng chính trị để thực hiện những điều bạn đang đề xuất? Như bạn đã nói, chính phủ không tài trợ cho công việc này. Đây là công việc của công ty thuộc khu vực tư nhân. Chính phủ không phải là khách hàng chính của công việc này, không giống như tên lửa, vũ khí và những thứ tương tự. Khi ai đó đến và nói rằng tất cả những tiến bộ công nghệ trước đây đều tầm thường so với tiến bộ công nghệ này, mọi người sẽ có mức độ hoài nghi cao về điều đó. Liệu cuộc sống có thực sự sẽ khác đi đáng kể sau 10 năm nữa nhờ AI? Mọi người nên nói, “Mấy người đó quá phấn khích về chuyện này rồi.” Nhưng tôi ở đây để nói, với bất kỳ mức độ tin cậy nào mà tôi có, rằng đây hoàn toàn là điều sâu sắc nhất - cả về mặt tốt lẫn mặt xấu - mà công nghệ từng được phát minh. Tôi không có động cơ tài chính về việc này. Tôi đang đề xuất một số biện pháp phòng ngừa và bảo vệ thực sự cần thiết. Bạn nghĩ gì về sự khác biệt trong giọng điệu trò chuyện ở Hoa Kỳ so với ở Trung Quốc, nơi người ta thường cho rằng sự lạc quan về AI cao hơn nhiều? Tại sao bạn nghĩ có sự khác biệt ở đó? Hầu hết những người đó không dành nhiều thời gian ở Trung Quốc. Mối lo ngại về thị trường việc làm ở Trung Quốc là rất cao và bạn không thể coi Trung Quốc là một khối nguyên khối. Có những công ty tư nhân thực hiện công việc AI như chúng tôi có ở Hoa Kỳ và sau đó là chính phủ Trung Quốc. Ví dụ: khi nói đến việc có nên cho phép sử dụng tiền điện tử hay không, họ đã nói không. Người trẻ có nên chơi cờ bạc mọi lúc không? Họ nói không. Khi hỏi liệu trẻ em có nên kết nối với AI hay không, họ nói không. Về nhiều việc trong số này, bao gồm cả việc sử dụng AI, họ đang thể hiện sự sẵn sàng làm mọi việc thay mặt cho xã hội. Tôi đang nói ở đây, với bất kỳ mức độ tin cậy nào mà tôi có, rằng đây hoàn toàn là điều sâu sắc nhất - cả về mặt tốt lẫn mặt xấu - mà công nghệ từng được phát minh. Tôi không có động cơ tài chính cho việc này Ở đó, sự nhiệt tình giảm đi một chút vì nền kinh tế của họ không tập trung vào AI như nền kinh tế của chúng ta vào lúc này. Cuối cùng, [khi nói đến] giá trị con người của việc không muốn các cuộc tấn công mạng hoặc khủng bố sinh học hay cố gắng tìm hiểu xem chúng ta sẽ làm gì khi mất việc làm, tôi không nghĩ có sự khác biệt nào đó giữa người Trung Quốc và người Mỹ và tất cả những người còn lại về cách họ sẽ nhìn nhận điều này. Bạn có nghĩ rằng sẽ có điều gì đó thực sự tồi tệ xảy ra để khiến thủ đô chính trị của Hoa Kỳ thực hiện những thay đổi này không? Có lẽ là có. Chúng tôi chuẩn bị sẵn sàng cho động đất vì có những trận động đất nhỏ. Tôi nghĩ sau khi chúng ta xảy ra đại dịch COVID, điều đó sẽ khiến chúng ta sẵn sàng hơn cho những đại dịch trong tương lai. Cái đó không hoạt động như tôi mong đợi. Nhưng thông thường điều đó thu hút sự chú ý của chúng tôi. Trong vài năm tới, chắc chắn là trong lĩnh vực mạng, bởi vì có một mô hình kinh doanh ở đó, bạn sẽ thấy rất nhiều cuộc tấn công khác nhau về quy mô so với bất kỳ cuộc tấn công nào chúng ta đã thấy trong quá khứ. Có một điều mà tôi sẽ quay lại và chỉ muốn kết thúc ở đây. Tôi lo lắng về giới trẻ và chủ nghĩa hư vô. Tôi luôn cảm nhận được điều đó ở khán giả của chúng tôi. Chúng tôi có một lượng khán giả trẻ. Có một số điều về AI thực sự là những điều thú vị nhất mà tôi từng thấy máy tính làm được. Ở đó có điều gì đó có thể vui nhộn, thú vị và hấp dẫn và thay đổi toàn bộ mối quan hệ của bạn với chính quan niệm sống trong thế giới kỹ thuật số. Sau đó rõ ràng là có những điều khủng khiếp. Điều tôi thấy thường xuyên nhất là cảm giác không tin tưởng, không chỉ vào các thể chế, mà còn vào các công ty, vào chính chủ nghĩa tư bản, vào quan điểm cho rằng chúng ta nên thay đổi cách đánh thuế lao động và vốn, mà tôi biết cũng là một trong những ý tưởng khác của bạn. Ý tưởng rằng, tôi không biết, chúng ta thậm chí nên có thêm con. Tất cả đã xong. Họ sẽ giết tất cả chúng ta và chúng ta chỉ nên chịu đựng một chút thôi. Có rất nhiều chủ nghĩa hư vô ngoài kia. Tôi cảm thấy nó rất sâu sắc. Nếu hôm nay bạn là một người trẻ và bạn là tôi Khi nghe Bill Gates nói rằng đó là khoảng 20 năm gián đoạn và cuối thời gian đó, robot có thể sẽ xây dựng những ngôi nhà, bạn sẽ lấy điều gì làm nguồn hy vọng? Trong suốt lịch sử loài người, chúng ta đã phải đối mặt với tình trạng thiếu lương thực, bệnh tật và chiến tranh. [Nhà sử học] Yuval Noah Harari viết hùng hồn về quá khứ. Và thật trớ trêu là bây giờ chúng ta có loại hộp Pandora này sẽ giải quyết tình trạng thiếu lương thực - điều này vẫn là sự thật, không phải ở Mỹ mà ở Châu Phi - sẽ gây ra bệnh tật, nơi mà sự đau khổ của con người là không thể tin được, và giải quyết tất cả những điều này, kéo theo đó là ảnh hưởng đến việc làm và ý thức đóng góp độc đáo của chúng ta. Tôi nghĩ, “Cách tôi điều phối các nguồn lực để loại trừ bệnh sốt rét, kinh nghiệm sống của tôi khá độc đáo cho phép tôi làm được điều đó.” Nhưng khi AI nói với tôi, "Không, tôi giỏi hơn bạn. Bạn chơi ném bóng đi và tôi sẽ quay lại với bạn. Tôi sẽ lo việc này", điều đó thật hài hước nhưng cũng không hề hài hước. Đối với những người ngày nay còn trẻ và muốn có những đóng góp độc đáo, thật đáng sợ khi AI lại quá mạnh mẽ. Đó là lý do tại sao cuộc khủng hoảng trong cộng đồng toán học sẽ lan rộng khắp nơi. Nếu hôm nay bạn đang ở độ tuổi hai mươi, trong khoảng thời gian 20 năm này, bạn có thể làm những việc mà AI vẫn không thể làm, bạn có thể sử dụng AI và bạn có thể tạo ra nhiều tác động tốt, đồng thời bạn có thể đề xuất chính sách. Chúng ta có thể cần phát triển sở thích để thực sự không sử dụng công nghệ ở mức tối đa. Ngay cả trong trường hợp tốt nhất về cách chúng ta quản lý AI, đây sẽ là một giai đoạn hỗn loạn như từng có trong lịch sử loài người. Khi tôi nói chuyện với Claude về các loại công việc dành riêng cho con người và cố gắng nâng con số đó lên tới 40% thị trường lao động - để bạn có thể sử dụng chế độ nghỉ hưu sớm, tuần làm việc hạn chế và những thứ tương tự để vẫn có được những thứ như chúng ta có ngày nay - câu trả lời của nó luôn là, "Bạn đang hạn chế AI làm những việc này một cách giả tạo." Tôi không thể đạt được tỷ lệ rất cao nếu không làm điều đó. Chúng ta sẽ có những lựa chọn thực sự. Chúng tôi ha đã có những nhóm - không phải những nhóm lớn, nhưng giống như người Amish - những người không sống ở vùng biên giới công nghệ. Rất nhiều nhân loại có thể chọn không sống ở giới hạn công nghệ vì những thứ chúng ta nhận được từ việc giúp đỡ lẫn nhau hoặc nảy ra những ý tưởng độc đáo. Với ý tưởng rằng những người trẻ tuổi lo ngại vì sự gián đoạn sắp xảy ra - rằng ngay cả trong trường hợp tốt nhất về cách chúng ta quản lý AI, đây sẽ là một thời kỳ hỗn loạn như từng có trong lịch sử loài người - tôi ghét phải là người đưa ra những tin tức đáng lo ngại về điều này, nhưng còn tệ hơn nữa khi không nói với mọi người rằng điều này sắp xảy ra. Với tư cách là con người, chúng ta có những lựa chọn về cách chúng ta định hình nó. Bill, tôi đánh giá cao việc bạn đã rung chuông báo động và tôi đánh giá cao việc bạn sử dụng Bộ giải mã. Cảm ơn bạn rất nhiều. Cảm ơn. Câu hỏi hoặc ý kiến? Hãy liên hệ với chúng tôi tại bộ giải mã@theverge.com. Chúng tôi thực sự đọc mọi email!