Một cách tiếp cận mới được gọi là “lý thuyết trò chơi ngược” nhằm mục đích tạo ra động lực cho các mô hình AI mạnh mẽ khiến việc tuân theo các quy tắc trở thành lựa chọn hợp lý nhất. Khi các mô hình AI trở nên có năng lực hơn, các nhà nghiên cứu an toàn đang nỗ lực để đảm bảo chúng “phù hợp” với mong muốn của con người— nói cách khác, để đảm bảo rằng các tác nhân lừa đảo không vi phạm pháp luật, xâm nhập vào máy chủ trái phép hoặc thả khí độc vào các thành phố lớn và giết chết tất cả chúng ta. Cho đến nay, công việc này chủ yếu tập trung vào việc cố gắng nhìn vào “bộ não” của AI để hiểu “suy nghĩ” là gì hoặc đào tạo các mô hình để tuân theo những giá trị mà chúng ta yêu quý. Ví dụ, Claude có hiến pháp của nó - một loại quy tắc đạo đức. Vấn đề là, những kỹ thuật này dường như không hoạt động đặc biệt tốt: Các mô hình đã được chứng minh là cố tình hoạt động kém hơn trong các bài kiểm tra, che giấu ý định của chúng và đánh lừa người đánh giá. Giờ đây, một số nhà nghiên cứu về sự liên kết tin rằng lý thuyết trò chơi đảo ngược, còn được gọi là thiết kế cơ chế, có thể mang lại kết quả tốt hơn. Trong khi lý thuyết trò chơi cố gắng dự đoán các tác nhân hợp lý sẽ hành xử như thế nào khi được đưa ra một bộ quy tắc cụ thể, thì lý thuyết trò chơi ngược cố gắng thiết kế các quy tắc sẽ gợi ra những loại hành vi mà chúng ta muốn khuyến khích. Một ví dụ về thiết kế cơ chế trong thế giới thực có thể là chiến lược cổ điển để chia một miếng bánh thành hai: Một người cắt chiếc bánh và người kia được chọn miếng đầu tiên. Điều này khuyến khích người thợ cắt tạo ra các mảnh đồng đều nhất có thể. Các ví dụ khác bao gồm việc tăng giá trong các ứng dụng gọi xe, khuyến khích tài xế có mặt vào những thời điểm bận rộn và đấu giá theo giá thứ hai, trong đó người thắng cuộc trả giá của giá thầu cao thứ hai thay vì giá cao nhất. Các nền tảng sử dụng các cuộc đấu giá này để bán quảng cáo trực tuyến vì chúng khuyến khích người mua đặt giá thầu gần với mức tối đa mà họ sẵn sàng trả. Trong AI, thiết kế cơ chế bắt đầu từ tiền đề rằng chúng ta có thể không bao giờ hiểu đủ về hoạt động bên trong của các mô hình biên giới để đảm bảo chúng được căn chỉnh. Điều này có nghĩa chúng ta nên thiết kế các cơ chế khuyến khích các đại lý hành xử theo cách chúng ta muốn, bất kể điều gì thực sự đang diễn ra bên trong. Một bài báo in gần đây của Stephen Morris, một nhà kinh tế học tại MIT, cùng với các đồng nghiệp từ Yale và Columbia đã đề xuất một số cơ chế tiềm năng có thể ngăn chặn các tác nhân khỏi các thử nghiệm “đóng bao cát” (giả vờ tệ hơn thực tế - ví dụ, để tránh kích hoạt các cơ chế an toàn). Thay vì chỉ được khen thưởng khi làm tốt bài kiểm tra, một mô hình có thể được khen thưởng vì câu trả lời của nó dự đoán tốt những gì mô hình thứ hai sẽ nói. Cố tình chơi câm coi như thua cược. Morris nói: “Các tác nhân AI hiểu rất rõ về những gì các tác nhân AI khác có thể đạt được. “Vì vậy, có vẻ như đây là bối cảnh mà việc kiểm tra chéo này có thể hoạt động thực tế hơn. Bài báo cũng đề xuất các tác nhân đấu tranh với nhau, tạo ra động lực cạnh tranh khuyến khích họ thực hiện tốt nhất hoặc ghép nối các tác nhân được biết là có xu hướng trái ngược nhau và khen thưởng họ tùy thuộc vào mức độ kết quả đầu ra của họ phù hợp chặt chẽ như thế nào, từ đó khuyến khích họ đạt được câu trả lời tối ưu. Cách tiếp cận thứ hai, như Elad Hazan, giáo sư khoa học máy tính tại Princeton, hình dung là thiết kế các cơ chế lấy cảm hứng từ cách xã hội loài người giữ cho con người “liên kết”: chuẩn mực xã hội, hệ thống tư pháp, khuyến khích tiền tệ của chủ nghĩa tư bản thị trường tự do. “Chúng tôi muốn điều chỉnh AI siêu thông minh,” ông nói. “Tại sao chúng ta không nói về con người trước tiên? Làm thế nào để chúng ta sắp xếp con người? Cơ chế do Hazan đề xuất bao gồm việc để các mô hình AI thay phiên nhau làm “người giải quyết” giải quyết vấn đề hoặc “kiểm toán viên” kiểm tra công việc của những người khác. “Một đặc vụ hành động như cơ quan thực thi pháp luật; người đại diện khác hành động như một công dân,” ông nói. Trong quá trình đào tạo, các mô hình được khen thưởng tùy thuộc vào kết quả: Người giải bị phát hiện gian lận sẽ bị trừng phạt, nhưng những kiểm tra viên không phát hiện được kẻ gian lận cũng bị trừng phạt. Trong trường hợp có sự bất đồng giữa kiểm toán viên và người giải quyết s, vụ việc có thể được đưa ra "xét xử" - có lẽ một chuyên gia về con người sẽ quyết định ai đúng. Hazan thừa nhận có nguy cơ các đặc vụ sẽ thông đồng với nhau - như các kiểm toán viên đã thông đồng với các doanh nghiệp mà họ được giao nhiệm vụ kiểm toán, hoặc các sĩ quan cảnh sát tham nhũng đã thông đồng với bọn tội phạm. Nhưng vấn đề đó có thể được giải quyết bằng cách thưởng xứng đáng cho các kiểm toán viên, do đó, việc bị bắt không đáng để mạo hiểm (trong thế giới đào tạo AI dễ dàng hơn rất nhiều so với thực tế, nơi tiền lương cho cảnh sát rất eo hẹp) và bằng cách kiểm tra các kiểm toán viên bằng cách sử dụng các kỹ thuật tương tự như sử dụng những người mua sắm bí ẩn. Hazan dẫn chứng công trình đoạt giải Nobel của nhà kinh tế học Gary Becker, người đã đưa ra ý tưởng về “người phạm tội có lý trí” vào những năm 1960. Ông nói, tội phạm không vi phạm pháp luật vì họ vốn là người xấu. Thay vào đó, họ làm điều đó khi đó là lựa chọn hợp lý nhất với những ưu đãi được đưa ra. Tội ác chỉ có ý nghĩa khi số tiền thu được lớn hơn hình phạt tiềm năng. Ông lập luận rằng sự liên kết không nên được coi là một thuộc tính của một mô hình mà là một mô tả về hành vi của nó tại một thời điểm cụ thể. “Có vẻ như bạn là một người tốt,” anh ấy nói. "Bạn có phù hợp không? Tôi không biết. Có lẽ bạn luôn phù hợp, nhưng cũng có thể có trường hợp bạn không phù hợp." Một vấn đề tiềm ẩn khi áp dụng thiết kế cơ chế cho AI: Nó dựa trên giả định rằng các tác nhân AI hành xử một cách hợp lý. Việc thiết kế cơ chế có nhiều ý kiến ​​trái chiều với con người, những người thường không hành xử theo cách mà các mô hình kinh tế cho rằng họ nên làm. Thật trớ trêu: Các nhà kinh tế đã mất hàng thập kỷ cố gắng quy hành vi của con người vào toán học, và giờ đây, trong các mô hình ngôn ngữ lớn, chúng tôi đã xây dựng các hệ thống toán học chạy trên ngôn ngữ của con người và có thể cũng khó hiểu như vậy. Các mô hình AI thể hiện các hành vi giống con người hơn là máy móc và chúng có thể bị ảnh hưởng bởi các yếu tố tinh vi khó hiểu và khó giải thích. “Có hợp lý không khi cho rằng họ sẽ đáp lại các ưu đãi?” Helen Qu, một nhà nghiên cứu tại Viện Flatiron hỏi , một tổ chức phi lợi nhuận chuyên thúc đẩy khám phá khoa học thông qua các phương pháp tính toán, người đã viết về thiết kế cơ chế và sự an toàn của AI. “Rõ ràng, AI không có lý trí,” Morris nói. “Chúng chỉ là những thuật toán đang hoạt động.” Tuy nhiên, như các nhà kinh tế học đã nhận thấy ở con người, việc đối xử với con người như thể họ có lý trí vẫn có thể hữu ích nếu nó giúp dự đoán và kiểm soát hành vi của con người. Qu coi thiết kế cơ chế chỉ là một lớp trong chiến lược “phòng thủ theo chiều sâu” nhằm giữ cho các mô hình AI được liên kết — bên cạnh khả năng diễn giải, quy định và đào tạo chứ không phải thay thế chúng. Nhưng có rất nhiều câu hỏi cần được trả lời trước khi phương pháp tiếp cận này có thể được áp dụng trong các mô hình biên giới thực tế. Chẳng hạn, vẫn chưa rõ những lý thuyết này sẽ áp dụng như thế nào cho các mô hình thực tế hay liệu các cơ chế được thiết kế cho một nhiệm vụ có được chuyển sang nhiệm vụ khác trong thực tế hay không. Các mô hình có thể tìm ra những sơ hở mà không ai lường trước được. (Anthropic và OpenAI đã không trả lời yêu cầu bình luận về việc liệu họ có đang nghiên cứu vấn đề này hay không.) Dù các cơ chế này trông như thế nào thì cuối cùng chúng cũng sẽ phải tham gia vào cơ chế lớn nhất: thị trường tự do. Hazan nói: “Chúng tôi chơi theo các quy tắc kinh tế”. Một mô hình phù hợp hơn có thể tốt cho thế giới, nhưng nếu nó chậm hơn hoặc đắt hơn một mô hình ít phù hợp hơn, liệu hệ thống quy tắc và quy định hiện tại của chúng ta có thực sự khuyến khích bất kỳ phòng thí nghiệm biên giới nào phát hành nó không? Ông nói về thị trường: “Đó là một cơ chế mang lại sự thịnh vượng cho nhân loại, nhưng cuối cùng nó có thể phải chịu trách nhiệm cho một điều gì đó rất khủng khiếp”. Có lẽ những thực thể thực sự cần thiết kế cơ chế tốt hơn chính là các phòng thí nghiệm.