Clément Delangue, Giám đốc điều hành của Hugging Face cho biết hôm thứ Tư tại Hội chợ Thế giới WIRED ở Miami, những rủi ro về AI trong tương lai rất có thể đến từ việc các công ty lớn xây dựng bí mật trong khi các mô hình mở chơi trò phòng thủ.

Delangue nói: “Hầu hết rủi ro thực sự được tạo ra bởi một số người chơi xây dựng đằng sau những cánh cửa đóng kín”. “Hầu hết việc giảm thiểu rủi ro này sẽ là hệ sinh thái đầy đủ, nghĩa là mọi người đều có thể xây dựng một cách cởi mở.”

HuggingFace là một trong những công ty đầu tiên bị tấn công bởi AI lừa đảo. Tháng 7 này, các đặc vụ đang được OpenAI thử nghiệm đã thoát khỏi hộp cát của họ và chọn tấn công công ty khởi nghiệp để tìm kiếm câu trả lời cho các vấn đề mà họ đã đặt ra để giải quyết. Công ty đã sử dụng một mẫu xe có trọng lượng mở của Trung Quốc có tên GLM-5.2 để điều tra và chống lại cuộc tấn công dữ dội.

Delangue lưu ý rằng hành vi sai trái của đặc vụ cho đến nay hầu hết đến từ các công ty lớn đang bí mật thử nghiệm AI biên giới. Ông nói rằng những rủi ro trong tương lai, có lẽ liên quan đến khả năng sinh học của các mô hình hoặc khả năng tự cải thiện theo cách đệ quy, cũng có khả năng xuất hiện từ các phòng thí nghiệm khép kín này.

Delangue lưu ý rằng Ôm Mặt đã chọn không theo đuổi các biện pháp pháp lý chống lại OpenAI về vụ tấn công, nhưng nói thêm rằng những người triển khai các tác nhân AI phải chịu trách nhiệm pháp lý về hành động của mình. Ông phát biểu tại sự kiện: “Các cuộc tấn công mạng là bất hợp pháp và tôi nghĩ điều thực sự quan trọng là chúng ta phải đảm bảo rằng các cuộc tấn công mạng có tác nhân [là] bất hợp pháp”. “Chúng tôi không muốn tạo ra một môi trường không có quyền sở hữu, không có trách nhiệm đối với các cuộc tấn công mạng”.

Ngược lại với một số nhà nghiên cứu AI đã cảnh báo rằng công nghệ này có thể gây ra rủi ro hiện hữu cho nhân loại, Delangue cho biết P(doom) của ông — xác suất xảy ra điều này — là “gần bằng 0”. Ông nói: “Có rất nhiều chủ đề khác có thể hủy diệt thế giới.

Ôm mặt là một nền tảng nổi bật dành cho các mô hình AI có dung lượng mở hoặc có thể tải xuống. Người dùng của nó có thể chia sẻ và truy cập các mô hình do công ty lưu trữ hoặc tải chúng xuống hệ thống máy tính của riêng họ.

Nvidia, nhà sản xuất chip AI thống trị thế giới, đã thông báo rằng họ sẽ mua lại nền tảng này với giá 12,93 tỷ USD vào tháng 9 này. Khi việc mua lại được công bố, Hugging Face cho biết họ có khoảng 18 triệu người dùng.

Delangue cũng tiết lộ tại Hội chợ thế giới WIRED rằng Hugging Face hiện có hơn 20 triệu nhà xây dựng AI, cho thấy sự tăng trưởng nhanh chóng. Delangue cũng tiết lộ rằng HuggingFace đã bán được 50.000 Microducks, một robot hai chân dễ thương của HuggingFace có thể được lập trình bằng AI.

Delangue phát biểu tại hội nghị rằng sự thành công của AI nguồn mở cũng sẽ rất quan trọng trong việc ngăn chặn một số công ty và cá nhân thống trị hoàn toàn trong tương lai.

“Rõ ràng chúng ta có thể sẽ rơi vào một thế giới nơi chỉ có một số công ty kiểm soát phần lớn AI.” Delangue nói. “Có những xu hướng tự nhiên rất mạnh mẽ bởi vì [một số công ty] thực sự độc quyền về tài năng, tính toán và khả năng.”

Delangue nói rằng việc cho phép nhiều người tải xuống và tùy chỉnh AI sẽ dẫn đến một tương lai công nghệ dân chủ hơn. Giám đốc điều hành Hugging Face cho biết việc mua lại Nvidia sẽ cho phép công ty cạnh tranh vì AI đòi hỏi nhiều nguồn lực hơn bao giờ hết.

Bình luận

Quay lại đầu trang