Các công ty AI trên toàn thế giới đang chạy đua để tạo ra những mô hình lớn hơn và tốt hơn, nhưng vấn đề là tất cả chúng đều cần sức mạnh xử lý khổng lồ. Mặt khác, một số nhà nghiên cứu và công ty khởi nghiệp đang tạo ra các mô hình nhỏ hơn có thể chạy trên các thiết bị biên, như điện thoại hoặc máy tính của bạn.

Một công ty khởi nghiệp như vậy, Underdog, đã phát hành một trò chơi được xây dựng bằng mẫu giọng nói mới có tên Woof chỉ có dung lượng 32MB.

Trò chơi có một căn phòng với chủ đề công nghệ cổ điển, máy đánh chữ và màn hình CRT. Có một chiếc đèn bàn phát ra âm thanh khi bạn bấm vào công tắc. Phần giới thiệu cảnh báo người dùng về các nhà cung cấp đám mây “xâm nhập” trong thị trấn - bề ngoài có vẻ là một đòn tấn công vào các mô hình dựa trên đám mây.

Bạn có thể tương tác với máy đánh chữ và bộ chỉnh nhạc.

Bạn có thể gõ bất cứ thứ gì trên máy đánh chữ bằng bàn phím và trò chơi sẽ nói lại điều đó. Bạn cũng có thể xoay bộ chỉnh để tạo ra các loại nhạc khác nhau.

Tất cả điều này hoạt động trong trình duyệt thông qua mô hình tạo giọng nói của Underdog, công ty cho biết mô hình này có thể chạy trên hầu hết các thiết bị mà không cần bất kỳ kết nối internet nào. Mô hình có 31 triệu thông số và được mở cho mọi người tải xuống.

Mặc dù một mô hình nhỏ như vậy có thể sẽ không thay thế các mô hình lớn hơn nhưng nó vẫn có thể đủ để thúc đẩy trải nghiệm trợ lý địa phương hoặc tạo podcast được cá nhân hóa.

Bản demo này xuất hiện vài tuần sau khi Underdog ra mắt Bark, một mô hình chuyển giọng nói thành văn bản 167 MB cũng được thiết kế để chạy trên các thiết bị biên để phiên âm và đọc chính tả.

Sigil Wen, người sáng lập Underdog, nói với TechCrunch rằng anh bắt đầu xây dựng ứng dụng này vì thay vì sử dụng máy ghi chú như Granola, anh muốn xây dựng hệ thống của riêng mình với các mô hình AI có thể chạy trên thiết bị của người dùng và cho phép họ sở hữu dữ liệu của mình.

"Tôi nghĩ rằng chúng tôi sẽ có thể chạy những mẫu có khả năng nhất hiện nay trên các thiết bị bạn đã sở hữu trong vòng vài tháng. Chúng tôi chỉ muốn đào tạo những mẫu mở tốt nhất do Mỹ sản xuất, mẫu mở, có khả năng và cho phép mọi người có AI riêng tư", ông nói, đề cập đến tuyên ngôn của mình.

Ngoài hai mẫu giọng nói được đề cập ở trên, Underdog cũng đã phát hành một mẫu có 27 tỷ thông số có thể chạy trên máy tính xách tay, cùng với một ứng dụng trong danh sách chờ mà công ty đang định vị là một giải pháp thay thế được lưu trữ cục bộ cho Muse và Bản năng.