Công ty cơ sở hạ tầng AI Runware lại gây chú ý chỉ vài tháng sau khi ra mắt Sonic Inference Pod, một trung tâm dữ liệu mô-đun được xây dựng trong nhà máy và sẵn sàng giao cho khách hàng lắp đặt. Bây giờ công ty có kế hoạch lớn hơn. Họ nói với TechCrunch rằng họ muốn xây dựng một nhà máy lắp ráp những chiếc vỏ này trên dây chuyền sản xuất, giống như chúng là những chiếc ô tô.

Ý tưởng này không hoàn toàn mới. Các công ty như Crusoe và Schneider Electric cũng bán các nhóm làm sẵn, nhưng Runware cho biết họ có thể vận chuyển các nhóm của mình nhanh hơn.

Flaviu Fadulescu, đồng sáng lập và Giám đốc điều hành của Runware, nói với TechCrunch rằng công ty có kế hoạch mở rộng quy mô sản xuất tại nhà máy có trụ sở tại Romania lên công suất trung tâm dữ liệu 30 megawatt mỗi ngày vào năm 2028, tương đương gần 1 gigawatt mỗi tháng. Đó là một công suất rất lớn: với tốc độ đó, Runware sẽ sản xuất trong một năm gần bằng lượng điện mà toàn bộ nước Mỹ dự kiến ​​sẽ bổ sung cho trung tâm dữ liệu trong năm nay, khoảng 10 gigawatt. Nhưng nó cũng phản ánh nỗ lực toàn ngành nhằm triển khai các trung tâm dữ liệu nhanh hơn, hiệu quả hơn.

Ví dụ, Nvidia đã công bố các nhà máy Vera Rubin AI và DSX POD vào đầu năm nay. Cả hai đều nhằm mục đích giúp các công ty xây dựng trung tâm dữ liệu AI của riêng họ nhanh hơn và dễ dàng hơn. Tuy nhiên, điểm khác biệt với Runware là họ cho biết họ thực sự đã xây dựng một nhà máy thay vì chỉ thiết kế cơ sở hạ tầng để cho phép người khác xây dựng một nhà máy.

Fadulescu cho biết Runware sẽ tăng dần sản lượng bắt đầu từ năm tới và họ đã có hai nhà máy - một nhà máy đã được sử dụng trong vài năm để chế tạo vỏ và nhà máy thứ hai bắt đầu xây dựng vào đầu năm nay. Dự án thứ hai dự kiến ​​sẽ hoàn thành trong vòng vài tháng và đi vào hoạt động vào đầu năm tới.

Runware sẽ sản xuất các trung tâm dữ liệu mô-đun trên dây chuyền lắp ráp. Khách hàng có thể cung cấp trang web riêng của họ để lắp ráp chúng hoặc Runware có thể tìm một trang web cho họ. Fadulescu cho biết Runware đặt mục tiêu đưa các nhóm này trực tuyến trong vòng 48 giờ. Thời gian đó bao gồm thời gian cài đặt và thiết lập, không phải thời gian xây dựng. Công ty cho biết một nhóm từng mất ba tuần để xây dựng nhưng sẽ sớm mất một ngày khi tăng cường sản xuất. Đường băng sẽ cung cấp phụ tùng thay thế nếu linh kiện bị hỏng. Khách hàng cũng có thể thuê máy tính từ Runware hoặc cung cấp GPU của riêng họ và trả phí hàng tháng cho các nhóm và hoạt động. Ông cho biết, điện và internet được tính phí riêng.

Ông cho biết, các khoang này cũng có thể được tùy chỉnh theo sở thích của khách hàng. Các nhóm này có thiết kế tiêu chuẩn nhưng có thể được cấu hình để đáp ứng yêu cầu của khách hàng và chip GPU mới nhất. Chip có thể mất nhiều thời gian để đến nơi sau khi chúng được đặt hàng, điều này có lợi cho Runware. Ông nói: “Thời gian phân phối nhóm của chúng tôi cũng ngắn hơn so với thời gian thực hiện GPU hiện tại, giúp chúng tôi có thời gian để điều chỉnh cơ sở hạ tầng cho phù hợp với phần cứng được đặt hàng”. “Đối với các thế hệ GPU mới, nhóm phần cứng nội bộ của chúng tôi có thể tự thiết kế, xây dựng và thử nghiệm các thành phần, cho phép chúng tôi thích ứng nhanh chóng.”

Hiện tại, tất cả đều là kế hoạch - việc thực hiện là thử nghiệm. Nhà máy sẽ cần rất nhiều người, hàng tồn kho, hậu cần chuỗi cung ứng và tiền bạc. Có những câu chuyện cảnh báo về việc tái phát minh sản xuất, đặc biệt là công ty khởi nghiệp xe điện Arrival, từng được định giá hơn 13 tỷ USD, đang gặp khó khăn trong việc sản xuất hàng loạt xe điện với chi phí hiệu quả hơn so với các nhà máy truyền thống. Runware, cho đến nay đã huy động được hơn 60 triệu USD, cho biết họ có kế hoạch huy động vốn Series B, nhưng hiện tại họ đang hoàn thiện và khởi động nhà máy với Series A trị giá 50 triệu USD mà họ đã huy động được vào tháng 12 năm ngoái.

“Cơ cấu chi phí của chúng tôi rất khác nhau,” Fadulescu nói, giải thích cách Runware tìm cách tránh số phận của Arrival. Ông tiếp tục: “Chúng tôi có số lượng nhân viên và chi phí nguyên vật liệu. “Tuy nhiên, nhân viên nhà máy của chúng tôi có hiệu quả về mặt chi phí so với giá trị của việc triển khai điện toán cho AI.” Ông cũng cho biết việc thiết kế hệ thống của riêng mình và mua các bộ phận có sẵn rộng rãi, giá cả phải chăng sẽ giúp giảm chi phí. “Chúng tôi đã mời một giám đốc nhà máy giàu kinh nghiệm trong ngành ô tô để làm việc cùng với giám đốc phần cứng của chúng tôi và giúp chúng tôi thực hiện đúng quy trình đó.”

Tìm nguồn cung ứng linh kiện cũng có thể là một thách thức. Mặc dù Runware cho biết họ thiết kế và xây dựng hệ thống làm mát và hệ thống nhóm khác của riêng mình với các thành phần tiêu chuẩn, một số bộ phận, chẳng hạn như máy bơm và quạt, đến từ Đức và nó vẫn phụ thuộc vào Nvidia về kết nối mạng. Tuy nhiên, Runware tuyên bố họ đã nhận được 1 tỷ USD tiền lãi cam kết cho các nhóm Sonic của mình kể từ khi bắt đầu cung cấp chúng cho khách hàng bên ngoài một tháng trước, “đại diện cho hơn 20 megawatt mà chúng tôi hiện đang nỗ lực cung cấp,” Fadulescu cho biết.

Các trung tâm dữ liệu ở Hoa Kỳ và nước ngoài đang bị chỉ trích vì lượng năng lượng tiêu thụ cũng như mức độ ảnh hưởng của điều đó đến lưới điện và các tài nguyên khác. Khi bị ép, Fadulescu cho biết nhóm của công ty anh chỉ cần nguồn điện và kết nối internet. Họ sẽ sử dụng hệ thống làm mát bằng chất lỏng vòng kín với bộ tản nhiệt làm mát bằng không khí để giải phóng nhiệt, vì vậy họ không thực sự cần kết nối nước. Ông cho biết: “Chúng tôi đang làm việc với các nhà cung cấp điện để xây dựng đường ống công suất bao gồm 397 megawatt, có khả năng mở rộng lên 1,2 gigawatt”, đồng thời đề cập đến danh sách các địa điểm đã được lên kế hoạch và nói thêm rằng công ty đang triển khai các trung tâm dữ liệu mô-đun của mình trên các địa điểm nhỏ hơn nhiều so với những trung tâm được sử dụng bởi các công ty siêu quy mô như Amazon, Microsoft và Google.

Ông tiếp tục, các địa điểm này thường đã có điện, vì vậy chúng không nên làm căng lưới thêm hoặc làm gián đoạn cộng đồng. Ông tiếp tục: Các khoang này cũng chạy “hoàn toàn im lặng ở nhiệt độ 86 độ F. Chúng tôi sử dụng năng lượng từ các nguồn tái tạo bất cứ khi nào có thể”. "Chúng tôi đang tích cực làm việc để mở rộng mạng lưới các nhà cung cấp năng lượng và địa điểm. Chúng tôi hướng tới mục tiêu lấy năng lượng tái tạo làm nguồn năng lượng chính của mình."

Tiếp theo, Runware sẽ đưa nhà máy mới của mình vào hoạt động vào đầu năm tới, sau đó mở rộng sang Mỹ và các khu vực khác trên toàn thế giới. Fadulescu cho biết các hệ thống mô-đun là tương lai và sẽ sớm trở thành “tiêu chuẩn để triển khai AI quy mô lớn”.

Ông nói thêm: “Khách hàng sẽ có thể lập kế hoạch cho một trung tâm dữ liệu siêu quy mô xung quanh các nhóm do nhà máy xây dựng ngay từ đầu và để nó hoạt động trong vài tháng thay vì nhiều năm”.