AIINEWS

AIINEWS

Báo cáo chuyên sâu về Trí tuệ nhân tạo và Công nghệ toàn cầu

Tìm Kiếm Bản Tin

Tra cứu nhanh trong toàn bộ cơ sở dữ liệu các bản tin và phân tích công nghệ

Kết quả cho “latency”17 bản tin
AWS đề xuất chiến lược tối ưu chi phí generative AI bằng mã nguồn và quy tắc

AWS đề xuất chiến lược tối ưu chi phí generative AI bằng mã nguồn và quy tắc

Các nhóm phát triển có thể giảm đáng kể chi phí và độ trễ của hệ thống trí tuệ nhân tạo bằng cách sử dụng mã định mức thay vì gọi mô hình ngôn ngữ lớn cho mọi tác vụ. Phương pháp này phân tách các bước thành quy tắc xác định, quyết định có giới hạn và mô hình chuyên biệt trên Amazon Bedrock.

2 phút đọc6,036
Cách Amazon Bedrock cắt giảm chi phí token và độ trễ cho tác nhân AI xử lý JSON

Cách Amazon Bedrock cắt giảm chi phí token và độ trễ cho tác nhân AI xử lý JSON

Đội ngũ phát triển tại AWS áp dụng ba chiến lược kết hợp để giảm 71% lượng token và hạ 80% độ trễ cho một tác nhân AI quản lý lịch trình bay trên nền tảng Amazon Bedrock AgentCore. Giải pháp này giúp hệ thống xử lý các tệp dữ liệu JSON lớn mà không làm phình to ngữ cảnh của mô hình ngôn ngữ lớn.

2 phút đọc4,013
Hark tung ra phiên bản Handoff 2 hoạt động nhanh gấp đôi cho ứng dụng Pro
Công cụ & Workflow AI3 ngày trước

Hark tung ra phiên bản Handoff 2 hoạt động nhanh gấp đôi cho ứng dụng Pro

Hark vừa phát hành phiên bản thứ hai của công cụ tự động hóa máy tính trong ứng dụng Hark Pro với tốc độ xử lý tác vụ web trung bình nhanh gấp đôi. Đợt cập nhật này tập trung vào việc tinh chỉnh phương pháp huấn luyện củng cố để giảm thiểu độ trễ và số vòng lặp thao tác.

2 phút đọc5,934
Amazon Bedrock hỗ trợ lưu trữ bộ nhớ đệm cho các mô hình mã nguồn mở

Amazon Bedrock hỗ trợ lưu trữ bộ nhớ đệm cho các mô hình mã nguồn mở

Amazon Bedrock hiện cho phép các mô hình AI mã nguồn mở tái sử dụng dữ liệu ngữ cảnh thông qua tính năng lưu trữ bộ nhớ đệm. Công nghệ này giúp giảm chi phí đầu vào và độ trễ phản hồi bằng cách tránh xử lý lại các nội dung tĩnh như tài liệu tham khảo hoặc định nghĩa công cụ.

2 phút đọc6,076
Edelbyte huy động 70 triệu USD cho nền tảng phân tích dữ liệu tích hợp trí tuệ nhân tạo

Edelbyte huy động 70 triệu USD cho nền tảng phân tích dữ liệu tích hợp trí tuệ nhân tạo

Công ty khởi nghiệp Edelbyte chính thức ra mắt cùng khoản vốn 70 triệu USD nhằm phát triển nền tảng phân tích dữ liệu đa năng tối ưu cho các tác nhân trí tuệ nhân tạo. Nền tảng này cho phép quản lý hàng trăm petabyte thông tin và hỗ trợ tìm kiếm với độ trễ thấp.

2 phút đọc6,419
Google ra mắt thư viện nguồn mở TPU Sync để tăng tốc truyền tải bộ nhớ đệm KV

Google ra mắt thư viện nguồn mở TPU Sync để tăng tốc truyền tải bộ nhớ đệm KV

Google Cloud đã phát hành TPU Sync, một thư viện C++ nguồn mở thiết kế nhằm giảm thiểu nghẽn cổ chai khi di chuyển trạng thái mô hình trên Cloud TPU. Giải pháp này giúp cắt giảm đáng kể độ trễ truyền tải bộ nhớ đệm KV và cải thiện thời gian phản hồi token đầu tiên trong các thử nghiệm nội bộ.

2 phút đọc6,238
Dapr 1_19 tối ưu hóa quy trình tác vụ trí tuệ nhân tạo và tinh gọn tầng điều khiển
Phần mềm11 ngày trước

Dapr 1_19 tối ưu hóa quy trình tác vụ trí tuệ nhân tạo và tinh gọn tầng điều khiển

Công ty khởi nghiệp cơ sở hạ tầng tác vụ Diagrid phát hành Dapr 1.19 với các cải tiến nhằm cắt giảm tải mạng trong quy trình làm việc kéo dài và loại bỏ dịch vụ định vị độc lập. Phiên bản mới cũng bổ sung các khối xây dựng alpha cho ứng dụng trí tuệ nhân tạo và cải thiện hiệu suất xử lý bước.

2 phút đọc4,455
Trải nghiệm Razer Barracuda V2 Pro: Tai nghe gaming không dây độ trễ thấp, có ANC, “cân” cả công việc lẫn giải trí
Công nghệ toàn cảnh16 ngày trước

Trải nghiệm Razer Barracuda V2 Pro: Tai nghe gaming không dây độ trễ thấp, có ANC, “cân” cả công việc lẫn giải trí

**Kết nối không dây độ trễ thấp để chơi game, ANC khi cần tập trung và Bluetooth để không bỏ lỡ cuộc gọi: Barracuda V2 Pro hướng đến người thường xuyên chuyển giữa PC, PS5 và điện thoại.** - Thử mang Razer Prio trong chuyến công tác và giờ tôi lại muốn cầm nó theo mỗi ngày - Razer Basilisk V4 Pro chính thức ra mắt với 14 thao tác tùy biến, cảm biến 50K và polling rate 8.000Hz, pin 200 giờ - Trên tay Razer Reclusa X Mini 65%: Bàn phím cơ rẻ nhất lịch sử Razer, hỗ trợ hot-swap và nhiều tính năng gaming “xịn sò” Người ta thường nói, cân bằng giữa công việc và giải trí chưa bao giờ dễ. Có lẽ điều đó cũng chẳng sớm thay đổi. Nhưng ít nhất, chuyện chọn tai nghe cho cả hai có thể đơn giản hơn.

11 phút đọc5,638
Xây dựng ứng dụng AI giọng nói có độ trễ cực thấp trên AWS
Trí tuệ nhân tạo16 ngày trước

Xây dựng ứng dụng AI giọng nói có độ trễ cực thấp trên AWS

AI đàm thoại đang thay đổi cách con người tương tác với công nghệ. Từ trợ lý ảo và trung tâm liên hệ được hỗ trợ bởi AI cho đến các công cụ trợ năng và dịch thuật theo thời gian thực, giao diện ưu tiên bằng giọng nói đang nhanh chóng trở thành chế độ tương tác mặc định cho hàng triệu người dùng trên toàn thế giới. Tuy nhiên, việc mang lại trải nghiệm giọng nói thực sự tự nhiên vẫn là một trong những thách thức khó khăn nhất trong cơ sở hạ tầng AI.

20 phút đọc5,495
Xbox Nano có một bí mật đám mây ẩn

Xbox Nano có một bí mật đám mây ẩn

Microsoft sắp ra mắt bộ điều khiển Xbox Nano mới vào ngày mai và thiết bị nhỏ bé này có một bí mật nhỏ. Nano có thể kết nối trực tiếp với Xbox Cloud Gaming qua Wi-Fi để cải thiện độ trễ. Đó là một tính năng mà Microsoft chưa công bố chính thức, nhưng là một tính năng mà tôi đã mong đợi kể từ khi Xbox Nano bị rò rỉ vào đầu năm nay.

3 phút đọc7,971
Việt Nam có hạ tầng điện toán đám mây liên vùng chuẩn quốc tế đầu tiên
Công nghệ toàn cảnh28 ngày trước

Việt Nam có hạ tầng điện toán đám mây liên vùng chuẩn quốc tế đầu tiên

VNG Cloud, đơn vị cung cấp giải pháp hạ tầng đám mây thuộc VNG Digital Business, vừa chính thức ra mắt hạ tầng điện toán đám mây liên vùng (multi-region) đầu tiên của Việt Nam tại Hà Nội và TP.HCM. Với tốc độ băng thông riêng lên đến 50Gbps, hạ tầng này cho phép sao lưu và đối chiếu dữ liệu một cách nhanh chóng, giảm thiểu tối đa độ trễ dữ liệu giữa hai vùng Bắc - Nam, giúp trải nghiệm người dùng cuối được liền mạch, thông suốt. Hạ tầng đám mây liên vùng còn giúp tối ưu chi phí, đảm bảo tính liên thông, sẵn sàng dữ liệu cho hệ thống và nâng cao mức độ an toàn dữ liệu trên phạm vi toàn quốc.

2 phút đọc4,502