AIINEWS

AIINEWS

Báo cáo chuyên sâu về Trí tuệ nhân tạo và Công nghệ toàn cầu

Stanford công bố hệ thống bộ nhớ tiềm ẩn Memorilla cho mô hình ngôn ngữ lớn

Ban biên tập AIINEWS•git-repos
14 tháng 11, 2026•2 phút đọc
Stanford công bố hệ thống bộ nhớ tiềm ẩn Memorilla cho mô hình ngôn ngữ lớn

Tóm lược nhanh

“Nhóm nghiên cứu tại Đại học Stanford vừa phát hành Memorilla, một hệ thống mã nguồn mở cho...”

Các điểm cốt lõi

  • 1.Hệ thống Memorilla đọc toàn bộ bộ sưu tập tài liệu và cung cấp chính xác 16 token bộ nhớ cho mô hình ngôn ngữ lớn Qwen3-8B ở trạng thái đóng băng.
  • 2.Trên tập dữ liệu kiểm tra FactKG, mô hình tích hợp Memorilla đạt độ chính xác 84,33%, vượt mốc 80,43% khi nạp toàn bộ tài liệu vào ngữ cảnh và tiết kiệm gấp 108 lần số token tài liệu.
  • 3.Mã nguồn, công thức huấn luyện và các điểm kiểm tra mô hình được phát hành công khai theo giấy phép Apache 2.0 trên nền tảng Hugging Face.

Nhóm nghiên cứu tại Đại học Stanford vừa phát hành Memorilla, một hệ thống mã nguồn mở cho phép thu gọn toàn bộ tài liệu thành 16 token bộ nhớ cho các mô hình ngôn ngữ lớn đóng băng. Công nghệ này giúp tăng tốc độ xử lý đáng kể trong khi vẫn duy trì hiệu suất cao trên nhiều tiêu chuẩn đánh giá.

Bối cảnh và chi tiết công nghệ

Hệ thống Memorilla đọc toàn bộ bộ sưu tập tài liệu và cung cấp chính xác 16 token bộ nhớ cho mô hình ngôn ngữ lớn Qwen3-8B ở trạng thái đóng băng.

Trên tập dữ liệu kiểm tra FactKG, mô hình tích hợp Memorilla đạt độ chính xác 84,33%, vượt mốc 80,43% khi nạp toàn bộ tài liệu vào ngữ cảnh và tiết kiệm gấp 108 lần số token tài liệu.

Mã nguồn, công thức huấn luyện và các điểm kiểm tra mô hình được phát hành công khai theo giấy phép Apache 2.0 trên nền tảng Hugging Face.

Đánh giá tác động và góc nhìn chuyên môn

Việc sử dụng các token bộ nhớ tiềm ẩn giúp giải quyết nút cổ chai về ngữ cảnh của mô hình ngôn ngữ lớn mà không cần huấn luyện lại toàn bộ mô hình cơ sở tốn kém.

Mặc dù đạt hiệu suất cao ở các bài toán tổng hợp dài và kiểm tra sự thật, hệ thống vẫn gặp hạn chế ở các tập dữ liệu hỏi đáp y tế ngắn như PubMedQA do lượng thông tin ban đầu đã rất cô đọng.

Xu hướng tiếp theo và điều cần theo dõi

Hiệu năng thực tế của Memorilla khi áp dụng với các dòng mô hình ngôn ngữ lớn khác ngoài hệ sinh thái Qwen chưa được làm rõ trong tài liệu công bố.

Mức độ ảnh hưởng của các biến thể lượng tử hóa đối với độ chính xác của mô phận bộ nhớ 194 triệu tham số này vẫn chưa được tiết lộ.

Bản quyền nội dung và biên tập thuộc về Ban biên tập AIINEWS
Chia sẻ bài phân tích này:
Góc nhìn mở rộng & Đột phá công nghệ

Các phân tích & Tiêu điểm liên quan

Hiển thị 8 bài phân tích tuyển chọn
Google ra mắt thư viện nguồn mở TPU Sync để tăng tốc truyền tải bộ nhớ đệm KV

Google ra mắt thư viện nguồn mở TPU Sync để tăng tốc truyền tải bộ nhớ đệm KV

Google Cloud đã phát hành TPU Sync, một thư viện C++ nguồn mở thiết kế nhằm giảm thiểu nghẽn cổ chai khi di chuyển trạng thái mô hình trên Cloud TPU. Giải pháp này giúp cắt giảm đáng kể độ trễ truyền tải bộ nhớ đệm KV và cải thiện thời gian phản hồi token đầu tiên trong các thử nghiệm nội bộ.

2 phút đọc5,778
Amazon phát hành bộ giả lập mã nguồn mở AWS Emulator do trí tuệ nhân tạo tự động viết hoàn toàn

Amazon phát hành bộ giả lập mã nguồn mở AWS Emulator do trí tuệ nhân tạo tự động viết hoàn toàn

Amazon Web Services giới thiệu công cụ giả lập mã nguồn mở AWS Emulator cho phép lập trình viên kiểm thử cục bộ ngoại tuyến. Toàn bộ phần mềm này do các tác nhân trí tuệ nhân tạo tự động thiết kế và lập trình hoàn toàn không có sự can thiệp từ kỹ sư con người.

2 phút đọc5,894
Elon Musk đã chi gần 500 triệu USD cho cuộc bầu cử giữa kỳ và thua lỗ lớn

Elon Musk đã chi gần 500 triệu USD cho cuộc bầu cử giữa kỳ và thua lỗ lớn

# Elon Musk chi gần 500 triệu USD cho cuộc bầu cử giữa kỳ và thua lớn Đây là Cybertruck của cuộc bầu cử. Cuộc bầu cử giữa kỳ (hầu hết) đã ở phía sau chúng ta. Chúng tôi vẫn đang chờ kết quả từ nhiều cuộc đua, bao gồm cả cuộc đua vào thượng viện ở Mississippi và Alaska.

4 phút đọc8,845
Bảy nhà sáng lập Anthropic dự kiến thu về 250 triệu USD mỗi người trong đợt phát hành cổ phiếu công khai
Kinh doanh6 ngày trước

Bảy nhà sáng lập Anthropic dự kiến thu về 250 triệu USD mỗi người trong đợt phát hành cổ phiếu công khai

Hồ sơ S-1 mới đây tiết lộ bảy nhà sáng lập Anthropic chuẩn bị bán hơn 3,3 triệu cổ phiếu mỗi người trong đợt phát hành cổ phiếu lần đầu ra công chúng. Thương vụ này có thể mang về cho mỗi lãnh đạo khoảng 250 triệu USD dựa trên mức giá trung bình.

2 phút đọc8,508
Meta vận hành hệ thống kiểm thử trí tuệ nhân tạo nhằm ngăn chặn mã nguồn rủi ro
Phần mềmkhoảng 2 giờ trước

Meta vận hành hệ thống kiểm thử trí tuệ nhân tạo nhằm ngăn chặn mã nguồn rủi ro

Meta đưa vào vận hành thực tế hệ thống kiểm thử tự động sử dụng mô hình ngôn ngữ lớn nhằm phát hiện lỗi trước khi mã nguồn được hợp nhất. Công nghệ này tập trung tạo ra các bài kiểm thử có chủ đích thất bại khi phát hiện thay đổi mã nguồn bất thường.

2 phút đọc935