webAI phát hành TwIL-8B, Mô hình suy luận 8,8B đạt 98,2 điểm MATH-500
Tóm lược nhanh
Tổng hợp và đối chiếu bởi gemini-2.0-flash-thinking-exp
“webAI đã phát hành TwIL-8B, một mô hình lý luận 8,8B cho toán học, mã và hướng dẫn sau.”
Các điểm cốt lõi
- 1.webAI đã phát hành TwIL-8B, một mô hình lý luận 8,8B cho toán học, mã và hướng dẫn sau.
- 2.Mô hình lý luận TwIL-8B được đào tạo sau từ Granite 4.2 8B của IBM.
- 3.Trọng lượng trên Ôm Mặt theo giấy phép phi thương mại.
webAI đã phát hành TwIL-8B, một mô hình lý luận 8,8B cho toán học, mã và hướng dẫn sau. Mô hình lý luận TwIL-8B được đào tạo sau từ Granite 4.2 8B của IBM. Trọng lượng trên Ôm Mặt theo giấy phép phi thương mại. Bài đăng ra mắt của webAI trình bày về chi phí cho mỗi nhiệm vụ chứ không phải quy mô thô. Bản dựng 4 bit có dung lượng 4,98 GiB, có kích thước dành cho suy luận CPU hoặc GPU VRAM khiêm tốn. TL;DR
Kích thước: thông số 8,79B, dày đặc. Bối cảnh 131.072 mã thông báo, được kế thừa từ mô hình cơ sở. Chạy trên: CPU hoặc GPU VRAM khiêm tốn thông qua 4,98 GiB Q4_K_M GGUF. Trọng lượng bf16 đầy đủ là 16,38 GiB. Hiệu suất: Dẫn đầu lớp quy mô về toán và mã, dẫn đầu về điểm chuẩn kiến thức. Tốt nhất: MATH-500 đạt 98,2, điểm cao nhất trong so sánh của webAI. Kém nhất: GPQA Diamond ở mức 70,2, kém Qwen3.5-9B 11,5 điểm. HLE là 12.6 (biến thể dài dòng).
TwIL-8B là gì? TwIL-8B là mô hình lý luận chỉ dành cho bộ giải mã dày đặc của webAI. Nó có 40 lớp, kích thước ẩn 4096 và 32 đầu chú ý với đầu 8 KV. Đầu vào và đầu ra chỉ là văn bản tiếng Anh. Mô hình viết một khối trước mỗi câu trả lời. Nó có 2 biến thể có cùng kiến trúc và mã thông báo. Cân bằng là mặc định và tạo ra các dấu vết lý luận ngắn hơn. Lý do dài dòng hơn và nhắm vào những vấn đề khó theo phong cách cuộc thi. TwIL-8B mở rộng dòng TwIL của webAI. Các thành viên đầu tiên là mô hình logic hình thức 1.7B và 3B được phát hành vào tháng 8 năm 2026. TwIL-8B được huấn luyện như thế nào? webAI sử dụng 3 giai đoạn sau đào tạo:
SFT tham số đầy đủ trên các dấu vết lý luận cho môn toán, STEM và hướng dẫn sau. Học tập củng cố GRPO/DAPO về toán, mã, STEM và các lời nhắc hướng dẫn. Điều này tạo ra biến thể dài dòng. RL nhận biết độ dài với phần thưởng ưu tiên các dấu vết ngắn hơn so với các tham chiếu độ dài trên mỗi tên miền. Điều này tạo ra biến thể cân bằng.
Các nhóm huấn luyện đã được khử nhiễm bằng cách so sánh 13 gram với AIME, HMMT, MATH-500, GPQA và các eval khác. TwIL-8B hoạt động như thế nào trên điểm chuẩn? Tất cả các điểm TwIL-8B đều được tự báo cáo, đạt nỗ lực cao@1 với khả năng tư duy. Điểm được đánh dấu † chỉ được đo trên biến thể dài dòng.
Môn Toán: TwIL-8B đạt 98,2 điểm MATH-500. Qwen3.5-9B liệt kê 96,6 trên bảng xếp hạng của bên thứ ba. Gemma 4 31B đạt 87,9 điểm trong lần chạy nhẹ của Red Hat. Trên AIME 2025, TwIL-8B đăng 88,3 so với 87,1 cho Gemma 4 31B. Trên AIME 2026, nó đạt điểm 88,3, xếp sau Qwen3,5-9B ở mức 92,5 và Gemma 4 31B ở mức 89,2. Mã: LiveCodeBench† là 81,6, so với 65,6 của Qwen3.5-9B và 80,0 của Gemma 4 31B. webAI lưu ý phiên bản LiveCodeBench của nó không được ghi lại. Điểm số của đối thủ cạnh tranh là v6. Hướng dẫn sau: IFBench† là 74,4, cao hơn Qwen3.5-9B 9,9 điểm ở mức 64,5. IFEval ngang bằng, ở mức 91,8 so với 91,5. Kiến thức: Đây là điểm yếu. GPQA Diamond là 70,2, so với 81,7 của Qwen3,5-9B và 84,3 của Gemma 4 31B. MMLU-Pro† là 76,5 so với 82,5 của Qwen3.5-9B.
Trên 13 điểm chuẩn được chia sẻ, TwIL-8B đạt kết quả 7-6 so với Qwen3.5-9B. Chống lại Gemma 4 31B, kích thước gấp khoảng 3,5 lần, nó đạt 3-11. TwIL-8B có sử dụng ít mã thông báo lý luận hơn không? Có, chống lại đối thủ mở gần nhất của nó. Trên AIME 2026, TwIL-8B đạt trung bình khoảng 19,5 nghìn mã thông báo đầu ra cho mỗi vấn đề. Qwen3.5-9B sử dụng 31,2k, do đó TwIL-8B sử dụng ít hơn 38%. Nó đạt điểm thấp hơn 4,2 điểm. Vào HMMT tháng 2 năm 2026, khoảng cách là 32,9k so với 40,6k, hoặc ít hơn 19%. Các mô hình biên giới vẫn tinh gọn hơn nhiều. webAI trích dẫn khoảng 5 nghìn mã thông báo cho mỗi vấn đề AIME 2026 cho GPT-5.5. webAI tuyên bố rằng việc khai thác và mã thông báo khác nhau, vì vậy hãy coi đây là định hướng. TwIL-8B so với Qwen3.5-9B so với Gemma 4 Số liệuTwIL-8BQwen3.5-9BGemma 4 12BGemma 4 31BThông số8,79B dày đặc9B (mô hình ngôn ngữ)11,95B dày đặc30,7B dày đặcNgữ cảnh131,072262,144 gốc256K256KPhương thức (đầu vào)Văn bản, hình ảnh, videoVăn bản, hình ảnh, âm thanhVăn bản, hình ảnhGiấy phépwebAI Phi thương mại 1.0Apache 2.0Apache 2.0Apache 2.0Bản dựng cục bộ chính thức nhỏ nhất4.98 GiB (Q4_K_M)Không tiết lộKhông tiết lộKhông tiết lộMATH-50098.296.6 (bên thứ 3)Không tiết lộ87.9 (Red Hat)AIME 202688.392.5 (MathArena)77.589.2LiveCodeBench81.6 †65.6 (v6)72.0 (v6)80.0 (v6)GPQA Diamond70.281.778.884.3MMLU-Pro76.5 †82.577.285.2 Số liệu TwIL-8B từ thẻ mô hình. † = biến thể dài dòng. Tất cả các điểm số đều do mỗi nhà cung cấp tự báo cáo trừ khi được đánh dấu.
&
Làm cách nào để bạn chạy TwIL-8B cục bộ? from_pretrain("webAI-Official/TwIL-8B") tải biến thể cân bằng. Truyền thư mục con="verbose" cho thư mục dài dòng. Thẻ mô hình liệt kê các bản dựng GGUF cho llama.cpp:
Q4_K_M, 4,98 GiB, cho cả hai biến thể Q8_0, 8,70 GiB, chỉ dài dòng F16, 16,38 GiB, chỉ dài dòng
Cung cấp cho nó một ngân sách thế hệ lớn. Ví dụ về thẻ đặt max_new_tokens=32768. Ngân sách ngắn hạn sẽ cắt bớt lý luận và đạt điểm kém hơn nhiều. Tất cả các điểm được báo cáo đều sử dụng trọng số bf16, vì vậy dự kiến sẽ có mức giảm nhỏ ở Q4_K_M. Chưa có nhà cung cấp suy luận được lưu trữ nào phục vụ mô hình trên Ôm mặt. Bài học chính
TwIL-8B là mô hình lý luận dày đặc 8,79B được đào tạo sau từ IBM Granite 4.2 8B. Nó đăng 98,2 trên MATH-500 và 81,6† trên LiveCodeBench. Nó sử dụng số token ít hơn 38% so với Qwen3.5-9B trên AIME 2026. Kiến thức yếu: GPQA Diamond kém Qwen3,5-9B 11,5 điểm. Các quả cân được mở nhưng chỉ được cấp phép cho mục đích sử dụng phi thương mại.
Hãy xem thẻ mô hình và trọng lượng trên Hugging Face và thông báo của webAI trên X. Ngoài ra, vui lòng theo dõi chúng tôi trên Twitter và đừng quên tham gia SubReddit 150k+ML của chúng tôi và Đăng ký Bản tin của chúng tôi. Chờ đợi! bạn có đang dùng điện tín không? bây giờ bạn cũng có thể tham gia cùng chúng tôi trên telegram. Bạn cần hợp tác với chúng tôi để quảng bá GitHub Repo HOẶC Trang ôm mặt HOẶC Phát hành sản phẩm HOẶC Hội thảo trên web, v.v.? Kết nối với chúng tôi Bài đăng webAI phát hành TwIL-8B, Mô hình suy luận 8,8B đạt điểm 98,2 trên MATH-500 xuất hiện đầu tiên trên MarkTechPost.
Bản quyền & Xuất xứ thông tin
Bài viết này được tổng hợp và phân tích AI từ ấn phẩm MarkTechPost. Mọi bản quyền nội dung thuộc về tác giả và toà soạn gốc.
