AI Research · Bản tin nghiên cứu ngày 13/11/2026

Bài báo chỉ ra rằng continual pre-training bằng next-token prediction (NTP) coi mọi token trong corpus là mục tiêu cố định, bất kể nó có ích cho mô hình hay không. Trong thí nghiệm có kiểm soát trên cùng 1 tỷ token toán học, NTP cải thiện Llama-3.2-3B nhưng lại làm Qwen3-1.7B-Base kém đi. Nhóm tác giả đề xuất OPMD: lấy mẫu quỹ đạo từ chính mô hình học sinh tại các vị trí neo và dùng phần thưởng reverse-KL dày ở mức token từ một mô hình thầy cố định. Nhờ học trên các trạng thái mô hình thực sự đi qua, OPMD giảm độ lệch giữa huấn luyện và sinh. Trên MATH-500 và Minerva, OPMD giúp mô hình Qwen vượt mức gốc trong khi NTP làm giảm điểm, và không thêm chi phí lúc suy luận.

Vì sao quan trọngCho thấy continual pre-training thuần có thể gây hại và mở hướng mid-training có thầy hướng dẫn.

arXiv ↗PDF ↓

Các hệ thống serving tách prefill–decode (PD) hiện nay thích ứng kém với tải agent, gây lệch tải giữa nút prefill và decode và xóa mất KV cache mà agent sẽ dùng lại. Evolving Infra tách việc cấp phát tính toán khỏi quản lý KV cache để một nút có thể chuyển vai giữa prefill và decode. Một bộ lập kế hoạch trực tuyến điều chỉnh tỷ lệ PD theo tải, còn bộ quản lý KV phân tán dùng tín hiệu từ cách agent quản lý ngữ cảnh để quyết định xóa và truyền cache. Hệ thống được thử với GLM-5.2 và Kimi K2.6 trên tác vụ lập trình, toán và computer-use, ở quy mô tới 256 GPU GB300. So với NVIDIA Dynamo, độ trễ trung bình đầu-cuối giảm tới 4,1 lần và P95 TTFT giảm tới 14 lần.

Vì sao quan trọngServing được thiết kế riêng cho agent đang trở thành một mảng hệ thống độc lập.

arXiv ↗PDF ↓

Nghiên cứu hệ nhiều người dùng – nhiều agent, trong đó mỗi người có agent riêng và các agent dùng chung một tài nguyên (ngân sách API, lịch phòng khám, đặt đồ ăn hoặc du lịch nhóm, hàng đợi merge). So với một agent điều phối chung, đội agent ngang hàng kém hơn khoảng 10–45 điểm phần trăm ở cả bốn môi trường với Claude Opus 5 và Sonnet 5. Trong môi trường API key, đội ngang hàng chỉ đạt 30% (Opus 5) và 12% (Sonnet 5) mức tối ưu, so với 64% và 32% của bộ điều phối; khi đội tăng từ 4 lên 16 agent, tỷ lệ agent Sonnet 5 từng hành động giảm từ 66% xuống 10%. Agent GPT và Qwen tự hủy việc của người khác mà không hỏi 3,9–7,1 lần mỗi episode, còn Opus 5 không lần nào. Các biện pháp đơn giản như chỉ định trưởng nhóm qua prompt hoặc chặn thanh toán cho đến khi agent đọc hết tin nhắn khôi phục được 62–73% số lỗi; nhóm phát hành MAMUBench với ba môi trường.

Vì sao quan trọngKhi ai cũng có agent riêng, phối hợp giữa các agent trở thành bài toán an toàn và hiệu năng cần đo đạc riêng.

Anthropic Alignment blog ↗arXiv ↗PDF ↓Code (MAMUBench) ↗

Lượng tử hóa bit thấp giảm chi phí chạy agent nhưng thường làm giảm tỷ lệ hoàn thành tác vụ. Nhóm tác giả thấy agent lượng tử hóa hay bỏ sót yêu cầu tác vụ hoặc điều kiện môi trường, khiến hành vi lệch khỏi các lần chạy thành công của mô hình full-precision. SteerDistill dùng mô hình thầy full-precision hướng dẫn học sinh lượng tử sửa các phản hồi sai, tinh chỉnh hướng dẫn dựa trên phản hồi thực thi, rồi chưng cất các sửa đổi đó vào học sinh để chạy độc lập. Trên năm benchmark agent và ba mô hình, phương pháp vượt baseline lượng tử tốt nhất 1,67–2,18 điểm trung bình ở W4A16 và cách BF16 chưa đến 1 điểm. Trên τ²-Bench, nó hơn QeRL 1,84 điểm phần trăm tỷ lệ thành công với ít hơn 67% GPU-giờ huấn luyện.

Vì sao quan trọngGiúp agent lượng tử hóa giá rẻ gần bằng mô hình đầy đủ trên tác vụ nhiều bước.

arXiv ↗PDF ↓

GTAGym là môi trường đánh giá và huấn luyện RL cho agent trên các nhiệm vụ của GTA V. Benchmark GTAVBench gồm 103 tác vụ trực tuyến thuộc 9 nhóm, dựng lại từ nhiệm vụ cốt truyện chính, cùng 47 tác vụ bắn súng dựa trên ảnh; agent nhận ảnh chụp màn hình, điều khiển bằng bàn phím và chuột, và kết quả được kiểm tra tự động từ trạng thái game engine. Khi thử sáu LLM frontier, cấu hình tốt nhất đạt 70,9% trên GTAVBench-AGI (chỉ dẫn chỉ nằm trong ảnh đầu tiên), nhưng các tác vụ bay, né tránh và đánh chặn vẫn rất khó. Hệ thống còn sinh hàng loạt môi trường 3D có phần thưởng tự động. RL với LoRA trên Qwen3.8-27B nâng hiệu năng trên tác vụ GTA V gốc từ 15% lên 23%.

Vì sao quan trọngGame AAA trở thành nơi vừa đánh giá vừa huấn luyện agent điều khiển bằng hình ảnh trong thời gian dài.

arXiv ↗PDF ↓

Bài báo cho rằng phân tích lỗi agent hiện nay chỉ ghi triệu chứng (nhãn lỗi, agent bị quy trách nhiệm) mà không ghi lỗi bắt nguồn ở đâu, lan truyền thế nào và biện pháp kiểm soát nào có thể chặn được. Nhóm tác giả định nghĩa "episode record" liên kết lỗi với nguồn gốc, lan truyền, phát hiện, phản ứng và hậu quả, rồi áp dụng cho 95 lần chạy thất bại từ sáu hệ đa agent trong bộ Who&When và MAD. Lỗi xuất hiện sớm, ở trung vị 18% quãng đường của lần chạy; trong 72% lần thất bại, quỹ đạo đã có bằng chứng phản bác lỗi nhưng ở 88% trong số đó không agent nào hành động. Khôi phục trạng thái của chính agent là đủ để cứu 35 trên 95 lần chạy, và 45% lỗi trong phần Who&When viết tay thực ra là do bộ lọc nội dung của nhà cung cấp làm sập, sau đó harness tự đưa ra câu trả lời. Giao thức, dữ liệu và script được đính kèm trên arXiv.

Vì sao quan trọngChuyển trọng tâm độ tin cậy của agent từ gắn nhãn lỗi sang tìm điểm can thiệp.

arXiv ↗PDF ↓

Gemini Decision 1 (model ID gemini-decision-1) là mô hình đứng sau Decisions API mới: thay vì sinh văn bản từng token, nó chấm điểm một tập phương án trong một lần forward và trả về xác suất kèm độ tin cậy 0–1. Mô hình nhận văn bản, ảnh, âm thanh, video và PDF tới 256K token, xử lý tới 1.000 câu hỏi yes/no, trắc nghiệm (2–255 lựa chọn) hoặc chấm rubric trong một request. Google báo độ trễ đầu-cuối 150–250 ms với ngữ cảnh tới 16K token, gần như không đổi từ 1 đến 100 câu hỏi. Giá 0,10 USD mỗi triệu token đầu vào và đầu ra miễn phí; Google cho biết mô hình rẻ hơn gần 5 lần so với Gemini 3.5 Flash-Lite trên bộ benchmark chung và có sai số hiệu chỉnh thấp nhất (số liệu tự công bố). Mô hình dùng được qua Gemini API và AI Studio, đang tích hợp với OpenRouter, LangChain, LiteLLM, Pipecat và LiveKit.

Vì sao quan trọngCó thể trở thành khối cơ bản cho định tuyến, chọn công cụ và chấm điểm trong agent.

Google blog ↗

Đây là mô hình hậu huấn luyện đầu tiên xây trên ERNIE 5.5 Flash Base, kiến trúc MoE 280B tham số tổng, 14B active, ngữ cảnh 1 triệu token. Baidu nhấn mạnh năng lực lập trình, mô hình hóa 3D, công việc tri thức và sáng tạo nội dung, đồng thời giữ tốc độ giải mã nhanh. Trang công bố chỉ đưa kết quả benchmark dạng ảnh và mô tả là "cạnh tranh", đồng thời thừa nhận đây là checkpoint trung gian nên một số năng lực còn hạn chế. API có trên nền tảng Qianfan và OpenRouter. Baidu cho biết trọng số sẽ sớm được mở theo giấy phép Apache 2.0.

Vì sao quan trọngNếu mở trọng số đúng hẹn, đây sẽ là thêm một lựa chọn mở rẻ và mạnh.

ERNIE blog ↗

Walrus là mô hình speech–audio 8B tham số dùng chung cho ASR (kể cả code-switching và nhiều người nói chồng lấn), dịch giọng nói sang văn bản và giọng nói, TTS, nhận diện cảm xúc, mô tả âm thanh và hiểu âm thanh tổng quát. Đóng góp chính nằm ở dữ liệu chứ không phải kiến trúc: backbone decoder-only chuẩn khởi tạo từ Gemma 4, còn đầu ra giọng nói là token rời rạc bitrate thấp được một decoder nhẹ chuyển thành âm thanh chất lượng cao. Mô hình được huấn luyện theo chương trình ba giai đoạn, từ dữ liệu đa ngôn ngữ rộng đến dữ liệu nhiều người nói, code-switching và chuyên ngành, với cơ chế cân bằng tác vụ để giảm quên. Với hơn 600 triệu mẫu, hơn 20 tác vụ và 100 ngôn ngữ, Walrus dẫn đầu phần lớn benchmark ASR, dịch và hiểu âm thanh đa ngôn ngữ, nhiều người nói. Trên đa số benchmark, nó ngang hoặc vượt Qwen3-Omni, mô hình lớn hơn khoảng 4 lần.

Vì sao quan trọngCho thấy dữ liệu và chương trình huấn luyện quan trọng hơn kiến trúc mới với speech LLM đa tác vụ.

arXiv ↗PDF ↓

Emilia2 là bộ dữ liệu đa ngôn ngữ 229 nghìn giờ lấy từ âm thanh thực tế, nhắm đến sinh giọng nói dài cần nhất quán về nội dung, giọng người nói, lượt lời và phong cách. Dữ liệu gồm câu ngắn, giọng đọc dài một người và hội thoại nhiều người, kèm transcript, danh tính người nói, khoảng ngắt và chuyển cảnh âm học; mẫu dài trên 5 phút chiếm 50% số giờ đơn thoại và 66,8% số giờ hội thoại. Có 4,77 triệu mẫu kèm chỉ dẫn phong cách bằng ngôn ngữ tự nhiên và 933 nghìn mẫu gắn nhãn âm thanh phi ngôn từ. Nhóm cũng phát hành Emilia2-testset 23 giờ song ngữ với bản ghi dài tới 30 phút và bốn người nói. Mô hình non-autoregressive 0,6B huấn luyện trên dữ liệu này đạt CER tiếng Trung 5,27% và WER tiếng Anh 9,93% trên TTSD-Eval, thấp nhất trong các hệ được so sánh.

Vì sao quan trọngLấp khoảng trống dữ liệu mở cho TTS dạng dài như podcast và sách nói.

arXiv ↗PDF ↓Demo ↗

Live 3 là mô hình giọng nói full-duplex của Fish Audio: vừa nói vừa nghe, nên các khoảng ngừng, tiếng đệm xác nhận hay việc người dùng đổi ý đều ảnh hưởng tới câu tiếp theo. Thay vì chia ASR, suy luận, TTS và xử lý lượt lời thành các khâu riêng như đa số voice agent, Live 3 đưa nhịp hội thoại vào chính mô hình giọng nói, học từ hội thoại thật thay vì luật viết tay; chỉ dẫn và công cụ của agent nằm ở một lớp suy luận riêng. Fish Audio cho biết mô hình có thể quyết định phản hồi trong khoảng 186 ms. Bài công bố chỉ có demo cuộc gọi, không có benchmark định lượng. Hiện mô hình chỉ hỗ trợ tiếng Anh, chạy trên Fish Agent Platform, qua API và có thể triển khai on-premises.

Vì sao quan trọngThể hiện xu hướng chuyển từ pipeline nhiều khâu sang xử lý lượt lời ngay trong mô hình giọng nói.

Fish Audio blog ↗

ASR streaming thông thường chỉ xuất một từ sau khi người nói nói xong, thêm khoảng 90–400 ms độ trễ. Earlybird là mô hình 29M tham số (16,8 MB ở 4-bit) được huấn luyện trên âm thanh bị cắt ngẫu nhiên, kể cả giữa từ, để dự đoán trọn các từ tới điểm cắt cùng hai từ tiếp theo, với xác suất token dùng làm độ tin cậy. Trên LibriSpeech test-clean, từ ở trung vị được đoán đúng 90 ms trước khi người nói nói xong, trong khi các mô hình streaming khác chỉ ra kết quả 90–400 ms sau đó. Mô hình đoán trước 69% số từ trong sách nói, so với 3–25% của các hệ khác, và có độ hiệu chỉnh khá tốt (ECE 3,7–5,5). Trên tám tập tiếng Anh của Open ASR Leaderboard, nó vượt Moonshine Tiny ở mọi tập; trọng số có trên Hugging Face.

Vì sao quan trọngGiảm độ trễ đầu vào cho voice agent, chạy được trên thiết bị.

arXiv ↗PDF ↓Hugging Face (weights) ↗