Mô hình ngôn ngữ lớn (LLM)
1
Are Dense Rewards Worth Their Tokens in GRPO?
Bài báo kiểm tra xem phần thưởng dày (chấm điểm từng bước suy luận bằng Monte-Carlo) trong RLVR có đáng chi phí hay không, vì các nhánh lấy mẫu để chấm điểm chiếm tới 91% số token sinh ra. Nhóm tác giả đề xuất giao thức so sánh cùng ngân sách token và GPU-giờ, chạy 1.668 lần huấn luyện trên sáu mô hình. Khi cân bằng chi phí, thứ hạng bị đảo: phần thưởng Monte-Carlo dẫn trước theo mỗi bước cập nhật nhưng kết thúc thấp hơn GRPO 14,3 điểm khi cùng số token và 7,8 điểm khi cùng thời gian trên Qwen2.5-1.5B. Không biến thể phần thưởng dày nào trong bốn biến thể thắng GRPO chuẩn. Ngược lại, chọn prompt có xác suất thành công gần 1/2 cải thiện 1,7 điểm (Qwen3-0.6B) và 0,8 điểm (Qwen2.5-1.5B), nhưng GRPO chuẩn với learning rate gấp đôi cũng đạt gần như vậy.
Vì sao quan trọngNhiều bài RL cho suy luận báo cáo cải thiện theo từng bước huấn luyện, che giấu chi phí thật; nghiên cứu này cho thấy so sánh cùng chi phí có thể xóa hoặc đảo ngược các cải thiện đó.
arXiv ↗PDF ↓Code ↗
2
The Surprising Effectiveness of Deleting Weights in LLM Post-Training
Bài báo hỏi cần thay đổi tối thiểu bao nhiêu trong một LLM đã tiền huấn luyện để nó học năng lực mới. Phương pháp Deletion Tuning học một mặt nạ nhị phân trên gate projection của các khối transformer, chỉ đặt về 0 dưới 0,05% trọng số và không thay đổi gì khác. Kết quả ngang fine-tune toàn phần (FFT) ở quy mô lớn trong ba bối cảnh: RL với phần thưởng kiểm chứng được, SFT và on-policy distillation. Mặt nạ nhỏ hơn checkpoint FFT hàng trăm đến hàng nghìn lần, và dưới RL mô hình giữ độ chính xác tác vụ cũ gần mức gốc, trong khi FFT, LoRA và sparse fine-tune ngẫu nhiên mất tới 5,4 điểm. Phân tích stable rank và phổ cho thấy Deletion Tuning gần FFT hơn LoRA.
Vì sao quan trọngKết quả gợi ý hậu huấn luyện chủ yếu chọn lọc năng lực sẵn có; mặt nạ cực nhỏ giúp lưu trữ và phục vụ nhiều biến thể rẻ hơn mà ít quên hơn.
arXiv ↗PDF ↓
3
Tree-Ising: Repairing Language Models with Bit-Level Ising Edits
Tree-Ising sửa lỗi lặp suy luận trong LLM bằng cách coi việc sửa trọng số là bài toán tối ưu rời rạc thưa trên các bit của trọng số BF16, chỉ cho phép đảo dấu và dịch số mũ. Bài toán tách thành các bài toán QUBO (Ising) độc lập cho từng hàng đầu ra và được giải trên GPU bằng simulated annealing hoặc simulated bifurcation. Trên Qwen3.5-0.8B, MATH-500 tăng lên 54,6%, so với 51,7% của bản sửa do một agent frontier viết và 7,9% của mô hình gốc. Phương pháp chỉ cần bốn lượt forward, không tốn token LLM nào và khoảng 0,90 USD tiền GPU, thay vì 158 lượt và 89,7 triệu token như cách dùng agent. Trên Qwen3.5-2B, GSM8K tăng từ 21,6% lên 69,4%.
Vì sao quan trọngBiến việc sửa mô hình trong không gian trọng số từ vòng lặp agent tốn kém thành bài toán tối ưu rẻ, có thể dùng để sửa lỗi cụ thể mà không cần huấn luyện lại.
arXiv ↗PDF ↓
4
One Byte, One Token: Byteifying a 27B Hybrid-Attention LLM with Self-Generated Data
Nhóm tác giả chuyển Qwen3.8-27B (kiến trúc lai Gated DeltaNet và full attention) từ tokenizer subword sang mô hình thuần byte, thu vocabulary từ 248.320 xuống 384 mục và giữ nguyên các trọng số khác. Huấn luyện theo hai giai đoạn với 4,77 GB dữ liệu, phần lớn do chính mô hình gốc sinh ra, mất 178,6 giờ trên 8 GPU H200. Mô hình byte giữ chất lượng tương đương trên MATH-500, HumanEval+, MMLU-Pro và GSM8K không suy nghĩ, nhưng mất 4–6 điểm trên C-Eval, GSM8K có suy nghĩ và IFEval. Năng lực cấp ký tự tăng rõ (CUTE từ 75,2 lên 84,0), đổi lại tốc độ sinh ký tự tiếng Trung chỉ còn khoảng một phần tư và prefill 64K byte chậm hơn 6,5 lần.
Vì sao quan trọngĐây là một trong những minh chứng lớn nhất rằng có thể chuyển LLM subword đã huấn luyện sang mức byte; phần phân tích chi phí và lỗi hữu ích cho các ngôn ngữ ngoài tiếng Anh.
arXiv ↗PDF ↓Eval suite ↗
Tác tử AI
5
ExpertCrowd-SWE: Measuring Frontier Coding Agents on Expert-Authored Engineering Tasks in Unfamiliar Codebases
ExpertCrowd-SWE là benchmark gồm 100 tác vụ nhiều file do kỹ sư thực thụ viết trên 87 dự án mã nguồn mở và 11 ngôn ngữ, mỗi tác vụ có lời giải tham chiếu niêm phong và bộ chấm có điểm từng phần. Lời giải tham chiếu trung vị thay đổi 471 dòng, và gần một nửa tác vụ có thêm bản vá “lười”, thay thế và đối kháng để kiểm tra bộ chấm. Bảy mô hình frontier được chạy 5 lần mỗi tác vụ, tổng cộng 3.495 lần chấm: Claude Opus 5.5 (67,3%) và GPT-6 Astra (63,7%) dẫn đầu, không khác biệt có ý nghĩa thống kê. Claude Fable 5.1 đạt 46,5%, Gemini 3.8 Flash 40,0%, còn Qwen 3.8 Max, DeepSeek V4.1 Flash và Grok 4.6 ở mức 32–34%. Ở 80 tác vụ, không mô hình nào đạt điểm tối đa qua cả 5 lần chạy; 24 tác vụ được công bố, 76 tác vụ giữ kín để tránh nhiễm dữ liệu.
Vì sao quan trọngBenchmark đo agent lập trình trên công việc thực tế, đạt chuẩn được merge, trong mã nguồn lạ; phần giữ kín và bộ chấm đã kiểm định giúp đối chiếu số liệu tự công bố của các hãng.
arXiv ↗PDF ↓Dataset ↗
6
Don't Just Trust Your Memory: Evidence-Linked Memory Reduces Memory-Induced Degradation in LLM Agents
Bài báo chỉ ra rằng trí nhớ ngoài có thể làm agent kém đi: agent thất bại ở tác vụ vốn giải được khi không có trí nhớ, thường vì làm theo bài học sai hoặc áp dụng sai bài học đúng. Nguyên nhân được cho là bài học bị lưu tách khỏi quỹ đạo gốc nên agent không thể kiểm chứng. Hệ thống WikiTrace lưu mỗi bài học dạng insight ngắn, liên kết với tóm tắt lý do thành công hoặc thất bại và quỹ đạo thô. Khi insight thiếu chi tiết, mâu thuẫn hoặc đến từ tác vụ thất bại, agent dùng công cụ terminal để lần theo liên kết và sửa trước khi hành động. Trên năm benchmark agent, WikiTrace vượt các phương pháp trí nhớ hiện có và giảm suy giảm do trí nhớ (phần tóm tắt không nêu số cụ thể).
Vì sao quan trọngTrí nhớ dài hạn đang thành tiêu chuẩn trong sản phẩm agent; giữ nguồn gốc cho mỗi bài học là mẫu thiết kế đơn giản mà các framework khác có thể áp dụng.
arXiv ↗PDF ↓Code ↗
7
MMDM: Measuring Massive Multitask Decision Making
MMDM là benchmark cho các mô hình quyết định “System-1”, chọn giữa các phương án trong một lượt forward mà không sinh văn bản suy luận, dùng cho việc như theo dõi trạng thái agent, chọn công cụ và kỹ năng, chấm theo rubric. Bộ dữ liệu có 5.448 câu hỏi trong 16 nhóm tác vụ, số phương án từ 2 đến 1.024 và đầu vào dài tới 64.817 token. Nhóm tác giả đánh giá 28 mô hình quyết định: nhiều mô hình làm tốt kiến thức phổ thông nhưng gặp khó với phương án phụ thuộc nhau, quyết định có ràng buộc và chọn nhiều đáp án. Perplexity Decider-V1.2 đạt 78,75% ở kiến thức thế giới nhưng chỉ 53,95% ở logic phương án và 47,95% ở lập kế hoạch có ràng buộc. Độ chính xác multi-select khó cao nhất trong mọi mô hình chỉ 36,81%.
Vì sao quan trọngBộ định tuyến và bộ chọn nhanh nằm trong hầu hết hệ thống agent thực tế nhưng hiếm khi được đánh giá riêng; MMDM lấp khoảng trống này.
arXiv ↗PDF ↓Project ↗
Mô hình mới
8
Muse Ember: Meta's smallest, most efficient Muse model
Meta ra mắt Muse Ember, mô hình nhỏ và rẻ nhất trong dòng Muse, nhắm tới các tác vụ agent khối lượng lớn như tác vụ con lập trình, gọi công cụ, định tuyến và phân tích tài liệu. Mô hình nhận đầu vào văn bản, ảnh, âm thanh và video, giá 0,10 USD đầu vào và 0,50 USD đầu ra mỗi triệu token (dưới 200K token đầu vào), truy cập qua Meta Model API tương thích OpenAI. Theo số liệu Meta tự công bố, Muse Ember ngang Claude Haiku 5.5 trên Artificial Analysis Intelligence Index (36), đạt 40,9 trên Terminal-Bench 4.0 và 69,5 trên OSWorld 2.1, nhưng thua Haiku 5.5 trên FrontierCode 2.0-AA (27,2 so với 34,9). Meta khuyến nghị dùng Muse Ember làm worker cho các mô hình lập kế hoạch lớn hơn như Muse Wonder; trang công bố không nói tới trọng số mở.
Vì sao quan trọngMô hình thực thi giá rẻ giúp kiến trúc agent planner–worker khả thi ở quy mô lớn; tuy vậy các số liệu benchmark do Meta tự công bố.
Meta blog ↗
Giọng nói
9
Introducing Scribe v3 and v3 Live, our most accurate speech to text models
ElevenLabs ra mắt hai mô hình chuyển giọng nói thành văn bản: Scribe v3 cho âm thanh ghi sẵn và Scribe v3 Live cho thời gian thực. Theo công ty, Scribe v3 ít lỗi từ hơn 27% so với Scribe v2 trên 102 ngôn ngữ, còn v3 Live ít lỗi làm sai nghĩa (semantic WER) hơn 43% và WER thấp hơn 31% so với v2 Realtime. Scribe v3 Live lần đầu có phân tách người nói thời gian thực, với tỷ lệ lỗi 3,1% trên phần tiếng Anh của bộ dữ liệu nội bộ, so với 5,9–7,3% của các mô hình realtime khác. Mô hình phát hiện lượt nói dựa trên ngữ cảnh hội thoại chứ không chỉ khoảng lặng, hỗ trợ tới 1.000 từ khóa gợi ý và chế độ đa ngôn ngữ cho hội thoại chuyển ngôn ngữ giữa câu. Các số liệu do ElevenLabs tự công bố, không kèm bài báo kỹ thuật.
Vì sao quan trọngASR thời gian thực có phát hiện lượt nói theo ngữ cảnh và phân tách người nói là nền tảng cho voice agent; chỉ số lỗi ngữ nghĩa phản ánh xu hướng đo lỗi làm sai nghĩa thay vì chỉ WER.
ElevenLabs blog ↗
