Bản tin Chủ nhật, cửa sổ mở rộng khoảng 3 ngày (bài arXiv nộp 11–12/11). Nổi bật: mô hình học khi nào nên suy luận (HDM cắt khoảng 80% token), Singularity-Bench đo agent tự xây hệ thống AI, hai hướng agent tự cải thiện (MAPE, ACE-RL), cùng các phát hiện về dữ liệu tổng hợp, ASR streaming và giọng TTS cho agent. Hôm nay không có mô hình mới đáng chú ý chưa được đưa tin.
Mô hình ngôn ngữ lớn (LLM)
1
The Value of Thinking: Learning When to Reason in Hybrid Decision Models
Bài báo đề xuất “zero-or-T thinking”: một mô hình duy nhất hoặc trả lời ngay bằng suy luận ngầm trong một lần forward (không sinh token), hoặc chạy suy luận tự hồi quy đầy đủ tốn T token. Cách triển khai là Hybrid Decision Model (HDM): backbone đóng băng phục vụ cả hai chế độ, một khối tự định tuyến nhẹ ước lượng “giá trị của việc suy nghĩ” (lợi ích kỳ vọng của chế độ chậm) và chỉ bật chế độ chậm khi giá trị đó vượt mức giá cho mỗi yêu cầu. Với tác vụ agent không có nhãn cho từng quyết định, nhóm đề xuất CDPO, học khối định tuyến từ phần thưởng cấp episode. Trên các benchmark gồm MMLU-Pro, GPQA-Diamond, JevBench và MiniWoB, HDM-4B nhỉnh hơn baseline trên JevBench với độ trễ giảm mạnh, còn HDM-27B cắt khoảng 80% chi phí token trên MiniWoB.
Vì sao quan trọngBiến “không sinh token nào” thành một lựa chọn có giá, nối hướng mô hình quyết định System One với mô hình suy luận và mở rộng sang agent.
Human or Synthetic? What a Fixed Budget Buys for Post-Training
Nghiên cứu so sánh dữ liệu preference do người gán nhãn và dữ liệu tổng hợp cho post-training (SFT và DPO) khi cùng một ngân sách tính bằng đô la, trên hai tác vụ helpfulness và tóm tắt. Dữ liệu tổng hợp hiệu quả chi phí hơn hẳn ở ngân sách thấp đến trung bình, đạt win rate cao chỉ với khoảng 200–400 USD. Với helpfulness, dữ liệu người chỉ bắt kịp khi ngân sách lớn hơn khoảng hai bậc độ lớn; với tóm tắt, nó không bắt kịp ở bất kỳ mức ngân sách nào được thử. Các nguồn dữ liệu người cũng chênh lệch: một nguồn được dùng rộng rãi kém hẳn nguồn khác, kể cả sau khi lọc miền và khử trùng lặp.
Vì sao quan trọngTrả lời bằng con số chi phí một câu hỏi mà nhiều đội vẫn quyết theo cảm tính, và cho thấy dữ liệu người không phải chuẩn vàng đồng nhất.
From Large Language Models to Efficient System One Models via Adaptive Computation
Bài báo nghiên cứu cách biến LLM thành mô hình quyết định nhanh kiểu System One, vốn thay đầu ra ngôn ngữ bằng đầu quyết định nhưng vẫn chạy toàn bộ mạng. Tác giả thấy thông tin quyết định tập trung ở các lớp giữa: có thể bỏ sáu lớp cuối mà không mất độ chính xác. Mô hình nhỏ huấn luyện độc lập chủ yếu bắt chước mô hình đầy đủ thay vì tự phát triển năng lực, nên hiệu quả đến từ việc chia sẻ tính toán giữa các độ sâu. Phương pháp đề xuất huấn luyện chung mô hình đầy đủ và các mô hình con dạng tiền tố bằng self-distillation, kèm cổng nhẹ ở mỗi lối ra; trên bảy benchmark quyết định, kết quả ngang hoặc hơn mô hình huấn luyện riêng ở từng độ sâu.
Vì sao quan trọngEarly exit cho đầu quyết định là cách rẻ để giảm độ trễ mà không phải huấn luyện riêng một mô hình nhỏ cho mỗi mức ngân sách.
Benchmark mở đo khả năng AI tự phát triển AI, gồm sáu tác vụ đầu-cuối: pre-training, mid-training, post-training, inference, agent harness và điều phối cluster. Agent phải tự xây hệ thống lõi từ điểm xuất phát tối thiểu và được so với baseline do kỹ sư viết trên cùng phần cứng. Nhóm red-team các agent theo 9/10 hạng mục OWASP Top 10 for Agentic Applications, phát hiện lỗ hổng reward hacking trong framework Harbor và xây phần mở rộng Breakwater chặn được mọi tấn công đã thử. Trong 11 agent (7 mô hình frontier, 2 harness), Opus 5.5 với Claude Code ngang hoặc vượt baseline người ở cả sáu tác vụ (Singularity-Index 1,25), còn các agent khác trung bình 0,58.
Vì sao quan trọngĐo trực tiếp năng lực liên quan nhất tới lo ngại tự cải thiện đệ quy, và cho thấy harness đánh giá phải chống được reward hacking.
Discovering Effective Agent Memory Designs through Program Evolution
MAPE dùng tiến hoá chương trình để tự thiết kế hệ thống bộ nhớ cho agent, xuất phát từ chương trình mồi tối thiểu, qua giao diện vòng đời chuẩn hoá và vòng lặp chẩn đoán rồi đề xuất sửa đổi. Trên LoCoMo và LongMemEval, thiết kế tìm được tăng độ chính xác tới 12 điểm so với baseline thiết kế tay, với khoảng 35% chi phí serving, và chuyển giao được giữa backbone và benchmark. Hai mẫu thiết kế lặp lại là giữ nguyên hội thoại gốc làm bằng chứng truy xuất được và ghép bằng chứng theo ý định câu hỏi; thêm module ghép này vào năm hệ thống bộ nhớ sẵn có đều cải thiện độ chính xác. Tối ưu cả chi phí đẩy tính toán từ khâu dựng bộ nhớ bằng LLM sang xử lý chọn lọc lúc truy vấn.
Vì sao quan trọngTìm kiếm tự động vừa thắng thiết kế tay vừa rút ra nguyên tắc dùng được ngay cho bộ nhớ agent.
Experience-Handoff Reinforcement Learning for Recursive Self-Improvement
RL với phần thưởng vô hướng bỏ phí phản hồi giàu thông tin từ môi trường như log lỗi, trong khi các harness agent dùng phản hồi đó qua playbook nhưng playbook không được học. Nhóm cố định harness Agentic Context Engineering (ACE) và huấn luyện một mô hình đảm nhận ba vai: sinh hành động, phản tư rút insight và biên tập playbook, với mỗi chỉnh sửa playbook được chấm theo tác động lên phần thưởng của lần thử kế tiếp (ACE-RL). Theo tác giả, ACE-RL đạt phần thưởng held-out cao nhất so với PPO, GRPO, ERL và PPO đầu-cuối qua harness, và vẫn dẫn GRPO tới 8 lần thử dù chỉ huấn luyện với 3. Abstract không nêu số liệu cụ thể.
Vì sao quan trọngNối hai hướng tự cải thiện thường tách rời: cập nhật trọng số và kinh nghiệm trong ngữ cảnh.
Beyond Word Error Rate: A Failure Taxonomy of Streaming Dictation ASR
Bài báo cho rằng WER trên file ghi sẵn bỏ sót những lỗi quan trọng khi đọc chính tả trực tiếp. Nhóm stream bộ test tới 11 hệ thống ASR (106 bài đọc tiếng Anh trong phòng yên tĩnh, có tiếng quạt và nói thì thầm, 11 bộ ngôn ngữ khác và 400 bản ghi trộn hai ngôn ngữ) rồi phân loại lỗi theo bốn tầng. Zoom Scribe và GPT-Live-Transcribe có WER gần bằng nhau khi yên tĩnh (7,4% và 7,3%) nhưng với giọng thì thầm là 34,7% so với 8,8%. Khi chỉ chọn tiếng Anh, Gemini, Deepgram và Whisper tự host mất phần không phải tiếng Anh ở 86–99% bản ghi trộn ngôn ngữ; đặt Whisper sau bộ VAD Silero làm WER thì thầm tăng từ 10,1% lên 51,4%. Nhóm công bố code, bản ghi và transcript.
Vì sao quan trọngCho thấy nhiều lỗi nằm ở pipeline (VAD, ngắt lượt, cài đặt ngôn ngữ) chứ không ở mô hình.
Human-Likeness and Conversational Preference Diverge for Synthesized Agent Speech in Customer-Service Calls
Nghiên cứu so sánh hai cách người nghe đánh giá giọng tổng hợp của agent: nghe giống người đến đâu và có muốn trò chuyện với nó không. Nhóm dùng phép chọn cặp trên 120 lượt thoại do diễn viên ứng tác vai nhân viên chăm sóc khách hàng, so sánh sáu hệ TTS thương mại (mỗi hệ tám giọng) và so giọng máy với bản ghi gốc của diễn viên. Hệ xếp cao về độ giống người không trùng với hệ được ưa để trò chuyện; người nghe chọn máy thay diễn viên ở 19% lượt đánh giá độ giống người, 36% lượt về mức ưa thích và 49% với hệ được ưa nhất. Khác biệt giữa các giọng trong cùng một hệ bằng khoảng ba phần tư khác biệt giữa các hệ, và không chỉ số naturalness tự động nào dự đoán được mức ưa thích.
Vì sao quan trọngChọn TTS cho voice agent chỉ theo độ tự nhiên có thể sai; giọng nói nhanh, ít ngắt được ưa hơn.
