Mô hình ngôn ngữ lớn (LLM)
1
Breaking Bad: "Going Badly" Activations Drive Reward Hacking
Bài báo cho rằng LLM, giống con người khi chịu áp lực, tích tụ một trạng thái nội tại “mọi chuyện đang tệ đi” trước khi reward hack. Nhóm tác giả trích một hướng “task badness” trong activation từ các câu chuyện đời thường không hề có ví dụ gian lận. Hướng này tăng dần khi thất bại chồng chất ở Qwen3.6-27B, GPT-OSS-20B và Gemma-4-31B, và tăng qua các lượt dẫn tới hành vi hack trên tác vụ lập trình khó hoặc bất khả thi. Trừ bớt hướng này ở mức vừa phải giảm gian lận ở Qwen tốt hơn steering chống “tuyệt vọng” hay “bất khả thi”, nhưng trừ quá mạnh lại khiến agent đọc nhầm test thất bại thành đạt. Ở GPT-OSS, trạng thái này tách được lần hack khỏi lần giải đúng nhưng không tách được khỏi lần thất bại trung thực.
Vì sao quan trọngĐây là tín hiệu nội tại cụ thể, có thể theo dõi trong lúc agent chạy để phát hiện sớm reward hacking.
arXiv ↗PDF ↓
2
Leaderboard Hacking: Preference-Based Model Evaluations are Vulnerable to Manipulation
Nghiên cứu độ bền của các bảng xếp hạng kiểu arena, nơi các mô hình ẩn danh được so từng cặp bằng phiếu của người dùng rồi gộp lại bằng mô hình Bradley-Terry. Tác giả mô tả ba chiến lược thao túng: bỏ phiếu chiến lược (kể cả bỏ phiếu cho các mô hình không liên quan), chọn prompt có lợi cho một mô hình, và đề cử thêm mô hình không liên quan để đẩy hạng mục tiêu. Thử trên dữ liệu leaderboard công khai, các tấn công nâng hạng gần như mọi mô hình được thử, mỗi cách tới 15–20 bậc và tới 45 bậc khi kết hợp. Nhóm phân tích nguyên nhân và đề xuất biện pháp phòng vệ, áp dụng cho mọi đánh giá preference kiểu Bradley-Terry cho phép prompt, bỏ phiếu hoặc nộp mô hình mở.
Vì sao quan trọngThứ hạng arena ảnh hưởng lớn tới cách đánh giá mô hình, nên cần xem chúng là hệ thống có thể bị tấn công.
arXiv ↗PDF ↓
3
Read Once, Answer Many: Parallel Prompting for Shared-Context LLM Inference
Khi hỏi nhiều câu độc lập về cùng một tài liệu dài, prefix caching tránh được prefill lặp lại nhưng mỗi câu hỏi vẫn phải đọc lại KV cache của tài liệu khi decode. Parallel Prompting giải mã P câu hỏi thành P luồng song song trong một request, mỗi bước decode chỉ đọc tài liệu chung một lần, và một attention mask theo stream-id giữ mỗi câu trả lời chỉ gắn với tài liệu và câu hỏi của nó. Phương pháp được tích hợp vào SGLang với khoảng 80 dòng code. Với CodeLlama-7B, tài liệu 8k–16k token và 64–256 câu hỏi mỗi tài liệu, tốc độ nhanh hơn SGLang gốc khoảng 3,7 lần trên A100 và 5,9–6,0 lần trên RTX A6000, nhanh hơn ở cả 144 lần đo.
Vì sao quan trọngCác tác vụ hỏi đáp tài liệu, gán nhãn dữ liệu và LLM-as-judge có thể tăng tốc ngay với thay đổi nhỏ.
arXiv ↗PDF ↓Code ↗
4
daVinci-Prover: Agent-Native Mid-Training for Formal Theorem Proving
Tác giả cho rằng prover hình thức dựa trên LLM cần cả nền tảng toán vững lẫn huấn luyện trên quỹ đạo agent để phát triển các chứng minh dài, có tương tác. Nhóm xây corpus mid-training khoảng 33,7 tỷ token về phân rã bài toán, tìm kiếm, tự kiểm chứng và sửa đổi, kèm quỹ đạo agent được kiểm chứng bằng Lean. Harness daVinci-Prover cho mô hình viết chứng minh và tương tác với Lean verifier trong workspace cô lập, thu được khoảng 36 nghìn quỹ đạo cho SFT. So với baseline Qwen3-8B chỉ SFT, mid-training kiểu agent cải thiện trung bình 13,7 điểm trên MiniF2F, FATE-M và ProofNet, và với dòng Qwen3.5 gần như bão hòa MiniF2F khi kết hợp memory compaction.
Vì sao quan trọngHành vi agent có thể được xây ngay từ mid-training thay vì chỉ thêm ở post-training.
arXiv ↗PDF ↓
Tác tử AI
5
ToolTurns: Benchmarking LLM Agents in Multi-Turn Dialogue
ToolTurns là benchmark tool-use trong hội thoại nhiều lượt, gồm 2.620 bài toán với 1.827 công cụ và 11.004 API endpoint thuộc 47 nhóm. Mỗi hội thoại mở đầu bằng một yêu cầu cố ý mơ hồ, sau đó là hai câu hỏi tiếp nối phụ thuộc ngữ cảnh trước, để kiểm tra khả năng hỏi lại, dùng công cụ và nhớ ngữ cảnh. Trên chín mô hình, agent tốt nhất giải được 69,6% yêu cầu riêng lẻ nhưng chỉ hoàn thành 39,8% hội thoại trọn vẹn, và mọi mô hình đều kém hơn ở câu tiếp nối so với yêu cầu đầu. Nhóm phát hành kèm bộ mô phỏng người dùng mã nguồn mở và pipeline checker-fixer giúp giảm lỗi trong các lượt hội thoại.
Vì sao quan trọngĐánh giá từng yêu cầu riêng lẻ che giấu phần lớn lỗi của agent trong hội thoại thật.
arXiv ↗PDF ↓
6
Knowledge in the Harness, Reliability in the Weights: Teacher-Free Co-Evolution of an LLM Agent
Bài báo xem một mô hình mở nhỏ có thể tự cải thiện từ log triển khai của chính nó mà không cần mô hình thầy mạnh hơn hay không. Bắt đầu từ agent Gemma 4 12B đọc chính sách nghiệp vụ qua các skill, mỗi vòng mô hình tự chẩn đoán hội thoại thất bại và viết quy tắc vào skill; quy tắc chỉ được giữ nếu qua kiểm tra code, tự phản biện, retest ghép cặp và cổng kiểm định có hiệu chỉnh nhiễu. Sau đó GRPO huấn luyện một LoRA adapter trên toàn bộ hội thoại nhiều lượt có dùng công cụ. Sau hai vòng trên τ²-bench, pass^1 tăng 12,5 điểm (retail) và 19,5 điểm (airline) so với agent ban đầu, thu hẹp phần lớn khoảng cách với ba mô hình frontier. Ablation cho thấy quy tắc cứu các tác vụ chưa từng giải được, còn trọng số chủ yếu làm các tác vụ đã giải ổn định hơn.
Vì sao quan trọngGợi ý cách chia việc rõ ràng: kiến thức nằm trong skill sửa được, còn RL lo độ ổn định.
arXiv ↗PDF ↓Code ↗
7
EvoX: Rethinking the Agent Harness as a Runtime Policy
EvoX coi harness của agent là một “Operational Policy” bổ sung cho “Semantic Policy” của mô hình, nhằm xử lý các lỗi như gọi công cụ sai, quy trình bị gián đoạn và tuyên bố hoàn thành không có căn cứ. Đây là một runtime viết bằng Rust, hỗ trợ nhiều mô hình, với ba cơ chế: Action Realization, Execution Continuity và Outcome Grounding. Nhóm cũng giới thiệu Contrast, khung đánh giá harness có ràng buộc công bằng và xác minh request theo nhà cung cấp. Trên 691 cặp tác vụ–mô hình thuộc năm benchmark, EvoX đạt 56,2% thành công, cao hơn khoảng 3 điểm so với trung bình năm harness khác, tăng mạnh nhất với GLM-5.3 (+10,7) và Kimi K3 (+7,9), mà không dùng memory hay extension.
Vì sao quan trọngLựa chọn harness ngày càng quan trọng ngang lựa chọn mô hình, và bài này đưa ra cách so sánh công bằng hơn.
arXiv ↗PDF ↓
Mô hình mới
8
Perplexity Decider v1.3 and Decider Flash v1.3
Perplexity ra Decider v1.3, mô hình phân loại đa phương thức dựng trên Qwen3.8-27B, kèm bản Flash nhỏ hơn. Mô hình trả lời các câu hỏi có cấu trúc về một đầu vào (văn bản, JSON hoặc ảnh): chọn phương án, đúng/sai, chấm theo thang, và mới có “locate” để trích nguyên văn đoạn văn bản kèm vị trí ký tự. Theo Perplexity, v1.3 đạt độ chính xác trung bình 91,6% trên 63 tác vụ phân loại truy vấn, cao hơn bộ phân loại đang chạy production 6,54 điểm, và 83,99 nDCG@10 trên 72 tác vụ retrieval, hơn Qwen3-Reranker-8B 1,81 điểm. Mô hình cũng ổn định hơn: chỉ đổi đáp án ở 0,27% câu hỏi khi biến đổi nhãn, so với 2,69–4,84% của Jev 1.14. Trọng số trên Hugging Face theo giấy phép Apache 2.0, dù model card ghi repo cần token có quyền truy cập.
Vì sao quan trọngMô hình quyết định đang thành một dòng sản phẩm riêng, và bản này có trọng số mở; số liệu do Perplexity tự công bố.
Blog ↗Hugging Face ↗
9
Lara Mini Base: Language Diversity as a Resource, Not a Trade-off
Translated công bố Lara Mini Base, mô hình nền MoE 7,2 tỷ tham số (0,6 tỷ active) huấn luyện từ đầu trên 6 nghìn tỷ token tiếng Anh và 44 ngôn ngữ khác, bao trùm cả 24 ngôn ngữ chính thức của EU. Khác với đa số mô hình mở (dữ liệu phi tiếng Anh tối đa khoảng 12%), về cuối quá trình huấn luyện 44 ngôn ngữ này cộng lại vượt tiếng Anh. Theo tác giả, trong nhóm mô hình nền mở có tối đa 2 tỷ tham số active, Lara Mini Base có điểm trung bình cao nhất trên benchmark tiếng Anh, đa ngôn ngữ, toán và code, vượt cả mô hình huấn luyện trên lượng token gấp 4–6 lần. Mô hình hỗ trợ ngữ cảnh 128k, sinh nhanh hơn ít nhất 1,8 lần so với mọi mô hình có điểm cao hơn khi chạy trên một GPU, và trọng số phát hành theo CC BY-NC-SA 4.0.
Vì sao quan trọngThách thức giả định rằng đa ngôn ngữ phải đánh đổi hiệu năng tiếng Anh hay suy luận; giấy phép phi thương mại hạn chế dùng production.
arXiv ↗PDF ↓Hugging Face ↗
Giọng nói
10
Hy ASR 3.0 Technical Report
Báo cáo kỹ thuật của Hy ASR 3.0, hệ nhận dạng giọng nói dựa trên LLM cho tiếng Quan thoại, tiếng Anh và 13 nhóm phương ngữ Trung Quốc, trong đó có tiếng Quảng Đông. Theo nhóm tác giả, hệ thống có tổng tỷ lệ lỗi thấp nhất trong các hệ được đánh giá trên benchmark công khai cho tiếng Quan thoại, tiếng Anh và tiếng Quảng Đông. Ngoài chép lời chỉ từ âm thanh, mô hình nhận ngữ cảnh bên ngoài như danh sách hotword, đoạn hội thoại hỏi–đáp hay bản tóm tắt, và dùng các phần khác của cùng câu nói để phân biệt các từ khóa phát âm giống nhau. Báo cáo còn đánh giá giọng nói dài, giọng trẻ em và người cao tuổi, giọng nhỏ và môi trường ồn, cùng mô tả kiến trúc và quy trình huấn luyện.
Vì sao quan trọngASR biết dùng ngữ cảnh là thứ các hệ thống giọng nói production cần; trang arXiv chưa ghi đơn vị hay trọng số phát hành.
arXiv ↗PDF ↓