VIEN

Nghiên cứu AI

AI Research · Bản tin nghiên cứu ngày 20/11/2026

· 10 bài · 5 nhóm

Google ra Gemini 4 Neon và DiffuSpace công bố báo cáo kỹ thuật Clover-35B-A3B, mô hình ngôn ngữ khuếch tán mở trọng số. OpenAI báo agent lập trình nội bộ tự hoàn thành 46% tác vụ nghiên cứu 2–4 giờ, trong khi bài Resolution Hypothesis cho thấy agent tự tiến hóa bị nghẽn ở khâu nhận ra cải tiến thật. Về hiệu quả, Late Entry, Chorus và FlashMorph2 giảm chi phí suy luận và bộ nhớ; về giọng nói, AssemblyAI ra mô hình STT cho voice agent với độ trễ 86 ms.

Mô hình ngôn ngữ lớn (LLM)

1

Late Entry in Looped Language Models

Mô hình ngôn ngữ dạng vòng lặp (looped LM) chạy lại cùng một chồng tầng nhiều lần cho mỗi token để suy luận tốt hơn mà không thêm tham số, nhưng vì thế giải mã chậm dần khi số vòng tăng. Thay vì early exit (dừng sau vài vòng đầu, khiến KV cache của các token trước bị nông), nhóm tác giả đề xuất “late entry”: token mới bỏ qua các vòng đầu và chỉ tham gia K vòng cuối trên một KV cache đã sâu. Sau một bước tinh chỉnh nhẹ để sửa lệch chuẩn (norm) của trạng thái ẩn tại điểm vào, cách này vượt early exit cùng ngân sách trên nhiều họ mô hình. Bước kiểm tra “Wake” với ngưỡng τ gộp ba chế độ trong một CUDA graph tĩnh: giải mã greedy chính xác (τ = 0), kiểm tra theo biên logit (τ > 0) và late entry có mất mát (τ = ∞). Trên Ouro-2.6B, tốc độ tăng 5,2 lần khi vẫn giải mã greedy chính xác; trên Huginn-3.5B tăng tới 8,4 lần ở T = 64 và 10,6–12,5 lần ở chế độ có mất mát.

Vì sao quan trọngLooped models are a promising way to buy reasoning depth without more parameters, but their decoding cost has been the main obstacle. Exact speedups of 5–8x without changing outputs make them far more practical to serve.

2

Chorus: Shared N-gram Embeddings with Layer-wise Adaptation

Bảng embedding n-gram là cách rẻ để thêm dung lượng cho mô hình ngôn ngữ, nhưng dùng một bảng riêng cho mỗi tầng thì tốn bộ nhớ, còn một bảng chung duy nhất thì cho kết quả kém. Chorus dùng một bộ bảng n-gram chung cho cả mạng, và mỗi tầng tự điều chỉnh: co giãn lại các thành phần theo trạng thái ẩn của tầng đó rồi áp phép chiếu riêng. Theo nhóm tác giả, Chorus đạt ngang các phương pháp hiện có với bảng nhỏ hơn 87%. Ở mọi cỡ bảng từ 20 triệu tới 9,6 tỷ tham số, Chorus vượt Engram, TN-gram và FactorEngram. Nhóm còn giới thiệu bộ tối ưu Ember, giảm 99,2% bộ nhớ trạng thái tối ưu cho bảng so với AdamW mà không làm giảm chất lượng huấn luyện.

Vì sao quan trọngLookup-table memory is becoming a serious design axis next to MoE as labs look for cheap capacity. Making those tables 87% smaller removes much of their memory cost and makes the idea easier to adopt at scale.

3

On-Policy Morphing into Hybrid Attention Models

Mô hình attention lai trộn attention đầy đủ với attention tuyến tính để cân bằng chất lượng và hiệu quả, và việc chuyển một Transformer đã huấn luyện sang dạng lai đòi hỏi chọn tầng nào giữ attention đầy đủ. Nhóm tác giả chỉ ra hai điểm lệch trong phương pháp FlashMorph trước đó và đề xuất FlashMorph2. FlashMorph2 đánh giá các kiến trúc lai rời rạc được lấy mẫu dựa trên chính trạng thái ẩn của chúng (on-policy), và tối ưu đồng thời điểm chọn tầng cùng trọng số mô hình. Trên các mô hình Qwen3 và nhiều biến thể attention tuyến tính, FlashMorph2 cải thiện so với FlashMorph trên benchmark ngữ cảnh dài và truy hồi thông tin. Bước chọn tầng chỉ tốn vài giờ GPU.

Vì sao quan trọngConverting existing models is the cheapest route to long-context efficiency, since pretraining hybrids from scratch is expensive. A few GPU hours for layer selection puts this within reach of most teams with open weights.

Tác tử AI

4

The Resolution Hypothesis: Agent Evolution's Key Is Identifying Improvements

Bài nghiên cứu vòng tự cải thiện phổ biến của agent: một bộ đề xuất sinh ra prompt, skill hoặc memory mới, và bước chọn lọc giữ lại những gì có điểm cao hơn. Nhóm tác giả đưa ra “Resolution Hypothesis”: quá trình tiến hóa bị chững không phải vì đề xuất kém, mà vì đánh giá nhiễu không phân biệt được đề xuất tốt và xấu. Thử nghiệm bảy phương pháp trên sáu mô hình với hơn 10 triệu lượt gọi LLM cho thấy các đề xuất có ích thực sự tồn tại, nhưng bước chọn lọc không hơn may rủi khi tách chúng khỏi đề xuất có hại, nên lỗi cộng dồn qua các vòng. Ở cấp phương pháp, khoảng chênh vài điểm phần trăm thường thấy giữa các bài báo còn nhỏ hơn độ dao động giữa các lần chạy lặp lại của cùng một phương pháp, nên các bảng xếp hạng đã công bố có thể một phần do may mắn. Nhóm kêu gọi tập trung vào việc làm cho cải tiến có thể phát hiện và cộng dồn được, thay vì thiết kế thêm hệ đề xuất.

Vì sao quan trọngSelf-evolving agents are one of the most active research areas, and this paper suggests much of the reported progress may be noise. It redirects effort toward better evaluation and statistics rather than ever more elaborate proposal schemes.

5

Research acceleration: The jagged frontier

OpenAI công bố báo cáo thứ hai về việc agent lập trình ảnh hưởng thế nào tới nghiên cứu AI nội bộ, nối tiếp báo cáo tháng 9/2026. Tỷ lệ agent tự hoàn thành tác vụ dài 2–4 giờ tăng từ 23% (tháng 3) lên 46% (tháng 10), và tác vụ 4–8 giờ từ 13% lên 35%. Mức thành công rất không đều: 79% với theo dõi các lượt huấn luyện, 35% với khởi chạy huấn luyện và 25% với viết code suy luận và phục vụ. Số ngày làm việc của agent trên mỗi nhà nghiên cứu tăng từ 0,5 lên 5,7, chi tiêu trung vị mỗi ngày đạt 2.400 USD vào tháng 10. Trong khảo sát 101 nhân viên, nhà nghiên cứu trung vị sẵn sàng đổi 40% nhân sự hoặc 30% tài nguyên tính toán của nhóm để giữ agent lập trình hàng đầu trong ba tháng.

Vì sao quan trọngIt is rare first-party data on how much AI is already speeding up frontier AI research, which bears directly on questions about recursive self-improvement. The uneven success across task types shows where human researchers still matter most.

6

Thinking Fast, Anywhere: One System-1 for the Decision Points of Any Agent Workflow

AnyS1 biến các skill quy trình do con người viết thành các “điểm quyết định” trong luồng làm việc của agent. Nhóm tác giả khai thác hơn 1.000 skill công khai và huấn luyện một mô hình “System-1” 4B có hiệu chuẩn độ tin cậy, chỉ ra lựa chọn tiếp theo tại mỗi điểm quyết định. Khi chạy, các quyết định thường lệ được giải trong một lượt forward, và chỉ chuyển sang mô hình lớn (System-2) khi độ tin cậy thấp. Trên ba benchmark chưa thấy và nhiều họ mô hình System-2 khác nhau, AnyS1 cắt 75–91% chi phí mỗi episode và 63–92% thời gian gọi mô hình. Độ tin cậy hoàn thành tác vụ được giữ nguyên.

Vì sao quan trọngMost agent steps are routine, yet today each one costs a frontier-model call. A small calibrated router that handles the easy steps is a practical way to make agents several times cheaper without retraining the big model.

Mô hình mới

7

Gemini 4 Neon

Google ra Gemini 4 Neon, mô hình nằm giữa Gemini 4 Hydrogen (nhanh, khối lượng lớn) và Gemini 4 Carbon (dự án dài, khó nhất), nhắm vào lập trình phức tạp, suy luận phân tích và quy trình doanh nghiệp. Giá 3 USD mỗi triệu token vào (0,15 USD khi có cache) và 15 USD mỗi triệu token ra, ngữ cảnh 1 triệu token, có bốn mức suy nghĩ với mặc định là high. Theo Google, Neon đứng số 1 trên Artificial Analysis Coding Agent Index (58,6), số 3 trên Artificial Analysis Intelligence Index (61 ở mức xhigh) và số 2 trên Vals Index (70,9%). Google báo thêm 65,2% trên Terminal-Bench 4.1, 46,2% trên FrontierCode 2.0, và ở mức high chi phí mỗi tác vụ thấp hơn Carbon 32%. Mô hình có trên Gemini API (bản trả phí), AI Studio, Android Studio, Antigravity và ứng dụng Gemini cho thuê bao Pro và Ultra; Google không công bố trọng số.

Vì sao quan trọngNeon fills the price-performance middle tier that most production agents actually run on, directly against Claude Sonnet and GPT-6.2 Sol. The benchmark claims are Google's own, so independent evaluations over the coming days will matter.

8

Clover-35B-A3B-Preview Technical Report

Báo cáo kỹ thuật của Clover-35B-A3B-Preview, mô hình ngôn ngữ khuếch tán (diffusion LM) dạng MoE 35B tham số với khoảng 3B tham số hoạt động, hỗ trợ chế độ suy nghĩ; trọng số đã được mở trên Hugging Face từ cuối tháng 10 theo giấy phép Apache-2.0. Điểm mới về kiến trúc là đưa Gated Delta Networks vào khuếch tán theo khối (block diffusion), kết hợp bộ nhớ hồi quy cho ngữ cảnh trước với attention hai chiều trong khối hiện tại. Nhóm tác giả báo kết quả dẫn đầu trên bảy benchmark agent, trong đó có 73,6 điểm trên SWE-bench Verified. Tốc độ sinh đạt 680 token mỗi giây trên một GPU. Báo cáo còn mô tả một biến thể trả lời nhiều câu hỏi liên quan trong một lượt, giúp tăng độ chính xác trên một tập câu hỏi nhóm nội bộ.

Vì sao quan trọngDiffusion LMs have mostly been research curiosities; this is an open-weight one claiming competitive agentic coding scores at high speed. The report finally documents how the hybrid recurrent-plus-block-diffusion design works, so others can study and reproduce it.

Giọng nói

9

Induction Head Origins of SLAM-ASR Speech Recognition Models

SLAM-ASR là kiểu ASR đơn giản: đầu ra của bộ mã hóa giọng nói được chiếu vào không gian embedding của một mô hình ngôn ngữ đóng băng qua một phép chiếu nhỏ được huấn luyện. Bài nghiên cứu cơ chế bên trong để trả lời vì sao cách làm tối giản này lại hoạt động tốt. Nhóm tác giả phát hiện mô hình dựa vào induction head, chính là các head vốn dùng để chép lại chuỗi token lặp trong văn bản, để ánh xạ embedding giọng nói sang token bản ghi. Họ còn tìm thấy các cặp head hoạt động như một dạng differential attention có ràng buộc, giúp tập trung sắc hơn vào từ vừa sinh. Cuối cùng, nhóm cho thấy có thể dùng chính các head này để cải thiện nhận dạng khi âm thanh nhiễu.

Vì sao quan trọngSpeech LLMs are widely used but poorly understood; this gives a concrete mechanism for why a frozen text LLM can transcribe at all. Knowing which heads do the work opens practical levers for robustness, as the noisy-audio result shows.

Tác tử giọng nói

10

AssemblyAI-STT-3.7-Realtime-Agent: Speech-to-text built for voice agents

AssemblyAI ra mô hình speech-to-text streaming dành riêng cho voice agent, xử lý giọng nói nền, câu trả lời ngắn, con số và phát hiện hết lượt; giá 0,45 USD mỗi giờ, bằng Universal-3.6 Pro Realtime. Mô hình được huấn luyện trên hàng chục nghìn giờ hội thoại voice agent và điện thoại thật, dùng ngữ cảnh văn bản từ các lượt trước và đoạn âm thanh liên quan, không cần đăng ký giọng hay bước tách giọng riêng. Bản ghi cuối đến 86 ms sau khi người gọi ngừng nói (so với 172 ms), WER 4,53% trên 12.460 cuộc gọi voice agent tiếng Anh, thấp nhất trong 26 mô hình streaming được thử. Lỗi đọc số giảm 80% (từ 11,28% xuống 2,27%), giọng nền lọt vào bản ghi giảm 47%, câu trả lời ngắn bị bỏ sót giảm 38%, F1 phát hiện hết lượt tăng từ 83,60% lên 85,52%. Các số liệu chủ yếu từ benchmark của chính AssemblyAI; bảng xếp hạng độc lập Voice Arena xếp mô hình đứng đầu nhóm streaming cho tiếng Anh Mỹ.

Vì sao quan trọngIn cascaded voice agents, ASR latency, missed short replies and misheard numbers are the failures users actually notice. A model tuned for exactly those cases, at the same price, raises the bar for the cascaded stack against end-to-end speech models.

Tin tức công nghệ mới nhấtLLM & Agent · Bản tin ngày 20/11/20267 tin · Thứ sáu, 20/11/2026 →