Chuyển tới nội dung chính

🤗 Daily Hugging Face Paper Digest - 2026-09-02

Báo cáo được tạo tự động vào lúc 2026-09-03 10:23:39 bằng mô hình hermes-agent.

📰 Summary of Papers​

1. StudentSim: Training LLM-based Student Simulators (469 votes)​

Tác giả: Ke Yang, Chenglong Wang, Michel Galley, Chandan Singh, Jeevana Priya Inala, et al.

Xuất bản lúc: 2026-09-01

Tag: LLMs, Student Simulation, AI Tutors, Reinforcement Learning, Personalization, Educational AI

I. Main Problem:​

Gia sư AI hiệu quả nhất khi thích ứng với từng học sinh, nhưng tín hiệu phản hồi từ học sinh thật là rất thưa thớt, chậm và tốn kém để thu thập. Các cách làm trước chỉ thỏa mãn một nửa yêu cầu:

  • State-tracking models (như knowledge tracing, Maia2) bắt chước hành vi học sinh khá tốt nhưng không đọc được hướng dẫn/giải thích của gia sư.
  • LLM prompted role-play (GPT-5.4) theo hướng dẫn trôi chảy nhưng không tái hiện đúng năng lực và lỗi đặc trưng của học sinh cụ thể.

Cần một simulator cho từng học sinh thật: vừa giống học sinh đó, vừa phản hồi đúng khi được gia sư chỉ dẫn.

II. Main Idea:​

STUDENTSIM là quy trình huấn luyện LLM để tạo simulator cá nhân hóa cho từng học sinh, ngay cả khi dữ liệu mỗi học sinh rất ít. Cách làm:

  • Stage 1 — Pooled training: gộp dữ liệu của nhiều học sinh trong cùng lĩnh vực để học các mẫu chung (lỗi thường gặp, cách sửa sau hướng dẫn, định dạng câu trả lời).
  • Stage 2 — Per-student specialization: lấy base simulator đó fine-tune riêng trên dữ liệu của một học sinh, tạo một LoRA adapter riêng cho mỗi học sinh, để bắt chước lỗi/cách phản hồi đặc trưng của người đó.

Hai chỉ số chính:

  • Behavioral fidelity (F): simulator có trả lời giống học sinh không?
  • Guidance responsiveness (R): simulator có sửa câu trả lời đúng hướng sau khi đọc hướng dẫn gia sư không?

Ví dụ đời thường: giống như học nghề may vá — trước tiên xem cả xưởng may để biết các lỗi đường may phổ biến, rồi ngồi cạnh một thợ may cụ thể để học cách anh ấy cầm kim, nhăn mặt ở đoạn nào, và sửa lỗi theo thói quen của anh ấy.

III. Main Results:​

  • STUDENTSIMEVAL: benchmark chuẩn trên 60 học sinh ở 3 lĩnh vực — cờ vua (30 người), viết tiếng Anh thứ 2/L2 (15 người), toán (15 người). Mỗi phương pháp được huấn luyện và đánh giá trên cùng dữ liệu held-out để so sánh công bằng.
  • STUDENTSIM vượt GPT-5.4 và Maia2 trên cả hai chỉ số F và R trong cả 3 lĩnh vực.
  • Cờ vua: STUDENTSIM đạt F = 0.51, R = 0.91, so với GPT-5.4 (0.23, 0.72) và Maia2 (0.45, 0.27). Maia2 tốt về F nhưng gần như không nghe hướng dẫn (R thấp); GPT-5.4 theo hướng dẫn nhưng không giống học sinh thật (F thấp).
  • Toán: F = 0.64, R = 0.92; L2 writing: F = 0.56, R = 0.64 — đều cao hơn baseline.
  • Ứng dụng làm reward model cho RL gia sư AI: dùng STUDENTSIM đóng băng làm reward, huấn luyện gia sư cờ vua bằng GRPO. Người đánh giá chuyên gia chấm gia sư này chính xác hơn (90.5%), hướng dẫn tốt hơn (3.31/5), và cá nhân hóa hơn (3.93/5) so với no-RL và reward từ GPT-5.4.

IV. Conclusion & Future Works:​

STUDENTSIM biến dữ liệu học sinh thưa thớt thành simulator cá nhân hóa bằng cách học chung trước, chuyên biệt sau, đồng thời thỏa mãn cả behavioral fidelity và guidance responsiveness. STUDENTSIMEVAL cung cấp chuẩn đánh giá công khai để so sánh các phương pháp mới. Hướng tương lai: mở rộng từ cập nhật một bước sau hướng dẫn sang mô hình hóa toàn bộ động lực học học tập theo thời gian — học sinh ghi nhớ, quên, tiến bộ qua nhiều lượt tương tác với gia sư và tự học.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng STUDENTSIM cho dữ liệu học sinh đa lượt tương tác dài hạn, mô hình hóa quá trình học tích lũy, quên và củng cố kiến thức qua nhiều buổi.
  2. Huấn luyện simulator cá nhân hóa cho các môn học mở, tự luận (khoa học, lập trình) nơi câu trả lời không chỉ là một nước đi hay lựa chọn đơn giản.
  3. Kết hợp STUDENTSIM với active learning để gia sư AI tự chọn câu hỏi/hướng dẫn giúp thu thập dữ liệu simulator hiệu quả nhất từ học sinh thật.

2. Patent:​

  1. Nền tảng gia sư AI cá nhân hóa trên điện thoại: ứng dụng thu thập vài bài làm của người dùng, fine-tune một adapter nhẹ trên thiết bị/cloud, rồi mô phỏng phản ứng của người dùng để thử nghiệm các cách giảng dạy khác nhau trước khi đưa ra gợi ý.
  2. Hệ thống đánh giá nội dung học tập cho ứng dụng di động: dùng simulator cá nhân hóa để dự đoán cách từng học sinh sẽ phản hồi với bài tập/giải thích mới, từ đó ưu tiên nội dung có khả năng giúp học sinh tiến bộ nhất.
  3. Công cụ huấn luyện giáo viên ảo: simulator bắt chước các kiểu học sinh điển hình (sai lầm thường gặp, phong cách học) để giáo viên thực tập hoặc chatbot gia sư được RL chống lại một lớp học đa dạng mô phỏng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.01591
ArXiv Abstracthttps://arxiv.org/abs/2609.01591
PDF Downloadhttps://arxiv.org/pdf/2609.01591.pdf
Github Repositoryhttps://github.com/microsoft/StudentSim

2. Qwen-Drive-1.0: An Initial Step towards a Vision-Language Foundation Model for Autonomous Driving (346 votes)​

Tác giả: Xin Zhou, Zongchuang Zhao, Zhibo Yang, Mingsheng Li, Humen Zhong, et al.

Xuất bản lúc: 2026-08-31

Tag: Vision-Language Models, Autonomous Driving, BEV Perception, Motion Planning, Flow Matching, Reinforcement Learning, 3D Object Detection, Occupancy Prediction

I. Main Problem:​

Các phương pháp điều khiển xe tự hành dựa trên Vision-Language-Action hiện nay thường chỉ tiếp tục huấn luyện mô hình VLM tổng quát bằng dữ liệu Visual Question Answering (VQA) chuyên ngành. Hạn chế:

  • VQA dạng văn bản không ràng buộc trực tiếp không gian 3D, độ sâu, hay occupancy; mô hình có thể mô tả cảnh trôi chảy nhưng vẫn sai vị trí, khoảng cách, hoặc thể tích vật thể.
  • Fine-tuning sâu trên dữ liệu lái xe dễ gây quên tri thức tổng quát đã học pretraining, làm giảm khả năng xử lý tình huống hiếm / out-of-distribution.
  • Thực tế triển khai đòi hỏi một mô hình duy nhất phục vụ cả hệ thống lái và cockpit (đối thoại, tuân lệnh), nên không thể đánh đổi hoàn toàn khả năng tổng quát lấy hiệu suất lái xe.

II. Main Idea:​

Qwen-Drive-1.0 giữ nguyên kiến trúc VLM pretrained (Qwen3.5-4B) và gắn thêm hai mô-đun bên ngoài để tạo một nền tảng thống nhất:

  • BEV Perception Head dò hỏi biểu diễn chung, đồng thời dự đoán 3D detection, semantic occupancy, và BEV map segmentation — cung cấp giao diện 3D kiểm chứng được thay vì chỉ suy luận ngôn ngữ.
  • Planning Expert sinh quỹ đạo ego tương lai bằng flow matching, dựa trên keys/values từ VLM đã cache.
  • Công thức huấn luyện 4 giai đoạn: (1) pretrain perception head, (2) huấn luyện chung perception + VQA để vừa học lái xe vừa giữ khả năng tổng quát, (3) pretrain Planning Expert bằng flow matching, (4) tinh chỉnh bằng reinforcement learning với reward tác vụ lái xe.

Ví dụ đời thường: giống như học lái xe không chỉ bằng cách kể lại cảnh đường, mà người lái còn phải tưởng tượng bản đồ 3D xung quanh xe và lên kế hoạch đường đi cụ thể; Qwen-Drive-1.0 buộc mô hình phải vẽ được “bản đồ trong đầu” và điều hướng thực sự thay vì chỉ nói về cảnh đường.

III. Main Results:​

  • 3D perception trên nuScenes: 43.95 mAP và 60.99 map mIoU; trên OpenScene: 43.45 mAP và 71.27 map mIoU, cạnh tranh với các detector 3D chuyên dụng.
  • Driving VQA: vượt xa Qwen3.5-4B tổng quát trên các tác vụ hiểu cảnh lái xe, đồng thời vẫn giữ được khả năng VQA tổng quát.
  • Motion planning: đạt PDMS 90.7 trên NAVSIM, Rater Feedback Score 7.91 trên tập test WOD-E2E, và tiềm năng tốt trong mô phỏng closed-loop AlpaSim.
  • Công thức huấn luyện phân tầng giúp mô hình học được cả nhận thức 3D, ngôn ngữ lái xe, và quy hoạch quỹ đạo mà không phá vỡ kiến trúc VLM gốc.

IV. Conclusion & Future Works:​

Qwen-Drive-1.0 chứng minh rằng một VLM pretrained có thể trở thành nền tảng cho xe tự hành khi được bổ sung đầu ra nhận thức 3D kiểm chứng và mô-đun quy hoạch chuyên biệt, đồng thời duy trì khả năng tổng quát để phục vụ cockpit. Hướng tương lai: mở rộng huấn luyện closed-loop thực tế, nâng cao độ tin cậy của perception head trong điều kiện thời tiết / ánh sáng cực đoan, và tích hợp sâu hơn giữa lý giải ngôn ngữ và quyết định quy hoạch.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng kiến trúc Qwen-Drive lên các nền tảng VLM lớn hơn và khảo sát đánh đổi giữa quy mô mô hình, độ trễ suy luận, và độ chính xác nhận thức 3D trong xe tự hành.
  2. Kết hợp dữ liệu closed-loop thực tế (tương tác với simulator có reward đa chiều) để tinh chỉnh Planning Expert, giảm phụ thuộc vào quỹ đạo ghi hình duy nhất trong học bắt chước.
  3. Phát triển các phương pháp giải thích đồng thời quỹ đạo dự định bằng ngôn ngữ tự nhiên, giúp người dùng / kỹ sư hiểu lý do đằng sau mỗi quyết định lái của mô hình nền tảng.

2. Patent:​

  1. Hệ thống xe tự hành đa năng trên điện thoại thông minh: dùng VLM chia sẻ giữa trợ lý cockpit (đối thoại, điều khiển giọng nói) và hệ thống lái (nhận thức BEV + quy hoạch quỹ đạo), tiết kiệm bộ nhớ và chip so với hai mô hình riêng biệt.
  2. Ứng dụng ghi hình camera ô tô tích hợp AI: khi người dùng đặt điện thoại làm camera hành trình, ứng dụng tự động dựng bản đồ BEV, phát hiện vật thể xung quanh xe và cảnh báo va chạm theo ngôn ngữ tự nhiên.
  3. Module huấn luyện nhanh cho xe tự lái cấp điện thoại: thiết bị di động tải về adapter BEV Perception Head + Planning Expert nhẹ, giữ nguyên VLM gốc, để thích ứng với địa hình / luật giao thông địa phương mà không cần fine-tune toàn bộ mô hình.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.00111
ArXiv Abstracthttps://arxiv.org/abs/2609.00111
PDF Downloadhttps://arxiv.org/pdf/2609.00111.pdf
Github RepositoryN/A

3. SMELT: Scaling Laws for Compute-Matched MoE Looped Transformers (77 votes)​

Tác giả: Shaowen Wang, Ge Zhang, Kairong Luo, Yuhao Wu, Shaofan Liu, et al.

Xuất bản lúc: 2026-09-01

Tag: MoE, Looped Transformers, Scaling Laws, Chinchilla, Mixture-of-Experts, Compute Efficiency, Attention Sink, In-Context Learning

I. Main Problem:​

Các mô hình Looped Transformer trước đây được đánh giá chủ yếu ở kích thước mô hình cố định, khiến lợi ích kiến trúc bị lẫn với chi phí FLOPs tăng thêm do lặp sâu. Để cô lập đúng lợi ích của việc lặp, cần giữ đồng thời ba ngân sách:

  • per-token FLOPs (chi phí huấn luyện/suy luận)
  • tổng số tham số không embedding (khả năng ghi nhớ kiến thức)
  • KV cache (chiều dài ngữ cảnh triển khai được)

Trước SMELT, chưa có nghiên cứu nào khớp cả ba ngân sách này cùng lúc và xây dựng scaling law riêng cho kiến trúc looped.

II. Main Idea:​

SMELT (SparseMoE Transformer, middle layers Loop Twice) là công thức thiết kế MoE với ba quy tắc:

  • Lặp một nửa các tầng giữa (50% span), không phải toàn bộ stack
  • Duy trì tỷ lệ effective-depth/width lớn hơn so với Baseline
  • Chỉ lặp đúng 2 lần; 3–4 lần bị thu hẹp chiều rộng quá mức dưới ngân sách FLOPs cố định

Để khớp ngân sách, mô hình looped thu hẹp hidden dimension H, tăng số lượng experts để bù tham số, và điều chỉnh head size + GQA ratio để giữ KV cache. Cập nhật residual trong vùng lặp được scale bởi 1/r để tránh residual stream bị phóng đại.

Ví dụ đời thường: giống như nhân viên kỹ thuật đọc lại phần giữa của sơ đồ máy hai lần thay vì đọc thêm nhiều trang mới; vẫn bỏ ra cùng thời gian và giấy in (FLOPs, tham số, bộ nhớ), nhưng tập trung sâu hơn vào đoạn quan trọng nhất để hiểu máy chạy.

III. Main Results:​

  • Hiệu quả tính toán: SMELT tiết kiệm 6.8–18.0% training FLOPs trên compute-optimal frontier so với unlooped Baseline ở sparsity S ≈ 97%.
  • Tỷ lệ mất mát: validation loss của SMELT giảm nhanh hơn theo compute và dữ liệu ở mọi quy mô thử nghiệm.
  • Quy mô mở rộng: công thức được scale qua lưới 4×4 (100M–1.6B active params, tương đương ~0.1B–54B non-embedding params) và 3 mức sparsity.
  • Benchmark xuôi dòng: SMELT vượt Baseline trên DCLM Core, MMLU, và gần như mọi cặp so sánh; lợi ích benchmark vượt quá dự đoán từ khoảng cách validation loss.
  • Miền hưởng lợi nhất: Code được lợi nhiều nhất; lợi ích tăng theo độ dài mẫu và số lượng in-context examples.
  • Phân tích cơ chế: lần lặp thứ hai làm giảm attention sink và chuyển khối lượng attention sang các token liên quan nội dung hơn, có thể giải thích lợi thế ICL.

IV. Conclusion & Future Works:​

SMELT chứng minh looping cải thiện Transformer ngay cả khi ba ngân sách (FLOPs, tham số, KV cache) được khớp chặt, đặc biệt trên dữ liệu có cấu trúc và tác vụ in-context learning. Công thức chuyển việc tái sử dụng độ sâu thành lợi ích đo được. Hướng tương lai: tối ưu hơn nữa chiến lược chọn span và số lần lặp theo quy mô, mở rộng sang các kiến trúc looped khác ngoài block-level, và kiểm tra chuyển giao lợi ích trên nhiều ngôn ngữ/domain hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Thiết kế dynamic loop span: tự điều chỉnh phần layer stack được lặp theo độ phức tạp của đầu vào thay vì cố định 50%.
  2. SMELT cho dense Transformers: kiểm tra xem công thức lặp tầng giữa 2 lần có giữ được lợi ích khi không có MoE để bù tham số dưới ràng buộc FLOPs/params/KV cache.
  3. Mở rộng phân tích cơ chế attention sink: liên kết độ giảm sink với khả năng in-context learning trên các tác vụ dài hạn và reasoning.

2. Patent:​

  1. Hệ thống huấn luyện ngôn ngữ lớn tiết kiệm FLOPs trên đám mây: sử dụng kiến trúc SMELT để giảm 7–18% chi phí tính toán huấn luyện trong khi vẫn đạt chất lượng tương đương, đặc biệt cho các mô hình code assistant.
  2. Module suy luận trên thiết bị di động: triển khai mô hình SMELT với KV cache cố định để chạy assistant AI trên điện thoại, tận dụng hiệu quả FLOPs và bộ nhớ tốt hơn kiến trúc Transformer chuẩn cùng quy mô.
  3. Công cụ cải thiện in-context learning cho IDE: mô hình looped ở tầng giữa được tối ưu để xử lý prompt dài nhiều ví dụ, nâng cao chất lượng gợi ý code và hoàn thành hàm trong môi trường lập trình.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.01343
ArXiv Abstracthttps://arxiv.org/abs/2609.01343
PDF Downloadhttps://arxiv.org/pdf/2609.01343.pdf
Github RepositoryN/A

4. UI-Venus-2 Technical Report (56 votes)​

Tác giả: Venus Team, Zhuohan Cai, Haoxing Chen, Jiaxuan Chen, Weizhi Chen, et al.

Xuất bản lúc: 2026-08-27

Tag: GUI Agent, Multimodal, Reinforcement Learning, Computer-Use, Foundation Model

I. Main Problem:​

Các tác nhân GUI đa phương thức tuy đạt điểm cao trên benchmark nhưng vẫn mong manh khi triển khai thực tế. Ba nút thắt chính làm giảm độ tin cậy:

  • Phạm vi môi trường hạn chế: thiếu ứng dụng di động đa ngôn ngữ, web động và desktop OS nguyên bản.
  • Câu lệnh tác vụ dễ vỡ: hướng dẫn sinh tự động thường không gắn với chức năng thực sự của ứng dụng, tạo ra quỹ đạo không thực thi được.
  • Verifier phần thưởng không đáng tin: nhãn thành công/sai nhị phân thô thiếu bằng chứng trực quan, dễ bị policy khai thác (reward hacking).

II. Main Idea:​

UI-Venus-2 là tác nhân GUI nền tảng đa năng, chạy trên mobile, web và desktop trong một framework suy luận–hành động kín (closed-loop): quan sát giao diện → suy luận trạng thái → thực hiện hành động → tiếp nhận phản hồi môi trường → quyết định tiếp theo. Ba trục được mở rộng song song:

  • Environments: 170+ ứng dụng di động đa ngôn ngữ (100+ tiếng Trung, 70+ tiếng Anh) và desktop OS nguyên bản.
  • Tasks: pipeline deep-research xây dựng catalog khả năng ứng dụng, sinh câu lệnh gắn sát chức năng thực tế qua cổng kiểm tra tính hợp lệ.
  • Verification: đánh giá theo trace-level (điểm then chốt trực quan, phân loại completed/partial/infeasible/failed) và sample-level (từng bước: correct/exploratory/ineffective/incorrect), kết hợp bỏ phiếu đa mô hình để tạo tín hiệu RL ổn định.

Huấn luyện gồm 3 giai đoạn: mid-training đa phương thức quy mô lớn, offline RL theo miền (Grounding, CAPTCHA, Mobile, Web, Computer), rồi Multi-teacher On-policy Distillation (MOPD) với giám sát có cấu trúc ưu tiên phần hành động, giúp hợp nhất các chuyên gia mà không làm loãng khả năng suy luận chung.

Ví dụ đời thường: giống như một thợ sửa máy vừa làm vừa tra sổ tay: mỗi bước đều nhìn lại máy đã phản ứng đúng chưa, ghi chú chỗ sổ tay sai để lần sau sửa, chứ không phải nhớ hết lý thuyết rồi làm một mạch đến cuối mới biết hỏng.

III. Main Results:​

  • VenusBench-Mobile: UI-Venus-2-27B đạt 48.7, vượt Claude-Opus-4.6 (36.5); phiên bản 9B cũng đạt 46.5.
  • MobileWorld: UI-Venus-2-27B đạt 76.1, 9B đạt 65.8, cạnh tranh với Qwen-UI-Agent-27B (82.1).
  • WebVoyager: UI-Venus-2-27B đạt 93.4, dẫn đầu; 9B đạt 90.8.
  • Odysseys: UI-Venus-2-27B đạt 80.4, vượt xa Claude-Opus-4.6 (68.9).
  • OSWorld-Verified: UI-Venus-2-27B đạt 80.5 (thứ hai sau Claude-Opus-4.8 83.4); 9B đạt 70.8.
  • DeskCraft: UI-Venus-2-27B đạt 55.5, dẫn đầu rõ rệt trước Kimi-K2.6 (41.4).
  • CAPTCHA & Grounding: UI-Venus-2-27B lần lượt đạt 79.9 và 80.1, đều dẫn đầu các baseline được so sánh.

IV. Conclusion & Future Works:​

UI-Venus-2 đẩy dòng UI-Venus từ tác nhân định hướng hành động sang nền tảng computer-use có khả năng khái quát, kiểm chứng và tự phản tỉnh. Bằng cách mở rộng đồng thời môi trường, phân phối tác vụ và cơ chế xác minh, mô hình cung cấp nền tảng mã nguồn mở mạnh mẽ và hiệu quả tính toán. Hướng tương lai: mở rộng sang nhiều nền tảng hơn (TV, IoT), cải thiện an toàn cho các hành động có hậu quả, và tinh chỉnh verifier để giảm thiểu reward hacking trong các tác vụ mở kéo dài.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Thiết kế verifier đa tầng cho tác nhân GUI: tích hợp Semantic Guided Verification với visual keypoints và bỏ phiếu đa mô hình để tạo tín hiệu phần thưởng chống reward hacking.
  2. Phương pháp sinh tác vụ function-grounded qua deep-research cho tập dữ liệu GUI quy mô lớn, đảm bảo tính khả thi và kiểm chứng qua cổng hợp lệ.
  3. MOPD với structured action-aware distillation cho tác nhân GUI: tập trung gradient vào token hành động có cấu trúc thay vì toàn bộ reasoning trace.
  4. Xây dựng tập dữ liệu CAPTCHA tổng hợp có ground truth xác định để huấn luyện và đánh giá khả năng vượt cổng xác thực trong quy trình tự động hóa.

2. Patent:​

  1. Trợ lý tự động hóa điện thoại thông minh đa ứng dụng: người dùng nói lệnh bằng tiếng Việt hoặc tiếng Trung, tác nhân quan sát màn hình, thao tác click/nhập/vuốt qua nhiều ứng dụng để hoàn thành tác vụ như đặt vé, chuyển tiền, đăng ký dịch vụ.
  2. Hệ thống tự động hóa desktop cho doanh nghiệp: nhân viên chỉ cần mô tả quy trình bằng ngôn ngữ tự nhiên, tác nhân thực hiện trên Windows/macOS, kiểm tra từng bước bằng ảnh chụp màn hình và dừng lại xin xác nhận trước hành động có rủi ro cao.
  3. Trình duyệt thông minh tự hoàn thành quy trình web phức tạp: điền biểu mẫu, vượt CAPTCHA, tải lên tài liệu và xác nhận thanh toán trên các trang thương mại điện tử và cổng dịch vụ công.
  4. Công cụ kiểm thử UI tự động cho ứng dụng di động: tự sinh kịch bản người dùng từ mô tả chức năng, chạy thử trên thiết bị thật hoặc giả lập, và báo cáo lỗi giao diện/bằng chứng bằng ảnh chụp từng bước.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.00028
ArXiv Abstracthttps://arxiv.org/abs/2609.00028
PDF Downloadhttps://arxiv.org/pdf/2609.00028.pdf
Github RepositoryN/A

5. H3-World: Turning Language Understanding into World Control (42 votes)​

Tác giả: Danze Chen, Zeqing Wang, Ziyue Lin, Xingyi Yang, Yeying Jin

Xuất bản lúc: 2026-09-01

Tag: World Models, Video Generation, Diffusion Transformers, LoRA, Text-to-Video, Interactive Control, MiniMax-H3

I. Main Problem:​

Các mô hình sinh video lớn như MiniMax-H3 đã học được động lực học trực quan phong phú, nhưng giao diện điều khiển của chúng còn thô: một câu lệnh ngôn ngữ chung cho cả đoạn video, không gắn hành động với khoảng thời gian cụ thể. Các hệ thống điều khiển hành động truyền thống lại phải thêm embedding hành động rời rạc, module điều kiện riêng, hoặc tin chỉnh toàn bộ backbone — tốn tài nguyên, dễ phá hỏng kiến thức pretrained, và khó khái quát.

II. Main Idea:​

H3-WORLD chuyển khả năng hiểu ngôn ngữ sẵn có của MiniMax-H3 thành điều khiển thế giới tương tác mà không thêm module hành động chuyên biệt. Quy trình:

  • Biểu diễn hành động (di chuyển nhân vật + chuyển động camera) dưới dạng câu lệnh văn bản có cấu trúc, ví dụ: “the man walks backward and strafes left, camera pans right slowly”.
  • Gắn mỗi câu lệnh vào đúng khoảng latent video tương ứng bằng positional encoding phản chiếu.
  • Dùng single-egress temporal attention routing để mỗi action span chỉ ảnh hưởng trực tiếp đến latent video đã ghép đôi, ngăn rò rỉ điều khiển sang các khung khác.
  • Chỉ fine-tune nhẹ LoRA (0.199% tham số) trên QKV/output projections và token refiner, giữ nguyên backbone, VAE, encoder.

Ví dụ đời thường: giống như người điều khiển máy bay mô hình bằng bộ đàm — thay vì lắp thêm tay cầm mới, ta chỉ cần dùng đúng ngôn ngữ máy bay đã hiểu, nói rõ lệnh cho từng đoạn đường, và để hệ thống tự điều chỉnh nhẹ cách nghe.

III. Main Results:​

  • Với 8.000 mẫu gameplay, 10.000 bước LoRA, 0.199% tham số huấn luyện, H3-WORLD đạt điều khiển nhân vật và camera chính xác trong khi vẫn giữ chất lượng sinh video.
  • So với global prompting của MiniMax-H3 đông lạnh (chỉ có phản ứng thô, không theo được lịch trình đổi hướng), H3-WORLD theo sát cả hai đoạn pan trái/phải trong cùng clip: ví dụ +52.7 trước chuyển và −106.0 sau chuyển.
  • So với direct action conditioning dạng additive-bias và FiLM, giao diện văn bản của H3-WORLD cho phản ứng nhân vật/camera phối hợp và nhất quán hơn rõ rệt.
  • Khái quát tổ hợp: tổ hợp character+camera chưa từng thấy trong huấn luyện (52/135 trường hợp) vẫn được thực hiện đúng khi hai thành phần đã xuất hiện riêng lẻ trong dữ liệu.
  • Chuyển tốt sang quan sát ngoài phân phối (out-of-distribution) với bối cảnh và nhân vật chưa thấy.

IV. Conclusion & Future Works:​

H3-WORLD chứng minh rằng khả năng điều khiển đã nảy sinh bên trong các video generator lớn và có thể được khai thác hiệu quả qua giao diện ngôn ngữ tự nhiên mà không cần module hành động riêng. Cách tiếp cận mở đường từ pretrained text-to-video sang interactive world models với chi phí huấn luyện rất thấp. Hướng tương lai: mở rộng cho nhiều loại hành động liên tục hơn, kết hợp phản hồi từ môi trường thực, và áp dụng cho các tác vụ điều khiển thiết bị/robot thông qua mô tả ngôn ngữ.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng temporal attention routing sang các mô hình video transformer khác (VD: Sora, Wan, CogVideo) để kiểm tra tính phổ quát của giao diện ngôn ngữ làm điều khiển.
  2. Kết hợp H3-WORLD với reinforcement learning từ phản hồi ngôn ngữ để huấn luyện agent quyết định hành động trong world model ảo.
  3. Nghiên cứu cách rút trích và chỉnh sửa kiến thức vật lý/causal đã nảy sinh trong video generator để cải thiện độ ổn định dài hạn của world model.

2. Patent:​

  1. Hệ thống điều khiển game AI qua mô tả ngôn ngữ: người chơi gõ lệnh như “character walks forward, camera pans left slowly”; engine sinh video khung hình tiếp theo đúng lịch trình mà không cần mô hình điều khiển riêng.
  2. Ứng dụng tạo video quảng cáo trên điện thoại: người dùng nhập kịch bản di chuyển nhân vật và chuyển động camera theo từng đoạn, ứng dụng tự sinh clip với khung hình và góc máy khớp kịch bản.
  3. Công cụ mô phỏng huấn luyện robot từ video: điều khiển ảo qua câu lệnh ngôn ngữ (“arm moves left, camera follows”), sinh chuỗi video kết quả để đánh giá chính sách robot trước khi triển khai thực.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.01560
ArXiv Abstracthttps://arxiv.org/abs/2609.01560
PDF Downloadhttps://arxiv.org/pdf/2609.01560.pdf
Github Repositoryhttps://github.com/Danzer1xxxxChan/H3-World

6. ZimaBlue: Evolving Generalizable World Action Models through Scalable Video Pre-training (40 votes)​

Tác giả: Xionghao Wu, Yijun Yang, Shiyang Zhou, Haoze Sun, Jianhui Liu, et al.

Xuất bản lúc: 2026-08-31

Tag: World Action Models, Robotics, Video Pre-training, Vision-Language-Action, Diffusion Models, Egocentric Video, Sim-to-Real

I. Main Problem:​

Điều khiển robot thao tác không thể mở rộng khi chỉ dựa vào dữ liệu quỹ đạo robot có gán nhãn hành động: thu thập tốn kém, đa dạng kém, và khó khái quát sang tác vụ/môi trường mới. Trong khi đó, video egocentric (góc nhìn thứ nhất) của con người và robot lại dồi dào, nhưng thiếu nhãn hành động nên không dùng trực tiếp cho huấn luyện VLA. Thách thức cốt lõi là biến nguồn kinh nghiệm thị giác phong phú nhưng không có hành động thành chính sách điều khiển robot hiệu quả.

II. Main Idea:​

ZimaBlue huấn luyện World Action Models (WAMs) theo ba giai đoạn để khai thác dữ liệu video quy mô lớn:

  • Stage I — Video Pre-training: học động lực học thị giác nhân quả từ hơn 120.000 giờ video egocentric (người + robot) mà không cần nhãn hành động.
  • Stage II — Video-Action Mid-training: dùng dữ liệu đa robot (cross-embodiment) với unified action representation 100 chiều để gắn kết động lực học thị giác với hành động thực thi.
  • Stage III — Post-training: tinh chỉnh mô hình lên robot đích và huấn luyện nhánh Fast để điều khiển thời gian thực.

Kiến trúc Slow-Fast cho phép triển khai: Slow DiT 5B chạy chậm, dự đoán video dài hạn và cung cấp K/V cache; Fast DiT 0.5B tái sử dụng cache đó để dự đoán hành động 30 Hz trên RTX 4090.

Ví dụ đời thường: giống như học việc trước tiên quan sát sư phụ làm việc cả tháng để hiểu vật thể và chuyển động, sau đó mới tập làm vài giờ trên máy thật để nhuần nhuyễn tay nghề, thay vì chỉ học lý thuyết rồi lao vào làm ngay.

III. Main Results:​

  • Zero-shot thật trên DROID: tỉ lệ thành công tăng từ 36.1% (chỉ 300 giờ dữ liệu đích) lên 46.1% khi thêm dữ liệu đa robot, và đạt 77.8% khi kết hợp 120.000 giờ video egocentric.
  • LIBERO-Plus: vượt qua mọi phương pháp WAM-based khác.
  • RoboTwin 2.0: kết quả cạnh tranh trên nhiều tác vụ mô phỏng đa dạng.
  • RoboCasa365: hiệu suất tổng thể mạnh nhất trong các phương pháp WAM, đặc biệt vượt trội trên unseen tasks.
  • Tốc độ: latency vòng điều khiển kín giảm từ 450 ms xuống 33 ms trên NVIDIA RTX 4090, đạt tốc độ 30 Hz nhờ Slow-Fast async, diffusion step distillation và TorchCompile.

IV. Conclusion & Future Works:​

ZimaBlue chứng minh rằng video pre-training quy mô lớng là trục mở rộng hiệu quả cho khả năng khái quát hóa của robot, vượt ra ngoài việc bắt chước các quỹ đạo đã được demo. Ba giai đoạn video → video-action → target-robot, kết hợp kiến trúc Slow-Fast, cho phép WAM vừa hiểu thế giới vừa phản hồi nhanh. Hướng tương lai: mở rộng quy mô dữ liệu video đa dạng hơn, cải thiện khả năng chuyển giao giữa các hình thái robot khác biệt, và nâng cao tính ổn định khi mô hình Slow phải xử lý các tình huống động lực học phức tạp, liên tục.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu tỷ lệ trộn tối ưu giữa video người, video robot thật và video mô phỏng trong giai đoạn pre-training để cân bằng đa dạng hình ảnh và tính vật lý của động lực học học được.
  2. Phát triển unified action representation cho các bàn tay linh hoạt (dexterous hands) và robot di động, mở rộng không gian trạng thái 100D thành interface chuẩn cho robot người máy toàn thân.
  3. Kết hợp World Action Models với planning dài hạn: dùng video dự đoán của Slow branch để tìm kiếm kế hoạch nhiều bước, sau đó Fast branch thực thi trong vòng lặp kín.

2. Patent:​

  1. Hệ thống huấn luyện robot điều khiển bằng video egocentric từ điện thoại thông minh: người dùng quay video thao tác hàng ngày (lật bánh, mở ngăn kéo), hệ thống tự động trích xuất động lực học và fine-tune WAM để robot bắt chước mà không cần lập trình.
  2. Module điều khiển robot gia đình với kiến trúc Slow-Fast trên chip di động: nhánh Fast chạy local để phản hồi va chạm, kẹp trượt trong vài chục ms; nhánh Slow chạy trên đám mây để cập nhật kế hoạch dài hạn và gửi guidance xuống điện thoại/robot.
  3. Nền tảng dạy robot kỹ năng mới qua video hướng dẫn trên mạng xã hội: robot xem clip TikTok/YouTube người dùng thực hiện công việc, tách biệt giai đoạn hiểu video (pre-training) và giai đoạn thực hành trên cánh tay robot cụ thể (post-training).

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.00188
ArXiv Abstracthttps://arxiv.org/abs/2609.00188
PDF Downloadhttps://arxiv.org/pdf/2609.00188.pdf
Github Repositoryhttps://github.com/ZimaBlue-WAM/ZimaBlue

7. From Production Traffic to Post-Training: Building a Self-Hosted LLM That Covers the Corporate Request Mix (32 votes)​

Tác giả: Olga Tsymboi, Dmitrii Stoianov, Ramil Latypov, Danil Taranets, Daniil Dryabin, et al.

Xuất bản lúc: 2026-09-01

Tag: Large Language Models, Post-Training, GRPO, Function Calling, Instruction Following, Model Merging, Enterprise LLM, Self-Hosting, Reinforcement Learning

I. Main Problem:​

Doanh nghiệp buộc phải tự host LLM để tuân thủ lưu trữ dữ liệu, nhưng việc liên tục áp dụng mô hình mới mà không thu hồi mô hình cũ khiến đội tàu GPU bị phân mảnh thành nhiều mô hình nhỏ, tăng chi phí/token. Bài toán cốt lõi:

  • hơn 200 ứng dụng nội bộ chạy trên một GPU pool hữu hạn
  • mỗi ứng dụng chọn mô hình riêng, chuyển đổi tốn kém
  • dữ liệu production dài đuôi, thay đổi nhanh hơn khả năng A/B test đáng tin cậy
  • cần một mô hình duy nhất đủ tốt cho toàn bộ hỗn hợp yêu cầu doanh nghiệp mà không mất khả năng tổng quát.

II. Main Idea:​

T-Tech xây dựng quy trình post-training từ phân tích lỗi thực tế trên traffic nội bộ, tập trung vào ba trục: instruction following, function calling, và phân phối tác vụ nội bộ. Thay vì tối ưu tất cả mục tiêu cùng lúc bằng một mô hình (dễ gây nhiễu phần thưởng), họ làm như sau:

  • huấn luyện một GRPO expert riêng cho mỗi trục, xuất phát từ chung một SFT checkpoint
  • mỗi expert sửa một failure mode đặc trưng: semantic collapse (IF), over-calling (FC), verbosity hacking (general)
  • ghép ba expert lại bằng two-stage SLERP để tạo mô hình triển khai duy nhất
  • đánh giá bằng benchmark nội bộ xây dựng từ traffic, stratified theo tác vụ, chấm bởi deterministic verifiers hoặc LLM judges đã hiệu chuẩn với người annotate

Ví dụ đời thường: giống như sửa một căn nhà cũ — thay vì thuê một thợ làm tất cả và làm hỏng cả ba chỗ, ta thuê ba thợ chuyên môn riêng (điện, nước, mộc), mỗi người sửa đúng lỗi của mình, rồi ghép kết quả lại thành một ngôi nhà hoàn chỉnh.

III. Main Results:​

  • Mô hình 32B vượt baseline ~7× lớn hơn (Qwen3-235B-A22B-Instruct-2507) trên các chỉ tiêu triển khai chính:
    • in-house Arena: 69.57 vs 65.83
    • instruction following nội bộ: 0.85 vs 0.83
    • function calling nội bộ: 0.79 vs 0.77
    • ruBFCLv3: 65.96 vs 64.42
    • AceBench: 73.50 vs 70.20
  • Thu hút 50% traffic nền tảng, tương đương 116 triệu request/tháng từ hơn 200 dịch vụ nội bộ, chỉ 6 tháng sau triển khai.
  • Giảm chi phí/token 2.8–3.9× so với mô hình lớn hơn, lên tới 4–9× cho các dịch vụ trước đây dùng mô hình lớn nhất.
  • Joint GRPO đa mục tiêu thất bại do cross-domain reward interference: cải thiện IF lại làm FC sụt giảm và ngược lại; chỉ có tách expert và merge mới giữ được cả ba trục.
  • Checkpoint công khai (không dùng dữ liệu nội bộ) đạt gần bằng bản deployed, chứng minh chính công thức post-training, không phải dữ liệu độc quyền, tạo ra lợi ích.

IV. Conclusion & Future Works:​

Bài học chính là enterprise post-training dễ kiểm soát hơn khi các mục tiêu được modular hóa: mỗi trục kỹ năng có failure mode và bản sửa riêng, việc tách ra giúp debug, audit và mở rộng dễ dàng hơn. Kết hợp với template-aware sampling và task-specific judging, công thức này tạo ra lộ trình thực tiễn từ phân tích lỗi production đến triển khai. Hướng tương lai: kiểm chứng công thức trên các ngôn ngữ khác, các họ mô hình khác và tổ chức khác; đồng thời giảm phụ thuộc vào LLM judges bằng cách hiệu chuẩn lại cho từng miền dữ liệu mới.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Áp dụng công thức tách expert + weight-space merging cho các cặp kỹ năng khác trong agentic LLM (ví dụ: coding vs long-context vs multi-turn reasoning), kiểm tra xem phương pháp có mở rộng quá ba trục không.
  2. Nghiên cứu cơ chế của reward hacking trong GRPO đa mục tiêu: xác định điều kiện mà joint training bắt đầu gây nhiễu và đề xuất reward shaping hoặc mixing schedule để giảm nhu cầu merge.
  3. Xây dựng quy trình tự động rút mẫu production thành benchmark nội bộ cho ngôn ngữ đa dạng hơn, kết hợp template-aware sampling với phát hiện concept drift theo thời gian.

2. Patent:​

  1. Hệ thống tự động tinh chỉnh LLM doanh nghiệp từ traffic thực: module thu thập log nội bộ, phân loại lỗi theo trục (instruction following, function calling, task distribution), sinh dữ liệu huấn luyện tổng hợp và merge các GRPO expert thành một mô hình duy nhất trên hạ tầng self-hosted.
  2. Trợ lý ảo doanh nghiệp trên điện thoại với LLM self-hosted: ứng dụng di động định tuyến yêu cầu nội bộ (soạn thảo, gọi API công ty, trích xuất thông tin) đến mô hình 32B chạy local/edge, tận dụng function-calling expert để gọi tool nội bộ chính xác mà không gửi dữ liệu ra ngoài.
  3. Module kiểm tra chất lượng LLM production liên tục: tự động rút mẫu traffic theo template, chấm bằng verifier xác định cho tác vụ khách quan và rubric checklist cho tác vụ mở, hiệu chuẩn với người annotate, sau đó kích hoạt vòng post-training mới khi điểm số giảm.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.01572
ArXiv Abstracthttps://arxiv.org/abs/2609.01572
PDF Downloadhttps://arxiv.org/pdf/2609.01572.pdf
Github RepositoryN/A

8. Hi-Q: Hierarchical Evidence-guided Query Refinement for Multi-Hop Question Answering (26 votes)​

Tác giả: Jueun Kim, Sungho Park, Wook-Shin Han

Xuất bản lúc: 2026-08-31

Tag: Multi-Hop Question Answering, Retrieval-Augmented Generation, Query Refinement, Hierarchical Decomposition, Evidence-Guided Control

I. Main Problem:​

Trong multi-hop QA, câu hỏi thường được diễn đạt ở granularity thô (một câu duy nhất), trong khi bằng chứng nằm rải rác ở granularity mịn trong nhiều tài liệu khác nhau. Sự không khớp này làm các phương pháp hiện tại thất bại theo ba cách:

  • Single retrieval cuốn nhiều ràng buộc vào một truy vấn, bỏ sót chuỗi lập luận đầy đủ.
  • Graph RAG xây cấu trúc đồ thị cố định, không biết đến từng truy vấn cụ thể.
  • Iterative retrieval liên tục viết lại truy vấn mà không kiểm tra bằng chứng có hỗ trợ hay không, khiến lỗi sớm lan truyền xuống các bước sau.

II. Main Idea:​

Hi-Q định khung multi-hop QA như tìm kiếm granularity truy vấn có thể retrieve được, điều khiển bởi phản hồi từ bằng chứng. Quy trình:

  • Tại mỗi query node, resolution operator retrieve và kiểm tra node hiện tại đã được bằng chứng hỗ trợ chưa.
  • Node resolved thì dừng; node unresolved thì kích hoạt binary decomposition.
  • Phép phân rã bảo toàn dependency: nhánh tiên quyết được giải trước, kết quả ghi vào lịch sử, rồi mới xử lý nhánh phụ thuộc.
  • Semantic coverage verifier sửa các phân rã làm mất ý định gốc trước khi đệ quy.
  • Kết quả là một cây truy vấn có topology do tín hiệu hỗ trợ từ corpus quyết định, không phải template cố định hay đồ thị pre-built.

Ví dụ đời thường: giống như thợ máy sửa một chiếc máy phức tạp — trước tiên thử chạy nguyên cụm, nếu cụm nào vẫn hoạt động tốt thì để nguyên; chỉ tháo rời cụm bị kẹt, sửa bộ phận nền tảng trước, rồi mới đến bộ phận dựa vào nó.

III. Main Results:​

  • Full-corpus retrieval (môi trường triển khai thực tế): Hi-Q đạt 52.3 EM / 64.0 F1 trung bình trên MuSiQue, HotpotQA và 2WikiMultiHopQA.
  • Vượt IRCoT +15.1 EM / +18.2 F1 ở full-corpus; vượt PropRAG +11.5 EM / +12.0 F1 trên MuSiQue-full và +9.9 EM / +12.1 F1 trên 2Wiki-full.
  • Controlled setting (so sánh với prior work): 57.9 EM / 69.3 F1 trung bình, vượt PropRAG +5.6 EM / +3.9 F1 và IRCoT +13.7 EM / +15.8 F1.
  • Ablation: bỏ hierarchical refinement mất ~6.4 EM, bỏ dependency-aware decomposition mất ~10.8 EM, bỏ failure-aware trigger mất ~3.4 EM.
  • Cost-matched Hi-Q: cùng số lượt gọi LLM với IRCoT (~2.93) nhưng nhanh hơn 25%, rẻ hơn 8.6× token API, và chính xác hơn +10.4 EM / +11.6 F1.

IV. Conclusion & Future Works:​

Multi-hop QA nên được xem không chỉ là tìm thêm tài liệu, mà là khám phá granularity truy vấn tại đó mỗi bước suy luận vừa retrieve được vừa trả lời được. Hi-Q thực hiện điều này mà không cần xây dựng đồ thị tri thức toàn corpus, vượt trội trên cả graph-based, iterative và agentic execution baselines.

Hướng mở rộng:

  • Tích hợp bộ điều khiển học có điều kiện (reinforcement learning hoặc cost-sensitive classifier) thay cho hard trigger hiện tại.
  • Mở rộng cho chuỗi lập luận dài hơn và các tác vụ open-domain fact verification.
  • Áp dụng tư tưởng evidence-guided refinement cho multi-document summarization và scientific literature review.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Kết hợp Hi-Q với reinforcement learning để học chính sách kích hoạt phân rã dựa trên cost-to-go thay vì hard threshold từ reader.
  2. Mở rộng hierarchical evidence-guided refinement cho bài toán multi-document summarization, trong đó mỗi node là một khía cạnh cần kiểm chứng trước khi tổng hợp.
  3. Áp dụng evidence-conditioned query refinement cho open-domain fact verification, tự động xác định granularity cần chứng minh cho từng claim.

2. Patent:​

  1. Trợ lý tìm kiếm doanh nghiệp trên điện thoại: người dùng đặt câu hỏi phức tạp nhiều bước; ứng dụng tự phân rã theo bằng chứng, giải yếu tố tiên quyết trước rồi mới truy vấn các yếu tố phụ thuộc để trả lời chính xác.
  2. Ứng dụng hỏi đáp hợp đồng di động: người dùng chụp hoặc tải tài liệu; hệ thống dùng Hi-Q để phân tích điều khoản phụ thuộc, ví dụ ‘điều khoản A áp dụng khi nào nếu điều khoản B đã kích hoạt?’
  3. Chatbot hỗ trợ khách hàng trên smartphone: tiếp nhận câu hỏi lỗi thiết bị đa bước, phân rã thành các bước kiểm tra có thứ tự phụ thuộc, verify từng bước bằng bài viết hỗ trợ trước khi đề xuất giải pháp cuối.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.30468
ArXiv Abstracthttps://arxiv.org/abs/2608.30468
PDF Downloadhttps://arxiv.org/pdf/2608.30468.pdf
Github RepositoryN/A

9. Uncovering Understanding-Generation Synergy in Native Unified Multimodal Models: From Representation, Task to System (22 votes)​

Tác giả: Penghao Wu, Haiwen Diao, Weichen Fan, Lewei Lu, Dahua Lin, et al.

Xuất bản lúc: 2026-09-01

Tag: Unified Multimodal Models, Visual Understanding, Image Generation, Representation Learning, Flow Matching, Transfer Learning, Spatial Intelligence

I. Main Problem:​

Các mô hình đa mô thức thống nhất (UMMs) có thể vừa hiểu vừa sinh ảnh trong một mô hình duy nhất, nhưng việc đặt chung giao diện chưa đủ để chứng minh hai năng lực giúp đỡ lẫn nhau. Hai mục tiêu có thể:

  • tăng cường lẫn nhau khi chia sẻ biểu diễn trực quan
  • cạnh tranh dung lượng khiến một chiều lấn át chiều còn lại
  • hoặc chỉ tồn tại song song mà không chuyển giao tri thức

Câu hỏi cốt lõi là: khi nào thống nhất tạo ra synergy và khi nào gây nhiễu?

II. Main Idea:​

Bài báo khảo sát mối quan hệ hiểu–sinh ở ba cấp độ trong bối cảnh native pixel-in/pixel-out (không dùng vision encoder/tokenizer pretrained):

  • Ở cấp độ biểu diễn: tách riêng đường tính toán trực quan cho hiểu (Und-V) và sinh (Gen-V) trong kiến trúc task-decoupled MOT, giúp hai nhiệm vụ cùng tiến bộ mà không cạnh tranh.
  • Ở cấp độ tác vụ: nếu hai chiều chia sẻ tri thức miền (hình học, SVG, 3D SI), huấn luyện chung tạo transfer hai chiều rõ rệt.
  • Ở cấp độ hệ thống: mô hình end-to-end vượt pipeline planner (hiểu) + executor (sinh) tách rời khi tác vụ phức tạp đòi hỏi cả hiểu, suy luận và sinh.

Ví dụ đời thường: giống như người thợ cắt tóc vừa quan sát khuôn mặt khách (hiểu), vừa tưởng tượng kiểu tóc phù hợp (suy luận), vừa cắt ra hình dáng đó (sinh) trong một luồng liên tục — thay vì chuyển qua ba người riêng biệt.

III. Main Results:​

  • Task-decoupled MOT đạt cả hiểu và sinh tốt hơn các kiến trúc khác: General 69.02, OCR 72.09, Vision-centric & SI 62.38, GenEval2 63.96.
  • Hình học: UND+GEN vượt UND trên Geometry3K (65.39 vs 59.90), PGPS9K, MathVerse và MathVista; chuyển cùng dữ liệu sinh thành mô tả văn bản chỉ cho lợi ích nhỏ hơn.
  • SVG: joint training cải thiện cả Image→SVG (81.70 vs 80.64) và SVG→Image (86.52 vs 80.21), đồng thời tăng điểm blind VQA từ 52.18 lên 58.54.
  • 3D SI: UND+GEN nâng trung bình 9 benchmark hiểu từ 57.15 lên 59.01; giảm lỗi Spatial-Edit (VE 0.3766 vs 0.4062, FE 0.6297 vs 0.6564) và cải thiện VSC (PSNR 19.15 vs 16.76).

IV. Conclusion & Future Works:​

Synergy giữa hiểu và sinh không tự động mà phụ thuộc vào ba yếu tố: (1) kiến trúc chuyên biệt hóa đúng chỗ, (2) tri thức miền chia sẻ giữa các tác vụ, và (3) tối ưu end-to-end khi hai năng lực cần tương tác chặt. Hướng tương lai: mở rộng sang world modeling, điều khiển robot, hoặc thiết kế routing động/conditional computation (MoE) để tự động cân bằng chia sẻ và chuyên biệt.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Kiến trúc routing động dựa trên nội dung token (MoE) để tự động cân bằng giữa chuyên biệt và chia sẻ giữa hiểu/sinh trong UMMs.
  2. Mở rộng nghiên cứu synergy cho video understanding và video generation với kiến trúc native pixel-in/pixel-out.
  3. Ứng dụng UMM end-to-end cho embodied AI, nơi hiểu cảnh, dự đoán quan sát tương lai và sinh hành động chia sẻ một mô hình thế giới chung.

2. Patent:​

  1. Ứng dụng chỉnh sửa ảnh thông minh trên điện thoại: người dùng nói "làm cho bầu trời trong hơn và thêm một chiếc thuyền"; mô hình UMM end-to-end tự hiểu ảnh gốc, suy luận về chỉnh sửa cụ thể và sinh ảnh kết quả trong một lần chạy.
  2. Trợ lý thiết kế nội thất: chụp ảnh phòng, mô tả mong muốn bằng giọng nói, hệ thống UMM hiểu không gian 3D hiện tại và sinh ảnh phòng đã được sắp xếp lại.
  3. Công cụ học toán hình học tương tác: học sinh vẽ/vẽ tay sơ đồ hình học, mô hình vừa giải bài toán vừa sinh/minh họa lại hình vẽ chính xác dựa trên cùng tri thức hình học.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.01607
ArXiv Abstracthttps://arxiv.org/abs/2609.01607
PDF Downloadhttps://arxiv.org/pdf/2609.01607.pdf
Github RepositoryN/A

10. Evaluating Multimodal LLMs as Generalist Vision-Language-Action Agents for Drone Control: Commanding, Approaching, Tracking and Searching (21 votes)​

Tác giả: Jaewoo Park, Minyoung Lee, Sukmin Seo, Moonbin Yim, Hyunwook Yoon, et al.

Xuất bản lúc: 2026-09-01

Tag: Vision-Language-Action, Multimodal LLMs, Robotics, Drone Control, Embodied AI

I. Main Problem:​

Các hệ thống điều khiển drone bằng MLLM hiện tại (TypeFly, PIVOT, SPF, Fly0, OnFly) càng ngày càng lấy trách nhiệm ra khỏi mô hình: dùng bộ phát hiện bên ngoài, bộ lập kế hoạch LiDAR, hay bộ xác minh trước khi tín hiệu đến động cơ. Điều này làm mờ đi câu hỏi cốt lõi: mô hình tự nó có thể làm gì khi phải đóng vai trò tác nhân điều khiển drone trong vòng lặp khép kín, với toàn bộ không gian hành động chỉ được khai báo bằng prompt.

  • Drone là thử thách khắt khe vì tư thế camera chính là hành động và lỗi tích lũy thay vì trung bình hóa.
  • Các benchmark trước đây so sánh hệ thống thay đổi, không giữ cố định agent để xem mô hình là biến số độc lập.

II. Main Idea:​

DroneCATS-Agent là kiến trúc drone mà MLLM có thể thay thế trực tiếp: không fine-tuning, không function-calling schema, chỉ dùng bốn hành động được khai báo hoàn toàn trong prompt:

  • go: chỉ điểm mục tiêu + ước lượng độ sâu để bay tiến.
  • rotate: xoay yaw tại chỗ để tìm mục tiêu ngoài khung hình.
  • think: giữ nguyên vị trí để cân nhắc khi cảnh không rõ ràng.
  • finished: tự tuyên bố đã đến nơi, sau đó bộ xác minh đánh giá.

Benchmark DroneCATS giữ agent cố định và thay đổi mô hình, đo bốn năng lực: approaching, tracking, searching, commanding (điều khiển đội drone N=4 từ một context).

Ví dụ đời thường: giống như nhân viên mới được giao tìm đến một văn phòng — không có sếp đứng cạnh báo "còn 5 mét nữa"; người đó phải tự lái xe, tự nhìn xung quanh khi lạc, tự dừng lại suy nghĩ khi đường rối, và tự biết mình đã đến để báo cáo.

III. Main Results:​

  • Tác vụ cơ bản nhất (bay đến mục tiêu nhìn thấy từ đầu) vẫn chưa giải quyết xong: mô hình tốt nhất đạt 65%, và khi mục tiêu bị che khỏi khung hình đầu tiên, tỉ lệ thành công giảm xuống 40%.
  • Thất bại nằm ở giao thức khai báo, không phải ở khả năng bay: các mô hình nhỏ (Qwen3.5-9B) đi vào bán kính thành công 90% — cao hơn cả frontier models — nhưng chỉ chuyển đổi thành công 35% vì khai báo sớm hoặc không khai báo.
  • 61/337 trường hợp không khai báo đã từng đi vào vùng thành công, chứng tỏ nếu chấm theo khoảng cách sẽ thổi phồng kết quả.
  • Trong điều khiển đội drone N=4, thứ hạng mô hình thay đổi hoàn toàn: GPT-5 đạt 20% trong khi Gemini 3.7 Flash đạt 80%.
  • Mô hình chuyên embodiment (Gemini Robotics-ER 2) không vượt trội hơn mô hình đa năng Gemini 3.7 Flash (47.5% vs 57.5%).
  • Thang Qwen3.5 tăng đơn điệu theo quy mô: 2B/4B/9B/27B cho kết quả 0%, 12.5%, 21.3%, 33.8%.

IV. Conclusion & Future Works:​

Vấn đề mở là thu hẹp khoảng cách ở chi phí tính toán onboard: tạo ra mô hình nhỏ, nhanh, có khả năng lập kế hoạch kiên trì và biết chính xác khi nào mình hoàn thành. DroneCATS được xây dựng để đo khoảng cách đó. Hướng tương lai:

  • Cải thiện khả năng tuân thủ giao thức ở các mô hình nhỏ.
  • Đánh giá phân cấp điều khiển đội drone, với một commander quản lý nhiều sub-agent mỗi drone.
  • Triển khai thực tế trên phần cứng drone giới hạn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Hệ thống phân cấp điều khiển đội drone: một commander MLLM phân chia nhiệm vụ và giám sát các sub-agent onboard, mỗi sub-agent tự khai báo hoàn thành để commander ra quyết định tập thể.
  2. Distilling protocol adherence từ frontier models xuống mô hình 2–4B cho drone edge: huấn luyện mô hình nhỏ không chỉ điểm mục tiêu đúng mà còn biết khi nào nên rotate, think, và finished.
  3. Benchmark điều khiển drone thực tế trên phần cứng nhúng: đo độ trễ, bộ nhớ và độ tin cậy của các MLLM mở khi chạy trực tiếp trên UAV thay vì qua API.

2. Patent:​

  1. Hệ thống điều khiển đội drone bằng một context MLLM duy nhất trên smartphone: ứng dụng di động nhận nhiều luồng video từ drone, phát lệnh cho từng máy bay và tổng hợp khai báo hoàn thành của cả đội.
  2. Module autopilot edge cho drone tự chủ: MLLM nhỏ onboard xử lý ảnh egocentric, tự quyết định xoay tìm kiếm, dừng suy nghĩ, và tự tuyên bố hoàn thành nhiệm vụ mà không cần GPS khoảng cách liên tục.
  3. Hệ thống tìm kiếm cứu nạn bằng đội drone phối hợp: một trung tâm chỉ huy dùng MLLM điều phối nhiều UAV từ nhiều góc nhìn để xác định và tiếp cận mục tiêu trong khu vực rộng lớn.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.01404
ArXiv Abstracthttps://arxiv.org/abs/2609.01404
PDF Downloadhttps://arxiv.org/pdf/2609.01404.pdf
Github Repositoryhttps://github.com/naver-ai/DroneCATS

11. Safin-1: Safety from Within through Memory-Native State Evolution (20 votes)​

Tác giả: Ming Zhang, Kaisen Yang, Shu Yu, Ermo Hua, Zhekai Chen, et al.

Xuất bản lúc: 2026-08-31

Tag: Foundation Models, Recurrent Memory, State Routing, AI Safety, Long-Context Models, Test-Time Adaptation, Memory-Augmented Networks

I. Main Problem:​

Các mô hình nền tảng khi xử lý tác vụ dài hạn cần lưu giữ thông tin xuyên suốt ngữ cảnh và gọi đúng khả năng ứng với tình huống hiện tại. Hiện tại, hai chức năng này được triển khai trên hai nền tảng tách biệt:

  • context chỉ được nén trong key–value cache hoặc recurrent state theo từng token;
  • các khả năng tái sử dụng như safety thường được mã hóa qua fine-tuning, adapter, hoặc can thiệp bên ngoài.

Hệ quả là an toàn thường bị coi như ràng buộc hành vi từ bên ngoài thay vì thuộc tính nội tại của mô hình, khó thích ứng và dễ bị vượt qua.

II. Main Idea:​

Safin-1 xây dựng khả năng an toàn trực tiếp từ bên trong mô hình qua kiến trúc MARCH (Memory-Anchor Routing across Context History). Quy trình:

  • recurrent backbone checkpoint state đang tiến hóa tại các ranh giới ngữ cảnh, tạo thành các state anchors có thể địa chỉ hóa;
  • mỗi token mới dùng content-conditioned routing để chọn anchors lịch sử phù hợp hoặc bỏ qua qua null option;
  • trạng thái được truy xuất được cộng vào luồng recurrent hiện tại mà không thay đổi cập nhật recurrent gốc;
  • ngoài anchors động, cùng một ngân hàng state còn chứa persistent capability states có thể học, trong đó Safety State là trường hợp đầu tiên — cho phép chuyên môn hóa safety tại test-time mà không sửa đổi backbone.

Ví dụ đời thường: giống như người lái xe taxi vừa nhớ lộ trình cũ vừa tự động kích hoạt chế độ lái cẩn thận khi vào đoạn đường trơn, mà không cần thay đổi kỹ năng lái cơ bản — trí nhớ và phản xạ an toàn cùng tồn tại trong cùng một "bộ nhớ nội".

III. Main Results:​

  • 0.8B MARCH: vượt Gated DeltaNet trên 8/8 benchmark ngôn ngữ (avg 41.5 vs 40.1), cải thiện +25% trung bình LongBench và +14% trên 6 bộ dữ liệu in-context retrieval.
  • NIAH / length extrapolation: MARCH vượt baseline recurrent ở 19/24 trường hợp, đặc biệt ở 32K (ngoài độ dài huấn luyện 16K) và các tác vụ multi-needle.
  • 4B / 35B-A3B Safin-1: tăng macro-average trên 10 capability benchmark từ 66.79 → 69.20 (4B) và 76.25 → 78.35 (35B-A3B); lợi ích lớn nhất ở reasoning và toán cạnh tranh.
  • Safety State: giảm ASR trung bình 42.3% (4B) và 52.3% (35B-A3B) so với backbone gốc, đồng thời over-refusal thấp hơn đáng kể so với LoRA rank-8 cùng điều kiện huấn luyện.
  • Hiệu quả: Top-4 sparse routing tăng gấp đôi throughput end-to-end ở 128K token và giảm core runtime khoảng một bậc so với dense routing.

IV. Conclusion & Future Works:​

Safin-1 chứng minh rằng trí nhớ mô hình có thể không chỉ là bản ghi thụ động của ngữ cảnh, mà còn là nền tảng nội tại để duy trì và điều chỉnh hành vi theo thời gian. Safety State là bước khởi đầu của Safety from Within, nhưng đây mới chỉ là khám phá kiến trúc ban đầu. Hướng tương lai: mở rộng sang các loại persistent states khác (suy luận, đa ngôn ngữ, tuân thủ domain-specific), cải thiện cơ chế routing, và kiểm chứng trên nhiều tác vụ an toàn rộng hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng MARCH cho các kiến trúc recurrent khác ngoài Gated DeltaNet (ví dụ Mamba, RWKV) để xác định điều kiện kiến trúc mà state routing mang lại lợi ích lớn nhất.
  2. Học nhiều persistent capability states đồng thời trong cùng một ngân hàng state và nghiên cứu cách chúng tương tác hoặc gây xung đột.
  3. Áp dụng Safety from Within cho các tình huống đối thủ động (adaptive jailbreak) để kiểm tra tính bền vững của persistent safety states theo thời gian.

2. Patent:​

  1. Hệ thống trợ lý ảo trên điện thoại với Safety State có thể bật/tắt: người dùng tải một state an toàn được chứng nhận; trợ lý giữ nguyên mô hình gốc nhưng tự động kích hoạt phản xạ từ chối khi phát hiện yêu cầu có hại, không cần cập nhật firmware.
  2. Ứng dụng chat doanh nghiệp với memory routing nội bộ: cuộc hội thoại dài hàng giờ được tóm tắt thành các state anchors; khi nhân viên hỏi lại, hệ thống truy xuất đúng đoạn lịch sử liên quan thay vì quét lại toàn bộ log.
  3. Chip/module AI edge với persistent safety state tích hợp phần cứng: thiết bị IoT/điện thoại giữ một bộ nhớ state cố định cho các quy tắc an toàn cục bộ, có thể cập nhật qua OTA mà không chạm vào weights mô hình chính.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.00092
ArXiv Abstracthttps://arxiv.org/abs/2609.00092
PDF Downloadhttps://arxiv.org/pdf/2609.00092.pdf
Github Repositoryhttps://github.com/AI45Lab/Safin-1

12. AgentJudgeBench: A Multi-Difficulty Benchmark for Evaluating LLM Judges on Agentic Tool-Calling (17 votes)​

Tác giả: Abhigya Verma, Amit Kumar Saha, Seganrasan Subramanian, Sai Harshitha Aluru

Xuất bản lúc: 2026-08-27

Tag: LLM-as-a-Judge, Agentic Tool-Calling, DAG Workflows, Benchmarking, LLMs

I. Main Problem:​

Người ta dùng LLM làm judge tự động để chấm điểm agent gọi hàm (tool-calling), nhưng độ tin cậy của các judge này trong workflow có cấu trúc DAG và phụ thuộc thực thi gần như chưa được kiểm chứng. Cụ thể:

  • Đúng/sai không phải văn phong hay sở thích, mà là chọn đúng công cụ, điền đúng tham số, xếp đúng thứ tự, và không sót ý định người dùng.
  • Các benchmark cũ chỉ báo cáo tỷ lệ đồng ý tổng hợp mà không thay đổi độ khó, topology DAG hay điều kiện có/không ground truth.
  • Nhà phát triển thiếu cơ sở để chọn judge, cấu hình nhiệt độ/prompt hay hiểu giới hạn của nó.

II. Main Idea:​

AgentJudgeBench là benchmark đầu tiên đo độ tin cậy của LLM-judge trong bối cảnh agentic tool-calling trên workflow DAG, tách biệt khỏi nhiệm vụ đánh giá văn bản mở rộng. Cách làm:

  • Xây dựng 3.808 mẫu trải đều 6 topology DAG (linear, fan-out, fan-in, diamond, optional enrichment, loop-like) và 3 cấp độ khó (easy/medium/hard), mỗi mẫu có ground-truth trace được kiểm chứng chương trình.
  • Cho 5 generator (3B–70B open-weight và GPT-5.4) tạo đầu ra, rồi dùng 6 judge (20B đến frontier) chấm điểm trong hai điều kiện song song: có ground truth và không có ground truth.
  • Đánh giá trên 4 trục độc lập: tool selection, parameter structure, sequence accuracy, query coverage.

Ví dụ đời thường: giống như một giám khảo phải chấm bài thi thực hành của thợ máy — không chỉ xem sản phẩm cuối có đẹp không, mà còn phải kiểm tra đúng dụng cụ, đúng cách lắp, đúng trình tự, đủ bước; đôi khi có đáp án mẫu, đôi khi chỉ có mô tả công việc và danh sách dụng cụ.

III. Main Results:​

  • Độ khó làm sụt độ chính xác đều đặn: alignment giảm dần từ easy → medium → hard trên tất cả 30 cặp (generator, judge); tốc độ sụt nhanh gấp ~1.5 lần khi không có ground truth.
  • Trần cấu trúc 77–82%: trên hard queries không có ground truth, cả 6 judge — từ 20B đến frontier — dồn vào dải hẹp 77–82%, bất chấp quy mô mô hình; đây là giới hạn của bài toán, không phải của một judge riêng.
  • Ground truth không phải lúc nào cũng tốt: cho frontier judge xem đáp án mẫu làm giảm alignment — GPT-5.4 −1.5 pp, Gemini-2.5-Pro −3.9 pp — dấu hiệu của hiện tượng over-anchoring (bám cứng vào trace mẫu mà đánh phạt những cách làm tương đương về mặt chức năng).
  • CoT và nhiệt độ gần như vô hiệu: chain-of-thought chỉ thêm ≤0.3 pp; nhiệt độ 0.3–1.0 chỉ lệch ≤0.6 pp.
  • Prompt rubric có cấu trúc là đòn bẩy lớn nhất: cải thiện +4.8–+6.5 pp so với free-form trên một cặp (judge, generator), nhưng hiệu quả phụ thuộc judge/generator và trên hard query có thể đảo chiều.
  • Với ground truth, QwQ-32B khớp chương trình nhất; GPT-OSS-120B khớp con người nhất trong thử nghiệm validation 120 mẫu. Không ground truth, các frontier judge chỉ dẫn đầu sít sao trong cùng trần chung.

IV. Conclusion & Future Works:​

AgentJudgeBench phơi bày các giới hạn cơ bản của LLM-judge hiện tại trong đánh giá agentic tool-calling: trần cấu trúc khi thiếu ground truth, over-anchoring khi có ground truth, và sự đồng thuận giả tạo trên các hard query. Các hướng nghiên cứu tiếp theo gồm:

  • Thiết kế kỹ thuật giảm over-anchoring cho frontier judge khi được cung cấp ground-truth trace.
  • Phát triển judge lai kết hợp chấm chương trình cho các khía cạnh có thể kiểm chứng và LLM cho các khía cạnh mềm hơn.
  • Kiểm tra xem các failure mode tại evaluation time có lan truyền vào tín hiệu huấn luyện (reward model, model-selection gate) hay không.
  • Mở rộng benchmark sang multi-turn tương tác thực và dữ liệu doanh nghiệp thật để kiểm tra domain drift.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Chiến lược prompt chống over-anchoring cho LLM-judge khi đánh giá tool-calling có ground truth: từ phân tích lỗi của GPT-5.4 và Gemini-2.5-Pro đến rubric độc lập hơn.
  2. Tối ưu hóa cấu trúc rubric theo từng cặp judge-generator: học cách chọn định dạng prompt dựa trên chất lượng generator và độ khó query để tối đa hóa alignment.
  3. Hybrid judge cho agentic workflows: tích hợp chấm điểm chương trình deterministic với suy luận LLM để vượt trần 77–82% khi không có ground truth.
  4. Từ evaluation judge đến reward model: nghiên cứu liệu lỗi của LLM-judge trên AgentJudgeBench có làm nhiễu tín hiệu huấn luyện các agentic model hay không.

2. Patent:​

  1. Hệ thống đánh giá tự động cho workflow agent doanh nghiệp: tiếp nhận DAG nhiệm vụ, dự đoán tool-calling của agent, so sánh với trace chuẩn theo 4 trục (tool, tham số, thứ tự, coverage) và báo cáo điểm tin cậy có điều kiện có/không ground truth.
  2. Trình kiểm thử ứng dụng di động thông minh: mô phỏng người dùng ra lệnh bằng ngôn ngữ tự nhiên, ghi lại chuỗi gọi API/touch events mà app thực hiện, rồi dùng LLM-judge để xác định xem app có chọn đúng chức năng, điền đúng form, và hoàn thành đúng ý định người dùng hay không.
  3. Module tư vấn cấu hình judge cho nền tảng AI agent: đầu vào là độ khó query, khả năng lấy ground truth, và chất lượng generator dự kiến; đầu ra là khuyến nghị chọn judge, nhiệt độ, và định dạng prompt rubric để đạt alignment cao nhất.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.26623
ArXiv Abstracthttps://arxiv.org/abs/2608.26623
PDF Downloadhttps://arxiv.org/pdf/2608.26623.pdf
Github RepositoryN/A

13. DiagEvo: Diagnosis-Guided Self-Evolution via Hierarchical Error Memory (15 votes)​

Tác giả: Xincheng Wei, Yifan Ding, Yoshua Li, Dongsheng Ma, Rongxiang Weng, et al.

Xuất bản lúc: 2026-09-01

Tag: Self-Evolution, Self-Play, Curriculum Learning, LLMs, Reinforcement Learning

I. Main Problem:​

Self-play giúp mô hình ngôn ngữ tự cải thiện qua nhiều vòng, nhưng khi thiếu định hướng, hiệu suất của solver (mô hình giải bài) có thể bão hòa hoặc tụt dốc. Các phương pháp không có định hướng chỉ điều chỉnh câu hỏi theo độ khó, khả năng học hoặc đa dạng — những tín hiệu này không chỉ ra lỗi suy luận cụ thể nào cần sửa. Các phương pháp có định hướng lại phụ thuộc vào tài nguyên ngoài vòng self-play như ví dụ của con người, kho tài liệu hoặc nhãn độ khó. Bài báo tìm cách lấy tín hiệu curriculum hoàn toàn từ lịch sử thất bại của chính solver.

II. Main Idea:​

DiagEvo biến lịch sử thất bại của solver thành chương trình tập luyện tự động theo bốn bước:

  • Một mô hình diagnostician nhỏ so sánh quỹ đạo sai với quỹ đạo đúng để rút ra nguyên nhân lỗi có tính tái sử dụng.
  • Các nguyên nhân được lưu trong bộ nhớ phân cấp: các skill node nhóm nguyên nhân liên quan, mỗi nguyên nhân có trạng thái Active (đang cần tập) hoặc Mastered (đã tự nhất quán tốt).
  • Challenger pha trộn cause-targeted generation (lấy mẫu theo tần suất lỗi Active) với free exploration (để duy trì độ bao phủ), đồng thời dùng cross-state stitching ghép một Active với một Mastered cùng skill.
  • Double-confidence filtering chỉ giữ lại câu hỏi trung bình khó có câu trả lời đa số rõ ràng dẫn đầu so với câu trả lời thứ hai, tránh pseudo-label nhiễu làm củng cố lỗi.

Solver được huấn luyện trên các cặp câu hỏi–nhãn giả đã lọc; các quỹ đạo sai từ đó lại cập nhật bộ nhớ, khép kín vòng lặp.

Ví dụ đời thường: giống như huấn luyện viên cá nhân quan sát vận động viên đập tay sai ở nhiều bài tập khác nhau, nhóm lỗi vào nhóm “vai yếu”, rồi thiết kế bài tập đặc trị nhóm cơ đó xen kẽ với bài tập tổng hợp, và chỉ tính lần lặp nào động tác rõ ràng đúng để tránh tập nhầm tư thế.

III. Main Results:​

  • Với diagnostician 4B mặc định, DiagEvo vượt mọi baseline trên cả ba solver Qwen3-4B, Qwen3-8B, OctoThinker-8B về điểm trung bình chung trên 9 benchmark.
  • Trên Qwen3-8B, DiagEvo đạt 72.3% trung bình toán học, +4.5 so với R-Zero và +1.2 so với DARC; tổng thể đạt 57.4%, +1.1 so với DARC dù không dùng tài nguyên bên ngoài.
  • Tăng quy mô diagnostician lên 30B-A3B hoặc 235B-A22B chỉ cải thiện thêm khoảng 1 điểm toán học, cho thấy phần lớn lợi ích đến từ cơ chế chứ không phải từ mô hình chẩn đoán lớn.
  • Ablation trên Qwen3-8B:
    • Đóng băng challenger: toán học giảm 3.8 điểm.
    • Chỉ free exploration hoặc chỉ cause-targeted đều thua pha trộn.
    • Bộ nhớ trạng thái + cross-state stitching cải thiện cả hai mảng.
    • Thêm ràng buộc tương đối (double-confidence) tăng toán học thêm 1.4 điểm so với chỉ ràng buộc tuyệt đối.
  • Hiệu suất tăng liên tiếp trong 5 vòng đầu, sau đó có dấu hiệu giảm nhẹ.

IV. Conclusion & Future Works:​

DiagEvo chứng minh rằng chẩn đoán có cấu trúc từ lịch sử thất bại có thể tạo tín hiệu curriculum bên trong vòng self-play, giảm phụ thuộc vào tài nguyên nhiệm vụ bên ngoài. Điều này mở đường cho các hệ thống tự cải thiện lặp lại bền vững hơn. Hướng tương lai: mở rộng sang các miền không có đáp án dễ kiểm chứng (ví dụ sáng tạo, lập luận pháp lý), nâng cao hiệu quả bộ nhớ khi số lượng nguyên nhân lỗi lớn, và kết hợp chặt chẽ hơn với các hướng recursive self-improvement ở cấp độ thuật toán huấn luyện.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Áp dụng DiagEvo cho self-evolution trong code generation: dùng phản hồi từ compiler/test runner thay thế oracle agreement để chẩn đoán nguyên nhân lỗi biên dịch/thực thi và sinh câu hỏi luyện tập đặc trị.
  2. Mở rộng bộ nhớ phân cấp lỗi sang multi-agent reasoning, trong đó nhiều solver chia sẻ skill node để phát hiện lỗi chung và phối hợp challenger sinh câu hỏi ép các điểm yếu tập thể.
  3. Kết hợp cơ chế double-confidence filtering với verifiable rewards trong RLVR để tự động chuyển đổi giữa self-play không nhãn và self-play có phản hồi bên ngoài khi sẵn có.

2. Patent:​

  1. Ứng dụng gia sư AI trên điện thoại: phân tích lịch sử làm bài sai của người dùng, trích xuất nguyên nhân lỗi định kỳ (ví dụ “nhầm dấu phân số”), rồi tự động sinh bài tập đặc trị và chỉ ghi nhận bài làm đúng khi câu trả lời rõ ràng, ổn định.
  2. Hệ thống chatbot hỗ trợ khách hàng tự cải thiện: chẩn đoán các nguyên nhân thất bại lặp lại từ log hội thoại, nhóm theo kỹ năng (xử lý khiếu nại, tìm sản phẩm), và sinh hội thoại tập huấn tổng hợp cho mô hình mà không cần dữ liệu nhãn của con người.
  3. Module tự lọc câu trả lời cho trợ lý LLM chạy cục bộ: khi người dùng hỏi, chạy nhiều mẫu, chỉ cung cấp câu trả lời khi đáp án đa số vượt trội rõ ràng so với đáp án thứ hai; các câu hỏi đã lọc được dùng để tự huấn luyện mô hình trên thiết bị.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.00768
ArXiv Abstracthttps://arxiv.org/abs/2609.00768
PDF Downloadhttps://arxiv.org/pdf/2609.00768.pdf
Github RepositoryN/A

14. Harness-of-Harness: Multi-Day Autonomous Software Development with Continual Improvement (11 votes)​

Tác giả: Haoyang Yan, Min-le Su, Hangfan Zhang, Zhanhao Li, Chen Zhang, et al.

Xuất bản lúc: 2026-09-01

Tag: Autonomous Software Development, Coding Agents, LLMs, Iterative Development, Continual Improvement, Benchmark Evaluation

I. Main Problem:​

Các coding agent hiện đại vẫn chủ yếu hoạt động trong chế độ human-in-the-loop: con người phải định nghĩa task, hướng dẫn quyết định trung gian, review code và can thiệp khi lỗi. Khi chuyển sang phát triển phần mềm tự chủ — chỉ từ yêu cầu cấp cao đến sản phẩm hoàn chỉnh — agent phải đối mặt với bài toán horizon dài:

  • dễ quên yêu cầu/quyết định thiết kế ban đầu khi trajectory kéo dài
  • các fix cục bộ có thể vi phạm ràng buộc ở chỗ khác, gây regression
  • lỗi và quyết định tệ dần tích lũy, bằng chứng mới làm mất hiệu lực giả định cũ
  • dễ rơi vào vòng lặp sửa chữa lặp lại, kiểm tra dư thừa, hoặc tuyên bố hoàn thành sớm khi chức năng còn thiếu.

Thách thức thực sự không phải chỉ là chạy lâu hơn, mà là duy trì tiến bộ mạch lác và hiệu quả theo thời gian.

II. Main Idea:​

Harness-of-Harness (HoH) bao bọc các coding-agent harness sẵn có và tổ chức phát triển thành vòng lặp lặp lại planning → coding → testing, trong đó trạng thái phần mềm và bằng chứng đánh giá được mang qua từng vòng. Cấu trúc ba vai:

  • Project Planner: tổng hợp yêu cầu (PRD) và bằng chứng từ lượt trước, chọn một increment nhỏ nhưng cục bộ đầy đủ để làm tiếp, xác định cả chức năng cần giữ nguyên.
  • Developer: warm-start từ artifact hiện tại, triển khai plan với testing tích hợp sớm (shift-left), chỉnh sửa và tự kiểm tra cục bộ.
  • QA Tester: đánh giá candidate ở chế độ read-only/frozen bằng cả white-box và black-box tests trên nhiều chiều chất lượng (functional, usability, visual, audio...), rồi xuất structured evidence bundle cho Planner lượt sau.

Các nguyên tắc thiết kế cốt lõi:

  • cân bằng sửa lỗi với phát triển khả năng mới
  • tách test lúc implement khỏi đánh giá độc lập
  • chỉ ràng buộc đầu ra có thể kiểm chứng (schema), không ép buộc workflow
  • progressive disclosure: lịch sử, plan, report lưu trên filesystem, chỉ trích xuất chi tiết khi cần
  • khuyến khích tái sử dụng tài nguyên/kỹ năng thay vì tái tạo
  • versioned history ở cả cấp role và iteration để rollback và học lại từ lỗi cũ.

Ví dụ đời thường: giống như một đội xây nhà không đổ bê tông liên tục mà không kiểm tra; mỗi ngày, kiến trúc sư xem ảnh hiện trạng và biên bản kiểm định, chọn một hạng mục nhỏ nhưng hoàn chỉnh để làm, thợ xây tự đo kiểm ngay sau khi gắn, rồi một thanh tra độc lập ký nhận trước khi lập kế hoạch ngày mai — và nhật ký công trình lưu lại để không tái phạm lỗi cũ.

III. Main Results:​

  • GameCraft-Bench: HoH@3 vượt Vanilla +16.62–22.08 điểm Overall trên 45 tác vụ game với cả ba cấu hình model/harness.
  • FrontierSWE: đạt +19–29 điểm mean reward; riêng Codex + GPT-5.5 tiến từ 22% lên 72.67% qua 10 iterations.
  • ProgramBench: cải thiện +6.09–16.85 điểm pass rate so với baseline.
  • Tổng hợp: trung bình gain tương đối 52.25%, cao nhất 82.86% sau 3 iterations.
  • Triển khai đa ngày thực tế: hơn 70 iterations tự động phát triển một game FPS chơi được, có cốt truyện mạch lạc, combat/vũ khí/AI kẻ địch, HUD/menu, animation CG, âm thanh và hình ảnh polished; toàn bộ lịch sử commit công khai trên GitHub.

IV. Conclusion & Future Works:​

HoH biến coding agent từ single-pass code generation thành quy trình phát triển lặp có kiểm soát, trong đó artifact phần mềm và evidence state cùng tiến hóa. Việc tách ba vai Planner–Developer–QA Tester, giới hạn increment, và duy trì lịch sử versioned giúp giảm regression, tránh sửa lỗi vô hướng, và giữ tiến bộ ổn định qua nhiều ngày.

Hướng tương lai:

  • mở rộng cho các dự án lớn hơn, đa repository, hoặc hệ thống phân tán
  • cơ chế adaptive iteration budget — tự động dừng khi gain bão hòa thay vì cố định số vòng
  • thư viện skill/tool discovery động, tự động tìm MCP/tool/domain skill phù hợp
  • tích hợp human-in-the-loop có chọn lọc tại các điểm quyết định quan trọng
  • mở rộng sang triển khai multi-week với quản lý technical debt và refactor có chủ đích.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Dynamic iteration termination for autonomous coding loops: học cách dừng hoặc kích hoạt thêm vòng lặp dựa trên lịch sử gain và evidence state thay vì budget cố định.
  2. Cross-project memory for coding agents: tái sử dụng issue ledger, verified behaviors và skill library giữa các dự án để tăng tốc greenfield development.
  3. Skill-grounded harness synthesis: tự động phát sinh và cập nhật Markdown-based skills cho engine cụ thể (Unity, Godot, web framework) dựa trên trajectory thực tế.
  4. Comparative study of role separation versus monolithic agents in long-horizon software development: đo lường lợi ích của Planner/Developer/QA Tester độc lập so với một agent đơn thực hiện cả ba.

2. Patent:​

  1. Nền tảng phát triển ứng dụng di động tự động đa ngày: người dùng nhập mô tả sản phẩm cấp cao trên điện thoại, hệ thống agent tự lập plan, code, test, build APK/IPA qua nhiều ngày, gửi thông báo tiến độ và cho phép người dùng chơi thử bản build giữa chừng.
  2. Module QA độc lập cho no-code/low-code app builders: khi người dùng tạo app bằng prompt, một agent QA Tester tự động chạy white-box/black-box tests trên nhiều thiết bị, phát hiện regression và từ chối publish nếu chưa đạt schema chất lượng.
  3. Hệ thống quản lý lịch sử phát triển game tự động: lưu versioned artifact, plan, screenshot, test report sau mỗi iteration; khi phát hiện regression tự động rollback về trạng thái đã verify và đề xuất hướng khắc phục dựa trên issue ledger cũ.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.01481
ArXiv Abstracthttps://arxiv.org/abs/2609.01481
PDF Downloadhttps://arxiv.org/pdf/2609.01481.pdf
Github RepositoryN/A