Chuyển tới nội dung chính

🤗 Daily Hugging Face Paper Digest - 2026-06-10

Báo cáo được tạo tự động vào lúc 2026-06-30 11:56:36 bằng mô hình deepseek-ai/deepseek-v4-flash.

📰 Summary of Papers​

1. ABot-Earth 0.5: Generative 3D Earth Model (485 votes)​

Tác giả: Ming Qian, Tianjian Ouyang, Mingchao Sun, Zijian Wang, Jincheng Xiong, et al.

Xuất bản lúc: 2026-06-08

Tag: 3D Gaussian Splatting, Generative 3D Models, Satellite Imagery, Digital Earth, Large-Scale Reconstruction, Embodied AI, Level-of-Detail

I. Main Problem:​

Các phương pháp tái tạo 3D truyền thống dựa trên chụp ảnh và LiDAR có chi phí thu thập dữ liệu cao, độ trễ xử lý lớn và rào cản tính toán, khiến việc tạo mô hình Trái Đất quy mô hành tinh theo yêu cầu là bất khả thi. Đồng thời, các mô hình sinh 3D hiện tại chỉ dừng ở tái tạo vật thể đơn lẻ hoặc khung cảnh tổng hợp, thiếu tính chân thực không gian địa lý và không thể áp dụng cho các ứng dụng mô phỏng thực tế như điều hướng UAV.

II. Main Idea:​

ABot-Earth 0.5 là khung sinh 3D sử dụng trực tiếp biểu diễn 3D Gaussian Splatting (3DGS) để tổng hợp các môi trường 3D rộng lớn, liền mạch chỉ từ ảnh vệ tinh. Mô hình được huấn luyện trên dữ liệu tái tạo đô thị thực nhờ engine ABot-3DGS, cho phép sinh ra hình học và kết cấu chân thực với tốc độ dưới 10 phút/km². Khung tích hợp sẵn cấu trúc Level-of-Detail (LOD) đa phân cấp để hiển thị tương tác thời gian thực trên bản đồ web, và có thể được dùng trong mô phỏng cho robot bay (UAV) để thu hẹp khoảng cách sim-to-real.

III. Main Results:​

  • Đạt FID 16.1 trên tập kiểm thử so với baseline tốt nhất 69.5, cho thấy cải thiện vượt trội về chất lượng sinh ảnh.
  • Sản xuất hơn 320.000 khối suy luận từ ảnh vệ tinh toàn cầu trong chưa đầy 10 ngày với 1.000 GPU.
  • Mỗi suy luận xử lý vùng 1,6 km² từ ảnh vệ tinh 4K, gấp 64 lần kích thước ô huấn luyện.
  • Tổng cộng khoảng 3,2 nghìn tỷ nguyên thủy Gaussian được tổ chức theo LOD 6 cấp cho duyệt web tương tác.
  • Hỗ trợ tích hợp mô hình địa danh thực vào cảnh nền sinh ra, tạo trải nghiệm thực-ảo kết hợp.

IV. Conclusion & Future Works:​

ABot-Earth 0.5 chứng minh khả năng sinh 3D quy mô hành tinh với chi phí thấp, hiệu quả cao, mở ra ứng dụng trong quy hoạch đô thị, giám sát môi trường và mô phỏng robot. Hướng phát triển tương lai bao gồm tối ưu hóa suy luận liền mạch giữa các khối, nâng cao chất lượng vùng không đô thị và mở rộng tích hợp với nhiều loại cảm biến hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu chiến lược blending liên khối để đạt sự liền mạch toàn cầu mà không cần suy luận lại toàn bộ, dùng bộ nhớ đệm Gaussian biên.
  2. Mở rộng mô hình sang sinh 3D từ ảnh đơn góc nhìn bất kỳ (street-view) thay vì chỉ ảnh vệ tinh, bằng cách học ánh xạ đa góc nhìn trong không gian latent 3DGS.
  3. Phát triển mô hình điều biến không gian (spatial modulation) cho phép tùy chỉnh phong cách đô thị (kiến trúc, mật độ cây xanh) dựa trên các yếu tố văn hóa hoặc khí hậu.

2. Patent:​

  1. Hệ thống mô phỏng đám đông và giao thông tích hợp 3DGS sinh ra từ ảnh vệ tinh, cho phép kiểm tra kịch bản sơ tán khẩn cấp trực tiếp trên bản đồ web mà không cần scan thực địa.
  2. Ứng dụng hướng dẫn du lịch thực tế tăng cường: khi người dùng chụp ảnh vệ tinh vùng xa xôi, hệ thống tổng hợp mô hình 3D tức thì để hiển thị overlay cảnh quan (núi, sông) trên màn hình điện thoại.
  3. Dịch vụ lên kế hoạch đường bay UAV nông nghiệp: người dùng nhập tọa độ trên bản đồ, hệ thống sinh 3D địa hình và tự động tính toán lộ trình tránh chướng ngại vật (cây cối, tòa nhà) dựa trên hình học thực do mô hình sinh ra.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.09967
ArXiv Abstracthttps://arxiv.org/abs/2606.09967
PDF Downloadhttps://arxiv.org/pdf/2606.09967.pdf
Github Repositoryhttps://github.com/amap-cvlab/ABot-Earth-0.5

2. Kwai Keye-VL-2.0 Technical Report (192 votes)​

Tác giả: Kwai Keye Team, Bin Wen, Changyi Liu, Chengru Song, Chongling Rao, et al.

Xuất bản lúc: 2026-06-09

Tag: Mixture-of-Experts, Multimodal LLM, Video Understanding, Sparse Attention, Reinforcement Learning, Knowledge Distillation, Long Context

I. Main Problem:​

Các mô hình đa phương thức hiện tại gặp hai rào cản khi xử lý video dài hàng giờ: (1) chi phí tính toán và bộ nhớ KV cache tăng vọt khi mở rộng ngữ cảnh, buộc phải giảm mẫu khung hình mất tính liên tục; (2) tích hợp các tác vụ đa dạng (công cụ, tìm kiếm, mã) thường gây quên kiến thức nền tảng (STEM, suy luận ngôn ngữ).

II. Main Idea:​

Keye-VL-2.0 giới thiệu kiến trúc MoE 30B chỉ kích hoạt 3B tham số, kết hợp DeepSeek Sparse Attention (DSA) cho phép xử lý ngữ cảnh 256K token mà không mất mát thông tin. Để khắc phục quên kiến thức nền, tác giả đề xuất Cross-Modal Multi-Teacher On-Policy Distillation (MOPD): các mô hình chuyên gia cung cấp phản hồi token-level trên các quỹ đạo do học sinh sinh ra, cô lập chuyên môn riêng rẽ rồi chưng cất ngược vào backbone MoE, kết hợp với Context-RL và Video-RL để ổn định suy luận chuỗi dài.

III. Main Results:​

  • Đạt SOTA trên các benchmark TimeLens (ActivityNet, QVHighlights, Charades) về định vị thời gian chính xác, vượt cả các mô hình đóng như Gemini-3-Flash.
  • Vượt trội trên Video-MME-v2 và LongVideoBench cho hiểu video cực dài với khả năng mở rộng phi tuyến.
  • Duy trì hiệu suất suy luận STEM và ngôn ngữ tổng quát nhờ MOPD chống quên kiến thức.
  • Chỉ kích hoạt 3B tham số trong tổng số 30B, đảm bảo triển khai hiệu quả.

IV. Conclusion & Future Works:​

Keye-VL-2.0 giải quyết thành công thách thức mở rộng ngữ cảnh và xung đột đa tác vụ, cung cấp nền tảng đa phương thức hiệu quả cho cộng đồng mã nguồn mở. Hướng phát triển tương lai có thể tối ưu chiến lược sparse attention và mở rộng cho các tác vụ tương tác phức tạp hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu áp dụng DSA cho các kiến trúc MLLM khác (ví dụ dựa trên LLaMA) để xác minh tính khả chuyển của cơ chế sparse attention trong hiểu video dài.
  2. Phát triển phiên bản MOPD tự động chọn chuyên gia dựa trên độ khó tác vụ, giảm phụ thuộc vào thiết kế thủ công và cải thiện khả năng tổng quát hóa.
  3. Kết hợp Keye-VL-2.0 với các mô hình thế giới để cho phép dự đoán và lập kế hoạch trong môi trường video tương tác, mở rộng khả năng agentic ra ngoài các tác vụ hiện tại.

2. Patent:​

  1. Hệ thống trợ lý ảo trên điện thoại có thể tóm tắt và trả lời câu hỏi từ video dài (ví dụ bài giảng, hội nghị) mà không cần tải toàn bộ video, dùng sparse attention để chỉ xử lý các khung hình quan trọng.
  2. Ứng dụng chỉnh sửa video trên di động: người dùng nói yêu cầu như 'bỏ qua cảnh mở đầu dài' và hệ thống tự động phát hiện mốc thời gian nhờ khả năng định vị chính xác của mô hình, giúp cắt ghép nhanh chóng.
  3. Tính năng tìm kiếm thông tin trong video giám sát trên điện thoại: người dùng nhập mô tả sự kiện, hệ thống quét video dài hàng giờ và trả về các đoạn chứa sự kiện đó nhờ cơ chế temporal grounding và token-level attention.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.10651
ArXiv Abstracthttps://arxiv.org/abs/2606.10651
PDF Downloadhttps://arxiv.org/pdf/2606.10651.pdf
Github Repositoryhttps://github.com/Kwai-Keye/Keye

3. Role-Agent: Bootstrapping LLM Agents via Dual-Role Evolution (76 votes)​

Tác giả: Xucong Wang, Ziyu Ma, Shidong Yang, Tongwen Huang, Pengkun Wang, et al.

Xuất bản lúc: 2026-06-09

Tag: LLM Agents, Reinforcement Learning, Self-Evolving Agents, World Models, Environment Modeling, Agent-Environment Co-evolution, GRPO

I. Main Problem:​

Các tác nhân LLM hiện tại thường chỉ được huấn luyện trong môi trường tĩnh, nơi phản hồi thưa thớt và không nhắm vào điểm yếu cụ thể của tác nhân. Điều này cản trở khả năng khái quát hóa. Việc xây dựng môi trường tổng hợp thích ứng tốn kém và phức tạp.

II. Main Idea:​

Role-Agent dùng một LLM duy nhất đóng vai trò kép: vừa là tác nhân, vừa là môi trường, nhờ hai module World-In-Agent (WIA) và Agent-In-World (AIW). WIA yêu cầu tác nhân dự đoán trạng thái tương lai sau mỗi hành động; độ khớp giữa dự đoán và thực tế được dùng làm phần thưởng quá trình để khuyến khích lập luận có nhận thức về môi trường. AIW phân tích nguyên nhân thất bại từ quỹ đạo hỏng, truy xuất tác vụ có lỗi tương tự, và điều chỉnh phân phối dữ liệu huấn luyện để tác nhân tập trung vào điểm yếu lịch sử của mình.

III. Main Results:​

  • Trên ALFWorld và WebShop, Role-Agent vượt baseline GiGPO mạnh ~4.2% và ~6.9% về tỷ lệ thành công với Qwen2.5-1.5B.
  • Trên search-augmented QA, Role-Agent đạt trung bình 45.8%, cao hơn GiGPO 3.7%, cải thiện rõ nhất trên multi-hop QA.
  • Ablation cho thấy cả WIA và AIW đều đóng góp độc lập; bỏ AIW giảm 5.0% trên WebShop.
  • Phân tích độ nhạy chỉ ra hệ số α=1.0 và H=5% số bước tối đa cho hiệu suất tốt nhất.
  • Role-Agent chỉ tăng ~5.2% chi phí tính toán so với GiGPO.

IV. Conclusion & Future Works:​

Role-Agent chứng minh một LLM duy nhất có thể đảm nhiệm cả hai vai trò tác nhân và môi trường, giúp tiến hóa đồng tiến có khởi động hiệu quả. Hướng tương lai: mở rộng ra môi trường đa phương thức hoặc nhúng (embodied) bằng cách dùng mô tả trạng thái ngôn ngữ-hình ảnh hoặc khớp trạng thái tiềm ẩn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Kết hợp cơ chế dự đoán trạng thái tương lai của WIA với kiến trúc world model riêng để tác nhân có thể lập kế hoạch dài hạn tốt hơn mà không phụ thuộc vào phản hồi từ môi trường.
  2. Mở rộng AIW sang phân tích lỗi trên nhiều tác vụ đa dạng cùng lúc, cho phép tác nhân tự động phát hiện và khắc phục các lỗ hổng về kiến thức nền (knowledge gaps) thay vì chỉ lỗi hành động.
  3. Nghiên cứu khả năng chuyển giao (transfer learning) của các failure mode được AIW học: liệu các mẫu lỗi từ một môi trường (ví dụ WebShop) có thể hữu ích khi huấn luyện tác nhân cho môi trường khác (ví dụ ALFWorld) không.

2. Patent:​

  1. Trợ lý ảo trên điện thoại tự phát hiện lỗi logic khi thực hiện chuỗi tác vụ (ví dụ: đặt lời nhắc rồi tìm kiếm web), tự động phân tích bước thất bại và đề xuất cách sửa mà không cần người dùng giải thích.
  2. Hệ thống tự động cập nhật ứng dụng hướng dẫn nấu ăn: khi người dùng làm sai một bước (ví dụ: bỏ nhầm nguyên liệu), ứng dụng phân tích kiểu lỗi (nhầm nguyên liệu, bỏ qua thứ tự) và điều chỉnh các gợi ý sau đó để tránh lỗi tương tự.
  3. Công cụ lập kế hoạch du lịch thông minh: khi kế hoạch bị hủy do lịch trình xung đột, hệ thống tự động phân tích lỗi (ví dụ: ước lượng thời gian di chuyển sai), và trong lần lập kế hoạch tiếp theo sẽ ưu tiên tìm kiếm và đề xuất các lộ trình có đặc điểm tương tự để tránh lỗi đó.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.10917
ArXiv Abstracthttps://arxiv.org/abs/2606.10917
PDF Downloadhttps://arxiv.org/pdf/2606.10917.pdf
Github Repositoryhttps://github.com/AMAP-ML/roleagent

4. Retrospective Harness Optimization: Improving LLM Agents via Self-Preference over Trajectory Rollouts (69 votes)​

Tác giả: Wenbo Pan, Shujie Liu, Chin-Yew Lin, Jingying Zeng, Xianfeng Tang, et al.

Xuất bản lúc: 2026-06-04

Tag: LLM Agents, Self-Supervised Learning, Harness Optimization, Preference Learning, Agent Trajectory, Self-Improvement, DPP

I. Main Problem:​

Các tác nhân AI hiện tại phụ thuộc vào một bộ kỹ năng, công cụ và quy trình làm việc. Việc cải thiện liên tục bộ khung này rất quan trọng để thích ứng với tác vụ mới, nhưng hầu hết phương pháp tối ưu hiện tại yêu cầu tập validation có nhãn thật dữ liệu khó thu thập trong môi trường triển khai thực tế.

II. Main Idea:​

Bài báo giới thiệu Retrospective Harness Optimization (RHO), một phương pháp tự giám sát giúp tối ưu bộ khung của tác nhân chỉ từ các quỹ đạo trong quá khứ mà không cần nhãn ngoài. RHO chọn một tập lõi đa dạng các tác vụ khó, giải lại chúng song song, trích xuất tín hiệu tự xác thực và tự nhất quán, sau đó tạo ra các bản cập nhật khung và chọn bản tốt nhất dựa trên sự ưa thích nội tại của tác nhân.

III. Main Results:​

  • Một vòng tối ưu duy nhất cải thiện tỷ lệ đậu trên SWE-Bench Pro từ 59% lên 78% mà không cần chấm điểm bên ngoài.
  • RHO vượt trội so với các phương pháp tích lũy kinh nghiệm trực tiếp và phương pháp tối ưu có phản hồi validation ở cùng ngân sách tính toán.
  • Công cụ và kỹ năng mới được thêm vào khung giúp tác nhân tập trung vào xác minh, thay đổi hành vi và duy trì độ chính xác cao hơn trong các phiên dài hạn.

IV. Conclusion & Future Works:​

RHO mở ra hướng phát triển tác nhân tự cải thiện từ kinh nghiệm tích lũy khi triển khai, nơi dữ liệu có nhãn hiếm. Hướng tới là mở rộng cho các miền khác nhau, cải thiện chiến lược chọn lõi và giảm thiểu rủi ro từ quỹ đạo bị nhiễm độc.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu mở rộng RHO cho các tác vụ một lần hoặc không thể lặp lại, sử dụng mô phỏng hoặc suy luận tưởng tượng thay vì giải lại thực tế.
  2. Kết hợp RHO với học tăng cường từ phản hồi của con người để kết hợp ưu điểm của tự giám sát và đánh giá ngoài.
  3. Phát triển phương pháp chọn lõi thích ứng, tự động điều chỉnh độ khó và đa dạng dựa trên hiệu quả tối ưu hóa quan sát được.

2. Patent:​

  1. Hệ thống cập nhật kỹ năng điện thoại thông minh: phân tích lịch sử tương tác người dùng, chọn lọc các tác vụ thất bại, tự động tạo và triển khai macro/phím tắt mới mà không cần dữ liệu đào tạo.
  2. Công cụ hỗ trợ lập trình tự động: sau mỗi phiên làm việc, hệ thống phân tích các lần sửa lỗi chưa thành công, tạo ra snippet mã hoặc tập lệnh kiểm tra để cải thiện workflow phát triển phần mềm cho người dùng.
  3. Trợ lý ảo khắc phục sự cố thiết bị: ghi lại các thao tác người dùng và lỗi gặp phải khi cài đặt, sau đó tạo hướng dẫn khắc phục cá nhân hóa và tự động áp dụng cho thiết lập tương lai.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.05922
ArXiv Abstracthttps://arxiv.org/abs/2606.05922
PDF Downloadhttps://arxiv.org/pdf/2606.05922.pdf
Github Repositoryhttps://github.com/wbopan/retro-harness

5. SearchSwarm: Towards Delegation Intelligence in Agentic LLMs for Long-Horizon Deep Research (54 votes)​

Tác giả: Pu Ning, Quan Chen, Kun Tao, Xinyu Tang, Tianshu Wang, et al.

Xuất bản lúc: 2026-06-08

Tag: LLM, Agent, Delegation, Deep Research, Context Management, Supervised Fine-Tuning, MoE

I. Main Problem:​

Các tác vụ dài hạn khiến bối cảnh của LLM ngày càng phình to, vượt quá giới hạn cửa sổ bối cảnh vốn có. Các phương pháp quản lý bối cảnh hiện tại thường thụ động, nén sau khi tràn hoặc xóa thông tin theo quy tắc cố định, không có chiến lược chủ động. Huấn luyện dữ liệu cho năng lực ủy thác—khả năng phân tách và phân công việc cho tác nhân con—rất khan hiếm và chưa được khám phá bài bản.

II. Main Idea:​

Bài báo giới thiệu SearchSwarm, một hệ thống theo mô hình 'main agent phân tách, subagent thực thi'. Nhóm tác giả thiết kế một harness gồm prompt và công cụ để hướng dẫn mô hình ủy thác một cách thông minh, bao gồm viết brief toàn diện cho subagent và yêu cầu báo cáo có trích dẫn. Các quỹ đạo tương tác chất lượng cao từ harness được dùng làm dữ liệu supervised fine-tuning (SFT) để nội hóa năng lực ủy thác vào trọng số mô hình, chỉ cần một mô hình duy nhất cho cả hai vai trò.

III. Main Results:​

  • SearchSwarm-30B-A3B đạt 68.1 trên BrowseComp và 73.3 trên BrowseComp-ZH, tốt nhất trong số các mô hình cùng kích thước.
  • Trên GAIA và xbench-DeepSearch đạt lần lượt 82.5 và 80.8, cạnh tranh với các mô hình lớn hơn gấp 10 lần.
  • Cải thiện tuyệt đối 24.7 điểm so với mô hình nền không có quản lý bối cảnh trên BrowseComp.
  • Ablation: harness đầy đủ cho hiệu quả (+10.0) vượt trội so với chỉ cấp công cụ ủy thác (+2.3).
  • Khả năng học từ dữ liệu ủy thác khái quát hóa tốt sang môi trường single-agent và tác vụ mở.

IV. Conclusion & Future Works:​

SearchSwarm chứng minh rằng ủy thác thông minh giúp mô hình nhẹ đạt hiệu suất cạnh tranh với hệ thống lớn. Hướng phát triển tương lai bao gồm mở rộng harness cho các miền tác vụ khác và khám phá các cơ chế huấn luyện tinh vi hơn cho năng lực ủy thác.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu hiệu quả của harness đối với các kiến trúc mô hình khác nhau (dense vs. MoE) khi huấn luyện năng lực ủy thác bằng SFT.
  2. Phát triển phương pháp tự động sinh dữ liệu ủy thác chất lượng cao cho các lĩnh vực chuyên sâu như y học hoặc nghiên cứu pháp lý, không chỉ tìm kiếm đơn thuần.
  3. Mở rộng khái niệm ủy thác cho hệ thống đa cấp (nhiều hơn một lớp subagent) và phân tích ảnh hưởng của độ sâu ủy thác đến kết quả.

2. Patent:​

  1. Hệ thống trợ lý nghiên cứu trên điện thoại: người dùng đặt câu hỏi dài; ứng dụng chia nhỏ thành các câu hỏi phụ, gửi từng câu đến mô hình con trên đám mây và tổng hợp báo cáo ngắn gọn có trích dẫn.
  2. Tính năng 'tra cứu thông minh' trong trình duyệt di động: khi người dùng đọc một chủ đề phức tạp, ứng dụng tự động phân tích thành các khái niệm nhỏ, tra cứu song song và hiển thị tóm tắt có nguồn gốc rõ ràng.
  3. Công cụ soạn thảo văn bản có trợ lý: khi người dùng viết báo cáo, trợ lý tự động phân tách yêu cầu tìm kiếm thành các truy vấn con, thu thập thông tin song song và chèn kết quả có trích dẫn trực tiếp vào văn bản.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.09730
ArXiv Abstracthttps://arxiv.org/abs/2606.09730
PDF Downloadhttps://arxiv.org/pdf/2606.09730.pdf
Github Repositoryhttps://github.com/Search-Swarm/SearchSwarm

6. SCAIL-2: Unifying Controlled Character Animation with End-to-end In-Context Conditioning (51 votes)​

Tác giả: Wenhao Yan, Fengjia Guo, Zhuoyi Yang, Jie Tang

Xuất bản lúc: 2026-06-09

Tag: Video Diffusion Models, Character Animation, End-to-End Learning, In-Context Conditioning, Data Synthesis, DPO, Image-to-Video

I. Main Problem:​

Hầu hết các phương pháp hoạt hình nhân vật hiện tại đều dùng biểu diễn trung gian như skeleton hoặc mặt nạ nền, dẫn đến mất thông tin và nhập nhằng trong các tình huống phức tạp như tương tác tay-chân vật thể hoặc hoạt hình đa nhân vật. Thiếu dữ liệu ghép cặp end-to-end (đầu vào là video chuyển động gốc, đầu ra là nhân vật mới thực hiện cùng động tác) khiến cho hướng này chưa được khai thác.

II. Main Idea:​

SCAIL-2 đề xuất khung end-to-end không dùng biểu diễn trung gian, trực tiếp ghép video driving vào context của mô hình khuếch tán video. Để tạo dữ liệu huấn luyện, tác giả xây dựng pipeline tổng hợp MotionPair-60K: dùng các mô hình có sẵn để sinh video nhân vật mới từ video driving thật, sau đó lấy video sinh làm đầu vào điều khiển và video thật làm mục tiêu. Các tác vụ con (animation, replacement, multi-character) được thống nhất qua cơ chế in-context mask conditioning và mode-specific RoPE, giúp mô hình hiểu ngữ cảnh nào cần giữ nguyên và luồng chuyển động nào gắn với nhân vật nào. Cuối cùng, Bias-Aware DPO khắc phục lỗi chi tiết nhỏ (ngón tay) bằng cách xây dựng cặp ưu tiên từ vòng lỗi của pipeline sinh.

III. Main Results:​

  • Trên đánh giá con người với 30 video, SCAIL-2 thắng SCAIL (68.3%), Wan-Animate (65.0%) và gần bằng Kling 3.0 (36.7%) về độ khớp chuyển động.
  • Với hoạt hình đa nhân vật, mô hình vượt MultiAnimate 93.3% về độ cô lập nhận dạng.
  • Ở chế độ replacement, SCAIL-2 thắng MoCha (57.1%) và Wan-Animate (71.4%) về độ khớp chuyển động.
  • Dù huấn luyện ít dữ liệu skeleton, mô hình vẫn đạt kết quả cạnh tranh trên các chỉ số ảnh (SSIM 0.6453, FVD 287.11).
  • Các thử nghiệm gỡ bỏ (ablation) xác nhận mỗi thành phần (mask, RoPE, DPO) đều đóng góp quan trọng.

IV. Conclusion & Future Works:​

SCAIL-2 chứng minh rằng hoạt hình nhân vật end-to-end vượt trội so với các phương pháp dùng biểu diễn trung gian, đặc biệt trong các tình huống phức tạp và tích hợp môi trường. Hạn chế chính là sự phụ thuộc vào chất lượng dữ liệu tổng hợp; các nghiên cứu tương lai có thể cải thiện pipeline sinh dữ liệu chất lượng cao hơn để mở rộng sang các tác vụ khác như đồng bộ môi và biểu cảm khuôn mặt.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng pipeline tổng hợp dữ liệu end-to-end cho hoạt hình khuôn mặt và cử chỉ chi tiết, tận dụng các mô hình sinh tiên tiến để tạo cặp driving video – mục tiêu với biểu cảm phức tạp.
  2. Nghiên cứu cách tích hợp thông tin chiều sâu (depth) hoặc bề mặt (mesh) vào in-context mask conditioning để nâng cao độ chính xác trong tương tác đa nhân vật chồng lấn.
  3. Áp dụng Bias-Aware DPO cho các miền khác (ví dụ: sinh chuyển động toàn thân robot từ video mẫu) để khắc phục lỗi do data pipeline sinh ra.

2. Patent:​

  1. Ứng dụng trên điện thoại: người dùng quay một đoạn video ngắn, chọn một bức ảnh nhân vật hoạt hình; hệ thống tự động sinh video nhân vật đó nhảy theo điệu nhạc hoặc thực hiện động tác giống hệt người trong video, không cần gắn marker.
  2. Tính năng chỉnh sửa video trên ứng dụng thương mại điện tử: người dùng thay người mẫu quần áo trong video bằng nhân vật ảo hoặc người khác, trong khi vẫn giữ nguyên nền và chuyển động của quần áo, phục vụ thử đồ ảo.
  3. Hệ thống tạo nội dung giải trí nhanh: nhập một video hành động và một ảnh thú cưng (mèo, chó); mô hình sinh video thú cưng thực hiện đúng động tác đó, phục vụ mạng xã hội hoặc quảng cáo.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.10804
ArXiv Abstracthttps://arxiv.org/abs/2606.10804
PDF Downloadhttps://arxiv.org/pdf/2606.10804.pdf
Github Repositoryhttps://github.com/zai-org/SCAIL-2

7. Beyond Uniform Token-Level Trust Region in LLM Reinforcement Learning (42 votes)​

Tác giả: Renjie Mao, Xiangxin Zhou, Lvfang Tao, Yixin Ding, Yu Shi, et al.

Xuất bản lúc: 2026-06-09

Tag: Reinforcement Learning, LLM, Trust Region, PPO, Token-Level RLVR, Policy Optimization

I. Main Problem:​

Các phương pháp RLVR cho LLM hiện tại áp dụng ngưỡng đồng nhất cho mọi token, bỏ qua hai vấn đề của sinh tự hồi quy: sai lệch token đầu gây lỗi dồn tích trên chuỗi dài, và không tính đến độ trôi lệch tích lũy của tiền tố. Điều này dẫn đến điều tiết thiếu ở token đầu và thừa ở token cuối, làm mất ổn định huấn luyện và suy giảm suy luận.

II. Main Idea:​

CPPO đề xuất mask token-level với hai cơ chế song song: ngưỡng token có trọng số vị trí (siết chặt token đầu, nới lỏng token cuối theo độ dài chuỗi) và ngân sách tích lũy tiền tố (theo dõi độ lệch trung bình có trọng số trên tiền tố, giảm ngưỡng token hiện tại khi độ lệch tiền tố vượt quá ngưỡng). Cả hai ràng buộc này được chứng minh lý thuyết là cho chặn cải thiện chính sách chặt hơn so với ngưỡng đồng nhất.

III. Main Results:​

  • Trên bộ AIME24/25/26, CPPO đạt điểm trung bình cao nhất ở nhiều kích thước mô hình (Qwen3-30B-A3B-Base).
  • Đường cong validation của CPPO ổn định hơn và hội tụ nhanh hơn so với các baseline như PPO, DPPO, GRPO.
  • Ablation xác nhận cả hai thành phần (trọng số vị trí và ràng buộc tích lũy) đều có đóng góp tích cực.
  • CPPO tích hợp dạng drop-in mask, không thay đổi cấu trúc thuật toán huấn luyện chính.
  • Lý thuyết chỉ ra ngưỡng tích lũy δb cho chặn sai số chặt hơn so với ngưỡng đơn δ.

IV. Conclusion & Future Works:​

CPPO khắc phục hạn chế về vị trí và tích lũy của các trust-region đồng nhất, mang lại cải thiện cả về lý thuyết lẫn thực nghiệm cho RLVR. Hướng tương lai có thể mở rộng cho các kiến trúc decoder khác và tích hợp với cơ chế thưởng phức tạp hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng ý tưởng trọng số vị trí cho RLVR với phần thưởng ở cấp segment (câu, đoạn), điều chỉnh ngưỡng theo vai trò ngữ pháp của token.
  2. Kết hợp ràng buộc tích lũy tiền tố với KL-divergence có trọng số động theo độ bất định của chính sách, thay vì cố định.
  3. Áp dụng cơ chế trọng số vị trí cho PPO trong các tác vụ sinh văn bản dài (tổng hợp, viết nội dung) để kiểm soát trôi lệch ngữ nghĩa.

2. Patent:​

  1. Hệ thống tinh chỉnh chatbot trên điện thoại: khi người dùng sửa câu trả lời, hệ thống dùng ngưỡng động theo vị trí token để cập nhật trọng số mà không làm hỏng các câu trả lời trước.
  2. Phương pháp kiểm soát chất lượng hội thoại trong trợ lý ảo: theo dõi độ sai lệch tích lũy của tiền tố, tự động giảm mức độ đổi mới (exploration) của token tiếp theo để tránh lạc đề.
  3. Công cụ fine-tuning mã nguồn trên IDE di động: khi lập trình viên chấp nhận gợi ý của AI, trọng số vị trí đảm bảo các dòng đầu của hàm được ưu tiên giữ đúng logic, trong khi dòng cuối có thể linh hoạt hơn.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.10968
ArXiv Abstracthttps://arxiv.org/abs/2606.10968
PDF Downloadhttps://arxiv.org/pdf/2606.10968.pdf
Github RepositoryN/A

8. Flow-DPPO: Divergence Proximal Policy Optimization for Flow Matching Models (41 votes)​

Tác giả: Bowen Ping, Xiangxin Zhou, Penghui Qi, Minnan Luo, Liefeng Bo, et al.

Xuất bản lúc: 2026-06-09

Tag: Reinforcement Learning, Flow Matching, Image Generation, Trust Region Optimization, Policy Optimization, KL Divergence

I. Main Problem:​

Các phương pháp RL hiện tại cho flow matching (như Flow-GRPO) dùng ratio clipping để kiểm soát vùng tin cậy, nhưng ratio là ước lượng nhiễu từ một mẫu duy nhất, dẫn đến clipping quá mức hoặc không đủ trong không gian liên tục nhiều chiều.

II. Main Idea:​

Flow-DPPO thay thế ratio clipping bằng ràng buộc divergence trực tiếp. Vì mỗi bước chính sách trong flow matching là Gaussian, KL divergence giữa chính sách cũ và mới có thể tính chính xác và rẻ từ hai forward pass. Một mask bất đối xứng chỉ chặn gradient khi cập nhật làm chính sách rời xa vùng tin cậy và vượt ngưỡng divergence, trong khi cho phép cập nhật sửa lỗi tự do.

III. Main Results:​

  • Flow-DPPO vượt trội so với Flow-GRPO, Flow-CPS, GRPO-Guard trên cả GenEval2 và các metric OOD (PickScore, CLIP, HPSv2) với nhiều mô hình nền (SD3.5, FLUX2-9B, FLUX.1-dev).
  • Giảm catastrophic forgetting rõ rệt: các metric OOD suy giảm chậm hơn và KL divergence với mô hình tiền huấn luyện thấp hơn đáng kể.
  • Huấn luyện đa mục tiêu cân bằng hơn, đạt điểm cao đồng thời trên nhiều reward.
  • Mask bất đối xứng là yếu tố then chốt: bỏ nó làm quá trình huấn luyện sụp đổ.

IV. Conclusion & Future Works:​

Flow-DPPO tận dụng cấu trúc Gaussian của flow matching để thay thế ratio clipping nhiễu bằng ràng buộc divergence chính xác, mang lại huấn luyện ổn định hơn và ít quên hơn. Hướng tương lai: áp dụng cho các sampler khác, tối ưu ngưỡng divergence tự động.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng Flow-DPPO cho video generation: tận dụng divergence chính xác giữa các frame để kiểm soát vùng tin cậy, giảm nhảy chất lượng giữa các khung.
  2. Kết hợp Flow-DPPO với active learning: robot tự chọn ảnh khó để cập nhật chính sách dựa trên divergence thực thay vì ước lượng nhiễu.
  3. Áp dụng tư tưởng mask bất đối xứng vào Diffusion-DPO cho LLM: chỉ chặn cập nhật khi chính sách rời xa và divergence vượt ngưỡng, giữ lại khả năng sửa lỗi.

2. Patent:​

  1. Hệ thống sinh ảnh trên điện thoại có kiểm soát chất lượng: mô hình flow matching trên cloud nhận prompt từ phone, dùng Flow-DPPO để tối ưu ảnh, mask bất đối xứng đảm bảo ảnh không bị méo khi cập nhật nhiều lần.
  2. App chỉnh sửa ảnh chân dung: người dùng kéo một số thanh trượt (râu, kính), hệ thống dùng flow-DPPO để cân bằng giữa độ chính xác yêu cầu và chất lượng ảnh gốc, tránh biến dạng.
  3. Dịch vụ game tạo nhân vật từ prompt: server dùng flow matching fine-tune theo từng người dùng với Flow-DPPO, mask chặn cập nhật quá mức, giữ nhân vật không thay đổi ngoài ý muốn khi thêm chi tiết mới.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.11025
ArXiv Abstracthttps://arxiv.org/abs/2606.11025
PDF Downloadhttps://arxiv.org/pdf/2606.11025.pdf
Github RepositoryN/A

9. MemDreamer: Decoupling Perception and Reasoning for Long Video Understanding via Hierarchical Graph Memory and Agentic Retrieval Mechanism (39 votes)​

Tác giả: Cong Chen, Guo Gan, Kaixiang Ji, ChaoYang Zhang, Zhen Yang, et al.

Xuất bản lúc: 2026-06-05

Tag: Long Video Understanding, Vision-Language Model, Hierarchical Graph Memory, Agentic Retrieval, Decoupled Perception & Reasoning, Multimodal AI, Memory Systems, State-of-the-Art

I. Main Problem:​

Các Vision-Language Model hiện tại xử lý video dài giờ bằng cách nạp toàn bộ khung hình, gây bùng nổ token (hơn 1,6M token cho video 2 giờ) và pha loãng sự chú ý, dẫn đến suy giảm nghiêm trọng khả năng suy luận xa. Phương pháp luồng-và-truy hồi hiện có dùng lưu trữ phẳng hoặc theo khối, làm mất quan hệ không gian-thời gian và nhân quả, khiến truy hồi trở nên thiển cận.

II. Main Idea:​

MemDreamer tách rời nhận thức và suy luận: một mô hình nhận thức xử lý video theo luồng để xây dựng bộ nhớ đồ thị phân cấp ba tầng (Video Root → Super Event → Macro Event), mỗi tầng chứa đồ thị con với các nút thực thể, vi-sự kiện và ba loại cạnh (không gian-thuộc tính, chủ thể-đối tượng, thời gian-nhân quả). Trong suy luận, mô hình lý luận dùng bộ công cụ tác tử (Navigation, Search, Graph Traversal) qua vòng lặp Quan sát-Suy luận-Hành động để truy hồi chủ động, chỉ giữ lại bằng chứng liên quan, giới hạn cửa sổ ngữ cảnh xuống còn ~6.000 token.

III. Main Results:​

  • MemDreamer đạt SOTA trên bốn benchmark, vượt các VLM ghép nối end-to-end cùng nền tảng 12,5–14,3 điểm tuyệt đối.
  • Trên LVBench, đạt 90,7 điểm, chỉ cách chuyên gia người 3,7 điểm.
  • Giảm kích thước cửa sổ suy luận xuống ~40 lần so với nạp toàn bộ video.
  • Thiết lập tương quan tuyến tính mạnh (R=0,897, p<0,01) giữa năng lực suy luận tác tử và hiệu năng hiểu video dài.

IV. Conclusion & Future Works:​

MemDreamer chứng minh tách rời nhận thức và suy luận là hướng đi hiệu quả, biến hiểu video dài thành bài toán thám hiểm tác tử. Hướng tới: mở rộng cho đa phương thức khác (âm thanh), tối ưu hóa chiến lược thăm dò, và nghiên cứu mở rộng quy mô năng lực tác tử.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Điều chỉnh giao thức sinh khung nhớ đồ thị phân cấp cho video có nhiều cảnh động/đột biến ngữ nghĩa cao (ví dụ: thể thao, sự kiện trực tiếp) để đánh giá độ bền vững của kiến trúc.
  2. Kết hợp bộ nhớ đồ thị với suy luận đa bước (chain-of-thought) trong cùng một vòng lặp tác tử, cho phép mô hình tự đặt câu hỏi phụ và truy hồi chính xác hơn.
  3. Mở rộng MemDreamer sang hiểu video đa ngôn ngữ: xây dựng đồ thị ngữ nghĩa đa ngữ và cho tác tử truy vấn bằng ngôn ngữ tự nhiên bất kỳ.

2. Patent:​

  1. Hệ thống tóm tắt tự động video giám sát an ninh dài nhiều giờ: điện thoại thông minh gửi luồng video lên đám mây, nơi MemDreamer xây dựng đồ thị sự kiện và trả lời câu hỏi của người dùng (vd: 'Có ai vào kho lúc 2h sáng không?') chỉ với vài KB dữ liệu văn bản.
  2. Ứng dụng hỗ trợ học tập: người dùng quay video bài giảng dài, điện thoại tạo bộ nhớ đồ thị phân cấp cho phép hỏi đáp chi tiết theo từng chương, tiết kiệm thời gian xem lại.
  3. Công cụ chỉnh sửa video thông minh trên di động: người dùng nhập mô tả cảnh muốn cắt, MemDreamer truy hồi chính xác phân đoạn tương ứng từ đồ thị sự kiện mà không cần tua toàn bộ video.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.07512
ArXiv Abstracthttps://arxiv.org/abs/2606.07512
PDF Downloadhttps://arxiv.org/pdf/2606.07512.pdf
Github RepositoryN/A

10. Lip Forcing: Few-Step Autoregressive Diffusion for Real-time Lip Synchronization (34 votes)​

Tác giả: Paul Hyunbin Cho, Jinhyuk Jang, SeokYoung Lee, Joungbin Lee, Siyoon Jin, et al.

Xuất bản lúc: 2026-06-09

Tag: Lip Synchronization, Autoregressive Diffusion, Distribution Matching Distillation, Video-to-Video, Real-Time, Diffusion Transformer, SyncNet

I. Main Problem:​

Các mô hình diffusion hiện tại cho đồng bộ môi trường video-to-video (V2V) đạt chất lượng cao nhưng chạy rất chậm do hai lý do: chú ý hai chiều (bidirectional attention) trên toàn bộ video có độ phức tạp bậc hai theo độ dài clip và cần hàng chục bước khử nhiễm, khiến chúng không thể phục vụ các ứng dụng thời gian thực như dịch thuật trực tiếp, avatar ảo hay tác nhân tương tác.

II. Main Idea:​

Lip Forcing là khung làm việc chưng cất đầu tiên dành riêng cho đồng bộ môi trường hồi quy (autoregressive). Nó nén một mô hình giáo viên hai chiều 50 bước thành một mô hình sinh viên nhân quả chỉ 2 bước khử nhiễm. Phân tích quỹ đạo khử nhiễm của giáo viên (teacher trajectory) cho thấy một sự đánh đổi giữa độ trung thực (fidelity) và độ đồng bộ môi trường (sync) liên quan đến classifier-free guidance (CFG). Dựa trên phân tích này, Lip Forcing đề xuất ba thành phần: (1) Sync-Window DMD chỉ áp dụng CFG trong khoảng bước giữa (ODE steps 20–40) khi huấn luyện, (2) lịch trình suy luận 2 bước với bước thứ hai ở ODE step 30, và (3) phần thưởng SyncNet để tăng cường độ đồng bộ.

III. Main Results:​

  • Phiên bản 1.3B đạt 31 FPS (vượt ngưỡng thời gian thực 25 FPS), nhanh gấp 17.6 lần so với mô hình hai chiều cùng kích thước.
  • Phiên bản 14B chạy nhanh gấp 39.8 lần so với giáo viên và 4.7 lần so với LatentSync, đồng thời đạt FVD tốt nhất trong các so sánh.
  • Thời gian đến khung hình đầu tiên (TTFF) dưới 1 mili giây ở cả hai kích thước, thấp hơn một bậc so với các baseline diffusion đa bước.
  • Các chỉ số fidelity (FID, FVD, SSIM, CSIM) được cải thiện rõ rệt so với mô hình giáo viên và các baseline khác.
  • Nghiên cứu người dùng (MOS) cho thấy Lip Forcing vượt trội về chất lượng video, bảo toàn danh tính và độ tự nhiên, ngang bằng với baseline tốt nhất về độ đồng bộ.

IV. Conclusion & Future Works:​

Lip Forcing đưa đồng bộ môi trường diffusion lên thời gian thực với chất lượng cao, mở ra khả năng ứng dụng trong dịch thuật trực tiếp, avatar và tác nhân tương tác. Phương pháp phân tích quỹ đạo có thể được tổng quát hóa cho các tác vụ diffusion có điều kiện khác để thiết kế công thức chưng cất phù hợp.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Áp dụng phân tích quỹ đạo tương tự cho các tác vụ video khác (như tạo chuyển động con người, sinh cảnh quay) để tối ưu lịch trình CFG và bước suy luận cho chưng cất vài bước.
  2. Mở rộng cơ chế Sync-Window DMD sang các mô hình video đa điều kiện (âm thanh, văn bản, chuyển động) để cân bằng giữa trung thực và khớp điều kiện đầu vào.
  3. Tối ưu hóa kiến trúc sinh viên nhân quả với các cơ chế chú ý thưa (sparse attention) hoặc sliding window để tăng tốc hơn nữa trên thiết bị biên (edge devices).

2. Patent:​

  1. Hệ thống chỉnh sửa livestream trên điện thoại: sau khi người dùng nói, điện thoại tự động đồng bộ khớp môi (lip-sync) với âm thanh đầu vào khác (bản dịch) trong thời gian thực, đảm bảo video trông tự nhiên mà không cần hậu kỳ.
  2. Ứng dụng trợ lý ảo trên điện thoại: khi người dùng quay video giới thiệu sản phẩm, trợ lý có thể thay thế giọng nói gốc bằng giọng được huấn luyện và tự động khớp chuyển động môi, cho phép tạo nội dung đa ngôn ngữ nhanh chóng.
  3. Tính năng video call trên ứng dụng nhắn tin: cho phép người dùng thay đổi ngôn ngữ giọng nói trong cuộc gọi video trực tiếp mà khuôn mặt và chuyển động môi vẫn khớp hoàn hảo với âm thanh mới.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.11180
ArXiv Abstracthttps://arxiv.org/abs/2606.11180
PDF Downloadhttps://arxiv.org/pdf/2606.11180.pdf
Github Repositoryhttps://github.com/cvlab-kaist/LipForcing

11. Rethinking the Divergence Regularization in LLM RL (33 votes)​

Tác giả: Jiarui Yao, Xiangxin Zhou, Penghui Qi, Wee Sun Lee, Liefeng Bo, et al.

Xuất bản lúc: 2026-06-08

Tag: Reinforcement Learning, Large Language Models, PPO, Trust Region, Divergence Regularization, Off-Policy RL, GRPO, DPPO

I. Main Problem:​

Các phương pháp RL cho LLM như PPO và GRPO sử dụng clipping dựa trên tỷ lệ quan trọng (importance ratio) để kiểm soát vùng tin cậy, nhưng tỷ lệ này là proxy kém cho sự dịch chuyển phân phối do từ vựng dài và lệch. DPPO khắc phục bằng mặt nạ nhị phân dựa trên divergence, nhưng mặt nạ cứng gây mất gradient đột ngột và không có tín hiệu điều chỉnh khi vượt ngưỡng.

II. Main Idea:​

DRPO thay thế mặt nạ nhị phân của DPPO bằng một bộ điều chỉnh (regularizer) bậc hai mượt, có trọng số bởi lợi thế tuyệt đối, dựa trên độ dịch chuyển xác suất tuyệt đối (Binary-TV). Bộ điều chỉnh này tạo trọng số gradient liên tục: suy yếu dần khi dịch chuyển ra xa chính sách hành vi và đảo chiều khi vượt ngưỡng để kéo chính sách về. Nhờ đó, DRPO giữ nguyên hình học vùng tin cậy của DPPO nhưng loại bỏ tính gián đoạn và cung cấp tín hiệu sửa lỗi liên tục.

III. Main Results:​

  • DRPO đạt độ chính xác cuối cùng cao nhất hoặc tương đương tốt nhất trong 6/6 thiết lập thí nghiệm (Qwen3-4B, 30B-A3B, 35B-A3B, R1D).
  • Các phương pháp dựa trên tỷ lệ (GRPO, SPO) thường mất ổn định, đặc biệt ở độ chính xác thấp (FP8).
  • DPPO (mặt nạ cứng) hội tụ chậm hơn và đạt độ chính xác thấp hơn DRPO trên Qwen3-30B-A3B.
  • Bộ điều chỉnh không có trọng số |Ât| làm giảm hiệu suất và gây mất ổn định.
  • Trọng số gradient của DRPO bị chặn trong [1-1/δ, 1+1/δ], tránh phương sai lớn của SPO.

IV. Conclusion & Future Works:​

DRPO kết hợp ưu điểm của vùng tin cậy dựa trên divergence (DPPO) với điều chỉnh mượt (SPO), mang lại huấn luyện ổn định và hiệu quả hơn trên nhiều mô hình và độ chính xác. Hướng tương lai: mở rộng DRPO cho các tác vụ đa bước và tối ưu ngưỡng regularization tự động.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng DRPO cho mô hình ngôn ngữ lớn đa phương thức (VLM) bằng cách thay Binary-TV bằng divergence trên không gian đặc trưng đa phương thức, kiểm soát sự dịch chuyển phân phối chéo giữa văn bản và hình ảnh.
  2. Kết hợp DRPO với kỹ thuật học tăng cường dựa trên phần thưởng thưa thớt (sparse reward) bằng cách dùng bộ điều chỉnh thích ứng theo từng token dựa trên độ không chắc chắn của mô hình, giúp ổn định huấn luyện trong môi trường phần thưởng hiếm.
  3. Ứng dụng tư tưởng DRPO để thiết kế bộ điều chỉnh divergence mượt cho RL đa tác tử trong LLM, nơi mỗi tác tử học chính sách riêng và cần kiểm soát sự dịch chuyển phân phối chung để tránh suy giảm hợp tác.

2. Patent:​

  1. Phương pháp tinh chỉnh mô hình ngôn ngữ trên điện thoại: thay vì clipping cứng, dùng bộ điều chỉnh mượt dựa trên độ dịch chuyển xác suất tuyệt đối, giúp tránh mất gradient đột ngột và cải thiện độ ổn định khi huấn luyện off-policy trên thiết bị di động.
  2. Hệ thống gợi ý cá nhân hóa trên thiết bị di động: sử dụng RL off-policy với regularization mượt dựa trên divergence để cập nhật chính sách gợi ý từ dữ liệu tương tác cũ, giữ cho mô hình không bị lệch quá xa so với hành vi người dùng.
  3. Tối ưu chatbot trên thiết bị di động: áp dụng DRPO để huấn luyện tăng cường mà không cần critic model, dùng divergence trên xác suất token để kiểm soát vùng tin cậy, giảm chi phí tính toán và cải thiện độ ổn định trên phần cứng hạn chế.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.09821
ArXiv Abstracthttps://arxiv.org/abs/2606.09821
PDF Downloadhttps://arxiv.org/pdf/2606.09821.pdf
Github Repositoryhttps://github.com/Tencent-Hunyuan/UniRL

12. WorldOlympiad: Can Your World Model Survive a Triathlon? (31 votes)​

Tác giả: Yuke Zhao, Wangbo Zhao, Weijie Wang, Zeyu Zhang, Dakai An, et al.

Xuất bản lúc: 2026-06-09

Tag: Video Generation, World Model, Benchmark, Physical Consistency, 3D Geometry, Interaction Fidelity, Diffusion Model

I. Main Problem:​

Các benchmark hiện tại cho mô hình thế giới dựa trên video thường chỉ tập trung vào chất lượng hình ảnh hoặc sự liền mạch ngắn hạn, thiếu đánh giá toàn diện về việc video có tuân thủ quy tắc vật lý, duy trì cấu trúc 3D nhất quán và hỗ trợ tương tác dài hạn hay không. Chưa có một chuẩn thống nhất nào đánh giá trên nhiều lĩnh vực hạ nguồn như game, robot và thế giới thực.

II. Main Idea:​

WorldOlympiad là một benchmark mới đánh giá mô hình thế giới video trên ba khía cạnh: độ trung thực vật lý, tính nhất quán hình học và độ chính xác tương tác. Dữ liệu gồm 1.000 video chất lượng cao từ game, robot và thế giới thực, được chia thành các đoạn nhỏ và chú thích chi tiết. Các chỉ số đánh giá bao gồm kiểm tra quy tắc vật lý bằng MLLM, tái tạo 3D bằng Gaussian Splatting và đo lường khả năng bám sát hướng dẫn tương tác qua từng đoạn video.

III. Main Results:​

  • LingBot-World đạt điểm tổng thể cao nhất (0.683), nhờ độ chính xác vật lý (0.942) và tương tác (0.734) vượt trội.
  • Tính nhất quán 3D là điểm yếu nhất ở tất cả các mô hình, ngay cả mô hình mạnh nhất (Hunyuan-WorldPlay) chỉ đạt 0.424.
  • Cosmos-Predict-2.5 (2B tham số) đạt kết quả cạnh tranh (0.671) nhờ huấn luyện chuyên sâu về dự đoán thế giới vật lý.
  • Các mô hình mạnh đã nội tại hóa các quy tắc vật lý phổ biến, nhưng vẫn yếu ở các hiện tượng nhiệt động lực học và tính chất vật liệu.
  • Ma trận-Game 2.0 có hiệu suất thấp nhất (0.231), cho thấy khoảng cách lớn giữa các pipeline.

IV. Conclusion & Future Works:​

WorldOlympiad cho thấy quy mô mô hình và huấn luyện chuyên biệt theo miền có thể cải thiện đáng kể khả năng mô phỏng thế giới, nhưng tính nhất quán 3D vẫn là thách thức lớn. Hướng tới, cần phát triển các cơ chế bộ nhớ và kiến trúc lai để cân bằng giữa ổn định không gian và tương tác linh hoạt.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng benchmark WorldOlympiad cho các mô hình video 3D, thêm chiều đánh giá tính nhất quán thời gian và tương tác đa tác nhân.
  2. Nghiên cứu cơ chế bộ nhớ lai (implicit + explicit 3D memory) để cải thiện tính nhất quán hình học và tương tác dài hạn cho mô hình thế giới video.
  3. Phát triển phương pháp huấn luyện đa tác vụ trên nhiều miền (game, robot, thế giới thực) để tăng cường khả năng tổng quát hóa của mô hình thế giới.

2. Patent:​

  1. Hệ thống kiểm tra tính nhất quán 3D cho video game thời gian thực trên điện thoại: dùng camera ước lượng chuyển động và tái tạo khung cảnh để phát hiện lỗi đồ họa như vật thể xuyên qua tường.
  2. Ứng dụng đánh giá độ chính xác vật lý cho mô phỏng robot trên điện thoại: người dùng quay video robot thao tác, hệ thống tự động so sánh với quy tắc vật lý (trọng lực, va chạm) để báo lỗi.
  3. Công cụ tối ưu hóa tương tác cho game di động: dựa trên phân tích chunk-by-chunk, hệ thống gợi ý điều chỉnh hành vi nhân vật hoặc camera để duy trì tính liền mạch và trải nghiệm người dùng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.11129
ArXiv Abstracthttps://arxiv.org/abs/2606.11129
PDF Downloadhttps://arxiv.org/pdf/2606.11129.pdf
Github Repositoryhttps://github.com/alibaba-damo-academy/WorldOlympiad

13. ARM: An AutoRegressive Large Multimodal Model with Unified Discrete Representations (26 votes)​

Tác giả: Junke Wang, Xiao Wang, Jiacheng Pan, Xuefeng Hu, Feng Li, et al.

Xuất bản lúc: 2026-06-09

Tag: Autoregressive Model, Discrete Representations, Visual Tokenizer, Large Multimodal Model, Image Generation, Image Editing, Reinforcement Learning

I. Main Problem:​

Các mô hình đa phương thức hiện tại thường tách biệt các bộ mã hóa thị giác cho hiểu và tạo ảnh, gây dư thừa, chi phí tính toán cao và khả năng chỉnh sửa hạn chế. Những nỗ lực dùng token thị giác rời rạc đồng nhất thường hy sinh chất lượng hiểu ảnh để ưu tiên tái tạo, dẫn đến hiệu suất cân bằng chưa tối ưu.

II. Main Idea:​

ARM giới thiệu một bộ tokenizer thị giác rời rạc thống nhất, được huấn luyện với bốn mục tiêu bổ sung: mất mát chú thích, tái tạo pixel, đối chiếu sigmoid và chưng cất đặc trưng, nhằm giữ lại cả ngữ nghĩa cấp cao và chi tiết tái tạo. Dựa trên tokenizer này, mô hình tự hồi quy 7B được huấn luyện trên các chuỗi token văn bản-hình ảnh đan xen. Sau đó, Group Relative Policy Optimization (GRPO) được áp dụng để tối ưu hóa việc dự đoán token thị giác theo phản hồi ưu tiên, giúp cải thiện chất lượng tạo và chỉnh sửa ảnh.

III. Main Results:​

  • ARM đạt 40.2 trên MMMU và 87.3 trên POPE, vượt trội so với các mô hình rời rạc trước đây.
  • Trên GenEval, ARM-RL đạt 0.86 overall, cạnh tranh với các baseline diffusion.
  • Trên WISE, ARM-RL nâng overall từ 0.50 lên 0.56, cải thiện đáng kể về lý luận.
  • Trên GEdit-Bench-EN, ARM-RL tăng G_O từ 5.75 lên 6.68, cho thấy chỉnh sửa chính xác và bảo toàn nội dung gốc.
  • RL tạo hiệu ứng cộng hưởng giữa tạo và chỉnh sửa ảnh mà không làm giảm hiểu ảnh.

IV. Conclusion & Future Works:​

ARM chứng minh rằng mô hình tự hồi quy kết hợp với biểu diễn rời rạc mạnh và tối ưu hóa ưu tiên có thể thống nhất hiểu, tạo và chỉnh sửa ảnh trong một kiến trúc duy nhất. RL không chỉ cải thiện tác vụ mục tiêu mà còn tạo cộng hưởng liên tác vụ. Hướng phát triển: mở rộng sang video và các nhiệm vụ đa phương thức phức tạp hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu áp dụng GRPO cho mô hình video tự hồi quy với token thị giác rời rạc, nhằm tối ưu hóa chất lượng video và tính nhất quán tạm thời.
  2. Mở rộng ARM với cơ chế attention đa độ phân giải để xử lý ảnh đầu vào/vào kích thước lớn linh hoạt hơn mà không mất chi tiết.
  3. Khám phá việc tích hợp tokenizer rời rạc thống nhất với các mô hình ngôn ngữ lớn khác (như LLaMA) để kiểm tra tính khả chuyển và hiệu suất.

2. Patent:​

  1. Ứng dụng trên điện thoại thông minh: công cụ chỉnh sửa ảnh thông minh dùng mô hình ARM, cho phép người dùng nhập lệnh văn bản (ví dụ: 'thay màu tóc thành xanh') và nhận ảnh đã chỉnh sửa chính xác nhờ token rời rạc và RL.
  2. Hệ thống tạo ảnh quảng cáo tự động: doanh nghiệp nhập mô tả sản phẩm và yêu cầu phong cách, ARM tạo ra nhiều phiên bản ảnh chất lượng cao với bố cục và chi tiết phù hợp, giảm thời gian thiết kế.
  3. Tính năng tạo ảnh theo ngữ cảnh trong ứng dụng nhắn tin: khi người dùng gõ mô tả (vd: 'mèo đội mũ'), ARM tạo ảnh ngay lập tức trong luồng trò chuyện, tận dụng khả năng hiểu ngữ nghĩa của mô hình.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.11188
ArXiv Abstracthttps://arxiv.org/abs/2606.11188
PDF Downloadhttps://arxiv.org/pdf/2606.11188.pdf
Github Repositoryhttps://github.com/wdrink/ARM

14. Workflow-GYM: Towards Long-Horizon Evaluation of Computer-use Agentic tasks in Real-World Professional Fields (22 votes)​

Tác giả: Liya Zhu, Jingzhe Ding, Jian Zhang, Jianbo Xue, Shihao Liang, et al.

Xuất bản lúc: 2026-06-09

Tag: GUI Agents, Benchmark, Long-Horizon, Vision-Language Models, Workflow, Professional Software

I. Main Problem:​

Các benchmark hiện tại cho GUI Agent chủ yếu tập trung vào tác vụ ngắn hạn, phần mềm phổ thông hoặc môi trường web, thiếu các bài toán dài hạn và chuyên sâu theo lĩnh vực chuyên môn. Điều này khiến ta chưa biết liệu AI có thể tự động vận hành phần mềm chuyên nghiệp để hoàn thành các quy trình công việc có giá trị kinh tế hay không.

II. Main Idea:​

Workflow-GYM là benchmark mới đánh giá khả năng của GUI Agent thực hiện end-to-end các workflow dài hạn trong phần mềm chuyên nghiệp. Mỗi tác vụ (338 tác vụ, 6 lĩnh vực) là một chỉ dẫn ngôn ngữ duy nhất, agent phải tự lập kế hoạch, tương tác GUI nhiều bước (30–110 bước) và được đánh giá tự động dựa trên kết quả cuối cùng—tệp tin hoặc trạng thái GUI—mà không có hướng dẫn trung gian.

III. Main Results:​

  • Mô hình mạnh nhất (Gemini-3.1-pro, Kimi-k2.6) chỉ đạt ~30% thành công trung bình, thấp hơn nhiều so với benchmark GUI ngắn hạn (>70%).
  • Hiệu suất giảm mạnh khi số bước tăng: Easy ~39%, Medium ~27%, Hard ~21%.
  • Lỗi phổ biến: bỏ qua giai đoạn, lan truyền lỗi, lệch mục tiêu, thiếu kiến thức chuyên ngành.
  • Mô hình yếu thường không hoàn thành workflow (tương quan âm r = -0.97 với thành công).
  • Khung agent phải tùy chỉnh cho từng mô hình—không có framework GUI đa năng.

IV. Conclusion & Future Works:​

Workflow-GYM cho thấy các agent GUI hiện tại chưa đủ để thay thế con người trong các quy trình chuyên nghiệp dài hạn. Hướng tương lai cần cải thiện: lập kế hoạch dài hạn, khả năng tự sửa lỗi, và hiểu biết sâu hơn về phần mềm chuyên dụng.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển cơ chế tự sửa lỗi cho GUI agent: khi agent phát hiện lỗi lan truyền, nó quay lại bước trước đó và thử hành động khác thay vì tiếp tục thực hiện sai.
  2. Tích hợp kiến thức miền chuyên ngành (dưới dạng knowledge graph) vào agent framework để cải thiện nhận diện GUI và ra quyết định trong phần mềm chuyên biệt.
  3. Xây dựng module đánh giá tiến trình workflow: agent duy trì bộ nhớ ngắn hạn về trạng thái các bước đã làm và tự động điều chỉnh kế hoạch khi phát hiện lệch hướng mục tiêu.

2. Patent:​

  1. Hệ thống tự động sao chép cấu hình và dữ liệu mẫu giữa các phiên bản phần mềm chuyên nghiệp: agent quan sát giao diện cũ, tự động thực hiện các thao tác tương ứng trên phiên bản mới, giúp người dùng không cần làm lại thủ công.
  2. Trợ lý trên điện thoại thông minh nhận diện ảnh chụp màn hình phần mềm kế toán hoặc thiết kế, rồi hướng dẫn từng bước thao tác GUI dài hạn (lập báo cáo tài chính, chỉnh sửa bản vẽ CAD) qua giọng nói và overlay.
  3. Ứng dụng di động cho phép người dùng ghi lại quy trình GUI phức tạp (ví dụ: tạo báo cáo trong Excel chuyên ngành) thành kịch bản tái sử dụng, sau đó agent tự động chạy lại quy trình đó trên thiết bị khác hoặc phiên bản phần mềm khác.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.11042
ArXiv Abstracthttps://arxiv.org/abs/2606.11042
PDF Downloadhttps://arxiv.org/pdf/2606.11042.pdf
Github RepositoryN/A

15. EEVEE: Towards Test-time Prompt Learning in the Real World for Self-Improving Agents (18 votes)​

Tác giả: Weixian Xu, Shilong Liu, Mengdi Wang

Xuất bản lúc: 2026-06-09

Tag: Test-time Prompt Learning, LLM Agents, Multi-Dataset Learning, Router, Co-Evolution, Self-Improving Agents, Prompt Optimization

I. Main Problem:​

Các phương pháp test-time prompt learning hiện tại chủ yếu hoạt động trên một tập dữ liệu duy nhất. Trong thực tế, luồng dữ liệu đầu vào đến từ nhiều miền và tác vụ khác nhau, gây ra hiện tượng nhiễu chéo giữa các tác vụ, làm giảm hiệu suất và khả năng duy trì kiến thức cũ khi học tác vụ mới.

II. Main Idea:​

Eevee đề xuất kiến trúc router-prompt để giải quyết vấn đề đa tác vụ. Router học cách phân luồng đầu vào vào các cụm tác vụ riêng biệt và gán mỗi cụm cho một prompt chuyên biệt. Cả router và prompt được tối ưu hóa luân phiên thông qua chiến lược đồng tiến hóa (co-evolution), bao gồm ba giai đoạn: khởi tạo prompt đa dạng, khám phá các tổ hợp router-prompt, và hội tụ với router ổn định để tinh chỉnh prompt từng slot.

III. Main Results:​

  • Trên bộ bốn benchmark, Eevee cải thiện điểm trung bình 10.38 điểm trên Qwen3-4B và 24.32 điểm trên DeepSeek-V3.2 so với baseline.
  • Eevee vượt GEPA tới 37.2% và ACE tới 48.2% về điểm trung bình.
  • Trong thiết lập tăng dần số tác vụ, Eevee đạt +41.53 điểm duy trì tích lũy, trong khi GEPA và ACE kết thúc dưới 0.
  • Token usage trung bình 4.32K mỗi ví dụ, thấp hơn ACE 4.9 lần và tương đương GEPA.
  • Khả năng tổng quát chéo mô hình: prompt học trên Qwen3 cải thiện DeepSeek thêm 14.35 điểm trung bình.

IV. Conclusion & Future Works:​

Eevee khẳng định hiệu quả của prompt learning có điều kiện hóa bởi router trong môi trường luồng tác vụ hỗn hợp thực tế. Hướng phát triển tương lai: mở rộng số lượng prompt slot tự động, tối ưu hóa chiến lược đồng tiến hóa cho ngân sách tính toán thấp hơn, và áp dụng cho các tác vụ dài hạn hoặc tương tác nhiều bước.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu phương pháp tự động học số lượng prompt slot tối ưu cho đa tác vụ thay vì chọn thủ công, giúp hệ thống thích ứng linh hoạt hơn với số lượng tác vụ thay đổi.
  2. Kết hợp Eevee với kỹ thuật replay buffer để cải thiện khả năng duy trì kiến thức trên tác vụ cũ khi liên tục thêm tác vụ mới vào luồng.
  3. Mở rộng cơ chế đồng tiến hóa cho các mô hình đa phương thức (text + hình ảnh), nơi router và prompt cần xử lý cả đầu vào đa miền và đa dạng định dạng.

2. Patent:​

  1. Trợ lý ảo trên điện thoại tự điều chỉnh phong cách trả lời dựa trên lĩnh vực câu hỏi (ví dụ: công nghệ, y tế, giải trí) mà không cần người dùng chọn chế độ thủ công.
  2. Hệ thống hỗ trợ lập trình trên IDE có thể tự động chọn prompt phù hợp cho từng ngôn ngữ lập trình hoặc loại bài toán (thuật toán, web, cơ sở dữ liệu) để sinh mã chính xác hơn.
  3. Ứng dụng chatbot chăm sóc khách hàng doanh nghiệp: tự động phân luồng câu hỏi thuộc các phòng ban khác nhau (kỹ thuật, thanh toán, vận chuyển) vào các prompt chuyên biệt, giảm tỉ lệ sai lệch câu trả lời.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.11182
ArXiv Abstracthttps://arxiv.org/abs/2606.11182
PDF Downloadhttps://arxiv.org/pdf/2606.11182.pdf
Github Repositoryhttps://github.com/Princeton-AI2-Lab/EEVEE

16. One Token per Multimodal Evidence: Latent Memory for Resource-Constrained QA (16 votes)​

Tác giả: Zhi Zheng, Ziqiao Meng, Hao Luan, Wei Liu, Wee Sun Lee

Xuất bản lúc: 2026-06-09

Tag: Latent Memory, RAG, Multimodal QA, Token Efficiency, LLMs, VLMs, Compression, Retrieval

I. Main Problem:​

Các hệ thống QA sử dụng bộ nhớ ngoài (external memory) hiện tại lưu trữ và truyền dữ liệu dưới dạng văn bản hoặc hình ảnh thô, dẫn đến chi phí token rất lớn và áp lực lưu trữ cao, khiến chúng không phù hợp cho các ứng dụng có tài nguyên hạn chế như thiết bị di động hoặc edge-AI.

II. Main Idea:​

Bài báo đề xuất Latent Memory, một phương pháp lưu trữ mỗi mẩu bằng chứng (văn bản hoặc hình ảnh) thành một token tiềm ẩn (latent token) duy nhất nhờ một mô hình nén nhỏ (compressor LLM/VLM). Token tiềm ẩn này được dùng chung cho cả hai việc: (1) truy vấn tìm kiếm bằng cách nhúng câu hỏi vào cùng không gian tiềm ẩn, và (2) làm đầu vào trực tiếp cho một LLM/VLM sinh (generator) đã đông cứng, thay thế hoàn toàn bằng chứng thô. Quá trình huấn luyện compressor kết hợp ba mục tiêu: tái tạo, đối chiếu, và chưng cất, để mỗi token vừa giữ được thông tin, vừa có khả năng truy xuất và sinh câu trả lời tốt.

III. Main Results:​

  • Trên QA văn bản (HotpotQA, 2WikiMultihopQA, MuSiQue), Latent Memory đạt hiệu suất cạnh tranh với các baseline RAG nhưng chỉ dùng ít hơn 3x token sinh (ví dụ: ~71 token thay vì ~208-232 token với k=5).
  • Trên QA đa phương thức (WebQA), Latent Memory đạt F1 tốt nhất cho câu hỏi dựa trên hình ảnh (69.4 F1 với k=5) và giảm token sinh xuống tới 10x so với các baseline.
  • Recall@k (độ chính xác truy xuất) của Latent Memory vượt trội so với các phương pháp RAG truyền thống, đặc biệt trên tập dữ liệu ngoài miền (out-of-domain).
  • Khi tăng số token cho mỗi bằng chứng lên 8 token, chất lượng câu trả lời vượt qua baseline RAG mạnh nhất (Qwen3-Emb-0.6B) với ít token hơn.
  • Ablation study cho thấy mất mát tái tạo (reconstruction loss) đóng vai trò quan trọng trong việc duy trì cả chất lượng truy xuất lẫn sinh câu trả lời.

IV. Conclusion & Future Works:​

Latent Memory là một giải pháp thay thế hiệu quả cho bộ nhớ truyền thống, giúp giảm đáng kể token và chi phí lưu trữ mà vẫn giữ được chất lượng QA. Hướng phát triển tương lai bao gồm mở rộng cho các dạng dữ liệu phức tạp hơn (bảng biểu, video) và áp dụng cho các tác nhân (agent) có tài nguyên hạn chế.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển một biến thể Latent Memory có khả năng nén các bằng chứng dạng bảng biểu phức tạp (có cấu trúc hàng-cột) thành token tiềm ẩn, giữ lại thông tin về bố cục và mối quan hệ giữa các trường dữ liệu.
  2. Kết hợp Latent Memory với cơ chế quên (forgetting) có chủ đích để quản lý bộ nhớ dài hạn trong các tác vụ đối thoại nhiều lượt, ưu tiên giữ lại các token tiềm ẩn quan trọng.
  3. Nghiên cứu khả năng tổng quát hóa của token tiềm ẩn qua các miền dữ liệu và generator khác nhau, tối ưu hóa quá trình huấn luyện đa nhiệm để đạt hiệu quả cao hơn trên các tập dữ liệu đa dạng.

2. Patent:​

  1. Trợ lý ảo trên điện thoại dùng Latent Memory: nén lịch sử hội thoại và ngữ cảnh thành token tiềm ẩn, truy xuất nhanh chóng để trả lời câu hỏi phức tạp mà không cần lưu trữ hoặc truyền tải văn bản dài, tiết kiệm bộ nhớ và băng thông.
  2. Ứng dụng đọc sách điện tử thông minh: nén nội dung từng trang sách thành một token tiềm ẩn, cho phép người dùng tìm kiếm nhanh thông tin cụ thể bằng câu hỏi mà không cần tải xuống toàn bộ văn bản, tiết kiệm thời gian và dữ liệu di động.
  3. Hệ thống hỗ trợ chẩn đoán y tế từ xa: nén hình ảnh y tế và mô tả của bác sĩ thành token tiềm ẩn, gửi đến trung tâm phân tích để truy xuất các trường hợp tương tự và gợi ý chẩn đoán, giảm tải dung lượng truyền và tăng tốc xử lý.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.10572
ArXiv Abstracthttps://arxiv.org/abs/2606.10572
PDF Downloadhttps://arxiv.org/pdf/2606.10572.pdf
Github Repositoryhttps://github.com/zz1358m/Latent-Memory-Master

17. Attention Amnesia in Hybrid LLMs: When CoT Fine-Tuning Breaks Long-Range Recall, and How to Fix It (16 votes)​

Tác giả: Xinyu Zhou, Boyu Zhu, Yi Xu, Zhiwei Li, Yingfa Chen, et al.

Xuất bản lúc: 2026-06-09

Tag: Chain-of-Thought, Supervised Fine-Tuning, Hybrid LLMs, Long-Context Retrieval, Attention Mechanism, QK-Restore, Needle-in-a-Haystack

I. Main Problem:​

Chain-of-thought (CoT) supervised fine-tuning (SFT) thường được dùng để cải thiện khả năng suy luận, nhưng lại gây suy giảm có hệ thống khả năng truy hồi ngữ cảnh dài trên các mô hình hybrid linear-attention. Sự suy giảm này đặc biệt nghiêm trọng trong các thiết lập truy hồi khó và độ dài ngữ cảnh lớn, đặt ra vấn đề chưa được khám phá về tác động của reasoning post-training.

II. Main Idea:​

Bài báo chứng minh CoT-SFT tạo ra độ lệch gradient cục bộ, làm hỏng các phép chiếu query-key (W_Q, W_K) vốn chịu trách nhiệm routing thông tin đường dài trong các lớp softmax-attention còn lại. Dựa trên phân tích lý thuyết và thực nghiệm, các tác giả đề xuất QK-Restore, một phương pháp không cần huấn luyện, chỉ khôi phục W_Q và W_K từ checkpoint trước SFT, giữ nguyên các tham số khác. Phương pháp này khôi phục khả năng ngữ cảnh dài mà không làm mất đi các cải thiện về suy luận.

III. Main Results:​

  • CoT-SFT làm giảm mạnh hiệu suất NIAH, ví dụ HypeNet-9B trên NIAH-S2@256K giảm từ 67.2% xuống 9.4%.
  • QK-Restore khôi phục đáng kể khả năng truy hồi, HypeNet-5B trên S3@256K cải thiện từ 65.4% lên 76.4%.
  • Suy luận toán học hầu như không bị ảnh hưởng, HypeNet-5B chỉ thay đổi -0.6 điểm trên MATH500.
  • Hiệu suất suy giảm không phải do post-training nói chung, vì non-CoT SFT (Tulu-3) vẫn bảo toàn hoặc cải thiện khả năng truy hồi.
  • QK-Restore đạt hiệu quả cao nhất ở các cấu hình suy giảm nặng nhất, thậm chí vượt baseline pre-train.

IV. Conclusion & Future Works:​

Bài báo xác định structured failure mode do CoT-SFT gây ra trên hybrid models và đề xuất giải pháp QK-Restore đơn giản, hiệu quả. Hướng tương lai có thể mở rộng phân tích cho các dạng post-training khác hoặc phát triển phương pháp fine-tuning thân thiện với long-context hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu ảnh hưởng của CoT-SFT lên các kiến trúc efficient models khác như linear-attention thuần hoặc state-space models.
  2. Phát triển phương pháp fine-tuning chủ động bảo vệ W_Q và W_K thông qua regularization hoặc gradient clipping trong quá trình CoT-SFT.
  3. Áp dụng QK-Restore cho các tác vụ yêu cầu vừa suy luận mạnh vừa truy hồi dài như QA trên tài liệu dài hoặc phân tích hợp đồng.

2. Patent:​

  1. Hệ thống trợ lý ảo trên điện thoại: khi người dùng hỏi câu hỏi suy luận dài, hệ thống tự động restore tham số routing cũ để đối chiếu thông tin trong lịch sử trò chuyện mà không mất khả năng suy luận.
  2. Module nhúng cho chatbot doanh nghiệp: cho phép cập nhật kiến thức miền mới qua fine-tuning mà không làm hỏng khả năng tra cứu tài liệu nội bộ dài nhờ giữ nguyên các tham số routing gốc.
  3. Ứng dụng đọc hiểu văn bản trên thiết bị di động: người dùng kích hoạt chế độ 'đọc sâu' giúp mô hình vừa suy luận nội dung vừa quay lại đoạn văn xa để kiểm chứng, dùng cơ chế routing được bảo toàn riêng biệt.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.11052
ArXiv Abstracthttps://arxiv.org/abs/2606.11052
PDF Downloadhttps://arxiv.org/pdf/2606.11052.pdf
Github RepositoryN/A

18. Interpreting and Steering a Text-to-Speech Language Model with Sparse Autoencoders (12 votes)​

Tác giả: Nikita Koriagin, Georgii Aparin, Nikita Balagansky, Daniil Gavrilov

Xuất bản lúc: 2026-06-08

Tag: Sparse Autoencoders, Mechanistic Interpretability, Text-to-Speech, Language Model, Feature Steering, CosyVoice, BatchTopK

I. Main Problem:​

Các mô hình ngôn ngữ chuyển văn bản thành giọng nói (TTS LM) sử dụng một luồng dư duy nhất để xử lý cả văn bản và token giọng nói, nhưng chúng ta chưa hiểu rõ các biểu diễn bên trong mà chúng xây dựng. Thiếu một phương pháp có nguyên tắc để xác định đặc trưng nào mã hóa thông tin ngôn ngữ, âm học hay cả hai, và liệu những đặc trưng này có thể được sử dụng để kiểm soát quá trình tổng hợp hay không.

II. Main Idea:​

Bài báo huấn luyện Sparse Autoencoders (SAE) BatchTopK trên phần xương sống LM của CosyVoice3, sau đó phát triển một pipeline tự động giải thích (auto-interp) có nhận thức về phương thức (modality-aware). Pipeline này gắn nhãn mỗi đặc trưng dựa trên vị trí kích hoạt của nó (văn bản, âm thanh hoặc cả hai). Các thí nghiệm can thiệp (steering) qua không gian tiềm ẩn của SAE cho thấy các đặc trưng này có tính nhân quả: thay đổi kích hoạt của chúng có thể kiểm soát các thuộc tính âm thanh như tiếng cười, giới tính người nói hoặc tốc độ nói trong khi vẫn giữ nguyên nội dung.

III. Main Results:​

  • SAE huấn luyện trên CosyVoice3 phục hồi các đặc trưng có thể giải thích: âm vị, tiếng cười, giọng nói và giới tính.
  • Đặc trưng văn bản dễ xác minh nhất (AUROC 0.921), đặc trưng âm thanh trên mức ngẫu nhiên (AUROC 0.653), đặc trưng hỗn hợp khó nhất (AUROC 0.558).
  • Can thiệp vào đặc trưng tiếng cười làm tăng xác suất từ 0.015 lên 0.791.
  • Can thiệp vào đặc trưng giới tính thay đổi P(male) từ 0.629 xuống 0.063 hoặc lên 0.944.
  • Can thiệp vào đặc trưng tốc độ thay đổi thời lượng nói từ 3.96 giây lên 10.57 hoặc xuống 2.75 giây.

IV. Conclusion & Future Works:​

SAE huấn luyện trên TTS LM phục hồi các đặc trưng có thể giải thích và có tính nhân quả, cho thấy chúng vừa là đối tượng diễn giải vừa là hướng điều khiển thực tế cho tổng hợp giọng nói. Hạn chế bao gồm chỉ thử nghiệm trên một mô hình và đánh giá vòng tròn với cùng Gemini. Hướng tương lai cần mở rộng sang các mô hình TTS lớn hơn và đánh giá con người.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng phương pháp SAE cho các mô hình TTS đa ngôn ngữ khác để xem liệu các đặc trưng có thể giải thích và có thể can thiệp có tương tự nhau không.
  2. Phát triển một hệ thống tinh chỉnh hơn để giải thích các đặc trưng hỗn hợp, vì hiệu suất auto-interp cho loại này còn thấp.
  3. Kết hợp SAE với các phương pháp can thiệp khác nhau để kiểm soát đồng thời nhiều thuộc tính âm thanh (ví dụ: vừa thay đổi giới tính vừa thay đổi tốc độ nói).

2. Patent:​

  1. Ứng dụng trên điện thoại cho phép người dùng điều chỉnh giọng đọc của trợ lý ảo (ví dụ: chuyển từ giọng nam sang nữ) bằng một thanh trượt đơn giản, dựa trên việc can thiệp vào các đặc trưng giới tính trong mô hình TTS.
  2. Tính năng kiểm soát cảm xúc trong ứng dụng đọc sách nói: người dùng có thể tăng cường giọng đọc vui vẻ hoặc buồn bã bằng cách thay đổi nhẹ các đặc trưng tương ứng, mà không cần thu âm lại.
  3. Công cụ chỉnh sửa giọng nói cho video ngắn: cho phép người dùng kéo dài hoặc rút ngắn thời lượng nói của một câu (thay đổi tốc độ) mà vẫn giữ nguyên cao độ và nội dung văn bản gốc, thông qua việc điều khiển đặc trưng tốc độ trong mô hình.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.10029
ArXiv Abstracthttps://arxiv.org/abs/2606.10029
PDF Downloadhttps://arxiv.org/pdf/2606.10029.pdf
Github RepositoryN/A

19. Online Skill Learning for Web Agents via State-Grounded Dynamic Retrieval (11 votes)​

Tác giả: Jiaxi Li, Ke Deng, Yun Wang, Jingyuan Huang, Yucheng Shi, et al.

Xuất bản lúc: 2026-06-03

Tag: Web Agents, Online Skill Learning, Retrieval-Augmented Generation, State-Grounded Retrieval, Web Automation, LLMs

I. Main Problem:​

Các phương pháp học kỹ năng trực tuyến hiện tại cho tác tử web chỉ truy xuất kỹ năng một lần dựa trên lệnh ban đầu và giữ nguyên trong suốt quá trình thực thi. Cách tiếp cận tĩnh này không phù hợp với môi trường web vì tính hữu dụng của kỹ năng phụ thuộc vào trạng thái trang web hiện tại, vốn thay đổi liên tục, dẫn đến sự không khớp giữa kỹ năng được chọn và tình huống thực tế.

II. Main Idea:​

SGDR (State-Grounded Dynamic Retrieval) giải quyết vấn đề trên bằng cách chia quỹ đạo hoàn thành thành các đoạn con có thể tái sử dụng thông qua trích xuất cửa sổ trượt. Mỗi kỹ năng được biểu diễn dưới dạng cặp văn bản–mã: mô tả ngôn ngữ tự nhiên để truy xuất và mã thực thi để hành động. Khi xử lý tác vụ mới, SGDR truy xuất kỹ năng phù hợp với cả lệnh tác vụ và trạng thái trang web hiện tại, sau đó làm mới tập kỹ năng ở mỗi bước quyết định, cho phép hỗ trợ thích ứng khi trang web thay đổi.

III. Main Results:​

  • SGDR đạt tỷ lệ thành công trung bình 37.5% với GPT-4.1 và 24.3% với QWEN3-4B trên WebArena, vượt baseline mạnh nhất lần lượt 10.6% và 10.0% tương đối.
  • Với GPT-4.1, SGDR dẫn đầu ở 4/5 miền, cải thiện đáng kể trên Admin (từ 41.4% lên 47.7%).
  • SGDR giảm số bước trung bình xuống 4.8 (GPT-4.1) so với 6.0 của Vanilla và 6.4 của CER.
  • Trên luồng tác vụ trực tuyến, SGDR duy trì tỷ lệ thành công tích lũy cao hơn các baseline, đặc biệt trên Admin và Reddit.
  • Ablation cho thấy kết hợp truy xuất lệnh–trạng thái với α=0.5 và MMR λ=0.7 cho kết quả tốt nhất; kỹ năng từ cửa sổ trượt vượt trội so với toàn bộ quỹ đạo hoặc hành động đơn lẻ.

IV. Conclusion & Future Works:​

SGDR khắc phục hạn chế của tái sử dụng kỹ năng cấp tác vụ bằng cách cho phép truy xuất kỹ năng thích ứng theo trạng thái trang web. Kết quả trên năm miền của WebArena cho thấy tính hiệu quả của cách tiếp cận này. Hướng phát triển tương lai bao gồm mở rộng đánh giá trên các môi trường web đa dạng hơn và tích hợp kỹ năng học được với tinh chỉnh mô hình hoặc cá nhân hóa dài hạn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng SGDR cho tác vụ đa miền chéo: phát triển cơ chế căn chỉnh kỹ năng giữa các trang web khác nhau dựa trên mẫu tương tác (ví dụ: điền form, thêm bộ lọc) để tăng khả năng chuyển giao, đánh giá trên benchmark đa nền tảng như VisualWebArena.
  2. Tích hợp SGDR với học tăng cường từ phản hồi của người dùng: thay vì chỉ dùng evaluator tự động, cho phép kỹ năng được xác nhận hoặc điều chỉnh bởi con người trong luồng tác vụ thực tế, giúp kỹ năng bền vững hơn với nhiễu và tác vụ mơ hồ.
  3. Áp dụng tư tưởng truy xuất trạng thái động cho tác tử đa phương thức: kết hợp quan sát hình ảnh từ web với văn bản để truy xuất kỹ năng dựa trên trạng thái trực quan của trang (bố cục, nút đã nhấp), đánh giá trên các tác vụ yêu cầu hiểu hình ảnh.

2. Patent:​

  1. Hệ thống trợ lý tự động trên điện thoại: khi người dùng thực hiện thao tác lặp lại (ví dụ: kiểm tra email, đặt lịch), hệ thống ghi lại chuỗi hành động và trạng thái màn hình, sau đó tự động gợi ý macro có thể thực thi lại một chạm dựa trên trạng thái hiện tại thay vì ghim cố định một kịch bản.
  2. Trình duyệt web thông minh tích hợp học kỹ năng: khi người dùng hoàn thành tác vụ như điền form đăng ký hoặc tìm kiếm sản phẩm, trình duyệt phân đoạn hành động thành các kỹ năng con (ví dụ: chọn bộ lọc, thêm vào giỏ) và đề xuất tự động hóa các bước đó khi phát hiện trang có trạng thái tương tự.
  3. Ứng dụng quản lý tác vụ doanh nghiệp: hệ thống ghi lại quy trình làm việc trên web CRM của nhân viên, tự động trích xuất các đoạn quy trình phổ biến (ví dụ: tạo báo cáo, cập nhật trạng thái) và gợi ý chạy nhanh khi nhân viên mở trang ở bước tương ứng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.04391
ArXiv Abstracthttps://arxiv.org/abs/2606.04391
PDF Downloadhttps://arxiv.org/pdf/2606.04391.pdf
Github Repositoryhttps://github.com/plusnli/skill-dynamic-retrieval

20. SkillHarm: Lifecycle-Aware Skill-Based Attacks via Automated Construction (10 votes)​

Tác giả: Yuting Ning, Zhehao Zhang, Yash Kumar Lal, Boyu Gou, Junyi Li, et al.

Xuất bản lúc: 2026-06-01

Tag: Agent Security, Skill-Based Attacks, Poisoning, LLM Agents, Automated Attack Construction, Prompt Injection, Benchmark

I. Main Problem:​

Các nghiên cứu tấn công kỹ năng (skill-based attack) hiện tại chủ yếu đánh giá trong một phiên thực thi đơn lẻ, bỏ qua khả năng kỹ năng tồn tại và bị tái sử dụng qua nhiều phiên. Ngoài ra, các rủi ro được liệt kê theo kiểu ad-hoc thay vì một hệ thống phân loại có tổ chức, dẫn đến đánh giá thiếu toàn diện về an toàn của tác nhân.

II. Main Idea:​

SkillHarm là bộ benchmark với hai kịch bản tấn công: Fixed-Payload Poisoning (FPP) - kỹ năng độc hại cố định gây hại ngay trong một phiên; và Self-Mutating Poisoning (SMP) - kỹ năng độc hại tự biến đổi, âm thầm gây hại khi tái sử dụng. Benchmark này định nghĩa 12 loại rủi ro dựa trên thành phần workflow bị ảnh hưởng: đường ống dữ liệu, môi trường hệ thống và quyền tự chủ của tác nhân. Để xây dựng thang đo, AutoSkillHarm sử dụng tác nhân lập trình (coding agent) được điều khiển bằng harness ngôn ngữ tự nhiên để tự động tạo ra các mẫu tấn công đa dạng.

III. Main Results:​

  • Bộ benchmark gồm 879 mẫu tấn công, 71 kỹ năng và 12 loại rủi ro.
  • Trong FPP, tỷ lệ thành công tấn công (ASR) lên tới 86,3%; trong SMP, ASR đạt 69,3%.
  • Khoảng cách lớn giữa ASR và ASR có điều kiện (cASR) cho thấy nhiều thất bại do tác nhân không truy cập file độc, chứ không phải kháng cự.
  • Tỷ lệ từ chối tấn công (ARR) thấp, giảm mạnh trong SMP (ví dụ từ 25,3% xuống 2,1%).
  • Các biện pháp phòng thủ hiện tại (scanner, lời nhắc phòng thủ) không đáng tin cậy, tỷ lệ phát hiện tối đa chỉ 68,8%.

IV. Conclusion & Future Works:​

SkillHarm chứng minh tác nhân hiện tại dễ bị tổn thương trước tấn công dựa trên kỹ năng, đặc biệt là khi kỹ năng được tái sử dụng. Cần phát triển các cơ chế bảo vệ vượt xa mức lời nhắc đơn thuần, như rào chắn runtime hoặc huấn luyện an toàn chuyên biệt.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu cơ chế phòng thủ dựa trên phân tích runtime để phát hiện và chặn các payload trong file kỹ năng, tập trung vào scripts ẩn.
  2. Mở rộng SMP sang các kịch bản tác nhân tự động nâng cấp kỹ năng từ kho công cộng, phân tích khả năng lây nhiễm chuỗi.
  3. So sánh hiệu quả huấn luyện an toàn (safety post-training) giữa các nền tảng tác nhân (như Claude Code, Codex) trong việc nhận diện ý định độc hại từ tài liệu tham khảo và scripts.

2. Patent:​

  1. Hệ thống kiểm tra kỹ năng an toàn trên điện thoại: quét tệp kỹ năng cài đặt từ kho ứng dụng, phát hiện các lệnh ẩn có thể thực thi ngoài chức năng (như gửi dữ liệu ra ngoài).
  2. Phương pháp cô lập (sandbox) kỹ năng trên điện thoại: mỗi khi tác nhân AI thực thi script, hệ thống theo dõi quyền truy cập tệp, mạng; nếu phát hiện hành vi bất thường, tự động chặn và thông báo cho người dùng.
  3. Ứng dụng bảo mật di động: cảnh báo người dùng khi tác vụ AI tải hoặc thực thi kỹ năng từ nguồn không tin cậy, kèm hướng dẫn cách xử lý an toàn (như xóa kỹ năng hoặc không cho phép thực thi).

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.02540
ArXiv Abstracthttps://arxiv.org/abs/2606.02540
PDF Downloadhttps://arxiv.org/pdf/2606.02540.pdf
Github Repositoryhttps://github.com/OSU-NLP-Group/SkillHarm