🤗 Daily Hugging Face Paper Digest - 2026-05-28

Báo cáo được tạo tự động vào lúc 2026-05-29 12:54:04 bằng mô hình deepseek-ai/deepseek-v4-flash.

📰 Summary of Papers

1. Gamma-World: Generative Multi-Agent World Modeling Beyond Two Players (160 votes)

Tác giả: Fangfu Liu, Kai He, Tianchang Shen, Tianshi Cao, Sanja Fidler, Yueqi Duan, Jun Gao, Igor Gilitschenski, Zian Wang, Xuanchi Ren

Xuất bản lúc: 2026-05-27

Tag: World Model, Multi-Agent, Video Generation, Diffusion Model, Rotary Position Embedding, Sparse Attention

I. Main Problem:

Hầu hết các mô hình thế giới (world model) hiện tại chỉ hoạt động trên môi trường đơn tác tử, trong khi các ứng dụng thực tế (trò chơi nhiều người, robot cộng tác) yêu cầu mô phỏng nhiều tác tử tương tác trong cùng một không gian. Việc mở rộng lên nhiều tác tử gặp các thách thức: (1) Chi phí tính toán khi dùng cơ chế chú ý dày đặc (dense attention) tăng theo cấp số nhân với số lượng tác tử; (2) Các tác tử có tính hoán đổi (permutation-symmetric) nhưng các phương pháp hiện tại dùng ID cố định lại vi phạm tính chất này, khiến mô hình không thể mở rộng lên số lượng tác tử mới mà không huấn luyện lại.

II. Main Idea:

Bài báo đề xuất Gamma-World, một mô hình thế giới đa tác tử có khả năng sinh video tương tác, với hai đóng góp chính: (1) Simplex Rotary Agent Encoding: mở rộng RoPE 3D thành 4D bằng cách thêm trục tác tử, mã hóa mỗi tác tử như một đỉnh của một đơn hình (regular simplex) trong không gian góc quay, đảm bảo các tác tử có khoảng cách bằng nhau và tính hoán đổi mà không cần tham số học; (2) Sparse Hub Attention: thay vì chú ý dày đặc giữa tất cả các tác tử, các token tác tử chỉ chú ý đến cùng luồng của mình và một tập nhỏ các token hub học được. Hub token đóng vai trò trung gian, giảm chi phí chú ý chéo từ bậc hai xuống bậc nhất theo số tác tử. Mô hình được huấn luyện theo ba giai đoạn: huấn luyện teacher hai chiều, student nhân quả (causal), và chưng cất (distillation) thành student ít bước với KV caching, cho phép sinh dòng thời gian thực ở 24 FPS.

III. Main Results:

Trên môi trường Minecraft nhiều người chơi, Gamma-World vượt trội so với các baseline như Solaris và Frame Concatenation trên tất cả các chỉ số (FVD, FID, LPIPS, PSNR, SSIM) trong các kịch bản di chuyển, khai thác, chiến đấu và xây dựng. Sparse Hub Attention giảm đáng kể độ trễ và FLOPs khi số tác tử tăng lên (2, 4, 8). Đặc biệt, mô hình huấn luyện chỉ với 2 tác tử có thể tổng quát hóa zero-shot lên 4 tác tử nhờ Simplex Rotary Agent Encoding và Sparse Hub Attention. Mô hình cũng hoạt động tốt trên dữ liệu robot thực tế (RealOmin-Open Dataset).

IV. Conclusion & Future Works:

Gamma-World chứng minh rằng việc mô hình hóa thế giới đa tác tử với mã hóa tác tử có tính hoán đổi và cơ chế chú ý thưa thớt là khả thi và hiệu quả, mở đường cho các mô phỏng tương tác thời gian thực với nhiều tác tử. Hướng phát triển tương lai có thể bao gồm: mở rộng lên số lượng tác tử lớn hơn, tích hợp nhiều loại hành động phức tạp hơn, và áp dụng vào các môi trường thế giới mở rộng lớn hơn.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng Simplex Rotary Agent Encoding để hỗ trợ số lượng tác tử thay đổi linh hoạt trong quá trình suy luận, kết hợp với cơ chế sinh động (dynamic spawning) cho các tác tử mới.
Nghiên cứu kiến trúc hub token phân cấp (hierarchical hub tokens) để mô hình hóa tương tác nhóm và giao tiếp tầm xa giữa các tác tử trong môi trường quy mô lớn.
Áp dụng Gamma-World cho các tác vụ điều khiển robot đa tác tử trong môi trường thực tế, nơi các robot cần phối hợp hành động dựa trên quan sát thị giác.

2. Patent:

Phương pháp và hệ thống tạo nội dung trò chơi điện tử nhiều người chơi trên thiết bị di động, sử dụng mô hình thế giới đa tác tử để sinh ra đồ họa và tương tác theo thời gian thực dựa trên hành động của người dùng, giúp giảm tải xử lý đồ họa và băng thông.
Ứng dụng trên điện thoại thông minh cho phép người dùng tạo ra các video hoạt hình với nhiều nhân vật hoạt hình có thể điều khiển đồng thời, dựa trên mô hình thế giới đa tác tử, phục vụ cho mục đích giải trí cá nhân hoặc sáng tạo nội dung trên mạng xã hội.
Hệ thống thực tế ảo tăng cường (AR/VR) trên thiết bị di động, nơi nhiều người dùng có thể tương tác trong cùng một không gian ảo được mô phỏng bởi mô hình thế giới đa tác tử, cho phép trải nghiệm chơi game hoặc họp hành ảo mà không cần kết nối mạng tốc độ cao.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.28816
ArXiv Abstract	https://arxiv.org/abs/2605.28816
PDF Download	https://arxiv.org/pdf/2605.28816.pdf
Github Repository	N/A

2. ProRL: Effective Reinforcement Learning for Proactive Recommendation via Rectified Policy Gradient Estimation (76 votes)

Tác giả: Hongru Hou, Tiehua Mei, Denghui Geng, Jinhui Huang, Ao Xu, Hengrui Chen, Jiaqing Liang, Deqing Yang

Xuất bản lúc: 2026-05-27

Tag: Reinforcement Learning, Proactive Recommendation, Policy Gradient, Sequential Recommendation

I. Main Problem:

Các Hệ thống Gợi ý Chủ động (PRS) nhằm hướng dẫn sở thích người dùng đến các mục tiêu cụ thể thông qua các đường dẫn gợi ý trung gian. Tuy nhiên, việc áp dụng trực tiếp Học Tăng cường (RL) với gradient chính sách tiêu chuẩn vào PRS gặp phải hai vấn đề nghiêm trọng: (1) Lối tắt độ dài (Length Shortcut): Phần thưởng cấp đường dẫn phân rã thành phần thưởng cấp bước có giá trị trung bình dương, tạo ra độ chệch phụ thuộc vào độ dài, khiến gradient ưu tiên kéo dài đường dẫn hơn là khám phá các đường dẫn chất lượng cao. (2) Phương sai gradient cao (High Gradient Variance): Việc gán trọng số cho mỗi bước bằng toàn bộ phần thưởng của đường dẫn bỏ qua cấu trúc phân rã, dẫn đến ước lượng gradient có phương sai lớn.

II. Main Idea:

Bài báo đề xuất ProRL, một khung RL hiệu quả với hai cơ chế mới để khắc phục các vấn đề trên: (1) Stepwise Reward Centering (SRC): Trừ đi phần thưởng kỳ vọng ở mỗi bước để trung hòa độ chệch phụ thuộc vào độ dài, đảm bảo việc kéo dài đường dẫn không mang lại tín hiệu gradient kỳ vọng. (2) Position-Specific Advantage Estimation (PSAE): Tận dụng cấu trúc phân rã phần thưởng để tính toán các baseline phụ thuộc vào bước, giảm phương sai gradient. Hai cơ chế này kết hợp tạo ra các gradient chính sách nhắm chính xác vào chất lượng đường dẫn.

III. Main Results:

ProRL vượt trội đáng kể so với các phương pháp PRS tiên tiến nhất (state-of-the-art) trên ba tập dữ liệu thực tế (MovieLens-1M, Steam, Amazon-Book) ở tất cả các chỉ số, bao gồm Hiệu quả Hướng dẫn (IoI, IoR) và Tính khả thi của Đường dẫn (CTR, Coherence). Phân tích đánh giá chéo (cross-evaluator) xác nhận tính tổng quát của chiến lược học được. Các thí nghiệm ablation cho thấy cả SRC và PSAE đều đóng góp quan trọng vào hiệu suất cuối cùng.

IV. Conclusion & Future Works:

ProRL cung cấp một khung RL hiệu quả cho gợi ý chủ động thông qua ước lượng gradient chính sách đã được hiệu chỉnh. Các hướng nghiên cứu trong tương lai có thể bao gồm: mở rộng khung này sang các lĩnh vực khác (ví dụ: tạo nội dung, lập kế hoạch tác vụ), phát triển các cơ chế căn giữa phần thưởng thích ứng hơn, và khám phá các phương pháp giảm phương sai khác.

V. Brainstorming Space:

1. Publish Papers:

1. Mở rộng ProRL cho các hệ thống gợi ý đa mục tiêu phức tạp hơn: Nghiên cứu cách áp dụng cơ chế SRC và PSAE cho các hàm phần thưởng có cấu trúc phức tạp hơn, ví dụ như phần thưởng phụ thuộc vào ngữ cảnh hoặc phần thưởng từ nhiều nguồn khác nhau.
1. Kết hợp ProRL với các mô hình ngôn ngữ lớn (LLMs) để lập kế hoạch đường dẫn: Sử dụng LLMs để khởi tạo hoặc hướng dẫn chính sách RL, tận dụng khả năng lý luận ngữ nghĩa của LLMs để cải thiện chất lượng đường dẫn và giảm không gian tìm kiếm.
1. Nghiên cứu tính tổng quát của ProRL trong các lĩnh vực quyết định tuần tự khác: Áp dụng các ý tưởng hiệu chỉnh gradient (căn giữa phần thưởng, ước lượng lợi thế theo vị trí) vào các bài toán khác như robot, chơi game, hoặc tối ưu hóa quảng cáo để kiểm chứng tính hiệu quả.

2. Patent:

1. Phương pháp và hệ thống gợi ý chủ động trên thiết bị di động để khám phá nội dung mới: Một ứng dụng di động sử dụng ProRL để tạo ra các đường dẫn gợi ý cá nhân hóa, giúp người dùng dần dần khám phá các thể loại phim, nhạc, hoặc sản phẩm mới mà không làm gián đoạn trải nghiệm. Ví dụ, ứng dụng nhạc có thể đề xuất một chuỗi bài hát từ nhạc Pop quen thuộc đến nhạc Jazz mới lạ, đảm bảo mỗi bước đều có khả năng được người dùng chấp nhận cao.
1. Hệ thống gợi ý mua sắm chủ động trên thiết bị di động: Một ứng dụng thương mại điện tử trên điện thoại sử dụng ProRL để hướng dẫn người dùng từ các sản phẩm họ thường mua đến các sản phẩm mới mà nền tảng muốn quảng bá. Hệ thống tạo ra một lộ trình mua sắm, ví dụ: từ 'áo thun thể thao' đến 'áo khoác chạy bộ' và cuối cùng là 'đồng hồ thông minh thể thao', giúp tăng doanh số cho các mặt hàng mục tiêu.
1. Phương pháp tối ưu hóa quảng cáo chủ động trên thiết bị di động: Một nền tảng quảng cáo trên điện thoại sử dụng ProRL để lập kế hoạch hiển thị quảng cáo, hướng dẫn người dùng từ các quảng cáo có liên quan cao đến các sản phẩm/dịch vụ mới. Ví dụ, từ quảng cáo 'sách nấu ăn cơ bản' đến 'khóa học nấu ăn online' và cuối cùng là 'bộ dụng cụ nấu ăn chuyên nghiệp', tối đa hóa tỷ lệ chuyển đổi mà không làm phiền người dùng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.28293
ArXiv Abstract	https://arxiv.org/abs/2605.28293
PDF Download	https://arxiv.org/pdf/2605.28293.pdf
Github Repository	https://github.com/hongruhou89/ProRL

3. Agent Explorative Policy Optimization for Multimodal Agentic Reasoning (71 votes)

Tác giả: Minki Kang, Shizhe Diao, Ryo Hachiuma, Sung Ju Hwang, Pavlo Molchanov, Yu-Chiang Frank Wang, Byung-Kwan Lee

Xuất bản lúc: 2026-05-27

Tag: Vision-Language Models, Reinforcement Learning, GRPO, Agentic Reasoning, Tool Use, Multimodal Reasoning

I. Main Problem:

Các mô hình ngôn ngữ-thị giác (VLM) có khả năng suy luận mở rộng gặp khó khăn khi giải quyết các vấn đề thực tế yêu cầu sử dụng công cụ bên ngoài (ví dụ: tìm kiếm web, thông dịch mã Python). Sự mất cân bằng giữa hành vi suy nghĩ (thinking) - vốn an toàn và được huấn luyện kỹ - và hành vi sử dụng công cụ (tool use) - vốn phụ trợ và có độ biến thiên cao - tạo ra 'Khoảng cách Suy nghĩ - Hành động' (Thinking-Acting Gap). Khoảng cách này khiến các phương pháp RL chuẩn như GRPO không hiệu quả: công cụ chỉ được sử dụng trong khoảng 30% các rollout, và khi được sử dụng, nhóm rollout có công cụ thường thất bại hoàn toàn (~40% câu hỏi), triệt tiêu tín hiệu học tập cho các token gọi công cụ.

II. Main Idea:

Bài báo đề xuất AXPO (Agent eXplorative Policy Optimization), một thuật toán RL tập trung khám phá có mục tiêu vào hành vi gọi công cụ. Ý tưởng chính là 'tool-call resampling': khi một rollout có sử dụng công cụ thất bại, AXPO sẽ giữ nguyên phần suy nghĩ (thinking prefix) trước lời gọi công cụ và lấy mẫu lại (resample) lời gọi công cụ cùng phần tiếp theo. Điều này tập trung nỗ lực tính toán vào đúng điểm yếu (tool call) thay vì lãng phí vào việc suy nghĩ lại từ đầu. AXPO chọn các prefix có độ bất định cao nhất để resample, chỉ áp dụng cho các nhóm rollout mà tất cả rollout có công cụ đều sai, và tính toán advantage riêng cho phần prefix và phần continuation để tránh xung đột gradient.

III. Main Results:

Qua chín benchmark đa phương thức trên ba kích thước mô hình Qwen3-VL-Thinking (2B, 4B, 8B), SFT+AXPO vượt trội hơn SFT+GRPO ở điểm trung bình (tăng +1.8pp Pass@1 và +1.8pp Pass@4 ở kích thước 8B). Mô hình 8B với SFT+AXPO vượt qua mô hình 32B cơ sở (Base) về Pass@4, mặc dù có số lượng tham số ít hơn 4 lần. Sự cải thiện tập trung vào các benchmark yêu cầu nhiều công cụ, đặc biệt là về Nhận thức (Perception). Với cùng ngân sách tính toán, AXPO (+25% resampling) mang lại hiệu quả cao hơn (+1.1pp) so với việc tăng gấp đôi số rollout của GRPO (+100% rollout).

IV. Conclusion & Future Works:

AXPO chứng minh rằng việc khám phá có mục tiêu vào lời gọi công cụ (tool-call resampling) là một cách hiệu quả để thu hẹp Khoảng cách Suy nghĩ - Hành động trong suy luận tác nhân (agentic reasoning), mang lại hiệu suất vượt trội so với các phương pháp RL chuẩn. Hướng nghiên cứu tương lai có thể mở rộng AXPO sang các môi trường tác nhân phức tạp hơn, với nhiều loại công cụ hơn, hoặc kết hợp với các kỹ thuật học tăng cường khác.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng AXPO cho các tác vụ đa bước phức tạp: Nghiên cứu khả năng áp dụng AXPO cho các chuỗi hành động dài hơn, nơi có nhiều điểm quyết định sử dụng công cụ. Mở rộng thuật toán để xác định và resample tại nhiều điểm gọi công cụ trong cùng một rollout, thay vì chỉ điểm đầu tiên.
Kết hợp AXPO với các phương pháp phần thưởng dạng mềm (soft rewards): Thay vì chỉ sử dụng phần thưởng nhị phân (đúng/sai), nghiên cứu việc tích hợp các phần thưởng trung gian dựa trên chất lượng của lời gọi công cụ (ví dụ: tính hợp lệ của mã Python, mức độ liên quan của kết quả tìm kiếm) để cung cấp tín hiệu học tập chi tiết hơn cho quá trình resampling.
Phân tích lý thuyết sâu hơn về 'tool-call resampling': Phát triển các phân tích lý thuyết chặt chẽ hơn về sự hội tụ và các đảm bảo về hiệu suất của AXPO, đặc biệt là trong các kịch bản có không gian hành động và quan sát phức tạp, làm nền tảng cho các cải tiến thuật toán trong tương lai.

2. Patent:

Phương pháp và hệ thống hỗ trợ tìm kiếm thông tin trên điện thoại thông minh: Hệ thống sử dụng AXPO để huấn luyện một trợ lý ảo trên điện thoại. Khi người dùng đặt câu hỏi, trợ lý sẽ tự động quyết định khi nào cần suy luận nội bộ và khi nào cần thực hiện tìm kiếm trên web. Nếu kết quả tìm kiếm đầu tiên không chính xác, hệ thống sẽ giữ nguyên câu hỏi đã được suy luận và thử lại một truy vấn tìm kiếm khác, thay vì phải suy luận lại toàn bộ câu hỏi từ đầu, giúp tiết kiệm thời gian và tài nguyên.
Ứng dụng chỉnh sửa ảnh thông minh trên thiết bị di động: Một ứng dụng chỉnh sửa ảnh sử dụng mô hình được huấn luyện bởi AXPO. Khi người dùng yêu cầu một thao tác chỉnh sửa phức tạp (ví dụ: 'làm cho bầu trời xanh hơn'), ứng dụng sẽ suy luận và quyết định sử dụng công cụ phóng to (zoom-in) để phân tích chi tiết vùng bầu trời trước khi thực hiện thay đổi. Nếu kết quả không như mong muốn, ứng dụng sẽ thử lại với một tham số hoặc công cụ phóng to khác mà không cần phải phân tích lại toàn bộ bức ảnh.
Trợ lý học tập tương tác trên điện thoại cho các bài toán khoa học: Một ứng dụng học tập sử dụng AXPO để giải các bài toán khoa học. Khi học sinh chụp ảnh một bài toán, trợ lý sẽ suy luận và quyết định xem có cần sử dụng công cụ tính toán (Python) để thực hiện các phép tính phức tạp hay không. Nếu kết quả tính toán sai (ví dụ: do lỗi cú pháp mã), trợ lý sẽ giữ nguyên các bước suy luận logic và thử lại với một đoạn mã Python khác, đảm bảo học sinh nhận được lời giải chính xác và quá trình học tập không bị gián đoạn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.28774
ArXiv Abstract	https://arxiv.org/abs/2605.28774
PDF Download	https://arxiv.org/pdf/2605.28774.pdf
Github Repository	N/A

4. From Pixels to Words -- Towards Native One-Vision Models at Scale (56 votes)

Tác giả: Haiwen Diao, Jiahao Wang, Penghao Wu, Yuhao Dong, Yuwei Niu, Yue Zhu, Zhongang Cai, Weichen Fan, Linjun Dai, Silei Wu, Xuanyu Zheng, Mingxuan Li, Yuanhan Zhang, Bo Li, Hanming Deng, Huchuan Lu, Quan Wang, Lei Yang, Lewei Lu, Dahua Lin, Ziwei Liu

Xuất bản lúc: 2026-05-27

Tag: Vision-Language Models, Native Multimodal, Spatial Intelligence, Video Understanding, Encoder-Free, Foundation Model

I. Main Problem:

Các mô hình ngôn ngữ-thị giác (VLM) hiện tại sử dụng kiến trúc mô-đun (bộ mã hóa hình ảnh riêng, bộ chiếu và bộ giải mã ngôn ngữ) gây ra nhiều hạn chế: (1) Thiếu linh hoạt khi xử lý các đầu vào không đồng nhất (ảnh đơn, nhiều ảnh, video) do bộ mã hóa được tối ưu cho từng loại riêng lẻ; (2) Kém hiệu quả do việc tách biệt các mô-đun làm phân mảnh quá trình huấn luyện và tăng chi phí hậu xử lý; (3) Khó mở rộng quy mô vì cần cân bằng dung lượng giữa bộ mã hóa thị giác và mô hình ngôn ngữ lớn. Các mô hình VLM gốc (native) hiện có chỉ tập trung vào ảnh đơn hoặc video, chưa giải quyết được bài toán thống nhất giữa hiểu ảnh đơn, nhiều ảnh, video và trí thông minh không gian.

II. Main Idea:

Bài báo giới thiệu NEO-ov, một mô hình nền tảng thị giác-ngôn ngữ gốc (native) hoàn toàn, sử dụng một kiến trúc monolithic duy nhất (backbone decoder-only) để học end-to-end từ pixel và văn bản mà không cần bộ mã hóa bên ngoài hay bộ điều hợp. Các ý tưởng chính bao gồm: (1) Tuần tự hóa thống nhất (Unified Visual Serialization): Biểu diễn ảnh đơn, nhiều ảnh và video thành các chuỗi token thống nhất, trong đó mỗi ảnh hoặc khung hình là một đơn vị độc lập với độ phân giải thích ứng. (2) Cơ chế chú ý không gian-thời gian thống nhất (Unified Spatial-Temporal Attention): Cho phép các token trong cùng một đơn vị hình ảnh tương tác hai chiều (bidirectional), trong khi tương tác giữa các đơn vị khác nhau là nhân quả (causal), giúp mô hình hóa đồng thời cấu trúc không gian nội tại và mối quan hệ thời gian xuyên khung hình. (3) Native-RoPE: Sử dụng ba chỉ số (thời gian, chiều cao, chiều rộng) để mã hóa vị trí, cho phép mô hình phân biệt trật tự thời gian và tọa độ không gian. (4) Quy trình huấn luyện ba giai đoạn: Tiền huấn luyện, trung huấn luyện (với dữ liệu đa dạng độ phân giải cao) và tinh chỉnh có giám sát với dữ liệu hướng dẫn chất lượng cao.

III. Main Results:

NEO-ov thiết lập một chuẩn mực hiệu suất mới cho các mô hình VLM gốc ở cả quy mô 2B và 8B, vượt qua các kiến trúc gốc trước đây như NEO, EVE, Mono-InternVL. Mô hình đạt được kết quả cạnh tranh với các mô hình mô-đun hàng đầu như InternVL3.5 và Qwen3-VL trên nhiều benchmark về hiểu ảnh, video và trí thông minh không gian. Đặc biệt, NEO-ov vượt trội trong các tác vụ yêu cầu lý luận phức tạp (MMMU, HallB) và nhận thức không gian chi tiết (VSI-Bench, MMSI, Mindcube). Kết quả cho thấy kiến trúc gốc (native) không chỉ khả thi mà còn có tính cạnh tranh cao ở quy mô lớn.

IV. Conclusion & Future Works:

NEO-ov chứng minh rằng các kiến trúc gốc thống nhất là một hướng đi đầy hứa hẹn cho các mô hình nền tảng 'một thị giác' (one-vision) có khả năng mở rộng và đa năng. Tuy nhiên, vẫn còn một số thách thức: (1) Khoảng cách hiệu suất so với các hệ thống mô-đun hàng đầu trên một số benchmark, có thể được thu hẹp bằng cách tăng quy mô và chất lượng dữ liệu huấn luyện. (2) Các tác vụ OCR và tài liệu vẫn chưa được khám phá đầy đủ đối với kiến trúc gốc. (3) Tiềm năng rộng lớn hơn của mô hình hóa đa phương thức gốc vẫn còn nhiều dư địa để khám phá thông qua việc mở rộng dung lượng mô hình, sự đa dạng dữ liệu và huấn luyện ngữ cảnh dài.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu về cơ chế chú ý tiết kiệm chi phí tính toán cho mô hình gốc đa phương thức: Phát triển các biến thể của cơ chế chú ý không gian-thời gian (ví dụ: attention với sparse pattern, sliding window) để giảm độ phức tạp tính toán khi xử lý video độ phân giải cao hoặc chuỗi nhiều ảnh, giúp mô hình gốc có thể hoạt động hiệu quả hơn trên các thiết bị có tài nguyên hạn chế.
Mở rộng mô hình gốc cho các tác vụ thị giác 3D và đa góc nhìn: Nghiên cứu cách biểu diễn và tích hợp dữ liệu 3D (point cloud, depth map) hoặc nhiều góc nhìn khác nhau của cùng một đối tượng vào kiến trúc gốc thống nhất, nhằm nâng cao khả năng suy luận không gian 3D và hiểu biết về hình dạng, kết cấu của vật thể.
Tích hợp khả năng tạo sinh (generation) vào mô hình gốc thị giác-ngôn ngữ: Mở rộng kiến trúc NEO-ov để không chỉ hiểu mà còn có thể tạo ra hình ảnh hoặc video từ mô tả văn bản, hướng tới một mô hình nền tảng 'hiểu và tạo' thực sự thống nhất, loại bỏ hoàn toàn ranh giới giữa các tác vụ.

2. Patent:

Phương pháp và hệ thống tìm kiếm ảnh trên điện thoại thông minh dựa trên mô tả chi tiết: Sử dụng mô hình NEO-ov làm nền tảng, cho phép người dùng nhập mô tả chi tiết về một bức ảnh (ví dụ: 'bức ảnh chụp một chú chó màu nâu đang chơi bóng ở công viên gần nhà vào mùa hè năm ngoái'). Mô hình sẽ hiểu ngữ cảnh không gian và thời gian để tìm kiếm chính xác bức ảnh đó trong thư viện ảnh lớn, ngay cả khi ảnh không có thẻ tag hoặc mô tả rõ ràng.
Ứng dụng hỗ trợ người khiếm thị trên điện thoại thông minh sử dụng mô hình thị giác-ngôn ngữ gốc: Tận dụng khả năng hiểu không gian và chi tiết của NEO-ov để xây dựng một ứng dụng có thể mô tả môi trường xung quanh theo thời gian thực qua camera điện thoại. Ví dụ: 'Có một chiếc ghế ở bên trái bạn cách khoảng 2 mét, phía trước có một cái bàn với một cốc nước'. Ứng dụng có thể hoạt động mượt mà trên thiết bị di động nhờ kiến trúc gốc hiệu quả.
Phương pháp chỉnh sửa ảnh và video thông minh trên điện thoại dựa trên tương tác ngôn ngữ tự nhiên và điểm ảnh: Cho phép người dùng chọn một vùng cụ thể trên ảnh hoặc video bằng cách chạm vào màn hình, sau đó đưa ra mệnh lệnh bằng giọng nói hoặc văn bản (ví dụ: chạm vào một chiếc áo và nói 'đổi màu chiếc áo này thành màu xanh dương'). Mô hình NEO-ov sẽ hiểu mối liên hệ giữa điểm ảnh được chọn và yêu cầu bằng văn bản để thực hiện chỉnh sửa chính xác ở cấp độ điểm ảnh.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.28820
ArXiv Abstract	https://arxiv.org/abs/2605.28820
PDF Download	https://arxiv.org/pdf/2605.28820.pdf
Github Repository	N/A

5. Self-Improving Language Models with Bidirectional Evolutionary Search (45 votes)

Tác giả: Guowei Xu, Zhenting Qi, Huangyuan Su, Weirui Ye, Himabindu Lakkaraju, Sham M. Kakade, Yilun Du

Xuất bản lúc: 2026-05-27

Tag: LLMs, Search, Evolutionary Algorithms, Self-Improvement, Post-Training, Inference, Bidirectional Search, Goal Decomposition

I. Main Problem:

Các phương pháp tìm kiếm hiện tại như best-of-N sampling và tree search gặp phải hai hạn chế cốt lõi: (1) tín hiệu xác minh thưa thớt, chỉ cung cấp phản hồi nhị phân hoặc thô; (2) khả năng tạo ra các ứng viên bị giới hạn trong phân phối của mô hình, khiến việc tìm ra các giải pháp đúng cho các bài toán khó trở nên khó khăn.

II. Main Idea:

Bài báo đề xuất Bidirectional Evolutionary Search (BES), một khung tìm kiếm kết hợp hai quá trình: (1) tìm kiếm tiến (forward search) sử dụng các toán tử tiến hóa (kết hợp, chuyển vị, xóa, lai ghép) để tạo ra các ứng viên vượt ra khỏi phân phối xác suất hẹp của mô hình; (2) tìm kiếm lùi (backward search) phân rã bài toán thành các mục tiêu con có thể kiểm chứng, cung cấp phản hồi dày đặc để hướng dẫn tìm kiếm tiến. BES có thể được sử dụng cho cả post-training (tạo mẫu huấn luyện chất lượng cao) và inference (tìm giải pháp tốt nhất trong thời gian suy luận).

III. Main Results:

Trên các tác vụ post-training khó (logical reasoning, multi-hop reasoning), BES cho thấy sự cải thiện nhất quán trong khi các phương pháp như GRPO, MaxRL, Tree-GRPO hầu như không cải thiện hoặc thậm chí giảm hiệu suất. Trên các bài toán mở (Circle Packing, Heilbronn Convex), BES vượt trội hơn các framework mã nguồn mở khác (OpenEvolve, GEPA, ShinkaEvolve) về cả giá trị trung bình và giá trị tốt nhất, đồng thời có độ biến thiên thấp hơn.

IV. Conclusion & Future Works:

BES giải quyết hiệu quả hai hạn chế của các phương pháp tìm kiếm hiện tại thông qua tìm kiếm tiến hóa hai chiều. Các thí nghiệm cho thấy BES cải thiện nhất quán trên cả post-training và inference. Hướng nghiên cứu trong tương lai có thể mở rộng BES sang các lĩnh vực khác và tối ưu hóa chi phí tính toán.

V. Brainstorming Space:

1. Publish Papers:

Áp dụng BES cho các tác vụ suy luận đa phương thức (Multimodal Reasoning): Mở rộng BES để xử lý các bài toán kết hợp văn bản và hình ảnh, nơi các mục tiêu con có thể là các bước mô tả hoặc phân tích vùng ảnh, giúp cải thiện khả năng suy luận phức tạp của mô hình.
Kết hợp BES với các phương pháp học tăng cường khác: Nghiên cứu việc tích hợp BES vào các thuật toán RL khác ngoài GRPO, như PPO hoặc các phương pháp dựa trên mô hình thế giới (world model), để tận dụng khả năng tạo mẫu chất lượng cao của BES.
Tối ưu hóa BES cho các mô hình ngôn ngữ nhỏ (Small Language Models): Phát triển các phiên bản BES nhẹ hơn, phù hợp với các mô hình có tham số nhỏ, nhằm mang lại khả năng tự cải thiện cho các mô hình chạy trên thiết bị biên (edge devices).

2. Patent:

Phương pháp và hệ thống tìm kiếm câu trả lời trên điện thoại thông minh: Một ứng dụng trên điện thoại thông minh sử dụng BES để tìm câu trả lời cho các câu hỏi phức tạp của người dùng. Ứng dụng sẽ chia nhỏ câu hỏi thành các bước nhỏ hơn, tìm kiếm thông tin cho từng bước, và kết hợp các thông tin đó để đưa ra câu trả lời cuối cùng, ngay cả khi câu trả lời không có sẵn trực tiếp trên internet.
Ứng dụng hỗ trợ học tập cá nhân hóa trên thiết bị di động: Một ứng dụng học tập sử dụng BES để giải thích các khái niệm khó. Khi người dùng hỏi một bài toán, ứng dụng sẽ phân rã bài toán thành các bước nhỏ, giải thích từng bước một cách chi tiết, và cho phép người dùng yêu cầu giải thích lại hoặc đi sâu vào bất kỳ bước nào, tạo ra trải nghiệm học tập tương tác và cá nhân hóa.
Trợ lý ảo trên điện thoại thông minh có khả năng lập kế hoạch phức tạp: Một trợ lý ảo sử dụng BES để lập kế hoạch cho các tác vụ phức tạp của người dùng, ví dụ như lên lịch trình cho một chuyến du lịch. Trợ lý sẽ chia nhỏ mục tiêu lớn thành các mục tiêu con (đặt vé máy bay, đặt khách sạn, tìm địa điểm ăn uống), tìm kiếm và đánh giá các lựa chọn cho từng mục tiêu con, sau đó kết hợp chúng lại thành một kế hoạch tổng thể tối ưu.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.28814
ArXiv Abstract	https://arxiv.org/abs/2605.28814
PDF Download	https://arxiv.org/pdf/2605.28814.pdf
Github Repository	https://github.com/Embodied-Minds-Lab/BES

6. ResearchMath-14K: Scaling Research-Level Mathematics via Agents (41 votes)

Tác giả: Guijin Son, Seungyeop Yi, Minju Gwak, Hyunwoo Ko, Wongi Jang, Youngjae Yu

Xuất bản lúc: 2026-05-27

Tag: LLMs, Mathematical Reasoning, Dataset, Agentic Pipeline, Research-Level Math, Hallucination

I. Main Problem:

Các mô hình ngôn ngữ lớn hiện nay thiếu khả năng giải quyết các bài toán toán học ở cấp độ nghiên cứu, nơi lời giải chưa được biết đến. Một trở ngại chính là thiếu các bộ dữ liệu toán học lớn ở cấp độ này. Các bộ dữ liệu hiện có chủ yếu tập trung vào các bài toán dạng thi đấu hoặc thấp hơn, và các tài nguyên cấp nghiên cứu thường nhỏ và chỉ dùng để đánh giá. Ngoài ra, các mô hình mới hơn có xu hướng tạo ra nhiều tham chiếu giả mạo, làm suy giảm tính thực tế.

II. Main Idea:

Tác giả giới thiệu ResearchMath-14K, một bộ dữ liệu gồm 14.056 bài toán nghiên cứu được tuyển chọn từ các nguồn học thuật thông qua một pipeline đa tác tử. Pipeline này bao gồm một tác tử trích xuất (Extractor) để xác định các câu hỏi mở từ tài liệu và một tác tử tinh chỉnh (Refiner) để viết lại chúng thành các bài toán độc lập, hoàn chỉnh. Từ đó, nhóm tác giả tạo ra ResearchMath-Reasoning, 220.000 quỹ đạo suy luận từ hai mô hình mở, và sau đó lọc bỏ các quỹ đạo có hành vi tránh né (non-attempts) hoặc tham chiếu giả mạo. Việc tinh chỉnh các mô hình Qwen3 trên tập dữ liệu đã lọc cho thấy sự cải thiện đáng kể, chứng minh rằng các nỗ lực giải bài toán mở không hoàn hảo vẫn có thể cung cấp tín hiệu giám sát hữu ích.

III. Main Results:

ResearchMath-14K là bộ dữ liệu toán học cấp nghiên cứu lớn nhất hiện nay. Các mô hình mới hơn tạo ra nhiều tham chiếu hơn 5,6 lần và nhiều tham chiếu giả hơn 5,0 lần trên mỗi quỹ đạo. Sau khi lọc, việc tinh chỉnh các mô hình Qwen3 (4B, 8B, 30B) trên ResearchMath-Reasoning-Filtered cải thiện trung bình 9,2 điểm phần trăm so với mô hình cơ sở, vượt trội so với tập dữ liệu DASD-Thinking trong hầu hết các trường hợp.

IV. Conclusion & Future Works:

Nghiên cứu này cho thấy các nỗ lực giải bài toán mở không hoàn hảo nhưng hợp lý (wrong-but-reasonable) vẫn có thể hữu ích cho việc huấn luyện mô hình, sau khi loại bỏ các lỗi nghiêm trọng như không cố gắng hoặc tham chiếu giả. Các công trình tương lai nên kiểm tra tín hiệu này ở quy mô lớn hơn, đồng thời làm rõ khi nào cần các quỹ đạo chính xác để có hành vi chứng minh đáng tin cậy.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng pipeline thu thập dữ liệu cho các lĩnh vực khoa học khác như vật lý, hóa học hoặc sinh học, nơi cũng tồn tại nhiều bài toán mở và giả thuyết chưa được giải.
Nghiên cứu sâu hơn về hành vi 'giả mạo tham chiếu' của các mô hình ngôn ngữ lớn khi đối mặt với các bài toán khó, và phát triển các phương pháp phát hiện và giảm thiểu hiệu quả hơn.
Phát triển các kỹ thuật đánh giá tự động cho các bài toán nghiên cứu, không chỉ dựa trên tính đúng đắn của lời giải mà còn dựa trên chất lượng của quá trình suy luận, chẳng hạn như khả năng phân rã bài toán thành các bổ đề.

2. Patent:

Phương pháp và hệ thống hỗ trợ học toán trên điện thoại thông minh: Ứng dụng di động sử dụng mô hình ngôn ngữ lớn đã được huấn luyện trên các bài toán nghiên cứu để đưa ra các gợi ý từng bước, phân tích các hướng tiếp cận khả thi và phát hiện các lỗi suy luận phổ biến của người dùng khi giải các bài toán khó.
Công cụ kiểm tra tính xác thực của tài liệu tham khảo trong văn bản học thuật trên thiết bị di động: Một ứng dụng cho phép người dùng nhập hoặc chụp ảnh một đoạn văn bản có chứa tham chiếu, sau đó tự động tra cứu trên web để xác minh xem tham chiếu đó có tồn tại hay không, giúp sinh viên và nhà nghiên cứu phát hiện thông tin sai lệch.
Hệ thống tạo bài tập toán cá nhân hóa dựa trên các bài toán nghiên cứu mở: Một nền tảng di động cho phép người dùng chọn lĩnh vực toán học yêu thích. Hệ thống sẽ trích xuất và đơn giản hóa một bài toán nghiên cứu mở thành một bài tập phù hợp với trình độ của người dùng, đồng thời cung cấp các manh mối và tài liệu tham khảo để hỗ trợ quá trình tìm tòi và khám phá.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.28003
ArXiv Abstract	https://arxiv.org/abs/2605.28003
PDF Download	https://arxiv.org/pdf/2605.28003.pdf
Github Repository	N/A

7. DenoiseRL: Bootstrapping Reasoning Models to Recover from Noisy Prefixes (39 votes)

Tác giả: Caijun Xu, Changyi Xiao, Zhongyuan Peng, Yixin Cao

Xuất bản lúc: 2026-05-27

Tag: Reinforcement Learning, Large Language Models, Reasoning, Denoising, Weak-to-Strong, Self-Correction, GRPO, DAPO

I. Main Problem:

Các mô hình ngôn ngữ lớn hiện tại thường dựa vào các mô hình giáo viên mạnh hơn hoặc các tập dữ liệu khó được tuyển chọn kỹ lưỡng để cải thiện khả năng suy luận. Điều này tạo ra một hạn chế cấu trúc: khi không có mô hình giáo viên đủ mạnh, việc nâng cao năng lực trở nên khó khăn. Câu hỏi đặt ra là làm thế nào để có được các mô hình mạnh mà không cần dựa vào các mô hình mạnh hơn làm người giám sát?

II. Main Idea:

Bài báo đề xuất DenoiseRL, một khung học tăng cường mới giúp mô hình học cách phục hồi từ các lỗi suy luận do chính mô hình yếu tạo ra. Cụ thể, DenoiseRL sử dụng các bước suy luận sai từ mô hình yếu làm 'tiền tố nhiễu' (noisy prefixes). Mô hình chính sách (policy model) được huấn luyện để tiếp tục suy luận từ các tiền tố sai này và điều chỉnh hướng đi để đến được đáp án đúng. Quá trình này được xem như một bài toán khử nhiễu (denoising), giúp mở rộng không gian trạng thái huấn luyện và tăng cường khả năng tự sửa lỗi của mô hình.

III. Main Results:

DenoiseRL cải thiện nhất quán hiệu suất của các phương pháp RL mạnh như GRPO và DAPO trên nhiều benchmark toán học và suy luận tổng quát. Cụ thể, trên Qwen3-4B-Base, DenoiseRL-GRPO tăng điểm trung bình từ 39.6% lên 42.0%, và DenoiseRL-DAPO tăng từ 39.8% lên 41.5%. Trên Qwen3-8B-Base, DenoiseRL-DAPO đạt kết quả tốt nhất trên mọi benchmark với điểm trung bình 44.8%, so với 42.8% của DAPO gốc. Phân tích cho thấy tỷ lệ tiền tố nhiễu (prefix ratio) và số lượng rollout khử nhiễu (denoise rollouts) cần được cân bằng để đạt hiệu quả tối ưu.

IV. Conclusion & Future Works:

DenoiseRL là một khung học tăng cường hiệu quả và có khả năng mở rộng, giúp cải thiện khả năng suy luận của mô hình mà không cần sự giám sát từ bên ngoài mạnh hơn. Các hướng nghiên cứu trong tương lai có thể bao gồm: mở rộng khung làm việc cho các tác vụ suy luận đa phương thức, kết hợp với các kỹ thuật huấn luyện đối kháng (adversarial training), và áp dụng cho các mô hình ngôn ngữ lớn hơn.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng DenoiseRL cho suy luận đa phương thức: Áp dụng ý tưởng khử nhiễu tiền tố cho các mô hình Vision-Language hoặc Audio-Language, nơi tiền tố nhiễu có thể là một đoạn văn bản mô tả sai hình ảnh hoặc một câu lệnh thoại bị méo. Mục tiêu là huấn luyện mô hình phục hồi thông tin chính xác từ các đầu vào đa phương thức bị lỗi.
Kết hợp DenoiseRL với Adversarial Training: Tạo ra các tiền tố nhiễu 'cứng đầu' hơn bằng cách sử dụng một mô hình đối kháng (adversarial model) được huấn luyện để tạo ra các lỗi suy luận khó phục hồi nhất. Điều này sẽ đẩy mạnh khả năng tự sửa lỗi của mô hình chính sách lên một tầm cao mới.
Phân tích lý thuyết về cơ chế học tập của DenoiseRL: Nghiên cứu sâu hơn về mặt lý thuyết tại sao việc học từ các tiền tố nhiễu lại hiệu quả. Có thể xem xét dưới góc nhìn của lý thuyết học tăng cường off-policy, tối ưu hóa đa mục tiêu, hoặc mối liên hệ với các phương pháp contrastive learning.

2. Patent:

Hệ thống hỗ trợ học tập thông minh trên điện thoại: Ứng dụng trên điện thoại giúp học sinh giải toán. Khi học sinh đưa ra một lời giải sai, hệ thống sẽ không đưa ra đáp án đúng ngay lập tức. Thay vào đó, nó sẽ phân tích lỗi sai, tạo ra một 'tiền tố' chứa các bước suy luận sai đó, và yêu cầu học sinh tiếp tục suy luận từ điểm sai để tự tìm ra đáp án đúng, giống như cơ chế 'khử nhiễu' trong bài báo.
Tính năng sửa lỗi chính tả và ngữ pháp thông minh trên bàn phím điện thoại: Khi người dùng gõ một câu có lỗi chính tả hoặc ngữ pháp, thay vì chỉ gạch đỏ và gợi ý từ đúng, bàn phím sẽ hiểu ngữ cảnh của lỗi sai. Nó sẽ coi câu văn có lỗi là một 'tiền tố nhiễu' và tự động đề xuất toàn bộ cách viết lại câu đó một cách chính xác và mạch lạc, thay vì chỉ sửa từng từ riêng lẻ.
Trợ lý ảo trên điện thoại có khả năng tự sửa lỗi hiểu lầm: Khi người dùng ra một câu lệnh thoại bị nhiễu hoặc không rõ ràng (ví dụ: 'Đặt báo thức lúc 8 giờ tối mai' khi hiện tại là 8 giờ tối), trợ lý ảo sẽ không thực thi ngay. Nó sẽ coi câu lệnh đó là một 'tiền tố nhiễu', phân tích ngữ cảnh (thời gian hiện tại) và đưa ra câu hỏi xác nhận hoặc tự động điều chỉnh thành hành động hợp lý hơn (ví dụ: 'Bạn muốn đặt báo thức cho 24 giờ nữa hay là sáng mai?').

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.28421
ArXiv Abstract	https://arxiv.org/abs/2605.28421
PDF Download	https://arxiv.org/pdf/2605.28421.pdf
Github Repository	https://github.com/ALEX-nlp/DenoiseRL

8. GEM: Generative Supervision Helps Embodied Intelligence (35 votes)

Tác giả: Ruowen Zhao, Bangguo Li, Zuyan Liu, Yinan Liang, Junliang Ye, Fangfu Liu, Diankun Wu, Zhengyi Wang, Xumin Yu, Yongming Rao, Han Hu, Jun Zhu

Xuất bản lúc: 2026-05-27

Tag: Embodied Intelligence, Vision-Language Models, Vision-Language-Action, Depth Estimation, Diffusion Transformer, Generative Supervision

I. Main Problem:

Các mô hình Vision-Language (VLM) hiện tại chủ yếu tập trung vào ngữ nghĩa cao cấp từ các tập dữ liệu QA trực quan, dẫn đến khoảng cách lớn với kiến thức không gian và vật lý cấp thấp cần thiết cho các tác vụ thao tác trong môi trường vật lý thực tế. Các phương pháp tăng cường không gian hiện có thường được áp dụng muộn trong quy trình hoặc tách rời khỏi tiền huấn luyện ngôn ngữ phong phú, ngăn cản việc hình thành một biểu diễn thống nhất, thực sự nhúng thể.

II. Main Idea:

Bài báo giới thiệu GEM, một mô hình ngôn ngữ thị giác nhúng thể được giám sát sinh (Generative-supervised Embodied vision-language Model). Ý tưởng chính là tích hợp tác vụ sinh bản đồ độ sâu (depth map generation) trực tiếp vào giai đoạn tiền huấn luyện VLM. Cụ thể, GEM sử dụng kiến trúc hybrid autoregressive-diffusion: một Diffusion Transformer (DiT) được điều kiện hóa bởi các đặc trưng thị giác ẩn từ mô hình hiểu autoregressive (Qwen3-VL) để tổng hợp bản đồ độ sâu chính xác. Một chiến lược huấn luyện tiến bộ (progressive training) gồm 3 giai đoạn (khởi tạo connector, khởi tạo generative head, và huấn luyện chung end-to-end) được sử dụng để ổn định quá trình học. Mô hình được mở rộng thành GEM-VLA bằng cách thêm một action expert dựa trên DiT để dự đoán hành động liên tục cho robot, sử dụng các token key-value từ backbone VLM làm điều kiện.

III. Main Results:

GEM thiết lập trạng thái nghệ thuật mới trên nhiều benchmark không gian và nhúng thể. Trên VSI-Bench, điểm số cải thiện từ 50.4 lên 62.8 cho mô hình 2B và từ 57.9 lên 70.6 cho mô hình 8B. Trên các benchmark yêu cầu định vị không gian chi tiết (RefSpatial, Where2Place, RoboSpatial), GEM-8B vượt qua Gemini-3-Pro tới 10%. GEM-VLA đạt tỷ lệ thành công trung bình kỷ lục 96.1% trên benchmark LIBERO và 43% trong các thử nghiệm thực tế, vượt trội so với các phương pháp trước đó (π0-FAST đạt 28.7%).

IV. Conclusion & Future Works:

GEM chứng minh rằng việc tích hợp giám sát sinh (depth generation) vào tiền huấn luyện VLM giúp thu hẹp khoảng cách giữa hiểu ngữ nghĩa cao cấp và thao tác vật lý cấp thấp, mang lại hiệu suất vượt trội trong cả lý luận không gian và điều khiển robot. Hướng nghiên cứu tương lai có thể bao gồm việc khám phá các loại giám sát sinh khác (ví dụ: normal map, flow) và mở rộng sang các tác vụ robot phức tạp hơn.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu sự ảnh hưởng của các loại giám sát sinh khác nhau (normal map, optical flow, point cloud) lên khả năng lý luận không gian và thao tác của VLM nhúng thể, so sánh với giám sát độ sâu.
Phát triển một phương pháp huấn luyện VLM nhúng thể với khả năng thích ứng miền (domain adaptation) cho môi trường mới, sử dụng giám sát sinh từ các bản đồ độ sâu dự đoán (pseudo-depth) để giảm sự phụ thuộc vào dữ liệu gán nhãn đắt đỏ.
Xây dựng một kiến trúc VLA mới với cơ chế chú ý không gian rõ ràng, được hướng dẫn bởi biểu diễn độ sâu học được từ giám sát sinh, để cải thiện khả năng tổng quát hóa cho các tác vụ thao tác phức tạp như gấp quần áo hoặc lắp ráp đồ vật.

2. Patent:

Phương pháp điều khiển robot trên điện thoại thông minh dựa trên ảnh chụp đơn: Hệ thống sử dụng camera của điện thoại để chụp ảnh môi trường. Mô hình VLM nhúng thể, đã được huấn luyện với giám sát sinh độ sâu, sẽ phân tích ảnh để hiểu bố cục không gian (ví dụ: khoảng cách giữa các đồ vật). Sau đó, hệ thống sẽ đưa ra các hướng dẫn hoặc tự động điều khiển robot (ví dụ: cánh tay robot thông minh kết nối với điện thoại) để thực hiện các thao tác như 'nhặt cốc nước ở bên trái chai nước' một cách chính xác.
Ứng dụng hỗ trợ người khiếm thị trên điện thoại thông minh: Ứng dụng sử dụng camera điện thoại để quét không gian xung quanh. Mô hình VLM với khả năng hiểu không gian sâu sẽ mô tả môi trường bằng giọng nói tự nhiên, bao gồm thông tin chi tiết về vị trí, khoảng cách và kích thước của các vật thể (ví dụ: 'Một cái ghế cách bạn 2 mét về phía trước bên trái'). Điều này giúp người dùng khiếm thị di chuyển và tương tác với môi trường an toàn hơn.
Hệ thống hướng dẫn lắp ráp đồ nội thất AR trên điện thoại: Ứng dụng thực tế ảo tăng cường (AR) trên điện thoại. Khi người dùng hướng camera vào các bộ phận của đồ nội thất, mô hình VLM có giám sát độ sâu sẽ nhận diện và hiểu hình dạng 3D của từng bộ phận. Hệ thống sẽ tạo ra các hướng dẫn trực quan (mũi tên, đường dẫn) phủ lên màn hình, chỉ dẫn chính xác cách ghép nối các bộ phận dựa trên không gian thực tế, giúp việc lắp ráp trở nên dễ dàng hơn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.28548
ArXiv Abstract	https://arxiv.org/abs/2605.28548
PDF Download	https://arxiv.org/pdf/2605.28548.pdf
Github Repository	https://github.com/zhaorw02/GEM

9. MemTrace: Tracing and Attributing Errors in Large Language Model Memory Systems (34 votes)

Tác giả: Xinle Deng, Ruobin Zhong, Hujin Peng, Xiaoben Lu, Yanzhe Wu, Guang Li, Buqiang Xu, Yunzhi Yao, Jizhan Fang, Haoliang Cao, Junjie Guo, Yuan Yuan, Ziqing Ma, Yuanqiang Yu, Rui Hu, Baohua Dong, Hangcheng Zhu, Ningyu Zhang

Xuất bản lúc: 2026-05-27

Tag: LLMs, Memory Systems, Error Tracing, Attribution, Execution Graph, Prompt Optimization

I. Main Problem:

Các hệ thống bộ nhớ trong mô hình ngôn ngữ lớn (LLM) hiện nay rất cần thiết cho các tác vụ suy luận dài hạn, nhưng chúng không đáng tin cậy và khó gỡ lỗi. Khi một tác nhân có bộ nhớ bị lỗi, rất khó để xác định nguồn gốc lỗi vì lỗi có thể phát sinh từ các thao tác tạo, cập nhật hoặc xóa bộ nhớ từ trước đó và chỉ biểu hiện ra sau này. Các phương pháp chẩn đoán hiện tại chỉ tập trung vào kết quả đầu cuối, không có khả năng truy vết đường đi quan hệ nhân quả của lỗi trong suốt quá trình tiến hóa của bộ nhớ.

II. Main Idea:

Bài báo đề xuất một khung làm việc mới để truy vết và quy kết lỗi trong hệ thống bộ nhớ LLM. Ý tưởng chính là biến đổi các pipeline bộ nhớ thành đồ thị tiến hóa bộ nhớ (execution graph) có thể thực thi được. Đồ thị này ghi lại các thao tác (operations), biến (variables) và mối quan hệ phụ thuộc giữa chúng, cho phép truy vết luồng thông tin một cách chi tiết. Dựa trên đồ thị này, bài báo xây dựng MemTraceBench (bộ benchmark với 160 ca lỗi thực tế) và đề xuất MemTrace, một phương pháp quy kết tự động. MemTrace hoạt động như một tác nhân, khám phá đồ thị thực thi một cách lặp đi lặp lại để xác định thao tác gây lỗi quyết định (decisive error) dựa trên các tiêu chí về tính nhân quả và tối thiểu.

III. Main Results:

MemTrace đạt độ chính xác dự đoán loại lỗi (ETA) tốt nhất trên MemTraceBench, đặc biệt là với các mô hình nhỏ hơn (GPT-4.1 mini: 36.46% so với 20% của phương pháp cơ sở). Việc xác định chính xác thao tác lỗi (OIA) khó hơn, đạt tối đa 46.25% với GPT-5.4. Phương pháp tìm kiếm dựa trên thao tác (MemTrace-OBS) giảm đáng kể chi phí suy luận, ví dụ chỉ dùng 15.25% token so với MemTrace trên tập long-context. Quan trọng nhất, các tín hiệu quy kết từ MemTrace có thể được sử dụng để tối ưu hóa prompt một cách tự động, cải thiện hiệu suất tác vụ cuối lên tới 7.62%.

IV. Conclusion & Future Works:

Bài báo kết luận rằng việc chẩn đoán lỗi trong hệ thống bộ nhớ là một vấn đề mới và đầy thách thức. MemTrace và MemTraceBench là những bước đi đầu tiên hướng tới giải pháp tự động. Các hướng phát triển trong tương lai bao gồm: (1) Mở rộng benchmark cho các dạng bộ nhớ khác như bộ nhớ tác vụ (task memory) và đa phương thức (multimodal memory); (2) Mở rộng phương pháp để xử lý các ca lỗi có nhiều hơn một thao tác gây lỗi; (3) Kết hợp tìm kiếm thao tác toàn cục với khám phá đồ thị cục bộ để cải thiện hiệu quả; (4) Áp dụng khung làm việc này cho các hệ thống phức hợp khác ngoài hệ thống bộ nhớ.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng MemTraceBench cho bộ nhớ đa phương thức (Multimodal Memory): Xây dựng một phiên bản mở rộng của MemTraceBench bao gồm các hệ thống bộ nhớ đa phương thức (ví dụ: kết hợp văn bản và hình ảnh) để đánh giá khả năng truy vết lỗi trong các tình huống phức tạp hơn, nơi thông tin được lưu trữ và truy xuất từ nhiều nguồn dữ liệu khác nhau.
Phát triển phương pháp quy kết lỗi cho lỗi đa nguyên nhân (Multi-Cause Errors): Nghiên cứu và đề xuất các thuật toán mới để xác định tập hợp nhiều thao tác gây lỗi (non-singleton decisive error set) trong các hệ thống tác nhân phức tạp, chẳng hạn như các hệ thống sử dụng nhiều tác nhân con chạy song song.
Kết hợp tìm kiếm toàn cục và khám phá đồ thị cục bộ: Thiết kế một phương pháp lai (hybrid) kết hợp ưu điểm của MemTrace-OBS (tìm kiếm nhanh dựa trên từ khóa) và MemTrace (khám phá cấu trúc đồ thị chi tiết) để vừa nhanh chóng khoanh vùng vùng nghi ngờ vừa có thể suy luận chính xác về mối quan hệ phụ thuộc.

2. Patent:

Phương pháp và hệ thống tự động gỡ lỗi cho trợ lý ảo trên điện thoại: Sáng chế này mô tả một hệ thống trên điện thoại thông minh, sử dụng MemTrace để tự động phát hiện và giải thích lý do tại sao trợ lý ảo (ví dụ: Siri, Google Assistant) đưa ra câu trả lời sai dựa trên lịch sử tương tác. Hệ thống sẽ tạo ra một báo cáo ngắn gọn cho nhà phát triển hoặc người dùng, chỉ ra thao tác lưu trữ hay truy xuất bộ nhớ nào đã thất bại, giúp cải thiện trải nghiệm người dùng mà không cần can thiệp thủ công phức tạp.
Ứng dụng MemTrace để tối ưu hóa cá nhân hóa trên thiết bị di động: Sáng chế này sử dụng MemTrace để phân tích cách một ứng dụng trên điện thoại (ví dụ: ứng dụng đọc báo, nghe nhạc) ghi nhớ sở thích của người dùng. Khi ứng dụng đề xuất nội dung không phù hợp, MemTrace sẽ truy vết để tìm ra bước nào trong quy trình (ví dụ: trích xuất thông tin từ tin nhắn, cập nhật hồ sơ người dùng) đã gây ra lỗi. Từ đó, hệ thống có thể tự động điều chỉnh các prompt hoặc luật để cải thiện độ chính xác của các đề xuất.
Hệ thống tự động vá lỗi cho chatbot dịch vụ khách hàng trên thiết bị di động: Sáng chế này mô tả một hệ thống trên điện thoại, nơi chatbot dịch vụ khách hàng sử dụng bộ nhớ để theo dõi lịch sử trò chuyện. Khi chatbot đưa ra câu trả lời sai hoặc mâu thuẫn với thông tin trước đó, MemTrace sẽ xác định nguyên nhân gốc rễ (ví dụ: một thao tác cập nhật thông tin khách hàng bị lỗi). Hệ thống sau đó sẽ tự động tạo và áp dụng một bản vá nhỏ (ví dụ: sửa đổi prompt) để khắc phục lỗi, đảm bảo chatbot hoạt động chính xác hơn trong các tương tác tương lai.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.28732
ArXiv Abstract	https://arxiv.org/abs/2605.28732
PDF Download	https://arxiv.org/pdf/2605.28732.pdf
Github Repository	https://github.com/zjunlp/MemTrace

10. Learn from Weaknesses: Automated Domain Specialization for Small Computer-Use Agents (32 votes)

Tác giả: Suji Kim, Kangsan Kim, Sung Ju Hwang

Xuất bản lúc: 2026-05-27

Tag: Computer-Use Agent, Domain Specialization, Weakness-Aware Training, Preference Optimization, LoRA, Small Models

I. Main Problem:

Các tác nhân sử dụng máy tính (Computer-Use Agents - CUAs) nhỏ, mở và có chi phí thấp thường có hiệu suất kém hơn nhiều so với các mô hình lớn, đặc biệt là trong các lĩnh vực phần mềm cụ thể. Việc huấn luyện chuyên biệt hóa cho từng lĩnh vực (domain specialization) gặp khó khăn vì (1) thu thập dữ liệu huấn luyện có chú thích thủ công rất tốn kém, và (2) các phương pháp tạo dữ liệu tự động hiện có không tính đến điểm yếu cụ thể của từng mô hình học sinh, dẫn đến việc huấn luyện kém hiệu quả. Ngoài ra, việc tinh chỉnh (fine-tuning) một cách ngây thơ có thể làm hỏng các khả năng đã có của mô hình.

II. Main Idea:

Bài báo giới thiệu LEARNWEAK, một khung làm việc (framework) tự động, không cần chú thích để chuyên biệt hóa các CUA nhỏ cho một lĩnh vực cụ thể. Khung này gồm hai giai đoạn chính:

LEARNWEAK-GEN (Tạo dữ liệu dựa trên điểm yếu): Khung này lặp đi lặp lại việc so sánh giữa một mô hình giáo viên mạnh và mô hình học sinh yếu hơn để xác định các nhiệm vụ mà giáo viên thành công nhưng học sinh thất bại. Từ đó, nó tạo ra một 'báo cáo điểm yếu' (weakness report) và sử dụng nó cùng với các ảnh chụp màn hình đại diện để tạo ra các nhiệm vụ mới nhắm trực tiếp vào những điểm yếu này.
LEARNWEAK-DPO (Huấn luyện với tối ưu hóa ưu tiên nhận biết lỗi): Sau khi có dữ liệu, khung này sử dụng một biến thể của thuật toán DPO (Direct Preference Optimization) để huấn luyện. Thay vì huấn luyện trên toàn bộ chuỗi hành động, nó chỉ tập trung vào các bước mà mô hình học sinh sai, đồng thời phân loại lỗi thành lỗi lập kế hoạch (planning error - sai loại hành động) và lỗi thực thi (execution error - sai tọa độ) để áp dụng các chiến lược cập nhật phù hợp. Kiến trúc sử dụng LoRA (Low-Rank Adaptation) cho phép chuyên biệt hóa từng lĩnh vực một cách mô-đun.

III. Main Results:

Trên bộ đánh giá OSWorld gồm 8 lĩnh vực, LEARNWEAK đã cải thiện đáng kể hiệu suất:

Cải thiện trung bình 11.6 điểm phần trăm cho mô hình EvoCUA-8B (từ 50.69% lên 62.24%).
Cải thiện trung bình 11.1 điểm phần trăm cho mô hình OpenCUA-7B (từ 37.65% lên 48.72%).
Trong một số lĩnh vực, mô hình học sinh nhỏ (8B) sau khi chuyên biệt hóa còn vượt qua cả mô hình giáo viên (32B).
Phương pháp tạo dữ liệu LEARNWEAK-GEN vượt trội hơn tất cả các phương pháp tạo dữ liệu tự động khác (như AgentSynth, OS-Genesis, ZeroGUI) khi so sánh trong cùng một ngân sách dữ liệu.
Phương pháp huấn luyện LEARNWEAK-DPO vượt trội hơn các phương pháp SFT và DPO tiêu chuẩn.

IV. Conclusion & Future Works:

LEARNWEAK chứng minh rằng việc chuyên biệt hóa hiệu quả cho các CUA nhỏ phụ thuộc vào việc xác định và sửa chữa các điểm yếu cụ thể của từng mô hình, thay vì chỉ đơn giản là tạo ra nhiều dữ liệu hơn. Kết quả cho thấy khả năng thu hẹp khoảng cách hiệu suất giữa các mô hình nhỏ, mở và các tác nhân lớn, độc quyền mà không cần chú thích thủ công. Hướng nghiên cứu trong tương lai bao gồm việc mở rộng khung làm việc này để quản lý một thư viện các bộ chuyển đổi (adapter) LoRA cho nhiều lĩnh vực khác nhau và phát triển các cơ chế định tuyến thông minh để chọn đúng bộ chuyển đổi cho từng tác vụ.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu về cơ chế định tuyến thích ứng cho các tác nhân đa lĩnh vực: Phát triển một hệ thống có thể tự động phát hiện lĩnh vực của tác vụ đầu vào và kích hoạt bộ chuyển đổi (adapter) LoRA chuyên biệt tương ứng, cho phép một mô hình nền duy nhất phục vụ hiệu quả nhiều ứng dụng phần mềm khác nhau.
Mở rộng LEARNWEAK cho các tác vụ đa phương thức và đa bước phức tạp: Nghiên cứu cách áp dụng khung phát hiện điểm yếu và huấn luyện có mục tiêu cho các tác vụ không chỉ dừng lại ở GUI (ví dụ: kết hợp với xử lý văn bản, âm thanh) hoặc các chuỗi hành động dài và phức tạp hơn, nơi các lỗi có thể chồng chéo lên nhau.
Phân tích tác động của chất lượng giáo viên lên hiệu quả chuyên biệt hóa: Thực hiện một nghiên cứu có hệ thống về cách các đặc điểm khác nhau của mô hình giáo viên (ví dụ: kích thước, kiến trúc, độ chính xác trong từng lĩnh vực) ảnh hưởng đến chất lượng của dữ liệu điểm yếu được tạo ra và hiệu suất cuối cùng của mô hình học sinh.

2. Patent:

Phương pháp và hệ thống cá nhân hóa trợ lý ảo trên điện thoại thông minh dựa trên điểm yếu: Hệ thống này theo dõi các tác vụ mà người dùng thường xuyên thực hiện trên điện thoại (ví dụ: chỉnh sửa ảnh, soạn thảo văn bản ngắn) và phát hiện những thao tác mà trợ lý ảo thực hiện kém (ví dụ: chọn sai công cụ, xác định sai vị trí). Dựa trên những điểm yếu này, hệ thống sẽ tự động tạo ra các bài tập ngắn hoặc hướng dẫn tương tác để 'huấn luyện' trợ lý ảo, giúp nó ngày càng hiệu quả hơn trong việc hỗ trợ người dùng mà không cần cập nhật phần mềm lớn.
Ứng dụng di động hỗ trợ người dùng mới làm quen với phần mềm phức tạp: Ứng dụng này sử dụng một mô hình trí tuệ nhân tạo nhỏ gọn trên điện thoại để quan sát thao tác của người dùng trên một ứng dụng cụ thể (ví dụ: một ứng dụng chỉnh sửa video di động). Khi phát hiện người dùng gặp khó khăn hoặc thực hiện sai một thao tác nhiều lần, ứng dụng sẽ tự động đưa ra các gợi ý, mẹo vặt hoặc thậm chí là thực hiện hộ thao tác đó, dựa trên 'điểm yếu' đã được học từ hành vi của người dùng.
Phương pháp tối ưu hóa hiệu năng pin và bộ nhớ cho các tác nhân AI trên thiết bị di động: Bằng cách sử dụng kỹ thuật chuyên biệt hóa lĩnh vực (domain specialization) và các bộ chuyển đổi LoRA nhẹ, một mô hình AI nền trên điện thoại có thể được tinh chỉnh riêng cho từng ứng dụng (ví dụ: một bộ chuyển đổi riêng cho ứng dụng thư, một bộ khác cho ứng dụng ảnh). Khi người dùng mở một ứng dụng, chỉ bộ chuyển đổi tương ứng mới được kích hoạt, giúp giảm đáng kể mức tiêu thụ bộ nhớ và năng lượng so với việc chạy một mô hình tổng quát lớn, trong khi vẫn đảm bảo hiệu suất cao cho từng tác vụ cụ thể.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.28775
ArXiv Abstract	https://arxiv.org/abs/2605.28775
PDF Download	https://arxiv.org/pdf/2605.28775.pdf
Github Repository	https://github.com/sujiikim/LearnWeak

11. ScientistOne: Towards Human-Level Autonomous Research via Chain-of-Evidence (29 votes)

Tác giả: Rui Meng, Bhavana Dalvi Mishra, Jiefeng Chen, Chun-Liang Li, Palash Goyal, Mihir Parmar, Yiwen Song, Yale Song, Rajarishi Sinha, Parthasarathy Ranganathan, Burak Gokturk, Jinsung Yoon, Tomas Pfister

Xuất bản lúc: 2026-05-25

Tag: Chain-of-Evidence, Autonomous Research Agents, Verifiability, LLMs, Scientific Integrity

I. Main Problem:

Các hệ thống nghiên cứu tự động hiện tại có thể tạo ra các bài báo có vẻ chuyên nghiệp nhưng chứa các lỗi không thể kiểm chứng như trích dẫn giả, điểm số không tái lập được và mô tả phương pháp không khớp với mã nguồn. Các phương pháp đánh giá hiện tại chỉ kiểm tra bề mặt (cách bài báo được viết) mà không kiểm tra xem các tuyên bố có được hỗ trợ bởi bằng chứng hay không. Vấn đề này gây ra 'lỗ hổng khả năng kiểm chứng' (verifiability gap) trong nghiên cứu AI.

II. Main Idea:

Bài báo đề xuất Chain-of-Evidence (CoE), một khuôn khổ yêu cầu mọi tuyên bố trong nghiên cứu phải có thể truy xuất nguồn gốc bằng chứng của nó. Để hiện thực hóa CoE, các tác giả xây dựng ScientistOne, một hệ thống nghiên cứu tự động đầu cuối với ba giai đoạn: (1) Nền tảng tài liệu (Literature Grounding) – đọc và trích xuất thông tin từ tối đa 100 bài báo PDF; (2) Khám phá (Discovery) – sử dụng kiến trúc Parallel Explore-Exploit để tạo và đánh giá các giải pháp; (3) Viết bài và kiểm chứng (Paper Writing & Verification) – sử dụng Claim Verifier để kiểm tra từng tuyên bố trong bản thảo so với nguồn bằng chứng đã khai báo. Ngoài ra, bài báo cũng giới thiệu CoE Integrity Audit, một bộ kiểm toán hậu kiểm với bốn kiểm tra tính toàn vẹn: Xác minh điểm số (I1), Vi phạm đặc tả (I2), Xác minh tham khảo (I3) và Căn chỉnh phương pháp-mã nguồn (I4).

III. Main Results:

Trên 75 bài báo từ 5 hệ thống và 5 tác vụ nghiên cứu, ScientistOne là hệ thống duy nhất đạt điểm xuất sắc trên tất cả bốn kiểm tra tính toàn vẹn: không có tham khảo giả (0/337 mục thư mục), xác minh điểm số hoàn hảo (12/12), và căn chỉnh phương pháp-mã nguồn cao nhất (14/15). Các hệ thống khác có tỷ lệ tham khảo giả lên đến 21%, xác minh điểm số chỉ đạt tối thiểu 42%, và căn chỉnh phương pháp-mã nguồn dao động từ 20% đến 80%. ScientistOne cũng đạt hoặc vượt hiệu suất của chuyên gia con người trên tất cả năm tác vụ và mở rộng sang sáu tác vụ khác.

IV. Conclusion & Future Works:

ScientistOne chứng minh rằng có thể xây dựng một hệ thống nghiên cứu tự động vừa có năng lực vừa có thể kiểm chứng được. Hướng nghiên cứu tương lai bao gồm: mở rộng CoE để bao phủ nhiều loại tuyên bố hơn (ví dụ: quan sát định tính, thuộc tính lý thuyết), phát triển các công cụ tự động hóa việc kiểm toán tính toàn vẹn, và áp dụng CoE cho các quy trình nghiên cứu do con người thực hiện.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng Chain-of-Evidence (CoE) để kiểm chứng các tuyên bố định tính và lý thuyết trong nghiên cứu AI, vượt ra ngoài các tuyên bố số và phương pháp luận hiện tại.
Phát triển một hệ thống kiểm toán tự động dựa trên CoE Integrity Audit, có thể áp dụng cho mọi bài báo khoa học, không chỉ các hệ thống tự động.
Nghiên cứu ứng dụng CoE trong quy trình đánh giá đồng nghiệp (peer review) để hỗ trợ người đánh giá phát hiện các lỗi về khả năng kiểm chứng.

2. Patent:

Phương pháp và hệ thống kiểm chứng tự động các tuyên bố trong báo cáo nghiên cứu trên điện thoại thông minh: Ứng dụng cho phép người dùng nhập hoặc chụp ảnh một đoạn văn bản từ bài báo, sau đó tự động truy xuất và đối chiếu với các nguồn dữ liệu khoa học trực tuyến để xác minh tính chính xác của các trích dẫn và số liệu.
Ứng dụng di động hỗ trợ sinh viên viết luận văn hoặc báo cáo khoa học: Tích hợp trợ lý AI có khả năng tự động tạo và kiểm tra 'chuỗi bằng chứng' cho từng tuyên bố, đảm bảo mọi thông tin đều có nguồn gốc rõ ràng và có thể truy xuất được, giúp tránh đạo văn và sai sót.
Công cụ trên điện thoại thông minh giúp kiểm tra độ tin cậy của thông tin khoa học trên mạng xã hội: Khi người dùng gặp một tuyên bố khoa học, ứng dụng sẽ tự động phân tích, truy tìm nguồn gốc và đánh giá mức độ tin cậy dựa trên các bài báo và cơ sở dữ liệu khoa học đã được kiểm chứng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.26340
ArXiv Abstract	https://arxiv.org/abs/2605.26340
PDF Download	https://arxiv.org/pdf/2605.26340.pdf
Github Repository	https://github.com/scientist-one/generated-artifacts

12. Your Agents Are Aging Too: Agent Lifespan Engineering for Deployed Systems (24 votes)

Tác giả: Jianing Zhu, Yeonju Ro, John Robertson, Kevin Wang, Junbo Li, Haris Vikalo, Aditya Akella, Zhangyang Wang

Xuất bản lúc: 2026-05-25

Tag: Agent Lifespan Engineering, Agent Aging, Memory Degradation, Long-lived Agents, AgingBench

I. Main Problem:

Các tác nhân AI (AI agents) được triển khai lâu dài hiện nay vẫn được đánh giá như các mô hình mới khởi tạo, bỏ qua câu hỏi cốt lõi: một tác nhân có thể duy trì độ tin cậy bao lâu sau khi triển khai? Ngay cả khi trọng số mô hình bị đóng băng, trạng thái hiệu quả của tác nhân liên tục thay đổi do nén lịch sử tương tác, truy xuất từ bộ nhớ ngày càng lớn, sửa đổi sự kiện và bảo trì định kỳ. Do đó, độ tin cậy trở thành một thuộc tính trong suốt vòng đời của toàn bộ hệ thống tác nhân, chứ không chỉ là ảnh chụp nhanh của mô hình nền tảng.

II. Main Idea:

Bài báo giới thiệu Kỹ thuật Vòng đời Tác nhân (Agent Lifespan Engineering - ALE) và AgingBench, một benchmark theo chiều dọc để đo lường sự suy giảm độ tin cậy của tác nhân sau triển khai. Tác giả phân loại 'sự lão hóa' của tác nhân thành bốn cơ chế: (1) Lão hóa do nén (Compression aging), (2) Lão hóa do nhiễu (Interference aging), (3) Lão hóa do sửa đổi (Revision aging), và (4) Lão hóa do bảo trì (Maintenance aging). Để chẩn đoán, AgingBench sử dụng đồ thị phụ thuộc thời gian (temporal dependency DAG) và các probe phản thực (counterfactual probes) để tạo ra hồ sơ chẩn đoán cho các giai đoạn ghi, truy xuất và sử dụng trong pipeline bộ nhớ.

III. Main Results:

Qua hơn 400 lần chạy trên 7 kịch bản, 14 mô hình và nhiều chính sách bộ nhớ khác nhau, kết quả cho thấy sự lão hóa của tác nhân không phải là một chiều: các bài kiểm tra hành vi có thể vẫn sạch trong khi độ chính xác thực tế suy giảm; việc theo dõi trạng thái dẫn xuất có thể sụp đổ mạnh trong một mô hình; và cùng một câu trả lời sai có thể yêu cầu các sửa chữa khác nhau tùy thuộc vào hồ sơ chẩn đoán chỉ ra điều gì. Ví dụ, GPT-4o-mini có tỷ lệ lỗi tổng thể tương tự các mô hình khác nhưng nguyên nhân gốc rễ lại khác nhau: một số kịch bản bị chi phối bởi lỗi sử dụng, số khác bởi lỗi ghi hoặc truy xuất.

IV. Conclusion & Future Works:

Kết quả cho thấy việc triển khai tác nhân đáng tin cậy đòi hỏi phải đánh giá trong suốt vòng đời, chẩn đoán ở cấp độ cơ chế và sửa chữa có mục tiêu theo từng giai đoạn, chứ không chỉ là các mô hình mạnh hơn vào ngày đầu. Hướng nghiên cứu tương lai bao gồm mở rộng AgingBench với nhiều kịch bản phức tạp hơn, phát triển các kỹ thuật sửa chữa tự động dựa trên chẩn đoán, và nghiên cứu sự tương tác giữa các cơ chế lão hóa khác nhau.

V. Brainstorming Space:

1. Publish Papers:

1. Nghiên cứu về các chiến lược chống lão hóa cho tác nhân AI: Phát triển và đánh giá các kỹ thuật sửa chữa có mục tiêu dựa trên hồ sơ chẩn đoán, ví dụ như cải thiện prompt nén để bảo toàn giá trị chính xác, hoặc thiết kế thuật toán truy xuất chống nhiễu.
1. Mở rộng AgingBench cho các hệ thống đa tác nhân và tác nhân có khả năng học liên tục: Xây dựng các kịch bản mới mô phỏng sự tương tác phức tạp giữa nhiều tác nhân và khả năng cập nhật kiến thức nền tảng theo thời gian, từ đó đo lường các dạng lão hóa mới.
1. Phát triển khung lý thuyết cho Kỹ thuật Vòng đời Tác nhân (ALE): Xây dựng các mô hình toán học để dự đoán tuổi thọ và đường cong lão hóa của tác nhân dựa trên các tham số cấu hình và dữ liệu tương tác, tương tự như các mô hình độ tin cậy trong kỹ thuật phần mềm.

2. Patent:

1. Phương pháp và hệ thống chẩn đoán 'sức khỏe' cho trợ lý ảo trên điện thoại di động: Hệ thống này theo dõi các tương tác của người dùng với trợ lý ảo theo thời gian và sử dụng các 'bài kiểm tra' ngầm để phát hiện các dấu hiệu suy giảm như quên thông tin cá nhân, nhầm lẫn giữa các sự kiện lịch, hoặc đưa ra thông tin lỗi thời. Khi phát hiện suy giảm, hệ thống sẽ tự động đề xuất hoặc thực hiện các bước 'sửa chữa' như làm mới bộ nhớ, ưu tiên thông tin gần đây hơn.
1. Ứng dụng quản lý bộ nhớ thông minh cho thiết bị di động: Một ứng dụng nền tảng quản lý bộ nhớ của các ứng dụng trợ lý AI trên điện thoại. Ứng dụng này sẽ phân tích 'tuổi thọ' và 'sức khỏe' bộ nhớ của từng tác nhân, tự động thực hiện các thao tác như nén thông minh (giữ lại chi tiết quan trọng), dọn dẹp các mục trùng lặp gây nhiễu, và kiểm tra tính nhất quán của dữ liệu sau các bản cập nhật hệ thống, giúp trợ lý hoạt động ổn định và chính xác hơn theo thời gian.
1. Hệ thống cảnh báo và khôi phục cho tác nhân AI trên điện thoại khi xảy ra sự kiện bảo trì: Phát hiện và cảnh báo người dùng khi một tác nhân AI (ví dụ: trợ lý giọng nói) có thể bị ảnh hưởng sau các sự kiện như cập nhật hệ điều hành, xóa bộ nhớ cache, hoặc thay đổi cài đặt quyền riêng tư. Hệ thống sẽ tự động chạy một loạt bài kiểm tra nhanh để đánh giá mức độ suy giảm và đề xuất hoặc tự động thực hiện các bước khôi phục, chẳng hạn như đồng bộ lại dữ liệu từ đám mây hoặc thiết lập lại các prompt hướng dẫn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.26302
ArXiv Abstract	https://arxiv.org/abs/2605.26302
PDF Download	https://arxiv.org/pdf/2605.26302.pdf
Github Repository	https://github.com/VITA-Group/AgingBench

13. AI Research Agents Narrow Scientific Exploration (20 votes)

Tác giả: Yixuan Tang, Yi Yang

Xuất bản lúc: 2026-05-27

Tag: AI Research Agents, Scientific Discovery, LLMs, Exploration vs Exploitation, Bibliographic Coupling, Idea Generation

I. Main Problem:

Các tác nhân nghiên cứu AI hiện tại có thể tạo ra ý tưởng khoa học, nhưng liệu chúng có thực sự mở rộng phạm vi khám phá khoa học hay chủ yếu chỉ bám sát các công trình hiện có? Nghiên cứu này chỉ ra rằng mặc dù các tác nhân AI được thiết kế để tạo ra những ý tưởng mới lạ và có tác động cao, nhưng trên thực tế, chúng có xu hướng tập trung vào một vùng hẹp của không gian ý tưởng và không khám phá ra những hướng đi mới như các nhà nghiên cứu con người.

II. Main Idea:

Nghiên cứu này xem xét các tác nhân nghiên cứu AI như các hệ thống tìm kiếm khoa học. Bằng cách sử dụng bốn khung tác nhân nghiên cứu AI (Zero-shot, AI Scientist, ResearchAgent, AgentLaboratory) và sáu mô hình ngôn ngữ lớn (LLMs), nhóm tác giả đã tạo ra 37,802 ý tưởng khoa học từ các tài liệu nền tảng được chia sẻ trong các lĩnh vực nghiên cứu được xác định bằng trích dẫn. Sau đó, họ so sánh các ý tưởng do AI tạo ra với các bài báo do con người viết, các nghiên cứu tiếp theo của con người và chính các tài liệu nền tảng. Bốn mô hình nhất quán xuất hiện: (1) ý tưởng AI tập trung hơn nhiều so với con người; (2) ý tưởng AI bám sát tài liệu gốc hơn; (3) các bài báo giống ý tưởng AI nhất có xu hướng nhận được ít trích dẫn hơn; (4) sự khác biệt của ý tưởng AI so với công trình trước chủ yếu đến từ việc kết hợp lại các phương pháp kỹ thuật hiện có, chứ không phải từ việc đưa ra các câu hỏi nghiên cứu mới.

III. Main Results:

Các thí nghiệm cho thấy bốn mô hình nhất quán. Thứ nhất, các ý tưởng do AI tạo ra tập trung hơn đáng kể so với các bài báo do con người viết trong cùng lĩnh vực (độ tương tự cosine trung bình trong cùng lĩnh vực là 0.82-0.84 so với 0.77). Thứ hai, các ý tưởng AI bám sát tài liệu nền tảng hơn so với các công trình tiếp theo của con người (0.92 so với 0.88). Thứ ba, các bài báo giống ý tưởng AI nhất nhận được trung bình 50.4 trích dẫn, thấp hơn so với mức trung bình của lĩnh vực là 54.9 trích dẫn. Thứ tư, 85.1% ý tưởng AI không đưa ra câu hỏi nghiên cứu mới so với tài liệu nền tảng, trong khi 62.6% không đưa ra phương pháp kỹ thuật mới.

IV. Conclusion & Future Works:

Các tác nhân nghiên cứu AI hiện tại phù hợp hơn với việc khai thác và mở rộng cục bộ kiến thức hiện có hơn là khám phá những hướng đi khoa học mới. Việc mở rộng quy mô mô hình và sử dụng các khung tác nhân phức tạp hơn dường như không giải quyết được hạn chế cốt lõi này. Hướng nghiên cứu trong tương lai nên tập trung vào việc thiết kế các hệ thống AI có thể mở rộng phạm vi khám phá khoa học, thay vì chỉ tạo ra các đề xuất nghiên cứu hợp lý.

V. Brainstorming Space:

1. Publish Papers:

Phát triển các cơ chế khuyến khích tác nhân AI đặt ra các câu hỏi nghiên cứu hoàn toàn mới, thay vì chỉ kết hợp các phương pháp hiện có. Nghiên cứu này có thể đề xuất các prompt hoặc kiến trúc phần thưởng mới để thúc đẩy sự đổi mới ở cấp độ câu hỏi nghiên cứu.
Nghiên cứu ảnh hưởng của việc tích hợp các nguồn tri thức đa dạng (ví dụ: từ các lĩnh vực khoa học khác nhau) vào quá trình tạo ý tưởng của tác nhân AI. Liệu việc cung cấp kiến thức từ nhiều lĩnh vực có giúp tác nhân AI khám phá ra các hướng đi mới và ít tập trung hơn không?
Xây dựng các phương pháp đánh giá mới để đo lường mức độ 'khám phá' của các ý tưởng do AI tạo ra, không chỉ dựa trên tính mới lạ hay tính khả thi, mà còn dựa trên khả năng mở rộng không gian ý tưởng khoa học so với các công trình hiện có.

2. Patent:

Phương pháp và hệ thống tạo ý tưởng nghiên cứu mở rộng trên thiết bị di động: Một ứng dụng di động cho phép người dùng nhập một chủ đề nghiên cứu. Hệ thống sẽ không chỉ tạo ra các ý tưởng liên quan trực tiếp đến chủ đề đó, mà còn chủ động đề xuất các hướng nghiên cứu mới, ít liên quan hơn bằng cách kết nối chủ đề với các lĩnh vực khoa học khác nhau, từ đó mở rộng tầm nhìn của nhà nghiên cứu.
Công cụ hỗ trợ động não ý tưởng dựa trên tác nhân AI cho điện thoại thông minh: Một ứng dụng trợ lý nghiên cứu cá nhân trên điện thoại. Khi người dùng đọc một bài báo khoa học, ứng dụng sẽ tự động phân tích và đề xuất các ý tưởng nghiên cứu tiếp theo. Điểm đặc biệt là nó có thể phân loại các ý tưởng này thành hai nhóm: 'mở rộng cục bộ' (dựa trên bài báo hiện tại) và 'khám phá mới' (kết nối với các lĩnh vực khác), giúp người dùng có cái nhìn toàn diện hơn.
Hệ thống gợi ý tài liệu mở rộng tầm nhìn nghiên cứu trên thiết bị di động: Một ứng dụng đọc tài liệu khoa học thông minh. Khi người dùng đang xem một bài báo, ứng dụng không chỉ gợi ý các bài báo liên quan trực tiếp (tương tự như các tác nhân AI hiện tại), mà còn chủ động gợi ý các bài báo từ các lĩnh vực khác nhau có thể cung cấp góc nhìn mới hoặc phương pháp tiếp cận mới cho vấn đề đang được nghiên cứu, thúc đẩy sự kết nối liên ngành.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.27905
ArXiv Abstract	https://arxiv.org/abs/2605.27905
PDF Download	https://arxiv.org/pdf/2605.27905.pdf
Github Repository	N/A

14. Rethinking Memory as Continuously Evolving Connectivity (19 votes)

Tác giả: Jizhan Fang, Buqiang Xu, Zhixian Wang, Haoliang Cao, Xinle Deng, Baohua Dong, Hangcheng Zhu, Ruohui Huang, Gang Yu, Ying Wei, Guozhou Zheng, Feiyu Xiong, Haofen Wang, Huajun Chen, Ningyu Zhang

Xuất bản lúc: 2026-05-27

Tag: LLM Agents, Memory-Augmented LLMs, Heterogeneous Graph, Self-Evolving Systems, Procedural Memory, Long-Context Reasoning, Web Navigation, Generalist Assistants

I. Main Problem:

Các hệ thống bộ nhớ cho tác tử LLM hiện tại thường xem bộ nhớ như một kho lưu trữ tĩnh với các biểu diễn được xác định trước và quy trình truy xuất cố định. Điều này dẫn đến hai thất bại chính trong môi trường tác tử động: (1) Kết nối bộ nhớ không chính xác: Thiếu kết nối (under-connection) làm mất ngữ cảnh quan trọng, hoặc kết nối dư thừa (over-connection) gây nhiễu và ảo giác. (2) Nội dung đơn vị bộ nhớ không linh hoạt: Các đơn vị bộ nhớ chỉ hoạt động ở một mức độ trừu tượng duy nhất, không thể thích ứng khi nhiệm vụ yêu cầu chi tiết khác nhau. Ngoài ra, các hệ thống hiện tại thất bại trong việc củng cố kết nối bộ nhớ: chúng coi các quỹ đạo nhiệm vụ là các thể hiện riêng lẻ thay vì dần dần hợp nhất chúng thành các cấu trúc ổn định, tái sử dụng được, buộc tác tử phải liên tục xây dựng lại các liên kết tương tự.

II. Main Idea:

Bài báo đề xuất FluxMem, một khung bộ nhớ có khả năng tiến hóa kết nối. FluxMem mô hình hóa bộ nhớ dưới dạng một đồ thị dị thể (heterogeneous graph) gồm ba lớp: Ngữ nghĩa (kiến thức thực tế), Tình tiết (quỹ đạo hành động), và Kỹ năng thủ tục (mẫu suy luận đã được chưng cất). Bối cảnh làm việc được xem như một đồ thị con đang hoạt động và được tinh chỉnh qua ba giai đoạn tiến hóa: (1) Hình thành kết nối ban đầu: Thiết lập nhanh các liên kết tạm thời giữa các lớp cho nhiệm vụ mới. (2) Tinh chỉnh dựa trên phản hồi: Sử dụng vòng lặp đóng để chỉnh sửa cấu trúc liên kết của đồ thị con, bao gồm mở rộng liên kết bị thiếu, cắt tỉa liên kết gây nhiễu, và định hình lại nội dung đơn vị bộ nhớ cho phù hợp với mức độ chi tiết yêu cầu. (3) Củng cố dài hạn: Gom cụm các quỹ đạo thành công để tạo ra các mạch thủ tục ổn định, được giám sát bởi một chỉ số về độ trưởng thành tiến hóa (PEMS). Quá trình này biến bộ nhớ tĩnh thành một cấu trúc kết nối tự tối ưu, liên tục thích ứng với nhu cầu nhiệm vụ đang thay đổi.

III. Main Results:

FluxMem đạt được hiệu suất vượt trội (state-of-the-art) trên ba benchmark khác nhau: (1) LoCoMo (suy luận ngữ cảnh dài): Đạt độ chính xác trung bình 95.06% với GPT-4.1-mini, vượt xa Full Context (81.23%) và các hệ thống chuyên dụng khác như EverMemOS (93.05%). (2) Mind2Web (điều hướng web thực tế): Trong cài đặt thực tế (không lọc thủ công), FluxMem đạt tỷ lệ thành công (SR) 8.1% trên Cross-Task với GPT-4.1-mini, cao hơn đáng kể so với AWM (3.6%). (3) GAIA (tác vụ trợ lý tổng quát): FluxMem tăng tỷ lệ thành công trung bình từ 52.12% lên 64.85% trên Kimi K2 (+12.73% tuyệt đối) so với baseline Flash-Searcher. Các thí nghiệm phân tích (ablation) cho thấy Giai đoạn II (tinh chỉnh phản hồi) là quan trọng nhất cho suy luận ngữ cảnh dài, trong khi Giai đoạn III (củng cố dài hạn) là yếu tố chính thúc đẩy hiệu suất cho các tác vụ điều hướng web phức tạp.

IV. Conclusion & Future Works:

FluxMem giới thiệu một khung khái niệm về bộ nhớ tác tử như một kết nối động, có khả năng tự thích ứng thông qua ba giai đoạn tiến hóa. Kết quả vượt trội trên ba benchmark đa dạng cung cấp nền tảng cho các tác tử tự tiến hóa trong môi trường năng động. Các hướng phát triển trong tương lai bao gồm: giảm chi phí tính toán của các vòng lặp đóng (Giai đoạn II và III) để triển khai trong thời gian thực; đánh giá trên các môi trường streaming liên tục với sự phân bố dữ liệu thay đổi; phân tích độ nhạy toàn diện của các siêu tham số (ví dụ: số vòng tinh chỉnh T, ngưỡng hội tụ PEMS); và phát triển các chiến lược lập lịch củng cố ngoại tuyến động để cân bằng giữa tần suất củng cố và hiệu suất trực tuyến.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu về Cơ chế Tiến hóa Kết nối Bộ nhớ Đa tác tử (Multi-Agent Memory Connectivity Evolution): Mở rộng FluxMem cho môi trường nhiều tác tử, nơi mỗi tác tử có đồ thị bộ nhớ riêng và có thể chia sẻ, hợp nhất các mạch thủ tục thành công với nhau. Hướng này nghiên cứu cách các tác tử học hỏi lẫn nhau để đẩy nhanh quá trình tiến hóa và giải quyết các nhiệm vụ phức tạp hơn.
Tích hợp Bộ nhớ Tiến hóa với Học Tăng cường (Reinforcement Learning): Kết hợp khung tiến hóa kết nối của FluxMem với các thuật toán học tăng cường. Các 'mạch thủ tục' được chưng cất từ Giai đoạn III có thể được sử dụng như một không gian hành động (action space) hoặc hàm phần thưởng (reward function) nội tại, giúp tác tử khám phá và tận dụng các chiến lược hiệu quả nhanh hơn.
Phát triển Bộ nhớ Tiến hóa cho Tác tử Đa phương thức (Multimodal Agents): Mở rộng ba lớp bộ nhớ (ngữ nghĩa, tình tiết, thủ tục) để hỗ trợ dữ liệu đa phương thức như hình ảnh, âm thanh và video. Nghiên cứu cách các kết nối được hình thành và tinh chỉnh giữa các biểu diễn của các phương thức khác nhau, ví dụ: liên kết một mô tả văn bản với một chuỗi hành động thao tác trên giao diện đồ họa.

2. Patent:

Phương pháp và hệ thống quản lý bộ nhớ thích ứng cho trợ lý ảo trên thiết bị di động: Hệ thống này sử dụng một đồ thị bộ nhớ ba lớp để lưu trữ kiến thức, lịch sử tương tác và các thói quen của người dùng. Khi người dùng thực hiện một tác vụ mới (ví dụ: đặt vé máy bay), hệ thống sẽ tự động xây dựng một đồ thị con kết nối các thông tin liên quan. Nếu tác vụ thất bại (ví dụ: chọn sai ngày), hệ thống sẽ tự động sửa chữa các kết nối sai và học hỏi từ lỗi đó. Qua thời gian, các chuỗi hành động thành công sẽ được đúc kết thành các 'lối tắt' thông minh, giúp trợ lý ảo dự đoán và thực hiện các tác vụ phức tạp nhanh chóng mà không cần sự can thiệp nhiều của người dùng.
Ứng dụng quản lý bộ nhớ tiến hóa để cá nhân hóa trải nghiệm người dùng trên thiết bị di động: Thay vì chỉ lưu lịch sử duyệt web đơn thuần, ứng dụng này xây dựng một 'bộ não' cá nhân hóa cho mỗi người dùng. Nó ghi nhớ không chỉ 'bạn đã làm gì' mà còn 'bạn thường làm việc đó như thế nào' trong các ngữ cảnh khác nhau. Ví dụ, khi bạn mở ứng dụng chỉnh sửa ảnh, hệ thống sẽ tự động gợi ý các bộ lọc và công cụ bạn thường dùng cho các bức ảnh chụp ban đêm. Nếu bạn thường xuyên hủy một bước chỉnh sửa nào đó, hệ thống sẽ 'cắt tỉa' kết nối đó đi và không gợi ý lại. Điều này giúp ứng dụng ngày càng hiểu rõ sở thích của bạn và trở nên thông minh hơn theo thời gian.
Phương pháp tối ưu hóa hiệu suất pin và tài nguyên cho bộ nhớ tiến hóa trên điện thoại thông minh: Bộ nhớ tiến hóa yêu cầu tính toán liên tục, có thể gây hao pin. Sáng chế này đề xuất một cơ chế lập lịch thông minh, chỉ chạy các giai đoạn tinh chỉnh và củng cố bộ nhớ (Giai đoạn II và III) khi thiết bị đang sạc và có kết nối Wi-Fi. Ngoài ra, nó sử dụng một chỉ số 'độ trưởng thành' của bộ nhớ để quyết định khi nào nên dừng quá trình tiến hóa, tránh lãng phí tài nguyên. Các kết nối và mạch thủ tục quan trọng sẽ được lưu trữ ưu tiên, trong khi các kết nối ít được sử dụng sẽ được nén lại để tiết kiệm bộ nhớ trong.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.28773
ArXiv Abstract	https://arxiv.org/abs/2605.28773
PDF Download	https://arxiv.org/pdf/2605.28773.pdf
Github Repository	N/A

15. SkillGrad: Optimizing Agent Skills Like Gradient Descent (19 votes)

Tác giả: Hanyu Wang, Yifan Lan, Bochuan Cao, Lu Lin, Jinghui Chen

Xuất bản lúc: 2026-05-26

Tag: LLM Agents, Skill Optimization, Gradient Descent, Multi-Agent Systems, Spreadsheet Manipulation

I. Main Problem:

Các kỹ năng (skills) của tác tử (agent) LLM hiện tại thường không đáng tin cậy, không đầy đủ hoặc lỗi thời. Các phương pháp tiến hóa kỹ năng hiện có chủ yếu dựa trên sự phản ánh heuristic (heuristic reflections) mà không có một công thức tối ưu hóa rõ ràng, dẫn đến chất lượng kỹ năng kém và hiệu suất tác tử bị giảm sút.

II. Main Idea:

Bài báo giới thiệu SkillGrad, một khung làm việc lấy cảm hứng từ thuật toán giảm độ dốc (gradient descent) để tối ưu hóa kỹ năng của tác tử. SkillGrad coi gói kỹ năng (skill package) như một tham số có cấu trúc cần được tối ưu hóa. Quá trình này bao gồm: (1) thực thi tác vụ để thu thập bằng chứng mất mát (loss evidence) từ quỹ đạo (trajectories), (2) chẩn đoán tự động (automatic diagnosis) để tạo ra văn bản gradient (text-based gradients) chỉ ra hướng sửa lỗi, (3) một tác tử động lượng (momentum agent) để tích lũy các mẫu chẩn đoán lặp lại vào bộ nhớ, và (4) một bộ vá (patcher) dựa trên LLM để thực hiện cập nhật tham số bằng cách chỉnh sửa gói kỹ năng có nhận biết lớp (layer-aware edits).

III. Main Results:

Trên các bộ dữ liệu SpreadsheetBench Verified và WikiTableQuestions, SkillGrad liên tục vượt trội hơn các phương pháp tiến hóa kỹ năng dựa trên huấn luyện (training-based skill evolution baselines) trên hai mô hình LLM nền tảng (backbone LLMs). Cụ thể, SkillGrad cải thiện trung bình 6.7 điểm phần trăm so với baseline mạnh nhất. Các thử nghiệm loại bỏ (ablation studies) cho thấy cả cơ chế động lượng (momentum) và chẩn đoán tương phản (contrastive diagnosis) đều đóng góp vào chất lượng kỹ năng cuối cùng.

IV. Conclusion & Future Works:

SkillGrad cung cấp một phương pháp có cấu trúc để cải thiện kỹ năng tác tử, biến kỹ năng thành một tạo tác có thể tối ưu hóa. Các kết quả thực nghiệm cho thấy một hướng đi thực tế cho việc cải thiện kỹ năng tác tử thông qua tối ưu hóa có cấu trúc. Công việc trong tương lai có thể kiểm tra xem liệu khung làm việc lấy cảm hứng từ tối ưu hóa này có thể chuyển sang các lĩnh vực kỹ năng khác như tự động hóa web, chỉnh sửa tài liệu và bảo trì mã nguồn hay không.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng SkillGrad sang các lĩnh vực kỹ năng khác: Nghiên cứu khả năng áp dụng khung làm việc tối ưu hóa kỹ năng cho các tác tử trong các lĩnh vực như tự động hóa web, chỉnh sửa tài liệu và bảo trì mã nguồn, mở rộng phạm vi ứng dụng ngoài các tác vụ bảng tính.
Phân tích lý thuyết về sự hội tụ của tối ưu hóa kỹ năng dạng văn bản: Xây dựng một nền tảng lý thuyết chặt chẽ hơn để giải thích khi nào các chẩn đoán dạng văn bản và trạng thái động lượng mang lại các cập nhật kỹ năng ổn định và hiệu quả, tăng cường mối liên hệ giữa tối ưu hóa kỹ năng tác tử và tối ưu hóa cổ điển.
Tích hợp SkillGrad với các cơ chế học tập suốt đời (lifelong learning): Phát triển một hệ thống nơi các kỹ năng của tác tử liên tục được tối ưu hóa và mở rộng trong suốt vòng đời của tác tử, thích ứng với các tác vụ và miền mới mà không cần phải bắt đầu lại từ đầu, kết hợp với các khái niệm như bộ nhớ và tái sử dụng kỹ năng.

2. Patent:

Phương pháp cập nhật kỹ năng tự động cho trợ lý ảo trên điện thoại thông minh: Một hệ thống trên điện thoại cho phép trợ lý ảo tự động cải thiện khả năng thực hiện các tác vụ phức tạp (ví dụ: tạo bảng tính, soạn thảo văn bản theo mẫu) bằng cách phân tích các lần thực hiện thành công và thất bại của người dùng, từ đó tự động sửa đổi các tệp hướng dẫn (kỹ năng) để chính xác và hiệu quả hơn.
Hệ thống tối ưu hóa kỹ năng dựa trên phản hồi của người dùng cho ứng dụng năng suất: Một ứng dụng di động (ví dụ: ứng dụng ghi chú, bảng tính) có khả năng 'học' từ cách người dùng tương tác. Khi người dùng thực hiện một thao tác lỗi hoặc không hiệu quả, hệ thống sẽ tự động đề xuất hoặc cập nhật các 'kỹ năng' (các bước hướng dẫn chi tiết) để giúp người dùng hoàn thành tác vụ đó nhanh hơn và chính xác hơn trong tương lai.
Phương pháp chia sẻ và đồng bộ kỹ năng tối ưu hóa giữa các thiết bị di động: Một dịch vụ đám mây cho phép các kỹ năng đã được tối ưu hóa trên một thiết bị di động (ví dụ: cách sử dụng một ứng dụng chỉnh sửa ảnh phức tạp) được đồng bộ hóa và chia sẻ với các thiết bị khác của cùng một người dùng hoặc giữa những người dùng khác nhau, đảm bảo tất cả đều có thể hưởng lợi từ các quy trình làm việc đã được cải tiến.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.27760
ArXiv Abstract	https://arxiv.org/abs/2605.27760
PDF Download	https://arxiv.org/pdf/2605.27760.pdf
Github Repository	https://github.com/wwwhy725/SkillGrad

16. OSP-Next: Efficient High-Quality Video Generation with Sparse Sequence Parallelism, HiF8 Quantization, and Reinforcement Learning (18 votes)

Tác giả: Yunyang Ge, Xianyi He, Zezhong Zhang, Bin Lin, Bin Zhu, Xinhua Cheng, Li Yuan

Xuất bản lúc: 2026-05-27

Tag: Diffusion Transformers, Sparse Attention, Sequence Parallelism, Quantization, Reinforcement Learning, Video Generation

I. Main Problem:

Các mô hình Diffusion Transformers (DiTs) cho sinh video đạt chất lượng cao nhưng chi phí tính toán của cơ chế full attention (độ phức tạp bậc hai) rất lớn, dẫn đến tốc độ sinh chậm và khó mở rộng lên độ phân giải cao. Các phương pháp sparse attention hiện tại thường dựa trên việc chọn token động, không tương thích với các kernel FlashAttention hiệu quả và khó song song hóa, gây mất cân bằng tải. Ngoài ra, các phương pháp lượng tử hóa 8-bit hiện tại có dải biểu diễn hẹp, làm giảm hiệu suất mô hình.

II. Main Idea:

Bài báo giới thiệu OSP-Next, một mô hình sinh văn bản thành video hiệu quả, tích hợp bốn kỹ thuật chính: (1) Skiparse-2D Attention: Cơ chế chú ý thưa với quy tắc cố định, áp dụng luân phiên chú ý thưa theo từng token và theo từng nhóm dọc theo chiều cao và chiều rộng, tận dụng tính cục bộ của dữ liệu ảnh/video và tương thích tự nhiên với FlashAttention. (2) Sparse Sequence Parallelism (SSP): Chiến lược song song hóa tuần tự mới, phân chia các chuỗi con cho các GPU khác nhau và chỉ cần một lần giao tiếp All-to-All để chuyển đổi giữa các pattern thưa, giảm 75% khối lượng giao tiếp so với Ulysses SP. (3) HiF8 Quantization: Định dạng lượng tử hóa 8-bit với dải động rộng và độ chính xác hình nón, cho phép huấn luyện chung ổn định giữa tinh chỉnh thưa và lượng tử hóa 8-bit. (4) Mix-GRPO: Kỹ thuật học tăng cường sau huấn luyện sử dụng chiến lược khử nhiễu kết hợp ODE-SDE để cải thiện chất lượng sinh của mô hình thưa.

III. Main Results:

OSP-Next đạt tổng điểm VBench là 83.73%, vượt qua baseline Wan2.1. Trên GPU NVIDIA H200, mô hình đạt tốc độ tăng tốc lên tới 1.64x trên một GPU và 1.52x trên tám GPU cho cài đặt 5 giây 720P/768P. Với lượng tử hóa HiF8 (OSP-Next-HiF8), mô hình chỉ giảm 0.4% điểm VBench nhưng đạt tốc độ tăng tốc 1.69x và 2.27x trên một Ascend 950PR.

IV. Conclusion & Future Works:

OSP-Next chứng minh rằng việc kết hợp sparse attention, song song hóa, lượng tử hóa và học tăng cường có thể tạo ra một pipeline hiệu quả và chất lượng cao cho sinh video. Các hướng nghiên cứu trong tương lai có thể bao gồm: mở rộng kỹ thuật cho các mô hình video dài hơn và độ phân giải cao hơn; khám phá các pattern sparse linh hoạt hơn; và tối ưu hóa thêm cho các nền tảng phần cứng khác nhau.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng Skiparse-2D Attention cho mô hình video 3D: Nghiên cứu áp dụng Skiparse-2D Attention vào các mô hình Diffusion 3D (video dài, nhiều khung hình) để giảm chi phí tính toán hơn nữa, đồng thời đảm bảo chất lượng sinh.
Kết hợp SSP với các chiến lược song song hóa khác: Phát triển một framework thống nhất kết hợp SSP với tensor parallelism và pipeline parallelism để huấn luyện các mô hình video cực lớn một cách hiệu quả.
Ứng dụng Mix-GRPO cho các mô hình sinh đa phương thức: Mở rộng Mix-GRPO để tối ưu hóa các mô hình sinh kết hợp văn bản, hình ảnh và âm thanh, tập trung vào việc cải thiện sự nhất quán và chất lượng của đầu ra đa phương thức.

2. Patent:

Phương pháp và thiết bị tạo video nhanh trên thiết bị di động: Sử dụng kết hợp cơ chế chú ý thưa 2D và lượng tử hóa 8-bit để giảm tài nguyên tính toán, cho phép tạo video chất lượng cao từ văn bản trong thời gian thực trên điện thoại thông minh.
Hệ thống tối ưu hóa sinh video bằng học tăng cường cho ứng dụng di động: Áp dụng kỹ thuật học tăng cường Mix-GRPO để cải thiện chất lượng video được tạo ra trên thiết bị di động, bằng cách sử dụng phản hồi từ người dùng về độ ưa thích về chuyển động, màu sắc và nội dung.
Phương pháp song song hóa tuần tự thích ứng cho thiết bị di động: Phát triển một chiến lược phân chia dữ liệu video thành các đoạn nhỏ và xử lý song song trên nhiều nhân xử lý của điện thoại, giảm thời gian chờ và tăng tốc độ tạo video.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.28691
ArXiv Abstract	https://arxiv.org/abs/2605.28691
PDF Download	https://arxiv.org/pdf/2605.28691.pdf
Github Repository	https://github.com/PKU-YuanGroup/OSP-Next

17. Triplet-Block Diffusion RWKV (18 votes)

Tác giả: Ke Lin, Yiyang Luo, Zhaolong Su, Yunya Song, Anyi Rao

Xuất bản lúc: 2026-05-25

Tag: Diffusion Language Models, RWKV, Linear-time Inference, Causal Language Models, Block Diffusion, Parallel Decoding

I. Main Problem:

Các mô hình ngôn ngữ Transformer nhân quả gặp phải hai hạn chế cấu trúc: giải mã tuần tự (sequential decoding) không thể song song hóa và chi phí attention bậc hai (quadratic attention cost) khiến suy luận với ngữ cảnh dài trở nên tốn kém. Các mô hình khuếch tán rời rạc (discrete-diffusion) và các mô hình tuyến tính như RWKV giải quyết từng điểm yếu, nhưng việc tích hợp chúng không nhất quán: khuếch tán yêu cầu attention hai chiều, trong khi các mô hình nhân quả chỉ có một chiều.

II. Main Idea:

Bài báo đề xuất phương pháp bố trí khối ba (triplet-block layout) để chuyển đổi một mô hình ngôn ngữ dạng RNN nhân quả thành mô hình khuếch tán khối mà không cần thay đổi kiến trúc nền tảng. Mỗi khối logic có kích thước B xuất hiện ba lần liên tiếp trong một mẫu huấn luyện: một bản sao bị che (masked copy) b1, một bản sao bị che giống hệt b2 dùng để tính loss khử nhiễu, và một bản sao sạch (clean ground-truth copy) b3 để làm mới trạng thái hồi tiếp (recurrent state) trước khối tiếp theo. Nhờ mô hình nền đọc từ trái sang phải, trạng thái ẩn tại bất kỳ vị trí bị che nào của b2 đã hấp thụ mọi token không bị che của b1, do đó b2 có được khả năng truy cập hai chiều giả (pseudo-bidirectional access) vào ngữ cảnh không bị che của chính nó trên một mô hình nhân quả.

III. Main Results:

Mô hình B3D-RWKV-7.2B đạt độ chính xác tương đương trên bộ 8 tác vụ so với các mô hình hiện có, vượt trội đáng kể so với các baseline về thông lượng giải mã với tốc độ trung bình nhanh hơn 1.6 lần so với RWKV-7 gốc. Cụ thể, mô hình đạt kết quả vượt trội trên các benchmark như ARC-C (61.6%) và RACE (49.7%), nhưng giảm nhẹ trên các bài toán suy luận phức tạp như MATH (23.8%) do bản chất của giải mã song song.

IV. Conclusion & Future Works:

Phương pháp bố trí khối ba cho phép chuyển đổi các mô hình ngôn ngữ nhân quả thành mô hình khuếch tán mà không cần thay đổi kiến trúc, đạt được thông lượng cao hơn 1.6 lần so với mô hình RWKV gốc. Các hướng phát triển trong tương lai bao gồm: (1) xác nhận thực nghiệm trên các backbone khác như Mamba, (2) mở rộng quy mô dữ liệu huấn luyện và thêm giai đoạn RL alignment để khôi phục độ chính xác, và (3) tối ưu hóa cho các kịch bản phức tạp hơn như gọi công cụ (tool calling) hoặc lập trình (coding).

V. Brainstorming Space:

1. Publish Papers:

Mở rộng Triplet-Block Layout cho các mô hình SSM khác như Mamba và Mamba-2: Nghiên cứu tính khả chuyển của phương pháp triplet-block lên các backbone tuyến tính khác ngoài RWKV. So sánh hiệu quả về thông lượng và chất lượng giữa các kiến trúc khác nhau khi được chuyển đổi thành mô hình khuếch tán.
Cải thiện chất lượng suy luận trên các tác vụ cấu trúc phức tạp với giải mã lai (Hybrid Decoding): Kết hợp giải mã song song của diffusion với một bước autoregressive ngắn cho các vị trí có độ không chắc chắn cao. Mục tiêu là khắc phục điểm yếu của diffusion trên các bài toán toán học và logic đòi hỏi sự chính xác tuyệt đối.
Tối ưu hóa bố trí khối ba cho suy luận trên thiết bị biên (Edge Devices): Phát triển các biến thể của triplet-block layout với kích thước khối (block size) và số bước lặp (sampling steps) thích ứng dựa trên độ khó của câu hỏi, nhằm giảm độ trễ và tiêu thụ năng lượng khi triển khai trên điện thoại di động hoặc các thiết bị có tài nguyên hạn chế.

2. Patent:

Phương pháp sinh văn bản song song hiệu quả cho trợ lý ảo trên điện thoại: Sử dụng mô hình khuếch tán dựa trên triplet-block để tạo câu trả lời nhanh chóng. Thay vì sinh từng từ một, hệ thống có thể sinh đồng thời nhiều từ trong một khối, giúp trợ lý ảo phản hồi gần như tức thời, cải thiện trải nghiệm người dùng khi tương tác bằng giọng nói hoặc văn bản.
Ứng dụng tóm tắt văn bản nhanh trên thiết bị di động: Mô hình khuếch tán được tinh chỉnh với triplet-block layout cho phép tóm tắt các bài báo dài hoặc email ngay trên điện thoại mà không cần kết nối mạng. Khả năng giải mã song song giúp giảm đáng kể thời gian chờ, trong khi kiến trúc tuyến tính đảm bảo không tiêu tốn quá nhiều bộ nhớ và pin.
Hệ thống gợi ý từ khóa và tự động hoàn thành câu thông minh: Tận dụng khả năng nhận biết ngữ cảnh hai chiều giả (pseudo-bidirectional) của mô hình để dự đoán các từ tiếp theo trong câu một cách chính xác hơn. Khi người dùng gõ văn bản, hệ thống có thể đề xuất toàn bộ cụm từ hoặc câu hoàn chỉnh thay vì từng từ đơn lẻ, giúp tăng tốc độ nhập liệu trên bàn phím ảo của điện thoại.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.25969
ArXiv Abstract	https://arxiv.org/abs/2605.25969
PDF Download	https://arxiv.org/pdf/2605.25969.pdf
Github Repository	https://github.com/leonardodalinky/B3D-RWKV

18. Long Live The Balance: Information Bottleneck Driven Tree-based Policy Optimization (17 votes)

Tác giả: Hao Jiang, Shurui Li, Tianpeng Bu, Bowen Xu, Xin Liu, Qihua Chen, Hongtao Duan, Lulu Hu, Bin Yang, Minying Zhang

Xuất bản lúc: 2026-05-27

Tag: online RL, LLM, Information Bottleneck, tree search, exploration-exploitation balance, GRPO

I. Main Problem:

Các phương pháp học tăng cường trực tuyến (online RL) hiện tại cho mô hình ngôn ngữ lớn (LLM) thường gặp phải sự mất cân bằng giữa khám phá (exploration) và khai thác (exploitation). Cụ thể, các phương pháp như GRPO dễ bị hội tụ sớm dẫn đến thiếu khám phá, hoặc khuyến khích khám phá quá mức gây mất ổn định huấn luyện. Chưa có cơ chế thống nhất để định lượng và khuyến khích sự cân bằng này ở mức độ chi tiết (step-level).

II. Main Idea:

Tác giả đề xuất IB-Score, một chỉ số mới dựa trên lý thuyết Information Bottleneck (IB) để định lượng sự cân bằng giữa khám phá và khai thác trong quá trình huấn luyện online RL. Dựa trên IB-Score, tác giả xây dựng khung làm việc IB-TPO (Information Bottleneck driven Tree-based Policy Optimization) với hai thành phần chính: (1) IBTree: chiến lược lấy mẫu dạng cây được hướng dẫn bởi IB-Score, giúp khám phá hiệu quả hơn bằng cách chỉ mở rộng các nhánh có IB-Score cao nhất, đồng thời tận dụng cấu trúc cây để ước lượng IB-Score một cách hiệu quả. (2) Mục tiêu tối ưu hóa dựa trên IB: Kết hợp IB-Score vào hàm mục tiêu của RL (dưới dạng lợi thế cục bộ) để khuyến khích chính sách duy trì sự cân bằng trong suốt quá trình suy luận.

III. Main Results:

Phương pháp IB-TPO vượt trội so với GRPO cơ bản từ 2.9% đến 3.6% trên các benchmark toán học và đa nhiệm. Nó cũng vượt qua các phương pháp state-of-the-art khác như IBRO, TreeRL và TreePO. IBTree đạt hiệu quả lấy mẫu cao hơn, tạo ra nhiều quỹ đạo hơn 50% so với lấy mẫu độc lập với cùng ngân sách token, đồng thời duy trì sự cân bằng khám phá-khai thác tốt hơn, thể hiện qua chỉ số Cov(η1, η2) và IB-Score ổn định hơn trong quá trình huấn luyện.

IV. Conclusion & Future Works:

Nghiên cứu này đã giải quyết vấn đề mất cân bằng giữa khám phá và khai thác trong online RL cho LLM. IB-Score là một chỉ số hiệu quả để chẩn đoán và IB-TPO là một khung làm việc mạnh mẽ để cải thiện hiệu suất. Hạn chế chính là thời gian lấy mẫu cây nhiều vòng lặp vẫn còn hơi chậm hơn so với lấy mẫu độc lập. Hướng phát triển trong tương lai bao gồm mở rộng IB-TPO cho các tác vụ khác như suy luận đa phương thức và gọi hàm.

V. Brainstorming Space:

1. Publish Papers:

Áp dụng IB-Score cho bài toán Instruction Following: Nghiên cứu cách IB-Score có thể được dùng để đánh giá và cải thiện sự cân bằng giữa việc khám phá các hướng dẫn khác nhau và khai thác hướng dẫn chính xác trong các tác vụ làm theo hướng dẫn phức tạp.
Kết hợp IB-TPO với Process Reward Model (PRM): Tích hợp IB-Score với PRM để tạo ra tín hiệu phần thưởng chi tiết và chính xác hơn cho từng bước suy luận, giúp cải thiện hiệu quả khai thác và khám phá đồng thời.
Mở rộng IB-TPO cho các mô hình đa phương thức (VLM): Nghiên cứu cách áp dụng IB-TPO cho các mô hình ngôn ngữ-thị giác, nơi không gian hành động (action space) lớn hơn và việc cân bằng giữa khám phá các đặc trưng thị giác và khai thác thông tin văn bản là rất quan trọng.

2. Patent:

Phương pháp cải thiện trợ lý ảo trên điện thoại: Một hệ thống trên điện thoại sử dụng IB-Score để tự động điều chỉnh mức độ 'sáng tạo' của trợ lý ảo khi trả lời câu hỏi. Khi IB-Score thấp (thiếu khám phá), hệ thống sẽ khuyến khích trợ lý đưa ra nhiều câu trả lời đa dạng hơn. Khi IB-Score cao (quá khám phá), hệ thống sẽ ưu tiên các câu trả lời chính xác và đáng tin cậy hơn, dựa trên lịch sử tương tác của người dùng.
Ứng dụng trong ứng dụng chụp ảnh và chỉnh sửa ảnh thông minh: Một ứng dụng trên điện thoại sử dụng IB-TPO để tối ưu hóa quá trình chỉnh sửa ảnh tự động. Ứng dụng sẽ khám phá nhiều phong cách chỉnh sửa khác nhau (bộ lọc, độ sáng, độ tương phản) và sử dụng IB-Score để chọn ra phong cách vừa đa dạng vừa có nhiều thông tin nhất để làm hài lòng người dùng, dựa trên phản hồi ngầm (ví dụ: thời gian người dùng nhìn vào ảnh).
Hệ thống gợi ý nội dung thích ứng trên thiết bị di động: Một thuật toán trên điện thoại dùng IB-Score để cân bằng giữa việc gợi ý các nội dung mới lạ (khám phá) và các nội dung quen thuộc (khai thác) cho người dùng. Ví dụ, ứng dụng đọc báo sẽ ưu tiên các bài báo về chủ đề mới khi IB-Score cho thấy người dùng đang quá tập trung vào một chủ đề cũ, và ngược lại.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.28109
ArXiv Abstract	https://arxiv.org/abs/2605.28109
PDF Download	https://arxiv.org/pdf/2605.28109.pdf
Github Repository	N/A

19. Fast-dDrive: Efficient Block-Diffusion VLM for Autonomous Driving (15 votes)

Tác giả: Kewei Zhang, Jin Wang, Sensen Gao, Chengyue Wu, Yulong Cao, Songyang Han, Boris Ivanovic, Langechuan Liu, Marco Pavone, Song Han, Daquan Zhou, Enze Xie

Xuất bản lúc: 2026-05-25

Tag: Vision-Language-Action (VLA), Block Diffusion, Autonomous Driving, Speculative Decoding, KV Cache, Efficient Inference, Structured Output, Test-Time Scaling

I. Main Problem:

Các mô hình Vision-Language-Action (VLA) cho xe tự lái hiện tại gặp hai vấn đề chính: (1) Các mô hình tự hồi quy (AR) bị hạn chế về băng thông bộ nhớ trên phần cứng biên, dễ bị lệch do nhiễu tích lũy và không hiệu quả khi triển khai thời gian thực. (2) Các mô hình khuếch tán toàn bộ chuỗi (full-sequence diffusion) không thể tái sử dụng bộ nhớ đệm KV, dẫn đến độ trễ cao, đồng thời vi phạm quan hệ nhân quả "nhận thức-trước-lập kế hoạch" do cho phép thông tin từ tương lai ảnh hưởng đến quá khứ (logical leakage).

II. Main Idea:

Bài báo đề xuất Fast-dDrive, một mô hình VLA khuếch tán theo khối (block-diffusion VLA) giải quyết các vấn đề trên bằng ba ý tưởng chính: (1) Khuếch tán có cấu trúc theo khối ngữ nghĩa (Section-Aware Structured Diffusion - SASD): Chia đầu ra JSON có cấu trúc thành các khối ngữ nghĩa (critical_objects, explanation, future_meta_behavior, trajectory), đóng băng các token cấu trúc (scaffold) và chỉ khuếch tán trên các token giá trị. Quá trình khuếch tán diễn ra trong từng khối với attention hai chiều, nhưng có tính nhân quả giữa các khối, cho phép tái sử dụng KV cache. (2) Giải mã suy diễn dựa trên khung (Scaffold Speculative Decoding - SS): Tận dụng các token scaffold đã biết để tự động chấp nhận (auto-accept) mà không cần tính toán, sau đó sử dụng đầu MDM để dự thảo song song các token giá trị và đầu AR để xác minh tuần tự, giúp tăng tốc đáng kể. (3) Mở rộng quy mô suy luận chi phí thấp (Test-Time Scaling): Với các phần đầu ra mang tính quyết định, chỉ thêm tính ngẫu nhiên vào phần quỹ đạo, fork KV cache đã được tính toán từ trước để tạo ra nhiều quỹ đạo và lấy trung bình, giảm phương sai dự đoán mà không tốn nhiều chi phí tính toán.

III. Main Results:

Trên tập kiểm tra WOD-E2E, Fast-dDrive đạt độ chính xác quỹ đạo tốt nhất (ADE@3s và ADE@5s thấp nhất) và điểm RFS cao nhất trong số các VLA dựa trên khuếch tán. Trên nuScenes, giảm lỗi L2 trung bình xuống còn 0.32m (cải thiện 22% so với dVLM-AD). Về hiệu suất, Fast-dDrive (Scaffold Spec) đạt tốc độ 210.4 token/giây, nhanh gấp 4 lần so với baseline AR và 6 lần so với baseline khuếch tán toàn chuỗi. Khi tích hợp với SGLang, tốc độ tăng lên 608.5 token/giây, nhanh hơn 11.8 lần so với baseline AR.

IV. Conclusion & Future Works:

Fast-dDrive chứng minh rằng việc khai thác cấu trúc có sẵn của đầu ra (JSON trong lái xe tự động) kết hợp với cơ chế khuếch tán theo khối có thể mang lại cả độ chính xác cao và hiệu suất suy luận vượt trội. Kết quả này mở ra hướng đi mới cho các mô hình VLA: mã hóa cấu trúc của đầu ra vào quá trình khuếch tán để đạt được lợi ích kép về chất lượng và tốc độ.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng Block Diffusion cho các tác vụ đa phương thức khác: Áp dụng kiến trúc block-diffusion cho các bài toán như robot navigation, chú thích video hoặc tạo mã nguồn, nơi đầu ra có cấu trúc tuần tự rõ ràng, để kiểm chứng tính tổng quát của phương pháp.
Tối ưu hóa chiến lược phân chia khối ngữ nghĩa tự động: Nghiên cứu phương pháp tự động phát hiện và phân chia các khối ngữ nghĩa từ đầu ra của mô hình (ví dụ: dựa trên độ khó hoặc độ an toàn), thay vì phải định nghĩa thủ công như trong bài báo.
Kết hợp học tăng cường (RL) vào quá trình huấn luyện block-diffusion: Sử dụng kỹ thuật RL (ví dụ: GRPO) để tối ưu hóa trực tiếp chất lượng quỹ đạo và tính an toàn, thay vì chỉ dùng mất mát cross-entropy có trọng số, nhằm đạt được hiệu suất cao hơn nữa.

2. Patent:

Phương pháp và hệ thống tạo quỹ đạo an toàn cho xe tự lái trên điện thoại thông minh: Sử dụng mô hình trí tuệ nhân tạo có kiến trúc khuếch tán theo khối để dự đoán quỹ đạo di chuyển an toàn dựa trên hình ảnh từ camera điện thoại. Mô hình này chia quá trình dự đoán thành các bước như nhận diện vật cản, giải thích tình huống và cuối cùng là tạo quỹ đạo, giúp cho việc tính toán nhanh chóng và tiết kiệm pin, phù hợp để chạy trên thiết bị di động.
Ứng dụng trên điện thoại hỗ trợ lái xe thông minh với khả năng giải thích quyết định: Ứng dụng sử dụng camera điện thoại để nhận diện các tình huống giao thông nguy hiểm, sau đó đưa ra các cảnh báo và gợi ý hành động (ví dụ: giảm tốc độ, giữ làn đường) kèm theo lời giải thích bằng ngôn ngữ tự nhiên. Công nghệ này tận dụng cấu trúc đầu ra dạng JSON có sẵn để tăng tốc độ xử lý và tiết kiệm năng lượng.
Phương pháp tăng tốc suy luận cho trợ lý ảo trên điện thoại thông minh: Phương pháp này cho phép trợ lý ảo tạo ra các phản hồi dạng văn bản có cấu trúc (ví dụ: đặt lịch hẹn, tra cứu thông tin thời tiết) một cách nhanh chóng. Bằng cách xác định trước các phần cố định của câu trả lời (khuôn mẫu) và chỉ tập trung tính toán vào các phần nội dung chính (giá trị), phương pháp này giúp giảm đáng kể thời gian chờ đợi và mức tiêu thụ năng lượng trên thiết bị di động.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.23163
ArXiv Abstract	https://arxiv.org/abs/2605.23163
PDF Download	https://arxiv.org/pdf/2605.23163.pdf
Github Repository	N/A

20. GE-Sim 2.0: A Roadmap Towards Comprehensive Closed-loop Video World Simulators for Robotic Manipulation (13 votes)

Tác giả: Boxiang Qiu, Liliang Chen, Yue Liao, Nan Wang, Lintao Wang, Jiayi Luo, Wenzhi Zhao, Shengcong Chen, Di Chen, Ye Li, Chen Gao, Shuicheng Yan, Si Liu, Maoqing Yao, Guanghui Ren

Xuất bản lúc: 2026-05-26

Tag: Video World Model, Robotic Manipulation, Action-Conditioned Video Generation, Diffusion Transformer, Closed-Loop Simulation, Proprioceptive State Prediction, Vision-Language Reward Model, Model Acceleration

I. Main Problem:

Việc đánh giá các chính sách robot (policy) đang trở thành nút thắt cổ chai khi các mô hình ngày càng lớn và phức tạp. Các mô phỏng và chuẩn mực hiện tại gặp khó khăn với động lực học tiếp xúc, vật thể biến dạng, hình ảnh chi tiết và chuyển động thực tế của robot. Các mô phỏng video thế hệ cũ chỉ tạo ra video mà không cung cấp trạng thái cảm giác bản thể (proprioceptive state), không đưa ra điểm số đánh giá, và tốc độ tạo video quá chậm, khiến chúng không thể sử dụng được cho việc học và đánh giá chính sách một cách khép kín.

II. Main Idea:

GE-Sim 2.0 là một mô phỏng thế giới video khép kín cho thao tác robot, được xây dựng trên nền tảng GE-Sim. Nó giải quyết ba khoảng trống chính bằng ba mô-đun mới: (1) một chuyên gia trạng thái (state expert) giải mã trạng thái cảm giác bản thể (góc khớp, độ mở kẹp) từ các đặc trưng video, cung cấp thông tin cần thiết cho các mô hình chính sách; (2) một thẩm phán thế giới (world judge) dựa trên VLM để chấm điểm các video mô phỏng dựa trên hướng dẫn nhiệm vụ, tạo ra tín hiệu thành công và phần thưởng có thể kiểm chứng bằng máy; và (3) một khung tăng tốc (acceleration framework) cho phép tạo một rollout dài 25 khung hình chỉ trong 2.3 giây trên một H100, với khả năng bỏ qua khung hình lên đến 4 lần để đánh giá các tác vụ dài hạn.

III. Main Results:

GE-Sim 2.0 đứng đầu bảng xếp hạng WorldArena công khai với chỉ 2 tỷ tham số, vượt qua các mô hình thế giới robot chuyên dụng và các bộ sinh video tổng quát mã nguồn đóng. Các chính sách được huấn luyện dựa trên các rollout và phần thưởng của GE-Sim 2.0 mang lại những cải thiện có thể đo lường được trong thế giới thực. Mô hình tạo ra một rollout 100 khung hình trong khoảng 2.3 giây trên một H100. Chuyên gia trạng thái khôi phục trạng thái cảm giác bản thể với độ chính xác cao và cải thiện khả năng dự đoán chunk tiếp theo. Thẩm phán thế giới đưa ra các tín hiệu phần thưởng phù hợp chặt chẽ với đánh giá của con người.

IV. Conclusion & Future Works:

GE-Sim 2.0 đã chứng minh rằng một mô hình video có điều kiện hành động có thể đóng vai trò như một bộ mô phỏng khép kín cho các chính sách thao tác, không chỉ là một bộ sinh video chất lượng cao. Nó cung cấp một nền tảng thực tế cho việc đánh giá có thể mở rộng và học tập khép kín. Các hướng phát triển trong tương lai có thể bao gồm việc mở rộng sang các tác vụ phức tạp hơn, cải thiện khả năng khái quát hóa, và tích hợp sâu hơn với các phương pháp học tăng cường.

V. Brainstorming Space:

1. Publish Papers:

Mô phỏng thế giới video cho robot di động thông minh: Nghiên cứu việc áp dụng GE-Sim 2.0 vào các robot di động có tay máy, nơi mà góc nhìn camera thay đổi liên tục do di chuyển. Bài toán đặt ra là làm sao để mô hình có thể mô phỏng chính xác các thao tác trong khi robot đang di chuyển, ví dụ như nhặt đồ vật từ trên sàn nhà.
Tích hợp mô phỏng video với học tăng cường cho các nhiệm vụ phức tạp: Khám phá việc sử dụng tín hiệu phần thưởng từ 'World Judge' của GE-Sim 2.0 để huấn luyện các chính sách robot thông qua học tăng cường. Hướng này tập trung vào các nhiệm vụ dài hạn, nhiều bước như 'nấu một bữa ăn đơn giản' hoặc 'lắp ráp một món đồ chơi'.
Cải thiện khả năng khái quát hóa của mô phỏng thế giới video cho các vật thể và cảnh vật mới: Nghiên cứu các kỹ thuật để GE-Sim 2.0 có thể mô phỏng chính xác các tương tác với những vật thể có hình dạng, kích thước và chất liệu chưa từng thấy trong dữ liệu huấn luyện. Ví dụ, làm thế nào để mô hình có thể mô phỏng việc nhặt một quả bóng mềm sau khi chỉ được huấn luyện với các khối cứng.

2. Patent:

Phương pháp và hệ thống mô phỏng thao tác robot trên điện thoại thông minh để đào tạo và kiểm tra: Một ứng dụng trên điện thoại cho phép người dùng vẽ hoặc chọn một quỹ đạo hành động cho một cánh tay robot ảo trên màn hình. Ứng dụng sử dụng mô hình thế giới video (như GE-Sim 2.0) để tạo ra video mô phỏng kết quả của hành động đó, giúp người dùng hiểu và kiểm tra các kịch bản thao tác phức tạp mà không cần robot thật.
Hệ thống đánh giá và chấm điểm tự động các video thao tác robot trên thiết bị di động: Một dịch vụ đám mây hoặc ứng dụng trên điện thoại cho phép người dùng tải lên một video ngắn về một thao tác robot (ví dụ: robot nhặt một cốc nước) và nhận lại một điểm số tự động về mức độ thành công của thao tác đó. Điểm số được tính toán bởi một 'thẩm phán thế giới' (world judge) dựa trên hướng dẫn nhiệm vụ do người dùng cung cấp.
Phương pháp tăng tốc mô phỏng video trên điện thoại thông minh để phản hồi thời gian thực: Một kỹ thuật tối ưu hóa cho phép các mô hình thế giới video (như GE-Sim 2.0) chạy với tốc độ gần như thời gian thực trên các thiết bị di động có tài nguyên hạn chế. Kỹ thuật này kết hợp việc giảm số bước khử nhiễu (step distillation) và bỏ qua khung hình thông minh (frame skipping) để tạo ra các video mô phỏng mượt mà, phục vụ cho các ứng dụng tương tác như điều khiển robot từ xa qua điện thoại.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.27491
ArXiv Abstract	https://arxiv.org/abs/2605.27491
PDF Download	https://arxiv.org/pdf/2605.27491.pdf
Github Repository	https://github.com/AgibotTech/GE-Sim-V2

21. Guiding LLM Post-training Data Engineering with Model Internals from Sparse Autoencoders (12 votes)

Tác giả: Yi Jing, Zao Dai, Jinwu Hu, Zijun Yao, Lei Hou, Juanzi Li, Xiaozhi Wang

Xuất bản lúc: 2026-05-26

Tag: Sparse Autoencoders, Reinforcement Learning, Data Engineering, Curriculum Learning, Mechanistic Interpretability, Large Language Models

I. Main Problem:

Các phương pháp kỹ thuật dữ liệu (data engineering) trong giai đoạn hậu huấn luyện (post-training) của các mô hình ngôn ngữ lớn (LLM), đặc biệt là trong học tăng cường (RL), hiện nay chủ yếu dựa vào các tín hiệu bên ngoài (như phản hồi của con người, kết quả từ bộ xác minh, tỷ lệ pass rollout) để đánh giá và sắp xếp dữ liệu. Các tín hiệu này thường tốn kém để thu thập và bỏ qua các tín hiệu nội tại phong phú được mã hóa bên trong chính mô hình (model internals). Do đó, bài toán đặt ra là làm thế nào để khai thác các tín hiệu nội tại từ mô hình một cách hiệu quả và có hệ thống để cải thiện kỹ thuật dữ liệu cho quá trình hậu huấn luyện LLM.

II. Main Idea:

Bài báo đề xuất SAERL, một khung làm việc (framework) cho kỹ thuật dữ liệu trong học tăng cường hậu huấn luyện, sử dụng Sparse Autoencoder (SAE) để trích xuất và mô hình hóa ba thuộc tính nội tại của dữ liệu: (1) Đa dạng (Diversity): Khoảng cách và cụm trong không gian SAE đo lường mức độ bao phủ của một batch trên các vùng đặc trưng khác nhau. (2) Độ khó (Difficulty): Các mẫu kích hoạt thưa (sparse activation patterns) phản ánh nhu cầu thực tế mà một bài toán đặt ra cho mô hình. (3) Chất lượng (Quality): Các kích hoạt nội tại giúp phân biệt các mẫu thuộc phân phối mục tiêu với dữ liệu nhiễu. Ba thuộc tính này được ánh xạ thành các thao tác kỹ thuật dữ liệu cụ thể: chiến lược tạo batch (batching strategy) dựa trên đa dạng, sắp xếp chương trình học (curriculum ordering) dựa trên độ khó, và lọc dữ liệu (data filtering) dựa trên chất lượng.

III. Main Results:

SAERL cải thiện độ chính xác trung bình lên 3.00% so với vanilla GRPO và đạt được độ chính xác mục tiêu với số bước huấn luyện ít hơn 20% trên mô hình Qwen2.5-Math-1.5B. Kết quả nhất quán trên nhiều quy mô mô hình (1.5B và 7B) và các thuật toán RL khác nhau (GRPO và DAPO). Một SAE duy nhất được huấn luyện trên một mô hình nhỏ hơn (Qwen3-1.7B) có thể chuyển giao hiệu quả để hướng dẫn kỹ thuật dữ liệu cho các mô hình lớn hơn và khác họ. Trong thử nghiệm lọc dữ liệu nhiễu, SAE-probe đạt độ tinh khiết (purity) lên tới 99.92% khi chọn lọc các mẫu chất lượng cao.

IV. Conclusion & Future Works:

Kết quả cho thấy các tín hiệu nội tại từ mô hình (model internals) là một nguồn tín hiệu mạnh mẽ và thực tế cho kỹ thuật dữ liệu hậu huấn luyện, mở ra một hướng nghiên cứu bổ sung cho các phương pháp dựa trên phản hồi bên ngoài. Các hướng phát triển trong tương lai bao gồm: mở rộng sang các lĩnh vực khác như code-centric RL, agentic RL; giảm sự phụ thuộc vào nhãn (ví dụ: sử dụng các tiêu chí hoàn toàn không giám sát); và thiết lập mối quan hệ nhân quả giữa khoảng cách trong không gian SAE và động lực học (training dynamics).

V. Brainstorming Space:

1. Publish Papers:

Mở rộng SAERL sang các lĩnh vực khác ngoài suy luận toán học: Áp dụng khung làm việc SAERL cho các tác vụ hậu huấn luyện khác như lập trình (code generation), tác nhân AI (agentic AI), ra quyết định đa bước (multi-step decision-making) và tuân theo hướng dẫn tổng quát (general instruction-following). Nghiên cứu xem liệu cấu trúc không gian SAE có chuyển giao hiệu quả sang các miền này hay không.
Phát triển các phương pháp không giám sát hoặc tự giám sát cho SAERL: Giảm sự phụ thuộc vào các tập con có nhãn nhỏ (cho difficulty proxy) hoặc nhãn nguồn (cho quality probe). Khám phá các kỹ thuật như tự hiệu chỉnh điểm số (self-calibrated scoring), sử dụng các tiêu chí hoàn toàn không giám sát từ chính không gian SAE để xây dựng chương trình học và lọc dữ liệu.
Phân tích mối quan hệ nhân quả giữa khoảng cách SAE và hiệu quả huấn luyện: Thiết lập các thí nghiệm đo lường trực tiếp gradient hoặc động lực học (training dynamics) trên không gian biểu diễn để chứng minh mối quan hệ nhân quả giữa sự tương đồng trong không gian SAE và sự ổn định/hiệu quả của quá trình tối ưu hóa, từ đó củng cố nền tảng lý thuyết cho SAERL.

2. Patent:

Phương pháp cá nhân hóa lộ trình học tập trên thiết bị di động: Sử dụng Sparse Autoencoder để phân tích cách bộ não người dùng (mô hình AI trên điện thoại) xử lý các bài toán khác nhau. Từ đó, hệ thống sẽ tự động sắp xếp các câu hỏi, bài tập từ dễ đến khó dựa trên mức độ kích hoạt các nơ-ron nhân tạo, giúp người dùng học tập hiệu quả hơn mà không cần đến đám mây.
Hệ thống lọc nội dung rác trên mạng xã hội dựa trên phản ứng của AI: Khi người dùng lướt điện thoại, một mô hình AI nhỏ trên thiết bị sẽ sử dụng SAE để phân tích các bài đăng. Nếu các kích hoạt nội tại của mô hình cho thấy nội dung đó có chất lượng thấp, không phù hợp hoặc gây nhiễu, hệ thống sẽ tự động ẩn hoặc gắn cảnh báo, giúp cải thiện trải nghiệm xem nội dung.
Ứng dụng tóm tắt và sắp xếp tin tức thông minh: Một ứng dụng đọc báo trên điện thoại sử dụng SAE để phân tích các bài báo. Dựa trên các mẫu kích hoạt, ứng dụng có thể đánh giá độ khó, chủ đề và chất lượng của từng bài. Sau đó, ứng dụng sẽ tự động tạo ra một danh sách tin tức được sắp xếp từ các bài dễ hiểu đến các bài chuyên sâu, đồng thời ưu tiên các nguồn tin có độ tin cậy cao, giúp người dùng nắm bắt thông tin một cách có hệ thống.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.27354
ArXiv Abstract	https://arxiv.org/abs/2605.27354
PDF Download	https://arxiv.org/pdf/2605.27354.pdf
Github Repository	N/A

22. LiveBrowseComp: Are Search Agents Searching, or Just Verifying What They Already Know? (11 votes)

Tác giả: HuiMing Fan, Xiao Wang, Zheng Chu, Qianyu Wang, Zhuoyao Wang, Ming Liu, Bing Qin, XingYu

Xuất bản lúc: 2026-05-27

Tag: LLMs, Search Agents, Benchmark, Intrinsic Knowledge Dependence, Web Search, Evaluation

I. Main Problem:

Các tác nhân tìm kiếm dựa trên LLM hiện tại trên các benchmark tĩnh (như BrowseComp) có thể đạt điểm cao không phải nhờ khả năng tìm kiếm thực sự, mà chủ yếu dựa vào kiến thức nội tại (Intrinsic Knowledge) của mô hình để phỏng đoán câu trả lời và chỉ dùng web để xác minh. Điều này tạo ra sự nhầm lẫn giữa khả năng ghi nhớ và khả năng khám phá thông tin mới, khiến các benchmark hiện tại không đánh giá đúng năng lực tìm kiếm thực sự của tác nhân.

II. Main Idea:

Bài báo giới thiệu một bộ benchmark mới tên là LiveBrowseComp, được thiết kế để đánh giá khả năng tìm kiếm thực sự của các tác nhân AI khi chúng không thể dựa vào kiến thức nội tại. Cụ thể, LiveBrowseComp bao gồm 335 câu hỏi do con người tạo ra, mà câu trả lời phụ thuộc vào các sự kiện được công bố trong vòng 90 ngày trước khi xây dựng benchmark. Các câu hỏi được lọc để loại bỏ các sự kiện nổi bật toàn cầu, đảm bảo chúng nằm ngoài kiến thức tham số của mô hình. Bài báo cũng thực hiện ba chẩn đoán (đóng sách, chặn bằng chứng, phân tích quỹ đạo) để chứng minh sự tồn tại của 'Intrinsic Knowledge Dependence' (IKD) trên các benchmark tĩnh.

III. Main Results:

Trên LiveBrowseComp, tất cả các mô hình đều đạt độ chính xác dưới 2% khi không có công cụ tìm kiếm (closed-book), so với mức 20-44% trên BrowseComp. Khi có công cụ tìm kiếm, điểm số giảm 25-40 điểm so với BrowseComp. Các thứ hạng mô hình trên benchmark tĩnh không còn dự đoán đúng hiệu suất trên LiveBrowseComp. Phân tích cho thấy hơn một nửa số truy vấn tìm kiếm của tác nhân bắt nguồn từ giả thuyết nội tại, và tỷ lệ sử dụng bằng chứng được truy xuất chỉ dưới 33%.

IV. Conclusion & Future Works:

Các benchmark tĩnh hiện tại đang đánh giá nhầm khả năng ghi nhớ thành khả năng tìm kiếm. LiveBrowseComp là một giải pháp hiệu quả để loại bỏ yếu tố nhiễu này, buộc các tác nhân phải thực sự khám phá thông tin mới. Hướng nghiên cứu tương lai có thể bao gồm việc mở rộng LiveBrowseComp với nhiều nguồn dữ liệu hơn, phát triển các phương pháp đánh giá khả năng tìm kiếm theo thời gian thực, và thiết kế các tác nhân tìm kiếm mạnh mẽ hơn có thể hoạt động hiệu quả khi kiến thức nội tại bị vô hiệu hóa.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng LiveBrowseComp đa ngôn ngữ và đa lĩnh vực: Xây dựng phiên bản LiveBrowseComp cho các ngôn ngữ khác (ví dụ: tiếng Việt, tiếng Trung) và các lĩnh vực chuyên sâu hơn (ví dụ: y học, luật pháp) để kiểm tra tính tổng quát của hiện tượng IKD.
Phân tích chi tiết hành vi tìm kiếm của tác nhân: Nghiên cứu sâu hơn về các chiến lược tìm kiếm (ví dụ: chiến lược dựa trên suy luận, chiến lược dựa trên khám phá) và xây dựng các mô hình học tăng cường để dạy tác nhân cách chuyển đổi linh hoạt giữa các chiến lược này.
Xây dựng phương pháp phát hiện và giảm thiểu IDK: Phát triển các kỹ thuật để phát hiện khi nào tác nhân đang dựa vào kiến thức nội tại thay vì bằng chứng bên ngoài, và thiết kế các cơ chế (ví dụ: prompt engineering, fine-tuning) để giảm sự phụ thuộc này.

2. Patent:

Phương pháp và hệ thống tìm kiếm thông tin thích ứng trên thiết bị di động: Hệ thống này sẽ tự động phát hiện khi nào câu hỏi của người dùng yêu cầu thông tin rất mới (ví dụ: tin tức trong 24 giờ qua) và kích hoạt chế độ tìm kiếm chuyên sâu, ưu tiên các nguồn tin tức và mạng xã hội, thay vì dựa vào kiến thức có sẵn trong bộ nhớ đệm của thiết bị.
Ứng dụng trợ lý ảo trên điện thoại thông minh có khả năng phân biệt giữa kiến thức đã biết và kiến thức cần tìm kiếm: Trợ lý ảo này sẽ hiển thị trực quan cho người dùng thấy nguồn gốc của câu trả lời: đó là từ kiến thức có sẵn (ví dụ: lịch sử trò chuyện, dữ liệu trên máy) hay từ kết quả tìm kiếm trực tuyến, giúp người dùng đánh giá độ tin cậy của thông tin.
Phương pháp tối ưu hóa tìm kiếm trên thiết bị di động dựa trên ngữ cảnh và thời gian: Hệ thống sẽ phân tích lịch sử tìm kiếm và vị trí địa lý của người dùng để dự đoán nhu cầu thông tin theo thời gian thực. Ví dụ, nếu người dùng thường xuyên tìm kiếm thông tin về các sự kiện thể thao, hệ thống sẽ chủ động tìm kiếm và lưu trữ thông tin về các trận đấu sắp diễn ra, giúp giảm thời gian phản hồi khi người dùng đặt câu hỏi.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.28721
ArXiv Abstract	https://arxiv.org/abs/2605.28721
PDF Download	https://arxiv.org/pdf/2605.28721.pdf
Github Repository	N/A

23. HRBench: Benchmarking and Understanding Thinking-Mode Switch Strategies in Hybrid-Reasoning LLMs (10 votes)

Tác giả: Yansong Ning, Mianpeng Liu, Jingwen Ye, Weidong Zhang, Hao Liu

Xuất bản lúc: 2026-05-27

Tag: Hybrid-Reasoning LLMs, Thinking-Mode Switch, Benchmark, Prompt-Tuning, Routing, Speculative Decoding, Efficiency-Effectiveness Trade-off, LLMs

I. Main Problem:

Các mô hình ngôn ngữ lớn (LLMs) suy luận mạnh mẽ nhưng tiêu tốn nhiều token. Một thế hệ mới, hybrid-reasoning LLMs, cho phép người dùng chọn giữa chế độ suy luận sâu (think) và trả lời trực tiếp (no_think) để cân bằng giữa chất lượng và chi phí. Tuy nhiên, các phương pháp chọn chế độ suy luận thích ứng hiện tại được đánh giá trên các mô hình, bộ dữ liệu và giả định khác nhau, gây khó khăn cho việc so sánh và xác định chiến lược nào thực sự hiệu quả nhất.

II. Main Idea:

Bài báo giới thiệu HRBench, một khung đánh giá thống nhất cho việc nghiên cứu chuyển đổi chế độ suy luận trong các hybrid-reasoning LLMs. HRBench tổ chức không gian thiết kế dọc theo hai trục: (1) ba họ chiến lược chuyển đổi (Prompt-Tuning, Routing, Speculative) và (2) bốn chế độ huấn luyện (Training-Free, SFT, Offline RL, Online RL), tạo thành 12 cấu hình đánh giá. Khung này cho phép so sánh có kiểm soát giữa các chiến lược, phân tích chi tiết sự đánh đổi giữa hiệu quả và chi phí token, cũng như ảnh hưởng của quy mô mô hình và lĩnh vực tác vụ.

III. Main Results:

Kết quả thực nghiệm trên 6 LLMs (từ 2B đến 1.1T tham số) và 5 bộ dữ liệu (Toán, Khoa học, Code) cho thấy: (1) Ba chiến lược có đặc điểm đánh đổi khác nhau: Prompt-Tuning đạt được sự cân bằng Pareto tối ưu (tăng độ chính xác, giảm token), Routing duy trì độ chính xác với tiết kiệm token vừa phải, Speculative tăng độ chính xác nhưng tiêu tốn nhiều token hơn. (2) Hiệu quả của việc huấn luyện phụ thuộc vào chiến lược: Routing được hưởng lợi nhiều nhất về hiệu suất (giảm token tới 65% với GRPO). (3) Chiến lược tối ưu thay đổi theo quy mô mô hình và lĩnh vực tác vụ: Prompt-Tuning tốt nhất cho Toán và Khoa học, Speculative tốt nhất cho Code.

IV. Conclusion & Future Works:

HRBench cung cấp một nền tảng thống nhất giúp hiểu rõ hơn về các chiến lược chuyển đổi chế độ suy luận, từ đó hỗ trợ nghiên cứu có kiểm soát về suy luận hiệu quả. Hướng phát triển trong tương lai bao gồm: mở rộng đánh giá huấn luyện lên các mô hình lớn hơn (20B+), khám phá các kịch bản đa lượt và tác nhân, và mở rộng sang các lĩnh vực khác như viết sáng tạo hay đa ngôn ngữ.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu về chiến lược chuyển đổi chế độ suy luận thích ứng cho các tác vụ đa phương thức: Mở rộng HRBench để đánh giá các chiến lược chuyển đổi chế độ suy luận trên các mô hình đa phương thức (ví dụ: văn bản-hình ảnh). Tạo ra một benchmark mới bao gồm các tác vụ như VQA (Visual Question Answering) phức tạp, yêu cầu mô hình quyết định khi nào cần suy luận sâu trên hình ảnh và khi nào chỉ cần trả lời nhanh.
Phân tích tác động của các phương pháp huấn luyện khác nhau lên chiến lược chuyển đổi cho mô hình quy mô lớn: Thực hiện các thí nghiệm huấn luyện (SFT, DPO, GRPO) trên các mô hình từ 20B đến 70B tham số để xác nhận và mở rộng các phát hiện từ HRBench. Tập trung vào việc phân tích sự tương tác giữa quy mô mô hình, chiến lược chuyển đổi và phương pháp huấn luyện để tìm ra cấu hình tối ưu cho từng loại mô hình.
Xây dựng chiến lược chuyển đổi chế độ suy luận linh hoạt dựa trên đặc điểm của câu hỏi: Phát triển một hệ thống có thể tự động lựa chọn chiến lược chuyển đổi (Prompt-Tuning, Routing, Speculative) dựa trên đặc điểm của câu hỏi đầu vào (ví dụ: độ khó, lĩnh vực). Sử dụng một bộ phân loại nhẹ (classifier) để dự đoán chiến lược tối ưu, từ đó tối đa hóa hiệu quả và hiệu suất.

2. Patent:

Phương pháp tiết kiệm pin cho trợ lý ảo trên điện thoại thông minh: Một hệ thống trợ lý ảo trên điện thoại thông minh sử dụng mô hình ngôn ngữ lớn có khả năng chuyển đổi chế độ suy luận. Khi người dùng đưa ra một câu hỏi đơn giản (ví dụ: 'Thời tiết hôm nay thế nào?'), hệ thống sẽ tự động chọn chế độ trả lời trực tiếp (no_think) để tiết kiệm năng lượng. Khi gặp câu hỏi phức tạp hơn (ví dụ: 'Giải thích thuyết tương đối'), hệ thống sẽ chuyển sang chế độ suy luận sâu (think) để đảm bảo câu trả lời chính xác. Điều này giúp kéo dài thời lượng pin của điện thoại.
Ứng dụng tối ưu hóa chi phí dữ liệu cho ứng dụng dịch thuật trên điện thoại: Một ứng dụng dịch thuật trên điện thoại thông minh có thể sử dụng mô hình ngôn ngữ lớn với chiến lược chuyển đổi chế độ suy luận. Đối với các câu đơn giản, hàng ngày, ứng dụng sẽ sử dụng chế độ trả lời trực tiếp để dịch nhanh, tiết kiệm dung lượng dữ liệu di động. Đối với các văn bản phức tạp, mang tính kỹ thuật, ứng dụng sẽ kích hoạt chế độ suy luận sâu để đảm bảo độ chính xác của bản dịch, giúp người dùng tiết kiệm chi phí dữ liệu.
Hệ thống gợi ý nội dung thông minh trên điện thoại: Một hệ thống gợi ý nội dung (ví dụ: tin tức, video) trên điện thoại thông minh sử dụng mô hình ngôn ngữ lớn. Hệ thống sẽ phân tích lịch sử tương tác của người dùng để xác định mức độ quen thuộc với chủ đề. Đối với các chủ đề quen thuộc, hệ thống sử dụng chế độ suy luận nhanh để đưa ra gợi ý. Đối với các chủ đề mới hoặc phức tạp, hệ thống sẽ kích hoạt chế độ suy luận sâu để hiểu rõ hơn về sở thích tiềm ẩn của người dùng, từ đó đưa ra các gợi ý chính xác và cá nhân hóa hơn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.28398
ArXiv Abstract	https://arxiv.org/abs/2605.28398
PDF Download	https://arxiv.org/pdf/2605.28398.pdf
Github Repository	https://github.com/usail-hkust/HRBench

24. CubePart: An Open-Vocabulary Part-Controllable 3D Generator (10 votes)

Tác giả: Yiheng Zhu, Kangle Deng, Jean-Philippe Fauconnier, Inaki Navarro, Daiqing Li, Ava Pun, Yinan Zhang, Peiye Zhuang, Xiaoxia Sun, Maneesh Agrawala, Kiran Bhat, Tinghui Zhou

Xuất bản lúc: 2026-05-27

Tag: 3D Generation, Part-based Generation, Diffusion Models, Open-Vocabulary, Multi-Modal, Text-to-3D, Game Assets

I. Main Problem:

Các mô hình sinh 3D hiện tại thường tạo ra các mesh nguyên khối hoặc phân mảnh ngẫu nhiên, không thể đáp ứng yêu cầu cụ thể về cấu trúc bộ phận (part schema) của các ứng dụng tương tác như game và mô phỏng. Việc tạo ra các mesh 3D có các bộ phận (ví dụ: bánh xe, thân xe) khớp chính xác với schema mong muốn vẫn là một quy trình thủ công, tốn nhiều công sức.

II. Main Idea:

CubePart là một framework sinh 3D cho phép người dùng điều khiển các bộ phận của đối tượng bằng ngôn ngữ tự nhiên (open-vocabulary). Hệ thống nhận đầu vào là một prompt văn bản mô tả tổng thể đối tượng và một schema gồm danh sách tên các bộ phận do người dùng định nghĩa. CubePart sử dụng kiến trúc khuếch tán hai giai đoạn: Giai đoạn 1 tạo ra một mesh tổng thể, và Giai đoạn 2 phân tách mesh đó thành các mesh con riêng biệt tương ứng với từng bộ phận trong schema, nhờ vào cơ chế Cross-Part Attention mới.

III. Main Results:

CubePart vượt trội hơn các phương pháp baseline (PartCrafter, PartPacker, HoloPart, OmniPart) trên tập dữ liệu PartObjaverse-Tiny ở cả hai chỉ số Chamfer Distance (CD) và F-score, cho thấy sự cải thiện về tính hoàn chỉnh cấu trúc và độ chính xác ở cấp độ bộ phận. Các mesh tạo ra có thể được tích hợp trực tiếp vào game engine và điều khiển bằng các script hành vi (ví dụ: lái xe, bay, nhân vật hoạt hình) mà không cần chỉnh sửa thủ công.

IV. Conclusion & Future Works:

CubePart là bước tiến quan trọng trong việc tạo ra các tài sản 3D sẵn sàng cho game với khả năng điều khiển bộ phận. Hướng phát triển trong tương lai bao gồm: hỗ trợ các bộ phận có thể biến dạng (deformable parts) cho nhân vật hữu cơ, giảm thiểu sự chồng lấn hình học giữa các bộ phận, và cải thiện khả năng xử lý các tham chiếu không gian (ví dụ: trái-phải) để tránh lỗi.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu về kiến trúc Cross-Part Attention hiệu quả hơn: Khám phá các cơ chế chú ý mới để cải thiện sự giao tiếp giữa các bộ phận, giảm thiểu sự chồng lấn hình học và đảm bảo tính liền mạch ở các ranh giới tiếp xúc, đặc biệt là với các đối tượng có nhiều bộ phận phức tạp.
Mở rộng sang sinh 3D có điều khiển chuyển động (skinning): Phát triển một mô hình có thể dự đoán đồng thời cả hình dạng bộ phận và trọng số xương (skeletal rig weights) cho các nhân vật hữu cơ, cho phép tạo ra các tài sản 3D có thể hoạt hình trực tiếp mà không cần qua bước xử lý trung gian.
Cải thiện khả năng hiểu và xử lý ngôn ngữ không gian: Nghiên cứu các phương pháp huấn luyện để mô hình hiểu chính xác hơn các mối quan hệ không gian (ví dụ: 'trái', 'phải', 'trước', 'sau') trong prompt, khắc phục các lỗi phổ biến như đảo ngược bộ phận đối xứng hoặc đặt sai vị trí.

2. Patent:

Phương pháp tạo mô hình 3D cho điện thoại từ mô tả văn bản: Người dùng có thể nhập một câu mô tả như 'một chiếc xe hơi màu đỏ có bốn bánh xe và một cánh cửa' vào một ứng dụng trên điện thoại. Hệ thống sẽ tự động tạo ra một mô hình 3D hoàn chỉnh với các bộ phận riêng biệt (bánh xe, cánh cửa, thân xe) có thể được sử dụng để trang trí trong thực tế ảo (AR) hoặc làm hình đại diện trong game.
Ứng dụng tạo nhân vật game có thể tương tác trên thiết bị di động: Người dùng chọn một nhân vật cơ bản (ví dụ: một chú rô-bốt) và chỉ định các bộ phận mà họ muốn điều khiển (ví dụ: 'cánh tay trái', 'chân phải', 'súng laser'). Hệ thống sẽ tạo ra nhân vật với các bộ phận này, cho phép người dùng gán các hành động (ví dụ: 'giơ tay trái', 'bắn súng') để tạo ra các đoạn hoạt ảnh ngắn hoặc điều khiển nhân vật trong game ngay trên điện thoại.
Hệ thống hỗ trợ thiết kế nội thất cho điện thoại thông minh: Người dùng chụp ảnh một căn phòng trống và nói 'thêm một chiếc ghế sofa màu xanh có hai tay vịn và bốn chân'. Hệ thống sẽ tạo ra mô hình 3D của chiếc ghế sofa với các bộ phận riêng biệt, sau đó đặt nó vào đúng vị trí trong ảnh chụp. Người dùng có thể chạm vào từng bộ phận (ví dụ: tay vịn) để thay đổi màu sắc hoặc kích thước, giúp việc thiết kế nội thất trở nên trực quan và dễ dàng hơn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.28763
ArXiv Abstract	https://arxiv.org/abs/2605.28763
PDF Download	https://arxiv.org/pdf/2605.28763.pdf
Github Repository	N/A

25. Less is More: Early Stopping Rollout for On-Policy Distillation (10 votes)

Tác giả: Zhou Ziheng, Jiaqi Li, Huacong Tang, Ying Nian Wu, Demetri Terzopoulos

Xuất bản lúc: 2026-05-26

Tag: Knowledge Distillation, On-Policy Distillation, LLMs, Rollout, Token Selection, Reverse KL Divergence, Math Reasoning, Code Generation, Function Calling

I. Main Problem:

Bài báo chỉ ra vấn đề "Off-policy Teacher Decay" trong on-policy distillation (OPD): khi mô hình sinh (student) tự tạo ra chuỗi token dài, các token ở vị trí muộn có ngữ cảnh (các token trước đó do student sinh ra) bị lệch khỏi phân phối của mô hình giáo viên (teacher). Điều này khiến teacher không còn khả năng đưa ra điểm số sửa lỗi (corrective score) cho student, mà chỉ đơn thuần hoàn thành nốt câu trả lời như hành vi mặc định từ pretraining. Kết quả là tín hiệu học tập từ teacher bị suy giảm, đặc biệt ở các token cuối.

II. Main Idea:

Tác giả đề xuất phương pháp đơn giản tên Early Stopping Rollout (ESR): giới hạn độ dài chuỗi sinh của student chỉ trong N token đầu tiên của câu trả lời, và chỉ tính loss distillation (KL divergence) trên các token trong cửa sổ này. Việc thay đổi chỉ là một dòng lệnh trong vòng lặp OPD, nhưng mang lại hiệu quả vượt trội về hiệu năng, hiệu suất GPU và độ ổn định huấn luyện. Các cơ chế giải thích sự hiệu quả của ESR bao gồm: (1) Cascading Alignment: học trên cửa sổ đầu vẫn làm giảm KL divergence ở các token sau mà không cần huấn luyện trực tiếp; (2) Sub-mode Commitment: student tập trung vào một "sub-mode" (phân phối con) tốt hơn của teacher nhờ tính chất mode-seeking của reverse KL, thậm chí có thể vượt qua teacher.

III. Main Results:

ESR vượt trội so với OPD trên nhiều tác vụ (toán, code, function calling), nhiều chế độ huấn luyện (LoRA, full fine-tuning), nhiều kích thước mô hình (student 1.5B–32B, teacher 1.7B–72B) và nhiều họ mô hình (Qwen2.5, Qwen3, Gemma 2, Gemma 3). ESR giảm thời gian huấn luyện lên đến 24 lần và giảm bộ nhớ GPU đỉnh lên đến 4 lần. Trong nhiều trường hợp, student huấn luyện với ESR còn vượt qua teacher (ví dụ: trên MATH-500, Qwen2.5-Math-1.5B → Qwen3-1.7B đạt avg@4 = 65.85% so với teacher 65.30%). ESR cũng ổn định hơn nhiều so với OPD, đặc biệt trong các cặp cross-generation và cross-family (OPD thường bị sụt giảm hoặc sụp đổ hoàn toàn).

IV. Conclusion & Future Works:

ESR là một cải tiến đơn giản nhưng hiệu quả cho on-policy distillation, giúp giải quyết vấn đề suy giảm tín hiệu teacher ở các token cuối. Các nghiên cứu trong tương lai có thể mở rộng ESR cho các tác vụ đa phương thức hoặc dài hạn, kiểm tra tính hiệu quả ở quy mô công nghiệp (mô hình >100B, triệu quỹ đạo huấn luyện), và khám phá sâu hơn cơ chế Sub-mode Commitment để vượt qua teacher trong distillation.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu về cơ chế Cascading Alignment trong các tác vụ dài hạn (long-horizon) như lập kế hoạch hoặc tạo văn bản dài: Mở rộng phân tích xem việc học trên các token đầu có thể lan tỏa hiệu quả đến các token cuối như thế nào, đặc biệt trong các bài toán yêu cầu lập luận nhiều bước hoặc tạo nội dung dài.
Phát triển phương pháp chọn token dựa trên vị trí kết hợp với các tín hiệu KL/entropy: Mặc dù ESR dựa trên vị trí là hiệu quả, nhưng có thể kết hợp với các độ đo như KL divergence hoặc entropy để tạo ra một chiến lược chọn token linh hoạt hơn, thích ứng với từng bài toán hoặc từng mô hình.
Áp dụng ESR vào các mô hình đa phương thức (vision-language, speech-language): Kiểm tra xem vấn đề Off-policy Teacher Decay có xảy ra trong các mô hình xử lý nhiều loại dữ liệu hay không, và liệu ESR có hiệu quả tương tự khi chỉ tập trung vào các token đầu của chuỗi đầu ra.

2. Patent:

Phương pháp và hệ thống tối ưu hóa việc huấn luyện mô hình ngôn ngữ nhỏ trên thiết bị di động bằng cách chỉ sử dụng các token đầu tiên trong câu trả lời của mô hình giáo viên: Giảm đáng kể thời gian và bộ nhớ huấn luyện, giúp các mô hình nhỏ trên điện thoại thông minh có thể học hỏi từ các mô hình lớn hơn một cách hiệu quả mà không cần kết nối mạng liên tục hoặc tài nguyên tính toán lớn.
Ứng dụng kỹ thuật Early Stopping Rollout để cải thiện độ chính xác của trợ lý ảo trên điện thoại trong các tác vụ toán học và lập trình: Bằng cách chỉ tập trung vào các bước lập luận đầu tiên (chiến lược giải quyết vấn đề), trợ lý ảo có thể đưa ra câu trả lời ngắn gọn, chính xác và tiết kiệm năng lượng hơn, ngay cả khi được huấn luyện từ một mô hình giáo viên phức tạp hơn.
Hệ thống huấn luyện mô hình xử lý ngôn ngữ tự nhiên trên thiết bị di động với khả năng kháng nhiễu và ổn định cao nhờ cắt ngắn chuỗi sinh: Giảm thiểu rủi ro mô hình student bị ảnh hưởng bởi các token nhiễu hoặc không chính xác do teacher đưa ra ở cuối chuỗi, đảm bảo chất lượng đầu ra ổn định hơn cho các ứng dụng như chat, tóm tắt văn bản, hoặc dịch thuật trên điện thoại.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.27028
ArXiv Abstract	https://arxiv.org/abs/2605.27028
PDF Download	https://arxiv.org/pdf/2605.27028.pdf
Github Repository	N/A

26. How and What to Imagine? Visual Thinking in Unified Multimodal Models for Cross-View Spatial Reasoning (10 votes)

Tác giả: Qian Yang, Ankur Sikarwar, Huy Le, Le Zhang, Zhuan Shi, Perouz Taslakian, Aishwarya Agrawal

Xuất bản lúc: 2026-05-26

Tag: Cross-View Spatial Reasoning, Visual Thinking, Unified Multimodal Models, View Dropout, Learnability–Informativeness Tradeoff, BAGEL, Out-of-Distribution Generalization

I. Main Problem:

Các mô hình ngôn ngữ-hình ảnh (VLM) hiện tại gặp khó khăn trong suy luận không gian đa góc nhìn (cross-view spatial reasoning) vì chúng suy luận chủ yếu qua ngôn ngữ, làm mất đi thông tin hình học chi tiết cần thiết. Mặc dù có hướng tiếp cận 'suy luận bằng hình ảnh' (think with images) bằng cách tạo ra các hình ảnh trung gian, nhưng các nghiên cứu gần đây chỉ ra rằng các hình ảnh này thường bị bỏ qua trong quá trình trả lời, trở thành sản phẩm phụ trang trí chứ không thực sự được sử dụng.

II. Main Idea:

Bài báo đề xuất View Dropout (VDrop), một kỹ thuật can thiệp trong quá trình huấn luyện, che giấu một phần của một ảnh đầu vào khỏi các token trả lời, buộc mô hình phải dựa vào hình ảnh suy luận trung gian (thinking-image) để có được thông tin không gian đầy đủ. Khi đó, bài báo so sánh ba loại hình ảnh suy luận: ảnh toàn cảnh (panorama), ảnh từ trên xuống (top-down), và ảnh ghép nối điểm (point-matching), và phân tích chúng dưới góc nhìn 'Learnability–Informativeness tradeoff' (sự đánh đổi giữa khả năng học và độ giàu thông tin).

III. Main Results:

View Dropout (VDrop) cải thiện nhất quán khả năng suy luận không gian đa góc nhìn trên cả ba loại hình ảnh suy luận, đặc biệt là với ảnh toàn cảnh (panorama). Với chỉ 8K mẫu huấn luyện tổng hợp, cấu hình tốt nhất (panorama + VDrop) đạt độ chính xác OOD trung bình 40.0%, vượt qua BAGEL gốc (33.3%) và các phương pháp trước đó được huấn luyện trên nhiều dữ liệu hơn gấp 3 lần (ThinkMorph: 37.2%). Các thí nghiệm 'generate-then-blind' xác nhận VDrop làm cho hình ảnh suy luận trở nên có ảnh hưởng nhân quả đến câu trả lời.

IV. Conclusion & Future Works:

Nghiên cứu xác nhận rằng rào cản cho suy luận bằng hình ảnh không phải là quy mô dữ liệu mà là tín hiệu huấn luyện buộc hình ảnh suy luận phải được sử dụng. VDrop là một giải pháp đơn giản, không thay đổi kiến trúc và có hiệu quả. Hướng phát triển tương lai bao gồm: (1) Kiểm tra tính khả chuyển của VDrop và khung L–I trên các kiến trúc UMM khác ngoài BAGEL. (2) Kết hợp VDrop với các kỹ thuật cải thiện chất lượng hình ảnh suy luận, vì VDrop không tự nó nâng cao độ trung thực của hình ảnh được tạo ra.

V. Brainstorming Space:

1. Publish Papers:

1. Mở rộng VDrop cho các tác vụ suy luận không gian khác: Áp dụng VDrop cho các bài toán như điều hướng robot, suy luận video (tích hợp các khung hình xa nhau về mặt thời gian), hoặc mô hình hóa 3D từ ảnh đơn, để kiểm tra tính tổng quát của phương pháp.
1. Nghiên cứu các loại hình ảnh suy luận mới: Khám phá các biểu diễn trung gian khác như bản đồ độ sâu (depth map), bản đồ luồng quang (optical flow), hoặc các hình ảnh được tạo ra từ các góc nhìn khác nhau (ví dụ: góc nhìn từ một vật thể), dựa trên khung Learnability-Informativeness để tìm ra biểu diễn tối ưu.
1. Tích hợp VDrop với các phương pháp học tăng cường (Reinforcement Learning): Sử dụng RL để huấn luyện mô hình tự quyết định khi nào nên tạo và sử dụng hình ảnh suy luận, thay vì luôn luôn tạo ra, nhằm tối ưu hóa hiệu quả tính toán và độ chính xác.

2. Patent:

1. Phương pháp và hệ thống hỗ trợ tìm đường trong nhà trên điện thoại thông minh: Ứng dụng trên điện thoại, khi người dùng chụp hai bức ảnh từ hai góc nhìn khác nhau của một căn phòng, hệ thống sẽ tự động tạo ra một bức ảnh toàn cảnh (panorama) ảo từ hai bức ảnh đó. Bức ảnh toàn cảnh này được sử dụng để xác định vị trí của các đồ vật và hướng dẫn người dùng di chuyển đến một vật thể cụ thể (ví dụ: "Đi về phía trước, cái bàn ở bên phải bạn"). Công nghệ này giúp người dùng dễ dàng định hướng trong không gian trong nhà mà không cần bản đồ 3D phức tạp.
1. Ứng dụng chụp ảnh thông minh đề xuất bố cục: Trên điện thoại, khi người dùng chụp ảnh một cảnh vật, ứng dụng sẽ tạo ra hai góc nhìn khác nhau (giả lập) và tự động tạo ra một hình ảnh suy luận (ví dụ: ảnh toàn cảnh hoặc ảnh từ trên xuống) để phân tích không gian. Dựa trên phân tích này, ứng dụng sẽ đưa ra các gợi ý về bố cục chụp ảnh tối ưu, như "Dịch máy ảnh sang trái để đưa tòa nhà vào điểm vàng" hoặc "Chụp từ góc cao hơn để có cái nhìn toàn cảnh hơn". Điều này giúp người dùng, đặc biệt là người mới, có thể chụp được những bức ảnh đẹp hơn.
1. Hệ thống thực tế ảo tăng cường (AR) hỗ trợ mua sắm nội thất: Ứng dụng trên điện thoại cho phép người dùng chụp ảnh căn phòng của họ từ hai góc nhìn. Hệ thống sẽ tạo ra một mô hình không gian 3D đơn giản và cho phép người dùng đặt các món đồ nội thất ảo vào phòng. Công nghệ VDrop được sử dụng để đảm bảo hệ thống hiểu chính xác vị trí và kích thước của đồ vật dựa trên các bức ảnh gốc, giúp việc đặt đồ nội thất ảo trở nên chân thực và chính xác hơn, tránh tình trạng đồ vật ảo bị đè lên hoặc lơ lửng một cách vô lý.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.27310
ArXiv Abstract	https://arxiv.org/abs/2605.27310
PDF Download	https://arxiv.org/pdf/2605.27310.pdf
Github Repository	N/A

📰 Summary of Papers
1. Gamma-World: Generative Multi-Agent World Modeling Beyond Two Players (160 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
2. ProRL: Effective Reinforcement Learning for Proactive Recommendation via Rectified Policy Gradient Estimation (76 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
3. Agent Explorative Policy Optimization for Multimodal Agentic Reasoning (71 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
4. From Pixels to Words -- Towards Native One-Vision Models at Scale (56 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
5. Self-Improving Language Models with Bidirectional Evolutionary Search (45 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
6. ResearchMath-14K: Scaling Research-Level Mathematics via Agents (41 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
7. DenoiseRL: Bootstrapping Reasoning Models to Recover from Noisy Prefixes (39 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
8. GEM: Generative Supervision Helps Embodied Intelligence (35 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
9. MemTrace: Tracing and Attributing Errors in Large Language Model Memory Systems (34 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
10. Learn from Weaknesses: Automated Domain Specialization for Small Computer-Use Agents (32 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
11. ScientistOne: Towards Human-Level Autonomous Research via Chain-of-Evidence (29 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
12. Your Agents Are Aging Too: Agent Lifespan Engineering for Deployed Systems (24 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
13. AI Research Agents Narrow Scientific Exploration (20 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
14. Rethinking Memory as Continuously Evolving Connectivity (19 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
15. SkillGrad: Optimizing Agent Skills Like Gradient Descent (19 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
16. OSP-Next: Efficient High-Quality Video Generation with Sparse Sequence Parallelism, HiF8 Quantization, and Reinforcement Learning (18 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
17. Triplet-Block Diffusion RWKV (18 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
18. Long Live The Balance: Information Bottleneck Driven Tree-based Policy Optimization (17 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
19. Fast-dDrive: Efficient Block-Diffusion VLM for Autonomous Driving (15 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
20. GE-Sim 2.0: A Roadmap Towards Comprehensive Closed-loop Video World Simulators for Robotic Manipulation (13 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
21. Guiding LLM Post-training Data Engineering with Model Internals from Sparse Autoencoders (12 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
22. LiveBrowseComp: Are Search Agents Searching, or Just Verifying What They Already Know? (11 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
23. HRBench: Benchmarking and Understanding Thinking-Mode Switch Strategies in Hybrid-Reasoning LLMs (10 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
24. CubePart: An Open-Vocabulary Part-Controllable 3D Generator (10 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
25. Less is More: Early Stopping Rollout for On-Policy Distillation (10 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
26. How and What to Imagine? Visual Thinking in Unified Multimodal Models for Cross-View Spatial Reasoning (10 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan

📰 Summary of Papers​

1. Gamma-World: Generative Multi-Agent World Modeling Beyond Two Players (160 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

2. ProRL: Effective Reinforcement Learning for Proactive Recommendation via Rectified Policy Gradient Estimation (76 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

3. Agent Explorative Policy Optimization for Multimodal Agentic Reasoning (71 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

4. From Pixels to Words -- Towards Native One-Vision Models at Scale (56 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

5. Self-Improving Language Models with Bidirectional Evolutionary Search (45 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

6. ResearchMath-14K: Scaling Research-Level Mathematics via Agents (41 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

7. DenoiseRL: Bootstrapping Reasoning Models to Recover from Noisy Prefixes (39 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

8. GEM: Generative Supervision Helps Embodied Intelligence (35 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

9. MemTrace: Tracing and Attributing Errors in Large Language Model Memory Systems (34 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

📰 Summary of Papers

1. Gamma-World: Generative Multi-Agent World Modeling Beyond Two Players (160 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

2. ProRL: Effective Reinforcement Learning for Proactive Recommendation via Rectified Policy Gradient Estimation (76 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

3. Agent Explorative Policy Optimization for Multimodal Agentic Reasoning (71 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

4. From Pixels to Words -- Towards Native One-Vision Models at Scale (56 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

5. Self-Improving Language Models with Bidirectional Evolutionary Search (45 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

6. ResearchMath-14K: Scaling Research-Level Mathematics via Agents (41 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

7. DenoiseRL: Bootstrapping Reasoning Models to Recover from Noisy Prefixes (39 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

8. GEM: Generative Supervision Helps Embodied Intelligence (35 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

9. MemTrace: Tracing and Attributing Errors in Large Language Model Memory Systems (34 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers: