🤗 Daily Hugging Face Paper Digest - 2026-10-09

Báo cáo được tạo tự động vào lúc 2026-10-12 14:49:23 bằng mô hình hermes-agent.

📰 Summary of Papers

1. AgentGarten: Code Worlds for Evolving Agents (257 votes)

Tác giả: Jiawei Chi, Shangchen Miao, Zhiyuan Shi, Kailu Wu, Hanyang Wang, et al.

Xuất bản lúc: 2026-10-08

Tag: World Models, Neural Rendering, Video Diffusion, Distillation, Interactive Environments, Embodied AI, Agents

I. Main Problem:

Huấn luyện agent thông minh đòi hỏi môi trường tương tác vừa trung thực (trạng thái, quy tắc, động lực học nhất quán) vừa đa dạng về hình ảnh (quan sát giống phân phối thị giác thực tế), nhưng hai hướng hiện có đều kẹt ở đánh đổi:

Simulator/game engine: có trạng thái và quy tắc lập trình được, nhưng tạo thêm cảnh mới đòi hỏi nhiều 3D asset và pipeline render phức tạp, rất tốn kém.
Video world model: tạo hình ảnh phong phú từ dữ liệu, nhưng trạng thái tác vụ và quy luật vật lý nằm ngầm trong lịch sử ảnh đã sinh, nên không kiểm tra, chỉnh sửa hay test được hành vi môi trường.

II. Main Idea:

AgentGarten tách môi trường thành hai phần kết hợp qua giao diện điều kiện cấu trúc (depth/surface normals):

Engine viết bằng code: giữ trạng thái thế giới bền vững, thực thi quy tắc tương tác lập trình sẵn; lỗi render không bao giờ tích lũy vào trạng thái.
Neural renderer dùng chung: mô hình video pretrained, chuyển thành dạng block-causal, được distill bằng kỹ thuật mới Adversarial Forcing — gồm (1) exact replay: chạy lại rollout theo từng block bitwise-identical để gradient từ các khung sau cập nhật được cách mô hình mã hóa lịch sử; (2) adversarial loss trên dữ liệu thật với R1/R2 regularization chính xác, tránh double-backward qua kernel attention đã fuse.
Agent tiến hóa: chỉ nhìn qua ảnh render, chơi từng vòng, rút kinh nghiệm thành playbook viết tay để các vòng sau kế thừa và cải tiến. Thế giới mới được tạo bởi coding agent từ một ảnh hoặc mô tả văn bản, không cần asset thị giác riêng cho từng cảnh.

Ví dụ đời thường: giống hệ thống huấn luyện lái xe mô phỏng — "luật giao thông và vật lý xe" do một bộ máy chấm điểm chính xác phụ trách, còn "khung cảnh ngoài kính" do họa sĩ vẽ theo phác thảo hình học — thay đổi cảnh chỉ cần đổi phác thảo, không phải xây lại cả bộ máy.

III. Main Results:

Chất lượng render: Adversarial Forcing giữ kết cấu tự nhiên, chi tiết mịn trong rollout 30 giây; Self Forcing bị lặp pattern và mất chi tiết cảnh theo thời gian.
Replay chính xác: block-by-block SDPA replay đạt bitwise-identical so với rollout (SGF-style FlexAttention lệch 3.99% relative L2), nhanh hơn 5.4%, bộ nhớ tăng chỉ 0.2%.
Inference thời gian thực: hơn 35 fps ở 480x832 trên một H100 (block 16 khung hết 438.8 ms), gồm 4 bước denoise, decode và truyền dữ liệu.
Agent học cực nhanh: trong hide-and-seek, agent chỉ cần 4 vòng để hider xây chỗ ẩn, ~10 vòng để seeker dùng cầu dốc — so với hàng triệu vòng của reinforcement learning truyền thống; cùng vòng phản tỉnh này cải thiện kết quả ở nhiều thế giới khác nhau.

IV. Conclusion & Future Works:

AgentGarten chứng minh có thể tách động lực học lập trình được khỏi hình ảnh neural render, cho phép thế giới mới chỉ cần viết code, render qua cùng một giao diện, và mở rộng cả về số lượng lẫn độ khó cùng lúc với agent. Đây là bước tiến hướng tới agent liên tục tiến hóa qua trải nghiệm tương tác. Hướng tương lai hợp lý: mở rộng quy mô thư viện thế giới code, kéo dài rollout tương tác, và đẩy mạnh vòng kế thừa playbook cho các tác vụ phức tạp hơn và đa agent.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng Adversarial Forcing cho renderer đa phương thức điều kiện (segmentation, optical flow từ engine) để kiểm soát hình ảnh chi tiết hơn trong rollout dài.
Nghiên cứu cơ chế kế thừa playbook giữa các thế hệ agent: định dạng chuẩn, kiểm chứng kỹ năng đã ghi và tránh lỗi truyền dạy, áp dụng cho đội ngũ agent đa vai trò.
Kết hợp code world với world model thuần video để agent luyện tập trước trong môi trường neural rồi chuyển giao chính sách sang thế giới có trạng thái kiểm chứng được.
Phương pháp tự động sinh thang độ khó của thế giới code dựa trên hiệu suất agent, tạo curriculum tiến hóa end-to-end.

2. Patent:

Nền tảng tạo môi trường huấn luyện trên điện thoại cho trợ lý AI: người dùng chụp một ảnh căn phòng hoặc mô tả bằng giọng nói, ứng dụng tự dựng thế giới mô phỏng tương tác (đồ vật có va chạm, vật lý) với hình ảnh do mô hình neural vẽ theo đúng ảnh chụp, để agent học cách dọn dẹp, tìm đồ trong nhà người dùng.
Hệ thống game giáo dục sinh động bằng code: giáo viên chỉ viết mô tả tình huống bằng văn bản, hệ thống tự tạo thế giới 3D tương tác với đồ họa neural, học sinh chơi qua trình duyệt mà không cần studio đồ họa.
Môi trường kiểm thử robot ảo cho xe tự hành hoặc drone: kỹ sư cập nhật quy tắc giao thông/vật lý bằng code, còn khung cảnh đường phố được render neural theo ảnh thật từng khu vực, cho phép test kịch bản nguy hiểm không tốn kém dàn dựng thực địa.
Công cụ thiết kế nội thất tương tác: khách hàng tải ảnh phòng, hệ thống dựng bản mô phỏng có vật lý, khách thao tác kéo đồ, đổi màu tường trong thời gian thực với hình ảnh render liên tục trước khi quyết định mua sắm.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12374
ArXiv Abstract	https://arxiv.org/abs/2610.12374
PDF Download	https://arxiv.org/pdf/2610.12374.pdf
Github Repository	https://github.com/MirroS-Lab/AgentGarten

2. Learn2Play Bench: How Well Do LLM Agents Learn from Experience in Unfamiliar Environments? (136 votes)

Tác giả: Yibo Li, Jinhang Qiu, Zhi Zheng, Qianyun Guo, Jiaying Wu, et al.

Xuất bản lúc: 2026-10-08

Tag: LLM Agents, Self-Evolving Agents, Benchmark, In-Context Learning, Agent Memory, Test-Time Adaptation

I. Main Problem:

Các benchmark hiện tại đánh giá khả năng học từ kinh nghiệm của LLM agents bị lỗ hổng căn bản: không phân biệt được agent thực sự học luật mới từ tương tác hay chỉ khai thác kiến thức có sẵn từ pretraining. Hậu quả:

Hầu hết tác vụ dựa trên bối cảnh quen thuộc (web, coding, desktop) nên luật ẩn đã nằm trong dữ liệu huấn luyện
Không thể đo được khả năng khám phá luật lạ hoặc phản trực giác qua hành động và phản hồi
Các phương pháp self-evolving (Reflexion, EvoTest, AWM...) khó so sánh công bằng do dùng model, tác vụ, giao thức đánh giá khác nhau

II. Main Idea:

Learn2Play Bench: bộ 20 game text-based được thiết kế mới hoàn toàn với luật ẩn lạ hoặc phản trực giác (ví dụ: ăn trộm cơm của đồng nghiệp giúp được thăng chức, còn chăm chỉ thì không). Agent không được cung cấp luật — phải tự khám phá qua hành động, quan sát phản hồi văn bản, và mang kinh nghiệm sang các episode sau mà không cập nhật trọng số model.

Phản hồi deterministic + chấm điểm tự động: cho phép replay, so sánh công bằng, đo đường cong học tập
Hai dạng game: 10 game fixed (lặp lại cùng instance) và 10 game re-shuffled (đổi nhân vật/bố cục nhưng giữ nguyên luật) để kiểm tra khả năng transfer
Đánh giá đồng thời: 11 backbone model, 6 phương pháp self-evolving, 3 agent harness (OpenCode, Claude Code, Codex), và nghiên cứu so sánh với người chơi thật qua 4 metric (Max, Mean, Learning Gain, Learning Slope)

Ví dụ đời thường: giống người chơi điện tử thử mọi nút trong một game mới toanh không có hướng dẫn — thay vì đọc sách chiến lược có sẵn, phải tự chơi thử, ghi nhớ phản hồi, rồi chơi lại ngày càng giỏi, kể cả khi bản đồ đổi mới mà luật chơi vẫn giữ nguyên.

III. Main Results:

Lưu nguyên bằng chứng tốt hơn nén thành quy tắc: MEMORY (giữ toàn bộ lịch sử tương tác thô) vượt Reflexion, EvoTest, AWM, ReasoningBank trên Kimi K3 — vì lịch sử thô giữ bằng chứng gốc để sửa lại kết luận sai, còn bản tóm tắt dễ biến hiểu biết chưa đầy đủ thành luật cứng nhầm (ví dụ EvoTest cấm thử cả công thức đáng lẽ thành công trong GEMFORGE)
Người giỏi hơn agent: Human Top-1 đạt Max 84.3, cao hơn mọi cấu hình agent (Opus 5.5: 80.1); người chơi khám phá đa dạng hơn (độ tương đồng chuỗi hành động 0.54 so với 0.66 của agent) và phục hồi sau thất bại tốt hơn (33% vs 22%)
Harness quan trọng ngang model: Claude Code + Opus 5 vượt OpenCode + Opus 5 trên mọi metric (Max 81.8 vs 74.5); Codex + GPT-5.6-SOL nhảy từ 57.0 lên 74.3
Transfer còn yếu: khi instance đổi mỗi episode, các model yếu (Sonnet 5, Gemini Flash) sụt learning slope mạnh (drop 2.67 và 2.15), thậm chí lặp lại lựa chọn theo vị trí menu cũ; Opus 5 và Kimi K3 drop ít hơn (0.59, 0.88)
Rẻ hơn mà tốt hơn: OpenCode + Kimi K3 đạt điểm cao hơn Sonnet 5 với chi phí thấp hơn (0.56M token/episode vs 0.73M); harness tốt giảm 56-71% token so với các phương pháp self-evolving
Giới hạn sâu: agent biết luật nhưng thiếu lập kế hoạch dài hạn (trong HAUNTEDINN xếp phòng tham lam khiến khách sau không còn phòng an toàn), và dừng khám phá sau khi tìm được chiến lược vừa đủ tốt

IV. Conclusion & Future Works:

Benchmark cho thấy học từ kinh nghiệm không đồng nghĩa với tự cải tiến phức tạp: giữ lịch sử thô đôi khi hiệu quả hơn rút ra quy tắc, con người vẫn nhỉnh hơn agent ở khám phá, và harness phù hợp có thể vừa tăng hiệu suất vừa giảm chi phí suy luận. Hướng tương lai:

Cân bằng exploration–exploitation để agent dám thử chiến lược mới khi chiến lược hiện tại đã đạt điểm cao
Liên kết mỗi luật học được với bằng chứng tương tác gốc để có thể xem lại và sửa khi phản hồi mới xuất hiện
Dạy agent phân biệt luật bất biến với chi tiết riêng của từng instance khi môi trường thay đổi liên tục

V. Brainstorming Space:

1. Publish Papers:

Phương pháp bộ nhớ lai: kết hợp lịch sử tương tác thô với quy tắc có gắn liên kết ngược (back-pointer) tới bằng chứng gốc, cho phép agent tự xét lại và thu hẹp quy tắc sai khi có quan sát mới mâu thuẫn.
Cơ chế khám phá có chủ đích cho agent dựa trên độ bất định: agent chủ động chọn hành động thử nghiệm giá trị thông tin cao nhất để phân biệt các giả thuyết luật ẩn, thay vì lặp lại chiến lược đã ăn điểm.
Framework transfer học tập: tách biệt rõ ràng kiến thức ngữ cảnh bất biến và chi tiết instance riêng trong bộ nhớ cross-episode, để agent áp dụng lại luật khi nhân vật, bố cục hoặc tham số môi trường thay đổi.

2. Patent:

Trợ lý AI trên điện thoại tự học ứng dụng mới: khi người dùng cài một app có giao diện lạ, trợ lý tự bấm thử các chức năng, ghi lại phản hồi màn hình vào bộ nhớ nguyên văn, để lần sau thao tác chính xác mà không cần dữ liệu huấn luyện riêng cho app đó.
Hệ thống điều khiển thiết bị smart home khi đổi nhà mới: trợ lý gia đình thử lần lượt các lệnh trên thiết bị chưa biết, lưu toàn bộ lịch sử lệnh–phản hồi, và dùng lại tri thức đó khi nhà thay thiết bị khác cùng chức năng.
Chatbot chăm sóc khách hàng tự làm quy trình nội bộ mới: bot tương tác thử với hệ thống ticketing của công ty, giữ nguyên log tương tác thay vì chỉ lưu quy tắc tóm tắt, để khi quy trình cập nhật thì đối chiếu lại log cũ và sửa hành vi ngay trong phiên.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.08215
ArXiv Abstract	https://arxiv.org/abs/2610.08215
PDF Download	https://arxiv.org/pdf/2610.08215.pdf
Github Repository	https://github.com/liushiliushi/Learn2Play-Bench

3. TokenRouter: Efficient Serving System for Token-Level LLM Routing (129 votes)

Tác giả: Tianyu Fu, Tengxuan Liu, Ruoxi Wang, Yixin Dong, Yi Ge, et al.

Xuất bản lúc: 2026-10-08

Tag: LLM Serving, Token-Level Routing, Model Routing, Inference Optimization, Continuous Batching, Distributed Systems

I. Main Problem:

Routing ở cấp token cho LLM cho phép chuyển sang mô hình khác sau từng token, vượt trên routing theo query theo cả chi phí lẫn chất lượng. Tuy nhiên, các hệ thống serving hiện có được thiết kế cho một LLM chạy đồng bộ theo từng decoding step, nên gặp ba nút thắt:

Step desynchronization: các model có latency khác nhau; ép chung một batch khiến model nhanh chờ model chậm.
Batch admission delay: request chuyển model thường đến khi model đích đang xử lý batch, phải chờ và gây vỡ batch.
Implementation complexity: routing từng token khó cài vào vLLM/SGLang vì phải can thiệp continuous batching, prefix caching, KV-cache và scheduling.

II. Main Idea:

TokenRouter tách routing algorithm khỏi serving optimization theo nguyên tắc request-centric programming, model-centric execution. Người phát triển chỉ mô tả một request đi qua các model bằng ba hàm:

route(result): sau mỗi forward pass, quyết định request ở lại model hiện tại hay chuyển sang peer model.
send(req): gói token suffix chưa được peer nhìn thấy, trạng thái active/finished và trường riêng của thuật toán thành PeerReq.
receive(peer_req): chuyển PeerReq về request local để tiếp tục decode; mặc định chấp nhận toàn bộ token trả về.

Runtime gồm nhiều subserver, mỗi subserver giữ một LLM với scheduler, runner và KV-cache riêng. Bên ngoài vẫn là một endpoint duy nhất nên thay thế trực tiếp server một model. Để xử lý desynchronization, TokenRouter thêm inter-model loop thứ ba cạnh client-server loop và decoding loop; khi request bàn giao sang model khác, nó chuyển sang trạng thái pending, giữ nguyên serving state, rồi handoff-resume bằng thao tác gần như chỉ append token. Để giảm admission delay, delayed-batching scheduler đợi ngưỡng B request cùng target model rồi mới chạy batch; ngưỡng tối ưu B* được suy ra từ mô hình throughput dùng Discrete-Time Markov Chain cân bằng giữa chờ đợi và làm đói model nhỏ.

Ví dụ đời thường: giống một bếp có nhiều quầy nấu riêng; mỗi quầy tự chạy không chờ quầy khác, khách chuyển quầy mang theo món dở và phiếu ghi chú, còn quầy không vội phục vụ lẻ từng người mà chờ đúng một mẻ nhỏ để nấu cùng lúc.

III. Main Results:

TokenRouter đạt 2.01–64.15× higher decoding throughput so với baseline mạnh hơn trên 15 tổ hợp thuật toán–workload, và giảm 2.03–63.64× end-to-end latency so với Std. Serving.
Trong đúng thiết lập gốc của từng thuật toán, TokenRouter cải thiện throughput 2.73–21.97× và giảm latency 2.78–21.61× so với official implementations.
Ablation tại concurrency 8: engineering optimizations + CUDA graph extension đưa throughput từ 132.8 lên 230.8 token/s; asynchronous execution lên 296.9; delayed batching lên 372.5 token/s, đạt 2.76× overall so với official R2R.
Khả năng mở rộng theo output length tốt: khi output tăng từ 2,048 lên 8,192 token, TokenRouter giữ throughput ổn định trong khi Std. Serving mất 58.1–85.2% throughput.
Với các cặp model khác nhau cho R2R, TokenRouter đạt 1.99–3.21× throughput so với official implementation.
Về trade-off throughput–speed: khi concurrency tăng 1→16, throughput tăng 8.61× và giữ 51.7% tốc độ người dùng đơn; tại concurrency 16, TokenRouter cao hơn official R2R ở concurrency 1 tới 18.58× throughput và vẫn nhanh hơn 1.13× per-user speed.

IV. Conclusion & Future Works:

TokenRouter biến lợi ích lý thuyết của token-level routing thành speedup thực tế bằng cách tách API routing đơn giản khỏi runtime model-centric tối ưu hóa batching, bất đồng bộ và chuyển giao trạng thái. Điểm hạn chế là mô hình toán giả định số token giữa hai lần gửi tuân theo phân phối hình học; các trường hợp vi phạm giả định này cần xử lý trong tương lai.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng delayed batching sang routing có phân phối chuyển model không đều, bằng cách thay giả định hình học bằng mô hình arrival học được hoặc robust online adaptation.
Nghiên cứu handoff-resume cho multi-agent LLM collaboration ngoài generation, ví dụ tool-use, retrieval-augmented routing và mixture-of-experts serving.
Tích hợp token-level routing với prefix caching và disaggregated serving để giảm chi phí KV-cache khi request di chuyển liên tục giữa nhiều model.

2. Patent:

Hệ thống serving LLM trên điện thoại dùng nhiều model theo độ khó token: một runtime duy nhất nhận yêu cầu chat, tự chuyển token giữa model nhỏ chạy nhanh và model lớn chạy khi cần, trong khi vẫn giữ ngữ cảnh hội thoại liên tục cho người dùng.
Module tiết kiệm pin cho trợ lý ảo di động: khi sinh câu trả lời, hệ thống ước lượng token khó và chỉ gọi model lớn trên đám mây hoặc chip mạnh cho các đoạn đó; các token dễ được hoàn thành local để giảm độ trễ và hao pin.
Dịch vụ đám mây cho ứng dụng văn phòng trên điện thoại: API ngoài giữ nguyên như một server ngôn ngữ duy nhất, nhưng bên trong tự phân luồng câu hỏi tóm tắt, viết email và lập trình sang các model chuyên biệt theo từng token.
Bộ điều phối đa model cho nhà thông minh: yêu cầu thoại từ người dùng được xử lý bởi model nhẹ trên thiết bị, còn các từ khóa quan trọng liên quan an toàn hoặc điều khiển thiết bị được chuyển sang model mạnh hơn ngay trong cùng một phản hồi.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12242
ArXiv Abstract	https://arxiv.org/abs/2610.12242
PDF Download	https://arxiv.org/pdf/2610.12242.pdf
Github Repository	https://github.com/thu-nics/TokenRouter

4. From Traces to Agentic Worlds: Agentic Language World Models for Interactive Environment Simulation (105 votes)

Tác giả: Quanyu Long, Xiao Chen, Jianda Chen, Haozhen Zhang, Qisheng Hu, et al.

Xuất bản lúc: 2026-10-05

Tag: Language World Models, LLM Agents, Environment Simulation, Agentic World Modeling, Trace Reconstruction, Stateful Interaction

I. Main Problem:

Cần bản sao môi trường tương tác thực tế để huấn luyện/đánh giá LLM agents, nhưng hệ thống gốc thường không truy cập được do thiếu code, dữ liệu hoặc hạ tầng. Trong khi đó, các lượt tương tác lịch sử vẫn còn.

Hướng tiếp cận prompt-based Language World Model thường nhét mô tả môi trường, lịch sử tương tác và kiến thức dạng bản ghi vào một prompt phẳng. Điều này làm mô phỏng đa lượt kém ổn định vì:

hành động có thể tạo thay đổi trạng thái khuất mãi đến lượt sau mới lộ ra, ví dụ xóa file không in gì nhưng lệnh đọc file sau đó phải báo thiếu file;
kiến thức dùng lại được giữa các episode dễ bị trộn lẫn với sự thật chỉ đúng trong episode hiện tại;
một lượt dự đoán sai có thể làm agent tiếp tục hành vi nhất quán trong trạng thái ảo, dù thất bại khi chạy lại ở môi trường thật.

II. Main Idea:

Trace2Env biến mô phỏng môi trường thành một tác vụ agentic: task agent chọn hành động, còn world model agent đóng vai môi trường và quyết định hệ thống sẽ phản hồi thế nào. Framework không học tham số, chỉ tái cấu trúc trace thành tài nguyên hành vi có thể tra cứu.

Offline: từ các trace xây một environment worldbook gồm bốn phần bổ trợ nhau:
- schemas: giao diện hành động và các biến trạng thái mà simulator có thể duy trì;
- grounded evidence: giữ lại chuyển tiếp đã quan sát, demonstration và observation gốc;
- induced abstractions: quy tắc lặp lại, conditional effects, ràng buộc trạng thái, observation contracts, quy ước diễn đạt;
- provenance: nguồn gốc từng artifact, nối nó về trace và lượt hỗ trợ.
Online: mỗi episode có workspace gồm worldbook bất biến, episode state thay đổi theo lượt và episodic memory ghi lại đã xảy ra gì. World model agent không nhồi mọi thứ vào prompt, mà chủ động tra cứu worldbook, kiểm tra evidence có thật sự áp dụng cho episode hiện tại hay không, rồi đề xuất cả observation lẫn candidate state effects.
Một shared harness kiểm tra đề xuất trên bản sao trạng thái theo schema, rule support và constraints; chỉ chấp nhận thì mới commit, giúp hậu quả hành động tồn tại qua nhiều lượt.

Ví dụ đời thường: giống nhân viên hỗ trợ thay vì tái dựng nguyên cỗ máy đã mất, mang theo sổ tay ca trực ghi kinh nghiệm, đối chiếu với nhật ký vụ việc hiện tại, suy ra chuyện vừa thay đổi gì rồi ghi vào sổ trước khi trả lời khách.

III. Main Results:

Đánh giá trên 9 môi trường, gồm next-observation prediction ở Terminal, SWE, Android, Web, Food, Shopping, Benefits và mô phỏng đa lượt ở ALFWorld, SciWorld.
Next-observation prediction: Trace2Env đạt trung bình 75.94 với backbone GPT và 75.75 với DeepSeek, cao hơn Direct Prompting lần lượt +6.43 và +7.04; tốt nhất ở 11/14 cặp môi trường-backbone và không thua Direct Prompting ở cặp nào.
Ablations cho thấy worldbook và runtime bổ trợ nhau: Worldbook Prompting cải thiện hơn Trace RAG, Harness only cũng giúp, còn kết hợp cả hai mạnh nhất.
Trên Terminal, evidence là thành phần quan trọng nhất khi đứng một mình; khi đã có evidence, abstraction thêm lợi ích rõ hơn.
Độ nhất quán dài hạn: ở ALFWorld, hành động sinh ra trong simulator replay lại ở môi trường thật thành công 85% so với 3% của Direct Prompting, CR 0.914 so với 0.032; ở SciWorld là 60% so với 45%, CR 0.706 so với 0.529.
Thành công cao bên trong simulator không đồng nghĩa mô phỏng trung thực: Direct Prompting có thể tự nhất quán sau một chuyển tiếp sai, còn Trace2Env giữ ràng buộc môi trường và chịu từ chối hành động không được hỗ trợ.
Tăng số trace xây dựng từ 20 lên 36 cải thiện điểm Terminal từ 64.89 lên 66.42, cho thấy trace bổ sung có thể còn giúp, nhưng chi phí xây worldbook một lần cũng tăng.

IV. Conclusion & Future Works:

Bài báo đặt agentic language world modeling làm hướng thay thế để tạo bản sao môi trường thực tế mà không cần dựng lại hệ thống thực thi gốc. Điểm cốt lõi là tách kiến thức hành vi tái sử dụng ra khỏi trạng thái và ký ức của episode, rồi để world model agent chủ động tra cứu, kiểm chứng và commit hậu quả.

Hướng mở rõ nhất là làm rõ giới hạn trace và chi phí xây worldbook, vì độ chính xác trên Terminal vẫn tăng khi thêm trace trong phạm vi đã thử. Cũng cần mở rộng sang nhiều loại hệ thống nội bộ, workflow dài hơn và tiêu chuẩn đánh giá lấy khả năng chuyển hành vi về môi trường thật làm trung tâm thay vì chỉ điểm next-observation.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu quy luật tăng trace và chi phí xây worldbook cho mô phỏng môi trường từ dữ liệu lịch sử, xác định điểm bão hòa giữa độ trung thực, số lượng trace và chi phí dựng một lần.
Phát triển worldbook đa backbone với kiểm chứng provenance: một mô hình dựng sổ tay hành vi, nhiều mô hình khác vận hành, kèm cơ chế audit mỗi quy tắc về trace gốc để giảm hallucination.
Xây dựng tiêu chuẩn decision-relevant simulation cho agentic LWM, lấy tỉ lệ hành động replay thành công ở môi trường thật làm thước đo chính thay vì chỉ chất lượng observation từng bước.
Khám phá thu thập trace chủ động khi hệ thống gốc chỉ còn tiếp cận được trong thời gian ngắn: chọn tác vụ nào cần ghi lại để worldbook sau đó mô phỏng tốt các tình huống mới.

2. Patent:

Ứng dụng trên điện thoại để tạo môi trường luyện tập ảo cho nhân viên chăm sóc khách hàng: doanh nghiệp tải lên lịch sử chat, lỗi và phản hồi cũ; hệ thống rút thành sổ tay quy tắc rồi cho agent luyện xử lý tình huống nhiều lượt, trong đó trạng thái đơn hàng, tài khoản hoặc hồ sơ được cập nhật đúng như hệ thống thật.
Bộ thử nghiệm ứng dụng Android trên điện thoại: từ các luồng chạm, nhập liệu và phản hồi màn hình đã lưu, hệ thống dựng bản mô phỏng hành vi ứng dụng để bot kiểm thử thực hiện chuỗi thao tác dài; nếu bot xóa dữ liệu, đăng xuất hoặc thay đổi giỏ hàng, các bước sau phải phản ánh đúng hậu quả đó.
Sandbox huấn luyện trợ lý nội bộ cho kỹ thuật viên sửa chữa: khi hệ thống quản lý hoặc phần mềm chuyên dụng không còn chạy được, người dùng vẫn có thể luyện quy trình qua bản sao ngôn ngữ biết nhớ trạng thái, biết từ chối thao tác không hợp lệ và giải thích thao tác đó vi phạm ràng buộc nào.
Module điện thoại cho kỹ sư vận hành: quét log tương tác cũ của một cổng quản trị, tạo song song số về mặt hành vi để mô phỏng thao tác rủi ro trước khi chạy thật, hỗ trợ kiểm tra kịch bản lỗi và đào tạo người mới mà không chạm vào hệ thống sản xuất.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.06100
ArXiv Abstract	https://arxiv.org/abs/2610.06100
PDF Download	https://arxiv.org/pdf/2610.06100.pdf
Github Repository	https://github.com/ruyue0001/trace2env

5. MiMo-V2.6: Scaling Reinforcement Learning Towards Self-Improvement (74 votes)

Tác giả: Core Team, Zongming Qiao, Ziyue Hua, Zirui Ou, Zihao Yue, et al.

Xuất bản lúc: 2026-10-08

Tag: Reinforcement Learning, LLMs, Mixture-of-Experts, Agentic RL, Reward Modeling, Self-Improvement, Multimodal

I. Main Problem:

Muốn đưa mô hình nền tảng tới self-improvement (RSI) cần scale RL lên quy mô lớn, nhưng gặp hai rào cản lớn:

Kiến trúc & không gian khám phá: RL cho foundation model đòi hỏi kiến trúc phù hợp và một không gian khám phá đủ giàu để agent học từ phản hồi đa bước.
Hạ tầng, môi trường và grader: scale RL cần hạ tầng xử lý hàng nghìn rollout dài hạn mỗi bước, môi trường đa dạng phản ánh việc thật, và tín hiệu reward đáng tin cậy — trong khi grader nhị phân (pass/fail test) dễ bị reward hacking và không phân biệt được chất lượng giữa các lời giải cùng đúng.

II. Main Idea:

Bài báo giới thiệu MiMo-V2.6 (Pro: 1.02T tham số MoE, 42B active; Flash: 310B, 15B active) với triết lý "You Only RL Once": sau một giai đoạn SFT ngắn, scale toàn bộ compute của RL theo ba chiều:

Scale training compute: huấn luyện bất đồng bộ với batch 1.568 prompt × 16 mẫu, tiêu thụ 2,7–3,7 tỷ token/bước ở context tới 1M (chi phí RL: $2,6M cho Pro,$ 0,9M cho Flash).
Scale môi trường: bể nhiệm vụ đồng thời trải rộng code, workflow tổng quát, thiết kế visual và an ninh mạng, qua nhiều agent harness khác nhau — việc thay đổi cả harness lẫn nhiệm vụ giúp mô hình khái quát hóa tốt hơn.
Scale grader bằng Groupwise Agentic Grading: thay vì chấm nhị phân, so sánh các lời giải trong từng nhóm qua hai cơ chế GRS (Groupwise Reward Synthesis) và GAR (Groupwise Advantage Redistribution) để phân biệt chất lượng giải quyết vấn đề, hướng mô hình tới lời giải ngắn gọn, tiết kiệm token hơn.

Bên cạnh đó: mid-training hướng-agent mở rộng không gian khám phá trước RL; đóng băng MoE router và phòng thủ nhiều lớp chống reward hacking giữ training ổn định; hạ tầng gồm trajectory representation thống nhất, rollout đa framework độ trễ cao, tách control/data plane và Sample Mixer ổn định phân phối nhiệm vụ.

Ví dụ đời thường: giống một lớp học không chỉ chấm đúng/sai bài thi, mà cho học sinh nộp bài theo nhóm rồi xếp hạng tương đối trong nhóm để biết ai làm gọn gàng, hiệu quả nhất — cách chấm này khiến cả lớp tiến bộ nhanh hơn là chỉ báo pass/fail.

III. Main Results:

Coding (DeepSWE v1.1): Pro tăng từ 58,4 lên 72,6, Flash từ 48,7 lên 65,7 trong suốt quá trình RL — tăng trưởng tuyến tính theo chi phí tích lũy.
Cải thiện xuyên suốt nhiều lĩnh vực: SWE-Bench Pro, MiMo Code Bench, AutomationBench (workflow), MiMo Visual Coding, MiMo Cyber Bench — cả hai biến thể đều tiến bộ đều theo từng bước RL, không giới hạn ở một domain.
Phân bổ chi phí RL (Pro): rollout 43,8%, training 43,5%, grader 12,7% — grader chi ít hơn nhưng mang lại tín hiệu học tinh hơn.
Ổn định khi scale: đóng băng router + chống reward hacking giữ training không sập; phân tích thất bại (RL failure analysis) giúp hiểu giới hạn.
Mở nguồn: mô hình distill MiMo-V2.6-Distill-Qwen-9B, môi trường RL có verifier đa lĩnh vực, framework RL end-to-end và mini-harness; thực nghiệm với bản 9B cho thấy lợi ích RL nhất quán trên nhiều nhiệm vụ và harness, xác nhận tính tổng quát của suite.

IV. Conclusion & Future Works:

Scale compute của RL theo ba trục (training, môi trường/harness, grader) là con đường thực tế đưa foundation model tới self-improvement, với lợi ích xuyên domain chứ không chỉ trên tác vụ kiểm chứng được. Việc mở nguồn toàn bộ stack (mô hình nhỏ, môi trường, framework) nhằm tạo baseline công bằng, mạnh, tái lập được cho cộng đồng nghiên cứu agentic RL và hướng tới recursive self-improvement. Hướng tiếp theo hàm ý: mở rộng thêm môi trường và grader, và đẩy self-improvement sâu hơn qua các vòng RL liên tiếp.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu chiến lược Groupwise Agentic Grading (GRS/GAR) ở quy mô lớn hơn, đánh giá mức độ phân biệt chất lượng lời giải trên các tác vụ dài hạn ít kiểm chứng được như phát triển web.
Phân tích hệ thống cơ chế chống reward hacking nhiều lớp: đánh giá độc lập hiệu quả của audit agent, robustness assessment và đóng băng MoE router trong các mô hình MoE khác.
Mở rộng Sample Mixer và partial rollout cho bài toán mixed-task RL bất đồng bộ với số lượng môi trường và harness lớn hơn nhiều, đo lường độ ổn định của phân phối nhiệm vụ trong batch.
Khảo sát ảnh hưởng của mid-training hướng-agent (tối ưu Muown, context 1M, dữ liệu trajectory) tới hiệu quả của giai đoạn RL sau đó.

2. Patent:

Nền tảng huấn luyện AI agent trên điện thoại: mô hình nhỏ chạy cục bộ luyện kỹ năng lập trình/giải quyết việc qua phản hồi kiểm thử tự động, chấm điểm theo nhóm các lời giải để hướng tới cách làm ngắn gọn, ít tốn pin và dung lượng xử lý.
Hệ thống chấm điểm tương đối cho trợ lý AI trong công việc: thay vì chỉ báo đúng/sai, server so sánh nhiều bản trả lời của cùng một yêu cầu rồi thưởng cho bản chất lượng cao nhất, giúp trợ lý trên điện thoại/PC tự cải thiện theo thời gian sử dụng.
Cơ chế chống gian lận phần thưởng cho mô hình AI tự học: kiểm toán viên AI tự động rà soát lại các tương tác của agent, phát hiện lỗi chấm điểm dương tính giả/âm tính giả và vá bộ kiểm thử trước khi tiếp tục huấn luyện.
Phương pháp huấn luyện mô hình ngôn ngữ lớn nhiều pha với mạng MoE: đóng băng bộ định tuyến (router) trong giai đoạn học tăng cường để ổn định huấn luyện ở batch lớn, kết hợp tối ưu dạng ma trận cho trọng số ẩn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.11959
ArXiv Abstract	https://arxiv.org/abs/2610.11959
PDF Download	https://arxiv.org/pdf/2610.11959.pdf
Github Repository	N/A

Tác giả: Jinkai Zhang, Jingyi Xu, Yuanhong Yu, Jiarui Guo, Ruizhen Hu, et al.

Xuất bản lúc: 2026-10-08

Tag: Embodied AI, Navigation, MLLM, Agent Harness, Vision-Language Model, Robotics, Zero-shot Navigation

I. Main Problem:

Robot dịch vụ đa năng cần điều hướng theo mọi yêu cầu (tìm đúng một vật cụ thể, đi qua nhiều mục tiêu theo thứ tự, thỏa mãn nhu cầu trừu tượng như "tìm chỗ nghỉ") trong mọi môi trường chưa thấy khi huấn luyện. Các phương pháp hiện tại đều bị kẹt:

Hệ pipeline module hóa (SemExp, VLFM, ApexNav): logic tác vụ cứng nhắc — đổi kiểu yêu cầu là phải sửa workflow.
Mô hình end-to-end fine-tune (NaVid, UniNaVid, StreamVLN): phụ thuộc vào độ bao phủ của dữ liệu huấn luyện điều hướng, nên sụt giảm nghiêm trọng khi sang môi trường mới.

II. Main Idea:

SuperNav để MLLM (multimodal large language model) nguyên trạng — không fine-tune điều hướng — chỉ làm ba việc nó giỏi: hiểu yêu cầu, đọc cảnh, ra quyết định, còn việc di chuyển được giao cho một agent harness gồm:

Agent loop: duy trì ngữ cảnh, lịch sử, tiến độ tác vụ; cắt ảnh cũ khỏi context để tiết kiệm chi phí.
Agent-oriented Tools: khởi tạo, quan sát 4 hướng (trước/phải/sau/trái), quay đầu, theo dõi tiến độ, kết thúc — và đặc biệt PointNav(d, [u, v]): MLLM chọn điểm đích trực tiếp trên ảnh (tọa độ chuẩn hóa 0-1), khớp với cả backend hình học (depth + pose + path planning) lẫn backend học (policy kiểu NoMaD, chỉ cần RGB).
Navigation Skills: gói hướng dẫn Markdown đọc khi cần — Search (ghi nhớ khu vực đã xem, ngả rẽ chưa khám), Recheck (kiểm tra ứng viên trước khi kết luận), Recover (đổi đường khi bị chặn), Complete (xác minh mục tiêu đúng yêu cầu).

Nhờ tách "não quyết định" khỏi "chân di chuyển", hệ thống tổng quát hóa sang tác vụ và cảnh mới mà không cần huấn luyện lại.

Ví dụ đời thường: giống một sếp mới vào công ty chỉ chỉ trên bản đồ/ảnh chụp "đi tới đây", còn tài xế riêng (tool) lo lái xe, báo cáo lại kết quả; khi đường kẹt, sếp đọc lại sổ tay kinh nghiệm (skill) rồi chọn lộ trình khác.

III. Main Results:

Instance navigation (benchmark Habitat-GS mới, 150 tác vụ đơn + 150 tác vụ đa mục tiêu): SR 78.00% so với 34.00% của baseline mạnh nhất (UniNaVid); đa mục tiêu 34.00% so với 4.00% (OmniNav).
Demand-driven navigation (200 tác vụ AI2-THOR, 1-8 giai đoạn suy diễn mục tiêu): SR 59.50% so với 37.50% (OmniNav Action Former).
Category-level trên HM3D-OVON (không huấn luyện riêng cho OVON): SR 68.33% / SPL 0.3837 ở ngưỡng 0.25m; 73.33% / 0.4105 ở 1m — vượt MTU3D, SoftNav, AstraNav, OmniNav-slow.
HM3Dv2: SR 80.30% (0.2m) và 86.50% (1m), vượt VLFM, SG-Nav, ApexNav.
Ablation: bỏ Navigation Skills giảm SR mạnh nhất (68.33 → 35.00 ở 0.25m); backend học giữ được SR nhưng mất hiệu quả đường đi (SPL giảm ~2/3).
Robot thật: triển khai trên chó robot Unitree Go2 (RGB 4 hướng + LiDAR), xử lý được đường bị chặn và chuyển mục tiêu.

IV. Conclusion & Future Works:

SuperNav chứng minh có thể xây năng lực điều hướng quanh khả năng hiểu-suy luận sẵn có của MLLM bằng harness + tool + skill, thay vì fine-tune chuyên biệt. Hạn chế: phụ thuộc chất lượng MLLM cho phán đoán ngữ nghĩa; backend hình học cần map/geometry; suy luận MLLM tốn kém và độ trễ biến động lớn; tác vụ demand-driven mới chỉ đo điều hướng tới mục tiêu, chưa đo hoàn thành hoạt động thực sự. Hướng tương lai: mở rộng đánh giá sang môi trường thực đa dạng hơn và cải thiện độ tin cậy cho chuỗi điều hướng dài.

V. Brainstorming Space:

1. Publish Papers:

Phát triển bộ kỹ năng (Skills) theo miền cho robot gia đình: gói hướng dẫn cho tổ hợp tác vụ (nấu ăn, dọn dẹp) thay vì chỉ search/recover/complete trong điều hướng.
Nâng cấp quản lý bộ nhớ không gian dài hạn: thay lịch sử văn bản bằng bản đồ topological/top-down được MLLM ghi và truy vấn trực tiếp.
Tối ưu độ trễ và chi phí suy luận: caching quyết định, gọi mô hình nhỏ hơn cho các bước lặp lại, đánh đổi chất lượng-thời gian cho robot thật.
Đánh giá dạng chuỗi dài hơn: điều hướng kết hợp thao tác vật thể để thực sự hoàn thành nhu cầu con người thay vì chỉ đến đúng vị trí.

2. Patent:

Ứng dụng điều hướng trên robot giao hàng trong nhà: người dùng nói yêu cầu bằng giọng nói qua điện thoại ("tìm cái ghế sofa rồi mang nước tới đó"); điện thoại hiển thị ảnh camera robot, người dùng hoặc AI chạm chọn điểm đích trên màn hình và robot tự di chuyển, tự đổi đường khi bị chặn.
Trợ lý dẫn đường cho người khiếm thị qua tai nghe + camera: người dùng nói nhu cầu ("tôi muốn nghỉ ngơi"), hệ thống xác định ghế/giường gần nhất và dẫn bước bằng giọng nói, tự quay lại hành lang khi cửa bị chặn.
Robot dọn kho tự động theo yêu cầu trừu tượng: quản lý ra lệnh "dọn khu vực làm việc để chuẩn bị họp"; robot tìm bàn, xác định vật cản (lọ hoa), tìm kệ phù hợp để đặt — tất cả qua giao diện chạm-điểm trên ảnh từ điện thoại quản lý.
Hệ thống dịch vụ khách sạn đa năng: một robot quadruped dùng chung cho mọi phòng vì không cần huấn luyện riêng theo tòa nhà — chỉ cần cung cấp ảnh/hình học cảnh, robot tự khám phá và thực hiện mọi yêu cầu của khách (tìm vật, ghé nhiều điểm theo thứ tự).

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12126
ArXiv Abstract	https://arxiv.org/abs/2610.12126
PDF Download	https://arxiv.org/pdf/2610.12126.pdf
Github Repository	https://github.com/zju3dv/SuperNav

7. Multi-Agent Egocentric World Model with Fine-Grained Embodied Interaction (52 votes)

Tác giả: Dahyun Chung, Siyoon Jin, Hyunwook Choi, Honggyu An, Junyoung Seo, et al.

Xuất bản lúc: 2026-10-08

Tag: World Models, Video Diffusion, Egocentric Vision, Multi-Agent Systems, Embodied AI, DiT, Consistency Evaluation

I. Main Problem:

Các egocentric world model hiện có hầu hết mô hình hóa một tác nhân, trong khi các mô hình multi-agent hiện hữu thường dùng điều khiển thô như lệnh rời rạc, quỹ đạo camera hoặc điều khiển robot tổng quát. Bài toán thiếu một cơ chế cho nhiều người/tác nhân cùng tương tác tinh bằng đầu, tay, cơ thể trong một thế giới chung, và phải đồng thời thỏa mãn ba yêu cầu:

Cross-view action consistency: hành động của một agent phải hợp lý trong góc nhìn của chính nó và khớp với cách agent khác quan sát.
Shared-environment consistency: các ego stream không được mô tả layout, vật thể, nền mâu thuẫn.
State-update propagation: khi tương tác làm thay đổi trạng thái chung, ví dụ dịch chuyển vật, thay đổi phải xuất hiện nhất quán trên mọi view.

II. Main Idea:

ME-World sinh nhiều ego stream như các quan sát cộng sinh của cùng một shared world, thay vì render từng video rồi ghép. Ba cơ chế chính:

Joint multi-agent generation: nén mọi ego stream thành latent rồi nối theo chiều token trong cùng một video DiT; self-attention cho phép bằng chứng từ stream này điều chỉnh stream kia. Mỗi agent có embedding riêng để phân biệt token, trong khi RoPE giữ vị trí không-thời gian tương thích.
Shared action conditioning: mỗi stream không chỉ nhận motion của mình; skeleton map tay-tay của agent mục tiêu, pose 3D của agent khác được chiếu vào view mục tiêu, còn head motion được mã hóa bằng Plücker ray maps trong canonical frame chung để camera trajectory có thể so sánh hình học.
Shared environment memory: dùng lịch sử quan sát chung để warp ảnh cũ sang target view, che vùng động bằng SAM3 và tạo visibility mask; đồng thời chọn thêm các ảnh anchor sạch, không warp, đưa vào chuỗi denoise để giữ màu sắc, layout và danh tính cảnh.

Ví dụ đời thường: giống như quay một cảnh phim bằng nhiều camera trong cùng một studio: thay vì mỗi máy tự tưởng tượng rồi cắt ghép, cả đoàn chia sẻ kịch bản, vị trí diễn viên và bối cảnh mẫu; khi một người nhấc chảo, mọi camera đều ghi cùng cử động và cùng thấy chảo đã đổi chỗ.

III. Main Results:

Trên real benchmark, ME-World đạt S_env 0.468, S_update 0.466, vượt các baseline multi-view, single-ego và general world models; với adapted multi-agent baselines, MetaWorld mạnh nhất nhưng vẫn thấp hơn về S_env/S_update và hầu hết chỉ số điều khiển.
Điều khiển real benchmark rất mạnh: Translation Error 0.042, Rotation Error 2.256, Hand-F1 0.888, Hand-mIoU 0.531, Full-Body-F1 0.822, PCK 0.881; chất lượng video PSNR 19.849, SSIM 0.656, LPIPS 0.289, FVD 637.9.
Trên synthetic benchmark, ME-World đạt S_env 0.441, S_update 0.436, S_id 0.561, cho thấy giữ danh tính nhân vật tốt hơn khi các baseline khác bị identity drift hoặc motion lệch giữa các view.
Ablation cho thấy thiếu joint generation làm môi trường/danh tính lệch giữa view; thiếu shared action conditioning gây cross-view action misalignment; thiếu shared environment memory gây nền và trạng thái vật không nhất quán.

IV. Conclusion & Future Works:

ME-World chứng minh rằng ego stream của nhiều agent nên được mô hình như các quan sát coupled của một thế giới đang tiến hóa, không phải video độc lập. Kết hợp joint denoising, shared action conditioning và shared environment memory cải thiện đồng thời consistency, action control, identity preservation và video quality. Hướng mở rộng: học đồng thời action và observation để agent lập kế hoạch và dự đoán hậu quả lên shared world; giảm chi phí giao tiếp và bộ nhớ cross-agent cho nhóm lớn; kết hợp video generation hiệu quả hơn để tiến tới mô phỏng multi-agent tương tác gần thời gian thực.

V. Brainstorming Space:

1. Publish Papers:

Mô hình hóa đồng thời hành động và quan sát trong multi-agent egocentric world model để agent có thể dự đoán hậu quả tương tác trước khi thực hiện, hỗ trợ planning trong shared world.
Cơ chế giao tiếp và bộ nhớ cross-agent hiệu quả, có chọn lọc, để mở rộng ME-World từ hai agent sang nhóm lớn mà không làm phình chi phí self-attention chung.
Tối ưu hóa video diffusion transformer cho multi-ego synchronized generation nhằm giảm số bước denoise và độ trễ, hướng tới mô phỏng thế giới tương tác gần thời gian thực.
Mở rộng bộ metrics shared-world consistency cho cài đặt tự hồi quy dài, thay đổi số lượng agent, và các tương tác không nhìn thấy toàn bộ từ một view.

2. Patent:

Hệ thống tạo video góc nhìn thứ nhất đồng bộ trên nhiều điện thoại cho thực tế ảo/AR: khi hai người cùng di chuyển đầu và tay trong một căn phòng, điện thoại của mỗi người dùng ảnh đã quay, pose tương đối và vùng nhìn thấy chung để sinh các luồng video tương lai khớp cùng bối cảnh và cùng kết quả tương tác.
Module mô phỏng thử trước cho robot hoặc kính thông minh hỗ trợ phối hợp: trước khi robot thật chạm vật, hệ thống dùng lịch sử camera và cử động tay để dựng video hậu quả từ góc nhìn của nhiều thiết bị, giúp phát hiện va chạm, lệch tay hoặc đổi trạng thái vật không mong muốn.
Ứng dụng game/đào tạo đa người chơi trên điện thoại: khi nhiều người cùng nhặt, đẩy hoặc trao đồ vật trong một map, hệ thống render các góc nhìn cá nhân nhất quán bằng cách chia sẻ bản đồ cảnh, vị trí nhân vật và ký hiệu thay đổi vật thể trong cùng một chuỗi sinh video.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12299
ArXiv Abstract	https://arxiv.org/abs/2610.12299
PDF Download	https://arxiv.org/pdf/2610.12299.pdf
Github Repository	https://github.com/cvlab-kaist/ME-World

8. In-context Robot Learning Made Simple: A Democratized Recipe for Manipulation Tasks (47 votes)

Tác giả: Minxing Li, Minghao Han, Weizhi Zhao, Hanwen Wang, Xiangshuo Liu, et al.

Xuất bản lúc: 2026-09-29

Tag: Robotics, In-Context Learning, World Action Model, Vision-Language-Action, Imitation Learning, Robot Manipulation

I. Main Problem:

Robot in-context learning (ICL) — học tác vụ từ video demo của người — đang mơ hồ về định nghĩa bài toán: một video demo chứa đồng thời quỹ đạo hành động, ngữ nghĩa vật thể, affordance, quan hệ không gian, mục tiêu tác vụ, nên mô hình không biết phải theo cái gì và bỏ qua cái gì (prompt ambiguity). Hệ quả:

các mô hình cũ (Fast-WAM, π0.5) bị shortcut learning — gắn ý định tác vụ vào bố cục cảnh cố định, bị nhầm với distractor
thiếu một định nghĩa rõ ràng về mục tiêu học và giao thức thu thập dữ liệu chuẩn hóa cho ICL

II. Main Idea:

SimpleICL giải quyết bằng hai cột trụ: định nghĩa lại bài toán + thiết kế dữ liệu đúng, thay vì kiến trúc phức tạp.

Phân tách ý định tác vụ thành 4 chiều ngữ nghĩa phải theo: action semantics (kiểu hành động: grasp, press...), object semantics (thao tác đúng vật thể chứ không sao chép quỹ đạo không gian), compositional semantics (thứ tự các hành động), affordance semantics (nắm quai hay thân cốc).
Định nghĩa các yếu tố phải bỏ qua: lệch vị trí vật thể giữa demo và thực thi, chi tiết hành động của người (tốc độ, dáng tay, góc nắm), biến đổi cảnh (ánh sáng, nền, distractor).
Data recipe tương ứng: 4 loại dữ liệu semantic-discriminative (action/object/composition/affordance), tăng cường bất biến với nhiều người demo và nhiều điều kiện cảnh, cùng chiến lược group-based collection + cross-group pairing — ghép video người của cảnh này với quỹ đạo robot của cảnh biến đổi nhẹ, tạo ~3.000 cặp dữ liệu mỗi ngày gần như không tốn chi phí thêm.
Kiến trúc tối giản: video demo được mã hóa bởi visual encoder, rồi 128 learnable context tokens tóm tắt qua cross-attention thành biểu diễn cố định, nạp vào backbone Wan2.2-5B (Mixture-of-Transformers) — không cần pre-training khổng lồ hay hạ tầng dữ liệu đặc biệt.

Ví dụ đời thường: giống như người thợ mộc dạy học viên bằng cách cố tình làm cùng một động tác ở nhiều vị trí khác nhau, với nhiều dụng cụ giống nhau xung quanh — để học viên buộc phải hiểu "ý định" của động tác thay vì chép y nguyên chỗ tay đặt vào.

III. Main Results:

Mô phỏng (RoboTwin): dữ liệu ICL-oriented đạt 72.1% trên bài test semantic discrimination, vượt xa native data (37.6–40.3%); trên 7 tác vụ OOD mới, SimpleICL đạt 65.9% trung bình so với Fast-WAM 24.6%.
Ablation cho thấy: bỏ video conditioning sụt còn 26.3%; bỏ future prediction sụt còn 17.9% — cả hai đều thiết yếu.
Thế giới thực (8 tác vụ unseen, vật thể hoàn toàn mới) so với Fast-WAM và π0.5: Easy 0.81, Medium 0.70 (cao nhất), Hard 0.68 — vượt baseline rõ nhất ở mức khó có distractor gần giống mục tiêu.
Phân tích ngữ nghĩa: affordance (nắm quai/thân cốc) phải được dựng dữ liệu ép buộc mới học được; composition thì mô hình tự phân tách được; action nằm ở giữa về độ khó.
Robustness: giữ ~0.78 trung bình dưới lệch vị trí, đổi người demo, đổi ánh sáng/nền/clutter; bỏ cross-group pairing làm sụt mạnh nhất ở biến dạng không gian (0.79 → 0.51).

IV. Conclusion & Future Works:

Bài báo chứng minh rằng chìa khóa của robot ICL nằm ở định nghĩa rõ mục tiêu học và thiết kế dữ liệu phân tách ý định khỏi nhiễu, chứ không phải kiến trúc phức tạp hay pre-training khổng lồ — mở đường cho cộng đồng nghiên cứu ICL một cách dân chủ hóa, tái sản xuất được (toàn bộ pipeline dữ liệu và huấn luyện được mở mã nguồn). Câu hỏi mở: affordance tinh vi vẫn là khả năng khó học tự nhiên trong ICL; một số tác vụ thực tế có thể cần điều kiện hóa có chủ đích lên yếu tố hiện đang coi là nhiễu (ví dụ tốc độ thực thi).

V. Brainstorming Space:

1. Publish Papers:

Điều tra sâu cơ chế học affordance tinh vi trong ICL: thiết kế các can thiệp dữ liệu/giám sát để mô hình tự phân tách affordance khỏi danh tính vật thể thay vì phải ép buộc bằng dữ liệu.
Mở rộng định nghĩa ICL có điều kiện: cho phép video demo chỉ định chủ đích các yếu tố hiện tại đang bị coi là nhiễu (tốc độ, phong cách chuyển động) qua ngôn ngữ hoặc tín hiệu bổ sung.
Thang đo chuẩn hóa cho robot ICL: bộ đánh giá phân tách rõ 4 chiều ngữ nghĩa và 3 loại bất biến, giúp so sánh công bằng giữa các phương pháp ICL tương lai.

2. Patent:

Hệ thống dạy robot tác vụ mới qua video trên điện thoại: người dùng quay một đoạn ngắn cách mình thao tác vật (ví dụ rót trà, lau đĩa); robot tự hiểu phải làm gì — nắm đâu, theo thứ tự nào — và thực hiện ngay với vật thể ở vị trí khác, không cần lập trình hay fine-tune.
Phần mềm thu thập dữ liệu demo nhóm tự động cho robot công nghiệp: sau khi thu một nhóm cảnh gốc, hệ thống tự xáo trộn vị trí vật, ánh sáng, vật gây nhiễu để ghép cặp demo người — quỹ đạo robot, tạo hàng nghìn cặp huấn luyện mỗi ngày mà không cần thu thêm demo.
Trợ lý gia đình biết bắt chước theo ngữ nghĩa: người dùng cho xem video cách xếp đồ lên kệ hoặc nhấn bơm xà phòng; robot nhận ra đúng vật mục tiêu giữa các vật trông giống nhau, bỏ qua vị trí và tay người demo, rồi làm theo đúng ý định.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.38173
ArXiv Abstract	https://arxiv.org/abs/2609.38173
PDF Download	https://arxiv.org/pdf/2609.38173.pdf
Github Repository	https://github.com/simpleicl/simple-icl

9. U-Space: Uncovering When and Why Uncertainty Arises in Language Models (41 votes)

Tác giả: Tobias Braun, Nils Loose, Alexander Herzog, Virginia Ceccatelli, Marcus Rohrbach, et al.

Xuất bản lúc: 2026-10-06

Tag: Uncertainty Quantification, LLMs, Mechanistic Interpretability, Reasoning Models, J-LENS, Activation Steering

I. Main Problem:

Các phương pháp định lượng độ không chắc chắn (uncertainty quantification) cho LLM hiện nay có ba hạn chế lớn:

Nén mọi thứ thành một điểm số vô hướng: không cho biết uncertainty nảy sinh ở đâu trong chuỗi suy luận hay vì sao — nguy cơ thay "tin mù vào model" bằng "tin mù vào metric".
Chi phí cao: nhiều phương pháp cần sinh lặp nhiều lần (Semantic Entropy, SelfCheckGPT) hoặc thành phần được huấn luyện riêng (probe có nhãn đúng/sai).
Nhiễu bởi độ dài output: câu trả lời sai thường dài hơn, nên nhiều estimator thực chất chỉ đang "đọc" độ dài thay vì uncertainty thật (length alone đạt 68.6% AUROC, gần bằng baseline có supervised).

II. Main Idea:

U-SPACE là một không gian con (subspace) chiều thấp trong residual stream của model, nơi các nguồn uncertainty khác nhau được biểu diễn như các phương có thể diễn giải bằng ngôn ngữ. Cách xây dựng:

Chọn 4 hạng mục semantic: ambiguity (mơ hồ), incompleteness (thiếu thông tin), conflicting evidence (bằng chứng mâu thuẫn), general uncertainty.
Với mỗi hạng mục, lấy một tập anchor từ vựng biểu đạt doubt và certainty, kéo ngược (pullback) các hướng unembedding của chúng về residual stream qua J-LENS (Jacobian trung bình).
Lấy hiệu hai centroid (uncertainty − certainty) để triệt tiêu thành phần dùng chung, rồi trực chuẩn hóa thành basis trực giao — hoàn toàn không cần nhãn đúng/sai, không cần training, không cần sinh lặp.

U-LENS chiếu hidden state của từng token reasoning lên basis này, tạo ra bản đồ uncertainty token-by-category cho biết loại uncertainty nào đang hiện diện. Điểm số tổng hợp kết hợp hai tín hiệu bổ trợ: second-order (verbalizable) = độ lớn hình chiếu vào positive cone tại token kết thúc suy nghĩ, nhân với first-order (distributional) = predictive entropy trung bình trên toàn trace (đã chuẩn hóa theo độ dài).

Ví dụ đời thường: giống như gắn một "cái đồng hồ đo nhiều kim" vào đầu người trả lời — thay vì chỉ nghe họ nói "tôi chắc chắn", ta nhìn thấy kim nào rung (mơ hồ, thiếu dữ kiện, hay mâu thuẫn) và rung mạnh ở câu nào, ngay khi họ đang suy nghĩ.

III. Main Results:

AUROC 71.1±4.7 (trung bình 4 benchmark × 3 model: Gemma 4, Qwen3.5, Magistral 1.1), vượt mọi baseline; khi kiểm soát độ dài (length-controlled), U-LENS vẫn dẫn đầu cả 9/9 so sánh model-metric — chỉ giảm 1.8 điểm, trong khi Generation length sụt từ 68.6 xuống ~52 và các phương pháp multi-pass (P(True), TokUR, SentenceSAR) đều tụt hậu.
Cải thiện AUROC so với baseline mạnh nhất: +2.2 (Gemma 4), +1.9 (Qwen3.5), +4.7 (Magistral 1.1); AURC giảm 0.4–2.5 điểm.
Tổ hợp entropy × cone alignment luôn tốt hơn từng thành phần riêng lẻ → chứng cứ rằng tín hiệu semantic đóng góp vượt ngoài token entropy.
Token-level readout cho thấy bản đồ uncertainty có nghĩa theo từng token (ví dụ câu trả lời về Hamlet chuyển từ incompleteness → ambiguity → conflicting evidence).
Activation steering dọc theo các hướng U-SPACE khiến model phân vân, mất tự tin ngay cả với câu hỏi đơn giản như "2+2=?" — chứng cứ nhân quả rằng các hướng này điều khiển hành vi, không chỉ tương quan.
Cùng công thức xây dựng label-free mở rộng sơ bộ sang cả emotion classification và reward-hacking detection.

IV. Conclusion & Future Works:

Ước lượng uncertainty hữu ích hơn hẳn khi chỉ ra không chỉ có thể sai mà còn chỗ nào trong suy luận bắt đầu sai. U-SPACE/U-LENS cung cấp tín hiệu uncertainty có thể diễn giải, vượt trội dưới cả đánh giá chuẩn và đánh giá kiểm soát độ dài, đồng thời hỗ trợ can thiệp (steering) có định hướng. Hướng tương lai: áp dụng công thức xây dựng subspace từ anchor ngữ nghĩa cho các miền semantic ngoài uncertainty, và dùng readout để kiểm toán model minh bạch hơn trong triển khai thực tế.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng U-SPACE sang các miền semantic khác (cảm xúc, reward hacking, độ tin cậy nguồn) bằng cách chỉ thay anchor từ vựng, kiểm chứng tính tổng quát của công thức subspace label-free.
Kết hợp U-LENS với cơ chế abstention/deferral tự động: model tự quyết định khi nào chuyển cho chuyên gia dựa trên token-level uncertainty map thay vì điểm số vô hướng.
Nghiên cứu steering theo U-SPACE làm công cụ an toàn: giảm độ tự tin (hedging) có kiểm soát cho các câu hỏi rủi ro cao, đồng thời đánh giá khả năng lạm dụng.
Tối ưu J-LENS pullback cho model chưa có Jacobian công khai, giảm chi phí ước lượng Jacobian từ dữ liệu unlabeled.

2. Patent:

Ứng dụng điện thoại hỗ trợ ra quyết định: trợ lý AI trên điện thoại tự đánh dấu từng câu trả lời bằng màu sắc theo 4 loại uncertainty (mơ hồ, thiếu thông tin, mâu thuẫn, chung chung), giúp người dùng biết đoạn nào nên kiểm chứng trước khi tin.
Hệ thống kiểm toán chatbot doanh nghiệp: một module đọc trạng thái nội bộ của model đang chạy và cảnh báo realtime khi suy luận đi vào vùng conflicting evidence, ghi log token-level để phục vụ điều tra sau sự cố.
Công tắc "hedge có kiểm soát" cho trợ lý giọng nói: khi người dùng bật chế độ thận trọng (ví dụ hỏi về y tế, pháp lý), hệ thống tăng liều steering dọc hướng uncertainty trong U-SPACE để model tự động nêu giả định và hạn chế thay vì trả lời dứt khoát.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.09087
ArXiv Abstract	https://arxiv.org/abs/2610.09087
PDF Download	https://arxiv.org/pdf/2610.09087.pdf
Github Repository	https://github.com/s2labres/U-Space

10. OuroWorld: Bringing Any 3D World Alive as Diverse, Endlessly Looping 3D Cinemagraphs (40 votes)

Tác giả: You-Zhe Xie, Ting-Wei Chou, Yu-Hsuan Li, Kaipeng Zhang, Zhixiang Wang, et al.

Xuất bản lúc: 2026-10-08

Tag: 3D Gaussian Splatting, Cinemagraph, Video Generation, World Models, 4D Reconstruction, Fourier Deformation

I. Main Problem:

Các mô hình 3D world hiện nay (HY-World 2.0, Marble, Lyra 2.0) tạo ra cảnh 3D photorealistic, tự do thám hiểm nhưng 'đóng băng trong thời gian': lá không lay, sương không trôi, đèn không nhấp nháy. Biến cảnh tĩnh thành cảnh động vòng lặp vô hạn gặp 3 khó khăn:

Các phương pháp 3D cinemagraph trước (LoopGaussian, 3D-MOM, 3D Cinemagraphy) dựa vào Eulerian flow nên chỉ mô phỏng chuyển động dạng chất lỏng, không bắt được biến dạng vật thể, vận động đối tượng hay thay đổi ánh sáng
Tất cả đều cần motion mask do người dùng cung cấp, không tự biết nên chuyển động ở đâu, thế nào
Video generation tạo động lực học đa dạng nhưng chỉ lặp gần đúng (còn seam) và các view đa hướng không nhất quán với nhau, khiến cảnh bị nhòe và chuyển động giật cục nếu fit trực tiếp.

II. Main Idea:

OuroWorld là khung mask-free 3 giai đoạn, biến bất kỳ cảnh 3DGS tĩnh nào thành 3D cinemagraph với chuyển động sống động, lặp vô hạn từ mọi góc nhìn:

Tạo video lặp tham chiếu: VLM (GPT-5.5) phân tích cảnh, suy luận chuyển động hợp lý rồi viết prompt; model video (Seedance 2.0) tổng hợp video 10 giây với khung đầu = khung cuối; VLM lọc bỏ kết quả bất tự nhiên
Mở rộng đa view: model nền tảng 3D (VGGT-Ω) nâng video tham chiếu thành point cloud động, render từ 20 góc quanh góc tham chiếu (±20°) rồi dùng video inpainting (TrajectoryCrafter) lấp các lỗ hổng disocclusion
Inconsistency-Robust Periodic 4DGS: cảnh 4D = 3DGS chuẩn + trường biến dạng chuỗi Fourier (lặp đúng từng chu kỳ T theo cấu trúc toán học) + Grounded Drift Field chỉ dùng lúc huấn luyện, hấp thụ sự không nhất quán giữa các view, neo ở view tham chiếu (P phải tự tái hiện động của view tham chiếu, drift chỉ nhận phần lệch còn lại) và bị vứt khi inference

Ví dụ đời thường: giống một đạo diễn dựng một đoạn phim ngắn rồi yêu cầu nhiều nhân viên khác nhau chụp lại từ các góc — mỗi người chụp hơi khác nhau một chút, nên có một 'tấm kính hiệu chỉnh' riêng cho từng góc chụp để gộp lại thành bản gốc sắc nét, nhưng khi trình chiếu thì bỏ tấm kính đi.

III. Main Results:

Đánh giá trên 39 cảnh (9 Mip-NeRF 360, 30 từ HY-World 2.0, Marble, Lyra 2.0): OuroWorld đạt tốt nhất về Vividness, Naturalness (KVD), Motion-Aware Loop Fidelity (MALF) và Aesthetic Quality ở cả camera tĩnh và camera orbit
LoopGaussian/3D Cinemagraphy có Seam SSIM nhỉnh hơn nhưng gần như tĩnh (MALF gần 0), còn OuroWorld kết hợp Seam SSIM cao (0.9965) với MALF cao nhất (0.0809) — nghĩa là chuyển động mạnh mà vẫn lặp mượt
User study 30 người, so sánh hai lựa chọn: OuroWorld được chọn trong 70.8%–99.0% số so sánh, vượt xa cả 4 baseline ở mọi tiêu chí
Ablation: bỏ drift field → cảnh nhòe (chi tiết mây, thiên hà biến mất theo thời gian); bỏ grounding → độ sống động sụt thấp nhất; bỏ scene-view consistent optimization → độ sắc nét giảm 22%; bỏ tính tuần hoàn của Fourier → Seam SSIM rớt từ 0.9965 xuống 0.9783
Chạy trên một GPU RTX 4090 duy nhất.

IV. Conclusion & Future Works:

OuroWorld là khung đầu tiên không cần mask, đưa bất kỳ cảnh 3DGS tĩnh nào 'sống dậy' thành cinemagraph 3D lặp vô hạn, vượt ra ngoài giới hạn chuyển động dạng chất lỏng của Eulerian flow. Hạn chế: chuyển động bị giới hạn bởi video generation prior (kết quả phi lý sẽ lan sang cảnh cuối, dù VLM filtering giảm nhẹ), và hoàn thiện mọi view từ một video tham chiếu đơn gây disocclusion và bất nhất quán lớn ở góc nhìn rộng. Hướng khắc phục: tạo nhiều video tham chiếu từ các góc khác nhau.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng sang nhập nhiều video tham chiếu từ các góc nhìn phân tán để cải thiện tính nhất quán và độ bao phủ của cảnh 4D ở dải góc rộng.
Kết hợp cơ chế lọc độ tin cậy của video generation (uncertainty estimation) thay vì chỉ dùng VLM filtering để hạn chế động lực học phi lý lan vào cảnh cuối.
Áp dụng biểu diễn Periodic 4DGS chuỗi Fourier + Grounded Drift Field cho bài toán nâng video đơn thực tế (casual monocular video) thành nội dung 3D lặp vô hạn.

2. Patent:

Ứng dụng điện thoại tạo 'ảnh sống 3D' từ một bức ảnh chụp: người dùng chụp ảnh, ứng dụng tự phân tích bằng mô hình ngôn ngữ-thị giác để đoán vật gì nên chuyển động (nước chảy, tóc bay, đèn nhấp nháy), tạo video lặp và nâng thành cảnh 3D để xoay quanh xem trên màn hình điện thoại.
Nền tảng quảng cáo nội thất bất động sản trên điện thoại: ảnh 3D scan của căn phòng được 'thổi sự sống' — rèm lay động, ánh nến chớp, sương ngoài cửa sổ trôi — lặp vô hạn và xem được từ mọi góc khi người mua xoay camera ảo.
Ứng dụng sáng tạo nội dung AR/VR trên điện thoại: người dùng import cảnh 3D tĩnh, hệ thống tự sinh chuyển động tuần hoàn đa dạng (không cần khoanh vùng tay hay mặt nạ) và xuất thành cảnh 3D động để ghép vào không gian thực tế tăng cường, ví dụ thác nước chảy vĩnh viễn trên bàn làm việc.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12461
ArXiv Abstract	https://arxiv.org/abs/2610.12461
PDF Download	https://arxiv.org/pdf/2610.12461.pdf
Github Repository	https://github.com/youzhe0305/OuroWorld

11. REMORY: Learning Residual Memory for Context Compaction (38 votes)

Tác giả: Hanchen Xia, Baoyou Chen, Yutang Ge, Naihao Deng, Senqiao Yang, et al.

Xuất bản lúc: 2026-10-08

Tag: Long-Horizon Agents, Context Compaction, Soft Memory Tokens, LLM Agents, Prompt Compression, Memory Networks, Agent Benchmarks

I. Main Problem:

Các agent dài hạn (coding agent, browsing agent...) bị giới hạn bởi cửa sổ context hữu hạn: khi lịch sử tương tác, tool output tích lũy, agent buộc phải nén lịch sử — phổ biến nhất là thay bằng tóm tắt văn bản (như lệnh /compact của Claude Code, Codex CLI). Vấn đề:

Tóm tắt giữ được mạch chính nhưng không đảm bảo hỗ trợ mọi quyết định sau đó — tính liên quan của ngữ cảnh cũ thay đổi theo tiến trình tác vụ.
Không thể xác định trước những chi tiết nào sẽ cần vượt ngoài tóm tắt.
Hệ quả thực tế: lặp lại tool output, lỗi tool, hành động mù sau mỗi lần compaction.

II. Main Idea:

REMORY là mạng neural memory bổ sung một chuỗi hữu hạn soft memory token đi kèm tóm tắt văn bản khi nén context:

Cho trước lịch sử đầy đủ + tóm tắt đã sinh, mạng học cách tạo các token liên tục (continuous vectors, không phải token từ vựng) sao cho LLM đông băng (frozen) đọc [summary; memory] xấp xỉ được phản hồi như khi có full history.
Memory được conditioned trên summary rồi append ngay sau nó — tương tự residual connection dọc theo chiều sequence: summary là checkpoint đọc được, memory token bổ sung phần tóm tắt bỏ sót.
Kiến trúc: dùng frozen actor features + learned queries, gated cross-attention vào summary, mỗi block 1.024 vị trí nguồn → 64 soft token, nén phân cấp tối đa 4.096 slot; khoảng 1.5–1.9B tham số huấn luyện được (DFlash/DFlash-2), actor không đổi.
Huấn luyện 2 giai đoạn: Stage I (reconstruction) — student dùng memory thay passage, cả teacher/student cùng dự đoán source text; Stage II (summary-conditioned continuation) — teacher đọc full history, student đọc summary+memory, cùng dự đoán câu trả lời tiếp theo; tối ưu reverse KL qua frozen actor, chỉ cập nhật memory network.

Ví dụ đời thường: giống đầu bếp ghi công thức tóm tắt vào sổ tay — chữ viết không thể ghi hết cảm giác 'lửa vừa đủ, nêm vừa miệng' — nên bên cạnh cuốn sổ, anh ta còn giữ trực giác tay nghề (memory token) cho phép tái hiện món ăn y hệt như lúc nấu trực tiếp, dù không còn đứng bếp hôm đó.

III. Main Results:

SummHay (92 query, Qwen3.8-27B): dùng chỉ 5.2% số vị trí input (5.024 vs ~96.872 raw), vẫn đạt joint score gần bằng full context (43.39 vs 43.41); citation F1 +4.04 (56.98→61.03), coverage gần như không đổi — memory giúp nối claim với bằng chứng nguồn. Bổ sung văn bản ngang ngân sách vị trí (Summary++) không có hiệu quả này.
Agent benchmarks end-to-end (cùng actor, chỉ thêm residual memory):
- Qwen3.8-27B: +9.8 AutomationBench, +7.6 JobBench, +4.5 Terminal-Bench 2.1, +3.0 BrowseComp.
- GLM-5.3-Flash (320B): +3.3 Terminal-Bench, +4.1 BrowseComp — đưa model này tiệm cận mức frontier.
Hành vi tool tốt hơn: lặp lại tool output giảm 17.9–29.8%, lỗi tool giảm 25.3–49.7 trên 4 cặp actor-benchmark.
Chi phí sinh giảm trong hầu hết cấu hình (VD Qwen Terminal-Bench: $4.29→$ 2.86/task).
Hành động đầu tiên sau compaction (488 cặp, BrowseComp): residual thắng 70.7%, hòa 4.3%, thua 25.0% theo GPT-5.6-Sol judge.
Case study Live Trading: ROI settled +5.11% (có memory) vs -11.86% (không); chi phí generation $170 vs$ 304.

IV. Conclusion & Future Works:

REMORY chứng minh phương án ba thành phần bổ trợ nhau cho nén context: tóm tắt văn bản (checkpoint đọc được), soft memory token học được (mang thông tin dự đoán bị tóm tắt bỏ sót), và retrieval/archive (tra cứu bản ghi chính xác khi cần). Huấn luyện reconstruction → summary-conditioned continuation qua frozen actor tạo interface này mà không đụng tham số actor. Kết quả cải thiện attribution, điểm agent và chất lượng hành động ngay sau compaction ủng hộ tính hữu dụng của formulation residual. Hướng mở (ngầm trong bài): mở rộng sang nhiều actor/thang context lớn hơn, và cải thiện chiến lược chọn thông tin đưa vào memory khi tác vụ tiến hóa.

V. Brainstorming Space:

1. Publish Papers:

Tối ưu hóa giai đoạn huấn luyện residual memory theo curriculum động: tự điều chỉnh trọng số reconstruction vs continuation dựa trên khoảng trống thông tin mà summary để lại ở từng compaction.
Mở rộng REMORY cho kiến trúc MoE và cửa sổ context cực dài (triệu token), kiểm tra tính bền của memory xuyên qua hàng chục lần compaction liên tiếp.
Kết hợp soft memory token với cơ chế retrieval có chọn lọc: memory học 'gợi nhắc' index để hệ thống biết khi nào cần truy xuất archive, thay vì phụ thuộc hành vi tool của actor.

2. Patent:

Tính năng nén hội thoại cho trợ lý AI trên điện thoại: thay vì chỉ lưu bản tóm tắt văn bản, hệ thống lưu kèm một đoạn dữ liệu trí nhớ nén (soft token); khi người dùng quay lại cuộc trò chuyện sau tuần, trợ lý khôi phục ngữ cảnh chi tiết (sở thích, quyết định cũ) chính xác gần như chưa từng bị cắt, tiết kiệm bộ nhớ và dung lượng đồng bộ.
Hệ thống ghi nhớ phiên làm việc cho ứng dụng soạn thảo/văn phòng dùng chung: mỗi lần hết hạn phiên, máy chủ sinh tóm tắt + vector memory; thiết bị khác mở lại tài liệu sẽ hiểu ngay ngữ cảnh chỉnh sửa trước đó mà không cần tải toàn bộ lịch sử thao tác.
Module trí nhớ cho chatbot chăm sóc khách hàng dài kỳ: khi lịch sử khách vượt giới hạn, chatbot giữ bản tóm tắt hội thoại kèm memory token học được để không hỏi lại thông tin đã cung cấp và không lặp lỗi tư vấn trước, giảm thời gian xử lý và chi phí token.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.11287
ArXiv Abstract	https://arxiv.org/abs/2610.11287
PDF Download	https://arxiv.org/pdf/2610.11287.pdf
Github Repository	https://github.com/1ring2rta/Remory

12. Beyond Spatio-Temporal Priors: A Generalizable Approach for Dense Correspondence Matching (38 votes)

Tác giả: Luping Liu, Bingyi Kang, Yifan Wang, Dong Xu

Xuất bản lúc: 2026-10-08

Tag: Dense Correspondence, Optical Flow, Image Editing, Foundation Models, Diffusion, DINO, NeurIPS

I. Main Problem:

Ghép cặp điểm dày đặc (dense correspondence) truyền thống dựa trên giả định không gian-thời gian đơn giản: chuyển động mượt (smooth motion) và hình học cứng (rigid geometry). Các giả định này vỡ ở tác vụ mới — image editing và reference-guided generation (IEG): một con ngựa đứng trên đồng cỏ hay trong tuyết vẫn là cùng một con ngựa dù tư thế, màu sắc, bối cảnh đổi hoàn toàn, nghĩa là danh tính thị giác được giữ nhưng tính liên tục vật lý bị phá vỡ.

Hệ quả:

Các phương pháp cổ điển (optical flow, geometric matching) và cả các framework thống nhất (UniMatch, UFM, RoMa) bỏ sót hoặc méo mó vùng tương ứng trong các cặp ảnh IEG.
Thiếu độ đo định lượng để đánh giá mức độ bảo toàn danh tính trong ảnh sinh ra — các metric toàn cục (DINO/CLIP score) không phát hiện được lỗi cục bộ tinh tế.

II. Main Idea:

FreeMatching — một mô hình duy nhất học identity-preserving correspondence: khớp các vùng thuộc cùng một đối tượng thật qua mọi biến đổi về góc nhìn, tư thế, ngoại hình và bố cục cảnh, đồng thời dự đoán thêm covisibility mask để đánh dấu vùng không có đối tác hợp lệ (nội dung mới được sinh ra).

Kiến trúc và huấn luyện hai giai đoạn:

Kết hợp hai foundation model bổ sung nhau: transformer khởi tạo từ FLUX.2 (generative) cộng thêm đặc trưng DINOv3 (semantic) được chiếu vào token ảnh; hai chuỗi token được nối lại để attention chung, decoder dự đoán correspondence và mask trong một forward pass.
Giai đoạn 1 — supervised pre-training trên dữ liệu hỗn hợp: bộ dữ liệu cổ điển + 520k clip video thật được gán nhãn bằng tracker SOTA (AllTracker) + 360k cặp ảnh tổng hợp render bằng Blender từ Objaverse (ground truth pixel-perfect). Dùng Huber loss để chịu nhiễu nhãn của dữ liệu thật.
Giai đoạn 2 — teacher-guided iterative refinement: bản sao EMA của student tạo correspondence ban đầu để warp ảnh; một teacher cố định (RoMa) ước lượng hiệu chỉnh cục bộ, hợp thành pseudo-target để huấn luyện student — cải thiện khớp cục bộ trên IEG mà không cần annotation tương ứng dày đặc.
Đánh giá hai chiều: warp ảnh nguồn theo correspondence rồi đo độ tương đồng tái cấu trúc (MSE, LPIPS, SigLIP 2, DINOv2/3) — vừa đo chất lượng matching, vừa đảo ngược thành metric đánh giá mức bảo toàn danh tính của dữ liệu sinh.

Ví dụ đời thường: giống người nhận ra bạn mình dù bạn vừa đổi kiểu tóc, quay lưng, đổi áo — không cần so từng nếp nhăn quần áo một cách cứng nhắc, mà hiểu 'đó vẫn là người đó' nhờ kết hợp trí nhớ hình dáng tổng thể (generative) với khả năng nhận diện bộ phận (semantic), rồi tinh chỉnh thêm từng chi tiết bằng cách soi lại từng vùng.

III. Main Results:

Benchmark cổ điển vẫn cạnh tranh SOTA: EPE tốt nhất trên ETH3D (10.23) và ScanNet-1500 (8.56); pose estimation ngang RoMa/UFM; optical flow khá trên Sintel Final (1.36) — tất cả từ một mô hình duy nhất.
IEG-Bench — vượt trội rõ rệt: Ref-MSE 6.22 (RoMa 8.08, UFM 10.41), LPIPS 45.41, SigLIP 2 90.77, DINOv3 80.01 (tốt nhất mọi metric); sau 10k bước fine-tune vẫn dẫn toàn diện.
Ablation tích lũy: DINOv3 score tăng từng bước 67.31 → 69.28 (FLUX init) → 72.76 (+DINOv3) → 76.52 (+video/Blender) → 80.01 (+refinement), chứng minh mỗi thành phần đều có đóng góp.
Làm metric thẩm mỹ: heatmap sai khác cục bộ phát hiện lỗi mà metric toàn cục bỏ sót (ví dụ chữ trên bóng bay bị chỉnh sửa sai), score tương quan với đánh giá của người.

IV. Conclusion & Future Works:

FreeMatching mở rộng correspondence dày đặc vượt ra ngoài giả định không gian-thời gian, cho phép một mô hình khớp danh tính trên cả tác vụ cổ điển lẫn IEG, đồng thời đóng vai trò metric không gian đánh giá bảo toàn danh tính. Tầm nhìn: vòng lặp hai chiều giữa mô hình sinh và correspondence — mô hình sinh cung cấp dữ liệu đa dạng cho correspondence, correspondence phản hồi để hướng dẫn và đánh giá sinh ảnh.

Hạn chế & hướng tương lai:

Còn khó với che khuất nghiêm trọng, thay đổi topology, biến dạng phi cứng cực đoan.
Trần hiệu suất phụ thuộc năng lực foundation model nền.
IEG-Bench cần mở rộng thêm danh mục; có thể mở rộng sang diffusion probabilistic để xử lý correspondence mơ hồ (ví dụ vật thể bị sao chép).

V. Brainstorming Space:

1. Publish Papers:

Mô hình diffusion đa phân phối cho correspondence mơ hồ trong ảnh sinh ra, xử lý các trường hợp một vùng có nhiều khớp hợp lý (vật thể bị nhân bản khi edit).
Vòng lặp tự cải thiện giữa mô hình sinh ảnh và FreeMatching: dùng điểm correspondence làm phản hồi để tinh chỉnh mô hình chỉnh sửa ảnh theo hướng bảo toàn danh tính tốt hơn.
Mở rộng IEG-Bench sang video và các lớp đối tượng đa dạng hơn, kèm đánh giá con người quy mô lớn cho metric bảo toàn danh tính không gian.

2. Patent:

Công cụ kiểm tra ảnh AI trên điện thoại: người dùng chọn ảnh gốc và ảnh đã chỉnh sửa, ứng dụng dùng mô hình tương ứng danh tính để hiển thị bản đồ nhiệt chỉ ra vùng bị biến dạng hoặc đổi danh tính (khuôn mặt, chữ, logo) thay vì chỉ nói 'ảnh khác nhau'.
Tính năng tự động chấm điểm chất lượng chỉnh sửa ảnh trong ứng dụng camera: mỗi lần dùng AI xóa vật thể, thay nền hay ghép ảnh tham chiếu, hệ thống chấm điểm mức độ giữ nguyên chủ thể theo thang số và cảnh báo vùng lỗi trước khi lưu.
Plugin đánh giá nhất quán danh tính cho nền tảng tạo ảnh: nhà phát triển tích hợp module correspondence để đo xem ảnh đầu ra có giữ đúng nhân vật/sản phẩm của ảnh tham chiếu hay không, phục vụ quảng cáo và thương mại điện tử.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12421
ArXiv Abstract	https://arxiv.org/abs/2610.12421
PDF Download	https://arxiv.org/pdf/2610.12421.pdf
Github Repository	https://github.com/luping-liu/FreeMatching

13. MC-Sparse: Deconstructing and Closing the Dense-Sparse Attention Gap in Diffusion Transformers (38 votes)

Tác giả: Jiarui Chen, Zeqiang Lai, Jiangshan Wang, Ziheng Ouyang, Ye Huang, et al.

Xuất bản lúc: 2026-10-05

Tag: Diffusion Transformers, Sparse Attention, Video Generation, 3D Generation, Inference Acceleration, KV Cache

I. Main Problem:

Sparse attention là cách chính để giảm độ trễ của diffusion transformers khi sinh video độ phân giải cao hoặc tài sản 3D, nhưng ở mức sparsity cao chất lượng thường sụt so với dense attention. Các phương pháp block-sparse hiện có khó tách bạch vì ba lỗi bị cuộn vào nhau:

Structural binding error: token key/value bị ràng vào cả block, và nhiều query trong cùng nhóm phải dùng chung một lựa chọn.
Selection error: điểm số ước lượng bằng mean-pooling bỏ sót token có tổng attention mass lớn.
Discarded tail error: các token bị loại vẫn có trọng số attention khác không nên tạo sai lệch đầu ra. Hệ quả là quality–efficiency gap giữa dense và sparse attention chưa được đóng lại rõ ràng.

II. Main Idea:

Bài báo dùng oracle comparisons ở cùng attention density để tách ba nguồn lỗi, rồi đề xuất MC-Sparse, framework training-free gồm ba đòn bẩy:

Token-level KV selection: chọn từng token key/value riêng lẻ thay vì cả block, dùng exact dense-attention probabilities tại bước anchor.
Tile-aligned query grouping: gom các query giống nhau thành nhóm bằng median-split Fast PDDP, mỗi nhóm đúng kích thước tile kernel để tránh phí tính do padding.
Meta caching across steps: lưu lại nhóm query, chỉ số KV đã chọn, và dense–sparse residual tại anchor step; các bước sau chỉ tính attention sparse với Q/K/V mới rồi cộng lại residual để bù phần bị loại. Để chạy nhanh, tác giả làm two-pass exact selector, token-sparse attention kernel bằng CuTeDSL, fast PDDP song song, và offloading/prefetch cache khi thiếu VRAM.

Ví dụ đời thường: giống người nấu ăn ở lượt đầu đi chợ thật kỹ, ghi chính xác từng thực phẩm cần mua và đo luôn phần gia vị còn thiếu; các lượt nấu sau chỉ mua theo sổ đó và rắc thêm “phần chênh” đã đo, thay vì mỗi lần lại cân nhắc lại từ đầu.

III. Main Results:

Minimax-H3-Base, T2AV 768p: ở 25% density đạt PSNR 28.44, SSIM 0.899, LPIPS 0.161, 1.61× speedup; ở 15% density đạt PSNR 27.30, 1.80× speedup, trung thành hơn Sol-Attn và PISA.
HunyuanVideo-13B: MC-Sparse 25% đạt PSNR 32.89, LPIPS 0.114, 1.82× speedup; 15% đạt 2.00× với chất lượng vẫn cao.
Wan2.1-14B T2V/I2V 720p: PSNR 28.81/32.11, LPIPS 0.128/0.117, speedup khoảng 1.52×–1.53×, tốt hơn SpargeAttn, Sol-Attn, PISA, SVG2, SVG-EAR.
HY3D-Internal 3D: ở 15% density đạt Chamfer distance 0.177 so với 0.976 của PISA, Vol-IoU 82.91, F1 96.33, 2.32× denoising speedup.
Kernel efficiency: token-sparse kernel đạt khoảng 96%–99% của speedup lý tưởng 1/s, tốt hơn SVG2 và PISA.
Ablation: thêm exact selection, token granularity, query grouping và compensation đều cải thiện PSNR/SSIM/LPIPS; residual compensation cho gain lớn nhất, ví dụ +3.54 dB PSNR ở density 0.2.

IV. Conclusion & Future Works:

Kết luận chính là dense–sparse attention gap không chỉ do “chọn thiếu token”, mà do ràng buộc cấu trúc, chọn bằng điểm gần đúng, và phần đuôi attention bị vứt. MC-Sparse cho thấy có thể đóng gap bằng exact selection lưu lại theo bước, nhóm query đúng tile, và bù residual xuyên suốt quá trình denoising mà không training.

Hướng mở rộng hợp lý: thử lịch refresh anchor thích ứng thay vì cố định, kiểm tra ở mô hình video/3D dài hơn, tối ưu kernel cho token-gathering không đều, và cân bằng offload cache CPU–GPU khi chuỗi token rất lớn.

V. Brainstorming Space:

1. Publish Papers:

Một nghiên cứu oracle-driven cho sparse attention: định lượng riêng structural binding, selection error và discarded tail error trên nhiều diffusion transformer video và 3D.
Phiên bản MC-Sparse với anchor scheduling thích ứng theo độ biến thiên residual, nhằm giữ fidelity gần dense attention ở density thấp hơn nữa.
Kernel và runtime cho token-level sparse attention: giảm chi phí gather bất thường, tối ưu tile alignment, và prefetch cache CPU–GPU cho chuỗi token trăm nghìn phần tử.

2. Patent:

Ứng dụng điện thoại sinh video nhanh: trong vài bước khử nhiễu đầu, máy ghi lại phần khung hình/video trước thật sự quan trọng và lượng sai lệch cần bù; các bước sau chỉ tính trên phần đó rồi cộng lại hiệu chỉnh, giảm thời gian render mà ít đổi chất lượng.
Tạo avatar hoặc vật thể 3D từ một ảnh trên thiết bị di động: giai đoạn đầu xác định các vùng hình học cần giữ và sai số bề mặt còn lại, các giai đoạn lặp sau tái dùng danh sách vùng và hiệu chỉnh để dựng mesh nhanh, mịn, ít rách bề mặt.
Plugin tăng tốc cho ứng dụng chỉnh sửa video trên điện thoại: tự bật chế độ attention thưa có ghi nhớ ở các bước lặp ổn định, tắt khi cảnh thay đổi mạnh, giúp xuất video dài mượt hơn mà không cần mô hình nén riêng.
Hệ thống hybrid đám mây–điện thoại cho tạo video độ phân giải cao: điện thoại giữ cache lựa chọn và hiệu chỉnh, máy chủ cập nhật các bước anchor khi cảnh đổi, giảm chi phí truyền dữ liệu token toàn phần.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.06801
ArXiv Abstract	https://arxiv.org/abs/2610.06801
PDF Download	https://arxiv.org/pdf/2610.06801.pdf
Github Repository	https://github.com/dodododddo/mcsparse

14. DreamTrue: Action-Faithful Robot World Model with Counterfactual Post-Training (38 votes)

Tác giả: Junyan Li, Ruizhi Li, Yu Liu, Xiangshuo Liu, Mingchao Sun, et al.

Xuất bản lúc: 2026-10-08

Tag: World Model, Video Generation, Diffusion, Reinforcement Learning, Robot Learning, Simulation

I. Main Problem:

Mô hình thế giới robot (predict video tương lai theo chuỗi hành động) gặp hai lỗi hệ thống khi huấn luyện trên dữ liệu robot công khai:

Lệch hiệu chuẩn camera: hành động được render thành điều kiện ảnh dựa trên tham số camera sai, khiến robot render lệch vị trí so với video thật → mô hình học sai cách "theo" hành động.
Thiên lệch kết quả thành công: dữ liệu hầu như chỉ gồm demo thành công, nên mô hình ảo giác kết quả tốt dù hành động dẫn tới thất bại (vật bay theo tay kẹp dù không nắm được), làm đánh giá chính sách robot bị lạc quan giả. Thu thập dữ liệu mới cho hai vấn đề này quá tốn kém.

II. Main Idea:

DreamTrue sửa dữ liệu cũ thay vì thu thập dữ liệu mới, qua hai giai đoạn:

Offline geometric calibration: dùng hình học robot (URDF) đã biết + trạng thái đã ghi để render robot, so khớp điểm ảnh với video thật (RoMaV2, mask SAM3), tinh chỉnh chung tham số camera (intrinsics, extrinsics, distortion) và độ lệch lắp tay robot — không cần chuỗi hiệu chuẩn chuyên biệt, chỉ từ ảnh RGB.
Stage I — huấn luyện giám sát xuyên embodiment: chuyển mọi hành động (dù robot khác nhau) thành điều kiện không gian ảnh chung (render RGB, depth, mask, Plücker rays của camera, trạng thái kẹp) rồi điều kiện hóa video DiT qua nhánh VACE, huấn luyện flow-matching trên nhiều dataset robot khác nhau bằng một checkpoint duy nhất.
Stage II — counterfactual post-training: nhiễu SE(3) vào điểm cuối của quỹ đạo đã ghi để tạo hành động phản thực tế (gần trượt, trượt nắm); vì không có video thật tương ứng, tác giả xây bộ dữ liệu lỗi video do người chú thích (robot, vật thể, tương tác) để huấn luyện embodied video reward model, rồi dùng điểm thưởng này làm hồi tiếp reinforcement learning (DiffusionNFT) ép mô hình sinh tương tác vật lý hợp lý.

Ví dụ đời thường: giống thầy dạy lái không cần thuê thêm học viên hỏng xe — vặn nhẹ tay lái để học viên tập các tình huống "suýt đâm", rồi tự chấm điểm bài tập bằng tiêu chí đã học thay vì đáp án có sẵn.

III. Main Results:

AgiBot benchmark: nDTW cao nhất 0.8772 (recorded) và 0.8831 (counterfactual), vượt EnerVerse-AC, Genie Envisioner, DreamDojo, GE-Sim 2.0; PSNR/SSIM/LPIPS đều tốt nhất.
Tương tác vật lý: reward-guided post-training giảm tỷ lệ lỗi tương tác do người đánh giá từ 48.12% xuống 6.25%, lỗi vật thể từ 31.88% xuống 3.12%, trong khi nDTW không suy giảm.
Hạng 1 world model track tại AgiBot World Challenge 2026 (EWMScore 0.829).
Calibration: cải thiện mean IoU +0.228 (AgiBot) và +0.212 (DROID), thắng PointWorld ở 75.5% episode dù chỉ dùng RGB; giảm sync error từ 7.73 xuống 4.60 px (AgiBot).
Đánh giá chính sách: dự đoán tỷ lệ thành công bám sát đường chéo lý tưởng (y = 1.032x − 0.009, Ctrl-World bị độ lệch lên), cắt MAE từ 12.92 xuống 7.08 pp, Spearman ρ = 0.937.
Reward model: accuracy trung bình 86.33% trên 3 chiều lỗi (embodiment 96.69%, object 79.24%, interaction 83.08%).
Phát hành công khai: calibration cho 153,666 episode (>1,660 giờ) và 44.9K video có chú thích lỗi (30.4K nhãn lỗi).

IV. Conclusion & Future Works:

DreamTrue chứng minh có thể cải thiện đáng kể độ trung thành hành động và tính hợp lý vật lý của world model robot mà không cần thu thập thêm dữ liệu robot thật, nhờ hiệu chuẩn hình học từ dữ liệu đã có và post-training phản thực tế có hồi tiếp từ reward model học từ chú thích người. Mô hình kết quả đủ tin cậy để đánh giá chính sách robot trước khi thực thi.

Hạn chế: toàn bộ pipeline (điều kiện hành động, generator, reward VLM) hoạt động trong không gian ảnh; khi bị che khuất hoặc thiếu góc nhìn, hệ thống có thể sinh/ước lượng tương tác trông hợp lý về mặt hình ảnh nhưng sai vật lý — hướng tương lai là đưa thông tin hình học/hậu kỳ 3D vào vòng hồi tiếp.

V. Brainstorming Space:

1. Publish Papers:

Kết hợp reward model dựa trên chú thích người với tín hiệu vật lý 3D (depth, kiểm tra va chạm) để hồi tiếp cho world model trong các trường hợp bị che khuất, vượt qua giới hạn đánh giá thuần hình ảnh.
Tự động sinh hành động phản thực tế theo chiến lược (chủ động chọn nhiễu nào để khám phá) thay vì nhiễu SE(3) ngẫu nhiên, để tối đa hóa thông tin học được trong giai đoạn post-training.
Áp dụng pipeline hiệu chuẩn hình học không cần chuỗi chuyên biệt cho dữ liệu robot từ điện thoại/AR giá rẻ, mở đường huấn luyện world model quy mô lớn từ video quay tay.

2. Patent:

Ứng dụng điện thoại điều khiển robot gia đình: người dùng đặt điện thoại ở góc bất kỳ quay robot; ứng dụng tự khớp hình robot thật với mô hình 3D để hiệu chỉnh vị trí camera, sau đó mô phỏng video kết quả của lệnh ("gắp cốc") trước khi robot thực hiện, cảnh báo nếu kẹp sẽ trượt.
Hệ thống kiểm thử chính sách robot trong nhà máy: mô hình thế giới sinh video kết quả của chương trình vận hành mới và tự chấm điểm lỗi vật lý (vật rơi, không có điểm tựa) bằng mô hình thưởng đã học, giúp phát hiện chương trình dễ gây hỏng sản phẩm trước khi chạy thật.
Trợ lý lập trình robot qua mô phỏng phản thực tế trên điện thoại: kỹ thuật viên kéo-thả quỹ đạo tay máy, ứng dụng hiển thị ngay các tình huống suýt thất bại (suýt trượt nắm, va chạm) do mô hình thế giới sinh ra, giúp tinh chỉnh quỹ đạo mà không cần robot vật lý.
Dịch vụ đám mây chấm điểm video robot: các đội robotics tải video thử nghiệm lên; hệ thống dùng reward model học từ chú thích người để báo cáo tỷ lệ lỗi robot/vật thể/tương tác, thay thế kiểm thử thủ công tốn nhân lực.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12468
ArXiv Abstract	https://arxiv.org/abs/2610.12468
PDF Download	https://arxiv.org/pdf/2610.12468.pdf
Github Repository	https://github.com/brave-eai/DreamTrue

15. Memento 3: Model-Based Recursive Self-Improvement through Reflective Rulebooks (35 votes)

Tác giả: Haoyu Zhao, Zhengxu Yu, Zhiyuan He, Meng Fang, Rasul Tutunov, et al.

Xuất bản lúc: 2026-10-08

Tag: Recursive Self-Improvement, World Models, LLM Agents, External Memory, Code as Model, ARC-AGI, Continual Learning, Planning

I. Main Problem:

Tác tử LLM bị đóng băng tham số nên khó học liên tục trong môi trường xa lạ, nơi nó không biết trước đối tượng, quy tắc động lực học hay điều kiện thắng. Trọng tâm bài toán:

Dữ liệu tương tác hữu hạn luôn để lại version space: nhiều chương trình khác nhau cùng khớp mọi chuyển tiếp đã quan sát nhưng dự đoán khác nhau ở trạng thái chưa thấy (ví dụ "hộp dừng ở tường" vs "hộp dừng ở cột 7").
Replay chỉ bác bỏ chương trình mâu thuẫn, không xác định được quy tắc đúng giữa các giả thuyết còn nhất quán.
Cam kết sớm vào một giả thuyết có thể điều hướng khám phá tránh xa bằng chứng bác bỏ nó.
Cần một cơ chế để tác tử tự sửa đổi "hiểu biết về thế giới" (world model) mà không cập nhật trọng số LLM.

II. Main Idea:

Code as Model: tác tử duy trì một rulebook bằng ngôn ngữ tự nhiên (bộ nhớ ngữ nghĩa dài hạn) ghi lại các giả thuyết có thể sửa đổi về đối tượng, động lực học, mục tiêu — phần chưa quan sát được cố tình để trống. Rulebook được biên dịch thành code thực thi làm mô hình thế giới cho dự đoán và lập kế hoạch. Vòng học liên tục 5 giai đoạn, LLM luôn đóng băng (phi_{t+1} = phi_t):

Observation: ghi nhận kết quả hành động vào lịch sử tương tác H_t
Reflection: LLM chọn giữa retain / revise_rulebook / repair_code khi dự đoán lệch
Rule revision: sửa giả thuyết ngôn ngữ (ghi nhận thay đổi hiểu biết)
Compilation: sinh code mô phỏng từ rulebook (thi hành cách áp dụng quy tắc)
Verification: chấp nhận chỉ khi LLM kiểm tra code trung thực với rulebook VÀ replay từng ô (cell-exact) tái hiện đúng mọi chuyển tiếp đã quan sát

Đây là lối tiếp cận model-based recursive self-improvement (RSI): rulebook và code vừa là đối tượng được sửa, vừa là công cụ thu thập bằng chứng cho vòng sửa tiếp theo. Mở rộng population: duy trì N cặp rulebook–code song song, chia sẻ cùng lịch sử tương tác, mỗi episode chọn ngẫu nhiên một mô hình để lập kế hoạch và dùng kết quả kiểm tra tất cả.

Ví dụ đời thường: giống người chơi đang khám phá trò chơi mới ghi chép sổ tay luật chơi bằng lời, rồi tự viết lại thành chương trình mô phỏng trên giấy — chỉ cập nhật sổ tay khi mô phỏng chạy lại trùng khớp tuyệt đối mọi nước đi đã thử, còn bộ não của người chơi thì không đổi.

III. Main Results:

ARC-AGI-3: tác tử đơn mô hình qua tất cả màn của cả 25 game công khai, đạt RHAE trung bình 100.0 (trần tối đa), chỉ dùng 44% số hành động của con người.
So với Claude Opus 5 cùng ARC Prize Standard harness: cao hơn 59.3 điểm RHAE trung bình.
Atari Pong (nghiên cứu tình huống): world model đã học điều khiển phản hồi thắng 21:0 trong cả 3 episode với các kiểu mở đầu khác nhau, không cần thêm lời gọi LLM nào khi thực thi.
Ablation có định hướng kiểm chứng riêng vai trò của rulebook và của mở rộng population.

IV. Conclusion & Future Works:

MEMENTO3 mở rộng dòng Memento từ bộ nhớ chính sách/skill sang bộ nhớ ngữ nghĩa của world model, cho thấy RSI model-based khả thi: tác tử tự khám phá, tự sửa rulebook và code, dùng bản cập nhật đã xác minh để học tiếp mà LLM nền không đổi. Điểm mấu chốt là chấp nhận giả thuyết dựa trên execution (replay chính xác) thay vì độ tự tin của LLM. Hướng mở rộng tiềm năng: cân bằng thăm dò giữa nhiều giả thuyết nhất quán trong population, áp dụng cho môi trường ngẫu nhiên và điều khiển liên tục rộng hơn.

V. Brainstorming Space:

1. Publish Papers:

Kết hợp mở rộng population với thăm dò chủ động có định hướng: các mô hình song song cố tình chọn hành động nhằm phân biệt (falsify) lẫn nhau thay vì chỉ đồng thuận với bằng chứng chung.
Mở Code as Model cho môi trường stochastic (POMDP không xác định): rulebook ghi phân phối chuyển tiếp và replay xác suất thay vì replay cell-exact.
Chuyển world model đã học thành bộ điều khiển phản hồi liên tục (như case Pong) cho tác vụ robot vật lý, thực thi hoàn toàn không LLM.
Nghiên cứu thang đo rulebook ngắn gọn như bias minimum-description-length: khi nào ưu tiên conciseness giúp và khi nào làm lệch khái quát hóa sai.
Nâng cấp trạng thái học ngoài Z_t = (H_t, psi_t, theta_t) bằng bộ nhớ kỹ năng của Memento-Skills để tái sử dụng rulebook/đoạn code đã học qua các môi trường tương tự.

2. Patent:

Trợ lý game thông minh trên điện thoại: app tự chơi thử game mới, ghi sổ tay luật chơi bằng ngôn ngữ thường, biên dịch thành mô phỏng và tự kiểm chứng bằng cách chạy lại từng nước đi đã thử trước khi đưa gợi ý nước đi tối ưu cho người chơi.
Hệ thống hướng dẫn thao tác phần mềm mới cho nhân viên văn phòng: tác tử tự bấm thử các nút trong ứng dụng xa lạ, xây dựng 'sổ tay quy tắc giao diện' có thể sửa đổi, rồi lập kế hoạch hoàn thành tác vụ nhiều bước với số thao tác ít hơn người làm thủ công.
Robot gia đình thích nghi đồ vật mới: mỗi khi gặp thiết bị lạ (máy giặt, lò vi sóng kiểu mới), robot thử vài thao tác an toàn, cập nhật rulebook động lực học và lưu code mô phỏng đã xác minh để vận hành nhanh mà không cần kết nối mô hình lớn trong lúc dùng.
Công cụ kiểm thử tự động cho game/app: duy trì nhiều giả thuyết luật nghiệp vụ song song, dùng lượt chơi thử để loại dần các mô hình sai qua cơ chế replay kiểm chứng, tự động phát hiện hành vi bất thường so với tài liệu.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.11794
ArXiv Abstract	https://arxiv.org/abs/2610.11794
PDF Download	https://arxiv.org/pdf/2610.11794.pdf
Github Repository	N/A

16. TestPrism: Rethinking Test Evaluation Beyond a Single Reference (34 votes)

Tác giả: Han Li, Lingxiang Hu, Jiacheng Huang, Ziqian Jiang, Jingkai Luo, et al.

Xuất bản lúc: 2026-10-08

Tag: LLM Coding Agents, Test Generation, Benchmark, Software Testing, Code Evaluation

I. Main Problem:

Việc đánh giá test tự động sinh bởi LLM coding agents (Codex, Claude Code...) hiện nay chủ yếu dựa vào tiêu chí single reference: test phải fail trên code ban đầu và pass trên một nghiệm tham chiếu duy nhất. Cách này có hai khiếm khuyết nghiêm trọng:

Bỏ qua các cách cài đặt đúng khác — test có thể pass tham chiếu nhưng reject các implementation hợp lệ
Không phát hiện được implementation sai — test thiếu hành vi kiểm tra nên vẫn accept các patch lỗi

Hệ quả: chất lượng test bị đánh giá quá cao — trên TestPrism, success rate single reference đạt 59.67% nhưng tiêu chí nghiêm ngặt hơn chỉ còn 28.00%.

II. Main Idea:

TestPrism: benchmark gồm 300 tác vụ từ 17 nguồn, 6 ngôn ngữ lập trình; mỗi tác vụ có panel ẩn gồm 1 tham chiếu + 4 valid + 5 invalid implementations đã được xác minh. Metric chính Joint Success Function (JSF) yêu cầu test: fail trên trạng thái ban đầu, chấp nhận mọi valid và loại mọi invalid — single reference chỉ là trường hợp đặc biệt yếu nhất.

TestHelix — phương pháp cải thiện test gồm ba thành phần:

Heterogeneous synthesis: mỗi agent độc lập sinh một cặp test + repair với chiến lược khám phá khác nhau
Peer cross validation: chạy chéo test của agent này trên repair của agent khác, có semantic review và phản hồi sửa lỗi — lỗi mà một cặp test-repair duy nhất không tự phát hiện được
Recursive self improvement (RSI): vòng lặp tự cải thiện chiến lược sinh test dựa trên phản hồi thực thi

Ví dụ đời thường: giống việc chấm thi không chỉ đối chiếu với một bài mẫu, mà phải chấm cả một lớp bài làm — chấp nhận mọi lời giải đúng dù cách trình bày khác nhau và loại mọi lời giải sai; TestHelix thì như có nhiều giám khảo tự chấm chéo bài nhau để bắt lỗi của từng người.

III. Main Results:

JSF cao nhất của các baseline chỉ 28.00% trong khi single reference đạt 59.67% — gap cho thấy single reference che giấu nhiều lỗi test.
Model dẫn đầu: Claude Fable 5.1 (28.00%), theo sau Kimi K3 (24.67%), GPT 5.6 (23.33%); GLM 5.3 reject tốt nhưng accept kém — chỉ reject không đủ.
Coverage tương quan mạnh với JSF (Pearson r = 0.91–0.96).
Mở rộng panel candidate làm JSF giảm dần (49.33% → 24.33%), chứng tỏ test có lỗi bị che bởi panel nhỏ.
Phân tích 286 trajectory thất bại: 50.0% faulty checks (assertion yếu/sai tiêu chí), 34.6% coverage gaps (thiếu input quan trọng), 15.4% execution logic errors.
TestHelix cải thiện JSF +11.67 đến +12.00 điểm phần trăm so với native agents; peer cross validation đóng góp hơn 6 điểm, RSI thêm ~4.5 điểm — cải thiện cách sinh và kiểm test hiệu quả hơn là chỉ tăng số cặp sinh ra.

IV. Conclusion & Future Works:

TestPrism cho thấy đánh giá test qua một nghiệm tham chiếu duy nhất là không đủ và làm thổi phồng chất lượng test của cả các frontier models. JSF cung cấp thước đo độ tin cậy động qua nhiều implementation, và TestHelix chứng minh rằng workflow sinh-kiểm test (synthesis đa dạng + cross validation + RSI) là mục tiêu cải thiện hiệu quả với base model cố định. Hướng tương lai hợp lý: mở rộng quy mô panel candidate, tinh chỉnh RSI cho tiêu chí JSF trực tiếp (hiện tối ưu RAR), và áp dụng phương pháp cho các môi trường thực thi phức tạp hơn.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng TestPrism cho các tác vụ đa module/lớn hơn với panel candidate lớn hơn (15+ implementations) để đo độ ổn định của JSF theo quy mô panel.
Nghiên cứu tối ưu RSI trực tiếp trên Joint Success Function thay vì proxy RAR, kết hợp reward dạng hiệu quả ngân sách suy luận cố định.
Phân tích sâu cơ chế lỗi assertion sai (wrong criteria) — nhóm lỗi chiếm 50% — để thiết kế kỹ thuật kiểm chứng semantic của assertion tự sinh.
Áp dụng tư tưởng peer cross validation cho bài toán sinh code (không chỉ sinh test): các agent code chéo-kiểm lẫn nhau trước khi nộp patch.

2. Patent:

Hệ thống kiểm thử tự động cho ứng dụng di động: thay vì so sánh ứng dụng với một bản mẫu duy nhất, hệ thống tự sinh nhiều bản cài đặt đúng và sai của tính năng, rồi chấm bộ test của nhà phát triển dựa trên khả năng chấp nhận mọi bản đúng và loại mọi bản sai trước khi phát hành.
Công cụ tự động viết và sửa unit test trong IDE trên điện thoại/máy tính bảng: nhiều tác tử AI độc lập sinh các cặp test+sửa-code, kiểm chéo test của nhau bằng cách chạy trên bản sửa của tác tử khác, tự sửa test sai và gợi ý bộ test hợp nhất cho lập trình viên.
Nền tảng chấm bài lập trình trực tuyến: thay vì chỉ đối chiếu output với đáp án mẫu, hệ thống dựng bảng gồm nhiều lời giải đúng khác nhau và nhiều lỗi sai điển hình, chấm bài thí sinh qua tiêu chí 'chạy đúng với mọi lời giải đúng, fail với mọi lỗi sai' để tránh chấm nhầm code đúng hoặc bỏ sót code sai.
Dịch vụ CI/CD tự cải thiện test suite theo thời gian: mỗi lần build, hệ thống tự sinh thêm các biến thể hợp lệ/mâu thuẫn của code, ghi lại kết quả chạy test, và tự tinh chỉnh chiến lược sinh test qua vòng lặp học từ phản hồi mà không tăng chi phí chạy.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12289
ArXiv Abstract	https://arxiv.org/abs/2610.12289
PDF Download	https://arxiv.org/pdf/2610.12289.pdf
Github Repository	N/A

17. Post-Training Frontier Text-to-Image Models by Composing Preference and Rubric Rewards (29 votes)

Tác giả: Yuanhao Ban, I-Hung Hsu, Anastasios Angelopoulos, Wei-Lin Chiang, Ion Stoica, et al.

Xuất bản lúc: 2026-10-02

Tag: Text-to-Image, Reinforcement Learning, Reward Modeling, RLHF, Diffusion Models, Preference Optimization, Reward Hacking

I. Main Problem:

Các mô hình text-to-image mạnh nhất vẫn còn dư địa cải thiện qua post-training, nhưng không có một tín hiệu reward nào đơn lẻ nắm bắt trọn vẹn sở thích con người:

Preference reward (kiểu PickScore, HPS) nắm được cái đẹp chung nhưng mù với các yêu cầu chi tiết của prompt (thiếu object, sai ràng buộc).
Rubric reward chi tiết nhưng hẹp, dễ bị mô hình khai thác lỗ hổng (reward hacking) — ví dụ tự thêm chữ vụn, hoặc trôi về phong cách photorealism dù prompt yêu cầu hoạt hình.
Cộng trọng số naïve các reward khác thang đo dẫn đến nhiễu xung đột, tối ưu không ổn định; thực tế reward tăng mà chất lượng ảnh nhanh chóng bão hòa rồi giảm.

II. Main Idea:

Kết hợp (compose) hai họ reward bổ trợ nhau thay vì chọn một:

Preference reward: mô hình Bradley–Terry tự huấn luyện trên ~5 triệu phiếu bầu pairwise thật từ Arena leaderboard (backbone Qwen3.6-27B), nắm thẩm mỹ tổng thể.
Rubric rewards: checklist câu hỏi có/không do LLM phân rã prompt, VLM chấm điểm, gồm:
- faithfulness — đủ nội dung prompt yêu cầu (182k câu hỏi / 10k prompt)
- constraint (có gating theo intent) — phạt chi tiết thừa khi người dùng muốn bám sát prompt
- anti-reward-hack detectors — phát hiện chữ vụn, trôi phong cách so với ảnh base model
Bốn cơ chế tích hợp: (1) chuẩn hóa từng trục reward riêng (GDPO-style) về cùng thang; (2) gating theo prompt — constraint chỉ bật với prompt 'strict', detector chỉ bật khi failure mode liên quan; (3) veto một chiều — detector không cộng điểm mà chỉ xóa phần thưởng preference dương khi phát hiện hack, nên không tạo mục tiêu mới để exploit; (4) weight ensembling: nấu soup bình quân 2 LoRA delta từ 2 recipe khác nhau.

Quy trình 3 giai đoạn: train Stage 1 → audit failure để thiết kế detector → train Stage 2 → soup Stage 1+2.

Ví dụ đời thường: giống một cuộc thi ảnh có hội đồng giám khảo đông đảo chấm điểm cảm tính (preference), kèm một checklist chi tiết kiểm từng yêu cầu đề bài (rubric); nếu phát hiện thí sinh gian lận thì bài bị phủ quyết mất điểm thưởng chứ không phải bị cộng thêm điểm 'trung thực' — nên không ai học cách lách luật để ăn điểm phần chấm gian lận.

III. Main Results:

Arena leaderboard (thật, blind human eval): Flux.2-dev post-trained tăng +69 Elo (1132.8 → ~1202 với soup); Ideogram-4 post-trained đạt Elo 1223.5, vượt mọi model open-source (hơn bản base tốt nhất 19.5 điểm), snapshot 4/9/2026.
Win rate trên 1k prompt validation (judge Gemini-3.5-flash): Stage 3 soup đạt 0.660 (Arena RM) / 0.626 (PickScore), so với 0.507/0.461 của preference-only và 0.589/0.577 của Arena-T2I-Hard; cả hai judge (kể cả GPT-5.4 độc lập) đều xác nhận.
Ablation: intent-gating constraint +4–6 điểm win rate; veto một chiều thắng rõ công thức cộng điểm (0.635 vs 0.526); cross-recipe soup thắng same-run soup.
Scaling law của reward model: win rate tăng theo dữ liệu vote — 10K → 0.537, 100K → 0.607, 500K → 0.611, 5.6M → 0.642.
Tái hiện được một phần với tập mở: tập 1K prompt công bố (Arena-T2I-Training) + PickScore public đạt win rate 0.615 ở Stage 3, gần kết quả full 10K.

IV. Conclusion & Future Works:

Kết luận chính: preference learning quy mô lớn và đánh giá rubric tường minh không phải hai hướng cạnh tranh — kết hợp chúng (kèm chuẩn hóa, gating theo prompt, veto chống hack, soup trọng số) tạo ra một công thức post-training không cần tinh chỉnh siêu tham số (mọi trọng số reward đều đặt = 1) mà vẫn cải thiện đều các base model mạnh dưới đánh giá người thật. Nguyên lý này là đường mở rộng cho post-training các mô hình generative frontier sau này. Hạn chế tự nêu: chỉ thử 2 base model, chưa kiểm tra trong agentic workflow, checklist chưa audit bởi người, chỉ 1 random seed.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng công thức compose reward sang các họ base model và quy mô khác (kiểm chứng tính tổng quát), đồng thời đánh giá trong các pipeline agentic đa bước với tool use.
Nghiên cứu cách tự động phát hiện và thiết kế anti-reward-hack detector theo vòng lặp (tự audit failure mode mới nổi thay vì thủ công như Stage 2 hiện tại).
Kết hợp rubric reward với reward cho khả năng hiểu không gian, render văn bản và OCR để post-training đồng thời nhiều kỹ năng chuyên biệt mà không làm suy giảm lẫn nhau.
Mở rộng bộ dữ liệu Arena-T2I-Training và phân tích scaling law của preference data ở quy mô lớn hơn 5.6M phiếu bầu.

2. Patent:

Hệ thống chỉnh ảnh tự động trên điện thoại: ứng dụng tạo ảnh theo prompt người dùng, sau đó một mô-đun chấm điểm preference kết hợp checklist kiểm tra từng yêu cầu trong prompt (đủ object, đúng phong cách, không thêm chi tiết thừa) tự tạo lại ảnh tốt hơn mà không cần người dùng chỉnh tay.
Bộ lọc chống 'gian lận' cho mô hình tạo ảnh trong app mạng xã hội: module phát hiện chữ vụn tự sinh hoặc lệch phong cách so với yêu cầu, tự động phủ quyết và tạo lại ảnh trước khi đăng, đảm bảo ảnh đúng ý người dùng.
Trợ lý thiết kế quảng cáo trên điện thoại: người dùng mô tả ngắn, hệ thống mở rộng prompt, tạo ảnh, rồi chấm theo cả điểm thẩm mỹ tổng thể lẫn checklist tuân thủ brief (màu sắc thương hiệu, không thêm yếu tố ngoài thương hiệu) và tự chọn ảnh tốt nhất gửi khách hàng.
Dịch vụ nâng cấp mô hình tạo ảnh dạng API cho doanh nghiệp: nhận mô hình base của khách, fine-tune bằng pipeline gồm reward preference huấn luyện trên phiếu bầu thật cộng rubric reward có gating theo mức độ 'bám sát prompt' của từng yêu cầu, rồi gộp trọng số nhiều lần chạy để trả về model vượt base.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.02967
ArXiv Abstract	https://arxiv.org/abs/2610.02967
PDF Download	https://arxiv.org/pdf/2610.02967.pdf
Github Repository	N/A

18. Foundations of Large Language Models (27 votes)

Tác giả: Tong Xiao, Jingbo Zhu

Xuất bản lúc: 2026-10-08

Tag: LLMs, Pre-training, Transformers, Self-Supervised Learning, Prompting, Chain-of-Thought, RLHF, Alignment, Inference Optimization, Reasoning

I. Main Problem:

LLM đã trở thành một trong những tiến bộ cách mạng nhất của AI, nhưng nắm được chúng đòi hỏi hiểu cả chuỗi kỹ thuật từ pre-training, sinh văn bản, prompting, alignment đến inference và reasoning — trong khi tài liệu kỹ thuật thường phân tán và giả định người đọc đã rõ về Transformer. Cuốn sách lấp khoảng trống này bằng một giáo trình tập trung vào nền tảng thay vì dàn trải mọi phương pháp mới nhất, tự chủ từng chương để người có nền machine learning/NLP cơ bản đọc được, kể cả khi chưa sâu về kiến trúc mạng.

II. Main Idea:

Cuốn sách trình bày chu trình sống đầy đủ của LLM qua 6 chương tự chủ, đi từ trong ra ngoài:

Ch1 — Pre-training: học tự giám sát (masked language modeling, với ví dụ điển hình BERT); ba họ mô hình decoder-only, encoder-only, encoder-decoder
Ch2 — Generative Models: mô hình decoder-only dạng GPT, huấn luyện quy mô lớn, scaling laws, xử lý chuỗi dài
Ch3 — Prompting: in-context learning, chain-of-thought, phân rã bài toán, tự cải thiện, ensemble, RAG và dùng công cụ, soft prompt
Ch4 — Alignment: tinh chỉnh theo chỉ dẫn, học tăng cường từ phản hồi người dùng (RLHF) với mô hình thưởng, tối ưu ưu tiên trực tiếp (DPO), sinh dữ liệu ưu tiên tự động, alignment lúc inference
Ch5 — Inference: khung hai giai đoạn prefilling/decoding, giải mã, prefix caching, batching, song song hóa, mở rộng tính toán lúc inference
Ch6 — Reasoning: lấy mẫu nhiều đường suy luận, chiến lược tìm kiếm và kiểm chứng, học để suy luận, đánh giá mô hình suy luận

Ví dụ đời thường: giống như xây một ngôi nhà — đổ móng trước (pre-training), dựng khung (mô hình sinh), lắp cửa sổ theo yêu cầu của người ở (prompting), hoàn thiện theo gu chủ nhà (alignment), rồi hướng dẫn cách dùng nhà tiết kiệm điện nước (inference) và cách xử lý sự cố (reasoning).

III. Main Results:

Đây là giáo trình nên kết quả là hệ thống kiến thức được đóng gói:

6 chương tự chủ phủ trọn pipeline LLM từ dữ liệu thô đến suy luận
Ví dụ end-to-end với BERT: huấn luyện masked language modeling, mở rộng mô hình lớn hơn, hiệu quả hơn, đa ngôn ngữ, rồi thích ứng cho tác vụ
Bảng so sánh ba họ pre-training về mục tiêu huấn luyện, kiến trúc và ứng dụng
Hệ thống hóa giải pháp chuỗi dài: tối ưu phần cứng, kiến trúc hiệu quả, cache/bộ nhớ, chia sẻ giữa heads và layers, nội suy vị trí
Trình bày đầy đủ nhánh alignment từ tinh chỉnh có giám sát, RLHF đến DPO và alignment lúc inference
Tài nguyên bổ sung mở trên GitHub cho nền tảng sequence modeling và attention

IV. Conclusion & Future Works:

Thông điệp cốt lõi: tri thức về thế giới và ngôn ngữ có thể học được qua nhiệm vụ language modeling quy mô lớn, tạo ra một mô hình nền tảng duy nhất xử lý đa dạng bài toán. Phương pháp luận NLP vì thế chuyển từ 'huấn luyện hệ thống chuyên biệt từ đầu bằng dữ liệu gán nhãn lớn' sang pre-training quy mô lớn rồi fine-tune, align và prompt. Cuốn sách cố tình dừng ở nền tảng; phần mở rộng nằm ở tài nguyên NLPBook lớn hơn. Các câu hỏi còn mở được nêu: suy luận bên ngoài vs. bên trong, ghi nhớ vs. suy luận, và liệu LLM có thật sự suy luận được.

V. Brainstorming Space:

1. Publish Papers:

Thực nghiệm đồng quy mô so sánh ba họ pre-training (decoder-only, encoder-only, encoder-decoder) bằng scaling laws thống nhất, mở rộng bảng so sánh lý thuyết của Ch1 bằng số liệu thật.
Nghiên cứu hệ thống về mở rộng tính toán lúc inference: đo hiệu quả chi phí của mở rộng ngữ cảnh, tìm kiếm, ensemble và sinh-kiểm chứng đường suy luận trên nhiều họ mô hình.
Phân tích ranh giới ghi nhớ vs. suy luận trong mô hình reasoning: xác định khi nào tăng tính toán lúc inference tạo ra suy luận mới thay vì truy xuất mẫu đã học.
Đánh giá khả năng khái quát hóa từ mô hình yếu lên mô hình mạnh (weak-to-strong) khi khoảng cách năng lực giữa mô hình hướng dẫn và mô hình được hướng dẫn tiếp tục tăng.

2. Patent:

Trợ lý soạn thảo trên điện thoại: người dùng gõ vài gạch đầu dòng ý chính, ứng dụng dùng kỹ thuật phân rã bài toán kết hợp suy luận từng bước để viết thành email hoặc tin nhắn hoàn chỉnh ngay trên máy.
Hệ thống tăng tốc trả lời của trợ lý ảo di động: lưu lại phần đầu các câu hỏi lặp lại (như khái niệm prefix caching trong sách) để tái sử dụng, giúp câu trả lời hiện nhanh hơn mà không phải tính lại từ đầu mỗi lần.
Ứng dụng cá nhân hóa trợ lý theo gu người dùng qua lựa chọn A/B đơn giản: mỗi lần người dùng chọn câu trả lời này hay câu trả lời kia, hệ thống tự điều chỉnh theo hướng được chọn mà không cần huấn luyện lại toàn bộ mô hình.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2501.09223
ArXiv Abstract	https://arxiv.org/abs/2501.09223
PDF Download	https://arxiv.org/pdf/2501.09223.pdf
Github Repository	https://github.com/NiuTrans/NLPBook

19. SparseDecoding: Decoding-Aware Pruning for Accurate and Efficient LLM Inference (27 votes)

Tác giả: Qitong Wang, Xinwei Niu, Mingluo Su, Shanwei Zhao, Shiai Zhu, et al.

Xuất bản lúc: 2026-10-08

Tag: LLM Inference, Model Pruning, Sparsity, SparseGPT, Kernel Optimization, Sparse Matrix-Vector Multiplication, Efficient Inference

I. Main Problem:

Các phương pháp cắt tỉa (pruning) không cần huấn luyện lại cho LLM hiện nay (kiểu SparseGPT/Wanda) tính ma trận Hessian từ văn bản cố định trong tập calibration (ví dụ C4) theo kiểu teacher-forcing. Nhưng khi suy luận thực tế, model tự sinh token, nên phân phối activation lệch dần so với lúc calibration:

Sai lệch activation tăng rất nhanh trong 12 bước decode đầu rồi chững lại ở mức cao, làm model đã cắt tỉa hoạt động kém đi trọng tâm chính của nó là sinh văn bản dài.
Ngoài ra, kernel 2:4 Sparse Tensor Core (cuSPARSELt) chỉ tối ưu cho SpMM (prefill), trong khi decode bị chi phối bởi SpMV — kết quả là nhanh hơn dense 1.31–1.46× ở prefill nhưng chậm hơn dense (0.85–0.87×) khi decode, nên tỉa xong vẫn không có speedup thực tế.

II. Main Idea:

SparseDecoding gồm hai trục:

Trục thuật toán (decoding-aware calibration): thay vì chạy văn bản cố định qua model, cho model dense tự sinh token từ prompt của tác vụ (LongWriter cho viết, LiveCodeBench cho code), chỉ giữ lại activation của các bước decode, vứt phần prefill, rồi dựng ma trận calibration từ đó. Hessian và mục tiêu tái cấu trúc layer-wise (OBS/SparseGPT) giờ khớp đúng với trạng thái activation mà model gặp khi generate. Solver cắt tỉa không đổi, không cần huấn luyện thêm.
Trục hệ thống (N:M SpMV kernel): kernel chuyên cho decode dùng bitmask indexing (mỗi cột chỉ 1 bit, 32 bit đóng gói thành một từ; metadata giảm 16× so với int32) và fixed-step traversal (với mật độ 50%, mỗi từ mask luôn có đúng 16 bit bật nên số bước duyệt cố định, workload đều giữa các thread GPU, vòng lặp unroll được ở compile-time).

Ví dụ đời thường: giống như luyện lái xe không bằng cách ngồi xem video người khác lái (teacher-forcing), mà tự cầm vô-lăng chạy thử đúng con đường mình sẽ đi — và chiếc xe được điều chỉnh để chạy êm đúng cung đường đó.

III. Main Results:

WritingBench: SparseDecoding thắng C4 calibration ở mọi model và mức sparsity. Đáng chú ý ở 2:4 — Qwen3-14B tăng từ 1.85 lên 4.18, Qwen3-32B từ 2.99 lên 5.31 (trong khi Llama-3.1-8B: 1.34→1.52, Llama-3.3-70B: 3.10→3.29).
ClassEval (code): thắng 4–15 điểm Pass@1 ở cả 8 cặp model-sparsity; ở 2:4, C4 cho 0.0% trên Llama-3.1-8B và Qwen3-14B còn SparseDecoding phục hồi được 4% và 6%.
Tốc độ decode thực tế (A100): speedup end-to-end 1.34–1.48× trên cả 4 model, đồng đều cho mọi pattern N:M từ 2:4 đến 16:32 — ngược hẳn với đường Sparse Tensor Core chậm hơn dense.
Ablation: calibration self-generated tốt hơn cross-model (5.35 vs 5.23 trên Qwen3-14B, 50% sparsity); kết quả giữ nguyên khi đổi backend sang Wanda — lợi ích đến từ activation calibration chứ không phải solver.

IV. Conclusion & Future Works:

Việc căn chỉnh mục tiêu cắt tỉa với activation thời điểm decode (thay vì văn bản cố định) là yếu tố then chốt để giữ chất lượng sinh dài sau pruning mà không cần huấn luyện lại, kết hợp kernel N:M SpMV bitmask để biến sparsity thành speedup tường tính thực (tới 1.48× trên A100). Hướng mở: mở rộng cho các mức sparsity cao hơn 50%, tích hợp với chiến lược calibration chủ động chọn prompt, và tổng quát hóa kernel cho phần cứng khác ngoài A100.

V. Brainstorming Space:

1. Publish Papers:

Phân tích lý thuyết sâu hơn về độ lệch phân phối giữa mục tiêu calibration dạng teacher-forcing và mục tiêu decode-time (mở rộng Theorem A.1), kèm tiêu chuẩn chọn prompt calibration tối ưu cho từng tác vụ.
Kết hợp decoding-aware calibration với quantization sau huấn luyện (PTQ) để cắt tỉa + lượng tử hóa đồng thời, kiểm tra xem lợi ích có cộng gộp được khi cả hai đều nhạy với dữ liệu calibration.
Thiết kế kernel SpMV thích ứng cho sparsity không cấu trúc (unstructured) ở mật độ cao hơn 50%, vượt ra ngoài pattern N:M bán cấu trúc hiện tại.

2. Patent:

Hệ thống cắt tỉa model AI trên điện thoại: trước khi nén, model gốc tự sinh một đoạn văn bản mẫu trên chính thiết bị; chỉ dùng phần activation do model tự tạo ra khi tạo token để quyết định trọng số nào bị xóa, giúp model nhỏ giữ đúng chất lượng khi viết dài trên máy người dùng.
Thư viện tính toán thưa cho chip di động: lưu vị trí trọng số không bằng chỉ số cột 32-bit mà bằng chuỗi bit (mỗi cột 1 bit), kèm cơ chế duyệt cố định số bước cho mỗi hàng, giúp LLM chạy nhanh hơn khi sinh từng từ một mà tốn ít bộ nhớ metadata.
Dịch vụ tối ưu hóa model theo tác vụ trên đám mây: khách hàng gửi prompt mẫu của ứng dụng (viết báo cáo, sinh code), hệ thống cho model tự generate để thu thập activation decode, cắt tỉa theo dữ liệu đó và trả về model nhẹ chạy nhanh hơn nhưng đúng 'gu' ứng dụng của khách.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12327
ArXiv Abstract	https://arxiv.org/abs/2610.12327
PDF Download	https://arxiv.org/pdf/2610.12327.pdf
Github Repository	N/A

20. OneSearch-VL: Unified Multimodal Deep Research Agent for Image and Video (24 votes)

Tác giả: Hongyu Li, Manyuan Zhang, Kaituo Feng, Shu Chen, Dian Zheng, et al.

Xuất bản lúc: 2026-10-08

Tag: Multimodal Agents, Deep Research, Vision-Language Models, Reinforcement Learning, Tool Use, Video Understanding, RAG

I. Main Problem:

Nghiên cứu sâu (deep research) đa phương thức — từ ảnh đơn, bộ ảnh đến video — đòi hỏi mô hình tự xác định manh mối thị giác, tìm kiếm tri thức bên ngoài và tổng hợp bằng chứng qua nhiều lượt dùng công cụ. Thách thức cốt lõi:

Các phương pháp trước không lưu giữ đồng thời chuỗi phụ thuộc từ vùng thị giác đã định vị → quan hệ thực thể → sự kiện có nguồn hỗ trợ → phép toán tạo ra câu trả lời.
Video-centric pipelines chỉ dùng thực thể/key-frame làm hạt giống truy vấn, bỏ qua nguồn gốc đầu-cuối (end-to-end provenance).
Benchmark hiện tại chỉ báo cáo độ chính xác tổng hợp, không tách được lỗi ở bước tra cứu thực thể, truy quan hệ hay tổng hợp dữ kiện.

II. Main Idea:

Visually Grounded Evidence Graph (VGEG) — đồ thị bằng chứng gắn thị giác — là cấu trúc tham chiếu cấp nhiệm vụ thống nhất cho cả ba loại đầu vào (ảnh đơn, bộ ảnh, video). VGEG gồm 4 thành phần:

A: các anchor thị giác đã định vị (vùng ảnh, frame, bounding box) gắn với thực thể thế giới thật
F: dữ kiện ngoài được trang web hỗ trợ, lấy qua image search, OCR, text search
O: các phép toán tạo câu trả lời (lookup, multi-hop, join, so sánh, tính toán, đếm)
R: quan hệ grounding và hỗ trợ nguồn kế thừa từ đồ thị bằng chứng đầu vào

Trên nền VGEG, tác giả xây data engine: lọc 2.5M video → 70K, dựng caption tree phân tầng (video→sự kiện→key-frame→đối tượng), nối anchor vào web facts, rồi chiếu có điều kiện thành từng VGEG nhiệm vụ để sinh câu hỏi đã xác minh và expert trajectories (trung bình 10.1 lượt tool). Từ đó tạo OneSearch-VL-SFT-110K và OneSearch-VL-RL-10K, huấn luyện một policy thống nhất (SFT + GRPO) với reward tổ hợp: độ chính xác câu trả lời + chất lượng query + EVGR (Evidence-aware Visual-Grounded Rubric) gồm 2 chiều: evidence traceability (dữ kiện có thực sự được tool trả về hỗ trợ?) và visual grounding (đúng đối tượng/frame/vùng đã được dùng?).

Ví dụ đời thường: giống thám tử làm án phải ghi sổ 'đầu mối — nguồn chứng cứ — suy luận' nối liền nhau: mỗi manh mối nhìn thấy ở hiện trường (frame/video) phải trỏ đúng tới lời khai có nguồn (web), và kết luận cuối phải chỉ ra được đi qua mắt xích nào — không được 'bịa' chứng cứ hay nhìn nhầm đồ vật.

III. Main Results:

Ảnh đơn: OneSearch-VL-8B đạt trung bình 58.3 trên 7 benchmark, hơn Qwen3-VL-8B Agent +16.3 điểm, hơn OpenSearch-VL-8B +1.7 điểm (tốt nhất 6/7 benchmark).
Bộ ảnh & video: hơn Qwen3-VL-8B có tool +20.2 điểm trên OneSearch-MI-Bench, +17.6 trên OneSearch-Video-Bench, +27.0 trên VideoDR (57.0 so với 30.0).
Operation-level: cải thiện cả 6 phép toán nghiên cứu; mạnh nhất ở knowledge-conditioned counting (+29.8), multi-anchor arithmetic (+26.3, +20.0), multi-hop retrieval video (+25.5).
Data mixture: huấn luyện riêng từng loại đạt 51.7–55.1; huấn luyện chung cả ba loại đạt 55.8 — không trade-off giữa các loại đầu vào.
EVGR: nâng trung bình 6 benchmark từ 57.3 (chỉ answer + query reward) lên 61.1; RL chỉ với reward độ chính xác chỉ đạt 56.3.

IV. Conclusion & Future Works:

Thông điệp chính: một cấu trúc bằng chứng thống nhất (VGEG) có thể vừa làm xương sống cho xây dựng dữ liệu, giám sát quá trình RL lẫn đánh giá operation-level, cho phép một policy duy nhất làm deep research trên cả ảnh lẫn video mà không hy sinh hiệu suất nào. Reward theo quỹ đạo (EVGR) quan trọng hơn reward chỉ nhìn kết quả cuối. Các hướng mở: mở rộng VGEG cho nhiều dạng tool phong phú hơn, cải tiến judge của EVGR, và mở rộng taxonomy phép toán nghiên cứu.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng VGEG cho đầu vào đa phương thức ngoài ảnh/video như âm thanh hoặc tài liệu, với anchor thị giác-thời gian-ngôn ngữ trong một đồ thị bằng chứng duy nhất.
Cơ chế tự cải thiện reward: agent tự phản biện quỹ đạo của mình dựa trên VGEG để phát hiện dữ kiện thiếu nguồn trước khi trả lời, thay vì phụ thuộc LLM judge ngoài.
Ứng dụng OneSearch-VL vào nghiên cứu thông tin thời gian thực: đồ thị bằng chứng có nhãn thời gian để xác minh sự kiện diễn ra sau ngày cắt dữ liệu huấn luyện.

2. Patent:

Trợ lý tìm kiếm thông minh trên điện thoại: người dùng chụp một hoặc nhiều ảnh (hoặc quay video ngắn); ứng dụng tự định vị đối tượng trong ảnh, tìm kiếm web về đối tượng đó và trả lời câu hỏi kèm nguồn, đồng thời chỉ rõ vùng ảnh/frame nào là bằng chứng cho từng thông tin.
Ứng dụng xác minh tin tức từ video: quay video sự kiện, hệ thống tự chọn đúng khoảnh khắc chứa chi tiết then chốt, tra cứu nguồn tin cậy và xếp hạng mức độ tin cậy của nội dung video dựa trên mức độ có thể truy vết bằng chứng.
Công cụ học tập bằng hình ảnh: học sinh chụp ảnh bài tập hoặc tranh minh họa, ứng dụng tự suy luận nhiều bước (so sánh, tính toán, đếm số đối tượng trên nhiều ảnh) và giải thích từng bước với bằng chứng thị giác đã đánh dấu trên ảnh.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12419
ArXiv Abstract	https://arxiv.org/abs/2610.12419
PDF Download	https://arxiv.org/pdf/2610.12419.pdf
Github Repository	https://github.com/appletea233/OneSearch-VL

21. LEGO: A Lifting-Free Approach for Exocentric-to-Egocentric Video Generation (24 votes)

Tác giả: Suhwan Cho, Yonwoo Choi, Soongjin Kim, Jicheol Park, Taegyu Lim

Xuất bản lúc: 2026-10-08

Tag: Novel View Synthesis, Video Diffusion, Egocentric Video, View Synthesis Transformer, Diffusion Guidance, Computer Vision

I. Main Problem:

Bài toán: sinh video góc nhìn thứ nhất (egocentric) từ một video quay người khác (exocentric) duy nhất — hai camera gần như không chia sẻ vùng nhìn, nên phần lớn khung hình đích phải được tổng hợp chứ không sao chép được.

Phương pháp state-of-the-art hiện tại (EgoX) đi theo hướng tái tạo 3D tường minh:

ước lượng depth đơn mục từ video
nâng (lift) video thành point cloud
re-render từ quỹ đạo camera egocentric để điều kiện hóa video diffusion model

Nhược điểm cốt lõi: phép ánh xạ này là deterministic — mỗi pixel gán đúng một vị trí tái chiếu, nên lỗi depth biến thành nội dung đặt sai chỗ, sắc nét nhưng sai, và không có tín hiệu nào cho biết chỗ nào sai.

II. Main Idea:

LEGO thay toàn bộ pipeline tái tạo 3D bằng một view synthesizer đã học (transformer kiểu LVSM), render trực tiếp khung hình egocentric mà không cần depth, point cloud hay reprojection. Thành phần chính:

Learned View Synthesizer: transformer LVSM được fine-tune để nhận khung exocentric + ray map Plücker của hai camera và xuất khung egocentric; tương ứng chéo giữa hai view được học thuần từ mục tiêu render. Ánh xạ này là probabilistic: mỗi vùng đích lấy trung bình có trọng số theo phân phối tương ứng đã học → sai số là blur thay vì nội dung sai chỗ.
Triết lý cốt lõi: điều kiện nên đúng cấu trúc trước, sắc nét sau — vì diffusion model qua denoising training rất giỏi phục hồi chi tiết từ ảnh mờ, nhưng rất yếu trong việc sửa nội dung bị đặt sai vị trí. "Condition nói vật nằm ở đâu, generator quyết định chúng trông thế nào."
Confidence gating: độ tập trung của phân phối tương ứng cho một confidence map miễn phí; vùng confidence thấp bị đưa về màu xám trung tính trong điều kiện.
Adaptive Rendering Consistency (ARC): guidance không cần training tại inference — trong các bước denoise đầu (bước quyết định layout), ước lượng ảnh sạch bị kéo về phía render theo trọng số confidence; các bước sau tự do thêm chi tiết.

Ví dụ đời thường: giống như nhờ người chỉ đường mơ hồ nhưng đúng ngã rẽ ("quẹo trái ở cây xăng") thì ta tự lái nốt đoạn còn lại cho mượt — còn chỉ đường sắc nét mà sai lối thì càng nghe càng lạc.

III. Main Results:

Trên Ego-Exo4D (cả seen lẫn unseen): LEGO vượt EgoX trên mọi tiêu chí ảnh và FVD. Seen: PSNR 20.28 vs 16.05, LPIPS 0.310 vs 0.498, FVD 155.6 vs 184.5. Unseen: PSNR 15.91 vs 14.38, LPIPS 0.504 vs 0.552.
Ablation xác nhận giả thuyết: render của synthesizer (mờ nhưng đúng cấu trúc) điều kiện hóa tốt hơn render point cloud (sắc nhưng sai chỗ); ARC chỉ tại inference vượt cả GGA — bias attention cần train của EgoX; gắn ARC vào point-cloud render thậm chí tệ hơn không dùng guidance.
Render synthesizer rẻ hơn hẳn (4.7s vs 9.2s/clip) và đạt độ đúng cấu trúc cao hơn rõ rệt (ZNCC 0.169–0.275 vs 0.034–0.059), dù kém sắc nét hơn — và độ mờ không tồn dư trong output.
Khái quát hóa không cần retrain sang EgoHumans và Nymeria: vượt EgoX† trên mọi metric (ví dụ Nymeria PSNR 15.23 vs 11.64).
Confidence map thực sự có ý nghĩa: vùng có confidence cao có lỗi thấp hơn hẳn trung bình, trên cả seen và unseen.

IV. Conclusion & Future Works:

Thông điệp chính: với conditional video diffusion, điều kiện đúng vị trí quan trọng hơn điều kiện sắc nét — generator tự bù chi tiết tốt hơn nhiều so với khả năng sửa nội dung sai chỗ. LEGO chứng minh điều này bằng một pipeline lifting-free: không depth, không point cloud, không reprojection; confidence có sẵn từ phân phối tương ứng của synthesizer và vận hành cả gating lẫn guidance không cần training (ARC). Thiết kế mô-đun (synthesizer đóng băng, chỉ xuất render + confidence) cho phép thay synthesizer mạnh hơn khi có mà không đụng generator. Hướng mở: nâng cấp synthesizer mạnh hơn, mở rộng sang các cặp view khác và kiểm camera khác nhau.

V. Brainstorming Space:

1. Publish Papers:

Điều kiện hóa diffusion bằng render probabilistic cho các bài toán novel view synthesis cực trị khác (ví dụ drone-to-ground, trong-xe-to-ngoài-xe), kiểm chứng giả thuyết "alignment trước, sharpness sau" ngoài ngữ cảnh exo-to-ego.
Học confidence tự giám sát từ phân phối attention của view synthesizer như một tín hiệu độ tin cậy chung cho điều kiện hóa diffusion, áp dụng cho cả ảnh tĩnh và video.
Kết hợp ARC với các hướng dẫn inference-time khác (camera control, motion prior) trong cùng một khung sampling đa điều kiện cho video generation.

2. Patent:

Ứng dụng điện thoại chuyển video quay người khác thành video góc nhìn thứ nhất: người dùng quay một người đang làm việc (nấu ăn, sửa đồ), ứng dụng trên điện thoại tự tổng hợp video như thể chính người dùng đang thực hiện, dùng cho hướng dẫn, đào tạo kỹ năng.
Hệ thống tạo dữ liệu huấn luyện cho kính thông minh/kính AR: biến kho video quan sát bên ngoài sẵn có thành video góc nhìn đeo kính để huấn luyện các mô hình thị giác thứ nhất mà không cần thu thập dữ liệu đeo kính thật tốn kém.
Module chỉnh góc quay cho video quay từ camera an ninh/sự kiện: người dùng chọn quỹ đạo camera tùy ý, hệ thống sinh lại video theo góc nhìn mong muốn (ví dụ góc nhìn của một nhân vật trong đám đông) phục vụ phân tích sự kiện.
Tính năng "xem theo góc nhìn của tôi" trong video thể thao/trải nghiệm: từ footage quay một vận động viên, ứng dụng di động render video góc nhìn thứ nhất của vận động viên đó để người xem trải nghiệm như đang tự thi đấu.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12442
ArXiv Abstract	https://arxiv.org/abs/2610.12442
PDF Download	https://arxiv.org/pdf/2610.12442.pdf
Github Repository	https://github.com/suhwan-cho/LEGO

22. Reasoning-Informed Visual Editing (21 votes)

Tác giả: Xue Yang, Peiyuan Zhang, Yilun Zhu, Qihao Yang, Mingxin Liu, et al.

Xuất bản lúc: 2026-10-08

Tag: LMMs, Visual Editing, Benchmark, Agentic AI, Multimodal Reasoning, Image Generation

I. Main Problem:

Các Large Multi-modality Models (LMMs) tiến bộ mạnh trong hiểu và tạo ảnh, nhưng chỉnh sửa ảnh theo lý luận (ví dụ: "vẽ đồng xu sau 10 phút ngâm trong dung dịch") vẫn là điểm yếu lớn:

Không theo được hướng dẫn phức tạp yêu cầu suy luận ngầm (thời gian, nhân quả, logic)
Không giữ nguyên được ngoại hình vùng không liên quan của ảnh gốc
Không hỗ trợ đầu vào linh hoạt: đơn ảnh, đa ảnh, đa lượt chỉnh sửa
Thiếu benchmark để đánh giá hệ thống khả năng này — mô hình proprietary như GPT-Image đã thể hiện tốt nhưng không thể đo lường, so sánh.

II. Main Idea:

Bài báo đề xuất RISEBench++, benchmark đầu tiên và toàn diện cho Reasoning-Informed Visual Editing (RISE), kèm RISE-Agent, framework agentic không cần training:

Phân loại phân cấp 3 tầng: 6 chiều lý luận — Temporal (200 mẫu), Causal (200), Spatial (200), Logical (200), Counterfactual (100), Hybrid (100) — tách tiếp thành 12 subcategories, 65 task types; 1,000 test case chú thích thủ công, song ngữ Anh–Trung, hỗ trợ đơn ảnh, đa ảnh, đa lượt
Ba tiêu chí đánh giá: Instruction Reasoning (suy luận đúng yêu cầu), Appearance Consistency (giữ nguyên ảnh gốc), Visual Plausibility (tính chân thực) — dùng cả human judges và LMM-as-a-judge với rubric riêng từng chiều, có reference text/image làm chuẩn
RISE-Agent gồm 3 vai trò hợp tác theo vòng lặp kín:
- Planner: phân tích hướng dẫn, suy luận trạng thái đích, gọi công cụ ngoài (web search, code solver, tìm đường ngắn nhất...) khi cần
- Executor: thực hiện bằng mô hình sinh ảnh + bộ công cụ lập trình (vẽ đường, đổ màu vùng, vẽ đa giác...)
- Verifier: chấm điểm kết quả, quyết định chấp nhận, tinh chỉnh cục bộ hay lập kế hoạch lại

Ví dụ đời thường: giống một thợ photoshop lành nghề — trước khi chỉnh ảnh phải nghĩ trước trong đầu cảnh sẽ trông thế nào dựa trên hiểu biết thế giới (đồng xu ngâm axit sẽ sáng bóng), rồi dùng công cụ để tạo, rồi tự soi lại từng chi tiết và sửa tiếp cho tới khi ưng.

III. Main Results:

Đánh giá 58 phương pháp (34 open-source, 19 closed-source, 5 agentic) — quy mô lớn nhất từ trước tới nay.
Mô hình mạnh nhất, GPT-Image-2.5 Sunburst, chỉ đạt 56.6% accuracy — cho thấy bài toán còn rất khó.
RISE-Agent (không training) vượt đa số mô hình proprietary và các phương pháp agentic hiện có, cạnh tranh với top closed-source.
Open-source cũ (BAGEL, FLUX, OmniGen...) yếu hầu hết tác vụ; Qwen-Image, HunyuanImage thu hẹp khoảng cách đáng kể.
Phân tích lỗi: appearance consistency và visual plausibility đã tốt, còn instruction reasoning là nút thắt chính, đặc biệt ở Logical và Hybrid Reasoning.
LMM-as-a-judge được kiểm chứng tương quan cao với chấm thủ công của chuyên gia con người.
Phiên bản tiền nhiệm RISEBench là bài Oral (Top 0.35%) tại NeurIPS 2025 Datasets & Benchmarks.

IV. Conclusion & Future Works:

RISEBench++ cho thấy nút thắt không nằm ở khả năng tổng hợp ảnh mà ở suy luận trước khi sinh — xác định ảnh nên trông thế nào. RISE-Agent chứng minh phân tách plan–execute–verify theo vòng lặp kín là hướng khả thi mà không cần huấn luyện. Hướng tương lai: mô hình chỉnh sửa tích hợp suy luận ngầm (reasoning-aware editing), cải thiện khả năng suy luận logic và đa lượt dài hạn, và mở rộng đánh giá sang các nhóm mô hình mới liên tục xuất hiện.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng RISEBench++ sang video reasoning-informed editing: đánh giá khả năng suy luận nhân quả và thời gian khi chỉnh sửa video (tiếp nối xu hướng Physics-IQ, RISE-Video) với tiêu chí nhất quán liên frame.
Benchmark cho editing dài hạn nhiều lượt tương tác: người dùng sửa dần theo phản hồi, đo khả năng duy trì nhất quán cảnh qua hàng chục turn thay vì 3–5 turn như Hybrid Reasoning hiện tại.
Nghiên cứu kiến trúc reasoning-native cho editing models: tích hợp chuỗi suy luận ngầm (chain-of-thought) vào quá trình sinh ảnh thay vì dùng agent ngoài, khắc phục bottleneck instruction reasoning ở Logical/Hybrid.

2. Patent:

Ứng dụng chỉnh ảnh trên điện thoại hiểu ngôn ngữ tự nhiên có suy luận: người dùng nói "làm ảnh trông như buổi hoàng hôn" hoặc "vẽ cảnh này 3 giờ sau", ứng dụng tự suy luận ánh sáng, bóng đổ, trạng thái vật thể rồi chỉnh ảnh tương ứng.
Trợ lý sửa ảnh tự động phát hiện bất thường: quét ảnh chụp, nhận diện lỗi giải phẫu (tay sai số ngón), vật thể méo mó hoặc quan hệ vật–bối cảnh phi lý, rồi đề xuất và thực hiện chỉnh sửa khôi phục tự nhiên.
Công cụ chỉnh sửa đa ảnh có suy luận không gian: ghép đối tượng từ ảnh này sang ảnh khác với nhất quán ánh sáng, tỉ lệ, phối cảnh — ví dụ đặt đồ vật ảnh 1 lên bàn trong ảnh 2 với bóng đổ khớp tự động.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12343
ArXiv Abstract	https://arxiv.org/abs/2610.12343
PDF Download	https://arxiv.org/pdf/2610.12343.pdf
Github Repository	https://github.com/VisionXLab/RISEBench

23. Embodied Turing Machines: Stateful Code for Robot Recursive Self-Improvement (20 votes)

Tác giả: Kairui Hu, Siyuan Hu, Fangzhou Hong, Zhaoxi Chen, Ziwei Liu

Xuất bản lúc: 2026-10-08

Tag: Embodied AI, Robotics, Code-as-Policy, Recursive Self-Improvement, VLA, Coding Agents

I. Main Problem:

Các chính sách robot hiện nay đều giữ một mô hình trong vòng lặp điều khiển, gây ra những hạn chế căn bản:

Vision-Language-Action (VLA): ánh xạ quan sát → hành động bị che giấu trong trọng số, không thể kiểm tra hay sửa trực tiếp; mỗi cải tiến đòi hỏi dữ liệu mới và huấn luyện lại.
Agent Harness (Agent-as-Policy, Harness VLA): phần lý luận và bộ nhớ là văn bản trong context của VLM, nhưng VLM/VLA vẫn là hộp đen; mỗi quyết định gọi mô hình gây ngẫu nhiên và chi phí cao theo từng episode.
Code-as-Policy trước đây: mô hình viết code trực tuyến từng lượt (không tái sử dụng), hoặc lấy trạng thái từ mô hình nhận thức/hậu kỳ mô phỏng bên ngoài code.

Hệ quả: hành vi không tái lập, khó khôi phục khi lỗi, và khả năng cải tiến không tích lũy được giữa các tác vụ.

II. Main Idea:

Code-Only-as-Policy (COAP) xem thế giới vật lý như một Embodied Turing Machine: băng (tape) là trạng thái robot + môi trường (tư thế vật thể, quan hệ không gian, góc khớp), còn quy tắc (rules) chính là code. Thành phần chính:

Trạng thái tường minh: code tự đo trạng thái môi trường từ ảnh RGB (chiếu tia camera xuống mặt bàn, khớp hình dạng 3D đã biết) + proprioception; trạng thái lưu trong biến code, có kèm sai số, nguồn đo và thời điểm đo.
Không mô hình tại runtime: code bị đóng băng khi chạy, mọi quyết định suy ra từ trạng thái bằng logic tường minh — hành vi tái lập, chạy nhanh trên CPU, rẻ tiền.
Thư viện dùng chung: 83% code dùng chung giữa các tác vụ; tác vụ mới compose module, inherit và override một quyết định, hoặc thêm tham số default-off để không phá vỡ tác vụ cũ.
Recursive Self-Improvement: coding agent (Claude Opus) cải tiến thư viện offline theo vòng lặp — đọc trạng thái ghi lại từ episode thất bại, đề xuất diff, chạy song song nhiều nhánh, chỉ merge nhánh nào vượt kết quả cũ trên tập validation mà không regression.

Ví dụ đời thường: giống như một người thợ đóng thành sách công thức nấu ăn: thay vì mỗi lần nấu lại gọi điện hỏi đầu bếp (mô hình trong vòng lặp), anh ta ghi công thức rõ ràng ra giấy, đo đạc nguyên liệu bằng cân thước của chính mình, và mỗi lần thất bại lại sửa một dòng trong sổ tay — dần dần quyển sổ ngày càng hoàn thiện và dùng được cho mọi món.

III. Main Results:

Trên RoboDojo (42 tác vụ hai tay), COAP đạt 70.24% success rate, cao hơn +38.9 điểm so với phương pháp tốt nhất hiện có (PhysicalRSI: 31.38%), hơn +40 điểm so với World Action Model mạnh nhất (29.64%) và VLA mạnh nhất (27.96%).
Dẫn đầu cả 5 chiều: Memory 89.9% (+39.6), Precision 75.1% (+41.6), Open instruction 64.1%, Generalization 65.7%, Long-Horizon 56.4% — lợi thế lớn nhất ở các tác vụ cần lưu giá trị hoặc đo lường chính xác, đúng với bản chất trạng thái tường minh.
Chỉ dùng 3 luồng RGB + proprioception + chỉ dẫn ngôn ngữ; không depth, không segmentation, không gọi mô hình tại test time; toàn bộ code do coding agent tự viết và debug, không có người trong vòng lặp.
COAP còn tạo trajectory thành công ổn định và hiệu quả, có thể làm data engine huấn luyện cho VLA/Agent Harness.
Giới hạn: cần một lượng nhỏ logic riêng cho từng tác vụ, nên khả năng khái quát hóa còn hạn chế; trần hiệu suất phụ thuộc độ chính xác của biểu diễn trạng thái và độ vững của logic code.

IV. Conclusion & Future Works:

COAP chứng minh khi trạng thái vật lý có thể đo và biểu diễn đủ chính xác, toàn bộ ra quyết định có thể được viết thành code — không cần VLM/VLA trong vòng lặp điều khiển. Code là môi trường lý tưởng cho recursive self-improvement vì mỗi thay đổi tường minh, kiểm chứng được và tích lũy không regression.

Hướng tương lai (suy luận từ giới hạn đề cập):

Cải thiện độ chính xác của biểu diễn trạng thái và độ vững logic code để nâng trần hiệu suất.
Giảm phần logic riêng của tác vụ, hướng tới khái quát hóa tốt hơn giữa các tác vụ.
Dùng COAP như data engine cung cấp trajectory huấn luyện cho VLAs và Agent Harness.

V. Brainstorming Space:

1. Publish Papers:

Hệ thống RSI nhiều tác tử cho robot thật: vòng lặp coding agent phát triển thư viện COAP trên robot vật lý với kiểm chứng không regression, đối phó nhiễu cảm biến thực thay vì trạng thái mô phỏng sạch.
Nâng cấp tầng nhận thức COAP: tự động hiệu chuẩn camera và ước lượng sai số đo đạc trong code, đẩy trần độ chính xác của trạng thái cho các thao tác đòi hỏi độ chính xác milimet.
COAP làm data engine: sinh trajectory đa dạng, có nhãn trạng thái tường minh để huấn luyện và đánh giá VLAs/World Action Models một cách rẻ và tái lập.

2. Patent:

Hệ điều khiển robot công nghiệp hoàn toàn bằng code không mô hình AI: thư viện chia sẻ đo trạng thái từ camera RGB thường và góc khớp, chạy trên CPU nhúng — giảm chi phí phần cứng, hành vi tái lập, dễ kiểm định an toàn cho nhà máy.
Ứng dụng điện thoại dạy robot gia đình tác vụ mới: người dùng mô tả tác vụ, coding agent trên đám mây sinh và kiểm thử chương trình điều khiển, sau đó nạp xuống robot chạy offline không cần kết nối mạng hay gọi mô hình đám mây.
Hệ thống tự sửa lỗi cho robot bán hàng/phục vụ: mỗi ca chạy được ghi lại trạng thái từng bước; khi thất bại, phần mềm tự đối chiếu trạng thái với mục tiêu, tạo bản vá code, kiểm thử trên mô phỏng và chỉ cập nhật khi không làm hỏng các tác vụ cũ.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12369
ArXiv Abstract	https://arxiv.org/abs/2610.12369
PDF Download	https://arxiv.org/pdf/2610.12369.pdf
Github Repository	N/A

24. What Did the Agent Actually Do? Evidence-Grounded Oversight for Long-Horizon Agents (20 votes)

Tác giả: Zhongxiang Sun, Jiahao Yan, Hongkang Zhao, Haojie Ding, Boheng Zhang, et al.

Xuất bản lúc: 2026-10-05

Tag: LLM Agents, Human Oversight, Monitoring, Software Engineering, Benchmark, Evidence Retrieval, Agent Safety

I. Main Problem:

Khi agent AI đảm nhận các tác vụ dài hạn (sửa repository, tái tạo nghiên cứu, phân tích dữ liệu), vai trò người dùng chuyển từ ra quyết định trực tiếp sang giám sát. Nhưng:

Khối lượng hoạt động của agent quá lớn — không thể theo dõi từng bước.
Bằng chứng (evidence) bị phân mảnh rải rác trong tin nhắn, kết quả tool call, artifact trung gian.
Hệ quả: người dùng khó xác định quyết định nào của agent là quan trọng (consequential) — ví dụ đổi tiêu chí đánh giá có thể lật kết luận nghiên cứu, xóa dữ liệu thiếu có thể làm sai lệch quần thể phân tích — và cần được kiểm chứng trước khi quá muộn.

II. Main Idea:

Bài báo đề xuất hai đóng góp bổ sung nhau:

AgentMonBench: benchmark giám sát agent gồm 3 tập con trên 2 khía cạnh:
- SpecGAP — phát hiện hành vi quan trọng bị bỏ sót trong yêu cầu không đầy đủ.
- SilentSwap — phát hiện lệch nghĩa ngầm trong code (đổi exact match thành semantic similarity) mà test cũ vẫn pass.
- FeedbackTrace — từ phản hồi thực của người dùng, kiểm tra monitor có lần ra quyết định đáng xác minh trước khi người dùng phàn nàn không.
EBG (Evidence-Grounded Behavior Graph): phương pháp không cần training gom evidence gắn với nguồn thành các Behavior (repository: Condition–Operation–Result; trajectory: Demand–Action–Response), nhóm behavior thành Scope và nối bằng quan hệ có hướng thành đồ thị. Đồ thị được render thành view định hướng theo nhiệm vụ để monitor (LLM) đọc và đưa ra điểm cần xác minh. Mọi bước xây dựng đồ thị là deterministic, chỉ phán đoán ngữ nghĩa do monitor làm.

Ví dụ đời thường: giống như kế toán viên kiểm tra sổ sách — thay vì đọc trôi tuột hàng nghìn giao dịch rời rạc, người ta gom giao dịch thành từng khoản mục có chứng từ gốc kèm theo, rồi chỉ rà soát những khoản bất thường có ảnh hưởng lớn.

III. Main Results:

Thử nghiệm trên 8 mô hình (GPT-5.6 Luna/Terra/Sol, Claude Sonnet 5, DeepSeek-V4.1-Flash/Pro, Kimi K3, GLM-5.3): EBG cải thiện phần lớn thiết lập so với baseline đọc context gốc và vượt RepoGraph (ví dụ SpecGAP SF1: GPT-5.6 Terra 0.275 → 0.392; Kimi K3 0.494 → 0.558).
Lợi ích bền vững theo quy mô input: ở nhóm input lớn nhất (High), EBG vẫn cộng +0.078 (SpecGAP LF1), +0.115 (SilentSwap LS), +0.108 (FeedbackTrace EHR) — trong khi baseline giảm mạnh khi context dài (EHR từ 0.667 xuống 0.422).
Lấy evidence và hiểu quyết định là hai kỹ năng khác nhau: tìm đúng chứng cứ chưa chắc diễn giải đúng hệ quả — các mô hình hiện tại vẫn còn nhiều hạn chế cả hai.
Ứng dụng thực tế: tích hợp EBG vào Codex Harness với 3 loại review (ambiguity, adjustment, result); trên 5 ca nghiên cứu thực, Codex không có harness không tiết lộ vấn đề, có harness thì phát hiện và công khai cả 5 (rò rỉ dữ liệu validation, seed ngẫu nhiên bị đổi, ngân sách tìm kiếm không công bằng...).

IV. Conclusion & Future Works:

Giám sát agent dài hạn đòi hỏi nối quyết định quan trọng với bằng chứng cần thiết để người dùng xác minh. AgentMonBench định lượng thách thức này trong kỹ thuật phần mềm, còn EBG cho thấy tổ chức evidence có cấu trúc, không cần huấn luyện là nền tảng hữu ích cho oversight của con người. Hướng đi tương lai: cải thiện khả năng diễn giải hệ quả từ evidence (không chỉ định vị), giảm báo động giả, và mở rộng ngoài miền software engineering.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng AgentMonBench sang các miền ngoài kỹ thuật phần mềm (phân tích dữ liệu, nghiên cứu tự động, tác tử di động) để đánh giá giám sát quyết định quan trọng trong bối cảnh đa dạng.
Nghiên cứu mô hình monitor kết hợp định vị evidence với suy luận hệ quả (consequence reasoning) để khắc phục khoảng cách giữa retrieval và interpretation.
Phát triển cơ chế học từ phản hồi người dùng để giảm false alarm và cá nhân hóa ngưỡng 'quyết định đáng xác minh' theo từng người dùng.

2. Patent:

Trợ lý giám sát trên điện thoại cho các ứng dụng AI tự động: ứng dụng gom mọi hành động của agent (tin nhắn, lệnh gọi công cụ, thay đổi file) thành đồ thị hành vi có gắn nguồn, rồi đẩy thông báo 'quyết định này ảnh hưởng tới kết quả — bạn có muốn duyệt?' kèm đúng đoạn bằng chứng gốc.
Hệ thống audit mã nguồn tự động cho doanh nghiệp: quét repository và tài liệu yêu cầu, tự phát hiện những ràng buộc bị thiếu trong tài liệu hoặc thay đổi ngầm trong code mà bộ test hiện có không bắt được, xuất báo cáo có trích dẫn dòng mã cụ thể.
Plugin review cho trợ lý lập trình tích hợp trong IDE: trước khi agent chạy các bước dài, plugin tự tổ chức lịch sử tương tác thành các giai đoạn có chứng cứ và cảnh báo lập trình viên khi agent đổi phương pháp, dùng dữ liệu không hợp lệ, hoặc kết luận thiếu bằng chứng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.06406
ArXiv Abstract	https://arxiv.org/abs/2610.06406
PDF Download	https://arxiv.org/pdf/2610.06406.pdf
Github Repository	https://github.com/zhk-lab/EBG

25. Pumpire: Unified Benchmark for Metric Distance Estimation (18 votes)

Tác giả: Siyu Chen, Zehan Wang, Jiayang Xu, Yihan Wu, Jialei Wang, et al.

Xuất bản lúc: 2026-10-08

Tag: 3D Vision, Depth Estimation, Benchmark, Metric Distance, Foundation Models, Computer Vision, Spatial Reasoning

I. Main Problem:

Các benchmark hiện tại không đánh giá trực tiếp khả năng ước lượng khoảng cách metric giữa hai điểm 3D — năng lực cốt lõi cho xe tự hành, robot manipulation và reasoning không gian trong VLM. Ba khoảng trống:

Benchmark depth và camera intrinsics đánh giá riêng lẻ: làm tốt cả hai không đảm bảo ước lượng khoảng cách chính xác vì kết quả phụ thuộc cặp depth–intrinsics.
Benchmark point-cloud chỉ đo độ trung thực hình học (Chamfer Distance, F1...) chứ không đo sai số khoảng cách vật lý; benchmark spatial reasoning chỉ ở mức object-level qua QA.
Thiếu khung so sánh thống nhất giữa 4 thiết lập: image-level/video-level × estimation/completion (có depth prior).

II. Main Idea:

Pumpire — benchmark thống nhất đầu tiên đánh giá trực tiếp sai số khoảng cách metric giữa cặp điểm. Cơ chế:

Dataset pumpire-6k: 100 cảnh thật (40 indoor, 60 outdoor), mỗi cảnh 64 frame (6.400 frame), khoảng cách giữa hai điểm dán sticker được đo thủ công bằng thước dây — tránh lỗi cảm biến trên bề mặt phản chiếu/trong suốt/cấu trúc mảnh.
Giao thức: back-project 2 pixel qua depth map và camera intrinsics do mô hình dự đoán, tính khoảng cách Euclidean, so với giá trị đo thật bằng các metric AE, RE, LE, threshold accuracy δ và RSD (đo consistency cross-view).
Chia tập normal (76 cảnh) / challenging (24 cảnh) theo độ tin cậy của cảm biến depth (RSD > 0.1).
Đánh giá 29 cấu hình baseline trên cả 4 thiết lập.

Ví dụ đời thường: giống việc kiểm tra tay nghề thợ xây không bằng cách hỏi riêng 'có biết cân bằng thước không' và 'có biết đọc bản vẽ không', mà đưa cho anh ta thước dây và bảo đo trực tiếp khoảng cách giữa hai cột — kết quả cuối cùng mới là thứ khách hàng quan tâm.

III. Main Results:

Image-level estimation: Metric3D v2 tốt nhất tập normal (AE 0.073m) nhưng tụt hạng mạnh trên challenging; Depth Pro và MoGe-3 dẫn đầu tập khó.
Video-level estimation: Depth Anything 3 đứng đầu cả hai tập.
Completion (có depth prior): Lingbot-Depth (image-level) và CAPA-VGGT (video-level) dẫn đầu; completion vượt trội hẳn estimation về độ chính xác.
Finding 1: depth tốt + intrinsics tốt không suy ra khoảng cách chính xác — phải đánh giá trực tiếp.
Finding 2: cảm biến depth thật (RealSense D435) rất mạnh trên cảnh thường (chỉ 5/18 mô hình vượt được), nhưng sụp đổ trên cảnh khó — các mô hình học vượt xa nhờ prior hình học.
Finding 3: completion có độ chính xác đỉnh cao nhưng degrade thảm họa 20–210× trên cảnh khó; estimation giữ sai số bị chặn đều 1–20×.
Finding 4: depth prior dày hơn không hẳn tốt hơn — vì phải đánh đổi sparsity và noise cảm biến.
Finding 5: thêm depth prior cải thiện video-level completion, mức lợi tùy khả năng tích hợp metric đa view của từng mô hình.
Finding 6: multi-view cải thiện consistency; depth prior cải thiện cả accuracy lẫn consistency; kết hợp cả hai (CAPA-VGGT) tốt nhất.

IV. Conclusion & Future Works:

Pumpire lấp khoảng trống đánh giá năng lực nhận thức tỉ lệ vật lý của mô hình 3D foundation — khả năng mà các protocol trước bỏ qua. Kết quả 29 baseline cho thấy trade-off accuracy–robustness khác biệt giữa các họ mô hình và điều kiện cảm biến, đồng thời xác định rõ giá trị của multi-view context và depth priors. Benchmark cung cấp nền tảng chuẩn để chọn mô hình cho ứng dụng thực tế (tự hành, robot) và hướng nghiên cứu cải thiện ước lượng khoảng cách metric trực tiếp.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng Pumpire sang đánh giá khoảng cách metric động: ước lượng khoảng cách giữa vật thể chuyển động theo thời gian trong video, phục vụ dự báo va chạm cho xe tự hành và robot cộng tác.
Benchmark khoảng cách metric cho mô hình Vision-Language: kiểm tra liệu VLM có tận dụng được hình học 3D từ mô hình depth để trả lời câu hỏi đo lường chính xác hơn QA object-level hiện tại.
Phát triển mô hình completion chịu được cảnh khó: kết hợp cơ chế phát hiện bề mặt phản chiếu/trong suốt để giảm độ lệch thảm họa (20–210×) của họ completion hiện nay trên tập challenging.

2. Patent:

Hệ đo khoảng cách trên điện thoại thông minh: người dùng chụp hai điểm bất kỳ trong khung hình; ứng dụng dùng mô hình depth metric để tính khoảng cách thật giữa chúng (đo phòng, đo đồ nội thất) mà không cần thiết bị phụ.
Chức năng cảnh báo khoảng cách an toàn cho camera xe hơi hoặc xe máy: dùng mô hình ước lượng khoảng cách metric trực tiếp từ camera thường để cảnh báo va chạm, vẫn hoạt động khi cảm biến lidar/depth bị nhiễu dưới mưa, bề mặt phản chiếu.
Trợ lý đo lường cho robot gia đình: robot nhận lệnh 'lấy hộp rộng 10cm trên kệ'; hệ thống đo kích thước vật thể bằng ước lượng khoảng cách giữa các điểm đầu mút từ camera RGB, chọn đúng vật mà không cần cảm biến độ sâu đắt tiền.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12423
ArXiv Abstract	https://arxiv.org/abs/2610.12423
PDF Download	https://arxiv.org/pdf/2610.12423.pdf
Github Repository	https://github.com/SpatialVision/Pumpire

26. VibeEdit: Image Editing with Canvas Instructions (18 votes)

Tác giả: Jinjing Zhao, Fangyun Wei, Yitong Wang, Xiuyu Wu, Yunuo Chen, et al.

Xuất bản lúc: 2026-10-08

Tag: Image Editing, Diffusion Models, Vision-Language Models, Reinforcement Learning, Human-Computer Interaction, Spatial Grounding

I. Main Problem:

Trong chỉnh sửa ảnh bằng văn bản, mô tả thay đổi muốn thực hiện thì dễ, nhưng chỉ rõ đối tượng nào cần sửa thì rất vất vả, đặc biệt khi ảnh có nhiều vật giống nhau (vài chiếc ghế, vài con mèo). Người dùng buộc phải viết mô tả dài về vị trí và bối cảnh để phân biệt đúng đối tượng, vừa cồng kềnh vừa dễ nhầm lẫn — prompt ngắn thì mô hình sửa nhầm vật, prompt dài thì phi tự nhiên.

II. Main Idea:

Thay vì mô tả bằng lời, người dùng vẽ trực tiếp lên ảnh để tạo ra canvas instruction (chỉ dẫn canvas):

Vòng tròn xung quanh vật → xác định vùng cần sửa
Nét gạch (scribble) lên vật → yêu cầu xóa
Mũi tên kéo từ vật này sang vị trí khác → yêu cầu di chuyển
Ghi chú ngắn đặt cạnh nét vẽ → mô tả nội dung/thuộc tính mới

Hệ thống VibeEdit đọc ảnh đã chú thích này và thực hiện 5 thao tác: thêm, xóa, thay thế, đổi thuộc tính, di chuyển — không cần prompt văn bản riêng. Kỹ thuật cốt lõi gồm ba phần:

Layer-decoupled conditioning: mã hóa riêng ảnh gốc và lớp chú thích canvas (để nét vẽ hướng dẫn chỉnh sửa nhưng không bị in lại vào ảnh kết quả), trong khi encoder Qwen2.5-VL hiểu ảnh có chú thích trong ngữ cảnh
Region-weighted supervised fine-tuning: tăng trọng số loss ở vùng cần sửa và nơi có nét chú thích, vì phần lớn pixel của một chỉnh sửa cục bộ vốn không đổi
Rubric-guided RL (DiffusionNFT): phần thưởng từ VLM judge theo 3 tiêu chí — sửa đúng yêu cầu, chất lượng vùng sửa, và giữ nguyên vùng không liên quan

Ví dụ đời thường: giống như sửa bản thiết kế bằng cách dùng bút đánh dấu trực tiếp lên giấy — khoanh tròn chỗ cần đổi, gạch bỏ phần muốn xóa, kéo mũi tên chỉ vị trí mới — thợ thiết kế nhìn bản mark-up là làm đúng ngay, không cần ai viết một bản mô tả dài bên ngoài.

III. Main Results:

Trên benchmark mới gồm 419 ca do con người chọn lọc, tập trung vào cảnh có nhiều vật giống nhau, VibeEdit đạt VLM rubric score 79.9 và outside-region PSNR 32.8 dB, vượt mọi baseline — trong đó baseline text-instructed mạnh nhất (FireRed) chỉ đạt 67.4 / 24.0 dB dù được cung cấp hướng dẫn văn bản chi tiết (trung bình 21.3 từ).
VibeEdit dẫn đầu cả 5 loại thao tác (thêm, xóa, đổi thuộc tính, thay thế, di chuyển); riêng bản base (chỉ supervised) đã ngang FireRed về rubric (67.8 vs 67.4) nhưng PSNR tốt hơn hẳn (27.0 vs 24.0 dB).
Bộ dữ liệu huấn luyện tự xây dựng: 1.55 triệu cặp ảnh nguồn–đích kèm mask đối tượng và mô tả chỉnh sửa có cấu trúc; RL set gồm 3,520 điều kiện được chọn theo phương sai phần thưởng.
Ablation xác nhận: tách mã hóa ảnh gốc + canvas (67.8) thay vì chỉ mã hóa ảnh chú thích (58.6) hoặc chỉ ảnh gốc (24.7); chọn điều kiện RL theo phương sai cao (79.9) tốt hơn ngẫu nhiên (79.3) và phương sai thấp (76.6); kết hợp cả 3 nhóm rubric reward cho kết quả tốt nhất.

IV. Conclusion & Future Works:

VibeEdit chứng minh giao diện chỉ dẫn canvas — vẽ và ghi chú trực tiếp trên ảnh — là cách chỉ định "sửa ở đâu, sửa cái gì" tự nhiên và hiệu quả hơn prompt văn bản dài, bổ sung cho phương pháp text-prompting truyền thống. Kết hợp layer-decoupled conditioning, supervised fine-tuning có trọng số vùng và RL theo rubric giúp mô hình vừa sửa đúng đối tượng vừa giữ nguyên phần còn lại. Hướng mở: giảm phụ thuộc vào dữ liệu tổng hợp (còn nhiễu do tự động lọc), mở rộng bộ chú thích canvas phong phú hơn, và nâng cao chất lượng ở thao tác di chuyển (PSNR thấp nhất trong 5 loại, 27.1 dB).

V. Brainstorming Space:

1. Publish Papers:

Giao diện canvas đa phương thức cho chỉnh sửa ảnh: mở rộng nét vẽ vòng tròn/gạch/mũi tên sang bộ công cụ phong phú hơn (tự do vẽ đường viền, vùng tô màu, ghi chú viết tay dài) và nghiên cứu cách mô hình hiểu chú thích thiếu chính xác, chồng lấn.
Kết hợp canvas instruction với prompt văn bản hệ thống: cho phép chỉnh sửa phức tạp nhiều bước trong một lần, ví dụ "đổi màu chiếc ghế được khoanh và đồng thời xóa cái bị gạch".
Áp dụng rubric-guided RL với DiffusionNFT cho các tác vụ biến đổi có cấu trúc khác (chỉnh sửa video, chỉnh sửa 3D), nơi việc cân bằng thay đổi đúng vùng và bảo toàn nội dung còn quan trọng hơn.

2. Patent:

Ứng dụng chỉnh sửa ảnh trên điện thoại bằng cử chỉ: người dùng khoanh tròn vật trên màn hình, viết tay chú thích ngắn cạnh đó (ví dụ "xanh đậm"), mũi tên kéo để di chuyển; ảnh được sửa đúng vật đã chọn mà không cần gõ mô tả dài.
Trình sửa ảnh tích hợp bút stylus cho máy tính bảng: gạch bỏ người thừa trong ảnh nhóm, khoanh vật để đổi màu, kéo mũi tên để đổi vị trí đồ vật trong ảnh sản phẩm — mọi thao tác trực tiếp trên ảnh như đánh dấu giấy.
Công cụ thiết kế quảng cáo: marketer khoanh sản phẩm trong ảnh chụp và ghi chú thay đổi ("đổi thành màu đỏ", "đặt sang góc phải"), hệ thống tự tạo nhiều biến thể banner giữ nguyên toàn bộ bối cảnh còn lại.
Tính năng sửa ảnh chân dung trực quan: người dùng vẽ vòng tròn quanh phụ kiện hoặc vùng da để yêu cầu xóa mụn, đổi màu áo, thay phông nền cục bộ mà không ảnh hưởng khuôn mặt và các chi tiết khác.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12229
ArXiv Abstract	https://arxiv.org/abs/2610.12229
PDF Download	https://arxiv.org/pdf/2610.12229.pdf
Github Repository	https://github.com/ZhaoJingjing713/VibeEdit

27. USDCraft: Geometrically Grounded Programmatic Modeling of Articulated 3D Assets for Simulation (18 votes)

Tác giả: Chuanrui Zhang, Zaijia Yang, Duomin Wang, Lu Shi, Daquan Zhou, et al.

Xuất bản lúc: 2026-10-08

Tag: 3D Reconstruction, Articulated Objects, LLM Agents, Simulation, Robotics, USD, Programmatic Modeling

I. Main Problem:

Tái tạo vật thể 3D có khớp nối (articulated) để dùng trong mô phỏng robot đang gặp hai khó khăn lớn:

Phương pháp dựa trên mesh học (Particulate, SIMART, ArtLLM) chỉ chia nhỏ bề mặt mesh có sẵn: các bộ phận bị dính liền trong mesh vẫn dính, phần bị thiếu/hỏng do scan không thể bổ sung, và mô hình không khái quát hóa cho vật ngoài phân phối huấn luyện.
Phương pháp sinh bằng LLM từ ảnh (Articraft, Procedura) dù linh hoạt về loại vật thể nhưng thiếu số đo thực, kích thước và vị trí bộ phận không khớp vật thật — khiến chính sách robot học trong mô phỏng bị mất điểm nặng khi chuyển ra thế giới thực.

II. Main Idea:

USDCraft định khung tái tạo vật thể articulated như lập trình mô hình (programmatic modeling) dựa trên bằng chứng hình học. Một LLM có sẵn (không cần fine-tune) viết, biên dịch và sửa một chương trình tài sản thực thi được, tự chọn công cụ và thứ tự làm việc:

Source geometry analysis: chuyển mesh nguồn (scan thiếu/hỏng) thành mô tả văn bản có đơn vị đo lường — phân biệt rõ bề mặt đã quan sát và vùng chưa biết (không mặc định là rỗng hay đặc), cho phép LLM 'đọc' mesh và truy vấn thêm kích thước cục bộ khi cần.
Iterative geometric rechecking: mã hóa lại mỗi bản dựng trên cùng lưới so với nguồn; vùng thiếu so với source → tín hiệu sửa, vùng vượt quá source → câu hỏi mở để LLM bổ sung hợp lý từ ảnh và chức năng vật thể. So sánh độ lệch median (đặt sai vị trí) và độ lệch hình dạng (sai hình) để chỉ ra sửa đổi cục bộ trong chương trình.
Visual feedback: render ứng viên để phát hiện bộ phận thiếu, lắp ráp phi lý, xung đột khi vận động khớp.
Chương trình kết hợp CadQuery (chi tiết cơ khí), SDF (hình hữu cơ) và tham số vật lý PhysX (khối lượng, ma sát, giới hạn khớp), xuất USD nạp thẳng vào Isaac Sim không chỉnh tay.

Ví dụ đời thường: giống thợ mộc làm lại một chiếc tủ hỏng từ bản phác thảo đo được: đo từng mảnh còn nguyên, ghi rõ chỗ nào đã đo và chỗ nào bị mất dấu, rồi tự tháo-đo-làm lại từng phần, mỗi lần lắp xong lại đặt thước đo lại so với bản gốc để biết phải cắt chỗ nào.

III. Main Results:

USDCraft-bench (60 vật thể): USDCraft–Astra vượt mọi baseline (ArtLLM, SIMART, Particulate, Articraft) trên tất cả 9 chỉ số — F1 part matching 84.8% (baseline tốt nhất 64.0%), joint axis error 6.8° so với 15.1°.
Lightwheel (243 vật thể): part matching tốt nhất 87.0%, joint location error 0.009 — vượt cả Instruct-Particulate dùng mesh gốc; chỉ thua nhẹ về mIoU/whole-object Chamfer do USDCraft dựng lại từ đầu thay vì giữ nguyên bề mặt scan.
Harness quan trọng hơn backbone: USDCraft–Sol còn thắng Mini Workflow–Astra trên mọi chỉ số; khung chuyển nguyên sang Claude Opus 5 và Gemini 3.8 Flash vẫn hiệu quả, chi phí chỉ +1–2 phút/vật.
Real-to-sim-to-real: chính sách Diffusion Policy học trên asset USDCraft chỉ mất tối đa 10 điểm khi chuyển ra robot thật (mở ngăn kéo, bấm lò nướng, bật công tắc), trong khi Articraft mất 60–80 điểm do tay cầm đặt sai vị trí.
Sinh mới (text/image-conditioned): điểm cao nhất mọi tiêu chí với thời gian thấp nhất (5.6 phút); công bố thư viện USDCraft-10k (10.000 asset, 500+ loại vật dụng).
Ablation: bỏ source geometry analysis gây sụt giảm lớn nhất; thêm agent quan sát ảnh độc lập làm mọi chỉ số tệ hơn.

IV. Conclusion & Future Works:

USDCraft cho thấy việc neo quá trình lập trình tài sản của LLM vào hình học đo được vượt trội hơn cả chia mesh học được lẫn sinh từ ảnh thuần; chất lượng đến từ bộ công cụ và phản hồi chứ không phải lựa chọn mô hình, và tài sản tạo ra đủ trung thực để chính sách robot học mô phỏng chuyển ra thực tế gần như không tổn thất. Hạn chế: cấu trúc lưới mịn (dây vợt, giỏ đồ kim loại) khó dựng trung thực; vật biến dạng (deformable) mới chỉ hỗ trợ ở trạng thái tĩnh, dynamics vật mềm chưa được kiểm chứng trong Isaac Sim.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng kiểm tra hình học lặp lại sang vật thể deformable: đưa trạng thái biến dạng vào chương trình tài sản và dùng soft-body dynamics để tái kiểm tra tương tự như với khớp cứng hiện tại.
Kết hợp USDCraft với mô hình ước lượng vật liệu từ ảnh để tự động suy ra khối lượng, độ cứng và ma sát của từng bộ phận thay vì coi đây là giả định thủ công.
Tái sử dụng USDCraft-10k làm dữ liệu huấn luyện cho policy robot đa nhiệm, đánh giá liệu độ đa dạng 500+ loại vật dụng có cải thiện khái quát hóa zero-shot sang vật thể thật chưa thấy.

2. Patent:

Ứng dụng điện thoại quét vật dụng gia đình để dựng bản sao mô phỏng: người dùng chụp ảnh/quay video quanh một chiếc tủ lạnh, đám mây chuyển điểm ảnh thành bản mô tả có kích thước, một mô hình ngôn ngữ viết chương trình CAD rồi tự đo-so-sánh-sửa, cuối cùng gửi về file mô phỏng với khớp nối và trọng lượng thật để huấn luyện robot hút bụi hoặc tay máy phục vụ.
Hệ thống hiệu chuẩn kho hàng tự động: robot kho chụp lại kệ đồ bị hư hỏng/lệch, hệ thống dựng lại tài sản mô phỏng mới ngay trong ca làm việc để cập nhật bản đồ mô phỏng và chương trình gắp hàng mà không cần kỹ thuật viên mô hình hóa 3D.
Nền tảng tạo tài sản 3D tương tác cho game/AR trên điện thoại: nhập một ảnh hoặc câu mô tả ('cái tủ âm tường có ngăn kéo'), hệ thống sinh chương trình mô hình với khớp nối vật lý hoàn chỉnh để người dùng kéo-mở trực tiếp trong ứng dụng, đồng thời xuất file chuẩn đưa vào engine vật lý.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.11322
ArXiv Abstract	https://arxiv.org/abs/2610.11322
PDF Download	https://arxiv.org/pdf/2610.11322.pdf
Github Repository	N/A

28. SparseEngine: Sparse-First Inference Engine (17 votes)

Tác giả: Jitai Hao, Quansheng Gu, Qiang Huang, Jun Yu

Xuất bản lúc: 2026-09-30

Tag: Sparse Attention, KV Cache, LLM Inference, Inference Engine, Prefix Caching, Agent Workloads, Continuous Batching

I. Main Problem:

Các agent LLM ngữ cảnh dài tích lũy lịch sử tương tác, tạo hai nút thắt GPU: bộ nhớ KV cache và độ trễ attention. Sparse attention giúp giảm chi phí, nhưng mỗi họ phương pháp lại có cách lưu cache, metadata và thời điểm cập nhật khác nhau.

Engine hiện tại thường xoay quanh một layout cache hoặc một workflow cố định, nên chỉ hợp với một nhóm method.
Hệ quả là khó dùng chung prefix caching, continuous batching, batched inference và quản lý trạng thái qua nhiều lượt agent. Câu hỏi trung tâm: đặt ranh giới abstraction ở đâu giữa hạ tầng serving dùng chung và quyền kiểm soát trạng thái/tính toán của từng sparse method?

II. Main Idea:

SparseEngine là một sparse-first inference engine xây dựng từ đầu, đặt ranh giới abstraction ở lifecycle contract dùng chung bám theo thứ tự thực thi module gốc của model.

SparseController mở các hook mịn trước/sau attention, cuối layer và cuối step cho cả prefill lẫn decode; mỗi method đăng ký callback để tự sắp xếp scoring, selection và state update.
CacheManager thuộc sở hữu method quản lý representation vật lý, metadata, allocation, write, update và release.
AttentionView nối trạng thái method-owned tới kernel attention, cho phép attention trên token/page được chọn, dữ liệu nén, lượng tử hóa hoặc tái tạo tạm thời. Kiến trúc này tích hợp 15 method thuộc 4 nhà: dynamic sparse attention, KV eviction, KV compression và KV quantization, mà không sửa implementation model. Ở tầng cross-request, Chain Cache cho method loại bỏ token được nối tiếp từ trạng thái compact đã giữ lại, còn Prefix-Cache Pruning cho ứng dụng xóa vùng lịch sử chỉ định nhưng vẫn giữ matching theo tiền tố logic. Ví dụ đời thường: giống nhà hàng có quy trình chung để tiếp nhận khách, truyền món và phục vụ, nhưng mỗi đầu bếp được tự cất nguyên liệu, dùng dao thớt và nêm nếm theo cách riêng ở các mốc chuẩn; món ăn khác nhau vẫn chạy cùng một bếp phục vụ.

III. Main Results:

Giữ chất lượng method gốc: trên LongBench V1/V2, khác biệt trung bình so với implementation gốc chỉ khoảng +0.17 điểm; AIME 2024 cho thấy trade-off rõ giữa speedup và accuracy theo ngân sách thưa.
Throughput decode dài hơn: với physical KV eviction, SnapKV đạt khoảng 10× tổng throughput decode so với vanilla vLLM ở batch lớn trên cùng cấu hình GPU; ở batch khớp nhau, abstract báo cáo hơn 2.5× decode nhanh hơn.
So sánh fair theo method: Quest đạt khoảng 1.24× Vortex và 1.55× HiSparse; SnapKV đạt khoảng 1.55× Tangram ở cùng batch và ngữ cảnh 128K.
Agent đa lượt: Chain Cache giúp SnapKV/H2O giữ trạng thái compact qua các turn; trên SWE-bench Lite, SnapKV gần full attention trên GLM và giải nhiều hơn reference trên Qwen3.
Pruning có kiểm soát: giữ lại 20% token công cụ theo chính sách trễ 4 bước khôi phục tới 25.0% resolved tasks, cho thấy có thể cân bằng bộ nhớ và chất lượng.
End-to-end replay: SnapKV tầm trung đạt tới 2.24× speedup trên trace Gasai, nhờ cache nhỏ hơn, concurrency cao hơn và tái sử dụng trạng thái qua lượt.

IV. Conclusion & Future Works:

Điểm mấu chốt là đừng ép mọi sparse method vào một cache layout hay pipeline cố định; hãy chuẩn hóa các mốc vòng đời và để method sở hữu trạng thái, còn hạ tầng chung lo scheduling, capacity và attention execution. Hướng mở rộng:

Dùng coding agent kèm test fidelity để tự sinh implementation cho method mới trong phạm vi lifecycle contract.
Tối ưu serving cho model natively sparse, kết hợp chọn token, loại bỏ, nén và lượng tử hóa bộ nhớ ngữ cảnh.
Nghiên cứu chính sách pruning thích ứng theo độ mới và giá trị bằng chứng trong hội thoại agent.

V. Brainstorming Space:

1. Publish Papers:

Agent-assisted integration harness cho sparse inference: tự động sinh callback, cache manager và attention view từ mô tả method, kiểm thử fidelity và lifecycle correctness trước khi cho vào serving.
Serving natively sparse LLMs: đồng thiết kế sparse attention trong kiến trúc model với cross-layer index reuse, eviction và quantization để giảm cả compute lẫn bộ nhớ ngữ cảnh.
Adaptive prefix pruning cho agent trajectories: học hoặc điều chỉnh ngưỡng giữ lại, độ trễ pruning và vùng lịch sử theo mức độ còn dùng của tool result và reasoning trace.

2. Patent:

Trợ lý AI trên điện thoại tự nén hội thoại dài: hệ thống giữ chi tiết đầy đủ cho các lượt gần, rút gọn các lượt cũ ít giá trị, rồi khi mở lại phiên chỉ nạp phần cần thiết để tiếp tục nhanh mà vẫn đúng ngữ cảnh.

Lợi ích: giảm RAM, pin và thời gian chờ khi dùng assistant lập trình, tra cứu hoặc ghi chú nhiều lượt.

Ứng dụng agent trên mobile cho phép người dùng chọn mức lưu lịch sử: ví dụ giữ nguyên 4 phản hồi công cụ mới nhất, chỉ nén các phản hồi cũ hơn; server thu hồi bộ nhớ nhưng vẫn cho phép tiếp tục đúng nhánh công việc.

Phù hợp các tác vụ sửa lỗi, đọc tài liệu, chạy công cụ qua API.

Bộ điều khiển bộ nhớ ngữ cảnh cho API LLM: ứng dụng gửi khoảng lịch sử cần dọn và tỉ lệ giữ lại; nền tảng xóa dữ liệu vật lý ở vùng đó, giữ matching đầu câu để các request sau tái sử dụng, đồng thời chặn xóa khi dữ liệu đang được dùng bởi request đang chạy.

Có thể bán như tính năng tiết kiệm chi phí cho doanh nghiệp chạy agent hỗ trợ khách hàng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.39068
ArXiv Abstract	https://arxiv.org/abs/2609.39068
PDF Download	https://arxiv.org/pdf/2609.39068.pdf
Github Repository	https://github.com/CURRENTF/SparseEngine

29. SanSi: A Looped Typed Decision Model for System 1.5 Thinking (16 votes)

Tác giả: Shuyu Gan, Young-Jun Lee, Dongyeop Kang

Xuất bản lúc: 2026-10-06

Tag: LLMs, System 1.5 Thinking, Looped Transformers, Typed Decision Models, Latent Reasoning, Calibration, Reinforcement Learning

I. Main Problem:

Nhiều ứng dụng cần mô hình ra quyết định kiểu typed: người dùng khai báo trước các lựa chọn như spam / không spam, vi phạm / không vi phạm, và mô hình trả về xác suất cho từng phương án trong một forward pass, không sinh văn bản để parse. Vấn đề là một pass duy nhất chỉ cho lượng tính toán cố định: hỏi nông thì đủ, nhưng với các quyết định cần nhiều bước phụ thuộc — theo chuỗi quan hệ, hợp thành luật, nhận ra bằng chứng quyết định bị thiếu — độ chính xác sụt nhanh. Cách làm truyền thống hoặc thêm tham số cho mô hình lớn hơn, hoặc bỏ typed contract để sinh reasoning token-by-token tốn latency và khó điều khiển xác suất đầu ra.

II. Main Idea:

SanSi biến một ngôn ngữ looped pre-trained, Ouro, thành typed decision model: giữ nguyên backbone, chỉ huấn luyện LoRA adapters và một readout nhỏ khoảng 61M tham số. Cùng một stack 24 lớp được áp lặp lại nhiều lần; sau mỗi loop đều đọc phân phối xác suất trên các lựa chọn và huấn luyện mọi loop bằng cross-entropy + Brier score, nên một model phục vụ mọi ngân sách từ 1 tới 8 loops. Cơ chế nằm giữa System 1 và System 2: không thêm tham số, không sinh token, chỉ cho phép hidden state tự chỉnh trước khi chốt câu trả lời typed.

Backbone looped pre-trained là nền bắt buộc: thêm loop vào model không được pre-trained để loop gần như không lợi.
Anytime prediction: đọc sau loop 3 đã có phần lớn lợi ích; câu trả lời khó thường “settle” muộn hơn.
Rủi ro: chạy vượt số loop đã huấn luyện làm accuracy giảm; confidence tiếp tục tăng sau khi đáp án đã ổn định nên calibration chỉ tốt nhất quanh loop 3.

Ví dụ đời thường: giống người soát một bản hợp đồng không đọc thêm kiến thức mới, mà đọc đi đọc lại cùng một đoạn ở nhiều “vòng thẩm tra” trong đầu: vòng đầu bị cụm từ bề mặt đánh lừa, vòng sau tự nhặt ra mâu thuẫn, tới vòng ba bốn thì chốt phương án; câu khó thì cần nhiều vòng hơn, nhưng suy nghĩ quá lâu sau khi đã chốt chỉ làm ta tự tin thái quá.

III. Main Results:

Trên 10,027 test decisions từ 59 sources, SanSi 1.4B đạt 72.0%: +13.5 điểm so với non-looped cùng shape, data và recipe; +5.3 điểm so với Qwen3.5-2B mới hơn cùng cỡ; chỉ kém 1.8 điểm so với Qwen3.5-4B có gấp ba tham số.
Looping trả bằng tính toán, không phải tham số: inference loop 8 tốn khoảng 7.7× một pass; nhưng loop 2–3 đã mang 88% lợi ích, đa số câu ổn định sau loop 4.
Lợi ích nhỏ nhất ở classification +3.1, lớn nhất ở knowledge +17.6, long documents +16.7, multi-step reasoning +15.1.
Hai tác vụ depth-controlled: loops giải được độ sâu vượt ngoài training; trên liar chains 9–16 bước, SanSi loop 8 đạt 72.6% trong khi Qwen3.5-4B single-pass chỉ ngang chance 50.0%.
Xác suất: loops giúp phát hiện missing evidence tốt hơn mạnh — evidence AUROC tăng tới 0.935, gần model lớn gấp ba — nhưng không dạy “tự nghi”: confidence tăng cả trên câu sai, ECE tốt nhất ở loop 3 rồi xấu dần.
Làm judge/verifier reward duy nhất cho GRPO không cần gold answer: đọc SanSi sau loop 8 nâng F1 generator từ 39.5 lên 47.3 (+7.7); đọc loop 1 còn làm hại huấn luyện.

IV. Conclusion & Future Works:

Kết luận: với typed decisions, lặp lại cùng tham số là cách mua độ sâu suy luận rẻ hơn là phóng to mô hình, miễn backbone đã được pre-trained để loop. SanSi cho thấy một mô hình có thể phục vụ nhiều mức ngân sách compute trong một lần chạy, cải thiện nhận diện bằng chứng thiếu và vượt depth ngoài phạm vi huấn luyện; giới hạn là lợi ích phụ thuộc Ouro-style looped pre-training, calibration không cải thiện sau khi đáp án settle, và chạy quá số loop đã train có hại. Hướng tương lai: học rule chọn loop riêng cho từng item vì 11.7% câu đúng ở một loop nhưng sai ở loop cuối; mở rộng sang looped backbones lớn hơn/khác; kết hợp early-exit và trung bình xác suất các loop để giữ accuracy nhưng giảm ECE.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu bộ chọn số loop theo độ khó từng câu cho typed decision models: dùng settling loop và confidence trajectory để dự đoán khi nào nên dừng, cân bằng accuracy, calibration và chi phí inference.
Kiểm chứng System 1.5 thinking trên looped backbones quy mô lớn hơn và nhiều kiến trúc khác Ouro, đo mức nào lợi ích của loop vẫn giữ khi tham số tăng.
Phát triển verifier looped làm reward cho reinforcement learning không cần gold answer, có kiểm soát overconfidence và tín hiệu reward chất lượng thấp ở loop sớm.

2. Patent:

Trợ lý điện thoại tự phân loại thư/rủi ro theo ngân sách pin và độ trễ: người dùng khai báo các mức tin cậy như chặn, gửi người kiểm, cho qua; mô hình nhỏ trên máy đọc lại cùng một bản tin vài vòng, vòng càng nhiều thì xử lý câu khó hơn nhưng tốn điện hơn, rồi trả xác suất để ứng dụng quyết định.
Hệ thống hỗ trợ khách hàng phát hiện thiếu bằng chứng: khi đơn yêu cầu thiếu thông tin quyết định, điện thoại hoặc máy chủ công ty trả một xác suất “đủ điều kiện / thiếu giấy tờ / không thể kết luận” thay vì bắt người dùng soạn tin dài, nhờ đọc lại hồ sơ nhiều lần để nhận ra dữ liệu then chốt bị khuyết.
Cơ chế chấm điểm câu trả lời cho chatbot trên điện thoại khi không có đáp án chuẩn: mô hình đánh giá so sánh vài câu trả lời khác nhau bằng xác suất chọn phương án, dùng vòng lặp đủ sâu để tránh thưởng nhầm câu sai, từ đó cải thiện trả lời mà không cần hiển thị suy luận cho người dùng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.07730
ArXiv Abstract	https://arxiv.org/abs/2610.07730
PDF Download	https://arxiv.org/pdf/2610.07730.pdf
Github Repository	https://github.com/minnesotanlp/Sansi

30. OmniCapBench: A Deep-Structured Evaluation Framework for Fine-Grained Audio-Visual Captioning (15 votes)

Tác giả: Zhongyu Yang, Jiale Tao, Ruitao Chen, Zuhao Yang, Yingfang Yuan, et al.

Xuất bản lúc: 2026-10-08

Tag: Multimodal LLMs, Audio-Visual Captioning, Benchmark, Evaluation, Temporal Grounding, Hallucination Detection, LLM-as-a-Judge

I. Main Problem:

Đánh giá caption audio–visual hiện tại bị kẹt trong đánh đổi ba chiều: chấm toàn bộ caption cho coverage nhưng nén mọi lỗi thành một điểm vô hình; dùng câu hỏi/cloze để localize nhưng thiếu coverage và phụ thuộc mạnh vào judge; LLM tự do chấm text dài gây không ổn định vì phải ngầm trích xuất sự kiện, khớp thời gian, theo dõi nhân vật rồi mới chấm. Hậu quả là văn phong mạch lạc có thể che hallucination hành động, lệch mốc thời gian, gán sai nguồn âm thanh, khiến benchmark khó biến thành chẩn đoán có thể hành động.

II. Main Idea:

OmniCapBench đổi mục tiêu dự đoán từ đoạn text tự do sang các đơn vị nguyên tử có thể kiểm chứng: References cho người/vật/cảnh với ID bền, Shots/subshots cho phân cảnh và mốc thời gian liên tục, Events cho tiếng động/hội thoại kèm time range. Pipeline chấm gồm hai tầng: deterministic rules kiểm tra schema, ID, thứ tự thời gian và liên kết event-shot; các cặp đã khớp mới được đưa tới LLM bị giới hạn phạm vi để so sánh nghĩa cục bộ theo cả hai chiều Recall/Precision. Cơ chế giống như kiểm kho không đọc cả bản tường trình, mà quét mã từng kiện hàng, đối chiếu ngày-vị trí-liên kết trước; chỉ khi kiện hàng khớp chỗ mới hỏi nhân viên hai mô tả có cùng ý không.

III. Main Results:

Benchmark gồm 786 video, trung bình 7.40 references, 14.53 shots, 49.82 subshots, 8.32 events/video; tổng 5,818 references, 6,537 audio events, 11,419 shots.
Mô hình frontier nhận diện cục bộ tốt nhưng suy yếu mạnh ở identity tracking: Cross-Shot Coreference Consistency của Gemini 2.5-Pro chỉ còn 37.81%, mô hình open-source dưới 12%.
Audio-visual binding là điểm nghẽn lớn: Gemini 3.1-Pro giảm từ 63.32% Event F1 xuống 51.46% EVSA F1; nhiều mô hình open-source dưới 20%; Seed2.0 gần như không sinh audio-event dù Speaker F1 cao.
Chấm semantic chỉ trên đơn vị hợp lệ lộ rõ chiến lược precision-recall: Gemini 3.1-Pro thiên conservative ở Subject Recall/Precision 43.78/67.07, MiniCPM-o-2.6 đạt Scene Precision 76.32% nhưng Recall chỉ 20.39%.
Audit judge: holistic/QA cho cùng output bị thổi từ 71.24 lên 93.92 khi đổi judge; OmniCapBench giữ quanh 56.82–58.24. Khi global text metric tạo ảo giác ngang hàng, ràng buộc cấu trúc tách thành strong 74.2% vs weak 25.8%, sát human audit hơn.

IV. Conclusion & Future Works:

Kết luận cốt lõi: đánh giá audio–visual đáng tin cần chuyển từ monolithic text sang atomic verifiable units, tách cấu trúc/spatio-temporal grounding khỏi semantic fidelity. OmniCapBench chứng minh điểm toàn cục dễ bị fluency thao túng và judge yếu/mạnh đổi kết luận, trong khi chấm tách tầng cho tín hiệu chẩn đoán ổn định. Hướng mở rộng hợp lý là làm giàu dữ liệu dài hơn, chuẩn hóa quy trình annotation bán tự động, kiểm tra khả năng chống gaming, và áp tư tưởng cấu trúc này sang video reasoning, agent đa phương thức, safety moderation cũng như huấn luyện có reward rõ ràng.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng deep-structured evaluation sang video dài hơn và streaming, kiểm tra identity permanence, event co-reference, temporal boundary drift khi độ dài video vượt context window.
Phát triển phương pháp tự sinh reference system có kiểm chứng con người tối thiểu, kết hợp programmatic validators với human audit để giảm chi phí annotation mà giữ độ tin cậy.
Dùng atomic error taxonomy của OmniCapBench làm reward chẩn đoán cho huấn luyện/reinforcement fine-tuning mô hình omnimodal, đo xem khắc phục hallucination hành động và audio-visual misalignment có chuyển sang capability thật không.

2. Patent:

Ứng dụng điện thoại tạo bảng kiểm video tự động: sau khi quay, hệ thống liệt kê người/vật/cảnh, tiếng động và mốc thời gian; người dùng bấm vào từng mục để xem bằng chứng khung hình và chỉnh mô tả trước khi chia sẻ.
Công cụ kiểm duyệt video ngắn cho mạng xã hội: thay vì chỉ đánh giá caption chung, hệ thống soi lỗi cụ thể như bịa hành động, sai mốc thời gian, gán sai người nói hoặc tiếng động không khớp hình ảnh để giảm báo cáo sai.
Trợ lý tìm kiếm nội dung video trên điện thoại: người dùng hỏi khoảnh khắc có tiếng chó sủa cùng người mặc áo xanh; hệ thống khớp mô tả ngữ nghĩa với mốc thời gian và nguồn âm thanh đã lập chỉ mục để nhảy đúng giây.
Hệ thống gợi ý chỉnh sửa video tự động: khi phát hiện mô tả khớp hình nhưng lệch âm thanh hoặc thiếu nhân vật quan trọng, ứng dụng đề xuất chèn nhãn cảnh, điều chỉnh caption hoặc tạo bản tóm tắt có trích nguồn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12458
ArXiv Abstract	https://arxiv.org/abs/2610.12458
PDF Download	https://arxiv.org/pdf/2610.12458.pdf
Github Repository	N/A

31. Opera: A Verbal Critic Framework for Long-horizon Coding Agents (14 votes)

Tác giả: Kai Mei, Zhiyuan Hu, Yutong Dai, Juntao Tan, Yifan Zhang, et al.

Xuất bản lúc: 2026-10-08

Tag: Coding Agents, LLM Critics, Test-Time Scaling, Agentic Coding, SWE-Bench, Self-Correction, Fine-Tuning

I. Main Problem:

Các agent lập trình long-horizon (sửa lỗi cấp repository) thường lặp lại hành động sai, tìm kiếm dư thừa, hoặc báo hoàn thành khi chưa kiểm chứng. Các critic hiện có (Self-Refine, Reflexion, SWE-PRM...) chỉ tập trung đánh giá trajectory và phản hồi, nhưng bỏ qua ba vấn đề then chốt:

Khi nào can thiệp? — phản hồi định kỳ có thể đến quá trễ; không phải sự kiện nào cũng cần sửa.
Phản hồi có chính đáng không? — chẩn đoán tưởng hợp lý có thể đọc sai bằng chứng gián đoạn và làm hỏng công việc vốn sẽ thành công.
Can thiệp có hiệu quả không? — agent có thể làm theo gợi ý nhưng vấn đề gốc vẫn còn đó (tuân thủ ≠ giải quyết).

II. Main Idea:

Opera coi mỗi lần chỉnh sửa như một ghi chú (note) kéo dài — được mở khi phát hiện vấn đề, chỉ giao khi đã kiểm chứng, theo dõi xuyên suốt quá trình chạy, và đóng lại khi vấn đề thực sự được giải quyết. Cơ chế gồm ba phần:

Hybrid Review Scheduling: review định kỳ mỗi k bước + review theo sự kiện (Idle, Repeat, Error, Claim, Submission); critic có quyền giữ im lặng nếu agent đang tiến bộ tốt.
Operator-Typed Review: thay vì nhận xét tự do, mỗi chẩn đoán phải dùng một trong 9 toán tử định kiểu theo 5 giai đoạn sửa lỗi (Search, View, Edit, Test, Submit), mỗi toán tử có hợp đồng rõ ràng: khi áp dụng, cần bằng chứng gì, sửa thế nào, và tiêu chí nào tính là đã xong. Mỗi lần review chỉ xử lý một vấn đề duy nhất.
Audited Note Management: hai lớp audit (admission và release) chỉ chấp nhận hoặc từ chối phản hồi mà không viết lại nó, lọc ra các gợi ý thiếu bằng chứng hoặc trùng lặp. Sau khi giao, Opera tách riêng adherence (agent có thử sửa không — kiểm bằng rules) và resolution (vấn đề gốc có hết không — so với tiêu chí cố định).

Vì chỉ tương tác qua execution trace và phản hồi ngôn ngữ tự nhiên, Opera cắm vào mọi harness mà không cần cập nhật trọng số agent.

Ví dụ đời thường: giống người sếp kèm việc giao cho nhân viên mới một phiếu ghi lỗi duy nhất — ghi rõ bằng chứng, cách sửa và điều kiện nào là xong; sếp tự kiểm tra lại phiếu trước khi đưa (không viết lại giùm), rồi không đóng phiếu chỉ vì nhân viên nói "em đã sửa rồi", mà phải thấy kết quả test pass đúng tiêu chí ban đầu.

III. Main Results:

Test-time critic (policy Qwen3.8-27B): Opera đạt resolve rate cao nhất trên cả 3 benchmark so với 4 baseline (SWE-PRM, SWE-Search, LLM-as-verifier, Agentic Rubrics): 73.8% Terminal-Bench 2.1 (+7.9 pp), 79.3% SWE-Bench Pro (+4.0 pp), 41.3% DeepSWE (+8.9 pp).
Cải thiện mọi policy model: Qwen3.5-9B tăng tới +12.4 pp (TB-2.1) và +15.0 pp (SWE-Pro); Muse-glimmer-30B, Qwen3.8-27B, DeepSeek-V4-Flash cũng đều tăng. Agent càng yếu, critic càng giúp nhiều; nhưng critic không thay thế năng lực thiếu hụt (Qwen3.5-9B vẫn 0% trên DeepSWE).
Ablation toán tử: bộ đầy đủ tốt nhất, nhưng cả bản Edit-only lẫn Non-edit đều giữ phần lớn lợi ích — quy trình review và follow-up bù đắp cho tập toán tử hạn chế.
Ablation audit: bỏ audit làm mất ~2/3 lợi ích trên TB-2.1 (từ +7.9 xuống +2.6 pp) — audit là lá chắn chống can thiệp sai.
Robust với lựa chọn critic model: Self, Claude, GPT đều cải thiện; self-critique hiệu quả khi policy đủ mạnh (+6.2 pp trên DeepSWE), còn policy yếu cần critic mạnh hơn.
Training recipe: fine-tuning Qwen3.5-9B trên Opera-guided rollouts (dữ liệu approximately on-policy) đạt +10.2 pp trên held-out SWE-Bench Pro, ngang fine-tune trên rollout của model mạnh hơn, nhưng bảo toàn hiệu suất Terminal-Bench 2.1 (25.8% vs sụt còn 7.9% với teacher rollouts) và giữ được khi đổi harness (OpenHands → Terminus-2).

IV. Conclusion & Future Works:

Opera cho thấy giá trị của critic nằm ở quản lý phản hồi như một can thiệp có vòng đời — đúng lúc, đúng chứng cứ, theo dõi đến khi giải quyết — chứ không chỉ ở việc sinh nhận xét. Kết quả phân tích cũng chỉ ra critic hữu ích nhất khi agent đủ khả năng hành động theo phản hồi nhưng vẫn mắc lỗi tự sửa không được. Hướng tương lai: mở rộng recipe SFT sang dataset lớn hơn, lặp lại quy trình với model đã fine-tune làm policy mới, và kết hợp phản hồi critic với reinforcement learning để internalize khả năng tự sửa lỗi.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu Opera cho thấy self-critique hiệu quả khi policy đủ mạnh: một hướng đáng khai thác là thuật toán chọn critic thích ứng — tự đánh giá độ tin cậy của policy trên từng giai đoạn tác vụ để tự quyết định dùng self-critique hay escalate lên critic mạnh hơn, cân bằng chi phí inference và chất lượng.
Mở rộng training recipe: kết hợp Opera-guided rollouts với reinforcement learning (ví dụ GRPO trên reward là tiêu chí resolution của note) thay vì chỉ SFT, để model học cách tự mở - tự theo - tự đóng các ghi chú sửa lỗi của chính mình mà không cần critic ở inference.
Áp dụng khung note kéo dài + audit của Opera cho các loại agent khác ngoài coding (data analysis agent, research agent), nơi cũng tồn tại vấn đề phản hồi sai lúc và tuân thủ giả tạo.

2. Patent:

Trợ lý lập trình tích hợp trong IDE trên điện thoại/máy tính bảng: hệ thống theo dõi từng bước sửa code của người dùng, tự mở một thẻ ghi lỗi duy nhất kèm bằng chứng và điều kiện hoàn thành, kiểm duyệt thẻ trước khi hiện gợi ý, và chỉ đánh dấu xong khi test chạy pass đúng tiêu chí ban đầu.
Ứng dụng dạy lập trình có 'người gác' thông minh: khi học viên viết code, hệ thống nhận diện lỗi theo từng giai đoạn (tìm sai file, đọc sai output, sửa sai logic) và giao đúng một hướng dẫn sửa có kiểm chứng, tránh quá tải nhiều lỗi cùng lúc; điều chỉnh mức gợi ý theo trình độ học viên.
Hệ thống đánh giá chất lượng tự động cho agent sửa lỗi phần mềm trong doanh nghiệp: module audit độc lập chặn mọi phản hồi của critic AI thiếu bằng chứng hoặc trùng lặp trước khi đến tay kỹ sư, đồng thời lưu vòng đời từng 'ghi chú lỗi' (mở - theo dõi - đóng) làm bằng chứng tuân thủ quy trình.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.33987
ArXiv Abstract	https://arxiv.org/abs/2609.33987
PDF Download	https://arxiv.org/pdf/2609.33987.pdf
Github Repository	https://github.com/dongyuanjushi/Opera

32. Do LLMs Understand Sequential Structure? A Controlled Study of Inference and Generation (14 votes)

Tác giả: Jerry Wang, Zhengxiang Wang, Ting Yu Liu, Hsin-Ling Hsu, Yi-Cheng Lai, et al.

Xuất bản lúc: 2026-10-04

Tag: LLMs, In-Context Learning, Markov Models, Behavioral Simulation, Sequential Modeling

I. Main Problem:

LLM ngày càng được dùng làm tác tử tương tác và bộ mô phỏng hành vi người, nhưng chưa rõ chúng có khôi phục được cấu trúc tuần tự tiềm ẩn (latent sequential structure) hay chỉ bắt chước tần suất hành động bề mặt. Hai hành vi có thống kê biểu kiến giống hệt nhau nhưng sinh ra từ hai cơ chế hoàn toàn khác (ví dụ: hai người chơi Rock-Paper-Scissors cùng có tỉ lệ R:P:S = 1:1:1, nhưng một người chơi ngẫu nhiên độc lập, người kia phụ thuộc vào lịch sử). Nếu LLM chỉ khớp phân phối biên mà không hiểu quy tắc điều kiện, mô phỏng hành vi sẽ giống thật về bề ngoài nhưng sai cơ chế bên trong — điều nghiêm trọng cho các ứng dụng mô phỏng tác tử.

II. Main Idea:

Tác giả xây dựng một khung đánh giá có kiểm soát để tách ba năng lực thường bị nhầm lẫn với nhau:

Nhận diện chiến lược tiềm ẩn: từ lịch sử tương tác RPS hai người, đoán đúng kiểu người chơi (tĩnh / phân phối cố định / Markov)
Khớp phân phối biên: tái tạo đúng tần suất hành động tổng hợp
Thực thi quy tắc điều kiện: sinh tiếp chuỗi hành động tuân theo đúng quy tắc lịch sử-phụ thuộc

Thiết kế gồm 3 thí nghiệm RPS (tăng dần: nhận diện → Markov bậc một → joint-state và bậc hai) cộng một bài n-gram một người với quy tắc chuyển tiếp ngẫu nhiên, đẩy độ dài phụ thuộc từ 1 lên 8. Đánh giá bằng độ chính xác exact-match, rule overlap/strict match, MSE phân phối, CCLG và Jensen-Shannon divergence có trọng số. Các baseline tối đa hợp lý (MLE) chứng minh thông tin luôn đủ để khôi phục từ dữ liệu quan sát.

Ví dụ đời thường: giống như xem một người chơi cờ nhiều ván và đếm được anh ta đi tốt/tượng/xe đúng tỉ lệ — nhưng khi đến lượt mình đi lại không áp dụng được chiến thuật vì chỉ nhớ 'anh ta hay đi gì', không hiểu 'anh ta đi gì vì ván trước đã thế nào'.

III. Main Results:

Nhận diện Markov khó hơn Non-Markov: 6/7 mô hình (DeepSeek-Chat/Reasoner, GPT-5, GPT-5-mini, GPT-4.1, Gemini 3 Flash, Qwen3-8B) có độ chính xác nhận diện chiến lược lịch sử-phụ thuộc thấp hơn có ý nghĩa (p < .001); baseline MLE đạt 100% trên cùng dữ liệu → lỗi do mô hình, không do thiếu bằng chứng.
Context dài không giúp, thậm chí có hại: tăng lịch sử từ 100 lên 1000 vòng không cải thiện nhận diện; tất cả mô hình đều giảm trên Non-Markov.
Nhận diện đúng ≠ mô phỏng đúng: 41.8% các chiến lược nhận diện sai vẫn khớp phân phối biên trong TV ≤ 0.02; MSE của người chơi Markov cao hơn ~8-9% (hơn 100% ở tập nhận diện đúng).
Bậc hai là nút thắt: joint-state không gây khó, nhưng quy tắc bậc hai làm strict rule match sụt mạnh dù nhận diện danh tính vẫn cao.
Bài n-gram ngẫu nhiên: CCLG còn dương ở n = 1-4 nhưng sụt đổ ở n = 8; kéo dài prefix (256→2048) hay cung cấp sẵn bảng quy tắc chuyển tiếp đều không cứu được; baseline n-gram MLE vẫn ổn định.
Teacher forcing cho thấy hai nguồn lỗi: DeepSeek-Reasoner/GPT-5 yếu ở duy trì dài hạn, DeepSeek-Chat/GPT-5-mini yếu ngay ở áp dụng quy tắc cục bộ.

IV. Conclusion & Future Works:

Bài báo chứng minh nhận diện chiến lược, khớp phân phối biên và thực thi quy tắc điều kiện là ba năng lực tách rời: khớp hành vi bề mặt hoặc nhận diện đúng chiến lược đều không đảm bảo sinh tuần tự trung thực. Nút thắt cốt lõi là khả năng duy trì và áp dụng cấu trúc phụ thuộc bậc cao trong quá trình sinh, kéo dài cả khi không có vấn đề gán danh tính người chơi và khi quy tắc đã được cho trước. Hướng tương lai: khung này dùng được để đo lường và cải thiện năng lực hiểu cấu trúc tuần tự của LLM; các hạn chế gồm tập chiến lược được định nghĩa trước (chưa mở) và lựa chọn prompt/biểu diễn có thể chưa tối ưu.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng khung đánh giá sang không gian chiến lược mở, nơi mô hình phải tự phát hiện cấu trúc hành vi mà không có tập ứng viên khép kín.
Nghiên cứu cơ chế nội tại (interpretability) để xác định thành phần nào trong Transformer chịu trách nhiệm duy trì phụ thuộc bậc cao trong quá trình sinh tự do.
Phát triển kỹ thuật huấn luyện hoặc test-time nhằm cải thiện khôi phục quy tắc chuyển tiếp ngẫu nhiên bậc cao, lấy baseline n-gram MLE làm mục tiêu tham chiếu.
Áp dụng bộ tách 'nhận diện / khớp biên / thực thi quy tắc' cho mô phỏng người dùng trong hội thoại đa lượt và đánh giá tác tử công cụ.

2. Patent:

Hệ kiểm thử chất lượng chatbot tương tác trên điện thoại: mô phỏng người dùng bằng các quy tắc lịch sử-phụ thuộc có kiểm soát, tự động phát hiện khi chatbot chỉ bắt chước tần suất câu trả lời mà không theo đúng logic hội thoại.
Trợ lý AI học cách phản hồi khách hàng theo ngữ cảnh: phân tích lịch sử hội thoại để suy ra quy tắc ẩn (khách phàn nàn lần trước → ưu tiên xin lỗi), sau đó sinh phản hồi nhất quán với quy tắc đó thay vì chỉ dùng mẫu câu phổ biến.
Module phát hiện gian lận hành vi trong ứng dụng: so sánh chuỗi hành động của người dùng với cả hai giả thuyết (ngẫu nhiên độc lập vs phụ thuộc lịch sử) để nhận diện bot giả lập người chỉ khớp thống kê bề mặt.
Công cụ kiểm chứng mô hình mô phỏng hành vi người lái cho xe tự hành: sinh kịch bản giao thông tuân theo quy tắc chuyển tiếp bậc cao đã biết, đo mức độ mô hình duy trì đúng cấu trúc tuần tự khi dự đoán hành vi dài hạn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.04977
ArXiv Abstract	https://arxiv.org/abs/2610.04977
PDF Download	https://arxiv.org/pdf/2610.04977.pdf
Github Repository	N/A

33. ViSkill: Reinforcing VLM Agents with Evolving Visual-Native Skills (14 votes)

Tác giả: Hongxing Li, Dingming Li, Yixin Li, Yong Du, Wenqi Zhang, et al.

Xuất bản lúc: 2026-10-08

Tag: Vision-Language Models, Reinforcement Learning, Skill Learning, VLM Agents, PPO, Reward Shaping, Visual Reasoning

I. Main Problem:

Các tác tử VLM được huấn luyện bằng Reinforcement Learning tiêu tốn kinh nghiệm tương tác một cách lãng phí: chiến lược thành công chỉ được hấp thụ ngầm vào tham số mô hình, buộc tác tử phải tự khám phá lại những giải pháp không gian tương tự ở mỗi episode. Các phương pháp bổ sung kỹ năng (skill) hiện có mắc hai lỗ hổng:

Lỗ hổng biểu diễn: kỹ năng chủ yếu là dạng văn bản, biến bố cục không gian, vị trí tương đối và tương ứng hành động-trạng thái thành ngôn ngữ tuyến tính — làm mất thông tin hình học quan trọng để thực thi chiến lược.
Lỗ hổng học tập: các công trình mới bắt đầu dùng bằng chứng trực quan nhưng tách rời việc xây dựng kỹ năng khỏi tối ưu chính sách, bỏ qua tương tác hai chiều giữa hai quá trình.

II. Main Idea:

ViSkill biểu diễn kinh nghiệm thành công dưới dạng thẻ kỹ năng trực quan (visual skill card): ảnh ghép duy nhất chứa các khung hình quỹ đạo được chú thích kèm mô tả chiến lược do chính policy tự tóm tắt, giữ nguyên cấu trúc không gian và thủ tục thay vì phiên dịch sang chữ. Vòng lặp kín gồm ba giai đoạn:

Truy xuất theo hình học: so khớp mô tả hình học của trạng thái đầu vào (vị trí tương đối, khoảng cách, chướng ngại) với từng kỹ năng, kết hợp độ hữu dụng lịch sử; thẻ kỹ năng được chèn thẳng vào ngữ cảnh trực quan của VLM.
Phần thưởng dẫn hướng theo kỹ năng: quỹ đạo thất bại nhưng đi đúng hướng với kỹ năng tham chiếu nhận điểm tín chỉ một phần (luôn nhỏ hơn thưởng hoàn thành), giúp học tín hiệu dày hơn; policy được tối ưu bằng PPO.
Chưng cất trực tuyến: quỹ đạo thành công chỉ được thêm vào thư viện khi vượt cổng chất lượng (độ dài không quá ngưỡng của solver) và cổng mới lạ (không trùng kỹ năng hiện có); kỹ năng kém hữu dụng bị đuổi khi thư viện đầy. Cơ chế cold-start tùy chọn nạp sẵn vài kỹ năng hạt giống đa dạng từ solver để thúc đẩy giai đoạn đầu.

Ví dụ đời thường: giống người thợ lành nghề không viết sách dày mà dán ảnh chụp từng bước làm thành công lên bảng — lần sau gặp việc tương tự chỉ cần nhìn ảnh là biết làm, đồng thời mỗi lần làm tốt hơn lại chụp thêm ảnh mới dán lên, khiến bảng ngày càng giàu kinh nghiệm.

III. Main Results:

Success rate tổng thể 0.89, lên 0.91 với cold-start, vượt mọi baseline độc quyền (GPT-5: 0.70, o3: 0.69) và mở (VAGEN: 0.80, AtlasVA: 0.87).
Trên PrimitiveSkill (thao tác 3D): đạt 1.00 hoàn hảo, hơn VAGEN 12 điểm phần trăm.
Hội tụ nhanh hơn PPO chuẩn trên cả ba môi trường Sokoban, FrozenLake, PrimitiveSkill; cold-start giúp tăng tốc rõ rệt giai đoạn đầu.
Ablations:
- Kỹ năng dạng văn bản (0.63/0.59) và ảnh OCR (0.68/0.62) thua xa thẻ trực quan (0.82/0.84) — chứng tỏ giữ nguyên quỹ đạo ảnh là thiết yếu.
- Bỏ tối ưu policy gây sụt lớn nhất (−0.53/−0.51), xác nhận đồng tiến hóa giữa kỹ năng và chính sách là cốt lõi.
- Trọng số phần thưởng λ = 0.8 và ngưỡng truy xuất 0.80 là tối ưu; ngưỡng mới lạ 0.90 cân bằng tốt giữa kích thước và chất lượng thư viện.
Khả năng chuyển giao: thư viện kỹ năng tiến hóa cùng tối ưu policy giúp mô hình gốc chưa huấn luyện tăng từ 0.14 lên 0.41 (Sokoban) và 0.39 (FrozenLake).
Thẻ kỹ năng ở độ phân giải rất thấp vẫn vượt baseline văn bản với chi phí token ít hơn đáng kể.

IV. Conclusion & Future Works:

ViSkill lấp đầy lỗ hổng biểu diễn bằng thẻ kỹ năng trực quan giữ nguyên cấu trúc không gian, và lỗ hổng học tập bằng vòng phản hồi kín: kỹ năng truy xuất cải thiện policy qua ví dụ trong ngữ cảnh và định hình phần thưởng, policy tốt hơn lại chưng cất kỹ năng chất lượng cao hơn. Hạn chế: mới kiểm chứng trên các môi trường của framework VAGEN; lợi ích trong bối cảnh mở, phức tạp hơn chưa được xác thực; phần thưởng dẫn hướng giả định tiến bộ hữu ích đi qua các trạng thái gần với kỹ năng tham chiếu, nên hỗ trợ yếu khi lời giải hợp lệ đi theo đường trạng thái tách rời. Hướng tương lai: mở rộng sang môi trường phức tạp, mở đầu và nghiên cứu định hình phần thưởng cho các quỹ đạo lời giải phân nhánh.

V. Brainstorming Space:

1. Publish Papers:

Đưa thẻ kỹ năng trực quan lên tác vụ dài hạn, mở đầu trong môi trường 3D phức tạp hơn (nhà bếp, nhiều vật thể) để kiểm chứng giới hạn khái quát hóa của biểu diễn hình học.
Kết hợp định hình phần thưởng theo kỹ năng với các lời giải qua đường trạng thái tách rời: dùng so khớp nhiều kỹ năng đồng thời hoặc trừu tượng hóa quỹ đạo thành đoạn con để hướng dẫn cả tiến bộ gián tiếp.
Nghiên cứu chiến lược truy xuất đa kỹ năng (top-k thay vì top-1) và cơ chế hợp nhất, tổng hợp thẻ kỹ năng khi thư viện lớn, nhằm cân bằng phong phú ngữ cảnh với chi phí token.

2. Patent:

Trợ lý học việc trên điện thoại dạng ảnh: khi người dùng hoàn thành một thao tác nhiều bước (chỉnh ảnh, lập bảng), ứng dụng tự lưu chuỗi ảnh màn hình kèm chú thích bước làm thành 'thẻ mẹo'; lần sau gặp tác vụ tương tự, thẻ được hiển thị lại để gợi ý từng bước.
Hệ gợi ý thao tác cho người lớn tuổi: điện thoại quan sát người dùng hoàn thành việc (gửi ảnh, thanh toán), trích xuất cấu hình giao diện và lưu 'thẻ hướng dẫn hình ảnh'; khi cấu hình tương tự xuất hiện, thẻ hiện lên hướng dẫn từng chạm với phần thưởng khuyến khích thử đúng bước.
Đào tạo nhân viên qua thẻ kinh nghiệm hình ảnh: ứng dụng quản lý cửa hàng ghi lại video các ca xử lý tình huống thành công (khiếu nại, xếp hàng kho), chuyển thành thẻ ảnh có chú thích; nhân viên mới nhận thẻ phù hợp với tình huống hiện tại trên điện thoại, đồng thời thẻ mới được thêm vào kho khi họ xử lý tốt.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12403
ArXiv Abstract	https://arxiv.org/abs/2610.12403
PDF Download	https://arxiv.org/pdf/2610.12403.pdf
Github Repository	https://github.com/ZJU-REAL/ViSkill

34. ReSPO: Reshaped Sequence Policy Optimization for Gradient Starvation in Off-Policy Learning (12 votes)

Tác giả: Yihang Chen, Yuanhao Ban, Cho-Jui Hsieh

Xuất bản lúc: 2026-09-28

Tag: RLVR, GRPO, Off-Policy Learning, Policy Optimization, Importance Sampling, Large Language Models, Mixture-of-Experts

I. Main Problem:

Khi huấn luyện mô hình ngôn ngữ bằng điểm thưởng có thể kiểm chứng, việc tái sử dụng các câu trả lời đã sinh qua nhiều vòng cập nhật khiến dữ liệu ngày càng off-policy. Tác giả chỉ ra hiện tượng gradient starvation phụ thuộc dấu trong các phương pháp clipping kiểu GRPO/GSPO:

Với câu trả lời tốt, gradient tỉ lệ thuận với importance weight, nên những câu tốt đang ít được mô hình hiện tại sinh ra gần như mất tín hiệu cập nhật.
Với câu trả lời xấu, phần chưa bị clip có trọng số lớn vô hạn khi câu xấu bị sinh quá mức, khiến chúng áp đảo gradient của các mẫu khác.
Hệ quả là học off-policy kém ổn định, đặc biệt khi rollout reuse cao hoặc với mô hình MoE nhạy cảm với sự lệch policy.

II. Main Idea:

ReSPO thay clipping bằng một kernel mượt ở cấp toàn câu, điều chỉnh trọng số dựa trên tỉ lệ xác suất giữa policy hiện tại và policy cũ:

Xem việc reshape trọng số như thay đổi measure, từ đó thiết kế phân phối trung gian cân bằng giữa gần policy cũ, giảm bias và kiểm soát phương sai.
Dùng mục tiêu biến phân dựa trên α-divergence để có dạng power-mean, rồi chiếu sang dạng có kiểm soát phương sai bằng exponential tilt.
Tạo hai nhánh theo dấu điểm lợi thế:
- Câu tốt: nhánh α > 1 giữ trọng số khác 0 ngay cả khi câu tốt hiện rất hiếm, nhưng đẩy trọng số về 0 khi câu đã bị sinh quá mức.
- Câu xấu: nhánh giới hạn α = 1 triệt tiêu cả hai đuôi, ngăn câu xấu đang bị khuếch đại chi phối cập nhật.
Thực nghiệm dùng các dạng rút gọn: với câu tốt là hàm mượt có đỉnh tại trọng số 0, với câu xấu là căn bậc hai của trọng số nhân hàm mũ giảm dần, giúp hai nhánh khớp nhau tại điểm policy hiện tại.

Ví dụ đời thường: giống người chỉnh âm lượng hai chiều thay vì cắt âm thanh cứng theo ngưỡng — tiếng khen sắp tắt vẫn được khuếch đại vừa đủ để nghe thấy, còn tiếng chê đang gào thét thì bị bóp nhỏ lại ngay.

III. Main Results:

Trên DAPO-MATH với Qwen3-1.7B và Qwen3-30B-A3B, ở ba mức rollout reuse N = 8, 16, 32, ReSPO đạt early peak cao nhất trong 5/6 thiết lập và late mean cao nhất trong 5/6 thiết lập.
Trung bình giai đoạn cuối vượt baseline clipping tốt nhất trong cả 6 thiết lập, chênh khoảng 4.2–8.4 điểm phần trăm, với lợi thế lớn nhất tại N = 32.
Ở N = 16 và N = 32, ReSPO có benchmark average cao nhất ở cả hai quy mô mô hình; chênh baseline tốt nhất khoảng 0.8–3.2 điểm phần trăm trên Qwen3-1.7B và 1.9–3.2 điểm phần trăm trên Qwen3-30B-A3B.
Ưu thế nhất quán trên các bài thi khó như AIME25, AIME24 và AMC23, cho thấy khả năng học tốt hơn từ các suy luận dài và chất lượng tổng quát hóa tốt hơn.
Xếp các câu trả lời theo độ dài chung, ReSPO đạt accuracy cao nhất trong 24/30 bins, nghĩa là lợi thế không chỉ đến từ việc sinh câu dài hơn.
Kiểm tra thêm hạt giống tại N = 32 cho thấy chênh lệch ổn định: chẳng hạn Qwen3-30B-A3B đạt late mean khoảng 57.92%, cao hơn VESPO khoảng 5.62 điểm phần trăm.
Kết hợp với Routing Replay trên mô hình 30B ở N = 16 giúp penalized training accuracy cuối tăng từ 56.32% lên 58.16%, cho thấy hai kỹ thuật bổ sung lẫn nhau.

IV. Conclusion & Future Works:

ReSPO cho thấy vấn đề cốt lõi không chỉ là kiểm soát phương sai, mà là phân bổ gradient đúng theo dấu và theo đuôi trọng số trong học off-policy. Bằng cách dùng kernel hai nhánh ở cấp câu trả lời, phương pháp giữ tín hiệu từ các câu đúng hiếm gặp đồng thời kìm các câu sai bị lặp lại quá mức. Bài báo không đưa ra một chương trình tương lai chi tiết; phần hạn chế được nêu là ngân sách tính toán và phạm vi tìm kiếm siêu tham số, nên hướng mở rộng tự nhiên là kiểm tra độ nhạy tham số, tổ hợp kỹ thuật ổn định MoE, và các bài toán có độ lệch policy lớn hơn.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng kernel reshape ở cấp toàn câu cho học off-policy với điểm thưởng có thể kiểm chứng, khảo sát các họ divergence ngoài α-divergence và đặc tính đuôi theo dấu.
Phương pháp tự điều chỉnh hệ số reshape theo mức tái sử dụng rollout và độ lệch policy tích lũy, nhằm giảm phụ thuộc vào tinh chỉnh thủ công.
Tích hợp kiểm soát trọng số cấp câu với các kỹ thuật ổn định mô hình MoE để cải thiện huấn luyện suy luận dài ở quy mô lớn.

2. Patent:

Hệ thống tinh chỉnh mô hình ngôn ngữ trợ lý toán học trên điện thoại: ứng dụng gửi câu hỏi, câu trả lời và điểm kiểm chứng về máy chủ; máy chủ tái sử dụng dữ liệu qua nhiều vòng cập nhật nhưng tính trọng số mượt theo tỉ lệ xác suất toàn câu, ưu tiên lời giải đúng hiếm gặp và giảm ảnh hưởng lời giải sai bị lặp lại.
Dịch vụ cập nhật trợ lý AI cá nhân trên đám mây cho điện thoại: khi policy mới thay đổi sau mỗi đợt huấn luyện, hệ thống không vứt dữ liệu cũ mà đo mức lệch khả năng sinh từng câu trả lời, rồi áp hệ số học riêng cho phản hồi tốt và xấu để tiết kiệm chi phí tạo dữ liệu mới.
Module huấn luyện tiết kiệm GPU cho mô hình ngôn ngữ trong ứng dụng di động: bộ lập lịch cache câu trả lời, tính trọng số cập nhật theo xác suất toàn câu thay vì từng từ, tự động khuếch đại nhẹ các mẫu tốt đang bị bỏ quên và bóp nhỏ các mẫu xấu có ảnh hưởng quá lớn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.35433
ArXiv Abstract	https://arxiv.org/abs/2609.35433
PDF Download	https://arxiv.org/pdf/2609.35433.pdf
Github Repository	https://github.com/yhangchen/ReSPO-code

35. SpatialOPSD: Self-Distilling Spatial Intelligence from Verified Coding Agent Traces (12 votes)

Tác giả: Rongxue Li, Meng Yang, Yiru Mao, Yongliang Tao, Lulu Hu, et al.

Xuất bản lúc: 2026-10-08

Tag: MLLMs, Spatial Reasoning, Self-Distillation, Chain-of-Thought, Coding Agents, Reinforcement Learning, Knowledge Distillation

I. Main Problem:

Mô hình ngôn ngữ đa phương thức (MLLM) yếu trong suy luận không gian (suy ra 3D từ ảnh 2D), vì các bước suy luận hình học trung gian không thể tự động kiểm chứng được:

SFT theo cặp hỏi-đáp: suy luận không gian vẫn ngầm, mong manh, khái quát kém
RL (GRPO): thiếu phần thưởng thưa thớt cho bước trung gian, phụ thuộc dữ liệu cold-start đắt đỏ
Spatial coding agent (viết code gọi công cụ hình học): giải được nút thắt kiểm chứng, nhưng chuyển gánh nặng sang lúc suy luận — độ trễ cao, phụ thuộc hạ tầng ngoài, không dùng được khi không có công cụ

II. Main Idea:

SpatialOPSD: cô đọng năng lực của spatial coding agent vào một MLLM độc lập, không cần công cụ lúc suy luận, qua on-policy self-distillation (OPSD):

Quan sát khởi đầu: chỉ cần cho MLLM xem trace thực thi (đã rút gọn) của agent, mô hình tự sinh CoT không gian chất lượng cao — ngang chính agent dùng công cụ (khái niệm 3D tăng 1.8×)
Giai đoạn 1 — Trace Collection: chạy agent (SpatialClaw/pySpatial) trên dữ liệu huấn luyện, chỉ giữ lại trace đã xác minh đúng đáp án, rồi tóm tắt thành privileged information (dạng SUMMARY hoạt động tốt nhất)
Giai đoạn 2 — Repetition-Aware Distillation: teacher = bản sao đông cứng của chính student nhưng được xem privileged info; student chỉ thấy đầu vào thô. Học trên rollout do student tự sinh (on-policy), kèm hai cơ chế chống lặp:
- repetition masking: phát hiện n-gram nào sao chép từ privileged info hoặc lặp lại trong rollout → che khỏi mất distillation
- unlikelihood penalty: phạt trực tiếp token bị gắn cờ, ngăn học sinh copy trace lúc test (privileged-information leakage)

Ví dụ đời thường: giống thực tập sinh học nghề — ban đầu được phép xem sổ tay ghi chép của thợ lành nghề (privileged info) để làm bài, nhưng sếp phạt mỗi lần chép nguyên văn; dần dần thực tập sinh phải hiểu logic và tự làm không cần sổ tay nữa.

III. Main Results:

Trên MindCube-Tiny + ViewSpatial: 51.9% (Qwen3.5-9B), vượt SFT (47.6) và GRPO (48.2); cải thiện +6.0 so với baseline CoT, đặc biệt tác vụ allocentric (Among +11.7)
Giữ 91% hiệu năng của teacher dùng công cụ (SpatialClaw 57.3) chỉ bằng một forward pass không công cụ; vượt GPT-5, sát Gemini-3-Pro dù chỉ 9B
OOD tốt nhất: trung bình 64.7% trên OmniSpatial/BLINK/MMStar/VideoMME, cao hơn SFT (38.4) và GRPO (63.4), không suy giảm năng lực đa phương thức chung
Ablation: repetition masking tăng accuracy mạnh nhất, unlikelihood giảm leakage mạnh nhất (82.7% → 9.1%); cả hai bổ trợ nhau
Quy mô: hiệu quả ở mọi cỡ 2B (+2.2), 4B (+3.8), 27B (+3.6); tổng quát qua nhiều agent (SpatialClaw, pySpatial)
Verification quan trọng: chỉ 5,008 trace đúng tốt hơn 10,000 trace không lọc (+4.9 điểm) — chất lượng hơn số lượng

IV. Conclusion & Future Works:

SpatialOPSD cho thấy trace của coding agent là nguồn supervision giàu giá trị để khai phá CoT không gian nội tại, và internal hóa năng lực agentic hoàn toàn khả thi. Repetition-Aware Distillation là cách đơn giản nhưng hiệu quả để tách suy luận hình học khỏi artifact của công cụ, mở vòng lặp tự cô đọng tri thức từ dữ liệu do chính mô hình tạo ra. Hướng tương lai (suy luận từ khuôn khổ): mở rộng sang các dạng suy luận khó kiểm chứng khác, và cải tiến cách xây dựng privileged information để cân bằng chuyển giao tri thức / rò rỉ thông tin tốt hơn.

V. Brainstorming Space:

1. Publish Papers:

Áp dụng OPSD với repetition-aware penalty cho các tác vụ suy luận đa phương thức khó kiểm chứng khác (vật lý, thời gian-video) để tạo vòng lặp tự cô đọng năng lực agentic.
Nghiên cứu cơ chế xây dựng privileged information tối ưu hơn SUMMARY: học cách tóm tắt trace theo entropy gap giữa teacher-student thay vì dùng prompt cố định.
Kết hợp distillation từ agent trace với RL hậu kỳ để vừa internal hóa suy luận không gian vừa tinh chỉnh độ chính xác đáp án cuối.

2. Patent:

Trợ lý ảnh trên điện thoại hiểu không gian mà không cần máy chủ: app chạy sẵn model đã được cô đọng từ trace của agent hình học, nên trả lời câu hỏi kiểu 'hai vật cách nhau bao xa', 'tôi đã di chuyển theo hướng nào giữa hai ảnh' ngay trên máy, không cần gọi công cụ đo đạc bên ngoài.
Tính năng đo khoảng cách và bố trí nội thất bằng camera điện thoại: chụp vài góc phòng, ứng dụng suy luận vị trí 3D của đồ vật trong một lượt xử lý duy nhất để gợi ý sắp xếp lại đồ đạc hoặc ước lượng kích thước, không phụ thuộc dịch vụ đám mây nặng.
Hệ thống đào tạo mô hình nội bộ cho thiết bị edge (robot hậu cần, kho hàng): máy chủ huấn luyện tạo trace kiểm chứng bằng công cụ hình học, cô đọng thành model gọn chạy offline trên thiết bị, giảm độ trễ và chi phí hạ tầng khi robot phải suy luận không gian liên tục.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.11366
ArXiv Abstract	https://arxiv.org/abs/2610.11366
PDF Download	https://arxiv.org/pdf/2610.11366.pdf
Github Repository	N/A

36. Retrieval-Centric Deep Learning in Growing Nonparametric Neural Networks (12 votes)

Tác giả: Maximilian Schlegel, Rajai Nasser, Seijin Kobayashi, Yanick Schimpf, Oliver Sieberling, et al.

Xuất bản lúc: 2026-10-02

Tag: Retrieval-Centric Deep Learning, Growing Neural Networks, Linear Attention, Kernel Methods, Nonparametric Learning, Functional Gradient Descent, Optimizers, Muon, Key-Value Memory

I. Main Problem:

Deep learning truyền thống nén toàn bộ dữ liệu huấn luyện vào ma trận trọng số kích thước cố định bằng gradient descent. Một tính chất toán học kinh điển ít được biết đến là: mọi lớp tuyến tính huấn luyện bằng gradient descent đều có dạng song song (dual form) — một hệ thống key-value memory lưu trữ toàn bộ dữ liệu huấn luyện và truy xuất qua linear attention.

Điểm yếu cốt lõi:

linear attention trong dạng song song này là cơ chế cơ bản nhất, kém mạnh so với softmax attention trong transformer
ý tưởng thay linear attention bằng attention mạnh hơn từng được đề xuất nhưng chưa ai làm được, vì áp dụng máy móc learning rule của linear attention vào các kernel nâng cao không dẫn tới tối ưu có nguyên tắc — đặc biệt với softmax, việc thêm một key mới làm thay đổi mẫu số một cách gián đoạn
một hệ thống lưu trữ tất cả dữ liệu sẽ lớn lên liên tục, gây quá tải bộ nhớ.

II. Main Idea:

Thay vì nén dữ liệu vào trọng số, lớp Retrieval-Centric lưu một cặp key-value cho mỗi điểm dữ liệu trong khi huấn luyện, và ở inference truy xuất + tái kết hợp qua cơ chế attention — mạng lớn dần (growing) thay vì cố định kích thước. Bài báo xây dựng learning rule có nguyên tắc cho hai hướng:

Kernel xác định dương (RBF): dùng Moore-Aronszajn theorem để xem lớp như lớp tuyến tính trong không gian Hilbert vô hạn chiều; gradient descent trên trọng số ẩn tương đương hệ thốc thêm cặp key=value mới (key = input, value = tín hiệu lỗi).
Weighted Softmax kernel (đóng góp chính): softmax chuẩn không cho phép "thêm mượt" key mới vì mẫu số thay đổi đột ngột. Tác giả gán trọng số vô hướng cho mỗi entry, chứng minh hỗn hợp Gaussian tương đương hàm softmax rời rạc, rồi dùng functional gradient descent (Fréchet derivative + Riesz representation) để suy ra rule thêm tuple (weight, key, value) mới có bảo đảm toán học.
Hướng thứ hai: thay linear attention bằng MesaNet/DeltaNet trong dual form → rút ra optimizer cho mạng truyền thống, có liên hệ hình thức với FOOF/KFAC (second-order), hiệu quả cạnh tranh với Muon.
Hybrid growth: chỉ thêm key-value khi input đủ khác biệt so với dữ liệu cũ (ngưỡng τ), còn lại tinh chỉnh bằng optimizer parametric (Adam) → tăng trưởng bộ nhớ sublinear.

Ví dụ đời thường: giống người thợ có kinh nghiệm không cố nhớ công thức vào đầu mà lưu lại mỗi ca làm việc cụ thể vào sổ tay; khi gặp việc mới thì lật sổ tìm những ca giống nhất để tham khảo, và chỉ viết thêm trang mới khi việc thật sự chưa từng gặp.

III. Main Results:

CIFAR-10/100: growing Weighted Softmax và RBF (chỉ dùng SGD thuần) vượt rõ MLP huấn luyện bằng SGD, Adam, AdamW, RMSProp và cạnh tranh với MLP + Muon; MesaNet/FOOF optimizer đạt kết quả tốt nhất trên CIFAR-100.
Training loss của các mô hình nonparametric giảm nhanh hơn hẳn mọi baseline — tốt cho bài toán vừa cần khái quát hóa vừa cần ghi nhớ.
Single-pass (online) learning: growing methods vượt tất cả mô hình parametric kể cả Muon và Mesa.
Teacher-student regression: Weighted Softmax growing vượt xa baseline parametric softmax cùng kiến trúc, dù chỉ có một lớp.
Kiểm chứng nonlinear regime: linear hóa hàm exp sau huấn luyện làm accuracy sụt mạnh, chứng tỏ mô hình thật sự dùng kernel phi tuyến; mô hình cũng không có train-test gap như bản parametric.
ViT hybrid: thay feed-forward block bằng RCDL layer (giữ attention parametric) → 54.4% vs 48.4% sau 1 epoch CIFAR-10.
Hybrid growth: giữ accuracy cao với phần nhỏ bộ nhớ so với bản fully nonparametric, suy giảm êm khi nén thêm.

IV. Conclusion & Future Works:

RCDL thay linear attention nằm ở gốc rễ của mọi mạng nơ-ron bằng cơ chế attention mạnh hơn, mở ra hai hướng: (1) mạng nonparametric lớn dần học bằng functional gradient descent với rule mới cho weighted softmax kernel; (2) optimizer second-order cho mạng truyền thống thông qua MesaNet/DeltaNet.

Hướng tương lai:

nén các lớp growing (pruning key-value kiểu sliding window / token merging)
suy ra learning rule cho optimizer nâng cao (Adam, Muon) trong RCDL
tích hợp lớp RCDL vào language models
tiềm năng cho continual learning vì không nén mất dữ liệu cũ — gần với hiện tượng "silent memory" trong sinh học thần kinh (quên do không truy xuất được chứ không mất thật).

V. Brainstorming Space:

1. Publish Papers:

Thiết kế learning rule cho growing nonparametric networks tương ứng với optimizer nâng cao (Adam, Muon) để thu hẹp khoảng cách với mô hình parametric trên benchmark lớn.
Nghiên cứu nén có nguyên tắc cơ sở dữ liệu key-value trong RCDL (token merging, eviction) nhằm giữ hiệu năng với tăng trưởng bộ nhớ sublinear cho dữ liệu quy mô web.
Tích hợp lớp retrieval-centric vào kiến trúc transformer/language model và đánh giá trên pretraining quy mô lớn.
Khai thác tính chất không nén mất ký ức của RCDL cho continual learning và khôi phục trí nhớ cũ trong quá trình inference.

2. Patent:

Hệ thống học trên điện thoại không quên dữ liệu cũ: thay vì cập nhật trọng số, ứng dụng lưu điểm dữ liệu dạng cặp key-value, khi dùng sẽ tự truy xuất những trường hợp giống nhất để đưa ra dự đoán, giúp người dùng không bị mất khả năng nhớ ví dụ cũ khi học ví dụ mới.
Trợ lý ảo cá nhân hóa trên thiết bị di động: mỗi tương tác của người dùng được lưu vào bộ nhớ key-value lớn dần, khi trả lời sẽ tự tìm lại những lần tương tác tương tự trong quá khứ để câu trả lời sát ngữ cảnh riêng của từng người.
Cơ chế tiết kiệm bộ nhớ cho mô hình AI trên điện thoại: chỉ lưu trường hợp mới khi nó đủ khác với mọi trường hợp đã lưu, còn lại chỉ tinh chỉnh dữ liệu cũ — giúp mô hình giữ hiệu năng cao mà dung lượng tăng chậm theo thời gian sử dụng.
Hệ thống chẩn đoán y tế tích lũy kinh nghiệm: mỗi ca bệnh là một cặp key-value trong cơ sở dữ liệu lớn dần, khi có ca mới bác sĩ/ứng dụng tự truy xuất các ca lịch sử tương đồng để đối chiếu, thay vì phải fine-tune lại mô hình sau mỗi đợt dữ liệu.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.03858
ArXiv Abstract	https://arxiv.org/abs/2610.03858
PDF Download	https://arxiv.org/pdf/2610.03858.pdf
Github Repository	https://github.com/paradigms-of-intelligence/rcdl

37. V-CoLA: Vision Token Compression with Linear Attention (12 votes)

Tác giả: Hao Jiang, Yiru Mao, Tianpeng Bu, Hao Zhou, Hongtao Duan, et al.

Xuất bản lúc: 2026-10-08

Tag: Vision-Language Models, Linear Attention, Token Compression, Inference Acceleration, Qwen3.5, Gated DeltaNet, Training-free

I. Main Problem:

Các mô hình thị giác-ngôn ngữ (VLMs) hiện đại có chi phí tính toán rất lớn vì số token ảnh thường áp đảo token chữ. Khi kiến trúc chuyển sang dạng hybrid với linear attention như Qwen3.5, các phương pháp nén token cũ hầu như không chuyển giao được:

Phương pháp dựa trên attention score phụ thuộc softmax attention; trong mô hình hybrid, tín hiệu attention nông và phân phối khác khiến cách chọn token quan trọng bằng lớp nông không đủ.
Phương pháp dựa trên độ tương đồng đặc trưng mất độ tin cậy vì trạng thái nén của linear attention làm biến đổi cấu trúc khác biệt giữa các token.
Kết quả: nhiều baseline attention-/similarity-based không thắng cả chọn ngẫu nhiên trên Qwen3.5, cho thấy cần tiêu chuẩn quan trọng nội sinh từ chính cơ chế linear attention.

II. Main Idea:

V-CoLA là khung training-free nén token ảnh cho VLMs hybrid dùng linear attention, khai thác đúng điểm mấu chốt: linear attention phải chọn lọc thông tin ghi vào trạng thái bị chặn kích thước, nên sự thay đổi/khả năng tái cấu trúc của trạng thái tự nó là tín hiệu độ quan trọng. Thành phần chính:

Uniqueness-aware importance: kết hợp - đóng góp dài hạn của token vào trạng thái cuối qua reconstruction error giữa đọc trạng thái cuối bằng key và value gốc;
- tính độc nhất ngắn hạn bằng mức trạng thái thay đổi khi hấp thụ token, đo qua cửa sổ pseudo-query để tránh chọn trùng các vùng salient.
Adaptive chunk-wise merging: thay vì cắt cứng top-k, phân token thành các chunk có tổng độ quan trọng gần bằng nhau, rồi gộp trong từng chunk theo trọng số softmax của điểm quan trọng; vùng giàu thông tin được chia mịn hơn, vùng ít thông tin gộp thô hơn.
Early exit vision tokens: quan sát perplexity và benchmark cho thấy sau khoảng layer-24 token ảnh gần như không còn ảnh hưởng, nên loại bỏ toàn bộ token ảnh ở các layer sâu để tiết kiệm thêm.
Toàn bộ tính toán được tối ưu theo chunk-wise parallelism của linear attention, chi phí pruning chỉ khoảng 1.6% forward pass.

Ví dụ đời thường: giống người pha chế có chiếc túi nhỏ không chứa hết nguyên liệu, nên phải ngửi và chọn giữ lại mùi vị đặc trưng nhất, gộp các vị giống nhau thành một thìa, rồi bỏ phần gia vị nhạt dần ở cuối quy trình.

III. Main Results:

Trên Qwen3.5-9B, V-CoLA đạt khoảng 99.5% hiệu năng gốc khi giữ 50% token ảnh, và vẫn giữ trên 88% khi chỉ còn 12.5% token ảnh.
Vượt các baseline như FastV, SparseVLM, DART, VisionZip và DTP ở nhiều benchmark: MME, MMB, GQA, ScienceQA, TextVQA, POPE, VizWiz, MMStar.
Tăng tốc prefill thực tế từ 1.86× tới 6.15× tùy số token ảnh và tỉ lệ nén; phần gộp token thích ứng chỉ tốn khoảng 0.86 ms, tương đương ~0.1% chi phí prefill.
Extended Gated DeltaRule giữ độ trễ gần tương đương với operator gốc ở suy luận đơn query và nhanh 3.85× ở chế độ 4-query.
Ablation cho thấy cả adaptive merging và early exit đều đóng góp; bỏ một trong hai làm hiệu năng giảm rõ, đặc biệt ở mức nén mạnh.
Khả năng khái quát tốt trên Qwen3.5-27B và InfiniteVL với cùng cấu hình mặc định, cho thấy ít cần tinh chỉnh riêng theo model scale hay họ kiến trúc.

IV. Conclusion & Future Works:

V-CoLA cho thấy nén token ảnh cho VLMs hybrid không nên kế thừa mù quáng công thức softmax attention, mà cần đọc tín hiệu chọn lọc nội sinh từ trạng thái recurrent của linear attention. Điểm mạnh là hiệu năng cao, training-free, chi phí triển khai rất thấp và tương thích song song theo chunk. Hạn chế: mới chủ yếu đánh giá trên các hybrid VLM kiểu xen kẽ linear attention và softmax attention; chưa bao phủ mô hình thuần Mamba/fully linear attention, và phân tích dựa nhiều vào dạng Gated DeltaNet nên cần kiểm chứng thêm trên các quy tắc cập nhật recurrent khác. Hướng tương lai hợp lý: mở rộng cho recurrent backbone dạng tổng quát, thử nghiệm rộng hơn ngoài Gated DeltaNet, và tối ưu thêm cho suy luận đa lượt/dài hơi.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng tiêu chuẩn độ quan trọng dựa trên tái cấu trúc trạng thái cho các mô hình thị giác-ngôn ngữ thuần recurrent, nơi không còn lớp softmax attention định kỳ để hiệu chỉnh tín hiệu.
Nghiên cứu nén token động theo từng lớp cho mô hình hybrid, kết hợp ngưỡng early exit học được với phân bổ ngân sách token khác nhau giữa giai đoạn nhận diện ảnh và suy luận ngôn ngữ.
Phát triển biến thể V-CoLA cho video và tài liệu dài, nơi token ảnh/nhung thay đổi theo thời gian và cần chiến lược gộp chunk có tính nhất quán temporal.
Đánh giá tính bền vững của tín hiệu uniqueness-aware trước nhiễu ảnh, độ phân giải thay đổi và adversarial patch, để hiểu khi nào reconstruction-based importance bị đánh lừa.

2. Patent:

Trợ lý ảnh trên điện thoại dùng mô hình hybrid tiết kiệm pin: giảm số mảnh ảnh trước khi đưa vào mô hình ngôn ngữ bằng cách đo mức ảnh hưởng lâu dài và mức thay đổi bộ nhớ khi thêm từng mảnh, rồi gộp các mảnh giống nhau theo từng vùng để trả lời nhanh hơn mà ít giảm chất lượng.
Chế độ chụp và hỏi nhanh cho camera di động: khi người dùng chụp ảnh độ phân giải cao, điện thoại tự rút gọn các vùng ít quan trọng, giữ chi tiết ở vùng chứa chữ, vật thể nhỏ hoặc khuôn mặt, để mô hình trên máy trả lời trong thời gian thực.
Hệ thống OCR và đọc biển báo tiết kiệm dung lượng trên thiết bị biên: ưu tiên giữ các vùng có ký tự hoặc chi tiết tách biệt cao, gộp nền lặp lại thành ít mảnh hơn trước khi chạy nhận diện, giảm độ trễ khi người dùng di camera qua nhiều biển báo liên tục.
Module kiểm thử tự động cho ứng dụng đa phương thức: trước khi phát hành, hệ thống chạy thử nhiều tỉ lệ rút gọn ảnh, so sánh câu trả lời với bản không rút gọn để chọn mức nén an toàn cho từng loại tác vụ như mô tả ảnh, đếm vật thể hoặc trả lời câu hỏi.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.11251
ArXiv Abstract	https://arxiv.org/abs/2610.11251
PDF Download	https://arxiv.org/pdf/2610.11251.pdf
Github Repository	N/A

38. A GPU-Parallel Framework for Heterogeneous Multi-Task Reinforcement Learning (11 votes)

Tác giả: Rui Zhang, Qiwei Wu, Zhengyu Zhang, Tao Li, Hongyu Zhou, et al.

Xuất bản lúc: 2026-10-06

Tag: Reinforcement Learning, Multi-Task Learning, GPU-Parallel Simulation, Robotics, Imitation Learning, PPO

I. Main Problem:

GPU-parallel simulation tạo ra lượng tương tác robot khổng lồ, nhưng các benchmark hiện có thiếu kết hợp ba yếu tố cùng lúc:

40 tác vụ thao túng đa dạng (đối tượng, không gian, mục tiêu, chuỗi dài) trong một tiến trình GPU-parallel
Đánh giá MTRL chuẩn hóa cho cả input trạng thái và ảnh
Dữ liệu demonstration hỗ trợ học với reward thưa (sparse goal reward)

Ngoài ra, học chính sách chung cho nhiều tác vụ đối mặt hai thách thức thuật toán: mất cân bằng tiến độ giữa các tác vụ (tác vụ dễ học nhanh chiếm ưu thế) và khó khám phá khi reward chỉ phát khi hoàn thành.

II. Main Idea:

Bài báo đề xuất hai thành phần bổ trợ nhau:

Hebero: benchmark dựng cả 40 tác vụ LIBERO vào một tiến trình Isaac Lab GPU-parallel, với giao diện quan sát/hành động/thưởng thống nhất, demonstration và protocol đánh giá chuẩn (reset ngẫu nhiên vị trí vật thể thay vì lặp lại vị trí ghi hình).
DGPO (Demonstration-Guided Policy Optimization): khung huấn luyện tái sử dụng demonstration cho dense tracking reward (theo dõi cả chuyển động robot lẫn trạng thái vật thể), asymmetric value learning (critic nhìn thông tin đặc quyền), và PPO có điều kiện tác vụ.
IW-ABC (công thức tham chiếu trong DGPO): dùng một tín hiệu tiến độ duy nhất — EMA success rate từng tác vụ — để điều phối hai cơ chế:
- ABC: nhân bản hành vi suy giảm dần theo tiến độ tác vụ và thời gian huấn luyện
- IW: gán trọng số PPO lớn hơn cho các tác vụ tụt hậu so với trung bình

Ví dụ đời thường: giống thầy giáo dạy nghề quan sát từng học viên — người nào đã làm tốt thì thầy buông tay để tự luyện (ABC), còn người yếu thì thầy kèm sát và dành nhiều thời gian hơn (IW), tất cả chỉ cần theo dõi một thước đo duy nhất là "bài kiểm tra gần nhất".

III. Main Results:

Throughput: 7.500 simulation steps/s trên 1 GPU L20 (40 tác vụ, 1.600 envs), gấp 3,4 lần baseline MuJoCo 96 nhân CPU; 78.500 SPS với 8 GPU. Tăng số env song song cải thiện success rate trong cùng ngân sách wall-clock.
State-input IW-ABC: Mean SR 90,1%, Long SR 70,0%, vượt baseline mạnh nhất FAMO-ABC (82,3%) +7,8 điểm phần trăm với actor chỉ 0,32M tham số.
Visual IW-ABC: Mean SR 93,5%, Long SR 81,9%, coverage 38/40 tác vụ.
Task coverage tăng rõ ở suite khó: IW-ABC giải được 7/10 tác vụ Long-horizon (PPO thuần 3/40 coverage tổng).
Triển khai thật: một chính sách chung 4 tác vụ trên robot Piper vật lý đạt 82,5% success (20 lần thử/tác vụ), không cập nhật trọng số.

IV. Conclusion & Future Works:

Hebero chứng minh song song hóa GPU có thể biến throughput thành chiều rộng kỹ năng (một chính sách học 40 tác vụ cùng lúc), còn DGPO/IW-ABC cho thấy một tín hiệu tiến độ rẻ tiền đủ để cân bằng giữa bắt chước và khám phá. Hạn chế: mục tiêu action theo chỉ số thời gian của IW-ABC có thể lệch pha khi quỹ đạo trôi; thí nghiệm giới hạn ở LIBERO và RoboTwin. Hướng tương lai: mở rộng phương pháp benchmark và DGPO lên tập tác vụ lớn hơn, khó hơn.

V. Brainstorming Space:

1. Publish Papers:

Cơ chế điều phối học đa tác vụ bằng tín hiệu tiến độ thống nhất: mở rộng IW-ABC sang cân bằng gradient và phân bổ môi trường song song động thay vì chỉ trọng số loss.
Khắc phục lệch pha mục tiêu demonstration bằng căn chỉnh quỹ đạo có học (soft alignment) thay cho đối chiếu theo chỉ số thời gian cứng trong thưởng theo dõi.
Benchmark mở rộng Hebero sang hàng trăm tác vụ và các dạng tương tác mới (mềm, dẻo, đa tay), kèm protocol đánh giá cho lifelong multi-task RL.

2. Patent:

Nền tảng huấn luyện robot công nghiệp trên đám mây GPU: nhiều tác vụ lắp ráp khác nhau chạy song song trong một môi trường mô phỏng duy nhất, chính sách chung được huấn luyện rồi đẩy xuống robot thật qua ứng dụng điện thoại để điều khiển nhiều thao tác.
Hệ thống dạy robot bằng video minh họa trên điện thoại: người dùng quay vài lần thao tác (mở nắp, đổ nước), ứng dụng biến video thành phần thưởng dày theo dõi chuyển động và tự điều chỉnh mức "bám theo mẫu" dựa trên mức độ robot đã làm được.
Phần mềm quản lý dây chuyền robot tự cân bằng: theo dõi tỷ lệ thành công từng công đoạn theo thời gian thực, tự động ưu tiên huấn luyện lại các công đoạn tụt hậu mà không cần kỹ sư cấu hình thủ công.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2606.03335
ArXiv Abstract	https://arxiv.org/abs/2606.03335
PDF Download	https://arxiv.org/pdf/2606.03335.pdf
Github Repository	https://github.com/hebero-rl/Hebero

39. SpaceCast-Bench: Evaluating Predictive Spatial Reasoning in Vision-Language Models (11 votes)

Tác giả: Hongxing Li, Jinyue Su, Dingming Li, Wenqi Zhang, Weiming Lu, et al.

Xuất bản lúc: 2026-10-08

Tag: Vision-Language Models, Spatial Reasoning, Benchmark, 3D Scene Understanding, World Models, Fine-Tuning

I. Main Problem:

Các benchmark không gian hiện tại chủ yếu đo spatial perception: đọc quan hệ đã thấy trong ảnh. Trong thực tế, mô hình cần predictive spatial reasoning: quan sát cảnh, tưởng tượng một can thiệp làm cảnh thay đổi, rồi suy ra kết quả chưa được quan sát. Ví dụ robot muốn lấy phong bì dưới quyển sách mà trên sách có cốc: nó phải dự đoán kéo sách sẽ làm cốc rơi, rồi đổi kế hoạch. Điểm thiếu cốt lõi:

chưa có benchmark kiểm soát được khả năng xây dựng scene, cập nhật spatial state, và suy luận quan hệ sau biến đổi;
không tách bạch được mô hình sai ở khâu quan sát, khâu biến đổi, hay khâu suy luận;
các mô hình fine-tune cho tác vụ không gian vẫn có thể chỉ học đọc đặc trưng cục bộ, không biết dự đoán trạng thái mới.

II. Main Idea:

SpaceCast-Bench là benchmark đầu tiên đánh giá trực tiếp và chẩn đoán predictive spatial reasoning theo khung observe–transform–infer: mô hình nhìn chuỗi ảnh trước biến đổi, nhận mô tả can thiệp bằng ngôn ngữ, rồi trả lời về trạng thái kết quả mà nó không được thấy. Dữ liệu gồm 3,862 câu hỏi, 182 scene, 16 task types, chia thành ba cấp độ:

L1 Static Perception: quan hệ không đổi, làm baseline cho khâu quan sát;
L2 Local Prediction: dịch chuyển, quay quanh vật khác, hoặc gỡ một vật cùng các vật bị kéo theo;
L3 Global Prediction: xoay toàn bộ layout theo yaw, buộc mô hình tách hệ quy chiếu cảnh khỏi camera.

Pipeline dựng từ ScanNet và ScanNet++ có RGB-D pose sẵn: xây view chain được kiểm bằng depth, thêm bridge views để nối các vùng quan sát rời rạc, lập attachment graph từ tiếp xúc và hỗ trợ, áp biến đổi 3D kiểm soát, rồi tính nhãn từ hình học và kiểm chất lượng bằng người. Quan hệ được đo gồm direction, distance, occlusion, attachment, với hướng theo ba hệ: camera-centric, object-centric, world-centric.

Ví dụ đời thường: giống như một kiến trúc sư chỉ được xem vài tấm ảnh căn phòng trước khi dồn đồ, người đó phải dựng lại sơ đồ phòng trong đầu, di chuyển bàn ghế trên sơ đồ đó, rồi trả lời vật này nằm ở đâu sau khi cả phòng xoay — dù kết quả cuối cùng chưa từng xuất hiện trong ảnh.

III. Main Results:

Khoảng cách người–mô hình rất lớn: người đạt 87.2%, mô hình mạnh nhất là Gemini 3.5 Flash chỉ đạt 58.0%; random là 25.9%.
Gemini 3 Flash đạt 56.7%, Qwen3.7-Plus đạt 55.3%; mô hình open-weight mạnh nhất là Qwen3.5-27B với 39.3%.
Các mô hình spatially specialized chỉ đạt khoảng 25.7–29.1%, gần random và thấp hơn cả mô hình đa dụng cho thấy fine-tune không gian hiện tại chưa tạo ra khả năng cập nhật trạng thái không gian.
Theo cấp độ, nhiều mô hình giảm từ L1 sang L2, riêng các mô hình mạnh phục hồi khá ở L3; các mô hình chuyên không gian thường suy giảm mạnh ở L3.
CoT prompting không cải thiện đều: có mô hình tăng ở global nhưng giảm ở static/local.
Bridge views quan trọng; bỏ chúng làm giảm mạnh nhất ở world-centric direction, từ 39.9% xuống 34.6%.
Bằng chứng 3D显式 hữu ích hơn ảnh/video do world model sinh ra: metadata 3D tăng tới +30.7 điểm phần trăm cho proprietary models và +10.9 cho open-weight models. Ảnh sinh kết quả thường lỗi biến dạng, mất vật, sai tỉ lệ hoặc perspective; nhiều lỗi còn do mô hình không ghép được ảnh kết quả với bằng chứng đa view ban đầu.
Fine-tune Qwen3-VL-4B bằng staged SFT nâng accuracy từ 34.0% lên 65.7%; mixed SFT đạt 64.8%; GRPO chỉ đạt 37.7% nhưng có lợi riêng ở một số tác vụ.
Kết quả out-of-domain cũng tăng: staged SFT đạt macro-average 38.1% trên sáu benchmark, cao hơn base model 33.5%; đáng chú ý tăng ở DSI-Bench, SPARTQA, CLEVRER và VSI-Bench.

IV. Conclusion & Future Works:

SpaceCast-Bench cho thấy predictive spatial reasoning là năng lực khác biệt và phần lớn chưa được giải quyết: đọc quan hệ trong ảnh không đồng nghĩa với cập nhật scene sau can thiệp, và fine-tune không gian thuần túy có thể không chuyển sang trạng thái mới. Dữ liệu sinh tự động theo pipeline của benchmark vừa cải thiện in-domain vừa chuyển giao tới nhiều benchmark khác. Hướng tương lai: cần world model sinh kết quả chính xác hơn, mô hình tích hợp bằng chứng 3D显式 với ảnh đa view tốt hơn, phương pháp training tiến bộ cho local state updating và global spatial awareness, cùng các can thiệp gần với embodied manipulation ngoài biến đổi rigid hiện tại.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng SpaceCast-Bench từ cảnh tĩnh sang tác vụ embodied: mô hình phải dự đoán hậu quả của chuỗi hành động nhiều bước, không chỉ một phép biến đổi ngôn ngữ.
Nghiên cứu cách kết hợp ảnh BEV, metadata 3D và video do world model sinh ra để cải thiện suy luận không gian mà không phụ thuộc vào ảnh kết quả quá lỗi.
Phát triển phương pháp học theo giai đoạn cho predictive spatial reasoning, tách rõ static perception, local intervention và global transformation để cải thiện khả năng chuyển giao.
Xây dựng chuỗi bài đánh giá phân tích lỗi theo hệ quy chiếu camera-centric, object-centric và world-centric nhằm xác định chính xác mô hình đang mất phương hướng hay mất cấu trúc scene.

2. Patent:

Ứng dụng điện thoại thiết kế lại phòng: người dùng chụp vài góc phòng, nói “dời sofa 1,5 m về phía bắc” hoặc “xoay toàn bộ bố cục 90 độ”; ứng dụng dựng mô hình 3D, dự đoán vật nào bị che khuất, xa hơn, hay bị kéo theo trước khi đồ thật bị di chuyển.
Trợ lý an toàn cho robot gia đình trên điện thoại: trước khi robot kéo sách hoặc hộp, ứng dụng phân tích vật nào đang đỡ vật nào, cảnh báo cốc sẽ rơi nếu kéo sách, rồi đề xuất thứ tự thao tác an toàn.
Tính năng định hướng nội thất thay đổi theo camera: người dùng xoay điện thoại hoặc đổi hướng xem phòng, ứng dụng vẫn trả lời đúng vật A nằm ở hướng nào so với vật B theo góc nhìn người dùng, hướng vật B, hoặc hướng la bàn của phòng.
Hệ thống kiểm tra kho hoặc cửa hàng trước khi dịch kệ: nhân viên quét kệ bằng điện thoại, nhập khoảng cách cần dịch hoặc vật cần gỡ; hệ thống dự đoán tầm nhìn mới, vùng bị che và các sản phẩm có thể bị xô lệch.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12402
ArXiv Abstract	https://arxiv.org/abs/2610.12402
PDF Download	https://arxiv.org/pdf/2610.12402.pdf
Github Repository	https://github.com/ZJU-REAL/SpaceCast-Bench

40. From Prompting to Composing: A Spatial Canvas Interface for Poster Generation (11 votes)

Tác giả: Yitong Wang, Fangyun Wei, Jinjing Zhao, Sirui Zhang, Hongyang Zhang, et al.

Xuất bản lúc: 2026-10-08

Tag: Text-to-Image, Poster Generation, Image Editing, Diffusion Models, Layout Control, Reinforcement Learning, Human-Computer Interaction, LoRA

I. Main Problem:

Gõ một prompt văn bản duy nhất để tạo poster là giao diện gián tiếp và kém hiệu quả:

Poster vốn là cấu trúc hai chiều (chủ thể, chữ, logo nằm ở vị trí cụ thể), nhưng phải mã hóa ý đồ bố cục đó thành chuỗi từ một chiều — gây mơ hồ, đặc biệt khi bố cục phức tạp.
Các mô hình sinh ảnh hiện tại khó bảo đảm đồng thời giữ đúng nhân dạng (logo, nhân vật), đặt đúng vị trí, và render chữ chính xác.
Các phương pháp poster chuyên biệt trước đây dùng kiểu tham chiếu hạn chế hoặc module điều khiển riêng lẻ, kém mở rộng.
Việc thu thập dữ liệu canvas–poster do con người thiết kế ở quy mô lớn là quá tốn kém để huấn luyện.

II. Main Idea:

Thay vì mô tả poster bằng chữ, người dùng sáng tác trực tiếp trên không gian hai chiều qua Spatial Canvas Interface với bốn kiểu "binding" bổ trợ nhau:

Semantic Binding: gắn một khái niệm văn bản vào vùng được chỉ định.
Identity Binding: gắn ảnh tham chiếu vào vùng để giữ nguyên nhân dạng.
Text Binding: đặt chuỗi chữ chính xác tại vị trí mong muốn.
Pixel Binding: neo trực tiếp nội dung pixel cần giữ nguyên. Kèm theo Text Specifications mô tả chi tiết từng phần tử + phong cách/nền toàn cục.

Trên nền tảng này, tác giả xây Compo — mô hình poster được thích ứng từ mô hình chỉnh sửa ảnh pretrained (LongCat-Image-Edit hoặc Qwen-Image-Edit-2511) bằng LoRA, qua hai giai đoạn:

Supervised training trên bộ dữ liệu tự động tạo Compo-200K (LLM lên ý tưởng → sinh poster bằng nhiều mô hình T2I → dùng SAM-3 và OCR để tái tạo canvas + text specs).
Reinforcement learning (DiffusionNFT) với reward đa thành phần: độ chính xác chữ (NED + sentence accuracy), độ tương đồng instance (DINO-I/CLIP-I/CLIP-T), và độ chính xác bố cục (IoU).

Hai chế độ dùng: Direct Inference (người dùng tự đặt canvas) và Agentic Mode (agent dịch yêu cầu ngôn ngữ cấp cao thành canvas có kế hoạch).

Ví dụ đời thường: giống thợ thiết kế dùng bàn cắt dán (scrapbook) thật — thay vì tả bằng lời "ảnh này ở góc trên, chữ kia ở giữa", họ dán trực tiếp từng ảnh, tờ chữ lên tờ nền đúng chỗ, rồi giao cho người vẽ phối màu hoàn thiện lại.

III. Main Results:

Compo-LongCat và Compo-Qwen vượt mọi baseline (cả mô hình chỉnh sửa ảnh đa năng như Qwen-Image-Edit-2511, HiDream-O1, và hệ thống poster chuyên dụng như PosterMaker, CreatiDesign, PosterOmni) trên gần hết metrics, đạt Avg. Score ~0.75 so với ~0.44–0.50 của baseline mạnh nhất.
Đặc biệt vượt trội ở Text Binding: sentence accuracy 0.87–0.94 và NED ~0.97, trong khi các baseline chuyên dụng chỉ đạt 0.1–0.33.
Ablation RL reward: bỏ text reward làm sụt mạnh binding chữ; bỏ instance similarity làm sụt pixel/identity; bỏ layout reward làm sụt IoU — cả ba reward bổ trợ lẫn nhau.
Trọng số sentence accuracy w = 0.75 là tối ưu: quá thấp dung sai lỗi chữ nhỏ, quá cao (w=1) gây reward thưa trong giai đoạn đầu RL.
LoRA trên cả text lẫn image branch tốt hơn chỉ fine-tune một branch.
Có benchmark mới 500 mẫu với chú thích cấu trúc, đánh giá riêng từng loại binding và kết hợp.

IV. Conclusion & Future Works:

Công trình tách riêng việc diễn đạt ý đồ (composing) khỏi việc sinh hình ảnh (generation), chuyển dịch tạo poster từ "prompting" sang "composing" qua Spatial Canvas Interface thống nhất bốn loại binding. Compo cho thấy có thể thích ứng mô hình pretrained hiện có (không cần huấn luyện từ đầu) với dữ liệu giám sát tự động + RL có reward nhận thức binding, đạt khả năng điều khiển bố cục vượt trội mà vẫn giữ chất lượng thẩm mỹ. Bản thân bài không nêu rõ hướng tương lai, nhưng hướng tự nhiên là mở rộng giao diện canvas sang các tác vụ thiết kế đồ họa nói chung (banner, bìa sách, slide) và nâng cấp agent lên kế hoạch bố cục tinh vi hơn.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng Spatial Canvas Interface thành một ngôn ngữ thiết kế chung cho mọi loại ấn phẩm đồ họa (banner, bìa album, giao diện app), trong đó canvas đóng vai trò biểu diễn trung gian thống nhất giữa người dùng và agent AI.
Nghiên cứu agent quy hoạch bố cục đa bước: kết hợp mô hình thẩm mỹ (aesthetic scorer) với LLM để tự động sắp xếp phần tử theo nguyên tắc thiết kế (visual hierarchy, rule of thirds) thay vì chỉ dựa trên trích xuất yếu tố từ yêu cầu.
Phát triển phương pháp RL với reward cảm nhận thẩm mỹ (human preference reward) chồng lên reward binding hiện có, để cân bằng giữa độ chính xác cấu trúc và chất lượng nghệ thuật của poster.
Khai thác Compo-200K và giao thức đánh giá tách từng loại binding làm nền tảng chuẩn cho nghiên cứu kiểm soát bố cục trong mô hình diffusion nói chung, thay vì chỉ giới hạn ở poster.

2. Patent:

Ứng dụng thiết kế poster trên điện thoại: người dùng kéo-thả ảnh sản phẩm, logo, gõ từng dòng slogan đúng vị trí trên màn hình cảm ứng; ứng dụng gửi "canvas" này lên máy chủ sinh poster hoàn chỉnh, đúng nhân dạng logo và đúng chữ, thay vì phải viết một câu mô tả dài.
Trợ lý marketing tự động cho doanh nghiệp nhỏ: người dùng chỉ nói "làm poster khai trương quán cà phê, ảnh ly cà phê ở giữa, giảm giá 20% phía trên"; trợ lý AI tự tìm ảnh, lên bố cục, chọn loại binding phù hợp rồi tạo poster — chỉnh sửa bằng cách kéo lại phần tử trên canvas.
Tính năng giữ nguyên logo thương hiệu trong mọi ảnh quảng cáo tự động: hệ thống dùng Identity/Pixel Binding để neo logo và ảnh sản phẩm chuẩn, sinh hàng loạt biến thể poster theo mùa/sự kiện mà không lo logo bị biến dạng hoặc chữ sai.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12230
ArXiv Abstract	https://arxiv.org/abs/2610.12230
PDF Download	https://arxiv.org/pdf/2610.12230.pdf
Github Repository	https://github.com/snowflakewang/Compo

📰 Summary of Papers
1. AgentGarten: Code Worlds for Evolving Agents (257 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
2. Learn2Play Bench: How Well Do LLM Agents Learn from Experience in Unfamiliar Environments? (136 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
3. TokenRouter: Efficient Serving System for Token-Level LLM Routing (129 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
4. From Traces to Agentic Worlds: Agentic Language World Models for Interactive Environment Simulation (105 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
5. MiMo-V2.6: Scaling Reinforcement Learning Towards Self-Improvement (74 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
6. SuperNav: An Agentic Navigation System for Any Task in Any Scene (72 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
7. Multi-Agent Egocentric World Model with Fine-Grained Embodied Interaction (52 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
8. In-context Robot Learning Made Simple: A Democratized Recipe for Manipulation Tasks (47 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
9. U-Space: Uncovering When and Why Uncertainty Arises in Language Models (41 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
10. OuroWorld: Bringing Any 3D World Alive as Diverse, Endlessly Looping 3D Cinemagraphs (40 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
11. REMORY: Learning Residual Memory for Context Compaction (38 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
12. Beyond Spatio-Temporal Priors: A Generalizable Approach for Dense Correspondence Matching (38 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
13. MC-Sparse: Deconstructing and Closing the Dense-Sparse Attention Gap in Diffusion Transformers (38 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
14. DreamTrue: Action-Faithful Robot World Model with Counterfactual Post-Training (38 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
15. Memento 3: Model-Based Recursive Self-Improvement through Reflective Rulebooks (35 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
16. TestPrism: Rethinking Test Evaluation Beyond a Single Reference (34 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
17. Post-Training Frontier Text-to-Image Models by Composing Preference and Rubric Rewards (29 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
18. Foundations of Large Language Models (27 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
19. SparseDecoding: Decoding-Aware Pruning for Accurate and Efficient LLM Inference (27 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
20. OneSearch-VL: Unified Multimodal Deep Research Agent for Image and Video (24 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
21. LEGO: A Lifting-Free Approach for Exocentric-to-Egocentric Video Generation (24 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
22. Reasoning-Informed Visual Editing (21 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
23. Embodied Turing Machines: Stateful Code for Robot Recursive Self-Improvement (20 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
24. What Did the Agent Actually Do? Evidence-Grounded Oversight for Long-Horizon Agents (20 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
25. Pumpire: Unified Benchmark for Metric Distance Estimation (18 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
26. VibeEdit: Image Editing with Canvas Instructions (18 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
27. USDCraft: Geometrically Grounded Programmatic Modeling of Articulated 3D Assets for Simulation (18 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
28. SparseEngine: Sparse-First Inference Engine (17 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
29. SanSi: A Looped Typed Decision Model for System 1.5 Thinking (16 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
30. OmniCapBench: A Deep-Structured Evaluation Framework for Fine-Grained Audio-Visual Captioning (15 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
31. Opera: A Verbal Critic Framework for Long-horizon Coding Agents (14 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
32. Do LLMs Understand Sequential Structure? A Controlled Study of Inference and Generation (14 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
33. ViSkill: Reinforcing VLM Agents with Evolving Visual-Native Skills (14 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
34. ReSPO: Reshaped Sequence Policy Optimization for Gradient Starvation in Off-Policy Learning (12 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
35. SpatialOPSD: Self-Distilling Spatial Intelligence from Verified Coding Agent Traces (12 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
36. Retrieval-Centric Deep Learning in Growing Nonparametric Neural Networks (12 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
37. V-CoLA: Vision Token Compression with Linear Attention (12 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
38. A GPU-Parallel Framework for Heterogeneous Multi-Task Reinforcement Learning (11 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
39. SpaceCast-Bench: Evaluating Predictive Spatial Reasoning in Vision-Language Models (11 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
40. From Prompting to Composing: A Spatial Canvas Interface for Poster Generation (11 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan

📰 Summary of Papers​

1. AgentGarten: Code Worlds for Evolving Agents (257 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

2. Learn2Play Bench: How Well Do LLM Agents Learn from Experience in Unfamiliar Environments? (136 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

3. TokenRouter: Efficient Serving System for Token-Level LLM Routing (129 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

4. From Traces to Agentic Worlds: Agentic Language World Models for Interactive Environment Simulation (105 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

5. MiMo-V2.6: Scaling Reinforcement Learning Towards Self-Improvement (74 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

6. SuperNav: An Agentic Navigation System for Any Task in Any Scene (72 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

7. Multi-Agent Egocentric World Model with Fine-Grained Embodied Interaction (52 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

8. In-context Robot Learning Made Simple: A Democratized Recipe for Manipulation Tasks (47 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

9. U-Space: Uncovering When and Why Uncertainty Arises in Language Models (41 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

📰 Summary of Papers

1. AgentGarten: Code Worlds for Evolving Agents (257 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

2. Learn2Play Bench: How Well Do LLM Agents Learn from Experience in Unfamiliar Environments? (136 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

3. TokenRouter: Efficient Serving System for Token-Level LLM Routing (129 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

4. From Traces to Agentic Worlds: Agentic Language World Models for Interactive Environment Simulation (105 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

5. MiMo-V2.6: Scaling Reinforcement Learning Towards Self-Improvement (74 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

6. SuperNav: An Agentic Navigation System for Any Task in Any Scene (72 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

7. Multi-Agent Egocentric World Model with Fine-Grained Embodied Interaction (52 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

8. In-context Robot Learning Made Simple: A Democratized Recipe for Manipulation Tasks (47 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

9. U-Space: Uncovering When and Why Uncertainty Arises in Language Models (41 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers: