🤗 Daily Hugging Face Paper Digest - 2026-10-16

Báo cáo được tạo tự động vào lúc 2026-10-17 10:42:17 bằng mô hình hermes-agent.

📰 Summary of Papers

1. Waypoint-OPD: Transferring RL-Induced Policy Shifts via Gated On-Policy Distillation (654 votes)

Tác giả: Bingxi Hou, Guochao Jiang, Guofeng Quan, Weiqing Li, Wenfeng Feng, et al.

Xuất bản lúc: 2026-10-15

Tag: Policy Distillation, Reinforcement Learning, Knowledge Transfer, LLMs, On-Policy Distillation

I. Main Problem:

Cách chuyển cải tiến từ mô hình giáo viên sau học tăng cường sang mô hình học sinh hiện bỏ qua tính nhất quán thời gian. Phương pháp dùng chênh lệch đầu-cuối của teacher chỉ biết token/hành vi đổi thế nào sau huấn luyện, không biết đổi đó đến từ nhiều bước cùng hướng hay các bước đầu/cuối triệt tiêu lẫn nhau.

Cùng một endpoint shift có thể tương ứng với xu hướng ổn định hoặc dao động ngược nhau.
Nếu giữ nguyên tín hiệu đầu-cuối, student có thể học theo cả những thay đổi kém tin cậy do giai đoạn RL trước/sau tự mâu thuẫn.
Cần tín hiệu local tại prefix do student tự sinh để quyết định nên giữ, giảm hay bỏ tín hiệu chuyển chính sách.

II. Main Idea:

Waypoint-OPD dùng ba checkpoint cùng một lần RL của teacher: Initial trước RL, Waypoint giữa quá trình, Final sau RL. Tại mỗi prefix do student tạo ra, chọn top-k token theo xác suất student, chuẩn hóa trọng số, rồi đo hai đợt thay đổi log-prob của teacher: trước Waypoint và sau Waypoint.

Loại thành phần dịch chuyển chung bằng centering theo phân phối student.
Đo cosine agreement giữa đợt sớm và đợt muộn; gate là max(0, cosine), giữ khi cùng hướng, triệt tiêu khi ngược hướng.
Endpoint shift Initial→Final vẫn là tín hiệu được chuyển, nhưng được nhân theo gate và chuẩn hóa theo batch; student cập nhật bằng dense advantage kèm KL neo về khởi tạo.
Chỉ thêm một lượt chấm điểm teacher đông lạnh, không cần huấn luyện teacher mới hay verifier trong lúc chuyển.

Ví dụ đời thường: như xem lại hành trình học một kỹ năng qua ảnh chụp giữa kỳ và cuối kỳ; nếu cách cải thiện ở nửa đầu và nửa sau cùng xu hướng thì tin, còn nếu trước đẩy lên sau lại kéo xuống thì không nên học theo cú hích cuối cùng.

III. Main Results:

Teacher Qwen3-4B RL; student Qwen3-8B / 14B / 30B-A3B trên toán và code.
Waypoint-OPD đạt domain-average cao nhất trong cả 6 cặp lĩnh vực–student so với OPD, OPD², Direct-OPD.
Toán: hơn Direct-OPD +2.18 / +1.59 / +1.89 điểm cho 8B / 14B / 30B-A3B; cải thiện 19/21 benchmark; student 14B vượt teacher trên cả 7 benchmark toán.
Code: hơn Direct-OPD +2.66 / +1.52 / +1.19 điểm trung bình; cải thiện cả 15 phép so sánh benchmark.
Ablations Qwen3-8B toán: bỏ gate giảm 2.64 điểm, xáo gate giảm 4.94 điểm, bỏ batch normalization giảm 0.92 điểm, cho thấy gate gắn đúng prefix và normalization đều có giá trị.

IV. Conclusion & Future Works:

Checkpoint trung gian Waypoint cung cấp bằng chứng hướng thay đổi mà chênh lệch đầu-cuối không có, giúp cân tín hiệu chuyển chính sách RL trong khi vẫn giữ tín hiệu tổng làm đối tượng distill. Cách làm rẻ, không cần verifier trong lúc chuyển và tổng quát qua dense lẫn MoE student. Hướng tương lai: chọn vị trí Waypoint tự động, dùng nhiều waypoint, lý giải khi nào agreement thật sự tương ứng chất lượng supervision, và mở rộng sang các loại thay đổi chính sách ngoài RL có verifier.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu chọn vị trí checkpoint trung gian tối ưu hoặc dùng nhiều waypoint để ước lượng độ tin cậy của policy shift theo thời gian thay vì một điểm giữa cố định.
Phát triển lý thuyết khi nào cosine agreement giữa các đợt thay đổi tương quan với lợi ích học thật, và khi nào nó chỉ là tương quan biểu kiến không đảm bảo đúng.
Mở rộng selective transfer sang multi-teacher, multi-domain hoặc continual RL, nơi student cần hợp nhất nhiều pha thay đổi chính sách có thể mâu thuẫn.
Kết hợp gate thời gian với tín hiệu verifier/uncertainty để chuyển cải tiến RL cho tác vụ có phản hồi thưa, ví dụ lập trình thực tế, toán olympic và lý luận đa bước.

2. Patent:

Hệ thống huấn luyện mô hình trợ lý trên điện thoại bằng cách lưu mô hình giáo viên ở ba thời điểm: trước tinh chỉnh, giữa tinh chỉnh, sau tinh chỉnh; khi mô hình nhỏ trên máy trả lời, máy chủ so sánh thay đổi ở hai giai đoạn và chỉ chuyển xu hướng được củng cố xuống mô hình nhỏ.
Bộ lọc nâng cấp trải nghiệm gõ trên smartphone: khi chính sách gợi ý từ/câu trả lời được cải tiến bằng phản hồi người dùng, một checkpoint giữa quá trình học dùng để chặn các thay đổi mà giai đoạn sau tự đảo ngược, giảm hồi quy chất lượng sau cập nhật.
Dịch vụ đám mây chuyển khả năng lập trình cho trợ lý code trên thiết bị: chấm các phương án token tiềm năng bằng ba phiên bản giáo viên, giữ lại thay đổi có hướng ổn định để cập nhật mô hình biên mà không cần chạy bộ kiểm thử đắt đỏ trên điện thoại.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.21601
ArXiv Abstract	https://arxiv.org/abs/2610.21601
PDF Download	https://arxiv.org/pdf/2610.21601.pdf
Github Repository	https://github.com/hhhbxloveai/WaypointOPD

Tác giả: Xuyang Liu, Shihao Wang, Xinyu Wei, Minghan Li, Zeqing Wang, et al.

Xuất bản lúc: 2026-10-13

Tag: Video Understanding, MLLMs, Benchmark, Temporal Grounding, Spatial Grounding, Audio-Visual, Evaluation

I. Main Problem:

Các benchmark đánh giá video hiểu biết hiện tại chỉ phủ một phần các chiều đánh giá, khiến việc chẩn đoán toàn diện khả năng video grounding của MLLMs bị hạn chế:

Phủ sóng bằng chứng không đầy đủ: benchmark hoặc chỉ dùng hình ảnh, hoặc chỉ dùng audio-visual, không kiểm thử cả hai.
Đặc tả mục tiêu cứng nhắc: hầu hết chỉ dùng văn bản; kiểu dùng ảnh tham chiếu kèm văn bản không đánh giá cùng một mục tiêu dưới cả hai cách chỉ định.
Phân mảnh nhiệm vụ: benchmark thường chỉ tập trung QA hoặc grounding, hiếm khi đánh giá đồng thời khi nào (temporal), ở đâu (spatial), chuyện gì xảy ra (QA).
Thiếu đánh giá nhất quán khi cùng một mục tiêu được chỉ định bằng hai cách khác nhau.

II. Main Idea:

OmniCompass là benchmark toàn diện 4 chiều cho omni-modal video grounding, thiết kế như một "la bàn" chẩn đoán mọi khía cạnh:

Hai cách đặc tả mục tiêu (paired settings): cùng một mục tiêu được hỏi bằng Text và bằng Text+Image (ảnh tham chiếu), cùng video, cùng ground truth. Metric mới Cross-Specification Consistency (CS) yêu cầu cả đúng lẫn nhất quán giữa hai câu trả lời (lấy min của độ chính xác từng setting và độ tương đồng cặp).
Hai track bằng chứng: OmniCompass-VL (chỉ hình ảnh, 820 video/2,460 instance) và OmniCompass-AV (audio-visual gốc, 240 video/720 instance).
Ba nhiệm vụ bổ trợ mỗi video: TG (đoạn thời gian), SG (vùng không gian), QA (5 nhận thức + 3 suy luận cho VL; 3+2 cho AV).
Ba loại độ dài: ngắn (<90s), trung bình, dài (tới 88 phút); 7 lĩnh vực, 52 tiểu mục; gán nhãn thủ công ~1,800 giờ người với kiểm chứng nhiều vòng.

Ví dụ đời thường: giống như kiểm tra người xem phim bằng cách hỏi cùng một cầu thủ bằng hai cách — một lần tả bằng lời "cầu thủ áo số 7", một lần đưa ảnh chụp — rồi yêu cầu chỉ ra giây nào anh ta ghi điểm, đứng ở đâu, và diễn biến gì; người xem chỉ thật sự hiểu phim khi trả lời đúng và giống nhau cả hai lần.

III. Main Results:

Tổng thể: Gemini-3.8-Flash dẫn đầu VL (CSAvg 42.8%), Kimi-K3 dẫn đầu open-source (39.6%); trên AV, khoảng cách proprietary – open-source giãn tới 32.8% (57.4% vs 24.6% của MiMo-V2.5).
Grounding chính xác vẫn rất khó: CS tốt nhất chỉ 27.1% (TG) và 34.9% (SG), trong khi 29/36 model đạt >50% CSQA; Visual Counting thấp nhất mọi model (26.4–48.1%).
Trên AV, TG và temporal reasoning đặc biệt yếu: Qwen3.8-Omni-Flash đạt 73.2% CSQA nhưng chỉ 21.8% CSTG; 10 model open-source ≤3.5% CSTG. Khoảng cách lớn nhất với proprietary nằm ở Event Understanding (38.9%).
Ảnh tham chiếu không phải lúc nào cũng giúp: chỉ 11/36 model (VL) và 5/17 model (TG trên AV) cải thiện với Text+Image.
Nhất quán chéo còn kém: CS trung bình thấp hơn 4.3–6.4% so với điểm setting đơn tốt nhất — làm tốt một cách hỏi không đảm bảo đúng cách kia.
Timestamp cải thiện rõ rệt CSAvg ở cả hai track (tới +10.4%); thêm audio nâng CSQA trung bình +22.9% trên AV.

IV. Conclusion & Future Works:

OmniCompass cho thấy các MLLMs dù mạnh ở QA vẫn yếu ở grounding chính xác theo thời gian-không gian, nhận thức tinh vi, và gắn kết sự kiện audio-visual. Benchmark cung cấp khung chẩn đoán thống nhất (paired target specification × VL/AV × TG/SG/QA × mọi độ dài video) cùng metric CS để đo cả độ chính xác lẫn độ nhất quán. Hướng phát triển model cần: multimodal alignment mạnh hơn giữa đặc tả mục tiêu và bằng chứng sự kiện, audio-aware grounding đáng tin cậy, và khai thác tốt hơn timestamp/frame sampling.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng OmniCompass sang đánh giá grounding video theo hướng dẫn đa bước và lập kế hoạch dài hạn, kiểm thử khả năng duy trì nhất quán mục tiêu xuyên suốt chuỗi câu hỏi.
Nghiên cứu tại sao ảnh tham chiếu chỉ giúp model proprietary và grounding, và huấn luyện model open-source để khai thác ảnh tham chiếu mà không bỏ sót chi tiết ngôn ngữ.
Phát triển phương pháp huấn luyện cải thiện cross-specification consistency — đúng và giống nhau giữa mô tả bằng chữ và bằng ảnh — như một mục tiêu tối ưu hóa riêng cho video MLLMs.
Xây dựng track đánh giá agentic video reasoning trên OmniCompass: model được quyền tua, lặp lại, lấy bằng chứng audio-visual có chọn lọc trước khi trả lời.

2. Patent:

Ứng dụng tìm kiếm video trên điện thoại bằng ảnh chụp: người dùng chụp một người/vật, hệ thống trả về đúng đoạn video cá nhân đó xuất hiện kèm vị trí trên màn hình và trả lời câu hỏi về sự việc.
Trợ lý xem video thể thao thông minh: người dùng vừa chỉ bằng lời vừa khoanh vùng cầu thủ trên màn hình, ứng dụng báo chính xác giây ghi bàn, vị trí trên sân và diễn biến, đồng thời tự kiểm tra câu trả lời có khớp nhau giữa hai cách hỏi hay không.
Hệ thống giám sát an ninh hiểu cả hình ảnh lẫn tiếng: khi phát hiện sự kiện, hệ thống kết hợp lời nói trong video với hình ảnh để xác định đúng đối tượng, khoảng thời gian xảy ra và vị trí trong khung hình, rồi gửi cảnh báo có bằng chứng địa chỉ.
Tính năng phụ đề-tương tác cho trình phát video trên điện thoại: người dùng chạm vào nhân vật trên màn hình hoặc gọi tên bằng giọng nói, ứng dụng tua tới đoạn liên quan, vẽ khung theo dõi nhân vật và tóm tắt nội dung có kèm âm thanh gốc.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.18829
ArXiv Abstract	https://arxiv.org/abs/2610.18829
PDF Download	https://arxiv.org/pdf/2610.18829.pdf
Github Repository	https://github.com/PolyU-VCLab/OmniCompass

3. OpenGCUA: Toward a Fully Open Stack for Generalist Computer Use (278 votes)

Tác giả: Hanzhang Zhou, Long Li, Quyu Kong, Lei Wang, Panrong Tong, et al.

Xuất bản lúc: 2026-10-15

Tag: Computer-Use Agents, GUI Agents, Code Execution, Multimodal Agents, LLM Agents, Agent Evaluation, Human-Computer Interaction

I. Main Problem:

Các hệ thống computer-use đầu ngành như GPT-6 Astra đang chuyển từ tác tử chỉ bấm/ gõ trên giao diện đồ họa sang tác tử dùng cả giao diện trực quan và lập trình, nhưng hầu hết vẫn đóng: không công khai trọng số mô hình, prompt đầy đủ, harness thiết bị thật, SDK điều khiển thiết bị và trajectory chạy thật. Điều này làm khó việc:

tái hiện hành vi hệ thống
so sánh các thiết kế thay thế
đo hiệu quả theo bước, token, chi phí, không chỉ tỉ lệ thành công
đánh giá trên máy thật, nơi tác tử phải chia sẻ máy với người dùng, xử lý cửa sổ nền và yêu cầu thay đổi liên tục.

II. Main Idea:

Bài báo đề xuất Open Generalist CUA, một stack mở cho generalist computer-use agent: mô hình tự quyết định ở mỗi bước quan sát gì, hành động bằng giao diện nào, và tổ chức công việc thế nào across GUI, accessibility tree, CLI và API.

Hai cơ chế trung tâm:

Code execution: thay vì phát một loạt hành động cố định, mô hình viết một chương trình ngắn kết hợp click, lệnh shell, kiểm tra file, gọi API; kết quả trung gian có thể quyết định bước tiếp theo ngay trong cùng một lần gọi mô hình.
Harness-to-model decision transfer: chuyển một số quyết định vốn do harness cứng nhắc quy định sang mô hình, ví dụ khi nào cần screenshot, theo dõi trạng thái tác vụ, và giữ những quan sát nào trong ngữ cảnh.

Bản release đầu tiên gồm harness thực thi, prompt, trajectory của tám mô hình frontier, một real-device harness sơ bộ cho máy thật và Cross-Device SDK dùng một interface cho máy tính, trình duyệt và điện thoại.

Ví dụ đời thường: giống như một nhân viên giỏi không chỉ bấm từng nút trên phần mềm, mà viết sẵn một đoạn script nhỏ để lặp qua từng hồ sơ, tự kiểm tra kết quả, chỉ chụp lại màn hình khi thật sự cần xem tiếp.

III. Main Results:

Trên tập offline của OSWorld-v2, cấu hình OpenGCUA đầy đủ cải thiện cả tám mô hình frontier, gồm GPT-6 Astra và Claude Opus 5:

+19.6 điểm mean partial score so với baseline GUI-only batched actions
-53.0% số bước trên tác vụ
khoảng cách điểm giữa mô hình mạnh nhất và yếu nhất thu hẹp hơn một nửa

Các ablation cho thấy:

Code execution quan trọng hơn chỉ có thêm shell access: +6.1 điểm mean partial score và -14.8% bước so với GUI+CLI batched, khi cùng quyền truy cập GUI và shell.
On-demand observation giúp cache hit rate tăng 10.5 và 14.4 điểm phần trăm cho hai mô hình mà không làm giảm điểm tác vụ.
Trong case study, chương trình thường dùng 5 mẫu: kết hợp nhiều giao diện, lặp theo dữ liệu, rẽ nhánh theo kết quả, chuẩn bị bằng chứng quan sát, và kiểm chứng thay đổi/không thay đổi.

Trên bốn tác vụ macOS thật, khi giữ harness cố định, Qwen3.8-Max dùng 19.4 lần reasoning tokens và 5.7 lần output tokens so với GPT-6 Astra, nhưng hoàn thành ít tác vụ hơn; điểm nghẽn nằm ở hành vi mô hình, chi phí suy luận cho thao tác đơn giản, khó thích ứng máy thật và khoảng cách về khả năng code execution.

IV. Conclusion & Future Works:

OpenGCUA cho thấy thiết kế GCUA không nên chỉ hỏi mô hình “bấm đâu”, mà phải trao cho mô hình quyền chọn cách quan sát, cách hành động và cách tổ chức công việc. Kết quả ủng hộ hai hướng: dùng code execution để một lần gọi mô hình làm nhiều hơn, và chuyển dần quyền điều khiển từ harness sang mô hình khi mô hình đủ mạnh.

Hướng tiếp theo: phát hành mô hình GCUA huấn luyện riêng, hoàn thiện benchmark thiết bị thật đặc biệt trên macOS, tối ưu hiệu quả bằng reasoning ngắn hơn, tối ưu harness, mở rộng SDK xuyên thiết bị và mời cộng đồng đóng góp qua trajectory, prompt và đánh giá thực tế.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu mô hình GCUA huấn luyện riêng để học cách chọn giữa GUI, accessibility tree, shell và API ở từng bước, thay vì chỉ tinh chỉnh prompt cho mô hình general-purpose.
Phát triển benchmark trên máy thật với tác vụ chia sẻ quyền điều khiển, cửa sổ nền, thông báo hệ thống và yêu cầu thay đổi giữa chừng để đo khoảng cách giữa benchmark và triển khai thực tế.
Phân tích quy luật chi phí-hiệu năng của code execution, reasoning tokens và cache hit rate để xây dựng agent vừa hoàn thành tác vụ vừa rẻ, nhanh và ít can thiệp người dùng hơn.

2. Patent:

Trợ lý điện thoại tự xử lý việc vặt trên máy tính: người dùng nói yêu cầu, hệ thống trên điện thoại gửi chương trình điều khiển tới máy tính, máy tính tự mở ứng dụng, điền dữ liệu, kiểm tra kết quả rồi báo lại khi xong hoặc hỏi khi cần quyết định.
Chế độ dùng chung máy an toàn cho trợ lý AI: trợ lý chỉ đọc cây điều khiển và thao tác không chiếm con trỏ khi có thể, tự giảm độ sáng cửa sổ nền, tránh chạm vào dữ liệu nhạy cảm và hiện xác nhận trước hành động đổi hệ thống.
Bộ công cụ lập trình một lần cho điện thoại, trình duyệt và máy tính: lập trình viên hoặc trợ lý AI viết một script duy nhất, script tự chọn đúng thiết bị để chụp màn hình, đọc file, gửi tin nhắn, mở trang web và tổng hợp kết quả cuối cùng.
Cơ chế tự kiểm tra trước khi gửi email hoặc biểu mẫu: trước khi bấm gửi, agent đối chiếu bản nháp với dữ liệu gốc, kiểm tra số lượng file, trạng thái lưu và nội dung không được thay đổi, rồi chỉ gửi khi các điều kiện đều đúng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.22200
ArXiv Abstract	https://arxiv.org/abs/2610.22200
PDF Download	https://arxiv.org/pdf/2610.22200.pdf
Github Repository	https://github.com/Tongyi-MAI/OpenGCUA

4. FDE-Gym: The Last Mile of AI Delivery (247 votes)

Tác giả: Dongxu Yang, Hongda Yan, Renxin Wang, Baoli Zhang, Haojia Zuo, et al.

Xuất bản lúc: 2026-10-15

Tag: AI Agents, Benchmark, LLM Evaluation, Enterprise AI, Agentic AI, Requirement Clarification

I. Main Problem:

Các benchmark agent hiện tại đánh giá trên tác vụ đã được định nghĩa rõ ràng (issue reports, specifications, task tickets), nhưng triển khai AI cho khách hàng thực tế là bài toán khác hẳn:

Kỹ sư Forward-Deployed Engineer (FDE) phải làm rõ yêu cầu mơ hồ, có khi sponsor yêu sai vấn đề
Phải phát hiện các ràng buộc ngầm không được nêu ra
Phải vận hành trong hệ thống production sống, với stakeholders thật có giới hạn kiên nhẫn
Thành công không phải là 'hoàn thành tác vụ' mà là cải thiện chỉ số kinh doanh của khách hàng — một giải pháp làm đúng yêu cầu vẫn có thể không nhích được business metric nào (ví dụ trong bài: hệ thống tóm tắt giếng khoan bàn giao đúng hạn, qua mọi test chức năng, nhưng nút thắt thật nằm ở hệ thống mã hóa downtime mà sponsor đã loại khỏi phạm vi).

II. Main Idea:

Xây dựng FDE-Gym, benchmark gồm 95 tác vụ giao hàng end-to-end từ 20 kịch bản khách hàng thực (18 ngành, chuyển thể từ dự án delivery thật tại Trung Quốc, Singapore, Mỹ):

Mỗi tác vụ có môi trường production giả lập, hệ thống khách hàng có thể chỉnh sửa, và hơn 130 stakeholder được viết kịch bản (có kiên nhẫn giới hạn, yêu cầu bằng chứng, cấm liên lạc, vắng mặt tạm thời)
Chấm điểm theo Normalized Business Uplift: 0 = không làm gì, 1 = giải pháp tham chiếu của chuyên gia; trừ chi phí liên lạc stakeholder (mỗi tin nhắn, lần chạy thử, ngày chờ đều tốn điểm)
4 mức thông tin L0–L3 (từ đầy đủ ràng buộc → yêu cầu gốc có thể sai hướng) để tách riêng khả năng implementation, khám phá ràng buộc, và làm rõ vấn đề
Chống gaming: lời giải làm đúng nghĩa đen yêu cầu phải ≤ 0.2 điểm; hơn 270 chiến lược shortcut/bypass bị kiểm thử và chặn
Kèm nền tảng online để con người luyện kỹ năng FDE dưới cùng tiêu chí chấm

Ví dụ đời thường: giống thợ sửa điện được chủ nhà yêu cầu 'lắp đèn mới cho sáng', nhưng phải tự hỏi dò xem nhà hay bị nhảy cầu dao — tìm đúng người hỏi, đúng lúc, vì mỗi lần hỏi đều 'mất công' của khách, và chỉ khi sửa đúng nguyên nhân gốc thì tiền điện mới thật sự giảm.

III. Main Results:

Claude Opus 5.5 đứng đầu với 0.56 điểm (L3), chỉ resolve 14/95 tác vụ; 5/13 cấu hình không resolve được tác vụ nào. Chọn model tốt nhất cho từng tác vụ cũng chỉ đạt 0.70.
Khám phá ràng buộc ngầm là nút thắt chính: 3 model dẫn đầu đạt 0.73–0.82 khi được cung cấp ràng buộc (L0), sụt còn 0.39–0.62 khi phải tự tìm (L1). Làm mơ hỏ/lệch hướng yêu cầu chỉ mất thêm ~0.04.
Hỏi đúng chưa đủ: 3 model dẫn đầu thu thập 72–85% key facts từ stakeholder nhưng chỉ đạt 0.60–0.70 uplift; chi phí liên lạc stakeholder còn trừ thêm 0.14–0.22 (GPT-6 Astra có 36 tác vụ đạt 0.8, sau trừ phí chỉ còn 9).
Model yếu làm khách hàng tệ hơn cả không làm: Claude Haiku 4.5 thua baseline 'không làm gì' ở 79/95 tác vụ, Mistral Small 4 ở 51 tác vụ (kể cả trước khi trừ phí liên lạc).
Không model nào giỏi mọi ngành: 5/20 kịch bản không model nào đạt trung bình 0.5; từng thay đổi fact nhỏ trong cùng kịch bản làm điểm biến động 0.34–0.44.
Model đạt 88–90% trên Terminal-Bench/Vibe Code Bench chỉ đạt 0.19–0.56 trên FDE-Gym — cho thấy khoảng cách lớn giữa 'giải bài được' và 'giao hàng được'.

IV. Conclusion & Future Works:

Tồn tại khoảng cách lớn giữa giải tác vụ được định nghĩa rõ và giao hàng AI hiệu quả cho khách hàng thật. Muốn thu hẹp cần agent có khả năng: làm lộ ràng buộc ngầm, vận hành tin cậy trên hệ thống sống, và đạt cải thiện đo được trên chỉ số kinh doanh của khách hàng — chứ không chỉ tuân thủ nghĩa đen yêu cầu. Hướng tương lai: công bố human baseline từ nền tảng online (đang thu thập từ chuyên gia ngành ở mức L3), mở rộng benchmark và phát triển các phương pháp huấn luyện agent theo hướng FDE.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu chiến lược hỏi stakeholder tối ưu: cân bằng giữa thu thập đủ ràng buộc ngầm và chi phí liên lạc, dựa trên dữ liệu hành vi hỏi đáp của các model trên FDE-Gym.
Phương pháp fine-tuning/reinforcement learning cho agent với reward gắn trực tiếp vào business metric của khách hàng thay vì task completion rate.
Kỹ thuật phát hiện yêu cầu sai hướng (misdirected sponsor request) bằng cách đối chiếu triệu chứng nghiệp vụ với dữ liệu hệ thống trước khi triển khai giải pháp.
Mở rộng FDE-Gym sang đánh giá multi-agent: một agent làm kỹ sư FDE phối hợp với các agent đóng vai stakeholder nội bộ thay vì stakeholder viết kịch bản.

2. Patent:

Phần mềm trên điện thoại hỗ trợ kỹ sư triển khai: ghi lại cuộc trò chuyện với khách hàng, tự động trích xuất các ràng buộc ngầm thành checklist, gợi ý người cần hỏi tiếp và cảnh báo khi câu hỏi dư thừa để tiết kiệm chi phí liên lạc.
Hệ thống chấm điểm giao hàng AI cho doanh nghiệp: triển khai thử giải pháp vào bản sao hệ thống sản xuất, đo độ lệch chỉ số kinh doanh (doanh thu, thời gian xử lý, tỉ lệ khiếu nại) so với hệ thống cũ trên dữ liệu ẩn, rồi tự tạo báo cáo trước/sau cho khách hàng.
Trợ lý ảo mô phỏng các bên liên quan trong dự án: nhân viên mới luyện tập kỹ năng hỏi dò yêu cầu với các nhân vật giả lập có tính cách, giới hạn kiên nhẫn và thông tin bí mật riêng, được chấm điểm theo lượng thông tin thu được trên chi phí bỏ ra.
Cơ chế bảo vệ khách hàng khỏi AI yếu: tự động chạy giải pháp AI trên dữ liệu lịch sử trước khi đưa lên production, chặn triển khai nếu kết quả tệ hơn hệ thống hiện tại và cảnh báo nhà cung cấp.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.22350
ArXiv Abstract	https://arxiv.org/abs/2610.22350
PDF Download	https://arxiv.org/pdf/2610.22350.pdf
Github Repository	https://github.com/deeplethe/fde-gym

5. RoTA-Bench: Evaluating 3D Spatial Reasoning through Interactive Projection Alignment (198 votes)

Tác giả: Qingchuan Ma, Yuexiao Ma, Xiang Meng, Yixuan Zou, Tianyu Xie, et al.

Xuất bản lúc: 2026-10-14

Tag: 3D Spatial Reasoning, Vision-Language Models, Interactive Benchmark, Embodied AI, Mental Rotation, Visual Feedback

I. Main Problem:

Các benchmark hiện tại không đo được khả năng chuyển hóa quan sát 2D thành hiểu biết 3D để điều khiển hành động chính xác của VLM:

Benchmark tĩnh (CLEVR, GQA...) chỉ hỏi-đáp một lượt trên ảnh cố định, không có hành động hay phản hồi vòng kín.
Benchmark tương tác hiện có (web agent, mê cung, sliding puzzle) tập trung vào lập kế hoạch cấp cao hoặc tìm đường trên lưới rời rạc — không yêu cầu suy luận hướng quay 3D từ tín hiệu thị giác. Hệ quả: chưa rõ VLM có thực sự hiểu hình học 3D và vận dụng vào điều khiển, hay chỉ nhận diện/khớp ảnh mẫu.

II. Main Idea:

Giới thiệu RoTA-Bench — benchmark tương tác kiểu căn chỉnh hình chiếu 3D→2D. Nhiệm vụ:

Cho silhouette mục tiêu và hình chiếu hiện tại của một vật 3D đã bị xoay, mô hình phải chọn liên tiếp các phép xoay rời rạc (24 hành động = 3 trục × 2 chiều × 4 góc: 1°, 5°, 10°, 30°) để bóng hình chiếu trùng mục tiêu (IoU ≥ 0.90) trong ngân sách 48 bước.
Pipeline tự động đùn ảnh icon 2D thành khối 3D trong vỏ cầu (giữ nguyên silhouette gốc, tránh shortcut ngữ nghĩa) và khởi tạo thuận nghịch bằng chuỗi xoay đảo ngược được → đảm bảo mọi bài toán có lời giải. Kết quả: 674 bài toán, chọn lọc tầng lớp còn 100 bài kiểm thử.

Ví dụ đời thường: giống như cầm móc chìa khóa đã xoay lộn xộn, phải tự quay thử từng chút (đôi khi phải xoay lùi, tạm để bóng đổ xấu đi) trong khi nhìn bóng in trên tường cho khớp với hình mẫu.

III. Main Results:

Khoảng cách người–máy rất lớn: GPT-5.6-Sol (mô hình mạnh nhất) chỉ đạt 17% thành công, trong khi 20 sinh viên hoàn thành 100% (400 lượt chạy); Claude Sonnet 5, Claude Opus 5, Qwen 3.7 Plus 0%; SpatioLM sụp đổ chính sách (91% hành động là yaw 10°), IoU cuối thấp hơn cả hành động ngẫu nhiên.
Định hướng quay kém: tỉ lệ chọn hướng xoay đúng chỉ ~59% so với 84% của người, gần mức ngẫu nhiên.
Tiến bộ trong không gian ảnh và không gian tư thế có thể tách rời: mô hình thường tăng IoU nhưng làm tư thế 3D tệ hơn (19.4% vs 10.9% ở các trạng thái giống nhau) — nó dựa nhiều vào độ chồng lấp 2D hơn người, trong khi người dùng cả sai lệch tư thế 3D.
Điều khiển mịn phụ thuộc lịch sử tương tác: bỏ lịch sử khiến 96.8% hành động dùng góc thô 30°, thành công giảm về 0; bỏ ảnh phụ chiều sâu cũng làm thành công từ 16.7% xuống 3.3%.
Oracles: pose-greedy (biết pose thật) giải được 100% bài; IoU-greedy chỉ 39% → cận thị giác đơn thuần là không đủ.

IV. Conclusion & Future Works:

RoTA-Bench cho thấy chuyển đổi bằng chứng thị giác thành điều khiển 3D chính xác vẫn là thách thức lớn với VLM hiện tại, vượt ra ngoài nhận diện ảnh. Hướng tương lai:

Dùng mô hình sinh để tạo icon 2D đa dạng hơn hoặc dựng trực tiếp mesh 3D phức tạp.
Mở rộng sang điều khiển xoay liên tục, che khuất ngoài, căn chỉnh/lắp ráp đa vật thể.
Dùng tác vụ tự động sinh làm môi trường fine-tuning bằng reinforcement learning để nghiên cứu huấn luyện tương tác cải thiện điều khiển 3D.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng RoTA-Bench với điều khiển xoay liên tục và đa vật thể, đánh giá khả năng suy luận không gian của VLM trong môi trường vật lý thực tế hơn.
Nghiên cứu huấn luyện reinforcement learning trên các tác vụ căn chỉnh hình chiếu tự động sinh để cải thiện khả năng sử dụng phản hồi thị giác cho điều khiển 3D chính xác.
Phân tích cơ chế bên trong: vai trò của ảnh chiều sâu phụ và lịch sử tương tác trong việc hình thành biểu diễn tư thế 3D ngầm của VLM.

2. Patent:

Trò chơi giáo dục trên điện thoại luyện tư duy không gian 3D: người chơi (học sinh) xoay vật thể để khớp bóng mẫu; ứng dụng tự điều chỉnh độ khó và chấm điểm khả năng xoay hình trong đầu.
Ứng dụng thực tế tăng cường (AR) hướng dẫn lắp ráp: điện thoại quét chi tiết máy, người dùng xoay vật theo gợi ý từng bước dựa trên việc so khớp hình chiếu với hình mẫu đúng tư thế lắp.
Hệ thống kiểm thử trí tuệ không gian cho trợ lý AI trên điện thoại: bộ công cụ sinh tự động các bài xoay khối 3D khớp bóng để đánh giá và xếp hạng khả năng lập luận không gian của mô hình AI trước khi triển khai.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.17665
ArXiv Abstract	https://arxiv.org/abs/2610.17665
PDF Download	https://arxiv.org/pdf/2610.17665.pdf
Github Repository	https://github.com/MAC-AutoML/RoTA-Bench

6. Self-Evolving Agent Harness (189 votes)

Tác giả: Chuyang Wei, Haoxiang Guan, Minghang Zhu, Kexin Zhou, Jiyan He, et al.

Xuất bản lúc: 2026-10-13

Tag: Agent Systems, Recursive Self-Improvement, Evolutionary Algorithms, Continual Learning, Prompt Optimization, LLM Agents, Safety

I. Main Problem:

Các agent dựa trên LLM sau khi triển khai cần tiếp tục thích ứng khi tác vụ và môi trường thay đổi, nhưng hiện chưa có khung lý thuyết thống nhất cho việc agent tự chỉnh sửa phần mềm bao quanh mô hình (prompt, bộ nhớ, workflow, công cụ thực thi) mà không đổi trọng số mô hình. Các vấn đề cốt lõi:

Các phương pháp hiện có khác nhau về cái gì được sửa, cách tạo đề xuất, và cách chấp nhận thay đổi, thiếu một bản phân loại thống nhất.
Chọn lọc dựa trên kinh nghiệm không chứng minh được khái quát hóa hay khả năng giữ lại kỹ năng (overfitting, forgetting).
Việc sửa đổi có tính lâu dài khiến lỗi lan truyền qua các tác vụ và tổ chức, với hậu quả có thể không thể hoàn nguyên (an toàn vật lý, quyền lợi công cộng, trách nhiệm tổ chức).

II. Main Idea:

Bài báo đề xuất khung lý thuyết cho Harness Self-Evolution: một vòng đời phản hội khi mỗi lần chạy tạo rollout, điểm số từ cơ chế đánh giá J, rồi toán tử Update chỉnh sửa harness H (prompt, bộ nhớ, workflow, code, plugin) — các thay đổi được chấp nhận sẽ tồn tại qua các lần chạy sau.

Phân loại đối tượng cập nhật: tách riêng cập nhật trạng thái được diễn giải (instruction, bộ nhớ, điều phối tác vụ qua interface cố định) khỏi sửa đổi thực thi được (code công cụ, logic điều khiển cấp repository, composition plugin kiểu Everything Is a Plugin).
Ánh xạ sang evolutionary algorithms: tìm kiếm harness tương ứng với elitist (1+1)-ES, archive-based search, recombination, MAP-Elites, Pareto selection, bandit-guided evolution.
Phân tích continual PAC-learning: đưa ra cận khái quát hóa kỳ vọng qua algorithmic stability, cận giữ lại kỹ năng có điều kiện theo ngân sách regression, và quy tắc chấp nhận xác suất cao bằng tập validation mới, độc lập (Hoeffding + union bound), với J luôn nằm ngoài vùng có thể sửa đổi.
Phân tích hệ quả hệ thống trong 5 bối cảnh: workspace cá nhân, tự động hóa doanh nghiệp, khoa học, robot vật lý, dịch vụ công/y tế.

Ví dụ đời thường: giống như một công ty thay vì đào tạo lại nhân viên (fine-tune trọng số), liên tục sửa quy trình làm việc, sổ tay kinh nghiệm và bộ công cụ — nhưng mỗi lần đổi quy trình phải kiểm thử lại trên ca mới, độc lập, kẻo sửa quen tay theo ca cũ mà lỗi âm thầm lưu lại thành nội quy.

III. Main Results:

Phân loại thống nhất các phương pháp hiện có theo biên đột biến: interpreted-state (instructions, memory) vs executable (code patches, repository logic, plugin composition), với điều kiện bắt buộc là phản hội vận hành + lưu trữ xuyên phiên + cơ chế cập nhật liên tục.
Cận lý thuyết điều kiện: khoảng cách khái quát hóa kỳ vọng bị chặn bởi stability β của toàn bộ quá trình update; retention bị chặn bởi tổng ngân sách regression lịch sử (telescoping); rule chấp nhận: chỉ nhận candidate khi Δ̂ + sqrt(2 ln(KT/δ)/m) < 0 trên validation mới.
Case study minh họa: HarnessOpt trên SpreadsheetBench — GPT-5.4-nano + harness vượt cả GPT-5.5 tinh chỉnh skill (77.58% vs 76.20%), cải thiện 5.69–11.39 điểm trên 4 mô hình, chứng minh hiện tượng model–harness crossover.
Everything Is a Plugin (EIP): agent tự sinh công cụ trong lúc chạy; số tool calls giảm từ 13 xuống 3 ở tác vụ đầu, tiết kiệm lũy kế ~110K tokens sau 5 tác vụ bảng tính.
LiveBrowseComp: XYZ + dsh-everything đạt 51.39, dẫn nhóm <40B và nhì toàn bảng — nhưng tác giả lưu ý dữ liệu có điểm không nhất quán chưa thể kết luận nhân quả.
Cảnh báo hệ thống: monoculture lỗi lan truyền qua skill library dùng chung; specification gaming khi J bị khai thác; rollback phần mềm không hoàn nguyên được hậu quả vật lý/y tế/pháp lý.

IV. Conclusion & Future Works:

Harness self-evolution là khu vực nghiên cứu khả thi với nền tảng lý thuyết (evolutionary search + continual PAC-learning), nhưng triển khai tin cậy đòi hỏi validation liên tục khi phân phối tác vụ và evaluator trôi dạt, cùng các rào chắn độc lập cho học, quyền runtime và hành động hệ quả. Hướng tương lai:

Model–harness co-design: phân bổ ngân sách thích ứng giữa trọng số và runtime, thử nghiệm matched-cost.
Thực thi phân tán/edge: tính cả chi phí tổng hợp, validation và phân phối harness vào lựa chọn triển khai.
Vòng đời plugin: đo số tác vụ cần thiết để thu hồi chi phí sinh plugin, khi nào tái sinh tốt hơn tái sử dụng.
Continual validation dưới distribution drift và judge bias; kiểm soát thống kê cho việc tái dùng dữ liệu.
Safety boundaries: least privilege, cấp quyền có thời hạn, giới hạn vật lý/tiêu tiền nằm ngoài vùng sửa đổi, đánh giá phòng thủ theo attack success và overhead.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu matched-cost so sánh model selection, skill optimization, runtime revision và weight update trên cùng ngân sách, kể cả chi phí thích ứng lẫn chi phí chạy sau đó, để xác định cách phân bổ nỗ lực cập nhật tối ưu giữa mô hình và harness.
Phát triển lý thuyết admission với kiểm soát thống kê thích ứng (adaptive-valid inference) cho phép tái sử dụng dữ liệu validation mà vẫn giữ bảo đảm xác suất cao, thay vì bắt buộc tập mới hoàn toàn mỗi vòng.
Khảo sát vòng đời plugin: đo điểm hòa vốn về số tác vụ liên quan cần để bù chi phí sinh và kiểm chứng plugin, theo độ tương đồng tác vụ, tần suất tái dùng và thay đổi interface.

2. Patent:

Hệ thống quản lý 'quy trình tự tiến hóa' cho trợ lý AI trên điện thoại: ứng dụng ghi lại phản hồi người dùng sau mỗi tác vụ, tự đề xuất sửa prompt/hành vi, nhưng chỉ áp dụng khi vượt kiểm thử trên tập tác vụ mới được lưu riêng, đồng thời lưu vết phiên bản để khôi phục khi phát sinh lỗi.
Kho thủ tục dùng chung cho doanh nghiệp với kiểm soát phiên bản: mỗi thủ tục (skill) do agent tự học được gắn chữ ký kiểm chứng, triển khai theo giai đoạn cho từng nhóm, có khả năng rút toàn cục một phiên bản lỗi và xác định tất cả nơi đã sử dụng nó.
Cơ chế an toàn cho agent điều khiển thiết bị vật lý (robot gia đình, xe): các giới hạn khẩn cấp như nút dừng, giới hạn lực/tốc độ và kiểm tra ủy quyền được đặt ngoài vùng agent có thể tự sửa, kèm ghi log lệnh gắn với phiên bản quy trình để điều tra sự cố.
Nhật ký quyết định có thể kiểm toán cho hệ thống phân loại hồ sơ công/y tế: mỗi quyết định lưu phiên bản quy tắc, bằng chứng đầu vào và lịch sử chấp nhận thay đổi, hỗ trợ khiếu nại và sửa chữa quyền lợi khi quy trình tự tiến hóa gây sai sót.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.18813
ArXiv Abstract	https://arxiv.org/abs/2610.18813
PDF Download	https://arxiv.org/pdf/2610.18813.pdf
Github Repository	https://github.com/zgcagi/Harness-RSI

7. MJev-Spatial: System One Spatial Intelligence via Native Attention Matching (143 votes)

Tác giả: Luozheng Qin, Yuhan Zhu, Changhai Zhou, Qian Qiao, Jun Gao, et al.

Xuất bản lúc: 2026-10-15

Tag: Vision-Language Models, Spatial Intelligence, Classification, Multimodal Learning, Robotics, Efficient Inference

I. Main Problem:

Các mô hình Vision-Language Models (VLMs) trả lời câu hỏi không gian (quan hệ vật thể, khoảng cách, vị trí đặt vật) bằng cách sinh text tự do qua autoregressive decoding, dù không gian đáp án thực rất nhỏ: một vài lựa chọn, một số vô hướng, hoặc một điểm 2D. Điều này gây ra:

lãng phí tính toán cho việc sinh và parse token đáp án (bao gồm cả định dạng, boilerplate)
độ trễ cao, trong khi nhiều phán đoán không gian cần ra quyết định gần như tức thì (tốc độ tương tác)
sự lệch giám sát: mô hình phải học cả dạng văn bản của đáp án, không chỉ phán đoán không gian.

II. Main Idea:

MJev-Spatial đề xuất một paradigm System 1: đưa cả ba loại đầu ra không gian (chọn đáp án, ước lượng số, chỉ điểm) về cùng một framework phân loại trên tập ứng viên hữu hạn. Cơ chế chính:

Mỗi ứng viên là một class: với câu hỏi trắc nghiệm là các lựa chọn có sẵn; với số là các bin giá trị (chia logarithmic cho khoảng cách, theo từng mã riêng cho góc/đếm); với điểm là các vùng ảnh 3x3.
Chấm điểm bằng Q/K projections có sẵn của lớp attention cuối cùng (Qwen3.5-4B): state tại vị trí quyết định làm query, state tại mỗi ứng viên làm key, softmax qua similarity — không thêm tham số hay prediction head nào.
Coarse-to-fine nhiều quyết định: số cần tối đa 2 lần phân loại (bin thô → bin mịn), điểm cần 3 lần, mỗi lần crop vùng được chọn, re-encode để lấy chi tiết cục bộ. Mỗi quyết định chỉ một forward pass, không sinh token.
Huấn luyện: 12.3M QA chuyển đổi từ các dataset không gian hiện có, giám sát đồng thời mọi stage bằng teacher forcing trong một forward pass, kèm length-aware batching + cross-GPU load balancing (tăng throughput 30.8%).
Mở rộng nhiều điểm bằng cách duyệt cây xác suất có điều kiện, không cần huấn luyện thêm.

Ví dụ đời thường: giống thay vì viết cả câu trả lời dài, người chơi trò chơi chỉ cần chỉ tay chọn đáp án trên bảng — thấy toàn cảnh trước, rồi lần lượt phóng to đúng khu vực cần nhìn cho tới khi chọn được ô cuối cùng.

III. Main Results:

Điểm trung bình cao nhất 65.64% trong 8 mô hình, đứng đầu 7/12 benchmark (SAT, CV-Bench, Robo-VQ, BLINK, RefSpatial, Robo-POI, Point-Bench), vượt Qwen3-VL-8B-Instruct (62.79%).
Thắng mô hình gốc autoregressive Qwen3.5-4B trên cả 12 benchmark (vốn chỉ đạt 54.80%), trong đó +22.89 điểm trên RoboSpatial VQA, +12.50 điểm trên RefSpatial.
Độ trễ trung bình chỉ 160.6ms trên B200 — nhanh 2.5x so với baseline autoregressive nhanh nhất và 5.6x so với chính mô hình gốc; MAE ước lượng khoảng cách 0.103m trên VST-300.
Ablation: dùng lại Q/K pretrained không thua linear head/KEV nhưng rẻ huấn luyện nhất; codebook thô hơn (216 cell thay vì 960) lại giảm MAE (0.3202 vs 0.3277m) — độ phân giải biểu diễn mịn không đồng nghĩa dự đoán chính xác hơn.
Bỏ crop re-encoding làm RefSpatial sụt từ 51.00% xuống 9.00% — chứng minh bước thu phóng cục bộ là yếu tố then chốt.

IV. Conclusion & Future Works:

Bài báo chứng minh System 1 classification — chấm điểm ứng viên bằng chính attention projections pretrained — là hướng khả thi cho spatial intelligence: chất lượng dự đoán cao hơn mô hình sinh text gốc trong khi nhanh gấp nhiều lần, với một cơ chế duy nhất phủ cả ba dạng đầu ra. Việc giám sát đồng thời mọi refinement stage và batching có nhận thức về độ dài cho thấy có thể huấn luyện hiệu quả trên dữ liệu không gian dị cấu. Hướng tương lai gợi ý: tinh chỉnh decoding cây xác suất cho multi-point (cân bằng chất lượng/chi phí), mở rộng codebook cho các đại lượng không gian mới, và kết hợp các kỹ thuật PEFT cho bài toán hạ tầng huấn luyện hạn chế hơn.

V. Brainstorming Space:

1. Publish Papers:

Đưa cùng framework phân loại ứng viên sang các tác vụ không gian thời gian như video grounding hoặc theo dõi vật thể chuyển động, tận dụng tính chất quyết định một-pass để xử lý luồng video theo thời gian thực trên robot.
Nghiên cứu chiến lược học tích cực cho coarse-to-fine: mô hình tự quyết định khi nào cần crop thêm vùng ảnh thay vì luôn cố định 3 quyết định, để tiết kiệm chi phí encode cho các ảnh dễ định vị.
Kết hợp decision head kiểu MJev với chính sách hành động của robot: thay vì sinh lệnh điều khiển dạng text, robot chọn trực tiếp trong tập ứng viên hành động rời rạc để đạt tần số điều khiển cao.

2. Patent:

Ứng dụng camera trên điện thoại đo khoảng cách thực: người dùng chụp ảnh, hỏi "cái bàn dài bao nhiêu"; mô hình trên điện thoại trả lời gần như tức thì bằng cách chọn bin khoảng cách thay vì sinh text, phục vụ đo đạc nội thất, xem nhà, mua sắm.
Trợ lý chỉ vị trí bằng giọng nói cho người khiếm thị: chụp ảnh trước mặt, hệ thống chỉ điểm vị trí vật (chai nước, cửa ra vào) qua 3 lần thu nhỏ vùng ảnh và thông báo bằng âm thanh, với độ trễ thấp đủ cho tương tác thực tế.
Tính năng sắp xếp đồ vật thông minh trong app nhiếp ảnh/thiết kế: chọn vị trí đặt vật mới trên ảnh phòng bằng cách phân loại lưới vùng ảnh từ thô đến mịn, gợi ý chỗ đặt hợp lý mà không cần mô hình 3D nặng.
Hệ thống kiểm tra an toàn công trường theo thời gian thực: camera giám sát hỏi-đáp kiểu "xe cẩu cách công nhân bao xa" và nhận cảnh báo ngay lập tức nhờ suy luận một-pass, thay vì chờ pipeline nhận diện + sinh mô tả nhiều bước.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.22276
ArXiv Abstract	https://arxiv.org/abs/2610.22276
PDF Download	https://arxiv.org/pdf/2610.22276.pdf
Github Repository	https://github.com/Fr0zenCrane/MJev-Spatial

8. Learning Where to Split: Dynamic Band Splitting for Audio Source Separation (132 votes)

Tác giả: Bingzhe Zhang, Kai Li, Xiaolin Hu

Xuất bản lúc: 2026-10-10

Tag: Audio Source Separation, STFT, Deep Learning, Attention, RoFormer, RNN, Adaptive Frequency Allocation

I. Main Problem:

Các mô hình tách nguồn âm thanh theo kiểu band splitting dùng cùng một bộ ranh giới tần số cố định cho mọi đoạn âm thanh. Điều này kém hiệu quả vì cấu trúc phổ hữu ích thay đổi theo nội dung:

Một dải tần quá rộng có thể gộp nhiều thành phần phân biệt thành một biểu diễn duy nhất.
Các dải tần chia quá mịn có thể lãng phí token ở vùng ít thông tin.
Tăng số dải tần cải thiện độ phân giải nhưng làm chi phí separator tăng.

Thách thức là phân bổ lại độ phân giải tần số cho từng mixture trong khi giữ ngân sách band-token cố định.

II. Main Idea:

Dynamic Band Splitting (DBS) học cách chia tần số khác nhau cho từng đoạn âm thanh nhưng vẫn dùng cùng số lượng band token cho separator. Quy trình chính:

Chia trục tần số STFT thành các frequency block cố định, mỗi block có ngân sách band riêng.
Một boundary predictor chấm điểm các vị trí ranh giới tiềm năng dựa trên đặc trưng phổ học được và thống kê biên độ.
Hard Top-K chọn đúng số ranh giới cần thiết trong từng block, tạo các band liên tục có vị trí và độ rộng thay đổi theo nội dung.
Content-dependent pooling gộp các frequency bin trong từng band thành một token có kích thước cố định.
Separator xử lý chuỗi token cố định này, sau đó DBS làm mượt token, mở rộng ngược về lưới STFT, tinh chỉnh dọc trục tần số và dự đoán complex mask.
Huấn luyện end-to-end bằng straight-through estimator, cho phép gradient từ lỗi tách nguồn cập nhật bộ dự đoán ranh giới dù forward pass dùng phân hoạch cứng.

Ví dụ đời thường: giống như thợ may đo người mặc rồi cắt vải theo số đo riêng, thay vì dùng một bản rập cố định; tổng số mảnh vải vẫn giữ nguyên nhưng từng đường cắt được đặt đúng chỗ cần nhất.

III. Main Results:

DnR v2: DBS-BSRNN nâng average SI-SDR từ 7.69 lên 9.07 dB (+1.38 dB, tương đương mức cải thiện tương đối 29.0% theo bài báo); DBS-TIGER từ 8.74 lên 10.13 dB (+1.39 dB).
MUSDB18-HQ: average four-stem SDR tăng trên cả ba backbone: BSRNN 5.09 → 5.43 dB, BS-RoFormer 4.50 → 6.34 dB (+1.84 dB), MelRoFormer 7.25 → 8.07 dB (+0.82 dB).
EchoSet: DBS-BSRNN cải thiện SDRi +0.46 dB và SI-SDRi +0.43 dB so với BSRNN đã công bố; DBS-TIGER cải thiện SDRi +0.33 dB và SI-SDRi +0.31 dB.
Kiểm chứng động học: 64 cửa sổ test khác nhau đều cho phân hoạch khác nhau; chạy lặp lại cùng input cho kết quả giống hệt, cho thấy ranh giới thật sự phụ thuộc vào nội dung.
So sánh partition: DBS-BSRNN hơn bản uniform cùng ngân sách +1.07 dB; thay ranh giới học được bằng layout cố định khi inference làm SI-SDR giảm từ 9.07 xuống 8.62 dB.
Ablation: bốn block tốt hơn hai block và một block; bỏ frequency refinement gây sụt 5.15 dB, bỏ acoustic transition prior sụt 4.98 dB, chỉ dùng magnitude statistics sụt 2.14 dB.

IV. Conclusion & Future Works:

DBS cho thấy có thể cải thiện tách nguồn âm thanh bằng cách tái phân bổ ngân sách độ phân giải tần số theo từng mixture, thay vì tăng số lượng token cho separator. Ưu điểm nổi bật là framework này tách riêng độ phân giải của separator khỏi độ phân giải đầu ra, nên có thể gắn với nhiều backbone band-split khác nhau.

Hạn chế: số band vẫn cố định và mỗi cửa sổ inference chỉ dùng một phân hoạch; mô hình chưa thay đổi kích thước biểu diễn hay vị trí ranh giới bên trong cửa sổ. Các biến thể cho phép thay đổi ngân sách có xu hướng chọn mức lớn nhất được phép, nên cần ràng buộc độ phức tạp rõ ràng nếu muốn điều chỉnh số band động.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu định tuyến ngân sách band động với ràng buộc chi phí tính toán, để mô hình tự chọn số lượng band cần thiết cho từng đoạn âm thanh thay vì giữ ngân sách cố định.
Phát triển phân hoạch tần số thay đổi theo thời gian bên trong một cửa sổ inference, nhằm bắt kịp cấu trúc phổ biến đổi nhanh trong âm thanh phim, âm nhạc và hội thoại.
Phân tích mối liên hệ giữa vị trí ranh giới học được với các sự kiện âm học như pitch, transient và giai điệu, từ đó xây dựng tiêu chí kiểm soát hoặc giải thích phân hoạch tự thích ứng.
Tối ưu DBS cho thiết bị biên bằng cách cân bằng giữa chất lượng tách nguồn, độ trễ và năng lượng tiêu thụ khi ngân sách tần số bị giới hạn.

2. Patent:

Ứng dụng điện thoại ghi âm cuộc gọi hoặc quay video: hệ thống phân tích nội dung âm thanh rồi tự điều chỉnh cách chia dải tần số để giữ rõ giọng nói, giảm tiếng ồn nền và tiết kiệm xử lý trong thời gian thực.
Ứng dụng trợ thính trên điện thoại hoặc tai nghe: thiết bị nhận biết đoạn âm thanh đang có giọng nói, nhạc hay tiếng động môi trường, sau đó dồn độ phân giải xử lý vào các vùng tần số quan trọng nhất để người dùng nghe rõ hơn mà không tăng độ trễ.
Ứng dụng chỉnh sửa nhạc trên điện thoại: khi tách giọng, trống, bass hoặc nhạc cụ khác, hệ thống tự cắt phổ thành các vùng tần số phù hợp với từng đoạn bài hát, giúp cô lập nhạc cụ tốt hơn khi làm remix hoặc karaoke.
Hệ thống hội nghị trực tuyến trên điện thoại: phân tích tín hiệu microphone rồi phân bổ khả năng tính toán vào các dải tần chứa giọng người nói hiện tại, cải thiện khử tiếng vọng, giảm ồn và giữ chất lượng hội thoại.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.14993
ArXiv Abstract	https://arxiv.org/abs/2610.14993
PDF Download	https://arxiv.org/pdf/2610.14993.pdf
Github Repository	https://github.com/JusperLee/Dynamic-Band-Splitting

9. InfiniSplat v2: Analyzing and Improving Feed-Forward 3DGS from Any Views (114 votes)

Tác giả: Yongzhen Hu, Hao Yu, Jiawei Wang, Xianming Zeng, Jianyun Xu, et al.

Xuất bản lúc: 2026-10-14

Tag: 3D Gaussian Splatting, Novel View Synthesis, Feed-Forward Reconstruction, Multi-View Geometry, Foundation Models, Computer Vision

I. Main Problem:

Các phương pháp feed-forward dựng cảnh 3D Gaussian trực tiếp từ ảnh đầu vào đều bắt đầu từ đám mây điểm dự đoán bởi mô hình hình học (như DA3), nhưng đám mây này thường chứa nhiều điểm nhiễu, cụm điểm rời rạc và không nhất quán giữa các view. Học thuộc tính Gaussian (opacity, scale, rotation, màu) trên hình học kém hoàn hảo đó khiến render góc nhìn mới bị mờ, ghosting, thiếu chi tiết, đặc biệt khi góc nhìn thay đổi lớn. Ba nguyên nhân cốt lõi được chỉ ra:

Tối ưu đồng thời hình học và thuộc tính khiến mạng lạm dụng việc dịch chuyển vị trí điểm để bù lỗi thuộc tính, làm hình học suy thoái.
Dùng camera dự đoán khi training gây lệch pose, lỗi này bị khuếch đại dưới supervision góc lớn.
Supervision chỉ tập trung quanh hướng view đầu vào khiến hình dạng Gaussian (scale, rotation) bị thiếu ràng buộc.

II. Main Idea:

InfiniSplat v2 giữ nguyên vị trí điểm từ mô hình hình học, chỉ học thuộc tính Gaussian thông qua ba cải tiến kiến trúc và huấn luyện:

Kiến trúc hai nhánh tách biệt: nhánh hình học (DA3) bị đóng băng hoàn toàn, chỉ fine-tune 10 Transformer block cuối của nhánh thuộc tính. Không cho phép dịch chuyển tâm điểm — scale và rotation vẫn học được để điều chỉnh hình dạng Gaussian.
Scale-aligned GT camera: dùng camera ground-truth để back-project điểm và render supervision, chuẩn hóa tỉ lệ qua Mean Radial Distance Normalization và phép biến đổi Umeyama, loại bỏ sai lệch pose dự đoán.
Random large-angle view supervision: chọn các camera mục tiêu có góc lệch quang trục lớn so với view đầu vào để ràng buộc hình dạng Gaussian từ nhiều phương chiếu khác nhau.
Kèm refiner có phản hồi rendering: render lại các view đầu vào, lấy gradient của loss làm tín hiệu feedback cho KNN Transformer dự đoán hiệu chỉnh thuộc tính (tâm điểm giữ cố định).
Phát hiện thú vị: chỉ với supervision tái cấu trúc ảnh, opacity tự học cách gán giá trị thấp cho điểm không nhất quán về hình học — cắt ngưỡng 0.01 loại 51.8% điểm nhiễu nhưng chỉ mất 7.5% điểm tổng thể.

Ví dụ đời thường: giống như sửa nhà trên một khung bê tông cũ không hoàn hảo — thay vì phá dỡ, xê dịch cột (làm nền móng lung lay), thợ chỉ trát vữa và sơn lại từng mảng tường (chỉnh thuộc tính), đồng thời đứng ở nhiều góc phòng xa (large-angle views) để kiểm tra mặt phẳng có phẳng không, và tự biết bỏ qua những mảng bê tông vỡ lởi ra (điểm nhiễu bị opacity đè xuống).

III. Main Results:

Cùng một model đã train, đánh giá trên 6 dataset (DL3DV, ETH3D, NRGBD, Mip-NeRF 360, RE10K, DTU) ở cả hai chế độ có và không có camera pose, đều đạt LPIPS và DISTS trung bình tốt nhất trong số các baseline (DA3-GS, WorldMirror 2.0, ReSplat, AnySplat, tttLRM...).
Chế độ pose-conditioned: giảm LPIPS 25.8% và DISTS 32.9% so với baseline mạnh nhất từng metric.
Chế độ pose-free: giảm 19.5% LPIPS và 30.7% DISTS so với WorldMirror 2.0.
Ablation: đóng băng hình học giảm LPIPS 16.6–23.2% so với fine-tune chung; dùng GT camera back-projection giảm LPIPS DTU 36.1%; large-angle supervision cải thiện cả hai metric trên ETH3D và DTU; cho phép offset vị trí (w/ O) làm kết quả xấu đi.
Cắt opacity ngưỡng 0.01: loại 51.8% điểm hình học không nhất quán nhưng giữ lại 93.3% điểm nhất quán với bề mặt.

IV. Conclusion & Future Works:

Bài báo chứng minh rằng với hình học dự đoán không hoàn hảo, cố định vị trí điểm và chỉ học thuộc tính là đường đi đúng cho feed-forward Gaussian reconstruction; supervision từ camera góc lớn và alignment GT pose là then chốt để render chất lượng cao ở góc nhìn xa. Opacity học được mang thông tin về độ tin cậy hình học mà không cần nhãn chuyên biệt. Phần kết luận không nêu rõ hướng tương lai; các hướng tự nhiên gồm mở rộng sang sequence dài hơn, cải tiến refiner, và khai thác opacity như tín hiệu tự động lọc nhiễu hình học.

V. Brainstorming Space:

1. Publish Papers:

Khai thác opacity học được như một thước đo độ tin cậy hình học tự giám sát để lọc điểm nhiễu trong các mô hình geometry foundation, thay vì dùng ngưỡng chiều sâu thủ công.
Mở rộng large-angle supervision cho cảnh động và video dài: chọn camera mục tiêu góc lớn theo thời gian để duy trì chất lượng render khi camera đầu vào liên tục thay đổi.
Kết hợp tư tưởng tách nhánh hình học/thuộc tính với các mô hình geometry foundation mới (VGGT-Long, Scal3R) để dựng Gaussian scene cho cảnh ngoài trời quy mô kilomet.

2. Patent:

Ứng dụng điện thoại quét 3D nhanh: người dùng chụp vài tấm ảnh xung quanh một vật, ứng dụng dựng cảnh Gaussian ngay trên máy và cho xoay vật 360 độ ở góc nhìn bất kỳ — hữu ích cho bán hàng trực tuyến, đăng tin chợ, số hóa đồ vật.
Công cụ tạo nội dung trên điện thoại: từ một đoạn video quay quanh phong cảnh hoặc phòng, tự động tạo mô hình 3D render được mọi góc để chèn hiệu ứng, làm game AR mini hoặc khôi phục góc quay bị che khuất.
Hệ thống mô phỏng cho xe tự hành và robot: từ vài camera quanh hiện trường, dựng cảnh Gaussian feed-forward để mô phỏng tầm nhìn từ vị trí xe chưa từng đến, phục vụ huấn luyện và kiểm thử thuật toán tránh va chạm.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.20341
ArXiv Abstract	https://arxiv.org/abs/2610.20341
PDF Download	https://arxiv.org/pdf/2610.20341.pdf
Github Repository	https://github.com/zju3dv/InfiniSplat

10. 3DCodeVerse: Exploring 3D Worlds as Code (99 votes)

Tác giả: Yipeng Gao, Ziyao Zeng, Jinfa Huang, Yijiang Li, Haolin Xiong, et al.

Xuất bản lúc: 2026-10-15

Tag: 3D Coding, Code Generation, Computer Vision, Graphics, Robotics, Video Generation, Multi-Agent Systems

I. Main Problem:

Tạo nội dung 3D bằng code có tiềm năng lớn vì kết quả có cấu trúc, có thể chạy, chỉnh sửa, tái sử dụng và kiểm chứng, nhưng hạ tầng chung còn rất phân mảnh:

Các bộ dữ liệu hiện có chủ yếu tập trung riêng lẻ vào đối tượng tĩnh, vật thể có khớp nối, cảnh 3D hoặc đồ họa/shader, khó dùng để huấn luyện mô hình mở ở quy mô lớn.
Nhiều chương trình 3D phụ thuộc vào thư viện chuyên biệt hoặc không còn khả dụng, khiến code khó chạy lại và khó kiểm chứng.
Các hệ thống sinh 3D hiện có thường thiếu vòng lặp tự động đủ mạnh: có nơi chỉ kiểm tra chạy được, có nơi chỉ nhìn ảnh render, mà thiếu kiểm tra hình học, va chạm, tỉ lệ, vật lý và tiêu chí chất lượng cùng lúc.
Việc tinh chỉnh chất lượng 3D vẫn phụ thuộc nhiều vào phản hồi con người, làm khó mở rộng sang dự án hàng nghìn dòng code.

II. Main Idea:

3DCodeVerse được xây dựng như một hệ sinh thái mở gồm dữ liệu + bộ kiểm chứng + quy trình huấn luyện để coding agent tạo nội dung 3D bằng chương trình có thể thực thi.

3DCodeVerse-2M: tập khoảng 2 triệu cặp chương trình 3D có thể chạy độc lập, bao phủ đối tượng tĩnh, vật thể có khớp nối, cảnh và đồ họa. Dữ liệu được thu thập từ nguồn mở, chuyển đổi từ các định dạng chuyên biệt sang code dùng được, và bổ sung chương trình do agent tự sinh. Mỗi mẫu đi kèm tài nguyên, mô tả, nguồn gốc và tín hiệu kiểm chứng.
3DCodeVerse Harness: bộ khung đa agent dùng đồ thị DAG để chia dự án lớn thành các tác vụ lập trình và lắp ráp. Sau khi chạy chương trình, hệ thống thu thập ba nhóm phản hồi:
- execution feedback: lỗi biên dịch/chạy và log runtime
- measured feedback: đo kích thước, va chạm, chồng lấn, khoảng cách, vị trí, chuyển động khớp nối
- visual feedback: mô hình thị giác-ngôn ngữ chấm ảnh render theo tiêu chí và liệt kê lỗi cụ thể
Các phản hồi được biến thành nhiệm vụ sửa chữa cục bộ, ví dụ “phần vảy bị dôi thành núm, cần ép xuống còn 0.05 chiều rộng” hoặc “tấm bụng chìm 3.2 mm quá ngưỡng 2 mm”. Một fix agent chỉnh code và lặp lại vòng chạy - đo - render - chấm - sửa cho tới khi đạt yêu cầu, không cần con người can thiệp trong từng vòng.

Ví dụ đời thường: giống một bếp trưởng không chỉ nấu theo công thức, mà sau mỗi món còn có cân đo nguyên liệu, camera quan sát món ăn, và giám khảo nếm thử; nếu món sai, hệ thống ghi chú đúng chỗ cần sửa — mặn hơn, nhỏ lại, bớt chồng lấn — rồi bếp trưởng nấu lại cho tới khi đạt.

III. Main Results:

Fine-tuning mô hình mở tăng mạnh khả năng chạy được code 3D: Qwen3.5-9B tăng execution rate trên 3DCodeBench từ 0.0% lên 84.9%; Qwen3.8-27B tăng từ 51.9% lên 92.9%.
Trên các tác vụ con, mô hình 27B sau huấn luyện đạt execution rate cao: Blender 93.2%, CadQuery 98.5%, OpenSCAD 90.0%, GLSL 71.5%, Three.js 92.5%.
Độ trung thành với mục tiêu cũng cải thiện: ví dụ F@0.05 trên 3DCodeBench tăng từ 0.214 lên 0.374 với Qwen3.8-27B, và từ 0.000 lên 0.317 với Qwen3.5-9B.
Harness cải thiện chất lượng sinh 3D so với native harness trên nhiều backbone: human preference khoảng 69–89% với đối tượng 3D, 78–88% với vật thể có khớp nối, 80–88% với cảnh, và 82–86% với đồ họa.
Khi cùng dùng Claude Opus 5.5, 3DCodeVerse Harness thắng Claude Design trong 90% so sánh cặp theo đánh giá con người, với judge score 88 so với 37.
Ứng dụng sơ bộ cho thấy code 3D có thể tạo tài sản/cảnh cho mô phỏng robot và làm điều kiện tham chiếu không gian-thời gian cho video generation.

IV. Conclusion & Future Works:

3DCodeVerse cho thấy 3D coding có thể được đẩy từ “sinh thử một lần” sang một vòng khép kín: xây dữ liệu, sinh chương trình, thực thi, kiểm tra hình học, chấm thị giác, sửa lỗi và dùng kết quả để huấn luyện mô hình tiếp. Giá trị lớn nhất là biến chất lượng 3D thành thứ có thể đo, phản hồi và cải thiện tự động, thay vì chỉ dựa vào cảm tính render đẹp.

Hướng tương lai hợp lý: mở rộng dữ liệu sang nhiều engine và dạng nội dung hơn; nâng độ tin cậy của VLM judge bằng rubric và kiểm chứng định lượng chặt hơn; tối ưu inference-time scaling cho dự án rất lớn; kết nối sâu hơn với robotics, video generation, CAD/thiết kế sản phẩm và công cụ tạo 3D cho thiết bị di động.

V. Brainstorming Space:

1. Publish Papers:

Phát triển mô hình judge đa phương thức cho 3D coding: kết hợp render đa góc nhìn, đo hình học, kiểm tra vật lý và tiêu chí tác vụ để chấm chất lượng chương trình 3D ổn định hơn.
Nghiên cứu inference-time scaling cho sinh 3D bằng code: cân bằng số vòng lặp sửa lỗi, chi phí agent, độ tin cậy của phản hồi và chất lượng cuối cùng trên dự án nhiều thành phần.
Mở rộng 3DCodeVerse sang dữ liệu tự mở rộng: dùng harness như công cụ tạo dữ liệu có chọn lọc để liên tục sản xuất chương trình mới, gán nhãn chất lượng và huấn luyện mô hình mở.
Kết hợp 3D code với video generation có điều khiển: dùng chương trình để định nghĩa bố cục cảnh, quỹ đạo camera và chuyển động vật thể, sau đó tinh chỉnh diện mạo bằng mô hình video.

2. Patent:

Ứng dụng điện thoại biến mô tả hoặc ảnh chụp thành mô hình 3D có thể chỉnh sửa: người dùng nhập “một chiếc xe đạp gấp màu đỏ”, ứng dụng sinh chương trình 3D, tự chạy thử, đo tỉ lệ và va chạm rồi cho phép đổi màu, kích thước hoặc xuất file in 3D.
Công cụ thiết kế nội thất trên điện thoại dùng ngôn ngữ tự nhiên: người dùng mô tả “đặt bàn ăn sáu ghế cạnh cửa sổ, chừng lối đi 90 cm”; hệ thống sinh cảnh 3D, kiểm tra chồng lấn và khoảng cách, tự sửa bố cục rồi hiển thị bản xem trước thực tế tăng cường.
Bộ sửa lỗi tự động cho file 3D trên mobile: khi mô hình tải lên không mở được, thiếu thư viện, sai tỉ lệ hoặc bị chồng mặt, ứng dụng phân tích log và hình render để đề xuất bản vá cục bộ rồi xuất lại file hoàn chỉnh.
Hệ tạo video quảng cáo từ kịch bản ngắn trên điện thoại: người dùng mô tả sản phẩm, góc quay và chuyển động; ứng dụng sinh cảnh 3D, render video tham chiếu và dùng video đó để điều khiển mô hình tạo video có tính nhất quán không gian.
Khay công cụ cho robot cộng tác: người vận hành mô tả vật thể có bản lề hoặc tay nắm cần mô phỏng; hệ thống tạo mô hình 3D có khớp nối, kiểm tra giới hạn chuyển động và xuất sang môi trường mô phỏng robot từ điện thoại hoặc máy tính bảng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.22341
ArXiv Abstract	https://arxiv.org/abs/2610.22341
PDF Download	https://arxiv.org/pdf/2610.22341.pdf
Github Repository	https://github.com/gaoypeng/3dcodeverse

11. MAI-Gym: An Open All-in-One Platform for GUI Agent Evaluation and RL Training across Mobile and Computer Environments (94 votes)

Tác giả: Panrong Tong, Quyu Kong, Pengxiang Li, Tianyu Xia, Hanzhang Zhou, et al.

Xuất bản lúc: 2026-10-14

Tag: GUI Agents, Reinforcement Learning, Online RL, GRPO, Benchmarking, Agent Evaluation, Android Automation, Computer Use, Web Agents, Synthetic Environments

I. Main Problem:

Huấn luyện GUI agent bằng online RL còn tắc vì hai rào cản bám nhau:

Môi trường GUI đắt và khó nhân bản: mỗi lượt thử cần một điện thoại/máy tính/trình duyệt riêng, reset về đúng trạng thái đầu; điểm số còn dễ bị harness khác nhau làm lệch.
Nhiệm vụ thực tế thiếu và không an toàn để luyện: luồng liên quan tới tiền/đặt hàng không thể thực hành hàng nghìn lần; tác vụ tổng hợp cũ thường rời rạc, thiếu trạng thái nhiều app mạch lạc. Hệ quả: infra không đủ quy mô, reward khó tin cậy, evaluation và training dễ tách rời khiến kết quả đo không phản ánh đúng agent đang được cải thiện.

II. Main Idea:

MAI-Gym là một nền tảng mở all-in-one cho GUI agent: đánh giá, thu thập dữ liệu và online RL dùng chung một rollout path và một agent harness, qua environment manager thống nhất trên mobile/computer/web. Nó hỗ trợ 10 benchmark, scale tới 20.000 môi trường song song, và tự tổng hợp môi trường/nhiệm vụ bằng coding-agent skill.

Mocked apps: bản sao app thật nhưng backend reset được, để luyện giao dịch an toàn nhiều lần; có cả app mới lạ để đo khả năng thích ứng.
Cross-app world: tạo trước một “thế giới” nhân vật/sự kiện/hồ sơ nhất quán, rồi sinh task buộc agent đọc-tổng hợp thông tin qua nhiều app; verifier code/VLM được chạy thử trên trạng thái ban đầu, hoàn thành và reset.
Failure-driven synthesis: coding agent phân tích trajectory thất bại để biết model yếu ở đâu, rồi sinh task mới nhắm đúng điểm yếu.
Training: recipe chính là GRPO theo nhóm rollouts, dùng lại cửa sổ lịch sử để tái dùng KV-cache và giảm chi phí multi-turn inference.

Ví dụ đời thường: giống một trường lái xe có nhiều cabin mô phỏng giống hệt phố thật: học viên thao tác sai bao nhiêu lần cũng được, máy chấm tự kiểm tra kết quả, và sau mỗi lượt hệ thống dựng lại y nguyên cảnh ban đầu để luyện tiếp.

III. Main Results:

MAI-Gym-9B đạt 78.4% MobileWorld và 76.2% OSWorld-Verified, SOTA trong nhóm open GUI agent dưới 10B, vượt UI-Venus-2-9B và cả GUI-Owl-1.5-32B lớn hơn.
RL cải thiện đều so với SFT warm-up trên nhiều benchmark ngoài môi trường training, cho thấy khái quát hóa tốt.
Sim-to-real rõ rệt: luyện trong clone app đặt vé tàu làm success trên app thật trên điện thoại vật lý tăng từ 28.8% lên 48.1%.
Luyện trên app hoàn toàn mới cũng nâng held-out task success từ 25.8% lên 45.2%.
Hạ tầng chịu tải lớn: reset trung vị khoảng 165s Android, 37s desktop VM, 6s browser; 1.000 instance mới khởi động trong 328.4s mobile và 88.9s computer.

IV. Conclusion & Future Works:

Điểm mạnh cốt lõi là một codebase mở nối liền evaluation, diagnostics, synthesis và online RL, đồng thời cho thấy tập luyện trong môi trường tổng hợp có thể chuyển sang app thật. Hướng tương lai: lặp nhiều vòng diagnose-synthesize-retrain dài hạn, mở rộng thế giới cross-app phức tạp hơn, cải thiện verifier VLM, và nâng độ ổn định của fleet khi vượt quy mô 20K instance.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng failure-driven synthesis thành chu trình tự cải thiện nhiều lượt, trong đó chính sách mới liên tục tạo dữ liệu chẩn đoán để sinh task khó hơn theo độ yếu hiện tại.
Nghiên cứu sim-to-real cho GUI agents: đo chuyển giao từ mocked app sang app thật theo lớp giao diện, luồng nghiệp vụ và phân bố người dùng khác nhau.
So sánh hệ thống verifier code-first và VLM judge trong RL GUI, kết hợp execution validation để giảm reward hacking.
Khảo sát joint RL đa nền tảng mobile/computer/web với chia sẻ harness và thưởng đa tác vụ.

2. Patent:

Hệ thống ôn tập thao tác điện thoại an toàn cho người dùng lớn tuổi hoặc nhân viên mới: tạo bản mô phỏng y chang app ngân hàng/đặt vé/giao đồ ăn trên điện thoại, cho phép thực hành giao dịch nhiều lần rồi tự chấm và gợi ý sửa từng bước.
Khung kiểm thử tự động ứng dụng di động trước khi phát hành: môi trường clone reset được chạy hàng nghìn scenario người dùng, ghi lại ảnh màn hình, hành động và kết quả để phát hiện lỗi luồng booking, thanh toán, đăng bài.
Bộ công cụ huấn luyện trợ lý ảo thao tác máy tính cho doanh nghiệp: dựng sẵn các thế giới dữ liệu nội bộ mạch lạc giữa email, tài liệu và hệ thống bán hàng, kèm chấm điểm tự động để đào tạo lại agent theo quy trình công ty.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.20939
ArXiv Abstract	https://arxiv.org/abs/2610.20939
PDF Download	https://arxiv.org/pdf/2610.20939.pdf
Github Repository	https://github.com/Tongyi-MAI/MAI-Gym

12. SCOPE: Semantic Bounded Credit Optimization for Prompt Engineering in Text-to-image Generation (77 votes)

Tác giả: Yufei Jiao, Jinfa Huang, Zeyue Xue, Tianyu Xie, Yuexiao Ma, et al.

Xuất bản lúc: 2026-10-15

Tag: Text-to-Image, RL, GRPO, Prompt Engineering, Credit Assignment, Diffusion, LLM

I. Main Problem:

Cải thiện text-to-image (T2I) bằng cách dùng mô hình ngôn ngữ viết lại prompt trong khi giữ nguyên bộ tạo ảnh đông lạnh, thông qua reinforcement learning (GRPO). Nút thắt cốt lõi là credit assignment:

Phần thưởng chỉ là một số vô hướng duy nhất cho cả bức ảnh, nhưng GRPO sao chép cùng một advantage đều đặn xuống từng token subword.
Trong thực tế, các sửa đổi cấu thành (đối tượng, số lượng, màu sắc, quan hệ không gian) tạo thành các cụm ngữ nghĩa liền mạch trải dài nhiều subword — ranh giới tokenizer không trùng ranh giới ngữ nghĩa.
Hệ quả: cập nhật token đồng nhất phá vỡ các chỉnh sửa cấu thành thành mảnh vụn; trong khi ước lượng reward riêng cho từng span lại đòi hỏi render ảnh thêm — chi phí quá cao.

II. Main Idea:

SCOPE (Semantic Bounded Credit Optimization) — mục tiêu tối ưu tương thích GRPO, điều tiết trọng số cập nhật token theo các span ngữ nghĩa:

Rewriter sinh đồng thời prompt viết lại và phân hoạch ngữ nghĩa của nó (ngăn cách bằng dấu |), ví dụ: Four red handbags | neatly displayed | on white pedestals.
Vẫn giữ một advantage duy nhất cho mỗi completion (từ reward ảnh + reward định dạng), không cần span reward riêng, render thêm ảnh, hay critic.
Với mỗi span, gộp (pool) độ lệch log-probability giữa policy hiện tại và policy cũ trong span → hệ số chung cho span: v = clip(exp(β·b), 0.8, 1.2), sau đó chuẩn hóa theo số token để trung bình advantage giữ nguyên.
Hệ số này (detached) điều tiết mức đóng góp của advantage vào loss từng token trong span; khi β = 0, SCOPE thu về đúng GRPO chuẩn (tổng quát hóa nghiêm ngặt).

Ví dụ đời thường: giống việc chấm một bài thuyết trình theo từng ý hoàn chỉnh thay vì chấm từng chữ — cả câu ý tưởng nhận cùng một mức ghi nhận hoặc chỉnh sửa, thay vì khen mảnh từng từ khiến câu bị xé lẻ.

III. Main Results:

Thử nghiệm trên ba bộ tạo ảnh đông lạnh (Qwen-Image, SD3, FLUX.1-dev), rewriter là Qwen3-8B:

GenEval: tăng trung bình tương đối +9.48% so với GRPO thuần (Qwen-Image 0.91→0.95; SD3 0.74→0.84, +13.5%; FLUX.1-dev 0.76→0.84, +10.5%). Cải thiện mạnh nhất ở đếm vật thể và vị trí không gian — ví dụ SD3: Counting +36.2%, Position +45.6%; FLUX.1-dev: Position từ 0.16 (baseline) lên 0.84.
T2I-CompBench: vượt GRPO toàn bộ 6 hạng mục trên cả ba backbone, trung bình +6.7%/+8.0%/+8.2%. SCOPE khắc phục hoàn toàn hiện tượng negative transfer của GRPO/RePrompt trên Qwen-Image (0.6247 → 0.6665).
Ablation: (a) điều tiết theo từng token riêng lẻ (không gộp span) làm giảm dưới GRPO — chứng minh pooling trong span là then chốt; (b) ranh giới ngẫu nhiên hoặc cửa sổ 3-token cố định sụt 8–9% — chứng minh ranh giới ngữ nghĩa chứ không phải gom token chung chung; (c) SCOPE vững với mọi cách tính advantage; (d) phá vỡ plateau sớm của GRPO trong huấn luyện.
Định tính: đưa Qwen-Image mở đạt ngang gpt-image 2 về bố cục và đếm đồ vật, và vượt trên thuộc tính phản trực giác (vẽ được quả cam màu trắng). Hơn 99.2% rollout căn chỉnh span-token chính xác.

IV. Conclusion & Future Works:

SCOPE thiết lập credit assignment căn chỉnh cấu trúc ngữ nghĩa như một paradigm plug-and-play cho prompt engineering bằng RL với bộ tạo ảnh đông lạnh: chỉ cần thay hàm mục tiêu GRPO, không đổi pipeline render/reward, không cần parser ngoài. Hướng tương lai: (i) mở rộng cho các tác vụ chỉnh sửa ảnh và video; (ii) kết hợp với tinh chỉnh bộ tạo ảnh cùng lúc; (iii) ứng dụng tư tưởng span credit cho các bài toán sinh chuỗi nói chung.

V. Brainstorming Space:

1. Publish Papers:

Áp dụng SCOPE cho bài toán prompt engineering trong chỉnh sửa ảnh theo chỉ dẫn (instruction-based image editing), nơi các span ngữ nghĩa mô tả vùng cần sửa và thuộc tính mới.
Kết hợp SCOPE với học đa phương thức: dùng phản hồi từ cả ảnh và video để huấn luyện rewriter cho mô hình sinh video, nơi quan hệ không-thời gian cần span dài hơn.
Nghiên cứu span hierarchy: phân cấp span lồng nhau (đối tượng → thuộc tính → quan hệ) để credit assignment mịn hơn ở mức cụm từ con.

2. Patent:

Ứng dụng camera điện thoại AI sinh ảnh: người dùng nhập mô tả, hệ thống tự tách thành các cụm ý (đối tượng, màu, vị trí) và viết lại prompt tối ưu trước khi gọi mô hình tạo ảnh trên điện thoại hoặc đám mây, giúp ảnh đúng số lượng vật thể và bố cục hơn mà không cần huấn luyện lại mô hình ảnh.
Trợ lý ảnh quảng cáo trên điện thoại cho doanh nghiệp nhỏ: nhập mô tả sản phẩm bằng giọng nói, ứng dụng tự viết lại thành prompt có cấu trúc (sản phẩm | thuộc tính | bối cảnh) và sinh ảnh đúng yêu cầu, giảm số lần tạo lại ảnh do sai màu hoặc sai số lượng.
Hệ thống kiểm tra chất lượng ảnh sinh tự động trong nhà máy/thiết kế: tự động viết lại yêu cầu thiết kế thành prompt cấu trúc, sinh ảnh mẫu bằng mô hình đông lạnh và đối chiếu ràng buộc (số chi tiết, vị trí lắp ráp), cắt giảm chi phí render thử nghiệm nhiều lần.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.22264
ArXiv Abstract	https://arxiv.org/abs/2610.22264
PDF Download	https://arxiv.org/pdf/2610.22264.pdf
Github Repository	https://github.com/MAC-AutoML/SCOPE

13. Speculative Forcing for Efficient Autoregressive Video Generation (72 votes)

Tác giả: Hyunwook Choi, Seungryong Kim, Dongyoon Han, Sangdoo Yun

Xuất bản lúc: 2026-10-15

Tag: Video Generation, Autoregressive Diffusion, Few-step Sampling, World Models, Token-wise Commitment, Inference Efficiency

I. Main Problem:

Các mô hình few-step autoregressive video generation hiện nay giúp sinh video streaming theo thời gian thực, nhưng vẫn chạy mọi token qua đúng số bước denoise cuối cùng, dù mỗi token cần độ tinh chỉnh rất khác nhau.

Bài toán cốt lõi: không phải mọi token đều cần denoise tới bước cuối. Một số vùng giống nội dung đã xuất hiện trong history nên hội tụ rất sớm; trong khi vùng mới lộ ra, vật chuyển động, hoặc chi tiết tinh cần tinh chỉnh tới cuối.

Hệ quả của tính toán đồng đều:

lãng phí compute cho token đã hội tụ
throughput thấp trong sinh video dài và world model interactive
các phương pháp adaptive hiện thường dừng theo frame/chunk hoặc vẫn giữ mọi token trong schedule, chưa cam kết token nào đã xong một cách token-wise.

II. Main Idea:

Speculative Forcing xem mỗi intermediate clean estimate của diffusion như một draft, rồi dùng một verifier dự đoán token đó đã đủ gần output full-step hay chưa. Token được chấp nhận sớm thì đóng băng thành output cuối, không denoise nữa, nhưng keys/values vẫn được cache để các token còn lại tiếp tục attend tới.

Quy trình chính:

Mỗi token bắt đầu active và có draft ngay từ bước đầu.
Tại mỗi bước k < K, verifier đánh giá các active token.
Accepted token: commit tại bước hiện tại, loại khỏi các forward denoise sau.
Rejected token: re-noise và tinh chỉnh tiếp.
Token nào còn active tới bước K thì commit ở bước K.

Có hai verifier:

Training-free verifier: dùng độ giống với clean history/reference ở bước đầu, và độ ổn định giữa hai draft liên tiếp ở các bước sau.
Learned verifier: đầu convolution nhỏ đọc hidden state của generator đã freeze để dự đoán remaining gap tới full-step output; ngưỡng có thể chỉnh ở inference để đổi đánh đổi tốc độ/chất lượng.

Khác với caching/adaptive sampling, phương pháp này commit theo từng token và token đã commit không quay lại schedule.

Ví dụ đời thường: giống thợ sửa ảnh từng phần: nét nào đã khớp mẫu thì giữ nguyên không vẽ lại, còn nét mờ/mới chỉnh tiếp, thay vì tô lại toàn bộ bức tranh đến cuối cùng.

III. Main Results:

Trên LongLive, phương pháp giữ chất lượng gần tương đương generator 4-step chỉ với khoảng 1.65-1.72 denoising steps/token.
Video ngắn 5s: tăng từ 26.4 fps lên 41.7 fps với learned verifier, tức khoảng 1.58× nhanh hơn.
Video dài 30s: tăng từ 24.5 fps lên 37.8 fps, khoảng 1.54×, đồng thời Drift thấp hơn 4-step baseline.
Trên Lingbot-World 2.0 world model khó hơn do camera motion liên tục đổi nội dung hiển thị, phương pháp dùng khoảng 2.5-2.55 steps/token và đạt 24.5 fps, nhanh hơn 1.35× so với 18.1 fps của 4-step.
Quality trên world model vẫn cạnh tranh hoặc tốt hơn baseline 4-step theo VBench aggregate; camera-pose error vẫn tương đương.
Ablations cho thấy:
- token-wise commitment tốt hơn chunk-wise acceptance ở cùng mean steps
- verifier dự đoán convergence gap trực tiếp tốt hơn các tín hiệu temporal difference hay channel variance
- learned verifier đạt gần mức oracle verification mà không cần chạy full-step reference lúc inference.

IV. Conclusion & Future Works:

Kết luận chính: trong few-step AR video generation, một độ sâu denoise chung cho mọi token là không cần thiết. Speculative Forcing cho thấy có thể phân bổ compute theo mức hội tụ token-wise, giảm đáng kể số bước denoise trong khi giữ chất lượng, giảm hoặc không làm tăng drift, và bảo toàn độ chính xác theo camera trajectory trong world modeling.

Hướng mở rộng hợp lý:

verifier nhạy hơn cho các trường hợp nội dung mới xuất hiện đột ngột
cân bằng acceptance theo vùng không gian-thời gian rõ hơn
mở rộng cho các AR generator/world model lớn hơn và bài toán interactive thời gian thực.

V. Brainstorming Space:

1. Publish Papers:

Token-wise early commitment cho autoregressive video diffusion: mở rộng speculative forcing sang các generator multi-frame với attention window dài hơn và cache policy thích ứng.
Verifier học theo residual cho world model: dự đoán sai lệch còn lại của từng latent token dưới camera motion lớn để giảm compute mà không mất độ trung thành trajectory.
Chính sách acceptance theo vùng cho video dài: kết hợp độ ổn định temporal, motion magnitude và semantic saliency để phân bổ bước denoise thông minh hơn.
Tăng tốc world model trên thiết bị biên: nén verifier nhẹ và thiết kế cache theo chunk để duy trì streaming fps cao trên GPU giới hạn.

2. Patent:

Ứng dụng camera AR trên điện thoại: khi người dùng di chuyển điện thoại, hệ thống sinh khung cảnh mới theo thời gian thực; các vùng ảnh trùng với khung trước được giữ nguyên, chỉ làm mới vùng lộ ra do chuyển camera, giúp mượt mà và tiết kiệm pin.
Chỉnh sửa video tự động theo từng vùng: ứng dụng di động nhận diện vùng nền/tĩnh đã ổn định thì khóa sớm, chỉ render tiếp vùng người/vật chuyển động hoặc vừa thay đổi để xuất video nhanh hơn trên thiết bị.
Game/world simulation trên điện thoại: khi người chơi xoay góc nhìn, hệ thống dự đoán vùng nào đã ổn định để giữ nguyên frame cũ, vùng cảnh mới mới sinh thêm, giảm tải GPU mà không giật hình.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.22347
ArXiv Abstract	https://arxiv.org/abs/2610.22347
PDF Download	https://arxiv.org/pdf/2610.22347.pdf
Github Repository	https://github.com/naver-ai/speculative-forcing

14. VLA-Δ: Learning Physical State Transition for Vision-Language-Action Models (54 votes)

Tác giả: Qi Lu, Jiarun Li, Ce Zhang, Miao Pan, Yi Pan, et al.

Xuất bản lúc: 2026-10-15

Tag: Vision-Language-Action, Robotics, Physical State Transition, Robot Learning, Flow Matching, Optical Flow, Pretraining, Manipulation

I. Main Problem:

Các mô hình Vision-Language-Action hiện nay thường ánh xạ trực tiếp quan sát sang hành động, nên không học rõ các thay đổi vật lý trung gian giữa trạng thái hiện tại và trạng thái tương lai. Hậu quả là chúng dễ học vẹt tương ứng quan sát-hành động, thay vì hiểu động lực học của cảnh: ví dụ như khép gripper trước khi chạm tới vật, hoặc vẫn tiếp tục đặt vật sau khi đã gắp hỏng.

Các hướng hiện có chưa giải quyết trực tiếp:

Reasoning VLA mô tả kế hoạch/ngôn ngữ, nhưng nói nên làm gì tiếp hơn là trạng thái vật lý thay đổi thế nào.
World Action Models dự đoán ảnh tương lai, nhưng chủ yếu ép đồng nhất ngoại hình cảnh và thường tốn chi phí suy luận.
Latent-WAM rẻ hơn nhưng vẫn nghiêng về biểu diễn trực quan tương lai, chưa gắn với trạng thái vật lý và tương tác chuyển động.

II. Main Idea:

VLA-Δ đưa chênh lệch trạng thái vật lý giữa hiện tại và tương lai thành mục tiêu học tường minh. Mô hình thêm các Physical State Difference Queries vào backbone thị giác-ngôn ngữ, tạo một biểu diễn chuyển tiếp duy nhất điều kiện hóa trên ảnh hiện tại và chỉ dẫn; rồi action expert sinh chuỗi hành động liên tục bằng flow matching.

Ba nhánh giám sát trong pretraining:

Structured Transition Slots: 9 nhóm biến trạng thái như tiến độ, pha tác vụ, vị trí đối tượng/gripper, chuyển vị, trạng thái gripper, tiếp xúc, rủi ro va chướng.
Dense Optical Flow: bắt chước chuyển động 2D dày đặc của vật và gripper giữa hai khung gần nhau.
Future-State Difference Text: sinh tự hồi quy mô tả ngôn ngữ về tiến độ tác vụ, dịch chuyển không gian, thay đổi tiếp xúc và ràng buộc vật lý.

Quan trọng: ba tín hiệu phụ chỉ dùng trong pretraining; fine-tuning downstream chỉ tối ưu mất hành động; khi triển khai không cần giải mã các mục tiêu phụ.

Ví dụ đời thường: thay vì chỉ bắt chước tay lái, người học được chỉ rõ từng khoảnh khắc: đèn đỏ vừa bật, xe trước đang gần hơn, tay vẫn phải giữ vô-lăng — vì vậy động tác đi kèm với sự thay đổi vật lý, không phải phản xạ mù.

III. Main Results:

LIBERO: đạt 98.4% trung bình, cao nhất trong các phương pháp so sánh; với mô hình 2B, cao hơn GR00T-N1.7, π0.5, openVLA-OFT, VLA-Adapter, ZR-0.
LIBERO-Plus: giữ hiệu suất tốt dưới nhiễu ngôn ngữ, ánh sáng, nền, bố cục. Ở nhiễu Language đạt 89.0%, hơn π0.5 khoảng 6.4 điểm, cho thấy văn bản chênh lệch trạng thái giúp ít nhạy với cách diễn đạt bề mặt.
RoboTwin 2.0: đạt 90.06% Clean và 89.74% Random, cao nhất ở cả hai; chỉ giảm 0.32 điểm từ Clean sang Random, nhỏ hơn ZR-0 và Motus.
Robot thật AgileX PiPER: trung bình 68.0% trên 5 tác vụ/200 lần chạy; tổng thể hơn π0.5 khoảng 5.5%; nổi bật ở tránh chướng ngại vật với 42.5%, cũng như suy luận không gian và thao tác tinh.
Ablation: query cơ chế chênh lệch chỉ cho 96.25%; thêm từng tín hiệu chuyển tiếp đều cải thiện, bản đầy đủ đạt 98.4%. t-SNE cho thấy slot có cấu trúc cụm rõ hơn; attention tập trung hơn vào vật mục tiêu, gripper, vùng tiếp xúc.

IV. Conclusion & Future Works:

Kết luận chính: giám sát trực tiếp sự chuyển đổi trạng thái vật lý trong pretraining tạo nền biểu diễn tốt cho học chính sách downstream, đồng thời không làm tăng chi phí suy luận lúc chạy. Bài báo không nêu hướng tương lai rõ ràng trong phần trích dẫn; hàm ý mở rộng tự nhiên là áp dụng pipeline chú thích tự động và giám sát đa mức cho thêm dữ liệu robot, nền tảng phần cứng và tác vụ dài hơn.

V. Brainstorming Space:

1. Publish Papers:

Tối ưu hóa pipeline chú thích tự động để sinh nhãn chuyển tiếp trạng thái vật lý cho robot nhanh hơn, rẻ hơn và ít cần kiểm định thủ công hơn.
Nghiên cứu chưng cất mô hình thị giác-ngôn ngữ-hành động có giám sát chênh lệch trạng thái sang phiên bản nhẹ chạy trên robot cạnh mà vẫn giữ lợi ích về chú ý vùng tiếp xúc và tránh chướng ngại.
Mở rộng khái niệm slot trạng thái có cấu trúc sang robot đa cánh tay và tác vụ dài hạn, kiểm tra xem phân chia vai trò ngữ nghĩa có giữ được khi số lượng đối tượng, bước thao tác và ràng buộc tăng lên.
Kết hợp dự đoán chênh lệch trạng thái với cơ chế tự phát hiện thất bại để robot nhận biết khi trạng thái thực tế lệch khỏi kỳ vọng và điều chỉnh hành động sớm.

2. Patent:

Ứng dụng điện thoại hỗ trợ huấn luyện robot: người dùng quay một lần thao tác đúng; điện thoại hoặc máy chủ đám mây tự tạo nhãn kiểu hiện tại-so với-tiếp theo gồm vị trí vật, trạng thái kẹp, vùng chạm và chướng ngại, rồi gửi về robot để học mà không cần lập trình từng động tác.
Hệ điều khiển robot gia đình bằng điện thoại với phản hồi trạng thái: camera điện thoại đặt bất kỳ quan sát bàn làm việc; robot thực hiện bước thăm dò rất ngắn, điện thoại so sánh khung hình trước-sau để ước lượng vật đã dịch bao nhiêu, kẹp đã mở/khép chưa, rồi gợi ý hoặc tự chỉnh bước kế tiếp.
Module an toàn cho cánh tay robot lắp ráp/cắt gọt: hệ thống mô tả bằng ngôn ngữ đơn giản các ràng buộc cần giữ trong bước tới, ví dụ giữ kẹp đóng, không xoay vật, tránh lọ bên trái, và dùng mô tả đó để giảm va chạm khi thay đổi vị trí vật hoặc vật cản xuất hiện lúc chạy.
Tính năng gợi ý thao tác trên điện thoại cho kho hàng nhỏ: nhân viên chọn tác vụ như đặt chai xa nhất lên khay; màn hình điện thoại hiển thị chênh lệch kỳ vọng giữa hai trạng thái để robot xác nhận đúng vật mục tiêu, đúng vị trí đặt và đúng điểm cần buông.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.21306
ArXiv Abstract	https://arxiv.org/abs/2610.21306
PDF Download	https://arxiv.org/pdf/2610.21306.pdf
Github Repository	https://github.com/ZJU-OmniAI/VLA-Delta

15. CommerceGen-Studio: An End-to-End Framework for Commercial-Grade Main-Image Generation (51 votes)

Tác giả: Xiaoli Xu, Zhengtao Wu, Zhengze Xu, Tao Liu, Yongchao Du, et al.

Xuất bản lúc: 2026-10-14

Tag: Text-to-Image, Diffusion Transformer, E-commerce, Reinforcement Learning, Distillation, VLM, Image Editing, OCR

I. Main Problem:

Trang kết quả tìm kiếm thương mại điện tử ngày càng hiển thị ảnh ở độ chi tiết SKU (từng phiên bản sản phẩm), nhưng người bán hầu như không có ảnh chính chất lượng cho từng SKU — chủ yếu là ảnh chụp nền trắng đơn giản làm giảm đáng kể tỷ lệ nhấp chuột. Các mô hình text-to-image/image-to-image đa năng chưa đáp ứng được 4 yêu cầu của bài toán này:

Thông tin nguồn phân tán: điểm bán hàng nằm rải rác ở tiêu đề, OCR ảnh, thuộc tính, tham số hệ thống — có thể trùng lặp, mâu thuẫn, thiếu sót.
Tính nhất quán thông tin: chủ thể, thương hiệu, chữ điểm bán phải khớp chính xác với SKU — sai một chữ số cũng đủ gây hiểu nhầm khi mua.
Robust với long-tail: dữ liệu thật trải rộng mọi ngành hàng, chất lượng ảnh người bán rất không đồng đều.
Điều khiển layout đa điều kiện: phải phối hợp đồng thời sản phẩm + logo thương hiệu + chữ bán hàng trong một bố cục mạch lạc.

II. Main Idea:

CommerceGen-Studio là pipeline 3 giai đoạn đầu-cuối, chạy thực tế ở quy mô hàng triệu ảnh/ngày, vài giây/ảnh:

PERL-Agent (trích xuất thông tin): vòng lặp khép kín 4 vai trò — Generator (VLM) sinh danh sách điểm bán, Judge (LLM) chấm theo rubric 6 chiều không cần đáp án tham chiếu, Analyzer quy lỗi về chiều yếu nhất, Refiner sửa prompt tối thiểu. Tối ưu theo điểm thấp nhất thay vì trung bình; một prompt duy nhất thích ứng mọi ngành hàng.
Layout Thinker Optimization (viết lại ngữ nghĩa): VLM viết lại TextList thành caption layout có thể thực thi (vị trí chủ thể, phân cấp chữ, màu sắc, vị trí logo). Huấn luyện GRPO với hai miền reward luân phiên — một chấm trực tiếp caption, một render bằng SKU-DiT đông băng rồi chấm ảnh — mỗi bước chỉ backprop một miền để tránh gradient xung đột.
SKU-DiT + RDR (sinh ảnh đa điều kiện): DiT điều kiện đồng thời trên ảnh nền trắng + crop logo + layout. Huấn luyện tiến hóa Reinforce-Distill-Reinforce: RL ưu tiên (2 teacher chuyên biệt — layout phức tạp và giữ chủ thể — tích hợp bằng on-policy distillation), rồi Dynamic Backward Simulation Distillation để giảm còn vài bước lấy mẫu (dừng muộn có trọng số để giữ cấu trúc, thêm discriminator chống lại ảnh thật để bảo vệ nét logo), rồi RL lần hai trên student ít-bước để lấy lại độ chính xác chữ và fidelity bị mất.

Ví dụ đời thường: giống một xưởng thiết kế ảnh quảng cáo tự động — có "biên tập viên" đọc hồ sơ sản phẩm rồi tự chấm điểm, tự sửa lại cách viết cho đến khi đạt (PERL-Agent); có "họa sĩ bố cục" quyết định chữ đặt đâu, logo để đâu trước khi vẽ (Layout Thinker); và có "họa sĩ" được rèn luyện theo kiểu làm chậm cho đẹp rồi tập vẽ nhanh mà không được phép xấu đi (RDR).

III. Main Results:

Chạy production thật trên Taobao: hàng triệu ảnh chính SKU mỗi ngày, độ trễ cỡ 5 giây/ảnh — được cho là một trong những hệ thống đầu tiên loại này ở quy mô thương mại.
Trên CommerceGen-Bench (benchmark 400 ca khó thu từ traffic thật, công bố kèm HuggingFace/ModelScope): đạt điểm tổng cao nhất so với các baseline open-source trên cả 2 track (single-image và multi-image editing), có và không có prompt enhancement.
Ngang các mô hình closed-source lớn hơn nhiều, và thắng một số mô hình đó ở hai tiêu chí quyết định khả năng xuất bản: Instruction Following và Product Integration.
Quan sát đánh giá: FLUX.2 thường sai chữ tiếng Trung trên ảnh bán hàng, FireRed mất logo hoặc trộn điều kiện sản phẩm, Qwen-Image-Edit thỉnh thoảng làm lệch nhận diện sản phẩm.
PERL-Agent: Judge chỉ được đưa vào vòng lặp khi tương quan Spearman với chuyên gia > 0.7; cold-start 100 record rồi mở rộng ~1000 record.

IV. Conclusion & Future Works:

Đóng góp cốt lõi là chứng minh pipeline trích xuất → viết lại layout → sinh ảnh đa điều kiện có thể vận hành đồng thời ở chất lượng thương mại và quy mô hàng triệu ảnh/ngày, nhờ ba ý tưởng: tối ưu prompt theo chiều yếu nhất (PERL-Agent), reward hai miền luân phiên cho bộ viết lại layout (LTO), và chuỗi Reinforce-Distill-Reinforce giữ fidelity khi nén về few-step (RDR). Benchmark CommerceGen-Bench được công bố để kết quả có thể tái lập xuyên suốt các hệ thống. Phần trích dẫn không nêu rõ hướng nghiên cứu tương lai.

V. Brainstorming Space:

1. Publish Papers:

Áp dụng mô hình PERL-Agent (vòng lặp Prompt-Eval-Refine theo rubric nhiều chiều, tối ưu chiều yếu nhất, sửa prompt tối thiểu có rollback) cho các bài toán trích xuất thông tin đa nguồn mâu thuẫn khác: mô tả sản phẩm, tin nhắn chăm sóc khách hàng, hồ sơ bất động sản.
Kết hợp Layout Thinker với mô hình sinh video thương mại: cùng một caption layout có thể render thành video ngắn quảng cáo SKU với chuyển động camera, giữ nguyên ràng buộc về chủ thể và thương hiệu.
Nghiên cứu cơ chế reward hai miền luân phiên (chấm trực tiếp văn bản / chấm ảnh render) cho các bài toán agent VLM khác cần căn chỉnh giữa planner và renderer cố định, ví dụ tạo infographic hoặc slide tự động.

2. Patent:

Ứng dụng di động tự tạo ảnh bán hàng cho người bán nhỏ: người dùng chụp ảnh sản phẩm nền trắng, ứng dụng tự đọc thông tin sản phẩm, tự rà soát mâu thuẫn giữa các nguồn (tiêu đề, ảnh, thuộc tính), tự soạn điểm bán hàng và tạo ảnh quảng cáo có logo, sẵn sàng đăng lên sàn thương mại điện tử trong vài giây.
Hệ thống chỉnh ảnh sản phẩm theo ngành hàng trên điện thoại: người dùng chọn ngành (thời trang, điện tử, thực phẩm), ứng dụng tự sắp xếp vị trí chữ quảng cáo, màu sắc và logo sao cho hợp gu từng ngành mà không cần người thiết kế.
Công cụ bảo vệ thương hiệu tự động: kiểm tra mọi ảnh quảng cáo được tạo ra, đối chiếu logo và chữ trên ảnh với dữ liệu gốc của sản phẩm, từ chối xuất bản ảnh có dấu hiệu sai lệch logo hoặc sai chữ trước khi hiển thị cho người mua.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.20603
ArXiv Abstract	https://arxiv.org/abs/2610.20603
PDF Download	https://arxiv.org/pdf/2610.20603.pdf
Github Repository	N/A

16. Mosaic: Multi-Session Agentic Reinforcement Learning (48 votes)

Tác giả: Yilong Xu, Minrui Xu, Xinyu Zhou, Xiang Long, Haochen Tan, et al.

Xuất bản lúc: 2026-10-15

Tag: Agentic RL, GRPO, Multi-Session Learning, LLM Agents, Context Compaction, Subagent Forking, Reinforcement Learning

I. Main Problem:

Các phương pháp Agentic RL hiện hữu giả định mỗi rollout là một phiên (session) duy nhất với context liên tục tích lũy. Nhưng kỹ thuật suy luận hiện đại như context compaction (nén lịch sử để giải phóng context) và subagent forking (phân nhánh cho tác tử con) tạo ra trajectory trải dài nhiều phiên, gây lệch pha giữa huấn luyện và suy luận:

Cách xử lý phổ biến là broadcasting — nhân bản advantage ở cấp trajectory cho mọi phiên, mọi token — chỉ cho tín hiệu giám sát thô, không phân biệt đóng góp giữa các phiên.
Kết quả: tín hiệu học kém định hướng khi trajectory càng nhiều phiên, không kiểm soát được cách phân bổ session.

II. Main Idea:

Mosaic tối ưu Multi-Session Agentic RL bằng hierarchical optimization không critic, gồm hai tầng:

Tầng trajectory — Session-Aware Advantage Estimation: điều chỉnh độ lớn advantage dựa trên số phiên N_i, xếp hạng có tâm (centered rank) trong từng nhóm con theo kết quả thành/công. Ba ràng buộc: (C1) trajectory thành công dùng ít phiên hơn được advantage cao hơn; (C2) trajectory thất bại dùng nhiều phiên hơn (thăm dò đủ) được ưu tiên hơn; (C3) kết quả tác vụ vẫn là tín hiệu chủ đạo, không đổi dấu advantage. Với nhóm đồng nhất kết quả (cùng thành công hoặc cùng thất bại), cơ chế fallback tạo tín hiệu phân biệt theo số phiên để tăng sample efficiency.
Tầng session — Advantage Shaping: đo marginal information gain của từng phiên bằng độ tăng log-likelihood của đáp án đúng giữa trạng thái đầu và cuối phiên, chuẩn hóa riêng theo loại phiên (normal / compaction / subagent), rồi cộng vào advantage cấp trajectory. Tín hiệu dài hạn (kết quả) + tín hiệu ngắn hạn (đóng góp cục bộ từng phiên).

Ví dụ đời thường: giống thầy giáo chấm điểm nhóm thay vì chấm chung một điểm cuối cho tất cả — nhóm làm đúng mà gọn nhẹ được điểm thưởng, nhóm sai nhưng đã thử nhiều hướng vẫn được ghi nhận chút công sức, và từng thành viên còn được chấm riêng theo phần việc mình làm ra.

III. Main Results:

Trên BrowseComp với Qwen3.5-4B:
Compact scenario: Mosaic 38.86% accuracy, vượt Broadcasting (35.31%) và GRPO single-session (34.68%), đồng thời giảm số phiên trung bình 3.17 → 2.35.
Subagent scenario: Mosaic 32.46%, vượt Broadcasting (31.44%) và test-time scaling của GRPO (31.91%).
Tới 10.1% cải thiện tương đối so với broadcasting với chi phí thực thi thấp hơn.
Vượt IGPO (thông tin gain ở cấp turn) cả về accuracy lẫn thời gian tính toán information gain.
Ablation: cả hai thành phần (§3.1 và §3.2) đều đóng góp; kết hợp tốt nhất ở compact, lợi ích khiêm tốn hơn ở subagent do cấu trúc dạng DAG làm marginal gain lệch với đóng góp thực.
Phân tích: session-aware advantage tăng phương sai trong nhóm, cải thiện sample efficiency; chuẩn hóa theo loại phiên loại bỏ thiên lệch chống lại compaction sessions; hiệu suất tăng nhờ chất lượng và phân bổ phiên tốt hơn, không phải tăng số lượng phiên.

IV. Conclusion & Future Works:

Mosaic cho thấy tối ưu multi-session hiệu quả đi kèm cải thiện session utility và allocation — vấn đề cốt lõi không phải dùng bao nhiêu phiên mà thu được bao nhiêu tiến bộ hữu ích từ mỗi phiên. Hướng tương lai:

Xây dựng bộ dữ liệu huấn luyện công khai và môi trường thực thi để nghiên cứu multi-session agentic RL có thể tái lập được.
Cải thiện ước lượng đóng góp cho cấu trúc subagent dạng đồ thị phi tuyến (DAG).
Nghiên cứu tín hiệu phân bổ session sâu hơn ngoài số lượng phiên như proxy.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng session-level advantage shaping cho cấu trúc subagent lồng nhau dạng đồ thị, ước lượng đóng góp lan truyền qua nhiều nhánh thay vì marginal gain cục bộ.
Xây dựng benchmark và dữ liệu huấn luyện mở cho multi-session agentic RL với các cơ chế suy luận đa dạng (compaction, forking, resume).
Kết hợp tín hiệu session-usage với chi phí thực thi thật (token, latency) để tối ưu Pareto giữa accuracy và chi phí đa phiên.

2. Patent:

Trợ lý AI trên điện thoại tự quản lý bộ nhớ hội thoại: khi hội thoại dài gần đầy bộ nhớ, ứng dụng nén lịch sử thành phiên mới và huấn luyện mô hình bằng tín hiệu đóng góp từng phiên để quyết định nén thế nào giữ được thông tin quan trọng nhất.
Hệ thống phân tác vụ cho trợ lý doanh nghiệp: ứng dụng mobile giao việc cho các tác tử con (tìm kiếm, lập lịch, soạn thảo) và tự đánh giá chất lượng kết quả từng tác tử con để học cách phân bổ tác vụ hiệu quả hơn sau mỗi lần dùng.
Cơ chế tự nén ngữ cảnh thích ứng cho chatbot di động: điện thoại đo mức tăng khả năng trả lời đúng trước và sau mỗi lần nén hội thoại, từ đó chọn thời điểm nén và nội dung giữ lại tối ưu, giảm dung lượng mà không giảm chất lượng trả lời.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.22174
ArXiv Abstract	https://arxiv.org/abs/2610.22174
PDF Download	https://arxiv.org/pdf/2610.22174.pdf
Github Repository	https://github.com/LARK-AI-Lab/Mosaic

17. Intern Lumina U2: A Multi-Codebook Diffusion Large Language Model for Omni-Visual Understanding and Image Generation (40 votes)

Tác giả: Qian Yu, Zongyang Qiu, Juncheng Yan, Hongliang Li, Qi Qin, et al.

Xuất bản lúc: 2026-10-14

Tag: Diffusion, LLMs, Multimodal, Text-to-Image, Multi-Codebook, Video Understanding, 3D Vision, Image Editing, Inference Acceleration

I. Main Problem:

Các mô hình đa phương thức thống nhất hiện nay đánh đổi giữa khả năng biểu diễn hình ảnh và không gian tối ưu chung với văn bản.

Mô hình discrete single-codebook dễ học chung với text nhưng nén mỗi vị trí ảnh thành một mã duy nhất, thiếu chi tiết cho reconstruction và generation.
Mô hình continuous/hybrid giữ hình ảnh giàu thông tin hơn nhưng dùng mục tiêu khác cho ảnh và text, dễ gây xung đột tối ưu và lệch không gian biểu diễn.
Vấn đề trung tâm: làm sao đưa biểu diễn ảnh/video/3D dung lượng cao vào cùng một không gian discrete, một objective, một backbone với text.

II. Main Idea:

Intern Lumina U2 là mô hình diffusion language model đầu tiên, theo tác giả, dùng multi-codebook visual tokens trong không gian hoàn toàn discrete. Ảnh, video và 3D được mã hóa bằng AToken thành lưới latent 4D chung; mỗi vị trí ảnh gồm K=8 code, mỗi codebook có 4096 mã, nên một vị trí mang nhiều lớp thông tin thay vì một mã duy nhất.

Backbone: kế thừa LLaDA2.0-mini, mô hình MoE diffusion LM 16B tổng / 1.4B activated, xử lý text theo block diffusion và làm mọi tác vụ bằng một packed sequence chung.
Input interface: mỗi codebook có embedding table riêng; 8 embedding tại cùng một vị trí được concatenate rồi chiếu thành một backbone token, giữ độ dài chuỗi không phụ thuộc K.
Output interface: multi-codebook AR head nhẹ, Transformer causal 6 lớp, dự đoán 8 code trong cùng một vị trí theo thứ tự codebook, trong khi backbone refine nhiều vị trí ảnh song song.
Unified training: understanding, generation và editing đều là câu hỏi conditional trên cùng masked-diffusion objective, với task-aware attention mask và delimiter tokens thay vì RoPE 2D/3D riêng.
Inference nhanh: PHV sampling chốt token khi confidence chạm plateau và refresh cache khi hidden-state drift, đạt 4.45× speedup.

Giống như thay vì ghi mỗi ô ảnh bằng một con số duy nhất, hệ thống dùng 8 chữ số từ 8 bảng mã khác nhau tại cùng ô để miêu tả màu, kết cấu và hình khối; backbone sửa nhiều ô cùng lúc, còn đầu ra đọc lần lượt 8 chữ số trong từng ô theo thứ tự để khôi phục hình.

III. Main Results:

Chỉ với 1.4B activated parameters, model đứng đầu 6/10 benchmark image-understanding và cải thiện 8/10 so với LLaDA2.0-Uni cùng backbone.
Vượt trên cả 3 video benchmark và 3D MM-Vet.
Trong nhóm unified models, generation mạnh trên DPG-Bench, UniGenBench, TIIF-Bench, GenEval, đồng thời tạo tốt scientific diagrams tuân thủ vật lý.
Hoàn tất full-stack training/inference/evaluation trên 1.024 Ascend 910B NPUs, kèm bản NVIDIA nhỏ hơn để kiểm chứng cross-platform.
Chiến lược lấy mẫu confidence-plateau + drift-triggered cache refresh đẩy nhanh image generation 4.45× với trade-off chất lượng tốt.

IV. Conclusion & Future Works:

Điểm mới quan trọng là chứng minh multi-codebook discrete visual state có thể vừa tăng dung lượng ảnh/video/3D vừa giữ text và vision trong cùng masked-diffusion objective, thay vì phải tách continuous generator. Intern Lumina U2 mở hướng unified omni-visual foundation model trên cả Ascend lẫn NVIDIA. Hướng mở: tối ưu thêm sampler theo tín hiệu confidence/drift, giảm chi phí multi-codebook AR head, mở rộng sang audio/3D generation, và đưa recipe này xuống thiết bị biên.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng multi-codebook discrete modeling sang audio và 3D generation để có một backbone thống nhất cho text, image, video, 3D và sound.
Nghiên cứu cân bằng giữa parallel spatial denoising và sequential depth decoding trong multi-codebook AR head, giảm bước lặp mà không mất phụ thuộc giữa các code.
Phát triển sampler training-free cho masked diffusion dùng bằng chứng plateau, hidden-state drift và reveal order tối ưu theo từng tác vụ visual.
Đánh giá hệ quả của unified discrete objective lên khả năng chỉnh sửa ảnh theo chỉ dẫn ngôn ngữ, tính nhất quán qua nhiều vùng và độ trung thực vật lý.
Tối ưu hóa hạ tầng cross-platform cho unified diffusion LM trên cả accelerator kiểu NVIDIA và Ascend, đo end-to-end latency, memory và chất lượng theo cùng một recipe.

2. Patent:

Trợ lý ảnh trên điện thoại vừa hiểu vừa vẽ: người dùng chọn một ảnh hoặc video; điện thoại dùng nhiều bảng mã tại mỗi vùng ảnh để mô tả chi tiết, trả lời câu hỏi và tạo thêm vật thể ngay trong khung hình.
Ứng dụng sửa ảnh cũ hoặc phóng to ảnh mất nét: mỗi điểm ảnh được khôi phục bằng nhiều mã bổ sung nhau, giúp giữ nét da, chữ nhỏ và viền vật thể tốt hơn khi tăng độ phân giải trên thiết bị di động.
Camera quay video tự hiểu cảnh 3D: video được mã hóa vào một không gian biểu diễn chung cho ảnh, video và vật thể ba chiều, cho phép hỏi đáp theo thời gian và tái dựng góc nhìn mới trước khi xuất lên đám mây.
Chế độ tiết kiệm pin khi tạo ảnh bằng ngôn ngữ: hệ thống chỉ khóa các phần ảnh đã đủ chắc chắn và chỉ tính lại khi trạng thái nội bộ đổi, rút ngắn thời gian chờ khi tạo ảnh trên điện thoại.
Dịch vụ biên ảnh minh họa khoa học cho giáo dục: người dùng nhập mô tả sơ đồ, vẽ lò xo, mạch điện hoặc chuyển động vật lý; hệ thống sinh hình đúng cấu trúc và hợp lý vật lý để đưa vào bài giảng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.20818
ArXiv Abstract	https://arxiv.org/abs/2610.20818
PDF Download	https://arxiv.org/pdf/2610.20818.pdf
Github Repository	https://github.com/InternLM/InternLumina-U2

18. AutoSFT: An Agentic System for Automated Data Research in Supervised Fine-Tuning (35 votes)

Tác giả: Bingxiang He, Pengqi Sun, Shihao Peng, Shaoxuan Li, Huiyu Xiao, et al.

Xuất bản lúc: 2026-10-15

Tag: Supervised Fine-Tuning, LLM Agents, Data Engineering, Multi-Agent Systems, Instruction Following, Code Generation, Automated Machine Learning

I. Main Problem:

Các hệ thống tự động hóa post-training hiện nay thường giao cho agent một kiểu kiểm soát dữ liệu duy nhất: chọn dòng từ pool cố định hoặc gọi generator tạo dữ liệu. Trong khi đó, kỹ sư dữ liệu thật làm nhiều việc hơn nhiều: chỉnh tỉ lệ nhóm dữ liệu, cắt bỏ dòng xấu, sửa câu trả lời, thay thế mẫu quá dài, tự viết mẫu cho năng lực còn thiếu và sắp thứ tự huấn luyện.

Vấn đề cốt lõi: liệu một hệ thống tự động có thể phủ toàn bộ không gian hành động dữ liệu của kỹ sư dữ liệu thay vì chỉ một hành động, và cần cấu trúc agent nào để làm được điều đó? Thử nghiệm pilot cho thấy single-agent loop bị ba lỗi lớn:

Co cứng vào một gia đình hành động: 33 vòng chỉ chỉnh tỉ lệ mixture, không sửa dữ liệu, không tạo mẫu mới.
Context bị bội thực bởi log thực thi: cửa sổ 258k token đầy 94.7%, bị compact 10 lần; phần lớn là training/eval output và kiểm tra job, không phải phân tích dữ liệu.
Wall-clock budget làm méo tìm kiếm: agent giảm dần lượng dữ liệu mỗi vòng xuống 26% đỉnh để tiết kiệm thời gian, thay vì cải thiện recipe.

II. Main Idea:

AutoSFT định khung nghiên cứu dữ liệu SFT như vòng lặp: mỗi vòng giữ cố định base model, trainer, ngân sách token và giao thức đánh giá; chỉ có research policy quyết định recipe dữ liệu tiếp theo. Paper đề xuất data action space gồm 6 gia đình thao tác: mixture, pruning, repair, resupervision, synthesis, ordering.

Thay vì một agent làm tất cả, AutoSFT tách vai trò thành:

Meta agent: sở hữu từng vòng, đọc bằng chứng, cân nhắc đề xuất và quyết định hành động dữ liệu kế tiếp.
Executor subagent: chạy riêng vòng đời train, convert checkpoint, evaluate; trả về đường dẫn artifact và báo cáo ngắn để meta agent khỏi ngập log.
Bốn analysis subagents nhìn cùng một vòng từ bốn góc: training data, failure cases, learning dynamics, research history; mỗi agent đề xuất một hành động khả thi.
Synthesis subagent: sinh dữ liệu cho các capability bị thiếu hoặc quá ít, kiểm bằng programmatic verifier, semantic review và n-gram decontamination trước khi vào pool.

Mỗi cải tiến được thêm lần lượt và retrain từ base model mỗi vòng, nên hiệu ứng của từng thành phần có thể quy trách riêng. Ý chính: tự động hóa SFT data research phụ thuộc ít vào một hành động đơn lẻ mạnh hơn, mà phụ thuộc vào cấu trúc giúp agent phủ đa dạng các thao tác giống kỹ sư dữ liệu.

Ví dụ đời thường: giống đầu bếp không tự vừa đi chợ, vừa chặt rau, vừa nếm canh rồi lại ghi sổ; AutoSFT chia việc thành người đi chợ, người thử mùi, người xem lại các món từng hỏng, còn bếp trưởng chỉ nghe báo cáo ngắn rồi quyết định nêm nếm món tiếp theo.

III. Main Results:

Executor giảm một nửa mất context: single agent compact 10 lần; có executor chỉ còn 5 lần trong thời gian tương đương. Lệnh shell trong event của meta agent giảm từ 58% xuống 29%; kiểm tra job giảm mạnh.
Analysis mở rộng hành động và nâng IFEval: thêm 4 analysis subagents giúp recipe vượt best IFEval của base từ sớm; tại cùng số vòng, IFEval cao hơn +6.5. Base gần như chỉ dùng mixture, trong khi analysis dùng nhiều repair và resupervision.
Synthesis thêm dữ liệu cho capability thiếu: tăng +3.4 IFEval và +2.9 IFBench. Ví dụ repeat_prompt được nâng từ khoảng 40% lên 75.6% sau một batch sinh đúng mục tiêu; nhưng không phải mọi khả năng đều cứu được, ví dụ odd_even_syllules vẫn 0 dù được nhắm ba vòng.
Chuyển sang code generation: trên MBPP+, cấu trúc AutoSFT vẫn hiệu quả; Base + Analysis đạt 64.8%, thêm Synthesis đạt 65.8%, trong khi single agent không cải thiện bền vững.
Điểm mấu chốt: vì mỗi vòng train lại từ base model và giữ ngân sách/đánh giá cố định, các cải tiến không bị nhầm thành hiệu ứng lũy tiến khó kiểm soát.

IV. Conclusion & Future Works:

Kết luận chính là automated SFT data research cần bao phủ đa dạng data actions hơn là tối ưu một hành động đơn lẻ. Single agent thất bại không chỉ vì yếu, mà vì cấu trúc một-context khiến thực thi nuốt mất phân tích và một luồng đề xuất dễ tự củng cố lựa chọn gần nhất. AutoSFT khắc phục bằng ba nguyên tắc: tách execution, đa góc nhìn phân tích, và synthesis cho năng lực pool không phủ.

Hướng mở rộng hợp lý từ kết quả trong paper: cải thiện synthesis để biết khi nào năng lực không thể dạy chỉ bằng cung cấp thêm dữ liệu; mở rộng capability taxonomy tự xây dựng cho các domain thiếu nhãn như code; tối ưu chi phí/runtime để synthesis vẫn cạnh tranh trên domain lớn; và nghiên cứu cách meta agent cân bằng tốt hơn giữa các đề xuất analysis khi chúng mâu thuẫn.

V. Brainstorming Space:

1. Publish Papers:

Một hệ thống agent tự động cải tiến bộ dữ liệu fine-tuning cho trợ lý ảo trên điện thoại: vòng lặp đọc lỗi người dùng, sửa mẫu hỏng, bổ sung mẫu cho kỹ năng còn thiếu và đánh giá lại mô hình sau mỗi vòng.
Phương pháp tách riêng agent chạy thí nghiệm khỏi agent phân tích dữ liệu để giảm lỗi mất bối cảnh trong tự động hóa huấn luyện mô hình ngôn ngữ.
Hệ nhiều agent phân tích cùng một lần huấn luyện theo bốn góc: chất lượng dữ liệu, mẫu trả lời sai, tín hiệu loss và lịch sử các thử nghiệm trước để đề xuất thay đổi bộ dữ liệu kế tiếp.
Cơ chế sinh dữ liệu mới có kiểm chứng tự động cho các năng lực bị thiếu trong bộ fine-tuning, áp dụng cho tuân thủ lệnh và tạo mã nguồn.

2. Patent:

Ứng dụng điện thoại tinh chỉnh trợ lý ảo theo phản hồi thật: hệ thống thu thập lỗi trả lời, phân loại lỗi theo kỹ năng, tự sửa hoặc tạo thêm ví dụ huấn luyện, rồi huấn luyện lại mô hình nhỏ trên thiết bị hoặc máy chủ cá nhân để trợ lý phản hồi đúng yêu cầu hơn.
Bộ công cụ trên điện thoại cho lập trình viên cải thiện mô hình tạo mã nguồn: ứng dụng theo dõi các đoạn mã sinh ra bị lỗi test, tự đề xuất thêm ví dụ lập trình còn thiếu và chạy lại vòng huấn luyện có kiểm soát ngân sách.
Hệ kiểm tra chất lượng dữ liệu huấn luyện trước khi đưa vào mô hình trên thiết bị: module đọc tập dữ liệu, tìm mẫu dư thừa, mẫu quá dài, mẫu sai yêu cầu và nhóm năng lực bị thiếu, sau đó xuất danh sách sửa đổi có giải thích cho người dùng phê duyệt.
Dịch vụ đám mây cho doanh nghiệp tự tối ưu bộ dữ liệu hỏi-đáp nội bộ: nhiều agent phân tích lỗi theo kịch bản khách hàng, tự sửa câu trả lời và sinh ví dụ mới cho tình huống chưa có, với mỗi thay đổi đều đo bằng bộ kiểm thử cố định.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.22194
ArXiv Abstract	https://arxiv.org/abs/2610.22194
PDF Download	https://arxiv.org/pdf/2610.22194.pdf
Github Repository	https://github.com/Thinking-Space/AutoSFT

19. DeltaStreamer: Towards Human-Like Agentic Streaming Video Understanding (33 votes)

Tác giả: Boyuan Sun, Deshui Miao, Wenzhao Gao, Shaoyong Jia, Shaohui Jiao, et al.

Xuất bản lúc: 2026-10-14

Tag: Streaming Video Understanding, VideoLLM, Agentic AI, Memory-Augmented LLM, Vision-Language Models, Event Detection, Tool Use

I. Main Problem:

Video streaming (giám sát trực tiếp, robot, xe tự hành) đến từng khung hình, trong khi câu hỏi có thể đến sau khi sự kiện đã qua, nên hệ thống phải ghi nhớ trước khi biết mình cần nhớ gì. Các phương pháp hiện tại (nén token, KV-cache reuse, hội thoại đa lượt) có hai điểm yếu:

Ghi lại có gì mà bỏ qua có gì đang thay đổi: các khung hình liên tiếp thường giống nhau, làm chi phí bộ nhớ lãng phí vào nội dung lặp lại, trong khi ranh giới chuyển tiếp giữa các sự kiện bị che mờ.
Không thể khôi phục bằng chứng đã bỏ sót: khi khung hình đã trôi qua, hệ thống chỉ còn mô tả văn bản đã lưu; chi tiết hình ảnh không được ghi nhận lúc quan sát là mất vĩnh viễn khi câu hỏi sau này cần đến.

II. Main Idea:

DeltaStreamer mô phỏng cách con người xem video: liên tục quan sát, ghi nhớ có cấu trúc, và khi cần thì tua lại để kiểm chứng. Gồm 3 cơ chế chính:

Delta-augmented observation: khi chưa có câu hỏi, VLM so sánh hai khung hình liền kề và ghi lại thay đổi (delta) dưới dạng văn bản bên cạnh mô tả cảnh (vật xuất hiện, đổi trạng thái...). Điểm mới của mỗi quan sát được đo bằng độ đo Jaccard để gán trọng số độ nổi bật.
Bộ nhớ phân cấp dạng DAG 3 tầng: Working (quan sát gần), Episodic (tóm tắt sự kiện), Long-term (fact cố định), liên kết hai chiều và có entity index trỏ về khung hình gốc — mọi bản ghi đều truy vết được về nguồn pixel.
Query-driven planner + targeted replay: khi câu hỏi đến, planner phân tích cần bằng chứng gì (thuộc tính, vị trí, thời điểm) và lập kế hoạch tìm ở quá khứ/hiện tại/tương lai; kế hoạch này lưu xuyên suốt các vòng suy luận sau. Nếu mô tả văn bản thiếu chi tiết (vd. màu vật), agent tua lại khung hình lịch sử để đọc trực tiếp từ pixel, có verifier rule-based kiểm tra mâu thuẫn trước khi chốt câu trả lời.

Ví dụ đời thường: giống người xem phim trực tiếp ghi chú "phút 4 có người vào cửa", và khi được hỏi sau đó "công tắc màu gì", thay vì đoán theo ghi chú mờ, họ tua lại đúng đoạn phút 4 để nhìn kỹ.

III. Main Results:

OVO-Bench: 66.07% overall, cao hơn EventMemAgent +5.32 điểm và vượt cả Gemini 3 Flash (+2.05); nổi bật ở Action-Sequence Identification (79.05) và Hallucination Detection (69.89).
StreamingBench: 59.53%, vượt STRIDE +1.95 và StreamAgent; cải thiện contextual understanding (MCU 55.20, SQA 47.60).
Điểm yếu còn lại: Proactive Responding chỉ 10.40 — xử lý bằng chứng tốt chưa đủ để giải quyết thời điểm chủ động trả lời.
Ablation delta: hai khung hình + so sánh trực quan (66.07) thắng rõ hai khung không delta (61.12) và so sánh với văn bản bộ nhớ (63.19) — chứng minh ghi thay đổi tường minh quan trọng hơn thêm đầu vào.
Ablation thành phần: bộ nhớ phân cấp (66.07 vs flat 61.25), DAG (+3.34), entity index (+2.67), planner với persistence và evidence contract đều cộng dần điểm; replay là công cụ quan trọng nhất (bỏ replay: -2.79).

IV. Conclusion & Future Works:

Kết hợp ghi nhận thay đổi tường minh với thu thập bằng chứng có kế hoạch theo câu hỏi là hướng đi đúng cho streaming video understanding: hệ thống quan sát liên tục trước câu hỏi, rồi chủ động điều tra (truy hồi bộ nhớ, tua lại pixel) khi câu hỏi đến. Kết quả cho thấy hai cơ chế bổ trợ lẫn nhau (delta + planner hơn hẳn từng cái riêng lẻ). Hướng mở: cải thiện proactive response timing và mở rộng cho các luồng video dài vô hạn với ngân sách bộ nhớ chặt hơn.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng cơ chế tua lại (replay) có chọn lọc cho luồng video nhiều giờ: thay lưu khung hình lịch sử bằng lưu embedding nén đa độ phân giải, chỉ giải nén khi planner yêu cầu bằng chứng pixel.
Học planner thích ứng: thay rule-based evidence contract bằng planner được huấn luyện qua reinforcement learning từ phản hồi của verifier, để tự học khi nào nên tua lại thay vì tin bộ nhớ văn bản.
Kết hợp delta memory với âm thanh và giọng nói luồng (omni-modal) để ghi nhận thay đổi đa phương thức cho các tác vụ như họp trực tuyến, livestream.
Nghiên cứu proactive triggering: dự báo thời điểm và sự kiện nên tự thông báo mà không cần câu hỏi, khắc phục điểm yếu Proactive Responding hiện tại.

2. Patent:

Hệ thống giám sát an ninh thông minh trên điện thoại: camera ghi liên tục, ứng dụng trên điện thoại tự tạo ghi chú thay đổi (có người vào, xe dời) kèm liên kết tới khung hình gốc; khi chủ nhà hỏi chuyện đã xảy ra, hệ thống tự tua lại đúng thời điểm để trả lời chính xác mà không phải xem lại toàn bộ video.
Trợ lý video cho người khiếm thị trên điện thoại: luồng camera quay trước mắt được ghi nhớ dưới dạng sự kiện có thời gian; người dùng hỏi "chiếc cốc lúc nãy để đâu", ứng dụng tua lại ảnh lịch sử, phóng to và đọc vị trí chi tiết.
Hệ thống chấm công và giám sát an toàn lao động tại nhà máy: ghi nhận thay đổi liên khung (máy khởi động, người vào vùng nguy hiểm) kèm bằng chứng hình ảnh truy vết; khi có sự cố, người quản lý tra cứu bằng câu hỏi ngôn ngữ tự nhiên và nhận ngay đoạn video gốc làm bằng chứng.
Camera hành trình xe máy/ô tô có trả lời câu hỏi hậu kỳ: ghi nhật ký sự kiện delta (vượt đèn, phương tiện áp sát), chủ xe hỏi sau chuyến đi "lúc 14h20 xe gì vượt mình", thiết bị tua lại đúng thời điểm và xác nhận biển số từ ảnh gốc.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.19849
ArXiv Abstract	https://arxiv.org/abs/2610.19849
PDF Download	https://arxiv.org/pdf/2610.19849.pdf
Github Repository	https://github.com/BBBBchan/DeltaStreamer

20. Orbia: Do Generated Videos Form a Consistent 3D World? (31 votes)

Tác giả: Dongyue Lu, Guian Fang, Hur Lim, Yonggang Wu, Yanrong Wang, et al.

Xuất bản lúc: 2026-10-14

Tag: Video Generation, World Models, 3D Consistency, Benchmark, Interactive Simulation, Video World Models

I. Main Problem:

Video generator ngày càng được dùng như thế giới tương tác để khám phá và mô phỏng, nhưng khung hình đẹp mắt không đồng nghĩa với một thế giới 3D nhất quán. Các benchmark hiện tại chỉ đánh giá rời rạc:

chất lượng cảm nhận (perceptual quality) hoặc tính mạch lạc hình học cục bộ
dùng VLM để chấm điểm memory/consistency — thiếu căn cứ hình học thực
không ai kiểm tra đồng thời: nội dung đầu vào có được giữ nguyên không, nội dung do chính model tự sinh ra có còn tồn tại khi quay lại không, và các góc nhìn khác nhau có mô tả cùng một cảnh 3D không. Hệ quả: không có cơ sở nào để chẩn đoán và cải thiện tính bền vững của video world model.

II. Main Idea:

Orbia — benchmark đầu tiên đánh giá hệ thống và định lượng tính nhất quán 3D trong world model tương tác, tổ chức thành ba trục đo lường:

Input preservation: so khung hình quay lại (revisit) với ảnh đầu vào + RGB-D đã đăng ký, chấm từng anchor (landmark) riêng lẻ bằng DINO similarity, PSNR/SSIM/LPIPS và độ lệch depth — tránh hiện tượng một điểm mốc biến mất bị trung bình cả khung hình che giấu.
Generated-content persistence: với vùng ngoài ảnh đầu vào, model tự do sáng tạo, nhưng lần quay lại phải giữ nguyên những gì nó đã tạo — dùng chính quan sát đầu tiên làm chuẩn so sánh.
3D self-consistency: kiểm tra các view sinh ra có cùng mô tả một scene 3D không qua tương ứng depth/feature cross-view, độ đồng thuận tỉ lệ vùng, và Gaussian rendering trên các view held-out.

Thiết kế dữ liệu: 6 template explore-and-revisit (đi tới–lùi lại, lệch ngang, quay yaw, cung, orbit quanh anchor, peek-and-return), nguồn từ public datasets + tự quay + mô phỏng UE, adapter chuyển quỹ đạo thành text/action/camera-pose cho từng model.

Ví dụ đời thường: giống kiểm tra một họa sĩ có nhớ bức tranh của chính mình không — cho họ vẽ căn phòng, đi vòng ra cửa sau rồi quay lại: nếu chiếc đồng hồ trên tường đổi màu, hay cánh cửa ban nãy tự nhiên đổi vị trí, thì tuy từng bức đều đẹp, người họa sĩ đó không hề vẽ một căn phòng mà chỉ vẽ từng bức riêng lẻ.

III. Main Results:

Quy mô dữ liệu: 720 cases (480 ngắn ~22s + 240 phút mở rộng ~60s với 3 lần revisit), 859 anchor targets, từ ~110k mẫu nguồn, hơn 300 giờ gán nhãn thủ công; chuẩn hóa 720p/16FPS, cả indoor lẫn outdoor, thật lẫn mô phỏng.
Đánh giá 27 model: 19 world model (điều kiện camera/action) + 8 TI2V (text-to-video), xếp hạng 6 hạng mục + overall.
SolarWM-H3 dẫn đầu overall (76.32), mạnh nhất về generated-content persistence; Lyra2 dẫn control, EVOKE dẫn visual quality, Gen3C dẫn input preservation, HY-WorldPlay dẫn 3D self-consistency — không model nào dẫn cả 6 hạng mục.
Top world model dùng bộ nhớ 3D tường minh (Lyra2, EVOKE, Gen3C) cho kết quả preservation và control tốt hơn hẳn.
Control là khoảng trống lớn nhất: world model trung bình 57.29 vs TI2V 32.48 (chênh ~25 điểm) — ngay cả TI2V tốt nhất cũng thua xa.
Nghịch lý: TI2V có 3D self-consistency cao hơn world model (69.88 vs 59.74) dù control kém — vấn đề không phải sinh cảnh mạch lạc, mà là khiến cảnh đó triển khai đúng quỹ đạo camera yêu cầu.

IV. Conclusion & Future Works:

Orbia cung cấp nền tảng hệ thống đầu tiên để chẩn đoán tính không nhất quán 3D theo ba trục riêng biệt (giữ nguyên đầu vào, bền vững nội dung tự sinh, mạch lạc 3D nội tại), qua đó chỉ ra lộ trình cải thiện video world model: kết hợp bộ nhớ 3D tường minh để tái sử dụng nội dung đã quan sát, và nâng cấp khả năng điều khiển camera. Dữ liệu, code và benchmark được công bố công khai (project page, GitHub, HuggingFace). Hướng đi tự nhiên: các model mới tối ưu trực tiếp trên các metric consistency của Orbia, và mở rộng đánh giá sang world model có tương tác vật lý/động.

V. Brainstorming Space:

1. Publish Papers:

Phương pháp huấn luyện video world model tối ưu trực tiếp theo hàm mất consistency 3D (cross-view depth/feature agreement, revisit persistence) thay vì chỉ tối ưu chất lượng từng khung hình.
Kiến trúc bộ nhớ 3D lai: kết hợp Gaussian cache ngoài với attention theo tương ứng hình học để cải thiện generated-content persistence trong video dài một phút trở lên.
Adapter điều khiển camera chung cho text-to-video model: dịch quỹ đạo camera sang điều kiện sinh để thu hẹp khoảng trống control giữa world model và TI2V mà không mất 3D self-consistency.

2. Patent:

Ứng dụng game khám phá trên điện thoại: người chơi điều khiển camera di chuyển trong cảnh do AI tạo; hệ thống lưu nội dung từng vùng đã sinh vào bộ nhớ 3D để khi người chơi quay lại, cảnh vật (bàn, ghế, cây cối) hiện đúng như lần trước thay vì đổi mới.
Trợ lý tham quan ảo cho bảo tàng/du lịch: người dùng quét một ảnh hiện trường bằng điện thoại, sau đó 'đi dạo' bằng cử chỉ; ứng dụng kiểm chứng tính nhất quán 3D của từng điểm tham quan và tự sửa khi phát hiện chi tiết bị 'trôi' giữa các lần quay lại.
Công cụ kiểm thử tự động cho nội dung thực tế ảo tạo sinh trên điện thoại: pipeline quay lại-vùng-đã-thăm kèm chấm điểm độ lệch hình ảnh và chiều sâu, cảnh báo nhà phát triển khi cảnh mô phỏng không còn khớp chính nó sau một phút khám phá.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.20693
ArXiv Abstract	https://arxiv.org/abs/2610.20693
PDF Download	https://arxiv.org/pdf/2610.20693.pdf
Github Repository	https://github.com/worldbench/orbia

21. Can World and Action Modeling Benefit Each Other under Unified Causal Training? (28 votes)

Tác giả: Yue Su, Bokai Lin, Xinkai Wang, Chubin Zhang, Xiangnan Wu, et al.

Xuất bản lúc: 2026-10-15

Tag: World Models, Action Generation, Vision-Language-Action, Robotics, Causal Attention, Flow Matching, Policy Learning, Video Prediction

I. Main Problem:

Mô hình thế giới và mô hình hành động rất gần nhau, nhưng lợi ích hai chiều khi huấn luyện thống nhất theo tính nhân quả thời gian vẫn chưa rõ. Các mô hình world-action hiện có thường: - dùng action nhiễu hoặc che action khỏi video, nên nhánh video không học được động lực học từ hành động sạch đã chỉ định; - hoặc giả định đặc trưng thị giác pretrain đã đủ làm prior cho policy. Bài báo đặt hai câu hỏi: học forward dynamics có điều kiện action sạch có cải thiện action learning không? và học sinh action có cải thiện action-conditioned world modeling không?

II. Main Idea:

OneWM huấn luyện thống nhất trong một kiến trúc causal Mixture-of-Transformers gồm video expert và action expert, dùng causal joint attention để hai expert trao đổi thông tin theo thứ tự thời gian. Điểm then chốt là cùng một chuỗi action được xem là điều kiện sạch cho world prediction hoặc mục tiêu nhiễu cho policy learning thông qua ba chế độ trộn trong batch: - all-clean: action sạch điều kiện hóa video tương lai; - partial-clean: prefix action sạch + suffix action nhiễu; - all-noisy: action là mục tiêu denoise từ ngữ cảnh và instruction. Mục tiêu chung là flow matching: video expert học hậu quả thị giác của action đã chỉ định, action expert học chọn action từ quan sát; hai mất mát cùng tối ưu expert liên kết. Ví dụ đời thường: giống học nấu ăn hai chiều: vừa đọc công thức để hình dung món sẽ ra sao, vừa nhìn món có sẵn để đoán công thức cần dùng — hai chiều đó cùng siết hiểu biết về nguyên liệu, thao tác và kết quả.

III. Main Results:

Policy learning: trên LIBERO, OneWM đạt 94.95%, vượt WAMmask 92.45% và WAMnoisy 92.60%. Trên LIBERO-Plus, OneWM đạt 59.27% overall, cao hơn WAMmask 53.37%, WAMnoisy 52.50% và Fast-WAM 49.70%, đặc biệt tốt hơn dưới nhiễu cảm biến và thay đổi ngôn ngữ/bố cục. Trên RoboCasa365, OneWM đạt 36.68% overall, vượt WAMmask 28.32% và các baseline lớn hơn.
Thế giới thật: tổng success rate tăng từ 48.9% lên 73.3%; riêng chèn block tăng 66.7% → 86.7%, xếp bữa sáng tăng 20.0% → 40.0%.
World modeling: so với WM cùng kiến trúc chỉ dự đoán video, OneWM cải thiện rõ PSNR, SSIM, LPIPS trên cả ba benchmark; FID/FVD tiệm cận hoặc tốt hơn tùy benchmark, cho thấy học action bổ sung tín hiệu về quan hệ robot–vật thể hữu ích cho dự đoán kết quả action.
Tỷ lệ trộn điều kiện: mặc định 60% all-noisy / 25% partial-clean / 15% all-clean cân bằng nhất; dịch mạnh về clean conditioning làm world metrics khá ổn nhưng suy giảm policy, nhất là OOD.
Endless Dream: không cần train thêm, OneWM luân phiên sinh action và dự đoán video kết quả trong 16 vòng, tổng 512 action tương đương khoảng 25.6 giây, tạo chuỗi hành vi tiến về mục tiêu.

IV. Conclusion & Future Works:

Kết luận: dưới unified causal training, world modeling và action modeling có lợi cho nhau theo cả hai chiều. Forward prediction học hậu quả thị giác của điều khiển, trong khi action generation ép đặc trưng giữ cấu trúc cảnh cần thiết để chọn điều khiển; hai mục tiêu bổ sung nhau. Lợi ích chịu được điều chỉnh nhẹ, nhưng cần giữ đủ lượng action sinh từ nhiễu để khớp lúc triển khai. Hướng tương lai: mở rộng dữ liệu đa dạng và chân trời tương tác dài hơn; dùng động lực học đã học cho planning và policy improvement vượt ra ngoài joint training.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu cách lợi ích hai chiều giữa dự đoán video và sinh action thay đổi khi tăng quy mô dữ liệu robot đa nhiệm, đa camera và các tác vụ dài hạn có can thiệp của người dùng.
Phát triển phương pháp tự chọn tỷ lệ all-clean / partial-clean / all-noisy theo độ khó mẫu hoặc theo mức OOD, thay vì giữ tỷ lệ cố định trong suốt huấn luyện.
Kết hợp mô hình nhân quả kiểu OneWM với model-predictive control để dùng 'endless dream' không chỉ đánh giá mà còn lập kế hoạch, tìm action chunk và tinh chỉnh policy trong latent space.

2. Patent:

Hệ thống huấn luyện robot đa năng trên điện thoại hoặc máy tính bảng: ứng dụng cho robot quay video thao tác, sau đó mô hình vừa dự đoán khung hình tương lai nếu thực hiện một lệnh cụ thể, vừa gợi ý lệnh tiếp theo; người dùng có thể xem trước hậu quả trước khi bấm chạy.
Trợ lý gia đình học nhanh cách dùng thiết bị mới: robot quan sát người dùng ấn nút hoặc mở ngăn, tự tạo chuỗi hành động tương đương và kiểm chứng bằng cách tưởng tượng kết quả trước khi thao tác thật trên đồ vật.
Module an toàn cho cánh tay robot công nghiệp trước khi chạy lệnh: hệ thống sinh thử hành động trong mô hình nội tại, so sánh video kết quả dự kiến với ràng buộc vùng làm việc, rồi chỉ thực thi nếu quỹ đạo dự đoán không va chạm.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.21095
ArXiv Abstract	https://arxiv.org/abs/2610.21095
PDF Download	https://arxiv.org/pdf/2610.21095.pdf
Github Repository	https://github.com/Interactive-Active-AI/OneWM

22. WorldCast: Exploring Intelligent Visual Generation in World State Prediction (28 votes)

Tác giả: Wenhao Yan, Haodong Li, Xiaotong Li, Yaxin Luo, Zhengrong Yue, et al.

Xuất bản lúc: 2026-10-14

Tag: World Modeling, Visual Generation, Multimodal Models, Benchmark, Video Generation, Image Generation, AI Evaluation

I. Main Problem:

Các mô hình sinh ảnh/video đa phương thức tiến bộ nhanh, nhưng khả năng dự đoán trạng thái thế giới (world state prediction) — dự báo chuỗi trạng thái tương lai từ quan sát đa phương thức và các tài liệu tham chiếu đa dạng (mục tiêu, luật vật lý, quy trình, manh mối hình ảnh) — gần như chưa được khảo sát hệ thống. Các benchmark cũ chỉ kiểm tra sinh ảnh tĩnh hoặc biến đổi đơn bước, bỏ qua yêu cầu lập kế hoạch động, suy luận nhân quả và duy trì tính nhất quán qua nhiều bước liên tiếp.

II. Main Idea:

Tác giả phân cấp khả năng sinh trực quan thành 4 tầng (L1–L4) và đề xuất WorldCast, benchmark gồm 320 case thiết kế thủ công, 8 hạng mục, 1.352 trạng thái hình ảnh yêu cầu, nhắm vào năng lực L3–L4: biến ngữ cảnh đa dạng thành chuỗi trạng thái thế giới tiếp nối nhau.

L3: chuyển tiếp theo quan sát, mô phỏng vật lý, hoàn thành tác vụ thích ứng (không có hướng dẫn từng bước)
L4: manh mối hình ảnh, thuộc tính vật lý suy diễn, hiện thực hóa mục tiêu trực quan, logic & luật, học quy trình in-context
Đánh giá 12 mô hình ảnh và video dưới giao thức chuỗi keyframe thống nhất (video được trích khung hình qua Agentic Video Adapter), chấm theo 3 chiều: Task Completion, Causal Plausibility, Visual Consistency, dùng GPT-5.5 làm LMM-as-a-Judge với gợi ý gắn nhãn thủ công.

Ví dụ đời thường: giống như yêu cầu một người nhìn ảnh các mảnh đồ chơi + sách hướng dẫn rồi vẽ lại từng bước lắp ráp cho đúng thứ tự, đúng vật lý, không làm biến dạng hay thất lạc mảnh nào — người giỏi phải vừa hiểu ngữ cảnh, vừa lập kế hoạch, vừa giữ nhất quán qua từng nét vẽ.

III. Main Results:

GPT-Image-2.5 đạt 72.8 — mô hình đầu tiên cho thấy năng lực dự đoán trạng thái thế giới ở giai đoạn sớm, trên 60 ở cả 5 tác vụ L4; nhưng vẫn yếu nhất ở Visual Goal Realization (61.3).
Khoảng cách giữa các mô hình rất lớn: Nano Banana Pro chỉ 42.8, mô hình open-source tốt nhất (SenseNova-U1) 20.1; khoảng cách nới rộng ở tầng L4 (SenseNova-U1 tụt từ 24.4 xuống 15.0, GPT-Image-2.5 chỉ tụt 2.2).
Mô hình chỉ-sinh-ảnh (Qwen-Image) yếu nhất → nhiệm vụ này bắt buộc hiểu và suy luận, không chỉ render.
Sinh xen kẽ (interleaved) vượt sinh lưới ảnh: chuyển GPT-Image-2.5 sang grid mất 22.7 điểm (Logic & Rules tụt từ 74.3 xuống 23.0).
Tăng cường bằng LLM giúp rõ rệt: ghép GPT-6 Astra vào Nano Banana Pro nâng từ 42.8 lên 61.2.
Vòng lặp agentic + công cụ code đẩy GPT-Image-2.5 từ 72.8 lên 82.4, lợi ích lớn nhất ở mô phỏng vật lý, mục tiêu trực quan và logic — nhưng tốn kém (một lần chạy có thể > 1 giờ).
Độ tin cậy đánh giá tự động cao: tương quan Pearson với chấm người r ≥ 0.97, keyframe chọn tự động khớp người r = 0.95.

IV. Conclusion & Future Works:

WorldCast chứng minh mô hình thống nhất tiên tiến đã bước đầu mô phỏng được sự tiến hóa của thế giới thực, nhưng còn khoảng cách lớn khi tác vụ đòi hỏi ngữ cảnh dị biệt và suy luận–sinh liên kết chặt. Kết quả gợi mở ba hướng: sinh xen kẽ có hướng dẫn ngôn ngữ, nâng cấp LLM phía sau, và tinh chế lặp kiểu agentic với artifact mã nguồn. Hướng tương lai: chưng cất khả năng 'mô phỏng bằng code → render trực quan' vào mô hình đa phương thức thống nhất để suy luận nhanh hơn, và xây mô hình sinh có thể tiếp nhận và diễn giải động các artifact dị biệt từ agent thay vì chỉ neo ở mức pixel.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng WorldCast sang dự đoán trạng thái thế giới trong môi trường liên tục, nơi mô hình phải tự xác định số bước và mốc thời gian thay vì được cho trước số keyframe cố định.
Nghiên cứu chưng cất quy trình mô phỏng bằng code (như trong harness agentic) thành năng lực sinh trực quan nội tại của mô hình thống nhất, rút ngắn thời gian suy luận từ hàng giờ xuống gần real-time.
Xây dựng giao thức đánh giá cho khả năng tiếp nhận artifact dị biệt (ảnh mô phỏng code, sơ đồ, bảng trạng thái) làm hướng dẫn linh hoạt trong quá trình sinh ảnh đa bước.

2. Patent:

Ứng dụng hướng dẫn lắp ráp trên điện thoại: người dùng chụp ảnh các chi tiết rời và ảnh thành phẩm, ứng dụng sinh chuỗi ảnh minh họa từng bước lắp ráp đúng thứ tự, giữ nguyên hình dáng từng chi tiết qua các bước.
Trợ lý mô phỏng vật lý giáo dục: học sinh chụp ảnh thí nghiệm (vật nổi/chìm, vật lăn trên máng nghiêng), ứng dụng dự đoán và hiển thị chuỗi trạng thái tiếp theo đúng định luật vật lý để giảng giải trực quan.
Công cụ quy hoạch robot dân dụng: từ ảnh hiện trạng và ảnh kết quả mong muốn, hệ thống sinh lộ trình từng bước thao tác (gấp đồ, sắp xếp vật dụng) cho robot hộ trợ, kèm vòng kiểm- chỉnh tự động nếu bước nào vô lý.
Tính năng hướng dẫn nấu ăn/gấp origami thông minh: chụp ảnh nguyên liệu và ảnh mẫu quy trình, ứng dụng chuyển quy trình đó sang đúng nguyên liệu của người dùng và minh họa từng giai đoạn liên tục, không thêm ký hiệu vẽ lên ảnh.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.20731
ArXiv Abstract	https://arxiv.org/abs/2610.20731
PDF Download	https://arxiv.org/pdf/2610.20731.pdf
Github Repository	https://github.com/teal024/WorldCast

23. InfoVis: Unified Slide Image Generation and Editing (26 votes)

Tác giả: Jiahao Wang, Xiyan Jiang, Chenyuan Wu, Haoqiang Zhang, Xin Luo, et al.

Xuất bản lúc: 2026-10-12

Tag: Text-to-Image Generation, Image Editing, Diffusion, Slides, Benchmark, Visual Grounding, Post-training

I. Main Problem:

Tạo và chỉnh sửa slide thuyết trình dạng ảnh đòi hỏi một mô hình phải đồng thời: render chữ chính xác, bố cục nhiều thành phần khác loại, tuân theo mẫu thiết kế, giữ nguyên ảnh/tài sản trực quan được cung cấp, và chỉnh sửa cục bộ mà không làm hỏng phần còn lại. Các hệ quả hiện tại:

Các bộ tạo ảnh mở hiện nay chỉ giải quyết một phần trong các khả năng này, kết hợp chúng một cách không ổn định
Thiếu dữ liệu huấn luyện slide-native quy mô lớn (content–layout–design đặc trưng của slide)
Thiếu benchmark chẩn đoán cho từng năng lực riêng lẻ; các benchmark cũ chỉ xoay quanh sinh deck trình chiếu tự động hoặc xếp slide như một mục con trong tác vụ sinh ảnh chung.

II. Main Idea:

Bài báo khung hóa việc tạo slide thành bài toán tổng hợp ảnh điều kiện thống nhất với 4 tác vụ trên cùng giao diện văn bản + ảnh: text-to-slide, template-conditioned (ảnh mẫu làm chuẩn phong cách), multi-image grounded (giữ nguyên tài sản ảnh đưa vào), và instruction-based editing. Ba thành phần chính:

Slide data engine: 13M+ bản ghi continual pretraining (trích từ deck thật, parse bằng OCR + VLM; dữ liệu chỉnh sửa sinh bằng biến đổi PPTX xác định) và 1.9M bản ghi SFT (mục tiêu do Nano-Banana-2 render)
VisSlideBench: 1,527 ca được kiểm duyệt tay, đánh giá đa chiều theo từng tác vụ (CF, IF, AQ cho sinh; SC, PQ cho chỉnh sửa), bộ đánh giá tự động khớp xếp hạng của người (Kendall's τ = 0.640)
InfoVis (9B): post-training 3 giai đoạn từ FLUX.2-klein-base-9B — CPT text-to-slide, CPT trộn 4 tác vụ, rồi SFT từng tác vụ và fusion trọng số thành một mô hình duy nhất

Ví dụ đời thường: giống đào tạo một nhân viên thiết kế không phải làm một kỹ năng mà học xoay vòng cả bốn nghề (viết, cắt dán ảnh, bắt chước mẫu, sửa bản in) rồi hòa hợp trải nghiệm của từng ca để một người vẫn làm được tất cả.

III. Main Results:

InfoVis đạt 7.94 overall trên VisSlideBench, dẫn đầu mọi mô hình mở trên cả 11 chỉ số, chỉ kém 0.05 so với Nano-Banana-2 (7.99) và 0.42 so với GPT-Image-2 (8.36)
Post-training slide-specific cộng +1.64 điểm so với base 9B, lớn nhất ở Content Faithfulness (+1.70 đến +2.14); InfoVis còn vượt cả FLUX.2-dev 32B — chứng tỏ lợi ích đến từ dữ liệu slide, không phải quy mô
Unification gần như không tốn chi phí: mô hình fusion chỉ thua specialist của chính nó 0.06 điểm ở editing SC, trong khi các mô hình mở thống nhất khác (BAGEL, OmniGen2, HiDream-O1) chỉ đạt 4.1–4.9
Khoảng cách còn lại với mô hình proprietary tập trung ở Aesthetic Quality, nhỏ nhất ở Content Faithfulness (0.05–0.22)
Ngoại suy OOD: tốt nhất trong các mô hình mở trên BizGenEval Slides; pipeline document-to-slide xếp hạng 2/10 về Aesthetics trên SlidesGen-Bench
Ablation: CPT chỉ text-to-slide làm editing SC sụt từ 5.98 xuống 1.60; CPT trộn 4 tác vụ khôi phục toàn bộ; best-of-8 với verifier nâng overall từ 7.96 lên 8.11

IV. Conclusion & Future Works:

Khung thống nhất slide generation + editing cho thấy: dữ liệu và đánh giá slide-native là chìa khóa, huấn luyện thống nhất 4 tác vụ gần như miễn phí so với specialist, và khoảng cách còn lại với mô hình proprietary tỷ lệ thuận với độ chủ quan của tiêu chí (aesthetic > instruction following > content faithfulness). Hướng tương lai (suy luận từ các kết quả): cải thiện chất lượng thẩm mỹ và các biến đổi toàn cục (theme switching), kết hợp verifier-based sampling/test-time scaling, và mở rộng sang các trường hợp đòi hỏi kiến thức-suy luận (hard split của BizGenEval).

V. Brainstorming Space:

1. Publish Papers:

Kết hợp InfoVis với verifier mạnh hơn và chiến lược best-of-N thích ứng theo tiêu chí, nhắm trực tiếp vào khoảng trống Aesthetic Quality với mô hình proprietary.
Mở rộng VisSlideBench đánh giá multi-turn slide editing và editing ngoài phân phối, bổ sung tiêu chí đo độ sáng tạo thiết kế.
Phát triển dữ liệu và post-training cho các tác vụ slide đòi hỏi suy luận kiến thức (biểu đồ dữ liệu thật, nội dung chuyên ngành) để thu hẹp hard split trên BizGenEval.

2. Patent:

Ứng dụng điện thoại tạo slide từ tài liệu: người dùng chụp/chọn file tài liệu, ứng dụng tự trích nội dung và ảnh, tạo từng trang slide theo mẫu thiết kế người dùng chọn, dùng slide đầu tiên làm chuẩn phong cách cho các trang sau, rồi xuất file thuyết trình.
Trình chỉnh sửa slide bằng lệnh nói trên điện thoại: người dùng nói 'đổi màu tiêu đề thành đỏ, thay ảnh bìa' và ứng dụng chỉnh đúng phần đó trên ảnh slide mà giữ nguyên toàn bộ chữ và bố cục còn lại.
Bộ công cụ doanh nghiệp đồng bộ thương hiệu: nhân viên nhập nội dung, hệ thống dùng slide mẫu thương hiệu sẵn có làm tham chiếu để sinh toàn bộ bộ slide mới đúng màu sắc, font chữ và phong cách công ty, kèm kiểm tra chữ hiển thị sai trước khi xuất bản.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.16784
ArXiv Abstract	https://arxiv.org/abs/2610.16784
PDF Download	https://arxiv.org/pdf/2610.16784.pdf
Github Repository	https://github.com/VectorSpaceLab/InfoVis

24. Behavioral Compositionality of Sparse Autoencoder Representations (24 votes)

Tác giả: Haotian Ma, Ziye Mei, Frederic Sala

Xuất bản lúc: 2026-10-15

Tag: Sparse Autoencoder, Interpretability, Mechanistic Interpretability, Feature Interaction, SAE, LLMs, Model Steering

I. Main Problem:

Sparse Autoencoders (SAE) giải mã activation của mô hình thành các feature thưa, tuyến tính. Nhưng decoder tuyến tính không đảm bảo hiệu ứng của các feature cộng lại được — tính toán phía dưới có thể làm các feature tăng cường, triệt tiêu hoặc phụ thuộc lẫn nhau.

Khi kết hợp nhiều feature thành circuit, giải thích chung, hoặc can thiệp (steering), liệu cộng hiệu ứng từng feature có dự đoán đúng hiệu ứng chung không?
Các đánh giá SAE hiện tại (reconstruction, sparsity, interpretability) không trả lời câu hỏi này.

II. Main Idea:

Bài báo đưa ra SAE Additivity Residuals (SAR) — đo lường phần biến thiên hành vi chưa được giải thích ở từng bậc tương tác:

Giữ nguyên phần còn lại của activation, chỉ giữ lại hoặc loại bỏ các contribution đã decode của một tập con feature chọn lọc, rồi truyền qua các lớp trên để đo hành vi đầu ra.
SAR1: phần phương sai hành vi không giải thích được chỉ bằng hiệu ứng từng feature đơn lẻ; SAR2: phần còn lại sau khi thêm cặp feature; Δ2 = SAR1 − SAR2: phần cấu trúc mà các cặp feature khôi phục được.
Với lấy mẫu tập con độc lập (Bernoulli), SAR chính xác bằng năng lượng chuẩn hóa của các tương tác bậc cao hơn và bị chặn trên bởi lỗi sắp xếp coalition (định lý tương đương Shapley interaction indices).
Để tách compositionality do lựa chọn tọa độ SAE khỏi phần do tính toán phía dưới gây ra: so sánh tọa độ SAE học được với phép xoay ngẫu nhiên giữ nguyên tổng (sum-preserving random rotations) trên cùng subspace đã chọn.

Ví dụ đời thường: giống thử nếm từng gia vị riêng lẻ trong bếp — biết muối làm mặn và đường làm ngọt không đủ để đoán vị món ăn khi cho cả hai vào nồi, vì vị mặn-ngọt phối hợp tạo ra phản ứng mới; bài báo đo chính phần 'vị bất ngờ' đó.

III. Main Results:

SAR1 > 0 ở cả 57 tổ hợp model/lớp/hành vi → tính cộng tính bậc nhất không chính xác; mức độ thay đổi theo hành vi (copy đơn giản và subject-verb agreement thấp hơn CounterFact).
Tọa độ SAE học được luôn có SAR1 thấp hơn phép xoay ngẫu nhiên cùng subspace ở cả 18 cài đặt model-hành vi (VD: 0.0218 vs 0.1196 cho Mistral subject-verb agreement) → compositionality phụ thuộc vào lựa chọn tọa độ, không chỉ subspace.
Cặp feature cải thiện rank fidelity ở cả 18 cài đặt (trung bình 0.9782 → 0.9959), giảm selection regret từ 0.0272 → 0.0051, và vượt mô hình đối chứng cùng số tham số nhưng dùng tương tác bậc ba ngẫu nhiên.
Thử nghiệm steering tổ hợp với 16 hướng CorrSteer trên Llama-3.1 8B (MMLU-Pro): rank fidelity tăng 0.5874 → 0.7790, ordering error giảm 0.1444 → 0.0606 khi mô hình hóa cặp.
SAR1 giảm ở 8/9 so sánh độ sâu lớp; phép xoay cũng giảm tương tự → xu hướng theo độ sâu một phần do phần mô hình còn lại, nhưng tọa độ SAE vẫn thấp hơn rotations ở cả 33 so sánh.
SAR và chất lượng reconstruction là hai đại lượng khác nhau: trong so sánh 6 SAE cùng site, SAR tương quan dương với lỗi steering, còn FVU hầu như không.

IV. Conclusion & Future Works:

Decoder tuyến tính chỉ làm tọa độ SAE cộng tính cho reconstruction activation, không phải cho hiệu ứng hành vi phía dưới. Reconstruction, interpretability từng feature, và bậc tương tác cần thiết cho hành vi chung là ba thuộc tính riêng biệt — SAR đo trực tiếp thuộc tính thứ ba. Tọa độ SAE học được hỗ trợ mô tả hành vi bậc thấp hơn ngẫu nhiên nhưng không làm các feature độc lập: giải thích và can thiệp chung trung thực vẫn cần tương tác bậc hai. Kết luận phụ thuộc vào contribution được chọn, hành vi đọc và phân phối can thiệp — không phải thuộc tính toàn cục của một dictionary SAE.

Hướng mở: thiết kế SAE tối ưu hóa compositionality hành vi (chứ không chỉ reconstruction), và mở rộng đo lường sang bậc tương tác cao hơn cho các can thiệp đa feature trong thực tế.

V. Brainstorming Space:

1. Publish Papers:

Tối ưu hóa SAE theo mục tiêu compositionality hành vi: thêm regularization hóa SAR1/SAR2 vào hàm mất mát huấn luyện SAE để tọa độ vừa thưa, vừa có hiệu ứng cộng tính khi kết hợp xuống các lớp dưới.
Khuôn khổ SAR cho can thiệp multi-feature thời gian thực: dự đoán trước kết quả kết hợp nhiều hướng steering và tự động đề xuất điều chỉnh lượng để duy trì thứ hạng hành vi mong muốn.
Phân tích tương tác bậc cao trong circuit của LLM: dùng phân rã SAR theo độ sâu lớp để xác định nơi tính phi tuyến (tương tác cặp, bộ ba feature) tập trung trong kiến trúc transformer.

2. Patent:

Công cụ kiểm thử can thiệp mô hình AI trên điện thoại: trước khi áp dụng bộ lọc nội dung hay điều chỉnh phong cách trả lời bằng nhiều hướng tinh chỉnh, ứng dụng chạy mô phỏng SAR để dự báo hiệu ứng kết hợp, cảnh báo người dùng khi các điều chỉnh triệt tiêu nhau.
Hệ thống tinh chỉnh hành vi chatbot doanh nghiệp: khi kết hợp nhiều 'đặc tính' (lịch sự, ngắn gọn, chuyên môn) vào prompt hệ thống, phần mềm dùng mô hình bậc hai ước lượng kết quả tổng hợp để tự động cân bằng trọng số từng đặc tính mà không cần thử từng tổ hợp.
API đánh giá độ tin cậy của giải thích AI: dịch vụ đo SAR của bộ feature giải thích mà hệ thống đưa ra, trả về chỉ số 'mức độ cộng tính' để khách hàng biết giải thích đơn lẻ có còn đúng khi nhiều feature tác động đồng thời hay không.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.21261
ArXiv Abstract	https://arxiv.org/abs/2610.21261
PDF Download	https://arxiv.org/pdf/2610.21261.pdf
Github Repository	https://github.com/OpenSAE/SAE-Behavioral-Compositionality

25. Data World: Scaling Data Environments from Scratch (24 votes)

Tác giả: Zhanli Li, Zeyuan Xu, Chaoxu Pang, Zeyuan Liu, Anyang Ji, et al.

Xuất bản lúc: 2026-10-15

Tag: Data Agents, Synthetic Environments, Reinforcement Learning, Rubric Rewards, Benchmarks, LLMs, Multi-Agent Systems

I. Main Problem:

Các data agent cần môi trường dữ liệu đa dạng để phân tích bằng code, nhưng việc thu thập và gán nhãn dữ liệu thật gặp ba rào cản lớn:

Chi phí và quyền truy cập: dữ liệu doanh nghiệp/khoa học thật khó thu thập, dễ vướng quyền riêng tư và sở hữu trí tuệ.
Khó kiểm chứng kết luận mở: với dữ liệu thật, quá trình sinh dữ liệu thường không biết, nên rubric cho các insight mở thường dựa vào khám phá của người chấm/mô hình và có thể bỏ sót lời giải đúng.
Rủi ro contamination: tái sử dụng các bộ dữ liệu công khai có thể khiến mô hình đã thấy đáp án trong pretraining.

Vì vậy, bài toán là làm sao mở rộng môi trường dữ liệu vừa đủ đa dạng, vừa có supervision có thể kiểm chứng cho cả tính toán lẫn phát hiện insight.

II. Main Idea:

Data World đổi thứ tự làm việc: không khám phá file rồi viết rubric, mà chỉ định cơ chế sinh dữ liệu trước, sau đó mới tạo file và kiểm tra xem người phân tích có khôi phục được hiện tượng mục tiêu từ dữ liệu quan sát không.

Pipeline gồm các agent độc lập:

Dependency skeleton: một DAG mô tả các cụm biến và quan hệ sinh dữ liệu như monotonic, threshold, lagged, interactive.
World contract: cố định entities, timeline, quan hệ cause-effect, confounders, global invariants và observation systems.
Canonical state: sinh state thật của thế giới theo từng layer của DAG; mỗi layer là một agent session, chỉ đọc artifact của layer trước.
Observation projection: biến canonical state thành các file CSV/Excel/log giống hệ thống thực, có missing values, duplicate, schema drift, unit drift, foreign key không nhãn.
Independent audit: một auditor riêng viết script kiểm tra lại edges, invariants và recoverability của các phenomenon từ file quan sát.
Task & rubric: task neo vào một node mục tiêu, đi theo cause route hoặc consequence route; rubric tách data computation khỏi insight discovery, gồm cả positive và negative items.

Ví dụ đời thường: giống như tác giả viết truyện trinh thám phải quyết định trước hung thủ, động cơ và chuỗi sự việc, rồi mới rải manh mối trong hiện trường; thám tử chỉ thấy manh mối lộn xộn, nhưng đáp án vẫn có thể được kiểm chứng vì sự thật đã được thiết kế từ đầu.

III. Main Results:

DataWorld-Bench: 100 task từ 50 held-out worlds, trải đều 16 domains; mọi audit check đều pass.
Tập RL-zero: 2,135 task từ 1,037 worlds tách biệt hoàn toàn với test worlds; training worlds có DAG-edge pass rate 95.98%.
Mười frontier model đều cho thấy computation-insight gap: điểm computation cao hơn insight từ 4.87 đến 21.35 points.
GPT-6-Astra dẫn overall với 74.43, computation 87.80, insight 66.45; Qwen-3.8-Max-0902 dẫn insight với 67.95.
Negative rubric items cho thấy GPT-6.1-Sol và GPT-6-Astra ít kết luận sai nhất, nhưng ít sai không đồng nghĩa với khôi phục đủ insight đúng mục tiêu.
RL-zero bằng GSPO trên Qwen3.6-35B-A3B tạo DataWorld-35B-A3B, cải thiện +7.06 trên DataWorld-Bench, +14.28 trên DAComp, +20.90 trên DABstep-Hard và +12.13 trên JobBench.
Các benchmark ngoài được cải thiện mạnh cho thấy transfer vượt ra ngoài môi trường tổng hợp; trong khi DataMind-35B-A3B cải thiện benchmark ngoài nhưng gần như không tăng trên held-out DataWorld-Bench.
Khả năng chung được giữ khá ổn: MMLU-Pro không đổi ở 84.73, LiveCodeBench-Hard giảm nhẹ từ 71.14 xuống 70.29, SimpleQA-Verified tăng từ 22.20 lên 24.00.

IV. Conclusion & Future Works:

Data World chứng minh rằng có thể tổng hợp môi trường dữ liệu từ cơ chế sinh học để tạo đồng thời file phân tích, task, rubric và phần thưởng RL mà không cần dữ liệu riêng tư hay trajectory distillation từ model mạnh hơn. Ý tưởng then chốt là tách canonical truth khỏi observed environment: supervision được neo vào quá trình sinh dữ liệu đã audit, còn agent phải tự khôi phục kết luận từ dữ liệu lộn xộn giống thực tế.

Hạn chế còn lại: pipeline chặt chẽ nên khó ablation từng thành phần; task tổng hợp có thể chưa phản ánh đầy đủ câu hỏi mơ hồ, ngầm ý và mục tiêu thay đổi của người dùng thật; rubric không thể bao phủ mọi insight hợp lệ ngoài danh sách reference; LLM judge vẫn có thể gây bias.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng Data World sang môi trường có người dùng tương tác liên tục, nơi task và rubric phải cập nhật khi mục tiêu phân tích thay đổi trong phiên làm việc.
Nghiên cứu chiến lược audit thích ứng để phát hiện sớm world mà cause-effect chỉ định quá yếu, quá dễ hoặc không recoverable từ file quan sát trước khi đưa vào benchmark/RL.
Kết hợp rubric từ cơ chế sinh với human feedback để ghi nhận các insight đúng nhưng nằm ngoài reference list mà vẫn kiểm soát được reward hacking.
Tối ưu chi phí toàn pipeline bằng cách tái sử dụng partial world contracts, canonical state layers và audit artifacts cho nhiều task families khác nhau.

2. Patent:

Ứng dụng điện thoại tạo dữ liệu huấn luyện phân tích không lộ dữ liệu thật: người dùng mô tả nghiệp vụ, hệ thống dựng các quy tắc nhân quả minh họa rồi sinh bảng dữ liệu giả có lỗi thực tế để huấn luyện hoặc kiểm thử trợ lý phân tích trên máy/đám mây riêng.
Bộ tạo câu hỏi và chấm điểm cho trợ lý dữ liệu trên điện thoại: sau khi sinh một bộ dữ liệu mẫu, ứng dụng tự tạo câu hỏi dạng tìm nguyên nhân hoặc dự báo hệ quả, đồng thời chấm riêng phần tính số và phần giải thích dựa trên quá trình sinh dữ liệu đã kiểm chứng.
Hệ thống audit dữ liệu tổng hợp cho doanh nghiệp: trước khi phát hành một môi trường dữ liệu giả cho agent, một module độc lập chạy lại các quan hệ đã khai báo, kiểm tra dữ liệu quan sát có đủ manh mối để tìm lại kết luận mục tiêu và xuất báo cáo pass/fail không cho phép sửa dữ liệu.
Trình mô phỏng vận hành cho điện thoại: người dùng chọn lĩnh vực như giao hàng, y tế, tài chính; ứng dụng dựng một chuỗi sự kiện nghiệp vụ, tạo nhiều file xuất từ các hệ thống khác nhau rồi cho phép luyện phân tích chéo dữ liệu mà không cần dùng hồ sơ khách hàng thật.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.21656
ArXiv Abstract	https://arxiv.org/abs/2610.21656
PDF Download	https://arxiv.org/pdf/2610.21656.pdf
Github Repository	https://github.com/Zhanli-Li/Data-World

26. MLExpert: Towards a Generalist Agentic Model for Autonomous Machine Learning Engineering (24 votes)

Tác giả: Shangheng Du, Jinxin Shi, Shuaiyu Zhang, Yiming Wu, Junpeng Zhao, et al.

Xuất bản lúc: 2026-10-15

Tag: Agentic AI, LLMs, Reinforcement Learning, Mixture-of-Experts, Machine Learning Engineering, AutoML, Tool Use, Post-training

I. Main Problem:

Các hệ thống kỹ thuật học máy hiện nay thường điều phối bằng workflow cố định: mô hình ngôn ngữ chủ yếu sinh/sửa code tại từng bước, còn thứ tự thí nghiệm, quay lui hay chuyển hướng do quy tắc bên ngoài quyết định. Điều này khó mở rộng cho bài toán tối ưu dài hạn vì:

phản hồi thí nghiệm trễ và lẫn nhiều quyết định trước đó, không phải tín hiệu từng bước
quỹ đạo tương tác dài có thể chứa cả khám phá hữu ích, phục hồi lỗi và quyết định xấu sau đỉnh
mỗi lần chạy thử tốn kém, nên học trực tuyến phải dùng kết quả trung gian trước khi toàn bộ episode kết thúc, đồng thời xử lý lệch policy khi collection bất đồng bộ.

II. Main Idea:

MLExpert là mô hình agentic 35B Mixture-of-Experts được post-training để tự tổ chức tối ưu học máy dài hạn: thay vì theo workflow cứng, nó liên tục phân tích trạng thái thí nghiệm, gọi công cụ, chạy thử, đọc feedback, sửa/revisit solution tree và chọn ứng viên nộp bài. Hệ sinh thái gồm ba phần:

Kaggle-MLE Factory: chuyển cuộc thi Kaggle lịch sử thành tác vụ chạy được, có workspace công khai, test ẩn và bộ chấm điểm thống nhất; pipeline nhiều agent tự khám phá, phân tích, sinh, kiểm thử và vá lỗi tác vụ.
Hierarchical agentic SFT: học theo hai tầng — trước là tool-use/coding tổng quát, sau là tri thức tối ưu học máy; chọn mẫu bằng outcome-guided supervision, cắt phần đuôi suy thoái sau khi solution đạt đỉnh.
Windowed Interaction RL (WIRL): gom mọi quyết định giữa hai kết quả thí nghiệm liên tiếp thành một execution window, gán chung reward từ outcome thí nghiệm đó; dùng asynchronous collection và policy correction để cập nhật policy ngay khi quỹ đạo còn đang chạy.

Ví dụ đời thường: giống một đầu bếp nếm thử món ăn sau từng lần nêm: mỗi lần nêm là một chuỗi hành động, vị món ăn vừa ra lò là phản hồi chung cho cả chuỗi đó; đầu bếp chỉnh tay ngay từng đợt chứ không đợi xong cả bữa tiệc mới học.

III. Main Results:

Trên MLE-Bench Lite, MLExpert nâng tỉ lệ đoạt medal trung bình của base model từ 37.9% lên 72.7%, ngang các frontier model lớn hơn như Kimi-K3 và GLM-5.3; với Claude Code vẫn đạt 69.7% so với 42.4% của base.
Trên NatureBench Lite, tỉ lệ Surpass-SOTA tăng từ 0.0% lên 50.0%, Match-SOTA từ 40.0% lên 70.0%.
Ablation theo giai đoạn: base 37.9% → general agent SFT 47.0% → MLE SFT 62.1% → WIRL 72.7%; WIRL vượt GRPO 56.1%, PPO-style 60.6%, bản bỏ trend reward 66.7% và bản bỏ policy correction 65.2%.
Case study MLSP 2013 Birds: ROC-AUC cải thiện từ 0.58 lên 0.964, cho thấy khả năng tiếp tục tối ưu qua nhiều vòng thử nghiệm dài.
Khái quát hóa tốt: tối ưu scaffold cho GPT-4.1-nano trên AIME đạt held-out 43.7% so với base 23.3%; trên MLS-Bench-Lite, verifier reward trung bình tăng từ 0.322 lên 0.425, thắng base trên 10/12 tác vụ.

IV. Conclusion & Future Works:

Bài báo chứng minh rằng với môi trường tương tác giữ trạng thái thí nghiệm, dữ liệu SFT chọn lọc theo outcome và RL theo cửa sổ quyết định có phản hồi thực thi, một model 35B có thể tự tổ chức tối ưu học máy dài hạn và sánh ngang model lớn hơn. Hướng mở rộng hợp lý là thử nghiệm thêm trên nhiều domain khoa học/kỹ thuật, cải thiện reward cho các tác vụ không có medal threshold rõ ràng, nâng hiệu quả asynchronous training và kiểm soát overfitting/leakage khi tự đánh giá solution.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng Windowed Interaction RL cho các tác vụ tối ưu khoa học có phản hồi cực trễ, thử reward theo milestone thay vì theo từng lần chạy code.
Nghiên cứu cách chọn và cắt đoạn trong quỹ đạo dài hạn khi không có hidden test label, bằng proxy an toàn chống data leakage và overfitting.
Kết hợp bộ nhớ thí nghiệm dạng cây với retrieval để model học từ hàng nghìn lần chạy trước mà không vượt ngữ cảnh.

2. Patent:

Trợ lý học máy trên điện thoại cho người không chuyên: người dùng tải bảng tính hoặc ảnh dữ liệu; ứng dụng tự lập pipeline, chạy thử trên đám mây, báo kết quả từng vòng và đề xuất mô hình/đặc trưng tốt hơn theo cách chọn lọc tương tự cơ chế bài báo.
Bộ tối ưu cuộc thi dữ liệu di động: tạo môi trường giả lập cuộc thi có dữ liệu công khai, đáp án ẩn và bộ chấm điểm thống nhất để huấn luyện agent tự thiết kế thí nghiệm, quay lui khi kết quả xấu và khóa phương án nộp cuối.
Hệ thống tự cải thiện workflow AI trong doanh nghiệp: một agent theo dõi lịch sử chạy code, phân tích lỗi, thử biến thể, so sánh kết quả và đề xuất sửa quy trình làm việc; mỗi lần có kết quả chạy thực tế, hệ thống cập nhật luật hành động ngay cả khi công việc chưa hoàn tất.
Trợ lý thí nghiệm khoa học cho phòng lab: điện thoại/tablet ghi lại mô tả bài toán, agent chia quá trình thành các cửa sổ thử nghiệm, gắn phần thưởng theo kết quả đo thật và tự điều chỉnh các bước tiếp theo mà không cần người vận hành canh từng lần chạy.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.22344
ArXiv Abstract	https://arxiv.org/abs/2610.22344
PDF Download	https://arxiv.org/pdf/2610.22344.pdf
Github Repository	https://github.com/InternScience/MLExpert

27. EdgeWise: Bringing Long-Horizon Agents to the Edge via Selective Cloud Delegation (24 votes)

Tác giả: Zeru Shi, Jindong Jiang, Ryo Hachiuma, Yonggan Fu, Byung-Kwan Lee, et al.

Xuất bản lúc: 2026-10-13

Tag: LLM Agents, Edge Computing, Model Routing, Reinforcement Learning, Cost Optimization, SLM-LLM Collaboration

I. Main Problem:

Các tác vụ agent dài hạn (coding, deep research) hiện phụ thuộc gần như hoàn toàn vào LLM mạnh chạy trên cloud, gây ra vấn đề:

Chi phí suy luận khổng lồ vì dùng model lớn cho mọi bước của trajectory, kể cả các bước đơn giản.
Các phương pháp routing hiện có (query-level routing, Router-R1, MERA) có hai giới hạn: chưa được đánh giá trên tác vụ long-horizon thực tế, và phụ thuộc vào model pool + router bổ sung, khó mở rộng khi model thay đổi.
Đồng thời, SLM và phần cứng edge (như NVIDIA DGX Spark) đã đủ mạnh để chạy model cỡ nhỏ cục bộ, nhưng chưa có framework biết khi nào nên nhờ cloud.

II. Main Idea:

EdgeWise — framework hợp tác edge-cloud ở cấp từng bước (step-level): SLM chạy cục bộ làm người giải chính, và chỉ ủy thác các bước then chốt lên cloud LLM khi cần năng lực mạnh hơn. Quan sát nền: chỉ cần ~40% số bước do LLM xử lý (nếu chọn đúng bước) là đạt hiệu năng ngang chạy LLM thuần.

Khi nào ủy thác: phân tích 2.4k trajectory cho thấy bước Write/Edit là loại có tương quan mạnh nhất với thành công (r = 0.200); trajectory thành công dùng cloud cho Write/Edit nhiều hơn ~9.4 điểm phần trăm.
Ai quyết định: (1) external judge (GPT-5.4-mini) chấm điểm mức độ cần LLM qua ngưỡng τ — training-free; (2) self-delegation: SFT dạy SLM format ủy thác, rồi RL với credit assignment cấp bước (GRPO + critic nhẹ đánh giá từng quyết định delegate) để SLM tự học khi nào gọi cloud — không cần model phụ lúc inference.
Context & tần suất: truyền full history cho cả LLM lẫn judge cho kết quả tốt nhất; ngưỡng τ ~0.2–0.4 cho trade-off chi phí-hiệu năng tốt.

Ví dụ đời thường: giống thợ sửa xe tay nghề vừa tự tháo lắp, mở van, chạy thử được thì tự làm; chỉ gọi điện hỏi chuyên gia ở mấy bước khó như chẩn đoán bo mạch — vừa xong việc lại vừa tiết kiệm tiền tư vấn.

III. Main Results:

Giảm chi phí inference trung bình 46% so với chạy LLM thuần, giữ hiệu năng ngang hoặc tốt hơn.
Self-delegation giảm chi phí Pass@3: -53%/63% trên SWE-ReBench và -35%/33% trên Terminal-Bench 2.1 với GPT-5.5/Opus 4.8 tương ứng (Pass@3 không đổi, Pass@1 chỉ giảm ~2-3 điểm).
Binary delegation (training-free): giữ ~98% (TB2.1) / 93% (SWE-ReBench) hiệu năng LLM thuần, giảm ~35-38% chi phí; trên SWE-Rebench giảm tới 62% chi phí.
Vượt các baseline routing (Random, RSD, STEER, MTRouter) về trade-off hiệu năng-chi phí trên cả hai benchmark và hai cloud LLM.
Triển khai thật trên NVIDIA DGX Spark: hiệu năng Pass@3 tương đương môi trường A100, giảm ~50% chi phí so với LLM thuần.

IV. Conclusion & Future Works:

EdgeWise chứng minh rằng lợi ích của LLM mạnh tập trung ở một số ít bước then chốt (đặc biệt Write/Edit), nên việc ủy thác có chọn lọc cấp bước giữa SLM edge và LLM cloud là khả thi, tiết kiệm mạnh mà không mất hiệu năng — mở ra hướng xây agent system hiệu quả, thực tiễn. Tự ủy thác bằng RL còn giúp giảm hiện tượng overthinking và tăng đa dạng khám phá qua các trajectory. Paper không nêu hướng tương lai cụ thể; có thể kỳ vọng mở rộng sang các dạng tác vụ long-horizon khác và tối ưu hơn nữa cơ chế credit assignment.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng self-delegation cấp bước bằng RL cho các lớp tác vụ long-horizon khác ngoài coding (deep research, data analysis), với reward chi phí tính theo giá API thực tế thay vì số lần gọi.
Nghiên cứu cơ chế credit assignment tinh hơn cho quyết định delegate: dùng reward mô hình chi phí-độ tin cậy thay cho critic rule-based, kiểm chứng trên nhiều cặp SLM/LLM.
Phát triển phiên bản judge có thể hiệu chỉnh theo ngân sách động (budget-adaptive threshold) học trực tiếp từ phản hồi chi phí-thành công trong quá trình triển khai edge-cloud thật.

2. Patent:

Trợ lý coding chạy cục bộ trên máy trạm hoặc laptop: ứng dụng tự xử lý các bước đơn giản (đọc file, chạy test), chỉ gửi những bước sửa logic phức tạp lên dịch vụ AI trả phí qua API, giúp người dùng tiết kiệm hóa đơn đáng kể.
Hệ thống tiết kiệm chi phí AI cho điện thoại: một model nhỏ chạy on-device phục vụ trợ lý cá nhân, tự đánh giá mỗi yêu cầu; chỉ các tác vụ khó (lập trình, phân tích tài liệu dài) mới chuyển lên cloud, với thanh trượt ngân sách do người dùng đặt.
Dịch vụ doanh nghiệp kết nối nhiều máy tính văn phòng thành cụm edge: mỗi máy chạy model nhỏ xử lý tác vụ nội bộ, hệ thống trung tâm phân vai khi nào một máy nên gọi model lớn trên cloud, đồng thời ghi nhận chi phí từng máy để báo cáo tối ưu ngân sách AI.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.17560
ArXiv Abstract	https://arxiv.org/abs/2610.17560
PDF Download	https://arxiv.org/pdf/2610.17560.pdf
Github Repository	N/A

28. Terminal-RSI: Recursive Self-Improving Terminal Agents via Recursive Self-Rewrite and Policy-Refine (23 votes)

Tác giả: Junyao Yang, Zongxia Li, Yucheng Shi, Zhongzhi Li, Ruhan Wang, et al.

Xuất bản lúc: 2026-10-15

Tag: RL, Terminal Agents, PPO, GAE, Self-Rewriting, Credit Assignment, Reward Shaping, Actor-Critic

I. Main Problem:

Các tác nhân làm việc trong terminal (sửa repo, chạy verifier ẩn) gặp 3 trở ngại cốt lõi:

Temporal dilation: nhịp tạo token khác nhịp thay đổi môi trường — GAE chuẩn giảm điểm tín dụng theo độ dài văn bản chứ không theo số lượt tương tác; hai lần chạy cùng quyết định nhưng khác độ dài log sẽ nhận điểm khác nhau.
Value drift: khi tự viết lại (rewrite) luồng hành động, actor đổi → phân phối critic đổi → reward đổi; reset critic mất kiến thức cũ, giữ nguyên critic lại mang theo sai lệch hệ thống.
Reward lệch phần thưởng: thất bại vẫn tích lũy nhiều check đạt, chiếm tới 50.09% tổng khối reward — mô hình học đạt điểm rỗng thay vì hoàn thành nghiêm ngặt.

II. Main Idea:

Terminal-RSI xoay vòng 2 giai đoạn kế thừa lẫn nhau trong 5 bước: Base → RSR-1 → RPR-1 → RSR-2 → RPR-2:

Recursive Self-Rewrite (RSR): chỉ cập nhật actor — lấy các luồng đã được verifier xác nhận thành công, lên kế hoạch (runbook), chạy lại ở môi trường mới, rồi huấn luyện bắt chước (SFT).
Recursive Policy-Refine (RPR): PPO actor–critic, nhưng giữ nguyên trọng số critic qua các giai đoạn rewrite + warm-up critic 4 bước + giảm 5 lần learning rate actor ở vòng 2 để không 'sốc' critic đã thừa kế.
TB-GAE: đặt mốc decay theo ranh giới lượt tương tác thay vì theo token — phần quan sát dài không còn làm loãng điểm tín dụng.
FDR + SPR: chuẩn hóa tiến độ theo gia đình tác vụ, và phân tách thành công nghiêm ngặt với tín dụng một phần bị chặn trên — tỉ lệ reward rơi vào ca thất bại giảm từ 50.09% xuống 28.72%.

Ví dụ đời thường: giống thợ học nghề hai lần — đầu tiên tự sửa được vài ca 'chuẩn' thì ghi chép lại thành sổ tay (RSR) để đồng nghiệp học; sau đó đồng nghiệp luyện tay nghề dưới sự giám sát của thợ cũ (critic được thừa kế, không thuê người đánh giá mới), rồi lặp lại chu kỳ — mỗi vòng bản lĩnh chắc hơn một bậc.

III. Main Results:

Terminal-RSI-27B (từ Qwen3.8-27B base) đạt trung bình 50.58% trên 4 bộ Terminal-Bench, tăng +29.90 điểm so với Base và +16.33 so với RSR-1.
Cụ thể: 19.84% Terminal-Bench 4.0, 86.52% TB 2.1 (vượt GPT-6 Sol, Kimi K3 trong bảng tham chiếu), 16.95% TB 3.0, 79.00% TB Hard.
LHTB (tác vụ chuỗi dài): process reward tăng 0.21 → 0.37; hoàn thành nghiêm ngặt từ 0/46 lên 5/46.
SWR100: tăng gấp đôi, 3.00% → 6.00%.
RPR-1 vượt Direct PPO tới +29.2% trên TB-2.1 tại bước 20 — chứng minh cần rewrite trước khi tinh chỉnh.
Explained variance của critic duy trì dương xuyên suốt RPR-2 (peak 0.52) — thừa kế critic + recalibrate có hiệu quả.

IV. Conclusion & Future Works:

Kết luận: cặp lặp rewrite luồng đã xác minh + tinh chỉnh chính sách kế thừa critic giúp tác nhân tiến từ 'sửa lẻ tẻ cục bộ' sang 'hoàn thành nghiêm ngặt qua verifier', nếu kèm tín dụng theo lượt (TB-GAE) và reward ưu tiên thành công (SPR). Các nhánh bị loại cho thấy hiệu suất phi đơn điệu theo benchmark — cần giám sát strict success đa bộ chứ không chỉ reward.

Hướng tương lai (gợi ý từ hạn chế đã nêu):

Đồng bộ hóa giao thức đánh giá với mô hình bên ngoài để so sánh công bằng hơn.
Kiểm soát các đánh đổi cross-suite khi kéo dài huấn luyện (trade-off TB 4.0 ↔ TB 2.1).
Giảm train–inference mismatch và độ trễ off-policy trong pipeline bất đồng bộ.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng khung rewrite–refine đệ quy cho tác nhân đa máy chủ: mỗi sandbox là 'hệ thống con' và critic được chia sẻ qua các vùng thực thi để tái sử dụng cấu trúc reward giữa các môi trường.
Nghiên cứu reward shaping thích ứng theo giai đoạn: tự động chuyển từ FDR (khuyến khích khám phá) sang SPR (ép hoàn thành nghiêm ngặt) dựa trên độ tin cậy của verifier thay vì lịch cố định.
Áp dụng TB-GAE cho agent giao diện đồ họa (GUI agent): decay theo bước hành động thay vì token để cải thiện credit assignment với quan sát hình ảnh rất dài.

2. Patent:

Trợ lý sửa lỗi phần mềm trên điện thoại: khi người dùng gặp lỗi app, trợ lý thực hiện thử vài thao tác trong môi trường ảo, chỉ lưu lại các chuỗi thao tác khiến app chạy được, biên thành 'sổ tay sửa lỗi' cá nhân; mỗi lần sửa lỗi sau đều tự tinh chỉnh theo sổ tay này mà không mất kinh nghiệm đã tích lũy.
Hệ thống tự học cho kỹ thuật viên vận hành máy: máy ghi lại các phiên vận hành được kiểm tra đạt, tự viết lại thành quy trình chuẩn, rồi huấn luyện chính sách đề xuất tiếp theo — người vận hành mới luôn có 'người cố vấn' kế thừa kinh nghiệm từ các phiên trước.
Ứng dụng tự động hóa kiểm thử ứng dụng di động: đánh giá tiến độ theo từng nhóm tính năng (chuẩn hóa theo độ khó nhóm), tách rõ phần thưởng 'chạy đúng hoàn toàn' khỏi điểm từng màn hình đạt được, để hệ thống ưu tiên sửa tới khi app chạy trọn vẹn thay vì dừng ở nửa chừng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.22192
ArXiv Abstract	https://arxiv.org/abs/2610.22192
PDF Download	https://arxiv.org/pdf/2610.22192.pdf
Github Repository	N/A

29. Intern-Decision: Efficient Multimodal Decision Making with Autoregressive Masked Language Modeling (22 votes)

Tác giả: Tong Zhu, Zhe Xu, Zefeng He, Yunkai Chai, Xuyang Hu, et al.

Xuất bản lúc: 2026-10-15

Tag: Structured Decision Making, Multimodal LLMs, Autoregressive Masked Language Modeling, Model Calibration, Temperature Scaling, Confidence-based Routing, Agent Systems

I. Main Problem:

Các agent tương tác thường xuyên phải chọn trong tập hành động hữu hạn (chọn công cụ, định tuyến, phân loại...), nhưng mô hình hiện tại vẫn sinh văn bản tự do qua autoregressive decoding, gây ra:

độ trễ cao do giải mã tuần tự từng token cho mỗi lựa chọn
giao diện lằng nhằng giữa mô hình và bộ điều khiển downstream (phải parse JSON tự do)
thiếu ước lượng xác suất đáng tin cho từng phương án, cần cho việc định tuyến theo độ tự tin
các mô hình quyết định (System-1) hiện có như Jev chủ yếu xử lý văn bản thuần, chưa tích hợp quan sát trực quan hay nhiều trường quyết định trong một lần chạy.

II. Main Idea:

Intern-Decision là họ mô hình đa phương thức nhỏ gọn (0.8B, 2B, 4B, backbone Qwen3.5) định khung quyết định có cấu trúc thành autoregressive masked language modeling:

Xây một khung JSON assistant hoàn chỉnh với token <decision> che giấu, một placeholder cho mỗi trường cần quyết định (choice, noul/boolean, score)
Mỗi phương án ứng với một ký hiệu token duy nhất (62 ký hiệu hợp lệ); đáp án đúng chỉ xuất hiện trong supervision, không bao giờ đưa vào input
Đọc logits ngay trước vị trí placeholder bằng LM head gốc của backbone — toàn bộ các trường được chấm trong một forward pass duy nhất, không vòng lặp giải mã
Softmax chỉ trên tập ký hiệu hợp lệ của từng câu hỏi, kèm temperature scaling sau huấn luyện để hiệu chỉnh độ tin cậy

Ví dụ đời thường: giống bài thi trắc nghiệm đã in sẵn ô trống — thay vì viết luận dài dòng để diễn đạt lựa chọn, bạn chỉ cần điền một chữ cái vào mỗi ô trống trong một lượt đọc duy nhất, bài làm vừa nhanh vừa chuẩn định dạng.

III. Main Results:

Độ chính xác: Intern-Decision-4B đạt 90.02% trung bình 7 benchmark, vượt Jev v1.13.0 (88.74%); dẫn đầu hoặc hòa 5/7 suite, gồm Typed Decision 80.55% (2.000 trường) và ToolACE 96.45%
Độ trễ: với request 289 token/3 trường trên một RTX 4090, bản 4B chỉ 44.16ms, bản nhỏ ~33–34ms — nhanh khoảng 2.5–3.3× so với Jev (109.70ms)
Hiệu chỉnh xác suất: temperature scaling giảm expected Brier từ 0.628 → 0.550 và ECE từ 0.213 → 0.089 trên tập 96 case phân phối đã biết, trong khi giữ nguyên mọi argmax; trên Jevbench-Hard, ECE giảm 0.133 → 0.065
Định tuyến theo độ tự tin: chuyển 42/111 item khó cho mô hình lớn Atria-Dawn-Preview nâng độ chính xác từ 73.87% → 87.39%, với thời gian ước tính thấp hơn 53% so với dùng mô hình lớn hoàn toàn
Đa phương thức: giữ nguyên vision tower đóng băng, huấn luyện trên 17.880 mẫu gồm cả game (2048, Flappy Bird, Tetris...), VizDoom và tác vụ trực quan

IV. Conclusion & Future Works:

Intern-Decision chứng minh mô hình quyết định nhỏ gọn có thể là thành phần thực dụng trong hệ agent phân cấp: sinh lựa chọn có cấu trúc + xác suất ứng viên trong một forward pass, giữ tương thích với mô hình ngôn ngữ đa phương thức pretrained, và bổ sung (không thay thế) mô hình lớn thông qua handoff theo độ tự tin. Hướng tương lai: tối ưu chính sách định tuyến thay vì chỉ một điểm vận hành, mở rộng giới hạn trường/trường hợp ứng viên, và cải thiện chất lượng phân phối xác suất trên các bài toán suy luận xác suất còn yếu.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng mô hình quyết định đa trường cho agent đa bước, trong đó các quyết định trước được đưa vào ngữ cảnh một cách có kiểm soát để hỗ trợ lập kế hoạch dài hạn.
Nghiên cứu chính sách định tuyến tối ưu giữa mô hình quyết định nhỏ và mô hình lớn dựa trên entropy/xác suất tối đa, cân bằng độ chính xác và chi phí tính toán.
Cải thiện hiệu chỉnh xác suất cho các bài toán suy luận xác suất có điều kiện (dạng Monty Hall) nơi mô hình vẫn lệch phân phối tham chiếu dù đã temperature scaling.

2. Patent:

Module phân loại thông minh trên điện thoại cho tổng đài hỗ trợ khách hàng: ứng dụng gửi nội dung tin nhắn (kèm ảnh chụp màn hình nếu có) lên mô hình nhỏ chạy cục bộ, nhận ngay phân loại bộ phận phụ trách + mức ưu tiên + xác suất tự tin trong một lượt xử lý, giảm thời gian phản hồi xuống vài chục mili giây.
Hệ điều khiển trợ lý duyệt web trên điện thoại: mô hình quyết định nhỏ phân tích ảnh chụp màn hình giao diện và chọn hành động (nhấn, cuộn, điền) từ danh sách hữu hạn theo thời gian thực; khi độ tự tin thấp, chuyển yêu cầu lên trợ lý đám mây lớn hơn.
Hệ thống tiết kiệm chi phí AI cho ứng dụng di động: các yêu cầu đơn giản được trả lời bởi mô hình 0.8B–2B chạy on-device với ước lượng xác suất; chỉ những yêu cầu có xác suất tối đa dưới ngưỡng mới gọi API mô hình lớn, cắt đáng kể chi phí đám mây.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.22131
ArXiv Abstract	https://arxiv.org/abs/2610.22131
PDF Download	https://arxiv.org/pdf/2610.22131.pdf
Github Repository	https://github.com/InternLM/Intern-Decision

30. Routing Policy Optimization for Online Diffusion Reinforcement Learning (21 votes)

Tác giả: Qiuhong Shen, Yiding Yang, Yuxin Zhang, Xinwei Huang, Minxuan Lin, et al.

Xuất bản lúc: 2026-10-15

Tag: Diffusion Models, Flow Matching, Reinforcement Learning, GRPO, Reward Alignment, Text-to-Image, Text-to-Video, Attention Sparsity, Visual Generation

I. Main Problem:

Tinh chỉnh trực tuyến bằng học tăng cường giúp mô hình sinh ảnh/video đúng phần thưởng tốt hơn, nhưng các phương pháp score-function hiện có thường biến quá trình khử nhiễu thành ngẫu nhiên: thêm nhiễu vào sampler hoặc đổi ODE sang SDE. Hệ quả:

chi phí rollout rất cao, phải sinh nhiều ảnh/video để ước lượng advantage
bản chất deterministic sampler ban đầu bị phá vỡ
khó tách đúng hiệu ứng của khám phá ngẫu nhiên khỏi nội dung ảnh/video thay đổi
thiếu một interface chính sách rõ ràng, giữ nguyên sampler gốc cho cả image và video generators.

II. Main Idea:

Routing Policy Optimization giữ nguyên sampler gốc và đưa khám phá ngẫu nhiên vào bên trong attention của diffusion transformer. Cách làm:

gom token thành các token blocks theo đường cong giữ cụm không gian; mỗi query block luôn giữ block của mình
tại vài routed levels đầu tiên, mô hình dùng chính attention mass dày đặc để đề xuất route: chọn thêm key blocks với xác suất tỷ lệ theo lượng attention native, hoặc giữ dense attention
route được chọn làm thay đổi velocity của transition đó; sai lệch so với dense velocity được chấm bằng Gaussian likelihood
cập nhật làm kéo dense velocity về phía route có reward cao hơn, nên sau huấn luyện chỉ cần bỏ mặt nạ và chạy dense attention như cũ
thay vì nhóm nhiều rollout, dùng controlled two-rollout pair: hai rollout chia sẻ prompt, initial latent/content seed, routed levels và anchor layers, chỉ khác seed của attention routes; hiệu reward làm leave-one-out advantage

Ví dụ đời thường: giống thợ pha chế thử gấp một vài đường rót khác trong cùng một ly nước, để khách nếm hai ly chỉ khách cách rót; nếu ly nào được khen hơn, người thợ chỉnh tay nghề cho cách pha chính, còn đường rót thử biến mất khi phục vụ thật.

III. Main Results:

Text-to-image trên Stable Diffusion 3.5 Medium: RPO cải thiện cả năm metric DrawBench dù không phải reward huấn luyện. ImageReward tăng từ -0.54 lên -0.18, UnifiedReward từ 2.10 lên 2.32, DeQA-Score từ 3.35 lên 3.56.
Tốc độ học so với Flow-GRPO: trên dense validation, RPO vượt final reward của Flow-GRPO chỉ sau 25/50 steps và kết thúc cao hơn 1.1 điểm: RPO đạt khoảng 9.91, Flow-GRPO khoảng 8.81 ở bước 50; tổng gain +5.97 so với +4.86.
Text-to-video trên Wan2.2-TI2V-5B: đạt overall VBench cao nhất trong các checkpoint được đánh giá, 82.00, so với base 81.61, DanceGRPO 81.46, Flow-GRPO 81.19.
Chất lượng ngữ nghĩa video tăng rõ: object class +4.40, human action +4.80, scene +3.43, multiple objects +2.15; đồng thời cải thiện aesthetic quality, imaging quality, subject consistency và motion smoothness so với base.
Tiết kiệm huấn luyện: Wan2.2 cần 24.1 GPU-hours, thấp hơn 3.1× so với Flow-GRPO và 4.2× so với DanceGRPO.
Trade-off: RPO giảm color và appearance style so với base nhưng vẫn dẫn các baseline đã huấn luyện ở color; Flow-GRPO tăng dynamic degree mạnh nhưng đánh đổi consistency, smoothness và object-class accuracy.

IV. Conclusion & Future Works:

RPO chứng minh rằng stochastic exploration không cần chạm vào reverse denoising trajectory: có thể đặt hành động policy vào attention routing tạm thời, rồi trả lại dense attention và deterministic sampler khi inference. Giá trị cốt lõi là reward học qua routing vẫn transfer sang dense generator, trong khi giảm mạnh rollout cost so với sampler-space RL. Giới hạn hiện tại: chỉ áp dụng được cho backbone có attention; route proposal và likelihood còn thô vì gộp attention mass theo block/layer/head; likelihood Gaussian chưa tính xác suất của lựa chọn route rời rạc; hiện mới tinh chỉnh generator có sẵn thay vì đồng thiết kế kiến trúc. Hướng đi: mịn hóa routing ở token/layer level, likelihood ghi nhận route choice, tổng quát hóa sang generator không có attention mass, và co-design backbone với routing để đạt cả efficiency lẫn alignment lớn hơn.

V. Brainstorming Space:

1. Publish Papers:

Token- và layer-level routing likelihood cho alignment của diffusion transformer: thay vì gộp attention mass theo block, học route ở độ phân giải token/layer và dùng likelihood có nhân xác suất route nhằp chỉ rõ key block nào tạo reward.
Policy interface cho generator không có attention mass: mở rộng tư tưởng sampler-preserving exploration sang state-space models, convolutional generators hoặc mô hình dùng routing ngoài self-attention bằng cách định nghĩa action không đổi sampler và baseline cặp chia sẻ ngữ cảnh.
Co-design sparse attention và reward alignment: thiết kế cùng lúc kiến trúc attention thưa/routing và mục tiêu policy gradient để một mô hình vừa nhanh hơn vừa đạt phần thưởng tốt hơn, thay vì tách tối ưu sparse inference và online alignment.
Multi-objective routing cho video: tối ưu đồng thời semantic accuracy, motion smoothness, subject consistency và appearance style bằng advantage nhiều chiều có ràng buộc, giảm trade-off color/appearance style quan sát thấy trên VBench.
Temporal credit assignment cho route trong video diffusion: gắn routed levels với nhịp chuyển động và các cửa sổ thời gian để cải thiện dynamic degree mà không làm mất subject consistency.

2. Patent:

Ứng dụng chỉnh ảnh chân dung trên điện thoại: máy chủ huấn luyện mô hình sinh ảnh bằng cách tạm cho từng vùng ảnh chỉ nhìn một số vùng khác trong vài bước khử nhiễm; hai ảnh cùng nền và cùng nhiễu ban đầu chỉ khác cách nhìn, rồi dùng điểm đánh giá để giữ tay nghề của mô hình chạy đầy đủ. Điện thoại tải bản trọng số mới, người dùng chụp và chỉnh ảnh đẹp hơn mà không đổi luồng xử lý trong máy.
Hệ tạo video ngắn theo mô tả trên điện thoại: khi người dùng gõ mô tả, dịch vụ đám mây sinh thử các đoạn video có cùng câu chữ, cùng ảnh nhiễu khởi đầu và cùng bộ lấy mẫu, chỉ khác nhau ở cách các khung hình tạm thời nhìn nhau; điểm chất lượng của từng cặp giúp cập nhật mô hình. Bản cập nhật chạy trên điện thoại vẫn dùng chế độ nhìn đầy đủ và bộ lấy mẫu gốc nên ổn định, tiết kiệm pin hơn so với huấn luyện kiểu thêm nhiễu vào toàn bộ quá trình khử nhiễu.
Avatar và phông nền cho gọi video: hệ thống cải thiện mô hình tách người và tạo cảnh nền bằng cặp video trùng ngữ cảnh, chỉ đổi cách kết nối tạm giữa các vùng không gian-thời gian ở vài bước đầu; hiệu điểm chuyển động, độ rõ và đúng mô tả làm tín hiệu cập nhật. Khi dùng thật, mô hình bỏ mọi kết nối tạm và chạy như cũ, giúp video call mượt và ít giật trên thiết bị di động.
Bộ công cụ huấn luyện cục bộ-đám mây cho ứng dụng biên: điện thoại gửi phản hồi ẩn danh kiểu ảnh/video được thích hơn; đám mây chạy hai bản sinh giống hệt nhau, chỉ khác lựa chọn vùng nhìn tạm thời, cập nhật mô hình dùng đầy đủ kết nối khi suy diễn. Kiến trúc này phù hợp cá nhân hóa kiểu ảnh theo người dùng mà không thay đổi sampler hay làm tăng độ trễ khi mở camera.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.22282
ArXiv Abstract	https://arxiv.org/abs/2610.22282
PDF Download	https://arxiv.org/pdf/2610.22282.pdf
Github Repository	N/A

31. Each Reward to Its Relevant Tokens: Reward-Specific Token-Level Credit Assignment for Multi-Reward RL (20 votes)

Tác giả: Skylar Zhai, Haonan Wang, Zhining Liu, Linxin Song, Xuwei Ding, et al.

Xuất bản lúc: 2026-10-15

Tag: Reinforcement Learning, RLVR, GRPO, Multi-Reward RL, LLMs, Credit Assignment, Text-to-SQL, Tool Calling

I. Main Problem:

Huấn luyện LLM bằng RLVR với nhiều reward đồng thời (đúng/không đúng của tool call, format, từng ràng buộc của câu lệnh) đang phổ biến, nhưng các phương pháp hiện có như GRPO/GDPO gặp một lỗi cốt lõi:

Mỗi verifier chỉ kiểm tra vài vị trí nhỏ trong câu trả lời (ví dụ: format chỉ nhìn thấy thẻ <answer>, execution chỉ liên quan tới cột SQL bị chọn sai)
Nhưng advantage của mọi reward vẫn được chia đều cho toàn bộ token của response
Hệ quả: phạt format lại đánh vào các argument vốn đúng, và phần lớn credit trên một token đến từ các reward không liên quan tới token đó — vấn đề càng trầm trọng khi số reward tăng lên (5–13 ràng buộc trong instruction following).

II. Main Idea:

MRTPO (Multi-Reward-to-Token Policy Optimization) gán advantage của từng reward cho đúng các token liên quan tới nó, không cần mô hình phụ, không cần annotation cấp token, không cần sampling thêm. Cơ chế:

Mỗi verifier nắm một thông tin riêng (reference query, lỗi SQLite, một ràng buộc cụ thể) — ký hiệu Z_k
Policy self-replay response đã sinh dưới 2 ngữ cảnh: có đầy đủ Z_k và bỏ Z_k (leave-one-out), mỗi lần chỉ một forward pass
Khoảng cách Jensen–Shannon giữa hai phân phối next-token tại mỗi vị trí đo mức độ token đó phụ thuộc vào Z_k → đó là điểm relevance
Advantage từng reward được phân phối lại theo relevance (hệ số β, mặc định 0.5; token trung bình giữ nguyên weight 1, token quan trọng nhận nhiều hơn), tổng credit của response không đổi — chỉ vị trí đặt credit thay đổi

Khác GDPO/SAW (chỉ quyết định bao nhiêu mỗi reward đóng góp ở response-level), MRTPO quyết định token nào nhận advantage của reward nào, nên kết hợp được với mọi phương pháp reweighting.

Ví dụ đời thường: giống thầy chấm bài tự luận — thay vì cộng điểm rồi chia đều cho tất cả câu, thầy nhìn từng tiêu chí (chính tả, logic, trình bày) và gạch chân đúng câu nào vi phạm tiêu chí đó, rồi trừ điểm đúng chỗ đó.

III. Main Results:

Tốt nhất về trung bình trên cả 3 tác vụ (text-to-SQL, instruction following, tool calling) và cả 6 model (1.5B–7B), so với GRPO, GDPO, SAW, CoRT, OPSD.
Text-to-SQL: +1.3 (Coder-3B) và +1.6 điểm (Coder-7B) execution accuracy trung bình trên 6 benchmark; kết hợp SAW vẫn tốt hơn GDPO+SAW.
Instruction following: lợi ích lớn nhất do nhiều reward — +2.4 và +3.2 điểm trên IFBench (ràng buộc chưa thấy khi train).
Hội tụ nhanh hơn rõ rệt: tool calling đạt format đúng trên 97% BFCL sau 10 bước (GDPO 2%, GRPO 4%); đạt accuracy cuối của GDPO ở bước 60/100 (text-to-SQL) và 200/300 (IFBench).
Giải thích đúng chỗ: ~80% khoảng cách replay của mỗi reward rơi vào 13–29% token; format reward tập trung gấp 2 lần trên thẻ tag, execution reward gấp 2 lần trên cột SELECT.
Ablation chứng minh: xáo trộn vị trí weight làm mất hết lợi thế → gain đến từ việc đặt đúng vị trí; replay chung cho mọi reward kém hơn → cần assignment riêng từng reward.
Chi phí thấp: chỉ replay khi reward biến thiên trong group (12–21% cặp response–reward), mỗi bước train tăng chỉ 10–20% thời gian so với GDPO.

IV. Conclusion & Future Works:

MRTPO cho thấy multi-reward RL cần biết không chỉ response kiếm được những reward nào mà còn token nào kiếm ra reward nào, và thông tin verifier vốn có sẵn (reference, lỗi thực thi, ràng buộc) là đủ để định vị credit — không cần reference reasoning đầy đủ như self-distillation. Hạn chế & hướng tương lai:

Cần thông tin kiểm chứng của reward viết được dưới dạng text — reward như độ dài response không áp dụng được
Mới thử model tới 7B với β cố định 0.5; cần nghiên cứu β thích ứng theo tác vụ (0.25 tốt hơn trên text-to-SQL, 0.5–0.75 tốt hơn trên instruction following)
Chưa xét reward chấm bởi LLM (rubric-based) và model lớn hơn

V. Brainstorming Space:

1. Publish Papers:

Mở rộng MRTPO cho reward không có thông tin kiểm chứng dạng text: kết hợp replay dựa trên verifier với tín hiệu entropy hoặc uncertainty để gán credit cho các tiêu chí mơ hồ như độ dài hay độ mạch lạc.
Tối ưu hệ số phân bổ β một cách thích ứng theo tiến độ huấn luyện và số lượng reward, thay vì cố định một giá trị cho mọi tác vụ.
Áp dụng tư tưởng gán credit theo thông tin verifier cho RLHF với reward model do LLM chấm (rubric items), khám phá cách chuẩn hóa phản hồi LLM-judge thành khối thông tin text có thể replay.

2. Patent:

Hệ thống huấn luyện trợ lý AI trên điện thoại với nhiều tiêu chí chấm điểm: mỗi tiêu chí (đúng định dạng, đúng dữ kiện, đủ ràng buộc) tự động xác định các phần từ/câu trong câu trả lời chịu trách nhiệm về tiêu chí đó bằng cách so sánh dự đoán của mô hình có và không có thông tin kiểm chứng, giúp mô hình sửa đúng lỗi thay vì 'quét' lỗi khắp câu trả lời.
Module fine-tuning dịch vụ khách hàng: khi chatbot bị phạt vì thiếu thẻ trích dẫn nguồn, hệ thống chỉ điều chỉnh trọng số học tại vị trí thẻ đó, giữ nguyên phần nội dung trả lời đã đúng — giảm thời gian huấn luyện trên thiết bị biên và tránh làm hỏng kiến thức tốt.
Công cụ tạo truy vấn SQL tự động trên ứng dụng di động: kiểm chứng bằng cách thực thi query và so với kết quả mong đợi; lỗi sai tên bảng/cột được phạt đúng tại token đó, khiến mô hình học đúng nhanh gấp nhiều lần so với cách phạt đều toàn câu truy vấn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.21439
ArXiv Abstract	https://arxiv.org/abs/2610.21439
PDF Download	https://arxiv.org/pdf/2610.21439.pdf
Github Repository	https://github.com/zhaihaotian/MRTPO

32. OmniVerifier-C1: Decomposed Graded Verifier for Rule-Governed Generative World Modeling (18 votes)

Tác giả: Bowei Liu, Xinchen Zhang, Xuhuan Li, Tianlin Zhang, Kaian Jiang, et al.

Xuất bản lúc: 2026-10-15

Tag: Visual Verifier, Reinforcement Learning, Text-to-Image Generation, World Modeling, Generative Reward Model, Multimodal Reasoning

I. Main Problem:

Các visual verifier hiện tại hầu hết là binary verifier — chỉ trả về True/False khi kiểm tra ảnh có khớp prompt hay không. Hạn chế nghiêm trọng khi dùng làm reward cho RL:

Phản hồi quá thô: mọi ảnh sai đều bị gán cùng một nhãn âm tính, dù mức sai khác nhau → mất tín hiệu phân biệt chất lượng giữa các mẫu, làm suy yếu group-relative RL.
Khuyến khích shortcut learning và reward hacking: model học bề mặt để dự đoán nhãn mong đợi thay vì lập luận về quan hệ tổ hợp giữa object, attribute, ràng buộc không gian.
Bottleneck cho world modeling: khi generative model được dùng để mô phỏng thế giới theo rules (Maze, Sudoku...), binary reward quá yếu để đào tạo agent suy luận đáng tin cậy.

II. Main Idea:

Decomposed Graded Verifier (OmniVerifier-C1) thay phán quyết 0/1 bằng quy trình:

tự động phân rã prompt/rules thành các sub-question mịn (ví dụ: "có cube đỏ?", "cube nằm trên sphere?")
chấm điểm từng sub-question bằng judgment nhị phân
tổng hợp thành điểm liên tục S = số câu đúng / tổng số câu, giữ lại mức "đúng một phần" của mẫu.

Decoupled RL training: từ 1 cặp (prompt, ảnh) tạo 1+K mẫu RL — 1 mẫu tối ưu global score (reward R = 1 - |S_pred - S_true|), K mẫu tối ưu judgment nhị phân từng sub-question (reward 0/1). Phản hồi cục bộ chính xác giúp verifier học năng lực verification mịn → nền tảng cho scoring toàn cục đáng tin. Về lý thuyết, reward liên tục bảo toàn đúng thứ tự chất lượng thật giữa các mẫu (ranking accuracy = 1), trong khi binary reward chỉ đúng khi so cặp hoàn hảo vs phế phẩm.

Với rule-governed world modeling, đưa thêm ground-truth image làm input: chuyển từ pointwise verification (phải tự suy trạng thái mục tiêu → sai số = lỗi suy luận + lỗi chấm điểm) sang pairwise verification (so trực tiếp ảnh sinh ra với ảnh ground-truth → sai số chỉ còn lỗi chấm điểm), cho reward sạch và ổn định hơn.

Ví dụ đời thường: giống giáo viên chấm bài theo từng tiêu chí (nội dung, trình bày, tính đúng) rồi cộng điểm từng phần thay vì chỉ ghi Đạt/Không đạt — kết quả vừa công bằng hơn, vừa cho học sinh biết cần sửa ở đâu.

III. Main Results:

Verifier (ViVerBench): bản SFT+RL graded đạt 0.684 overall, vượt mọi biến thể binary (0.671-0.672), cho thấy supervision mịn chứ không phải pipeline là yếu tố quyết định.
Text-to-Image RL (GenEval): reward graded giúp SD3.5 đạt 0.77 overall và FLUX.1-dev đạt 0.79, cao hơn rõ rệt binary verifier (0.68/0.70) và UnifiedReward (0.73/0.74); đặc biệt cải thiện mạnh ở Position (0.41→0.43) và Attribute Binding (0.63→0.71) trên SD3.5. Training dynamics ổn định và tăng đều hơn so với binary.
World modeling (6 game tasks: Maze, Sudoku, Auxiliary Line, Sequence Prediction, Word Search, 3D Projection): pairwise RL vượt pointwise trên mọi task, ví dụ Maze 85.3 vs 67.8, Sudoku 90.0 vs 77.7; đồng thời generalize tốt sang tập Hard OOD chưa thấy khi train.
RISEBench / UniREditBench: pairwise đạt 15.0 và 65.15 overall, cao hơn pointwise (11.7 / 62.37); SFT đóng vai trò học "cách thực hiện" còn RL bổ sung "trí tuệ suy luận".

IV. Conclusion & Future Works:

Kết luận cốt lõi của paper: bước chuyển từ generative model sang structured world-modeling agent phụ thuộc vào pairwise graded visual verifier chính xác. Ba insight chính:

Graded > Binary làm reward RL: giữ partial correctness, bảo toàn thứ tự chất lượng thật, giảm reward hacking.
Decoupled RL (judgment cục bộ + scoring toàn cục) là cách train verifier này hiệu quả.
Pairwise > Pointwise trong môi trường có ground-truth: loại bỏ lỗi suy luận trạng thái mục tiêu, reward sạch hơn.

Hướng tương lai (paper không nêu trực tiếp, nhưng mở ra từ kết quả): mở rộng verifier sang môi trường world modeling dài hạn hơn, các task không có ground-truth duy nhất, và tích hợp meta-verification để tăng độ tin cậy của điểm liên tục.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng decomposed graded verifier cho video world modeling: phân rã rules thành sub-questions theo trục thời gian để chấm điểm từng bước chuyển trạng thái, thay vì chỉ trạng thái cuối như hiện tại.
Kết hợp pairwise verification với meta-verification: verifier thứ hai kiểm tra lại từng sub-judgment của verifier chính để giảm sai số chấm điểm trong môi trường rules phức tạp.
Nghiên cứu verifier cho rule-governed world modeling không có ground-truth duy nhất (nhiều trạng thái đích hợp lệ): học bộ ground-truth ẩn để pairwise verification vẫn áp dụng được.
Áp dụng graded verifier làm reward cho RL của mô hình chỉnh sửa ảnh đa vòng (multi-turn editing), nơi mỗi turn cần phản hồi mịn về phần chưa đạt thay vì pass/fail.

2. Patent:

Ứng dụng hình ảnh trên điện thoại: hệ thống chấm lỗi ảnh người dùng tạo ra (ảnh từ prompt, ảnh chỉnh sửa theo lệnh) bằng cách tách yêu cầu thành các tiêu chí nhỏ, chấm từng tiêu chí và hiển thị điểm chi tiết kèm gợi ý sửa từng phần thay vì chỉ báo đúng/sai.
Trợ lý học tập giải đố trên điện thoại (mê cung, sudoku, tìm chữ): người dùng chụp lưới đề, app sinh lời giải dưới dạng ảnh, và tự đối chiếu với đáp án đúng để chấm từng ô sai, chỉ ra chính xác vị trí cần sửa.
Công cụ kiểm tra tuân thủ quy tắc thiết kế đồ họa: phần mềm tự tách brief thiết kế thành checklist chi tiết (màu sắc, vị trí logo, font chữ) và chấm điểm liên tục bản thiết kế tự động tạo ra, dùng làm tín hiệu huấn luyện engine sinh ảnh nội bộ.
Hệ phản hồi cho mô hình sinh ảnh tích hợp thiết bị: khi người dùng yêu cầu chỉnh sửa ảnh theo nhiều chi tiết, máy chủ so ảnh kết quả với ảnh tham chiếu mục tiêu để đưa ra điểm từng yêu cầu, từ đó lặp tinh chỉnh cho đến khi đạt.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.22355
ArXiv Abstract	https://arxiv.org/abs/2610.22355
PDF Download	https://arxiv.org/pdf/2610.22355.pdf
Github Repository	N/A

33. SWE-at-Scale: Scalable Issue Synthesis from Historical Bug Fixes (18 votes)

Tác giả: Silin Chen, Zihan Zhang, Xiaodong Gu, Jiale Huang, Yuling Shi, et al.

Xuất bản lúc: 2026-10-15

Tag: Software Engineering, Coding Agents, LLMs, Benchmark Synthesis, Bug Injection, SWE-bench

I. Main Problem:

Đánh giá coding agents cần bài tập SWE thật, đa dạng và chạy được (executable) trên quy mô lớn, nhưng cả hai hướng hiện tại đều bế tắc:

Bài tập thật (SWE-bench Verified) chỉ xuất hiện theo nhịp phát triển tự nhiên của phần mềm — chi phí thu thập, dựng môi trường chạy test rất cao, khó mở rộng.
Bài tập tổng hợp (SWE-smith, SWE-Synth, BugPilot) chỉ dựa vào kiến thức bug có sẵn trong LLM thông dụng + prompting heuristic → sinh lặp lại các pattern bug quen thuộc, không bắt chước được cơ chế hỏng hóc phức tạp của phần mềm thật (Hình 1: phân phối bug lệch mạnh so với bài tập thật).

II. Main Idea:

SWE-at-Scale học cách gây bug bằng cách đảo ngược các bản fix lịch sử thật — insight: một bản fix chứa sẵn kiến thức cơ chế về cách bug hình thành, nên đảo chiều nó biến supervision "sửa lỗi" thành supervision "tạo lỗi" gắn với kịch bản phát triển thực. Pipeline 2 giai đoạn:

Giai đoạn 1 — Học từ fix thật: thu thập 13.407 cặp (code đúng, code lỗi) từ 688 repos, lọc chất lượng + cân bằng phân phối bug type.
Giai đoạn 2 — Sinh bug hai chế độ (fine-tune Qwen3.5-9B):
- SWE-at-Scale: sinh trực tiếp bug-inducing patch (unified diff) từ file golden → git apply.
- SWE-at-Scale+: mô hình sinh trước bug pattern bằng ngôn ngữ tự nhiên (vị trí, hành vi hiện tại, sửa đổi cần làm, hiệu ứng quan sát được), rồi một executor thực hiện pattern đó thành code lỗi.
Lắp ráp & kiểm chứng: chỉ giữ ứng viên làm ít nhất một test đang pass bị fail (Pass-to-Fail), sau đó LLM viết mô tả issue kiểu GitHub.

Ví dụ đời thường: giống như lấy hồ sơ "bác sĩ chữa bệnh" của bệnh viện đọc ngược lại thành "cẩm nang gây bệnh" rồi dạy cho người học — thay vì bảo người học tự nghĩ cách ốm theo trí tưởng tượng, ta cho họ thấy con người thật ốm bằng cơ chế nào, rồi áp cơ chế đó lên cơ thể người khác.

III. Main Results:

Độ thực tế (HPR): người đánh giá chọn bug của SWE-at-Scale / SWE-at-Scale+ "giống phát triển thật" hơn bug SWE-bench Verified trong 55,9% / 61,2% trường hợp; vượt mọi baseline tổng hợp (tốt nhất LLM-Rewrite chỉ 51,8%).
Usability Rate: SWE-at-Scale+ đạt 94,0%, SWE-at-Scale 72,6% (LLM-Rewrite tốt nhất 72,2%, FeatAdd thấp do bug không chắc xuất hiện).
Độ khó (Pass@1 của các agent giải bài): SWE-at-Scale đạt 31,7–48,5%, SWE-at-Scale+ chỉ 16,8–37,0% — thấp hơn mọi baseline và gần mức bài tập do chuyên gia thiết kế (DeepSWE), thách thức cả DS-V4-Flash, GPT-5.4-mini, GLM-5.3-Flash, Qwen3.8-Flash.
Đa dạng bug (MBTE): nhiều repos huấn luyện → đa dạng tăng; nhiệt độ sampling 0,4–0,6 tối ưu; với budget 200 lần sinh/file, MBTE đạt 2,06 bits (LLM-Modify chỉ 1,22) và 88,3% patch vẫn duy nhất — độ đa dạng chưa bão hòa.
Chi phí: patch trung bình ~18,5 dòng (lớn hơn cả SWE-bench Verified ~14,3 dòng), chi phí 17,45k token/instance — thấp hơn LLM-Rewrite (35–63k) và thấp hơn FeatAdd hơn 100 lần (2,29M token).

IV. Conclusion & Future Works:

Đảo ngược fix thật biến nguồn dữ liệu hữu hạn thành supervision tái sử dụng cho việc tổng hợp bài tập SWE thực tế, đa dạng, khó và mở rộng được; phân phối bug đã học có thể khai thác liên tục tại inference time mà không bão hòa sau 200 lần sinh mỗi file.

Hạn chế & hướng tương lai:

Mới chỉ thử nghiệm trên Python — chưa rõ khái quát hóa sang ngôn ngữ khác.
Bug không được test suite bao phủ sẽ bị loại → giới hạn không gian bài tập với repos có test yếu.
Hướng đi: huấn luyện bug-inducing model đa ngôn ngữ, tổng hợp bài tập SWE xuyên ngôn ngữ.

V. Brainstorming Space:

1. Publish Papers:

Huấn luyện mô hình gây bug đa ngôn ngữ: nghiên cứu liệu cơ chế đảo ngược fix có học được qua các ngôn ngữ có cú pháp/semantics khác nhau để tổng hợp bài tập SWE xuyên ngôn ngữ.
Khai thác bug không phủ bởi test suite: kết hợp mô hình gây bug với sinh test suy luận để tạo bài tập cho các repos có test coverage yếu.
Điều khiển độ khó có chủ đích: thêm cơ chế điều chỉnh độ phức tạp của bug pattern để tạo chuỗi bài tập huấn luyện coding agents theo lộ trình từ dễ đến khó.

2. Patent:

Hệ thống tạo đề kiểm tra kỹ sư phần mềm tự động: máy chủ đọc lịch sử commit sửa lỗi của công ty, đảo ngược thành hướng dẫn gây lỗi, rồi tạo hàng trăm bài tập sửa bug khác nhau từ cùng một codebase nội bộ để phỏng vấn hoặc đánh giá nhân viên.
Ứng dụng trên điện thoại luyện lập trình thực hành: nền tảng sinh vô số bug thực tế từ các dự án mã nguồn mở, đi kèm mô tả lỗi kiểu GitHub và bộ kiểm thử chấm điểm tự động, cho người học sửa trên trình duyệt điện thoại.
Công cụ kiểm thử an toàn cho đội phát triển: trước khi release, hệ thống tự gieo các lỗi quen thuộc trong ngành vào bản dựng, chạy bộ test để đo khả năng phát hiện hồi quy của pipeline CI/CD, rồi tự thu hồi code lỗi.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.21359
ArXiv Abstract	https://arxiv.org/abs/2610.21359
PDF Download	https://arxiv.org/pdf/2610.21359.pdf
Github Repository	https://github.com/cslsolow/SWE-at-scale

34. Do Better Visual Representations Always Lead to Better End-to-End Autonomous Driving? (17 votes)

Tác giả: Zihao Zhang, Haochen Tian, Tianyu Li, Changhui Jing, Jingliang He, et al.

Xuất bản lúc: 2026-10-07

Tag: Autonomous Driving, Visual Foundation Models, Representation Alignment, End-to-End Planning, Diffusion Planner, BEV Perception, Knowledge Distillation, Closed-Loop Evaluation

I. Main Problem:

Các mô hình thị giác nền tảng ngày càng được tích hợp vào hệ thống lái xe tự hành đầu-cuối, nhưng chưa rõ khi nào biểu diễn trực quan mạnh hơn thực sự giúp kế hoạch lái tốt hơn.

Phần lớn nghiên cứu chỉ xét một cặp bộ lập kế hoạch – mô hình thị giác cụ thể, thiếu so sánh hệ thống.
Chưa biết lợi ích có phụ thuộc vào kiến trúc planner, mô hình thị giác được chọn làm mục tiêu, và giám sát cảm nhận phụ trợ hay không.
Một câu hỏi thực tiễn là liệu cải thiện biểu diễn có bắt buộc phải thay encoder lớn hơn và tăng chi phí suy luận không.

II. Main Idea:

ViRA là khung huấn luyện căn chỉnh biểu diễn trực quan, giữ nguyên kiến trúc planner và chi phí suy luận khi triển khai. Cùng một ảnh đầu vào được đưa qua planner và một mô hình thị giác nền tảng đã đóng băng; planner học gần giống biểu diễn của mô hình này thông qua hai mục tiêu:

Spatial Dependency Alignment: khớp phân bố attention không gian để planner học cách mô hình thị giác liên hệ các vùng trong ảnh.
Scene Semantic Alignment: căn chỉnh embedding toàn cảnh bằng mục tiêu tương phản hai chiều để giữ ngữ nghĩa cảnh giống mô hình thị giác.
Mô hình thị giác và các đầu căn chỉnh chỉ dùng khi huấn luyện; khi chạy thật, hệ thống vẫn là planner gốc nên không tăng thời gian suy luận hay số tham số triển khai.

Cơ chế giống như học lái có huấn luyện viên ngồi cạnh chỉ cách quan sát đường trong buổi tập, nhưng khi thi chỉ còn người học tự lái.

III. Main Results:

ViRA cải thiện lái trên nhiều planner: trên NA VSIM v2 navtest, TransFuser tăng 5.4 EPDMS, DiffusionDrive tăng 7.4, Rap* tăng 10.9.
Hiệu quả giữ lại trong tình huống khó: trên navhard, Rap* tăng từ 32.8 lên 49.2 EPDMS, tương đương +16.4 điểm.
Khái quát sang môi trường mới: khi đánh giá zero-shot trên HUGSIM, HD-Score tăng trung bình 4.0 điểm; DiffusionDrive tăng mạnh nhất +6.4.
Kiến thức tiền huấn luyện là cần thiết: thay mô hình thị giác bằng trọng số khởi tạo ngẫu nhiên làm EPDMS giảm khoảng 1.6–1.7 điểm, cho thấy lợi ích không chỉ đến từ ràng buộc alignment.
Lựa chọn mô hình mục tiêu quan trọng: cùng Rap*, các mục tiêu khác nhau tạo khoảng cách tới 5.5 EPDMS; DINOv3 cho lợi ích lớn nhất. Ngay cả khi Rap* đã dùng backbone DINOv3, căn chỉnh thêm tới VGGT vẫn tăng +2.5 EPDMS.
Giám sát cảm nhận phụ trợ làm giảm độ nhạy với mục tiêu: khi bỏ giám sát này ở TransFuser, độ phân tán giữa năm mục tiêu tăng từ 0.5 lên 2.7 EPDMS.
Không tốn thêm chi phí suy luận: căn chỉnh với DVGT đưa Rap* từ 72.8 lên 83.7 EPDMS trong khi giữ 20 ms và 69M tham số; thay trực tiếp bằng DINOv3-L đạt 83.8 EPDMS nhưng cần 65 ms và 351M tham số.
ViRA-Diffusion, dùng DINOv3 làm mục tiêu và bỏ giám sát cảm nhận phụ trợ, đạt 92.3 EPDMS trên NA VSIM v2 navtest, cao hơn các phương pháp so sánh gần đây ít nhất 1.9 điểm.

IV. Conclusion & Future Works:

Kết quả cho thấy biểu diễn trực quan tốt hơn thường giúp planner đầu-cuối lái tốt hơn, nhưng mức lợi ích phụ thuộc vào cả mô hình thị giác được chọn làm mục tiêu và cách huấn luyện planner. Việc thiết kế hệ thống nên cân nhắc đồng thời hai yếu tố này: nếu bỏ giám sát cảm nhận phụ trợ, cần chọn mục tiêu căn chỉnh phù hợp hơn; nếu có giám sát phụ trợ, hệ thống ít nhạy với lựa chọn mục tiêu hơn. Hướng tương lai là kiểm tra các kết luận trên nhiều kiến trúc planner hơn và mở rộng sang các bài toán trí tuệ vật lý khác có ra quyết định.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu cách chọn mô hình thị giác nền tảng theo tính bổ sung: kết hợp một mô hình mạnh về ngữ nghĩa ảnh với một mô hình mạnh về hình học ba chiều để tạo biểu diễn lái xe cân bằng hơn.
Phát triển phương pháp tự động chọn hoặc trộn nhiều mục tiêu căn chỉnh cho từng planner, thay vì thử từng cặp planner–mô hình thị giác riêng lẻ.
Kiểm tra liệu căn chỉnh biểu diễn chỉ trong giai đoạn huấn luyện có giúp các mô hình quyết định khác như điều khiển robot, điều phối drone hay tác tử vật lý đầu-cuối không.
Đánh giá tính ổn định của căn chỉnh biểu diễn dưới dữ liệu thời tiết xấu, vùng đô thị lạ và sự thay đổi cảm biến giữa xe khác nhau.

2. Patent:

Hệ thống huấn luyện xe tự hành không tăng chi phí xe chạy thật: một mô hình thị giác lớn được dùng như giáo viên trong quá trình huấn luyện bộ não lái, sau đó bị gỡ bỏ để xe vẫn dùng phần cứng nhỏ và phản hồi nhanh như trước.
Ứng dụng điện thoại phân tích video lái xe: người dùng đặt điện thoại trên xe để quay đường, ứng dụng học cách nhận diện làn đường, vạch kẻ và phương tiện xung quanh rồi đưa cảnh báo hoặc gợi ý lái xe an toàn mà không cần gửi toàn bộ video lên máy chủ.
Module nâng cấp bộ não lái xe bằng mô hình thị giác bổ sung: khi xe đã có hệ thống nhận diện cảnh, thêm một thành phần huấn luyện chuyên về chiều sâu và khoảng cách để cải thiện giữ làn và tránh va chạm mà không cần thay camera hay máy tính trên xe.
Bộ chọn giáo viên thị giác cho từng xe: phần mềm tự đề xuất mô hình thị giác phù hợp nhất dựa trên kiểu planner, loại camera và yêu cầu an toàn, ví dụ ưu tiên mô hình ngữ nghĩa khi đi trong đô thị và mô hình hình học khi cần ước lượng khoảng cách chính xác.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.09695
ArXiv Abstract	https://arxiv.org/abs/2610.09695
PDF Download	https://arxiv.org/pdf/2610.09695.pdf
Github Repository	https://github.com/OpenDriveLab/ViRA

35. SimVTA: Simulation-Grounded Video-Trajectory Alignment for Driving World Action Models (17 votes)

Tác giả: Changhui Jing, Haochen Tian, Hongchen Li, Tianyu Li, Caojun Wang, et al.

Xuất bản lúc: 2026-10-09

Tag: Autonomous Driving, World Action Models, Reinforcement Learning, GRPO, Video Prediction, 3D Gaussian Splatting, Flow Matching, Policy Post-Training

I. Main Problem:

Các mô hình Driving World Action Model (WAM) học từ cặp dữ liệu quỹ đạo (trajectory) + video tương lai được ghi log. Khi post-training bằng reinforcement learning, chính sách được phép khám phá các quỹ đạo thay thế tốt hơn, nhưng:

Log lái xe chỉ chứa video tương lai cho quỹ đạo đã ghi — nếu candidate rẽ trái mà log đi thẳng, không có video nào cho hậu quả trực quan của hành động rẽ
Tái sử dụng video log cho quỹ đạo mới tạo cặp trajectory-video sai, còn bỏ video training thì candidate thiếu supervision trực quan
Đây là supervision gap: video dự đoán của chính mô hình không có tham chiếu ngoài để kiểm tra có khớp với quỹ đạo hay không.

II. Main Idea:

SimVTA — khung post-training kết hợp tối ưu quỹ đạo (trajectory GRPO) với giám sát video từ mô phỏng thật. Quy trình:

Lấy mẫu: policy hiện tại sinh G candidate trajectories; executor của NA VSIM chuyển thành đường đi thực thi + tính driving reward
Render có chọn lọc: dùng simulator World Engine (dựng cảnh 3D bằng 3D Gaussian Splatting) render video tương lai dọc theo các candidate reward cao trong ngân sách render K; video render này là mục tiêu độc lập với dự đoán của mô hình
Chọn mục tiêu thông minh: trong các candidate reward cao đã render, chỉ giám sát video cho nhóm lỗi dự đoán cao (Q2: high reward + high error) — tập trung vào những hậu quả trực quan mô hình dự đoán kém nhất
Huấn luyện chung: loss GRPO cho quỹ đạo + flow-matching loss trên video đã chọn cập nhật shared representation (cùng encoder với planner), cộng regularizer behavior cloning từ teacher planner đông băng
Render online theo từng vòng sampling (không dùng cache cố định) để video luôn khớp policy hiện tại; khi inference chỉ dự đoán quỹ đạo trực tiếp, không cần simulator

Ví dụ đời thường: giống thực tập sinh lái xe được phép thử các cách đi khác, và có một 'máy quay chiếu lại' tái dựng hiện trường theo đúng từng đường đi đó — thay vì xem video của người đi trước rồi tưởng tượng mơ hồ hậu quả của cú rẽ mình chọn.

III. Main Results:

NA VSIM v1: PDMS tăng từ 86.2 lên 91.3 (+5.1) so với khởi tạo Epona; ego progress +6.4, TTC compliance 93.9→97.0
NA VSIM v2: 88.2 EPDMS, vượt các baseline world-model và VLM-based
HUGSIM (closed-loop): HD-Score trung bình 38.8, RC 51.5 — cao nhất nhóm so sánh, dẫn đầu cả ở tình huống hard
Chất lượng video: FID giảm 20.4→13.1, FVD 105.4→46.3 so với chỉ dùng trajectory GRPO; video dự đoán đồng nhất hơn với cảnh thật (hết bóng xe 'ma')
Ablation nổi bật:
- Video loss phải cập nhật shared encoder mới giúp planning (+2.2 PDMS); chỉ cập nhật VideoDiT thì vô dụng
- Giám sát nhóm Q2 (reward cao + lỗi cao) đạt 91.3, tốt hơn mọi cách chọn khác
- Xáo trộn cặp trajectory-video làm sụt còn 83.1 — chứng tỏ đúng tính tương ứng là cốt lõi
- Render online (+2.2) tốt hơn cache offline cố định; gấp đôi ngân sách render không cải thiện (91.2 vs 91.3)

IV. Conclusion & Future Works:

SimVTA cho thấy video supervision từ simulator grounded thật (không phải dự đoán của chính mô hình) khắc phục được khoảng trống supervision khi RL khám phá quỹ đạo mới, và cập nhật shared representation qua cả hai loss là chìa khóa chuyển kiến thức trực quan sang planning. Việc ưu tiên futures có lỗi cao trong nhóm reward cao là cách dùng ngân sách render hiệu quả nhất. Hạn chế và hướng tương lai được thảo luận ở Appendix G (ngoài phạm vi phần trích).

V. Brainstorming Space:

1. Publish Papers:

Khảo sát hệ thống các phương pháp cung cấp visual supervision cho policy trajectories không có trong log, từ render 3DGS, learned simulator đến world model, với tiêu chí đánh giá tính độc lập và độ chính xác của mục tiêu giám sát.
Mở rộng chiến lược chọn mục tiêu video theo reward + prediction error sang các bài toán RL khác có mô phỏng renderer, ví dụ robot thao tác với NeRF/3DGS scene reconstruction.
Kết hợp SimVTA với simulator phản ứng (có tác nhân khác thay đổi hành vi theo ego) để video supervision phản ánh cả tương tác giao thông, không chỉ cảnh tĩnh dọc đường đi.

2. Patent:

Hệ thống huấn luyện lại bộ não lái xe trên điện thoại di động/dải mây: mỗi khi xe thử một phương án đường đi mới trong mô phỏng, máy chủ dựng lại hiện trường 3D từ dữ liệu thật và chiếu video tương lai đúng theo phương án đó, chỉ gửi về những đoạn xe dự đoán sai nhiều nhất để cập nhật mô hình.
Ứng dụng mô phỏng hậu quả cho người lái: người dùng chọn một hướng đi trên màn hình điện thoại, ứng dụng tái dựng cảnh đường thật bằng mô hình 3D và phát video minh họa điều gì xảy ra nếu đi theo hướng đó.
Hệ thống kiểm thử chính sách lái tự động: tự sinh hàng nghìn quỹ đạo thay thế cho một đoạn đường đã quay, render video kèm theo từng quỹ đạo, và tự động phát hiện các tình huống mà mô hình lái dự đoán hậu quả sai lệch nghiêm trọng trước khi triển khai.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.13781
ArXiv Abstract	https://arxiv.org/abs/2610.13781
PDF Download	https://arxiv.org/pdf/2610.13781.pdf
Github Repository	https://github.com/OpenDriveLab/SimVTA

Tác giả: Kunlun Zhu, Tao Feng, Xu Han, Heng Wang, Ling Yang, et al.

Xuất bản lúc: 2026-10-15

Tag: LLM Agents, Decision Models, Agent Benchmarks, Confidence Calibration, Model Cascading, Cost Optimization, Reinforcement Learning

I. Main Problem:

Các tác tử LLM hiện nại chậm và đắt vì harness gọi một LLM lớn ở mọi bước, trong khi phần lớn các bước chỉ là quyết định trắc nghiệm như chọn tool, chọn tham số, dừng hay hỏi lại người dùng. Các mô hình quyết định như JEV có thể trả lời loại câu hỏi này rẻ và nhanh hơn nhiều, nhưng:

chúng được kiểm thử chủ yếu trên câu hỏi tách rời, không phản ánh hành vi bên trong một tác tử đang chạy;
sai lầm ở một bước có thể kéo theo các trạng thái lỗi ở bước sau;
nếu giao quyền kiểm soát mà không có ngưỡng tin cậy phù hợp, tỉ lệ hoàn thành tác vụ có thể sụt mạnh.

II. Main Idea:

Bài báo kiểm chứng giả thuyết: mô hình quyết định chỉ hữu ích khi được kiểm thử, sử dụng và huấn luyện bên trong chính tác tử. Ba thành phần chính:

Agent Decision Bench: đánh giá mô hình quyết định ở ba mức — câu hỏi đơn lẻ, từng bước của các lượt chạy đã ghi, và khi thực sự điều khiển tác tử. Decision Gym cung cấp môi trường quầy dịch vụ khách hàng có đáp án chấp nhận được ở mọi trạng thái, kể cả sau lỗi của tác tử.
JevAgentHarness: biến mỗi lựa chọn lặp lại thành câu hỏi trắc nghiệm có kiểu dữ liệu rõ ràng; mô hình quyết định trả lời trước, và harness chỉ dùng câu trả lời khi độ tin cậy vượt ngưỡng được fit trên hành trình của chính tác tử. Nếu không chắc, LLM quyết định như cũ.
AgentDecision-4B: mô hình mở 4B được huấn luyện trên các trạng thái mà tác tử thực sự đi qua, gồm cả trạng thái sau sai lầm; dùng JEV làm nhãn rồi tinh chỉnh có giám sát, sau đó tối ưu thêm bằng RL trong vòng lặp tác tử để học từ hậu quả của lựa chọn mình.

Cơ chế cốt lõi là phân quyền có chọn lọc theo độ chắc chắn: mô hình nhỏ xử lý các quyết định thông thường khi nó gần như chắc chắn, còn LLM lớn chỉ xử lý phần mơ hồ hoặc rủi ro. Giống như nhân viên mới được giao trả lời các câu hỏi lặp lại theo mẫu, nhưng cứ gặp tình huống lạ, số tiền lớn hoặc thao tác khó hoàn tác thì phải đưa lên cho quản lý quyết; sau một thời gian làm việc thật, người đó học được cả những tình huống văn phòng hay gặp mà sách hướng dẫn không có.

III. Main Results:

Điểm câu hỏi đơn lẻ xếp hạng sai mô hình cho tác tử: StartLux-9B đạt 92.2% trên BFCL tool choice nhưng chỉ giải 69.5% tác vụ tác tử; AgentDecision-4B thấp hơn ở dạng câu hỏi đơn lẻ, 89.3%, nhưng giải 91.5% tác vụ, trong khi JEV đạt 82.0%.
Ngưỡng tin cậy fit theo hành trình bảo vệ độ thành công: cascade cho tool và argument tiết kiệm 14.2% chi phí mà không mất tác vụ nào; ngưỡng cố định làm sụt 21.5 điểm; để JEV quyết mọi tool choice sụt 19.0 điểm.
Triển khai thật nhanh và rẻ hơn rõ rệt: với AgentDecision-4B trên GPU riêng, tác tử Decision Gym giảm 86.3% chi phí và nhanh 2.5 lần; trên ALFWorld, mô hình 4B huấn luyện theo trạng thái của môi trường đó giúp giảm 89.0% chi phí, khoảng gấp đôi tốc độ, và thậm chí tăng độ thành công. Các tác tử coding tiết kiệm ít hơn, khoảng 7.0–10.5%.
Huấn luyện trên trạng thái của tác tử là chìa khóa: SFT nâng step-level accuracy trên trạng thái shifted từ 52.9% lên 98.4%; tỉ lệ hoàn thành tác vụ shifted tăng từ 13.5% lên 96.0%. GRPO không thêm lợi ích đo được sau SFT trong thí nghiệm này.
Ba kiểu thất bại lặp lại: chọn sai tự tin ở bước không thể hoàn tác; gặp luật mới ngoài dữ liệu huấn luyện; các chế độ vẫn phải gọi LLM như guard tiết kiệm rất ít.

IV. Conclusion & Future Works:

Kết quả ủng hộ giả thuyết rằng mô hình quyết định phải được chọn bằng kiểm thử trong tác tử, kích hoạt theo ngưỡng tin cậy, và huấn luyện trên trạng thái tác tử tự sinh ra. Tác giả dự định phát hành benchmark, harness, dữ liệu và mô hình. Hướng tương lai và lưu ý triển khai: cần fit lại ngưỡng khi đổi agent LLM, bộ tool hoặc họ tác vụ; huấn luyện lại trên trạng thái của tác tử mới nếu muốn độ chính xác cao nhất; kiểm thử thêm ngoài tiếng Anh, ngoài Gemini, tác vụ đối kháng/policy injection, và bổ sung equivalence test thay vì chỉ non-inferiority.

V. Brainstorming Space:

1. Publish Papers:

Một benchmark đa mức cho mô hình quyết định trong tác tử LLM: từ câu hỏi đơn lẻ, chấm từng bước trên lượt chạy đã ghi, tới điều khiển tác tử sống, nhằm phát hiện mô hình giỏi trắc nghiệm nhưng yếu khi lỗi lan truyền.
Phương pháp huấn luyện mô hình quyết định nhỏ trên các trạng thái mà tác tử tự đi qua, bao gồm trạng thái sau sai lầm, để cải thiện khả năng xử lý tác vụ lệch khỏi dữ liệu huấn luyện.
Khung chọn điểm phân quyền và fit ngưỡng tin cậy theo từng loại quyết định trong vòng lặp tác tử, có kiểm định thống kê và adapter cho các harness coding, terminal và customer service.

2. Patent:

Trợ lý AI trên điện thoại tiết kiệm pin và chi phí: một mô hình quyết định nhỏ chạy cục bộ chọn các thao tác lặp lại như mở app, trả lời mẫu, chọn mục menu; khi không chắc chắn, thiết bị chuyển câu hỏi lên mô hình ngôn ngữ lớn trên đám mây. Ngưỡng tự động điều chỉnh theo lịch sử dùng của người dùng và mức rủi ro của thao tác.
Cơ chế chặn hành động không thể hoàn tác trên điện thoại: trước khi trả tiền, xóa dữ liệu, gửi tin nhắn hoặc đổi cài đặt bảo mật, mô hình quyết định cục bộ đánh giá độ chắc chắn và mức nghiêm trọng; nếu dưới ngưỡng hoặc hành động thuộc nhóm cần xác nhận, hệ thống bắt buộc hỏi lại người dùng hoặc chuyển lên dịch vụ lớn, không để mô hình nhỏ tự quyết định một mình.
Ứng dụng chăm sóc khách hàng cho cửa hàng nhỏ trên điện thoại: khi khách nhắn tin yêu cầu tra đơn, đổi địa chỉ hoặc hủy đơn, mô hình quyết định nhỏ chọn bước tiếp theo từ danh sách thao tác có sẵn; với tình huống lạ, vi phạm chính sách hoặc thao tác đổi dữ liệu quan trọng, hệ thống tự động hỏi khách hoặc đưa lên cho nhân viên/mô hình lớn xử lý.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.21412
ArXiv Abstract	https://arxiv.org/abs/2610.21412
PDF Download	https://arxiv.org/pdf/2610.21412.pdf
Github Repository	https://github.com/JevAgentHarness/JevAgentHarness

37. Velox: Spatial Memory Makes World Models Efficient (16 votes)

Tác giả: Qiuhong Shen, Shizun Wang, Xinchao Wang

Xuất bản lúc: 2026-10-15

Tag: Video World Models, Diffusion Transformers, Sparse Attention, KV Cache, Spatial Memory, Context Routing, Efficient Inference

I. Main Problem:

Các video world model sinh video dài theo từng chunk, mỗi chunk mới phải attend toàn bộ lịch sử qua KV cache ngày càng lớn. Hậu quả:

Chi phí attention tăng dần theo số chunk đã sinh, đúng lúc cần consistency dài hạn nhất thì càng chậm (chunk 48: ~34.2 ms/lần attention).
Các phương pháp chọn lại theo mức frame/view là quá thô: mọi vùng trong chunk hiện tại nhận cùng một bộ lịch sử, dù vùng đường, vùng mặt tiền và vùng trời mới lộ trong cùng một chunk cần các phần quá khứ khác nhau.
Các cách inject geometry warped rendering thường đòi hỏi chỉnh kiến trúc hoặc fine-tune, không tái sử dụng trực tiếp generator đã pretrained.

II. Main Idea:

Velox là bộ định tuyến attention training-free: thay vì cho mọi vùng hiện tại nhìn toàn bộ quá khứ, nó dùng hình học không gian để chỉ định mỗi vùng (token block) xem những block lịch sử nào.

Quy trình:

Tóm tắt lịch sử thành các frustum slab — hình chóp camera kèm khoảng depth (percentile) cho từng KV block.
Ước lượng depth của vùng query hiện tại bằng recency-priority multiwarp (warp depth từ các frame gần nhất sang camera đích).
Tính độ chồng lấn OBB (oriented bounding box) giữa frustum của query và từng block lịch sử trong không gian thế giới.
Soft fusion: với vùng được geometry bao phủ tốt (coverage ≥ 0.9), điểm chồng lấn chỉ điều chỉnh nhẹ phân phối importance do chính model tự suy ra ở từng layer (không ghi đè); vùng không đủ tin cậy giữ nguyên route do model tự chọn.
Luôn giữ chunk ngay trước và hàng xóm Gilbert để bảo toàn chuyển động cục bộ; mọi thứ chạy ở granularity block cố định, khớp với tiled execution của FlashAttention, và xây frustum slab bất đồng bộ song song với denoising trên cùng một H200.

Ví dụ đời thường: giống người quay lại một tòa nhà đã đi qua — thay vì lật lại toàn bộ album ảnh cũ, họ chỉ rút đúng vài tấm chụp đúng góc nhìn hiện tại; phần cảnh mới chưa từng thấy thì phải dựa vào suy đoán và trí nhớ gần, không phải ảnh cũ.

III. Main Results:

Tốc độ: tại chunk 48, attention nhanh hơn 4.36× (34.2 ms → 7.8 ms/lần gọi), thời gian denoising mỗi chunk nhanh hơn 2.43× (7.19 s → 2.96 s) trên một H200 duy nhất; độ lệch càng lớn khi rollout càng dài vì chi phí của Velox gần như phẳng.
Chất lượng: trên toàn bộ 158 case của WBench navigation split, Velox chỉ thua dense attention 0.15 điểm ở API-free average và còn nhỉnh hơn ở overall 19-metric average (75.60 so với 75.52).
Soft fusion có giá trị thật: so với block-sparse thuần dùng model importance, thêm geometry nâng spatial consistency từ 71.8 → 74.3 và overall từ 75.01 → 75.60.
Kiểm chứng agreement: geometric recall đạt ~0.73 (layer 14), vượt xa ngưỡng ngẫu nhiên 0.35 — chứng tỏ frustum overlap thật sự trùng với context mà model tự ưa thích; λ=2, gref=0.2 nâng recall của top-80 từ 0.602 lên 0.852.
Qualitative: dense attention bị drift dần (phòng ngủ biến thành nội thất khác, màu đồ chơi phai, đường tre thành vũng nước), trong khi Velox giữ nguyên chi tiết khung cảnh đến hết rollout.

IV. Conclusion & Future Works:

Velox chứng minh tương ứng không gian ở cấp vùng có thể biến bộ nhớ thế giới dài hạn thành tín hiệu định tuyến thực dụng: giải quyết nút thắt attention ở các chunk cuối mà khong cần training, không đổi kiến trúc generator, và chất lượng gần như không suy giảm so với dense attention. Hướng mở: tinh chỉnh thêm tuyến geometry (chất lượng reconstruction, độ trễ bất đồng bộ), mở rộng sang cảnh động nhiều vật thể hơn, và kết hợp routing không gian với các kỹ thuật nén/evict KV bổ sung.

V. Brainstorming Space:

1. Publish Papers:

Kết hợp soft frustum routing với cơ chế nén/evict KV cache để giảm cả bộ nhớ lẫn chi phí compute của video world model dài hạn trên thiết bị biên.
Routing không gian thích ứng cho cảnh động: mở rộng frustum slab tĩnh sang vật thể di chuyển bằng cách gắn primitive geometry theo đối tượng thay vì theo block tĩnh.
Ước lượng độ tin cậy của depth đa nguồn cho multiwarp: tự hiệu chỉnh khi reconstruction bị lỗi (ảo ảnh, vùng phản chiếu) thay vì chỉ dùng ngưỡng coverage cố định.
Rút gọn độ trễ pipeline bằng cách dự đoán frustum slab của chunk tương lai từ quỹ đạo camera đã biết, khử hoàn toàn lag hai chunk hiện tại.

2. Patent:

Hệ thống quay video dài trên điện thoại bằng camera ảo: ứng dụng sinh video khám phá cảnh 3D theo cử chỉ người dùng; điện thoại chỉ giữ bộ nhớ hình học gọn (vùng nhìn + khoảng sâu) của các khung hình cũ, mỗi khung mới chỉ truy xuất đúng phần quá khứ trùng tầm nhìn, giúp video dài mượt mà mà không nóng máy.
Trợ lý chỉnh sửa video có bộ nhớ không gian: người dùng quay một căn phòng rồi yêu cầu 'quay lại góc bàn' — hệ thống dùng hồ sơ vùng nhìn + độ sâu của từng đoạn đã quay để tái tạo đúng góc đó nhất quán màu sắc, vật dụng, thay vì sinh lại cảnh mới lệch màu lệch đồ.
Tính năng bộ nhớ cảnh cho camera hành trình xe hơi / camera an ninh: camera lưu lại tóm tắt hình chóp không gian-độ sâu của khung hình cũ; khi xe quay lại đoạn đường đã đi hoặc camera xoay về hướng cũ, hệ thống chỉ đối chiếu các vùng tầm nhìn chồng lấp, giảm dung lượng lưu trữ và độ trễ xử lý khi phát lại hoặc tái tạo cảnh dài.
Bộ lọc sinh video thời gian thực cho kính thực tế ảo: thay vì nạp toàn bộ lịch sử khung hình vào mô hình khuếch tán, thiết bị chỉ định tuyến attention theo vùng không gian thật, cho phép mô hình nhỏ chạy cục bộ tạo khung hình mới nhanh gấp nhiều lần mà cảnh vẫn liền mạch.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.22311
ArXiv Abstract	https://arxiv.org/abs/2610.22311
PDF Download	https://arxiv.org/pdf/2610.22311.pdf
Github Repository	N/A

38. Trajectory-Level Speculation with Semantic Verification for Tool-Using Agents (12 votes)

Tác giả: Zilin Wang, Yinhong Liu, Chao Chen, Qun Liu, Zhijiang Guo

Xuất bản lúc: 2026-10-15

Tag: LLM Agents, Speculative Decoding, Weak-Strong Collaboration, Tool-Using Agents, Verification, Edge-Cloud Deployment

I. Main Problem:

Các agent LLM hiện nay dùng một mô hình lớn (Strong) để sinh ra từng bước trong các chuỗi tool call dài (20–100 lượt), trong khi nhiều bước thực ra là thao tác đơn giản. Hậu quả:

Chi phí phục vụ tăng tuyến tính theo độ dài trajectory, bị chi phối bởi việc decode từng token của Strong model.
Các phương pháp hiện có vẫn giữ Strong model làm người viết: router chọn model theo truy vấn, agent cộng tác chuyển quyền điều khiển theo bước, speculative agents chỉ che giấu độ trễ bằng cách so khớp từng bước với kết quả Strong model tự sinh.
So khớp chính xác quá hà khắc: nhiều cách dẫn đến kết quả đúng bị loại bỏ, và kiểm tra từng bước một không áp dụng được cho các tác vụ agent thay đổi môi trường.

II. Main Idea:

SpecAgent đảo vai trò: mô hình nhỏ (Weak) làm người soạn thảo, mô hình lớn (Strong) làm người kiểm duyệt thay vì người viết. Quy trình:

Draft: Weak model chạy trước, thực thi các tool call chỉ đọc (search, tra cứu) để mọi bước đều dựa trên quan sát thật, và giữ lại (hold) hành động ghi/thay đổi trạng thái đầu tiên không cho chạy.
Verify: Strong model đọc toàn bộ đoạn draft trong một lần prefill song song (không decode từng token), rồi chấm verdict ngắn: chấp nhận prefix dài nhất hợp lệ về mặt ngữ nghĩa (không cần giống cách Strong tự làm), giải thích bước bị từ chối đầu tiên.
Repair: verdict thường kèm hành động thay thế sẵn nên không tốn thêm lượt sinh; chỉ khi sửa phức tạp mới Strong model sinh một bước điều chỉnh. Weak model sau đó tiếp tục draft.

Lý do tiết kiệm: decode bị giới hạn bởi băng thông bộ nhớ (mỗi token đọc lại toàn bộ trọng số), còn prefill xử lý nhiều token với một lần đọc trọng số — nên đọc-kiểm thay sinh-từng-bước giảm mạnh lưu lượng bộ nhớ và thời gian, dù FLOPs tăng.

Ví dụ đời thường: giống nhân viên mới soạn sẵn một xấp đơn từ, tra cứu thông tin thật đầy đủ, nhưng dừng lại ở chỗ cần ký duyệt; sếp chỉ đọc một lần, duyệt phần đúng, sửa chỗ sai rồi trả lại, thay vì tự viết từng lá đơn.

III. Main Results:

Chất lượng (Q1): trên τ2-Bench, đạt ngang Strong-only ở Airline (86.0 vs 86.0) và thua 0.9 điểm ở Retail (87.7 vs 88.6, thu hồi 89% khoảng cách Weak–Strong); thu hồi 44% trên AutomationBench (10.5 so với 6.8/15.2) và 75% trên VitaBench (44.5 so với 34.0/48.0).
Tài nguyên (Q2): lưu lượng bộ nhớ HBM giảm còn 43–57%, wall time còn 41–54% so với Strong-only trên τ2; số lần gọi Strong model giảm từ ~13–22 xuống 3–12 lần/trajectory vì phần lớn decode được thay bằng prefill. FLOPs tăng 30–87% — phù hợp môi trường bị giới hạn băng thông bộ nhớ, không phải tính toán.
So với baseline (Q3): SpecAgent chất lượng ngang/vượt AgentCollab với HBM thấp hơn 1.6–1.9 lần và nhanh hơn 2.6–3.1 lần; Speculative Actions tệ hơn cả Weak-only về chất lượng và tốn tài nguyên hơn Strong-only. SpecAgent là phương pháp duy nhất HBM và wall time đều thấp hơn Strong-only trên mọi benchmark.
Edge–cloud (MCP-Atlas): với 3 Strong model đám mây khác nhau, thu hồi 53–75% khoảng cách chất lượng trong khi Strong model chỉ sinh 36–50% số token, chi phí API giảm còn 59–81%. Mỗi token Strong 'mua' được nhiều chất lượng hơn khi dùng để review thay vì tự viết.
Phân tích chi phí khớp mô hình lý thuyết trong sai số ~0.01; tiết kiệm suy giảm khi tỷ lệ chấp nhận draft giảm (AutomationBench).

IV. Conclusion & Future Works:

Bài học chính: mô hình mạnh không cần viết từng bước — việc kiểm duyệt các bước draft có căn cứ (grounded) vẫn giữ được phần lớn chất lượng đồng thời cắt độ trễ và lưu lượng bộ nhớ, nhờ điểm bất đối xứng 'kiểm dễ hơn sinh' kết hợp với prefill song song. Điểm rơi hiệu quả phụ thuộc vào độ thành thạo của Weak model trên tác vụ: draft càng được chấp nhận, lợi ích càng lớn; khi Weak quá yếu, chi phí repair làm lợi ích co lại. Hướng mở gồm: cải thiện tỷ lệ chấp nhận draft, giảm chi phí prompt verify/repair (hiện không chia sẻ prefix), và mở rộng giao thức cho các môi trường nhiều tác vụ phức tạp hơn.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu chiến lược phân đoạn (chunking) thích ứng: tự điều chỉnh kích thước đoạn draft và điểm dừng để verify theo độ khó từng tác vụ, thay vì cố định chunk size.
Kết hợp SpecAgent với speculative decoding cấp token bên trong từng mô hình, để tăng tốc cả Weak drafting lẫn Strong verification/repair.
Mở rộng verification ngữ nghĩa nhiều bước cho agent đa phương thức (thị giác, giọng nói) và cho các hệ thống nhiều agent cộng tác.
Nghiên cứu huấn luyện/hiệu chỉnh Weak model chuyên biệt cho drafting, tối ưu hóa tỷ lệ chấp nhận của Strong verifier thay vì chất lượng độc lập.

2. Patent:

Trợ lý ảo trên điện thoại dùng mô hình nhỏ chạy cục bộ: mô hình nhỏ tra cứu dữ liệu (lịch, danh bạ, đơn hàng) và soạn sẵn chuỗi thao tác, giữ lại thao tác thanh toán/thay đổi dữ liệu; mô hình đám mây chỉ duyệt một lần và xác nhận, giảm chi phí API và độ trễ mà giữ độ an toàn.
Hệ thống chăm sóc khách hàng tự động hai tầng: chatbot nhỏ xử lý tra cứu đơn hàng, chính sách đổi trả liên tục; mọi thao tác hoàn tiền/huỷ đơn được soạn sẵn rồi gửi lên máy chủ mô hình lớn xác thực ngữ nghĩa trước khi thực thi, tránh hành động sai không thể hoàn tác.
Trình tự động hóa công việc văn phòng tiết kiệm băng thông: mô hình nhỏ cài tại máy tính doanh nghiệp đọc email, tra bảng biểu và soạn thảo các bước xử lý; chỉ gửi lên đám mây phần cần quyết định, giảm lưu lượng dữ liệu ra ngoài và chi phí thuê mô hình lớn theo token.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.21463
ArXiv Abstract	https://arxiv.org/abs/2610.21463
PDF Download	https://arxiv.org/pdf/2610.21463.pdf
Github Repository	https://github.com/LARK-AI-Lab/SpecAgent

39. MFVSR: A Multi-Style and Fine-Grained Benchmark for Video Subtitle Removal (12 votes)

Tác giả: Xiyan Huang, Qingdong He, Peng Tang, Bo Yin, Chaoyi Wang, et al.

Xuất bản lúc: 2026-10-13

Tag: Video Inpainting, Video Restoration, Subtitle Removal, Benchmark, Video Evaluation

I. Main Problem:

Đánh giá video subtitle removal (VSR — xóa phụ đề chèn trong video) hiện thiếu benchmark tổng quát, với 3 hạn chế cốt lõi:

Phủ sóng dữ liệu mảnh vụn: bộ ChaLearn chỉ có clip 128×128; các phương pháp mới (SEDiT, CLEAR) tự xây tập test riêng nên khó so sánh tái lập trên toàn rộng nguồn video, độ phân giải và phân phối thực tế.
Phụ đề thiếu biến thiên có cấu trúc: các biến thể về bố cục không gian, hành vi thời gian, phong cách visual, ngôn ngữ không được kiểm soát độc lập → không thể quy kết chênh lệch hiệu năng cho từng điều kiện phụ đề.
Benchmark chung cho video inpainting không thiết kế cho phụ đề: không tách bạch lỗi khôi phục cục bộ, sửa đổi vùng ngoài phụ đề, mất ổn định temporal, output thiếu sót hay tỷ lệ thất bại.

II. Main Idea:

MFVSR là benchmark quy mô lớn, đa phong cách, đánh giá tinh cho VSR, dựa trên ba trụ cột:

Dữ liệu lớn và đa dạng: 3.000 video có cặp (Real-HQ, Real-LQ, AI-Generated, mỗi nhóm 1.000) kèm mask glyph pixel-level, bbox từng frame, ground truth sạch; cộng 953 video thực tế có phụ đề tự nhiên từ Bilibili, Douyin, YouTube... chỉ để phân tích độ phủ thực địa.
Động cơ render phụ đề kiểm soát được: 16 ngôn ngữ, tách 4 trục độc lập — Spatial Layout (cố định/động), Temporal Behavior (tĩnh/animated), Visual Style (plain/decorated/stylized), Language Mode (đơn ngữ/song ngữ) → 2×2×3×2 = 24 ô cấu hình, mỗi ô 123–126 video.
Giao thức đánh giá tách không gian theo điều kiện thông tin: tách riêng blind (chỉ video hỏng) và mask-guided (kèm mask từ bbox), đo qua 5 view không gian và gom thành 3 chiều — Restoration Fidelity (vùng phụ đề có khôi phục giống GT?), Preservation Fidelity (vùng ngoài có giữ nguyên?), Temporal Fidelity (có ổn định xuyên frame?) — kèm báo cáo coverage, output từng phần và thất bại.

Ví dụ đời thường: giống thợ sửa xe không chỉ chấm điểm chung 'chiếc xe có đẹp không', mà chấm riêng từng hạng mục — vết trầy được sơn lại có mịn không (restoration), chỗ không hỏng có bị sơn vấy bẩn thêm không (preservation), xe chạy có bị rung giật không (temporal) — và ghi rõ hồ sơ nào thợ bỏ dở không làm xong.

III. Main Results:

Các phương pháp mạnh thắng khác nhau trên từng chiều: DiffuEraser tốt về reconstruction lõi glyph (Subtitle LPIPS 0.269), ProPainter tốt về preservation vùng ngoài (Outside LPIPS 0.050) và temporal, MiniMax-Remover tốt về TWE-X ngoài bbox; không có thứ hạng tổng hợp nào đổi được 3 chiều.
Các metric toàn frame che giấu trade-off: Subtitle vs Outside LPIPS mâu thuẫn nhau ở 5/10 cặp phương pháp; Overall LPIPS bám theo Outside hơn Subtitle — nghĩa là metric cũ thiên lệch đánh giá.
Hiệu năng biến thiên theo chiều dữ liệu theo cách method-dependent: Real-HQ khôi phục khó hơn AI-Gen nhưng lại ít bất ổn temporal hơn; style 'hard' làm giảm Subtitle LPIPS nhưng tăng Outside LPIPS ở các phương pháp mask-guided.
Độ hoàn thiện output chênh cực đại: tỷ lệ video hoàn chỉnh từ 3.9% (EffectErase) đến 98.3% (ProPainter) trên 3.000 video; coverage cao không đồng nghĩa giao được video trọn vẹn.
Đánh giá con người ủng hộ hai chiều không gian (restoration, preservation) rõ rệt hơn chiều temporal; chỉ số tổng hợp SR-Q không vượt metric Overall truyền thống nên chỉ dùng phụ.

IV. Conclusion & Future Works:

MFVSR cung cấp nền tảng toàn diện và chẩn đoán được cho VSR: kết hợp paired supervision độ phân giải cao, đa dạng phụ đề đa ngôn ngữ kiểm soát được, độ phủ thực địa bổ sung, và giao thức đánh giá tách không gian theo điều kiện thông tin. Thực nghiệm trên 6 phương pháp cho thấy rõ trade-off giữa restoration, preservation, temporal fidelity và khoảng cách giữa hiệu năng có điều kiện với khả năng giao video hoàn chỉnh. Hướng mở: kiểm chứng cảm nhận temporal của con người vẫn còn bỏ ngỏ; code, renderer, cấu hình model và provenance dự kiến được công bố để hỗ trợ nghiên cứu tái lập.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng MFVSR sang bài toán xóa watermark và logo chuyển động trên video, tái dùng giao thức tách không gian blind/mask-guided và ba chiều fidelity.
Phát triển phương pháp VSR mới tối ưu đồng thời cả ba chiều Restoration–Preservation–Temporal dựa trên phân tích profile năng lực từ benchmark.
Nghiên cứu metric temporal cảm nhận được (perceptual temporal metric) để thu hẹp khoảng cách giữa đánh giá tự động và phán đoán con người, vốn hiện yếu ở chiều Temporal Fidelity.

2. Patent:

Ứng dụng điện thoại xóa phụ đề video: người dùng quay hoặc tải video có phụ đề; ứng dụng tự định vị vùng phụ đề, xóa và tái tạo nền gốc, đồng thời giữ nguyên phần còn lại của khung hình và chống nhấp nháy khi phát lại.
Dịch vụ đám mây làm sạch video cho nền tảng chia sẻ: hệ thống nhận video đa ngôn ngữ, tự phát hiện và gỡ phụ đề chèn sẵn để tái sử dụng nội dung xuyên thị trường, kèm báo cáo độ tin cậy từng video (hoàn chỉnh hay cần xem lại).
Công cụ chỉnh sửa video tự động cho studio sản xuất: pipeline render phụ đề kiểm soát được (vị trí, animation, song ngữ) để sinh dữ liệu huấn luyện/hiệu chuẩn riêng cho từng bộ phim, giúp mô hình xóa phụ đề của đúng chương trình đạt độ chính xác cao hơn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.18461
ArXiv Abstract	https://arxiv.org/abs/2610.18461
PDF Download	https://arxiv.org/pdf/2610.18461.pdf
Github Repository	https://github.com/hxyiiii/MFVSR

40. Athanor: An Agent-Native System for Autonomous Post-Training Research (11 votes)

Tác giả: Yufa Zhou, Yichen Wang, Jiakun Fan, Ziqi Shu, Zhichao Liu, et al.

Xuất bản lúc: 2026-10-15

Tag: Agents, LLMs, Post-Training, SFT, RL, GRPO, Self-Distillation, Model Merging, Recursive Self-Improvement, Autonomous Research

I. Main Problem:

Post-training (huấn luyện sau pretrain để tạo model tuân lệnh, suy luận, code) vẫn là quá trình nghiên cứu lặp đi lặp lại, tốn kém, khó trung thực — với các benchmark đòi hỏi:

Một checkpoint generalist phải cải thiện đồng thời 6 năng lực (toán, logic, code, kiến thức, tuân lệnh, hành động đa bước), thay vì mỗi benchmark một specialist riêng
Không được dùng teacher model — khác với các work trước dùng model mạnh hơn để tạo dữ liệu
Phải chấm điểm trên held-out suite bí mật (các câu hỏi mới cho cùng năng lực), tránh việc agent lách qua bài test đã thấy
Các work trước (PostTrainBench, Locus) chỉ nghiên cứu phiên bản hẹp hơn: fine-tune từng mô hình chuyên biệt, hoặc cho phép gọi teacher model.

II. Main Idea:

Athanor là hệ thống mở kiểu "agent-native" cho phép một đội agent frontier tự nghiên cứu post-training trên GPU thật, trong các chiến dịch dài ngày. Triết lý thiết kế cốt lõi: khi agent đủ thông minh, điểm nghẽn không phải tạo ý tưởng mà là ma sát khi thực thi và kiểm chứng — nên hệ thống tách "quyết định nghiên cứu" khỏi "thực thi":

Agent giữ toàn bộ quyền nghiên cứu: đọc dữ liệu, tự viết/chỉnh code training, chọn hyperparameter, phân tích kết quả, quyết định thử gì tiếp
Môi trường cung cấp 4 động từ nguyên tử: athanor job / eval / data / artifact — agent gọi lệnh rồi đi tiếp, không chờ; môi trường chạy job, đánh giá bằng evaluator đóng băng (agent không sửa được), khử nhiễm dữ liệu đưa vào, lưu research record bền vững (journal, lineage checkpoint, transcript, git workspace)
Externalize trạng thái nghiên cứu: mọi kết quả lưu ngoài context của agent nên session có thể nối lại, thay thế, hoặc cả đội cùng đọc ghi chú và lấy checkpoint của nhau
Không scaffolding nghiên cứu do người viết: không duyệt thí nghiệm, không định hướng — scaffolding cho model yếu sẽ trói model mạnh

Trong chiến dịch thực tế, 4 agent Claude Opus 5.5 (mỗi agent 1 node 8 GPU) tự xây pipeline: SFT trên dữ liệu suy luận công khai → GRPO với thay đổi rollout do agent tự đề xuất → merge trọng số giữa các agent → self-distillation nhiều vòng, leo từ base model thô lên ngang bản Instruct chính thức của vendor.

Ví dụ đời thường: giống như giao cho một đội học viên nghiên cứu sinh một phòng thí nghiệm có sẵn máy móc vận hành sẵn (đưa mẫu vào là có kết quả, không phải tự sửa máy), sổ thí nghiệm dùng chung để ai cũng đọc được bài của nhau — các học viên chỉ việc nghĩ thí nghiệm, làm, và ghi kết quả.

III. Main Results:

Kết quả chính: trong 104 giờ, đội 4 agent nâng Qwen3-4B-Base từ 15.9 → 67.3 trên development suite và 9.2 → 48.2 trên held-out suite (agent không hề biết suite này tồn tại), so với 66.5 / 47.9 của Qwen3-4B-Instruct-2507 chính thức — lần đầu tiên một đội agent tự chủ post-training base model thành generalist đạt ngang/bằng bản instruct của vendor, xác nhận trên held-out
Chi phí ~12.000 USD tổng cộng (GPU thuê + inference agent, trong đó inference chỉ $1.074)
Hiệu quả thực thi: GPU bận 93% thời gian; agent chỉ suy luận 3.6% thời gian, 87% là chờ job chạy; median 1 lượt agent 4 giây vs job GRPO 1.6 giờ, eval đầy đủ 26 phút
Phân tích hành vi agent (4 phát hiện):
- Recombination: công thức thành công ghép các phương pháp đã biết (SFT, RL, merge, self-distillation) — agent đóng góp cách kết hợp và các thay đổi nhỏ
- Tiến bộ theo đội: sau giờ thứ 21, mọi kỷ lục mới đều kết hợp kết quả của nhiều agent; ý tưởng và checkpoint lan nhanh giữa các agent
- Hội tụ sớm: trong 1 giờ đầu cả 4 agent cùng chọn một corpus suy luận công khai; các hướng thay thế sau đều điểm thấp hơn và bị bỏ
- Cảm giác dữ liệu không đều: agent bắt được lỗi format, độ dài, khả năng chấm điểm, độ khó — nhưng hiếm khi kiểm tra đáp án có đúng không
Chưa đạt: bản reasoning releases của vendor (73.3 và 80.5) — agent mới tới mức bản Instruct
Autoresearch scaling: đặt vấn đề hiệu suất nghiên cứu tăng thế nào theo compute; điểm nghẽn quan sát được là số ý tưởng khác nhất được thử (4 bản sao cùng một model hội tụ sớm, ít thử phương án thay thế)

IV. Conclusion & Future Works:

Khi ma sát thực thi được gỡ bỏ, khả năng nghiên cứu và kỹ thuật của agent hiện tại đã đủ để đưa một base model thô lên tầm bản instruct chính thức của vendor — chỉ với dữ liệu công khai, không teacher model, không lời khuyên của người. Giới hạn rõ nhất không nằm ở kỹ năng mà ở đa dạng thăm dò: các agent cùng xuất phát từ một prior nên hội tụ sớm về một công thức.

Hướng tương lai:

Nghiên cứu autoresearch scaling: chất lượng checkpoint tốt nhất và hiểu biết về post-training tăng thế nào theo compute agent tiêu tốn
Tăng đa dạng nghiên cứu (các agent khác model, khác prior, hoặc được khuyến khích thử phương án mạo hiểm)
Cải thiện kiểm chứng chất lượng dữ liệu của agent (hiện agent kiểm hình thức nhiều, kiểm tính đúng của đáp án ít)
Athanor mở (open) để làm nền tảng cho việc mở rộng nghiên cứu AI tự chủ

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu autoresearch scaling: đo đường cong chất lượng checkpoint và hiểu biết khoa học thu được theo lượng compute agent và GPU tiêu tốn, từ đó dự đoán điểm bão hòa của quy trình nghiên cứu tự động.
Đội agent đa dạng hóa: kết hợp các agent từ các model khác nhau (khác nhà cung cấp, khác thế hệ) trong một chiến dịch Athanor để tránh hội tụ sớm và tăng không gian công thức được khám phá.
Cơ chế tự kiểm chứng dữ liệu cho agent nghiên cứu: agent tự sinh câu hỏi kiểm tra đáp án của corpus huấn luyện (verify-the-verifier) trước khi đưa vào training, khắc phục điểm mù về tính đúng của nhãn.
Mở rộng AutoPostTrain lên quy mô model lớn hơn và kiểm tra khả năng agent tự phát minh thuật toán mới thay vì chỉ recombine các phương pháp đã biết.

2. Patent:

Nền tảng điện toán đám mây "phòng lab tự động" cho doanh nghiệp: khách hàng chỉ nêu mục tiêu (ví dụ "model hiểu tiếng Việt tốt hơn"), hệ thống triển khai đội AI agent tự đọc dữ liệu, tự huấn luyện, tự đánh giá trên GPU thuê, trả về model đã tinh chỉnh kèm báo cáo quá trình — giảm chi phí thuê đội ML xuống mức thuê máy.
Hệ thống tinh chỉnh mô hình on-device cho điện thoại: agent tự động đóng gói pipeline post-training chạy được trên cụm GPU nhỏ, tối ưu model nhỏ (1-4B tham số) cho tác vụ riêng của người dùng (phản hồi tin nhắn, ghi chú cá nhân) rồi đẩy về máy, với evaluator đóng băng đảm bảo chất lượng khách quan.
Module đánh giá chống gian lận cho dịch vụ fine-tuning: evaluator chạy trong môi trường tách biệt mà cả người dùng lẫn agent điều khiển đều không truy cập/sửa được, kèm suite bài test giữ bí mật chấm sau chiến dịch — dùng cho audit chất lượng model do AI tự huấn luyện.
Bộ nhớ nghiên cứu dùng chung cho đội AI agent: dịch vụ lưu journal, dòng dõi checkpoint, transcript và ghi chú của nhiều agent trên lưu trữ bền vững, cho phép agent mới thay thế agent cũ mà không mất tiến độ — tương tự hệ thống bàn giao ca trong sản xuất.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.21055
ArXiv Abstract	https://arxiv.org/abs/2610.21055
PDF Download	https://arxiv.org/pdf/2610.21055.pdf
Github Repository	N/A

41. CarryOn: A Dual-Loop Harness for Personalized and Reliable Robot Assistance (10 votes)

Tác giả: Zixuan Wang, Yuqi Liu, Yuxin Chen, Sengqiao Yang, Jinhui Ye, et al.

Xuất bản lúc: 2026-10-15

Tag: Vision-Language-Action, Robotics, Personalization, Memory, Safety, Failure Recovery, Human-Robot Interaction

I. Main Problem:

Các mô hình Vision-Language-Action đã thực hiện được nhiều lệnh thao tác mở, nhưng chưa đủ cho trợ lý robot đời thực vì thiếu hai năng lực cốt lõi:

Cá nhân hóa: cùng yêu cầu “làm bánh mì” phải khác nhau tùy người ăn chay, dị ứng, sở thích hoặc đồ vật riêng; bối cảnh cũng thay đổi, ví dụ món ăn nhớ dưới nắp này nhưng mở ra lại là thịt.
Thực thi tin cậy: mô hình đã fine-tune an toàn vẫn có thể va chạm nguy hiểm, làm rơi vật hoặc mắc kẹt sau nhiễu động vật lý.

Hệ quả là robot khó biết nên làm gì cho đúng người và đúng cảnh, đồng thời làm sao làm cho an toàn và phục hồi khi lỗi đã xảy ra.

II. Main Idea:

CarryOn là dual-loop harness bọc quanh một chính sách Vision-Language-Action đóng băng, không đổi trọng số mô hình.

Planning loop: giữ user memory và scene memory để chọn tác vụ con phù hợp. Hội thoại cập nhật sở thích người dùng; quan sát mới bắt buộc sửa scene memory, có validator trả lại kế hoạch nếu thiếu bước cập nhật.
Execution loop: chính sách đóng băng đưa động tác; proactive shield dự đoán quỹ đạo gripper/vật đang mang, dựng tập vật cản theo vai trò tác vụ, lọc chunk hành động trước khi chạy hoặc ra lệnh lùi ngắn khi sắp chạm cấm.
Visual Judge theo dõi ảnh gần đây so với trạng thái đầu subtask, báo running, success hoặc failed. Success thì tiến tục kế hoạch; failed thì treo chính sách và gọi recovery skill.
Recovery gồm quan sát, định vị lại, tạo grasp, kiểm tra có nắm giữ, vận chuyển và cho chính sách tiếp tục subtask cũ. Sau episode, reflection offline chỉnh tham số và chiến lược recovery, lưu thành các phiên bản kỹ năng để lần sau dùng lại.

Ví dụ đời thường: như người phục vụ kinh nghiệm nhớ khách quen ăn chay, trước khi đặt món nhìn lại khay đồ ăn; khi bưng đi thì né vật cản, nếu làm rơi thìa thì nhặt/cấp lại và ghi nhớ cách xử lý lần sau.

III. Main Results:

Cá nhân hóa: làm sandwich với lệnh trực tiếp đạt 24/24; nhờ memory sau khi restart cũng đạt 24/24; sau khi cập nhật sở thích ăn chay đạt 20/24. Packing theo hoạt động đạt 16/16 khi có profile, so với 16/20 và 16/18 ở điều kiện thiếu thói quen hoặc cần cách ly profile.
Scene memory: ghi và truy xuất vị trí nguyên liệu đạt 12/12; không memory phải mở nắp tìm đạt 8/10; khi đổi vị trí và sửa stale memory đạt 9/12. Trên RoboLab, text + memory và image + memory đều nâng endpoint selection lên 88/88 và giảm độ trễ xuống khoảng 7 giây.
An toàn: trên LIBERO-Safety, shield giảm violation của π0.5-SFT từ 52.6% xuống 6.1%, trong khi violation-free success giữ gần như nhau: 25.3% lên 25.6%. Với π0.5 gốc, violation giảm 71.1% → 22.7%; với OpenVLA-OFT giảm 42.0% → 17.2% khi so với lớp an toàn baseline.
Robot thật: có vật cản chèn vào, raw policy hoàn thành 0/20 không va chạm; có shield đạt 20/20. Khi vật bị lấy mất, raw đạt 3/20, base recovery 9/20, recovery tinh chỉnh đạt 18/20.
Phục hồi: trên LIBERO-Object với nhiễu làm mất grasp, dùng chính sách thuần chỉ đạt 26/200; CarryOn qua hai vòng reflection đạt 160/200 = 80.0%, tăng từ mức 13.0% của policy-only. Trên LIBERO-Recovery, R2 đạt 586/770 = 76.10% so với 247/770 của pure VLA. Chi phí perception khoảng 170.82 ms mỗi lần gọi, filtering khoảng 21.06 ms.

IV. Conclusion & Future Works:

Điểm mấu chốt là không cần fine-tune lại mô hình hành động: chỉ cần một harness giữ bối cảnh cá nhân có thể sửa đổi, lọc hành động theo hình học trước va chạm, và phục hồi sau lỗi bằng kỹ năng có phiên bản. Kết quả cho thấy cá nhân hóa, an toàn và recovery có thể được nối vào cùng một ngữ cảnh tác vụ thay vì xử lý rời rạc.

Hướng mở rộng tự nhiên: cải thiện cách tổng hợp và kiểm chứng memory dài hạn; mở rộng sang nhiều người dùng, nhiều phòng và nhiều dạng tham chiếu cá nhân; giảm độ trễ/phí triển khai của perception và reflection; cho recovery học từ phản hồi vật lý thay vì chỉ hình ảnh và log thao tác.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng dual-loop harness cho đội robot phục vụ nhiều người trong nhà thông minh, nơi memory cá nhân, memory bối cảnh phòng và kỹ năng phục hồi được chia sẻ có kiểm soát giữa các robot.
Nghiên cứu cơ chế tự kiểm chứng memory: hệ thống đánh dấu sở thích tạm thời, sở thích lâu dài và vị trí đồ vật đã lỗi thời, đồng thời đo mức tin cậy trước khi đưa vào kế hoạch.
Phát triển recovery có chu kỳ thử-sai an toàn: robot mô phỏng hậu quả vật lý của từng phiên bản sửa lỗi trước khi dùng trên robot thật, cân bằng tỉ lệ thành công và số lần can thiệp.
Đánh giá giao tiếp đa phương thức cho người dùng không chuyên: kết hợp lệnh nói, ảnh chụp điện thoại, sở thích đã lưu và câu hỏi làm rõ để chọn tác vụ ít gây hiểu nhầm nhất.

2. Patent:

Ứng dụng điện thoại điều khiển robot gia đình có nhớ sở thích: người dùng nói “làm món ăn cho tôi”; app trên điện thoại đã lưu chế độ ăn, dị ứng và món thường dùng, gửi ngữ cảnh cá nhân cho robot để chọn nguyên liệu và từ chối món không hợp.
Hệ thống quét phòng bằng camera điện thoại rồi nhớ vị trí đồ vật: người dùng chụp bàn bếp, ngăn tủ hoặc bàn làm việc; khi đồ bị dời, robot nhận ảnh/quan sát mới, sửa bản đồ vị trí và cảnh báo nếu vị trí cũ không còn đúng.
Lớp bảo vệ an toàn cho robot phục vụ trong nhà có trẻ em hoặc vật nuôi: robot dự đoán đường đi của tay và vật đang bưng, tự giảm tốc, đổi hướng hoặc lùi ngắn khi phát hiện khoảng cách tới người/vật cản dưới ngưỡng cho phép.
Bộ kỹ năng tự sửa lỗi khi làm rơi đồ: sau khi phát hiện mất grip, robot quan sát lại, tìm đúng vật, gắp lại, kiểm tra lực nắm rồi tiếp tục công việc; nếu thất bại, hệ thống ghi lại tình huống và điều chỉnh cách gắp cho lần sau.
Trợ lý bếp cá nhân hóa trên điện thoại kết nối robot: app gợi ý thực đơn theo sở thích, kiểm tra nguyên liệu thật dưới các nắp/hộp qua camera, tự đổi món khi mở sai nắp và nhắc người dùng trước khi dùng thành phần không phù hợp.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.21453
ArXiv Abstract	https://arxiv.org/abs/2610.21453
PDF Download	https://arxiv.org/pdf/2610.21453.pdf
Github Repository	https://github.com/JIA-Lab-research/CarryOn

📰 Summary of Papers
1. Waypoint-OPD: Transferring RL-Induced Policy Shifts via Gated On-Policy Distillation (654 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
2. OmniCompass: A Holistic Benchmark for Omni-Modal Video Grounding and Understanding (567 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
3. OpenGCUA: Toward a Fully Open Stack for Generalist Computer Use (278 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
4. FDE-Gym: The Last Mile of AI Delivery (247 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
5. RoTA-Bench: Evaluating 3D Spatial Reasoning through Interactive Projection Alignment (198 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
6. Self-Evolving Agent Harness (189 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
7. MJev-Spatial: System One Spatial Intelligence via Native Attention Matching (143 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
8. Learning Where to Split: Dynamic Band Splitting for Audio Source Separation (132 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
9. InfiniSplat v2: Analyzing and Improving Feed-Forward 3DGS from Any Views (114 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
10. 3DCodeVerse: Exploring 3D Worlds as Code (99 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
11. MAI-Gym: An Open All-in-One Platform for GUI Agent Evaluation and RL Training across Mobile and Computer Environments (94 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
12. SCOPE: Semantic Bounded Credit Optimization for Prompt Engineering in Text-to-image Generation (77 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
13. Speculative Forcing for Efficient Autoregressive Video Generation (72 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
14. VLA-Δ: Learning Physical State Transition for Vision-Language-Action Models (54 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
15. CommerceGen-Studio: An End-to-End Framework for Commercial-Grade Main-Image Generation (51 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
16. Mosaic: Multi-Session Agentic Reinforcement Learning (48 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
17. Intern Lumina U2: A Multi-Codebook Diffusion Large Language Model for Omni-Visual Understanding and Image Generation (40 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
18. AutoSFT: An Agentic System for Automated Data Research in Supervised Fine-Tuning (35 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
19. DeltaStreamer: Towards Human-Like Agentic Streaming Video Understanding (33 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
20. Orbia: Do Generated Videos Form a Consistent 3D World? (31 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
21. Can World and Action Modeling Benefit Each Other under Unified Causal Training? (28 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
22. WorldCast: Exploring Intelligent Visual Generation in World State Prediction (28 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
23. InfoVis: Unified Slide Image Generation and Editing (26 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
24. Behavioral Compositionality of Sparse Autoencoder Representations (24 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
25. Data World: Scaling Data Environments from Scratch (24 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
26. MLExpert: Towards a Generalist Agentic Model for Autonomous Machine Learning Engineering (24 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
27. EdgeWise: Bringing Long-Horizon Agents to the Edge via Selective Cloud Delegation (24 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
28. Terminal-RSI: Recursive Self-Improving Terminal Agents via Recursive Self-Rewrite and Policy-Refine (23 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
29. Intern-Decision: Efficient Multimodal Decision Making with Autoregressive Masked Language Modeling (22 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
30. Routing Policy Optimization for Online Diffusion Reinforcement Learning (21 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
31. Each Reward to Its Relevant Tokens: Reward-Specific Token-Level Credit Assignment for Multi-Reward RL (20 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
32. OmniVerifier-C1: Decomposed Graded Verifier for Rule-Governed Generative World Modeling (18 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
33. SWE-at-Scale: Scalable Issue Synthesis from Historical Bug Fixes (18 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
34. Do Better Visual Representations Always Lead to Better End-to-End Autonomous Driving? (17 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
35. SimVTA: Simulation-Grounded Video-Trajectory Alignment for Driving World Action Models (17 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
36. JevAgentHarness: Benchmarking, Deploying and Training Decision Models That Share Control with LLMs (17 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
37. Velox: Spatial Memory Makes World Models Efficient (16 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
38. Trajectory-Level Speculation with Semantic Verification for Tool-Using Agents (12 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
39. MFVSR: A Multi-Style and Fine-Grained Benchmark for Video Subtitle Removal (12 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
40. Athanor: An Agent-Native System for Autonomous Post-Training Research (11 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
41. CarryOn: A Dual-Loop Harness for Personalized and Reliable Robot Assistance (10 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan

📰 Summary of Papers​

1. Waypoint-OPD: Transferring RL-Induced Policy Shifts via Gated On-Policy Distillation (654 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

2. OmniCompass: A Holistic Benchmark for Omni-Modal Video Grounding and Understanding (567 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

3. OpenGCUA: Toward a Fully Open Stack for Generalist Computer Use (278 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

4. FDE-Gym: The Last Mile of AI Delivery (247 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

5. RoTA-Bench: Evaluating 3D Spatial Reasoning through Interactive Projection Alignment (198 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

6. Self-Evolving Agent Harness (189 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

7. MJev-Spatial: System One Spatial Intelligence via Native Attention Matching (143 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

8. Learning Where to Split: Dynamic Band Splitting for Audio Source Separation (132 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

9. InfiniSplat v2: Analyzing and Improving Feed-Forward 3DGS from Any Views (114 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

📰 Summary of Papers

1. Waypoint-OPD: Transferring RL-Induced Policy Shifts via Gated On-Policy Distillation (654 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

2. OmniCompass: A Holistic Benchmark for Omni-Modal Video Grounding and Understanding (567 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

3. OpenGCUA: Toward a Fully Open Stack for Generalist Computer Use (278 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

4. FDE-Gym: The Last Mile of AI Delivery (247 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

5. RoTA-Bench: Evaluating 3D Spatial Reasoning through Interactive Projection Alignment (198 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

6. Self-Evolving Agent Harness (189 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

7. MJev-Spatial: System One Spatial Intelligence via Native Attention Matching (143 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

8. Learning Where to Split: Dynamic Band Splitting for Audio Source Separation (132 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

9. InfiniSplat v2: Analyzing and Improving Feed-Forward 3DGS from Any Views (114 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers: