🤗 Daily Hugging Face Paper Digest - 2026-08-07
Báo cáo được tạo tự động vào lúc 2026-08-08 10:15:51 bằng mô hình hermes-agent.
📰 Summary of Papers
1. AgentOPSD: Recursive Self-Distillation for Agentic Reinforcement Learning (68 votes)
Tác giả: Zi-Han Wang, Zhengxi Lu, Zhiyuan Yao, Jinyang Wu, Jie Wu, et al.
Xuất bản lúc: 2026-08-06
Tag: Agentic-RL, GRPO, Self-Distillation, Credit-Assignment, Bayesian-Updating, LLMs, Reinforcement-Learning
I. Main Problem:
RL với verifiable rewards chỉ trả phần thưởng sau khi toàn bộ trajectory kết thúc, nên tín hiệu cực kỳ thưa (sparse). Trong agentic multi-turn dài hạn, rất khó biết turn nào thực sự quyết định kết quả.
Hậu quả của cách làm cũ:
- GRPO tính advantage ở mức trajectory rồi phát đều cho mọi token/turn → không phân biệt được vài quyết định then chốt với thao tác thường lệ.
- Các phương pháp self-distillation (OPSD) hiện tại xét từng turn độc lập, bỏ qua evidence đã tích lũy từ các tương tác trước.
- Mismatch: tín hiệu OPSD ở mức token không khớp với action ở mức turn (nhiều token mới tạo thành một hành động, môi trường chỉ phản hồi ở biên turn).
Vấn đề cốt lõi: làm sao biến tín hiệu self-distillation cục bộ thành turn-level credit phụ thuộc lịch sử.
II. Main Idea:
AgentOPSD là phương pháp credit-assignment ở mức turn, không cần critic, dành cho agent học bằng RL dài hạn. Cơ chế gồm 3 bước:
- Gom nhóm tín hiệu: cộng dồn các khoảng cách log-xác-suất token-level giữa teacher (được cấp privileged skill chỉ lúc train) và student trong một turn → thành turn-level evidence e_k.
- Cập nhật niềm tin Bayes đệ quy: khởi tạo từ tỉ lệ thành công trung bình của nhóm (B_0), rồi tại mỗi turn cập nhật belief state B_k trong không gian log-odds, tích lũy evidence có suy giảm (decay γ). Credit của một turn = độ sửa đổi cận biên ΔB_k = B_k − B_{k−1}.
- Định hình lại advantage: nhân tín hiệu outcome của GRPO với trọng số chuẩn hóa từ ΔB_k, có gắn dấu theo hướng thành công/thất bại. Không rollout thêm, không critic.
Điểm then chốt: credit không đến từ tín hiệu cục bộ đơn lẻ, mà từ mức độ turn đó thay đổi niềm tin về khả năng thành công dưới ánh sáng các turn trước.
Ví dụ đời thường: giống thám tử điều tra vụ án — mỗi lời khai mới không được đánh giá rời rạc, mà cộng dồn vào niềm tin về thủ phạm; lời khai nào làm xoay chuyển mạnh niềm tin hiện tại (từ nghi ngờ sang chắc chắn) mới là bằng chứng then chốt, còn lời khai trùng với điều đã biết thì ít giá trị.
III. Main Results:
- ALFWorld (Qwen2.5-7B): đạt 89.1% success, vượt GRPO và mọi baseline self-distillation mạnh (SDAR, RLSD, Skill-SD, GRPO+OPSD).
- WebShop: Score 90.4 / Acc 79.7; Search-QA: Acc 49.2 (7B).
- Bền vững với độ dài task: mất chỉ −0.54 success-point mỗi turn thêm, so với GRPO −2.91 và RLSD −3.59 — càng dài hạn càng lợi thế.
- Ablation (7B/ALFWorld): turn-level granularity 85.9, recursive revision 82.8, signed direction 80.5, state-prior anchor 78.9 (full 89.1) → xác nhận recursion + signed direction quan trọng nhất.
- Hyperparameter: λ=0.5 tối ưu; γ và clip εhigh khá trơ; hiệu ứng chỉ rõ trên task dài hạn.
IV. Conclusion & Future Works:
AgentOPSD chứng minh cập nhật niềm tin Bayes đệ quy là cách đơn giản, hiệu quả để khôi phục tín hiệu temporal credit mịn trong thiết lập agentic RL không cần critic. Belief state đóng vai trò như value baseline của GAE, còn ΔB_k như TD signal — nhưng không tốn chi phí học value network hay rollout thêm.
Hướng tương lai (gợi ý): kết hợp với process reward models, mở rộng sang multi-agent credit assignment, và áp dụng cho agent thị giác/đa phương thức nơi action cũng cần căn chỉnh theo turn.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng AgentOPSD sang credit-assignment đa tác nhân: mỗi agent duy trì belief state riêng rồi cập nhật chéo qua các turn tương tác chung.
- Kết hợp tín hiệu self-distillation với process reward models để có thêm nguồn giám sát trung gian ngoài outcome verifier.
- Áp dụng cơ chế belief revision cho agent thị giác (VLM) thực hiện thao tác trên màn hình, nơi action là chuỗi token sinh ra cú click/phím.
- Nghiên cứu decay γ thích ứng theo độ không chắc chắn của môi trường thay vì cố định như trong bài.
2. Patent:
- Hệ thống huấn luyện trợ lý ảo trên điện thoại tự hoàn thành task nhiều bước (đặt lịch, gửi tin) mà không cần con người gán nhãn từng bước — phần thưởng chỉ có ở cuối, app tự phân bổ tín hiệu học vào các thao tác then chốt qua belief state.
- Tối ưu hóa quy trình làm việc tự động (RPA) trên máy tính: agent tự học cách thao tác giao diện, tự nhận diện bước nào thực sự quyết định thành công để ưu tiên tinh chỉnh, giảm số lần chạy thử.
- Game AI trên điện thoại tự cải thiện kỹ năng qua mỗi ván: chỉ biết thắng/thua cuối ván, nhưng nhờ tích lũy niềm tin đệ quy mà biết nước đi nào trong chuỗi hành động là bản lĩnh quyết định, từ đó luyện tập trọng tâm.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.05987 |
| ArXiv Abstract | https://arxiv.org/abs/2608.05987 |
| PDF Download | https://arxiv.org/pdf/2608.05987.pdf |
| Github Repository | https://github.com/ZethWang/AgentOPSD |
2. OSReward: Instituting Standardized Evaluation for Cross-Platform Computer-Use Reward Models (55 votes)
Tác giả: Qiushi Sun, Kanzhi Cheng, Yian Wang, Bowen Yang, Hang Yan, et al.
Xuất bản lúc: 2026-07-30
Tag: VLM, Reward Model, Computer-Using Agents, CUA, Trajectory Evaluation, LLMs, Benchmark
I. Main Problem:
Các agent máy tính (CUA) ngày càng dùng vision-language model (VLM) làm trọng tài để xác minh một trajectory có hoàn thành nhiệm vụ hay không — dùng cho đánh giá, gom dữ liệu và huấn luyện reinforcement learning. Nhưng độ tin cậy của chính những trọng tài này chưa từng được đo lường hệ thống.
Hai lỗ hổng lớn:
- Không có benchmark xác thực: tái dùng trajectory từ benchmark cũ sẽ nhiễu lẫn lỗi của agent với lỗi của trọng tài, không biết lỗi thuộc về ai.
- Không có trọng tài vừa tin cậy vừa rẻ: trọng tài tiền tuyến (Claude-Opus-4-8, GPT-5.5) đạt độ chính xác cao nhưng quá đắt cho hàng triệu lượt chấm; mô hình mở thì kém xa.
II. Main Idea:
OSReward xây dựng benchmark đo lường trọng tài chứ không đo lường agent. Cách tiếp cận:
- Hạ tầng đa nền tảng từ đầu: web, mobile, Ubuntu, Windows được chuẩn bị như máy thật (file, app, database, trạng thái nhiễu) để tạo trajectory dài (tới 100 bước) có thành công và thất bại thực.
- Nhãn vàng do con người: 3 annotator độc lập chấm, bất đồng chuyển meta-review; quy tắc nghiêm ngặt — nếu agent không tự xác minh qua môi trường thì coi là thất bại dù kết quả đúng.
- Ba góc nhìn: OSReward (1019 trajectory), OSReward-Hard (284 ca khó, tỷ lệ fail cao để bóc trần lỗi), OSReward-Multi (chấm alignment + efficiency).
- Đóng lỗ hổng bằng dữ liệu + mô hình mở: thu thập OS-Shepherd-100K (100K trajectory có reasoning), huấn luyện OS-Shepherd-9B và 35B — reward model rẻ, tự host được, hướng thẳng vào lỗi leniency bias (dễ chấp nhận thành công giả).
Ví dụ đời thường: giống một tổ kiểm tra bài tập mà thay vì tự làm thử để biết đúng sai, lại tin lời học sinh nói 'em làm xong rồi' — nên cứ chấm đạt dù bài chưa xong; OSReward bắt tổ này phải đối chiếu lại từng bước với kết quả thực tế trước khi chấm.
III. Main Results:
- Khảo sát 27 VLM judges — rộng nhất từ trước tới nay. Trên OSReward, chỉ trọng tài tiền tuyến chạm mức ~90% (Claude-Opus-4-8: 89.7%, GPT-5.5: 89.5%); trung bình rớt xuống 52% trên OSReward-Hard.
- Leniency bias thống trị: mọi họ mô hình đều mắc lỗi 'chấp nhận task chưa xong thành công' — chiếm 2/3 lỗi, là mode lỗi hàng đầu của từng trọng tài (≥48% lỗi). Over-accept gấp 3 lần over-reject.
- Trọng tài đọc lời tự thuật của agent nhiều hơn ảnh màn hình, nên dễ bị lừa bởi câu 'hoàn thành' ở cuối.
- OS-Shepherd-35B đạt 62.7% trên Hard, cạnh tranh với trọng tài đắt tiền ở chi phí thấp hơn 30–60× (theo Pareto frontier, Fig. 2).
- Phân tích: thiếu human annotation vẫn huấn luyện được reward model tốt nếu dùng phát hiện từ judge study; de-biasing chuyển sang benchmark chưa thấy (held-out) vẫn hiệu quả.
IV. Conclusion & Future Works:
Không có trọng tài nào vừa tin cậy vừa rẻ; OSReward là chuẩn đo lường đầu tiên xuyên nền tảng trên trajectory vàng do người thực hiện. OS-Shepherd đóng khoảng trống bằng corpus mở và mô hình mở, đưa tín hiệu reward quy mô huấn luyện vào ngân sách học thuật.
Hướng tương lai: (1) prompting trọng tài tự xác minh hoàn thành rõ ràng để giảm leniency thay vì ensembling; (2) mở rộng action space và nền tảng; (3) đẩy nghiên cứu reward CUA mở rộng nhờ corpus failure-type đã gán nhãn.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng OSReward sang nền tảng mới (macOS, Linux distro khác) và task dài hơn 100 bước để đo giới hạn trọng tài trên trajectory cực dài.
- Nghiên cứu prompting 'verify-before-judge' — bắt trọng tài trích dẫn bằng chứng màn hình chống lại lời tự thuật của agent để triệt tiêu leniency bias.
- Phân tích nguồn gốc sai lệch giữa trọng tài VLM và verifier thủ công trên benchmark hiện có, chỉ rõ lỗi thuộc về judge hay task/verifier.
2. Patent:
- Hệ thống tự động chấm điểm bài tập thực hành trên máy tính cho sinh viên: app chụp lại từng bước thao tác sinh viên trên phần mềm thật, dùng reward model nhẹ (OS-Shepherd-9B) tự host để xác minh task hoàn thành qua thay đổi trạng thái file, chấm hàng ngàn bài với giá rẻ thay vì giáo viên đọc tay.
- Công cụ kiểm thử UI tự động cho điện thoại: ghi lại chuỗi thao tác tester, mô hình đối chiếu trạng thái app trước/sau để quyết định tính năng có chạy đúng không, giảm reliance vào con người viết test case thủ công.
- Trợ lý RPA tự học: agent thực thi quy trình văn phòng, reward model đánh giá trajectory theo alignment và efficiency để agent tự tinh chỉnh cách làm ngắn gọn hơn, không cần con người viết luật xác minh từng bước.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2607.28609 |
| ArXiv Abstract | https://arxiv.org/abs/2607.28609 |
| PDF Download | https://arxiv.org/pdf/2607.28609.pdf |
| Github Repository | https://github.com/OS-Copilot/OSReward |
3. WorldClaw: Agentic 3D Open-World Generation at Scale (47 votes)
Tác giả: Chunchao Guo, Jinpeng Li, Yang Li, Zilong Huang
Xuất bản lúc: 2026-08-05
Tag: 3D Scene Generation, Agentic AI, LLM Agents, Procedural Generation, Open-World, Image-to-3D, Diffusion, Multi-Modal LLM
I. Main Problem:
Sinh thế giới 3D quy mô lớn, tự do khám phá từ một câu văn bản vẫn khó vì hệ thống phải đồng thời giữ ba thứ: (1) mạch lạc không gian toàn cục, (2) nội dung cục bộ phong phú, (3) tài sản 3D rõ ràng để chỉnh sửa/tái dùng. Các hướng tiếp cận cũ đều vỡ ở một điểm:
- PCG (luật thủ công): kiểm soát tốt nhưng biểu đạt kém, phụ thuộc quy tắc hard-code.
- Image/Video-Lifting: nội dung đẹp nhưng thiếu nhất quán toàn cục, tốn tính toán (quay video dài vòng quanh nhà), góc nhìn mới hay mờ/ méo.
- Native 3D Diffusion: hình học tốt nhưng đa dạng nội dung bị giới hạn do thiếu dữ liệu 3D quy mô lớn.
- MLLM Agents: lập kế hoạch giỏi nhưng thiếu kiểm soát không gian 3D chính xác (dời một vật dễ quá tay vì không biết tỉ lệ).
II. Main Idea:
WorldClaw theo đà thô-đến-tinh, toàn-cục-đến-vùng (coarse-to-fine, global-to-regional): thế giới mạch lạc không cần sinh mọi nơi cùng lúc, mà lập khung chung trước rồi chi tiết hóa từng vùng khi cần. Ba giai đoạn nối tiếp:
- (1) Intent Analysis & Planning: agent phân tích ý định + agent lập kế hoạch chuyển prompt thành bản đặc tả cấu trúc P (vùng, địa hình, vật, vật liệu, quan hệ không gian).
- (2) Global Terrain Generation: từ P sinh địa hình toàn cục qua bản đồ phân bố ngữ nghĩa, vật liệu (kết hợp sinh + quy trình Blender), cao độ vùng-aware, rải tài sản (đá, cây) theo độ dốc/độ cao, rồi agent dùng BlenderMCP render-kiểm-tra-sửa vòng lặp.
- (3) Regional Object Generation & Placement: chỉ vùng cần phát triển — render địa hình thành ảnh 2D, dùng mô hình image-editing sinh bố cục vật, tách từng vật bằng SAM3, dựng mesh qua image-to-3D (Hunyuan3D), đặt lại lên địa hình với hiệu chỉnh tỉ lệ/khung tiếp xúc.
Ví dụ đời thường: giống xây công viên — trước tiên vẽ bản đồ tổng thể, đắp đồi/đào hồ và trải cỏ cây nền (khung chung), rồi mới tới từng khu cụ thể: khu chơi trẻ em thì đặt xích đu, khu hồ thì thả thuyền, mỗi lần đặt xong đứng nhìn lại chỉnh tí cho vuông vức, thay vì đúc toàn bộ công viên trong một khối.
III. Main Results:
Trích dẫn từ abstract/intro (văn bản chỉ chứa vài trang đầu, kết quả định lượng chi tiết nằm ở mục Experiments/Qualitative chưa được trích):
- Sinh được cảnh quy mô lớn với tổ chức không gian mạch lạc, nội dung cục bộ hấp dẫn, và tài sản cấp thực thể có thể chỉnh sửa.
- Giữ được cấu trúc địa hình toàn cục nhất quán trong khi vẫn làm giàu chi tiết từng vùng.
- Đóng gói cảnh thành mesh có texture chỉnh sửa độc lập, hỗ trợ render góc nhìn tự do, tái dùng tài sản, và workflow game-engine truyền thống.
- Ba đóng góp cốt lõi: (a) bộ sinh địa hình quy trình dẫn bởi phân bố ngữ nghĩa, (b) kế hoạch vùng thực thi được từ ràng buộc toàn cục/địa phương, (c) vòng lặp tinh chỉnh agent sửa tỉ lệ, pose, và tiếp xúc vật–địa hình.
IV. Conclusion & Future Works:
WorldClaw chứng minh nguyên tắc toàn cục trước, vùng sau giúp sinh thế giới 3D khả dụng mà không cần sinh đồng loạt, kết hợp sức lập kế hoạch của MLLM agent với công cụ quy trình/sinh ảnh 3D để vừa mạch lạc vừa chi tiết. Giới hạn (theo paper): chưa nêu rõ; hướng tương lai gợi ý mở rộng kiểm soát vùng tinh hơn, quy mô lớn hơn, và tối ưu vòng lặp tinh chỉnh agent.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng khung agentic thô-đến-tinh sang sinh nội thất kiến trúc quy mô tòa nhà: lập sơ đồ tầng toàn cục rồi chi tiết hóa từng phòng với tài sản editable.
- Kết hợp bản đồ phân bố ngữ nghĩa vùng-aware với diffusion địa hình native để cải thiện độ sắc nét biên giới giữa các kiểu địa hình (núi, hẻm vực, cồn cát).
- Học vòng lặp tinh chỉnh render-based thành policy chủ động: agent tự chọn góc camera và loại lỗi cần sửa thay vì duyệt cố định.
2. Patent:
- Ứng dụng trên điện thoại: người dùng gõ 'khu rừng ma thuật có hồ và đền cổ', app chạy WorldClaw sinh bản đồ địa hình + rải cây/đá tự động, hiển thị preview 3D xoay được để dùng làm hình nền động hoặc quét AR phòng khách.
- Công cụ trợ giúp làm game mobile: từ một câu mô tả, tự sinh bản đồ map có đồi núi, đường đi, và vật phẩm (cây, đá, nhà) đã đặt đúng độ dốc — xuất thẳng asset pack vào Unity/Unreal để designer chỉ việc tinh chỉnh, giảm hàng tuần dựng map thủ công.
- Tính năng 'thế giới cá nhân hóa' cho mạng xã hội/thực tế ảo: người dùng mô tả không gian sống ảo, hệ thống sinh địa hình mềm mại và rải nội thất cục bộ theo vùng, lưu từng vật thành tài sản riêng để user kéo-thả chỉnh vị trí ngay trên điện thoại.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.05248 |
| ArXiv Abstract | https://arxiv.org/abs/2608.05248 |
| PDF Download | https://arxiv.org/pdf/2608.05248.pdf |
| Github Repository | N/A |
4. Interpretable MEG Decoding of Perceived Speech: Cortical Sources and the Stimulus Features That Drive Retrieval (47 votes)
Tác giả: Ilia Semenkov, Daria Kleeva, Ivan Dakhtin, Zarina Maksudova, Alex Ossadtchi
Xuất bản lúc: 2026-08-02
Tag: MEG, Speech perception, Neural decoding, Interpretable deep learning, Source localization, Occlusion analysis, CLIP, wav2vec 2.0, Spherical harmonics
I. Main Problem:
Mạng sâu hiện nay giải mã được lời nói từ MEG không xâm lấn với độ chính xác cao (chọn đúng đoạn âm thanh trong hơn 1000 ứng viên), nhưng hoạt động như hộp đen. Trọng số của chúng không ánh xạ được vào:
- vị trí vỏ não cụ thể
- nhịp điệu (tần số) của nguồn thần kinh
- đường thời gian của hoạt động
Hậu quả: ta không biết mạng phát hiện đặc điểm cảm giác của âm thanh hay ngữ nghĩa của từ, và không rõ thuộc tính nào của dòng lời nói thực sự được dùng để giải mã.
II. Main Idea:
Xây dựng bộ giải mã có ràng buộc vật lý và sinh lý, dựa trên khung của Petrosyan et al. Thay vì hộp đen, mỗi nhánh mạng được khớp với một nguồn thần kinh cụ thể cả về không gian lẫn thời gian. Bốn thay đổi chính so với Défossez et al.:
- Chú ý không gian bằng hàm cầu điều hòa (spherical harmonics) thay cho Fourier 2D — vì cảm biến MEG nằm trên mũ bảo hiểm gần hình cầu
- thêm bộ lọc thời gian (temporal filters) huấn luyện được cho mỗi nhánh, khớp nguồn theo tần số
- thu nhỏ xuống K=25 nhánh (từ 270) — nút thắt sinh lý hợp lý
- loại bỏ thành phần mắt/tim trước huấn luyện để tránh học tắt (shortcut)
Sau huấn luyện, trọng số được ánh xạ ngược ra không gian nguồn vỏ não (MNE), và dùng thay thế MEG ghép cặp (paired occlusion) — thay đoạn MEG có đặc trưng bằng đoạn MEG thật từ khoảng có/không có đặc trưng — để biết mạng dựa vào thông tin nào.
Ví dụ đời thường: giống thợ sửa radio dùng bộ lọc riêng biệt, mỗi cái đã biết trước nằm ở đâu và bắt tần số nào, để nghe ngõng từng bộ phận máy — thay vì bỏ toàn bộ tín hiệu vào một hộp đen đoán chung rồi không hiểu nó nghe được gì.
III. Main Results:
- 39.8% Top-1 và 70.4% Top-10 chính xác trên 1005 ứng viên (trung bình 6 lần huấn luyện), với ~20× ít tham số hơn mô hình Défossez.
- Trọng số ánh xạ ra nguồn vỏ não khớp với mạng lưới nhận thức lời nói kinh điển; nhánh l localize bên trái mang thành phần tần số cao không thấy ở bên phải.
- 15/19 đặc trưng kích thích đóng góp; hiệu ứng lớn nhất: sự im lặng, cường độ âm thanh, nguyên âm, điểm bắt đầu âm học.
- Danh sách từ ngẫu nhiên hành xử ngược: thay bằng MEG tự sự (có cấu trúc) thì giải mã tốt hơn → lời nói mạch lạc chứa thông tin khôi phục được nhiều hơn từ rời rạc.
- Mục tiêu wav2vec thu gọn còn ~12 chiều đặc trưng học được mà không mất độ chính xác; nén thời gian mạnh thì hiệu suất giảm rõ.
IV. Conclusion & Future Works:
Kiến trúc có prior vật lý/sinh lý tường minh không mất độ chính xác mà vẫn kiểm tra được sau huấn luyện: trọng số đổi thành nguồn vỏ não và động lực học, còn can thiệp đầu vào chỉ ra đặc trưng kích thích nào được dùng. Bộ giải mã kiểu này có thể làm công cụ khám phá khoa học thần kinh, không chỉ thước đo giải mã. Hướng tương lai: mở rộng sang lời nói tưởng tượng, ngôn ngữ sản xuất, và kết hợp can thiệp nhân quả để xác nhận cơ chế.
V. Brainstorming Space:
1. Publish Papers:
- Áp dụng khung giải mã có ràng buộc vật lý cho lời nói tưởng tượng (imagined speech) và giao diện phiên âm thần kinh không xâm lấn trên điện thoại thông minh.
- Mở rộng paired occlusion sang kích thích tự nhiên khác — âm nhạc, ngôn ngữ ký hiệu — để so sánh mạng lưới vỏ não nhận thức giữa các modality.
- Kết hợp truy vết nhân quả (causal tracing) với ánh xạ nguồn MNE để xác nhận đường dẫn trong mô hình brain-to-speech thay vì chỉ mô tả biểu diễn ẩn.
2. Patent:
- Thiết bị bản đồ ngôn ngữ thụ động trong phẫu thuật: đội mũ MEG gọn nhẹ, mô hình giải mã nhánh K=25 chạy trên điện thoại để chỉ điểm vùng vỏ não xử lý lời nói trong lúc bác sĩ mổ, cảnh báo chạm nhầm.
- Giao tiếp thần kinh qua app điện thoại cho người mất nói: người dùng nghe câu, mô hình trích nguồn bên trái/tần số cao rồi chuyển thành văn bản hoặc giọng nói tổng hợp mà không cần phẫu thuật cấy điện cực.
- Bộ lọc khử nhiễu mắt/tim tự động cho tai nghe MEG đeo thường ngày: tách thành phần cơ sinh ra khỏi tín hiệu vỏ não theo thời gian thực, giúp giải mã lời nói trong môi trường di chuyển.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.01481 |
| ArXiv Abstract | https://arxiv.org/abs/2608.01481 |
| PDF Download | https://arxiv.org/pdf/2608.01481.pdf |
| Github Repository | https://github.com/ivsemenkov/LISA |
5. GST-Bench: Can VLMs Develop Global Spatial Awareness from Video? (31 votes)
Tác giả: Qifeng Zhang, Kaixiang Huang, Heng Dong, Huang Fang, Junting Chen, et al.
Xuất bản lúc: 2026-08-06
Tag: VLMs, Spatial Intelligence, Video Understanding, VQA Benchmark, Embodied AI, Global Spatial Awareness
I. Main Problem:
Các benchmark không gian hiện tại chỉ đo nhận thức cục bộ từ một hoặc vài góc nhìn (2–3 view), bỏ qua nhận thức không gian toàn cục qua luồng video dài liên tục. Ba lỗ hổng cụ thể:
- Không tách biệt câu hỏi trả lời được từ một khung hình với câu hỏi buộc tổng hợp chéo khung hình.
- Thước đo thô (trái/phải, trước/sau) thay vì góc/ khoảng cách số học chính xác.
- Thiếu biểu diễn toàn cục rõ ràng (ảnh top-down) để đánh giá tương ứng egocentric-to-global.
Hậu quả: không biết mô hình có thực sự xây dựng được bản đồ không gian nhất quán của cả căn phòng hay không.
II. Main Idea:
GST-Bench là benchmark VQA đánh giá trí tuệ không gian toàn cục từ video. Cách tiếp cận cốt lõi:
- Cho mô hình một video khám phá egocentric dài hạn (6.790 phút), yêu cầu suy luận từ góc nhìn mới hoàn toàn không có trong video.
- Ép mô hình ghép nối quan sát lên ảnh top-down (3 mức: realistic / occupancy / floor-plan).
- Đảm bảo mục tiêu vô hình từ góc nhìn truy vấn, nên không thể lách bằng một khung hình đơn.
Ba năng lực cốt lõi → 12 subtask: self localization (Where am I?), object localization (Where is the target?), scene structure understanding (What does the scene look like?). Pipeline tự động trên OmniGibson/BEHAVIOR-1K, lọc + con người xác minh.
Ví dụ đời thường: giống người vào nhà lạ, đi một vòng quay phim bằng điện thoại, rồi tắt màn hình, đưa một tấm ảnh chụp góc khác và hỏi 'giờ mày đứng đâu, cái bình hoa lúc nãy nằm hướng nào' — phải nhớ và ghép nối từ chuyến đi vòng đó, chứ không được nhìn lại.
III. Main Results:
- Khoảng cách người–máy khổng lồ: người 79.08; mô hình zero-shot mạnh nhất Gemini-3-Pro chỉ 42.68 (thấp hơn 36.4 điểm). Nghiêm trọng nhất ở ước lượng hướng (21.52 vs 85.00).
- Mô hình mã nguồn mở thảm họa: Qwen3-VL-32B (30.43), InternVL3.5-38B (30.71) dẫn đầu nhưng chủ yếu nhờ chọn ảnh top-down dễ; 9/17 mô hình open-source/embodied sát điểm đoán bừa (20.01), 4 mô hình thậm chí thấp hơn random.
- Mô hình proprietary chỉ hơn khiêm tốn: Gemini-3-Pro/2.5-Pro, GPT-5 tạo top tier (~40–42), gấp đôi random nhưng vẫn <55% người.
- Embodied-tuned không cứu được: RoboBrain, Cosmos-Reason, Robix không vượt backbone tổng quát cùng cỡ — mù nhận thức toàn cục giống hệt.
- GST-Local chẩn đoán: khi để mục tiêu visible (chỉ cần 1 ảnh), Gemini-3-Pro tăng tới 39 điểm → lỗi do tích hợp chéo khung hình, không phải hiểu đơn ảnh; open-source vẫn yếu cả hai khâu.
- GST-Train cứu viện: fine-tune Qwen3-VL-8B trên GST-Train tăng 25.89 → 53.52 (+27.63), vượt mọi mô hình proprietary zero-shot.
IV. Conclusion & Future Works:
Khoảng cách nhận thức không gian toàn cục là điểm mù hệ thống của VLM hiện tại: proprietary yếu ở tích hợp chéo khung hình, open-source yếu cả nhận thức lẫn tích hợp. Dữ liệu giám sát đúng hướng (GST-Train) thu hẹp hiệu quả. Hướng tương lai: xây bộ nhớ không gian dài hạn, căn chỉnh chéo góc nhìn, và recipe huấn luyện embodied tập trung vào spatial memory thay vì chỉ affordance cục bộ.
V. Brainstorming Space:
1. Publish Papers:
- Xây GST-Train quy mô lớn trên BEHAVIOR-1K, ArtVIP, HyperSim để huấn luyện khả năng suy luận không gian toàn cục, chứng minh fine-tune thu hẹp khoảng cách người–máy.
- Phân tích chẩn đoán tách biệt 'lỗi nhận thức đơn ảnh' và 'lỗi tích hợp chéo khung hình' qua biến thể local, chỉ ra khác biệt định tính giữa mô hình proprietary và open-source.
- Mở rộng thu thập scene nội thất đa dạng và giữ nguyên tách biệt train/eval scene để tránh rò rỉ, làm nền tảng benchmark cho spatial memory dài hạn.
2. Patent:
- Robot gia đình dọn dẹp: đi một vòng quay phim nhà bằng camera, sau đó qua ảnh góc khác hỏi 'đôi tất lúc nãy ở đâu' — điện thoại/robot tự nhớ vị trí vật thể dù không còn trong tầm nhìn hiện tại, hỗ trợ tìm đồ thất lạc.
- Ứng dụng điện thoại hỗ trợ người khiếm thị: người dùng quay video đi qua phòng, app trích xuất bản đồ top-down và trả lời 'tôi đang đứng đâu, cửa ra hướng nào' bằng giọng nói khi đưa một tấm ảnh góc nhìn mới.
- Hệ thống kho bãi/logistics: xe AGV quét mặt bằng một lượt, sau đó định vị kiện hàng từ góc camera lạ và vẽ sơ đồ occupancy lên màn hình quản lý mà không cần lắp cảm biến cố định khắp nơi.
- Tính năng 'nhớ nhà' cho robot hút bụi: sau chuyến dò bản đồ, qua một tấm ảnh chụp góc khác yêu cầu 'về trạm sạc' — robot tự ghép nối vị trí hiện tại lên bản đồ toàn cục đã xây.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.05747 |
| ArXiv Abstract | https://arxiv.org/abs/2608.05747 |
| PDF Download | https://arxiv.org/pdf/2608.05747.pdf |
| Github Repository | N/A |
6. EnvACE: Internalizing Environment Dynamics via World Rehearsal for Agentic Reinforcement Learning (30 votes)
Tác giả: Zishan Xu, Zhiyuan Yao, Yuxin Chen, Yifu Guo, Zhengxi Lu, et al.
Xuất bản lúc: 2026-08-06
Tag: Agentic RL, World Model, Tool Use, GRPO, LLM Agents, RLVR, Test-Time Scaling
I. Main Problem:
Huấn luyện agent LLM cho tác vụ dài hạn dùng công cụ hiện phụ thuộc vào môi trường thực hoặc bộ mô phỏng bên ngoài để lấy phản hồi sau mỗi hành động. Hậu quả:
- môi trường thực thi tốn kém để xây dựng và khó xác minh đúng khi phức tạp lên
- bộ mô phỏng LLM thì phản hồi sai/không nhất quán, vẫn cần môi trường thật để căn chỉnh
- động lực học môi trường nằm bên ngoài policy, khiến khả năng mô hình hóa phản hồi không được học vào trong mô hình tác tử.
II. Main Idea:
World rehearsal (tự diễn tập thế giới) gán cho một policy duy nhất hai vai trò: người tác động (ACT) và người đóng vai môi trường (REHEARSE). Quy trình mỗi bước:
- policy sinh một lời gọi công cụ (action)
- ngay sau đó, chính policy tự sinh phản hồi mà hành động đó sẽ gây ra (observation giả định)
- bước tiếp theo điều kiện trên phản hồi tự sinh này, thay vì chờ môi trường ngoài
Cả hai vai dùng chung tham số và được tối ưu chung end-to-end bằng role-wise GRPO (tính baseline riêng từng vai nhưng cập nhật chung trọng số). Nhờ lặp đi lặp lại, quan hệ 'hành động → phản hồi' được hấp thụ vào trọng số thành một agent world model. Tại test-time, policy có thể diễn tập kín nhiều phương án trước khi thực thi thật, không làm thay đổi môi trường.
Ví dụ đời thường: giống một người học nghề tự đóng vai cả khách hàng lẫn thu ngân — tự nói câu mình sẽ nói rồi tự trả lời thay máy, nhờ vậy ngấm được máy phản ứng ra sao mà chẳng cần ai đứng làm môi trường thật cho mình tập.
III. Main Results:
- Trên BFCL-v4, τ²-Bench, VitaBench: EnvACE-8B đạt Overall 32.91%, vượt mọi baseline mở rộng môi trường (hơn EnvScaler-8B 0.99%, AWM-14B 0.37%).
- Trên FinMCP-Bench: TF1 46.78% cao nhất, vượt EnvScaler-8B 3.10%; tool precision 54.04% cao nhất.
- Ablation: world rehearsal nâng τ²-Bench từ 31.2% (GRPO thường) lên 36.7% (+5.5%); chia sẻ tham số hai vai giúp thêm 1.2% so với hai policy riêng.
- Mở rộng quy mô: từ 1.7B lên 8B tăng BFCL 31.81→46.04% và τ²-Bench 15.3→36.7%.
- Test-time scaling: diễn tập N=2 (parallel, dùng EnvACE) đạt Overall 40.9%, +4.2% so với không diễn tập; ngân sách vừa (N=2) tốt nhất, N=3 giảm do quá dài context.
IV. Conclusion & Future Works:
World rehearsal là hướng tiếp cận thay thế khả thi và mở rộng được cho huấn luyện agent dựa vào môi trường thực / mô phỏng ngoài, nhờ nội tại hóa động lực học vào policy. Hạn chế & tương lai: chỉ thử đến 8B (cần khảo sát mô hình lớn hơn); mới tập trung tác vụ tool-interactive (cần mở rộng sang thiết lập agent đa dạng hơn).
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng world rehearsal lên các backbone lớn hơn (14B, 30B+) và kết hợp với RLVR đa nhiệm để xem giới hạn khái quát hóa của agent world model khi quy mô tăng.
- Áp dụng world rehearsal cho agent đa lĩnh vực phi tool-use như navigation web, GUI, và software engineering để kiểm chứng tính tổng quát ngoài tác vụ gọi hàm.
- Nghiên cứu cơ chế chia sẻ tham số giữa acting và rehearsal sâu hơn: tách riêng không gian đại diện hay dùng adapter để cân bằng giữa hành động và mô hình hóa môi trường.
2. Patent:
- Trợ lý tài chính trên điện thoại: trước khi gửi lệnh chuyển tiền thật, app tự diễn tập kín các bước gọi API ngân hàng, dự đoán phản hồi rồi chọn chuỗi hành động an toàn nhất, giảm sai sót mà không cần gọi server thật nhiều lần.
- Tác nhân đặt đồ ăn/gọi xe: hệ thống tự mô phỏng phản hồi của app đối tác (xác nhận đơn, báo hết món) để chọn cách trao đổi với người dùng ít nhầm lẫn nhất trước khi thao tác thực.
- Trình duyệt tự động trên mobile: agent tự đóng vai trang web trả về kết quả tìm kiếm giả định để luyện quyết định click/navigate, giúp chạy mượt trên app lạ mà không tốn tương tác mạng thực.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.06197 |
| ArXiv Abstract | https://arxiv.org/abs/2608.06197 |
| PDF Download | https://arxiv.org/pdf/2608.06197.pdf |
| Github Repository | https://github.com/Within-yao/EnvACE |
7. Learning from Failures: Retrieval-Centric CoT via Hard Negatives for Unified Multimodal Retrieval (26 votes)
Tác giả: Zelong Sun, Jun Wang, Kaicheng Yang, Tiancheng Gu, Ziyong Feng, et al.
Xuất bản lúc: 2026-08-06
Tag: Multimodal Retrieval, Chain-of-Thought, Hard Negatives, Reinforcement Learning, GRPO, LVLM, Embedder, Reranking
I. Main Problem:
Truy xuất đa phương thức thống nhất (unified multimodal retrieval) muốn tìm ứng viên đúng theo ý định phức tạp của người dùng qua nhiều loại đầu vào (văn bản, ảnh, video, tài liệu thị giác). Các bộ mã hóa LVLM hiện tại mã hóa trực tiếp đầu vào thô thành một embedding duy nhất, nên thường bỏ sót các đặc trưng tinh vi để phân biệt mục tiêu khỏi các ứng viên na ná nhau.
Các phương pháp CoT gần đây giải thích truy vấn nhưng chỉ suy luận từ truy vấn đơn thuần, không hề nhìn kết quả truy xuất thực tế — nên chúng biết truy vấn nói gì, nhưng không biết bộ retriever đang hiểu lầm chỗ nào. Hậu quả:
- CoT chung chung lặp lại nội dung nổi bật, bỏ qua sự khác biệt tinh tế giữa mục tiêu và ứng viên gây nhầm.
- áp dụng CoT bừa bãi khi truy xuất đã đúng sẽ thêm nhiễu ngữ nghĩa thừa.
II. Main Idea:
UniME-R1 đề xuất khung Embedder–Adviser với Retrieval-Centric CoT (RC-CoT) — suy luận không từ truy vấn mà từ phản hồi truy xuất ban đầu. Quy trình:
- Một embedder hai chế độ (dual-mode) truy xuất trước tập top-k ứng viên.
- Một adviser nhìn truy vấn + các ứng viên top-k, phân tích từng cái để chẩn đoán sự nhầm lẫn của embedder (đúng đối tượng nhưng sai thuộc tính/thứ tự thời gian/bố cục).
- RC-CoT gồm hai trường:
<cot_focus>tóm tắt đặc trưng phân biệt bị nhầm, và<cot_answer>chuyển thành mô tả truy vấn đã hiệu chỉnh. - Chiến lược rerank-or-retrieve thích ứng: nếu mục tiêu đã nằm trong top-k thì chỉ rerank; nếu chưa, gắn RC-CoT vào truy vấn và truy xuất lại toàn bộ kho qua chế độ generative. Ứng viên luôn mã hóa một lần (discriminative), giữ nguyên index.
- Huấn luyện bằng hard negatives (mô phỏng thất bại truy xuất thực tế) + SFT + GRPO với 4 phần thưởng: định dạng, phán đoán đường đi, xếp hạng, và RC-CoT cải thiện truy xuất.
Ví dụ đời thường: giống sinh viên thi trắc nghiệm, sau khi nộp bài thầy trả lại các đáp án gần đúng của mình, cậu soi thấy 'à mình hay nhầm đáp án A với C vì quên điều kiện thời gian', rồi dùng nhận xét đó để sửa lại bài thay vì chỉ đọc lại đề bài một mình.
III. Main Results:
- Trên MMEB-V2: UniME-R1 đạt overall 69.9 (2B) và 70.3 (4B), vượt baseline mạnh nhất từng nhóm +3.1 và +1.4 điểm; 2B đã thắng mọi baseline cỡ trung.
- So với UME-R1/TTE (Reasoner–Embedder trực tiếp): 2B hơn +9.8/+6.8 điểm overall; 4B hơn +5.8/+1.7.
- Zero-shot chung (Flickr30K, COCO, ShareGPT4V, Urban1K, UVRB): 2B vượt UniME-V2-7B tới +7.3 điểm trên COCO, 4B hơn Embed-RL-4B +1.6 trên UVRB.
- Ablation RC-CoT: query-only CoT đạt 65.6; RC-CoT dựa trên top-k thật đạt 68.5 (+2.9). Bỏ
<cot_focus>giảm xuống 67.9, chứng tỏ chẩn đoán lỗi có giá trị riêng. - Ablation routing: UniME-R1 (adaptive) 69.9, tốt hơn 'luôn rerank' (69.1) và 'luôn re-retrieve' (69.0); Oracle routing đạt 72.2.
IV. Conclusion & Future Works:
UniME-R1 chứng minh suy luận nên đặt nền tảng trên phản hồi truy xuất chứ không phải mô tả truy vấn đơn thuần: RC-CoT chẩn đoán và sửa lỗi cụ thể của retriever, kết hợp routing thích ứng tiết kiệm tính toán. Khung này vượt cả embedding-only và Reasoner–Embedder, không cần sinh CoT cho phía ứng viên.
Hướng tương lai: thu hẹp khoảng cách với Oracle routing (cải thiện phán đoán đường đi, nhất là trên video); mở rộng sang kho ứng viên cực lớn thực tế; kết hợp hard-negative mining tự động hơn và khám phá thêm phần thưởng hướng truy xuất.
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu cải thiện chất lượng phán đoán rerank-or-retrieve bằng học tự giám sát trên phân bố thất bại thực tế, nhắm thu hẹp khoảng cách 2.3 điểm với Oracle routing.
- Mở rộng RC-CoT sang truy xuất video dài và tài liệu thị giác phức tạp, nơi sự nhầm lẫn về thứ tự thời gian và chi tiết cấp tài liệu rõ rệt nhất.
- Kết hợp hard-negative mining dựa trên LVLM-judge với quy hoạch dữ liệu GRPO động để tập trung vào các mode thất bại mới nổi của hệ thống đã SFT.
- Áp dụng tư tưởng retrieval-feedback reasoning cho các tác vụ xếp hạng và RAG đa phương thức trên thiết bị thực tế.
2. Patent:
- Tính năng tìm kiếm ảnh/video trên điện thoại: sau lượt tìm đầu, hệ thống tự phân tích các kết quả gần đúng nó vừa trả về, nhận diện 'người dùng hay nhầm ảnh chó với mèo cùng màu' rồi tự sửa từ khóa tìm kiếm lần hai mà không cần người dùng gõ lại.
- Công cụ tìm kiếm tài liệu quét (scan) trong app ngân hàng: khi truy xuất sai tờ hóa đơn tương tự, model soi các bản candidate để biết đang nhầm ngày/tháng hay số tiền, tự highlight đúng trường cần lọc thay vì nạp lại toàn bộ văn bản.
- Gợi ý video trên mạng xã hội: thuật toán xem các clip đề xuất gần đúng rồi điều chỉnh hướng gợi ý theo 'người dùng thích hành động hơn là tĩnh vật', cải thiện độ trúng ý mà không tốn thêm lượt cuộn của người dùng.
- Hệ thống tìm kiếm bảo mật trong thư viện ảnh gia đình: dựa trên tập kết quả đầu, tự nhận ra đang lẫn lộn hai đứa trẻ cùng dáng, tự bổ sung đặc điểm phân biệt (áo màu, bối cảnh) để truy xuất lại chính xác.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.06060 |
| ArXiv Abstract | https://arxiv.org/abs/2608.06060 |
| PDF Download | https://arxiv.org/pdf/2608.06060.pdf |
| Github Repository | https://github.com/deepglint/UniME-R1 |
8. ChronoVision: Temporal Reasoning via Latent State Reconstruction (26 votes)
Tác giả: Yifan Shen, Jian Xu, Boyi Li, Yuner Zhang, Tianjiao Yu, et al.
Xuất bản lúc: 2026-08-06
Tag: Multimodal-LLM, Temporal-Reasoning, Visual-Imagery, Latent-Reconstruction, Reinforcement-Learning, GRPO, Video-Reasoning, ROI-Attention
I. Main Problem:
Các multimodal LLM giỏi nhận thức thụ động (caption, detection) nhưng yếu khi suy luận thời gian đa bước (theo dõi biến đổi vật lý liên tục). Nguyên nhân cốt lõi:
- nút thắt ngôn ngữ: chuỗi Chain-of-Thought bằng text không diễn tả nổi phép biến đổi thị giác liên tục (xoay 3D, quỹ đạo vật lý), làm mất thông tin không gian.
- lỗ hổng đánh giá: benchmark VQA dạng trắc nghiệm cho phép mô hình dùng pattern ngôn ngữ đoán đáp án mà không cần nhìn thật, né được suy luận thị giác.
- chọn một đáp án cuối không đo được luận lý trình tự theo thời gian (từ trạng thái đầu qua trung gian đến kết quả).
II. Main Idea:
ChronoVision huấn luyện mô hình tái tạo trạng thái thị giác cuối cùng trong không gian latent thay vì chỉ nói bằng lời — bắt chước thói quen con người 'hình dung trong đầu' cách một cảnh sẽ diễn biến. Ba thành phần:
- Reconstructive Visual Head (RVH): mô-đun MLP chạy song song với decoder, dự đoán biểu diễn latent của khung hình cuối từ các khung rời rạc, học bằng MSE + cross-entropy.
- ROI Attention Locating: ép attention tập trung vào vùng động trọng yếu qua token
<locate>làm query và bounding box làm giám sát (Attention Condensation loss). - RL với Implicit Process Grounding (GRPO): phần thưởng tổ hợp 3 phần —
Rout(đúng trình tự),Rlatent(căn chỉnh latent bước suy luận với đặc trưng ảnh ứng viên),Rfocus(phạt sụp đổ attention) — để chặn lỗi cộng dồn trong chuỗi dài.
Đi kèm là benchmark Vbvr-VQA: biến video-thinking thành bài xếp thứ tự ảnh nghiêm ngặt (cho 6 khung xáo trộn, buộc sắp đúng trình tự) — triệt tiêu shortcut ngôn ngữ.
Ví dụ đời thường: giống thợ cơ khí không giải thích bằng miệng mà nhắm mắt tưởng tượng chiếc ốc vặn đến bước cuối trông ra sao, rồi soi tay vào từng chi tiết thực tế để chắc mình xếp đúng thứ tự tháo lắp trước khi làm.
III. Main Results:
- Vbvr-VQA SOTA: 74.8% In-Domain, 71.6% Out-of-Domain, 73.2% overall — vượt mạnh mọi mô hình mã mở và thương mại (Claude Opus 4.6: 50.8/60.8%, GPT-o3, Gemini 3.1 Pro).
- Mô hình chỉ 9B tham số mà đánh bại Qwen 3.5 397B và GPT-o3 lớn hơn nhiều.
- IntPhys2 (cross-domain vật lý thực): 55.0% overall, +6.5% so với base Qwen 3.5 9B; Easy đạt 62.5% (+11.5%).
- Không suy giảm năng lực chung: MMMU 78.8, MathVista 85.9 — tương đương base.
- Ablation: RVH +3.2% ID / +2.8% OOD; ROI +1.2%; RL +3.2% / +2.8%. Bỏ
Routsụt mạnh nhất (-3.4%),Rlatent-2.2%,Rfocus-1.4%.
IV. Conclusion & Future Works:
ChronoVision phá nút thắt ngôn ngữ bằng cách tái tạo trạng thái latent + định vị ROI + RL căn chỉnh quá trình, giúp mô hình 9B đạt SOTA trên cả suy luận trừu tượng lẫn vật lý thực. Hạn chế: chỉ thử trên backbone 9B, phụ thuộc giám sát dày (token <locate>, bounding box). Hướng tương lai: mở rộng lên backbone lớn hơn; thử nghiệm giám sát yếu / không cần annotation; tích hợp mô hình sinh để trực quan hóa chuỗi tư duy thị giác thành ảnh thật.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng latent reconstruction sang backbone đa tỷ tham số để kiểm chứng tính khả mở (scalability) của cơ chế tái tạo trạng thái ẩn trên bài toán temporal reasoning dài hạn.
- Thiết kế phiên bản ROI Attention Locating không cần bounding box / annotate — dùng self-supervision từ attention map để giảm chi phí gán nhãn dày.
- Kết hợp ChronoVision với mô hình sinh ảnh để 'vẽ ra' chuỗi tư duy thị giác trung gian, biến latent reasoning thành chuỗi khung hình có thể kiểm chứng bởi con người.
- Chuyển Vbvr-VQA sang đa ngôn ngữ và đa miền video thực tế (thể thao, phẫu thuật) để đo khả năng khái quát ngoài vật lý tổng hợp.
2. Patent:
- Ứng dụng trên điện thoại: app hướng dẫn lắp ráp đồ IKEA bằng camera — quét các bước lộn xộn, AI tự xếp đúng thứ tự thao tác theo thời gian nhờ tái tạo trạng thái cuối, không để người dùng đoán từ text.
- Tính năng 'tua ngược sự cố' cho camera an ninh: cho 6 khung hình vụ tai nạn / mất đồ bị xáo trộn, mô hình tự sắp lại trình tự nguyên nhân – kết quả, hỗ trợ điều tra mà không cần metadata thời gian.
- Trợ lý sửa chữa gia dụng: người dùng chụp các bước tháo máy giặt rời rạc, app sắp xếp lại quy trình tháo lắp đúng và cảnh báo nếu thiếu bước trung gian, giảm sai sót tự sửa.
- Hệ thống kiểm tra quy trình sản xuất: từ chuỗi ảnh công đoạn bị trộn lẫn, AI phục hồi trình tự lắp ráp chuẩn để phát hiện sai khác so với luồng thực tế trên dây chuyền.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.05631 |
| ArXiv Abstract | https://arxiv.org/abs/2608.05631 |
| PDF Download | https://arxiv.org/pdf/2608.05631.pdf |
| Github Repository | N/A |
9. From Economic Agents to Agentic Economies: A Systems Blueprint for Economic World Models (24 votes)
Tác giả: Jiale Han, Xiang Li, Jing Qian, Wenyuan Gu, Pin Gao, et al.
Xuất bản lúc: 2026-08-06
Tag: Economic World Models, LLM Agents, Multi-Agent Simulation, Agent-Based Modeling, Sim-to-Real, Digital Twin, Reinforcement Learning
I. Main Problem:
Kinh tế học truyền thống chỉ quan sát và giải thích (ước lượng quan hệ, tìm điểm cân bằng, dự báo) nhưng thiếu giải thích sinh thành: nó không cho thấy hiện tượng kinh tế 'trồi lên' từ bên trong mô hình như thế nào. Hệ quả:
- Không thể mô phỏng vòng phản hồi khép kín nơi hành động của tác nhân tạo ra trạng thái tiếp theo rồi quay lại sửa niềm tin của chính họ.
- Các phòng thí nghiệm AI hàng đầu (OpenAI, Anthropic) đang cần hiểu hậu quả kinh tế của AI nhưng thiếu 'hộp cát' độ trung thực cao để thử chính sách, thiết kế thị trường và rủi ro hệ thống trước khi triển khai thực tế.
II. Main Idea:
Bài báo đề xuất Economic World Models (EWM) – một động cơ sinh thành mô phỏng nền kinh tế 'từ bên trong' qua bốn lớp ghép mô-đun: lớp tác nhân (hộ gia đình, doanh nghiệp, ngân hàng, cơ quan quản lý với niềm tin, ràng buộc, bộ nhớ, công cụ), lớp môi trường (giá, thị trường, hợp đồng, định chế), lớp đồng tiến hóa (tác nhân và luật lệ tự thích nghi qua các vòng lặp), và lớp căn chỉnh thực tế (so sánh quỹ đạo mô phỏng với dữ liệu thật để sửa trôi mô hình).
Tác giả xây thang năng lực 6 cấp độ (L1 cố định luật → L2 thích nghi luật → L3 tác nhân LLM tự chủ → L4 tác nhân tự tiến hóa → L5 thế giới định chế đồng tiến hóa → L6 song sinh sim-to-real), đi kèm giao diện thực thi kiểu môi trường (ewm.make, world.step). Tác nhân và thế giới cải thiện lẫn nhau: tác nhân luyện trong EWM, rồi năng lực chuyển ngược vào EWM giúp dự báo trạng thái chính xác hơn.
Ví dụ đời thường: giống một thành phố thu nhỏ trong máy tính – thay vì chuyên gia đứng ngoài đoán giá nhà sẽ tăng, ta cho hàng ngàn 'người ảo' có túi tiền và nỗi lo riêng tự mua bán, rồi xem chính các giao dịch đó tự sinh ra mức giá; như thả đàn cá vào bể và quan sát dòng nước tự cuộn而不是 ép nước chảy theo đồ thị vẽ sẵn.
III. Main Results:
- Từ 7.836 bài ứng viên (arXiv + tạp chí UTD-24, 1950–4/2026) qua lọc từ khóa và sàng hai tầng bằng GPT-5.4-mini / GPT-5.5, chỉ 737 bài được xác thực là EWM thực sự.
- Nghiên cứu gần đây (sau 2018, vọt mạnh 2024–2025) dồn vào L1–L3 (tác nhân thích nghi và LLM tự chủ); L4–L6 cực hiếm (tác nhân tự tiến hóa, định chế nội sinh, sim-to-real).
- Tạp chí kinh tế/quản trị (UTD-24) chủ yếu ở L1–L2, mô hình grounded kinh tế tốt nhưng ít dùng LLM hay tự hiệu chỉnh thực tế – phản ánh sự phân công: arXiv đẩy năng lực AI mới, tạp chí kinh tế giữ kỷ luật mô hình vững.
- Khoảng trống lớn nhất: hệ thống có tác nhân tự tiến hóa, định chế nội sinh, căn chỉnh thực nghiệm bền vững và cơ chế kinh tế đã kiểm chứng vẫn rất thiếu.
IV. Conclusion & Future Works:
EWM là lộ trình hệ thống CS/AI để biến 'thế giới kinh tế' thành thứ có thể xây, thử và căn chỉnh như hệ thống AI, đồng thời giữ kỷ luật cân bằng DDGE của khung EWM. Cần nỗ lực cộng đồng liên ngành (AI, kinh tế, quản trị, khoa học xã hội, chính sách) để xây EWM đáng tin, mở rộng, gắn thực tế. Hướng tới: chuẩn hóa API tiến hóa/căn chỉnh, thử nghiệm an toàn (thao túng, thông đồng, sụp đổ dây chuyền), và song sinh kinh tế tự hiệu chỉnh theo thời gian thực.
V. Brainstorming Space:
1. Publish Papers:
- Ứng dụng EWM làm hộp cát chính sách cho ngân hàng trung ương và cơ quan quản lý: chạy trước kịch bản tăng lãi suất, thuế, trợ cấp trên hàng triệu tác nhân ảo để xem rủi ro hệ thống trước khi áp dụng thật.
- Dùng EWM làm môi trường huấn luyện và đánh giá AI agent dưới khan hiếm và ràng buộc định chế – thay vì sandbox trò chơi, agent học quyết định kinh tế có hậu quả phản hồi thực.
- Tích hợp EWM vào nền tảng quyết định doanh nghiệp: mô phỏng phản ứng đối thủ, khách hàng, nhà cung cấp khi đổi giá hoặc tung sản phẩm, hỗ trợ hoạch định chiến lược.
2. Patent:
- Ứng dụng điện thoại: trợ lý tài chính cá nhân mô phỏng 'what-if' – người dùng nhập kế hoạch chi tiêu; app chạy hàng ngàn tác nhân hộ gia đình ảo trong EWM thu nhỏ để dự báo tác động lên ngân sách và gợi ý hành động tốt hơn trước khi quyết định thật.
- Ứng dụng điện thoại: cảnh báo rủi ro thị trường cho nhà đầu tư nhỏ – app mô phỏng phản ứng đám đông và nhà tạo lập khi có tin tức, cho thấy giá có thể sụp hay phục hồi, giúp người dùng tránh hoảng loạn bán tháo.
- Ứng dụng điện thoại: bộ mô phỏng tác động chính sách địa phương – chính quyền hoặc citizen nhập đề xuất thuế/sử dụng đất, app chạy EWM cấp độ thấp để xem ảnh hưởng lên giá nhà, việc làm trên từng nhóm dân cư trước khi biểu quyết.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.06020 |
| ArXiv Abstract | https://arxiv.org/abs/2608.06020 |
| PDF Download | https://arxiv.org/pdf/2608.06020.pdf |
| Github Repository | https://github.com/FreedomIntelligence/Awesome-Economic-World-Models |
10. HarnessOpt-Bench: Evaluating LLMs at Harness Optimization (21 votes)
Tác giả: Varun Ursekar, Apaar Shanker, Yash Maurya, Shehab Yasser, Vijay S. Kalmath, et al.
Xuất bản lúc: 2026-08-06
Tag: LLM, Agent, Harness Optimization, Benchmark, Meta-Optimization, Self-Improving Agents, Coding Agent
I. Main Problem:
Khi LLM được triển khai trong các hệ thống agent, năng lực của chúng phụ thuộc không chỉ vào trọng số mô hình mà còn vào harness — tức code bao quanh (prompt, tool, luồng điều khiển, bộ nhớ, orchestration). Việc tự động tối ưu harness (cải thiện harness qua nhiều vòng lặp có đánh giá) là con đường quan trọng để nâng cấp AI, nhưng cộng đồng thiếu một giao thức chung để đo xem các mô hình tiền tuyến làm tốt việc này đến đâu.
Khó khăn cốt lõi:
- Đánh giá một thay đổi harness rất tốn kém và nhiễu (phải chạy agent ngẫu nhiên qua nhiều ca), khác hẳn test-suite rẻ trong tối ưu code thường.
- Các công trình hiện tại tự đánh giá bằng seed, budget, disclosure, scoring khác nhau → kết quả đan xen giữa mô hình tối ưu, harness, agent mục tiêu và giao thức, không so sánh được.
II. Main Idea:
HARNESSOPT-BENCH định nghĩa tối ưu harness thành một bài toán tối ưu chương trình có ràng buộc và ngẫu nhiên. Một optimizer (LLM ghép với coding harness) nhận seed harness của agent mục tiêu, phản hồi đánh giá có phân loại, và một ngân sách đánh giá cố định. Nó sửa harness, đề cử một candidate cuối, được chấm bằng normalized gain so với seed trên tập test held-out không thể truy cập suốt quá trình tìm kiếm.
Thành phần then chốt:
- Trusted execution environment: tách biệt state held-out, đo lường tài nguyên, lưu version mọi candidate để audit (xây trên VERO).
- Graded disclosure: dev tiết lộ trace/chỉ số từng ca để chẩn đoán; val chỉ tiết lộ điểm tổng; test bị khóa hoàn toàn.
- Protocol cố định: target model, environment, verifier giữ nguyên; splits dev/val/test không gối nhau; seed pinned.
- Đo LSS-λ: hiệu ứng riêng của mô hình tối ưu sau khi trừ đi khác biệt nhiệm vụ.
Ví dụ đời thường: giống một người quản lý được giao cải tiến quy trình làm việc của một tổ, nhưng bị cấm nhìn thẳng vào kết quả cuối kỳ thi (test); ông chỉ được xem nhật ký thử nghiệm nội bộ (dev) và điểm trung bình đợt kiểm tra nháp (val), với hạn mức số lần được chạy thử (budget), rồi phải chốt một bản quy trình duy nhất — và kết quả thật chỉ lộ sau khi chốt.
III. Main Results:
- Mô hình quan trọng hơn harness: đổi optimizer model làm gain thay đổi trung bình 0.142, đổi coding harness chỉ 0.079 (gấp ~1.8×). Cả hai vượt band phân giải nhiệm vụ, harness sát ngưỡng hơn.
- Native harness không nhất quán hơn: claude-code/codex/kimi-cli không mang lại lợi thế ổn định; GPT models tốt hơn hẳn dưới codex (+0.179, +0.131), nhưng Claude/Kimi nằm trong band.
- Phân tách được các mô hình tiền tuyến (RQ1): cấu hình mạnh nhất chiếm ~2/3 headroom OfficeQA, yếu nhất không phân biệt được với 0 trên BrowseComp-Plus và Terminal-Bench.
- Theo dõi tiến bộ model (RQ2): qua 5 bản GPT, gain tăng đơn điệu +0.03→+0.49 (3/4 bước vượt band); qua 5 bản Claude Opus +0.37→+0.59, không đơn điệu nhưng spread vượt band.
- Khoảng cách năng lực còn lại (RQ3): khám phá rộng (chạm nhiều lever harness) dương liên kết với gain (ρ +0.34 đến +0.88); đọc trace chi tiết không liên kết dương (ρ −0.31 đến −0.64). Ràng buộc thực sự là số lượt chạy ca, không phải số lời gọi đánh giá. Điểm val thường lạc quan hơn test.
IV. Conclusion & Future Works:
Harness optimization là năng lực có thể đo lường và phân tách được, với dư địa cải thiện lớn. Benchmark biến việc kỹ sư harness từ demo riêng của từng optimizer thành mục tiêu đánh giá tái lập được cho mọi hệ thống cải thiện agent. Hướng tương lai: tách biệt đóng góp của breadth khám phá khỏi effort tìm kiếm; điều tra tại sao đọc trace không giúp; mở rộng sang nhiệm vụ agent phức tạp hơn và nhiều target model; áp dụng để so sánh các thuật toán search/optimizer thiết kế khác nhau trên cùng một bài toán cố định.
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu cơ chế: thử nghiệm can thiệp chủ động vào từng lever harness (prompt, tool schema, retry policy...) để phân tách hiệu ứng của exploration breadth khỏi tổng lượng chỉnh sửa, xác định lever nào thực sự drives gain trên từng loại nhiệm vụ.
- Xây dựng protocol held-out cho meta-optimization trên agent đa-target-model, mở rộng trusted execution để đo đồng thời cả hiệu ứng của optimizer model và của agent model bị tối ưu.
- Phân tích lý thuyết về bias lạc quan của validation score dưới evaluation nhiễu, đề xuất quy tắc điều chỉnh ngân sách ca để giảm overfit vào điểm val nhìn thấy được.
2. Patent:
- Hệ thống tự tối ưu ‘trợ lý ảo trên điện thoại’: app cho phép một LLM tự chỉnh prompt và luồng gọi tool của chính trợ lý (harness) dựa trên phản hồi ẩn danh từ người dùng, với vùng chạy thử bị khóa dữ liệu thực và hạn mức số lần test để tránh tiêu tốn tài nguyên, tự chốt bản cấu hình tốt nhất mỗi tuần.
- Công cụ CI cho app di động: một agent tự sửa quy trình kiểm thử tự động (test harness) của ứng dụng, chỉ được xem log chạy nội bộ và điểm tổng đợt thử, bị giới hạn số lượt chạy thiết bị thật, rồi đề xuất cấu hình test tối ưu phát hiện lỗi tốt nhất.
- Tính năng ‘tự học quy trình’ cho chatbot doanh nghiệp: nền tảng tự động thử nghiệm nhiều biến thể hệ thống (cách gọi API, cách nhớ ngữ cảnh) trong sandbox cô lập, chấm điểm trên tập dữ liệu ẩn, và chỉ cập nhật bản quy trình lên sản phẩm khi vượt ngưỡng cải thiện đáng tin.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.06301 |
| ArXiv Abstract | https://arxiv.org/abs/2608.06301 |
| PDF Download | https://arxiv.org/pdf/2608.06301.pdf |
| Github Repository | N/A |
11. On-Policy Delta Distillation for Multilingual Math Reasoning (20 votes)
Tác giả: Byeongho Heo, Jaehui Hwang, Sangdoo Yun, Dongyoon Han
Xuất bản lúc: 2026-08-06
Tag: On-Policy Distillation, OPD2, Multilingual, Math Reasoning, LLM Post-training, Knowledge Distillation, Qwen3
I. Main Problem:
On-Policy Distillation (OPD) và biến thể nâng cao OPD2 đang nổi lên thay thế RL cho hậu huấn luyện LLM, nhưng mới chỉ được khảo sát trên tiếng Anh. Hai lỗ hổng chính:
- Các ngôn ngữ Đông Á (Hàn, Nhật) hầu như chưa được thử nghiệm với OPD dùng teacher mạnh.
- Chưa rõ OPD2 có còn thắng OPD khi chuyển sang ngôn ngữ khác, và có thu hẹp được khoảng cách Anh–phi-Anh trong suy luận toán hay không.
Ba câu hỏi nghiên cứu: (1) OPD2 có thắng OPD trong đa ngôn ngữ? (2) Có thu hẹp khoảng cách ngôn ngữ? (3) OPD chỉ tiếng Anh ảnh hưởng thế nào đến suy luận và việc sinh đúng ngôn ngữ đầu vào?
II. Main Idea:
OPD2 thay đổi tín hiệu học của OPD gốc bằng một delta signal — hiệu số log-xác suất giữa teacher đã post-train và base model gốc của chính teacher đó, thay vì so sánh teacher với student.
Cơ chế on-policy:
- Student sinh câu trả lời từ policy hiện tại (rollout).
- Teacher chấm xác suất từng token dọc theo trajectory đó.
- Student học thu hẹp phân bố token của mình về teacher — giám sát ở mức token, giảm rủi ro lệch phân bố sinh.
Điểm cốt lõi của OPD2: trừ đi base model giúp cô lập khả năng suy luận học được trong post-training, lọc bỏ preference/phong cách đã có sẵn ở base. OPD2 còn thêm reward centering và điều kiện theo tín hiệu OPD gốc để ổn định hội tụ.
Ví dụ đời thường: giống một nhân viên mới học việc không bắt chước mọi thói quen của sếp, mà chỉ so sánh cách sếp làm sau khi đã qua đào tạo với cách sếp lúc mới vào nghề chưa được huấn luyện, từ đó chỉ học đúng những kỹ năng sếp tích lũy được sau này, bỏ qua các tật xấu có sẵn từ trước.
III. Main Results:
- OPD2 luôn thắng OPD trên mọi cỡ model và ngôn ngữ, lợi thế lớn nhất ở Hàn/Nhật: Qwen3-1.7B +3.1đ (KO), +4.0đ (JA); Qwen3-8B +3.3đ (KO), +3.1đ (JA).
- Thu hẹp khoảng cách Anh–Hàn: OPD2 giảm chênh lệch trên 6/7 benchmark (ví dụ Global-MGSM 13.4→9.3đ, KSM 3.3→0.4đ).
- English-only OPD2 vẫn cải thiện KO/JA: non-thinking KO 40.9→52.6, JA 37.2→53.4 — ngang ngửa multilingual OPD2.
- Nhưng hay trả lời bằng tiếng Anh: non-thinking JA chỉ 29.6% sinh tiếng Nhật, KO 48.3%; thinking KO 36.1%, JA 30.8%. Trong khi multilingual OPD2 giữ tỉ lệ cao (thinking KO 97.6%, JA 95.2%).
- Qwen3-8B thinking: OPD gốc đôi khi làm giảm hiệu năng so với base, OPD2 thì luôn cải thiện — tín hiệu đáng tin hơn khi model đã mạnh sẵn.
IV. Conclusion & Future Works:
OPD2 hiệu quả cho hậu huấn luyện đa ngôn ngữ, nhất quán thắng OPD và thường thu hẹp khoảng cách ngôn ngữ mà không hy sinh tiếng Anh. Nghiên cứu tách biệt hai hiện tượng: chuyển giao năng lực suy luận (học từ tiếng Anh vẫn sang được KO/JA) và bảo toàn sinh ngôn ngữ đích (cần dữ liệu đa ngôn ngữ). Kết luận thực tiễn: đánh giá mô hình đa ngôn ngữ phải xét cả độ chính xác lẫn tỉ lệ sinh đúng ngôn ngữ.
Hướng tương lai: mở rộng OPD2 sang ngôn ngữ ngoài Anh/Hàn/Nhật; nghiên cứu cơ chế chuyển giao suy luận cross-lingual; kết hợp đa ngôn ngữ với các tác vụ khoa học/code.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng OPD2 sang họ ngôn ngữ chữ tượng hình và tiếng nói vùng (Tiếng Việt, Thái, Ả Rập) để kiểm chứng cơ chế chuyển giao suy luận có phụ thuộc cấu trúc ngôn ngữ hay không.
- Nghiên cứu tín hiệu delta thích ứng: tự động cân bằng giữa bắt chước teacher và giữ ngôn ngữ đích để vừa tăng độ chính xác vừa giữ tỉ lệ sinh đúng ngôn ngữ khi chỉ huấn luyện tiếng Anh.
- Kết hợp OPD2 đa ngôn ngữ với RLHF để đồng thời cải thiện suy luận toán và căn chỉnh an toàn ngôn ngữ ở các mô hình nhỏ chạy trên thiết bị.
- Phân tích lý thuyết: tại sao English-only OPD2 vẫn tăng điểm benchmark phi-Anh dù sinh sai ngôn ngữ — đo lường mức độ suy luận 'trôi' sang tiếng Anh trong chuỗi think.
2. Patent:
- Tính năng 'Luyện tập toán đa ngôn ngữ' trên điện thoại: app thu thập 100K bài toán tiếng Việt/Hàn/Nhật, chạy OPD2 trên thiết bị để tăng khả năng giải toán của mô hình nhỏ local mà vẫn trả lời đúng ngôn ngữ người dùng, không gửi dữ liệu lên cloud.
- Trợ lý học tập offlin: điện thoại dùng teacher là model lớn đã post-train, distille on-policy sang model nhỏ chạy local; học sinh hỏi tiếng Việt, app giải thích bằng tiếng Việt thay vì rơi vào tiếng Anh như các model chỉ huấn luyện Anh.
- Bộ lọc 'giữ ngôn ngữ đích' cho dịch vụ AI đa quốc gia: khi deploy chatbot đa ngôn ngữ, dùng multilingual OPD2 thay vì English-only để tránh tình trạng bot trả lời tiếng Anh dù khách hàng hỏi tiếng Nhật/Hàn — đo lường tỉ lệ sinh đúng ngôn ngữ như tiêu chí QA bắt buộc.
- Công cụ kiểm thử tự động cho mô hình đa ngôn ngữ trên mobile: đo đồng thời điểm benchmark và 'target-language response rate' để nhà phát triển phát hiện sớm hiện tượng model giải toán giỏi nhưng trả lời sai ngôn ngữ.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.05802 |
| ArXiv Abstract | https://arxiv.org/abs/2608.05802 |
| PDF Download | https://arxiv.org/pdf/2608.05802.pdf |
| Github Repository | N/A |
12. DataSpace: Benchmarking Data Agents for Verifiable Analytics over Heterogeneous Workspaces (20 votes)
Tác giả: Boyan Li, Zhuowen Liang, Yupeng Xie, Xiaotian Lin, Tianqi Luo, et al.
Xuất bản lúc: 2026-08-04
Tag: Data Agents, Benchmark, Multimodal, Text-to-SQL, Tabular Output, Deterministic Evaluation, LLMs, Cross-language
I. Main Problem:
Các benchmark hiện tại tách rời ba thành phần cần thiết cho phân tích dữ liệu thực tế: truy vấn có cấu trúc, truy xuất tài liệu, và phân tích mở. Hậu quả là ba thiếu sót cốt lõi chưa được thống nhất:
- (L1) Phạm vi workspace: thiếu không gian làm việc cục bộ gồm file cấu trúc, CSDL, tài liệu dài và đa phương tiện, có sự pha trộn ngôn ngữ (Trung–Anh) giữa câu hỏi và dữ liệu.
- (L2) Hợp đồng đầu ra: các bài thường chỉ yêu cầu một factoid, pipeline hay báo cáo tự do, chứ không phải bảng kết quả đầy đủ người dùng có thể dùng trực tiếp.
- (L3) Ngữ nghĩa đánh giá: thiếu đánh giá xác định (deterministic) chấp nhận biểu diễn tương đương nhưng loại bỏ câu trả lời thiếu hoặc sai.
II. Main Idea:
DataSpace là benchmark buộc agent chỉ nhận câu hỏi bằng ngôn ngữ tự nhiên và một workspace cục bộ, tự khám phá–kết hợp dữ liệu, rồi trả về bảng kết quả hoàn chỉnh đã xác minh được. Quy trình xây dựng dùng DataSpace-Builder gồm 4 giai đoạn:
- Cross-Language Transformation: dịch đồng thời câu hỏi, CSDL và SQL sang ngôn ngữ đích, giữ ánh xạ thực thể nhất quán.
- Constraint-Aware Relational Sampling: lấy mẫu dòng giữ nguyên khóa/chỉ báo để workspace mỗi bài khác biệt, không lặp.
- Modality Routing & Artifact Rendering: phân phối bảng sang CSV/JSON/SQLite/Markdown/PDF và render video mang điều kiện truy vấn.
- Human Review & Task Repair: 11 chuyên gia giải mù, thảo luận và sửa bài đến khi đồng thuận.
Bài kèm bộ evaluator xác định: căn chỉnh cột bất biến tiêu đề, chuẩn hóa kiểu/dộ chính xác, so sánh hàng có/không thứ tự. DataSpace cũng là benchmark chính thức KDD Cup 2026.
Ví dụ đời thường: giống một nhân viên kế toán được thả vào một thư mục chung lộn xộn gồm file Excel, báo cáo PDF 90 trang và một clip video, không ai chỉ sẵn file nào, tự tay mở từng cái, trích số, ghép ID, rồi xuất ra một bảng tổng hợp hoàn chỉnh — không phải chỉ nói miệng 'có khoảng 5 quỹ vượt chuẩn'.
III. Main Results:
- 410 bài cross-language, 7.439 artifact, 15,01 GB trải rộng CSV/JSON/SQLite/Markdown/PDF/video; 64,6% bài cross-language, 32,7% kết hợp đa phương tiện.
- Backbone tốt nhất Grok 4.5 đạt 66,34% Task Accuracy; yếu nhất (MiniMax M3) chỉ 28,54% — chênh 37,8 điểm.
- 76/410 bài không model nào giải được, 56 bài cả 6 model đều giải — benchmark còn bão hòa thấp.
- Cố định backbone, đổi harness (MiMo-V2.5): chênh 15,36 điểm (30,98%→46,34%), chứng tỏ thiết kế harness ảnh hưởng lớn.
- Multimodal và join là điểm nghẽn nhất: mọi backbone giảm 1,8–14,0 điểm khi có đa phương tiện, và giảm 9,7–19,8 điểm khi cần join.
- GPT-5.6 Sol kém Grok 1,71 điểm nhưng dùng ít hơn 74,2% token, 50,3% action, 39,2% thời gian.
- Phân tích lỗi (136 thất bại của Grok): 52,2% do materialization (sai số cột/hàng), 22,8% do hiểu sai ý định — chỉ 5/13 trường hợp không nộp bài là lỗi kết thúc thuần túy.
IV. Conclusion & Future Works:
DataSpace thiết lập testbed nghiêm ngặt cho data agent đáng tin cậy trên workspace dị thể, với hợp đồng đầu ra bảng cố định và evaluator ngữ nghĩa. Hướng tương lai: (1) cải thiện khả năng tích hợp cross-modality và xử lý join; (2) thiết kế harness trung thành materialize đúng bảng yêu cầu thay vì chỉ tìm/ tính đúng; (3) giải quyết hiểu sai ý định và chiếu cột — nguyên nhân 56,6% lỗi; (4) khai thác điểm mạnh riêng từng backbone để xây oracle union (đã đạt 81,46%).
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu harness trung thành vật chất hóa đầu ra: thiết kế vòng lặp kiểm tra schema cột/hàng trước khi Answer để giảm 52% lỗi materialization hiện tại.
- Cơ chế tích hợp cross-modality cho data agent: ghép điều kiện từ video/PDF vào join quan hệ qua evidence atom chuẩn hóa kiểu.
- Chiến lược khám phá workspace tiết kiệm token: học khi nào dừng duyệt file và cách ưu tiên nguồn bằng zero-shot, dựa trên phát hiện GPT-5.6 Sol đạt gần đỉnh với 74% ít token hơn.
- Đánh giá xác định cho bảng kết quả đa phương tiện: mở rộng header-invariant alignment sang cột sinh từ video và tài liệu dài.
2. Patent:
- Ứng dụng điện thoại trợ lý tài chính cá nhân: người chụp/quét báo cáo quỹ PDF, xuất file Excel và quay clip giải thích, app tự ghép chuẩn, trích điều kiện, trả về bảng quỹ vượt ngưỡng cảnh báo — không cần hiểu SQL.
- Tính năng 'hỏi dữ liệu công ty' trên điện thoại doanh nghiệp: thả thư mục gồm bảng lương CSV, báo cáo PDF và video họp, trợ lý trả bảng tổng hợp nhân sự đầy đủ, kiểm chứng được từng ô.
- Module kiểm tra y tế cá nhân trên mobile: kết hợp hồ sơ SQLite, tờ hướng dẫn PDF thuốc và clip hướng dẫn, app xuất bảng tương tác thuốc–bệnh theo ngôn ngữ người dùng (Việt/Anh).
- Công cụ audit báo cáo tài chính trên điện thoại: tự rà workspace hỗn tạp, phát hiện điều kiện ẩn trong video và bảng trong PDF, sinh bảng đối chiếu số liệu chuẩn xác định để kế toán xác nhận.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.03451 |
| ArXiv Abstract | https://arxiv.org/abs/2608.03451 |
| PDF Download | https://arxiv.org/pdf/2608.03451.pdf |
| Github Repository | https://github.com/HKUSTDial/DataSpace |
13. Teaching Nemotron Greek: Mining a Corpus, Adapting Retrieval, and Grounding Generation for Modern Greek across Specialist Domains (18 votes)
Tác giả: Ayoub Kirouane, Christos Petrocheilos
Xuất bản lúc: 2026-08-05
Tag: RAG, Dense Retrieval, BM25, Embeddings, LoRA, Mixture-of-Experts, Cross-Encoder, Greek NLP, Domain Adaptation
I. Main Problem:
Tiếng Hy Lạp hiện đại rơi khỏi bản đồ của các hệ thống retrieval: không nằm trong danh sách ngôn ngữ hỗ trợ của họ mô hình Nemotron (NVIDIA) và bị vắng mặt ở mọi benchmark đa ngôn ngữ trọng yếu (BEIR, MIRACL). Hậu quả:
- Các văn bản pháp lý, năng lượng, tài chính, y tế Hy Lạp — dài, đặc thuật ngữ, đúng đối tượng RAG phục vụ — lại không được đo lường vì cả mô hình lẫn thước đo đều out-of-distribution.
- Hầu như không tồn tại dữ liệu instruction tiếng Hy Lạp gốc quy mô lớn; mọi pool hữu ích buộc phải dịch → mang rủi ro translationese.
- Cài đặt mặc định
max_len=512cắt ngắn 87% cặp huấn luyện vì chunk Hy Lạp rất dài (trung vị 1.196 ký tự, p95 1.288).
II. Main Idea:
Thích ứng end-to-end cả họ Nemotron sang tiếng Hy Lạp: đào mỏ corpus, huấn luyện stack retrieval (embedder + reranker), tổng hợp giám sát cho reader, và xây benchmark đánh giá riêng (HERA). Các bước then chốt:
- Mining corpus: 407.053 cặp thô → 65.773 bản ghi sạch qua 5 miền. Quy tắc
positive-winsloại bỏ hard-negative thực chất là positive. Query tổng hợp được style-match với query production thật (dài, tra số điều khoản/ngày) thay vì để mô hình tự sinh query ngắn. - Adapted embedder: fine-tune contrastive (InfoNCE + GradCache) Nemotron-3-Embed-1B trên 65.773 cặp, huấn luyện ở
max_len=4.096. - Adapted reranker: cross-encoder pointwise, fine-tune.
- Adapted reader: LoRA (rank 16) trên Nemotron-3-Nano-30B-A3B (MoE 3B active), huấn luyện trả lời có trích dẫn và biết từ chối (abstain).
- Fusion: kết hợp dense + BM25 bằng Reciprocal Rank Fusion.
Ví dụ đời thường: giống thợ mới vào xưởng không biết tiếng lóng địa phương — thay vì dùng từ điển chung dày cộp (embedder đa ngôn ngữ) rồi đoán sai, anh ta được phát bộ tài liệu mẫu đúng nghề và tập đọc từng bộ phận thật, dần hiểu thuật ngữ rồi tra cứu chuẩn xác; nhưng đem anh ra xưởng khác (ngữ cảnh chung) anh vẫn thua ông thợ lâu năm chỉ nhặt keyword.
III. Main Results:
- BM25 thắng mọi embedder off-the-shelf: nDCG@10 0.757 vs Qwen3-Embedding-8B 0.680 vs Nemotron base 0.362. Lexical baseline không tham số thắng 3/4 miền chuyên biệt.
- Adapted 1B embedder: nDCG@10 0.362 → 0.835 (mỗi miền +≥0.42; tài chính từ 0.19 lên 0.72). Lợi thế +0.080 so BM25 in-domain, CI [+0.072, +0.089] không chạm 0.
- Năng lực khái quát (exposure): out-of-domain (HERA), adapted 1B thắng base chưa adapt +0.399 — bằng chứng rõ nhất rằng thiếu là tiếp xúc ngôn ngữ, không phải dung lượng.
- Nhưng thua BM25 out-of-domain: trên HERA, BM25 0.644 đánh bại adapted 1B (+0.081) và cả Qwen-4B.
- Fusion BM25 + adapted 1B: thắng cả hai chế độ (+0.013 in-domain, +0.027 out-of-domain); Matryoshka thu nhỏ còn 512 chiều vẫn 0.823 (+0.066 over BM25), index nhỏ 4×.
- Medical: adapted 1B 0.6867 vs BM25 0.6602 — CI chạm 0, không chứng minh được lợi thế điểm 0.027.
- Reranker: off-the-shelf đóng góp không nhất quán (có miền âm, có miền bằng 0); adapted +0.047 (p<0.001). Lần đánh giá lớn hơn làm yếu kết luận 'off-the-shelf vô dụng'.
- Reader MoE: judged correctness 29.4% → 66.9%; faithfulness 25.2% → 84.5% (gấp 3.4×) — mô hình gốc trả lời sai phần lớn do không bám căn cứ.
- End-to-end retrieval: Recall@10 0.624 → 0.955 (off-the-shelf làm mất đáp án 38% query; adapted <5%).
IV. Conclusion & Future Works:
Kết luận trung thực: không phải lexical thắng dense, mà cả hai đều thất bại khác nhau và fusion mới thắng trong cả hai chế độ. Khuyến nghị thực tế cho hệ thống RAG Hy Lạp: chạy cả BM25 lẫn embedder adapt qua RRF. Điểm mấu chốt: với văn bản chuyên biệt, tiếp xúc ngôn ngữ quan trọng hơn quy mô tham số (8B không cứu được thiếu exposure). Hướng tương lai / hạn chế cần vá: audit con người có kích thước và logged cho HERA; đo end-to-end trên context được retrieve (chưa làm); tách rủi ro translationese khỏi trần base-model; mở rộng quy trình sang ngôn ngữ tài nguyên thấp khác.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng quy trình 'mine – adapt – fuse' sang ngôn ngữ tài nguyên thấp khác (Thái, Việt, Ba Lan): kiểm chứng xem BM25 có áp đảo embedder đa ngôn ngữ trong mọi ngữ cảnh chuyên biệt hay không.
- Xây benchmark RAG đa-passage có citation, multi-hop và unanswerable cho các ngôn ngữ thiểu số, đo cả kỹ năng abstention như HERA.
- Định lượng rủi ro translationese: so sánh mô hình fine-tune trên pool dịch vs pool gốc để tách trần dữ liệu khỏi trần base-model.
- Nghiên cứu fusion động (học trọng số BM25/dense theo miền) thay vì trọng số cố định, trên nhiều ngôn ngữ OOD.
2. Patent:
- App tra cứu luật Hy Lạp trên điện thoại: nhập câu hỏi dài về số điều khoản/ngày, app dùng fusion BM25 + embedder adapt (Matryoshka 512 chiều chạy nhẹ offline) trả kết quả kèm trích dẫn điều luật chính xác.
- Công cụ đọc hồ sơ y tế/bảo hiểm Hy Lạp: reader MoE trích xuất đáp án có trích nguồn và từ chối trả lời khi thiếu căn cứ, giảm ảo giác cho bác sĩ/nhân viên.
- Hệ thống hỗ trợ tài chính ngân hàng: truy xuất báo cáo tài chính Hy Lạp dài, sinh câu trả lời có dẫn nguồn (số liệu, ngày) cho nhân viên tư vấn, kết hợp lexical để bắt chính xác mã/chỉ số.
- Tính năng tìm kiếm trên thiết bị (on-device) cho văn bản kỹ thuật song ngữ Hy Lạp-Anh: giữ cả hai ngôn ngữ trong index, dùng fusion để bắt cả thuật ngữ mã hóa lẫn mô tả tự nhiên.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.05138 |
| ArXiv Abstract | https://arxiv.org/abs/2608.05138 |
| PDF Download | https://arxiv.org/pdf/2608.05138.pdf |
| Github Repository | N/A |
14. DyPES-VLA: Learning Shared Dynamics Priors and Embodiment-Specific Control for Cross-Embodiment Manipulation (15 votes)
Tác giả: Junfeng Li, Junjie He, Zhide Zhong, Yangyang Zheng, Pingyue Sheng, et al.
Xuất bản lúc: 2026-08-06
Tag: Vision-Language-Action, Robotics, Cross-Embodiment, Mixture-of-Experts, Diffusion, Future Prediction, Robot Manipulation
I. Main Problem:
Các mô hình Vision-Language-Action (VLA) cho nhiều hình thái robot (cross-embodiment) hiện tại tồn tại hai hạn chế cốt lõi:
- Chỉ lấy nhãn hành động làm tín hiệu giám sát duy nhất → bỏ phí lượng lớn video tương tác của người và robot (chứa quy luật chuyển động vật thể, tiếp xúc, biến đổi cảnh) nên không học được động lực học chung (dynamics priors) xuyên thân hình.
- Ép các robot khác nhau về một định dạng hành động chung (qua biến đổi tọa độ, động học nghịch...) → vừa tốn công tiền xử lý thủ công, vừa trộn lẫn hai thứ cần tách biệt: quy luật tương tác chung và ngữ nghĩa điều khiển riêng của từng robot.
II. Main Idea:
DyPES-VLA học hai lớp riêng biệt: động lực học chung (shared dynamics priors) và điều khiển riêng từng thân hình (embodiment-specific control).
- Giao diện truy vấn chung: thêm các query token học được vào chuỗi đa phương thức của VLM; trạng thái đầu ra (query states) là cầu nối giữa hai head.
- Học động lực học chung (Stage 1): huấn luyện VLM + future generation head (SANA) trên video không có nhãn hành động để dự đoán khung hình tương lai. Vì head chỉ được điều kiện hóa bởi query states, mọi thông tin chuyển động/tiếp xúc phải đi qua các token này → query states mang sẵn "tiên tri" động lực học.
- Head hành động MoE (Stage 2): một Diffusion Transformer (DiT) dùng chung các lớp attention (cấu trúc thời gian chung) nhưng có chuyên gia FFN riêng từng thân hình (static router chọn theo metadata). Head sinh chuỗi hành động trực tiếp trong không gian hành động gốc của mỗi robot — không cần căn chỉnh chung.
- Suy luận: chỉ chạy VLM + head hành động, bỏ head dự đoán tương lai.
Ví dụ đời thường: giống một quản đốc lão luyện xem video trước–sau của nhiều xưởng khác nhau để nắm quy luật chung "vật gặp lực sẽ trượt, va chạm sẽ dừng", rồi giao cho từng công nhân (người tay một, người hai tay, người máy hình người) tự dịch quy luật đó thành cử động của chính cơ thể họ — không ai phải học lại theo một bản hướng dẫn động tác chung cứng nhắc.
III. Main Results:
- Một checkpoint duy nhất trên 3 benchmark mô phỏng: 98.0% LIBERO (cánh tay đơn 7-DoF), 59.25% RoboCasa-GR1 (humanoid 29-DoF), 89.02% RoboTwin 2.0 (hai tay 14-DoF) — vượt mọi generalist cùng loại và nhiều specialist.
- Thực tế: fine-tune chung checkpoint trên 3 robot thật (FR3, COBOT Magic, G1) đạt 75.6% trung bình, cao hơn GR00T-N1.6 (59.6%) và ACT (32.4%).
- Ablation: bỏ future-prediction sụt mạnh nhất (−2.4% RoboTwin, −2.5% RoboCasa); thay MoE bằng head dày sụt 1–2%; bỏ metadata sụt nhẹ nhưng đều đặn.
- Probe: query states có future prediction giải mã được "tiếp xúc bắt đầu/kết thúc" tốt hơn hẳn (AUROC tăng 2–4 điểm), chứng minh động lực học chung thực sự được học.
IV. Conclusion & Future Works:
DyPES-VLA chứng minh tách riêng động lực học chung và điều khiển riêng là paradigm hiệu quả cho VLA đa thân hình, học được từ dữ liệu hỗn tạp mà không cần căn chỉnh không gian hành động. Hướng tương lai: mở rộng sang thân hình tùy ý, kết hợp thêm dữ liệu video đa dạng hơn và tự động hóa tiền xử lý metadata.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng DyPES-VLA sang số lượng thân hình lớn hơn (drone, chân đi bộ) với cơ chế routing động thay vì static router theo metadata.
- Kết hợp future-prediction với world model để vừa học động lực học chung vừa hỗ trợ lập kế hoạch dài hạn xuyên thân hình.
- Học động lực học chung chủ yếu từ video con người không nhãn để chuyển sang robot thật nhanh hơn, giảm phụ thuộc demonstration có nhãn.
2. Patent:
- Ứng dụng điện thoại/robot gia đình: một app nhận diện "quy luật vật lý chung" từ video người dùng thao tác, rồi dịch sang lệnh cử động gốc cho từng loại robot gia đình (tay máy hút bụi, tay gắp), không cần cài đặt riêng từng loại.
- Hệ thống huấn luyện robot công nghiệp tự động: xưởng dùng chung một "động lực học chung" học từ video không nhãn, mỗi dây chuyền chỉ cần module chuyên gia nhỏ cho cánh tay riêng — giảm chi phí tích hợp khi đổi robot.
- Tính năng camera điện thoại hỗ trợ người khuyết tật: quay video thao tác đồ vật, mô hình dự đoán chuyển động tương lai và gợi ý cử động tay máy hỗ trợ phù hợp với khớp của thiết bị hỗ trợ cụ thể.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.06374 |
| ArXiv Abstract | https://arxiv.org/abs/2608.06374 |
| PDF Download | https://arxiv.org/pdf/2608.06374.pdf |
| Github Repository | N/A |
15. World-to-Wrist: Task-Conditioned Future Wrist Modeling for Fine-Grained Robot Manipulation (14 votes)
Tác giả: Yuhao Pan, Haosong Peng, Zhengshen Zhang, Zhengyang Yan, Yalun Dai, et al.
Xuất bản lúc: 2026-08-05
Tag: Vision-Language-Action, Robotics, Fine-Grained Manipulation, Future Prediction, Latent Modeling, Chain-of-Thought
I. Main Problem:
Các mô hình Vision-Language-Action (VLA) thường coi quan sát góc nhìn chính (main-view) và góc nhìn cổ tay (wrist-view) như hai đầu vào song song, bỏ qua vai trò khác biệt của chúng. Hậu quả:
- Góc nhìn chính cung cấp bối cảnh nhiệm vụ toàn cục (vị trí vật, quan hệ mục tiêu), trong khi wrist-view trực tiếp phơi bày tương tác kẹp-vật thay đổi nhanh quanh tay máy — cực kỳ quan trọng với thao tác tinh (cắm phích, lắp ráp).
- Các mô hình dự đoán tương lai hiện tại thường đặt mục tiêu dự đoán trên toàn bộ cảnh hoặc biểu diễn chính sách thống nhất, không cô lập được động lực cục bộ quanh đầu cuối.
- Dự đoán theo cổ tay vẫn mơ hồ về nhiệm vụ: lịch sử cổ tay giống nhau có thể dẫn tới nhiều tương lai khả thi (nắm, đẩy, thả...), cần bối cảnh nhiệm vụ toàn cục để chọn đúng hướng chuyển tiếp.
II. Main Idea:
W2-VLA định khung dự đoán cổ tay tương lai như một bài toán dự đoán latent có điều kiện bởi nhiệm vụ. Quy trình cốt lõi:
- VLM (Qwen3-VL-4B) ngữ cảnh hóa K token latent chuyên biệt từ quan sát đa góc nhìn và chỉ dẫn, tạo ra một giao diện có độ dài cố định nối VLM với bộ dự đoán cổ tay.
- Bộ dự đoán cổ tay (wrist predictor) dự báo các latent cổ tay tương lai từ lịch sử cổ tay (mã hóa bằng V-JEPA 2.1 frozen) và giao diện này.
- Một adapter nhẹ trích xuất ngữ cảnh cổ tay biết trước tương lai từ latent dự báo, ghép với ngữ cảnh VLM để điều kiện hóa một flow-matching action head sinh hành động.
- W2-CoT: pipeline sinh chú thích có cấu trúc (Subtask / Reasoning / Wrist evidence) làm giám sát phụ giúp tạo hình giao diện latent — nhưng không cần giải mã CoT lúc suy luận.
Khác các mô hình dự đoán tương lai toàn cảnh, W2-VLA thu hẹp mục tiêu dự đoán vào động lực cục bộ quanh đầu cuối, điều kiện bởi cả bối cảnh nhiệm vụ và lịch sử cổ tay.
Ví dụ đời thường: giống thợ sửa máy mới không chỉ nhìn toàn bộ xưởng mà còn soi kỹ bàn tay mình đang vặn ốc, đoán trước 2 giây nữa tay sẽ xoay thế nào dưới ánh sáng chỉ dẫn công việc, rồi ra lực chính xác — thay vì chỉ nhìn bản vẽ chung rồi thử sai.
III. Main Results:
- LIBERO: 98.5% trung bình (Spatial 99.6, Object 99.8, Goal 99.2, Long 95.2), vượt baseline mạnh nhất +1.3%.
- RoboTwin 2.0: 60.71% (Easy) và 18.21% (Hard), vượt UP-VLA +7.79% và +3.05%; trên Hard vượt π0 +1.87%.
- Thực tế (CoBoT Magic): 70.00% tiêu chuẩn và 52.22% OOD, vượt VLA-JEPA +15.56% / +14.44%; mạnh nhất ở Bimanual Plug Insertion OOD (33.33% vs 10%).
- Tốc độ: sinh 16 bước hành động trong 183ms → 87.43 Hz, hỗ trợ triển khai thời gian thực.
- Ablation: bỏ Wrist Predictor giảm xuống 97.5% (Long giảm mạnh nhất); bỏ W2-CoT giảm 98.0%; cấu hình 16 token tối ưu (110.58ms).
- Dự đoán chỉ wrist-view tốt hơn dự đoán main-view hay kết hợp cả hai.
IV. Conclusion & Future Works:
W2-VLA chứng minh rằng thay vì coi hai góc nhìn song song, dùng một giao diện latent nhỏ gọn nối bối cảnh nhiệm vụ toàn cục với dự đoán cổ tay cục bộ giúp thao tác tinh và nhạy cảm tiếp xúc vượt trội, đồng thời giữ suy luận thời gian thực >80Hz không cần CoT. Hướng tương lai: mở rộng sang hình thái đa dạng hơn, kết hợp dự đoán cổ tay với lập kế hoạch dài hạn, và tối ưu chi phí giám sát W2-CoT trên dữ liệu lớn.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng dự đoán cổ tay có điều kiện nhiệm vụ cho robot đa hình thái và đa cánh tay, dùng giao diện latent chung để chuyển giao kỹ năng thao tác tinh giữa các cấu hình hardware khác nhau.
- Kết hợp W2-CoT với tự động sinh dữ liệu mã hóa cử chỉ bàn tay người để huấn luyện robot bắt chước thao tác tinh từ video demo không cần chú thích thủ công.
- Áp dụng tư tưởng World-to-Wrist cho xe tự hành hoặc tay máy phẫu thuật, dự đoán trước chuyển động cục bộ của dụng cụ dưới bối cảnh nhiệm vụ để tăng độ an toàn tiếp xúc.
2. Patent:
- Điện thoại/robot hỗ trợ người khuyết tật: camera cổ tay trên tay máy ghi lại chuyển động sắp tới của kẹp khi người dùng ra lệnh bằng giọng nói, hệ thống đoán trước va chạm cục bộ rồi hiệu chỉnh lực kẹp trước khi chạm — giúp cầm đồ dễ vỡ an toàn hơn.
- Máy lắp ráp công nghiệp tự căn chỉnh phích cắm: cảm biến cổ tay dự đoán 2 giây nữa đầu cắm sẽ thẳng hàng chưa dưới ánh sáng chỉ dẫn lắp ráp, tự động điều chỉnh góc xoay mà không cần dừng dây chuyền để kiểm tra hình ảnh toàn cảnh.
- Robot dọn nhà thông minh: khi nhận lệnh 'lau vết bẩn', camera cổ tay theo dõi tư thế lau cục bộ, dự báo trước đường lau tiếp theo để tránh làm đổ vật, thay vì chỉ dựa vào camera trần nhà nhìn toàn cảnh phòng.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.05369 |
| ArXiv Abstract | https://arxiv.org/abs/2608.05369 |
| PDF Download | https://arxiv.org/pdf/2608.05369.pdf |
| Github Repository | https://github.com/yyyyu120/W2-VLA |
16. SmartMage: Dynamic Modality Orchestration for 3D Scene Understanding (13 votes)
Tác giả: Yue Zhang, Yingzhao Jian, Yunqiu Xu, Xiaoxiao Sun, Hehe Fan
Xuất bản lúc: 2026-08-05
Tag: 3D Scene Understanding, MLLM, Adaptive Modality Selection, Mixture-of-Experts, Multimodal Learning, RGB-D, Point Cloud, BEV, Voxel
I. Main Problem:
Các mô hình Multimodal Large Language Model (MLLM) hiện tại cho hiểu cảnh 3D thường ghép cố định một tập hợp modality (RGB, depth, point cloud, voxel, BEV) cho mọi câu hỏi. Hạn chế cốt lõi:
- Mỗi câu hỏi ưu tiên modality riêng (hỏi màu → RGB; hỏi hình dạng → point cloud), nhưng mô hình đối xử bình đẳng với mọi modality.
- Modality không liên quan bơm nhiễu ngữ nghĩa vào, còn modality hữu ích không được chú ý đủ.
- Chồng thêm modality dưới kiểu fusion cứng thậm chí làm giảm chất lượng do dư thừa và nhiễu chéo.
II. Main Idea:
SmartMage tách suy luận đa modality thành hai bước: chọn modality liên quan rồi giao token cho chuyên gia chuyên biệt. Hai module chính:
- SMART (Semantic-guided Modality Adaptive RouTing): bộ lập lịch toàn cục, giữ RGB làm modality nền, rồi chọn bổ sung theo 3 tín hiệu: ước lượng prior ngữ nghĩa từ câu lệnh, điểm tương đồng văn bản–modality (cross-attention + cosine), và đánh giá chất lượng modality từ thống kê kích hoạt (độ mạnh, thưa, ổn định). Kết hợp thành phân bố chọn động.
- MAGE (Modality-Aware Gating Expert): gán token cho các chuyên gia trong sparse MoE LLM. Một module Modality-aware Expert Speculation dự đoán phân bố modality của từng token, tạo prior hướng cổng router ưu tiên chuyên gia đúng modality, thúc đẩy chuyên môn hóa.
Huấn luyện end-to-end với các loss căn chỉnh ngữ nghĩa (Lsem, Ldis) và phân bổ chuyên gia (Lma, Lec, Lbal), encoder ảnh đông, chỉ adapter + router–expert cập nhật.
Ví dụ đời thường: giống thợ sửa máy khi nhận điện thoại hỏi, tự cân nhắc 'lỗi này nghe giọng nói hay xem màn hình' rồi chỉ mở đúng bộ dụng cụ cần thiết thay vì trải hết đồ nghề ra bàn, vừa đỡ rối vừa làm nhanh hơn.
III. Main Results:
- SOTA trên 5 benchmark 3D: ScanQA (32.6 EM@1), SQA3D (66.8), Scan2Cap (93.8/88.7 CIDEr), ScanRefer (65.9/59.5 Acc), Multi3DRefer (65.4/60.7 F1) — vượt Ross3D tới +5.1 Acc và +6.4 F1.
- Ablation SMART/MAGE: bỏ SSS gây sụt mạnh nhất; bỏ MES cũng giảm rõ, chứng tỏ cả hai cần thiết.
- Fixed vs adaptive (Table 4): chồng modality cố định có giới hạn (setting 8 đôi khi thắng setting 10); adaptive (setting 11) thắng tuyệt đối mọi benchmark.
- Hiệu quả: train 2.0–2.6× nhanh hơn Video-3D LLM và Ross3D (47.4s/iter), suy luận TTFT/E2E tương đương.
- ScanFacet (benchmark chẩn đoán 8 facet): màu/chất liệu nghiêng RGB–Depth, đếm/không gian nghiêng Depth/Voxel; cải thiện mọi facet, đặc biệt +27.1 và +15.9 CIDEr ở hiểu chất liệu và màu.
- RGB-only video: cạnh tranh trên VSI-Bench/VSI-SUPER/MMSI-Bench dù thiếu input 3D, mạnh ở relational reasoning.
IV. Conclusion & Future Works:
SmartMage chứng minh điều phối modality động theo ngữ nghĩa vượt fusion cố định cho hiểu cảnh 3D, với chọn modality toàn cục (SMART) và chuyên gia chuyên biệt cục bộ (MAGE) bổ trợ nhau. Hướng tương lai: mở rộng sang modality thưa hơn, cơ chế routing chủ động, và áp dụng cho robot embodied thực tế với tài nguyên hạn chế.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng SMART thành routing chủ động học cách tự quyết định số lượng modality bổ sung tối ưu theo độ khó câu hỏi thay vì chọn cố định top-k.
- Kết hợp MAGE với MoE phân tán đa cấp để xử lý cảnh quy mô lớn (kho, nhà máy) với hàng ngàn object mà không bùng nổ token.
- Xây dựng benchmark chẩn đoán tương tự ScanFacet cho video 4D và cảm biến lidar nhằm phân tích pattern modality–ngữ nghĩa ngoài RGB-D.
2. Patent:
- Điện thoại thông minh chụp ảnh phòng: app tự hỏi 'màu hay vị trí' rồi chỉ gọi camera/RGB hoặc mô hình depth để trả lời nhanh, tiết kiệm pin hơn làm hết mọi cảm biến.
- Robot dọn phòng gia đình: trước mỗi lệnh, hệ thống tự chọn chỉ cảm biến cần (camera cho nhận diện màu, lidar/point cloud cho đo khoảng cách) thay vì chạy toàn bộ, giảm lag và nhiệt.
- Ứng dụng nội thất AR: người dùng hỏi 'sofa có vừa góc này không', app tự ưu tiên bản đồ BEV/voxel để tính không gian thay vì xử lý ảnh màu dư thừa, render nhanh hơn trên mobile.
- Kính thông minh hỗ trợ người khiếm thị: với câu hỏi 'vật trước mặt màu gì' chỉ bật camera RGB, với 'cách bao xa' chỉ bật cảm biến độ sâu, kéo dài pin và giảm độ trễ phản hồi thoại.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.05137 |
| ArXiv Abstract | https://arxiv.org/abs/2608.05137 |
| PDF Download | https://arxiv.org/pdf/2608.05137.pdf |
| Github Repository | N/A |
17. EffectLearner: World-Aware Object-Effect Reasoning for Real-World Video Object Removal (12 votes)
Tác giả: Feier Wu, Wanke Xia, Xu He, Zilang Zhou, Si Chen, et al.
Xuất bản lúc: 2026-08-06
Tag: Video Object Removal, Vision-Language Model, Diffusion Transformer, World-Aware Reasoning, Video Inpainting, Spatiotemporal Consistency
I. Main Problem:
Xóa vật thể trong video hiện tại chỉ xóa được vật thể đích mà bỏ sót các hiệu ứng do nó gây ra (bóng, phản chiếu, ánh sáng, gợn sóng, khói, bụi, vệt chuyển động...). Nguyên nhân cốt lõi:
- Các phương pháp cũ học quan hệ vật-thể–hiệu-ứng ngầm từ tập danh mục hiệu ứng cố định và phân bổ dữ liệu hạn chế, nên không khái quát được cảnh thực tế phức tạp.
- Các hiệu ứng tách rời không gian, tương quan yếu, hiện tượng vật lý đuôi dài (long-tail) và tương tác tiến hóa theo thời gian thường bị bỏ sót.
- Mục tiêu huấn luyện thiên về chất lượng từng khung hình hơn là nhất quán không gian–thời gian, gây hiện tượng nhấp nháy (flicker), xót lại dấu vết khi vật thể chuyển động.
II. Main Idea:
EffectLearner chia bài toán thành hai khối phối hợp: một VLM-based Object-Effect Reasoner (dùng Qwen2.5-VL) để suy luận ngữ nghĩa, và một DiT-based Video Eraser (dùng Wan2.2-TI2V-5B) để tái tạo video.
Quy trình:
- Đưa vào mô hình một video làm nổi bật vật thể đích (alpha-blend viền vàng/mờ) cùng prompt phân tích hiệu ứng có cấu trúc.
- Reasoner dùng các learnable effect queries gom ngữ cảnh VLM thành các effect-aware context tokens nhỏ gọn (nhận diện vật thể, chuyển động, hiệu ứng sinh ra, trạng thái sau xóa, nội dung cần giữ).
- Các token này thay điều kiện text trong cross-attention của DiT, hướng Eraser xóa cả vật thể lẫn hiệu ứng đồng thời phục hồi vùng bị ảnh hưởng.
- Thêm region-weighted flow-matching tập trung loss vào vùng vật thể và vùng hiệu ứng.
Để ổn định động: motion-aware mask guidance (temporal union mask) giữ đủ vết vật thể chuyển nhanh qua nén VAE; motion-consistency loss so khớp lượng thay đổi bù chuyển động giữa các khung để chống nhấp nháy.
Dữ liệu: xây dựng EffectWorld bằng Unreal Engine (cảnh trong/ngoài, camera và vật thể chuyển động độc lập) với cặp source–target–mask; huấn luyện theo progressive curriculum từ xóa cơ bản đến hiệu ứng phức tạp.
Ví dụ đời thường: giống thợ sửa nhà không chỉ tháo cái bóng đèn mà còn tự biết phải xóa cả vệt sáng trên tường và bóng đổ xuống sàn, vì trước khi làm anh ấy đã quan sát kỹ căn phòng để hiểu cái đèn đang 'ảnh hưởng' đến đâu rồi mới tay vừa tháo vừa tô lại cho liền mạch.
III. Main Results:
- Trên ROSE-Bench: EffectLearner đạt LPIPS tốt nhất (0.054) và FVD thấp nhất (81.866), cân bằng tốt giữa trung thực cảm quan và nhất quán thời gian (ROSE mạnh pixel nhưng FVD cao 803).
- Trên EffectWorld-Eval (33 ca hiệu ứng phức tạp): vượt hẳn baseline — PSNR 29.521, SSIM 0.934, LPIPS 0.044, FVD 69.184, chứng tỏ khái quát hiệu ứng tổ hợp/tách rời/đuôi dài.
- Trên EffectWorld-Wild (70 video thực tế): tổng điểm VBench cao nhất (0.772), mạnh nhất ở Background Consistency và Dynamic Degree, giữ được nội dung và động lực tự nhiên.
- Ablation: bỏ motion-consistency loss gây sụt tệ nhất (FVD 294.778); bỏ VLM giảm nhận diện hiệu ứng tách rời; bỏ union mask gây xót lại vết vật thể chuyển nhanh.
IV. Conclusion & Future Works:
EffectLearner chứng minh suy luận ngữ nghĩa vật-thể–hiệu-ứng và ổn định theo chuyển động là hai thành phần bổ trợ cho xóa vật thể–hiệu ứng tin cậy trong video thực tế phức tạp. Hướng tương lai: mở rộng sang hiệu ứng tương tác người–cảnh động hơn, cải thiện với mask không hoàn hảo và đưa vào quy trình hậu kỳ thực tế; mở rộng EffectWorld cho hiện tượng vật lý đa dạng hơn.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng Object-Effect Reasoner sang dạng agent tự động phân tích video và đề xuất mask xóa cho người dùng chỉ cần chỉ vật thể bằng lời.
- Kết hợp EffectLearner với mô hình vật lý học để suy luận hiệu ứng khó quan sát trực tiếp (như nhiễu nhiệt, biến dạng môi trường) thay vì chỉ dựa ảnh.
- Nghiên cứu huấn luyện không cần cặp source–target bằng tự giám sát trên video tự nhiên để giảm phụ thuộc vào render Unreal Engine.
2. Patent:
- Ứng dụng trên điện thoại chỉnh sửa video: người dùng khoanh vật thể, app tự nhận diện và xóa luôn bóng, phản chiếu, vệt sáng đi kèm mà không để lại dấu vết, thay vì chỉ tẩy vùng khoanh như hiện nay.
- Công cụ hậu kỳ cho studio: khi xóa diễn viên khỏi cảnh quay, hệ thống tự động phục hồi cả ánh sáng và bóng đổ mà diễn viên để lại trên bối cảnh, giúp tiết kiệm hàng giờ tái dựng thủ công.
- Tính năng camera thông minh: khi người dùng muốn xóa phương tiện giao thông khỏi clip, app giữ nguyên đường phố và xóa cả vệt bánh xe, gợn bụi mờ do xe để lại để cảnh trông tự nhiên.
- Phần mềm dựng phim tự động cho drone: xóa vật thể bay qua khung hình cùng bóng của nó trên mặt đất và giữ cảnh quay mượt không nhấp nháy khi drone quay chuyển động.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.05565 |
| ArXiv Abstract | https://arxiv.org/abs/2608.05565 |
| PDF Download | https://arxiv.org/pdf/2608.05565.pdf |
| Github Repository | N/A |
18. MameLoshnLM: Yiddish Language Model and Evaluation Benchmark (11 votes)
Tác giả: Uri Katz, Omer Goldman, Tomasz Limisiewicz, Reut Tsarfaty, Noah A. Smith
Xuất bản lúc: 2026-08-06
Tag: Low-Resource Languages, Continued Pretraining, LLMs, Yiddish NLP, Evaluation Benchmark, Corpus Construction, Machine Translation, NER
I. Main Problem:
Yiddish (khoảng 1 triệu người dùng, di sản văn học phong phú) là ngôn ngữ tài nguyên thấp bị bỏ ngỏ trong NLP vì hai lỗ hổng:
- Dữ liệu huấn luyện nhiễu: phân tích mC4 cho thấy dưới một nửa (42.2%) nội dung gắn nhãn 'Yiddish' là Yiddish thật; 29.8% là máy dịch rác, 21.9% là tiếng Hebrew bị nhận diện nhầm.
- Thiếu benchmark đánh giá: các bộ đánh giá Yiddish hiện có ít, rời rạc, hoặc chỉ là bản dịch tự động thay vì tác vụ thiết kế riêng cho ngôn ngữ này.
Hậu quả: mô hình đa ngôn ngữ chung chỉ tạo ra thứ Yiddish 'trông ổn' bề mặt nhưng thiếu các đặc trưng bản xứ (từ vựng Hebrew, hình thái đặc thù), phục vụ kém cả cộng đồng bản ngữ lẫn giới nghiên cứu.
II. Main Idea:
Nhóm xây dựng ba tài nguyên đồng bộ thay vì chỉ thêm dữ liệu:
- Oytser: kho ngữ liệu huấn luyện Yiddish chất cao (915M từ, 5.28B token) gồm văn bản web đương đại + 12K sách văn học từ Yiddish Book Center (OCR bằng Jochre3), đã gỡ bỏ thông tin cá nhân ở diễn đàn.
- Kashes: benchmark đa tác vụ đầu tiên cho Yiddish (9 tác vụ: POS, lemmatization, dependency parsing, transliteration, NER trên 3 bộ, translation, commonsense, paraphrase) — trong đó Kashes-mt là bộ song ngữ Yiddish–English do bản ngữ viết, không phải dịch máy.
- MameLoshnLM: tiếp tục huấn luyện (continued pretraining) Llama 3.1 8B trên Oytser theo tỉ lệ Yiddish 92% token + English 8% để giữ năng lực gốc, 5.7B token, ~207 GPU-hour trên 1 GPU H200.
Ví dụ đời thường: giống như người học ngoại ngữ thay vì mua cuốn từ điển đa ngôn ngữ bẩn (lẫn quảng cáo, nhầm ngôn ngữ), tự gom truyện bản xứ thật và sách văn học chuẩn rồi đọc sâu vào đó — nhờ vậy nói được tiếng địa phương đúng chất thay vì thứ tiếng 'lai tạp' nghe qua loa.
III. Main Results:
- Trung bình Kashes: MameLoshnLM đạt 62.6, vượt mọi baseline cùng quy mô (Gemma-2 9B 57.0, Llama 3.1 8B 56.8, Qwen3 8B 54.7, EuroLLM 9B 45.6).
- Dẫn đầu on POS tagging, dependency parsing, transliteration, EHRI-NER, newNLP-NER; dịch Anh→Yiddish +11 COMET so với đối thủ gần nhất.
- Phân tích sâu: mô hình sinh từ vựng loshn-koydesh (tầng từ Hebrew) ở 4.7% token vs Llama 1.6% (tham chiếu bản xứ 6.2%); tỉ lệ khớp câu có từ LK 52.4% vs 16.0%.
- Hình thái: lemmatization past-participle đạt 50.8% vs Llama 5.1%; động từ bất quy tắc 'to be' 20.0% vs 8.9%. Llama hay copy nguyên input thay vì suy ra hình thái.
- Trộn ngôn ngữ liên quan (Hebrew/Đức/Nga/Ba Lan) không cải thiện ổn định — chiến lược Yiddish-chủ-đạo + ít English tốt hơn.
- COMET mù với mất mát tầng từ Hebrew (ρ=0.23), nên điểm dịch cao vẫn có thể thay từ Hebrew bằng từ gốc German.
IV. Conclusion & Future Works:
MameLoshnLM/Oytser/Kashes là nỗ lực LLM toàn diện đầu tiên cho Yiddish, đồng thời là khuôn mẫu thực tế cho ngôn ngữ giàu di sản nhưng nghèo hiện diện web. Bài học rộng hơn: với ngôn ngữ tài nguyên thấp, nút thắt không chỉ là thiếu dữ liệu mà là lệch pha giữa dùng thật và dữ liệu web nhiễu. Hướng tương lai: instruction tuning để tương tác, mở rộng tài nguyên huấn luyện/đánh giá, và áp dụng vào quy trình digital humanities quy mô lớn (khai thác hồ sơ Holocaust, báo lịch sử).
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu hệ thống về chất lượng dữ liệu web đa ngôn ngữ cho ngôn ngữ tài nguyên thấp: đo lường tỉ lệ nhiễu (máy dịch, nhận diện nhầm) và tác động lên năng lực sinh bản xứ, với quy trình audit có thể tái dùng cho ngôn ngữ khác.
- Chiến lược trộn dữ liệu trong continued pretraining: so sánh ngôn ngữ liên quan (cùng gốc/cùng hệ chữ) vs English như 'keo' giữ năng lực gốc, định lượng điểm bão hòa khi giảm tỉ lệ ngôn ngữ mục tiêu.
- Phương pháp đánh giá chuyên sâu vượt COMET: dùng probe từ vựng đặc thù (loshn-koydesh) và hình thái bất quy tắc để phát hiện mô hình 'fluent nhưng không native' — áp dụng làm metric phụ cho low-resource.
- Quy trình xây benchmark dịch song ngữ 'bản xứ viết' (Kashes-mt) từ ấn phẩm song ngữ web + decontamination chống rò rỉ, làm tài liệu hướng dẫn cho ngôn ngữ thiểu số.
2. Patent:
- Ứng dụng dịch thuật Yiddish trên điện thoại: dùng mô hình nhỏ chuyên biệt (như MameLoshnLM nén) để dịch hai chiều Anh–Yiddish ngay trong trình duyệt/tin nhắn, giữ đúng tầng từ Hebrew và hình thái bản xứ thay vì bản dịch 'German hóa' của công cụ chung.
- Công cụ OCR + số hóa sách Yiddish cũ trên điện thoại: kết hợp Jochre3 và mô hình ngôn ngữ để chụp trang sách in cũ, nhận dạng chữ Hebrew script và tự động gỡ bỏ thông tin cá nhân trước khi lưu vào thư viện cá nhân.
- Tính năng tìm kiếm/thực thể cho nhà nghiên cứu lịch sử: tích hợp NER chuyên Yiddish (Holocaust testimonies, báo cũ) vào app di động để tô sáng tên riêng, địa danh khi đọc tài liệu số, hỗ trợ digital humanities tại chỗ không cần máy chủ lớn.
- Bàn phím thông minh gợi ý Yiddish bản xứ: mô hình đề xuất từ vựng loshn-koydesh và biến cách đúng thay vì chỉ gợi ý từ gốc German, giúp người dùng điện thoại viết Yiddish tự nhiên hơn.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.05850 |
| ArXiv Abstract | https://arxiv.org/abs/2608.05850 |
| PDF Download | https://arxiv.org/pdf/2608.05850.pdf |
| Github Repository | https://github.com/katzurik/MameLoshnLM |
19. CalibForge: Adversarial Solver Calibration for Scaling Learnable Terminal Tasks (11 votes)
Tác giả: Fanzhe Meng, Guoxin Chen, Jiale Zhao, Shuang Sun, Zhiyu Lin, et al.
Xuất bản lúc: 2026-08-06
Tag: Terminal Agents, Task Synthesis, LLM Agents, SFT, Solver Calibration, Software Engineering, Benchmark
I. Main Problem:
Các hệ thống sinh tác vụ terminal hiện tại chỉ đảm bảo tính thực thi được (executable) và có thể xác minh, nhưng không bộc lộ được tác vụ đó độ khó có phù hợp để học hay không.
- Tác vụ quá dễ: agent giải ngay, không chứa tín hiệu học tập hữu ích.
- Tác vụ quá khó hoặc lỗi: không solver nào giải được, vô ích làm dữ liệu huấn luyện.
- Bản thân việc xác minh tính khả thi (validation) không cho biết tác vụ nằm ở vùng 'vừa sức' nào đối với một cấu hình solver cụ thể.
II. Main Idea:
CalibForge biến việc xây tác vụ thành vòng lặp đối kháng tác giả–solver, dùng hành vi solver đã xác minh làm phản hồi tại thời điểm xây dựng. Quy trình:
- Từ một gợi ý (clue), agent tác giả tự tìm kiếm tài liệu kỹ thuật, viết câu lệnh, môi trường Docker và bộ test xác minh.
- Qua hai bước kiểm tra: kiểm tra cấu trúc + tự giải (self-solving); chỉ tác vụ đậu cả hai mới được đưa vào hiệu chuẩn.
- Áp dụng một trong hai chiến lược hiệu chuẩn solver đối kháng:
- Multi-solver calibration: chạy nhiều model solver khác nhau, giữ lại nếu có ít nhất 1 đậu và 1 rớt (bất đồng).
- Contrastive solver calibration: một solver mạnh đậu + một solver yếu rớt (quan hệ strong-pass/weak-fail).
- Chưa thỏa tiêu chí thì agent sửa lại tác vụ rồi thử lại, tối đa 50 vòng; mỗi phiên bản đều validate và probe lại.
Cả hai chiến lược hiện thực hóa vùng học được tương đối solver (solver-relative learnable zone): tác vụ chắc chắn giải được nhưng không bị giải đồng loạt dưới cấu hình solver chỉ định.
Ví dụ đời thường: giống giáo viên soạn đề thi, thay vì tự đoán đề khó hay dễ, cho hai học sinh giỏi–kém làm thử; cả hai làm được thì đề quá dễ phải sửa khó lên, cả hai chịu thì đề quá khó phải nới lỏng — chỉ giữ đề mà học sinh giỏi làm được còn học sinh kém rớt.
III. Main Results:
- Sinh được 5,431 tác vụ đã hiệu chuẩn (1,263 từ multi-solver, 4,168 từ contrastive).
- Ablation trên Qwen3-30B: multi-solver 29.21% và contrastive 31.09% trên Terminal-Bench 2.0, so với 22.47% (chỉ viết + validate) và 24.34% (phản hồi 1 solver).
- CalibForge-30B đạt 32.58%, CalibForge-35B đạt 47.57% trên Terminal-Bench 2.0 — cao hơn baseline tốt nhất 6.36 và 6.75 điểm.
- Chuyển giao OOD: 35B đạt 44.32% trên SWE-bench Pro và 48.77% trên Doc2Repo (cao nhất among nguồn dữ liệu cùng backbone).
- Cải thiện lớn nhất so model gốc: +24.71 điểm TB2, +27.68 SWE-Pro, +30.04 Doc2Repo.
- Phủ 16 lĩnh vực, 3,885 capability tag khác biệt (phân bố long-tail: 51.6% tag chỉ xuất ở 1 tác vụ).
IV. Conclusion & Future Works:
Learnability tương đối solver là mục tiêu thực tế để xây dựng dữ liệu huấn luyện agent vừa hiệu quả vừa có khả năng chuyển giao sang bài toán phần mềm dài hạn. Tác vụ được hiệu chuẩn mang lại giám sát tốt hơn hẳn so với chỉ viết/xác minh hoặc phản hồi đơn solver. Hướng tương lai: mở rộng sang tác vụ sửa issue kho lưu trữ lớn, tối ưu chi phí vòng lặp hiệu chuẩn, và áp dụng cho agent đa phương thức hoặc đa ngôn ngữ.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng hiệu chuẩn solver đối kháng cho tác vụ giải quyết issue kho lưu trữ thực tế, phân định solver mạnh/yếu bằng độ dài lịch sử commit và kích thước code base.
- Kết hợp hiệu chuẩn solver với active learning để tự chọn cấu hình solver yếu nhất vẫn sinh ra tín hiệu học tập hữu ích, giảm số vòng lặp và chi phí sinh dữ liệu.
- Áp dụng learnable zone cho sinh tác vụ đa ngôn ngữ trong tài liệu kỹ thuật, nơi solver yếu = model nhỏ chạy local, solver mạnh = model lớn chạy cloud.
2. Patent:
- Ứng dụng điện thoại: app học lập trình terminal tự sinh bài tập; cho hai AI năng lực nhỏ–lớn giải thử, chỉ giữ bài mà AI lớn giải được còn AI nhỏ sai, bảo đảm bài vừa sức người học và có lời giải tham khảo.
- Công cụ soạn đề thi kỹ sư phần mềm tự động: công ty tạo bài test phỏng vấn, hệ thống tự kiểm tra độ khó bằng hai model AI khác năng lực rồi tự điều chỉnh đề sao cho phân loại ứng viên rõ ràng.
- Nền tảng kiểm thử DevOps tự động: tự sinh kịch bản lỗi cấu hình thực tế, dùng hai agent khác nhau xác nhận kịch bản đủ khó để lộ lỗi nhưng vẫn có cách sửa, làm tài liệu huấn luyện AI vận hành.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.06352 |
| ArXiv Abstract | https://arxiv.org/abs/2608.06352 |
| PDF Download | https://arxiv.org/pdf/2608.06352.pdf |
| Github Repository | https://github.com/AweAI-Team/CalibForge |
20. KVAE: Family of Tokenizers for Multimodal Generative Models (11 votes)
Tác giả: Andrey Shutkin, Denis Parkhomenko, Ivan Kirillov, Kirill Chernyshev, Kirill Malakhov, et al.
Xuất bản lúc: 2026-08-06
Tag: Tokenizer, Latent Diffusion, VAE, Video Generation, Image Generation, Audio Generation, Multimodal, Diffusability, Conv3D
I. Main Problem:
Trong sinh ảnh latent diffusion (LDM), tokenizer (bộ mã hóa–giải mã) là mắt xích bắt buộc: nó nén tín hiệu đầu vào thành không gian latent, rồi mô hình sinh mới hoạt động trong không gian này. Do đó tokenizer quyết định tốc độ học, chất lượng ảnh sinh và đặc tính mô hình. Ba khó khăn cốt lõi:
- Tỷ lệ nén cao là cần thiết (do độ phức tạp bậc hai của attention), nhưng nén quá đà làm mất thông tin.
- Nghịch lý tái tạo – sinh: điểm đo tái tạo (PSNR, LPIPS) không dự báo đáng tin chất lượng sinh (FID, CLIP). Tăng chiều feature mỗi token có thể cải thiện FID tái tạo nhưng lại làm tệ FID sinh.
- Chi phí chọn tokenizer: huấn luyện toàn bộ mô hình sinh để đánh giá một tokenizer quá tốn kém, cần một chỉ báo rẻ tiền để sàng lọc trước.
II. Main Idea:
KVAE là họ tokenizer đa phương thức (ảnh, video, audio) thiết kế chung cho sinh có điều kiện văn bản, tối ưu đồng thời tỷ lệ nén cao và diffusability (độ "dễ sinh" của không gian latent). Cách làm:
- Kiến trúc video: dùng Conv3D không attention, RMSNorm chỉ trên trục không gian (giữ tính nhân quả), padding bất đối xứng để xử lý cả ảnh lẫn video, suy luận chuỗi dài qua cơ chế cache.
- Bất đối xứng encoder–decoder: decoder to hơn hẳn encoder (tới 5.3×) vì decoder cần năng lực sinh cao.
- Huấn luyện 4 giai đoạn: (1) L1 + LPIPS + KL; (2) thêm GAN theo khung; (3) EQ-loss + downsample latent; (4) finetune decoder. Dùng sequence-length scaling (65→129 khung) và trộn 30% ảnh vào batch video.
- Chọn mô hình rẻ tiền: dùng CDS (Correlation Decay Slope) — độ dốc suy giảm tương quan không gian của latent — làm chỉ báo sàng lọc thay vì huấn luyện hết mô hình sinh tốn kém.
Ví dụ đời thường: giống một xưởng đóng gói chuyên rút gọn hàng loạt nguyên liệu thô thành những hộp nhỏ gọn, có nhãn rõ ràng và xếp theo thứ tự dễ lấy; thay vì chạy thử cả dây chuyền sản xuất để biết hộp nào tốt, họ chỉ rà một tờ kiểm tra nhanh (CDS) để chọn kiểu đóng gói tối ưu trước.
III. Main Results:
- Tái tạo: trên MCL-JCV 720p, KV AE-4x8x8 (16 kênh) đạt PSNR 36.0 (cao hơn ~1.8 dB so với Wan/Hunyuan cùng hệ số), KV AE-4x16x16 (64 kênh) đạt 35.2 PSNR, LPIPS ngang bằng.
- Ảnh sinh (T2I): hệ số nén cao → hội tụ nhanh hơn; KV AE-4x16x16 (64 kênh) vượt FID của HunyuanVideo-1.5 (32 kênh). Đánh giá side-by-side: KV AE-4x16x16 được ưu tiên nhất quán; KV AE-4x8x8 dẫn đầu dù chỉ số khách quan thấp hơn (nghịch lý đo lường).
- Video sinh (T2V): KV AE-4x16x16 cho không gian latent tốt hơn HunyuanVideo-1.5 VAE — hội tụ nhanh, phương sai thấp hơn trên QAlign/InternVideo2.
- KV AE-2D-2.0 (ảnh): trên OmniDoc-TokenBench vượt FLUX.1-dev và FLUX.2-dev về PSNR (28.05), SSIM (0.957), NED (0.976); trong sinh T2I 2B thắng FLUX.2 VAE ở mọi tiêu chí (chênh lệch lớn nhất 5.3 điểm semantic).
- CDS: tương quan Pearson r=0.906 với điểm chất lượng hình ảnh Bradley–Terry trên 14 cấu hình tokenizer — chỉ báo sàng lọc hữu dụng.
IV. Conclusion & Future Works:
KVAE chứng minh một họ tokenizer đa phương thức có thể vượt hoặc ngang bằng các tokenizer mã nguồn mở hàng đầu (Wan-2.2, HunyuanVideo-1.5, FLUX.2, MovieGen, StableAudio, MMAudio) đồng thời chia sẻ chi tiết huấn luyện, phương pháp chọn mô hình và ablation. Diffusability và CDS được xác lập là công cụ sàng lọc rẻ tiền thay thế việc huấn luyện sinh đắt đỏ. Hướng tương lai: làm rõ cơ chế liên kết giữa thiên hướng phổ (spectral bias) – dung lượng thông tin – chất lượng sinh; mở rộng CDS sang video/audio; tối ưu cân bằng nén–thông tin dưới bottleneck cố định.
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu cơ chế liên kết giữa spectral bias của latent và dung lượng thông tin đến chất lượng sinh, vượt khỏi giả thuyết làm việc hiện tại.
- Mở rộng chỉ báo CDS sang tokenizer video và audio để sàng lọc tự động trước huấn luyện mô hình sinh đa phương thức.
- Khảo sát quy mô hóa: ảnh hưởng của số kênh latent và tỷ lệ nén đến tốc độ hội tụ và chất lượng sinh trên mô hình lớn hơn.
2. Patent:
- Trên điện thoại: bộ nén ảnh/video tích hợp vào camera, nén khung hình thành latent nhỏ gọn ngay trên thiết bị để gửi lên đám mây sinh video/theo văn bản nhanh, tiết kiệm băng thông và pin nhờ kiến trúc Conv3D không attention chạy nhẹ.
- Tính năng chỉnh sửa ảnh/video trên điện thoại: dùng tokenizer ảnh nén ảnh chụp thành bản rút gọn 32 kênh, rồi mô hình sinh trên máy vẽ lại theo lời nhắn để đổi phong cách hoặc nền mà không cần tải mô hình giải mã nặng.
- Trợ lý tạo nội dung đa phương thức di động: kết hợp tokenizer âm thanh 48 kHz và video để ghi lại tiếng nói/môi trường rồi sinh nhạc nền hoặc hiệu ứng đồng bộ theo thời gian thực, tận dụng bản rút gọn 50 Hz nhẹ để chạy mượt trên chip điện thoại.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.05798 |
| ArXiv Abstract | https://arxiv.org/abs/2608.05798 |
| PDF Download | https://arxiv.org/pdf/2608.05798.pdf |
| Github Repository | https://github.com/kandinskylab/kvae |
21. PaDoc: Layout-Grounded Parallel Decoding for Document Parsing (10 votes)
Tác giả: Hao Yu, Jiabo Zhan, Kang Liu, Linnan Zhao, Dongxu Yue, et al.
Xuất bản lúc: 2026-08-06
Tag: Document Parsing, MLLM, Parallel Decoding, Layout Analysis, VLM, OCR, Inference Acceleration, vLLM
I. Main Problem:
Các trình phân tích tài liệu end-to-end gộp toàn bộ bố cục và nội dung trang vào một chuỗi tự hồi quy duy nhất, ép các vùng độc lập về mặt không gian phải giải mã nối tiếp — độ sâu giải mã tăng theo tổng độ dài nội dung, rất tốn kém với trang nhiều vùng.
Các hệ thống crop-based hai giai đoạn (phát hiện bố cục rồi nhận dạng từng vùng cắt) thì lộ ra song song ở mức vùng, nhưng:
- phải mã hóa thị giác lặp lại cho từng crop
- mất ngữ cảnh toàn trang (thứ tự đọc, phân cấp chương, quan hệ bảng-chú thích, tham chiếu chéo)
Các bộ tăng tốc suy luận chung tạo nhánh giả định/suy luận không bám sát layout thực tế của tài liệu, có thể bị loại khỏi đầu ra.
II. Main Idea:
PaDoc là trình phân tích tài liệu lấy bố cục làm gốc, coi bố cục dự đoán như cấu trúc phân nhánh trên một biểu diễn trang dùng chung. Cốt lõi:
- Dưới giả định đủ vùng (nội dung vùng k chỉ phụ thuộc vùng khác khi đã biết ảnh trang X và bố cục vùng k), tác giả suy ra phân tích tiền tố có điều kiện: luồng bố cục và nhánh nội dung vùng k cùng điều kiện trên tiền tố (X, B≤k) → có thể giải mã đồng thời.
- Độ sâu giải mã logic giảm từ tổng độ dài mọi vùng xuống đường đi dài nhất trong đồ thị bố cục-nội dung.
Hiện thực trong một MLLM duy nhất:
- Packed variable-length ancestor attention: mỗi node chỉ attend tổ tiên (ảnh + bố cục trước), huấn luyện bằng mục tiêu next-token chuẩn, không cần head phụ.
- Masked parallel decoding tại inference: mỗi nhánh nội dung giữ nguyên ảnh trang làm tiền tố thị giác chia sẻ, chỉ khác tiền tố bố cục.
- Backend vLLM phục vụ các luồng như request đồng thời, tái dùng KV-cache tiền tố (ảnh + bố cục) cư trú sẵn.
- Khởi tạo từ Qwen3-VL-2B, huấn luyện CPT rồi SFT.
Ví dụ đời thường: giống trưởng phòng đọc lướt qua toàn bộ tài liệu một lần, rồi đưa từng phần cho các nhân viên khác nhau viết song song — mỗi người chỉ cần biết phần mình và hình dung chung cả trang, thay vì một người phải đọc xong mới viết tiếp phần sau.
III. Main Results:
- Trên OmniDocBench Full: Overall layout F1 91.1 (F1 bảng dẫn đầu mọi chỉ số: IoU 92.7, F1 97.0).
- Trong nhóm end-to-end: Overall score 94.24 (top-tier, hơn Qianfan-OCR 0.34), Text Edit tốt nhất 0.038 và Formula CDM 95.59.
- Trên 1 GPU A800, nhanh nhất mọi mức đồng thời (C16–C256) trong các parser end-to-end; throughput tăng 67.4–118%, P95 latency giảm 39.2–54.9% so với baseline Sequential SFT cùng backbone.
- Dù 2.1B tham số, vượt HunyuanOCR-1.5 (1.0B) mọi mức đồng thời và bỏ xa MonkeyOCRv2 (0.7B).
IV. Conclusion & Future Works:
PaDoc chứng minh song song hóa bám theo bố cục giúp giảm đáng kể chi phí phục vụ mà không sửa kiến trúc MLLM, chỉ qua ancestor attention đóng gói và tái dùng tiền tố chia sẻ. Hướng mở rộng hợp lý (từ văn bản): áp dụng lên backbone lớn hơn, kết hợp với các runtime cây có hỗ trợ attention chia sẻ原生, và mở rộng sang tài liệu dày nhiều trang liên tục.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng parallel decoding bám layout sang các MLLM lớn hơn (7B–30B) để xem song song hóa có duy trì lợi thế ở quy mô lớn hay không.
- Hiện thực mask tổ tiên vật lý (fused ancestor mask) thay vì request-level vLLM để loại bỏ overhead lập lịch và đo sát hiệu quả trên GPU đa node.
- Kết hợp PaDoc với tài liệu nhiều trang có tham chiếu chéo để kiểm tra giả định đủ vùng khi nội dung vùng phụ thuộc ngữ cảnh trang trước.
2. Patent:
- Ứng dụng quét tài liệu trên điện thoại: sau khi chụp một trang, app phân tích bố cục rồi nhận dạng đồng thời các đoạn văn bản, công thức, bảng thành Markdown/JSON — nhanh hơn hẳn so với nhận dạng nối tiếp, đặc biệt với tài liệu khoa học nhiều công thức.
- Dịch vụ số hóa PDF hàng loạt trên đám mây: chia mỗi trang thành nhiều nhánh nội dung chạy song song trên cùng một bản sao ảnh, tăng thông lượng trang/giây mà không cần crop lặp lại, hạ chi phí GPU cho mỗi trang.
- Tính năng trích xuất bảng/công thức thông minh trong app đọc PDF: chỉ cần biết vùng bố cục, app giải mã riêng từng bảng hoặc công thức song song thay vì chờ toàn bộ trang, giúp xem trước kết quả nhanh khi người dùng lướt tài liệu dày.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.06146 |
| ArXiv Abstract | https://arxiv.org/abs/2608.06146 |
| PDF Download | https://arxiv.org/pdf/2608.06146.pdf |
| Github Repository | https://github.com/Longin-Yu/Padoc |