🤗 Daily Hugging Face Paper Digest - 2026-09-30

Báo cáo được tạo tự động vào lúc 2026-10-01 11:10:20 bằng mô hình hermes-agent.

📰 Summary of Papers

1. Raven: The Harness of Harnesses for Composable Agentic Intelligence (455 votes)

Tác giả: EverMind AI

Xuất bản lúc: 2026-09-27

Tag: Multi-Agent Systems, LLM Agents, Agent Orchestration, Agent Memory, Skill Learning, Self-Evolution, Task Decomposition

I. Main Problem:

Khi AI agents vượt ra khỏi tác vụ đơn lẻ sang các workflow dài hạn, xuyên lĩnh vực (ví dụ: phát triển cả một game FPS từ nghiên cứu, lập trình, thiết kế đến vận hành), xuất hiện hai thách thức lớn:

Độ phức tạp của harness không còn thiết kế thủ công được: công cụ, quản lý context, chính sách thực thi càng nhiều thì số lựa chọn phải cấu hình và kiểm chứng tăng theo.
Harness chuyên hóa gắn chặt một domain: gộp năng lực của nhiều agent đòi hỏi ghép đúng subtask với đúng executor và thiết lập được các handoff tương thích — trong khi các lỗi đa-agent thực tế thường do lệch pha giữa các agent và thiếu kiểm chứng.

Câu hỏi trung tâm dịch từ "làm sao kỹ thuật hóa một harness mạnh cho một domain" sang "làm sao tự động dựng, tự cải tiến và điều phối nhiều harness chuyên biệt xuyên domain".

II. Main Idea:

Raven đối xử với mỗi cặp model + harness (giao diện tool, quản lý context, skill, chính sách thực thi, cơ chế phục hồi) như một đơn vị trí tuệ có thể lắp ghép, rồi xây một hệ sinh thái đa-agent mở quanh bốn cơ chế chính:

Host Agent phân rã mục tiêu, khớp subtask với năng lực đã đăng ký trong agent registry, biểu diễn phụ thuộc bằng đồ thị DAG (node = lời gọi agent, cạnh = artifact bàn giao), runtime kiểm tra kế hoạch trước khi phát, lập lịch node sẵn sàng và xử lý ngoại lệ; adapter kết nối cả agent bên thứ ba (Claude Code, Codex, OpenClaw...) mà không phá vỡ vòng lặp nội bộ của họ.
Harness Self-Evolution (kế thừa HarnessBank): harness được thiết kế module hóa để một evolver bên ngoài chẩn đoán lỗi, đề xuất biến thể, đánh giá bằng task model cố định, qua ngân hàng "gen" harness và sàng lọc có cổng (gated screening).
Hệ thống nhớ: host archive giữ ngữ cảnh người dùng, EverOS truy cập ngữ nghĩa kinh nghiệm quá khứ, gồm memory biểu hiện (episodic), củng cố ngữ nghĩa và truy xuất tái cấu trúc.
Skill Forge: rút quy trình từ kinh nghiệm thành skill tái sử dụng, lấy từ skill nội bộ, skill sinh từ memory và kho SkillHub.

Kèm theo là lý thuyết về composition: định nghĩa năng lực theo task coverage đáng tin cậy dưới ngân sách chung, chứng minh điều kiện đủ (bù trừ năng lực cục bộ, handoff tương thích, lỗi lập kế hoạch/thực thi bị chặn) để hệ ghép giải được các task mà từng agent riêng lẻ không giải được đáng tin cậy — kể cả khi trừ hết chi phí điều phối.

Ví dụ đời thường: giống bếp trưởng nhà hàng — không tự nấu tất cả mà nhận order, chia ra (bếp nướng, sơ chế, trang trí), chuyển món giữa các station đúng thứ tự, kiểm tra đĩa cuối rồi giao cho khách; đồng thời ghi chép công thức kinh nghiệm để lần sau nấu nhanh và ít hỏng hơn.

III. Main Results:

MAOB (Multi-Agent Orchestration Benchmark): đo chọn specialist và dự đoán phụ thuộc bằng cách so sánh DAG đề xuất với đồ thị chuẩn. Raven đứng đầu tất cả 4 metric đồ thị trên cả hai backbone, Exact Match tăng +10.4 và +10.5 điểm phần trăm so với baseline mạnh nhất.
Raven-Research: Node F1/Edge F1 cải thiện (ví dụ Qwen3.6-35B +6.6 pp, DeepSeek-V4-Flash +7.6 pp so với best baseline).
Raven-Code: +2.0 pp trên SWE-bench Pro, +0.6 pp SWE-bench Verified, +9.5 điểm trung bình SWE-Refactor.
Raven-Design (Claude Opus 5): +1.9 đến +2.8 điểm trên PresentBench, ArtifactsBench (Dashboard, SVG), GDPval.
Raven-Oncall: success rate 82.35% so với 64.71% (+17.6 pp) trong khi chi phí giảm 62.5% (5.10 USD vs 13.60 USD/case) với cùng backbone.
Skill retrieval/reuse: kho skill được curation cải thiện Raven trên 3 benchmark, vượt OpenClaw trên 2 benchmark.

IV. Conclusion & Future Works:

Raven dịch khung agentic intelligence từ kỹ thuật một harness toàn năng sang kiến trúc hệ sinh thái: harness chuyên biệt tự được dựng và tiến hóa, host điều phối chúng bằng đồ thị phụ thuộc tường minh, còn memory và skill forge bảo toàn kinh nghiệm xuyên phiên làm việc. Lý thuyết đi kèm cho thấy composition thực sự có thể mở rộng coverage vượt ngoài khả năng từng agent riêng lẻ, miễn là handoff và năng lực cục bộ đáp ứng điều kiện đủ. Hướng tương lai (theo cấu trúc bài): mở rộng mạng cộng tác all-domain, cải tiến thêm evolution harness, củng cố memory ngữ nghĩa và tự tiến hóa skill.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng lý thuyết composition cho trường hợp các agent trong hệ tự học và tiến hóa trong lúc chạy, với điều kiện đủ về độ tin cậy khi năng lực cục bộ thay đổi theo thời gian.
Benchmark sâu hơn cho chất lượng handoff: đo mức artifact bàn giao giữa các agent thực sự bảo toàn giả thuyết cần cho các bước sau, thay vì chỉ so sánh đồ thị như MAOB hiện tại.
Nghiên cứu cân bằng chi phí: tối ưu phân bổ ngân sách giữa lập kế hoạch (host), thực thi worker và retry dưới ràng buộc ngân sách chung, mở rộng các điều kiện đủ hiện có.
Kết hợp Skill Forge với skill do cộng đồng đóng góp (SkillHub) để agent tự rút ra quy trình từ kinh nghiệm thất bại và chứng minh được mức tái sử dụng xuyên domain.

2. Patent:

Trợ lý dự án trên điện thoại tự chia việc: người dùng nhập một mục tiêu lớn (ví dụ tổ chức sự kiện), ứng dụng tự phân rã thành danh sách việc, giao cho các module chuyên biệt (tìm địa điểm, soạn ngân sách, thiết kế thiệp) chạy song song có thứ tự phụ thuộc, rồi tổng hợp kết quả giao về một màn hình.
Hệ điều phối kỹ thuật viên ảo cho doanh nghiệp: một "quản lý ca" số nhận sự cố hệ thống, phân loại, giao cho agent chẩn đoán riêng, agent vá lỗi riêng, agent kiểm thử riêng theo đồ thị bàn giao; tự ghi lại cách xử lý thành quy trình để lần sau giải quyết nhanh hơn và rẻ hơn.
Nhà thầu phần mềm tự động trên thiết bị di động: mô tả ý tưởng app bằng giọng nói, hệ thống giao yêu cầu-kiến trúc cho module nghiên cứu, song song giao UI cho module thiết kế, code cho module lập trình, rồi module tích hợp ghép lại và tự kiểm thử trước khi bàn giao.
Hệ sinh thái agent tự cải tiến nghề nghiệp cho trợ lý cá nhân: mỗi lần hoàn thành hoặc thất bại một tác vụ (đặt lịch, soạn email, lập báo cáo), hệ tự rút ra 'kỹ năng' lưu vào kho cá nhân và tự điều chỉnh cách thực hiện mà không cần người dùng lập trình lại.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.33439
ArXiv Abstract	https://arxiv.org/abs/2609.33439
PDF Download	https://arxiv.org/pdf/2609.33439.pdf
Github Repository	https://github.com/EverMind-AI/Raven

2. In-Context Learning for Robots: Methods and Applications (336 votes)

Tác giả: Haojian Huang, Zexi Li, Junhao Guo, Yehang Zhang, Wenxuan Peng, et al.

Xuất bản lúc: 2026-09-28

Tag: In-Context Learning, Robotics, Robot Learning, Vision-Language-Action, World Models, Imitation Learning, Meta-Learning

I. Main Problem:

Robot đa năng cần suy ra yêu cầu của tác vụ mới (thứ tự lắp ráp, cách cầm đúng, ma sát của vật liệu lạ) và chuyển thành hành động vật lý, nhưng kiến thức motor học từ pretraining không giải quyết được độ mập mờ của cảnh hiện tại. Fine-tuning tốn kém và thay đổi trọng số; robot cần cách học ngay lúc triển khai với tham số neural cố định. Vấn đề lõi:

làm sao bằng chứng ngữ cảnh (demonstration, chỉnh sửa, lịch sử tương tác) thay đổi hành vi robot
thông tin dạy dỗ sống sót khi đổi vật thể, môi trường, điều kiện vật lý thế nào
làm sao đánh giá đúng công lao của context mà không nhầm với năng lực motor sẵn có hay ký ức giữ lại.

II. Main Idea:

Bài khảo sát tổ chức toàn bộ lĩnh vực qua đường đi từ context tới hành động, phân ra bốn họ phương pháp tùy thành phần trung gian mà execution tiêu thụ:

Context-conditioned policies: suy diễn hành động trực tiếp từ demonstration, ngôn ngữ, lịch sử tương tác (MOSAIC, VIMA, ICRT, Instant Policy, RICL)
Geometric demonstration transfer: tái dựng chuyển động/chạm được demo, căn chỉnh (align/retarget) sang cảnh hiện tại rồi tracking (DINOBot, FlowControl, DITTO, ODIL)
World-model-based control: dự đoán tương lai rồi giải mã, lập kế hoạch hoặc chọn hành động (DOMINO, MetaDiffuser, Zero-WAM, Demo-JEPA)
Skill- and agent-based execution: LLM/VLM sinh chương trình, chọn skill hoặc gọi robot-tools cho executor riêng (Code as Policies, ProgPrompt, GPT-Policy, Show-Harness)

Hai cơ chế xuyên suốt quyết định chất lượng: correspondence (ánh xạ vật/chạm/giai đoạn từ demo sang bản thực thi) và memory (giữ, nén, tái sử dụng bằng chứng qua các lần thử). Ngoài ra còn có model-external adaptation: kinh nghiệm sửa luôn cả 'harness' (code lắp context, rule retrieval) chứ không chỉ đổi mô hình. Khảo sát cũng đặt ICL trong 6 'tầm học': từ lập trình điều khiển (S1), học policy (S2), thích ứng theo lịch sử (S3), học tác vụ in-context (S4), tới physical recursive self-improvement (S5) và tiến hóa tri thức tập thể giữa các robot (S6).

Ví dụ đời thường: giống người thợ mộc lành nghề được chỉ dẫn việc mới — thay vì đi học lại nghề (fine-tuning), anh ta nghe chỉ dẫn, xem người khác làm mẫu một lần, nhớ lỗi lần trước rồi chỉnh cách làm ngay; bốn họ phương pháp khác nhau ở chỗ 'ghi nhớ và dùng lời chỉ' theo kiểu nào (nhại lại động tác, tưởng tượng trước kết quả, hay viết checklist rồi làm từng bước).

III. Main Results:

Đề xuất taxonomy bốn họ phương pháp với các chiều thiết kế chung (vai trò thông tin: task specification, correspondence, physical response, execution state), giúp so sánh giả định transfer giữa các cách tiếp cận.
Phân biệt rõ bốn nơi lưu adaptation: supplied context, recurrent state, external memory (cả ba giữ tham số cố định), và test-time/persistent weight updates — mỗi nơi tương ứng một can thiệp kiểm chứng trong evaluation (xoá context, clear state, chặn retrieval, reset weights).
Chỉ ra training quyết định khả năng dùng context: quan hệ học được giữa 'bằng chứng dạy' và 'hành động bị thay đổi' là yếu tố then chốt, không phải kích thước pretraining.
Đúc kết thực hành đánh giá tách bạch ba thứ hay bị nhầm: phản hồi với dạy dỗ, transfer vật lý (đổi vật thể/môi trường), và lợi ích từ kinh nghiệm giữ lại.
Đặt agenda nghiên cứu: compositional task acquisition, giữ nguyên quan hệ được dạy qua thay đổi vật lý, và physical recursive self-improvement.

IV. Conclusion & Future Works:

ICL cho robot là cầu nối giữa năng lực motor sẵn có và nhu cầu thích ứng tức thời: thành công phụ thuộc vào correspondence, training, memory hơn là quy mô mô hình. Các hướng mở then chốt:

chuyển từ phụ thuộc context sang quy tắc học tái sử dụng được
instruction tuning cho contextual learning phức tạp hơn
bảo toàn quan hệ được dạy khi vật thể/môi trường/động lực học thay đổi
giữ dạy dỗ hợp lệ trong khi loại bỏ kinh nghiệm lỗi thời
hướng tới physical recursive self-improvement: kinh nghiệm vật lý cải thiện chính khả năng học các tác vụ kế tiếp.

V. Brainstorming Space:

1. Publish Papers:

Phương pháp kiểm chứng 'context thật sự giúp': protocol chuẩn hóa gồm ablation từng loại bằng chứng (demo, chỉnh sửa, memory) dưới điều kiện thực thi giữ nguyên, áp dụng xuyên suốt các benchmark manipulation và navigation.
Khung unifying cho correspondence học được: một mô-đun ánh xạ vật/chạm/giai đoạn dùng chung cho cả bốn họ phương pháp, giảm chi phí retarget khi đổi cả vật thể lẫn robot.
Thuật toán selective experience retention: tự đánh giá điều kiện còn hiệu lực của từng correction/memory để giữ dạy dỗ hợp lệ và loại kinh nghiệm lỗi thời, phục vụ recursive self-improvement.

2. Patent:

Hệ thống dạy robot công nghiệp bằng điện thoại: người vận hành quay video làm mẫu một lần bằng điện thoại, ứng dụng gửi video lên đám mây; robot tự căn chỉnh chuyển động theo vị trí camera của người dùng và lặp lại thao tác ngay không cần huấn luyện lại.
Trợ lý robot gia đình học từ lời sửa chữa hằng ngày: khi người dùng nói 'không, cái này đặt lên trước', robot ghi nhớ câu chỉnh sửa kèm cảnh tương ứng, lần sau tự áp dụng đúng quy tắc cho vật thể tương tự mà không cần cập nhật phần mềm.
Module ký ức chia sẻ cho đội robot nhiều kiểu dáng khác nhau: một robot đã học được cách xử lý vật liệu lạ lưu thành 'kinh nghiệm' lên server, robot khác hình dáng khác tải về và dịch sang chuyển động của riêng mình thay vì sao chép động tác.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.36012
ArXiv Abstract	https://arxiv.org/abs/2609.36012
PDF Download	https://arxiv.org/pdf/2609.36012.pdf
Github Repository	https://github.com/JethroJames/awesome-robots-icl

3. MaLiang-Harness: A Programmable Path to Image and Video Generation (296 votes)

Tác giả: Haoyu Zhao, Zihao Zhang, Xudong Wang, Jiaxi Gu, Zuxuan Wu, et al.

Xuất bản lúc: 2026-09-28

Tag: Programmable Generation, Visual Programs, Multimodal LLMs, Image Generation, Video Generation, Evaluation Benchmarks

I. Main Problem:

Các mô hình tạo ảnh/video truyền thống tổng hợp trực tiếp pixel hoặc latent, khiến quá trình dựng hình chủ yếu ẩn và khó kiểm soát từng bước. Con đường mới dùng multimodal large language models viết chương trình đồ họa có thể chạy được, nhưng chương trình không lỗi vẫn có thể sai ý đồ thị giác: vật ở sai vị trí, sự kiện diễn ra sai thời điểm, thành phần không đúng yêu cầu. Khoảng lệch này được đặt tên là Program-to-Visual (P2V) gap. Bài toán cốt lõi là cần một hệ thống có trạng thái để dựng - kiểm tra - sửa lặp lại, giữ lịch sử phiên bản và buộc mọi đánh giá thị giác gắn với đúng phiên bản đang xét.

II. Main Idea:

MaLiang-Harness là một giao diện thống nhất để multimodal large language models biến yêu cầu người dùng thành chương trình đồ họa chạy được, rồi dùng kết quả render làm bằng chứng để chỉnh sửa. Ảnh và video dùng cùng khung: ảnh là render tại một thời điểm nội dung; video là lấy mẫu diễn biến theo thời gian của cùng chương trình.

Ba cơ chế chính:

Persistent Executable Generation state: lưu chương trình, tài nguyên, bối cảnh tác vụ, kế hoạch và chỉ số revision; mỗi lần sửa tạo bản mới, không ghi đè bản cũ.
Traceable Generation Process: ghi lại từng thao tác sinh/sửa, đầu vào - kết quả, revision nguồn và revision kết quả; ảnh render cũng gắn với revision được đánh giá.
Revision-aware Editing and Verification: có thể phục hồi nội dung từ revision cũ thành bản mới nhưng vẫn giữ yêu cầu hiện tại; mọi thay đổi dù nhỏ đều phải kiểm tra lại trước khi hoàn tất.

Điều kiện xuất bản yêu cầu file/tài nguyên khớp mã hash, export đúng định dạng - kích thước - thời gian, và mọi yêu cầu bắt buộc đều pass ở revision hiện tại.

Ví dụ đời thường: giống thợ thiết kế dùng bản vẽ có lịch sử phiên bản: mỗi lần đổi bố cục là một bản mới, render giống việc in thử để xem, góp ý được dán đúng vào bản đang xem; muốn quay lại phương án cũ vẫn được, nhưng danh sách yêu cầu của khách không bị xóa.

III. Main Results:

Hai benchmark mới: MaLiang-IBench gồm 50 prompt tạo ảnh và MaLiang-VBench gồm 13 prompt tạo video.
Đánh giá 11 mô hình trên MaLiang-IBench và 4 mô hình trên MaLiang-VBench; tiêu chí gồm tỉ lệ tạo thành công, chất lượng thị giác và chi phí tính toán.
GPT-6-Astra đạt 100% generation success trên cả hai benchmark; 48/50 ảnh, tức 96.0%, đạt mọi ngưỡng chất lượng; 10/13 video, tức 76.9%, đạt mọi ngưỡng.
Trên ảnh, các mô hình GPT đạt khoảng 92-100% success, trong khi DeepSeek/Kimi chỉ khoảng 12-40%; tuy nhiên success cao không đồng nghĩa mọi yêu cầu thị giác đều thỏa.
Trên video, Astra đạt 13/13 về aesthetics nhưng chỉ 10/13 về motion coherence; Kimi-K2.6 thành công 3/13 và không video nào đạt tất cả tiêu chí; DeepSeek-V4.1-Flash không hoàn thành tác vụ nào.
Chất lượng được GPT-6-Sol chấm theo thang 5; đây vẫn là tự đánh giá của mô hình, không phải thước cảm nhận độc lập.
Kết quả cho thấy điểm năng lực tổng quát không dự đoán tốt khả năng sinh ảnh/video thỏa yêu cầu thị giác.

IV. Conclusion & Future Works:

Bài báo chứng minh rằng tạo ảnh/video bằng chương trình chạy được có thể vượt ra ngoài kiểm tra 'code không lỗi' thành một quy trình có trạng thái: giữ nguyên tác phẩm, truy vết cách nó được dựng, và chỉ xuất khi revision hiện tại qua kiểm chứng. Hệ quả quan trọng là các benchmark tổng quát cần bổ sung đo lường P2V gap. Hướng phát triển hợp lý là có bộ kiểm chứng độc lập thay vì chỉ dựa vào tự đánh giá của mô hình, mở rộng backend render, tăng độ dài/phức tạp video, và tối ưu chi phí token - thời gian khi lặp sửa.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu bộ kiểm chứng ngoài cho tạo ảnh/video bằng chương trình, giảm phụ thuộc vào tự đánh giá của multimodal large language model.
Phát triển benchmark đo Program-to-Visual gap theo thành phần hình ảnh, thời gian và lịch sử chỉnh sửa thay vì chỉ đo code chạy được.
Mở rộng MaLiang-Harness sang nhiều renderer và tác vụ biên tập thực tế, đo khả năng khôi phục phiên bản cũ khi yêu cầu thay đổi liên tục.

2. Patent:

Ứng dụng điện thoại tạo ảnh hoặc video theo 'công thức đồ họa': người dùng mô tả ý tưởng, hệ thống sinh chương trình vẽ, hiển thị bản thử, lưu từng phiên bản, và chỉ cho xuất khi mọi yêu cầu như màu sắc, bố cục, chuyển động đã được xác nhận.
Công cụ thiết kế quảng cáo có kiểm toán sáng tạo: mỗi thay đổi logo, màu thương hiệu, bố cục đều lưu bản render kèm bằng chứng, giúp nhóm duyệt lại vì sao một phiên bản được chấp nhận hay bị từ chối.
Ứng dụng học lập trình đồ họa cho học sinh: học sinh sửa từng dòng chương trình để tạo ảnh hoặc video, hệ thống tự đối chiếu sản phẩm với yêu cầu đề bài và gợi ý chỗ cần sửa.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.34309
ArXiv Abstract	https://arxiv.org/abs/2609.34309
PDF Download	https://arxiv.org/pdf/2609.34309.pdf
Github Repository	https://github.com/gulucaptain/MaLiang-Harness

4. Scaling Properties of Same-Family On-Policy Distillation (212 votes)

Tác giả: Yuntai Bao, Qinfeng Li, Guoqing Jiang, Liwei Chen, Zhiheng Qin, et al.

Xuất bản lúc: 2026-09-26

Tag: On-Policy Distillation, Scaling Laws, Weak-to-Strong, LLMs, Reinforcement Learning, KL Divergence, Math Reasoning, Knowledge Transfer

I. Main Problem:

Reinforcement learning (RL) tạo ra khả năng suy luận mạnh cho LLM, nhưng không rõ khả năng này truyền sang các model khác quy mô thế nào và nhanh cỡ nào. On-policy distillation (OPD) — teacher cung cấp token-level supervision trên rollout do student tự sinh — ngày câng được dùng trong post-training, nhưng:

thiếu quy luật dự đoán kết quả OPD từ quy mô teacher/student trước khi train
chưa rõ weak-to-strong (nhỏ dạy lớn) chuyển giao được bao nhiêu, bao lâu
các lựa chọn thiết kế (objective, cold start, bootstrapping) ảnh hưởng thế nào chưa được định lượng.

II. Main Idea:

Nghiên cứu đo đạc OPD trên lưới 25 cặp teacher–student (Qwen2.5 0.5B–14B, teacher là checkpoint sau GRPO RL, tác vụ toán GSM8K+MATH) và rút ra power laws dự đoán kết quả:

Đo tiến độ training bằng d = √KL(căn bậc hai reverse KL token-level so với student ban đầu). Giai đoạn đầu luôn có vùng useful-transfer đều đặn: gold score G (accuracy test held-out) tăng xấp xỉ tuyến tính theo d, trước khi đuôi training trở nên nhiễu (cải thiện chậm lại, bão hòa, hoặc tụt điểm — dấu hiệu overoptimization của implicit reward).
Fit power laws chung cho G_peak và slope m theo 3 biến: quy mô student, effective teacher scale (bị chặn không vượt quy mô student vì hiệu quả bão hòa/đảo chiều), và điểm số thực đo của teacher. Luật dự đoán peak sai lệch < 1 điểm ở quy mô lớn nhất chưa từng thấy.
Phát hiện cốt lõi: với cùng điểm số, teacher nhỏ truyền tốt hơn; mọi cặp weak-to-strong đều cho student vượt điểm teacher. Kiểm chứng ngoài mẫu bằng checkpoint 3B đạt 66.0 > 1.5B đạt 63.6: chỉ luật joint dự đoán đúng thứ tự (student từ 1.5B vẫn đạt peak cao hơn).

Ví dụ đời thường: giống thuê gia sư cho học sinh rất giỏi — thầy không cần giỏi hơn trò; một gia sư vừa đủ tầm nhẹ nhàng kéo trò ra khỏi thói quen cũ thì trò tự vượt thầy, còn học thuộc lòng bài giảng của giáo sư nổi tiếng (off-policy) lại bóp nghẹt tiềm năng sẵn có.

III. Main Results:

Hai pha rõ rệt: linear fit G(d) trên ~30 checkpoint đầu đạt R² ∈ [0.932, 0.988] cho cả 25 run; 9/25 run rời vùng tuyến tính trong phạm vi quan sát. Điểm tụt sau peak kèm proxy reward vẫn tăng → overoptimization của implicit reward.
Weak-to-strong luôn thắng teacher: student peak vượt điểm teacher trong mọi cặp, ví dụ student 14B + teacher 0.5B đạt 77.7% trong khi teacher chỉ 39.8%.
Power laws peak: 1 − G_peak ∝ N_S^−0.30 · N_T_eff^−0.27 · (1 − G_T)^0.95 (Vanilla); law extrapolate tới student/teacher lớn nhất với RMSE ≈ 0.55–0.68 điểm; conditioning thêm teacher score giảm một nửa RMSE so với chỉ dùng scale.
Teacher scale có ích chỉ tới quy mô student: student 0.5B tệ đi dưới teacher 7B/14B; same-base OPD peak gần bằng (trong 0.5 điểm) direct RL của chính student.
Delta-OPD > Vanilla-OPD ở weak-to-strong: slope lớn hơn 15/17 cặp, peak cao hơn 12/17, lợi thế tập trung ở teacher nhỏ (+2–4 điểm với teacher 0.5B).
Off-policy cold start có hại: 1 epoch SFT trên rollout teacher 0.5B trói student 14B gần điểm teacher, mất 19.4 điểm và OPD sau không phục hồi; hại tăng theo khoảng cách weak-to-strong.
Bootstrapping thất bại: mọi chuỗi 0.5B→…→14B đều peak thấp hơn OPD trực tiếp từ expert 0.5B (vd 76.8 vs 77.7 ở 14B); teacher 1.5B là sản phẩm OPD đạt 53.0% nhưng dạy student 3B kém expert 0.5B đạt 39.8% → điểm số teacher không đồng nghĩa giá trị dạy học.
Transfer extent (~0.2–0.36 ở d) gần như không phụ thuộc scale — một 'ngân sách KL' cố định, không fit được power law.

IV. Conclusion & Future Works:

OPD là quá trình hai pha (tuyến tính sạch theo √KL rồi nhiễu), và kết quả có thể ước lượng trước training từ quy mô student, teacher và điểm teacher. Hệ quả thực tiễn: chỉ cần train RL expert một lần ở quy mô nhỏ, rồi truyền dự đoán được khả năng suy luận cho cả họ model lớn hơn — teacher nhỏ hơn hoặc ngang student, đúng điểm RL endpoint, là lựa chọn tối ưu. Hướng tương lai: tìm luật cho transfer extent; mở rộng sang tác vụ và họ model khác; lý thuyết giải thích vì sao teacher nhỏ truyền tốt hơn ở cùng điểm số (giả thuyết feature-slots bị nghẽn qua mỗi stage); thiết kế objective khai thác dư địa weak-to-strong.

V. Brainstorming Space:

1. Publish Papers:

Luật scaling cho giai đoạn hậu-transfer: mô hình hóa đuôi nhiễu (bão hòa/regression) và dự đoán transfer endpoint thay vì chỉ peak và slope.
Weak-to-strong OPD xuyên họ model (cross-family) và trên tác vụ đa dạng (code, agentic) để kiểm chứng tính phổ quát của power law và giả thuyết feature-slots.
Lý thuyết feature-learning giải thích nghịch lý 'teacher nhỏ dạy tốt hơn ở cùng điểm số' và thiết kế reward reshape tối ưu hóa độ lệch teacher so với base (Delta-OPD).
Phương pháp chọn teacher tối ưu theo ngân sách: trade-off giữa chi phí train RL expert và peak student dự đoán được từ luật joint.

2. Patent:

Hệ thống chọn teacher tự động cho distillation trên điện thoại: nhập quy mô model trên máy và điểm benchmark của vài candidate teacher, công cụ áp dụng power law để dự đoán peak accuracy của model trên máy và đề xuất teacher nhỏ nhất đạt mục tiêu, tránh train thử tốn kém.
Dịch vụ đám mây 'train expert một lần, phân phối cả họ model': train RL expert ở quy mô nhỏ (rẻ) một lần duy nhất, rồi distillation on-policy sang các biến thể lớn trên server và đẩy xuống điện thoại — tiết kiệm chi phí RL lặp lại cho từng cỡ model.
Công cụ ước lượng trước trên điện thoại cho AI cá nhân: trước khi tải gói trọng số teacher về máy, ứng dụng dùng luật scaling (quy mô student, điểm teacher) để hiển thị dự báo cải thiện chất lượng trả lời, giúp người dùng quyết định có đáng tải không.
Module cảnh báo overoptimization trong pipeline post-training on-device: theo dõi gold score theo √KL trong lúc distillation và tự dừng/điều chỉnh khi vượt ngân sách KL (~0.3), tránh giai đoạn đuôi làm model tụt chất lượng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.32722
ArXiv Abstract	https://arxiv.org/abs/2609.32722
PDF Download	https://arxiv.org/pdf/2609.32722.pdf
Github Repository	N/A

5. Omni-IO Skills: Harnessing Your Agent Omni-Native (159 votes)

Tác giả: Yanlin Li, Mingyang Hao, Shengqiong Wu, Hao Fei, Mong-Li Lee, et al.

Xuất bản lúc: 2026-09-25

Tag: Agent Harness, Multimodal, Omni Models, Agent Skills, Workflow Orchestration, MCP, LLM Agents

I. Main Problem:

Các agent đa năng (Codex, Claude Code) rất giỏi lập kế hoạch và lý luận, nhưng năng lực sản xuất đa phương thức còn phân mảnh:

Mở rộng mô hình nền sang modality mới đòi hỏi retrain tốn kém (codec, decoder, alignment mới).
Lắp ráp nhiều mô hình chuyên môn thì không có cách nào điều phối quy trình, phụ thuộc giữa các bước, sản phẩm trung gian, hay chỉnh sửa xuyên turn.
Kết quả: agent không xử lý được tác vụ sản xuất thực tế như poster + video quảng cáo + landing page từ cùng tài liệu nguồn.

II. Main Idea:

Omni-IO Skills là một Agent Harness cắm-vào-chạy: nó giữ nguyên reasoning core của agent chủ (GPT-5.6, Claude Sonnet 5...) và bổ sung xung quanh bốn lớp:

Skill Entry: 27 Skill dạng tuyên bố (điều kiện áp dụng, đầu vào, thủ tục, đầu ra) chia ba cấp — Atomic (19 thao tác đơn lẻ), Expert (2 quy trình sản xuất một deliverable, vd. Poster Design), Scenario (6 tác vụ ứng dụng nhiều sản phẩm, vd. Event Material). Skill cấp cao được mở rộng đệ quy thành skill cấp thấp.
MCP Tool Service: chuẩn hóa interface cho nhóm understanding, generation, utility; che giấu chi tiết API từng provider.
Provider & Configuration: tách năng lực (vd. "tạo ảnh") khỏi nhà cung cấp cụ thể (Gemini, ElevenLabs, Tripo3D) nên thay model mà không viết lại Skill.
Asset Registry: mọi sản phẩm được đăng ký với ID duy nhất, lưu ngữ cảnh tạo và nguồn gốc, tái dùng được xuyên turn mà không gắn vào đường dẫn vật lý.

Các tác vụ terminal được gom thành Declare Execution Graph (DEG): đồ thị có hướng không chu trình, chạy theo Wave scheduling — node độc lập chạy song song, node phụ thuộc chờ tiền nhiệm xong; khi một node lỗi, chỉ nhánh con bị hủy, nhánh khác vẫn chạy, và sản phẩm đã tạo không bị rollback.

Ví dụ đời thường: giống một đạo diễn sản xuất có sổ tay quy trình đã kiểm chứng: nhận đơn hàng rồi phân bổ xưởng in, xưởng quay, phòng thu âm chạy song song khi không phụ thuộc nhau; mọi nguyên liệu nhập xuất qua một kho có mã đăng ký nên lần sau sửa đổi chỉ cần lấy đúng nguyên liệu cũ ra dùng lại, không cần làm lại từ đầu.

III. Main Results:

Đánh giá trên UniM-90 với hai host agent khác nhau (GPT-5.6 Sol, Claude Sonnet 5).
Input-support rate: tăng từ 40.00% và 38.89% lên 100% cho cả hai.
Relative Semantic–Quality Coupled Score (SQCS): tăng từ 26.99 lên 74.94 (GPT-5.6, +47.95 điểm) và từ 27.82 lên 77.78 (Claude, +49.96 điểm).
Strict Structure Score: 100.00 và 99.78; Lenient Structure Score đạt 100.00 cho cả hai.
Đáng chú ý: SQCS tuyệt đối sau khi gắn harness (74.94 / 77.78 trên toàn bộ 90 instance) còn cao hơn base agents (67.49 / 71.53) đo chỉ trên tập con nhỏ hơn mà chúng hỗ trợ được — nghĩa là mở rộng phủ modality không đánh đổi chất lượng.
Phạm vi: 27 Skill bao phủ 38 tác vụ, 7 loại artifact (text, image, video, audio, document, 3D, code), 4 nhóm năng lực (understanding, generation, reasoning, retrieval).

IV. Conclusion & Future Works:

Bài báo chứng minh hợp thành năng lực ở tầng harness là lối đi thực tiễn để xây hệ thống Omni rộng và dễ tiến hóa mà không đụng vào reasoning core của agent chủ. Hệ thống bổ sung đúng phần còn thiếu giữa agent và các backend đa phương thức: tri thức quy trình phân cấp, interface thực thi chuẩn hóa, điều phối theo phụ thuộc và trạng thái sản phẩm bền vững. Các đánh giá trên hai host khác nhau cho thấy harness hoạt động như một lớp chia sẻ được, bù khoảng trống modality và workflow một cách nhất quán.

V. Brainstorming Space:

1. Publish Papers:

Điều phối đa agent trong harness Omni: nhiều agent chủ cùng chia sẻ một Asset Registry và thư viện Skill, nghiên cứu cách tránh xung đột khi các session chạy song sandwich và cùng sửa một sản phẩm.
Học và tự tạo Skill mới: agent tự rút trích quy trình từ các lần chạy thành công, đăng ký thành Expert/Scenario Skill mới và tự kiểm chứng trước khi đưa vào thư viện dùng chung.
Tối ưu Wave scheduling với ngân sách chi phí: chọn nhịp chạy song song và fallback provider sao cho tối thiểu hóa chi phí API và độ trễ cho workflow đa sản phẩm.

2. Patent:

Ứng dụng điện thoại tạo bộ quảng cáo đa phương tiện: người dùng tải ảnh sản phẩm lên, ứng dụng tự sinh poster, video quảng cáo có lồng tiếng và trang web giới thiệu; mọi sản phẩm dùng chung dữ liệu sản phẩm và phong cách, lưu trong kho tài sản để người dùng gọi lại và yêu cầu chỉnh sửa kiểu mới mà không tạo lại từ đầu.
Trợ lý soạn giảng trên điện thoại: từ video bài giảng và tài liệu, hệ thống tự tạo slide, hình minh họa, video giải thích và tài liệu PDF; khi giảng viên yêu cầu đổi cách trình bày, chỉ các thành phần bị ảnh hưởng được làm lại, slide và hình đã duyệt được giữ nguyên.
Hệ thống sản xuất tài liệu doanh nghiệp xuyên turn: hội thoại liên tục với agent, mỗi sản phẩm trung gian (bản tóm tắt cuộc họp, biểu đồ, báo cáo Excel) được đăng ký có mã để các tác vụ sau gọi lại theo mã, không phụ thuộc thư mục hay dịch vụ lưu trữ cụ thể.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.31847
ArXiv Abstract	https://arxiv.org/abs/2609.31847
PDF Download	https://arxiv.org/pdf/2609.31847.pdf
Github Repository	https://github.com/any2any-mllm/Omni-IO-Skill

Tác giả: Zhen Wang, Changpeng Wang, Zhe Liu, Zhangyang Qi, Yuxiang Lu, et al.

Xuất bản lúc: 2026-09-28

Tag: Vision-and-Language Navigation, Panoramic Vision, Vision-Language Models, Embodied AI, Robotics, RGB-only Navigation

I. Main Problem:

Thay ảnh thường bằng ảnh toàn cảnh 360° trong điều hướng theo ngôn ngữ không tự động cải thiện kết quả. Nguyên nhân chính:

tầm nhìn rộng hơn cho phép lập kế hoạch dài hơn, nhưng mô hình vẫn được huấn luyện và chạy theo chuỗi hành động ngắn
các điểm rẽ nhánh trong dữ liệu VLN hiện có khá thưa, khiến việc chọn đúng đường từ ngữ cảnh rộng thiếu giám sát
nhận diện từng địa danh là chưa đủ: agent cần hiểu quan hệ không gian giữa cửa, hành lang, vật thể và hướng đi quanh mình.

II. Main Idea:

PanoVLN điều chỉnh ba khâu để khai thác ảnh toàn cảnh 360°:

Dự đoán chuỗi hành động dài hơn: mô hình học tới H=18 bước, vì panorama cho thấy cả đoạn đường nối tiếp sau các lần rẽ
Confidence-guided execution: không chạy trọn chuỗi dự đoán; thuật toán cộng độ bất định từ logits rồi chỉ thực thi tiền tố còn đủ tự tin, sau đó mới quan sát lại
Dữ liệu hướng quyết định: xây 98K quỹ đạo trên 800 cảnh HM3D với nhiều điểm rẽ, chỉ dẫn rõ ràng được sinh và kiểm chứng, đồng thời lấy mẫu dày hơn quanh lúc rẽ và dừng
Biểu diễn có hình học: kết hợp đặc trưng ngữ nghĩa từ VLM với đặc trưng hình học từ PanoVGGT trên cùng vùng ảnh toàn cảnh, không tăng số visual token và không cần depth

Ví dụ đời thường: giống người đứng giữa ngã tư nhìn một vòng 360°, chỉ cần định sẵn vài bước đi tiếp theo; nếu chỗ nào mờ mờ chưa chắc thì dừng lại nhìn lại, còn đoạn nào rõ ràng thì cứ đi thẳng không phải hỏi lại liên tục.

III. Main Results:

R2R-CE Val-Unseen: SR 77.3%, vượt SOTA trước +11.9 điểm; NE 2.85 m, SPL 65.9%.
RxR-CE Val-Unseen: SR 78.0%, vượt SOTA trước +8.7 điểm; NE 2.85 m, nDTW 73.3%.
Bản PanoVLN† chỉ dùng dữ liệu R2R-CE/RxR-CE cũng đạt SR cao nhất nhóm hạn chế dữ liệu: 73.9% trên R2R-CE.
Ablation cho thấy ERP cần horizon dài: chính sách panorama vượt perspective khi H tăng, đỉnh quanh H=18, trong khi ảnh thường đỉnh sớm hơn nhiều.
CGE tốt hơn mọi chiến lược chạy cố định hoặc ngẫu nhiên; dữ liệu quyết định và fusion PanoVGGT đều cải thiện SR/SPL.
Robot thật trên quadruped: PanoVLN đi nhanh hơn rõ rệt, thời gian 86.4 s, tốc độ 25.7 cm/s, chỉ 7.4 lần gọi policy, 5.4 lần dừng, ít gián đoạn hơn NaVid, NaVILA, StreamVLN, JanusVLN.

IV. Conclusion & Future Works:

Kết luận chính: muốn lợi từ tầm nhìn rộng, phải thiết kế lại cả cách học, cách chọn dữ liệu và cách thực thi, không chỉ đổi camera. Tầm nhìn 360° hỗ trợ quy hoạch dài hơn, chọn nhánh tốt hơn và giảm số lần phải quan sát lại. Hướng mở rõ trong bài là mở rộng ra môi trường ngoài trời/địa hình phức tạp hơn và tích hợp dữ liệu quyết định với các mô hình nhớ không gian lâu dài.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu cách mở rộng chuỗi hành động tự tin cho robot di động khi dùng ảnh 360°, bao gồm cơ chế tự điều chỉnh số bước thực thi theo độ bất định từng trạng thái.
Phát triển bộ dữ liệu chỉ dẫn điều hướng giàu điểm rẽ, có kiểm chứng bằng cách tái phát lại quỹ đạo và đối chiếu lựa chọn đường với bằng chứng hình ảnh sạch.
Kết hợp đặc trưng ngữ nghĩa và hình học toàn cảnh cho các tác vụ embodied khác như tìm đồ vật theo mô tả, đặt đồ và trả lời câu hỏi không gian.
Đánh giá chuyển giao từ mô phỏng trong nhà sang ngoài trời cho robot bốn chân, tập trung duy trì đúng mối liên kết giữa câu chỉ dẫn và tuyến đường khi cảnh đổi mạnh.

2. Patent:

Ứng dụng điện thoại dẫn đường trong nhà cho người khiếm thị: dùng camera panorama hoặc quét 360° để nhìn toàn bộ ngã rẽ, đọc/sinh chỉ dẫn từng bước, rung nhẹ theo hướng đi; khi mô hình tự tin thì gợi ý nhiều bước liên tiếp, khi mờ thì yêu cầu người dùng xoay máy quan sát lại.
Robot giao hàng nội bộ trong nhà máy hoặc bệnh viện: gắn camera 360° để nhận diện các lối rẽ xung quanh cùng lúc, chọn nhánh đúng theo câu lệnh vận hành, giảm số lần dừng chờ hệ thống lập kế hoạch lại.
Kính thực tế tăng cường hướng dẫn bảo trì thiết bị: kỹ thuật viên nhìn một vòng quanh máy, hệ thống hiểu vị trí các cửa, van, công tắc tương đối nhau rồi chỉ dẫn nhiều thao tác liên tiếp; nếu vùng nào chưa chắc, giao diện sẽ nhấp nháy nhắc quan sát lại đúng chỗ đó.
Xe đẩy thông minh hỗ trợ người lớn tuổi trong viện dưỡng lão: camera toàn cảnh phát hiện hành lang, phòng và vật cản quanh xe, chọn tuyến theo yêu cầu như 'ra sảnh rồi vào phòng trà', đồng thời tự tin thì đi liền mạch, không chắc thì dừng an toàn để xác nhận.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.34759
ArXiv Abstract	https://arxiv.org/abs/2609.34759
PDF Download	https://arxiv.org/pdf/2609.34759.pdf
Github Repository	N/A

7. VoxMem: Benchmarking Multimodal Memory in Large Audio Language Models (125 votes)

Tác giả: Yang Xiao, Vidhyasaharan Sethu, Eun-Jung Holden, Ting Dang

Xuất bản lúc: 2026-09-26

Tag: Large Audio Language Models, Speech Understanding, Multimodal Memory, Benchmark, Long-Context Evaluation, Spoken Dialogue Systems

I. Main Problem:

Các hệ thống hội thoại bằng giọng nói cần ghi nhớ thông tin từ các tương tác trước, nhưng benchmark hiện tại thiếu sót ở ba khía cạnh:

Chỉ tập trung nội dung từ vựng (what was said), bỏ qua thông tin chỉ có trong tín hiệu audio: ai nói (speaker identity), nói như thế nào (paralinguistic cues), nghe được gì xung quanh (environmental sound).
Phép toán trí nhớ hạn chế, lựa chọn tùy tiện: chủ yếu kiểm tra truy xuất đơn giản, thiếu tổng hợp bằng chứng, theo dõi trạng thái biến đổi, và từ chối trả lời khi bằng chứng không đủ.
Coi trí nhớ là bài toán một phiên (single-session), trong khi tương tác thực tế diễn ra qua nhiều phiên riêng biệt với chủ đề và khoảng cách thời gian khác nhau; các benchmark so sánh độ dài lịch sử cũng dùng câu hỏi khác nhau ở từng độ dài, làm lẫn độ khó câu hỏi với độ dài ngữ cảnh.

II. Main Idea:

Bài báo đề xuất một taxonomy hai chiều cho trí nhớ hội thoại bằng lời nói và dựng benchmark VoxMem dựa trên đó:

Trục 1 — Acoustic evidence (cần nhớ gì): speech semantics, speaker identity, paralinguistic cues, environmental sound. Ba loại sau là audio-native: không trả lời được chỉ từ transcript.
Trục 2 — Memory operations (dùng thế nào): Information Extraction (truy xuất từ một phiên), Multi-Session Reasoning (kết hợp bằng chứng nhiều phiên), Temporal Evolution Tracking (theo dõi trạng thái thay đổi theo thứ tự phiên), Answer Refusal (từ chối khi bằng chứng bị khử).

Quy trình dựng dữ liệu: lập kế hoạch câu hỏi → viết dialogue → tổng hợp giọng nói (Higgs-TTS-3 với giọng VCTK cố định, trộn âm môi trường ESC-50). Mỗi câu hỏi nằm trong lịch sử gồm evidence sessions (chứa đáp án), haystack sessions (nội dung gây nhiễu cùng chủ đề — classifier văn bản chỉ đạt ~51-56%, ngang ngẫu nhiên), và filler sessions (nội dung không liên quan). Mỗi câu hỏi được giữ nguyên y nguyên ở 4 ngân sách ngữ cảnh 8K→64K token (Whisper) bằng cách chỉ thêm session, nên độ sụt hiệu suất quy được hẳn cho độ dài lịch sử. Kiểm soát chất lượng hai tầng bằng Gemini (không nằm trong số mô hình được đánh giá), xác nhận câu audio-native không giải được từ transcript (độ chính xác transcript-only rơi từ 46.2% xuống 4.4%).

Ví dụ đời thường: giống kiểm tra trí nhớ của nhân viên lễ tân phải nhớ không chỉ khách nói gì mà còn giọng ai nói, khách nói vui hay gắt, lúc đó ngoài đường có còi xe không — và phải nhớ qua nhiều lần khách ghé khác nhau, không phải một cuộc trò chuyện dài liên tục.

III. Main Results:

Quy mô: 3,196 instances / 799 câu hỏi, 34,743 phiên nói (177 giờ), 15 ô hợp lệ của taxonomy 4×4, 4 ngân sách ngữ cảnh 8K–64K.
Không mô hình nào vượt 40% tổng thể ở 32K: mạnh nhất 38.5%; proprietary trung bình 33.0%, open-weight 21.9%.
Phân hóa theo loại bằng chứng (32K, proprietary): Speech Semantics 55.6%, Speaker Identity 32.7%, Paralinguistic 20.0%, Environmental 21.9% — mô hình nhớ điều nói tốt hơn hẳn ai nói, nói thế nào, nghe được gì.
Operation × evidence tương tác mạnh: MSR tương đối robust (43.1% với speaker); TET sụp đổ với paralinguistic (3.4%) và environmental (1.2%) — theo dõi trạng thái chỉ ổn khi thay đổi được nói ra bằng lời.
Answer refusal ngược chiều: từ chối tốt hơn với paralinguistic/environmental (34%) — vì mô hình vốn xử lý yếu bằng chứng acoustic, không phải vì nhận ra bằng chứng thiếu.
Hiệu suất giảm khi lịch sử dài với mọi loại bằng chứng; tỷ lệ bảo toàn từ 8K→64K: semantics 70.3%, paralinguistic 69.8%, speaker 66.5%, environmental 63.2% — mở rộng context window không đảm bảo truy cập ổn định.
Error mode khác nhau về chất: speaker — lỗi binding/gắn thông tin nhầm người (48%); paralinguistic — lỗi localization, không tìm ra cue (63%); IE — lỗi kết hợp cue với ngữ cảnh (46%); TET — lỗi localization (55%), lỗi suy luận hiếm (5%).

IV. Conclusion & Future Works:

Kết luận: chỉ hỗ trợ audio context dài hơn là chưa đủ cho tương tác bằng giọng nói bền vững. Mô hình hiện tại chỉ theo dõi được trạng thái biến đổi khi thay đổi được diễn đạt bằng từ ngữ, và các kiểu trí nhớ acoustic gặp hỏng hóc khác nhau về bản chất (speaker: gắn nhầm người; paralinguistic/environmental: đánh mất cue ngay từ đầu).

Hướng đi tương lai (ngầm định từ benchmark và phân tích lỗi):

Phát triển LALM bảo toàn thông tin non-lexical và duy trì liên kết giữa voice, sự kiện, phiên hội thoại qua thời gian (stateful acoustic modeling).
Khai thác taxonomy 4×4 và thang ngữ cảnh có kiểm soát của VoxMem làm nền tảng đo lường và hướng dẫn cải tiến hệ thống memory ngoài khai thác context thuần túy.

V. Brainstorming Space:

1. Publish Papers:

Phương pháp memory architecture cho LALM duy trì voice-content binding xuyên phiên: lưu embedding giọng nói kèm định danh người nói và liên kết ngược về sự kiện, thay vì chỉ lưu transcript.
Cơ chế state tracking cho trạng thái acoustic (tông giọng, âm thanh môi trường) qua nhiều phiên: phát hiện thay đổi trực tiếp từ tín hiệu audio mà không cần thay đổi được nói ra bằng lời.
Kỹ thuật evidence localization trong lịch sử nói dài: tìm đúng phiên chứa bằng chứng khi có haystack cùng chủ đề, giảm lỗi localization chiếm 55-63% ở TET và paralinguistic.
Mô hình học từ chối có kiểm soát: phân biệt 'không đủ bằng chứng' với 'không xử lý được bằng chứng acoustic', thay vì từ chối do năng lực yếu.
Mở rộng benchmark sang trí nhớ hội thoại đa ngôn ngữ và giọng nói tự nhiên (non-TTS), kiểm chứng các kết luận của VoxMem ngoài dữ liệu tổng hợp.

2. Patent:

Trợ lý giọng nói trên điện thoại ghi nhớ ai đã yêu cầu gì: khi người dùng hỏi lại, ứng dụng nhận diện giọng người đang nói, tự động lọc lịch sử các phiên trước của đúng người đó để trả lời, thay vì dựa vào nội dung chữ.
Tính năng theo dõi tâm trạng người dùng qua các lần trò chuyện: ứng dụng ghi nhận tông giọng (vui, mệt, gấp gáp) của từng phiên và cảnh báo khi phát hiện sự thay đổi lâu dài, ví dụ giọng người thân trở nên uể oải qua nhiều tuần.
Hệ thống nhận diện âm thanh môi trường trong lịch sử hội thoại: điện thoại ghi nhớ ngữ cảnh xung quanh khi người dùng ra lệnh (tiếng xe cộ, báo động, mưa) và dùng lại ngữ cảnh đó để hiểu đúng ý đồ khi người dùng nhắc lại sau nhiều phiên khác nhau.
Cơ chế tránh trả lời bịa: khi người dùng hỏi về chi tiết không xuất hiện trong lịch sử hội thoại, trợ lý tự động trả lời 'không có thông tin' thay vì suy đoán, dựa trên việc kiểm chứng sự tồn tại của bằng chứng trong từng phiên đã lưu.
Dịch vụ hội nghị ghi nhớ người phát biểu: ghi lại cuộc họp kéo dài nhiều buổi, khi được hỏi 'tuần trước ai đề xuất phương án này?', hệ thống gắn nội dung phát biểu với giọng nói đúng người và đúng buổi họp.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.32607
ArXiv Abstract	https://arxiv.org/abs/2609.32607
PDF Download	https://arxiv.org/pdf/2609.32607.pdf
Github Repository	https://github.com/swagshaw/voxmem

8. LEGO-Anything: Coding Agents for 3D Scene Reconstruction (105 votes)

Tác giả: Xirui Li, Peng Shi, Mingwen Dong, Sheng Zhang, Zhuoyan Xu, et al.

Xuất bản lúc: 2026-09-28

Tag: Coding Agents, 3D Scene Reconstruction, Image-to-Code, Blender, Benchmark, Executable Scene Programs

I. Main Problem:

Dựng lại cảnh 3D từ một ảnh duy nhất thường được biểu diễn dưới dạng mesh, point cloud hoặc tập đối tượng cố định — khó kiểm tra, chỉnh sửa và truy vấn. Các benchmark hiện có cũng thiếu: chỉ đo ở cấp đối tượng, dùng mô tả văn bản thay vì ảnh, hoặc cần nhiều góc nhìn đã hiệu chuẩn. Hệ quả:

Không có cách trực tiếp so sánh kết quả với ảnh đầu vào và sửa lại
Thiếu chuẩn đánh giá end-to-end cho cảnh trong nhà lẫn ngoài trời, từ một ảnh tự nhiên

II. Main Idea:

LEGO-Anything định khung dựng cảnh 3D từ ảnh thành bài toán Image-to-Code: một coding agent tổng quát viết và chạy mã Blender, render cảnh, so sánh với ảnh gốc, rồi lặp lại sửa đổi cho đến khi khớp — sản phẩm cuối là scene program có thể chạy, chỉnh sửa và truy vấn như mã nguồn thông thường. Bộ ba công cụ kèm theo:

LEGO-Bench: benchmark 208 ảnh từ 104 cảnh mô phỏng đa dạng (trong/ngoài trời), chấm riêng 3 trục: độ hợp lệ của artifact, độ chính xác hình học bề mặt nhìn thấy, và độ giống ảnh render
LEGO-Plugin: plugin không cần training gồm 3 module — khởi tạo cảnh gắn với ảnh tham chiếu (dùng VGGT), tinh chỉnh dựa trên bằng chứng đo lường thay vì tự đánh giá (SAM 3 + Depth Anything V2), và version control để rollback sửa đổi làm hỏng tiến độ
LEGO-World: truy vấn cảnh đã dựng để suy ra detection, segmentation, depth như các readout tất định

Ví dụ đời thường: giống thợ xây không đổ bê tông nguyên khối một lần, mà lắp từng mảnh Lego — xếp thử một phần, lùi lại ngắm xem có giống bản vẽ không, rồi tháo gỡ chỉnh lại từng mảnh cho tới khi giống hệt.

III. Main Results:

GPT-6-astra đạt kết quả tốt nhất: 53.4% trong nhà, 39.6% ngoài trời, vượt mọi baseline task-specific và single-image
Tất cả coding agent đều cho artifact hợp lệ gần 100%, nhưng độ trung thực hình học và màu sắc còn khoảng cách lớn
Độ khó cảnh tăng (Easy→Hard) làm Reconstruction và Appearance giảm, nhưng Validity không đổi; ngoài trời khó hơn trong nhà ở mọi mức
Test-time scaling: tăng reasoning effort cải thiện rõ rệt 3 mô hình GPT-6 (astra từ 32.3% lên 61.8%), GPT-5.6 gần như không
Chẩn đoán 3 lỗi lặp lại: khởi tạo yếu, sửa đổi lùi tiến độ (29.6% edit của GPT-5.6-sol làm điểm giảm), và tự đánh giá kém hơn mức ngẫu nhiên về hình học (45.8%)
LEGO-Plugin cải thiện cả 6 mô hình, lên tới +62.7% tương đối cho agent yếu nhất
LEGO-World: readout từ cảnh đã dựng đạt 30.1 box AP (DINO: 59.9), 14.8 mask AP (SAM 3: 54.0), 0.155 AbsRel (Depth Anything 3: 0.078) — khả dụng nhưng xa chuyên môn hóa

IV. Conclusion & Future Works:

Bài báo chứng minh scene program có thể thực thi là mục tiêu đo lường được, chẩn đoán được cho coding agent tổng quát: agent dựng được cảnh hợp lệ nhưng độ trung thực còn hạn chế, và các lỗi quy trình (khởi tạo, hồi quy, tự đánh giá) có thể được khắc phục bằng plugin không cần training. Hướng tương lai: nâng độ chính xác hình học/vật liệu để cảnh dựng đủ tin cậy làm biểu diễn cho tác vụ thị giác, và mở rộng LEGO-Bench (thiết kế extensible) với scene/asset mới.

V. Brainstorming Space:

1. Publish Papers:

Kết hợp LEGO-Plugin với cơ chế thăm dò chủ động: agent tự chọn góc render kiểm chứng thông tin nhất thay vì render tuần tự, để tinh chỉnh hình học nhanh hơn.
Nâng cấp Enhanced Initialization bằng mô hình ước lượng camera và bố cục đa ảnh, để khởi tạo cảnh chính xác hơn cho các môi trường ngoài trời phức tạp.
Nghiên cứu self-evaluation có hiệu chuẩn: huấn luyện agent phân biệt lỗi hình học với lỗi vật liệu thông qua tín hiệu residual từ ảnh tham chiếu, thay vì dựa vào VLM judge hiện tại.

2. Patent:

Ứng dụng điện thoại dựng mô hình 3D từ một tấm ảnh chụp: người dùng chụp ảnh phòng hoặc cảnh ngoài trời, agent trên đám mây lặp viết-chạy mã 3D, trả về file cảnh có thể xoay, đo khoảng cách và đổi màu nội thất trực tiếp trên điện thoại.
Công cụ thiết kế nội thất tự sửa lỗi: khi người dùng kéo thả đồ đạc trong app, hệ thống tự kiểm tra va chạm, độ ổn định và tự rollback thao tác làm hỏng bố cục đã được chấp nhận trước đó.
Hệ thống trích xuất thông tin từ ảnh chụp không cần mô hình riêng: từ một cảnh 3D đã dựng lại, người dùng điện thoại truy vấn trực tiếp vị trí đồ vật, độ sâu tương đối và phân vùng từng vật thể như tra cứu cơ sở dữ liệu.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.36380
ArXiv Abstract	https://arxiv.org/abs/2609.36380
PDF Download	https://arxiv.org/pdf/2609.36380.pdf
Github Repository	N/A

9. What Makes World Action Models Generalize? An Empirical Study of Test-Time Future Modeling (103 votes)

Tác giả: Renping Zhou, Zanlin Ni, Zihao Fan, Guohao Fu, Zeyu Liu, et al.

Xuất bản lúc: 2026-09-29

Tag: World Action Models, Robot Learning, Video Generation, Flow Matching, Generalization, Embodied AI, LIBERO

I. Main Problem:

World Action Models vốn được kỳ vọng khái quát tốt vì học cặp hành động - tương lai. Nhưng ở inference, việc khử nhiễu video tương lai rất đắt, nên một nhánh Latent WAM bỏ hẳn tương lai lúc chạy để giảm latency. Vấn đề: các so sánh trước chủ yếu nói in-distribution, trong khi lý do tồn tại của WAM là khái quát hóa. Bài báo hỏi: tương lai có thật sự phải được sinh ra khi inference không, và nếu có thì cần sinh ở mức nào?

II. Main Idea:

Tác giả giữ cố định backbone, dữ liệu và budget, rồi so sách Explicit WAM sinh khung hình tương lai sạch theo schedule khử nhiễu với Latent WAM chỉ chạy một pass trên khung hiện tại. Họ đo khái quát hóa theo 3 trục: nhiễu môi trường, hiệu quả dữ liệu ít demo, và khái quát sang tác vụ mới không có hoặc chỉ có video không nhãn hành động.

Hai phát hiện then chốt:

F1: bỏ conditioning vào token tương lai ở inference làm khái quát hóa sụt mạnh, dù in-distribution gần ngang.
F2: chỉ cần một forward pass trên các token video tương lai để ở mức nhiễu Gaussian hoàn toàn đã recover phần lớn lợi ích; các bước khử nhiễu sau gần như không thêm gì. Lợi ích đến từ chuẩn bị biểu diễn tương lai, không phải tạo ra tương lai sạch.

Từ đó, Simple-WAM giữ token tương lai trong context nhưng để nguyên ở dạng nhiễu: video expert chạy đúng một lần, feature này condition cho toàn bộ các bước sinh hành động. Lúc train, họ dùng lịch trộn với xác suất p=0.5 để buộc mô hình đọc tốt feature tại đúng điểm nhiễu mà inference sẽ dùng. Giống như đi đường lạ không cần tưởng tượng ra toàn bộ chân dung đích rõ nét; chỉ cần một cái liếc mờ để định hướng là đủ để không bị lạc hướng.

III. Main Results:

Với cùng backbone Wan2.2-5B và action expert 1B, Explicit và Latent chỉ lệch 0.90 điểm in-distribution, nhưng Explicit vượt Latent +13.97 ở nhiễu môi trường, +8.45 ở 10-shot, và +64.00 ở học từ video không nhãn của tác vụ mới.
Chỉ chạy video expert ở bước đầu, khi tương lai còn là nhiễu thuần, đã cải thiện hơn Latent tới +26.44 ở perturbation, +8.2 ở data efficiency, +13.4 không video, +89.8 có video; chín bước khử nhiễu tiếp theo chỉ thêm khoảng -1.62 đến +1.8.
Simple-WAM đạt trung bình LIBERO-Plus 79.5, cao hơn Explicit 67.7 và Latent 53.8; latency 74.7 ms/chunk, nhanh gấp 3.8× Explicit và chỉ chậm hơn Latent khoảng 12.7 ms.
Data efficiency: LIBERO khoảng 92.4/97.2 ở 5/10-shot, RoboTwin 37.2; task generalization LIBERO 10.1 không video, 73.6 có video.
Ablation: p=0.25-0.75 chỉ lệch trung bình 1.3 điểm; thay token nhiễu bằng query học được hoặc zeros làm task-generalization sụt gần như sập.

IV. Conclusion & Future Works:

Kết luận chính: cuộc đánh đổi giữa khái quát hóa và hiệu năng là giả. WAM cần future conditioning ở inference, nhưng không cần video sạch; một lượt đọc trên tương lai đang ở nhiễu đủ duy trì phần lớn lợi ích. Hướng mở: kết quả mới kiểm chứng trên backbone 5B chưa có embodied pretraining; cần thử ở quy mô lớn hơn, có pretraining embodied, và phân tích lý thuyết vì sao feature từ nhiễu lại ổn định dưới perturbation.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng Simple-WAM sang backbone lớn hơn và có embodied pretraining để kiểm tra giới hạn của kết luận một-pass-noisy-future.
Nghiên cứu lịch trộn noise có thích ứng theo tác vụ hoặc theo mức perturbation thay vì dùng xác suất cố định.
Phân tích lý thuyết về cơ chế điều kiện hóa lên token tương lai nhiễu: vì sao nó bảo vệ chính sách khi camera, ánh sáng, nền thay đổi.
Đưa tư tưởng future-at-noise vào robot song tay và tác vụ có ngôn ngữ dài hạn ngoài mô phỏng, với chi phí latency thấp.

2. Patent:

Ứng dụng điện thoại điều khiển robot gia đình: khi người dùng đổi vị trí camera hoặc ánh sáng, robot chạy một lượt rất ngắn trên ảnh tương lai chưa làm rõ để ổn định hành động, giảm trễ trên thiết bị di động.
Module tiết kiệm demo cho robot lắp ráp: thay vì thu hàng trăm mẫu mỗi tác vụ, hệ thống học từ ít demo cộng video minh họa không nhãn, rồi dùng một lượt biểu diễn tương lai mờ để chuyển sang biến thể sản phẩm mới.
Bộ chống nhiễu cho cánh tay robot công nghiệp: giữ nguyên các vùng ảnh tương lai chưa khử nhiễu khi ra quyết định, giúp băng tải hoạt động ổn định hơn khi nền, vị trí vật thể hoặc góc camera bị xê dịch.
Hướng dẫn viên kỹ năng qua điện thoại: người dùng quay video thao tác mẫu chưa có nhãn; hệ thống rút biểu diễn động lực từ video đó để robot bắt chước thứ tự thao tác mà không cần ghi nhãn hành động thủ công.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.34981
ArXiv Abstract	https://arxiv.org/abs/2609.34981
PDF Download	https://arxiv.org/pdf/2609.34981.pdf
Github Repository	https://github.com/LeapLabTHU/Simple-WAM

10. Periodic Weak Spots: Phase Sensitivity from Chunked KV-Cache Compression (86 votes)

Tác giả: Xingyu Zhu, Pu, Yi, Ziheng Cheng, Ang Lv, et al.

Xuất bản lúc: 2026-09-28

Tag: KV Cache, Long-Context Inference, LLMs, Attention, Mechanistic Interpretability, Compression, DeepSeek

I. Main Problem:

Mô hình Transformer xử lý ngữ cảnh dài bị nghẽn bởi KV cache vì bộ nhớ và chi phí attention tăng tuyến tính theo độ dài context. Giải pháp thực tế là chunked KV-cache compression: gom cụm token liên tiếp thành cửa sổ cố định, nén mỗi cửa sổ thành ít entry cache hơn (được dùng trong DeepSeek-V4). Kỹ thuật này tạo ra một tọa độ vị trí mới: phase — vị trí của token tính theo modulo của stride nén (S).

Vấn đề cốt lõi: cùng một thông tin có thể dễ truy xuất ở phase này nhưng khó ở phase khác — hiện tượng "phase sensitivity" với các "điểm mù tuần hoàn" mà benchmark trung bình che giấu hoàn toàn.

II. Main Idea:

Bài báo khám phá và phân tích cơ chế của phase sensitivity — biến thiên tuần hoàn độ chính xác truy xuất theo phase của thông tin nguồn.

Quan sát thực nghiệm: Ở DeepSeek-V4, chỉ cần thêm vài token đệm trang trí làm dịch chuyển input cũng đủ làm dự đoán code-completion đổi chiều theo chu kỳ 4 token (khớp stride nén). Trên bài test needle-in-a-haystack 128K, độ chênh độ chính xác giữa các phase lên tới 40 điểm phần trăm.
Pretrain kiểm chứng: Huấn luyện từ đầu một họ mô hình Qwen3-0.6B với nén KV là thay đổi kiến trúc duy nhất — mọi biến thể nén đều tái hiện đúng chu kỳ theo stride, còn full-attention thì phẳng. Hiệu ứng không cần RoPE, không cần gate học (cả averaging đơn thuần cũng có), và không chỉ do cặp key–value bị chia đôi qua ranh giới cửa sổ.
Phân tích cơ chế (phase specialization): thí nghiệm knockout từng KV head cho thấy mỗi head đóng góp bất đối xứng cho các phase khác nhau — các compression gate phát triển sở thích tĩnh (static concentration) cho vài offset cố định, và phase head đó quan trọng nhất khớp đúng offset gate ưa thích.
Lý thuyết: trong mô hình truy xuất lý tưởng, nén tối ưu (trước khi biết query) là tập trung tối đa — mỗi head chọn một offset; gradient flow từ khởi tạo nhỏ khiến sự tập trung này trở nên tĩnh, chia phase cho các head.

Ví dụ đời thường: giống như chia 8 người canh một dãy 8 căn nhà — mỗi người chỉ nhớ kỹ đúng một vị trí quen thuộc; vụ việc xảy ra đúng vị trí người đó trông thì được xử lý tốt, còn các vị trí khác dù cùng một vụ việc vẫn có thể bị bỏ sót.

III. Main Results:

DeepSeek-V4 family: chênh lệch độ chính xác NIAH giữa các phase tới 40.2 pp (Flash-Base), 34.8 pp (Pro-Base); post-training thu hẹp nhưng không xóa. DeepSeek-V4.1 (S=2) vẫn có định kỳ chẵn/lẻ rõ rệt. DeepSeek-V3.1 (không nén) không có hiệu ứng này.
Code-completion: xác suất next-token của DeepSeek-V4-Flash-Base lật giữa đáp án đúng/sai theo chu kỳ 4 token khi chỉ đổi độ dài chuỗi đệm, biên độ từ −0.79 đến +0.95.
Pretrain có kiểm soát: mọi mô hình nén đều có phase sensitivity với chu kỳ khớp stride (S=4, 6, 8, 12); full-attention phẳng (gap ≤ 6.1 pp). Mô hình W8/S8 có mean accuracy gần bằng baseline nhưng worst-residue chỉ 9.9% vs 58.4%.
Knockout maps: ở mô hình nén, một số head chỉ mất accuracy tại vài phase; ở DeepSeek-V4-Flash-Base, mô hình lặp lại theo chu kỳ 4.
Gate preferences: các head ở layer 9, 10, 14 phát triển sở thích tĩnh cho offset cuối/giữa/đầu cửa sổ; cycling tham số gate dịch chuyển pattern accuracy đúng như dự đoán — bằng chứng nhân quả.
Lý thuyết: hai định lý — nén tối ưu là concentrated tối đa; gradient flow từ init nhỏ tạo static concentration cho mỗi head.

IV. Conclusion & Future Works:

Phase sensitivity là failure mode hệ thống của mô hình dùng chunked KV-cache compression: đánh giá chỉ dựa vào accuracy trung bình là không đủ, cần đo theo mọi phase (ví dụ dịch input vài token giữ nguyên thông tin truy vấn). Các câu hỏi mở:

Có thể phối hợp heads/layers để đồng đều hóa chất lượng truy xuất giữa các phase mà không hy sinh hiệu suất trung bình hay hiệu quả nén không?
Ranhh giới cửa sổ và asymmetry trong cửa sổ chưa có lời giải thích thống nhất (gate cycling không khôi phục phase ranh giới).
Hệ quả robustness: liệu dịch chuyển nghĩa-giữ-nguyên của một yêu cầu trong context có làm thay đổi hành vi từ chối/tuân thủ theo compression phase không?

V. Brainstorming Space:

1. Publish Papers:

Phát triển phương pháp đánh giá long-context chuẩn hóa theo phase: benchmark needle-in-a-haystack tự động dịch input qua mọi residue của stride nén để phát hiện điểm mù tuần hoàn mà accuracy trung bình che giấu.
Thiết kế cơ chế điều phối đa head cho nén KV: phân bổ phases đồng đều giữa các compression head theo lý thuyết gradient flow để triệt tiêu phase sensitivity mà giữ nguyên tỉ lệ nén.
Nghiên cứu hệ quả an toàn của phase sensitivity: kiểm tra liệu các dịch chuyển vô hại của prompt (thêm/xóa token đệm) có thể làm lật hành vi refusal/compliance của LLM theo chu kỳ stride nén hay không.

2. Patent:

Hệ thống kiểm thử độ tin cậy mô hình AI trên điện thoại: trước khi tung ra, tự động chèn vài token đệm vào prompt để dịch nội dung qua các vị trí nén khác nhau, phát hiện các 'điểm mù' khiến câu trả lời đúng thành sai rồi cảnh báo nhà phát triển.
Trợ lý AI trên điện thoại tự chỉnh vị trí câu hỏi: khi người dùng đặt câu hỏi quan trọng, ứng dụng thử trả lời ở nhiều offset nén khác nhau bằng cách thêm khoảng trắng/xuống dòng vô hại, rồi chọn kết quả ổn định nhất để hiển thị.
Module cân bằng tải nén cache cho dịch vụ LLM đám mây: điều phối các head nén bao phủ đều mọi phase của cửa sổ để đảm bảo thông tin ở bất kỳ vị trí nào trong văn bản dài cũng được truy xuất đáng tin cậy như nhau.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.36322
ArXiv Abstract	https://arxiv.org/abs/2609.36322
PDF Download	https://arxiv.org/pdf/2609.36322.pdf
Github Repository	N/A

11. Think Before You Score: Thinking Reward Model for Visual Generation (84 votes)

Tác giả: Xuehai Bai, Zhenchen Tang, Yang Shi, Dianyi Wang, Tengfei Liu, et al.

Xuất bản lúc: 2026-09-29

Tag: Reward Model, Visual Generation, Reinforcement Learning, Image Editing, Text-to-Image, Preference Optimization, Flow Matching

I. Main Problem:

Các visual reward model hiện tại ánh xạ trực tiếp điều kiện tác vụ và ảnh đầu ra thành điểm số vô hướng, khiến việc nên đánh giá cái gì bị ngầm định:

Tiêu chí đánh giá cố định, trong khi từng trường hợp cần tiêu chí khác nhau (ảnh tạo mới vs. ảnh chỉnh sửa, mỗi ảnh có lỗi riêng).
Ngay cả mô hình có suy luận trước khi chấm vẫn bỏ qua câu hỏi: 'vụ này cần kiểm tra những gì?'
Ngoài ra, tối ưu preference kiểu Bradley–Terry trên điểm pointwise gây score polarization: điểm hai phía bị đẩy tới cực trị thay vì được hiệu chỉnh tinh.

II. Main Idea:

Think Before You Score: trước khi chấm điểm, mô hình Thinking Reward Model (TRM) tự lập bộ tiêu chí (rubric) riêng cho từng ca, rồi mới đánh giá. Quy trình R→J→H→s:

R – Case-adaptive rubric: sinh các tiêu chí nhỏ (atomic) bám theo từng ca, trên 3 chiều chung (Prompt Alignment, Visual Quality, + Aesthetics cho tạo ảnh / Source Consistency cho chỉnh sửa ảnh).
J – Kiểm chứng từng tiêu chí: phán xét Yes/No từng rubric.
H & s – Tổng hợp thành đánh giá theo chiều, rồi ra điểm pointwise cuối cùng.

Huấn luyện: cold-start SFT trên ~20K ca tạo ảnh + 28K ca chỉnh sửa ảnh (annotator người–AI hai giai đoạn), sau đó PD-GRPO dùng cặp preference: mỗi phía sinh N câu trả lời, chấm điểm so với trung bình nhóm đối phương với margin m — phần thưởng ngừng tăng khi đạt đủ khoảng cách, nên tránh polarization mà vẫn giữ chấm điểm pointwise tinh.

Ví dụ đời thường: giống giám khảo thi nấu ăn không chấm bừa ngay mà trước tiên viết giấy nháp 'món này cần đạt: độ chín, vị cân bằng, trình bày', rồi soi từng mục trên giấy nháp đó rồi mới ghi điểm.

III. Main Results:

Reward modeling: TRM (RL) 9B đạt SOTA trong các mô hình mã nguồn mở — GenAI-T2I 71.2%, MMRB2-T2I 67.9% (vượt GPT-4.1, HPSv3, UnifiedReward, RationalRewards); chỉnh sửa ảnh vượt cả EditScore-72B dù nhỏ hơn 8 lần (EditScore-ERB 0.786, MMRB2 58.2%).
SFT nâng mạnh baseline Qwen-3.5 (58.9→70.1 trên GenAI-T2I); PD-GRPO cải thiện thêm trên mọi benchmark, xác nhận chống polarization hiệu quả.
RL hướng dẫn tạo ảnh: TRM cải thiện đều BAGEL, FLUX.1-dev, SD3.5-M trên GenEval, DPG-Bench, TIIF (FLUX.1-dev +6.8 điểm TIIF-Short, BAGEL +5.8 TIIF-Long).
RL chỉnh sửa ảnh: cải thiện Flux2-Klein-4B/9B, BAGEL (ImgEdit 3.37→3.91), Flux-Kontext và cả SenseNova-U1.5 mạnh sẵn (4.30→4.52).
Ablation: TRM thắng AlphaGRPO cùng backbone BAGEL (+3.3 TIIF-Long); độ lệch chuẩn reward trong nhóm chỉ giảm 14.9% so với 50.5% của EditScore-72B, giữ tín hiệu phân biệt tốt hơn.

IV. Conclusion & Future Works:

Thể hiện rằng xác định 'cái gì cần chấm' trước 'chấm bao nhiêu' là nguyên tắc then chốt cho reward model của visual generation, và reward tinh, thích ứng theo ca chuyển hóa trực tiếp thành chất lượng sinh tốt hơn qua RL trên nhiều họ mô hình. Mô hình 9B nhỏ gọn mà cạnh tranh được với mô hình proprietary. Hướng tương lai (gợi ý): mở rộng paradigm sang video (T2V, I2V, V2V, world models), tinh chỉnh margin theo độ khó preference, và tự động hóa hoàn toàn vòng annotator người–AI.

V. Brainstorming Space:

1. Publish Papers:

Ứng dụng rubric sinh thích ứng theo ca cho reward model video: mở rộng TRM sang T2V/I2V/V2V với chiều đánh giá bổ sung (tính nhất quán thời gian, chuyển động).
Nghiên cứu margin thích ứng trong PD-GRPO: tự điều chỉnh ngưỡng tách biệt theo độ khó của cặp preference để cân bằng discrimination và calibration của điểm số.
Quy trình tự cải thiện vòng kín: reward model tự sinh rubric → chấm điểm → hướng dẫn RL → thu thập ca thất bại mới để tinh chỉnh lại chính nó.

2. Patent:

Trợ lý chỉnh ảnh trên điện thoại có chấm điểm giải thích: trước khi hiển thị ảnh đã sửa, ứng dụng liệt kê checklist riêng (đúng yêu cầu chỉnh sửa, giữ nguyên phần không đổi, không lỗi méo) kèm điểm từng mục để người dùng hiểu vì sao ảnh được chọn.
Bộ lọc ảnh AI tạo cho mạng xã hội: hệ thống tự lập tiêu chí kiểm tra theo từng ảnh (văn bản trong ảnh, số ngón tay, vật thể sai vị trí) và gắn nhãn chất lượng chi tiết thay vì chỉ 'ảnh tốt/xấu'.
Công cụ gợi ý prompt chụp ảnh: người dùng nhập ý tưởng, ứng dụng mô phỏng chấm thử nhiều ảnh sinh ra, chọn ảnh tốt nhất và giải thích theo từng tiêu chí để đề xuất prompt cải thiện.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.37372
ArXiv Abstract	https://arxiv.org/abs/2609.37372
PDF Download	https://arxiv.org/pdf/2609.37372.pdf
Github Repository	https://github.com/bxhsort/Thinking_Reward_Model

12. SAKI: Maximal-Coupling-Routed Teacher Supervision for On-Policy Distillation (81 votes)

Tác giả: Miteto Wei, Xiaohan Wang, Zehao Chen, Jiajun Chai, Sichao Liu, et al.

Xuất bản lúc: 2026-09-29

Tag: Knowledge Distillation, On-Policy Distillation, LLMs, Mathematical Reasoning, Speculative Decoding, KL Divergence

I. Main Problem:

On-policy distillation (OPD) — huấn luyện student trên chính các trajectory do nó tự sinh — giảm được lệch phân phối train/test, nhưng khi student còn yếu thì:

Lỗi sớm bị tích lũy (compounding errors), đẩy rollout về các prefix mà teacher hầu như không bao giờ tự tạo ra
Teacher bị buộc giám sát trên trạng thái lệch xa hành vi lý tưởng của chính nó → tín hiệu distillation kém đại diện, chuyển giao năng lực yếu
Các phương pháp teacher-guided rollout (như TRB) chỉ cải thiện phía hành vi (đâu là state được hỏi), nhưng vẫn dùng cùng một objective reverse-KL cho mọi vị trí — dù reverse-KL là student-weighted nên các token teacher thích nhưng student ít tin tưởng nhận gradient rất yếu.

II. Main Idea:

SAKI (Supervision Allocation with KL-constrained Interpolation) dùng chính sự kiện accept/correction từ maximal coupling để định tuyến supervision ở cấp token. Cơ chế:

Xây phân phối hành vi trung gian q bằng nội suy hình học giữa student p và teacher T, giữ trong vùng tin cậy KL-centered: D_KL(q||p) ≤ ε (kế thừa TRB)
Thực hiện sampling từ q qua maximal coupling: student đề xuất token z ~ p; nếu chấp nhận thì giữ nguyên (C=0), nếu từ chối thì rút token chỉnh sửa từ phần dư (C=1). Xác suất chỉnh sửa đúng bằng TV(p, q) ≤ √(ε/2) — tối thiểu mọi coupling có thể, nên bán kính ε kiểm soát đồng thời độ lệch rollout và tần suất can thiệp
Định tuyến supervision: vị trí được chấp nhận → giữ tín hiệu reverse-KL thông thường; vị trí chỉnh sửa → chuyển sang giám sát trực tiếp trên token Top-1 của teacher (NLL, mục tiêu tất định, phương sai thấp)
Hệ quả: cùng một quá trình coupling vừa điều khiển xây trajectory (token dư quyết định prefix tiếp theo), vừa định tuyến cập nhật tham số (teacher mode làm neo học tập) — không cần heuristic chọn token bên ngoài
Bổ sung hệ thống: speculative block verification nằm trong inference engine (draft K=8 token, verify một lượt teacher, commit tới vị trí từ chối đầu tiên) giữ nguyên phân phối q chính xác, tăng throughput rollout 4.22×; ε được anneal về 0 nên cuối cùng hệ thống quay lại đúng OPD chuẩn.

Ví dụ đời thường: giống một người thầy đứng cạnh học sinh làm bài — chỗ nào học sinh làm đúng hướng thầy chỉ góp ý nhẹ (RKL), chỗ nào học sinh sắp làm sai thầy mới can thiệp và chỉ rõ đáp án đúng nhất, và thầy chỉ can thiệp tối thiểu cần thiết để bài vẫn đi theo lời giải của thầy.

III. Main Results:

Trên 7 benchmark toán (MATH-500, HMMT, AIME 2025/2026, AMC 2023, Minerva, OlympiadBench), distill từ teacher Qwen3-4B sang student 1.7B và 0.6B:
1.7B: Mean@8 tăng 27.9 → 29.0, Pass@8 44.6 → 47.5 so với TRB (+1.1/+2.9); so với SKD tăng +4.5/+6.3
0.6B: Mean@8 17.2 → 18.4, Pass@8 33.6 → 35.6 (+1.2/+2.0); so với SKD +6.0/+6.0
Placement controls: vượt cả random placement (28.3/45.5) lẫn TV-weighted placement (28.24/46.77) — chứng minh sự kiện coupling thực tế là tín hiệu định tuyến mạnh hơn đo xung đột vô hướng
Phân tích fixed-prefix: ưu thế teacher-alignment kéo dài — sau khi tắt teacher-mode supervision ở step 51, đến step 200 vẫn hơn TRB +4.26pp (Top-1) và +2.94pp (Top-16); lợi thế so với random placement tăng theo mức xung đột ban đầu (Q4–Q1: +1.07pp)
Throughput: engine-resident exact-q đạt 3,276 tok/s vs 776 tok/s external-loop — 4.22× nhanh hơn, đạt >42% trần lý thuyết của student-only generation.

IV. Conclusion & Future Works:

SAKI chứng minh quá trình rollout được hướng dẫn có thể tự cung cấp tín hiệu định tuyến supervision: sự kiện correction từ maximal coupling vừa là cơ chế can thiệp tối thiểu (xác suất đúng bằng TV(p,q), bị chặn bởi √(ε/2)), vừa là router thích ứng theo xung đột cho supervision Top-1 của teacher — đạt kết quả tốt nhất ở cả hai quy mô student với hệ thống thực thi chính xác và nhanh 4.22×. Hướng mở rộng tiềm năng: áp dụng định tuyến coupling cho các dạng distillation ngoài toán (code, agent), kết hợp với các objective token-level khác, và tối ưu thêm lịch anneal ε.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng SAKI sang distillation cho mô hình sinh code và agent: dùng sự kiện maximal coupling để định tuyến supervision Top-1 của teacher tại các điểm rẽ nhánh quyết định của chương trình hoặc hành động agent.
Nghiên cứu lịch anneal tự động cho bán kính vùng tin cậy KL: điều chỉnh ε theo độ lệch student–teacher đo được trong quá trình huấn luyện thay vì lịch tuyến tính cố định.
Kết hợp coupling-routed supervision với speculative verification trong quy trình self-improvement của LLM: tái sử dụng cùng một lượt verify để vừa tăng tốc sinh vừa thu thập tín hiệu huấn luyện token-level cho chính mô hình.

2. Patent:

Hệ thống huấn luyện mô hình ngôn ngữ nhỏ trên điện thoại: mô hình nhỏ tự sinh câu trả lời, mô hình lớn chạy trên đám mây kiểm tra từng cụm từ; chỗ mô hình nhỏ tự tạo được thì chỉ tinh chỉnh nhẹ, chỗ bị từ chối thì ép học theo lựa chọn tốt nhất của mô hình lớn — cân bằng giữa chất lượng và chi phí truyền dữ liệu.
Trợ lý học toán có chế độ 'can thiệp tối thiểu': theo dõi học sinh giải từng bước, chỉ khi bước làm lệch hẳn khỏi lời giải tham khảo mới đưa ra gợi ý và chỉ ra đáp án đúng của bước đó, giúp học sinh yếu không bị quá tải mà vẫn tự suy nghĩ phần lớn bài.
Dịch vụ tinh chỉnh mô hình AI cho doanh nghiệp: máy chủ huấn luyện tích hợp sẵn bộ verify theo khối token (draft nhiều token, kiểm chứng một lượt bởi mô hình mạnh), giảm chi phí GPU khi distill từ mô hình lớn sang mô hình nhỏ chạy nội bộ mà vẫn giữ đúng phân phối hành vi mong muốn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.36601
ArXiv Abstract	https://arxiv.org/abs/2609.36601
PDF Download	https://arxiv.org/pdf/2609.36601.pdf
Github Repository	https://github.com/Miteto-sudo/SAKI

13. Follow the Entities: A Corpus Map for Agentic Search (73 votes)

Tác giả: Soyeong Jeong, Sujay Kumar Jauhar, Sung Ju Hwang, Andrew Joohun Nam

Xuất bản lúc: 2026-09-29

Tag: Agentic Search, RAG, Entity Resolution, Knowledge Graph, LLM Agents, Corpus Navigation

I. Main Problem:

Khi câu trả lời nằm rải rác ở nhiều tài liệu, kiến trúc tìm kiếm dạng agent hiện tại vẫn thao tác trên một kho tài liệu phẳng: mỗi truy vấn đều phải tự mò lại quan hệ giữa các nguồn. Hệ quả là:

dễ bỏ sót bằng chứng bổ sung vì quan hệ giữa tài liệu không được thể hiện sẵn
tiêu tốn nhiều input token để đọc lại và suy luận lại cùng một cấu trúc corpus cho mỗi câu hỏi
các lớp điều hướng thay thế như trang tóm tắt theo tài liệu, nhóm, wiki do mô hình tự viết, hoặc cây chủ đề không cải thiện ổn định so với corpus thô.

II. Main Idea:

CorpusMap là một lớp điều hướng đặt thực thể lặp lại làm mỏ neo: người, dự án, sản phẩm, sự cố, khách hàng... Hệ thống được xây offline bằng cách:

khảo sát corpus để tự sinh danh mục kiểu thực thể phù hợp, thay vì giả định trước
trích xuất mention trong từng tài liệu, gom các mention cùng chỉ một đối tượng trong một tài liệu
liên kết cross-document bằng cách đối chiếu từng thực thể cục bộ với registry dùng chung, quyết định nối vào thực thể đã có, thêm thực thể mới, hoặc để chưa xác định
chỉ giữ cross-document entities xuất hiện ở ít nhất hai tài liệu, rồi tạo Entity Page gồm tóm tắt, fact có ghi nguồn, tên gọi khác nhau, và đường dẫn tới mọi tài liệu liên quan

Kết quả là một đồ thị hai phía giữa thực thể và tài liệu. Agent tại inference nhận gợi ý đường dẫn từ các Entity Page liên quan tới câu hỏi, có thể đi từ tài liệu sang thực thể rồi sang tài liệu khác, trong khi vẫn tìm kiếm corpus thô khi cần. Vì quan hệ được xây trước và dùng lại cho nhiều query, agent không phải tự phát hiện lại cấu trúc mỗi lần.

Ví dụ đời thường: giống như có sơ đồ chợ theo món ăn thay vì chỉ có danh sách sạch rời rạc: thấy món cần mua là biết ngay các sạch liên quan, đi thẳng tới đúng nơi thay vì mỗi lần đều dò lại cả chợ.

III. Main Results:

Với 7 mô hình và 3 benchmark gồm EnterpriseRAG-Bench, WixQA, HERB, CorpusMap cải thiện overall quality khoảng 6.4–11.7 điểm so với raw-corpus agentic search, đồng thời dùng ít hơn 34–57% input token trung bình.
Trên EnterpriseRAG-Bench: GPT-5.5 đạt 76.60 so với raw corpus 65.60; GPT-5.6 Luna đạt 73.20 so với 63.31. Xu hướng tương tự xuất hiện trên WixQA và HERB.
So với các lớp điều hướng khác — Document Page, Group Page, LLM Wiki, Corpus2Skill — CorpusMap ổn định tốt hơn; nhiều baseline không consistently vượt raw corpus.
Vượt cả các phương pháp retrieve-then-generate như BM25, dense retrieval, HippoRAG, GraphRAG khi cho phép agent tiếp cận đồ thị thực thể-tài liệu.
Tổng quát hóa tốt ngoài GPT: DeepSeek-V4-Pro đạt 71.11 so với raw corpus 68.02; MAI-Thinking-1 đạt 45.07 so với 34.06. Qwen3.8-27B open-weight cũng cải thiện mọi metric với bản đồ dựng bằng công cụ off-the-shelf.
Chi phí dựng bản đồ được hoàn vốn theo số query; bản đồ dựng bằng LLM rẻ vẫn giúp LLM mạnh hơn trả lời tốt hơn raw corpus.
Cập nhật gia tăng tiết kiệm đáng kể token so với dựng lại toàn bộ, duy trì/ cải thiện chất lượng khi corpus lớn dần; hiệu quả còn giữ được khi corpus mở rộng tới khoảng 20k tài liệu.

IV. Conclusion & Future Works:

Bài báo lập luận rằng cải thiện cách tổ chức corpus quan trọng ngang việc cải thiện chính sách search của agent: thay vì lặp lại việc tìm kiếm các nguồn cô lập, agent nên điều hướng trên tri thức đã được nối sẵn. Hướng triển khai cần chú ý gồm: dựng bản đồ theo quyền truy cập để tránh gom nhầm dữ liệu nhạy cảm, lọc nội dung/riêng tư trên Entity Page, cập nhật gia tăng khi corpus thay đổi, và giảm chi phí dựng bản đồ bằng thành phần off-the-shelf hoặc mô hình mở.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu bản đồ thực thể có kiểm soát quyền truy cập cho môi trường doanh nghiệp: mỗi nhóm người dùng chỉ thấy Entity Page và tài liệu phù hợp với phạm vi được cấp.
Phương pháp cập nhật gia tăng cho bản đồ thực thể-tài liệu khi corpus liên tục có tài liệu mới, đo lường tiết kiệm chi phí và độ lệch chất lượng qua nhiều lần cập nhật.
Kết hợp điều hướng theo thực thể với điều hướng theo chủ đề hoặc wiki do mô hình duy trì, nhằm giữ ưu điểm liên kết cross-document mà không mất khả năng tổng hợp chủ đề lớn.
Bản đồ thực thể cho thiết bị biên hoặc điện thoại: dựng index cục bộ/từ xa có lọc dữ liệu nhạy cảm, đồng bộ gia tăng và trả lời câu hỏi nhiều tài liệu với chi phí thấp.

2. Patent:

Ứng dụng điện thoại cho công việc có bản đồ người-dự án-khách hàng-sự cố: đồng bộ email, tài liệu, ghi chú họp, nhận diện các thực thể lặp lại, tạo trang tổng hợp có ghi rõ từng nguồn; khi người dùng hỏi, trợ lý đi theo liên kết giữa các trang này để gom bằng chứng thay vì tìm lại từ đầu.
Hệ thống cập nhật gia tăng trên điện thoại hoặc máy trạm: khi có file mới, chỉ cập nhật các trang thực thể bị ảnh hưởng, không dựng lại toàn bộ chỉ mục; phù hợp kho tài liệu doanh nghiệp thay đổi liên tục và cần tiết kiệm pin, băng thông, chi phí xử lý.
Chế độ riêng tư theo phòng ban hoặc vai trò trên thiết bị di động: tạo nhiều phiên bản bản đồ thực thể tương ứng mức quyền, che phần fact thuộc nguồn không được phép, gắn nhãn mức bảo mật và cảnh báo khi một trang tổng hợp làm lộ dữ liệu rải rác trước đây.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.37226
ArXiv Abstract	https://arxiv.org/abs/2609.37226
PDF Download	https://arxiv.org/pdf/2609.37226.pdf
Github Repository	N/A

14. Beyond the Timeline: Augmenting Long-Video Memory with Grounded Entity Biographies (72 votes)

Tác giả: Hui Ren, Lei Fan, Henry Pao, Han Guo, Zeeshan Zia, et al.

Xuất bản lúc: 2026-09-29

Tag: Long-Video Understanding, Video Question Answering, Egocentric Video, Visual Grounding, Entity Linking, Graph Retrieval, Multimodal Memory, RAG

I. Main Problem:

Trả lời câu hỏi về video dài thường phải nối các sự kiện liên quan đến cùng một người/vật thật qua nhiều giờ hoặc nhiều ngày. Mô tả theo thời gian và thực thể suy ra từ ngôn ngữ dễ không xác định được danh tính vật lý:

hai vật khác nhau có thể cùng được gọi là “cốc đỏ”
cùng một vật có thể bị mô tả khác nhau khi đổi trạng thái, vị trí, cách dùng
lấy lại đúng các khoảnh khắc liên quan vẫn chưa đủ, vì chưa biết chúng thuộc tiểu sử của thực thể nào.

II. Main Idea:

Grounded Entity Biographies tổ chức bộ nhớ video dài thành hồ sơ tiểu sử của từng thực thể vật lý, thay vì chỉ lưu một dòng thời gian chung. Quy trình chính:

chia video thành clip ngắn; detector mở và tracker trong clip gom các lần xuất hiện thành quan sát
mô hình vision-language đọc đồng thời vùng ảnh chủ thể, khung cảnh, lời thuyết minh/hội thoại để mô tả trạng thái và tương tác
khi một quan sát mới xuất hiện, hệ thống so khớp rất thận trọng với các quan sát cũ: phải khá giống mọi mốc tham chiếu, đồng thời khớp mạnh ít nhất một mốc, và bị phủ quyết nếu video cho thấy hai vật tách biệt trong cùng khung hình
nếu không đủ điều kiện, tạo thực thể mới; nếu đủ, gắn quan sát vào tiểu sử hiện có
đồ thị bộ nhớ gồm nút thực thể bền, nút quan sát, nút episode và nút clip gốc; cạnh nối gồm same-instance, episode context, visual provenance, cùng quan hệ thời gian
khi trả lời, retrieval khởi đầu từ mô tả/ảnh, rồi lan theo cạnh danh tính và ngữ cảnh bằng Personalized PageRank trong ngân sách chung; đoạn tiểu sử đưa cho controller còn liệt kê các lần xuất hiện chưa được kiểm tra để dẫn hướng tìm tiếp.

Ví dụ đời thường: giống gắn cho mỗi chiếc vali một hộ chiếu riêng: mỗi lần vali lướt qua camera là một con dấu kèm ảnh hiện trường; khi hỏi “vali uống cà phê lúc sáng có bị bỏ quên ở quầy không”, ta không lục toàn bộ nhật ký sân bay, mà mở đúng hộ chiếu của chiếc vali đó để nhảy tới các điểm từng xuất hiện.

III. Main Results:

EgoLifeQA: đạt 72.0%, hơn MAGIC-Video +4.4 điểm khi dùng cùng controller, answer model và retrieval limits; tỉ lệ câu hỏi có evidence window chạm tới answering context tăng từ 37.6% lên 58.9%.
Ego-R1-Bench: hơn MAGIC-Video +6.6 điểm.
MM-Lifelong: Test@Week đạt 36.83%, hơn WorldMM +5.41 điểm; Test@Day đạt 17.58%, hơn ReMA +0.83 điểm nhưng khoảng tin cậy vẫn chứa 0.
MultiHop-EgoQA: dẫn các memory framework ở cả trả lời và temporal grounding; answer score 3.11 so với WorldMM 2.74, mIoU 20.5 so với 18.9; complete evidence coverage tăng từ 35.4% lên 52.1%, tương đương +47%, với lợi thế lớn hơn rõ khi evidence nằm rải ở nhiều interval.
Ablations EgoLifeQA: bỏ association -3.4, gom theo tên -2.8, chỉ nối mô tả vào caption -3.8, bỏ same-instance edges -3.0, bỏ liên kết quan sát-tới-thời gian/ngữ cảnh -3.8, bỏ cả hai nhóm cạnh -5.0, chỉ index không đọc biography text -4.0, giấu biography text khỏi answer model -1.2, bỏ dòng gợi ý quan sát chưa search -1.8, bỏ caption -10.2, bỏ visual frames -1.6.

IV. Conclusion & Future Works:

Bài học chính là bộ nhớ video dài cần lưu không chỉ chuyện gì đã xảy ra, mà còn ai/cái gì kết nối các sự kiện xuyên thời gian. Việc gom quan sát theo thực thể vật lý bằng bằng chứng hình ảnh giúp tránh trộn hai vật giống nhau và tránh tách một vật thành nhiều mảnh; phần tiểu sử vừa cung cấp bằng chứng vừa chỉ đường cho các vòng search tiếp theo. Hướng mở: dùng thêm âm thanh và tín hiệu cảm biến, hiệu chỉnh tự động ngưỡng liên kết theo domain, xử lý tốt hơn một vật bị tách thành nhiều định danh thận trọng, và cân bằng chi phí xây dựng bộ nhớ cho video quy mô rất lớn.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng tiểu sử thực thể có neo hình ảnh sang bộ nhớ đa ngày có âm thanh, giọng nói và tương tác xã hội để phân biệt người tham gia khi tên gọi bị trùng hoặc không được nhắc tới.
Nghiên cứu cơ chế tự tinh chỉnh liên kết danh tính theo thời gian: khi có bằng chứng mới cho thấy hai tiểu sử thật ra là một hoặc hai vật chỉ giống nhau, hệ thống tách/gộp lại mà không phải xây lại toàn bộ bộ nhớ.
Kết hợp tiểu sử vật thể với proactive retrieval cho agent cá nhân: hệ thống chủ động nhắc “chiếc cốc này còn xuất hiện ở ba điểm chưa xem” trước khi người dùng đặt câu hỏi tiếp theo.

2. Patent:

Ứng dụng điện thoại tạo “hồ sơ đồ vật” cho video quay lâu ngày: điện thoại tự nhận ra cùng một chìa khóa, cốc, túi xách xuất hiện ở nhiều ngày, gom lại thành một dòng lịch sử; người dùng hỏi “chìa khóa lúc sáng có vào túi không” thì app nhảy đúng tới các đoạn liên quan tới chính chiếc chìa khóa đó.
Kính thông minh hoặc camera đeo người có bộ nhớ cá nhân: khi người dùng hỏi “ai đã cầm máy trộn lúc tôi rửa”, thiết bị tìm các lần máy trộn xuất hiện, nối chúng lại bằng đặc điểm hình dáng và bối cảnh, rồi trả lời kèm đoạn video gốc làm bằng chứng.
Tính năng tìm đồ thất lạc trong album video gia đình: người dùng chọn một món đồ trong ảnh; hệ thống dựng lịch sử đi lại của món đồ qua các video ngày hôm trước, chỉ ra địa điểm cuối cùng và cảnh báo nếu có hai món trông giống nhau nhưng thực tế là khác nhau.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.38155
ArXiv Abstract	https://arxiv.org/abs/2609.38155
PDF Download	https://arxiv.org/pdf/2609.38155.pdf
Github Repository	https://github.com/rhfeiyang/GEB

15. LLMs are General Asynchronous Agents (62 votes)

Tác giả: George Yakushev, Denis Mazur, Vladimir Bartenev, Vyacheslav Zhdanovskiy, Timofey Byzov, et al.

Xuất bản lúc: 2026-09-28

Tag: LLM Agents, Asynchronous Agents, Streaming Video Understanding, Inference Optimization, Tool Use, Multimodal LLMs

I. Main Problem:

Các LLM agent hiện đại hoạt động theo vòng lặp tuần tự (đọc → suy nghĩ → trả lời/gọi công cụ → lặp lại), trong khi nhiều ứng dụng thực tế không tuần tự: trợ lý thoại phải nghe trong lúc đang nói, agent điều khiển robot phải phản ứng kịp thời với môi trường, hệ thống giám sát phải xử lý luồng log liên tục.

Hiện tại mỗi ứng dụng có tính đồng thời được xử lý như một bài toán riêng: mô hình thoại full-duplex riêng, VLA cho robot riêng, gọi hàm async riêng — đều yêu cầu fine-tuning tốn kém theo từng tác vụ.
Con người xử lý thông tin liên tục một cách tự nhiên, nhưng LLM được xây dựng và huấn luyện cho tương tác theo lượt nên không đồng bộ sẵn có.

II. Main Idea:

AsyncLLM — framework training-free cho phép định nghĩa LLM agent đồng thời theo mô hình lập trình async/await của Python. Ý tưởng cốt lõi:

Mỗi agent là tập các coroutine chạy song song, mỗi coroutine ghi vào một CacheBlock (trạng thái bộ nhớ: KV cache cho attention, ma trận chuyển tiếp trạng thái cho Gated DeltaNet).
Các coroutine nhìn thấy tiến trình của nhau theo thời gian thực qua các "cache view" — thành phần attention được xếp chồng theo thứ tự tùy ý thay vì giao tiếp bằng token.
Thuật toán suy luận song song: với full attention chỉ xoay query (giữ key/value nguyên), với linear attention gộp các chuyển tiếp trạng thái theo từng block (S = S·A + B affine), với dữ liệu đa phương thức chỉnh MRoPE theo trục thời gian — hỗ trợ mô hình hybrid và multimodal hiện đại.
Engine suy luận tự nhóm các coroutine thành batch trên GPU (xây dựng trên mini-SGLang, dùng Paged Attention, chunked prefill) để các forward pass đồng thời chạy hiệu quả, coroutine phản ứng nhanh không bị "tắc" bởi tác vụ nền.

Ví dụ đời thường: giống đầu bếp đứng bếp có nhiều nồi cùng sôi — tay khuấy nồi này, mắt vẫn liếc nồi kia sôi trào thì chạy sang bớt lửa ngay, thay vì nấu từng món tuần tự đến khi cháy mới biết.

III. Main Results:

Thay đổi đầu vào bất đồng bộ: agent Qwen 3.x phản ứng được với cả text lẫn hình ảnh được cập nhật giữa chừng lúc đang suy luận.
Streaming video understanding: AsyncLLM với Qwen3.5+ vượt Mage-VL — mô hình được train chuyên cho video streaming — trên cả SoccerNet-Caption (PAUC 0.677 vs 0.555) và ProactiveVideoQA (Trigger Acc 62.8% vs 52.8%), dù hoàn toàn không training.
Agent chơi game (ViZDoom): agent AsyncLLM phản ứng nhanh hơn đáng kể so với agent tuần tự cùng mô hình mà vẫn giữ được lợi ích của suy luận; có thêm thử nghiệm để agent tự định nghĩa coroutine của mình (kết quả khả quan ở HealthGathering, kém hơn ở DeadlyCorridor).
Giám sát hệ thống (DevOps-Gym): độ chính xác tương đương agent tuần tự nhưng dùng ít forward pass hơn hẳn (3837 vs 8452) nhờ đồng thời hóa.
Hiệu năng suy luận (1× H200): throughput tăng gần tuyến tính khi thêm coroutine (8 coroutines: 552 tok/s cho 9B, 438 tok/s cho 35B-A3B); xử lý video streaming nhanh gấp 2.5–4.4 lần thời gian thực.

IV. Conclusion & Future Works:

Kết luận: tính bất đồng bộ có thể được xem là một năng lực chung của LLM thay vì tập hợp các kỹ năng theo miền — các MLLM hiện đại đã đủ khả năng xử lý tác vụ đồng thời và phản ứng với kích thích mới mà không cần training riêng. Tương tự agent dùng công cụ thời kỳ đầu, chúng chưa chắc thắng mô hình chuyên biệt trên từng miền nhưng dễ thích nghi hơn nhiều cho ứng dụng mới.

Hướng tương lai:

Huấn luyện LLM thành agent bất đồng bộ tổng quát tốt hơn, như cách hiện nay huấn luyện agent dùng công cụ.
Nghiên cứu sâu khả năng agent tự cải thiện coroutine của chính nó cho từng kịch bản môi trường.
Mở khả năng triển khai API bất đồng bộ thời gian thực, nơi định nghĩa agent được cung cấp qua API hoặc do chính LLM viết.

V. Brainstorming Space:

1. Publish Papers:

Huấn luyện LLM chuyên biệt để trở thành general asynchronous agents: từ khả năng training-free hiện tại sang năng lực ổn định qua fine-tuning trên nhiều kịch bản đồng thời khác nhau.
Tự cải thiện coroutine: nghiên cứu đầy đủ khả năng agent tự viết và tối ưu định nghĩa coroutine của mình dựa trên mô tả môi trường, hướng tới agent tự thích nghi (self-adapting).
Mở rộng AsyncLLM cho các kiến trúc mô hình khác (sliding window attention, các biến thể linear attention khác) và tối ưu thêm engine batching cho độ trễ thời gian thực.

2. Patent:

Trợ lý thoại thông minh trên điện thoại: một mô hình duy nhất chạy nhiều luồng đồng thời — luồng nghe người dùng xen ngang (barge-in), luồng suy nghĩ chậm ở nền, luồng nói tóm tắt — chia sẻ bộ nhớ trạng thái để trả lời tự nhiên không bị giật.
Hệ thống giám sát camera an ninh theo thời gian thực trên đám mây: một mô hình ngôn ngữ-vision xử lý luồng video liên tục, luồng phụ phát hiện sự kiện bất thường chạy mỗi khung hình, luồng nền tái hiện ngữ cảnh sự kiện, tự tạo cảnh báo ngay khi có biến cố thay vì chờ phân tích hết đoạn video.
Ứng dụng chơi game / điều khiển avatar trên điện thoại: mô hình vừa quan sát màn hình theo thời gian thực, vừa lập chiến lược ở nền, vừa ra lệnh thao tác từng khung hình — phản ứng nhanh như người chơi mà không cần huấn luyện riêng cho từng game.
Agent giám sát sức khỏe hệ thống cho máy chủ doanh nghiệp: đọc luồng log liên tục, phát hiện rò rỉ bộ nhớ hoặc tiến trình lỗi với độ trễ thấp nhờ nhiều coroutine xử lý song song, giảm đáng kể số lần suy luận so với cách kiểm tra tuần tự.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.35427
ArXiv Abstract	https://arxiv.org/abs/2609.35427
PDF Download	https://arxiv.org/pdf/2609.35427.pdf
Github Repository	https://github.com/dvmazur/async_llm

16. Beyond Dyadic Memory: Interaction-Aware Multimodal Memory with Adaptive Agentic Retrieval for Multi-Party Spoken Conversations (54 votes)

Tác giả: Wenxu Jia, Xize Cheng, Zihan Zhang, Dongjie Fu, Linjun Li, et al.

Xuất bản lúc: 2026-09-26

Tag: Long-term Memory, RAG, Multimodal, Speaker Identification, Reinforcement Learning, LLMs

I. Main Problem:

Trợ lý AI hiện có thể ghi nhớ hội thoại, nhưng phần lớn chỉ xử lý cuộc trò chuyện một-một hoặc văn bản/kèm ảnh. Bài báo chỉ ra khoảng trống lớn hơn: hội thoại nói nhiều người qua nhiều phiên, như họp, trong xe, hỗ trợ gia đình hoặc chăm sóc khách hàng.

Thách thức cốt lõi:

Không chỉ lưu nội dung nói, mà còn phải nhận ra người nói tái xuất hiện qua giọng nói.
Không chỉ biết ai nói, mà còn biết ai nói với ai, điều này quyết định ý nghĩa của thông tin.
Nếu chỉ lưu bản ghi chuyển ngữ, hệ thống mất dấu hiện giọng nói cần để liên kết danh tính.
Bằng chứng có thể nằm rải rác ở nhiều phiên, nhiều tầng bộ nhớ và nhiều dạng dữ liệu; cách truy xuất cố định dễ bỏ sót.

II. Main Idea:

Bài báo đề xuất VoxPolyMem, khung bộ nhớ đa phương thức có nhận thức tương tác cho hội thoại nói nhiều người. Hệ thống gồm ba phần chính:

Nhận diện người nói trực tuyến: mã hóa giọng nói bằng ECAPA-TDNN, so khớp bằng độ tương đồng cosine; người mới xuất hiện sẽ được tạo định danh mới không cần biết trước số người tham gia. Sau mỗi phiên, các định danh bị phân mảnh do biến đổi âm học được gộp lại.
Bộ nhớ phân tầng nhận thức tương tác:
- Interaction memory: đồ thị có hướng lưu ai nói, nội dung gì, nói với ai.
- Fact memory: các khẳng định tự trọn nghiệp về sự việc, gắn người nói, người được nói đến và thời gian.
- Participant profiles: hồ sơ mỗi người gồm tên, bí danh, đặc trưng giọng nói, nền tảng và sở thích.
Truy xuất bằng tác tử thích ứng: khi có câu hỏi, hệ thống xác định người hỏi bằng giọng nói, sau đó qua từng vòng quyết định chọn tầng bộ nhớ, chọn công cụ tìm kiếm, viết lại truy vấn và lọc theo người nói/người nghe. Một mô hình ngôn ngữ lớn đánh giá còn thiếu thông tin gì để tìm tiếp hoặc đủ bằng chứng để trả lời.

Điểm huấn luyện mới là Evidence-Gain GRPO: thay vì chỉ thưởng khi câu trả lời cuối đúng, phương pháp này thưởng cho mức độ và thứ hạng của bằng chứng hỗ trợ mới được giữ lại sau mỗi hành động truy xuất. Bằng chứng cũ không được tính thêm, nên tác tử bị khuyến khích tìm thông tin bổ sung thay vì lặp lại kết quả đã có.

Ví dụ đời thường: giống một thư ký họp lâu năm vừa nhận ra ai đang nói qua giọng, vừa giữ sổ biên bản ghi ai đề xuất với ai; khi được hỏi, người này không lật từ đầu đến cuối mà chỉ tra thêm đúng phần còn thiếu và được khen mỗi lần tìm ra một manh mối mới hữu ích.

III. Main Results:

Trên VoxPolyBench, VoxPolyMem đạt 85.0 điểm tổng, cao hơn baseline mạnh nhất 23.6 điểm; các mảng trả lời cá nhân hóa và gán tương tác đạt 76.1 và 87.5.
Trên Mem-Gallery, hệ thống đạt 89.6, vượt baseline công khai mạnh nhất hơn 8 điểm; trên H2HMem-Multi đạt 74.4, cũng vượt hơn 8 điểm.
Bộ nhận diện người nói đạt 95.0% trên IEMOCAP và 87.9% trên AMI khi có ranh giới câu nói chuẩn.
Ablation cho thấy:
- Bỏ bộ nhớ phân tầng làm H2HMem-Multi giảm từ 72.1 xuống 63.6.
- Bỏ quan hệ tương tác làm VoxPolyBench giảm từ 84.0 xuống 78.6.
- Chỉ truy xuất một vòng làm VoxPolyBench giảm từ 84.0 xuống 76.1.
- Học tăng cường cải thiện Mem-Gallery từ 86.3 lên 89.6 và H2HMem-Multi từ 72.1 lên 74.4.
So với các cách tối ưu chính sách truy xuất khác, EG-GRPO đạt điểm trả lời và recall tốt hơn trong khi chỉ dùng khoảng 1.2-1.3 vòng truy xuất, thấp hơn hầu hết biến thể không học hoặc học theo cách khác.

IV. Conclusion & Future Works:

Bài báo kết luận rằng để trợ lý thực sự tồn tại lâu dài trong hội thoại nói nhiều người, cần kết hợp đồng thời: nhận diện người nói tăng dần, bộ nhớ phân tầng ghi lại quan hệ ai nói với ai, và truy xuất thích ứng biết tự viết lại câu hỏi, chọn đúng tầng bộ nhớ và công cụ tìm kiếm. EG-GRPO giúp chính sách truy xuất tìm đúng bằng chứng mới hơn thay vì chỉ tối ưu câu trả lời cuối.

VoxPolyBench cũng cho thấy đánh giá bộ nhớ cần bao phủ cả nhận diện người tham gia lặp lại, tiến hóa thông tin, trả lời cá nhân hóa, suy luận từ bộ nhớ và gán đúng người nói/người nghe. Phần trích xuất không nêu hướng tương lai chi tiết; kết quả gợi mở cần kiểm chứng thêm trong môi trường nói thật nhiều nhiễu và các tình huống quan hệ xã hội phức tạp hơn.

V. Brainstorming Space:

1. Publish Papers:

Phương pháp nhận diện người nói tăng dần trong bộ nhớ hội thoại dài hạn, tập trung vào hợp nhất định danh bị phân mảnh khi cùng một người nói thay đổi giọng do mệt, xa micro hoặc nhiễu môi trường.
Mô hình truy xuất đa bước cho bộ nhớ đa phương thức, trong đó tác tử học cách chuyển đổi giữa bản ghi tương tác, sự kiện sự thật và hồ sơ cá nhân dựa trên bằng chứng đã thu thập.
Tối ưu chính sách truy xuất bằng phần thưởng gán quyền theo từng vòng cho thông tin mới, nhằm giảm số lần tìm kiếm nhưng tăng khả năng tìm đủ bằng chứng cần thiết.
Đánh giá ảnh hưởng của nhận diện người nói tự động tới chất lượng trả lời cá nhân hóa trong các cuộc họp, gọi điện chăm sóc khách hàng và hỗ trợ trong xe.
Mở rộng bộ nhớ tương tác cho các mối quan hệ xã hội phức tạp hơn, chẳng hạn nhóm lớn, người tham gia vào rồi rời cuộc hội thoại, hoặc nhiều vai trò khác nhau trong cùng một phiên.

2. Patent:

Trợ lý trên điện thoại cho nhóm gia đình: máy nghe nhiều người nói trong một buổi trò chuyện, tự nhận ra ai đang nói qua giọng, lưu sở thích từng người và trả lời đúng theo ngữ cảnh của từng thành viên.
Ứng dụng ghi nhớ cuộc họp trên điện thoại: ghi âm nhiều người, sau đó cho phép hỏi kiểu như ai đã hứa gì với ai, hệ thống truy ra đúng người nói, người được giao việc và nội dung liên quan qua các kỳ họp.
Trợ lý bán hàng qua điện thoại: nhận ra khách hàng quay lại qua giọng nói, gợi nhớ lần trước khách từ chối điều gì, ưu tiên khoảng giá nào và người nào đã cam kết gì, để nhân viên trả lời cá nhân hóa hơn.
Hệ thống hỗ trợ lái xe nhiều người: phân biệt người ngồi ghế lái và hành khách bằng giọng nói, nhớ lệnh ưu tiên của từng người và không trộn lẫn yêu cầu điều chỉnh ghế, nhạc hoặc điều hòa giữa các hành khách.
Dịch vụ chăm sóc khách hàng có bộ nhớ hội thoại: khi khách gọi lại, hệ thống khớp giọng nói với hồ sơ đã có, tóm tắt các lần liên hệ trước và chỉ đưa cho nhân viên những bằng chứng liên quan để giảm thời gian tra cứu.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.32522
ArXiv Abstract	https://arxiv.org/abs/2609.32522
PDF Download	https://arxiv.org/pdf/2609.32522.pdf
Github Repository	https://github.com/VoxPolyMem/Code

17. LongCat-DeepResearch Technical Report (53 votes)

Tác giả: Meituan LongCat Team, He Zhu, Yue Xu, Wanli Wu, Haolin Ren, et al.

Xuất bản lúc: 2026-09-28

Tag: Deep Research, Multi-Agent Systems, LLM Agents, Research Planning, Report Generation, Agentic Workflow

I. Main Problem:

Các hệ thống deep research hiện có xử lý phản hồi giữa nghiên cứu và viết báo cáo bằng cách duy trì một bản draft toàn văn ngày càng phình to, gây ra ba vấn đề:

Cạnh tranh context hữu hạn: bằng chứng, suy luận trung gian và văn bản draft chen lấn nhau; nén thông tin có thể xóa mất chi tiết chưa lộ rõ mức độ liên quan.
Hiệu ứng neo (anchoring): phát hiện sớm định hướng câu chuyện và thu hẹp các góc nhìn được khai thác về sau.
Lãng phí tái sinh: mỗi lần cập nhật bằng chứng mới lại phải viết lại toàn bộ báo cáo, kể cả những đoạn không bị ảnh hưởng.

Câu hỏi cốt lõi: làm sao các agent deep research phối hợp một agenda nghiên cứu chung mà vẫn giữ được điều tra chi tiết ở cấp từng section?

II. Main Idea:

Dịch vòng lặp sớm từ bản báo cáo toàn văn sang một 'hợp đồng nghiên cứu' gọn (ResearchSpec) — bản đặc tả có thể thực thi ghi scope, câu hỏi nghiên cứu, thực thể/case cần có và manh mối nguồn của từng section (VD: S1.2). Quy trình 3 giai đoạn:

Explore & Plan: nhiều Planning Writers độc lập tìm kiếm/đọc nguồn rồi đề xuất spec; Planning Judge hợp nhất, Critic tìm lỗ hổng, Reviser chỉnh sửa. Spec được validate (ID duy nhất, quan hệ cha-con, thứ tự) rồi cố định.
Research Sections: mỗi Researcher nhận query gốc + toàn bộ Spec + một assignment, tự thu thập bằng chứng trong context riêng và viết trọn vẹn một section có trích dẫn — không phải nén kết quả cho writer khác.
Assemble & Edit: ráp các section theo thứ tự Spec (giữ nguyên văn bản + citation); Global Editor chỉ ra xung đột, phân quyền sở hữu nội dung trùng lặp; Local Editors sửa từng section được giao bằng draft đầy đủ làm context — không viết lại toàn báo cáo.

Các interface giai đoạn này còn dùng để xây dựng dữ liệu huấn luyện (task + rubric gắn với bằng chứng, trajectory theo giai đoạn) cho mid-training và post-training của mô hình LongCat.

Ví dụ đời thường: giống tổng biên tập một tạp chí — thay vì để cả redação viết chung một bản thảo liên tục xé viết lại, ông chốt trước 'mục lục phân công' ghi rõ bài nào cần thông tin gì, phóng viên nào tự điều tra và viết bài của mình, cuối cùng biên tập viên chỉ sửa cục bộ những chỗ mâu thuẫn giữa các bài.

III. Main Results:

DeepResearchBench: 55.25 (cao nhất, hơn ChatGPT-DR +0.30); dẫn về Comprehensiveness (56.21), Insight (56.48), Instruction-following (55.18); Readability (49.96) yếu hơn ChatGPT/Claude.
DeepResearchBench II: 51.35 (hơn Claude-DR +3.17); dẫn Information Recall (46.42) và Analysis (60.69, vượt hệ thứ hai tới +8.4); Presentation (83.13) thua ChatGPT-DR.
ResearchRubrics: 79.83 (hơn ChatGPT-DR +5.62); dẫn Explicit (86.97), Implicit (79.52), Synthesis (78.92); Citation quality và Instruction following vẫn thua ít nhất một đối thủ.
In-house benchmark: 76.04, hạng 2/4 — thua ChatGPT-DR 0.55 điểm, vượt xa Claude-DR (61.42) và Gemini-DR (42.49).
Ablation: bỏ Judge/Critic (một Writer→Reviser) sụt 4.35 điểm trung bình; gom toàn bộ nghiên cứu vào một Researcher sụt 1.84; bỏ Editor sụt 0.61.
Planning: hợp nhất nhiều Writers nâng coverage từ 53.8%→60.5%; vòng Critic/Reviser cải thiện coverage thêm nhưng tác động lên chất lượng report cuối không nhất quán.
Editor scaling: 3 vòng enhanced editing nâng điểm native lên 72.19 và readability preference lên ~54 (vượt bản chưa sửa).
Model × Harness: đổi từ ReAct/direct sang harness mới (giữ model cũ): +11.0 điểm trung bình; thay model mới: thêm +4.1 — orchestration và năng lực model bổ sung cho nhau.

IV. Conclusion & Future Works:

LongCat-DeepResearch cho thấy phân tách điều phối toàn cục gọn (ResearchSpec) khỏi điều tra chi tiết cục bộ (section contexts độc lập) + hiệu đính global-to-local giúp giữ phản hồi giữa nghiên cứu và viết mà không tập trung toàn bộ điều tra vào một draft phình to. Hệ thống dẫn đầu ba benchmark công khai và đứng thứ hai sát nút benchmark nội bộ. Hạn chế: readability và citation quality còn thua đối thủ; các editor vẫn chịu giới hạn context; sửa đổi có thể làm mất chi tiết hữu ích; mở lại plan giữa vòng nghiên cứu nằm ngoài pipeline hiện tại — là hướng mở rộng tự nhiên, cùng với tinh chỉnh chiến lược refinement và cải thiện bảo toàn chi tiết khi biên tập.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng ResearchSpec thành cấu trúc có thể cập nhật trong quá trình nghiên cứu: cho phép các Researcher báo cáo lỗ hổng bằng chứng lên spec và điều phối lại phân công section mà không phá vỡ context cục bộ.
Cơ chế bảo toàn chi tiết khi hiệu đính: kết hợp diff-aware Local Editor với kiểm chứng câu-mức (statement-level audit) để sửa cross-section conflicts mà không làm suy giảm coverage hay chất lượng trích dẫn.
Tối ưu phân bổ ngân sách tính toán giữa planning refinement, số lượng Researchers và số vòng editing dựa trên độ phức tạp của query — thay vì cấu hình cố định hiện tại.

2. Patent:

Trợ lý nghiên cứu trên điện thoại: người dùng đặt câu hỏi mở (VD: 'so sánh các phương án điều trị X'), ứng dụng tự lập 'kế hoạch nghiên cứu' hiển thị cho người dùng duyệt/sửa trước, rồi điều phối nhiều agent tìm kiếm song song và ráp thành báo cáo có trích nguồn — tiết kiệm pin và thời gian so với kiểu duyệt tuần tự.
Hệ thống soạn báo cáo doanh nghiệp phân tán: nhiều nhân viên/phòng ban cùng đóng góp tài liệu; hệ thống tạo bản phân công section, mỗi bộ phận tự bổ sung bằng chứng trong không gian riêng, sau đó biên tập viên ảo tự gỡ xung đột và trùng lặp giữa các chương mà không cần họp đồng bộ.
Công cụ tổng hợp tài liệu pháp lý/y tế: bác sĩ hoặc luật sư đưa vào hồ sơ khách hàng, hệ thống lập spec liệt kê các vấn đề cần đối chiếu, agent chuyên môn từng mảng tra nguồn độc lập, rồi chỉ hiệu chỉnh cục bộ các mục mâu thuẫn — giảm rủi ro bỏ sót tiêu chí ẩn so với một agent duy nhất.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.36071
ArXiv Abstract	https://arxiv.org/abs/2609.36071
PDF Download	https://arxiv.org/pdf/2609.36071.pdf
Github Repository	https://github.com/meituan-longcat/LongCat-DeepResearch

18. EngiWorld: What Can Frontier Agents Deliver in Professional Engineering Environments? (52 votes)

Tác giả: Hongcheng Gao, Hailong Qu, Yu Lei, Henghui Sun, Haoyang Li, et al.

Xuất bản lúc: 2026-09-29

Tag: Computer-Use Agents, LLM Agents, Benchmark, Engineering Software, CAD, EDA, BIM, Agent Evaluation

I. Main Problem:

Các tác tử AI (agents) tiến bộ nhanh trong thao tác máy tính đời thường nhưng chưa tự động hóa được kỹ thuật công nghiệp chuyên nghiệp, vì các benchmark hiện tại có ba lỗ hổng lớn:

Không kiểm chứng được chất lượng artifact kỹ thuật: OSWorld, Spider2-V chỉ so trạng thái cuối hoặc đáp án tham chiếu — một mô hình CAD trông đúng vẫn có thể vô dụng do hình học non-manifold hoặc vi phạm vật lý. Các benchmark kỹ thuật mới (FEABench, BIM-Edit) chỉ bao phủ một phần mềm, một dạng tác vụ.
Thiếu độ sâu tương tác: ngân sách bước ngắn, không giữ được logic tham số qua chuỗi thao tác dài của công nghiệp.
Thiếu phản hồi môi trường thật: agents chỉ nhận tín hiệu văn bản, trong khi kỹ sư dựa vào render, đường cong hội tụ solver, báo cáo vi phạm design-rule để chỉnh sửa lặp.

II. Main Idea:

Bài báo đề xuất EngiWorld, benchmark đầu tiên bao trọn vòng lặp thiết kế hoàn chỉnh trong kỹ thuật:

1.301 tác vụ do chuyên gia xây dựng, trải rộng 6 miền (CAD, CAE, CAM, BIM, EDA, 3D visualization) và 26 nền tảng phần mềm chuyên nghiệp (SolidWorks, Abaqus, Revit, KiCad, Blender...), qua cả giao diện GUI lẫn CLI.
6 loại tác vụ tương ứng các giai đoạn của vòng thiết kế: mô hình hóa từ ảnh, chọn phần mềm, thực thi phần mềm đơn, thiết kế định lượng, phối hợp đa phần mềm, và tác vụ mở (chỉ đưa yêu cầu + máy trống).
Đánh giá artifact-centric: bộ domain-verifier thống nhất mở lại file nộp (STEP, netlist, G-code, IFC...) và kiểm tra tính hợp lệ hình học, khả thi vật lý, tuân thủ quy tắc ở cả sản phẩm trung gian lẫn cuối cùng; tác vụ định lượng được chấm liên tục theo mức độ đạt spec thay vì đúng/sai nhị phân.

Ví dụ đời thường: giống thi tay nghề nghề kỹ thuật — không hỏi thí sinh mô tả làm thế nào, mà đem sản phẩm họ làm ra đo đạc lại bằng thước và đồng hồ kiểm tra xem có đúng kích thước, chạy được, an toàn không, kể cả các chi tiết trung gian trên dây chuyền.

III. Main Results:

Kết quả tổng thể rất thấp: mô hình mạnh nhất (Claude Opus 5) chỉ đạt EngiScore 44.3/100; GPT-5.6 Sol đứng thứ hai với 38.0; cả 7 mô hình đều 0 điểm trên 128/300 tác vụ.
Phối hợp đa phần mềm gần như sụp đổ: chỉ 3.6% lượt thử multi-software thành công trên tất cả models (Claude giải được khoảng một nửa tác vụ đơn phần mềm nhưng chỉ 6/168 lượt đa ứng dụng); tác vụ chọn phần mềm cũng khó (Claude chỉ đạt 25%).
Chuyên môn hóa theo miền: Claude dẫn đầu CAD/CAE/EDA/BIM, Qwen 3.8 Max dẫn 3D visualization; CAM là miền khó nhất với mọi model.
Hai lỗi thống trị (94% thất bại): tuyên bố DONE khi artifact chưa đạt kiểm chứng (73.9–87% với Claude/GPT — hỏng ở khâu validation) và cạn giới hạn lượt tương tác (thường gặp hơn ở GUI).
Ablation: đưa ảnh tham chiếu trực tiếp vào tin nhắn giúp GUI (+16.7 điểm cho GPT); thêm accessibility tree tăng chi phí API 50–148% mà không cải thiện artifact; độ dài lịch sử tối ưu khác nhau từng model.

IV. Conclusion & Future Works:

EngiWorld chỉ ra khoảng cách căn bản giữa biết thao tác công cụ và thực thi kỹ thuật đáng tin cậy: agents chạy được từng giai đoạn riêng lẻ nhưng gãy ở các chuyển tiếp — chọn đúng công cụ, giữ tính nhất quán artifact xuyên suốt workflow, và tự kiểm chứng deliverable trước khi kết thúc. Benchmark cung cấp nền tảng nghiêm ngặt để nghiên cứu các industrial agents đóng trọn vòng lặp thiết kế.

Hướng tương lai gợi mở: agents cần kỹ năng đọc phản hồi chuyên ngành (solver residuals, design-rule reports), duy trì logic tham số dài hạn, và tự xác minh artifact trước khi tuyên bố hoàn thành.

V. Brainstorming Space:

1. Publish Papers:

Kỹ thuật agent tự kiểm chứng (self-verification): agent chủ động mở lại artifact bằng domain verifier nội bộ và phân tích phản hồi solver trước khi tuyên bố DONE, nhằm thu hẹp khoảng cách giữa hoàn thành tự cảm nhận và hoàn thành được kiểm chứng.
Phương pháp quản lý dependency tham số xuyên phần mềm cho workflow kỹ thuật đa ứng dụng, lưu vết và truyền artifact trung gian (STEP, IFC, netlist) mà không mất tính nhất quán hình học và vật lý.
Nghiên cứu tương tác GUI chuyên sâu cho phần mềm CAD/CAE: kết hợp accessibility tree với nhận diện trạng thái ứng dụng để giảm số lượt quyết định mà vẫn giữ chất lượng artifact.
Benchmark mở rộng cho tác vụ open-ended công nghiệp: agent tự chọn toàn bộ toolchain và tự dựng môi trường làm việc từ máy trống, đánh giá chi phí-hiệu quả của thiết kế tự động.

2. Patent:

Trợ lý thiết kế kỹ thuật trên điện thoại: người dùng chụp ảnh bản vẽ hoặc mô tả ý tưởng bằng giọng nói; hệ thống tự chọn phần mềm phù hợp (CAD, mô phỏng), dựng mô hình 3D trên máy chủ đám mây và trả về file STEP kèm báo cáo kiểm tra kích thước, khả năng chịu lực.
Hệ thống kiểm thử tự động cho thiết kế PCB nhúng trong ứng dụng EDA di động: sau khi người dùng vẽ sơ đồ mạch, hệ thống tự chạy kiểm tra kết nối, quy tắc thiết kế và mô phỏng nhiệt, chỉ ra lỗi trước khi gửi sản xuất.
Trợ lý BIM cho công trường: kỹ sư chụp ảnh hiện trạng công trình, hệ thống cập nhật mô hình tòa nhà (IFC), tự kiểm tra quan hệ giữa các thành phần (tường-cửa-tầng) và cảnh báo xung đột thiết kế theo tiêu chuẩn xây dựng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.37686
ArXiv Abstract	https://arxiv.org/abs/2609.37686
PDF Download	https://arxiv.org/pdf/2609.37686.pdf
Github Repository	https://github.com/Hongcheng-Gao/EngiWorld

19. OmniTaskonomy: When Does Visual Generation Improve Visual Understanding? (44 votes)

Tác giả: Jiaxin Ge, Yiming Qin, Ji Xie, Haozhe Jiang, Xiaochuang Han, et al.

Xuất bản lúc: 2026-09-29

Tag: Visual Generation, Visual Understanding, Omni Models, Multimodal Learning, Transfer Learning, Gradient Alignment, Computer Vision

I. Main Problem:

Nghiên cứu trước cho rằng hiểu ảnh giúp sinh ảnh, còn chiều ngược lại chưa rõ: khi nào và bằng cách nào visual generation cải thiện visual understanding? Vấn đề nằm ở ba điểm:

Thiếu thiết kế kiểm soát để tách ảnh hưởng của output modality khỏi bài toán thị giác chung.
Chưa có taxonomy thống nhất để so sánh I2I generation và I2T understanding theo cùng không gian capability.
Chưa biết tín hiệu tối ưu nào có thể dự đoán transfer thành công giữa các cặp task.

II. Main Idea:

Bài báo trả lời bằng ba bước:

Controlled paired tasks: dùng cặp bài toán cùng input, cùng yêu cầu thị giác, chỉ khác đầu ra: ví dụ Jigsaw phải sắp xếp lại ảnh hoặc xuất thứ tự patch thành text. Thử 6 recipe và thấy I2I→I2T tốt nhất: học sinh trước qua generation giúp khởi tạo shared parameters, gain tăng theo I2I data, đặc biệt khi I2T data ít.
OmniTaskonomy: xây taxonomy chung gồm 19 I2I tasks và 25 I2T understanding capabilities, tổ chức theo ba trụ cột computer vision: Recognition, Reconstruction, Reorganization. Từ đó đo transfer từng cặp source-target.
Gradient alignment: kiểm tra xem gradient của generation và understanding có cùng hướng cập nhật không, đặc biệt ở early pre-attention RMSNorm của understanding branch.

Kết quả cho thấy transfer không đều: một số cặp hợp lý như depth prediction cải thiện metric 3D reasoning, object pointing cải thiện counting, jigsaw reconstruction cải thiện 2D ordering; nhưng cũng có kết nối bất ngờ như 2.5D segmentation → category recognition, Z-depth → localization, inpainting → counting và 2D ordering.

Ví dụ đời thường: giống học nghề bằng cách tập lắp ráp vật thật trước khi trả lời trắc nghiệm: tay làm quen cấu trúc, mối liên hệ và vị trí các bộ phận, sau đó khi phải diễn đạt bằng lời thì câu trả lời đúng hơn nhờ đã có “bản đồ” trong đầu.

III. Main Results:

Recipe quan trọng: I2I→I2T scale tốt khi tăng I2I data; trộn I2I+I2T ngay từ đầu không cho lợi ích scaling ổn định; đóng băng shared parameters trong giai đoạn I2I làm suy yếu transfer.
I2I supervision giảm nhu cầu I2T data: với 100k I2I examples, chỉ cần khoảng 1k–3k I2T examples để đạt mức tương đương 10k I2T examples không có I2I pretraining.
Transfer map từ OmniTaskonomy là selective, task-dependent: metric 3D relation, counting, 2D ordering nhận lợi từ nhiều I2I sources nhất; OCR/text recognition và appearance understanding gần như không cải thiện.
Các gain tiêu biểu: Z-depth +3.6pp, Euclidean depth +3.8pp, surface normals +3.4pp cho metric 3D relation; localization +5.8pp và object pointing +6.3pp cho counting; jigsaw +6.8pp cho 2D ordering; inpainting +7.2pp cho 2D ordering.
Gradient alignment mạnh nhất ở early pre-attention RMSNorm của understanding branch; alignment trung bình theo capability tương quan thuận với transfer gain (r = 0.795), và ở mức 133 source-target pairs cũng tương quan thuận (r = 0.529).

IV. Conclusion & Future Works:

Kết luận chính: visual generation có thể cải thiện visual understanding, nhưng chỉ khi chọn đúng training curriculum và chọn generation task theo capability mục tiêu. I2I→I2T tạo initialization tốt, giúp giảm phụ thuộc vào dữ liệu I2T, và gradient alignment ở early normalization layers là tín hiệu hứa hẹn để dự đoán cặp task có lợi.

Hướng tương lai:

Dùng gradient alignment như chỉ báo tự động để chọn curriculum generation→understanding.
Mở rộng OmniTaskonomy sang nhiều omni models và nhiều loại dữ liệu hơn.
Kiểm tra cách kết hợp nhiều generation tasks để tối đa hóa transfer mà không gây gradient conflict.
Tận dụng generation supervision trong các bài toán downstream dữ liệu hiếm hoặc annotation đắt đỏ.

V. Brainstorming Space:

1. Publish Papers:

Phát triển framework chọn generation curriculum tự động bằng gradient alignment để cải thiện visual understanding cho các VLM/omni models dữ liệu hạn chế.
Mở rộng OmniTaskonomy sang video, 3D scenes và embodied tasks để đo cross-modal transfer ngoài ảnh tĩnh.
Nghiên cứu multi-task generation pretraining có kiểm soát gradient conflict, kết hợp nhiều I2I objectives hỗ trợ cùng một nhóm understanding capabilities.

2. Patent:

Hệ thống tiết kiệm dữ liệu nhãn cho mô hình thị giác trên điện thoại: dùng ảnh tự sinh hoặc ảnh tái cấu trúc để pretrain mô hình nhận diện đối tượng, đếm vật thể và suy luận không gian trước khi fine-tune bằng ít câu hỏi trắc nghiệm.
Ứng dụng camera điện thoại hỗ trợ đo lường không gian: mô hình được huấn luyện qua các task tái tạo depth, surface normal và ordering để trả lời câu hỏi như vật nào gần hơn, có bao nhiêu vật, hoặc thứ tự vị trí trong ảnh chụp thực tế.
Công cụ học thị giác cho ảnh sản phẩm trong thương mại điện tử: dùng inpainting, jigsaw reconstruction và segmentation để cải thiện nhận diện danh mục, đếm sản phẩm và xác định vị trí vùng cần chỉnh sửa trước khi gợi ý tag tự động.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.38079
ArXiv Abstract	https://arxiv.org/abs/2609.38079
PDF Download	https://arxiv.org/pdf/2609.38079.pdf
Github Repository	https://github.com/para-lost/OmniTaskonomy

20. Learning Beyond What You Sample: Off-Policy-Aware Cross-Model Trajectory Exchange for RLVR (43 votes)

Tác giả: Doohyuk Jang, Yoonsik Park, Gyouk Chu, Sihwan Park, Eunho Yang

Xuất bản lúc: 2026-09-29

Tag: RLVR, GRPO, Off-Policy Learning, Cross-Model Learning, LLM Reasoning, Reinforcement Learning

I. Main Problem:

Các phương pháp Reinforcement Learning with Verifiable Rewards kiểu GRPO chỉ học được khi mô hình tự tạo ra ít nhất một câu trả lời đúng trong nhóm rollout. Với ngân sách rollout hữu hạn, nhiều prompt rơi vào trường hợp toàn bộ câu trả lời đều sai, khiến advantage nhóm bằng 0 và không có gradient học.

Cách thường làm là tăng số rollout, bỏ nhóm zero-variance, thay prompt, hoặc reshape reward; tất cả vẫn phụ thuộc vào khả năng tự khám phá của chính mô hình đang học. Trong khi đó, các mô hình LLM mở khác nhau thường giải được các prompt bổ sung cho nhau: SmolLM3-3B-Base giải được 47.9% prompt mà Qwen3-1.7B-Base thất bại hoàn toàn, và ngược lại Qwen giải được 18.7% prompt SmolLM thất bại. Tín hiệu thành công này bị bỏ phí nếu huấn luyện riêng lẻ.

II. Main Idea:

GRAFT chọn đúng những prompt mà người học thất bại trọn vẹn còn người ngang hàng có cả câu trả lời đúng và sai, rồi thay toàn bộ nhóm rollout thất bại bằng nhóm peer tương ứng thay vì chỉ chép một đáp án đúng.

Which: chỉ trao đổi prompt có dạng receiver 0/n đúng, peer từ 1 đến n-1 đúng, đồng thời cân bằng hai chiều bằng cách dùng số lượng nhỏ hơn và ưu tiên prompt có nhiều success nhất.
How: giữ nguyên advantage đã tính bởi mô hình nguồn để bảo toàn tương phản đúng/sai bên trong nhóm peer, không gộp reward xuyên mô hình.
Mismatch control: dùng trọng số tương thích theo sequence từ log-likelihood token trung bình, loại trajectory quá lạ ngưỡng δ=0.8 và cap trọng số tối đa 1; clipping token-level chỉ kiểm soát sự thay đổi policy của receiver, không đổ lỗi hoàn toàn cho khác biệt cross-model.
Peer-last: xử lý minibatch chứa peer sau minibatch on-policy của receiver để dữ liệu tự sinh được ưu tiên và clipping đã hoạt động.

Ví dụ đời thường: giống hai bạn học cùng bài tập; khi bạn này kẹt ở một câu hoàn toàn, bạn kia không đưa đáp án cuối mà đưa cả tập bài làm có đúng có sai, còn bạn kẹt chỉ tham khảo mạnh khi lối giải đó gần với cách tư duy của mình và vẫn giữ thói quen tự làm làm chính.

III. Main Results:

Trên 3 cặp mô hình không đồng nhất và 5 benchmark toán MATH500, AIME2024, AIME2025, AMC23, Minerva, GRAFT cải thiện cả hai mô hình trong mọi cặp so với GRPO cùng ngân sách n=8: trung bình +2.1 điểm, tối đa +4.5 điểm; mức tăng từ +0.66 đến +4.46 theo từng model block.
Ở Pair 1, cả hai mô hình dùng GRAFT vượt GRPO với rollout gấp 4 lần n=32; Pair 2 đạt ngang hoặc vượt tương đương. Về compute, Pair 1 đạt average 35.25 với 40.9 GPU-hours, hơn GRPO n=32 +1.18 điểm chỉ với 0.45× compute.
So với các baseline cross-model cùng n=8, GRAFT vượt HACPO +4.0 điểm và SGT +1.5 điểm trung bình; HACPO thậm chí thua budget-matched GRPO ở 5/6 block.
Dùng stored peer trajectories từ GRPO độc lập đã hoàn thành vẫn giữ được phần lớn lợi ích: +1.8 điểm trung bình so với +2.11 online, giảm 27–76% GPU-hours và cải thiện dương ở mọi block, tương đương giữ 84% lợi ích online.
Ablation cho thấy compatibility gate là thành phần then chốt: bỏ gate làm SmolLM3 sụt −8.36, bỏ floor làm Qwen3 sụt −3.56; peer-last tốt hơn peer-first/uniform, và chọn prompt kiểu GRAFT kết hợp update kiểu GRAFT quan trọng hơn từng phần riêng lẻ.

IV. Conclusion & Future Works:

GRAFT cho thấy trong RLVR, mô hình không nhất thiết chỉ học từ sample chính mình tạo ra: khi một prompt hoàn toàn thất bại, nhóm trajectory đã được verify của peer có thể cung cấp tín hiệu học bị thiếu, miễn là chọn đúng prompt và kiểm soát độ lệch off-policy cross-model.

Hạn chế: lợi ích phụ thuộc mức bổ sung giữa hai mô hình và nhỏ nhất ở Pair 3; compatibility score chỉ là proxy khi tokenizer khác nhau; thí nghiệm giới hạn ở cặp hai mô hình, toán, reward verify được, base model ≤3B.

Hướng mở rộng: trao đổi giữa nhiều hơn hai peer, miền không có verifiable reward, cân bằng chi phí thu thập peer trajectory với chất lượng selection, và làm compatibility weight chặt hơn khi tokenizer/distribution khác mạnh.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng GRAFT từ hai sang nhiều mô hình ngang hàng, nghiên cứu cách chọn tập peer theo lịch sử complementarity và kiểm soát nhiễu từ nhiều nguồn trajectory khác distribution.
Kết hợp stored peer trajectories với curriculum học để tái sử dụng thành công cũ theo thứ tự từ dễ đến khó, giảm nhu cầu co-training đồng thời trong RLVR.
Nghiên cứu cross-model trajectory exchange cho tác vụ không có verifier rõ ràng, thay reward nhị phân bằng tín hiệu ước lượng chất lượng có kiểm soát bias.

2. Patent:

Hệ thống học cộng tác trên điện thoại giữa hai trợ lý AI cá nhân: khi trợ lý A liên tục trả lời sai một nhóm câu hỏi, thiết bị chỉ nhận từ trợ lý B các chuỗi trả lời đã kiểm chứng gồm cả đúng và sai, chấm trọng số tương thích rồi cập nhật mô hình A mà không chia sẻ trọng số riêng tư.
Ứng dụng học toán trên mobile dùng kho lời giải đã lưu từ mô hình khác: khi học sinh/mô hình cục bộ thất bại trọn vẹn ở một bài, app nạp toàn bộ lần thử đúng-sai của mô hình ngang hàng, lọc lời giải quá khác cách suy luận rồi đưa vào buổi luyện sau để tiết kiệm tính toán trên máy.
Module tiết kiệm pin và dữ liệu cho thiết bị biên: thay vì tăng số lần sinh câu trả lời mỗi prompt khi không có đáp án đúng, thiết bị trao đổi trajectory đã verify với thiết bị/đám mây ngang hàng qua cơ chế replacement có cổng tương thích, giảm rollout tốn kém nhưng vẫn có tín hiệu học khi mọi câu trả lời tự sinh đều sai.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.37868
ArXiv Abstract	https://arxiv.org/abs/2609.37868
PDF Download	https://arxiv.org/pdf/2609.37868.pdf
Github Repository	N/A

21. ROSS: Relearning from Self-Generated Rollouts through Selective Supervision (33 votes)

Tác giả: Zhiwei Zhang, Huayu Deng, Fei Zhao, Jiayan Fu, Bin Liang, et al.

Xuất bản lúc: 2026-09-28

Tag: LLMs, Reinforcement Learning, Self-Training, On-Policy Distillation, Agentic RL, Supervised Fine-Tuning, Process Supervision

I. Main Problem:

Khi huấn luyện mô hình ngôn ngữ bằng dữ liệu tự sinh, quá trình lặp lại tạo ra nhiều checkpoint và vô số lượt chạy lịch sử. Tuy nhiên, các lượt chạy này thường bị coi là lỗi thời và bị vứt bỏ. Vấn đề là:

Hành vi hữu ích từng được mô hình khám phá có thể không còn xuất hiện ổn định ở checkpoint mới hơn, dù vẫn nằm trong khả năng của mô hình.
Ngay cả khi một lượt chạy đạt kết quả đúng, nó vẫn có thể chứa sai lầm trung gian, đoạn thử-và-bỏ, lặp lại thừa mà không nên bắt chước.
Vì vậy cần chọn lọc ở hai mức: lượt chạy nào còn đáng học, và đoạn nào bên trong lượt chạy đáng được học.

II. Main Idea:

ROSS biến lịch sử tự sinh thành một giai đoạn học lại ngoại tuyến sau huấn luyện chính. Cơ chế gồm ba lớp chọn lọc:

Giữ nguyên toàn bộ ngữ cảnh: mô hình vẫn đọc cả quỹ đạo cũ, gồm câu hỏi, phản hồi môi trường, lỗi đã xảy ra và các bước sau đó.
Lọc theo kết quả: chỉ giữ lượt chạy được bộ kiểm chứng xác nhận thành công.
Che mặt nạ ở mức token: một trình duyệt ngôn ngữ lớn xem xét từng lượt chạy, tách các đoạn đúng, tự chứa và có giá trị hành vi; chỉ các token thuộc đoạn được chọn mới nhận loss bắt chước.

Điểm mấu chốt là mặt nạ không xóa nội dung khỏi chuỗi, mà chỉ tắt mất mát tại các token không nên học. Nhờ đó mô hình học từ hành vi tốt trong đúng bối cảnh lịch sử, thay vì sao chép nguyên xi cả con đường có cả chỗ đúng và chỗ hỏng.

Ví dụ đời thường: giống như xem lại cuốn sổ tay của một người thợ đã làm thành công một sản phẩm; ta giữ nguyên toàn bộ trang để hiểu hoàn cảnh, nhưng chỉ khoanh lại các đoạn thao tác đúng để học, còn gạch bỏ chỗ viết nhầm, thử sai hoặc làm thừa.

III. Main Results:

Trên Qwen3.6-35B-A3B, sau chương trình chưng cất nhiều giáo viên, ROSS nâng trung bình sáu benchmark từ 58.40% lên 62.20%.
Trên tác vụ sửa lỗi phần mềm thật SWE-bench Verified, tỷ lệ giải quyết issue tăng từ 64.20% lên 68.40%.
Sau huấn luyện riêng cho toán, trung bình toán tăng từ 75.19 lên 76.98; sau huấn luyện riêng cho code, trung bình code tăng từ 42.09 lên 44.21.
Phân tích cho thấy lọc theo quỹ đạo đã giúp, nhưng mặt nạ token mức đoạn tạo phần lợi ích còn lại: chỉ cùng tập ví dụ, bản đầy đủ ROSS vượt bản không che mặt nạ thêm khoảng 3.71 điểm trên thiết lập nhiều giáo viên.
ROSS còn cải thiện một số năng lực ngoài miền mục tiêu, ví dụ dùng công cụ đa lượt trên BFCL tăng từ 44.12 lên 45.62 và từ 46.25 lên 49.38 trong hai thiết lập riêng.
Khi học lại từ cùng dữ liệu lịch sử và cùng mặt nạ nhưng khởi tạo từ mô hình nền thay vì checkpoint cuối, kết quả vẫn tương đương, cho thấy quỹ đạo tự sinh chứa kinh nghiệm hành vi có thể chuyển giao, không chỉ lưu giữ trong tham số checkpoint cuối.

IV. Conclusion & Future Works:

Bài báo kết luận rằng các lượt chạy tự sinh trong huấn luyện sau không phải phế liệu, mà là dấu chân hành vi có thể tái sử dụng nếu được củng cố có chọn lọc. Hướng mở rộng hợp lý gồm:

rút gọn hoặc tự động hóa vai trò người duyệt đoạn hữu ích để giảm chi phí gán nhãn
nghiên cứu khi nào nên dùng lượt chạy lịch sử thay vì tiếp tục thăm dò mới
mở rộng sang nhiều loại tác vụ đa lượt, nhiều công cụ và nhiều checkpoint hơn
kết hợp tín hiệu mức bước, mức quỹ đạo và độ tin cậy của bộ kiểm chứng để chọn mặt nạ ổn định hơn

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu cách xác định đoạn hành vi hữu ích trong quỹ đạo tự sinh lịch sử mà không cần giáo viên bên ngoài, dựa trên kiểm chứng kết quả, tính tự chứa của đoạn và khả năng bắt chước an toàn.
Phân tích khi nào kinh nghiệm từ quỹ đạo tự sinh có thể chuyển sang mô hình khởi tạo khác, thay vì chỉ hữu ích cho chính checkpoint đã tạo ra nó.
Mở rộng học lại có chọn lọc cho tác tử dài hạn trong môi trường phần mềm thật, nơi lỗi trung gian, hành vi khám phá thừa và phản hồi môi trường thường xen kẽ trong cùng một chuỗi thành công.
Đo lường mối liên hệ giữa độ tự tin của chính sách và tỷ lệ nội dung cần bị loại khỏi supervision, để hiểu vì sao chính sách chắc chắn hơn vẫn có thể tạo ra quỹ đạo đúng kết quả nhưng không đáng sao chép toàn phần.

2. Patent:

Trợ lý AI trên điện thoại tự học lại từ lịch sử tương tác đã thành công: hệ thống lưu các phiên trả lời, lọc phiên đạt kết quả, giữ nguyên toàn bộ hội thoại làm ngữ cảnh, nhưng chỉ dùng các câu trả lời được xác nhận đúng và hữu ích để cập nhật nhẹ mô hình trên máy.
Công cụ lập trình trong IDE tự rút kinh nghiệm từ các ticket đã sửa thành công: khi một lỗi được vá và kiểm thử đạt, hệ thống giữ lại toàn bộ quá trình thử-sửa làm ngữ cảnh, chỉ trích các bước sửa đúng để huấn luyện lại trợ lý mà không bắt chước các lần thay file sai hoặc chạy lệnh thừa.
Hệ thống đám mây cho phép doanh nghiệp tái sử dụng hành vi tốt của tác tử tự động: các cuộc chạy thành công được kiểm chứng, sau đó một bộ phận đánh giá tách đoạn hành động đáng học để củng cố mô hình mới mà không cần tạo thêm nhiều cuộc chạy mới.
Ứng dụng học tập cá nhân tự cải thiện cách gợi ý từ quá khứ người dùng: khi người dùng từng giải quyết được vấn đề sau vài lượt thử, hệ thống giữ bối cảnh đầy đủ nhưng chỉ học từ phần suy luận cuối cùng chính xác, tránh học theo các lần đoán sai ban đầu.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.35954
ArXiv Abstract	https://arxiv.org/abs/2609.35954
PDF Download	https://arxiv.org/pdf/2609.35954.pdf
Github Repository	N/A

22. APM-Bench: Benchmarking Cross-session Persistent Memory for Egocentric Streaming Video Assistants (31 votes)

Tác giả: Jianguo Huang, Jinming Liu, Qiyao Wang, Liang Xu, Jianhang Li, et al.

Xuất bản lúc: 2026-09-29

Tag: Streaming Video, Persistent Memory, Egocentric Video, Video Assistants, Benchmark, Proactive Assistance, Real-time Perception, Memory Systems

I. Main Problem:

Các benchmark streaming hiện tại chủ yếu đánh giá ký ức trong một video liên tục hoặc clip ngắn, trong khi dùng trợ lý thực tế qua kính thông minh/điện thoại là gián đoạn: người dùng tắt thiết bị rồi quay lại sau giờ hoặc ngày. Điểm thiếu sót chính:

chưa kiểm tra bộ nhớ có còn dùng được sau khi phiên tương tác kết thúc hay không
chưa đánh đồng hiệu quả tác vụ với chi phí lưu trữ và độ trễ phản hồi
chưa ép mô hình nhận biết khi bằng chứng lịch sử đã bị xóa/mất thay vì bịa câu trả lời
chưa phân biệt rõ nhớ lại quá khứ, hiểu cảnh hiện tại, và chủ động hỗ trợ đúng lúc trong cùng một chuỗi tương tác cách quãng.

II. Main Idea:

APM-Bench tái định nghĩa trải nghiệm egocentric thành multi-session life trajectories: mỗi trajectory gồm nhiều session liên quan, giữ nguyên thứ tự thời gian và khoảng cách thực tế giữa các lần dùng. Bộ dữ liệu có 104 trajectories, 549 sessions, 2,719 câu hỏi, gồm câu hỏi trắc nghiệm và câu hỏi mở, chia thành 12 tác vụ thuộc ba năng lực: Cross-session Understanding dùng bộ nhớ để trả lời quá khứ, Real-time Perception đo nhận thức cảnh hiện tại và xem bộ nhớ có gây nhiễu không, Adaptive Response kiểm tra khi nào nên im lặng, khi nào nên can thiệp và can thiệp bằng gì. Đánh giá chạy theo giao thức nhân quả: mô hình chỉ thấy tiền tố video hiện tại tới thời điểm hỏi cộng bộ nhớ từ các session trước; các hệ thống được so sánh theo độ chính xác, Gated LLM-Judge cho tác vụ chủ động, thời gian tới token đầu tiên, và storage cost mỗi giờ video. Một tập riêng 260 câu kiểm tra khả năng nói “không đủ bằng chứng” khi dữ liệu cần thiết nằm ngoài phạm vi bộ nhớ.

Giống như người trợ lý không mang theo toàn bộ cuốn nhật ký video, mà sau mỗi lần gặp chỉ ghi lại mẩu thông tin cần dùng, biết tra lại đúng lúc và dám nói “tôi không còn giữ thông tin đó” thay vì đoán bừa.

III. Main Results:

Xuất hiện utility-latency-storage trade-off rõ rệt: lưu raw video cho kết quả tốt nhất nhưng tốn lưu trữ cỡ gigabyte mỗi giờ và tăng độ trễ; lưu text summary chỉ tốn kilobyte nhưng mất chi tiết trực quan và làm Cross-session Understanding giảm.
Với raw video as memory, Gemini 3.6 Flash đạt tổng thể cao nhất trong các mô hình chung: khoảng 60.21 overall, 69.37 Cross-session Understanding, 64.20 Real-time Perception, 47.05 Adaptive Response; text summary giúp Real-time Perception tăng nhưng làm tổng thể giảm còn 53.54.
Không có bộ nhớ, SimpleStream chỉ đạt 37.58 overall, cho thấy hiểu cảnh hiện tại không đủ để trả lời quá khứ.
Trong các hệ thống bộ nhớ chuyên biệt, nhóm event tree/event-structured có utility tốt nhất: OASIS 41.46 overall, StreamForest 29.30; các cách nén token, KV cache, parametric memory hay reasoning thoughts thường nhanh/gọn hơn nhưng chất lượng trả lời thấp hơn rõ.
Bộ nhớ quá nhiều có thể làm nhiễu Real-time Perception; thay raw video bằng summary thường giúp nhận thức hiện tại tốt hơn, nghĩa là cần selective memory injection.
Khả năng nhận ra thiếu bằng chứng tách biệt với khả năng nhớ: Gemini 3.6 Flash trả lời tốt khi bằng chứng còn đạt 85.38, nhưng nhận diện bằng chứng mất chỉ 59.23; SimpleStream lại nghiêng hẳn về “không đủ bằng chứng” đạt 95.38 nhưng trả lời đúng khi có bằng chứng chỉ 3.85.
Adaptive Response là khó nhất, đặc biệt các tác vụ chủ động không có gợi ý rõ; dù raw video cải thiện nhớ quá khứ, mô hình vẫn yếu khi phải tự liên hệ kinh nghiệm cũ với hành động hiện tại để đưa ra hỗ trợ đúng lúc.

IV. Conclusion & Future Works:

Kết luận chính: bộ nhớ persistent cho trợ lý video thực tế phải đồng thời storable, reusable, selective, efficient và evidence-aware. Các phương pháp hiện tại chưa cân bằng được nhớ dài hạn tin cậy, chi phí lưu trữ/độ trễ thấp, và hỗ trợ chủ động xuyên session. Hướng đi hợp lý là ưu tiên biểu diễn bộ nhớ theo sự kiện hoặc cấu trúc phân cấp, nén có chọn lọc, chỉ tiêm lịch sử khi liên quan, và làm rõ phạm vi dữ liệu đã lưu để trợ lý biết khi nào không đủ bằng chứng.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu cơ chế quyết định khi nào nên đưa bộ nhớ lịch sử vào nhận thức hiện tại, bằng cách ước lượng mức liên quan giữa bằng chứng cũ và cảnh đang phát trực tiếp.
Phát triển bộ nhớ theo sự kiện phân cấp cho video đeo trên người, kết hợp nén trực quan và tóm tắt ngôn ngữ để giảm gigabyte lưu trữ mỗi giờ mà không mất chi tiết cần hồi tưởng.
Xây dựng module evidence-coverage awareness để trợ lý lưu lại metadata về phạm vi thời gian, đối tượng và sự kiện đã bị xóa, từ đó giảm hallucination khi dữ liệu lịch sử không còn đủ.

2. Patent:

Trợ lý điện thoại có trí nhớ gián đoạn: khi người dùng quay video nhiều lần trong ngày, ứng dụng tự lưu các mốc sự kiện quan trọng sau mỗi phiên; khi người dùng hỏi “hôm qua tôi để chìa khóa ở đâu”, điện thoại tra lại đúng khoảnh khắc và cảnh báo nếu đoạn đó đã bị xóa để tiết kiệm bộ nhớ.
Kính thông minh hoặc camera điện thoại tự nhắc theo ngữ cảnh: người dùng đăng ký “nhắc tôi không đun chảy bơ”, thiết bị ghi nhớ điều kiện và ở phiên sau khi phát hiện hành động tương tự sẽ can thiệp đúng lúc, còn khi không liên quan thì giữ im lặng.
Bộ nhớ điện thoại tiết kiệm dung lượng cho video cá nhân: thay vì giữ toàn bộ video, máy trích xuất thẻ sự kiện gồm thời điểm, vật thể, hành động và trạng thái đã thay đổi; người dùng đặt ngân sách gigabyte và ứng dụng tự chọn nội dung nên giữ, nén hoặc xóa.
Ứng dụng hướng dẫn công việc tiếp nối: điện thoại theo dõi các lần làm một món ăn hoặc sửa chữa nhiều ngày, nhớ bước đã làm, vật dụng đã dùng và lỗi từng gặp, rồi khi người dùng bắt đầu lại nó nhắc bước tiếp theo thay vì yêu cầu xem lại toàn bộ quá trình.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.37559
ArXiv Abstract	https://arxiv.org/abs/2609.37559
PDF Download	https://arxiv.org/pdf/2609.37559.pdf
Github Repository	https://github.com/Jianguo-Huang11/APM-Bench

Tác giả: Haozhe Liu, Tian Ye, Shuchen Xue, Yitong Li, Junsong Chen, et al.

Xuất bản lúc: 2026-09-29

Tag: Video Generation, Diffusion Models, Distillation, Reinforcement Learning, Super-Resolution, Flow Matching, Inference Acceleration

I. Main Problem:

Sinh video độ phân giải cao (2K–4K) rất đắt tính toán, vì chi phí tăng nhanh theo số lượng token không-thời gian. Hướng thực dụng là dùng mô hình nền tạo video độ phân giải thấp rồi refine (nâng cấp), nhưng:

Các refiner hiện có cần nhiều bước denoising ở độ phân giải đích → tạo nút thắt thứ hai về sampling.
Hầu hết refiner gắn với một base generator cụ thể, không đánh giá khả năng transfer sang output của generator khác.

II. Main Idea:

SoL-Refiner là refiner một bước duy nhất (one denoising step) biến video độ phân giải thấp từ nhiều base generator khác nhau thành video 4K, sửa artifact và nâng chất lượng mà không cần sửa lại hay retrain generator nền.

Công thức huấn luyện 3 giai đoạn, khởi đầu từ checkpoint LTX-2.3:

Stage I – Continual Training: huấn luyện cặp video low/high fidelity bằng truncated-σ flow matching (đường đi từ ảnh mờ nhiễu tới ảnh nét, thay vì từ noise thuần) để học ánh xạ nâng cấp.
Stage II – RL Post-Training: Reward Feedback Learning với reward dựa trên khung hình (HPSv3++ cho preference, DeQA cho chất lượng) để tối ưu chất lượng cảm nhận.
Stage III – One-Step Distillation: nén multi-step thành one-step bằng DMD-GAN (distribution matching distillation + discriminator DiT chiếu), qua trung gian student 3 bước.
Hệ thống tăng tốc thêm bằng TAE (tiny autoencoder thay VAE) và Sol-Engine (kernel fusion + sparse attention).

Đồng thời giới thiệu Refiner-Bench, benchmark 150 video từ nhiều generator với shared-input protocol để so sánh công bằng giữa các refiner.

Ví dụ đời thường: giống thợ ảnh nhận tấm ảnh nhỏ mờ từ studio dựng, chỉ rà một lầt duy nhất bằng bản vá đã luyện sẵn — ảnh phóng to nét căng, vết xước biến mất — thay vì phải chỉnh từng chi tiết qua nhiều lượt.

III. Main Results:

Refiner-Bench (~2K): bản one-step vượt mọi external refiner (LingBot Stage-2, LTX-2.3, LTX-2.0, SEEDVR2) về VBench A VG (0.81048) và UniPercept A VG (60.4150), kể cả SEEDVR2 cùng ngân sách 1 bước.
So với LTX-2.3 Refiner 3 bước: thắng ở 720p, 2K và 4K; tại 4K cải thiện VBench +3.86% và UniPercept +22.79%.
Tốc độ: với TAE + Sol-Engine, refinement latency giảm từ 57.461s xuống 6.447s — 8.91× speedup so với baseline 3 bước.
Pipeline hai giai đoạn (MiniMax H3 4 bước ở độ phân giải thấp + SoL-Refiner 1 bước): 27.03× nhanh hơn sinh full-resolution trực tiếp (5.64s vs 152.3s).
Transfer qua base generator khác: kết hợp WAN-5B, WAN-1.3B, Cosmos-Nano giảm latency 54.7%, 71.1%, 64.4% đồng thời chất lượng VBench/UniPercept cao hơn sinh high-res trực tiếp.
DGX Spark (SoL-H3): giảm end-to-end latency 29.4%, 9.43× so với H3 full-res 4 bước.
Ablation: RL post-training nâng cao nhất cả hai chỉ số; bỏ regularization hay dùng một reward model duy nhất đều làm giảm VBench; thứ tự RL rồi DMD tốt hơn DMD-R.

IV. Conclusion & Future Works:

SoL-Refiner cho thấy có thể dồn phần lớn tính toán denoising về generator nền độ phân giải thấp và chỉ dành đúng một bước ở độ phân giải đích cho refinement, vẫn giữ chất lượng vượt các refiner đắt hơn nhiều lần. Bài học chính: chất lượng cảm nhận (qua RL reward) và nén một-bước (qua DMD-GAN) bổ sung lẫn nhau, kết hợp tối ưu hệ thống (TAE, Sol-Engine) cho lợi ích bổ sung về latency. Tác giả không nêu hướng tương lai cụ thể; hướng tự nhiên là mở rộng Refiner-Bench sang nhiều generator hơn và đẩy tốc độ lên cho video dài hơn.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng Refiner-Bench với shared-input protocol sang các base generator mở mới, đo khả năng transfer của refiner một bước trên nhiều phong cách sinh khác nhau (anime, quay thật, đồ họa 3D).
Nghiên cứu refiner one-step không cần cặp dữ liệu: thay continual training trên cặp video thật bằng tự tạo cặp low/high fidelity từ chính mô hình để giảm phụ thuộc dữ liệu nội bộ.
Kết hợp reward thời gian (temporal consistency reward) vào RL post-training thay vì chỉ reward theo khung hình rời rạc, để một bước refine giữ mượt chuyển động tốt hơn ở 4K.

2. Patent:

Tính năng nâng cấp video trên điện thoại: video AI hoặc quay thường ở độ phân giải thấp được gửi lên đám mây, một mô hình refine một-bước trả về bản 4K sắc nét trong thời gian thực, tiết kiệm pin và băng thông so với chạy nhiều bước.
Bộ lọc sửa video call/short-video: ứng dụng camera áp dụng refiner một lần duy nhất cho từng đoạn video ngắn, làm mịn artifact nén và nâng độ phân giải khi phát lại trên màn hình cao cấp mà không tăng độ trễ.
Hệ thống xử lý video quảng cáo theo lô: server nhận video dựng thô từ nhiều công cụ sinh khác nhau, dùng một refiner thống nhất nén thành bản 2K/4K chuẩn, giảm chi phí GPU cho studio sản xuất nội dung.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.37969
ArXiv Abstract	https://arxiv.org/abs/2609.37969
PDF Download	https://arxiv.org/pdf/2609.37969.pdf
Github Repository	N/A

24. Marathoner: Ultra-Long-Horizon Autonomous Intelligence (28 votes)

Tác giả: Zhang Ruiyang, Ou Jinpeng, Xie Yifan, Zhou Jingang, Pan Lirui, et al.

Xuất bản lúc: 2026-09-28

Tag: Agentic AI, LLMs, Reinforcement Learning, Rejection Sampling Finetuning, Software Engineering, Long-Horizon Tasks

I. Main Problem:

Các mô hình mạnh dạng proprietary đã có dấu hiệu làm việc liên tục nhiều ngày, nhưng cách huấn luyện năng lực này gần như không được công bố, trong khi mô hình open-source còn thiếu hẳn khả năng ultra-long-horizon execution. Hệ quả là:

tác vụ khó đòi hỏi nhiều giờ vận hành, hàng trăm/nghìn lần gọi công cụ vẫn thất bại sớm
thiếu dữ liệu cấp task đủ dài, đủ thật, có kiểm chứng để huấn luyện bền bỉ
dễ overfit theo một harness hoặc phụ thuộc vào thiết lập benchmark riêng lẻ.

II. Main Idea:

Marathoner cài khả năng chạy rất dài vào base model bằng ba bước:

Ultra-Long-Horizon Task Synthesis: thu 10.000 repo GitHub đa lĩnh vực/ngôn ngữ; đào 100.000 major release PR; mỗi PR biến thành một task Harbor gồm codebase checkout trước PR, instruction lấy từ comment/release notes/LLM, reward verifier là unit tests kiểu fail-to-pass và pass-to-pass. Dễ 100-200 dòng, trung bình 200-1000, khó 1000+ dòng.
Multi-Task Chaining: ghép ngẫu nhiên 5 task thành Frontier task, buộc agent phối hợp nhiều repo và làm việc rất lâu.
Rejection Sampling Finetuning: dùng Kimi K3 qua nhiều harness Claude Code, Codex, OpenClaw để tạo trajectory; chỉ giữ trajectory đạt reward 1 rồi SFT base model ở sequence length 256k.
Reinforcement Learning: dùng GRPO trong sandbox thật qua Harbor, mỗi task gắn harness ngẫu nhiên; thêm Later Stage Bonus Reward: LLM tóm tắt trajectory thành các phase, nếu nửa sau vẫn có hành động giá trị như sửa bug ẩn hoặc tối ưu quan trọng thì cộng 0.5 điểm.

Cơ chế giống như đào tạo thợ sửa máy bằng hồ sơ công trình thật: đầu tiên cho xem cách chuyên gia xử lý các ca khó từ đầu đến cuối, sau đó cho vào xưởng thật tự sửa nhiều ca dài, và chỉ thưởng thêm nếu giai đoạn cuối vẫn phát hiện lỗi quan trọng thay vì bỏ cuộc.

III. Main Results:

Marathoner-9B cải thiện rõ và đều so với base model Qwen3.5-9B: FrontierSWE 26.4 so với 10.2; NL2Repo 34.7 so với 17.9; SWE-Marathon 8.2 so với 0; Terminal Bench 2.0 57.2 so với 27.3; SWE-Bench Verified 77.5 so với 43.8.
Vượt Gemini-3.1-Pro trên FrontierSWE và SWE-Marathon; không tối ưu riêng theo từng benchmark.
Thống kê chạy: FrontierSWE trung bình 3.56 giờ, 426.2 bước, 648.3 tool calls; Terminal Bench 2.0 trung bình 0.58 giờ, 104.8 bước, 239.4 tool calls. Bài báo cũng khẳng định có khả năng làm việc 10+ giờ và 1000+ tool calls trên tác vụ cực khó.
Scaling môi trường RL từ 1.000 lên 8.000 task cải thiện đều trên FrontierSWE và Terminal Bench 2.0; reward RL tăng ổn định, entropy ổn định.
Ablation: Multi-Task Chaining, Diverse-Harness Trajectory Generation và Later Stage Bonus Reward đều nâng FrontierSWE/Terminal Bench 2.0 so với vanilla Marathoner.

IV. Conclusion & Future Works:

Kết luận: pipeline hậu huấn luyện thống nhất có thể truyền khả năng ultra-long-horizon execution vào base model, không cần tối ưu từng benchmark; điểm then chốt là dữ liệu task thật nguồn GitHub, chuỗi task khó hơn, học mẫu từ teacher model qua nhiều harness, rồi tương tác sandbox thật với reward khuyến khích hành động cuối vẫn có giá trị. Bài báo không đưa mục future work riêng; phân tích scaling cho thấy tăng số lượng môi trường và tác vụ thật trong giai đoạn tương tác là hướng nâng trần hiệu năng agentic.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng cách tạo tác vụ siêu dài từ lịch sử cập nhật phần mềm thật sang nhiều hơn nữa loại kho mã, ngôn ngữ và hệ sinh thái, đồng thời kiểm soát độ khó bằng kích thước thay đổi và số thành phần được nối chuỗi.
Nghiên cứu reward dạng quá trình cho tác vụ dài: cân bằng giữa kết quả cuối đúng/sai và tính hữu ích theo từng giai đoạn, đặc biệt khi giai đoạn sau càng dễ bị agent bỏ cuộc.
Đánh giá tính tổng quát của năng lực chạy dài khi thay đổi harness, sandbox, tài nguyên máy và chuỗi công cụ, thay vì chỉ đo benchmark lập trình cố định.

2. Patent:

Ứng dụng điện thoại luyện trợ lý lập trình bền bỉ: hệ thống tạo các ca sửa mã thật trong không gian thử nghiệm cách ly, cho mô hình thực hành nhiều giờ, rồi chấm điểm theo bộ kiểm thử và thưởng thêm khi phần cuối phiên làm việc vẫn có sửa lỗi quan trọng.
Dịch vụ trên điện thoại giúp doanh nghiệp giao việc bảo trì repo dài hơi: nối nhiều yêu cầu cập nhật từ nhiều kho mã thành một phiên làm việc liên tục, theo dõi tiến độ theo giai đoạn và chỉ xác nhận hoàn thành khi toàn bộ kiểm thử qua.
Hệ thống huấn luyện agent trong hộp cát cá nhân hóa cho lập trình viên: chọn các mảng cập nhật lớn từ lịch sử dự án, biến thành bài tập có lời giải tham chiếu và bộ kiểm thử hai lớp, giúp lập trình viên hoặc agent nội bộ luyện khả năng làm việc dài mà không rủi ro phá hệ thống thật.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.34378
ArXiv Abstract	https://arxiv.org/abs/2609.34378
PDF Download	https://arxiv.org/pdf/2609.34378.pdf
Github Repository	N/A

25. HybridCUA: Learning to Orchestrate GUI and CLI for Computer-Use Agents (27 votes)

Tác giả: Tongbo Chen, Junbo Niu, Zhengxi Lu, Niu Lian, Fei Tang, et al.

Xuất bản lúc: 2026-09-29

Tag: Computer-Use Agents, GUI Agents, CLI, Reinforcement Learning, RLVR, Multimodal LLMs, Agent Orchestration

I. Main Problem:

Các tác nhân computer-use (CUA) hiện nay chỉ dùng GUI (click, gõ phím) nên chậm và dễ lỗi tích lũy trong chuỗi hành động dài, hoặc phải dùng API/tools riêng cho từng ứng dụng — tốn công kỹ thuật và khó mở rộng. Khi cho mô hình tự do truy cập shell (CLI), hiệu suất OSWorld giảm 2.5–11.5 điểm vì mô hình không biết khi nào và cách nào dùng CLI: một số chỉ dùng CLI cho 0.15–15% số bước dù một lệnh duy nhất có thể thay cả chuỗi GUI dài. Nút thắt nằm ở hai khoảng trống:

Dữ liệu không có ví dụ về hành vi kết hợp GUI–CLI (các kho dữ liệu GUI, shell, code tách biệt nhau).
Tín hiệu huấn luyện không phân biệt được lựa chọn giao diện nào tốt — reward chỉ kiểm tra hoàn thành tác vụ, không quan tâm đường đi có hiệu quả không.

II. Main Idea:

Kết hợp GUI (tính tổng quát, tương tác trực quan) với CLI (hiệu quả, gom cả chuỗi thao tác thành một lệnh) trong một không gian hành động thống nhất — mọi hành động đều qua một lệnh bash: lệnh shell trực tiếp hoặc heredoc Python chứa code pyautogui. Quy trình gồm hai giai đoạn:

Giai đoạn 1 (SFT) trên HybridCUA-8K: 5.000 trajectory gồm ba loại — GUI-only (chuyển đổi từ dataset mở), CLI-only (mẫu từ mô hình mạnh qua harness thực thi), và trajectory đan xen GUI–CLI (chuyển đổi tự do hoặc viết lại đoạn GUI thành lệnh shell rồi replay, chỉ giữ bản chạy thành công); kèm 3.000 tác vụ RLVR được gắn nhãn liệu dùng CLI có lợi rõ rệt hay không.
Giai đoạn 2 (RLVR online với GRPO) dùng hai reward nhận thức CLI:
- R_CLI ở mức trajectory: thưởng khi rollout thành công và việc dùng CLI khớp với nhãn tác vụ → dạy khi nào dùng CLI.
- r_exec ở mức bước: phạt −1 khi lệnh shell lỗi thực thi, dựa vào stdout/stderr → dạy dùng CLI thế nào cho đúng.

Ví dụ đời thường: giống người dùng máy tính thành thạo — việc gì cần nhìn và bấm (kéo thả, chỉnh vị trí) thì dùng chuột trên màn hình, còn việc gì lặp lại như sửa 100 dòng văn bản thì mở cửa sổ lệnh gõ một lệnh duy nhất cho xong.

III. Main Results:

OSWorld: HybridCUA-9B đạt 53.6% (+14.8 điểm so với base Qwen3.5-9B), tốt nhất trong các mô hình cùng cỡ, với 14.0 bước trung bình (giảm 17.6 bước); vượt AutoGLM-OS-9B +4.7, ToolCUA-8B +6.8, UltraCUA-32B +9.9 điểm — trong khi các baseline đó cần API riêng từng ứng dụng.
Chỉ "mở khóa" CLI mà không huấn luyện làm base model sụt từ 38.8% xuống 18.4% — chứng minh vấn đề nằm ở biết cách dùng, không phải có quyền truy cập.
Khái quát hóa ngoài phân phối: OSWorld-MCP 47.1% (+9.1 điểm); WindowsAgentArena 36.0% (+4.0 điểm), tự phát sinh lệnh PowerShell dù chỉ huấn luyện trên Linux shell → cái chuyển giao được là khi nào giao việc cho shell, không phải thuộc lệnh.
Ablation dữ liệu SFT: trộn cả ba loại trajectory (46.0%) tốt hơn chỉ GUI (43.2%), chỉ CLI (31.7%) hay chỉ hybrid (41.0%) — ba loại bổ trợ lẫn nhau.
Ablation reward: bỏ R_CLI thì tỉ lệ dùng CLI chỉ 58.9% và bước chỉ giảm 18.2% (so với 64.0% và 29.3% khi đủ); bỏ r_exec thì tỉ lệ lỗi lệnh tăng lại 16.5%. → reward tầng trajectory quyết định khi nào, reward tầng bước quyết định độ tin cậy.
Action schema thống nhất (bash duy nhất) hơn tách hai tool riêng +7.2 điểm.
Mô hình chọn giao diện hợp lý theo miền: CLI chiếm 84% bước trong tác vụ OS, GUI chiếm 74% trong tác vụ Chrome.

IV. Conclusion & Future Works:

HybridCUA chứng minh GUI và CLI bổ trợ lẫn nhau, và việc học cách điều phối hai giao diện — thay vì chỉ thêm công cụ — là hướng đi khả thi cho CUA vừa chính xác, vừa hiệu quả, vừa khái quát hóa được giữa các nền tảng. Việc gán nhãn "CLI có lợi" cho tác vụ và tách reward routing/execution là chìa khóa kỹ thuật. Hạn chế ghi nhận: truy cập shell khuếch đại khả năng gây hại của tác nhân trong triển khai thực tế — cần thêm đánh giá an toàn, biện pháp bảo vệ và giám sát con người, nằm ngoài phạm vi bài báo.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng pipeline dữ liệu lai GUI–CLI sang các giao diện mới (điều khiển bằng giọng nói, API ứng dụng) với cơ chế gán nhãn lợi thế giao diện tự động cho từng tác vụ.
Nghiên cứu reward shaping cho an toàn tác nhân có quyền shell: phạt các lệnh có rủi ro phá hủy dữ liệu trong khi vẫn giữ hiệu quả điều phối giao diện.
Huấn luyện đa nền tảng (Linux + Windows + macOS) trong một chính sách thống nhất để kiểm tra giới hạn chuyển giao của kỹ năng 'khi nào dùng shell' sang ngôn ngữ shell mới.

2. Patent:

Trợ lý tự động trên điện thoại/máy tính bảng tự quyết định thao tác cảm ứng hay lệnh hệ thống: khi người dùng yêu cầu xử lý hàng loạt (đổi tên 500 ảnh, xuất dữ liệu ứng dụng), trợ lý giao việc cho cửa sổ lệnh nền thay vì bấm từng màn hình, rút ngắn thời gian và giảm lỗi.
Hệ tự động hóa văn phòng đa ứng dụng: một chính sách duy nhất điều phối giữa thao tác giao diện (chọn menu, kéo thả) và lệnh script chỉnh sửa file trực tiếp, tự học từ phản hồi lỗi của từng lệnh để lần sau chọn lệnh đúng hơn.
Module kiểm tra hiệu quả giao diện cho robot phần mềm: trước khi thực hiện tác vụ dài, hệ thống thử cả hai cách (bấm GUI so với gõ lệnh) trên bản sao môi trường, đo tỉ lệ thành công và số bước rồi gán nhãn cách làm tối ưu cho loại tác vụ đó — tương tự cơ chế gán nhãn 'CLI có lợi' của bài báo.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.38008
ArXiv Abstract	https://arxiv.org/abs/2609.38008
PDF Download	https://arxiv.org/pdf/2609.38008.pdf
Github Repository	https://github.com/ZJU-REAL/HybridCUA

26. EVO-WAM: Evolving World Action Models through Video-Action Verification (27 votes)

Tác giả: Shiyang Zhou, Xionghao Wu, Wenbo Li, Shenghe Zheng, Jiyao Zhang, et al.

Xuất bản lúc: 2026-09-29

Tag: World Action Models, Robot Learning, Self-Training, Video Prediction, Inverse Dynamics, Vision-Language Model, Embodied AI

I. Main Problem:

World Action Models dùng video prior để vừa tạo video tương lai vừa tạo hành động cho robot, nhưng không tự tin cải thiện trên task chưa thấy nếu không có demo chuyên gia thêm. Hai lỗi chính:

video tự sinh từ cùng điều kiện đầu có thể mô tả thành công hoặc thất bại, không đủ tin cậy làm nhãn tự học.
ngay khi video nhìn đúng mục tiêu, action đi kèm có thể lệch với chuyển động trong video, nên thực thi vẫn hỏng.
Thách thức kỹ thuật: WAM thường cần quan sát mới từ môi trường để nối rollout, trong khi EVO-WAM muốn học không chạy action ngoài môi trường.

II. Main Idea:

EVO-WAM cho WAM tự tạo rollout rồi lọc phần đáng tin để fine-tune lại chính mình theo vòng lặp Generate - Verify - Improve.

Enable autoregressive rollout: train WAM dự đoán thêm state cuối mỗi chunk; dùng khung cảnh nhiều frame gồm frame ban đầu neo cảnh vật + các frame gần nhất để duy trì chuyển động.
Verify hai tầng: VLM quét các mốc thời gian theo subgoal, mô tả rồi phán định có hoàn thành không; IDM tái tạo action từ video rồi so với action WAM sinh ra, chỉ giữ prefix có video-action consistency.
Iterative self-training: mỗi vòng gộp verified prefixes tích lũy với data gốc, fine-tune WAM, rồi dùng WAM mới tạo candidate tiếp theo.

Ví dụ đời thường: giống học sinh tự làm nhiều bài thử trong đầu, nhưng chỉ chép lại vào sổ tay những lời giải vừa đúng kết quả vừa khớp từng bước lập luận, rồi luyện lại từ chính sổ tay đó.

III. Main Results:

Trên 7 task RoboTwin 2.0 chưa thấy khi train base model: Cosmos3 tăng 26.9% → 68.0%, DreamZero 28.5% → 46.4%; mạnh nhất baseline Cosmos3 chỉ đạt 31.6%.
Robot thật với 3 task long-horizon/composite: Cosmos3 tăng 20.0% → 76.7%, gồm stack bowls +20 điểm, place ducks +50 điểm, load air fryer +80 điểm.
Kiểm chứng action rất quan trọng: VLM-only đạt 43.7%, VLM+IDM đạt 68.0%, VLM+Simulator đạt 72.7% nhưng cần simulator.
Robust với VLM: Qwen3.5-27B vẫn đạt 65.7% so với Qwen3.8-Flash-Next 68.0%.
Khái quát sang scene mới: 70.4% so với 24.9%; giữ task đã thấy gần như nguyên: 84.8% so với 85.8%.

IV. Conclusion & Future Works:

EVO-WAM biến chính dự đoán của WAM thành nguồn kinh nghiệm tự cải thiện bằng cách kết hợp tự sinh rollout autoregressive với kiểm chứng hoàn thành task và consistency giữa video-action, không cần demo chuyên gia mới hay chạy thử action trong môi trường ngoài. Kết quả cho thấy hướng đi tới self-improving robot policies, trong đó video-action verification giúp WAM khai thác video prior của chính mình cho task lạ.

Hướng mở rộng hợp lý: giảm phụ thuộc vào VLM/IDM riêng lẻ, cải thiện ổn định các vòng self-training sau, xử lý backbones có candidate kém đa dạng, và mở rộng cho môi trường thật nhiễu hơn với ít camera hoặc subgoal mơ hồ hơn.

V. Brainstorming Space:

1. Publish Papers:

Hệ thống tự cải thiện policy robot bằng vòng lặp tưởng tượng - kiểm chứng - học lại, trong đó mô hình video-action tự tạo rollout và dùng VLM cộng inverse dynamics để chọn dữ liệu tin cậy cho task chưa gặp.
Phương pháp sinh rollout autoregressive cho world action model bằng dự đoán robot state và ngữ cảnh nhiều frame có frame neo, cho phép mô phỏng dài không cần phản hồi môi trường liên tục.
Kiến trúc kiểm chứng hai tầng cho robot foundation model: tầng thứ nhất xác nhận tiến độ hoàn thành subgoal bằng vision-language model, tầng thứ hai xác nhận action thực sự tương thích với video bằng inverse dynamics model.
Quy trình self-training lặp cho robot manipulation với tích lũy verified prefixes qua các vòng để vừa tăng hiệu suất task mới vừa giữ phân phối dữ liệu ổn định và hạn chế quên task cũ.

2. Patent:

Hệ thống trên điện thoại hướng dẫn robot gia đình làm việc mới: ứng dụng tạo nhiều video tưởng tượng kèm lệnh điều khiển, dùng mô hình ngôn ngữ-thị giác và mô hình động lực học ngược để chọn đoạn video nào đúng mục tiêu và có lệnh chuyển động khớp hình ảnh, rồi huấn luyện lại bộ não robot mà không cần người dạy thêm.
Robot bán hàng hoặc kho tự học thao tác với vật mới: trước khi vận hành, robot tự mô phỏng nhiều phương án gắp - đặt, camera và bộ kiểm chứng loại bỏ phương án chỉ đẹp trên video nhưng lệch lệnh cơ khí, sau đó chỉ dùng phương án đạt chuẩn để nâng cấp chính sách.
Module an toàn cho cánh tay robot công nghiệp: hệ thống chạy thử kịch bản trong bộ nhớ, đối chiếu video dự kiến với chuỗi lệnh động cơ; nếu video cho thấy hoàn thành nhưng lệnh không thể tạo ra chuyển động đó, module chặn thực thi và ghi nhận làm dữ liệu tự huấn luyện.
Thiết bị gia dụng thông minh tự đề xuất cách thao tác vật lạ: máy ảnh quan sát vật, hệ thống tạo các video thao tác khả thi, chọn đoạn đạt cả mục tiêu nhìn thấy lẫn tính nhất quán hành động, rồi điều khiển tay máy thực hiện theo chuỗi đã lọc.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.38057
ArXiv Abstract	https://arxiv.org/abs/2609.38057
PDF Download	https://arxiv.org/pdf/2609.38057.pdf
Github Repository	https://github.com/Clausy9/EVO-WAM

27. Asking for What Was Never Requested: Horizontal and Vertical Proactivity in Agents (26 votes)

Tác giả: Ido Levy, Asaf Yehudai, Segev Shlomov, Asaf Adi, Leshem Choshen

Xuất bản lúc: 2026-09-29

Tag: Proactivity, LLMs, Tool-Using Agents, Question Generation, Retrieval-Augmented Generation, DPO, Multi-hop QA, Agentic Search

I. Main Problem:

Agent dùng công cụ thường chỉ làm đúng những gì người dùng yêu cầu, nhưng hoàn thành tác vụ đòi hỏi thông tin người dùng chưa bao giờ đưa ra (ví dụ: khách quên email và mã đơn hàng thì agent chỉ hỏi đi hỏi lại 16 lần và thất bại). Nghiên cứu trước về proactivity chỉ hỏi agent có nên tự hành động hay không, khi nào — không hỏi agent nên đi tìm thông tin gì. Hơn nữa, đánh giá dễ nhầm hỏi nhiều với hỏi hay, vì nhiều câu hỏi mơ hồ có thể tìm được tương đương vài câu hỏi chính xác.

II. Main Idea:

Bài báo mở ra trục nội dung của proactivity và đo lường nó bằng need graph (đồ thị nhu cầu) — ghi lại các đơn vị bằng chứng tác vụ cần và cạnh điều kiện tiên quyết, trích xuất tự động từ phân rã sẵn có của benchmark, nên chấm điểm transcript không cần model judge.

Horizontal proactivity: đuổi theo nhu cầu đã có thể nêu tên từ ngữ cảnh hiện tại (như tra tài khoản từ tên + ZIP).
Vertical proactivity: đuổi theo nhu cầu chỉ lộ ra sau khi tìm được bằng chứng trước (tài khoản → đơn hàng → boots size 8).

Phương pháp Q&D (questioner & drafter): tách agent thành questioner quyết định hỏi gì/dừng khi nào, và drafter đóng băng gấp bằng chứng vào bản thảo. Vì drafter cố định, mọi thay đổi đều do câu hỏi gây ra, nên mỗi câu hỏi được gán nhãn bằng hậu quả của nó: fork một run tại một bước, thử 8 câu hỏi ứng viên, ưu tiên câu hỏi mà phần tiếp theo tìm được nhiều bằng chứng cần thiết hơn, sớm hơn; khi chưa đủ bằng chứng thì hỏi được xếp trên dừng. Huấn luyện 3 giai đoạn: imitation → DPO trên cặp câu hỏi → thêm stop contrast. Không cần reward model hay judge.

Ví dụ đời thường: giống như nhân viên cửa hàng giỏi không hỏi khách vặt đi vặt lại, mà thử vài cách tra cứu khác nhau và giữ lại cách tra giúp mở ra nhiều thông tin nhất, rồi cứ thế đi tiếp từng lớp cho tới khi xong việc.

III. Main Results:

Cùng ngân sách câu hỏi, questioner 8B (Qwen3 + LoRA) hồi phục nhiều bằng chứng hơn mô hình prompted cùng loại trên cả 3 benchmark: +11.2 điểm MuSiQue, +7.0 StrategyQA, +5.0 2WikiMultiHopQA; depth-weighted recall tăng tới +12.5 điểm.
Vượt mô hình lớn gấp 15× (GPT-OSS-120B) trong cùng vai trò trên 2/3 benchmark (+7.0 và +4.3 điểm); lợi thế lớn nhất ở chuỗi dài nhất (MuSiQue: 90% vs 78% bằng chứng).
Lợi ích đến từ nội dung câu hỏi, không phải số lượng hay độ dài: thay câu hỏi ngẫu nhiên mất 34.7–63.3 điểm; control độ dài vẫn thua 14.9 điểm.
Thuật toát thiết kế tay PAR2-RAG không thu hẹp được khoảng cách.
Tự dừng khi cần: ít câu hỏi hơn mọi baseline (−1.7 đến −3.0 câu/tác vụ), tiết kiệm ~40% token cho mỗi bằng chứng tìm được.
Khái quát hóa zero-shot sang agent chăm sóc khách hàng (τ2-bench): retail thành công từ ~13% lên ~33% (gấp hơn 2.5 lần), hỏi ít hơn 1.3–1.4 câu, và thắng cả mô hình 15× lớn với ít lượt hỏi lại từ khách hơn.
Hai hạn chế: huấn luyện dạy hỏi gì dễ hơn dừng khi nào; bằng chứng thừa chưa chuyển hóa thành câu trả lời đo được.

IV. Conclusion & Future Works:

Proactivity không chỉ là có tự hành động hay không, mà còn là chọn đuổi theo thông tin gì và dừng đúng lúc nào; cả hai dạng ngang và dọc đều có thể đo lường và huấn luyện được bằng hậu quả của câu hỏi, không cần judge. Hướng tương lai:

Giám sát việc dừng (stop supervision) để đưa lợi ích bằng chứng vào câu trả lời.
Pool retrieval lớn hơn, nơi điều kiện tiên quyết thật sự phải được tìm thấy trước mới tra được lớp phụ thuộc.
So sánh với on-policy RL / lặp lại trên rollout của chính mô hình.

V. Brainstorming Space:

1. Publish Papers:

Học cân bằng giữa hỏi và dừng cho agent đàm thoại: giám sát tín hiệu dừng có cấu trúc để bảo toàn lợi ích bằng chứng mà vẫn kết thúc đúng lúc.
Need graph cho tác vụ không có phân rã sẵn: tự động trích xuất đồ thị nhu cầu từ quy trình nghiệp vụ để chấm proactivity ngoài phạm vi question answering.
Proactivity có kiểm soát rủi ro: mở rộng Q&D để agent tự đánh giá khi nào việc tự tra cứu tiềm ẩn rò rỉ dữ liệu hoặc hành động ngoài ý muốn.

2. Patent:

Trợ lý chăm sóc khách hàng trên điện thoại chủ động tra cứu: khi khách quên thông tin đăng nhập hoặc mã đơn, ứng dụng tự tìm tài khoản từ tên và mã vùng rồi lần theo đơn hàng để đổi sản phẩm, thay vì hỏi khách nhiều lần.
Trợ lý mua sắm ảo biết đi trước một bước: nhận yêu cầu 'đổi size giày' thì tự tra hồ sơ, đơn hàng và tồn kho size mới, chỉ hỏi khách khi thật sự thiếu dữ liệu.
Hệ thống hỏi thông minh cho tổng đài tự động: chọn câu hỏi tiếp theo dựa trên lượng thông tin mỗi phương án sẽ mở ra, rút ngắn số lượt thoại và tăng tỷ lệ giải quyết ngay trong một cuộc gọi.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.37236
ArXiv Abstract	https://arxiv.org/abs/2609.37236
PDF Download	https://arxiv.org/pdf/2609.37236.pdf
Github Repository	https://github.com/dolev31/ProactiveInquirer

28. EasyPPO: Stabilizing the Critic Is Key (26 votes)

Tác giả: Xuanyi Zhou, Qiuyang Mang, Huanzhi Mao, Dacheng Li, Wenhao Chai, et al.

Xuất bản lúc: 2026-09-29

Tag: Reinforcement Learning, PPO, Large Language Models, RLVR, Policy Optimization, Critic Learning, Post-training

I. Main Problem:

PPO rất phù hợp cho huấn luyện LLM với reward xác minh được nhờ critic học cách ước lượng return theo token, giúp gán credit chi tiết và giảm phương sai policy gradient. Tuy nhiên, bài báo chỉ ra critic cũng là nguồn chính gây mất ổn định trong PPO cho LLM, dù rollout batch đã lớn tới 512 responses.

Hai failure mode chính:

Overlong filtering đổi mục tiêu policy: khi loại rollout bị cắt khỏi cả actor và critic, critic học (E[R|s, \text{completed}]) thay vì (E[R|s]). Actor vì thế tối ưu reward có điều kiện theo completion; reward trên câu hoàn chỉnh có thể tăng trong khi tỉ lệ bị truncate tăng và reward tổng thể xấu đi.
Return noise không đồng nhất chi phối critic update: các prompt khác nhau có mức biến động reward rất khác nhau. Khi critic dần dự đoán tốt mean return, nhiễu return có thể chiếm ưu thế trong gradient, khiến prompt nhiễu lớn áp đảo finite-batch update.

II. Main Idea:

EasyPPO giữ nguyên kiến trúc PPO nhưng sửa ba điểm xung quanh critic để làm ổn định học value:

Actor-only overlong filtering: vẫn lọc rollout quá dài khỏi actor update để giảm nhiễu, nhưng giữ mọi rollout cho critic, giúp critic tiếp tục học return trung bình thật và tránh lệch mục tiêu sang chỉ tính câu hoàn chỉnh.
Noise-normalized critic regression: nhân critic loss của từng prompt với trọng số tỉ lệ nghịch độ lệch chuẩn return thực nghiệm của nhóm rollout, làm các prompt có nhiễu cao không còn đóng góp gradient lớn bất thường.
Critic mini-batch vừa nhỏ hơn: chia batch thành khoảng 4 mini-batch để gradient clipping giới hạn ảnh hưởng của outlier trong phạm vi hẹp hơn, thay vì để một vài phản hồi bất thường kéo cả update lớn.

Ý chính là không chỉ lọc nhiễu cho actor, mà phải thiết kế critic để vừa thấy đủ dữ liệu, vừa không bị nhiễu return biến động lôi kéo.

Ví dụ đời thường: giống người chấm điểm học sinh không được chỉ nhìn bài làm xong giờ mà phải xem cả bài bỏ dở để hiểu năng lực thật; đồng thời, những môn chấm dễ dao động cần được chuẩn hóa mức ảnh hưởng để không lấn át các môn ổn định.

III. Main Results:

Trên FrontierCS coding reward liên tục, EasyPPO ổn định trong suốt training và đạt validation tốt hơn PPO tới 14.89% tương đối; cao hơn phương pháp mạnh thứ hai 0.91 điểm trên thang 0-100.
Trên AIME24 toán reward nhị phân, EasyPPO tăng 2.28% tương đối so với PPO; các baseline dù có giai đoạn điểm cao vẫn gặp collapse ở ít nhất một setting.
Trên Search-R1 multi-turn search, EasyPPO tăng 9.47% tương đối so với PPO và là phương pháp duy nhất trong nhóm so sánh ổn định trên cả ba tác vụ.
Diagnostic cho thấy gradient norm của critic giảm ổn định và explained variance tăng đều hơn; các baseline như VAPO hay HL-Gauss PPO có biến động lớn hoặc giảm khi actor collapse.
Ablation cho thấy cả ba thành phần đều đóng góp; noise normalization đặc biệt quan trọng khi dùng nhiều mini-batch nhỏ.

IV. Conclusion & Future Works:

Thông điệp trung tâm: ổn định critic là chìa khóa để PPO cho LLM huấn luyện lâu mà không collapse. EasyPPO không đổi bản chất PPO, mà sửa cách xử lý rollout bị cắt, cân bằng nhiễu return giữa các prompt và kiểm soát outlier qua mini-batch cùng gradient clipping.

Hướng mở rộng hợp lý:

ước lượng return variance chính xác hơn khi số rollout mỗi prompt bị giới hạn
tách rõ trọng số noise-normalization khỏi dữ liệu online để giảm bias
kiểm tra EasyPPO trên tác vụ dài hơn, reward đa phần, hoặc môi trường multi-turn phức tạp hơn

V. Brainstorming Space:

1. Publish Papers:

Phát triển phiên bản EasyPPO cho bài toán reward nhiều mức hoặc đa mục tiêu, với trọng số chuẩn hóa nhiễu theo từng thành phần reward thay vì chỉ theo prompt.
Nghiên cứu cách ước lượng độ biến động return khi số rollout cho mỗi câu hỏi rất nhỏ, kết hợp offline profiling với cập nhật online để giảm nhiễu trọng số.
Mở rộng phân tích lý thuyết cho PPO dạng token-level đầy đủ, bao gồm GAE, KL regularization và bối cảnh policy thay đổi liên tục trong quá trình training.
Kiểm tra EasyPPO trên các tác vụ agent dài hạn như automated research, coding agent nhiều bước, hoặc hệ thống search có nhiều lượt gọi công cụ.

2. Patent:

Hệ thống huấn luyện trợ lý lập trình trên điện thoại hoặc máy chủ nhỏ: khi câu trả lời bị cắt do giới hạn độ dài, hệ thống vẫn dùng câu bị cắt để huấn luyện bộ đánh giá kết quả, nhưng chỉ dùng câu hoàn chỉnh để cập nhật cách tạo mã, giúp mô hình giảm dần tỉ lệ trả lời dở mà không lệch tiêu chí đánh giá.
Bộ điều chỉnh trọng số học tập cho mô hình AI cá nhân hóa trên thiết bị di động: ứng dụng nhận diện các câu hỏi có kết quả thay đổi mạnh giữa các lần trả lời, tự giảm ảnh hưởng của nhóm câu hỏi nhiễu cao khi huấn luyện bộ ước lượng chất lượng câu trả lời.
Module kiểm soát cập nhật nhỏ cho trợ lý AI học liên tục: thay vì cập nhật toàn bộ batch lớn cùng lúc, hệ thống chia thành nhiều nhóm nhỏ, cắt gradient bất thường trong từng nhóm, rồi ghép lại để tránh một phản hồi lỗi làm hỏng toàn bộ mô hình trên điện thoại.
Hệ thống chấm điểm bài tự luận hoặc coding trên nền tảng di động: phần mềm theo dõi tỉ lệ bài bị gián đoạn, phân tích chênh lệch điểm giữa các lượt chạy, và tự điều chỉnh cách học để ưu tiên cải thiện điểm trung bình thực tế thay vì chỉ điểm của những bài làm xong.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.36802
ArXiv Abstract	https://arxiv.org/abs/2609.36802
PDF Download	https://arxiv.org/pdf/2609.36802.pdf
Github Repository	N/A

29. Anisotropic Representations Improve Planning in JEPA World Models (26 votes)

Tác giả: Mingu Kang, Yoori Oh, Sookyung Kim, Joonseok Lee

Xuất bản lúc: 2026-09-29

Tag: World Models, JEPA, Representation Learning, Visual Control, Planning, Self-Supervised Learning

I. Main Problem:

Các world model kiểu JEPA (như LeWorldModel) dùng khoảng cách Euclidean trong không gian latent để chấm điểm chuỗi hành động khi planning. Regularization chuẩn SIGReg ép representation về Gaussian đẳng hướng (isotropic) — điều này bảo đảm representation không collapse và dự đoán chính xác, nhưng không bảo đảm hình học của latent phù hợp với chi phí tác vụ thật:

Phân tích lý thuyết cho thấy regularization đẳng hướng tạo ra trọng số nghịch đảo của hiệp phương sai trạng thái (Σ⁻¹): chiều nào ít biến thiên trong dữ liệu huấn luyện lại được coi là quan trọng hơn
Khi mục tiêu nằm ngoài vùng với tới, planner phải cân đối sai số giữa các chiều — metric Σ⁻¹ xếp hạng kết quả khác hẳn chi phí tác vụ, gây planning regret dương kể cả khi dự đoán hoàn hảo và rollout gần như không sai

II. Main Idea:

Thay vì cố định mọi chiều latent có phương sai mục tiêu bằng nhau, AnisoWM đưa ra ΛReg: một Gaussian target dạng đường chéo có thể học được, với hai ràng buộc: tổng phương sai cố định (trace = D) và độ méo giới hạn bởi condition number κ. Cơ chế:

Chuẩn hóa feature bằng Λ^(-1/2) chỉ bên trong regularizer; representation gốc vẫn dùng cho dự đoán và planning — planner Euclidean và predictor không đổi
Huấn luyện joint: loss dự đoán + regularization, trong đó Λ được cập nhật qua riêng regularization — phân bổ phương sai cho từng chiều là kết quả tự học, phụ thuộc vào độ nhiễu của dynamics và phân phối dữ liệu
Lý thuyết cho thấy target học được có thể triệt tiêu trọng số Σ⁻¹ do regularization đẳng hướng gây ra, đưa metric latent về trùng với metric tác vụ (với tác vụ Euclidean, target tối ưu chính là hiệp phương sai trạng thái chuẩn hóa trace); nhưng κ quá lớn cũng có thể làm regret tăng lại

Ví dụ đời thường: giống như phóng bản đồ một thành phố — bản đồ đẳng hướng ép mọi con phố co giãn đúng một tỉ lệ, nên đường đi ngắn nhất trên bản đồ không phải đường ngắn thật; AnisoWM cho phép chỉnh độ giãn từng hướng riêng để đường đo trên bản đồ khớp với khoảng cách thực tế, còn cách dùng bản đồ (Euclidean planner) thì giữ nguyên.

III. Main Results:

Thành công planning vượt LeWM cả 4 môi trường (chỉ cùng một κ=2 chung, không tinh chỉnh riêng từng môi trường): TwoRoom 93% vs 87%, Reacher 89% vs 86%, PushT 97% vs 96%, OGBench-Cube 79% vs 74%
Xếp hạng hành động khớp kết quả tác vụ hơn (fraction of correctly ordered sequence pairs): cải thiện rõ ở TwoRoom (+0.097 với cost encoder, +0.071 với cost planning) và Reacher (+0.103 / +0.048), nhẹ ở PushT và Cube
Hình học cost cục bộ gần tác vụ hơn: hệ số tương quan Spearman giữa latent cost và khoảng cách vật lý tăng từ 0.15 → 0.91 ở Cube và 0.65 → 0.92 ở PushT; vùng low-cost quanh mục tiêu bám theo vùng gần mục tiêu thật thay vì lan ra xa
Phổ phương sai học được khác nhau giữa các môi trường (số chiều trên phương sai trung bình từ 95 ở PushT đến 124 ở Reacher) — chứng tỏ phân bổ là do dự đoán quyết định, không phải do κ ép
Độ nhạy với κ không đơn điệu: κ lớn hơn không luôn tốt hơn; giá trị κ tối ưu khác nhau giữa các môi trường, xác nhận cần ràng buộc độ méo

IV. Conclusion & Future Works:

Dự đoán chính xác và representation không collapse không đủ để planning trong latent space ra đúng quyết định — hình học do regularizer tạo ra mới là thứ quyết định cách planner cân trọng các sai số. AnisoWM chỉ cần đổi target của regularizer thành Gaussian dạng đường chéo có ràng buộc, học được cùng lúc với encoder, mà không đụng vào predictor hay planner, đã cải thiện cả tỉ lệ thành công lẫn độ phù hợp của cost với kết quả tác vụ. Hướng mở: khám phá cấu trúc target giàu hơn (không chỉ đường chéo), và lý thuyết chọn κ thích ứng theo môi trường thay vì dùng một giá trị chung.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng ΛReg sang target Gaussian đầy đủ (full covariance có cấu trúc) hoặc target bậc thấp/đa tầng để mô hình hóa phụ thuộc giữa các chiều latent, thay vì chỉ phương sai dạng đường chéo.
Phương pháp chọn bound độ méo κ tự động theo môi trường: dùng chẩn đoán thứ hạng latent–outcome làm tín hiệu điều chỉnh κ trong quá trình huấn luyện.
Kết hợp học hình học representation (như AnisoWM) với các metric planning học được khác (reachability, bisimulation) để xây dựng world model có cả hình học tốt lẫn độ tin cậy đường đi dài hạn.

2. Patent:

Hệ thống lập kế hoạch chuyển động cho robot hậu cần trong kho: máy tính nhúng huấn luyện world model với regularizer Gaussian dạng đường chéo tự học độ lệch từng chiều, giúp robot gắp và đặt đúng vị trí ngay cả khi mục tiêu nằm ngoài tầm với tới, mà không cần thay đổi bộ planner Euclidean hiện có.
Ứng dụng điều khiển bằng camera trên điện thoại: người dùng chụp ảnh mục tiêu (vật cần di chuyển, vị trí đặt), ứng dụng trên điện thoại lập kế hoạch bằng cách so khoảng cách trong không gian đặc trưng đã được hiệu chỉnh độ méo theo môi trường, nên chọn chuỗi thao tác khớp với khoảng cách thật trên mặt bàn/bàn phím.
Phương pháp hiệu chuẩn tự động cho xe tự hành nội bộ (AGV) khi thay đổi bố cục nhà xưởng: AGV tái huấn luyện nhẹ regularizer phương sai để hình học latent phản ánh lại lối đi mới, giữ nguyên bộ điều khiển planner mà vẫn ra quyết định đỗ/chuyển hàng đúng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.37441
ArXiv Abstract	https://arxiv.org/abs/2609.37441
PDF Download	https://arxiv.org/pdf/2609.37441.pdf
Github Repository	N/A

30. LongLive-Plug: Once-for-All Distillation for Video Generation (25 votes)

Tác giả: Shuai Yang, Luozhou Wang, Wei Huang, ZhiFei Chen, Bohan Zhang, et al.

Xuất bản lúc: 2026-09-29

Tag: Video Generation, Diffusion Models, Distillation, LoRA, Few-Step Sampling, Classifier-Free Guidance, World Models, Autoregressive Generation

I. Main Problem:

Các mô hình video diffusion ngày càng được chuyên môn hóa cho hàng chục tác vụ khác nhau (world modeling, robot, video editing, điều khiển đa phương thức...). Mỗi mô hình chuyên biệt thường phải trải qua một giai đoạn distillation riêng — để tăng tốc sampling, hoặc cải thiện video dài — gây lãng phí lặp lại: chuẩn bị dữ liệu, teacher supervision và tối ưu hóa cho từng checkpoint. Với 54 downstream models, chi phí tuân theo số mô hình (ví dụ ~377 H100 GPU-hours phụ cho 4 tác vụ), trong khi các khả năng được distill thực chất giống nhau (CFG, few-step, long-context).

II. Main Idea:

LongLive-Plug chuyển từ distill theo từng mục tiêu sang once-for-all distillation: học các khả năng tái sử dụng dưới dạng LoRA trên base model, rồi cắm trực tiếp vào các downstream model tương thích không cần huấn luyện lại (plug-and-play). Ba khả năng:

CFG distillation: gộp hai lượt (conditional + unconditional) thành một lượt forward, giữ điều khiển guidance nhờ trọng số suy luận λcfg (coi như núm xoay guidance, ~tuyến tính)
Few-step distillation (DMD2): sampling chỉ 4 bước với chất lượng gần nguyên bản
Long-context distillation: sửa lỗi tích lũy trong rollout autoregressive dài qua Streaming Long Tuning + DMD

Hai thiết kế chính: decoupled distillation — tách CFG và few-step thành hai LoRA riêng (nếu gộp chung, đổi trọng số để chỉnh guidance sẽ làm vỡ cả few-step và gây collapse); transfer-oriented design — rank LoRA càng lớn và dữ liệu distill càng đa dạng thì transfer càng tốt (không chỉ phụ thuộc khớp base model).

Ví dụ đời thường: giống như thay vì dạy từng nhân viên mới một kỹ năng riêng, công ty đóng gói sẵn ba "công cụ cá nhân" (bộ mẫu slide, macro Excel, checklist) — ai vào đội nào cũng mở ra dùng ngay, chỉ vặn núm chỉnh cho hợp gu từng đội.

III. Main Results:

Chuyển giao không cần huấn luyện trên 54 downstream models, thuộc 3 họ backbone (Wan2.1-14B, Wan2.2-TI2V-5B, MiniMax-H3) và 8 loại tác vụ; giảm số bước denoise 5–12.5× (từ 20–50 bước còn 4 bước).
SCOPE (world modeling): FVD giảm từ 805.5 (naive 4-step) xuống 478.7, tốt hơn cả distillation riêng cho SCOPE (502.1).
Wan2.2-Fun-5B-Control: cải thiện cả 6 chỉ số so với naive 4-step (si-RMSE 2.135→1.641, DOVER 8.90→10.11), ngang distillation riêng tác vụ.
Chi phí: cố định ~80 H100 GPU-hours cho mọi tác vụ, thay vì ~456.8 GPU-hours khi distill từng tác vụ; không cần dữ liệu downstream (bản riêng cần 5.000 prompt + video depth ghép cặp).
CFG LoRA như núm xoay guidance: tăng λcfg từ 1→3→5 làm ảnh hưởng rõ của prompt (tuyết, pha lê) tăng mạnh trong khi giữ nguyên few-step; còn scale cả LoRA gộp thì vỡ hình ở trọng số 5.
Long-context: LoRA +Long chuyển sang ReWorld (nâng điểm trung bình 7 chiều VBench từ 73.51→75.77 ở 64 giây, gấp 8× cửa sổ huấn luyện) và Matrix-Game 3.0 (84.34, ngang distillation riêng 84.30 mà không huấn luyện).
Ablation: tăng rank 16→128 cải thiện FVD 21%; prompt càng đa dạng FVD càng tốt (giảm đa dạng làm FVD tăng 12%).

IV. Conclusion & Future Works:

LongLive-Plug chứng minh distillation cho video generation có thể học một lần, dùng mọi nơi trong cùng họ backbone: ba LoRA chức năng (CFG, few-step, long-context) chuyển giao không cần huấn luyện cho 54 mô hình chuyên biệt với guidance điều chỉnh được, tiết kiệm hàng trăm GPU-hours. Hạn chế: chỉ áp dụng cho descendant tươ thích của base model; long-context cần downstream model đã hỗ trợ causal AR attention (LoRA không đổi attention mask); kiểm soát guidance qua trọng số chỉ là xấp xỉ và có thể cần tinh chỉnh sau transfer; chất lượng transfer có trade-off phụ thuộc tác vụ. Hướng tương lai hợp lý: mở rộng sang các họ backbone khác, nâng độ chính xác của núm xoay guidance, và nghiên cứu cơ chế giúp LoRA tự thích ứng cấu trúc điều kiện hóa khác biệt giữa các downstream model.

V. Brainstorming Space:

1. Publish Papers:

Phương pháp distill 'một lần cho tất cả' các khả năng tăng tốc (CFG một lượt, few-step, long-context) thành LoRA tái sử dụng, cắm training-free vào mọi downstream model cùng họ backbone, với núm xoay guidance điều khiển bằng trọng số suy luận.
Kỹ thuật decoupled distillation tách riêng CFG LoRA và few-step LoRA để chỉnh cường độ guidance cho từng tác vụ mà không phá vỡ chế độ few-step — khắc phục sự collapse khi scale LoRA distill gộp.
Khuôn khổ transfer-oriented thiết kế LoRA chức năng: chứng minh rank adapter và độ đa dạng prompt distillation quyết định chất lượng transfer, không chỉ mức khớp base model.
Long-context distillation qua Streaming Long Tuning + DMD tạo LoRA sửa lỗi tích lũy, chuyển giao được cho các world model autoregressive (ReWorld, Matrix-Game 3.0) kéo dài video gấp nhiều lần cửa sổ huấn luyện gốc.

2. Patent:

Bộ adapter AI tăng tốc trên điện thoại: một bộ LoRA được distill một lần từ mô hình video nền tảng đám mây, tải về máy cắm vào các ứng dụng chỉnh sửa video, tạo avatar, hoặc mô phỏng — giúp tạo video trên điện thoại chỉ vài bước xử lý thay vì hàng chục bước, tiết kiệm pin và thời gian chờ.
Module chỉnh độ 'bám theo mô tả' bằng thanh trượt trong ứng dụng tạo video: người dùng kéo thanh guidance để quyết định video bám sát câu mô tả hay sáng tạo tự do, trong khi tốc độ tạo luôn giữ ở mức nhanh nhất nhờ adapter tách riêng.
Hệ thống tạo video dài không đứt quãng cho nội dung giáo dục/quảng cáo trên điện thoại: adapter sửa lỗi tích lũy được huấn luyện một lần cắm vào nhiều mô hình, cho phép sinh video liên tục hàng phút mà không bị nhân vật méo mó hay cảnh nhảy frame theo thời gian.
Dịch vụ đám mây 'một lần distill, thuê theo tác vụ': khách hàng thuê khả năng tạo video nhanh dưới dạng gói adapter chuẩn, cắm vào mô hình chuyên biệt của họ mà không cần gửi dữ liệu huấn luyện riêng, giảm chi phí GPU hàng trăm giờ mỗi dự án.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.38154
ArXiv Abstract	https://arxiv.org/abs/2609.38154
PDF Download	https://arxiv.org/pdf/2609.38154.pdf
Github Repository	https://github.com/NVlabs/LongLive

31. Context Language Models (24 votes)

Tác giả: Rulin Shao, Shannon Zejiang Shen, Junjie Oscar Yin, Yuetai Li, Minheng Wang, et al.

Xuất bản lúc: 2026-09-29

Tag: Language Models, Context Management, Agents, Reinforcement Learning, In-Context Learning, Inference Efficiency, Multi-Agent Systems

I. Main Problem:

Quản lý context của LLM hiện nay không phải năng lực native của model mà do harness bên ngoài điều khiển:

Các harness cố định (compact khi đạt ngưỡng, tóm tắt mỗi turn) dễ mất hoặc bịa thông tin quan trọng.
Các phương pháp action-based mới hơn (Self-Compact, ACM, Context-as-a-Tool, Sculptor) cho model một tập hành động bị giới hạn sẵn bởi con người — model vẫn không được tự quyết cách biến đổi context.
Khi chỉnh sửa ở giữa context, hệ thống serving chuẩn phải re-prefill toàn bộ token sau điểm lệch, tốn kém compute.
Thực nghiệm trên benchmark chẩn đoán mới ContextBench cho thấy không phương pháp cố định nào hoàn hảo ngay cả với các tác vụ đơn giản (giữ thông tin chọn lọc, cập nhật Sudoku từng ô, offload/retrieve giá trị lớn).

II. Main Idea:

Context Language Models (CLMs) — model tự quản lý context như một năng lực native, thay vì harness bên ngoài quyết định. Cài đặt bằng nguyên tắc "context as a file":

Context được mirror thành một file có thể chỉnh sửa tự do bằng Bash (xóa, ghi đè, sửa chỗ bất kỳ); mọi thay đổi đồng bộ ngay vào context sống cho turn tiếp theo.
Nếu model không chỉnh sửa, token mới được append như LM thường — cân bằng giữa tái sử dụng context và linh hoạt sửa đổi.
Mở rộng tự nhiên sang multi-agent: mỗi agent giữ một context file riêng, tạo/xóa file tương ứng spawn/kết thúc subagent.

Nhờ vậy CLM có thể học cách quản lý context theo hai đường: (1) in-context — người dùng chỉ cần nói một câu để điều khiển hành vi, hoặc vòng lặp tiến hóa skill văn bản tự tìm chiến lược tốt hơn; (2) parametric — reinforcement learning với stepwise GRPO kết hợp success-gated efficiency advantage (chỉ xếp hạng lại các trajectory thành công theo độ tiết kiệm FLOPs, tránh reward hacking). Kèm theo là Suffix Cache Reuse (SCR) cho serving: tái dùng cache của các token còn sống sau chỗ sửa thay vì re-prefill toàn bộ đuôi.

Ví dụ đời thường: giống việc thay vì nhờ thư ký tóm tắt sổ tay theo một quy tắc cứng nhắc, bạn tự cầm bút gạch, viết lề, tô đậm hoặc xé trang bất kỳ chỗ nào — và vì chính bạn viết nên bạn nhớ chính xác điều gì quan trọng cần giữ lại.

III. Main Results:

BrowseComp-Plus (deep research): +11.4% accuracy với -21.5% prefix-reuse FLOPs so với baseline mạnh nhất (Codex-style summary); 59.4% ở context 32K.
TerminalBench 2.1: ngang accuracy với summary harness nhưng chỉ dùng 70% FLOPs; TBLite: 73.7% vs 67.0%.
Toán tối ưu: thắng workflow tiến hóa chuyên biệt OpenEvolve trên cả 4 bài toán (vd. Heilbronn +16.8%, circle packing 2.636 vs 2.541).
EdgeBench-10 (12 giờ, 1 repo): +5% score với -59% FLOPs; với Claude 4.6 Sonnet đạt 51.0 vs 42.3.
Software World (24 giờ, 6 repo, agent swarm): +65% speedup trên các package downstream held-out cùng compute.
Học in-context: hướng dẫn một câu đổi chính sách compact; tiến hóa skill cải thiện ContextBench tới +35.9 điểm ở compute thấp hơn.
RL (Qwen3.5-9B): BrowseComp-Plus tăng 28.8% → 42.5% (gần +48% tương đối) với -12% FLOPs, ngang mô hình summary được train cùng công thức.
SCR: giảm 35% compute phía server so với SGLang chuẩn ở hiệu năng tương đương.
Hành vi emergent: CLM tự tạo scoreboard điều phối swarm, tự định nghĩa role "notes" riêng, viết hàm compact_turns tái sử dụng.

IV. Conclusion & Future Works:

Chuyển quản lý context từ harness ngoài sang hành vi intrinsic của model giúp CLM tự tìm và học các chiến lược vượt xa prior của con người, đồng thời hiệu quả hơn về compute — đúng tinh thần The Bitter Lesson. Các hướng tương lai chính:

Mở rộng RL cho CLM để model khám phá và internalize chiến lược quản lý context phức tạp hơn.
Harness-to-CLM distillation: dịch các thao tác harness hiện có thành hành động CLM rồi hấp thụ vào trọng số — harness đóng vai "bộ nhớ thủ tục" có thể truyền lại cho model.
Vấn đề an toàn: context có thể sửa tự do tạo mặt tấn công mới (prompt injection tự lưu lại qua các turn qua compaction/self-notes); cần nghiên cứu biện pháp phòng thủ giữ nguyên tính linh hoạt nhưng bảo vệ tính toàn vẹn của context.

V. Brainstorming Space:

1. Publish Papers:

Khảo sát hệ thống các hành vi emergent của CLM (tự tạo tracker, role nội bộ, hàm compact tái sử dụng) và điều kiện để chúng xuất hiện ở model quy mô nhỏ hơn.
Phương pháp phòng thủ prompt injection cho context tự chỉnh sửa: cơ chế xác thực/xác minh các chỉnh sửa context giữa các turn trong hệ thống agent dài hạn.
Tối ưu hóa Suffix Cache Reuse cho kiến trúc hybrid attention (full + linear) và phân tích lý thuyết khi nào cache 'stale' sau chỉnh sửa lại có lợi cho chất lượng sinh.

2. Patent:

Trợ lý AI trên điện thoại tự quản lý bộ nhớ hội thoại: thay vì nén hội thoại theo quy tắc cứng, trợ lý tự chỉnh sửa 'file ghi nhớ' của mình (giữ liên hệ quan trọng, xóa chi tiết thừa), giúp trả lời chính xác hơn khi chat dài mà không tốn dung lượng xử lý.
Hệ điều phối nhiều agent trên server tiết kiệm điện toán: mỗi agent giữ một context file có thể sửa tại chỗ, kết hợp cơ chế tái dùng cache phần đuôi còn nguyên sau mỗi lần sửa — giảm đáng kể chi phí GPU cho dịch vụ chatbot doanh nghiệp chạy nhiều giờ liên tục.
Tính năng 'luyện tập ngoài giờ' cho trợ lý cá nhân: dùng reinforcement learning với phần thưởng ưu tiên câu trả lời đúng nhưng tiết kiệm xử lý, để trợ lý trên thiết bị người dùng tự cải thiện cách ghi nhớ và tóm tắt thông tin theo thói quen riêng của chủ nhân.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.37725
ArXiv Abstract	https://arxiv.org/abs/2609.37725
PDF Download	https://arxiv.org/pdf/2609.37725.pdf
Github Repository	https://github.com/facebookresearch/context-language-models

Tác giả: Jerry Wang, Haibo Jin, Xiaopeng Yuan, Peng Kuang, Haohan Wang

Xuất bản lúc: 2026-09-27

Tag: Multi-Agent Systems, Long-Context, RAG, Agent Coordination, Information Seeking, LLMs

I. Main Problem:

Các hệ thống tìm kiếm thông tin đa tác tử hiện nay (như LongAgent, Chain of Agents) tổ chức tính toán dựa trên phân vùng tĩnh của không gian thông tin: càng nhiều dữ liệu thì càng phải tạo thêm worker, dù câu hỏi vẫn yêu cầu lượng thông tin như cũ. Hệ quả:

Chi phí điều phối tăng cơ học theo kích thước context (tăng hơn 15× khi không gian tăng 16×), chứ không theo nhu cầu thực của truy vấn.
Chất lượng trả lời nhạy cảm với vị trí của bằng chứng trong context (hiệu ứng "lost in the middle").
Mỗi loại không gian thông tin (tài liệu, repo code, web) lại cần một cơ chế điều phối riêng.

II. Main Idea:

ANTMAN đổi đơn vị điều phối runtime từ phân vùng đầu vào sang các nhu cầu thông tin chưa giải quyết (unresolved needs). Cấu trúc gồm ba phần:

Static Substrate Map: không gian thông tin được chia thành các territory, mỗi territory có một WorkerCard mô tả phạm vi nội dung — nhưng đây chỉ là năng lực sẵn có, không phải worker nào cũng phải chạy.
Revisable Need Graph: đồ thị runtime G_t ghi lại từng need với trạng thái (đã giải quyết / đang mở / bị kẹt), bằng chứng đã thu thập, lịch sử thử, và tiến độ. Khi worker trả về báo cáo, đồ thị được cập nhật: có thể giải quyết, tinh chỉnh, đổi khung (reframe), hoặc sinh thêm need mới do bằng chứng vừa phát hiện tiết lộ.
Need-Conditioned Coordination: mỗi bước chọn một need chưa giải quyết → route tới worker phù hợp qua WorkerCards → worker tìm kiếm cục bộ trong territory → cập nhật lại Need Graph. Nếu bị kẹt, hệ thống reframe, reroute hoặc fallback ngay tại need đó. Cùng một cơ chế hoạt động trên mọi substrate (tài liệu, code, web) vì chính sách điều phối tách biệt khỏi giao diện tìm kiếm.

Bản chất: số worker hoạt động bị chặn trên bởi min{số territory, số need × số lần route} — nên mở rộng không gian thông tin không kéo theo mở rộng điều phối.

Ví dụ đời thường: giống thám tử điều tra vụ án — thay vì cử 300 trợ lý lục soát toàn bộ thành phố theo từng khu phố, thám tử chỉ giao việc cho đúng vài người đi trả lời đúng câu hỏi còn bỏ ngỏ, và cứ mỗi manh mối mới lại điều chỉnh hoặc mở thêm câu hỏi mới.

III. Main Results:

Giải phóng điều phối khỏi kích thước không gian: khi context tăng 16× (32K→512K), điều phối hoạt động của ANTMAN chỉ tăng 1.23× (3.17 worker), trong khi LongAgent tăng 15.29× (290.5 member) và CoA 15.33×; chi phí/query ở 512K chỉ $0.533 so với$ 1.397 của LongAgent, với F1 còn cao hơn (0.840 vs 0.754).
Điều phối bám theo nhu cầu: giữ space cố định 512K, tăng bằng chứng cần thiết từ 1→16 đơn vị, worker hoạt động tăng từ 5.0→8.0 và vẫn trả lời đúng 100%.
Chất lượng tốt trên QA đa tài liệu: F1 trung bình 0.711, vượt CoA (0.743→ thấp hơn), S2G-RAG (0.799 thấp hơn trên từng benchmark riêng nhưng ANTMAN tốt nhất ở HotpotQA 0.842 và MuSiQue 0.777).
Chuyển giao sang môi trường có cấu trúc: vượt baseline mạnh nhất +15.3% trên RepoProbe, +18.4% trên SWE-QA-Pro, +27.9% trên GAIA; GAIA-Text-103 đạt 58.3% so với 40.8% của OWL.
Chạy được với worker nhỏ: ANTMAN-H dùng Qwen3-8B cho mọi thành phần non-orchestrator vẫn giữ 89.2% / 93.5% / 98.3% hiệu suất của bản đầy đủ trên ba benchmark tương ứng.
Need Graph là then chốt: bỏ đồ thị need (graph-free adaptive) làm chất lượng sụt 23.82% ở 512K và 16.67% trên GAIA; bỏ cơ chế recovery sụt 28.45% ở 512K.
Không còn "lost in the middle": khoảng cách chất lượng giữa bằng chứng ở giữa vs đầu/cuối chỉ +.015, trong khi suy luận full-context trực tiếp là −.181.

IV. Conclusion & Future Works:

ANTMAN chứng minh rằng điều phối không cần phản ánh cấu trúc của không gian thông tin: bằng cách lấy nhu cầu chưa giải quyết làm trạng thái điều khiển runtime, hệ thống tách năng lực tìm kiếm sẵn có khỏi lượng tính toán thực sự kích hoạt cho từng truy vấn — giữ chất lượng trả lời cao, chi phí gần như không đổi khi context phình to, và áp dụng được trên nhiều loại substrate khác nhau.

Hướng tương lai: mở rộng sang các substrate phong phú hơn, phát triển biểu diễn information needs dễ chuyển giao hơn giữa các tác vụ, và tinh chỉnh chính sách sửa đổi + route các need trong quá trình tìm kiếm.

V. Brainstorming Space:

1. Publish Papers:

Ứng dụng Need Graph có thể sửa đổi cho tác vụ lập trình agentic: theo dõi các yêu cầu hiểu code chưa giải quyết (ví dụ hàm nào gọi hàm nào, ràng buộc dữ liệu nào) để điều phối các agent khám phá repository lớn với chi phí gần như không đổi khi repo phình to.
Kết hợp điều phối theo need với huấn luyện reinforcement learning cho worker nhỏ: worker 7-8B học chính sách tìm kiếm cục bộ tối ưu cho từng territory, cắt thêm chi phí inference mà không cần orchestrator lớn.
Need Graph chia sẻ giữa nhiều tác vụ liên quan: tái sử dụng các need đã giải quyết và bằng chứng đã thu thập giữa các phiên hỏi đáp cùng một corpus lớn, giảm trùng lặp tìm kiếm.

2. Patent:

Trợ lý tìm kiếm thông minh trên điện thoại: thay vì tải toàn bộ tài liệu dài vào một mô hình lớn, ứng dụng duy trì danh sách "câu hỏi còn bỏ ngỏ" về tài liệu, chỉ gọi các module tìm kiếm nhỏ vào đúng đoạn cần đọc — tiết kiệm pin, giảm chi phí đám mây và duy trì chất lượng trả lời khi tài liệu dài gấp nhiều lần.
Hệ thống hỏi đáp tài liệu nội bộ doanh nghiệp: mỗi phòng ban có một "thẻ mô tả" dữ liệu của mình; khi nhân viên đặt câu hỏi, hệ thống tự xác định thông tin còn thiếu, gửi truy vấn đúng phòng ban, cập nhật lại danh sách thiếu sót khi nhận được trả lời — không cần duyệt toàn bộ dữ liệu công ty.
Trợ lý tra cứu pháp lý hoặc y khoa trên điện thoại: theo dõi các nhu cầu thông tin chưa đáp ứng của vụ việc/bệnh án (điều khoản nào áp dụng, tương tác thuốc nào cần kiểm), chủ động khai thác từng nguồn dữ liệu (luật, hướng dẫn, cơ sở dữ liệu thuốc) cho tới khi đủ bằng chứng rồi tổng hợp câu trả lời.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.33326
ArXiv Abstract	https://arxiv.org/abs/2609.33326
PDF Download	https://arxiv.org/pdf/2609.33326.pdf
Github Repository	N/A

33. CrossBFM: Distilling a Shared Latent Behavior Space Across Humanoid Embodiments (21 votes)

Tác giả: Tan-Dzung Do, Tuan Dat Phuong, Nico Bohlinger, Cuc T. Trinh, Siwei Ju, et al.

Xuất bản lúc: 2026-09-29

Tag: Robotics, Reinforcement Learning, Unsupervised RL, Forward-Backward Representations, Behavior Foundation Models, Humanoid Control, Knowledge Distillation, Cross-Embodiment Transfer

I. Main Problem:

Các Behavior Foundation Models cho humanoid hiện có tạo không gian hành vi rất tiện để ra lệnh — một vector ngầm có thể biểu diễn động tác cần bắt chước, tư thế đích cần tới, hoặc reward cần tối đa hóa — nhưng chúng được huấn luyện riêng cho từng robot.

Huấn luyện lại cho robot mới tốn hàng trăm GPU-hour.
Không gian ngầm mới sau khi huấn luyện lại không trùng hệ tọa độ với robot trước, nên các prompt và tác vụ downstream khó chuyển xuyên embodiment.
Các phương pháp cross-embodiment trước thường chỉ học chung phần mô tả hình thái, hoặc chỉ làm một tác vụ đơn lẻ, chứ không giữ được tính value-functional của Forward–Backward: từ reward/tư thế/đoạn motion suy ra latent một cách trực tiếp.

II. Main Idea:

CROSSBFM đối xử với không gian hành vi như tài sản có thể chuyển giao, thay vì huấn luyện lại từ đầu cho mỗi robot.

Đóng băng một source BFM đã huấn luyện trên Unitree G1, giữ lại backward map như hệ tọa độ hành vi chuẩn.
Dùng dữ liệu motion retargeting của nhiều robot theo cùng timeline như một correspondence oracle: cùng một hành vi, cùng frame, khác embodiment, nên việc học sang robot mới trở thành hồi quy có giám sát thay vì RL/adversarial training.
Một unified encoder không có tham số riêng theo robot nhận đầu vào cố định gồm 33 khớp chuẩn và 8 key-body; khớp không tồn tại bị mask và zero-pad, giúp một kiến trúc dùng cho nhiều humanoid.
Encoder biến proprioception của robot mới thành latent trong hệ tọa độ của source bằng cosine regression; sau đó mỗi robot chỉ huấn luyện thêm latent-conditioned PPO tracker khoảng 10 GPU-hour.
Ba chế độ prompt chuyển theo: motion tracking, goal reaching bằng nội suy latent, và reward optimization qua dataset retarget đã cache cùng chuẩn hóa percentile theo phân phối key-body.

Ví dụ đời thường: giống như không vẽ lại bản đồ thành phố cho từng người, mà cho nhiều người khác dáng đứng cùng các mốc trên cùng lộ trình; nhờ đó người mới học cách quy vị trí của mình sang “tọa độ cũ” mà người hướng dẫn đang dùng.

III. Main Results:

Chi phí giảm mạnh: encoder distill latent chung trong dưới 1 GPU-hour trên RTX 4090, so với khoảng 10^2 GPU-hour cho backward map một robot; toàn pipeline tracker khoảng 10 GPU-hour thêm.
Tracking gần tương đương joint-conditioned: trên M3, T1, N1, độ lệch MAE giữa policy theo latent và policy theo joint reference chỉ tăng tối đa 0.025 rad.
Goal reaching mượt: nội suy trong không gian latent cho chuyển động liên tục giữa các tư thế, không ngã, chi phí tối đa khoảng 0.032 rad so với tracking.
Reward optimization tốt hơn source-side: dùng latent reward tính từ phía target đạt gain trung bình 2.35×, với M3 3.50× và N1 2.95×, trong khi T1 đạt 1.14×.
Tổng quát theo motion mới: latent suy ra từ encoder cho validation clips vẫn nằm đúng cụm hành vi; lỗi key-body tăng chỉ khoảng 1.4–6.7 mm so với oracle latent.
Data scaling: chỉ cần 25% corpus vẫn giữ tracking gần như nguyên, MAE tăng từ 0.2132 lên 0.2241, tức suy giảm khoảng 5%; hiệu năng bắt đầu vỡ mạnh ở mức 10%.
Tổng quát sang robot chưa thấy: encoder huấn luyện trên hai robot rồi đánh giá robot thứ ba phục hồi tới 89.3% hiệu năng của robot đã thấy cho M3, 55.5% cho N1, chỉ 12.8% cho T1; robot càng gần về hình thái trong tập huấn luyện thì chuyển càng tốt.
Real-world: chạy thật trên M3 và T1 cả ba prompt mode với độ lệch nhỏ hơn so với mô phỏng, xác nhận sim2real khả dụng.

IV. Conclusion & Future Works:

Bài học chính là không cần học lại không gian hành vi cho từng robot: retargeted motion cung cấp tương ứng frame-level đủ để distill một hệ tọa độ latent đã đóng băng sang nhiều embodiment, giữ nguyên cách ra lệnh theo hành vi và giảm chi phí từ mức trăm GPU-hour xuống còn khoảng chục GPU-hour.

Hướng tương lai:

nghiên cứu scaling law theo hai trục: dữ liệu motion phong phú hơn cho không gian hành vi mịn hơn, và tập robot lớn hơn để unseen robot trở thành nội suy thay vì ngoại suy;
dùng không gian latent chung để prompt bằng văn bản cho tác vụ loco-manipulation dài hạn;
cải thiện generator latent dạng flow để điều khiển nhiều robot bằng ý định hành vi thay vì reference joint-space.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng distilled latent space sang bộ robot lớn và đa dạng hơn, định lượng mối liên hệ giữa độ gần hình thái và khả năng zero-shot transfer sang embodiment mới.
Kết hợp unified encoder với mô hình sinh latent theo văn bản hoặc âm thanh, để người vận hành ra lệnh bằng ý định cho nhiều humanoid cùng lúc.
Nghiên cứu cách tự chọn segment dữ liệu retarget giá trị nhất cho distillation, nhằm giữ hiệu năng khi corpus nhỏ hơn nhiều so với mức một phần tư hiện tại.

2. Patent:

Hệ thống huấn luyện nhanh robot humanoid mới bằng điện thoại hoặc máy tính cá nhân: robot cũ cung cấp tọa độ hành vi chuẩn, robot mới học từ dữ liệu motion đã chuyển sang khung xương của nó, rồi chạy được các lệnh bắt chước, tới tư thế, và tối ưu mục tiêu mà không cần huấn luyện lại từ đầu.
Ứng dụng điều khiển robot bằng một câu ý định: người dùng chọn hành vi như đi, chạy, với tay, nhảy; hệ thống sinh vector hành vi chung rồi gửi tới nhiều robot có số khớp khác nhau trong nhà máy, bệnh viện hoặc sân khấu.
Module chuyển giao kỹ năng giữa robot đời cũ và đời mới: giữ nguyên hệ tọa độ hành vi đã tin cậy, chỉ huấn luyện bộ mã hóa nhỏ ánh xạ cảm biến khớp của robot mới sang hệ tọa độ đó, giúp nâng cấp phần cứng không làm mất thư viện hành vi cũ.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.38087
ArXiv Abstract	https://arxiv.org/abs/2609.38087
PDF Download	https://arxiv.org/pdf/2609.38087.pdf
Github Repository	N/A

34. FocusVTC: Efficient and High-Performance Visual Text Compression with Adaptive Resolution (20 votes)

Tác giả: FangZhi Zhong, Xuerui Qiu, Yuqi Pan, Ya Liu, Shaowei Gu, et al.

Xuất bản lúc: 2026-09-29

Tag: Visual Text Compression, Long-Context LLM, Adaptive Resolution, Reinforcement Learning, GRPO, Multimodal, OCR

I. Main Problem:

Visual Text Compression (VTC) — biểu diễn văn bản dài thành ảnh trang để tiết kiệm token đầu vào cho LLM — đang gặp đánh đổi cố định giữa nén và hiệu suất:

DPI thấp: tiết kiệm token nhưng ký tự nhỏ bị mờ, sai khi đọc chi tiết
DPI cao: đọc rõ nhưng tốn token cho toàn bộ trang, kể cả đoạn vô liệu quan trọng
Các phương pháp trước (Glyph, DeepSeek-OCR) dùng độ phân giải cố định nên khả năng đọc cục bộ luôn bị ràng buộc với ngân sách token toàn cục.

II. Main Idea:

FocusVTC phá vỡ đánh đổi này bằng chiến lược đọc hai tầng độ phân giải:

Giữ một bản toàn cục DPI thấp (nén mạnh) để nắm bố cục và tìm vùng liên quan
Mô hình được quyền gọi công cụ EnhanceRegion(page, bbox) để phóng to vùng cần thiết ở DPI cao (144) trong khi lật giở lập luận, rồi tích hợp quan sát mới vào suy luận đang diễn ra

Huấn luyện hai giai đoạn (không cần continual pretraining):

REL-CoT: bộ 29.4K ví dụ chain-of-thought liên kết từng bước lập luận với chỉ số trang và bounding box bằng chứng, được xây qua pipeline 3 mô hình (DeepSeek V4 Flash lọc câu hỏi, Gemini 3.5 Flash gán vị trí, GPT-5 mini kiểm chứng)
REL-SFT: tinh chỉnh có giám sát trên 7 mức DPI (48–144) để học định vị bằng chứng
GRPO: học cách chính sách khi nào/phóng vùng nào/khi nào dừng, với phần thưởng gồm độ chính xác câu trả lời + chất lượng định vị (IoU) + hiệu quả số lần gọi công cụ, có trọng số khuyến khích phóng to khi DPI ban đầu càng thấp
Đồng thời hiệu chuẩn font: chọn DejaVu Sans 9pt thay Verdana giúp giảm lỗi ký tự dễ nhầm và tăng LongBench +1.47 điểm.

Ví dụ đời thường: giống người tra cứu từ điển — lướt nhanh toàn trang ở chế độ thu nhỏ để định vị mục từ, rồi chỉ phóng to đúng một ô nhỏ để đọc rõ từng chữ, thay vì in toàn bộ sách ra khổ lớn.

III. Main Results:

RULER v1 @72 DPI: đạt 87.4 với nén đầu vào 2.9× (gồm cả token quan sát), trong khi Glyph chỉ 57.5 ở 3.0× nén; RULER v2: 75.94 so với 44.64 của backbone cùng độ phân giải
LongBench: 56.40, vượt cả backbone nhập liệu text (55.86) và vượt xa bản fixed-resolution của chính nó (35.86, +20.54)
MRCR (multi-needle retrieval): macro-average tăng +13.91 điểm (31.65 → 45.56); vượt Qwen3.5-9B Text ở cả 3 thiết lập 2/4/8 needles
VTCBench: macro-average 51.19, tốt nhất nhóm ở Retrieval (91.0) và Memory (26.33)
Tốc độ: tăng tốc đầu-cuối trực tuyến 2.79× so với đầu vào text trên MRCR 64K–128K
Khả năng đa phương thức chung được bảo toàn: MMMU tăng 65.12 → 66.73, MME 2424.02 → 2457.62, OCRBench/DocVQA không suy giảm
Ablation: thiếu GRPO thì công cụ phóng to gần như vô dụng (RULER v1 từ 22.98 lên 87.38 sau GRPO); REL-SFT là khởi đầu cần thiết cho GRPO; 72 DPI là điểm tối ưu chi phí/hiệu quả.

IV. Conclusion & Future Works:

Cốt lõi của FocusVTC: phân bổ độ chi tiết hình ảnh theo nhu cầu suy luận thay vì đồng nhất toàn trang — một nguyên tắc có thể điều chỉnh được, hợp nhất nén cao với hiệu suất mạnh. Kết quả cho thấy VTC có thể không chỉ tiết kiệm token mà còn vượt cả đầu vào text thuần về hiểu ngữ cảnh dài. Hướng mở: mở rộng chiến lược đọc thích ứng sang các dạng tài liệu phức tạp hơn, tối ưu chi phí quan sát ở DPI rất thấp, và khái quát hóa nguyên tắc này cho các bài toán multimodal ngoài văn bản.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng FocusVTC cho tài liệu hỗn hợp nhiều cột, bảng biểu và công thức toán, nơi định vị bounding box đòi hỏi chính xác cấu trúc không gian cao hơn.
Kết hợp chiến lược phóng to thích ứng với retrieval dạng text để lai ghép ưu điểm nén hình ảnh và độ chính xác của tìm kiếm từ khóa.
Nghiên cứu chính sách học tăng cường tiết kiệm chi phí hơn (số lần gọi công cụ, token quan sát) khi ngân sách token siêu hạn chế ở DPI thấp.

2. Patent:

Ứng dụng đọc tài liệu dài trên điện thoại: tài liệu được nén thành ảnh độ phân giải thấp gửi lên đám mây để tiết kiệm dữ liệu và pin; khi người dùng hỏi, hệ thống chỉ tải về và phóng to các vùng liên quan ở độ phân giải cao thay vì toàn bộ tệp.
Trợ lý hỏi-đáp trên hợp đồng/biểu mẫu qua camera điện thoại: chụp toàn trang một lần ở chế độ nén, sau đó người dùng chỉ cần chạm hoặc hỏi về một điều khoản cụ thể, ứng dụng tự phóng to vùng đó để đọc chính xác từng chữ số, ngày tháng.
Hệ thống tra cứu hồ sơ y tế/pháp lý doanh nghiệp: lưu kho hàng triệu trang dưới dạng ảnh nén độ phân giải thấp, khi tra cứu chỉ render lại vùng chứa thông tin cần thiết ở độ phân giải cao, giảm mạnh chi phí lưu trữ và băng thông so với lưu bản scan độ phân giải cao toàn phần.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.36651
ArXiv Abstract	https://arxiv.org/abs/2609.36651
PDF Download	https://arxiv.org/pdf/2609.36651.pdf
Github Repository	https://github.com/fangzhi-zhong/FoucsVTC

35. WorldAttention: An Efficient Attention Architecture for Interactive Video World Models (20 votes)

Tác giả: Zeyu Zhang, Jinyuan Mao, Dakai An, Wangbo Zhao, Hanfeng Lu, et al.

Xuất bản lúc: 2026-09-28

Tag: Video Generation, World Models, Sparse Attention, Linear Attention, KV Cache, Diffusion, Autoregressive Generation, Interactive Video

I. Main Problem:

Các mô hình video tương tác sinh video dài theo từng chunk với prompt có thể đổi chủ đề bất ngờ giữa chừng, nên bắt buộc phải giữ toàn bộ lịch sử KV cache để nhớ lại chi tiết cũ. Nhưng điều này tạo ra xung đột cốt lõi:

Attention dạng đầy đủ có độ phức tạp bậc hai (O(L²)) — quá tốn tính toán
KV cache tăng tuyến tính theo độ dài video — nhanh chóng tràn bộ nhớ GPU
Sliding-window cache (giữ chỉ vài chunk gần nhất) thì tiết kiệm bộ nhớ nhưng mất vĩnh viễn ngữ cảnh cũ — khi người dùng nhắc lại cảnh từ hàng chục giây trước, mô hình không còn nhớ
Sparse retrieval ở mức chunk (như BIFE) giữ toàn bộ lịch sử nhưng tốn bộ nhớ khủng khiếp và truy xuất thô (nạp cả chunk dù chỉ cần vài token).

II. Main Idea:

WorldAttention — kiến trúc attention đồng thiết kế theo hướng hệ thống (system-oriented co-design) gồm 3 thành phần:

Hierarchical KV Cache (HKV): chia KV thành các trang (page) nhỏ gọn theo ngữ nghĩa (mỗi trang = 8 frame), lưu phân tầng trên 4 tầng bộ nhớ — GPU SRAM (L0), GPU HBM (L1), CPU DRAM (L2), NVMe (L3). Truy xuất 2 tầng: prompt-level (chọn chunk gần nghĩa nhất bằng cosine similarity) rồi page-level (chọn top-4 trang bằng độ tương đồng query–key). Trang không dùng tự bị đẩy xuống tầng thấp hơn.
Hybrid Sparse Attention (HSA): hai nhánh kết hợp — nhánh linear nén key/value bằng chiếu hạng thấp để bắt ngữ cảnh toàn cục với độ phức tạp tuyến tính; nhánh sparse block chỉ tính attention ở các khối token quan trọng, với mức độ thưa thớt thích ứng theo từng attention head (head nào cần ngữ cảnh rộng thì giữ nhiều khối hơn). Hai nhánh được trộn bằng cổng gating học được.
Kernel tùy biến tổ chức lại bộ nhớ trang rời rạc thành buffer liên tục để chạy song song hiệu quả trên phần cứng.

Ví dụ đời thường: giống thủ thư không xếp cả thư viện lên bàn mà để sách trong kho tầng — khi độc giả hỏi, thủ thư tra mục lục (prompt-level) tìm đúng kệ, rồi chỉ rút vài trang liên quan (page-level) đem lên bàn, phần còn lại để nguyên trong kho và chỉ lấy ra khi thật sự cần.

III. Main Results:

Chất lượng SOTA trên VBench-Long (60s): subject consistency 0.9472, background consistency 0.9691, motion smoothness 0.9915, dynamic degree 0.7758 — vượt LongLive, BIFE, Rolling Forcing và 13 baseline khác.
InterVBench: subject consistency 0.9668 — tốt nhất trong các phương pháp tương tác dài hạn.
Tốc độ: 22.0 FPS trên một chiếc NVIDIA H100 — nhanh hơn mọi đối thủ (LongLive 20.7 FPS, Self-Forcing 17.0 FPS) trong khi quality score cao nhất (86.55).
Kernel: HSA kernel (ThunderKittens) nhanh hơn 14.02× so với FlashAttention-3; kết hợp HKV đạt 2.21× end-to-end speedup.
Ablation: chỉ dùng nhánh linear hoặc chỉ nhánh sparse đều kém hơn rõ rệt so với kết hợp hai nhánh; HKV thắng sliding-window và các chiến lược truy xuất recent/random/mismatched page, đặc biệt ở đoạn 50–60s (CLIP 25.01 vs 21.48 của recent-page).
Robustness: khi có tới 3 chunk lịch sử trùng nghĩa gây nhiễu, chất lượng chỉ giảm nhẹ (85.53 → 85.18).

IV. Conclusion & Future Works:

Bài báo chứng minh rằng tối ưu kernel thuần túy không đủ — attention sparse chỉ chiếm 1.86% tổng độ trễ, phần lớn thời gian nằm ở tổ chức lại bộ nhớ và sao chép dữ liệu. Do đó đồng thiết kế hệ thống (truy xuất phân tầng + tính toán thưa thớt + kernel nhận thức phần cứng) mới là chìa khóa cho video tương tác dài hạn, vừa giữ trọn bộ nhớ lịch sử vừa chạy real-time. Hướng mở: mở rộng truy xuất top-k chunk cho prompt đa sự kiện, và tối ưu thêm các bước tiền xử lý bộ nhớ — thành phần chiếm phần lớn runtime còn lại.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng HKV cho truy xuất đa chunk (top-k chunk với ngân sách trang động) nhằm xử lý video tương tác nhiều sự kiện xen kẽ, nơi một prompt hiện tại liên quan đến nhiều đoạn lịch sử khác nhau.
Kết hợp head-adaptive sparsity với chiến lược thăm dò ngân sách tính toán theo độ phức tạp nội dung từng frame, để phân bổ tài nguyên linh hoạt hơn trong video có chuyển động nhanh/chậm xen kẽ.
Áp dụng kiến trúc phân tầng bộ nhớ + attention thưa thớt cho mô hình world model trong robotics, cho phép tác tử mô phỏng môi trường dài hạn real-time trên phần cứng giới hạn.

2. Patent:

Hệ thống tạo video tương tác trên điện thoại/cloud hybrid: lịch sử video cũ lưu dạng trang nhỏ trên bộ nhớ máy, khi người dùng gõ prompt mới nhắc lại nhân vật cũ, hệ thống tra cứu theo nghĩa câu chữ rồi theo độ giống hình ảnh để nạp đúng vài đoạn cần thiết, sinh video tiếp mượt mà không tốn bộ nhớ.
Trợ lý video kể chuyện dài cho mạng xã hội: người dùng đổi ý đổi cốt truyện giữa chừng bằng tin nhắn, ứng dụng tự nhớ lại nhân vật và bối cảnh từ phút đầu, giữ đúng diện mạo nhân vật suốt video dài mà không bị đứt mạch.
Hệ thống mô phỏng huấn luyện xe tự hành/thiết bị robot qua video: mô hình sinh cảnh dài liên tục, khi người vận hành chèn lệnh thay đổi tình huống, hệ thống truy xuất ngữ cảnh cũ đúng ngữ nghĩa và chạy đủ nhanh (hàng chục khung hình/giây) để huấn luyện và kiểm thử thời gian thực.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.34606
ArXiv Abstract	https://arxiv.org/abs/2609.34606
PDF Download	https://arxiv.org/pdf/2609.34606.pdf
Github Repository	https://github.com/alibaba-damo-academy/WorldAttention

36. HiRAE: Hierarchical Representation Autoencoding with Residual Budgets (17 votes)

Tác giả: Xuanyu Zhu, Yan Bai, Yang Shi, Yihang Lou, Yuanxing Zhang, et al.

Xuất bản lúc: 2026-09-29

Tag: Autoencoder, Representation Learning, Diffusion Models, Image Generation, Tokenizer, DINO

I. Main Problem:

Các tokenizer kiểu Representation Autoencoder (RAE) dùng đầu ra tầng cuối của encoder thị giác (như DINOv3) làm không gian tiềm ẩn cho mô hình sinh — nhưng đặc trưng tầng cuối quá trừu tượng, bỏ mất chi tiết mịn cần cho tái tạo ảnh trung thực. Các phương pháp hiện có khai thác các tầng trung gian đều có vấn đề:

RAEv2: ghép cố định vài tầng đã chọn — cần chọn tầng bằng thực nghiệm, tốn công
DRoRAE: fusion có học toàn bộ tầng nhưng phải huấn luyện theo 2 giai đoạn riêng (fusion trước, decoder sau)
DecQ/LV-RAE: thêm đường dẫn chi tiết riêng, dễ làm không gian tiềm ẩn lệch về tái tạo, khiến mô hình sinh khó học

Cốt lõi: làm sao học fusion trên toàn bộ hệ thống phân cấp của encoder mà vừa nâng độ trung thực tái tạo vừa giữ tương thích với mô hình sinh, không cần chọn tầng thủ công?

II. Main Idea:

HiRAE học fusion phân cấp (hierarchical fusion) trên toàn bộ 24 tầng của encoder DINOv3-L đóng băng, quanh một neo (anchor) là đặc trưng tầng sâu nhất. Cơ chế:

Mỗi tầng có một expert MLP riêng biến đổi đặc trưng; một router học trọng số kết hợp tại từng vị trí không gian
24 tầng được chia 3 nhóm theo độ sâu: nông (0–7), giữa (8–15), sâu (16–23); mỗi nhóm học một hiệu chỉnh residual cộng vào neo tầng sâu
Ngân sách norm (norm cap) phụ thuộc độ sâu: nhóm nông chỉ được sửa tối đa 2.5% độ lớn của neo, giữa 7.5%, sâu 15% (tổng ≤25%), cùng residual dropout mạnh hơn ở nhóm nông — giúp kiểm soát không gian tiềm ẩn không trôi về phía tái tạo
Huấn luyện chung fusion + decoder trong một giai đoạn duy nhất, bỏ qua giai đoạn thích ứng fusion riêng của DRoRAE; không gian tiềm ẩn giữ nguyên kích thước token và kênh (16×16×1024)

Ví dụ đời thường: giống như chỉnh một bản thiết kế — lấy bản vẽ tổng thể (neo tầng sâu) làm chuẩn, rồi cho phép người vẽ chi tiết nội thất chỉ sửa rất ít, người vẽ mặt đứng sửa nhiều hơn, người phác thảo cấu trúc sửa nhiều nhất; mỗi người có hạn mức chỉnh sửa rõ ràng nên bản cuối vẫn giữ bố cục gốc mà giàu chi tiết hơn.

III. Main Results:

Tái tạo ImageNet-256: rFID giảm từ 0.299 (RAEv2) xuống 0.209 (−30%); trên tập 5K ảnh khớp: PSNR tăng 22.667 → 26.377 dB, LPIPS giảm 0.074 → 0.043 — giữ nguyên kích thước tiềm ẩn.
Sinh ảnh ImageNet có guidance: gFID 1.038 so với 1.060 của RAEv2 (cùng 80 epoch), IS tăng 255.3 → 257.8; FD6_r giảm 2.170 → 1.856.
Text-to-image: sau SFT, GenEval tăng 84.86 → 87.70 (+2.84), DPG-Bench +1.45, GenAI-Bench +0.97 so với RAEv2; lợi thế còn lớn hơn trước SFT (GenEval +4.52).
Ablation: không có residual regularization thì rFID tuy rất thấp (0.023) nhưng gFID vỡ hoàn toàn (7.905) — chứng minh ngân sách norm là then chốt; 3 nhóm độ sâu tối ưu hơn 2 hay 4 nhóm; cả 3 nhóm đều đóng góp chi tiết bổ sung.
Phân tích không gian tiềm ẩn: fusion làm tăng đa dạng không gian (spatial effective rank 130 → 155) nhưng bảo toàn tổ chức theo lớp (10-NN cùng lớp 74.5% → 79.5%); độ nhạy decoding với nhiễu tiềm ẩn chỉ còn 21–22% so với RAEv2 — không gian tiềm ẩn ổn định, dễ học cho generator hơn.

IV. Conclusion & Future Works:

HiRAE cho thấy fusion phân cấp với ngân sách residual phụ thuộc độ sâu cho phép học toàn bộ 24 tầng encoder mà không cần chọn tầng thủ công hay huấn luyện nhiều giai đoạn, đạt tái tạo trung thực hơn đáng kể trong khi giữ chất lượng sinh cạnh tranh. Phân tích cho thấy chi tiết không gian được bổ sung đi kèm cấu trúc lớp được bảo toàn và độ nhạy giải mã thấp hơn. HiRAE-7 mở rộng khung này cho cấu hình gọn trên tập tầng đã chọn sẵn.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng nguyên lý ngân sách residual phân cấp cho các encoder khác (CLIP, SAM) hoặc kiến trúc video, kiểm chứng tính tổng quát của cơ chế kiểm soát đóng góp theo độ sâu.
Nghiên cứu học động ngân sách norm theo dữ liệu hoặc theo nhiệm vụ thay vì đặt cố định, cân bằng tự động giữa độ trung thực tái tạo và chất lượng sinh.
Kết hợp HiRAE với tinh chỉnh đầu-cuối (kiểu REPA-E) để đồng tối ưu tokenizer và mô hình khuếch tán, rút ngắn thời gian huấn luyện generator.

2. Patent:

Công cụ nén ảnh trên điện thoại dùng làm không gian chỉnh sửa: ảnh được mã hóa thành biểu diễn tiềm ẩn giàu chi tiết nhưng kích thước nhỏ; người dùng chỉnh sửa (xóa vật thể, đổi màu) trực tiếp trên tiềm ẩn rồi giải mã lại ảnh sắc nét nguyên bản.
Bộ tạo ảnh từ văn bản trên thiết bị di động với chất lượng chữ và chi tiết cao hơn: tokenizer kiểu HiRAE giúp chữ, logo, họa tiết nhỏ trong ảnh sinh ra rõ nét và đúng mô tả hơn, hữu ích cho thiết kế quảng cáo, banner.
Hệ thống phục hồi ảnh cũ/mờ trên điện thoại: dùng tokenizer tái tạo trung thực để khôi phục chi tiết mặt, chữ viết tay và vân vật liệu từ ảnh chụp lại chất lượng thấp mà không làm thay đổi bố cục gốc.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.37775
ArXiv Abstract	https://arxiv.org/abs/2609.37775
PDF Download	https://arxiv.org/pdf/2609.37775.pdf
Github Repository	N/A

Tác giả: Ming Ma, Yi Zhu, Yiran Zhong, Feida Zhu, Yuhao Wang, et al.

Xuất bản lúc: 2026-09-24

Tag: Omni-Modal Agents, LLM Planning, Agent Memory, Reinforcement Learning, Supervised Fine-Tuning, Tool Use, Context Engineering

I. Main Problem:

Các agent omni-modal (tìm bằng chứng từ video, audio, web và tính toán để trả lời câu hỏi) gặp hai điểm nghẽn cốt lõi:

Quan sát đa phương thức nhiễu rất nhiều: trang web trả về cả khối chữ lẫn lộn, mô tả video dài dòng có chi tiết vô dụng. Khi chúng tích lũy trong lịch sử hội thoại, chúng làm loạn quá trình lập kế hoạch (planner) của model, khiến planner kết luận sớm hoặc thực hiện hành động không có căn cứ.
Khoảng trống năng lực nằm ở phía lập kế hoạch, không phải cảm nhận. Thí nghiệm thay thế backend có kiểm soát cho thấy: đổi planner gây mất điểm lớn hơn nhiều so với đổi backend perception (ví dụ cùng một model Qwen3.5-Plus: thay planner mất 23.3 điểm, thay perception chỉ mất 15.8 điểm).

II. Main Idea:

Evidence-ledger planning: thay vì để quan sát chất đống trong lịch sử hội thoại, mỗi tác vụ duy trì một evidence ledger (sổ cái bằng chứng) gồm bốn phần:

U: các nhu cầu bằng chứng còn mở (được parse từ câu hỏi thành checklist)
F: các slot dữ kiện/phép tính (đã điền hay còn trống)
E: các mảnh bằng chứng đã xác nhận, kèm nguồn
C: các mâu thuẫn chưa giải quyết

Vòng điều khiển mỗi bước:

Planner đọc ledger (dạng văn bản gọn) và chọn hành động tiếp theo
Critic đọc quan sát thô từ tool (mỗi quan sát chỉ được nhìn một lần), quyết định nó hỗ trợ, mâu thuẫn hay bỏ qua nhu cầu nào
Reducer (bộ ghi duy nhất của ledger) commit verdict thành sự kiện kiểu (typed), cập nhật deterministic — không module nào ghi đè trực tiếp

Khi không còn nhu cầu blocking nào mở + mọi slot đã điền + không còn xung đột, ledger tuyên bố sẵn sàng và hệ thống soạn câu trả lời. Ledger cũng xác định khi nào dừng (báo evidence không đủ). Các trajectory ghi lại (trạng thái, hành động, verdict mỗi bước) được dùng để huấn luyện planner qua state-SFT và decision-level RL (closure-aligned), không cần gán nhãn thủ công.

Ví dụ đời thường: giống như điều tra viên gạch đầu dòng các manh mối còn thiếu trên một tờ checklist thay vì nhồi nhét toàn bộ giấy tờ lộn xộn vào đầu; có một trợ lý (critic) lọc từng tài liệu mới, chỉ ghi vào hồ sơ phần dùng được, nên điều tra viên luôn suy nghĩ trên một hồ sơ gọn và chính xác.

III. Main Results:

OmniGAIA: 81.39% (SOTA), cao hơn Gemini-3.1-Pro trả lời trực tiếp (79.44%) và hơn agent mạnh nhất công bố (sandboxed coding agent, 75.0%) +6.4 điểm; chi phí chỉ ~43% so với Gemini-3.1-Pro (~ $1.2 vs ~$ 2.8/câu). Các agent khác cùng backend chỉ đạt dưới 26%.
WorldSense (hiểu video dài, tắt web search): 65.0%, ngang Gemini-3.1-Pro (65.5%) — mạnh nhất trong các hệ agent — với chi phí ~ $0.3/câu so với ~$ 0.8.
Backend replacement: thay planner từ GPT-5.2 xuống Qwen3-Omni-30B sụt 81.39% → 14.72%; thay perception chỉ sụt còn 58.89–65.56% — chứng minh planner là nút nghẽn chính.
Ablation trạng thái: ledger vượt kiểu Memory (rolling summary) 68.33% và No-ledger ReAct 60.28%; lợi thế lớn nhất ở tác vụ dài/hard (~+24 điểm ở Medium/Hard).
Huấn luyện từ trajectory: state-SFT + RL nâng Qwen3.5-27B từ 46.94% → 50.56%; state-SFT nâng Qwen3-Omni-30B từ 14.72% → 18.61%.
Audit thất bại: với planner mạnh + ledger, lỗi còn lại tập trung ở thu thập/perception (~73%), chỉ ~4% do dừng sớm ở tầng quyết định.

IV. Conclusion & Future Works:

Omni-Decision cho thấy tầng hệ thống có thể là một đối tượng thiết kế rõ ràng: bằng chứng từ bên ngoài chỉ đi vào lập kế hoạch dưới dạng trạng thái kiểu hóa, nên planner và perception có thể được thay thế độc lập và đóng góp của từng thành phần được đo và cô lập trực tiếp. Với ledger + planner đủ mạnh, nút nghẽn dịch từ tầng quyết định sang tầng thu thập bằng chứng, mở hướng cải tiến tiếp theo ở công cụ thu thập và xác minh bằng chứng.

V. Brainstorming Space:

1. Publish Papers:

Ứng dụng evidence-ledger planning cho agent nghiên cứu tự động: mỗi câu hỏi học thuật được parse thành checklist bằng chứng, hệ thống tự truy xuất paper, bảng biểu và code để điền slot trước khi trả lời có trích nguồn.
Kết hợp evidence ledger với học thăm dò chủ động (active evidence seeking): planner học chọn công cụ nào thu thập bằng chứng thông tin nhất dựa trên ledger state, thay vì chọn hành động theo heuristic.
Mở rộng ledger sang bài toán bác bỏ tin giả đa phương thức: mỗi tuyên bố được ghi vào ledger kèm nguồn và mâu thuẫn, hệ thống chỉ kết luận khi mọi xung đột được giải quyết bằng bằng chứng độc lập.

2. Patent:

Trợ lý hỏi-đáp trên điện thoại cho video dài (hội nghị, bài giảng): người dùng đặt câu hỏi; ứng dụng duy trì một sổ cái gồm các manh mối cần tìm, gọi công cụ nhận diện giọng nói và trích xuất hình ảnh từ video, có bộ kiểm tra lọc nội dung nhiễu, chỉ trả lời khi đủ bằng chứng — giảm chi phí xử lý và trả lời đúng hơn so với gửi toàn bộ video lên model lớn.
Hệ tổng hợp báo cáo tài chính tự động cho doanh nghiệp: hệ thống parse yêu cầu báo cáo thành danh sách chỉ tiêu cần chứng minh, thu thập dữ liệu từ web, file nội bộ và phép tính; mỗi con số trong báo cáo đều gắn nguồn, các số liệu mâu thuẫn bị chặn lại đến khi được xác minh.
Trợ lý mua sắm đa nguồn trên điện thoại: khi người dùng hỏi so sánh sản phẩm, hệ thống lập sổ cái các thông số cần kiểm chứng (giá, ngày ra mắt, đánh giá), truy xuất từ nhiều trang, lọc nội dung quảng cáo qua bộ kiểm tra, chỉ đưa kết luận khi mọi thông số đã có nguồn xác nhận.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2607.11433
ArXiv Abstract	https://arxiv.org/abs/2607.11433
PDF Download	https://arxiv.org/pdf/2607.11433.pdf
Github Repository	N/A

38. EmoRES-TTS: Residual-Enhanced Vector Steering for Emotional Speech Generation (15 votes)

Tác giả: Kuan-Po Huang, Haohe Liu, Puyuan Peng, Haibin Wu, Zhaoheng Ni, et al.

Xuất bản lúc: 2026-09-29

Tag: Text-to-Speech, Emotion Control, Vector Steering, Activation Steering, Speech Language Models, Human Evaluation

I. Main Problem:

Các mô hình text-to-speech có điều khiển cảm xúc thường tạo giọng nói không đúng cảm xúc được yêu cầu, trong khi huấn luyện thêm để tăng khả năng kiểm soát rất tốn tính toán và dữ liệu giọng nói có gắn nhãn cảm xúc.

Phương pháp vector steering không cần huấn luyện lại có thể can thiệp vào biểu diễn nội bộ của mô hình đang đóng băng, nhưng CoCoEmo coi mỗi vector cảm xúc là một hướng không chia nhỏ được và chỉ điều chỉnh bằng một hệ số toàn cục. Điều này làm hai việc bị khóa cứng cùng nhau:

làm giọng nói rời khỏi trạng thái trung tính
đẩy giọng nói về đúng cảm xúc cụ thể được yêu cầu

Khi cần cảm xúc mạnh hơn, tăng hệ số chung cũng kéo theo phần dùng chung, khiến mô hình khó tách "có cảm xúc" khỏi "đúng loại cảm xúc".

II. Main Idea:

Bài báo phát hiện rằng mỗi vector cảm xúc có thể tách thành hai phần:

shared component: vector từ trung tính tới tâm của các kích hoạt cảm xúc, chủ yếu làm giọng nói không còn trung tính
residual component: vector từ tâm chung tới trung bình của đúng cảm xúc được yêu cầu, mang thông tin phân biệt angry/happy/sad/surprise

Từ đó, EmoRES-TTS đề xuất điều khiển hai phần bằng hai hệ số riêng: giữ phần dùng chung ở mức vừa đủ và tăng mạnh phần cảm xúc riêng. Phương pháp không học thêm không gian con mới, không cập nhật trọng số mô hình, và vẫn giữ nguyên độ lớn kích hoạt sau khi cộng vector để tránh lệch phân phối. Với cảm xúc hỗn hợp, tỉ lệ yêu cầu chỉ thay đổi phần riêng, còn phần dùng chung giữ cố định.

Khi hai hệ số bằng nhau, công thức quay về đúng dạng CoCoEmo, nên CoCoEmo chỉ là trường hợp đặc biệt của họ EmoRES.

Ví dụ đời thường: giống như chỉnh nước pha mì: một nút chỉ độ "nóng/lạnh" chung còn một nút chỉ vị cay, mặn, ngọt riêng; muốn đậm đúng vị thì không chỉ tăng nhiệt chung, mà phải tăng riêng gia vị đó.

III. Main Results:

Trên IEMOCAP với IndexTTS-2, EmoRES tăng rank correlation từ 22.00% lên 48.13% và hit rate từ 64.34% lên 77.29%; đồng thời TEP tăng từ 36.22% lên 41.11% và WER giảm từ 6.61% xuống 5.94%.
Trên IEMOCAP với CosyVoice2, rank correlation tăng từ 39.13% lên 52.10%, hit rate tăng từ 70.90% lên 77.82%, TEP tăng từ 37.44% lên 40.12% và WER giảm từ 4.51% xuống 3.61%.
Đánh giá con người cho thấy tỉ lệ nghe đúng cảm xúc chính tăng mạnh: 54.72% → 73.89% trên IndexTTS-2 và 58.18% → 77.88% trên CosyVoice2; fidelity cũng cải thiện ở cả hai mô hình.
Về độ tự nhiên, người nghe thích EmoRES hơn CoCoEmo trong 63.80% so sánh với IndexTTS-2 và 60.32% với CosyVoice2, với khoảng tin cậy loại trừ mức ngang nhau.
Ablation cho thấy chỉ dùng phần chung làm giọng có cảm xúc nhưng dễ sai loại cảm xúc; chỉ dùng phần riêng làm tăng khả năng phân biệt cảm xúc nhưng giảm độ mạnh cảm xúc tổng thể; kết hợp hai phần và tăng phần riêng lên gấp ba cho kết quả tốt nhất.
Trong không gian embedding cảm xúc, EmoRES tạo cụm rõ rệt nhất với probe accuracy 86.9% và cosine silhouette 0.460, cao hơn cả CoCoEmo và không steering.

IV. Conclusion & Future Works:

Bài báo chứng minh vector điều khiển cảm xúc không phải một khối đồng nhất mà gồm hai vai trò khác nhau: đưa giọng nói ra khỏi trung tính và chỉ đúng hướng cảm xúc. Bằng cách tách và điều chỉnh độc lập hai phần này, EmoRES cải thiện độ trung thành cảm xúc, chất lượng cảm xúc hỗn hợp và độ tự nhiên mà không huấn luyện lại mô hình.

Hướng tương lai: mở rộng sang điều khiển cảm xúc theo token hoặc theo đoạn trong cùng một câu nói, khi cảm xúc thay đổi theo thời gian; kiểm tra xem phép tách shared/residual có khái quát hóa sang nhiều cảm xúc hơn, nhiều ngôn ngữ, nhiều bộ dữ liệu giọng nói và nhiều kiến trúc text-to-speech khác không.

V. Brainstorming Space:

1. Publish Papers:

Điều khiển cảm xúc thay đổi theo thời gian trong một câu nói: áp dụng phép tách phần chung và phần riêng ở mức token hoặc segment để giọng đọc chuyển cảm xúc mượt trong lời thoại dài.
Khái quát hóa phương pháp steering cảm xúc sang đa ngôn ngữ: kiểm tra liệu vector cảm xúc trong tiếng Anh có chuyển sang tiếng Việt, tiếng Trung, tiếng Nhật mà không cần huấn luyện lại từng mô hình.
Tối ưu tự động hệ số phần chung và phần riêng theo ngữ cảnh: thay vì chỉnh tay, học một bộ điều khiển nhỏ dự đoán mức cường độ cảm xúc phù hợp cho từng câu và từng người nghe.

2. Patent:

Ứng dụng điện thoại đọc tin nhắn hoặc thông báo theo cảm xúc: người dùng chọn một thanh trượt "rời khỏi giọng đều" và một thanh trượt riêng cho vui, buồn, tức giận; hệ thống can thiệp vào trạng thái nội bộ của mô hình giọng nói để tạo đúng cảm xúc mà không cần huấn luyện lại ứng dụng.
Tính năng lồng tiếng phim hoặc video ngắn trên điện thoại: người dùng chọn cảm xúc từng nhân vật và tỉ lệ cảm xúc hỗn hợp; ứng dụng điều chỉnh hai thành phần riêng biệt của vector cảm xúc để giọng đọc bám cảm xúc kịch bản hơn mà vẫn giữ tự nhiên và giữ đúng người nói.
Trợ lý giọng nói hỗ trợ người khiếm thị hoặc người lớn tuổi: sách, thư hoặc hướng dẫn được đọc với ngữ điệu phù hợp nội dung; điện thoại tự tăng phần khác biệt cảm xúc khi câu chuyện căng thẳng và giảm khi cần giọng trung tính rõ ràng.
Hệ thống chăm sóc khách hàng bằng giọng nói trên điện thoại: khi người gọi chọn mức hỗ trợ khẩn cấp hoặc thân thiện, hệ thống chỉnh riêng độ "có cảm xúc" và loại cảm xúc để phản hồi nghe đồng cảm hơn nhưng không làm méo nội dung hoặc mất độ rõ lời nói.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.38157
ArXiv Abstract	https://arxiv.org/abs/2609.38157
PDF Download	https://arxiv.org/pdf/2609.38157.pdf
Github Repository	https://github.com/facebookresearch/EmoRES-TTS

39. WorldLine: Action-Driven Visual Simulation for Robotic Manipulation (15 votes)

Tác giả: Shenghe Zheng, Wenbo Li, Jiyao Zhang, Bin Xia, Haoyang Huang, et al.

Xuất bản lúc: 2026-09-29

Tag: Video Generation, Robot Manipulation, World Model, Visual Simulation, Policy Evaluation, Embodied AI

I. Main Problem:

Robot học trong thế giới thật bị giới hạn bởi chi phí thu thập dữ liệu tương tác và đánh giá hành vi. Mô phỏng truyền thống cần thiết kế asset và động lực học thủ công, khó mở rộng. Trong khi đó, mô hình sinh video mặc định ưu tiên tính hợp lý trực quan hơn là độ trung thực với hành động điều khiển, và các simulator có điều kiện hành động lại phụ thuộc vào dữ liệu khan hiếm, riêng cho từng embodiment với không gian điều khiển không tương thích — dữ liệu không thể chia sẻ chéo giữa các robot khác nhau.

II. Main Idea:

WorldLine tách biệt học động lực học robot–vật thể (có thể chuyển giao) khỏi neo hành động điều khiển (khác nhau tùy embodiment), qua 3 giai đoạn:

Stage I — Pretraining động lực học: tinh chỉnh mô hình video có sẵn (Cosmos3-Nano) trên hơn 10.000 giờ video robot không nhãn hành động để học prior về chuyển động robot và tương tác vật thể.
Stage II — Post-training neo hành động: dùng 2.500 giờ quỹ đạo có hành động, hơn 10 embodiment. Thay vì ép các vector điều khiển không tương thích vào cùng không gian, WorldLine chiếu hiệu ứng không gian của hành động (vị trí đầu kẹp, độ sâu, hướng Rot6D, trạng thái gripper) vào từng góc camera thành action map 9 kênh — một giao diện điều khiển chung bảo toàn hình học hành động. Kết hợp huấn luyện đa góc nhìn đồng bộ (đầu + 2 cổ tay), dữ liệu 200 giờ quỹ đạo thất bại, và regularization quan hệ (so khớp cấu trúc quan hệ thời gian/giữa các view với teacher V-JEPA2) để mô hình phân biệt kết quả thành công–thất bại.
Stage III — Distillation causal few-step: chưng cất thành mô hình block-autoregressive sinh 4 bước khử nhiễu, với loss tập trung vào vùng robot (robot mask) để giữ chuyển động quan trọng khi tăng tốc.

Ví dụ đời thường: giống như đào tạo tài xế — trước hết cho ngồi xem hàng nghìn giờ người khác lái xe để hiểu quy luật giao thông (động lực học không cần vô-lăng), sau đó mới cho cầm lái với các loại xe khác nhau bằng cách quan sát chuyển động xe qua kính lái (hành động được chiếu vào cùng 'khung hình' quen thuộc).

III. Main Results:

Sinh video có điều kiện hành động: dẫn đầu SSIM, LPIPS, robot-mask IoU trên AgiBotWorld; trên quỹ đạo thất bại, tăng robot IoU +0.1626 so với baseline mạnh nhất. Trên DROID (hoàn toàn out-of-domain), đạt robot IoU 0.2739 — vượt kết quả tốt nhất trước đó +0.0690.
Đánh giá chính sách (policy evaluation): rollout của WorldLine được Qwen3VL-8B phân loại thành công/thất bại với độ chính xác trung bình 74% trên RoboTwin và AgiBot, cao hơn 1 điểm so với baseline mạnh nhất.
Planning (best-of-N): không cần train/adapt trên RoboTwin, chọn trong 32 ứng viên bằng rollout của WorldLine nâng tỷ lệ thành công +19.1 điểm phần trăm (π0.5) và +21.4 điểm phần trăm (LingBot-VLA) so với chạy policy trực tiếp.
Tốc độ causal: giảm từ 35 xuống 4 bước lấy mẫu, latency 0.698 → 0.163 s/frame (nhanh 4.3×) với chất lượng gần như nguyên vẹn.
Ablation: bỏ dữ liệu action-free, bỏ camera cổ tay, bỏ dữ liệu thất bại, hoặc thay action map bằng vector hành động gốc đều làm giảm rõ rệt chất lượng sinh và planning — xác nhận mọi thành phần đều cần thiết.

IV. Conclusion & Future Works:

WorldLine chứng minh tách rời học động lực học khỏi neo hành động cho phép mô phỏng trực quan vừa mở rộng quy mô xuyên embodiment vừa trung thực với điều khiển, đủ hữu ích cho đánh giá chính sách và planning thực tế. Distillation causal few-step giữ nguyên khả năng này với chi phí thấp hơn nhiều.

Hướng tương lai: mở rộng sang vật thể biến dạng (deformable), mẫu thao tác hiếm, camera đa dạng và chân trời hành động dài hơn; dùng WorldLine làm môi trường RL để huấn luyện policy; khai thác test-time scaling (phân bổ thêm rollout cho tác vụ khó); và nghiên cứu ước lượng độ không chắc chắn cùng replanning vòng kín để nhận diện dự đoán kém tin cậy.

V. Brainstorming Space:

1. Publish Papers:

Môi trường RL dựa trên WorldLine: huấn luyện policy hoàn toàn trong mô phỏng trực quan với reward từ video rollout, đánh giá khả năng chuyển giao trực tiếp sang robot thật không cần hiệu chỉnh.
Test-time scaling cho robot: chiến lược phân bổ ngân sách rollout động — dành nhiều ứng viên mô phỏng cho trạng thái khó, kết hợp ước lượng độ không chắc chắn của mô hình sinh để phát hiện dự đoán đáng ngờ.
Tổng quát hóa action map cho vật thể biến dạng và camera chưa hiệu chuẩn: kiểm chứng giao diện điều khiển không gian trong không gian ảnh khi hình học tương tác phức tạp hơn.

2. Patent:

Ứng dụng điện thoại di động để 'thử nghiệm ảo' trước khi robot thực thi: người dùng chọn một trong nhiều phương án thao tác trên màn hình; hệ thống mô phỏng kết quả dưới dạng video ngắn trên điện thoại, người dùng chọn phương án tốt nhất rồi robot mới thực hiện thật — tránh hỏng đồ vật.
Hệ thống đánh giá chất lượng vận hành robot trong nhà máy qua camera sẵn có: ghi lại chuỗi hành động của robot, mô phỏng lại kết quả mong đợi, tự động cảnh báo khi hành động thực tế có nguy cơ thất bại trước khi xảy ra sự cố.
Nền tảng huấn luyện robot đa dạng chủng loại qua điện thoại: nhà phát triển dùng điện thoại để điều khiển robot từ xa, mọi lệnh điều khiển được quy đổi thành bản đồ hành động trong không gian ảnh của camera robot, cho phép cùng một ứng dụng điều khiển được nhiều loại robot khác nhau mà không cần viết lại trình điều khiển riêng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.38059
ArXiv Abstract	https://arxiv.org/abs/2609.38059
PDF Download	https://arxiv.org/pdf/2609.38059.pdf
Github Repository	https://github.com/Zhengsh123/WorldLine

40. Reasoning with Image Generation (14 votes)

Tác giả: Nishad Singhi, Hector Garcia Rodriguez, Aditya Arora, Marcus Rohrbach, Anna Rohrbach

Xuất bản lúc: 2026-09-14

Tag: Multimodal LLMs, Image Generation, Chain-of-Thought, Visual Reasoning, Tool Use, Test-Time Scaling, Prompt Optimization

I. Main Problem:

Các MLLMs hiện nay thường suy luận bằng chữ ngay cả khi bài toán là thị giác: chúng mô tả cảnh rồi lập luận, nên dễ sai với tác vụ cần trực giác không gian, ví dụ gỡ vật che khuất, ghép nhiều góc nhìn thành bản đồ, hoặc tưởng tượng vật di chuyển. Các công cụ chuyên biệt kiểu Visual Sketchpad chỉ cung cấp phép biến đổi hẹp và cố định như crop, depth estimation, detection; chúng không tạo được ảnh trung gian mở theo yêu cầu ngôn ngữ tự nhiên.

II. Main Idea:

REIMAGIN là một agent đa phương thức theo kiểu ReAct: tại mỗi bước, MLLM viết rationale bằng chữ, rồi phát sinh chương trình Python có thể gọi generate_image với prompt ngôn ngữ tự nhiên và một hoặc nhiều ảnh tham chiếu. Ảnh sinh ra được đưa lại vào context để bước suy luận kế tiếp dùng; agent cũng có thể kết hợp tiện ích xác định như crop, overlay, subtract. Khác với tool chuyên biệt, một model sinh ảnh theo chỉ dẫn có thể làm nhiều phép biến đổi khác nhau: tạo depth map, nối hai view thành panorama, xóa vùng đen che khuất, vẽ quỹ đạo vật thể, hoặc làm nét đường nét đứt. Với tác vụ khó như dựng floorplan, hệ thống dùng test-time scaling: sinh N ứng viên và chọn ảnh trung thành nhất với prompt. Ngoài ra, chiến lược dùng tool có thể được tự động tìm bằng vòng lặp đề xuất prompt, chấm trên tập dev, rồi refine từ ca thành công và thất bại.

Ví dụ đời thường: giống người làm hình học không chỉ đọc đề bằng chữ, mà phác thêm hình trên giấy nháp, xóa vẽ lại cho tới khi quan hệ trở nên nhìn thấy được rồi mới kết luận.

III. Main Results:

Trên sáu tác vụ, REIMAGIN vượt No Tools và Visual Sketchpad với đa số tổ hợp model; với GPT-5, path tracing tăng từ 48.5% lên 73.5%, occlusion counting giảm sMAPE từ 12.5 xuống 7.4.
Visual Sketchpad đôi khi giảm so với không dùng tool, đặc biệt puzzle với GPT-5: 16.7% so với 29.5%, vì thiếu khả năng sinh nội dung mở.
Ngoại lệ đáng chú ý: depth reasoning trên Gemini-3.1-Pro, REIMAGIN tốt hơn No Tools nhưng thua Visual Sketchpad dùng specialist depth: 94.6% so với 99.2%.
Test-time scaling giúp spatial reasoning rõ rệt: Gemini-3.1-Pro tăng 51.0% → 59.0%, Qwen-3.5-27B tăng 42.0% → 54.3%; các tác vụ ít phương sai sinh ảnh không hưởng lợi nhiều.
Strategy tự động khám phá thường giống strategy con người, chẳng hạn tạo depth map cho depth reasoning, vẽ mũi tên từ phía trước vật để dự đoán va chạm; nó cải thiện mạnh so với No Strategy và thu hồi phần lớn lợi ích của handcrafted strategy.
Chuyển prompt đã tìm từ Gemini sang Qwen vẫn giúp nhiều tác vụ, nhưng không đều: collision, spatial reasoning và path tracing tốt lên, còn occlusion counting và depth không ổn định.
Audit 120 ảnh sinh: 75% faithful; khi ảnh đúng yêu cầu, tỉ lệ trả lời đúng là 87%, khi ảnh sai chỉ còn 43%. Lỗi chính là generation failures và MLLM đọc/suy luận sai trên ảnh đúng.
Model sinh ảnh mở như FLUX.2 và Qwen-Image-Edit-2511 cạnh tranh ở edit đơn giản, nhưng không ổn định trên các biến đổi cần chính xác không gian; chi phí thêm cho sinh ảnh khoảng $0.12/instance.

IV. Conclusion & Future Works:

Bài báo cho thấy image generation có thể đóng vai trò như cơ chế tưởng tượng thị giác tổng quát bên trong suy luận đa phương thức, giảm nhu cầu thiết kế riêng một tool cho mỗi phép biến đổi mới. Tuy nhiên hiệu quả phụ thuộc vào chất lượng ảnh trung gian và chiến lược chọn ảnh nào để sinh. Hướng cải tiến quan trọng là model sinh ảnh mạnh hơn, cơ chế select/verify ảnh trung gian tốt hơn, và phương pháp tìm strategy quy mô lớn hơn; mục tiêu dài hạn là hệ thống không chỉ mô tả cảnh mà còn chủ động tạo và biến đổi cảnh trong lúc giải bài toán.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu kiểm chứng và tự sửa ảnh trung gian trong suy luận thị giác: kết hợp chọn ảnh tốt nhất, phát hiện bất nhất hình học và phản hồi lại cho model sinh ảnh trước khi MLLM kết luận.
Mở rộng tự động tìm chiến lược thị giác từ tối ưu prompt sang tìm chính sách nhiều bước, có bộ nhớ thất bại và kiểm soát chi phí sinh ảnh theo độ khó tác vụ.
Xây dựng benchmark và stack mở chạy cục bộ cho visual reasoning bằng sinh ảnh, đo độ tin cậy của instruction-following image editors nguồn mở trên biến đổi không gian phức tạp.

2. Patent:

Ứng dụng điện thoại chụp hai hoặc nhiều ảnh căn phòng rồi tự dựng bản đồ nhìn từ trên xuống để trả lời câu hỏi như cửa ở đâu, đi thẳng hay rẽ, vật nằm bên trái hay phải khi đứng quay lưng vào cửa.
Camera điện thoại tự gợi ý số lượng vật bị che: người dùng chụp ảnh có vùng bị khối đen hoặc vật cản, app sinh lại vùng bị che để đếm món đồ, người hoặc chi tiết lặp lại trước khi đưa câu trả lời.
Trợ lý an toàn giao thông trên điện thoại vẽ đường đi tới cho xe buýt, xe đạp hoặc người đi bộ: app thêm một đường thẳng theo hướng di chuyển để xem vật đầu tiên bị chạm, hoặc làm nét đường nét đứt để người dùng dễ bám đúng lối.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.16409
ArXiv Abstract	https://arxiv.org/abs/2609.16409
PDF Download	https://arxiv.org/pdf/2609.16409.pdf
Github Repository	N/A

41. TabFM: A Zero-Shot Foundation Model for Tabular Data (14 votes)

Tác giả: Weihao Kong, Erez Louidor Ilan, Shuxin Nie, Taman Narayan, Rajat Sen, et al.

Xuất bản lúc: 2026-09-29

Tag: Tabular Data, Foundation Models, In-Context Learning, Zero-Shot Learning, Transformer, AutoML

I. Main Problem:

Học máy dữ liệu bảng (tabular) hiện nay vẫn theo mô hình tối ưu riêng từng dataset: mỗi tác vụ mới phải tiền xử lý, tìm split, chạy lại hyperparameter search từ đầu với GBDT, Random Forest hoặc AutoML. Các mô hình foundation cho bảng gặp giới hạn cấu trúc:

hàng có tính hoán vị (permutation equivariance) nhưng cột lại trộn giá trị liên tục cần độ phân giải số học cao với danh mục rời rạc
attention thô theo tất cả ô tính tốn O(T²H²), bóp nghẹt context dưới 1.000 hàng
học in-context trên bảng tổng quát chưa từng vượt qua được các pipeline AutoML đã tinh chỉnh.

II. Main Idea:

TabFM (400M tham số, Google Research) coi dự đoán bảng giám sát như in-context learning: đưa toàn bộ bảng train + test vào một forward pass duy nhất để ra xác suất hậu nghiệm, không cần tuning. Kiến trúc tách bạch bốn giai đoạn:

Cell embedding phổ: mỗi cột ghép cặp dyadic với cột lân cận (offsets 0,1,3), chiếu giá trị qua ngân hàng tần số Fourier học được (32 tần số) để giữ độ phân giải số liên tục; cột số và cột danh mục dùng ngân hàng tần số riêng
Attention xen kẽ: block cột dùng ISAB với 256 inducing points (độ phức tạp tuyến tính O(T·m) thay vì O(T²)), block hàng dùng SAB với RoPE theo trục đặc trưng; 2 stage không chia sẻ trọng số
CLS pooling: 8 token CLS học được gom số cột tùy ý thành vector hàng cố định 1024 chiều, nâng context lên 16.384 mẫu
ICL predictor 24 lớp (402.7M tham số) với mask bất đối xứng chỉ cho test hàng nhìn train hàng, đảm bảo độc lập điều kiện và không rò rỉ nhãn

Tiền huấn luyện hoàn toàn trên bảng tổng hợp sinh từ structural causal models (SCM) với đồ thị nguyên nhân ngẫu nhiên, kèm curriculum 4 giai đoạn nhân đôi số hàng (2.048 → 16.384) giữ nguyên token mỗi bước.

Hai tiện ích trên trọng số đôngng cứng: TabFM+ chạy 32 view biến đổi (cross features nhân, SVD, hoán vị cột, permute nhãn) rồi ensemble bằng Non-Negative Least SquareS + Platt scaling; TabFM-Auto để Gemini-3.8-Flash tự viết/chấm/sửa pipeline feature engineering trong vòng lặp sandbox 6 giờ.

Ví dụ đời thường: giống một nhà phân tích cự phách đọc lướt toàn bộ bảng dữ liệu một lần rồi đưa ra dự đoán luôn — thay vì mỗi lần có bảng mới lại ngồi dựng lại toàn bộ quy trình làm sạch và mô hình từ con số không.

III. Main Results:

Trên TabArena (51 dataset: 38 phân loại, 13 hồi quy, đánh giá 10-fold CV, xếp hạng Elo Bradley–Terry):
TabFM zero-shot đứng đầu số các foundation model mặc định cả hai track: 1768.6 Elo phân loại (vượt EXAONE-Tabular 1768.0, AutoGluon 1.5 extreme 1669.7, TabPFN-3 1641.9), 2055.2 Elo hồi quy; gmean error thấp nhất (0.0957 / 16.40), ít thua nhất khi so với oracle per-dataset (improvability 6.10% / 2.62%)
Thắng head-to-head phần lớn fold: 65.7% vs EXAONE, 72.1% vs AutoGluon 1.5 extreme, 75.9% vs TabPFN-3
TabFM+: +69.4 Elo phân loại, +134.0 Elo hồi quy (hồi quy hưởng lợi gần gấp đôi vì averaging giảm phương sai trên thang liên tục)
TabFM-Auto: đứng số 1 tuyệt đối cả hai track (1940.7 / 2392.4 Elo), +172.1 và +337.2 Elo so với TabFM gốc; cải thiện 41/51 dataset, hồi quy cải thiện 13/13, đạt 0.00% oracle improvability; 10 dataset phân loại không cải thiện chỉ tệ hơn tối đa 1.8%
Context mở rộng 16.384 hàng, gấp một bậc so với in-context tabular trước đây.

IV. Conclusion & Future Works:

TabFM chứng minh pretraining hoàn toàn trên bảng tổng hợp từ SCM là đủ để một foundation model 400M tham số dự đoán zero-shot vượt cả pipeline AutoML tinh chỉnh nhiều giờ, nhờ tách bạch encoder đặc trưng phổ (Fourier + ISAB + RoPE) khỏi predictor in-context sâu. Các kỹ thuật bao quanh trọng số đôngng cứng — multi-view ensembling và synthesis feature engineering có LLM dẫn — cho thấy dư địa lớn nằm ở phía dữ liệu và inference chứ không cần cập nhật trọng số. Tài liệu không nêu hướng nghiên cứu tương lai cụ thể.

V. Brainstorming Space:

1. Publish Papers:

Phát triển foundation model bảng đa phương thức kết hợp dữ liệu văn bản mô tả cột và siêu dữ liệu domain để cải thiện zero-shot trên các bảng chuyên ngành y tế, tài chính.
Nghiên cứu scaling law cho pretraining tabular foundation model: quan hệ giữa số tham số, số bảng tổng hợp SCM và độ đa dạng của đồ thị nhân quả đối với hiệu năng chuyển giao.
Mở rộng vòng lặp synthesis của TabFM-Auto thành hệ thống tự động hóa hoàn chỉnh: LLM tự phát hiện kiến thức domain và sinh đặc trưng vật lý/kinh tế có nghĩa mà không cần con người gợi ý.
Ứng dụng in-context predictor của TabFM cho bài toán dữ liệu bảng thời gian thực, nơi bảng liên tục cập nhật và cần dự đoán tức thì mà không retrain.

2. Patent:

Trợ lý phân tích dữ liệu trên điện thoại: người dùng tải file Excel/CSV lên app, mô hình tabular foundation chạy ngay trên thiết bị hoặc đám mây để dự đoán kết quả (khả năng rời bỏ khách hàng, rủi ro tín dụng...) mà không cần chuyên gia dựng mô hình.
Hệ thống chấm điểm tín dụng zero-shot cho ngân hàng: tích hợp model dạng TabFM vào cổng cho vay, dự đoán xác suất vỡ nợ trong một lần chạy duy nhất dù khách hàng có bộ dữ liệu với số cột và kiểu dữ liệu khác nhau, không cần train lại mỗi ngày.
Công cụ tiền xử lý dữ liệu tự động có AI điều phối: ứng dụng trên điện thoại dành cho chủ doanh nghiệp nhỏ, LLM tự đề xuất cách làm sạch, tạo cột mới và chạy ensemble dự đoán doanh số/rủi ro từ file bán hàng thô.
Module dự đoán bảo trì thiết bị công nghiệp: cảm biến gửi bảng thông số định kỳ, mô hình foundation đọc bảng và cảnh báo hư hỏng ngay lập tức mà không yêu cầu kỹ sư cấu hình lại mô hình cho từng nhà máy.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.37959
ArXiv Abstract	https://arxiv.org/abs/2609.37959
PDF Download	https://arxiv.org/pdf/2609.37959.pdf
Github Repository	https://github.com/google-research/tabfm

42. AutoRef: Harness Optimization for Agentic Multi-Reference Image Generation (13 votes)

Tác giả: Yuta Oshima, Ku Onoda, Yusuke Iwasawa, Masahiro Suzuki, Yutaka Matsuo, et al.

Xuất bản lúc: 2026-09-28

Tag: Image Generation, Multi-Reference Generation, Agentic AI, Harness Optimization, Beam Search, Code Generation, Diffusion Models, Vision-Language Models

I. Main Problem:

Mô hình sinh ảnh multi-reference (kết hợp nhiều ảnh tham chiếu vào một ảnh mới) thường bỏ sót, nhân bản, hoặc dán cắp nội dung từ các reference — các đối tượng xuất hiện gượng gạo, không tạo thành cảnh mạch lạc.

Các công trình agentic gần đây dùng harness (chương trình điều phối cách mô hình lý giải reference, sinh ảnh, chẩn đoán và chọn kết quả), nhưng:

harness do người viết chênh lệch hiệu năng rất lớn, khó dự đoán thay đổi nào cải thiện bao nhiêu
các phương pháp tối ưu agent tự động hiện có chủ yếu hoạt động trên tác vụ có phần thưởng kiểm chứng được (toán, code), trong khi sinh ảnh chỉ có điểm số trực quan nhiễu, ít thông tin chẩn đoán → dễ overfit cả tập search lẫn evaluator.

II. Main Idea:

AutoRef tối ưu harness bằng cách viết lại code, giữ nguyên hoàn toàn reasoning model và image generator (frozen). Ba điểm cốt lõi:

Tách bạch tập dữ liệu: Dtrain cung cấp phản hồi đầy đủ (điểm, lý giải của evaluator, trajectory, ảnh sinh ra) cho coding-agent proposer; Dval chỉ dùng để xếp hạng chọn ứng viên, tuyệt đối không lộ cho proposer — tránh overfit.
Beam search lặp: mỗi vòng proposer sinh K=4 harness mới từ beam hiện tại (B=2), chỉ giữ B harness đứng đầu theo Dval làm cha kế tiếp; proposer biết ai sống sót nhưng không biết điểm số.
Kết quả là AutoRef-Harness: nhắc prompt gắn từng yếu tố với đúng reference (reference-grounded prompting) → sinh 2 draft với cấu trúc prompt khác nhau (một cái mô tả theo chủ thể, một cái giữ reference nền làm canvas) → reasoning model liệt kê tối đa 5 lỗi cụ thể (complaints) và sinh draft C chỉnh sửa → chọn kết quả bằng so sánh có nhận thức lỗi nghiêm trọng (thiếu/sai reference thì thua ngay, hòa mới so sánh từng đôi).

Ví dụ đời thường: giống một đầu bếp mới được giao nấu món ghép từ 4 nguyên liệu lạ — thay vì ném tất cả vào một lần, anh ta lần lượt ghi chú 'gà dùng ảnh 1, rau ảnh 2', nấu thử hai cách trình bày khác nhau, nếm và liệt kê lỗi ('mặn, cháy cạnh') rồi nấu lại mâm thứ ba, và chỉ thay mâm cũ nếu mâm mới thắng cả hai lần chấm — còn sếp (người viết harness) thì được thay bằng quy trình tự cải tiến qua nhiều vòng.

III. Main Results:

MultiBanana (4 references, test held-out): FLUX.2 [klein] 4B tăng từ 5.72 → 7.37/10 với AutoRef-Harness, vượt hoặc ngang các mô hình proprietary (Nano Banana Pro 7.20, GPT-Image-1.5 7.07, Seedream 4.5 7.03) chỉ với 3 ảnh sinh mỗi tác vụ.
Khái quát tốt mà không cần tối ưu lại: cải thiện trên cả cấu hình 3 và 5 references (+1.17, +0.82); chuyển sang FLUX.2 9B (7.10) và Qwen-Image-Edit-2511 (5.69); benchmark lạ OmniContext với evaluator GPT-4.1 (8.30→8.85); reasoning model khác Qwen3-VL-32B (5.72→6.90).
Vượt harness do người viết: AutoRef-Harness (7.37) cao hơn Best-of-3 (6.01), GEMS (5.37), IPR (7.02), Idea2Img (7.12) — dù Idea2Img dùng gấp 3 lần ngân sách sinh ảnh.
Vượt phương pháp search khác: Meta-Harness (7.00) và Greedy Search; ngay cả harness đứng thứ hai của AutoRef cũng thắng cả hai.
Ablation: mỗi thành phần (§5.1–5.4) đều đóng góp; bỏ failure-aware selection giảm −0.44.
Đánh giá con người: tỷ lệ thắng 70% so với FLUX.2 4B gốc, 64% vs FLUX.2 9B, 63% vs Seedream 4.5, cân bằng với Nano Banana Pro (46%–40%).

IV. Conclusion & Future Works:

Thông điệp chính: cách sử dụng các mô hình đã đóng băng cũng đáng được tối ưu — chỉ thay đổi chương trình điều phối mà không đụng vào trọng số đã đưa model mở nhỏ lên ngang model proprietary. Tách train/validation và beam nhiều cha là hai yếu tố then chốt cho tác vụ đánh giá bằng nhận thức trực quan.

Hạn chế: harness không vượt qua giới hạn năng lực của generator gốc (khi generator hoàn toàn thất bại như Qwen-Image-Edit-2511 với 5 references, chọn lọc tốt hơn cũng vô ích); tối ưu theo một evaluator VLM duy nhất.

Hướng tương lai: thay proposer/evaluator bằng VLM và coding agent mạnh hơn; evaluator giàu hơn, ví dụ kết hợp VLM với mô hình segmentation.

V. Brainstorming Space:

1. Publish Papers:

Tổng quát hóa AutoRef sang các tác vụ sinh ảnh khác (inpainting, chỉnh sửa đa modal, sinh video) để kiểm chứng tính phổ quát của tách bạch proposal/selection trong tối ưu harness.
Nghiên cứu evaluator kết hợp: dùng VLM cùng mô hình phân đoạn ảnh (segmentation) để chẩn đoán lỗi thiếu/nhân bản reference chính xác hơn, thay vì chỉ dựa vào điểm trực quan nhiễu.
Phân tích lý thuyết vì sao beam search nhiều cha và tách tập chọn lọc khỏi tập phản hồi giúp chống overfit trong bối cảnh phần thưởng không kiểm chứng được (perceptual rewards).
Kết hợp tối ưu harness tại thời điểm suy luận với fine-tuning trọng số để khảo sát tương tác giữa hai loại tối ưu trên cùng generator.

2. Patent:

Trợ lý tạo ảnh quảng cáo trên điện thoại: người dùng cung cấp vài ảnh (sản phẩm, người mẫu, nền, phong cách); ứng dụng tự gắn từng yếu tố với đúng ảnh gốc, sinh hai bản dự thảo theo cách bố cục khác nhau, liệt kê lỗi và sinh bản chỉnh sửa, rồi chọn bản tốt nhất — cho ảnh quảng cáo tự nhiên thay vì dán ghép.
Tính năng thử đồ ảo trên điện thoại: chụp ảnh người dùng và ảnh trang phục/phụ kiện; hệ thống giữ ảnh người làm nền, 'vẽ' trang phục vào tự nhiên, tự phát hiện lỗi (sai màu vải, thiếu chi tiết) và tạo lại bản tốt hơn trước khi hiển thị.
Hệ thống tự cải tiến quy trình xử lý ảnh tự động: một agent lập trình viết lại chương trình điều phối các mô hình AI có sẵn (không cần huấn luyện lại) qua nhiều vòng, dùng tập ảnh riêng để thử và tập ảnh riêng để chọn, liên tục nâng chất lượng đầu ra theo thời gian.
Bộ công cụ tạo ảnh ghép gia đình/du lịch: người dùng chọn nhiều ảnh thành viên và bối cảnh; ứng dụng tự đảm bảo không ai bị thiếu hay bị nhân bản, đồng thời khớp ánh sáng và phối màu giữa các đối tượng với nền.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.35530
ArXiv Abstract	https://arxiv.org/abs/2609.35530
PDF Download	https://arxiv.org/pdf/2609.35530.pdf
Github Repository	https://github.com/KuOnoda/AutoRef

43. When Does Dense Retrieval Need Asymmetric Geometry? A Bias-Variance Theory of Shared and Dual Projections (13 votes)

Tác giả: Maojun Sun, Yancheng Yuan, Jian Huang, Ruijian Han

Xuất bản lúc: 2026-09-26

Tag: Dense Retrieval, Bias-Variance Tradeoff, Embedding Adaptation, Retrieval-Augmented Generation, Low-Rank Projections, Metric Learning

I. Main Problem:

Trong dense retrieval (semantic search, RAG, QA), khi tinh chỉnh embedding query và document đã frozen, có hai cách chiếu chiều thấp rank-r:

Shared: dùng một phép chiếu P chung cho cả query và document → toán tử điểm M = PᵀP luôn positive semidefinite (PSD).
Dual: dùng hai phép chiếu riêng A, B → toán tử M = AᵀB bất kỳ, rank ≤ r, không cần đối xứng.

Vấn đề: Dual linh hoạt hơn (giảm approximation bias) nhưng có nhiều tham số hơn nên dễ khớp nhiễu (tăng variance). Cho tới nay chưa có tiêu chuẩn lý thuyết nào cho biết khi nào lợi ích của Dual đáng đánh đổi chi phí ước lượng thêm — và liệu có thể quyết định từ dữ liệu huấn luyện hay không.

II. Main Idea:

Bài báo xây dựng lý thuyết bias–variance cho toán tử tuyến tính bilinear rank thấp:

Theorem 1: định lượng chính xác khoảng cách xấp xỉ của Shared — gồm skew energy, trị riêng âm, và các trị riêng dương bị bỏ; Shared ⊂ Dual nghiêm ngặt.
Theorem 2 + Corollary 1 (ranh giới pha Gaussian cục bộ): trong mô hình nhiễu isotropic quanh một toán tử Shared rank-r, Dual có rủi ro thấp hơn khi và chỉ khi tín hiệu hướng bình phương vượt chi phí ước lượng của các chiều thêm: δ² > σ²k, với k = r(2p−r−1)/2 chiều chỉ Dual có (skew trong không gian hoạt động + cross-subspace trái/phải khác nhau).
SURE selection (Theorem 3): chọn Dual khi ‖Π_A Z‖²_F > 2σ²k, với công thức chính xác về xác suất chọn đúng và model-choice regret qua phân phối chi-bình phương phi tâm.
CARS (Cross-fitted Asymmetry Risk Selector): dùng tích trong giữa dual–shared fit trên hai nửa dữ liệu rời nhau trừ phạt mức bất đồng thuận — ước lượng độ lớn tín hiệu tái lập được mà không cần biết phương sai nhiễu, chọn Dual nếu điểm > 0.

Ví dụ đời thường: giống việc thuê thêm một thợ riêng cho từng công đoạn (Dual) — chỉ đáng khi lượng việc chuyên biệt đủ lớn để bù chi phí tuyển dụng và rủi ro thử-việc; còn ít việc thì một người làm cả hai đầu việc (Shared) an toàn hơn, và ta đo được "lượng việc chuyên biệt" bằng cách xem hai đội làm việc có thống nhất kết quả không.

III. Main Results:

RQ1 – Ranh giới xuất hiện đúng như dự đoán: trong mô phỏng Gaussian, tín hiệu mismatch càng mạnh thì cần càng ít training pairs để Dual vượt Shared (ví dụ rotation 0.8 rad cần n=256, 1.2 rad chỉ cần n=64). Mô phỏng local-Gaussian khớp lý thuyết trong 0.25% và xác suất chọn SURE trong 0.001.
RQ2 – Tín hiệu hướng ước lượng được: raw plug-in asymmetry bị phồng do nhiễu; sau hiệu chỉnh SURE, điểm tăng dần theo decile và dự đoán đúng lợi thế Dual trên held-out fit.
RQ3 – Mismatch, rank, sample size: lợi thế Dual–Shared NDCG@10 tăng gấp ~4.6 lần khi query rotation từ 0° → 90° (0.0032 → 0.0146; MS MARCO đổi dấu từ −0.0008 sang +0.0219). Ở n=32, Shared thắng 13/16 ô; ở n=1024 và 2048, Dual thắng cả 32 ô.
RQ4 – Operator risk và CARS: cả 168 đường cong rủi ro đều dịch về phía Dual khi dữ liệu tăng. CARS giảm held-out regret 49–96% so với lựa chọn cố định tốt hơn, đạt 90.1% độ chính xác chọn geometry, thắng 85/100 so sánh encoder–fold trên 5 dataset (ArguAna, MS MARCO, FEVER, NQ, SciFact) và 4 encoder (E5-base-v2, BGE-base, GTE-base, Contriever).

IV. Conclusion & Future Works:

Lựa chọn Shared hay Dual phụ thuộc vào mức độ lệch hướng (directional mismatch) giữa query và document sau khi whitening, và lượng dữ liệu huấn luyện — dữ liệu nhiều hơn có thể đảo ngược ưu thế từ Shared sang Dual. CARS cho thấy chọn geometry bằng tín hiệu cross-fitted đáng tin hơn gắn chặt một geometry. Hướng tương lai:

Mở rộng ước lượng rủi ro cho nhiễu anisotropic và trực tiếp cho ranking metrics thay vì Frobenius risk.
Xem xét partial sharing — chọn số chiều được tham số hóa riêng đồng thời với rank.
Áp dụng khung cho bài toán two-view representation nơi hai đầu vào đóng vai trò khác nhau.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng ranh giới bias–variance cho nhiễu anisotropic trong không gian toán tử, dùng ước lượng hiệp phương sai thực nghiệm từ embedding để hiệu chỉnh CARS cho dữ liệu thật lệch chuẩn.
Tối ưu hóa trực tiếp geometry selection theo ranking metrics (NDCG, MAP) thay vì Frobenius operator risk, thu hẹp khoảng cách giữa tiêu chuẩn chọn mô hình và chất lượng retrieval thực tế.
Thiết kế kiến trúc retrieval-head với partial asymmetry: thuật toán chọn đồng thời rank và số chiều chiếu riêng cho query/document dựa trên kiểm định tín hiệu hướng trên từng tập dữ liệu.

2. Patent:

Hệ thống tự chọn kiến trúc chiếu cho tìm kiếm ngữ nghĩa trên điện thoại: ứng dụng search dùng CARS trên dữ liệu phản hồi người dùng cục bộ để quyết định dùng một hay hai ma trận chiếu, cân bằng độ chính xác và chi phí huấn luyện trên thiết bị.
Dịch vụ đám mây chọn geometry cho bộ embedding doanh nghiệp: API nhận cặp embedding query–document và nhãn liên quan, tự ước lượng tín hiệu hướng qua cross-fitting rồi khuyến nghị dùng chiếu chung hay chiếu đôi, giảm hối tiếc chất lượng tìm kiếm 50% so với cấu hình cố định.
Module tinh chỉnh RAG cho trợ lý AI di động: theo dõi độ lệch giữa cách người dùng hỏi và cách tài liệu được viết theo thời gian, tự động bật chiếu bất đối xứng khi dữ liệu hội thoại tích lũy đủ để ước lượng ổn định.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.32488
ArXiv Abstract	https://arxiv.org/abs/2609.32488
PDF Download	https://arxiv.org/pdf/2609.32488.pdf
Github Repository	N/A

44. Chinese-Jev: Bringing System One Model to Chinese-Language Tasks (12 votes)

Tác giả: Zexiao Wang, Zihao Zhang, Xudong Wang, Pan Wang, Ziyi Ye, et al.

Xuất bản lúc: 2026-09-29

Tag: System One Model, Chinese NLP, Text Classification, Encoder-only, On-device Inference, Domain Adaptation, Calibration

I. Main Problem:

Các tác vụ NLP thực tế (phân loại ý định, chấm điểm đánh giá, chọn đáp án, đánh giá đúng/sai) không cần mô hình sinh văn bản dài mà chỉ cần một quyết định có giới hạn — gọi là mô hình System One kiểu Jev. Tuy nhiên:

Các mô hình Jev hiện có kém chính xác với tiếng Trung, hạn chế khả năng dùng trong cả tác vụ chung lẫn chuyên ngành (y tế, pháp luật, tài chính).
Dữ liệu huấn luyện tiếng Trung rất đa dạng về dạng chú thích (nhãn phân loại, đúng/sai, thang điểm có thứ tự), khó đưa về một dạng huấn luyện thống nhất.
LLM lớn chi phí cao và độ trễ lớn khi chỉ cần một nhãn/điểm số.

II. Main Idea:

Chinese-Jev là mô hình System One nhẹ (~322M tham số, backbone encoder-only mmBERT) cho ra quyết định tiếng Trung qua ba dạng: choice (chọn trong các phương án), noul (phán định đúng/sai), score (chấm thang điểm) — tất cả trong một forward pass duy nhất, đầu ra là phân phối xác suất trên các phương án.

Quy trình gồm hai trụ cột:

Pipeline xây dựng dữ liệu thống nhất: chuyển mọi chú thích dị biệt (câu hỏi một đáp án, nhãn Yes/No, điểm đánh giá liên tục/rời rạc, câu hỏi nhiều đáp án) thành phân phối xác suất mục tiêu trên tập phương án — kèm dedup theo fingerprint, giữ nguyên thứ tự thang điểm và cả soft supervision từ nhiều người chấm. Kết quả: corpus 10 triệu quyết định thuộc 8 nhóm tác vụ, cân bằng 3 dạng quyết định.
Huấn luyện hai giai đoạn: pre-train trên corpus chung → fine-tune riêng cho y tế, pháp luật, tài chính. Loss kết hợp cross-entropy với RLCD (policy-gradient trên logit nhiễu Gaussian) để căn chỉnh với phân phối mục tiêu.

Ví dụ đời thường: giống như thay vì nhờ một chuyên gia văn học viết cả bài phân tích để chọn đáp án trắc nghiệm, ta chỉ cần một giám khảo nhanh tay đọc đề một lượt rồi chấm điểm luôn từng phương án — nhanh gọn, đủ tin cậy, và còn chạy được ngay cả khi không có mạng.

III. Main Results:

Tác vụ chung (CJ-Bench General): Chinese-Jev đạt 69.20% accuracy, vượt mô hình Jev đóng kín (+1.24% tương đối), giảm ECE từ 11.45% xuống 3.78%, nhanh hơn API Jev 20.3× (14 ms/quyết định).
Tác vụ chuyên ngành: fine-tune giúp y tế tăng tới +47.88 điểm so với mô hình chung; bác sĩ chuyên ngành y tế vượt Jev +4.0% tương đối (87.65%). Trung bình ba domain đạt 92% accuracy của Jev với latency chỉ 15 ms (17× nhanh hơn API Jev).
So với LLM: nhanh hơn Qwen3.5-2B khoảng 20× trên tác vụ chung với accuracy cao hơn hẳn (69.20% vs 32.95%).
Chạy on-device: bản INT8 quantized triển khai trong trình duyệt trên iPhone 15 Pro, latency ~1 giây/quyết định, hoàn toàn local, không gửi dữ liệu lên server.
Giới hạn: vẫn thua Jev ở pháp luật và tài chính; calibration sau fine-tune không đồng đều (ECE legal tăng dù accuracy tăng).

IV. Conclusion & Future Works:

Chinese-Jev chứng minh một mô hình encoder nhỏ, được pre-train thống nhất trên 10 triệu quyết định tiếng Trung rồi fine-tune chuyên ngành, có thể vượt mô hình Jev đóng kín ở tác vụ chung và y tế, đạt 92% ở các domain còn lại với tốc độ gấp ~20 lần, đồng thời chạy được trên điện thoại. Tác giả sẽ công bố mô hình, dữ liệu, benchmark và code. Hướng tương lai: thu hẹp khoảng cách accuracy ở pháp luật/tài chính và cải thiện calibration đồng đều sau domain adaptation.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng phương pháp chuyển chú thích dị biệt thành phân phối xác suất thống nhất cho các ngôn ngữ ít tài nguyên ngoài tiếng Trung, xây dựng các biến thể System One đa ngôn ngữ.
Kết hợp domain adaptation với kỹ thuật calibration (temperature scaling, post-hoc calibration) để cải thiện độ tin cậy xác suất của các mô hình chuyên ngành sau fine-tune.
Nén và tối ưu mô hình quyết định nhỏ hơn nữa (distillation, quantization 4-bit) để hạ latency on-device xuống dưới 100 ms cho các ứng dụng routing và phân loại thời gian thực trên điện thoại.

2. Patent:

Trợ lý điện thoại thông minh tự chọn hành động offline: người dùng nhắn yêu cầu bằng tiếng Trung (vd. 'nhắc tôi họp 9h'), mô hình nhỏ chạy ngay trên máy chấm xác suất các hành động (đặt nhắc việc, xem thời tiết, phát nhạc) và tự động kích hoạt đúng chức năng trong ~1 giây, không cần mạng, không gửi tin nhắn lên đám mây.
Hệ thống phân loại ý định khách hàng cho tổng đài ngân hàng: mô hình encoder nhẹ chạy local tại máy chủ chi nhánh, đọc câu hỏi của khách và chấm điểm các phương án dịch vụ (kiểm tra số dư, chuyển khoản, khóa thẻ) trong vài mili-giây để định tuyến cuộc gọi tự động.
Ứng dụng hỗ trợ chẩn đoán y tế trên điện thoại cho bác sĩ vùng sâu: nhập triệu chứng và các lựa chọn chẩn đoán, mô hình chuyên ngành y tế chấm xác suất từng phương án ngay trên thiết bị, hỗ trợ gợi ý khi không có kết nối internet.
Công cụ sàng lọc hồ sơ pháp lý nội bộ cho doanh nghiệp: mô hình pháp luật fine-tune chấm điểm mức độ liên quan của điều khoản và phán định đúng/sai về tính hợp lệ, chạy với độ trễ 15 ms cho hàng triệu văn bản mà không tốn chi phí API mô hình lớn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.36965
ArXiv Abstract	https://arxiv.org/abs/2609.36965
PDF Download	https://arxiv.org/pdf/2609.36965.pdf
Github Repository	https://github.com/gulucaptain/Chinese-Jev

45. Adversarial Training for Pixel Diffusion (12 votes)

Tác giả: Xin Lin, Zhifei Zhang, Yuqian Zhou, Haitian Zheng, Zhe Lin, et al.

Xuất bản lúc: 2026-09-29

Tag: Pixel Diffusion, Diffusion Models, Adversarial Training, Text-to-Image Generation, Image Quality, High-Frequency Restoration, Generative Models

I. Main Problem:

Pixel diffusion tạo ảnh màu trực tiếp, bỏ qua autoencoder, nên mô hình phải tự dựng cả bố cục toàn cục lẫn chi tiết mịn.
Mô hình hội tụ vẫn thiếu hụt thống kê tần số cao của ảnh tự nhiên: ảnh ra mượt, ít texture, độ dốc phổ α = 2.59 so với ảnh thật khoảng 2.19.
Câu hỏi: có thể dùng adversarial post-training để vá lỗi chi tiết mà không đánh đổi distribution fidelity, coverage, prompt alignment hay quy trình lấy mẫu không?

II. Main Idea:

Giữ nguyên mô hình pixel diffusion/flow-matching đã học, chỉ thêm hinge adversarial loss trên ảnh sạch dự đoán ở các bước nhiễu không quá cao, khi bố cục đã đủ rõ.
Bộ phân biệt dùng backbone ảnh pretrained đóng băng để so ảnh dự đoán với ảnh thật; generator nhận thêm gradient khuyến khích đưa phổ tần số cao về gần ảnh tự nhiên.
Không đổi kiến trúc, không giảm số bước lấy mẫu, không dùng preference labels, reward model hay distillation.
Cơ chế thành công: pixel diffusion chạm trực tiếp tới không gian ảnh cuối nên mất mát đối kháng sửa đúng vùng thiếu sót; latent diffusion phải qua decoder đóng băng nên tín hiệu chỉnh tần số cao bị suy giảm.

Ví dụ đời thường: giống như sau khi bức tranh đã có phác thảo, họa sĩ ngồi cạnh một người phê bình quen ảnh thật và chỉ thêm các nét mảnh trực tiếp lên vải; nếu phải chỉnh qua một lớp in/photocopy đóng băng, lời góp ý về nét mảnh sẽ bị lu mờ.

III. Main Results:

DeCo pixel: FID 33.27 → 28.59, pFID 27.91 → 24.38, CMMD 0.836 → 0.736, recall 0.361 → 0.406, DPG Score 81.6 → 83.3, TOPIQ 0.711 → 0.768, MANIQA 0.636 → 0.712.
PixelGen pixel: DPG Score 78.4 → 80.8, recall 0.319 → 0.403, FID 33.94 → 33.20, CMMD 0.762 → 0.725, TOPIQ 0.755 → 0.799, MANIQA 0.645 → 0.723.
Phổ tần số: DeCo mid-band 4.9% → 7.5%, high-band 2.1% → 3.9%; PixelGen mid 6.6% → 8.9%, high 3.9% → 6.4%. Độ dốc phổ DeCo 2.59 → 2.24, gần ảnh thật ≈2.19, không bị đẩy về nhiễu trắng.
Không phải sharpening generic hay memorization: mean nearest-neighbor gần như không đổi 0.586 → 0.586, maximum NN giảm 0.943 → 0.929; unsharp mask chỉ cải thiện FID tới khoảng 32.3, kém hơn 28.59 của adversarial post-training.
So với perceptual loss: perceptual supervision cũng thêm high-frequency nhưng làm giảm saturation/contrast/colorfulness và làm xấu FID/DPG; adversarial loss thêm chi tiết đồng thời giữ màu sắc và phân phối.
Pixel–latent contrast: SANA và PixArt-α không có joint gains tương tự; high-band share gần như không đổi 2.2% → 2.3% và 2.1% → 1.9%. Probe qua PixArt frozen decoder cho thấy decoded-HF response yếu hơn 3.5–11× so với pixel identity.
Ablation: discriminator pretrained đóng băng cho FID tốt hơn, khoảng 28.6–31.0, trong khi PatchGAN/StyleGAN train từ đầu gần baseline 32.5–33.5; noise gate t ≥ 0.35 nghiêng về DPG/NR-IQA, t ≥ 0.53 nghiêng về IS/recall; trọng số adversarial w = 0.1 là điểm tham chiếu.

IV. Conclusion & Future Works:

Adversarial post-training là cách refine chất lượng thực dụng cho pixel diffusion: cải thiện đồng thời fidelity, diversity, prompt alignment và no-reference quality mà không đổi architecture hay inference.
Bài học chính: hiệu chỉnh adversarial thành công khi có lỗi có thể sửa trong một subspace của output và mô hình có access trực tiếp tới subspace đó; decoder đóng băng trong latent diffusion làm suy giảm khả năng sửa decoded high-frequency.
Hướng tương lai: tự động chọn discriminator, noise gate và adversarial weight theo metric đích; kết hợp perceptual loss có ràng buộc màu sắc để tránh domain shift; mở rộng phân tích output-access sang các mô hình sinh ảnh trực tiếp khác.

V. Brainstorming Space:

1. Publish Papers:

Phát triển khung chọn cấu hình adversarial post-training theo metric đích: tối ưu noise gate, adversarial weight và discriminator backbone cho từng cặp fidelity–alignment–perceptual quality.
Nghiên cứu hybrid perceptual–adversarial cho pixel diffusion, giữ lợi ích high-frequency của cả hai nhưng chặn domain shift desaturated/low-contrast bằng regularizers thống kê màu.
Mở rộng lý thuyết output-access sang video diffusion và image restoration trực tiếp, kiểm chứng khi nào không gian output cho phép hiệu chỉnh adversarial đạt spectral power tự nhiên.

2. Patent:

Ứng dụng tạo ảnh từ chữ trên điện thoại: sau khi mô hình khuếch tán pixel học xong, một mô-đun phê bình ảnh thật được bật ở giai đoạn ít nhiễu để thêm texture tóc, da, vải mà không đổi bố cục hay giảm độ đa dạng.
Trình chỉnh ảnh chân dung offline trong máy ảnh: ảnh chụp hoặc ảnh tạo bằng mô hình trực tiếp được hiệu chỉnh cuối bằng mất mát đối kháng nhẹ, khôi phục chi tiết mịn tự nhiên mà không làm chết màu hay tạo cảm giác oversharpen.
Bộ lọc khôi phục ảnh cũ trên điện thoại: dùng mô hình khuếch tán pixel với critic ảnh thật đóng băng để vá tần số cao bị mất do nén, scan, giấy cũ; ưu tiên bố cục ổn định rồi mới thêm nét mịn cuối.
Hệ thống cảnh báo khi hiệu chỉnh adversarial không hiệu quả: nếu mô hình sinh ảnh phải qua decoder đóng băng, hệ thống đo độ suy giảm chi tiết tần số cao sau decode và tự chuyển sang cơ chế hiệu chỉnh phù hợp hơn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.38170
ArXiv Abstract	https://arxiv.org/abs/2609.38170
PDF Download	https://arxiv.org/pdf/2609.38170.pdf
Github Repository	N/A

46. Selecting The Most Informative Tokens in Natural Language Autoencoders (11 votes)

Tác giả: Federico Torrielli, Gianluca Barmina, Andrea Blasi Núñez, Amon Rapp, Luigi Di Caro, et al.

Xuất bản lúc: 2026-09-29

Tag: Interpretability, Natural Language Autoencoders, LLM Auditing, Prompt Injection, Activation Analysis, Explainable AI

I. Main Problem:

Natural Language Autoencoders (NLAs) giải mã activation nội bộ của LLM thành văn bản để kiểm toán mô hình, nhưng giải thích mọi token quá tốn kém (mỗi vị trí cần vòng lặp sinh ~130 token, trong khi transcript có hàng trăm đến hàng nghìn vị trí). Câu hỏi: vị trí nào nên được kiểm tra để phát hiện mối đe dọa (prompt injection, che giấu thông tin)? Các công trình trước chọn vị trí theo quy ước tùy ý (vị trí cuối, lưới đều 8 điểm) và dễ bỏ sót token mang thông tin.

II. Main Idea:

Đề xuất ranker: một điểm số tính được trước khi sinh bất kỳ giải thích nào, sắp xếp vị trí token theo khả năng giải thích tại đó mô tả được mối đe dọa. Các tác giả:

thử 13 tín hiệu thuộc 3 họ từ một forward pass duy nhất: phân phối dự đoán (surprisal, entropy, varentropy, temporal KL), pattern attention (lookback ratio, sink drain, head disagreement, w), và vector activation (resid jump, norm ratio, peak ratio, dominant mass, resid jump nla)
kết hợp từng cặp tín hiệu theo rank → tổng 247 ứng viên, đánh giá bằng AUROC so với nhãn "on-task" của một judge LLM
so sánh với baseline chat structure (vai trò chat, segment, vị trí biên) — chỉ đọc transcript đã render, không cần forward pass
thí nghiệm "bridge" nối tín hiệu với kết quả giải thích thực tế trên 4,7 triệu explanations, 4 mô hình (Qwen2.5-7B, Gemma-3-12B/27B, Llama-3.3-70B) và 4 bộ dữ liệu (OpenPromptInjection, Tensor Trust, Liars' Bench, taboo organisms)

Ví dụ đời thường: giống như thanh tra nhà máy không kiểm từng chiếc máy, mà dựa vào kinh nghiệm cấu trúc nhà xưởng (khu vực nào thường rủi ro) để đi thẳng đến vài điểm đáng ngờ — biết vị trí "cửa ngõ" thường quan trọng hơn đo đạc lại toàn bộ.

III. Main Results:

Chat structure thắng hầu hết: baseline chỉ dùng cấu trúc transcript đạt AUROC cao hơn tín hiệu đơn mạnh nhất ở 12/14 tổ hợp dataset-model, không cần forward pass nào.
Activation signals mạnh nhất trong số các tín hiệu tính toán: mạnh nhất ở 11/14 cells (resid jump nla và dominant mass nổi bật); tín hiệu attention thắng 3 cells; không tín hiệu nào từ phân phối dự đoán dẫn đầu.
Ngân sách 5%: giải thích chỉ 5% vị trí giữ được ≥95,8% tỷ lệ thành công so với giải thích toàn bộ trên 3/4 datasets; Liars' Bench cần kiểm tra nhiều hơn.
Hướng tín hiệu phụ thuộc task: phải fit dấu của tín hiệu theo mối đe dọa, sai dấu thì tệ hơn chọn ngẫu nhiên.
Transfer qua fine-tuning: verbalizer pretrained khôi phục được từ bị che giấu sau fine-tuning (LoRA) mà không cần huấn luyện lại — cùng một prompt cho ba con khác nhau khai ra ba từ mật khác nhau, bác bỏ nghi ngờ "text inversion".
Hạn chế: nhãn chỉ từ một judge model, đánh giá một layer verbalizer và transcript ngắn.

IV. Conclusion & Future Works:

Kết quả ủng hộ dùng cấu trúc chat để phân bổ ngân sách giải thích (task relevance là bước đầu), chỉ dùng tín hiệu tính toán khi cần phân biệt vị trí trong cùng một segment. Hướng tương lai: kiểm chứng nhãn bằng judge thứ hai và con người, mở rộng sang nhiều layer verbalizer và transcript agent dài hơn.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng phương pháp chọn vị trí bằng cấu trúc chat sang agent transcripts dài hơn (hàng nghìn bước), kết hợp cấu trúc động với tín hiệu attention theo cửa sổ trượt.
Nghiên cứu hệ thống huấn luyện verbalizer đa mục đích: một verbalizer pretrained phục vụ kiểm toán nhiều mô hình con sau fine-tuning (LoRA/adapter), đo độ lệch reconstruction khi trọng số thay đổi.
Kết hợp ranker chọn vị trí với judge đa mô hình để tăng độ tin cậy nhãn on-task, đồng thời định lượng tỷ lệ cảnh báo sai/false negative khi giảm ngân sách giải thích.

2. Patent:

Hệ thống giám sát an toàn LLM trên điện thoại/đám mây: ứng dụng chat tích hợp bộ lọc phân tích cấu trúc hội thoại (vai trò tin nhắn, vị trí ranh giới) để chỉ gọi mô hình giải thích 5% vị trí đáng ngờ, phát hiện lệnh injection mà không cần chạy LLM lớn trên mọi token — tiết kiệm pin và chi phí.
Trợ lý kiểm toán doanh nghiệp cho chatbot nội bộ: dashboard tự đánh dấng các đoạn tin nhắn nằm ở ranh giới giữa prompt và câu trả lời để nhân viên an ninh ưu tiên đọc giải thích, cảnh báo khi nội dung có dấu hiệu đánh cắp lệnh hay che giấu thông tin.
Công cụ kiểm tra mô hình con đã fine-tune: tải adapter của bên thứ ba lên mô hình gốc, dùng verbalizer có sẵn để đọc activation và phát hiện từ khóa/hành vi bị che giấu mà không cần huấn luyện lại hệ thống giải thích, giúp sàng lọc mô hình trước khi triển khai.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.37040
ArXiv Abstract	https://arxiv.org/abs/2609.37040
PDF Download	https://arxiv.org/pdf/2609.37040.pdf
Github Repository	https://github.com/federicotorrielli/nla-token-selector

47. VideoLoop: Looped Working Memory Against Semantic Thrashing in Long-Form Video Agents (11 votes)

Tác giả: Jinfa Huang, Jianming Xu, Jingyang Lin, Zhengyuan Yang, Jiebo Luo

Xuất bản lúc: 2026-09-29

Tag: Long-form Video Understanding, Multimodal Agents, Working Memory, LLM Agents, LVLM, Memory Management, Tool Use

I. Main Problem:

Các tác tử (agent) hiểu video dài hiện nay dùng working memory dạng append-only: mỗi bước quan sát đều được nối thêm vào context. Khi context vượt quá giới hạn hiệu quả của LVLM, xảy ra hiện tượng semantic thrashing (nghẽn ngữ nghĩa — mượn từ OS thrashing của Denning 1968): tác tử vẫn làm việc nhiều hơn nhưng khả năng truy xuất bằng chứng đã tìm thấy sụp đổ dần.

Tác giả chứng minh đây là vấn đề cấu trúc, không phải lỗi tinh chỉnh:

append-only chỉ thêm được bằng chứng còn thiếu, nhưng không thể xóa nhiễu đã tích lũy (không có toán tử rewrite)
chi phí lưu giữ nhật ký quan sát tăng không giới hạn khi số bước tăng
Hệ quả: bằng chứng quan trọng bị pha loãng, độ chính xác trên câu hỏi khó (quartile Q4 của VideoMME) chỉ còn ~61%.

II. Main Idea:

VideoLoop — kiến trúc hai vòng lặp (dual-loop) tách biệt suy luận và quản lý bộ nhớ:

Vòng ngoài: tác tử đa phương thức quan sát video qua bộ công cụ tối giản — ANALYZE (phân tích khung hình), TRANSCRIBE (phiên âm), EXECUTE (chạy code tùy ý trong sandbox), ANSWER. Mọi kết quả được ghi vào filesystem bên ngoài không giới hạn (lưu lossless), không đổ thẳng vào context.
Vòng trong (memory orchestrator): sau mỗi bước ngoài, một LLM riêng đọc lại question, quan sát mới, chỉ mục filesystem, rồi rewrite working memory có giới hạn (≤32K tokens) bằng các phép chỉnh sửa theo section: UPDATE / APPEND / DELETE.
Working memory gồm 6 section định kiểu (metadata, hiểu biết nội dung, bằng chứng có timestamp, độ phủ thời gian, nhật ký hoạt động, mục tiêu đang mở) — luôn gọn và tập trung vào query.
Ba tầng lưu trữ: Tier 1 = working memory (bounded), Tier 2 = manifest nén của lịch sử hành động, Tier 3 = filesystem nguyên bản (unbounded).

Lý thuyết: rewrite có ích khi nhiễu bị xóa + bằng chứng thiếu được nhập ≥ bằng chứng mất + nhiễu mới thêm — điều append-only không bao giờ làm được.

Ví dụ đời thường: giống người làm nghiên cứu không nhồi hết giấy tờ vào đầu, mà cất tất cả vào tủ hồ sơ, mỗi sáng chỉ rút ra vài tài liệu liên quan xếp gọn lên bàn làm việc; bàn luôn gọn dù hồ sơ ngày càng nhiều.

III. Main Results:

SOTA trên 3 benchmark (policy = Gemini 3.1 Pro):
- VideoMME (long): 88.3% (+4.5 so với native)
- VideoMMMU: 88.8% (+4.2)
- LongVideoBench (long): 80.9% (+3.2)
- Vượt các agentic method mạnh nhất trước đó tới +7.1 / +10.4 / +4.5 điểm.
Plug-and-play qua mọi backbone: +4.5 (Gemini 3.1 Pro), +5.1 (Gemini 3 Flash), +3.5 (Kimi K2.5), +3.7 (MiMo-V2-Omni) — không cần retrain.
Chứng minh semantic thrashing bằng blind judge (chỉ đọc context, không xem video): ở Q4 khó nhất, VideoLoop giữ 81.1% retrievability vs 60.9% của append-only; khi dễ (Q1) là 94.7% vs 93.8%.
Ablation: dual-loop rewrite +1.4, thêm filesystem +2.4 (lớn nhất ở Q4: +7.6); tổng cộng +3.9 so với append-only.
Hiệu quả token: 85.8% accuracy với chỉ +0.5% token so với append-only (618.2K vs 614.9K/câu) — ít khung hình xem hơn, ít bước lặp hơn, phân bố xem cân bằng hơn trên toàn video.

IV. Conclusion & Future Works:

Kết luận cốt lõi: với tác tử dài hạn, bộ nhớ nên được curation (curation), không phải accumulation (tích lũy). VideoLoop cho thấy việc tách reasoning khỏi memory management — unbounded external store + bounded rewritten working memory — vừa nâng accuracy vừa không tốn thêm token.

Hướng mở (gợi ý từ thiết kế):

Áp dụng nguyên lý dual-loop memory cho tác tử đa phương thức ngoài video (audio dài, tài liệu, hội thoại dài hạn)
Học/cải thiện chất lượng rewrite của orchestrator (hiện phụ thuộc khả năng LLM, chỉ đảm bảo khi ρ+σ ≥ μ+ν)
Tối ưu budget working memory, chiến lược retrieval từ filesystem, và cơ chế nén manifest

V. Brainstorming Space:

1. Publish Papers:

Nguyên lý 'curated memory' cho agent dài hạn đa phương thức: filesystem ngoài + working memory được rewrite mỗi bước áp dụng cho tổng hợp video–audio–văn bản dài hàng giờ.
Nghiên cứu chất lượng rewrite: huấn luyện hoặc tự cải thiện memory orchestrator để đảm bảo bất đẳng thức lợi ích rewrite (xóa nhiễu + nhập bằng chứng ≥ mất bằng chứng + thêm nhiễu) một cách có kiểm soát.
Agent xem video có ngân sách token chặt: orchestrator quyết định khi nào dừng thu thập bằng chứng dựa trên mức bão hòa working memory thay vì số bước cố định.

2. Patent:

Ứng dụng điện thoại tóm tắt video dài: người dùng tải video dạng tiếng (buổi học, họp, tài liệu); ứng dụng xem theo từng đoạn, lưu ghi chú vào bộ nhớ ngoài trên máy, và mỗi lần chỉ tóm lược lại phần quan trọng liên quan đến câu hỏi — tránh đầy bộ nhớ và trả lời sai khi video kéo dài.
Trợ lý tìm kiếm nội dung trong thư viện video cá nhân: người dùng hỏi 'đoạn nào trong clip quay gia đình có cảnh này'; hệ thống quét video theo từng đoạn, ghi kết quả phân tích khung hình ra file, rồi lặp lại rà soát file đó để chỉ trả về đúng thời điểm cần xem thay vì nạp toàn bộ video.
Hệ thống ghi chú cuộc họp dài tự động: trong cuộc họp vài giờ, agent cập nhật một bản tóm tắt sống có giới hạn (quyết định, người phụ trách, mốc thời gian) bằng cách ghi chi tiết thô ra lưu trữ ngoài và viết lại bản tóm tắt sau mỗi nội dung mới — bản tóm tắt luôn ngắn gọn dù họp kéo dài.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.38119
ArXiv Abstract	https://arxiv.org/abs/2609.38119
PDF Download	https://arxiv.org/pdf/2609.38119.pdf
Github Repository	https://github.com/philipxjm/videoloop

48. Fractional State Space Transition for Long Sequence Modeling (10 votes)

Tác giả: Ivan Kobyzev, Abbas Ghaddar, Ali Nasiri-Sarvi, Lifeng Shang, Yufei Cui

Xuất bản lúc: 2026-09-28

Tag: State Space Models, Long Context, Fractional Calculus, Language Modeling, Sequence Modeling, Mamba

I. Main Problem:

Các mô hình State Space Models (SSMs) hiện đại (Mamba, Gated DeltaNet,...) nén toàn bộ lịch sử chuỗi vào một trạng thái hữu hạn để đạt độ phức tạp tuyến tính. Vấn đề cốt lõi:

Chúng dựa trên ODE (phương trình vi phân thường) ⇒ luật quên hàm mũ: ảnh hưởng của sự kiện quá khứ suy giảm nhanh theo thời gian.
Với chuỗi dài, nhiều sự kiện cũ vẫn cần giữ ảnh hưởng đáng kể — bias hàm mũ không phù hợp với bản chất "trí nhớ dài" (long memory) của dữ liệu tự nhiên.
Có thể dùng FDE (phương trình vi phân phân số) có nhân trí nhớ heavy-tail (đuôi lũy thừa), nhưng FDE không Markovian: trạng thái phụ thuộc toàn bộ quá khứ, không tương thích với lớp recurrent trạng thái hữu hạn ⇒ khó triển khai hiệu quả.

II. Main Idea:

FRAC — kiến trúc selective SSM dựa trên động lực học phân số (fractional dynamics), thay quên hàm mũ bằng quên theo luật lũy thừa (power-law).

Cơ chế gồm 3 bước:

Xấp xỉ nhân fractional bằng tổng hữu hạn của M mode hàm mũ bố trí theo lưới log-timescale (sum-of-exponentials) — dựa trên định lý biểu diễn diffusive của hàm Mittag–Leffler.
Discretize chính xác dưới giả định zero-order-hold thành recurrence: s_t,m = ρ_t,m · s_(t-1),m + κ_t,m · u_t.
Thêm selectivity: biến điều khiển phụ thuộc token (Δ_t, α_t, λ_t — tham số fractional) cùng write/read weights theo từng mode; bộ nhớ đọc/ghi cùng dùng lược đồ địa chỉ theo log-timescale.

Kết quả: module recurrent trạng thái hữu hạn, train song song bằng chunked scan (như Mamba), decode autoregressive với state cache, kernel Triton tùy biến.

Ví dụ đời thường: thay vì một cuốn sổ ghi chép mà trang cũ mờ dần theo tỉ lệ hằng ngày (quên hàm mũ), FRAC giống bộ hồ sơ gồm nhiều ngăn — ngăn gần nhớ chi tiết tuần này, ngăn xa chỉ nhớ dáng vụ việc từ năm ngoái — mỗi ngăn "phai" theo tốc độ khác nhau, ghép lại vừa đủ chi tiết cho cả thời gian ngắn lẫn rất dài.

III. Main Results:

Heavy-tail probing (synthetic): train trên chuỗi 512 token, test đến 128K token — FRAC suy giảm ít nhất; Attention rơi gần ngẫu nhiên từ 8K.
MADLab: FRAC đạt điểm trung bình cao nhất (75.4) so với Mamba3 (74.8), GDN (74.3), Mamba2 (73.8) — cho thấy giữ nguyên các năng lực cơ chế cốt lõi của SSM.
NIAH (needle-in-a-haystack): extrapolate đến 64K (gấp 16× tầm train 4K); FRAC giữ độ chính xác tốt hơn rõ rệt các baseline SSM khi vượt tầm huấn luyện.
LongBench: vượt baseline mạnh nhất (GDN) +1.9% trung bình, tốt nhất ở 8/14 tác vụ.
LM Harness (short-context): chỉ kém Transformer và Mamba3-MIMO 0.2% trung bình — không đánh đổi khả năng ngắn hạn.
Recall-Retrieval thực tế: đứng thứ 3, kém Transformer 2.1%, kém Mamba3-MIMO 0.4%.
DNA modeling (HG38, 7M params, 1K–64K): perplexity ngang hoặc tốt hơn Mamba3/GDN ở mọi độ dài, lợi thế lớn hơn ở context dài.

IV. Conclusion & Future Works:

Luật trí nhớ do động lực học nền sinh ra là một trục kiến trúc quan trọng cho mô hình chuỗi hiệu quả ở context dài: chỉ bằng cách đổi ODE → fractional dynamics (quên lũy thừa thay vì hàm mũ), FRAC cải thiện rõ long-context mà vẫn cạnh tranh short-context.

Hướng tương lai: kết hợp transition trí nhớ dài dạng fractional với cơ chế delta-rule style update để đạt cả inductive bias tầm xa mạnh lẫn truy xuất associative chính xác hơn.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng FRAC thành kiến trúc hybrid: kết hợp nhân fractional heavy-tail với delta-rule gating để đồng thời giữ thông tin dài hạn và ghi nhớ associative chính xác.
Khảo sát lý thuyết về số mode M tối ưu và lưới log-timescale thích ứng theo dữ liệu, thay cho ngân hàng timescale cố định.
Áp dụng trí nhớ fractional cho mô hình đa phương thức (video, audio dài, chuỗi thời gian tài chính/y sinh) nơi tương quan tầm xa theo luật lũy thừa là đặc trưng.

2. Patent:

Trợ lý AI trên điện thoại với trí nhớ hội thoại dài: dùng lớp trí nhớ nhiều timescale để cuộc trò chuyện từ tháng trước vẫn được nhớ mức tổng quát trong khi chi tiết hôm nay sắc nét, không cần lưu toàn bộ lịch sử chat.
Ứng dụng ghi nhớ người dùng cho bàn phím điện thoại: hệ thống có nhiều vùng nhớ quên chậm theo từng mức độ — tên riêng, địa chỉ được giữ lâu; từ vựng thời thượng phai nhanh tự nhiên.
Module phân tích chuỗi thời gian y sinh/thiết bị đeo trên điện thoại: ghi nhớ dấu hiệu bất thường từ tuần hoặc tháng trước bằng cơ chế quên lũy thừa nhiều tầng thời gian, phát hiện xu hướng dài mà không tốn bộ nhớ lưu toàn bộ dữ liệu thô.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.36314
ArXiv Abstract	https://arxiv.org/abs/2609.36314
PDF Download	https://arxiv.org/pdf/2609.36314.pdf
Github Repository	https://github.com/anasiri/frac-ssm

49. Scheduling Recursive Reasoning in Looped Transformers (10 votes)

Tác giả: Boyuan Wang, Chengyao Yu, Jiaxi Ren, Hongxin Wei, Bingyi Jing, et al.

Xuất bản lúc: 2026-09-29

Tag: Looped Transformers, Recurrent Reasoning, Test-Time Computation, Adaptive Step Size, Latent Reasoning, Language Models

I. Main Problem:

Các mô hình recurrent reasoning mở rộng test-time computation bằng cách lặp lại cùng một phép cập nhật tham số trên latent state, nhưng hầu hết đều dùng unit update scale: mỗi vòng lặp luôn áp dụng bước học ngầm với độ lớn cố định.

Khi các update liên tục đi cùng hướng, bước cố định có thể quá bảo thủ, lãng phí số vòng lặp.
Khi các update dao động hoặc đổi hướng, bước cố định lại quá mạnh, khiến quỹ đạo kém ổn định.
Tín hiệu tối ưu nhất là độ nhạy của terminal task loss theo scale η, nhưng target y không có tại inference, nên cần một chính sách chỉ dùng trajectory đã quan sát được.

II. Main Idea:

Bài báo phân tích độ nhạy của terminal loss theo relaxation factor η và chỉ ra rằng trung bình thời gian của nó có dạng chính xác Ā = P − S: P là persistent progress, S là centered fluctuation. Nếu P chiếm ưu thế nên tăng η; nếu S chiếm ưu thế nên giảm η.

TAPS vận hành hóa nguyên tắc này bằng cách:

dùng EMA để tóm tắt các learned update {Δ_j} theo thời gian
ước lượng persistent energy P̂ từ phần chuyển động nhất quán và fluctuation energy Ŝ từ phần dao động quanh trung bình
gộp thành balance score bB = (P̂ − γŜ)/(P̂ + γŜ + ε) ∈ [−1, 1]
đặt η_k = clip(1 + ρ·bB, η_min, η_max), sau vài vòng warmup η = 1
khi tiến triển mạnh: over-relaxation; khi dao động mạnh: damping

Về lý thuyết, dưới giả định so sánh có điều kiện giữa năng lượng quan sát được và oracle sensitivity, TAPS xác định đúng hướng nên tăng hay giảm η; các bound một-factor và cumulative gain cho thấy có thể giảm expected terminal loss và đạt target quality với fewer recurrent loops. Khi đưa nguyên tắc progress–fluctuation vào training, loss phạt fluctuation chỉ khi vượt persistent progress: L_co = L_task + L_ACT + μΣ[Ŝ − κP̂]_+.

Ví dụ đời thường: giống như đi bộ trong hành lang đông: khi các bước chân cứ tiến về phía trước đều đặn ta thoải mái bước dài hơn; còn khi chân bị lùi-tới, xoay sở hoặc va vào người khác thì phải rút ngắn bước, chậm lại cho ổn định rồi mới tăng tốc tiếp.

III. Main Results:

Không cần retrain, mọi biến thể TAPS cải thiện terminal accuracy và đạt baseline nhanh hơn trên Sudoku và Maze; các fixed scale như η = 0.8 hoặc η = 1.2 không cải thiện nhất quán.
Với training–inference co-design, TAPS đạt tới 91.39% accuracy và 1.300× speedup trên Sudoku, 79.90% accuracy và 1.561× speedup trên Maze, so với unit-step inference tương ứng 90.60% và 78.80%.
TAPS áp dụng được cho nhiều kiến trúc recurrence: latent-state recurrence với TRM, recurrent language models Ouro-1.4B/Ouro-2.6B và Huginn-0125, cũng như intermediate-layer recurrence trên Qwen3-4B-Instruct với trọng số đóng băng.
TAPS kết hợp được với nhiều inference strategy: adaptive exit, hierarchical recurrence, fixed-point inference và parallel recurrent inference kiểu PTRM.
Trên Sudoku-Extreme, adaptive-exit dựa trên TAPS đạt 91.2% Exact với 316.5 effective updates, dùng khoảng 4.7× ít compute hơn FPRM ở accuracy tương đương.
Trong hierarchical recurrence, điều tiết ở inner loop cho terminal accuracy cao hơn outer loop; tần suất refresh controller q có trade-off không đơn điệu giữa ít cập nhật controller và theo dõi trajectory chính xác hơn.
Với fixed-point inference, TAPS đạt các mục tiêu accuracy cao hơn bằng ít recurrent update hơn; accuracy mà fixed-point đạt sau khoảng 1000 update được TAPS match trong khoảng 260 update.

IV. Conclusion & Future Works:

Kết quả định vị update scale như một trục điều khiển bổ sung cho recurrent inference: architecture quyết định what computation is repeated, depth quyết định how long, còn update scale quyết định how strongly each step is applied. TAPS làm trục thứ ba thích ứng theo quỹ đạo recurrent mà không cần target tại inference.

Phần text trích không nêu rõ hướng tương lai chi tiết; các hướng mở rộng tự nhiên từ kết quả là tối ưu estimator và tần suất refresh controller, kết hợp sâu hơn giữa training objective với adaptive exit/parallel rollout, và kiểm tra chặt chẽ hơn lý thuyết dưới giả định yếu hơn trên các recurrent architecture rộng hơn.

V. Brainstorming Space:

1. Publish Papers:

Tối ưu hóa bộ điều tiết bước cập nhật cho recurrent transformer chạy trên thiết bị biên: cân bằng độ chính xác, độ trễ và năng lượng bằng cách chọn tần suất cập nhật controller và ngân sách vòng lặp theo độ khó từng đầu vào.
Điều phối đồng thời độ sâu, độ rộng và độ lớn bước recurrence trong latent reasoning language models: kết hợp parallel rollouts, adaptive exit và progress–fluctuation scheduling để tìm Pareto accuracy–latency cho bài toán suy luận dài.
Thiết kế mục tiêu huấn luyện co-design cho recurrent language models: phạt dao động khi vượt tiến triển bền để tạo dynamics tương thích với adaptive step-size control ở ít vòng lặp hơn.

2. Patent:

Trợ lý AI trên điện thoại dùng mô hình transformer lặp: hệ thống theo dõi các lần cập nhật nội bộ liên tiếp; nếu chúng cùng cải thiện một hướng thì tăng độ lớn bước để trả lời nhanh, nếu chúng lùi-tới hoặc dao động thì giảm bước để tiết kiệm pin và giảm độ trễ.
Ứng dụng giải đố logic trên thiết bị như Sudoku hoặc mê cung: tự phân biệt câu đố dễ và khó bằng quỹ đạo suy luận, dùng thêm vòng lặp và bước cập nhật lớn hơn chỉ cho ca khó, qua đó giảm tổng số phép tính trung bình trên mỗi người dùng.
Bộ lập lịch inference đám mây cho language model dạng lặp: tín hiệu tiến triển bền so với dao động được dùng để chọn độ lớn bước và điều kiện dừng theo từng request, giúp giảm giờ GPU mà vẫn giữ chất lượng câu trả lời.
Dịch vụ fine-tune mô hình recurrence cho doanh nghiệp: thêm mức phạt khi dao động vượt tiến triển bền trong quá trình huấn luyện, để mô hình sau này vận hành tốt với chế độ điều tiết bước thích ứng khi triển khai.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.36653
ArXiv Abstract	https://arxiv.org/abs/2609.36653
PDF Download	https://arxiv.org/pdf/2609.36653.pdf
Github Repository	N/A

50. Routing Should Pay for Itself: Sparse Supervision for Economical LLM Routing (10 votes)

Tác giả: Guannan Lai, Gelin Bian, Hao-Xuan Ma, Jun-Peng Jiang, Long Chen, et al.

Xuất bản lúc: 2026-09-29

Tag: LLM Routing, Sparse Supervision, Cost-Efficient Inference, Active Learning, Model Selection, UCB, Hierarchical Estimation

I. Main Problem:

Các router LLM có giám sát phải chạy thử tất cả mô hình ứng viên trên toàn bộ dữ liệu lịch sử (ma trận N×M phản hồi chất lượng) trước khi triển khai — một khoản chi phí giám sát trả trước rất lớn mà hầu hết nghiên cứu bỏ qua:

Các đánh giá hiện tại chỉ đo hiệu quả lúc serving, bỏ qua câu hỏi: tiết kiệm đó có đủ bù lại tiền thu thập dữ liệu không, và sau bao nhiêu query?
Giám sát dày đặc thường thừa thãi về kinh tế: chất lượng routing thường bão hòa sớm (EmbedLLM đạt 99% độ chính xác chỉ với 30% giám sát; kNN với 60%).
Vấn đề cốt lõi: với ngân sách giám sát hạn chế (tối đa K << M mô hình/query), nên thu thập phản hồi của cặp query–model nào và làm sao suy ra hành vi mô hình chưa quan sát mà vẫn giữ quyết định routing tốt?

II. Main Idea:

SAVEROUTER — framework routing với giám sát thưa, gồm 3 giai đoạn:

Thu thập phản hồi thưa có chọn lọc: gom các query liên quan thành nhóm (theo task label hoặc clustering embedding), rồi qua K lượt, mỗi lượt chọn mô hình cho mỗi query bằng tiêu chí UCB kết hợp năng lực ước lượng (shrinkage về năng lực toàn cục của mô hình) + độ bất định — ưu tiên cặp nhóm–model vừa khả năng cao vừa ít bằng chứng.
Ước lượng năng lực phân cấp: trước tiên fit model cộng tính 2 chiều (độ khó chung + hiệu ứng nhóm + hiệu ứng model) làm prior có cấu trúc chia sẻ thông tin qua các cặp thưa; sau đó hiệu chỉnh prior bằng bằng chứng cục bộ có shrinkage (quan sát nhiều → tin dữ liệu, quan sát ít → tin prior).
Hiệu chỉnh phần dư theo từng query: học một predictor nhẹ chỉ cho phần biến thiên còn lại trong nhóm (loại bỏ ảnh hưởng tự thân), giữ được khác biệt tinh giữa các query cùng nhóm. Cuối cùng kết hợp chất lượng dự đoán + chi phí serving để routing theo ngưỡng chất lượng–chi phí.

Kèm theo 2 metric mới: SA-BEP (số query triển khai cần để hoàn vốn chi phí giám sát) và SA-CR (tỉ lệ chi phí sau khi trải đều giám sát trên chu kỳ H query).

Ví dụ đời thường: giống thử size giày — không cần xỏ hết mọi đôi trong cửa hàng; chỉ thử vài đôi ở cỡ gần đúng (chọn lọc thông minh), rồi dựa vào kinh nghiệm "cùng cỡ thì hãng này hơi rộng" (cấu trúc dùng chung) để chốt đôi vừa chân, mất ít công thử nhất.

III. Main Results:

Chỉ dùng ~33–41% phản hồi huấn luyện mà chất lượng routing cạnh tranh hoặc tốt hơn trên cả 4 benchmark (LLMRouterBench, Mixinstruct, MMR-Bench, RouterBench).
Hoàn vốn sớm hơn 1.9–9.5× so với router truyền thống nhanh nhất: LLMRouterBench chỉ 5.3K query (vs 11.5K), RouterBench 42.6K (vs 326.4K), Mixinstruct 1.23M (vs 11.63M).
Vượt cả các router thiết kế cho feedback thưa (WISERouter, SemiRouter thường không hoàn vốn; BaRP tốn giám sát gấp hàng chục lần).
Ablation: bỏ residual theo query → P s giảm 1.63 điểm; gom tất cả query thành 1 nhóm → P s giảm mạnh nhất (0.6338→0.5985); chính sách UCB (capability+uncertainty) tốt hơn random, chỉ-capability, chỉ-uncertainty.
Với K=2 mô hình/query (16.7% giám sát) đã gần đạt độ chính xác toàn giám sát — lợi tức cận biên của giám sát thêm giảm nhanh.
Phát hiện quan trọng: mức giám sát tối ưu cho chi phí serving khác với mức cho hoàn vốn sớm nhất (Random-K hoàn vốn sớm hơn nhưng SA-CR dài hạn tệ hơn).

IV. Conclusion & Future Works:

Routing LLM kinh tế không chỉ phụ thuộc hiệu quả lúc serving mà còn giám sát thu thập bao nhiêu trước triển khai. SAVEROUTER cho thấy thu thập phản hồi chọn lọc + chia sẻ cấu trúc năng lực giữa các query liên quan giúp giảm mạnh chi phí trả trước mà không đánh đổi chất lượng routing. Hướng tương lai (suy luận từ hạn chế): tối ưu hóa đồng thời chiến lược thu thập và chính sách routing dưới ngân sách tổng; ước lượng phân phối năng lực thay vì điểm số trung bình; mở rộng cho chi phí giám sát không đồng nhất giữa các mô hình.

V. Brainstorming Space:

1. Publish Papers:

Tích hợp thu thập phản hồi chủ động (active testing) vào routing: router tự quyết định mua thêm phản hồi ở đâu dưới ngân sách tổng chung cho cả giai đoạn thu thập lẫn triển khai.
Routing có thể thay đổi hệ quy chiếu (preference-varying): mở rộng SAVEROUTER để cùng một tập giám sát thưa phục vụ nhiều điểm vận hành chất lượng–chi phí khác nhau lúc serving.
Nghiên cứu khi nào nên ngừng thu thập giám sát: tiêu chí dừng dựa trên độ bão hòa chất lượng routing thay vì ngân sách cố định K.
Áp dụng ước lượng năng lực phân cấp (prior cấu trúc + shrinkage + residual) cho các bài toán chọn model khác như mixture-of-experts và A/B testing nhiều model.

2. Patent:

Hệ thống điều phối model AI trên điện thoại tiết kiệm chi phí: ứng dụng gom các câu hỏi tương tự thành nhóm, chỉ chạy thử vài model trên một phần nhỏ câu hỏi đại diện, rồi dùng kết quả dùng chung + chỉnh lệch nhỏ theo từng câu hỏi để chọn model rẻ nhất vẫn trả lời đúng, giảm hóa đơn API ngay từ những ngày đầu dùng app.
Trợ lý ảo trên điện thoại tự học sở thích model của người dùng: trong tuần đầu, mỗi câu hỏi chỉ gửi cho 1-2 model được chọn thông minh (vừa khả năng cao vừa còn bất ngường), ghi nhận chất lượng trả lời, để sau vài trăm câu hỏi đã tự biết câu nào nên gửi model rẻ, câu nào cần model mạnh.
Bảng điều khiển doanh nghiệp tính điểm hoàn vốn cho hệ thống routing LLM nội bộ: hiển thị số lượng yêu cầu còn phải xử lý trước khi bù được tiền chạy thử model lúc xây hệ thống, giúp quản lý quyết định có nên đầu tư thu thập thêm dữ liệu huấn luyện router hay không.
Dịch vụ chọn model AI theo yêu cầu trên điện thoại cho nhà phát triển nhỏ: người dùng đặt ngân sách thử nghiệm, hệ thống tự phân bổ lượt chạy thử vào các cặp loại-câu hỏi/model ít được hiểu rõ nhất, trả về bộ quy tắc chọn model tối ưu chi phí sau khi hoàn vốn sớm nhất.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.37402
ArXiv Abstract	https://arxiv.org/abs/2609.37402
PDF Download	https://arxiv.org/pdf/2609.37402.pdf
Github Repository	https://github.com/LAMDA-Model-Reuse/SaveRouter

📰 Summary of Papers
1. Raven: The Harness of Harnesses for Composable Agentic Intelligence (455 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
2. In-Context Learning for Robots: Methods and Applications (336 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
3. MaLiang-Harness: A Programmable Path to Image and Video Generation (296 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
4. Scaling Properties of Same-Family On-Policy Distillation (212 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
5. Omni-IO Skills: Harnessing Your Agent Omni-Native (159 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
6. PanoVLN: Towards Effective Panoramic Vision-and-Language Navigation (133 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
7. VoxMem: Benchmarking Multimodal Memory in Large Audio Language Models (125 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
8. LEGO-Anything: Coding Agents for 3D Scene Reconstruction (105 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
9. What Makes World Action Models Generalize? An Empirical Study of Test-Time Future Modeling (103 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
10. Periodic Weak Spots: Phase Sensitivity from Chunked KV-Cache Compression (86 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
11. Think Before You Score: Thinking Reward Model for Visual Generation (84 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
12. SAKI: Maximal-Coupling-Routed Teacher Supervision for On-Policy Distillation (81 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
13. Follow the Entities: A Corpus Map for Agentic Search (73 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
14. Beyond the Timeline: Augmenting Long-Video Memory with Grounded Entity Biographies (72 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
15. LLMs are General Asynchronous Agents (62 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
16. Beyond Dyadic Memory: Interaction-Aware Multimodal Memory with Adaptive Agentic Retrieval for Multi-Party Spoken Conversations (54 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
17. LongCat-DeepResearch Technical Report (53 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
18. EngiWorld: What Can Frontier Agents Deliver in Professional Engineering Environments? (52 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
19. OmniTaskonomy: When Does Visual Generation Improve Visual Understanding? (44 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
20. Learning Beyond What You Sample: Off-Policy-Aware Cross-Model Trajectory Exchange for RLVR (43 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
21. ROSS: Relearning from Self-Generated Rollouts through Selective Supervision (33 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
22. APM-Bench: Benchmarking Cross-session Persistent Memory for Egocentric Streaming Video Assistants (31 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
23. SoL-Refiner: Speed-of-Light One-Step Refinement for High-Resolution Video (29 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
24. Marathoner: Ultra-Long-Horizon Autonomous Intelligence (28 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
25. HybridCUA: Learning to Orchestrate GUI and CLI for Computer-Use Agents (27 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
26. EVO-WAM: Evolving World Action Models through Video-Action Verification (27 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
27. Asking for What Was Never Requested: Horizontal and Vertical Proactivity in Agents (26 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
28. EasyPPO: Stabilizing the Critic Is Key (26 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
29. Anisotropic Representations Improve Planning in JEPA World Models (26 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
30. LongLive-Plug: Once-for-All Distillation for Video Generation (25 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
31. Context Language Models (24 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
32. ANTMAN: Adaptive Need Tracking for Multi-Agent Navigation in Large Information Spaces (22 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
33. CrossBFM: Distilling a Shared Latent Behavior Space Across Humanoid Embodiments (21 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
34. FocusVTC: Efficient and High-Performance Visual Text Compression with Adaptive Resolution (20 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
35. WorldAttention: An Efficient Attention Architecture for Interactive Video World Models (20 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
36. HiRAE: Hierarchical Representation Autoencoding with Residual Budgets (17 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
37. Omni-Decision: Evidence-Ledger Planning for Omni-Modal Agents (16 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
38. EmoRES-TTS: Residual-Enhanced Vector Steering for Emotional Speech Generation (15 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
39. WorldLine: Action-Driven Visual Simulation for Robotic Manipulation (15 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
40. Reasoning with Image Generation (14 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
41. TabFM: A Zero-Shot Foundation Model for Tabular Data (14 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
42. AutoRef: Harness Optimization for Agentic Multi-Reference Image Generation (13 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
43. When Does Dense Retrieval Need Asymmetric Geometry? A Bias-Variance Theory of Shared and Dual Projections (13 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
44. Chinese-Jev: Bringing System One Model to Chinese-Language Tasks (12 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
45. Adversarial Training for Pixel Diffusion (12 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
46. Selecting The Most Informative Tokens in Natural Language Autoencoders (11 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
47. VideoLoop: Looped Working Memory Against Semantic Thrashing in Long-Form Video Agents (11 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
48. Fractional State Space Transition for Long Sequence Modeling (10 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
49. Scheduling Recursive Reasoning in Looped Transformers (10 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
50. Routing Should Pay for Itself: Sparse Supervision for Economical LLM Routing (10 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan

📰 Summary of Papers​

1. Raven: The Harness of Harnesses for Composable Agentic Intelligence (455 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

2. In-Context Learning for Robots: Methods and Applications (336 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

3. MaLiang-Harness: A Programmable Path to Image and Video Generation (296 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

4. Scaling Properties of Same-Family On-Policy Distillation (212 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

5. Omni-IO Skills: Harnessing Your Agent Omni-Native (159 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

6. PanoVLN: Towards Effective Panoramic Vision-and-Language Navigation (133 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

7. VoxMem: Benchmarking Multimodal Memory in Large Audio Language Models (125 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

8. LEGO-Anything: Coding Agents for 3D Scene Reconstruction (105 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

9. What Makes World Action Models Generalize? An Empirical Study of Test-Time Future Modeling (103 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

📰 Summary of Papers

1. Raven: The Harness of Harnesses for Composable Agentic Intelligence (455 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

2. In-Context Learning for Robots: Methods and Applications (336 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

3. MaLiang-Harness: A Programmable Path to Image and Video Generation (296 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

4. Scaling Properties of Same-Family On-Policy Distillation (212 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

5. Omni-IO Skills: Harnessing Your Agent Omni-Native (159 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

6. PanoVLN: Towards Effective Panoramic Vision-and-Language Navigation (133 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

7. VoxMem: Benchmarking Multimodal Memory in Large Audio Language Models (125 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

8. LEGO-Anything: Coding Agents for 3D Scene Reconstruction (105 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

9. What Makes World Action Models Generalize? An Empirical Study of Test-Time Future Modeling (103 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers: