🤗 Daily Hugging Face Paper Digest - 2026-06-16
Báo cáo được tạo tự động vào lúc 2026-06-30 16:07:06 bằng mô hình deepseek-ai/deepseek-v4-flash.
📰 Summary of Papers
1. JoyAI-VL-Interaction: Real-Time Vision-Language Interaction Intelligence (206 votes)
Tác giả: Dingyu Yao, Junhao Zhou, Chenxu Yang, Chuanyu Qin, Haowen Hou, et al.
Xuất bản lúc: 2026-06-10
Tag: Vision-Language Interaction, Real-Time Streaming, Proactive AI, Video Understanding, Large Vision-Language Model
I. Main Problem:
Các mô hình và sản phẩm AI hiện tại chủ yếu hoạt động theo dạng hỏi-đáp (turn-based), chỉ phản ứng khi được người dùng yêu cầu. Điều này khiến chúng không thể phản ứng kịp với các sự kiện quan trọng trong thế giới thực diễn ra liên tục, như cảnh báo nguy hiểm hoặc bắt lấy khoảnh khắc thoáng qua trong livestream. Luồng video liên tục không chờ đợi người dùng gửi câu hỏi.
II. Main Idea:
Nhóm tác giả giới thiệu JoyAI-VL-Interaction, một mô hình tương tác thị giác-ngôn ngữ (8B) chủ động 'nhìn và hành động' theo thời gian thực. Mô hình tự quyết định mỗi giây một trong ba hành động: giữ im lặng, phản hồi, hoặc ủy thác tác vụ khó cho mô hình nền không đồng bộ. Dữ liệu huấn luyện gồm hơn 4 triệu clip có nhãn hành động theo từng giây, cho phép mô hình học khi nào nên lên tiếng. Hệ thống đi kèm có thể xử lý giờ video với độ trễ dưới một giây.
III. Main Results:
- Trong đánh giá trực tiếp với người dùng trên 6 kịch bản thực tế, JoyAI-VL-Interaction được ưa thích hơn 77.6% so với Doubao và 87.9% so với Gemini.
- Mô hình thắng tuyệt đối (100%) trong các tác vụ giám sát và cảnh báo theo thời gian thực.
- Mô hình thể hiện khả năng nổi trội ở các tác vụ yêu cầu thời điểm chính xác như dịch thời gian thực và đếm.
- Các khả năng mới nổi không được huấn luyện trực tiếp gồm hướng dẫn mua hàng qua ảnh chụp màn hình và diễn thuyết từ slide.
- Mô hình (8B) được thiết kế nhỏ gọn, có thể chạy trên phần cứng địa phương giá rẻ.
IV. Conclusion & Future Works:
JoyAI-VL-Interaction chứng minh một mô hình nhỏ gọn, lấy thị giác làm trung tâm có thể tương tác chủ động và hiệu quả theo thời gian thực. Hướng phát triển tương lai gồm mở rộng bộ dữ liệu, cải thiện xử lý hội thoại song công và tối ưu cho các thiết bị đeo như kính AI. Nhóm tác giả hy vọng thúc đẩy cộng đồng chuyển từ hội thoại dạng hỏi-đáp sang tương tác luồng thực sự.
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu sự xuất hiện của các hành vi phức tạp không được huấn luyện (ví dụ: hướng dẫn thao tác trên ứng dụng) khi huấn luyện mô hình bằng dữ liệu hành động theo từng giây ở quy mô lớn hơn.
- Mở rộng kiến trúc mô hình để xử lý hội thoại song công (full-duplex) nơi cả người và AI có thể nói cùng lúc, không chỉ thay phiên nhau, cho tương tác tự nhiên hơn.
- So sánh hiệu quả giữa việc nhúng âm thanh vào mô hình chính (như TML) và giữ âm thanh là module phụ trợ có thể thay thế (như JoyAI) về độ trễ, chất lượng và khả năng mở rộng.
2. Patent:
- Hệ thống kính thông minh dịch thuật thời gian thực: kính ghi lại hình ảnh văn bản (ví dụ: menu, biển báo) và ngay lập tức hiển thị bản dịch chồng lên mắt kính, không cần người dùng chụp ảnh hay yêu cầu. Điện thoại xử lý chính và gửi kết quả về kính.
- Trợ lý giám sát an ninh cho người già sống một mình: điện thoại dùng camera để liên tục theo dõi các tình huống bất thường như té ngã hoặc bếp cháy, tự động gọi cảnh báo đến người thân qua tin nhắn hoặc cuộc gọi mà không cần người dùng kích hoạt.
- Tính năng 'hỗ trợ mua sắm theo thời gian thực' trên ứng dụng thương mại điện tử: khi người dùng xem livestream bán hàng, điện thoại tự động nhận diện sản phẩm đang được giới thiệu và hiển thị ngay liên kết mua hàng, số lượng tồn kho và so sánh giá từ các nền tảng khác, không cần người dùng dừng video để tìm kiếm.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.14777 |
| ArXiv Abstract | https://arxiv.org/abs/2606.14777 |
| PDF Download | https://arxiv.org/pdf/2606.14777.pdf |
| Github Repository | https://github.com/jd-opensource/JoyAI-VL-Interaction |
2. Data Journalist Agent: Transforming Data into Verifiable Multimodal Stories (127 votes)
Tác giả: Kevin Qinghong Lin, Batu EI, Yuhong Shi, Pan Lu, Philip Torr, et al.
Xuất bản lúc: 2026-06-09
Tag: Multi-Agent System, Data Journalism, Verifiability, Multimodal Generation, LLM Agents, Storytelling
I. Main Problem:
Việc tạo ra một bài báo dữ liệu chất lượng cao thường mất nhiều tuần với cả một đội ngũ. Các hệ thống AI hiện tại chỉ giải quyết từng bước riêng lẻ (phân tích dữ liệu, thiết kế trực quan) mà chưa có khả năng làm báo một cách trọn vẹn. Hơn nữa, các bài báo do AI tạo ra thường thiếu khả năng kiểm chứng, khiến người đọc không thể truy xuất nguồn gốc của các con số hay tuyên bố.
II. Main Idea:
Data Journalist Agent (Data2Story) là một khung đa tác tử mô phỏng một tòa soạn ảo với bảy vai trò chuyên biệt: Detective (tìm kiếm ngữ cảnh), Analyst (phân tích thống kê), Editor (chọn góc nhìn), Designer (tạo tài sản đa phương tiện), Programmer (dựng HTML), Auditor (rà soát lỗi) và đặc biệt Inspector (ràng buộc từng tuyên bố với bằng chứng). Dữ liệu thô được làm giàu ngữ cảnh, phân tích bằng mã lập trình, và kết quả được chuyển thành một bài báo đa phương tiện có tương tác. Inspector đảm bảo mỗi con số, biểu đồ, hoặc tuyên bố đều có thể truy xuất ngược về một dòng mã cụ thể hoặc một URL nguồn, giúp bài báo hoàn toàn có thể kiểm chứng.
III. Main Results:
- Data2Story tạo ra các bài báo cạnh tranh với chuyên gia trên nhiều khía cạnh, đặc biệt mạnh về tính minh bạch và khả năng kiểm toán.
- 53 người tham gia đánh giá mù, cho thấy Data2Story đạt điểm tốt ở thiết kế trực quan, kể chuyện và sự liên kết dữ liệu với tuyên bố.
- Data2Story có thể tự khám phá góc nhìn mới trên các bộ dữ liệu chưa từng được viết, như bản đồ tương tác về rủi ro khí hậu cho World Cup 2026.
- Về khả năng kiểm chứng, hầu như mọi tuyên bố trong bài báo của Data2Story đều có thể truy xuất ngược về mã lệnh hoặc URL nguồn, điều mà bài báo của con người thường không làm được một cách hệ thống.
- Tuy nhiên, bài báo của con người vẫn vượt trội về góc nhìn biên tập, sáng tạo thiết kế và cách trình bày thông tin.
IV. Conclusion & Future Works:
Data2Story được định vị như một công cụ hỗ trợ thay vì thay thế nhà báo: con người giữ vai trò phản biện, trong khi tác tử đảm nhiệm các tác vụ tốn thời gian và giúp bài báo trở nên minh bạch hơn. Hướng tới, hệ thống có thể mở rộng để xử lý các câu chuyện phức tạp hơn, dữ liệu lớn hơn và cải thiện khả năng thẩm mỹ tự nhiên hơn.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng multi-agent framework cho lĩnh vực báo chí điều tra, nơi các tác tử có thể tự động tìm kiếm, đối chiếu và phát hiện mâu thuẫn từ nhiều nguồn dữ liệu khác nhau.
- Nghiên cứu ảnh hưởng của các chiến lược tương tác khác nhau (interactive widgets, video, audio) lên mức độ hiểu và tin tưởng của độc giả đối với bài báo dữ liệu do AI tạo ra.
- Phát triển các metric tự động hóa hơn nữa để đánh giá chất lượng bài báo dữ liệu, chẳng hạn như khả năng kể chuyện hoặc tính thuyết phục, mà không cần đến khảo sát người dùng tốn kém.
2. Patent:
- Hệ thống tạo báo cáo thị trường tự động cho doanh nghiệp: nhập dữ liệu bán hàng, hệ thống tự tìm kiếm xu hướng ngành và tạo ra báo cáo trực quan có thể kiểm chứng, hiển thị trên ứng dụng di động.
- Ứng dụng điện thoại hỗ trợ học sinh/sinh viên phân tích dữ liệu cho bài tập dự án: người dùng nhập file Excel, hệ thống tự động đề xuất cách trực quan hóa và viết báo cáo phân tích, đảm bảo mỗi tuyên bố đều có thể kiểm tra lại.
- Công cụ tạo infographic tin tức cho trang báo mạng trên di động: khi nhập một bộ dữ liệu, hệ thống tự động tạo ra một bài viết tương tác dạng cuộn trang (scrollable story) với biểu đồ, hình ảnh và đường link nguồn để người đọc kiểm tra.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.11176 |
| ArXiv Abstract | https://arxiv.org/abs/2606.11176 |
| PDF Download | https://arxiv.org/pdf/2606.11176.pdf |
| Github Repository | https://github.com/QinghongLin/data2story-skill |
3. VibeThinker-3B: Exploring the Frontier of Verifiable Reasoning in Small Language Models (120 votes)
Tác giả: Sen Xu, Shixi Liu, Wei Wang, Jixin Min, Yingwei Dai, et al.
Xuất bản lúc: 2026-06-15
Tag: Small Language Models, Verifiable Reasoning, RL, Post-Training, Math Reasoning, Coding, Curriculum SFT, MGPO
I. Main Problem:
Các mô hình có 3B tham số hoặc ít hơn thường bị cho là không đủ năng lực cho các tác vụ suy luận toán học và lập trình phức tạp. Câu hỏi đặt ra là liệu với kỹ thuật huấn luyện phù hợp, một mô hình nhỏ gọn có thể đạt đến trình độ của các mô hình hàng đầu có kích thước lớn hơn gấp trăm lần hay không.
II. Main Idea:
Bài báo giới thiệu VibeThinker-3B, được phát triển qua quy trình hậu huấn luyện Spectrum-to-Signal gồm các giai đoạn: (1) SFT theo chương trình giảng dạy với dữ liệu chất lượng cao, đa lĩnh vực; (2) RL đa miền (Toán, Code, STEM) dùng thuật toán MGPO để mở rộng tín hiệu suy luận đúng; (3) kỹ thuật Long2Short giúp tối ưu độ dài chuỗi lý luận mà không giảm độ chính xác; (4) tự chưng cất offline để hợp nhất các kỹ năng; (5) Instruct RL tăng khả năng tuân lệnh. Giả thuyết Nén-Bao phủ Tham số (Parametric Compression-Coverage Hypothesis) giải thích rằng suy luận có thể kiểm chứng là năng lực có thể nén được, trong khi tri thức rộng cần nhiều tham số hơn.
III. Main Results:
- Đạt 94.3 trên AIME26, với CLR tăng lên 97.1, sánh ngang DeepSeek V3.2 (671B) và Kimi K2.5 (1T).
- Đạt 80.2 Pass@1 trên LiveCodeBench v6, vượt nhiều mô hình vài chục tỷ tham số.
- Tỷ lệ chấp nhận 96.1% trên các cuộc thi LeetCode thực tế chưa thấy, ngang với GPT-5.2.
- Đạt 93.4 trên IFEval, cho thấy tăng cường suy luận không làm giảm khả năng tuân lệnh.
- CLR cải thiện 3-5 điểm tuyệt đối trên các benchmark toán, đưa mô hình vào nhóm dẫn đầu.
IV. Conclusion & Future Works:
VibeThinker-3B chứng minh rằng ranh giới năng lực suy luận không bị chặn cứng bởi số lượng tham số; một mô hình 3B được tối ưu có thể cạnh tranh với các mô hình siêu lớn trong tác vụ có thể kiểm chứng. Hướng tương lai: mở rộng giả thuyết Nén-Bao phủ sang các miền năng lực khác và phát triển các mô hình nhỏ hơn nữa.
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu áp dụng giả thuyết PCCH vào các mô hình 1B-1.5B để tìm ra ngưỡng tham số tối thiểu cho suy luận toán và code đạt chuẩn đầu bảng.
- Mở rộng kỹ thuật Long2Short RL sang các miền suy luận khác như STEM và suy luận pháp lý, nơi độ dài chuỗi lý luận rất lớn nhưng cần tối ưu.
- Kết hợp CLR-like test-time scaling với các mô hình thị giác-ngôn ngữ nhỏ để tăng độ tin cậy trong các tác vụ định lượng, chẳng hạn như phân tích biểu đồ và hình học.
2. Patent:
- Trợ lý giải toán trên điện thoại: người dùng chụp ảnh đề bài, mô hình 3B trên thiết bị tự động sinh lời giải từng bước với giải thích, sử dụng kỹ thuật tối ưu độ dài chuỗi để phản hồi nhanh.
- Công cụ hỗ trợ lập trình di động: nhập mô tả bài toán bằng giọng nói hoặc văn bản, mô hình 3B sinh code và chạy thử trong môi trường sandbox trên cloud để kiểm tra lỗi, gợi ý sửa lỗi.
- Hệ thống đánh giá năng lực cá nhân hóa: mô hình 3B phân tích lịch sử giải toán của học sinh, đề xuất bài tập khó phù hợp dựa trên ngưỡng năng lực hiện tại, giúp học tập hiệu quả hơn mà không cần kết nối mạng liên tục.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.16140 |
| ArXiv Abstract | https://arxiv.org/abs/2606.16140 |
| PDF Download | https://arxiv.org/pdf/2606.16140.pdf |
| Github Repository | https://github.com/WeiboAI/VibeThinker |
4. Geometric Action Model for Robot Policy Learning (116 votes)
Tác giả: Jisang Han, Seonghu Jeon, Jaewoo Jung, René Zurbrügg, Honggyu An, et al.
Xuất bản lúc: 2026-06-15
Tag: Geometric Foundation Model, Robot Policy Learning, Vision-Language-Action, Manipulation, World Model, 3D Geometry, Temporal Prediction
I. Main Problem:
Các mô hình robot hiện tại dựa trên Vision-Language-Action (VLA) hoặc Video World-Action (WAM) hoạt động chủ yếu trên ảnh 2D hoặc không gian tiềm ẩn 2D, khiến việc suy luận 3D cần thiết cho các thao tác tinh vi bị ẩn đi và dễ thất bại khi thay đổi môi trường.
II. Main Idea:
Geometric Action Model (GAM) biến một Geometric Foundation Model (GFM) được huấn luyện sẵn thành chính sách thao tác bằng cách chẻ nó làm đôi và chèn một bộ dự đoán nhân quả vào giữa. Nửa dưới mã hóa quan sát thành đặc trưng hình học; bộ dự đoán kết hợp các đặc trưng này với ngôn ngữ, trạng thái robot và lịch sử hành động để dự đoán token tương lai. Nửa trên giải mã các token tương lai đó thành cả hình học 3D và chuỗi hành động robot trong một lần chạy duy nhất.
III. Main Results:
- GAM chạy nhanh hơn 55 lần so với Cosmos-Policy nhờ cơ chế dự đoán một lượt, tránh khử nhiễu nhiều bước.
- Trên LIBERO-Plus, GAM vượt các baseline mạnh nhất đến 9.7% ở cài đặt camera bị nhiễu (83.1% so với 73.4%).
- Mô hình chỉ 1.4B tham số—nhỏ hơn nhiều so với 3.3B–8.5B của các baseline—nhưng vẫn đạt hoặc vượt tỷ lệ thành công của chúng.
- Trong thực nghiệm robot thật, GAM đạt 80% thành công ở tác vụ chịu nhiễu camera, trong khi các baseline sụt dưới 30%.
IV. Conclusion & Future Works:
GAM chứng minh rằng việc tích hợp sâu GFM vào pipeline dự đoán giúp chính sách vừa nhanh, vừa mạnh, vừa bền vững với biến động môi trường. Hạn chế hiện tại là khả năng suy luận ngôn ngữ và thông thường bị giới hạn bởi bộ mã hóa văn bản cố định; tích hợp thêm mô hình ngôn ngữ lớn là hướng phát triển tự nhiên.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng GAM cho đa hình thái robot, dùng cùng cấu trúc backbone GFM nhưng thích ứng đầu ra hành động cho các loại tay kẹp/tay máy khác nhau.
- Tích hợp bộ nhớ dài hạn (episodic memory) vào bộ dự đoán nhân quả để duy trì bối cảnh vượt ngoài cửa sổ hiện tại, giúp tác vụ long-horizon mạnh hơn.
- Kết hợp GAM với mô hình ngôn ngữ lớn để có suy luận ngữ nghĩa sâu hơn, cho phép robot hiểu lệnh phức tạp và lên kế hoạch theo từng bước logic.
2. Patent:
- Hệ thống điều khiển robot nhà bếp qua camera điện thoại người dùng: robot tự động thực hiện vài động tác thử, ghi lại video và phân tích đặc trưng 3D từ GFM để dự đoán quỹ đạo hành động chính xác dù góc nhìn thay đổi.
- Phần mềm hiệu chuẩn nhanh cho robot công nghiệp: sau khi thay đổi camera hoặc gá lắp, robot chạy một chuỗi cử động ngắn; GAM tái học nội suy hình học mới và hiệu chỉnh chính sách lắp ráp mà không cần dừng máy lâu.
- Trợ lý robot di động có khả năng thích ứng camera: người dùng đặt điện thoại làm camera ngoài ở vị trí bất kỳ; GAM tự suy luận mối quan hệ 3D giữa robot-camera từ các khung hình đầu và duy trì độ chính xác khi robot di chuyển.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.17046 |
| ArXiv Abstract | https://arxiv.org/abs/2606.17046 |
| PDF Download | https://arxiv.org/pdf/2606.17046.pdf |
| Github Repository | https://github.com/cvlab-kaist/Geometric-Action-Model |
5. DreamX-World 1.0: A General-Purpose Interactive World Model (112 votes)
Tác giả: DreamX Team, Yancheng Bai, Rui Chen, Xiangxiang Chu, Rujing Dang, et al.
Xuất bản lúc: 2026-06-15
Tag: World Model, Video Generation, Diffusion Model, Camera Control, Autoregressive Generation, Reinforcement Learning, Distillation, Multi-Domain
I. Main Problem:
Các mô hình video hiện tại gặp khó khi chuyển từ sinh thụ động sang mô phỏng tương tác: chúng cần đáp ứng điều khiển camera, giữ nhất quán cảnh theo thời gian dài và hỗ trợ sự kiện theo lệnh, nhưng thiếu khả năng duy trì bối cảnh khi quay lại vùng đã quan sát. Việc kết hợp dữ liệu từ nhiều miền (chân thực, game, hoạt họa) với chú thích camera và hành động đáng tin cậy cũng là thách thức lớn.
II. Main Idea:
DreamX-World 1.0 là mô hình thế giới tương tác đa năng được khởi tạo từ Wan2.2, kết hợp pipeline dữ liệu đa nguồn (UE, game, thực tế) với chú thích camera chính xác. Camera được điều khiển qua E-PRoPE, biến thể nhẹ hơn của PRoPE, giảm 30% độ trễ suy luận. Mô hình dùng bộ nhớ có điều kiện hình học để giữ cảnh khi xem lại vùng cũ, và huấn luyện tự hồi quy kết hợp cưỡng chế nhân quả, chưng cất DMD và rollout dài để giảm drift. Event Instruction Tuning thêm điều khiển sự kiện ghép, RL sau chưng cất phục hồi chất lượng và khả năng bám camera. Tối ưu suy luận đạt 16 FPS trên 8 RTX 5090.
III. Main Results:
- Điểm tổng thể trên bộ đánh giá 5 giây là 84.76, vượt HY-WorldPlay 1.5 (80.79) và LingBot-World (80.45).
- E-PRoPE đạt điểm camera control 73.75, tương đương PRoPE (73.89) nhưng giảm latency từ 80 giây xuống 59 giây trên 8 GPU H20.
- Dữ liệu tổng hợp từ UE cung cấp pose và action chính xác theo khung hình; real-world dùng MegaSaM để nội suy.
- Chưng cất DMD kết hợp RL giúp mô hình tạo video ổn định tới 1 phút mà không mất kiểm soát camera.
- Tối ưu suy luận: DiT FP8, VAE pruning, pipeline bất đồng bộ cho throughput 16 FPS.
IV. Conclusion & Future Works:
DreamX-World 1.0 chứng minh khả năng mô phỏng tương tác đa miền với điều khiển camera, bộ nhớ dài hạn và sự kiện ghép. Hướng phát triển: tăng cường đa tác nhân, cải thiện xử lý tương tác vật lý phức tạp và giảm yêu cầu phần cứng để triển khai trên thiết bị di động.
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu mở rộng E-PRoPE cho sinh video 3D với camera tự do, cho phép điều khiển quỹ đạo phức tạp hơn trong không gian 3 chiều mà không tăng chi phí tính toán.
- Kết hợp bộ nhớ ngữ nghĩa dài hạn để mô hình thế giới hiểu và duy trì trạng thái đối tượng ẩn, giúp tái tạo nhất quán khi quay lại vùng cũ dù không có tín hiệu hình học.
- Áp dụng RL đa mục tiêu cho chưng cất mô hình thế giới, tối ưu đồng thời camera control, chất lượng video và độ ổn định rollout dài mà không cần điều chỉnh thủ công.
2. Patent:
- Hệ thống mô phỏng tương tác trên điện thoại dùng E-PRoPE: người dùng vuốt màn hình để điều khiển camera, mô hình tái tạo cảnh 3D từ video ngắn, cho phép khám phá không gian ảo mượt mà.
- Ứng dụng hướng dẫn sửa chữa tương tác: quay video đồ vật hỏng, chỉ định sự kiện (ví dụ 'tháo ốc', 'thay bóng đèn'), mô hình sinh video hướng dẫn từng bước với camera tự động chỉ vào vùng cần thao tác.
- Trợ lý nội thất ảo: người dùng chụp ảnh phòng, dùng lệnh ngôn ngữ và camera gesture để xem trước đồ nội thất mới dưới nhiều góc, mô hình giữ nhất quán ánh sáng và bố cục khi thay đổi.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.16993 |
| ArXiv Abstract | https://arxiv.org/abs/2606.16993 |
| PDF Download | https://arxiv.org/pdf/2606.16993.pdf |
| Github Repository | https://github.com/AMAP-ML/DreamX-World |
6. FastContext: Training Efficient Repository Explorer for Coding Agents (93 votes)
Tác giả: Shaoqiu Zhang, Maoquan Wang, Yuling Shi, Yuhang Wang, Xiaodong Gu, et al.
Xuất bản lúc: 2026-06-12
Tag: Coding Agents, Repository Exploration, Subagent, Supervised Fine-Tuning, Reinforcement Learning, SWE-Bench
I. Main Problem:
Các tác nhân mã hóa (coding agents) hiện tại thường sử dụng cùng một mô hình cho cả việc khám phá kho mã nguồn và giải quyết tác vụ. Điều này dẫn đến lãng phí token đáng kể do việc đọc và tìm kiếm không cần thiết, gây nhiễu ngữ cảnh và làm giảm hiệu suất cũng như tăng chi phí tính toán.
II. Main Idea:
FastContext giới thiệu một tiểu tác nhân (subagent) chuyên trách việc khám phá kho mã nguồn, tách biệt hoàn toàn khỏi tác nhân chính giải quyết vấn đề. Tiểu tác nhân này sử dụng các lệnh gọi công cụ song song (đọc file, tìm đường dẫn, tìm kiếm regex) và trả về tập tin và dòng mã có liên quan dưới dạng ngữ cảnh cô đọng. Các mô hình khám phá (4B-30B tham số) được huấn luyện qua hai giai đoạn: đầu tiên là học có giám sát (SFT) từ các quỹ đạo mẫu, sau đó là học tăng cường (RL) để tối ưu hóa độ chính xác của các trích dẫn mã nguồn dựa trên phần vá (patch) tham khảo.
III. Main Results:
- FastContext cải thiện tỷ lệ giải quyết (resolution rate) lên đến 5,5% trên các benchmark SWE-bench Pro, Multilingual và SWE-QA.
- Giảm tiêu thụ token của tác nhân chính tới 60% (trên SWE-QA) và 26% (trên SWE-bench Multilingual).
- Mô hình FastContext 4B tham số được tối ưu bằng RL (4B-RL) thường vượt trội hơn mô hình 30B-SFT lớn hơn trong một số thiết lập đầu cuối.
- FastContext cải thiện đáng kể khả năng khám phá độc lập (standalone exploration) tại mức module và hàm so với các baseline khác.
- Việc thêm FastContext chuyển phân phối token của từng instance về phía sử dụng ít token hơn.
IV. Conclusion & Future Works:
FastContext chứng minh rằng khám phá kho mã nguồn nên được xem như một thành phần có thể huấn luyện, tách biệt, cho phép tối ưu hóa và đánh giá riêng. Hướng tới, nghiên cứu sẽ mở rộng FastContext sang các khung tác nhân mã hóa khác, ghép nối với các mô hình chính nhỏ hơn, và khám phá các phiên bản tiểu tác nhân nhỏ gọn hơn nữa (ví dụ 1.7B tham số).
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu khả năng khái quát hóa của FastContext khi huấn luyện trên kho mã nguồn đa ngôn ngữ và đa framework, đánh giá hiệu quả trên các tác vụ sửa lỗi và trả lời câu hỏi mới.
- Kết hợp FastContext với các phương pháp đồ thị chương trình (program graph) để nâng cao độ chính xác ở mức hàm, giảm thiểu ngữ cảnh nhiễu hơn nữa cho tác nhân chính.
- Phát triển giao thức đàm phán thích ứng giữa tiểu tác nhân và tác nhân chính, cho phép tác nhân chính yêu cầu thông tin bổ sung dựa trên ngữ cảnh khám phá ban đầu.
2. Patent:
- Hệ thống hỗ trợ lập trình viên sửa lỗi trên thiết bị di động: người dùng mô tả lỗi bằng giọng nói, một mô hình nhỏ trên điện thoại sẽ khám phá kho mã nguồn đã đồng bộ và trả về các tập tin/dòng mã khả nghi, giúp tiết kiệm dữ liệu và thời gian xử lý.
- Trợ lý mã hóa trên đám mây cho IDE (Integrated Development Environment): khi lập trình viên yêu cầu tìm kiếm tính năng, một tiểu tác nhân chuyên dụng sẽ khám phá toàn bộ dự án và trả về ngữ cảnh cô đọng, giảm tải cho mô hình ngôn ngữ lớn trung tâm.
- Công cụ review mã tự động cho nhóm phát triển: tiểu tác nhân FastContext được kích hoạt trước mỗi phiên review, cung cấp các đoạn mã liên quan đến thay đổi, giúp người review tập trung vào vùng mã cốt lõi mà không phải đọc toàn bộ lịch sử khám phá.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.14066 |
| ArXiv Abstract | https://arxiv.org/abs/2606.14066 |
| PDF Download | https://arxiv.org/pdf/2606.14066.pdf |
| Github Repository | N/A |
7. Ling and Ring 2.6 Technical Report: Efficient and Instant Agentic Intelligence at Trillion-Parameter Scale (87 votes)
Tác giả: Ang Li, Ben Liu, Bin Han, Bin Hu, Bin Jing, et al.
Xuất bản lúc: 2026-06-13
Tag: LLM, Agentic AI, Hybrid Attention, Reinforcement Learning, Mixture-of-Experts, Long-Context, Trillion-Parameter
I. Main Problem:
Các mô hình ngôn ngữ lớn đang chuyển từ hệ thống chat đơn thuần sang hệ thống tác nhân (agentic), nhưng các mục tiêu tối ưu thường mâu thuẫn: suy luận sâu cải thiện hiệu năng nhưng tăng độ trễ và chi phí token; mô hình nhanh dễ phục vụ nhưng lại yếu trong các tác vụ tác nhân dài hạn. Cần một giải pháp đồng thời cải thiện hiệu quả xử lý ngữ cảnh dài, năng lực trên mỗi token, và tối ưu hóa trực tiếp cho quy trình tác nhân thực tế.
II. Main Idea:
Bài báo giới thiệu hai mô hình: Ling-2.6 tối ưu cho phản hồi nhanh và hiệu quả token, Ring-2.6 chuyên sâu suy luận. Thay vì huấn luyện lại từ đầu, nhóm tác giả nâng cấp từ Ling-2.0 qua kiến trúc hybrid attention kết hợp Lightning Attention và MLA (tỉ lệ 7:1), giảm chi phí tính toán cho ngữ cảnh dài. Token efficiency được cải thiện qua Evolutionary Chain-of-Thought, Linguistic Unit Policy Optimization, và bidirectional preference alignment. Để huấn luyện tác nhân, họ đề xuất KPop, một khung RL bất đồng bộ giúp huấn luyện ổn định mô hình nghìn tỷ tham số trên dữ liệu tương tác môi trường quy mô lớn.
III. Main Results:
- Ling-2.6-1T đạt chỉ số Artificial Analysis Intelligence Index 34, chỉ dùng ~16 triệu output tokens (tương đương GPT-5.4 ở chế độ non-reasoning).
- Token efficiency trên tác vụ suy luận cao gấp ~4 lần so với Ling-2.0.
- Ring-2.6-1T đạt 87.60 trên PinchBench, 63.82 trên ClawEval, và kết quả mạnh trên GAIA-2 Search và τ2-Bench Telecom.
- Kiến trúc hybrid 7:1 (Lightning:MLA) đạt scaling performance tốt nhất, giảm đáng kể chi phí inference.
- Quá trình migration pre-training 4 bước cho phép chuyển đổi từ GQA sang hybrid attention mà không mất mát hiệu năng.
IV. Conclusion & Future Works:
Ling-2.6 và Ring-2.6 cung cấp lộ trình thực tế cho hệ thống tác nhân hiệu quả, mở rộng và có mã nguồn mở. Hướng phát triển tương lai gồm tối ưu hóa thêm chiến lược thăm dò trong RL, mở rộng khả năng đa tác vụ, và tăng cường khả năng suy luận sâu hơn trong các môi trường phức tạp.
V. Brainstorming Space:
1. Publish Papers:
- Áp dụng kiến trúc hybrid attention (Lightning + MLA) vào các mô hình ngôn ngữ chuyên cho lĩnh vực y tế, nơi yêu cầu xử lý bệnh án dài, để vừa tăng độ chính xác vừa giảm chi phí phục vụ.
- Nghiên cứu cơ chế shortest-correct-response distillation kết hợp Evolutionary Chain of Thought để sinh giải pháp tối ưu cho bài toán lập lịch sản xuất phức tạp.
- Phát triển khung RL bất đồng bộ KPop cho robot học tương tác công cụ trong môi trường nhà máy thông minh, giúp robot tự thích nghi với công cụ mới mà không cần lập trình lại.
2. Patent:
- Hệ thống trợ lý ảo trên điện thoại sử dụng Ling-2.6 để hội thoại nhanh, sinh câu trả lời ngắn gọn nhưng chính xác, tối ưu hóa băng thông và thời gian phản hồi trong các tác vụ hỏi đáp hàng ngày.
- Ứng dụng Ring-2.6 trên điện thoại thông minh để phân tích hợp đồng pháp lý dài: nhập văn bản, mô hình suy luận sâu để phát hiện điều khoản bất lợi, tóm tắt rủi ro và đưa ra đề xuất sửa đổi chi tiết.
- Phần mềm camera trên điện thoại tích hợp Ring-2.6 để giải thích nội dung hình ảnh phức tạp: chụp biển báo nước ngoài, mô hình suy luận để dịch thuật và hướng dẫn chi tiết dựa trên ngữ cảnh địa phương.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.15079 |
| ArXiv Abstract | https://arxiv.org/abs/2606.15079 |
| PDF Download | https://arxiv.org/pdf/2606.15079.pdf |
| Github Repository | N/A |
8. Qwen-RobotWorld Technical Report: Unifying Embodied World Modeling through Language-Conditioned Video Generation (41 votes)
Tác giả: Jie Zhang, Xiaoyue Chen, Anzhe Chen, Chenxu Lv, Deqing Li, et al.
Xuất bản lúc: 2026-06-15
Tag: World Model, Video Generation, Diffusion Transformer, Vision-Language-Action, Robotics, Autonomous Driving, Indoor Navigation
I. Main Problem:
Các mô hình thế giới (world model) hiện tại gặp mâu thuẫn: mô hình sinh video tổng quát giàu tri thức thị giác nhưng không nắm bắt được động lực học vật lý chính xác, trong khi mô hình chuyên biệt cho từng lĩnh vực (như thao tác robot hay lái xe) lại yêu cầu biểu diễn hành động riêng, không thể tổng quát hóa chéo giữa các nền tảng hay loại tác vụ.
II. Main Idea:
Qwen-RobotWorld sử dụng ngôn ngữ tự nhiên làm giao diện hành động thống nhất để huấn luyện mô hình thế giới video trên nhiều lĩnh vực: thao tác robot, lái xe tự động, dẫn đường trong nhà và chuyển giao người-robot. Kiến trúc dùng Double-Stream MMDiT 60 lớp, trong đó dòng hiểu trích xuất ngữ nghĩa từ mã hóa MLLM (Qwen2.5-VL) và dòng sinh xử lý tiềm ảnh video; hai dòng tương tác qua attention chung ở mọi lớp. Bộ dữ liệu EWK với 8.6 triệu cặp video-văn bản, hơn 500 loại hành động và 20+ loại robot được chuẩn hóa qua pipeline ánh xạ hành động-ngôn ngữ. Chiến lược huấn luyện hai giai đoạn: pretraining trên dữ liệu đa miền, sau đó SFT với dữ liệu thao tác chiếm ưu thế, giúp mô hình vừa có tri thức tổng quát vừa chuyên sâu về vật lý.
III. Main Results:
- Xếp hạng 1 tổng thể trên EWM Bench (4.60) và DreamGen Bench (4.952), vượt tất cả mã nguồn mở.
- Trên WorldModelBench (8.99, hạng 3 chung) đạt điểm hoàn hảo về bám sát vật lý (định luật Newton, bảo toàn khối lượng, chất lỏng, trọng lực).
- Trên PBench (0.804) vượt mọi mô hình nguồn mở, hạng 2 về độ mượt chuyển động (0.990).
- Đạt độ chính xác hành động (HSD) 0.566 (+33% so với á quân) và độ nhất quán cảnh 0.914 trên EWM Bench.
- Không cần tinh chỉnh vẫn tổng quát hóa tốt qua chỉnh sửa video chéo miền (người→robot), sinh cảnh lái xe và dẫn đường.
IV. Conclusion & Future Works:
Qwen-RobotWorld chứng minh ngôn ngữ tự nhiên là giao diện hành động thống nhất hiệu quả để tích hợp tri thức vật lý từ nhiều lĩnh vực, tạo thành mô phỏng vạn năng cho robot, lái xe và dẫn đường. Hướng tương lai có thể mở rộng thêm loại hành động, cảnh huống, và tối ưu hóa cho suy luận đa bước dài hạn.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng mô hình thế giới ngôn ngữ-điều kiện cho tương tác đa robot trong cùng cảnh, mỗi robot thực hiện nhiệm vụ riêng nhưng chia sẻ không gian, yêu cầu mô hình hiểu tác động chồng lấn.
- Tích hợp phản hồi từ môi trường thực (như lực kẹp, trạng thái tiếp xúc) vào pipeline huấn luyện để mô hình thế giới học chính xác hơn về động lực học tiếp xúc phức tạp.
- Xây dựng cơ chế suy luận đa bước có lý giải: mô hình thế giới không chỉ dự đoán cảnh tương lai mà còn sinh chuỗi lý do (chain-of-thought) giải thích từng bước chuyển tiếp trạng thái.
2. Patent:
- Ứng dụng cho điện thoại: quay video thao tác thực tế, dùng mô hình để sinh video mô phỏng robot làm cùng nhiệm vụ, hỗ trợ người dùng học lái máy công nghiệp từ xa mà không cần robot thật.
- Hệ thống kiểm tra an toàn nhà xưởng: camera giám sát ghi lại chuỗi hành động robot; mô hình dự đoán xem hành động sắp tới có vi phạm an toàn (va chạm, đổ vỡ) không và cảnh báo trước.
- Tính năng chỉnh sửa video trên điện thoại: người dùng ghi hình tự thao tác, sau đó ra lệnh bằng giọng nói để thay thế bản thân bằng robot ảo (ví dụ 'thay tay người bằng tay kẹp xanh'), mô hình tự sinh video kết quả.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.17030 |
| ArXiv Abstract | https://arxiv.org/abs/2606.17030 |
| PDF Download | https://arxiv.org/pdf/2606.17030.pdf |
| Github Repository | N/A |
9. Who Should Lead Decoding Now? Tracking Reliable Trajectories for Ensembling Masked Diffusion Language Models (34 votes)
Tác giả: Heecheol Yun, Joonhyung Park, Joowon Kim, Eunho Yang
Xuất bản lúc: 2026-06-15
Tag: Masked Diffusion Language Models, Ensembling, Knowledge Fusion, Confidence Dynamics, Token Stability
I. Main Problem:
Các mô hình ngôn ngữ dạng diffusion (MDLM) ngày càng đa dạng về khả năng và kiến thức, nhưng chưa có phương pháp hiệu quả để kết hợp tri thức từ nhiều MDLM khác nhau. Các kỹ thuật ensemble truyền thống dùng cho mô hình autoregressive không thể áp dụng trực tiếp cho MDLM do cơ chế giải mã linh hoạt, không tuần tự, khiến việc xác định token chung gặp khó khăn.
II. Main Idea:
TIE (Trajectory-based Iterative Ensembling) là khung tích hợp tri thức cho phép các MDLM cộng tác bằng cách theo dõi độ ổn định của các token liên quan đến câu trả lời trong quá trình giải mã. Mỗi bước, các mô hình tự giải mã một phần, sau đó một cơ chế chấm điểm dựa trên độ tin cậy (đếm thay đổi token, top-1 probability, entropy, probability margin) sẽ chọn quỹ đạo đáng tin cậy nhất và chuyển nó cho tất cả các mô hình khác. Nhờ đó, các mô hình yếu hơn được phục hồi từ quỹ đạo sai lệch, và các mô hình khác nhau có thể đóng góp ưu điểm riêng ở từng giai đoạn sinh khác nhau.
III. Main Results:
- TIE cải thiện đáng kể so với từng mô hình riêng lẻ trên 4 nhóm tác vụ: suy luận tổng quát, toán, mã hóa, lập kế hoạch (ví dụ: MMLU 67.55%, GSM8K 83.47%).
- Token change count là chỉ số chấm điểm hiệu quả nhất, đạt kết quả tốt nhất trên 4/8 benchmark.
- Khoảng cách hiệu suất giữa các mô hình càng nhỏ (<15%) thì TIE càng hiệu quả.
- Tỷ lệ thay đổi mô hình dẫn đầu cao (12-44%) cho thấy không một mô hình nào chi phối suốt quá trình.
- TIE tương thích với các kỹ thuật tăng tốc như thresholding và top-k unmasking, vẫn duy trì hiệu quả.
IV. Conclusion & Future Works:
TIE cho thấy tiềm năng của việc cộng tác giữa các MDLM thông qua trao đổi quỹ đạo trung gian mà không cần huấn luyện thêm. Tuy nhiên, phương pháp kém hiệu quả khi gap giữa các mô hình quá lớn; hướng tương lai có thể thêm cơ chế routing để chọn mô hình phù hợp trước khi ensemble, và mở rộng cho nhiều hơn hai mô hình.
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu mở rộng TIE cho nhiều hơn hai MDLM, khảo sát xem hiệu suất tăng dần hay bão hòa khi tăng số lượng mô hình.
- Phát triển cơ chế routing động dựa trên confidence để tự động chọn tập mô hình phù hợp tại mỗi bước giải mã, giúp TIE hoạt động tốt ngay cả khi các mô hình có độ mạnh chênh lệch.
- Áp dụng TIE cho các tác vụ sinh đa ngữ hoặc đa phương thức, như kết hợp các MDLM chuyên biệt cho văn bản và hình ảnh để nâng cao chất lượng sinh.
2. Patent:
- Hệ thống trợ lý ảo trên điện thoại: sử dụng nhiều mô hình ngôn ngữ chạy nền, trao đổi quỹ đạo giải mã để chọn ra câu trả lời ổn định nhất, giúp tăng độ chính xác và giảm sốc khi hỏi những câu phức tạp.
- Ứng dụng dịch thuật thời gian thực kết hợp hai mô hình dịch song song: mỗi mô hình dịch một phần câu, sau đó chọn phần dịch có token ổn định nhất để ghép lại, giảm thiểu lỗi ngữ pháp và ngữ nghĩa.
- Công cụ tạo mã nguồn trên IDE dùng ensemble MDLM: khi lập trình viên gõ code, nhiều mô hình cùng đề xuất đoạn mã, hệ thống tự động chọn gợi ý có quỹ đạo token ổn định nhất, tăng độ tin cậy của code sinh ra.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.16281 |
| ArXiv Abstract | https://arxiv.org/abs/2606.16281 |
| PDF Download | https://arxiv.org/pdf/2606.16281.pdf |
| Github Repository | N/A |
10. VisualClaw: A Real-Time, Personalized Agent for the Physical World (28 votes)
Tác giả: Haoqin Tu, Jianwen Chen, Zijun Wang, Siwei Han, Juncheng Wu, et al.
Xuất bản lúc: 2026-06-15
Tag: Vision-Language Models, Video Understanding, Streaming Video, Skill Evolution, Memory-Augmented Agents, AI Glasses, Benchmark
I. Main Problem:
Các Vision-Language Models (VLM) thường bị chi phí cao và độ trễ lớn khi xử lý luồng video dài, và không thể tự thích nghi sau khi triển khai. Các benchmark video-QA hiện tại cũng không kiểm tra khả năng sử dụng bằng chứng trực quan trong môi trường làm việc có công cụ cụ thể.
II. Main Idea:
VisualClaw là một multimodal agent tự tiến hóa với hai cơ chế chính. Hybrid Encoding dùng bộ lọc cascade trên thiết bị biên để chỉ chuyển tiếp các frame quan trọng lên cloud, đồng thời nén skill bank thành hot/cold injection để tiết kiệm token. Skill Evolution dùng bộ nhớ episodic và LLM evolver để học từ thất bại và cập nhật skill bank mà không cần thay đổi trọng số VLM.
III. Main Results:
- Giảm chi phí API trung bình 98% so với upload toàn bộ frame, đỉnh 99.3% trên Video-MME.
- Tăng độ chính xác trung bình 3.85% và đỉnh 15.80% trên EgoSchema với Gemini 3 Flash.
- Trên benchmark mới VisualClawArena, cải thiện macro accuracy 2.9% cho Codex và 3.2% cho Claude Code so với baseline không tiến hóa.
- Khi áp dụng FullEvo vào Uniform-8 offline, cải thiện thêm 3.5% đến 13.0%, đỉnh 73.6% trên EgoSchema vượt Gemini 1.5 Pro.
- Với cùng số frame K=8, cascade-fill vượt uniform sampling cả khi có và không có skill evolution.
IV. Conclusion & Future Works:
VisualClaw chứng minh rằng kết hợp hybrid encoding và skill evolution có thể vận hành streaming video với chi phí thấp và tự thích nghi hiệu quả. Hướng phát triển tương lai có thể tinh chỉnh chiến lược memory-to-evolver và mở rộng sang các tác vụ agent đa dạng hơn.
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu kết hợp skill evolution với fine-tuning có kiểm soát để tăng khả năng thích nghi cho agent trong môi trường thay đổi nhanh.
- Phát triển benchmark agentic tương tự VisualClawArena cho các lĩnh vực khác như y tế hoặc điều khiển robot, với các tác vụ yêu cầu nhiều modality hơn.
- Tối ưu bộ lọc cascade để hoạt động hiệu quả trên các thiết bị edge có tài nguyên cực hạn, như smartwatch hoặc IoT camera.
2. Patent:
- Hệ thống kính thông minh dùng VisualClaw để tự động lọc và gửi chỉ các frame quan trọng lên đám mây, nhận diện đồ vật người dùng quan tâm và gợi ý hành động cá nhân hóa theo thói quen.
- Ứng dụng camera an ninh gia đình với agent có khả năng tự học từ sự kiện bất thường: ghi nhớ dấu hiệu cảnh báo mới và tự động cập nhật quy tắc giám sát theo thời gian thực.
- Trợ lý ảo trên điện thoại có thể xem video trực tiếp từ camera, lấy khung hình then chốt và trả lời câu hỏi về nội dung clip (ví dụ: kiểm tra hóa đơn, hướng dẫn sửa đồ) với chi phí API tối thiểu.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.16295 |
| ArXiv Abstract | https://arxiv.org/abs/2606.16295 |
| PDF Download | https://arxiv.org/pdf/2606.16295.pdf |
| Github Repository | https://github.com/UCSC-VLAA/VisualClaw |
11. BRDFusion: Physics Meets Generation for Urban Scene Inverse Rendering (27 votes)
Tác giả: Yi-Ruei Liu, Jie-Ying Lee, Zheng-Hui Huang, Yu-Lun Liu, Chih-Hao Lin
Xuất bản lúc: 2026-06-15
Tag: Inverse Rendering, Urban Scenes, Physically-Based Rendering, Generative Models, 3D Gaussian Splatting, Relighting, Diffusion Models
I. Main Problem:
Việc tái tạo và chỉnh sửa các cảnh đô thị ngoài trời từ video ghi lại là bài toán khó, yêu cầu phân tách chính xác hình học, vật liệu và ánh sáng (inverse rendering). Các phương pháp dựa trên vật lý cho kết quả có thể kiểm soát nhưng dễ bị nhiễu và lỗi; trong khi mô hình sinh tạo ra ảnh chân thực nhưng thiếu tính nhất quán 3D và khả năng điều khiển ánh sáng cục bộ, đặc biệt là với các nguồn sáng phức tạp như đèn pha xe.
II. Main Idea:
BRDFusion là khung làm việc thống nhất kết hợp mô hình vật lý (Physically-Based Rendering - PBR) và mô hình sinh (diffusion video) cho cả quá trình inverse và forward rendering. Mô hình PBR đảm nhận việc mô phỏng ánh sáng chính xác (tạo bóng, phản xạ), trong khi mô hình sinh (dùng kỹ thuật SDEdit) làm sạch nhiễu và hoàn thiện chất lượng hình ảnh, giữ nguyên cấu trúc ánh sáng từ PBR. Quá trình inverse rendering được thực hiện qua nhiều giai đoạn: khôi phục hình học và vật liệu với volume rendering, tinh chỉnh bằng generative prior, ước lượng ánh sáng, và cuối cùng là tối ưu chung tất cả tham số.
III. Main Results:
- Phương pháp đạt chất lượng cao hơn các baseline (UrbanIR, InvRGB+L, Gen3C+DR) trong tổng hợp góc nhìn mới và relighting trên tập dữ liệu Waymo.
- Cho phép mô phỏng đêm chân thực với đèn pha xe có thể điều khiển cường độ và hướng chiếu sáng.
- Hỗ trợ chèn vật thể động với bóng đổ vật lý chính xác, khắc phục hạn chế của các phương pháp thuần sinh.
- Phân tách được các thuộc tính vật liệu (albedo, roughness, metallic) và môi trường ánh sáng HDR.
- Hoạt động hiệu quả trên cả cảnh thực và cảnh tổng hợp, cho thấy tính khả chuyển và độ tin cậy.
IV. Conclusion & Future Works:
BRDFusion chứng minh rằng việc kết hợp mô hình vật lý và sinh là hướng đi hiệu quả cho inverse rendering cảnh đô thị, mang lại vẻ chân thực và khả năng điều khiển chính xác. Hướng phát triển tương lai có thể bao gồm giảm phụ thuộc vào dữ liệu LiDAR, tối ưu hóa thời gian xử lý, và mở rộng cho các cảnh quay dài hơn với nhiều đối tượng chuyển động phức tạp hơn.
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu khả năng generalization của hybrid PBR-generative framework lên các cảnh với điều kiện thời tiết khắc nghiệt (mưa, tuyết) và ánh sáng không ổn định.
- Mở rộng phương pháp cho inverse rendering objects động (người đi bộ, xe đạp) với chất lượng cao hơn, sử dụng generative prior riêng cho từng loại đối tượng.
- Kết hợp kỹ thuật này với các mô hình ngôn ngữ-thị giác để tạo ra hệ thống chỉnh sửa scene có thể hiểu và thực thi các yêu cầu bằng ngôn ngữ tự nhiên (ví dụ: 'đổi màu xe thành đỏ và làm sáng đường lên').
2. Patent:
- Ứng dụng cho trình chỉnh sửa video trên điện thoại: người dùng quay video đường phố, hệ thống tự phân tách ánh sáng, vật liệu, sau đó cho phép thay đổi thời gian trong ngày (sáng, chiều, tối) hoặc chèn vật thể ảo (xe, người) với bóng đổ vật lý chính xác.
- Tính năng mô phỏng lái xe trên ứng dụng bản đồ: dựa trên video thực được ghi lại, hệ thống tái tạo cảnh 3D với khả năng thay đổi điều kiện ánh sáng (ban đêm, mưa) để giúp người dùng hình dung lộ trình trong các tình huống thực tế khác nhau.
- Module chèn quảng cáo thực tế ảo tăng cường (AR) vào video: hệ thống phân tích cảnh để tìm vị trí phù hợp (ví dụ: tường trống, mặt đất) và render biển quảng cáo với ánh sáng và bóng đổ phù hợp với môi trường xung quanh, tạo cảm giác tự nhiên.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.17049 |
| ArXiv Abstract | https://arxiv.org/abs/2606.17049 |
| PDF Download | https://arxiv.org/pdf/2606.17049.pdf |
| Github Repository | https://github.com/shigon255/BRDFusion |
12. OneRank: Unified Transformer-Native Ranking Architecture for Multi-Task Recommendation (18 votes)
Tác giả: Jiakai Tang, Sunhao Dai, Kun Wang, Zhiluohan Guo, Yu Zhao, et al.
Xuất bản lúc: 2026-06-15
Tag: Multi-Task Learning, Recommender System, Transformer, Ranking, Click-Through Rate, Representation Learning
I. Main Problem:
Các hệ thống đa nhiệm trong recommendation hiện tại thường dùng kiến trúc encoder–predictor tách rời: encoder Transformer học biểu diễn chung bất chấp nhiệm vụ, rồi predictor MLP xử lý tĩnh. Điều này tạo ra nút thắt thông tin, gây nhiễu gradient (hiện tượng seesaw) và ngăn scaling end-to-end.
II. Main Idea:
OneRank loại bỏ tách rời encoder–predictor bằng cách nội hóa lý luận đa nhiệm ngay trong stack Transformer. Ở forward pass, nó dùng task token riêng (vô hình lẫn nhau), ngữ cảnh hóa candidate-aware qua situational descriptor, và cross-task attention có kiểm soát với gradient detachment để truyền tri thức mà không gây nhiễu. Ở predict head, nó thay MLP tĩnh bằng matching động z⊤r, cho phép ranking thích ứng theo ngữ cảnh.
III. Main Results:
- Trên dataset Shopee 33M user, OneRank outperforms mọi tổ hợp (DNN, MTGR, OneTrans + MMoE/PLE/ResFlow) ở C-AUC, A-AUC, O-AUC.
- OneRank đạt +1.01% GMV/UU và giảm 2.29% Bad Query Rate trong online A/B test.
- Ablation: bỏ task-specific token làm A-AUC giảm từ 0.8463 xuống 0.8424; bỏ situational descriptor làm C-AUC giảm từ 0.7910 xuống 0.7872.
- Scaling: tăng depth/width đều cải thiện AUC và GAUC ổn định, không gây task imbalance.
- Chỉ cần 4.9M params (ít hơn OneTrans) nhưng FLOPs cao hơn do dynamic matching và cross-task attention.
IV. Conclusion & Future Works:
OneRank chứng minh lợi ích của việc nội hóa đa nhiệm trong Transformer và mở hướng scaling cho recommendation. Hướng tới: mở rộng cho nhiều task hơn (like, share), tối ưu KV-caching và thiết kế mask tự động dựa trên relational learning.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng OneRank với task token phân cấp cho recommendation temporal: task cho click, add-to-cart, order được nhúng ở nhiều tầng Transformer khác nhau (sớm – sâu), có thể cải thiện specialization cho sparse task.
- Kết hợp cross-task gradient detachment với adversarial training để làm mịn biên quyết định giữa các nhiệm vụ xung đột, giúp ổn định hơn khi số lượng task lớn.
- Tích hợp OneRank trong kiến trúc retrieval – ranking hai pha: dùng token task đã học từ ranking để định hướng quá trình retrieval, giảm candidate set cho ranking đồng thời cải thiện độ chính xác.
2. Patent:
- Ứng dụng tách rời gradient trên điện thoại để huấn luyện đa nhiệm cho camera AI: một mô hình duy nhất vừa nhận diện khuôn mặt vừa đọc QR, gradient từ task QR không ảnh hưởng trọng số nhận diện mặt, giúp cả hai hoạt động ổn định đồng thời.
- Dùng task token vô hình lẫn nhau trong recommendation tìm kiếm trên mobile: mỗi mục đích (mua ngay, thêm vào giỏ) có token riêng, các token không nhìn nhau, nhưng cùng dùng chung biểu diễn người dùng, tránh nhiễu giữa các intent.
- Cơ chế matching động (z⊤r) cho ranking quảng cáo trên mobile: điểm tương đồng giữa vector ngữ cảnh phiên và vector item được tính động theo thời gian thực, cho phép cá nhân hóa tức thời mà không cần tower MLP riêng cho từng item.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.16838 |
| ArXiv Abstract | https://arxiv.org/abs/2606.16838 |
| PDF Download | https://arxiv.org/pdf/2606.16838.pdf |
| Github Repository | N/A |
13. BadWorld: Adversarial Attacks on World Models (18 votes)
Tác giả: Linghui Shen, Mingyue Cui, Xingyi Yang
Xuất bản lúc: 2026-06-15
Tag: Adversarial Attacks, World Models, Autoregressive Video Generation, Diffusion Models, Robustness, Self-Supervised Learning, Vision-Language Models
I. Main Problem:
Các mô hình thế giới trực quan (VWMs) hiện dễ bị tổn thương trước các nhiễu loạn đối kháng nhỏ, nhưng các cuộc tấn công hiện có không phù hợp vì thiếu video thực tế trong tương lai (C1) và không biết trước các hành động điều khiển của người dùng (C2). Điều này khiến việc đánh giá độ bền vững của chúng trở nên khó khăn.
II. Main Idea:
BadWorld giới thiệu khung tấn công không cần nhãn cho VWMs tự hồi quy, bao gồm: (1) Tấn công vận tốc tự giám sát – phá vỡ động lực khử nhiễu sớm bằng cách tối ưu hóa độ lớn/hướng của vận tốc dự đoán, không cần ground-truth. (2) Tối ưu hóa hai cấp độ thích ứng quỹ đạo – dùng CMA-ES để khai thác các quỹ đạo điều khiển khó và cập nhật nhiễu loạn chống lại chúng, tạo ra ảnh đối kháng hiệu quả với nhiều hành động khác nhau.
III. Main Results:
- Velocity-Min gây suy giảm mạnh nhất: chất lượng thẩm mỹ trên Astra giảm từ 0.501 xuống 0.405, MEt3R tăng 74.8%.
- Tấn công hai cấp độ cải thiện thêm trên các mẫu khó nhất: chất lượng thẩm mỹ giảm từ 0.440 xuống 0.425.
- Trên Matrix-Game-2.0, hầu hết các mục tiêu đều hiệu quả; Velocity-Min gây sụp đổ cấu trúc hoàn toàn.
- Khử nhiễu sớm là yếu tố then chốt: bỏ qua nó làm hiệu quả tấn công giảm mạnh (MEt3R từ 0.264 xuống 0.167).
- Proxy lịch sử lặp lại ngữ cảnh hiệu quả như rollout phức tạp nhưng nhanh hơn nhiều.
IV. Conclusion & Future Works:
BadWorld phơi bày rủi ro bảo mật nghiêm trọng khi triển khai VWMs trong các hệ thống quan trọng, đồng thời gợi ý cơ chế bảo vệ quyền riêng tư thực tế. Hướng tới, cần mở rộng tấn công sang các loại VWMs khác và phát triển phòng thủ mạnh mẽ hơn.
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu tấn công đối kháng có mục tiêu vào các VWMs dùng ngôn ngữ làm điều khiển, nhằm đánh giá độ bền vững trên các miền văn bản khác nhau.
- Phát triển phương pháp phòng thủ tự giám sát cho VWMs, tận dụng chính động lực khử nhiễu để phát hiện và loại bỏ nhiễu loạn đối kháng.
- Mở rộng khung tấn công hai cấp độ sang các mô hình video sinh không tự hồi quy, so sánh độ nhạy cảm giữa các kiến trúc.
2. Patent:
- Hệ thống bảo vệ quyền riêng tư trên điện thoại: thêm nhiễu vô hình vào ảnh chụp để ngăn các ứng dụng mô hình thế giới tạo video mô phỏng trái phép từ ảnh cá nhân.
- Công cụ kiểm tra độ bền của game trên mobile: tự động thêm nhiễu vào ảnh nền để phát hiện lỗi hiển thị và sụp đổ cấu trúc trong các game mô phỏng thế giới.
- Module watermarking chống deepfake cho camera điện thoại: nhúng nhiễu thích ứng vào từng khung hình, làm hỏng khả năng sinh video của VWMs nếu bị dùng trái phép.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.16519 |
| ArXiv Abstract | https://arxiv.org/abs/2606.16519 |
| PDF Download | https://arxiv.org/pdf/2606.16519.pdf |
| Github Repository | https://github.com/LinghuiiShen/BadWorld |
14. Memento: Reconstruct to Remember for Consistent Long Video Generation (17 votes)
Tác giả: Xuan Wei, Longbin Ji, Guan Wang, Xiangrui Liu, Zhenyu Zhang, et al.
Xuất bản lúc: 2026-06-12
Tag: Video Generation, Long Video, Subject Consistency, Memory Mechanism, Diffusion Model, Autoregressive Generation, Multi-Shot
I. Main Problem:
Các phương pháp sinh video dài hiện tại gặp khó khăn trong việc duy trì nhận dạng nhất quán của các đối tượng lặp lại qua nhiều cảnh quay, góc nhìn và chuyển cảnh. Cách tiếp cận dùng bộ nhớ để sinh tự hồi quy thường ưu tiên sự liên tục cục bộ ngắn hạn, dẫn đến thông tin nhận dạng quan trọng của đối tượng bị pha loãng hoặc quên đi khi sinh càng dài.
II. Main Idea:
Memento đề xuất một khung làm việc hướng dẫn tái tạo đối tượng (subject-reconstruction-guided framework) để biến việc bảo toàn nhận dạng thành một bài toán tái thiết có thể kiểm chứng. Mô hình buộc phải tái tạo hình dáng đối tượng mục tiêu chỉ từ bộ nhớ lịch sử và mô tả câu chuyện toàn cục, mà không cần prompt hình ảnh. Để tách biệt bằng chứng nhận dạng dài hạn khỏi tín hiệu ngắn hạn, Memento giới thiệu cơ chế bộ nhớ truy vấn kép: một truy vấn lấy thông tin nhận dạng, truy vấn kia lấy keyframe ngữ cảnh gần để sinh cảnh tiếp theo một cách mạch lạc.
III. Main Results:
- Đạt độ nhất quán liên cảnh quay (inter-shot) cao nhất 0.7338, vượt StoryMem (0.6606) và HoloCine (0.5791).
- Độ nhất quán xuyên suốt các cảnh (inter-scene) đạt 0.7268, cao hơn đáng kể so với StoryDiffusion+Wan2.2-I2V (0.6732).
- Thí nghiệm người dùng cho thấy tỷ lệ thắng 57.3% về cross-shot consistency so với StoryMem và 69.0% so với HoloCine.
- Ablation: thêm nhiệm vụ tái tạo đối tượng cải thiện inter-shot từ 0.7227 lên 0.7489.
- Khả năng mở rộng: sinh liên tục 5 phút mà vẫn duy trì nhận dạng nhân vật và mạch truyện.
IV. Conclusion & Future Works:
Memento giải quyết vấn đề trôi nhận dạng bằng cách kết hợp tái tạo đối tượng dựa trên bộ nhớ và cơ chế bộ nhớ kép, đạt chất lượng tốt nhất trên nhiều chỉ số. Hướng tương lai có thể mở rộng kiến trúc để xử lý nhiều đối tượng tương tác phức tạp hơn và giảm chi phí tính toán của quy trình pipeline dữ liệu.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng Memento để xử lý nhiều đối tượng tương tác phức tạp (ví dụ: hội thoại nhóm, cảnh chiến đấu) với cơ chế gán nhãn và tái tạo riêng cho từng đối tượng.
- Tích hợp kiểm soát độ tuổi hoặc biến đổi ngoại hình theo kịch bản, cho phép nhân vật già đi hoặc thay đổi trang phục mà vẫn giữ được nhận dạng như hiện tại.
- Nghiên cứu cơ chế bộ nhớ nén ngữ nghĩa hiệu quả hơn để giảm dung lượng lưu trữ mà vẫn đảm bảo khả năng tái tạo đối tượng cho sinh video cực dài (30 phút+).
2. Patent:
- Ứng dụng làm video quảng cáo dài trên điện thoại: người dùng nhập mô tả nhân vật và kịch bản; hệ thống tự động sinh video nhiều cảnh với nhân vật chính nhất quán về ngoại hình, phù hợp cho tiếp thị nội dung số.
- Hỗ trợ sinh video kể chuyện tương tác trong game di động: nhân vật chính được định nghĩa một lần, các đoạn cắt cảnh sau đó tự động giữ nguyên nhận dạng dù thay đổi trang phục, vũ khí hay môi trường.
- Tạo video hướng dẫn sản phẩm trên thiết bị di động: người dùng chụp một ảnh sản phẩm và nhập mô tả; hệ thống sinh chuỗi video minh họa các bước sử dụng với sản phẩm xuất hiện nhất quán qua nhiều góc quay và bối cảnh.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.14667 |
| ArXiv Abstract | https://arxiv.org/abs/2606.14667 |
| PDF Download | https://arxiv.org/pdf/2606.14667.pdf |
| Github Repository | https://github.com/ernie-research/Memento |
15. TokenPilot: Cache-Efficient Context Management for LLM Agents (16 votes)
Tác giả: Buqiang Xu, Zirui Xue, Dianmou Chen, Chenyang Fu, Chiyu Wu, et al.
Xuất bản lúc: 2026-06-15
Tag: LLM Agents, Context Management, KV Cache, Prompt Caching, Inference Cost Optimization, Memory Eviction, Prefix Stabilization
I. Main Problem:
Khi các tác tử LLM hoạt động trong phiên dài, ngữ cảnh tích lũy làm tăng chi phí suy luận. Các phương pháp hiện tại như cắt tỉa văn bản hoặc thu hồi bộ nhớ động làm thay đổi bố cục tuần tự, gây ra lỗi tiền tố không khớp và vô hiệu hóa bộ nhớ đệm, dẫn đến đánh đổi giữa giảm token và duy trì tính liên tục của bộ nhớ đệm.
II. Main Idea:
TokenPilot là khung quản lý ngữ cảnh hai cấp độ. Ở cấp độ toàn cục, Ingestion-Aware Compaction ổn định tiền tố và loại bỏ nhiễu cấu trúc từ phản hồi môi trường ngay khi đưa vào. Ở cấp độ cục bộ, Lifecycle-Aware Eviction theo dõi mức độ hữu dụng còn lại của các phân đoạn ngữ cảnh, chỉ loại bỏ chúng khi tác vụ đã hoàn thành hoàn toàn. Phương pháp này bảo toàn tính liên tục của bộ nhớ đệm, biến các lần gọi trả phí đầy đủ thành các lần đọc bộ nhớ đệm chi phí thấp.
III. Main Results:
- Giảm 61% chi phí suy luận trên PinchBench và 87% trên Claw-Eval ở chế độ liên tục, vẫn duy trì hiệu suất cạnh tranh.
- Kết hợp cả hai thành phần giảm chi phí từ 2.79 trên PinchBench liên tục.
- Ổn định tiền tố tăng tỷ lệ hit bộ nhớ đệm từ 38.7% lên 79.2% trên PinchBench và từ 67.2% lên 83.1% trên Claw-Eval.
- Công cụ khôi phục nội dung đầy đủ giúp duy trì độ chính xác tác vụ (80.9 so với 77.1 khi tắt), ngăn vòng lặp tăng trưởng ngữ cảnh do thử lại.
IV. Conclusion & Future Works:
TokenPilot hòa giải giữa giảm văn bản và duy trì bộ nhớ đệm, mang lại nền tảng tiết kiệm chi phí cho tác tử thời gian dài. Hạn chế gồm việc phụ thuộc vào backend hỗ trợ prefix caching và cần tinh chỉnh ngưỡng tần suất/kích thước lô theo môi trường. Hướng tới cần nghiên cứu với luồng tác vụ đa danh mục xáo trộn mạnh.
V. Brainstorming Space:
1. Publish Papers:
- Kết hợp Ingestion-Aware Compaction với kỹ thuật nén ngữ cảnh có học để tự động phát hiện và thay thế các trường thay đổi thường xuyên hơn, không chỉ dựa trên quy tắc tĩnh.
- Mở rộng Lifecycle-Aware Eviction cho môi trường đa tác tử, nơi nhiều tác tử chia sẻ bộ nhớ đệm chung cần phối hợp lịch thu hồi để tránh xung đột.
- Nghiên cứu cơ chế dự đoán trước (predictive prefetching) dựa trên residual utility để tải trước các phân đoạn có khả năng được dùng tiếp, giảm thêm cache miss trong các luồng tác vụ không liên tục.
2. Patent:
- Ứng dụng trên điện thoại thông minh: hệ thống trợ lý ảo thực hiện nhiều tác vụ liên tiếp (đặt lịch, gửi email, tra cứu) dùng TokenPilot để giữ các lệnh hệ thống ổn định trong bộ nhớ đệm, giảm chi phí API và tăng tốc phản hồi cho người dùng.
- Trình duyệt di động thông minh: khi tác tử duyệt web thực hiện chuỗi thao tác, TokenPilot nén mã nguồn HTML và ổn định URL/tiêu đề trang, giúp các bước sau tái sử dụng bộ nhớ đệm mà không cần tải lại toàn bộ trang.
- Hệ thống quản lý công việc doanh nghiệp trên thiết bị di động: ứng dụng ghi nhật ký hội thoại và tài liệu dự án dùng TokenPilot để tự động thu hồi các cuộc trò chuyện cũ khi dự án chuyển sang giai đoạn mới, tiết kiệm chi phí đám mây và giữ tốc độ phản hồi nhanh.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.17016 |
| ArXiv Abstract | https://arxiv.org/abs/2606.17016 |
| PDF Download | https://arxiv.org/pdf/2606.17016.pdf |
| Github Repository | https://github.com/zjunlp/LightMem2 |
16. Retrieve, Don't Retrain: Extending Vision Language Action Models to New Tasks at Test Time (16 votes)
Tác giả: Jeongeun Park, Juhan Park, Taekyung Kim, Sungjoon Choi, Dongyoon Han, et al.
Xuất bản lúc: 2026-06-14
Tag: Vision-Language-Action, Retrieval-Augmented Policy, World-Action Model, Cross-Embodiment Transfer, Robot Foundation Models, Imitation Learning
I. Main Problem:
Việc mở rộng mô hình Vision-Language-Action (VLA) sang tác vụ mới thường yêu cầu thu thập trình diễn teleoperation đặc thù cho tác vụ và fine-tuning tốn kém (khoảng 24 GPU-giờ/tác vụ). Chi phí này tăng tuyến tính với mỗi tác vụ mới, gây cản trở khả năng mở rộng.
II. Main Idea:
RECAP đề xuất thay thế fine-tuning cho từng tác vụ bằng cơ chế retrieval: policy chỉ được huấn luyện một lần trên dữ liệu ghép cặp giữa robot mục tiêu và một embodiment rẻ hơn (ví dụ bàn tay người), sau đó đóng băng. Tác vụ mới được thêm vào chỉ bằng cách nạp thêm dữ liệu trình diễn từ embodiment rẻ vào bộ nhớ retrieval. Policy sử dụng World-Action Model (Cosmos Policy) để sửa chữa động lực học riêng của robot mục tiêu dựa trên quỹ đạo retrieval, nhờ đó thích ứng mà không cần cập nhật tham số.
III. Main Results:
- Trên PushT, RECAP tăng tỷ lệ thành công góc chưa thấy từ 6.0% (không retrieval) lên 34.9% khi mở rộng pool retrieval mà không retrain.
- Trên RoboTwin, RECAP đạt 31.5% tác vụ chưa thấy, vượt các baseline (Retrieval Only: 26.0%, Co-training: 10.0%).
- Thí nghiệm robot thật: chỉ với 10 trình diễn tay người, RECAP đạt 80% (đặt chai) và 30% (đóng tủ) trên tác vụ chưa thấy, trong khi baseline không retrieval thất bại.
- Retrieval kết hợp future-image objective của WAM tạo hiệu ứng cộng hưởng, tăng hiệu suất tốt hơn so với policy chỉ hành động.
IV. Conclusion & Future Works:
RECAP chứng minh rằng thích ứng tác vụ mới có thể đạt được hoàn toàn thông qua retrieval tại test-time, thay thế fine-tuning tốn kém. Hạn chế bao gồm yêu cầu không gian hành động chung giữa các embodiment, và retrieval kém tin cậy khi tốc độ thực hiện khác biệt lớn. Hướng tới: mở rộng retrieval ra dữ liệu video in-the-wild và phát triển biểu diễn bất biến embodiment hơn.
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu ảnh hưởng của retrieval không chỉ với quỹ đạo full mà còn với các thành phần riêng lẻ (ví dụ chỉ vị trí, chỉ lực) để hiểu rõ hơn vai trò của từng thông tin retrieval.
- Mở rộng RECAP cho nhiều nguồn pool không đồng nhất (tay người, robot khác, video YouTube) và học cách chọn pool phù hợp nhất dựa trên độ tin cậy của retrieval.
- Kết hợp RECAP với online adaptation nhẹ: vẫn dùng retrieval làm prior, nhưng cho phép cập nhật tham số rất nhanh trên một vài mẫu mới tại test-time cho tác vụ có động lực học rất khác biệt.
2. Patent:
- Hệ thống dạy robot mới cho nhà máy: người vận hành chỉ cần quay video tay họ làm mẫu trên điện thoại, tải lên; robot tự động đối chiếu với các mẫu đã huấn luyện và thực hiện tác vụ mới mà không cần lập trình lại.
- Ứng dụng trên điện thoại cho robot gia đình (ví dụ robot hút bụi thông minh): người dùng quay video họ đang làm việc nhà (ví dụ lau bàn), robot dùng retrieval để bắt chước hành động đó ngay, mở rộng nhanh thư viện kỹ năng.
- Công cụ thực tế tăng cường (AR) trên điện thoại cho người dùng phổ thông: vẽ quỹ đạo ngón tay trên màn hình để 'dạy' robot tay máy thao tác mới, robot truy xuất quỹ đạo tương tự từ pool để thực thi, không cần kỹ năng lập trình.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.15631 |
| ArXiv Abstract | https://arxiv.org/abs/2606.15631 |
| PDF Download | https://arxiv.org/pdf/2606.15631.pdf |
| Github Repository | N/A |
17. Nemotron 3 Ultra: Open, Efficient Mixture-of-Experts Hybrid Mamba-Transformer Model for Agentic Reasoning (16 votes)
Tác giả: NVIDIA, Aaron Blakeman, Aaron Thomas, Aastha Jhunjhunwala, Abhibha Gupta, et al.
Xuất bản lúc: 2026-06-12
Tag: Mixture-of-Experts, Mamba, Transformer, Agentic Reasoning, Long-Context, NVFP4, Multi-Token Prediction
I. Main Problem:
Các tác vụ tác nhân (agent) đòi hỏi LLM phải suy luận dài hạn, dùng công cụ và tự hoàn thành công việc phức tạp, nhưng hầu hết mô hình hiện tại đều đánh đổi giữa độ chính xác và thông lượng suy luận. Nhiều mô hình công khai có thông lượng thấp khi xử lý chuỗi dài, hạn chế khả năng triển khai trong các hệ thống tác nhân thực tế.
II. Main Idea:
Nemotron 3 Ultra là mô hình MoE lai Mamba-Attention với 550B tổng và 55B tham số hoạt động, tiền huấn luyện trên 20 nghìn tỷ token với NVFP4. Kiến trúc hybrid vừa giảm chi phí attention vừa thu nhỏ KV cache, trong khi LatentMoE tăng độ chính xác trên mỗi tham số hoạt động. Hậu huấn luyện gồm SFT, RLVR và Multi-teacher On-Policy Distillation (MOPD) chuyên sâu về tác nhân, cùng cơ chế kiểm soát nỗ lực suy luận (reasoning effort control) để cân bằng chính xác và chi phí.
III. Main Results:
- Đạt thông lượng suy luận cao hơn 5,9×, 4,8× và 1,6× so với GLM, Kimi và Qwen ở chế độ 8K đầu vào / 64K đầu ra.
- Độ chính xác tương đương hoặc vượt các mô hình cùng cỡ trên nhiều benchmark tác nhân và suy luận.
- Mô hình Base đạt MMLU 89.0%, MMLU-Pro 79.0%, HumanEval 83.8%, RULER 1M 76.8%.
- Mở rộng ngữ cảnh lên 1M token với CPT 33B token, không dùng dữ liệu RULER.
- Huấn luyện NVFP4 ổn định với tổn thất tương đối trung bình dưới 0,4% so với BF16.
IV. Conclusion & Future Works:
Nemotron 3 Ultra chứng minh kiến trúc hybrid Mamba-Attention kết hợp MoE và hậu huấn luyện tác nhân có thể đạt hiệu quả suy luận cao mà vẫn chính xác. Hướng phát triển tiếp theo có thể cải tiến chiến lược MOPD, mở rộng khả năng đa phương thức và tăng cường kiểm soát nỗ lực suy luận cho các tác vụ tác nhân phức tạp hơn.
V. Brainstorming Space:
1. Publish Papers:
- Khám phá cách tích hợp thêm các teacher mô hình đa phương thức vào quy trình MOPD để nâng cao khả năng hiểu ngữ cảnh hình ảnh cho tác vụ tác nhân.
- Nghiên cứu ảnh hưởng của tỉ lệ layer hybrid Mamba-Attention khác nhau đến thông lượng và độ chính xác trên các tác vụ tác nhân dài hạn.
- Phát triển phương pháp kiểm soát nỗ lực suy luận linh hoạt hơn, cho phép tự động điều chỉnh độ sâu suy luận dựa trên độ khó của yêu cầu mà không cần can thiệp thủ công.
2. Patent:
- Phương pháp kiểm soát nỗ lực suy luận trên thiết bị di động: ứng dụng trên điện thoại có thể tự động giảm số bước suy luận khi câu hỏi đơn giản, giúp tiết kiệm pin và tăng tốc phản hồi.
- Hệ thống tác nhân đa năng trên điện thoại: một mô hình duy nhất có thể chuyển đổi linh hoạt giữa các tác vụ (ví dụ: soạn email, tìm kiếm, đặt lịch) nhờ kiến trúc lai và hậu huấn luyện tác nhân, giảm nhu cầu tải nhiều ứng dụng.
- Kỹ thuật nén mô hình trên điện thoại bằng NVFP4 kết hợp với giải mã đặc tả đa token: cho phép chạy mô hình 55B trên thiết bị di động với tốc độ gần thời gian thực mà vẫn duy trì độ chính xác cao.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.15007 |
| ArXiv Abstract | https://arxiv.org/abs/2606.15007 |
| PDF Download | https://arxiv.org/pdf/2606.15007.pdf |
| Github Repository | N/A |
18. MVEB: Massive Video Embedding Benchmark (16 votes)
Tác giả: Adnan El Assadi, Roman Solomatin, Isaac Chung, Chenghao Xiao, Deep Shah, et al.
Xuất bản lúc: 2026-06-12
Tag: Video Embedding, Benchmark, MTEB, Multimodal, Audio-Visual, MLLM, Retrieval, Evaluation
I. Main Problem:
Các benchmark video hiện có thường chỉ đánh giá một năng lực duy nhất (phân loại hành động, truy xuất), dẫn đến bức tranh phân mảnh: mô hình mạnh về tác vụ này lại yếu về tác vụ khác. Thiếu một chuẩn đánh giá toàn diện, thống nhất cho chất lượng embedding video đa mục đích.
II. Main Idea:
MVEB là benchmark 23 tác vụ được tuyển chọn từ 184 tác vụ (MVEB+), bao gồm phân loại, zero-shot, gom cụm, cặp, truy xuất và QA video. Nó ghép cặp mỗi dataset có âm thanh thành hai phiên bản (chỉ video & video+âm thanh) để đo đóng góp của âm thanh. MVEB được tích hợp vào hệ sinh thái MTEB, hỗ trợ đánh giá zero-shot không fine-tuning và có bảng xếp hạng riêng cho mô hình không nhận âm thanh (chỉ văn bản+video) hoặc chỉ video.
III. Main Results:
- Không có mô hình nào thống trị tuyệt đối: LCO-Embedding-Omni-7B (MLLM) đứng đầu chung, trong khi eBind (multimodal binding) dẫn đầu về truy xuất và zero-shot.
- Generative MLLM dùng làm embedder mà không có contrastive adaptation bị sụp đổ (Qwen2.5-Omni-7B chỉ đạt 12.8 điểm so với 55.0 của e5-omni-7B cùng backbone).
- Âm thanh giúp ích trên dataset được gán nhãn từ cả hai modality (AV-grounded), nhưng làm hại (-4.6 điểm) trên dataset chỉ gán nhãn từ hình ảnh (V-grounded).
- Trên bảng xếp hạng chỉ văn bản+video, Qwen3-VL-Embedding-8B (không âm thanh) vượt mọi mô hình omni.
- Quét số khung hình: lợi ích bão hòa ở 32 khung hình; từ 1 lên 8 khung hình cải thiện 43.7%.
IV. Conclusion & Future Works:
MVEB cung cấp benchmark video thống nhất, đa tác vụ, kèm bảng xếp hạng theo modality, giúp so sánh công bằng giữa các dòng mô hình. Hướng tới: mở rộng phủ ngôn ngữ ít tài nguyên, video dài, và miền chuyên sâu (y tế, thể thao, ngôn ngữ ký hiệu) thông qua đóng góp cộng đồng.
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu sâu về chiến lược tích hợp âm thanh cho từng dòng mô hình, dựa trên phát hiện rằng âm thanh gây nhiễu trên dataset V-grounded, để thiết kế đầu vào thích ứng theo nguồn gốc nhãn.
- Mở rộng phân tích cross-modal retrieval sang cấu trúc bậc hai (query multimodal, target multimodal) để khám phá tương tác phức tạp giữa các modality trong không gian embedding.
- Phát triển phương pháp test-time scaling linh hoạt cho video dài: học cách chọn khung hình quan trọng thay vì lấy đều, kết hợp với nén context để giảm chi phí tính toán.
2. Patent:
- Hệ thống tìm kiếm video trên điện thoại: người dùng quay video ngắn, ứng dụng trích xuất embedding video+âm thanh, so khớp với cơ sở dữ liệu cục bộ hoặc đám mây để trả về các video tương tự mà không cần nhập văn bản.
- Ứng dụng phân loại cảm xúc cuộc gọi video (chat, hội nghị): trích embedding đồng thời hình ảnh khuôn mặt và giọng nói, so sánh với ngân hàng cảm xúc chuẩn để gắn nhãn cảm xúc thời gian thực, hỗ trợ phân tích tương tác.
- Công cụ kiểm duyệt nội dung video tự động: dùng embedding đa phương thức (video + âm thanh + văn bản nền) để phát hiện nội dung nhạy cảm (bạo lực, ngôn ngữ xấu) mà không cần huấn luyện riêng cho từng thể loại, chạy ngay trên thiết bị di động nhờ mô hình nhẹ.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.14958 |
| ArXiv Abstract | https://arxiv.org/abs/2606.14958 |
| PDF Download | https://arxiv.org/pdf/2606.14958.pdf |
| Github Repository | N/A |
19. SP^3: Spherical Priors for Plug-and-Play Restoration (15 votes)
Tác giả: Sean Man, Ron Raphaeli, Matan Kleiner, Or Ronai
Xuất bản lúc: 2026-06-15
Tag: Plug-and-Play, Spherical Encoder, Image Restoration, MAP, Half-Quadratic Splitting, Zero-shot, Generative Prior
I. Main Problem:
Các phương pháp khôi phục ảnh dùng tiên nghiệm sinh (diffusion, flow) đòi hỏi gradient trong suy luận và nhiều vòng lặp, gây chậm chạp. Phương pháp Plug-and-Play (PnP) cổ điển dùng bộ khử nhiễu hay mô hình autoencoder truyền thống khác không duy trì được ổn định chiếu lên đa tạp ảnh tự nhiên, dẫn đến chất lượng kém hoặc phân kỳ.
II. Main Idea:
SP³ giới thiệu toán tử chiếu Spherical Encoder (SE) đóng vai trò thay thế bước khử nhiễu trong khung Half-Quadratic Splitting (HQS). SE dùng không gian tiềm ẩn hình cầu được huấn luyện có nhiễu để chiếu ảnh suy biến ổn định lên đa tạp ảnh tự nhiên, phi gradient trong suy luận. Luân phiên bước chiếu này với bước đồng nhất dữ liệu đóng (prox) đạt hội tụ nhanh và cho phép khôi phục 'anytime'—chất lượng tốt đã có ngay sau một bước.
III. Main Results:
- SP³ đạt chất lượng cảm nhận (KID, LPIPS) tương đương DPS, OT-ODE nhưng nhanh hơn 3–630 lần.
- Trên AFHQ-Cat, SP³ 20 bước nhanh gấp 60 lần DPS và 8 lần OT-ODE.
- SP³ hội tụ ổn định sau vài bước, không cần backpropagation.
- So với S-GD và S-PGD (chỉ dùng decoder), SP³ vượt trội ở PSNR (25.7 vs 18.5 & 23.1), LPIPS (0.12 vs 0.58 & 0.26) và thời gian (0.28s vs 1.32s & 1.17s) trên deblurring AFHQ-Cat.
- Các VAE tiêu chuẩn (SD-VAE, EQ-VAE, FLUX) không thể dùng làm toán tử chiếu lặp—LPIPS và KID tăng ngay sau vài bước—trong khi SP³ duy trì ổn định.
IV. Conclusion & Future Works:
SP³ là PnP nhanh, phi gradient, dùng SE làm tiên nghiệm không gian cầu, đạt chất lượng ảnh tương đương diffusion/flow nhưng nhanh hơn nhiều. Hạn chế: ưu tiên chất lượng cảm nhận nên kém ở metrics méo, không phải bộ lấy mẫu hậu nghiệm. Hướng tới là khai thác nhiễu cấu trúc tiềm ẩn để lấy mẫu hậu nghiệm hiệu quả hơn.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng SP³ cho ảnh y tế (nhiễu thấp, giả siêu phân giải) tận dụng anytime để bác sĩ xem ảnh phục hồi ngay, tinh chỉnh dần.
- Kết hợp SP³ với điều kiện ngữ nghĩa để hướng tiên nghiệm hình cầu vào đối tượng cụ thể (vd: mặt người, ô tô) cho phục hồi theo miền.
- Nghiên cứu lý thuyết sâu hơn về tính chất co của toán tử chiếu SE để chứng minh hội tụ chặt chẽ cho các bài toán phi tuyến.
2. Patent:
- Ứng dụng trên điện thoại để khôi phục ảnh mờ do rung tay: chụp một ảnh, hệ thống dùng SE chiếu lên đa tạp mặt người sắc nét, xong tự động cân chỉnh độ sáng—cho ảnh đẹp ngay lần chụp không cần xử lý hậu kỳ lâu.
- Hệ thống camera giám sát ban đêm: lấy ảnh nhiễu, nén, rồi dùng SP³ lặp vài lần để phục hồi chi tiết gương mặt hay biển số xe chỉ trong vài giây trên thiết bị di động.
- Chế độ chụp ảnh liên tục cho điện thoại thông minh: mỗi lần bấm, máy chụp nhanh nhiều ảnh; SP³ tổng hợp khung hình đầu làm ảnh nền sắc nét ngay lập tức, sau đó cải thiện dần mà không chậm trễ.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.16396 |
| ArXiv Abstract | https://arxiv.org/abs/2606.16396 |
| PDF Download | https://arxiv.org/pdf/2606.16396.pdf |
| Github Repository | https://github.com/man-sean/SP3 |
20. UniDDT: Unifying Multimodal Understanding and Generation with Decoupled Diffusion Transformer (14 votes)
Tác giả: Shuai Wang, Liang Li, Yang Chen, Ruopeng Gao, Yao Teng, et al.
Xuất bản lúc: 2026-06-15
Tag: Unified Multimodal Models, Diffusion Transformer, Visual Understanding, Visual Generation, Latent Space, DDT, LLM
I. Main Problem:
Các mô hình đa phương thức thống nhất hiện tại đối mặt với ba thách thức chính: (1) xung đột học tập vốn có giữa tác vụ hiểu và sinh ảnh, dẫn đến hiệu suất dưới tối ưu ở cả hai; (2) không gian thị giác phân mảnh (không gian ngữ nghĩa cho hiểu, không gian VAE cho sinh) cản trở khả năng mở rộng; (3) phụ thuộc quá nhiều vào dữ liệu đặc thù tác vụ, bỏ qua tính đối ngẫu vốn có giữa cặp văn bản-hình ảnh.
II. Main Idea:
UniDDT đề xuất kiến trúc gốc gồm Noisy ViT Encoder, LLM backbone (causal attention) và Diffusion Decoder riêng. Noisy ViT biến đổi cả đầu vào sạch lẫn nhiễu thành biểu diễn ngữ nghĩa thống nhất trong không gian tiềm ẩn (latent space), cho phép LLM đồng thời xử lý hiểu (sinh văn bản) và sinh (tinh chỉnh đặc trưng thị giác làm điều kiện cho Diffusion Decoder). Huấn luyện hai giai đoạn: warm-up tách rời để tránh sụp đổ mô hình, sau đó joint training khai thác tính đối ngẫu của dữ liệu (từ cùng cặp ảnh-chữ tạo mẫu hiểu và sinh) và post-training tối ưu thêm chất lượng sinh bằng cách cực đại hóa khả năng hiểu của mô hình trên các trạng thái trung gian của quá trình sinh.
III. Main Results:
- VLM-UniDDT đạt 0.87 GenEval và 86.9 DPG-Bench trên tác vụ sinh ảnh.
- Trên hiểu đa phương thức, đạt 1699.5 MME(p), 76.5 SEEDbench, 82.2 MMBench(en).
- So sánh cho thấy UniDDT cạnh tranh hoặc vượt các mô hình chuyên dụng và thống nhất trước đó, đặc biệt về độ chính xác bố cục đối tượng (GenEval) và khả năng theo prompt (DPG-Bench).
- Ablation: joint training khai thác đối ngẫu cải thiện đáng kể hiệu suất sinh so với chỉ huấn luyện sinh đơn thuần; post-training tiếp tục nâng cao chất lượng.
IV. Conclusion & Future Works:
UniDDT giải quyết các thách thức về xung đột mô hình hóa, không gian thị giác phân mảnh và dữ liệu tác vụ riêng rẽ bằng thiết kế tách rời nhưng thống nhất, không gian tiềm ẩn chung và khai thác tính đối ngẫu dữ liệu. Hướng tới: tăng cường dữ liệu gốc phong phú hơn, khám phá các bộ mã hóa VAE mạnh hơn, và kết hợp với các công thức dự đoán mới (như JiT) cho không gian pixel.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng UniDDT cho các phương thức khác như video hoặc âm thanh, với Noisy ViT và diffusion decoder tương ứng để xử lý đồng thời hiểu và sinh đa phương thức.
- Nghiên cứu cơ chế đối ngẫu sâu hơn: xây dựng pipeline tự động sinh dữ liệu hiểu-chất lượng cao từ các mô hình sinh mạnh, dùng chính mô hình đó để kiểm tra và cải thiện lẫn nhau.
- Áp dụng kiến trúc Noisy ViT + LLM + decoder riêng cho các tác vụ robotics, nơi robot vừa hiểu cảnh (phân tích) vừa sinh hành động (điều khiển) trên cùng không gian biểu diễn.
2. Patent:
- Hệ thống chụp ảnh chỉnh sửa thông minh trên điện thoại: dùng Noisy ViT để hiểu nội dung ảnh gốc và câu lệnh chỉnh sửa, LLM suy luận ngữ nghĩa, sau đó diffusion decoder tạo ảnh đã chỉnh sửa với chất lượng cao—tất cả trên cùng một mô hình nhúng trong thiết bị di động.
- Ứng dụng tạo nội dung quảng cáo: người dùng nhập mô tả sản phẩm và phong cách; hệ thống dùng mô hình thống nhất để đồng thời hiểu yêu cầu và sinh hình ảnh sản phẩm, văn bản mô tả đi kèm, đảm bảo sự nhất quán giữa nội dung và hình ảnh.
- Công cụ hỗ trợ thiết kế nội thất AR: người dùng chụp ảnh phòng trống, hệ thống hiểu bố cục và gợi ý, sau đó sinh hình ảnh phòng đã được trang trí với các món đồ nội thất; khả năng hiểu cảnh thực và sinh ảnh mới tích hợp trong một quy trình liền mạch.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.16255 |
| ArXiv Abstract | https://arxiv.org/abs/2606.16255 |
| PDF Download | https://arxiv.org/pdf/2606.16255.pdf |
| Github Repository | N/A |
21. GD^2PO: Mitigating Multi-Reward Conflicts via Group-Dynamic reward-Decoupled Policy Optimization (13 votes)
Tác giả: Haotian Liu, Yihao Liu, Jingwei Ni, Siyuan Huang, Xinpeng Liu, et al.
Xuất bản lúc: 2026-06-15
Tag: Multi-Reward Reinforcement Learning, Large Language Models, Policy Optimization, Conflict Filtering, RLHF, Tool Calling
I. Main Problem:
Khi huấn luyện LLM bằng RL với nhiều mục tiêu thưởng cùng lúc (vd: hữu ích và an toàn), các tín hiệu thưởng khác nhau thường mâu thuẫn, dẫn đến việc các gradient hoặc lợi thế đối nghịch triệt tiêu lẫn nhau. Phương pháp hiện tại như GDPO, dù đã tách biệt các nhóm thưởng, vẫn gộp chúng thành một giá trị vô hướng, khiến các mẫu có xung đột cao bị mất tín hiệu học tập hiệu quả.
II. Main Idea:
GD2PO giải quyết xung đột đa thưởng bằng cơ chế lọc động ở hai cấp độ. Đầu tiên, ở cấp rollout, nó lọc ra các mẫu có dấu hiệu mâu thuẫn mạnh giữa các chiều thưởng, dùng quy tắc cứng (dựa trên dấu) hoặc mềm (dựa trên tỷ lệ tín hiệu trên nhiễu SNR). Sau đó, ở cấp query, nó điều chỉnh trọng số cập nhật dựa trên tỷ lệ rollout không xung đột còn lại, giúp ổn định quá trình huấn luyện.
III. Main Results:
- Trên tác vụ tool calling (2 thưởng), GD2PO-Hard cải thiện độ chính xác tổng thể lên tới 1.74 điểm phần trăm so với baseline mạnh nhất.
- Trên alignment hữu ích-an toàn, GD2PO-Hard đạt điểm trung bình cao nhất trên cả hai backbone Llama3.2-3B và Qwen2.5-7B.
- Trên tool calling 3 thưởng, GD2PO-SNR (lọc SNR) đạt độ chính xác tốt nhất, cho thấy lọc mềm hiệu quả hơn khi số chiều thưởng tăng.
- Tỷ lệ xung đột giữa các thưởng dao động theo backbone và tác vụ, khẳng định tính phổ biến của vấn đề.
- Ablation cho thấy cả lọc rollout và điều chỉnh query đều đóng góp tích cực vào hiệu suất cuối.
IV. Conclusion & Future Works:
GD2PO giải quyết hiệu quả vấn đề triệt tiêu tín hiệu trong đa thưởng RL bằng lọc xung đột động, cải thiện đáng kể hiệu quả học tập. Hướng phát triển tương lai là khám phá các chiến lược chọn ngưỡng thích ứng (threshold τ) dựa trên động lực huấn luyện trực tuyến để tăng tính khái quát.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng cơ chế lọc xung đột dựa trên SNR cho các mô hình đa tác vụ, nơi mỗi tác vụ có hàm thưởng riêng và cần cân bằng động.
- Kết hợp GD2PO với các kỹ thuật học tăng cường dựa trên mô hình (model-based RL) để có kế hoạch khám phá và đánh giá xung đột chủ động hơn.
- Nghiên cứu ảnh hưởng của các phương pháp gộp lợi thế phi tuyến tính (thay vì tổng có trọng số) lên chất lượng tín hiệu học tập trong đa mục tiêu.
2. Patent:
- Hệ thống cá nhân hóa trợ lý ảo trên điện thoại: trợ lý sử dụng nhiều điểm thưởng (tốc độ phản hồi, độ chính xác, sự lịch sự) và tự động lọc các câu trả lời gây mâu thuẫn để đưa ra phản hồi cân bằng nhất cho người dùng.
- Phương pháp tối ưu hóa nội dung quảng cáo trên ứng dụng di động: hệ thống dùng nhiều mục tiêu (tỷ lệ nhấp, thời gian xem, mức độ hài lòng) và chỉ giữ lại các chiến dịch có tín hiệu tích cực đồng nhất, tránh lãng phí ngân sách do xung đột mục tiêu.
- Thuật toán điều khiển nhiều camera trên điện thoại chụp ảnh chân dung: mỗi cảm biến (góc rộng, tele, macro) có mục tiêu riêng (độ sắc nét, độ sáng, độ cân bằng màu), hệ thống lọc ra các cài đặt gây xung đột (ví dụ: tăng sắc nét làm mất cân bằng màu) để chọn bộ tham số hài hòa nhất.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.16771 |
| ArXiv Abstract | https://arxiv.org/abs/2606.16771 |
| PDF Download | https://arxiv.org/pdf/2606.16771.pdf |
| Github Repository | https://github.com/Qwen-Applications/GD2PO |
22. CODA-BENCH: Can Code Agents Handle Data-Intensive Tasks? (13 votes)
Tác giả: Yuxin Zhang, Ju Fan, Meihao Fan, Shaolei Zhang, Xiaoyong Du
Xuất bản lúc: 2026-06-13
Tag: LLM Agents, Code Generation, Data Intelligence, Benchmark, Kaggle, Data-Intensive, Autonomous Agents
I. Main Problem:
Các benchmark hiện tại thường đánh giá riêng rẽ khả năng code (code centric) hoặc khả năng làm việc với dữ liệu (data centric), trong khi thực tế phát triển phần mềm đòi hỏi agent phải kết hợp cả hai: tự khám phá dữ liệu trong môi trường lớn, nhiễu và sau đó viết code xử lý. Thiếu một benchmark tích hợp để đánh giá năng lực kép này.
II. Main Idea:
CODA-BENCH xây dựng môi trường sandbox Linux dựa trên hệ sinh thái Kaggle với hàng trăm dataset có quan hệ ngữ nghĩa (đồ thị đồng xuất hiện). Mỗi tác vụ yêu cầu agent tự khám phá cấu trúc thư mục phức tạp (trung bình 980 files) để tìm đúng dữ liệu đích giữa nhiều file gây nhiễu cùng chủ đề, sau đó sinh code phân tích đưa ra đáp án số. Benchmark gồm 1,009 bài toán từ 31 cộng đồng, có cả tập con khó hơn CODA-HARD.
III. Main Results:
- Agent tốt nhất (Mini-SWE-Agent + GPT-5.5) chỉ đạt 61.1% Execution Accuracy trên CODA-BENCH và 49.6% trên CODA-HARD.
- Cung cấp oracle data (đường dẫn chính xác) cải thiện đáng kể độ chính xác (+27.7% cho Claude Code), chứng tỏ khám phá dữ liệu là nút thắt chính.
- Tỉ lệ tín hiệu/nhiễu (SNR) tương quan mạnh với hiệu suất; khối lượng dữ liệu >8GB làm độ chính xác gần như bằng 0.
- Lỗi data discovery chiếm 33-41% các ca thất bại, đặc biệt lớn với model yếu hơn.
IV. Conclusion & Future Works:
CODA-BENCH là benchmark đầu tiên đánh giá đồng thời năng lực code và dữ liệu của agent. Kết quả cho thấy agent hiện tại còn yếu trong môi trường dữ liệu lớn, cần cải thiện khả năng khám phá và tích hợp đa nguồn. Hướng tương lai có thể phát triển agent với chiến lược thăm dò dữ liệu thông minh hơn.
V. Brainstorming Space:
1. Publish Papers:
- Phát triển một phương pháp active exploration cho code agent, tự động ưu tiên duyệt các thư mục có khả năng chứa dữ liệu liên quan dựa trên phân tích ngữ nghĩa tên file và metadata.
- Nghiên cứu cơ chế memory có cấu trúc giúp agent ghi nhớ vị trí và schema của dữ liệu đã khám phá, giảm số lượt duyệt lại và tăng hiệu quả khi giải quyết các tác vụ dài.
- Đề xuất framework huấn luyện agent trên môi trường mô phỏng Kaggle, tận dụng adversarial task evolution để tự động sinh ra các bài toán khó hơn nhằm cải thiện năng lực data discovery.
2. Patent:
- Hệ thống phân tích dữ liệu tự động trên điện thoại: người dùng đưa ra câu hỏi ngôn ngữ tự nhiên; ứng dụng tự động dò tìm các file CSV/JSON trong bộ nhớ điện thoại, xác định dữ liệu liên quan và trả về kết quả trực tiếp.
- Trợ lý doanh nghiệp di động cho nhân viên kinh doanh: khi cần báo cáo, app tự kết nối với kho tài liệu của công ty (hàng nghìn file), phân loại và lọc đúng báo cáo, hóa đơn cần thiết để sinh ra tóm tắt và biểu đồ.
- Công cụ học tập thông minh trên smartphone: học sinh upload ảnh chụp bảng dữ liệu bài tập; agent tự động trích xuất văn bản, tìm thêm dữ liệu gốc trong thư viện số và hướng dẫn giải từng bước.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.15300 |
| ArXiv Abstract | https://arxiv.org/abs/2606.15300 |
| PDF Download | https://arxiv.org/pdf/2606.15300.pdf |
| Github Repository | https://github.com/ruc-datalab/CoDA-Bench |
23. Where Did It Go Wrong? Process-Level Evaluation of Web Agents with Semantic State Tracking (13 votes)
Tác giả: Jiwan Chung, JiHyuk Byun, Vibhav Vineet, Seon Joo Kim
Xuất bản lúc: 2026-04-08
Tag: Web Agents, Benchmark, Semantic MDP, Process-Level Evaluation, Skill Diagnosis, Trajectory Analysis
I. Main Problem:
Các benchmark web agent hiện tại chỉ đánh giá thành công cuối cùng (terminal success), bỏ qua toàn bộ thông tin quá trình tương tác. Điều này che giấu các kiểu thất bại khác nhau về chất và không đưa ra hướng dẫn cụ thể để cải thiện tác nhân.
II. Main Idea:
Bài báo giới thiệu WEBSTEP, một benchmark gồm 1.800 task trên 10 website tự lưu trữ, mỗi website được ghép nối với một semantic MDP (quy trình quyết định Markov ngữ nghĩa). Tác nhân tương tác với GUI, trong khi môi trường tự động ghi lại các chuyển tiếp trạng thái ngữ nghĩa tương ứng, cho phép phân tích chi tiết từng bước mà không cần chú thích thủ công. Dựa trên dấu vết ngữ nghĩa này, bài báo phát triển khung đánh giá cấp quy trình, phân tích hành vi tác nhân thành các khía cạnh như thăm dò, thực thi, kỹ năng, và điểm phân nhánh.
III. Main Results:
- Ba tác nhân nhỏ có tỷ lệ thành công cuối cùng tương tự (31-33%) nhưng khác biệt rõ về mức độ thăm dò và độ chính xác thực thi.
- Phân tích kỹ năng cho thấy các điểm mạnh/yếu đối lập trên cùng một website: trên Housing, OpenAI CUA vượt Qwen3.5 23.7% ở kỹ năng commit nhưng kém 15.6% ở filter.
- Phân tích phân nhánh xác định lỗi đầu tiên dẫn đến thất bại: GUI-Owl thường sai ở Filter, Qwen3.5 sai ở Inspect.
- Sự khác biệt về khả năng thăm dò mở rộng khi task khó hơn: các tác nhân tương tự nhau trên task dễ nhưng tách biệt rõ trên task yêu cầu thăm dò nhiều.
IV. Conclusion & Future Works:
WEBSTEP cho phép đánh giá chi tiết hành vi web agent, phát hiện khác biệt mà thành công cuối cùng che giấu. Hướng tương lai có thể mở rộng sang môi trường phức tạp hơn và cải thiện tác nhân dựa trên chẩn đoán cấp quy trình.
V. Brainstorming Space:
1. Publish Papers:
- Phát triển phương pháp huấn luyện web agent tập trung vào các kỹ năng yếu được phát hiện qua phân tích cấp quy trình, ví dụ tăng cường kỹ năng filter cho OpenAI CUA trên Housing.
- Nghiên cứu cách dự đoán và ngăn chặn các điểm phân nhánh dẫn đến thất bại trong hành trình web agent, đặc biệt là các lỗi mở sai trang chi tiết.
- Xây dựng chiến lược tự động điều chỉnh hành vi tác nhân dựa trên độ phức tạp của task (số lượng hard negative, độ dài quỹ đạo, mức độ thông tin cần truy cập).
2. Patent:
- Hệ thống hỗ trợ người dùng trên điện thoại: khi thực hiện tác vụ nhiều bước (đặt vé, mua sắm), điện thoại ghi lại các bước thao tác, so sánh với quỹ đạo thành công để tự động gợi ý sửa lỗi khi người dùng đi sai hướng.
- Công cụ kiểm thử giao diện tự động trên mobile: thay vì chỉ báo cáo pass/fail, công cụ phân tích từng bước tương tác, xác định kỹ năng nào (tìm kiếm, lọc, chọn) bị lỗi và đề xuất cải tiến cụ thể cho nhà phát triển.
- Phương pháp cá nhân hóa trải nghiệm mua sắm trên điện thoại: phân tích quá trình thao tác của người dùng (không chỉ kết quả cuối) để hiểu thói quen thăm dò và thực thi, từ đó tối ưu gợi ý sản phẩm và quy trình thanh toán.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.15673 |
| ArXiv Abstract | https://arxiv.org/abs/2606.15673 |
| PDF Download | https://arxiv.org/pdf/2606.15673.pdf |
| Github Repository | N/A |
24. You Don't Need Strong Assumptions: Visual Representation Learning via Temporal Differences (12 votes)
Tác giả: Ninad Daithankar, Alexi Gladstone, Yann LeCun, Heng Ji
Xuất bản lúc: 2026-06-14
Tag: Self-Supervised Learning, Video Representation Learning, Temporal Difference, Causality, Vision Transformer
I. Main Problem:
Các phương pháp học biểu diễn thị giác hiện tại vẫn phụ thuộc vào các giả định mạnh như augmentation, masking, hay cropping. Những giả định này càng trở nên hạn chế khi dữ liệu tăng lên, nhưng chưa có phương pháp nào loại bỏ hoàn toàn chúng để đạt được khả năng mở rộng tốt hơn.
II. Main Idea:
Bài báo giới thiệu Temporal Difference in Vision (TDV), một hướng tiếp cận mới cho tự giám sát từ video, chỉ dựa trên giả định nhân quả rằng quá khứ gây ra tương lai. TDV huấn luyện đồng thời một bộ mã hóa ảnh (frame encoder) và một bộ mã hóa chuyển động (motion encoder) sao cho biểu diễn của khung hình hiện tại cộng với vector chuyển động học được bằng biểu diễn của khung hình tiếp theo. Cơ chế self-distillation với EMA teacher và cross-entropy loss trên prototype distributions ngăn chặn sụp đổ biểu diễn.
III. Main Results:
- Trên phân đoạn ngữ nghĩa (ADE20K, Cityscapes), TDV đạt kết quả cạnh tranh với iBOT và DINO, chỉ thua kém nhẹ (ví dụ mIoU 10.54 vs. 10.71 trên ViT-S/ADE20K).
- Trên optical flow (MPI-Sintel), TDV vượt cả DINO và iBOT về EPE (ví dụ 9.84 vs. 13.03 và 11.31 trên clean).
- Trên stereo depth, TDV giảm đáng kể tỷ lệ pixel lỗi (bad@1px 39.70% so với 44.91% của iBOT).
- Thí nghiệm với masking ratios cho thấy khi dữ liệu tăng, giả định yếu hơn cho hiệu suất cao hơn, xác nhận động lực của TDV.
- Khi loại bỏ motion encoder hoặc MSE loss, huấn luyện sụp đổ (KNN Top-5 chỉ ~1.5-1.9%).
IV. Conclusion & Future Works:
TDV là phương pháp đầu tiên học biểu diễn video mà không có augmentation, masking hay giám sát, đạt kết quả cạnh tranh trên các tác vụ không gian động. Hướng tương lai gồm mở rộng sang các phương thức khác có tính nhất quán thời gian cao (âm thanh, xúc giác) và tận dụng ưu thế mở rộng của giả định yếu với dữ liệu lớn hơn.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng TDV cho học biểu diễn âm thanh: thay vì khung hình, dùng các cửa sổ âm thanh liên tiếp và dự đoán cửa sổ tiếp theo trong không gian tiềm ẩn, loại bỏ nhu cầu augmentation hay masking đặc thù cho audio.
- Kết hợp TDV với mô hình ngôn ngữ lớn (LLM) để tạo ra biểu diễn video có khả năng hiểu ngữ cảnh: motion encoder cung cấp thông tin nhân quả, giúp LLM nắm bắt động lực học tự nhiên hơn.
- Nghiên cứu ảnh hưởng của các chiến lược sampling frame (tần suất, độ dài clip) lên chất lượng biểu diễn TDV, tối ưu hóa cho các tác vụ downstream như segmentation và depth estimation.
2. Patent:
- Hệ thống mã hóa video hiệu quả cho điện thoại thông minh: dùng TDV thay vì mã hóa từng khung, chỉ lưu khung đầu tiên và dùng motion encoder nhẹ cho các khung sau, giảm băng thông lưu trữ và truyền tải mà vẫn giữ chất lượng biểu diễn.
- Ứng dụng theo dõi chuyển động trong thực tế tăng cường (AR): camera điện thoại ghi video, motion encoder của TDV trích xuất vector chuyển động ngay trong không gian tiềm ẩn, giúp ước lượng chính xác vị trí đối tượng và hiệu ứng AR ổn định.
- Tính năng tự động tạo highlight video trên thiết bị di động: dựa trên biểu diễn thay đổi từ motion encoder, phát hiện các phân đoạn có chuyển động nổi bật hoặc ngữ cảnh thay đổi lớn để chọn ra những khoảnh khắc quan trọng nhất.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.15956 |
| ArXiv Abstract | https://arxiv.org/abs/2606.15956 |
| PDF Download | https://arxiv.org/pdf/2606.15956.pdf |
| Github Repository | https://github.com/ninaddaithankar/tdv |
25. Track2View: 4D-Consistent Camera-Controlled Video Generation via Paired 3D Point Tracks (12 votes)
Tác giả: Feng Qiao, Zhaochong An, Zhexiao Xiong, Serge Belongie, Nathan Jacobs
Xuất bản lúc: 2026-06-14
Tag: Video Generation, Novel View Synthesis, 3D Point Tracking, Diffusion Transformer, Camera Control, 4D Consistency, Video-to-Video
I. Main Problem:
Các phương pháp hiện tại điều khiển camera trong sinh video chỉ dùng pose embedding theo từng khung, rendering point cloud nhiễu hoặc tương quan ngầm—thiếu tín hiệu hình học rõ ràng, liên tục theo thời gian giữa nguồn và đích, dẫn đến nhấp nháy, lệch camera và mất nội dung khi chuyển động lớn.
II. Main Idea:
Track2View điều kiện hóa video diffusion transformer trên paired 3D point tracks—quỹ đạo thưa của điểm cảnh chiếu lên cả camera nguồn và đích. Bộ dual-view track conditioner dùng bilinear sampling/scattering không tham số để chuyển ngữ cảnh thị giác từ nguồn sang đích, kết hợp temporal aggregation học được. Các track có sẵn tính liên tục thời gian, mã hóa nội dung xuất hiện ở đâu và khi nào, đảm bảo 4D consistency mà không cần depth hay pose tương đối.
III. Main Results:
- Trên 400 video (RealCam-Vid), Track2View vượt các baseline về visual quality, view synchronization và camera accuracy.
- Giảm RotErr 30–65% và TransErr 61–72% so với các phương pháp dẫn đầu.
- FID thấp nhất (26.82 so với 30.32 của Gen3C, 33.85 của ReCamMaster) ở 81 khung.
- Mat.Pix. cao nhất (0.695K so với 0.644K cho Gen3C), khẳng định tương quan hình học mạnh hơn.
- VBench: đạt điểm tốt/nhì trên mọi chiều, chứng tỏ kiểm soát camera không làm giảm chất lượng video.
IV. Conclusion & Future Works:
Track2View cung cấp tín hiệu điều kiện hóa rõ ràng, liên tục thời gian thông qua paired 3D point tracks, vượt qua hạn chế của pose và rendering. Hướng tương lai: tăng cường độ mạnh mẽ với track không hoàn hảo bằng conditioning có trọng số tin cậy.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng Track2View cho nhiều camera đầu vào, kết hợp tracks từ nhiều nguồn để tăng độ bao phủ và ổn định khi có occlusion.
- Tích hợp confidence mask từ point tracker vào quá trình sampling/scattering để giảm ảnh hưởng của track nhiễu lên chất lượng sinh.
- Áp dụng track-conditioning vào mô hình video generation đa tác vụ (text-to-video, image-to-video) để điều khiển camera chính xác hơn.
2. Patent:
- Phần mềm điện thoại tạo video giả lập drone bay quanh nhà: người dùng quay video tay, chọn quỹ đạo camera mong muốn; Track2View tái kết xuất video theo quỹ đạo đó, tạo hiệu ứng fly-through mượt mà.
- Ứng dụng thực tế ảo tăng cường trên điện thoại: người dùng chụp ảnh phòng; hệ thống trích xuất 3D points, cho phép đi bộ quanh phòng ảo với camera điện thoại thực tế, đồng bộ nội dung.
- Công cụ chỉnh sửa video trên di động: người dùng chọn điểm trong video gốc và kéo để xoay/tịnh tiến camera; hệ thống tự động tính paired tracks và tái tạo video từ góc nhìn mới.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.15534 |
| ArXiv Abstract | https://arxiv.org/abs/2606.15534 |
| PDF Download | https://arxiv.org/pdf/2606.15534.pdf |
| Github Repository | https://github.com/mvrl/Track2View |
26. PhoneHarness: Harnessing Phone-Use Agents through Mixed GUI, CLI, and Tool Actions (12 votes)
Tác giả: Chenxin Li, Zhengyao Fang, Zhengyang Tang, Pengyuan Lyu, Xingran Zhou, et al.
Xuất bản lúc: 2026-06-12
Tag: Phone Agent, GUI Agent, Mobile Automation, CLI, MCP Tool, Benchmark, Safety, Android
I. Main Problem:
Hầu hết các nghiên cứu hiện tại về tác tử điện thoại chỉ xem chúng như bộ điều khiển GUI – quan sát màn hình, chạm, vuốt và được đánh giá bằng trạng thái UI. Tuy nhiên, nhiều tác vụ thực tế (tìm kiếm, gửi email, thao tác đa ứng dụng) yêu cầu quyết định giữa GUI, dòng lệnh (CLI), và công cụ bên ngoài, đồng thời để lại bằng chứng kiểm chứng tác vụ đã thực thi thành công.
II. Main Idea:
PhoneHarness giới thiệu một nền tảng và bộ đánh giá tác tử điện thoại với không gian hành động hỗn hợp: thực thi CLI trực tiếp trên thiết bị, ủy quyền tương tác GUI có giới hạn, và gọi công cụ MCP phía máy chủ. Nguyên tắc định tuyến ưu tiên đường dẫn xác định (CLI/công cụ) hơn GUI dễ vỡ. Nền tảng ghi lại nhật ký chi tiết (trace) để xác minh tác dụng phụ như email đã gửi, tập tin đã tạo, cài đặt đã thay đổi, và kiểm tra an toàn (xác nhận, từ chối hành động nhạy cảm).
III. Main Results:
- Trên tập đánh giá 124 tác vụ, PhoneHarness đạt 75.0% tỷ lệ thành công, vượt phương án mạnh nhất không dùng PhoneHarness 12.9 điểm phần trăm.
- Cải thiện tập trung ở tác vụ hệ thống/thiết bị (96.7%) và quy trình có công cụ (74.3%), nơi CLI xác định và tác dụng phụ kiểm chứng được đóng vai trò then chốt.
- Trên tác vụ GUI hỗn hợp (+CLI tùy chọn), PhoneHarness đạt 67.6% so với 24.3% của Seed2.0-Pro (dùng thuần mô hình).
- PhoneHarness không mạnh hơn ở tác vụ GUI đơn ứng dụng (63.3% so với 76.7% của Seed2.0-Pro), chứng tỏ lợi thế đến từ hỗn hợp hành động, không phải click tốt hơn.
IV. Conclusion & Future Works:
PhoneHarness chứng minh rằng tác tử điện thoại đáng tin cậy phụ thuộc vào khả năng định tuyến hành động và kiểm chứng thực thi, không chỉ điều khiển GUI. Hướng phát triển: mở rộng kho kỹ năng, cải thiện chiến lược thăm dò GUI an toàn hơn, và tích hợp sâu hơn các cơ chế phản hồi lỗi tự động từ trace.
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu chiến lược định tuyến hành động thích nghi cho tác tử điện thoại, tự động quyết định khi nào ưu tiên CLI, GUI, hay tool dựa trên độ không chắc chắn và lịch sử thực thi.
- Mở rộng PhoneHarness cho các nền tảng di động khác (iOS) bằng cách xây dựng các proxy GUI và CLI tương ứng, duy trì cùng cơ chế kiểm chứng tác dụng phụ.
- Phát triển cơ chế an toàn động cho tác tử điện thoại: tự động phát hiện ngữ cảnh nhạy cảm, yêu cầu xác nhận hoặc từ chối dựa trên mô hình rủi ro học từ trace và phản hồi người dùng.
2. Patent:
- Trợ lý ảo tự động sao lưu và khôi phục cài đặt điện thoại: dùng CLI (ADB) để truy xuất và đặt cấu hình hệ thống (Wi-Fi, âm lượng) mà không cần chạm vào GUI, kết hợp MCP để nén và gửi file cấu hình lên đám mây.
- Tính năng 'kiểm thử an toàn' cho ứng dụng ngân hàng di động: tác tử tự động chạy kịch bản đa ứng dụng (chuyển tiền, xem sao kê) bằng kết hợp GUI và CLI, ghi lại trace để phát hiện hành vi lạ hoặc rò rỉ dữ liệu, cảnh báo người dùng.
- Công cụ tự động hóa 'một chạm' gửi báo cáo hàng tuần từ điện thoại: dùng CLI lấy ảnh chụp màn hình và thông tin từ ứng dụng (sức khỏe, tài chính), gọi MCP tạo biểu đồ và gửi email, tất cả dưới dạng tác vụ hỗn hợp có kiểm chứng đầu ra.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.14832 |
| ArXiv Abstract | https://arxiv.org/abs/2606.14832 |
| PDF Download | https://arxiv.org/pdf/2606.14832.pdf |
| Github Repository | https://github.com/PhoneHarness/PhoneHarness |
27. Hierarchical Advantage Weighting for Online RL Fine-Tuning of VLAs from Sparse Episode Outcomes (10 votes)
Tác giả: Tongyan Fang, Siyuan Huang, Naiyu Fang, Ganlong Zhao, Zhongjin Luo, et al.
Xuất bản lúc: 2026-06-15
Tag: Vision-Language-Action Models, Online Reinforcement Learning, Robot Manipulation, Imitation Learning, Credit Assignment
I. Main Problem:
Khi tinh chỉnh các chính sách Vision-Language-Action (VLA) bằng học tăng cường trực tuyến, mỗi tập chỉ tạo ra một kết quả nhị phân (thành công/thất bại) nhưng cần tín hiệu cho từng bước chuyển tiếp. Một tín hiệu vô hướng duy nhất không thể tách biệt hai mục tiêu: khả năng tồn tại và hiệu quả; hơn nữa, khi có sự can thiệp của con người, việc gán kết quả tập một cách đơn giản cho tất cả các bước dẫn đến gán nhãn tín dụng không chính xác.
II. Main Idea:
HABC đề xuất một bộ phê bình hai đầu: đầu khả năng tồn tại (viability head) ước tính xác suất thành công từ mọi cửa sổ có nhãn, đầu hiệu quả (efficiency head) ước tính số bước còn lại đến thành công chỉ từ các quỹ đạo thành công. Hai lợi thế một bước được kết hợp qua một cổng thích ứng trạng thái, ưu tiên tín hiệu khả năng tồn tại khi độ chắc chắn thấp và chuyển sang hiệu quả khi độ chắc chắn cao. Ngoài ra, cơ chế gán tín dụng nhận biết can thiệp chỉ gán nhãn kết quả cho các đoạn do chính sách hiện tại thực hiện, ngăn rò rỉ giám sát qua ranh giới quyền điều khiển.
III. Main Results:
- Trên ba tác vụ hai tay tiếp xúc mạnh (Pencil Pouch, Paper Bag, Snack Bag), HABC nâng tỷ lệ thành công từ 36%/44%/12% (SFT) lên 92%/88%/38%.
- HABC-V (chỉ dùng đầu khả năng tồn tại) đã vượt tất cả baseline không phải HABC, cho thấy trọng số mềm hiệu quả hơn lọc cứng.
- Bổ sung đầu hiệu quả (HABC đầy đủ) giảm độ dài quỹ đạo trung bình (-55, -162, -32 khung hình mỗi tác vụ), cải thiện tốc độ hoàn thành.
- Đầu khả năng tồn tại tổng quát hóa theo không gian: vùng trạng thái có p_v > 0.6 mở rộng khi huấn luyện tiến triển.
- Phân tích trọng số theo bước cho thấy đầu khả năng tồn tại phản ứng với sự kiện sống còn, đầu hiệu quả phân biệt các mức độ trong vùng khả năng tồn tại cao.
IV. Conclusion & Future Works:
HABC chuyển đổi kết quả tập thưa thành trọng số cho từng bước, cho phép học từ cả quỹ đạo thành công và thất bại mà không thay đổi chính sách triển khai. Đầu hiệu quả yếu khi thành công hiếm; mở rộng sang đa nhiệm hoặc đa hình thái robot là hướng tương lai. Nghiên cứu tiếp theo có thể cải tiến cổng thích ứng, ước lượng lợi thế nhiều bước và tín hiệu kết quả dày đặc hơn.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng bộ phê bình hai đầu HABC sang môi trường đa nhiệm, mỗi đầu được tinh chỉnh theo từng nhiệm vụ và kết hợp qua cổng học thích ứng toàn cục.
2. Patent:
- Hệ thống điện thoại hướng dẫn người dùng lắp ráp đồ nội thất: điện thoại quay video quy trình, sau đó robot sử dụng HABC để tự sửa lỗi khi phát hiện sai bước qua đầu khả năng tồn tại mà không cần can thiệp từ xa.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.17043 |
| ArXiv Abstract | https://arxiv.org/abs/2606.17043 |
| PDF Download | https://arxiv.org/pdf/2606.17043.pdf |
| Github Repository | https://github.com/ACERobotics-VLA/HABC |
28. Tangram: Unlocking Non-Uniform KV Cache Compression for Efficient Multi-turn LLM Serving (10 votes)
Tác giả: Hyungmin Kim, Minsoo Kim, Hongseok Kim, Jungwook Choi
Xuất bản lúc: 2026-06-15
Tag: KV Cache Compression, LLM Serving, Multi-turn LLM, PagedAttention, GPU Optimization, Memory Management, Inference Optimization
I. Main Problem:
Trong các LLM đa lượt, KV cache mở rộng vượt quá trọng số mô hình, biến bộ nhớ thành nút thắt. Nén KV không đồng đều giữa các attention head bảo toàn độ chính xác tốt hơn nén đồng đều, nhưng không khả thi trong thực tế vì xung đột với thiết kế của các hệ thống serving hiện tại, gây phân mảnh trang, chi phí scheduling cao và mất cân bằng tải GPU.
II. Main Idea:
Tangram phát hiện một quy luật cấu trúc hai mức: thứ hạng nhu cầu lưu giữ các head gần như bất biến với đầu vào, và tỷ lệ lưu giữ tuyệt đối của mỗi head dao động hẹp—có thể hiệu chỉnh offline từ chỉ 50 mẫu. Dựa trên đó, Tangram dùng Budget Reservation ấn định dung lượng sau nén cho từng head tại thời điểm lập lịch; Ragged Paging nhóm các head cùng mức ngân sách vào bảng trang riêng để thu hồi bộ nhớ phân mảnh; và Ahead-of-Time (AOT) Load Balancing tính toán trước phân hoạch GPU cân bằng. Kết hợp lại, Tangram tương thích ngay với các phương pháp nén không đồng đều có sẵn.
III. Main Results:
- Tangram tăng thông lượng đầu cuối lên đến 2.6x so với baseline vLLM (full-KV) khi nén còn 25%.
- Loại bỏ hoàn toàn chi phí thu hồi trang (vốn chiếm đến 25% thời gian prefill).
- Ragged Paging giảm phân mảnh và thu hồi thêm 12-25% bộ nhớ.
- AOT Load Balancing khử hoàn toàn chi phí lập kế hoạch kernel runtime (vốn chiếm 15-20% decode).
- Giữ nguyên độ chính xác của các phương pháp nén không đồng đều gốc trên năm mô hình.
IV. Conclusion & Future Works:
Tangram chứng minh rằng cấu trúc lưu giữ các head là nội tại và tĩnh, biến các overhead runtime thành các quyết định xác định có thể giải quyết trước. Hướng tương lai có thể mở rộng cách tiếp cận này cho các kiến trúc attention biến đổi khác hoặc kết hợp với kỹ thuật nén động mới.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng ý tưởng hiệu chỉnh tĩnh dựa trên cấu trúc cho các kỹ thuật nén KV khác (ví dụ: dựa trên gradient), kiểm tra xem quy luật thứ hạng head có khái quát hóa được không.
- Phát triển phương pháp tự động xác định số head trên mỗi trang (Hp) tối ưu cho mọi mô hình và cấp nén dựa trên profiling môi trường.
- Áp dụng lập lịch tải trước cho các mô hình MoE và môi trường serving đa GPU, nơi tải tính toán không đồng đều hơn.
2. Patent:
- Hệ thống quản lý bộ nhớ cho chatbot di động: dựa trên lịch sử hội thoại, hệ thống dự đoán trước mức nén tối ưu cho từng loại câu hỏi và từng head attention, cấp phát bộ nhớ chính xác ngay từ đầu, loại bỏ hoàn toàn delay do nén sau đó.
- Phương pháp tăng tốc prefill trên điện thoại: tận dụng quy luật thứ hạng head ổn định để phân phối trước tải nén KV lên các lõi GPU khác nhau tại thời điểm lập lịch, giảm thời gian chờ cho người dùng.
- Ứng dụng trong camera AI: với các mô hình ngôn ngữ-thị giác chạy trên edge device, ý tưởng nhóm các head cùng mức ngân sách giúp giảm áp lực bộ nhớ đệm khi phân tích luồng video dài, cho phép phản hồi thời gian thực với độ trễ thấp hơn.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2606.06302 |
| ArXiv Abstract | https://arxiv.org/abs/2606.06302 |
| PDF Download | https://arxiv.org/pdf/2606.06302.pdf |
| Github Repository | https://github.com/aiha-lab/tangram |