Chuyển tới nội dung chính

🤗 Daily Hugging Face Paper Digest - 2026-01-26

Báo cáo được tạo tự động vào lúc 2026-01-27 16:54:38 bằng mô hình gemini-2.5-flash.

📰 Summary of Papers​

1. LongCat-Flash-Thinking-2601 Technical Report (147 votes)​

Tác giả: Meituan LongCat Team, Anchun Gui, Bei Li, Bingyang Tao, Bole Zhou, Borun Chen, Chao Zhang, Chao Zhang, Chen Gao, Chen Zhang, Chengcheng Han, Chenhui Yang, Chuyu Zhang, Cong Chen, Cunguang Wang, Daoru Pan, Defei Bu, Dengchang Zhao, Di Xiu, Dishan Liu, Dongyu Ru, Dunwei Tu, Fan Wu, Fengcheng Yuan, Fengcun Li, Gang Xu, Guanyu Wu, Guoyuan Lin, Haibin Wang, Hansi Yang, Hao Yang, Haonan Yan, Haoxiang Ma, Haoxing Wen, Hongyan Hao, Hongyin Tang, Hongyu Zang, Hongzhi Ni, Hui Su, Jiacheng Zhang, Jiahong Zhou, Jiahuan Li, Jiaming Wang, Jian Yang, Jianfei Zhang, Jianhao Xu, Jianing Wang, Jiapeng Zhu, Jiaqi Sun, Jiarong Shi, Jiarui Zhao, Jingang Wang, Jinluan Yang, Jinrui Ding, Jinwei Xiao, Jiyuan He, Juncan Xu, Kefeng Zhang, Keheng Wang, Li Wei, Lianhui Ma, Lin Qiu, Lingbing Kong, Lingchuan Liu, Linsen Guo, Mengshen Zhu, Mengxia Shen, Mingyang Zhu, Peiguang Li, Peng Pei, Pengcheng Jia, Pengtao Zhang, Peng Zhao, Qi Gu, Qiong Huang, Qiyuan Duan, Quanchi Weng, Rongxiang Weng, Rongzhi Zhang, Rumei Li, Shanglin Lei, Shengnan An, Shijun Dai, Shuaikang Liu, Shuang Zhou, Shuo Wang, Songyuan Zhao, Tao Liang, Tianhao Hu, Tianze Chen, Wei Liu, Wei Shi, Wei Wang, Weifeng Tang, Wenjie Shi, Wenlong Zhu, Wentao Chen, Wentao Shi, Xi Su, Xiangcheng Liu, Xiandi Ma, Xiangyu Xi, Xiangyuan Liu, Xiangzhou Huang, Xiao Liu, Xiaodong Cai, Xiaolong Chen, Xiaowei Shi, Xiaoyu Li, Xin Chen, Xingchen Liu, Xuan Huang, Xuezhi Cao, Xunliang Cai, Yan Chen, Yang Bai, Yang Liu, Yang Yang, Yang Zheng, Yaoming Wang, Yaoming Zhu, Yaqi Huo, Yanyu Chen, Yaorui Shi, Yerui Sun, Yi Zhang, Yihao Chen, Yi-Kai Zhang, Yifan Lu, Yifan Zhao, Yitao Zhai, Yongjing Yin, Yongwei Zhou, Youshao Xiao, Yuchuan Dai, Yuchen Xie, Yuchen Yu, Yufei Zhang, Yuhuai Wei, Yulei Qian, Yunfan Liang, Yunke Zhao, Yuwei Jiang, Yuxin Bian, Yuxin Chen, Yuxin Liu, Yue Xu, Yueqing Sun, Zeyang Yu, Zhao Yang, Zhengsheng Huang, Zhengyu Chen, Zhijian Liu, Zhikang Xia, Zhimin Lin, Zhiyuan Yao, Zhuofan Chen, Zhuowen Han, Zijian Zhang, Ziran Li, Ziwen Wang, Ziyuan Zhuang

Xuất bản lúc: 2026-01-23

Tag: Mixture-of-Experts (MoE), Large Language Models (LLM), Agentic AI, Reinforcement Learning (RL), Tool Use, Generalization, Robustness, Scaling

I. Main Problem:​

Vấn đề cốt lõi mà bài báo đề cập là làm thế nào để áp dụng các khả năng giải quyết vấn đề phức tạp của các mô hình suy luận vào các nhiệm vụ thực tế và mở rộng hơn nữa những khả năng này. Cụ thể, việc đạt được khả năng suy luận tác nhân (agentic reasoning) tiên tiến đòi hỏi các mô hình phải có thể xác định khi nào và làm thế nào để tương tác với các môi trường bên ngoài, cũng như tích hợp phản hồi từ môi trường để duy trì và phát triển quá trình suy luận. Các thách thức chính bao gồm xử lý các quỹ đạo tương tác dài, các môi trường không đồng nhất, các động lực tương tác phân bố lệch (long-tailed interaction dynamics), và sự khan hiếm của dữ liệu tương tác tác nhân chất lượng cao trong thế giới thực.

II. Main Idea:​

Bài báo giới thiệu LongCat-Flash-Thinking-2601, một mô hình suy luận Mixture-of-Experts (MoE) mã nguồn mở với 560 tỷ tham số, được thiết kế để có khả năng suy luận tác nhân vượt trội. Giải pháp này dựa trên một khung đào tạo thống nhất kết hợp huấn luyện chuyên gia song song theo miền với sự hợp nhất sau đó, cùng với thiết kế đồng bộ từ đầu đến cuối về xây dựng dữ liệu, môi trường, thuật toán và cơ sở hạ tầng. Các đóng góp chính bao gồm:

  1. Mở rộng môi trường và Huấn luyện môi trường đa miền: Phát triển một khung xây dựng môi trường và tạo tác vụ có khả năng mở rộng, tạo ra bộ sưu tập lớn các môi trường tác nhân chất lượng cao, có thể thực thi và kiểm chứng. Họ mở rộng khung học tăng cường không đồng bộ DORA để hỗ trợ huấn luyện ổn định và hiệu quả trên hơn 10.000 môi trường và hơn 20 miền.
  2. Huấn luyện tác nhân mạnh mẽ trong môi trường nhiễu: Tiến hành phân tích hệ thống các kiểu nhiễu thực tế và thiết kế các quy trình huấn luyện mục tiêu để tích hợp rõ ràng các yếu tố không hoàn hảo này vào quá trình huấn luyện, cải thiện tính mạnh mẽ cho các ứng dụng thực tế.
  3. Chế độ suy nghĩ chuyên sâu (Heavy Thinking Mode): Giới thiệu một chế độ đặc biệt cho phép mở rộng khả năng suy luận hiệu quả tại thời điểm kiểm thử bằng cách đồng thời mở rộng chiều sâu và chiều rộng của suy luận thông qua suy nghĩ song song chuyên sâu. Để giải quyết sự khan hiếm dữ liệu tương tác tác nhân, mô hình sử dụng quy trình tổng hợp dữ liệu lai kết hợp tổng hợp dựa trên văn bản và tổng hợp dựa trên môi trường, tập trung vào xây dựng dữ liệu định hướng kế hoạch.

III. Main Results:​

LongCat-Flash-Thinking-2601 đạt hiệu suất hàng đầu trong số các mô hình mã nguồn mở trên nhiều điểm chuẩn tác nhân khác nhau, bao gồm tìm kiếm tác nhân, sử dụng công cụ tác nhân và suy luận tích hợp công cụ. Cụ thể, mô hình thể hiện khả năng tổng quát hóa mạnh mẽ đối với các tương tác công cụ phức tạp và hành vi mạnh mẽ trong các môi trường thực tế có nhiễu. Các chỉ số hiệu suất nổi bật bao gồm: 73.1% trên BrowseComp, 77.7% trên RWSearch, 88.2% trên τ2-Bench và 29.3% trên VitaBench. Những kết quả này khẳng định LongCat-Flash-Thinking-2601 là mô hình mã nguồn mở hàng đầu cho các tác vụ tìm kiếm tác nhân và sử dụng công cụ tác nhân.

IV. Conclusion & Future Works:​

Bài báo kết luận rằng LongCat-Flash-Thinking-2601 là một mô hình MoE tiên tiến, thiết lập một tiêu chuẩn mới về khả năng suy luận tác nhân trong các mô hình mã nguồn mở. Thành tựu này có được nhờ khung đào tạo thống nhất, bao gồm việc mở rộng môi trường, huấn luyện mạnh mẽ trong điều kiện nhiễu và chế độ "Suy nghĩ chuyên sâu" cải tiến. Việc phát hành các điểm kiểm tra của mô hình nhằm thúc đẩy nghiên cứu trong tương lai và ứng dụng thực tế của các hệ thống tác nhân. Các hướng nghiên cứu tiếp theo có thể tập trung vào việc khám phá thêm các phương pháp mở rộng môi trường hiệu quả hơn, phát triển các chiến lược huấn luyện mạnh mẽ hơn nữa để đối phó với sự không hoàn hảo của thế giới thực, và tối ưu hóa các kỹ thuật suy nghĩ chuyên sâu để cải thiện hiệu suất và hiệu quả.

V. Brainstorming Space:​

1. Publish Papers:​

  • Phát triển một phương pháp mới để tự động tạo ra các môi trường tác nhân động, thích ứng với các thay đổi liên tục của thế giới thực để huấn luyện mô hình mạnh mẽ hơn.
  • Nghiên cứu tác động của các chiến lược phân phối chuyên gia và cơ chế hợp nhất lên khả năng tổng quát hóa của mô hình MoE trong các tác vụ suy luận tác nhân phức tạp.
  • Thiết kế một khung đánh giá mới cho khả năng suy luận tác nhân, tập trung vào các kịch bản tương tác đa bước, dài hạn và các thách thức về tính mạnh mẽ trong môi trường có nhiễu.

2. Patent:​

  • Một hệ thống trợ lý ảo trên điện thoại di động có khả năng tự động học cách sử dụng bất kỳ ứng dụng nào được cài đặt để hoàn thành các tác vụ do người dùng đưa ra, ngay cả khi các bước thực hiện không được định nghĩa trước.
  • Một công nghệ trên điện thoại thông minh cho phép mô hình suy luận của thiết bị tự động phân tích và sửa chữa các lỗi hoặc gián đoạn trong quá trình thực hiện tác vụ của người dùng, chẳng hạn như khi một ứng dụng không phản hồi hoặc giao diện thay đổi.
  • Một phương pháp cho phép điện thoại di động thực hiện "suy nghĩ sâu" để đưa ra các gợi ý hoặc hành động phức tạp hơn, bằng cách tạo ra nhiều kịch bản giải pháp song song và tự đánh giá chúng trước khi hiển thị cho người dùng, giúp tăng cường khả năng giải quyết vấn đề tổng thể của thiết bị.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.16725
ArXiv Abstracthttps://arxiv.org/abs/2601.16725
PDF Downloadhttps://arxiv.org/pdf/2601.16725.pdf
Github RepositoryN/A

2. SWE-Pruner: Self-Adaptive Context Pruning for Coding Agents (71 votes)​

Tác giả: Yuhang Wang, Yuling Shi, Mo Yang, Rongrui Zhang, Shilin He, Heng Lian, Yuting Chen, Siyu Ye, Kai Cai, Xiaodong Gu

Xuất bản lúc: 2026-01-23

Tag: LLM Agent, Context Pruning, Code Understanding, Software Engineering

I. Main Problem:​

Các tác nhân LLM (LLM agents) trong phát triển phần mềm bị cản trở bởi các ngữ cảnh tương tác dài, gây ra chi phí API cao và độ trễ. Các phương pháp nén ngữ cảnh hiện có thường dựa vào các tiêu chí cố định như PPL, bỏ qua tính chất đặc thù của việc hiểu mã nguồn, dẫn đến phá vỡ cấu trúc cú pháp và logic, cũng như không giữ lại được các chi tiết triển khai quan trọng. Ngoài ra, việc tiêu thụ lượng lớn token cho các hoạt động đọc mã nguồn (chiếm tới 76.1% tổng chi phí token) trong môi trường phát triển phần mềm thực tế tạo ra "bức tường ngữ cảnh" (Context Wall) gây tốn kém, nhiễu và có thể dẫn đến ảo giác.

II. Main Idea:​

Bài báo đề xuất SWE-Pruner, một khuôn khổ cắt tỉa ngữ cảnh tự thích ứng được thiết kế riêng cho các tác nhân lập trình. Lấy cảm hứng từ cách các lập trình viên "lướt chọn lọc" mã nguồn, SWE-Pruner thực hiện cắt tỉa thích ứng có nhận thức về nhiệm vụ cho các ngữ cảnh dài. Cụ thể, tác nhân sẽ tạo ra một "Gợi ý Mục tiêu" (Goal Hint) dưới dạng câu hỏi ngôn ngữ tự nhiên (ví dụ: "tập trung vào xử lý lỗi") để hướng dẫn mục tiêu cắt tỉa. Một "bộ lọc thần kinh" (neural skimmer) nhẹ chỉ 0.6B tham số, được huấn luyện trên 61K dữ liệu tổng hợp, sẽ tự động chọn các dòng mã liên quan từ ngữ cảnh xung quanh dựa trên gợi ý mục tiêu này. Quá trình cắt tỉa được thực hiện ở cấp độ dòng để bảo toàn tính toàn vẹn cú pháp và cấu trúc, đồng thời đạt được khả năng nén chính xác, chuyển đổi kết quả truy xuất thô thành ngữ cảnh tập trung, liên quan đến nhiệm vụ. SWE-Pruner hoạt động như một lớp trung gian, chặn ngữ cảnh thô từ các thao tác đọc tệp và trả về ngữ cảnh đã được cắt tỉa cho tác nhân, sử dụng kiến trúc Qwen3-Reranker-0.6B và được huấn luyện bằng CRF-NLL để học các quyết định giữ/cắt tỉa dòng một cách hiệu quả.

III. Main Results:​

SWE-Pruner đạt được mức giảm token từ 23-54% trên các tác vụ tác nhân như SWE-Bench Verified và giảm tới 14.84 lần khả năng nén trên các tác vụ một lượt như LongCodeQA với tác động hiệu suất tối thiểu. Trên SWE-Bench Verified, SWE-Pruner giảm token đáng kể (ví dụ: 39% với Claude Sonnet 4.5) và giảm số vòng tương tác của tác nhân lên tới 26% nhờ khả năng đưa ra lý luận quyết đoán hơn và ít hành động khám phá dư thừa hơn. Phân tích cho thấy các hoạt động đọc tệp (read operations) chiếm 76.1% tổng số token tiêu thụ, chứng minh sự cần thiết và hiệu quả của cơ chế cắt tỉa ngữ cảnh.

IV. Conclusion & Future Works:​

Bài báo kết luận rằng SWE-Pruner là một khuôn khổ cắt tỉa ngữ cảnh mới lạ và hiệu quả cho các tác nhân lập trình, giải quyết vấn đề "bức tường ngữ cảnh" bằng cách thực hiện cắt tỉa theo cấp độ dòng, có nhận thức về nhiệm vụ. Giải pháp này mang lại hiệu quả đáng kể về chi phí token và số vòng tương tác của tác nhân mà không ảnh hưởng đáng kể đến hiệu suất. Các hướng nghiên cứu tiếp theo không được đề cập rõ ràng trong đoạn văn trích dẫn.

V. Brainstorming Space:​

1. Publish Papers:​

  • Phát triển một mô hình skimmer đa ngôn ngữ hỗ trợ nhiều ngôn ngữ lập trình khác nhau, cải thiện khả năng thích ứng và áp dụng rộng rãi.
  • Nghiên cứu việc tích hợp SWE-Pruner với các quy trình kiểm thử và gỡ lỗi tự động để tối ưu hóa việc phân tích và sửa lỗi mã nguồn.
  • Khám phá các phương pháp để tạo "Gợi ý Mục tiêu" tự động và thông minh hơn, có thể suy luận từ ngữ cảnh nhiệm vụ phức tạp mà không cần sự can thiệp thủ công.

2. Patent:​

  • Một hệ thống quản lý và hiển thị mã nguồn trên thiết bị di động, tự động lọc và chỉ hiển thị các dòng mã liên quan đến yêu cầu hoặc tìm kiếm cụ thể của người dùng, giúp nhà phát triển làm việc hiệu quả hơn khi di chuyển.
  • Một ứng dụng trợ lý lập trình tích hợp trên điện thoại thông minh, cho phép người dùng nhập các câu hỏi về chức năng hoặc lỗi trong mã nguồn và nhận được các đoạn mã liên quan đã được tinh gọn, cùng với giải thích ngắn gọn.
  • Công nghệ tích hợp vào trình soạn thảo mã nguồn trên máy tính bảng hoặc điện thoại, tự động tối ưu hóa kích thước cửa sổ ngữ cảnh dựa trên nhiệm vụ hiện tại của lập trình viên, giảm chi phí xử lý và cải thiện trải nghiệm người dùng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.16746
ArXiv Abstracthttps://arxiv.org/abs/2601.16746
PDF Downloadhttps://arxiv.org/pdf/2601.16746.pdf
Github Repositoryhttps://github.com/Ayanami1314/swe-pruner

3. TwinBrainVLA: Unleashing the Potential of Generalist VLMs for Embodied Tasks via Asymmetric Mixture-of-Transformers (56 votes)​

Tác giả: Bin Yu, Shijie Lian, Xiaopeng Lin, Yuliang Wei, Zhaolong Shen, Changti Wu, Yuzhuo Miao, Xinming Wang, Bailing Wang, Cong Huang, Kai Chen

Xuất bản lúc: 2026-01-20

Tag: Vision-Language-Action, Embodied AI, Mixture-of-Transformers, Catastrophic Forgetting, Robotic Control

I. Main Problem:​

Vấn đề cốt lõi mà bài báo đề cập là "quên thảm khốc" (catastrophic forgetting) trong các mô hình Vision-Language-Action (VLA) tiêu chuẩn. Khi một mô hình ngôn ngữ-thị giác (VLM) đa năng đã được huấn luyện trước được tinh chỉnh cho các tác vụ điều khiển robot (kỹ năng cảm biến-vận động cấp thấp, chi tiết), nó thường mất đi khả năng hiểu ngữ nghĩa cấp cao và khả năng tổng quát hóa trong thế giới mở. Điều này tạo ra mâu thuẫn giữa việc duy trì sự hiểu biết ngữ nghĩa tổng quát và học các kỹ năng điều khiển robot chính xác, làm suy yếu tiền đề cơ bản của việc tận dụng VLM để điều khiển robot một cách tổng quát.

II. Main Idea:​

Bài báo giới thiệu TwinBrainVLA, một kiến trúc mới lấy cảm hứng từ sự chuyên biệt hóa bán cầu não của con người để giải quyết mâu thuẫn này. TwinBrainVLA phối hợp hai đường dẫn VLM song song:

  1. "Não Trái" (Left Brain): Là một VLM đa năng đã được huấn luyện trước và được "đóng băng" (frozen), có chức năng duy trì khả năng hiểu ngữ nghĩa tổng quát và tuân thủ chỉ dẫn trong thế giới mở.
  2. "Não Phải" (Right Brain): Là một VLM có thể huấn luyện được, chuyên biệt hóa cho nhận thức thực thể (embodied perception), tiếp nhận các đầu vào thị giác, ngôn ngữ và trạng thái bản thể của robot. Hai "bộ não" này tương tác thông qua một cơ chế mới gọi là Asymmetric Mixture-of-Transformers (AsyMoT). Cơ chế này cho phép "Não Phải" động học truy vấn kiến thức ngữ nghĩa từ "Não Trái" đã đóng băng và kết hợp nó với trạng thái bản thể của robot, cung cấp điều kiện phong phú cho một Flow-Matching Action Expert để tạo ra các lệnh điều khiển liên tục chính xác. Thiết kế này đảm bảo rằng khả năng hiểu ngữ nghĩa tổng quát được bảo toàn trong khi vẫn đạt được sự khéo léo vật lý cao cho robot.

III. Main Results:​

Các thí nghiệm rộng rãi trên các bộ điểm chuẩn SimplerEnv và RoboCasa cho thấy TwinBrainVLA đạt được hiệu suất điều khiển vượt trội so với các phương pháp hiện đại, đồng thời bảo toàn rõ ràng khả năng hiểu thị giác toàn diện của VLM đã được huấn luyện trước. Bài báo khẳng định rằng kiến trúc TwinBrainVLA, cơ chế AsyMoT và chiến lược huấn luyện được đề xuất đều có hiệu quả.

IV. Conclusion & Future Works:​

Conclusion: TwinBrainVLA cung cấp một hướng đi hứa hẹn để xây dựng các robot đa năng có thể đồng thời đạt được khả năng hiểu ngữ nghĩa cấp cao và sự khéo léo vật lý cấp thấp thông qua việc tách biệt rõ ràng các khả năng này. Nó thành công giải quyết vấn đề "quên thảm khốc" vốn có trong các mô hình VLA chỉ có một xương sống. Future Works: Hướng nghiên cứu tiếp theo sẽ tập trung vào việc phát triển sâu hơn các robot đa năng có cả năng lực nhận thức và kỹ năng vật lý, tiếp tục tối ưu hóa sự tương tác giữa các khả năng này.

V. Brainstorming Space:​

1. Publish Papers:​

  • Nghiên cứu việc áp dụng cơ chế Asymmetric Mixture-of-Transformers để giải quyết vấn đề "quên thảm khốc" trong các mô hình ngôn ngữ lớn khi tinh chỉnh cho các nhiệm vụ cụ thể mà không làm mất đi kiến thức tổng quát.
  • Khám phá tích hợp các loại cảm biến khác (ví dụ: cảm biến lực, âm thanh môi trường) vào "Não Phải" của kiến trúc TwinBrainVLA để tăng cường khả năng thích ứng và phản ứng của robot trong các môi trường phức tạp hơn.
  • Phát triển các phương pháp huấn luyện gia cố (Reinforcement Learning) cho kiến trúc hai luồng như TwinBrainVLA nhằm tối ưu hóa hành vi điều khiển robot dựa trên phản hồi môi trường mà vẫn duy trì khả năng hiểu ngữ nghĩa.

2. Patent:​

  • Một hệ thống điều khiển robot trên thiết bị di động có khả năng thực hiện các tác vụ phức tạp được chỉ dẫn bằng ngôn ngữ tự nhiên từ người dùng, đồng thời duy trì khả năng nhận diện và hiểu các đối tượng trong môi trường xung quanh.
  • Một phương pháp cho phép điện thoại thông minh điều khiển các thiết bị nhà thông minh tự động thực hiện các hành động vật lý (ví dụ: mở rèm, pha cà phê) dựa trên các lệnh ngữ nghĩa của người dùng, sử dụng hai bộ xử lý song song để vừa giải thích lệnh vừa điều chỉnh hành động.
  • Một ứng dụng trên điện thoại thông minh cho phép người dùng tùy chỉnh và huấn luyện robot trợ lý cá nhân, nơi robot có thể học các kỹ năng mới như nhặt đồ vật mà không mất đi khả năng trò chuyện và hiểu ngữ cảnh tổng quát đã được cài đặt sẵn.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.14133
ArXiv Abstracthttps://arxiv.org/abs/2601.14133
PDF Downloadhttps://arxiv.org/pdf/2601.14133.pdf
Github Repositoryhttps://github.com/ZGC-EmbodyAI/TwinBrainVLA

4. VisGym: Diverse, Customizable, Scalable Environments for Multimodal Agents (29 votes)​

Tác giả: Zirui Wang, Junyi Zhang, Jiaxin Ge, Long Lian, Letian Fu, Lisa Dunlap, Ken Goldberg, XuDong Wang, Ion Stoica, David M. Chan, Sewon Min, Joseph E. Gonzalez

Xuất bản lúc: 2026-01-23

Tag: VLM, Interactive Environments, Multi-step Reasoning, Evaluation Framework

I. Main Problem:​

Các Mô hình Ngôn ngữ-Thị giác (VLM) hiện đại chưa được đánh giá kỹ lưỡng trong các tương tác thị giác đa bước, đặc biệt là cách chúng tích hợp nhận thức, bộ nhớ và hành động trong các tác vụ kéo dài. Các nghiên cứu hiện có thường mang tính chất cụ thể theo từng lĩnh vực và thiếu khả năng chẩn đoán có hệ thống về các yếu tố ảnh hưởng đến hiệu suất của mô hình.

II. Main Idea:​

Bài nghiên cứu giới thiệu VisGym, một bộ gồm 17 môi trường đa dạng, có khả năng tùy chỉnh và mở rộng để đánh giá và huấn luyện VLM. Bộ môi trường này bao gồm các câu đố biểu tượng, hiểu hình ảnh thực tế, điều hướng và thao tác, đồng thời cung cấp các kiểm soát linh hoạt về độ khó, biểu diễn đầu vào, tầm nhìn lập kế hoạch và phản hồi. VisGym cũng cung cấp các bộ giải đa bước tạo ra các minh họa có cấu trúc để phục vụ cho việc tinh chỉnh có giám sát.

III. Main Results:​

Các mô hình tiên tiến nhất cũng gặp khó khăn trong các môi trường tương tác của VisGym, đạt tỷ lệ thành công thấp trong cấu hình dễ (46.6%) và khó (26.0%). Các thí nghiệm chỉ ra những hạn chế đáng kể:

  1. Các mô hình gặp khó khăn trong việc tận dụng hiệu quả ngữ cảnh dài, thậm chí hoạt động kém hơn khi lịch sử không bị giới hạn so với khi bị cắt bớt.
  2. Các tác vụ biểu tượng dựa trên văn bản trở nên khó khăn hơn đáng kể khi được hiển thị trực quan.
  3. Các mô hình gặp khó khăn trong việc suy luận trạng thái và kết quả tác vụ từ các chuyển đổi thuần túy trực quan, đòi hỏi phản hồi văn bản rõ ràng để tăng hiệu suất.
  4. Lợi ích của việc cung cấp quan sát mục tiêu rõ ràng là không ổn định và có thể phản tác dụng, do các mô hình có thể nhận diện sai mục tiêu.
  5. Các mô hình không học được từ các minh họa tiêu chuẩn trong môi trường có khả năng quan sát một phần hoặc động lực không xác định, yêu cầu các minh họa tiết lộ thông tin để cải thiện đáng kể kết quả tinh chỉnh có giám sát.

IV. Conclusion & Future Works:​

VisGym được thiết lập như một khung công tác thống nhất và có thể mở rộng để chẩn đoán, hiểu và cuối cùng là cải thiện các VLM trong việc ra quyết định tương tác thị giác. Các phát hiện đã nêu bật những chế độ lỗi cụ thể và các con đường để cải thiện việc ra quyết định thị giác đa bước.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu các kiến trúc VLM mới được thiết kế đặc biệt để xử lý hiệu quả ngữ cảnh dài và tích hợp thông tin thị giác-ngôn ngữ trong các tác vụ đa bước.
  2. Phát triển các phương pháp huấn luyện với dữ liệu tăng cường hoặc học tăng cường để cải thiện khả năng suy luận và ra quyết định của VLM trong môi trường có quan sát một phần hoặc động lực không xác định.
  3. Khám phá ảnh hưởng của các phương thức phản hồi (textual, visual, multimodal) và thiết kế mục tiêu rõ ràng lên hiệu suất của VLM trong các tác vụ tương tác phức tạp.

2. Patent:​

  1. Một hệ thống trò chơi trên điện thoại thông minh tạo ra các câu đố thị giác tương tác có độ khó tùy chỉnh, giúp người dùng rèn luyện khả năng giải quyết vấn đề đa bước.
  2. Một ứng dụng hướng dẫn trên điện thoại sử dụng camera để nhận diện các vật thể và cung cấp phản hồi thị giác, giúp người dùng hoàn thành các tác vụ lắp ráp hoặc sửa chữa phức tạp.
  3. Một công nghệ hỗ trợ người dùng trên điện thoại di động giúp giải quyết các bài toán thực tế bằng cách phân tích hình ảnh và cung cấp chuỗi hành động được đề xuất, cải thiện hiệu suất trong môi trường không quen thuộc.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.16973
ArXiv Abstracthttps://arxiv.org/abs/2601.16973
PDF Downloadhttps://arxiv.org/pdf/2601.16973.pdf
Github Repositoryhttps://github.com/visgym/VIsGym

5. Memory-V2V: Augmenting Video-to-Video Diffusion Models with Memory (16 votes)​

Tác giả: Dohun Lee, Chun-Hao Paul Huang, Xuelin Chen, Jong Chul Ye, Duygu Ceylan, Hyeonho Jeong

Xuất bản lúc: 2026-01-22

Tag: Diffusion, Video-to-Video, Memory, Consistency

I. Main Problem:​

Các mô hình khuếch tán video-to-video hiện tại gặp khó khăn trong việc duy trì sự nhất quán giữa các lần chỉnh sửa video liên tiếp (multi-turn editing), dẫn đến tình trạng trôi dạt về hình ảnh hoặc cấu trúc 3D khi người dùng thực hiện nhiều vòng điều chỉnh. Vấn đề này làm giảm chất lượng và hiệu quả của quy trình chỉnh sửa video trong thế giới thực, đặc biệt trong các tác vụ như tổng hợp chế độ xem mới của video hoặc chỉnh sửa video dài.

II. Main Idea:​

Bài báo giới thiệu Memory-V2V, một khuôn khổ tăng cường các mô hình khuếch tán video-to-video hiện có bằng bộ nhớ tường minh để giải quyết vấn đề nhất quán trong chỉnh sửa video đa vòng lặp. Memory-V2V sử dụng một cache bên ngoài chứa các video đã chỉnh sửa trước đó, áp dụng các chiến lược truy xuất chính xác và mã hóa token động để điều kiện bước chỉnh sửa hiện tại dựa trên các kết quả đã có. Hơn nữa, để giảm thiểu sự dư thừa và chi phí tính toán, Memory-V2V đề xuất một bộ nén token có thể học được trong kiến trúc DiT, giúp nén các token điều kiện dư thừa mà vẫn giữ lại các tín hiệu hình ảnh thiết yếu.

III. Main Results:​

Memory-V2V đã được đánh giá trên các tác vụ khó khăn bao gồm tổng hợp chế độ xem mới của video và chỉnh sửa video dài có điều kiện bằng văn bản. Các thử nghiệm cho thấy Memory-V2V tạo ra các video có sự nhất quán vượt trội giữa các lần chỉnh sửa liên tiếp với chi phí tính toán tối thiểu, đồng thời duy trì hoặc thậm chí cải thiện hiệu suất của tác vụ so với các phương pháp tiên tiến hiện có. Cụ thể, phương pháp này đạt được tốc độ xử lý nhanh hơn 30%. Một thử nghiệm chứng minh khái niệm cũng chỉ ra rằng Video VAE cung cấp sự cân bằng tốt nhất giữa độ trung thực và hiệu quả trong việc mã hóa ngữ cảnh.

IV. Conclusion & Future Works:​

Bài báo giới thiệu Memory-V2V, khuôn khổ đầu tiên mở rộng các mô hình khuếch tán chỉnh sửa video hiện có với bộ nhớ trực quan tường minh, từ đó định nghĩa và giải quyết tác vụ chỉnh sửa video đa vòng lặp nhất quán. Công trình này cho phép chỉnh sửa video lặp đi lặp lại với bộ nhớ trực quan dài hạn, tạo ra các video nhất quán với tất cả các video đã chỉnh sửa trước đó. Hướng nghiên cứu tiếp theo có thể bao gồm việc khám phá các phương pháp mã hóa và truy xuất bộ nhớ hiệu quả hơn hoặc mở rộng Memory-V2V sang các ứng dụng chỉnh sửa video phức tạp hơn nữa.

V. Brainstorming Space:​

1. Publish Papers:​

  • Phát triển các kỹ thuật nén bộ nhớ thích ứng, tự động điều chỉnh mức độ chi tiết của thông tin được lưu trữ dựa trên bối cảnh và yêu cầu của người dùng trong quá trình chỉnh sửa.
  • Nghiên cứu việc tích hợp các loại bộ nhớ phi hình ảnh (ví dụ: siêu dữ liệu, thông tin ngữ nghĩa) để cải thiện khả năng duy trì sự nhất quán trong các kịch bản chỉnh sửa video phức tạp hơn.
  • Áp dụng khung Memory-V2V để tạo ra các chuỗi video dài hoặc phim hoạt hình ngắn với sự nhất quán về nhân vật và bối cảnh trên toàn bộ câu chuyện.

2. Patent:​

  • Một hệ thống chỉnh sửa video trên điện thoại di động có khả năng ghi nhớ các chỉnh sửa trước đó của người dùng để tự động áp dụng và duy trì sự nhất quán về phong cách hoặc hiệu ứng trên các đoạn video khác nhau.
  • Một phương pháp nén và truy xuất dữ liệu thông minh trên thiết bị di động, cho phép các ứng dụng chỉnh sửa video lưu trữ và tham chiếu hiệu quả các phiên bản video đã chỉnh sửa, giảm thiểu dung lượng lưu trữ cần thiết.
  • Một công nghệ cho phép camera điện thoại ghi lại và nhận diện các đối tượng hoặc khuôn mặt đã xuất hiện trong các video trước đó để tạo ra các video mới có sự liên kết về nhân vật và vị trí, đảm bảo tính liên tục trong một chuỗi cảnh quay.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.16296
ArXiv Abstracthttps://arxiv.org/abs/2601.16296
PDF Downloadhttps://arxiv.org/pdf/2601.16296.pdf
Github RepositoryN/A

6. Inference-Time Scaling of Verification: Self-Evolving Deep Research Agents via Test-Time Rubric-Guided Verification (16 votes)​

Tác giả: Yuxuan Wan, Tianqing Fang, Zaitang Li, Yintong Huo, Wenxuan Wang, Haitao Mi, Dong Yu, Michael R. Lyu

Xuất bản lúc: 2026-01-22

Tag: Deep Research Agents, Verification, Self-evolution, Inference-time scaling, Large Language Models, Feedback Mechanisms

I. Main Problem:​

Các Deep Research Agents (DRAs) hiện nay, mặc dù mạnh mẽ, vẫn thường xuyên tạo ra các kết quả không đáng tin cậy do lỗi hành động, lỗi API, hoặc ảo giác (hallucinations), hạn chế đáng kể khả năng triển khai thực tế của chúng. Việc giám sát thủ công là không khả thi cho các tác vụ dài hơi, phức tạp, và các phương pháp cải thiện trong thời gian suy luận hiện có chưa giải quyết triệt để vấn đề này, đặc biệt là trong việc tạo ra phản hồi chất lượng cao để cải thiện tác nhân một cách tự động.

II. Main Idea:​

Bài báo đề xuất một mô hình thay thế để tự cải thiện khả năng của các tác nhân bằng cách xác minh lặp đi lặp lại các đầu ra của mô hình chính sách, được hướng dẫn bởi các tiêu chí đánh giá (rubrics) được xây dựng tỉ mỉ. Cách tiếp cận này tạo ra "inference-time scaling of verification", nơi một tác nhân tự cải thiện bằng cách đánh giá các câu trả lời do nó tạo ra để sản xuất phản hồi lặp lại và tinh chỉnh mà không cần đào tạo thêm. Để làm được điều này, bài báo giới thiệu DeepVerifier, một bộ xác minh kết quả dựa trên rubrics, tận dụng tính bất đối xứng của việc xác minh (kiểm tra dễ hơn tạo ra). DeepVerifier phân tách các vấn đề xác minh phức tạp thành các nhiệm vụ phụ truy xuất thông tin đơn giản hơn và tạo ra phản hồi dựa trên một phân loại lỗi DRA tự động được xây dựng. Một bộ dữ liệu DeepVerifier-4K cũng được phát hành để hỗ trợ huấn luyện các mô hình nguồn mở.

III. Main Results:​

  • DeepVerifier vượt trội hơn các phương pháp cơ sở như "agent-as-judge" và "LLM judge" từ 12-48% về điểm F1 trong siêu đánh giá (meta-evaluation).
  • Khi được tích hợp như một module "plug-and-play" trong quá trình suy luận và sử dụng các LLM nguồn đóng mạnh mẽ, nó mang lại mức tăng độ chính xác 8-11% trên các tập con đầy thách thức của GAIA và 3-6% trên XBench-DeepSearch.
  • Mô hình DeepVerifier-8B được tinh chỉnh trên bộ dữ liệu DeepVerifier-4K vượt trội so với các mô hình nguồn mở khác sau quá trình phản hồi trên các điểm chuẩn chính.
  • Phân loại lỗi DRA đã xác định năm lớp chính và mười ba lớp phụ, cho thấy các lỗi trong việc tìm nguồn thông tin (Finding Sources) và lập luận (Reasoning) là phổ biến nhất.

IV. Conclusion & Future Works:​

Bài báo đã hình thức hóa quy trình phản hồi của tác nhân cho Deep Research Agents và chứng minh hiệu quả của việc tận dụng tính bất đối xứng của việc xác minh để đạt được hiệu suất đánh giá vượt trội. Việc giới thiệu phân loại lỗi DRA và các tiêu chí đánh giá có cấu trúc đã cung cấp một khuôn khổ mạnh mẽ để tự động phát hiện lỗi và cải thiện tác nhân. Hướng nghiên cứu tiếp theo có thể bao gồm việc mở rộng việc triển khai DeepVerifier cho các loại tác vụ phức tạp khác và tích hợp các cơ chế phản hồi tiên tiến hơn để tự tiến hóa tác nhân liên tục.

V. Brainstorming Space:​

1. Publish Papers:​

  • Phát triển một phương pháp tự động để tạo ra các tiêu chí đánh giá (rubrics) chi tiết và phù hợp theo ngữ cảnh cho các tác vụ nghiên cứu mới, không phụ thuộc vào phân loại lỗi thủ công.
  • Nghiên cứu ảnh hưởng của việc kết hợp các modal thông tin khác nhau (ví dụ: hình ảnh, âm thanh) vào quá trình xác minh và phản hồi của DeepVerifier để cải thiện hiệu suất của tác nhân đa phương thức.
  • Áp dụng cơ chế xác minh tự tiến hóa của DeepVerifier vào các lĩnh vực ngoài nghiên cứu, như tự động hóa quy trình nghiệp vụ (Business Process Automation) hoặc phát triển phần mềm, để nâng cao độ tin cậy của tác nhân.

2. Patent:​

  • Một hệ thống điện thoại thông minh tích hợp tính năng tự động kiểm tra và sửa lỗi cho các ứng dụng nghiên cứu hoặc công việc phức tạp, cung cấp phản hồi chi tiết để người dùng tinh chỉnh đầu ra.
  • Một ứng dụng di động cho phép người dùng định nghĩa các tiêu chí đánh giá tùy chỉnh cho các tác vụ cụ thể, sau đó hệ thống sẽ tự động xác minh kết quả và gợi ý các cải tiến dựa trên các tiêu chí đó.
  • Công nghệ tích hợp vào trợ lý ảo trên điện thoại để tự động xác minh độ chính xác của thông tin được tìm kiếm hoặc các bước giải quyết vấn đề, đồng thời đề xuất các bước hành động tiếp theo dựa trên phản hồi.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.15808
ArXiv Abstracthttps://arxiv.org/abs/2601.15808
PDF Downloadhttps://arxiv.org/pdf/2601.15808.pdf
Github RepositoryN/A

7. Jet-RL: Enabling On-Policy FP8 Reinforcement Learning with Unified Training and Rollout Precision Flow (15 votes)​

Tác giả: Haocheng Xi, Charlie Ruan, Peiyuan Liao, Yujun Lin, Han Cai, Yilong Zhao, Shuo Yang, Kurt Keutzer, Song Han, Ligeng Zhu

Xuất bản lúc: 2026-01-20

Tag: Reinforcement Learning, Quantization, FP8, LLM, Training Acceleration

I. Main Problem:​

Huấn luyện học tăng cường (RL) là yếu tố thiết yếu để nâng cao khả năng suy luận phức tạp của các mô hình ngôn ngữ lớn (LLM), nhưng quá trình này tiêu tốn nhiều tài nguyên và không hiệu quả về mặt tính toán, đặc biệt là giai đoạn "rollout" chiếm hơn 70% tổng thời gian huấn luyện. Mặc dù lượng tử hóa FP8 hứa hẹn mang lại giải pháp bằng cách sử dụng độ chính xác FP8 cho rollout để tăng tốc, nhưng chiến lược phổ biến "BF16-train + FP8-rollout" lại gây ra sự mất ổn định nghiêm trọng trong quá trình huấn luyện và suy giảm độ chính xác thảm khốc khi tạo phản hồi dài hoặc đối mặt với các tác vụ khó. Vấn đề này phát sinh từ sự chênh lệch số học đáng kể giữa pha huấn luyện và pha suy luận do bản chất "off-policy" của phương pháp này.

II. Main Idea:​

Bài báo đề xuất Jet-RL, một khuôn khổ huấn luyện RL sử dụng FP8 nhằm giải quyết các hạn chế của phương pháp hiện có. Ý tưởng cốt lõi của Jet-RL là áp dụng một quy trình độ chính xác FP8 thống nhất cho cả quá trình huấn luyện và giai đoạn rollout. Điều này giúp giảm thiểu sự khác biệt về số học giữa huấn luyện và suy luận, loại bỏ nhu cầu hiệu chỉnh không hiệu quả giữa các bước và đảm bảo quá trình huấn luyện RL ổn định và mạnh mẽ. Jet-RL sử dụng sơ đồ lượng tử hóa hỗn hợp (per-group và per-block) và các kernel FP8 GEMM tiên tiến để đạt được khả năng tăng tốc toàn diện.

III. Main Results:​

Jet-RL đã chứng minh hiệu quả vượt trội:

  • Đạt được tốc độ tăng cường lên tới 33% cho giai đoạn rollout.
  • Tăng tốc độ pha huấn luyện lên tới 41%.
  • Đạt được tốc độ tăng cường end-to-end là 16% so với huấn luyện BF16.
  • Duy trì sự hội tụ mạnh mẽ trên tất cả các cài đặt và chỉ thể hiện sự suy giảm độ chính xác không đáng kể (khoảng 1% so với hơn 5% của các phương pháp BF16-train-FP8-rollout).
  • Giải quyết vấn đề mất ổn định huấn luyện và suy giảm độ chính xác dưới các điều kiện rollout dài và tác vụ khó khăn mà các phương pháp hiện có gặp phải.

IV. Conclusion & Future Works:​

Jet-RL cung cấp một giải pháp mạnh mẽ và hiệu quả để tăng tốc quá trình huấn luyện học tăng cường bằng cách áp dụng một luồng độ chính xác FP8 thống nhất cho cả huấn luyện và rollout. Điều này giải quyết vấn đề không khớp chính sách và đảm bảo tối ưu hóa ổn định, duy trì hiệu suất tương đương với các phương pháp BF16 trong khi cải thiện đáng kể tốc độ. Bài báo kết luận rằng phương pháp này là một giải pháp mạnh mẽ cho huấn luyện RL độ chính xác thấp hiệu quả, cho phép tăng tốc đáng kể mà không làm giảm hiệu suất. Bài báo sẽ phát hành mã nguồn và các mô hình đã huấn luyện.

V. Brainstorming Space:​

1. Publish Papers:​

  • Nghiên cứu sự thích ứng của Jet-RL với các kiến trúc mô hình ngôn ngữ lớn khác và các miền ứng dụng RL đa dạng hơn ngoài suy luận.
  • Khám phá các phương pháp lượng tử hóa động hoặc thích ứng cho Jet-RL, cho phép mô hình tự động điều chỉnh độ chính xác dựa trên trạng thái huấn luyện hoặc độ phức tạp của tác vụ.
  • Phân tích sâu hơn về tác động của các lược đồ lượng tử hóa khác nhau (ví dụ: INT4, INT8) khi áp dụng cho luồng thống nhất của Jet-RL và so sánh hiệu suất.

2. Patent:​

  • Một hệ thống tăng tốc quá trình học tập tự động cho các ứng dụng trí tuệ nhân tạo trên thiết bị di động, bằng cách sử dụng nhất quán một tiêu chuẩn tính toán dữ liệu nhỏ gọn cho tất cả các giai đoạn hoạt động của mô hình.
  • Phương pháp tiết kiệm năng lượng và tài nguyên trên điện thoại thông minh khi chạy các tác vụ suy luận phức tạp của mô hình ngôn ngữ, thông qua việc đồng bộ hóa phương pháp xử lý dữ liệu số gọn nhẹ cho cả quá trình học và quá trình tạo ra kết quả.
  • Ứng dụng học tăng cường trên thiết bị cầm tay có khả năng duy trì độ ổn định và chính xác cao, đạt được bằng cách loại bỏ sự không tương thích trong độ chính xác tính toán giữa các bước học và bước dự đoán.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.14243
ArXiv Abstracthttps://arxiv.org/abs/2601.14243
PDF Downloadhttps://arxiv.org/pdf/2601.14243.pdf
Github RepositoryN/A

8. Dancing in Chains: Strategic Persuasion in Academic Rebuttal via Theory of Mind (13 votes)​

Tác giả: Zhitao He, Zongwei Lyu, Yi R Fung

Xuất bản lúc: 2026-01-22

Tag: Theory of Mind, Academic Rebuttal, Large Language Models, Reinforcement Learning, Supervised Fine-tuning

I. Main Problem:​

Phản biện học thuật là một thách thức đáng kể và chưa được khám phá đầy đủ đối với trí tuệ nhân tạo (AI). Các phương pháp AI hiện tại gặp khó khăn vì chúng chủ yếu bắt chước ngôn ngữ bề mặt, bỏ lỡ yếu tố thiết yếu của việc thấu hiểu quan điểm người khác (Theory of Mind) cần thiết cho sự thuyết phục hiệu quả. Quá trình phản biện không phải là một cuộc tranh luận kỹ thuật đơn thuần mà là một quá trình giao tiếp chiến lược phức tạp dưới sự bất đối xứng thông tin nghiêm trọng.

II. Main Idea:​

Bài báo giới thiệu RebuttalAgent, khung đầu tiên tích hợp Theory of Mind (ToM) vào phản biện học thuật, được vận hành thông qua quy trình ToM-Strategy-Response (TSR).

  • Quy trình TSR: Phân tách nhiệm vụ phản biện thành ba giai đoạn:
    • ToM (T): Phân tích ý định vĩ mô của người đánh giá và các thuộc tính vi mô của từng bình luận để xây dựng một hồ sơ người đánh giá đa chiều.
    • Strategy (S): Sử dụng hồ sơ này để xây dựng một kế hoạch hành động chiến lược cho bình luận mục tiêu.
    • Response (R): Tổng hợp hồ sơ người đánh giá, kế hoạch và các đoạn bằng chứng liên quan từ bản thảo gốc để tạo ra phản hồi thuyết phục, có tính bối cảnh.
  • Để đào tạo: Bài báo xây dựng RebuttalBench, một bộ dữ liệu quy mô lớn (hơn 70K mẫu) được tổng hợp qua phương pháp "critique-and-refine". Quá trình đào tạo gồm hai giai đoạn: tinh chỉnh có giám sát (SFT) để trang bị khả năng phân tích dựa trên ToM và lập kế hoạch chiến lược, sau đó là học tăng cường (RL) sử dụng cơ chế tự thưởng (self-reward) để tự cải thiện.
  • Để đánh giá: Phát triển Rebuttal-RM, một mô hình đánh giá chuyên biệt được đào tạo trên hơn 100K mẫu dữ liệu, đạt được sự nhất quán cao trong chấm điểm so với sở thích của con người.

III. Main Results:​

  • RebuttalAgent vượt trội hơn mô hình cơ sở trung bình 18.3% trên các chỉ số tự động.
  • RebuttalAgent cũng vượt trội hơn các mô hình độc quyền tiên tiến trong cả đánh giá tự động và đánh giá của con người.
  • Rebuttal-RM đạt được sự nhất quán cao trong việc chấm điểm so với sở thích của con người, vượt qua GPT-4.1.
  • Trình trích xuất bình luận sử dụng LLM-as-Extractor đạt độ chính xác 98% trong việc phân tách các bình luận.

IV. Conclusion & Future Works:​

RebuttalAgent là khung đầu tiên ứng dụng Theory of Mind (ToM) vào phản biện học thuật thông qua quy trình TSR. Bằng cách mô hình hóa rõ ràng quan điểm của người đánh giá, xác định các mối quan tâm chính và đề xuất các phản hồi có cơ sở với lý luận chiến lược thích ứng, tác nhân này giúp các tác giả giao tiếp rõ ràng và hiệu quả hơn, vượt ra ngoài các phản hồi rập khuôn. Bài báo đặt nền móng vững chắc cho việc ứng dụng ToM trong giao tiếp chiến lược bằng AI, gợi mở các hướng cải thiện khả năng phản biện của AI.

V. Brainstorming Space:​

1. Publish Papers:​

  • Phát triển RebuttalAgent để xử lý các tình huống phản biện phức tạp hơn, bao gồm những yêu cầu sửa đổi sâu rộng hoặc khi có sự mâu thuẫn giữa các người đánh giá.
  • Nghiên cứu khả năng áp dụng Theory of Mind vào các tác vụ giao tiếp chiến lược khác của mô hình ngôn ngữ lớn, như đàm phán hợp đồng hoặc tư vấn pháp lý.
  • Khám phá các phương pháp đào tạo và kiến trúc mô hình mới cho các mô hình đánh giá phản hồi để đạt được độ tin cậy và hiệu quả cao hơn nữa với lượng dữ liệu đào tạo nhỏ hơn.

2. Patent:​

  • Một hệ thống trợ lý cá nhân trên điện thoại di động giúp người dùng soạn thảo các tin nhắn email hoặc văn bản mang tính thuyết phục cao bằng cách phân tích bối cảnh và ý định có thể có của người nhận.
  • Một ứng dụng di động tích hợp tính năng phân tích phản hồi của khách hàng, tự động xác định các vấn đề cốt lõi và đề xuất các chiến lược phản hồi phù hợp để cải thiện sự hài lòng.
  • Một công nghệ trong điện thoại thông minh cho phép người dùng tối ưu hóa nội dung tin nhắn hoặc bài đăng trên mạng xã hội, đề xuất cách diễn đạt và chiến lược giao tiếp để đạt được mục tiêu cụ thể, ví dụ như thuyết phục người khác hoặc xây dựng hình ảnh tích cực.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.15715
ArXiv Abstracthttps://arxiv.org/abs/2601.15715
PDF Downloadhttps://arxiv.org/pdf/2601.15715.pdf
Github RepositoryN/A

9. SALAD: Achieve High-Sparsity Attention via Efficient Linear Attention Tuning for Video Diffusion Transformer (11 votes)​

Tác giả: Tongcheng Fang, Hanling Zhang, Ruiqi Xie, Zhuo Han, Xin Tao, Tianchen Zhao, Pengfei Wan, Wenbo Ding, Wanli Ouyang, Xuefei Ning, Yu Wang

Xuất bản lúc: 2026-01-23

Tag: Diffusion, Video Generation, Attention Mechanism, Sparsity, Linear Attention, Transformer

I. Main Problem:​

Các mô hình Diffusion Transformer đã thể hiện hiệu suất vượt trội trong tạo video, nhưng phải đối mặt với độ trễ tính toán cao do phức tạp bậc hai của cơ chế attention đầy đủ khi xử lý các chuỗi đầu vào dài. Các cơ chế sparse attention hiện có hoặc bị hạn chế về độ thưa và tăng tốc khi không cần huấn luyện, hoặc đòi hỏi lượng dữ liệu và tính toán đáng kể để huấn luyện để đạt được độ thưa cao hơn. Ngoài ra, việc tinh chỉnh bằng LoRA cũng gặp khó khăn trong việc khôi phục hoàn toàn hiệu suất của các mô hình ultra-sparse attention với ngân sách huấn luyện giới hạn, dẫn đến các tạo phẩm hình ảnh không mong muốn.

II. Main Idea:​

Bài báo đề xuất SALAD (High-Sparsity Attention paralleling with Linear Attention for Diffusion Transformer), một kiến trúc attention hiệu quả để đạt được sparse attention cao. SALAD giới thiệu một nhánh linear attention nhẹ chạy song song với sparse attention. Một cơ chế gating phụ thuộc vào đầu vào được thiết kế để điều chỉnh một cách tinh tế sự tác động của nhánh linear attention theo từng lớp, đảm bảo sparse attention chiếm ưu thế trong khi linear attention đóng vai trò bổ trợ để khôi phục các tương tác xuyên token quan trọng bị mất trong điều kiện độ thưa cực cao. Hầu hết các tham số của nhánh linear attention được chia sẻ với module sparse attention, chỉ thêm khoảng 4.99% tham số bổ sung vào mô hình được huấn luyện trước.

III. Main Results:​

SALAD đã đạt được độ thưa 90% và tăng tốc suy luận 1.72 lần, đồng thời duy trì chất lượng tạo video có thể so sánh với mô hình full attention ban đầu. Quá trình tinh chỉnh của SALAD rất hiệu quả, chỉ yêu cầu 2.000 mẫu video và 1.600 bước huấn luyện với kích thước batch là 8. Điều này cho thấy SALAD vượt trội so với các phương pháp sparse attention khác, bao gồm cả các biến thể được tinh chỉnh bằng LoRA, về sự cân bằng giữa chất lượng tổng thể và tốc độ.

IV. Conclusion & Future Works:​

SALAD cung cấp một phương pháp hiệu quả để giải quyết thách thức về hiệu suất của các Video Diffusion Transformer bằng cách kết hợp một nhánh linear attention song song và một cơ chế gating phụ thuộc đầu vào để bổ sung thông tin bị mất trong sparse attention. Cách tiếp cận này giúp đạt được độ thưa cao và tăng tốc đáng kể mà vẫn giữ được chất lượng tạo video, đồng thời giảm đáng kể chi phí tinh chỉnh so với các phương pháp dựa trên huấn luyện truyền thống hoặc LoRA. Văn bản trích dẫn không đề cập rõ ràng đến các công việc tương lai.

V. Brainstorming Space:​

1. Publish Papers:​

  • Nghiên cứu việc tích hợp SALAD vào các mô hình Transformer đa phương thức để xử lý hiệu quả các chuỗi đầu vào dài kết hợp văn bản, hình ảnh và video.
  • Khám phá các chiến lược tối ưu hóa cho cơ chế gating phụ thuộc đầu vào của SALAD, ví dụ như sử dụng các mạng thần kinh nhỏ để dự đoán trọng số cổng động.
  • Phân tích khả năng mở rộng của SALAD đối với độ dài chuỗi cực lớn, vượt qua giới hạn của các video hiện tại, để ứng dụng trong các lĩnh vực như mô phỏng khoa học hoặc y tế.

2. Patent:​

  • Hệ thống tạo video trên điện thoại thông minh giảm tiêu thụ pin bằng cách sử dụng công nghệ attention kết hợp giữa kiểu thưa và tuyến tính để xử lý nhanh video độ phân giải cao.
  • Phương pháp cải thiện hiệu suất ứng dụng chỉnh sửa video trên thiết bị di động bằng cách điều khiển thông minh các tương tác dữ liệu video, giúp tạo ra các hiệu ứng phức tạp mà không làm chậm thiết bị.
  • Thiết bị chụp ảnh và quay phim tích hợp bộ xử lý hình ảnh dựa trên attention hiệu quả, cho phép người dùng tạo ra các đoạn phim chất lượng cao với hiệu ứng động mượt mà trong thời gian thực.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.16515
ArXiv Abstracthttps://arxiv.org/abs/2601.16515
PDF Downloadhttps://arxiv.org/pdf/2601.16515.pdf
Github RepositoryN/A