🤗 Daily Hugging Face Paper Digest - 2026-02-05

Báo cáo được tạo tự động vào lúc 2026-02-09 13:42:38 bằng mô hình gemini-2.5-flash.

📰 Summary of Papers

1. ERNIE 5.0 Technical Report (239 votes)

Tác giả: Haifeng Wang, Hua Wu, Tian Wu, Yu Sun, Jing Liu, Dianhai Yu, Yanjun Ma, Jingzhou He, Zhongjun He, Dou Hong, Qiwen Liu, Shuohuan Wang, Junyuan Shang, Zhenyu Zhang, Yuchen Ding, Jinle Zeng, Jiabin Yang, Liang Shen, Ruibiao Chen, Weichong Yin, Siyu Ding, Dai Dai, Shikun Feng, Siqi Bao, Bolei He, Yan Chen, Zhenyu Jiao, Ruiqing Zhang, Zeyu Chen, Qingqing Dang, Kaipeng Deng, Jiajun Jiang, Enlei Gong, Guoxia Wang, Yanlin Sha, Yi Liu, Yehan Zheng, Weijian Xu, Jiaxiang Liu, Zengfeng Zeng, Yingqi Qu, Zhongli Li, Zhengkun Zhang, Xiyang Wang, Zixiang Xu, Xinchao Xu, Zhengjie Huang, Dong Wang, Bingjin Chen, Yue Chang, Xing Yuan, Shiwei Huang, Qiao Zhao, Xinzhe Ding, Shuangshuang Qiao, Baoshan Yang, Bihong Tang, Bin Li, Bingquan Wang, Binhan Tang, Binxiong Zheng, Bo Cui, Bo Ke, Bo Zhang, Bowen Zhang, Boyan Zhang, Boyang Liu, Caiji Zhang, Can Li, Chang Xu, Chao Pang, Chao Zhang, Chaoyi Yuan, Chen Chen, Cheng Cui, Chenlin Yin, Chun Gan, Chunguang Chai, Chuyu Fang, Cuiyun Han, Dan Zhang, Danlei Feng, Danxiang Zhu, Dong Sun, Dongbo Li, Dongdong Li, Dongdong Liu, Dongxue Liu, Fan Ding, Fan Hu, Fan Li, Fan Mo, Feisheng Wu, Fengwei Liu, Gangqiang Hu, Gaofeng Lu, Gaopeng Yong, Gexiao Tian, Guan Wang, Guangchen Ni, Guangshuo Wu, Guanzhong Wang, Guihua Liu, Guishun Li, Haibin Li, Haijian Liang, Haipeng Ming, Haisu Wang, Haiyang Lu, Haiye Lin, Han Zhou, Hangting Lou, Hanwen Du, Hanzhi Zhang, Hao Chen, Hao Du, Hao Liu, Hao Zhou, Haochen Jiang, Haodong Tian, Haoshuang Wang, Haozhe Geng, Heju Yin, Hong Chen, Hongchen Xue, Hongen Liu, Honggeng Zhang, Hongji Xu, Hongwei Chen, Hongyang Zhang, Hongyuan Zhang, Hua Lu, Huan Chen, Huan Wang, Huang He, Hui Liu, Hui Zhong, Huibin Ruan, Jiafeng Lu, Jiage Liang, Jiahao Hu, Jiahao Hu, Jiajie Yang, Jialin Li, Jian Chen, Jian Wu, Jianfeng Yang, Jianguang Jiang, Jianhua Wang, Jianye Chen, Jiaodi Liu, Jiarui Zhou, Jiawei Lv, Jiaxin Zhou, Jiaxuan Liu, Jie Han, Jie Sun, Jiefan Fang, Jihan Liu, Jihua Liu, Jing Hu, Jing Qian, Jing Yan, Jingdong Du, Jingdong Wang, Jingjing Wu, Jingyong Li, Jinheng Wang, Jinjin Li, Jinliang Lu, Jinlin Yu, Jinnan Liu, Jixiang Feng, Jiyi Huang, Jiyuan Zhang, Jun Liang, Jun Xia, Jun Yu, Junda Chen, Junhao Feng, Junhong Xiang, Junliang Li, Kai Liu, Kailun Chen, Kairan Su, Kang Hu, Kangkang Zhou, Ke Chen, Ke Wei, Kui Huang, Kun Wu, Kunbin Chen, Lei Han, Lei Sun, Lei Wen, Linghui Meng, Linhao Yu, Liping Ouyang, Liwen Zhang, Longbin Ji, Longzhi Wang, Meng Sun, Meng Tian, Mengfei Li, Mengqi Zeng, Mengyu Zhang, Ming Hong, Mingcheng Zhou, Mingming Huang, Mingxin Chen, Mingzhu Cai, Naibin Gu, Nemin Qiu, Nian Wang, Peng Qiu, Peng Zhao, Pengyu Zou, Qi Wang, Qi Xin, Qian Wang, Qiang Zhu, Qianhui Luo, Qianwei Yang, Qianyue He, Qifei Wu, Qinrui Li, Qiwen Bao, Quan Zhang, Quanxiang Liu, Qunyi Xie, Rongrui Zhan, Rufeng Dai, Rui Peng, Ruian Liu, Ruihao Xu, Ruijie Wang, Ruixi Zhang, Ruixuan Liu, Runsheng Shi, Ruting Wang, Senbo Kang, Shan Lu, Shaofei Yu, Shaotian Gong, Shenwei Hu, Shifeng Zheng, Shihao Guo, Shilong Fan, Shiqin Liu, Shiwei Gu, Shixi Zhang, Shuai Yao, Shuang Zhang, Shuangqiao Liu, Shuhao Liang, Shuwei He, Shuwen Yang, Sijun He, Siming Dai, Siming Wu, Siyi Long, Songhe Deng, Suhui Dong, Suyin Liang, Teng Hu, Tianchan Xu, Tianliang Lv, Tianmeng Yang, Tianyi Wei, Tiezhu Gao, Ting Sun, Ting Zhang, Tingdan Luo, Wei He, Wei Luan, Wei Yin, Wei Zhang, Wei Zhou, Weibao Gong, Weibin Li, Weicheng Huang, Weichong Dang, Weiguo Zhu, Weilong Zhang, Weiqi Tan, Wen Huang, Wenbin Chang, Wenjing Du, Wenlong Miao, Wenpei Luo, Wenquan Wu, Xi Shi, Xi Zhao, Xiang Gao, Xiangguo Zhang, Xiangrui Yu, Xiangsen Wang, Xiangzhe Wang, Xianlong Luo, Xianying Ma, Xiao Tan, Xiaocong Lin, Xiaofei Wang, Xiaofeng Peng, Xiaofeng Wu, Xiaojian Xu, Xiaolan Yuan, Xiaopeng Cui, Xiaotian Han, Xiaoxiong Liu, Xiaoxu Fei, Xiaoxuan Wu, Xiaoyu Wang, Xiaoyu Zhang, Xin Sun, Xin Wang, Xinhui Huang, Xinming Zhu, Xintong Yu, Xinyi Xu, Xinyu Wang, Xiuxian Li, XuanShi Zhu, Xue Xu, Xueying Lv, Xuhong Li, Xulong Wei, Xuyi Chen, Yabing Shi, Yafeng Wang, Yamei Li, Yan Liu, Yanfu Cheng, Yang Gao, Yang Liang, Yang Wang, Yang Wang, Yang Yang, Yanlong Liu, Yannian Fu, Yanpeng Wang, Yanzheng Lin, Yao Chen, Yaozong Shen, Yaqian Han, Yehua Yang, Yekun Chai, Yesong Wang, Yi Song, Yichen Zhang, Yifei Wang, Yifeng Guo, Yifeng Kou, Yilong Chen, Yilong Guo, Yiming Wang, Ying Chen, Ying Wang, Yingsheng Wu, Yingzhan Lin, Yinqi Yang, Yiran Xing, Yishu Lei, Yixiang Tu, Yiyan Chen, Yong Zhang, Yonghua Li, Yongqiang Ma, Yongxing Dai, Yongyue Zhang, Yu Ran, Yu Sun, Yu-Wen Michael Zhang, Yuang Liu, Yuanle Liu, Yuanyuan Zhou, Yubo Zhang, Yuchen Han, Yucheng Wang, Yude Gao, Yuedong Luo, Yuehu Dong, Yufeng Hu, Yuhui Cao, Yuhui Yun, Yukun Chen, Yukun Gao, Yukun Li, Yumeng Zhang, Yun Fan, Yun Ma, Yunfei Zhang, Yunshen Xie, Yuping Xu, Yuqin Zhang, Yuqing Liu, Yurui Li, Yuwen Wang, Yuxiang Lu, Zefeng Cai, Zelin Zhao, Zelun Zhang, Zenan Lin, Zezhao Dong, Zhaowu Pan, Zhaoyu Liu, Zhe Dong, Zhe Zhang, Zhen Zhang, Zhengfan Wu, Zhengrui Wei, Zhengsheng Ning, Zhenxing Li, Zhenyu Li, Zhenyu Qian, Zhenyun Li, Zhi Li, Zhichao Chen, Zhicheng Dong, Zhida Feng, Zhifan Feng, Zhihao Deng, Zhijin Yu, Zhiyang Chen, Zhonghui Zheng, Zhuangzhuang Guo, Zhujun Zhang, Zhuo Sun, Zichang Liu, Zihan Lin, Zihao Huang, Zihe Zhu, Ziheng Zhao, Ziping Chen, Zixuan Zhu, Ziyang Xu, Ziyi Liang, Ziyuan Gao

Xuất bản lúc: 2026-02-04

Tag: Foundation Model, Multimodal AI, Autoregressive Model, Mixture-of-Experts (MoE), Elastic Training, Reinforcement Learning

I. Main Problem:

Các hệ thống mô hình nền tảng hiện tại chủ yếu tập trung vào văn bản cho việc hiểu đa phương thức, hạn chế khả năng tương tác đa phương thức đa dạng. Các phương pháp hiện có thường tách rời quá trình tạo nội dung đa phương thức khỏi việc hiểu, dựa vào các mục tiêu không tự hồi quy và hy sinh sự tích hợp sâu sắc giữa các phương thức hoặc hiệu suất ngôn ngữ cốt lõi. Ngoài ra, việc triển khai các mô hình quy mô lớn gặp thách thức về tài nguyên hạn chế, đòi hỏi sự linh hoạt trong kích thước và hiệu suất. Việc mở rộng học tăng cường (Reinforcement Learning) cho các mô hình nền tảng thống nhất với kiến trúc MoE siêu thưa thớt và cài đặt đa phương thức đa dạng cũng đặt ra những thách thức đáng kể về hiệu quả và sự ổn định.

II. Main Idea:

ERNIE 5.0 là một mô hình nền tảng tự hồi quy tự nhiên, được thiết kế để hiểu và tạo nội dung đa phương thức thống nhất trên văn bản, hình ảnh, video và âm thanh. Tất cả các phương thức được huấn luyện từ đầu dưới một mục tiêu dự đoán nhóm token tiếp theo thống nhất, dựa trên kiến trúc Mixture-of-Experts (MoE) siêu thưa thớt với định tuyến chuyên gia không phụ thuộc phương thức. Để giải quyết thách thức triển khai quy mô lớn, ERNIE 5.0 áp dụng một mô hình huấn luyện đàn hồi (elastic training) mới, cho phép một lần huấn luyện duy nhất tạo ra một "gia đình" các mô hình phụ với độ sâu, dung lượng chuyên gia và độ thưa thớt định tuyến khác nhau, tối ưu hóa sự cân bằng giữa hiệu suất, kích thước và độ trễ suy luận. Mô hình cũng giải quyết các thách thức của học tăng cường bằng các kỹ thuật như bộ đệm hồi đáp không thiên vị (unbiased replay buffer), giảm suy sụp entropy (entropy collapse) và học dựa trên gợi ý (hint-based learning) để đảm bảo ổn định và hiệu quả sau huấn luyện. Cơ sở hạ tầng được tối ưu hóa với tính song song lai (hybrid parallelism) và kiến trúc phân tách (disaggregation architecture) cho huấn luyện đa phương thức.

III. Main Results:

ERNIE 5.0 đạt được hiệu suất mạnh mẽ và cân bằng trên nhiều phương thức, sánh ngang hoặc vượt trội so với các mô hình chuyên biệt. Đây là mô hình tự hồi quy thống nhất hàng nghìn tỷ tham số đầu tiên ở quy mô sản xuất hỗ trợ cả hiểu và tạo nội dung đa phương thức được công bố rộng rãi. Định tuyến chuyên gia không phụ thuộc phương thức cho thấy các chuyên gia có sự chuyên biệt hóa rõ ràng dựa trên yêu cầu của tác vụ chứ không phải ranh giới phương thức. Huấn luyện đàn hồi chứng minh hiệu quả: giảm top-k định tuyến xuống 25% khi suy luận giúp tăng tốc độ giải mã hơn 15% với tổn thất độ chính xác nhỏ. Ngoài ra, huấn luyện đàn hồi với độ sâu, chiều rộng và độ thưa thớt giúp duy trì gần như toàn bộ hiệu suất chỉ với 53,7% tham số kích hoạt và 35,8% tổng số tham số.

IV. Conclusion & Future Works:

ERNIE 5.0 đại diện cho một nền tảng mở rộng và hiệu quả cho các mô hình đa phương thức thống nhất thế hệ tiếp theo. Báo cáo cung cấp các hình dung chi tiết về định tuyến chuyên gia không phụ thuộc phương thức và phân tích thực nghiệm toàn diện về huấn luyện đàn hồi, nhằm mang lại những hiểu biết sâu sắc cho cộng đồng nghiên cứu. Những kỹ thuật và thiết kế này là cơ sở vững chắc cho các nghiên cứu tương lai về các mô hình nền tảng đa năng, có khả năng mở rộng.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu sâu hơn về cơ chế định tuyến chuyên gia (expert routing) trong kiến trúc MoE đa phương thức để tối ưu hóa sự chuyên biệt hóa và cộng tác giữa các chuyên gia, nhằm nâng cao hiệu suất và khả năng mở rộng của mô hình.
Phát triển các phương pháp huấn luyện đàn hồi (elastic training) tiên tiến hơn, cho phép điều chỉnh linh hoạt và tự động các khía cạnh kiến trúc như độ sâu, chiều rộng và độ thưa thớt trong một lần huấn luyện để đạt được sự cân bằng tối ưu giữa hiệu suất và chi phí tài nguyên.
Cải thiện sự ổn định và hiệu quả của các kỹ thuật học tăng cường (Reinforcement Learning) cho các mô hình nền tảng thống nhất đa phương thức, đặc biệt khi áp dụng trong môi trường kiến trúc MoE siêu thưa thớt và các thiết lập đa phương thức phức tạp.

2. Patent:

Hệ thống AI đa phương thức thích ứng trên thiết bị di động: Một công nghệ cho phép các ứng dụng trí tuệ nhân tạo trên điện thoại thông minh tự động điều chỉnh khả năng xử lý của chúng (ví dụ: sử dụng một phiên bản mô hình nhỏ hơn để phản hồi nhanh hoặc một phiên bản lớn hơn cho các tác vụ phức tạp như tạo ảnh/video) dựa trên các yếu tố như dung lượng pin còn lại, tốc độ mạng, hoặc chế độ hiệu suất người dùng đã chọn, đảm bảo trải nghiệm liền mạch và tiết kiệm năng lượng.
Giải pháp tạo nội dung đa phương thức liền mạch cho điện thoại thông minh: Một hệ thống tích hợp cho phép người dùng điện thoại tạo ra các nội dung phức tạp (như bài đăng mạng xã hội, tin nhắn) bằng cách kết hợp văn bản, hình ảnh, video và âm thanh một cách tự động và thống nhất. Ví dụ, người dùng nhập mô tả văn bản, điện thoại có thể tự động tạo ra một video ngắn có hình ảnh và âm thanh phù hợp, hoặc chuyển đổi hình ảnh thành văn bản mô tả chi tiết kèm nhạc nền.
Công nghệ hỗ trợ tương tác đa phương thức nâng cao cho người dùng di động: Phát triển một hệ thống trên điện thoại di động có khả năng hiểu và phản hồi đồng thời nhiều dạng thông tin (văn bản, giọng nói, hình ảnh) để cung cấp trải nghiệm hỗ trợ cá nhân hóa. Ví dụ, hệ thống có thể phân tích một video trực tiếp, giải thích nội dung giọng nói và tạo ra mô tả bằng văn bản hoặc âm thanh cho người dùng khiếm thị, hoặc phản hồi bằng hình ảnh động dựa trên lệnh thoại và ngữ cảnh.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.04705
ArXiv Abstract	https://arxiv.org/abs/2602.04705
PDF Download	https://arxiv.org/pdf/2602.04705.pdf
Github Repository	N/A

2. FASA: Frequency-aware Sparse Attention (114 votes)

Tác giả: Yifei Wang, Yueqi Wang, Zhenrui Yue, Huimin Zeng, Yong Wang, Ismini Lourentzou, Zhengzhong Tu, Xiangxiang Chu, Julian McAuley

Xuất bản lúc: 2026-02-03

Tag: LLMs, Attention, Sparse Attention, KV Cache Optimization, Long-Context

I. Main Problem:

Vấn đề chính là dung lượng bộ nhớ KV cache quá lớn khi xử lý các đầu vào dài trong LLMs, gây ra tắc nghẽn về bộ nhớ và hiệu suất tính toán. Các phương pháp hiện có chưa hiệu quả, với các chiến lược tĩnh có nguy cơ mất thông tin và các chiến lược động sử dụng các phương pháp heuristics không đủ khả năng nắm bắt được mức độ quan trọng của token phụ thuộc vào truy vấn.

II. Main Idea:

Tác giả đề xuất FASA (Frequency-Aware Sparse Attention), một framework không cần huấn luyện, nhận biết truy vấn (query-aware) được thiết kế để đánh giá mức độ quan trọng của token một cách động trong giai đoạn giải mã. Ý tưởng cốt lõi của FASA bắt nguồn từ việc khám phá ra sự thưa thớt chức năng ở cấp độ “frequency-chunk” (FC) trong RoPE. FASA hoạt động theo hai giai đoạn: đầu tiên, giai đoạn Token Importance Predictor (TIP) sử dụng các FC dominant để xác định một tập hợp các token quan trọng; sau đó, giai đoạn Focused Attention Computation (FAC) thực hiện tính toán attention toàn diện chỉ trên tập hợp token đã được chọn lọc này. FASA có hai biến thể: FASA-M (tối ưu hóa bộ nhớ) và FASA-C (tối ưu hóa tính toán).

III. Main Results:

FASA vượt trội hơn tất cả các phương pháp loại bỏ token hiện có và đạt được độ chính xác gần như oracle, thể hiện sự mạnh mẽ ngay cả trong ngân sách giới hạn. Cụ thể, trên LongBench-V1, FASA đạt gần 100% hiệu suất của KV cache đầy đủ khi chỉ giữ lại 256 token và tăng tốc độ lên 2,56 lần khi sử dụng chỉ 18,9% cache trên AIME24. FASA-M cung cấp khả năng nén KV cache lên 8 lần, tối ưu hóa đáng kể việc sử dụng bộ nhớ, trong khi FASA-C mang lại tốc độ tăng tốc 2,6 lần, nâng cao hiệu quả tính toán. FASA duy trì độ dài đầu ra gần giống với FKV (Full KV) và vượt trội trong các tác vụ suy luận chuỗi tư duy dài (Long-CoT reasoning), đạt độ chính xác ấn tượng 86,4% với chỉ 10% ngữ cảnh.

IV. Conclusion & Future Works:

Công trình này giải quyết vấn đề bộ nhớ và băng thông của KV cache trong LLMs bằng cách phát hiện hiện tượng thưa thớt chức năng của các Frequency Chunks (FCs) trong RoPE. FASA, một framework hai giai đoạn không cần huấn luyện, sử dụng các FCs dominant để thực hiện chọn lọc token động, nhận biết truy vấn và tính toán attention tập trung trên tập hợp token đã giảm. Các thử nghiệm cho thấy FASA đạt hiệu suất gần bằng với toàn bộ KV cache ngay cả với ngân sách hạn chế, cung cấp giải pháp thực tế và hiệu quả cho suy luận ngữ cảnh dài. Các biến thể FASA tối ưu hóa bộ nhớ và tốc độ mang lại giải pháp hiệu quả cho suy luận ngữ cảnh dài. Trong tương lai, có thể khám phá thêm việc tích hợp sâu hơn với các phương pháp tối ưu KV cache khác để đạt được hiệu quả cao hơn.

V. Brainstorming Space:

1. Publish Papers:

Khám phá sự thưa thớt chức năng tương tự trong các cơ chế mã hóa vị trí khác ngoài RoPE và ứng dụng nó để tối ưu hóa bộ nhớ KV cache.
Nghiên cứu các phương pháp lựa chọn FC dominant thích ứng, nơi các FC quan trọng được điều chỉnh hoặc học động trong quá trình suy luận để phù hợp hơn với các tác vụ và kiểu dữ liệu khác nhau.
Mở rộng FASA để tương thích với các kiến trúc LLM mới nổi hoặc mô hình đa phương thức, kiểm tra khả năng áp dụng và lợi ích hiệu quả của nó trong các bối cảnh này.

2. Patent:

Hệ thống tóm tắt tài liệu thông minh trên điện thoại di động: Một ứng dụng cho phép người dùng nhanh chóng tóm tắt các văn bản rất dài như email, báo cáo hoặc lịch sử trò chuyện mà không làm chậm thiết bị. Nó sẽ tự động nhận diện và xử lý các thông tin cốt lõi, loại bỏ các phần ít quan trọng hơn để tiết kiệm pin và bộ nhớ.
Trợ lý di động hiểu ngữ cảnh dài theo thời gian thực: Một tính năng trong điện thoại giúp trợ lý ảo có thể hiểu và phản hồi thông minh trong các cuộc trò chuyện kéo dài, như ghi chú cuộc họp hay nhật ký tin nhắn dài. Bằng cách tập trung vào những phần quan trọng nhất, trợ lý sẽ đưa ra đề xuất hoặc thông tin liên quan ngay lập tức mà không cần xử lý toàn bộ cuộc hội thoại.
Tính năng tra cứu thông tin chuyên sâu hiệu quả trên thiết bị di động: Cho phép các ứng dụng tra cứu tài liệu kỹ thuật, hướng dẫn sử dụng sản phẩm hoặc các tập tin lớn khác hoạt động mượt mà trên điện thoại. Công nghệ sẽ lọc ra các đoạn thông tin cốt yếu mà người dùng đang tìm kiếm, giúp hiển thị kết quả nhanh chóng và chính xác mà không yêu cầu cấu hình điện thoại quá cao.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.03152
ArXiv Abstract	https://arxiv.org/abs/2602.03152
PDF Download	https://arxiv.org/pdf/2602.03152.pdf
Github Repository	N/A

3. WideSeek-R1: Exploring Width Scaling for Broad Information Seeking via Multi-Agent Reinforcement Learning (87 votes)

Tác giả: Zelai Xu, Zhexuan Xu, Ruize Zhang, Chunyang Zhu, Shi Yu, Weilin Liu, Quanlu Zhang, Wenbo Ding, Chao Yu, Yu Wang

Xuất bản lúc: 2026-02-04

Tag: LLMs, MARL, Multi-Agent Systems, Reinforcement Learning, Information Seeking, Width Scaling

I. Main Problem:

Các tiến bộ gần đây trong Large Language Models (LLMs) chủ yếu tập trung vào mở rộng chiều sâu (depth scaling), nơi một tác nhân đơn lẻ giải quyết các vấn đề dài hạn thông qua suy luận đa bước và sử dụng công cụ. Tuy nhiên, khi các tác vụ trở nên rộng hơn (broader), nút thắt chính chuyển từ năng lực cá nhân sang khả năng tổ chức. Cụ thể hơn, các phương pháp đơn tác nhân trong tìm kiếm thông tin rộng lớn phải đối mặt với hai hạn chế: (1) ô nhiễm ngữ cảnh (context pollution) do tích lũy thông tin không liên quan, và (2) thực thi tuần tự (sequential execution) làm hạn chế hiệu quả. Các hệ thống đa tác nhân hiện có thường dựa vào quy trình công việc thủ công (hand-crafted workflows) và tương tác luân phiên (turn-taking interactions), không thể song song hóa công việc một cách hiệu quả.

II. Main Idea:

Để giải quyết vấn đề trên, chúng tôi đề xuất WIDESEEK-R1, một khung sườn gồm tác nhân dẫn đầu (lead-agent) và tác nhân con (subagent) được huấn luyện thông qua học tăng cường đa tác nhân (MARL). Mục tiêu là phối hợp đồng bộ giữa khả năng điều phối có thể mở rộng (scalable orchestration) và thực thi song song (parallel execution) cho các tác vụ tìm kiếm thông tin rộng lớn. Hệ thống sử dụng một LLM chung với các ngữ cảnh riêng biệt và công cụ chuyên biệt cho tác nhân dẫn đầu và các tác nhân con. Tác nhân dẫn đầu tập trung vào phân tách tác vụ và điều phối đa bước, sử dụng công cụ call_subagent để ủy thác các tác vụ con. Mỗi tác nhân con sẽ thực thi tác vụ được giao song song, sử dụng công cụ tìm kiếm (search) và truy cập (access) để thu thập thông tin. WIDESEEK-R1 được tối ưu hóa chung cho cả tác nhân dẫn đầu và các tác nhân con trên một tập dữ liệu gồm 20.000 tác vụ tìm kiếm thông tin rộng lớn. Phương pháp MARL mở rộng từ GRPO với 'gán lợi thế đa tác nhân' (multi-agent advantage assignment) và 'trọng số lợi thế hai cấp độ' (dual-level advantage reweighting) để đào tạo hiệu quả.

III. Main Results:

WIDESEEK-R1-4B đạt điểm F1 của mục (item F1 score) là 40.0% trên chuẩn WideSearch, một kết quả có thể so sánh với hiệu suất của DeepSeek-R1-671B (một mô hình đơn tác nhân lớn hơn gần 170 lần về số lượng tham số).
WIDESEEK-R1-4B cho thấy hiệu suất tăng liên tục khi số lượng tác nhân con song song tăng lên, làm nổi bật hiệu quả của việc mở rộng chiều rộng (width scaling), trong khi mở rộng chiều sâu (depth scaling) nhanh chóng đạt đến trạng thái bão hòa.
Hệ thống đa tác nhân của chúng tôi vượt trội hơn đáng kể so với phiên bản đơn tác nhân, cải thiện 11.9% trong điểm F1 của mục và 8.8% so với Qwen3-4B cơ sở trong cùng cài đặt đa tác nhân.
Mô hình được huấn luyện trên tập dữ liệu lai (kết hợp dữ liệu 'rộng' và 'sâu') hoạt động tốt hơn so với các mô hình chỉ huấn luyện trên dữ liệu 'rộng' hoặc 'sâu'.
WIDESEEK-R1-4B đạt điểm trung bình 59.0% trên các chuẩn QA miền mở tiêu chuẩn (single-hop và multi-hop), vượt qua các hệ thống đa tác nhân lớn hơn như OWL-8B và MiroFlow-8B, cho thấy khả năng suy luận tổng quát không bị ảnh hưởng.

IV. Conclusion & Future Works:

Công trình này đã khám phá 'width scaling' như một chiều bổ sung cho 'depth scaling' đang thịnh hành trong các Large Language Models. WIDESEEK-R1 là một khung đa tác nhân được huấn luyện thông qua MARL, nhằm phối hợp khả năng điều phối có thể mở rộng và thực thi song song để giải quyết các tác vụ tìm kiếm thông tin rộng lớn. Trong khi 'depth scaling' đối mặt với lợi nhuận giảm dần, 'width scaling' cho thấy hiệu suất tăng trưởng ổn định khi số lượng tác nhân con song song tăng lên. Việc công bố tập dữ liệu 20.000 tác vụ đã được chọn lọc sẽ tạo nền tảng cho nghiên cứu trong tương lai về việc huấn luyện các hệ thống đa tác nhân có khả năng mở rộng. Công trình này hy vọng sẽ truyền cảm hứng cho việc khám phá sâu hơn các tổ chức tác nhân hiệu quả, song song hóa có thể giải quyết các vấn đề phức tạp vượt quá tầm với của các tác nhân LLM riêng lẻ.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu về cơ chế điều phối động cho các tác nhân con, cho phép hệ thống tự động điều chỉnh số lượng và loại tác nhân con dựa trên độ phức tạp của tác vụ và tài nguyên sẵn có, đồng thời cải thiện khả năng phân công lại hoặc ưu tiên các tác vụ con đang chạy.
Phát triển các mô hình đa tác nhân lai, nơi các tác nhân con có thể là các mô hình chuyên biệt cho các nhiệm vụ cụ thể (ví dụ: tác nhân hình ảnh cho thông tin trực quan, tác nhân âm thanh cho dữ liệu nghe), và cách tác nhân dẫn đầu tối ưu hóa việc điều phối các tác nhân với nhiều phương thức và năng lực khác nhau.
Thiết kế các phương pháp gán tín dụng (credit assignment) nâng cao trong MARL cho các hệ thống đa tác nhân phức tạp, đặc biệt là trong các tác vụ có sự phụ thuộc lẫn nhau cao giữa các tác nhân, để khuyến khích sự hợp tác hiệu quả và ngăn chặn các hành vi "hack" phần thưởng trong các môi trường mở rộng hơn.

2. Patent:

Một ứng dụng trợ lý nghiên cứu đa nhiệm trên điện thoại di động có khả năng nhận một yêu cầu phức tạp từ người dùng (ví dụ: "Tìm hiểu về các loại hình đầu tư bất động sản tại Việt Nam, rủi ro, lợi nhuận tiềm năng và ví dụ cụ thể") và tự động phân tách thành các câu hỏi nhỏ hơn. Ứng dụng sẽ kích hoạt nhiều "người tìm kiếm thông tin ảo" chạy song song để thu thập dữ liệu từ nhiều nguồn khác nhau trên internet. Sau đó, một "người tổng hợp thông tin" sẽ biên soạn tất cả các kết quả thành một báo cáo có cấu trúc, dễ đọc và hiển thị trực tiếp trên màn hình điện thoại của người dùng, giúp họ có cái nhìn toàn diện mà không cần tự mình tìm kiếm từng phần.
Một hệ thống lập kế hoạch du lịch thông minh cho điện thoại, cho phép người dùng nhập yêu cầu chuyến đi (ví dụ: "Kế hoạch chuyến đi 3 ngày đến Hội An cho gia đình có trẻ nhỏ, ưu tiên trải nghiệm văn hóa và ẩm thực địa phương"). Hệ thống sẽ tự động tạo ra một "người quản lý chuyến đi ảo" để chia nhỏ công việc (tìm khách sạn, lên lịch trình tham quan, gợi ý nhà hàng, hoạt động giải trí). Các "người lập kế hoạch con" sẽ hoạt động đồng thời để tìm kiếm thông tin chi tiết và đưa ra các lựa chọn. Cuối cùng, tất cả thông tin sẽ được tổng hợp thành một lịch trình chi tiết, cá nhân hóa, hiển thị trên ứng dụng lịch hoặc bản đồ của điện thoại, và có thể chỉnh sửa dễ dàng.
Một công cụ so sánh sản phẩm mua sắm trên điện thoại được tăng cường bởi nhiều "trợ lý mua sắm ảo". Khi người dùng tìm kiếm một sản phẩm với nhiều tiêu chí phức tạp (ví dụ: "Tìm một chiếc laptop gaming dưới 30 triệu, màn hình 14 inch, card đồ họa RTX 4060, thời lượng pin tốt"), các trợ lý này sẽ đồng thời quét qua nhiều trang web thương mại điện tử, cửa hàng trực tuyến và diễn đàn đánh giá. Mỗi trợ lý sẽ tập trung vào một phần tiêu chí hoặc một nhóm cửa hàng cụ thể. Sau đó, kết quả được tổng hợp, so sánh về giá, thông số kỹ thuật, đánh giá của người dùng và các ưu đãi, hiển thị một bảng tóm tắt giúp người dùng điện thoại đưa ra quyết định mua hàng nhanh chóng và sáng suốt.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.04634
ArXiv Abstract	https://arxiv.org/abs/2602.04634
PDF Download	https://arxiv.org/pdf/2602.04634.pdf
Github Repository	https://github.com/RLinf/RLinf/tree/main/examples/wideseek_r1

4. Training Data Efficiency in Multimodal Process Reward Models (74 votes)

Tác giả: Jinyuan Li, Chengsong Huang, Langlin Huang, Shaoyang Xu, Haolin Liu, Wenxuan Zhang, Jiaxin Huang

Xuất bản lúc: 2026-02-04

Tag: MLLMs, Reward Models, Data Efficiency, Active Learning, Visual Reasoning, Multimodal AI, Process Supervision

I. Main Problem:

Huấn luyện các Mô hình Phần thưởng Quy trình Đa phương thức (MPRMs) yêu cầu các tập dữ liệu được chú thích theo phương pháp Monte Carlo (MC) quy mô lớn, gây ra chi phí tính toán đáng kể.
Các tập dữ liệu chú thích MC hiện có chứa sự dư thừa đáng kể, dẫn đến hiệu suất bão hòa nhanh chóng ngay cả khi lấy mẫu ngẫu nhiên một lượng lớn dữ liệu.
Thách thức là làm thế nào để chọn ra các tập con dữ liệu hiệu quả và giàu thông tin để duy trì hoặc vượt trội hiệu suất của bộ dữ liệu đầy đủ với ngân sách huấn luyện thấp hơn, từ đó cải thiện hiệu quả dữ liệu trong quá trình huấn luyện MPRMs.

II. Main Idea:

Nghiên cứu chỉ ra rằng các bản cập nhật gradient giàu thông tin phụ thuộc vào hai yếu tố chính: sự pha trộn nhãn (label mixture) của các bước tích cực/tiêu cực và độ tin cậy của nhãn (label reliability, được đo bằng điểm MC trung bình của các bước tích cực).
Dựa trên những hiểu biết này, nhóm nghiên cứu đề xuất Điểm Thông tin Cân bằng (Balanced-Information Score - BIS), một tiêu chí cấp độ rollout, ưu tiên cả sự pha trộn nhãn (ppos(x) * (1 - ppos(x))) và độ tin cậy (R(x)) dựa trên các tín hiệu MC đã có sẵn trong bộ dữ liệu, mà không phát sinh thêm chi phí tính toán.
Cụ thể, ppos(x) là tỷ lệ bước tích cực trong một rollout và R(x) là điểm MC trung bình của các bước tích cực. BIS được tính bằng công thức BIS(x) = ppos(x) * (1 - ppos(x)) + α * R(x), trong đó α là một hằng số làm mịn.
Nghiên cứu còn xây dựng một khuôn khổ lý thuyết thầy-trò để phân tích sự tương tác giữa tín hiệu gradient, nhiễu nhãn và sự dư thừa dữ liệu, giải thích một cách khoa học tại sao sự pha trộn và độ tin cậy lại là các yếu tố quan trọng trong việc xác định chất lượng rollout.

III. Main Results:

Các tập con được chọn bằng BIS nhất quán đạt được và thậm chí vượt qua hiệu suất của dữ liệu đầy đủ chỉ với một phần nhỏ dữ liệu huấn luyện, đặc biệt hiệu quả trong các chế độ ngân sách thấp.
Với backbone InternVL2.5-8B, tập con BIS-10% đã đạt hiệu suất của dữ liệu đầy đủ (micro-F1 65.46%) trong khi chỉ sử dụng 10% dữ liệu huấn luyện, cải thiện 2.6 điểm so với baseline lấy mẫu ngẫu nhiên (Random-10%) và tiết kiệm 95.5% chi phí tính toán.
Với backbone Qwen2.5-VL-7B, BIS cho thấy lợi thế lớn hơn ở chế độ ngân sách cực thấp, cải thiện hơn 10.9 điểm so với lấy mẫu ngẫu nhiên ở mức 5% dữ liệu và đạt hiệu suất tương đương dữ liệu đầy đủ ở mức 25% dữ liệu.
MPRMs được huấn luyện trên các tập con được chọn bằng BIS cũng đạt hiệu suất reranking best-of-N mạnh nhất trên bốn benchmark (MM-K12, OlympiadBench, MathVerse, và MathVista), vượt trội so với cả Random-25% và MPRM huấn luyện trên dữ liệu đầy đủ.
Phân tích cho thấy BIS ưu tiên các rollout có độ tin cậy vừa phải và hỗn hợp nhãn cao, không chỉ đơn thuần tối đa hóa độ tin cậy. BIS cũng cho thấy tính ổn định và mạnh mẽ đối với các giá trị khác nhau của hằng số làm mịn α.

IV. Conclusion & Future Works:

Công trình này kết luận rằng các tập dữ liệu huấn luyện MPRM hiện tại có sự dư thừa đáng kể và các bản cập nhật gradient giàu thông tin tập trung vào các bước không chắc chắn nhưng được gán nhãn đáng tin cậy. Ngược lại, các nhãn "dương giả" với điểm MC thấp chủ yếu làm tăng phương sai gradient.
Điểm Thông tin Cân bằng (BIS) là một phương pháp hiệu quả để chọn lọc các rollout được chú thích bằng MC, cho phép đạt hiệu suất MPRM tương đương hoặc cao hơn so với huấn luyện đầy đủ dữ liệu chỉ với 10% dữ liệu.
Tổng thể, nghiên cứu cung cấp một nguyên tắc lấy dữ liệu làm trung tâm để xây dựng và chọn lọc các tập dữ liệu MPRM trong tương lai, hướng tới việc cải thiện hiệu quả dữ liệu và tính toán cho mô hình suy luận đa phương thức.

V. Brainstorming Space:

1. Publish Papers:

Phát triển các chiến lược lựa chọn dữ liệu động (dynamic data selection) dựa trên BIS, nơi các rollout được chọn không chỉ một lần mà được cập nhật trong suốt quá trình huấn luyện để thích ứng với sự tiến hóa của mô hình, thay vì chỉ chọn lọc tĩnh ban đầu.
Mở rộng và đánh giá tính tổng quát của BIS sang các nhiệm vụ đa phương thức khác ngoài suy luận hình ảnh, ví dụ như xử lý ngôn ngữ tự nhiên nhiều bước (multi-step NLP reasoning) hoặc các tác vụ học tăng cường dựa trên quy trình (process-based reinforcement learning tasks) trong robotics.
Nghiên cứu tác động của việc kết hợp các tín hiệu phản hồi khác (ví dụ: phản hồi từ con người, các mô hình phụ trợ khác) với BIS để tạo ra các tiêu chí lựa chọn dữ liệu toàn diện hơn, đặc biệt cho các trường hợp mà dữ liệu MC có thể bị hạn chế hoặc có chất lượng thấp.

2. Patent:

Hệ thống tối ưu hóa dữ liệu huấn luyện cho các ứng dụng Vision-Language trên điện thoại thông minh: Một ứng dụng điện thoại có thể tự động chọn các bản ghi tương tác của người dùng (ví dụ: các bước giải quyết vấn đề bằng hình ảnh hoặc chuỗi các lệnh/phản hồi) để huấn luyện mô hình Vision-Language được sử dụng cục bộ hoặc trên đám mây. Hệ thống sẽ ưu tiên các bản ghi có sự pha trộn giữa các bước thành công và thất bại cùng với độ tin cậy cao của nhãn được suy ra từ phản hồi trực tiếp của người dùng hoặc các heuristic khác. Điều này giúp giảm dung lượng dữ liệu cần thiết cho việc cải thiện ứng dụng và tối ưu tài nguyên thiết bị.
Công cụ quản lý và tuyển chọn nội dung giáo dục tương tác cho thiết bị di động: Một hệ thống nhúng trong ứng dụng học tập trên điện thoại di động giúp các nhà phát triển tự động phân loại và ưu tiên các 'lộ trình suy luận' của học sinh (tức là chuỗi các bước giải bài tập hoặc tương tác với nội dung giáo dục) để cải thiện các mô hình AI hướng dẫn. Hệ thống này sẽ đánh giá mức độ 'pha trộn' (có cả bước đúng và sai) và độ 'tin cậy' của phản hồi học sinh để xác định những lộ trình nào là hiệu quả nhất để học hỏi và cải thiện trải nghiệm học tập được cá nhân hóa, cũng như giảm thiểu chi phí lưu trữ dữ liệu thừa.
Phương pháp thu thập và lọc dữ liệu thông minh cho các trợ lý ảo đa phương thức trên điện thoại: Một tính năng trong trợ lý ảo trên điện thoại thông minh có khả năng thu thập dữ liệu tương tác của người dùng (ví dụ: chuỗi yêu cầu và phản hồi, kèm theo hình ảnh, âm thanh, hoặc vị trí) và sử dụng một cơ chế lọc thông minh. Cơ chế này sẽ đánh giá mức độ đa dạng của các bước trong phiên tương tác và độ tin cậy của kết quả được tạo ra, từ đó chỉ gửi những 'phiên' tương tác có giá trị thông tin cao nhất lên máy chủ để huấn luyện. Điều này giúp giảm thiểu dữ liệu dư thừa, tăng cường hiệu quả huấn luyện AI và đồng thời bảo vệ quyền riêng tư người dùng bằng cách lọc bỏ dữ liệu không cần thiết.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.04145
ArXiv Abstract	https://arxiv.org/abs/2602.04145
PDF Download	https://arxiv.org/pdf/2602.04145.pdf
Github Repository	N/A

Tác giả: Yue Ding, Yiyan Ji, Jungang Li, Xuyang Liu, Xinlong Chen, Junfei Wu, Bozhou Li, Bohan Zeng, Yang Shi, Yushuo Guan, Yuanxing Zhang, Jiaheng Liu, Qiang Liu, Pengfei Wan, Liang Wang

Xuất bản lúc: 2026-02-04

Tag: LLMs, Multimodal, Token Compression, Efficiency, Audio-Visual Understanding

I. Main Problem:

Các Mô hình Ngôn ngữ Lớn Đa phương thức (Omni-LLMs) mặc dù có khả năng hiểu video-audio mạnh mẽ nhưng lại phải đối mặt với chi phí tính toán đáng kể do phụ thuộc vào chuỗi token đa phương thức dài. Các phương pháp nén token hiện có cho Omni-LLMs còn hạn chế: các phương pháp nén tách rời từng phương thức bỏ qua các phụ thuộc ngữ nghĩa chéo phương thức, trong khi các phương pháp nén đối xứng lại gặp phải các giới hạn về khả năng tương thích hoặc gây ra chi phí tính toán đáng kể.

II. Main Idea:

Đề xuất OmniSIFT (Omni-modal Spatio-temporal Informed Fine-grained Token compression), một khuôn khổ nén token bất đối xứng theo phương thức được thiết kế riêng cho Omni-LLMs. OmniSIFT áp dụng chiến lược nén hai giai đoạn: (i) mô-đun cắt tỉa video không gian-thời gian (Spatio-Temporal Video Pruning - STVP) giúp loại bỏ sự dư thừa của video phát sinh từ cấu trúc trong khung và sự chồng chéo giữa các khung, và (ii) mô-đun chọn audio được hướng dẫn bằng thị giác (Vision-Guided Audio Selector - VGAS) để lọc các token audio. Toàn bộ khuôn khổ được tối ưu hóa end-to-end thông qua một bộ ước tính straight-through khả vi.

III. Main Results:

Các thí nghiệm trên năm bộ dữ liệu chuẩn đã chứng minh hiệu quả và độ mạnh mẽ của OmniSIFT. Đặc biệt, đối với Qwen2.5-Omni-7B, OmniSIFT chỉ thêm 4.85M tham số nhưng duy trì độ trễ thấp hơn so với các phương pháp cơ bản không cần huấn luyện như OmniZip. Với chỉ 25% ngữ cảnh token gốc được giữ lại, OmniSIFT nhất quán vượt trội hơn tất cả các phương pháp nén cơ bản và thậm chí còn vượt qua hiệu suất của mô hình đầy đủ token trên một số tác vụ. Về hiệu quả, OmniSIFT giảm tổng thời gian suy luận hơn 40% và sử dụng bộ nhớ GPU đỉnh thấp hơn hơn 4.6 GB cho biến thể 7B, với các cải thiện tương tự cho biến thể 3B. Các nghiên cứu loại bỏ thành phần cũng cho thấy tầm quan trọng của cả thành phần không gian và thời gian trong STVP, cũng như sự cần thiết của hướng dẫn thị giác trong VGAS.

IV. Conclusion & Future Works:

OmniSIFT là một khuôn khổ nén token bất đối xứng theo phương thức hiệu quả và hiệu suất cao cho Omni-LLMs. Nó giảm đáng kể số lượng token trong khi vẫn giữ hoặc thậm chí cải thiện hiệu suất trên các tác vụ hiểu biết audio-video. Điều này giúp Omni-LLMs có thể triển khai rộng rãi hơn trong các môi trường hạn chế tài nguyên hoặc yêu cầu thời gian thực. Bằng cách khuyến khích các biểu diễn chéo phương thức có ý nghĩa ngữ nghĩa, OmniSIFT mang lại lợi ích cho các ứng dụng như Hỏi & Đáp audio-video (audio-visual QA) và tạo chú thích video (video captioning).

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu sâu hơn về việc tích hợp các cơ chế nén token thích ứng động (dynamic adaptive token compression) vào OmniSIFT, cho phép mô hình điều chỉnh tỷ lệ nén dựa trên độ phức tạp của nội dung đa phương thức hoặc yêu cầu của tác vụ, nhằm tối ưu hóa hơn nữa sự cân bằng giữa hiệu suất và hiệu quả.
Mở rộng OmniSIFT để xử lý đa dạng các modalities khác ngoài audio và video, ví dụ như dữ liệu cảm biến, văn bản bổ sung, hoặc dữ liệu xúc giác (haptic data), khám phá cách duy trì tính bất đối xứng trong việc nén token khi có nhiều hơn hai modalities.
Phân tích tác động của các chiến lược nén token khác nhau lên tính công bằng và khả năng giải thích (explainability) của Omni-LLMs, đặc biệt là trong việc loại bỏ các token có thể chứa thông tin quan trọng cho các nhóm người dùng cụ thể hoặc để truy xuất nguồn gốc của quyết định.

2. Patent:

Một hệ thống xử lý video trên điện thoại di động thông minh, sử dụng công nghệ giảm dữ liệu video dư thừa bằng cách tự động nhận diện và loại bỏ các phần không thay đổi trong khung hình và giữa các khung hình liên tiếp. Công nghệ này giúp điện thoại tiết kiệm pin và bộ nhớ khi ghi hoặc xử lý video, đồng thời tăng tốc độ chia sẻ video chất lượng cao mà vẫn giữ được thông tin quan trọng.
Một phương pháp tăng cường hiệu suất ứng dụng ghi âm hoặc gọi video trên điện thoại, trong đó hệ thống dùng hình ảnh thu được từ camera điện thoại để xác định và ưu tiên các âm thanh quan trọng. Ví dụ, nếu camera phát hiện một người đang nói, hệ thống sẽ tập trung xử lý giọng nói của người đó, đồng thời giảm bớt nhiễu từ môi trường xung quanh, giúp cuộc gọi rõ ràng hơn và giảm dung lượng dữ liệu cần truyền tải.
Một ứng dụng chỉnh sửa và phân tích nội dung đa phương tiện trên điện thoại, tự động nén video và audio theo một cách thông minh, ưu tiên giữ lại các khoảnh khắc hình ảnh và âm thanh quan trọng dựa trên ngữ cảnh thị giác. Điều này cho phép người dùng nhanh chóng trích xuất các phần nổi bật của video dài (ví dụ: các bàn thắng trong trận đấu thể thao, các phân đoạn nói chuyện chính), giúp việc tìm kiếm và chia sẻ thông tin trên điện thoại trở nên dễ dàng và hiệu quả hơn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.04804
ArXiv Abstract	https://arxiv.org/abs/2602.04804
PDF Download	https://arxiv.org/pdf/2602.04804.pdf
Github Repository	N/A

Tác giả: Yizhao Gao, Jianyu Wei, Qihao Zhang, Yu Cheng, Shimao Chen, Zhengju Tang, Zihan Jiang, Yifan Song, Hailin Zhang, Liang Zhao, Bo Yang, Gang Wang, Shijie Cao, Fuli Luo

Xuất bản lúc: 2026-02-03

Tag: LLMs, Sparse Attention, Hybrid Attention, KV Cache, Memory Optimization, Long Context

I. Main Problem:

Nhu cầu về khả năng xử lý ngữ cảnh dài trong các Mô hình Ngôn ngữ lớn (LLM) ngày càng tăng, nhưng cơ chế tự chú ý (self-attention) chuẩn có độ phức tạp tính toán theo cấp số nhân với độ dài chuỗi, dẫn đến độ trễ và chi phí tăng cao một cách không thể chấp nhận được. Các phương pháp chú ý thưa (sparse attention) hiện có gặp phải hai hạn chế cơ bản:

Lựa chọn token thưa dựa trên proxy: Các phương pháp thông thường dựa vào các proxy (mô hình cố định, heuristic, ước tính gần đúng hoặc module lựa chọn bổ sung) để dự đoán tầm quan trọng của token. Những proxy này không chính xác và có thể không nắm bắt được đúng tầm quan trọng của token, đặc biệt trong các ngữ cảnh dài và đang phát triển, giới hạn sức mạnh biểu cảm của chú ý thưa. Các phương pháp có thể huấn luyện cũng tăng thêm độ phức tạp trong huấn luyện.
Giảm tính toán nhưng không giảm bộ nhớ KV cache: Các phương pháp chú ý thưa động hiện đại thường giữ lại toàn bộ KV cache. Mặc dù chúng có thể giảm tính toán, nhưng không giải phóng bộ nhớ KV cache, vốn vẫn là một nút thắt cổ chai lớn cho thông lượng và kích thước lô tối đa, hạn chế lợi ích thực tế của chú ý thưa trong các thiết lập ngữ cảnh dài.

II. Main Idea:

Tác phẩm giới thiệu HySparse, một kiến trúc Chú ý Thưa Lai (Hybrid Sparse Attention) mới giải quyết các hạn chế của chú ý thưa truyền thống. Ý tưởng chính là xen kẽ mỗi lớp chú ý đầy đủ (full attention) với nhiều lớp chú ý thưa (sparse attention). Các lớp thưa sẽ chiến lược lấy lựa chọn token quan trọng và KV cache trực tiếp từ lớp chú ý đầy đủ đứng trước. Các điểm chính của HySparse bao gồm:

Lựa chọn token giống "oracle": Lớp chú ý đầy đủ hoạt động như một "oracle" chính xác để xác định các token quan trọng, loại bỏ nhu cầu về các module proxy bổ sung và đảm bảo việc huấn luyện ổn định.
Chia sẻ KV cache xuyên lớp: Các lớp chú ý thưa tái sử dụng KV cache do lớp chú ý đầy đủ tạo ra, giảm đáng kể cả tính toán và yêu cầu bộ nhớ, đặc biệt là không tăng thêm chi phí KV cache trên mỗi lớp.
Tích hợp Chú ý Cửa sổ Trượt (SWA): Mỗi lớp chú ý thưa được tăng cường thêm một nhánh SWA duy trì bộ nhớ KV cache cục bộ, nhỏ riêng để nâng cao khả năng mô hình hóa tầm ngắn và địa phương.
Kiến trúc khối lai: Cấu trúc HySparse bao gồm các khối lai lặp lại, mỗi khối gồm một lớp chú ý đầy đủ và N lớp chú ý thưa liên tiếp. Lớp chú ý đầy đủ tính toán điểm quan trọng của chú ý theo khối (block-wise attention importance scores) để chọn TopK chỉ số khối, sau đó được tái sử dụng bởi các lớp thưa. Các nhánh đầu ra được hợp nhất bằng cổng sigmoid nhẹ.

III. Main Results:

HySparse đã được đánh giá trên cả mô hình dày đặc 7B và mô hình MoE 80B, cho thấy những cải tiến đáng kể:

Hiệu suất vượt trội: Trên tất cả các thiết lập, HySparse luôn vượt trội hơn cả chú ý đầy đủ (Full-Attn) và các đường cơ sở SWA lai.
- Đối với mô hình 7B dày đặc (tỷ lệ 1:3), HySparse đạt hiệu suất mạnh mẽ trên các tiêu chuẩn tổng quát, toán học và hiểu tiếng Trung, vượt trội hơn Full-Attn trên các tác vụ suy luận và truy hồi thực tế như MMLU, MMLU-Redux, MMLU-Pro, GSM8K, MATH, C-Eval, CMMLU.
- Đối với mô hình MoE 80B (tỷ lệ 1:11, chỉ 5 lớp chú ý đầy đủ trong tổng số 49 lớp), HySparse vượt trội hơn cả Full-Attn và Hybrid SWA trên gần như tất cả các tiêu chuẩn. Lợi ích về hiệu suất thường lớn hơn so với thiết lập 7B.
Giảm bộ nhớ KV cache đáng kể: Trong mô hình MoE 80B, HySparse đạt được hiệu suất vượt trội trong khi giảm bộ nhớ KV cache gần 10 lần so với chú ý đầy đủ, do số lượng lớp chú ý đầy đủ được giảm đáng kể. Điều này cũng không làm tăng chi phí KV cache so với đường cơ sở Hybrid SWA.
Khả năng ngữ cảnh dài mạnh mẽ: Trên tiêu chuẩn RULER, HySparse duy trì độ chính xác cao cho ngữ cảnh dài.
- Với mô hình 7B, HySparse cải thiện điểm tổng thể so với cả hai đường cơ sở ở 16k và 32k tokens, đặc biệt là trên các tập con khó như multi-key/value và các tác vụ suy luận nặng như CWE.
- Với mô hình 80B MoE, HySparse cạnh tranh với Full-Attn ở 16k và vượt trội hơn đáng kể ở 32k (87.4 so với 82.1 của Full-Attn), giải quyết sự suy giảm hiệu suất nghiêm trọng của Hybrid SWA trong thiết lập này.
Kết quả nghiên cứu loại bỏ (Ablation Study):
- Việc loại bỏ nhánh SWA trong lớp chú ý thưa dẫn đến giảm độ chính xác rõ rệt, khẳng định tầm quan trọng của nhánh SWA để nắm bắt thông tin cục bộ.
- Việc duy trì KV cache độc lập cho nhánh SWA là cần thiết để bảo toàn sức biểu cảm của mô hình, vì SWA cần các biểu diễn khác nhau để nắm bắt tính gắn kết tầm ngắn.

IV. Conclusion & Future Works:

HySparse cung cấp một giải pháp kiến trúc đơn giản và hiệu quả cho các hạn chế cốt lõi của chú ý thưa, đạt được khả năng mô hình hóa ngữ cảnh dài mạnh mẽ với ưu điểm rõ ràng về hiệu quả tính toán và bộ nhớ. Các kết quả chỉ ra rằng HySparse có thể giảm đáng kể số lượng lớp chú ý đầy đủ mà không làm mất đi khả năng mô hình hóa. Kết luận, công trình này nhấn mạnh rằng việc tận dụng lớp chú ý đầy đủ làm "oracle" để lựa chọn token và chia sẻ KV cache là một chiến lược hiệu quả để cải thiện hiệu suất và hiệu quả của các mô hình LLM với ngữ cảnh dài.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu sâu hơn về cơ chế "oracle" để lựa chọn token, khám phá các phương pháp tối ưu hóa việc xác định token quan trọng từ lớp chú ý đầy đủ hoặc tích hợp các tín hiệu ngữ cảnh động khác.
Khám phá các chiến lược chia sẻ KV cache nâng cao hơn, ví dụ như chia sẻ KV cache có chọn lọc hoặc nén KV cache xuyên lớp, để tối đa hóa việc tiết kiệm bộ nhớ mà vẫn duy trì hoặc cải thiện độ chính xác của mô hình.
Mở rộng HySparse cho các kiến trúc Transformer khác ngoài các mô hình dense và MoE đã thử nghiệm, hoặc tích hợp nó vào các tác vụ hạ nguồn cụ thể (như tạo sinh văn bản dài, tóm tắt) để đánh giá khả năng tổng quát hóa và hiệu suất.

2. Patent:

Hệ thống tăng tốc xử lý văn bản dài trên điện thoại thông minh: Phát triển một công nghệ cho phép các ứng dụng trợ lý ảo hoặc công cụ tìm kiếm trên điện thoại thông minh xử lý các tài liệu văn bản cực dài (ví dụ: sách, báo cáo) một cách hiệu quả. Hệ thống này sử dụng cơ chế tương tự HySparse, nơi các phân đoạn quan trọng của văn bản được xác định và lưu trữ thông tin liên quan trong một bộ nhớ tạm thời được tối ưu hóa (tái sử dụng KV cache), giúp điện thoại xử lý nhanh hơn mà không tốn nhiều pin hoặc bộ nhớ, cải thiện trải nghiệm người dùng với các tác vụ như tóm tắt nhanh hoặc hỏi đáp chuyên sâu.
Phương pháp tiết kiệm bộ nhớ cho AI trên thiết bị di động: Một phương pháp phần mềm và phần cứng được thiết kế để các mô hình ngôn ngữ lớn chạy trực tiếp trên điện thoại di động tiêu thụ ít bộ nhớ hơn cho việc hiểu ngữ cảnh. Công nghệ này sẽ quản lý bộ nhớ của các thông tin quan trọng (KV cache) bằng cách tái sử dụng thông tin đã tính toán từ các "lớp" xử lý trước đó, đồng thời chỉ lưu trữ một cửa sổ nhỏ các thông tin gần nhất. Điều này cho phép điện thoại duy trì khả năng hiểu ngữ cảnh dài mà không cần đến bộ nhớ lớn như trên máy chủ đám mây, giúp các ứng dụng AI chạy mượt mà hơn trên thiết bị.
Kiến trúc chú ý lai hiệu quả năng lượng cho chip AI di động: Thiết kế một kiến trúc chip và thuật toán đi kèm cho các bộ xử lý AI tích hợp trong điện thoại di động, ưu tiên hiệu quả năng lượng khi xử lý dữ liệu chuỗi dài. Kiến trúc này sẽ tự động xen kẽ giữa các chế độ xử lý "toàn diện" và "chọn lọc" thông tin. Chế độ toàn diện sẽ xác định các phần cốt lõi của dữ liệu, và chế độ chọn lọc sẽ chỉ tập trung vào các phần cốt lõi này cùng với một cửa sổ thông tin cục bộ, tái sử dụng kết quả từ chế độ toàn diện. Điều này giúp giảm đáng kể số lượng phép tính và truy cập bộ nhớ, kéo dài thời lượng pin cho các tác vụ AI phức tạp trên điện thoại.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.03560
ArXiv Abstract	https://arxiv.org/abs/2602.03560
PDF Download	https://arxiv.org/pdf/2602.03560.pdf
Github Repository	N/A

7. EgoActor: Grounding Task Planning into Spatial-aware Egocentric Actions for Humanoid Robots via Visual-Language Models (35 votes)

Tác giả: Yu Bai, MingMing Yu, Chaojie Li, Ziyi Bai, Xinlong Wang, Börje F. Karlsson

Xuất bản lúc: 2026-02-04

Tag: VLMs, Robotics, Embodied AI, Humanoid Robots, Task Planning

I. Main Problem:

Triển khai robot hình người trong môi trường thực tế là thách thức cơ bản, đòi hỏi sự tích hợp chặt chẽ giữa Perception, Locomotion và Manipulation dưới các quan sát thông tin không đầy đủ và môi trường thay đổi linh hoạt. Đồng thời, cần chuyển đổi mạnh mẽ giữa các nhiệm vụ con khác nhau. Những thách thức này chủ yếu phát sinh từ sự bất ổn cố hữu của nền tảng robot hình người và sự phức tạp của các nhiệm vụ thế giới thực với thông tin không đầy đủ. Ngoài các hành động di chuyển và thao tác cơ bản, hệ thống robot có hình thái còn yêu cầu sự chuyển đổi linh hoạt giữa các hành động và loại hành động khác nhau, thường thực hiện chúng theo cách phối hợp. Đạt được sự phối hợp như vậy đòi hỏi cả khả năng kiểm soát động cơ đáng tin cậy và khả năng Spatial understanding và Reasoning nâng cao, cho phép một mô hình suy luận cách các hành động tương tác với môi trường và xác định thời điểm cũng như cách thức phối hợp nhiều kỹ năng một cách hiệu quả.

II. Main Idea:

Các tác giả đề xuất một nhiệm vụ mới – EgoActing – yêu cầu Grounding trực tiếp các hướng dẫn cấp cao thành các hành động của robot hình người đa dạng, chính xác và có khả năng nhận biết không gian (Spatial-aware). Để giải quyết EgoActing, họ giới thiệu EgoActor, một mô hình Visual-Language Model (VLM) thống nhất và có khả năng mở rộng, có thể dự đoán các hành động di chuyển (locomotion primitives), chuyển động đầu, lệnh Manipulation và tương tác Human-robot để phối hợp Perception và Execution theo thời gian thực. EgoActor tận dụng sự giám sát rộng rãi từ dữ liệu egocentric RGB-only từ các bản Demo trong thế giới thực, Spatial reasoning Question-Answering và các bản Demo môi trường mô phỏng để đưa ra quyết định mạnh mẽ, có nhận thức ngữ cảnh và thực hiện suy luận hành động trôi chảy (dưới 1 giây). Mô hình được đào tạo trên nhiều bộ dữ liệu đa phương thức, bao gồm video thế giới thực, dữ liệu lập luận không gian, dữ liệu môi trường ảo và dữ liệu lập kế hoạch ngôn ngữ-thị giác, sử dụng kiến trúc VLM tổng quát (Qwen3-VL) với LoRA để tinh chỉnh. Hành động được biểu diễn dưới dạng văn bản: Structured Language Actions (SLAs) cho di chuyển và nhận thức chủ động, Natural Language Actions (NLAs) cho thao tác và tương tác với con người.

III. Main Results:

Các đánh giá rộng rãi trong cả môi trường mô phỏng và thế giới thực cho thấy EgoActor kết nối hiệu quả giữa lập kế hoạch nhiệm vụ trừu tượng và thực thi động cơ cụ thể, đồng thời Generalization trên nhiều nhiệm vụ đa dạng và môi trường chưa từng thấy. Trong các nhiệm vụ tương tác Human-robot, EgoActor-8B đạt tỷ lệ thành công cao (12/12 cho các nhiệm vụ đơn người, 10-12/12 cho các thuộc tính đa người OOD) và vượt trội so với các mô hình Baseline. Đối với Mobile Manipulation, EgoActor-8B thể hiện hiệu suất mạnh mẽ (5/6 đến 6/6) trong việc tiếp cận và thao tác các đối tượng đã thấy và chưa thấy trong bố cục mới. Trong Traversability, EgoActor cho thấy khả năng vượt qua các không gian hẹp và tránh va chạm đáng tin cậy hơn nhiều so với các mô hình Navigation dựa trên VLM hiện có. Trong môi trường ảo, EgoActor đạt được khoảng cách đến mục tiêu tốt hơn đáng kể và điểm F1 cho Natural Language Action cao hơn so với các mô hình Baseline. Các nghiên cứu điển hình minh họa khả năng tránh chướng ngại vật (cả chướng ngại vật chưa thấy), nhận thức chủ động, hiểu biết không gian mạnh mẽ và các mẫu chuyển động giống con người.

IV. Conclusion & Future Works:

EgoActor là một mô hình Vision-Language thống nhất giải quyết các thách thức bị bỏ qua trong việc Grounding ý định nhiệm vụ cấp cao thành các hành động đa bước có thể thực thi, egocentric cho robot hình người trong thế giới thực, không yêu cầu các cảm biến phụ, nhiều camera hoặc Teleoperation rộng rãi. Bằng cách dự đoán đồng thời Locomotion, Manipulation, Human interaction và chuyển động đầu, EgoActor tích hợp chặt chẽ Perception và Execution trong môi trường năng động. Được đào tạo trên dữ liệu đa dạng dễ dàng mở rộng từ thế giới thực, Spatial reasoning và mô phỏng, mô hình thể hiện khả năng Generalization mạnh mẽ và suy luận kịp thời. Đây là một bước tiến thực tế hướng tới quyền tự chủ có thể mở rộng của robot hình người. EgoActor sẽ được phát hành như một nền tảng thử nghiệm mở để hỗ trợ nghiên cứu trong tương lai (bao gồm code, models, dataset và benchmark).

V. Brainstorming Space:

1. Publish Papers:

Nâng cao khả năng thích ứng của EgoActor trong môi trường có sự thay đổi đột ngột hoặc phức tạp hơn (ví dụ: các vật cản di chuyển nhanh, các vật thể bị che khuất một phần).
Phát triển các chiến lược học tập hiệu quả hơn cho các tác vụ phức tạp, dài hạn đòi hỏi nhiều bước Logic và quy hoạch, có thể bao gồm tích hợp với các mô hình lập kế hoạch cấp cao.
Mở rộng bộ kỹ năng của EgoActor để bao gồm các hành động Manipulation tinh vi hơn hoặc tương tác xã hội phức tạp hơn với con người và các robot khác, chẳng hạn như học hỏi từ phản hồi của con người theo thời gian thực.

2. Patent:

Ứng dụng hỗ trợ Navigation nhận biết không gian cho người khiếm thị trên điện thoại. Ứng dụng này sử dụng camera của điện thoại để hướng dẫn người dùng qua các môi trường phức tạp (ví dụ: sân bay, trung tâm thương mại) bằng các chỉ dẫn ngôn ngữ tự nhiên. Ứng dụng có thể cảnh báo về chướng ngại vật, hướng dẫn rẽ và đề xuất đường đi đến các điểm quan tâm một cách chính xác, giúp người dùng di chuyển an toàn và độc lập.
Hệ thống hướng dẫn lắp ráp hoặc bảo trì tương tác qua camera điện thoại. Một ứng dụng điện thoại sử dụng camera để nhận diện các bộ phận của sản phẩm (ví dụ: đồ nội thất, thiết bị điện tử) và cung cấp hướng dẫn lắp ráp hoặc sửa chữa từng bước bằng ngôn ngữ tự nhiên. Ứng dụng sẽ tự động làm nổi bật vị trí cần tương tác trên màn hình và xác nhận các hành động đã thực hiện, giúp người dùng dễ dàng hoàn thành công việc mà không cần hướng dẫn thủ công.
Huấn luyện viên thể dục cá nhân với tính năng sửa tư thế dùng camera điện thoại. Một ứng dụng điện thoại giám sát tư thế tập luyện của người dùng qua camera. Ứng dụng cung cấp phản hồi bằng giọng nói theo thời gian thực (ví dụ: "Nâng tay cao hơn" hoặc "Gập đầu gối thêm") và hướng dẫn người dùng thực hiện các bài tập một cách chính xác, giống như cách robot học hỏi từ môi trường, nhằm cải thiện hiệu quả tập luyện và phòng tránh chấn thương.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.04515
ArXiv Abstract	https://arxiv.org/abs/2602.04515
PDF Download	https://arxiv.org/pdf/2602.04515.pdf
Github Repository	N/A

8. Quant VideoGen: Auto-Regressive Long Video Generation via 2-Bit KV-Cache Quantization (32 votes)

Tác giả: Haocheng Xi, Shuo Yang, Yilong Zhao, Muyang Li, Han Cai, Xingyang Li, Yujun Lin, Zhuoyang Zhang, Jintao Zhang, Xiuyu Li, Zhiying Xu, Jun Wu, Chenfeng Xu, Ion Stoica, Song Han, Kurt Keutzer

Xuất bản lúc: 2026-02-03

Tag: Video Generation, Auto-Regressive Models, Quantization, KV-Cache, Diffusion Models, Memory Optimization, Long Video Generation

I. Main Problem:

Hạn chế về bộ nhớ KV-cache là nút thắt cổ chai hệ thống–thuật toán nghiêm trọng trong các mô hình tạo video tự hồi quy, gây ra nhiều vấn đề:

Khả năng triển khai hạn chế: Bộ nhớ KV-cache tăng lên theo lịch sử và nhanh chóng chiếm dụng bộ nhớ GPU (thường ≥30 GB), cản trở việc triển khai trên phần cứng sẵn có rộng rãi.
Giảm chất lượng video dài: Ngân sách KV-cache bị giới hạn bộ nhớ buộc phải sử dụng bộ nhớ làm việc nhỏ, điều này trực tiếp làm suy giảm tính nhất quán dài hạn về nhận dạng, bố cục và chuyển động, v.v.
Khó khăn trong lượng tử hóa: Bộ nhớ KV-cache của video có phân bố số học không đồng nhất đáng kể giữa các token và kênh, khiến các kỹ thuật lượng tử hóa KV-cache của LLM hiện có không hiệu quả và dẫn đến suy giảm chất lượng nghiêm trọng.

II. Main Idea:

QVG (Quant VideoGen) là một framework lượng tử hóa KV-cache không cần huấn luyện, được đề xuất để giải quyết nút thắt cổ chai bộ nhớ trong các mô hình khuếch tán video tự hồi quy. QVG khai thác tính dư thừa không-thời gian của video thông qua hai thành phần chính:

Semantic-Aware Smoothing (SAS):
- Phân nhóm dựa trên ngữ nghĩa: QVG xử lý KV-cache theo từng khối (chunk). Trong mỗi khối, các token được phân loại thành các nhóm dựa trên sự tương đồng ngữ nghĩa trong không gian tiềm ẩn của chúng, sử dụng thuật toán k-means.
- Tính toán phần dư bằng cách trừ tâm cụm: Đối với mỗi nhóm, giá trị trung bình (tâm cụm) được trừ đi từ các token, tạo ra các tensor phần dư. Các tensor phần dư này có biên độ nhỏ hơn đáng kể và đồng nhất hơn, giúp chúng thân thiện hơn với lượng tử hóa.
Progressive Residual Quantization (PRQ):
- Lược đồ nén đa giai đoạn: Dựa trên cấu trúc tiến triển của video, PRQ nén các tensor phần dư một cách lặp đi lặp lại qua nhiều giai đoạn (từ thô đến tinh). Mỗi giai đoạn tái lượng tử hóa tensor phần dư còn lại để nắm bắt các chi tiết tinh tế hơn.
- Cân bằng chất lượng–bộ nhớ linh hoạt: Thiết kế này cho phép đánh đổi linh hoạt giữa chất lượng và tỷ lệ nén bằng cách thay đổi số lượng giai đoạn. QVG cũng kết hợp các tối ưu hóa thiết kế thuật toán-hệ thống như caching tâm cụm k-means theo luồng nhanh và kernel giải lượng tử hóa được hợp nhất để giảm thiểu độ trễ.

III. Main Results:

QVG thiết lập một biên Pareto mới về chất lượng–bộ nhớ, đạt được các kết quả nổi bật:

Giảm bộ nhớ KV-cache đáng kể: Giảm dung lượng bộ nhớ KV-cache lên đến 7,0× so với cài đặt BF16.
Chất lượng video vượt trội: Đạt được PSNR 28,716 với tỷ lệ nén 6,94× trên LongCat-Video-13B và PSNR 29,174 với tỷ lệ nén 7,05× trên HY-WorldPlay-8B (ở cài đặt INT2), vượt trội đáng kể so với các baseline khác.
Duy trì tính nhất quán dài hạn: Trên mô hình Self-Forcing, QVG duy trì chất lượng gần như không mất mát (thể hiện qua điểm Image Quality) ngay cả khi mở rộng đến 700 khung hình, trong khi các baseline khác suy giảm mạnh sau khoảng 100 khung hình.
Độ trễ thấp: Chỉ gây ra độ trễ đầu cuối tối thiểu (<4%), cụ thể là 1,5% trên HY-WorldPlay, 2,1% trên LongCat và 4,3% trên Self-Forcing.
Mở rộng khả năng triển khai: Lần đầu tiên cho phép chạy mô hình HY-WorldPlay-8B trên một GPU RTX 4090 duy nhất với PSNR > 29, điều mà trước đây không thể thực hiện được do hạn chế về bộ nhớ.

IV. Conclusion & Future Works:

QVG cung cấp một framework lượng tử hóa KV-cache không cần huấn luyện, hiệu quả, tận dụng tính dư thừa không-thời gian đặc trưng của video. Bằng cách kết hợp Semantic-Aware Smoothing để tạo ra các phần dư thân thiện với lượng tử hóa và Progressive Residual Quantization để giảm lỗi một cách lũy tiến, QVG giải quyết thành công nút thắt cổ chai bộ nhớ trong việc tạo video tự hồi quy. Điều này giúp QVG có thể tạo ra các video dài và thế giới một cách thiết thực và hiệu quả về bộ nhớ, với khả năng nén bộ nhớ lên đến 7,04× và độ trễ tối thiểu, đồng thời duy trì chất lượng hình ảnh gần như không mất mát. Bài báo không trình bày cụ thể về các công việc tương lai, nhưng việc tiếp tục khám phá các cải tiến về hiệu suất và chất lượng lượng tử hóa, cũng như mở rộng ứng dụng sang các kiến trúc mô hình tạo sinh video khác, có thể là những hướng nghiên cứu tiềm năng.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu các phương pháp lượng tử hóa KV-cache thích ứng động, tự điều chỉnh mức độ nén dựa trên độ phức tạp của nội dung video hoặc yêu cầu về chất lượng thời gian thực.
Khám phá việc tích hợp lượng tử hóa KV-cache với các kỹ thuật nén video khác (ví dụ: mã hóa dựa trên sóng con hoặc nén entropy) để đạt được tỷ lệ nén tổng thể cao hơn mà vẫn duy trì chất lượng.
Áp dụng các nguyên lý của Semantic-Aware Smoothing và Progressive Residual Quantization để nén các biểu diễn tiềm ẩn khác trong các mô hình tạo sinh lớn (ví dụ: bộ nhớ trạng thái trong mô hình ngôn ngữ lớn hoặc mô hình hình ảnh).

2. Patent:

Hệ thống tạo video dài trên điện thoại di động với bộ nhớ đệm hiệu quả: Một ứng dụng điện thoại di động cho phép người dùng tạo các video dài, liền mạch từ văn bản hoặc hình ảnh khởi tạo. Công nghệ cốt lõi sẽ sử dụng một cơ chế bộ nhớ đệm thông minh (KV-cache) đã được tối ưu hóa đặc biệt để giảm đáng kể yêu cầu về bộ nhớ xử lý của điện thoại. Bằng cách phân nhóm các yếu tố hình ảnh và chuyển động tương tự trong video và chỉ lưu trữ các thay đổi nhỏ giữa chúng, ứng dụng có thể tạo ra video chất lượng cao trong thời gian dài mà không làm quá tải bộ nhớ của thiết bị.
Phương pháp tối ưu hóa bộ nhớ cho ứng dụng chỉnh sửa video thông minh trên điện thoại: Một tính năng trong ứng dụng chỉnh sửa video trên điện thoại di động cho phép người dùng dễ dàng mở rộng hoặc duy trì tính nhất quán của các đoạn video đã quay hoặc tạo ra. Hệ thống sẽ tự động phân tích các yếu tố chính trong video (như đối tượng, bố cục, chuyển động) và lưu trữ chúng một cách hiệu quả nhất có thể. Khi người dùng muốn thêm hoặc thay đổi một phần của video, hệ thống chỉ cần cập nhật những chi tiết nhỏ thay vì phải xử lý lại toàn bộ, giúp chỉnh sửa video dài mượt mà hơn và ít tốn pin hơn trên điện thoại.
Công nghệ tạo hiệu ứng động nhất quán cho game di động: Một công cụ tích hợp vào nền tảng phát triển game di động, cho phép tạo ra các hiệu ứng động, môi trường hoặc nhân vật dài hơi, nhất quán trong game mà không yêu cầu tài nguyên lớn. Công nghệ này sử dụng một phương pháp quản lý bộ nhớ thông minh, nơi các thông tin về hình ảnh và hành động được nén và tái tạo theo từng giai đoạn, từ khái quát đến chi tiết. Điều này đảm bảo rằng các cảnh game có thể kéo dài mà không bị 'trôi' hoặc mất đi tính liền mạch, ngay cả trên các thiết bị di động có cấu hình trung bình.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.02958
ArXiv Abstract	https://arxiv.org/abs/2602.02958
PDF Download	https://arxiv.org/pdf/2602.02958.pdf
Github Repository	N/A

9. SoMA: A Real-to-Sim Neural Simulator for Robotic Soft-body Manipulation (31 votes)

Tác giả: Mu Huang, Hui Wang, Kerui Ren, Linning Xu, Yunsong Zhou, Mulin Yu, Bo Dai, Jiangmiao Pang

Xuất bản lúc: 2026-02-02

Tag: Robotics, Computer Vision, Neural Networks, Simulation, Deformable Objects, Gaussian Splatting

I. Main Problem:

Thách thức cơ bản trong việc mô phỏng vật thể biến dạng dưới các tương tác phong phú của robot trong môi trường thực sang ảo (real-to-sim), với động lực học được điều khiển bởi cả hiệu ứng môi trường và hành động của robot. Các trình mô phỏng hiện có thường dựa vào vật lý được xác định trước hoặc động lực học dựa trên dữ liệu mà không có kiểm soát điều kiện robot, điều này hạn chế độ chính xác, ổn định và khả năng tổng quát hóa. Việc thu thập dữ liệu thao tác robot trong thế giới thực tốn kém và rủi ro. Học động lực học có ý nghĩa vật lý và các tương tác phức tạp vẫn là một thách thức, đặc biệt khi có sự che khuất một phần và các mô hình tiếp xúc phức tạp.

II. Main Idea:

SoMA là một trình mô phỏng mạng thần kinh 3D Gaussian Splat (GS) cho thao tác vật thể mềm. Nó kết nối động lực học biến dạng, lực môi trường và hành động khớp nối của robot trong một không gian mạng thần kinh tiềm ẩn thống nhất để mô phỏng end-to-end từ thực sang ảo. Bằng cách mô hình hóa các tương tác trên các Gaussian Splats đã học, SoMA cho phép thao tác điều khiển được, ổn định trong thời gian dài và khả năng tổng quát hóa vượt ra ngoài các quỹ đạo đã quan sát mà không cần các mô hình vật lý được xác định trước. Các thiết kế chính bao gồm: ánh xạ R2S có điều kiện robot để neo động lực học vật thể vào các hành động không gian khớp của robot; mô hình động lực học GS dựa trên lực để xử lý tiếp xúc và che khuất; và chiến lược huấn luyện đa độ phân giải kết hợp với sơ đồ giám sát kết hợp để đảm bảo hiệu suất ổn định trong thời gian dài.

III. Main Results:

SoMA cải thiện độ chính xác mô phỏng lại và khả năng tổng quát hóa trong thao tác robot thế giới thực lên 20%. Nó đạt được hiệu suất tốt nhất trên tất cả các chỉ số (PSNR, SSIM, LPIPS cho hình ảnh; Abs Rel, RMSE cho độ sâu) trong các nhiệm vụ mô phỏng lại và tổng quát hóa, cũng như các nhiệm vụ phức tạp như gấp áo T-shirt. SoMA tạo ra các quỹ đạo mô phỏng lại khớp sát với quan sát thực tế trong thời gian dài, duy trì sự ổn định và bảo toàn chính xác cả chuyển động toàn cục và biến dạng cục bộ. Nó cũng duy trì sự tiến hóa động học chính xác và ổn định trong các tình huống thao tác chưa từng thấy.

IV. Conclusion & Future Works:

SoMA là một trình mô phỏng mạng thần kinh real-to-sim cho thao tác vật thể mềm trong các cảnh tương tác robot. Cách tiếp cận này học động lực học vật thể biến dạng end-to-end từ quan sát RGB trực tiếp trên biểu diễn Gaussian Splat mà không dựa vào các mô hình vật lý được xác định trước. Bằng cách mô hình hóa rõ ràng các tương tác robot-vật thể, trình mô phỏng cho phép mô phỏng chính xác và ổn định trong thời gian dài, được điều kiện hóa bởi các hành động của robot. Hạn chế của SoMA là hiệu suất có thể suy giảm dưới sự che khuất nghiêm trọng hoặc các mô hình tiếp xúc cực kỳ phức tạp vượt ra ngoài phân phối huấn luyện. Trong tương lai, SoMA có tiềm năng giảm chi phí thu thập dữ liệu thao tác robot quy mô lớn bằng cách cho phép phân tích và học tập dựa trên mô phỏng. Tuy nhiên, việc triển khai trong thế giới thực vẫn yêu cầu xác minh để đảm bảo an toàn và độ tin cậy.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu về việc cải thiện khả năng tổng quát hóa của các trình mô phỏng vật thể mềm đối với các thuộc tính vật liệu và hình dạng vật thể chưa từng thấy trong môi trường thực tế.
Phát triển các phương pháp mạnh mẽ hơn để xử lý sự che khuất nghiêm trọng và các mẫu tiếp xúc phức tạp trong quá trình mô phỏng vật thể mềm biến dạng.
Khám phá việc tích hợp các mô hình ngôn ngữ lớn hoặc Vision-Language Action để cho phép mô phỏng vật thể mềm biến dạng dựa trên hướng dẫn ngữ nghĩa hoặc kế hoạch cấp cao.

2. Patent:

Một ứng dụng di động cho phép người dùng mô phỏng tương tác với các vật thể mềm ảo (như vải, đất sét) trong môi trường thực tế tăng cường (AR). Camera của điện thoại sẽ quét môi trường để đặt vật thể ảo, và người dùng có thể dùng ngón tay chạm hoặc kéo trên màn hình để thay đổi hình dạng vật thể ảo một cách chân thực, hữu ích cho trò chơi hoặc thiết kế.
Một hệ thống thương mại điện tử tích hợp tính năng xem trước sản phẩm mềm ảo trên điện thoại di động. Khách hàng có thể chọn một sản phẩm (ví dụ: một chiếc khăn, một chiếc áo len) và dùng cử chỉ tay trước camera điện thoại để "thử" cách sản phẩm đó biến dạng, chảy hoặc gấp lại, giúp họ hình dung rõ hơn về chất liệu và độ rũ của sản phẩm trước khi mua.
Một phần mềm điều khiển robot gia đình thông minh trên điện thoại di động, bao gồm tính năng mô phỏng trước hành động thao tác vật thể mềm. Khi người dùng ra lệnh cho robot (ví dụ: "gấp chiếc áo này"), ứng dụng sẽ hiển thị một mô phỏng nhanh về cách robot sẽ thực hiện hành động và vật thể sẽ thay đổi như thế nào, cho phép người dùng xem trước, điều chỉnh hoặc xác nhận hành động để tránh sai sót trong thế giới thực.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.02402
ArXiv Abstract	https://arxiv.org/abs/2602.02402
PDF Download	https://arxiv.org/pdf/2602.02402.pdf
Github Repository	N/A

10. TIDE: Trajectory-based Diagnostic Evaluation of Test-Time Improvement in LLM Agents (31 votes)

Tác giả: Hang Yan, Xinyu Che, Fangzhi Xu, Qiushi Sun, Zichen Ding, Kanzhi Cheng, Jian Zhang, Tao Qin, Jun Liu, Qika Lin

Xuất bản lúc: 2026-02-02

Tag: LLMs, Agents, Evaluation, Diagnostics, Performance Metrics, Trajectory Analysis

I. Main Problem:

Cơ chế thành công hay thất bại của Test-Time Improvement (TTI) trong các tác nhân LLM còn ít được hiểu rõ.
Các chỉ số đánh giá hiện có không nắm bắt được hiệu quả tối ưu hóa tác vụ, khả năng thích ứng hành vi sau các hành động sai lầm, và tiện ích cụ thể của bộ nhớ làm việc để hoàn thành tác vụ.
Các chỉ số tĩnh như Tỷ lệ Thành công (SR) bỏ qua động lực theo thời gian của quá trình cải thiện.
Khó phân biệt sự thích nghi hành vi thực sự với sự lặp lại lỗi một cách thoái hóa (recursive failure).
Tác động thực sự của bộ nhớ tích lũy đến chất lượng quyết định không rõ ràng, thường bị lẫn lộn với các yếu tố khác.

II. Main Idea:

Đề xuất TIDE (Test-time Improvement Diagnostic Evaluation), một khung đánh giá chẩn đoán không phụ thuộc tác nhân và không phụ thuộc môi trường.
TIDE phân tách TTI thành ba khía cạnh toàn diện và liên kết:
1. Hiệu quả tối ưu hóa (Optimization Efficiency): Định lượng bằng chỉ số AUV (Area Under Variation), đo lường mức độ nhanh chóng và ổn định mà tác nhân đạt được thành công theo thời gian tương tác.
2. Thích nghi hành vi (Behavior Adaptation): Xác định bằng chỉ số LR (Loop Ratio), phát hiện các mẫu lặp lại (recursive looping behaviors) trong quỹ đạo tương tác, phân biệt giữa sự thích nghi hiệu quả và sự đình trệ do lặp lại thất bại.
3. Tiện ích bộ nhớ (Memory Utility): Đánh giá bằng chỉ số MI (Memory Index), định lượng đóng góp cụ thể của lịch sử tương tác tích lũy (bộ nhớ làm việc) vào hiệu suất của tác nhân.
TIDE dựa trên phân tích quỹ đạo tương tác để cung cấp một cái nhìn chẩn đoán thống nhất về TTI, xác định các nút thắt cổ chai như vòng lặp đệ quy và gánh nặng bộ nhớ.

III. Main Results:

AUV nắm bắt hiệu quả theo thời gian: Các tác nhân có cùng Tỷ lệ Thành công (SR) có thể có AUV khác nhau đáng kể, cho thấy sự khác biệt về hiệu quả cải thiện sớm và khả năng hội tụ bền vững.
Vòng lặp (loops) phổ biến và liên quan đến TTI kém tối ưu: Nhiều mô hình LLM hiện tại thể hiện LR cao, cho thấy chúng có xu hướng lặp lại các hành động sai lầm thay vì thích nghi. LR cao tương quan nghịch với AUV. Giảm thiểu vòng lặp là điều kiện cần nhưng chưa đủ cho TTI tối ưu.
Mô hình lớn hơn giảm thiểu sự đình trệ: Các mô hình có quy mô lớn hơn trong cùng một họ mô hình thể hiện LR thấp hơn đáng kể, cho thấy khả năng thích nghi hành vi tốt hơn. Các mô hình cực lớn (ví dụ: DeepSeek, Gemini) có LR không đáng kể.
Ảnh hưởng tiêu cực của bộ nhớ được quan sát rộng rãi: Việc đơn giản sử dụng bộ nhớ làm việc mà không quản lý thường gây hại trong các môi trường giới hạn lý luận (reasoning-bound MDPs), hoạt động như một gánh nặng nhận thức.
Bộ nhớ mở rộng cho thấy sự bão hòa: Lợi ích từ việc mở rộng bộ nhớ giảm dần, với những cải thiện đáng kể chỉ giới hạn trong vài kích thước cửa sổ đầu tiên (5 lượt tương tác gần nhất).
Cấu trúc tác vụ quyết định hiệu quả bộ nhớ: Trong các tác vụ quan sát một phần (POMDPs) như WebShop, bộ nhớ rất cần thiết và mang lại lợi ích tích cực. Ngược lại, trong các tác vụ có thể quan sát đầy đủ (MDPs) như FrozenLake, bộ nhớ lịch sử có thể trở nên thừa thãi và gây nhiễu, dẫn đến MI tiêu cực.
Mô hình quy mô cực lớn là nền tảng vững chắc: Các dòng mô hình Gemini và DeepSeek đạt AUV và LR vượt trội trên mọi môi trường, cho thấy khả năng lý luận mạnh mẽ và ít phụ thuộc vào bộ nhớ trong các tác vụ giới hạn lý luận.
Mở rộng quy mô chỉ trong thời gian kiểm tra là không đủ: Các mô hình được tăng cường lý luận có thể không chuyển đổi được chuỗi suy nghĩ nội bộ thành các hành động bên ngoài hiệu quả trong các tác vụ giới hạn thông tin, cho thấy sự tách rời giữa năng lực nhận thức nội bộ và hiệu quả tương tác bên ngoài.

IV. Conclusion & Future Works:

TTI được hình thức hóa như một quá trình cải tiến động.
TIDE cung cấp một khung chẩn đoán toàn diện, không phụ thuộc tác nhân và môi trường để đánh giá TTI thông qua AUV, LR, và MI.
Hiệu suất tác nhân không chỉ phụ thuộc vào thành công cuối cùng mà còn vào cách tác nhân cải thiện một cách hiệu quả, thích nghi và có tác dụng thông qua tương tác.
Khuyến khích chuyển từ đánh giá năng lực tĩnh sang chẩn đoán và tối ưu hóa động lực của tác nhân.
Hướng nghiên cứu trong tương lai:
- Phát triển các chiến lược quản lý bộ nhớ chủ động để lọc bỏ thông tin không liên quan và giảm gánh nặng nhận thức trong các tác vụ giới hạn lý luận.
- Thiết kế các tác nhân LLM có khả năng thích nghi hành vi tốt hơn để nhanh chóng điều chỉnh chiến lược khi đối mặt với phản hồi tiêu cực của môi trường, đặc biệt là để giảm thiểu các vòng lặp dai dẳng.
- Tập trung vào việc tối ưu hóa động lực tương tác giữa tác nhân và môi trường, thay vì chỉ tăng cường khả năng lý luận nội bộ, để cải thiện Test-Time Improvement.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu cơ chế tự phản hồi (self-feedback) để giảm thiểu vòng lặp hành vi (looping behaviors) trong các tác nhân LLM, đặc biệt là trong các môi trường có độ phức tạp cao hoặc thông tin không đầy đủ.
Khám phá các phương pháp quản lý bộ nhớ ngữ cảnh động (dynamic context memory management) cho tác nhân LLM, tập trung vào việc ưu tiên thông tin hữu ích và loại bỏ nhiễu để cải thiện TTI trong các môi trường khác nhau.
Phát triển các kiến trúc tác nhân LLM mới được tối ưu hóa cho sự thích nghi tương tác (interactive adaptation) và hiệu quả tối ưu hóa theo thời gian thực (real-time optimization efficiency), thay vì chỉ tập trung vào khả năng lý luận nội bộ.

2. Patent:

Hệ thống trợ lý di động thông minh có khả năng tự sửa lỗi (self-correction) trong các tác vụ đa bước (multi-step tasks) như đặt vé hoặc mua sắm trực tuyến, bằng cách phát hiện các hành vi lặp lại không hiệu quả và đề xuất các bước thay thế.
Phương pháp quản lý bộ nhớ bối cảnh động cho trợ lý ảo trên điện thoại, tự động lọc bỏ các chi tiết trò chuyện không liên quan để duy trì sự tập trung vào mục tiêu của người dùng, tránh làm chậm quá trình thực hiện tác vụ.
Giao diện người dùng trên điện thoại thông minh tích hợp chẩn đoán TTI, cung cấp phản hồi trực quan cho người dùng về mức độ hiệu quả mà trợ lý ảo đang xử lý yêu cầu của họ, bao gồm các chỉ số về thời gian hoàn thành và khả năng thích ứng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.02196
ArXiv Abstract	https://arxiv.org/abs/2602.02196
PDF Download	https://arxiv.org/pdf/2602.02196.pdf
Github Repository	N/A

11. Residual Context Diffusion Language Models (30 votes)

Tác giả: Yuezhou Hu, Harman Singh, Monishwaran Maheswaran, Haocheng Xi, Coleman Hooper, Jintao Zhang, Aditya Tomar, Michael W. Mahoney, Sewon Min, Mehrdad Farajtabar, Kurt Keutzer, Amir Gholami, Chenfeng Xu

Xuất bản lúc: 2026-01-30

Tag: Diffusion, Language Models, LLMs, Parallel Decoding, Contextual Learning, Residual Learning

I. Main Problem:

Các mô hình ngôn ngữ lớn khuếch tán (dLLMs) block-wise hiện tại lãng phí tính toán bằng cách loại bỏ các "token có độ tin cậy thấp" (cơ chế remasking) trong mỗi bước giải mã, mặc dù các token này chứa thông tin ngữ cảnh hữu ích. Điều này dẫn đến việc dLLMs kém chính xác hơn các mô hình tự hồi quy (AR), bất chấp việc tiêu tốn nhiều tính toán hơn cho mỗi token, và đặt ra thách thức về cách khai thác toàn bộ thông tin từ mỗi bước khử nhiễu để phát huy tiềm năng của dLLMs.

II. Main Idea:

Đề xuất Residual Context Diffusion (RCD), một module mới chuyển đổi các biểu diễn token bị loại bỏ (có độ tin cậy thấp) thành "phần dư ngữ cảnh" (contextual residuals) và tiêm chúng trở lại cho bước khử nhiễu tiếp theo. RCD sử dụng tổng trọng số của phân phối xác suất dự đoán với sổ mã nhúng đầu vào của mô hình để tạo vector thông tin phần dư. Một cơ chế trọng số dựa trên entropy Shannon chuẩn hóa (α) được áp dụng để điều chỉnh động mức độ đóng góp của thông tin phần dư, ưu tiên các token có entropy cao. Để khắc phục các thách thức về tính toán và sự mất ổn định của vòng lặp đệ quy trong quá trình huấn luyện, RCD sử dụng quy trình huấn luyện hai giai đoạn tách rời: đầu tiên huấn luyện một mô hình tham chiếu nhẹ (Mref) để tạo tín hiệu phần dư đáng tin cậy, sau đó huấn luyện mô hình mục tiêu (Mtarget) để kết hợp các tín hiệu này với Mref được đóng băng. Trong suy luận, RCD triển khai chiến lược "Warm Start" với Mref và sử dụng hệ số nhiệt độ phần dư (Tres) để căn chỉnh entropy, đảm bảo hiệu quả và ổn định.

III. Main Results:

RCD liên tục cải thiện độ chính xác của các dLLMs tiên tiến từ 5–10 điểm phần trăm với chi phí tính toán bổ sung tối thiểu trên nhiều bộ dữ liệu benchmark. Đặc biệt, trên các tác vụ AIME thách thức, RCD gần như tăng gấp đôi độ chính xác của baseline và đạt số bước khử nhiễu ít hơn tới 4–5 lần ở các mức độ chính xác tương đương. RCD có thể chuyển đổi một dLLM tiêu chuẩn sang mô hình RCD một cách hiệu quả chỉ với khoảng 1 tỷ token huấn luyện. RCD đạt được Pareto frontier tốt hơn đáng kể về độ chính xác so với số lượng Token per Step, tiết kiệm tới 4–5 lần tính toán và duy trì thông lượng gần tương đương với baseline trong các framework suy luận thực tế (Fastdllm, D2F) trong khi cải thiện độ chính xác 2–9%. Phương pháp này cũng thể hiện khả năng mở rộng mạnh mẽ trên các tham số mô hình (4B lên 8B) và kích thước khối, đồng thời vượt trội về hiệu quả dữ liệu so với các phương pháp latent-based khác (ví dụ: Loopholing) dưới ngân sách huấn luyện hạn chế.

IV. Conclusion & Future Works:

RCD là một framework giải mã sáng tạo, tái sử dụng các tín hiệu bị loại bỏ trong dLLMs làm thông tin ngữ cảnh tiên nghiệm có cấu trúc. Việc tiêm các phần dư được trọng số hóa bằng entropy đã cải thiện đáng kể độ chính xác của quá trình khử nhiễu. Các kết quả thực nghiệm chứng minh rằng RCD liên tục vượt trội hơn các baseline tiêu chuẩn với thông lượng suy luận tương đương và thể hiện tính khả thi, khả năng mở rộng mạnh mẽ. Trong tương lai, có thể khám phá các cơ chế gán trọng số entropy tinh vi hơn, mở rộng ứng dụng RCD cho các kiến trúc dLLM khác, hoặc tích hợp nó vào các mô hình đa phương thức để tạo sinh đa dạng hơn.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu các chiến lược trọng số động tiên tiến hơn cho phần dư ngữ cảnh: Khám phá việc sử dụng mạng nơ-ron nhỏ để học cách tối ưu hóa trọng số của thông tin phần dư, hoặc các phương pháp điều chỉnh thích ứng dựa trên các đặc trưng ngữ cảnh khác thay vì chỉ entropy, nhằm cải thiện khả năng tổng hợp và tinh chỉnh ngữ cảnh.
Mở rộng RCD cho các mô hình khuếch tán đa phương thức: Áp dụng nguyên lý RCD vào các dLLMs xử lý đồng thời văn bản, hình ảnh, hoặc âm thanh. Tập trung vào cách trích xuất và tiêm phần dư ngữ cảnh xuyên phương thức (cross-modal) để cải thiện sự gắn kết và chất lượng tạo sinh trong các nhiệm vụ phức tạp như mô tả hình ảnh hoặc tạo video từ văn bản.
Phân tích lý thuyết về sự ổn định và giới hạn hiệu suất của RCD: Đánh giá định lượng lý do RCD duy trì sự ổn định tốt hơn các phương pháp latent-based khác và cung cấp các giới hạn lý thuyết về hiệu quả tính toán và mức độ cải thiện độ chính xác có thể đạt được. Nghiên cứu sâu hơn về mối quan hệ giữa entropy và chất lượng ngữ cảnh được tiêm.
Nghiên cứu các cơ chế tích hợp phần dư ngữ cảnh: Khám phá các phương pháp phức tạp hơn để tổng hợp và tiêm thông tin phần dư, ví dụ như sử dụng mạng nơ-ron nhỏ để học cách tích hợp hoặc các chiến lược trọng số động dựa trên các tín hiệu khác ngoài entropy.
Ứng dụng RCD cho các nhiệm vụ tạo sinh đa phương thức: Mở rộng RCD để xử lý các loại dữ liệu khác ngoài văn bản, chẳng hạn như hình ảnh hoặc âm thanh, trong các mô hình khuếch tán đa phương thức, tận dụng ngữ cảnh phần dư để cải thiện chất lượng tạo sinh và sự gắn kết giữa các phương thức.
Phân tích lý thuyết về sự hội tụ và ổn định của RCD: Đánh giá một cách định lượng và lý thuyết về lý do tại sao RCD duy trì sự ổn định trong khi các phương pháp latent-based khác gặp khó khăn, và cung cấp giới hạn chặt chẽ hơn về hiệu quả tính toán và cải thiện độ chính xác.

2. Patent:

Hệ thống dự đoán và tinh chỉnh văn bản thông minh trên điện thoại di động: Một công nghệ trên điện thoại thông minh giúp cải thiện việc tự động hoàn thành và gợi ý văn bản. Khi người dùng nhập liệu, hệ thống sẽ không loại bỏ hoàn toàn các lựa chọn hoặc bản nháp ban đầu mà người dùng từ chối. Thay vào đó, nó giữ lại "ý định" từ các lựa chọn bị loại bỏ này dưới dạng ngữ cảnh bổ sung và sử dụng chúng để liên tục tinh chỉnh các gợi ý tiếp theo, giúp các đề xuất trở nên chính xác và phù hợp hơn với ý muốn của người dùng, ngay cả khi người dùng thay đổi ý định giữa chừng.
Phương pháp tối ưu hóa việc hoàn thành mã nguồn cho ứng dụng lập trình di động: Một hệ thống tích hợp vào các ứng dụng lập trình hoặc trình soạn thảo mã nguồn trên điện thoại hoặc máy tính bảng. Hệ thống này sử dụng các "phần dư ngữ cảnh" từ các gợi ý mã nguồn đã được tạo ra nhưng không được chọn ở các bước trước. Điều này giúp công cụ hoàn thành mã hiểu rõ hơn về ngữ cảnh lập trình hiện tại và ý định của người dùng, từ đó đưa ra các đề xuất mã nguồn chính xác hơn, giảm thời gian gõ phím và sai sót cho các nhà phát triển trên thiết bị di động.
Công cụ hỗ trợ sáng tạo nội dung đa phương tiện thông minh trên điện thoại: Một ứng dụng chỉnh sửa ảnh, video hoặc tạo bài đăng trên mạng xã hội cho điện thoại di động. Khi người dùng thực hiện các lựa chọn chỉnh sửa (ví dụ: bộ lọc, hiệu ứng, kiểu chữ) nhưng sau đó thay đổi, hệ thống sẽ không vứt bỏ thông tin từ các lựa chọn đã từ chối. Thay vào đó, nó coi các lựa chọn này là "ngữ cảnh phần dư" và sử dụng chúng để liên tục cải thiện các đề xuất cá nhân hóa về nhãn dán, nhạc nền, bố cục hoặc văn bản chú thích, giúp người dùng sáng tạo nội dung nhanh chóng và phù hợp hơn với phong cách cá nhân.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2601.22954
ArXiv Abstract	https://arxiv.org/abs/2601.22954
PDF Download	https://arxiv.org/pdf/2601.22954.pdf
Github Repository	https://github.com/yuezhouhu/residual-context-diffusion

12. Semantic Routing: Exploring Multi-Layer LLM Feature Weighting for Diffusion Transformers (26 votes)

Tác giả: Bozhou Li, Yushuo Guan, Haolin Li, Bohan Zeng, Yiyan Ji, Yue Ding, Pengfei Wan, Kun Gai, Yuanxing Zhang, Wentao Zhang

Xuất bản lúc: 2026-02-03

Tag: Diffusion Models, Diffusion Transformers (DiT), LLMs, Text-to-Image Generation, Semantic Routing, Feature Weighting, Text Conditioning

I. Main Problem:

Các mô hình text-to-image dựa trên Diffusion Transformers (DiT) gần đây thường sử dụng LLMs làm bộ mã hóa văn bản nhưng cơ chế điều kiện hóa văn bản vẫn còn tĩnh và thường chỉ dùng một lớp duy nhất của LLM. Điều này bỏ qua hệ thống phân cấp ngữ nghĩa rõ rệt qua các lớp LLM và động lực khử nhiễu không đứng yên (non-stationary) theo cả thời gian khuếch tán và độ sâu mạng. Từ đó, phát sinh câu hỏi cơ bản: làm thế nào để định tuyến và tổng hợp các tín hiệu phân cấp từ LLM một cách thích ứng, dựa trên các bước thời gian khuếch tán và độ sâu mạng DiT riêng biệt, để cải thiện khả năng tạo ảnh tổng thể?

II. Main Idea:

Để giải quyết vấn đề điều kiện hóa văn bản tĩnh, nhóm nghiên cứu giới thiệu một khung hợp nhất Normalized Convex Fusion, được trang bị các 'cổng' nhẹ để tổ chức các trạng thái ẩn đa lớp của LLM một cách có hệ thống thông qua ba phương pháp: hợp nhất theo thời gian (time-wise), hợp nhất theo chiều sâu (depth-wise) và hợp nhất đồng thời (joint fusion). Khung này cho phép so sánh chặt chẽ các chiến lược thích ứng trong cùng một giao diện với những thay đổi kiến trúc tối thiểu. Các chiến lược fusion bao gồm: Penultimate-layer baseline, Uniform normalized averaging, Static learnable fusion, Time-conditioned fusion gate (TCFG), Depth-wise fusion và Joint time-and-depth fusion. Việc hợp nhất sử dụng Layer-Norm cho từng đặc trưng theo lớp và kết hợp lồi được chuẩn hóa bằng softmax.

III. Main Results:

Các thí nghiệm cho thấy Depth-wise Semantic Routing (S2) là chiến lược điều kiện hóa vượt trội, liên tục cải thiện sự căn chỉnh văn bản-hình ảnh và khả năng tạo ảnh tổng hợp (ví dụ, tăng +9.97 điểm trên GenAI-Bench Counting so với baseline penultimate-layer và +5.45 so với uniform averaging). Ngược lại, fusion thuần túy theo thời gian (S1) có thể làm giảm chất lượng hình ảnh (mờ và mất chi tiết). Điều này được quy cho sự không khớp giữa quỹ đạo huấn luyện và suy luận: dưới Classifier-Free Guidance (CFG), các bước thời gian danh nghĩa không theo dõi được tỷ lệ SNR hiệu quả, gây ra việc đưa các đặc trưng ngữ nghĩa sai thời điểm trong quá trình suy luận. Nhìn chung, kết quả khẳng định depth-wise routing là một baseline mạnh mẽ và hiệu quả, đồng thời nhấn mạnh nhu cầu cấp thiết về các tín hiệu nhận biết quỹ đạo để điều kiện hóa phụ thuộc thời gian mạnh mẽ hơn. Việc tổng hợp các đặc trưng đa lớp (B2-S3) luôn vượt trội so với điều kiện hóa một lớp (B1). Các mô-đun fusion bổ sung chỉ tăng thêm chi phí tính toán không đáng kể, với S2 gần như không thêm tham số và chỉ tăng độ trễ end-to-end khoảng 8%.

IV. Conclusion & Future Works:

Bài viết kết luận rằng việc tận dụng các biểu diễn đa lớp của LLM để điều kiện hóa văn bản trong các mô hình DiT là hiệu quả. Hợp nhất thích ứng theo chiều sâu (depth-wise adaptive fusion) mang lại những cải thiện đáng kể và mạnh mẽ nhất. Trong khi đó, hợp nhất thuần túy theo thời gian (purely time-wise fusion) có thể gây ảnh hưởng xấu đến hiệu suất do sự không khớp giữa quá trình huấn luyện và suy luận liên quan đến các bước thời gian danh nghĩa và động lực khử nhiễu. Thách thức trong tương lai là phát triển các tín hiệu nhận biết quỹ đạo (trajectory-aligned signals) để cho phép điều kiện hóa phụ thuộc thời gian mạnh mẽ, giải quyết triệt để sự không ổn định đã quan sát được trong chiến lược fusion theo thời gian.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu các tín hiệu nhận biết quỹ đạo (trajectory-aware signals) để cải thiện điều kiện hóa phụ thuộc thời gian trong mô hình khuếch tán.
Phát triển các chiến lược hợp nhất theo thời gian (time-wise fusion) mạnh mẽ hơn, giải quyết sự không khớp giữa quá trình huấn luyện và suy luận.
Khám phá các kiến trúc điều kiện hóa LLM sâu hơn và linh hoạt hơn cho Diffusion Transformers, vượt ra ngoài việc chỉ sử dụng K/V states.

2. Patent:

Hệ thống tạo ảnh thông minh cho điện thoại di động với khả năng hiểu sâu văn bản: Một ứng dụng trên điện thoại cho phép người dùng nhập mô tả văn bản để tạo hình ảnh. Ứng dụng này sử dụng một công nghệ độc đáo để 'phân tích' lời mô tả thành nhiều cấp độ ý nghĩa khác nhau (từ ý tưởng tổng thể đến chi tiết nhỏ). Sau đó, nó sẽ tự động 'chọn lọc' và 'ghép nối' những cấp độ ý nghĩa này với các bước xử lý hình ảnh cụ thể bên trong điện thoại (từ việc tạo khung hình ban đầu đến việc hoàn thiện chi tiết), đảm bảo hình ảnh tạo ra không chỉ đẹp mà còn chính xác theo mọi yêu cầu phức tạp trong văn bản, ví dụ như số lượng vật thể hoặc cách sắp xếp chúng.
Phương pháp cải thiện chất lượng tạo ảnh AI trên điện thoại di động theo thời gian thực: Khi người dùng tạo ảnh bằng AI trên điện thoại, hệ thống sẽ liên tục 'theo dõi' tiến độ thực tế của việc tạo ảnh (ví dụ, ảnh đã rõ ràng đến mức nào) thay vì chỉ dựa vào một lịch trình định sẵn. Dựa trên thông tin theo dõi này, nó sẽ tự động điều chỉnh cách sử dụng thông tin từ lời mô tả của người dùng sao cho phù hợp nhất với 'tình trạng hiện tại' của bức ảnh. Điều này giúp tránh việc ảnh bị mờ hoặc thiếu chi tiết do sử dụng sai thông tin ở sai thời điểm, đảm bảo chất lượng hình ảnh luôn được tối ưu trong suốt quá trình tạo.
Công nghệ điều khiển tạo ảnh AI linh hoạt trên điện thoại thông minh: Một công nghệ cho phép người dùng điều khiển linh hoạt quá trình tạo hình ảnh AI trên điện thoại, không chỉ bằng cách nhập văn bản mà còn bằng cách lựa chọn các chế độ ưu tiên. Ví dụ, người dùng có thể yêu cầu ứng dụng tập trung vào bố cục tổng thể và cấu trúc chính trong các bước đầu, sau đó chuyển sang tập trung vào các chi tiết nhỏ như màu sắc, họa tiết hoặc biểu cảm khuôn mặt ở các bước sau. Hệ thống sẽ có khả năng tự động điều chỉnh việc 'lấy thông tin' từ mô tả văn bản và 'phân phối' chúng đến các 'bộ phận xử lý' hình ảnh khác nhau một cách thông minh, tùy thuộc vào cả thời điểm tạo ảnh và loại chi tiết đang được xử lý.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.03510
ArXiv Abstract	https://arxiv.org/abs/2602.03510
PDF Download	https://arxiv.org/pdf/2602.03510.pdf
Github Repository	N/A

13. Self-Hinting Language Models Enhance Reinforcement Learning (25 votes)

Tác giả: Baohao Liao, Hanze Dong, Xinxing Xu, Christof Monz, Jiang Bian

Xuất bản lúc: 2026-02-03

Tag: Reinforcement Learning, Large Language Models, LLMs, Policy Optimization

I. Main Problem:

Các phương pháp tối ưu hóa chính sách như Group Relative Policy Optimization (GRPO) thường gặp vấn đề đình trệ (stall) khi phần thưởng cuối cùng thưa thớt (sparse terminal rewards). Cụ thể, trong các nhóm rollout, phần thưởng thường giống hệt nhau (ví dụ: tất cả đều bằng 0), dẫn đến sự sụp đổ của lợi thế tương đối (relative advantages) và khiến các cập nhật (updates) biến mất. Đây là một vấn đề phát sinh do lấy mẫu hữu hạn, nơi trình ước lượng không cung cấp tín hiệu học tập cho nhiều lời nhắc (prompts), đặc biệt là những lời nhắc khó. Các giải pháp hiện có thường phải thay đổi cách thu thập dữ liệu hoặc gây ra sự không khớp ngữ cảnh/phân phối, làm ảnh hưởng đến quá trình huấn luyện.

II. Main Idea:

Bài báo đề xuất SAGE (Self-hint Aligned GRPO with Privileged Supervision), một khuôn khổ học tăng cường on-policy mới để giải quyết vấn đề đình trệ của GRPO. Ý tưởng chính là tiêm "gợi ý đặc quyền" (privileged hints) h trong quá trình huấn luyện. Các gợi ý này (ví dụ: một kế hoạch hoặc sự phân tách vấn đề) được sử dụng để định hình lại phân phối rollout, tăng khả năng quan sát các kết quả đa dạng trong một nhóm hữu hạn mà không làm thay đổi phần thưởng tác vụ R(x, τ) gốc.

Các đặc điểm chính của SAGE bao gồm:

Gợi ý tự sinh (Self-hinting): Mô hình tự tạo ra các gợi ý h cho mỗi lời nhắc x, sau đó tạo giải pháp τ dựa trên (x, h). Khi kiểm thử, chính sách không gợi ý (h=∅) được triển khai mà không cần thông tin đặc quyền.
Chương trình học thích ứng: Việc lấy mẫu các gợi ý tự sinh đa dạng hoạt động như một chương trình học thích ứng, theo dõi hiệu quả các điểm nghẽn của người học.
Lập lịch cường độ gợi ý phụ thuộc chính sách: Gợi ý chỉ được kích hoạt khi phần thưởng trong nhóm sụp đổ, điều này giúp tự động điều chỉnh mức độ khó.
Gợi ý trực tuyến (Online self-hinting): Bộ tạo gợi ý được làm mới định kỳ bằng cách sử dụng một bản sao của chính sách hiện tại, đảm bảo sự phù hợp với khả năng đang phát triển của người học.

SAGE có hai lược đồ lập lịch: SAGE-LIGHT (dựa trên ngưỡng độ chính xác cấp kỷ nguyên) và SAGE (dựa trên kích hoạt suy biến nhóm), trong đó SAGE được chứng minh là phản ứng nhanh và hiệu quả hơn.

III. Main Results:

Các thí nghiệm rộng rãi trên 6 bộ dữ liệu kiểm định với 3 Large Language Models (LLMs) khác nhau đã chứng minh SAGE liên tục vượt trội hơn GRPO và các phương pháp cơ sở khác:

SAGE đạt hiệu suất trung bình cao nhất, cải thiện đáng kể độ chính xác: +2.0 trên Llama-3.2-3B-Instruct, +1.2 trên Qwen2.5-7B-Instruct và +1.3 trên Qwen3-4B-Instruct.
SAGE sử dụng tập hợp lời nhắc hiệu quả hơn đáng kể so với GRPO, đặc biệt đối với LLM yếu hơn như Llama-3.2-3B-Instruct (tận dụng thêm 10% lời nhắc).
Gợi ý tự sinh trực tuyến (online self-hinting) đạt hiệu suất tốt nhất, cho thấy việc liên tục làm mới gợi ý là quan trọng để phù hợp với người học.
SAGE thể hiện tốc độ tăng độ dài phản hồi nhanh hơn GRPO, ngụ ý các mô hình suy luận tốt hơn.
SAGE cũng cho thấy khả năng khái quát hóa vượt trội trên các bộ dữ liệu ngoài phân phối.
SAGE mang lại hiệu suất tốt hơn nhưng có chi phí huấn luyện cao hơn do tạo gợi ý tức thì, trong khi SAGE-LIGHT cung cấp một sự cân bằng tốt hơn về hiệu quả tính toán (chỉ cần 53% thời gian của SAGE) với độ chính xác chỉ thấp hơn một chút.

IV. Conclusion & Future Works:

Công trình này đã xác định được một sự suy biến do lấy mẫu hữu hạn trong GRPO khi đối mặt với phần thưởng 0/1 thưa thớt, nơi các lợi thế sụp đổ và gradient biến mất trên các lời nhắc khó. SAGE được đề xuất như một phương pháp gợi ý quy trình đặc quyền, tiêm các gợi ý có nguồn gốc từ giải pháp tham chiếu trong quá trình huấn luyện để dịch chuyển phân phối rollout trong khi vẫn giữ nguyên định nghĩa phần thưởng gốc. Một lịch trình phụ thuộc vào chính sách sẽ điều chỉnh cường độ gợi ý dựa trên sự sụp đổ nhóm được phát hiện, và quá trình suy luận (inference) sử dụng chính sách không gợi ý.

Các thí nghiệm sâu rộng đã xác nhận những cải tiến đáng kể của SAGE trên nhiều tác vụ. Về các hướng công việc trong tương lai, bài báo gợi ý rằng công trình này có thể giúp giảm chi phí huấn luyện và cải thiện độ ổn định của Reinforcement Learning cho các Large Language Models trên các tác vụ có thể xác minh. Việc tiếp tục nghiên cứu để tối ưu hóa chi phí tính toán và giải quyết vấn đề độ trễ tiềm năng của SAGE cũng là một hướng đi quan trọng.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu các phương pháp tối ưu hóa hiệu quả tính toán của SAGE, đặc biệt là giảm độ trễ của quá trình tạo gợi ý trực tuyến mà vẫn duy trì hiệu suất cao, khám phá các kiến trúc tạo gợi ý nhẹ hơn hoặc kỹ thuật tạo gợi ý song song.
Mở rộng SAGE để áp dụng cho các môi trường Học tăng cường với phần thưởng không phải dạng nhị phân (non-binary) hoặc phần thưởng dày đặc (dense rewards), thay vì chỉ tập trung vào phần thưởng thưa thớt 0/1, bằng cách điều chỉnh cơ chế kích hoạt gợi ý và thuật toán tính toán lợi thế.
Khám phá các chiến lược tạo gợi ý tự động (self-hinting) phức tạp hơn hoặc các loại gợi ý khác nhau (ví dụ: gợi ý đa phương thức cho Vision-Language Models) để cải thiện khả năng học của Large Language Models trong các tác vụ phức tạp, bao gồm cả việc tự động tạo gợi ý từ các nguồn dữ liệu bên ngoài khi cần.

2. Patent:

Ứng dụng giáo dục thông minh trên điện thoại giúp giải quyết vấn đề phức tạp: Một ứng dụng di động hỗ trợ học sinh giải các bài toán hoặc vấn đề lập trình khó. Trong quá trình học (huấn luyện), nếu học sinh liên tục gặp khó khăn với một dạng bài tập nhất định, AI của ứng dụng có thể "tự động tạo" ra một kế hoạch từng bước hoặc các bài tập con đơn giản hóa (gợi ý) để hướng dẫn học sinh. Khi học sinh đã thành thạo khái niệm, ứng dụng sẽ dần loại bỏ các gợi ý này, cho phép họ tự giải quyết các vấn đề tương tự một cách độc lập (kiểm thử không có gợi ý). Phần "tự gợi ý" này sẽ thích ứng với mức độ hiểu biết hiện tại của học sinh.
Trợ lý AI cá nhân hóa để tự động hóa tác vụ phức tạp trên điện thoại thông minh: Một trợ lý thông minh trên điện thoại giúp người dùng tự động hóa các tác vụ nhiều bước (ví dụ: "Lập kế hoạch chuyến đi cuối tuần: tìm chuyến bay, đặt khách sạn, thêm vào lịch"). Ban đầu, nếu người dùng khó diễn đạt đầy đủ tác vụ hoặc AI không tạo ra được kế hoạch hoàn chỉnh, hệ thống có thể "tự gợi ý" bằng cách chia nhỏ tác vụ thành các bước được hướng dẫn hoặc đề xuất các hành động tiếp theo hợp lý dựa trên ý định của người dùng. Theo thời gian, khi AI học được sở thích và các mẫu tác vụ phổ biến của người dùng, nó có thể thực hiện các tự động hóa phức tạp này mà không cần hướng dẫn từng bước rõ ràng (không cần gợi ý).
Gia sư lập trình AI cho phát triển ứng dụng di động: Một ứng dụng di động dạy người dùng cách lập trình cho Android/iOS. Khi người dùng cố gắng triển khai một tính năng phức tạp và gặp bế tắc (ví dụ: "triển khai một thành phần giao diện người dùng tùy chỉnh"), gia sư AI có thể cung cấp các phân tích khái niệm hoặc đoạn mã giả (pseudo-code) "tự tạo" (gợi ý) để giúp họ hiểu cấu trúc và logic. Khi kỹ năng lập trình của người dùng cải thiện đối với thành phần cụ thể đó hoặc mẫu lập trình đó, gia sư AI sẽ giảm mức độ chi tiết trong các gợi ý của mình, cuối cùng mong đợi người dùng viết mã một cách độc lập. Tính năng "tự gợi ý" này thích ứng với tiến độ học tập của người dùng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.03143
ArXiv Abstract	https://arxiv.org/abs/2602.03143
PDF Download	https://arxiv.org/pdf/2602.03143.pdf
Github Repository	https://github.com/BaohaoLiao/SAGE

14. Learning to Repair Lean Proofs from Compiler Feedback (25 votes)

Tác giả: Evan Wang, Simon Chess, Daniel Lee, Siyuan Ge, Ajit Mallavarapu, Vasily Ilin

Xuất bản lúc: 2026-02-03

Tag: LLMs, Automated Theorem Proving, Proof Repair, Compiler Feedback, Supervised Learning, Dataset Generation, Lean

I. Main Problem:

Các bộ dữ liệu Lean hiện có chủ yếu bao gồm các bằng chứng chính xác, thiếu sự giám sát để hiểu và sửa chữa các lỗi.

Các mô hình ngôn ngữ lớn (LLMs) nhận được sự giám sát hạn chế trong việc diễn giải chẩn đoán, giải thích những gì đã sai hoặc đề xuất các chỉnh sửa có mục tiêu trong quá trình tạo bằng chứng thất bại.

Quá trình phát triển bằng chứng của con người vốn dĩ mang tính lặp đi lặp lại và dựa trên lỗi, nhưng các kho dữ liệu công khai lại bỏ qua các nỗ lực thất bại.

Sự khan hiếm các quỹ đạo lỗi trong các kho dữ liệu công khai là một nút thắt quan trọng trong việc đào tạo các mô hình có thể diễn giải và hành động dựa trên các chẩn đoán của trình biên dịch.

II. Main Idea:

Nghiên cứu việc sửa lỗi chứng minh Lean như một bài toán học có giám sát: đưa ra một bằng chứng sai và phản hồi từ trình biên dịch, dự đoán cả bằng chứng đã sửa và một chẩn đoán bằng ngôn ngữ tự nhiên dựa trên cùng phản hồi đó.

Giới thiệu APRIL (Automated Proof Repair in Lean), một tập dữ liệu gồm 260.000 cặp giám sát các lỗi chứng minh được tạo ra một cách có hệ thống với chẩn đoán của trình biên dịch và các mục tiêu sửa lỗi, giải thích được căn chỉnh.

Phát triển một quy trình tạo lỗi có hệ thống bằng cách thay thế các định lý có liên quan về mặt ngữ nghĩa, hoán đổi các chiến thuật tương tự và gợi ra các hoàn thành dòng hoặc đa dòng hợp lý nhưng không chính xác từ các mô hình ngôn ngữ.

Đánh giá các mô hình ngôn ngữ dưới sự tinh chỉnh có giám sát mà không cần học tăng cường hoặc tìm kiếm trong thời gian suy luận, nhằm cô lập khả năng của mô hình trong việc diễn giải chẩn đoán và áp dụng các sửa chữa có mục tiêu.

Sử dụng một LLM (DeepSeek-V3-0324) để tạo ra giải thích lỗi và đề xuất sửa lỗi bằng ngôn ngữ tự nhiên.

III. Main Results:

Tinh chỉnh có giám sát trên tập dữ liệu cải thiện đáng kể độ chính xác sửa lỗi và khả năng suy luận dựa trên phản hồi.

Trong thiết lập đánh giá sửa lỗi một lần chụp (single-shot repair), một mô hình 4B-tham số đã tinh chỉnh (Qwen3-4B-Instruct) đạt độ chính xác sửa lỗi 27.4%, vượt trội hơn mô hình cơ sở mã nguồn mở mạnh nhất (Goedel-Prover-V2-32B) với 26.8%, mặc dù có số lượng tham số ít hơn tám lần.

Các mô hình 8B đã tinh chỉnh đạt độ chính xác sửa lỗi trong khoảng 31–35%, vượt trội hơn đáng kể so với mô hình Goedel 32B.

Các lỗi đột biến chiến thuật (Tactic mutations) có tỷ lệ sửa lỗi cao nhất (đạt 42.5%), trong khi lỗi đột biến dòng (Line mutations) là khó nhất (tối đa 13.5%).

Việc đào tạo chung trên toàn bộ tập dữ liệu duy trì hiệu suất mạnh mẽ khi đánh giá trên các danh mục lỗi riêng lẻ, cho thấy sự chồng chéo cấu trúc đáng kể và khả năng tổng quát hóa.

Việc giám sát chung các giải thích bằng ngôn ngữ tự nhiên cùng với sửa lỗi cho thấy một sự đánh đổi có thể kiểm soát được: chuyên biệt hóa riêng cho sửa lỗi tăng pass@1 lên 31.2%, trong khi giám sát chung mang lại chẩn đoán dễ hiểu cho con người. Các giải thích từ mô hình Qwen đã tinh chỉnh giúp DeepSeek tăng tỷ lệ thành công từ 4% lên 29%.

IV. Conclusion & Future Works:

Việc sửa lỗi chứng minh Lean có thể được định hình hiệu quả như một nhiệm vụ học có giám sát, tận dụng phản hồi từ trình biên dịch.

Sự giám sát tập trung vào lỗi (tập dữ liệu APRIL) là một tín hiệu đào tạo mạnh mẽ và chưa được tận dụng đúng mức để xây dựng các trình chứng minh định lý có khả năng tác động (agentic theorem provers) có thể lặp đi lặp lại tinh chỉnh các bằng chứng từ phản hồi.

Hướng nghiên cứu tương lai bao gồm việc tích hợp sự giám sát có điều kiện chẩn đoán này vào các trình chứng minh định lý phức tạp hơn, có khả năng tác động, có thể sử dụng tinh chỉnh lặp đi lặp lại và sự can thiệp của con người để gỡ lỗi.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu về việc tích hợp tập dữ liệu APRIL vào các hệ thống chứng minh định lý tự động (ATP) hiện có để cải thiện khả năng tinh chỉnh và sửa lỗi lặp lại (iterative refinement) của chúng trong các môi trường Lean.
Khám phá các chiến lược tạo lỗi tổng hợp tiên tiến hơn, bao gồm lỗi ngữ nghĩa phức tạp hoặc lỗi suy luận đa bước, để làm phong phú thêm tập dữ liệu sửa lỗi và thử thách các mô hình ngôn ngữ lớn hơn.
Đánh giá tác động của việc cá nhân hóa mô hình sửa lỗi cho các phong cách chứng minh hoặc lĩnh vực toán học cụ thể, sử dụng các tập con của APRIL hoặc mở rộng nó với dữ liệu chuyên biệt để phục vụ các cộng đồng người dùng khác nhau.

2. Patent:

Ứng dụng Trợ lý Lập trình thông minh trên điện thoại: Một ứng dụng di động tích hợp trợ lý lập trình có khả năng phân tích mã nguồn (ví dụ: Python, JavaScript) theo thời gian thực. Khi người dùng nhập mã, ứng dụng sẽ sử dụng "phản hồi trình biên dịch" để phát hiện lỗi cú pháp hoặc logic, sau đó đề xuất các bản sửa lỗi trực tiếp trên màn hình, giúp người dùng gỡ lỗi nhanh hơn trên thiết bị di động.
Hệ thống Sửa lỗi tự động cho email hoặc tin nhắn: Một tính năng trên ứng dụng nhắn tin hoặc email điện thoại thông minh tự động phát hiện và sửa các lỗi ngữ pháp, chính tả hoặc cấu trúc câu phức tạp hơn dựa trên ngữ cảnh. Thay vì chỉ gạch chân lỗi, nó đề xuất một phiên bản câu đã sửa chữa với giải thích ngắn gọn về lý do sửa, giống như cách mô hình trong nghiên cứu giải thích lỗi chứng minh.
Trợ lý Sửa lỗi công thức bảng tính thông minh: Một ứng dụng bảng tính trên di động có khả năng phân tích các công thức phức tạp do người dùng nhập. Khi một công thức không hoạt động hoặc cho kết quả sai, ứng dụng sẽ hiển thị "thông báo lỗi" và đề xuất các chỉnh sửa công thức, thậm chí giải thích lý do công thức ban đầu bị sai, giúp người dùng tạo và sửa các bảng tính hiệu quả hơn trên điện thoại.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.02990
ArXiv Abstract	https://arxiv.org/abs/2602.02990
PDF Download	https://arxiv.org/pdf/2602.02990.pdf
Github Repository	N/A

15. HY3D-Bench: Generation of 3D Assets (22 votes)

Tác giả: Team Hunyuan3D, Bowen Zhang, Chunchao Guo, Dongyuan Guo, Haolin Liu, Hongyu Yan, Huiwen Shi, Jiaao Yu, Jiachen Xu, Jingwei Huang, Kunhong Li, Lifu Wang, Linus, Penghao Wang, Qingxiang Lin, Ruining Tang, Xianghui Yang, Yang Li, Yirui Guan, Yunfei Zhao, Yunhan Yang, Zeqiang Lai, Zhihao Liang, Zibo Zhao

Xuất bản lúc: 2026-02-03

Tag: 3D Generation, Dataset, Benchmark, AIGC, Diffusion Models

I. Main Problem:

Các tài sản 3D thô thường chứa nhiễu, hình học không đa dạng, thiếu cấu trúc chi tiết và có định dạng không nhất quán, cản trở việc sử dụng chúng trong 3D generation, perception và robotics. Các bộ dữ liệu hiện có gặp phải các vấn đề như chất lượng hình học/texture kém, phân phối danh mục không cân bằng (long-tail), và thiếu thông tin cấu trúc cấp bộ phận. Các pipeline xử lý dữ liệu hiện tại phức tạp, tốn kém về mặt tính toán và không đáp ứng được yêu cầu huấn luyện của các mô hình 3D hiện đại.

II. Main Idea:

HY3D-Bench là một hệ sinh thái mã nguồn mở toàn diện nhằm cung cấp nền tảng chất lượng cao, có cấu trúc và có thể tái tạo cho nghiên cứu nội dung 3D. Công trình này giải quyết các nút thắt xử lý dữ liệu bằng cách tích hợp kỹ thuật dữ liệu nghiêm ngặt, tiêu chuẩn hóa benchmark và tổng hợp dữ liệu quy mô lớn dựa trên AIGC. Các đóng góp chính bao gồm:

Thư viện tài sản 3D tinh chỉnh và có cấu trúc: Curate hơn 250k đối tượng 3D chất lượng cao từ các kho lưu trữ lớn, áp dụng quy trình xử lý chuyên nghiệp để tạo ra các tài sản sẵn sàng cho huấn luyện, bao gồm watertight meshes và multi-view renderings. Đặc biệt, nó cung cấp phân tách cấp độ bộ phận có cấu trúc để kiểm soát và chỉnh sửa chi tiết.
Khuôn khổ đánh giá và thử nghiệm được tiêu chuẩn hóa: Thiết lập một benchmark nghiêm ngặt gồm 400 đối tượng chất lượng cao với các metric tiêu chuẩn, baseline và cài đặt thử nghiệm cố định để thúc đẩy so sánh công bằng và tiến bộ nghiên cứu 3D generation.
Hệ thống tổng hợp dữ liệu dựa trên AIGC có thể mở rộng: Phát triển quy trình ba bước (Text-to-Text, Text-to-Image, Image-to-3D) để tổng hợp 125k tài sản tổng hợp, đặc biệt là các danh mục long-tail, nhằm thu hẹp khoảng cách phân phối trong thế giới thực và tăng cường sự đa dạng. Toàn bộ quá trình này bao gồm xử lý dữ liệu cấp toàn diện (rendering, chuyển đổi định dạng, lọc tài sản, xử lý hậu kỳ như watertight processing và point cloud sampling) và xử lý dữ liệu cấp bộ phận (chia tách bộ phận, lọc và xử lý hậu kỳ bao gồm multi-view RGB images và part ID masks).

III. Main Results:

Cung cấp 252.676 tài sản 3D chất lượng cao với watertight meshes và multi-view renderings.
Cung cấp 240.524 mẫu dữ liệu với phân tách cấp độ bộ phận có cấu trúc, với số lượng bộ phận trung bình là 14.13.
Tổng hợp 125k tài sản danh mục long-tail thông qua pipeline AIGC, bao gồm 20 super-categories, 130 categories và 1.252 fine-grained sub-categories.
Thiết lập một benchmark tiêu chuẩn gồm 400 đối tượng chất lượng cao cho việc đánh giá thuật toán.
Đã được xác thực thực nghiệm thông qua việc huấn luyện mô hình Hunyuan3D-2.1-Small.
Bộ dữ liệu full-level được chia thành 252.000 mẫu huấn luyện, 276 mẫu validation và 400 mẫu kiểm tra, bao gồm 19 danh mục cấp cao nhất, 74 danh mục cấp trung và 389 phân loại chi tiết.

IV. Conclusion & Future Works:

HY3D-Bench dân chủ hóa quyền truy cập vào các tài nguyên dữ liệu mạnh mẽ, nhằm mục đích thúc đẩy sự đổi mới trong nhận thức 3D, robotics và tạo nội dung số. Bằng cách cung cấp một hệ sinh thái nội dung 3D có cấu trúc, đa dạng và được tiêu chuẩn hóa, công trình này hướng tới việc hạ thấp rào cản nghiên cứu và thúc đẩy tiến bộ hướng tới sự hiểu biết và tạo ra thế giới 3D một cách thống nhất. Dữ liệu và hạ tầng này hỗ trợ rộng rãi các tác vụ downstream như 3D generation, perception pre-training và mô phỏng robot.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu các mô hình 3D generation mới sử dụng dữ liệu cấp bộ phận của HY3D-Bench để đạt được khả năng chỉnh sửa và biến đổi 3D chi tiết hơn, đặc biệt tập trung vào các đối tượng phức tạp.
Phát triển các phương pháp huấn luyện mô hình 3D generation để cải thiện đáng kể khả năng tổng quát hóa trên các danh mục long-tail, tận dụng dữ liệu tổng hợp AIGC và khả năng mở rộng của nó.
Xây dựng các thuật toán nhận thức 3D tiên tiến sử dụng dữ liệu watertight meshes và point clouds chất lượng cao của HY3D-Bench để cải thiện độ chính xác và độ bền trong các ứng dụng robotics và mô phỏng thực tế.

2. Patent:

Một ứng dụng trên điện thoại di động cho phép người dùng mô tả một đối tượng bằng lời nói (ví dụ: "một chiếc ghế sofa màu xanh lam có hình dáng hiện đại") và ứng dụng sẽ tạo ra một mô hình 3D đầy đủ của đối tượng đó. Người dùng có thể xoay, phóng to, thu nhỏ để xem xét chi tiết và thậm chí đặt nó vào môi trường thực tế ảo tăng cường qua camera của điện thoại.
Một tính năng trong các ứng dụng mua sắm trực tuyến trên điện thoại, nơi người dùng có thể xem trước sản phẩm dưới dạng mô hình 3D do máy tính tạo ra dựa trên mô tả sản phẩm. Ứng dụng sẽ tự động tạo các phiên bản 3D của các mặt hàng hiếm hoặc ít phổ biến, giúp khách hàng hình dung rõ hơn về sản phẩm trước khi mua mà không cần có hình ảnh 3D gốc.
Một công cụ thiết kế nội thất trên điện thoại, cho phép người dùng chụp ảnh một căn phòng và sau đó thêm các vật dụng nội thất ảo vào đó. Thay vì chỉ chọn từ thư viện có sẵn, người dùng có thể mô tả vật dụng mình muốn (ví dụ: "một chiếc đèn bàn cổ điển bằng đồng") và ứng dụng sẽ tạo ra một mô hình 3D tương ứng, sau đó cho phép người dùng đặt nó vào không gian phòng trong chế độ thực tế tăng cường để kiểm tra sự phù hợp.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.03907
ArXiv Abstract	https://arxiv.org/abs/2602.03907
PDF Download	https://arxiv.org/pdf/2602.03907.pdf
Github Repository	https://github.com/Tencent-Hunyuan/HY3D-Bench

16. VLS: Steering Pretrained Robot Policies via Vision-Language Models (20 votes)

Tác giả: Shuo Liu, Ishneet Sukhvinder Singh, Yiqing Xu, Jiafei Duan, Ranjay Krishna

Xuất bản lúc: 2026-02-03

Tag: Robotics, Vision-Language Models, Diffusion Models, Policy Learning, Out-of-Distribution Adaptation, Inference-time Adaptation, Control

I. Main Problem:

Các chính sách robot đã được huấn luyện trước, đặc biệt là các mô hình dựa trên diffusion hoặc flow-matching, thường gặp thất bại khi đối mặt với các kịch bản nằm ngoài phân phối dữ liệu huấn luyện (Out-of-Distribution - OOD). Những tình huống OOD này bao gồm việc di chuyển gần chướng ngại vật, thay đổi bề mặt hỗ trợ, hoặc môi trường có nhiều vật cản. Những thất bại này không phản ánh sự thiếu hụt kỹ năng vận động, mà thay vào đó, bộc lộ giới hạn của phương pháp học bắt chước khi việc tạo hành động bị ràng buộc chặt chẽ với các cấu hình không gian và đặc tả nhiệm vụ cụ thể trong quá trình huấn luyện. Việc huấn luyện lại hoặc tinh chỉnh để giải quyết các vấn đề này rất tốn kém và không phù hợp về mặt ý tưởng, vì các hành vi cần thiết đã tồn tại nhưng không thể được điều chỉnh một cách chọn lọc tại thời điểm thử nghiệm.

II. Main Idea:

Công trình đề xuất Vision–Language Steering (VLS), một framework không cần huấn luyện, cho phép thích ứng chính sách robot tại thời điểm suy luận (inference-time adaptation) của các chính sách robot tạo sinh (generative robot policies) đã được đóng băng (frozen). VLS điều hướng quá trình lấy mẫu của một chính sách diffusion hoặc flow-matching đã được huấn luyện trước để phản ứng với các đầu vào quan sát–ngôn ngữ OOD mà không cần sửa đổi các tham số của chính sách. Ý tưởng cốt lõi là tận dụng khả năng hiểu thế giới mở của các mô hình Vision–Language Models (VLMs) để tổng hợp các hàm thưởng có thể vi phân theo quỹ đạo (trajectory-differentiable reward functions). Các hàm thưởng này giúp hướng dẫn quá trình khử nhiễu (denoising) của chính sách cơ sở theo hướng các quỹ đạo hành động thỏa mãn các yêu cầu không gian và nhiệm vụ mới tại thời điểm thử nghiệm. VLS bao gồm ba thành phần chính:

Tiếp đất đầu vào OOD và tính điểm khác biệt do VLM tạo ra: Chuyển đổi cặp đầu vào OOD (quan sát, ngôn ngữ) thành một tập hợp các điểm khóa 3D quan trọng cho nhiệm vụ (geometric scaffold P) và sử dụng VLM để tổng hợp các hàm thưởng có thể vi phân theo từng giai đoạn R(., P) đánh giá các đề xuất hành động.
Hướng dẫn khử nhiễu tại thời điểm suy luận: Chèn gradient ∇aRs của hàm thưởng vào quá trình cập nhật khử nhiễu của chính sách cơ sở. Quá trình này kết hợp việc tinh chỉnh dựa trên gradient với tính đa dạng cấp độ hạt (particle-level diversity) và lấy mẫu lại (resampling) để điều hướng phân phối hành động dưới các đầu vào OOD.
Điều khiển thực thi vòng lặp kín và chuyển đổi giai đoạn: Sử dụng phản hồi từ quá trình thực thi để điều chỉnh sức mạnh hướng dẫn (guidance strength) và quyết định thời điểm chuyển đổi giữa các hàm thưởng đặc thù cho từng giai đoạn, đảm bảo việc thực thi các nhiệm vụ đa giai đoạn ổn định ngay cả khi có sự không chắc chắn về vật lý.

III. Main Results:

VLS đã chứng minh hiệu suất vượt trội so với các phương pháp điều hướng trước đây trong cả mô phỏng và thực tế.

Trong mô phỏng: VLS đạt được sự cải thiện đáng kể 31% trên tập dữ liệu CALVIN và tăng 13% trên LIBERO-PRO. Cụ thể, trên CALVIN, VLS đạt tỷ lệ thành công trung bình 94% đối với các vật thể di chuyển được (tăng 7,4 lần so với chính sách cơ sở) và 87% đối với các bộ phận khớp nối (tăng 9,6 lần), vượt qua các phương pháp điều hướng trước đó từ 15–25 điểm phần trăm. Trên LIBERO-PRO, VLS cải thiện tỷ lệ thành công của các chính sách Vision-Language Action (VLA) đã đóng băng (bao gồm OpenVLA, π0, π0.5) lên tới 13% trong cả nhiễu loạn không gian (thay đổi bố cục vật thể) và ngữ nghĩa (thay đổi đặc tả nhiệm vụ).
Trong thế giới thực: Triển khai trên robot Franka cho thấy VLS cho phép thực thi ổn định các nhiệm vụ đa giai đoạn, được chỉ định bằng ngôn ngữ dưới các biến đổi OOD trong thời gian thử nghiệm, như thay đổi ngoại hình đối tượng, thay đổi vị trí và thay thế mục tiêu mới. Ngay cả trong trường hợp OOD thử thách nhất là thay thế vật thể mục tiêu bằng một chiếc cốc chưa từng thấy, VLS vẫn thành công trong 40% số lần thử, trong khi baseline thất bại hoàn toàn.
Nghiên cứu Ablation: Các nghiên cứu chỉ ra rằng tất cả các thành phần của VLS – hướng dẫn dựa trên gradient, lấy mẫu lại Feynman–Kac, và khởi tạo đa dạng dựa trên RBF – đều cần thiết để đạt được hiệu quả và độ ổn định mạnh mẽ.

IV. Conclusion & Future Works:

VLS là một framework không cần huấn luyện, có khả năng hướng dẫn các chính sách robot đã được huấn luyện trước bằng cách sử dụng các phần thưởng có thể vi phân được tạo ra bởi Vision–Language Models. Framework này giải quyết hiệu quả thách thức trong việc triển khai chính sách robot trong các kịch bản nằm ngoài phân phối (OOD). Hạn chế: Một hạn chế chính của VLS là độ trễ tính toán. Việc lấy mẫu hàng loạt (batch sampling), các vòng lặp MCMC và lấy mẫu lại Feynman–Kac (FK resampling) đều tạo ra chi phí suy luận cao, ảnh hưởng đến hiệu quả thời gian thực. Công việc trong tương lai: Các hướng nghiên cứu tiếp theo có thể tập trung vào việc khám phá các phương pháp tạo tín hiệu phần thưởng nhận biết tiến độ (progress-aware reward signal generation) và tối ưu hóa hiệu quả tính toán trong suốt quá trình suy luận để giảm độ trễ này.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu các phương pháp để giảm độ trễ tính toán của VLS, ví dụ, thông qua việc nén mô hình Vision-Language Model (VLM) được sử dụng để tạo phần thưởng hoặc phát triển các kỹ thuật lấy mẫu/resampling hiệu quả hơn, nhằm cải thiện khả năng triển khai thời gian thực trên các nền tảng có tài nguyên hạn chế.
Mở rộng framework VLS để xử lý các loại điều kiện OOD phức tạp hơn, chẳng hạn như thay đổi vật lý của môi trường (ví dụ: bề mặt trơn trượt, vật thể biến dạng) hoặc các nhiệm vụ đòi hỏi sự hợp tác và tương tác trực tiếp với con người.
Khám phá việc tích hợp VLS với các mô hình thế giới (world models) để cho phép robot không chỉ điều chỉnh hành động tức thì mà còn có khả năng lên kế hoạch dài hạn và thích ứng với các thay đổi môi trường không chỉ ở cấp độ hành động mà còn ở cấp độ chiến lược tổng thể.

2. Patent:

Hệ thống hỗ trợ thực hiện tác vụ vật lý trên điện thoại: Một ứng dụng di động sử dụng camera và khả năng hiểu ngôn ngữ của điện thoại để cung cấp hướng dẫn từng bước cho người dùng thực hiện các công việc thủ công. Ví dụ, nếu bạn muốn sắp xếp lại đồ đạc trên bàn làm việc, ứng dụng sẽ nhìn thấy các vật phẩm, lắng nghe yêu cầu của bạn (như "đặt bút chì vào hộp"), và hướng dẫn bạn di chuyển bút chì một cách chính xác, ngay cả khi vị trí hộp bị thay đổi nhỏ hoặc có thêm vật cản mới, mà không cần lập trình lại trước mọi tình huống.
Nền tảng học tập robot ảo tương tác trên di động: Một ứng dụng trên điện thoại cho phép người dùng thiết kế và huấn luyện robot ảo trong môi trường mô phỏng. Người dùng có thể thay đổi bố cục môi trường (ví dụ: di chuyển chướng ngại vật, thay đổi màu sắc vật thể) và robot ảo sẽ tự động điều chỉnh hành vi của mình để hoàn thành nhiệm vụ mới mà không cần phải chạy lại toàn bộ quá trình huấn luyện từ đầu. Điều này giúp các nhà phát triển hoặc người học có thể nhanh chóng kiểm tra và cải thiện khả năng thích ứng của robot trong nhiều kịch bản khác nhau ngay trên thiết bị di động.
Điều khiển thông minh cho thiết bị nhà cửa qua giọng nói và hình ảnh: Một công nghệ tích hợp vào các ứng dụng nhà thông minh trên điện thoại, cho phép người dùng điều khiển các thiết bị tự động (như robot hút bụi, rèm cửa thông minh) bằng giọng nói kết hợp với hình ảnh từ camera. Khi người dùng nói "dọn dẹp khu vực này" và chỉ vào một góc phòng đã bị xê dịch, hệ thống sẽ hiểu và điều chỉnh đường đi của robot hút bụi theo vị trí mới mà không cần các lệnh cố định. Công nghệ này có khả năng giải thích các yêu cầu không rõ ràng hoặc thay đổi mục tiêu theo thời gian thực dựa trên bối cảnh thị giác hiện tại.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.03973
ArXiv Abstract	https://arxiv.org/abs/2602.03973
PDF Download	https://arxiv.org/pdf/2602.03973.pdf
Github Repository	https://github.com/Vision-Language-Steering/code

17. AutoFigure: Generating and Refining Publication-Ready Scientific Illustrations (20 votes)

Tác giả: Minjun Zhu, Zhen Lin, Yixuan Weng, Panzhong Lu, Qiujie Xie, Yifan Wei, Sifan Liu, Qiyao Sun, Yue Zhang

Xuất bản lúc: 2026-02-03

Tag: LLMs, Text-to-Image, AI Agents, Scientific Illustration, Generative AI, Benchmarking

I. Main Problem:

Việc tạo ra các minh họa khoa học chất lượng cao là cực kỳ quan trọng để truyền đạt các khái niệm khoa học và kỹ thuật phức tạp, nhưng quá trình thủ công này là một nút thắt cổ chai lớn trong cả giới học thuật và công nghiệp. Việc tạo minh họa đòi hỏi sự hiểu biết logic sâu sắc về văn bản khoa học dài, khả năng chắt lọc thông tin quan trọng, và kỹ năng thiết kế chuyên nghiệp để cân bằng giữa độ chính xác cấu trúc và chất lượng hình ảnh.

Các bộ dữ liệu và hệ thống tự động hiện có chủ yếu tập trung vào việc tái tạo hình ảnh từ chú thích hoặc đoạn văn ngắn, thiếu khả năng xử lý văn bản dài và tạo ra nội dung hình ảnh hoàn toàn mới. Các mô hình Text-to-Image (T2I) đầu cuối thường tạo ra hình ảnh đẹp mắt nhưng lại thất bại trong việc duy trì độ chính xác cấu trúc.

Đặc biệt, sự phát triển của các "nhà khoa học AI" đã đặt ra một thách thức mới: khả năng tạo ra minh họa để trực quan hóa những khám phá của chính AI, vốn đang bị cản trở bởi thiếu công cụ tự động hóa.

Tóm lại, vấn đề chính là thiếu các phương pháp hiệu quả để tự động chuyển đổi văn bản khoa học dài thành các minh họa chính xác về cấu trúc và hấp dẫn về mặt hình ảnh, đáp ứng tiêu chuẩn xuất bản.

II. Main Idea:

Công trình này giới thiệu FigureBench, bộ dữ liệu quy mô lớn đầu tiên cho việc tạo minh họa khoa học từ văn bản khoa học dài, bao gồm 3.300 cặp văn bản – hình ảnh chất lượng cao từ nhiều nguồn khác nhau (bài báo, khảo sát, blog, sách giáo khoa).

Đồng thời, nhóm nghiên cứu đề xuất AUTOFIGURE, một khung làm việc dựa trên hệ thống AI agentic tiên phong, được thiết kế để tự động tạo ra các minh họa khoa học chất lượng cao từ văn bản dài. AUTOFIGURE hoạt động theo mô hình "Reasoned Rendering" (Kết xuất có lý luận), tách biệt quá trình suy luận cấu trúc khỏi quá trình kết xuất thẩm mỹ, qua ba giai đoạn chính:

Giai đoạn I: Conceptual Grounding và Layout Generation (Xác định Khái niệm và Tạo Bố cục): Một tác nhân Concept-Extraction (Trích xuất khái niệm) chắt lọc văn bản dài thành tóm tắt phương pháp, các thực thể và mối quan hệ. Sau đó, nó tạo ra một bố cục ký hiệu đọc được bằng máy (SVG/HTML) và mô tả kiểu dáng ban đầu. Trọng tâm của giai đoạn này là vòng lặp Critique-and-Refine (Phê bình và Tinh chỉnh), mô phỏng đối thoại giữa một AI "thiết kế" và một AI "phê bình" để lặp đi lặp lại tối ưu hóa bố cục, đảm bảo sự mạch lạc về cấu trúc và tính nhất quán logic.
Giai đoạn II: Aesthetic Synthesis và Text Post-processing (Tổng hợp Thẩm mỹ và Hậu xử lý Văn bản): Chuyển đổi bản thiết kế ký hiệu đã tối ưu hóa thành một hình minh họa có độ trung thực cao. Giai đoạn này sử dụng một mô hình sinh đa phương thức để kết xuất hình ảnh, được hướng dẫn bởi một prompt Text-to-Image chi tiết và biểu đồ cấu trúc. Để đảm bảo độ chính xác và dễ đọc của văn bản, một chiến lược "erase-and-correct" (xóa và sửa) được áp dụng, trong đó các pixel văn bản bị xóa, văn bản được trích xuất bằng OCR, xác minh với nhãn gốc, và sau đó được kết xuất lại dưới dạng văn bản vector rõ nét.

Để đánh giá, công trình sử dụng giao thức VLM-as-a-judge kết hợp chấm điểm tham chiếu và so sánh cặp đôi mù, cùng với đánh giá của chuyên gia con người.

III. Main Results:

FigureBench: Là bộ dữ liệu quy mô lớn đầu tiên với 3.300 cặp văn bản–minh họa khoa học chất lượng cao, bao gồm các văn bản dài từ nhiều nguồn khác nhau, giải quyết thách thức của thiết kế minh họa khoa học theo ngữ cảnh dài.
Hiệu suất vượt trội của AUTOFIGURE: Trong các đánh giá tự động trên FigureBench, AUTOFIGURE consistently vượt trội hơn tất cả các phương pháp cơ sở (GPT-Image, HTML/SVG Code, Diagram Agent) trên tất cả bốn danh mục tài liệu (Blog, Survey, Textbook, Paper) với điểm Overall cao nhất.
- Đạt tỷ lệ thắng (Win-Rate) cao nhất trong các so sánh cặp đôi mù: 75.0% (Blog), 78.1% (Survey), 97.5% (Textbook), và 53.0% (Paper).
- Giải quyết hiệu quả sự đánh đổi giữa sự trôi chảy về mặt thẩm mỹ và độ trung thực cấu trúc.
Đánh giá bởi chuyên gia con người: Một nghiên cứu với 10 chuyên gia (tác giả chính) cho thấy:
- AUTOFIGURE đạt tỷ lệ thắng 83.3% so với các mô hình AI khác, chỉ đứng sau minh họa gốc do con người tạo ra (96.8%).
- 66.7% các chuyên gia sẵn lòng sử dụng hình ảnh do AUTOFIGURE tạo ra cho phiên bản cuối cùng của bài báo của họ, cho thấy nó đáp ứng các tiêu chuẩn xuất bản thực tế.
Nghiên cứu cắt bỏ (Ablation Studies):
- Giai đoạn kết xuất tách rời cải thiện đáng kể điểm Visual Design và Overall mà không ảnh hưởng đến tính toàn vẹn cấu trúc.
- Vòng lặp tinh chỉnh "critique-and-refine" là một quá trình tối ưu hóa hiệu quả, cải thiện điểm Overall từ 6.28 (0 vòng lặp) lên 7.14 (5 vòng lặp).
- Việc lựa chọn mô hình suy luận mạnh (ví dụ: Claude-4.1-Opus) và định dạng trung gian có cấu trúc (SVG/HTML) đóng vai trò quan trọng trong chất lượng hình ảnh cuối cùng.

IV. Conclusion & Future Works:

Công trình này đã giải quyết những thách thức mới trong việc tạo ra các minh họa khoa học chất lượng cao từ văn bản khoa học dài bằng cách giới thiệu FigureBench và khung AUTOFIGURE.

AUTOFIGURE, dựa trên mô hình Reasoned Rendering và quá trình lặp lại, đã chứng minh khả năng tạo ra các minh họa chính xác về mặt khoa học và hấp dẫn về mặt thẩm mỹ, đáp ứng các tiêu chuẩn xuất bản học thuật. Bằng cách tự động hóa một nút thắt quan trọng trong giao tiếp khoa học, công trình này đặt nền móng cho việc thể hiện trực quan khoa học do AI điều khiển, cho phép tạo ra các minh họa sẵn sàng xuất bản một cách hiệu quả và dễ tiếp cận hơn.

Trong tương lai, công trình này hy vọng sẽ cung cấp một công cụ tự động hóa mạnh mẽ cho các nhà nghiên cứu, tạo nền tảng vững chắc cho sự phát triển của các mô hình minh họa khoa học tự động, và trang bị cho các "nhà khoa học AI" trong tương lai khả năng biểu đạt trực quan xuất sắc.

V. Brainstorming Space:

1. Publish Papers:

Phát triển các mô hình tạo minh họa khoa học từ văn bản dài đầu cuối (end-to-end) có khả năng huấn luyện, tận dụng bộ dữ liệu FigureBench để khám phá tiềm năng của các phương pháp không theo agentic và so sánh hiệu quả với cách tiếp cận decoupled hiện tại.
Mở rộng khung AUTOFIGURE để hỗ trợ tạo ra các loại hình minh họa khoa học đa dạng hơn, bao gồm biểu đồ dữ liệu phức tạp, hình ảnh 3D, hoặc các sơ đồ tương tác, vượt ra ngoài các sơ đồ khái niệm hiện tại, nhằm phục vụ nhu cầu minh họa toàn diện hơn.
Nghiên cứu sâu hơn về cơ chế phản hồi và tinh chỉnh của hệ thống agentic, nhằm cải thiện khả năng tự động hiểu và tối ưu hóa cấu trúc cũng như tính thẩm mỹ của minh họa, có thể thông qua việc tích hợp các mô hình phê bình tinh vi hơn, vòng lặp tinh chỉnh thích ứng thông minh hơn, hoặc phản hồi đa phương thức.

2. Patent:

Ứng dụng di động "Sơ đồ thông minh" cho báo cáo và bài thuyết trình: Một ứng dụng trên điện thoại cho phép người dùng nhập các ghi chú hoặc đoạn văn bản dài từ một báo cáo, bản nháp bài thuyết trình, hoặc tài liệu học tập. Hệ thống sẽ tự động phân tích và chuyển đổi thông tin thành các sơ đồ, biểu đồ hoặc infographic trực quan, có thể tùy chỉnh màu sắc và bố cục đơn giản, giúp người dùng dễ dàng tạo ra các minh họa chuyên nghiệp ngay trên điện thoại để trình bày hoặc chia sẻ nhanh chóng.
Trợ lý "Visualizer ý tưởng" tích hợp trong ứng dụng ghi chú thông minh: Một tính năng tích hợp trong các ứng dụng ghi chú hoặc lập kế hoạch trên điện thoại thông minh. Khi người dùng viết hoặc nhập các ý tưởng, quy trình làm việc, hoặc cấu trúc dự án dưới dạng văn bản, trợ lý AI sẽ tự động đề xuất và tạo ra các sơ đồ luồng, sơ đồ tư duy (mind map) hoặc các biểu đồ cấu trúc đơn giản để minh họa các mối quan hệ và phân cấp của ý tưởng, giúp người dùng sắp xếp và hình dung thông tin một cách rõ ràng và nhanh chóng.
Công cụ tạo hướng dẫn lắp ráp/sử dụng sản phẩm bằng hình ảnh trên điện thoại: Một ứng dụng di động cho phép các nhà sản xuất nhỏ hoặc người dùng cá nhân nhập các bước hướng dẫn bằng văn bản để lắp ráp hoặc sử dụng một sản phẩm. Hệ thống sẽ tự động tạo ra một chuỗi hình ảnh minh họa từng bước với các biểu tượng dễ hiểu, mũi tên chỉ dẫn và văn bản ngắn gọn, giúp tạo ra các hướng dẫn trực quan mà không cần kỹ năng thiết kế chuyên nghiệp, có thể dễ dàng chia sẻ hoặc in ấn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.03828
ArXiv Abstract	https://arxiv.org/abs/2602.03828
PDF Download	https://arxiv.org/pdf/2602.03828.pdf
Github Repository	N/A

18. PaperSearchQA: Learning to Search and Reason over Scientific Papers with RLVR (19 votes)

Tác giả: James Burgess, Jan N. Hansen, Duo Peng, Yuhui Zhang, Alejandro Lozano, Min Woo Sun, Emma Lundberg, Serena Yeung-Levy

Xuất bản lúc: 2026-01-26

Tag: RLVR, LLMs, RAG, QA, Scientific AI, Search Agents

I. Main Problem:

Vấn đề chính mà nghiên cứu này muốn giải quyết là sự thiếu hụt các tác nhân tìm kiếm AI chuyên biệt có khả năng tìm kiếm và suy luận trên các tài liệu khoa học kỹ thuật chuyên sâu và đòi hỏi nhiều kiến thức. Các tác nhân tìm kiếm RLVR (reinforcement learning with verifiable rewards) hiện có chủ yếu tập trung vào QA (question answering) miền tổng quát, điều này hạn chế sự phù hợp của chúng đối với các hệ thống AI kỹ thuật trong khoa học, kỹ thuật và y học. Nghiên cứu khoa học đòi hỏi kiến thức chuyên môn, khả năng suy luận về các hệ thống phức tạp và khả năng tìm kiếm hiệu quả trong các cơ sở kiến thức kỹ thuật khổng lồ.

II. Main Idea:

Các tác giả đề xuất huấn luyện các tác nhân tìm kiếm học tăng cường (RL) để tìm kiếm và suy luận trên các bài báo khoa học. Họ giới thiệu một môi trường mới cho mục đích này, bao gồm:

Tập dữ liệu (Corpus): Một tập hợp tìm kiếm gồm 16 triệu bản tóm tắt bài báo y sinh (biomedical paper abstracts) từ PubMed.
Bộ dữ liệu: PaperSearchQA, một bộ dữ liệu QA dạng factoid thách thức với 60.000 mẫu có thể trả lời từ tập dữ liệu. Bộ dữ liệu này được xây dựng bằng quy trình làm việc LLM và trải qua quá trình đảm bảo chất lượng nghiêm ngặt bởi các chuyên gia sinh học về độ chính xác và tính liên quan đến ứng dụng khoa học thực tế.
Điểm chuẩn (Benchmarks): Bao gồm 5.000 mẫu dành cho kiểm tra từ PaperSearchQA và phân phối lại tập con factoid của BioASQ.

Họ huấn luyện các tác nhân tìm kiếm trong môi trường này bằng cách sử dụng học tăng cường với phần thưởng có thể xác minh (RLVR), cụ thể là theo cấu hình Search-R1. Mục tiêu là để các tác nhân này học cách lập kế hoạch, suy luận và tự xác minh khi tìm kiếm và trả lời các câu hỏi khoa học. Các phương pháp tạo dữ liệu được thiết kế để có khả năng mở rộng và dễ dàng mở rộng sang các lĩnh vực khoa học khác.

III. Main Results:

Huấn luyện tác nhân tìm kiếm bằng RLVR (cụ thể là cấu hình Search-R1) đã đạt được hiệu suất vượt trội rõ rệt so với các phương pháp cơ sở truy xuất phi-RL (ví dụ: Direct LLM inference, Chain-of-Thought, RAG, Search-o1, PaperQA2). Cụ thể:
- Đối với LLM 3B, RL cải thiện RAG lên 9.6 điểm trên PaperSearchQA và 5.5 điểm trên BioASQ.
- Đối với LLM 7B, RL cải thiện RAG lên 14.5 điểm trên PaperSearchQA và 9.3 điểm trên BioASQ.
Các tập dữ liệu được phát hành được đánh giá là thách thức cho việc huấn luyện các hệ thống tìm kiếm, với điểm số tổng thể vẫn còn thấp, cho thấy tiềm năng cải tiến lớn.
Phân tích định lượng bổ sung cho thấy:
- Bộ truy xuất ngữ nghĩa (semantic retriever) chỉ mang lại lợi ích nhỏ (<2 điểm) so với bộ truy xuất cú pháp (syntactic retriever) trong mọi thử nghiệm.
- Các LLM không có bộ truy xuất vẫn có hiệu suất đáng kể (ví dụ: 20.3% cho mô hình 3B và 29.7% cho mô hình 7B trên PaperSearchQA), cho thấy kiến thức khoa học được mã hóa trong quá trình huấn luyện trước.
- Hiệu suất vượt trội với kích thước mô hình lớn hơn có khả năng là do kiến thức tham số tốt hơn, chứ không phải do khả năng diễn giải truy vấn hoặc hiểu biết vượt trội.
- Việc diễn giải lại câu hỏi (paraphrasing) trong quá trình tạo dữ liệu có lợi cho việc duy trì độ khó của tập dữ liệu (câu hỏi không được diễn giải lại đạt 57.2%, trong khi câu hỏi được diễn giải lại đạt 44.9%).
Kết quả định tính đã quan sát được các hành vi tác nhân thú vị như:
- Lập kế hoạch rõ ràng và trích xuất từ khóa cho truy vấn.
- Suy luận về vấn đề trước khi tìm kiếm bằng cách sử dụng kiến thức tham số.
- Xác minh kiến thức đã có sẵn trong mô hình bằng cách thực hiện tìm kiếm.

IV. Conclusion & Future Works:

Kết luận: Nghiên cứu này chứng minh rằng các tác nhân tìm kiếm có thể được huấn luyện bằng học tăng cường (RL) để thực hiện trả lời câu hỏi bằng cách suy luận và thu thập kiến thức từ các bài báo khoa học, một phần trí tuệ quan trọng của khoa học. Bằng cách thiết kế các tập dữ liệu huấn luyện, điểm chuẩn và tập dữ liệu tương thích với các phương pháp tác nhân LLM và hệ thống đa tác nhân đang phát triển nhanh chóng (thường được gọi là AI Scientist), nghiên cứu này đặt nền tảng cho việc phát triển các khả năng hiểu tài liệu khoa học mạnh mẽ hơn. Các hệ thống AI Scientist trong tương lai sẽ yêu cầu khả năng tìm kiếm chuyên sâu về kiến thức, và huấn luyện tác nhân tìm kiếm bằng RL là một cách tiếp cận thiết yếu.

Công việc trong tương lai:

Mở rộng từ QA dạng factoid đơn bước sang QA factoid đa bước (multihop), trả lời bằng danh sách thực thể, và các câu hỏi yêu cầu câu trả lời dài hoặc tóm tắt, điều này sẽ đòi hỏi hành vi lập kế hoạch tác nhân phức tạp hơn và các mô hình phần thưởng linh hoạt hơn.
Giải quyết các câu hỏi với bằng chứng mâu thuẫn, ví dụ như trong đánh giá tài liệu phê bình.
Kết hợp các mô hình phần thưởng mới như LLM-as-a-judge.
Tích hợp các kiểu dữ liệu đa phương thức như văn bản và hình ảnh trong các bài báo khoa học.
Trang bị cho tác nhân các công cụ và siêu dữ liệu mà các nhà khoa học thực sự sử dụng, ví dụ như duyệt trích dẫn, số liệu độ tin cậy của nguồn, và đánh giá mức độ hỗ trợ của dữ liệu/hình ảnh trong bài báo đối với kết luận.
Mở rộng quy trình tạo dữ liệu sang các lĩnh vực khoa học khác như hóa học, khoa học vật liệu và khoa học máy tính.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu các chiến lược huấn luyện tác nhân tìm kiếm RLVR cho các loại câu hỏi khoa học phức tạp hơn (ví dụ: đa bước, tóm tắt, liệt kê thực thể) bằng cách khám phá các mô hình phần thưởng mới và hành vi lập kế hoạch tác nhân.
Phân tích hiệu quả của các mô hình truy xuất ngữ nghĩa chuyên biệt cho các miền khoa học so với các mô hình truy xuất tổng quát, đặc biệt là trong bối cảnh RLVR, để hiểu liệu các bộ nhúng truy xuất có cần được điều chỉnh cho thuật ngữ kỹ thuật hay không.
Khám phá tích hợp thông tin đa phương thức (ví dụ: hình ảnh, bảng biểu) từ các bài báo khoa học vào quy trình suy luận và tìm kiếm của tác nhân, cùng với các kỹ thuật để đánh giá sự phù hợp của thông tin trực quan đối với câu trả lời.

2. Patent:

Ứng dụng "Trợ lý Nghiên cứu Khoa học Di động": Một ứng dụng điện thoại thông minh cho phép người dùng (nhà khoa học, sinh viên, hoặc công chúng) đặt câu hỏi về các chủ đề khoa học cụ thể. Ứng dụng này sẽ sử dụng một hệ thống trí tuệ nhân tạo để tìm kiếm và tổng hợp các câu trả lời chính xác từ một cơ sở dữ liệu khổng lồ các tóm tắt nghiên cứu khoa học, cung cấp thông tin thực tế nhanh chóng. Ví dụ, người dùng có thể hỏi "Loại thuốc nào là hiệu quả nhất cho bệnh tiểu đường loại 2?" hoặc "Gen nào được xác định là nguyên nhân gây ra bệnh Alzheimer?".
Tính năng "Kiểm tra Thực tế Khoa học Nhanh" tích hợp trong trình duyệt/ứng dụng đọc tài liệu trên điện thoại: Một công cụ thông minh được tích hợp trực tiếp vào các ứng dụng đọc tài liệu hoặc trình duyệt web trên thiết bị di động. Tính năng này cho phép người dùng bôi đen một câu hỏi hoặc khái niệm khoa học trong văn bản đang đọc và ngay lập tức nhận được câu trả lời được xác minh từ các tài liệu học thuật. Điều này giúp kiểm tra nhanh chóng thông tin hoặc làm rõ các thuật ngữ kỹ thuật mà không cần phải chuyển đổi ứng dụng hay rời khỏi ngữ cảnh đọc hiện tại.
Hệ thống "Đề xuất Nghiên cứu Thông minh" cho thiết bị di động: Một ứng dụng di động cung cấp các đề xuất nghiên cứu dựa trên các câu hỏi hoặc lĩnh vực quan tâm đã được người dùng nhập vào. Hệ thống sẽ học cách tìm kiếm và suy luận giống như một nhà khoa học, không chỉ trả lời câu hỏi mà còn gợi ý các bài báo liên quan, các khái niệm mở rộng, hoặc thậm chí các câu hỏi tiềm năng khác mà người dùng có thể muốn khám phá, tất cả đều được truy cập dễ dàng và trực quan trên điện thoại.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2601.18207
ArXiv Abstract	https://arxiv.org/abs/2601.18207
PDF Download	https://arxiv.org/pdf/2601.18207.pdf
Github Repository	https://github.com/jmhb0/PaperSearchQA

19. A-RAG: Scaling Agentic Retrieval-Augmented Generation via Hierarchical Retrieval Interfaces (18 votes)

Tác giả: Mingxuan Du, Benfeng Xu, Chiwei Zhu, Shaohan Wang, Pengyu Wang, Xiaorui Wang, Zhendong Mao

Xuất bản lúc: 2026-02-03

Tag: RAG, LLMs, Agentic Systems, Information Retrieval, Natural Language Processing

I. Main Problem:

Các hệ thống RAG hiện tại không tận dụng được khả năng suy luận mạnh mẽ và sử dụng công cụ dài hạn của các mô hình ngôn ngữ tiên tiến. Chúng dựa vào hai mô hình: (1) thiết kế thuật toán truy xuất đoạn văn một lần duy nhất và nối chúng vào đầu vào của mô hình, hoặc (2) xác định trước quy trình làm việc và nhắc mô hình thực hiện từng bước. Cả hai mô hình này đều không cho phép mô hình tham gia vào các quyết định truy xuất, ngăn cản việc mở rộng hiệu quả cùng với các cải tiến của mô hình. Mô hình không thể điều chỉnh quy trình làm việc, chọn chiến lược tương tác hoặc quyết định khi nào đã thu thập đủ bằng chứng để đưa ra câu trả lời.

II. Main Idea:

Giới thiệu A-RAG, một khung Agentic RAG cung cấp các giao diện truy xuất phân cấp trực tiếp cho mô hình. A-RAG cung cấp ba công cụ truy xuất: keyword_search, semantic_search và chunk_read. Các công cụ này cho phép tác nhân (agent) tìm kiếm và truy xuất thông tin một cách thích ứng trên nhiều cấp độ chi tiết (cấp độ từ khóa, cấp độ câu thông qua tìm kiếm ngữ nghĩa, cấp độ đoạn văn thông qua đọc đoạn văn). Khung này sử dụng một vòng lặp tác nhân đơn giản giống ReAct và một trình theo dõi ngữ cảnh để ngăn chặn việc truy xuất thông tin dư thừa. Việc xây dựng chỉ mục phân cấp nhẹ, bao gồm việc chia đoạn (chunking) và nhúng (embedding), với việc xử lý cấp độ từ khóa tại thời điểm truy vấn.

III. Main Results:

A-RAG liên tục vượt trội hơn các phương pháp Graph-RAG và Workflow RAG hiện có trên nhiều bộ dữ liệu QA tên miền mở (HotpotQA, 2WikiMultiHopQA, MuSiQue, GraphRAG-Bench). Nó đạt được số lượng token truy xuất tương đương hoặc thấp hơn (hiệu quả ngữ cảnh cao hơn) trong khi vẫn đạt được độ chính xác vượt trội. "Naive A-RAG" (chỉ với công cụ tìm kiếm ngữ nghĩa) cũng thiết lập một nền tảng mạnh mẽ mới cho Agentic RAG, vượt trội hơn các phương pháp Graph-RAG và Workflow RAG hiện có, đặc biệt khi sử dụng các mô hình LLM mạnh hơn (GPT-5-mini). A-RAG (Full) với GPT-4o-mini đạt hiệu suất tốt nhất trên 3 trong số 5 bộ dữ liệu. Khi chuyển sang GPT-5-mini, A-RAG (Full) đạt kết quả vượt trội trên tất cả các benchmark. Các nghiên cứu loại bỏ (ablation studies) cho thấy việc loại bỏ bất kỳ công cụ phân cấp nào (keyword_search, semantic_search, chunk_read) đều dẫn đến suy giảm hiệu suất, khẳng định tầm quan trọng của thông tin đa cấp độ. Phân tích mở rộng thời gian thử nghiệm cho thấy hiệu suất của A-RAG cải thiện đều đặn với việc tăng tài nguyên tính toán (số bước tối đa, nỗ lực suy luận), đặc biệt với các mô hình suy luận mạnh hơn. A-RAG (Full) truy xuất ít token hơn A-RAG (Naive) nhưng đạt hiệu suất cao hơn, làm nổi bật hiệu quả ngữ cảnh.

IV. Conclusion & Future Works:

A-RAG thể hiện một sự thay đổi mô hình cơ bản sang Agentic RAG, với các giao diện truy xuất phân cấp cho phép các LLM tự chủ truy cập thông tin ở cấp độ từ khóa, câu và đoạn văn. Nghiên cứu trong tương lai nên tập trung vào việc thiết kế các giao diện thân thiện với tác nhân (agent-friendly interfaces) hơn là các thuật toán truy xuất phức tạp, và khám phá các mô hình tương tác mới giữa các mô hình ngôn ngữ và các nguồn tri thức bên ngoài. Hạn chế bao gồm việc chưa liệt kê đầy đủ tất cả các thiết kế công cụ khả thi hoặc so sánh có hệ thống các tập con công cụ khác nhau. Công việc trong tương lai có thể bao gồm các nghiên cứu loại bỏ toàn diện trên các cấu hình công cụ đa dạng để có cái nhìn sâu sắc hơn. Khung này chưa được xác thực trên các mô hình lớn hơn và mạnh hơn như GPT-5 và Gemini-3 do hạn chế về tài nguyên tính toán, nhưng dự kiến sẽ có những cải thiện hiệu suất rõ rệt hơn với các mô hình tiên tiến này. Việc khái quát hóa A-RAG sang các tác vụ chuyên sâu về tri thức khác như xác minh thực tế, hệ thống hội thoại và tạo nội dung dài cần được điều tra thêm.

V. Brainstorming Space:

1. Publish Papers:

So sánh một cách có hệ thống các thiết kế công cụ và tập con công cụ khác nhau trong A-RAG, định lượng tác động của chúng đến hành vi và hiệu suất của tác nhân trên các tác vụ đa dạng.
Nghiên cứu ứng dụng và khả năng tổng quát hóa của A-RAG trên các tác vụ chuyên sâu về tri thức khác ngoài QA, ví dụ như xác minh thực tế, hệ thống hội thoại phức tạp hoặc trích xuất dữ liệu có cấu trúc.
Thực hiện xác minh thực nghiệm A-RAG với các mô hình LLM tiên tiến và mạnh mẽ hơn (ví dụ: GPT-5, Gemini-3) để đánh giá đầy đủ tiềm năng mở rộng của nó và quan sát các cải thiện hiệu suất rõ rệt hơn.

2. Patent:

Ứng dụng Trợ lý Nghiên cứu Thông minh trên điện thoại: Một ứng dụng di động cho phép người dùng nhập câu hỏi hoặc chủ đề nghiên cứu, sau đó một tác nhân AI sẽ sử dụng các công cụ tìm kiếm từ khóa, tìm kiếm ngữ nghĩa và đọc tài liệu đầy đủ từ các nguồn thông tin trên internet hoặc tài liệu cá nhân để tổng hợp câu trả lời chính xác và toàn diện. Người dùng có thể yêu cầu đọc sâu hơn một phần cụ thể hoặc tìm kiếm thông tin liên quan, mô phỏng cách một nhà nghiên cứu làm việc.
Hệ thống Hỏi Đáp Đa Cấp cho Tài liệu cá nhân trên điện thoại: Phát triển một tính năng trong ứng dụng quản lý tài liệu (ví dụ: trình đọc PDF, ứng dụng ghi chú) cho phép người dùng đặt câu hỏi về nội dung tài liệu. Hệ thống sẽ tự động tìm kiếm thông tin ở các cấp độ khác nhau – từ khóa, câu, đoạn văn – để đưa ra câu trả lời chi tiết. Chức năng này có thể tích hợp với khả năng đọc các phần liền kề để cung cấp ngữ cảnh đầy đủ, hữu ích cho sinh viên hoặc chuyên gia cần phân tích tài liệu dài trên thiết bị di động.
Công cụ Hỗ trợ Học tập Cá nhân hóa trên điện thoại: Một ứng dụng học tập tích hợp công nghệ A-RAG, cho phép học sinh hoặc sinh viên đặt câu hỏi về bài giảng, sách giáo khoa điện tử hoặc các ghi chú. Ứng dụng sẽ tự động điều chỉnh chiến lược truy xuất để tìm kiếm các giải thích, ví dụ hoặc thông tin bổ sung từ tài liệu đã có hoặc nguồn trực tuyến, giúp người dùng hiểu sâu hơn về kiến thức mà không cần đọc lại toàn bộ tài liệu một cách thủ công, tất cả trên giao diện điện thoại thông minh.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.03442
ArXiv Abstract	https://arxiv.org/abs/2602.03442
PDF Download	https://arxiv.org/pdf/2602.03442.pdf
Github Repository	https://github.com/Ayanami0730/arag

20. Vibe AIGC: A New Paradigm for Content Generation via Agentic Orchestration (17 votes)

Tác giả: Jiaheng Liu, Yuanxing Zhang, Shihao Li, Xinping Lei

Xuất bản lúc: 2026-02-04

Tag: AIGC, Multi-Agent Systems, Orchestration, LLMs, Generative AI, Human-AI Collaboration

I. Main Problem:

Vấn đề chính là "khoảng cách ý định-thực thi" (Intent-Execution Gap) trong AI tạo sinh hiện tại, nơi ý định cấp cao của người sáng tạo thường không khớp với tính chất ngẫu nhiên, hộp đen của các mô hình "single-shot" hiện có. Mô hình "Model-Centric" tập trung vào việc mở rộng quy mô và dữ liệu đã đạt đến "trần khả năng sử dụng," khiến quá trình tạo nội dung trở thành thử và sai tốn thời gian và không thể mở rộng cho các ứng dụng chuyên nghiệp yêu cầu tính nhất quán về thời gian, nhân vật và hiểu biết ngữ nghĩa sâu sắc.

II. Main Idea:

Bài báo giới thiệu "Vibe AIGC," một mô hình mới cho việc tạo nội dung thông qua điều phối tác tử (agentic orchestration). Trong mô hình này, người dùng đóng vai trò "Commander" (Chỉ huy), cung cấp một "Vibe" – một biểu diễn cấp cao bao gồm các ưu tiên thẩm mỹ, logic chức năng và ý định. Một "Meta-Planner" tập trung đóng vai trò kiến trúc sư hệ thống, phân tích "Vibe" này thành các quy trình làm việc tác tử có thể thực thi, kiểm chứng và thích ứng theo phân cấp. Điều này chuyển đổi từ suy luận ngẫu nhiên sang điều phối logic, thu hẹp khoảng cách giữa trí tưởng tượng của con người và khả năng thực thi của máy móc.

III. Main Results:

Vì đây là một bài báo đề xuất mô hình, kết quả chính mang tính chất khái niệm và định hướng:

Xác định rõ ràng "khoảng cách ý định-thực thi" là giới hạn cốt lõi của mô hình AIGC tập trung vào mô hình hiện tại.
Đề xuất "Vibe AIGC" là một giải pháp kiến trúc tổng thể, chuyển đổi vai trò người dùng từ "prompt engineer" thành "Commander" và AI từ công cụ suy luận thành đối tác kỹ thuật cấp hệ thống.
Phác thảo kiến trúc "Vibe AIGC" với Meta-Planner làm trung tâm, kết hợp Kho kiến thức chuyên gia miền (Domain-Specific Expert Knowledge Base) và chiến lược điều phối phân cấp để biến ý định trừu tượng thành quy trình làm việc chi tiết, có thể thực thi.
Đề xuất một lộ trình nghiên cứu và phát triển toàn diện, bao gồm các chuẩn đánh giá mới, khuyến khích các mô hình "micro-foundation" chuyên biệt, tiêu chuẩn hóa giao thức tương tác tác tử, và xây dựng các bộ dữ liệu "ý định-thành-quy trình làm việc."
Thể hiện tính khả thi của mô hình thông qua các nghiên cứu sơ bộ về Vibe AI-Generated Text, Image và Video Content (như Deep Research, AutoPR, Poster Copilot, AutoMV).

IV. Conclusion & Future Works:

Kết luận rằng việc mở rộng quy mô mô hình không còn đủ để thu hẹp khoảng cách giữa trí tưởng tượng của con người và khả năng thực thi của máy móc. "Vibe AIGC" là một sự thay đổi mô hình cơ bản, tái khái niệm việc tạo nội dung là sự tổng hợp tự động của các quy trình làm việc đa tác tử. Nó giải quyết "khoảng cách ý định-thực thi" và nâng người dùng lên vị trí "Commander," giải quyết giới hạn về khả năng sử dụng. Hướng nghiên cứu tương lai nên chuyển từ các trọng số bên trong của mô hình sang kiến trúc điều phối, đảm bảo tương lai của nền kinh tế số được xây dựng trên nền tảng của ý định có thể kiểm chứng, tính nhất quán dài hạn và quy trình sáng tạo cộng tác thực sự giữa con người và AI.

V. Brainstorming Space:

1. Publish Papers:

Phát triển các tiêu chuẩn đánh giá chính thức mới cho "Tính nhất quán ý định" (Intent Consistency) trong các hệ thống AIGC đa tác tử, vượt ra ngoài các chỉ số về độ trung thực của pixel và thay vào đó đo lường tính nhất quán logic tác tử thông qua "Creative Unit Tests" để phân tích "vibe" phức tạp thành quy trình làm việc hợp lý, nhất quán.
Nghiên cứu và huấn luyện các mô hình "micro-foundation" chuyên biệt, nhẹ nhàng cho các nhiệm vụ sáng tạo cụ thể (ví dụ: một "Cinematography Agent" dựa trên lý thuyết phim, hoặc một "Creative Director Agent" để tổng hợp quy trình làm việc) thay vì các mô hình "God-model" đa năng.
Thiết kế và triển khai các giao thức tương tác tác tử mở (ví dụ: "AIGC Protocol") để cho phép các tác tử từ các nhà phát triển khác nhau chia sẻ liền mạch "Character Bank," "Global Style State," và "Context Memory" nhằm xây dựng một hệ sinh thái tác tử hợp tác.

2. Patent:

Một ứng dụng di động cho phép người dùng "ra lệnh" cho việc tạo video ngắn theo chủ đề. Thay vì nhập các từ khóa rời rạc, người dùng mô tả "vibe" mong muốn (ví dụ: "một video du lịch vui vẻ, năng động với nhạc nền pop và hiệu ứng chuyển cảnh nhanh"). Ứng dụng sẽ tự động phân tích "vibe," chọn lọc cảnh quay, âm nhạc, hiệu ứng phù hợp từ thư viện và biên tập thành video hoàn chỉnh mà không yêu cầu người dùng chỉnh sửa thủ công nhiều.
Một công cụ thiết kế đồ họa trên điện thoại thông minh cho phép người dùng tạo các thiết kế chuyên nghiệp (ví dụ: poster, thiệp mời) chỉ bằng cách mô tả "bầu không khí" và "mục đích" của thiết kế. Hệ thống sẽ tự động tạo bố cục, chọn màu sắc, phông chữ và thậm chí đề xuất các yếu tố hình ảnh dựa trên "vibe" đã cho (ví dụ: "một poster phim kinh dị cổ điển với tông màu u ám và phông chữ serif đậm"). Người dùng có thể đưa ra phản hồi cấp cao như "làm cho nó tối hơn một chút" hoặc "tăng sự kịch tính" và hệ thống sẽ tự điều chỉnh mà không cần chỉnh sửa từng chi tiết nhỏ.
Một trợ lý viết kịch bản và sáng tạo nội dung văn bản trên điện thoại thông minh, nơi người dùng cung cấp một "ý tưởng cốt lõi" hoặc "tâm trạng" cho một câu chuyện hoặc bài viết (ví dụ: "một câu chuyện khoa học viễn tưởng u tối về sự cô độc trong vũ trụ"). Hệ thống sẽ tự động thực hiện "nghiên cứu sâu" về chủ đề, phát triển các nhân vật và bối cảnh, và thậm chí tạo ra các đoạn văn bản nháp, đảm bảo tính nhất quán về phong cách và cốt truyện theo "vibe" đã cho, giảm thiểu việc người dùng phải "câu cá" từng câu chữ.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.04575
ArXiv Abstract	https://arxiv.org/abs/2602.04575
PDF Download	https://arxiv.org/pdf/2602.04575.pdf
Github Repository	N/A

21. MEnvAgent: Scalable Polyglot Environment Construction for Verifiable Software Engineering (17 votes)

Tác giả: Chuanzhe Guo, Jingjing Wu, Sijun He, Yang Chen, Zhaoqi Kuang, Shilong Fan, Bingjin Chen, Siqi Bao, Jing Liu, Hua Wu, Qingfu Zhu, Wanxiang Che, Haifeng Wang

Xuất bản lúc: 2026-01-30

Tag: LLMs, Software Engineering, Multi-agent Systems, Environment Construction, Benchmarking, Dataset Generation

I. Main Problem:

Sự phát triển của các tác nhân (agent) LLM cho kỹ thuật phần mềm (SWE) bị hạn chế bởi sự khan hiếm các bộ dữ liệu có thể xác minh được. Nút thắt này xuất phát từ sự phức tạp của việc xây dựng các môi trường thực thi trên nhiều ngôn ngữ lập trình khác nhau. Các phương pháp hiện có hoặc không thể mở rộng quy mô một cách hiệu quả với chất lượng xác minh thấp, hoặc tốn nhiều công sức thủ công và bị giới hạn chủ yếu ở Python. Điều này tạo ra một khoảng trống lớn cho việc hỗ trợ có thể xác minh, có khả năng mở rộng trên nhiều ngôn ngữ lập trình. Các thách thức chính bao gồm: 1) Sự phức tạp trong việc quản lý các phụ thuộc đa dạng và thường xuyên gặp lỗi xây dựng, dẫn đến tỷ lệ thành công thấp. 2) Thời gian tiêu thụ lớn do quá trình xây dựng chậm và chi phí cao khi phải bắt đầu lại từ đầu sau mỗi lỗi.

II. Main Idea:

MEnvAgent là một framework đa ngôn ngữ để xây dựng môi trường tự động, tạo điều kiện thuận lợi cho việc tạo ra các trường hợp tác vụ có thể xác minh một cách có thể mở rộng. MEnvAgent sử dụng kiến trúc đa tác nhân (multi-agent) bao gồm Lập kế hoạch (Planning), Thực thi (Execution) và Xác minh (Verification) để tự động giải quyết các lỗi xây dựng. Nó cũng tích hợp một Cơ chế Tái sử dụng Môi trường (Environment Reuse Mechanism) mới lạ giúp giảm chi phí tính toán bằng cách vá tăng dần các môi trường lịch sử.

Các ý tưởng chính bao gồm:

Kiến trúc đa tác nhân Lập kế hoạch-Thực thi-Xác minh:
- Giai đoạn Lập kế hoạch: Các tác nhân chuyên biệt (Repository Analysis Agent, Environment Setup Agent, Test Configuration Agent) phân tích kho lưu trữ, chọn ảnh nền và soạn thảo các tập lệnh thiết lập môi trường và kiểm thử.
- Giai đoạn Thực thi: Tác nhân Thực thi Môi trường (Environment Execution Agent) khởi tạo container, thực hiện các lệnh và điều chỉnh động để giải quyết lỗi. Nếu thất bại, quay lại giai đoạn lập kế hoạch.
- Giai đoạn Xác minh: Tác nhân Xác minh (Verification Agent) chạy các bài kiểm tra, xác định nguyên nhân lỗi (error attribution) và cung cấp phản hồi để hướng dẫn các tác nhân ở giai đoạn lập kế hoạch tiếp theo, đồng thời xác minh tiêu chí Fail-to-Pass (F2P).
Cơ chế Tái sử dụng Môi trường: Giúp giảm chi phí tính toán bằng cách không xây dựng lại từ đầu. Nó tìm kiếm một môi trường lịch sử tương tự từ một kho lưu trữ và sử dụng Tác nhân Vá Môi trường (EnvPatchAgent) để tạo ra một chuỗi lệnh tăng dần (ΔP) nhằm điều chỉnh môi trường này cho kho lưu trữ mục tiêu. Quá trình này diễn ra trong một vòng lặp phản hồi cho đến khi đạt được điều kiện thành công.

III. Main Results:

Được đánh giá trên MEnvBench, một benchmark mới gồm 1.000 tác vụ trên 10 ngôn ngữ.
MEnvAgent vượt trội hơn các phương pháp cơ sở, cải thiện tỷ lệ Fail-to-Pass (F2P) lên 8.6% đồng thời giảm chi phí thời gian 43%.
MEnvAgent liên tục nằm ở góc trên bên trái của biểu đồ hiệu suất, cho thấy nó đạt được độ xác thực cao nhất trong khi giảm thiểu chi phí tính toán.
Trung bình trên các mô hình, MEnvAgent cải thiện tỷ lệ F2P nghiêm ngặt 8.6% và tỷ lệ Pass 11.0%, đồng thời giảm chi phí thời gian 43.0%.
Nghiên cứu loại bỏ thành phần (ablation study) cho thấy cơ chế tái sử dụng và EnvPatchAgent là rất quan trọng: việc loại bỏ EnvPatchAgent làm giảm tỷ lệ thành công tái sử dụng (Reuse Success Rate) từ 39.0% xuống 25.0% và tăng chi phí thời gian 20%; framework đầy đủ của MEnvAgent giảm thời gian tính toán trung bình 46.0% và tăng tỷ lệ Pass Rate tổng thể 18.5% so với phương pháp không tái sử dụng.
Đã xây dựng MEnvData-SWE, bộ dữ liệu đa ngôn ngữ mã nguồn mở lớn nhất về môi trường Docker có thể xác minh, bao gồm 3.005 trường hợp tác vụ từ 942 kho lưu trữ trên 10 ngôn ngữ.
Việc tinh chỉnh các mô hình ngôn ngữ lớn (LLM) trên bộ dữ liệu MEnvData-SWE đã mang lại "lợi ích hiệu suất nhất quán trên các tác vụ kỹ thuật phần mềm".
Cụ thể, mô hình Qwen2.5-Coder-32B đạt hiệu suất tương đương GPT-4.1 trên SWE-bench Verified và vượt trội đáng kể trên benchmark đa ngôn ngữ.

IV. Conclusion & Future Works:

Bài báo đã giới thiệu MEnvAgent, một framework đa ngôn ngữ tự động hóa nhiệm vụ phức tạp là xây dựng môi trường thông qua kiến trúc đa tác nhân Lập kế hoạch-Thực thi-Xác minh. Đặc biệt, nó tích hợp một cơ chế tái sử dụng môi trường mới lạ giúp giảm đáng kể chi phí tính toán. Framework đã được đánh giá kỹ lưỡng trên MEnvBench, một benchmark mới gồm 1.000 tác vụ trên 10 ngôn ngữ lập trình, nơi MEnvAgent thể hiện hiệu suất vượt trội, đạt tỷ lệ F2P cao hơn đáng kể và chi phí thời gian thấp hơn so với các phương pháp cơ sở hiện đại. Hơn nữa, để xác nhận tính hữu ích của phương pháp này, MEnvAgent đã được sử dụng để xây dựng MEnvData-SWE. Các thí nghiệm cho thấy các mô hình được tinh chỉnh trên bộ dữ liệu này đạt được những cải thiện đáng kể về hiệu suất trong các tác vụ kỹ thuật phần mềm. Cuối cùng, mã nguồn, benchmark và bộ dữ liệu được công khai để tạo điều kiện cho nghiên cứu tương lai trong cộng đồng.

V. Brainstorming Space:

1. Publish Papers:

Tối ưu hóa khả năng cộng tác của hệ thống đa tác nhân để xử lý lỗi phức tạp: Nghiên cứu sâu hơn về cách các tác nhân trong kiến trúc Lập kế hoạch-Thực thi-Xác minh có thể giao tiếp, phối hợp và đưa ra quyết định hiệu quả hơn để giải quyết các loại lỗi xây dựng phức tạp hoặc mới lạ mà hiện tại chúng chưa được tối ưu.
Phát triển các chiến lược tái sử dụng môi trường thông minh hơn dựa trên học máy: Khám phá việc sử dụng các thuật toán học máy để dự đoán các bản vá (patch) môi trường tối ưu, hoặc phát triển các chỉ số tương đồng tiên tiến hơn cho việc truy xuất môi trường lịch sử, vượt ra ngoài các tiêu chí về phiên bản và khả năng tương thích ngược hiện có.
Mở rộng ứng dụng của MEnvAgent sang các lĩnh vực kỹ thuật khác: Nghiên cứu khả năng điều chỉnh framework MEnvAgent để tự động xây dựng môi trường có thể xác minh cho các lĩnh vực ngoài kỹ thuật phần mềm, chẳng hạn như thiết kế hệ thống nhúng (embedded system design), phát triển trò chơi (game development) hoặc thiết lập môi trường cho các thí nghiệm khoa học phức tạp.

2. Patent:

Ứng dụng "Môi trường Phát triển Thông minh" cho thiết bị di động: Một ứng dụng di động cho phép các nhà phát triển nhanh chóng thiết lập và kiểm tra môi trường phát triển cho các dự án của họ trực tiếp trên máy tính bảng hoặc thiết bị di động kết nối đám mây. Ứng dụng này sử dụng một cơ chế thông minh để tải xuống các mẫu môi trường được cấu hình sẵn (ví dụ: cho Flutter, React Native, Android Native) và điều chỉnh chúng tăng dần dựa trên các phụ thuộc cụ thể của dự án. Điều này giúp giảm đáng kể thời gian thiết lập so với cấu hình thủ công.
Công cụ "Tự động Tái tạo và Xác minh Lỗi" cho kiểm thử di động: Một ứng dụng dành cho các kỹ sư kiểm thử chất lượng (QA) trên thiết bị di động. Khi có một báo cáo lỗi, ứng dụng này (hoặc một dịch vụ đám mây được truy cập qua ứng dụng) sẽ tự động xây dựng lại môi trường phần mềm chính xác (bao gồm phiên bản hệ điều hành, phiên bản ứng dụng đã cài đặt, cài đặt hệ thống và các phụ thuộc liên quan) nơi lỗi được quan sát. Sau đó, nó áp dụng một bản sửa lỗi được đề xuất và xác minh xem lỗi đã được khắc phục hay chưa bằng cách sử dụng các bài kiểm tra tự động, báo cáo trạng thái "Fail-to-Pass" trực tiếp đến thiết bị di động của nhóm QA.
Nền tảng "Học lập trình Đa ngôn ngữ trên Di động": Một nền tảng giáo dục di động cho phép người dùng học và chạy các đoạn mã hoặc dự án nhỏ bằng nhiều ngôn ngữ lập trình khác nhau (ví dụ: Python, JavaScript, Go) trực tiếp trên điện thoại hoặc máy tính bảng của họ. Nền tảng này sử dụng một phiên bản đơn giản hóa của cơ chế xây dựng môi trường để cung cấp các môi trường thực thi được cô lập cho từng ngôn ngữ, tự động thiết lập các trình thông dịch, trình biên dịch và các phụ thuộc cần thiết. Khi người dùng viết mã, hệ thống nhanh chóng tạo môi trường cô lập, thực thi mã và cung cấp phản hồi đã xác minh mà không yêu cầu thiết lập phức tạp tại chỗ.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2601.22859
ArXiv Abstract	https://arxiv.org/abs/2601.22859
PDF Download	https://arxiv.org/pdf/2601.22859.pdf
Github Repository	https://github.com/ernie-research/MEnvAgent

22. Horizon-LM: A RAM-Centric Architecture for LLM Training (16 votes)

Tác giả: Zhengqing Yuan, Lichao Sun, Yanfang, Ye

Xuất bản lúc: 2026-02-04

Tag: LLMs, Training, System Architecture, Memory Management, CPU Offloading, Single GPU Training

I. Main Problem:

Sự phát triển nhanh chóng của các mô hình ngôn ngữ lớn (LLMs) đã vượt quá khả năng của phần cứng GPU đơn, khiến quy mô mô hình ngày càng bị giới hạn bởi dung lượng bộ nhớ thay vì tính toán. Việc mở rộng các mô hình lớn vẫn gắn chặt với các cụm đa GPU, các hệ thống runtime phân tán phức tạp và mức tiêu thụ bộ nhớ máy chủ không thể đoán trước, tạo ra rào cản đáng kể cho các tác vụ hậu huấn luyện (post-training) quy mô nút như tinh chỉnh hướng dẫn (instruction tuning), căn chỉnh (alignment) và thích ứng miền (domain adaptation). Các framework offloading lấy GPU làm trung tâm không biến bộ nhớ máy chủ thành một kho lưu trữ tham số thực sự, dẫn đến việc mức tiêu thụ bộ nhớ máy chủ khó kiểm soát, dự đoán hoặc mở rộng tuyến tính với dung lượng mô hình. Các hệ thống hiện có về cơ bản thiếu khả năng giới hạn và cấu trúc việc sử dụng bộ nhớ, và các đồ thị autograd toàn cục không tương thích về mặt cấu trúc với việc streaming quy mô nút.

II. Main Idea:

Horizon-LM là một hệ thống huấn luyện tập trung vào bộ nhớ, định nghĩa lại vai trò của CPU và GPU cho việc tối ưu hóa mô hình lớn. Horizon-LM coi bộ nhớ máy chủ (host memory) là kho lưu trữ tham số chính thống và sử dụng GPU chỉ làm công cụ tính toán tạm thời thông qua mô hình thực thi CPU-master, GPU-template. Các ý tưởng chính bao gồm: loại bỏ các mô-đun và đồ thị autograd tồn tại cố định trên GPU; sử dụng cơ chế tính toán lại rõ ràng (explicit recomputation) với việc truyền gradient thủ công; và giới thiệu một engine thực thi theo kiểu đường ống (pipelined) với bộ đệm kép (double-buffered). Điều này giúp tách rời quy mô mô hình khỏi số lượng GPU và giới hạn việc sử dụng bộ nhớ theo lượng tham số lý thuyết. Các nguyên tắc thiết kế chính là: ưu tiên quyền sở hữu Host-First để tách rời dung lượng khỏi số lượng thiết bị; sử dụng thực thi rõ ràng từng khối (Explicit Block-wise Execution) để giới hạn dung lượng GPU; và xây dựng đường ống Streaming định hướng thông lượng (Throughput-Oriented Streaming Pipeline) để tối đa hóa hiệu suất.

III. Main Results:

Trên một GPU H200 duy nhất với 1.5 TB RAM máy chủ, Horizon-LM có thể huấn luyện các mô hình lên tới 120 tỷ tham số một cách đáng tin cậy, điều mà các hệ thống dựa trên offloading hiện có không thể hỗ trợ.
- Trên một máy A100 đơn tiêu chuẩn, Horizon-LM đạt thông lượng huấn luyện cao hơn tới 12.2 lần so với DeepSpeed ZeRO-3 khi có offloading CPU, đồng thời bảo toàn tính đúng đắn về mặt số học và đạt được các giải pháp cuối cùng tốt hơn.
- Trên nhiều nền tảng và quy mô khác nhau, Horizon-LM duy trì mức sử dụng thiết bị cao và ổn định cùng với sự tăng trưởng bộ nhớ có thể dự đoán được, chứng minh rằng bộ nhớ máy chủ (host memory), chứ không phải bộ nhớ GPU, định nghĩa ranh giới khả thi thực sự cho việc huấn luyện mô hình lớn quy mô nút.

IV. Conclusion & Future Works:

Horizon-LM phá vỡ sự ràng buộc giữa quy mô mô hình và số lượng GPU bằng cách nâng bộ nhớ máy chủ thành một kho lưu trữ tham số hạng nhất và định nghĩa lại GPU là công cụ tính toán tạm thời. Bằng cách tái cấu trúc quá trình huấn luyện thành một quy trình streaming tập trung vào bộ nhớ, Horizon-LM cho phép huấn luyện mô hình quy mô lớn trên một nút duy nhất. Thiết kế của hệ thống được định hướng bởi hai mục tiêu cốt lõi: đạt được khả năng mở rộng bộ nhớ độc lập với chiều sâu mô hình và duy trì thông lượng huấn luyện cao trong chế độ streaming liên tục.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu mở rộng kiến trúc Horizon-LM để hỗ trợ huấn luyện phân tán (distributed training) trên nhiều nút, nơi mỗi nút vẫn sử dụng mô hình CPU-master, GPU-cache nhưng có sự điều phối tham số giữa các nút thông qua mạng tốc độ cao, nhằm đạt được quy mô mô hình lớn hơn nữa.
Khám phá việc tích hợp các loại bộ nhớ mới (ví dụ: CXL memory, PMem) vào mô hình CPU-master của Horizon-LM để tăng cường hơn nữa dung lượng bộ nhớ máy chủ và tối ưu hóa băng thông truyền dữ liệu, cho phép huấn luyện các mô hình vượt quá 120B tham số trên một nút.
Nghiên cứu các chiến lược nén tham số (parameter compression) hoặc quantization kết hợp với kiến trúc Horizon-LM để giảm thiểu yêu cầu bộ nhớ máy chủ và băng thông PCIe, đồng thời duy trì hiệu suất mô hình, đặc biệt cho các tác vụ tinh chỉnh và thích ứng.

2. Patent:

Hệ thống tinh chỉnh LLM cá nhân trên điện thoại di động: Một hệ thống phần mềm trên điện thoại cho phép người dùng tinh chỉnh (fine-tune) các mô hình ngôn ngữ lớn nhỏ hoặc các phần của chúng để phù hợp với sở thích cá nhân, phong cách viết, hoặc các tác vụ cụ thể mà không cần máy chủ đám mây. Hệ thống sẽ sử dụng bộ nhớ RAM chính của điện thoại để lưu trữ toàn bộ hoặc phần lớn mô hình và các trạng thái liên quan, trong khi bộ xử lý đồ họa (GPU) tích hợp chỉ được sử dụng tạm thời cho các phép tính toán từng lớp một. Điều này giúp tối ưu hóa việc sử dụng tài nguyên hạn chế của điện thoại để cá nhân hóa AI một cách hiệu quả.
Quản lý bộ nhớ AI thông minh cho ứng dụng điện thoại đa nhiệm: Một công nghệ quản lý bộ nhớ thông minh cho phép các ứng dụng AI trên điện thoại (ví dụ: trợ lý ảo, dịch thuật, tạo nội dung) tải và giải phóng tài nguyên mô hình AI một cách linh hoạt. Thay vì giữ toàn bộ mô hình trong bộ nhớ đồ họa, hệ thống sẽ lưu trữ mô hình chính trong RAM của điện thoại và chỉ chuyển các phần cần thiết sang GPU khi có yêu cầu tính toán. Khi một ứng dụng không hoạt động hoặc chuyển sang nền, các phần không cần thiết sẽ ngay lập tức được giải phóng khỏi GPU, giúp các ứng dụng khác truy cập nhanh chóng tài nguyên GPU và tránh tình trạng tràn bộ nhớ hay giảm hiệu suất.
Tối ưu hóa phản hồi tức thì cho AI trên thiết bị di động: Một phương pháp tối ưu hóa để tăng tốc độ phản hồi của các chức năng AI trên điện thoại di động, đặc biệt là trong các ứng dụng đòi hỏi xử lý theo thời gian thực (ví dụ: nhận diện giọng nói liên tục, phân tích hình ảnh trực tiếp). Hệ thống sẽ sử dụng một đường ống xử lý dữ liệu song song, nơi bộ xử lý trung tâm (CPU) của điện thoại chuẩn bị và truyền dữ liệu cho các tác vụ AI một cách liên tục và không đồng bộ, trong khi bộ xử lý đồ họa (GPU) thực hiện tính toán. Việc này đảm bảo rằng dữ liệu luôn sẵn sàng cho GPU, loại bỏ thời gian chờ đợi và mang lại trải nghiệm người dùng mượt mà và tức thì cho các tính năng AI.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.04816
ArXiv Abstract	https://arxiv.org/abs/2602.04816
PDF Download	https://arxiv.org/pdf/2602.04816.pdf
Github Repository	https://github.com/DLYuanGod/Horizon-LM

23. From Data to Behavior: Predicting Unintended Model Behaviors Before Training (14 votes)

Tác giả: Mengru Wang, Zhenqian Xu, Junfeng Fang, Yunzhi Yao, Shumin Deng, Huajun Chen, Ningyu Zhang

Xuất bản lúc: 2026-02-04

Tag: LLMs, Bias Detection, Safety Risks, Mechanistic Interpretability, Data-centric AI, Pre-training Prediction

I. Main Problem:

Các Mô hình Ngôn ngữ Lớn (LLMs) có thể vô tình hấp thụ các thành kiến không mong muốn và rủi ro an toàn từ dữ liệu huấn luyện tưởng chừng vô hại, ngay cả khi không có các tín hiệu rõ ràng hoặc nội dung độc hại. Các phương pháp hiện có gặp khó khăn trong việc phát hiện những rủi ro này trước khi fine-tuning, khiến việc đánh giá hậu kỳ trở nên tốn kém và kém hiệu quả.

II. Main Idea:

Để giải quyết vấn đề trên, nghiên cứu giới thiệu một nhiệm vụ mới tên là Data2Behavior: dự đoán các hành vi không mong muốn của mô hình trước khi huấn luyện. Sau đó, đề xuất phương pháp Manipulating Data Features (MDF), một cách tiếp cận nhẹ nhàng tổng hợp dữ liệu ứng cử viên thông qua biểu diễn trung bình của chúng và tiêm chúng vào quá trình forward pass của một mô hình cơ sở (vanilla model). Điều này cho phép các tín hiệu thống kê tiềm ẩn trong dữ liệu định hình các kích hoạt của mô hình và tiết lộ các thành kiến tiềm tàng cùng rủi ro an toàn mà không cần cập nhật bất kỳ tham số nào.

III. Main Results:

Phương pháp MDF có thể dự đoán đáng tin cậy các hành vi không mong muốn.
MDF chỉ tiêu thụ khoảng 20% tài nguyên GPU so với việc fine-tuning, thể hiện hiệu quả tính toán vượt trội (tăng tốc độ 4x đến 10x).
Các thí nghiệm trên Qwen3-14B, Qwen2.5-32B-Instruct và Gemma-3-12b-it xác nhận rằng MDF có thể dự đoán trước các hành vi không mong muốn và cung cấp cái nhìn sâu sắc về các lỗ hổng trước khi huấn luyện.
MDF dự đoán chính xác sự gia tăng độ lệch và rủi ro an toàn ngay cả khi dữ liệu huấn luyện dường như lành tính và không chứa nội dung an toàn rõ ràng.
Thể hiện khả năng khái quát hóa mạnh mẽ trên các mô hình và quy mô khác nhau.
Có thể đạt được xu hướng dự đoán khả quan chỉ với một vài mẫu dữ liệu.

IV. Conclusion & Future Works:

Kết luận: Nghiên cứu giới thiệu nhiệm vụ mới "Dự đoán Hành vi Mô hình Không mong muốn trước khi Huấn luyện" (Data2Behavior) và phương pháp MDF hiệu quả để giải quyết nó. MDF trích xuất và thao túng các đặc trưng phong phú của dữ liệu huấn luyện thông qua các biểu diễn trong quá trình suy luận, đạt được hiệu suất hứa hẹn trong việc dự đoán rủi ro từ dữ liệu huấn luyện trước khi fine-tuning. Nghiên cứu cũng phân tích sự tương tác giữa dữ liệu-mô hình-hành vi, chứng minh tiềm năng của các chiến lược lấy dữ liệu làm trung tâm như một mô hình hứa hẹn để phát triển LLM đáng tin cậy. Công việc trong tương lai:

Mở rộng và xác thực khuôn khổ trên nhiều họ mô hình hơn, đặc biệt là các kiến trúc mã nguồn đóng yêu cầu quyền truy cập vào các kích hoạt nội bộ.
Phát triển phương pháp xác định đóng góp rủi ro của từng mẫu dữ liệu (instance-level attribution) thay vì chỉ dự đoán cho toàn bộ tập dữ liệu.
Khám phá cách MDF hoạt động và điều chỉnh nó khi dữ liệu huấn luyện là hỗn hợp giữa các trường hợp bình thường và thành kiến, nơi độ phức tạp của nhiệm vụ sẽ tăng lên.

V. Brainstorming Space:

1. Publish Papers:

Phát triển kỹ thuật Data2Behavior cho các mô hình ngôn ngữ lớn nguồn đóng, nơi quyền truy cập vào các kích hoạt nội bộ bị hạn chế.
Nghiên cứu các phương pháp gán thuộc tính mức cá thể (instance-level attribution) để xác định chính xác các mẫu dữ liệu cụ thể gây ra hành vi không mong muốn.
Điều tra hiệu quả của MDF trong các kịch bản dữ liệu huấn luyện phức tạp, bao gồm cả hỗn hợp dữ liệu bình thường và dữ liệu có thành kiến ngầm.

2. Patent:

Công cụ đánh giá an toàn cho trợ lý AI cá nhân (trên điện thoại): Một tính năng trên ứng dụng điện thoại cho phép người dùng kiểm tra trước dữ liệu họ dùng để huấn luyện trợ lý AI cá nhân (ví dụ: trợ lý quản lý lịch trình, smart home) về các xu hướng thành kiến hoặc phản hồi không an toàn tiềm ẩn. Ứng dụng sẽ cảnh báo người dùng về những hành vi không mong muốn trước khi AI được kích hoạt hoặc cập nhật, giúp đảm bảo AI luôn hoạt động đúng mục đích và an toàn.
Ứng dụng sàng lọc nội dung cho nhà sáng tạo kỹ thuật số: Một công cụ di động dành cho các nhà sáng tạo nội dung trên mạng xã hội. Ứng dụng này sẽ quét trước các bài đăng, kịch bản video hoặc mô tả hình ảnh mà họ định sử dụng để huấn luyện mô hình AI tạo nội dung hoặc đề xuất. Nó giúp phát hiện các thành kiến tinh vi (ví dụ: liên quan đến giới tính, chủng tộc, văn hóa) hoặc ngôn ngữ không phù hợp có thể vô tình ảnh hưởng đến hành vi của AI, từ đó hỗ trợ tạo ra nội dung AI công bằng và an toàn hơn.
Hệ thống kiểm tra thành kiến cho nền tảng học tập cá nhân hóa: Một chức năng trong ứng dụng giáo dục sử dụng AI để cá nhân hóa lộ trình học tập. Tính năng này sẽ phân tích dữ liệu đầu vào của học sinh (ví dụ: sở thích đọc, phong cách học) để dự đoán liệu gia sư AI cá nhân hóa có thể vô tình thể hiện các thành kiến (ví dụ: thiên vị một môn học, không khuyến khích một ngành nghề cụ thể) trước khi nó ảnh hưởng đến quá trình học tập. Ứng dụng sẽ đề xuất điều chỉnh hoặc cảnh báo về các khu vực có nguy cơ.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.04735
ArXiv Abstract	https://arxiv.org/abs/2602.04735
PDF Download	https://arxiv.org/pdf/2602.04735.pdf
Github Repository	https://github.com/zjunlp/Data2Behavior

24. Agent-Omit: Training Efficient LLM Agents for Adaptive Thought and Observation Omission via Agentic Reinforcement Learning (12 votes)

Tác giả: Yansong Ning, Jun Fang, Naiqiang Tan, Hao Liu

Xuất bản lúc: 2026-02-04

Tag: LLMs, Reinforcement Learning, Agentic AI, Context Management, Efficiency

I. Main Problem:

Các tác nhân Large Language Model (LLM) hiện tại gặp phải vấn đề về việc tạo ra suy nghĩ (thought) thừa thãi và tích lũy ngữ cảnh quan sát (observation) quá mức trong các tương tác đa lượt với môi trường. Các phương pháp quản lý ngữ cảnh hiện có thường xử lý toàn bộ quỹ đạo tương tác một cách đồng nhất, không tính đến sự thật rằng tính cần thiết của suy nghĩ và tính hữu ích của quan sát khác nhau đáng kể qua từng lượt. Điều này làm hạn chế hiệu quả và khả năng ứng dụng thực tế của các tác nhân LLM.

II. Main Idea:

Đề xuất Agent-Omit, một khuôn khổ huấn luyện thống nhất cho phép các tác nhân LLM bỏ qua (omit) một cách thích ứng các suy nghĩ và quan sát thừa thãi. Cách tiếp cận này bao gồm hai giai đoạn chính:

Tổng hợp hành vi bỏ qua tác nhân cho khởi động lạnh (Agent Omission Behavior Synthesis for Cold Start):
- Tiến hành phân tích định lượng để chứng minh rằng tính cần thiết của suy nghĩ và tính hữu ích của quan sát thay đổi theo từng lượt, và việc bỏ qua chọn lọc có thể giảm chi phí token mà không làm giảm độ chính xác.
- Tổng hợp một lượng nhỏ dữ liệu khởi động lạnh, bao gồm các kịch bản bỏ qua đơn lượt và đa lượt, để tinh chỉnh ban đầu tác nhân học cách thực hiện hành vi bỏ qua (ví dụ: tạo suy nghĩ rỗng hoặc lệnh bỏ qua quan sát cụ thể) và duy trì tính liên tục của suy luận dưới ngữ cảnh bị lược bỏ.
Học tăng cường tác nhân nhận biết bỏ qua (Omit-Aware Agentic Reinforcement Learning):
- Giới thiệu một chiến lược lấy mẫu kép, bao gồm lấy mẫu quỹ đạo đầy đủ (Full Trajectory) để đánh giá hiệu quả tổng thể và lấy mẫu quỹ đạo một phần (Partial Trajectory) để tác nhân có thể học chính sách bỏ qua dựa trên ngữ cảnh trước khi bị lược bỏ.
- Thiết kế một cơ chế phần thưởng nhận biết bỏ qua, kết hợp phần thưởng nhiệm vụ (Task Reward) cho độ chính xác và phần thưởng bỏ qua (Omission Reward) tùy chỉnh (dựa trên tỷ lệ token tiết kiệm được và chỉ được kích hoạt khi nhiệm vụ thành công) để khuyến khích khả năng bỏ qua thích ứng của tác nhân.
- Sử dụng học chính sách đa mục tiêu (Multi-Objective Policy Learning) với Group Relative Policy Optimization (GRPO) để tối ưu hóa chính sách của tác nhân, cân bằng giữa thành công nhiệm vụ và chi phí ngữ cảnh tối thiểu.

Đồng thời, công trình cung cấp một phân tích lý thuyết, chứng minh rằng độ lệch của chính sách bỏ qua được học có giới hạn trên bởi KL-divergence, đảm bảo sự hội tụ về biên hiệu quả-hiệu suất tối ưu.

III. Main Results:

So sánh với tác nhân LLM tiên tiến: Agent-Omit-8B-RL đạt được độ chính xác Pass@1 cao nhất trên hầu hết các benchmark (WebShop, TextCraft, BabyAI, SciWorld) và cạnh tranh trên DeepSearch, đồng thời giảm đáng kể chi phí token so với các mô hình suy luận như DeepSeek-R1-0528 và Qwen3-32B.
So sánh với phương pháp xây dựng tác nhân hiệu quả: Khi áp dụng trên Qwen3-8B, Agent-Omit liên tục vượt trội các phương pháp quản lý suy nghĩ (ví dụ: Thinking-Retention, DEPO), quản lý quan sát (ví dụ: Observation-Mask, DeepMiner), và quản lý cả suy nghĩ và quan sát (ví dụ: MEM-Agent, ReSum) về cả độ chính xác cao nhất và chi phí token trung bình thấp nhất trên tất cả năm benchmark.
Nghiên cứu cắt bỏ (Ablation Study): Cả giai đoạn SFT (Cold Start) và RL (Reinforcement Learning) đều đóng góp đáng kể. Trong SFT, dữ liệu bỏ qua đơn lượt (Single-Turn Omission data) là yếu tố chi phối. Trong RL, lấy mẫu quỹ đạo một phần (Partial Trajectory sampling) đóng vai trò quan trọng hơn, và phần thưởng bỏ qua (Omission Reward) là yếu tố chính để cải thiện hiệu quả token.
Phân tích sâu về hành vi bỏ qua: Tác nhân được huấn luyện có khả năng thích ứng để bỏ qua trung bình 3 đến 4 lượt suy nghĩ hoặc quan sát dư thừa trên mỗi quỹ đạo. Tần suất bỏ qua đạt đỉnh trong các lượt tương tác giữa (từ lượt 3 đến lượt 10), xác nhận rằng các suy nghĩ và quan sát dư thừa chủ yếu xuất hiện trong giai đoạn giữa của quá trình tương tác.

IV. Conclusion & Future Works:

Kết luận: Công trình này đã thiết lập một khuôn khổ phân tích cấp lượt, định lượng cách suy nghĩ và quan sát ảnh hưởng đến hiệu quả và hiệu suất của tác nhân LLM qua các lượt tương tác khác nhau. Dựa trên phân tích này, chúng tôi đề xuất Agent-Omit, một khuôn khổ được hỗ trợ bởi cả thực nghiệm và lý thuyết, cho phép huấn luyện tác nhân LLM hiệu quả thông qua tinh chỉnh khởi động lạnh dựa trên dữ liệu bỏ qua và học tăng cường tác nhân nhận biết bỏ qua. Các thí nghiệm sâu rộng trên năm benchmark đa dạng đã chứng minh rằng Agent-Omit cho phép các LLM có kích thước nhỏ hơn vượt trội đáng kể bảy tác nhân LLM tiên tiến và đạt được sự cân bằng hiệu quả-hiệu suất tốt hơn so với bảy phương pháp tác nhân hiệu quả khác.

Công việc tương lai: Sẽ tập trung vào việc mở rộng quy trình tổng hợp dữ liệu bỏ qua đến giai đoạn tiền huấn luyện quy mô lớn, và mở rộng mô hình huấn luyện này cho các mô hình ngôn ngữ lớn hơn.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu các phương pháp tiên tiến để tự động tạo dữ liệu bỏ qua (omission data) chất lượng cao và đa dạng hơn, có thể sử dụng các kỹ thuật tổng hợp dựa trên mô hình (model-based synthesis) hoặc học tăng cường tự động (auto-RL) để giảm sự phụ thuộc vào rollout thủ công và mở rộng quy mô huấn luyện.
Khám phá việc tích hợp cơ chế quản lý ngữ cảnh thích ứng như Agent-Omit trực tiếp vào kiến trúc của các mô hình ngôn ngữ lớn trong giai đoạn tiền huấn luyện, thay vì chỉ tinh chỉnh sau. Điều này có thể dẫn đến các LLM tự nhiên có khả năng quản lý ngữ cảnh hiệu quả hơn từ đầu.
Mở rộng khung Agent-Omit để xử lý đa phương thức (multimodal) bằng cách thích ứng bỏ qua các loại quan sát không chỉ là văn bản mà còn là hình ảnh, video hoặc tín hiệu âm thanh, nhằm tối ưu hóa hiệu quả cho các tác nhân Vision-Language Action trong môi trường phức tạp.

2. Patent:

Một hệ thống trợ lý ảo trên điện thoại có khả năng tự động điều chỉnh độ chi tiết của suy nghĩ nội bộ và lịch sử tương tác hiển thị cho người dùng. Ví dụ, khi người dùng thực hiện một tác vụ lặp lại (như bật đèn phòng), trợ lý có thể bỏ qua các bước 'suy luận' trung gian và trực tiếp hiển thị hành động, giúp phản hồi nhanh hơn và giảm tải hiển thị thông tin không cần thiết trên màn hình điện thoại.
Công nghệ tối ưu hóa giao diện người dùng (UI) dựa trên AI cho các ứng dụng đa bước trên điện thoại thông minh (ví dụ: ứng dụng mua sắm, đặt lịch). Hệ thống sẽ học cách 'bỏ qua' các thông tin lịch sử hoặc các bước suy nghĩ không còn hữu ích trong bối cảnh hiện tại, tự động ẩn bớt các chi tiết thừa thãi trên màn hình, giúp người dùng tập trung vào thông tin quan trọng nhất và hoàn thành tác vụ nhanh chóng hơn mà không bị quá tải thông tin.
Một phương pháp quản lý tài nguyên tiết kiệm năng lượng cho các ứng dụng AI chạy nền trên điện thoại di động. Hệ thống sẽ sử dụng một 'bộ lọc bỏ qua thông minh' để quyết định khi nào nên lược bỏ việc xử lý các 'suy nghĩ' hoặc 'quan sát' không cần thiết của AI, đặc biệt khi ứng dụng đang ở chế độ nền hoặc khi pin điện thoại yếu. Điều này giúp kéo dài thời lượng pin và cải thiện hiệu suất tổng thể của điện thoại mà không làm ảnh hưởng đến chức năng cốt lõi của ứng dụng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.04284
ArXiv Abstract	https://arxiv.org/abs/2602.04284
PDF Download	https://arxiv.org/pdf/2602.04284.pdf
Github Repository	https://github.com/usail-hkust/Agent-Omit

25. D-CORE: Incentivizing Task Decomposition in Large Reasoning Models for Complex Tool Use (12 votes)

Tác giả: Bowen Xu, Shaoyu Wu, Hao Jiang, Kai Liu, Xin Chen, Lulu Hu, Bin Yang

Xuất bản lúc: 2026-02-02

Tag: LLMs, Reinforcement Learning, Tool Use, Task Decomposition, Self-Distillation, Reasoning Models

I. Main Problem:

Các mô hình suy luận lớn (LRMs) hiện tại thiếu khả năng phân rã nhiệm vụ thành các tác vụ con trong các kịch bản sử dụng công cụ phức tạp, dẫn đến hiện tượng "Suy luận lười biếng" (Lazy Reasoning). Điều này làm giảm hiệu quả suy luận và khả năng sử dụng công cụ của chúng, đặc biệt trong các tình huống yêu cầu nhiều bước hoặc nhiều lượt tương tác. Các phương pháp đào tạo hiện tại, như fine-tuning có giám sát (SFT) hoặc học tăng cường (RL) đơn thuần, không thể giải quyết hiệu quả vấn đề này, dẫn đến hiệu suất thấp và khả năng khái quát hóa kém.

II. Main Idea:

Các tác giả đề xuất D-CORE (Decomposing tasks and Composing Reasoning processes), một khung đào tạo hai giai đoạn để giải quyết vấn đề "Suy luận lười biếng".

Tăng cường phân rã nhiệm vụ bằng tự chưng cất (Self-Distillation): Giai đoạn này khuyến khích khả năng phân rã nhiệm vụ của LRMs bằng cách tự chưng cất. Mô hình tự tạo ra các quỹ đạo suy luận chất lượng cao bằng cách phân rã các truy vấn phức tạp thành các tác vụ con, sau đó thực hiện từng tác vụ và tổng hợp lại các quỹ đạo suy luận hoàn chỉnh. Điều này giúp mô hình học được các chiến lược sử dụng công cụ tuần tự mà không cần nhãn thủ công bổ sung.
Học tăng cường nhận biết đa dạng (Diversity-Aware GRPO - DA-GRPO): Sau khi tự chưng cất, mô hình có thể giảm khả năng suy luận phản biện và khám phá do sự đồng nhất. DA-GRPO được giới thiệu để khắc phục điều này bằng cách bổ sung một thuật ngữ điều hòa entropy vào hàm lợi thế của GRPO. Thuật ngữ này giúp duy trì sự đa dạng trong suy luận và khuyến khích mô hình tạo ra các token có entropy cao (liên quan đến suy luận phản biện), từ đó khôi phục khả năng khám phá và suy luận phản biện, cho phép mô hình tự chủ phân rã nhiệm vụ và sử dụng công cụ hiệu quả hơn.

III. Main Results:

Hiệu suất vượt trội trên các benchmark: D-CORE đạt được những cải thiện đáng kể trong việc sử dụng công cụ trên các benchmark đa dạng.
- Trên BFCLv3: D-CORE-8B đạt độ chính xác 77.7%, vượt qua mô hình 8B tốt nhất trước đó 5.7%. D-CORE-14B thiết lập kỷ lục mới với 79.3% độ chính xác, vượt trội so với các mô hình 70B dù có kích thước nhỏ hơn 5 lần. Đặc biệt, nó cải thiện đáng kể (30.8%) trong các tác vụ multi-turn đầy thách thức.
- Trên τ-bench: D-CORE cải thiện độ chính xác 18.6% cho Qwen3-8B và 17.7% cho Qwen3-14B. D-CORE-14B đạt độ chính xác cao nhất 46.0% trong tác vụ τ-airline phức tạp.
Khả năng khái quát hóa tốt: D-CORE cho thấy khả năng khái quát hóa mạnh mẽ trên các tác vụ phân phối ngoài (out-of-distribution tasks) như ACEBench, τ2-Bench và BFCLv4-agentic, chứng tỏ các cải tiến về phân rã nhiệm vụ và suy luận là nội tại chứ không phải do overfitting.
Giảm thiểu "Lazy Reasoning": D-CORE giảm đáng kể tỷ lệ "Suy luận lười biếng" trong các câu trả lời sai cho các tác vụ multi-turn, ví dụ, từ 45% xuống 6% trong tác vụ Multi-Turn đối với mô hình 8B.
Hiệu quả của tự chưng cất và DA-GRPO: Tự chưng cất giúp tăng khả năng phân rã nhiệm vụ, và DA-GRPO khôi phục khả năng suy luận phản biện bị giảm sau tự chưng cất, đảm bảo tối ưu hóa RL nhắm mục tiêu cả việc sử dụng công cụ chính xác và suy luận phản biện nâng cao.

IV. Conclusion & Future Works:

Công trình này đã nghiên cứu một cách hệ thống các Mô hình Suy luận Lớn (LRMs) trong các tác vụ sử dụng công cụ và xác định rằng "Suy luận lười biếng" trong các kịch bản phức tạp xuất phát từ khả năng phân rã nhiệm vụ không đủ. Để giải quyết vấn đề này, các tác giả đề xuất D-CORE, một khung làm việc kết hợp tự chưng cất (self-distillation) và học tăng cường nhận biết đa dạng (DA-GRPO). D-CORE đã đạt được kết quả tiên tiến trên các benchmark BFCL-v3 và τ-Bench. Công việc trong tương lai sẽ bao gồm mở rộng khung này sang các mô hình đa phương thức (multimodal models) và khám phá các thuật toán học tăng cường tiên tiến hơn để tối ưu hóa suy luận hiệu quả.

V. Brainstorming Space:

1. Publish Papers:

Tăng cường khả năng phân rã nhiệm vụ cho mô hình đa phương thức: Nghiên cứu cách tích hợp D-CORE vào các mô hình đa phương thức (ví dụ: Vision-Language Action models) để chúng có thể phân rã các nhiệm vụ phức tạp liên quan đến nhiều loại dữ liệu (văn bản, hình ảnh, âm thanh) thành các bước nhỏ hơn và sử dụng công cụ tương ứng.
Khám phá các thuật toán RL tiên tiến cho suy luận hiệu quả: Phát triển và thử nghiệm các thuật toán học tăng cường mới ngoài GRPO, tập trung vào việc cân bằng giữa khám phá và khai thác trong quá trình suy luận, đặc biệt là trong các môi trường có phản hồi chậm hoặc không rõ ràng.
Phân tích sâu hơn về hiện tượng "Lazy Reasoning" và các biện pháp khắc phục: Thực hiện một nghiên cứu chi tiết hơn về các yếu tố gây ra "Lazy Reasoning" trong các mô hình suy luận, bao gồm các kiến trúc mô hình, dữ liệu huấn luyện, và độ phức tạp nhiệm vụ. Đề xuất các chiến lược đào tạo hoặc kiến trúc mô hình mới để phòng ngừa hoặc giảm thiểu hiện tượng này một cách hiệu quả hơn.

2. Patent:

Hệ thống trợ lý ảo thông minh trên điện thoại có khả năng lập kế hoạch nhiều bước: Một ứng dụng di động sử dụng công nghệ giúp trí tuệ nhân tạo có thể chia nhỏ yêu cầu phức tạp của người dùng (ví dụ: "Tìm chuyến bay giá rẻ nhất đến Đà Nẵng vào cuối tuần này, sau đó đặt phòng khách sạn gần biển và tạo lịch trình tham quan một số địa điểm nổi tiếng") thành các tác vụ nhỏ hơn. Hệ thống sẽ tự động sử dụng các ứng dụng du lịch, đặt phòng và bản đồ trên điện thoại, đồng thời giải thích từng bước thực hiện cho người dùng.
Công cụ tự động sửa lỗi và tối ưu hóa quy trình làm việc trên điện thoại: Một tính năng trên điện thoại di động giúp người dùng tự động sửa lỗi hoặc tối ưu hóa các chuỗi hành động thường ngày. Ví dụ, khi người dùng cố gắng gửi một tệp lớn qua email mà không có kết nối Wi-Fi, hệ thống sẽ chia nhỏ vấn đề ("tệp quá lớn", "không có Wi-Fi"), đề xuất giải pháp ("nén tệp", "tìm Wi-Fi", "sử dụng dịch vụ lưu trữ đám mây"), và tự động thực hiện các bước như nén tệp hoặc tải lên Google Drive, sau đó gửi liên kết.
Giao diện người dùng thích ứng dựa trên phân rã nhiệm vụ cho ứng dụng quản lý: Một giao diện người dùng trên điện thoại cho các ứng dụng quản lý công việc hoặc tài chính, nơi trí tuệ nhân tạo quan sát các tác vụ thường xuyên và đề xuất cách chia nhỏ chúng thành các bước logic. Ví dụ, khi người dùng cần thanh toán nhiều hóa đơn, hệ thống sẽ phân rã thành "xác định hóa đơn cần thanh toán", "lấy thông tin thanh toán", "thực hiện giao dịch". AI có thể học hỏi từ thói quen của người dùng để tự động hóa hoặc đơn giản hóa các bước, ví dụ, tự động điền thông tin thanh toán cho các hóa đơn định kỳ, giúp người dùng thực hiện các công việc phức tạp trên điện thoại hiệu quả hơn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.02160
ArXiv Abstract	https://arxiv.org/abs/2602.02160
PDF Download	https://arxiv.org/pdf/2602.02160.pdf
Github Repository	https://github.com/alibaba/EfficientAI

26. Quantifying the Gap between Understanding and Generation within Unified Multimodal Models (12 votes)

Tác giả: Chenlong Wang, Yuhang Chen, Zhihan Hu, Dongping Chen, Wenhu Chen, Sarah Wiegreffe, Tianyi Zhou

Xuất bản lúc: 2026-02-02

Tag: Unified Multimodal Models, Understanding, Generation, Benchmark, Knowledge Manipulation

I. Main Problem:

Mặc dù các mô hình đa phương thức hợp nhất (UMMs) đã đạt được tiến bộ đáng kể trong cả nhiệm vụ hiểu và tạo, nhưng vẫn chưa rõ liệu hai khả năng này có thực sự được căn chỉnh và tích hợp sâu sắc trong một mô hình duy nhất hay không. Các mô hình hiện tại chỉ đạt được sự hợp nhất ở cấp độ bề mặt chứ không phải sự hội tụ nhận thức sâu sắc giữa hai khả năng. Kiến thức trong UMMs thường vẫn rời rạc và sự xuất hiện khả năng cũng như kiến thức trên các phương thức là không đồng bộ, tạo ra một khoảng cách đáng kể giữa việc hiểu và tạo.

II. Main Idea:

Để giải quyết vấn đề này, các tác giả giới thiệu GAPEVAL, một bộ benchmark hai chiều được thiết kế để định lượng khoảng cách giữa khả năng hiểu và tạo của UMMs. Mỗi câu hỏi trong GAPEVAL có thể được trả lời bằng cả hai phương thức (hình ảnh và văn bản), cho phép đánh giá đối xứng khả năng suy luận hai chiều và tính nhất quán xuyên phương thức của mô hình. Bài báo cũng đề xuất Gap Score, một chỉ số được xây dựng dựa trên lý thuyết phản hồi mục đa chiều (MIRT) để định lượng khoảng cách này. GAPEVAL bao gồm bốn danh mục: Tuân thủ Hướng dẫn (Instruction Following), Nhận thức Số học (Numerical Perception), Kiến thức Thế giới (World Knowledge) và Suy luận (Reasoning). Ngoài ra, nghiên cứu còn thực hiện một phân tích chuyên sâu từ góc độ thao tác kiến thức (tiêm hoặc chỉnh sửa kiến thức ở một phương thức và đánh giá ảnh hưởng lên cả hai) để minh họa các hạn chế tiềm ẩn và cơ chế underlying của khoảng cách này.

III. Main Results:

Các thí nghiệm trên GAPEVAL cho thấy một khoảng cách đáng kể và dai dẳng giữa khả năng hiểu và tạo trên một loạt các UMMs. Hầu hết các UMMs chỉ có thể trả lời đúng câu hỏi ở một dạng nhưng không thể tận dụng cùng một kiến thức cơ bản khi phương thức được chuyển đổi. Việc hợp nhất các phương thức không nhất thiết mang lại hiệu suất cân bằng và hiệu suất tốt không luôn tương ứng với mức độ hợp nhất cao. Một hiệu ứng tụt hậu về hiệu suất cũng được quan sát, trong đó khoảng cách phương thức ban đầu tăng lên đối với các mô hình có hiệu suất thấp hơn nhưng giảm dần khi khả năng tổng thể đạt mức cao. Hơn nữa, kiến thức trong UMMs vẫn còn rời rạc giữa các phương thức, và việc huấn luyện không cân bằng dẫn đến sự sai lệch nghiêm trọng xuyên phương thức, ngăn cản việc cập nhật kiến thức nhất quán. Sự hội tụ không cân bằng và chậm hơn của các phương thức khác nhau cũng giải thích sự chậm trễ trong hiệu suất và khẳng định sự tồn tại của động lực học học tập đặc thù theo phương thức trong UMMs.

IV. Conclusion & Future Works:

Nghiên cứu kết luận rằng các mô hình đa phương thức hợp nhất hiện tại chỉ đạt được sự hợp nhất ở cấp độ kỹ thuật, không phải là sự hội tụ nhận thức sâu sắc. Các thí nghiệm tiếp theo đã khám phá khoảng cách này thông qua việc điều chỉnh thao tác kiến thức, cho thấy sự phân tách kiến thức rõ ràng giữa hai khả năng (hiểu và tạo) trong các mô hình. Những phát hiện này đặt nền móng cho việc nghiên cứu và phát triển các phương pháp tiếp cận mới nhằm đạt được sự hợp nhất cấp độ tiếp theo cho các UMMs, hướng tới sự tích hợp sâu sắc và nhất quán hơn về kiến thức và khả năng trên các phương thức.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu các kiến trúc mô hình mới nhằm đạt được sự hội tụ nhận thức sâu sắc giữa khả năng hiểu và tạo, vượt qua sự hợp nhất chỉ ở cấp độ kỹ thuật thông qua các cơ chế chia sẻ kiến thức tiên tiến.
Phát triển các phương pháp đào tạo và điều chỉnh kiến thức cân bằng hơn để đảm bảo tính nhất quán và chuyển giao kiến thức hiệu quả giữa các phương thức trong UMMs, đặc biệt tập trung vào các chiến lược để đồng bộ hóa tốc độ học tập của các phương thức.
Thiết kế các cơ chế đồng bộ hóa và điều chỉnh kiến thức động giữa các phương thức để giải quyết vấn đề phân tách kiến thức và tối ưu hóa sự hội tụ của khả năng hiểu và tạo, có thể thông qua các phương pháp Knowledge Graph hoặc Explicit Memory.

2. Patent:

Ứng dụng 'Trợ lý Hình ảnh Sáng tạo' trên điện thoại di động: Người dùng nhập một mô tả văn bản (ví dụ: 'tạo ảnh một con mèo đang chơi guitar') và ứng dụng tạo ra hình ảnh. Sau đó, người dùng có thể tương tác với hình ảnh đã tạo bằng cách đặt câu hỏi về nó (ví dụ: 'con mèo có màu gì?') hoặc yêu cầu chỉnh sửa nhỏ (ví dụ: 'thay đổi màu guitar thành đỏ'), đảm bảo sự nhất quán trong nhận diện và chỉnh sửa đa phương thức.
Hệ thống 'Chỉnh sửa Số lượng Thông minh' tích hợp vào ứng dụng camera điện thoại: Người dùng chụp ảnh các vật thể số lượng nhiều (ví dụ: 5 cái cốc và 3 cái đĩa). Ứng dụng có thể nhận diện và đếm số lượng từng loại. Sau đó, người dùng ra lệnh bằng văn bản hoặc giọng nói (ví dụ: 'tạo ảnh có 3 cái cốc và 5 cái đĩa') và ứng dụng sẽ tạo ra một hình ảnh mới hoặc chỉnh sửa hình ảnh gốc với số lượng vật thể đã được hoán đổi một cách chính xác.
Chức năng 'Khám phá Kiến thức Đa phương thức' cho trình duyệt web hoặc ứng dụng giáo dục trên điện thoại: Khi người dùng thấy một hình ảnh chưa rõ (ví dụ: một bức tranh nổi tiếng, một danh lam thắng cảnh), họ có thể chụp ảnh và ứng dụng sẽ nhận diện, cung cấp thông tin văn bản về tác phẩm/địa điểm đó. Đồng thời, người dùng có thể yêu cầu ứng dụng tạo ra một hình ảnh liên quan (ví dụ: 'tạo ảnh tác giả bức tranh' hoặc 'tạo ảnh địa điểm đó vào mùa đông') để mở rộng kiến thức một cách tương tác.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.02140
ArXiv Abstract	https://arxiv.org/abs/2602.02140
PDF Download	https://arxiv.org/pdf/2602.02140.pdf
Github Repository	N/A

27. SpatiaLab: Can Vision-Language Models Perform Spatial Reasoning in the Wild? (11 votes)

Tác giả: Azmine Toushik Wasi, Wahid Faisal, Abdur Rahman, Mahfuz Ahmed Anik, Munem Shahriar, Mohsin Mahmud Topu, Sadia Tasnim Meem, Rahatun Nesa Priti, Sabrina Afroz Mitu, Md. Iqramul Hoque, Shahriyar Zaman Ridoy, Mohammed Eunus Ali, Majd Hawasly, Mohammad Raza, Md Rizwan Parvez

Xuất bản lúc: 2026-02-03

Tag: Vision-Language Models, Spatial Reasoning, Benchmarking, Deep Learning, Computer Vision, Natural Language Processing

I. Main Problem:

Các mô hình Vision-Language (VLM) hiện đại gặp thách thức lớn trong khả năng suy luận không gian, một khía cạnh cơ bản của nhận thức con người. Các nghiên cứu trước đây chủ yếu dựa vào môi trường tổng hợp hoặc được tạo bởi LLM với thiết kế nhiệm vụ và cấu trúc giống câu đố hạn chế, không thể nắm bắt được sự phức tạp của thế giới thực, nhiễu hình ảnh và các mối quan hệ không gian đa dạng mà VLM gặp phải. Các benchmark hiện có quá hẹp và đơn giản, dẫn đến việc các mô hình thể hiện tốt trên chúng nhưng lại thất bại khi đối mặt với các nhiệm vụ suy luận đa bước, phức tạp trong môi trường thực tế.

II. Main Idea:

Để giải quyết vấn đề trên, nghiên cứu giới thiệu SPATIALAB, một bộ benchmark toàn diện để đánh giá khả năng suy luận không gian của VLM trong các bối cảnh thực tế, không bị ràng buộc. SPATIALAB bao gồm 1.400 cặp câu hỏi-trả lời trực quan thuộc sáu danh mục chính (Định vị Tương đối, Chiều sâu & Che khuất, Hướng, Kích thước & Tỷ lệ, Điều hướng Không gian và Hình học 3D), mỗi danh mục có năm danh mục phụ, tạo ra 30 loại nhiệm vụ riêng biệt. Benchmark hỗ trợ cả đánh giá trắc nghiệm và câu hỏi mở. Nghiên cứu cũng thực hiện đánh giá toàn diện hơn 25 mô hình VLM tiên tiến và khám phá các chiến lược để nâng cao khả năng suy luận không gian của VLM, bao gồm fine-tuning có giám sát (SFT), nhắc nhở Chain-of-Thought (CoT), CoT với tự phản tư, và kiến trúc đa tác nhân với suy luận đa bước.

III. Main Results:

Các thí nghiệm trên nhiều mô hình VLM tiên tiến cho thấy một khoảng cách đáng kể trong khả năng suy luận không gian so với con người. Trong thiết lập trắc nghiệm, InternVL3.5-72B đạt độ chính xác 54,93% so với 87,57% của con người. Trong thiết lập câu hỏi mở, tất cả các mô hình đều giảm hiệu suất khoảng 10–25%, với GPT-5-mini đạt cao nhất là 40,93% so với 64,93% của con người. Sự chênh lệch hiệu suất trung bình giữa MCQ và câu hỏi mở là 23,0%. Phân tích lỗi chi tiết cho thấy các hạn chế chính trong việc xử lý các mối quan hệ không gian phức tạp, nhận thức chiều sâu, điều hướng và hình học 3D. Các phương pháp cải thiện như SFT cho thấy lợi ích trong các nhiệm vụ MCQ có cấu trúc nhưng ít hoặc không có tác dụng với câu hỏi mở. Chain-of-Thought và các hệ thống đa tác nhân chỉ mang lại lợi ích cục bộ, đôi khi còn làm giảm hiệu suất ở các danh mục khác, cho thấy chúng không thể bù đắp cho sự thiếu hụt trong khả năng nhận thức cơ bản.

IV. Conclusion & Future Works:

Suy luận không gian vẫn là một nút thắt cổ chai cốt lõi đối với các VLM, đặc biệt trong các cài đặt thực tế phức tạp về mặt hình ảnh. SPATIALAB đóng vai trò là công cụ chẩn đoán chính xác để xác định điểm yếu của các hệ thống thị giác-ngôn ngữ hiện tại. Các phát hiện cho thấy việc mở rộng quy mô mô hình và các khung suy luận đơn thuần là không đủ. Để đạt được trí thông minh không gian ở cấp độ con người sẽ cần những đổi mới kiến trúc tích hợp rõ ràng khả năng căn cứ hình học và biểu diễn nhận biết vật lý. Tiến bộ trong tương lai sẽ đòi hỏi các phân phối dữ liệu huấn luyện phong phú hơn (ví dụ: dữ liệu theo hướng vật lý và có thực thể) và các cơ chế kiến trúc để căn cứ hình học và khung tham chiếu.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu về các kiến trúc VLM mới tích hợp biểu diễn hình học 3D và nhận thức vật lý một cách tường minh, vượt ra ngoài các kỹ thuật mở rộng quy mô và chuỗi suy luận hiện có.
Phát triển các phương pháp huấn luyện mới để thu hẹp khoảng cách hiệu suất giữa các nhiệm vụ suy luận không gian trắc nghiệm và câu hỏi mở, tập trung vào việc cải thiện khả năng tạo mô tả không gian phức tạp.
Điều tra việc sử dụng các phân phối dữ liệu huấn luyện phong phú hơn, bao gồm dữ liệu dựa trên trải nghiệm thực tế và mô phỏng vật lý, để nâng cao khả năng hiểu biết về không gian thực tế của VLM.

2. Patent:

Ứng dụng điện thoại thông minh trợ lý điều hướng không gian thực tế tăng cường (AR): Một ứng dụng sử dụng camera điện thoại để phân tích môi trường xung quanh và cung cấp hướng dẫn điều hướng không gian chi tiết bằng giọng nói hoặc văn bản, ví dụ: 'sách bạn tìm nằm bên trái chiếc đèn cao, phía sau lọ hoa màu xanh lá cây'.
Ứng dụng điện thoại thông minh thiết kế nội thất và sắp xếp vật thể thông minh: Một ứng dụng cho phép người dùng chụp ảnh không gian và nhận gợi ý về vị trí đặt các vật thể mới (ví dụ: đồ nội thất) dựa trên kích thước, tỷ lệ và mối quan hệ không gian với các vật thể hiện có, giúp đảm bảo tính thẩm mỹ và công năng.
Công cụ hỗ trợ tiếp cận cho người khiếm thị với mô tả không gian nâng cao: Một ứng dụng điện thoại sử dụng camera để quét môi trường và tạo ra mô tả không gian chi tiết bằng ngôn ngữ tự nhiên, bao gồm thông tin về chiều sâu, sự che khuất và hướng của các vật thể, giúp người khiếm thị hiểu rõ hơn về không gian xung quanh họ.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.03916
ArXiv Abstract	https://arxiv.org/abs/2602.03916
PDF Download	https://arxiv.org/pdf/2602.03916.pdf
Github Repository	https://github.com/SpatiaLab-Reasoning/SpatiaLab

📰 Summary of Papers
1. ERNIE 5.0 Technical Report (239 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
2. FASA: Frequency-aware Sparse Attention (114 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
3. WideSeek-R1: Exploring Width Scaling for Broad Information Seeking via Multi-Agent Reinforcement Learning (87 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
4. Training Data Efficiency in Multimodal Process Reward Models (74 votes)
- I. Main Problem:
- I. Main Problem:
- II. Main Idea:
- II. Main Idea:
- III. Main Results:
- III. Main Results:
- IV. Conclusion & Future Works:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
5. OmniSIFT: Modality-Asymmetric Token Compression for Efficient Omni-modal Large Language Models (44 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
6. HySparse: A Hybrid Sparse Attention Architecture with Oracle Token Selection and KV Cache Sharing (41 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
7. EgoActor: Grounding Task Planning into Spatial-aware Egocentric Actions for Humanoid Robots via Visual-Language Models (35 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
8. Quant VideoGen: Auto-Regressive Long Video Generation via 2-Bit KV-Cache Quantization (32 votes)
- I. Main Problem:
- I. Main Problem:
- II. Main Idea:
- II. Main Idea:
- III. Main Results:
- III. Main Results:
- IV. Conclusion & Future Works:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
9. SoMA: A Real-to-Sim Neural Simulator for Robotic Soft-body Manipulation (31 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
10. TIDE: Trajectory-based Diagnostic Evaluation of Test-Time Improvement in LLM Agents (31 votes)
- I. Main Problem:
- I. Main Problem:
- II. Main Idea:
- II. Main Idea:
- III. Main Results:
- III. Main Results:
- IV. Conclusion & Future Works:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
11. Residual Context Diffusion Language Models (30 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
12. Semantic Routing: Exploring Multi-Layer LLM Feature Weighting for Diffusion Transformers (26 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
13. Self-Hinting Language Models Enhance Reinforcement Learning (25 votes)
- I. Main Problem:
- I. Main Problem:
- II. Main Idea:
- II. Main Idea:
- III. Main Results:
- III. Main Results:
- IV. Conclusion & Future Works:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
14. Learning to Repair Lean Proofs from Compiler Feedback (25 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
15. HY3D-Bench: Generation of 3D Assets (22 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
16. VLS: Steering Pretrained Robot Policies via Vision-Language Models (20 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
17. AutoFigure: Generating and Refining Publication-Ready Scientific Illustrations (20 votes)
- I. Main Problem:
- I. Main Problem:
- II. Main Idea:
- II. Main Idea:
- III. Main Results:
- III. Main Results:
- IV. Conclusion & Future Works:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
18. PaperSearchQA: Learning to Search and Reason over Scientific Papers with RLVR (19 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
19. A-RAG: Scaling Agentic Retrieval-Augmented Generation via Hierarchical Retrieval Interfaces (18 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
20. Vibe AIGC: A New Paradigm for Content Generation via Agentic Orchestration (17 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
21. MEnvAgent: Scalable Polyglot Environment Construction for Verifiable Software Engineering (17 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
22. Horizon-LM: A RAM-Centric Architecture for LLM Training (16 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
23. From Data to Behavior: Predicting Unintended Model Behaviors Before Training (14 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
24. Agent-Omit: Training Efficient LLM Agents for Adaptive Thought and Observation Omission via Agentic Reinforcement Learning (12 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
25. D-CORE: Incentivizing Task Decomposition in Large Reasoning Models for Complex Tool Use (12 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
26. Quantifying the Gap between Understanding and Generation within Unified Multimodal Models (12 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
27. SpatiaLab: Can Vision-Language Models Perform Spatial Reasoning in the Wild? (11 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan

📰 Summary of Papers​

1. ERNIE 5.0 Technical Report (239 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

2. FASA: Frequency-aware Sparse Attention (114 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

3. WideSeek-R1: Exploring Width Scaling for Broad Information Seeking via Multi-Agent Reinforcement Learning (87 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

4. Training Data Efficiency in Multimodal Process Reward Models (74 votes)​

I. Main Problem:​

I. Main Problem:​

II. Main Idea:​

II. Main Idea:​

III. Main Results:​

III. Main Results:​

IV. Conclusion & Future Works:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

5. OmniSIFT: Modality-Asymmetric Token Compression for Efficient Omni-modal Large Language Models (44 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

6. HySparse: A Hybrid Sparse Attention Architecture with Oracle Token Selection and KV Cache Sharing (41 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

7. EgoActor: Grounding Task Planning into Spatial-aware Egocentric Actions for Humanoid Robots via Visual-Language Models (35 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

8. Quant VideoGen: Auto-Regressive Long Video Generation via 2-Bit KV-Cache Quantization (32 votes)​

I. Main Problem:​

I. Main Problem:​

II. Main Idea:​

II. Main Idea:​

III. Main Results:​

III. Main Results:​

IV. Conclusion & Future Works:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

📰 Summary of Papers

1. ERNIE 5.0 Technical Report (239 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

2. FASA: Frequency-aware Sparse Attention (114 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

3. WideSeek-R1: Exploring Width Scaling for Broad Information Seeking via Multi-Agent Reinforcement Learning (87 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

4. Training Data Efficiency in Multimodal Process Reward Models (74 votes)

I. Main Problem:

I. Main Problem:

II. Main Idea:

II. Main Idea:

III. Main Results:

III. Main Results:

IV. Conclusion & Future Works:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

5. OmniSIFT: Modality-Asymmetric Token Compression for Efficient Omni-modal Large Language Models (44 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

6. HySparse: A Hybrid Sparse Attention Architecture with Oracle Token Selection and KV Cache Sharing (41 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

7. EgoActor: Grounding Task Planning into Spatial-aware Egocentric Actions for Humanoid Robots via Visual-Language Models (35 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

8. Quant VideoGen: Auto-Regressive Long Video Generation via 2-Bit KV-Cache Quantization (32 votes)

I. Main Problem:

I. Main Problem:

II. Main Idea:

II. Main Idea:

III. Main Results:

III. Main Results:

IV. Conclusion & Future Works:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent: