🤗 Daily Hugging Face Paper Digest - 2026-02-11

Báo cáo được tạo tự động vào lúc 2026-02-13 14:11:10 bằng mô hình gemini-2.5-flash.

📰 Summary of Papers

1. OPUS: Towards Efficient and Principled Data Selection in Large Language Model Pre-training in Every Iteration (289 votes)

Tác giả: Shaobo Wang, Xuan Ouyang, Tianyi Xu, Yuzheng Hu, Jialin Liu, Guo Chen, Tianyu Zhang, Junhao Zheng, Kexin Yang, Xingzhang Ren, Dayiheng Liu, Linfeng Zhang

Xuất bản lúc: 2026-02-05

Tag: LLMs, Pre-training, Data Selection, Optimization

I. Main Problem:

Khi nguồn văn bản công khai chất lượng cao ngày càng cạn kiệt (hiện tượng Data Wall), việc tiền huấn luyện các mô hình ngôn ngữ lớn (LLM) đang chuyển từ "nhiều token" sang "token tốt hơn". Tuy nhiên, các phương pháp chọn dữ liệu hiện có gặp phải hạn chế: các bộ lọc tĩnh dựa trên các quy tắc heuristic bỏ qua động lực huấn luyện, trong khi các phương pháp động lại sử dụng các tiêu chí không nhận thức về optimizer, dựa trên gradient thô. Điều này tạo ra sự không khớp cơ bản với quá trình huấn luyện LLM hiện đại vốn dựa vào các optimizer thích ứng như AdamW và Muon, dẫn đến quỹ đạo tối ưu hóa không hiệu quả.

II. Main Idea:

Chúng tôi đề xuất OPUS (Optimizer-induced Projected Utility Selection), một framework chọn dữ liệu động và có nguyên tắc, định nghĩa tiện ích (utility) của dữ liệu trong không gian cập nhật được tạo ra bởi optimizer. OPUS chấm điểm các ứng viên bằng cách chiếu các bản cập nhật hiệu quả của chúng (được định hình bởi các optimizer hiện đại) lên một hướng mục tiêu lấy từ một proxy ổn định, thuộc cùng phân phối. Để đảm bảo khả năng mở rộng, OPUS sử dụng kỹ thuật Ghost kết hợp với CountSketch để tính toán hiệu quả, và lấy mẫu Boltzmann để duy trì sự đa dạng của dữ liệu. Phương pháp này chỉ phát sinh thêm 4,7% chi phí tính toán.

III. Main Results:

OPUS đạt hiệu quả vượt trội và hiệu suất tốt hơn so với cả phương pháp chọn tĩnh và động. Cụ thể, nó cải thiện độ chính xác trung bình 2.2% trên 10 bộ benchmark và giảm 8 lần chi phí tính toán trên GPT-XL sử dụng bộ dữ liệu FineWeb. Trong quá trình tiền huấn luyện GPT-2 Large/XL trên FineWeb và FineWeb-Edu với 30B token, OPUS vượt trội so với các baseline cấp công nghiệp và thậm chí cả quá trình huấn luyện đầy đủ với 200B token. Khi kết hợp với các bộ lọc tĩnh cấp công nghiệp, OPUS tiếp tục cải thiện hiệu quả tiền huấn luyện, ngay cả với dữ liệu chất lượng thấp hơn. Hơn nữa, trong quá trình tiền huấn luyện tiếp tục Qwen3-8B-Base trên SciencePedia, OPUS đạt hiệu suất vượt trội chỉ với 0.5B token so với huấn luyện đầy đủ với 3B token, thể hiện lợi ích đáng kể về hiệu quả dữ liệu trong các lĩnh vực chuyên biệt.

IV. Conclusion & Future Works:

OPUS cung cấp một framework chọn dữ liệu động có nguyên tắc và hiệu quả, giải quyết vấn đề cạn kiệt dữ liệu chất lượng cao trong tiền huấn luyện LLM bằng cách căn chỉnh tiện ích dữ liệu với động lực cập nhật của optimizer thực tế. Khả năng hoạt động hiệu quả trên nhiều loại corpus, mức chất lượng, optimizer và quy mô mô hình, cùng với chi phí tính toán thấp, cho thấy tiềm năng lớn của OPUS trong việc tối ưu hóa quá trình huấn luyện LLM trong bối cảnh "Data Wall" hiện nay. Hướng nghiên cứu trong tương lai có thể tập trung vào việc khám phá các cải tiến cho bộ điều hòa (preconditioner) hoặc áp dụng OPUS cho các mô hình đa phương thức.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu và phát triển các phương pháp ước tính hoặc học các tham số của thuật toán OPUS (ví dụ: nhiệt độ Boltzmann sampling, trọng số của điều khoản chống trùng lặp) một cách thích nghi trong quá trình huấn luyện để tối ưu hóa liên tục sự cân bằng giữa hiệu suất và đa dạng dữ liệu.
Mở rộng framework OPUS để áp dụng cho việc lựa chọn dữ liệu trong tiền huấn luyện các mô hình đa phương thức (multimodal LLMs) hoặc các mô hình transformer xử lý dữ liệu hình ảnh, video, nơi việc chọn dữ liệu chất lượng và phù hợp cũng là một thách thức lớn.
Khám phá các phương pháp xấp xỉ bộ điều hòa (preconditioner) tinh vi hơn hoặc thiết kế các bộ điều hòa mới, hiệu quả hơn cho các optimizer ngoài AdamW và Muon, nhằm nâng cao độ chính xác của tiện ích do optimizer tạo ra trong không gian cập nhật mà không tăng đáng kể chi phí tính toán.

2. Patent:

Một hệ thống học máy cá nhân hóa trên điện thoại di động giúp người dùng học một ngôn ngữ mới hiệu quả hơn. Hệ thống sẽ động lựa chọn các bài tập, từ vựng hoặc đoạn hội thoại phù hợp nhất dựa trên tiến độ và phong cách học của người dùng, tối ưu hóa "hướng cập nhật hiệu quả" của quá trình học để đạt được mục tiêu nhanh chóng.
Một ứng dụng di động cho phép người dùng đào tạo hoặc tinh chỉnh (fine-tune) các mô hình AI nhỏ, chuyên biệt (ví dụ: nhận diện cử chỉ, phân loại hình ảnh cá nhân) ngay trên thiết bị. Ứng dụng sẽ sử dụng một cơ chế thông minh để chọn các điểm dữ liệu có ảnh hưởng nhất từ dữ liệu của người dùng, giúp quá trình học trên thiết bị với tài nguyên hạn chế đạt hiệu quả cao nhất.
Một tính năng thông minh trong ứng dụng đọc tin tức hoặc mạng xã hội trên điện thoại, tự động lọc và tóm tắt nội dung dài. Dựa trên sở thích đọc và lịch sử tương tác của người dùng, tính năng này sẽ sử dụng một nguyên lý tương tự như "tiện ích do optimizer tạo ra" để xác định và hiển thị những phần thông tin có giá trị nhất, giúp người dùng tiếp thu thông tin hiệu quả và tiết kiệm thời gian.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.05400
ArXiv Abstract	https://arxiv.org/abs/2602.05400
PDF Download	https://arxiv.org/pdf/2602.05400.pdf
Github Repository	N/A

2. Code2World: A GUI World Model via Renderable Code Generation (179 votes)

Tác giả: Yuhao Zheng, Li'an Zhong, Yi Wang, Rui Dai, Kaikui Liu, Xiangxiang Chu, Linyuan Lv, Philip Torr, Kevin Qinghong Lin

Xuất bản lúc: 2026-02-10

Tag: GUI Agents, World Model, Renderable Code Generation, Vision-Language Models, Reinforcement Learning, HTML

I. Main Problem:

Các tác nhân GUI tự động hiện tại thiếu khả năng tiên đoán như con người, thực hiện hành động trực tiếp mà không dự đoán hậu quả. Điều này dẫn đến các chỉnh sửa tốn kém hoặc thất bại nhiệm vụ, đặc biệt trong các tình huống rủi ro cao. Các mô hình thế giới GUI hiện có (dựa trên văn bản và dựa trên pixel) gặp khó khăn trong việc đồng thời đạt được độ chân thực hình ảnh cao và khả năng kiểm soát cấu trúc chi tiết. Cụ thể, các phương pháp dựa trên văn bản thiếu thông tin hình ảnh, trong khi các phương pháp dựa trên pixel gặp thách thức với các chuyển đổi trạng thái chính xác, khả năng kiểm soát cấu trúc chi tiết và giao diện giàu văn bản. Ba thách thức chính trong việc xây dựng mô hình thế giới GUI dựa trên mã là: (i) Thiếu dữ liệu quy mô lớn, chất lượng cao; (ii) Căn chỉnh ảnh chụp màn hình với mã và xây dựng chiến lược học tập hiệu quả; và (iii) Đánh giá cũng như ứng dụng để hỗ trợ các tác nhân GUI downstream.

II. Main Idea:

Đề xuất Code2World, một bộ mã hóa Vision-Language, mô phỏng trạng thái hình ảnh tiếp theo thông qua việc tạo mã có thể kết xuất (renderable code generation), sử dụng mã HTML. Điều này thay đổi mô hình bằng cách coi mô phỏng GUI là việc tạo mã lập trình, đảm bảo cả độ chân thực hình ảnh cao và khả năng kiểm soát cấu trúc chi tiết. Để giải quyết vấn đề khan hiếm dữ liệu, họ xây dựng AndroidCode, một kho dữ liệu lớn gồm hơn 80K cặp màn hình-hành động chất lượng cao. Bộ dữ liệu này được tạo ra bằng cách dịch các quỹ đạo GUI thành HTML có độ chân thực cao thông qua GPT-5, sau đó tinh chỉnh mã được tổng hợp bằng cơ chế sửa đổi phản hồi trực quan. Để điều chỉnh các Vision-Language Model (VLM) hiện có cho việc dự đoán mã, quá trình huấn luyện gồm hai giai đoạn: (1) Supervised Fine-Tuning (SFT) làm bước khởi tạo ban đầu để tuân theo định dạng bố cục; (2) Áp dụng Render-Aware Reinforcement Learning (RARL) sử dụng kết quả được kết xuất làm tín hiệu thưởng. RARL thực thi độ chân thực ngữ nghĩa hình ảnh (Rsem) và tính nhất quán hành động (Ract), được tối ưu hóa bằng Group Relative Policy Optimization (GRPO). Cuối cùng, Code2World được tích hợp như một trình giả lập "plug-and-play" sử dụng mô hình "Propose, Simulate, Select" để nâng cao khả năng của các tác nhân GUI downstream.

III. Main Results:

Code2World-8B đạt hiệu suất dự đoán UI tiếp theo hàng đầu, cạnh tranh với các mô hình mạnh mẽ như GPT-5 và Gemini-3-Pro-Image. Mô hình này vượt trội so với các baseline mã nguồn mở có số lượng tham số lớn hơn gấp 10 lần, cả về logic chức năng và chất lượng hình ảnh. Code2World thể hiện khả năng khái quát hóa mạnh mẽ, duy trì độ bền vững vượt trội về logic động trên benchmark GUI Odyssey (cài đặt Out-of-Distribution). Code2World cải thiện đáng kể tỷ lệ thành công điều hướng của các tác nhân downstream: tăng cường Gemini-2.5-Flash thêm +9.5% trong điều hướng AndroidWorld và cải thiện Qwen2.5-VL-7B thêm +5.23% về độ chính xác Grounding trên AndroidControl-High. Nghiên cứu cắt bỏ xác nhận rằng việc kết hợp Supervised Fine-Tuning với cả phần thưởng ngữ nghĩa hình ảnh (Rsem) và tính nhất quán hành động (Ract) là rất quan trọng để đạt được hiệu suất tối ưu cho mô hình thế giới.

IV. Conclusion & Future Works:

Code2World là một mô hình thế giới GUI tiên phong, chuyển đổi dự đoán UI tiếp theo từ ước tính pixel thô sang tạo mã HTML có thể kết xuất, kết hợp độc đáo giữa hình ảnh độ chân thực cao và khả năng kiểm soát cấu trúc chi tiết. Công trình đã xây dựng bộ dữ liệu AndroidCode (hơn 80K cặp màn hình–hành động) và đề xuất Render-Aware Reinforcement Learning để căn chỉnh dự đoán mã với độ chân thực hình ảnh được kết xuất và tính nhất quán hành động. Hoạt động như một hộp cát ảo có thể học được, Code2World trao quyền cho các tác nhân GUI tự động để điều hướng các giao diện phức tạp, năng động với khả năng tiên đoán như con người. Về mặt thực nghiệm, Code2World-8B đạt hiệu suất state-of-the-art trong dự đoán UI tiếp theo và, hoạt động như một trình giả lập "plug-and-play", cải thiện đáng kể các tác nhân downstream, tăng cường Gemini-2.5-Flash thêm +9.5% trong điều hướng AndroidWorld. Về tác động, công việc này nâng cao tính hòa nhập kỹ thuật số (công cụ hỗ trợ người khuyết tật, giảm công việc số lặp đi lặp lại) và đóng góp vào an toàn AI bằng cách cung cấp môi trường sandbox để mô phỏng các hành động không thể đảo ngược (giao dịch tài chính, xóa dữ liệu) mà không thực hiện chúng trong thế giới thực. Tuy nhiên, các rủi ro tiềm ẩn bao gồm mô hình thế giới có thể tạo ra các tín hiệu an toàn sai lệch, dẫn đến các hành động có hại, hoặc bị lạm dụng trong các cuộc tấn công mạng tự động hay spam điều hướng. Hướng nghiên cứu trong tương lai cần tập trung vào các cơ chế xác minh mạnh mẽ để đảm bảo rằng các khả năng dự đoán của các mô hình như vậy được triển khai một cách có trách nhiệm và đạo đức.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu các cơ chế xác minh mạnh mẽ để ngăn chặn ảo giác của mô hình thế giới dẫn dact nhân đến các hành động có hại, đảm bảo triển khai an toàn và đạo đức.
Mở rộng Code2World để xử lý các yếu tố và tương tác GUI phức tạp hơn ngoài HTML tiêu chuẩn, có thể bao gồm các framework UI tùy chỉnh hoặc giao diện 3D.
Phát triển các phương pháp cho sự hợp tác đa tác nhân trong môi trường Code2World, cho phép các tác nhân phối hợp các nhiệm vụ trong một GUI được mô phỏng.

2. Patent:

Hệ thống mô phỏng hành động trên ứng dụng di động: Cho phép người dùng điện thoại thông minh mô phỏng kết quả của một chuỗi hành động (ví dụ: thực hiện giao dịch ngân hàng, xóa dữ liệu quan trọng) trên một ứng dụng cụ thể trước khi chúng được thực hiện thật. Hệ thống sẽ hiển thị một bản xem trước hình ảnh của màn hình tiếp theo, giúp người dùng xác minh kết quả và ngăn ngừa lỗi, đặc biệt trong các tình huống rủi ro cao.
Công cụ kiểm thử giao diện người dùng tự động dựa trên mã nguồn: Một công cụ dành cho nhà phát triển ứng dụng di động, tự động dịch các thiết kế giao diện (hoặc trạng thái màn hình hiện có) thành mã giao diện có thể hiển thị. Công cụ này sau đó có thể mô phỏng tương tác người dùng và dự đoán các thay đổi giao diện tiếp theo bằng cách tạo ra mã mới, giúp nhà phát triển nhanh chóng kiểm tra tính năng, bố cục và phản ứng của ứng dụng mà không cần nhiều thử nghiệm thủ công.
Trợ lý tự động hóa tác vụ di động thông minh với khả năng tiên đoán: Một trợ lý cá nhân trên điện thoại di động có khả năng học từ các hành động của người dùng và dự đoán trạng thái giao diện tiếp theo. Khi người dùng bắt đầu một tác vụ (ví dụ: đặt vé, gửi email định kỳ), trợ lý sẽ đề xuất và hiển thị trước các bước tiếp theo, cho phép người dùng xác nhận hoặc điều chỉnh. Điều này giúp tối ưu hóa luồng công việc, giảm thiểu số lần chạm và học cách thích ứng với thói quen sử dụng ứng dụng của người dùng theo thời gian.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.09856
ArXiv Abstract	https://arxiv.org/abs/2602.09856
PDF Download	https://arxiv.org/pdf/2602.09856.pdf
Github Repository	https://github.com/AMAP-ML/Code2World

3. UI-Venus-1.5 Technical Report (146 votes)

Tác giả: Veuns-Team, Changlong Gao, Zhangxuan Gu, Yulin Liu, Xinyu Qiu, Shuheng Shen, Yue Wen, Tianyu Xia, Zhenyu Xu, Zhengwen Zeng, Beitong Zhou, Xingran Zhou, Weizhi Chen, Sunhao Dai, Jingya Dou, Yichen Gong, Yuan Guo, Zhenlin Guo, Feng Li, Qian Li, Jinzhen Lin, Yuqi Zhou, Linchao Zhu, Liang Chen, Zhenyu Guo, Changhua Meng, Weiqiang Wang

Xuất bản lúc: 2026-02-09

Tag: GUI Agents, LLMs, MLLMs, Reinforcement Learning, Online RL, Offline RL, Model Merging, Vision-Language

I. Main Problem:

Các tác nhân giao diện đồ họa người dùng (GUI agents) gặp khó khăn trong việc đạt được cả tính tổng quát rộng rãi và hiệu suất tác vụ mạnh mẽ một cách nhất quán. Việc xây dựng một tác nhân vừa có khả năng phổ quát vừa dễ triển khai vẫn là một thách thức đáng kể. Đặc biệt, có một sự khác biệt lớn giữa độ chính xác ở cấp độ bước và cấp độ quỹ đạo trong quá trình huấn luyện học tăng cường có giám sát (SFT) và học tăng cường ngoại tuyến, do tín hiệu phần thưởng rời rạc và sự dịch chuyển miền giữa dữ liệu huấn luyện và các tình huống thực tế. Các mô hình thị giác-ngôn ngữ tổng quát thường thiếu độ chi tiết cần thiết để hiểu cấu trúc giao diện người dùng, cản trở việc khám phá hiệu quả và tối ưu hóa chính sách trong các kịch bản tương tác phức tạp. Ngoài ra, việc triển khai tác nhân GUI trên các thiết bị đa dạng đòi hỏi một môi trường thực thi thống nhất, mở rộng và hiệu quả.

II. Main Idea:

UI-Venus-1.5 là một tác nhân GUI thống nhất, đầu cuối được thiết kế cho các ứng dụng thực tế mạnh mẽ, bao gồm các biến thể dày đặc (2B, 8B) và biến thể hỗn hợp chuyên gia (30B-A3B). Nó giới thiệu ba tiến bộ kỹ thuật chính:

Giai đoạn huấn luyện trung gian (Mid-Training): Sử dụng 10 tỷ token từ hơn 30 tập dữ liệu để thiết lập ngữ nghĩa GUI nền tảng, trang bị cho mô hình kiến thức GUI vững chắc để giải quyết các tác vụ VQA, định vị và điều hướng đơn giản trước giai đoạn học tăng cường. Giai đoạn này bao gồm quá trình tinh chỉnh dữ liệu lặp đi lặp lại và vòng lặp tạo dữ liệu từ các thiết bị thực thông qua hệ thống DaaS (Device-as-a-Service).
Học tăng cường trực tuyến (Online Reinforcement Learning) được mở rộng: Với các quỹ đạo hoàn chỉnh, điều chỉnh mục tiêu huấn luyện với điều hướng động, dài hạn trong môi trường quy mô lớn, đặc biệt cho kịch bản di động và web. Phương pháp này giải quyết vấn đề không khớp độ chính xác giữa cấp độ bước và cấp độ quỹ đạo.
Tác nhân GUI thống nhất duy nhất thông qua hợp nhất mô hình (Model Merging): Tổng hợp các mô hình chuyên biệt theo miền (định vị, web và di động) thành một checkpoint thống nhất, đơn giản hóa việc triển khai. Quá trình này bao gồm việc tinh chỉnh từng miền sau đó hợp nhất các mô hình chuyên biệt.

Đồng thời, hệ thống cũng sử dụng Học tăng cường ngoại tuyến (Offline Reinforcement Learning) với các hàm phần thưởng cụ thể cho tác vụ định vị và điều hướng, cùng với khả năng từ chối (refusal capability) trong tác vụ định vị để giảm thiểu lỗi sai. DaaS (Device-as-a-Service) là một lớp kiến trúc nền tảng, cung cấp môi trường thực thi thống nhất, mở rộng và hiệu quả để huấn luyện và triển khai.

III. Main Results:

UI-Venus-1.5 đạt hiệu suất đột phá (SOTA) trên nhiều điểm chuẩn:

GUI Grounding: Đạt 69.6% trên ScreenSpot-Pro và 75.0% trên VenusBench-GD, vượt trội đáng kể so với các mô hình trước đây. Nó cũng thể hiện độ chính xác vượt trội trên các mẫu có yêu cầu từ chối cụ thể trên VenusBench-GD và OSWorld-G-Refine.
Navigation: Đạt tỷ lệ thành công 77.6% trên AndroidWorld, vượt qua các mô hình mạnh mẽ như Mobile-Agent-v3, MAI-UI và StepGUI. Trên WebVoyager, nó đạt 76.0% độ chính xác, ngang bằng với các mô hình hàng đầu.
Mô hình thể hiện hiệu quả và độ chính xác ra quyết định vượt trội so với các mô hình lớn hơn đáng kể.
Thể hiện khả năng điều hướng mạnh mẽ trên hơn 40 ứng dụng di động tiếng Trung, thực hiện hiệu quả các hướng dẫn của người dùng trong các kịch bản thực tế như đặt vé, mua hàng và quản lý hội thoại.
Giai đoạn Mid-Training đã tăng tỷ lệ mẫu chất lượng cao từ 69.7% lên 89.7% thông qua tinh chỉnh dữ liệu.
Vòng lặp tạo dữ liệu bằng thiết bị thực đã cải thiện tỷ lệ thành công của việc tạo quỹ đạo từ 17.9% lên hơn 70%, tạo ra hơn 30.000 quỹ đạo tương tác đã được xác minh.
Hệ thống DaaS đã tích hợp thành công hàng ngàn thiết bị, xử lý hàng triệu yêu cầu hoạt động mỗi ngày với phản hồi cấp mili giây và hỗ trợ hàng trăm đến hàng ngàn thiết bị đồng thời cho các tác vụ huấn luyện RL.

IV. Conclusion & Future Works:

UI-Venus-1.5 thể hiện một bước tiến đáng kể trong việc phát triển các tác nhân GUI mạnh mẽ, tổng quát và dễ triển khai, với hiệu suất vượt trội trên các điểm chuẩn đa dạng và khả năng hoạt động đáng tin cậy trong các kịch bản thực tế. Với những cải tiến kỹ thuật như giai đoạn huấn luyện trung gian, học tăng cường trực tuyến được mở rộng và hợp nhất mô hình, UI-Venus-1.5 đang tiến gần hơn đến việc trở thành một trợ lý kỹ thuật số thực sự hữu ích cho cuộc sống hàng ngày, tự động hóa các tác vụ phức tạp trên cả nền tảng web và di động.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu các chiến lược hợp nhất mô hình nâng cao cho các tác nhân GUI phức tạp, đa miền, có khả năng kết hợp định tuyến động hoặc thực thi có điều kiện dựa trên ngữ cảnh người dùng.
Điều tra các kỹ thuật học tăng cường trực tuyến mới có thể thích ứng nhanh hơn với các giao diện người dùng động và cá nhân hóa cao, tập trung vào khả năng thích ứng vài lần thử hoặc không lần thử.
Phát triển các phương pháp xử lý mạnh mẽ các hướng dẫn người dùng không rõ ràng hoặc không đầy đủ trong môi trường GUI, có thể bằng cách tích hợp các cuộc đối thoại làm rõ chủ động hoặc dự đoán hoàn thành tác vụ.

2. Patent:

Hệ thống trợ lý ảo thông minh cho điện thoại di động: Một hệ thống sử dụng công nghệ thị giác máy tính và học sâu để hiểu màn hình điện thoại và thực hiện các thao tác theo lệnh người dùng. Ví dụ, người dùng chỉ cần nói “mua vé xem phim cho bộ phim X vào tối nay” hoặc “chuyển 500.000đ cho bạn A qua ứng dụng ngân hàng”, hệ thống sẽ tự động điều hướng, điền thông tin và hoàn tất giao dịch trên bất kỳ ứng dụng nào mà không cần lập trình trước.
Công nghệ học tăng cường liên tục cho ứng dụng di động: Một phương pháp cho phép trợ lý ảo trên điện thoại tự học và cải thiện khả năng tương tác với các ứng dụng mới hoặc các thay đổi giao diện liên tục. Bằng cách quan sát cách người dùng thao tác hoặc thử nghiệm trong môi trường ảo, trợ lý có thể tự động cập nhật kiến thức để luôn hoạt động hiệu quả, ngay cả khi ứng dụng được cập nhật.
Phương pháp hợp nhất trí tuệ nhân tạo đa nhiệm cho điện thoại: Một cách tiếp cận để kết hợp nhiều mô hình trí tuệ nhân tạo chuyên biệt (ví dụ: một mô hình giỏi nhận diện nút bấm, một mô hình giỏi điều hướng web, một mô hình giỏi điều hướng ứng dụng di động) thành một trợ lý ảo duy nhất trên điện thoại. Điều này giúp trợ lý có thể thực hiện đa dạng các tác vụ phức tạp trên cả trình duyệt web và các ứng dụng di động một cách liền mạch, không bị giới hạn bởi từng chuyên môn riêng lẻ.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.09082
ArXiv Abstract	https://arxiv.org/abs/2602.09082
PDF Download	https://arxiv.org/pdf/2602.09082.pdf
Github Repository	https://github.com/inclusionAI/UI-Venus/blob/UI-Venus-1.5

4. Chain of Mindset: Reasoning with Adaptive Cognitive Modes (68 votes)

Tác giả: Tianyi Jiang, Arctanx An, Hengyi Feng, Naixin Zhai, Haodong Li, Xiaomin Yu, Jiahui Liu, Hanwen Du, Shuo Zhang, Zhi Yang, Jie Huang, Yuhua Li, Yongxin Ni, Huacan Wang, Ronghao Chen

Xuất bản lúc: 2026-02-10

Tag: LLMs, Reasoning, Cognitive AI, Multi-modal AI, Agentic AI, Adaptive Learning

I. Main Problem:

Các phương pháp suy luận hiện có của các Mô hình Ngôn ngữ Lớn (LLM) mắc phải một hạn chế chung: chúng áp dụng cùng một "tư duy" (mindset) cố định qua tất cả các bước giải quyết vấn đề. Điều này bỏ qua thực tế rằng các giai đoạn khác nhau của cùng một vấn đề đòi hỏi những tư duy cơ bản khác nhau, ngăn cản các mô hình đạt được cấp độ thông minh tiếp theo.

II. Main Idea:

Bài báo đề xuất Chain of Mindset (CoM), một framework agentic không cần huấn luyện, cho phép điều phối tư duy thích ứng ở cấp độ từng bước. CoM phân tách quá trình suy luận thành bốn "tư duy" có chức năng khác nhau: Spatial (Không gian), Convergent (Hội tụ), Divergent (Phân kỳ) và Algorithmic (Thuật toán). Một Meta-Agent sẽ tự động chọn tư duy tối ưu dựa trên trạng thái suy luận đang phát triển, trong khi một bidirectional Context Gate lọc luồng thông tin giữa các module để duy trì hiệu quả và hiệu suất.

III. Main Results:

CoM đạt được hiệu suất vượt trội trên sáu bộ benchmark thử thách trong các lĩnh vực toán học, sinh mã, hỏi đáp khoa học và suy luận không gian. Cụ thể, nó vượt qua baseline mạnh nhất 4.96% và 4.72% về độ chính xác tổng thể trên Qwen3-VL-32B-Instruct và Gemini-2.0-Flash, đồng thời cân bằng hiệu quả suy luận. CoM duy trì hiệu suất mạnh mẽ và tổng quát hóa nhất quán trên cả các mô hình mã nguồn mở và mã nguồn đóng mà không cần huấn luyện bổ sung. Context Gate là thành phần quan trọng nhất, việc loại bỏ nó gây ra sụt giảm lớn nhất về hiệu suất.

IV. Conclusion & Future Works:

CoM là một framework agentic không cần huấn luyện, cho phép điều phối tư duy thích ứng theo từng bước cho suy luận của LLM. Bằng cách động lực chọn lọc giữa các tư duy Divergent, Convergent, Algorithmic và Spatial thông qua Meta-Agent và Context Gate hiệu quả, CoM đạt độ chính xác SOTA, vượt trội các baseline mạnh nhất. Điều này cho thấy việc kích hoạt khả năng chuyển đổi nhận thức động, phản ánh cách con người tích hợp nhiều phương thức suy luận trong một quá trình giải quyết vấn đề, đại diện cho một mô hình đầy hứa hẹn để xây dựng các hệ thống suy luận linh hoạt hơn. Hướng nghiên cứu tiềm năng là "task-aware mindset subsetting" để tối ưu hóa hiệu quả.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu về việc tự động phát hiện và chuyển đổi giữa các "tư duy" hiệu quả nhất cho từng loại nhiệm vụ cụ thể, nhằm đạt được sự cân bằng tối ưu giữa độ chính xác và hiệu quả tính toán.
Khám phá việc tích hợp các "tư duy" mới, có thể dựa trên nghiên cứu khoa học nhận thức sâu hơn, để mở rộng khả năng suy luận của mô hình trên các loại vấn đề phức tạp và đa dạng hơn.
Phát triển cơ chế "tự sửa lỗi" nâng cao trong quá trình chuyển đổi giữa các "tư duy", cho phép mô hình không chỉ phát hiện mà còn tự động điều chỉnh hoặc quay lại các bước suy luận trước đó nếu một "tư duy" không hiệu quả.

2. Patent:

Hệ thống hỗ trợ giải quyết vấn đề thông minh trên điện thoại di động: Một ứng dụng điện thoại di động có khả năng phân tích yêu cầu của người dùng (ví dụ: một bài toán, một vấn đề cần lập kế hoạch) và tự động chuyển đổi giữa các chế độ tư duy (ví dụ: chế độ phân tích logic, chế độ hình dung trực quan, chế độ khám phá các phương án) để đưa ra các bước giải quyết hoặc gợi ý tối ưu. Chế độ hình dung trực quan có thể tạo ra hình ảnh minh họa tức thì.
Trợ lý sáng tạo cá nhân dựa trên các chế độ tư duy: Một tính năng trong ứng dụng ghi chú hoặc lập kế hoạch trên điện thoại cho phép người dùng kích hoạt các "chế độ tư duy" khác nhau. Ví dụ, chế độ "tư duy phân kỳ" để đưa ra các ý tưởng mới cho một dự án, hoặc chế độ "tư duy hội tụ" để tóm tắt thông tin quan trọng từ một văn bản dài, hoặc chế độ "tư duy thuật toán" để kiểm tra tính toán.
Công cụ gỡ lỗi và tối ưu hóa mã lập trình trên thiết bị di động với khả năng tư duy đa dạng: Một công cụ tích hợp trong môi trường phát triển ứng dụng di động cho phép lập trình viên phân tích mã. Khi gặp lỗi hoặc cần tối ưu, nó có thể tự động áp dụng "tư duy thuật toán" để kiểm tra lỗi, "tư duy phân kỳ" để đề xuất các phương án tối ưu hóa mã khác nhau, hoặc "tư duy hội tụ" để xác định nguyên nhân gốc rễ của vấn đề.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.10063
ArXiv Abstract	https://arxiv.org/abs/2602.10063
PDF Download	https://arxiv.org/pdf/2602.10063.pdf
Github Repository	https://github.com/QuantaAlpha/chain-of-mindset

5. SkillRL: Evolving Agents via Recursive Skill-Augmented Reinforcement Learning (60 votes)

Tác giả: Peng Xia, Jianwen Chen, Hanyang Wang, Jiaqi Liu, Kaide Zeng, Yu Wang, Siwei Han, Yiyang Zhou, Xujiang Zhao, Haifeng Chen, Zeyu Zheng, Cihang Xie, Huaxiu Yao

Xuất bản lúc: 2026-02-09

Tag: Reinforcement Learning, LLM Agents, Skill Discovery, Hierarchical Learning, Memory Mechanisms

I. Main Problem:

Các tác nhân Large Language Model (LLM) hiện tại thường hoạt động một cách cô lập, không học hỏi từ các kinh nghiệm trong quá khứ. Các phương pháp dựa trên bộ nhớ hiện có chủ yếu lưu trữ các quỹ đạo hành vi thô, vốn thường dư thừa và chứa nhiều nhiễu. Điều này ngăn cản các tác nhân trích xuất các mẫu hành vi cấp cao, có thể tái sử dụng, vốn rất cần thiết cho khả năng khái quát hóa. Các phương pháp này cũng gặp khó khăn trong việc cân bằng giữa mật độ thông tin và nhiễu, dẫn đến hiệu suất dưới tối ưu hoặc thậm chí suy giảm. Vấn đề cốt lõi là việc chuyển giao kinh nghiệm hiệu quả đòi hỏi sự trừu tượng hóa.

II. Main Idea:

SKILLRL đề xuất một framework nhằm thu hẹp khoảng cách giữa kinh nghiệm thô và cải thiện chính sách thông qua khám phá kỹ năng tự động và tiến hóa đệ quy. Cách tiếp cận này bao gồm ba cơ chế chính:

Cơ chế chưng cất kỹ năng dựa trên kinh nghiệm: Thu thập các quỹ đạo đa dạng từ môi trường, phân loại chúng thành các tập thành công (được chưng cất thành các minh chứng chiến lược) và các tập thất bại (được tổng hợp thành các bài học lỗi ngắn gọn) bằng cách sử dụng một mô hình giáo viên (MT).
Thư viện kỹ năng phân cấp (SKILLBANK): Tổ chức kiến thức đã chưng cất thành hai cấp độ: General Skills (các nguyên tắc chiến lược phổ quát áp dụng cho mọi loại nhiệm vụ) và Task-Specific Skills (kiến thức chuyên biệt cho từng danh mục nhiệm vụ). Một chiến lược truy xuất thích ứng sẽ được sử dụng để chọn các kỹ năng phù hợp.
Cơ chế tiến hóa kỹ năng đệ quy: Thư viện kỹ năng được coi là một thành phần động và cùng tiến hóa với chính sách của tác nhân trong quá trình học tăng cường (Reinforcement Learning - RL). Sau mỗi kỷ nguyên xác thực, các quỹ đạo thất bại sẽ được phân tích để tạo ra các kỹ năng mới hoặc tinh chỉnh các kỹ năng hiện có. Quá trình này được hỗ trợ bởi một giai đoạn Cold-Start Supervised Fine-Tuning (SFT) ban đầu để dạy tác nhân cách sử dụng kỹ năng hiệu quả trước khi huấn luyện RL, và tối ưu hóa chính sách sử dụng GRPO.

III. Main Results:

SKILLRL đạt hiệu suất state-of-the-art trên ALFWorld, WebShop và bảy nhiệm vụ QA được tăng cường tìm kiếm. Cụ thể:

Vượt trội hơn các đường cơ sở mạnh mẽ hơn 15.3%, và cho thấy khoảng cách tỷ lệ thành công tuyệt đối khoảng 35.2% trên ALFWorld so với Mem0+GRPO.
Đạt được hội tụ nhanh hơn đáng kể và hiệu suất tiệm cận cao hơn, duy trì tính mạnh mẽ khi độ phức tạp của nhiệm vụ tăng lên.
Vượt xa các mô hình closed-source lớn hơn như GPT-4o (41.9%) và Gemini-2.5-Pro (29.6%) trên ALFWorld.
Trên các nhiệm vụ QA được tăng cường tìm kiếm, SKILLRL đạt điểm trung bình SOTA 47.1%, vượt trội hơn Search-R1 (38.5%) và EvolveR (43.1%), đặc biệt xuất sắc trong suy luận đa bước (ví dụ: Bamboogle, vượt trội hơn EvolveR 19.4%).
Các nghiên cứu loại bỏ từng thành phần (ablation studies) xác nhận đóng góp quan trọng của cấu trúc phân cấp, thư viện kỹ năng (so với quỹ đạo thô), Cold-Start SFT và tiến hóa động.
Giảm khoảng 10.3% lượng token đầu vào trung bình so với truy xuất bộ nhớ thô, chứng minh hiệu quả ngữ cảnh cao hơn.
Thư viện kỹ năng phát triển từ 55 lên 100 kỹ năng trong quá trình huấn luyện, cho thấy khả năng mở rộng kiến thức liên tục.

IV. Conclusion & Future Works:

SKILLRL là một framework hiệu quả cho việc học tăng cường được tăng cường kỹ năng trong các tác nhân LLM. Bằng cách chưng cất các quỹ đạo thô thành các kỹ năng nhỏ gọn, có thể tái sử dụng và cho phép tiến hóa kỹ năng động trong quá trình huấn luyện, SKILLRL đạt được hiệu suất state-of-the-art trên ALFWorld và WebShop trong khi sử dụng ít ngữ cảnh hơn đáng kể so với các phương pháp dựa trên bộ nhớ truyền thống. Công trình này chứng minh rằng sự trừu tượng hóa từ kinh nghiệm thành kỹ năng là một nguyên tắc mạnh mẽ để xây dựng các tác nhân có khả năng và hiệu quả về mẫu.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu các kỹ thuật chưng cất kỹ năng nâng cao để tự động xác định và chưng cất các kỹ năng phức tạp hơn, đa phương thức (ví dụ: từ quan sát thị giác và văn bản đồng thời) nhằm nâng cao khả năng của tác nhân trong các môi trường đa dạng.
Phát triển các cơ chế phức tạp hơn cho việc truy xuất và kết hợp kỹ năng thích ứng, cho phép tác nhân không chỉ truy xuất mà còn tự động kết hợp và điều chỉnh nhiều kỹ năng để giải quyết các nhiệm vụ mới, chưa từng thấy, từ đó dẫn đến khả năng khái quát hóa thông minh hơn.
Điều tra khả năng chuyển giao và khái quát hóa kỹ năng xuyên miền: Nghiên cứu cách các kỹ năng học được trong một môi trường hoặc lĩnh vực nhiệm vụ có thể được chuyển giao và thích ứng hiệu quả sang các miền hoàn toàn khác với việc tinh chỉnh tối thiểu, mở rộng giới hạn của khả năng khái quát hóa trong các tác nhân LLM.

2. Patent:

Hệ thống trợ lý cá nhân thông minh tự học trên điện thoại: Phát triển một ứng dụng trợ lý cá nhân trên điện thoại di động có khả năng quan sát và học hỏi từ cách người dùng tương tác với các ứng dụng và tác vụ hàng ngày. Thông qua việc phân tích các chuỗi hành động thành công và cả những lúc người dùng gặp khó khăn hoặc thất bại, hệ thống sẽ tự động tạo ra và lưu trữ các "kỹ năng" dưới dạng các quy trình có thể tái sử dụng. Ví dụ, nếu người dùng thường thực hiện các bước để "đặt cà phê sáng từ ứng dụng X, thanh toán bằng phương thức Y", trợ lý sẽ nhận diện, tạo ra kỹ năng này và sau đó có thể đề xuất tự động hoàn thành quy trình hoặc thực hiện theo lệnh đơn giản, giúp tiết kiệm thời gian và giảm thao tác thủ công.
Tối ưu hóa quy trình sử dụng ứng dụng di động tự động và thích ứng: Một tính năng hệ thống trên điện thoại di động giúp tự động hóa các chuỗi hành động phức tạp trong nhiều ứng dụng khác nhau. Thay vì người dùng phải lặp lại các bước thủ công, hệ thống sẽ theo dõi và "chưng cất" các tương tác thường xuyên (ví dụ: điền biểu mẫu, quản lý ảnh, đặt vé máy bay) thành các "kỹ năng". Các kỹ năng này sau đó có thể được kích hoạt nhanh chóng bằng một cú chạm hoặc lệnh thoại. Quan trọng hơn, hệ thống sẽ liên tục học hỏi và tinh chỉnh các kỹ năng này dựa trên hiệu quả và phản hồi của người dùng, đảm bảo rằng các quy trình tự động luôn tối ưu và phù hợp với thói quen sử dụng thay đổi.
Chatbot hỗ trợ khách hàng trên thiết bị di động có khả năng tiến hóa kỹ năng: Một chatbot hoặc trợ lý ảo tích hợp trong ứng dụng hỗ trợ khách hàng trên điện thoại thông minh, không chỉ dựa vào các kịch bản lập trình sẵn. Thay vào đó, nó sẽ có khả năng học hỏi từ tất cả các cuộc trò chuyện và vấn đề đã được giải quyết (thành công hoặc không thành công) trong quá khứ. Hệ thống sẽ tự động phân tích các cuộc trò chuyện này để tạo ra và cải thiện các "kỹ năng giải quyết vấn đề" cụ thể. Khi người dùng gặp một vấn đề mới, chatbot sẽ "truy xuất" các kỹ năng phù hợp nhất để đưa ra giải pháp chính xác và cá nhân hóa, đồng thời liên tục cập nhật và phát triển bộ kỹ năng của mình dựa trên các tình huống hỗ trợ mới và phản hồi từ người dùng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.08234
ArXiv Abstract	https://arxiv.org/abs/2602.08234
PDF Download	https://arxiv.org/pdf/2602.08234.pdf
Github Repository	https://github.com/aiming-lab/SkillRL

6. P1-VL: Bridging Visual Perception and Scientific Reasoning in Physics Olympiads (54 votes)

Tác giả: Yun Luo, Futing Wang, Qianjia Cheng, Fangchen Yu, Haodi Lei, Jianhao Yan, Chenxi Li, Jiacheng Chen, Yufeng Zhao, Haiyuan Wan, Yuchen Zhang, Shenghe Zheng, Junchi Yao, Qingyang Zhang, Haonan He, Wenxuan Zeng, Li Sheng, Chengxing Xie, Yuxin Zuo, Yizhuo Li, Yulun Wu, Rui Huang, Dongzhan Zhou, Kai Chen, Yu Qiao, Lei Bai, Yu Cheng, Ning Ding, Bowen Zhou, Peng Ye, Ganqu Cui

Xuất bản lúc: 2026-02-10

Tag: Vision-Language Models, LLMs, Reinforcement Learning, Scientific Reasoning, Physics

I. Main Problem:

Các Large Language Models (LLMs) đang đối mặt với một thách thức lớn trong việc chuyển đổi từ thao tác biểu tượng sang lý luận khoa học cấp độ cao, đặc biệt là trong lĩnh vực vật lý. Vật lý đòi hỏi một mô hình phải duy trì tính nhất quán vật lý với các định luật vũ trụ, một nhiệm vụ cơ bản đòi hỏi nhận thức đa phương thức để định hình logic trừu tượng trong thực tế. Ở cấp độ Olympiad, các sơ đồ thường mang tính cấu thành (constitutive) chứ không chỉ minh họa, chứa đựng các ràng buộc thiết yếu như điều kiện biên và đối xứng không gian mà văn bản không đề cập. Điều này tạo ra một khoảng cách thị giác-logic (visual-logical gap) đáng kể, khiến các mô hình chỉ dựa trên văn bản gặp khó khăn trong việc giải quyết các bài toán phức tạp.

II. Main Idea:

P1-VL giới thiệu một họ các mô hình Vision-Language (VLM) mã nguồn mở, được thiết kế để kết nối khoảng cách thị giác-logic này và thúc đẩy lý luận khoa học tiên tiến. Phương pháp tiếp cận của họ hài hòa hai paradigm chính:

Huấn luyện Học Tăng Cường theo Chương Trình (Curriculum Reinforcement Learning - RL Training): P1-VL được phát triển độc quyền thông qua quá trình hậu huấn luyện RL, xây dựng trên các mô hình Vision-Language cơ sở. Phương pháp này sử dụng mở rộng độ khó lũy tiến để ổn định quá trình huấn luyện, bao gồm việc loại bỏ các mẫu dễ và các câu hỏi bị lỗi ban đầu, sau đó tăng dần độ khó của nhiệm vụ và mở rộng không gian khám phá (ví dụ: kích thước nhóm, cửa sổ tạo sinh). Các cơ chế ổn định huấn luyện cũng được áp dụng, như Sequence-level Masked Importance Sampling (Seq-MIS), để giảm thiểu sự không ổn định do chênh lệch giữa công cụ huấn luyện và suy luận.
Tăng cường bằng tác tử (Agentic Augmentation): Trong giai đoạn suy luận, P1-VL được tích hợp với framework tác tử PhysicsMinions để cho phép sửa lỗi lặp đi lặp lại và tự xác minh. Cơ chế này tạo điều kiện cho quá trình phản tư đa lượt, cho phép mô hình lý luận, phê bình và tinh chỉnh các giải pháp của mình, mô phỏng quá trình nhận thức chặt chẽ của các nhà vật lý con người.

Ngoài ra, P1-VL sử dụng thiết kế phần thưởng nhị phân dựa trên tính đúng đắn của câu trả lời và một framework xác minh lai kết hợp logic biểu tượng (SymPy) với đánh giá ngữ nghĩa của LLM chuyên biệt (XVerify).

III. Main Results:

P1-VL đã đạt được những kết quả ấn tượng trên HiPhO, một điểm chuẩn nghiêm ngặt gồm 13 kỳ thi Olympiad từ 2024–2025:

P1-VL-235B-A22B là Vision-Language Model mã nguồn mở đầu tiên giành được 12 huy chương vàng và 1 huy chương bạc trên toàn bộ bộ HiPhO. Mô hình này đạt hiệu suất tiên tiến nhất trong số các mô hình mã nguồn mở, xếp hạng thứ 3 tổng thể trên toàn cầu, chỉ sau Gemini-3-Pro(high) và GPT-5.2(high).
Khi được tăng cường với framework tác tử PhysicsMinions, mô hình P1-VL-235B-A22B+PhysicsMinions vươn lên vị trí thứ 2 tổng thể trên bảng xếp hạng.
Phiên bản nhẹ hơn, P1-VL-30B-A3B, cũng đạt được 9 huy chương vàng và có điểm trung bình cao hơn hầu hết các mô hình mã nguồn mở khác.
P1-VL thể hiện khả năng khái quát hóa đáng kể, đạt được những cải thiện mạnh mẽ trong các điểm chuẩn STEM đa ngành (sinh học, hóa học, vật lý trong FrontierScience-Olympiad) và các nhiệm vụ lý luận toán học, liên tục vượt trội hơn các mô hình cơ sở của nó trong các đánh giá ngoài miền.

IV. Conclusion & Future Works:

P1-VL là một bước đi nền tảng hướng tới trí tuệ vật lý đa năng, nhằm căn chỉnh tốt hơn nhận thức thị giác với các định luật vật lý trừu tượng để phục vụ khám phá khoa học bằng máy móc. Việc mã nguồn mở P1-VL lấp đầy khoảng trống đa phương thức trong hệ sinh thái P1 và thu hẹp khoảng cách giữa nhận thức thị giác và lý luận khoa học. Những tiến bộ này đặt nền tảng cho các hệ thống AI không chỉ diễn giải thực tế mà cuối cùng còn có thể đóng góp vào các biên giới nghiên cứu vật lý và phát triển các mô hình thế giới mạnh mẽ và đáng tin cậy.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu mở rộng việc áp dụng P1-VL cho các lĩnh vực khoa học kỹ thuật khác như sinh học phân tử hoặc kỹ thuật cơ khí, nơi sơ đồ và biểu đồ là thiết yếu, để đánh giá tính tổng quát của framework lý luận thị giác-logic của nó.
Phát triển các chiến lược Học Tăng Cường mới để huấn luyện các Vision-Language Model, tập trung vào việc tạo ra phản hồi chi tiết và có cấu trúc hơn (không chỉ nhị phân) để hướng dẫn mô hình trong các bước lý luận trung gian của các bài toán vật lý phức tạp.
Khám phá sự tích hợp của các phương pháp mô hình hóa vật lý (ví dụ: mô phỏng động lực học chất lỏng, phân tích phần tử hữu hạn) trực tiếp vào Vision-Language Model để cho phép lý luận thực tế hơn về các hiện tượng vật lý trong hình ảnh, vượt xa việc chỉ diễn giải các sơ đồ.

2. Patent:

Một ứng dụng di động cho học sinh và sinh viên để giải các bài toán khoa học phức tạp. Người dùng có thể chụp ảnh hoặc quét đề bài (bao gồm cả hình vẽ, biểu đồ) từ sách giáo khoa hoặc đề thi. Ứng dụng sẽ sử dụng công nghệ Vision-Language để phân tích, hiểu đề bài và đưa ra lời giải chi tiết từng bước, giúp người học dễ dàng tiếp thu kiến thức.
Một công cụ hỗ trợ kỹ thuật viên sửa chữa thiết bị công nghiệp thông qua điện thoại thông minh. Khi kỹ thuật viên chụp ảnh một bảng mạch hoặc sơ đồ điện, hệ thống sẽ nhận diện các thành phần, phân tích tình trạng và cung cấp hướng dẫn khắc phục sự cố hoặc các bước kiểm tra tiếp theo, giảm thiểu thời gian tìm kiếm thông tin thủ công và nâng cao hiệu quả sửa chữa.
Một hệ thống trợ lý cá nhân trên điện thoại cho các nhà nghiên cứu hoặc kỹ sư, có khả năng diễn giải các biểu đồ kỹ thuật, sơ đồ mạch điện hoặc hình ảnh thí nghiệm. Người dùng có thể chụp ảnh và đặt câu hỏi về các thông số, mối quan hệ giữa các thành phần, hoặc kết quả từ hình ảnh, và ứng dụng sẽ cung cấp các giải thích hoặc phân tích dựa trên kiến thức vật lý và kỹ thuật.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.09443
ArXiv Abstract	https://arxiv.org/abs/2602.09443
PDF Download	https://arxiv.org/pdf/2602.09443.pdf
Github Repository	https://github.com/PRIME-RL/P1-VL

7. Agent World Model: Infinity Synthetic Environments for Agentic Reinforcement Learning (45 votes)

Tác giả: Zhaoyang Wang, Canwen Xu, Boyi Liu, Yite Wang, Siwei Han, Zhewei Yao, Huaxiu Yao, Yuxiong He

Xuất bản lúc: 2026-02-10

Tag: Reinforcement Learning, Large Language Models, Agentic AI, Synthetic Data, Environment Generation, Tool Use, Machine Learning

I. Main Problem:

Việc mở rộng quy mô huấn luyện tác tử tự hành được cung cấp bởi các mô hình ngôn ngữ lớn (LLM) bị hạn chế nghiêm trọng bởi sự thiếu hụt các môi trường đa dạng và đáng tin cậy. Các môi trường thực tế quá tốn kém và khó mở rộng, trong khi môi trường do con người tạo ra thiếu sự đa dạng cần thiết. Các môi trường mô phỏng bằng LLM không đáng tin cậy do vấn đề ảo giác và chi phí suy luận cao, giới hạn khả năng học tăng cường (RL) trên quy mô lớn.

II. Main Idea:

Để giải quyết vấn đề này, các tác giả đề xuất Agent World Model (AWM), một quy trình tạo môi trường tổng hợp hoàn toàn, có khả năng mở rộng. AWM mô phỏng quá trình phát triển phần mềm bằng cách phân tách việc tổng hợp môi trường thành ba thành phần chính: backend có trạng thái (cơ sở dữ liệu), lớp giao diện công cụ và tiêu chí thành công của nhiệm vụ. Quy trình này sử dụng LLM để:

Tổng hợp kịch bản: Tạo mô tả kịch bản đa dạng (ví dụ: nền tảng mua sắm trực tuyến).
Tổng hợp nhiệm vụ: Tạo các nhiệm vụ người dùng cụ thể cho từng kịch bản, yêu cầu hoạt động CRUD (Create, Read, Update, Delete) và có thể giải quyết bằng API.
Tổng hợp môi trường:
- Cơ sở dữ liệu: Thiết kế lược đồ SQLite và điền dữ liệu mẫu để định nghĩa không gian trạng thái.
- Giao diện: Tạo lớp giao diện Python (thông qua Model Context Protocol - MCP) phơi bày bộ công cụ để định nghĩa không gian hành động và quan sát.
- Xác minh: Tổng hợp logic xác minh nhiệm vụ cụ thể để định nghĩa hàm thưởng. Hệ thống sử dụng "LLM-as-a-Judge tăng cường mã" để kết hợp kiểm tra dựa trên mã và lý luận LLM, cung cấp tín hiệu thưởng đáng tin cậy hơn.
Tự sửa lỗi dựa trên thực thi: Nếu mã được tạo gặp lỗi, thông tin lỗi sẽ được đưa trở lại LLM để sửa chữa. Ngoài ra, AWM còn áp dụng thiết kế phần thưởng lai (kết hợp kiểm tra định dạng ở cấp bước và xác minh kết quả ở cấp nhiệm vụ) và huấn luyện nhận biết lịch sử (cắt ngắn lịch sử để phù hợp với thời gian suy luận) để tối ưu hóa quá trình học tăng cường cho các tác tử sử dụng công cụ đa lượt.

III. Main Results:

Mở rộng quy mô và chất lượng: AWM thành công tổng hợp 1.000 môi trường thực thi độc đáo với 35.062 công cụ và 10.000 nhiệm vụ, trở thành bộ môi trường sử dụng công cụ mã nguồn mở lớn nhất tính đến thời điểm công bố. Các môi trường này được điều khiển bằng mã và hỗ trợ bởi cơ sở dữ liệu SQL, cung cấp tính nhất quán trạng thái đáng tin cậy.
Hiệu quả của quy trình: Quy trình đạt tỷ lệ thành công trên 85% với cơ chế tự sửa lỗi chỉ yêu cầu trung bình 1.13 lần lặp lại. Các môi trường được tạo ra có độ phức tạp cao (trung bình 18.5 bảng cơ sở dữ liệu, 35.1 công cụ, gần 2.000 dòng mã môi trường).
Chất lượng và đa dạng môi trường: Phân tích cho thấy môi trường AWM có chất lượng cao hơn và ít nhiệm vụ bị chặn hơn so với phương pháp EnvScaler cạnh tranh. Tính đa dạng của môi trường (độ phân tán nhúng và phạm vi danh mục) được duy trì ổn định khi quy mô môi trường tăng lên.
Khả năng khái quát hóa mạnh mẽ: Các tác tử được huấn luyện độc quyền trên tập con 526 môi trường tổng hợp của AWM cho thấy khả năng khái quát hóa mạnh mẽ ra ngoài phân phối trên ba bộ benchmark đánh giá (BFCLv3, τ2-bench, và MCP-Universe). Chúng vượt trội so với cả các LLM cơ sở, tác tử được huấn luyện trong môi trường mô phỏng bằng LLM (Simulator), và các phương pháp tổng hợp môi trường lập trình khác (EnvScaler).
Hiệu quả của thiết kế: Chiến lược xác minh tăng cường mã (kết hợp mã và LLM-as-a-Judge) mang lại kết quả tốt nhất, cho thấy tính mạnh mẽ hơn. Huấn luyện nhận biết lịch sử với việc cắt ngắn lịch sử cũng giúp cải thiện hiệu suất.

IV. Conclusion & Future Works:

AWM là một quy trình có khả năng mở rộng, tổng hợp các môi trường tác tử có thể thực thi được bằng cách mô phỏng phát triển phần mềm thực tế. Việc cung cấp 1.000 môi trường tổng hợp và quy trình này được coi là nguồn tài nguyên quý giá cho cộng đồng nghiên cứu. Các hướng phát triển trong tương lai bao gồm:

Cơ hội tự tiến hóa: Tích hợp một mô hình tự tiến hóa nơi tác tử đã được huấn luyện có thể đóng góp vào việc tổng hợp các môi trường mới, cho phép mô hình liên tục thích ứng và cải thiện khả năng của nó.
Tối ưu hóa quy trình tổng hợp: Nâng cao quy trình tự sửa lỗi bằng cách tích hợp LLM để phát hiện các lỗi logic hoặc lỗi tinh vi không bị bắt bởi kiểm tra thời gian chạy, thay vì chỉ dựa vào thử và lỗi. Việc đưa vào sự kiểm tra của con người cũng có thể cải thiện chất lượng môi trường được tổng hợp.
Tổng hợp nhiệm vụ đa kịch bản: Khám phá việc tổng hợp các nhiệm vụ trải rộng qua nhiều kịch bản hoặc môi trường, mở rộng phạm vi của các môi trường hiện có.

V. Brainstorming Space:

1. Publish Papers:

Phát triển một khuôn khổ tự tiến hóa cho việc tạo môi trường tác tử: Nghiên cứu cách một tác tử đã được huấn luyện có thể tự động đề xuất, thiết kế hoặc sửa đổi các thành phần của môi trường tổng hợp (kịch bản, nhiệm vụ, lược đồ cơ sở dữ liệu, công cụ) để tạo ra các môi trường mới phức tạp hơn hoặc giải quyết các lỗ hổng trong các môi trường hiện có, từ đó tạo ra một vòng lặp cải tiến liên tục.
Tối ưu hóa khả năng phát hiện lỗi ngữ nghĩa và logic trong quy trình tổng hợp môi trường bằng LLM: Tập trung vào việc phát triển các kỹ thuật sử dụng LLM để không chỉ sửa lỗi cú pháp mà còn xác định và khắc phục các mâu thuẫn logic hoặc các lỗi tinh vi trong lược đồ cơ sở dữ liệu, định nghĩa công cụ hoặc logic xác minh, đảm bảo tính đúng đắn ngữ nghĩa của môi trường tổng hợp.
Mở rộng Agent World Model để hỗ trợ tổng hợp các nhiệm vụ tương tác đa miền và đa tác tử: Nghiên cứu cách tạo ra các môi trường tổng hợp mà trong đó các nhiệm vụ yêu cầu sự phối hợp giữa nhiều tác tử hoặc tương tác qua nhiều miền kịch bản riêng biệt (ví dụ: mua sắm và sau đó quản lý tài chính liên quan), mô phỏng các tình huống phức tạp hơn trong thế giới thực.

2. Patent:

Hệ thống tạo môi trường ứng dụng di động ảo để kiểm thử tác tử AI: Phát triển một công nghệ cho phép tự động tạo ra các môi trường ứng dụng di động tổng hợp (ví dụ: một ứng dụng ngân hàng, ứng dụng mạng xã hội, ứng dụng mua sắm) với các chức năng tương tác và trạng thái cơ sở dữ liệu mô phỏng, được điều khiển bằng mã. Hệ thống này sẽ cung cấp API và bộ công cụ cho phép tác tử AI thực hiện các hành động phức tạp trên ứng dụng ảo, nhận phản hồi và được đánh giá thông qua logic xác minh tự động, giúp các nhà phát triển điện thoại di động kiểm thử và huấn luyện tác tử AI một cách hiệu quả mà không cần đến môi trường thực tế đắt đỏ hoặc dữ liệu nhạy cảm.
Phương pháp tự động hóa kiểm tra ứng dụng di động dựa trên phân tích nhiệm vụ và tổng hợp kịch bản: Một hệ thống sử dụng mô hình ngôn ngữ lớn để phân tích mô tả chức năng của một ứng dụng di động, tự động tạo ra một tập hợp các nhiệm vụ kiểm thử đa dạng (ví dụ: "thêm sản phẩm vào giỏ hàng", "đặt lại mật khẩu"). Dựa trên các nhiệm vụ này, hệ thống sẽ tổng hợp các công cụ và cơ sở dữ liệu trạng thái mô phỏng các hoạt động backend của ứng dụng. Công nghệ này cho phép tự động tạo ra các kịch bản kiểm thử toàn diện và đáng tin cậy cho ứng dụng di động mà không cần can thiệp thủ công nhiều, giúp phát hiện lỗi hiệu quả hơn và tăng cường chất lượng phần mềm.
Giao thức và công cụ chuẩn hóa cho tương tác tác tử AI với ứng dụng di động qua giao diện mã (Code-driven Agent Interaction Protocol for Mobile Apps): Thiết lập một giao thức chuẩn (như Model Context Protocol - MCP) và bộ công cụ đi kèm để tác tử AI có thể tương tác với các chức năng cốt lõi của ứng dụng di động thông qua các lời gọi hàm được định nghĩa rõ ràng (API), thay vì thông qua giao diện người dùng đồ họa. Công nghệ này bao gồm việc tự động tạo ra các bản mô tả công cụ từ lược đồ ứng dụng và cung cấp các hàm thưởng dựa trên sự thay đổi trạng thái trong cơ sở dữ liệu backend của ứng dụng ảo, tối ưu hóa quá trình huấn luyện và kiểm soát hành vi của tác tử AI trên nền tảng di động.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.10090
ArXiv Abstract	https://arxiv.org/abs/2602.10090
PDF Download	https://arxiv.org/pdf/2602.10090.pdf
Github Repository	https://github.com/Snowflake-Labs/agent-world-model

8. Prism: Spectral-Aware Block-Sparse Attention (33 votes)

Tác giả: Xinghao Wang, Pengyu Wang, Xiaoran Liu, Fangxu Liu, Jason Chu, Kai Song, Xipeng Qiu

Xuất bản lúc: 2026-02-09

Tag: LLMs, Sparse Attention, RoPE

I. Main Problem:

Vấn đề chính là việc tăng tốc giai đoạn pre-filling của LLM với ngữ cảnh dài bằng Block-sparse attention gặp trở ngại do việc xác định các khối liên quan một cách hiệu quả vẫn là một nút thắt cổ chai. Các phương pháp hiện có thường sử dụng coarse-grained attention làm proxy để ước tính tầm quan trọng của khối, nhưng lại phải dùng đến các phương pháp tìm kiếm hoặc chấm điểm cấp độ token tốn kém, dẫn đến chi phí lựa chọn đáng kể. Nghiên cứu này chỉ ra rằng sự không chính xác của coarse-grained attention tiêu chuẩn thông qua mean pooling bắt nguồn từ tương tác giữa mean pooling và Rotary Positional Embeddings (RoPE). Cụ thể, mean pooling hoạt động như một bộ lọc thông thấp, gây ra nhiễu đối với các chiều tần số cao, tạo ra một "điểm mù" đối với thông tin vị trí cục bộ. Điều này khiến chi phí ước tính cao thường làm mất đi lợi ích của sparsity, làm cho các phương pháp này hoạt động kém hiệu quả hơn các triển khai full attention được tối ưu hóa cao (như FlashAttention) ở độ dài chuỗi vừa phải.

II. Main Idea:

Để giải quyết vấn đề "điểm mù" phổ này, tác giả giới thiệu Prism, một khuôn khổ không cần huấn luyện (training-free), nhận biết phổ (spectral-aware) để phân tách việc lựa chọn khối thành hai nhánh xử lý: tần số cao (high-frequency) và tần số thấp (low-frequency). Prism tách rõ ràng dải tần số cao đã bị suy giảm khỏi dải tần số thấp mạnh mẽ.

Phương pháp này bao gồm hai thành phần chính:

Ước lượng tầm quan trọng của khối hai dải (Dual-Band Block Importance Estimation): Phân lập rõ ràng dải tần số cao và dải tần số thấp bằng cách cắt các chiều (dimensions), sau đó thực hiện mean pooling độc lập trên từng dải. Điều này giúp tránh nhiễu tín hiệu trong quá trình tổng hợp.
Hiệu chỉnh nhiệt độ dựa trên năng lượng (Energy-Based Temperature Calibration): Áp dụng một phương pháp hiệu chỉnh nhiệt độ dựa trên năng lượng để khôi phục các tín hiệu vị trí đã bị suy giảm trực tiếp từ các biểu diễn đã được tổng hợp (pooled representations). Các hệ số nhiệt độ τz cụ thể cho từng nhánh được tính toán dựa trên phân bố năng lượng phổ (RMS norm) để điều chỉnh độ lớn logit của từng dải phổ riêng lẻ về cùng một tỷ lệ với phổ đầy đủ.

Cuối cùng, mặt nạ block-sparse cuối cùng được tạo ra bằng cách hợp nhất các lựa chọn từ hai nhánh (M = M_high ∪ M_low). Thiết kế này cho phép Prism thực hiện ước lượng tầm quan trọng của khối chỉ sử dụng các phép toán cấp độ khối (block-level operations), loại bỏ nút thắt cổ chai về hiệu quả lựa chọn.

III. Main Results:

Prism duy trì độ chính xác tương đương với full attention trong khi mang lại tốc độ tăng lên đến 5.1 lần.

Mô hình ngôn ngữ (Language Modeling) trên PG19: Prism đạt được "chiến thắng kép" khi không có sự suy giảm về perplexity (gần như ∆≈0) và mang lại tốc độ cao nhất (5.1× ở 128K tokens), vượt trội đáng kể so với các phương pháp cơ sở.
Hiểu ngữ cảnh dài (Long-Context Understanding) trên LongBench: Prism thể hiện độ bền vượt trội, đạt điểm trung bình 41.08 trên Llama-3.1-8B-Instruct và 39.12 trên Qwen-3-8B, với suy giảm không đáng kể (<0.4%) so với full attention. Thậm chí, Prism còn vượt trội hơn full attention trên một số tác vụ cụ thể (ví dụ: 58.36 so với 56.69 trên Qwen-3 Few-shot).
Truy xuất ngữ cảnh dài (Long-Context Retrieval) trên RULER: Prism đạt được hiệu suất tương đương với các phương pháp khác, nhưng với ưu điểm là chỉ sử dụng các phép toán cấp độ khối trong quá trình truy xuất ngữ nghĩa.
Hiểu video dài (Video Understanding) trên VideoMME và LongVideoBench: Prism vượt trội hơn các phương pháp hiện có, đạt hiệu suất tương đương với full attention. Đặc biệt, ở phân khúc "Long" của VideoMME, Prism còn vượt qua full attention (64.00 so với 63.11).
Hiệu quả (Efficiency): Prism đạt được tốc độ tăng trưởng nhất quán trên tất cả các độ dài chuỗi, lên đến 5× ở 128K tokens. Nó cũng có độ trễ ước tính thấp nhất và tiêu thụ bộ nhớ hiệu quả (chỉ khoảng ∼20% so với FlexPrefill ở 128K).

IV. Conclusion & Future Works:

Kết luận: Công trình này đã nhận diện và chứng minh rằng mean pooling hoạt động như một bộ lọc thông thấp khi kết hợp với RoPE, gây ra một "điểm mù" đối với thông tin vị trí tần số cao. Để giải quyết vấn đề này, Prism được đề xuất là một khuôn khổ không cần huấn luyện, nhận biết phổ, phân tách việc ước lượng tầm quan trọng của khối thành hai nhánh tần số cao và tần số thấp, sử dụng hiệu chỉnh nhiệt độ dựa trên năng lượng để khôi phục tín hiệu. Prism duy trì độ chính xác của full attention trong khi cung cấp tốc độ tăng tốc đáng kể và giảm chi phí ước tính, thể hiện tính hiệu quả và khả năng tổng quát hóa trên nhiều tác vụ và mô hình LLM.

Công việc tương lai: Không được đề cập rõ ràng trong đoạn trích.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng Prism cho các kỹ thuật nhúng vị trí khác: Nghiên cứu liệu phương pháp nhận biết phổ của Prism có thể được áp dụng để giải quyết các vấn đề tương tự với các kỹ thuật nhúng vị trí khác ngoài RoPE (ví dụ: ALiBi, Leaky-RoPE) hay không, và liệu có tồn tại "điểm mù" phổ tương tự trong các hệ thống đó.
Phân vùng dải phổ động: Phát triển một cơ chế động để tự động xác định các điểm cắt (cutoff points) cho dải tần số cao và thấp dựa trên đặc điểm của đầu vào hoặc từng lớp trong mô hình, thay vì sử dụng cấu hình dải phổ cố định.
Ứng dụng vào LLM đa phương thức với chuỗi dài: Áp dụng sparse attention nhận biết phổ cho các mô hình ngôn ngữ lớn đa phương thức (ví dụ: các biến thể của Vision Transformer) để xử lý hiệu quả hơn các chuỗi đầu vào cực dài từ nhiều phương thức khác nhau như video hoặc hình ảnh độ phân giải cao.

2. Patent:

Hệ thống xử lý ngữ cảnh dài thích ứng cho LLM trên điện thoại di động: Một hệ thống trên điện thoại di động tự động tối ưu hóa cách các mô hình ngôn ngữ lớn xử lý các cuộc hội thoại hoặc tài liệu dài. Thay vì xử lý từng từ, nó thông minh xác định và ưu tiên các phần quan trọng (sử dụng chọn khối nhận biết phổ tương tự Prism) để tiết kiệm pin và giảm thời gian xử lý, đặc biệt hữu ích khi tóm tắt các bài báo dài hoặc nhớ lại lịch sử trò chuyện cũ.
Phân tích video hiệu quả cho AI trên thiết bị: Một chip AI hoặc mô-đun phần mềm trên thiết bị sử dụng cơ chế chú ý block-sparse nhận biết phổ để nhanh chóng phân tích các video dài nhằm phát hiện sự kiện hoặc tóm tắt nội dung mà không làm cạn kiệt pin điện thoại. Nó tập trung tài nguyên tính toán vào các khoảnh khắc nổi bật (thay đổi cục bộ tần số cao) và các chủ đề tổng thể (ngữ cảnh toàn cầu tần số thấp) trong các khung hình video.
Phiên âm và dịch thuật thời gian thực tối ưu cho âm thanh dài: Một ứng dụng di động tận dụng cơ chế chú ý block-sparse nhận biết phổ để xử lý đầu vào âm thanh mở rộng (ví dụ: bài giảng, cuộc họp) cho phiên âm hoặc dịch thuật thời gian thực. Bằng cách chọn và xử lý thông minh các khối dữ liệu âm thanh liên quan dựa trên các đặc điểm phổ, nó có thể duy trì độ chính xác và khả năng phản hồi cao ngay cả đối với các bản ghi rất dài, giảm độ trễ và gánh nặng tính toán trên thiết bị.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.08426
ArXiv Abstract	https://arxiv.org/abs/2602.08426
PDF Download	https://arxiv.org/pdf/2602.08426.pdf
Github Repository	https://github.com/xinghaow99/prism

9. DLLM-Searcher: Adapting Diffusion Large Language Model for Search Agents (27 votes)

Tác giả: Jiahao Zhao, Shaoxuan Xu, Zhongxiang Sun, Fengqi Zhu, Jingyang Ou, Yuling Shi, Chongxuan Li, Xiao Zhang, Jun Xu

Xuất bản lúc: 2026-02-03

Tag: Diffusion LLMs, Search Agents, RAG, LLMs, ReAct

I. Main Problem:

Nghiên cứu này giải quyết hai thách thức chính trong việc triển khai các Search Agents:

Thách thức về độ trễ (Latency Challenge): Các Search Agents hiện tại, dựa trên mô hình ReAct, thực hiện tuần tự các bước suy luận, gọi công cụ và chờ phản hồi, dẫn đến độ trễ đầu cuối nghiêm trọng. Mô hình không hoạt động trong khi chờ công cụ bên ngoài phản hồi.
Thách thức về khả năng của Agent (Agent Ability Challenge): Các mô hình Diffusion Large Language Models (dLLMs) hiện có thể hiện khả năng suy luận và gọi công cụ kém, không tuân thủ các định dạng yêu cầu, cản trở việc sử dụng chúng làm xương sống cho Search Agents mặc dù chúng có tiềm năng tăng hiệu quả nhờ cơ chế giải mã song song và khả năng tạo linh hoạt.

II. Main Idea:

Bài báo đề xuất DLLM-Searcher, một framework tối ưu hóa cho Search Agents dựa trên dLLM, giải quyết các thách thức trên thông qua hai hướng chính:

Giải quyết "Agent Ability Challenge": Thiết kế một quy trình hậu huấn luyện hai giai đoạn:
- Agentic Supervised Fine-Tuning (Agentic SFT): Sử dụng các quỹ đạo từ mô hình giáo viên mạnh hơn để giúp dLLM học các khả năng tìm kiếm thông tin và tuân thủ định dạng gọi công cụ.
- Agentic Variance-Reduced Preference Optimization (Agentic VRPO): Tiếp tục tinh chỉnh khả năng suy luận và truy xuất thông tin của mô hình bằng cách sử dụng dữ liệu được lọc từ các quá trình triển khai của mô hình sau SFT.
- Cả hai giai đoạn đều sử dụng Agentic ELBO và Block Attention để tối ưu hóa quá trình học.
Giải quyết "Latency Challenge": Đề xuất một mô hình agent mới gọi là Parallel-Reasoning and Acting (P-ReAct). P-ReAct tận dụng cơ chế tạo linh hoạt của dLLM để song song hóa quá trình suy luận và chờ phản hồi công cụ.
- P-ReAct sử dụng hai thành phần chính: Token Pre-filling (điền trước các token ranh giới <tool_call> và </tool_call>) và Confidence Biasing (thêm độ lệch vào điểm tin cậy của các token trong vùng gọi công cụ) để ưu tiên giải mã hướng dẫn gọi công cụ, cho phép mô hình "tiếp tục suy nghĩ trong khi chờ" phản hồi từ công cụ.

III. Main Results:

Các kết quả thực nghiệm của DLLM-Searcher trên bốn bộ dữ liệu QA đa bước (HotpotQA, 2WikiMultiHopQA, Musique, Bamboogle) cho thấy:

Hiệu suất vượt trội: DLLM-Searcher đạt hiệu suất tìm kiếm thông tin và suy luận ngang bằng với các Search Agents dựa trên LLM chính thống như R1Searcher và vượt trội đáng kể so với các phương pháp RAG truyền thống và dLLMs cơ bản chưa được hậu huấn luyện.
Tăng tốc suy luận: Mô hình P-ReAct mang lại khả năng tăng tốc suy luận xấp xỉ 15% so với mô hình ReAct tiêu chuẩn, với hiệu suất gần như không suy giảm.
Kiểm soát quá trình giải mã: Đảm bảo tỷ lệ thành công gần 100% trong việc ưu tiên giải mã phần tool_call trong mỗi lần lặp P-ReAct.
Lợi thế về tạo không theo thứ tự: DLLM-Searcher với P-ReAct thể hiện khả năng vượt trội so với các mô hình ngôn ngữ tự hồi quy (ARMs) khi phải tạo ra thành phần tool_call trước mà không làm suy giảm đáng kể hiệu suất, nhờ khả năng chú ý hai chiều của mô hình Diffusion.

IV. Conclusion & Future Works:

DLLM-Searcher thành công trong việc kết nối Diffusion Large Language Models với các Search Agents thực tiễn, giải quyết các thách thức về khả năng của agent và độ trễ. Nó cho thấy tiềm năng của dLLMs như một xương sống agent hiệu quả và khẳng định hiệu quả của việc song song hóa suy luận và hành động của agent. Mặc dù không nêu rõ "công việc tương lai", nghiên cứu này mở ra hướng phát triển các agent hiệu quả và thông minh hơn dựa trên dLLM.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu tối ưu hóa các phương pháp hậu huấn luyện (ví dụ: SFT, VRPO) cho dLLMs trong các nhiệm vụ agent phức tạp hơn, bao gồm việc sử dụng nhiều công cụ hoặc lập kế hoạch dài hạn.
Phát triển các chiến lược giải mã song song tiên tiến hơn cho dLLMs trong các môi trường agent đa dạng, vượt ra ngoài mô hình P-ReAct hiện tại để tối đa hóa hiệu suất và khả năng thích ứng.
Điều tra sâu hơn các khía cạnh lý thuyết về khả năng "biết trước câu trả lời trước khi giải mã" của dLLMs và ứng dụng nó để cải thiện các khả năng suy luận tiềm ẩn trong các hệ thống agent.

2. Patent:

Hệ thống trợ lý tìm kiếm thông minh trên điện thoại: Một phương pháp để điện thoại thông minh sử dụng trí tuệ nhân tạo thế hệ mới, cho phép trợ lý ảo xử lý yêu cầu tìm kiếm thông tin phức tạp và gọi các dịch vụ bên ngoài (như tìm kiếm web) gần như ngay lập tức, trong khi vẫn tiếp tục suy nghĩ và chuẩn bị các phản hồi chi tiết, giúp người dùng nhận được thông tin nhanh chóng và liền mạch.
Tối ưu hóa hiệu suất ứng dụng trợ lý ảo: Một hệ thống phần mềm được triển khai trên các thiết bị di động, sử dụng một cơ chế đặc biệt để "điền trước" các lệnh hành động cần thiết cho các công cụ (ví dụ: tìm kiếm), đồng thời tự động điều chỉnh ưu tiên xử lý để các lệnh này được gửi đi nhanh chóng, giúp giảm đáng kể thời gian chờ đợi phản hồi từ các dịch vụ bên ngoài.
Giao diện tìm kiếm nhanh hơn cho ứng dụng di động: Một công nghệ tích hợp vào các ứng dụng tìm kiếm trên điện thoại, trong đó các yếu tố đặc biệt được chèn vào văn bản để hướng dẫn AI ưu tiên tạo ra các yêu cầu tìm kiếm công cụ trước tiên. Điều này cho phép ứng dụng khởi động tìm kiếm ngay lập tức trong khi người dùng vẫn đang xem AI phân tích và suy luận câu trả lời.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.07035
ArXiv Abstract	https://arxiv.org/abs/2602.07035
PDF Download	https://arxiv.org/pdf/2602.07035.pdf
Github Repository	https://github.com/bubble65/DLLM-Searcher

10. Olaf-World: Orienting Latent Actions for Video World Modeling (25 votes)

Tác giả: Yuxin Jiang, Yuchao Gu, Ivor W. Tsang, Mike Zheng Shou

Xuất bản lúc: 2026-02-10

Tag: Video World Models, Latent Actions, Self-supervised Learning, Diffusion Models, Zero-shot Transfer

I. Main Problem:

Các mô hình thế giới có thể điều khiển hành động hiện nay bị hạn chế bởi sự khan hiếm của các nhãn hành động (action labels) trên quy mô lớn. Mặc dù học hành động tiềm ẩn (latent action learning) hứa hẹn trích xuất giao diện điều khiển từ video không dán nhãn, nhưng các hành động tiềm ẩn được học thường không thể chuyển giao giữa các ngữ cảnh khác nhau. Điều này xảy ra do chúng vướng vào các đặc điểm cụ thể của cảnh (scene-specific cues) và thiếu một hệ tọa độ chung, dẫn đến sự không thể nhận dạng chéo ngữ cảnh (cross-context non-identifiability) và học đường tắt (shortcut learning).

II. Main Idea:

Để giải quyết các hạn chế này, bài báo giới thiệu Seq∆-REPA, một phương pháp căn chỉnh hiệu ứng kiểm soát ở cấp độ chuỗi. Ý tưởng chính là mặc dù hành động không được quan sát trực tiếp, nhưng các hiệu ứng ngữ nghĩa của chúng có thể quan sát được và đóng vai trò là tham chiếu chung. Seq∆-REPA neo giữ hành động tiềm ẩn tích hợp (integrated latent action) vào sự khác biệt đặc trưng theo thời gian từ một bộ mã hóa video tự giám sát (self-supervised video encoder) đã được đóng băng. Trên cơ sở này, bài báo trình bày Olaf-World, một quy trình tiền huấn luyện các mô hình thế giới video có điều kiện hành động từ video thụ động quy mô lớn. Các hành động tiềm ẩn được học bởi Seq∆-REPA sau đó được sử dụng làm giao diện điều khiển thống nhất để tiền huấn luyện một mô hình thế giới video có điều kiện hành động dựa trên kiến trúc bộ biến đổi khuếch tán (Diffusion Transformer – DiT).

III. Main Results:

Các thử nghiệm rộng rãi cho thấy phương pháp này học được một không gian hành động tiềm ẩn có cấu trúc tốt hơn, dẫn đến khả năng chuyển giao hành động zero-shot mạnh mẽ hơn và khả năng thích ứng hiệu quả hơn về dữ liệu so với các phương pháp tiên tiến:

Cấu trúc không gian tiềm ẩn: Seq∆-REPA học được các hành động tiềm ẩn có thể giải mã tuyến tính tốt hơn và bất biến với sự thay đổi miền (cross-context invariant), đạt Macro-F1 cao hơn đáng kể trong việc dò tìm cả trong miền (in-domain) và chéo miền (cross-domain) so với AdaWorld. Nó cũng tạo ra ma trận tương đồng hành động chéo miền (cross-domain action similarity) đối xứng đường chéo (diagonal-dominant) hơn, cho thấy ngữ nghĩa hành động nhất quán hơn.
Chuyển giao hành động zero-shot: Olaf-World chuyển giao các chuỗi hành động đáng tin cậy hơn trong khi vẫn bảo toàn ngữ cảnh mục tiêu tốt hơn đáng kể so với AdaWorld, vốn thường gặp phải các vấn đề như mất ổn định theo thời gian, mất nhân vật hoặc trôi quỹ đạo.
Thích ứng mô hình thế giới hiệu quả: Olaf-World đạt RPE (Relative Pose Error) thấp nhất cho cả dịch chuyển (RPE-trans) và quay (RPE-rot) trên tất cả các ngân sách thích ứng (0, 1, 50 video) và miền dữ liệu (First-Person, Third-Person), cho thấy khả năng tuân thủ hành động trung thực nhất. Nó cải thiện khả năng điều khiển trong khi vẫn duy trì chất lượng video tương đương.
Khả năng tổng quát hóa đến ngữ cảnh chưa thấy: Olaf-World duy trì khả năng điều khiển tốt nhất dưới các ngữ cảnh hình ảnh chưa từng thấy, đạt RPE thấp nhất. Nó bảo toàn tính nhất quán về hình ảnh tốt hơn khi tạo ra các thay đổi phù hợp với hành động đã ra lệnh.

IV. Conclusion & Future Works:

Bài báo kết luận rằng sự không thể nhận dạng chéo ngữ cảnh là một hạn chế chính trong học hành động tiềm ẩn không giám sát. Seq∆-REPA giải quyết vấn đề này bằng cách neo giữ hành động tiềm ẩn vào các hiệu ứng hành động được đo lường bằng sự khác biệt đặc trưng từ bộ mã hóa video tự giám sát, khuyến khích ngữ nghĩa hành động bất biến ngữ cảnh. Olaf-World, dựa trên các hành động tiềm ẩn này, cải thiện khả năng chuyển giao hành động zero-shot và cho phép thích ứng hiệu quả về dữ liệu với các không gian điều khiển mới. Công việc trong tương lai có thể mở rộng các hành động tiềm ẩn được căn chỉnh hiệu ứng này thành "kỹ năng có thể chuyển giao" (transferable skills) trong robot học, bắc cầu các thể hiện (embodiments) thông qua một bộ chuyển đổi hành động sang kỹ năng cụ thể cho từng thể hiện, ví dụ: từ người sang robot.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu mở rộng phương pháp Seq∆-REPA để học các hành động tiềm ẩn và hiệu ứng điều khiển trong các phương thức (modalities) khác ngoài video, chẳng hạn như dữ liệu âm thanh hoặc cảm biến xúc giác, để tạo ra các mô hình thế giới đa phương thức có khả năng chuyển giao cao.
Khám phá sâu hơn khái niệm "kỹ năng có thể chuyển giao" trong robot học bằng cách sử dụng các hành động tiềm ẩn được căn chỉnh hiệu ứng để thực hiện các nhiệm vụ robot phức tạp trong nhiều môi trường và cấu hình robot khác nhau, đặc biệt tập trung vào các tình huống có dữ liệu hạn chế.
Áp dụng Olaf-World để tạo ra các mô phỏng tương tác chuyên biệt cho các lĩnh vực đòi hỏi độ chính xác cao như huấn luyện y tế hoặc vận hành máy móc phức tạp, nơi khả năng thích ứng với các giao diện điều khiển mới và khả năng tổng quát hóa ngữ cảnh chưa từng thấy là rất quan trọng.

2. Patent:

Một ứng dụng điện thoại thông minh cho phép người dùng ghi lại một hành động đơn giản (ví dụ: một cử chỉ tay, một chuyển động cụ thể của camera) và sau đó áp dụng hành động đó để điều khiển các đối tượng ảo hoặc nhân vật trong các trò chơi hoặc trải nghiệm thực tế tăng cường (AR) khác nhau trên điện thoại của họ. Hệ thống sẽ tự động điều chỉnh hành động đã ghi để phù hợp với ngữ cảnh hình ảnh mới.
Một công cụ chỉnh sửa video trên điện thoại di động có khả năng "trích xuất kiểu chuyển động" từ một đoạn video (ví dụ: cách một chiếc xe di chuyển, cách camera xoay) và cho phép người dùng áp dụng chính xác kiểu chuyển động đó lên các đối tượng hoặc cảnh khác trong các video khác, ngay cả khi chúng có hình ảnh hoàn toàn khác biệt. Điều này giúp tạo ra các video nhất quán về chuyển động một cách dễ dàng.
Một ứng dụng kể chuyện tương tác cá nhân hóa trên điện thoại, nơi người dùng có thể "dạy" các hành động cơ bản cho một nhân vật ảo (ví dụ: "đi thẳng", "rẽ trái") chỉ bằng cách thực hiện chúng một lần. Ứng dụng sau đó sử dụng các hành động đã học này để điều khiển nhân vật trong các câu chuyện được tạo ra động, tự động thích nghi với các môi trường hình ảnh mới trong thế giới câu chuyện.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.10104
ArXiv Abstract	https://arxiv.org/abs/2602.10104
PDF Download	https://arxiv.org/pdf/2602.10104.pdf
Github Repository	https://github.com/showlab/Olaf-World

11. Agent Banana: High-Fidelity Image Editing with Agentic Thinking and Tooling (21 votes)

Tác giả: Ruijie Ye, Jiayi Zhang, Zhuoxin Liu, Zihao Zhu, Siyuan Yang, Li Li, Tianfu Fu, Franck Dernoncourt, Yue Zhao, Jiacheng Zhu, Ryan Rossi, Wenhao Chai, Zhengzhong Tu

Xuất bản lúc: 2026-02-09

Tag: Image Editing, Agentic Systems, LLMs, Vision-Language Models, Multi-turn Interaction, High-resolution Imaging

I. Main Problem:

Các thách thức dai dẳng trong chỉnh sửa ảnh dựa trên hướng dẫn trong quy trình làm việc chuyên nghiệp, bao gồm:

Chỉnh sửa quá mức (over-editing): Các công cụ chỉnh sửa thường sửa đổi nội dung vượt quá ý định của người dùng, làm thay đổi những phần không mong muốn.
Hạn chế chỉnh sửa đa lượt (multi-turn edits): Các mô hình hiện có chủ yếu là đơn lượt, trong khi các chỉnh sửa đa lượt có thể làm thay đổi tính chân thực của đối tượng và gây trôi dạt ngữ nghĩa.
Độ phân giải thấp không phù hợp: Đánh giá ở độ phân giải khoảng 1K không phù hợp với quy trình làm việc thực tế thường sử dụng hình ảnh siêu nét (ví dụ: 4K), dẫn đến mất chi tiết và khó duy trì các đường viền sắc nét.

II. Main Idea:

Các tác giả đề xuất Agent Banana, một khung tác nhân lập kế hoạch-thực thi phân cấp cho việc chỉnh sửa ảnh có độ trung thực cao, nhận biết đối tượng và dựa trên tư duy.

Agent Banana giới thiệu hai cơ chế chính:

Context Folding: Nén lịch sử tương tác dài thành bộ nhớ có cấu trúc để kiểm soát ổn định trong thời gian dài. Cơ chế này phân tách ngữ cảnh thành ba cấp độ chi tiết khác nhau: Asset Level (ImageContext), Execution Level (ToolContext), và Planning Level (ActionContext.
Image Layer Decomposition (ILD): Thực hiện chỉnh sửa cục bộ dựa trên các lớp ảnh bằng cách cắt các mảng ảnh có độ phân giải cao, giúp bảo toàn các vùng không phải mục tiêu và cho phép xuất ảnh ở độ phân giải gốc. ILD sử dụng một mặt nạ nhận biết đối tượng động để cô lập vùng mục tiêu và thực hiện chỉnh sửa chỉ trong hệ tọa độ cục bộ của lớp đó, sau đó hòa trộn lại vào ảnh gốc.

Để hỗ trợ đánh giá nghiêm ngặt, các tác giả xây dựng HDD-Bench, một benchmark dựa trên hội thoại và độ nét cao, với các mục tiêu từng bước có thể kiểm chứng và hình ảnh 4K gốc để chẩn đoán các lỗi dài hạn. Khung Agent Banana hoạt động trong một vòng lặp đa lượt, bao gồm một Planner (lập kế hoạch cấp cao, phân tách tác vụ) và một Executor (thực hiện các thao tác chỉnh sửa nguyên tử, sử dụng công cụ và tự sửa lỗi).

III. Main Results:

Agent Banana đạt được hiệu suất hàng đầu trên HDD-Bench và duy trì tính cạnh tranh trên các benchmark chỉnh sửa đơn lượt tiêu chuẩn:

Độ nhất quán đa lượt và độ trung thực nền tốt nhất: Trên HDD-Bench, Agent Banana đạt độ nhất quán đa lượt (IC 0.871) và độ trung thực nền cao nhất (SSIM OM 0.84, LPIPSOM 0.12), đồng thời cạnh tranh về việc tuân thủ hướng dẫn (IF 0.849).
Chỉnh sửa độ phân giải gốc 4K: Đây là một trong số ít các mô hình có khả năng duy trì độ trung thực cao ở độ phân giải 4K gốc, nhờ cơ chế Image Layer Decomposition giúp ngăn ngừa mất chi tiết trong quá trình chỉnh sửa độ phân giải cao.
Ngăn chặn trôi dạt chỉnh sửa do tiên nghiệm (Prior-Induced Editing Drift - PIED): Agent Banana giữ cho chỉ số PSNROM gần như không đổi qua các lượt, chứng tỏ khả năng giảm thiểu các lỗi tích lũy và bảo tồn chi tiết tần số cao cùng phong cách ở các vùng không chỉnh sửa, khác biệt so với các baseline có thể bị đánh lừa bởi PIED.

IV. Conclusion & Future Works:

Agent Banana là một khung chỉnh sửa ảnh dựa trên hướng dẫn đa tác nhân, nhận biết lớp, kết hợp với HDD-Bench, một benchmark độ phân giải cao, đa lượt, phù hợp với quy trình làm việc chuyên nghiệp. Hệ thống này thực hiện các chỉnh sửa chính xác, an toàn khi hoàn tác trên ảnh 4K, bảo toàn các vùng không phải mục tiêu, đồng thời cải thiện khả năng tuân thủ hướng dẫn, tính cục bộ của chỉnh sửa và độ ổn định đa lượt so với các mô hình baseline không tác nhân.

Mô hình hóa chỉnh sửa dưới dạng các chuyển đổi trạng thái rõ ràng trên đồ thị cấp độ đối tượng cho phép đánh giá từng bước có thể kiểm chứng và hỗ trợ tự nhiên cho các thao tác hoàn tác, phân nhánh và sửa lỗi dài hạn. Công cụ dữ liệu có thể mở rộng của tác giả cũng tách biệt chuyển đổi trạng thái khỏi việc kết xuất pixel, giúp việc tổng hợp các dấu vết suy luận thị giác-ngôn ngữ và lịch sử chỉnh sửa quy mô lớn trở nên khả thi.

Công việc này thúc đẩy chỉnh sửa ảnh dựa trên hướng dẫn hướng tới các quy trình làm việc chuyên nghiệp, nhấn mạnh hai thuộc tính quan trọng: độ trung thực ở độ phân giải gốc và độ tin cậy đa lượt. Tuy nhiên, khả năng chỉnh sửa mạnh mẽ hơn có thể bị lạm dụng để tạo ra nội dung sai lệch hoặc thao túng không có sự đồng ý. Do đó, các tác giả khuyến khích các hệ thống trong tương lai áp dụng các cơ chế xuất xứ, đồng thuận và tiết lộ khi được áp dụng cho phương tiện truyền thông trong thế giới thực.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng Agent Banana để xử lý các tác vụ chỉnh sửa video đa bước, duy trì tính nhất quán và độ phân giải cao trên các khung hình bằng cách thích ứng cơ chế Image Layer Decomposition cho dữ liệu theo trình tự thời gian.
Nghiên cứu cơ chế tự phản ánh và kiểm tra chất lượng nâng cao cho các tác nhân chỉnh sửa hình ảnh, đặc biệt tập trung vào việc phát hiện các lỗi nhỏ hoặc trôi dạt phong cách tinh tế mà không bị đánh lừa bởi các chỉ số bề mặt.
Tích hợp khả năng hiểu cảnh 3D vào Agent Banana để cho phép chỉnh sửa hình ảnh với sự nhận biết về chiều sâu và phối cảnh, mở rộng phạm vi các thao tác chỉnh sửa có thể thực hiện và tạo ra kết quả thực tế hơn.

2. Patent:

Trợ lý chỉnh sửa ảnh thông minh trên điện thoại: Một tính năng ứng dụng cho phép người dùng đưa ra các yêu cầu chỉnh sửa ảnh bằng ngôn ngữ tự nhiên (ví dụ: "làm cho bức ảnh này sáng hơn," "xóa người phía sau"), và hệ thống sẽ tự động thực hiện chuỗi các chỉnh sửa cục bộ, chính xác mà không làm giảm chất lượng tổng thể hay ảnh hưởng đến các khu vực không liên quan, ngay cả với ảnh có độ phân giải cao chụp bằng điện thoại.
Chỉnh sửa ảnh theo lớp độ phân giải cao trên di động: Một ứng dụng chỉnh sửa ảnh trên điện thoại di động có khả năng tự động phân tách hình ảnh thành các lớp chỉnh sửa độc lập (ví dụ: chủ thể, nền, các đối tượng cụ thể) và cho phép người dùng thực hiện các thay đổi cục bộ, có độ trung thực cao cho từng lớp bằng cách ra lệnh bằng giọng nói hoặc văn bản, mang lại trải nghiệm chỉnh sửa chuyên nghiệp tương tự phần mềm máy tính nhưng tối ưu cho màn hình cảm ứng và bộ xử lý của điện thoại.
Hệ thống hoàn tác và khôi phục thông minh với bộ nhớ ngữ cảnh: Một tính năng trong ứng dụng chỉnh sửa ảnh trên điện thoại cho phép ghi lại lịch sử chỉnh sửa không chỉ dưới dạng chuỗi hành động mà còn dưới dạng biểu đồ ngữ nghĩa. Điều này cho phép người dùng dễ dàng yêu cầu ứng dụng quay lại một trạng thái trước đó cụ thể hoặc khám phá các đường dẫn chỉnh sửa thay thế, đặc biệt hữu ích cho các quá trình sáng tạo nhiều bước trên điện thoại.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.09084
ArXiv Abstract	https://arxiv.org/abs/2602.09084
PDF Download	https://arxiv.org/pdf/2602.09084.pdf
Github Repository	https://github.com/taco-group/agent-banana

12. Dr. MAS: Stable Reinforcement Learning for Multi-Agent LLM Systems (17 votes)

Tác giả: Lang Feng, Longtao Zheng, Shuo He, Fuxiang Zhang, Bo An

Xuất bản lúc: 2026-02-09

Tag: Multi-Agent Systems, Reinforcement Learning, LLMs, Stability, Policy Optimization

I. Main Problem:

Các hệ thống LLM đa tác tử (Multi-Agent LLM systems) gặp khó khăn trong việc thực hiện học tăng cường (RL) sau huấn luyện một cách đáng tin cậy. Cụ thể, khi mở rộng tối ưu hóa dựa trên nhóm như GRPO cho các hệ thống này, một đường cơ sở chuẩn hóa toàn cục có thể lệch khỏi phân phối phần thưởng đa dạng của các tác tử, dẫn đến mất ổn định chuẩn gradient và làm suy yếu quá trình huấn luyện.

II. Main Idea:

Để giải quyết vấn đề mất ổn định trong huấn luyện RL cho hệ thống LLM đa tác tử, nghiên cứu đề xuất Dr. MAS, một phương pháp huấn luyện RL đơn giản và ổn định. Ý tưởng chính là sử dụng giải pháp theo tác tử: chuẩn hóa lợi thế cho mỗi tác tử bằng cách sử dụng thống kê phần thưởng riêng của tác tử đó (mean và variance). Điều này hiệu chỉnh tỷ lệ gradient và ổn định đáng kể quá trình huấn luyện. Ngoài thuật toán, Dr. MAS còn cung cấp một khuôn khổ huấn luyện RL đầu cuối, hỗ trợ điều phối đa tác tử có khả năng mở rộng, gán mô hình LLM linh hoạt cho từng tác tử, cấu hình tối ưu hóa riêng biệt và lập lịch tài nguyên dùng chung cho các backend LLM actor.

III. Main Results:

Dr. MAS đạt được những cải thiện rõ rệt so với GRPO tiêu chuẩn, ví dụ: +5.6% avg@16 và +4.6% pass@16 trong các bài toán toán học, và +15.2% avg@16 và +13.1% pass@16 trong các bài toán tìm kiếm. Đồng thời, nó loại bỏ đáng kể các đỉnh gradient (gradient spikes), cho thấy sự ổn định huấn luyện vượt trội. Dr. MAS cũng duy trì hiệu quả cao trong các trường hợp gán mô hình tác tử không đồng nhất (heterogeneous agent-model assignments), cải thiện hiệu quả tổng thể và giảm 31.6% độ trễ, 41.8% chi phí API trong cấu hình tác tử không đồng nhất. Nghiên cứu sâu hơn chỉ ra rằng chuẩn hóa theo tác tử cho cả giá trị trung bình (mean) và độ lệch chuẩn (standard deviation) mang lại kết quả tốt nhất.

IV. Conclusion & Future Works:

Dr. MAS cung cấp một giải pháp hiệu quả để ổn định quá trình huấn luyện RL cho hệ thống LLM đa tác tử bằng cách giải quyết vấn đề mất ổn định chuẩn gradient thông qua chuẩn hóa lợi thế theo từng tác tử. Tuy nhiên, Dr. MAS chưa giải quyết tất cả các nguồn mất ổn định khác (ví dụ: gán tín dụng giữa các tác tử và các lượt tương tác). Các hướng nghiên cứu trong tương lai bao gồm đánh giá hệ thống với số lượng tác tử lớn hơn, giải quyết vấn đề phân bổ tài nguyên và các vấn đề thực thi không đồng bộ.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu về cơ chế gán tín dụng (credit assignment) trong hệ thống LLM đa tác tử: Khám phá các phương pháp mới để gán tín dụng hiệu quả cho các tác tử trong chuỗi hành động dài, đặc biệt khi có độ trễ hoặc tương tác phức tạp, kết hợp với sự ổn định gradient của Dr. MAS.
Mở rộng Dr. MAS cho hệ thống với số lượng tác tử rất lớn và quản lý tài nguyên động: Phát triển các chiến lược phân bổ và lập lịch tài nguyên thông minh để tối ưu hóa hiệu suất và chi phí trong các môi trường có hàng trăm hoặc hàng nghìn tác tử, duy trì hiệu quả của Dr. MAS.
Điều tra tác động của việc thực thi không đồng bộ trong huấn luyện RL cho LLM đa tác tử: Nghiên cứu sâu hơn về các thách thức phát sinh từ việc các tác tử thực thi và cập nhật chính sách không đồng bộ, và phát triển các phương pháp để đảm bảo ổn định và hiệu quả học tập trong bối cảnh này.

2. Patent:

Hệ thống trợ lý AI đa năng ổn định cho điện thoại: Một ứng dụng trợ lý ảo trên điện thoại sử dụng nhiều chuyên gia AI nhỏ (ví dụ: một chuyên gia quản lý lịch, một chuyên gia tìm kiếm thông tin, một chuyên gia soạn tin nhắn). Hệ thống này sẽ học cách phối hợp các chuyên gia một cách ổn định và hiệu quả hơn, ngay cả khi chúng có khả năng khác nhau hoặc được sử dụng không thường xuyên, giúp trải nghiệm người dùng mượt mà và đáng tin cậy hơn, tránh các hành vi 'lạ' đột ngột của AI.
Tối ưu hóa hiệu năng và chi phí cho các tác vụ phức tạp trên điện thoại bằng AI linh hoạt: Phát triển một nền tảng trên điện thoại cho phép các ứng dụng phức tạp (ví dụ: lập kế hoạch chuyến đi, quản lý dự án nhỏ) sử dụng các mô hình AI có kích thước khác nhau cho từng phần việc. Ví dụ, một AI mạnh hơn cho các quyết định chiến lược và các AI nhỏ hơn, tiết kiệm pin hơn cho các tác vụ lặp lại hoặc đơn giản, tất cả đều học và hoạt động ổn định nhờ cơ chế chuẩn hóa của Dr. MAS.
Cải thiện học tập cá nhân hóa trên điện thoại với AI ổn định: Một ứng dụng giáo dục trên điện thoại có thể sử dụng các 'gia sư' AI chuyên biệt để hỗ trợ học sinh. Một gia sư có thể đánh giá năng lực, một gia sư khác tạo bài tập, và một gia sư thứ ba giải thích kiến thức. Công nghệ Dr. MAS sẽ giúp các gia sư này học cách tương tác và hỗ trợ học sinh một cách nhất quán, không gây ra những thay đổi đột ngột trong phương pháp dạy hay phản hồi, đảm bảo hiệu quả học tập lâu dài.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.08847
ArXiv Abstract	https://arxiv.org/abs/2602.08847
PDF Download	https://arxiv.org/pdf/2602.08847.pdf
Github Repository	https://github.com/langfengQ/DrMAS

13. TokenTrim: Inference-Time Token Pruning for Autoregressive Long Video Generation (20 votes)

Tác giả: Ariel Shaulov, Eitan Shaar, Amit Edenzon, Lior Wolf

Xuất bản lúc: 2026-01-30

Tag: Diffusion, Autoregressive Models, Video Generation, Inference Optimization, Pruning, Temporal Consistency

I. Main Problem:

Các pipeline tạo video dài tự hồi quy (auto-regressive) gặp phải vấn đề "temporal drift" (trôi dạt thời gian nghiêm trọng), nơi các lỗi nhỏ tích lũy và khuếch đại theo thời gian. Điều này dẫn đến những thay đổi về danh tính đối tượng, suy giảm cấu trúc và mất tính nhất quán tổng thể trong video dài. Vấn đề này được giả thuyết là không chủ yếu do dung lượng mô hình không đủ, mà do sự lan truyền lỗi trong thời gian suy luận, cụ thể là việc tái sử dụng không kiểm soát các token điều kiện tiềm ẩn (latent conditioning tokens) bị hỏng từ các khung hình đã tạo trước đó. Các phương pháp hiện có thường cần huấn luyện lại tốn kém hoặc vẫn dễ bị lỗi tích lũy.

II. Main Idea:

TokenTrim đề xuất một phương pháp hoạt động hoàn toàn trong thời gian suy luận để giảm thiểu "temporal drift" trong quá trình tạo video tự hồi quy dài. Ý tưởng chính là xác định và loại bỏ các token tiềm ẩn không ổn định trước khi chúng được tái sử dụng để điều kiện cho các bước tạo tiếp theo. Các bước thực hiện bao gồm:

Khởi tạo ổn định chuyển động: Sử dụng FlowMo để tạo lô khung hình đầu tiên, thiết lập một "neo" ổn định nhằm giảm thiểu lỗi ngay từ giai đoạn đầu.
Xây dựng bản tóm tắt tiềm ẩn: Mã hóa mỗi khung hình của lô đã tạo trước đó (Xt-1) và lô khung hình ứng cử viên hiện tại (Xt) thành các token tiềm ẩn. Sau đó, tạo một bản tóm tắt tiềm ẩn (Zt-1 và Zt) bằng cách lấy trung bình các token tiềm ẩn này theo chiều thời gian để cho phép so sánh token-wise.
Ước tính độ trôi dạt tiềm ẩn trên từng token: Tính điểm độ trôi dạt (di) cho mỗi token tiềm ẩn bằng cách đo độ lệch (sử dụng chuẩn L2) giữa biểu diễn token trong Zt và Zt-1. Điều này giúp xác định các token có biểu diễn lệch đáng kể so với lô trước, cho thấy sự hỏng hóc hoặc trôi dạt ngữ nghĩa tiềm ẩn.
Đánh giá mức độ trôi dạt và tiêu chí kích hoạt: Xác định tập hợp các token có độ trôi dạt cao nhất (top-pN) để tính điểm mức độ trôi dạt tổng thể (Dt). Sau đó, so sánh Dt với một ngưỡng thích ứng (µt + λσt) được tính toán dựa trên các thống kê chạy (trung bình và độ lệch chuẩn) từ các lô đã được chấp nhận trước đó. Có một giai đoạn khởi động (warm-up) để thu thập thống kê đáng tin cậy.
Cắt tỉa cứng và tái tạo: Nếu Dt vượt quá ngưỡng, các token không ổn định (có độ trôi dạt cao nhất) sẽ bị "cắt tỉa cứng" bằng cách loại bỏ chúng khỏi Key-Value cache (KV cache) tạm thời. Sau đó, lô khung hình hiện tại sẽ được tái tạo lại một lần nữa bằng cách sử dụng KV cache đã được cắt tỉa, ngăn chặn thông tin tiềm ẩn bị hỏng ảnh hưởng đến các thế hệ tương lai. Quy trình này chỉ giới hạn tối đa một lần tái tạo. Phương pháp này tương thích với các framework tạo video tự hồi quy như Self Forcing và Rolling Forcing, hoạt động hoàn toàn trong không gian tiềm ẩn mà không cần thay đổi kiến trúc mô hình, quy trình huấn luyện, hoặc thêm chi phí tính toán đáng kể.

III. Main Results:

TokenTrim đã chứng minh những cải tiến đáng kể trong việc tạo video dài tự hồi quy:

Cải thiện chất lượng và độ nhất quán định lượng (VBench): Khi áp dụng trên Rolling Forcing, "Final Score" tổng hợp tăng từ 75.12% lên 79.67% (+4.55%), cùng với các cải thiện đáng kể về "Quality Score" (+5.58%) và "Semantic Score" (+3.53%). Trên Self Forcing, "Final Score" tăng từ 75.93% lên 81.84% (+5.91%), với "Quality Score" (+6.90%) và "Semantic Score" (+4.91%) cũng được cải thiện.
Hiệu suất vượt trội so với các phương pháp hiện có: TokenTrim nhất quán vượt trội so với FlowMo ở cấp độ tổng hợp, ví dụ, với Self Forcing, TokenTrim đạt "Final Score" là 81.84% so với 76.05% của FlowMo, cho thấy sự cải thiện đáng kể hơn.
Chi phí suy luận thấp: TokenTrim chỉ làm tăng thời gian chạy thực tế khoảng 1.08 lần so với phương pháp Rolling Forcing cơ bản, trong khi việc áp dụng FlowMo yêu cầu chi phí lớn hơn đáng kể, dẫn đến tăng tốc độ chậm lại gấp 2.18 lần.
Chất lượng định tính và ưu tiên của người dùng: TokenTrim duy trì danh tính đối tượng, màu sắc và cấu trúc ổn định hơn theo thời gian, giảm thiểu các lỗi phổ biến như dịch chuyển màu sắc, biến dạng cấu trúc và trôi dạt danh tính so với các phương pháp cơ bản và FlowMo. Trong một nghiên cứu về ưu tiên của con người, TokenTrim được ưu tiên hơn đáng kể trong các khía cạnh giảm "temporal drift", chất lượng chuyển động và chất lượng hình ảnh tổng thể, đồng thời bảo toàn sự căn chỉnh văn bản-video.

IV. Conclusion & Future Works:

TokenTrim là một phương pháp hoạt động hoàn toàn trong thời gian suy luận để phát hiện độ trôi dạt và cắt tỉa cứng các token tiềm ẩn, giúp ổn định đáng kể quá trình tạo video dài tự hồi quy. Nó chứng minh rằng việc kiểm soát hiệu quả ngữ cảnh điều kiện trong thời gian suy luận có thể giảm đáng kể "temporal drift", làm nổi bật một cơ chế chưa được khai thác nhiều để cải thiện chất lượng video dài. Công trình này mở ra hướng nghiên cứu mới trong việc can thiệp vào quá trình suy luận để giải quyết các vấn đề tích lũy lỗi. Trong tương lai, có thể khám phá việc tích hợp sâu hơn các cơ chế ổn định chuyển động với cắt tỉa token, hoặc phát triển các phương pháp điều chỉnh thích nghi các tham số cắt tỉa dựa trên nội dung video hoặc độ phức tạp của cảnh.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu các kỹ thuật định nghĩa và đo lường sự "không ổn định" của token tiềm ẩn tiên tiến hơn, không chỉ dựa trên độ lệch L2 mà còn tích hợp các yếu tố ngữ nghĩa, cấu trúc hoặc thông tin động học để nhận diện các token bị hỏng một cách chính xác hơn.
Khám phá việc tích hợp cơ chế TokenTrim với các mô hình tạo video đa phương thức (multi-modal video generation) hoặc các mô hình Vision-Language Action, nhằm cải thiện tính nhất quán theo thời gian khi tạo video dựa trên các yêu cầu phức tạp hơn hoặc khi kết hợp nhiều loại đầu vào.
Phát triển các chiến lược cắt tỉa token thích nghi và động, nơi tỷ lệ cắt tỉa (pruning fraction) hoặc ngưỡng kích hoạt được điều chỉnh tự động trong quá trình suy luận dựa trên các đặc điểm của video đang được tạo (ví dụ: tốc độ chuyển động, độ phức tạp của cảnh) hoặc mức độ tích lũy lỗi được dự đoán.

2. Patent:

Hệ thống tạo video Story/Reels thông minh trên điện thoại di động: Một ứng dụng di động cho phép người dùng tạo các video dài liền mạch cho các nền tảng như Story hoặc Reels. Ứng dụng này sử dụng công nghệ tương tự TokenTrim để tự động phát hiện và loại bỏ các phần hình ảnh không ổn định (ví dụ: vùng màu sắc bị trôi, vật thể bị biến dạng) trong video được tạo tự động từ văn bản hoặc hình ảnh, đảm bảo video cuối cùng có chất lượng cao, nhất quán và không bị lỗi tích lũy theo thời gian trên điện thoại của người dùng.
Chế độ "Video Call Filter" duy trì tính nhất quán trên điện thoại: Một tính năng được tích hợp trong ứng dụng gọi video trên điện thoại di động. Tính năng này áp dụng một dạng cải tiến của cơ chế kiểm soát token để duy trì sự ổn định của các hiệu ứng nền ảo hoặc bộ lọc khuôn mặt. Khi phát hiện các thành phần hình ảnh của hiệu ứng bị "trôi dạt" hoặc xuất hiện lỗi (ví dụ: khuôn mặt bị méo, nền ảo bị biến dạng bất thường), hệ thống sẽ tự động điều chỉnh hoặc tái tạo lại các vùng bị ảnh hưởng để đảm bảo chất lượng hình ảnh nhất quán và mượt mà trong suốt cuộc gọi video.
Tính năng "Tối ưu hóa video dài" tự động cho camera điện thoại: Một chức năng nâng cao trong ứng dụng camera của điện thoại thông minh cho phép người dùng quay và tạo ra các video dài hơn với chất lượng ổn định. Hệ thống này sẽ liên tục phân tích dữ liệu hình ảnh trong thời gian thực (hoặc trong quá trình xử lý nhanh sau khi quay) để xác định và loại bỏ các yếu tố hình ảnh không ổn định (các "điểm ảnh" hoặc "khối pixel" gây ra sự thay đổi màu sắc, biến dạng vật thể hoặc mờ nhòe) nhằm đảm bảo video cuối cùng có độ nhất quán cao, không bị suy giảm chất lượng theo thời gian và mang lại trải nghiệm xem tốt hơn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.00268
ArXiv Abstract	https://arxiv.org/abs/2602.00268
PDF Download	https://arxiv.org/pdf/2602.00268.pdf
Github Repository	https://github.com/arielshaulov/TokenTrim

Tác giả: Yucheng Zhou, Hao Li, Jianbing Shen

Xuất bản lúc: 2026-02-02

Tag: Diffusion Models, Autoregressive, Image Generation, Optimal Transport, Deep Learning

I. Main Problem:

Vấn đề chính mà nghiên cứu này tập trung giải quyết là "tính không nhất quán của điều kiện" (condition inconsistency) trong quá trình sinh ảnh tự hồi quy (autoregressive image generation) với hàm mất mát khuếch tán (diffusion loss). Cụ thể, trong quá trình này, thông tin ngoại lai (extraneous information) có thể tích lũy, làm ảnh hưởng đến việc sinh ra các phần ảnh (patch) một cách tối ưu và dẫn đến lỗi điều kiện.

II. Main Idea:

Các tác giả trình bày phân tích lý thuyết cho thấy việc khử nhiễu từng phần (patch denoising) trong các mô hình tự hồi quy có khả năng giảm nhẹ lỗi điều kiện và dẫn đến một phân phối điều kiện ổn định. Phân tích cũng chỉ ra rằng quá trình sinh điều kiện tự hồi quy tinh chỉnh điều kiện, làm cho ảnh hưởng của lỗi điều kiện giảm theo cấp số nhân.

Để giải quyết vấn đề "tính không nhất quán của điều kiện" (condition inconsistency) do tích lũy thông tin ngoại lai, nghiên cứu này giới thiệu một phương pháp tinh chỉnh điều kiện mới dựa trên lý thuyết Vận chuyển Tối ưu (Optimal Transport - OT). Các tác giả chứng minh về mặt lý thuyết rằng việc xây dựng quá trình tinh chỉnh điều kiện dưới dạng Dòng Gradient Wasserstein (Wasserstein Gradient Flow) sẽ đảm bảo hội tụ về phân phối điều kiện lý tưởng, từ đó giảm nhẹ hiệu quả tính không nhất quán của điều kiện.

III. Main Results:

Về mặt lý thuyết, nghiên cứu chứng minh rằng tối ưu hóa khử nhiễu từng phần trong các mô hình tự hồi quy giúp giảm thiểu lỗi điều kiện và làm rõ hành vi suy giảm của gradient xác suất có điều kiện khi điều kiện ổn định. Điều kiện tự hồi quy có khả năng tinh chỉnh điều kiện, làm cho ảnh hưởng của lỗi điều kiện giảm theo cấp số nhân.
Đề xuất một phương pháp tinh chỉnh điều kiện dựa trên lý thuyết Vận chuyển Tối ưu (Optimal Transport) và chứng minh rằng việc xây dựng nó dưới dạng Dòng Gradient Wasserstein (Wasserstein Gradient Flow) đảm bảo hội tụ về phân phối điều kiện lý tưởng.
Về thực nghiệm, phương pháp đề xuất đạt hiệu suất vượt trội trên bộ dữ liệu ImageNet 256x256 trong tác vụ sinh ảnh có điều kiện, với điểm FID tốt nhất là 1.52 (hoặc 1.31 khi dựa trên MAR) và điểm IS cao nhất so với các mô hình khuếch tán và tự hồi quy hiện có.
Hiệu suất của phương pháp được duy trì và thậm chí có khoảng cách rộng hơn khi mở rộng quy mô mô hình (từ 208M đến 943M tham số) và khi sinh ảnh độ phân giải cao (ImageNet 512x512, FID 1.58 so với 1.73 của MAR).
Phân tích quá trình khử nhiễu cho thấy phương pháp đạt được Tỷ lệ Tín hiệu trên Nhiễu (SNR) cao hơn và Cường độ Nhiễu (Noise Intensity) thấp hơn, khẳng định tính hiệu quả của việc tinh chỉnh điều kiện dựa trên Optimal Transport.

IV. Conclusion & Future Works:

Nghiên cứu kết luận rằng việc khử nhiễu từng phần trong các mô hình tự hồi quy giúp giảm nhẹ lỗi điều kiện, ổn định phân phối điều kiện và nâng cao chất lượng tạo ảnh. Quá trình sinh điều kiện tự hồi quy tiếp tục tinh chỉnh điều kiện, làm giảm ảnh hưởng của lỗi theo cấp số nhân. Để giải quyết vấn đề "tính không nhất quán của điều kiện", các tác giả đã giới thiệu một phương pháp tinh chỉnh dựa trên lý thuyết Vận chuyển Tối ưu (Optimal Transport) và chứng minh rằng việc đặt nó dưới dạng Dòng Gradient Wasserstein (Wasserstein Gradient Flow) đảm bảo sự hội tụ. Các kết quả thực nghiệm và phân tích đã chứng minh tính hiệu quả của phương pháp này.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng phương pháp tối ưu hóa điều kiện dựa trên Optimal Transport và Wasserstein Gradient Flow sang các mô hình sinh ảnh autoregressive đa phương thức (multi-modal), ví dụ như video hoặc 3D, nơi các lỗi điều kiện và sự thiếu nhất quán có thể phức tạp hơn.
Nghiên cứu các phương pháp Optimal Transport hiệu quả hơn về mặt tính toán hoặc các kỹ thuật gradient flow thay thế để tăng tốc độ hội tụ và giảm chi phí tính toán cho việc tinh chỉnh điều kiện trong các mô hình sinh ảnh quy mô lớn.
Khám phá việc tích hợp các cơ chế tinh chỉnh điều kiện tự thích ứng (adaptive condition refinement) mà không cần prior mẫu rõ ràng (sampled prior), để điều kiện có thể tự điều chỉnh dựa trên phản hồi chất lượng ảnh được tạo ra trong quá trình sinh.

2. Patent:

Chức năng cải thiện ảnh thông minh trên điện thoại: Một ứng dụng chỉnh sửa ảnh sử dụng công nghệ tinh chỉnh thông tin từ ảnh gốc (như ánh sáng, màu sắc, bố cục) để tạo ra một phiên bản ảnh mới đẹp hơn, rõ nét hơn hoặc theo một phong cách cụ thể (ví dụ: nghệ thuật, chuyên nghiệp) mà không làm mất đi tính chân thực của ảnh, giúp người dùng có những bức ảnh chất lượng cao chỉ với một chạm.
Tạo hình nền hoặc biểu tượng cá nhân hóa chất lượng cao: Một tính năng trên điện thoại cho phép người dùng mô tả ý tưởng hoặc cung cấp một bức ảnh nhỏ, sau đó hệ thống sẽ tinh chỉnh các yếu tố liên quan đến mô tả hoặc ảnh đó để sinh ra những hình nền, biểu tượng (icon) hoặc sticker độc đáo, phù hợp với sở thích cá nhân và đảm bảo chất lượng hình ảnh sắc nét, liền mạch.
Hỗ trợ tạo vật thể ảo thực tế tăng cường (AR) liền mạch: Ứng dụng AR trên điện thoại giúp người dùng đặt các vật thể ảo vào môi trường thực tế qua camera. Công nghệ này sẽ tinh chỉnh các điều kiện của cảnh quay thực tế (như hướng ánh sáng, màu sắc của môi trường xung quanh) để đảm bảo vật thể ảo được tạo ra và đặt vào trông tự nhiên, hài hòa với môi trường, không bị lỗi tương phản hoặc sai lệch về ánh sáng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.07022
ArXiv Abstract	https://arxiv.org/abs/2602.07022
PDF Download	https://arxiv.org/pdf/2602.07022.pdf
Github Repository	N/A

15. SCALE: Self-uncertainty Conditioned Adaptive Looking and Execution for Vision-Language-Action Models (17 votes)

Tác giả: Hyeonbeom Choi, Daechul Ahn, Youhan Lee, Taewook Kang, Seongwon Cho, Jonghyun Choi

Xuất bản lúc: 2026-02-04

Tag: Robotics, Vision-Language Models, Machine Learning, Uncertainty Quantification, Adaptive Control

I. Main Problem:

Các mô hình Vision-Language-Action (VLA) hiện có, đặc biệt là các phương pháp Test-Time Scaling (TTS), phải đối mặt với nhiều hạn chế. Chúng thường yêu cầu đào tạo bổ sung, bộ kiểm định (verifiers) và nhiều lượt truyền qua (forward passes), khiến việc triển khai không thực tế. Hơn nữa, các phương pháp này chỉ can thiệp vào giai đoạn giải mã hành động (action decoding) trong khi giữ cố định các biểu diễn thị giác, điều này không đủ trong các tình huống mơ hồ về nhận thức, nơi việc xem xét 'cách nhận thức' cũng quan trọng như việc quyết định 'phải làm gì'. Các pipeline suy luận cố định, dựa trên bộ mã hóa thị giác đóng băng và giải mã tham lam (greedy decoding), cũng gặp khó khăn dưới sự mơ hồ về nhận thức và đa phương thức hành động, dẫn đến bỏ qua các lựa chọn thay thế khả thi và các tín hiệu thị giác quan trọng.

II. Main Idea:

Các tác giả đề xuất SCALE (Self-uncertainty Conditioned Adaptive Looking and Execution), một chiến lược suy luận đơn giản, không cần đào tạo bổ sung, không cần bộ kiểm định và chỉ yêu cầu một lượt truyền qua duy nhất. SCALE điều chỉnh đồng thời nhận thức thị giác và hành động dựa trên 'tự-không-chắc-chắn' (self-uncertainty) của mô hình, lấy cảm hứng từ lý thuyết Active Inference. Khi độ không chắc chắn cao, SCALE mở rộng khả năng khám phá trong cả nhận thức và hành động; khi tự tin, nó tập trung vào việc khai thác. Ý tưởng chính là định lượng tự-không-chắc-chắn bằng cách đo lường vị trí của phân phối đầu ra dự đoán so với hai phân phối tham chiếu: một phân phối 'one-hot' (độ chắc chắn hoàn toàn) và một phân phối 'đồng nhất' (độ mơ hồ hoàn toàn). Điều này tạo ra một điểm số tự-không-chắc-chắn liên tục và có giới hạn, phản ánh cả sự không chắc chắn của phân phối và tính quyết đoán của lựa chọn hàng đầu.

SCALE sử dụng tín hiệu tự-không-chắc-chắn này để:

Giải mã hành động thích ứng: Điều chỉnh nhiệt độ lấy mẫu hành động (sampling temperature τk_t) dựa trên mức độ không chắc chắn ở cấp độ token. Mức độ không chắc chắn cao dẫn đến lấy mẫu đa dạng hơn, mức độ không chắc chắn thấp dẫn đến thực hiện gần như tham lam.
Chú ý thị giác thích ứng: Điều chỉnh nhiệt độ chú ý thị giác (γt) của bộ mã hóa thị giác dựa trên mức độ không chắc chắn ở cấp độ bước và độ lệch của nó so với lịch sử gần đây (sử dụng EMA). Khi độ không chắc chắn tăng lên, γt tăng để mở rộng sự chú ý (khám phá); khi giảm, γt giảm để làm sắc nét sự chú ý (tập trung).

III. Main Results:

SCALE liên tục cải thiện hiệu suất của các mô hình VLA tiên tiến và vượt trội so với các phương pháp Test-Time Scaling (TTS) hiện có, đồng thời duy trì hiệu quả một lượt truyền qua.

Trong mô phỏng: SCALE cải thiện hiệu suất trung bình trên các benchmark như LIBERO (ví dụ: +5.8 điểm với OpenVLA, vượt qua MG-Select 10.7 điểm) và SIMPLER-WidowX (ví dụ: +14.6 điểm với π0-FAST), cũng như trên LIBERO-PRO-Long (benchmark unseen).
Trong môi trường thực tế: Ghi nhận mức tăng đáng kể trong cả điều kiện in-distribution (ID) và out-of-distribution (OOD) (ví dụ: +19.5 điểm với OpenVLA cho ID, +16.7 điểm cho OOD).
Các chiến lược giải mã đơn giản (sampling nhiệt độ, top-k, top-p) thường làm giảm hiệu suất hoặc không nhất quán, trong khi SCALE mang lại những cải tiến mạnh mẽ.
Nghiên cứu cắt bỏ (ablation study) cho thấy cả giải mã hành động thích ứng và chú ý thị giác thích ứng đều đóng góp bổ sung vào hiệu suất.
Phương pháp đo lường tự-không-chắc-chắn của SCALE vượt trội hơn các số liệu thay thế (như pmax, Gini impurity, Entropy, Self-Certainty).
Việc điều chỉnh chú ý đơn phương (uni-modal attention) trong bộ mã hóa thị giác hiệu quả hơn so với chú ý đa phương thức (cross-modal attention). Các chiến lược điều chỉnh thích ứng và dựa trên sự thay đổi (change-based) cũng hiệu quả hơn so với các chiến lược cố định hoặc tức thời.

IV. Conclusion & Future Works:

SCALE là một chiến lược suy luận đơn giản, không yêu cầu đào tạo bổ sung, không bộ kiểm định và chỉ cần một lượt truyền qua duy nhất, giúp nâng cao tính mạnh mẽ của các mô hình Vision-Language-Action (VLA) bằng cách điều chỉnh đồng thời nhận thức và hành động dựa trên tự-không-chắc-chắn. Lấy cảm hứng từ lý thuyết Active Inference, SCALE mở rộng khám phá trong các tình huống mơ hồ và tập trung khai thác khi tự tin. Biện pháp tự-không-chắc-chắn cốt lõi của phương pháp này, bằng cách so sánh khoảng cách đến cả hai thái cực của phổ chắc chắn, nắm bắt được cả sự tập trung phân phối và độ tin cậy của lựa chọn hàng đầu. Các thí nghiệm trên cả benchmark mô phỏng và thực tế đã chứng minh rằng SCALE liên tục cải thiện các VLA tiên tiến và vượt trội hơn các phương pháp TTS hiện có. Mặc dù bài báo không nêu rõ các công việc tương lai, nhưng công trình này đặt nền móng cho việc cải thiện sự an toàn và độ tin cậy của robot hoạt động trong các môi trường thực tế đa dạng, mở ra tiềm năng cho tự động hóa tiên tiến trong nhiều lĩnh vực.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu ứng dụng SCALE vào các mô hình AI khác có tính chất điều khiển và ra quyết định, chẳng hạn như các hệ thống tự hành không người lái hoặc robot cộng tác trong môi trường phức tạp, để đánh giá hiệu quả của việc thích ứng với mức độ không chắc chắn.
Khám phá các phương pháp định lượng tự-không-chắc-chắn nâng cao hơn, ví dụ, tích hợp các mô hình học sâu để tự động học cách đánh giá độ không chắc chắn từ dữ liệu đa phương thức, thay vì chỉ dựa vào các thước đo thống kê tĩnh từ phân phối đầu ra.
Phát triển các chiến lược điều chỉnh sự chú ý thị giác và hành động đa cấp độ hoặc có tính thứ bậc, cho phép mô hình thích nghi không chỉ ở cấp độ thấp (ví dụ: điều chỉnh lấy nét) mà còn ở cấp độ cao (ví dụ: thay đổi toàn bộ kế hoạch hành động) dựa trên mức độ không chắc chắn tổng thể của nhiệm vụ.

2. Patent:

Một hệ thống trợ lý cá nhân trên điện thoại di động có khả năng thích ứng với mức độ tự tin của người dùng khi thực hiện một tác vụ dựa trên camera (ví dụ: tìm kiếm đồ vật, quét mã QR). Nếu hệ thống phát hiện người dùng đang không chắc chắn (ví dụ: camera quét liên tục nhiều đối tượng tương tự, ánh sáng kém), nó sẽ tự động điều chỉnh cách nó 'nhìn' (ví dụ: mở rộng vùng nhận diện đối tượng, tăng cường độ nhạy của thuật toán thị giác) và 'thực hiện' (ví dụ: đề xuất các hành động tìm kiếm rộng hơn hoặc đưa ra các câu hỏi làm rõ để thăm dò ý định của người dùng).
Một tính năng chụp ảnh thông minh trên ứng dụng camera điện thoại có thể điều chỉnh cài đặt chụp và gợi ý hành động dựa trên mức độ không chắc chắn của AI về ý định chụp của người dùng. Khi hệ thống nhận ra có nhiều yếu tố gây nhiễu hoặc chủ thể không rõ ràng (không chắc chắn cao), nó sẽ tự động 'nhích' các thiết lập của camera (ví dụ: tăng lấy nét tự động, chụp nhiều ảnh liên tiếp với các chế độ khác nhau) và 'đưa ra gợi ý' (ví dụ: chuyển sang chế độ chân dung, điều chỉnh bố cục) để tối ưu hóa bức ảnh. Khi ý định rõ ràng, nó sẽ tập trung vào việc thực hiện một cách chính xác.
Một giao diện người dùng trên điện thoại có khả năng thích ứng dựa trên mức độ không chắc chắn về ngữ cảnh hoặc nhu cầu của người dùng. Ví dụ, nếu AI của điện thoại không chắc chắn về lý do người dùng mở một ứng dụng cụ thể (ví dụ: mở ứng dụng bản đồ nhưng không tìm kiếm gì), nó có thể 'mở rộng' các lựa chọn hiển thị (ví dụ: hiển thị các điểm đến gần đây, các địa điểm nổi bật) và 'thăm dò' ý định (ví dụ: "Bạn muốn đi đâu?"). Khi hệ thống tự tin về nhu cầu của người dùng (ví dụ: đang lái xe và mở ứng dụng điều hướng), nó sẽ hiển thị giao diện 'tập trung' và 'quyết đoán' hơn với các tính năng liên quan trực tiếp đến việc điều hướng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.04208
ArXiv Abstract	https://arxiv.org/abs/2602.04208
PDF Download	https://arxiv.org/pdf/2602.04208.pdf
Github Repository	N/A

16. BagelVLA: Enhancing Long-Horizon Manipulation via Interleaved Vision-Language-Action Generation (15 votes)

Tác giả: Yucheng Hu, Jianke Zhang, Yuanfei Luo, Yanjiang Guo, Xiaoyu Chen, Xinshu Sun, Kun Feng, Qingzhou Lu, Sheng Chen, Yangang Zhang, Wei Li, Jianyu Chen

Xuất bản lúc: 2026-02-10

Tag: VLA, Robotics, Long-Horizon Manipulation, Generative Models, Diffusion Models, Embodied AI, Transformers

I. Main Problem:

Các mô hình Vision-Language-Action (VLA) hiện tại thường chỉ tập trung vào lập kế hoạch ngôn ngữ (linguistic planning) hoặc dự đoán hình ảnh (visual forecasting) một cách riêng lẻ, không tích hợp đồng thời cả hai khả năng để hướng dẫn tạo hành động. Điều này dẫn đến hiệu suất không tối ưu trong các nhiệm vụ thao tác phức tạp, dài hạn (long-horizon manipulation), vốn đòi hỏi khả năng suy luận về nhiệm vụ, dự đoán kết quả vật lý và tạo ra các hành động chính xác. Việc thiếu một khung thống nhất tích hợp liền mạch suy luận, dự đoán và điều khiển là một thách thức lớn.

II. Main Idea:

Giới thiệu BagelVLA, một mô hình thống nhất tích hợp lập kế hoạch ngôn ngữ, dự đoán hình ảnh và tạo hành động trong một khung duy nhất. BagelVLA được khởi tạo từ một mô hình hiểu biết và tạo sinh thống nhất đã được huấn luyện trước (pretrained unified understanding and generative model), sau đó được đào tạo để lồng ghép (interleave) suy luận văn bản và dự đoán hình ảnh trực tiếp vào vòng lặp thực thi hành động. Để kết hợp hiệu quả các phương thức này, nhóm nghiên cứu đề xuất Residual Flow Guidance (RFG), một cơ chế khởi tạo từ quan sát hiện tại và sử dụng khử nhiễu một bước (single-step denoising) để trích xuất các đặc trưng hình ảnh dự đoán, hướng dẫn tạo hành động với độ trễ tối thiểu. Mô hình sử dụng kiến trúc Mixture of Transformers (MoT) với các chuyên gia cho LLM, tạo sinh và hành động, và một chiến lược huấn luyện hai giai đoạn với tập dữ liệu lai khổng lồ.

III. Main Results:

BagelVLA vượt trội đáng kể so với các phương pháp cơ sở hiện có trên nhiều bộ dữ liệu mô phỏng (Calvin, Robotwin) và thực tế, đặc biệt trong các nhiệm vụ yêu cầu suy luận đa giai đoạn hoặc dài hạn. Cụ thể, trên Robotwin, BagelVLA đạt hiệu suất tốt nhất (75.26% ở Clean và 20.87% ở Randomized). Trong các nhiệm vụ cơ bản thực tế, BagelVLA đạt tỷ lệ thành công trung bình cao nhất (75.5%) và vượt trội trong các thiết lập OOD (out-of-distribution). Đối với các nhiệm vụ lập kế hoạch dài hạn, BagelVLA chứng tỏ lợi thế đáng kể (ví dụ: xếp khối 73.3%, sắp xếp biểu tượng 63.3%) với độ chính xác lập kế hoạch gần 90%. Mô hình có thể suy luận với tốc độ 1.2 giây mỗi chunk (40Hz) và lên đến 72Hz với Asynchronous Execution.

IV. Conclusion & Future Works:

BagelVLA là một mô hình thống nhất tích hợp lập kế hoạch ngôn ngữ, dự đoán hình ảnh và tạo hành động, giúp nâng cao khả năng suy luận và điều khiển trong các nhiệm vụ dài hạn bằng cách mô hình hóa rõ ràng sự chuyển đổi từ ngôn ngữ sang động lực học hình ảnh. Tuy nhiên, vẫn còn những hạn chế về độ chính xác trong điều khiển động cơ tinh vi (fine-motor control) do các giới hạn của mô hình và tập dữ liệu, gợi ý hướng nghiên cứu trong tương lai để cải thiện việc ánh xạ hành động.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu các kiến trúc kết hợp đa phương thức tiên tiến hơn (ví dụ: tích hợp chặt chẽ hơn giữa các chuyên gia ngôn ngữ, thị giác, hành động) để nâng cao khả năng suy luận và điều khiển trong các nhiệm vụ phức tạp hơn.
Phát triển các phương pháp tạo dữ liệu tổng hợp hoặc tăng cường dữ liệu (data augmentation) tiên tiến để cải thiện độ chính xác của điều khiển động cơ tinh vi và khắc phục các hạn chế về chất lượng, số lượng tập dữ liệu hành động.
Khám phá các phương pháp học tập theo chương trình (curriculum learning) thích ứng và theo thời gian thực cho các mô hình VLA, cho phép chúng học hỏi các kỹ năng phức tạp một cách hiệu quả trong môi trường năng động, ít dữ liệu.

2. Patent:

Hệ thống hướng dẫn lắp ráp/sửa chữa bằng thực tế tăng cường (AR) trên điện thoại: Một ứng dụng điện thoại sử dụng camera để nhìn vật thể mà người dùng đang thao tác (ví dụ: đồ nội thất cần lắp ráp, thiết bị điện tử cần sửa). Ứng dụng sẽ phân tích tình trạng hiện tại, đưa ra các bước hướng dẫn bằng văn bản rõ ràng, đồng thời hiển thị hình ảnh dự kiến về kết quả sau mỗi bước trực tiếp trên màn hình camera. Điều này giúp người dùng dễ dàng hình dung và thực hiện đúng thao tác, đảm bảo kết quả như mong muốn.
Trợ lý nấu ăn thông minh với dự đoán hình ảnh trên điện thoại: Một ứng dụng hỗ trợ nấu ăn trên điện thoại, không chỉ đưa ra công thức mà còn hướng dẫn từng bước chi tiết. Khi người dùng thực hiện một công đoạn (ví dụ: thái rau, trộn nguyên liệu), ứng dụng sẽ sử dụng camera để xem thao tác và hiển thị hình ảnh dự kiến về thành phẩm ở bước đó (ví dụ: hình ảnh rau đã thái đúng kích thước, hỗn hợp đã trộn đều) để đảm bảo người dùng thực hiện đúng, ngay cả với những món ăn phức tạp.
Hệ thống lập kế hoạch cá nhân hóa cho nhiệm vụ phức tạp trên điện thoại: Một công cụ trong điện thoại di động giúp người dùng phân tích một mục tiêu lớn (ví dụ: "dọn dẹp nhà cửa cuối tuần", "chuẩn bị cho chuyến đi") thành các nhiệm vụ nhỏ hơn. Ứng dụng không chỉ liệt kê các bước mà còn hiển thị các hình ảnh trực quan về kết quả mong muốn sau mỗi giai đoạn (ví dụ: hình ảnh căn phòng đã gọn gàng, vali đã sắp xếp xong), giúp người dùng dễ dàng hình dung và có động lực hoàn thành công việc.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.09849
ArXiv Abstract	https://arxiv.org/abs/2602.09849
PDF Download	https://arxiv.org/pdf/2602.09849.pdf
Github Repository	N/A

17. LatentLens: Revealing Highly Interpretable Visual Tokens in LLMs (14 votes)

Tác giả: Benno Krojer, Shravan Nayak, Oscar Mañas, Vaibhav Adlakha, Desmond Elliott, Siva Reddy, Marius Mosbach

Xuất bản lúc: 2026-01-31

Tag: LLMs, VLMs, Interpretability, Visual Tokens, Representation Alignment

I. Main Problem:

Trong việc biến đổi Large Language Models (LLMs) thành Vision-Language Models (VLMs), một thách thức lớn là hiểu được lý do tại sao LLMs có thể dễ dàng xử lý các token thị giác, đôi khi chỉ với một phép biến đổi MLP nông. Các phương pháp diễn giải hiện có như LogitLens và EmbeddingLens thường đánh giá thấp khả năng diễn giải của các token thị giác, khiến cho việc hiểu cách các biểu diễn thị giác được tích hợp và xử lý bên trong LLM, cũng như liệu chúng có tương ứng với ngôn ngữ có ý nghĩa ngữ nghĩa hay không, trở nên khó khăn.

II. Main Idea:

Bài báo giới thiệu LATENTLENS, một phương pháp diễn giải mới không cần huấn luyện (training-free) để ánh xạ các biểu diễn tiềm ẩn (latent representations) thành các mô tả bằng ngôn ngữ tự nhiên. Ý tưởng cốt lõi của LATENTLENS là so sánh các biểu diễn token thị giác với các biểu diễn văn bản theo ngữ cảnh (contextualized text representations) từ một kho ngữ liệu văn bản lớn. Cụ thể, nó mã hóa một ngữ liệu văn bản lớn, lưu trữ các biểu diễn token theo ngữ cảnh ở mỗi lớp của LLM. Sau đó, các biểu diễn token thị giác được so sánh với các biểu diễn theo ngữ cảnh này bằng cách tìm láng giềng gần nhất (top-k nearest neighbors), và các mô tả này dùng để giải thích token thị giác. Phương pháp này cung cấp các mô tả chi tiết cấp câu (sentence-level descriptions) và có thể áp dụng cho mọi lớp của mô hình.

III. Main Results:

LATENTLENS cho thấy các token thị giác có khả năng diễn giải cao một cách nhất quán trên 10 VLM khác nhau và ở tất cả các lớp. Trung bình, 72% token thị giác được diễn giải, vượt trội đáng kể so với EmbeddingLens (30%) và LogitLens (23%), vốn thường đánh giá thấp khả năng này. Phát hiện quan trọng là "Mid-Layer Leap": các token thị giác ở các lớp đầu, thậm chí là lớp đầu vào, có xu hướng tương đồng mạnh mẽ nhất với các biểu diễn văn bản theo ngữ cảnh từ các lớp giữa của LLM (ví dụ: lớp 8-16), cho thấy sự căn chỉnh ngữ nghĩa hơn là từ vựng. Kết quả định tính cũng chứng minh rằng LATENTLENS tạo ra các mô tả cấp câu phong phú và ý nghĩa hơn nhiều so với các subword hoặc dự đoán next-token của LogitLens. Các kết quả này cũng được chứng minh là có thể khái quát hóa cho các VLM thương mại (off-the-shelf VLMs).

IV. Conclusion & Future Works:

Nghiên cứu khẳng định rằng các token thị giác có thể diễn giải một cách nhất quán trên các lớp của LLM khi sử dụng các biểu diễn văn bản theo ngữ cảnh phù hợp. Điều này giải thích tại sao việc kết nối các bộ mã hóa thị giác và LLM được huấn luyện riêng biệt chỉ yêu cầu cập nhật trọng số và kiến trúc tối thiểu. Hiện tượng "Mid-Layer Leap" cho thấy các token thị giác đầu vào đã được căn chỉnh với các biểu diễn ngôn ngữ ngữ nghĩa trung gian. Các hướng nghiên cứu trong tương lai bao gồm: khám phá các điểm tương đồng cấu trúc sâu hơn giữa biểu diễn thị giác và ngôn ngữ, mở rộng LATENTLENS để diễn giải các token phi ngôn ngữ khác (như soft prompts, latent thinking, speech), áp dụng cho các mô hình đa phương thức tự nhiên (natively multimodal models), và sử dụng ngữ liệu động. Ngoài ra, LATENTLENS có tiềm năng trong việc giảm thiểu ảo giác (hallucination) và thực hiện phân tích nhân quả (causal ablations) về tác động của các token thị giác có thể diễn giải.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu sâu hơn về sự tương đồng cấu trúc giữa các không gian biểu diễn thị giác và ngôn ngữ bằng cách sử dụng LATENTLENS để phân tích các yếu tố như hình học nhúng hoặc đặc tính ngữ nghĩa, vượt ra ngoài khả năng diễn giải từ vựng.
Áp dụng LATENTLENS để diễn giải các token phi ngôn ngữ trong các mô hình khác, chẳng hạn như soft prompts trong Fine-tuning, các biểu diễn tiềm ẩn của "latent thinking" trong LLM, hoặc các token phát biểu (speech tokens) trong các mô hình Speech-to-Text.
Điều tra cách LATENTLENS có thể được sử dụng như một công cụ để giảm thiểu ảo giác (hallucination) trong VLMs bằng cách xác định và hiệu chỉnh các token thị giác không thể diễn giải, hoặc để thực hiện các nghiên cứu phân tích nhân quả về tác động của các token thị giác có thể diễn giải đối với hiệu suất nhiệm vụ.

2. Patent:

Ứng dụng phân tích hình ảnh trên điện thoại di động để cung cấp mô tả ngữ cảnh: Một ứng dụng điện thoại cho phép người dùng chụp ảnh hoặc quay video, sau đó sử dụng một hệ thống để xác định và cung cấp mô tả bằng ngôn ngữ tự nhiên, chi tiết và theo ngữ cảnh cho các đối tượng hoặc khu vực cụ thể trong hình ảnh/video. Ví dụ, khi người dùng chỉ vào một tòa nhà cổ, ứng dụng có thể hiển thị "tòa nhà bằng đá với nhiều cửa sổ" thay vì chỉ "tòa nhà".
Hệ thống trợ giúp người dùng hiểu tài liệu phức tạp bằng cách diễn giải hình ảnh và biểu đồ: Phát triển một tính năng trên ứng dụng đọc tài liệu (ví dụ: PDF reader) hoặc trình duyệt web trên điện thoại, nơi người dùng có thể chọn một phần hình ảnh hoặc biểu đồ. Hệ thống sẽ phân tích phần được chọn và tạo ra các mô tả bằng ngôn ngữ tự nhiên, dễ hiểu, giúp người dùng nắm bắt ý nghĩa của các thành phần hình ảnh mà không cần phải giải mã thủ công.
Công cụ kiểm duyệt nội dung tự động cho nền tảng mạng xã hội di động: Triển khai một công nghệ tương tự để tự động phân tích hình ảnh hoặc video được người dùng tải lên trên các ứng dụng mạng xã hội. Hệ thống có thể xác định các "yếu tố thị giác" cụ thể trong nội dung (ví dụ: vũ khí, biểu tượng nhạy cảm) và cung cấp các mô tả ngữ cảnh, giúp các nhà kiểm duyệt nội dung đánh giá chính xác hơn mức độ phù hợp hoặc vi phạm của nội dung theo chính sách nền tảng, đặc biệt hữu ích trên các thiết bị di động.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.00462
ArXiv Abstract	https://arxiv.org/abs/2602.00462
PDF Download	https://arxiv.org/pdf/2602.00462.pdf
Github Repository	https://github.com/McGill-NLP/latentlens

18. iGRPO: Self-Feedback-Driven LLM Reasoning (13 votes)

Tác giả: Ali Hatamizadeh, Shrimai Prabhumoye, Igor Gitman, Ximing Lu, Seungju Han, Wei Ping, Yejin Choi, Jan Kautz

Xuất bản lúc: 2026-02-09

Tag: LLMs, Reinforcement Learning, Mathematical Reasoning

I. Main Problem:

Các mô hình ngôn ngữ lớn (LLM) đã cho thấy tiềm năng trong việc giải quyết các bài toán toán học phức tạp, nhưng vẫn thiếu sót trong việc tạo ra các giải pháp chính xác và nhất quán. Các thuật toán học tăng cường (RL) hiện có thường không kết hợp bất kỳ hình thức phản hồi hoặc suy ngẫm nào về chính đầu ra của mô hình, tạo ra một khoảng cách lớn giữa cách con người giải quyết vấn đề một cách tự nhiên và cách LLM thường được huấn luyện.

II. Main Idea:

Công trình giới thiệu Iterative Group Relative Policy Optimization (iGRPO), một phần mở rộng hai giai đoạn của GRPO, bổ sung khả năng tự điều kiện động thông qua các bản nháp do mô hình tạo ra. Ở giai đoạn 1, iGRPO lấy mẫu nhiều bản nháp thăm dò và chọn bản nháp có phần thưởng cao nhất. Ở giai đoạn 2, nó nối bản nháp tốt nhất này vào prompt gốc và áp dụng một bản cập nhật theo phong cách GRPO trên các bản tinh chỉnh được điều kiện bởi bản nháp đó, huấn luyện chính sách để cải thiện vượt qua nỗ lực mạnh nhất trước đó của nó. Điều này tạo ra một chu trình phản hồi tự động, nơi chất lượng của bản nháp tốt nhất được tạo ra sẽ cải thiện theo thời gian khi chính sách học tập, cho phép LLM liên tục cải thiện khả năng suy luận của mình.

III. Main Results:

iGRPO liên tục vượt trội hơn GRPO trên các mô hình cơ sở (ví dụ: Nemotron-H-8B-Base-8K và DeepSeek-R1 Distilled) trên các điểm chuẩn suy luận đa dạng, với cùng ngân sách rollout. Đặc biệt, iGRPO đạt được kết quả state-of-the-art mới là 85.62% và 79.64% trên AIME24 và AIME25 khi áp dụng cho OpenReasoning-Nemotron-7B được huấn luyện trên AceReason-Math. Các phân tích sâu hơn cho thấy wrapper tinh chỉnh của iGRPO có thể khái quát hóa vượt ra ngoài các biến thể GRPO, hưởng lợi từ một judge tạo sinh và thay đổi động lực học học tập bằng cách trì hoãn sự sụp đổ entropy. Các lợi ích này cũng được ghi nhận trên các mô hình 14B và chuyển giao sang các tác vụ suy luận tổng quát như GPQA và MMLU-Pro.

IV. Conclusion & Future Works:

Kết quả của công trình nhấn mạnh tiềm năng của RL dựa trên phản hồi tự động, lặp đi lặp lại để thúc đẩy khả năng suy luận toán học có thể kiểm chứng. Cơ chế tự phản hồi lặp đi lặp lại không chỉ cải thiện các mô hình trong các tác vụ toán học mà còn trong các hành vi tinh chỉnh hữu ích rộng rãi hơn. Hướng phát triển trong tương lai có thể bao gồm việc khám phá các cơ chế lựa chọn bản nháp tốt hơn hoặc tích hợp iGRPO với các kỹ thuật học tăng cường tiên tiến khác.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu ứng dụng cơ chế tự phản hồi của iGRPO vào các lĩnh vực suy luận phức tạp khác ngoài toán học, ví dụ như tạo mã nguồn hoặc khám phá khoa học.
Điều tra các phương pháp lựa chọn 'bản nháp tốt nhất' đa dạng hơn trong Giai đoạn 1, thay vì chỉ dựa vào tín hiệu phần thưởng scalar, có thể kết hợp sự đa dạng hoặc các loại lỗi cụ thể.
Khám phá sự tích hợp của quy trình tinh chỉnh hai giai đoạn của iGRPO với các kiến trúc hoặc kỹ thuật RL tiên tiến khác dành cho LLM, như Mixture-of-Experts hoặc các mô hình phần thưởng mới lạ.

2. Patent:

Hệ thống 'Trợ lý Giải Toán Thông Minh' trên điện thoại di động: Một ứng dụng giúp học sinh giải bài toán bằng cách tạo ra nhiều bản nháp lời giải, tự động chọn bản tốt nhất, sau đó tinh chỉnh để đưa ra lời giải cuối cùng chi tiết và dễ hiểu, hỗ trợ ôn tập và học tập cá nhân hóa.
Tính năng 'Cải Thiện Văn Bản Tự Động' trong ứng dụng soạn thảo trên điện thoại: Tích hợp vào bàn phím hoặc trình soạn thảo văn bản, hệ thống sẽ tự động tạo ra các phiên bản cải thiện của đoạn văn bạn đang viết, chọn bản tốt nhất và tinh chỉnh nó để sửa lỗi ngữ pháp, cải thiện phong cách hoặc làm rõ ý nghĩa, giúp người dùng viết email, tin nhắn hiệu quả hơn.
Công cụ 'Hỗ Trợ Viết Mã Lập Trình' di động với tính năng tự tinh chỉnh: Dành cho các ứng dụng phát triển di động nhẹ, công cụ này sẽ gợi ý và tự động sửa các đoạn mã. Nó tạo ra nhiều phiên bản của một đoạn mã, đánh giá và chọn phiên bản tối ưu, sau đó tự tinh chỉnh để cải thiện hiệu suất, sửa lỗi hoặc làm cho mã rõ ràng hơn, hỗ trợ lập trình viên trên thiết bị di động.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.09000
ArXiv Abstract	https://arxiv.org/abs/2602.09000
PDF Download	https://arxiv.org/pdf/2602.09000.pdf
Github Repository	N/A

19. Large-Scale Terminal Agentic Trajectory Generation from Dockerized Environments (13 votes)

Tác giả: Siwei Wu, Yizhi Li, Yuyang Song, Wei Zhang, Yang Wang, Riza Batista-Navarro, Xian Yang, Mingjie Tang, Bryan Dai, Jian Yang, Chenghua Lin

Xuất bản lúc: 2026-02-01

Tag: LLMs, AI Agents, Data Generation, Docker, Terminal-based tasks, Reinforcement Learning

I. Main Problem:

Việc huấn luyện các mô hình tác tử (agentic models) cho các tác vụ dựa trên terminal đòi hỏi dữ liệu quỹ đạo terminal chất lượng cao, có khả năng nắm bắt các tương tác dài hạn, thực tế trên nhiều lĩnh vực. Tuy nhiên, việc xây dựng dữ liệu này ở quy mô lớn gặp nhiều thách thức do hai yêu cầu chính:

Khả năng thực thi (Executability): Mỗi tác vụ đòi hỏi một môi trường Docker phù hợp và thường là riêng biệt.
Khả năng xác minh (Verifiability): Đầu ra của các tác vụ rất đa dạng, ngăn cản việc xác minh thống nhất và tiêu chuẩn hóa. Các phương pháp hiện có hoặc thiếu tính thực thi và gắn liền với môi trường thực tế (như Nex-N1), hoặc bị giới hạn về quy mô và sự đa dạng môi trường (như các tập dữ liệu SWE-bench).

II. Main Idea:

Bài báo đề xuất TerminalTraj Pipeline, một quy trình có khả năng mở rộng để tạo ra các quỹ đạo tác tử terminal từ môi trường Docker. Pipeline này giải quyết các thách thức bằng cách:

Tuyển chọn môi trường Dockerized: Lọc các kho lưu trữ GitHub chất lượng cao bằng một mô hình tính điểm (ScoreModel) để xây dựng 32K môi trường thực thi Docker đa dạng trên tám ngôn ngữ lập trình.
Tạo ra các tác vụ phù hợp với Docker: Sử dụng LLMs (ví dụ: Qwen3-Coder-480B) để phân tích các tệp Markdown và Shell từ các kho lưu trữ đã chọn, từ đó tổng hợp các truy vấn tác vụ (task queries) và logic xác thực có thể thực thi (executable validation code) dưới dạng các bộ thử nghiệm Pytest. Các tác vụ này bao gồm cả kịch bản tổng quát và các kịch bản chuyên biệt theo tám lĩnh vực.
Tổng hợp và xác minh quỹ đạo tác tử: Triển khai các tác tử (ví dụ: Qwen3-Coder-480B) trong môi trường Docker đã được tuyển chọn thông qua Terminus-2 scaffold để tương tác, ghi lại quá trình giải quyết vấn đề từng bước. Quỹ đạo tác tử chỉ được giữ lại nếu chúng vượt qua quá trình xác thực dựa trên mã thực thi (execution-based quality control), đảm bảo chất lượng cao và không có "ảo giác" thành công. Quy trình này cho phép tạo ra 50.733 quỹ đạo terminal đã được xác minh.

III. Main Results:

Quy mô dữ liệu: Đã tuyển chọn 32.325 Docker images và tạo ra 50.733 quỹ đạo terminal đã được xác minh trên tám lĩnh vực từ 899.741 kho lưu trữ GitHub. Tỷ lệ thành công xây dựng Docker images từ các kho lưu trữ được chọn đạt khoảng 17%. Tỷ lệ quỹ đạo được xác minh là 4.92%, cho thấy quy trình lọc chính xác.
Hiệu suất tác tử được cải thiện: Các mô hình được huấn luyện trên dữ liệu TerminalTraj với backbone Qwen2.5-Coder đạt được cải thiện hiệu suất đáng kể trên TerminalBench (TB), với mức tăng lên tới 20% trên TB 1.0 và 10% trên TB 2.0 so với các backbone tương ứng.
Hiệu suất hàng đầu trong phân khúc: Mô hình TerminalTraj-32B đạt hiệu suất 35.30% trên TB 1.0 và 22.00% trên TB 2.0, vượt trội so với các mô hình nguồn mở trong cùng phân khúc dưới 100 tỷ tham số và thậm chí sánh ngang với Qwen3-Coder-480B (một mô hình lớn hơn nhiều) về hiệu quả quy mô.
Khả năng mở rộng thời gian kiểm tra (Test-time Scaling) tốt hơn: Các mô hình TerminalTraj thể hiện khả năng mở rộng pass@k mạnh mẽ và ổn định hơn, với TerminalTraj-32B đạt 63% pass@16, vượt trội hơn Qwen3-Coder-480B ở hầu hết các cài đặt.
Giá trị của dữ liệu theo từng lĩnh vực: Nghiên cứu loại bỏ từng miền (ablation study) cho thấy dữ liệu từ các miền cụ thể (đặc biệt là WS và QEMU) là rất quan trọng để học các hành vi tác tử mạnh mẽ.
Xác minh dựa trên mã vượt trội hơn LLM: Xác minh quỹ đạo dựa trên mã thực thi của TerminalTraj cho thấy hiệu quả vượt trội trong việc xác định quỹ đạo chất lượng cao cho việc huấn luyện so với xác minh chỉ bằng LLM.

IV. Conclusion & Future Works:

Kết luận: Bài báo giới thiệu TerminalTraj Pipeline, một quy trình có thể mở rộng để xây dựng các quỹ đạo tác vụ terminal đa dạng, có thể thực thi và xác minh được. Bằng cách lọc các kho lưu trữ chất lượng cao, xây dựng môi trường Docker, tạo ra các tác vụ phù hợp với Docker và xác minh quỹ đạo thông qua các kiểm tra thực thi, TerminalTraj đã tạo ra 32K Docker images và 50.733 quỹ đạo. Các mô hình TerminalTraj cho thấy sự cải thiện đáng kể về hiệu suất trên TerminalBench và đạt hiệu suất SOTA trong số các mô hình dưới 100 tỷ tham số, đồng thời thể hiện khả năng mở rộng thời gian kiểm tra mạnh mẽ. Điều này khẳng định tính hiệu quả của việc xây dựng dữ liệu quy mô lớn, dựa trên thực thi để thúc đẩy các tác tử terminal.

Hướng nghiên cứu trong tương lai:

Học tăng cường (Reinforcement Learning - RL): Các tác vụ tương tác của TerminalTraj tự nhiên hỗ trợ các mô hình học trực tuyến như RL. Việc tích hợp RL trong tương lai có thể mang lại khả năng tổng quát hóa lớn hơn và hiệu suất cao hơn nữa.
Mở rộng quy mô mô hình backbone: Các xu hướng hiện tại cho thấy hiệu suất của TerminalTraj tiếp tục cải thiện khi kích thước mô hình tăng lên. Nghiên cứu sâu hơn có thể khám phá việc huấn luyện các mô hình backbone lớn hơn với dữ liệu TerminalTraj để đạt được những cải thiện hiệu suất vượt trội.
Khám phá thêm các miền chuyên biệt: Mặc dù đã bao gồm tám miền, việc mở rộng sang các miền chuyên biệt khác hoặc khám phá sự kết hợp giữa các miền có thể làm phong phú thêm sự đa dạng của dữ liệu và cải thiện khả năng tổng quát hóa của tác tử.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu về tác động của các chiến lược lấy mẫu quỹ đạo đa dạng (diversity via sampling) lên hiệu suất và khả năng tổng quát hóa của tác tử terminal, đặc biệt trong các kịch bản thực tế phức tạp.
Phát triển một phương pháp tự động hóa việc tạo "validation code" mạnh mẽ hơn cho các tác vụ terminal, có khả năng xử lý các tình huống phức tạp và ít được xác định rõ ràng hơn.
Đánh giá và so sánh hiệu suất của các mô hình tác tử terminal được huấn luyện trên TerminalTraj trong các môi trường điện toán đám mây và DevOps thực tế, bao gồm khả năng tự động hóa triển khai và gỡ lỗi.

2. Patent:

Một hệ thống tích hợp trong điện thoại di động sử dụng AI Agent để tự động chẩn đoán và khắc phục sự cố ứng dụng dựa trên các tương tác terminal ảo. Ví dụ, nếu một ứng dụng gặp lỗi, hệ thống có thể tự động chạy các lệnh kiểm tra, cài đặt lại thư viện phụ thuộc hoặc cấu hình lại cài đặt ứng dụng mà không yêu cầu người dùng thao tác thủ công phức tạp.
Một ứng dụng di động cho phép người dùng mô tả các tác vụ phức tạp bằng ngôn ngữ tự nhiên (ví dụ: "Tối ưu hóa ảnh trong thư viện của tôi và tải chúng lên đám mây") và sau đó tự động tạo ra một chuỗi các lệnh và thao tác cấp terminal/hệ thống để thực hiện tác vụ đó, có thể chạy trong một môi trường sandbox an toàn trên điện thoại.
Một nền tảng cho phép các thiết bị IoT hoặc thiết bị di động biên (Edge devices) tạo và chia sẻ các môi trường ảo nhỏ gọn cho các tác vụ cụ thể (ví dụ: xử lý dữ liệu cảm biến, quản lý thiết bị ngoại vi). AI Agent trên các thiết bị này có thể học hỏi và tự động giải quyết các vấn đề phát sinh trong các môi trường đó, cải thiện khả năng tự phục hồi và tự quản lý của thiết bị.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.01244
ArXiv Abstract	https://arxiv.org/abs/2602.01244
PDF Download	https://arxiv.org/pdf/2602.01244.pdf
Github Repository	https://github.com/multimodal-art-projection/TerminalTraj

20. VideoWorld 2: Learning Transferable Knowledge from Real-world Videos (12 votes)

Tác giả: Zhongwei Ren, Yunchao Wei, Xiao Yu, Guixun Luo, Yao Zhao, Bingyi Kang, Jiashi Feng, Xiaojie Jin

Xuất bản lúc: 2026-02-10

Tag: Video Generation, Latent Dynamics Models, Diffusion Models, Transfer Learning, Robotics, Long-Horizon Planning

I. Main Problem:

Vấn đề chính là việc các mô hình AI hiện tại gặp khó khăn trong việc học kiến thức có thể chuyển giao từ dữ liệu video thực tế, chưa được gắn nhãn để thực hiện các tác vụ phức tạp, dài hạn. Đặc biệt, các phương pháp trước đây như VideoWorld [51] hay các mô hình tạo video tiên tiến khác thường thất bại khi phải đối mặt với sự đa dạng hình ảnh, động lực học hành động phức tạp và các tương tác nhiều bước trong video thế giới thực. Nguyên nhân là do chúng không tách rời được động lực học hành động cốt lõi khỏi các chi tiết hình ảnh không liên quan, dẫn đến việc mô hình dễ bị quá khớp vào các chi tiết bề ngoài và kém khả năng tổng quát hóa sang môi trường mới.

II. Main Idea:

Tác giả giới thiệu VideoWorld 2, mở rộng VideoWorld [51], tập trung vào việc học kiến thức có thể chuyển giao từ video thế giới thực chưa gắn nhãn cho các tác vụ dài hạn, phức tạp. Ý tưởng cốt lõi là giới thiệu Mô hình Động lực học Latent tăng cường động lực (dynamics-enhanced Latent Dynamics Model - dLDM). dLDM tách rời động lực học hành động khỏi đặc điểm hình ảnh bằng cách sử dụng:

Một mô hình khuếch tán video (Video Diffusion Model - VDM) được huấn luyện trước để xử lý mô hình hóa đặc điểm hình ảnh.
Một VQ-VAE nhân quả để nén các thay đổi hình ảnh trong tương lai thành các mã latent rời rạc, tập trung vào động lực học liên quan đến tác vụ. Bằng cách giao nhiệm vụ mô hình hóa đặc điểm hình ảnh cho VDM, dLDM được khuyến khích học các mã latent tập trung vào các động lực học liên quan đến tác vụ một cách nhỏ gọn và có ý nghĩa. Các mã latent này sau đó được mô hình hóa một cách tự hồi quy (autoregressively) bằng một transformer để học các chính sách tác vụ và hỗ trợ lập luận dài hạn. Công trình cũng giới thiệu bộ dữ liệu Video-CraftBench mới để đánh giá các tác vụ thủ công thế giới thực, dài hạn.

III. Main Results:

VideoWorld 2 đã đạt được những cải tiến đáng kể:

Trong các tác vụ thủ công dài hạn, VideoWorld 2 đạt tỷ lệ thành công lên tới 70% so với các phương pháp trước đây. Khi chỉ huấn luyện trên Video-CraftBench, nó đạt tỷ lệ thành công 68.8% cho tác vụ gấp giấy và 81.5% cho tác vụ xếp khối.
Khi kết hợp dữ liệu OpenX, tỷ lệ thành công cho tác vụ gấp giấy được cải thiện, từ 98.2% ở bước 1 đến 72.3% ở bước 7, và cho tác vụ xếp khối là từ 74.0% đến 85.8%.
Trong lĩnh vực robot, VideoWorld 2 có thể tiếp thu kiến thức thao tác có thể chuyển giao từ tập dữ liệu Open-X, giúp cải thiện đáng kể hiệu suất tác vụ trên môi trường CALVIN, thể hiện khả năng tổng quát hóa mạnh mẽ giữa các miền.
Mô hình tạo ra các video thực thi dài hạn, mạch lạc với chất lượng hình ảnh cao, được thể hiện qua các chỉ số SSIM và LPIPS tốt hơn so với các mô hình khác (ví dụ, SSIM 0.774 và LPIPS 0.193 khi kết hợp OpenX).
Công trình cũng chứng minh rằng việc tách rời động lực học hành động khỏi mô hình hóa đặc điểm hình ảnh là rất quan trọng để có được kiến thức hiệu quả.

IV. Conclusion & Future Works:

Công trình này là nghiên cứu đầu tiên về việc học kiến thức có thể chuyển giao cho các tác vụ phức tạp, dài hạn trực tiếp từ video thực tế thô. Kết quả cho thấy việc tách rời động lực học hành động khỏi mô hình hóa đặc điểm hình ảnh là rất quan trọng để thu nhận kiến thức hiệu quả. VideoWorld 2 thể hiện tiềm năng to lớn trong việc học kiến thức thế giới có thể chuyển giao trực tiếp từ video thô, và tất cả mã nguồn, dữ liệu, mô hình sẽ được công khai để khuyến khích các nghiên cứu sâu hơn.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu sâu hơn về việc tách rời (disentanglement) động lực học và đặc điểm hình ảnh: Khám phá các phương pháp tiên tiến hơn để tách biệt hoàn toàn động lực học hành động cốt lõi khỏi các yếu tố hình ảnh không liên quan, có thể thông qua các tín hiệu tự giám sát (self-supervised signals) mới hoặc kiến trúc mô hình cải tiến.
Mở rộng VideoWorld 2 sang các miền tác vụ phức tạp hơn và đa dạng hơn: Ứng dụng và điều chỉnh mô hình để học kiến thức từ video cho các tác vụ không chỉ trong thủ công và robot, mà còn trong các lĩnh vực như y tế (phẫu thuật), thể thao (phân tích kỹ thuật), hoặc các hoạt động tương tác người-máy phức tạp hơn.
Tích hợp sâu hơn với hướng dẫn ngôn ngữ (language instruction): Phát triển các cơ chế để kết hợp hiệu quả hơn thông tin từ ngôn ngữ tự nhiên vào quá trình học động lực học latent, cho phép kiểm soát chính xác hơn các tác vụ dài hạn và tăng cường khả năng chuyển giao kiến thức dựa trên mô tả văn bản.

2. Patent:

Hệ thống hướng dẫn tự học kỹ năng thủ công (DIY) trên điện thoại: Một ứng dụng di động có khả năng quan sát người dùng thông qua camera điện thoại khi họ thực hiện các tác vụ thủ công (như gấp giấy origami, làm đồ handmade). Dựa trên kiến thức về chuỗi hành động đã học từ hàng ngàn video hướng dẫn, ứng dụng sẽ tự động nhận diện bước hiện tại của người dùng và hiển thị video minh họa bước tiếp theo cần thực hiện hoặc cung cấp phản hồi trực quan để sửa lỗi.
Trợ lý ảo hỗ trợ lắp ráp và sửa chữa đơn giản qua video trên điện thoại: Phát triển một ứng dụng trên điện thoại thông minh cho phép người dùng quay video quá trình lắp ráp đồ đạc hoặc sửa chữa các vật dụng đơn giản trong nhà. Ứng dụng sẽ phân tích động tác và trạng thái của vật thể, sau đó sử dụng kiến thức đã học từ video hướng dẫn thực tế để tạo ra một chuỗi video hướng dẫn từng bước chi tiết, phù hợp với môi trường và vật liệu người dùng đang có, giúp họ hoàn thành công việc một cách hiệu quả.
Ứng dụng luyện tập kỹ năng vận động và thể thao dựa trên video cho điện thoại: Một ứng dụng trên thiết bị di động sử dụng camera để ghi lại các động tác tập luyện của người dùng (ví dụ: các tư thế yoga, động tác thể dục, kỹ thuật nhảy). Dựa trên mô hình học được từ các video mẫu, ứng dụng sẽ phân tích động tác của người dùng, xác định các bước còn thiếu hoặc sai lệch, và hiển thị video mô phỏng chính xác các động tác cần sửa đổi hoặc bước tiếp theo trong chuỗi bài tập để người dùng có thể học hỏi và cải thiện kỹ năng một cách trực quan.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.10102
ArXiv Abstract	https://arxiv.org/abs/2602.10102
PDF Download	https://arxiv.org/pdf/2602.10102.pdf
Github Repository	https://github.com/ByteDance-Seed/VideoWorld/tree/main/VideoWorld2

21. Fine-T2I: An Open, Large-Scale, and Diverse Dataset for High-Quality T2I Fine-Tuning (13 votes)

Tác giả: Xu Ma, Yitian Zhang, Qihua Dong, Yun Fu

Xuất bản lúc: 2026-02-10

Tag: T2I, Fine-tuning, Dataset, Diffusion Models, Autoregressive Models, Machine Learning, Computer Vision

I. Main Problem:

Chất lượng cao và các tập dữ liệu mở vẫn là một nút thắt cổ chai lớn cho việc tinh chỉnh (fine-tuning) mô hình chuyển văn bản thành hình ảnh (Text-to-Image - T2I). Hầu hết các tập dữ liệu tinh chỉnh có sẵn công khai đều gặp phải các vấn đề như độ phân giải thấp, độ khớp văn bản-hình ảnh kém, hoặc sự đa dạng hạn chế, dẫn đến khoảng cách hiệu suất rõ ràng giữa các mô hình nghiên cứu mở và các mô hình cấp doanh nghiệp. Dữ liệu tinh chỉnh chất lượng cao, được tuyển chọn kỹ lưỡng và căn chỉnh theo hướng dẫn thường là riêng tư và không thể truy cập, gây khó khăn cho cộng đồng mở trong việc phát triển các mô hình T2I mạnh mẽ.

II. Main Idea:

Bài báo giới thiệu Fine-T2I, một tập dữ liệu quy mô lớn, chất lượng cao và hoàn toàn mở để tinh chỉnh T2I. Fine-T2I được xây dựng để thu hẹp khoảng cách dữ liệu trong tinh chỉnh T2I bằng cách kết hợp: (a) hình ảnh tổng hợp được tạo ra bởi các mô hình diffusion mạnh mẽ hiện đại và (b) hình ảnh thực được tuyển chọn cẩn thận, có bản quyền từ các nhiếp ảnh gia chuyên nghiệp.

Quy trình xây dựng dữ liệu bao gồm:

Tạo lời nhắc tổng hợp: Sử dụng mô hình LLaMA3 để tạo các lời nhắc có kiểm soát, bao gồm 10 loại nhiệm vụ, 32 danh mục lời nhắc, 11 phong cách hình ảnh và 5 mẫu lời nhắc. Các lời nhắc được làm phong phú bằng một mô hình tăng cường lời nhắc (prompt enhancer).
Loại bỏ trùng lặp và lọc lời nhắc: Áp dụng phương pháp loại bỏ trùng lặp ngữ nghĩa (semantic de-duplication) với ngưỡng tương đồng cosine là 0.8, sau đó lọc an toàn nội dung bằng LLaMA-Guard-3-8B và kiểm tra sự phù hợp với các thuộc tính bằng Qwen3-VL-8B-Instruct.
Tạo hình ảnh: Tạo hình ảnh từ cả lời nhắc gốc và lời nhắc được làm phong phú, với các độ phân giải ngẫu nhiên và tỉ lệ khung hình cố định (hình vuông), sử dụng các mô hình tạo mạnh mẽ như Z-Image và FLUX2. Mỗi hình ảnh được chọn dựa trên điểm Aesthetic Predictor V2.5 cao nhất.
Lọc cặp văn bản-hình ảnh: Thực hiện lọc hai giai đoạn: đầu tiên dựa trên điểm Aesthetic Predictor V2.5 (>5.5 cho hình ảnh tổng hợp, >6.5 cho hình ảnh thực), sau đó là kiểm tra độ khớp văn bản-hình ảnh và phát hiện lỗi bằng Vision-Language Model (VLM) có khả năng suy luận.
Tuyển chọn tập dữ liệu hình ảnh thực: Thu thập hình ảnh từ các nền tảng do người sáng tạo điều khiển như Pexels, Pixabay, và Unsplash-Lite. Sau đó lọc bằng Aesthetic Predictor V2.5 (điểm ≥6.5) và tạo chú thích bằng mô hình Qwen2.5-VL-7B đã tinh chỉnh, cung cấp cả lời nhắc ngắn và chi tiết.

III. Main Results:

Fine-T2I chứa hơn 6 triệu cặp văn bản-hình ảnh, chiếm khoảng 2 TB dung lượng đĩa, đạt quy mô của các tập dữ liệu tiền huấn luyện trong khi vẫn duy trì chất lượng cấp độ tinh chỉnh.

Việc tinh chỉnh trên Fine-T2I đã cải thiện một cách nhất quán cả chất lượng tạo hình ảnh và khả năng tuân thủ hướng dẫn trên nhiều loại mô hình T2I khác nhau (Diffusion và Autoregressive models):

Đánh giá của con người: Đối với mô hình Autoregressive LlamaGen, việc tinh chỉnh trên Fine-T2I mang lại tỷ lệ thắng 80.7% về chất lượng hình ảnh và 65.3% về độ khớp văn bản-hình ảnh so với mô hình không tinh chỉnh. Đối với mô hình Diffusion SD-XL, cũng ghi nhận những cải tiến đáng kể.
So sánh trực quan: Các hình ảnh được tạo ra sau khi tinh chỉnh trên Fine-T2I trông tự nhiên và mạch lạc hơn, với các chi tiết cục bộ rõ ràng hơn và ít lỗi gây mất tập trung hơn, đồng thời phản ánh tốt hơn nội dung lời nhắc dự định.
Chỉ số tự động: Mặc dù không phải bằng chứng chính, điểm GenEval cũng được cải thiện cho cả LlamaGen (tăng 0.09) và SD-XL (tăng 0.06).
So sánh với các tập dữ liệu khác: Các mô hình được tinh chỉnh trên Fine-T2I tạo ra kết quả tốt hơn đáng kể so với các mô hình được tinh chỉnh trên T2I-2M và BLIP3o-60k về cả độ khớp văn bản và chất lượng hình ảnh.

IV. Conclusion & Future Works:

Dữ liệu tinh chỉnh chất lượng cao, công khai và mở vẫn là một nút thắt quan trọng cho thế hệ Text-to-Image chất lượng cao trong cộng đồng mở. Để giải quyết vấn đề này, Fine-T2I được giới thiệu là một tập dữ liệu quy mô lớn, hoàn toàn mở (hơn 6 triệu mẫu) kết hợp các cặp văn bản-hình ảnh tổng hợp đa dạng với một tập hình ảnh thực được tuyển chọn nghiêm ngặt. Fine-T2I được xây dựng với quy trình thiết kế và lọc dữ liệu có hệ thống, ưu tiên sự đa dạng, độ khớp và chất lượng hình ảnh ở quy mô lớn. Việc tinh chỉnh trên Fine-T2I đã được chứng minh là cải thiện nhất quán các loại mô hình khác nhau, mang lại khả năng tuân thủ hướng dẫn mạnh mẽ hơn và chất lượng hình ảnh cao hơn nhiều. Với việc Fine-T2I được phát hành dưới giấy phép mở, nghiên cứu này mong muốn cung cấp một nền tảng vững chắc cho công việc tương lai về tạo hình ảnh từ văn bản và mở đường cho các mô hình Text-to-Image hiện đại đầy hứa hẹn trong cộng đồng mở.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu các phương pháp lọc và tuyển chọn dữ liệu hiệu quả hơn, có thể sử dụng phương pháp học chủ động (active learning) hoặc các VLM tiên tiến hơn để giảm chi phí tính toán trong khi vẫn duy trì chất lượng của tập dữ liệu fine-tuning.
Khám phá các chiến lược kết hợp tối ưu giữa dữ liệu tổng hợp và dữ liệu thực trong các tập dữ liệu fine-tuning, xem xét các tỉ lệ và thuộc tính khác nhau để hiểu tác động của chúng đến các nhiệm vụ tạo hình ảnh hoặc kiến trúc mô hình cụ thể.
Phát triển các chỉ số đánh giá tự động mới phù hợp hơn với sở thích của con người về chất lượng thẩm mỹ và khả năng tuân thủ hướng dẫn chi tiết trong các mô hình T2I, nhằm giải quyết những hạn chế của các tiêu chuẩn hiện có.

2. Patent:

Trợ lý chỉnh sửa ảnh thông minh trên điện thoại: Một ứng dụng điện thoại cho phép người dùng mô tả những thay đổi mong muốn đối với ảnh của họ bằng ngôn ngữ tự nhiên (ví dụ: "biến bức ảnh này thành tranh màu nước", "thêm một đám mây trắng mềm mại vào đây", "thay đổi phong cách thành cyberpunk"). Ứng dụng sau đó sẽ áp dụng những thay đổi này với chất lượng hình ảnh cao và tuân thủ chặt chẽ lời nhắc của người dùng, tận dụng công nghệ tạo hình ảnh và tinh chỉnh tiên tiến.
Công cụ tạo nhãn dán và biểu tượng cảm xúc cá nhân hóa: Một ứng dụng di động cho phép người dùng tạo nhãn dán hoặc biểu tượng cảm xúc tùy chỉnh dựa trên mô tả văn bản. Người dùng có thể nhập các lời nhắc như "một con mèo hạnh phúc đeo kính râm" hoặc "một quả bơ buồn đang nhảy múa" và ứng dụng sẽ tạo ra các hình ảnh độc đáo, chất lượng cao để sử dụng trong các ứng dụng nhắn tin, được cá nhân hóa theo sở thích phong cách của họ.
Công cụ tạo bảng phân cảnh tương tác cho người sáng tạo nội dung: Một ứng dụng điện thoại được thiết kế cho những người có ảnh hưởng trên mạng xã hội hoặc những người sáng tạo nội dung nghiệp dư để nhanh chóng tạo bảng phân cảnh trực quan. Người dùng có thể nhập một chuỗi mô tả cảnh (ví dụ: "một phụ nữ trẻ đi qua một khu chợ nhộn nhịp", "cận cảnh đôi tay đang cầm một tách cà phê", "một khung cảnh tuyệt đẹp từ đỉnh núi lúc hoàng hôn"), và ứng dụng sẽ tạo ra các hình ảnh đa dạng, độ phân giải cao cho mỗi lời nhắc, giúp họ hình dung và lên kế hoạch cho nội dung video hoặc ảnh của mình.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.09439
ArXiv Abstract	https://arxiv.org/abs/2602.09439
PDF Download	https://arxiv.org/pdf/2602.09439.pdf
Github Repository	N/A

22. Contact-Anchored Policies: Contact Conditioning Creates Strong Robot Utility Models (12 votes)

Tác giả: Zichen Jeff Cui, Omar Rayyan, Haritheja Etukuru, Bowen Tan, Zavier Andrianarivo, Zicheng Teng, Yihang Zhou, Krish Mehta, Nicholas Wojno, Kevin Yuanbo Wu, Manan H Anjaria, Ziyuan Wu, Manrong Mao, Guangxun Zhang, Binit Shah, Yejin Kim, Soumith Chintala, Lerrel Pinto, Nur Muhammad Mahi Shafiullah

Xuất bản lúc: 2026-02-09

Tag: Robot Learning, Behavior Cloning, Zero-shot Generalization, Multimodal Policies, Robotics

I. Main Problem:

Mô hình học robot hiện tại thường sử dụng điều kiện hóa bằng ngôn ngữ, nhưng ngôn ngữ quá trừu tượng để hướng dẫn sự hiểu biết vật lý cụ thể cần thiết cho thao tác mạnh mẽ và đáng tin cậy. Điều này dẫn đến sự kém chính xác và khả năng khái quát hóa hạn chế. Hơn nữa, việc hiểu ngôn ngữ đòi hỏi kích thước mô hình rất lớn, gây ra suy luận không hiệu quả và chứa nhiều thông tin không cần thiết cho nhiệm vụ robot.

II. Main Idea:

Nghiên cứu giới thiệu Contact-Anchored Policies (CAP), thay thế điều kiện hóa ngôn ngữ bằng các điểm tiếp xúc vật lý trong không gian. CAP được cấu trúc như một thư viện các mô hình tiện ích mô-đun thay vì một chính sách tổng quát nguyên khối. Để tinh chỉnh các mô hình và bộ dữ liệu một cách nhanh chóng, nhóm nghiên cứu đã xây dựng EgoGym, một công cụ mô phỏng nhẹ, cho phép chu trình lặp lại từ thực tế đến mô phỏng (real-to-sim) để xác định các chế độ lỗi trước khi triển khai thực tế. CAP sử dụng Vector-Quantized Behavior Transformer (VQ-BeT) để học chính sách, kết hợp các quan sát thị giác (RGB) với tọa độ 3D của điểm tiếp xúc. Dữ liệu được thu thập bằng tay cầm (handheld gripper) và các điểm tiếp xúc được gán nhãn hồi tưởng (hindsight relabeling) trong quá trình huấn luyện, trong khi suy luận sử dụng điểm tiếp xúc do người dùng hoặc Vision-Language Model (VLM) tạo ra.

III. Main Results:

CAP cho thấy khả năng khái quát hóa zero-shot vượt trội trên các môi trường và hình dạng robot mới ngay lập tức đối với ba kỹ năng thao tác cơ bản (Pick, Open, Close) chỉ với 23 giờ dữ liệu trình diễn. Nó vượt trội hơn 56% so với các Vision-Language Action (VLA) hiện đại trong các đánh giá zero-shot. Cụ thể, CAP đạt tỷ lệ thành công lần thử đầu tiên là 83% cho Pick, 81% cho Open và 96% cho Close; với các lần thử lại tự động, tỷ lệ này tăng lên 90% cho Pick, 91% cho Open và 98% cho Close. Các điểm tiếp xúc do VLM tạo ra cho hiệu suất tương đương với điểm tiếp xúc do con người cung cấp (ví dụ: 81% so với 83% cho Pick). CAP hoạt động trên nhiều hình dạng robot khác nhau (Stretch, Franka, XArm, UR3e) với tỷ lệ thành công tương đương, được xác nhận qua các đánh giá nội bộ và bên ngoài. Mã nguồn, phần cứng, mô phỏng và bộ dữ liệu sẽ được công khai.

IV. Conclusion & Future Works:

Nghiên cứu chứng minh rằng việc điều kiện hóa chính sách bằng thông tin tiếp xúc vật lý thay vì ngôn ngữ có thể tạo ra các mô hình tiện ích robot mạnh mẽ, có khả năng khái quát hóa hiệu quả với ít dữ liệu và tài nguyên tính toán hơn. Chu trình phát triển lặp lại giữa thực tế và mô phỏng (real-to-sim) với EgoGym là chìa khóa để tinh chỉnh mô hình và xác định các chế độ lỗi nhanh chóng. Mã nguồn, phần cứng, mô phỏng và bộ dữ liệu sẽ được công khai, tạo tiền đề cho các nghiên cứu và phát triển tiếp theo. Các hướng tiềm năng trong tương lai có thể bao gồm mở rộng CAP cho các nhiệm vụ thao tác phức tạp hơn, khám phá các phương pháp tự động hóa hoàn toàn việc tạo điểm tiếp xúc, và tích hợp CAP với các hệ thống ra quyết định cấp cao hơn để thực hiện các hành vi dài hạn.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu mở rộng Contact-Anchored Policies (CAP) để xử lý các chuỗi thao tác vật lý phức tạp hơn, không chỉ giới hạn ở các kỹ năng cơ bản (nhặt, mở, đóng), mà còn các nhiệm vụ đòi hỏi nhiều bước tương tác hoặc kế hoạch dài hạn.
Khám phá các phương pháp tiên tiến để tự động hóa hoàn toàn quá trình tạo ra các điểm tiếp xúc vật lý (contact anchors) trong các tình huống mới hoặc đối với các đối tượng chưa từng thấy, giảm thiểu sự phụ thuộc vào VLM hoặc người dùng.
Nghiên cứu cách tích hợp CAP với các hệ thống lập kế hoạch cấp cao hoặc các mô hình ra quyết định dựa trên ngôn ngữ (Language Models) để cho phép robot thực hiện các nhiệm vụ phức tạp hơn thông qua 'tool calling' hoặc các chiến lược hành động tổng quát.

2. Patent:

Hệ thống hướng dẫn thao tác vật lý thông minh trên điện thoại di động: Một ứng dụng điện thoại thông minh kết hợp camera và cảm biến độ sâu để cho phép người dùng chạm hoặc chỉ định một điểm trên màn hình, tương ứng với một điểm tiếp xúc vật lý mong muốn trên một vật thể trong thế giới thực. Ứng dụng sau đó sẽ sử dụng trí tuệ nhân tạo để phân tích vị trí hiện tại của thiết bị hoặc tay người dùng và cung cấp hướng dẫn trực quan (ví dụ: mũi tên trên màn hình, overlay thực tế tăng cường) hoặc âm thanh để người dùng di chuyển thiết bị đến vị trí chính xác để thực hiện các hành động như nhấc, mở hoặc đóng đồ vật.
Thiết bị kẹp cầm tay đa năng có khả năng thu thập dữ liệu tương tác vật lý chuyên sâu cho điện thoại: Thiết kế một thiết bị kẹp vật lý có thể gắn vào điện thoại thông minh, cho phép người dùng dễ dàng cầm nắm và thao tác với các vật thể. Thiết bị này sẽ tích hợp các cảm biến để ghi lại chính xác dữ liệu về vị trí, hướng, lực kẹp, và điểm tiếp xúc với vật thể trong quá trình người dùng tương tác. Dữ liệu thu thập được sẽ được tự động xử lý bởi phần mềm trên điện thoại, tạo thành các bộ dữ liệu chất lượng cao để đào tạo các mô hình trí tuệ nhân tạo học cách thao tác vật lý cho robot hoặc các ứng dụng tự động khác.
Nền tảng mô phỏng tương tác vật lý nhẹ và nhanh cho thiết bị di động: Một phần mềm hoặc ứng dụng trên điện thoại di động cho phép người dùng tạo và tùy chỉnh các cảnh tương tác vật lý đơn giản với các đối tượng ảo. Ứng dụng sẽ sử dụng một công cụ vật lý nhẹ để mô phỏng chính xác các điểm tiếp xúc và kết quả của các hành động (ví dụ: nhặt, đẩy, kéo) mà người dùng thực hiện trong môi trường ảo. Nền tảng này có thể được sử dụng để phát triển nhanh chóng, kiểm tra các chiến lược tương tác mới hoặc làm công cụ đào tạo kỹ năng thao tác vật lý cho cả con người và các hệ thống trí tuệ nhân tạo, trực tiếp trên thiết bị cầm tay.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.09017
ArXiv Abstract	https://arxiv.org/abs/2602.09017
PDF Download	https://arxiv.org/pdf/2602.09017.pdf
Github Repository	https://github.com/jeffacce/cap-policy

23. Steer2Adapt: Dynamically Composing Steering Vectors Elicits Efficient Adaptation of LLMs (10 votes)

Tác giả: Pengrui Han, Xueqiang Xu, Keyang Xuan, Peiyang Song, Siru Ouyang, Runchu Tian, Yuqing Jiang, Cheng Qian, Pengcheng Jiang, Jiashuo Sun, Junxia Cui, Ming Zhong, Ge Liu, Jiawei Han, Jiaxuan You

Xuất bản lúc: 2026-02-07

Tag: LLMs, Activation Steering, Adaptation, Bayesian Optimization, Representation Engineering

I. Main Problem:

Hầu hết các phương pháp điều khiển (steering) hiện có để thích ứng các mô hình ngôn ngữ lớn (LLMs) thường sử dụng một hướng tĩnh duy nhất cho mỗi nhiệm vụ hoặc khái niệm. Điều này gây ra sự thiếu linh hoạt khi nhiệm vụ thay đổi và không đủ hiệu quả cho các nhiệm vụ phức tạp đòi hỏi nhiều khả năng phối hợp. Các phương pháp hiện tại gặp phải các hạn chế như chi phí tính toán cao và khả năng khái quát hóa kém giữa các nhiệm vụ đối với phương pháp "Task-vector steering", hoặc thiếu tính biểu cảm cần thiết cho các nhiệm vụ phức tạp đối với phương pháp "Semantic-driven steering". Hơn nữa, việc tối ưu hóa một vector cho một nhiệm vụ có thể không hiệu quả hoặc thậm chí có hại cho các nhiệm vụ khác, và một hướng điều khiển duy nhất không thể nắm bắt linh hoạt việc kiểm soát phối hợp nhiều khả năng.

II. Main Idea:

STEER2ADAPT đề xuất một khung công tác nhẹ nhàng giúp thích ứng LLMs hiệu quả bằng cách kết hợp các vector điều khiển thay vì học các vector mới từ đầu. Phương pháp này dựa trên nhận định rằng các nhiệm vụ trong cùng một lĩnh vực (ví dụ: lý luận hoặc an toàn) thường chia sẻ một tập hợp nhỏ các chiều khái niệm cơ bản. STEER2ADAPT xây dựng một không gian con ngữ nghĩa tiên nghiệm (semantic prior subspace) có thể tái sử dụng, có chiều thấp, chứa các vector khái niệm cơ bản. Để thích ứng với một nhiệm vụ mới, nó sẽ tự động tìm kiếm một tổ hợp tuyến tính của các vector cơ sở này chỉ với một vài ví dụ thông qua tối ưu hóa Bayesian (Bayesian Optimization) cùng với một mục tiêu "stability-aware" (nhận thức về sự ổn định). Vector điều khiển tổng hợp sau đó được tiêm vào không gian kích hoạt của mô hình trong quá trình suy luận mà không cần cập nhật tham số mô hình.

III. Main Results:

STEER2ADAPT đã chứng minh hiệu quả trên 9 nhiệm vụ và 3 mô hình thuộc cả lĩnh vực lý luận và an toàn, đạt mức cải thiện trung bình 8.2%. Cụ thể:

Cải thiện nhất quán: STEER2ADAPT liên tục mang lại những cải thiện đáng kể trên hầu hết các nhiệm vụ và mô hình, vượt trội so với các phương pháp dựa trên prompt và các phương pháp can thiệp biểu diễn thay thế.
Khả năng khái quát hóa mạnh mẽ: Nó cải thiện hiệu suất trên tất cả các mô hình Llama-3.1, Qwen-2.5 và Mistral-7B, và có phân phối cải thiện nhỏ gọn, tập trung vào giá trị dương, cho thấy hiệu suất ổn định và đáng tin cậy.
Hiệu quả và chi phí thấp: Phương pháp này hiệu quả về dữ liệu, ổn định, minh bạch và có chi phí suy luận thấp, đạt được điểm hiệu quả cao nhất (tỷ lệ cải thiện hiệu suất/chi phí suy luận).
Phụ thuộc vào mức độ liên quan của hướng cơ sở: Hiệu quả của STEER2ADAPT phụ thuộc vào sự liên quan ngữ nghĩa của các hướng cơ sở; việc sử dụng không gian con không phù hợp (ví dụ: sử dụng các hướng an toàn để điều khiển nhiệm vụ lý luận) dẫn đến suy giảm hiệu suất đáng kể và hành vi không ổn định.
Chịu được sự không hoàn hảo: Phương pháp này vẫn ổn định khi có một số lượng nhỏ các hướng ít liên quan hoặc không liên quan trong không gian con điều khiển.
Tính minh bạch và bảo toàn năng lực: STEER2ADAPT cung cấp tính minh bạch trong cách các vector cơ sở được kết hợp và bảo toàn năng lực ngôn ngữ tổng quát của mô hình (cải thiện nhiệm vụ trung bình 7.5% với thay đổi BLiMP trung bình chỉ -2.37%).

IV. Conclusion & Future Works:

STEER2ADAPT là một khung công tác điều khiển kích hoạt hiệu quả, chuyển đổi việc thích ứng LLM từ việc học các hướng cụ thể cho từng nhiệm vụ sang việc tự động khám phá các "công thức" (recipes) từ một không gian con ngữ nghĩa tiên nghiệm có thể tái sử dụng. Khung công tác này cải thiện hiệu suất LLM một cách nhất quán trong các nhiệm vụ hạ nguồn, đồng thời cho thấy sự mạnh mẽ trước nhiễu và sự vướng mắc trong không gian con vector. Nhìn chung, STEER2ADAPT gợi ý rằng việc kết hợp vector là một hướng đi có khả năng mở rộng để thích ứng LLM với các nhiệm vụ đa dạng và không ngừng phát triển trong thế giới thực.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu các phương pháp tiên tiến để tự động phát hiện và xây dựng các không gian con ngữ nghĩa tiên nghiệm đa năng (universal semantic prior subspaces) có khả năng hoạt động hiệu quả trên nhiều lĩnh vực và ngôn ngữ khác nhau, giảm thiểu sự phụ thuộc vào hiểu biết của con người.
Khám phá các thuật toán tối ưu hóa mạnh mẽ hơn ngoài tối ưu hóa Bayesian, đặc biệt là trong các tình huống yêu cầu thích ứng thời gian thực hoặc với số lượng ví dụ cực kỳ hạn chế, để tìm kiếm các hệ số tổ hợp vector.
Phát triển các kỹ thuật định lượng và giảm thiểu sự "vướng mắc" (entanglement) giữa các vector điều khiển trong không gian con, nhằm đạt được khả năng kiểm soát dự đoán và độc lập hơn đối với các thuộc tính hành vi của LLM.

2. Patent:

Hệ thống điều chỉnh cá nhân hóa cho trợ lý AI trên điện thoại: Một hệ thống trên điện thoại thông minh cho phép người dùng điều chỉnh động "tính cách" hoặc "phong cách giao tiếp" của trợ lý AI (ví dụ: trở nên thân thiện hơn, nghiêm túc hơn, sáng tạo hơn, hoặc thận trọng hơn) bằng cách trượt thanh điều khiển hoặc chọn từ các tùy chọn. Ứng dụng sẽ sử dụng phương pháp tương tự STEER2ADAPT để kết hợp các "vector tính cách" cơ bản đã được định nghĩa trước, tạo ra một "vector điều khiển tính cách" tổng hợp được tiêm vào mô hình ngôn ngữ lớn chạy trên thiết bị (hoặc trên đám mây) để thay đổi phản hồi của nó.
Bộ lọc an toàn nội dung động cho ứng dụng nhắn tin/mạng xã hội: Phát triển một tính năng cho các ứng dụng nhắn tin hoặc mạng xã hội trên điện thoại di động, cho phép người dùng hoặc quản trị viên cộng đồng tự động điều chỉnh mức độ nghiêm ngặt của các bộ lọc an toàn. Ví dụ, người dùng có thể tăng cường khả năng từ chối các nội dung gây hại, giảm sự thiên vị trong phản hồi, hoặc kiểm soát mức độ "ảo giác" của AI khi tóm tắt thông tin. Hệ thống sẽ sử dụng các "vector an toàn" được kết hợp linh hoạt để điều chỉnh hành vi đầu ra của mô hình, phù hợp với từng ngữ cảnh trò chuyện hoặc nhóm người dùng khác nhau.
Tối ưu hóa phản hồi viết cho ứng dụng email/ghi chú thông minh: Một chức năng tích hợp trong ứng dụng email hoặc ghi chú trên điện thoại, giúp người dùng tự động tối ưu hóa các bản nháp văn bản. Người dùng có thể chọn các mục tiêu như "làm cho văn bản mạch lạc hơn", "tăng tính thuyết phục", hoặc "giảm sự dài dòng". Ứng dụng sẽ sử dụng phương pháp tổng hợp vector để tạo ra một hướng điều khiển đặc biệt, được áp dụng vào quá trình sinh văn bản của LLM, giúp cải thiện chất lượng và tính phù hợp của nội dung dựa trên mục đích cụ thể của người dùng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.07276
ArXiv Abstract	https://arxiv.org/abs/2602.07276
PDF Download	https://arxiv.org/pdf/2602.07276.pdf
Github Repository	N/A

📰 Summary of Papers
1. OPUS: Towards Efficient and Principled Data Selection in Large Language Model Pre-training in Every Iteration (289 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
2. Code2World: A GUI World Model via Renderable Code Generation (179 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
3. UI-Venus-1.5 Technical Report (146 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
4. Chain of Mindset: Reasoning with Adaptive Cognitive Modes (68 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
5. SkillRL: Evolving Agents via Recursive Skill-Augmented Reinforcement Learning (60 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
6. P1-VL: Bridging Visual Perception and Scientific Reasoning in Physics Olympiads (54 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
7. Agent World Model: Infinity Synthetic Environments for Agentic Reinforcement Learning (45 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
8. Prism: Spectral-Aware Block-Sparse Attention (33 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
9. DLLM-Searcher: Adapting Diffusion Large Language Model for Search Agents (27 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
10. Olaf-World: Orienting Latent Actions for Video World Modeling (25 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
11. Agent Banana: High-Fidelity Image Editing with Agentic Thinking and Tooling (21 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
12. Dr. MAS: Stable Reinforcement Learning for Multi-Agent LLM Systems (17 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
13. TokenTrim: Inference-Time Token Pruning for Autoregressive Long Video Generation (20 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
14. Condition Errors Refinement in Autoregressive Image Generation with Diffusion Loss (18 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
15. SCALE: Self-uncertainty Conditioned Adaptive Looking and Execution for Vision-Language-Action Models (17 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
16. BagelVLA: Enhancing Long-Horizon Manipulation via Interleaved Vision-Language-Action Generation (15 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
17. LatentLens: Revealing Highly Interpretable Visual Tokens in LLMs (14 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
18. iGRPO: Self-Feedback-Driven LLM Reasoning (13 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
19. Large-Scale Terminal Agentic Trajectory Generation from Dockerized Environments (13 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
20. VideoWorld 2: Learning Transferable Knowledge from Real-world Videos (12 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
21. Fine-T2I: An Open, Large-Scale, and Diverse Dataset for High-Quality T2I Fine-Tuning (13 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
22. Contact-Anchored Policies: Contact Conditioning Creates Strong Robot Utility Models (12 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
23. Steer2Adapt: Dynamically Composing Steering Vectors Elicits Efficient Adaptation of LLMs (10 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan

📰 Summary of Papers​

1. OPUS: Towards Efficient and Principled Data Selection in Large Language Model Pre-training in Every Iteration (289 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

2. Code2World: A GUI World Model via Renderable Code Generation (179 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

3. UI-Venus-1.5 Technical Report (146 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

4. Chain of Mindset: Reasoning with Adaptive Cognitive Modes (68 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

5. SkillRL: Evolving Agents via Recursive Skill-Augmented Reinforcement Learning (60 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

6. P1-VL: Bridging Visual Perception and Scientific Reasoning in Physics Olympiads (54 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

7. Agent World Model: Infinity Synthetic Environments for Agentic Reinforcement Learning (45 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

8. Prism: Spectral-Aware Block-Sparse Attention (33 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

9. DLLM-Searcher: Adapting Diffusion Large Language Model for Search Agents (27 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

📰 Summary of Papers

1. OPUS: Towards Efficient and Principled Data Selection in Large Language Model Pre-training in Every Iteration (289 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

2. Code2World: A GUI World Model via Renderable Code Generation (179 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

3. UI-Venus-1.5 Technical Report (146 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

4. Chain of Mindset: Reasoning with Adaptive Cognitive Modes (68 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

5. SkillRL: Evolving Agents via Recursive Skill-Augmented Reinforcement Learning (60 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

6. P1-VL: Bridging Visual Perception and Scientific Reasoning in Physics Olympiads (54 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

7. Agent World Model: Infinity Synthetic Environments for Agentic Reinforcement Learning (45 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

8. Prism: Spectral-Aware Block-Sparse Attention (33 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

9. DLLM-Searcher: Adapting Diffusion Large Language Model for Search Agents (27 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers: