Chuyển tới nội dung chính

🤗 Daily Hugging Face Paper Digest - 2026-02-04

Báo cáo được tạo tự động vào lúc 2026-02-09 11:02:26 bằng mô hình gemini-2.5-flash.

📰 Summary of Papers​


1. CodeOCR: On the Effectiveness of Vision Language Models in Code Understanding (90 votes)​

Tác giả: Yuling Shi, Chaoxiang Xie, Zhensu Sun, Yeheng Chen, Chenxu Zhang, Longfei Yun, Chengcheng Wan, Hongyu Zhang, David Lo, Xiaodong Gu

Xuất bản lúc: 2026-02-02

Tag: LLMs, MLLMs, Vision Language Models, Code Understanding, Code Compression

I. Main Problem:​

Các mô hình ngôn ngữ lớn (LLMs) hiện tại dựa vào mô hình xử lý văn bản, coi mã nguồn như một chuỗi token tuyến tính. Điều này dẫn đến sự gia tăng tuyến tính về độ dài ngữ cảnh và chi phí tính toán liên quan khi hệ thống phần mềm mở rộng quy mô, tạo ra nút thắt cổ chai về hiệu quả. Phương thức văn bản khó nén mà không làm mất đi ý nghĩa ngữ nghĩa, gây hạn chế đáng kể trong việc xử lý mã nguồn quy mô lớn.

II. Main Idea:​

Nghiên cứu này đề xuất tận dụng sự tiến bộ của các Mô hình Ngôn ngữ Đa phương thức (MLLMs), đặc biệt là các Vision Language Models (VLMs), để biểu diễn mã nguồn dưới dạng hình ảnh được kết xuất thay vì văn bản. Ý tưởng chính là phương thức hình ảnh vốn có khả năng nén tốt hơn (bằng cách điều chỉnh độ phân giải), cho phép giảm đáng kể số lượng token trong khi vẫn duy trì khả năng nhận diện đối với các mô hình có khả năng thị giác. Các tác giả tiến hành một nghiên cứu hệ thống toàn diện đầu tiên về hiệu quả của MLLMs trong việc hiểu mã dựa trên hình ảnh, điều tra các tỷ lệ nén và chiến lược kết xuất khác nhau trên bốn tác vụ hiểu mã chính.

III. Main Results:​

  1. MLLMs có thể hiểu mã hiệu quả với mức giảm token đáng kể, đạt tỷ lệ nén lên tới 8 lần. Ví dụ, Gemini-3-Pro đạt độ chính xác 79.5% trong trả lời câu hỏi mã ở tỷ lệ nén 8 lần, vượt qua mức cơ bản 74.8% của văn bản thô.
  2. MLLMs có thể tận dụng hiệu quả các tín hiệu thị giác như nhấn mạnh cú pháp, cải thiện hiệu suất hoàn thành mã ở tỷ lệ nén 4 lần.
  3. Các tác vụ hiểu mã như phát hiện mã trùng lặp thể hiện khả năng phục hồi đặc biệt đối với nén hình ảnh, với một số tỷ lệ nén thậm chí còn vượt trội hơn so với đầu vào văn bản thô (ví dụ: GPT-5-mini đạt cải thiện F1 42% với hình ảnh mã).
  4. Các phát hiện cốt lõi được tổng quát hóa trên các ngôn ngữ lập trình (Python và Java) và hiệu suất tốt nhất đạt được ở tỷ lệ nén vừa phải (1x–4x) với các cải tiến thị giác.
  5. Sự suy giảm thông tin theo mô hình phân cấp: lỗi cấp token xuất hiện trước (1x–2x), sau đó là lỗi cấp dòng (2x–4x), và lỗi cấp khối thống trị ở mức nén cao (4x–8x). Tuy nhiên, các lỗi cấp token không phải lúc nào cũng làm suy giảm hiệu suất ngữ nghĩa, cho thấy MLLMs có thể suy luận logic chính xác ngay cả khi tín hiệu thị giác hơi mờ.

IV. Conclusion & Future Works:​

Nghiên cứu này là nghiên cứu thực nghiệm toàn diện đầu tiên về khả năng hiểu mã nguồn bằng thị giác, chứng minh rằng biểu diễn mã dựa trên hình ảnh là một hướng đi khả thi về mặt kỹ thuật. Mặc dù không có tối ưu hóa cụ thể, nhiều MLLMs hiện có có thể đạt được hiệu suất tương đương hoặc thậm chí vượt trội so với các phương pháp dựa trên văn bản trong các tác vụ hiểu mã. Điều này cho thấy một sự thay đổi tiềm năng trong cách biểu diễn mã nguồn cho AI để đạt được suy luận hiệu quả hơn. Hướng phát triển tương lai bao gồm tối ưu hóa các MLLMs hiện tại để hiểu hình ảnh mã, phát triển các chiến lược kết xuất thích ứng để tận dụng tối đa các cải tiến thị giác ở các mức độ nén khác nhau, và tiếp tục nghiên cứu để hiểu rõ hơn về khả năng phục hồi của MLLMs đối với nén hình ảnh. Các tác giả đã triển khai công cụ CODEOCR để hỗ trợ việc này.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu về các kiến trúc MLLM chuyên biệt hóa và tối ưu hóa để cải thiện hiệu suất hiểu mã nguồn từ hình ảnh, đặc biệt là đối với các mô hình mã nguồn mở để thu hẹp khoảng cách với các mô hình độc quyền.
  2. Phát triển các chiến lược kết xuất hình ảnh mã nguồn thích ứng và động, có khả năng điều chỉnh cường độ các tín hiệu thị giác (như nhấn mạnh cú pháp) dựa trên mức độ nén mong muốn để tối ưu hóa hiệu suất.
  3. Phân tích sâu hơn về cách các lỗi suy giảm thông tin ở cấp pixel ảnh hưởng đến các quyết định ngữ nghĩa của MLLMs trong các tác vụ hiểu mã, từ đó phát triển các cơ chế kháng lỗi hiệu quả hơn.

2. Patent:​

  1. Một ứng dụng di động cho phép người dùng chụp ảnh mã nguồn (ví dụ: từ màn hình máy tính hoặc sách) và ngay lập tức nhận được bản tóm tắt chức năng của mã đó, hoặc giải thích các phần phức tạp, sử dụng Vision Language Models để tăng tốc độ hiểu mã trên điện thoại.
  2. Một công cụ kiểm tra mã nguồn (code review) tích hợp trên điện thoại, nơi các nhà phát triển có thể tải lên hoặc chụp ảnh các đoạn mã. Ứng dụng sẽ sử dụng Vision Language Models để phân tích bố cục hình ảnh và cú pháp được nhấn mạnh để phát hiện các vấn đề tiềm ẩn về hiệu suất hoặc lỗi bảo mật, cung cấp phản hồi nhanh chóng mà không cần nhập liệu văn bản.
  3. Một hệ thống học lập trình tương tác trên điện thoại di động, nơi các bài tập và thử thách lập trình được trình bày dưới dạng hình ảnh mã nguồn. Người dùng sẽ tương tác với hình ảnh (ví dụ: khoanh tròn, đánh dấu) và Vision Language Models sẽ cung cấp gợi ý hoặc đánh giá sự hiểu biết của họ về mã một cách trực quan, tạo ra trải nghiệm học tập mới mẻ.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2602.01785
ArXiv Abstracthttps://arxiv.org/abs/2602.01785
PDF Downloadhttps://arxiv.org/pdf/2602.01785.pdf
Github RepositoryN/A

2. AOrchestra: Automating Sub-Agent Creation for Agentic Orchestration (82 votes)​

Tác giả: Jianhao Ruan, Zhihao Xu, Yiran Peng, Fashen Ren, Zhaoyang Yu, Xinbing Liang, Jinyu Xiang, Bang Liu, Chenglin Wu, Yuyu Luo, Jiayi Zhang

Xuất bản lúc: 2026-02-03

Tag: LLMs, Agentic Systems, Multi-Agent, Orchestration, Sub-agents, Task Automation

I. Main Problem:​

Các tác nhân ngôn ngữ (language agents) đã cho thấy tiềm năng mạnh mẽ trong việc tự động hóa tác vụ, đặc biệt là các tác vụ phức tạp và dài hạn. Tuy nhiên, các thiết kế hiện có còn thiếu một cái nhìn trừu tượng năng động (dynamic abstraction view) về các tác nhân phụ (sub-agents), làm giảm khả năng thích ứng. Cụ thể, các hệ thống trước đây thường coi tác nhân phụ như các luồng cô lập ngữ cảnh (context-isolation threads) hoặc các vai trò tĩnh (static roles), dẫn đến việc thiếu chuyên môn hóa linh hoạt, khó khăn trong việc điều phối ngữ cảnh hiệu quả (dẫn đến thông tin thừa hoặc thiếu), và đòi hỏi nhiều nỗ lực kỹ thuật từ con người.

II. Main Idea:​

Để giải quyết thách thức này, AORCHESTRA đề xuất một hệ thống tác nhân tập trung vào việc điều phối (orchestrator-centric) và tự động tạo tác nhân phụ theo yêu cầu (on-demand specialization). Ý tưởng cốt lõi là mô hình hóa bất kỳ tác nhân nào như một bộ bốn yếu tố thống nhất, không phụ thuộc vào framework: ⟨Instruction, Context, Tools, Model⟩. Bộ bốn này đóng vai trò như một công thức để xây dựng năng lực, cho phép hệ thống tạo ra các 'bộ thực thi' (executors) chuyên biệt cho từng tác vụ một cách linh hoạt.

Trong AORCHESTRA, một bộ điều phối trung tâm sẽ cụ thể hóa bộ bốn này ở mỗi bước: nó quản lý ngữ cảnh liên quan đến tác vụ, chọn công cụ và mô hình phù hợp, và ủy quyền thực thi thông qua việc tự động tạo tác nhân ngay lập tức (on-the-fly).

Hệ thống còn cho phép bộ điều phối có khả năng học hỏi thông qua hai cách tiếp cận: (1) Huấn luyện giám sát (Supervised fine-tuning - SFT) để cải thiện khả năng phân tách tác vụ phụ và tổng hợp bộ bốn (I, C, T) ban đầu; (2) Học theo ngữ cảnh lặp lại (Iterative In-context Learning) để tối ưu hóa việc định tuyến mô hình nhằm cân bằng chi phí và hiệu suất.

III. Main Results:​

AORCHESTRA đã đạt được những cải tiến đáng kể trên ba bộ benchmark thử thách (GAIA, SWE-Bench, Terminal-Bench), cho thấy hiệu suất mạnh mẽ và khả năng khái quát hóa rộng hơn:

  • Cải thiện tổng thể: Đạt được mức cải thiện tương đối 16.28% so với phương pháp tốt nhất khi kết hợp với Gemini-3-Flash.
  • Hiệu suất trên Benchmark:
    • GAIA: Đạt 80.00% pass@1 và 86.06% pass@3 với Gemini-3-Flash, vượt trội 13.94 điểm tuyệt đối so với framework tốt nhất trước đó (OpenHands).
    • Terminal-Bench 2.0: Đạt 52.86% pass@1 và 57.14% pass@3 với Gemini-3-Flash, cải thiện 64.29 điểm tuyệt đối so với Mini-SWE.
    • SWE-Bench-Verified: Đạt 82.00% pass@1 và 86.00% pass@3 với Gemini-3-Flash, cạnh tranh với các hệ thống chuyên biệt.
  • Phân tích lợi thế:
    • Quản lý ngữ cảnh: Việc bộ điều phối chủ động chọn lọc và nén ngữ cảnh liên quan cho tác nhân phụ đã cải thiện đáng kể độ chính xác của việc thực thi tác vụ.
    • Bộ điều phối có khả năng học hỏi: SFT cải thiện khả năng điều phối tác vụ (từ 56.97% lên 68.48% với Qwen3-8B). Học theo ngữ cảnh tối ưu hóa cân bằng chi phí-hiệu suất, tăng độ chính xác từ 72.12% lên 75.15% trong khi giảm chi phí trung bình 18.5% (từ 0.70xuo^ˊng0.57 xuống 0.57).
    • Khả năng Plug-and-Play: Hệ thống duy trì hiệu suất ổn định và vượt trội so với các baseline ngay cả khi sử dụng các backend tác nhân phụ khác nhau (ví dụ: ReAct-style, Mini-SWE-style), chứng tỏ tính linh hoạt và khả năng tái sử dụng.

IV. Conclusion & Future Works:​

AORCHESTRA là một hệ thống tác nhân tập trung vào điều phối, tự động hóa việc tạo tác nhân phụ thông qua giao diện bộ bốn thống nhất (Instruction, Context, Tools, Model). Bằng cách coi các tác nhân phụ là các đơn vị có thể tạo động, bộ điều phối có thể tạo ra các 'bộ thực thi' phù hợp với tác vụ theo yêu cầu, với bộ nhớ làm việc (instruction, context) và năng lực (model, tools) chuyên biệt. Điều này mang lại lợi ích thiết thực như chuyên môn hóa theo yêu cầu, ngữ cảnh đầy đủ cho tác vụ, và khả năng 'cắm-và-chạy' (plug-and-play) cho các tác nhân phụ.

Khả năng tách rời giữa trừu tượng hóa và thực thi giúp hệ thống có thể học hỏi, được chứng minh qua việc tối ưu hóa bộ điều phối bằng SFT và học theo ngữ cảnh. Các kết quả thực nghiệm cho thấy AORCHESTRA cải thiện đáng kể và nhất quán trên các benchmark khó khăn. Dù bài báo không nêu rõ các hướng nghiên cứu tương lai, nhưng có thể suy luận rằng việc tiếp tục tối ưu hóa các chiến lược học của bộ điều phối, mở rộng các loại hình tương tác giữa các tác nhân phụ, và áp dụng vào các miền vấn đề mới sẽ là những bước tiếp theo quan trọng.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu các phương pháp học tăng cường (Reinforcement Learning) để bộ điều phối có thể tự động học và thích nghi với các môi trường và tác vụ mới mà không cần dữ liệu huấn luyện giám sát (SFT) tốn kém, đặc biệt là trong các tình huống yêu cầu sự khám phá (exploration) và tối ưu hóa dài hạn.
  2. Phát triển kỹ thuật tạo ngữ cảnh (context generation) và bộ công cụ (tool selection) động dựa trên các kiến thức bên ngoài hoặc thông tin từ môi trường thời gian thực, giúp các tác nhân phụ hoạt động hiệu quả hơn trong các tình huống bất ngờ và phức tạp, vượt ra ngoài các bộ công cụ và ngữ cảnh được định nghĩa trước.
  3. Mở rộng khung AORCHESTRA để hỗ trợ các tác vụ đa phương thức (multimodal tasks), nơi các tác nhân phụ có thể tương tác với các dạng dữ liệu khác nhau như hình ảnh, âm thanh hoặc video, và sử dụng các công cụ tương ứng để xử lý thông tin này, tạo ra các hệ thống tác nhân đa năng hơn.

2. Patent:​

  1. Hệ thống Trợ lý Cá nhân Thông minh Động trên Điện thoại (Dynamic Smart Personal Assistant System for Mobile): Một ứng dụng trợ lý ảo trên điện thoại có khả năng tự động phân tích các yêu cầu phức tạp của người dùng và tạo ra các "trợ lý nhỏ" (sub-agents) chuyên biệt để giải quyết từng phần của yêu cầu. Ví dụ, khi bạn nói "Tìm nhà hàng Ý gần đây, đặt bàn cho 2 người vào 7 giờ tối nay và gửi địa chỉ cho bạn tôi", ứng dụng sẽ tự động tạo một tác nhân tìm kiếm nhà hàng, một tác nhân đặt bàn và một tác nhân gửi tin nhắn, sau đó tổng hợp kết quả và thực hiện các hành động cần thiết. Người dùng chỉ cần tương tác với một trợ lý chính mà không cần tự mình mở nhiều ứng dụng hoặc thực hiện nhiều bước.
  2. Nền tảng Tự động hóa Quy trình Làm việc Di động Thích ứng (Adaptive Mobile Workflow Automation Platform): Một nền tảng ứng dụng trên điện thoại cho phép người dùng định nghĩa và tự động hóa các chuỗi tác vụ hàng ngày hoặc công việc cá nhân. Ví dụ, bạn có thể thiết lập một quy trình "Chuẩn bị chuyến đi": khi bạn nhập điểm đến, hệ thống sẽ tự động tạo tác nhân tìm kiếm vé máy bay, tác nhân đặt phòng khách sạn, tác nhân kiểm tra thời tiết và tác nhân tạo danh sách đóng gói. Hệ thống có thể học hỏi từ thói quen của bạn để đề xuất và tối ưu hóa các tác nhân phụ, giúp quy trình làm việc trở nên thông minh và cá nhân hóa hơn.
  3. Công nghệ Quản lý Ngữ cảnh Thông minh cho Ứng dụng Di động (Smart Context Management Technology for Mobile Applications): Một công nghệ cấp hệ điều hành hoặc thư viện tích hợp cho điện thoại thông minh, cho phép các ứng dụng (hoặc các tác nhân bên trong ứng dụng) tự động nhận và chia sẻ ngữ cảnh thông tin một cách chọn lọc và tối ưu. Khi một tác vụ được chuyển giao giữa các chức năng hoặc ứng dụng khác nhau, công nghệ này sẽ chỉ cung cấp những thông tin thực sự cần thiết, lọc bỏ dữ liệu không liên quan hoặc dư thừa. Điều này giúp giảm tải bộ nhớ, tăng tốc độ xử lý và cải thiện quyền riêng tư của người dùng trên thiết bị di động.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2602.03786
ArXiv Abstracthttps://arxiv.org/abs/2602.03786
PDF Downloadhttps://arxiv.org/pdf/2602.03786.pdf
Github RepositoryN/A

3. No Global Plan in Chain-of-Thought: Uncover the Latent Planning Horizon of LLMs (66 votes)​

Tác giả: Liyan Xu, Mo Yu, Fandong Meng, Jie Zhou

Xuất bản lúc: 2026-02-02

Tag: LLMs, Chain-of-Thought, Probing, Uncertainty Estimation, Planning Horizon

I. Main Problem:​

Nghiên cứu này bắt nguồn từ những quan sát bổ trợ trước đây về động lực của Chain-of-Thought (CoT): các Large Language Models (LLMs) được cho là có khả năng lập kế hoạch tiềm ẩn cho suy luận tiếp theo trước khi CoT xuất hiện, từ đó làm giảm ý nghĩa của CoT tường minh; trong khi đó, CoT vẫn rất quan trọng cho các nhiệm vụ đòi hỏi suy luận nhiều bước. Công trình này tìm cách đào sâu sự hiểu biết giữa các trạng thái nội bộ của LLM và các quỹ đạo suy luận bằng lời của nó, cụ thể là về sức mạnh lập kế hoạch tiềm ẩn của LLM và phạm vi lập kế hoạch tiềm ẩn.

II. Main Idea:​

Các tác giả đề xuất một phương pháp dò tìm được gọi là Tele-Lens để điều tra sức mạnh lập kế hoạch tiềm ẩn của LLM bằng cách áp dụng nó vào các trạng thái ẩn trên nhiều lĩnh vực tác vụ đa dạng. Tele-Lens sử dụng một bộ điều hợp thứ hạng thấp được huấn luyện để biến đổi mỗi trạng thái ẩn trong các bước CoT nhằm dự đoán thông tin mục đích (Teleological information) theo nhiều chiều, bao gồm các token tiếp theo, câu trả lời cuối cùng và độ dài suy luận. Dựa trên những quan sát về phạm vi lập kế hoạch, các tác giả đề xuất và xác nhận một giả thuyết về việc tăng cường ước tính độ không chắc chắn của CoT (chỉ một tập hợp nhỏ các vị trí CoT có thể đại diện hiệu quả cho độ không chắc chắn của toàn bộ đường dẫn). Họ cũng chỉ ra rằng việc khai thác động lực CoT có thể giúp nhận diện tự động việc bỏ qua CoT mà không làm giảm hiệu suất.

III. Main Results:​

I. Phạm vi lập kế hoạch tiềm ẩn:​

  • Lập kế hoạch cho câu trả lời cuối cùng: LLM thể hiện một phạm vi cận thị (myopic horizon) cho việc lập kế hoạch câu trả lời cuối cùng chính xác. Đối với các tác vụ cấu thành rõ ràng (explicit compositional tasks), khả năng lập kế hoạch ban đầu gần như ngẫu nhiên; khả năng lập kế hoạch chính xác chỉ xuất hiện một bước trước khi hoàn thành suy luận. Tuy nhiên, LLM có thể thể hiện các tín hiệu thô cho câu trả lời cuối cùng ở giai đoạn đầu của CoT, đặc biệt cho các tác vụ nhấn mạnh sự hiểu biết ngữ nghĩa, nhưng đây chỉ là một 'ý chính mơ hồ' chứ không phải là một kế hoạch suy luận chính xác đã được xác định trước. Các tín hiệu này kém hiệu quả hơn cả suy luận CoT tiêu chuẩn và trả lời trực tiếp không CoT.
  • Lập kế hoạch cho đường dẫn suy luận: Các trạng thái ẩn của LLM chỉ mã hóa một tầm nhìn hạn chế về các đường dẫn suy luận tiếp theo. Độ chính xác dự đoán token tiếp theo giảm đáng kể sau 2 bước đầu tiên, chỉ duy trì khả năng lập kế hoạch dài hạn hơn đối với các tác vụ có cấu trúc rõ ràng.
  • Lập kế hoạch cho các bước toàn cục: LLM có tầm nhìn hạn chế về độ dài suy luận toàn cục. Các trạng thái ẩn CoT ban đầu khó có đồng hồ nội bộ đáng tin cậy cho độ dài suy luận toàn cục. Một số ngoại lệ chỉ do các yếu tố gây nhiễu đặc thù của tác vụ (ví dụ: độ dài suy luận tỷ lệ với độ dài đầu vào).

II. Tận dụng động lực CoT:​

  • Ước tính độ không chắc chắn của CoT: Áp dụng nguyên lý "Thùng gỗ" (Wooden Barrel principle), nghiên cứu chứng minh rằng việc tập trung vào một tập hợp con nhỏ các vị trí trục (pivot positions) có độ không chắc chắn cao (được xác định bằng Tele-Lens hoặc các chỉ số chung như entropy) có thể cải thiện đáng kể độ chính xác ước tính độ không chắc chắn của toàn bộ đường dẫn. Cụ thể, chiến lược chọn top-k với Tele-Lens đạt cải thiện tuyệt đối lên tới 9% AUROC, và với các chỉ số chung đạt tới 6% AUROC.
  • Ước tính sự cần thiết của CoT (CoT Bypass): Nghiên cứu trình bày một bằng chứng khái niệm cho thấy có thể nhận diện khi nào không cần thiết tạo CoT đầy đủ. Bằng cách sử dụng các tín hiệu về 'ý chính câu trả lời sớm' từ Tele-Lens, hệ thống có thể bỏ qua quá trình tạo CoT cho các tác vụ dễ hơn. Cụ thể, Qwen3-32B đạt tỷ lệ bỏ qua CoT lên tới 16.2% (đối với CSQA) với mức giảm độ chính xác tổng thể không đáng kể (0.03%).

IV. Conclusion & Future Works:​

Công trình này điều tra khả năng lập kế hoạch nội bộ của LLM và phát hiện ra một phạm vi lập kế hoạch cận thị, cho thấy các mô hình không lập kế hoạch cuối cùng trước khi tạo CoT tường minh. Đặc biệt, đối với suy luận cấu thành rõ ràng, mô hình chỉ hội tụ đến câu trả lời cuối cùng gần như khi quá trình suy luận hoàn tất. Để hỗ trợ phân tích này, các tác giả đã thiết kế một loạt thí nghiệm dò tìm bằng phương pháp Tele-Lens. Kết quả của họ đưa ra một cái nhìn thống nhất về các công trình trước đây từ các quan điểm bổ trợ. Các tác giả cũng nhấn mạnh việc khai thác các tín hiệu tiềm ẩn như vậy, chứng minh rằng cả ước tính độ không chắc chắn và sự cần thiết của CoT đều có thể hưởng lợi từ việc tận dụng các mẫu cụ thể trong động lực CoT.

Hướng nghiên cứu tương lai:

  • Tích hợp các tín hiệu tiềm ẩn từ nhiều nguồn khác nhau có thể tăng cường hơn nữa việc xác định các vị trí quan trọng, dẫn đến hiệu chỉnh độ không chắc chắn mạnh mẽ hơn.
  • Xác định các vị trí CoT quan trọng có thể tạo điều kiện cho việc nén CoT và mang lại lợi ích cho quá trình huấn luyện mô hình.
  • Động lực CoT có thể giúp đặc trưng hóa các kịch bản khi CoT có thể gây ra hiệu ứng tiêu cực.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu phương pháp tích hợp đa nguồn tín hiệu tiềm ẩn để nâng cao độ tin cậy của ước tính độ không chắc chắn trong Chain-of-Thought (CoT).
  2. Phát triển các kỹ thuật nén Chain-of-Thought hiệu quả và tối ưu hóa quá trình huấn luyện mô hình dựa trên việc nhận diện các vị trí 'pivot' quan trọng trong chuỗi suy luận.
  3. Phân tích sâu hơn động lực của Chain-of-Thought để xác định các trường hợp cụ thể khi CoT có thể dẫn đến kết quả sai lệch hoặc không tối ưu, và đề xuất các chiến lược giảm thiểu.

2. Patent:​

  1. Hệ thống Phản hồi Nhanh Thông minh cho Ứng dụng Điện thoại: Một tính năng trên ứng dụng nhắn tin hoặc email điện thoại sẽ tự động phân tích độ phức tạp của câu hỏi hoặc yêu cầu người dùng. Đối với các câu hỏi đơn giản, hệ thống sẽ đưa ra câu trả lời trực tiếp, ngắn gọn ngay lập tức. Với các yêu cầu phức tạp hơn, nó sẽ kích hoạt một quá trình suy luận chi tiết hơn và chỉ hiển thị kết quả cuối cùng khi đã đủ tin cậy, giúp người dùng tiết kiệm thời gian và giảm tải xử lý cho thiết bị di động.
  2. Chỉ số Độ Tin cậy AI Tích hợp trên Điện thoại: Một chức năng trong các ứng dụng chatbot hoặc trợ lý ảo trên điện thoại hiển thị một thanh đo hoặc biểu tượng độ tin cậy bên cạnh mỗi câu trả lời được tạo ra. Chỉ số này dựa trên việc phân tích các bước suy luận nội bộ của AI (Chain-of-Thought), cho người dùng biết mức độ chắc chắn của AI về thông tin nó cung cấp, đặc biệt hữu ích cho các quyết định quan trọng hoặc thông tin nhạy cảm.
  3. Trợ lý Ảo Thích ứng Đa Bước cho Thiết bị Di động: Một trợ lý ảo trên điện thoại có khả năng tự động điều chỉnh chiều sâu suy luận của mình. Khi được hỏi một sự thật đơn giản, nó phản hồi ngay lập tức. Nếu câu hỏi đòi hỏi nhiều bước logic, nó tự động khởi tạo một quá trình suy nghĩ từng bước chi tiết hơn để đưa ra câu trả lời chính xác và minh bạch hơn cho người dùng. Trợ lý này cũng có thể nhận diện sớm khi nó đã đủ tin cậy vào câu trả lời và "bỏ qua" các bước suy luận không cần thiết, tăng tốc độ phản hồi.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2602.02103
ArXiv Abstracthttps://arxiv.org/abs/2602.02103
PDF Downloadhttps://arxiv.org/pdf/2602.02103.pdf
Github RepositoryN/A

4. MARS: Modular Agent with Reflective Search for Automated AI Research (57 votes)​

Tác giả: Jiefeng Chen, Bhavana Dalvi Mishra, Jaehyun Nam, Rui Meng, Tomas Pfister, Jinsung Yoon

Xuất bản lúc: 2026-02-02

Tag: LLMs, Automated AI Research, Agents, MCTS, Modular Programming, Machine Learning Engineering

I. Main Problem:​

Việc tự động hóa nghiên cứu AI khác biệt đáng kể so với kỹ thuật phần mềm nói chung do chi phí đánh giá cao (ví dụ: huấn luyện mô hình) và việc gán nguyên nhân hiệu suất không rõ ràng. Các tác nhân dựa trên LLM hiện tại gặp khó khăn trong việc tạo ra các tập lệnh nguyên khối bỏ qua chi phí thực thi và các yếu tố nhân quả, dẫn đến mã dễ vỡ và không có khả năng học hỏi hiệu quả từ các thử nghiệm trước đây. Cụ thể, các vấn đề bao gồm bỏ qua thực tế kinh tế của tài nguyên tính toán, khó khăn trong quản lý kiến trúc phức tạp của các kho lưu trữ nghiên cứu, và thiếu cơ chế để giải quyết vấn đề phân bổ tín dụng khi một thử nghiệm mới mang lại kết quả tốt hơn.

II. Main Idea:​

MARS (Modular Agent with Reflective Search) là một khung làm việc được tối ưu hóa để tự động hóa nghiên cứu AI, dựa trên ba trụ cột chính: (1) Lập kế hoạch có nhận thức về ngân sách thông qua Monte Carlo Tree Search (MCTS) bị ràng buộc chi phí để cân bằng rõ ràng hiệu suất với chi phí thực thi, ưu tiên các giải pháp hiệu quả. (2) Xây dựng mô-đun bằng cách sử dụng quy trình "Thiết kế-Phân tách-Thực hiện" ("Design-Decompose-Implement") để quản lý các kho lưu trữ nghiên cứu phức tạp, thay thế tập lệnh nguyên khối bằng kiến trúc cấp độ kho lưu trữ với các mô-đun độc lập, có thể kiểm tra được. (3) Bộ nhớ phản chiếu so sánh giải quyết vấn đề phân bổ tín dụng bằng cách phân tích sự khác biệt giữa các giải pháp để chắt lọc những hiểu biết sâu sắc có tín hiệu cao, mang tính nhân quả về các yếu tố thúc đẩy sự thay đổi hiệu suất (Bài học cải thiện giải pháp và Bài học gỡ lỗi).

III. Main Results:​

MARS đạt được hiệu suất tiên tiến nhất trong số các khung nguồn mở trên MLE-Bench trong các cài đặt tương đương và duy trì khả năng cạnh tranh với các phương pháp hàng đầu trên bảng xếp hạng toàn cầu. Cụ thể, phiên bản MARS sử dụng Gemini-3-Pro-Preview đạt tỷ lệ Gold Medal cao nhất (31.1%) trong số các tác nhân được báo cáo. Phiên bản MARS+ (mở rộng tài nguyên) đạt tỷ lệ Above Median cao nhất (73.3%) và Any Medal (59.6%), vượt qua các đối thủ cạnh tranh tiêu tốn nhiều tài nguyên hơn. Các nghiên cứu loại bỏ đã xác nhận rằng cả khả năng Phân tách mô-đun (Modular Decomposition) và Học bài học (Lesson Learning) đều đóng góp đáng kể vào thành công chung của tác nhân. MCTS có nhận thức về ngân sách (Budget-Aware MCTS) cũng cho thấy hiệu suất vượt trội theo thời gian so với các chiến lược tìm kiếm khác, cân bằng hiệu quả giữa khám phá và các ràng buộc tài nguyên. Về mặt định tính, hệ thống thể hiện các khoảnh khắc "Aha!" nơi 63% các bài học được sử dụng bắt nguồn từ việc chuyển giao xuyên nhánh, chứng minh tác nhân tổng quát hóa hiệu quả các hiểu biết sâu sắc qua các đường dẫn tìm kiếm.

IV. Conclusion & Future Works:​

MARS là một khung làm việc mạnh mẽ để tự động hóa nghiên cứu AI, tích hợp một cách độc đáo Lập kế hoạch có nhận thức về ngân sách, quy trình thực hiện mô-đun, và Bộ nhớ phản chiếu so sánh. Nó thiết lập trạng thái nghệ thuật mới trong số các khung nguồn mở cho các nhiệm vụ MLE và cho thấy khả năng học hỏi và tổng quát hóa vượt trội. Các đóng góp bao gồm việc phát hành mã nguồn, các quỹ đạo và lời nhắc để thúc đẩy nghiên cứu trong tương lai. Hướng nghiên cứu tiếp theo có thể tập trung vào việc tinh chỉnh hơn nữa các cơ chế học hỏi và lập kế hoạch để xử lý các kịch bản phức tạp hơn và tối ưu hóa tài nguyên hiệu quả hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng các cơ chế học tập phản chiếu để xử lý các tương tác phức tạp và đa yếu tố, không chỉ so sánh đơn thuần giữa giải pháp hiện tại và giải pháp tốt nhất.
  2. Phát triển các chiến lược lập kế hoạch có nhận thức về ngân sách động hơn, có thể điều chỉnh ngân sách trong thời gian thực dựa trên tiến độ khám phá và tiềm năng cải thiện.
  3. Áp dụng khung MARS cho các lĩnh vực nghiên cứu tự động khác ngoài kỹ thuật học máy, chẳng hạn như khoa học vật liệu, thiết kế thuốc hoặc tối ưu hóa hệ thống robot.

2. Patent:​

  1. Hệ thống tối ưu hóa hiệu suất ứng dụng di động có cân nhắc chi phí: Một ứng dụng trên điện thoại thông minh hoặc một dịch vụ đám mây dành cho nhà phát triển, có khả năng tự động phân tích và đề xuất các thay đổi trong mã nguồn ứng dụng di động. Hệ thống này sẽ không chỉ tìm cách cải thiện tốc độ hoặc hiệu quả sử dụng pin mà còn cân nhắc chi phí tính toán để đạt được những cải thiện đó, giúp nhà phát triển chọn ra các bản cập nhật tối ưu nhất trong giới hạn tài nguyên cho phép.
  2. Công cụ tạo mã mô-đun thông minh cho tính năng ứng dụng di động: Một công cụ tích hợp trong môi trường phát triển ứng dụng di động, cho phép các nhà phát triển dễ dàng tạo ra các tính năng mới. Người dùng chỉ cần mô tả tính năng bằng văn bản, hệ thống sẽ tự động tạo ra các đoạn mã chức năng riêng biệt, độc lập và dễ dàng tích hợp vào ứng dụng hiện có mà không làm ảnh hưởng đến cấu trúc tổng thể, giúp duy trì ứng dụng gọn gàng và dễ quản lý.
  3. Hệ thống học hỏi từ lỗi và đề xuất sửa lỗi thông minh cho ứng dụng di động: Một tính năng trong công cụ phát triển ứng dụng di động hoặc một ứng dụng độc lập, có khả năng tự động phân tích các sự cố và lỗi xảy ra trong quá trình thử nghiệm. Hệ thống sẽ không chỉ đưa ra giải pháp sửa lỗi mà còn học hỏi từ những lỗi đó để tạo ra các quy tắc và hướng dẫn, giúp ngăn chặn việc lặp lại các lỗi tương tự trong các dự án tương lai và tăng tốc quá trình gỡ lỗi.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2602.02660
ArXiv Abstracthttps://arxiv.org/abs/2602.02660
PDF Downloadhttps://arxiv.org/pdf/2602.02660.pdf
Github Repositoryhttps://github.com/jfc43/MARS

5. 3D-Aware Implicit Motion Control for View-Adaptive Human Video Generation (54 votes)​

Tác giả: Zhixue Fang, Xu He, Songlin Tang, Haoxian Zhang, Qingfeng Li, Xiaoqiang Liu, Pengfei Wan, Kun Gai

Xuất bản lúc: 2026-02-03

Tag: Diffusion, Video Generation, 3D Vision, Human Motion, Deep Learning

I. Main Problem:​

Các phương pháp hiện có để kiểm soát chuyển động con người trong tạo video gặp hạn chế:

  1. Các tư thế 2D ràng buộc chuyển động với góc nhìn của video gốc, ngăn cản việc tổng hợp các góc nhìn mới.
  2. Các mô hình 3D tham số rõ ràng (như SMPL) có độ chính xác nội tại kém (ví dụ: mơ hồ về độ sâu, động lực học không chính xác) và có thể ghi đè lên nhận thức 3D vốn có của các mô hình tạo video quy mô lớn. Điều này dẫn đến các video thiếu linh hoạt về góc nhìn và không thể thực hiện các thao tác camera sinemat học.

II. Main Idea:​

Tái định hình kiểm soát chuyển động con người từ góc độ nhận thức 3D, đề xuất biểu diễn chuyển động ngầm, không phụ thuộc vào góc nhìn, phù hợp với các tiền đề không gian của trình tạo. Giới thiệu 3DiMo, một framework end-to-end:

  1. Mã hóa chuyển động ngầm, không phụ thuộc góc nhìn: Huấn luyện một bộ mã hóa chuyển động (Transformer-based 1D tokenizer) cùng với một trình tạo video được huấn luyện trước (DiT-based) để chắt lọc các khung hình lái vào các token chuyển động nhỏ gọn, không phụ thuộc góc nhìn. Các token này được tiêm vào trình tạo thông qua cơ chế cross-attention để điều khiển ngữ nghĩa.
  2. Giám sát bằng dữ liệu đa dạng góc nhìn: Huấn luyện với dữ liệu video đa dạng góc nhìn (một góc nhìn, đa góc nhìn, video camera chuyển động) để củng cố tính nhất quán chuyển động trên các góc nhìn khác nhau, buộc mô hình phải lý giải chuyển động trong không gian 3D.
  3. Giám sát hình học phụ trợ có chọn lọc: Sử dụng giám sát hình học phụ trợ (dựa trên SMPL/MANO) chỉ để khởi tạo sớm, sau đó giảm dần về 0. Điều này giúp mô hình chuyển từ hướng dẫn 3D bên ngoài sang học hiểu chuyển động không gian 3D thực sự từ dữ liệu và tiền đề của trình tạo. Framework cho phép kiểm soát camera linh hoạt, được điều khiển bằng văn bản, tận dụng khả năng vốn có của trình tạo DiT.

III. Main Results:​

  1. Hiệu suất vượt trội: 3DiMo vượt trội hơn tất cả các phương pháp hiện có (dựa trên tư thế 2D và SMPL 3D) trên các chỉ số quan trọng như LPIPS, FID, và FVD, cho thấy chất lượng hình ảnh và khả năng kiểm soát chuyển động vượt trội.
  2. Kiểm soát chuyển động 3D trung thực: Mô hình tái tạo chuyển động từ video gốc một cách trung thực, duy trì tính nhất quán 3D trên các góc nhìn khác nhau, giải quyết vấn đề mơ hồ về độ sâu mà các phương pháp dựa trên các mô hình tham số gặp phải.
  3. Kiểm soát camera linh hoạt bằng văn bản: 3DiMo hỗ trợ kiểm soát camera linh hoạt thông qua hướng dẫn bằng văn bản, cho phép tạo ra các chuyển động camera sinemat học (nghiêng, lia, vòng cung, thu phóng) mà vẫn giữ được sự hợp lý về vật lý và tính nhất quán không gian.
  4. Kết quả nghiên cứu người dùng tích cực: Trong một nghiên cứu người dùng với 30 người tham gia, 3DiMo đạt điểm MOS cao nhất quán trên các khía cạnh về độ chính xác chuyển động, tính tự nhiên, tính hợp lý vật lý 3D và chất lượng hình ảnh tổng thể.

IV. Conclusion & Future Works:​

Kết luận: 3DiMo là một framework end-to-end tiên tiến cho kiểm soát chuyển động con người nhận thức 3D. Nó học cách điều chỉnh với các tiền đề không gian nội tại của trình tạo video mà không phụ thuộc vào tái tạo tham số 3D rõ ràng bên ngoài. Bằng cách cùng huấn luyện bộ mã hóa chuyển động ngầm với mô hình tạo video được huấn luyện trước và thiết kế nó để loại bỏ các bố cục phụ thuộc vào góc nhìn, 3DiMo tạo ra biểu diễn chuyển động không phụ thuộc góc nhìn. Việc huấn luyện thêm với dữ liệu đa dạng góc nhìn, kết hợp với khởi tạo hình học nhẹ nhàng, giúp 3DiMo phát triển khả năng hiểu chuyển động không gian 3D mạnh mẽ và biểu cảm trực tiếp từ các quan sát 2D. Công việc tương lai: Mặc dù không được đề cập rõ ràng, các hướng phát triển tiềm năng có thể bao gồm:

  1. Mở rộng khả năng của 3DiMo để tạo ra các tương tác phức tạp hơn giữa nhiều người trong cảnh.
  2. Cải thiện hiệu quả suy luận và thời gian thực để ứng dụng rộng rãi hơn.
  3. Tích hợp các dạng điều khiển chuyển động khác, ngoài video lái, như chuyển động từ âm thanh hoặc tín hiệu sinh trắc học.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu về việc tích hợp 3DiMo với các mô hình ngữ cảnh môi trường 3D để tạo ra các video tương tác phức tạp hơn, nơi chuyển động của con người không chỉ dựa vào video lái mà còn tương tác với vật thể và không gian xung quanh.
  2. Khám phá việc áp dụng kiến trúc encoder chuyển động ngầm tương tự cho các nhiệm vụ tạo video khác ngoài con người, chẳng hạn như động vật hoặc vật thể có thể điều khiển, để chứng minh tính tổng quát của phương pháp.
  3. Nghiên cứu các phương pháp cải thiện khả năng điều khiển chuyển động của 3DiMo để phản ứng theo thời gian thực hoặc gần thời gian thực với đầu vào từ người dùng (ví dụ: bộ điều khiển trò chơi, cảm biến chuyển động), mở ra các ứng dụng mới trong VR/AR và sản xuất nội dung tương tác.

2. Patent:​

  1. Ứng dụng "Tạo Video Chuyển Động Avatar Tùy Chỉnh" trên điện thoại: Một ứng dụng di động cho phép người dùng quay một đoạn video ngắn về chuyển động của chính họ hoặc người khác. Sau đó, người dùng có thể chọn một hình ảnh avatar hoặc nhân vật 3D mong muốn và một mô tả văn bản về cách camera nên di chuyển (ví dụ: "camera lượn vòng từ trái sang"). Hệ thống sẽ tự động tạo một video chất lượng cao, trong đó nhân vật avatar thực hiện chính xác chuyển động từ video gốc dưới góc quay camera được điều khiển bằng văn bản.
  2. Hệ thống "Biểu Diễn Lại Chuyển Động Chân Thực" tích hợp trên điện thoại: Một hệ thống tích hợp trong điện thoại di động sử dụng công nghệ chuyển động không gian 3D ngầm để tái tạo chuyển động từ bất kỳ video nào lên một mô hình con người đã chọn. Người dùng có thể quay một điệu nhảy hoặc hành động cụ thể, sau đó áp dụng chuyển động đó lên một mô hình người ảo trong không gian ba chiều, thậm chí điều chỉnh góc nhìn camera chỉ bằng cách nhập văn bản (ví dụ: "camera quay quanh từ phía sau", "phóng to khuôn mặt").
  3. Công nghệ "Tạo Ảnh Động 3D Từ Ảnh Tĩnh và Video Mẫu" cho di động: Một công cụ trên điện thoại cho phép người dùng chọn một bức ảnh tĩnh của một người và một video ngắn bất kỳ chứa chuyển động. Hệ thống sẽ tự động phân tích chuyển động ba chiều ngầm từ video và áp dụng nó lên người trong ảnh tĩnh, tạo ra một video động ba chiều sống động. Đồng thời, người dùng có thể dùng giọng nói hoặc văn bản để điều khiển vị trí và quỹ đạo của camera ảo trong video đã tạo.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2602.03796
ArXiv Abstracthttps://arxiv.org/abs/2602.03796
PDF Downloadhttps://arxiv.org/pdf/2602.03796.pdf
Github RepositoryN/A

6. daVinci-Agency: Unlocking Long-Horizon Agency Data-Efficiently (48 votes)​

Tác giả: Mohan Jiang, Dayuan Fu, Junhao Shi, Ji Zeng, Weiye Si, Keyu Li, Xuefeng Li, Yang Xiao, Wenjie Li, Dequan Wang, Pengfei Liu

Xuất bản lúc: 2026-02-02

Tag: LLMs, Agentic Systems, Data Synthesis, Long-Horizon Tasks, Software Engineering AI

I. Main Problem:​

Trong khi các mô hình ngôn ngữ lớn (LLM) xuất sắc ở các tác vụ ngắn hạn, việc mở rộng chúng sang các quy trình công việc tác nhân có tầm nhìn dài hạn vẫn còn nhiều thách thức. Nút thắt chính nằm ở sự khan hiếm dữ liệu huấn luyện có khả năng nắm bắt các cấu trúc phụ thuộc dài hạn đích thực và động lực tiến hóa đa giai đoạn. Các phương pháp tổng hợp hiện có hoặc bị giới hạn trong các kịch bản tính năng đơn lẻ do phân phối mô hình, hoặc phát sinh chi phí chú thích thủ công quá cao, không cung cấp được sự giám sát chất lượng cao và có thể mở rộng. Thách thức cốt lõi không chỉ là kéo dài độ dài của lý luận, mà còn là khả năng của tác nhân duy trì định hướng và giảm thiểu lỗi tích lũy qua các chu kỳ kéo dài.

II. Main Idea:​

Các tác giả giải quyết vấn đề bằng cách tái định hình quá trình tổng hợp dữ liệu thông qua lăng kính tiến hóa phần mềm trong thế giới thực. Ý tưởng chủ chốt là chuỗi các Pull Request (PR) tự nhiên thể hiện các tín hiệu giám sát cho việc học tập dài hạn. Chúng phân tách các mục tiêu phức tạp thành các đơn vị gửi có thể kiểm chứng, duy trì sự nhất quán chức năng qua các lần lặp, và mã hóa các mẫu tinh chỉnh đích thực thông qua lịch sử sửa lỗi. Dựa trên đó, daVinci-Agency được đề xuất, hệ thống này khai thác sự giám sát có cấu trúc từ chuỗi PR thông qua ba cơ chế liên kết: (1) phân tách tác vụ lũy tiến thông qua các commit liên tục, (2) thực thi tính nhất quán dài hạn thông qua các mục tiêu chức năng thống nhất, và (3) tinh chỉnh có thể kiểm chứng từ các quỹ đạo sửa lỗi đích thực. Nền tảng của daVinci-Agency là sự tiến hóa PR liên tục của quá trình phát triển phần mềm, tự động tổ chức nhiều PR xoay quanh một mục tiêu chung thành các chuỗi tác vụ phụ thuộc lẫn nhau, tạo ra các tương tác dài hạn và phản hồi trong các trạng thái mã nguồn đang phát triển.

III. Main Results:​

Mặc dù chỉ sử dụng 239 mẫu dữ liệu, daVinci-Agency đã mang lại những cải tiến đáng kể trên nhiều điểm chuẩn, đặc biệt là đạt được mức tăng tương đối 47% trên Toolathlon và điểm trung bình 0.475 trên các điểm chuẩn tổng hợp, vượt trội so với các tập dữ liệu khác có quy mô lớn hơn nhiều lần (ví dụ, 148% cải thiện so với mô hình huấn luyện trên 66.000 mẫu ở một số điểm chuẩn). Các quỹ đạo dữ liệu trung bình dài 85k tokens và 116 lượt gọi công cụ, chứng tỏ hiệu quả về dữ liệu đáng kể.

Mô hình đã nội hóa hiệu quả các hành vi dài hạn, thể hiện khả năng phân tách tác vụ, duy trì tính nhất quán dài hạn và tinh chỉnh tốt hơn. Hơn nữa, các mô hình được tinh chỉnh trên daVinci-Agency cho thấy sự cải thiện đáng kể về hiệu quả thực thi, với mức giảm đáng kể trong tiêu thụ token và số lượt gọi công cụ (ví dụ, giảm 113.6K tokens và 25.8% lượt gọi công cụ trên SWE-bench cho GLM-4.6), cho thấy khả năng lập kế hoạch chính xác và loại bỏ các hành động thừa.

Nghiên cứu cũng tiết lộ các quy luật mở rộng (scaling laws) của dữ liệu dài hạn cụ thể cho các tác vụ dài hạn, xác nhận rằng việc mở rộng cả chân trời huấn luyện và ngân sách tương tác trong thời gian suy luận là cơ chế quan trọng để liên tục nâng cao hiệu suất của các tác nhân.

IV. Conclusion & Future Works:​

Công trình này thiết lập daVinci-Agency như một mô hình có khả năng mở rộng, khắc phục hạn chế của việc tổng hợp dữ liệu tính năng đơn lẻ, chứng minh rằng việc mô hình hóa các quỹ đạo tiến hóa trong thế giới thực là một con đường nguyên tắc để khai phá tiềm năng dài hạn vốn có của các tác nhân. Nghiên cứu cũng mở ra hướng phát triển trong tương lai bằng cách mở rộng chân trời huấn luyện và ngân sách tương tác trong thời gian suy luận để liên tục nâng cao hiệu suất tác nhân.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu sâu hơn về các kỹ năng siêu nhận thức (meta-skills) mà tác nhân học được từ dữ liệu daVinci-Agency, như phân tách tác vụ, tính nhất quán dài hạn và khả năng tinh chỉnh, và cách chúng tương quan với kiến trúc mô hình hoặc quy trình huấn luyện cụ thể.
  2. Khám phá các quy luật mở rộng (scaling laws) của dữ liệu dài hạn và ngân sách suy luận cho các tác vụ tác nhân phức tạp, không chỉ trong lĩnh vực kỹ thuật phần mềm mà còn trong các miền ứng dụng khác.
  3. Phát triển phương pháp để tổng hợp dữ liệu dài hạn cho các tác vụ đa phương thức (multimodal tasks), vượt ra ngoài code, kết hợp văn bản, hình ảnh hoặc video để giải quyết các vấn đề phức tạp.

2. Patent:​

  1. Hệ thống trợ lý ảo thông minh trên điện thoại có khả năng lập kế hoạch và thực hiện các tác vụ phức tạp, nhiều bước. Ví dụ, người dùng yêu cầu trợ lý lên kế hoạch cho một chuyến đi nghỉ dưỡng, bao gồm đặt vé máy bay, khách sạn, nhà hàng, và quản lý các thay đổi lịch trình. Hệ thống sẽ nhớ các quyết định trước đó của người dùng, tự động điều chỉnh kế hoạch dựa trên thông tin mới (ví dụ: chuyến bay bị hủy), và tinh chỉnh các bước tiếp theo một cách liên tục, đảm bảo mọi thứ diễn ra suôn sẻ qua nhiều ngày hoặc tuần.
  2. Ứng dụng soạn thảo và gỡ lỗi mã nguồn thông minh trên điện thoại di động dành cho các nhà phát triển. Ứng dụng này sẽ hỗ trợ người dùng giải quyết các lỗi phức tạp hoặc triển khai các tính năng mới qua nhiều giai đoạn liên tiếp. Nó có thể tự động đề xuất các sửa đổi mã nguồn, học hỏi từ các tinh chỉnh của nhà phát triển, và đảm bảo tính nhất quán của toàn bộ dự án qua các phiên làm việc khác nhau, tương tự như quy trình phát triển phần mềm sử dụng Pull Request trong thế giới thực.
  3. Nền tảng học tập và phát triển kỹ năng thích ứng trên điện thoại di động. Ứng dụng này sẽ tùy chỉnh lộ trình học tập của người dùng (ví dụ: học lập trình, ngôn ngữ, nhạc cụ) dựa trên tiến độ, các lỗi mắc phải và mục tiêu dài hạn của họ. Nó có thể xác định các lỗ hổng kiến thức, đề xuất các bài tập ôn luyện cần thiết, và dần dần xây dựng sự thành thạo theo từng bước nhỏ, đảm bảo người dùng đạt được mục tiêu học tập phức tạp qua một khoảng thời gian dài.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2602.02619
ArXiv Abstracthttps://arxiv.org/abs/2602.02619
PDF Downloadhttps://arxiv.org/pdf/2602.02619.pdf
Github Repositoryhttps://github.com/GAIR-NLP/daVinci-Agency

7. Research on World Models Is Not Merely Injecting World Knowledge into Specific Tasks (47 votes)​

Tác giả: Bohan Zeng, Kaixin Zhu, Daili Hua, Bozhou Li, Chengzhuo Tong, Yuran Wang, Xinyi Huang, Yifan Dai, Zixiang Zhang, Yifan Yang, Zhou Liu, Hao Liang, Xiaochen Ma, Ruichuan An, Tianyi Bai, Hongcheng Gao, Junbo Niu, Yang Shi, Xinlong Chen, Yue Ding, Minglei Shi, Kai Zeng, Yiwen Tang, Yuanxing Zhang, Pengfei Wan, Xintao Wang, Wentao Zhang

Xuất bản lúc: 2026-02-02

Tag: World Models, LLMs, Multimodal AI, Embodied AI, Generative Models, Unified Framework, Spatial Reasoning

I. Main Problem:​

Hiện tại, nghiên cứu về World Models đang bị phân mảnh, chủ yếu tập trung vào việc đưa kiến thức thế giới vào các tác vụ cô lập và cụ thể (ví dụ: dự đoán hình ảnh, ước tính 3D, định vị ký hiệu). Điều này dẫn đến thiếu sự gắn kết hệ thống, sự hiểu biết thực sự về vật lý, tính nhất quán dài hạn và khả năng chủ động khám phá, phản ứng với các môi trường phức tạp, làm sai lệch mục tiêu ban đầu của World Models.

II. Main Idea:​

Các tác giả đề xuất một đặc tả thiết kế và khuôn khổ thống nhất cho World Models. Mô hình thế giới mạnh mẽ này không nên là một tập hợp lỏng lẻo các khả năng mà phải là một khuôn khổ quy chuẩn tích hợp toàn diện tương tác, nhận thức, lý luận biểu tượng và biểu diễn không gian. Mục tiêu là chuyển từ các điều chỉnh cụ thể cho từng tác vụ sang một thiết kế hệ thống toàn diện để hướng dẫn nghiên cứu tương lai hướng tới các mô hình thế giới tổng quát, mạnh mẽ và có nguyên tắc hơn.

III. Main Results:​

Bài báo đã phân tích chi tiết tiến độ nghiên cứu gần đây về World Models, phân loại các phương pháp hiện có thành lý luận, tạo nội dung và tác nhân tương tác. Nó đã phê phán các hạn chế của các phương pháp hiện tại dựa trên việc đưa kiến thức vào các tác vụ cô lập, chỉ ra rằng chúng thường không đạt được sự hiểu biết vật lý thực sự và tính nhất quán dài hạn thông qua các nghiên cứu điển hình về LLMs, tạo video và AI có cơ thể (embodied AI). Bài báo đã đề xuất một Khuôn khổ World Model thống nhất và tiêu chuẩn hóa, xác định các thành phần thiết yếu bao gồm Tương tác, Lý luận, Bộ nhớ, Môi trường và Sinh tạo đa phương thức (Multimodal Generation), và cách chúng nên được thiết kế tích hợp để hỗ trợ mô phỏng thế giới mạnh mẽ. Nó đã xác định các hướng đột phá quan trọng trong tương lai như biểu diễn không gian-thời gian dựa trên vật lý, kiểm soát tương tác có cơ thể, và tiến hóa mô-đđun tự trị.

IV. Conclusion & Future Works:​

Tóm lại, nghiên cứu World Models hiện tại còn rời rạc, tập trung vào tích hợp các tác vụ cụ thể, thiếu sự gắn kết hệ thống. Bài báo đề xuất Khuôn khổ World Model Thống nhất, tích hợp Tương tác, Nhận thức, Lý luận, Bộ nhớ và Sinh tạo để thúc đẩy nghiên cứu mạnh mẽ và có nguyên tắc hơn. Các hướng nghiên cứu tương lai bao gồm:

  • Biểu diễn không gian-thời gian dựa trên vật lý: Phát triển các cấu trúc dữ liệu hoặc biểu diễn tiềm ẩn thần kinh mới có khả năng nhúng các thuộc tính vật lý của thế giới thực (khối lượng, ma sát, độ đàn hồi) thay vì chỉ tái tạo hình ảnh, đồng thời giảm chi phí tính toán khi tương tác và khám phá tự do.
  • Kiểm soát và tương tác có cơ thể (Embodied Interaction and Control): Nâng cao khả năng kiểm soát của World Models trong các môi trường động phức tạp, thu hẹp khoảng cách giữa mô phỏng và thực tế (Sim-to-Real Gap) để robot thực hiện các tác vụ phức tạp với nhiều bậc tự do, bao gồm lập kế hoạch dài hạn.
  • Phản tư tự động và Tiến hóa mô-đđun liên tục (Autonomous Reflection and Modular Continuous Evolution): Trang bị cho World Models khả năng siêu nhận thức và tự phản tư để ước tính độ không chắc chắn, tự động sửa lỗi và cập nhật kiến thức khi có sự khác biệt giữa dự đoán và quan sát, cũng như hỗ trợ điều chỉnh và nâng cấp mô-đđun độc lập để học tập suốt đời.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu về các cấu trúc dữ liệu hoặc biểu diễn tiềm ẩn thần kinh mới tích hợp chặt chẽ các thuộc tính vật lý (khối lượng, ma sát, độ đàn hồi, v.v.) vào các mô hình không gian-thời gian (3D/4D), vượt ra ngoài việc tái tạo hình ảnh quang học đơn thuần.
  2. Phát triển các thuật toán kiểm soát thích ứng cho robot với nhiều bậc tự do (DoF cao), cho phép các World Models trực tiếp tạo ra các chuỗi hành động tuân thủ các ràng buộc phần cứng và thực hiện các nhiệm vụ lập kế hoạch dài hạn trong môi trường thế giới thực.
  3. Thiết kế và triển khai một mô-đđun siêu nhận thức (metacognition) cho World Models, cho phép mô hình tự động ước tính độ không chắc chắn trong dự đoán, kích hoạt cơ chế phản tư khi có sự khác biệt lớn, và tự điều chỉnh hoặc thu thập dữ liệu mục tiêu để khắc phục các khoảng trống kiến thức.

2. Patent:​

  1. Trợ lý Tương tác Vật thể Thông minh trên Điện thoại: Một hệ thống AI trên điện thoại sử dụng camera để hiểu các thuộc tính vật lý (như trọng lượng, vật liệu, độ ổn định) của các vật thể xung quanh. Khi bạn hướng điện thoại vào một vật thể, nó sẽ đề xuất các cách tương tác an toàn, cách di chuyển vật thể đó, hoặc dự đoán cách vật thể có thể phản ứng nếu bị đẩy, hiển thị dưới dạng lớp phủ thực tế tăng cường (augmented reality) hoặc các gợi ý văn bản đơn giản.
  2. Công cụ Tạo Cảnh Động cho Thực tế Tăng cường (AR)/Trò chơi: Một ứng dụng điện thoại cho phép người dùng tạo ra các môi trường 3D nhất quán về mặt vật lý cho các trò chơi AR hoặc thử đồ ảo. Thay vì các cảnh tĩnh, AI sẽ hiểu vật lý thế giới thực, vì vậy nếu bạn đặt một quả bóng ảo lên một cái bàn ảo, nó sẽ phản ứng một cách thực tế với trọng lực và va chạm. Người dùng có thể mô tả một cảnh, và AI sẽ tạo ra nó với các tương tác vật lý phù hợp.
  3. Trợ lý Gia đình Dự đoán cho Các Tác vụ Vật lý: Một AI trên điện thoại của bạn có thể "học" môi trường nhà bạn và dự đoán kết quả của các hành động vật lý. Ví dụ, nếu bạn đang cố gắng di chuyển một món đồ nội thất lớn, ứng dụng sẽ sử dụng "mô hình thế giới" của nó về bố cục nhà và vật lý vật thể để đề xuất con đường tốt nhất, cảnh báo về va chạm tiềm ẩn hoặc ước tính cần bao nhiêu sức lực, sử dụng đầu vào từ camera và tái tạo 3D.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2602.01630
ArXiv Abstracthttps://arxiv.org/abs/2602.01630
PDF Downloadhttps://arxiv.org/pdf/2602.01630.pdf
Github RepositoryN/A

8. Diversity-Preserved Distribution Matching Distillation for Fast Visual Synthesis (40 votes)​

Tác giả: Tianhe Wu, Ruibin Li, Lei Zhang, Kede Ma

Xuất bản lúc: 2026-02-03

Tag: Diffusion Models, Generative AI, Image Synthesis, Distillation, Mode Collapse

I. Main Problem:​

Kỹ thuật chưng cất khớp phân phối (DMD) giúp căn chỉnh bộ tạo đa bước với phiên bản ít bước hơn để đạt được chất lượng tạo ảnh cao với chi phí suy luận thấp. Tuy nhiên, DMD thường gặp phải vấn đề sụp đổ chế độ (mode collapse), do công thức KL ngược của nó vốn khuyến khích hành vi tìm kiếm chế độ (mode-seeking), dẫn đến sự giảm đáng kể về đa dạng mẫu so với mô hình gốc đa bước. Các giải pháp hiện có thường dựa vào điều chuẩn nhận thức (perceptual regularization) hoặc đối kháng (adversarial regularization), gây ra chi phí tính toán đáng kể và làm giảm sự ổn định trong quá trình huấn luyện.

II. Main Idea:​

Chúng tôi đề xuất một khuôn khổ chưng cất tách vai trò, phân tách rõ ràng vai trò của các bước chưng cất. Cụ thể, bước đầu tiên được dành để bảo toàn đa dạng mẫu thông qua mục tiêu dự đoán mục tiêu (ví dụ: v-prediction). Trong khi đó, các bước tiếp theo tập trung vào việc tinh chỉnh chất lượng dưới sự giám sát của hàm mất mát DMD tiêu chuẩn, với các gradient từ mục tiêu DMD bị chặn ở bước đầu tiên. Chúng tôi gọi phương pháp này là DMD Bảo Toàn Đa Dạng (DP-DMD). Dù đơn giản—không cần xương sống nhận thức, bộ phân biệt, mạng phụ trợ, hay ảnh gốc bổ sung—DP-DMD vẫn bảo toàn đa dạng mẫu trong khi duy trì chất lượng hình ảnh ngang bằng với các phương pháp hiện đại trong các thử nghiệm tổng hợp ảnh từ văn bản.

III. Main Results:​

DP-DMD đã đạt được sự cân bằng tốt hơn đáng kể giữa đa dạng mẫu và chất lượng hình ảnh. Trong các thử nghiệm text-to-image rộng rãi, DP-DMD bảo toàn đa dạng mẫu trong khi duy trì chất lượng hình ảnh ngang bằng với các phương pháp hiện đại. Cụ thể, trong các thử nghiệm trên Pick-a-Pic với mô hình SD3.5-M, DP-DMD đạt điểm đa dạng DINO 0.179 (so với 0.137 của DMD cơ bản) và CLIP 0.182 (so với 0.133 của DMD cơ bản), đồng thời duy trì chất lượng hình ảnh (VQ-R1 4.646 so với 4.649, MIQA 1.017 so với 1.016) và ưu tiên của con người cạnh tranh. DP-DMD cũng đạt điểm tổng thể trong GenEval tương đương với mô hình giáo viên SD3.5-M, chứng tỏ khả năng tuân thủ prompt và lý luận tổng hợp, mà không cần thêm các module nhận thức hay đối kháng nào.

IV. Conclusion & Future Works:​

Chúng tôi đã đề xuất DP-DMD, một khuôn khổ chưng cất tách vai trò, cải thiện đa dạng mẫu trong khi duy trì chất lượng hình ảnh và ưu tiên cạnh tranh mà không cần các module bổ sung. Các thử nghiệm trên nhiều kiến trúc T2I và bộ tiêu chuẩn cho thấy DP-DMD là một giải pháp thay thế nhẹ và ổn định cho các phương pháp dựa trên điều chuẩn.

Trong tương lai, DP-DMD có thể được mở rộng để vượt ra ngoài việc phân chia vai trò cố định và cho phép cân bằng thích ứng, theo từng bước giữa bảo toàn đa dạng và tinh chỉnh chất lượng. Giám sát thích ứng trên toàn bộ quỹ đạo này có thể cải thiện hơn nữa sự cân bằng giữa đa dạng và chất lượng, đồng thời nâng cao tính mạnh mẽ của chưng cất ít bước trong nhiều cài đặt tạo sinh khác nhau.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu về việc cân bằng động và thích ứng giữa bảo toàn đa dạng và tinh chỉnh chất lượng qua từng bước chưng cất, thay vì chỉ cố định ở bước đầu tiên.
  2. Phát triển các phương pháp giám sát đa dạng hiệu quả hơn cho các bước chưng cất sau, đặc biệt khi các quyết định liên quan đến đa dạng không được giải quyết hoàn toàn ở bước đầu.
  3. Khám phá cách thức các bước chưng cất sau có thể ảnh hưởng đến các thuộc tính toàn cục của ảnh (ví dụ: thay đổi bố cục do hướng dẫn mạnh hoặc các prompt phức tạp) và cách tối ưu hóa để duy trì chúng.

2. Patent:​

  1. Ứng dụng di động để tạo ảnh nhanh và đa dạng từ văn bản hoặc ảnh phác thảo. Công nghệ cốt lõi sẽ sử dụng một phương pháp chưng cất đặc biệt, cho phép tạo ra nhiều phiên bản ảnh khác nhau một cách nhanh chóng mà vẫn giữ được chất lượng cao, phù hợp cho việc thiết kế hình nền, biểu tượng cảm xúc hoặc nội dung mạng xã hội ngay trên điện thoại.
  2. Hệ thống chỉnh sửa ảnh thông minh trên điện thoại di động sử dụng công nghệ rút gọn mô hình. Hệ thống này có thể tạo ra các biến thể độc đáo của một bức ảnh (ví dụ: thay đổi phong cách, bối cảnh, hoặc thêm đối tượng) mà không làm mất đi sự đa dạng của các tùy chọn. Nó giúp người dùng khám phá nhiều khả năng sáng tạo mà không tốn nhiều tài nguyên xử lý của điện thoại.
  3. Phương pháp tối ưu hóa hiệu suất cho các ứng dụng tạo ảnh AI trên thiết bị di động. Công nghệ này tập trung vào việc giảm thiểu yêu cầu về điện toán và bộ nhớ bằng cách tinh gọn quy trình tạo ảnh, loại bỏ các thành phần phức tạp không cần thiết, giúp các ứng dụng tạo ảnh AI chạy mượt mà hơn, tiết kiệm pin và tương thích với nhiều dòng điện thoại thông minh hơn.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2602.03139
ArXiv Abstracthttps://arxiv.org/abs/2602.03139
PDF Downloadhttps://arxiv.org/pdf/2602.03139.pdf
Github Repositoryhttps://github.com/Multimedia-Analytics-Laboratory/dpdmd

9. SWE-World: Building Software Engineering Agents in Docker-Free Environments (38 votes)​

Tác giả: Shuang Sun, Huatong Song, Lisheng Huang, Jinhao Jiang, Ran Le, Zhihao Lv, Zongchao Chen, Yiwen Hu, Wenyang Luo, Wayne Xin Zhao, Yang Song, Hongteng Xu, Tao Zhang, Ji-Rong Wen

Xuất bản lúc: 2026-02-03

Tag: LLMs, Software Engineering, Reinforcement Learning

I. Main Problem:​

Vấn đề chính mà công trình này nhằm giải quyết là sự phụ thuộc của các tác nhân kỹ thuật phần mềm (SWE agents) hiện có vào các môi trường thực thi được đóng gói (containerized environments) như Docker. Mô hình này rất tốn tài nguyên, khó duy trì, làm phức tạp quá trình đào tạo tác nhân và hạn chế khả năng mở rộng ở các khía cạnh dữ liệu, đào tạo và thời gian kiểm thử. Cụ thể, nó gây ra chi phí lớn về cơ sở hạ tầng để lưu trữ, quản lý và phân phối các image Docker, đồng thời cản trở việc tận dụng nhiều repository và pull request thực tế do cấu hình phụ thuộc phức tạp hoặc dễ vỡ. Hơn nữa, các tương tác môi trường đắt đỏ về mặt tính toán và thường không thể đảo ngược, giới hạn khả năng khám phá và thử nghiệm lặp đi lặp lại.

II. Main Idea:​

Ý tưởng chính mà các tác giả đề xuất là SWE-World, một framework không dùng Docker, thay thế môi trường thực thi vật lý bằng một mô hình học được (learned surrogate) để đào tạo và đánh giá các tác nhân kỹ thuật phần mềm. SWE-World sử dụng các mô hình dựa trên LLM được huấn luyện trên dữ liệu tương tác tác nhân–môi trường thực tế để dự đoán kết quả thực thi trung gian và phản hồi kiểm thử cuối cùng, cho phép các tác nhân học mà không cần tương tác với môi trường container hóa vật lý. Thiết kế này giữ nguyên vòng lặp tương tác tác nhân–môi trường tiêu chuẩn nhưng loại bỏ nhu cầu xây dựng và bảo trì môi trường tốn kém. Framework phân tách các hành động: các thao tác nhẹ (điều hướng tệp, kiểm tra văn bản, chỉnh sửa mã) được xử lý bởi một Sandbox xác định, trong khi các lệnh liên quan đến thực thi (thường yêu cầu Docker) được chuyển đến một Transition Model dựa trên LLM (SWT) để dự đoán kết quả. Khi tác nhân gửi bản vá cuối cùng, một Reward Model dựa trên LLM (SWR) sẽ thay thế việc thực thi kiểm thử trong container bằng cách đóng vai trò như một bộ chạy kiểm thử ảo, đánh giá bản vá và tạo báo cáo kiểm thử có cấu trúc cùng với tín hiệu thành công nhị phân. SWE-World cũng cho phép Test-Time Scaling (TTS) hiệu quả bằng cách mô phỏng kết quả đánh giá cuối cùng để chọn giải pháp tốt nhất.

III. Main Results:​

Các kết quả chính cho thấy SWE-World đã nâng cao hiệu suất của Qwen2.5-Coder-32B từ 6.2% lên 52.0% thông qua Docker-free SFT, 55.0% với Docker-free RL, và 68.2% với TTS@8. Phiên bản nhỏ hơn Qwen3-4B-Instruct đạt 25.6% và 30.0% tương ứng. Đặc biệt, các mô hình hoàn toàn không dùng Docker của SWE-World vượt trội hơn đáng kể so với các baseline được đào tạo bằng thực thi Docker thực tế (ví dụ: FrogBoss-32B đạt 54.6% so với SWE-World-32B-RL đạt 55.0%). Với TTS@8 dựa trên SWR, hiệu suất lên đến 68.2%, vượt qua kỷ lục trước đó (Kimi-Dev-72B TTS@40). Tập dữ liệu SWE-World Dataset mới được tạo ra chứa 16.6K tác vụ và 3,763 repository, cung cấp phạm vi bao phủ và đa dạng cao hơn so với các tập dữ liệu SWE trước đây. SWR-72B đạt độ chính xác 0.770, Precision 0.780, Recall 0.807 và F1 0.794 trong việc mô phỏng phần thưởng, trong khi SWT-72B cho phép tác nhân đạt tỷ lệ giải quyết 60.2% khi mô phỏng phản hồi chuyển đổi.

IV. Conclusion & Future Works:​

SWE-World là một framework không dùng Docker đột phá, thay thế môi trường thực thi vật lý bằng mô hình học được dựa trên LLM, giúp đào tạo và đánh giá các tác nhân kỹ thuật phần mềm một cách hiệu quả và có khả năng mở rộng. Các kết quả thực nghiệm chứng minh rằng SWE-World không chỉ đạt được hiệu suất tương đương mà còn vượt trội hơn các phương pháp dựa trên Docker truyền thống, đồng thời giảm đáng kể rào cản về cơ sở hạ tầng và tài nguyên. Điều này mở ra khả năng nghiên cứu và phát triển kỹ thuật phần mềm quy mô lớn mà không cần cơ sở hạ tầng container cấp công nghiệp. Trong tương lai, có thể tập trung vào việc cải thiện độ chính xác và khả năng khái quát hóa của các mô hình thế giới dựa trên LLM cho các môi trường phần mềm phức tạp hơn, đa dạng hơn, cũng như khám phá việc áp dụng khung công tác này cho các nhiệm vụ kỹ thuật phần mềm khác ngoài sửa lỗi.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu các kiến trúc mô hình ngôn ngữ lớn (LLM) tiên tiến hơn hoặc phương pháp đào tạo để tăng cường độ chính xác và khả năng khái quát hóa của các mô hình mô phỏng môi trường (SWT và SWR), đặc biệt đối với các hệ thống phần mềm có quy mô cực lớn hoặc có sự tương tác phức tạp.
  2. Khám phá việc tích hợp các phương pháp học tăng cường (RL) mới với SWE-World để tối ưu hóa hành vi của tác nhân kỹ thuật phần mềm, tập trung vào việc học các chiến lược gỡ lỗi hiệu quả hơn hoặc tự động phát triển tính năng trong môi trường ảo.
  3. Ứng dụng khung công tác SWE-World vào các lĩnh vực kỹ thuật phần mềm khác ngoài sửa lỗi, như tự động hóa quá trình refactoring mã, vá lỗi bảo mật, hoặc thậm chí là phát triển tính năng mới, để đánh giá tính hiệu quả và khả năng mở rộng của phương pháp Docker-free.

2. Patent:​

  1. Một ứng dụng di động cho phép người dùng lập trình các tác vụ đơn giản hoặc kiểm thử các đoạn mã nhỏ (script, công thức, v.v.) trực tiếp trên điện thoại mà không cần cài đặt bất kỳ phần mềm lập trình nào. Ứng dụng này sẽ sử dụng một trí tuệ nhân tạo để mô phỏng cách mã hoạt động, dự đoán các kết quả đầu ra, và chỉ ra lỗi như một trình biên dịch ảo, giúp người dùng học và thử nghiệm lập trình dễ dàng mọi lúc mọi nơi.
  2. Hệ thống trợ lý di động thông minh giúp người dùng phân tích và sửa lỗi trong các dự án mã nguồn nhỏ. Khi người dùng nhập một đoạn mã hoặc mô tả một vấn đề, hệ thống sẽ sử dụng công nghệ trí tuệ nhân tạo để dự đoán nguyên nhân lỗi và đề xuất các giải pháp sửa chữa mà không cần thực sự chạy mã trên một máy tính vật lý. Điều này giúp các nhà phát triển nhanh chóng tìm và khắc phục lỗi ngay trên điện thoại của họ.
  3. Một nền tảng học tập lập trình trên điện thoại di động sử dụng công nghệ trí tuệ nhân tạo để tạo ra môi trường kiểm thử ảo cho các bài tập lập trình. Người học có thể viết mã và gửi giải pháp của mình, và nền tảng sẽ tự động đánh giá chúng bằng cách mô phỏng việc chạy các bài kiểm tra mà không cần một máy chủ hoặc môi trường phát triển phức tạp. Điều này cung cấp phản hồi tức thì và cá nhân hóa, giúp người học tiến bộ nhanh hơn trên thiết bị di động.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2602.03419
ArXiv Abstracthttps://arxiv.org/abs/2602.03419
PDF Downloadhttps://arxiv.org/pdf/2602.03419.pdf
Github RepositoryN/A

10. SWE-Master: Unleashing the Potential of Software Engineering Agents via Post-Training (34 votes)​

Tác giả: Huatong Song, Lisheng Huang, Shuang Sun, Jinhao Jiang, Ran Le, Daixuan Cheng, Guoxin Chen, Yiwen Hu, Zongchao Chen, Wayne Xin Zhao, Yang Song, Tao Zhang, Ji-Rong Wen

Xuất bản lúc: 2026-02-03

Tag: LLMs, Reinforcement Learning, Fine-tuning, Software Engineering, Agents

I. Main Problem:​

Các phương pháp hiện có cho tác nhân kỹ thuật phần mềm (SWE agents) thiếu tính minh bạch và khả năng tái tạo trong quá trình xây dựng dữ liệu huấn luyện và tối ưu hóa. Bản chất đóng của nhiều hệ thống tiên tiến che khuất các thách thức quan trọng như tạo quỹ đạo hướng dẫn chất lượng cao, lọc dữ liệu hiệu quả cho SFT, điều chỉnh thuật toán và thiết kế phần thưởng cho RL, cũng như khám phá các công cụ và thiết kế hệ thống nâng cao cho suy luận. Điều này tạo ra rào cản lớn, cản trở nghiên cứu có thể tái tạo và hạn chế khả năng tiếp cận phát triển tác nhân SWE cho cộng đồng học thuật.

II. Main Idea:​

Giới thiệu SWE-Master, một framework tác nhân kỹ thuật phần mềm mã nguồn mở, minh bạch và có thể tái tạo hoàn toàn quy trình hậu huấn luyện. SWE-Master khám phá một cách có hệ thống đường ống phát triển tác nhân toàn diện, bao gồm tổng hợp quỹ đạo hướng dẫn và quản lý dữ liệu, tinh chỉnh mô hình (SFT) với ngữ cảnh dài, huấn luyện tăng cường (RL) với phản hồi thực thi thực tế, và thiết kế framework suy luận. Framework này áp dụng các phương pháp tối ưu hóa có hệ thống, như lọc dữ liệu dựa trên định dạng và độ khó, SFT ngữ cảnh dài trên các mô hình nền tảng mở, và RL với môi trường thực tế sử dụng thuật toán GRPO được tối ưu hóa. Các chiến lược này bao gồm ước tính lợi thế leave-one-out, giảm thiểu sai lệch, clip-higher, loại bỏ phân kỳ KL, thiết kế phần thưởng với cơ chế gửi bắt buộc và che lỗi container, cùng các thủ thuật huấn luyện như nhận biết ngân sách và hạn chế lệnh Git. Ngoài ra, SWE-Master còn tích hợp khả năng điều hướng mã dựa trên Giao thức Máy chủ Ngôn ngữ (LSP) và chiến lược mở rộng thời gian kiểm thử (TTS) để nâng cao hiệu suất và hiệu quả.

III. Main Results:​

  • Đạt tỷ lệ giải quyết 61.4% trên SWE-bench Verified với Qwen2.5-Coder-32B, vượt trội đáng kể so với các mô hình cơ sở mã nguồn mở hiện có.
  • Khi kết hợp mở rộng thời gian kiểm thử (TTS) với phản hồi môi trường dựa trên LLM, SWE-Master đạt 70.8% ở TTS@8.
  • Tích hợp khung điều hướng mã dựa trên LSP giúp cải thiện hiệu quả của tác nhân với tác động tối thiểu đến tỷ lệ thành công của tác vụ.
  • Với Pass@8, hiệu suất đạt 76.2%.
  • Chiến lược SFT ngữ cảnh dài riêng lẻ đã đạt 57.8%, và RL tiếp tục nâng hiệu suất lên 61.4%.

IV. Conclusion & Future Works:​

Kết luận: SWE-Master cung cấp một nền tảng thực tế và minh bạch để thúc đẩy nghiên cứu có thể tái tạo về tác nhân kỹ thuật phần mềm. Nó đóng góp một đường ống huấn luyện từ đầu đến cuối hoàn toàn mã nguồn mở, giới thiệu các khả năng cấp IDE dựa trên điều hướng mã LSP, và nâng cao đáng kể hiệu suất của mô hình mã nguồn mở trên SWE-bench Verified.

Công việc tương lai: Mặc dù không được nêu rõ, nhưng dựa trên mục tiêu của nghiên cứu, các hướng phát triển tiềm năng có thể bao gồm: mở rộng framework cho các ngôn ngữ lập trình khác hoặc các loại tác vụ kỹ thuật phần mềm đa dạng hơn, khám phá các thuật toán tối ưu hóa RL tiên tiến hơn, hoặc tích hợp các công cụ phức tạp hơn để xử lý các kho mã lớn và phức tạp.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu mô hình nền tảng và chiến lược mở rộng quy mô mới cho tác nhân SWE: Khám phá việc áp dụng phương pháp hậu huấn luyện của SWE-Master với các mô hình ngôn ngữ lớn khác (ví dụ: các biến thể Llama, CodeLlama) và phân tích cách kiến trúc cũng như kích thước mô hình khác nhau ảnh hưởng đến khả năng giải quyết các tác vụ kỹ thuật phần mềm và khả năng mở rộng.
  2. Thiết kế hàm thưởng nâng cao cho các tác vụ kỹ thuật phần mềm phức tạp: Phát triển các hàm thưởng chi tiết hơn, dựa trên các tín hiệu trung gian (ví dụ: tỷ lệ pass của unit test, chất lượng mã, độ đúng đắn về ngữ nghĩa của các chỉnh sửa) để hướng dẫn quá trình huấn luyện tăng cường (RL) hiệu quả hơn, đặc biệt cho các tác vụ đòi hỏi khả năng lập luận dài hạn hoặc giải quyết vấn đề sáng tạo.
  3. Tích hợp biểu đồ tri thức/cơ sở dữ liệu chuyên biệt: Ngoài LSP để điều hướng mã, nghiên cứu có thể tập trung vào cách tích hợp và tận dụng hiệu quả các cơ sở tri thức bên ngoài (ví dụ: về các mẫu thiết kế phần mềm, lỗ hổng bảo mật phổ biến, tài liệu API) để nâng cao khả năng lập luận và giải quyết vấn đề của tác nhân trong các tác vụ kỹ thuật phần mềm.

2. Patent:​

  1. Ứng dụng "Sửa lỗi mã nguồn tức thì" cho nhà phát triển di động: Một ứng dụng trên điện thoại di động giúp các nhà phát triển tự động phân tích và đề xuất sửa lỗi trong mã nguồn ứng dụng của họ ngay trên thiết bị. Khi ứng dụng phát hiện một lỗi hoặc người dùng mô tả một vấn đề, hệ thống AI sẽ phân tích mã và đưa ra các đoạn mã sửa lỗi hoặc hướng dẫn cách khắc phục trực tiếp trong môi trường lập trình di động. Điều này giúp tăng tốc độ gỡ lỗi và cải thiện hiệu suất cho các nhà phát triển khi làm việc từ xa hoặc di động.
  2. Trợ lý lập trình AI cá nhân trên điện thoại: Một ứng dụng AI trên điện thoại thông minh hoạt động như một gia sư lập trình. Khi người dùng đang học lập trình hoặc phát triển một dự án nhỏ trên điện thoại và gặp phải lỗi, AI sẽ chẩn đoán nguyên nhân, giải thích rõ ràng vấn đề và đề xuất các chỉnh sửa cụ thể cho mã nguồn. Ứng dụng này có thể giúp người học hiểu sâu hơn về lỗi và cách khắc phục mà không cần sự can thiệp của người hướng dẫn.
  3. Hệ thống "Chẩn đoán và Tối ưu hóa cài đặt điện thoại" thông minh: Một trợ lý AI tích hợp trong hệ thống cài đặt của điện thoại. Khi người dùng gặp phải sự cố với một ứng dụng hoặc tính năng của điện thoại (ví dụ: ứng dụng bị treo, pin hao nhanh), AI sẽ phân tích các tệp cấu hình, nhật ký hệ thống và dữ liệu sử dụng ứng dụng để xác định nguyên nhân gốc rễ. Sau đó, nó sẽ đề xuất hoặc tự động điều chỉnh các cài đặt liên quan để khắc phục sự cố, tối ưu hóa hiệu suất và cải thiện trải nghiệm người dùng mà không cần người dùng phải tự mày mò phức tạp.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2602.03411
ArXiv Abstracthttps://arxiv.org/abs/2602.03411
PDF Downloadhttps://arxiv.org/pdf/2602.03411.pdf
Github RepositoryN/A

11. CoBA-RL: Capability-Oriented Budget Allocation for Reinforcement Learning in LLMs (33 votes)​

Tác giả: Zhiyuan Yao, Yi-Kai Zhang, Yuxin Chen, Yueqing Sun, Zishan Xu, Yu Yang, Tianhao Hu, Qi Gu, Hui Su, Xunliang Cai

Xuất bản lúc: 2026-02-03

Tag: Reinforcement Learning, LLMs, Resource Allocation, Curriculum Learning, Policy Optimization

I. Main Problem:​

Vấn đề chính mà nghiên cứu này giải quyết là sự kém hiệu quả về tài nguyên của các phương pháp Reinforcement Learning với Verifiable Rewards (RLVR) trong Large Language Models (LLMs), đặc biệt là Group Relative Policy Optimization (GRPO). GRPO thường sử dụng ngân sách rollout đồng nhất, dẫn đến lãng phí tài nguyên do không tính đến giá trị huấn luyện động của từng mẫu. Các phương pháp thích ứng hiện có cũng hạn chế vì chúng dựa vào các số liệu cấp độ instance tĩnh (như tỷ lệ vượt qua task), không nắm bắt được trạng thái học tập đang phát triển của mô hình và mối liên hệ giữa giá trị huấn luyện của mẫu với khả năng thực tế của mô hình. Điều này cản trở việc tối ưu hóa hiệu quả sự cân bằng giữa khám phá (exploration) và khai thác (exploitation).

II. Main Idea:​

Ý tưởng chính được đề xuất là CoBA-RL (Capability-Oriented Budget Allocation for Reinforcement Learning), một thuật toán Reinforcement Learning được thiết kế để phân bổ ngân sách rollout một cách thích ứng dựa trên khả năng phát triển của mô hình. CoBA-RL bao gồm hai thành phần chính:

  1. Capability-Oriented Value function: Chức năng giá trị này được mô hình hóa bằng phân phối Beta, liên tục theo dõi tỷ lệ thất bại toàn cầu của mô hình để định lượng khả năng của nó. Nó điều chỉnh hình dạng của phân phối Beta để ánh xạ các task tới giá trị huấn luyện tiềm năng của chúng một cách năng động. Điều này cho phép CoBA-RL tự động điều phối sự cân bằng giữa khám phá và khai thác, ưu tiên củng cố kiến thức đã có hoặc khám phá các ranh giới không chắc chắn cao dựa trên năng lực hiện tại của mô hình.
  2. Heap-Based Greedy Strategy: Để tối ưu hóa việc phân bổ ngân sách, CoBA-RL sử dụng một chiến lược tham lam dựa trên heap. Thuật toán này định hình bài toán phân bổ là một bài toán tối ưu hóa có ràng buộc nhằm tối đa hóa tổng giá trị huấn luyện của batch. Dựa trên tính chất lợi nhuận cận biên giảm dần của hàm giá trị, chiến lược này phân bổ ngân sách từng đơn vị cho các mẫu mang lại lợi ích cận biên cao nhất một cách hiệu quả, đảm bảo tài nguyên tính toán được hướng tới các task có tiềm năng học tập lớn nhất.

III. Main Results:​

Các thí nghiệm sâu rộng đã chứng minh rằng CoBA-RL vượt trội đáng kể so với các baseline mạnh mẽ, bao gồm GRPO và Knapsack-RL, trên nhiều benchmark toán học đầy thách thức. Cụ thể:

  • CoBA-RL đạt độ chính xác trung bình 46.78% trên Qwen2.5-7B-Instruct, vượt qua GRPO (42.24%) tới 4.54% và Knapsack-RL (45.39%). Các cải tiến tương tự được ghi nhận trên Qwen2.5-7B-Base (+3.75% so với GRPO), Qwen3-4B-Base (+4.74% so với GRPO) và Qwen3-1.7B-Base (+4.14% so với GRPO).
  • Chiến lược "Exploit → Explore" (khai thác trước, khám phá sau) của CoBA-RL mang lại hiệu suất vượt trội, cho thấy việc củng cố các khả năng cơ bản trên các mẫu dễ ở giai đoạn đầu và sau đó khám phá các trường hợp khó là hiệu quả hơn.
  • CoBA-RL vượt trội hơn các chiến lược phân bổ ngân sách tĩnh và heuristic, khẳng định tính hiệu quả của cơ chế thích ứng năng động dựa trên khả năng của mô hình.
  • Nghiên cứu cũng chứng minh CoBA-RL có hiệu quả dữ liệu vượt trội, đạt độ chính xác cao hơn với ngân sách rollout hạn chế so với GRPO sử dụng ngân sách gấp đôi, làm nổi bật sự kém hiệu quả của chiến lược phân bổ đồng nhất của GRPO.
  • Về hiệu quả thời gian chạy, chiến lược Greedy dựa trên Heap đạt tốc độ nhanh hơn đáng kể (~928 lần) so với lập trình động tiêu chuẩn, chỉ mất 0.124 giây để phân bổ ngân sách lớn, phù hợp cho việc tích hợp vào các pipeline huấn luyện quy mô lớn.

IV. Conclusion & Future Works:​

Nghiên cứu kết luận rằng CoBA-RL là một thuật toán Reinforcement Learning hiệu quả, có khả năng điều chỉnh phân bổ ngân sách rollout một cách năng động theo khả năng phát triển của LLM. Bằng cách sử dụng Hàm giá trị định hướng khả năng và chiến lược tham lam dựa trên heap, CoBA-RL đạt được sự cân bằng tối ưu giữa khám phá và khai thác, dẫn đến hiệu suất vượt trội so với các phương pháp hiện có. Phân tích sâu hơn cho thấy động lực huấn luyện hiệu quả thường chuyển từ khai thác sang khám phá. Hướng nghiên cứu trong tương lai được đề xuất là tập trung vào việc định lượng chính xác hơn tiềm năng huấn luyện của các task và tiếp tục tối ưu hóa việc phân bổ ngân sách để thúc đẩy hiệu quả post-training của LLM.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển hàm giá trị định hướng khả năng cho các miền phi toán học: Mở rộng và tinh chỉnh Hàm giá trị định hướng khả năng (Capability-Oriented Value function) để ứng dụng trong các miền khác của LLM như tạo mã, lý luận logic hoặc tương tác tác nhân, nơi "khả năng" và "giá trị huấn luyện" có thể được định nghĩa khác nhau so với task toán học.
  2. Tích hợp CoBA-RL với các kỹ thuật Reinforcement Learning khác: Nghiên cứu cách kết hợp CoBA-RL với các kỹ thuật Reinforcement Learning tiên tiến khác ngoài GRPO, như PPO hoặc DPO, để khám phá liệu việc kết hợp chiến lược phân bổ ngân sách thích ứng có thể mang lại lợi ích cộng hưởng và cải thiện hiệu suất tổng thể hay không.
  3. Học tập đa mục tiêu và phân bổ ngân sách tài nguyên đa dạng: Thiết kế một framework phân bổ ngân sách thích ứng không chỉ tối ưu hóa ngân sách rollout mà còn các tài nguyên khác (ví dụ: kích thước batch, tần suất đánh giá, v.v.) và cân bằng nhiều mục tiêu huấn luyện khác nhau (ví dụ: độ chính xác, hiệu quả, khả năng khái quát hóa) trong cùng một môi trường Reinforcement Learning.

2. Patent:​

  1. Hệ thống học tập cá nhân hóa cho ứng dụng di động: Một ứng dụng học tập trên điện thoại thông minh sử dụng nguyên lý phân bổ ngân sách thích ứng của CoBA-RL để cá nhân hóa việc học. Ứng dụng sẽ tự động điều chỉnh độ khó và số lượng bài tập (ngân sách rollout) cho người dùng dựa trên khả năng học tập hiện tại của họ (global capability) và mức độ khó của từng kiến thức (pass rate). Ví dụ, nếu người dùng đang gặp khó khăn với một chủ đề cụ thể, hệ thống sẽ tự động cung cấp thêm các bài tập khám phá và giải thích chi tiết hơn cho chủ đề đó, trong khi giảm bớt tài nguyên cho các chủ đề người dùng đã thành thạo.
  2. Trợ lý viết AI thông minh với phản hồi thích ứng trên thiết bị di động: Phát triển một trợ lý viết AI trên điện thoại di động sử dụng cơ chế của CoBA-RL để cung cấp phản hồi và gợi ý tối ưu. Trợ lý này sẽ đánh giá khả năng viết của người dùng trong thời gian thực (ví dụ: ngữ pháp, phong cách, mạch lạc). Đối với những phần mà người dùng gặp khó khăn (tương tự như task có giá trị huấn luyện cao), trợ lý sẽ tập trung cung cấp nhiều gợi ý, ví dụ và tùy chọn viết khác nhau (ngân sách khám phá cao). Ngược lại, đối với những phần đã được viết tốt, nó chỉ đưa ra các điều chỉnh nhỏ hoặc xác nhận (ngân sách khai thác cao), giúp người dùng cải thiện hiệu quả hơn.
  3. Nền tảng kiểm thử phần mềm tự động thích ứng trên đám mây cho ứng dụng di động: Một dịch vụ dựa trên đám mây, được truy cập qua ứng dụng di động, tự động phân bổ tài nguyên kiểm thử (số lượng test case, thời gian chạy kiểm thử) cho các tính năng khác nhau của ứng dụng di động đang phát triển. Thay vì phân bổ đồng nhất, hệ thống sẽ sử dụng một "hàm giá trị" để xác định những tính năng nào cần kiểm thử chuyên sâu hơn dựa trên lịch sử lỗi, độ phức tạp của mã và mức độ thay đổi gần đây. Các tính năng có "giá trị huấn luyện" cao (ví dụ: tính năng mới, nhiều lỗi) sẽ nhận được ngân sách kiểm thử lớn hơn để khám phá các kịch bản tiềm năng, trong khi các tính năng ổn định sẽ nhận được ngân sách khai thác nhỏ hơn để đảm bảo duy trì chất lượng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2602.03048
ArXiv Abstracthttps://arxiv.org/abs/2602.03048
PDF Downloadhttps://arxiv.org/pdf/2602.03048.pdf
Github Repositoryhttps://github.com/Within-yao/CoBA-RL

12. Parallel-Probe: Towards Efficient Parallel Thinking via 2D Probing (24 votes)​

Tác giả: Tong Zheng, Chengsong Huang, Runpeng Dai, Yun He, Rui Liu, Xin Ni, Huiwen Bao, Kaishen Wang, Hongtu Zhu, Jiaxin Huang, Furong Huang, Heng Huang

Xuất bản lúc: 2026-02-03

Tag: LLMs, Reasoning, Parallel Computing, Efficiency, Optimization

I. Main Problem:​

Tư duy song song đã nổi lên như một phương pháp đầy hứa hẹn để cải thiện khả năng suy luận của LLM, nhưng lại tốn kém về mặt tính toán đáng kể. Các phương pháp hiệu quả hiện có chủ yếu dựa vào các tín hiệu cục bộ, theo từng quỹ đạo và thiếu cơ chế có nguyên tắc để khai thác động lực toàn cầu trên các nhánh song song. Điều này dẫn đến phân bổ tài nguyên không tối ưu và giải mã các quỹ đạo dư thừa.

II. Main Idea:​

Các tác giả giới thiệu 2D probing, một giao diện hộp đen cho phép giám sát động lực chiều rộng-chiều sâu của tư duy song song bằng cách định kỳ trích xuất các câu trả lời trung gian từ tất cả các nhánh. Phân tích từ 2D probing đã khám phá ba hiểu biết chính:

  1. Mở rộng không đơn điệu: Hiệu suất phụ thuộc nhiều vào cách cân bằng giữa chiều rộng (số lượng nhánh) và chiều sâu (độ dài suy luận), chứ không chỉ tổng ngân sách token.
  2. Độ dài các nhánh suy luận không đồng nhất: Các nhánh có độ dài suy luận rất khác nhau, với một số nhánh kéo dài đáng kể.
  3. Ổn định đồng thuận sớm: Kết quả bỏ phiếu đa số thường đạt trạng thái ổn định rất lâu trước khi tất cả các nhánh kết thúc.

Dựa trên những hiểu biết này, họ giới thiệu Parallel-Probe, một bộ điều khiển không cần huấn luyện được thiết kế để tối ưu hóa tư duy song song trực tuyến. Parallel-Probe sử dụng:

  1. Dừng sớm dựa trên đồng thuận (Consensus-based Early Stopping): Để điều chỉnh độ sâu suy luận bằng cách xác minh sự ổn định tuần tự của câu trả lời đa số theo từng chu kỳ, chấm dứt quá trình tạo khi đạt được đồng thuận ổn định.
  2. Cắt nhánh dựa trên độ lệch (Deviation-based Branch Pruning): Để điều chỉnh động chiều rộng bằng cách xác định và loại bỏ các nhánh lạc đề so với xu hướng toàn cầu.

Ngoài ra, họ giới thiệu SCOUT (Sequential & Concurrent Offline Utilization Testbed), một nền tảng đánh giá để kiểm tra nhanh các chiến lược khác nhau bằng dữ liệu đã được lấy mẫu trước.

III. Main Results:​

Parallel-Probe thiết lập một biên Pareto vượt trội cho việc mở rộng quy mô tại thời điểm kiểm tra (test-time scaling). So với phương pháp bỏ phiếu đa số tiêu chuẩn (SC@64):

  • Giảm token tuần tự lên đến 35.8% (đại diện cho độ trễ).
  • Giảm tổng chi phí token hơn 25.8%.
  • Duy trì độ chính xác cạnh tranh.
  • Parallel-Probe liên tục vượt trội so với các phương pháp cạnh tranh về hiệu suất, hiệu quả độ trễ và hiệu quả chi phí.
  • Các nghiên cứu loại bỏ (ablation studies) xác nhận tầm quan trọng của thông tin thăm dò 2D toàn cầu, cắt nhánh dựa trên độ lệch, dừng sớm dựa trên đồng thuận và giai đoạn khởi động (warmup stage).

IV. Conclusion & Future Works:​

Kết luận: Công trình này giới thiệu 2D probing như một giao diện mạnh mẽ để hiểu và kiểm soát suy luận song song, mở ra hướng nghiên cứu mới về tư duy song song hiệu quả và có nguyên tắc cho các mô hình ngôn ngữ lớn (LLM). Parallel-Probe cung cấp một bộ điều khiển không cần huấn luyện, tận dụng các tín hiệu thăm dò toàn cầu để phối hợp động quá trình tạo song song. SCOUT là một testbed ngoại tuyến giúp đơn giản hóa việc đánh giá.

Công việc tương lai:

  • Khám phá các bộ điều khiển dựa trên học máy (learning-based controllers).
  • Tìm hiểu các tín hiệu thăm dò (probing signals) phong phú hơn.
  • Tích hợp chặt chẽ hơn giữa các mục tiêu huấn luyện và kiểm soát song song trực tuyến.
  • Mã nguồn và dữ liệu của SCOUT sẽ được công khai để tạo điều kiện nghiên cứu.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển các mô hình điều khiển dựa trên học tăng cường (Reinforcement Learning) để tối ưu hóa việc cắt nhánh và dừng sớm trong các hệ thống tư duy song song.
  2. Nghiên cứu các loại tín hiệu thăm dò (probing signals) phi ngữ nghĩa, chẳng hạn như trạng thái ẩn (hidden states) hoặc phân phối logit, để cải thiện khả năng ra quyết định của 2D probing.
  3. Thiết kế các kiến trúc LLM mới có khả năng tích hợp trực tiếp các cơ chế kiểm soát song song (như 2D probing và Parallel-Probe) vào quá trình huấn luyện, tối ưu hóa từ đầu đến cuối cho hiệu quả và độ chính xác.

2. Patent:​

  1. Hệ thống 'Suy nghĩ song song thông minh' cho trợ lý AI trên điện thoại: Một tính năng cho phép trợ lý AI của điện thoại xử lý các câu hỏi phức tạp bằng cách thử nhiều cách giải quyết khác nhau cùng lúc. Hệ thống sẽ liên tục kiểm tra các giải pháp đang được tạo ra và dừng lại ngay khi tìm thấy một câu trả lời ổn định và được nhiều 'luồng suy nghĩ' đồng tình, đồng thời loại bỏ những 'luồng suy nghĩ' lạc đề hoặc không hiệu quả để tiết kiệm pin và thời gian xử lý của điện thoại.
  2. Công nghệ 'Tiết kiệm năng lượng suy luận' cho ứng dụng AI trên thiết bị di động: Một phương pháp tối ưu hóa việc sử dụng tài nguyên của điện thoại khi chạy các tác vụ AI yêu cầu nhiều suy luận. Nó hoạt động bằng cách theo dõi sự đồng thuận giữa các giải pháp song song và tự động ngừng các quy trình không cần thiết hoặc trùng lặp, giúp giảm đáng kể lượng pin tiêu thụ và tăng tốc độ phản hồi của ứng dụng trên thiết bị di động.
  3. Giao diện 'Đồng thuận nhanh' cho chatbot và công cụ tìm kiếm thông minh trên điện thoại: Một cơ chế cho phép các ứng dụng chatbot hoặc tìm kiếm trên điện thoại nhanh chóng đưa ra câu trả lời đáng tin cậy. Bằng cách thăm dò định kỳ các 'ý kiến' từ nhiều đường dẫn suy luận đồng thời, hệ thống có thể nhận diện và chốt câu trả lời cuối cùng ngay khi có sự đồng thuận mạnh mẽ, trước khi tất cả các đường dẫn hoàn tất, mang lại trải nghiệm nhanh và mượt mà hơn cho người dùng trên điện thoại thông minh.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2602.03845
ArXiv Abstracthttps://arxiv.org/abs/2602.03845
PDF Downloadhttps://arxiv.org/pdf/2602.03845.pdf
Github Repositoryhttps://github.com/zhengkid/Parallel-Probe

13. Learning Query-Specific Rubrics from Human Preferences for DeepResearch Report Generation (24 votes)​

Tác giả: Changze Lv, Jie Zhou, Wentao Zhao, Jingwen Xu, Zisu Huang, Muzhao Tian, Shihan Dou, Tao Gui, Le Tian, Xiao Zhou, Xiaoqing Zheng, Xuanjing Huang, Jie Zhou

Xuất bản lúc: 2026-02-03

Tag: LLMs, Reinforcement Learning, Report Generation, Human Preferences, Evaluation Rubrics

I. Main Problem:​

Việc huấn luyện và đánh giá các báo cáo do DeepResearch tạo ra vẫn còn nhiều thách thức do thiếu tín hiệu phần thưởng có thể kiểm chứng. Các phương pháp đánh giá dựa trên thang điểm hiện có hoặc dựa vào các thang điểm định sẵn, thô sơ, thiếu độ chi tiết, hoặc phụ thuộc vào các thang điểm cụ thể cho từng truy vấn được xây dựng thủ công, gây tốn kém và khó mở rộng. Các thang điểm cụ thể cho từng truy vấn được tạo bởi LLM thường không dựa trên dữ liệu ưu tiên của con người, dẫn đến sự sai lệch với cách con người thực sự đánh giá báo cáo. Ngoài ra, các hệ thống DeepResearch gặp khó khăn với suy luận tầm xa (long-horizon reasoning) và các phụ thuộc ngữ cảnh trong luồng công việc ReAct.

II. Main Idea:​

Đề xuất một quy trình huấn luyện các bộ tạo thang điểm cụ thể cho từng truy vấn, được căn chỉnh theo sở thích của con người, dành riêng cho việc tạo báo cáo DeepResearch. Xây dựng một tập dữ liệu các truy vấn kiểu DeepResearch được chú thích bằng sở thích của con người đối với các báo cáo đã ghép cặp. Huấn luyện các bộ tạo thang điểm thông qua học tăng cường (GRPO) với phần thưởng lai kết hợp sự giám sát dựa trên sở thích của con người và đánh giá thang điểm dựa trên LLM. Phần thưởng lai bao gồm:

  • Phần thưởng nhất quán sở thích (Rpref) khuyến khích thang điểm phân biệt giữa báo cáo được ưa thích và báo cáo bị từ chối bởi con người.
  • Phần thưởng định dạng (Rfmt) đảm bảo tính hợp lệ về cấu trúc (ví dụ: định dạng JSON).
  • Phần thưởng chất lượng LLM-as-a-Judge (Rllm) đánh giá tính mạch lạc, toàn diện và mức độ liên quan của các tiêu chí thang điểm. Giới thiệu một quy trình công việc Multi-agent Markov-state (MaMs) để tạo báo cáo, nhằm xử lý tốt hơn suy luận tầm xa và các phụ thuộc ngữ cảnh. Quy trình MaMs phân tách quá trình nghiên cứu thành các tác nhân chuyên biệt (Search Agent, State Agent, Report Agent) tương tác thông qua một vòng lặp chuyển đổi trạng thái lặp đi lặp lại. Tất cả các tác nhân này được tạo ra từ cùng một mô hình LLM với các lời nhắc cụ thể theo vai trò.

III. Main Results:​

Các bộ tạo thang điểm được đề xuất cung cấp sự giám sát có tính phân biệt cao hơn và phù hợp hơn với con người so với các chiến lược thiết kế thang điểm hiện có. (Bảng 1 cho thấy các mô hình Qwen3-14B và Qwen3-30B-A3B được huấn luyện với phần thưởng lai (Hybrid Reward) đạt độ chính xác sở thích (Pref. Acc./AUC) lần lượt là 65.16% và 65.68%, cùng với Cohen’s d ghép cặp là 0.366 và 0.376, vượt trội đáng kể so với các phương pháp cơ sở như thang điểm tổng quát do con người định nghĩa chỉ đạt 48.78% và 0.192.) Khi được tích hợp vào khung huấn luyện MaMs, các hệ thống DeepResearch được trang bị bộ tạo thang điểm của chúng tôi liên tục vượt trội so với tất cả các hệ thống mã nguồn mở trên DeepResearch Bench và đạt hiệu suất tương đương với các mô hình độc quyền hàng đầu. (Bảng 2 cho thấy Tongyi-DeepResearch với quy trình MaMs và bộ tạo thang điểm được huấn luyện bằng RL đạt điểm tổng thể 49.3, vượt trội so với WebWeaver-Qwen3-30B-A3B (46.8) và DRTulu-Qwen3-8B-RL (43.4)). Quy trình công việc MaMs vượt trội hơn các đối tác kiểu ReAct dưới cùng chiến lược thang điểm. (Ví dụ, Tongyi-DeepResearch với MaMs và bộ tạo thang điểm được huấn luyện bằng RL đạt 49.3 điểm, trong khi ReAct với bộ tạo thang điểm được huấn luyện bằng RL đạt 45.2 điểm). GRPO được ưu tiên hơn GSPO để tạo thang điểm vì nó ưu tiên sự ổn định, tính nhất quán và sự phù hợp với sở thích hơn là sự đa dạng ngôn ngữ.

IV. Conclusion & Future Works:​

Kết luận: Công trình này giải quyết thách thức cốt lõi trong việc tạo báo cáo DeepResearch về việc thu thập giám sát có thể mở rộng, đáng tin cậy và phù hợp với con người mà không cần tín hiệu vàng rõ ràng. Thay vì dựa vào các thang điểm định sẵn hoặc chú thích thủ công, nhóm tác giả đã học cách tạo ra các thang điểm cụ thể theo truy vấn từ sở thích của con người. Kết hợp với đánh giá thang điểm dựa trên LLM theo GRPO, phương pháp này tạo ra các thang điểm có tính phân biệt và khả năng thích ứng cao, dẫn đến những cải tiến nhất quán trong việc tạo báo cáo. Kết quả nhấn mạnh việc học các tiêu chí đánh giá là một hướng đi đầy hứa hẹn để huấn luyện căn chỉnh sở thích trong các tác vụ phức tạp. Hướng phát triển trong tương lai: Các hạn chế và công việc trong tương lai được thảo luận trong Phụ lục J (không có trong văn bản đã trích xuất).

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu việc áp dụng các bộ tạo thang điểm theo sở thích của con người cho các tác vụ tạo nội dung phức tạp khác ngoài báo cáo nghiên cứu, chẳng hạn như viết sáng tạo, tạo mã hoặc thiết kế sản phẩm, để cải thiện chất lượng và sự phù hợp với người dùng.
  2. Phát triển các phương pháp tạo thang điểm thích ứng (adaptive rubric generation) có khả năng thay đổi và tinh chỉnh tiêu chí đánh giá dựa trên các bản nháp báo cáo đang phát triển hoặc phản hồi liên tục từ người dùng, cho phép giám sát động hơn.
  3. Khám phá việc tích hợp các mô hình ưu tiên nhị phân (pairwise preference models) trực tiếp vào quy trình học tăng cường để tối ưu hóa trực tiếp sự phân biệt giữa báo cáo được ưa thích và báo cáo bị từ chối, thay vì thông qua thang điểm trung gian.

2. Patent:​

  1. Ứng dụng Trợ lý Tạo Báo cáo Thông minh với Tiêu chí Đánh giá Cá nhân hóa trên điện thoại di động: Người dùng có thể sử dụng điện thoại để tạo các báo cáo nghiên cứu hoặc tài liệu chuyên sâu. Sau khi báo cáo được tạo, ứng dụng sẽ tự động tạo một bộ tiêu chí đánh giá (ví dụ: "Báo cáo có dễ đọc không?", "Thông tin có chính xác không?", "Có đầy đủ các phần mong muốn không?") dựa trên nội dung và mục đích của báo cáo. Người dùng có thể điều chỉnh mức độ quan trọng của từng tiêu chí. Lợi ích: Giúp người dùng trên điện thoại đánh giá khách quan chất lượng báo cáo do AI tạo ra theo các tiêu chuẩn cá nhân của họ, đồng thời nhận được gợi ý cụ thể để cải thiện, làm cho báo cáo phù hợp và hữu ích hơn với nhu cầu riêng.
  2. Hệ thống Phản hồi Báo cáo Học tập Tùy chỉnh qua AI trên thiết bị di động: Dành cho học sinh, sinh viên sử dụng ứng dụng di động để viết bài luận, bài nghiên cứu hoặc dự án học tập. Hệ thống sẽ tạo ra một bảng đánh giá (rubric) tự động dựa trên đề bài hoặc chủ đề của bài viết. Sau đó, AI sẽ đánh giá bản nháp của học sinh theo các tiêu chí này (ví dụ: "Tính đầy đủ của lập luận", "Tính mạch lạc của các phần", "Hiệu quả của việc sử dụng bằng chứng") và cung cấp điểm số cùng phản hồi chi tiết ngay lập tức trên điện thoại. Lợi ích: Cung cấp phản hồi chất lượng cao, nhất quán và cá nhân hóa, giúp người học cải thiện kỹ năng viết và tư duy phản biện một cách tiện lợi mọi lúc, mọi nơi thông qua điện thoại của mình.
  3. Công cụ Đánh giá Chất lượng Nội dung Động cho Nhà sáng tạo trên điện thoại di động: Một ứng dụng di động dành cho các nhà sáng tạo nội dung, blogger hoặc người quản lý mạng xã hội khi họ soạn thảo bài viết, kịch bản hoặc các nội dung dài trên điện thoại. Khi hoàn thành bản nháp, ứng dụng sẽ tự động tạo ra một danh sách kiểm tra chất lượng tùy chỉnh dựa trên chủ đề nội dung, đối tượng mục tiêu và phong cách cá nhân của nhà sáng tạo (ví dụ: "Nội dung có hấp dẫn người trẻ không?", "Có đủ chiều sâu thông tin không?", "Giọng văn có phù hợp với thương hiệu không?"). Ứng dụng sau đó sẽ chấm điểm nội dung theo các tiêu chí này. Lợi ích: Giúp các nhà sáng tạo nội dung trên điện thoại đảm bảo chất lượng và sự phù hợp của nội dung trước khi xuất bản, tối ưu hóa mức độ tương tác và duy trì sự nhất quán của thương hiệu một cách hiệu quả và linh hoạt.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2602.03619
ArXiv Abstracthttps://arxiv.org/abs/2602.03619
PDF Downloadhttps://arxiv.org/pdf/2602.03619.pdf
Github RepositoryN/A

14. RANKVIDEO: Reasoning Reranking for Text-to-Video Retrieval (19 votes)​

Tác giả: Tyler Skow, Alexander Martin, Benjamin Van Durme, Rama Chellappa, Reno Kriz

Xuất bản lúc: 2026-02-02

Tag: Text-to-Video Retrieval, Reranking, Reasoning, Multimodal, Vision-Language Models

I. Main Problem:​

I. Main Problem:​

Các hệ thống reranking hiện đại, mặc dù hiệu quả trong việc tinh chỉnh kết quả tìm kiếm, nhưng vẫn chưa được khai thác nhiều cho tìm kiếm video. Thách thức chính bao gồm: cần các biểu diễn đa phương thức mạnh mẽ, căn chỉnh chính xác giữa văn bản và nội dung nghe nhìn, và khả năng mở rộng cho các bộ sưu tập video lớn. Các mô hình suy luận dựa trên văn bản truyền thống bị hạn chế bởi việc dựa vào văn bản trích xuất (phụ đề, bản ghi âm), vốn thường bỏ sót thông tin hình ảnh/âm thanh quan trọng, không phải lúc nào cũng có sẵn và tốn kém khi tạo ra. Ngoài ra, việc thiếu dữ liệu huấn luyện phong phú cho tìm kiếm video trong thế giới thực cũng là một rào cản lớn.

II. Main Idea:​

II. Main Idea:​

Để giải quyết những vấn đề trên, nghiên cứu này giới thiệu RANKVIDEO, một mô hình reranker dựa trên suy luận, tập trung vào video. RANKVIDEO được thiết kế để suy luận rõ ràng trên các cặp truy vấn-video bằng cách sử dụng trực tiếp nội dung video (không dựa vào văn bản trích xuất) để đánh giá mức độ liên quan. Phương pháp này bao gồm:

  1. Pipeline tổng hợp dữ liệu: Phát triển một pipeline để tạo ra các cặp truy vấn-video đòi hỏi suy luận chuyên sâu, khắc phục tình trạng thiếu dữ liệu. Dữ liệu này được tạo ra bằng cách tận dụng các tính năng hình ảnh, âm thanh, văn bản trên màn hình (OCR) và siêu dữ liệu của video.
  2. Quy trình huấn luyện hai giai đoạn:
    • Giai đoạn 1: Perception-grounded Supervised Fine-tuning (SFT): Mô hình học cách tạo chú thích (caption) được căn cứ vào nội dung video, giúp nó trích xuất bằng chứng một cách đáng tin cậy từ video thô (đối tượng, hành động, ngữ cảnh sự kiện).
    • Giai đoạn 2: Ranking Finetuning: Mô hình đã được huấn luyện ở Giai đoạn 1 tiếp tục được fine-tune như một reranker. Giai đoạn này sử dụng objective kết hợp gồm: phân loại pointwise, xếp hạng pairwise và chưng cất độ tin cậy từ mô hình giáo viên (teacher confidence distillation). Kỹ thuật hard negative mining cũng được áp dụng để chọn lọc các mẫu âm tính khó, tập trung vào các lỗi reranking phổ biến.

RANKVIDEO tính toán một điểm liên quan vô hướng từ logit của mô hình tại điểm quyết định 'yes/no', cho phép xếp hạng nhanh chóng mà không cần giải mã các dấu vết suy luận dài.

III. Main Results:​

III. Main Results:​

  • Hiệu suất reranking vượt trội: RANKVIDEO liên tục cải thiện hiệu suất truy xuất trong framework hai giai đoạn, đạt mức cải thiện trung bình 31% về nDCG@10 trên benchmark MULTIVENT 2.0. Nó vượt trội hơn so với các phương pháp reranking chỉ dựa trên văn bản và Vision-Language khác (ví dụ: REASONRANK, QWEN3-VL-8B-INSTRUCT, QWEN3-VL-8B-THINKING, QWEN3-VL-RERANKER-8B).
  • Hiệu quả và tốc độ: RANKVIDEO nhanh hơn đáng kể so với các baseline reranking dựa trên suy luận hiện có, đồng thời vẫn duy trì hiệu suất cao. Mô hình cũng tự động phân bổ nỗ lực suy luận, chỉ thực hiện suy luận sâu hơn khi cần thiết, giúp cải thiện hiệu quả mà không làm giảm hiệu suất.
  • Ổn định trên nhiều retriever giai đoạn đầu: RANKVIDEO cho thấy sự ổn định và hiệu quả khi được áp dụng trên nhiều hệ thống truy xuất giai đoạn đầu khác nhau (OMNIEMBED, MMMORRF, CLIP, LANGUAGEBIND, VIDEO-COLBERT), mang lại lợi ích đáng kể cho cả các retriever mạnh và yếu.
  • Cải thiện chất lượng trong RAG: Trong ngữ cảnh Retrieval-Augmented Generation (RAG) trên tập dữ liệu WIKIVIDEO, RANKVIDEO đã cải thiện đáng kể độ bao phủ yêu cầu của 10 video hàng đầu được cung cấp cho hệ thống tạo văn bản, dẫn đến tăng đáng kể tính xác thực của bài viết được tạo.

IV. Conclusion & Future Works:​

IV. Conclusion & Future Works:​

Kết luận: RANKVIDEO là một cách tiếp cận mới và hiệu quả cho reranking dựa trên suy luận, tập trung vào video. Với quy trình huấn luyện hai giai đoạn độc đáo và khả năng suy luận trực tiếp trên nội dung nghe nhìn, RANKVIDEO không chỉ nâng cao đáng kể hiệu suất truy xuất video mà còn đạt được hiệu quả vượt trội so với các phương pháp hiện có.

Công việc tương lai:

  • Nghiên cứu các objective huấn luyện mới, chẳng hạn như reranking list-wise hoặc grouped reranking, để đạt được hiệu suất tốt hơn so với các phương pháp pointwise hiện tại.
  • Khám phá thêm các tối ưu hóa cho cơ chế Dynamic Reasoning của mô hình để cải thiện khả năng phân bổ nỗ lực suy luận.
  • Nghiên cứu sâu hơn về sự khác biệt giữa độ chính xác của mô hình và hiệu suất truy xuất thực tế, cũng như cách cải thiện hiệu suất cho các loại video đòi hỏi suy luận chuyên sâu hoặc có tính mơ hồ cao.
  • Áp dụng reranking và các objective đã sửa đổi vào pipeline Retrieval-Augmented Generation (RAG) để cung cấp kết quả tối ưu hơn cho các mô hình tạo bài viết.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu phát triển các objective huấn luyện reranking mới, đặc biệt là list-wise hoặc grouped reranking, để tối ưu hóa hiệu suất truy xuất video, đồng thời giải quyết các thách thức về chi phí tính toán cho multi-video inference.
  2. Khám phá các phương pháp tối ưu hóa hơn nữa cho Dynamic Reasoning và cơ chế tự động phân bổ nỗ lực suy luận dựa trên độ khó của cặp truy vấn-video, nhằm cải thiện cả hiệu quả và độ chính xác của mô hình.
  3. Nghiên cứu về việc áp dụng reranking video và các objective tối ưu hóa trong hệ thống Retrieval-Augmented Generation (RAG) để nâng cao chất lượng và tính xác thực của nội dung được tạo ra, đặc biệt trong các kịch bản đòi hỏi thông tin đa phương thức.

2. Patent:​

  1. Hệ thống sắp xếp thông minh cho tìm kiếm video trên điện thoại: Một ứng dụng trên điện thoại di động giúp người dùng tìm kiếm video hiệu quả hơn. Thay vì chỉ sắp xếp video theo từ khóa, hệ thống này sẽ phân tích sâu nội dung hình ảnh, âm thanh trong video và mức độ liên quan thực sự với câu hỏi của người dùng. Ví dụ, khi bạn tìm kiếm "cách sửa xe đạp", hệ thống sẽ ưu tiên hiển thị các video hướng dẫn trực quan, chi tiết thay vì video quảng cáo hoặc không liên quan, giúp bạn nhanh chóng tìm thấy thông tin cần thiết.
  2. Công nghệ cá nhân hóa nội dung video trên thiết bị di động: Ứng dụng này cho phép các nền tảng mạng xã hội hoặc xem phim trên điện thoại của bạn đề xuất video phù hợp hơn. Nó sẽ sử dụng trí tuệ nhân tạo để "hiểu" từng cảnh quay trong video, nhận diện các đối tượng, hành động và âm thanh. Dựa trên lịch sử và sở thích của bạn, nó sẽ ưu tiên hiển thị những video có nội dung cốt lõi liên quan trực tiếp đến bạn, giúp bạn luôn khám phá được những video mới hấp dẫn mà không cần phải tìm kiếm nhiều.
  3. Tính năng tạo điểm nhấn video tự động dựa trên truy vấn giọng nói/văn bản trên điện thoại: Một tính năng trong ứng dụng chỉnh sửa video trên điện thoại, giúp người dùng dễ dàng tạo các đoạn video nổi bật. Bạn chỉ cần nói hoặc gõ câu hỏi như "tìm những cảnh đẹp nhất trong chuyến đi của tôi" hoặc "tất cả các khoảnh khắc vui vẻ của gia đình". Công nghệ sẽ tự động phân tích video của bạn, xác định các cảnh quay phù hợp nhất với mô tả và gợi ý chúng, giúp bạn tạo ra những thước phim đáng nhớ một cách nhanh chóng và dễ dàng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2602.02444
ArXiv Abstracthttps://arxiv.org/abs/2602.02444
PDF Downloadhttps://arxiv.org/pdf/2602.02444.pdf
Github Repositoryhttps://github.com/tskow99/RANKVIDEO-Reasoning-Reranker

15. Unified Personalized Reward Model for Vision Generation (19 votes)​

Tác giả: Yibin Wang, Yuhang Zang, Feng Han, Jiazi Bu, Yujie Zhou, Cheng Jin, Jiaqi Wang

Xuất bản lúc: 2026-02-02

Tag: Reward Model, Vision Generation, Personalized Reward, VLMs, Reinforcement Learning

I. Main Problem:​

Các mô hình phần thưởng đa phương thức (RMs) hiện tại thường theo mô hình "một kích thước phù hợp cho tất cả" (one-size-fits-all), giả định phân phối ưu tiên đơn nhất hoặc dựa vào các tiêu chí đánh giá cố định. Điều này khiến chúng không nhạy cảm với các tín hiệu hình ảnh cụ thể theo nội dung và ý định của câu lệnh, dẫn đến sự sai lệch đáng kể với các sở thích chủ quan và phụ thuộc vào ngữ cảnh của con người.

II. Main Idea:​

Đề xuất UnifiedReward-Flex, một mô hình phần thưởng cá nhân hóa thống nhất cho việc tạo hình ảnh/video, kết hợp mô hình phần thưởng với lý luận linh hoạt và thích ứng theo ngữ cảnh. Mô hình này diễn giải ý định ngữ nghĩa và dựa trên bằng chứng hình ảnh để động học xây dựng một đánh giá phân cấp bằng cách tạo ra các tiêu chí chi tiết dưới các chiều cấp cao được xác định trước và tự tạo.

Quy trình huấn luyện gồm hai giai đoạn:

  1. Chưng cất lý luận cho SFT: Chưng cất các dấu vết lý luận có cấu trúc, chất lượng cao từ các VLM nguồn đóng tiên tiến để khởi động fine-tuning có giám sát (SFT), trang bị cho mô hình khả năng lý luận linh hoạt và thích ứng ngữ cảnh.
  2. Căn chỉnh ưu tiên nhận biết lý luận qua DPO: Thực hiện tối ưu hóa ưu tiên trực tiếp (DPO) trên các cặp ưu tiên được tuyển chọn cẩn thận để tăng cường độ tin cậy của lý luận và sự căn chỉnh phân biệt, không chỉ căn chỉnh quyết định cuối cùng mà còn chất lượng của quỹ đạo lý luận thích ứng.

UnifiedReward-Flex được tích hợp vào khung Group Relative Policy Optimization (GRPO) cho tổng hợp hình ảnh và video, sử dụng phần thưởng ưu tiên đa chiều cá nhân hóa.

III. Main Results:​

UnifiedReward-Flex:

  • Liên tục cung cấp các tín hiệu phần thưởng mạnh mẽ hơn, nhận biết ngữ cảnh tốt hơn so với các phương pháp cơ sở hiện có.
  • Đạt được những cải tiến đáng kể trong cả tổng hợp hình ảnh và video khi được tích hợp vào khung GRPO.

Về định lượng:

  • Vượt trội hơn các mô hình phần thưởng mạnh trên tất cả các tiêu chuẩn đánh giá (Bảng 1). Cụ thể, cải thiện hơn UnifiedReward-Think tới +3.2 điểm trên MMRB2 (cho hình ảnh) và +2.2 điểm trên GenAI-Bench-Video (cho video).
  • Đạt kết quả tốt nhất trong đánh giá chất lượng hình ảnh và video trên nhiều tiêu chuẩn như GenAI-Bench, MMRB2, MJBench.
  • Tính nhất quán ngữ nghĩa cao nhất trên UniGenBench (73.95) và tốt hơn trong các đánh giá ngoài miền (ví dụ: T2I-CompBench: 51.37, GenEval: 69.62).
  • Đạt điểm cao nhất trên các chỉ số chất lượng hình ảnh như CLIP (36.25), PickScore (23.42), UnifiedReward (3.31), Aesthetic (6.56).

Về định tính:

  • Các hình minh họa (Hình 1 và 2) cho thấy khả năng đánh giá phân cấp, thích ứng ngữ cảnh. Ví dụ, trong Hình 1, mô hình bổ sung chiều đánh giá "Narrative & Interaction" cho câu lệnh có hàm ý câu chuyện, đảm bảo đánh giá không chỉ dựa vào chất lượng hiển thị bề mặt mà còn phản ánh đúng ý định quan trọng của câu lệnh.

IV. Conclusion & Future Works:​

Nghiên cứu đã chỉ ra hạn chế của các mô hình phần thưởng đa phương thức hiện tại là phương pháp đánh giá "một kích thước phù hợp cho tất cả". Để giải quyết, UnifiedReward-Flex được đề xuất, sử dụng lý luận linh hoạt và thích ứng ngữ cảnh để động học xây dựng hệ thống tiêu chí đánh giá. Mô hình này liên tục vượt trội hơn các phương pháp cơ sở, cung cấp tín hiệu phần thưởng mạnh mẽ và nhận biết ngữ cảnh. Khả năng ứng dụng thực tiễn của nó được xác nhận thông qua việc cải thiện đáng kể chất lượng tổng hợp hình ảnh và video khi tích hợp vào khung GRPO.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu mở rộng UnifiedReward-Flex sang các phương thức tạo sinh khác như tạo sinh 3D hoặc audio, nơi ngữ cảnh và tiêu chí đánh giá cũng rất đa dạng, đòi hỏi khả năng thích ứng linh hoạt.
  2. Phát triển các cơ chế lý luận nâng cao hơn cho mô hình phần thưởng, ví dụ như lý luận nhân quả (causal reasoning) hoặc lý luận phản thực tế (counterfactual reasoning), để cung cấp phản hồi phần thưởng sâu sắc hơn và giải thích được.
  3. Khám phá cách xây dựng mô hình phần thưởng cá nhân hóa mà không chỉ thích ứng với ngữ cảnh mà còn học hỏi và thay đổi theo sở thích cá nhân của từng người dùng cụ thể theo thời gian thông qua tương tác liên tục.

2. Patent:​

  1. Ứng dụng Tạo ảnh/video thông minh trên điện thoại: Một ứng dụng di động cho phép người dùng tạo ra hình ảnh hoặc video từ mô tả văn bản. Ứng dụng này sử dụng một "trọng tài AI cá nhân hóa" để đánh giá và tinh chỉnh nội dung được tạo ra. Thay vì dùng các tiêu chí đánh giá cố định, AI sẽ linh hoạt thay đổi các tiêu chí này dựa trên ý định cụ thể của người dùng và ngữ cảnh của bức ảnh/video, ví dụ, nếu người dùng muốn ảnh "phong cảnh buồn", AI sẽ ưu tiên các yếu tố cảm xúc hơn là độ sắc nét thông thường, giúp kết quả luôn phù hợp và làm hài lòng người dùng.
  2. Hệ thống Phản hồi hình ảnh/video cá nhân hóa cho mạng xã hội: Một tính năng tích hợp trong ứng dụng mạng xã hội hoặc chỉnh sửa ảnh/video trên điện thoại, cung cấp phản hồi thông minh để người dùng cải thiện bài đăng của mình. Khi người dùng tải lên một hình ảnh hoặc video, hệ thống AI sẽ phân tích nội dung và mục đích của bài đăng (ví dụ: chia sẻ khoảnh khắc cá nhân, quảng cáo sản phẩm). Dựa trên đó, nó sẽ tự động tạo ra các tiêu chí đánh giá (ví dụ: tính thẩm mỹ, sự rõ ràng của thông điệp, mức độ tương tác dự kiến) và đề xuất các chỉnh sửa cụ thể để tối ưu hóa nội dung cho ngữ cảnh xã hội đó.
  3. Công cụ Tối ưu hóa nội dung đa phương tiện cho thiết bị di động: Một công cụ tích hợp sẵn hoặc ứng dụng trên điện thoại giúp tối ưu hóa hình ảnh và video cho các mục đích cụ thể như thuyết trình, báo cáo, hoặc bài đăng blog. Người dùng chỉ cần nhập yêu cầu hoặc mục đích, công cụ sẽ tự động đánh giá và tinh chỉnh các yếu tố như bố cục, màu sắc, thông điệp trực quan dựa trên một tập hợp các tiêu chí linh hoạt được AI tạo ra. Ví dụ, nếu là ảnh cho báo cáo kinh doanh, AI sẽ ưu tiên sự rõ ràng, chuyên nghiệp; nếu là video quảng cáo, AI sẽ tập trung vào sự hấp dẫn và khả năng thu hút.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2602.02380
ArXiv Abstracthttps://arxiv.org/abs/2602.02380
PDF Downloadhttps://arxiv.org/pdf/2602.02380.pdf
Github Repositoryhttps://github.com/CodeGoat24/UnifiedReward

16. Neural Predictor-Corrector: Solving Homotopy Problems with Reinforcement Learning (15 votes)​

Tác giả: Jiayao Mai, Bangyan Liao, Zhenjun Zhao, Yingping Zeng, Haoang Li, Javier Civera, Tailin Wu, Yi Zhou, Peidong Liu

Xuất bản lúc: 2026-02-03

Tag: Reinforcement Learning, Optimization, Homotopy methods, Neural Networks

I. Main Problem:​

Các phương pháp giải quyết vấn đề bằng nguyên lý Homotopy (như tối ưu hóa mạnh mẽ, tối ưu hóa toàn cục, tìm nghiệm đa thức, lấy mẫu) thường sử dụng cấu trúc Predictor-Corrector (PC) nhưng lại dựa vào các phương pháp heuristic thủ công (hand-crafted heuristics) để điều chỉnh kích thước bước (step size) và quy tắc dừng lặp (iteration termination). Những heuristic này thường là dưới tối ưu, cụ thể cho từng tác vụ và không thể tổng quát hóa. Hơn nữa, các phương pháp này được phát triển độc lập trong từng lĩnh vực mà không có một khung thống nhất nào.

II. Main Idea:​

Các tác giả đề xuất Neural Predictor-Corrector (NPC), một khung làm việc dựa trên Học Tăng Cường (Reinforcement Learning - RL) để thay thế các heuristic thủ công bằng các chính sách (policies) được học tự động. NPC thống nhất các vấn đề Homotopy đa dạng dưới một khung duy nhất, nhận ra cấu trúc PC chung của chúng. Nó coi việc lựa chọn chiến lược cho predictor và corrector là một vấn đề ra quyết định tuần tự (sequential decision-making problem).

NPC sử dụng cơ chế huấn luyện amortized training, cho phép huấn luyện offline một lần trên một phân phối các trường hợp vấn đề và suy luận hiệu quả trực tuyến trên các trường hợp mới mà không cần tinh chỉnh. Mô hình NPC quan sát trạng thái (mức độ Homotopy hiện tại, thống kê corrector, vận tốc hội tụ) và đưa ra hành động (kích thước bước của predictor, ngưỡng dừng của corrector) để cân bằng độ chính xác và hiệu quả. Bởi vì quy trình PC không khả vi, RL là phù hợp để đánh giá các quyết định tuần tự dựa trên kết quả tích lũy.

III. Main Results:​

NPC đã được đánh giá trên bốn vấn đề Homotopy đại diện: tối ưu hóa mạnh mẽ (Graduated Non-Convexity - GNC), tối ưu hóa toàn cục (Gaussian Homotopy - GH), tìm nghiệm đa thức (Homotopy Continuation - HC) và lấy mẫu (Annealed Langevin Dynamics - ALD).

Các kết quả chính bao gồm:

  • Khả năng tổng quát hóa: NPC tổng quát hóa hiệu quả cho các trường hợp chưa từng thấy.
  • Hiệu quả: Vượt trội hơn các phương pháp cổ điển và chuyên biệt về hiệu quả tính toán, giảm đáng kể số lần lặp và thời gian chạy.
    • Đối với GNC, giảm số lần lặp khoảng 70-80% và thời gian chạy 80-90% mà không ảnh hưởng đến độ chính xác.
    • Đối với GH, đạt được sự giảm đáng kể về số lần lặp và thời gian chạy trong khi duy trì chất lượng giải pháp tương đương.
    • Đối với HC, theo dõi thành công tất cả các giải pháp mục tiêu, giảm số lần lặp và thời gian chạy.
    • Đối với ALD, yêu cầu ít lần lặp hơn đáng kể trong khi đạt được các giá trị Wasserstein-2 distance (W2) và Kernelized Stein Discrepancy (KSD) tương đương.
  • Ổn định: Thể hiện sự ổn định vượt trội trên các tác vụ.
  • Phân tích thành phần trạng thái: Nghiên cứu phân tích cho thấy mỗi thành phần trạng thái RL (mức độ Homotopy, dung sai corrector, số lần lặp corrector, vận tốc hội tụ) đều cung cấp thông tin thiết yếu, với thống kê corrector là phần thông tin nhất.

IV. Conclusion & Future Works:​

Bài báo giới thiệu Neural Predictor-Corrector (NPC), một khung học tăng cường (RL) cho các bộ giải Homotopy. Bằng cách hợp nhất các vấn đề đa dạng dưới nguyên lý Homotopy, NPC đã chứng minh rằng các bộ giải của chúng đều tuân theo cấu trúc PC. NPC thay thế các heuristic thủ công bằng các chính sách học được thích ứng, sử dụng chế độ huấn luyện amortized để triển khai hiệu quả trên các trường hợp mới. Các phát hiện này định vị việc tìm kiếm chính sách dựa trên học máy là một giải pháp thay thế thực tế, tổng quát và hiệu quả cho các chiến lược heuristic truyền thống.

Trong tương lai, mô hình này mở ra những con đường đầy hứa hẹn để mở rộng các phương pháp Homotopy sang các lớp vấn đề tối ưu hóa và lấy mẫu rộng hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng khung NPC để giải quyết các lớp bài toán tối ưu hóa và lấy mẫu rộng hơn, đặc biệt là các vấn đề với hàm mục tiêu phi lồi (non-convex objective functions) phức tạp hoặc phân phối xác suất đa phương thức (multi-modal probability distributions).
  2. Nghiên cứu các kiến trúc mạng thần kinh (neural network architectures) và thuật toán học tăng cường tiên tiến hơn để cải thiện hơn nữa khả năng khái quát hóa và hiệu quả của NPC, ví dụ như sử dụng các mô hình Transformer cho việc xử lý trạng thái tuần tự.
  3. Ứng dụng phương pháp thống nhất Homotopy và NPC vào các lĩnh vực khoa học và kỹ thuật khác nhau, chẳng hạn như thiết kế vật liệu, khám phá thuốc hoặc mô phỏng vật lý, nơi các phương pháp heuristic hiện tại còn hạn chế.

2. Patent:​

  1. Hệ thống tối ưu hóa ảnh và video tự động trên điện thoại: Một ứng dụng trên điện thoại thông minh sử dụng trí tuệ nhân tạo để tự động điều chỉnh các cài đặt xử lý ảnh (như độ sáng, độ tương phản, giảm nhiễu) hoặc các thông số nén video. Thay vì người dùng phải chỉnh thủ công, hệ thống sẽ 'học' cách điều chỉnh thông số một cách thông minh từng bước, dựa trên bối cảnh và nội dung ảnh/video, để đạt được chất lượng tốt nhất với kích thước tệp tối ưu. Nó hoạt động như một chuyên gia chỉnh sửa ảnh/video tự động, giúp ảnh/video đẹp hơn và tiết kiệm dung lượng mà không cần người dùng can thiệp.
  2. Hệ thống định vị và nhận diện vật thể thông minh cho ứng dụng thực tế tăng cường (AR) trên điện thoại: Phát triển một công nghệ trên điện thoại để cải thiện độ chính xác và tốc độ nhận diện, theo dõi các vật thể trong môi trường thực khi sử dụng các ứng dụng AR (ví dụ: trò chơi AR, hướng dẫn AR). Hệ thống sẽ liên tục 'dự đoán' vị trí tiếp theo của vật thể hoặc người dùng và nhanh chóng 'hiệu chỉnh' để giữ cho hình ảnh ảo luôn khớp chính xác với thế giới thực, ngay cả khi điện thoại di chuyển nhanh, mang lại trải nghiệm AR mượt mà và chân thực hơn.
  3. Công cụ tạo mẫu dữ liệu cá nhân hóa hiệu quả trên điện thoại: Một tính năng hoặc ứng dụng trên điện thoại cho phép tạo ra các mẫu dữ liệu mới (ví dụ: khuôn mặt biểu cảm khác nhau cho avatar, phong cách vẽ tranh cá nhân, giọng nói tổng hợp) từ một lượng nhỏ dữ liệu của chính người dùng. Hệ thống sẽ 'học' một cách thông minh để tạo ra các biến thể dữ liệu chất lượng cao và đa dạng, giúp cá nhân hóa các ứng dụng khác trên điện thoại mà không cần gửi dữ liệu nhạy cảm của người dùng lên mạng internet để xử lý.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2602.03086
ArXiv Abstracthttps://arxiv.org/abs/2602.03086
PDF Downloadhttps://arxiv.org/pdf/2602.03086.pdf
Github RepositoryN/A

17. WideSeek: Advancing Wide Research via Multi-Agent Scaling (13 votes)​

Tác giả: Ziyang Huang, Haolin Ren, Xiaowei Yuan, Jiawei Wang, Zhongtao Jiang, Kun Xu, Shizhu He, Jun Zhao, Kang Liu

Xuất bản lúc: 2026-02-02

Tag: Multi-Agent Systems, Reinforcement Learning (RL), Large Language Models (LLMs), Search Intelligence, Benchmarks, Information Retrieval

I. Main Problem:​

Sự tiến bộ của nghiên cứu tìm kiếm thông tin diện rộng (Wide Research) bị cản trở bởi việc thiếu các bộ benchmark chuyên dụng và các phương pháp tối ưu hóa cho phạm vi tìm kiếm. Cụ thể, các thách thức bao gồm:

  1. Hạn chế của các bộ benchmark hiện có: Chúng thường được xây dựng thủ công, thiếu quy mô, sự đa dạng, độ sâu phân loại và dữ liệu huấn luyện cần thiết.
  2. Thiếu sót trong tổng hợp dữ liệu: Các phương pháp hiện tại chủ yếu tập trung vào tối ưu hóa độ sâu tìm kiếm (Deep Research) thông qua việc mô phỏng các đường dẫn lý luận phức tạp, nhưng lại thiếu khả năng tổng hợp hiệu quả một lượng lớn thông tin nguyên tử dưới các ràng buộc phức tạp, vốn rất quan trọng cho tìm kiếm rộng.
  3. Khoảng trống trong tối ưu hóa: Các tiếp cận trước đây thường dựa vào các mô hình độc quyền hoặc các khuôn khổ đa tác nhân tĩnh, hoặc chỉ tập trung vào việc tăng cường độ sâu lý luận của một tác nhân duy nhất. Có một sự thiếu sót đáng kể trong việc khám phá tối ưu hóa end-to-end cho các hệ thống có khả năng tự động mở rộng phạm vi tìm kiếm của mình.

II. Main Idea:​

Để giải quyết các thách thức trên, bài báo đã đi sâu vào Wide Research từ hai khía cạnh chính: Đường ống dữ liệu (Data Pipeline) và Tối ưu hóa tác nhân (Agent Optimization).

  1. Đường ống dữ liệu & Benchmark (WideSeekBench): Phát triển WideSeekBench, một bộ benchmark Tổng hợp Thông tin Rộng Toàn diện (General Broad Information Seeking - GBIS). Bộ benchmark này được xây dựng thông qua một đường ống dữ liệu nhiều pha nghiêm ngặt, sử dụng các Đồ thị Tri thức (Knowledge Graphs - KGs) quy mô lớn để đảm bảo sự đa dạng về khối lượng thông tin mục tiêu, các ràng buộc logic và các miền khác nhau. Nó cung cấp cả tập dữ liệu huấn luyện và kiểm tra, kèm theo các tiêu chí đánh giá chi tiết theo từng cột.
  2. Tối ưu hóa tác nhân (WideSeek): Giới thiệu WideSeek, một kiến trúc đa tác nhân phân cấp, động, có khả năng tự động phân nhánh các tác nhân con song song dựa trên yêu cầu của nhiệm vụ. Kiến trúc này cho phép tác nhân chính (Planner) tự chủ hoàn toàn trong việc khởi tạo số lượng tác nhân con (Executors) bất kỳ lúc nào. Hơn nữa, nhóm tác giả thiết kế một khung huấn luyện thống nhất, làm phẳng các quỹ đạo của nhiều tác nhân thành một quỹ đạo duy nhất và tối ưu hóa toàn bộ hệ thống bằng học tăng cường (Reinforcement Learning - RL) end-to-end thông qua Group Relative Policy Optimization (GRPO). Hàm phần thưởng được thiết kế để cân bằng giữa độ chính xác truy xuất thông tin (Item-F1) và hình phạt cho lỗi định dạng.

III. Main Results:​

Các kết quả thử nghiệm chính chứng minh hiệu quả của WideSeek và RL đa tác nhân:

  1. Khoảng cách khả năng mở rộng: Các mô hình độc quyền hiện đại như GPT-5.2 chỉ đạt được Item-F1 Mean@4 là 21.03% trên WideSeekBench, cho thấy độ khó cao của việc tìm kiếm thông tin ở quy mô lớn. Các mô hình này có thể tạo ra nhiều tác nhân con và gọi công cụ nhưng thiếu sự phối hợp hiệu quả.
  2. Hiệu quả của tối ưu hóa WideSeek:
    • Supervised Fine-Tuning (SFT) với các quỹ đạo chất lượng cao giúp WideSeek-8B-SFT tăng 12.84 lần số lần gọi công cụ và 3.15 lần số lượng tác nhân con so với mô hình cơ sở Qwen3-8B.
    • Tối ưu hóa end-to-end bằng RL (WideSeek-8B-SFT-RL) mang lại hiệu suất cao nhất, đạt Item F1 12.87% (tăng 5.50% so với mô hình cơ sở) và Max Row F1 3.88%. Hệ thống này tăng cường số lần gọi công cụ lên 28.82 lần và số lượng tác nhân con lên 6.36 lần. Huấn luyện RL từ đầu (WideSeek-8B-RL) cũng cho thấy khả năng tự động mở rộng việc sử dụng công cụ tỷ lệ thuận với khối lượng thông tin.
  3. Khả năng tổng quát hóa sang Deep Research: Kiến trúc WideSeek mang lại lợi thế cấu trúc ngay cả khi không có huấn luyện, giúp Qwen3-8B với WideSeek đạt 14.22% độ chính xác trên BrowseComp-Plus, vượt trội so với Qwen3-32B sử dụng ReAct (10.72%). Huấn luyện trên WideSeekBench giúp WideSeek-8B-RL đạt 26.42% độ chính xác (+12.20% so với mô hình cơ sở), cho thấy khả năng tổng quát hóa mạnh mẽ.
  4. Phân tích sâu: RL đa tác nhân cải thiện hiệu suất nhất quán trên các khối lượng thông tin, loại ràng buộc và miền khác nhau. Mô hình hoạt động tốt hơn với ràng buộc 'OR' và kém hơn với 'NOT', cho thấy các phép toán 'set difference' là một nút thắt cổ chai về lý luận. Các mô hình cũng thể hiện sự nhạy cảm theo miền.

IV. Conclusion & Future Works:​

Bài báo kết luận rằng sự chuyển đổi từ Deep Research sang Wide Research đòi hỏi một sự thay đổi cơ bản trong thiết kế tác nhân, chuyển từ điều phối tuần tự sang điều phối song song, năng động. WideSeek đã chứng minh khả năng tận dụng việc mở rộng quy mô tác nhân một cách hiệu quả để giải quyết các nhiệm vụ truy xuất song song, phức tạp, qua đó thúc đẩy đáng kể khả năng của Wide Research.

Mặc dù không có phần 'Tác phẩm trong tương lai' rõ ràng, dựa trên các phân tích và giới hạn của nghiên cứu, các hướng phát triển tiếp theo có thể bao gồm:

  1. Nghiên cứu sâu hơn về cách giải quyết hiệu quả các ràng buộc phủ định ('NOT' constraints), vốn được xác định là một nút thắt cổ chai trong lý luận.
  2. Khám phá các phương pháp để cải thiện hiệu suất khi tìm kiếm thông tin ở quy mô cực lớn, đặc biệt là khắc phục hành vi "dừng sớm" quan sát được trong một số mô hình được tinh chỉnh bằng SFT.
  3. Mở rộng việc áp dụng WideSeek lên các mô hình ngôn ngữ lớn hơn để đánh giá và giải quyết các nút thắt cổ chai về lý luận không liên quan đến truy xuất thông tin, nhằm đạt được hiệu suất cao hơn nữa trong các kịch bản phức tạp.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu về các chiến lược tối ưu hóa tác nhân để giải quyết các ràng buộc phủ định ('NOT' constraints) trong tìm kiếm thông tin rộng, đặc biệt là khi kết hợp với các toán tử logic khác, để cải thiện độ chính xác và khả năng lý luận.
  2. Khám phá cách thức thiết kế kiến trúc tác nhân lai (hybrid agent architectures) kết hợp giữa các mô hình ngôn ngữ lớn hơn (ví dụ: mô hình 70B+) và các chiến lược chia tỷ lệ tác nhân động để giải quyết các nhiệm vụ tìm kiếm thông tin rộng ở quy mô cực lớn, vượt qua giới hạn của các mô hình 8B hiện tại.
  3. Phát triển phương pháp điều chỉnh phần thưởng (reward shaping) và kỹ thuật huấn luyện tăng cường (RL) mới để khuyến khích các tác nhân tìm kiếm thông tin rộng duy trì hành vi tìm kiếm tích cực và tránh "dừng sớm" ngay cả trong các kịch bản có khối lượng thông tin mục tiêu cực lớn, không bị ảnh hưởng bởi thiên vị từ các mô hình giáo viên ban đầu.

2. Patent:​

  1. Hệ thống tổng hợp thông tin mua sắm thông minh: Một ứng dụng di động cho phép người dùng nhập các tiêu chí mua sắm phức tạp (ví dụ: "Tìm tất cả điện thoại có camera trên 48MP VÀ pin trên 4000mAh NHƯNG KHÔNG phải của hãng X, hiển thị theo giá từ thấp đến cao kèm theo đánh giá trung bình"). Ứng dụng sẽ sử dụng các tác nhân tìm kiếm động để thu thập và tổng hợp thông tin từ nhiều nguồn trực tuyến (cửa hàng, trang đánh giá) thành một bảng so sánh dễ hiểu, giúp người dùng đưa ra quyết định mua hàng nhanh chóng và chính xác.
  2. Trợ lý lập kế hoạch du lịch cá nhân hóa: Ứng dụng điện thoại cho phép người dùng đưa ra các yêu cầu du lịch rộng và phức tạp ("Tìm tất cả các thành phố ở Châu Âu có các điểm tham quan lịch sử VÀ bãi biển đẹp NHƯNG KHÔNG có yêu cầu visa phức tạp cho công dân của tôi, liệt kê các khách sạn 4 sao trở lên và nhà hàng địa phương nổi tiếng"). Hệ thống tác nhân sẽ tự động phân tách yêu cầu, tìm kiếm song song các thông tin về địa điểm, quy định visa, chỗ ở, và ẩm thực từ các trang web du lịch, sau đó tổng hợp thành một lịch trình du lịch chi tiết và tùy chỉnh, tiết kiệm thời gian nghiên cứu.
  3. Công cụ so sánh dịch vụ tài chính đa năng: Một ứng dụng di động giúp người dùng so sánh các dịch vụ tài chính phức tạp như bảo hiểm, khoản vay, hoặc thẻ tín dụng. Người dùng có thể nhập các điều kiện ràng buộc cụ thể ("Tìm tất cả các gói bảo hiểm y tế có mức phí dưới X ĐỒNG VÀ bao gồm khám thai NHƯNG KHÔNG yêu cầu đợi 1 năm trước khi sử dụng"), và hệ thống tác nhân sẽ truy vấn nhiều cơ sở dữ liệu của các công ty bảo hiểm/ngân hàng, lọc ra các lựa chọn phù hợp nhất và trình bày dưới dạng bảng so sánh các điều khoản, lợi ích và chi phí một cách rõ ràng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2602.02636
ArXiv Abstracthttps://arxiv.org/abs/2602.02636
PDF Downloadhttps://arxiv.org/pdf/2602.02636.pdf
Github Repositoryhttps://github.com/hzy312/WideSeek

18. Balancing Understanding and Generation in Discrete Diffusion Models (13 votes)​

Tác giả: Yue Liu, Yuzhong Zhao, Zheyong Xie, Qixiang Ye, Jianbin Jiao, Yao Hu, Shaosheng Cao, Yunfan Liu

Xuất bản lúc: 2026-02-01

Tag: Diffusion Models, LLMs, Generative Models, Language Modeling, Image Generation, Discrete Diffusion

I. Main Problem:​

Trong mô hình hóa sinh thành rời rạc, hai mô hình chiếm ưu thế là Masked Diffusion Language Models (MDLM) và Uniform-noise Diffusion Language Models (UDLM) thể hiện khả năng khác biệt. MDLM xuất sắc trong việc hiểu ngữ nghĩa và khái quát hóa zero-shot nhưng gặp khó khăn trong việc sinh thành chất lượng cao trong ít bước suy luận. Ngược lại, UDLM vượt trội trong sinh thành ít bước nhưng lại kém hơn trong khả năng hiểu và khái quát hóa. Cả hai mô hình đều không đạt được hiệu suất cân bằng trên cả hai khía cạnh quan trọng này.

II. Main Idea:​

Các tác giả đề xuất XDLM (miXed Diffusion Language Model) nhằm mục đích bắc cầu giữa MDLM và UDLM thông qua một nhân nhiễu (noise kernel) tĩnh. XDLM cung cấp một sự hợp nhất lý thuyết có nguyên tắc cho MDLM và UDLM, coi mỗi mô hình là một trường hợp đặc biệt. Ngoài ra, XDLM còn giải quyết nút thắt cổ chai về bộ nhớ bằng cách đơn giản hóa đại số các xác suất hậu nghiệm, cho phép triển khai hiệu quả và mở rộng quy mô cho các từ vựng lớn. Nhân nhiễu của XDLM kết hợp giữa phân phối đồng nhất và các điểm tập trung vào các mã thông báo đặc biệt (ví dụ: mã thông báo [MASK]), cho phép nội suy giữa nhiễu đồng nhất và trạng thái mask.

III. Main Results:​

XDLM đã đẩy ranh giới Pareto giữa khả năng hiểu và chất lượng sinh thành. Về định lượng, XDLM vượt trội hơn UDLM 5.4 điểm trên các điểm chuẩn văn bản zero-shot và vượt MDLM trong sinh ảnh ít bước (FID 54.1 so với 80.8 ở 4 bước), đồng thời đạt FID thấp nhất 25.77 ở 16 bước. Khi mở rộng để tinh chỉnh một mô hình ngôn ngữ lớn 8B tham số (LLaDA-XDLM), XDLM đạt 15.0 MBPP chỉ trong 32 bước, tăng gấp đôi hiệu suất của LLaDA cơ sở. Phân tích động lực huấn luyện cho thấy XDLM duy trì cải thiện ổn định, thể hiện khả năng mở rộng dài hạn vượt trội. Tỷ lệ trộn k=0.1 được xác định là "điểm tối ưu", phá vỡ ranh giới Pareto của các mô hình cơ sở. XDLM cũng chứng tỏ hiệu quả tính toán vượt trội, gần như gấp đôi thông lượng forward của GIDD và tốc độ lấy mẫu nhanh hơn đáng kể so với UDLM, đồng thời giảm đáng kể mức tiêu thụ bộ nhớ.

IV. Conclusion & Future Works:​

XDLM là một phương pháp thống nhất, kết nối MDLM và UDLM, đồng thời cung cấp một triển khai hiệu quả về bộ nhớ. Mô hình đã phá vỡ ranh giới Pareto giữa khả năng hiểu và sinh thành, với tỷ lệ trộn k=0.1 được xác định là "điểm tối ưu" mang lại sự kết hợp mạnh mẽ giữa khả năng hiểu zero-shot và chất lượng sinh thành ít bước vượt trội. Những lợi thế này mở rộng trên nhiều lĩnh vực, đạt được kết quả tiên tiến trên ImageNet-1K và thể hiện khả năng mở rộng đáng kể trong quá trình huấn luyện tiếp tục các mô hình ngôn ngữ lớn 8B tham số. Các công việc tương lai bao gồm huấn luyện XDLM từ đầu ở quy mô lớn, điều tra sâu hơn hiện tượng "crossover hiệu suất", tối ưu hóa các chiến lược lấy mẫu chuyên biệt cho XDLM trong mô hình hóa ngôn ngữ và sinh ảnh, nghiên cứu sự tương tác giữa các phương thức văn bản và hình ảnh trong một mô hình thống nhất, và phát triển các lược đồ hậu huấn luyện cũng như kỹ thuật tăng tốc suy luận cho XDLM.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu huấn luyện XDLM từ đầu ở quy mô lớn để khám phá toàn diện các thuộc tính và khả năng mới nổi của mô hình.
  2. Phân tích sâu hiện tượng "crossover hiệu suất" của XDLM, đặc biệt là khi mô hình này vượt trội hơn các mô hình Masked Diffusion Language Models trong các tác vụ sinh thành với số bước lấy mẫu lớn.
  3. Tối ưu hóa các chiến lược lấy mẫu chuyên biệt cho từng miền ứng dụng của XDLM, bao gồm mô hình hóa ngôn ngữ và sinh ảnh, nhằm nâng cao hiệu quả và chất lượng.

2. Patent:​

  1. Hệ thống hỗ trợ viết thông minh cá nhân hóa trên điện thoại di động: Một hệ thống tích hợp trên điện thoại di động giúp người dùng tạo văn bản nhanh chóng và chất lượng cao. Nó có thể tạo ra các tin nhắn, email hoặc bài đăng mạng xã hội vừa mạch lạc về ngữ nghĩa, vừa đa dạng về phong cách, ngay cả khi chỉ cần một vài gợi ý. Công nghệ này đảm bảo văn bản được tạo ra phù hợp với ngữ cảnh và nhu cầu của người dùng, giúp tăng cường trải nghiệm giao tiếp và sáng tạo nội dung.
  2. Ứng dụng sinh ảnh và chỉnh sửa ảnh hiệu suất cao trên di động: Một ứng dụng điện thoại cho phép người dùng tạo ra hoặc chỉnh sửa ảnh với chất lượng cao và tốc độ nhanh. Dựa trên mô tả hoặc điều kiện đầu vào, ứng dụng có thể sinh ra các hình ảnh mới hoặc điều chỉnh ảnh hiện có chỉ trong vài bước tương tác. Điều này giúp người dùng dễ dàng tạo ra nội dung hình ảnh độc đáo và chuyên nghiệp ngay trên thiết bị di động của mình.
  3. Công cụ hỗ trợ lập trình thông minh với khả năng tự hoàn thành mã đáng tin cậy trên điện thoại di động: Một công cụ tích hợp trong các môi trường phát triển (IDE) trên điện thoại di động, cung cấp khả năng tự động hoàn thành và gợi ý mã lệnh vượt trội. Hệ thống này không chỉ dự đoán các dòng mã tiếp theo mà còn đảm bảo tính chính xác về mặt cú pháp và ngữ nghĩa, giúp giảm thiểu lỗi không thể biên dịch và nâng cao hiệu suất lập trình trên thiết bị di động.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2602.01362
ArXiv Abstracthttps://arxiv.org/abs/2602.01362
PDF Downloadhttps://arxiv.org/pdf/2602.01362.pdf
Github Repositoryhttps://github.com/MzeroMiko/XDLM

19. LIVE: Long-horizon Interactive Video World Modeling (12 votes)​

Tác giả: Junchao Huang, Ziyang Ye, Xinting Hu, Tianyu He, Guiyu Zhang, Shaoshuai Shi, Jiang Bian, Li Jiang

Xuất bản lúc: 2026-02-03

Tag: Video Generation, Diffusion Models, Autoregressive Models

I. Main Problem:​

Các mô hình thế giới video tự hồi quy (autoregressive video world models) gặp khó khăn trong việc tạo video dài kỳ do lỗi dự đoán nhỏ tích lũy theo thời gian, một vấn đề được biết đến là exposure bias. Các phương pháp hiện có như Teacher Forcing (TF), Diffusion Forcing (DF) và Self-Forcing (SF) chưa giải quyết triệt để sự tích lũy lỗi này hoặc phụ thuộc vào các mô hình "thầy" (teacher models) được huấn luyện trước, gây ra chi phí tính toán lớn và hạn chế khả năng kiểm soát sự lan truyền lỗi vượt quá độ dài huấn luyện.

II. Main Idea:​

Chúng tôi đề xuất LIVE, một mô hình thế giới video tương tác dài kỳ, giải quyết vấn đề tích lũy lỗi bằng cách thực thi một mục tiêu nhất quán theo chu trình (cycle-consistency objective) mới. Cụ thể, LIVE thực hiện quá trình tạo video về phía trước (forward rollout) từ các khung hình gốc (ground-truth frames), sau đó áp dụng quá trình tạo ngược (reverse generation process) để tái tạo lại trạng thái ban đầu. Tổn thất khuếch tán (diffusion loss) được tính toán trên trạng thái cuối đã tái tạo, cung cấp một ràng buộc rõ ràng về sự lan truyền lỗi ở tầm xa và loại bỏ nhu cầu chưng cất kiến thức từ mô hình "thầy". Hơn nữa, chúng tôi trình bày một cái nhìn thống nhất về các phương pháp huấn luyện khác nhau (TF, DF, LIVE) và giới thiệu một chương trình huấn luyện tiến bộ (progressive training curriculum) để ổn định quá trình huấn luyện bằng cách điều chỉnh tỷ lệ khung hình gốc và khung hình do mô hình tạo ra trong mỗi cửa sổ huấn luyện, từ đó tăng cường khả năng chịu lỗi.

III. Main Results:​

LIVE đạt hiệu suất tiên tiến (state-of-the-art) trên các tiêu chuẩn mô hình hóa thế giới video dài kỳ, tạo ra các video chất lượng cao và ổn định vượt xa độ dài huấn luyện. Cụ thể, LIVE duy trì chất lượng ổn định (ví dụ: FID ổn định quanh 10) trên tất cả các độ dài rollout (lên tới 200 khung hình), trong khi các phương pháp cơ sở khác suy giảm đáng kể vượt quá 64 khung hình. Các bảng kết quả định lượng trên bộ dữ liệu RealEstate10K, UE Engine Videos và Minecraft cho thấy LIVE cải thiện đáng kể so với các phương pháp cơ sở, đặc biệt là ở các độ dài rollout dài hơn. Kết quả định tính cũng chứng minh chất lượng hình ảnh vượt trội và nhất quán của LIVE trong các cảnh quay kéo dài. Các nghiên cứu loại bỏ (ablation studies) xác nhận tầm quan trọng của mục tiêu nhất quán theo chu trình, chiến lược nhiễu ngữ cảnh (context noise strategy) và chương trình huấn luyện tiến bộ.

IV. Conclusion & Future Works:​

LIVE giải quyết thách thức cơ bản về tích lũy lỗi trong tạo sinh tự hồi quy bằng cách thực thi mục tiêu nhất quán theo chu trình thông qua tổn thất khuếch tán, từ đó giới hạn rõ ràng sự lan truyền lỗi ở tầm xa mà không cần chưng cất từ mô hình "thầy". Phương pháp này cũng cung cấp một cái nhìn thống nhất về các phương pháp huấn luyện TF, DF và LIVE, đồng thời đề xuất một chương trình huấn luyện tiến bộ để ổn định tối ưu hóa và duy trì chất lượng tạo sinh. Thực nghiệm chứng minh LIVE đạt hiệu suất mạnh mẽ và khả năng khái quát hóa bền vững trên các tiêu chuẩn mô hình hóa thế giới video tương tác dài kỳ, mở rộng đáng kể tầm tạo sinh hiệu quả. Trong tương lai, nhóm nghiên cứu sẽ mở rộng quy mô LIVE trên các bộ dữ liệu lớn và đa dạng hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng LIVE để tích hợp các mô hình Vision-Language lớn (LLMs) nhằm cải thiện khả năng hiểu ngữ cảnh đa phương thức và độ phức tạp tương tác trong tạo video dài kỳ.
  2. Nghiên cứu các chiến lược huấn luyện tiến bộ thích ứng hoặc động (adaptive/dynamic progressive training curriculum) cho LIVE, tự động điều chỉnh tỷ lệ khung hình gốc so với khung hình tạo sinh dựa trên hiệu suất mô hình.
  3. Áp dụng nguyên lý nhất quán theo chu trình của LIVE vào các nhiệm vụ tạo sinh chuỗi khác ngoài video (ví dụ: tạo sinh âm thanh, mô phỏng robot) nơi vấn đề tích lũy lỗi là thách thức chính.

2. Patent:​

  1. Chỉnh sửa video trên điện thoại thông minh với khả năng "kéo dài" cảnh quay một cách liền mạch: Một ứng dụng di động sử dụng công nghệ tạo video ổn định, chất lượng cao để cho phép người dùng mở rộng thời lượng của một phân đoạn video hiện có. Ví dụ, người dùng quay một cảnh ngắn và muốn nó kéo dài hơn mà vẫn giữ được sự liền mạch và tự nhiên, hệ thống sẽ tự động tạo thêm các khung hình tiếp theo dựa trên bối cảnh và hành động trong video gốc mà không bị suy giảm chất lượng theo thời gian.
  2. Tạo cảnh quay 360 độ hoặc AR (Augmented Reality) tương tác cho các ứng dụng bất động sản hoặc du lịch trên điện thoại: Phát triển một công cụ trên điện thoại cho phép người dùng tạo ra các video tương tác, dài kỳ cho việc trưng bày bất động sản hoặc địa điểm du lịch. Từ một vài khung hình ban đầu do người dùng cung cấp (ví dụ, ảnh 360 độ hoặc video ngắn), ứng dụng sẽ tự động tạo ra một chuyến tham quan video ảo dài hơn với các tương tác (như thay đổi góc nhìn, di chuyển qua lại) mà vẫn duy trì chất lượng cao.
  3. Tối ưu hóa khả năng xem trước trong các ứng dụng chỉnh sửa video sử dụng AI trên điện thoại: Một công nghệ cho phép người dùng xem trước các thay đổi hoặc hiệu ứng AI được áp dụng cho video dài trên điện thoại mà không cần phải chờ đợi quá trình render hoàn chỉnh. Hệ thống sẽ tạo ra một bản xem trước chất lượng cao, ổn định ngay cả với các video rất dài, giúp người dùng tiết kiệm thời gian và tài nguyên xử lý trên thiết bị di động.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2602.03747
ArXiv Abstracthttps://arxiv.org/abs/2602.03747
PDF Downloadhttps://arxiv.org/pdf/2602.03747.pdf
Github Repositoryhttps://github.com/Junchao-cs/LIVE

20. Token Sparse Attention: Efficient Long-Context Inference with Interleaved Token Selection (12 votes)​

Tác giả: Dongwon Jo, Beomseok Kang, Jiwon Song, Jae-Joon Kim

Xuất bản lúc: 2026-02-03

Tag: LLMs, Attention, Sparse Attention, Long-Context Inference, Efficiency

I. Main Problem:​

Độ phức tạp bậc hai của cơ chế attention là nút thắt cổ chai chính trong suy luận ngữ cảnh dài (long-context inference) cho các mô hình ngôn ngữ lớn (LLMs). Các phương pháp tăng tốc trước đây hoặc làm thưa thớt bản đồ attention với các mẫu có cấu trúc hoặc loại bỏ vĩnh viễn các token ở các lớp cụ thể, điều này có thể giữ lại các token không liên quan hoặc dựa vào các quyết định sớm không thể đảo ngược, bỏ qua động lực học về tầm quan trọng của token theo lớp/head.

II. Main Idea:​

Bài báo đề xuất Token Sparse Attention, một cơ chế làm thưa thớt cấp độ token nhẹ và động. Cơ chế này nén các tensor Q, K, V của mỗi head thành một tập hợp token được giảm bớt trong quá trình attention và sau đó giải nén đầu ra trở lại chuỗi gốc, cho phép thông tin token được xem xét lại ở các lớp tiếp theo. Phương pháp này đưa ra một điểm thiết kế mới tại giao điểm của việc chọn token và attention thưa thớt. Nó hoàn toàn tương thích với các triển khai attention dày đặc (dense attention) như Flash Attention và có thể kết hợp liền mạch với các kernel attention thưa thớt hiện có. Nó bao gồm hai giai đoạn chính: nén cho các tensor QKV bằng cách chọn một tập hợp con token cho mỗi head và giải nén cho đầu ra attention bằng cách phân tán kết quả trở lại kích thước chuỗi đầy đủ. Để xác định các token cần giữ lại, phương pháp sử dụng "Dynamic Token Coverage" để ước tính tầm quan trọng của token và chọn một tập hợp con quan trọng nhất dựa trên ngưỡng bao phủ (coverage threshold). Ngoài ra, "Sparse Layer Selection" được sử dụng để xác định các lớp phù hợp nhất cho việc làm thưa thớt dựa trên Inter-Layer Representation Drift, giúp duy trì độ chính xác.

III. Main Results:​

Token Sparse Attention liên tục cải thiện sự đánh đổi giữa độ chính xác và độ trễ, đạt được tốc độ tăng tốc attention lên tới ×3.23 ở ngữ cảnh 128K với độ suy giảm chính xác dưới 1%. Các kết quả thực nghiệm trên các benchmark ngữ cảnh dài như RULER và InfiniteBench cho thấy phương pháp này duy trì độ chính xác của các kernel attention cơ bản trong khi cải thiện hiệu quả. Nó hoạt động như một cơ chế tăng tốc tổng quát, cung cấp những cải tiến hiệu quả suy luận nhất quán với tác động không đáng kể đến độ chính xác của mô hình. Phương pháp này cũng đạt được độ chính xác trung bình RULER cao hơn một cách nhất quán so với phương pháp làm thưa thớt cố định (fixed sparsity) và các phương pháp loại bỏ token (token eviction) khác như FastKV và GemFilter dưới ngân sách hiệu quả tương đương.

IV. Conclusion & Future Works:​

Token Sparse Attention là một cơ chế làm thưa thớt cấp độ token động và có thể đảo ngược để suy luận ngữ cảnh dài hiệu quả. Lợi thế chính của nó nằm ở khả năng giảm tính toán attention mà không loại bỏ vĩnh viễn các token, cho phép đánh giá lại mức độ liên quan của token qua các lớp và head. Thiết kế này tương thích hoàn toàn với các kernel attention dày đặc và thưa thớt hiện có, cho phép kết hợp liền mạch với các phương pháp tăng tốc trước đây. Bằng cách chọn lọc các token không liên quan trước khi tính toán attention, phương pháp này đạt được tốc độ tăng tốc attention đáng kể với sự suy giảm độ chính xác tối thiểu, cung cấp một giải pháp bổ sung và thực tế cho suy luận ngữ cảnh dài có khả năng mở rộng. Bài báo không đề cập cụ thể đến các công việc trong tương lai.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu các phương pháp ước tính tầm quan trọng của token tinh vi hơn, bao gồm các phương pháp học được hoặc tự thích nghi, để tối ưu hóa việc lựa chọn token và further nâng cao hiệu quả mà vẫn giữ được độ chính xác.
  2. Mở rộng Token Sparse Attention sang giai đoạn giải mã (decoding phase) của LLMs, nơi tắc nghẽn tính toán chuyển sang chi phí bộ nhớ KV cache, để đạt được hiệu quả toàn diện trong quá trình suy luận.
  3. Áp dụng và thích nghi cơ chế làm thưa thớt token động, có thể đảo ngược này cho các kiến trúc transformer khác ngoài LLMs, như mô hình thị giác hoặc mô hình đa phương thức, để giải quyết các thách thức về ngữ cảnh dài và hiệu quả.

2. Patent:​

  1. Một hệ thống tóm tắt tài liệu thông minh cho điện thoại di động, tự động phân tích các tài liệu dài (ví dụ: báo cáo, sách, email) và chỉ xử lý các phần quan trọng nhất để tạo ra bản tóm tắt nhanh chóng, giúp người dùng tiết kiệm thời gian đọc và tăng tốc độ xử lý trên thiết bị.
  2. Một trợ lý AI cá nhân trên điện thoại di động có khả năng ghi nhớ ngữ cảnh cuộc trò chuyện dài. Thay vì xử lý lại toàn bộ lịch sử, nó sẽ thông minh xác định và lưu giữ những điểm mấu chốt của cuộc đối thoại, cho phép tương tác trôi chảy và hiệu quả hơn ngay cả sau nhiều giờ hoặc nhiều ngày.
  3. Ứng dụng ghi âm và tóm tắt cuộc họp/bài giảng trên điện thoại, tự động chuyển đổi các bản ghi âm dài thành văn bản và sau đó nhanh chóng trích xuất các ý chính. Công nghệ này sẽ chỉ tập trung vào các đoạn âm thanh và văn bản quan trọng để giảm thiểu thời gian xử lý và hiển thị tóm tắt tức thì.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2602.03216
ArXiv Abstracthttps://arxiv.org/abs/2602.03216
PDF Downloadhttps://arxiv.org/pdf/2602.03216.pdf
Github Repositoryhttps://github.com/dongwonjo/Token-Sparse-Attention

21. Less Noise, More Voice: Reinforcement Learning for Reasoning via Instruction Purification (12 votes)​

Tác giả: Yiju Guo, Tianyi Hu, Zexu Sun, Yankai Lin

Xuất bản lúc: 2026-01-29

Tag: Reinforcement Learning, LLMs, Reasoning, Prompt Engineering

I. Main Problem:​

Reinforcement Learning with Verifiable Rewards (RLVR) gặp phải thách thức lớn trong việc khám phá không hiệu quả với ngân sách rollout hạn chế, dẫn đến tỷ lệ lấy mẫu thành công thấp và đào tạo không ổn định trong các tác vụ suy luận phức tạp. Vấn đề cốt lõi được phát hiện là nhiều thất bại trong quá trình khám phá không phải do độ khó của bài toán mà do một số lượng nhỏ các token nhắc nhở gây nhiễu. Các phương pháp hiện có như mở rộng khám phá (scaling exploration) hoặc lọc nhắc nhở không có phương sai (zero-variance prompts) không giải quyết được triệt để vấn đề khám phá không hiệu quả trên các mẫu khó hoặc yêu cầu chi phí tính toán cao mà không cải thiện hiệu quả.

II. Main Idea:​

Để giải quyết vấn đề trên, bài viết đề xuất khuôn khổ lấy mẫu ít nhiễu (Less Noise Sampling Framework - LENS), hoạt động theo hai giai đoạn chính:

  1. Xác định và tinh lọc Token gây nhiễu (Interference Token Identification and Purification): LENS xác định và loại bỏ các token gây nhiễu trong các lời nhắc có tỷ lệ thành công thấp bằng cách tính "điểm nhiễu" (Interference Score) – đo lường độ lệch cấp token giữa chính sách hiện tại và mô hình tham chiếu. Quá trình này tạo ra các lời nhắc đã được khử nhiễu, giúp tạo ra tỷ lệ rollout thành công cao hơn đáng kể.
  2. Tối ưu hóa chính sách Rollout đã hiệu chỉnh (Calibrated Rollout Policy Optimization - CRPO): LENS chuyển các rollout thành công thu được từ quá trình tinh lọc (từ các lời nhắc đã khử nhiễu) để giám sát việc tối ưu hóa chính sách trên các lời nhắc gốc, có nhiễu. Cơ chế này khuyến khích mô hình học cách bỏ qua các token gây nhiễu trong các cài đặt nhắc nhở thực tế, qua đó tăng cường tính mạnh mẽ của khả năng suy luận LLM thông qua tự khám phá. CRPO sử dụng chiến lược trọng số lại mẫu và một mục tiêu surrogate cắt PPO với chuẩn hóa KL.

III. Main Results:​

LENS đã chứng minh hiệu suất vượt trội đáng kể so với GRPO, đạt được sự cải thiện Pareto về hiệu suất và hiệu quả.

  1. Hiệu suất: LENS đạt mức tăng hiệu suất trung bình 3.88% và tốc độ hội tụ nhanh hơn 1.6 lần trên bảy điểm chuẩn suy luận toán học.
  2. So sánh với các phương pháp khác: LENS thể hiện hiệu suất vượt trội so với cả các phương pháp cơ bản mở rộng khám phá (scaling exploration) và lọc lời nhắc (prompt filtering), đồng thời sử dụng ít tài nguyên tính toán hơn đáng kể.
  3. Hiệu quả khám phá: LENS giảm đáng kể tỷ lệ lời nhắc không có phần thưởng (zero-reward prompts) trong tất cả các giai đoạn đào tạo, chuyển nhiều lời nhắc hơn sang các danh mục có tín hiệu học tập hữu ích, cho thấy hiệu quả lấy mẫu được nâng cao.
  4. Tốc độ hội tụ: LENS đạt hiệu suất đỉnh tương tự GRPO với ít bước gradient hơn 1.67 lần trên MATH-500 và tăng tốc 1.64 lần trên OlympiadBench.

IV. Conclusion & Future Works:​

Kết luận: Bài viết đã đưa ra một phát hiện mới lạ rằng hiệu suất của Reinforcement Learning with Verifiable Rewards (RLVR) có thể được cải thiện đáng kể chỉ bằng cách loại bỏ một vài token gây nhiễu. Khung LENS được đề xuất để xác định các token gây nhiễu và chuyển các rollout thành công từ các lời nhắc đã khử nhiễu để hiệu chỉnh tối ưu hóa chính sách trên các lời nhắc gốc có nhiễu, giúp cải thiện cả hiệu suất và hiệu quả. Những phát hiện này mang đến một góc nhìn mới để nâng cao hiệu quả lấy mẫu trong nghiên cứu RLVR. Hạn chế và Công việc tương lai:

  1. Hạn chế về quy mô mô hình: Các thử nghiệm hiện tại được thực hiện trên các mô hình có tối đa 8B tham số. Cần mở rộng đánh giá hiệu suất và khả năng mở rộng của phương pháp trên các mô hình ngôn ngữ lớn hơn (ví dụ: 32B hoặc 70B).
  2. Kịch bản phần thưởng hẹp: Hiệu quả của LENS chủ yếu được xác nhận trong các tác vụ có phần thưởng nhị phân. Cần điều tra khả năng áp dụng của phương pháp này cho các môi trường phức tạp hơn với hệ thống chấm điểm đa chiều.
  3. Tích hợp thuật toán: Mặc dù đã chứng minh hiệu quả trong khuôn khổ GRPO, việc tích hợp LENS với các biến thể dựa trên GRPO khác, bao gồm các thuật toán tối ưu hóa tần suất rollout hoặc các hàm phần thưởng, vẫn là một hướng nghiên cứu tiềm năng để nâng cao khả năng khám phá và ổn định đào tạo.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng và đánh giá khuôn khổ LENS trên các mô hình ngôn ngữ lớn hơn (ví dụ: 32B, 70B) để xác nhận khả năng mở rộng và hiệu suất trên quy mô lớn, từ đó định vị LENS như một phương pháp mạnh mẽ cho các LLM tiên tiến.
  2. Nghiên cứu áp dụng và điều chỉnh LENS cho các hàm phần thưởng phức tạp hơn, không chỉ phần thưởng nhị phân, mà còn các kịch bản chấm điểm đa chiều trong các tác vụ ra quyết định phức tạp như trong robot học hoặc các trò chơi AI chiến lược.
  3. Khám phá việc tích hợp LENS với các phương pháp cải tiến RLVR khác, chẳng hạn như cơ chế phân bổ tín dụng (credit assignment) hoặc thiết kế hàm phần thưởng tiên tiến, nhằm xây dựng một khuôn khổ đào tạo RL tổng thể mạnh mẽ và hiệu quả hơn.

2. Patent:​

  1. Hệ thống trợ lý ảo thông minh loại bỏ nhiễu trên điện thoại: Một ứng dụng hoặc tính năng tích hợp trên điện thoại di động giúp phân tích và tinh lọc các yêu cầu bằng giọng nói hoặc văn bản của người dùng trước khi chúng được xử lý bởi trợ lý ảo. Ví dụ, khi người dùng đưa ra một câu lệnh dài dòng hoặc có các yếu tố không liên quan, hệ thống sẽ tự động xác định và loại bỏ những "từ ngữ thừa" hoặc "thông tin gây nhiễu", để trợ lý ảo có thể hiểu rõ hơn ý định chính và phản hồi nhanh chóng, chính xác. Điều này giúp cải thiện trải nghiệm người dùng trong việc tương tác với điện thoại di động, đặc biệt là khi yêu cầu phức tạp hoặc trong môi trường ồn ào.
  2. Công cụ cải thiện chất lượng tìm kiếm di động thông qua làm sạch truy vấn: Phát triển một công nghệ tích hợp vào các ứng dụng tìm kiếm trên điện thoại thông minh, như tìm kiếm web hoặc tìm kiếm ứng dụng/tài liệu trong máy. Khi người dùng nhập một truy vấn tìm kiếm, công cụ sẽ tự động phân tích và loại bỏ các thành phần "không quan trọng" hoặc "lặp lại" trong truy vấn đó, chỉ giữ lại các từ khóa cốt lõi và có ý nghĩa. Kết quả là, các tìm kiếm trên điện thoại sẽ trả về thông tin phù hợp hơn, nhanh hơn và giúp người dùng không cần phải tốn công chỉnh sửa lại các cụm từ tìm kiếm của mình.
  3. Hệ thống gợi ý văn bản thông minh chống nhiễu cho bàn phím điện thoại: Một tính năng nâng cao cho bàn phím ảo trên điện thoại di động, có khả năng nhận diện và bỏ qua các yếu tố gây nhiễu trong ngữ cảnh người dùng đang gõ. Ví dụ, khi người dùng đang viết một câu có nhiều từ ngữ không mạch lạc hoặc mang tính chất suy nghĩ "nhiễu", hệ thống sẽ tự động lọc bỏ những yếu tố này để đưa ra các gợi ý từ hoặc cụm từ tiếp theo một cách chính xác, mạch lạc và phù hợp với ý định thực sự của người dùng. Điều này giúp tăng tốc độ gõ phím, giảm lỗi chính tả và cải thiện đáng kể trải nghiệm soạn thảo tin nhắn, email trên điện thoại.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.21244
ArXiv Abstracthttps://arxiv.org/abs/2601.21244
PDF Downloadhttps://arxiv.org/pdf/2601.21244.pdf
Github RepositoryN/A

22. AdaptMMBench: Benchmarking Adaptive Multimodal Reasoning for Mode Selection and Reasoning Process (10 votes)​

Tác giả: Xintong Zhang, Xiaowen Zhang, Jongrong Wu, Zhi Gao, Shilin Yan, Zhenxin Diao, Kunpeng Gao, Xuanyan Chen, Yuwei Wu, Yunde Jia, Qing Li

Xuất bản lúc: 2026-02-02

Tag: Multimodal Reasoning, Benchmarking, VLMs, Adaptive Learning, Meta-cognition, Tool Use

I. Main Problem:​

Các phương pháp đánh giá mô hình Thị giác-Ngôn ngữ (VLM) hiện có dựa vào nhãn độ khó tĩnh và các chỉ số đơn giản, không thể nắm bắt được bản chất động của độ khó liên quan đến các năng lực mô hình khác nhau. Điều này làm mờ đi sự khác biệt giữa việc lựa chọn chế độ thích ứng và hiệu suất chung, đồng thời bỏ qua các phân tích quy trình chi tiết. Ngoài ra, việc các mô hình VLM thường rơi vào "bẫy gọi công cụ" bằng cách áp dụng các công cụ thị giác mạnh mẽ cho các tác vụ có thể giải quyết bằng nhận thức trực tiếp hoặc suy luận văn bản, gây ra sự dư thừa tính toán đáng kể.

II. Main Idea:​

Đề xuất AdaptMMBench, một bộ benchmark toàn diện để đánh giá suy luận đa phương thức thích ứng trên năm lĩnh vực: thế giới thực, OCR, GUI, kiến thức và toán học, bao gồm cả các tác vụ nhận thức trực tiếp và suy luận phức tạp. AdaptMMBench sử dụng chỉ số Hệ số tương quan Matthews (MCC) để đánh giá tính hợp lý của việc lựa chọn các chế độ suy luận khác nhau, cô lập khả năng siêu nhận thức này bằng cách động xác định độ khó của tác vụ dựa trên ranh giới khả năng của mô hình. Hơn nữa, AdaptMMBench tạo điều kiện đánh giá quy trình đa chiều bao gồm độ phủ bước chính, hiệu quả công cụ và hiệu suất tính toán.

III. Main Results:​

  • Khả năng lựa chọn chế độ thích ứng tăng theo năng lực mô hình nhưng lại tách biệt đáng kể khỏi độ chính xác cuối cùng.
  • Độ phủ bước chính (Key Step Coverage) tương quan chặt chẽ hơn với hiệu suất tổng thể.
  • Hiệu quả công cụ (Tool Effectiveness) vẫn rất không nhất quán giữa các kiến trúc mô hình.
  • Có một khoảng cách hiệu suất đáng kể giữa suy luận thích ứng và suy luận Oracle-Visual (sử dụng thông tin trực quan chuẩn vàng), cho thấy hiệu suất hiện tại chủ yếu bị hạn chế bởi việc gọi công cụ chưa tối ưu hơn là khả năng suy luận.
  • Phân tích lỗi cho thấy phần lớn lỗi liên quan đến việc sử dụng công cụ: 42.3% do lỗi suy luận thị giác (chọn vùng/chuyển đổi sai), 7.3% do nhiễu hình ảnh trung gian, 8.3% do lựa chọn chế độ sai (gọi công cụ không cần thiết).

IV. Conclusion & Future Works:​

AdaptMMBench là một bộ benchmark quan trọng để định lượng khả năng suy luận đa phương thức thích ứng trong các mô hình VLM, bao gồm nhiều lĩnh vực và kịch bản suy luận đa dạng. Nghiên cứu này cho thấy độ chính xác cao không nhất thiết ngụ ý khả năng lựa chọn chế độ suy luận mạnh mẽ, và khoảng cách hiệu suất đáng kể giữa suy luận thích ứng và Oracle-Visual chỉ ra rằng hiệu suất thường bị hạn chế bởi việc gọi công cụ chưa tối ưu. Thách thức chính trong tương lai đối với các mô hình suy luận đa phương thức là việc lựa chọn công cụ thích ứng hiệu quả.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu về các chiến lược lựa chọn công cụ thích ứng hiệu quả hơn cho VLMs, tập trung vào các kỹ thuật học tăng cường hoặc học meta để tối ưu hóa quyết định gọi công cụ dựa trên độ khó nhiệm vụ động.
  2. Phát triển các phương pháp đánh giá mới cho khả năng tạo hình ảnh phụ trợ (auxiliary-line generation) của VLMs, đặc biệt là trong các bài toán hình học và kiến thức, nhằm thu hẹp khoảng cách với hiệu suất Oracle-Visual.
  3. Phân tích sâu hơn về mối quan hệ giữa độ phức tạp của các công cụ thị giác (ví dụ: công cụ dựa trên mã so với cuộc gọi hàm) và hiệu suất thực thi công cụ, để thiết kế các giao diện công cụ hiệu quả và đáng tin cậy hơn.

2. Patent:​

  1. Hệ thống trợ lý đa phương thức thông minh cho điện thoại: Một ứng dụng điện thoại sử dụng trí tuệ nhân tạo để tự động xác định khi nào người dùng cần hỗ trợ thị giác cho một tác vụ (ví dụ: đọc hóa đơn bị mờ, phóng to một phần văn bản trên màn hình, hoặc dịch một biển báo). Hệ thống sẽ tự động gọi các công cụ xử lý hình ảnh (phóng to, điều chỉnh độ sáng/tương phản, xoay ảnh) mà không cần người dùng thao tác thủ công, chỉ khi cần thiết để tiết kiệm pin và thời gian.
  2. Chế độ xem và tương tác thích ứng trên điện thoại: Một tính năng trên điện thoại cho phép ứng dụng tự động điều chỉnh cách hiển thị nội dung và cung cấp các công cụ tương tác dựa trên độ khó nhận thức của tác vụ đối với người dùng. Ví dụ, khi người dùng đang xem một tài liệu phức tạp, hệ thống có thể đề xuất các công cụ như phóng to thông minh vào các biểu đồ quan trọng, cải thiện độ tương phản của văn bản nhỏ hoặc thậm chí tạo ra các hình ảnh phụ trợ để giải thích nội dung, thay vì chỉ hiển thị toàn bộ nội dung mà không có sự hỗ trợ nào.
  3. Trợ lý sửa lỗi hình ảnh tự động cho điện thoại: Một chức năng tích hợp trong ứng dụng camera hoặc thư viện ảnh của điện thoại, có khả năng phân tích một hình ảnh đã chụp và tự động đề xuất hoặc áp dụng các điều chỉnh hình ảnh (như làm nét, cân bằng trắng, loại bỏ nhiễu) nếu phát hiện ra hình ảnh đó có thể gây khó khăn trong việc suy luận hoặc nhận diện thông tin sau này. Điều này giúp người dùng có được những hình ảnh rõ ràng hơn mà không cần kiến thức chuyên sâu về chỉnh sửa ảnh, cải thiện chất lượng dữ liệu đầu vào cho các tác vụ nhận dạng sau này (ví dụ: nhận dạng văn bản, tìm kiếm đối tượng).

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2602.02676
ArXiv Abstracthttps://arxiv.org/abs/2602.02676
PDF Downloadhttps://arxiv.org/pdf/2602.02676.pdf
Github Repositoryhttps://github.com/xtong-zhang/AdaptMMBench