Chuyển tới nội dung chính

🤗 Daily Hugging Face Paper Digest - 2026-03-03

Báo cáo được tạo tự động vào lúc 2026-03-07 08:30:31 bằng mô hình gemini-2.5-flash.

📰 Summary of Papers​

1. OmniLottie: Generating Vector Animations via Parameterized Lottie Tokens (131 votes)​

Tác giả: Yiying Yang, Wei Cheng, Sijin Chen, Honghao Fu, Xianfang Zeng, Yujun Cai, Gang Yu, Xingjun Ma

Xuất bản lúc: 2026-03-02

Tag: Vector Animation, Lottie, JSON, Tokenizer, Multi-modal Generation, VLM, Deep Learning, Dataset, Auto-regressive Models, Qwen2.5-VL

I. Main Problem:​

Việc tạo hoạt ảnh vector chất lượng cao từ các hướng dẫn đa phương thức là một thách thức lớn. Các tệp Lottie JSON thô chứa nhiều siêu dữ liệu cấu trúc và token định dạng không đổi, gây khó khăn đáng kể cho việc học tạo hoạt ảnh vector. Các phương pháp hiện có để tạo hoạt ảnh vector thường thiếu khả năng chỉnh sửa, tương thích đa nền tảng và khả năng mở rộng độ phân giải. Ngoài ra, việc trực tiếp tạo các tệp Lottie JSON thô là không hiệu quả, dẫn đến tỷ lệ thành công không đạt yêu cầu và hiệu suất kém trong việc tuân thủ hướng dẫn.

II. Main Idea:​

Các tác giả đề xuất OmniLottie, một khuôn khổ đa năng để tạo hoạt ảnh vector chất lượng cao từ các hướng dẫn đa phương thức. Ý tưởng chính bao gồm:

  1. Lottie Tokenizer: Giới thiệu một bộ tokenizer Lottie được thiết kế tốt, chuyển đổi các tệp JSON thành các chuỗi lệnh và tham số có cấu trúc, đại diện cho hình dạng, chức năng hoạt ảnh và các tham số điều khiển. Điều này giúp loại bỏ siêu dữ liệu và token định dạng dư thừa, làm cho quá trình học hiệu quả hơn.
  2. Mô hình tự hồi quy trên VLM tiền huấn luyện: Xây dựng OmniLottie dựa trên các mô hình ngôn ngữ-thị giác (VLM) tiền huấn luyện (cụ thể là Qwen2.5-VL) để xử lý các hướng dẫn đa phương thức xen kẽ (văn bản, hình ảnh, video) và tạo ra hoạt ảnh vector chất lượng cao.
  3. Tập dữ liệu MMLottie-2M: Xây dựng một tập dữ liệu quy mô lớn gồm hai triệu hoạt ảnh vector được thiết kế chuyên nghiệp, đi kèm với chú thích văn bản và hình ảnh, cũng như video tham chiếu, để hỗ trợ việc huấn luyện và đánh giá. Tập dữ liệu này bao gồm cả dữ liệu Lottie gốc và dữ liệu SVG được chuyển đổi và tạo hoạt ảnh.
  4. Phương pháp Tokenization dựa trên Offset: Ánh xạ các tham số Lottie liên tục thành các token rời rạc bằng cách sử dụng một sơ đồ dựa trên offset, tạo ra một từ vựng thống nhất cho Lottie.
  5. Giao thức đánh giá MMLottie-Bench: Thiết lập một giao thức đánh giá toàn diện với các tập con Real và Synthetic để đo lường chất lượng hình ảnh và sự phù hợp ngữ nghĩa với đầu vào đa phương thức.

III. Main Results:​

OmniLottie thể hiện hiệu suất vượt trội nhất quán trên tất cả các chỉ số so với các phương pháp cơ sở mạnh mẽ trong các tác vụ Text-to-Lottie, Text-Image-to-Lottie và Video-to-Lottie.

  • Text-to-Lottie: Đạt tỷ lệ thành công gần như hoàn hảo (88.3% trên tập Real, 82.1% trên tập Synthetic), FVD tốt nhất và căn chỉnh chuyển động mạnh mẽ nhất.
  • Text-Image-to-Lottie: Xếp hạng nhất về FVD, căn chỉnh đối tượng và căn chỉnh chuyển động, duy trì độ tin cậy cao (93.3% trên tập Real, 92.9% trên tập Synthetic).
  • Video-to-Lottie: Giữ được độ trung thực về thời gian và cấu trúc hiệu quả nhất, đạt điểm FVD, PSNR, SSIM và DINO tốt nhất.
  • Hiệu quả Token: OmniLottie tạo ra các chuỗi token phong phú hơn đáng kể so với tất cả các phương pháp cơ sở.
  • Nghiên cứu cắt bỏ (Ablation Studies):
    • Sự kết hợp dữ liệu Lottie và SVG vừa phải (70% Lottie + 30% SVG) mang lại hiệu suất tốt nhất, cân bằng giữa sự phong phú về hình học và độ phức tạp chuyển động.
    • Bộ tokenizer Lottie của OmniLottie cải thiện hiệu suất nhất quán trên tất cả các tác vụ và chỉ số, nâng cao chất lượng tạo và hiệu quả tính toán.

IV. Conclusion & Future Works:​

OmniLottie là một khuôn khổ thống nhất để tạo hoạt ảnh vector đa phương thức. Bằng cách tận dụng tập dữ liệu MMLottie-2M quy mô lớn và bộ tokenizer Lottie kết hợp với VLM tiền huấn luyện, OmniLottie xử lý hiệu quả các đầu vào đa phương thức bằng cách sử dụng các chuỗi token nhỏ gọn. Các thí nghiệm cho thấy OmniLottie tạo ra hoạt ảnh chất lượng cao với độ trung thực hình ảnh và căn chỉnh ngữ nghĩa mạnh mẽ. Mặc dù OmniLottie đạt được tỷ lệ thành công cao hơn, văn bản không nêu chi tiết các hướng nghiên cứu trong tương lai cụ thể ngoài việc ngụ ý rằng vẫn còn chỗ để cải thiện.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng bộ tokenizer cho các định dạng hoạt ảnh vector khác: Nghiên cứu và phát triển một bộ tokenizer tổng quát hơn có thể xử lý các định dạng hoạt ảnh vector khác ngoài Lottie, chẳng hạn như hoạt ảnh SVG hoặc các định dạng độc quyền khác, để tạo ra một khung tổng quát hơn cho việc tạo hoạt ảnh vector đa nền tảng.
  2. Tạo hoạt ảnh vector tương tác theo thời gian thực: Phát triển các phương pháp cho phép người dùng tương tác với quá trình tạo hoạt ảnh vector theo thời gian thực thông qua các hướng dẫn đa phương thức, ví dụ: thay đổi chuyển động, màu sắc, hoặc hình dạng của các đối tượng trong hoạt ảnh đang được tạo ra.
  3. Tích hợp học tăng cường để tối ưu hóa chất lượng hoạt ảnh: Khám phá việc sử dụng học tăng cường (Reinforcement Learning) để tinh chỉnh các tham số hoạt ảnh được tạo ra bởi mô hình, nhằm tối ưu hóa các tiêu chí như độ mượt mà của chuyển động, tính thẩm mỹ hoặc sự phù hợp với ngữ cảnh phức tạp hơn.

2. Patent:​

  1. Hệ thống tạo biểu tượng cảm xúc (emoji) hoặc sticker động tùy chỉnh trên điện thoại: Một ứng dụng di động cho phép người dùng nhập mô tả văn bản hoặc hình ảnh/video ngắn để tự động tạo các biểu tượng cảm xúc hoặc sticker động Lottie độc đáo, có thể chia sẻ trực tiếp trong các ứng dụng nhắn tin. Hệ thống sẽ sử dụng tokenizer Lottie để chuyển đổi ý tưởng thành hoạt ảnh nhẹ.
  2. Công cụ tạo hiệu ứng chuyển động cho giao diện người dùng (UI) di động tự động: Một công cụ tích hợp vào các nền tảng phát triển ứng dụng di động, cho phép các nhà thiết kế và phát triển tạo ra các hiệu ứng chuyển động Lottie phức tạp cho các thành phần UI (ví dụ: nút, thanh tiến trình, biểu tượng tải) chỉ bằng cách mô tả chúng bằng văn bản hoặc cung cấp hình ảnh tham chiếu, giúp tăng tốc quá trình thiết kế và cải thiện trải nghiệm người dùng.
  3. Bộ lọc hoạt ảnh vector thông minh cho camera điện thoại: Một tính năng camera trên điện thoại di động cho phép người dùng quay một video ngắn, sau đó hệ thống sẽ tự động phân tích chuyển động và nội dung trong video để tạo ra một hoạt ảnh vector Lottie tương ứng, có thể áp dụng làm bộ lọc hoặc hiệu ứng động cho ảnh/video đã chụp, mang lại trải nghiệm sáng tạo độc đáo.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.02138
ArXiv Abstracthttps://arxiv.org/abs/2603.02138
PDF Downloadhttps://arxiv.org/pdf/2603.02138.pdf
Github Repositoryhttps://github.com/OpenVGLab/OmniLottie

2. From Scale to Speed: Adaptive Test-Time Scaling for Image Editing (130 votes)​

Tác giả: Xiangyan Qu, Zhenlong Yuan, Jing Tang, Rui Chen, Datao Tang, Meng Yu, Lei Sun, Yancheng Bai, Xiangxiang Chu, Gaopeng Gou, Gang Xiong, Yujun Cai

Xuất bản lúc: 2026-02-24

Tag: Image editing, Test-time scaling, Image Chain-of-Thought (Image-CoT), Diffusion Models, MLLMs, Efficiency, Performance

I. Main Problem:​

Các phương pháp Image Chain-of-Thought (Image-CoT) hiện tại chủ yếu tập trung vào tạo ảnh từ văn bản (T2I) và không hiệu quả khi áp dụng cho chỉnh sửa ảnh. Việc này gây ra ba thách thức chính:

  1. Phân bổ tài nguyên không hiệu quả: Sử dụng ngân sách lấy mẫu cố định cho tất cả các chỉnh sửa, lãng phí tài nguyên tính toán cho những chỉnh sửa đơn giản.
  2. Xác minh giai đoạn đầu không đáng tin cậy: Dựa vào điểm MLLM chung để cắt tỉa sớm, dẫn đến việc loại bỏ nhầm các ứng cử viên tiềm năng cao vì không thể phân biệt chính xác các thay đổi tinh vi, cục bộ.
  3. Kết quả chỉnh sửa dư thừa: Lấy mẫu quy mô lớn thường tạo ra nhiều kết quả đúng nhưng giống hệt nhau, gây lãng phí tính toán không cần thiết vì chỉ cần một kết quả phù hợp với ý định là đủ.

II. Main Idea:​

Để giải quyết các vấn đề trên, chúng tôi đề xuất ADaptiveEdit-CoT (ADE-CoT), một khung test-time scaling theo yêu cầu nhằm nâng cao hiệu quả và chất lượng chỉnh sửa. ADE-CoT kết hợp ba chiến lược chính:

  1. Phân bổ tài nguyên dựa trên độ khó: Thay vì ngân sách cố định, ADE-CoT điều chỉnh động ngân sách lấy mẫu dựa trên ước tính độ khó của chỉnh sửa. Các chỉnh sửa đơn giản nhận ngân sách tối thiểu, trong khi các chỉnh sửa phức tạp sẽ được mở rộng tìm kiếm.
  2. Xác minh chỉnh sửa cụ thể trong cắt tỉa sớm: Để giảm thiểu sự đánh giá sai của điểm chung, chúng tôi giới thiệu các số liệu cụ thể cho chỉnh sửa, bao gồm độ chính xác của vị trí vùng chỉnh sửa và tính nhất quán của chú thích hướng dẫn, để chọn các ứng cử viên tiềm năng. Đồng thời, các ứng cử viên có độ tương đồng hình ảnh cao sẽ bị loại bỏ để tránh dư thừa.
  3. Dừng cơ hội theo chiều sâu: Để giảm kết quả dư thừa, chúng tôi áp dụng quy trình tạo theo chiều sâu. Các ứng cử viên được tạo tuần tự dựa trên điểm giai đoạn đầu của chúng, và quá trình này sẽ dừng khi tìm thấy đủ kết quả phù hợp với ý định, được hướng dẫn bởi một trình xác minh chuyên biệt cho từng trường hợp (instance-specific verifier) gồm hai giai đoạn.

III. Main Results:​

Các thử nghiệm rộng rãi trên ba mô hình chỉnh sửa SOTA (Step1X-Edit, BAGEL, FLUX.1 Kontext) và ba bộ dữ liệu benchmark cho thấy ADE-CoT đạt được sự cân bằng hiệu suất-hiệu quả vượt trội:

  • Với ngân sách lấy mẫu tương đương, ADE-CoT đạt hiệu suất tốt hơn với tốc độ tăng hơn 2 lần so với Best-of-N (BoN).
  • Cải thiện hiệu quả suy luận (η) hơn 2 lần so với BoN.
  • Tăng hiệu quả đầu ra (ξ) trung bình 4.9 lần trên GEdit-Bench, 2.7 lần trên AnyEdit và 2.9 lần trên Reason-Edit.
  • Các trình xác minh cụ thể cho chỉnh sửa giảm 63% lỗi đánh giá sai các mẫu có điểm cao trong giai đoạn cắt tỉa sớm.
  • Chiến lược dừng cơ hội giảm ít nhất 10% Số lần đánh giá hàm (NFE) với mức giảm chất lượng tối thiểu.
  • ADE-CoT hoạt động mạnh mẽ với các MLLM xác minh khác nhau và lợi ích của nó tăng theo khả năng của MLLM.

IV. Conclusion & Future Works:​

Trong nghiên cứu này, chúng tôi đề xuất ADE-CoT, một thuật toán test-time scaling theo yêu cầu để nâng cao chất lượng và hiệu quả trong chỉnh sửa ảnh. Chiến lược phân bổ tài nguyên dựa trên độ khó giúp điều chỉnh ngân sách tính toán, tránh lãng phí cho các chỉnh sửa đơn giản. Để cải thiện độ chính xác lựa chọn, chúng tôi giới thiệu xác minh cụ thể cho chỉnh sửa trong giai đoạn cắt tỉa sớm, giúp tìm ra các ứng cử viên tiềm năng cao một cách hiệu quả. Cuối cùng, cơ chế dừng cơ hội theo chiều sâu của chúng tôi kết thúc quá trình tạo khi tìm thấy đủ kết quả phù hợp với ý định, giảm thiểu sự dư thừa mà không làm giảm chất lượng. Các thí nghiệm rộng rãi cho thấy ADE-CoT đạt được tốc độ nhanh hơn 2 lần trong khi vẫn duy trì hiệu suất. Chúng tôi hy vọng công trình này cung cấp những hiểu biết mới về test-time scaling hiệu quả cho các tác vụ tạo ảnh theo mục tiêu.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng ADE-CoT cho các tác vụ tạo ảnh theo mục tiêu khác: Nghiên cứu hiện tại tập trung vào chỉnh sửa ảnh. Hướng nghiên cứu tiếp theo có thể khám phá việc áp dụng các chiến lược phân bổ tài nguyên thích ứng, xác minh cụ thể và dừng cơ hội cho các tác vụ tạo ảnh theo mục tiêu khác như tạo video, tạo tài sản 3D, hoặc tạo nội dung đa phương tiện có ràng buộc, nơi đầu ra bị giới hạn bởi yêu cầu cụ thể.
  2. Phát triển các trình xác minh chuyên biệt và thông minh hơn: Trình xác minh hiện tại sử dụng câu hỏi có/không. Các nghiên cứu trong tương lai có thể tập trung vào việc phát triển các trình xác minh tinh vi hơn, có khả năng giải thích, hoặc tự học để xác định các lỗi tinh vi hơn, có thể thông qua học tăng cường hoặc học chủ động, giúp nâng cao độ chính xác của việc đánh giá và lựa chọn.
  3. Tích hợp ADE-CoT với các tối ưu hóa thời gian huấn luyện: ADE-CoT là một phương pháp tối ưu hóa tại thời điểm suy luận. Một hướng nghiên cứu tiềm năng là kết hợp nó với các phương pháp tối ưu hóa mô hình khuếch tán trong quá trình huấn luyện (ví dụ: chưng cất tri thức, kiến trúc hiệu quả) để đạt được tốc độ và hiệu suất cao hơn nữa, tạo ra một giải pháp tối ưu hóa toàn diện từ huấn luyện đến suy luận.

2. Patent:​

  1. Hệ thống chỉnh sửa ảnh thông minh trên di động với hiệu quả thích ứng: Một tính năng ứng dụng di động cho phép người dùng chỉnh sửa ảnh một cách thông minh. Đối với các chỉnh sửa đơn giản (ví dụ: cắt, bộ lọc cơ bản), hệ thống sử dụng tài nguyên tối thiểu để có kết quả tức thì. Đối với các chỉnh sửa phức tạp (ví dụ: thay đổi tư thế đối tượng, thao tác nhiều đối tượng), hệ thống tự động phân bổ thêm sức mạnh xử lý nhưng sẽ dừng ngay khi tìm thấy một kết quả đạt yêu cầu, giúp tiết kiệm pin và thời gian xử lý trên điện thoại di động.
  2. Trợ lý "Sửa ảnh của tôi" được hỗ trợ bởi AI: Một tính năng tích hợp vào ứng dụng máy ảnh hoặc thư viện ảnh trên điện thoại di động. Người dùng có thể mô tả các thay đổi mong muốn (ví dụ: "làm cho con chó nhìn về phía trước", "loại bỏ vật thể thừa trong nền"). Hệ thống sẽ tạo ra nhiều tùy chọn, sử dụng các kiểm tra chuyên biệt để đảm bảo chỉnh sửa trông tự nhiên và tuân thủ hướng dẫn, sau đó chỉ hiển thị những tùy chọn tốt nhất, không dư thừa, giúp người dùng không phải xem qua nhiều kết quả tương tự.
  3. Công cụ tạo nội dung hình ảnh động cho mạng xã hội: Một công cụ tích hợp trong các ứng dụng mạng xã hội cho phép người dùng tạo hoặc chỉnh sửa hình ảnh/video dựa trên các gợi ý cụ thể. Công cụ này sẽ sử dụng một hệ thống nhận biết độ khó để nhanh chóng tạo nội dung cho các yêu cầu dễ dàng (ví dụ: "thêm mũ cho người này") và phân bổ thêm xử lý cho các tác vụ sáng tạo phức tạp, nhiều bước, dừng lại khi ý định sáng tạo của người dùng được đáp ứng, đảm bảo tạo nội dung nhanh chóng và phù hợp ngay trên thiết bị di động.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.00141
ArXiv Abstracthttps://arxiv.org/abs/2603.00141
PDF Downloadhttps://arxiv.org/pdf/2603.00141.pdf
Github RepositoryN/A

3. SWE-rebench V2: Language-Agnostic SWE Task Collection at Scale (75 votes)​

Tác giả: Ibragim Badertdinov, Maksim Nekrashevich, Anton Shevtsov, Alexander Golubev

Xuất bản lúc: 2026-02-27

Tag: SWE Agents, LLMs, Reinforcement Learning, Benchmarking, Dataset Generation, Language-Agnostic, Docker, Automated Pipeline

I. Main Problem:​

Việc huấn luyện tác nhân kỹ thuật phần mềm (SWE agents) bị hạn chế bởi sự khan hiếm các bộ sưu tập tác vụ quy mô lớn có môi trường thực thi tái lập và bộ thử nghiệm đáng tin cậy. Các tập dữ liệu hiện có thường hạn chế về quy mô, đa dạng, hoặc chỉ nhắm mục tiêu vào một số hệ sinh thái ngôn ngữ cao cấp. Việc xây dựng các môi trường này tốn kém và khó mở rộng trên nhiều ngôn ngữ lập trình do sự đa dạng của hệ thống xây dựng, quản lý phụ thuộc và trình chạy thử nghiệm. Ngoài ra, việc xác minh thủ công để đạt được các phiên bản thực thi có độ tin cậy cao đã hạn chế quy mô và tiện ích của chúng làm cơ sở huấn luyện.

II. Main Idea:​

Giới thiệu SWE-rebench V2, một quy trình tự động không phụ thuộc ngôn ngữ để thu thập các tác vụ kỹ thuật phần mềm thực tế có thể thực thi và xây dựng môi trường huấn luyện học tăng cường (RL) ở quy mô lớn. Quy trình này tổng hợp các thủ tục cài đặt và kiểm thử cụ thể cho từng kho lưu trữ thông qua một tác nhân thiết lập tương tác, đồng thời lọc các phiên bản không hợp lệ bằng cách sử dụng một tập hợp các giám khảo LLM. SWE-rebench V2 áp dụng cùng một quy trình xây dựng từ đầu đến cuối trên nhiều ngôn ngữ, dựa vào một bộ mẫu cụ thể cho từng ngôn ngữ (ảnh cơ sở, trình chạy và trình phân tích cú pháp) có thể tái sử dụng. Quy trình này bao gồm 5 giai đoạn chính: Thu thập dữ liệu sơ bộ, Tổng hợp thiết lập (với tác nhân tương tác), Xác thực dựa trên thực thi, Lọc theo độ rõ ràng của vấn đề (sử dụng LLM), và Làm giàu siêu dữ liệu.

III. Main Results:​

Dữ liệu được tạo ra với hơn 32.000 tác vụ SWE có thể thực thi từ hơn 3.600 kho lưu trữ trên 20 ngôn ngữ lập trình, đi kèm với các ảnh Docker được xây dựng sẵn để thực thi tái lập. Ngoài ra, nhóm nghiên cứu cũng phát hành hơn 120.000 tác vụ với hướng dẫn cài đặt, kiểm thử lỗi-sang-đạt và siêu dữ liệu phong phú, trong đó mô tả vấn đề được tạo ra dựa trên mô tả pull request ban đầu. Nghiên cứu chẩn đoán trên một tập hợp con các tác vụ ở 5 ngôn ngữ lập trình trên 7 mô hình phổ biến đã xác nhận các phiên bản thu thập và cung cấp siêu dữ liệu cấp độ phiên bản để gắn cờ các yếu tố gây nhiễu phổ biến (ví dụ: kiểm thử quá hạn chế, mô tả không rõ ràng). Các nghiên cứu cắt bỏ cho thấy các hệ thống tương tác (ví dụ: mini-SWE-agent với Qwen3-480B) vượt trội đáng kể so với các phương pháp không tương tác trong việc tổng hợp thiết lập, và việc tăng số lần thử cải thiện xác suất thành công. Việc lọc độ rõ ràng của vấn đề bằng LLM cũng được tối ưu hóa thông qua việc kết hợp các prompt và chiến lược tập hợp.

IV. Conclusion & Future Works:​

SWE-rebench V2 cung cấp một quy trình không phụ thuộc ngôn ngữ để xây dựng các tác vụ SWE có thể thực thi, tự động hóa toàn bộ quá trình từ khai thác pull request đến tổng hợp môi trường và lọc các phiên bản mà không cần xác minh thủ công. Dữ liệu bao gồm hơn 32.000 tác vụ liên kết vấn đề và hơn 120.000 tác vụ từ PR. Công trình này cũng cung cấp siêu dữ liệu chẩn đoán cấp độ phiên bản và các nghiên cứu cắt bỏ về tổng hợp thiết lập và lọc chất lượng.

Hạn chế: Công việc hiện tại không bao gồm các nghiên cứu cắt bỏ về huấn luyện tác nhân bằng cách sử dụng các tập dữ liệu được lọc khác nhau, cũng như thiết kế môi trường hiện tại chỉ nhắm mục tiêu đến các dự án có thể đóng gói vào một container Docker duy nhất, hạn chế phạm vi bao phủ các hệ thống phức tạp hơn.

Công việc tương lai: Mở rộng tập dữ liệu bằng cách tăng số lần thử thiết lập để có năng suất cao hơn, thêm các tập hợp con được tuyển chọn và tích hợp thêm các ngôn ngữ "long-tail". Tương lai sẽ tập trung vào việc mở rộng quy trình để hỗ trợ các tác vụ phức tạp, dài hạn (ví dụ: hệ thống đa dịch vụ) và làm giàu tín hiệu phần thưởng ngoài tính đúng đắn dựa trên thử nghiệm để bao gồm các yêu cầu phi chức năng có thể đo lường tự động như hiệu suất, độ trễ và hiệu quả bộ nhớ.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Đánh giá tác động của siêu dữ liệu chẩn đoán lên quá trình huấn luyện tác nhân SWE: Nghiên cứu định lượng cách các siêu dữ liệu chẩn đoán cấp độ phiên bản (ví dụ: khớp nối bộ thử nghiệm, yêu cầu đặt tên ngầm định, phụ thuộc bên ngoài) ảnh hưởng đến hiệu suất và sự mạnh mẽ của các tác nhân kỹ thuật phần mềm được huấn luyện bằng học tăng cường hoặc tinh chỉnh có giám sát. Điều này sẽ bao gồm các nghiên cứu cắt bỏ trên các tập dữ liệu được lọc khác nhau.
  2. Mở rộng quy trình tạo tác vụ cho các hệ thống đa dịch vụ và tác vụ dài hạn: Phát triển các phương pháp và kiến trúc mới để mở rộng quy trình SWE-rebench V2 nhằm thu thập và tạo môi trường huấn luyện cho các tác vụ kỹ thuật phần mềm phức tạp hơn, liên quan đến nhiều dịch vụ, cơ sở dữ liệu bên ngoài hoặc các thành phần hạ tầng khác mà hiện tại không thể đóng gói trong một Docker container đơn lẻ.
  3. Tích hợp các tín hiệu phần thưởng phi chức năng vào huấn luyện tác nhân SWE: Khám phá các phương pháp để làm giàu tín hiệu phần thưởng cho các tác nhân kỹ thuật phần mềm ngoài tính đúng đắn dựa trên thử nghiệm, bằng cách đưa vào các yêu cầu phi chức năng có thể đo lường tự động như hiệu suất, độ trễ và hiệu quả bộ nhớ, nhằm tạo ra các tác nhân tối ưu hóa mã toàn diện hơn.

2. Patent:​

  1. Hệ thống tự động sửa lỗi ứng dụng di động dựa trên phản hồi người dùng: Một ứng dụng hoặc dịch vụ trên điện thoại di động có khả năng theo dõi các sự cố (crash, lỗi) và phản hồi từ người dùng. Sử dụng một tác nhân phần mềm tự động để phân tích log lỗi, tạo ra các bản vá tiềm năng, và kiểm thử chúng trong một môi trường giả lập trên đám mây. Sau đó, bản vá đã được xác minh có thể được đề xuất cho nhà phát triển để triển khai nhanh chóng thông qua các bản cập nhật ứng dụng.
  2. Công cụ tối ưu hóa hiệu suất ứng dụng tự động trên thiết bị di động: Một tính năng tích hợp trong hệ điều hành di động hoặc công cụ phát triển ứng dụng cho phép phân tích hành vi của ứng dụng (ví dụ: mức tiêu thụ pin, RAM, độ trễ UI) trong quá trình sử dụng thực tế. Dựa trên dữ liệu này, một hệ thống AI sẽ tự động xác định các điểm nghẽn hiệu suất và đề xuất các thay đổi mã hoặc cấu hình để tối ưu hóa, có thể tự động tạo ra và kiểm tra các bản vá tối ưu hóa trong môi trường thử nghiệm.
  3. Hệ thống tạo và kiểm thử tính năng ứng dụng di động theo yêu cầu bằng ngôn ngữ tự nhiên: Người dùng hoặc nhà phát triển có thể mô tả một tính năng mới mong muốn cho ứng dụng di động bằng ngôn ngữ tự nhiên thông qua giao diện trên điện thoại. Một tác nhân AI sẽ phân tích mô tả này, tạo ra mã nguồn ban đầu cho tính năng đó, tự động cấu hình môi trường phát triển ảo, và tạo các bài kiểm thử để xác minh tính năng. Hệ thống này có thể chạy trên đám mây và trả về mã nguồn đã sẵn sàng để tích hợp vào dự án ứng dụng di động.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2602.23866
ArXiv Abstracthttps://arxiv.org/abs/2602.23866
PDF Downloadhttps://arxiv.org/pdf/2602.23866.pdf
Github Repositoryhttps://github.com/SWE-rebench/SWE-rebench-V2

4. RubricBench: Aligning Model-Generated Rubrics with Human Standards (51 votes)​

Tác giả: Qiyuan Zhang, Junyi Zhou, Yufei Wang, Fuyuan Lyu, Yidong Ming, Can Xu, Qingfeng Sun, Kai Zheng, Peng Kang, Xue Liu, Chen Ma

Xuất bản lúc: 2026-03-02

Tag: LLMs, Reward Models, Benchmarking, Evaluation, Alignment, Rubrics

I. Main Problem:​

Các Mô hình Thưởng (Reward Models - RMs) hiện tại, vốn rất quan trọng trong việc điều chỉnh Mô hình Ngôn ngữ Lớn (LLMs), có xu hướng ưu tiên sự phức tạp bề mặt hơn là thỏa mãn ý định thực sự của người dùng, dẫn đến các vấn đề như thiên vị dài dòng (verbosity bias) và "phá vỡ phần thưởng" (reward hacking). Mặc dù các mô hình thưởng tạo sinh (Generative Reward Models - GRMs) sử dụng suy luận chuỗi tư duy (Chain-of-Thought) để tạo ra lý do, nhưng các lý do này thường thiếu cơ sở chặt chẽ. Cộng đồng cũng thiếu một bộ tiêu chuẩn thống nhất để đánh giá phương pháp đánh giá dựa trên rubric (hệ thống tiêu chí chấm điểm), vì các bộ tiêu chuẩn hiện có không đủ độ phức tạp phân biệt và thiếu các chú thích rubric "ground-truth" cần thiết cho việc phân tích nghiêm ngặt.

II. Main Idea:​

Để giải quyết vấn đề này, nghiên cứu giới thiệu RubricBench, một bộ tiêu chuẩn được tuyển chọn bao gồm 1.147 cặp so sánh được thiết kế đặc biệt để đánh giá độ tin cậy của việc đánh giá dựa trên rubric. Việc xây dựng RubricBench sử dụng một quy trình lọc đa chiều để nhắm mục tiêu vào các mẫu khó, có độ phức tạp đầu vào tinh tế và thiên vị bề mặt gây hiểu lầm. Mỗi mẫu được bổ sung các rubric nguyên tử, được chú thích bởi chuyên gia, được suy ra nghiêm ngặt từ các hướng dẫn. RubricBench tuân thủ ba nguyên tắc thiết kế: (1) độ khó phân biệt (discriminative difficulty) để chống lại các mô hình dựa vào phán đoán nông cạn, (2) rubric được suy ra từ hướng dẫn (instruction derived) mà không có thông tin về phản hồi, và (3) xác minh nguyên tử (atomic verification) dưới dạng các ràng buộc nhị phân (Yes/No) độc lập.

III. Main Results:​

Các thí nghiệm toàn diện trên RubricBench đã đưa ra ba kết luận chính: (1) Tính hợp lệ của bộ thử nghiệm: RubricBench phân biệt hiệu quả hiệu suất của các RM; trong khi các RM và bộ đánh giá trước đây đạt độ chính xác khoảng 40-47%, các RM nhận biết rubric đạt mức ~58%. (2) Khoảng cách Rubric (The Rubric Gap) và sự khác biệt về hiệu quả: Có một khoảng cách độ chính xác nghiêm trọng 27% giữa rubric do mô hình tạo ra và rubric do con người chú thích. Rubric do con người tạo ra thể hiện hiệu quả nhất quán với quy mô, trong khi rubric do mô hình tạo ra gặp phải tình trạng giảm hiệu suất nghiêm trọng. Điều này chứng tỏ nút thắt cổ chai là chất lượng rubric, không thể giải quyết bằng cách mở rộng quy mô một cách ngây thơ. (3) Sự sai lệch nhận thức là nguyên nhân gốc rễ: Các RM hiện tại gặp khó khăn trong việc tìm ra các quy tắc ngầm mà các chuyên gia con người ưu tiên. Các mô hình giỏi trong việc kiểm tra các hướng dẫn rõ ràng nhưng thất bại trong việc tự mình xác định các ràng buộc cần thiết. Ngay cả với rubric do con người tạo, độ chính xác vẫn ổn định ở mức khoảng 85% do các lỗi thực thi như "soft-constraint fallacy" và "implicit re-weighting".

IV. Conclusion & Future Works:​

Nghiên cứu kết luận rằng RubricBench đã bóc trần những thiếu sót có hệ thống trong LLM với vai trò là người đánh giá, đặc biệt là "Khoảng cách Rubric" đáng kể. Nút thắt cổ chai trong việc điều chỉnh các mô hình thưởng đã chuyển từ việc xác minh các ưu tiên đơn giản sang khả năng phức tạp hơn là xác định và tuân thủ các tiêu chuẩn khách quan. Công trình này xác nhận hiệu quả của các mô hình thưởng nhận biết rubric và cung cấp nền tảng cần thiết để giải quyết những thiếu sót này, hướng tới sự phát triển của các mô hình thưởng đáng tin cậy và có nguyên tắc hơn. Hướng nghiên cứu trong tương lai cần tập trung vào "căn chỉnh rubric" (rubric alignment) – phát triển các phương pháp giúp mô hình nội hóa các hệ thống ưu tiên của con người, vượt ra ngoài việc mở rộng tổng hợp để tự động xác định các ràng buộc có giá trị cao, và thiết kế rubric có cấu trúc hơn (ví dụ: phân biệt ràng buộc cứng/mềm, gán trọng số rõ ràng) để thu hẹp khoảng cách thực thi.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Cải thiện khả năng suy luận quy tắc ngầm và an toàn cho mô hình đánh giá dựa trên Rubric Nghiên cứu các phương pháp mới (ví dụ: thông qua fine-tuning hoặc kiến trúc mô hình tiên tiến) để giúp LLM tự động suy ra các quy tắc ngầm (implicit rules) từ hướng dẫn người dùng, đặc biệt trong các kịch bản an toàn (safety) và phức tạp, thay vì chỉ tập trung vào các yêu cầu tường minh. Đồng thời, tập trung vào việc giảm tỷ lệ hallucination (tạo ra các tiêu chí không liên quan) của rubric do mô hình tạo ra.
  2. Thiết kế Rubric có cấu trúc để thu hẹp khoảng cách thực thi trong Mô hình Thưởng Khám phá các định dạng rubric nâng cao, bao gồm việc phân biệt ràng buộc "cứng" (hard constraints) và "mềm" (soft constraints), cũng như gán trọng số rõ ràng cho các tiêu chí đánh giá. Mục tiêu là cải thiện khả năng thực thi rubric của mô hình, giảm thiểu các lỗi như "soft-constraint fallacy" (xem ràng buộc cứng như mềm) hay "implicit re-weighting" (tự ý thay đổi trọng số tiêu chí), từ đó tăng độ chính xác của phán đoán cuối cùng.
  3. Đánh giá và tinh chỉnh mô hình thưởng dựa trên Rubric cho các miền chuyên biệt và tình huống "long-tail" Mở rộng RubricBench sang các miền dữ liệu chuyên biệt hơn (ví dụ: y tế, pháp lý, kỹ thuật chuyên sâu), không bị giới hạn bởi các tập dữ liệu công khai hiện có. Điều này nhằm kiểm tra và tinh chỉnh hiệu suất của mô hình đánh giá dựa trên rubric trong các tình huống "long-tail" và các lĩnh vực độc quyền, nơi độ phức tạp và yêu cầu chính xác cao hơn đáng kể.

2. Patent:​

  1. Hệ thống trợ lý soạn thảo thông minh tuân thủ tiêu chí cho thiết bị di động Một ứng dụng di động sử dụng trí tuệ nhân tạo để giúp người dùng soạn thảo email, tin nhắn hoặc tài liệu khác. Người dùng có thể nhập các tiêu chí mong muốn (ví dụ: "thể hiện sự lịch sự", "bao gồm 3 điểm chính", "không quá 100 từ"). AI sẽ tự động tạo ra một bộ tiêu chí đánh giá (rubric) dựa trên các yêu cầu này và sau đó tự đánh giá bản nháp của nó, đưa ra đề xuất chỉnh sửa để đảm bảo văn bản cuối cùng tuân thủ tất cả các yêu cầu, bao gồm cả các ràng buộc ngầm hoặc phong cách mà người dùng khó diễn đạt rõ ràng.
  2. Công cụ kiểm duyệt nội dung tự động dựa trên quy tắc cho nền tảng di động Một tính năng tích hợp vào các ứng dụng mạng xã hội hoặc nền tảng nội dung trên điện thoại di động. Hệ thống này sẽ tự động tạo ra một bộ quy tắc (rubric) dựa trên chính sách cộng đồng hoặc quy tắc an toàn đã định. Khi người dùng đăng tải nội dung (văn bản, hình ảnh, video), AI sẽ sử dụng rubric này để đánh giá và gắn cờ các vi phạm tiềm ẩn, cung cấp phản hồi rõ ràng về lý do vi phạm. Điều này giúp người dùng chỉnh sửa nội dung trước khi đăng hoặc hỗ trợ quá trình kiểm duyệt thủ công, tăng cường an toàn và tuân thủ quy định trên nền tảng.
  3. Trợ lý di động thông minh với khả năng tự đánh giá và điều chỉnh tác vụ Một trợ lý ảo trên điện thoại thông minh giúp người dùng hoàn thành các tác vụ phức tạp (ví dụ: "lên kế hoạch chuyến đi cuối tuần bao gồm đặt khách sạn, vé máy bay và lịch trình tham quan"). Trợ lý sẽ tự động tạo ra một checklist các bước cần thực hiện và các tiêu chí thành công (rubric). Trong quá trình thực hiện, nó sẽ tự động kiểm tra từng tiêu chí, xác định các lỗi hoặc thiếu sót (ví dụ: "chưa bao gồm phương tiện di chuyển"), và tự động điều chỉnh hoặc yêu cầu người dùng cung cấp thêm thông tin, đảm bảo tác vụ được hoàn thành một cách toàn diện và chính xác, giảm thiểu sự giám sát từ người dùng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.01562
ArXiv Abstracthttps://arxiv.org/abs/2603.01562
PDF Downloadhttps://arxiv.org/pdf/2603.01562.pdf
Github Repositoryhttps://github.com/planepig/rubricbench

5. OpenAutoNLU: Open Source AutoML Library for NLU (43 votes)​

Tác giả: Grigory Arshinov, Aleksandr Boriskin, Sergey Senichev, Ayaz Zaripov, Daria Galimzianova, Daniil Karpov, Leonid Sanochkin

Xuất bản lúc: 2026-03-02

Tag: NLU, AutoML, Text Classification, Named Entity Recognition, Few-shot learning, Fine-tuning, OOD detection, LLMs, Data Augmentation, Hyperparameter Optimization

I. Main Problem:​

Thách thức chính là việc triển khai các mô hình NLU hiệu quả cho phân loại văn bản và nhận dạng thực thể có tên. Các vấn đề bao gồm:

  • Phức tạp trong lựa chọn phương pháp: Người dùng phải điều hướng giữa nhiều phương pháp khác nhau (fine-tuning, few-shot, ML cổ điển với embeddings), mỗi phương pháp phù hợp với các chế độ dữ liệu và ràng buộc tài nguyên khác nhau.
  • Vấn đề chất lượng dữ liệu và độ nhạy siêu tham số: Các vấn đề về chất lượng dữ liệu, độ nhạy của siêu tham số, và nhu cầu phát hiện dữ liệu ngoài phân phối (OOD) trong môi trường sản xuất.
  • Khoảng trống trong các framework AutoML hiện có cho NLP:
    • Khó sử dụng: Nhiều framework yêu cầu cấu hình phức tạp, giao diện không thống nhất cho các tác vụ NLP phổ biến.
    • Thiếu thiết kế tập trung vào NLP: Không tích hợp tự động lựa chọn chế độ huấn luyện dựa trên kích thước và phân phối nhãn của tập dữ liệu, đánh giá chất lượng dữ liệu cụ thể cho văn bản, và hỗ trợ thống nhất cho cả phân loại văn bản và NER trong một API duy nhất.

II. Main Idea:​

OpenAutoNLU là một thư viện AutoML mã nguồn mở được thiết kế đặc biệt cho NLP, giải quyết các khoảng trống đã nêu thông qua kiến trúc ưu tiên văn bản, nhấn mạnh sự đơn giản, tự động hóa và khả năng tái sản xuất. Các ý tưởng chính bao gồm:

  • Lựa chọn chế độ huấn luyện tự động dựa trên dữ liệu: Tự động kiểm tra phân phối nhãn của tập dữ liệu và chọn phương pháp huấn luyện phù hợp nhất (AncSetFit cho dữ liệu rất ít, SetFit cho dữ liệu ít, và fine-tuning transformer đầy đủ với tối ưu hóa siêu tham số cho dữ liệu dồi dào).
  • Công cụ chẩn đoán chất lượng dữ liệu tích hợp: Cung cấp các công cụ như Retag, Uncertainty, V-Information và Dataset Cartography để xác định lỗi chú thích, sự mơ hồ và các mẫu dữ liệu kém chất lượng trước khi huấn luyện. Đối với NER, sử dụng Label Aggregation để phát hiện sự không đồng nhất trong chú thích từng token.
  • Phát hiện OOD có thể cấu hình: Mỗi phương pháp huấn luyện đều có một biến thể OOD đi kèm, có thể cấu hình thông qua một cờ duy nhất, hỗ trợ phát hiện OOD trong cả chế độ giám sát và không giám sát.
  • API thống nhất cho phân loại văn bản và NER: Cung cấp một API đơn giản, ít mã để phát triển nhanh các mô hình NLU.
  • Tăng cường dữ liệu và tạo tập kiểm thử tổng hợp bằng LLM: Khi số lượng ví dụ được gán nhãn thấp, thư viện có thể gọi một mô hình ngôn ngữ lớn bên ngoài để tổng hợp các mẫu huấn luyện hoặc đánh giá bổ sung, được hướng dẫn bởi phân tích miền tự động.
  • Tuần tự hóa mô hình sẵn sàng cho suy luận tối ưu: Hỗ trợ xuất mô hình sang định dạng ONNX và tự động phát hiện phần cứng có sẵn (CUDA, CoreML, CPU) để suy luận theo lô hiệu quả.

III. Main Results:​

OpenAutoNLU đã đạt được các kết quả nổi bật:

  • Hiệu suất cạnh tranh hoặc vượt trội: Thể hiện hiệu suất cạnh tranh hoặc vượt trội so với các framework AutoML hiện có (như AutoIntent, AutoGluon, LightAutoML, H2O) trên các bộ dữ liệu phân loại ý định tiêu chuẩn.
  • Hiệu suất trong chế độ OOD-unaware: Đạt được hiệu suất tốt nhất hoặc ngang bằng trên ba trong bốn bộ dữ liệu (HWU64, MASSIVE, SNIPS), và rất cạnh tranh trên Banking77, thường với chi phí tính toán thấp hơn đáng kể so với các đối thủ.
  • Phát hiện OOD hiệu quả: Trong chế độ OOD không giám sát, OpenAutoNLU đạt được sự cân bằng tổng thể tốt nhất giữa hiệu suất phân loại trong miền và phát hiện OOD, dẫn đầu về Macro F1 và OOD F1 trên Banking77, HWU64 và MASSIVE. Cơ chế OOD không giám sát của nó đã hiệu quả mà không cần giám sát OOD rõ ràng.
  • Ưu thế so với AutoIntent: Mặc dù AutoIntent được xây dựng riêng cho phân loại ý định, nó vẫn kém xa OpenAutoNLU trên cả bốn bộ dữ liệu.
  • Độ tin cậy của tập kiểm thử do LLM tạo: Các tập kiểm thử được tạo bởi LLM cho thấy điểm số đánh giá gần với điểm số trên tập kiểm thử thực tế trong các cài đặt tài nguyên thấp (lên đến 80 ví dụ mỗi lớp), biến chúng thành tín hiệu chất lượng đáng tin cậy.

IV. Conclusion & Future Works:​

OpenAutoNLU là một thư viện dễ sử dụng để sản xuất và phục vụ các mô hình NLU, cung cấp một giải pháp NLU ít mã, tích hợp tất cả trong một. Nó được chứng minh là cân bằng tốt về chi phí và chất lượng của các mô hình, đồng thời lớp phát hiện OOD của nó không chỉ độc đáo về khả năng cấu hình mà còn là tiên tiến nhất trong số các giải pháp có lớp OOD được triển khai.

Trong tương lai, công trình sẽ tiếp tục phân tích chiến lược tối ưu hóa xác định dựa trên dữ liệu bằng cách triển khai một meta-model có khả năng quyết định sự kết hợp tốt nhất giữa phương pháp huấn luyện, tăng cường dữ liệu và phương pháp OOD dựa trên các đặc trưng trừu tượng hơn của tập dữ liệu, chẳng hạn như dataset2vec.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển và đánh giá mô hình Meta-Learning cho lựa chọn chiến lược AutoML tự động trong NLU: Nghiên cứu thiết kế và triển khai một meta-model để tự động lựa chọn phương pháp huấn luyện, kỹ thuật tăng cường dữ liệu, và phương pháp phát hiện OOD tối ưu dựa trên các đặc trưng trừu tượng của tập dữ liệu (ví dụ: sử dụng dataset2vec). Đánh giá hiệu quả của meta-model này trên nhiều bộ dữ liệu và miền ngôn ngữ khác nhau, so sánh với các phương pháp lựa chọn dựa trên ngưỡng cố định.
  2. Cải thiện phát hiện Out-of-Distribution không giám sát cho các tác vụ NLU đa ngôn ngữ và đa miền: Khám phá các phương pháp mới để nâng cao khả năng phát hiện OOD không giám sát trong OpenAutoNLU, đặc biệt tập trung vào các bộ dữ liệu đa ngôn ngữ và các miền ứng dụng khác nhau. Nghiên cứu cách các kỹ thuật biểu diễn ngôn ngữ (embedding) ảnh hưởng đến hiệu suất OOD và cách tích hợp chúng một cách hiệu quả để tăng cường độ mạnh mẽ của hệ thống.
  3. Tối ưu hóa và đánh giá các chiến lược tăng cường dữ liệu dựa trên LLM cho NLU trong môi trường tài nguyên thấp: Nghiên cứu sâu hơn về các chiến lược tăng cường dữ liệu và tạo tập kiểm thử tổng hợp sử dụng mô hình ngôn ngữ lớn (LLM). Tập trung vào việc tối ưu hóa chi phí tính toán và độ chính xác của dữ liệu được tạo ra, đặc biệt trong các kịch bản tài nguyên thấp, và đánh giá hiệu quả của chúng trong việc cải thiện hiệu suất mô hình NLU so với các phương pháp tăng cường truyền thống.

2. Patent:​

  1. Hệ thống phân loại và bảo vệ tin nhắn thông minh trên điện thoại di động: Một công nghệ cho phép điện thoại di động tự động phân loại các tin nhắn đến (ví dụ: thư rác, tin nhắn giao dịch, tin nhắn từ người thân) mà không cần người dùng thiết lập phức tạp. Hệ thống này tự động điều chỉnh cách học dựa trên số lượng tin nhắn tương tự đã nhận, và đặc biệt có khả năng nhận diện và cảnh báo người dùng về những tin nhắn bất thường hoặc có dấu hiệu lừa đảo, giúp bảo vệ thông tin cá nhân và tài chính.
  2. Ứng dụng ghi chú và tổ chức thông tin giọng nói/văn bản cá nhân hóa: Một ứng dụng trên điện thoại thông minh cho phép người dùng ghi lại các cuộc trò chuyện, bài giảng, hoặc nhập văn bản. Ứng dụng sẽ tự động xác định và trích xuất các thông tin quan trọng như tên, địa điểm, thời gian, số điện thoại, và tóm tắt nội dung chính. Điểm độc đáo là ứng dụng có thể tự động học hỏi và cải thiện khả năng trích xuất dựa trên cách người dùng thường xuyên ghi chú và tổ chức thông tin, đồng thời đề xuất các cách để cải thiện chất lượng của dữ liệu ghi chú nếu phát hiện lỗi hoặc sự không rõ ràng.
  3. Công cụ tạo và điều chỉnh phản hồi thông minh cho giao tiếp di động: Một tính năng tích hợp trong các ứng dụng nhắn tin hoặc email trên điện thoại, cho phép người dùng nhanh chóng tạo hoặc chỉnh sửa các phản hồi. Dựa trên nội dung cuộc trò chuyện và phong cách giao tiếp của người dùng, công cụ này sử dụng trí tuệ nhân tạo để đề xuất các câu trả lời, tạo ra các phiên bản khác nhau của tin nhắn (ví dụ: trang trọng hơn, thân mật hơn) để phù hợp với từng tình huống. Công nghệ này tự động tối ưu hóa để đưa ra gợi ý nhanh chóng và chính xác trên thiết bị di động, đồng thời cảnh báo nếu một phản hồi được tạo ra có vẻ không phù hợp hoặc lạc đề so với ngữ cảnh.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.01824
ArXiv Abstracthttps://arxiv.org/abs/2603.01824
PDF Downloadhttps://arxiv.org/pdf/2603.01824.pdf
Github Repositoryhttps://github.com/mts-ai/OpenAutoNLU

6. MMR-Life: Piecing Together Real-life Scenes for Multimodal Multi-image Reasoning (42 votes)​

Tác giả: Jiachun Li, Shaoping Huang, Zhuoran Jin, Chenlong Zhang, Pengfei Cao, Yubo Chen, Kang Liu, Jun Zhao

Xuất bản lúc: 2026-03-02

Tag: MLLMs, Multimodal Reasoning, Benchmarking, Real-life Scenarios, Multi-image Reasoning, CoT, RL

I. Main Problem:​

Các Mô hình Ngôn ngữ Lớn Đa phương thức (MLLMs) vẫn chưa được khám phá đầy đủ về khả năng suy luận trong các tình huống đời thực đa dạng và thiếu các bộ benchmark tiêu chuẩn để đánh giá. Các benchmark hiện có thường dựa vào kiến thức chuyên môn hoặc các vấn đề tổng hợp, không phản ánh nhu cầu suy luận hàng ngày và thường chỉ sử dụng đầu vào một ảnh, bỏ qua việc tích hợp thông tin từ nhiều ảnh. Do đó, các MLLMs hiện tại gặp khó khăn đáng kể trong suy luận đa phương thức với nhiều hình ảnh, đặc biệt là trong các loại suy luận nhân quả (causal), không gian (spatial) và thời gian (temporal).

II. Main Idea:​

Để giải quyết những khoảng trống này, nghiên cứu giới thiệu MMR-Life, một bộ benchmark toàn diện được thiết kế để đánh giá khả năng suy luận đa phương thức, đa hình ảnh của MLLMs trong các tình huống đời thực. MMR-Life bao gồm 2.646 câu hỏi trắc nghiệm dựa trên 19.108 hình ảnh chủ yếu từ các ngữ cảnh đời thực, bao quát 7 loại suy luận: quy nạp (abductive), loại suy (analogical), nhân quả (causal), diễn dịch (deductive), quy nạp (inductive), không gian (spatial) và thời gian (temporal). Benchmark này không yêu cầu kiến thức chuyên môn mà đòi hỏi mô hình phải tích hợp thông tin từ nhiều hình ảnh và áp dụng các khả năng suy luận đa dạng. Ngoài ra, nghiên cứu còn tiến hành đánh giá 37 mô hình MLLM tiên tiến và phân tích các mô hình suy luận hiện có, bao gồm cách các yếu tố như độ dài suy nghĩ, phương pháp suy luận và loại suy luận ảnh hưởng đến hiệu suất của chúng.

III. Main Results:​

MMR-Life đặt ra một thách thức đáng kể cho các MLLMs. Ngay cả các mô hình hàng đầu như GPT-5 cũng chỉ đạt độ chính xác 58,69%, thấp hơn 14% so với hiệu suất của con người (72,28%). Các mô hình mã nguồn mở thường đạt dưới 40%. Các MLLMs thể hiện sự chênh lệch lớn về hiệu suất giữa các loại suy luận, hoạt động tương đối tốt trong suy luận loại suy, diễn dịch và quy nạp, nhưng gặp nhiều khó khăn trong suy luận nhân quả, không gian và thời gian (ví dụ, suy luận không gian chỉ đạt 25,10% so với 79,76% của con người). Các mô hình "thinking" mã nguồn mở mang lại cải thiện hạn chế, thậm chí kém hơn các mô hình không "thinking" mã nguồn mở. Hiệu suất suy luận tăng theo logarit với độ dài suy nghĩ, nhưng suy nghĩ dài hơn không phải lúc nào cũng tốt hơn cho tất cả các loại suy luận. Các phương pháp tăng cường suy luận như Self-Consistency (SC), Best-of-N (BoN), GRPO cho thấy hiệu quả giảm dần ở các mô hình lớn hơn, và học tăng cường (RL) thể hiện khả năng tổng quát hóa kém hơn BoN trên các mô hình nhỏ. Phân tích lỗi cho thấy lỗi suy luận chiếm ưu thế (32%), bao gồm lỗi đảo ngược nhân quả, nhầm lẫn thời gian và thiếu các bước chính, cùng với lỗi trừu tượng (17%), lỗi kiến thức (17%) và lỗi nhận thức (12%).

IV. Conclusion & Future Works:​

Nghiên cứu đã giới thiệu MMR-Life, một bộ benchmark mới để đánh giá khả năng suy luận đa phương thức của MLLMs trên bảy loại suy luận khác nhau bằng cách sử dụng nhiều hình ảnh đời thực làm đầu vào. Kết quả cho thấy các MLLMs hiện tại vẫn phải đối mặt với những thách thức đáng kể và sự mất cân bằng hiệu suất đáng chú ý giữa các loại suy luận khác nhau. Phân tích sâu hơn về các mô hình suy luận hiện tại đã làm sáng tỏ mối quan hệ giữa độ dài suy nghĩ, các phương pháp tăng cường và khả năng suy luận của MLLMs, đặt nền tảng cho việc phát triển các hệ thống AI có khả năng tổng quát hóa tốt hơn. Các hướng nghiên cứu trong tương lai cần tập trung vào việc cải thiện khả năng tổng quát hóa của các phương pháp học tăng cường trên các mô hình nhỏ, khắc phục các điểm yếu trong suy luận nhân quả, không gian và thời gian, cũng như tối ưu hóa việc cân bằng giữa hiệu quả suy luận và hiệu suất mô hình cho các MLLMs mã nguồn mở.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển các kiến trúc MLLM mới hoặc kỹ thuật huấn luyện tinh chỉnh (fine-tuning) chuyên biệt để cải thiện đáng kể khả năng suy luận không gian và thời gian trong các tình huống đời thực, tập trung vào việc học các biểu diễn trừu tượng của các mối quan hệ vật lý và chuỗi sự kiện.
  2. Nghiên cứu chuyên sâu về hiệu quả và khả năng tổng quát hóa của các phương pháp học tăng cường (Reinforcement Learning) trong việc nâng cao khả năng suy luận của các MLLM nhỏ, nhằm xác định các yếu tố dẫn đến overfitting và đề xuất các kỹ thuật huấn luyện bền vững hơn.
  3. Thiết kế các chiến lược suy nghĩ (thinking strategies) động cho MLLMs, cho phép mô hình tự động điều chỉnh độ dài và phương pháp suy nghĩ (ví dụ: Chain-of-Thought ngắn gọn cho suy luận quy nạp, dài hơn cho suy luận loại suy) dựa trên loại suy luận và độ phức tạp của nhiệm vụ để tối ưu hóa hiệu suất và hiệu quả tính toán.

2. Patent:​

  1. Hệ thống trợ lý ảnh thông minh cho điện thoại di động: Một tính năng tích hợp trong ứng dụng thư viện ảnh của điện thoại, sử dụng khả năng phân tích nhiều hình ảnh liên tiếp để tự động sắp xếp các bức ảnh theo trình tự thời gian chính xác của một sự kiện (ví dụ: một chuyến đi, một buổi tiệc). Hệ thống có thể nhận diện các đối tượng hoặc người di chuyển qua các ảnh và suy luận về "câu chuyện" đằng sau chuỗi ảnh, giúp người dùng dễ dàng tạo album kỷ niệm và xem lại các khoảnh khắc theo đúng diễn biến.
  2. Ứng dụng hướng dẫn lắp ráp/sửa chữa vật dụng qua camera điện thoại: Một ứng dụng sử dụng camera của điện thoại để chụp một loạt hình ảnh về các bộ phận hoặc các bước của một quy trình lắp ráp/sửa chữa. Dựa trên khả năng suy luận đa hình ảnh, ứng dụng có thể xác định thứ tự đúng của các bước, nhận diện các lỗi lắp ráp tiềm ẩn (ví dụ: sai vị trí của một bộ phận) và cung cấp hướng dẫn trực quan, từng bước cho người dùng. Nó sẽ chỉ ra mối quan hệ không gian giữa các bộ phận và dự đoán kết quả của các hành động.
  3. Hệ thống cảnh báo và dự đoán hành vi giao thông cho người đi bộ/lái xe bằng điện thoại: Một ứng dụng sử dụng camera của điện thoại (hoặc camera tích hợp trên xe) để liên tục phân tích chuỗi hình ảnh từ môi trường xung quanh. Hệ thống sẽ áp dụng suy luận nhân quả và thời gian để dự đoán các tình huống giao thông tiềm ẩn nguy hiểm (ví dụ: một chiếc xe chuẩn bị rẽ, người đi bộ băng qua đường) và cảnh báo người dùng kịp thời. Nó có thể theo dõi chuyển động của các đối tượng và suy luận về ý định của chúng để đưa ra cảnh báo chính xác hơn.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.02024
ArXiv Abstracthttps://arxiv.org/abs/2603.02024
PDF Downloadhttps://arxiv.org/pdf/2603.02024.pdf
Github Repositoryhttps://github.com/BugMakerzzz/MMR-Life

7. CHIMERA: Compact Synthetic Data for Generalizable LLM Reasoning (42 votes)​

Tác giả: Xinyu Zhu, Yihao Feng, Yanchao Sun, Xianzhi Du, Pingzhi Li, Olli Saarikivi, Yun Zhu, Yu Meng

Xuất bản lúc: 2026-03-01

Tag: LLMs, Synthetic Data, Reasoning, Chain-of-Thought, SFT, RL, Data Generation

I. Main Problem:​

Nghiên cứu này giải quyết ba thách thức cơ bản liên quan đến dữ liệu cản trở việc phát triển khả năng suy luận tổng quát của LLM trong các môi trường mở và có khả năng mở rộng:

  1. Vấn đề khởi động nguội (cold-start problem): Thiếu các bộ dữ liệu khởi tạo với các chuỗi suy luận (Chain-of-Thought - CoT) dài và chi tiết để huấn luyện các mô hình suy luận.
  2. Phạm vi miền hạn chế: Hầu hết các bộ dữ liệu suy luận mã nguồn mở hiện có tập trung vào toán học, với phạm vi hạn chế đối với các lĩnh vực khoa học rộng lớn hơn.
  3. Nút thắt cổ chai chú thích (annotation bottleneck): Độ khó của các nhiệm vụ suy luận ở cấp độ tiên tiến khiến việc chú thích thủ công đáng tin cậy trở nên quá tốn kém hoặc không khả thi.

II. Main Idea:​

Các tác giả giới thiệu CHIMERA, một bộ dữ liệu suy luận tổng hợp nhỏ gọn gồm 9K mẫu, được thiết kế để hỗ trợ khả năng suy luận tổng quát trên nhiều miền. CHIMERA được xây dựng dựa trên ba thuộc tính chính:

  1. Cung cấp các chuỗi suy luận CoT dài, phong phú được tổng hợp bởi các mô hình suy luận tiên tiến.
  2. Có phạm vi bao phủ rộng và có cấu trúc, trải dài 8 lĩnh vực khoa học chính và hơn 1K chủ đề chi tiết được tổ chức thông qua một phân loại phân cấp do mô hình tạo ra.
  3. Sử dụng một quy trình đánh giá hoàn toàn tự động, có khả năng mở rộng, sử dụng các mô hình suy luận mạnh mẽ để kiểm tra chéo cả tính hợp lệ của vấn đề và tính đúng đắn của câu trả lời, loại bỏ sự phụ thuộc vào chú thích của con người.

Quy trình tạo dữ liệu gồm ba giai đoạn:

  • Giai đoạn 1: Mở rộng chủ đề (Subject Expansion) - Mở rộng các chủ đề hạt nhân thành hệ thống phân loại chủ đề toàn diện.
  • Giai đoạn 2: Tạo vấn đề (Problem Generation) - Tạo các vấn đề rõ ràng, khép kín và dễ kiểm chứng với câu trả lời tương ứng.
  • Giai đoạn 3: Tổng hợp giải pháp (Solution Synthesis) - Tạo các chuỗi suy luận chi tiết và gán nhãn tính đúng đắn của chúng.

III. Main Results:​

Khi hậu huấn luyện một mô hình Qwen3 4B bằng cách kết hợp SFT và RL trên CHIMERA, mô hình đã đạt được hiệu suất mạnh mẽ trên một bộ các điểm chuẩn suy luận đầy thách thức, bao gồm GPQA-Diamond, AIME 24/25/26, HMMT 25 và Humanity’s Last Exam. Đáng chú ý, mô hình 4B này đạt hiệu suất suy luận tiếp cận hoặc sánh ngang với các mô hình lớn hơn đáng kể như DeepSeek-R1 và Qwen3-235B, mặc dù bộ dữ liệu có kích thước khiêm tốn.

Các kết quả chính:

  • CHIMERA giúp cải thiện đáng kể hiệu suất suy luận trên nhiều điểm chuẩn (ví dụ: GPQA-Diamond +4.3, AIME24 +5.3, HMMT Feb 25 +6.5, HMMT Nov 25 +9.7, HLE +1.7).
  • Mô hình cơ sở Qwen3-4B chỉ đạt 37.5% độ chính xác trên CHIMERA, cho thấy bộ dữ liệu này có độ khó cao hơn đáng kể so với các bộ dữ liệu tổng hợp khác (đạt khoảng 88%).
  • Trong các đánh giá mù, các vấn đề do LLM tạo ra được đánh giá có chất lượng tương đương với các vấn đề do con người tạo ra về độ rõ ràng, tính đặt vấn đề tốt và chiều sâu suy luận.
  • Phân tích cho thấy không có sự trùng lặp đáng kể về mặt từ vựng giữa dữ liệu huấn luyện tổng hợp và các điểm chuẩn đánh giá, loại trừ khả năng rò rỉ dữ liệu.

IV. Conclusion & Future Works:​

Nghiên cứu kết luận rằng các rào cản liên quan đến dữ liệu đối với việc hậu huấn luyện suy luận có thể được giảm nhẹ thông qua dữ liệu tổng hợp được thiết kế cẩn thận. CHIMERA, một bộ dữ liệu nhỏ gọn nhưng chất lượng cao, đã chứng minh rằng dữ liệu tổng hợp có cấu trúc, chất lượng cao, chứ không chỉ riêng quy mô, đóng vai trò trung tâm trong việc kích hoạt khả năng suy luận hiệu quả trong các LLM.

Hướng phát triển trong tương lai có thể bao gồm:

  • Nghiên cứu các phương pháp tiên tiến hơn để tạo ra dữ liệu tổng hợp có độ khó và phạm vi bao phủ cao hơn nữa.
  • Mở rộng CHIMERA sang các miền đa phương thức (multimodal) để hỗ trợ suy luận phức tạp hơn.
  • Khám phá các kỹ thuật tinh chỉnh hiệu quả hơn để tận dụng tối đa dữ liệu tổng hợp nhỏ gọn cho các mô hình có kích thước khác nhau.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phân tích ảnh hưởng của kích thước và cấu trúc dữ liệu tổng hợp đến hiệu suất suy luận của LLM: Một nghiên cứu sâu hơn về mối quan hệ giữa độ "nhỏ gọn" (compactness) của dữ liệu tổng hợp CHIMERA và khả năng suy luận đạt được trên các mô hình LLM có kích thước khác nhau, bao gồm cả các mô hình rất nhỏ và rất lớn.
  2. Mở rộng CHIMERA sang dữ liệu suy luận đa phương thức: Phát triển một phiên bản CHIMERA mới hỗ trợ suy luận trên các dữ liệu đa phương thức (ví dụ: kết hợp văn bản, hình ảnh, âm thanh), sử dụng các mô hình tạo sinh đa phương thức để tạo ra các vấn đề và chuỗi CoT tương ứng.
  3. Tự động hóa hoàn toàn việc tạo phân loại chủ đề và vấn đề: Nghiên cứu các phương pháp để tự động tạo ra các hệ thống phân loại chủ đề chi tiết và các vấn đề suy luận chất lượng cao mà không cần bất kỳ chủ đề hạt nhân (seed subjects) nào do con người cung cấp, nhằm đạt được phạm vi bao phủ miền tối đa.

2. Patent:​

  1. Hệ thống gia sư AI cá nhân hóa trên điện thoại di động: Một ứng dụng di động sử dụng công nghệ tạo dữ liệu tổng hợp của CHIMERA để tạo ra các bài toán suy luận (ví dụ: toán học, vật lý, hóa học) và lời giải chi tiết, từng bước phù hợp với trình độ và nhu cầu học tập của từng người dùng. Ứng dụng sẽ tự động điều chỉnh độ khó và chủ đề của bài toán dựa trên tiến độ của người học, cung cấp trải nghiệm học tập được cá nhân hóa cao.
  2. Công cụ xác thực nội dung giáo dục tự động cho người tạo khóa học: Một tiện ích trên điện thoại thông minh hoặc máy tính bảng cho phép giáo viên, giảng viên nhập các bài toán hoặc câu hỏi phức tạp. Hệ thống sử dụng các mô hình AI mạnh mẽ để tự động kiểm tra tính hợp lệ, rõ ràng của câu hỏi và tính đúng đắn của đáp án, đồng thời gợi ý các bước giải chi tiết, giúp họ tạo ra nội dung giáo dục chất lượng cao mà không cần chuyên gia đánh giá thủ công.
  3. Trợ lý khoa học di động với khả năng giải thích suy luận sâu: Một ứng dụng trên điện thoại di động cho phép người dùng đặt các câu hỏi khoa học hoặc các vấn đề tính toán phức tạp. Thay vì chỉ đưa ra câu trả lời, ứng dụng sẽ tạo ra một chuỗi suy luận (Chain-of-Thought) chi tiết, từng bước để giải thích cách đạt được đáp án, giúp người dùng không chỉ biết "cái gì" mà còn hiểu "tại sao" trong các lĩnh vực khoa học khác nhau.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.00889
ArXiv Abstracthttps://arxiv.org/abs/2603.00889
PDF Downloadhttps://arxiv.org/pdf/2603.00889.pdf
Github RepositoryN/A

8. VGGT-Det: Mining VGGT Internal Priors for Sensor-Geometry-Free Multi-View Indoor 3D Object Detection (33 votes)​

Tác giả: Yang Cao, Feize Wu, Dave Zhenyu Chen, Yingji Zhong, Lanqing Hong, Dan Xu

Xuất bản lúc: 2026-03-01

Tag: Multi-view 3D Object Detection, Sensor-Geometry-Free, Transformer, VGGT, Deep Learning, Computer Vision

I. Main Problem:​

Các bộ phát hiện vật thể 3D trong nhà đa góc nhìn hiện tại phụ thuộc vào thông tin hình học từ cảm biến (ví dụ: tư thế camera đa góc nhìn được hiệu chuẩn chính xác hoặc thông tin độ sâu), vốn rất tốn kém để thu thập và hạn chế khả năng triển khai trong các cảnh thực tế. Bài báo này hướng tới một thiết lập thực tế hơn: phát hiện vật thể 3D trong nhà đa góc nhìn không cần thông tin hình học từ cảm biến (SG-Free), nơi không có đầu vào hình học nào từ cảm biến (tư thế đa góc nhìn hoặc độ sâu). Thiết lập này rất thách thức vì nó loại bỏ các đầu vào hình học quan trọng.

II. Main Idea:​

VGGT-Det là framework đầu tiên được thiết kế riêng cho việc phát hiện vật thể 3D trong nhà đa góc nhìn SG-Free. Thay vì chỉ sử dụng các dự đoán từ VGGT, phương pháp này tích hợp bộ mã hóa VGGT đã được huấn luyện trước vào một pipeline dựa trên transformer. Để tận dụng hiệu quả cả các tiên nghiệm ngữ nghĩa và hình học từ bên trong VGGT, VGGT-Det giới thiệu hai thành phần chính:

  1. Attention-Guided Query Generation (AG): Khai thác bản đồ chú ý của VGGT làm tiên nghiệm ngữ nghĩa để khởi tạo các truy vấn đối tượng, cải thiện khả năng định vị bằng cách tập trung vào các vùng đối tượng trong khi vẫn duy trì cấu trúc không gian toàn cục. AG cân bằng giữa chú ý ngữ nghĩa và sự phân tán không gian.
  2. Query-Driven Feature Aggregation (QD): Giới thiệu một "See-Query" có thể học được, tương tác với các truy vấn đối tượng để "hiểu" những gì chúng cần, sau đó tổng hợp động các đặc trưng hình học đa cấp từ các lớp VGGT, vốn dần dần nâng các đặc trưng 2D lên 3D.

III. Main Results:​

VGGT-Det vượt trội đáng kể so với phương pháp tốt nhất trong thiết lập SG-Free với 4.4 mAP@0.25 trên ScanNet và 8.6 mAP@0.25 trên ARKitScenes. Nghiên cứu cắt bỏ (ablation study) cho thấy các tiên nghiệm ngữ nghĩa và hình học được học bên trong VGGT có thể được AG và QD tận dụng hiệu quả. AG cải thiện hiệu suất thêm 2.8 điểm mAP@0.25 trên ScanNet so với baseline. QD cải thiện hiệu suất thêm 2.7 điểm mAP@0.25 trên ScanNet khi kết hợp với AG. Phương pháp này đạt được thời gian tính toán tương đương với MVSDet nhưng giảm đáng kể mức sử dụng bộ nhớ (3.57 GB so với 13.81 GB). Hiệu suất tăng lên khi số lượng khung hình đầu vào nhiều hơn, đạt đến độ bão hòa khoảng 80 khung hình.

IV. Conclusion & Future Works:​

Bài báo giới thiệu một thiết lập thực tế hơn: phát hiện vật thể 3D không cần thông tin hình học từ cảm biến (SG-Free), loại bỏ sự phụ thuộc vào các đầu vào hình học từ cảm biến. Để giải quyết vấn đề này, các tác giả đã tận dụng bộ mã hóa VGGT để xây dựng một kiến trúc backbone dựa trên transformer. Hai đổi mới chính được đề xuất là Attention-Guided Query Generation (AG) và Query-Driven Feature Aggregation (QD). AG sử dụng các tiên nghiệm ngữ nghĩa nội bộ từ cơ chế chú ý của VGGT để tạo ra các truy vấn đối tượng tập trung vào các vùng đối tượng trong khi vẫn duy trì cấu trúc không gian toàn cục. QD tổng hợp thích ứng các đặc trưng hình học đa cấp thông qua tương tác động với các truy vấn đối tượng. Các thí nghiệm rộng rãi cho thấy VGGT-Det vượt trội đáng kể so với các phương pháp mạnh trong thiết lập SG-Free trên cả ScanNet và ARKitScenes. Các nghiên cứu cắt bỏ cũng xác nhận rằng AG và QD tận dụng hiệu quả các tiên nghiệm đã học từ VGGT được huấn luyện trước.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng phát hiện vật thể 3D SG-Free từ môi trường trong nhà sang môi trường ngoài trời hoặc các môi trường động phức tạp hơn, giải quyết các thách thức về quy mô và đa dạng cảnh.
  2. Khám phá việc khai thác các tiên nghiệm ẩn khác từ các mô hình nền tảng được huấn luyện trước (ngoài VGGT) để cải thiện khả năng suy luận 3D và phát hiện đối tượng trong các thiết lập SG-Free.
  3. Nghiên cứu các phương pháp tối ưu hóa để giảm chi phí tính toán và mức tiêu thụ bộ nhớ của các framework phát hiện 3D SG-Free, nhằm cho phép triển khai thời gian thực trên các thiết bị tài nguyên hạn chế.

2. Patent:​

  1. Một ứng dụng di động cho phép người dùng chụp ảnh hoặc quay video trong nhà và tự động phát hiện, định vị chính xác các vật thể 3D (ví dụ: đồ nội thất, thiết bị) mà không cần bất kỳ cảm biến độ sâu hoặc hiệu chuẩn camera phức tạp nào. Ứng dụng này sử dụng một mô hình AI để tập trung vào các khu vực quan trọng về mặt ngữ nghĩa trong hình ảnh, giúp cải thiện độ chính xác khi tìm kiếm và xác định vật thể.
  2. Một tính năng trên điện thoại di động giúp cải thiện trải nghiệm thực tế tăng cường (AR) bằng cách cho phép các đối tượng ảo tương tác chính xác hơn với môi trường thực. Hệ thống này sẽ tự động tổng hợp thông tin hình ảnh từ nhiều cấp độ khác nhau để xây dựng hiểu biết 3D chính xác về các vật thể và không gian xung quanh, ngay cả khi điện thoại không có cảm biến chuyên dụng, giúp các ứng dụng AR trở nên sống động và chân thực hơn.
  3. Một hệ thống trên điện thoại di động để tạo mô hình 3D của các không gian trong nhà hoặc vật thể chỉ bằng cách sử dụng camera thông thường. Hệ thống này sẽ tự động suy ra hình dạng 3D và nhận diện các vật thể mà không cần hiệu chuẩn thủ công hoặc cảm biến độ sâu chuyên biệt, giúp người dùng dễ dàng tạo các chuyến tham quan ảo, mô hình sản phẩm 3D cho thương mại điện tử hoặc bố cục không gian.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.00912
ArXiv Abstracthttps://arxiv.org/abs/2603.00912
PDF Downloadhttps://arxiv.org/pdf/2603.00912.pdf
Github Repositoryhttps://github.com/yangcaoai/VGGT-Det-CVPR2026

9. CMI-RewardBench: Evaluating Music Reward Models with Compositional Multimodal Instruction (32 votes)​

Tác giả: Yinghao Ma, Haiwen Xia, Hewei Gao, Weixiong Chen, Yuxin Ye, Yuchen Yang, Sungkyun Chang, Mingshuo Ding, Yizhi Li, Ruibin Yuan, Simon Dixon, Emmanouil Benetos

Xuất bản lúc: 2026-02-28

Tag: Music Generation, Reward Models, Multimodal Learning, Benchmarking, Preference Learning, RLHF

I. Main Problem:​

Các cơ chế đánh giá cho các mô hình tạo nhạc đã không theo kịp sự phát triển của chúng, đặc biệt khi các mô hình này có thể xử lý các đầu vào đa phương thức phức tạp như văn bản, lời bài hát và âm thanh tham chiếu. Việc phát triển các mô hình đánh giá này bị cản trở bởi sự khan hiếm dữ liệu chất lượng cao, vì các tập dữ liệu hiện có không nắm bắt được sự phù hợp với hướng dẫn tạo ra. Các phương pháp đánh giá truyền thống còn rời rạc, chỉ tập trung vào các thuộc tính riêng lẻ hoặc dựa trên các giả định đầu vào cứng nhắc, không thể đánh giá tính âm nhạc và sự tuân thủ hướng dẫn một cách linh hoạt trong các điều kiện đa phương thức có tính tổng hợp.

II. Main Idea:​

Bài báo này giới thiệu CMI-RewardBench, một hệ sinh thái toàn diện để mô hình hóa phần thưởng âm nhạc dưới hướng dẫn đa phương thức có tính tổng hợp (CMI). CMI-RewardBench bao gồm:

  • CMI-Pref-Pseudo: Một tập dữ liệu ưu tiên quy mô lớn với 110 nghìn mẫu được gán nhãn giả bằng Qwen3-Omni.
  • CMI-Pref: Một tập dữ liệu chất lượng cao với 4.027 cặp được chú thích thủ công bởi các chuyên gia.
  • CMI-RewardBench: Một benchmark thống nhất để đánh giá các mô hình phần thưởng âm nhạc trên các mẫu không đồng nhất về tính âm nhạc, sự phù hợp giữa văn bản-âm nhạc và sự phù hợp với hướng dẫn tổng hợp. Các tác giả đã phát triển CMI reward models (CMI-RMs), một họ mô hình phần thưởng hiệu quả về tham số, có khả năng xử lý các đầu vào không đồng nhất. CMI-RM sử dụng kiến trúc hai tháp đa phương thức với các bộ mã hóa MuQ-MuLan đóng băng, một Prompt Transformer để hợp nhất đầu vào hướng dẫn và một Joint Transformer để xử lý tương tác giữa hướng dẫn và âm thanh được tạo, sau đó là MLP để dự đoán điểm tính âm nhạc (MUS) và sự phù hợp (ALI). Mô hình được huấn luyện theo hai giai đoạn: tiền huấn luyện ưu tiên trên CMI-Pref-Pseudo và tinh chỉnh chuyên gia trên CMI-Pref và MusicEval. CMI-RM cũng được chứng minh là có thể mở rộng quy mô hiệu quả trong thời gian suy luận thông qua cơ chế lọc top-k.

III. Main Results:​

CMI-RM thể hiện khả năng tổng quát hóa mạnh mẽ và tương quan chặt chẽ với đánh giá của con người. Cụ thể:

  • Đánh giá tính âm nhạc: CMI-RM đạt hiệu suất tiên tiến trên tập con nhạc PAM (SRCC 0.6988) và trên CMI-Pref (78.20% độ chính xác).
  • Hiệu suất so với MLLM đa năng: Các MLLM đa năng như Gemini 3 Pro và Qwen3-Omni gặp khó khăn trong đánh giá âm nhạc chi tiết, với độ chính xác thấp hơn đáng kể (ví dụ, Gemini 3 Pro đạt 65.80% so với CMI-RM 78.20% trên CMI-Pref).
  • Sự phù hợp với hướng dẫn đa phương thức: CMI-RM cung cấp một giải pháp thống nhất cho các điều khiển tạo nhạc đa dạng và đa phương thức, đạt 79.20% độ chính xác trên các tác vụ tập trung vào âm thanh (với Âm thanh) và 82.40% trên các điều kiện tổng hợp đầy đủ (Văn bản + Lời bài hát + Âm thanh) trong CMI-Pref.
  • Hiệu quả của dữ liệu huấn luyện: Việc tiền huấn luyện bằng nhãn giả (Distill) mang lại lợi ích đáng kể trên tất cả các benchmark, và việc tinh chỉnh trên dữ liệu CMI-Pref là yếu tố chính thúc đẩy khả năng tổng quát hóa.
  • Mở rộng quy mô thời gian suy luận: CMI-RM cho phép mở rộng quy mô hiệu quả trong thời gian suy luận thông qua lọc top-k, mang lại lợi ích nhất quán trên các mô hình nền tảng, đặc biệt là MusicGen-small.

IV. Conclusion & Future Works:​

CMI-RewardBench và CMI-RM đã thành công trong việc tạo ra một benchmark thống nhất và các mô hình phần thưởng âm nhạc hiệu quả để đánh giá khả năng tạo nhạc dưới hướng dẫn đa phương thức tổng hợp, đồng thời tiết lộ những khoảng cách năng lực rõ ràng của các mô hình LLM đa phương thức hiện tại. CMI-RM, với kiến trúc hiệu quả về tham số, không chỉ cạnh tranh mà còn vượt trội hơn các baseline mã nguồn mở chuyên biệt và mang lại lợi ích đáng kể khi được sử dụng để lọc top-N.

Hướng nghiên cứu tương lai:

  • Cải thiện khả năng tổng quát hóa của mô hình phần thưởng trên các tập dữ liệu và miền âm nhạc đa dạng hơn, nhằm giải quyết các trường hợp dữ liệu ít được đại diện.
  • Phát triển các phương pháp tối ưu hóa trực tiếp mô hình tạo nhạc bằng cách sử dụng CMI-RM làm chức năng phần thưởng, vượt ra ngoài các chiến lược lọc đơn giản để thu hẹp khoảng cách với chất lượng dữ liệu thực.
  • Nghiên cứu các kiến trúc mô hình phần thưởng tiên tiến hơn, có thể xử lý hiệu quả hơn các tương tác phức tạp giữa văn bản, lời bài hát và âm thanh tham chiếu trong các hướng dẫn tổng hợp.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Cải thiện khả năng tổng quát hóa của mô hình phần thưởng âm nhạc trên các tập dữ liệu đa dạng hơn: Nghiên cứu cách tích hợp các tập dữ liệu huấn luyện đa dạng hơn và các kỹ thuật học chuyển giao tiên tiến để CMI-RM có thể duy trì hiệu suất cao trên các miền âm nhạc, phong cách và ngôn ngữ ít được đại diện hơn.
  2. Phát triển các chiến lược tối ưu hóa mô hình phần thưởng cho các tác vụ tạo nhạc đa phương thức: Khám phá các phương pháp mới để tối ưu hóa trực tiếp các mô hình tạo nhạc bằng cách sử dụng CMI-RM làm chức năng phần thưởng, vượt ra ngoài việc lọc top-k đơn giản, để tạo ra âm nhạc chất lượng cao hơn và tuân thủ hướng dẫn tốt hơn, đặc biệt tập trung vào việc giảm khoảng cách với dữ liệu thực.
  3. Nghiên cứu các kiến trúc mô hình phần thưởng hiệu quả hơn cho các hướng dẫn đa phương thức có tính chất tổng hợp: Thiết kế các kiến trúc CMI-RM mới có thể xử lý hiệu quả hơn các tổ hợp hướng dẫn phức tạp (văn bản, lời bài hát, âm thanh tham chiếu), có thể bao gồm các cơ chế chú ý hoặc hợp nhất phương thức động tiên tiến để nắm bắt mối quan hệ phức tạp giữa các phương thức.

2. Patent:​

  1. Hệ thống tạo nhạc cá nhân hóa trên điện thoại di động: Một ứng dụng di động cho phép người dùng tạo nhạc bằng cách cung cấp các mô tả văn bản, lời bài hát hoặc đoạn âm thanh tham chiếu (ví dụ: một giai điệu huýt sáo). Ứng dụng sẽ sử dụng một mô hình đánh giá tích hợp để tự động chọn phiên bản nhạc chất lượng cao nhất và phù hợp nhất với ý định của người dùng từ nhiều lựa chọn được tạo ra, sau đó cho phép người dùng tinh chỉnh hoặc chia sẻ.
  2. Công cụ chỉnh sửa và nâng cao âm nhạc thông minh: Một tính năng trong ứng dụng chỉnh sửa âm thanh di động cho phép người dùng tải lên một bản nhạc và cung cấp các hướng dẫn bằng văn bản hoặc lời bài hát để cải thiện chất lượng âm nhạc (ví dụ: "làm cho nó vui tươi hơn", "thêm một đoạn điệp khúc phù hợp với lời này"). Hệ thống sẽ sử dụng mô hình phần thưởng để đánh giá và áp dụng các chỉnh sửa tự động, đảm bảo rằng kết quả cuối cùng có tính âm nhạc cao và tuân thủ các yêu cầu của người dùng.
  3. Trợ lý sáng tác lời bài hát và giai điệu: Một ứng dụng di động giúp các nhạc sĩ hoặc người dùng bình thường sáng tác bài hát. Người dùng có thể nhập lời bài hát và ứng dụng sẽ đề xuất các giai điệu hoặc đoạn nhạc phù hợp. Ngược lại, nếu người dùng có một đoạn giai điệu (ghi âm qua micrô), ứng dụng có thể đề xuất lời bài hát phù hợp. Mô hình phần thưởng sẽ đảm bảo rằng các đề xuất có sự hòa hợp về mặt âm nhạc và khớp với ý nghĩa hoặc cảm xúc của lời bài hát/giai điệu gốc.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.00610
ArXiv Abstracthttps://arxiv.org/abs/2603.00610
PDF Downloadhttps://arxiv.org/pdf/2603.00610.pdf
Github RepositoryN/A

10. CoVe: Training Interactive Tool-Use Agents via Constraint-Guided Verification (21 votes)​

Tác giả: Jinpeng Chen, Cheng Gong, Hanbo Li, Ziru Liu, Zichen Tian, Xinyu Fu, Shi Wu, Chenyang Zhang, Wu Zhang, Suiyun Zhang, Dandan Tu, Rui Liu

Xuất bản lúc: 2026-03-02

Tag: LLMs, Tool-Use Agents, Data Synthesis, Reinforcement Learning, Supervised Fine-Tuning, Multi-turn Interaction

I. Main Problem:​

Việc phát triển các tác nhân sử dụng công cụ tương tác đa lượt thoại (multi-turn interactive tool-use agents) gặp nhiều thách thức. Nhu cầu của người dùng trong thế giới thực thường phức tạp, ngụ ý và mơ hồ, trong khi các công cụ cơ bản (API) lại yêu cầu các hành động xác định và đối số chính xác. Việc thu thập dữ liệu huấn luyện chất lượng cao cho các tác nhân này là một nút thắt lớn, vì việc chú thích thủ công rất tốn kém và không thể mở rộng. Các phương pháp tổng hợp dữ liệu hiện có dựa trên LLM thường không đảm bảo tính khả thi của các truy vấn hoặc tính chính xác tuyệt đối của việc xác minh quỹ đạo, và có xu hướng tạo ra các tác vụ đơn giản, hạn chế sự xuất hiện của các mẫu phức tạp.

II. Main Idea:​

CoVe (Constraint-Verification) là một framework tổng hợp dữ liệu sau huấn luyện mới được thiết kế để huấn luyện các tác nhân sử dụng công cụ tương tác, đảm bảo cả độ phức tạp và tính chính xác của dữ liệu. CoVe bắt đầu bằng cách định nghĩa các ràng buộc nhiệm vụ tường minh, đóng vai trò kép: hướng dẫn tạo ra các quỹ đạo phức tạp và hoạt động như các trình xác minh xác định để đánh giá chất lượng quỹ đạo. Quá trình này bao gồm: 1) Lấy mẫu ràng buộc (Constraint Sampling) để thiết lập các mục tiêu xác định, 2) Làm mờ ràng buộc (Constraint Fuzzification) để mô phỏng sự mơ hồ trong các yêu cầu của người dùng thực, 3) Tương tác đa lượt thoại (Multi-turn Interaction) giữa một LLM giả lập người dùng và tác nhân, và 4) Xác minh (Verification) dựa trên các ràng buộc gốc như một danh sách kiểm tra xác định để kiểm tra tính chính xác của các lệnh gọi công cụ. Framework này hỗ trợ cả Huấn luyện Tinh chỉnh có Giám sát (SFT) bằng cách giữ lại các quỹ đạo hoàn toàn chính xác và Học Tăng cường (RL) bằng cách cung cấp tín hiệu phần thưởng chính xác.

III. Main Results:​

Framework CoVe đã được đánh giá trên bộ benchmark τ2-bench đầy thách thức (trong các miền Hàng không và Bán lẻ). Mô hình CoVe-4B nhỏ gọn của chúng tôi đạt tỷ lệ thành công 43.0% trong miền Hàng không và 59.4% trong miền Bán lẻ, với tỷ lệ thành công trung bình (pass1) là 51.2%. CoVe-4B vượt trội đáng kể so với các mô hình nền tảng mạnh mẽ có quy mô tương tự và cạnh tranh với các mô hình lớn gấp 17 lần về kích thước (ví dụ: xLAM-2-70b-fc-r). Dữ liệu được tổng hợp bởi CoVe-5K (chỉ chiếm ~5.5% khối lượng dữ liệu) đã đạt điểm trung bình cao hơn một chút so với Simia-90K (44.7% so với 44.3%), chứng minh hiệu quả của việc tổng hợp dữ liệu chất lượng cao. Phương pháp SFT thuần túy đạt hiệu suất cao nhất (51.2%), vượt trội so với RL thuần túy (40.7%) và SFT+RL (46.9%) do hạn chế về môi trường trong giai đoạn RL.

IV. Conclusion & Future Works:​

CoVe là một framework tổng hợp dữ liệu sau huấn luyện mới, giải quyết các thách thức cơ bản trong việc phát triển các tác nhân sử dụng công cụ tương tác đa lượt thoại. Bằng cách neo chặt quá trình tạo dữ liệu vào các ràng buộc nhiệm vụ tường minh, CoVe thu hẹp khoảng cách giữa bản chất mơ hồ của các yêu cầu người dùng thực và các yêu cầu thực thi xác định của công cụ. Framework sử dụng làm mờ ràng buộc để tạo ra các cuộc đối thoại đa lượt phức tạp, thực tế, đồng thời tận dụng các ràng buộc gốc làm danh sách kiểm tra xác định để đảm bảo tính chính xác tuyệt đối của việc xác minh quỹ đạo. Các đánh giá rộng rãi trên τ2-bench cho thấy hiệu quả vượt trội và khả năng sử dụng dữ liệu hiệu quả của CoVe. Để mở khóa toàn bộ tiềm năng của RL và vượt qua hiệu suất SFT thuần túy, các hướng nghiên cứu trong tương lai bao gồm: 1) sử dụng các mô hình User Simulator LLM mạnh hơn, 2) huấn luyện một mô hình User Simulator chuyên biệt, và 3) tinh chỉnh User Simulator hiện có thông qua prompt engineering. Ngoài ra, nghiên cứu trong tương lai sẽ mở rộng framework CoVe sang các miền bổ sung (ví dụ: Telecom) và các bộ benchmark tương tác đa lượt thoại khác (ví dụ: BFCL) để kiểm tra khả năng tổng quát hóa của framework.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển các mô hình User Simulator tiên tiến: Nghiên cứu việc sử dụng các LLM mạnh hơn làm User Simulator hoặc đào tạo một mô hình User Simulator chuyên biệt sử dụng dữ liệu hội thoại đã thu thập để cải thiện chất lượng và sự đa dạng của dữ liệu huấn luyện cho tác nhân sử dụng công cụ.
  2. Tối ưu hóa pipeline SFT+RL: Khắc phục hạn chế của việc kết hợp SFT và RL bằng cách cải tiến môi trường giả lập trong RL (ví dụ: sử dụng các mô hình giả lập người dùng mạnh hơn hoặc kỹ thuật prompt engineering để cải thiện tín hiệu chấm dứt hội thoại) nhằm khai thác toàn bộ tiềm năng của RL.
  3. Mở rộng khả năng tổng quát hóa của CoVe: Áp dụng và đánh giá framework CoVe trên các miền ứng dụng mới (ví dụ: Telecom) và các bộ benchmark khác ngoài τ2-bench (ví dụ: BFCL) để kiểm tra tính tổng quát và khả năng thích ứng của nó trong các kịch bản tương tác phức tạp.

2. Patent:​

  1. Hệ thống trợ lý ảo thông minh cho điện thoại di động với khả năng tự học cải thiện giao tiếp: Một hệ thống trên điện thoại di động giúp người dùng tương tác với các dịch vụ khác (ví dụ: đặt vé máy bay, mua sắm trực tuyến) thông qua hội thoại tự nhiên. Hệ thống này tự động tạo ra các kịch bản tương tác phức tạp dựa trên các mục tiêu rõ ràng (ví dụ: "mua một chiếc áo sơ mi xanh cỡ M") và sau đó biến đổi các mục tiêu đó thành các yêu cầu mơ hồ, giống như cách người dùng thực sự nói chuyện (ví dụ: "tôi muốn mua một chiếc áo"). Nó sẽ ghi lại cách trợ lý ảo của điện thoại phản hồi và sử dụng các mục tiêu ban đầu để kiểm tra xem trợ lý có thực hiện đúng tất cả yêu cầu hay không. Nếu trợ lý hoàn thành tốt, hệ thống sẽ lưu lại kịch bản đó để huấn luyện trợ lý ảo trở nên thông minh hơn trong việc hiểu và thực hiện các yêu cầu phức tạp từ người dùng, đặc biệt là khi các yêu cầu không rõ ràng ngay từ đầu.
  2. Công cụ tạo dữ liệu huấn luyện tự động cho ứng dụng thương mại điện tử trên điện thoại: Một phần mềm hoặc dịch vụ nền tảng di động cho phép các nhà phát triển ứng dụng thương mại điện tử tự động tạo ra hàng ngàn kịch bản tương tác khách hàng-trợ lý ảo chất lượng cao. Thay vì phải thuê người tạo dữ liệu thủ công, công cụ này sẽ bắt đầu bằng việc xác định các mục tiêu cụ thể (ví dụ: "hủy đơn hàng X, đổi sản phẩm Y trong đơn hàng Z"). Sau đó, nó sẽ tự động tạo ra các cuộc hội thoại giữa một "người dùng ảo" và "trợ lý ảo" của ứng dụng, trong đó người dùng ảo đưa ra các yêu cầu một cách tự nhiên, không rõ ràng. Cuối cùng, công cụ sẽ dùng các mục tiêu ban đầu để kiểm tra tính chính xác của mọi thao tác mà trợ lý ảo thực hiện. Chỉ những kịch bản hoàn hảo mới được dùng để huấn luyện, giúp trợ lý ảo của ứng dụng hiểu rõ hơn các yêu cầu phức tạp của khách hàng và thực hiện chúng một cách chính xác.
  3. Hệ thống kiểm tra chất lượng tự động cho chatbot dịch vụ khách hàng trên điện thoại: Một hệ thống trên điện thoại thông minh hoặc máy chủ liên kết với nó, có khả năng tự động kiểm tra và đánh giá hiệu quả của các chatbot dịch vụ khách hàng. Hệ thống này hoạt động bằng cách định nghĩa trước các "nhiệm vụ" cụ thể (ví dụ: "khách hàng muốn trả lại sản phẩm A vì lỗi B"). Sau đó, nó tạo ra các kịch bản tương tác giả lập trong đó "khách hàng ảo" trò chuyện với chatbot, đưa ra các yêu cầu mơ hồ và dần dần làm rõ thông tin. Sau khi cuộc trò chuyện kết thúc, hệ thống sẽ sử dụng các nhiệm vụ ban đầu làm "danh sách kiểm tra" để xác định xem chatbot đã thực hiện đúng tất cả các yêu cầu và tránh các thao tác thừa thãi hay không. Kết quả kiểm tra này giúp các công ty nhanh chóng xác định và cải thiện các điểm yếu của chatbot, đảm bảo rằng chúng luôn cung cấp dịch vụ chính xác và hiệu quả cho người dùng điện thoại.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.01940
ArXiv Abstracthttps://arxiv.org/abs/2603.01940
PDF Downloadhttps://arxiv.org/pdf/2603.01940.pdf
Github RepositoryN/A

11. PhotoBench: Beyond Visual Matching Towards Personalized Intent-Driven Photo Retrieval (20 votes)​

Tác giả: Tianyi Xu, Rong Shan, Junjie Wu, Jiadeng Huang, Teng Wang, Jiachen Zhu, Wenteng Chen, Minxin Tu, Quantao Dou, Zhaoxiang Wang, Changwang Zhang, Weinan Zhang, Jun Wang, Jianghao Lin

Xuất bản lúc: 2026-03-02

Tag: PhotoBench, Personalized Photo Retrieval, Intent-Driven Retrieval, Multimodal Retrieval, Agentic Systems, Unified Embeddings, Modality Gap, Source Fusion Paradox, LLMs, MLLMs

I. Main Problem:​

Các benchmark truy xuất ảnh hiện có chủ yếu dựa vào ảnh chụp web bị cô lập khỏi ngữ cảnh, không thể nắm bắt khả năng suy luận đa nguồn cần thiết để giải quyết các truy vấn chân thực, theo ý định của người dùng trong album ảnh cá nhân. Album ảnh cá nhân là kho lưu trữ sống động, được định nghĩa bởi tính liên tục theo thời gian, sự gắn kết xã hội và siêu dữ liệu phong phú, khiến việc truy xuất ảnh cá nhân hóa trở nên phức tạp. Các hạn chế chính bao gồm thiếu tính chân thực sinh thái (thiếu tính liên tục theo thời gian và siêu dữ liệu phong phú) và ý định người dùng nông cạn (truy vấn không nắm bắt được sự gắn kết đa nguồn và ý định người dùng đang phát triển).

II. Main Idea:​

Để giải quyết vấn đề này, nhóm tác giả giới thiệu PhotoBench, một benchmark đầu tiên được xây dựng từ các album cá nhân chân thực. PhotoBench được thiết kế để chuyển đổi mô hình từ khớp nối hình ảnh sang suy luận đa nguồn theo ý định cá nhân hóa. Dựa trên một khung hồ sơ đa nguồn nghiêm ngặt, tích hợp ngữ nghĩa hình ảnh, siêu dữ liệu không gian-thời gian, danh tính xã hội và các sự kiện theo thời gian cho mỗi hình ảnh, nhóm tác giả tổng hợp các truy vấn phức tạp theo ý định bắt nguồn từ quỹ đạo cuộc sống của người dùng. Quá trình này bao gồm khai thác và xác minh ground truth toàn diện, cũng như tạo ra các truy vấn zero-ground-truth để đánh giá khả năng từ chối của hệ thống. PhotoBench đánh giá cả các mô hình nhúng thống nhất và các hệ thống truy xuất dựa trên tác nhân (agentic systems).

III. Main Results:​

Đánh giá trên PhotoBench đã bộc lộ hai hạn chế quan trọng: 1) Modality Gap: Các mô hình nhúng thống nhất sụp đổ khi truy vấn yêu cầu các ràng buộc phi hình ảnh chính xác (Metadata hoặc Face), cho thấy chúng hoạt động chủ yếu như công cụ tính toán độ tương đồng hình ảnh chứ không phải công cụ suy luận đa nguồn toàn diện. 2) Source Fusion Paradox: Mặc dù các hệ thống tác nhân được trang bị công cụ bên ngoài hoạt động tốt hơn các mô hình nhúng, nhưng chúng thể hiện sự suy giảm hiệu suất phi tuyến tính khi độ phức tạp của truy vấn tăng lên, do khả năng điều phối công cụ và thỏa mãn ràng buộc kém. Các hệ thống tác nhân đạt điểm F1 cao hơn trên các truy vấn thông thường so với hệ thống di động, nhưng các hệ thống di động lại thể hiện Reject-Recall tốt hơn trên các truy vấn Zero-GT (khả năng từ chối chính xác). Mô hình nhúng vẫn cạnh tranh trên các truy vấn tổng hợp có chứa thuật ngữ hình ảnh do "hiệu ứng neo hình ảnh" (visual-anchor effect), trong khi các hệ thống tác nhân có thể gặp khó khăn trong việc điều phối công cụ phức tạp.

IV. Conclusion & Future Works:​

PhotoBench là một benchmark chẩn đoán chuyển đổi việc đánh giá truy xuất ảnh di động từ khớp nối hình ảnh sang suy luận đa nguồn, theo ý định. Nó đã làm lộ ra những hạn chế quan trọng của các mô hình và hệ thống truy xuất hiện có, đặc biệt là Modality Gap và Source Fusion Paradox. Tương lai của việc truy xuất đa phương thức cá nhân, đặc biệt là cho các kịch bản album ảnh, không chỉ nằm ở việc xây dựng các mô hình nhúng thống nhất mạnh mẽ hơn mà còn ở việc phát triển các hệ thống suy luận tác nhân mạnh mẽ và nhẹ, có khả năng thỏa mãn ràng buộc chính xác, từ chối chủ động và hợp nhất đáng tin cậy các tín hiệu cá nhân hóa, không đồng nhất.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu về phát triển các hệ thống tác nhân suy luận mạnh mẽ, nhẹ để truy xuất đa phương thức cá nhân, tập trung vào khả năng điều phối công cụ hiệu quả và thỏa mãn ràng buộc chính xác trên các tín hiệu không đồng nhất.
  2. Khám phá các cơ chế từ chối chủ động (proactive abstention) cho các hệ thống truy xuất đa phương thức để cải thiện độ tin cậy và ngăn chặn "ảo giác truy xuất" (retrieval hallucination) khi không có kết quả phù hợp.
  3. Phát triển các phương pháp để thu hẹp "Modality Gap" trong các mô hình nhúng thống nhất, cho phép chúng mã hóa và xử lý hiệu quả hơn các ràng buộc phi hình ảnh như siêu dữ liệu không gian-thời gian và danh tính xã hội.

2. Patent:​

  1. Tìm kiếm ảnh thông minh dựa trên ngữ cảnh cá nhân cho điện thoại di động: Một tính năng trên điện thoại di động cho phép người dùng tìm kiếm ảnh bằng cách kết hợp mô tả hình ảnh với thông tin ngữ cảnh cá nhân như thời gian (ví dụ: "ảnh bữa tiệc sinh nhật năm ngoái"), địa điểm theo ngữ nghĩa (ví dụ: "ảnh ở quán cà phê tôi hay đến") và người liên quan (ví dụ: "ảnh chụp cùng mẹ ở công viên"). Hệ thống sẽ sử dụng siêu dữ liệu ảnh và hồ sơ xã hội để hiểu truy vấn và cung cấp kết quả chính xác.
  2. Hệ thống đề xuất ảnh "không tồn tại" thông minh: Một chức năng trên điện thoại di động giúp người dùng khi họ tìm kiếm một bức ảnh không tồn tại. Thay vì chỉ báo "không tìm thấy", hệ thống sẽ phân tích ý định của truy vấn và đề xuất các bức ảnh liên quan gần nhất hoặc thông báo một cách lịch sự rằng bức ảnh với các điều kiện cụ thể đó không có trong album, có thể gợi ý lý do (ví dụ: "Không tìm thấy ảnh của bạn ở Paris vào tháng 10, nhưng có ảnh của bạn ở Paris vào tháng 7.").
  3. Tổ chức album ảnh tự động bằng đồ thị quan hệ xã hội: Một hệ thống trên điện thoại di động tự động phát hiện và nhóm các khuôn mặt trong ảnh, sau đó gán các vai trò xã hội có thể có (ví dụ: "gia đình", "bạn bè", "đồng nghiệp") dựa trên tần suất xuất hiện và ngữ cảnh. Người dùng có thể tìm kiếm ảnh dựa trên các nhóm xã hội này hoặc xem album được tổ chức theo các mối quan hệ, giúp dễ dàng tìm lại những khoảnh khắc với những người quan trọng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.01493
ArXiv Abstracthttps://arxiv.org/abs/2603.01493
PDF Downloadhttps://arxiv.org/pdf/2603.01493.pdf
Github Repositoryhttps://github.com/LaVieEnRose365/PhotoBench

12. LLaDA-o: An Effective and Length-Adaptive Omni Diffusion Model (19 votes)​

Tác giả: Zebin You, Xiaolu Zhang, Jun Zhou, Chongxuan Li, Ji-Rong Wen

Xuất bản lúc: 2026-03-01

Tag: Diffusion Models, Multimodal AI, Generative AI, Language Models, Vision-Language Models, Attention Mechanisms

I. Main Problem:​

Các mô hình ngôn ngữ khuếch tán (diffusion language models) vẫn chưa được khai thác triệt để với vai trò là các mô hình 'omni' (toàn năng) cho việc hiểu và tạo đa phương thức. Thách thức chính là văn bản và hình ảnh yêu cầu các động lực khuếch tán khác nhau (khuếch tán có mặt nạ cho văn bản rời rạc, khuếch tán liên tục cho hình ảnh). Việc huấn luyện chung một cách trực tiếp các phương thức này trong một mô hình khuếch tán dày đặc thường không hiệu quả do không khớp mục tiêu và nhiễu gradient, dẫn đến tối ưu hóa không ổn định và hiệu suất dưới mức tối ưu. Ngoài ra, các mô hình khuếch tán omni hiện có thường giả định độ dài cố định cho việc hiểu, hạn chế khả năng ứng dụng trong các cài đặt mở.

II. Main Idea:​

Nhóm nghiên cứu đề xuất LLaDA-o, một mô hình khuếch tán omni hiệu quả và thích ứng độ dài cho việc hiểu và tạo đa phương thức. LLaDA-o được xây dựng trên một khung "Mixture of Diffusion" (MoD) giải phóng các quy trình khuếch tán phù hợp với từng phương thức thành các chuyên gia chuyên biệt (khuếch tán có mặt nạ cho văn bản/token mã hóa hình ảnh, khuếch tán liên tục cho token tiềm ẩn hình ảnh). Các chuyên gia này được kết nối thông qua một kiến trúc attention chung, đơn giản và hiệu quả. Dựa trên MoD, LLaDA-o còn giới thiệu chiến lược thích ứng độ dài tập trung vào dữ liệu, cho phép giải mã độ dài linh hoạt trong các cài đặt đa phương thức mà không cần thay đổi kiến trúc. Một cơ chế chú ý hai chiều nội phương thức hiệu quả cũng được đề xuất để giảm tính toán dư thừa và tăng tốc độ suy luận.

III. Main Results:​

LLaDA-o đạt hiệu suất dẫn đầu trong số các mô hình khuếch tán omni trên các tiêu chuẩn hiểu và tạo đa phương thức. Cụ thể, nó đạt 87.04 trên DPG-Bench cho tác vụ tạo văn bản thành hình ảnh, vượt trội so với các mô hình thế hệ trước. Trong các tiêu chuẩn hiểu đa phương thức, LLaDA-o cũng đạt kết quả dẫn đầu trong số các mô hình khuếch tán omni, đặc biệt là trong lý luận toán học (MathVista) và hiểu biểu đồ/tài liệu (ChartQA). Về hiệu quả, cơ chế chú ý hai chiều nội phương thức của LLaDA-o đạt được tốc độ tăng 5.9 lần so với LLaDA-V. Chiến lược thích ứng độ dài cũng được chứng minh là hiệu quả, cho phép tạo ra nội dung có độ dài phù hợp với đầu vào thay vì kích thước khối cố định.

IV. Conclusion & Future Works:​

LLaDA-o là một mô hình khuếch tán omni thích ứng độ dài, cung cấp nền tảng vững chắc cho việc hiểu và tạo đa phương thức. Với khung Mixture of Diffusion, kiến trúc attention chung hiệu quả và chiến lược huấn luyện thích ứng độ dài tập trung vào dữ liệu, LLaDA-o cho phép huấn luyện đa phương thức ổn định và tạo ra nội dung có độ dài linh hoạt. Nhóm nghiên cứu tin rằng khi các mô hình khuếch tán có mặt nạ tiếp tục phát triển trong mô hình hóa ngôn ngữ, LLaDA-o sẽ cung cấp một nền tảng đầy hứa hẹn cho các phương pháp khuếch tán omni trong tương lai.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng khung MoD cho đa phương thức mới: Nghiên cứu cách mở rộng khung Mixture of Diffusion (MoD) để tích hợp và xử lý các phương thức dữ liệu khác ngoài văn bản và hình ảnh, như âm thanh, video hoặc dữ liệu 3D, mỗi loại có động lực khuếch tán riêng biệt nhưng vẫn chia sẻ một kiến trúc attention hiệu quả.
  2. Chiến lược thích ứng độ dài nâng cao cho đầu ra đa phương thức phức tạp: Phát triển các chiến lược thích ứng độ dài tinh vi hơn cho việc tạo ra các chuỗi đầu ra đa phương thức phức tạp và xen kẽ (ví dụ: tạo hình ảnh, sau đó là mô tả văn bản, rồi lại hình ảnh). Điều này có thể bao gồm các cơ chế chuyển đổi động giữa các chuyên gia hoặc các tín hiệu kết thúc phức tạp hơn.
  3. Tối ưu hóa kiến trúc attention chung cho thiết bị biên: Khám phá các phương pháp tối ưu hóa kiến trúc attention chung (shared attention backbone) để đạt hiệu suất cực cao trên các thiết bị di động hoặc thiết bị biên. Điều này có thể bao gồm việc nghiên cứu các kỹ thuật attention thưa, kiến trúc thân thiện với phần cứng, hoặc các phương pháp lượng tử hóa để giảm yêu cầu tính toán và năng lượng.

2. Patent:​

  1. Ứng dụng tạo ảnh thông minh với văn bản đa dạng độ dài trên điện thoại: Một hệ thống trên điện thoại di động cho phép người dùng nhập các mô tả văn bản có độ dài bất kỳ (từ ngắn gọn đến rất chi tiết) để tạo ra hình ảnh chất lượng cao. Công nghệ này sẽ tự động điều chỉnh độ dài của văn bản đầu vào và quá trình tạo ảnh để đảm bảo kết quả phù hợp và sắc nét, ngay cả với các mô tả phức tạp, mà không yêu cầu người dùng phải định dạng lại văn bản hay chọn các tùy chọn độ dài cố định.
  2. Trợ lý đa phương thức hiểu và phản hồi linh hoạt trên di động: Một trợ lý ảo trên điện thoại có khả năng xử lý đồng thời cả văn bản và hình ảnh từ người dùng, đồng thời đưa ra phản hồi dưới dạng văn bản có độ dài tự điều chỉnh. Ví dụ, người dùng có thể chụp ảnh một đối tượng và hỏi "Mô tả cái này chi tiết nhất có thể" hoặc "Cho biết tên ngắn gọn của nó". Hệ thống sẽ sử dụng cơ chế giải mã độ dài thích ứng để cung cấp câu trả lời chi tiết hoặc ngắn gọn tùy theo ngữ cảnh và yêu cầu, tối ưu hóa trải nghiệm tương tác.
  3. Hệ thống tối ưu hóa hiệu suất AI đa phương thức trên thiết bị di động: Một phương pháp phần mềm và phần cứng tích hợp trên điện thoại để giảm đáng kể tài nguyên tính toán khi chạy các tác vụ AI đa phương thức (như hiểu hình ảnh và tạo văn bản, hoặc tạo hình ảnh từ văn bản). Hệ thống này sẽ sử dụng một kiến trúc chia tách tác vụ (ví dụ: một phần cho văn bản, một phần cho hình ảnh) nhưng chia sẻ một bộ xử lý chú ý chung hiệu quả, cho phép các ứng dụng AI chạy nhanh hơn và tiêu thụ ít pin hơn trên thiết bị, đặc biệt khi xử lý các điều kiện đầu vào cố định.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.01068
ArXiv Abstracthttps://arxiv.org/abs/2603.01068
PDF Downloadhttps://arxiv.org/pdf/2603.01068.pdf
Github Repositoryhttps://github.com/ML-GSAI/LLaDA-o

13. WorldStereo: Bridging Camera-Guided Video Generation and Scene Reconstruction via 3D Geometric Memories (15 votes)​

Tác giả: Yisu Zhang, Chenjie Cao, Tengfei Wang, Xuhui Zuo, Junta Wu, Jianke Zhu, Chunchao Guo

Xuất bản lúc: 2026-03-02

Tag: Video Diffusion Models, 3D Reconstruction, Camera Control, Multi-view Synthesis, Geometric Memory, Scene Generation, Diffusion Models

I. Main Problem:​

Các mô hình Video Diffusion Models (VDMs) hiện tại, mặc dù tạo ra video chất lượng cao, vẫn gặp khó khăn trong việc tái tạo các cảnh 3D nhất quán. Điều này là do khả năng kiểm soát camera còn hạn chế và nội dung được tạo ra không nhất quán khi xem từ các quỹ đạo camera khác nhau, dẫn đến tái tạo 3D không rõ ràng và mờ nhòe. Các phương pháp tạo video dài hoặc tự hồi quy (AR) cũng có những hạn chế về chất lượng video, chi phí tính toán cao và độ chính xác của camera.

II. Main Idea:​

WorldStereo đề xuất một khuôn khổ mới kết nối việc tạo video được điều khiển bằng camera và tái tạo 3D thông qua hai module bộ nhớ hình học chuyên dụng:

  • Bộ nhớ hình học toàn cục (Global-Geometric Memory - GGM): Cho phép kiểm soát camera chính xác và đưa các cấu trúc tổng thể thô vào thông qua các đám mây điểm được cập nhật tăng dần. GGM được xây dựng dựa trên hướng dẫn đám mây điểm của Uni3C và được tinh chỉnh với các đám mây điểm toàn cầu mở rộng.
  • Bộ nhớ không gian-stereo (Spatial-Stereo Memory - SSM): Hạn chế các trường tiếp nhận chú ý của mô hình với tương ứng 3D để tập trung vào các chi tiết tinh chỉnh từ kho bộ nhớ. SSM học sự nhất quán không gian giữa các khung hình mới được tạo và các khung hình được truy xuất từ một kho bộ nhớ bằng cách thiết lập các tương ứng 3D rõ ràng và giới hạn trường chú ý. WorldStereo cũng kế thừa tính linh hoạt của Uni3C, trong đó tất cả các điều kiện được căn chỉnh theo pixel được đưa vào thông qua nhánh ControlNet, tương thích cao với phương pháp chưng cất khớp phân phối (Distribution Matching Distillation - DMD) để tăng tốc suy luận lên 4 bước mà không cần huấn luyện chung, giúp tăng tốc đáng kể và duy trì khả năng tổng quát hóa.

III. Main Results:​

WorldStereo vượt trội hơn các phương pháp cạnh tranh trong việc tạo video được điều khiển bằng camera và tái tạo 3D. Cụ thể:

  • Kiểm soát camera và chất lượng hình ảnh: Phiên bản WorldStereo cơ bản (WorldStereo *) đã vượt trội hơn các đối thủ cạnh tranh về độ chính xác của camera và chất lượng hình ảnh. Phiên bản đầy đủ (WorldStereo-Full) với GGM và SSM cải thiện đáng kể hơn nữa.
  • Tái tạo 3D: WorldStereo-Full đạt được những cải tiến đáng kể về cả tái tạo và độ chính xác của camera trên các điểm chuẩn Tanks-and-Temples và MipNeRF360. Ví dụ, trên Tanks-and-Temples, F1-Score của WorldStereo-Full là 0.578 so với 0.424 của Uni3C. Trên MipNeRF360, F1-Score là 0.406 so với 0.352.
  • Hiệu quả suy luận: WorldStereo-DMD, phiên bản được tăng tốc, đạt được tốc độ suy luận nhanh hơn 20 lần (chỉ 9 giây so với 162-343 giây của các phương pháp khác) với sự suy giảm hiệu suất không đáng kể, vẫn duy trì khả năng tái tạo 3D mạnh mẽ.
  • Khả năng tổng quát hóa: WorldStereo hoạt động như một mô hình thế giới mạnh mẽ, giải quyết các tác vụ tạo cảnh đa dạng (từ hình ảnh phối cảnh hoặc toàn cảnh) với kết quả 3D có độ chân thực cao, bao gồm cả việc tạo cảnh panorama 3D.

IV. Conclusion & Future Works:​

WorldStereo là một khuôn khổ tạo video được điều khiển bằng camera mới, được thiết kế riêng để tái tạo 3D. Bằng cách sử dụng hai cơ chế bộ nhớ—Global-Geometry Memory (GGM) và Spatial-Stereo Memory (SSM)—nó giải quyết thách thức về việc tạo ra các video nhất quán trên nhiều quỹ đạo để tái tạo 3D chính xác. GGM tăng cường cấu trúc 3D mạch lạc thông qua đám mây điểm được cập nhật tăng dần, trong khi SSM duy trì các chi tiết tinh chỉnh thông qua tương ứng 3D giữa các khung hình được tạo và truy xuất. Việc sửa đổi chiến lược chưng cất khớp phân phối (DMD) cũng đã tăng tốc đáng kể WorldStereo. Công trình này cũng giới thiệu một điểm chuẩn tái tạo 3D mới. WorldStereo cho thấy hiệu suất mạnh mẽ và khả năng tổng quát hóa hiệu quả cho các tác vụ đa dạng như tạo vật thể tập trung, hướng mặt và cảnh panorama 3D. Khả năng này mở ra hướng cho việc áp dụng rộng rãi và cải tiến liên tục trong mô hình thế giới và tạo nội dung 3D.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Cải thiện bộ nhớ cho các cảnh động và môi trường quy mô lớn: Nghiên cứu sâu hơn về việc mở rộng cơ chế bộ nhớ hình học (GGM và SSM) để xử lý hiệu quả các cảnh động phức tạp hoặc môi trường 3D quy mô cực lớn, duy trì tính nhất quán và chi tiết tinh chỉnh theo thời gian và không gian.
  2. Tích hợp WorldStereo với mô hình tạo 3D đa phương thức: Khám phá việc kết hợp WorldStereo với các mô hình tạo 3D từ văn bản (text-to-3D) hoặc từ nhiều dạng đầu vào khác (ví dụ: bản phác thảo, âm thanh) để tạo ra các cảnh 3D tương tác và phong phú hơn, cho phép người dùng kiểm soát sáng tạo cao hơn.
  3. Tái tạo 3D theo thời gian thực và tương tác: Phát triển các phương pháp để tích hợp chặt chẽ hơn quá trình tạo video và tái tạo 3D của WorldStereo, hướng tới khả năng tái tạo 3D theo thời gian thực từ các video được tạo, mở ra tiềm năng cho các ứng dụng thực tế ảo/thực tế tăng cường tương tác trực tiếp.

2. Patent:​

  1. Hệ thống tạo môi trường 3D tăng cường cho điện thoại di động: Một ứng dụng di động cho phép người dùng chụp một bức ảnh duy nhất của một vật thể hoặc khung cảnh. Dựa trên ảnh đó, điện thoại sẽ tạo ra một môi trường 3D nhất quán và có thể khám phá được xung quanh vật thể hoặc cảnh đó. Người dùng có thể di chuyển ảo trong môi trường 3D này, xem từ nhiều góc độ khác nhau, và thêm các yếu tố tương tác, biến một bức ảnh tĩnh thành trải nghiệm AR/VR sống động trên điện thoại.
  2. Công cụ tạo vật thể 3D cá nhân hóa từ ảnh chụp trên điện thoại: Một ứng dụng trên điện thoại cho phép người dùng chụp một vài bức ảnh của một vật thể (ví dụ: món đồ chơi, đồ trang sức) hoặc thậm chí là bản thân họ từ các góc độ khác nhau. Hệ thống trên điện thoại sẽ sử dụng các ảnh này để tự động tạo ra một mô hình 3D chất lượng cao, nhất quán và chi tiết của vật thể hoặc người đó. Mô hình 3D này có thể được sử dụng để tạo avatar trong game, chia sẻ trên mạng xã hội, hoặc thậm chí là chuẩn bị cho in 3D trực tiếp từ điện thoại.
  3. Ứng dụng dàn dựng ảo và chỉnh sửa cảnh 3D trên di động: Người dùng chụp một bức ảnh căn phòng của họ bằng điện thoại. Ứng dụng sẽ tự động phân tích và tạo ra một hiểu biết 3D về cấu trúc căn phòng. Sau đó, người dùng có thể kéo và thả các mô hình nội thất ảo (ví dụ: ghế sofa, bàn, cây cảnh) vào căn phòng, di chuyển chúng, thay đổi kích thước và xem chúng sẽ trông như thế nào từ các góc độ khác nhau trong không gian 3D nhất quán, giúp họ hình dung và lên kế hoạch trang trí nhà cửa một cách chân thực trên thiết bị di động.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.02049
ArXiv Abstracthttps://arxiv.org/abs/2603.02049
PDF Downloadhttps://arxiv.org/pdf/2603.02049.pdf
Github Repositoryhttps://github.com/FuchengSu/WorldStereo

14. Spectral Condition for μP under Width-Depth Scaling (15 votes)​

Tác giả: Chenyu Zheng, Rongzhen Wang, Xinyu Zhang, Chongxuan Li

Xuất bản lúc: 2026-02-28

Tag: µP, Maximal Update Parameterization, Width-Depth Scaling, Residual Networks, Hyperparameter Transfer, Stable Feature Learning, Generative Models, Optimization, Spectral Analysis

I. Main Problem:​

Các mô hình nền tảng sinh thành ngày càng mở rộng về cả chiều rộng (width) và chiều sâu (depth), dẫn đến hai thách thức chính:

  1. Học đặc trưng không ổn định: Động lực học đặc trưng thường trở nên không ổn định hoặc suy biến khi kích thước mô hình đủ lớn.
  2. Chuyển giao siêu tham số (HP) không đáng tin cậy/tốn kém: Việc điều chỉnh siêu tham số trở nên cực kỳ tốn kém và không hiệu quả, đặc biệt khi các công thức µP hiện có cho việc mở rộng đồng thời chiều rộng và chiều sâu còn rời rạc, phụ thuộc vào kiến trúc và bộ tối ưu hóa cụ thể, và thường dựa trên các lý thuyết phức tạp.

II. Main Idea:​

Tác giả phát triển một khung lý thuyết phổ quát và đơn giản dựa trên điều kiện phổ (spectral condition) để triển khai Maximal Update Parameterization (µP) dưới sự mở rộng đồng thời cả chiều rộng và chiều sâu của mạng, đặc biệt đối với các mạng residual. Cụ thể:

  1. Giới thiệu điều kiện phổ µP thống nhất: Điều kiện này mô tả chính xác cách các chuẩn (norm) của trọng số và các bản cập nhật trọng số theo từng bước nên được điều chỉnh theo chiều rộng và chiều sâu, hợp nhất các công thức µP rời rạc trước đây thành các trường hợp đặc biệt.
  2. Đưa ra công thức chung để triển khai µP: Dựa trên điều kiện phổ này, tác giả cung cấp một công thức tổng quát để triển khai µP trên một loạt các bộ tối ưu hóa bằng cách ánh xạ các ràng buộc phổ thành các tham số siêu tham số cụ thể.
  3. Sử dụng toán học cơ bản: Không như các phương pháp trước đây dựa vào các công cụ phức tạp, phân tích của họ chỉ dựa trên đại số tuyến tính và xác suất cơ bản, giúp dễ hiểu và dễ áp dụng hơn.

III. Main Results:​

  1. Phục hồi và mở rộng các công thức µP: Khung lý thuyết này không chỉ phục hồi các công thức µP hiện có cho các bộ tối ưu hóa như SGD và AdamW dưới sự mở rộng chiều rộng-chiều sâu, mà còn mở rộng tự nhiên sang một loạt các bộ tối ưu hóa hiện đại khác như Muon-Kimi, Spectral Sphere Optimizer (SSO), Sophia và Lion.
  2. Đảm bảo học đặc trưng ổn định và chuyển giao HP mạnh mẽ: Thực nghiệm trên các mô hình ngôn ngữ kiểu GPT-2 được huấn luyện bằng Muon-Kimi đã chứng minh rằng công thức µP được đề xuất duy trì việc học đặc trưng ổn định và cho phép chuyển giao siêu tham số mạnh mẽ dưới sự mở rộng đồng thời cả chiều rộng và chiều sâu.
  3. Hiệu quả vượt trội so với SP: µP liên tục đạt được mức độ mất mát (validation loss) thấp hơn so với Standard Parameterization (SP) khi chiều rộng và chiều sâu của mô hình tăng lên, đồng thời duy trì các chuẩn đặc trưng ổn định.

IV. Conclusion & Future Works:​

Nghiên cứu này đã thành công trong việc phát triển một khung lý thuyết phổ quát và đơn giản cho µP dưới sự mở rộng đồng thời chiều rộng và chiều sâu của mạng, đặc biệt đối với các mạng residual. Các điều kiện phổ được đề xuất giúp duy trì việc học đặc trưng ổn định và cho phép chuyển giao siêu tham số hiệu quả, giải quyết các thách thức lớn trong việc mở rộng các mô hình nền tảng. Công trình trong tương lai có thể tập trung vào việc mở rộng khung phổ này cho các kiến trúc mạng phức tạp hơn nữa (ví dụ: Transformer với các loại module khác nhau hoặc kiến trúc non-residual), khám phá các điều kiện phổ cho các loại dữ liệu hoặc tác vụ khác nhau, và điều tra sâu hơn về mối liên hệ giữa các điều kiện phổ và các khía cạnh khác của động lực học huấn luyện.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng điều kiện phổ µP cho các kiến trúc non-residual và các module mạng phức tạp: Nghiên cứu các điều kiện phổ µP cho các kiến trúc mạng không có kết nối residual hoặc các module mạng có cấu trúc phức tạp hơn (ví dụ: các loại cơ chế attention mới, các biến thể của FFN) để đảm bảo tính ổn định và khả năng chuyển giao HP khi mở rộng quy mô.
  2. Phân tích µP dưới điều kiện phổ cho các tác vụ và modalities dữ liệu khác nhau: Khám phá cách các điều kiện phổ µP cần được điều chỉnh cho các tác vụ học máy khác nhau (ví dụ: thị giác máy tính, phân tích chuỗi thời gian) và các modalities dữ liệu đa dạng (ví dụ: hình ảnh, video, âm thanh), đặc biệt là khi kết hợp các mô hình đa phương thức.
  3. Nghiên cứu ảnh hưởng của điều kiện phổ µP lên các phương pháp tối ưu hóa bậc cao và thích nghi: Phân tích cách điều kiện phổ µP tương tác với các bộ tối ưu hóa nâng cao hơn, ví dụ như các bộ tối ưu hóa bậc hai hoặc các bộ tối ưu hóa tự thích nghi với các tham số học tập phức tạp, để tối ưu hóa hiệu suất và sự ổn định khi mở rộng mô hình.

2. Patent:​

  1. Hệ thống tối ưu hóa siêu tham số tự động cho mô hình AI di động: Phát triển một hệ thống tích hợp vào các nền tảng phát triển ứng dụng di động, cho phép các nhà phát triển dễ dàng chuyển giao các siêu tham số tối ưu từ các mô hình AI nhỏ, thử nghiệm trên điện thoại, sang các phiên bản lớn hơn của cùng mô hình được triển khai trên đám mây hoặc các thiết bị di động mạnh mẽ hơn, mà không cần điều chỉnh lại thủ công. Điều này giúp giảm chi phí và thời gian phát triển các ứng dụng AI trên di động.
  2. Công cụ chẩn đoán và điều chỉnh tính ổn định của mô hình AI trên thiết bị di động: Tạo ra một công cụ phần mềm hoặc API cho phép các nhà phát triển ứng dụng di động theo dõi và chẩn đoán tính ổn định của quá trình học đặc trưng của mô hình AI khi nó được triển khai và huấn luyện liên tục trên thiết bị. Công cụ này sẽ tự động đề xuất các điều chỉnh cho các tham số khởi tạo và tốc độ học dựa trên điều kiện phổ µP để ngăn chặn sự bùng nổ hoặc suy giảm đặc trưng, đảm bảo hiệu suất ổn định của AI trên các dòng điện thoại khác nhau.
  3. Framework phát triển mô hình AI có khả năng mở rộng linh hoạt trên di động: Xây dựng một framework cho phép các nhà phát triển thiết kế các mô hình AI có khả năng tự động điều chỉnh cấu trúc và siêu tham số của chúng (dựa trên µP) để phù hợp với các giới hạn tài nguyên (ví dụ: RAM, CPU, pin) của các thiết bị di động khác nhau. Điều này cho phép một mô hình cơ bản có thể được triển khai hiệu quả trên cả điện thoại cấp thấp và cao cấp mà vẫn duy trì hiệu suất tốt và học tập ổn định.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.00541
ArXiv Abstracthttps://arxiv.org/abs/2603.00541
PDF Downloadhttps://arxiv.org/pdf/2603.00541.pdf
Github Repositoryhttps://github.com/ML-GSAI/Width-Depth-muP

15. Efficient RLVR Training via Weighted Mutual Information Data Selection (14 votes)​

Tác giả: Xinyu Zhou, Boyu Zhu, Haotian Zhang, Huiming Wang, Zhijiang Guo

Xuất bản lúc: 2026-03-02

Tag: Reinforcement Learning, LLMs, Data Selection, Mutual Information, Bayesian, RLVR

I. Main Problem:​

Huấn luyện Reinforcement Learning (RL) cho các mô hình ngôn ngữ lớn (LLM) rất nhạy cảm với việc lựa chọn dữ liệu huấn luyện. Các chiến lược lựa chọn dữ liệu trực tuyến hiện có chủ yếu dựa vào các phương pháp heuristic dựa trên độ khó, ưu tiên các điểm dữ liệu có tỷ lệ thành công trung bình, ngầm định đánh đồng độ khó với mức độ thông tin và bỏ qua sự không chắc chắn về nhận thức (epistemic uncertainty) phát sinh từ bằng chứng hạn chế. Điều này dẫn đến sự kém hiệu quả trong huấn luyện, lãng phí tài nguyên cho các tác vụ đã thành thạo hoặc quá khó, và làm giảm sự ổn định của quá trình tối ưu hóa.

II. Main Idea:​

Giới thiệu INSIGHT, một phương pháp lựa chọn dữ liệu hướng dẫn thông tin (Information-guided data SamplInGmetHod) cho huấn luyện RL, dựa trên mục tiêu thông tin tương hỗ có trọng số (weighted mutual information). Bằng cách mô hình hóa kết quả dữ liệu với tỷ lệ thành công tiềm ẩn theo phương pháp Bayesian, INSIGHT chỉ ra rằng việc giảm sự không chắc chắn dự kiến phân tách thành các thành phần phụ thuộc vào độ khó và bằng chứng bổ sung, từ đó làm lộ rõ hạn chế cơ bản của việc lựa chọn chỉ dựa vào độ khó. INSIGHT xây dựng một điểm số thu thập ổn định dựa trên niềm tin trung bình về tỷ lệ thành công của các điểm dữ liệu, thay vì các kết quả mẫu nhiễu, và mở rộng tự nhiên sang các thiết lập đa-rollout phổ biến trong học tăng cường với phần thưởng có thể kiểm chứng (RLVR). Điểm số này kết hợp hàm trọng số w(¯ϕτ) để khai thác độ khó (Aleatoric Exploitation) và thông tin tương hỗ I(R1:K,Φτ) để khám phá nhận thức (Epistemic Exploration).

III. Main Results:​

INSIGHT liên tục đạt được hiệu suất tiên tiến và cải thiện hiệu quả huấn luyện, bao gồm:

  • Tăng trung bình +1.41 điểm trên các benchmark về Lập kế hoạch & Toán học.
  • Cải thiện +1.01 điểm trong suy luận tổng quát.
  • Tăng tốc huấn luyện lên tới ~2.2 lần với chi phí tính toán bổ sung không đáng kể.
  • Trong các thử nghiệm trên tác vụ Countdown, INSIGHT đạt hiệu suất cạnh tranh hoặc vượt trội với ít bước huấn luyện hơn, mang lại tốc độ tăng tốc lên tới ~2.2x trên Qwen3-0.6B, ~1.5x trên Qwen3-4B và ~1.6x trên R1-Distill-Qwen-7B.
  • Phân tích tách rời cho thấy cả hàm trọng số và thông tin tương hỗ đều đóng góp quan trọng vào hiệu suất của WMI (Weighted Mutual Information).
  • Sử dụng tỷ lệ thành công trung bình ¯ϕτ nhất quán vượt trội so với biến thể mẫu ˆϕτ.
  • Giá trị tối ưu của bias độ khó µ khoảng 0.3, cho thấy sự cân bằng hiệu quả giữa khám phá và định hình chương trình học.

IV. Conclusion & Future Works:​

Bài báo giới thiệu INSIGHT, một khung lựa chọn dữ liệu hướng dẫn thông tin để huấn luyện hiệu quả các mô hình ngôn ngữ lớn bằng học tăng cường. Bằng cách phân tích sự giảm phương sai dự kiến, nhóm nghiên cứu đã làm rõ lý do tại sao các phương pháp heuristic chỉ dựa vào độ khó lại không thể nắm bắt được thông tin thực sự khi bằng chứng tích lũy, từ đó đề xuất một mục tiêu thông tin tương hỗ có trọng số kết hợp đồng thời độ khó của tác vụ và sự không chắc chắn về nhận thức. INSIGHT vận hành dựa trên niềm tin hậu nghiệm trung bình ổn định và mở rộng một cách tự nhiên sang các thiết lập RLVR đa-rollout. Các thí nghiệm trên các benchmark về lập kế hoạch, toán học và suy luận tổng quát cho thấy INSIGHT liên tục cải thiện hiệu quả huấn luyện và hiệu suất cuối cùng so với các phương pháp cơ sở trực tuyến mạnh mẽ, đặc biệt trong các mô hình nhỏ hơn và chế độ tài nguyên thấp. Những kết quả này chứng minh rằng việc lựa chọn dữ liệu có nguyên tắc, nhận biết thông tin mang lại một giải pháp thay thế mạnh mẽ cho việc lấy mẫu dựa trên heuristic độ khó.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu mở rộng INSIGHT để tích hợp với các phương pháp huấn luyện RL khác ngoài RLVR, ví dụ như học tăng cường từ phản hồi của con người (RLHF) hoặc các môi trường với phần thưởng liên tục. Điều này sẽ kiểm tra tính tổng quát của phương pháp lựa chọn dữ liệu dựa trên thông tin.
  2. Phát triển một cơ chế tự động điều chỉnh các siêu tham số của hàm trọng số (ví dụ: η, µ) trong INSIGHT. Thay vì các giá trị cố định, một hệ thống thích ứng có thể tối ưu hóa đường cong học tập và sự cân bằng giữa khám phá và khai thác trong suốt quá trình huấn luyện.
  3. Khám phá việc kết hợp INSIGHT với các kỹ thuật giảm chi phí tính toán cho việc đánh giá chính sách (ví dụ: các cơ chế rollout hiệu quả hơn hoặc ước tính phần thưởng có độ trễ thấp) để đạt được hiệu quả tăng tốc huấn luyện cao hơn nữa, đặc biệt trong các mô hình lớn hơn hoặc môi trường phức tạp hơn.

2. Patent:​

  1. Ứng dụng Giáo dục Cá nhân hóa Thông minh: Một ứng dụng học tập trên điện thoại di động sử dụng nguyên lý của INSIGHT để điều chỉnh các bài tập và câu hỏi cho người dùng. Ứng dụng sẽ theo dõi mức độ thành công và sự không chắc chắn về kiến thức của người học, sau đó tự động chọn các nhiệm vụ tiếp theo mang lại nhiều thông tin nhất để tối đa hóa hiệu quả học tập, giúp người dùng tiến bộ nhanh hơn mà không bị quá tải bởi các bài tập quá khó hoặc nhàm chán với bài tập quá dễ.
  2. Hệ thống Đề xuất Nội dung Thích ứng trên Thiết bị Di động: Phát triển một hệ thống đề xuất nội dung (ví dụ: tin tức, video, sản phẩm) cho ứng dụng di động, sử dụng cách tiếp cận lựa chọn dữ liệu của INSIGHT. Hệ thống sẽ phân tích tương tác của người dùng với nội dung và sự không chắc chắn về sở thích của họ, sau đó chủ động đề xuất các mục "thông tin" nhất để nhanh chóng hiểu rõ hơn về người dùng, dẫn đến cá nhân hóa nhanh chóng và chính xác hơn mà không cần thu thập quá nhiều dữ liệu ban đầu.
  3. Điều chỉnh Độ khó Trò chơi Di động Tự động: Một tính năng trong trò chơi di động sử dụng thuật toán như INSIGHT để tự động điều chỉnh độ khó của các màn chơi hoặc thử thách. Dựa trên hiệu suất của người chơi và mức độ "không chắc chắn" của hệ thống về kỹ năng của họ, trò chơi sẽ chọn các thử thách không quá dễ (gây nhàm chán) cũng không quá khó (gây nản lòng), mà là tối ưu để giữ chân người chơi và thúc đẩy họ cải thiện kỹ năng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.01907
ArXiv Abstracthttps://arxiv.org/abs/2603.01907
PDF Downloadhttps://arxiv.org/pdf/2603.01907.pdf
Github RepositoryN/A

16. Learn Hard Problems During RL with Reference Guided Fine-tuning (12 votes)​

Tác giả: Yangzhen Wu, Shanda Li, Zixin Wen, Xin Zhou, Ameet Talwalkar, Yiming Yang, Wenhao Huang, Tianle Cai

Xuất bản lúc: 2026-03-01

Tag: Reinforcement Learning, LLMs, Mathematical Reasoning, Fine-tuning, Reward Sparsity, Supervised Fine-tuning, Chain-of-Thought

I. Main Problem:​

Học tăng cường (RL) cho suy luận toán học gặp phải vấn đề phần thưởng thưa thớt (reward sparsity): đối với các bài toán khó, mô hình ngôn ngữ lớn (LLM) không thể tạo ra bất kỳ quỹ đạo giải đúng nào, ngăn cản RL nhận được phản hồi tích cực có ý nghĩa. Đồng thời, mặc dù thường có sẵn các lời giải tham chiếu do con người viết kèm theo bài toán, nhưng việc tinh chỉnh trực tiếp trên các lời giải này không mang lại lợi ích đáng kể vì các mô hình thường không thể bắt chước các chứng minh của con người nằm ngoài phân phối suy luận của chính chúng. Hạn chế này khiến RL kém hiệu quả và dễ bị tổn thương, vì một lượng lớn tính toán bị lãng phí vào các quỹ đạo không cung cấp phản hồi có ý nghĩa.

II. Main Idea:​

Giới thiệu phương pháp tinh chỉnh có hướng dẫn tham chiếu (ReGFT), một phương pháp đơn giản và hiệu quả sử dụng các lời giải tham chiếu do con người viết để tổng hợp các quỹ đạo tích cực cho các bài toán khó và huấn luyện mô hình trên chúng trước khi áp dụng RL. Đối với mỗi bài toán, mô hình được cung cấp một phần lời giải tham chiếu (như các gợi ý) và được yêu cầu tự tạo ra chuỗi suy luận của riêng mình. Điều này đảm bảo các quỹ đạo thu được vẫn nằm trong không gian suy luận của mô hình, đồng thời vẫn được hưởng lợi từ hướng dẫn tham chiếu. Việc tinh chỉnh trên các quỹ đạo được hướng dẫn tham chiếu này làm tăng số lượng bài toán có thể giải được và tạo ra một điểm kiểm tra (checkpoint) sẽ nhận được nhiều phần thưởng tích cực hơn trong quá trình RL. ReGFT hoạt động hoàn toàn ở giai đoạn giám sát trước RL và tập trung vào việc cải thiện năng lực ban đầu của mô hình đối với các bài toán khó, huấn luyện chỉ trên các bài toán khó (độ chính xác dưới 25% khi lấy mẫu 16 lần) để tránh overfitting.

III. Main Results:​

Trên ba bộ benchmark (AIME’24, AIME’25, Beyond-AIME), ReGFT liên tục cải thiện độ chính xác được giám sát, tăng tốc quá trình huấn luyện DAPO và nâng cao mức hiệu suất cuối cùng của RL. Các mô hình được khởi tạo bằng ReGFT liên tục vượt trội hơn so với điểm kiểm tra gốc trong suốt quá trình huấn luyện RL trên tất cả các benchmark, thể hiện cả việc đạt được hiệu suất nhanh hơn ở giai đoạn đầu và độ chính xác cuối cùng cao hơn. ReGFT đạt được độ chính xác tiệm cận cao hơn ReFT, cho thấy các minh họa được hướng dẫn tham chiếu đóng vai trò quan trọng vượt ra ngoài tốc độ tối ưu hóa. Việc tinh chỉnh trực tiếp trên các lời giải của con người chưa qua xử lý dẫn đến hiệu suất yếu hơn đáng kể, nhấn mạnh tầm quan trọng của suy luận do mô hình tạo ra. ReGFT + DAPO thể hiện hiệu suất mở rộng (pass@k) mạnh mẽ và nhất quán nhất trên tất cả các benchmark. Lấy mẫu có hướng dẫn tham chiếu cho phép mô hình giải thêm 5.85% bài toán mà không thể giải được bằng lấy mẫu tiêu chuẩn trên tập dữ liệu OmniMath. Tăng quy mô lấy mẫu cũng cải thiện hiệu suất, nhưng ReGFT+DAPO vẫn đạt kết quả tốt nhất, cho thấy sự bổ trợ giữa hai phương pháp.

IV. Conclusion & Future Works:​

ReGFT giải quyết nút thắt trung tâm trong học tăng cường cho suy luận toán học: sự thưa thớt phần thưởng do thiếu các quỹ đạo đúng do mô hình tạo ra trên các bài toán khó. Nó chuyển đổi các lời giải tham chiếu thành các quỹ đạo đúng do mô hình tạo ra, mang lại khởi tạo mạnh mẽ hơn giúp RL sau này hiệu quả hơn. Các mô hình thu được không chỉ đạt độ chính xác cao hơn sau RL mà còn thể hiện khả năng mở rộng pass@k mạnh mẽ và ổn định hơn. Mặc dù hiệu quả, khả năng của mô hình trong việc diễn giải và nội hóa suy luận phức tạp của con người còn hạn chế, và các trình xác minh dựa trên quy tắc hiện tại chưa thể đánh giá đáng tin cậy các lời giải dạng mở hoặc chứng minh, điều này mở ra hướng nghiên cứu trong tương lai.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu các mức độ hướng dẫn tham chiếu khác nhau (ví dụ: khái niệm toán học chính, bước trung gian, công thức cụ thể) để tối ưu hóa việc học suy luận của LLM.
  2. Phát triển hệ thống hướng dẫn tham chiếu thích ứng, trong đó mô hình tự động yêu cầu gợi ý chi tiết hơn hoặc ít hơn dựa trên độ tự tin của nó trong việc giải quyết một vấn đề độc lập.
  3. Kết hợp ReGFT với các thuật toán RL tiên tiến và chiến lược khám phá mới (ngoài DAPO) để mở rộng hơn nữa khả năng suy luận toán học của mô hình.

2. Patent:​

  1. Một ứng dụng di động gia sư toán học AI có khả năng cung cấp các gợi ý thích ứng. Khi học sinh gặp khó khăn trong một bài toán, ứng dụng sẽ đưa ra các gợi ý từng phần, được điều chỉnh theo cách suy luận của học sinh từ các lời giải của chuyên gia, thay vì chỉ hiển thị đáp án. Điều này giúp học sinh thực sự học được cách tư duy và tự xây dựng lời giải của mình.
  2. Một ứng dụng hỗ trợ lập trình trên điện thoại di động dành cho người học. Khi người dùng bị mắc kẹt trong một thử thách viết mã, ứng dụng sẽ đề xuất các đoạn mã hoặc các bước logic cấp cao từng phần dựa trên một lời giải tham khảo, nhưng được định dạng theo phong cách mã hóa điển hình của người dùng. Điều này giúp khắc phục 'sự thưa thớt mã hóa' và khuyến khích giải quyết vấn đề độc lập.
  3. Một trợ lý khắc phục sự cố thông minh cho các thiết bị, tích hợp vào ứng dụng di động. Khi người dùng mô tả một vấn đề phức tạp với thiết bị (ví dụ: thiết bị nhà thông minh, chẩn đoán ô tô), ứng dụng sẽ sử dụng cơ sở dữ liệu các giải pháp của chuyên gia. Thay vì đưa ra giải pháp hoàn chỉnh, nó cung cấp các bước chẩn đoán có hướng dẫn hoặc các giải pháp từng phần, phù hợp với trình độ hiểu biết kỹ thuật của người dùng, giúp họ tự suy luận và xác định nguyên nhân gốc rễ.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.01223
ArXiv Abstracthttps://arxiv.org/abs/2603.01223
PDF Downloadhttps://arxiv.org/pdf/2603.01223.pdf
Github RepositoryN/A

17. Tool-R0: Self-Evolving LLM Agents for Tool-Learning from Zero Data (10 votes)​

Tác giả: Emre Can Acikgoz, Cheng Qian, Jonas Hübotter, Heng Ji, Dilek Hakkani-Tür, Gokhan Tur

Xuất bản lúc: 2026-02-24

Tag: LLMs, Reinforcement Learning, Self-play, Tool-learning, Agents, Zero-data, Curriculum Learning

I. Main Problem:​

Các phương pháp học tăng cường (RL) hiện tại để huấn luyện các tác nhân LLM sử dụng công cụ thường phụ thuộc vào các cặp tác vụ-giải pháp được xây dựng cẩn thận và sự giám sát đáng kể của con người. Việc này tạo ra một trở ngại cơ bản đối với khả năng tự tiến hóa không giới hạn hướng tới các hệ thống siêu thông minh. Ngoài ra, các phương pháp tự chơi hiện có cho LLM chủ yếu giới hạn trong suy luận trừu tượng hoặc các loại công cụ hẹp (ví dụ: công cụ mã hóa hoặc tìm kiếm), không mở rộng sang các tác nhân sử dụng công cụ trong môi trường thực tế. Câu hỏi đặt ra là: Liệu chúng ta có thể trao quyền cho các LLM yếu tự cải thiện mà không cần dữ liệu của con người, và làm thế nào để huấn luyện các tác nhân gọi công cụ đa năng có thể tự tiến hóa LLM cơ sở mà không cần dữ liệu bên ngoài trên nhiều lĩnh vực?

II. Main Idea:​

Bài báo đề xuất Tool-R0, một framework RL tự chơi để huấn luyện các tác nhân gọi công cụ đa năng từ đầu với giả định không có dữ liệu. Khởi tạo từ cùng một LLM cơ sở, Tool-R0 đồng tiến hóa một Generator (Bộ tạo) và một Solver (Bộ giải) với các phần thưởng bổ sung. Generator đề xuất các tác vụ thử thách có mục tiêu tại ranh giới năng lực của Solver, và Solver học cách giải quyết chúng bằng cách gọi công cụ trong thế giới thực. Điều này tạo ra một chu trình tự tiến hóa không yêu cầu các tác vụ hoặc bộ dữ liệu có sẵn. Để đạt được điều này, Tool-R0 sử dụng:

  • Generator: Được thưởng cho việc tạo ra các tác vụ chất lượng cao, có thể kiểm chứng, và có độ khó phù hợp. Nó sử dụng grounded task synthesis với các thông số kỹ thuật tác vụ nhẹ để ngăn chặn mode collapse và thiết kế phần thưởng gồm rfmt (định dạng), rvalid (tính hợp lệ) và rcurr (chương trình học, kết hợp rdiff cho độ khó và rsem cho sự phù hợp ngữ nghĩa).
  • Solver: Được huấn luyện để dự đoán các lệnh gọi công cụ chính xác dựa trên câu hỏi của người dùng và menu công cụ, với phần thưởng rfmt (định dạng) và racc (độ chính xác).
  • Quá trình đồng tiến hóa: Generator tạo ra các tác vụ, chúng được lọc, xác minh chéo và sắp xếp từ dễ đến khó thành một chương trình học. Solver sau đó được huấn luyện trên bộ dữ liệu đã được chọn lọc này. Thành công của Solver ảnh hưởng trực tiếp đến phần thưởng độ khó của Generator, đóng vòng lặp tự chơi.

III. Main Results:​

  • Tool-R0 đạt được mức cải thiện tương đối 92.5% so với mô hình cơ sở (Qwen2.5-1.5B-Instruct, tăng trung bình +22.99 điểm độ chính xác).
  • Vượt trội hơn các mô hình cơ sở được giám sát hoàn toàn, được huấn luyện trên 4k-210k ví dụ được chú thích bởi con người, với Tool-R0 đạt 47.84% độ chính xác trung bình mà không cần dữ liệu được tuyển chọn.
  • Thu hẹp đáng kể khoảng cách năng lực giữa các mô hình nhỏ hơn và lớn hơn (ví dụ: mô hình 0.5B được huấn luyện với Tool-R0 vượt qua mô hình cơ sở 1.5B; mô hình 1.5B được huấn luyện với Tool-R0 vượt qua mô hình cơ sở 3B).
  • Khung Tool-R0 mạnh mẽ trên các dòng mô hình cơ sở khác nhau (Qwen so với Llama), cho thấy khả năng tổng quát hóa trên các kiến trúc.
  • Các nghiên cứu phân tích cho thấy sự cần thiết của việc tách biệt tham số giữa Generator và Solver, sự đóng góp của việc học của Generator, và tầm quan trọng của phần thưởng độ khó với các chuyển đổi Gaussian mượt mà.

IV. Conclusion & Future Works:​

Tool-R0 chứng minh rằng các LLM yếu có thể tự tiến hóa thành các tác nhân gọi công cụ đa năng hoàn toàn từ đầu mà không cần bất kỳ dữ liệu do con người tạo ra nào, đạt được những cải tiến đáng kể trên các điểm chuẩn, quy mô mô hình và kiến trúc khác nhau. Chương trình học được tạo tự động và thích ứng của Tool-R0 vượt trội hơn so với sự giám sát tĩnh của con người, vì mô hình có thể tự xác định và giải quyết các khoảng trống năng lực của chính nó một cách hiệu quả hơn. Việc tách biệt tham số giữa Generator và Solver, cùng với các phần thưởng nhận biết độ khó, là rất cần thiết cho sự đồng tiến hóa ổn định trong các tác vụ tác nhân mở rộng. Công trình này cung cấp những hiểu biết sâu sắc về các tác nhân LLM tự chơi và mở ra hướng nghiên cứu mới về các hệ thống tự tiến hóa.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng Tool-R0 cho Hợp tác Đa tác nhân: Nghiên cứu cách Tool-R0 có thể được mở rộng để huấn luyện các tác nhân LLM không chỉ học cách sử dụng công cụ mà còn học cách hợp tác và phối hợp với các tác nhân chuyên biệt khác trong môi trường tự chơi, đặc biệt tập trung vào các kịch bản thực tế yêu cầu sự tương tác phức tạp giữa nhiều công cụ và tác nhân.
  2. Ứng dụng Tool-R0 trong các Lĩnh vực Chuyên biệt với Dữ liệu Thưa thớt: Khám phá việc áp dụng Tool-R0 vào các lĩnh vực chuyên biệt như khám phá khoa học, chẩn đoán y tế, hoặc kỹ thuật, nơi dữ liệu được dán nhãn bởi con người rất khan hiếm hoặc đòi hỏi kiến thức chuyên môn sâu, cho phép các tác nhân tự học cách sử dụng các công cụ chuyên ngành và giải quyết các vấn đề phức tạp.
  3. Tối ưu hóa Hiệu quả Tính toán của Tự chơi RL: Phát triển các phương pháp mới để giảm chi phí tính toán liên quan đến việc huấn luyện Tool-R0, bao gồm các chiến lược tạo tác vụ hiệu quả hơn, kỹ thuật chưng cất tri thức, hoặc kiến trúc mô hình lai để làm cho việc tự tiến hóa LLM trở nên khả thi hơn cho các mô hình lớn hơn hoặc trên các môi trường có tài nguyên hạn chế.

2. Patent:​

  1. Trợ lý Thông minh Cá nhân Tự Học trên Điện thoại: Một hệ thống AI trên điện thoại di động có khả năng tự động học và thực hiện các chuỗi tác vụ phức tạp liên quan đến nhiều ứng dụng khác nhau mà không cần người dùng phải thiết lập trước. Ví dụ, người dùng chỉ cần nói "Lên kế hoạch cho buổi tối của tôi", và AI sẽ tự động kiểm tra giao thông, đặt món ăn từ ứng dụng ưa thích, đặt lời nhắc cho một chương trình TV, và đặt xe, tự điều chỉnh theo sở thích và thói quen của người dùng thông qua việc học cách "gọi công cụ" (sử dụng các chức năng ứng dụng) theo thời gian.
  2. Trình chỉnh sửa Ảnh Di động Tự Cải thiện với Công cụ Theo Ngữ cảnh: Một ứng dụng chỉnh sửa ảnh trên điện thoại di động tích hợp một tác nhân AI có thể quan sát và học hỏi các mẫu chỉnh sửa của người dùng. Dựa trên các hành động lặp lại (ví dụ: áp dụng một bộ lọc cụ thể, điều chỉnh ánh sáng, và cắt ảnh cho "ảnh hoàng hôn"), AI sẽ tự động đề xuất hoặc áp dụng các chuỗi công cụ chỉnh sửa tương tự cho các bức ảnh mới có ngữ cảnh tương tự, giảm thiểu thao tác thủ công và cá nhân hóa trải nghiệm chỉnh sửa ảnh.
  3. Hệ thống Quản lý và Tối ưu hóa Thiết bị Di động Thích ứng: Một giải pháp trên điện thoại thông minh liên tục học hỏi thói quen sử dụng của người dùng và hiệu suất thiết bị để chủ động quản lý pin, sử dụng ứng dụng và cài đặt mạng. Ví dụ, nó có thể học khi nào người dùng thường sử dụng một số ứng dụng nhất định để tự động tải trước dữ liệu hoặc điều chỉnh đồng bộ hóa nền, hoặc tối ưu hóa cài đặt nguồn cho các kiểu sử dụng cụ thể, thực hiện các "lệnh gọi công cụ" (chức năng hệ thống) để duy trì hiệu suất tối ưu mà không cần sự can thiệp của người dùng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2602.21320
ArXiv Abstracthttps://arxiv.org/abs/2602.21320
PDF Downloadhttps://arxiv.org/pdf/2602.21320.pdf
Github Repositoryhttps://github.com/emrecanacikgoz/Tool-R0