Chuyển tới nội dung chính

🤗 Daily Hugging Face Paper Digest - 2026-04-15

Báo cáo được tạo tự động vào lúc 2026-04-16 10:07:44 bằng mô hình gemini-2.5-flash.

📰 Summary of Papers​

1. ClawGUI: A Unified Framework for Training, Evaluating, and Deploying GUI Agents (123 votes)​

Tác giả: Fei Tang, Zhiqiong Lu, Boxuan Zhang, Weiming Lu, Jun Xiao, Yueting Zhuang, Yongliang Shen

Xuất bản lúc: 2026-04-13

Tag: GUI Agents, Reinforcement Learning, Evaluation, Deployment, Mobile AI, LLMs, Vision-Language

I. Main Problem:​

Tiến độ phát triển các tác nhân GUI (Graphical User Interface) đang bị cản trở bởi ba vấn đề chính:

  1. Hệ sinh thái huấn luyện đóng và không ổn định: Việc huấn luyện học tăng cường trực tuyến (online RL) gặp khó khăn do môi trường không ổn định, các quy trình khép kín, và thiếu sự hỗ trợ cho các thiết bị vật lý thực tế.
  2. Đánh giá không thống nhất và khó tái lập: Các giao thức đánh giá khác nhau giữa các nghiên cứu, khiến kết quả được báo cáo không thể so sánh trực tiếp do sự khác biệt trong định dạng prompt, quy ước chuẩn hóa tọa độ, độ phân giải hình ảnh và cấu hình lấy mẫu.
  3. Vòng lặp triển khai bị đứt gãy: Các tác nhân được huấn luyện trong nghiên cứu hiếm khi đến được tay người dùng thực trên thiết bị thực, và các giải pháp triển khai hiện có còn hạn chế (ví dụ, tác nhân dựa trên CLI chỉ bao phủ một phần nhỏ các ứng dụng, thiếu hỗ trợ đa nền tảng hoặc cá nhân hóa bền vững).

II. Main Idea:​

ClawGUI là một framework mã nguồn mở, thống nhất, giải quyết ba vấn đề trên thông qua ba module được tích hợp chặt chẽ:

  1. ClawGUI-RL: Cung cấp cơ sở hạ tầng học tăng cường trực tuyến có khả năng mở rộng, hỗ trợ cả môi trường ảo song song (trình giả lập Android dựa trên Docker) và các thiết bị vật lý thực. Nó tích hợp GiGPO với Process Reward Model (PRM) để cung cấp tín hiệu giám sát dày đặc, ở cấp độ từng bước, nhằm khắc phục vấn đề phần thưởng thưa thớt trong các tác vụ GUI dài hạn.
  2. ClawGUI-Eval: Thực thi một quy trình đánh giá ba giai đoạn (Infer, Judge, Metric) được tiêu chuẩn hóa trên 6 bộ benchmark và hơn 11 mô hình. Nó cố định tất cả các lựa chọn đánh giá cho từng mô hình để đảm bảo kết quả có thể tái lập, đồng thời phát hành các kết quả suy luận để cộng đồng sử dụng.
  3. ClawGUI-Agent: Hỗ trợ triển khai các tác nhân đã được huấn luyện lên các thiết bị Android, HarmonyOS và iOS thông qua hơn 12 nền tảng trò chuyện. Nó sử dụng chiến lược điều khiển lai CLI-GUI để kết hợp độ chính xác của CLI với khả năng bao phủ phổ quát của GUI, và bao gồm một hệ thống bộ nhớ cá nhân hóa bền vững cho phép tác nhân thích ứng với từng người dùng theo thời gian.

III. Main Results:​

Các kết quả chính được trình bày bao gồm:

  • Hiệu suất của ClawGUI-2B: Được huấn luyện hoàn toàn trong quy trình ClawGUI-RL, ClawGUI-2B đạt Tỷ lệ thành công (SR) 17.1% trên MobileWorld GUI-Only, vượt trội hơn 6.0 điểm tuyệt đối so với baseline MAI-UI-2B cùng quy mô (11.1%) và các mô hình lớn hơn chưa được huấn luyện như Qwen3-VL-32B (11.9%) và UI-Venus-72B (16.4%).
  • Tác động của phần thưởng dày đặc: Việc thay thế GRPO cấp độ tập (episode-level) bằng GiGPO cấp độ bước (step-level) trong cùng một quy trình đã mang lại sự cải thiện 2.6% (từ 14.5% lên 17.1%), trực tiếp xác nhận giá trị của việc gán tín hiệu phần thưởng dày đặc trong GUI RL.
  • Khả năng tái lập đánh giá: ClawGUI-Eval đạt tỷ lệ tái lập 95.8% so với các baseline đã công bố trên 6 bộ benchmark và hơn 11 mô hình.

IV. Conclusion & Future Works:​

ClawGUI là một framework mã nguồn mở thống nhất, tích hợp huấn luyện học tăng cường trực tuyến, đánh giá tiêu chuẩn hóa và triển khai trên thiết bị thực cho các tác nhân GUI. Framework này giải quyết các thách thức lớn trong việc phát triển tác nhân GUI bằng cách cung cấp ClawGUI-RL cho huấn luyện RL có khả năng mở rộng với phần thưởng dày đặc, ClawGUI-Eval để đánh giá tái lập được, và ClawGUI-Agent cho triển khai sẵn sàng sản xuất với điều khiển lai và bộ nhớ cá nhân hóa. Kết quả của ClawGUI-2B đã xác nhận tính hiệu quả của framework này từ đầu đến cuối.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu về các chiến lược phần thưởng dày đặc (Dense Reward) tiên tiến hơn cho tác vụ GUI phức tạp: Khám phá và phát triển các mô hình phần thưởng tiến trình (Process Reward Models) sử dụng MLLM hoặc các kỹ thuật học tăng cường tự giám sát để cung cấp tín hiệu phần thưởng chi tiết hơn, đặc biệt cho các tác vụ GUI có nhiều bước và mục tiêu phụ không rõ ràng.
  2. Tối ưu hóa Huấn luyện RL trên Thiết bị Vật lý thực tế: Nghiên cứu sâu hơn về các thách thức và giải pháp cho việc huấn luyện tác nhân GUI trực tiếp trên các thiết bị vật lý (ví dụ: điện thoại Android/iOS), bao gồm quản lý tài nguyên, xử lý lỗi thiết bị, và tối ưu hóa hiệu suất để mở rộng quy mô huấn luyện trên nhiều thiết bị thực cùng lúc.
  3. Phát triển phương pháp đánh giá chéo nền tảng (Cross-Platform Evaluation) cho tác nhân GUI: Xây dựng các bộ tiêu chuẩn và giao thức đánh giá mới cho tác nhân GUI hoạt động trên nhiều hệ điều hành (Android, HarmonyOS, iOS) và các loại ứng dụng khác nhau, đảm bảo tính so sánh và khả năng tái lập kết quả trên các môi trường đa dạng.

2. Patent:​

  1. Hệ thống trợ lý di động thông minh điều khiển ứng dụng qua giao diện trực quan và lệnh văn bản: Một hệ thống trên điện thoại di động cho phép người dùng ra lệnh bằng giọng nói hoặc văn bản để điều khiển bất kỳ ứng dụng nào. Hệ thống này sẽ tự động phân tích màn hình, xác định các nút bấm, trường nhập liệu, và thực hiện các thao tác chạm, vuốt, gõ phím như một người dùng thực. Nếu ứng dụng có các lệnh lập trình (API), nó sẽ ưu tiên dùng để tăng tốc độ. Hệ thống cũng có khả năng học hỏi thói quen của người dùng để cá nhân hóa và ghi nhớ các tác vụ thường xuyên.
  2. Công nghệ phản hồi hành động tức thì cho tác vụ trên giao diện người dùng di động: Một công nghệ tích hợp vào hệ điều hành điện thoại di động giúp phân tích từng thao tác của người dùng hoặc tác nhân tự động trên giao diện. Nó sẽ đánh giá xem hành động đó có tiến gần hơn đến mục tiêu cuối cùng của tác vụ hay không (ví dụ: mở ứng dụng, tìm kiếm một mục, hoàn thành một biểu mẫu). Dựa trên phản hồi này, hệ thống có thể cung cấp gợi ý hoặc điều chỉnh hành vi của tác nhân tự động để hoàn thành tác vụ hiệu quả hơn, ngay cả khi mục tiêu cuối cùng chưa đạt được.
  3. Nền tảng kiểm thử ứng dụng di động tự động và tái lập được: Một công cụ trên máy tính hoặc đám mây kết nối với nhiều điện thoại ảo hoặc điện thoại thật. Nó cho phép các nhà phát triển tạo ra các kịch bản kiểm thử cho ứng dụng của họ bằng cách mô tả các bước tương tác trên giao diện. Công cụ này sẽ tự động chạy các kịch bản đó trên nhiều thiết bị và hệ điều hành khác nhau, ghi lại kết quả và cung cấp báo cáo chi tiết về hiệu suất, lỗi, và khả năng hoàn thành tác vụ. Điều này đảm bảo rằng việc kiểm thử là nhất quán và dễ dàng tái lập, giúp các nhà phát triển nhanh chóng tìm và sửa lỗi.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2604.11784
ArXiv Abstracthttps://arxiv.org/abs/2604.11784
PDF Downloadhttps://arxiv.org/pdf/2604.11784.pdf
Github Repositoryhttps://github.com/ZJU-REAL/ClawGUI

2. KnowRL: Boosting LLM Reasoning via Reinforcement Learning with Minimal-Sufficient Knowledge Guidance (83 votes)​

Tác giả: Linhao Yu, Tianmeng Yang, Siyu Ding, Renren Jin, Naibin Gu, Xiangzhao Hao, Shuaiyi Nie, Deyi Xiong, Weichong Yin, Yu Sun, Hua Wu

Xuất bản lúc: 2026-04-14

Tag: Reinforcement Learning, LLMs, Reasoning, Knowledge Guidance, Reward Sparsity, Mathematical Reasoning

I. Main Problem:​

Các mô hình ngôn ngữ lớn (LLMs) được huấn luyện bằng học tăng cường với phần thưởng có thể kiểm chứng (RLVR) thường gặp vấn đề "phần thưởng thưa thớt" (reward sparsity) trên các bài toán khó, dẫn đến mô hình tạo ra các kết quả sai và giảm hiệu quả học tập. Các phương pháp RL dựa trên gợi ý hiện có cố gắng giải quyết bằng cách đưa vào các giải pháp một phần hoặc khuôn mẫu trừu tượng, nhưng chúng thường mở rộng gợi ý bằng cách thêm nhiều token hơn, dẫn đến dư thừa, không nhất quán và tăng chi phí huấn luyện. Cụ thể, có "hiệu ứng đoạn quan trọng" (critical-segment effect) nơi hiệu suất chỉ tăng đáng kể khi một đoạn gợi ý ngắn, quan trọng xuất hiện; "không nhất quán giữa các gợi ý" (cross-hint inconsistency) khi gợi ý dài hơn có thể gây mơ hồ; và "đánh đổi hiệu quả-gợi ý" (guidance-efficiency trade-off) khi gợi ý trừu tượng yêu cầu mô hình giáo viên, tăng chi phí tính toán. Thách thức cốt lõi không phải là cung cấp nhiều gợi ý hơn, mà là chọn lọc các đơn vị kiến thức tối thiểu, mạch lạc đủ để khắc phục sự thưa thớt phần thưởng.

II. Main Idea:​

Nghiên cứu đề xuất KnowRL (Knowledge-Guided Reinforcement Learning), một khung huấn luyện RL coi việc thiết kế gợi ý là một bài toán "hướng dẫn tối thiểu-đủ" (minimal-sufficient guidance problem). Thay vì tiêm các tiền tố giải pháp dài hoặc các khuôn mẫu suy luận đầy đủ, KnowRL phân tách hướng dẫn thành các "điểm kiến thức nguyên tử" (atomic knowledge points - KPs) và xác định tập hợp con tối thiểu cần thiết để mở khóa quá trình học phần thưởng. Quan trọng hơn, KnowRL mô hình hóa và tối ưu hóa "nghịch lý tương tác cắt tỉa" (pruning interaction paradox) – việc loại bỏ một KP có thể hữu ích, nhưng loại bỏ nhiều KP như vậy cùng lúc có thể gây hại do sự phụ thuộc lẫn nhau giữa các KP. Quá trình xây dựng KP bao gồm ba giai đoạn: tạo giải pháp đúng, trích xuất các điểm kiến thức thô, và xác minh rò rỉ thông tin. Để lựa chọn các tập hợp con KP, KnowRL sử dụng chiến lược "Tìm kiếm tập hợp con có ràng buộc" (Constrained Subset Search - CSS) để cắt tỉa trước và sau đó thực hiện tìm kiếm toàn cục trên các ứng viên còn lại. Đối với các vấn đề đơn giản, không có gợi ý nào được cung cấp; chỉ các tập hợp con KP tối thiểu mới được đưa vào cho các mẫu khó hơn trong quá trình huấn luyện. Mục tiêu là dịch chuyển phân phối chính sách về phía các quỹ đạo sinh phần thưởng với lượng thông tin tối thiểu.

III. Main Results:​

KnowRL-Nemotron-1.5B (được huấn luyện từ OpenMath-Nemotron-1.5B) liên tục vượt trội hơn các mô hình RL và các phương pháp gợi ý mạnh mẽ khác trên tám bộ dữ liệu suy luận toán học ở quy mô 1.5B.

  • Không có gợi ý KP trong quá trình suy luận, KnowRL-Nemotron-1.5B đạt độ chính xác trung bình 70.08%, vượt trội Nemotron-1.5B +9.63 điểm.
  • Với các KP được chọn lọc, hiệu suất cải thiện lên 74.16%, thiết lập kỷ lục mới ở quy mô này.
  • Trong đánh giá offline, chiến lược CSS đạt sự đánh đổi tốt nhất: độ chính xác trung bình 63.90% với chỉ 2.57 KP mỗi bài toán.
  • Trên tập dữ liệu QuestA, CSS giảm số lượng KP khoảng 38% trong khi cải thiện đáng kể độ chính xác.
  • Huấn luyện KnowRL giúp giảm tỷ lệ truy vấn có 0 câu trả lời đúng từ 41.21% xuống 13.00% và tăng tỷ lệ có tất cả câu trả lời đúng lên 34.28%.
  • CSS cho thấy độ chính xác huấn luyện cao hơn và duy trì tỷ lệ cắt (clip ratio) mượt mà, ổn định hơn so với CBRS. CSS cũng tổng quát hóa tốt hơn CBRS dưới cùng một ngân sách huấn luyện (ví dụ: 65.00% so với 64.68% ở bước 400, 66.46% so với 65.72% ở bước 900).

IV. Conclusion & Future Works:​

KnowRL là một khung hướng dẫn tối thiểu-đủ cho RLVR, phân tách các gợi ý thành các điểm kiến thức nguyên tử và chọn lọc các tập hợp con mạnh mẽ. Nghiên cứu đã xác định hiện tượng "đoạn quan trọng" giống như một bước nhảy và thiết kế chiến lược lựa chọn KP rất hiệu quả là CSS, giúp xử lý rõ ràng các tương tác giữa các KP và liên tục vượt trội các lựa chọn thay thế trong khi vẫn giữ các tập gợi ý nhỏ gọn. Các kết quả này cho thấy hướng dẫn nhỏ gọn, có cấu trúc là một nguyên tắc mở rộng thực tế cho RL với phần thưởng thưa thớt. Hướng nghiên cứu tương lai bao gồm mở rộng việc tuyển chọn KP và lựa chọn mạnh mẽ đến các lĩnh vực suy luận rộng hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu mở rộng khung KnowRL để áp dụng cho các lĩnh vực suy luận phức tạp khác ngoài toán học, ví dụ như suy luận khoa học (hóa học, vật lý), gỡ lỗi mã (code debugging) hoặc suy luận pháp lý, nhằm đánh giá khả năng khái quát hóa và hiệu quả của việc hướng dẫn kiến thức tối thiểu.
  2. Phát triển các phương pháp tự động hóa hoàn toàn quá trình tạo và chọn lọc các điểm kiến thức (KPs), giảm sự phụ thuộc vào các mô hình giáo viên mạnh hoặc quy trình xác minh thủ công, đặc biệt tập trung vào việc tạo ra KPs có chất lượng cao và không rò rỉ thông tin.
  3. Khám phá cơ chế thích ứng động các điểm kiến thức (KPs) trong quá trình suy luận của LLM, cho phép mô hình tự đánh giá độ chắc chắn hoặc các bước trung gian của mình để yêu cầu các gợi ý KP phù hợp và tối thiểu cần thiết theo thời gian thực.

2. Patent:​

  1. Một ứng dụng di động hỗ trợ học tập thông minh, đặc biệt cho các môn học như toán học hoặc khoa học, có khả năng phân tích bài toán mà người dùng đang gặp khó khăn và chỉ cung cấp các gợi ý kiến thức cốt lõi, tối thiểu cần thiết để giải quyết vấn đề, thay vì đưa ra toàn bộ lời giải, giúp người dùng tự suy luận và học hỏi hiệu quả hơn.
  2. Một trợ lý cá nhân trên điện thoại thông minh được thiết kế để hỗ trợ người dùng trong các tác vụ phức tạp hàng ngày (ví dụ: lập kế hoạch chuyến đi, chuẩn bị danh sách mua sắm hoặc phác thảo một dự án nhỏ). Hệ thống sẽ phân tách nhiệm vụ thành các bước nhỏ và chỉ gợi ý những thông tin hoặc hành động quan trọng nhất tiếp theo, giúp đơn giản hóa quá trình ra quyết định và thực hiện trên màn hình nhỏ.
  3. Một công cụ tạo nội dung thông minh tích hợp trên điện thoại, ví dụ như trong ứng dụng email hoặc ghi chú, có khả năng đề xuất các cụm từ khóa hoặc cấu trúc câu ngắn gọn, súc tích dựa trên ngữ cảnh và ý định của người dùng. Điều này giúp tránh các gợi ý dài dòng, dư thừa, tối ưu hóa quá trình viết và truyền đạt thông tin một cách hiệu quả trên thiết bị di động.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2604.12627
ArXiv Abstracthttps://arxiv.org/abs/2604.12627
PDF Downloadhttps://arxiv.org/pdf/2604.12627.pdf
Github Repositoryhttps://github.com/Hasuer/KnowRL

3. Rethinking On-Policy Distillation of Large Language Models: Phenomenology, Mechanism, and Recipe (60 votes)​

Tác giả: Yaxuan Li, Yuxin Zuo, Bingxiang He, Jinqian Zhang, Chaojun Xiao, Cheng Qian, Tianyu Yu, Huan-ang Gao, Wenkai Yang, Zhiyuan Liu, Ning Ding

Xuất bản lúc: 2026-04-14

Tag: LLMs, Knowledge Distillation, On-Policy Distillation, Reinforcement Learning, Fine-tuning, Alignment, Machine Learning, Deep Learning

I. Main Problem:​

Mặc dù chưng cất theo chính sách (OPD) đã trở thành một kỹ thuật cốt lõi trong hậu huấn luyện các mô hình ngôn ngữ lớn (LLM), động lực huấn luyện của nó vẫn chưa được hiểu rõ. Trong thực tế, OPD thường mong manh và dễ thất bại, ngay cả khi sử dụng một mô hình giáo viên mạnh hơn. Vấn đề cốt lõi là thiếu hiểu biết về lý do tại sao tín hiệu cấp token của giáo viên lại điều khiển phân phối của học sinh theo hướng mong muốn, hoặc các điều kiện nào dẫn đến sự thất bại của quá trình này.

II. Main Idea:​

Nghiên cứu này cung cấp một cuộc điều tra có hệ thống về động lực và cơ chế của OPD. Chúng tôi xác định hai điều kiện chính quyết định sự thành công hay thất bại của OPD: (i) mô hình học sinh và giáo viên phải chia sẻ các mô hình tư duy tương thích; và (ii) giáo viên phải cung cấp các khả năng thực sự mới mẻ, vượt ra ngoài những gì học sinh đã thấy trong quá trình huấn luyện. Chúng tôi đi sâu vào cơ chế cấp token, chỉ ra rằng OPD thành công được đặc trưng bởi sự căn chỉnh tiến bộ trên các token có xác suất cao tại các trạng thái mà học sinh đã truy cập. Cuối cùng, chúng tôi đề xuất hai chiến lược thực tế để khắc phục OPD thất bại: khởi động nguội ngoài chính sách (off-policy cold start) và lựa chọn lời nhắc phù hợp với giáo viên (teacher-aligned prompt selection).

III. Main Results:​

  • Điều kiện thành công: OPD thành công khi học sinh và giáo viên chia sẻ mô hình tư duy tương thích (thể hiện qua tỷ lệ trùng lặp cao trong phân phối token top-k) và giáo viên cung cấp kiến thức mới, không chỉ đơn thuần là điểm số benchmark cao hơn.
  • Thất bại trong chưng cất ngược: Các thí nghiệm chưng cất ngược cho thấy rằng việc chưng cất mô hình JustRL-1.5B (đã được huấn luyện bằng RL) từ R1-Distill-1.5B (điểm kiểm tra trước RL của nó) hoặc R1-Distill-7B (một mô hình lớn hơn, mạnh hơn nhưng cùng họ) đều khiến học sinh suy giảm về hiệu suất trước RL. Điều này chỉ ra rằng OPD về cơ bản học các mô hình tư duy chứ không phải chỉ lợi ích từ sự nhất quán của các mô hình đó, và động lực huấn luyện có thể hoàn toàn tách rời khỏi điểm số benchmark.
  • Cơ chế cấp token: OPD thành công cho thấy sự căn chỉnh tiến bộ trên các token có xác suất cao. Tỷ lệ trùng lặp giữa các token top-k có xác suất cao của học sinh và giáo viên tăng đều đặn, lợi thế token trùng lặp được cải thiện, và khoảng cách entropy thu hẹp. Các token trùng lặp này chiếm 97%-99% tổng khối lượng xác suất và việc tối ưu hóa chỉ trên các token trùng lặp là đủ để đạt được hiệu suất của OPD tiêu chuẩn.
  • Chiến lược khắc phục: Các chiến lược như "khởi động nguội ngoài chính sách" và "lựa chọn lời nhắc phù hợp với giáo viên" đã thành công trong việc phục hồi các lần chạy OPD thất bại, thể hiện cùng một động lực học tập với các lần chạy thành công tự nhiên.

IV. Conclusion & Future Works:​

Bài viết đã cung cấp sự hiểu biết sâu sắc về hiện tượng học tập, cơ chế cấp token và các chiến lược khắc phục của On-Policy Distillation. Chúng tôi kết luận rằng OPD học các mô hình tư duy, và thành công của nó phụ thuộc vào sự tương thích của mô hình tư duy giữa học sinh và giáo viên, cũng như kiến thức mới mà giáo viên mang lại. Cơ chế cốt lõi là sự căn chỉnh tiến bộ trên các token có xác suất cao. Mặc dù giám sát dày đặc cấp token có lợi ích rõ ràng, nó cũng đi kèm với chi phí về chất lượng phần thưởng khi độ dài quỹ đạo tăng lên, hạn chế khả năng mở rộng của OPD cho suy luận tầm xa và các thiết lập tác nhân. Hướng nghiên cứu tương lai nên tập trung vào việc cải thiện độ tin cậy của phần thưởng OPD cho các quỹ đạo dài hơn và các kịch bản phức tạp hơn, cũng như khám phá cách giảm thiểu sự suy giảm chất lượng phần thưởng theo chiều sâu quỹ đạo.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu các phương pháp mới để duy trì độ tin cậy của phần thưởng trong OPD cho các tác vụ suy luận tầm xa và các môi trường tác nhân, khắc phục sự suy giảm chất lượng phần thưởng theo độ sâu quỹ đạo.
  2. Phát triển các kỹ thuật OPD thích ứng có khả năng tự động phát hiện và thu hẹp khoảng cách về "mô hình tư duy" giữa mô hình học sinh và giáo viên, có thể thông qua các cơ chế căn chỉnh phân phối động hoặc học tập thích nghi.
  3. Khám phá việc tích hợp các chiến lược "khởi động nguội ngoài chính sách" và "lựa chọn lời nhắc phù hợp với giáo viên" vào một khuôn khổ OPD tự động và linh hoạt, sử dụng các mô hình đánh giá để điều chỉnh quá trình chưng cất theo thời gian thực.

2. Patent:​

  1. Hệ thống điều chỉnh hành vi trợ lý ảo trên di động: Một ứng dụng trên điện thoại di động có thể phân tích cách người dùng tương tác với trợ lý ảo (ví dụ: cách họ đặt câu hỏi, cấu trúc câu trả lời mong muốn). Sau đó, nó điều chỉnh mô hình ngôn ngữ nhỏ hơn trên thiết bị để "tư duy" theo cách tương tự như người dùng, hoặc như một mô hình lớn hơn trên đám mây, thông qua một quá trình chưng cất thông minh, giúp trợ lý hiểu và phản hồi tự nhiên hơn.
  2. Công cụ tối ưu hóa học tập cá nhân hóa dựa trên từ khóa cốt lõi: Một ứng dụng học tập hoặc tạo nội dung trên điện thoại có thể sử dụng nguyên lý trùng lặp token để tối ưu hóa việc học. Khi người dùng nhập liệu hoặc đọc tài liệu, ứng dụng xác định các "khái niệm cốt lõi" (token có xác suất cao) mà người dùng đang tập trung. Sau đó, nó điều chỉnh gợi ý, giải thích hoặc bài tập để khớp với các khái niệm đó, đảm bảo rằng việc học tập luôn "căn chỉnh tiến bộ" với kiến thức hiện có và mục tiêu học tập của người dùng.
  3. Phương pháp phục hồi hiệu suất mô hình AI trên thiết bị thông minh: Một hệ thống quản lý mô hình AI trên thiết bị di động có thể phát hiện khi một mô hình ngôn ngữ trên thiết bị (ví dụ: để gõ phím thông minh, dịch thuật) bắt đầu hoạt động kém hiệu quả hoặc không "hiểu" người dùng tốt. Thay vì tải lại toàn bộ mô hình lớn, hệ thống sẽ tự động kích hoạt một "giai đoạn khởi động nguội" ngắn, sử dụng dữ liệu tương tác gần đây của người dùng để nhanh chóng căn chỉnh lại mô hình nhỏ với một "mô hình giáo viên" được lưu trữ cục bộ, giúp mô hình hoạt động hiệu quả trở lại mà không tốn nhiều tài nguyên.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2604.13016
ArXiv Abstracthttps://arxiv.org/abs/2604.13016
PDF Downloadhttps://arxiv.org/pdf/2604.13016.pdf
Github Repositoryhttps://github.com/thunlp/OPD

4. Turing Test on Screen: A Benchmark for Mobile GUI Agent Humanization (27 votes)​

Tác giả: Jiachen Zhu, Lingyu Yang, Rong Shan, Congmin Zheng, Zeyu Zheng, Weiwen Liu, Yong Yu, Weinan Zhang, Jianghao Lin

Xuất bản lúc: 2026-02-24

Tag: LMMs, GUI Agents, Humanization, Anti-detection, Adversarial ML, Behavioral Biometrics, Turing Test, Mobile UI

I. Main Problem:​

Các tác vụ của tác nhân GUI tự động (GUI agents) đang ngày càng gia tăng, nhưng nghiên cứu hiện tại chỉ tập trung vào tính hữu ích và độ bền, bỏ qua khía cạnh quan trọng là khả năng chống bị phát hiện. Các nền tảng kỹ thuật số đang triển khai các biện pháp đối phó để phát hiện và ngăn chặn tác nhân, gây ra xung đột lợi ích giữa người dùng và nhà cung cấp dịch vụ, đồng thời có thể dẫn đến rủi ro về trải nghiệm người dùng (ví dụ: bị chặn tài khoản, giao diện đầy nhiễu). Để tồn tại trong các hệ sinh thái lấy con người làm trung tâm, các tác nhân cần có khả năng "nhân hóa" (Humanization) để hành vi của chúng trở nên giống con người hơn và tránh bị phát hiện.

II. Main Idea:​

Bài nghiên cứu giới thiệu "Turing Test on Screen" để mô hình hóa sự tương tác giữa tác nhân và nền tảng như một bài toán tối ưu hóa Min-Max, trong đó bộ phát hiện cố gắng tối đa hóa sự khác biệt hành vi và tác nhân cố gắng giảm thiểu sự khác biệt này mà không làm giảm hiệu suất nhiệm vụ. Các tác giả thu thập một tập dữ liệu độ trung thực cao mới về động lực học cảm ứng trên thiết bị di động từ người dùng và nhiều tác nhân GUI hiện đại. Phân tích ban đầu cho thấy các tác nhân dựa trên LMM thông thường dễ dàng bị phát hiện do động học không tự nhiên (ví dụ: đường di chuyển thẳng tắp, khoảng thời gian hành động không đều, thời lượng chạm ngắn). Dựa trên những phát hiện này, họ thiết lập Agent Humanization Benchmark (AHB) và các chỉ số phát hiện để định lượng sự cân bằng giữa khả năng bắt chước (imitability) và tính hữu ích (utility). Cuối cùng, họ đề xuất các phương pháp nhân hóa, từ việc thêm nhiễu heuristic (B-Spline) đến khớp hành vi dựa trên dữ liệu (Data-Driven History Matching), cùng với các hành động giả (Fake Actions) và chạm kéo dài (Longer Presses), chứng minh rằng tác nhân có thể đạt được khả năng bắt chước cao mà không ảnh hưởng đến hiệu suất.

III. Main Results:​

I. Kết quả chính:​

  • Các tác nhân GUI thông thường rất dễ bị phát hiện bởi các bộ phân loại như XGBoost và SVM, đạt độ chính xác gần 1.0 (ví dụ: 0.995 và 0.98), do các mẫu hành vi cơ học rõ rệt.
  • Chiến lược "History Matching" nhất quán vượt trội so với "B-spline Noise", giảm đáng kể điểm phát hiện (ví dụ: từ 0.8507 xuống 0.7190 ở Cluster 0) và giảm độ chính xác của XGBoost xuống 0.9450, cho thấy việc thích ứng dữ liệu hành vi thực của con người hiệu quả hơn.
  • "Fake Action" làm giảm đáng kể độ chính xác phát hiện dựa trên khoảng thời gian xuống khoảng 0.52 (gần như đoán ngẫu nhiên), nhưng có thể làm giảm hiệu suất nhiệm vụ trực tuyến (ví dụ: từ 0.75 xuống 0.15 trong tác vụ Trip Planning).
  • "Long Press" hiệu quả trong việc vượt qua các heuristic về thời lượng chạm, giảm độ chính xác phát hiện từ 0.9840 xuống 0.6133.
  • Các đặc điểm về hình dạng đường đi (ví dụ: maxDev, ratio_end_to_len) là dễ nhân hóa nhất, giảm độ chính xác phát hiện từ gần 0.99 xuống 0.55–0.64.
  • Độ chính xác điểm cuối (Endpoint Precision) và nhịp điệu thời gian (Action Interval) là những đặc điểm khó nhân hóa nhất do xung đột trực tiếp với tính hữu ích của tác vụ và độ trễ suy luận của LMM.

IV. Conclusion & Future Works:​

Công trình này thay đổi trọng tâm từ việc liệu một tác nhân có thể thực hiện một nhiệm vụ hay không, sang cách nó thực hiện nhiệm vụ đó trong một hệ sinh thái lấy con người làm trung tâm. Khả năng thể hiện các sắc thái hành vi giống con người không còn là một tính năng thẩm mỹ mà là một điều kiện cần thiết để tác nhân tồn tại. Các hướng nghiên cứu trong tương lai bao gồm:

  • Phát triển một "Guard Agent" nhẹ với khả năng hiểu biết trực quan để xác định các vùng an toàn cho các hành động giả mà không gây ra độ trễ suy luận của LMM chính.
  • Khám phá các phương pháp "Internal Injection" để nhúng các tri thức về hành vi con người trực tiếp vào LMM thông qua fine-tuning, thay vì chỉ sử dụng External Wrapper.
  • Nghiên cứu sự tương tác phức tạp giữa các chiến lược nhân hóa để đảm bảo việc nhân hóa một chiều không vô tình làm lộ tác nhân ở các chiều khác, đòi hỏi sự đồng bộ hóa tinh tế hơn giữa che giấu thời gian và tạo quỹ đạo.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phân tích định lượng về tác động của các chiến lược nhân hóa hành vi lên khả năng phát hiện tác nhân GUI trong môi trường di động: Nghiên cứu này sẽ mở rộng phân tích về các đặc điểm hành vi và mức độ khó khăn trong việc nhân hóa chúng, đồng thời đề xuất một khung đánh giá chi tiết hơn về sự cân bằng giữa khả năng bắt chước và hiệu suất nhiệm vụ trên các kịch bản tương tác di động đa dạng.
  2. Thiết kế và triển khai tác nhân bảo vệ (Guard Agent) nhẹ để quản lý hành vi nhân hóa của tác nhân GUI: Tập trung vào việc phát triển một mô hình tác nhân phụ có khả năng nhận diện ngữ cảnh UI an toàn để thực hiện các hành động giả mà không làm gián đoạn luồng tác vụ chính, giải quyết vấn đề độ trễ và xung đột tiện ích hiện tại.
  3. Phương pháp nhúng hành vi giống con người vào các mô hình ngôn ngữ đa phương thức lớn (LMMs) cho tác nhân GUI thông qua tinh chỉnh (fine-tuning): Khám phá "Internal Injection" bằng cách tích hợp trực tiếp các tri thức sinh trắc học và động lực học cảm ứng của con người vào kiến trúc LMM, thay vì chỉ sử dụng các wrapper bên ngoài, nhằm tạo ra tác nhân có hành vi nhân hóa tự nhiên hơn từ đầu.

2. Patent:​

  1. Hệ thống tạo cử chỉ cảm ứng di động giống người dùng dựa trên dữ liệu thực tế và biến đổi affine: Một phương pháp cho phép điện thoại thông minh tạo ra các cử chỉ vuốt, chạm, và kéo giống hệt cách con người thực hiện, bằng cách sử dụng một thư viện dữ liệu cử chỉ thực của con người. Khi một ứng dụng yêu cầu thực hiện một hành động tự động (ví dụ: vuốt màn hình để xem thêm), hệ thống sẽ chọn một cử chỉ phù hợp từ thư viện và điều chỉnh nó (xoay, co giãn) để khớp với mục tiêu, giúp các thao tác tự động trông tự nhiên hơn và khó bị phân biệt với thao tác của người thật.
  2. Ứng dụng quản lý hành vi tác nhân trên điện thoại di động để tránh bị phát hiện: Một ứng dụng trên điện thoại di động giúp các tác nhân tự động (ví dụ: trợ lý ảo tự động duyệt web, mua sắm) thực hiện các hành vi một cách "tự nhiên" hơn, giống như con người. Ứng dụng này sẽ thêm các khoảng dừng ngẫu nhiên, các cử chỉ chạm nhẹ không ảnh hưởng đến nhiệm vụ chính, hoặc điều chỉnh thời gian chạm để tránh bị các hệ thống của nhà cung cấp dịch vụ phát hiện là robot. Điều này giúp người dùng sử dụng các công cụ tự động mà không sợ bị khóa tài khoản hoặc gặp phải các biện pháp bảo vệ phiền toái.
  3. Công nghệ "chạm ảo" có thể điều chỉnh thời lượng và áp lực để mô phỏng tương tác người dùng: Một công nghệ cho phép điện thoại mô phỏng các lần chạm màn hình với thời lượng và áp lực khác nhau, giống như sự khác biệt tự nhiên khi con người chạm vào màn hình. Thay vì chỉ là một tín hiệu chạm tức thời, hệ thống sẽ tạo ra một "hồ sơ chạm" với thời gian bắt đầu, thời gian giữ, và thời gian kết thúc được lấy mẫu từ dữ liệu chạm thực của con người. Điều này có thể được sử dụng trong các ứng dụng tự động hóa để làm cho các tương tác trông chân thực hơn, hoặc trong các trò chơi để tạo ra phản hồi cảm ứng đa dạng hơn.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2604.09574
ArXiv Abstracthttps://arxiv.org/abs/2604.09574
PDF Downloadhttps://arxiv.org/pdf/2604.09574.pdf
Github RepositoryN/A

5. SPPO: Sequence-Level PPO for Long-Horizon Reasoning Tasks (25 votes)​

Tác giả: Tianyi Wang, Yixia Li, Long Li, Yibiao Chen, Shaohan Huang, Yun Chen, Peng Li, Yang Liu, Guanhua Chen

Xuất bản lúc: 2026-04-10

Tag: LLMs, Reinforcement Learning, PPO, Chain-of-Thought, Contextual Bandit, RLHF, Deep Learning, Mathematical Reasoning

I. Main Problem:​

Các vấn đề chính mà nghiên cứu này nhằm giải quyết bao gồm:

  • PPO cấp độ token tiêu chuẩn gặp khó khăn trong các tác vụ suy luận chuỗi tư duy (Chain-of-Thought - CoT) dài do sự không ổn định của việc phân bổ tín dụng theo thời gian và chi phí bộ nhớ lớn của mô hình giá trị (Critic).
  • Hiệu ứng "đuôi" (tail effect): Critic có xu hướng "quá khớp" (overfit) các tín hiệu ngữ nghĩa ở cuối chuỗi, khiến tín hiệu lợi thế biến mất đúng lúc cần thiết.
  • Các phương pháp thay thế không có Critic như GRPO giảm nhẹ các vấn đề trên nhưng lại gây ra chi phí tính toán đáng kể do yêu cầu lấy mẫu nhiều lần để ước tính đường cơ sở, làm giảm đáng kể thông lượng huấn luyện.
  • Tồn tại sự đánh đổi giữa độ chệch và phương sai (Bias-Variance Trade-off): GRPO loại bỏ độ chệch cao trong ước tính giá trị cấp độ token nhưng lại gây ra phương sai cao trong tín hiệu gradient do phụ thuộc vào kết quả Monte Carlo.

II. Main Idea:​

Nghiên cứu giới thiệu Sequence-Level PPO (SPPO), một thuật toán có khả năng mở rộng, kết hợp hiệu quả lấy mẫu của PPO với sự ổn định của các bản cập nhật dựa trên kết quả. SPPO cải tổ quá trình suy luận thành bài toán Contextual Bandit cấp độ chuỗi (Sequence-Level Contextual Bandit):

  • Coi toàn bộ chuỗi phản hồi là một hành động nguyên tử duy nhất và lời nhắc (prompt) là ngữ cảnh tĩnh. Điều này loại bỏ độ chệch cao của việc phân bổ tín dụng cấp độ token.
  • Sử dụng một hàm giá trị vô hướng học được (scalar value function) để ước tính xác suất thành công vô hướng cho một lời nhắc nhất định. Hàm này được huấn luyện bằng hàm lỗi Binary Cross-Entropy (BCE) để giảm phương sai mà không cần lấy mẫu nhiều lần.
  • Tín hiệu lợi thế cấp độ chuỗi duy nhất được truyền đồng nhất đến tất cả các token cấu thành trong chuỗi, giải quyết vấn đề phân bổ tín dụng theo thời gian.
  • Áp dụng chiến lược "Critic tách rời" (Decoupled Critic) sử dụng một Critic nhẹ (ví dụ: 1.5B) để điều chỉnh một chính sách lớn hơn (ví dụ: 7B), giúp giảm đáng kể mức sử dụng bộ nhớ.

III. Main Results:​

SPPO vượt trội đáng kể so với PPO tiêu chuẩn và đạt được hiệu suất tương đương với các phương pháp dựa trên nhóm có chi phí tính toán cao như GRPO, đồng thời cung cấp một khung làm việc hiệu quả tài nguyên để điều chỉnh LLM suy luận.

  • Trên mô hình 1.5B, SPPO đạt hiệu suất trung bình 48.06, vượt trội so với GRPO (47.08).
  • Trên mô hình 7B, SPPO đạt hiệu suất trung bình 58.11, và phiên bản với Critic nhỏ (1.5B Critic điều chỉnh chính sách 7B) đạt 58.56, là điểm số cao nhất.
  • SPPO đạt tốc độ huấn luyện nhanh hơn 5.9 lần so với GRPO.
  • Chiến lược Decoupled Critic không chỉ duy trì hiệu quả mà còn giảm 12.8% mức sử dụng bộ nhớ.
  • Phân tích tương quan cho thấy mô hình giá trị của SPPO có khả năng ước tính chính xác độ khó của lời nhắc (hệ số tương quan Pearson r=0.642, Spearman r=0.664).
  • SPPO cho thấy sự hội tụ mạnh mẽ và hiệu quả lấy mẫu vượt trội trong các tác vụ kiểm soát có phần thưởng thưa thớt, phức tạp (RLVR Benchmark) so với PPO tiêu chuẩn.

IV. Conclusion & Future Works:​

Để giải quyết sự đánh đổi giữa việc phân bổ tín dụng có độ chệch cao của PPO tiêu chuẩn và sự thiếu hiệu quả do phương sai cao của GRPO, SPPO đã cải tổ quá trình suy luận thành một bài toán Contextual Bandit cấp độ chuỗi. Bằng cách sử dụng một Critic vô hướng để ước tính lợi thế, SPPO đảm bảo sự ổn định tối ưu với hiệu suất lấy mẫu đơn cao, mang lại một mô hình có thể mở rộng cho các tác vụ phần thưởng thưa thớt.

Công việc trong tương lai sẽ tập trung vào việc mở rộng công thức bandit cấp độ chuỗi này cho các tác vụ tạo sinh mở, vốn thiếu các bộ xác minh kết quả khách quan.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng SPPO cho các tác vụ tạo sinh văn bản mở: Nghiên cứu cách áp dụng khung SPPO cho các tác vụ tạo sinh không có kết quả xác minh rõ ràng, ví dụ như tạo truyện, thơ, hoặc đối thoại mở. Điều này sẽ yêu cầu phát triển các phương pháp mô hình hóa phần thưởng mới hoặc tích hợp phản hồi của con người một cách hiệu quả để đánh giá chất lượng toàn bộ chuỗi tạo sinh.
  2. Phân tích sâu về chiến lược Decoupled Critic: Khám phá giới hạn và tiềm năng của việc tách rời kích thước Critic và Policy. Nghiên cứu ảnh hưởng của tỷ lệ kích thước Critic/Policy đến hiệu suất, hiệu quả tài nguyên và khả năng tổng quát hóa trên nhiều loại mô hình và tác vụ khác nhau, bao gồm cả các ứng dụng trên thiết bị biên.
  3. Ứng dụng SPPO trong các lĩnh vực suy luận dài hạn khác: Đánh giá hiệu quả của SPPO trong các tác vụ suy luận dài hạn, phần thưởng thưa thớt ngoài toán học, ví dụ như lập kế hoạch phức tạp trong môi trường mô phỏng, tạo mã nguồn nhiều bước, hoặc giải quyết vấn đề khoa học, nơi toàn bộ chuỗi hành động dẫn đến một kết quả cuối cùng.

2. Patent:​

  1. Hệ thống hỗ trợ giải quyết vấn đề thông minh trên thiết bị di động: Một ứng dụng di động sử dụng công nghệ tương tự SPPO để hỗ trợ người dùng giải quyết các vấn đề phức tạp, nhiều bước (ví dụ: bài toán vật lý, hướng dẫn lắp ráp đồ nội thất, lên kế hoạch du lịch). Thay vì đánh giá từng bước riêng lẻ, hệ thống đánh giá toàn bộ chuỗi các bước hoặc giải pháp do người dùng nhập hoặc do AI đề xuất. Phản hồi và hướng dẫn được cung cấp dựa trên tính đúng đắn tổng thể của kết quả cuối cùng, giúp người dùng hiểu rõ hơn về tính hiệu quả của toàn bộ quá trình suy luận, giảm thiểu sự nhầm lẫn do phản hồi từng phần.
  2. Cơ chế tối ưu hóa tương tác người dùng cho ứng dụng học tập/giải trí trên di động: Một công nghệ tích hợp vào các ứng dụng học tập hoặc trò chơi trên điện thoại, tự động ước tính độ khó của một bài tập hoặc cấp độ dựa trên ngữ cảnh (ví dụ: kỹ năng của người dùng, loại câu hỏi). Dựa trên ước tính về khả năng thành công của người dùng (tương tự hàm giá trị vô hướng trong SPPO), hệ thống có thể điều chỉnh linh hoạt độ khó, cung cấp gợi ý thông minh hoặc cá nhân hóa lộ trình học tập/chơi game. Điều này giúp tối ưu hóa trải nghiệm, giữ chân người dùng và tăng hiệu quả học tập mà không cần nhiều lần thử nghiệm tốn kém.
  3. Hệ thống cải thiện phản hồi cho trợ lý ảo đa bước trên di động: Một cải tiến cho các trợ lý ảo trên điện thoại thông minh, cho phép xử lý các yêu cầu phức tạp đòi hỏi nhiều bước thực hiện (ví dụ: "Tìm nhà hàng Ý ở gần đây, đặt bàn cho 4 người vào 7 giờ tối, và gọi taxi đến đó"). Thay vì đưa ra phản hồi rời rạc cho mỗi hành động phụ, hệ thống đánh giá tính thành công của toàn bộ chuỗi hành động và kế hoạch đã thực hiện. Nếu toàn bộ kế hoạch thành công, tất cả các bước đều được củng cố. Nếu có lỗi, trợ lý sẽ cung cấp phản hồi toàn diện về lý do tại sao toàn bộ chuỗi hành động không đạt được mục tiêu, giúp người dùng dễ dàng khắc phục vấn đề hơn thay vì phải phân tích từng lỗi nhỏ.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2604.08865
ArXiv Abstracthttps://arxiv.org/abs/2604.08865
PDF Downloadhttps://arxiv.org/pdf/2604.08865.pdf
Github Repositoryhttps://github.com/sustech-nlp/SPPO

6. Toward Autonomous Long-Horizon Engineering for ML Research (24 votes)​

Tác giả: Guoxin Chen, Jie Chen, Lei Chen, Jiale Zhao, Fanzhe Meng, Wayne Xin Zhao, Ruihua Song, Cheng Chen, Ji-Rong Wen, Kai Jia

Xuất bản lúc: 2026-04-14

Tag: Autonomous AI, ML Research Engineering, Multi-Agent Systems, Long-Horizon Tasks, Hierarchical Reinforcement Learning, LLMs

I. Main Problem:​

Việc thực hiện các dự án kỹ thuật nghiên cứu học máy (ML) dài hạn vẫn còn khó khăn. Các tác nhân AI phải duy trì tiến độ mạch lạc qua các giai đoạn như hiểu nhiệm vụ, thiết lập môi trường, triển khai, thử nghiệm và gỡ lỗi trong nhiều giờ hoặc nhiều ngày. Khó khăn này phát sinh từ việc đặc tả không rõ ràng, gánh nặng thiết lập hệ thống, phản hồi thử nghiệm chậm trễ và thường bị trộn lẫn, cùng với nhu cầu duy trì tính liên tục của trạng thái dự án qua nhiều lần lặp lại.

II. Main Idea:​

Giới thiệu AiScientist, một hệ thống kỹ thuật nghiên cứu ML dài hạn tự động, dựa trên nguyên tắc: hiệu suất dài hạn mạnh mẽ đòi hỏi cả sự điều phối có cấu trúc và tính liên tục của trạng thái bền vững. AiScientist kết hợp điều phối phân cấp (hierarchical orchestration) với không gian làm việc File-as-Bus có phạm vi quyền hạn. Một Orchestrator cấp cao duy trì quyền kiểm soát cấp độ giai đoạn thông qua các bản tóm tắt ngắn gọn và bản đồ không gian làm việc. Các tác nhân chuyên biệt liên tục tái định vị dựa trên các tạo tác bền vững như phân tích, kế hoạch, mã và bằng chứng thử nghiệm, thay vì chỉ dựa vào các cuộc trò chuyện chuyển giao, mang lại “kiểm soát mỏng trên trạng thái dày” (thin control over thick state).

III. Main Results:​

AiScientist cải thiện điểm PaperBench trung bình 10.54 điểm so với baseline tốt nhất và đạt 81.82 Any Medal% trên MLE-Bench Lite. Nó thu hẹp khoảng cách với hiệu suất của con người (41%) trên PaperBench. Các nghiên cứu loại bỏ cho thấy giao thức File-as-Bus là yếu tố then chốt, làm giảm điểm PaperBench 6.41 điểm và MLE-Bench Lite 31.82 điểm khi bị loại bỏ. Điều này cho thấy tính liên tục của trạng thái bền vững là rất quan trọng cho hiệu suất dài hạn. So sánh với các tổ chức tác nhân đơn giản hơn cũng chỉ ra rằng điều phối phân cấp đóng vai trò quan trọng, không chỉ đơn thuần là tăng cường tương tác.

IV. Conclusion & Future Works:​

Nghiên cứu kết luận rằng kỹ thuật nghiên cứu ML dài hạn là một vấn đề hệ thống về việc phối hợp công việc chuyên biệt trên trạng thái dự án bền vững, chứ không phải chỉ là một vấn đề suy luận cục bộ. Các đóng góp bao gồm giới thiệu AiScientist, đề xuất thiết kế phối hợp qua tạo tác với điều phối phân cấp và không gian làm việc chia sẻ, cùng với việc đánh giá hiệu quả của hệ thống và nhấn mạnh tầm quan trọng của tính liên tục trạng thái bền vững.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng AiScientist cho các lĩnh vực khoa học khác: Nghiên cứu cách áp dụng nguyên tắc "kiểm soát mỏng trên trạng thái dày" và giao thức File-as-Bus của AiScientist vào các lĩnh vực khoa học khác ngoài ML, như hóa học, sinh học hoặc khoa học vật liệu, để tự động hóa các quy trình nghiên cứu dài hạn và quản lý dữ liệu phức tạp.
  2. Cải thiện khả năng tự phục hồi và diễn giải cho các tác nhân tự động: Phát triển các cơ chế mới để tác nhân AI có thể tự chẩn đoán và sửa lỗi hiệu quả hơn trong các nhiệm vụ dài hạn. Đồng thời, tập trung vào việc tạo ra các nhật ký và giải thích dễ hiểu cho con người về các quyết định của tác nhân, giúp tăng cường sự tin cậy và khả năng can thiệp của con người.
  3. Tối ưu hóa chi phí và hiệu quả tài nguyên trong nghiên cứu tự động: Nghiên cứu các phương pháp thông minh để quản lý tài nguyên tính toán (ví dụ: GPU) cho các tác nhân nghiên cứu tự động. Điều này bao gồm việc dự đoán số lượng chu kỳ thử nghiệm tối ưu, sử dụng tài nguyên hiệu quả hơn và cân bằng giữa chi phí và hiệu suất đạt được trong quá trình tự động hóa nghiên cứu ML.
  4. patent_ideas

2. Patent:​

  1. Hệ thống trợ lý dự án cá nhân thông minh trên điện thoại di động: Một ứng dụng di động sử dụng nguyên tắc "File-as-Bus" để quản lý các dự án cá nhân dài hạn (ví dụ: học một ngôn ngữ mới, viết sách, lên kế hoạch sự kiện lớn). Ứng dụng sẽ lưu trữ tất cả các tài liệu dự án (ghi chú, kế hoạch, tài liệu tham khảo, hình ảnh) dưới dạng tệp bền vững. Một AI cấp cao sẽ đề xuất các bước tiếp theo, chia nhỏ nhiệm vụ và theo dõi tiến độ dựa trên các tệp này, cung cấp bản tóm tắt ngắn gọn cho người dùng và cho phép các tác nhân chuyên biệt (ví dụ: tác nhân học tập, tác nhân lập kế hoạch) xử lý trạng thái chi tiết của dự án.
  2. Nền tảng phát triển ứng dụng di động tự động cho người không chuyên: Một hệ thống AI tích hợp trên điện thoại hoặc kết nối đám mây, cho phép người dùng (ngay cả những người không có kỹ năng lập trình) phát triển và cải tiến các ứng dụng di động đơn giản một cách lặp đi lặp lại. Hệ thống sẽ lưu trữ đặc tả ứng dụng, thiết kế giao diện người dùng, các thành phần mã và kết quả kiểm tra dưới dạng tệp bền vững. Người dùng chỉ cần cung cấp mục tiêu tổng thể, và AI sẽ tự động tạo/sửa đổi mã, chạy thử nghiệm và chẩn đoán lỗi, hiển thị các bản cập nhật ngắn gọn và cho phép người dùng xem lại trạng thái ứng dụng đang phát triển (ví dụ: bản xem trước, nhật ký lỗi).
  3. Hệ thống học tập và phát triển kỹ năng cá nhân hóa với trạng thái bền vững trên di động: Một nền tảng di động sử dụng khái niệm "File-as-Bus" để lưu trữ toàn bộ hành trình học tập của người dùng cho một kỹ năng cụ thể (ví dụ: lập trình, vẽ, chơi nhạc). Điều này bao gồm các ghi chú, bài tập, dự án, phản hồi và nhật ký tiến độ dưới dạng các tạo tác bền vững. Một AI điều phối sẽ hướng dẫn người dùng qua các giai đoạn học tập, đề xuất các nhiệm vụ cá nhân hóa và các tác nhân chuyên biệt (ví dụ: tác nhân thực hành, tác nhân ôn tập) sẽ hoạt động trên các tạo tác học tập bền vững này, đảm bảo tính liên tục của trạng thái và các lộ trình học tập thích ứng mà không chỉ dựa vào bộ nhớ hội thoại.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2604.13018
ArXiv Abstracthttps://arxiv.org/abs/2604.13018
PDF Downloadhttps://arxiv.org/pdf/2604.13018.pdf
Github Repositoryhttps://github.com/AweAI-Team/AiScientist

7. BERT-as-a-Judge: A Robust Alternative to Lexical Methods for Efficient Reference-Based LLM Evaluation (21 votes)​

Tác giả: Hippolyte Gisserot-Boukhlef, Nicolas Boizard, Emmanuel Malherbe, Céline Hudelot, Pierre Colombo

Xuất bản lúc: 2026-04-10

Tag: LLMs, Evaluation, NLP, BERT, Encoder, Semantic Similarity, Generative AI

I. Main Problem:​

Việc đánh giá đầu ra của các mô hình ngôn ngữ lớn (LLM) thường dựa vào các phương pháp từ vựng cứng nhắc (ví dụ: regex) để trích xuất và đánh giá câu trả lời. Điều này có thể làm sai lệch khả năng giải quyết vấn đề thực sự của mô hình với việc tuân thủ các hướng dẫn định dạng đã định trước, dẫn đến tương quan kém với đánh giá của con người. Mặc dù các phương pháp LLM-as-a-Judge gần đây giải quyết vấn đề này bằng cách đánh giá tính đúng đắn về ngữ nghĩa, chúng lại gây ra chi phí tính toán đáng kể, khiến việc đánh giá trở nên tốn kém. Vấn đề cốt lõi là làm thế nào để đo lường khả năng giải quyết vấn đề cốt lõi của mô hình mà không phụ thuộc vào định dạng đầu ra hoặc chi phí suy luận đắt đỏ.

II. Main Idea:​

Để giải quyết những hạn chế của đánh giá từ vựng và chi phí cao của LLM-as-a-Judge, nghiên cứu này giới thiệu BERT-as-a-Judge. Đây là một phương pháp dựa trên mô hình mã hóa (encoder-driven) để đánh giá tính đúng đắn của câu trả lời trong các thiết lập tạo sinh dựa trên tham chiếu. Mô hình này mạnh mẽ trước các biến thể trong cách diễn đạt đầu ra và chỉ yêu cầu huấn luyện nhẹ trên các bộ ba (câu hỏi-ứng viên-tham chiếu) được chú thích tổng hợp. BERT-as-a-Judge tận dụng cơ chế chú ý hai chiều của BERT để phân loại văn bản, cung cấp sự cân bằng thuyết phục giữa độ tin cậy và hiệu quả tính toán, cho phép đánh giá đáng tin cậy và có thể mở rộng.

III. Main Results:​

Nghiên cứu chỉ ra rằng đánh giá từ vựng có tương quan yếu với đánh giá của con người, làm sai lệch đáng kể hiệu suất và xếp hạng của mô hình. BERT-as-a-Judge liên tục vượt trội hơn phương pháp từ vựng cơ bản và đạt được hiệu suất tương đương với các LLM-as-a-Judge lớn hơn nhiều, nhưng với chi phí tính toán thấp hơn đáng kể (khoảng 200 ms mỗi mẫu trên CPU Apple M1). Nó đạt độ chính xác cao nhất so với nhãn ground-truth trên tất cả các benchmark (ví dụ: 99.7% trên ARC-Easy, 98.8% trên GSM8K), cho thấy khả năng tổng quát hóa mạnh mẽ đối với các tác vụ và mô hình chưa từng thấy. Mô hình cũng hiệu quả về mặt huấn luyện, chỉ cần 100K mẫu để đạt độ chính xác cao trên nhiều tác vụ (khoảng 2 giờ GPU). Ngoài ra, BERT-as-a-Judge còn mạnh mẽ trước các biến thể định dạng câu trả lời và ngưỡng quyết định.

IV. Conclusion & Future Works:​

Nghiên cứu kết luận rằng các giao thức đánh giá tiêu chuẩn thường nhầm lẫn khả năng giải quyết vấn đề của mô hình với việc tuân thủ các ràng buộc định dạng. BERT-as-a-Judge, một framework dựa trên encoder nhẹ, giải quyết vấn đề này bằng cách nắm bắt chính xác hơn tính đúng đắn về ngữ nghĩa, phù hợp hơn với đánh giá của con người và tránh được chi phí tính toán cao của các phương pháp LLM-as-a-Judge, cho phép đánh giá hiệu quả và đáng tin cậy hơn. Các hướng nghiên cứu trong tương lai bao gồm mở rộng phạm vi đánh giá dựa trên encoder sang các thiết lập tạo sinh mở (ví dụ: tóm tắt, dịch máy, tạo mã), thích ứng framework cho các ngữ cảnh đa ngôn ngữ, và mở rộng phương pháp này để xử lý đầu vào đa phương thức (ví dụ: thị giác và giọng nói) nhằm hướng tới một mô hình đánh giá thống nhất cho các tác vụ và phương thức khác nhau.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Đánh giá các mô hình tạo sinh mở: Mở rộng BERT-as-a-Judge cho các tác vụ như tóm tắt, dịch máy và tạo mã, nơi câu trả lời không có định dạng cố định và yêu cầu đánh giá ngữ nghĩa phức tạp hơn.
  2. Đánh giá đa ngôn ngữ của LLM: Phát triển một phiên bản BERT-as-a-Judge đa ngôn ngữ để đánh giá hiệu suất của LLM trên các ngôn ngữ khác nhau, giải quyết thách thức về biến thể ngôn ngữ và văn hóa trong câu trả lời.
  3. BERT-as-a-Judge đa phương thức: Mở rộng khung đánh giá để xử lý đầu vào đa phương thức (ví dụ: câu hỏi thị giác, chú thích hình ảnh, suy luận dựa trên giọng nói), tạo ra một phương pháp đánh giá thống nhất cho các mô hình đa phương thức.

2. Patent:​

  1. Một hệ thống xác minh câu trả lời thông minh trên điện thoại di động: Một ứng dụng điện thoại di động sử dụng công nghệ tương tự BERT-as-a-Judge để tự động xác minh tính chính xác của các câu trả lời do trợ lý ảo hoặc chatbot trên điện thoại tạo ra. Nó so sánh câu trả lời của AI với các thông tin tham chiếu đã biết (ví dụ: từ Wikipedia hoặc cơ sở dữ liệu địa phương của người dùng), đảm bảo rằng người dùng nhận được thông tin đáng tin cậy ngay cả khi cách diễn đạt hơi khác.
  2. Công cụ chấm điểm tự động linh hoạt cho ứng dụng giáo dục di động: Một tính năng trong ứng dụng học tập trên điện thoại cho phép học sinh nhập câu trả lời dạng tự do cho các câu hỏi. Thay vì khớp từ khóa cứng nhắc, hệ thống sẽ sử dụng một mô hình đánh giá ngữ nghĩa dựa trên BERT-as-a-Judge để so sánh câu trả lời của học sinh với đáp án chuẩn, cung cấp điểm số chính xác và phản hồi mang tính xây dựng hơn, giảm gánh nặng chấm điểm thủ công cho giáo viên.
  3. Bộ kiểm soát chất lượng chatbot di động tự động: Một công cụ tích hợp trong các ứng dụng dịch vụ khách hàng trên điện thoại di động để tự động đánh giá chất lượng phản hồi của chatbot. Hệ thống này so sánh câu trả lời của chatbot với các giải pháp đúng đã được xác định trước hoặc các bài viết trong cơ sở tri thức, đảm bảo chatbot cung cấp hỗ trợ chính xác về mặt ngữ nghĩa và cảnh báo khi có phản hồi không phù hợp, giúp cải thiện trải nghiệm người dùng mà không cần giám sát liên tục của con người.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2604.09497
ArXiv Abstracthttps://arxiv.org/abs/2604.09497
PDF Downloadhttps://arxiv.org/pdf/2604.09497.pdf
Github Repositoryhttps://github.com/artefactory/BERT-as-a-Judge

8. Nemotron 3 Super: Open, Efficient Mixture-of-Experts Hybrid Mamba-Transformer Model for Agentic Reasoning (19 votes)​

Tác giả: NVIDIA, Aakshita Chandiramani, Aaron Blakeman, Abdullahi Olaoye, Abhibha Gupta, Abhilash Somasamudramath, Abhinav Khattar, Adeola Adesoba, Adi Renduchintala, Adil Asif, Aditya Agrawal, Aditya Vavre, Ahmad Kiswani, Aishwarya Padmakumar, Ajay Hotchandani, Akanksha Shukla, Akhiad Bercovich, Aleksander Ficek, Aleksandr Shaposhnikov, Alex Gronskiy, Alex Kondratenko, Alex Neefus, Alex Steiner, Alex Yang, Alexander Bukharin, Alexander Young, Ali Hatamizadeh, Ali Taghibakhshi, Alina Galiautdinova, Alisa Liu, Alok Kumar, Ameya Sunil Mahabaleshwarkar, Amir Klein, Amit Zuker, Amnon Geifman, Anahita Bhiwandiwalla, Ananth Subramaniam, Andrew Tao, Anjaney Shrivastava, Anjulie Agrusa, Ankur Srivastava, Ankur Verma, Ann Guan, Anna Shors, Annamalai Chockalingam, Anubhav Mandarwal, Aparnaa Ramani, Arham Mehta, Arti Jain, Arun Venkatesan, Asha Anoosheh, Ashwath Aithal, Ashwin Poojary, Asif Ahamed, Asit Mishra, Asli Sabanci Demiroz, Asma Kuriparambil Thekkumpate, Atefeh Sohrabizadeh, Avinash Kaur, Ayush Dattagupta, Barath Subramaniam Anandan, Bardiya Sadeghi, Barnaby Simkin, Ben Lanir, Benedikt Schifferer, Benjamin Chislett, Besmira Nushi, Bilal Kartal, Bill Thiede, Bita Darvish Rouhani, Bobby Chen, Boris Ginsburg, Brandon Norick, Branislav Kisacanin, Brian Yu, Bryan Catanzaro, Buvaneswari Mani, Carlo del Mundo, Chankyu Lee, Chanran Kim, Chantal Hwang, Chao Ni, Charles Wang, Charlie Truong, Cheng-Ping Hsieh, Chenhan Yu, Chenjie Luo, Cherie Wang, Chetan Mungekar, Chintan Patel, Chris Alexiuk, Chris Holguin, Chris Wing, Christian Munley, Christopher Parisien, Chuck Desai, Chunyang Sheng, Collin Neale, Cyril Meurillon, Dakshi Kumar, Dan Gil, Dan Su, Dane Corneil, Daniel Afrimi, Daniel Burkhardt Eliuth Triana, Daniel Egert, Daniel Fatade, Daniel Lo, Daniel Rohrer, Daniel Serebrenik, Daniil Sorokin, Daria Gitman, Daria Levy, Darko Stosic, David Edelsohn, David Messina, David Mosallanezhad, David Tamok, Deena Donia, Deepak Narayanan, Devin O'Kelly, Dheeraj Peri, Dhruv Nathawani, Di Wu, Dima Rekesh, Dina Yared, Divyanshu Kakwani, Dmitry Konyagin Brandon Tuttle, Dong Ahn, Dongfu Jiang, Dorrin Poorkay, Douglas O'Flaherty, Duncan Riach, Dusan Stosic, Dustin Van Stee, Edgar Minasyan, Edward Lin, Eileen Peters Long, Elad Segal, Elena Lantz, Elena Lewis, Ellie Evans, Elliott Ning, Eric Chung, Eric Harper, Eric Pham-Hung, Eric W. Tramel, Erick Galinkin, Erik Pounds, Esti Etrog, Evan Briones, Evan Wu, Evelina Bakhturina, Evgeny Tsykunov, Ewa Dobrowolska, Farshad Saberi Movahed, Farzan Memarian, Fay Wang, Fei Jia, Felipe Soares, Felipe Vieira Frujeri, Feng Chen, Fengguang Lin, Ferenc Galko, Fortuna Zhang, Frankie Siino, Frida Hou, Gantavya Bhatt, Gargi Prasad, Geethapriya Venkataramani, Geetika Gupta, George Armstrong, Gerald Shen, Giulio Borghesi, Gordana Neskovic, Gorkem Batmaz, Grace Lam, Grace Wu, Greg Pauloski, Greyson Davis, Grigor Nalbandyan, Guoming Zhang, Guy Farber, Guyue Huang, Haifeng Qian, Haran Kumar Shiv Kumar, Harry Kim, Harsh Sharma, Hayate Iso, Hayley Ross, Herbert Hum, Herman Sahota, Hexin Wang, Himanshu Soni, Hiren Upadhyay, Huy Nguyen, Iain Cunningham, Ido Galil, Ido Shahaf, Igino Padovani, Igor Gitman, Igor Shovkun, Ikroop Dhillon, Ilya Loshchilov, Ingrid Kelly, Itamar Schen, Itay Levy, Ivan Moshkov, Izik Golan, Izzy Putterman, Jain Tu, Jan Baczek, Jan Kautz, Jane Polak Scowcroft, Janica Rosenberg, Jared Casper, Jarrod Pflum, Jason Grant, Jason Sewall, Jatin Mitra, Jeffrey Glick, Jenny Chen, Jesse Oliver, Jiacheng Xu, Jiafan Zhu, Jialin Song, Jian Zhang, Jiaqi Zeng, Jie Lou, Jill Milton, Jim Chow, Jimmy Zhang, Jinhang Choi, Jining Huang, Jocelyn Huang, Joel Caruso, Joey Conway, Joey Guman, Johan Jatko, John Kamalu, Johnny Greco, Jonathan Cohen, Jonathan Raiman, Joseph Jennings, Joyjit Daw, Juan Yu, Julio Tapia, Junkeun Yi, Jupinder Parmar, Jyothi Achar, Kari Briski, Kartik Mattoo, Katherine Cheung, Katherine Luna, Keith Wyss, Kevin Shih, Kezhi Kong, Khanh Nguyen, Khushi Bhardwaj, Kirill Buryak, Kirthi Shankar Sivamani, Konstantinos Krommydas, Kris Murphy, Krishna C. Puvvada, Krzysztof Pawelec, Kumar Anik, Laikh Tewari, Laya Sleiman, Leo Du, Leon Derczynski, Li Ding, Lilach Ilan, Lingjie Wu, Lizzie Wei, Luis Vega, Lun Su, Maarten Van Segbroeck, Maer Rodrigues de Melo, Magaret Zhang, Mahan Fathi, Makesh Narsimhan Sreedhar, Makesh Sreedhar, Makesh Tarun Chandran, Manuel Reyes Gomez, Maor Ashkenazi, Marc Cuevas, Marc Romeijn, Margaret Zhang, Mark Cai, Mark Gabel, Markus Kliegl, Martyna Patelka, Maryam Moosaei, Matthew Varacalli, Matvei Novikov, Mauricio Ferrato, Mehrzad Samadi, Melissa Corpuz, Meng Xin, Mengdi Wang, Mengru Wang, Meredith Price, Micah Schaffer, Michael Andersch, Michael Boone, Michael Evans, Michael Z Wang, Miguel Martinez, Mikail Khona, Mike Chrzanowski, Mike Hollinger, Mingyuan Ma, Minseok Lee, Mohammad Dabbah, Mohammad Shoeybi, Mostofa Patwary, Nabin Mulepati, Nader Khalil, Najeeb Nabwani, Nancy Agarwal, Nanthini Balasubramaniam, Narimane Hennouni, Narsi Kodukula, Natalie Hereth, Nathaniel Pinckney, Nave Assaf, Negar Habibi, Nestor Qin, Neta Zmora, Netanel Haber, Nick Reamaroon, Nickson Quak, Nidhi Bhatia, Nikhil Jukar, Nikki Pope, Nikolai Ludwig, Nima Tajbakhsh, Nir Ailon, Nirmal Juluru, Nirmalya De, Nowel Pitt, Oleg Rybakov, Oleksii Hrinchuk, Oleksii Kuchaiev, Olivier Delalleau, Oluwatobi Olabiyi, Omer Ullman Argov, Omri Almog, Omri Puny, Oren Tropp, Otavio Padovani, Ouye Xie, Parth Chadha, Pasha Shamis, Paul Gibbons, Pavlo Molchanov, Peter Belcak, Peter Jin, Pinky Xu, Piotr Januszewski, Pooya Jannaty, Prachi Shevate, Pradeep Thalasta, Pranav Prashant Thombre, Prasoon Varshney, Prerana Gambhir, Pritam Gundecha, Przemek Tredak, Qing Miao, Qiyu Wan, Quan Tran Minh, Rabeeh Karimi Mahabadi, Rachel Oberman, Rachit Garg, Rahul Kandu, Raina Zhong, Ran El-Yaniv, Ran Zilberstein, Rasoul Shafipour, Renee Yao, Renjie Pi, Richard Mazzarese, Richard Wang, Rick Izzo, Ridhima Singla, Rima Shahbazyan, Rishabh Garg, Ritika Borkar, Ritu Gala, Riyad Islam, Robert Clark, Robert Hesse, Roger Waleffe, Rohit Varma Kalidindi, Rohit Watve, Roi Koren, Ron Fan, Ruchika Kharwar, Ruisi Cai, Ruoxi Zhang, Russell J. Hewett, Ryan Prenger, Ryan Timbrook, Ryota Egashira, Sadegh Mahdavi, Sagar Singh Ashutosh Joshi, Sahil Modi, Samuel Kriman, Sandeep Pombra, Sanjay Kariyappa, Sanjeev Satheesh, Santiago Pombo, Saori Kaji, Satish Pasumarthi, Saurav Mishra, Saurav Muralidharan, Scott Hara, Sean Narenthiran, Sebastian Rogawski, Seonjin Na, Seonmyeong Bak, Sepehr Sameni, Seth Poulos, Shahar Mor, Shantanu Acharya, Shaona Ghosh Adam Lord, Sharath Turuvekere Sreenivas, Shaun Kotek, Shaya Gharghabi, Shelby Thomas, Sheng-Chieh Lin, Shibani Likhite, Shiqing Fan, Shiyang Chen, Shreya Gopal, Shrimai Prabhumoye, Shubham Pachori, Shubham Toshniwal, Shuo Zhang, Shuoyang Ding, Shyam Renjith, Shyamala Prayaga, Siddhartha Jain, Simeng Sun, Sirisha Rella, Sirshak Das, Smita Ithape, Sneha Harishchandra S, Somshubra Majumdar, Soumye Singhal, Sri Harsha Singudasu, Sriharsha Niverty, Stas Sergienko, Stefana Gloginic, Stefania Alborghetti, Stephen Ge, Stephen McCullough, Sugam Dipak Devare, Suguna Varshini Velury, Sukrit Rao, Sumeet Kumar Barua, Sunny Gai, Suseella Panguluri, Sushil Koundinyan, Swathi Patnam, Sweta Priyadarshi, Swetha Bhendigeri, Syeda Nahida Akter, Sylendran Arunagiri, Tailling Yuan, Talor Abramovich, Tan Bui, Tan Yu, Terry Kong, Thanh Do, Thomas Gburek, Thorgane Marques, Tiffany Moore, Tijmen Blankevoort, Tim Moon, Timothy Ma, Tiyasa Mitra, Tomasz Grzegorzek, Tomer Asida, Tomer Bar Natan, Tomer Keren, Tomer Ronen, Traian Rebedea, Trenton Starkey, Tugrul Konuk, Twinkle Vashishth, Tyler Condensa, Udi Karpas, Ushnish De, Vahid Noorozi, Vahid Noroozi, Vanshil Atul Shah, Veena Vaidyanathan, Venkat Srinivasan, Venmugil Elango, Victor Cui, Vijay Korthikanti, Vikas Mehta, Virginia Adams, Virginia Wu, Vitaly Kurin, Vitaly Lavrukhin, Vladimir Anisimov, Wan Seo, Wanli Jiang, Wasi Uddin Ahmad, Wei Du, Wei Ping, Wei-Ming Chen, Wendy Quan, Wenliang Dai, Wenwen Gao, Will Jennings, William Zhang, Xiaowei Ren, Xiaowen Xin, Xin Li, Yang Yu, Yangyi Chen, Yaniv Galron, Yashaswi Karnati, Yejin Choi, Yev Meyer, Yi-Fu Wu, Yian Zhang, Ying Lin, Yonatan Geifman, Yonggan Fu, Yoshi Suhara, Youngeun Kwon, Yuan Zhang, Yuki Huang, Zach Moshe, Zhilin Wang, Zhiyu Cheng, Zhongbo Zhu, Zhuolin Yang, Zihan Liu, Zijia Chen, Zijie Yan, Zuhair Ahmed

Xuất bản lúc: 2026-04-14

Tag: LLMs, Mixture-of-Experts, Mamba, Transformer, Agentic Reasoning, Quantization, Speculative Decoding, NVFP4, Low-Precision Training

I. Main Problem:​

Các vấn đề chính mà nghiên cứu này nhằm giải quyết bao gồm: 1) Nâng cao độ chính xác của các Mô hình Ngôn ngữ Lớn (LLMs) trong khi giảm số lượng tham số hoạt động (active parameter count) để tối ưu hóa hiệu quả tính toán. 2) Cải thiện thông lượng suy luận (inference throughput) và giảm độ trễ cho các LLMs, đặc biệt trong các tác vụ yêu cầu ngữ cảnh dài. 3) Tối ưu hóa độ chính xác trên mỗi FLOP và độ chính xác trên mỗi tham số trong kiến trúc Mixture-of-Experts (MoE) để giải quyết các hạn chế về băng thông bộ nhớ và giao tiếp. 4) Tăng cường khả năng suy luận tác tử (agentic capabilities) của mô hình trên các tác vụ đa bước, sử dụng công cụ. 5) Đảm bảo quá trình tiền huấn luyện ổn định và chính xác ở độ chính xác thấp (NVFP4) để giảm chi phí tài nguyên.

II. Main Idea:​

Nemotron 3 Super là một mô hình lai Mamba-Attention Mixture-of-Experts (MoE) với 120 tỷ tham số (12 tỷ tham số hoạt động), được thiết kế để đạt hiệu suất cao và suy luận tác tử hiệu quả. Các ý tưởng chính bao gồm: 1) Sử dụng kiến trúc LatentMoE mới, tối ưu hóa độ chính xác trên mỗi FLOP và trên mỗi tham số bằng cách chiếu các token vào một không gian tiềm ẩn (latent dimension) nhỏ hơn để tính toán của chuyên gia, giảm chi phí bộ nhớ và giao tiếp. 2) Tích hợp các lớp Multi-Token Prediction (MTP) với cơ chế chia sẻ trọng số để tăng tốc suy luận thông qua giải mã suy đoán (speculative decoding) bản địa và cải thiện chất lượng mô hình, khắc phục sự không khớp giữa huấn luyện và suy luận cho các bản nháp dài. 3) Tiền huấn luyện mô hình trong NVFP4, chứng minh khả năng huấn luyện ổn định và chính xác ở độ chính xác thấp. 4) Áp dụng kiến trúc lai Mamba-Attention, sử dụng chủ yếu các khối Mamba-2 để xử lý chuỗi hiệu quả theo thời gian tuyến tính và chèn các lớp self-attention chiến lược làm "neo" toàn cầu cho các phụ thuộc tầm xa. 5) Hậu huấn luyện rộng rãi bằng cách sử dụng Supervised Fine Tuning (SFT) và Reinforcement Learning (RL) trên 25 nghìn tỷ token, tập trung mạnh vào các khả năng tác tử, đồng thời công khai mã nguồn, bộ dữ liệu và các checkpoint của mô hình.

III. Main Results:​

Nemotron 3 Super đạt được độ chính xác tương đương trên các điểm chuẩn phổ biến so với GPT-OSS-120B và Qwen3.5-122B, đồng thời đạt thông lượng suy luận cao hơn tới 2.2 lần so với GPT-OSS-120B và 7.5 lần so với Qwen3.5-122B (với đầu vào 8k token / đầu ra 64k token). Mô hình này hỗ trợ độ dài ngữ cảnh lên đến 1 triệu token. Nemotron 3 Super đạt được độ dài chấp nhận trung bình cao nhất (3.45) trên SPEED-Bench cho MTP, vượt trội so với DeepSeek-R1 và cạnh tranh với Qwen3-Next. MTP cũng cải thiện đáng kể ranh giới Pareto giữa thông lượng và độ trễ, mang lại số lượng token đầu ra tổng hợp cao hơn trên mỗi giây (TPS) cho bất kỳ độ trễ người dùng trung bình nào. Mô hình cơ sở của Nemotron 3 Super cũng đạt độ chính xác tốt hơn đáng kể so với các mô hình cơ sở tiên tiến cùng kích thước như GLM-4.5-Air-Base và Ling-flash-Base-2.0. Quá trình tiền huấn luyện NVFP4 được chứng minh là ổn định và chính xác trên 25 nghìn tỷ token.

IV. Conclusion & Future Works:​

Nemotron 3 Super là một mô hình lai Mixture-of-Experts Mamba-Transformer mã nguồn mở, hiệu quả, được thiết kế cho suy luận tác tử. Nó kết hợp các đổi mới trong kiến trúc MoE (LatentMoE), tăng tốc suy luận (Multi-Token Prediction với giải mã suy đoán), và huấn luyện độ chính xác thấp (NVFP4) để đạt được hiệu suất vượt trội về độ chính xác và thông lượng. Các bộ dữ liệu, checkpoint cơ sở, hậu huấn luyện và lượng tử hóa của Nemotron 3 Super đã được công khai. Nghiên cứu cũng ghi nhận và phân tích các thách thức trong quá trình tiền huấn luyện NVFP4, đặc biệt là hiện tượng tràn dưới dẫn đến các gradient trọng số bằng 0, mặc dù mô hình cuối cùng vẫn được tiền huấn luyện hoàn toàn bằng công thức NVFP4.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phân tích chuyên sâu về các nguyên tắc đồng thiết kế phần cứng-phần mềm của LatentMoE và tối ưu hóa hiệu quả trên các nền tảng phần cứng đa dạng.
  2. Các chiến lược giảm thiểu hiện tượng tràn dưới (underflow) và cải thiện độ ổn định huấn luyện trong các mô hình MoE sử dụng lượng tử hóa NVFP4, bao gồm các kỹ thuật lượng tử hóa thích ứng và trộn độ chính xác.
  3. Nghiên cứu về các phương pháp Multi-Token Prediction (MTP) thích ứng và tích hợp tri thức để tăng cường giải mã suy đoán cho các tác vụ tác tử (agentic tasks) dài hạn và phức tạp.

2. Patent:​

  1. Hệ thống suy luận AI trên điện thoại di động với kiến trúc MoE lai Mamba-Transformer tiết kiệm năng lượng: Một công nghệ cho phép các ứng dụng AI trên điện thoại di động chạy các tác vụ phức tạp với hiệu suất cao và tiêu thụ ít pin hơn. Hệ thống này sử dụng một cách thông minh các phần khác nhau của mô hình AI khổng lồ tùy thuộc vào nhu cầu, đồng thời áp dụng một kỹ thuật xử lý dữ liệu đặc biệt để giảm gánh nặng bộ nhớ và tăng tốc độ xử lý, giúp điện thoại hoạt động mượt mà hơn khi sử dụng các tính năng AI như trợ lý ảo hoặc dịch thuật.
  2. Phương pháp tăng tốc phản hồi trợ lý ảo bằng dự đoán đa token tối ưu trên thiết bị di động: Một phương pháp giúp trợ lý ảo trên điện thoại di động trả lời câu hỏi và thực hiện lệnh nhanh chóng hơn. Thay vì dự đoán từng từ một, công nghệ này cho phép mô hình AI dự đoán nhiều từ cùng lúc, tạo ra một bản nháp câu trả lời. Sau đó, mô hình chính sẽ nhanh chóng kiểm tra và hoàn thiện bản nháp này, giảm đáng kể thời gian chờ đợi của người dùng. Điều này đặc biệt hữu ích cho các cuộc trò chuyện dài và phức tạp.
  3. Công nghệ huấn luyện và triển khai mô hình AI với độ chính xác thấp (NVFP4) cho ứng dụng di động: Một công nghệ cho phép các nhà phát triển tạo ra và chạy các mô hình AI rất lớn trực tiếp trên điện thoại di động mà không cần quá nhiều tài nguyên. Công nghệ này sử dụng một phương pháp đặc biệt để lưu trữ và tính toán thông tin của mô hình với độ chính xác thấp hơn, nhưng vẫn đảm bảo độ chính xác của kết quả. Điều này giúp giảm kích thước tệp của mô hình, yêu cầu bộ nhớ và năng lượng tiêu thụ, cho phép các tính năng AI mạnh mẽ hoạt động ngoại tuyến trên điện thoại.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2604.12374
ArXiv Abstracthttps://arxiv.org/abs/2604.12374
PDF Downloadhttps://arxiv.org/pdf/2604.12374.pdf
Github RepositoryN/A

9. Lyra 2.0: Explorable Generative 3D Worlds (18 votes)​

Tác giả: Tianchang Shen, Sherwin Bahmani, Kai He, Sangeetha Grama Srinivasan, Tianshi Cao, Jiawei Ren, Ruilong Li, Zian Wang, Nicholas Sharp, Zan Gojcic, Sanja Fidler, Jiahui Huang, Huan Ling, Jun Gao, Xuanchi Ren

Xuất bản lúc: 2026-04-14

Tag: Generative AI, 3D Reconstruction, Video Generation, Diffusion Models, Scene Generation, Long-horizon Generation, 3D Gaussian Splatting, Embodied AI

I. Main Problem:​

Các phương pháp tạo cảnh 3D hiện tại gặp khó khăn khi mở rộng sang các môi trường lớn, phức tạp, đặc biệt khi yêu cầu tạo video điều khiển camera theo quỹ đạo dài với thay đổi góc nhìn lớn và ghé thăm lại các địa điểm đã qua. Các vấn đề chính bao gồm:

  • Quên không gian (Spatial forgetting): Khi khám phá diễn ra, các khu vực đã quan sát trước đó bị loại khỏi ngữ cảnh thời gian của mô hình, buộc mô hình phải tự tạo cấu trúc mới khi quay lại, phá vỡ tính nhất quán bố cục toàn cầu.
  • Trôi dạt thời gian (Temporal drifting): Việc tạo sinh tự hồi quy tích lũy các lỗi tổng hợp nhỏ theo thời gian, dần dần làm biến dạng hình ảnh và hình học của cảnh (ví dụ: thay đổi màu sắc, biến dạng cấu trúc). Điều này càng trầm trọng hơn khi các vùng mới liên tục được đưa vào, làm giảm sự trùng lặp hình ảnh với các khung lịch sử ban đầu.

II. Main Idea:​

Lyra 2.0 là một framework để tạo ra các thế giới 3D có thể khám phá, duy trì tính bền vững ở quy mô lớn. Để giải quyết các vấn đề chính, Lyra 2.0 đề xuất:

  • Cơ chế chống quên (Anti-forgetting): Duy trì thông tin hình học 3D riêng biệt cho từng khung hình trong một bộ nhớ đệm 3D, không hợp nhất chúng thành một đám mây điểm toàn cầu để tránh tích lũy lỗi. Hình học 3D này chỉ được sử dụng để định tuyến thông tin – truy xuất các khung hình lịch sử liên quan và thiết lập các mối tương ứng dày đặc với các góc nhìn mục tiêu. Việc tổng hợp hình ảnh dựa hoàn toàn vào mô hình khuếch tán để đảm bảo tính nhất quán hình ảnh mà không truyền các lỗi kết xuất cứng. Bộ nhớ không gian (các khung hình đã truy xuất và bản đồ tọa độ chính tắc bị biến dạng) được đưa vào mô hình video thông qua cơ chế tự chú ý.
  • Cơ chế chống trôi dạt (Anti-drifting): Sử dụng chiến lược huấn luyện tự tăng cường (self-augmentation). Trong quá trình huấn luyện, mô hình được đưa vào các đầu ra bị suy giảm chất lượng của chính nó (bằng cách thêm nhiễu vào latent của lịch sử), dạy nó cách sửa lỗi trôi dạt thay vì lan truyền chúng. Điều này được bổ sung bằng cách sử dụng FramePack để nén ngữ cảnh lịch sử, cho phép mô hình chú ý đến một chân trời thời gian dài hơn trong một ngân sách token cố định và neo thế hệ vào hình ảnh gốc.
  • Tái tạo 3D: Các video được tạo được chuyển đổi thành các biểu diễn 3D rõ ràng (3D Gaussians và lưới bề mặt) bằng cách sử dụng một pipeline 3D Gaussian Splatting (3DGS) feed-forward đã được tinh chỉnh (DAv3). Mô hình DAv3 được sửa đổi để dự đoán số lượng Gaussians ít hơn và được tinh chỉnh trên các chuỗi video do Lyra 2.0 tạo ra để tăng cường độ bền vững đối với các bất nhất quán nhỏ trong dữ liệu tạo sinh.
  • Mô hình chưng cất: Một phiên bản chưng cất (distilled version) của mô hình được huấn luyện bằng Distribution Matching Distillation (DMD) để tăng tốc suy luận, giảm số bước khử nhiễu và loại bỏ nhu cầu về các lần chuyển tiếp có điều kiện/không điều kiện riêng biệt, giúp tăng tốc độ tạo sinh lên khoảng 13 lần.

III. Main Results:​

Lyra 2.0 đạt được kết quả vượt trội trên cả hai bộ dữ liệu DL3DV và Tanks-and-Temples, vượt qua các phương pháp cơ sở ở hầu hết các chỉ số. Đặc biệt, Lyra 2.0 giải quyết hiệu quả các vấn đề quên không gian và trôi dạt thời gian, cho phép tạo ra các quỹ đạo video dài hơn đáng kể và nhất quán 3D.

  • Lyra 2.0 đạt điểm cao nhất về Chất lượng Chủ quan (Subjective Quality), Tính nhất quán Kiểu dáng (Style Consistency) và Khả năng Điều khiển Camera (Camera Controllability), cũng như các chỉ số SSIM, LPIPS và FID tốt nhất hoặc thứ hai tốt nhất.
  • Các so sánh định tính cho thấy Lyra 2.0 duy trì cấu trúc và hình ảnh thực tế ở chân trời dài (ví dụ: khung hình 800+), trong khi các phương pháp cơ sở thể hiện suy giảm chất lượng nghiêm trọng, biến dạng hình học hoặc trôi dạt nội dung.
  • Mô hình chưng cất (Ours DMD) giảm thời gian tạo sinh mỗi bước khoảng 13 lần trong khi vẫn duy trì chất lượng hình ảnh tương đương cho các trường hợp sử dụng tương tác.

IV. Conclusion & Future Works:​

Lyra 2.0 trình bày một framework đột phá để tạo ra các thế giới 3D có thể khám phá, duy trì tính bền vững ở quy mô lớn. Bằng cách giải quyết hiệu quả các thách thức về quên không gian và trôi dạt thời gian thông qua các cơ chế chống quên và tự tăng cường chống trôi dạt, kết hợp với một pipeline tái tạo 3D feed-forward mạnh mẽ, Lyra 2.0 cho phép tạo ra các thế giới 3D phức tạp, nhất quán từ một hình ảnh duy nhất. Các nội dung được tạo có thể được tái tạo một cách đáng tin cậy thành các 3D Gaussians và lưới bề mặt chất lượng cao với hình học chính xác, sẵn sàng cho các ứng dụng hạ nguồn trong AI hiện thân (embodied AI) và kết xuất nhập vai. Các hướng phát triển trong tương lai có thể tập trung vào việc tăng cường khả năng của mô hình để xử lý các cảnh động, tương tác đối tượng và tích hợp hiểu biết ngữ nghĩa sâu hơn để tạo nội dung 3D thông minh và có thể chỉnh sửa.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng Lyra để tạo cảnh 3D động và tương tác với đối tượng: Nghiên cứu này có thể khám phá cách tích hợp các yếu tố động và cho phép người dùng tương tác với các đối tượng trong thế giới 3D được tạo ra, dẫn đến các mô phỏng nhập vai và chức năng hơn, không chỉ giới hạn ở cảnh tĩnh.
  2. Tối ưu hóa hiệu suất thời gian thực và triển khai trên thiết bị di động cho các thế giới 3D tạo sinh: Phát triển các kiến trúc nhẹ hơn và kỹ thuật lượng tử hóa để tối ưu hóa mô hình tạo sinh và pipeline tái tạo 3D của Lyra 2.0, nhằm đạt được hiệu suất thời gian thực nhanh hơn và triển khai hiệu quả trên các thiết bị có tài nguyên hạn chế như điện thoại di động.
  3. Tích hợp hiểu biết ngữ nghĩa và khả năng chỉnh sửa nội dung 3D tạo sinh: Nâng cao Lyra 2.0 với khả năng hiểu ngữ nghĩa mạnh mẽ hơn để cho phép tạo và chỉnh sửa nội dung 3D thông minh hơn. Ví dụ, người dùng có thể yêu cầu tạo "một công viên có ghế đá và cây cối", sau đó có thể "di chuyển ghế" hoặc "thay đổi loại cây" trực tiếp trong đầu ra 3D, thay vì chỉ khám phá.

2. Patent:​

  1. Ứng dụng Tạo Môi trường Thực tế Tăng cường/Thực tế Ảo Cá nhân trên Điện thoại: Một ứng dụng di động cho phép người dùng chụp một bức ảnh duy nhất (ví dụ: phòng khách của họ, một con phố) và sau đó "mở rộng" môi trường đó thành một thế giới 3D có thể khám phá. Người dùng có thể đi bộ ảo trong không gian được tạo ra, quay lại các khu vực đã ghé thăm mà không bị lỗi hình ảnh, và thậm chí thêm các vật thể ảo mới vào môi trường. Công nghệ chống quên lãng và chống trôi dạt của Lyra 2.0 sẽ đảm bảo tính nhất quán của thế giới 3D, tạo ra trải nghiệm thực tế ảo hoặc tăng cường thực tế liền mạch trên điện thoại.
  2. Công cụ Thiết kế Nội thất và Quy hoạch Đô thị Tương tác trên Điện thoại: Phát triển một ứng dụng trên điện thoại di động cho phép các nhà thiết kế nội thất hoặc quy hoạch đô thị tạo ra các mô hình 3D mở rộng từ một hình ảnh khởi đầu. Người dùng có thể khám phá các bố cục phòng khác nhau, thử nghiệm các vật liệu hoặc thậm chí mô phỏng toàn bộ một khu phố, với khả năng quay lại các khu vực đã thiết kế mà không làm mất đi tính đồng nhất. Công nghệ này sẽ cung cấp một công cụ trực quan, tiết kiệm thời gian cho việc hình dung và lập kế hoạch trên thiết bị di động.
  3. Trình Tạo Cảnh Game/Phim Ngắn Tự động từ Ảnh trên Điện thoại: Một ứng dụng di động cho phép người dùng tải lên một bức ảnh và tự động tạo ra một cảnh 3D có thể khám phá và quay video. Người dùng có thể định nghĩa đường đi của camera trong thế giới 3D mở rộng này, tạo ra các "cảnh quay" video 3D nhất quán cho các dự án phim nghiệp dư, game di động hoặc thậm chí là các nền tảng mạng xã hội. Khả năng tạo ra các thế giới 3D lớn, nhất quán và có thể khám phá từ một ảnh đơn sẽ cách mạng hóa việc tạo nội dung 3D trên di động.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2604.13036
ArXiv Abstracthttps://arxiv.org/abs/2604.13036
PDF Downloadhttps://arxiv.org/pdf/2604.13036.pdf
Github RepositoryN/A

10. Towards Long-horizon Agentic Multimodal Search (15 votes)​

Tác giả: Yifan Du, Zikang Liu, Jinbiao Peng, Jie Wu, Junyi Li, Jinyang Li, Wayne Xin Zhao, Ji-Rong Wen

Xuất bản lúc: 2026-04-14

Tag: Multimodal Search, Deep Search Agents, Context Management, LLMs, MLLMs, Agentic Training, Data Synthesis

I. Main Problem:​

Các tác nhân tìm kiếm sâu đa phương tiện (multimodal deep search agents) gặp thách thức lớn trong việc quản lý thông tin không đồng nhất và chi phí token cao của đầu vào đa phương tiện (ví dụ: hình ảnh, video) trong các tác vụ tìm kiếm dài hạn. Các phương pháp hiện có thường gặp phải vấn đề "bùng nổ ngữ cảnh" (context explosion) hoặc mất các tín hiệu thị giác quan trọng do phải loại bỏ dữ liệu hình ảnh trung gian, làm giảm tính đầy đủ của thông tin và khó mở rộng cho các kịch bản tìm kiếm dài hạn. Ngoài ra, việc thiếu các truy vấn chất lượng cao đòi hỏi suy luận đa phương tiện nhiều bước trong quá trình tìm kiếm cũng là một hạn chế.

II. Main Idea:​

Các tác giả đề xuất khuôn khổ tìm kiếm sâu đa phương tiện dài hạn mới mang tên LMM-Searcher, tập trung vào cơ chế biểu diễn thị giác dựa trên tệp. Ý tưởng chính là tách rời quá trình nhận thức thị giác "nặng" khỏi suy luận "nhẹ" bằng cách:

  1. Tải thông tin thị giác xuống hệ thống tệp bên ngoài: Các tài sản thị giác (hình ảnh) được lưu trữ trong một hệ thống tệp bên ngoài và được ánh xạ tới các định danh văn bản nhẹ (UIDs), giúp giảm chi phí ngữ cảnh mà vẫn bảo toàn thông tin đa phương tiện để truy cập sau này.
  2. Công cụ fetch-image tùy chỉnh: Trang bị cho tác nhân công cụ fetch-image cho phép chiến lược tải hình ảnh theo yêu cầu, từng bước để nhận thức chủ động.
  3. Quy trình tổng hợp dữ liệu: Giới thiệu một quy trình tổng hợp dữ liệu để tạo ra các truy vấn đòi hỏi suy luận đa phương tiện nhiều bước, phức tạp. Quy trình này bao gồm tổng hợp các cặp hỏi đáp thị giác từ trang web đa phương tiện và mở rộng chuỗi suy luận đa bước.
  4. Huấn luyện tác nhân: Sử dụng quy trình này để chắt lọc 12K quỹ đạo chất lượng cao, sau đó tinh chỉnh mô hình Qwen3-VL-Thinking-30A3B thành một tác nhân tìm kiếm sâu đa phương tiện chuyên biệt. Mô hình được kết hợp với MiroThinker-1.7-mini thông qua hợp nhất mô hình để tăng cường khả năng tìm kiếm dựa trên ngôn ngữ.

III. Main Results:​

Phương pháp LMM-Searcher đã mở rộng thành công đến các chân trời tìm kiếm 100 lượt tương tác.

  • Đạt hiệu suất tiên tiến (SOTA) trong số các mô hình mã nguồn mở trên các điểm chuẩn dài hạn đầy thách thức như MM-BrowseComp (22.3% và 30.1% với quản lý ngữ cảnh 100 lượt) và MMSearch-Plus (32.9% và 34.8% với quản lý ngữ cảnh 100 lượt).
  • Thể hiện khả năng tổng quát hóa mạnh mẽ trên các mô hình cơ sở khác nhau; ví dụ, khi áp dụng cho Seed-1.8, đạt 46.7% trên MMSearch-Plus, cải thiện đáng kể so với khuôn khổ trước đây.
  • Quy trình tổng hợp dữ liệu tạo ra các truy vấn đòi hỏi tìm kiếm và duyệt đa phương tiện chuyên sâu hơn, với nhiều lượt gọi công cụ "visual search" và "fetch image" hơn.
  • Mô hình hưởng lợi nhất quán từ việc tăng số lượt tương tác, cho thấy tiềm năng mở rộng mạnh mẽ cho tìm kiếm đa phương tiện, đặc biệt trên MMBC và VisBrowse ngay cả ở 100 lượt.
  • Việc huấn luyện với dữ liệu tổng hợp và hợp nhất mô hình ngôn ngữ tăng cường đáng kể hành vi mở rộng của mô hình.

IV. Conclusion & Future Works:​

LMM-Searcher là một khuôn khổ tìm kiếm sâu đa phương tiện dài hạn hiệu quả, giải quyết vấn đề bùng nổ ngữ cảnh thông qua biểu diễn thị giác dựa trên tệp và công cụ tác nhân chuyên biệt. Kết hợp với quy trình tổng hợp dữ liệu tiên tiến, LMM-Searcher đạt hiệu suất SOTA trên các điểm chuẩn dài hạn và thể hiện khả năng mở rộng mạnh mẽ. Mã nguồn sẽ được phát hành. Hướng phát triển trong tương lai bao gồm nghiên cứu chuyên sâu hơn về hợp nhất mô hình để tối ưu hóa khả năng của tác nhân.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu về các chiến lược quản lý ngữ cảnh động cho tác nhân tìm kiếm đa phương tiện dài hạn: Khám phá các phương pháp tiên tiến hơn ngoài việc chỉ lưu trữ tệp, có thể bao gồm nén ngữ cảnh thông minh, tóm tắt thích ứng hoặc các cơ chế bộ nhớ phân cấp để tối ưu hóa hiệu quả và duy trì thông tin trong các tác vụ cực dài hạn.
  2. Phát triển quy trình tổng hợp dữ liệu nâng cao cho suy luận đa phương tiện phức tạp trong môi trường động: Mở rộng quy trình tổng hợp dữ liệu hiện có để tạo ra các truy vấn đòi hỏi không chỉ suy luận đa bước mà còn cả tương tác với các yếu tố động trên trang web (ví dụ: video, biểu đồ tương tác) và các loại dữ liệu đa phương tiện mới.
  3. Phân tích chuyên sâu về hợp nhất mô hình cho các tác nhân đa phương tiện: Thực hiện một nghiên cứu nghiêm ngặt về các kỹ thuật hợp nhất mô hình khác nhau (ví dụ: hợp nhất tham số, hợp nhất kiến thức) để tối ưu hóa sự kết hợp giữa khả năng ngôn ngữ và khả năng đa phương tiện, cũng như đánh giá tác động của chúng đối với hiệu suất, khả năng mở rộng và tổng quát hóa của tác nhân.

2. Patent:​

  1. Hệ thống quản lý ngữ cảnh đa phương tiện tiết kiệm tài nguyên cho thiết bị di động: Một công nghệ cho phép các ứng dụng tìm kiếm hoặc trợ lý ảo trên điện thoại di động lưu trữ tạm thời các hình ảnh và nội dung đa phương tiện khác vào bộ nhớ ngoài của thiết bị hoặc đám mây, thay vì giữ chúng trong bộ nhớ hoạt động của ứng dụng. Khi người dùng cần xem chi tiết một hình ảnh cụ thể, hệ thống sẽ tự động tải hình ảnh đó lên theo yêu cầu bằng cách sử dụng một mã định danh nhẹ. Điều này giúp giảm đáng kể mức tiêu thụ RAM và dữ liệu di động, cho phép điện thoại xử lý các tác vụ tìm kiếm phức tạp và dài hơi mà không bị chậm hoặc hết bộ nhớ.
  2. Công cụ "Tìm kiếm và Thu thập Hình ảnh Thông minh" tích hợp trong trình duyệt di động: Một tính năng của trình duyệt trên điện thoại di động cho phép người dùng hoặc trợ lý AI tự động trích xuất, lập chỉ mục và lưu trữ các hình ảnh từ các trang web đang duyệt. Thay vì hiển thị tất cả hình ảnh cùng lúc, trình duyệt chỉ hiển thị các mã định danh hoặc hình thu nhỏ nhẹ. Khi người dùng chạm vào một mã định danh, hình ảnh gốc sẽ được tải về để xem. Công cụ này cũng có thể tự động nhận diện và lưu trữ các hình ảnh quan trọng liên quan đến nội dung đang đọc, giúp người dùng dễ dàng truy cập lại mà không làm quá tải giao diện hoặc bộ nhớ thiết bị.
  3. Hệ thống huấn luyện trợ lý ảo di động bằng dữ liệu tổng hợp theo ngữ cảnh: Một nền tảng trên điện thoại thông minh cho phép tạo ra các kịch bản tìm kiếm và hỏi đáp phức tạp, đa phương tiện bằng cách tổng hợp dữ liệu từ các ứng dụng và trang web người dùng thường xuyên truy cập. Các kịch bản này sẽ huấn luyện trợ lý ảo của điện thoại để thực hiện các tác vụ tìm kiếm dài hạn, đòi hỏi nhiều bước tương tác với hình ảnh và văn bản. Ví dụ, trợ lý có thể được huấn luyện để tìm kiếm thông tin về một sản phẩm dựa trên hình ảnh, sau đó so sánh giá từ nhiều trang web, và cuối cùng hiển thị kết quả một cách tổng hợp, mà không cần người dùng phải tự mình thực hiện từng bước.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2604.12890
ArXiv Abstracthttps://arxiv.org/abs/2604.12890
PDF Downloadhttps://arxiv.org/pdf/2604.12890.pdf
Github Repositoryhttps://github.com/RUCAIBox/LMM-Searcher

11. The Blind Spot of Agent Safety: How Benign User Instructions Expose Critical Vulnerabilities in Computer-Use Agents (15 votes)​

Tác giả: Xuwei Ding, Skylar Zhai, Linxin Song, Jiate Li, Taiwei Shi, Nicholas Meade, Siva Reddy, Jian Kang, Jieyu Zhao

Xuất bản lúc: 2026-04-12

Tag: CUA Safety, LLM Safety, Multi-Agent Systems, Vulnerability Assessment, Benchmarking, AI Agents

I. Main Problem:​

Các đánh giá an toàn hiện có cho các tác nhân sử dụng máy tính (CUAs) chủ yếu tập trung vào các mối đe dọa rõ ràng như lạm dụng hoặc tấn công prompt injection. Tuy nhiên, chúng bỏ qua một kịch bản tinh vi nhưng cực kỳ quan trọng: khi các hướng dẫn của người dùng hoàn toàn lành tính, nhưng tác hại lại phát sinh từ ngữ cảnh của tác vụ hoặc kết quả thực thi. Điều này khiến CUAs dễ bị tổn thương khi tin tưởng quá mức vào các hướng dẫn lành tính mà bỏ qua các tín hiệu liên quan đến an toàn trong môi trường, dẫn đến các hành động độc hại tự động hóa ở quy mô lớn hơn nhiều so với các cuộc tấn công thủ công. Vấn đề này trở nên nghiêm trọng hơn trong các hệ thống đa tác nhân, nơi việc phân tách tác vụ làm che khuất ý định có hại từ mô hình.

II. Main Idea:​

Nghiên cứu giới thiệu OS-BLIND, một bộ tiêu chuẩn được thiết kế để đánh giá các tác nhân sử dụng máy tính (CUAs) trong các điều kiện tấn công không chủ ý. OS-BLIND bao gồm 300 tác vụ do con người tạo ra, trải rộng trên 12 danh mục, 8 ứng dụng và 2 cụm mối đe dọa: mối đe dọa nhúng trong môi trường và tác hại do tác nhân khởi tạo. Tất cả các tác vụ trong OS-BLIND đều bắt đầu bằng các hướng dẫn hoàn toàn lành tính của người dùng, mô phỏng các quy trình làm việc hàng ngày, nơi tác hại chỉ xuất hiện trong quá trình thực thi. Nghiên cứu thực hiện đánh giá có hệ thống trên các mô hình tiên tiến và các framework tác nhân, đồng thời phân tích các cơ chế phòng thủ an toàn hiện có và tác động của việc phân tách tác vụ trong các hệ thống đa tác nhân.

III. Main Results:​

  • Hầu hết các CUA đều có tỷ lệ thành công tấn công (ASR) vượt quá 90% trên OS-BLIND. Ngay cả các mô hình được căn chỉnh an toàn như Claude 4.5 Sonnet cũng đạt 73.0% ASR, và con số này tăng lên 92.7% khi được triển khai trong hệ thống đa tác nhân.
  • Các cơ chế phòng thủ an toàn hiện có chỉ cung cấp sự bảo vệ hạn chế khi hướng dẫn của người dùng là lành tính. Việc căn chỉnh an toàn chủ yếu kích hoạt trong vài bước đầu tiên và hiếm khi được kích hoạt lại trong quá trình thực thi tiếp theo.
  • Trong các hệ thống đa tác nhân, việc phân tách tác vụ làm che khuất ý định có hại khỏi mô hình, khiến các mô hình được căn chỉnh an toàn thất bại.
  • OS-BLIND tạo ra ASR cao hơn đáng kể (gấp 1.9 lần và 3.8 lần) so với các bộ tiêu chuẩn trước đây (VPI-BENCH và OS-HARM), cho thấy nó đặt ra một thử thách an toàn khó khăn và thực tế hơn.
  • Các tác nhân dễ bị tổn thương hơn trước các mối đe dọa nhúng trong môi trường (Cluster I) so với các tác hại do tác nhân khởi tạo (Cluster II).
  • Việc tăng độ hạt của các tác vụ con (subtask granularity) trong hệ thống đa tác nhân giúp cải thiện khả năng phát hiện và từ chối các tác vụ có hại của bộ điều phối (orchestrator).
  • Phân tích chỉ ra ba chế độ thất bại của các mô hình Claude: lỗi kiểm tra (inspection failure), lỗi đánh giá (judgment failure) và lỗi phát hiện (detection failure).

IV. Conclusion & Future Works:​

Nghiên cứu đã chỉ ra một điểm mù quan trọng trong an toàn của tác nhân: các lỗ hổng phát sinh từ các hướng dẫn lành tính của người dùng. Bộ tiêu chuẩn OS-BLIND được phát hành nhằm khuyến khích cộng đồng nghiên cứu điều tra và giải quyết những thách thức an toàn này. Các phân tích cho thấy các CUA hiện tại ít nhạy cảm với các mối đe dọa môi trường rõ ràng và còn yếu trong việc sử dụng ngữ cảnh để nhận ra khi một tác vụ dường như bình thường lại không an toàn. Việc phân tách tác vụ trong các hệ thống đa tác nhân làm suy giảm an toàn. Công việc trong tương lai sẽ bao gồm việc đánh giá các trình thực thi dựa trên mã trên tập con dựa trên văn bản.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển cơ chế căn chỉnh an toàn đa giai đoạn: Nghiên cứu các phương pháp mới để thiết kế các cơ chế căn chỉnh an toàn có thể tái kích hoạt và đánh giá lại rủi ro trong suốt quá trình thực thi của tác nhân, không chỉ ở các bước ban đầu, đặc biệt trong các kịch bản với hướng dẫn người dùng lành tính nhưng ngữ cảnh môi trường thay đổi.
  2. Thiết kế kiến trúc tác nhân đa tác vụ bảo toàn ngữ cảnh: Phát triển các kiến trúc hệ thống đa tác nhân mới hoặc bộ điều phối (orchestrator) thông minh hơn có khả năng duy trì sự hiểu biết về ý định tổng thể của người dùng và ngữ cảnh an toàn xuyên suốt quá trình phân tách và thực thi các tác vụ con, nhằm giảm thiểu sự suy giảm an toàn do việc che khuất ý định gây hại.
  3. Xây dựng hệ thống phòng thủ chủ động dựa trên thị giác và suy luận ngữ cảnh: Nghiên cứu và phát triển các hệ thống phòng thủ mới cho CUA có khả năng nhận diện và suy luận về các mối đe dọa nhúng trong môi trường (ví dụ: trang web lừa đảo, cửa sổ bật lên độc hại) dựa trên các tín hiệu thị giác và ngữ cảnh phức tạp, ngay cả khi hướng dẫn của người dùng hoàn toàn lành tính.

2. Patent:​

  1. Tính năng "Trợ lý An toàn Thông minh" cho điện thoại di động: Một tính năng tích hợp trên điện thoại di động sẽ hoạt động như một "trợ lý an toàn" giám sát các tác vụ mà người dùng yêu cầu các ứng dụng hoặc trợ lý ảo thực hiện (ví dụ: "đặt vé máy bay", "quản lý tài khoản ngân hàng"). Hệ thống này sẽ phân tích các bước thực thi và ngữ cảnh môi trường của tác vụ đó để phát hiện các rủi ro tiềm ẩn (như chuyển hướng đến trang web lừa đảo, yêu cầu thông tin nhạy cảm không cần thiết) ngay cả khi yêu cầu ban đầu của người dùng là hoàn toàn lành tính. Nếu phát hiện rủi ro, nó sẽ đưa ra cảnh báo rõ ràng và giải thích mối nguy hiểm bằng ngôn ngữ dễ hiểu, cho phép người dùng dừng hoặc xác nhận hành động.
  2. Hệ thống "Bảo vệ Tác vụ Đa bước" trên thiết bị di động: Một công nghệ trên điện thoại di động giám sát toàn bộ chuỗi các hành động được tự động hóa (ví dụ: một tác vụ phức tạp như "đăng ký tài khoản mới" liên quan đến nhiều bước nhập liệu, duyệt web và xác nhận). Thay vì chỉ kiểm tra từng bước riêng lẻ, hệ thống này duy trì một cái nhìn tổng thể về mục tiêu ban đầu của người dùng và các rủi ro tích lũy. Nếu một chuỗi các hành động riêng lẻ có vẻ lành tính nhưng lại dẫn đến một kết quả có hại không mong muốn (ví dụ: vô tình đồng ý với các điều khoản lừa đảo hoặc chia sẻ dữ liệu cá nhân sai mục đích), hệ thống sẽ chủ động can thiệp, tạm dừng tác vụ và cảnh báo người dùng, yêu cầu xác nhận trước khi tiếp tục.
  3. Chế độ "Trình duyệt An toàn cho Tác nhân" trên điện thoại: Một chế độ đặc biệt trong trình duyệt di động, được thiết kế để cung cấp một lớp bảo vệ tăng cường khi các ứng dụng hoặc tác nhân AI thực hiện các hành động duyệt web tự động. Chế độ này không chỉ chặn các trang web độc hại rõ ràng mà còn phân tích sâu hơn ngữ cảnh của các trang web và tương tác người dùng. Ví dụ, nếu một tác nhân đang điền thông tin vào một biểu mẫu, trình duyệt sẽ đánh giá độ tin cậy của trang, sự phù hợp của thông tin được yêu cầu với mục đích ban đầu và các tín hiệu thị giác bất thường, ngay cả khi URL trông có vẻ hợp lệ. Nó sẽ hiển thị cảnh báo trực quan hoặc yêu cầu xác nhận của người dùng nếu phát hiện bất kỳ dấu hiệu rủi ro nào mà tác nhân có thể bỏ qua.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2604.10577
ArXiv Abstracthttps://arxiv.org/abs/2604.10577
PDF Downloadhttps://arxiv.org/pdf/2604.10577.pdf
Github Repositoryhttps://github.com/limenlp/OS_Blind

12. Many-Tier Instruction Hierarchy in LLM Agents (13 votes)​

Tác giả: Jingyu Zhang, Tianjian Li, William Jurayj, Hongyuan Zhan, Benjamin Van Durme, Daniel Khashabi

Xuất bản lúc: 2026-04-10

Tag: LLM Agents, Instruction Hierarchy, Instruction Conflict Resolution, Benchmarking, Large Language Models

I. Main Problem:​

Các mô hình tác nhân ngôn ngữ lớn (LLM agents) phải đối mặt với xung đột chỉ dẫn từ nhiều nguồn khác nhau (tin nhắn hệ thống, lời nhắc người dùng, đầu ra công cụ, các tác nhân khác), mỗi nguồn mang một cấp độ tin cậy và quyền hạn khác nhau. Mô hình hiện tại sử dụng một tập hợp nhỏ, cố định các cấp độ đặc quyền, được định nghĩa bởi các nhãn vai trò cứng nhắc (ví dụ: hệ thống > người dùng). Cách tiếp cận này không đủ cho các thiết lập tác nhân trong thế giới thực, nơi xung đột có thể phát sinh từ rất nhiều nguồn và ngữ cảnh khác nhau, dẫn đến khả năng giải quyết xung đột chỉ dẫn kém hiệu quả khi số lượng cấp độ đặc quyền tăng lên.

II. Main Idea:​

Công trình này đề xuất Many-Tier Instruction Hierarchy (ManyIH), một mô hình để giải quyết xung đột chỉ dẫn giữa các chỉ dẫn có số lượng cấp độ đặc quyền bất kỳ. ManyIH giới thiệu một Giao diện Nhắc Đặc quyền (Privilege Prompt Interface - PPI) chuyên dụng để gán giá trị đặc quyền động cho mỗi chỉ dẫn, tách biệt ngữ nghĩa đặc quyền khỏi các nhãn vai trò thông báo được mã hóa cứng. Hai biến thể PPI được đề xuất: Ordinal (giá trị thấp hơn thắng) và Scalar (giá trị lớn hơn thắng). Để đánh giá ManyIH, nhóm nghiên cứu giới thiệu MANYIH-BENCH, một bộ dữ liệu chuẩn đầu tiên cho ManyIH, yêu cầu các mô hình điều hướng lên đến 12 cấp độ chỉ dẫn xung đột với các đặc quyền khác nhau, bao gồm 853 tác vụ tác nhân (427 tác vụ lập trình và 426 tác vụ tuân thủ chỉ dẫn).

III. Main Results:​

Các mô hình tiên tiến nhất hiện nay (như GPT 5.4, Claude Opus 4.6, Gemini 3.1 Pro) hoạt động kém trên MANYIH-BENCH, với mô hình tốt nhất chỉ đạt khoảng 40% độ chính xác (Gemini 3.1 Pro đạt 42.7%). Hiệu suất của mô hình suy giảm một cách nhất quán khi số lượng cấp độ phân cấp chỉ dẫn tăng lên (giảm từ 6.8% đến 24.1% giữa các cấu hình dễ nhất và khó nhất). Các mô hình cũng thể hiện sự nhạy cảm đáng ngạc nhiên đối với cách biểu diễn đặc quyền trong lời nhắc; ví dụ, GPT 5.4 và Opus 4.6 giảm hơn 8% độ chính xác chỉ với sự thay đổi định dạng lời nhắc (từ ordinal sang scalar). Ngoài ra, các mô hình còn nhạy cảm với các giá trị số chính xác của đặc quyền vô hướng, ngay cả khi thứ tự tương đối được giữ nguyên (tỷ lệ chuyển đổi kết quả trên mỗi mẫu từ 8% trở lên).

IV. Conclusion & Future Works:​

ManyIH mở rộng phân cấp chỉ dẫn vượt ra ngoài các cấp độ dựa trên vai trò cố định để bao gồm số lượng cấp độ đặc quyền tùy ý, được chỉ định động tại thời điểm suy luận. Các thí nghiệm trên MANYIH-BENCH cho thấy các mô hình tiên tiến hiện tại vẫn còn nhiều hạn chế trong khả năng giải quyết xung đột chỉ dẫn nhiều cấp độ, mặc dù đạt hiệu suất cao trên các đánh giá phân cấp chỉ dẫn hai cấp độ tiêu chuẩn. Hiệu suất mô hình giảm khi số lượng cấp độ tăng và nhạy cảm với cách biểu diễn đặc quyền. ManyIH là một khả năng riêng biệt và chưa được giải quyết, nhấn mạnh nhu cầu cấp thiết về các phương pháp huấn luyện và kiến trúc hướng tới suy luận đặc quyền có khả năng mở rộng và mạnh mẽ về mặt biểu diễn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phương pháp huấn luyện LLM để hiểu và tuân thủ phân cấp chỉ dẫn nhiều cấp độ động: Nghiên cứu các kỹ thuật fine-tuning hoặc kiến trúc mới cho LLM để có thể xử lý hiệu quả các phân cấp chỉ dẫn với số lượng cấp độ tùy ý, không chỉ dựa vào các vai trò cố định. Tập trung vào việc học cách suy luận về thứ tự ưu tiên tương đối của các giá trị đặc quyền được cung cấp động.
  2. Tối ưu hóa Giao diện Nhắc Đặc quyền (PPI) để tăng cường khả năng giải quyết xung đột chỉ dẫn: Khám phá các định dạng và cách mã hóa đặc quyền khác nhau trong PPI (ví dụ: mã hóa nhúng, biểu diễn logic) để cải thiện độ mạnh mẽ và hiệu suất của LLM trong việc giải quyết xung đột chỉ dẫn nhiều cấp độ, giảm sự nhạy cảm với các thay đổi nhỏ về biểu diễn.
  3. Nghiên cứu về cơ chế suy luận bên trong của LLM đối với phân cấp chỉ dẫn: Phân tích các cơ chế suy luận của các mô hình LLM hiện tại khi xử lý phân cấp chỉ dẫn nhiều cấp độ, sử dụng các công cụ giải thích (explainability tools) để hiểu tại sao chúng lại gặp khó khăn và từ đó đề xuất các cải tiến về kiến trúc hoặc chiến lược huấn luyện.

2. Patent:​

  1. Hệ thống trợ lý AI cá nhân với ưu tiên chỉ dẫn tùy chỉnh: Một ứng dụng trợ lý AI trên điện thoại di động cho phép người dùng định nghĩa các mức độ ưu tiên khác nhau cho các nguồn chỉ dẫn (ví dụ: lịch công việc > tin nhắn bạn bè > thông báo mạng xã hội). Khi có xung đột (ví dụ: nhắc nhở công việc mâu thuẫn với kế hoạch giải trí được đề xuất bởi bạn bè), trợ lý sẽ tự động tuân thủ chỉ dẫn có ưu tiên cao hơn, đảm bảo người dùng luôn tập trung vào những việc quan trọng nhất.
  2. Bộ lọc thông báo thông minh dựa trên độ tin cậy nguồn: Một tính năng trên điện thoại di động giúp quản lý thông báo từ các ứng dụng và nguồn khác nhau. Người dùng có thể gán mức độ tin cậy/ưu tiên cho từng ứng dụng hoặc loại thông báo (ví dụ: thông báo ngân hàng có ưu tiên cao hơn game). Hệ thống sẽ sử dụng một mô hình ManyIH để quyết định thông báo nào cần được hiển thị ngay lập tức, thông báo nào có thể trì hoãn, hoặc thậm chí là ẩn đi nếu chúng xung đột với một chỉ dẫn ưu tiên cao hơn của người dùng (ví dụ: 'chế độ làm việc không làm phiền').
  3. Tích hợp ManyIH vào trình duyệt di động để bảo mật và tùy chỉnh nội dung: Một tiện ích mở rộng hoặc tính năng tích hợp trong trình duyệt web trên điện thoại, cho phép người dùng thiết lập các quy tắc ưu tiên cho các nguồn nội dung khác nhau (ví dụ: chỉ dẫn từ trang web chính thức > quảng cáo > bình luận người dùng). Khi duyệt web, nếu có các chỉ dẫn xung đột (ví dụ: một quảng cáo yêu cầu bật thông báo trong khi quy tắc của người dùng cấm), trình duyệt sẽ tuân thủ chỉ dẫn có ưu tiên cao hơn để bảo vệ quyền riêng tư hoặc tùy chỉnh trải nghiệm duyệt web theo ý muốn của người dùng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2604.09443
ArXiv Abstracthttps://arxiv.org/abs/2604.09443
PDF Downloadhttps://arxiv.org/pdf/2604.09443.pdf
Github Repositoryhttps://github.com/JHU-CLSP/ManyIH

13. Self-Adversarial One Step Generation via Condition Shifting (12 votes)​

Tác giả: Deyuan Liu, Peng Sun, Yansen Han, Zhenglin Cheng, Chuyan Chen, Tao Lin

Xuất bản lúc: 2026-04-14

Tag: Text-to-Image, Generative Models, Diffusion Models, Flow Matching, Adversarial Learning, One-Step Generation, LoRA, Parameter Efficient Tuning

I. Main Problem:​

Các phương pháp tổng hợp văn bản thành hình ảnh (text-to-image) hiện tại đối mặt với sự đánh đổi giữa chất lượng hình ảnh, tốc độ suy luận và hiệu quả đào tạo, đặc biệt khi yêu cầu lấy mẫu một bước (one-step sampling). Các phương pháp dựa vào bộ phân loại (discriminator) bên ngoài có thể cải thiện chất lượng nhưng gây ra sự bất ổn trong quá trình đào tạo, tốn bộ nhớ GPU và hội tụ chậm. Ngược lại, các phương pháp chưng cất dựa trên hồi quy hoặc mục tiêu nhất quán dễ tối ưu hơn nhưng thường mất đi các chi tiết nhỏ khi bị giới hạn ở một bước. Vấn đề chính là làm thế nào để đạt được chất lượng tương đương GAN chỉ với một bước suy luận (NFE=1) mà không cần bộ phân loại bên ngoài, đồng thời vẫn có khả năng mở rộng cho các mô hình nền tảng lớn đã được đào tạo trước và điều chỉnh hiệu quả tham số (parameter efficient tuning).

II. Main Idea:​

APEX giới thiệu một phương pháp tự đối kháng không cần bộ phân loại, dựa trên ý tưởng rằng các tín hiệu điều chỉnh đối kháng có thể được trích xuất nội sinh từ một mô hình dòng (flow model) thông qua việc dịch chuyển điều kiện (condition shifting). Cụ thể, APEX tạo ra một nhánh điều kiện dịch chuyển (cfake = Ac+b) bằng một phép biến đổi affine. Trường vận tốc của nhánh điều kiện dịch chuyển này đóng vai trò là một bộ ước lượng độc lập cho phân phối tạo sinh hiện tại của mô hình, tạo ra một gradient được chứng minh là căn chỉnh với GAN, thay thế các thuật ngữ bộ phân loại phụ thuộc vào mẫu gây ra hiện tượng biến mất gradient. Thiết kế không bộ phân loại này giữ nguyên kiến trúc, cho phép APEX trở thành một framework plug-and-play tương thích với cả điều chỉnh tham số đầy đủ và dựa trên LoRA. APEX kết hợp mục tiêu huấn luyện nhánh điều kiện dịch chuyển (Lfake) để tạo ra tín hiệu đối kháng và mục tiêu nhất quán hỗn hợp (Lmix) để điều chỉnh mô hình hướng tới dữ liệu thực.

III. Main Results:​

Mô hình APEX 0.6B vượt trội hơn FLUX-Schnell 12B (gấp 20 lần tham số) về chất lượng một bước (NFE=1). Với điều chỉnh LoRA trên Qwen-Image 20B, APEX đạt điểm GenEval 0.89 ở NFE=1 chỉ trong 6 giờ, vượt qua mô hình gốc 50 bước (0.87) và mang lại tốc độ suy luận nhanh hơn 15.33 lần. Ở NFE=1, APEX 0.6B đạt 7.3 mẫu/giây với độ trễ 0.20 giây và GenEval 0.84, cải thiện khoảng 0.15 so với FLUX-Schnell 12B (GenEval 0.69). Ở NFE=2, APEX 1.6B đạt GenEval 0.85, vượt trội hơn khoảng 8 điểm so với Sana-Sprint 1.6B (0.77) và chạy nhanh gấp đôi. Các kết quả này cho thấy APEX thu hẹp khoảng cách chất lượng với các bộ tạo sinh nhiều bước mà không hy sinh lợi thế về độ trễ.

IV. Conclusion & Future Works:​

APEX thành công trong việc thu hẹp khoảng cách chất lượng với các mô hình tạo sinh nhiều bước mà không làm giảm lợi thế về độ trễ, khiến nó trở nên thiết thực cho các quy trình sản xuất. Thiết kế của APEX, bao gồm việc huấn luyện nhánh dòng giả (Lfake) để duy trì sự ổn định một bước và mục tiêu nhất quán hỗn hợp (Lmix) để đạt được các điểm cuối có độ trung thực cao, đã được xác nhận là hiệu quả. Điều này cho thấy tín hiệu đối kháng nội sinh từ việc dịch chuyển điều kiện hiệu quả hơn về tham số so với việc mở rộng dung lượng mô hình dưới sự chưng cất tiêu chuẩn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu các phép biến đổi điều kiện nâng cao: Khám phá các dạng phép biến đổi điều kiện (Ac+b) phức tạp hơn (ví dụ: phi tuyến tính, học được động lực) và cách chúng ảnh hưởng đến khả năng phân tách tín hiệu đối kháng và chất lượng tạo sinh một bước.
  2. Áp dụng APEX cho các tác vụ tạo sinh liên tục khác: Mở rộng framework tự đối kháng, không bộ phân loại của APEX sang các lĩnh vực tạo sinh liên tục khác như tạo video, tạo nội dung 3D, hoặc các tác vụ tạo sinh có điều kiện khác (ví dụ: văn bản thành âm thanh), đánh giá hiệu quả và tốc độ suy luận.
  3. Phân tích lý thuyết sâu hơn về gradient căn chỉnh GAN với trọng số không đổi: Nghiên cứu sâu hơn về ý nghĩa lý thuyết của việc sử dụng trọng số không đổi (w≡1) trong gradient căn chỉnh GAN của APEX, so sánh với các phương pháp ổn định huấn luyện GAN khác và khám phá các ứng dụng tiềm năng trong việc thiết kế các mô hình đối kháng ổn định hơn.

2. Patent:​

  1. Công nghệ tạo ảnh AI siêu tốc trên điện thoại di động: Một ứng dụng di động cho phép người dùng nhập mô tả văn bản và ngay lập tức tạo ra hình ảnh chất lượng cao, chân thực. Công nghệ này sử dụng phương pháp tạo sinh một bước của APEX để đạt được tốc độ suy luận cực nhanh (dưới 1 giây), cho phép người dùng sáng tạo hình ảnh tức thì cho mạng xã hội, tin nhắn hoặc các dự án cá nhân mà không cần kết nối internet tốc độ cao liên tục.
  2. Hệ thống điều chỉnh phong cách ảnh thông minh bằng dịch chuyển điều kiện: Một tính năng trong ứng dụng chỉnh sửa ảnh trên điện thoại cho phép người dùng thay đổi phong cách hoặc cảm xúc của hình ảnh hiện có một cách tinh tế hoặc mạnh mẽ. Thay vì các bộ lọc truyền thống, hệ thống sử dụng "dịch chuyển điều kiện" để biến đổi hình ảnh dựa trên các tham số ngữ nghĩa (ví dụ: làm ảnh trông "vui vẻ hơn", "cổ điển hơn", "tối hơn"), cung cấp khả năng chỉnh sửa sáng tạo và trực quan mà không cần bộ phân loại phức tạp.
  3. Tạo biểu tượng cảm xúc và sticker cá nhân hóa tức thì: Một tính năng được tích hợp vào các ứng dụng nhắn tin trên điện thoại cho phép người dùng tạo ra các biểu tượng cảm xúc (emoji) hoặc sticker tùy chỉnh, độc đáo từ mô tả văn bản của họ. Nhờ tốc độ tạo sinh nhanh và chất lượng cao của APEX, người dùng có thể tạo ra các hình ảnh biểu cảm tức thì để truyền tải thông điệp một cách cá nhân hóa và sinh động, nâng cao trải nghiệm giao tiếp.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2604.12322
ArXiv Abstracthttps://arxiv.org/abs/2604.12322
PDF Downloadhttps://arxiv.org/pdf/2604.12322.pdf
Github Repositoryhttps://github.com/LINs-lab/APEX

14. Habitat-GS: A High-Fidelity Navigation Simulator with Dynamic Gaussian Splatting (12 votes)​

Tác giả: Ziyuan Xia, Jingyi Xu, Chong Cui, Yuanhong Yu, Jiazhao Zhang, Qingsong Yan, Tao Ni, Junbo Chen, Xiaowei Zhou, Hujun Bao, Ruizhen Hu, Sida Peng

Xuất bản lúc: 2026-04-14

Tag: Embodied AI, 3D Gaussian Splatting, Simulation, Robotics, Computer Vision

I. Main Problem:​

Huấn luyện các tác nhân AI có thân thể (embodied AI agents) phụ thuộc rất nhiều vào độ chân thực về mặt hình ảnh của môi trường mô phỏng và khả năng mô hình hóa con người động. Các bộ mô phỏng hiện tại dựa trên rasterization dựa trên lưới (mesh-based) có tính hiện thực hình ảnh hạn chế và hỗ trợ avatar người động của chúng bị giới hạn ở biểu diễn lưới, cản trở khả năng khái quát hóa của tác nhân sang các kịch bản thế giới thực có con người. Ngoài ra, việc xây dựng tài sản lưới chất lượng cao đòi hỏi nhiều công sức và là nút thắt cổ chai về khả năng mở rộng.

II. Main Idea:​

Habitat-GS là một bộ mô phỏng AI có thân thể tập trung vào điều hướng, được phát triển từ Habitat-Sim, tích hợp kết xuất cảnh 3D Gaussian Splatting (3DGS) và avatar gaussian có thể điều khiển được, đồng thời duy trì khả năng tương thích hoàn toàn với hệ sinh thái Habitat. Hệ thống này triển khai một bộ kết xuất 3DGS để kết xuất ảnh thực theo thời gian thực và hỗ trợ nhập tài sản 3DGS có thể mở rộng từ nhiều nguồn khác nhau. Đối với mô hình hóa người động, Habitat-GS giới thiệu một mô-đun avatar gaussian cho phép mỗi avatar đồng thời đóng vai trò là một thực thể hình ảnh chân thực và một chướng ngại vật điều hướng hiệu quả. Điều này cho phép các tác nhân học được hành vi nhận thức con người trong các cài đặt thực tế. Hệ thống sử dụng cơ chế tương tác CUDA-OpenGL không sao chép để kết xuất 3DGS theo thời gian thực và các proxy capsule để phát hiện va chạm của avatar, tách rời hình ảnh khỏi hình học va chạm.

III. Main Results:​

Các tác nhân được huấn luyện trên các cảnh 3DGS đạt được khả năng khái quát hóa đa miền mạnh mẽ hơn, với chiến lược huấn luyện hỗn hợp là hiệu quả nhất. Đánh giá về điều hướng nhận thức avatar xác nhận rằng các avatar gaussian cho phép điều hướng nhận thức con người hiệu quả. Các điểm chuẩn hiệu suất xác nhận khả năng mở rộng của hệ thống trên các độ phức tạp cảnh và số lượng avatar khác nhau. Đánh giá chất lượng cảnh dựa trên VLM cũng khẳng định các cảnh 3DGS vượt trội đáng kể so với các cảnh lưới về chất lượng kết xuất, tính chân thực và sự đa dạng của cảnh.

IV. Conclusion & Future Works:​

Habitat-GS là một nền tảng mô phỏng AI có thân thể dựa trên 3DGS độ trung thực cao, được phát triển từ Habitat-Sim, cho các tác vụ điều hướng. Nó cho phép kết xuất ảnh thực theo thời gian thực và hỗ trợ nhập tài sản từ nhiều nguồn 3DGS đa dạng. Nền tảng này hoàn toàn mã nguồn mở và tương thích hoàn toàn với hệ sinh thái Habitat. Mô-đun avatar gaussian có thể điều khiển theo thời gian thực tích hợp kết xuất avatar gaussian chân thực với các thuộc tính va chạm, hỗ trợ chuyển động tự nhiên và tránh chướng ngại vật ở cấp độ điều hướng cho các tác vụ điều hướng nhận thức con người. Hệ thống đã được xác thực toàn diện, cho thấy kết xuất 3DGS cải thiện khả năng khái quát hóa đa miền của tác nhân và avatar gaussian nâng cao khả năng của tác nhân trong các kịch bản có con người.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu về các kỹ thuật chuyển giao Sim-to-Real nâng cao sử dụng Habitat-GS để cải thiện khả năng thích ứng của robot trong môi trường vật lý phức tạp, tập trung vào việc giảm thiểu khoảng cách miền giữa mô phỏng và thực tế.
  2. Phát triển các tác vụ tương tác người-robot phức tạp hơn với các avatar gaussian động, khám phá các kịch bản điều hướng xã hội, hợp tác hoặc thao tác nhận thức con người để đào tạo các tác nhân AI có thân thể.
  3. Điều tra các phương pháp tạo và điều chỉnh tài sản 3DGS hiệu quả cho AI có thân thể, bao gồm việc tự động hóa quá trình tạo môi trường đa dạng, chất lượng cao và khả năng điều chỉnh theo thời gian thực cho các kịch bản huấn luyện cụ thể.

2. Patent:​

  1. Ứng dụng thực tế tăng cường (AR) trên điện thoại di động để huấn luyện điều hướng trong môi trường đông đúc: Một ứng dụng AR có thể hiển thị các nhân vật ảo chân thực (sử dụng công nghệ Gaussian Splatting) trong chế độ xem camera của điện thoại, cho phép người dùng luyện tập điều hướng qua đám đông hoặc tương tác với các nhân vật ảo trong một môi trường sống động. Điều này có thể được sử dụng cho mục đích huấn luyện, chơi game hoặc mô phỏng xã hội.
  2. Hệ thống tái tạo cảnh 3D cá nhân hóa trên điện thoại di động: Một ứng dụng điện thoại sử dụng camera để quét môi trường xung quanh người dùng và tạo ra một mô hình 3D Gaussian Splatting độ trung thực cao của không gian đó. Mô hình này có thể được dùng để tạo ra các trải nghiệm AR cá nhân hóa, chuyến tham quan nhà ảo, hoặc làm nền tảng cho việc tạo các cấp độ trò chơi tùy chỉnh ngay trên điện thoại.
  3. Trợ lý ảo động tương tác với thế giới thực qua điện thoại: Một trợ lý ảo trên điện thoại có thể xuất hiện dưới dạng một nhân vật 3D chân thực (sử dụng công nghệ Gaussian Avatar) trong chế độ xem camera của bạn, tương tác với môi trường thực. Ví dụ, nó có thể đi lại trên bàn làm việc của bạn, chỉ vào các vật thể, hoặc hướng dẫn bạn thực hiện các tác vụ, làm cho hướng dẫn trở nên trực quan và hấp dẫn hơn.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2604.12626
ArXiv Abstracthttps://arxiv.org/abs/2604.12626
PDF Downloadhttps://arxiv.org/pdf/2604.12626.pdf
Github Repositoryhttps://github.com/zju3dv/habitat-gs

15. Rethinking the Diffusion Model from a Langevin Perspective (10 votes)​

Tác giả: Candi Zheng, Yuan Lan

Xuất bản lúc: 2026-04-12

Tag: Diffusion Models, Langevin Dynamics, SDE, ODE, Generative Models, VAE, Score Matching, Flow Matching

I. Main Problem:​

Mô hình khuếch tán (Diffusion Models) thường khó hiểu đối với người mới bắt đầu do tài liệu toán học dày đặc và nhiều góc nhìn phân mảnh (VAE, score matching, flow matching). Bài viết đặt ra các câu hỏi cốt lõi như: làm thế nào quá trình đảo ngược có thể khôi phục dữ liệu từ nhiễu thuần túy, làm thế nào để thống nhất các mô hình khuếch tán dựa trên ODE và SDE, tại sao mô hình khuếch tán vượt trội hơn VAE thông thường, và tại sao flow matching không đơn giản hơn về cơ bản mà chỉ tương đương với denoising hoặc score matching dưới tối đa hóa khả năng xảy ra.

II. Main Idea:​

Bài viết tổ chức lại lý thuyết mô hình khuếch tán từ một "góc nhìn Langevin" mới mẻ, cung cấp câu trả lời đơn giản, rõ ràng và trực quan cho các câu hỏi trên. Ý tưởng chính là xem động lực Langevin như một phép toán "đồng nhất" trên các phân phối, biến đổi một mẫu từ một phân phối thành một mẫu mới từ cùng phân phối đó. Quá trình khuếch tán thuận (gây nhiễu) và nghịch (khử nhiễu) được giải thích là sự phân tách của phép toán đồng nhất Langevin này. Cách tiếp cận này sử dụng các kỹ thuật cơ bản từ phương trình vi phân ngẫu nhiên (SDE) để đưa ra một cách dẫn xuất trực tiếp cho quá trình đảo ngược và giải thích sự tương đương giữa flow matching, denoising và score matching dưới tối đa hóa khả năng xảy ra.

III. Main Results:​

Góc nhìn Langevin cung cấp lời giải thích trực quan rằng quá trình đảo ngược khôi phục dữ liệu từ nhiễu bằng cách phân tách động lực Langevin thành pha gây nhiễu và pha khử nhiễu. Các mô hình khuếch tán dựa trên ODE và SDE được thống nhất dưới một khung lý thuyết duy nhất thông qua việc phân tách các động lực Langevin khác nhau. Mặc dù có các hành vi hình học khác nhau (ví dụ: đường cong của VP so với đường thẳng gần đúng của VE-Karras/Rectified flow trong trường hợp một điểm dữ liệu), các loại mô hình khuếch tán VP, VE-Karras và Rectified flow được chứng minh là tương đương về mặt toán học thông qua các bảng chuyển đổi tham số hóa. Cuối cùng, khái niệm song hành thuận-nghịch được thiết lập, cho thấy rằng quá trình thuận biến đổi phân phối dữ liệu thành nhiễu, trong khi quá trình nghịch, bắt đầu từ nhiễu, tạo ra các mẫu từ cùng phân phối dữ liệu đó, và chúng tuân theo cùng một phân phối xác suất tại các thời điểm tương ứng.

IV. Conclusion & Future Works:​

Bài viết đã trình bày một góc nhìn Langevin thống nhất, đơn giản và trực quan để hiểu các mô hình khuếch tán, giải thích cách quá trình thuận và nghịch hoạt động, và lý do tại sao các công thức khác nhau lại tương đương. Mặc dù phần kết luận cụ thể không được cung cấp trong đoạn trích, hướng đi tương lai có thể bao gồm việc mở rộng góc nhìn này để khám phá các biến thể mô hình khuếch tán mới hoặc ứng dụng nó vào các lĩnh vực khác của học máy, cũng như phát triển tài liệu giáo dục dựa trên cách tiếp cận rõ ràng này để nâng cao sự hiểu biết cho cả người học và các nhà nghiên cứu có kinh nghiệm.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng Góc nhìn Langevin cho các Mô hình Khuếch tán Đa phương thức Nghiên cứu cách áp dụng và mở rộng góc nhìn Langevin để hiểu và thiết kế các mô hình khuếch tán tạo ra dữ liệu đa phương thức (ví dụ: văn bản sang hình ảnh, âm thanh sang video), tập trung vào cách các quá trình thuận và nghịch tương tác giữa các loại dữ liệu khác nhau.
  2. Phân tích Định lượng Độ cong Đường đi trong Mô hình Khuếch tán Dựa trên Góc nhìn Langevin Đi sâu vào phân tích định lượng lý do tại sao một số tham số hóa (như VE-Karras và Rectified flow) có thể tạo ra các đường đi với độ cong nhỏ hơn so với VP, sử dụng các công cụ từ động lực Langevin và hình học vi phân để định lượng sự khác biệt này và khám phá ảnh hưởng của nó đến hiệu quả lấy mẫu.
  3. Khung Huấn luyện Thống nhất Dựa trên Langevin cho Các Mục tiêu Mô hình Khuếch tán Khác nhau Phát triển một khung huấn luyện chung, tận dụng sự thống nhất của góc nhìn Langevin, để tối ưu hóa các mô hình khuếch tán sử dụng các mục tiêu huấn luyện khác nhau (như score matching, denoising diffusion probabilistic models, flow matching) trong một cách tiếp cận nhất quán, có thể dẫn đến các phương pháp huấn luyện hiệu quả hơn hoặc các mô hình mạnh mẽ hơn.

2. Patent:​

  1. Hệ thống Tạo hình ảnh chân dung thông minh trên di động Một ứng dụng di động sử dụng mô hình khuếch tán được đơn giản hóa dựa trên nguyên tắc Langevin để tạo ra các bức ảnh chân dung chất lượng cao từ các bức ảnh thô hoặc ảnh tự chụp. Người dùng có thể cung cấp một ảnh đầu vào, và hệ thống sẽ "khử nhiễu" hoặc "cải thiện" ảnh đó bằng cách áp dụng một quá trình đảo ngược đã học, điều chỉnh ánh sáng, chi tiết khuôn mặt, và loại bỏ các khuyết điểm, mang lại kết quả chuyên nghiệp chỉ với một lần chạm.
  2. Công cụ Sáng tạo Âm nhạc Tự động trên điện thoại di động Một tính năng trên điện thoại di động cho phép người dùng nhập một vài nốt nhạc hoặc một đoạn giai điệu ngắn, sau đó sử dụng các nguyên lý mô hình khuếch tán để "khử nhiễu" và mở rộng nó thành một bản nhạc hoàn chỉnh với các hòa âm và nhạc cụ khác nhau. Quá trình này mô phỏng việc biến một "tiếng ồn" âm nhạc ban đầu thành một tác phẩm nghệ thuật có cấu trúc, cho phép người dùng không chuyên tạo ra các bản nhạc độc đáo.
  3. Hệ thống Hiệu chỉnh và Phục hồi Video di động thông minh Một ứng dụng tích hợp sẵn trong camera điện thoại hoặc ứng dụng chỉnh sửa video, sử dụng mô hình khuếch tán để tự động loại bỏ nhiễu hạt, làm mịn chuyển động và cải thiện chất lượng hình ảnh của video được quay bằng điện thoại. Bằng cách coi video bị nhiễu là "dữ liệu bị nhiễu" và áp dụng quá trình đảo ngược của mô hình khuếch tán, hệ thống có thể tái tạo lại một phiên bản video rõ ràng và sắc nét hơn, ngay cả trong điều kiện ánh sáng yếu hoặc rung lắc.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2604.10465
ArXiv Abstracthttps://arxiv.org/abs/2604.10465
PDF Downloadhttps://arxiv.org/pdf/2604.10465.pdf
Github RepositoryN/A