Chuyển tới nội dung chính

🤗 Daily Hugging Face Paper Digest - 2026-03-19

Báo cáo được tạo tự động vào lúc 2026-03-20 10:01:47 bằng mô hình gemini-2.5-flash.

📰 Summary of Papers​


1. MetaClaw: Just Talk -- An Agent That Meta-Learns and Evolves in the Wild (97 votes)​

Tác giả: Peng Xia, Jianwen Chen, Xinyu Yang, Haoqin Tu, Jiaqi Liu, Kaiwen Xiong, Siwei Han, Shi Qiu, Haonian Ji, Yuyin Zhou, Zeyu Zheng, Cihang Xie, Huaxiu Yao

Xuất bản lúc: 2026-03-17

Tag: LLM Agents, Meta-Learning, Continual Learning, Reinforcement Learning, Fine-tuning, Skill Learning, Autonomous Agents

I. Main Problem:​

Các tác nhân (agents) của mô hình ngôn ngữ lớn (LLM) được triển khai trong môi trường thực tế thường tĩnh, chỉ được huấn luyện một lần và không thay đổi bất kể nhu cầu của người dùng phát triển như thế nào. Điều này tạo ra một vấn đề cơ bản: khả năng của chúng trở nên lỗi thời khi phân phối tác vụ thay đổi theo cách sử dụng thực tế. Các phương pháp hiện có hoặc lưu trữ dữ liệu thô mà không chắt lọc kiến thức hành vi có thể chuyển giao, hoặc duy trì thư viện kỹ năng tĩnh không liên kết với tối ưu hóa trọng số, hoặc gây ra thời gian ngừng dịch vụ trong quá trình huấn luyện lại. Ngoài ra, khi các kỹ năng đã phát triển, các quỹ đạo được thu thập dưới ngữ cảnh kỹ năng cũ có thể chứa phần thưởng lỗi thời làm ô nhiễm các bản cập nhật gradient nếu được sử dụng lại mà không có bộ lọc.

II. Main Idea:​

MetaClaw là một khung học meta liên tục duy trì đồng thời chính sách LLM cơ sở (policy) và một thư viện kỹ năng (skill library) có thể tái sử dụng, phát triển theo thời gian. Khung này cải thiện cả hai thành phần thông qua hai cơ chế bổ sung:

  • Thích ứng nhanh dựa trên kỹ năng (Skill-driven fast adaptation): Phân tích các quỹ đạo thất bại và tổng hợp các kỹ năng mới thông qua một LLM evolver. Cơ chế này có hiệu lực ngay lập tức mà không gây gián đoạn dịch vụ.
  • Tối ưu hóa chính sách cơ hội (Opportunistic policy optimization): Thực hiện cập nhật trọng số dựa trên gradient thông qua tinh chỉnh LoRA trên đám mây (cloud LoRA fine-tuning) bằng RL với mô hình phần thưởng quy trình (process reward model). Quá trình này chỉ được kích hoạt trong các khoảng thời gian người dùng không hoạt động bởi Bộ lập lịch học meta cơ hội (Opportunistic Meta-Learning Scheduler - OMLS), theo dõi giờ ngủ, không hoạt động bàn phím hệ thống và lịch Google.

Hai cơ chế này cùng củng cố lẫn nhau: một chính sách tốt hơn tạo ra nhiều thất bại mang tính thông tin hơn cho việc tổng hợp kỹ năng, và các kỹ năng phong phú hơn tạo ra các quỹ đạo có phần thưởng cao hơn để tối ưu hóa chính sách. Để ngăn chặn sự nhiễm bẩn phần thưởng lỗi thời, một cơ chế định phiên bản tạo kỹ năng (skill generation versioning) tách biệt nghiêm ngặt dữ liệu hỗ trợ (quỹ đạo thất bại được tiêu thụ bởi quá trình phát triển kỹ năng) khỏi dữ liệu truy vấn (quỹ đạo sau thích ứng được sử dụng cho các bản cập nhật RL). Được xây dựng trên kiến trúc dựa trên proxy, MetaClaw có thể mở rộng quy mô đến các LLM kích thước sản xuất mà không cần GPU cục bộ.

III. Main Results:​

Các thử nghiệm trên MetaClaw-Bench (934 câu hỏi, 44 ngày làm việc mô phỏng) và AutoResearchClaw (quy trình nghiên cứu tự động 23 giai đoạn) cho thấy những cải tiến nhất quán:

  • Thích ứng nhanh dựa trên kỹ năng cải thiện độ chính xác lên đến 32% (tương đối).
  • Toàn bộ quy trình (MetaClaw Full) nâng cao Kimi-K2.5 từ 21.4% lên 40.6% độ chính xác (so với baseline GPT-5.2 là 41.1%) với mức tăng 8.25 lần trong việc hoàn thành tác vụ end-to-end trên Phần I.
  • Trên Phần II, độ chính xác của Kimi-K2.5 đạt 39.6% và tỷ lệ hoàn thành kiểm tra tệp tăng từ 18.2% lên 51.9% (tăng 185% tương đối).
  • Chỉ tiêm kỹ năng (skill injection) cải thiện độ mạnh tổng hợp của AutoResearchClaw thêm 18.3%, giảm tỷ lệ thử lại giai đoạn 24.8% và số chu kỳ tinh chỉnh 40%.
  • Các mô hình mạnh hơn ít được hưởng lợi hơn, trong khi các mô hình yếu hơn được hưởng lợi nhiều hơn.
  • Khả năng chuyển giao kỹ năng giữa các miền được xác nhận, cho thấy MetaClaw là một lớp học liên tục đa năng.

IV. Conclusion & Future Works:​

MetaClaw là một khung học meta liên tục tiên phong, kết hợp thích ứng nhanh dựa trên kỹ năng với tối ưu hóa chính sách cơ hội, cho phép các tác nhân LLM được triển khai liên tục phát triển thông qua kiến trúc dựa trên proxy mà không yêu cầu GPU cục bộ. Thiết kế này giải quyết các thách thức về tính tĩnh, dữ liệu lỗi thời và thời gian ngừng hoạt vụ. Các kết quả thực nghiệm xác nhận rằng hai cơ chế thích ứng ở các thang thời gian khác nhau bổ sung cho nhau, tạo ra một chu trình hiệu quả giúp tác nhân ngày càng tốt hơn trong việc thích ứng. Khả năng chuyển giao kỹ năng giữa các miền cũng chứng minh tính ứng dụng rộng rãi của MetaClaw. Các hướng phát triển trong tương lai có thể tập trung vào việc mở rộng các loại kỹ năng có thể được học, tối ưu hóa hơn nữa việc lập lịch thích ứng và áp dụng MetaClaw cho các miền tác vụ phức tạp hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng Biểu diễn và Tiến hóa Kỹ năng (Expanding Skill Representation and Evolution): Nghiên cứu các phương pháp để biểu diễn kỹ năng không chỉ bằng ngôn ngữ tự nhiên mà còn bằng các cấu trúc phức tạp hơn như đoạn mã (code snippets), quy tắc logic hoặc biểu đồ trạng thái. Đồng thời, phát triển các "LLM evolver" tiên tiến hơn có khả năng tổng hợp kỹ năng từ các trải nghiệm đa phương thức (multimodal experiences) hoặc từ các tương tác phức tạp hơn của tác nhân.
  2. Lập lịch Thích ứng Động và Quản lý Tài nguyên Thông minh (Dynamic Adaptation Scheduling and Intelligent Resource Management): Phát triển một hệ thống lập lịch thích ứng thông minh hơn cho việc tối ưu hóa chính sách, không chỉ dựa vào các tín hiệu tĩnh (như lịch, thời gian ngủ) mà còn dự đoán thời gian rảnh rỗi của người dùng bằng các mô hình học máy. Nghiên cứu cách tự động phân bổ tài nguyên tính toán trên đám mây một cách hiệu quả nhất dựa trên khối lượng công việc của tác nhân và lượng dữ liệu sẵn có để huấn luyện, nhằm tối thiểu hóa chi phí và tối đa hóa hiệu suất.
  3. Tổng quát hóa MetaClaw cho các Lĩnh vực Tác nhân Khác (Generalization of MetaClaw to Other Agentic Domains): Áp dụng và điều chỉnh khung MetaClaw cho một loạt các tác vụ tác nhân rộng hơn ngoài các tác vụ CLI và quy trình nghiên cứu, ví dụ như điều khiển robot, tạo nội dung sáng tạo, hoặc mô phỏng khoa học phức tạp. Nghiên cứu cách các cơ chế tiến hóa kỹ năng và tối ưu hóa chính sách cần được tùy chỉnh hoặc mở rộng để phù hợp với đặc thù của từng lĩnh vực mới, đồng thời đánh giá hiệu quả của việc chuyển giao kỹ năng giữa các miền.

2. Patent:​

  1. Hệ thống Trợ lý ảo Tự Cải thiện liên tục trên điện thoại: Một trợ lý ảo trên điện thoại thông minh có khả năng tự động học hỏi và cải thiện. Khi người dùng thực hiện một tác vụ thông qua trợ lý và gặp lỗi (ví dụ: trợ lý không hiểu lệnh, thực hiện sai thao tác), hệ thống sẽ phân tích lỗi đó và tự động tạo ra các "kỹ năng" mới dưới dạng hướng dẫn nội bộ cho trợ lý. Các kỹ năng này sẽ giúp trợ lý thực hiện các tác vụ tương tự tốt hơn ngay lập tức. Ngoài ra, vào những thời điểm điện thoại không được sử dụng (ví dụ: trong giờ ngủ, khi người dùng đang họp), hệ thống sẽ tự động tối ưu hóa các thành phần cốt lõi của trợ lý để nâng cao hiệu suất tổng thể mà không làm gián đoạn trải nghiệm của người dùng.
  2. Chức năng Tự động tối ưu hóa ứng dụng nền thông minh dựa trên hành vi người dùng: Một tính năng trên điện thoại giám sát cách người dùng tương tác với các ứng dụng, đặc biệt là khi các ứng dụng chạy nền gặp lỗi hoặc không hoàn thành tác vụ (ví dụ: đồng bộ hóa dữ liệu, cập nhật ứng dụng tự động). Hệ thống sẽ học từ các lỗi này để tạo ra các quy tắc khắc phục hoặc tối ưu hóa hoạt động của ứng dụng, có thể là điều chỉnh các cài đặt nhỏ hoặc quy trình xử lý dữ liệu. Việc tối ưu hóa sâu hơn (ví dụ: cập nhật các mô hình AI nhỏ trong ứng dụng để hiểu ngữ cảnh tốt hơn) sẽ được thực hiện vào những thời điểm điện thoại không được sử dụng, đảm bảo ứng dụng luôn hoạt động hiệu quả nhất, tiết kiệm pin và tài nguyên mà không ảnh hưởng đến trải nghiệm người dùng.
  3. Công cụ Sửa lỗi Kịch bản Tự động hóa Thông minh cho thiết bị di động: Đối với các tác vụ đa bước hoặc kịch bản tự động hóa (ví dụ: các ứng dụng như IFTTT, Shortcuts trên iOS, hoặc các macro tùy chỉnh) mà người dùng thiết lập trên điện thoại, khi một kịch bản thất bại, hệ thống sẽ phân tích nguyên nhân lỗi và đề xuất (hoặc tự động áp dụng) các "lời khuyên" hoặc "chỉ dẫn" để sửa lỗi đó ngay lập tức. Ví dụ, nếu một kịch bản tự động gửi tin nhắn vào một thời điểm nhất định nhưng định dạng thời gian bị sai, hệ thống sẽ đề xuất cách sửa định dạng thời gian. Quá trình học hỏi sâu hơn từ nhiều lỗi tương tự sẽ được thực hiện khi điện thoại rảnh, giúp cải thiện khả năng sửa lỗi cho các kịch bản tương lai và giảm thiểu sự can thiệp của người dùng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.17187
ArXiv Abstracthttps://arxiv.org/abs/2603.17187
PDF Downloadhttps://arxiv.org/pdf/2603.17187.pdf
Github Repositoryhttps://github.com/aiming-lab/MetaClaw

2. Video-CoE: Reinforcing Video Event Prediction via Chain of Events (85 votes)​

Tác giả: Qile Su, Jing Tang, Rui Chen, Lei Sun, Xiangxiang Chu

Xuất bản lúc: 2026-03-16

Tag: MLLMs, Video Event Prediction, Logical Reasoning, Visual Information Utilization, Reinforcement Learning, Supervised Fine-tuning, Chain of Events

I. Main Problem:​

Các MLLM hiện tại gặp khó khăn trong dự đoán sự kiện video (VEP) do thiếu khả năng suy luận logic cho các sự kiện tương lai và tận dụng thông tin hình ảnh chưa đủ. Các mô hình thường dựa vào gợi ý từ các tùy chọn văn bản hơn là dựa trên bằng chứng video, dẫn đến hiệu suất kém. VEP yêu cầu mô hình phải mô hình hóa thời gian chi tiết của video và thiết lập mối quan hệ logic giữa video và các sự kiện tương lai không thể quan sát trực tiếp.

II. Main Idea:​

Đề xuất mô hình "Chain of Events (CoE)" để tăng cường khả năng dự đoán sự kiện video của MLLM. CoE xây dựng các chuỗi sự kiện theo thời gian để ngầm buộc MLLM tập trung vào nội dung hình ảnh và các kết nối logic giữa video và các sự kiện tương lai. Phương pháp này bao gồm hai giai đoạn đào tạo:

  1. CoE-SFT (Supervised Fine-Tuning): Điều chỉnh mô hình để thiết lập các kết nối logic giữa bằng chứng video lịch sử và các sự kiện tương lai, sử dụng một tập dữ liệu suy luận quy mô nhỏ được tạo bởi một MLLM mạnh (Qwen2.5-VL-72B).
  2. CoE-GRPO (Group Relative Policy Optimization): Tăng cường khả năng định vị thời gian và hiểu video của mô hình để xây dựng các chuỗi sự kiện thời gian chi tiết. Nó sử dụng các thẻ sự kiện đặc biệt (<event>...</event>) với dấu thời gian và mô tả, cùng với tín hiệu thưởng tổng hợp (r_e cho cấu trúc chuỗi sự kiện, r_s cho sự tương đồng giữa mô tả sự kiện và clip video, và r_a cho độ chính xác).

III. Main Results:​

CoE đạt hiệu suất vượt trội so với các MLLM mã nguồn mở và thương mại hàng đầu, thiết lập trạng thái nghệ thuật mới trong nhiệm vụ VEP trên các bộ dữ liệu FutureBench và A VEP. CoE-SFT đạt hiệu suất tốt hơn so với SFT thông thường, cho thấy việc thiết lập các kết nối logic là hiệu quả. CoE-GRPO vượt trội đáng kể so với GRPO thông thường, xác nhận rằng việc mô hình hóa chuỗi sự kiện lịch sử cải thiện khả năng dự đoán sự kiện tương lai. Phương pháp đề xuất tăng cường đáng kể sự chú ý đến các token hình ảnh (tăng trung bình +9.20% cho CoE-GRPO và +15.11% cho CoE-SFT so với mô hình cơ sở), trong khi SFT thông thường thậm chí làm giảm sự chú ý này. Đánh giá dựa trên mô hình trọng tài (judge model) cho thấy CoE-SFT có tỷ lệ thắng cao nhất (38.13%), và CoE-GRPO cũng có hiệu suất tương đương (32.42%), chứng minh khả năng suy luận logic hiệu quả. Các nghiên cứu loại bỏ từng phần (ablation studies) xác nhận tầm quan trọng của việc kiểm soát độ dài chuỗi sự kiện, tín hiệu thưởng tương đồng, và kích thước nhóm trong CoE-GRPO.

IV. Conclusion & Future Works:​

Dự đoán sự kiện video có giá trị thực tiễn đáng kể, nhưng nghiên cứu về MLLM trong lĩnh vực này còn hạn chế. Công trình này trình bày đánh giá đầu tiên về các MLLM khác nhau trên nhiệm vụ VEP, thiết lập các đường cơ sở toàn diện. Thông qua các thí nghiệm, chúng tôi tiết lộ lý do đằng sau các dự đoán không chính xác trong VEP, bao gồm thiếu khả năng suy luận logic cho các sự kiện tương lai và tận dụng thông tin hình ảnh chưa đủ. Để giải quyết những thách thức này, chúng tôi đề xuất mô hình dự đoán Chain of Events (CoE), giúp MLLM có khả năng xây dựng các chuỗi sự kiện theo thời gian và suy luận logic dựa trên video quan sát để dự đoán các sự kiện tương lai. Các thí nghiệm sâu rộng cho thấy phương pháp đề xuất của chúng tôi có thể khắc phục hiệu quả các thách thức mà MLLM gặp phải trong VEP, đạt được hiệu suất tiên tiến trên các điểm chuẩn hiện có. Chúng tôi hy vọng công trình này đặt nền móng cho nghiên cứu tương lai về MLLM đối với dự đoán sự kiện video.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng CoE cho dự đoán sự kiện video đa phương thức và dài hạn: Nghiên cứu cách CoE có thể được mở rộng để không chỉ dự đoán sự kiện tiếp theo mà còn dự đoán chuỗi sự kiện trong tương lai xa hơn, đồng thời kết hợp các dạng đầu ra đa phương thức (ví dụ: mô tả văn bản, hình ảnh đại diện, hoặc thậm chí video clip ngắn) thay vì chỉ chọn từ các tùy chọn cho sẵn.
  2. Mô hình hóa chuỗi sự kiện thích ứng với ngữ cảnh: Phát triển một cơ chế tự động để xác định độ chi tiết và độ dài tối ưu của chuỗi sự kiện (L trong phương trình r_e) dựa trên đặc điểm của video đầu vào và loại sự kiện cần dự đoán, thay vì sử dụng một siêu tham số cố định. Điều này sẽ giúp mô hình thích nghi tốt hơn với các kịch bản video đa dạng.
  3. Học tập không cần nhãn (Zero-shot) hoặc ít nhãn (Few-shot) với CoE: Khám phá các kỹ thuật để CoE có thể thích ứng và dự đoán các sự kiện trong các miền video mới hoặc các loại sự kiện chưa từng thấy trong quá trình đào tạo, giảm thiểu nhu cầu về dữ liệu gắn nhãn quy mô lớn hoặc đào tạo lại rộng rãi.

2. Patent:​

  1. Hệ thống trợ lý di động thông minh dự đoán hành động tiếp theo: Một ứng dụng di động sử dụng công nghệ chuỗi sự kiện để phân tích video người dùng đang quay hoặc xem (ví dụ: video hướng dẫn nấu ăn, sửa chữa) và tự động dự đoán hành động hoặc bước tiếp theo có khả năng xảy ra. Sau đó, nó có thể hiển thị gợi ý, công cụ cần thiết, hoặc thông tin liên quan trên màn hình điện thoại, giúp người dùng thực hiện công việc hiệu quả hơn.
  2. Cảnh báo an ninh sớm dựa trên dự đoán sự kiện cho camera giám sát di động: Một hệ thống tích hợp vào camera an ninh hoặc điện thoại di động dùng làm camera giám sát, có khả năng phân tích luồng video theo thời gian thực. Hệ thống này sẽ xây dựng chuỗi sự kiện từ hình ảnh và dự đoán các sự kiện bất thường có thể xảy ra (ví dụ: có người đang cố mở cửa, vật thể bị lấy cắp, người ngã) trước khi chúng hoàn tất, gửi cảnh báo tức thì đến điện thoại của chủ sở hữu.
  3. Đề xuất nội dung video ngắn cá nhân hóa và tương tác: Một tính năng trong các ứng dụng mạng xã hội video ngắn trên điện thoại, sử dụng phân tích chuỗi sự kiện để hiểu nội dung và ngữ cảnh của video mà người dùng đang xem. Dựa trên đó, nó dự đoán loại sự kiện hoặc nội dung tiếp theo mà người dùng có thể quan tâm, gợi ý các video tương tự, hoặc thậm chí tạo ra các tùy chọn tương tác như "tiếp tục câu chuyện này" hoặc "xem diễn biến khác" để tăng trải nghiệm cá nhân hóa.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.14935
ArXiv Abstracthttps://arxiv.org/abs/2603.14935
PDF Downloadhttps://arxiv.org/pdf/2603.14935.pdf
Github RepositoryN/A

3. MosaicMem: Hybrid Spatial Memory for Controllable Video World Models (71 votes)​

Tác giả: Wei Yu, Runjia Qian, Yumeng Li, Liquan Wang, Songheng Yin, Sri Siddarth Chakaravarthy P, Dennis Anthony, Yang Ye, Yidi Li, Weiwei Wan, Animesh Garg

Xuất bản lúc: 2026-03-17

Tag: Spatial Memory, World Models, Video Diffusion Models, Diffusion, 3D Reconstruction, Camera Control

I. Main Problem:​

Các mô hình khuếch tán video hiện tại gặp khó khăn trong việc tạo ra các trình mô phỏng thế giới (world simulators) nhất quán dưới chuyển động camera, các lần truy cập lại và sự can thiệp. Bộ nhớ không gian là một nút thắt cổ chai chính: bộ nhớ 3D rõ ràng (explicit memory) cải thiện tính nhất quán dựa trên tái chiếu nhưng kém hiệu quả với các đối tượng chuyển động, trong khi bộ nhớ ngầm (implicit memory) thường tạo ra chuyển động camera không chính xác và thiếu hiệu quả cho tính nhất quán dài hạn.

II. Main Idea:​

Đề xuất Mosaic Memory (MosaicMem), một cơ chế bộ nhớ không gian lai kết hợp ưu điểm của cả bộ nhớ rõ ràng và ngầm. MosaicMem nâng các 'patch' hình ảnh lên không gian 3D để định vị đáng tin cậy và truy xuất có mục tiêu, đồng thời khai thác khả năng điều kiện hóa tự nhiên của mô hình để duy trì tạo sinh tuân thủ prompt. Nó ghép các 'patch' được căn chỉnh không gian vào khung nhìn được truy vấn, giữ lại những gì nên tồn tại và cho phép mô hình điền vào những gì nên phát triển. Mô hình tích hợp thêm điều kiện hóa camera PRoPE và hai phương pháp căn chỉnh bộ nhớ mới (warped RoPE và warped latent) để cải thiện độ chính xác của chuyển động camera và xử lý động lực học.

III. Main Results:​

MosaicMem đạt hiệu suất tốt nhất trên nhiều tiêu chí: độ bám dính camera chính xác hơn (RotErr 0.51, TransErr 0.06), chất lượng hình ảnh cao hơn (FID 65.67, FVD 232.95), tính nhất quán truy xuất tốt hơn (SSIM 0.75, PSNR 23.57, LPIPS 0.11) và khả năng xử lý động lực học mạnh mẽ hơn (Dynamic Score 2.58) so với các phương pháp bộ nhớ rõ ràng và ngầm. Nó có thể tạo ra các đối tượng động với tính nhất quán thời gian và tạo ra các cảnh tổng hợp theo prompt. MosaicMem cũng cho phép điều hướng video dài đến mức phút, chỉnh sửa cảnh dựa trên bộ nhớ và tạo sinh tự hồi quy (autoregressive rollout).

IV. Conclusion & Future Works:​

MosaicMem là một cơ chế bộ nhớ không gian lai thống nhất bộ nhớ rõ ràng và ngầm, mang lại lợi ích bổ sung từ cả hai mô hình. Nó đạt được độ bám dính chuyển động/tư thế chính xác hơn so với bộ nhớ ngầm và xử lý các đối tượng động một cách mạnh mẽ hơn so với các phương pháp bộ nhớ rõ ràng. MosaicMem mở ra một bộ khả năng điều khiển phong phú, bao gồm tạo video điều hướng cực dài, chỉnh sửa cảnh dựa trên bộ nhớ và tạo sinh tự hồi quy, tạo ra một con đường thực tế hướng tới các trình mô phỏng thế giới video bền vững và có thể khám phá.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu kiến trúc bộ nhớ lai nâng cao: Khám phá các phương pháp mới để tích hợp cấu trúc 3D rõ ràng ở các mức độ chi tiết khác nhau (ví dụ: cấp độ đối tượng, cấp độ cảnh) với các cơ chế điều kiện hóa ngầm để cải thiện tính nhất quán và khả năng kiểm soát trong các trình mô phỏng thế giới video.
  2. Mô hình hóa thế giới động và tương tác phức tạp: Phát triển các kỹ thuật để duy trì sự nhất quán và tính chặt chẽ của bộ nhớ không gian trong các môi trường có nhiều đối tượng tương tác, đối tượng biến dạng và thay đổi môi trường nhanh chóng trong các video dài.
  3. Tích hợp mô hình thế giới với Học tăng cường (RL): Nghiên cứu cách các mô hình thế giới dựa trên MosaicMem có thể được sử dụng để nâng cao khả năng lập kế hoạch, dự đoán và ra quyết định của tác nhân trong các môi trường mô phỏng phức tạp cho các ứng dụng RL.
  4. Cải thiện khả năng chỉnh sửa và thao tác trực quan: Phát triển các giao diện và thuật toán cho phép người dùng dễ dàng chỉnh sửa, di chuyển hoặc thay đổi các thành phần trong video được tạo, tận dụng khả năng thao tác bộ nhớ patch của MosaicMem.

2. Patent:​

  1. Hệ thống chỉnh sửa video thông minh trên điện thoại di động: Một ứng dụng hoặc tính năng trên điện thoại cho phép người dùng chỉnh sửa các đối tượng trong video (ví dụ: di chuyển, sao chép, xóa) một cách mượt mà và nhất quán về mặt hình học, ngay cả khi camera di chuyển. Công nghệ sẽ phân tích và tạo bản đồ 3D tạm thời của các 'patch' đối tượng, sau đó tái tạo lại cảnh nền và tích hợp các chỉnh sửa một cách tự nhiên.
  2. Hỗ trợ điều hướng thực tế tăng cường (AR) với bộ nhớ cảnh quan cá nhân: Một ứng dụng AR trên điện thoại giúp người dùng 'ghi nhớ' các địa điểm cụ thể hoặc thêm các ghi chú AR vào môi trường thực. Khi người dùng quay lại khu vực đó, ứng dụng sẽ nhận diện cảnh quan và hiển thị các ghi chú AR một cách nhất quán, không bị trôi, ngay cả sau một thời gian dài hoặc thay đổi góc nhìn, bằng cách sử dụng các 'patch' cảnh quan 3D để định vị và duy trì thông tin.
  3. Tính năng tạo video du lịch động với khả năng biến đổi nội dung: Một công cụ trong ứng dụng camera điện thoại cho phép người dùng quay video du lịch, sau đó sử dụng trí tuệ nhân tạo để thay đổi hoặc thêm các yếu tố động vào cảnh (ví dụ: thêm thuyền trên sông, thay đổi thời tiết, làm cho các đám mây chuyển động). Hệ thống sẽ phân tích video, tách biệt các yếu tố tĩnh và động, và cho phép chỉnh sửa hoặc bổ sung các yếu tố động mới một cách tự nhiên và nhất quán với chuyển động camera.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.17117
ArXiv Abstracthttps://arxiv.org/abs/2603.17117
PDF Downloadhttps://arxiv.org/pdf/2603.17117.pdf
Github RepositoryN/A

4. Alignment Makes Language Models Normative, Not Descriptive (35 votes)​

Tác giả: Eilam Shapira, Moshe Tennenholtz, Roi Reichart

Xuất bản lúc: 2026-03-17

Tag: LLMs, AI Alignment, Behavioral Prediction, Game Theory, RLHF, Deep Learning

I. Main Problem:​

Các mô hình ngôn ngữ lớn (LLMs) sau khi được căn chỉnh (aligned) để phù hợp với các tín hiệu ưu tiên của con người (ví dụ: thông qua RLHF hoặc DPO) thường được sử dụng làm đại diện cho hành vi con người. Tuy nhiên, mục tiêu căn chỉnh này không tương đương với việc mô hình hóa hành vi thực tế được quan sát. Điều này tạo ra một sự đánh đổi cơ bản giữa việc tối ưu hóa mô hình cho mục đích sử dụng của con người và sử dụng chúng làm proxy cho hành vi con người, dẫn đến LLMs có xu hướng thể hiện 'thiên vị chuẩn mực' (normative bias) thay vì 'thiên vị mô tả' (descriptive bias), tức là dự đoán cách con người nên hành động thay vì cách họ thực sự hành động, đặc biệt trong các bối cảnh chiến lược phức tạp.

II. Main Idea:​

Bài nghiên cứu so sánh 120 cặp mô hình cơ sở (base models, trước căn chỉnh) và mô hình đã căn chỉnh (aligned models, sau căn chỉnh) từ 23 dòng mô hình khác nhau để dự đoán hơn 10.000 quyết định thực tế của con người trong các trò chơi chiến lược đa vòng (thương lượng, thuyết phục, đàm phán, trò chơi ma trận lặp lại) và các điều kiện biên (trò chơi một lần, lựa chọn xổ số phi chiến lược). Giả thuyết chính là căn chỉnh gây ra thiên vị chuẩn mực: nó cải thiện khả năng dự đoán khi hành vi con người tương đối phù hợp với các giải pháp chuẩn mực, nhưng làm giảm khả năng dự đoán trong các tình huống chiến lược đa vòng, nơi hành vi được định hình bởi các động lực mô tả như sự có đi có lại, trả đũa và thích ứng phụ thuộc vào lịch sử tương tác.

III. Main Results:​

I. Trong các trò chơi chiến lược đa vòng:​

  • Mô hình cơ sở vượt trội: Các mô hình cơ sở vượt trội hơn các đối tác đã căn chỉnh của chúng trong việc dự đoán lựa chọn của con người với tỷ lệ gần 10:1 (213 so với 22 chiến thắng), ổn định trên các dòng mô hình, cách thức nhắc lệnh (prompt formulations) và cấu hình trò chơi.
  • Hiệu ứng tăng theo quy mô mô hình: Lợi thế của mô hình cơ sở tăng theo quy mô mô hình.

II. Trong các điều kiện biên (nơi hành vi con người có nhiều khả năng tuân theo dự đoán chuẩn mực):​

  • Mô hình đã căn chỉnh vượt trội: Mô hình đã căn chỉnh chiếm ưu thế trong các trò chơi sách giáo khoa một lần (4.1:1 lợi thế của mô hình đã căn chỉnh trên tất cả 12 loại trò chơi được thử nghiệm) và trong các lựa chọn xổ số phi chiến lược (2.2:1 lợi thế của mô hình đã căn chỉnh).
  • Trong trò chơi đa vòng, vòng đầu tiên: Mô hình đã căn chỉnh cũng chiếm ưu thế ở vòng một của các trò chơi đa vòng, trước khi lịch sử tương tác phát triển, nhưng lợi thế này biến mất khi lịch sử tích lũy.
  • Thiên vị chuẩn mực: Mô hình đã căn chỉnh có xu hướng phù hợp hơn với cân bằng Nash (Nash Equilibrium) trong các trò chơi một lần, điều này tương quan với hành vi của con người trong các cài đặt đơn giản này.

IV. Conclusion & Future Works:​

Căn chỉnh khiến các mô hình ngôn ngữ thể hiện thiên vị chuẩn mực, làm thay đổi kiểu hành vi mà mô hình thể hiện chứ không phải khả năng tổng quát của nó. Sự thu hẹp phân phối hành vi trong quá trình căn chỉnh (do tối ưu hóa phần thưởng tập trung vào các chế độ hành vi được người chú thích chấp thuận) chính là nguyên nhân. Điều này có ý nghĩa thực tiễn quan trọng: nên ưu tiên các mô hình cơ sở cho các cài đặt tương tác đa vòng, trong khi các mô hình đã căn chỉnh phù hợp hơn cho các trò chơi một lần hoặc các tác vụ phi chiến lược.

Các hướng nghiên cứu trong tương lai:

  • Xác định các khía cạnh cụ thể của tương tác đa vòng (mô hình đối thủ, tích hợp lịch sử, sự mới lạ của quỹ đạo) thúc đẩy lợi thế của mô hình cơ sở.
  • Mở rộng nghiên cứu sang các bối cảnh phức tạp hơn như đàm phán liên tục, đấu giá hoặc hình thành liên minh.
  • Phát triển các phương pháp căn chỉnh mới có khả năng bảo toàn phân phối hành vi thực nghiệm trong khi vẫn tăng cường tính hữu ích.
  • Kiểm tra xem hiệu ứng này có tồn tại ở quy mô cực lớn hay không để làm rõ liệu sự dịch chuyển chuẩn mực có phải là bản chất của căn chỉnh hay sẽ giảm đi khi mô hình trở nên mạnh mẽ hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu về tác động của các chiến lược căn chỉnh khác nhau (ví dụ: DPO so với RLHF) lên sự cân bằng giữa khả năng dự đoán hành vi mô tả và tính chuẩn mực của LLMs trong các trò chơi chiến lược đa vòng, đồng thời đề xuất các phương pháp căn chỉnh mới để duy trì sự đa dạng hành vi.
  2. Phân tích chuyên sâu về các đặc điểm của lịch sử tương tác (ví dụ: độ dài, độ phức tạp, sự hiện diện của các hành vi 'phi chuẩn mực' như trả đũa) ảnh hưởng đến khả năng dự đoán của mô hình cơ sở so với mô hình đã căn chỉnh trong các trò chơi chiến lược, từ đó xây dựng các mô hình dự đoán hành vi được điều chỉnh theo ngữ cảnh.
  3. Khám phá khả năng sử dụng các LLMs cơ sở để tạo ra các 'đối thủ AI' có hành vi đa dạng và thực tế hơn trong các môi trường mô phỏng trò chơi chiến lược, cho phép nghiên cứu sâu hơn về tâm lý và chiến lược của con người trong các tương tác phức tạp.

2. Patent:​

  1. Hệ thống cố vấn chiến lược cá nhân trên di động: Một ứng dụng điện thoại di động sử dụng mô hình ngôn ngữ cơ sở để phân tích lịch sử tương tác của người dùng trong các tình huống đàm phán, thương lượng hoặc tương tác xã hội (ví dụ: tin nhắn, email), từ đó đưa ra dự đoán về hành vi thực tế của đối tác và gợi ý các chiến lược phản hồi phù hợp nhất, giúp người dùng đạt được kết quả tốt hơn trong các cuộc trò chuyện quan trọng.
  2. Công cụ mô phỏng quyết định tài chính cá nhân phi chuẩn mực: Một tính năng trong ứng dụng ngân hàng hoặc quản lý tài chính trên điện thoại di động sử dụng mô hình ngôn ngữ cơ sở để mô phỏng các quyết định tài chính của người dùng dựa trên dữ liệu hành vi thực tế của họ (ví dụ: thói quen chi tiêu, lịch sử đầu tư rủi ro), thay vì giả định hành vi hoàn toàn lý trí, nhằm cung cấp các lời khuyên cá nhân hóa và thực tế hơn về tiết kiệm, đầu tư hoặc quản lý nợ.
  3. Nền tảng kiểm thử A/B ảo cho ứng dụng di động: Một dịch vụ tích hợp cho các nhà phát triển ứng dụng di động, sử dụng các mô hình ngôn ngữ cơ sở để mô phỏng phản ứng của các phân khúc người dùng khác nhau đối với các thay đổi giao diện, tính năng mới hoặc chiến dịch quảng cáo. Công cụ này sẽ dự đoán hành vi thực tế của người dùng (chứ không phải hành vi lý tưởng) trong các tình huống tương tác phức tạp, giúp tối ưu hóa thiết kế ứng dụng và chiến lược tiếp thị trước khi triển khai rộng rãi.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.17218
ArXiv Abstracthttps://arxiv.org/abs/2603.17218
PDF Downloadhttps://arxiv.org/pdf/2603.17218.pdf
Github RepositoryN/A

5. Complementary Reinforcement Learning (28 votes)​

Tác giả: Dilxat Muhtar, Jiashun Liu, Wei Gao, Weixun Wang, Shaopan Xiong, Ju Huang, Siran Yang, Wenbo Su, Jiamang Wang, Ling Pan, Bo Zheng

Xuất bản lúc: 2026-03-18

Tag: Reinforcement Learning, LLMs, Experience Replay, Co-evolution, Sample Efficiency, Agentic RL

I. Main Problem:​

Các tác nhân dựa trên Mô hình Ngôn ngữ Lớn (LLM) được huấn luyện bằng Học tăng cường (RL) hiện tại bị giới hạn bởi hiệu quả mẫu thấp. Điều này không chỉ do phản hồi kết quả thưa thớt mà còn do tác nhân không thể tận dụng kinh nghiệm trước đó qua các tập. Các phương pháp hiện có để bổ trợ tác nhân bằng kinh nghiệm lịch sử gặp phải điểm yếu chí mạng: kinh nghiệm được chưng cất từ lịch sử được lưu trữ tĩnh hoặc không cùng phát triển với tác nhân đang cải thiện, gây ra sự sai lệch dần dần giữa kinh nghiệm và khả năng phát triển của tác nhân, làm giảm tiện ích của nó trong suốt quá trình huấn luyện.

II. Main Idea:​

Lấy cảm hứng từ hệ thống học bổ trợ (Complementary Learning Systems - CLS) trong khoa học thần kinh, chúng tôi giới thiệu Complementary RL để đạt được sự đồng tiến hóa liền mạch giữa bộ trích xuất kinh nghiệm và tác nhân chính sách trong vòng lặp tối ưu hóa RL. Cụ thể, tác nhân được tối ưu hóa thông qua các phần thưởng dựa trên kết quả thưa thớt, trong khi bộ trích xuất kinh nghiệm được tối ưu hóa dựa trên việc kinh nghiệm được chưng cất của nó có đóng góp rõ rệt vào thành công của tác nhân hay không, từ đó phát triển chiến lược quản lý kinh nghiệm của nó song song với khả năng ngày càng tăng của tác nhân. Một framework huấn luyện bất đồng bộ với một ExperienceManager tập trung được thiết kế để tách rời tương tác của tác nhân khỏi việc chưng cất kinh nghiệm và tối ưu hóa mô hình kép, đảm bảo hiệu quả huấn luyện mà không gây thêm độ trễ.

III. Main Results:​

Complementary RL vượt trội hơn các phương pháp RL dựa trên kết quả không học từ kinh nghiệm, đạt được cải thiện hiệu suất 10% trong các kịch bản tác vụ đơn và thể hiện khả năng mở rộng mạnh mẽ trong cài đặt đa tác vụ. Trong huấn luyện tác vụ đơn, Complementary RL liên tục vượt trội hơn baseline trên bốn tác vụ khác nhau, đạt biên độ hiệu suất 1.3 lần trên MiniHack Room và ALFWorld, và tăng +3.0% trên SWE-Bench. Nó cũng hoàn thành tác vụ hiệu quả hơn, yêu cầu ít hành động hơn (ví dụ: 1.5 lần trên MiniHack Room, 2 lần trên ALFWorld). Trong huấn luyện đa tác vụ, Complementary RL vượt trội hơn baseline cả khi có và không có kinh nghiệm ở thời điểm kiểm tra (trung bình +7% và +2%). Một bộ trích xuất kinh nghiệm mạnh hơn (30B so với 4B) mang lại cải thiện hiệu suất nhất quán (trung bình +5%). Framework này không gây ra độ trễ đáng kể cho việc thu thập rollout và khả năng tăng hiệu suất của Complementary RL cũng mở rộng mạnh mẽ theo số lượng tác vụ.

IV. Conclusion & Future Works:​

Complementary RL là một framework thiết kế thuật toán và hạ tầng thống nhất, cho phép các tác nhân tận dụng và tích lũy kinh nghiệm hiệu quả trong suốt quá trình huấn luyện RL. Thay vì coi việc xây dựng và quản lý kinh nghiệm là một thành phần tĩnh với bộ trích xuất cố định, chúng tôi đề xuất huấn luyện đồng thời tác nhân chính sách và bộ trích xuất kinh nghiệm trong một vòng lặp kép bất đồng bộ. Thiết kế đồng tiến hóa này đảm bảo rằng khả năng ngày càng tăng của tác nhân liên tục định hình những gì bộ trích xuất học được để chưng cất, trong khi đầu ra cải thiện của bộ trích xuất lại đẩy nhanh quá trình học của tác nhân, mỗi bên cùng nhau và liên tục định hình bên kia để đạt hiệu suất tốt hơn. Công việc trong tương lai bao gồm điều tra sâu hơn việc tích hợp tự chưng cất (self-distillation) để giải quyết các vấn đề về siêu tham số hoặc áp dụng theo chu kỳ.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu sâu hơn về cơ chế tự chưng cất (self-distillation) trong Complementary RL: Khám phá nguyên nhân gây ra sự sụp đổ hiệu suất ở giai đoạn sau của quá trình huấn luyện khi tích hợp tự chưng cất và đề xuất các phương pháp cải thiện, ví dụ như điều chỉnh siêu tham số hoặc áp dụng tự chưng cất theo chu kỳ thay vì liên tục. Mục tiêu là để diễn viên nội hóa các hành vi thành công được hướng dẫn bởi kinh nghiệm một cách hiệu quả hơn.
  2. Mở rộng Complementary RL cho các tác vụ phức tạp hơn và môi trường đa phương thức: Áp dụng khung Complementary RL cho các tác vụ đòi hỏi sự tương tác phức tạp hơn với môi trường hoặc xử lý thông tin từ nhiều phương thức (ví dụ: hình ảnh, âm thanh, văn bản). Nghiên cứu cách bộ trích xuất kinh nghiệm có thể hiệu quả hơn trong việc chưng cất kinh nghiệm đa phương thức và cách diễn viên có thể tận dụng chúng.
  3. Phát triển các chiến lược hợp nhất kinh nghiệm nâng cao: Hiện tại, cơ chế hợp nhất kinh nghiệm (Periodic Merge) được thực hiện theo từng khối (chunks). Nghiên cứu các phương pháp hợp nhất thông minh hơn, có thể sử dụng các thuật toán học máy để tự động xác định và giải quyết các xung đột hoặc sự dư thừa trong ngân hàng kinh nghiệm một cách hiệu quả hơn, dẫn đến một ngân hàng kinh nghiệm gọn gàng và chất lượng cao hơn.

2. Patent:​

  1. Hệ thống trợ lý ảo thông minh tự học trên điện thoại di động: Một ứng dụng di động cho phép trợ lý ảo học hỏi từ các tương tác của người dùng và các tác vụ đã hoàn thành. Hệ thống sẽ có một "bộ trích xuất kinh nghiệm" để lưu trữ các quy trình thành công (ví dụ: đặt lịch, gửi email theo mẫu, quản lý danh sách mua sắm) và một "diễn viên chính sách" để thực hiện các tác vụ. Hai thành phần này sẽ cùng tiến hóa, giúp trợ lý ảo ngày càng thông minh và cá nhân hóa hơn, có khả năng thực hiện các chuỗi hành động phức tạp mà không cần lập trình rõ ràng.
  2. Nền tảng học tập cá nhân hóa cho ứng dụng giáo dục di động: Một ứng dụng giáo dục sử dụng cơ chế Complementary RL để cá nhân hóa lộ trình học tập cho từng học sinh. "Bộ trích xuất kinh nghiệm" sẽ phân tích các phương pháp học tập thành công, các lỗi thường gặp và các chiến lược giải quyết vấn đề của học sinh. "Diễn viên chính sách" sẽ điều chỉnh nội dung, tốc độ và phương pháp giảng dạy dựa trên kinh nghiệm đã chưng cất, đảm bảo học sinh nhận được hướng dẫn phù hợp nhất, giúp tăng hiệu quả học tập và duy trì động lực.
  3. Công cụ tối ưu hóa quy trình làm việc tự động cho điện thoại doanh nghiệp: Một ứng dụng di động dành cho doanh nghiệp có khả năng tự động học hỏi và tối ưu hóa các quy trình làm việc lặp đi lặp lại. Ví dụ, nó có thể học cách xử lý các yêu cầu hỗ trợ khách hàng, tạo báo cáo hoặc sắp xếp dữ liệu từ các ứng dụng khác nhau. "Bộ trích xuất kinh nghiệm" sẽ ghi lại các chuỗi hành động thành công của nhân viên, trong khi "diễn viên chính sách" sẽ thực hiện các quy trình này một cách tự động và hiệu quả hơn, giảm thiểu sai sót và tăng năng suất lao động trên thiết bị di động.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.17621
ArXiv Abstracthttps://arxiv.org/abs/2603.17621
PDF Downloadhttps://arxiv.org/pdf/2603.17621.pdf
Github Repositoryhttps://github.com/pUmpKin-Co/ComplementaryRL

6. When AI Navigates the Fog of War (22 votes)​

Tác giả: Ming Li, Xirui Li, Tianyi Zhou

Xuất bản lúc: 2026-03-17

Tag: LLMs, Geopolitical Forecasting, Reasoning, Data Leakage, Temporal Reasoning, Multi-Agent Systems, Crisis Prediction

I. Main Problem:​

Nghiên cứu này giải quyết thách thức trong việc đánh giá khả năng suy luận và dự báo quỹ đạo của các mô hình ngôn ngữ lớn (LLM) đối với một cuộc xung đột địa chính trị đang diễn ra. Vấn đề chính là sự rò rỉ dữ liệu từ tập huấn luyện, làm sai lệch các đánh giá hồi cứu về khả năng dự đoán địa chính trị. Ngoài ra, việc giải thích các tín hiệu không đầy đủ, mơ hồ và thường mâu thuẫn trong thời gian thực, dưới điều kiện "sương mù chiến tranh" cũng là một khó khăn lớn.

II. Main Idea:​

Các tác giả đề xuất một nghiên cứu điển hình theo thời gian (temporally grounded case study) về giai đoạn đầu của một cuộc xung đột Trung Đông giả định vào năm 2026, diễn ra sau thời điểm cắt dữ liệu huấn luyện của các mô hình hiện tại. Phương pháp này bao gồm việc xây dựng 11 nút thời gian quan trọng, 42 câu hỏi có thể kiểm chứng cụ thể cho từng nút và 5 câu hỏi thăm dò chung. Các mô hình chỉ được cung cấp thông tin công khai có sẵn tại mỗi thời điểm, giảm thiểu đáng kể lo ngại rò rỉ dữ liệu. Mục tiêu là phân tích cách LLM diễn giải và suy luận về một cuộc khủng hoảng địa chính trị đang diễn ra dưới những ràng buộc thông tin nghiêm ngặt và sự không chắc chắn, thay vì chỉ là một bài kiểm tra dự báo thông thường.

III. Main Results:​

Nghiên cứu đã đưa ra ba phát hiện chính: thứ nhất, các mô hình ngôn ngữ lớn hiện đại (SOTA LLM) thường thể hiện khả năng suy luận chiến lược mạnh mẽ trong bối cảnh này, vượt ra ngoài những lời lẽ chính trị bề mặt để chú ý đến các động cơ tiềm ẩn, áp lực răn đe và các ràng buộc vật chất. Thứ hai, khả năng này không đồng đều giữa các lĩnh vực: các mô hình đáng tin cậy hơn trong các bối cảnh kinh tế và hậu cần có cấu trúc, nhưng kém nhất quán hơn trong các môi trường đa tác nhân chính trị mơ hồ. Cuối cùng, các tường thuật của mô hình phát triển theo thời gian, chuyển từ những kỳ vọng ban đầu về việc kiềm chế nhanh chóng sang các giải thích có hệ thống hơn về sự củng cố khu vực và giảm leo thang do tiêu hao.

IV. Conclusion & Future Works:​

Công trình này đóng vai trò như một bản ghi lưu trữ về khả năng suy luận của mô hình trong một cuộc khủng hoảng địa chính trị đang diễn ra, cho phép các nghiên cứu trong tương lai mà không bị sai lệch bởi thành kiến nhận thức muộn. Các phản hồi của LLM được lưu trữ làm điểm tham chiếu cho việc so sánh và nghiên cứu tiếp theo khi các sự kiện tiếp tục phát triển. Mục tiêu rộng hơn là hỗ trợ nghiên cứu về dự báo, ngăn ngừa xung đột và minh bạch phân tích, góp phần giảm thiểu hiểu lầm, rủi ro leo thang và hỗ trợ nỗ lực giảm leo thang và hòa bình.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu về sự tiến hóa của các mô hình ngôn ngữ lớn trong việc hiểu và dự báo các sự kiện địa chính trị phức tạp: "Phân tích sự thay đổi trong khả năng suy luận và cấu trúc tường thuật của LLM khi đối mặt với thông tin mới trong các cuộc khủng hoảng địa chính trị đang diễn ra, so sánh với các đánh giá hồi cứu."
  2. Phát triển phương pháp đánh giá LLM trong các môi trường đa tác nhân chính trị mơ hồ: "Thiết kế các bộ dữ liệu và tiêu chí đánh giá mới để đo lường độ tin cậy và sự nhất quán của LLM trong việc phân tích các động lực chính trị phức tạp, tín hiệu ngoại giao và hành vi của nhiều tác nhân phi nhà nước."
  3. Ứng dụng học tăng cường (Reinforcement Learning) cho LLM trong việc ra quyết định chiến lược dưới sự không chắc chắn: "Khám phá cách huấn luyện LLM bằng học tăng cường để cải thiện khả năng ra quyết định chiến lược và quản lý rủi ro trong các kịch bản 'sương mù chiến tranh' dựa trên phản hồi thời gian thực."

2. Patent:​

  1. Hệ thống cảnh báo sớm rủi ro địa chính trị cá nhân trên điện thoại di động: Một ứng dụng di động sử dụng AI để phân tích thông tin công khai theo thời gian thực về các sự kiện địa chính trị đang diễn ra. Ứng dụng này sẽ cung cấp cho người dùng cá nhân (ví dụ: nhà đầu tư, du khách) các đánh giá về rủi ro tiềm ẩn (ví dụ: biến động thị trường, gián đoạn du lịch) và cách các tình huống có thể leo thang hoặc giảm bớt, giúp họ đưa ra quyết định kịp thời.
  2. Công cụ phân tích tin tức đa quan điểm do AI điều khiển: Một tính năng trên điện thoại thông minh cho phép người dùng xem cùng một sự kiện tin tức được phân tích bởi nhiều mô hình AI khác nhau. Công cụ này sẽ làm nổi bật các điểm đồng thuận và khác biệt trong cách các AI diễn giải thông tin, đặc biệt là trong các tình huống mơ hồ, giúp người dùng có cái nhìn toàn diện và giảm thiểu thành kiến.
  3. Trợ lý lập kế hoạch ứng phó khủng hoảng cho doanh nghiệp: Một nền tảng di động dành cho các nhà lãnh đạo doanh nghiệp, sử dụng AI để mô phỏng và phân tích các kịch bản khủng hoảng địa chính trị tiềm ẩn. Nó sẽ đánh giá tác động đến chuỗi cung ứng, thị trường và hoạt động kinh doanh, sau đó đề xuất các chiến lược ứng phó và kế hoạch dự phòng dựa trên dữ liệu công khai có sẵn theo thời gian thực.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.16642
ArXiv Abstracthttps://arxiv.org/abs/2603.16642
PDF Downloadhttps://arxiv.org/pdf/2603.16642.pdf
Github Repositoryhttps://github.com/xirui-li/war-test

7. GigaWorld-Policy: An Efficient Action-Centered World--Action Model (19 votes)​

Tác giả: Angen Ye, Boyuan Wang, Chaojun Ni, Guan Huang, Guosheng Zhao, Hao Li, Hengtao Li, Jie Li, Jindi Lv, Jingyu Liu, Min Cao, Peng Li, Qiuping Deng, Wenjun Mei, Xiaofeng Wang, Xinze Chen, Xinyu Zhou, Yang Wang, Yifan Chang, Yifan Li, Yukun Zhou, Yun Ye, Zhichao Liu, Zheng Zhu

Xuất bản lúc: 2026-03-18

Tag: Vision-Language-Action, World Model, Robotic Control, Policy Learning, Low-latency Inference, Pre-training, Diffusion Transformer, Embodied AI

I. Main Problem:​

Các mô hình Vision-Language-Action (VLA) hiện tại gặp phải vấn đề thiếu hụt giám sát (supervision sparsity) trong hành động, khiến chúng phụ thuộc vào các phím tắt ngữ cảnh và không học được phân phối hành động nhất quán về mặt vật lý. Việc đưa giám sát trạng thái tương lai (dự đoán quan sát hình ảnh tương lai) vào các framework VLA dựa trên VLM bị hạn chế do VLM được tối ưu cho suy luận phân biệt chứ không phải tạo sinh chất lượng cao, gây khó khăn trong việc đảm bảo tính liên tục và nhất quán vật lý cho hành động dự đoán. Các phương pháp World Model (WM) hiện có tích hợp vào học chính sách robot thường yêu cầu lấy mẫu lặp lại để tạo video tương lai trong thời gian suy luận, dẫn đến độ trễ cao và lỗi dự đoán video có thể lan truyền, làm giảm hiệu suất điều khiển dài hạn.

II. Main Idea:​

GigaWorld-Policy là một mô hình World–Action (WAM) hiệu quả và tập trung vào hành động, giải quyết các hạn chế trên. Thay vì phụ thuộc quá mức vào việc tạo video rõ ràng, GigaWorld-Policy tận dụng động lực học hình ảnh tương lai làm tín hiệu suy luận và nguồn giám sát dày đặc trong quá trình huấn luyện. Mô hình được triển khai dưới dạng một mô hình chuỗi nhân quả, đại diện cho các token hành động và token hình ảnh tương lai dưới một mặt nạ nhân quả. Trong quá trình huấn luyện, mô hình học cách dự đoán chuỗi hành động từ ngữ cảnh quan sát hiện tại và song song học một mô hình động lực học hình ảnh có điều kiện hành động để dự báo các quan sát hình ảnh tương lai, qua đó liên kết việc học hành động với sự tiến hóa trạng thái pixel 2D. Quan trọng là, tại thời điểm suy luận, việc dự đoán video tương lai là tùy chọn: mô hình có thể chạy ở chế độ chỉ hành động để trực tiếp tạo ra lệnh điều khiển mà không cần tạo chuỗi token video dài, giảm đáng kể chi phí tính toán, bộ nhớ và tránh lỗi tích lũy. GigaWorld-Policy sử dụng một quy trình huấn luyện theo chương trình (curriculum training pipeline), bắt đầu từ một mô hình nền tảng video web quy mô lớn, sau đó được huấn luyện trước trên dữ liệu robot và video con người góc nhìn thứ nhất, và cuối cùng được huấn luyện sau trên quỹ đạo của robot mục tiêu để chuyên biệt hóa cho việc dự đoán hành động có điều kiện hướng dẫn.

III. Main Results:​

GigaWorld-Policy đạt được sự cân bằng tối ưu giữa tỷ lệ thành công và hiệu quả, mang lại tốc độ suy luận nhanh hơn 9 lần (xuống còn 0.36 giây mỗi lần suy luận) và tỷ lệ thành công nhiệm vụ cao hơn 7% so với WAM tiên tiến Motus trong các thiết lập thực tế. Trong môi trường mô phỏng RoboTwin 2.0, GigaWorld-Policy cải thiện tỷ lệ thành công trung bình hơn 44 điểm phần trăm so với mô hình π0.5 và đạt hiệu suất tương đương với Motus dù nhanh hơn 9 lần. Trong các thí nghiệm thực tế, GigaWorld-Policy đạt tỷ lệ thành công trung bình 0.83, vượt trội so với Motus (0.76) và π0.5 (0.69). Mô hình cũng thể hiện hiệu quả dữ liệu vượt trội, đạt được tỷ lệ thành công tối đa của baseline VLA chỉ với 10% dữ liệu huấn luyện. Việc kết hợp khởi tạo từ mô hình video đã huấn luyện trước với huấn luyện trước dữ liệu robot-centric mang lại lợi ích bổ sung và hiệu suất tốt nhất.

IV. Conclusion & Future Works:​

Nghiên cứu này giới thiệu GigaWorld-Policy, một mô hình World–Action hiệu quả và tập trung vào hành động, giải quyết thách thức thiếu hụt giám sát bằng cách tận dụng động lực học hình ảnh tương lai như một tín hiệu suy luận và nguồn giám sát dày đặc trong quá trình huấn luyện. Thiết kế độc đáo cho phép suy luận độ trễ thấp thông qua chế độ chỉ hành động, tránh chi phí tính toán và lỗi tích lũy từ việc tạo video rõ ràng. Quy trình huấn luyện theo chương trình đề xuất chuyển đổi một mô hình tạo video chung thành một khởi tạo mạnh mẽ cho việc học chính sách robot. Trong tương lai, có thể khám phá thêm về sự cân bằng giữa độ chính xác dự đoán video và độ mạnh mẽ của việc tạo hành động trong các môi trường ngẫu nhiên cao, cũng như mở rộng khung GigaWorld-Policy cho các nhiệm vụ robot phức tạp hơn, có tầm nhìn dài hơn và nhiều tác nhân.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mô hình World–Action thích ứng động cho môi trường biến đổi nhanh Nghiên cứu cách GigaWorld-Policy có thể tự động điều chỉnh mức độ phụ thuộc vào dự đoán video trong quá trình suy luận dựa trên độ phức tạp và tính biến động của môi trường. Điều này có thể bao gồm việc phát triển cơ chế phát hiện sự không chắc chắn trong dự đoán hình ảnh và chuyển đổi linh hoạt giữa chế độ hành động-chỉ và chế độ hành động-video tùy chọn để duy trì hiệu suất và độ trễ tối ưu.
  2. Tối ưu hóa World–Action Model cho các tác vụ tương tác xúc giác Mở rộng GigaWorld-Policy để tích hợp các tín hiệu xúc giác và phản hồi lực, cho phép robot thực hiện các tác vụ đòi hỏi sự khéo léo và tương tác vật lý tinh tế hơn. Điều này sẽ liên quan đến việc thiết kế các token cảm biến mới và điều chỉnh kiến trúc Transformer để xử lý thông tin xúc giác, đồng thời duy trì khả năng suy luận độ trễ thấp.
  3. Học chính sách từ dữ liệu đa phương thức không giám sát với GigaWorld-Policy Khám phá các phương pháp để GigaWorld-Policy có thể học các chính sách hành động hiệu quả hơn từ lượng lớn dữ liệu video và ngôn ngữ chưa được gắn nhãn (unlabeled data), giảm thiểu nhu cầu về dữ liệu giám sát hành động chuyên biệt. Điều này có thể bao gồm các kỹ thuật tự giám sát (self-supervised learning) tiên tiến để trích xuất các quy luật vật lý và mối quan hệ giữa hành động-quan sát từ video.

2. Patent:​

  1. Hệ thống hỗ trợ điều khiển thiết bị thông minh bằng cử chỉ dựa trên dự đoán hành động hiệu quả Một ứng dụng điện thoại di động sử dụng công nghệ tương tự GigaWorld-Policy để nhận diện và dự đoán chuỗi cử chỉ của người dùng (ví dụ: vuốt, chạm, kẹp, mở rộng tay) với độ trễ cực thấp. Điện thoại sẽ học các mẫu cử chỉ từ dữ liệu video và phản hồi của người dùng, cho phép người dùng điều khiển các ứng dụng hoặc thiết bị nhà thông minh (như TV, đèn, máy hút bụi robot) chỉ bằng các cử chỉ tự nhiên mà không cần chạm vào màn hình. Hệ thống sẽ ưu tiên tốc độ phản hồi hành động hơn là việc tạo ra hình ảnh dự đoán, mang lại trải nghiệm điều khiển mượt mà và tức thì.
  2. Trợ lý thực tế tăng cường (AR) tương tác vật lý với độ trễ thấp Một ứng dụng AR trên điện thoại giúp người dùng thực hiện các tác vụ vật lý trong thế giới thực. Ví dụ, khi người dùng muốn lắp ráp đồ nội thất, ứng dụng sẽ chiếu các hướng dẫn AR trực tiếp lên vật thể. Sử dụng khả năng dự đoán hành động của GigaWorld-Policy, điện thoại có thể dự đoán hành động tiếp theo của người dùng (ví dụ: vặn ốc, đặt miếng ghép) và cung cấp phản hồi hoặc hướng dẫn theo thời gian thực mà không bị trễ. Nó sẽ tập trung vào việc hiểu và hướng dẫn hành động của người dùng, chứ không phải tạo ra video mô phỏng phức tạp.
  3. Nền tảng huấn luyện robot cá nhân hóa dựa trên mô hình hành động-thế giới Một ứng dụng di động cho phép người dùng "dạy" robot cá nhân thực hiện các tác vụ đơn giản thông qua việc ghi lại video và cử chỉ của chính họ. Công nghệ của GigaWorld-Policy sẽ phân tích các bản ghi này để tạo ra một mô hình hành động-thế giới cho robot, cho phép robot học cách thực hiện các hành động mới và dự đoán kết quả trực quan của chúng. Ứng dụng sẽ tối ưu hóa việc học hành động của robot, đảm bảo robot có thể thực hiện các lệnh mới một cách nhanh chóng và chính xác dựa trên các bài học từ người dùng di động.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.17240
ArXiv Abstracthttps://arxiv.org/abs/2603.17240
PDF Downloadhttps://arxiv.org/pdf/2603.17240.pdf
Github Repositoryhttps://github.com/open-gigaai/giga-world-policy

8. Look Before Acting: Enhancing Vision Foundation Representations for Vision-Language-Action Models (19 votes)​

Tác giả: Yulin Luo, Hao Chen, Zhuangzhe Wu, Bowen Sui, Jiaming Liu, Chenyang Gu, Zhuoyang Liu, Qiuxuan Feng, Jiale Yu, Shuo Gu, Peng Jia, Pheng-Ann Heng, Shanghang Zhang

Xuất bản lúc: 2026-03-16

Tag: VLA, Transformers, Vision Foundation Models, Robotic Manipulation, Attention Mechanisms, Pruning, LLMs

I. Main Problem:​

Các mô hình Vision-Language-Action (VLA) phụ thuộc rất nhiều vào việc diễn giải và tích hợp chính xác các quan sát thị giác có điều kiện theo hướng dẫn ngôn ngữ để dự đoán hành động đáng tin cậy. Tuy nhiên, hầu hết các phương pháp hiện có coi xương sống Large Language Model (LLM) là một "hộp đen", hạn chế hiểu biết về cách thông tin thị giác được tích hợp vào quá trình tạo hành động. Phân tích hệ thống cho thấy độ nhạy cảm với các token thị giác giảm dần ở các lớp sâu hơn của mô hình trong quá trình tạo hành động, dẫn đến sự suy yếu trong khả năng định vị thị giác và độ chính xác của thao tác. Ngoài ra, việc tích hợp các bản đồ đặc trưng đầy đủ từ Vision Expert có thể đưa vào thông tin dư thừa và không liên quan, làm loãng các tín hiệu quan trọng của nhiệm vụ.

II. Main Idea:​

Để giải quyết vấn đề suy giảm độ nhạy thị giác ở các lớp sâu, chúng tôi đề xuất DeepVision-VLA, một khung làm việc dựa trên Vision-Language Mixture-of-Transformers (VL-MoT) và Action-Guided Visual Pruning (AGVP).

VL-MoT: Khung này cho phép chia sẻ sự chú ý giữa mô hình nền tảng thị giác (Vision Expert, ví dụ: DINOv3) và xương sống VLA. Nó đưa các đặc trưng thị giác đa cấp từ Vision Expert vào các lớp sâu hơn của xương sống VLA, tăng cường biểu diễn thị giác để thực hiện các thao tác chính xác và phức tạp. Cụ thể, nó sử dụng các lớp sau của Vision Expert (nắm bắt các biểu diễn ngữ nghĩa cấp cao hơn, giàu thông tin hơn) và kết nối chúng với các lớp VLA sâu nhất.

AGVP: Chiến lược này tận dụng sự chú ý của các lớp nông (bản đồ chú ý từ token hành động đến token thị giác) để tính toán bản đồ nổi bật. Bản đồ này xác định các vùng liên quan đến nhiệm vụ, sau đó được sử dụng để cắt tỉa các token thị giác không liên quan (Query, Key, Value) từ các đặc trưng của Vision Expert trước khi tích hợp chúng vào các lớp VLA sâu. Điều này giúp củng cố các tín hiệu thị giác quan trọng cho thao tác với chi phí tính toán tối thiểu, đồng thời cho phép Vision Expert xử lý đầu vào có độ phân giải cao hơn.

DeepVision-VLA được xây dựng trên một nền tảng tùy chỉnh, QwenVLA-OFT, sử dụng xương sống Qwen3-VL và áp dụng giải mã hành động song song.

III. Main Results:​

DeepVision-VLA đạt được hiệu suất vượt trội so với các phương pháp hiện có, vượt qua các phương pháp tiên tiến trước đây 9.0% trong các nhiệm vụ mô phỏng và 7.5% trong các nhiệm vụ thế giới thực.

  • Trong môi trường mô phỏng RLBench, DeepVision-VLA đạt tỷ lệ thành công trung bình 83%, vượt trội đáng kể so với các mô hình như HybridVLA (74%), π0.5 (65%), và CogACT (61%). Nó cũng cải thiện 14% so với nền tảng QwenVLA-OFT (69%).
  • DeepVision-VLA đạt tỷ lệ thành công cao nhất trên 8 trong số 10 nhiệm vụ RLBench, đặc biệt cải thiện lớn trên các nhiệm vụ đòi hỏi thị giác phức tạp như 'Sweep to Dustpan' (tăng 80%) và 'Wine at Rack' (tăng 31%) so với QwenVLA-OFT.
  • Các nghiên cứu ablation xác nhận hiệu quả của kiến trúc VL-MoT (đạt 88% so với 65.5% của baseline) và chiến lược AGVP (hướng dẫn bằng sự chú ý từ hành động đến thị giác đạt 88%).
  • Việc sử dụng 16 lớp cuối cùng của DINOv3 làm Vision Expert hiệu quả nhất (88%), và hướng dẫn cắt tỉa đa lớp (trung bình bản đồ chú ý từ Lớp 4-19) cho thấy tính mạnh mẽ hơn (88%).

IV. Conclusion & Future Works:​

Chúng tôi đã phân tích một cách có hệ thống việc sử dụng thông tin thị giác trong các mô hình VLA hiện tại và xác định hiện tượng xương sống LLM ở các lớp sâu hơn trở nên kém nhạy cảm với các vùng thị giác liên quan đến nhiệm vụ. Để giải quyết vấn đề này, chúng tôi đề xuất Vision-Language Mixture-of-Transformers (VL-MoT), một khung làm việc mới giúp cải thiện khả năng dự đoán hành động bằng cách tiêm các đặc trưng thị giác đa cấp từ Vision Expert vào các lớp VLA sâu.

Ngoài ra, chúng tôi giới thiệu Action-Guided Visual Pruning (AGVP), một chiến lược lọc thông tin thị giác dư thừa từ Vision Expert, cung cấp cho các lớp VLA sâu các tín hiệu thị giác liên quan đến nhiệm vụ. DeepVision-VLA đạt được kết quả SOTA trong cả cài đặt mô phỏng và thế giới thực, chứng minh hiệu quả của khung làm việc của chúng tôi và cung cấp thêm những hiểu biết sâu sắc cho việc thiết kế các mô hình VLA tăng cường thị giác.

Hướng nghiên cứu tương lai bao gồm việc khám phá các chuyên gia thị giác thay thế ngoài DINOv3.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu các Chuyên gia Thị giác (Vision Experts) thay thế cho VLA: Hiện tại DeepVision-VLA sử dụng DINOv3. Một hướng nghiên cứu có thể là so sánh và đánh giá tác động của các mô hình nền tảng thị giác khác (ví dụ: SAM, CLIP, các phiên bản DINO khác, hoặc các mô hình phát hiện đối tượng chuyên biệt) khi được sử dụng làm Vision Expert. Nghiên cứu này sẽ phân tích ảnh hưởng của các chuyên gia thị giác khác nhau đến hiệu suất thao tác, hiệu quả tính toán, và khả năng khái quát hóa của mô hình VLA.
  2. Chiến lược cắt tỉa thị giác thích ứng và tự giám sát: AGVP hiện sử dụng bản đồ chú ý từ các lớp nông để cắt tỉa. Một hướng nghiên cứu mới có thể là phát triển các chiến lược cắt tỉa thị giác động hoặc thích ứng, cho phép mô hình tự điều chỉnh tỷ lệ cắt tỉa hoặc các lớp tham chiếu dựa trên độ phức tạp của nhiệm vụ, mức độ lộn xộn của môi trường, hoặc độ tin cậy của dự đoán theo thời gian thực. Điều này có thể bao gồm việc khám phá các phương pháp tự giám sát để học cách tối ưu hóa việc cắt tỉa.
  3. Phân tích suy giảm tín hiệu đa phương thức trong mô hình VLA: Mở rộng phân tích suy giảm độ nhạy của token thị giác ở các lớp sâu sang các phương thức khác (ví dụ: xúc giác, âm thanh) trong các mô hình VLA đa phương thức. Nghiên cứu này sẽ điều tra xem liệu các mô hình VLA đa phương thức có gặp phải các mẫu suy giảm tương tự cho các loại dữ liệu đầu vào khác hay không và đề xuất các phương pháp để chống lại sự suy giảm này, nhằm đạt được sự tích hợp cảm biến phong phú và hiệu quả hơn.
  4. patent_ideas

2. Patent:​

  1. Hệ thống hướng dẫn tương tác đối tượng thông minh trên điện thoại di động: Một ứng dụng di động sử dụng camera của điện thoại để nhận diện các đối tượng trong môi trường của người dùng. Dựa trên một lệnh thoại (ví dụ: "hướng dẫn tôi mở chai này"), ứng dụng sẽ cung cấp các lớp phủ hình ảnh tăng cường (AR) và hướng dẫn hoạt hình trực tiếp trên màn hình, chỉ ra cách thao tác với đối tượng đó một cách chính xác. Ứng dụng sẽ làm nổi bật các điểm tương tác quan trọng và minh họa các chuyển động cụ thể cần thiết.
  2. Trợ lý lắp ráp thực tế tăng cường (AR) trên điện thoại: Một ứng dụng AR trên điện thoại thông minh hướng dẫn người dùng thực hiện các nhiệm vụ lắp ráp phức tạp (ví dụ: đồ nội thất, thiết bị điện tử). Ứng dụng sẽ sử dụng camera để phát hiện các bộ phận, xác định bước hiện tại, và chiếu các hướng dẫn hình ảnh 3D trực tiếp lên các đối tượng vật lý, làm nổi bật vị trí đặt thành phần tiếp theo hoặc cách thực hiện một hành động cụ thể, tương tự như cách mô hình VLA dự đoán các hành động chính xác.
  3. Trợ lý tiếp cận cá nhân hóa cho người dùng di động: Một ứng dụng di động được thiết kế để hỗ trợ những người có hạn chế về sự khéo léo hoặc thị lực trong các công việc hàng ngày. Sử dụng camera của điện thoại, ứng dụng có thể nhận diện các vật dụng gia đình (ví dụ: mở hộp đựng, nhặt một vật nhỏ) và cung cấp phản hồi xúc giác, tín hiệu âm thanh hoặc hướng dẫn hình ảnh đơn giản để điều hướng chuyển động tay của người dùng đến các điểm tương tác chính xác, nâng cao khả năng thực hiện các hành động cơ học tinh vi của họ.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.15618
ArXiv Abstracthttps://arxiv.org/abs/2603.15618
PDF Downloadhttps://arxiv.org/pdf/2603.15618.pdf
Github RepositoryN/A

9. Temporal Gains, Spatial Costs: Revisiting Video Fine-Tuning in Multimodal Large Language Models (16 votes)​

Tác giả: Linghao Zhang, Jungang Li, Yonghua Hei, Sicheng Tao, Song Dai, Yibo Yan, Zihao Dongfang, Weiting Liu, Chenxi Qin, Hanqian Li, Xin Zou, Jiahao Zhang, Shuhang Xun, Haiyun Jiang, Xuming Hu

Xuất bản lúc: 2026-03-18

Tag: MLLMs, Video-SFT, Multimodal Learning, Vision-Language Models, Fine-tuning, Temporal Modeling, Spatial Reasoning

I. Main Problem:​

Các mô hình ngôn ngữ lớn đa phương thức (MLLMs) thường sử dụng bước tinh chỉnh có giám sát dựa trên video (Video-SFT) để cải thiện khả năng hiểu thị giác. Tuy nhiên, ảnh hưởng của Video-SFT đến sự phát triển chi tiết của các khả năng thị giác, đặc biệt là sự cân bằng giữa khả năng hiểu không gian (ảnh tĩnh) và thời gian (video), vẫn chưa được hiểu rõ. Nghiên cứu này chỉ ra rằng Video-SFT cải thiện hiệu suất video nhưng thường mang lại lợi ích hạn chế hoặc thậm chí làm suy giảm hiệu suất trên các bộ dữ liệu ảnh tĩnh, một hiện tượng được gọi là "cạm bẫy thời gian" (temporal trap).

II. Main Idea:​

Nghiên cứu này tiến hành một phân tích có hệ thống về cách Video-SFT định hình lại các khả năng thị giác trong MLLMs trên các kiến trúc, quy mô tham số và cài đặt lấy mẫu khung hình. Các tác giả phát hiện ra "cạm bẫy thời gian" và cho thấy rằng sự đánh đổi giữa hiệu suất ảnh và video này có liên quan chặt chẽ đến ngân sách thời gian (số lượng khung hình được lấy mẫu). Để giải quyết vấn đề này, nhóm đề xuất một chiến lược Hybrid-Frame nhận biết hướng dẫn, tự động phân bổ số lượng khung hình một cách thích ứng và có thể giảm thiểu một phần sự đánh đổi này. Một phân tích lý thuyết cũng được cung cấp để giải thích tại sao các cập nhật hướng video có thể can thiệp vào các mục tiêu hình ảnh trong quá trình tối ưu hóa tham số chia sẻ.

III. Main Results:​

  • Cạm bẫy thời gian: Video-SFT cải thiện hiệu suất video một cách đáng tin cậy nhưng thường mang lại lợi ích hạn chế hoặc thậm chí làm suy giảm hiệu suất trên các bộ dữ liệu ảnh tĩnh, xuyên suốt các kiến trúc (Qwen2.5-VL, LLaVA-Next-Video, LLaVA-1.5), quy mô tham số và cài đặt lấy mẫu khung hình.
  • Ảnh hưởng của quy mô mô hình: Quy mô mô hình lớn hơn (ví dụ: 72B tham số) có thể giảm thiểu một phần tác động tiêu cực của Video-SFT lên khả năng hiểu ảnh, duy trì sự tập trung cục bộ hơn vào đối tượng mục tiêu.
  • Ảnh hưởng của số lượng khung hình: Tăng số lượng khung hình huấn luyện cải thiện hiệu suất video nhưng lợi ích dần bão hòa. Đối với các bộ dữ liệu ảnh, hiệu suất thường không nhất quán, thậm chí suy giảm, cho thấy thông tin thời gian dư thừa có thể làm gián đoạn các biểu diễn thị giác tĩnh.
  • Chiến lược Hybrid-Frame: Chiến lược Hybrid-Frame nhận biết hướng dẫn, đặc biệt là các bộ dự đoán dựa trên VLM (Qwen2.5-VL-3B và Qwen3-VL-8B), có thể giảm thiểu một phần sự đánh đổi giữa ảnh và video. Chiến lược này cải thiện hiệu suất ảnh (ví dụ: trên MMStar và POPE) trong khi vẫn duy trì hiệu suất video mạnh mẽ và giảm chi phí huấn luyện không cần thiết. Hiệu quả của nó đã được chứng minh trên các kiến trúc khác nhau (Qwen2.5-VL-7B và LLaVA-1.5-7B).

IV. Conclusion & Future Works:​

Nghiên cứu kết luận rằng Video-SFT cải thiện khả năng hiểu thời gian nhưng thường làm suy yếu khả năng không gian, cho thấy các quy trình huấn luyện thống nhất hiện tại chưa đạt được sự cộng hưởng thực sự giữa ảnh và video. Sự đánh đổi này liên quan chặt chẽ đến ngân sách thời gian, và việc phân bổ khung hình thích ứng có thể giảm thiểu nó. Bảo toàn khả năng không gian dưới Video-SFT vẫn là một thách thức lớn trong huấn luyện ảnh-video chung. Hướng nghiên cứu trong tương lai bao gồm việc mở rộng nghiên cứu sang các kiến trúc và sơ đồ huấn luyện khác (ví dụ: huấn luyện trực tuyến/streaming), cũng như phát triển các chiến lược Hybrid-Frame có nguyên tắc hơn (ít heuristic hơn).

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu sâu hơn về "cạm bẫy thời gian" trong các phương pháp huấn luyện mô hình ngôn ngữ lớn đa phương thức (MLLMs) trực tuyến hoặc streaming, bao gồm việc phát triển các mô hình và phân tích mới cho các kịch bản đầu vào liên tục.
  2. Phát triển các chiến lược phân bổ khung hình thích ứng có nguyên tắc hơn, không dựa trên heuristic, có khả năng tích hợp phản hồi theo thời gian thực để tối ưu hóa cân bằng giữa hiểu không gian và thời gian trong MLLMs.
  3. Khám phá các thiết kế kiến trúc hoặc mục tiêu huấn luyện mới cho MLLMs nhằm đạt được sự cộng hưởng ảnh-video bẩm sinh, giải quyết triệt để vấn đề suy giảm khả năng không gian trong quá trình tinh chỉnh video.

2. Patent:​

  1. Hệ thống tạo tóm tắt video thông minh cho điện thoại di động: Một ứng dụng trên điện thoại di động sử dụng công nghệ phân bổ khung hình thích ứng để tự động tạo tóm tắt hoặc điểm nổi bật của video. Hệ thống sẽ phân tích nội dung video, sử dụng nhiều khung hình hơn cho các đoạn có hành động nhanh và ít khung hình hơn cho các cảnh tĩnh, giúp người dùng nhanh chóng nắm bắt nội dung chính mà không làm mất đi các chi tiết quan trọng, đồng thời tiết kiệm pin và dung lượng lưu trữ.
  2. Cải thiện chất lượng ảnh và video đa năng trên điện thoại: Một tính năng camera trên điện thoại di động tự động điều chỉnh các thuật toán xử lý hình ảnh và video. Khi chụp ảnh tĩnh, nó tập trung vào việc tăng cường chi tiết không gian. Khi quay video, nó sẽ cân bằng giữa độ mượt mà của chuyển động và độ sắc nét của hình ảnh bằng cách điều chỉnh số lượng khung hình được xử lý, đảm bảo cả ảnh và video đều có chất lượng tốt nhất mà không làm giảm khả năng xử lý hình ảnh tĩnh.
  3. Trợ lý ảo đa phương thức nhận biết ngữ cảnh: Một trợ lý AI trên điện thoại di động được trang bị khả năng xử lý thị giác sử dụng chiến lược Hybrid-Frame. Khi người dùng đặt câu hỏi liên quan đến một vật thể trong ảnh, trợ lý sẽ ưu tiên phân tích chi tiết không gian. Nếu câu hỏi liên quan đến một hành động trong video, nó sẽ tự động lấy mẫu các khung hình cần thiết để tập trung vào sự kiện thời gian, cung cấp câu trả lời chính xác và nhanh chóng hơn, đồng thời tối ưu hóa hiệu suất thiết bị.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.17541
ArXiv Abstracthttps://arxiv.org/abs/2603.17541
PDF Downloadhttps://arxiv.org/pdf/2603.17541.pdf
Github RepositoryN/A

10. BenchPreS: A Benchmark for Context-Aware Personalized Preference Selectivity of Persistent-Memory LLMs (15 votes)​

Tác giả: Sangyeon Yoon, Sunkyoung Kim, Hyesoo Hong, Wonje Jeung, Yongil Kim, Wooseok Seo, Heuiyeen Yeen, Albert No

Xuất bản lúc: 2026-03-17

Tag: LLMs, Personalization, Benchmarking, Context-awareness, Persistent Memory, Preference Learning

I. Main Problem:​

Các mô hình ngôn ngữ lớn (LLMs) ngày càng lưu trữ sở thích người dùng trong bộ nhớ bền vững để cá nhân hóa tương tác. Tuy nhiên, trong các tình huống giao tiếp với bên thứ ba chịu ảnh hưởng bởi các chuẩn mực xã hội và thể chế, một số sở thích người dùng có thể không phù hợp để áp dụng. Vấn đề chính là liệu LLMs có thể áp dụng hoặc loại bỏ các sở thích dựa trên bộ nhớ một cách thích hợp tùy theo ngữ cảnh giao tiếp hay không. Các LLMs hiện tại có xu hướng coi sở thích cá nhân là các quy tắc phải tuân thủ toàn cầu thay vì các tín hiệu phụ thuộc vào ngữ cảnh.

II. Main Idea:​

Các tác giả giới thiệu BenchPreS, một bộ benchmark để đánh giá khả năng lựa chọn sở thích có nhận biết ngữ cảnh của các LLMs có bộ nhớ bền vững. BenchPreS sử dụng hai chỉ số bổ trợ: Tỷ lệ áp dụng sai (Misapplication Rate - MR) và Tỷ lệ áp dụng phù hợp (Appropriate Application Rate - AAR). Benchmark được xây dựng dựa trên các cặp "người nhận – nhiệm vụ" (context) và "hồ sơ người dùng" (user profile), với nhãn vàng được chú thích bởi người và đánh giá bằng mô hình LLM-as-Judge. Các tác giả cũng phân tích ảnh hưởng của khả năng suy luận và các biện pháp phòng vệ dựa trên prompt.

III. Main Results:​

Ngay cả các LLMs hàng đầu cũng gặp khó khăn trong việc áp dụng sở thích một cách nhạy cảm với ngữ cảnh. Các mô hình tuân thủ sở thích mạnh hơn thường có tỷ lệ áp dụng quá mức cao hơn (MR cao). Không có mô hình nào đạt được điểm lý tưởng (MR thấp và AAR cao), cho thấy khả năng chọn lọc hạn chế. GPT-5.2 đạt độ tách biệt AAR - MR lớn nhất (46.38%) nhưng MR vẫn đáng kể (40.95%). Khả năng suy luận hoặc các biện pháp phòng vệ dựa trên prompt không giải quyết triệt để vấn đề: khả năng suy luận làm tăng cả AAR và MR, trong khi prompt-based defenses giảm MR nhưng làm giảm nhẹ AAR và không loại bỏ hoàn toàn việc áp dụng sai. Thách thức về tính chọn lọc này tồn tại trên nhiều lĩnh vực giao tiếp khác nhau. Các sở thích về "markers" (ví dụ: emoji) và "nickname" có MR cao nhất quán, cho thấy khó khăn trong việc loại bỏ các sở thích bề mặt. Việc có sở thích trong bộ nhớ ảnh hưởng khác nhau đến mức độ hoàn thành nhiệm vụ, và việc hoàn thành nhiệm vụ không nhất thiết đồng nghĩa với việc loại bỏ mạnh mẽ các sở thích không phù hợp.

IV. Conclusion & Future Works:​

BenchPreS cho thấy các LLMs tiên tiến nhất cũng gặp khó khăn trong việc điều chỉnh cá nhân hóa một cách nhạy cảm với ngữ cảnh, thường coi sở thích là các chỉ dẫn áp dụng rộng rãi thay vì tín hiệu phụ thuộc vào ngữ cảnh. Các hướng nghiên cứu trong tương lai bao gồm: tìm kiếm các tín hiệu huấn luyện cấu trúc hơn, đặc biệt là kết hợp các mẫu suy luận nhận biết ngữ cảnh vào dữ liệu hậu huấn luyện để mô hình có thể đánh giá và loại trừ các sở thích không phù hợp trước khi tạo phản hồi. Mở rộng benchmark sang các cài đặt giao tiếp không chính thức hoặc tinh tế về mặt xã hội cũng là một hướng đi.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển các phương pháp huấn luyện cấu trúc mới cho LLMs để học khả năng chọn lọc sở thích dựa trên ngữ cảnh một cách tự nhiên: Nghiên cứu các kiến trúc mô hình và quy trình huấn luyện cho phép LLMs nội tại hóa việc phân biệt giữa sở thích phù hợp và không phù hợp với ngữ cảnh, vượt ra ngoài các kỹ thuật dựa trên prompt hay suy luận hiện có.
  2. Đánh giá tác động của các kiến trúc bộ nhớ bền vững khác nhau đối với khả năng chọn lọc sở thích: Khám phá cách các phương pháp lưu trữ và truy xuất bộ nhớ người dùng (ví dụ: truy xuất có chọn lọc so với đưa toàn bộ vào đầu vào) ảnh hưởng đến khả năng của LLMs trong việc điều chỉnh sở thích theo ngữ cảnh và đề xuất các thiết kế bộ nhớ tối ưu.
  3. Xây dựng một benchmark mở rộng cho khả năng chọn lọc sở thích trong giao tiếp không chính thức và đa văn hóa: Phát triển một bộ dữ liệu và các chỉ số mới để đánh giá khả năng của LLMs trong việc xử lý các sở thích người dùng trong các tình huống giao tiếp đời thường, phức tạp về mặt xã hội hoặc văn hóa, nơi tính phù hợp có thể chủ quan hơn và yêu cầu sự hiểu biết sâu sắc hơn về chuẩn mực.

2. Patent:​

  1. Hệ thống điều chỉnh giọng điệu và phong cách tin nhắn tự động trên điện thoại: Một tính năng trên ứng dụng nhắn tin hoặc email di động sẽ tự động phân tích người nhận và mục đích của tin nhắn. Dựa trên phân tích này và các sở thích cá nhân đã lưu của người dùng (như thích dùng biểu tượng cảm xúc, viết tắt, hoặc giọng điệu hài hước), hệ thống sẽ gợi ý hoặc tự động điều chỉnh văn phong cho phù hợp. Ví dụ, khi gửi thư cho đối tác kinh doanh, nó sẽ loại bỏ các biểu tượng cảm xúc và chuyển sang giọng điệu trang trọng, trong khi vẫn giữ các sở thích đó khi nhắn tin cho bạn bè.
  2. Trợ lý ảo cá nhân hóa có khả năng thích ứng xã hội cho điện thoại thông minh: Một trợ lý ảo tích hợp trong điện thoại có thể ghi nhớ sở thích cá nhân của người dùng (ví dụ: thích được gọi bằng biệt danh, thích nghe câu đùa) nhưng sẽ chỉ áp dụng chúng khi ngữ cảnh cho phép. Ví dụ, nếu người dùng yêu cầu trợ lý giúp soạn tin nhắn khẩn cấp, trợ lý sẽ giữ thái độ nghiêm túc. Nhưng nếu người dùng yêu cầu trợ lý kể một câu chuyện vui, nó sẽ sử dụng biệt danh và giọng điệu hài hước đã học từ người dùng.
  3. Công cụ soạn thảo thông minh với tính năng kiểm soát sở thích theo ngữ cảnh: Một tính năng trong các ứng dụng soạn thảo văn bản hoặc email trên điện thoại di động giúp người dùng duy trì phong cách cá nhân nhưng đồng thời đảm bảo tính chuyên nghiệp. Nó sẽ học các thói quen viết của người dùng (ví dụ: thường xuyên in đậm, dùng dấu chấm than) và khi người dùng đang soạn một tài liệu quan trọng (ví dụ: đơn xin việc, báo cáo), nó sẽ cảnh báo hoặc gợi ý loại bỏ các thói quen đó nếu chúng không phù hợp với ngữ cảnh trang trọng, giúp người dùng tạo ra văn bản chuyên nghiệp hơn mà không cần tự điều chỉnh thủ công.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.16557
ArXiv Abstracthttps://arxiv.org/abs/2603.16557
PDF Downloadhttps://arxiv.org/pdf/2603.16557.pdf
Github RepositoryN/A

11. LoST: Level of Semantics Tokenization for 3D Shapes (14 votes)​

Tác giả: Niladri Shekhar Dutt, Zifan Shi, Paul Guerrero, Chun-Hao Paul Huang, Duygu Ceylan, Niloy J. Mitra, Xuelin Chen

Xuất bản lúc: 2026-03-18

Tag: 3D Generation, Tokenization, Autoregressive Models, Semantic Alignment, Diffusion Models, Vision Transformers, GPT

I. Main Problem:​

Các phương pháp mã hóa token (tokenization) hình dạng 3D hiện tại, đặc biệt là các phương pháp dựa trên cấp độ chi tiết hình học (geometric Level-of-Detail - LoD), không hiệu quả về token và thiếu tính nhất quán ngữ nghĩa cho mô hình autoregressive (AR). Chúng gặp phải vấn đề 'token bloat' (quá nhiều token ở cấp độ thô) và 'unusable early decoding' (các bản giải mã ban đầu không thể sử dụng được vì quá thô), làm hạn chế hiệu quả của việc tạo và phân tích 3D.

II. Main Idea:​

Đề xuất Level-of-Semantics Tokenization (LoST), một phương pháp mã hóa token sắp xếp các token theo tầm quan trọng ngữ nghĩa. LoST cho phép các tiền tố (prefixes) ngắn giải mã thành các hình dạng hoàn chỉnh, hợp lý, nắm bắt được ngữ nghĩa chính, trong khi các token tiếp theo tinh chỉnh các chi tiết hình học và ngữ nghĩa cụ thể của từng đối tượng. Để đào tạo LoST, nhóm nghiên cứu giới thiệu Relational Inter-Distance Alignment (RIDA), một hàm mất mát căn chỉnh ngữ nghĩa 3D mới, căn chỉnh cấu trúc quan hệ của không gian ẩn hình dạng 3D với không gian đặc trưng ngữ nghĩa DINO. LoST sử dụng bộ mã hóa dựa trên ViT với các 'register tokens', 'nested token dropout' và 'causal masking' để tạo ra thứ tự ngữ nghĩa phân cấp. Bộ giải mã Diffusion-Transformer (DiT) tạo sinh tái tạo toàn bộ không gian ẩn 3D từ bất kỳ tiền tố nào, và một Transformer kiểu GPT (LoST-GPT) được sử dụng để tạo sinh autoregressive trong không gian liên tục.

III. Main Results:​

LoST đạt được hiệu suất tái tạo vượt trội (SOTA), vượt qua các bộ mã hóa token hình dạng 3D dựa trên LoD trước đây với biên độ lớn trên cả hai chỉ số tái tạo hình học (Chamfer Distance) và ngữ nghĩa (FID, DINO similarity). LoST đạt được hiệu suất này trong khi sử dụng số lượng token ít hơn đáng kể (chỉ 0,1%–10% số token cần thiết so với các mô hình AR trước đây, ví dụ: 128 token so với khoảng 50.000 token của OctGPT cho việc tạo sinh AR). LoST cũng cho phép tạo sinh 3D AR hiệu quả, chất lượng cao và các tác vụ hạ nguồn như truy xuất hình dạng ngữ nghĩa. Các kết quả định lượng (Bảng 1 & 2) và định tính (Hình 1, 3, 4, 6) chứng minh rằng các tiền tố ban đầu của LoST đã giải mã ra các hình dạng hợp lý về mặt ngữ nghĩa, điều mà các phương pháp LoD không làm được.

IV. Conclusion & Future Works:​

LoST giải quyết vấn đề mã hóa token cho tạo sinh 3D AR bằng cách sắp xếp các token theo tầm quan trọng ngữ nghĩa, cho phép giải mã các hình dạng hoàn chỉnh, hợp lý từ các tiền tố ngắn. RIDA là một hàm mất mát ngữ nghĩa 3D mới giúp kết nối các không gian ẩn triplane với không gian ngữ nghĩa hình ảnh (DINO) mà không cần quá trình giải mã và kết xuất tốn kém về mặt tính toán. Các hướng phát triển trong tương lai bao gồm mở rộng LoST để hỗ trợ các biểu diễn 3D khác (ví dụ: Gaussian Splats), giảm yêu cầu tính toán của bộ giải mã khuếch tán, tăng cường các token ban đầu bằng các bộ điều hòa nhận biết cấu trúc liên kết và các ràng buộc nhất quán về các phần, cũng như thêm token EOS và cơ chế dừng nhận biết độ phức tạp cho việc tạo sinh AR có độ dài thay đổi.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng LoST cho các Biểu diễn 3D đa dạng: Nghiên cứu phát triển LoST để hỗ trợ các biểu diễn 3D mới nổi như Gaussian Splats hoặc các lưới không đồng nhất, khám phá cách tích hợp RIDA và phương pháp mã hóa token ngữ nghĩa vào các cấu trúc dữ liệu 3D khác ngoài triplane, nhằm nâng cao khả năng ứng dụng của LoST.
  2. Giảm chi phí tính toán của Bộ giải mã LoST: Tập trung vào việc thay thế hoặc tối ưu hóa bộ giải mã khuếch tán hiện tại để giảm yêu cầu tính toán, đồng thời duy trì chất lượng tái tạo và khả năng tạo sinh. Có thể nghiên cứu các phương pháp giải mã AR thuần túy hoặc các mô hình tạo sinh khác hiệu quả hơn cho các token liên tục của LoST.
  3. Nâng cao chất lượng token tiền tố sớm và tạo sinh AR linh hoạt: Phát triển các bộ điều hòa nhận biết cấu trúc liên kết và các ràng buộc nhất quán về các phần để tăng cường chất lượng và độ tin cậy của các hình dạng được giải mã từ các token tiền tố sớm. Đồng thời, nghiên cứu tích hợp token EOS và cơ chế dừng nhận biết độ phức tạp để cho phép tạo sinh AR có độ dài biến đổi, tối ưu hóa hiệu quả cho các hình dạng có độ phức tạp khác nhau.

2. Patent:​

  1. Hệ thống tìm kiếm và xem trước vật thể 3D thông minh trên điện thoại di động: Một ứng dụng di động cho phép người dùng tìm kiếm vật thể 3D bằng cách nhập mô tả bằng văn bản hoặc hình ảnh. Thay vì tải toàn bộ mô hình, hệ thống sẽ hiển thị ngay một phiên bản 3D có độ chi tiết thấp nhưng vẫn đầy đủ về mặt ngữ nghĩa (ví dụ: hình dạng cơ bản của một chiếc ghế). Khi người dùng cuộn, phóng to hoặc tương tác, các chi tiết hình học và ngữ nghĩa phức tạp hơn sẽ được tải dần, giúp trải nghiệm duyệt nhanh chóng và tiết kiệm dữ liệu trên điện thoại.
  2. Công cụ tạo vật thể ảo 3D tức thì trên thiết bị di động: Một ứng dụng di động cho phép người dùng nhanh chóng tạo ra các vật thể 3D (ví dụ: đồ nội thất, nhân vật ảo) từ các gợi ý đơn giản (ví dụ: "một chiếc bàn gỗ đơn giản"). Hệ thống sẽ ngay lập tức hiển thị một bản phác thảo 3D cơ bản và có ý nghĩa. Người dùng có thể tiếp tục thêm các chi tiết cụ thể (ví dụ: "thêm ngăn kéo", "chân cong") để tinh chỉnh mô hình, với phản hồi trực quan được cập nhật ngay lập tức trên màn hình điện thoại. Điều này giúp tạo mẫu nhanh chóng mà không cần kỹ năng chuyên môn về 3D.
  3. Hệ thống phát trực tuyến vật thể 3D tối ưu cho thực tế tăng cường (AR) trên điện thoại: Một công nghệ cho phép các ứng dụng AR trên điện thoại di động hiển thị các vật thể 3D trong môi trường thực tế với hiệu suất cao. Thay vì tải toàn bộ mô hình nặng, hệ thống sẽ phát trực tuyến dữ liệu 3D theo cấp độ ngữ nghĩa. Các phần quan trọng hoặc gần với tầm nhìn của người dùng sẽ được hiển thị với độ chi tiết cao hơn trước, trong khi các phần ít quan trọng hoặc ở xa sẽ được hiển thị với độ chi tiết thấp hơn, giảm tải cho bộ xử lý và băng thông mạng của điện thoại, mang lại trải nghiệm AR mượt mà hơn.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.17995
ArXiv Abstracthttps://arxiv.org/abs/2603.17995
PDF Downloadhttps://arxiv.org/pdf/2603.17995.pdf
Github Repositoryhttps://github.com/niladridutt/LoST

12. ESPIRE: A Diagnostic Benchmark for Embodied Spatial Reasoning of Vision-Language Models (12 votes)​

Tác giả: Yanpeng Zhao, Wentao Ding, Hongtao Li, Baoxiong Jia, Zilong Zheng

Xuất bản lúc: 2026-03-13

Tag: VLMs, Embodied AI, Spatial Reasoning, Benchmarking, Robotics, Generative Models

I. Main Problem:​

Các mô hình thị giác-ngôn ngữ (VLMs) hiện tại còn hạn chế trong khả năng nhận thức không gian, đặc biệt là trong các miền thực thể như điều hướng và thao tác robot. Các phương pháp đánh giá hiện có bị giới hạn về mô hình và phạm vi, chủ yếu là các câu hỏi-đáp trực quan (VQA) tĩnh, dễ bị sai lệch và không phản ánh các tình huống thực tế yêu cầu hành động chủ động trong không gian 3D. Các đánh giá trong thế giới thực thiếu khả năng mở rộng và tái tạo, trong khi các phương pháp tạo điểm chỉ tập trung vào định vị mà bỏ qua hoặc đơn giản hóa quá mức giai đoạn thực thi.

II. Main Idea:​

Đề xuất ESPIRE, một bộ tiêu chuẩn chẩn đoán cho suy luận không gian thực thể, sử dụng một thế giới mô phỏng để đánh giá các VLM trên các tác vụ robot tập trung vào suy luận không gian. ESPIRE phân tách mỗi tác vụ thành định vị (localization) và thực thi (execution), sau đó định hình cả hai thành các bài toán tạo sinh (generative problems) để tạo vị trí và tư thế mục tiêu. Điều này cho phép phân tích chi tiết hơn về khả năng suy luận để hành động. Bộ tiêu chuẩn được thiết kế một cách có hệ thống ở cả cấp độ hướng dẫn (bao gồm các khía cạnh không gian, đối tượng tham chiếu và khung tham chiếu) và cấp độ môi trường (sử dụng Isaac Sim với mô phỏng vật lý thực tế và môi trường đa dạng).

III. Main Results:​

Các VLM hoạt động tốt hơn đáng kể trong giai đoạn định vị so với thực thi, cho thấy khả năng hiểu không gian thụ động tốt nhưng hạn chế trong suy luận không gian định hướng hành động. Suy luận về định hướng là thách thức lớn nhất ở cả hai giai đoạn, chỉ ra sự thiếu hụt nghiêm trọng trong việc hiểu hình học quay 3D. Các mô hình độc quyền như Gemini2.5-Pro thường đạt hiệu suất mạnh nhất, nhưng các VLM công khai như Qwen3-VL đang thu hẹp khoảng cách. Các mô hình lớn hơn không nhất thiết mang lại hiệu suất tốt hơn (ví dụ: Qwen3-VL-30B-A3B vượt trội hơn các phiên bản lớn hơn). Các tác vụ 'place' khó hơn 'pick'. Phản hồi (reflection) hữu ích cho định vị nhưng lại làm giảm hiệu suất thực thi. Các mô hình thể hiện kém nhất trong suy luận 'khoảng cách'.

IV. Conclusion & Future Works:​

ESPIRE đóng vai trò là một bộ tiêu chuẩn chẩn đoán có khả năng mở rộng và tái tạo, bổ sung cho đánh giá trong thế giới thực, giúp phát triển mô hình lặp lại nhanh chóng. Các phát hiện cho thấy những hạn chế đáng kể của VLM trong việc hiểu hình học quay 3D. Hướng nghiên cứu trong tương lai bao gồm việc xây dựng dữ liệu suy luận quay để tinh chỉnh mô hình, cũng như mở rộng ESPIRE bằng cách tăng số lượng các bước suy luận không gian trong các tác vụ.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nâng cao khả năng suy luận hình học quay 3D của các mô hình thị giác-ngôn ngữ thông qua học tập được giám sát một cách có hệ thống.
  2. Khám phá các phương pháp tạo sinh tư thế mục tiêu dựa trên ngữ cảnh cho robot thực thể để cải thiện hiệu suất thực thi trong môi trường phức tạp.
  3. Thiết kế các kiến trúc VLM thống nhất, tích hợp sâu khả năng hiểu không gian và lập kế hoạch hành động để thu hẹp khoảng cách giữa hiểu biết thụ động và hành động chủ động.

2. Patent:​

  1. Hệ thống Hướng dẫn Sắp xếp Vật thể thông minh trên điện thoại: Một ứng dụng di động sử dụng camera của điện thoại và công nghệ thực tế tăng cường (AR) để phân tích môi trường xung quanh (ví dụ: kệ sách, bàn làm việc). Ứng dụng sẽ hướng dẫn người dùng đặt các vật thể vào vị trí tối ưu dựa trên các chỉ dẫn không gian tự nhiên (ví dụ: "đặt cuốn sách này cạnh cái đèn", "để chìa khóa vào ngăn kéo trên cùng"). Hệ thống sẽ xác định vị trí mục tiêu và cung cấp chỉ dẫn trực quan theo thời gian thực để người dùng thực hiện hành động.
  2. Ứng dụng Hỗ trợ Điều hướng và Tương tác Vật lý cho Người khiếm thị: Một ứng dụng di động sử dụng camera và cảm biến của điện thoại để tạo ra mô tả không gian chi tiết về môi trường xung quanh. Ứng dụng có thể nhận diện các vật thể và mối quan hệ không gian giữa chúng, sau đó chuyển đổi thành hướng dẫn bằng giọng nói hoặc phản hồi xúc giác cho người dùng khiếm thị để họ có thể điều hướng, tìm kiếm hoặc tương tác với các vật thể trong không gian vật lý (ví dụ: "cốc nước ở bên phải điện thoại của bạn", "tay nắm cửa ở phía trước bạn, cao ngang ngực").
  3. Chức năng Tự động Sắp xếp Ảnh và Video dựa trên ngữ cảnh không gian: Một tính năng trong ứng dụng thư viện ảnh/video trên điện thoại thông minh, tự động gắn thẻ và sắp xếp nội dung dựa trên thông tin không gian được trích xuất từ hình ảnh. Ví dụ, nó có thể nhóm các bức ảnh chụp "bên cạnh cửa sổ", "trên bàn làm việc" hoặc "dưới cây", giúp người dùng dễ dàng tìm kiếm và quản lý bộ sưu tập ảnh của mình bằng các truy vấn không gian.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.13033
ArXiv Abstracthttps://arxiv.org/abs/2603.13033
PDF Downloadhttps://arxiv.org/pdf/2603.13033.pdf
Github Repositoryhttps://github.com/spatigen/espire

13. Conservative Offline Robot Policy Learning via Posterior-Transition Reweighting (10 votes)​

Tác giả: Wanpeng Zhang, Hao Luo, Sipeng Zheng, Yicheng Feng, Haiweng Xu, Ziheng Xi, Chaoyi Xu, Haoqi Yuan, Zongqing Lu

Xuất bản lúc: 2026-03-17

Tag: Robot Learning, Offline RL, Vision-Language Models, Data Reweighting, Imitation Learning, Representation Learning

I. Main Problem:​

Dữ liệu robot ngoại tuyến thường không đồng nhất, bao gồm các loại robot, cài đặt camera và chất lượng biểu diễn khác nhau (ví dụ: hành vi phục hồi, kỹ năng vận hành không nhất quán, hoặc giám sát ít thông tin). Việc huấn luyện hậu kỳ tiêu chuẩn (uniform post-training) gán trọng số bằng nhau cho tất cả các mẫu, dẫn đến việc trung bình hóa dữ liệu mâu thuẫn hoặc kém chất lượng, gây ra chuyển giao tiêu cực (negative transfer) và hạn chế hiệu suất.

II. Main Idea:​

Posterior-Transition Reweighting (PTR) là một phương pháp huấn luyện hậu kỳ không dùng phần thưởng và mang tính bảo thủ, nhằm điều chỉnh mức độ ảnh hưởng của mỗi mẫu huấn luyện đến quá trình cập nhật giám sát. Phương pháp này mã hóa hậu quả của hành động (post-action consequence) thành một mục tiêu tiềm ẩn, đặt nó vào một nhóm các mục tiêu không khớp, và sử dụng một bộ tính điểm chuyển đổi riêng biệt để ước tính xác suất hậu nghiệm nhận dạng (identification posterior) trên các chỉ số mục tiêu. Tỷ lệ giữa xác suất hậu nghiệm này với phân phối đồng nhất định nghĩa điểm PTR, sau đó được chuyển đổi thành trọng số đã cắt xén và pha trộn (clipped-and-mixed weight) và áp dụng vào mục tiêu hành động ban đầu thông qua hồi quy có trọng số tự chuẩn hóa. PTR sử dụng hậu quả sau hành động làm tín hiệu không dùng phần thưởng để đánh giá chất lượng mẫu, tăng trọng số cho các mẫu chất lượng cao và giảm trọng số cho các mẫu mơ hồ hoặc kém tối ưu. Phương pháp này không yêu cầu khả năng ước tính xác suất chính sách và tương thích với các kiến trúc đầu hành động dựa trên diffusion và flow-matching.

III. Main Results:​

  • Phát triển một cơ chế chấm điểm mẫu không dùng phần thưởng, chuyển đổi hậu quả sau hành động thành xác suất hậu nghiệm nhận dạng, giúp đo lường mức độ đóng góp của từng đoạn dữ liệu.
  • Đề xuất một ánh xạ trọng số bảo thủ giới hạn sự dịch chuyển phân phối dữ liệu huấn luyện, với các đảm bảo lý thuyết liên kết điểm số với độ phân kỳ KL và trọng số với tỷ lệ mật độ giới hạn (ví dụ: KL(q∥pD) ≤log 16 ≈2.77 nats với các tham số mặc định).
  • Xác nhận hiệu quả thực nghiệm của PTR trên các tiêu chuẩn mô phỏng và 12 tác vụ robot thực tế trên ba loại robot khác nhau, cho thấy khả năng cải thiện hiệu suất tổng thể. PTR nâng cao mức sàn hiệu suất bằng cách loại bỏ sự giám sát kém tối ưu và mâu thuẫn, đồng thời nâng cao mức trần bằng cách tận dụng chọn lọc dữ liệu từ nhiều loại robot khi hậu quả sau hành động phù hợp.

IV. Conclusion & Future Works:​

PTR cung cấp một phương pháp hiệu quả và bảo thủ để thích ứng chính sách robot ngoại tuyến với dữ liệu không đồng nhất bằng cách phân bổ lại trọng số cho các mẫu huấn luyện dựa trên khả năng quy kết của hậu quả sau hành động. Phương pháp này giúp nâng cao hiệu suất bằng cách loại bỏ sự giám sát kém chất lượng và tận dụng chọn lọc dữ liệu từ các nguồn khác nhau. Sự bảo thủ của PTR đảm bảo rằng phân phối huấn luyện không bị lệch quá xa so với dữ liệu gốc.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Dynamic Adaptive Reweighting for Heterogeneous Robot Data: Nghiên cứu sâu hơn về các cơ chế điều khiển thích ứng động cho các tham số chấm điểm (ví dụ: nhiệt độ τscore, hệ số β, tỷ lệ âm khó) để tối ưu hóa việc học trên các bộ dữ liệu robot đa dạng và không đồng nhất. Điều này có thể bao gồm việc sử dụng học tăng cường để điều chỉnh các tham số này một cách tự động.
  2. Advanced Latent Consequence Representation Learning: Khám phá các phương pháp tiên tiến hơn để học không gian mục tiêu tiềm ẩn cho hậu quả sau hành động, vượt ra ngoài việc sử dụng EMA của các tính năng tháp thị giác. Điều này có thể bao gồm các kiến trúc mạng nơ-ron phức tạp hơn hoặc các phương pháp học tương phản tự giám sát để nắm bắt các hậu quả ngữ nghĩa phong phú hơn và cải thiện khả năng phân biệt.
  3. Hybrid Reward-Free and Reward-Based Offline Policy Optimization: Phát triển các khung làm việc kết hợp cơ chế gán trọng số không dùng phần thưởng của PTR với các phương pháp học tăng cường ngoại tuyến dựa trên phần thưởng. Mục tiêu là tận dụng cả tín hiệu chất lượng mẫu tự giám sát của PTR và tín hiệu tối ưu hóa phần thưởng để đạt được sự cải thiện chính sách robot mạnh mẽ hơn và hiệu quả hơn.

2. Patent:​

  1. Cải thiện chất lượng ảnh/video tự động trên điện thoại di động: Một ứng dụng trên điện thoại di động sử dụng AI để phân tích ngay lập tức dữ liệu sau khi chụp ảnh hoặc quay video (ví dụ: độ sắc nét, độ ổn định, sự hiện diện của chủ thể). Dựa trên "hậu quả sau hành động" này, AI sẽ tự động đánh trọng số và gắn thẻ các bức ảnh/video chất lượng cao (ví dụ: rõ nét, ổn định, chủ thể rõ ràng) làm "yêu thích" hoặc gợi ý xóa những bức ảnh mờ, rung, giúp người dùng dễ dàng quản lý và tìm kiếm những khoảnh khắc đẹp nhất.
  2. Hệ thống đề xuất nội dung học tập cá nhân hóa trên thiết bị di động: Một ứng dụng học tập di động có thể điều chỉnh trọng số của các tài liệu học (ví dụ: bài giảng video, câu đố, bài viết) dựa trên "hậu quả sau tương tác" của người dùng. Sau khi người dùng tương tác với một nội dung, hệ thống sẽ phân tích kết quả (ví dụ: câu trả lời đúng, thời gian tương tác, mức độ hiểu bài). Nội dung dẫn đến sự hiểu biết rõ ràng hoặc kết quả tốt sẽ được gán trọng số cao hơn cho các đề xuất hoặc ôn tập trong tương lai, tạo ra một lộ trình học tập tối ưu cho từng cá nhân.
  3. Trợ lý di động thông minh cho việc ưu tiên tác vụ: Một trợ lý ảo trên điện thoại di động có khả năng đánh trọng số lại mức độ quan trọng của các tác vụ (ví dụ: lời nhắc, email, tin nhắn) dựa trên "hậu quả sau hành động" của các tương tác tác vụ trước đó. Khi người dùng hoàn thành hoặc bỏ qua một tác vụ, hệ thống sẽ quan sát hậu quả ngay lập tức (ví dụ: các hành động tiếp theo, thời gian tiết kiệm được, phản hồi tích cực). Các tác vụ mà việc hoàn thành chúng dẫn đến hậu quả tích cực và rõ ràng sẽ được ưu tiên cao hơn, giúp người dùng tập trung vào những việc thực sự quan trọng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.16542
ArXiv Abstracthttps://arxiv.org/abs/2603.16542
PDF Downloadhttps://arxiv.org/pdf/2603.16542.pdf
Github Repositoryhttps://github.com/BeingBeyond/PTR

14. AdaMem: Adaptive User-Centric Memory for Long-Horizon Dialogue Agents (10 votes)​

Tác giả: Shannan Yan, Jingchen Ni, Leqi Zheng, Jiajun Zhang, Peixi Wu, Dacheng Yin, Jing Lyu, Chun Yuan, Fengyun Rao

Xuất bản lúc: 2026-03-17

Tag: LLMs, Dialogue Agents, External Memory, RAG, Multi-Agent Systems, User-Centric AI, Knowledge Graphs

I. Main Problem:​

Các hệ thống bộ nhớ hiện có cho tác nhân LLM thường quá phụ thuộc vào sự tương đồng ngữ nghĩa, bỏ lỡ các bằng chứng quan trọng để hiểu người dùng (như sở thích ổn định, thuộc tính cá nhân). Chúng thường lưu trữ các trải nghiệm liên quan dưới dạng các mảnh rời rạc, làm suy yếu tính mạch lạc về thời gian và nguyên nhân. Hơn nữa, các hệ thống này sử dụng độ chi tiết bộ nhớ tĩnh, không thích ứng tốt với yêu cầu của các câu hỏi khác nhau, dẫn đến thông tin thừa, phân mảnh hoặc không phù hợp với nhu cầu suy luận dài hạn.

II. Main Idea:​

Chúng tôi đề xuất AdaMem, một khung bộ nhớ thích ứng lấy người dùng làm trung tâm cho các tác nhân hội thoại dài hạn. AdaMem tổ chức lịch sử hội thoại thành bốn loại bộ nhớ chuyên biệt theo người tham gia: Working Memory (bộ đệm FIFO cho ngữ cảnh gần đây), Episodic Memory (ghi lại các trải nghiệm dài hạn có cấu trúc như sự kiện, sự thật, tóm tắt chủ đề), Persona Memory (hồ sơ người dùng cô đọng về sở thích và đặc điểm ổn định), và Graph Memory (đồ thị dị thể kết nối tin nhắn, chủ đề, sự thật, thuộc tính để truy xuất theo quan hệ). Trong quá trình suy luận, AdaMem trước tiên xác định người tham gia mục tiêu, sau đó xây dựng một lộ trình truy xuất có điều kiện theo câu hỏi, kết hợp truy xuất ngữ nghĩa với mở rộng đồ thị theo quan hệ (chỉ khi cần), và cuối cùng tạo ra câu trả lời thông qua một quy trình chuyên biệt theo vai trò để tổng hợp bằng chứng và tạo phản hồi. Quy trình này gồm ba tác nhân: Memory Agent (quản lý bộ nhớ), Research Agent (thu thập bằng chứng lặp đi lặp lại), và Working Agent (tạo câu trả lời cuối cùng).

III. Main Results:​

AdaMem đạt hiệu suất vượt trội trên cả hai bộ dữ liệu chuẩn LoCoMo (suy luận dài hạn) và PERSONAMEM (mô hình hóa người dùng).

  • Trên LoCoMo với GPT-4.1-mini, AdaMem đạt F1 tổng thể 44.65%, cải thiện tương đối +4.4% so với phương pháp tiên tiến nhất trước đó, với mức tăng lớn nhất ở loại câu hỏi thời gian (+23.4% F1).
  • Trên LoCoMo với GPT-4o-mini, AdaMem đạt F1 tổng thể 41.84%, cải thiện tương đối +12.8% so với SOTA.
  • Trên PERSONAMEM, AdaMem đạt độ chính xác 63.25%, vượt trội tất cả các baseline với cải thiện tương đối 5.9%, đặc biệt có lợi thế đáng kể trong tác vụ "generalize to new scenarios" (+27.3% cải thiện tương đối).
  • Các nghiên cứu loại bỏ cho thấy tất cả ba thành phần chính (bộ nhớ đồ thị, hợp nhất bằng chứng, và quy trình phản hồi đa tác nhân) đều đóng góp vào hiệu suất, với bộ nhớ đồ thị có tác động lớn nhất.
  • AdaMem thể hiện tính mạnh mẽ trên các kích thước mô hình khác nhau (từ GPT-4 đến Qwen3 mã nguồn mở) và có độ nhạy vừa phải với các siêu tham số.

IV. Conclusion & Future Works:​

AdaMem là một khung bộ nhớ thích ứng lấy người dùng làm trung tâm hiệu quả cho các tác nhân hội thoại dài hạn, kết hợp các bộ nhớ có cấu trúc chuyên biệt với lập kế hoạch truy xuất có điều kiện theo câu hỏi và hợp nhất bằng chứng thống nhất. Kết quả cho thấy giá trị của việc tổ chức và truy xuất bộ nhớ thích ứng cho các tương tác đa phiên phức tạp. Điều này gợi ý rằng bộ nhớ cho tác nhân hội thoại dài hạn nên chuyển đổi từ lưu trữ đồng nhất và heuristic truy xuất cố định sang các thiết kế thích ứng hơn, nhận biết câu hỏi và lấy người dùng làm trung tâm. Tuy nhiên, thiết kế này làm tăng độ phức tạp của hệ thống, chi phí token và độ trễ. Hơn nữa, khung vẫn phụ thuộc vào phân tích cú pháp thượng nguồn và suy luận của mô hình nền, khiến các lỗi trong phân giải mục tiêu, liên kết thực thể và chuẩn hóa thời gian khó phục hồi. Trong tương lai, chúng tôi dự định khám phá các giải pháp cho những thách thức này để nâng cao hơn nữa hiệu quả và tính tổng quát của khung được đề xuất.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu về tối ưu hóa hiệu quả và giảm độ trễ cho hệ thống bộ nhớ thích ứng: Tập trung vào việc phát triển các kỹ thuật mới để giảm chi phí token và độ trễ của AdaMem mà vẫn duy trì hoặc cải thiện chất lượng câu trả lời. Điều này có thể bao gồm việc khám phá các mô hình nén bộ nhớ tiên tiến, chiến lược truy xuất lai hiệu quả hơn, hoặc các kiến trúc tác nhân tối ưu hóa tài nguyên.
  2. Mở rộng khả năng phục hồi lỗi của bộ nhớ thích ứng: Phát triển các cơ chế mạnh mẽ để khắc phục lỗi từ các thành phần thượng nguồn như phân tích cú pháp mục tiêu, liên kết thực thể và chuẩn hóa thời gian. Nghiên cứu có thể tập trung vào các phương pháp tự sửa lỗi hoặc các kỹ thuật suy luận lỗi để đảm bảo tính nhất quán và độ tin cậy của bộ nhớ trong các tình huống phức tạp.
  3. Áp dụng bộ nhớ thích ứng cho các tác vụ LLM đa phương thức và đa miền: Khám phá cách mở rộng khung AdaMem để hỗ trợ các tác vụ yêu cầu hiểu và lưu trữ thông tin từ nhiều phương thức (ví dụ: văn bản, hình ảnh, âm thanh) hoặc trên nhiều miền kiến thức khác nhau, vượt ra ngoài các cuộc đối thoại thuần túy. Điều này có thể bao gồm việc tích hợp các biểu diễn đa phương thức vào các cấu trúc bộ nhớ hiện có hoặc phát triển các loại bộ nhớ mới.

2. Patent:​

  1. Hệ thống trợ lý di động cá nhân hóa với bộ nhớ thích ứng theo ngữ cảnh người dùng: Một ứng dụng trên điện thoại di động sử dụng công nghệ bộ nhớ thích ứng để cung cấp trải nghiệm trợ lý ảo siêu cá nhân hóa. Hệ thống này sẽ tự động học và lưu trữ các sở thích, thói quen, và thông tin cá nhân của người dùng từ các tương tác hàng ngày (tin nhắn, lịch, tìm kiếm, v.v.), sau đó sử dụng thông tin này để đưa ra các gợi ý, lời nhắc, hoặc phản hồi phù hợp với ngữ cảnh cụ thể của người dùng. Ví dụ, nó có thể đề xuất nhà hàng dựa trên lịch sử ăn uống và sở thích ẩm thực đã biết, hoặc nhắc nhở về một sự kiện dựa trên các cuộc trò chuyện trước đó.
  2. Công cụ quản lý thông tin cuộc gọi và tin nhắn thông minh trên điện thoại di động: Một tính năng điện thoại di động có khả năng tổ chức và tóm tắt lịch sử cuộc gọi và tin nhắn (SMS, ứng dụng chat) một cách thông minh. Bằng cách sử dụng các cấu trúc bộ nhớ tương tự AdaMem, nó có thể tạo ra các "hồ sơ persona" cho từng liên hệ, tổng hợp các sự kiện quan trọng, các sở thích được đề cập, hoặc các cam kết đã hứa. Khi người dùng tìm kiếm thông tin hoặc chuẩn bị liên hệ lại, hệ thống sẽ tự động hiển thị các thông tin liên quan và tóm tắt ngữ cảnh một cách nhanh chóng, giúp người dùng dễ dàng theo dõi và tiếp tục cuộc trò chuyện.
  3. Bộ nhớ ứng dụng di động tự động thích ứng để nâng cao trải nghiệm người dùng: Một công nghệ tích hợp vào hệ điều hành di động cho phép các ứng dụng tự động điều chỉnh hành vi và giao diện dựa trên lịch sử tương tác của người dùng với ứng dụng đó và các ứng dụng khác. Hệ thống sẽ duy trì một "bộ nhớ" về cách người dùng thường xuyên sử dụng ứng dụng, các tính năng ưa thích, các lỗi thường gặp, hoặc các tùy chỉnh đã thực hiện. Khi người dùng mở ứng dụng hoặc thực hiện một tác vụ, bộ nhớ này sẽ hướng dẫn ứng dụng để hiển thị các tùy chọn phù hợp nhất, dự đoán hành động tiếp theo, hoặc thậm chí đề xuất các cài đặt tối ưu, giúp giảm thiểu thao tác và tăng cường hiệu quả sử dụng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2603.16496
ArXiv Abstracthttps://arxiv.org/abs/2603.16496
PDF Downloadhttps://arxiv.org/pdf/2603.16496.pdf
Github RepositoryN/A