🤗 Daily Hugging Face Paper Digest - 2026-05-22

Báo cáo được tạo tự động vào lúc 2026-05-23 11:17:13 bằng mô hình deepseek-ai/deepseek-v4-flash.

📰 Summary of Papers

1. TransitLM: A Large-Scale Dataset and Benchmark for Map-Free Transit Route Generation (163 votes)

Tác giả: Hanyu Guo, Jiedong Yang, Chao Chen, Longfei Xu, Kaikui Liu, Xiangxiang Chu

Xuất bản lúc: 2026-05-21

Tag: LLMs, Route Planning, Transit, Dataset, Benchmark, Map-Free, Continual Pre-Training, Supervised Fine-Tuning, Spatial Grounding, GPS

I. Main Problem:

Các hệ thống lập kế hoạch tuyến đường giao thông công cộng truyền thống phụ thuộc nhiều vào cơ sở hạ tầng bản đồ có cấu trúc và các công cụ định tuyến phức tạp. Các mô hình ngôn ngữ lớn (LLM) đa năng hiện tại, dù có khả năng suy luận mạnh mẽ, vẫn không thể thực hiện lập kế hoạch tuyến đường một cách đáng tin cậy, thường tạo ra các tuyến đường với các ga không có thật hoặc kết nối bị đứt đoạn. Sự hạn chế này xuất phát từ việc thiếu dữ liệu huấn luyện phù hợp: các bộ dữ liệu quỹ đạo phương tiện thiếu cấu trúc ga, trong khi các bộ dữ liệu mạng tĩnh không chứa hành vi người dùng hoặc quỹ đạo lập kế hoạch thực tế. Không có nguồn dữ liệu nào hiện có cung cấp đầy đủ cấu trúc tuyến đường và chú thích hành vi cần thiết để học lập kế hoạch giao thông đầu cuối.

II. Main Idea:

Bài báo giới thiệu TransitLM, một bộ dữ liệu lớn với hơn 13 triệu bản ghi lập kế hoạch tuyến đường giao thông công cộng từ bốn thành phố lớn của Trung Quốc (Bắc Kinh, Thượng Hải, Thâm Quyến và Thành Đô), bao gồm 120.845 ga và 13.666 tuyến. Bộ dữ liệu này được phát hành dưới dạng kho ngữ liệu tiền huấn luyện liên tục (continual pre-training corpus) và dữ liệu benchmark cho ba tác vụ đánh giá: tạo tuyến đường tối ưu, lập kế hoạch theo sở thích, và tạo đa tuyến. Mỗi bản ghi chứa tọa độ GPS, chuỗi ga, điểm trung chuyển, mã tuyến, thời gian từng chặng và chú thích loại tuyến. Các tác giả huấn luyện một LLM (dựa trên Qwen3) qua hai giai đoạn: tiền huấn luyện liên tục trên kho ngữ liệu TransitLM, sau đó tinh chỉnh có giám sát trên dữ liệu benchmark. Kết quả cho thấy mô hình có thể tạo ra các tuyến đường hợp lệ về mặt cấu trúc với độ chính xác cao, và quan trọng là học được khả năng gắn kết không gian ngầm (implicit spatial grounding) - chuyển đổi tọa độ GPS tùy ý thành các ga phù hợp mà không cần bất kỳ bản đồ hay cơ sở dữ liệu địa lý rõ ràng nào.

III. Main Results:

Các thí nghiệm cho thấy mô hình Qwen3-4B được huấn luyện trên TransitLM đạt được kết quả vượt trội so với các LLM đa năng (GPT-4, Gemini-3.1-Pro, v.v.) trong tác vụ tạo tuyến đường tối ưu: độ kết nối (connectivity) đạt 97.0%, độ chính xác khớp chính xác tuyến đường (Route Exact Match) đạt 71.0%, độ chính xác ước lượng (Estimation Accuracy) đạt 98.5% và sai số phần trăm tuyệt đối trung bình (MAPE) chỉ 1.33%. Trong tác vụ lập kế hoạch theo sở thích, mô hình đạt 93.2% độ kết nối và 89.8% tuân thủ sở thích. Trong tác vụ tạo đa tuyến, mô hình đạt 96.3% độ kết nối và độ đa dạng tuyến đường là 0.545. Quan trọng hơn, mô hình đa nhiệm (4B-Joint) được huấn luyện trên cả ba tác vụ cho thấy không có sự suy giảm hiệu năng nào, thậm chí còn cải thiện nhẹ, chứng tỏ kiến thức giao thông học được là độc lập với tác vụ. Thử nghiệm loại bỏ GPS (chỉ dùng tọa độ) cho thấy mô hình của họ hầu như không bị suy giảm hiệu năng (Route Exact Match giảm từ 71.0% xuống 70.4%), trong khi các LLM đa năng sụp đổ hoàn toàn (Route Exact Match giảm từ 40.2% xuống 17.7% hoặc thấp hơn).

IV. Conclusion & Future Works:

TransitLM chứng minh rằng lập kế hoạch tuyến đường giao thông công cộng đầu cuối thông qua sinh văn bản thuần túy là khả thi mà không cần bất kỳ bản đồ hay công cụ định tuyến bên ngoài nào. Kiến thức về cấu trúc liên kết, không gian và hành vi cần thiết có thể được học hoàn toàn từ dữ liệu. Các biểu diễn thu được nắm bắt cấu trúc không gian thực sự chứ không phụ thuộc vào các gợi ý văn bản trong đầu vào. Hướng phát triển tương lai bao gồm mở rộng bộ dữ liệu ra nhiều khu vực địa lý hơn và tích hợp các yếu tố động theo thời gian thực (ví dụ: tình trạng giao thông, gián đoạn dịch vụ).

V. Brainstorming Space:

1. Publish Papers:

Mở rộng TransitLM ra các thành phố và quốc gia khác, đặc biệt là các thành phố có hệ thống giao thông phức tạp và đa dạng, để kiểm tra tính tổng quát của phương pháp.
Tích hợp thông tin thời gian thực (ví dụ: tình trạng tắc đường, gián đoạn tuyến, thời gian chờ) vào quá trình sinh tuyến đường, hướng tới lập kế hoạch tuyến đường động và thích ứng.
Nghiên cứu các kiến trúc mô hình hiệu quả hơn, chẳng hạn như mô hình ngôn ngữ thị giác (VLM) để xử lý thông tin bản đồ trực quan, hoặc các mô hình đồ thị để nắm bắt cấu trúc liên kết mạng lưới giao thông tốt hơn.

2. Patent:

Phương pháp và hệ thống sinh tuyến đường giao thông công cộng không cần bản đồ trên thiết bị di động: Sử dụng mô hình ngôn ngữ lớn đã được huấn luyện trên dữ liệu lịch sử để tạo ra tuyến đường tối ưu chỉ từ tọa độ GPS điểm đi và điểm đến, không cần tải bản đồ hoặc kết nối máy chủ định tuyến. Ứng dụng trên điện thoại giúp tiết kiệm dung lượng và hoạt động tốt ở vùng có kết nối mạng yếu.
Hệ thống gợi ý tuyến đường giao thông cá nhân hóa dựa trên sở thích người dùng trên điện thoại thông minh: Mô hình học từ lịch sử lựa chọn tuyến đường của người dùng (ví dụ: thích đi tàu điện ngầm, ít chuyển, thời gian ngắn nhất) để tự động điều chỉnh các tuyến đường được đề xuất. Người dùng chỉ cần nhập điểm đi và điểm đến, hệ thống sẽ ưu tiên các tuyến phù hợp với thói quen của họ.
Phương pháp sinh nhiều phương án tuyến đường giao thông đa dạng trên thiết bị di động: Mô hình tạo ra đồng thời nhiều tuyến đường khác nhau (ví dụ: đi xe buýt, tàu điện ngầm, kết hợp) với các đặc điểm khác biệt (thời gian, giá vé, số lần chuyển) để người dùng có thể so sánh và lựa chọn. Tính năng này giúp người dùng có cái nhìn tổng quan và linh hoạt hơn khi lên kế hoạch di chuyển.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.22355
ArXiv Abstract	https://arxiv.org/abs/2605.22355
PDF Download	https://arxiv.org/pdf/2605.22355.pdf
Github Repository	https://github.com/HotTricker/TransitLM

2. Perception or Prejudice: Can MLLMs Go Beyond First Impressions of Personality? (152 votes)

Tác giả: Caixin Kang, Tianyu Yan, Sitong Gong, Mingfang Zhang, Liangyang Ouyang, Ruicong Liu, Bo Zheng, Huchuan Lu, Kaipeng Zhang, Yoichi Sato, Yifei Huang

Xuất bản lúc: 2026-05-21

Tag: Multimodal Large Language Models, Personality Perception, Big Five, Grounded Reasoning, Video Understanding, Benchmarking, Social Cognition

I. Main Problem:

Các mô hình ngôn ngữ lớn đa phương thức (MLLM) hiện tại thường được đánh giá về khả năng nhận thức tính cách dựa trên dự đoán điểm số, nhưng không thể phân biệt giữa việc thực sự 'hiểu' tính cách qua hành vi và việc chỉ 'phán đoán' dựa trên các mẫu bề mặt. Điều này dẫn đến một 'khoảng cách định kiến' (Prejudice Gap), nơi các mô hình có thể đưa ra câu trả lời đúng nhưng dựa trên những lý do sai lầm, thiếu cơ sở bằng chứng hành vi.

II. Main Idea:

Bài báo giới thiệu một nhiệm vụ mới có tên là Suy luận Tính cách Dựa trên Bằng chứng (Grounded Personality Reasoning - GPR), yêu cầu MLLM không chỉ đưa ra điểm số tính cách (Big Five) mà còn phải giải thích và chứng minh dựa trên các hành vi quan sát được. Để hỗ trợ nhiệm vụ này, tác giả xây dựng bộ dữ liệu MM-OCEAN với hơn 1.000 video và 5.320 câu hỏi trắc nghiệm (MCQ) về các tín hiệu hành vi. Họ cũng phát triển một khung đánh giá ba cấp độ (cho điểm, suy luận, và chứng minh) cùng các chỉ số đánh giá lỗi chi tiết như Tỷ lệ Định kiến (Prejudice Rate - PR) và Tỷ lệ Chứng minh Toàn diện (Holistic-Grounding Rate - HR).

III. Main Results:

Kết quả đánh giá 27 mô hình MLLM cho thấy một 'Khoảng cách Định kiến' đáng kể: trung bình 51% các điểm số tính cách đúng không được chứng minh bằng các tín hiệu hành vi. Tỷ lệ Chứng minh Toàn diện (HR) trung bình chỉ đạt 10.4%, với mô hình tốt nhất (Gemini 3 Flash) chỉ đạt 33.5%. Các mô hình nguồn đóng và nguồn mở có hiệu suất tương tự về cho điểm và giải thích, nhưng có khoảng cách lớn (-26.6%) về khả năng truy xuất tín hiệu hành vi, đặc biệt là trong các tác vụ định vị không gian và thời gian.

IV. Conclusion & Future Works:

Nghiên cứu kết luận rằng các đánh giá truyền thống chỉ dựa trên điểm số đã đánh giá quá cao năng lực thực sự của MLLM. Họ nhấn mạnh sự cần thiết phải ưu tiên phát triển khả năng 'chứng minh' hành vi trong quá trình huấn luyện. Các hướng nghiên cứu tương lai bao gồm mở rộng bộ dữ liệu với video đa văn hóa và đa ngôn ngữ, sử dụng nhiều hơn một AI làm giám khảo để đánh giá suy luận, và phát triển các phương pháp chứng minh phong phú hơn ngoài MCQ.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng MM-OCEAN cho các tình huống tương tác nhóm: Phát triển một phiên bản mới của bộ dữ liệu tập trung vào các video có nhiều người tương tác, yêu cầu mô hình suy luận tính cách dựa trên hành vi xã hội phức tạp như luân phiên nói, giao tiếp bằng mắt và phản ứng với nhau.
Cải thiện khả năng chứng minh bằng các kỹ thuật tăng cường dữ liệu: Nghiên cứu các phương pháp tăng cường dữ liệu video một cách có hệ thống (ví dụ: che giấu một phần khuôn mặt, thay đổi âm thanh nền) để buộc các mô hình MLLM phải dựa vào nhiều hơn các tín hiệu hành vi tinh tế thay vì các mẫu bề mặt.
Phân tích tác động của các chiến lược giải mã (decoding) khác nhau đến khoảng cách định kiến: So sánh hiệu quả của các phương pháp như Chain-of-Thought (CoT), Self-Consistency, và Tree-of-Thoughts trong việc giảm thiểu PR và tăng HR, nhằm tìm ra chiến lược suy luận tối ưu cho các tác vụ về nhận thức xã hội.

2. Patent:

Hệ thống phỏng vấn tuyển dụng dựa trên bằng chứng: Một ứng dụng trên điện thoại di động sử dụng MLLM để phân tích video phỏng vấn. Thay vì chỉ đưa ra điểm số tính cách, hệ thống sẽ trích xuất và hiển thị các khoảnh khắc cụ thể (ví dụ: nụ cười, giọng nói run) cùng với giải thích tại sao chúng lại liên quan đến điểm số đó, giúp nhà tuyển dụng đưa ra quyết định minh bạch hơn.
Trợ lý sức khỏe tâm thần cá nhân hóa trên di động: Một ứng dụng trò chuyện có khả năng nhận diện cảm xúc và tính cách của người dùng qua giọng nói và biểu cảm khuôn mặt. Dựa trên phân tích bằng chứng hành vi, ứng dụng sẽ điều chỉnh phong cách tương tác và đưa ra các bài tập hoặc lời khuyên phù hợp, đồng thời giải thích rõ lý do cho các đề xuất của mình.
Hệ thống đề xuất nội dung giải trí trên điện thoại: Một tính năng trên các nền tảng xem video ngắn, nơi MLLM phân tích phản ứng của người dùng (nét mặt, thời gian xem) với các video khác nhau để suy luận tính cách. Hệ thống sau đó sẽ đề xuất các video mới và giải thích: 'Chúng tôi đề xuất video này vì bạn có vẻ thích những nội dung hài hước (tính hướng ngoại cao) dựa trên nụ cười của bạn khi xem video trước đó.'

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.22109
ArXiv Abstract	https://arxiv.org/abs/2605.22109
PDF Download	https://arxiv.org/pdf/2605.22109.pdf
Github Repository	https://github.com/kkkcx/MM-OCEAN

3. DelTA: Discriminative Token Credit Assignment for Reinforcement Learning from Verifiable Rewards (124 votes)

Tác giả: Kaiyi Zhang, Wei Wu, Yankai Lin

Xuất bản lúc: 2026-05-20

Tag: RLVR, Token Credit Assignment, Discriminative Learning, Large Language Models, Reinforcement Learning, Mathematical Reasoning

I. Main Problem:

Bài báo giải quyết vấn đề mất cân bằng trong việc gán tín dụng (credit assignment) ở cấp độ token khi huấn luyện mô hình ngôn ngữ lớn (LLMs) với phương pháp Học tăng cường từ phần thưởng có thể kiểm chứng (RLVR). Cụ thể, phần thưởng chỉ được cung cấp ở cấp độ phản hồi (cả câu), trong khi quá trình cập nhật chính sách diễn ra trên từng token. Điều này dẫn đến sự mơ hồ: token nào nên được thưởng/phạt và mức độ thay đổi xác suất của mỗi token ra sao. Các phương pháp hiện tại như DAPO tạo ra các tâm (centroids) đại diện cho phía có lợi thế dương và âm bằng cách lấy trung bình gradient của tất cả token. Tuy nhiên, cách này bị chi phối bởi các token xuất hiện thường xuyên ở cả hai phía (ví dụ: token định dạng), làm loãng đi các tín hiệu gradient thực sự có tính phân biệt cao, dẫn đến hướng cập nhật chính sách kém hiệu quả.

II. Main Idea:

Tác giả đề xuất DelTA (Discriminative Token Credit Assignment), một phương pháp gán tín dụng token dựa trên tín hiệu phân biệt. Ý tưởng cốt lõi là xem quá trình cập nhật RLVR như một bộ phân loại tuyến tính ngầm trên không gian vector gradient của token. Dựa trên góc nhìn này, DelTA ước lượng các hệ số cho mỗi token để khuếch đại các hướng gradient đặc trưng cho phía có lợi thế của nó (ví dụ: token từ câu trả lời đúng) và giảm trọng số cho các hướng gradient chung hoặc yếu (ví dụ: token từ câu trả lời sai). Các hệ số này được sử dụng để tính lại trọng số cho hàm mục tiêu RLVR tự chuẩn hóa, làm cho các tâm đại diện của hai phía trở nên tương phản hơn, từ đó định hình lại hướng cập nhật chính sách một cách hiệu quả.

III. Main Results:

Trên bảy bộ dữ liệu toán học, DelTA vượt trội hơn các baseline mạnh nhất cùng quy mô (same-scale) lần lượt 3.26 điểm trung bình trên Qwen3-8B-Base và 2.62 điểm trên Qwen3-14B-Base. Kết quả cũng cho thấy sự cải thiện nhất quán trên các tác vụ sinh mã, với kiến trúc backbone khác (Olmo3-7B-Base), và trong các đánh giá ngoài miền (out-of-domain). Phân tích sâu cho thấy việc huấn luyện chỉ với 50% token có hệ số DelTA cao nhất còn tốt hơn cả huấn luyện trên toàn bộ token, trong khi 50% token có hệ số thấp nhất làm suy giảm hiệu năng.

IV. Conclusion & Future Works:

DelTA đã chứng minh rằng việc định hình bộ phân loại ngầm do các bản cập nhật RLVR tạo ra là một hướng đi hữu ích để cải thiện việc gán tín dụng ở cấp độ token dưới sự giám sát ở cấp độ chuỗi. Kết quả thực nghiệm nhất quán trên nhiều tác vụ và kiến trúc mô hình khẳng định tính hiệu quả và khả năng tổng quát hóa của phương pháp.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng DelTA cho các mô hình đa phương thức (Vision-Language Models) để cải thiện lập luận trong các tác vụ kết hợp hình ảnh và văn bản.
Nghiên cứu việc tự động điều chỉnh các siêu tham số của DelTA (ví dụ: hệ số nhiệt độ γ, khoảng [λ_min, λ_max]) trong quá trình huấn luyện để tối ưu hóa hiệu quả hơn.
Kết hợp DelTA với các phương pháp học tăng cường khác như Process Reward Models (PRMs) để tận dụng cả tín hiệu phân biệt cấp độ token và phần thưởng chi tiết từng bước.

2. Patent:

Phương pháp và hệ thống tối ưu hóa phản hồi cho trợ lý ảo trên thiết bị di động: Sử dụng DelTA để huấn luyện mô hình ngôn ngữ nhỏ gọn trên điện thoại, giúp trợ lý ảo đưa ra câu trả lời chính xác và ngắn gọn hơn cho các câu hỏi của người dùng bằng cách tập trung học từ các token quan trọng nhất trong các câu trả lời đúng.
Ứng dụng cải thiện chất lượng tóm tắt văn bản trên trình duyệt di động: Áp dụng DelTA để huấn luyện mô hình tóm tắt, giúp nó học cách chọn lọc và ưu tiên các từ khóa, cụm từ quan trọng nhất từ văn bản gốc, từ đó tạo ra các bản tóm tắt ngắn gọn, súc tích và giữ được đúng ý chính trên màn hình nhỏ.
Hệ thống gợi ý từ vựng thông minh cho bàn phím ảo trên điện thoại: Sử dụng DelTA để huấn luyện mô hình dự đoán từ tiếp theo, giúp nó phân biệt được các từ mang tính quyết định trong ngữ cảnh (ví dụ: từ khóa trong câu hỏi) với các từ thông thường, từ đó đưa ra các gợi ý chính xác và hữu ích hơn cho người dùng khi soạn thảo văn bản.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.21467
ArXiv Abstract	https://arxiv.org/abs/2605.21467
PDF Download	https://arxiv.org/pdf/2605.21467.pdf
Github Repository	https://github.com/RUCBM/DelTA

4. π-Bench: Evaluating Proactive Personal Assistant Agents in Long-Horizon Workflows (82 votes)

Tác giả: Haoran Zhang, Luxin Xu, Zhilin Wang, Runquan Gui, Shunkai Zhang, Haodi Lei, Zihao He, Bingsu He, Chicheng Qin, Tong Zhu, Xiaoye Qu, Yang Yang, Yu Cheng, Yafu Li

Xuất bản lúc: 2026-05-19

Tag: LLMs, Agent, Benchmark, Proactive Agent, Long-Horizon, Personal Assistant, Hidden Intent

I. Main Problem:

Các tác nhân trợ lý cá nhân hiện tại thường thiếu khả năng chủ động. Người dùng thường đưa ra yêu cầu ban đầu không đầy đủ, chứa đựng các ý định, sở thích và ràng buộc tiềm ẩn không được nói rõ. Các chuẩn đánh giá hiện có hiếm khi kiểm tra khả năng của tác nhân trong việc xác định và hành động dựa trên những ý định tiềm ẩn này trước khi chúng được yêu cầu một cách tường minh, đặc biệt là trong các tương tác nhiều lượt kéo dài và phụ thuộc chéo giữa các phiên làm việc.

II. Main Idea:

Bài báo giới thiệu π-BENCH, một chuẩn đánh giá mới cho các tác nhân trợ lý cá nhân chủ động trong các quy trình làm việc dài hạn. Chuẩn đánh giá này bao gồm 100 tác vụ đa lượt trên 5 persona người dùng thuộc các lĩnh vực khác nhau (nhà nghiên cứu, nhà tiếp thị, luật sư tập sự, dược sĩ, nhà tài chính). Mỗi tác vụ bắt đầu bằng một yêu cầu không đầy đủ và chứa các 'ý định tiềm ẩn' (hidden intents). π-BENCH đánh giá tác nhân trên hai khía cạnh: (1) Tính chủ động (Proactivity): đo lường mức độ tác nhân giải quyết các ý định tiềm ẩn mà không cần người dùng nói ra, và (2) Tính hoàn chỉnh (Completeness): đo lường mức độ tác nhân hoàn thành các yêu cầu có thể kiểm chứng của tác vụ. Chuẩn đánh giá sử dụng một tác nhân người dùng mô phỏng để tương tác và theo dõi trạng thái của các ý định tiềm ẩn.

III. Main Results:

Kết quả thử nghiệm trên 9 mô hình LLM tiên tiến cho thấy: (1) Hỗ trợ chủ động vẫn là một thách thức lớn đối với các tác nhân hiện tại, với điểm Proactivity trung bình dao động từ 43.1 đến 67.0. (2) Có sự khác biệt rõ ràng giữa khả năng hoàn thành tác vụ (Completeness) và tính chủ động (Proactivity). Một số mô hình có thể hoàn thành tác vụ tốt sau khi nhận được đầy đủ thông tin nhưng lại thiếu chủ động (ví dụ: Kimi K2.5 đạt Completeness 61.6 nhưng Proactivity chỉ 43.1). (3) Thông tin từ các tương tác trước đó có giá trị cao trong việc giúp tác nhân giải quyết các ý định tiềm ẩn ở các tác vụ sau.

IV. Conclusion & Future Works:

π-BENCH là một chuẩn đánh giá hiệu quả để đo lường khả năng chủ động của các tác nhân trợ lý cá nhân trong các quy trình làm việc dài hạn. Nó cho thấy khoảng cách rõ rệt giữa các mô hình hiện tại và đặt ra một hướng nghiên cứu quan trọng. Hạn chế của nghiên cứu bao gồm việc sử dụng người dùng mô phỏng thay vì người thật và chỉ sử dụng một kiến trúc tác nhân duy nhất. Các hướng nghiên cứu trong tương lai có thể tập trung vào việc cải thiện khả năng suy luận ngữ cảnh dài hạn và phát triển các chiến lược chủ động hiệu quả hơn cho tác nhân.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu về các chiến lược suy luận ý định tiềm ẩn cho tác nhân trợ lý cá nhân: Phát triển và đánh giá các kỹ thuật mới để tác nhân có thể chủ động suy luận ra các nhu cầu, sở thích và ràng buộc của người dùng từ lịch sử tương tác và ngữ cảnh làm việc, thay vì chỉ chờ đợi các yêu cầu tường minh.
Mở rộng π-BENCH sang các lĩnh vực và loại hình tác vụ phức tạp hơn: Xây dựng các phiên bản mở rộng của chuẩn đánh giá bao gồm nhiều lĩnh vực chuyên môn hơn (ví dụ: y tế, kỹ thuật) và các tác vụ đòi hỏi sự sáng tạo hoặc ra quyết định phức tạp hơn, nhằm thách thức hơn nữa khả năng của các tác nhân.
Phát triển các phương pháp huấn luyện tác nhân để tối ưu đồng thời tính chủ động và hiệu quả hoàn thành tác vụ: Nghiên cứu các kỹ thuật học tăng cường hoặc học từ phản hồi của con người (RLHF) để huấn luyện tác nhân cân bằng giữa việc chủ động tìm hiểu nhu cầu và việc hoàn thành công việc một cách hiệu quả, giảm thiểu sự can thiệp không cần thiết từ người dùng.

2. Patent:

Phương pháp và hệ thống trợ lý ảo chủ động trên thiết bị di động dựa trên phân tích lịch sử tương tác và ngữ cảnh: Hệ thống này ghi lại lịch sử các cuộc trò chuyện, tác vụ đã hoàn thành và các tệp tin đã chỉnh sửa trên điện thoại. Khi người dùng đưa ra một yêu cầu mới như 'soạn email cho sếp', hệ thống sẽ tự động phân tích các email trước đó, lịch làm việc và các dự án đang dang dở để đề xuất nội dung, tệp đính kèm và thời gian gửi phù hợp mà không cần người dùng phải nhập chi tiết.
Ứng dụng quản lý công việc và dự án cá nhân với khả năng dự đoán và đề xuất các bước tiếp theo trên điện thoại: Ứng dụng này cho phép người dùng nhập một mục tiêu chung chung như 'chuẩn bị cho chuyến du lịch tuần sau'. Dựa trên các giao dịch ngân hàng, email xác nhận đặt phòng và lịch sử tìm kiếm, ứng dụng sẽ tự động tạo một danh sách các việc cần làm chi tiết (ví dụ: đặt vé máy bay, tìm khách sạn, mua bảo hiểm du lịch) và chủ động nhắc nhở người dùng thực hiện từng bước.
Hệ thống đề xuất nội dung và hành động thông minh trên màn hình khóa điện thoại dựa trên các ý định tiềm ẩn của người dùng: Hệ thống này phân tích các thói quen sử dụng điện thoại, như thường xuyên kiểm tra giá cổ phiếu vào buổi sáng hoặc đặt đồ ăn vào buổi trưa. Khi phát hiện người dùng có một cuộc họp quan trọng trong lịch, màn hình khóa sẽ chủ động hiển thị thông tin tóm tắt về cổ phiếu và một phím tắt để đặt đồ ăn nhẹ, giúp người dùng tiết kiệm thời gian và công sức.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.14678
ArXiv Abstract	https://arxiv.org/abs/2605.14678
PDF Download	https://arxiv.org/pdf/2605.14678.pdf
Github Repository	https://github.com/Simplified-Reasoning/Pi-Bench

5. Full Attention Strikes Back: Transferring Full Attention into Sparse within Hundred Training Steps (76 votes)

Tác giả: Yanke Zhou, Yiduo Li, Hanlin Tang, Maohua Li, Kan Liu, Lan Tao, Lin Qu, Yuan Yao, Xiaoxing Ma

Xuất bản lúc: 2026-05-16

Tag: Sparse Attention, LLMs, Long-Context, KV Cache, Self-Distillation, RoPE

I. Main Problem:

Chi phí tính toán của cơ chế full attention trong các mô hình ngôn ngữ lớn (LLMs) tăng theo hàm bậc hai so với độ dài ngữ cảnh, gây ra nút thắt cổ chai về hiệu suất cho suy luận ngữ cảnh dài. Các phương pháp sparse attention hiện có thường đánh đổi giữa hiệu quả, chi phí huấn luyện và độ chính xác, hoặc yêu cầu huấn luyện sparse từ đầu rất tốn kém.

II. Main Idea:

Bài báo đề xuất RTPurbo, một khung sparse attention dựa trên ba quan sát chính: (1) Chỉ một tập nhỏ các đầu attention (retrieval heads) thực sự cần xử lý toàn bộ ngữ cảnh dài; (2) Quá trình truy xuất thông tin dài hạn chủ yếu được điều khiển bởi một không gian con có số chiều thấp (16 chiều), cho phép xây dựng một bộ chỉ mục token nhẹ; (3) Số lượng token cần thiết phụ thuộc mạnh vào truy vấn, do đó, cơ chế top-p động phù hợp hơn top-k cố định. RTPurbo giữ lại toàn bộ KV cache cho retrieval heads, sử dụng bộ chỉ mục token nhẹ cho attention thưa, và chỉ cần vài trăm bước huấn luyện tinh (self-distillation) để phục hồi hiệu suất.

III. Main Results:

RTPurbo đạt được hiệu suất gần như không mất mát (near-lossless) trên các benchmark ngữ cảnh dài (LongBench, RULER) và suy luận (AIME, MMLU-PRO). Cụ thể, nó mang lại tốc độ tăng tốc prefill lên đến 9.36× ở ngữ cảnh 1M và tốc độ decode khoảng 2.01×. So với các baseline sparse attention khác, RTPurbo vượt trội về độ chính xác, đặc biệt trong các tác vụ đa bước và ngữ cảnh cực dài (lên đến 512K).

IV. Conclusion & Future Works:

Nghiên cứu cho thấy các mô hình full-attention vốn đã có tính thưa nội tại và có thể được chuyển đổi thành các hệ thống suy luận thưa hiệu quả mà không cần huấn luyện sparse từ đầu. RTPurbo chứng minh rằng full-attention training vẫn là một lựa chọn cạnh tranh và thực tế. Hướng phát triển trong tương lai có thể bao gồm việc mở rộng phương pháp cho các kiến trúc mô hình khác và tối ưu hóa thêm kernel cho phần cứng chuyên dụng.

V. Brainstorming Space:

1. Publish Papers:

Lọc và Tối ưu Đầu Attention cho Mô hình Đa phương thức (Multimodal): Nghiên cứu cách xác định 'retrieval heads' cho các modality khác nhau (ví dụ: văn bản và hình ảnh) trong các mô hình Vision-Language. Xây dựng cơ chế sparse attention động cho từng modality, giúp giảm chi phí tính toán khi xử lý các ngữ cảnh đa phương thức dài.
Kết hợp Top-p với Bộ nhớ Cache Đa tầng (Hierarchical Cache): Phát triển một kiến trúc bộ nhớ cache mới, nơi các retrieval heads sử dụng top-p động để chọn token từ một bộ nhớ cache thô (coarse-grained) cấp thấp, và chỉ mở rộng sang bộ nhớ cache chi tiết (fine-grained) cấp cao khi cần. Điều này có thể tiết kiệm bộ nhớ hơn nữa mà vẫn duy trì độ chính xác.
Học Tăng cường (Reinforcement Learning) cho Việc Chọn Token Động: Thay vì sử dụng KL-divergence, sử dụng một mô hình học tăng cường nhẹ (lightweight RL agent) để học chính sách chọn token (top-p threshold) một cách tối ưu cho từng retrieval head và từng truy vấn, nhằm tối đa hóa cả độ chính xác và tốc độ.

2. Patent:

Phương pháp và hệ thống tăng tốc độ phản hồi của trợ lý ảo trên điện thoại di động khi xử lý các câu hỏi phức tạp, dài: Bằng cách xác định các đầu attention chịu trách nhiệm truy xuất thông tin xa (retrieval heads) và chỉ cho phép chúng xem xét toàn bộ lịch sử trò chuyện. Các đầu attention khác chỉ tập trung vào các token gần đây nhất. Một bộ chỉ mục thông minh, nhẹ sẽ nhanh chóng tìm ra các phần có liên quan trong lịch sử để phục vụ cho retrieval heads, giúp trợ lý ảo trả lời nhanh mà không cần nhớ toàn bộ cuộc trò chuyện.
Ứng dụng trên điện thoại thông minh giúp tóm tắt tài liệu hoặc trang web dài một cách nhanh chóng và chính xác: Ứng dụng sử dụng một mô hình ngôn ngữ đã được tinh chỉnh với kỹ thuật attention thưa động. Khi người dùng yêu cầu tóm tắt một bài báo dài, mô hình sẽ không đọc toàn bộ nội dung một cách tuần tự. Thay vào đó, nó xác định các 'câu/từ khóa truy xuất' trong yêu cầu, sau đó chỉ tập trung tính toán attention vào các phần có liên quan nhất trong tài liệu, giúp rút ngắn đáng kể thời gian chờ đợi và tiết kiệm pin.
Phương pháp cải thiện hiệu suất của ứng dụng ghi chú và tìm kiếm trên thiết bị di động: Khi người dùng tìm kiếm một từ khóa trong hàng nghìn trang ghi chú, ứng dụng sẽ sử dụng một mô hình ngôn ngữ nhẹ với cơ chế 'chú ý thông minh'. Mô hình này sẽ nhanh chóng quét qua các ghi chú, nhưng thay vì so sánh từ khóa với từng từ một, nó chỉ tập trung 'chú ý' vào các ghi chú và đoạn văn có chứa các khái niệm liên quan đến từ khóa (ví dụ: tìm 'mèo' thì cũng xem xét các ghi chú về 'thú cưng', 'động vật'). Điều này cho phép tìm kiếm ngữ nghĩa nhanh và chính xác ngay cả trên thiết bị có tài nguyên hạn chế.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.16928
ArXiv Abstract	https://arxiv.org/abs/2605.16928
PDF Download	https://arxiv.org/pdf/2605.16928.pdf
Github Repository	N/A

6. ACC: Compiling Agent Trajectories for Long-Context Training (53 votes)

Tác giả: Qisheng Su, Zhen Fang, Shiting Huang, Yu Zeng, Yiming Zhao, Kou Shi, Ziao Zhang, Lin Chen, Zehui Chen, Lijun Wu, Feng Zhao

Xuất bản lúc: 2026-05-21

Tag: Long-Context, Agent Trajectory, Supervised Fine-Tuning, LLMs, Multi-Turn Reasoning

I. Main Problem:

Các mô hình ngôn ngữ lớn (LLMs) hiện tại gặp khó khăn trong việc suy luận trên ngữ cảnh dài. Việc huấn luyện khả năng này thường đòi hỏi phải tốn kém để biên soạn tài liệu dài hoặc tổng hợp ngữ cảnh một cách thủ công. Trong khi đó, các tác nhân (agent) tạo ra các chuỗi hành động nhiều bước, nhưng phương pháp huấn luyện chuẩn (SFT) lại bỏ qua các phản hồi từ công cụ, tạo ra một 'điểm mù giám sát' (supervision blind spot), khiến mô hình không học được cách tích hợp các bằng chứng nằm rải rác ở các bước khác nhau.

II. Main Idea:

Bài báo đề xuất Agent Context Compilation (ACC), một phương pháp chuyển đổi các chuỗi hành động (trajectories) của tác nhân (như tìm kiếm, kỹ thuật phần mềm, truy vấn cơ sở dữ liệu) thành các cặp hỏi-đáp (QA) trên ngữ cảnh dài. Cụ thể, ACC tập hợp câu hỏi gốc cùng với tất cả các phản hồi từ công cụ và quan sát môi trường từ nhiều bước thành một ngữ cảnh duy nhất. Mô hình sau đó được huấn luyện để trả lời trực tiếp từ ngữ cảnh này mà không cần sử dụng công cụ, giúp việc giám sát khả năng suy luận trên các đoạn văn bản xa nhau trở nên trực tiếp và hiệu quả.

III. Main Results:

Khi huấn luyện mô hình Qwen3-30B-A3B với ACC, kết quả trên các benchmark MRCR (độ chính xác hồi quy thực thể xa) và GraphWalks (duyệt đồ thị) đạt được lần lượt là 68.3 (+18.1 so với baseline) và 77.5 (+7.6), tương đương với mô hình Qwen3-235B-A22B có kích thước lớn hơn gấp 8 lần. Đồng thời, các khả năng tổng quát trên GPQA, MMLU-Pro, AIME, và IFEval vẫn được bảo toàn.

IV. Conclusion & Future Works:

ACC là một phương pháp đơn giản nhưng hiệu quả, có thể kết hợp với các phương pháp mở rộng ngữ cảnh khác. Hướng phát triển trong tương lai bao gồm mở rộng ACC cho nhiều loại tác nhân hơn và tăng kích thước ngữ cảnh lên hàng triệu token.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng ACC cho các loại tác nhân khác: Nghiên cứu cách áp dụng ACC cho các tác nhân trong lĩnh vực y tế (phân tích hồ sơ bệnh án), tài chính (phân tích báo cáo), hoặc pháp lý (tra cứu văn bản luật). Mỗi lĩnh vực có cấu trúc bằng chứng và độ dài ngữ cảnh khác nhau, đòi hỏi các phương pháp biên soạn và đánh giá mới.
ACC kết hợp với Học Tăng Cường (RL): Kết hợp ACC với các phương pháp RL như GRPO hoặc DPO để huấn luyện mô hình không chỉ trả lời đúng từ ngữ cảnh dài mà còn tối ưu hóa quá trình suy luận, ví dụ như học cách bỏ qua các thông tin gây nhiễu (distractors) một cách hiệu quả hơn.
Phân tích cơ chế học của ACC trên các mô hình khác: Nghiên cứu xem liệu hiệu ứng 'tái cấu trúc sự chú ý' và 'chuyên môn hóa chuyên gia' (expert specialization) có xuất hiện trên các kiến trúc mô hình khác (ví dụ: Mamba, mô hình thưa) hay không, và liệu các mô hình này có học được các chiến lược suy luận khác nhau cho các loại tác vụ khác nhau như MRCR và GraphWalks hay không.

2. Patent:

Phương pháp và hệ thống huấn luyện trợ lý ảo trên điện thoại thông minh: Hệ thống này ghi lại các thao tác của người dùng khi tương tác với trợ lý ảo (ví dụ: đặt báo thức, tìm kiếm nhà hàng) thành các chuỗi hành động. Sau đó, hệ thống sẽ tổng hợp các phản hồi từ ứng dụng (ví dụ: kết quả tìm kiếm, thông tin lịch) vào cùng một ngữ cảnh dài để huấn luyện lại trợ lý, giúp nó hiểu được các yêu cầu phức tạp, nhiều bước mà không cần phải hỏi lại người dùng nhiều lần.
Ứng dụng đọc và tóm tắt tài liệu dài trên thiết bị di động: Phần mềm này cho phép người dùng nhập một câu hỏi và một tập hợp các tài liệu (ví dụ: email, báo cáo, điều khoản dịch vụ). Thay vì xử lý từng tài liệu một, phần mềm sẽ tổng hợp tất cả nội dung thành một ngữ cảnh duy nhất và đưa ra câu trả lời tổng hợp, chính xác, tiết kiệm thời gian và bộ nhớ cho người dùng.
Hệ thống hỗ trợ sửa lỗi mã nguồn trên môi trường di động: Khi một lập trình viên gặp lỗi và thực hiện nhiều bước để sửa (đọc file, chạy thử, tìm kiếm trên web), hệ thống sẽ ghi lại toàn bộ quá trình. Sau đó, hệ thống sẽ tổng hợp các file mã nguồn, kết quả tìm kiếm và các bước đã thử vào một ngữ cảnh dài, giúp đưa ra gợi ý sửa lỗi chính xác và nhanh chóng hơn, thậm chí có thể tự động hóa toàn bộ quy trình sửa lỗi cho các vấn đề tương tự trong tương lai.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.21850
ArXiv Abstract	https://arxiv.org/abs/2605.21850
PDF Download	https://arxiv.org/pdf/2605.21850.pdf
Github Repository	N/A

7. PhysX-Omni: Unified Simulation-Ready Physical 3D Generation for Rigid, Deformable, and Articulated Objects (42 votes)

Tác giả: Ziang Cao, Yinghao Liu, Haitian Li, Runmao Yao, Fangzhou Hong, Zhaoxi Chen, Liang Pan, Ziwei Liu

Xuất bản lúc: 2026-05-20

Tag: 3D Generation, Simulation-Ready, Vision-Language Model, Rigid/Deformable/Articulated Objects, Physical Simulation

I. Main Problem:

Các phương pháp tạo 3D hiện tại chủ yếu tập trung vào tính thẩm mỹ và hình học, bỏ qua các thuộc tính vật lý cần thiết cho mô phỏng (ví dụ: tỷ lệ thực, vật liệu, động học). Hơn nữa, chúng thường chỉ hỗ trợ một loại đối tượng duy nhất (cứng, biến dạng hoặc có khớp nối) và thiếu các bộ dữ liệu vật lý quy mô lớn để đào tạo và đánh giá.

II. Main Idea:

PhysX-Omni là một khung thống nhất tạo các tài sản 3D sẵn sàng cho mô phỏng, hỗ trợ cả đối tượng cứng, biến dạng và có khớp nối. Nó sử dụng biểu diễn hình học dựa trên RLE (Run-Length Encoding) có template để mã hóa cấu trúc 3D độ phân giải cao trực tiếp trong không gian token của Vision-Language Model (VLM), mà không cần thêm token đặc biệt. Ngoài ra, tác giả xây dựng bộ dữ liệu PhysXVerse với hơn 8.7K tài sản thuộc 2.9K danh mục, và bộ đánh giá PhysX-Bench đo lường 6 thuộc tính: hình học, tỷ lệ thực, vật liệu, affordance, động học và mô tả.

III. Main Results:

PhysX-Omni vượt trội so với các phương pháp hiện tại (như PhysX-Anything) trên cả chỉ số thông thường lẫn PhysX-Bench. Nó tạo ra hình học chi tiết hơn, căn chỉnh động học chính xác hơn và có độ tổng quát hóa mạnh mẽ. Các tài sản được tạo ra có thể triển khai trực tiếp trong môi trường mô phỏng chuẩn cho học chính sách robot.

IV. Conclusion & Future Works:

PhysX-Omni mở ra hướng đi mới cho tạo 3D vật lý, đặc biệt trong AI nhập thể và robot. Hướng phát triển trong tương lai có thể bao gồm mở rộng sang các thuộc tính vật lý phức tạp hơn, tối ưu hóa biểu diễn hình học cho các cấu trúc siêu chi tiết, và tích hợp sâu hơn với các mô phỏng tương tác thời gian thực.

V. Brainstorming Space:

1. Publish Papers:

Phát triển biểu diễn hình học 3D hiệu quả hơn cho VLM, ví dụ kết hợp RLE với các cơ chế attention đa tỷ lệ để xử lý các cấu trúc hình học phức tạp và không đều.
Mở rộng PhysX-Verse sang các lĩnh vực mới như vật liệu mềm sinh học (mô cơ, vải) hoặc các hệ thống đa vật thể tương tác phức tạp (ví dụ: robot với công cụ).
Nghiên cứu phương pháp học tăng cường từ mô phỏng (Sim-to-Real) sử dụng trực tiếp tài sản từ PhysX-Omni, tập trung vào các nhiệm vụ thao tác tinh vi như lắp ráp linh kiện điện tử.

2. Patent:

Ứng dụng tạo nội dung thực tế ảo (VR/AR) trên điện thoại: Hệ thống cho phép người dùng chụp ảnh một vật thể bất kỳ (ví dụ: ghế sofa, đồ chơi) bằng camera điện thoại, sau đó PhysX-Omni tự động tạo ra mô hình 3D có đầy đủ thuộc tính vật lý (kích thước thật, chất liệu, khả năng chịu lực). Mô hình này có thể được đặt vào không gian ảo để thử nghiệm bố trí nội thất hoặc chơi game mô phỏng ngay trên điện thoại.
Hỗ trợ thiết kế sản phẩm trên di động: Ứng dụng dành cho kỹ sư hoặc nhà thiết kế, cho phép nhập ảnh phác thảo hoặc ảnh chụp sản phẩm (ví dụ: một bộ phận máy móc). PhysX-Omni tạo ra mô hình 3D sẵn sàng mô phỏng với các thông số vật liệu và động học chính xác. Người dùng có thể kiểm tra độ bền, chuyển động của khớp nối trực tiếp trên điện thoại trước khi sản xuất thử.
Tạo nhân vật hoạt hình tương tác trên điện thoại: Người dùng chụp ảnh một nhân vật hoạt hình hoặc búp bê, PhysX-Omni tạo ra mô hình 3D có khớp nối (articulated) với các thuộc tính vật lý như trọng lượng, độ đàn hồi của từng bộ phận. Mô hình này có thể được sử dụng trong các ứng dụng giáo dục (ví dụ: dạy giải phẫu) hoặc trò chơi nhập vai, nơi nhân vật có thể cử động và phản ứng vật lý chân thực.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.21572
ArXiv Abstract	https://arxiv.org/abs/2605.21572
PDF Download	https://arxiv.org/pdf/2605.21572.pdf
Github Repository	https://github.com/physx-omni/PhysX-Omni

Tác giả: Yifan Dai, Zhenhua Wu, Bohan Zeng, Daili Hua, Jialing Liu, Bozhou Li, Yuran Wang, Chengzhuo Tong, Hao Liang, Xiaochen Ma, Junbo Niu, Tianyu Guo, Yang Shi, Yue Ding, Yiyan Ji, Bingyin Mei, Yushuo Guan, Yuanxing Zhang, Pengfei Wan, Fangcheng Fu, Wentao Zhang

Xuất bản lúc: 2026-05-21

Tag: Multimodal Large Language Models, Audio-Visual Reasoning, Latent Space Reasoning, Chain-of-Thought, Temporal Alignment, Omni-Modal Understanding

I. Main Problem:

Các mô hình ngôn ngữ lớn đa phương thức (MLLM) hiện tại gặp khó khăn trong việc suy luận khi cần bằng chứng chi tiết từ cả hai phương thức âm thanh và hình ảnh. Nguyên nhân chính là do các phương pháp suy luận chuỗi tư duy (CoT) dựa trên văn bản rõ ràng đã nén các tín hiệu âm thanh-hình ảnh liên tục thành các token rời rạc, làm suy yếu khả năng căn chỉnh thời gian và chuyển hướng suy luận trung gian sang các ưu tiên ngôn ngữ thay vì dựa trên bằng chứng cảm quan thực tế.

II. Main Idea:

Bài báo đề xuất LatentOmni, một khung suy luận đa phương thức cho phép đan xen suy luận văn bản rõ ràng với các trạng thái tiềm ẩn âm thanh-hình ảnh trong một không gian tiềm ẩn thống nhất. Các đóng góp chính bao gồm: (1) Giám sát ở mức đặc trưng (feature-level supervision) để căn chỉnh các trạng thái suy luận tiềm ẩn với các đặc trưng cảm quan liên quan đến nhiệm vụ; (2) Omni-Sync Position Embedding (OSPE) để duy trì tính nhất quán thời gian giữa các trạng thái tiềm ẩn âm thanh và hình ảnh; (3) Bộ dữ liệu LatentOmni-Instruct-35K chứa các quỹ đạo suy luận đan xen âm thanh-hình ảnh để giám sát suy luận trong không gian tiềm ẩn.

III. Main Results:

LatentOmni đạt được hiệu suất tốt nhất trong số các mô hình mã nguồn mở được đánh giá trên bốn benchmark omni-modal (Daily-Omni, WorldSense, OmniVideoBench, LVOmniBench). So với baseline Explicit Text CoT, LatentOmni cải thiện độ chính xác lần lượt 1.8%, 2.3%, 2.2% và 3.0% trên các benchmark này. So với mô hình nền Qwen2.5-Omni-7B, LatentOmni đạt mức tăng tuyệt đối 4.5% trên Daily-Omni, 3.5% trên WorldSense, 6.1% trên OmniVideoBench và 3.1% trên LVOmniBench.

IV. Conclusion & Future Works:

Bài báo kết luận rằng suy luận không gian tiềm ẩn chung là một hướng đi đầy hứa hẹn để đạt được khả năng hiểu omni-modal mạnh mẽ và trung thực hơn. Các hướng nghiên cứu trong tương lai có thể bao gồm mở rộng khung này sang các phương thức khác (ví dụ: xúc giác, khứu giác), phát triển các cơ chế lập kế hoạch động cho độ dài tiềm ẩn, và khám phá việc tích hợp với học tăng cường để cải thiện hơn nữa khả năng suy luận.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng LatentOmni để xử lý thêm các phương thức khác như xúc giác hoặc khứu giác, tạo ra một khung suy luận đa phương thức toàn diện hơn.
Phát triển cơ chế lập kế hoạch động cho độ dài token tiềm ẩn, cho phép mô hình tự động điều chỉnh số lượng token dựa trên độ phức tạp của nhiệm vụ.
Kết hợp LatentOmni với học tăng cường (Reinforcement Learning) để tối ưu hóa trực tiếp quỹ đạo suy luận trong không gian tiềm ẩn.

2. Patent:

Phương pháp và hệ thống tóm tắt nội dung đa phương thức trên điện thoại di động: Khi người dùng quay video, hệ thống sẽ tự động phân tích đồng thời luồng hình ảnh và âm thanh, sử dụng suy luận trong không gian tiềm ẩn để tạo ra bản tóm tắt ngắn gọn, chính xác các sự kiện chính (ví dụ: 'Một người đang nói về thời tiết, sau đó có tiếng mưa rơi') mà không cần phải chuyển đổi mọi thông tin thành văn bản trung gian.
Ứng dụng trợ lý ảo tương tác theo ngữ cảnh trên điện thoại: Trợ lý ảo có thể 'nghe' và 'nhìn' màn hình điện thoại cùng lúc. Khi người dùng xem một video hướng dẫn nấu ăn và hỏi 'Tôi cần thêm nguyên liệu gì?', hệ thống sẽ suy luận trong không gian tiềm ẩn để kết hợp thông tin từ lời nói của người hướng dẫn và hình ảnh nguyên liệu trên màn hình, đưa ra câu trả lời chính xác mà không bỏ sót chi tiết.
Hệ thống gợi ý nội dung giải trí dựa trên phản ứng cảm xúc đa phương thức trên thiết bị di động: Khi người dùng xem một bộ phim hoặc video ngắn, camera và micrô của điện thoại sẽ thu thập biểu cảm khuôn mặt và giọng nói của họ. Mô hình sẽ suy luận trong không gian tiềm ẩn để kết hợp các tín hiệu này với nội dung âm thanh-hình ảnh của video, từ đó đề xuất các nội dung tương tự phù hợp với tâm trạng và sở thích của người dùng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.22012
ArXiv Abstract	https://arxiv.org/abs/2605.22012
PDF Download	https://arxiv.org/pdf/2605.22012.pdf
Github Repository	https://github.com/yfanDai/LatentOmni

9. WorldKV: Efficient World Memory with World Retrieval and Compression (29 votes)

Tác giả: Jung Yi, Minjae Kim, Paul Hyunbin Cho, Wooseok Jang, Sangdoo Yun, Seungryong Kim

Xuất bản lúc: 2026-05-21

Tag: World Model, KV Cache, Autoregressive Video Diffusion, Memory Management, Video Generation

I. Main Problem:

Các mô hình thế giới (world model) dạng autoregressive video diffusion gặp khó khăn trong việc duy trì tính nhất quán khi người dùng quay lại một góc nhìn đã thấy trước đó (tái truy cập). Cơ chế full KV-cache attention đảm bảo tính nhất quán nhưng vi phạm ràng buộc thời gian thực do bộ nhớ và chi phí tính toán tăng tuyến tính với độ dài rollout. Ngược lại, sliding-window inference khôi phục thông lượng nhưng lại loại bỏ tính nhất quán dài hạn.

II. Main Idea:

Bài báo đề xuất WorldKV, một khung làm việc không cần huấn luyện với hai thành phần chính: (1) World Retrieval lưu trữ các chunk KV-cache bị loại bỏ (evicted) vào bộ nhớ GPU/CPU và chọn lọc truy xuất các chunk phù hợp với cảnh hiện tại dựa trên sự tương ứng giữa camera/hành động, sau đó chèn chúng trở lại cửa sổ attention gốc mà không cần mã hóa lại. (2) World Compression cắt tỉa các token dư thừa trong mỗi chunk dựa trên độ tương tự key-key với một khung neo (anchor frame), giúp giảm một nửa dung lượng lưu trữ mỗi chunk, cho phép lưu trữ lượng lịch sử gấp đôi trong cùng một ngân sách bộ nhớ.

III. Main Results:

Trên các bộ dữ liệu Matrix-Game-2.0 và LingBot-World-Fast, WorldKV đạt hoặc vượt độ chính xác của full-KV memory với thông lượng cao gấp khoảng 2 lần. WorldKV cũng cạnh tranh với các baseline được huấn luyện có bộ nhớ mà không cần bất kỳ tinh chỉnh nào. Cụ thể, trên LingBot-World-Fast (14B), WorldKV đạt LPIPS 0.455, PSNR 15.660, SSIM 0.463, FID 75.644 với FPS 4.78, so với Full KV có FPS 2.36.

IV. Conclusion & Future Works:

WorldKV là một khung làm việc không cần huấn luyện, giúp quản lý bộ nhớ thế giới hiệu quả cho các mô hình thế giới video autoregressive thông qua truy xuất và nén KV-cache. Nó cho phép tái truy cập cảnh nhất quán trong khi duy trì suy luận thời gian thực. Hướng phát triển tương lai bao gồm kết hợp với các chiến lược huấn luyện để tạo thế giới ổn định hơn trong nhiều phút và giảm độ trễ chuyển dữ liệu host-device (CPU offloading) để cho phép tạo thế giới thời gian thực trong nhiều phút với VRAM giới hạn.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu phương pháp nén KV-cache dựa trên nội dung ngữ nghĩa (semantic-aware) thay vì chỉ dựa trên độ tương tự key-key, có thể kết hợp với thông tin đối tượng hoặc bố cục cảnh để giữ lại các token quan trọng hơn cho việc tái tạo.
Phát triển cơ chế truy xuất có học (learned retrieval) sử dụng một mô hình nhẹ để dự đoán mức độ liên quan của các chunk KV-cache lưu trữ với khung hình hiện tại, thay vì chỉ dựa vào tọa độ camera/hành động thô.
Mở rộng WorldKV cho các mô hình thế giới đa phương thức (multimodal world models) kết hợp văn bản, âm thanh và hình ảnh, nơi KV-cache chứa thông tin từ nhiều modality khác nhau và cần các chiến lược nén/truy xuất chuyên biệt.

2. Patent:

Phương pháp và hệ thống quản lý bộ nhớ cho thiết bị di động (ví dụ: điện thoại thông minh) cho phép mô hình thế giới tạo video tương tác thời gian thực. Hệ thống này sử dụng cơ chế nén thông minh để giảm dung lượng bộ nhớ cần thiết cho việc lưu trữ lịch sử các khung hình đã tạo, cho phép người dùng quay lại các góc nhìn trước đó mà không bị gián đoạn hoặc giảm chất lượng hình ảnh, ngay cả trên các thiết bị có bộ nhớ hạn chế.
Ứng dụng trên điện thoại thông minh cho phép người dùng khám phá một thế giới ảo một cách tự do. Khi người dùng di chuyển và quay lại một địa điểm đã thăm trước đó, ứng dụng sẽ nhanh chóng truy xuất và tái tạo lại khung cảnh chính xác nhờ vào việc lưu trữ thông tin về hành động di chuyển (ví dụ: xoay camera, tiến/lùi) và các khung hình đã tạo trước đó, thay vì phải tính toán lại từ đầu.
Phương pháp cải thiện hiệu suất của trợ lý ảo hoặc ứng dụng thực tế ảo tăng cường (AR) trên điện thoại. Phương pháp này cho phép mô hình thế giới 'nhớ' được bố cục và vật thể trong không gian xung quanh người dùng khi họ di chuyển điện thoại, giúp hiển thị các vật thể ảo một cách nhất quán và ổn định ngay cả khi tầm nhìn bị che khuất tạm thời, mang lại trải nghiệm AR mượt mà và chân thực hơn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.22718
ArXiv Abstract	https://arxiv.org/abs/2605.22718
PDF Download	https://arxiv.org/pdf/2605.22718.pdf
Github Repository	N/A

10. Spreadsheet-RL: Advancing Large Language Model Agents on Realistic Spreadsheet Tasks via Reinforcement Learning (29 votes)

Tác giả: Banghao Chi, Yining Xie, Mingyuan Wu, Jingcheng Yang, Jize Jiang, Zhaoheng Li, Shengyi Qian, Minjia Zhang, Klara Nahrstedt, Rui Hou, Xiangjun Fan, Hanchao Yu

Xuất bản lúc: 2026-05-21

Tag: Reinforcement Learning, Large Language Models, Spreadsheet Automation, AI Agent, GRPO, Excel

I. Main Problem:

Các tác vụ bảng tính thực tế (ví dụ: tài chính, quản lý chuỗi cung ứng) thường phức tạp, đa bước và đòi hỏi kiến thức miền chuyên sâu. Các tác nhân bảng tính hiện tại chủ yếu dựa vào kỹ thuật prompt trên các LLM có mục đích chung, dẫn đến hiệu suất kém trên các quy trình làm việc dài hạn và phức tạp. Việc thu thập dữ liệu huấn luyện (cặp bảng tính đầu-cuối) quy mô lớn và xây dựng môi trường tương tác trung thực cho RL cũng là những thách thức lớn.

II. Main Idea:

Bài báo giới thiệu Spreadsheet-RL, một khung làm việc tinh chỉnh bằng học tăng cường (RL) để huấn luyện các tác nhân bảng tính chuyên biệt. Khung làm việc này bao gồm ba thành phần chính: (1) Spreadsheet Data Agent - một quy trình tự động thu thập và xây dựng các cặp bảng tính đầu-cuối thực tế từ các diễn đàn trực tuyến; (2) Spreadsheet Gym - một môi trường Excel tương tác đa lượt, trung thực, tích hợp hộp cát Python và bộ công cụ bảng tính chuyên dụng; và (3) một quy trình huấn luyện RL không đồng bộ sử dụng GRPO với phần thưởng dựa trên kết quả đầu ra. Tác nhân được hướng dẫn theo quy trình 'kiểm tra - sửa đổi - xác minh' để thực hiện các thao tác bảng tính phức tạp.

III. Main Results:

Spreadsheet-RL cải thiện đáng kể hiệu suất của mô hình Qwen3-4B-Thinking-2507 trên SpreadsheetBench (Pass@1 tăng từ 12.0% lên 23.4%) và trên bộ dữ liệu Domain-Spreadsheet mới (Pass@1 tăng từ 8.4% lên 17.2%), thể hiện khả năng tổng quát hóa mạnh mẽ trên các lĩnh vực chuyên môn.

IV. Conclusion & Future Works:

Kết quả thiết lập RL tinh chỉnh như một phương pháp hiệu quả và có thể mở rộng cho tự động hóa bảng tính. Các hướng nghiên cứu trong tương lai có thể bao gồm: mở rộng quy mô huấn luyện, cải thiện hiệu suất trên các tác vụ khó hơn (ví dụ: bất động sản), và khám phá các kiến trúc mô hình hoặc hàm thưởng khác.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng Spreadsheet-RL cho đa nền tảng bảng tính: Nghiên cứu khả năng thích ứng của khung làm việc Spreadsheet-RL với các nền tảng bảng tính khác ngoài Microsoft Excel, chẳng hạn như Google Sheets, WPS Sheets và LibreOffice Calc. Bài báo sẽ tập trung vào việc thiết kế một lớp giao diện trừu tượng để tương tác với các API khác nhau và đánh giá hiệu suất của tác nhân trên mỗi nền tảng.
Tăng cường khả năng suy luận cho tác nhân bảng tính với các mô hình đa phương thức: Tích hợp khả năng xử lý hình ảnh (ví dụ: biểu đồ, ảnh chụp màn hình bảng tính) vào tác nhân Spreadsheet-RL. Bài báo sẽ khám phá cách các mô hình ngôn ngữ lớn đa phương thức có thể hiểu và thao tác trên bảng tính dựa trên cả văn bản và hình ảnh, từ đó giải quyết các tác vụ phức tạp hơn như định dạng hoặc phân tích biểu đồ.
Học tăng cường từ phản hồi của con người (RLHF) cho các tác vụ bảng tính mở: Nghiên cứu việc sử dụng phản hồi của con người để huấn luyện tác nhân bảng tính cho các tác vụ không có đáp án duy nhất (ví dụ: tạo báo cáo, thiết kế layout). Bài báo sẽ đề xuất một khung làm việc RLHF nơi con người đánh giá chất lượng của bảng tính đầu ra và mô hình học để tối ưu hóa các tiêu chí mơ hồ hơn như tính thẩm mỹ hoặc sự rõ ràng.

2. Patent:

Phương pháp và hệ thống tự động điền và kiểm tra công thức bảng tính trên thiết bị di động: Một ứng dụng di động cho phép người dùng nhập mô tả bằng ngôn ngữ tự nhiên về phép tính mong muốn (ví dụ: 'tính tổng doanh thu của tháng này và so sánh với tháng trước'). Hệ thống sẽ sử dụng mô hình AI đã được huấn luyện để tự động xác định vùng dữ liệu, tạo công thức phù hợp (ví dụ: SUMIF, VLOOKUP), điền vào bảng tính và hiển thị kết quả, đồng thời tự động kiểm tra lỗi công thức.
Trợ lý ảo thông minh cho quản lý chi tiêu cá nhân trên điện thoại: Một ứng dụng quản lý tài chính cá nhân tích hợp tác nhân bảng tính. Người dùng có thể chụp ảnh hóa đơn hoặc nhập giao dịch bằng giọng nói. Trợ lý sẽ tự động tạo và cập nhật bảng tính ngân sách, phân loại chi tiêu, tính toán số dư và đưa ra cảnh báo khi sắp vượt ngân sách, tất cả đều được thực hiện trực tiếp trên điện thoại.
Hệ thống tạo báo cáo động từ dữ liệu nhập liệu đa nguồn trên thiết bị di động: Một ứng dụng cho phép người dùng chọn nhiều nguồn dữ liệu (ví dụ: email, tin nhắn, ứng dụng ghi chú) và yêu cầu bằng ngôn ngữ tự nhiên để tạo một báo cáo tổng hợp dưới dạng bảng tính (ví dụ: 'lập báo cáo chi phí dự án từ các email và hóa đơn trong thư mục Dự án'). Hệ thống sẽ trích xuất dữ liệu, tổng hợp, và tạo ra một bảng tính hoàn chỉnh với các công thức và biểu đồ tóm tắt.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.22642
ArXiv Abstract	https://arxiv.org/abs/2605.22642
PDF Download	https://arxiv.org/pdf/2605.22642.pdf
Github Repository	https://github.com/Spreadsheet-RL/Spreadsheet-RL

11. Forecasting Scientific Progress with Artificial Intelligence (29 votes)

Tác giả: Sean Wu, Pan Lu, Yupeng Chen, Jonathan Bragg, Yutaro Yamada, Peter Clark, David Clifton, Philip Torr, James Zou, Junchi Yu

Xuất bản lúc: 2026-05-21

Tag: Scientific Forecasting, LLMs, Benchmark, Temporal Reasoning, Feasibility Assessment, Mechanistic Reasoning, Uncertainty Calibration

I. Main Problem:

Các hệ thống AI hiện tại, dù có khả năng hỗ trợ khám phá khoa học, vẫn chưa được đánh giá một cách có hệ thống về khả năng dự đoán chính xác tiến trình khoa học trong tương lai. Cụ thể, liệu AI có thể dự đoán liệu một bước đột phá khoa học có xảy ra hay không, bằng cách nào, và khi nào nó xảy ra, dựa trên kiến thức có sẵn trước một mốc thời gian nhất định?

II. Main Idea:

Bài báo giới thiệu CUSP (Cutoff-conditioned Unseen Scientific Progress), một khung đánh giá đa ngành, dựa trên sự kiện, có kiểm soát thời gian. CUSP bao gồm 4.760 sự kiện khoa học và 17.429 nhiệm vụ, được thiết kế để đánh giá khả năng dự báo khoa học của AI qua bốn khía cạnh: (1) đánh giá tính khả thi (nhị phân), (2) suy luận cơ chế (trắc nghiệm), (3) thiết kế giải pháp (tự do), và (4) dự đoán thời gian (ngày tháng). Khung này cho phép kiểm soát chặt chẽ việc mô hình có được tiếp cận thông tin trước hay sau một mốc thời gian (knowledge cutoff), từ đó phân biệt giữa khả năng truy xuất kiến thức và khả năng dự báo thực sự.

III. Main Results:

Kết quả cho thấy các mô hình tiên tiến (như GPT-5.4, Claude S4.5) có những hạn chế có hệ thống: chúng có thể xác định các hướng nghiên cứu khả thi từ các lựa chọn (độ chính xác MCQ cao nhất 0.819), nhưng thất bại trong việc dự đoán liệu một tiến bộ có xảy ra hay không (độ chính xác nhị phân gần với ngẫu nhiên ~0.5) và thường xuyên ước tính sai thời điểm xảy ra (thiên lệch về phía muộn hơn). Hiệu suất thay đổi đáng kể theo lĩnh vực, với dự đoán về thời gian trong lĩnh vực AI chính xác hơn so với sinh học, hóa học hay vật lý. Các mô hình cũng thể hiện sự tự tin quá mức và thiên lệch phản hồi mạnh, cho thấy khả năng ước lượng độ không chắc chắn không đáng tin cậy.

IV. Conclusion & Future Works:

Nghiên cứu kết luận rằng các hệ thống AI hiện tại còn thiếu khả năng dự báo khoa học một cách vững chắc và có hiệu chuẩn tốt. Mặc dù hưởng lợi từ kiến thức bổ sung, chúng không thể chuyển kiến thức đó thành dự đoán đáng tin cậy, đặc biệt là đối với những khám phá có tác động lớn. Các hướng nghiên cứu trong tương lai có thể bao gồm: cải thiện khả năng suy luận thời gian và nhân quả của mô hình, phát triển các phương pháp hiệu chuẩn độ không chắc chắn tốt hơn, và mở rộng đánh giá sang các lĩnh vực khoa học khác cũng như các mô hình AI mới hơn.

V. Brainstorming Space:

1. Publish Papers:

Phát triển một phương pháp mới để cải thiện khả năng suy luận thời gian cho các mô hình ngôn ngữ lớn trong dự báo tiến bộ khoa học, tập trung vào việc giảm thiên lệch hệ thống về phía dự đoán muộn hơn.
Nghiên cứu kiến trúc mô hình chuyên biệt cho dự báo khoa học, có khả năng tách biệt và sử dụng hiệu quả kiến thức nền tảng (pre-cutoff) để đưa ra dự đoán chính xác về các sự kiện tương lai (post-cutoff).
Đánh giá tác động của việc cung cấp thông tin ngữ cảnh (ví dụ: xu hướng nghiên cứu, tốc độ phát triển) đến khả năng dự báo của AI, nhằm xác định loại thông tin nào hỗ trợ tốt nhất cho việc dự đoán chính xác.

2. Patent:

Hệ thống dự đoán xu hướng công nghệ trên điện thoại thông minh: Một ứng dụng di động sử dụng AI để phân tích các bài báo khoa học mới nhất và dự đoán những công nghệ nào (ví dụ: pin thể rắn, chip AI mới) có khả năng xuất hiện trên điện thoại trong 1-2 năm tới, giúp người dùng đưa ra quyết định mua sắm thông minh hơn.
Trợ lý ảo đánh giá tính khả thi của ý tưởng: Một tính năng trên điện thoại cho phép người dùng nhập một ý tưởng sáng chế hoặc cải tiến kỹ thuật. Trợ lý AI sẽ phân tích cơ sở kiến thức khoa học hiện tại để đánh giá sơ bộ tính khả thi và đưa ra các tài liệu tham khảo liên quan, giúp người dùng phổ thông có cái nhìn đầu tiên về ý tưởng của mình.
Công cụ ước lượng thời gian hoàn thành dự án khoa học: Một ứng dụng dành cho các nhà nghiên cứu, cho phép họ nhập mô tả về một dự án nghiên cứu. AI sẽ phân tích dữ liệu lịch sử về các dự án tương tự để ước lượng khoảng thời gian có thể hoàn thành, giúp lập kế hoạch và quản lý nguồn lực hiệu quả hơn ngay trên thiết bị di động.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.22681
ArXiv Abstract	https://arxiv.org/abs/2605.22681
PDF Download	https://arxiv.org/pdf/2605.22681.pdf
Github Repository	https://github.com/SeanWu25/cusp-scientific-foresight

12. SEGA: Spectral-Energy Guided Attention for Resolution Extrapolation in Diffusion Transformers (23 votes)

Tác giả: Javad Rajabi, Kimia Shaban, Koorosh Roohi, David B. Lindell, Babak Taati

Xuất bản lúc: 2026-05-21

Tag: Diffusion Transformers, RoPE, High-Resolution Generation, Training-Free, Attention Scaling, Spectral Analysis

I. Main Problem:

Các mô hình Diffusion Transformer (DiT) hiện tại bị giới hạn bởi độ phân giải huấn luyện (thường từ 1024² đến 2048²), dẫn đến suy giảm chất lượng và lỗi cấu trúc khi sinh ảnh ở độ phân giải cao hơn. Các phương pháp tinh chỉnh (fine-tuning) tốn kém và không khả thi do thiếu dữ liệu độ phân giải cao và chi phí tính toán lớn.

II. Main Idea:

SEGA (Spectral-Energy Guided Attention) là phương pháp không cần huấn luyện, giúp mở rộng độ phân giải của DiT bằng cách điều chỉnh động trọng số chú ý (attention scaling) dựa trên cấu trúc phổ tần số của latent tại mỗi bước khử nhiễu. Cụ thể, SEGA phân tích năng lượng phổ của latent, từ đó xác định mức độ điều chỉnh cho từng thành phần RoPE: các thành phần tần số thấp (liên quan đến cấu trúc tổng thể) và tần số cao (liên quan đến chi tiết nhỏ) được scaling khác nhau, thay vì scaling đồng nhất như các phương pháp trước đây.

III. Main Results:

SEGA vượt trội so với các baseline không cần huấn luyện khác (YaRN, DyPE, UltraImage) và cả các phương pháp đa giai đoạn (HiFlow, I-Max) trên cả hai kiến trúc Flux và Qwen ở nhiều độ phân giải cao (2048x4096, 4096x2048, 3072x3072, 4096x4096). Các chỉ số đánh giá cho thấy SEGA cải thiện đáng kể cả tính mạch lạc cấu trúc và độ trung thực chi tiết, đồng thời duy trì hiệu suất ổn định ở các độ phân giải cực cao (trên 36 triệu pixel).

IV. Conclusion & Future Works:

SEGA chứng minh rằng scaling chú ý dựa trên tần số là một hướng đi hiệu quả để mở rộng độ phân giải trong DiT mà không cần huấn luyện lại. Phương pháp này có tiềm năng áp dụng cho các lĩnh vực khác như video, nơi việc mở rộng độ phân giải vẫn là thách thức. Hướng nghiên cứu tương lai có thể tập trung vào việc tinh chỉnh cơ chế chú ý dựa trên phổ tần số để khai thác tốt hơn năng lực của các mô hình sinh đã được huấn luyện trước.

V. Brainstorming Space:

1. Publish Papers:

1. Mở rộng SEGA cho sinh ảnh động (video): Nghiên cứu cách áp dụng cơ chế điều chỉnh chú ý dựa trên phổ tần số không chỉ cho ảnh tĩnh mà còn cho các khung hình video, giải quyết vấn đề suy giảm chất lượng khi sinh video ở độ phân giải cao.
2. Kết hợp SEGA với các phương pháp hướng dẫn đa giai đoạn: Phát triển một pipeline kết hợp SEGA với các phương pháp như HiFlow hoặc I-Max để tận dụng ưu điểm của cả hai: SEGA cải thiện khả năng nội suy nội tại của mô hình, trong khi các phương pháp đa giai đoạn cung cấp hướng dẫn cấu trúc bổ sung.
3. Tối ưu hóa SEGA cho các kiến trúc DiT khác nhau: Nghiên cứu ảnh hưởng của các tham số trong SEGA (γ, κ) và tìm ra cấu hình tối ưu cho các kiến trúc DiT khác nhau (ví dụ: các biến thể của Flux, Qwen, hay các mô hình mới hơn).

2. Patent:

1. Phương pháp điều chỉnh chất lượng ảnh động dựa trên nội dung hiển thị trên màn hình điện thoại: Một hệ thống trên điện thoại thông minh sử dụng SEGA để phân tích nội dung ảnh hoặc video đang được hiển thị (ví dụ: ảnh phong cảnh, ảnh chân dung) và tự động điều chỉnh độ phân giải, độ sắc nét để tối ưu trải nghiệm xem mà không làm tăng đáng kể mức tiêu thụ pin.
2. Ứng dụng chụp ảnh siêu phân giải trên điện thoại thông minh: Khi người dùng chụp ảnh, hệ thống sẽ tạo ra một bức ảnh có độ phân giải thấp, sau đó sử dụng SEGA để nội suy lên độ phân giải cao hơn nhiều, giúp giữ lại các chi tiết nhỏ (như kết cấu vải, chi tiết kiến trúc xa) mà không làm mất đi cấu trúc tổng thể của bức ảnh.
3. Tính năng 'zoom kỹ thuật số thông minh' trong ứng dụng camera: Khi người dùng phóng to một vùng ảnh, thay vì chỉ đơn giản là cắt và phóng to (gây vỡ hạt), hệ thống sẽ sử dụng SEGA để sinh lại vùng đó với độ phân giải cao hơn, giữ được độ nét và chi tiết, mang lại trải nghiệm zoom chất lượng cao.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.22668
ArXiv Abstract	https://arxiv.org/abs/2605.22668
PDF Download	https://arxiv.org/pdf/2605.22668.pdf
Github Repository	N/A

13. Sensor2Sensor: Cross-Embodiment Sensor Conversion for Autonomous Driving (22 votes)

Tác giả: Jiahao Wang, Bo Sun, Yijing Bai, Vincent Casser, Songyou Peng, Zehao Zhu, Meng-Li Shih, Xander Masotto, Shih-Yang Su, Kanaad V Parvate, Tiancheng Ge, Linn Bieske, Dragomir Anguelov, Mingxing Tan, Chiyu Max Jiang

Xuất bản lúc: 2026-05-21

Tag: Diffusion, Autonomous Driving, 4D Gaussian Splatting, Cross-Embodiment, Sensor Conversion, LiDAR Generation, Multi-View Generation

I. Main Problem:

Các hệ thống lái xe tự hành (ADS) cần lượng dữ liệu khổng lồ và đa dạng để huấn luyện và kiểm thử. Dữ liệu độc quyền từ đội xe tự hành (AV) có độ trung thực cao nhưng hạn chế về quy mô, sự đa dạng của cấu hình cảm biến, cũng như phạm vi địa lý và các tình huống hiếm gặp (long-tail). Trong khi đó, dữ liệu 'ngoài tự nhiên' từ các nguồn như dashcam có quy mô và tính đa dạng lớn, ghi lại các kịch bản quan trọng. Tuy nhiên, dữ liệu video không có cấu trúc này không tương thích với các ADS yêu cầu đầu vào cảm biến đa phương thức có cấu trúc (ví dụ: nhiều camera và LiDAR). Vấn đề cốt lõi là khoảng cách về hình thái (embodiment gap) giữa dữ liệu nguồn (video đơn giản) và dữ liệu đích (log cảm biến AV phức tạp).

II. Main Idea:

Bài báo đề xuất Sensor2Sensor, một mô hình tạo sinh mới giúp chuyển đổi các video đơn nhìn (monocular) từ nhiều nguồn khác nhau (dashcam, điện thoại, video lái xe trên mạng) thành các bản ghi cảm biến đa phương thức, đa góc nhìn, trung thực cao của một xe tự hành mục tiêu. Ý tưởng chính bao gồm hai bước:

Tạo dữ liệu huấn luyện ghép cặp: Sử dụng kỹ thuật 4D Gaussian Splatting (4DGS) để tái tạo các cảnh từ các bản ghi AV có sẵn, sau đó render ra các góc nhìn dashcam tổng hợp với các tham số nội/ngoại khác nhau. Quá trình này tạo ra cặp dữ liệu (dashcam tổng hợp, AV log thật) để huấn luyện mô hình.
Mô hình khuếch tán có điều kiện (Conditional Diffusion): Xây dựng một kiến trúc khuếch tán đa cảm biến (multi-sensor) và đa góc nhìn (multi-view). Mô hình nhận đầu vào là video dashcam, và tạo ra đồng thời 8 góc nhìn camera xung quanh xe và một đám mây điểm LiDAR. Tính nhất quán giữa các góc nhìn và giữa các cảm biến được đảm bảo nhờ các cơ chế 'cross-view attention' và 'cross-sensor attention'.

III. Main Results:

Các thử nghiệm trên bộ dữ liệu 'Fixed-Camera-to-AV' cho thấy Sensor2Sensor vượt trội so với các baseline mạnh (VGGT, X-Drive, CAT3D) trên hầu hết các chỉ số:

Sinh ảnh đa góc nhìn: Đạt FID là 6.47, LPIPS là 0.316, vượt trội so với các phương pháp khác.
Sinh video: Đạt FVD là 278.12, cho thấy sự ổn định về mặt thời gian vượt trội.
Sinh LiDAR: Cải thiện 13.37% về Chamfer Distance so với X-Drive. Kết quả đánh giá của con người (Human Evaluation) cho thấy 94.62% người dùng ưa thích ảnh do Sensor2Sensor tạo ra và 87.31% ưa thích LiDAR do nó tạo ra so với X-Drive.
Tổng quát hóa: Mô hình hoạt động tốt trên các video 'ngoài tự nhiên' đa dạng và thử thách (va chạm, ban đêm, thời tiết xấu) mà chưa từng thấy trong quá trình huấn luyện.
Tác vụ hạ nguồn: Dữ liệu tạo ra có chất lượng đủ tốt để các mô hình nhận thức (phát hiện đối tượng, phân đoạn ảnh) được huấn luyện trên dữ liệu thật có thể hoạt động trực tiếp mà không cần tinh chỉnh.

IV. Conclusion & Future Works:

Sensor2Sensor là một mô hình tạo sinh mới giải quyết thành công vấn đề 'embodiment gap', cho phép chuyển đổi các video lái xe từ nhiều nguồn khác nhau thành dữ liệu cảm biến AV chất lượng cao. Điều này mở ra một giải pháp khả thi để giải quyết vấn đề khan hiếm dữ liệu, đặc biệt là các tình huống hiếm gặp, cho việc phát triển và kiểm thử các hệ thống lái xe tự hành an toàn. Hướng phát triển trong tương lai bao gồm cải thiện khả năng mở rộng, tổng quát hóa cho nhiều loại cảm biến hơn và xây dựng một giao thức đánh giá có khả năng mở rộng hơn.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng sang các loại cảm biến khác: Nghiên cứu khả năng mở rộng kiến trúc Sensor2Sensor để chuyển đổi video đầu vào thành các dạng dữ liệu cảm biến khác ngoài camera và LiDAR, ví dụ như dữ liệu radar hoặc bản đồ độ sâu (depth map). Điều này sẽ tạo ra một bộ dữ liệu AV hoàn chỉnh và phong phú hơn.
Cải thiện tính nhất quán tạm thời cho các cảnh quay dài: Phát triển các kỹ thuật mới để giảm thiểu hiện tượng trôi (drift) trong quá trình sinh video tự hồi quy (auto-regressive) cho các cảnh quay dài. Có thể nghiên cứu các cơ chế attention tạm thời (temporal attention) mạnh mẽ hơn hoặc các chiến lược huấn luyện đối kháng (adversarial training) để đảm bảo tính ổn định lâu dài.
Tích hợp thông tin ngữ nghĩa (Semantic Guidance): Nghiên cứu cách tích hợp các điều kiện ngữ nghĩa cấp cao (ví dụ: mô tả bằng văn bản về tình huống giao thông, bản đồ làn đường) vào quá trình sinh dữ liệu. Điều này cho phép tạo ra các kịch bản cụ thể, có kiểm soát, phục vụ cho việc kiểm thử các tình huống hiếm gặp một cách có chủ đích.

2. Patent:

Phương pháp và hệ thống chuyển đổi video từ camera điện thoại thông minh thành dữ liệu cảm biến đa góc nhìn cho ứng dụng hỗ trợ lái xe nâng cao (ADAS) trên điện thoại: Sử dụng mô hình trí tuệ nhân tạo (AI) được huấn luyện để nhận đầu vào là video đơn giản từ camera sau của điện thoại khi người dùng đặt điện thoại lên kính chắn gió hoặc giá đỡ. Hệ thống sẽ tạo ra dữ liệu mô phỏng nhiều góc nhìn (ví dụ: nhìn trước, nhìn sau, nhìn hai bên) và dữ liệu khoảng cách 3D (LiDAR ảo) từ video đó. Dữ liệu này sau đó được sử dụng để chạy các ứng dụng ADAS như cảnh báo va chạm, hỗ trợ giữ làn đường, hay cảnh báo điểm mù, nâng cao an toàn cho người dùng mà không cần phần cứng chuyên dụng.
Ứng dụng trên điện thoại thông minh để tạo và chia sẻ các kịch bản giao thông nguy hiểm (long-tail) phục vụ huấn luyện AI: Một ứng dụng cho phép người dùng ghi lại các tình huống giao thông hiếm gặp và nguy hiểm (ví dụ: xe phanh gấp, người đi bộ băng qua đường bất ngờ, thời tiết xấu) bằng camera điện thoại. Ứng dụng sử dụng mô hình AI để chuyển đổi video này thành một bộ dữ liệu cảm biến đa góc nhìn tiêu chuẩn. Người dùng có thể đóng góp tình nguyện các bộ dữ liệu này (đã được ẩn danh) lên một kho dữ liệu đám mây, giúp các nhà phát triển hệ thống lái xe tự hành có thêm nguồn dữ liệu quý giá và đa dạng để huấn luyện AI, đặc biệt là các tình huống khó gặp.
Hệ thống kiểm thử an toàn cho xe tự hành trên điện thoại dựa trên video mô phỏng: Tạo một ứng dụng cho phép các kỹ sư hoặc người dùng chuyên nghiệp tải lên một video dashcam hoặc video lái xe bất kỳ. Hệ thống trên điện thoại (hoặc máy chủ từ xa) sẽ sử dụng mô hình AI để chuyển đổi video đó thành dữ liệu cảm biến giả lập cho một mẫu xe tự hành cụ thể. Dữ liệu giả lập này sau đó được đưa vào 'bộ não' AI của xe tự hành để xem nó sẽ phản ứng thế nào (ví dụ: phanh, đánh lái). Kết quả phản ứng được mô phỏng và hiển thị trực quan trên điện thoại, giúp kiểm thử nhanh chóng và an toàn hàng nghìn kịch bản giao thông khác nhau mà không cần đến xe thật.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.22809
ArXiv Abstract	https://arxiv.org/abs/2605.22809
PDF Download	https://arxiv.org/pdf/2605.22809.pdf
Github Repository	N/A

14. SpaceDG: Benchmarking Spatial Intelligence under Visual Degradation (21 votes)

Tác giả: Xiaolong Zhou, Yifei Liu, Ziyang Gong, Jiarui Li, Qiyue Zhao, Muyao Niu, Yuanyuan Gao, Le Ma, Xue Yang, Hongjie Zhang, Zhihang Zhong

Xuất bản lúc: 2026-05-21

Tag: Multimodal Large Language Models, Spatial Intelligence, Visual Degradation, 3D Gaussian Splatting, Robustness, Benchmarking

I. Main Problem:

Các mô hình ngôn ngữ lớn đa phương thức (MLLMs) hiện tại chủ yếu được đánh giá trên các hình ảnh sạch, lý tưởng, không phản ánh các điều kiện suy giảm thị giác phổ biến trong thế giới thực như mờ chuyển động, ánh sáng yếu, thời tiết xấu, méo ống kính và nén ảnh. Điều này đặt ra câu hỏi về độ bền của trí thông minh không gian của các MLLMs khi gặp phải các quan sát không hoàn hảo.

II. Main Idea:

Tác giả giới thiệu SpaceDG, bộ dữ liệu lớn đầu tiên về hiểu không gian có nhận thức suy giảm. Bộ dữ liệu được xây dựng bằng một công cụ tổng hợp suy giảm dựa trên vật lý, nhúng quá trình hình thành suy giảm vào kết xuất 3D Gaussian Splatting (3DGS), mô phỏng chín loại suy giảm. SpaceDG-Bench là một benchmark được xác thực bởi con người với 1.102 câu hỏi, 11 loại suy luận và 9 loại suy giảm thị giác. Kết quả đánh giá 25 mô hình cho thấy suy giảm thị giác làm giảm đáng kể khả năng suy luận không gian. Cuối cùng, tinh chỉnh có giám sát trên SpaceDG cải thiện đáng kể độ bền trước suy giảm.

III. Main Results:

Đánh giá 25 mô hình cho thấy suy giảm thị giác làm giảm nhất quán khả năng suy luận không gian. Con người cũng bị giảm hiệu suất 20.9% dưới điều kiện suy giảm. Tinh chỉnh có giám sát trên SpaceDG giúp mô hình Qwen3-VL-8B tăng từ 49.1% lên 73.2% trên ảnh sạch và từ 42.1% lên 66.1% trên ảnh suy giảm, vượt qua hiệu suất của con người (59.5%) dưới điều kiện suy giảm. Các tác vụ định hướng đối tượng nhạy cảm nhất với suy giảm, trong khi các tác vụ camera-centric tương đối bền hơn.

IV. Conclusion & Future Works:

Nghiên cứu khẳng định suy giảm thị giác làm suy yếu trí thông minh không gian của MLLMs, và huấn luyện có nhận thức suy giảm là hướng đi đầy hứa hẹn. SpaceDG và SpaceDG-Bench sẽ thúc đẩy nghiên cứu về suy luận không gian trong điều kiện thực tế không lý tưởng. Hướng phát triển tương lai bao gồm mở rộng các loại suy giảm, cải thiện khả năng hiểu suy giảm của mô hình, và áp dụng vào các hệ thống tự động.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu các phương pháp tăng cường dữ liệu suy giảm thị giác dựa trên mô phỏng vật lý kết hợp với 3DGS để cải thiện độ bền của MLLMs trong các tác vụ không gian.
Phát triển một kiến trúc MLLM mới có khả năng nhận diện và thích ứng với loại suy giảm thị giác đầu vào, giúp cải thiện hiệu suất suy luận không gian trong điều kiện không lý tưởng.
Xây dựng một benchmark mở rộng cho trí thông minh không gian dưới nhiều điều kiện suy giảm thị giác phức tạp hơn, bao gồm cả suy giảm kết hợp và suy giảm động.

2. Patent:

Phương pháp và hệ thống hiệu chỉnh ảnh trên điện thoại thông minh: Hệ thống tự động phát hiện loại suy giảm thị giác (như mờ, thiếu sáng) và áp dụng bộ lọc hoặc tăng cường ảnh phù hợp để cải thiện chất lượng ảnh chụp, giúp người dùng có được bức ảnh rõ nét hơn mà không cần kiến thức chuyên môn.
Ứng dụng điều hướng thực tế tăng cường (AR) trên điện thoại: Ứng dụng sử dụng MLLM được huấn luyện trên dữ liệu suy giảm để cung cấp chỉ dẫn không gian chính xác ngay cả trong điều kiện ánh sáng yếu hoặc thời tiết xấu, giúp người dùng dễ dàng tìm đường trong môi trường phức tạp.
Hệ thống hỗ trợ đỗ xe thông minh trên điện thoại: Hệ thống sử dụng camera điện thoại để phân tích không gian xung quanh xe, ngay cả trong điều kiện thiếu sáng hoặc mờ, và đưa ra cảnh báo hoặc hướng dẫn đỗ xe an toàn, giúp người dùng tránh va chạm.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.22536
ArXiv Abstract	https://arxiv.org/abs/2605.22536
PDF Download	https://arxiv.org/pdf/2605.22536.pdf
Github Repository	https://github.com/Visionary-Laboratory/SpaceDG

15. FlowLong: Inference-time Long Video Generation via Manifold-constrained Tweedie Matching (21 votes)

Tác giả: Jangho Park, Geon Yeong Park, Gihyun Kwon, Jong Chul Ye

Xuất bản lúc: 2026-05-20

Tag: Video Diffusion, Long Video Generation, Flow Matching, Tweedie Matching, Training-free, Inference-time

I. Main Problem:

Các mô hình khuếch tán video hiện tại được huấn luyện trên các clip ngắn nên không thể tạo video dài hơn độ dài huấn luyện một cách tự nhiên. Các phương pháp mở rộng không cần huấn luyện hiện tại hoặc là phụ thuộc vào kiến trúc cụ thể và chất lượng giảm dần khi video dài ra, hoặc là các phương pháp tự hồi quy tích lũy lỗi trôi dạt do chênh lệch giữa huấn luyện và suy luận, dẫn đến các mẫu chuyển động lặp đi lặp lại và thiếu đa dạng.

II. Main Idea:

Bài báo đề xuất FlowLong, một khung làm việc không cần huấn luyện và không phụ thuộc vào kiến trúc, hoạt động ở thời điểm suy luận để tạo video dài. Phương pháp này chia quá trình tạo thành nhiều đoạn (chunk) chồng lấp và đồng bộ hóa chúng thông qua hai kỹ thuật chính: (1) Tweedie Matching - can thiệp vào các mẫu sạch dự đoán (clean estimates) từ các đoạn lân cận, thực hiện nội suy trên vùng chồng lấp để đảm bảo tính nhất quán về mặt thời gian và tuân thủ đa tạp dữ liệu; (2) Stochastic Early-Phase Sampling - bơm nhiễu ngẫu nhiên trong giai đoạn đầu của quá trình lấy mẫu để phá vỡ quán tính của quỹ đạo ODE của từng đoạn, tạo điều kiện cho các đoạn trộn lẫn với nhau, sau đó chuyển sang lấy mẫu ODE xác định để giữ chất lượng hình ảnh chi tiết.

III. Main Results:

FlowLong vượt trội hơn các phương pháp cơ sở không cần huấn luyện (RIFLEx, UltraViCo) và các phương pháp tự hồi quy (CausVid, Self-Forcing, v.v.) trên các video dài 30 và 60 giây, đặc biệt ở chỉ số Dynamic Degree (đo độ đa dạng chuyển động). Phương pháp này tạo ra video có chuyển động phong phú, không bị lỗi trôi dạt và không có hiện tượng bão hòa điểm ảnh. FlowLong cũng mở rộng thành công sang tạo video-âm thanh chung và tạo 3DGS từ văn bản, tạo ra nhiều Gaussian 3D hơn 1.64 lần và có độ tin cậy cao hơn so với baseline VIST3A.

IV. Conclusion & Future Works:

FlowLong là một khung làm việc mạnh mẽ, không cần huấn luyện và không phụ thuộc vào kiến trúc, cho phép kéo dài thời gian tạo video của các mô hình khuếch tán dòng chảy (flow-based diffusion models) hiện có. Các kết quả thực nghiệm trên nhiều tác vụ khẳng định tính hiệu quả của nó. Một hạn chế là ràng buộc nhất quán dựa trên sự chồng lấp chỉ mang tính cục bộ, có thể cản trở sự mạch lạc về mặt ngữ nghĩa toàn cục trong các video cực kỳ dài. Hướng phát triển trong tương lai bao gồm khám phá các lịch trình mượt mà hơn cho tham số nhiễu và giải quyết vấn đề nhất quán ngữ nghĩa toàn cục.

V. Brainstorming Space:

1. Publish Papers:

1. Long Video Generation with Adaptive Overlap and Global Semantic Coherence: Nghiên cứu các cơ chế chồng lấp thích ứng (adaptive overlap) không cố định, kết hợp với một bộ nhớ ngữ nghĩa toàn cục (global semantic memory) để duy trì tính nhất quán về bối cảnh và đối tượng trong các video siêu dài (trên 5 phút).
2. Multi-Condition Long Video Generation via Hierarchical Tweedie Matching: Mở rộng FlowLong để xử lý nhiều điều kiện đầu vào phức tạp cùng lúc (ví dụ: văn bản, âm thanh, chuyển động camera, bản đồ chiều sâu) bằng cách sử dụng Tweedie Matching phân cấp, đồng bộ hóa nhiều luồng thông tin khác nhau trên các đoạn video chồng lấp.
3. Efficient Long Video Generation with Progressive Tweedie Matching: Tối ưu hóa hiệu suất tính toán của FlowLong bằng cách áp dụng Tweedie Matching theo kiểu tiến triển (progressive), bắt đầu với độ phân giải thấp và độ chồng lấp lớn, sau đó tinh chỉnh dần ở độ phân giải cao với độ chồng lấp nhỏ hơn, giúp giảm đáng kể thời gian tạo và mức tiêu thụ bộ nhớ.

2. Patent:

1. Phương pháp và hệ thống tạo video dài trên thiết bị di động bằng cách đồng bộ hóa các đoạn video chồng lấp: Sáng chế mô tả một phương pháp cho phép điện thoại thông minh tạo ra các video dài (ví dụ: 1-2 phút) từ một prompt văn bản ngắn. Hệ thống chia quá trình tạo thành nhiều đoạn nhỏ, xử lý song song nhờ bộ xử lý đồ họa (GPU) của máy, sau đó dùng thuật toán nội suy thông minh (Tweedie Matching) trên các khung hình chồng lấp để ghép chúng lại một cách mượt mà, không bị giật hay lặp chuyển động.
2. Ứng dụng tạo nội dung thực tế ảo tăng cường (AR) trên điện thoại từ văn bản: Sáng chế cho phép người dùng nhập một câu mô tả ngắn (ví dụ: 'một khu rừng rậm với những tia nắng xuyên qua tán lá') và điện thoại sẽ tạo ra một môi trường 3D dạng điểm ảnh Gaussian (3DGS) có thể nhìn từ nhiều góc độ. Phương pháp này mở rộng khả năng tạo 3D của mô hình gốc bằng cách tạo ra một video dài hơn từ văn bản, sau đó chuyển đổi video đó thành không gian 3D phong phú và chi tiết hơn.
3. Hệ thống tạo video âm nhạc cá nhân hóa trên điện thoại thông minh: Sáng chế mô tả một ứng dụng cho phép người dùng chọn một bài hát và nhập một vài từ khóa mô tả chủ đề (ví dụ: 'hoàng hôn trên bãi biển'). Ứng dụng sẽ sử dụng một mô hình chung cho cả video và âm thanh (joint audio-video model) để tạo ra một video ca nhạc dài, đồng bộ khung hình với nhịp điệu và giai điệu của bài hát một cách mượt mà, nhờ vào cơ chế đồng bộ hóa các đoạn chồng lấp cho cả hai luồng dữ liệu.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.20910
ArXiv Abstract	https://arxiv.org/abs/2605.20910
PDF Download	https://arxiv.org/pdf/2605.20910.pdf
Github Repository	https://github.com/jhq1234/flowlong

16. Maestro: Reinforcement Learning to Orchestrate Hierarchical Model-Skill Ensembles (17 votes)

Tác giả: Jinyang Wu, Guocheng Zhai, Ruihan Jin, Yuhao Shen, Zhengxi Lu, Fan Zhang, Haoran Luo, Zheng Lian, Zhengqi Wen, Jianhua Tao

Xuất bản lúc: 2026-05-21

Tag: Reinforcement Learning, LLM Agents, Multi-modal, Model Orchestration, Skill Selection, GRPO, POMDP

I. Main Problem:

Các framework agent đa phương thức hiện tại thường dựa vào một mô hình ngôn ngữ lớn (LLM) duy nhất và logic cố định để tương tác với các kỹ năng (skills). Điều này tạo ra một nút thắt cổ chai quan trọng: các LLM khác nhau có thế mạnh riêng biệt trong các lĩnh vực khác nhau, nhưng các framework hiện tại không khai thác được sức mạnh bổ sung cho nhau giữa các mô hình và kỹ năng, do đó hạn chế hiệu suất của chúng trên các tác vụ phức tạp, đa bước.

II. Main Idea:

Bài báo giới thiệu MAESTRO, một framework điều phối dựa trên Học Tăng Cường (RL). MAESTRO tái cấu trúc các tác vụ đa phương thức không đồng nhất thành một quá trình ra quyết định tuần tự trên một danh mục mô hình-kỹ năng phân cấp. Thay vì hợp nhất mọi kiến thức vào một mô hình duy nhất, MAESTRO huấn luyện một bộ điều phối (orchestrator) nhẹ (4B tham số) để tự động kết hợp các nhóm mô hình chuyên gia đã được đóng băng (frozen) và một thư viện kỹ năng hai tầng. Bộ điều phối sẽ quyết định ở mỗi bước: (i) có cần gọi một chuyên gia bên ngoài hay không, (ii) chọn cặp mô hình-kỹ năng nào, và (iii) khi nào nên kết thúc. Chính sách (policy) được tối ưu hóa bằng RL dựa trên kết quả đầu ra, không cần giám sát từng bước.

III. Main Results:

Với bộ điều phối chỉ 4B tham số, MAESTRO đạt độ chính xác trung bình 70.1% trên 10 benchmark đa phương thức, vượt qua GPT-5 (69.3%) và Gemini-2.5-Pro (68.7%). Chính sách điều phối học được có khả năng tổng quát hóa sang các mô hình và kỹ năng chưa từng thấy mà không cần huấn luyện lại. Khi mở rộng danh mục với các chuyên gia ngoài miền (out-of-domain), MAESTRO đạt trung bình 59.5% trên bốn benchmark thử thách, vượt qua tất cả các baseline nguồn đóng. MAESTRO cũng duy trì hiệu quả tính toán cao với độ trễ thấp.

IV. Conclusion & Future Works:

MAESTRO chứng minh rằng điều phối thông minh là một giải pháp thay thế hiệu quả cao cho việc mở rộng quy mô mô hình. Các hướng nghiên cứu trong tương lai bao gồm khám phá các danh mục kỹ năng tự tiến hóa (self-evolving skill registries) và khả năng thích ứng chính sách trực tuyến (online policy adaptation) cho các môi trường rộng lớn hơn, mở hơn.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu về cơ chế 'tự tiến hóa' cho thư viện kỹ năng: Làm thế nào để agent có thể tự động tạo ra, tinh chỉnh hoặc loại bỏ các kỹ năng dựa trên hiệu suất thực tế mà không cần sự can thiệp của con người?
Mở rộng khung điều phối MAESTRO để xử lý các tác vụ đa tác tử (multi-agent) cộng tác, nơi nhiều bộ điều phối nhỏ hơn có thể giao tiếp và phối hợp với nhau để giải quyết các vấn đề siêu lớn.
Phát triển một phương pháp học tăng cường trực tuyến (online RL) cho phép bộ điều phối thích nghi với các mô hình và kỹ năng mới trong thời gian thực, thay vì phải huấn luyện lại từ đầu.

2. Patent:

Phương pháp và hệ thống điều phối tác vụ trên điện thoại thông minh sử dụng nhiều mô hình AI chuyên biệt: Một hệ thống trên điện thoại thông minh có một 'bộ điều phối' nhẹ. Khi người dùng đưa ra yêu cầu (ví dụ: chụp ảnh món ăn và hỏi lượng calo), bộ điều phối sẽ tự động chọn mô hình AI phù hợp nhất (ví dụ: mô hình nhận diện thực phẩm, mô hình tính toán dinh dưỡng) và kết hợp chúng để đưa ra câu trả lời chính xác, tiết kiệm pin và thời gian xử lý.
Ứng dụng chụp ảnh và giải bài tập thông minh: Một ứng dụng trên điện thoại cho phép người dùng chụp ảnh bài tập (ví dụ: bài toán hình học, biểu đồ). Thay vì dùng một mô hình AI duy nhất, ứng dụng sẽ kích hoạt một 'bộ điều phối' để phân tích loại bài tập, sau đó gọi đến các 'chuyên gia' khác nhau: một chuyên gia đọc chữ số liệu, một chuyên gia vẽ hình, và một chuyên gia giải toán, để đưa ra lời giải chi tiết từng bước.
Trợ lý ảnh đa năng cho người khiếm thị trên điện thoại: Một trợ lý giọng nói trên điện thoại có thể mô tả thế giới xung quanh. Khi người dùng hỏi 'Có gì ở phía trước tôi?', bộ điều phối sẽ kích hoạt đồng thời một mô hình nhận diện đồ vật, một mô hình đọc văn bản (OCR), và một mô hình ước lượng khoảng cách. Kết quả từ các chuyên gia này được tổng hợp lại để tạo ra một mô tả chi tiết và hữu ích cho người dùng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.22177
ArXiv Abstract	https://arxiv.org/abs/2605.22177
PDF Download	https://arxiv.org/pdf/2605.22177.pdf
Github Repository	https://github.com/jinyangwu/Maestro

17. Q-ARVD: Quantizing Autoregressive Video Diffusion Models (17 votes)

Tác giả: Siao Tang, Xinyin Ma, Gongfan Fang, Xingyi Yang, Xinchao Wang

Xuất bản lúc: 2026-05-20

Tag: Model Quantization, Autoregressive Video Diffusion, Video Generation, Diffusion Transformers, INT8 Deployment

I. Main Problem:

Bài báo giải quyết hai thách thức chính trong việc lượng tử hóa các mô hình khuếch tán video tự hồi quy (ARVDs): (C1) Độ nhạy lượng tử hóa giữa các khung hình mất cân bằng nghiêm trọng, do lỗi tích lũy trong quá trình sinh tự hồi quy khiến chất lượng video phụ thuộc không đồng đều vào độ chính xác của các khung hình đầu tiên. (C2) Các mẫu ngoại lai (outlier) nổi bật và không đồng nhất trong trọng số mô hình, với mức độ và vị trí khác nhau giữa các loại lớp và độ sâu khối, làm tăng độ khó của lượng tử hóa.

II. Main Idea:

Để giải quyết các thách thức trên, bài báo đề xuất Q-ARVD, một khung lượng tử hóa mới với hai cải tiến chính: (S1) Cơ chế gán trọng số khung hình dựa trên chất lượng cuối cùng (Final-quality guided frame-weighting): Định lượng độ nhạy của từng khung hình bằng cách đo mức suy giảm chất lượng video tổng thể khi chỉ lượng tử hóa khung hình đó, sau đó sử dụng độ nhạy này làm trọng số trong quá trình tối ưu hóa lượng tử hóa, nhấn mạnh việc bảo toàn độ chính xác cho các khung hình quan trọng phía trước. (S2) Chiến lược lượng tử hóa kép thích ứng phát hiện ngoại lai (Outlier-aware adaptive dual-scale quantization): Tự động phát hiện sự hiện diện và số lượng kênh ngoại lai trong từng lớp bằng cách sử dụng Modified Z-score kết hợp với ngưỡng độ lớn tối thiểu. Các kênh ngoại lai được tách riêng và lượng tử hóa với một bộ lượng tử độc lập, ngăn chúng làm tăng sai số lượng tử hóa cho các kênh bình thường.

III. Main Results:

Các thử nghiệm trên hai mô hình ARVD tiên tiến (self-forcing và causal-forcing) cho thấy Q-ARVD vượt trội so với các phương pháp lượng tử hóa hiện có, đạt được chất lượng hình ảnh gần như không mất mát (near-lossless). Cụ thể, ở các thiết lập W4A8 và W4A6, Q-ARVD đạt điểm FVD-FP và LPIPS-FP tốt nhất. Khi triển khai thực tế mô hình INT8, Q-ARVD mang lại tốc độ nhanh hơn 1.30 lần và giảm 1.97 lần kích thước mô hình trên GPU NVIDIA A6000.

IV. Conclusion & Future Works:

Bài báo kết luận rằng Q-ARVD là khung lượng tử hóa đầu tiên dành riêng cho các mô hình khuếch tán video tự hồi quy, giải quyết thành công các vấn đề về độ nhạy khung hình mất cân bằng và mẫu ngoại lai không đồng nhất. Các tác giả hy vọng phương pháp của họ sẽ mở ra hướng nghiên cứu mới về lượng tử hóa nhạy cảm với từng khung hình và phát hiện/xử lý ngoại lai.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng cơ chế gán trọng số khung hình dựa trên chất lượng cuối cùng cho các mô hình sinh video dài hạn (long-horizon video generation), nơi sự tích lũy lỗi có thể nghiêm trọng hơn.
Phát triển một phương pháp phát hiện ngoại lai thích ứng cho cả trọng số và kích hoạt (activations) trong các mô hình khuếch tán video, kết hợp với các kỹ thuật như SmoothQuant để xử lý đồng thời cả hai loại ngoại lai.
Nghiên cứu khả năng áp dụng các kỹ thuật của Q-ARVD (ví dụ: gán trọng số khung hình, lượng tử kép thích ứng) cho các kiến trúc mô hình sinh video khác như mô hình dòng chảy (flow matching) hoặc mô hình tự hồi quy dựa trên token rời rạc.

2. Patent:

Phương pháp tối ưu hóa sinh video trên điện thoại thông minh dựa trên mức độ quan trọng của khung hình: Phát hiện và ưu tiên độ chính xác cho các khung hình đầu tiên của video khi nén mô hình, giúp giảm tài nguyên tính toán và pin mà vẫn duy trì chất lượng tổng thể cho các ứng dụng như quay video chậm hoặc hiệu ứng đặc biệt.
Hệ thống nén mô hình thích ứng cho ứng dụng chỉnh sửa video thời gian thực trên thiết bị di động: Tự động xác định các trọng số mô hình có giá trị bất thường và tách riêng chúng để nén với độ chính xác cao hơn, cho phép các hiệu ứng như làm mờ hậu cảnh hoặc thay đổi màu sắc chạy mượt mà hơn trên điện thoại.
Phương pháp giảm dung lượng ứng dụng tạo video bằng AI trên điện thoại: Sử dụng kỹ thuật nén thông minh giúp giảm kích thước tệp mô hình xuống gần một nửa, cho phép người dùng tải xuống và sử dụng các ứng dụng tạo video từ văn bản hoặc hình ảnh một cách nhanh chóng và tiết kiệm bộ nhớ.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.21072
ArXiv Abstract	https://arxiv.org/abs/2605.21072
PDF Download	https://arxiv.org/pdf/2605.21072.pdf
Github Repository	https://github.com/tsa18/Q-ARVD

18. Unsupervised Process Reward Models (17 votes)

Tác giả: Artyom Gadetsky, Maxim Kodryan, Siba Smarak Panigrahi, Hang Guo, Maria Brbic

Xuất bản lúc: 2026-05-11

Tag: Process Reward Models, Unsupervised Learning, LLM Reasoning, Reinforcement Learning, Test-Time Scaling

I. Main Problem:

Các mô hình phần thưởng quy trình (PRM) yêu cầu dữ liệu huấn luyện được gắn nhãn tỉ mỉ với từng bước suy luận, khiến chúng tốn kém và khó mở rộng. Các phương pháp hiện tại vẫn phụ thuộc vào nhãn kết quả cuối cùng hoặc bộ xác minh bên ngoài, đòi hỏi nhiều tài nguyên tính toán.

II. Main Idea:

Bài báo đề xuất một phương pháp huấn luyện PRM hoàn toàn không giám sát (uPRM) không cần bất kỳ chú thích nào của con người, dù là từng bước hay kết quả cuối cùng. Ý tưởng chính là định nghĩa một hàm điểm số từ xác suất token tiếp theo của LLM, đánh giá đồng thời các vị trí lỗi đầu tiên trên một loạt các quỹ đạo suy luận. Hàm điểm số này được tối ưu hóa bằng học tăng cường để huấn luyện uPRM.

III. Main Results:

uPRM đạt được cải thiện độ chính xác lên đến 15% so với LLM-as-a-Judge trong việc xác định bước lỗi đầu tiên trên ProcessBench. Trong mở rộng thời gian suy luận, uPRM hoạt động ngang bằng với các PRM có giám sát và vượt trội so với baseline majority voting lên đến 6.9%. Khi được sử dụng làm tín hiệu phần thưởng trong học tăng cường, uPRM hỗ trợ tối ưu hóa chính sách mạnh mẽ hơn so với PRM có giám sát, mang lại hiệu suất vượt trội trên nhiều mô hình chính sách.

IV. Conclusion & Future Works:

Công trình này chứng minh rằng huấn luyện PRM không giám sát là khả thi và cạnh tranh với các phương pháp có giám sát, làm giảm đáng kể chi phí cho việc hướng dẫn từng bước trong các lĩnh vực mới. Hạn chế bao gồm yêu cầu LLM có độ dài ngữ cảnh đủ lớn và khả năng đánh giá tốt. Hướng nghiên cứu tương lai bao gồm tìm hiểu nguồn gốc của tính mạnh mẽ của uPRM trong học tăng cường và tách biệt LLM chấm điểm khỏi PRM nền tảng.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu về việc áp dụng uPRM cho các tác vụ suy luận phức tạp khác ngoài toán học, chẳng hạn như lập trình hoặc suy luận khoa học.
Phát triển các phương pháp cải thiện hiệu quả của uPRM bằng cách sử dụng các mô hình ngôn ngữ nhỏ hơn làm LLM chấm điểm, giảm yêu cầu về tài nguyên.
Khám phá các cơ chế chống lại hiện tượng reward hacking trong học tăng cường khi sử dụng uPRM, đặc biệt là trên các mô hình chính sách lớn hơn.

2. Patent:

Phương pháp đánh giá và cải thiện chất lượng câu trả lời của trợ lý ảo trên điện thoại thông minh bằng cách phân tích từng bước suy luận mà không cần dữ liệu huấn luyện. Hệ thống sẽ tự động xác định bước suy luận sai đầu tiên và đề xuất sửa lỗi, giúp trợ lý ảo đưa ra câu trả lời chính xác hơn.
Hệ thống kiểm tra và chấm điểm bài tập về nhà môn toán trên ứng dụng di động. Ứng dụng sẽ chụp ảnh bài giải của học sinh, trích xuất các bước suy luận và sử dụng uPRM để xác định bước sai đầu tiên, từ đó đưa ra gợi ý sửa lỗi mà không cần giáo viên chấm bài.
Phần mềm hỗ trợ học lập trình trên điện thoại, có khả năng phân tích mã nguồn của người dùng theo từng bước. Hệ thống sẽ xác định dòng mã sai đầu tiên trong logic chương trình và đề xuất cách sửa, giúp người dùng tự học lập trình hiệu quả hơn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.10158
ArXiv Abstract	https://arxiv.org/abs/2605.10158
PDF Download	https://arxiv.org/pdf/2605.10158.pdf
Github Repository	N/A

19. Gated DeltaNet-2: Decoupling Erase and Write in Linear Attention (16 votes)

Tác giả: Ali Hatamizadeh, Yejin Choi, Jan Kautz

Xuất bản lúc: 2026-05-21

Tag: Linear Attention, Delta Rule, Recurrent Neural Networks, Long-Context, Language Modeling, Memory Editing

I. Main Problem:

Các mô hình attention truyền thống có độ phức tạp bậc hai theo độ dài chuỗi, gây khó khăn cho việc huấn luyện ngữ cảnh dài và suy luận thông lượng cao. Các mô hình attention tuyến tính khắc phục điều này bằng bộ nhớ trạng thái tái phát có kích thước cố định, nhưng gặp vấn đề nhiễu giữa các liên kết khi nén nhiều thông tin. Các phương pháp delta-rule hiện tại (Gated DeltaNet, KDA) sử dụng một cổng vô hướng duy nhất để điều khiển cả hai hành động xóa (erase) và ghi (write), dẫn đến hạn chế về mặt mô hình hóa vì hai hành động này tác động lên các trục khác nhau của trạng thái bộ nhớ.

II. Main Idea:

Bài báo giới thiệu Gated DeltaNet-2, một lớp attention tái phát tách biệt hành động xóa và ghi trong delta rule. Cụ thể, thay vì một cổng vô hướng, mô hình sử dụng một cổng xóa theo kênh (channel-wise erase gate $b_t$ ) trên trục key để quyết định tọa độ nào của thông tin cũ bị xóa, và một cổng ghi theo kênh (channel-wise write gate $w_t$ ) trên trục value để quyết định tọa độ nào của giá trị mới được ghi vào. Mô hình này tổng quát hóa Gated DeltaNet và KDA, đồng thời vẫn giữ được hiệu quả huấn luyện song song nhờ thuật toán chunkwise WY và backward pass có nhận thức về cổng.

III. Main Results:

Khi được huấn luyện với 1.3B tham số trên 100B token từ FineWeb-Edu, Gated DeltaNet-2 đạt kết quả tổng thể tốt nhất so với các biến thể Mamba-2, Gated DeltaNet, KDA và Mamba-3 trên các tác vụ mô hình hóa ngôn ngữ, suy luận thông thường và truy xuất. Lợi thế rõ rệt nhất trên các benchmark long-context RULER needle-in-a-haystack, đặc biệt là cài đặt multi-key retrieval. Trong các thử nghiệm, mô hình cũng cải thiện đáng kể hiệu suất truy xuất trong thế giới thực. Các thí nghiệm ablation cho thấy cả cổng xóa và ghi đều đóng góp vào hiệu quả, trong đó cổng xóa chiếm phần lớn lợi ích.

IV. Conclusion & Future Works:

Gated DeltaNet-2 thành công trong việc tách biệt hành động xóa và ghi trong bộ nhớ tái phát, cải thiện đáng kể khả năng quản lý bộ nhớ nén cho các tác vụ ngữ cảnh dài. Mô hình này mở ra hướng nghiên cứu về các cơ chế chỉnh sửa bộ nhớ linh hoạt và hiệu quả hơn trong các mô hình ngôn ngữ lớn, đặc biệt là trong các ứng dụng yêu cầu xử lý chuỗi dài và truy xuất thông tin chính xác.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng Gated Delta Rule-2 cho các kiến trúc đa phương thức (Vision-Language Action). Nghiên cứu cách áp dụng cơ chế xóa/ghi tách biệt để quản lý bộ nhớ trong các mô hình kết hợp thông tin thị giác và ngôn ngữ, giúp cải thiện khả năng suy luận trên các tác vụ phức tạp như mô tả video dài hoặc tương tác robot.
Phát triển phiên bản 'soft' của Gated Delta Rule-2 với cổng mềm dẻo hơn. Khám phá các biến thể của cổng xóa và ghi, ví dụ như sử dụng cơ chế attention để tổng hợp thông tin từ nhiều token trước đó trước khi quyết định xóa/ghi, thay vì chỉ dựa trên token hiện tại.
Kết hợp Gated DeltaNet-2 với các kỹ thuật nén bộ nhớ tiên tiến. Nghiên cứu việc tích hợp Gated Delta Rule-2 với các phương pháp như bộ nhớ tích chập hoặc bộ nhớ dạng mảng để tạo ra các mô hình có khả năng lưu trữ và truy xuất thông tin lâu dài hơn, vượt qua giới hạn của trạng thái kích thước cố định.

2. Patent:

Phương pháp và hệ thống quản lý bộ nhớ đệm cho trợ lý ảo trên thiết bị di động. Sử dụng Gated Delta Rule-2 để xây dựng một bộ nhớ ngắn hạn cho trợ lý ảo, cho phép nó 'quên' các yêu cầu không liên quan và 'ghi nhớ' các ngữ cảnh quan trọng từ các tương tác trước đó, giúp trả lời chính xác và mạch lạc hơn mà không cần kết nối mạng liên tục.
Ứng dụng quét tài liệu và tóm tắt thông minh trên điện thoại thông minh. Một ứng dụng sử dụng Gated DeltaNet-2 để xử lý các tài liệu dài (ví dụ: PDF, ảnh chụp văn bản) trên thiết bị di động. Mô hình sẽ 'xóa' các phần thông tin trùng lặp hoặc không quan trọng và 'ghi' lại các điểm chính, tạo ra bản tóm tắt ngắn gọn và chính xác, tiết kiệm bộ nhớ và thời gian xử lý.
Hệ thống gợi ý nội dung cá nhân hóa trên thiết bị di động với bộ nhớ tái phát. Xây dựng một hệ thống gợi ý trên điện thoại sử dụng Gated Delta Rule-2 để theo dõi lịch sử tương tác của người dùng (ví dụ: các bài báo đã đọc, video đã xem). Cổng xóa sẽ loại bỏ các sở thích nhất thời, trong khi cổng ghi sẽ lưu lại các sở thích dài hạn, từ đó đưa ra các gợi ý chính xác và thích ứng nhanh với sự thay đổi của người dùng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.22791
ArXiv Abstract	https://arxiv.org/abs/2605.22791
PDF Download	https://arxiv.org/pdf/2605.22791.pdf
Github Repository	https://github.com/NVlabs/GatedDeltaNet-2

20. GenEvolve: Self-Evolving Image Generation Agents via Tool-Orchestrated Visual Experience Distillation (10 votes)

Tác giả: Sixiang Chen, Zhaohu Xing, Tian Ye, Xinyu Geng, Yunlong Lin, Jianyu Lai, Xuanhua He, Fuxiang Zhai, Jialin Gao, Lei Zhu

Xuất bản lúc: 2026-05-20

Tag: Image Generation, Agent, Self-Evolution, Distillation, Tool Orchestration, Visual Experience, Prompt-Reference Program, Knowledge Anchored, Quality Anchored

I. Main Problem:

Các mô hình sinh ảnh hiện tại dù mạnh mẽ nhưng vẫn là các 'máy phát' thụ động: chúng không tự quyết định khi nào cần tìm kiếm thông tin, chọn tài liệu tham khảo nào, kích hoạt kiến thức sinh nào, hay cách kết hợp các tín hiệu này thành hướng dẫn cho bộ sinh ảnh. Sinh ảnh mở (open-ended) không chỉ là vấn đề từ-đến-ảnh một bước, mà là một quá trình tác nhân (agentic process) bao gồm lập kế hoạch, điều phối công cụ và thích ứng dựa trên phản hồi. Các hệ thống hiện có chỉ giải quyết một phần quá trình này. Thách thức là xây dựng một tác nhân sinh ảnh tổng quát có thể tự tiến hóa thông qua các quỹ đạo (trajectories) và sử dụng công cụ hiệu quả hơn.

II. Main Idea:

Bài báo đề xuất GenEvolve, một khung tự tiến hóa dựa trên Tool-Orchestrated Visual Experience Distillation. Mỗi lần sinh được mô hình hóa như một quỹ đạo điều phối công cụ (tool-orchestrated trajectory), nơi tác nhân thu thập bằng chứng, chọn tham chiếu, kích hoạt kỹ năng sinh, và tổng hợp chúng thành một chương trình prompt-reference (gồm prompt mục tiêu g và một tập nhỏ ảnh tham chiếu R). Thay vì chỉ dùng phần thưởng vô hướng ở mức ảnh, GenEvolve so sánh nhiều quỹ đạo cho cùng một yêu cầu và trừu tượng hóa sự khác biệt giữa quỹ đạo tốt nhất và tệ nhất thành 'kinh nghiệm thị giác' (visual experience) có cấu trúc, chỉ cung cấp cho nhánh giáo viên đặc quyền (privileged teacher branch). Lấy cảm hứng từ on-policy self-distillation, Visual Experience Distillation cung cấp sự giám sát dày đặc ở mức token, giúp học sinh nội hóa các chiến lược tìm kiếm, kích hoạt kiến thức, chọn tham chiếu và xây dựng prompt tốt hơn.

III. Main Results:

GenEvolve đạt được kết quả tốt nhất trên GenEvolve-Bench với KScore tổng thể là 0.5739 (sử dụng bộ sinh mạnh Nano Banana Pro), vượt qua các bộ sinh trực tiếp mạnh (Nano Banana Pro đạt 0.5298) và các baseline tác nhân gần đây (Gen-Searcher + Nano Banana Pro đạt 0.5481). Trên benchmark WISE bên ngoài, GenEvolve đạt WiScore tổng thể là 0.82, vượt qua các hệ thống tác nhân hiện đại khác như Mind-Brush (0.78) và Gen-Searcher (0.77), cũng như bộ sinh trực tiếp mạnh GPT-4o (0.80). Các cải thiện được thấy trên cả hai track Knowledge-Anchored và Quality-Anchored, cho thấy khả năng kết hợp bằng chứng bên ngoài, tham chiếu trực quan và kiểm soát sinh chất lượng cao.

IV. Conclusion & Future Works:

GenEvolve chứng minh rằng việc định hình lại sinh ảnh mở như một bài toán học quỹ đạo tác nhân, kết hợp với tự chưng cất kinh nghiệm thị giác, có thể cải thiện đáng kể chất lượng và khả năng tổng quát hóa của tác nhân sinh ảnh. Hướng phát triển trong tương lai có thể bao gồm: mở rộng không gian kỹ năng sinh, tích hợp thêm các công cụ bên ngoài khác, và áp dụng khung này cho các tác vụ đa phương thức rộng hơn ngoài sinh ảnh.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng không gian kỹ năng sinh cho tác nhân: Nghiên cứu cách tự động khám phá và thêm các kỹ năng sinh mới (ví dụ: kỹ năng về phong cách nghệ thuật cụ thể, kỹ năng về kết cấu vật liệu phức tạp) vào không gian hành động của tác nhân, giúp nó linh hoạt hơn trước các yêu cầu đa dạng.
Học đa tác vụ với quỹ đạo công cụ: Mở rộng khung GenEvolve để xử lý đồng thời nhiều tác vụ khác nhau (ví dụ: sinh ảnh, chỉnh sửa ảnh, trả lời câu hỏi trực quan) bằng cách chia sẻ một không gian quỹ đạo và cơ chế học kinh nghiệm chung, nghiên cứu sự chuyển giao kỹ năng giữa các tác vụ.
Tác nhân sinh ảnh có khả năng giải thích: Phát triển các phương pháp để trích xuất và hiển thị 'kinh nghiệm thị giác' đã học dưới dạng ngôn ngữ tự nhiên hoặc sơ đồ trực quan, giúp người dùng hiểu tại sao tác nhân đưa ra quyết định điều phối công cụ cụ thể, tăng cường độ tin cậy và khả năng gỡ lỗi.

2. Patent:

Phương pháp và hệ thống tạo ảnh trên thiết bị di động dựa trên tác nhân tự tiến hóa: Một ứng dụng trên điện thoại cho phép người dùng nhập mô tả phức tạp. Ứng dụng sử dụng một tác nhân AI nhỏ gọn trên thiết bị để tự động tìm kiếm thông tin, chọn ảnh tham khảo từ bộ nhớ đệm hoặc tìm kiếm trực tuyến, và tạo ra một chương trình sinh ảnh. Tác nhân này tự cải thiện theo thời gian dựa trên phản hồi của người dùng (ví dụ: đánh giá 'thích' hoặc 'không thích' ảnh đầu ra) và so sánh các kết quả trước đó để đưa ra quyết định tốt hơn trong tương lai, mà không cần kết nối máy chủ liên tục.
Ứng dụng chỉnh sửa ảnh thông minh với trải nghiệm thị giác được lưu trữ: Một tính năng trên điện thoại thông minh cho phép người dùng yêu cầu chỉnh sửa ảnh phức tạp (ví dụ: 'thêm văn bản 'Chúc mừng năm mới' theo phong cách băng tuyết' hoặc 'thay đổi phông nền thành một bãi biển nhiệt đới với ánh hoàng hôn'). Ứng dụng ghi nhớ các quyết định chỉnh sửa thành công trước đó (ví dụ: loại phông chữ, bảng màu, cách bố trí) và tự động áp dụng chúng cho các yêu cầu tương tự trong tương lai, giúp quá trình chỉnh sửa nhanh hơn và nhất quán hơn.
Hệ thống gợi ý thiết kế đồ họa trên di động bằng cách học từ các quỹ đạo thiết kế: Một ứng dụng hỗ trợ người dùng thiết kế đồ họa (ví dụ: poster, banner mạng xã hội). Khi người dùng nhập một ý tưởng, hệ thống sẽ tạo ra nhiều phương án thiết kế khác nhau, mỗi phương án là kết quả của một 'quỹ đạo thiết kế' bao gồm các bước như chọn bố cục, phông chữ, màu sắc và hình ảnh. Hệ thống sẽ học từ những lựa chọn và phản hồi của người dùng (ví dụ: chọn phương án A thay vì B) để cải thiện các gợi ý trong tương lai, giúp ngay cả người dùng không chuyên cũng có thể tạo ra các thiết kế chuyên nghiệp.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.21605
ArXiv Abstract	https://arxiv.org/abs/2605.21605
PDF Download	https://arxiv.org/pdf/2605.21605.pdf
Github Repository	https://github.com/MeiGen-AI/GenEvolve

21. KVServe: Service-Aware KV Cache Compression for Communication-Efficient Disaggregated LLM Serving (10 votes)

Tác giả: Zedong Liu, Xinyang Ma, Dejun Luo, Hairui Zhao, Bing Lu, Wenjing Huang, Yida Gu, Xingchen Liu, Zheng Wei, Jinyang Liu, Dingwen Tao, Guangming Tan

Xuất bản lúc: 2026-05-13

Tag: LLM, KV Cache, Compression, Disaggregated Serving, PD Separation, Bayesian Optimization, Bandwidth-Aware, SLO

I. Main Problem:

Trong kiến trúc phục vụ LLM phân tách (disaggregated serving), việc truyền tải KV cache qua mạng trở thành nút thắt cổ chai chiếm tới 60% thời gian hoàn thành tác vụ. Các phương pháp nén KV hiện tại là tĩnh, không thích ứng được với sự thay đổi của khối lượng công việc, băng thông và ràng buộc SLO, dẫn đến hiệu suất dưới mức tối ưu hoặc thậm chí gây chậm hơn.

II. Main Idea:

KVServe đề xuất khung nén KV nhận biết dịch vụ và thích ứng, gồm ba thành phần chính: (1) Modular Strategy Pool thống nhất các kỹ thuật nén KV thành các thành phần có thể ghép nối; (2) Bayesian Profiling Engine giảm 50 lần chi phí tìm kiếm cấu hình tối ưu ngoại tuyến; (3) Service-Aware Online Controller kết hợp mô hình độ trễ giải tích với bandit nhẹ để chọn chiến lược tối ưu theo băng thông và ràng buộc SLO/độ chính xác theo thời gian thực.

III. Main Results:

KVServe đạt được tối đa 9.13x tăng tốc JCT trong PD-separated serving và tối đa 32.8x giảm TTFT trong KV-disaggregated serving. Giảm chi phí tìm kiếm ngoại tuyến từ 1000 giờ xuống còn 20 giờ. Duy trì độ chính xác trên ngưỡng 97% trong khi các baseline tĩnh thường vi phạm.

IV. Conclusion & Future Works:

KVServe là khung nén KV nhận biết dịch vụ đầu tiên, chứng minh rằng việc thích ứng linh hoạt với bối cảnh dịch vụ (workload, băng thông, SLO) là cần thiết để đạt hiệu suất tối ưu. Hướng phát triển tương lai có thể mở rộng Modular Strategy Pool với các kỹ thuật nén mới, cải thiện độ chính xác của bandit online, và áp dụng cho các kiến trúc disaggregated khác.

V. Brainstorming Space:

1. Publish Papers:

Nén KV thích ứng cho nhiều tầng lưu trữ trong suy luận LLM phân tán: Mở rộng KVServe để hỗ trợ nhiều tầng lưu trữ (GPU, CPU, SSD) với băng thông và độ trễ khác nhau, tối ưu hóa việc chọn chiến lược nén và di chuyển KV giữa các tầng.
Học tăng cường cho điều khiển nén KV trực tuyến: Thay thế bandit đơn giản bằng thuật toán học tăng cường (ví dụ: Q-learning) để cải thiện khả năng thích ứng với môi trường thay đổi nhanh và giảm thiểu vi phạm SLO.
Nén KV nhận biết ngữ cảnh cho các tác vụ đa phương thức: Mở rộng Modular Strategy Pool để hỗ trợ nén KV cho các mô hình đa phương thức (ví dụ: Vision-Language), nơi KV cache có cấu trúc và phân bố khác biệt.

2. Patent:

Phương pháp và hệ thống nén bộ nhớ đệm cho mô hình ngôn ngữ lớn trên thiết bị di động: Hệ thống trên điện thoại thông minh tự động chọn mức nén cho bộ nhớ đệm của mô hình ngôn ngữ dựa trên băng thông mạng hiện tại và dung lượng pin, giúp giảm thời gian chờ khi sử dụng các ứng dụng trò chuyện AI.
Thiết bị di động thông minh với bộ điều khiển nén bộ nhớ đệm thích ứng: Điện thoại có chip xử lý chuyên dụng để nén và giải nén bộ nhớ đệm của mô hình ngôn ngữ khi gửi/nhận dữ liệu qua mạng, với cơ chế tự động tắt nén khi băng thông cao để tránh làm chậm thiết bị.
Ứng dụng trợ lý ảo trên điện thoại sử dụng nén bộ nhớ đệm để phản hồi nhanh: Ứng dụng trợ lý ảo trên điện thoại thông minh sử dụng kỹ thuật nén bộ nhớ đệm để giảm dung lượng dữ liệu cần truyền giữa điện thoại và máy chủ, giúp phản hồi câu hỏi của người dùng nhanh hơn ngay cả khi kết nối mạng chậm.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.13734
ArXiv Abstract	https://arxiv.org/abs/2605.13734
PDF Download	https://arxiv.org/pdf/2605.13734.pdf
Github Repository	https://github.com/hpdps-group/KVServe

📰 Summary of Papers
1. TransitLM: A Large-Scale Dataset and Benchmark for Map-Free Transit Route Generation (163 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
2. Perception or Prejudice: Can MLLMs Go Beyond First Impressions of Personality? (152 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
3. DelTA: Discriminative Token Credit Assignment for Reinforcement Learning from Verifiable Rewards (124 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
4. π-Bench: Evaluating Proactive Personal Assistant Agents in Long-Horizon Workflows (82 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
5. Full Attention Strikes Back: Transferring Full Attention into Sparse within Hundred Training Steps (76 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
6. ACC: Compiling Agent Trajectories for Long-Context Training (53 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
7. PhysX-Omni: Unified Simulation-Ready Physical 3D Generation for Rigid, Deformable, and Articulated Objects (42 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
8. LatentOmni: Rethinking Omni-Modal Understanding via Unified Audio-Visual Latent Reasoning (35 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
9. WorldKV: Efficient World Memory with World Retrieval and Compression (29 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
10. Spreadsheet-RL: Advancing Large Language Model Agents on Realistic Spreadsheet Tasks via Reinforcement Learning (29 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
11. Forecasting Scientific Progress with Artificial Intelligence (29 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
12. SEGA: Spectral-Energy Guided Attention for Resolution Extrapolation in Diffusion Transformers (23 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
13. Sensor2Sensor: Cross-Embodiment Sensor Conversion for Autonomous Driving (22 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
14. SpaceDG: Benchmarking Spatial Intelligence under Visual Degradation (21 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
15. FlowLong: Inference-time Long Video Generation via Manifold-constrained Tweedie Matching (21 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
16. Maestro: Reinforcement Learning to Orchestrate Hierarchical Model-Skill Ensembles (17 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
17. Q-ARVD: Quantizing Autoregressive Video Diffusion Models (17 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
18. Unsupervised Process Reward Models (17 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
19. Gated DeltaNet-2: Decoupling Erase and Write in Linear Attention (16 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
20. GenEvolve: Self-Evolving Image Generation Agents via Tool-Orchestrated Visual Experience Distillation (10 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
21. KVServe: Service-Aware KV Cache Compression for Communication-Efficient Disaggregated LLM Serving (10 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan

📰 Summary of Papers​

1. TransitLM: A Large-Scale Dataset and Benchmark for Map-Free Transit Route Generation (163 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

2. Perception or Prejudice: Can MLLMs Go Beyond First Impressions of Personality? (152 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

3. DelTA: Discriminative Token Credit Assignment for Reinforcement Learning from Verifiable Rewards (124 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

4. π-Bench: Evaluating Proactive Personal Assistant Agents in Long-Horizon Workflows (82 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

5. Full Attention Strikes Back: Transferring Full Attention into Sparse within Hundred Training Steps (76 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

6. ACC: Compiling Agent Trajectories for Long-Context Training (53 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

7. PhysX-Omni: Unified Simulation-Ready Physical 3D Generation for Rigid, Deformable, and Articulated Objects (42 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

8. LatentOmni: Rethinking Omni-Modal Understanding via Unified Audio-Visual Latent Reasoning (35 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

9. WorldKV: Efficient World Memory with World Retrieval and Compression (29 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

📰 Summary of Papers

1. TransitLM: A Large-Scale Dataset and Benchmark for Map-Free Transit Route Generation (163 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

2. Perception or Prejudice: Can MLLMs Go Beyond First Impressions of Personality? (152 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

3. DelTA: Discriminative Token Credit Assignment for Reinforcement Learning from Verifiable Rewards (124 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

4. π-Bench: Evaluating Proactive Personal Assistant Agents in Long-Horizon Workflows (82 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

5. Full Attention Strikes Back: Transferring Full Attention into Sparse within Hundred Training Steps (76 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

6. ACC: Compiling Agent Trajectories for Long-Context Training (53 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

7. PhysX-Omni: Unified Simulation-Ready Physical 3D Generation for Rigid, Deformable, and Articulated Objects (42 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

8. LatentOmni: Rethinking Omni-Modal Understanding via Unified Audio-Visual Latent Reasoning (35 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

9. WorldKV: Efficient World Memory with World Retrieval and Compression (29 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers: