🤗 Daily Hugging Face Paper Digest - 2026-06-03

Báo cáo được tạo tự động vào lúc 2026-06-28 21:21:41 bằng mô hình deepseek-ai/deepseek-v4-flash.

📰 Summary of Papers

1. OCC-RAG: Optimal Cognitive Core for Faithful Question Answering (98 votes)

Tác giả: Maksim Savkin, Mikhail Goncharov, Alexander Gambashidze, Alla Chepurova, Dmitrii Tarasov, et al.

Xuất bản lúc: 2026-05-30

Tag: Small Language Models, Question Answering, Retrieval-Augmented Generation, Multi-Hop Reasoning, Faithfulness, Abstention, Synthetic Data

I. Main Problem:

Các mô hình ngôn ngữ lớn thường ưu tiên kiến thức tham số hơn ngữ cảnh được cung cấp, dẫn đến phản hồi không trung thực và ảo giác trong hệ thống Hỏi-Đáp theo ngữ cảnh. Việc huấn luyện các mô hình nhỏ chuyên biệt cho nhiệm vụ này gặp khó khăn do thiếu dữ liệu huấn luyện chất lượng cao và cấu trúc suy luận phù hợp.

II. Main Idea:

OCC-RAG là một họ mô hình ngôn ngữ nhỏ (SLM), được tối ưu hóa cho Hỏi-Đáp trung thực dựa trên ngữ cảnh. Mô hình được huấn luyện giữa kỳ trên một kho dữ liệu tổng hợp hơn 3 triệu mẫu, bao gồm các tình huống suy luận đa bước, tuân thủ ngữ cảnh nghiêm ngặt và từ chối trả lời có kiểm soát. Đầu ra của mô hình là các dấu vết suy luận có cấu trúc, bao gồm trích dẫn nguồn chính xác từ ngữ cảnh và quyết định trả lời hoặc từ chối rõ ràng.

III. Main Results:

OCC-RAG-0.6B và 1.7B vượt trội hơn các mô hình cùng kích cỡ và cạnh tranh với các mô hình lớn hơn 2-6 lần trên các chuẩn suy luận đa bước, trung thực và từ chối.
Trên ConFiQA, OCC-RAG-0.6B đạt độ chính xác 79.9%, vượt Qwen3-1.7B (lớn hơn 2.8 lần) 9.5 điểm; tỷ lệ ghi nhớ (MR) chỉ 5.2 so với 8.3.
Trên MuSiQue, OCC-RAG-1.7B đạt 81.4 điểm, cao hơn Pleias-RAG-1.2B 21.6 điểm.
Cả hai mô hình OCC-RAG đều đạt kết quả trung thực tốt nhất ở mọi kích thước đánh giá, với MR thấp nhất là 5.0.
OCC-RAG-1.7B đạt 87.2% độ chính xác từ chối, tương đương các mô hình 8B tham số.

IV. Conclusion & Future Works:

OCC-RAG chứng minh rằng sự trung thực không chỉ đến từ quy mô mô hình mà có thể được học thông qua chương trình huấn luyện và định dạng giám sát phù hợp. Hướng tương lai có thể bao gồm tối ưu hóa chiến lược sinh dữ liệu và mở rộng cho các lĩnh vực chuyên biệt hơn.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu tác động của việc tăng cường dữ liệu tổng hợp cho các ngôn ngữ ngoài tiếng Anh, đánh giá khả năng khái quát hóa của mô hình OCC-RAG.
Phát triển một phiên bản OCC-RAG có khả năng xử lý nhiều ngữ cảnh đến từ nhiều nguồn khác nhau (văn bản, bảng biểu, hình ảnh) trong cùng một câu hỏi.
Tích hợp OCC-RAG với cơ chế truy xuất thông tin động để xây dựng hệ thống RAG hoàn chỉnh, tối ưu cho cả tốc độ và độ chính xác.

2. Patent:

Hệ thống trợ lý ảo trên điện thoại: Khi người dùng hỏi về một sản phẩm, hệ thống sẽ truy xuất thông tin từ trang web bán hàng và chỉ trả lời dựa trên thông tin đó, tránh đưa ra các thông tin sai lệch từ kiến thức nội bộ.
Ứng dụng hỗ trợ học tập: Học sinh chụp ảnh một đoạn sách giáo khoa và đặt câu hỏi về nội dung; ứng dụng chỉ phân tích và trả lời dựa trên đoạn văn bản đó, không sử dụng kiến thức từ các nguồn khác.
Trợ lý pháp lý trên thiết bị di động: Luật sư nhập văn bản luật và đặt câu hỏi; hệ thống sẽ trích xuất các điều khoản liên quan và đưa ra câu trả lời có trích dẫn chính xác, đảm bảo độ tin cậy và tránh hiểu sai.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2606.00683
ArXiv Abstract	https://arxiv.org/abs/2606.00683
PDF Download	https://arxiv.org/pdf/2606.00683.pdf
Github Repository	https://github.com/optimal-cognitive-core/OCC-RAG

2. KVarN: Variance-Normalized KV-Cache Quantization Mitigates Error Accumulation in Reasoning Tasks (67 votes)

Tác giả: Lorenz K. Muller, Philippe Bich, Chiara Boretti, Hyun-Min Chang, Jiawei Zhuang, et al.

Xuất bản lúc: 2026-06-02

Tag: KV-Cache, Quantization, Large Language Models, Error Accumulation, Hadamard Rotation, Variance Normalization, Reasoning Tasks, Memory Optimization

I. Main Problem:

Các phương pháp lượng tử hóa KV-Cache hiện tại được đánh giá trong chế độ prefill cố định, nơi lỗi không tích lũy. Khi áp dụng cho sinh tự hồi quy dài hạn (test-time scaling), lỗi lượng tử hóa tích lũy theo thời gian do việc không bảo toàn được scale từng token, dẫn đến suy giảm chất lượng đầu ra đáng kể.

II. Main Idea:

KVarN giới thiệu một bộ lượng tử hóa KV-Cache không cần calibration, kết hợp Hadamard rotation (giảm outlier kênh) và dual-scaling variance normalization chuẩn hóa phương sai trên cả hai chiều token và kênh. Khác với các phương pháp trước chỉ scale một chiều, cách này trực tiếp khắc phục lỗi magnitude token—nguyên nhân chính của outlier error. KVarN hoạt động online trên từng khối token mới với overhead rất thấp (0.18%).

III. Main Results:

KVarN đạt state-of-the-art trên AIME24, MATH500, HumanEval và IFEval ở độ chính xác 2.3 bit/element, vượt KIVI, QuaRot, PolarQuant và các baseline khác.
Ví dụ: trên Qwen3-4B (AIME24), KVarN đạt 60.0% (FP16: 61.1%), trong khi KIVI chỉ 55.5%; trên HumanEval, KVarN đạt 88.4% (KIVI: 86.4%).
Line-retrieval accuracy trên 600 dòng: KVarN đạt 85% (KIVI: 74%) trên Qwen3-4B và 95% (KIVI: 82%) trên Phi-4-14B.
Lỗi tái tạo attention đầu ra của KVarN thấp hơn hẳn KIVI và ít tích lũy hơn khi ngữ cảnh dài (30k token).
Overhead đo được chỉ 0.18% so với vLLM baseline (1.9 ms normalization so với 1050 ms sinh 128 token).

IV. Conclusion & Future Works:

KVarN chứng minh rằng lỗi outlier do sai magnitude token là yếu tố chính gây suy giảm trong lượng tử hóa KV-Cache sinh dài. Phương pháp variance normalization kết hợp Hadamard rotation ức chế hiệu quả lỗi tích lũy, cho phép gần như không mất mát ở 2.3 bit. Có thể mở rộng kết hợp với các kỹ thuật eviction/merging và tối ưu thêm cho các mô hình lớn hơn.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu kết hợp KVarN với eviction dựa trên attention score để giảm thêm dung lượng KV-Cache mà vẫn giữ chất lượng suy luận dài hạn.
Mở rộng variance normalization cho các mô hình multimodal (Vision-Language) có KV-Cache lớn, đánh giá trên tác vụ video understanding và image captioning.
Phân tích lý thuyết sâu hơn về sự tương tác giữa Hadamard rotation và variance normalization, xây dựng bound lỗi cho lượng tử hóa KV-Cache dạng pseudo-decode.

2. Patent:

Ứng dụng KVarN vào ứng dụng chatbot di động: giảm dung lượng KV-Cache giúp chạy mô hình suy luận trực tiếp trên thiết bị, tiết kiệm băng thông và pin, phù hợp cho trợ lý ảo offline.
Tích hợp KVarN vào nền tảng đám mây serving (vLLM, TensorRT-LLM) giúp tăng số user đồng thời xử lý các tác vụ coding/reasoning dài mà không tăng chi phí bộ nhớ GPU đáng kể.
Module lượng tử hóa thích ứng cho điện thoại: tự động kích hoạt KVarN khi phát hiện chuỗi suy luận dài (ví dụ giải toán, viết code), tối ưu giữa tốc độ và dung lượng theo thời gian thực.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2606.03458
ArXiv Abstract	https://arxiv.org/abs/2606.03458
PDF Download	https://arxiv.org/pdf/2606.03458.pdf
Github Repository	https://github.com/huawei-csl/KVarN

3. From Activation to Causality: Discovery of Causal Visual Representations in the Human Brain (54 votes)

Tác giả: Yuval Golbari, Navve Wasserman, Matias Cosarinsky, Roman Beliy, Aude Oliva, et al.

Xuất bản lúc: 2026-05-22

Tag: fMRI, Causal Discovery, Visual Representations, Brain-Computer Interface, Generative Models, LLMs, Counterfactual

I. Main Problem:

Các phương pháp dựa trên kích hoạt (activation) không thể phân biệt giữa vùng não thực sự đại diện cho một khái niệm thị giác và vùng phản ứng do các yếu tố tương quan như màu sắc, nền, hoặc tư thế gây ra. Thiếu kiểm tra nhân quả dẫn đến tỷ lệ dương tính giả cao, đặc biệt khi khảo sát hàng trăm khái niệm.

II. Main Idea:

BrainCause tự động xây dựng bộ kích thích có kiểm soát gồm ảnh khái niệm, ảnh chỉnh sửa loại bỏ khái niệm (counterfactual), và ảnh với các khái niệm tương quan (semantic negatives). Nó dùng mô hình mã hóa ảnh-fMRI để dự đoán phản ứng não, sau đó xếp hạng các voxel dựa trên điểm nhân quả (causal score) thay vì chỉ điểm kích hoạt, giúp phát hiện vùng não thực sự đặc hiệu cho khái niệm.

III. Main Results:

Tỷ lệ dương tính giả (FPR) giảm từ 73.4% (phương pháp kích hoạt) xuống 23% (BrainCause).
Tỷ lệ dương tính thật (TPR) tăng từ 26.6% lên 38.7%.
BrainCause khôi phục chính xác các vùng chức năng nổi tiếng: khuôn mặt (độ chính xác 90%), cơ thể (99%), địa điểm (74%), chữ viết (99%).
Điểm nhân quả (causal score) trên dữ liệu tạo sinh tăng từ -0.44 (MindSimulator) lên 0.62 (BrainCause).

IV. Conclusion & Future Works:

BrainCause khẳng định tầm quan trọng của kiểm tra nhân quả trong khám phá biểu diễn thị giác não bộ, phát hiện nhiều vùng đặc hiệu cho khái niệm tinh vi. Hướng tương lai: cải thiện pipeline lặp, cho phép kết quả hiện tại hướng dẫn tạo ra các counterfactual và semantic negatives mới để kiểm định chặt chẽ hơn.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng BrainCause sang các phương thức khác (thính giác, xúc giác) bằng cách tạo kích thích có kiểm soát và kiểm tra nhân quả cho từng phương thức cảm nhận.
Kết hợp BrainCause với mô hình ngôn ngữ lớn để tự động đề xuất các giả thuyết đối lập (counter-hypotheses) phức tạp hơn, giúp kiểm tra sâu hơn các yếu tố tương quan tiềm ẩn.
Áp dụng BrainCause lên dữ liệu fMRI quy mô lớn (hàng nghìn khái niệm) để xây dựng bản đồ nhân quả toàn diện của vỏ não thị giác, phục vụ nghiên cứu tổ chức tri thức thị giác.

2. Patent:

Hệ thống giao diện não-máy tính (BCI) dùng BrainCause để tối ưu hóa kích thích thị giác: thiết bị di động hiển thị ảnh được tạo tùy chỉnh (có counterfactual) để nhanh chóng xác định vùng não liên quan đến ý định của người dùng, giảm thời gian huấn luyện.
Ứng dụng điện thoại thông minh chẩn đoán rối loạn thị giác: người dùng xem ảnh gốc và ảnh chỉnh sửa (loại bỏ khái niệm) trên màn hình; điện thoại phân tích phản ứng mắt (eye-tracking) kết hợp mô hình dự đoán fMRI để phát hiện bất thường trong biểu diễn não, không cần máy quét đắt tiền.
Công cụ cá nhân hóa nội dung trên thiết bị đeo thông minh: dựa trên phản ứng não (đo qua EEG di động) với các ảnh gốc và counterfactual, hệ thống điều chỉnh giao diện (màu sắc, biểu tượng, văn bản) để tăng cường sự chú ý hoặc giảm thiểu gây nhầm lẫn cho người dùng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.23895
ArXiv Abstract	https://arxiv.org/abs/2605.23895
PDF Download	https://arxiv.org/pdf/2605.23895.pdf
Github Repository	N/A

4. Benchmarking Visual State Tracking in Multimodal Video Understanding (52 votes)

Tác giả: Sihyun Yu, Nanye Ma, Pinzhi Huang, Hyunseok Lee, Shusheng Yang, et al.

Xuất bản lúc: 2026-06-02

Tag: Multimodal Large Language Models, Video Understanding, Visual State Tracking, Benchmark, MLLMs

I. Main Problem:

Các Mô hình Ngôn ngữ Lớn Đa phương thức (MLLMs) hiện tại hoạt động tốt trên các benchmark hiểu video thông thường, nhưng hầu hết các benchmark này không yêu cầu theo dõi trạng thái liên tục; câu trả lời có thể suy ra từ một vài khung hình chính. Khả năng theo dõi trạng thái trực quan (visual state tracking) – vốn là nền tảng cho hiểu video thực thụ – vẫn chưa được chẩn đoán bài bản, đặc biệt là trong các tình huống thực tế phức tạp.

II. Main Idea:

Bài báo giới thiệu VSTAT, một benchmark video đa dạng (834 clip, 1,500 câu hỏi) buộc MLLMs phải liên tục cảm nhận và tổng hợp sự kiện trên toàn bộ luồng video. Khác các benchmark cũ, VSTAT loại bỏ các đường tắt trực quan (lối tắt từ vài khung hình). Để phân tích nguyên nhân thất bại, các tác giả thực nghiệm đối chiếu hiệu năng trên video gốc với bản ghi văn bản chi tiết. Kết quả cho thấy nút thắt chính không phải là suy luận mà là khả năng nhận thức trực quan (perception) các sự kiện cần theo dõi.

III. Main Results:

State-of-the-art MLLMs (Gemini-3.1 Pro) chỉ đạt ~44% trên VSTAT, thấp xa con người (~90.5%).
MLLMs giải quyết hoàn hảo cùng tác vụ khi được cung cấp bản ghi văn bản, nhưng rơi về mức ngẫu nhiên khi dùng video – chứng tỏ nút thắt là thị giác.
Kéo giãn thời gian video (để giảm mất sự kiện do lấy mẫu thưa) chỉ cải thiện không đáng kể (~2%).
Hơn 50% lỗi đến từ nhận diện sự kiện sai (event recognition), không phải suy luận hay cập nhật trạng thái.
Các framework agentic (AVP, Claude Code) không khắc phục được thất bại, hiệu năng vẫn rất thấp.

IV. Conclusion & Future Works:

VSTAT vạch ra lỗ hổng lớn giữa MLLMs và con người trong theo dõi trạng thái trực quan. Nghiên cứu tương lai nên tập trung cải thiện khả năng nhận thức thị giác (visual perception) bên cạnh suy luận – đặc biệt trên các tác vụ dài, đa thực thể và bị che khuất.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng VSTAT với các tác vụ động học phức tạp hơn (ví dụ: theo dõi thay đổi trạng thái siêu mượt của chất lỏng hoặc khí) để kiểm tra giới hạn perception của MLLMs.
Phát triển kiến trúc hybrid tích hợp bộ nhớ thị giác ngắn hạn chuyên dụng vào MLLMs, giúp mô hình lưu giữ và cập nhật trạng thái ẩn theo thời gian thực.
Xây dựng pipeline thích nghi trực quan động: MLLM tự động điều chỉnh tần suất lấy mẫu khung hình và vùng quan tâm dựa trên độ biến thiên của sự kiện trong video.

2. Patent:

Ứng dụng trên điện thoại thông minh kiểm tra quy trình: người dùng quay video lắp ráp đồ nội thất; hệ thống đếm số bước đã làm, dò sai sót và đưa ra chỉ dẫn trực tiếp sau mỗi thao tác.
Hệ thống giám sát an ninh thông minh: camera theo dõi số lượng người, vật thể di chuyển hoặc kiện hàng được bốc xếp, tạo báo cáo tổng kết dạng văn bản và cảnh báo sai lệch so với kịch bản, ngay cả khi camera bị rung lắc.
Tính năng huấn luyện thể thao cho thiết bị di động: quay video thi đấu bóng rổ; MLLM đếm số cú ném rổ và xác định ai ném, tự động tạo thống kê hiệu suất từng cầu thủ.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2606.03920
ArXiv Abstract	https://arxiv.org/abs/2606.03920
PDF Download	https://arxiv.org/pdf/2606.03920.pdf
Github Repository	https://github.com/vision-x-nyu/vstat

5. Trust Region On-Policy Distillation (45 votes)

Tác giả: Xingrun Xing, Haoqing Wang, Boyan Gao, Ziheng Li, Yehui Tang

Xuất bản lúc: 2026-05-31

Tag: Knowledge Distillation, On-Policy Distillation, Large Language Models, Reasoning Models, Trust Region, Reverse KL, Forward KL

I. Main Problem:

On-Policy Distillation (OPD) cho mô hình ngôn ngữ lớn gặp mất ổn định khi phân phối của teacher và student khác biệt lớn. Teacher cung cấp tín hiệu giám sát không đáng tin cậy trên các token do student sinh ra, dẫn đến gradient chính sách sai lệch và có thể khiến quá trình huấn luyện thất bại.

II. Main Idea:

TrOPD phân vùng token do student sinh thành vùng tin cậy (trust region) và vùng ngoại lai (outlier) dựa trên tỷ lệ đồng thuận giải mã giữa teacher và student. Trong vùng tin cậy, nó dùng Reverse KL ước lượng K1; trong vùng ngoại lai, nó dùng Forward KL top-k để giữ tín hiệu hữu ích và tránh gradient không ổn định. Ngoài ra, TrOPD thêm hướng dẫn off-policy: student tiếp tục sinh từ prefix của teacher và bắt chước bằng Forward KL, khuyến khích student khám phá các vùng mà teacher có thể giám sát đáng tin cậy.

III. Main Results:

TrOPD cải thiện OPD gốc +3.34 điểm trên toán, +4.00 trên mã, +5.11 trên hướng dẫn, +6.18 trên STEM (dùng Qwen3-1.7B).
Trên DeepSeek-Qwen2.5-1.5B, TrOPD đạt trung bình 40.63, vượt OPD (37.11) và REOPOLD (38.79) trên 5 benchmark đa miền.
Kết hợp TrOPD với AOPD đạt 41.67, cho thấy tính trực giao của hai phương pháp.
Áp dụng FKL riêng trên vùng ngoại lai (FKL Outlier) đạt kết quả tốt hơn clip hay mask outlier.
Hướng dẫn off-policy cải thiện ổn định cho mọi biến thể của TrOPD.

IV. Conclusion & Future Works:

TrOPD cung cấp khung làm việc tin cậy và ổn định cho OPD trong suy luận, bằng cách triệt tiêu gradient không đáng tin cậy và bảo toàn tín hiệu giám sát thông tin. Hướng tương lai: kết hợp thêm giai đoạn pre-training và mid-training để nâng cao hiệu suất thực tế của mô hình suy luận nhỏ.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu mở rộng TrOPD cho mô hình đa phương thức (ví dụ văn bản-hình ảnh), nơi phân phối teacher-student lệch nhiều hơn do khác biệt modality.
Kết hợp TrOPD với kỹ thuật active learning để student tự chọn vùng sinh khám phá dựa trên độ không chắc chắn của teacher, thay vì ngưỡng tĩnh.
Áp dụng TrOPD cho agent learning trong môi trường tương tác phức tạp, nơi student cần học từ phản hồi hiếm và chuỗi hành động dài.

2. Patent:

Hệ thống tinh chỉnh mô hình ngôn ngữ nhỏ trên điện thoại: dùng mô hình lớn đám mây làm teacher, chỉ huấn luyện student trên các token mà teacher đánh giá đáng tin cậy, giảm tải tính toán và bộ nhớ.
Phương pháp tự động phát hiện và loại bỏ phản hồi không đáng tin cậy khi huấn luyện chatbot trực tuyến: khi teacher không chắc chắn về câu trả lời của student, dùng forward KL thay vì reverse KL để ổn định quá trình học.
Công cụ hỗ trợ lập trình trên di động: dùng mô hình teacher mạnh hướng dẫn student sinh mã, với cơ chế kiểm tra độ tin cậy theo từng token, giúp tránh lỗi gradient và cải thiện chất lượng mã.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2606.01249
ArXiv Abstract	https://arxiv.org/abs/2606.01249
PDF Download	https://arxiv.org/pdf/2606.01249.pdf
Github Repository	N/A

6. Humanoid-GPT: Scaling Data and Structure for Zero-Shot Motion Tracking (41 votes)

Tác giả: Zekun Qi, Xuchuan Chen, Dairu Liu, Chenghuai Lin, Yunrui Lian, et al.

Xuất bản lúc: 2026-06-02

Tag: Humanoid, Motion Tracking, Zero-Shot, Causal Transformer, Scaling Law, RL, Knowledge Distillation

I. Main Problem:

Các bộ theo dõi chuyển động người máy hiện tại (thường là MLP nông) huấn luyện trên tập dữ liệu nhỏ (khoảng 7 triệu khung hình) gặp đánh đổi giữa độ linh hoạt và khái quát hóa: chúng chỉ theo dõi tốt chuyển động trong tập luyện nhưng kém khi gặp chuyển động mới lạ, và những mô hình khái quát hóa tốt thường không bắt kịp các động tác phức tạp.

II. Main Idea:

Humanoid-GPT là một Transformer nhân quả được tiền huấn luyện trên một kho ngữ liệu chuyển động 2B khung hình — gấp 200 lần so với trước đây. Hệ thống gồm ba giai đoạn: (a) thu thập và lọc dữ liệu, (b) huấn luyện 300 chuyên gia RL, mỗi chuyên gia theo dõi một cụm chuyển động riêng (phân cụm bằng Harmonic Motion Embedding), và (c) chưng cất tất cả chuyên gia thành một chính sách tổng quát duy nhất bằng DAgger song song trên Transformer. Mô hình này tận dụng sức mạnh của dữ liệu lớn, sự cân bằng đa dạng (HME) và kiến trúc có thể mở rộng để theo dõi zero-shot.

III. Main Results:

Trên mô phỏng, Humanoid-GPT-L (80.4M tham số, 2B dữ liệu) đạt 92.58% tỷ lệ thành công, cải thiện đáng kể so với các baseline MLP (sớm bão hòa).
Đường cong scaling rõ ràng: tăng cả dữ liệu và kích thước mô hình đều giảm lỗi MPJPE, MPJVE, RootVelErr, MPKPE.
Thử nghiệm thực tế với robot Unitree G1: mô hình zero-shot theo dõi thành công các vũ đạo phức tạp và điều khiển teleoperation real-time chưa từng thấy trong tập luyện.
HME chứng minh rằng đa dạng và cân bằng đều cần thiết: tập dữ liệu mới có độ phủ latent (log-volume) cao hơn 4-5 lần so với AMASS.
Tối ưu inference đạt dưới 1.5ms trên GPU RTX 4090 nhờ ONNX, TensorRT và pipeline C++.

IV. Conclusion & Future Works:

Humanoid-GPT cho thấy scale dữ liệu và mô hình là chìa khóa phá vỡ đánh đổi agility–generalization, thiết lập nền tảng mới cho humanoid tracking zero-shot. Hướng tương lai có thể mở rộng cho nhiều loại robot hơn, tương tác với đối tượng trong môi trường phức tạp và tối ưu hóa chiến lược thăm dò tự động.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng kho dữ liệu chuyển động với các tương tác đồ vật (ngồi ghế, bơi) và kiến trúc HME thích ứng để phân cụm chính xác hơn, giúp robot zero-shot xử lý môi trường có chướng ngại.
Kết hợp Humanoid-GPT với mô hình ngôn ngữ lớn để điều khiển robot bằng lệnh mô tả chuyển động (text-to-motion tracking), cho phép người dùng ra lệnh tự nhiên.
Nghiên cứu cơ chế học tăng cường online cho Transformer tracker, cho phép robot tự điều chỉnh khi gặp chuyển động hoàn toàn mới sau triển khai.

2. Patent:

Hệ thống điều khiển robot hình người qua camera điện thoại: người dùng quay video mẫu (nhảy, vẫy tay) app gửi lên cloud và mô hình Humanoid-GPT zero-shot tái tạo chuyển động trên robot thật, không cần lập trình.
Ứng dụng robot hỗ trợ tập thể dục: robot quan sát người tập qua camera và mô phỏng chuyển động zero-shot để hướng dẫn, đồng thời phát hiện sai tư thế dựa trên lỗi keypoint.
Module teleoperation cho robot chăm sóc người già: người dùng điều khiển từ xa bằng body motion qua MoCap điện thoại, robot sao chép chuyển động real-time zero-shot, hỗ trợ đứng dậy hoặc mang đồ.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2606.03985
ArXiv Abstract	https://arxiv.org/abs/2606.03985
PDF Download	https://arxiv.org/pdf/2606.03985.pdf
Github Repository	https://github.com/GalaxyGeneralRobotics/Humanoid-GPT

7. World Models Meet Language Models: On the Complementarity of Concrete and Abstract Reasoning (29 votes)

Tác giả: Yucheng Zhou, Wei Tao, Yiwen Guo, Jianbing Shen

Xuất bản lúc: 2026-06-02

Tag: World Models, Multimodal LLMs, Future Prediction, Reasoning, Self-Distillation, Visual Simulation

I. Main Problem:

Các mô hình world model có thể tạo ra video về tương lai, còn MLLM có thể lập luận trừu tượng, nhưng việc kết hợp chúng một cách ngây thơ thất bại vì các rollout (mô phỏng tương lai) thường nhiễu và không chính xác. MLLM không biết khi nào nên gọi world model, làm sao để kiểm tra rollout, và mức độ tin tưởng vào nó, dẫn đến hai lỗi: 'Simulation Inertia' (ngại gọi) và 'Forced-Simulation Paradox' (gọi ép làm giảm độ chính xác).

II. Main Idea:

Bài báo định nghĩa bài toán 'controlled concrete reasoning' (suy luận cụ thể có kiểm soát), nơi MLLM học cách quyết định khi nào gọi world model, viết prompt mô phỏng, xác thực rollout, và quyết định mức độ dựa vào nó so với suy luận trừu tượng. Để huấn luyện, họ đề xuất PF-OPSD (Privileged-Future On-Policy Self-Distillation): trong lúc huấn luyện, một evaluator đặc quyền có video tương lai thật và đáp án để chấm điểm các quyết định suy luận của student, rồi dùng trọng số lợi thế (advantage-weighted distillation) để tinh chỉnh student. Lúc kiểm tra, student không có quyền truy cập vào tương lai thật.

III. Main Results:

PF-OPSD đạt độ chính xác 72.4% trên VRQABench và 70.5% trên OpenWorldQA, cải thiện lần lượt 10.6% và 10.9% so với baseline SFT.
Khi loại bỏ các thành phần chính (quyết định mô phỏng, xác thực rollout, reliance), độ chính xác giảm đáng kể (ví dụ: mất xác thực rollout giảm còn 65.2%).
Cross-world-model diagnostic: PF-OPSD vẫn mạnh hơn so với chạy mô phỏng bắt buộc cả khi dùng world model mạnh hơn (Wan 2.2).
PF-OPSD chỉ gọi world model 42.5% số mẫu, tăng cường gọi cho các mẫu khó nhưng vẫn giữ tỷ lệ gọi không cần thiết thấp.
Khi đối mặt với rollout nhiễu, PF-OPSD giảm tỷ lệ chấp nhận từ 92.5% (chất lượng cao) xuống 5.2% (hỏng nặng), độ chính xác giảm nhẹ thay vì sụp đổ.

IV. Conclusion & Future Works:

PF-OPSD chứng minh rằng việc sử dụng thông tin tương lai đặc quyền trong huấn luyện để tinh chỉnh các quyết định suy luận cụ thể có kiểm soát mang lại độ chính xác và độ bền vững cao hơn so với việc chỉ gắn world model một cách thụ động. Hướng phát triển có thể mở rộng ra các lĩnh vực chuyên biệt hơn, thời gian dự đoán dài hơn, và các hình thức giám sát tương lai yếu hơn.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng khuôn khổ PF-OPSD sang các tác vụ tương tác (ví dụ: robot điều khiển) để học cách cân bằng giữa trực quan hóa hành vi tương lai và lập luận kế hoạch.
Nghiên cứu cách PF-OPSD thích ứng với các world model khác nhau mà không cần huấn luyện lại, khai thác khả năng đánh giá rollout một cách tự động.
Khám phá việc áp dụng PF-OPSD trong các lĩnh vực như dự báo thời tiết hoặc mô phỏng giao thông, nơi có các mô phỏng nhiễu và cần quyết định khi nào nên tin vào chúng.

2. Patent:

Phương pháp hỗ trợ quyết định trên điện thoại: ứng dụng chụp ảnh khung cảnh hiện tại (ví dụ: một bãi đỗ xe) và hỏi 'xe nào sẽ đỗ ở đây tiếp theo?'; MLLM trên cloud kết hợp với video mô phỏng tương lai do world model tạo ra để đưa ra câu trả lời tối ưu.
Tính năng chụp ảnh món ăn trên điện thoại để dự đoán kết quả khi nấu (ví dụ: 'cho hành tây vào chảo sẽ thế nào?'); hệ thống gọi world model tạo video mô phỏng và MLLM lập luận để đưa ra hướng dẫn nấu ăn chính xác.
Trợ lý sửa chữa đồ dùng gia đình: người dùng chụp ảnh đồ vật bị hỏng và hỏi 'nếu xoay cái này như thế nào?'; ứng dụng quyết định có cần mô phỏng chuyển động bằng world model hay không, sau đó đưa ra hướng dẫn dựa trên video mô phỏng hoặc kiến thức chung.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2606.03603
ArXiv Abstract	https://arxiv.org/abs/2606.03603
PDF Download	https://arxiv.org/pdf/2606.03603.pdf
Github Repository	https://github.com/yczhou001/PF-OPSD

8. Language Models Need Sleep: Learning to Self-Modify and Consolidate Memories (29 votes)

Tác giả: Ali Behrouz, Farnoosh Hashemi, Vahab Mirrokni

Xuất bản lúc: 2026-06-02

Tag: Large Language Models, Continual Learning, Memory Consolidation, Knowledge Distillation, Catastrophic Forgetting, Dreaming, Reinforcement Learning

I. Main Problem:

Các mô hình ngôn ngữ lớn (LLMs) sau khi triển khai thường tĩnh, không thể liên tục học kiến thức mới. Chúng gặp nghịch lý: hoặc kiến thức trở nên lỗi thời, hoặc phải cập nhật tham số gây ra hiện tượng quên thảm khốc (catastrophic forgetting). In-context learning cũng giới hạn trong cửa sổ ngữ cảnh, không chuyển được tri thức ngắn hạn thành dài hạn.

II. Main Idea:

Bài báo đề xuất 'giấc ngủ' (Sleep paradigm) cho LLM, lấy cảm hứng từ củng cố trí nhớ não người. Giai đoạn đầu là 'Củng cố trí nhớ' (Memory Consolidation): mô hình dùng Knowledge Seeding, chưng cất kiến thức từ các lớp cập nhật nhanh (bộ nhớ ngắn hạn) sang các tham số mới khởi tạo ở lớp cập nhật chậm (bộ nhớ dài hạn), kết hợp học bắt chước dựa trên RL. Giai đoạn hai là 'Mơ' (Dreaming): mô hình tự sinh dữ liệu tổng hợp (dreams) để tự cải thiện, chọn lọc các dream có độ quan trọng cao dựa trên gradient, tránh quên kiến thức.

III. Main Results:

Tích hợp Memory Consolidation (Hope + giấc ngủ) cải thiện đáng kể học liên tục class-incremental trên CLINC, Banking, DBpedia so với EWC, InCA, và ICL.
Hiệu suất tăng tỷ lệ thuận với số lần 'ngủ' trên các tác vụ hiểu ngữ cảnh dài như LongHealth, QASPER, MK-NIAH.
Self-distillation qua on-policy học bắt chước RL cho độ chính xác cao hơn chưng cất truyền thống.
Phương pháp giảm quên thảm khốc so với các baseline cập nhật tham số liên tục.
Có hiệu quả trên cả Llama-3B và Llama3-8B.

IV. Conclusion & Future Works:

Sleep paradigm là cơ chế hiệu quả để LLM chuyển tri thức ngắn hạn thành dài hạn mà không quên kiến thức cũ. Tương lai có thể tối ưu hóa chiến lược mở rộng tham số, kết hợp online và offline consolidation, và áp dụng cho các mô hình đa phương thức.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng self-Knowledge Seeding cho mô hình đa phương thức (text-image-audio), nơi các modality khác nhau có tần số cập nhật khác nhau, giúp củng cố chéo kiến thức.
Kết hợp dreaming với reinforcement learning từ phản hồi con người (RLHF) để tự sinh dữ liệu đào tạo chất lượng cao, cải thiện khả năng suy luận và an toàn của LLM.
Nghiên cứu tác động của tần suất 'ngủ' và kích thước tham số mở rộng lên hiệu quả học liên tục trong môi trường luồng dữ liệu thay đổi nhanh.

2. Patent:

Trợ lý ảo trên điện thoại có khả năng 'ngủ' đêm: sau một ngày tương tác, mô hình tự động chưng cất kiến thức mới (sở thích, thói quen) vào tham số dài hạn, không cần người dùng huấn luyện lại.
Ứng dụng điều khiển nhà thông minh: thiết bị IoT học lịch trình sử dụng vào ban ngày; ban đêm chạy giai đoạn dreaming để tối ưu hóa dự đoán nhu cầu mà không ảnh hưởng đến hoạt động ban ngày.
Trình gõ phím dự đoán trên mobile: mô hình nhỏ trên thiết bị tự động mở rộng dung lượng bộ nhớ mỗi tuần, chưng cất phong cách gõ mới từ bộ nhớ tạm vào bộ nhớ dài hạn, cải thiện độ chính xác mà không làm chậm máy.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2606.03979
ArXiv Abstract	https://arxiv.org/abs/2606.03979
PDF Download	https://arxiv.org/pdf/2606.03979.pdf
Github Repository	N/A

9. AutoMedBench: Towards Medical AutoResearch with Agentic AI Models (27 votes)

Tác giả: Junqi Liu, Selena Song, Yuhan Wang, Jiawei Mao, Hardy Chen, et al.

Xuất bản lúc: 2026-06-03

Tag: Medical AI, Autonomous Agents, Benchmark, Workflow Evaluation, Medical Imaging, LLMs

I. Main Problem:

Các benchmark hiện tại cho agent AI trong y tế chỉ đánh giá kết quả đầu ra cuối cùng, không cung cấp thông tin chi tiết về hành vi của agent trong suốt quy trình nghiên cứu dài hạn. Điều này che khuất các điểm hỏng hóc ở từng giai đoạn (ví dụ: lập kế hoạch, xác thực) và khiến khó xác định lý do thất bại thực sự.

II. Main Idea:

AutoMedBench là benchmark có nhận thức về quy trình làm việc (workflow-aware) cho nghiên cứu AI y tế tự động. Nó tổ chức mỗi lần chạy agent thành năm giai đoạn thống nhất: Plan (Lập kế hoạch), Setup (Thiết lập), Validate (Xác thực), Inference (Suy luận) và Submit (Nộp bài). Mỗi tác vụ được đánh giá qua điểm quy trình (Agentic Score) và điểm kết quả (Task Score), cùng với mã lỗi chẩn đoán sau khi chạy, giúp phát hiện các lỗi tiềm ẩn như tải mô hình thất bại, lỗi kích thước dữ liệu hay bỏ qua bước xác thực.

III. Main Results:

Giai đoạn Validate (Xác thực) là điểm yếu nhất trung bình, trong khi Setup (Thiết lập) là mạnh nhất.
Lỗi xác thực và nộp bài chiếm 37.7% và 38.1% tổng số lỗi, trong khi lỗi hiểu tác vụ chỉ 0.9%.
Các lần chạy có một mã lỗi có điểm tổng thể thấp hơn 48% so với lần chạy không lỗi.
Có khoảng cách 15.3 điểm giữa agent cao nhất (66.5) và thấp nhất (51.2) trên tổng thể.
Tất cả agent đều có điểm quy trình (workflow) cao hơn điểm tác vụ (task), cho thấy hoàn thành quy trình chưa đảm bảo kết quả chính xác.

IV. Conclusion & Future Works:

AutoMedBench cho thấy rào cản chính của agent nghiên cứu y tế hiện tại không chỉ là kiến thức chuyên ngành mà còn là khả năng thực thi kỹ thuật mạnh mẽ, xác thực trung gian và phục hồi lỗi. Hướng phát triển tương lai có thể mở rộng benchmark sang các tác vụ đào tạo mô hình hoặc tương tác lâm sàng dài hạn.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu cải thiện khả năng xác thực của agent bằng cách tích hợp các module kiểm tra chéo dựa trên tri thức y khoa có cấu trúc.
Phân tích tác động của các chiến lược phục hồi lỗi khác nhau (ví dụ: tự động thử lại, thông báo lỗi có ngữ cảnh) lên hiệu suất tổng thể của agent trong quy trình nghiên cứu dài hạn.
Mở rộng benchmark sang các lĩnh vực y tế khác như sinh học phân tử hoặc di truyền học để đánh giá tính tổng quát của phương pháp workflow-aware.

2. Patent:

Hệ thống trợ lý nghiên cứu y tế tự động trên điện thoại: người dùng nhập mô tả bài toán, hệ thống tự lập kế hoạch, chạy pipeline trên đám mây và gửi báo cáo kết quả kèm chỉ số chất lượng cho từng bước.
Ứng dụng kiểm tra chất lượng mô hình AI y tế trên thiết bị di động: sau khi tải mô hình, ứng dụng tự động chạy một ca kiểm tra nhanh (pilot case) và cảnh báo nếu đầu ra không hợp lệ trước khi triển khai thực tế.
Công cụ gỡ lỗi trực quan cho pipeline AI y tế trên điện thoại: hiển thị lịch sử các bước thực hiện (lập kế hoạch, thiết lập, xác thực...) kèm mã lỗi và gợi ý sửa lỗi, giúp nhà nghiên cứu dễ dàng xác định nguyên nhân thất bại.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2606.01961
ArXiv Abstract	https://arxiv.org/abs/2606.01961
PDF Download	https://arxiv.org/pdf/2606.01961.pdf
Github Repository	https://github.com/AutoMedBench/AutoMedBench

10. A Local Perturbation Theory for Cross-Domain Interference and Recovery in Multi-Domain RL (27 votes)

Tác giả: Lei Yang, Siyu Ding, Deyi Xiong

Xuất bản lúc: 2026-06-01

Tag: Reinforcement Learning, Large Language Models, Multi-Domain RL, Cross-Domain Interference, Catastrophic Forgetting, Local Perturbation Theory, Gradient Conflict

I. Main Problem:

Huấn luyện tăng cường (RL) tuần tự trên nhiều lĩnh vực (toán, code, QA, viết sáng tạo) thường làm giảm hiệu năng ở các lĩnh vực trước, nhưng hiện tượng này không thể giải thích bằng quên thảm họa thông thường hay xung đột gradient toàn cục, vì gradient toàn mô hình có thể gần trực giao dù suy giảm vẫn xảy ra. Cần xác định cơ chế chính xác của nhiễu chéo miền.

II. Main Idea:

Bài báo đề xuất lý thuyết nhiễu loạn cục bộ: sau khi huấn luyện miền A, các cập nhật từ miền B gây hại chủ yếu qua số hạng bậc hai, tập trung trong không gian con xung đột chung chiều thấp, thay vì xung đột gradient bậc nhất toàn cục. Dù các bản cập nhật RL thưa, nhỏ và ít trùng lặp neuron, các miền suy luận vẫn dùng chung tuyến tính hoạt động, nên hướng cập nhật trên các tuyến này quyết định tương tác có lợi hay có hại. Làm mới ngắn trên miền bị tổn thương sẽ co lại thành phần có hại trong không gian xung đột, phục hồi hiệu năng chọn lọc.

III. Main Results:

Làm mới ngắn (Re-Math) sau chuỗi Code→Math→QA→CW phục hồi điểm Math từ 57,66 lên 66,04, gần bằng chuyên gia đơn miền, trong khi các miền khác hầu như không đổi.
Kết quả trung bình tốt nhất (66,39) đạt được nhờ làm mới ngắn, vượt qua cả huấn luyện hỗn hợp JT và CGPO.
Hồi lùi có chủ đích trên 2% neuron MLP (chọn bằng tín hiệu kích hoạt chung, độ lớn cập nhật, xung đột hướng) phục hồi 20,4% tổn thất của QA gây ra cho Math.
Khi mở rộng lên 32% ngân sách (MLP+Attention), tỷ lệ phục hồi đạt 73,6%.

IV. Conclusion & Future Works:

Nhiễu chéo miền trong RL đa miền là hiện tượng cục bộ, không phải toàn mô hình, và có thể khắc phục hiệu quả bằng làm mới ngắn hoặc can thiệp thưa trên không gian xung đột. Hướng tương lai: tự động phát hiện miền bị suy giảm, tối ưu thứ tự và ngân sách làm mới, xác định chính xác không gian xung đột con để kiểm soát tốt hơn.

V. Brainstorming Space:

1. Publish Papers:

Phát triển thuật toán tự động phát hiện miền suy giảm và lịch làm mới thích ứng, mở rộng lý thuyết nhiễu loạn cục bộ cho nhiều hơn 4 miền.
Nghiên cứu chi tiết hơn về không gian xung đột con bằng phân tích phổ Hessian hoặc hồi lùi gradient, nhằm giảm ngân sách can thiệp xuống dưới 2%.
Áp dụng khung chẩn đoán tương tự cho các mô hình RL đa tác vụ khác ngoài ngôn ngữ (ví dụ: robot, game), kiểm tra tính phổ quát của cơ chế xung đột cục bộ.

2. Patent:

Phương pháp phục hồi có chọn lọc hiệu năng mô hình ngôn ngữ trên thiết bị di động: khi phone cập nhật ứng dụng mới (ví dụ: chat), chỉ cần chạy vài bước RL ngắn trên tác vụ cũ (ví dụ: trợ lý giọng nói) để khôi phục chất lượng mà không ảnh hưởng đến ứng dụng mới.
Hệ thống cá nhân hóa liên tục cho trợ lý ảo: trong quá trình học thói quen người dùng (đặt báo thức, nhắc việc), nếu một kỹ năng cũ suy giảm, hệ thống tự động hồi lùi cục bộ trên một tập nhỏ tham số liên quan, thay vì phải huấn luyện lại toàn bộ mô hình.
Thuật toán trộn dữ liệu thông minh cho huấn luyện mô hình trên điện thoại: dựa trên tín hiệu kích hoạt chung, hệ thống ưu tiên lưu và tái sử dụng một số mẫu từ miền cũ có nguy cơ xung đột cao, giúp duy trì hiệu năng đồng đều mà không tốn bộ nhớ lớn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2606.02398
ArXiv Abstract	https://arxiv.org/abs/2606.02398
PDF Download	https://arxiv.org/pdf/2606.02398.pdf
Github Repository	N/A

11. NVIDIA OmniDreams: Real-Time Generative World Model for Closed-Loop Autonomous Vehicle Simulation (23 votes)

Tác giả: NVIDIA, Aarti Basant, Amlan Kar, Despoina Paschalidou, Fangyin Wei, et al.

Xuất bản lúc: 2026-06-02

Tag: Autonomous Driving, Generative World Model, Diffusion Model, Closed-Loop Simulation, Real-Time Rendering, Vision-Language-Action, Video Generation, Autoregressive Model

I. Main Problem:

Đánh giá an toàn các chính sách lái xe tự động (AV) trong các tình huống hiếm gặp (long-tail) là một nút thắt quan trọng. Trong mô phỏng vòng kín (closed-loop), các mô phỏng dựa trên tái tạo (reconstruction-based) bị giới hạn bởi dữ liệu thu thập ban đầu và không thể tổng quát hóa cho các kịch bản động hoặc mới lạ.

II. Main Idea:

OmniDreams là một mô hình thế giới có tính sinh (generative world model) được huấn luyện dựa trên Cosmos diffusion model. Mô hình này tự hồi quy (autoregressively) sinh ra video theo từng bước, điều kiện hóa dựa trên các khung hình quá khứ, trạng thái mô phỏng hiện tại và hành động lái xe tức thời. Nó sử dụng KV cache để duy trì tính nhất quán theo thời gian và đạt tốc độ thời gian thực (68 FPS cho 1 camera, 105 FPS cho 4 camera).

III. Main Results:

Mô hình 2B OmniDreams đạt 68 FPS với một camera (704×1280) trên một GPU GB300 và 105 FPS với bốn camera trên 16 GPU GB300.
Khi hậu huấn luyện thành World-Action Model (WAM), OmniDreams giảm tỷ lệ va chạm từ 6.9% xuống 4.2% so với mô hình VLA ~10B tham số, trong khi chỉ dùng 1/5 tổng tham số.
Mô hình tạo ra các hiện tượng kịch bản khó như thời tiết khắc nghiệt và hành vi tác nhân bất thường (ví dụ: nệm trên nóc xe).
Huấn luyện trên 21k giờ dữ liệu lái xe từ 15 quốc gia, với 21,544 giờ tổng cộng.
Đạt độ nhất quán tạm thời trên các cuộn dài phút nhờ kiến trúc causal diffusion và KV cache.

IV. Conclusion & Future Works:

OmniDreams chứng minh tính khả thi của mô hình thế giới sinh thời gian thực cho mô phỏng vòng kín trong AV. Kết quả sơ bộ cho thấy mô hình thế giới-hành động (WAM) hậu huấn luyện từ OmniDreams có thể vượt trội hơn so với các mô hình VLA truyền thống. Hướng tương lai có thể bao gồm mở rộng ứng dụng WAM cho các chính sách lái xe và cải thiện hiệu suất cho các kịch bản dài hơn.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu khả năng của WAM hậu huấn luyện từ OmniDreams trong các tác vụ điều khiển robot khác ngoài AV, như robot công nghiệp hoặc robot gia đình.
Phát triển phương pháp để OmniDreams học mà không cần giám sát chặt chẽ từ dữ liệu mô phỏng, thay vào đó học từ video lái xe thực tế thông qua học tự giám sát (self-supervised learning).
Mở rộng OmniDreams cho việc sinh đồng thời nhiều hơn 4 camera (ví dụ: 7 camera toàn diện) mà vẫn đảm bảo tính nhất quán và hiệu suất thời gian thực.

2. Patent:

Hệ thống mô phỏng lái xe trên điện thoại thông minh cho phép người dùng tương tác với mô hình thế giới sinh để kiểm tra phản ứng của xe trong các tình huống thời tiết xấu do người dùng nhập liệu.
Trình tạo nội dung video quảng cáo cho ô tô trên thiết bị di động: người dùng mô tả kịch bản (ví dụ: 'xe chạy trong mưa lớn'), OmniDreams tạo ra video mô phỏng chân thực mà không cần quay thực tế.
Công cụ kiểm tra an toàn cho ứng dụng gọi xe: sử dụng OmniDreams trên server để mô phỏng vòng kín kịch bản nguy hiểm tự động, gửi báo cáo an toàn về điện thoại của tài xế.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2606.03159
ArXiv Abstract	https://arxiv.org/abs/2606.03159
PDF Download	https://arxiv.org/pdf/2606.03159.pdf
Github Repository	N/A

12. PaddleOCR-VL-1.6: Expanding the Frontier of Document Parsing with Under-Optimized Region Refinement and Progressive Post-Training (23 votes)

Tác giả: Zelun Zhang, Hongen Liu, Suyin Liang, Yubo Zhang, Yiqing Xiang, et al.

Xuất bản lúc: 2026-06-02

Tag: Document Parsing, Vision-Language Model, OCR, Data Engine, Reinforcement Learning, Compact Model, Post-Training

I. Main Problem:

Các mô hình phân tích tài liệu nhỏ gọn như PaddleOCR-VL-1.5 dù đạt hiệu suất cao vẫn còn nhiều lỗi đậm đặc, chủ yếu tập trung ở vùng dữ liệu không ổn định như gần biên quyết định, thiếu dữ liệu dài đuôi, hoặc nhãn huấn luyện không đáng tin cậy. Việc mở rộng tập huấn luyện đồng đều không giải quyết được gốc rễ của các lỗi này.

II. Main Idea:

Bài báo đề xuất khung tối ưu dữ liệu hướng đến các vùng yếu (Under-Optimized Regions UORs): phát hiện mẫu biên giòn, vùng phủ thưa và nhãn thiếu tin cậy từ mô hình hiện tại, sau đó dùng chúng làm hạt giống để truy vấn thêm dữ liệu đặc hiệu hoặc sửa nhãn. Quy trình hậu huấn luyện theo ba giai đoạn (CPT→SFT→RL) giúp dần khắc phục các vùng yếu mà không tốn tài nguyên vào dữ liệu đã tốt.

III. Main Results:

Đạt state-of-the-art 96.33% trên OmniDocBench v1.6, vượt nhiều mô hình lớn hơn.
Giữ nguyên kích thước mô hình 0.9B, không tăng tham số so với PaddleOCR-VL-1.5.
Cải thiện rõ trên các kịch bản tài liệu phức tạp: công thức, bảng, sách cổ, ký tự hiếm.
Phát hiện và sửa hơn 1% mẫu có nhãn sai và tái gán nhãn cho hàng nghìn mẫu không nhãn.

IV. Conclusion & Future Works:

PaddleOCR-VL-1.6 chứng minh rằng với mô hình nhỏ gọn, việc tập trung vào vùng yếu cục bộ và quy trình hậu huấn luyện phân đoạn mang lại hiệu quả vượt trội so với mở rộng tập dữ liệu đơn thuần. Hướng phát triển tiếp theo có thể áp dụng phương pháp này cho các tác vụ hạ nguồn khác và thiết kế chiến lược chọn mẫu RL thích nghi hơn.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng khung phát hiện vùng yếu cho các mô hình ngôn ngữ-thị giác đa mục đích, chẳng hạn VQA hoặc image captioning, để xác định và cải thiện các vùng mô hình kém ổn định.
Nghiên cứu chiến lược chọn mẫu RL dựa trên độ không chắc chắn dự đoán và entropy, áp dụng cho các mô hình nén nhỏ khác ngoài lĩnh vực tài liệu (ví dụ: robot vision).
Kết hợp phát hiện vùng yếu với active learning để tạo pipeline tự động: mô hình tự chọn dữ liệu cần gán nhãn, tiết kiệm chi phí thu thập và nâng cao hiệu suất.

2. Patent:

Hệ thống tự động sửa lỗi nhãn trong kho dữ liệu OCR trên điện thoại: dùng ba mô hình khác nhau để kiểm tra chéo; nếu có mâu thuẫn, gửi yêu cầu người dùng xác nhận hoặc tự động thay thế bằng kết quả đa số.
Phương pháp thu thập dữ liệu dài đuôi cho nhận dạng văn bản từ ảnh chụp màn hình: dựa trên độ thưa của cụm đặc trưng, tự động tìm kiếm và tải thêm ảnh có kiểu bố cục hoặc font chữ hiếm gặp.
Công cụ cải thiện độ chính xác cho nhận dạng hóa đơn trên mobile: xác định vùng biên giòn (khi thay đổi nhỏ gây sai đọc), tự động zoom hoặc điều chỉnh góc chụp để ổn định đầu ra.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2606.03264
ArXiv Abstract	https://arxiv.org/abs/2606.03264
PDF Download	https://arxiv.org/pdf/2606.03264.pdf
Github Repository	https://github.com/PaddlePaddle/PaddleOCR

13. WALL-WM: Carving World Action Modeling at the Event Joints (23 votes)

Tác giả: Shalfun Li, Victor Yao, Charles Yang, Truth Qu, Regis Cheng, et al.

Xuất bản lúc: 2026-06-01

Tag: World Action Model, Vision-Language-Action, Event-Centric Pretraining, Video Generation, Robotics, Multi-View

I. Main Problem:

Các mô hình World Action Model (WAM) hiện tại thường dùng các khối hành động có độ dài cố định, nhưng ngôn ngữ, thị giác và hành động vận hành ở các thang thời gian khác nhau. Điều này tạo ra sự không khớp hạt cơ bản: mô hình chỉ học tương quan ngắn hạn thay vì hiểu được cấu trúc ngữ nghĩa sự kiện, dẫn đến khả năng khái quát hóa kém.

II. Main Idea:

WALL-WM thay thế khối hành động cố định bằng sự kiện ngữ nghĩa gắn với hành động: một đoạn hành vi có thể thực thi, bắt đầu và kết thúc khi hành vi thay đổi. Mô hình được huấn luyện trên các cặp dữ liệu (video, hành động) được phân đoạn theo sự kiện, với caption mô tả chính sự kiện đó. WALL-WM hỗ trợ hai chế độ suy luận: suy diễn theo sự kiện (thời gian linh hoạt) và suy diễn theo khối cố định có hỗ trợ suy luận tiềm ẩn từ VLM.

III. Main Results:

WALL-WM đạt hiệu suất vượt trội trên các bài đánh giá tổng quát ở quy mô lớn trong thế giới thực.
Mô hình khái quát hóa tốt trên ngôn ngữ, cảnh quay và tác vụ.
Kiến trúc Video DiT đa góc nhìn kết hợp với Action DiT một chiều cho phép giữ nguyên các đặc trưng đã được tiền huấn luyện.

IV. Conclusion & Future Works:

WALL-WM chứng minh rằng tổ chức huấn luyện xoay quanh sự kiện ngữ nghĩa là chìa khóa để nâng cấp các mô hình nền tảng video thành World Action Model tổng quát. Hướng phát triển: tối ưu hóa chiến lược lấy mẫu sự kiện và mở rộng hỗ trợ thêm nhiều hình thái robot hơn.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu so sánh hiệu quả của việc phân đoạn sự kiện tự động (dùng VLM) so với phân đoạn thủ công trong huấn luyện World Action Model.
Mở rộng WALL-WM để hỗ trợ dự đoán đồng thời nhiều kiểu hành động khác nhau (ví dụ: cầm nắm, di chuyển) từ cùng một biểu diễn sự kiện.
Kết hợp WALL-WM với chiến lược lập kế hoạch đa mức: sự kiện cấp cao cho suy luận dài hạn, điều khiển chi tiết cho thực thi ngắn hạn.

2. Patent:

Hệ thống điều khiển robot gia đình bằng giọng nói chia lệnh thành các sự kiện: người dùng nói 'nhặt bóng và bỏ vào rổ', hệ thống tự động phân tách thành sự kiện 'nhặt' và 'bỏ', thực thi với thời gian linh hoạt.
Phương pháp tái sử dụng camera điện thoại làm cảm biến tay: khi thay đổi góc quay, robot thực hiện một sự kiện hiệu chuẩn ngắn, mô hình tự động học ánh xạ không gian mới mà không cần tham số nội tại.
Chế độ hỗ trợ lắp ráp: robot phân tích video hướng dẫn, nhận dạng các điểm mốc sự kiện (đặt, siết, xoay) và tự động chuyển thành chuỗi hành động diễn giải, giúp người dùng không cần lập trình.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2606.01955
ArXiv Abstract	https://arxiv.org/abs/2606.01955
PDF Download	https://arxiv.org/pdf/2606.01955.pdf
Github Repository	https://github.com/X-Square-Robot/wall-x

14. MIRA: Mid-training Rubric Anchoring for Source-Aware Data Selection (23 votes)

Tác giả: Haowen Wang, Yaxin Du, Jian Yang, Jiajun Wu, Shukai Liu, et al.

Xuất bản lúc: 2026-05-29

Tag: Data Selection, Mid-training, LLMs, Data Quality, Rubric-based Filtering, Source-Aware, Knowledge Distillation

I. Main Problem:

Mid-training trong phát triển LLM hiện đại sử dụng hỗn hợp dữ liệu quy mô lớn từ nhiều nguồn không đồng nhất, nhưng các phương pháp chọn lọc dữ liệu hiện có bất cập. Phương pháp dựa trên mô hình (như perplexity) có thể mở rộng nhưng thiếu tín hiệu chất lượng ngữ nghĩa rõ ràng. Phương pháp chọn lọc ngữ nghĩa (như LLM-as-judge) đưa ra đánh giá mạnh hơn nhưng thường giả định tiêu chí cố định hoặc định dạng dữ liệu chuẩn hóa, không phù hợp với dữ liệu mid-training đa dạng.

II. Main Idea:

MIRA (Mid-training Rubric Anchoring) là khung lọc dữ liệu theo nguồn, tách việc khám phá tiêu chí đánh giá (rubric discovery) khỏi việc chấm điểm có thể mở rộng (scalable scoring). Đầu tiên, MIRA nhóm các nguồn dữ liệu tương đồng thành các nhóm năng lực. Sau đó, một mô hình giáo viên (teacher model) mạnh tự do đề xuất các chiều chất lượng cho từng nhóm, và các đánh giá này được gom cụm để hình thành 'anchor rubrics' riêng cho nhóm đó. Các anchor rubrics này được dùng để gắn nhãn cho một mẫu lớn hơn, và các nhãn này được chưng cất (distill) vào các mô hình học sinh (student scorers) nhẹ, có thể chạy trên toàn bộ kho dữ liệu. Cuối cùng, MIRA tổng hợp điểm với mặt nạ độ tin cậy theo nguồn và áp dụng ngưỡng giữ lại riêng cho từng nguồn để đảm bảo đa dạng.

III. Main Results:

MIRA-Group đạt macro average tốt nhất (64.20) trên 9 benchmark code khi chỉ dùng 25B token, vượt qua các baseline Random (63.23), DataMan (63.01), DSIR (59.55) và gần bằng hiệu năng của toàn bộ kho dữ liệu 50B token (63.83).
Điểm nổi bật: MIRA-Group dẫn đầu về code generation (54.53), MIRA-Source dẫn đầu về multilingual code generation (72.84).
Phân tích cho thấy điểm số MIRA ít phụ thuộc vào độ dài văn bản (length-robust) hơn so với PPL hay DSIR.
Mặt nạ độ tin cậy theo nguồn giúp loại bỏ các chiều đánh giá không đáng tin cậy, cải thiện chất lượng tổng hợp điểm.

IV. Conclusion & Future Works:

MIRA chứng minh rằng việc tùy chỉnh tiêu chí chất lượng theo từng nhóm nguồn dữ liệu mang lại lợi ích rõ rệt cho mid-training. Hướng phát triển tương lai bao gồm tích hợp MIRA vào pipeline tối ưu hóa hỗn hợp dữ liệu rộng hơn, và nghiên cứu cách điểm số chất lượng theo nguồn tương tác với thiết kế curriculum và chiến lược sampling trong quá trình huấn luyện.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng MIRA cho các lĩnh vực năng lực khác ngoài code (ví dụ: toán học, suy luận, tác nhân đa bước) để kiểm tra tính tổng quát của khung khám phá rubric thích ứng theo nguồn.
Nghiên cứu tác động của việc tự động phát hiện nhóm nguồn thay vì gom cụm dựa trên embedding, ví dụ dùng thuật toán phân cụm động học trên không gian rubric.
Phát triển phiên bản MIRA không cần mô hình giáo viên (teacher-free), tự động xây dựng rubric từ cấu trúc dữ liệu hoặc tín hiệu huấn luyện như loss hoặc gradient.

2. Patent:

Hệ thống lọc dữ liệu cho ứng dụng chatbot: tự động phát hiện các tiêu chí chất lượng khác nhau cho dữ liệu hội thoại (ví dụ: độ hữu ích, độ an toàn) và các nguồn dữ liệu khác (ví dụ: bài viết kỹ thuật, câu hỏi đáp) để chọn ra dữ liệu tốt nhất huấn luyện AI trả lời trên điện thoại.
Phương pháp đánh giá và chọn lọc dữ liệu theo nguồn trên thiết bị di động để huấn luyện mô hình ngôn ngữ nhỏ gọn: thiết bị gửi dữ liệu về máy chủ, máy chủ dùng rubric phát hiện tự động để chấm điểm và chỉ gửi lại dữ liệu chất lượng cao, tiết kiệm băng thông và năng lượng.
Ứng dụng lọc dữ liệu chăm sóc sức khỏe: xây dựng rubric riêng cho từng loại hồ sơ bệnh án (ví dụ: chẩn đoán, xét nghiệm, đơn thuốc) để chọn dữ liệu huấn luyện AI hỗ trợ bác sĩ trên ứng dụng di động, đảm bảo tính chính xác và đầy đủ thông tin.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.30288
ArXiv Abstract	https://arxiv.org/abs/2605.30288
PDF Download	https://arxiv.org/pdf/2605.30288.pdf
Github Repository	N/A

15. Bootstrap Your Generator: Unpaired Visual Editing with Flow Matching (22 votes)

Tác giả: Yoad Tewel, Yuval Atzmon, Gal Chechik, Lior Wolf

Xuất bản lúc: 2026-06-02

Tag: Flow Matching, Image Editing, Video Editing, Unpaired Training, Cycle Consistency, Straight-Through Estimation, Gradient Routing

I. Main Problem:

Các mô hình chỉnh sửa ảnh và video hiện tại phụ thuộc vào bộ dữ liệu lớn gồm các cặp trước-sau khi chỉnh sửa, rất tốn kém và không khả thi cho các tác vụ sáng tạo dài hạn như chuyển đổi phong cách hoặc chỉnh sửa video. Câu hỏi đặt ra là liệu có thể huấn luyện mô hình chỉnh sửa mà không cần bất kỳ cặp dữ liệu có giám sát nào hay không.

II. Main Idea:

Bài báo đề xuất Bootstrap Your Generator (ByG), một khung huấn luyện không cặp cho các mô hình chỉnh sửa dạng flow matching. Phương pháp này tận dụng kiến thức của mô hình sinh nền tảng (text-to-image) đã được đóng băng để lấy tín hiệu hướng dẫn chỉnh sửa, kết hợp với cycle-consistency để bảo toàn cấu trúc nguồn. Để giải quyết vấn đề thiếu đầu vào và giám sát, ByG sử dụng cơ chế bootstrapping để mô hình tự tạo ra các mẫu huấn luyện từ dự đoán của chính nó. Một đóng góp kỹ thuật quan trọng là gradient routing, cho phép điều kiện hóa trên các dự đoán sạch trong forward pass trong khi gradient được truyền ngược qua các trạng thái nhiễu trong quá trình huấn luyện.

III. Main Results:

ByG đạt tỷ lệ thắng 75.3% trong khảo sát người dùng về chỉnh sửa video so với phương pháp có giám sát Ditto được huấn luyện trên một triệu cặp.
Trên chỉnh sửa style dài hạn, ByG vượt qua các baseline có giám sát và zero-shot, đặc biệt mạnh ở chiều từ phong cách sang chân thực (semantic 7.67 so với 6.87 của Kontext).
Trên GEdit-Bench, ByG cạnh tranh với FLUX-Kontext và vượt trội ở các hạng mục như thay đổi chuyển động, chỉnh sửa người và thay đổi style.
Ablation study cho thấy gradient routing và cycle loss là thiết yếu để bảo toàn nguồn, trong khi bootstrapping ngăn chặn sự sụp đổ của quá trình huấn luyện.

IV. Conclusion & Future Works:

ByG chứng minh rằng có thể huấn luyện mô hình chỉnh sửa ảnh và video chất lượng cao mà không cần dữ liệu cặp, chỉ dựa vào kiến thức nội tại của mô hình sinh nền. Hướng tương lai có thể mở rộng phương pháp cho các tác vụ chỉnh sửa tổng quát hơn như 4D, và cải thiện khả năng xóa đối tượng vốn yếu do tín hiệu giám sát từ caption mô tả thiếu.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng ByG cho chỉnh sửa video dài hạn với các chuyển động phức tạp: kết hợp cycle-consistency trên nhiều khung hình và gradient routing để duy trì tính nhất quán thời gian.
Cải thiện khả năng xóa đối tượng bằng cách sử dụng mô hình ngôn ngữ để sinh caption mô tả rõ ràng sự vắng mặt, thay vì chỉ lược bỏ đối tượng khỏi mô tả, nhằm cung cấp tín hiệu giám sát mạnh hơn.
Áp dụng gradient routing cho các kiến trúc sinh khác ngoài flow matching (ví dụ diffusion) để giải quyết vấn đề train-test gap khi huấn luyện không cặp với cycle loss.

2. Patent:

Hệ thống chỉnh sửa ảnh trên điện thoại cho phép người dùng thay đổi phong cách ảnh chụp thành tranh vẽ hoặc phong cách game mà không cần dữ liệu mẫu trước, chỉ cần mô tả phong cách mong muốn.
Ứng dụng chỉnh sửa video trực tiếp trên thiết bị di động có thể chuyển đổi video quay thường thành phong cách hoạt hình hoặc chân thực, với chất lượng cao mà không cần huấn luyện riêng cho từng kiểu.
Công cụ chỉnh sửa ảnh tích hợp trong ứng dụng nhắn tin, cho phép người dùng thay đổi nền hoặc màu sắc của ảnh chụp nhanh bằng văn bản, sử dụng mô hình được huấn luyện không cần cặp dữ liệu để đảm bảo kết quả tự nhiên.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2606.03911
ArXiv Abstract	https://arxiv.org/abs/2606.03911
PDF Download	https://arxiv.org/pdf/2606.03911.pdf
Github Repository	N/A

16. Decentralized Instruction Tuning: Conflict-Aware Splitting and Weight Merging (21 votes)

Tác giả: Minsik Choi, Geewook Kim

Xuất bản lúc: 2026-06-01

Tag: Instruction Tuning, Model Merging, Weight Averaging, Gradient Conflict, Decentralized Training, Vision-Language Models, Multi-Task Learning, PCA

I. Main Problem:

Huấn luyện tập trung trên hỗn hợp instruction đa dạng bị giới hạn bởi xung đột gradient giữa các tác vụ và yêu cầu đồng bộ băng thông cao. Các phương pháp khắc phục xung đột gradient ở cấp độ bước huấn luyện không khả thi khi quy mô lên hàng trăm tác vụ, và việc đồng bộ hóa thường xuyên là bất khả thi trong môi trường tính toán phân mảnh.

II. Main Idea:

MERIT giải quyết song song cả hai vấn đề bằng cách tách hỗn hợp dữ liệu thành các phần không xung đột, huấn luyện mỗi phần độc lập mà không cần giao tiếp, rồi hợp nhất các checkpoint một lần duy nhất qua trung bình có trọng số. Phương pháp dựa trên lý thuyết toàn phương cục bộ trong một lòng chảo phẳng chứng minh hợp nhất làm giảm phương sai có trọng số độ cong; tách theo PCA trên ma trận tương đồng cosine gradient giúp tối đa hóa lợi ích này. Việc hợp nhất còn hoạt động như lọc phổ và chính quy hóa chuẩn ẩn.

III. Main Results:

Trên Qwen2.5-VL-3B với 136 tác vụ Vision-FLAN, MERIT-3D nâng trung bình 8 benchmark từ 54.3% (joint training 1 epoch) lên 57.0%.
MERIT-3D vượt trội so với random partitioning (+2.5 điểm), chứng tỏ lợi ích đến từ cách tách có ý thức xung đột, không chỉ từ việc tách và hợp nhất.
Ở quy mô 7B trên 1.6M mẫu từ 176 nguồn, MERIT vượt ngang hoặc vượt joint training, đặc biệt bảo toàn khả năng sinh văn bản mở (LLaVA-Wild) vốn bị joint training làm suy giảm.
Trên text-only (66 FLAN tasks, Qwen2.5-3B), MERIT-2D đạt trung bình tốt nhất, vượt joint training 1 epoch (+0.8 điểm).

IV. Conclusion & Future Works:

MERIT chứng minh rằng việc tách dữ liệu có ý thức xung đột trước huấn luyện, kết hợp hợp nhất một lần, là giải pháp hiệu quả để giảm nhiễu gradient và loại bỏ giao tiếp trong instruction tuning quy mô lớn. Hướng tương lai có thể mở rộng phân tích lý thuyết sang các kiến trúc khác và tối ưu hóa việc lựa chọn số nhánh (K) tự động.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng MERIT sang huấn luyện multi-modal liên tục: khi có tác vụ mới, gradient của dataset mới được so sánh với trọng tâm PCA hiện tại để quyết định nên thêm vào nhánh hiện có hay tạo nhánh mới, giúp mở rộng không cần huấn luyện lại toàn bộ.
Kết hợp MERIT với phương pháp hợp nhất hậu kỳ thông minh hơn thay vì token-weighted averaging, ví dụ sử dụng thông tin độ cong từ Hessian để điều chỉnh trọng số hợp nhất theo từng tham số, nhằm tận dụng tốt hơn thông tin chuyên biệt của từng nhánh.
Nghiên cứu cơ chế tự động xác định số chiều PCA r tối ưu dựa trên phổ trị riêng của ma trận xung đột gradient, giúp cân bằng giữa số lượng nhóm và chất lượng hợp nhất.

2. Patent:

Hệ thống huấn luyện chatbot đa năng trên điện thoại: dữ liệu hội thoại được phân cụm theo chủ đề (ví dụ: giao hàng, đặt vé) dựa trên xung đột gradient; mỗi cụm được huấn luyện trên một server riêng không cần đồng bộ, cuối cùng hợp nhất thành một chatbot duy nhất chạy offline trên thiết bị.
Nền tảng cá nhân hóa trợ lý ảo cho doanh nghiệp: gradient của từng bộ kỹ năng mới được so sánh với gradient của các kỹ năng hiện có; các kỹ năng xung đột mạnh (ví dụ: viết email nghiêm túc vs. hài hước) được tách ra huấn luyện riêng, sau đó hợp nhất để trợ lý xử lý tốt cả hai phong cách.
Ứng dụng camera thông minh: module nhận diện đồ vật và module nhận diện chữ viết có gradient xung đột được huấn luyện song song trên các nhánh riêng trên cloud, rồi hợp nhất một lần thành mô hình duy nhất chạy real-time trên điện thoại, vừa tiết kiệm băng thông vừa cải thiện độ chính xác cho cả hai tác vụ.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2606.01717
ArXiv Abstract	https://arxiv.org/abs/2606.01717
PDF Download	https://arxiv.org/pdf/2606.01717.pdf
Github Repository	https://github.com/naver-ai/merit

17. Domain-Specific Data Synthesis for LLMs via Minimal Sufficient Representation Learning (20 votes)

Tác giả: Tong Ye, Hang Yu, Tengfei Ma, Xuhong Zhang, Jianguo Li, et al.

Xuất bản lúc: 2026-05-29

Tag: LLMs, Data Synthesis, Prompt Tuning, Contrastive Learning, Domain Adaptation, Minimal Sufficient Representation, Inductive Reasoning

I. Main Problem:

Các phương pháp tổng hợp dữ liệu hiện tại cho LLM yêu cầu mô tả miền rõ ràng bằng ngôn ngữ tự nhiên, nhưng trong thực tế, nhiều miền (ví dụ: phong cách lập trình thi đấu, xu hướng văn hóa mới) rất khó diễn tả thành lời. Việc chỉ có một tập nhỏ mẫu tham chiếu mà không có định nghĩa tường minh khiến việc tổng hợp dữ liệu chất lượng cao trở nên thách thức, dễ dẫn đến overfitting.

II. Main Idea:

Bài báo đề xuất DOMINO, một khung học biểu diễn miền tối thiểu đủ (minimal sufficient representation) từ các mẫu tham chiếu để dẫn dắt quá trình sinh dữ liệu. DOMINO kết hợp prompt tuning với mất mát đối lập (contrastive loss) nhằm tách biệt các đặc trưng chung của miền khỏi nhiễu riêng của từng mẫu. Cụ thể, nó học các soft token miền và soft token mẫu: token miền nắm bắt pattern dùng chung, token mẫu chỉ mã hóa chi tiết riêng. Mất mát đối lập buộc token miền không thể giúp tái tạo các mẫu khác, đảm bảo tính tối thiểu. Lý thuyết chứng minh phương pháp mở rộng support của phân phối dữ liệu sinh, tăng tính đa dạng.

III. Main Results:

Trên Live Code Generation, DOMINO cải thiện Pass@1 lên tới 4.63% so với backbone instruction-tuned (ví dụ: OPENCODER-8B từ 10.00 lên 12.63).
Trên Live Code Execution, DOMINO đạt 62.04% Pass@1 với QWEN2.5-CODER-14B, cao hơn baseline tốt nhất (MAGPIE-Human: 57.41%).
DOMINO vượt trội so với cả MAGPIE (dùng system prompt do người hoặc LLM viết) và fine-tuning trực tiếp trên mẫu tham chiếu (Reference SFT).
T-SNE cho thấy dữ liệu sinh từ DOMINO phân tán rộng và khớp với phân phối mẫu tham chiếu hơn so với MAGPIE.
Fine-tuning Base model bằng dữ liệu DOMINO sinh ra còn vượt cả hiệu năng của Instruct version gốc.

IV. Conclusion & Future Works:

DOMINO thiết lập một paradigm mới cho tổng hợp dữ liệu miền: học từ ví dụ thay vì mô tả ngôn ngữ, giúp thích ứng miền thực tế mà không cần kỹ thuật prompt thủ công. Hướng tương lai gồm mở rộng sang các loại dữ liệu phức tạp hơn (ví dụ: đa phương thức) và tối ưu hóa số lượng soft token.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng DOMINO cho dữ liệu đa phương thức (văn bản + hình ảnh) bằng cách học biểu diễn miền tối thiểu đủ từ các mẫu tham chiếu đa phương thức, giúp sinh dữ liệu miền mới mà không cần mô tả tường minh.
Áp dụng tư tưởng minimal sufficient representation vào học tăng cường (reinforcement learning): từ một số mẫu hành vi mẫu, trích rút chiến lược cốt lõi, bỏ qua chi tiết nhiễu, để sinh ra các hành vi mới đa dạng hơn.
Kết hợp DOMINO với active learning: chủ động chọn các mẫu tham chiếu thông tin nhất để học biểu diễn miền, giảm số lượng mẫu cần thu thập mà vẫn đảm bảo chất lượng sinh dữ liệu.

2. Patent:

Ứng dụng trên điện thoại: người dùng chụp vài ảnh mẫu món ăn yêu thích (ví dụ: kiểu trình bày, màu sắc), hệ thống học phong cách riêng đó và tự động sinh ra các công thức nấu ăn hoặc gợi ý món mới theo đúng gu ẩm thực đó mà không cần mô tả bằng lời.
Hỗ trợ lập trình viên: từ một đoạn code mẫu ngắn (ví dụ: giải bài toán LeetCode dạng nào đó), công cụ tự động suy ra đặc điểm miền bài toán và sinh ra hàng loạt bài tập tương tự với độ khó và chủ đề khác nhau, giúp luyện tập hiệu quả mà không cần soạn đề thủ công.
Cá nhân hóa trợ lý ảo trên điện thoại: người dùng cung cấp vài tin nhắn mẫu theo phong cách giao tiếp yêu cầu, hệ thống học phong cách đó và tự động sinh ra các câu trả lời hoặc đề xuất phù hợp, không cần người dùng mô tả rõ ràng trong cài đặt.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2605.30039
ArXiv Abstract	https://arxiv.org/abs/2605.30039
PDF Download	https://arxiv.org/pdf/2605.30039.pdf
Github Repository	N/A

18. TRON: Targeted Rule-Verifiable Online Environments for Visual Reasoning RL (17 votes)

Tác giả: Tianze Yang, Yucheng Shi, Ruitong Sun, Jingyuan Huang, Ninghao Liu, et al.

Xuất bản lúc: 2026-06-01

Tag: Reinforcement Learning, Visual Reasoning, Vision-Language Model, Procedural Generation, DAPO, Curriculum Learning, Multimodal Reasoning

I. Main Problem:

RL post-training cho visual reasoning hiện nay phụ thuộc vào static datasets với số ảnh-câu hỏi-đáp án có hạn, tốn kém để gán nhãn và dễ bị model học thuộc lòng trong quá trình pretraining hoặc SFT. Các dataset này không cho phép kiểm soát độ khó hay kỹ năng cụ thể theo từng giai đoạn huấn luyện, làm giảm hiệu quả tín hiệu RL.

II. Main Idea:

TRON giới thiệu môi trường online gồm 520 cặp generator–verifier có thể lập trình, chia thành 5 nhóm kỹ năng (không gian, toán, biểu đồ, mẫu/luận lý, đếm). Mỗi môi trường tự sinh ra ảnh-câu hỏi-đáp án mới theo nhu cầu, với verifier xác định chính xác phần thưởng. Các môi trường có thang độ khó tích hợp (0–9) và được kiểm soát bởi curriculum, cho phép sinh rollouts không giới hạn. TRON hỗ trợ cả huấn luyện model duy nhất trên tất cả bucket lẫn model chuyên biệt cho từng bucket mà không cần thu thập thêm dữ liệu.

III. Main Results:

TRON-DAPO cải thiện điểm trung bình trên 10 benchmark multimodal cho Qwen3-VL-4B (52.61→55.23), Qwen2.5-VL-7B (40.85→43.35), và MiMo-VL-7B-SFT (63.37→66.50).
Môi trường chuyên biệt (specialist) từng bucket mang lại cải thiện mạnh trong bucket tương ứng (ví dụ: +11.2 trên WeMath angles/length cho Math specialist, +16.7 trên MM-HELIX maze cho Spatial specialist).
Có chuyển giao kỹ năng giữa các bucket: Math specialist cải thiện +20.0 trên MM-HELIX maze dù không được huấn luyện mê cung.
Chất lượng môi trường: 96.5% environment đạt điểm A qua audit, tỷ lệ pass rate giảm từ 72.8% (level 0) xuống 41.3% (level 9), xác nhận thang độ khó hiệu quả.
So với baseline, TRON mang lại cải thiện nhất quán trên mọi họ model và mọi loại benchmark.

IV. Conclusion & Future Works:

TRON chứng minh môi trường online có generator–verifier là giải pháp thực tế cho RL visual reasoning, vượt trội so với static datasets nhờ tính tươi mới, curriculum linh hoạt và khả năng mở rộng. Hạn chế: môi trường tổng hợp nên phong cách hình ảnh và ngôn ngữ có thể khác biệt với benchmark thật; cần audit thêm phân bố đầu ra để tăng tương thích.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng TRON sang domain ảnh thật (photographic) bằng cách tích hợp renderer 3D thực tế hơn và thêm verifier dựa trên perception model cho các tác vụ như đếm vật thể thật.
Nghiên cứu cơ chế curriculum tự động tối ưu: dùng RL meta để học cách chọn env và level phù hợp dựa trên lịch sử performance của model, thay vì threshold cố định.
Phân tích khả năng transfer sâu hơn giữa các bucket: xây dựng bản đồ năng lực (capability map) để dự đoán chính xác bucket nào hỗ trợ benchmark nào dựa trên underlying computation.

2. Patent:

Hệ thống tự động tạo bài tập toán học trực quan trên điện thoại: ứng dụng dùng generator môi trường giống TRON để sinh ra bài toán hình học/phân tích mới mỗi lần, có thang độ khó và chấm điểm tự động, giúp học sinh luyện tập không giới hạn.
Phần mềm kiểm tra kỹ năng không gian cho game thủ mobile: dùng các environment navigation và cube folding trên TRON để đánh giá khả năng định hướng không gian; kết quả gợi ý bài tập cải thiện hoặc chọn level game phù hợp.
Công cụ huấn luyện mô hình thị giác đám mây: nhà phát triển tải lên ảnh chụp màn hình app, hệ thống tự sinh ra bộ câu hỏi lý luận trực quan kiểu TRON với độ khó tăng dần để fine-tune model mà không cần gán nhãn thủ công.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2606.01599
ArXiv Abstract	https://arxiv.org/abs/2606.01599
PDF Download	https://arxiv.org/pdf/2606.01599.pdf
Github Repository	https://github.com/YangTianze009/TRON

19. Ultralytics YOLO26: Unified Real-Time End-to-End Vision Models (15 votes)

Tác giả: Glenn Jocher, Jing Qiu, Mengyu Liu, Shuai Lyu, Fatih Cagatay Akyon, et al.

Xuất bản lúc: 2026-06-02

Tag: YOLO, Object Detection, Instance Segmentation, Pose Estimation, OBB Detection, NMS-free, Open-Vocabulary Detection, Real-Time Vision

I. Main Problem:

Các mô hình YOLO hiện tại vẫn phụ thuộc vào NMS ở inference, có detection head nặng do DFL, yêu cầu lịch huấn luyện dài (600 epoch), và không gán được positive label cho vật thể rất nhỏ. Những hạn chế này làm giảm hiệu quả triển khai và độ chính xác trên nhiều tác vụ thị giác thời gian thực.

II. Main Idea:

Ultralytics YOLO26 giải quyết các vấn đề trên qua thiết kế kiến trúc dual-head cho phép inference NMS-free, loại bỏ DFL để head nhẹ hơn và không giới hạn phạm vi regression. Về huấn luyện, ba kỹ thuật được kết hợp: MuSGD (lai Muon-SGD) tăng tốc hội tụ, Progressive Loss dịch chuyển dần trọng số mất mát về head inference, và STAL đảm bảo vật thể nhỏ luôn có positive assignment. YOLO26 mở rộng cho segmentation, pose estimation, OBB detection và có phiên bản open-vocabulary YOLOE-26.

III. Main Results:

YOLO26 đạt 40.9–57.5 mAP trên COCO với độ trễ 1.7–11.8 ms (T4 TensorRT FP16), cải thiện 1.6–2.8 mAP so với YOLO11 cùng kích thước.
Instance segmentation: cải thiện đến +3.7 mask AP; pose estimation: +7.2 pose AP; OBB: +3.4 mAP trên DOTA-v1.0.
Phiên bản open-vocabulary YOLOE-26x đạt 40.6 AP trên LVIS minival với text prompting, vượt DetCLIP-T +6.2 AP.
Loại bỏ DFL giảm 12% tham số và 20% FLOPs (ví dụ YOLO11n từ 2.6M xuống ~2.3M params).
CPU inference nhanh hơn 43% so với YOLO11n (ONNX).

IV. Conclusion & Future Works:

YOLO26 đạt Pareto front mới về độ chính xác-độ trễ nhờ kiến trúc dual-head không DFL và pipeline huấn luyện phối hợp MuSGD, Progressive Loss, STAL. Hướng phát triển: tối ưu hóa thêm cho các runtime đa dạng và mở rộng open-vocabulary với nhiều dữ liệu hơn.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu mở rộng STAL cho các kiến trúc transformer-based detection để xử lý vật thể siêu nhỏ trong ảnh vệ tinh hoặc y tế.
Kết hợp Progressive Loss với các schedule phi tuyến (ví dụ cosine) để tối ưu hóa quá trình chuyển giao giữa head trong huấn luyện dual-head cho các tác vụ khác như segmentation.
Áp dụng MuSGD cho các bài toán vision khác (ví dụ semantic segmentation, depth estimation) để đánh giá khả năng tăng tốc hội tụ và cải thiện độ chính xác.

2. Patent:

Phương pháp phát hiện vật thể siêu nhỏ trên camera giám sát điện thoại bằng cách tự động mở rộng vùng gán nhãn (STAL) để không bỏ sót vật thể xa hoặc nhỏ.
Hệ thống nhận dạng tư thế người dùng trên điện thoại khi tập thể dục hoặc chơi game, sử dụng uncertainty-aware RLE để dự đoán chính xác khớp bị che khuất.
Tính năng chụp ảnh thông minh trên điện thoại có thể tự động phát hiện và căn chỉnh vật thể xoay (dùng OBB) để cắt ảnh chính xác hơn khi chụp tài liệu hoặc biển báo.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2606.03748
ArXiv Abstract	https://arxiv.org/abs/2606.03748
PDF Download	https://arxiv.org/pdf/2606.03748.pdf
Github Repository	https://github.com/ultralytics/ultralytics

20. Small RL Controller, Large Language Model: RL-Guided Adaptive Sampling for Test-Time Scaling (14 votes)

Tác giả: Runpeng Dai, Tong Zheng, Rui Liu, Chengsong Huang, Hongtu Zhu

Xuất bản lúc: 2026-06-02

Tag: Test-Time Scaling, Reinforcement Learning, Adaptive Sampling, Large Language Models, MDP, PPO, Self-Consistency

I. Main Problem:

Các phương pháp test-time scaling hiện tại như Self-Consistency cải thiện độ chính xác của LLM nhưng tốn nhiều tài nguyên và độ trễ. Các phương pháp adaptive sampling hiện có thường dựa trên heuristic hoặc giả định phân phối, cần tín hiệu phụ (confidence, hidden states) hoặc can thiệp sâu vào quá trình suy luận, gây khó triển khai thực tế.

II. Main Idea:

Bài báo đề xuất RL-Guided Sampling: đóng khung adaptive sampling như một quá trình quyết định Markov (MDP) và huấn luyện một mạng MLP bốn lớp nhẹ bằng PPO để tối ưu cân bằng giữa độ chính xác, chi phí tính toán và độ trễ. Controller chỉ dùng thống kê đơn giản từ tập câu trả lời đã sinh (tần suất đáp án, entropy), không cần tín hiệu phụ hay can thiệp vào LLM. Phần thưởng bao gồm thưởng cuối dựa trên tính đúng đắn của majority vote và phạt từng bước cho mỗi vòng lấy mẫu và mỗi mẫu thêm.

III. Main Results:

Giảm 3 lần số vòng lấy mẫu và 30% tổng số mẫu so với ASC.
Giảm 10% số vòng lấy mẫu và 35% tổng số mẫu so với ESC, đồng thời giữ hoặc cải thiện độ chính xác.
Chính sách học được có khả năng tổng quát hóa tốt: controller huấn luyện trên Qwen-0.6B có thể áp dụng cho GPT-4.1-nano mà không giảm hiệu suất đáng kể.
Ablation study cho thấy dùng Running Majority làm tín hiệu thưởng tốt hơn dùng ground-truth label.

IV. Conclusion & Future Works:

RL-Guided Sampling là framework nhẹ, không xâm lấn, cải thiện trade-off chính xác-chi phí-độ trễ trong test-time scaling. Hướng phát triển: kết hợp tín hiệu phong phú hơn (độ tin cậy, độ dài câu trả lời) và dùng chi phí thực tế (thời gian, tiền bạc) làm phạt để phù hợp hơn với triển khai thực tế.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng RL-Guided Sampling thành framework đa tác vụ: huấn luyện một controller chung cho nhiều loại tác vụ (suy luận toán học, sinh code, trả lời câu hỏi) và nhiều LLM backbone khác nhau.
Nghiên cứu dùng constrained RL (như Constrained Policy Optimization) để trực tiếp tối ưu dưới ràng buộc ngân sách (số mẫu, độ trễ) thay vì dùng phạt tĩnh, giúp kiểm soát chi phí chặt chẽ hơn.
Kết hợp RL-Guided Sampling với kỹ thuật pruning trong quá trình sinh (ví dụ: DeepPrune) để giảm thêm chi phí tính toán bằng cách loại bỏ sớm các trajectory sai.

2. Patent:

Ứng dụng trên điện thoại: khi người dùng hỏi câu hỏi suy luận, LLM local trên thiết bị dùng controller học được để quyết định lấy thêm mẫu hay dừng, giảm thời gian chờ và tiêu tốn pin so với lấy mẫu cố định.
Dịch vụ chatbot đám mây: triển khai controller nhẹ ở tầng trung gian để điều tiết số lần gọi đến LLM lớn cho mỗi câu hỏi, tối ưu hóa chi phí API và thời gian phản hồi mà vẫn đảm bảo độ chính xác.
Hệ thống hỗ trợ giáo dục: cho các bài toán khó, controller tự động lấy thêm mẫu giải thích từ LLM đến khi đạt độ tin cậy nhất định, sau đó hiển thị kết quả và lời giải chi tiết, tiết kiệm tài nguyên so với chạy cố định nhiều mẫu.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2606.03102
ArXiv Abstract	https://arxiv.org/abs/2606.03102
PDF Download	https://arxiv.org/pdf/2606.03102.pdf
Github Repository	N/A

21. Decoupled Residual Denoising Diffusion Models for Unified and Data Efficient Image-to-Image Translation (14 votes)

Tác giả: Ziyue Lin, Jiahe Hou, Hongyu Xia, Xinrui Xie, Feifei Wang, et al.

Xuất bản lúc: 2026-05-31

Tag: Diffusion Models, Image-to-Image Translation, Domain Harmonization, Unified Image Restoration, Data Efficiency, Decoupled Diffusion, Residual Denoising

I. Main Problem:

Các mô hình diffusion hiện tại cho I2I translation sử dụng một quá trình khuếch tán kết hợp, đồng thời loại bỏ cả noise và residual. Điều này làm xói mòn tác dụng 'domain harmonizer' của Gaussian noise, vốn giúp thu hẹp khoảng cách phân bố giữa các miền khác nhau. Hệ quả là việc học một ánh xạ thống nhất cho nhiều tác vụ và miền trở nên khó khăn và đòi hỏi nhiều dữ liệu có cặp.

II. Main Idea:

DRDD tách quá trình khuếch tán thành hai giai đoạn độc lập tuần tự: (1) khuếch tán noise (stochastic) để hài hòa miền và nâng tạp đa tạp, và (2) khuếch tán residual (deterministic) học ánh xạ ngữ nghĩa trong miền noise cố định. Quá trình ngược cũng được tách tương ứng: đầu tiên loại bỏ residual trong miền có noise (giữ nguyên hiệu ứng hài hòa), sau đó denoise để tinh chỉnh độ trung thực. Nhờ vậy, mạng denoise có thể huấn luyện chỉ trên ảnh đích không cặp, cải thiện đáng kể hiệu quả dữ liệu.

III. Main Results:

DRDD đạt SOTA trên All-in-One-5, vượt các phương pháp diffusion và non-diffusion ở hầu hết thước đo SSIM/LPIPS/FID cho cả 5 tác vụ khôi phục.
Trên CDD-11 (11 loại suy giảm), DRDD có SSIM trung bình cao nhất, đặc biệt vượt trội ở các kịch bản suy giảm kết hợp phức tạp.
Với dữ liệu hạn chế (25% dữ liệu huấn luyện), DRDD giảm hiệu suất ít hơn đáng kể so với các baseline, chứng tỏ tính hiệu quả dữ liệu.
Tích hợp tách rời vào SDE-based diffusion (IR-SDE) cũng cải thiện hiệu suất trên các tác vụ inpainting và deraining.
Nghiên cứu lý thuyết và thực nghiệm tìm được mức noise tối ưu (¯beta ≈ 1.0), cân bằng giữa hài hòa miền và bảo toàn thông tin đầu vào.

IV. Conclusion & Future Works:

DRDD khám phá vai trò mới của Gaussian noise như 'bộ hài hòa miền' và đề xuất kiến trúc khuếch tán tách rời, giúp đơn giản hóa việc học ánh xạ thống nhất và tận dụng hiệu quả dữ liệu không cặp. Hướng tương lai có thể mở rộng ý tưởng tách rời này cho các ứng dụng tổng quát hơn trong generative models và xây dựng hệ thống I2I thống nhất hoàn chỉnh.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng ý tưởng 'domain harmonizer' cho bài toán video I2I translation, tận dụng noise để hài hòa miền giữa các khung hình và giảm yêu cầu dữ liệu video có cặp.
Kết hợp DRDD với mô hình ngôn ngữ thị giác (VLM) để điều khiển hướng dịch I2I bằng ngữ nghĩa, cho phép một mô hình duy nhất thực hiện nhiều phép biến đổi khác nhau theo mô tả người dùng.
Áp dụng cơ chế tách rời noise và residual cho các bài toán biến đổi phi ảnh như chuyển đổi giữa các modality dữ liệu (ví dụ: ảnh sang âm thanh, văn bản sang hình ảnh).

2. Patent:

Ứng dụng trên điện thoại để chỉnh sửa ảnh chụp 'một chạm': máy ảnh chụp ảnh tối/mờ, mô hình DRDD nhanh chóng khôi phục chi tiết nhờ quá trình tách biệt loại bỏ suy giảm và nhiễu, cho kết quả ảnh sáng, rõ mà không cần dữ liệu cặp huấn luyện cho từng loại điện thoại.
Hệ thống tăng cường chất lượng ảnh trong thời gian thực cho camera an ninh/giám sát: sử dụng DRDD để đồng thời xử lý nhiều vấn đề (nhiễu, mờ, thiếu sáng) mà không cần nhiều dữ liệu ghép cặp, giảm chi phí triển khai trên mỗi camera.
Bộ lọc ảnh nghệ thuật đa năng trên ứng dụng chỉnh sửa ảnh: người dùng chọn một phong cách (tranh sơn dầu, ảnh cổ điển, v.v.) và DRDD thực hiện chuyển đổi phong cách phức tạp nhưng vẫn giữ được bố cục nhờ việc tách biệt rõ ràng suy giảm nội dung và nhiễu kiểu cách.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2606.01048
ArXiv Abstract	https://arxiv.org/abs/2606.01048
PDF Download	https://arxiv.org/pdf/2606.01048.pdf
Github Repository	https://github.com/HKU-HealthAI/DRDD

22. Ψ-Bench: Evaluating Persona-Sensitive Influencing in Persuasive Dialogues (13 votes)

Tác giả: Peixuan Han, Hongyi Du, Jiayu Liu, Yihang Sun, Yutong Liu, et al.

Xuất bản lúc: 2026-06-01

Tag: LLM Evaluation, Persuasion, Personalization, Benchmark, Dialogue, Persona

I. Main Problem:

Các phương pháp đánh giá LLM hiện tại chủ yếu xem tác nhân như người trả lời thụ động, không đo lường khả năng chủ động thuyết phục người dùng có cá tính riêng. Việc thiếu chuẩn mực để đánh giá khả năng ảnh hưởng dựa trên thông tin cá nhân của đối tượng khiến cho việc phát triển các tác nhân chủ động trở nên khó khăn.

II. Main Idea:

Bài báo giới thiệu Ψ-Bench, một bộ chuẩn đánh giá khả năng ảnh hưởng nhạy cảm với cá tính (Persona-Sensitive Influencing) của LLM. Ψ-Bench bao gồm ba kịch bản thực tế: tranh luận quan điểm, tư vấn tâm lý và yêu cầu hàng ngày. Mỗi kịch bản đều có khách hàng mô phỏng với hồ sơ cá nhân chi tiết (ẩn với LLM được kiểm tra). Hiệu quả thuyết phục được đánh giá bằng ba chỉ số: Chất lượng hội thoại, Mức độ cá nhân hóa và Hiệu quả thuyết phục, dựa trên một LLM giám khảo.

III. Main Results:

Các LLM hiện tại đạt điểm thuyết phục tối đa dưới 67% (mô hình mạnh nhất ~5.8/9), cho thấy khả năng thuyết phục có cá tính vẫn còn hạn chế.
Việc cung cấp hồ sơ khách hàng giúp cải thiện trung bình 18.24% điểm Effect.
Bộ phân tích hồ sơ (Profile Analyzer) huấn luyện bằng RL cải thiện hiệu quả thuyết phục thêm 6-9% so với baseline.
Chỉ số Mức độ cá nhân hóa (Personalize) có tương quan mạnh nhất với hiệu quả thuyết phục.
Các mô hình mạnh hơn tận dụng tốt hội thoại dài, trong khi mô hình yếu thường lặp lại lập luận sớm.

IV. Conclusion & Future Works:

Ψ-Bench cho thấy thuyết phục có cá tính là một thách thức lớn đối với các LLM hiện tại, do việc nắm bắt chính xác thông tin người dùng quan trọng hơn việc có khả năng sinh văn bản trôi chảy. Hướng tương lai là mở rộng Ψ-Bench với đa dạng người dùng hơn và phân tích chi tiết hiệu suất trên từng loại hồ sơ khác nhau.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu ảnh hưởng của các chiến lược thuyết phục khác nhau (ví dụ: lý trí vs. cảm xúc) lên hiệu quả tùy theo tính cách của người dùng, dựa trên Ψ-Bench.
Phát triển các phương pháp huấn luyện LLM bằng học tăng cường để cải thiện khả năng suy luận về hồ sơ ẩn của người dùng trong hội thoại dài.
Mở rộng Ψ-Bench sang các lĩnh vực nhạy cảm hơn như sức khỏe hay tài chính, đồng thời thiết lập các rào chắn an toàn để tránh lạm dụng.

2. Patent:

Hệ thống tư vấn mua sắm trên điện thoại: dựa vào lịch sử trò chuyện và phản hồi của người dùng để xây dựng hồ sơ sở thích tiềm ẩn, từ đó đưa ra các gợi ý thuyết phục họ chọn sản phẩm phù hợp mà không cần yêu cầu thông tin rõ ràng.
Trợ lý sức khỏe tinh thần trên điện thoại: khởi tạo cuộc trò chuyện với các câu hỏi mở, tự động phân tích tính cách và tâm trạng người dùng (ví dụ: hướng ngoại, cầu toàn) để điều chỉnh phong cách tư vấn và các bài tập phù hợp nhằm thay đổi suy nghĩ tiêu cực.
Ứng dụng thuyết phục học tập trên điện thoại: trước mỗi buổi học, ứng dụng hỏi về các mục tiêu và trở ngại của người dùng, xây dựng hồ sơ động để đưa ra các lời động viên và chiến lược học tập được cá nhân hóa, tăng sự cam kết và giảm trì hoãn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2606.02754
ArXiv Abstract	https://arxiv.org/abs/2606.02754
PDF Download	https://arxiv.org/pdf/2606.02754.pdf
Github Repository	N/A

23. Adaptive Auto-Harness: Sustained Self-Improvement for Agentic System Deployment on Open-Ended Task Streams (12 votes)

Tác giả: Zewen Liu, Zhan Shi, Yisi Sang, Bing He, Minhua Lin, et al.

Xuất bản lúc: 2026-06-01

Tag: Auto-Harness, LLM Agents, Open-Ended Task Streams, Continual Learning, Multi-Agent Systems, Human-in-the-Loop, Task Adaptation

I. Main Problem:

Các hệ thống auto-harness hiện tại (như A-Evolve, Meta-Harness) chỉ được đánh giá trên benchmark tĩnh, trong khi triển khai thực tế phải đối mặt với luồng tác vụ không có điểm kết thúc (unbounded), đa dạng về chủng loại (heterogeneous), và phân phối thay đổi theo thời gian (non-stationary). Khi tự động tiến hóa liên tục một harness duy nhất, hiệu suất đạt đỉnh sớm rồi suy giảm do quá khớp với luồng dữ liệu cũ.

II. Main Idea:

Adaptive Auto-Harness giải quyết vấn đề bằng cách phân tích khoảng cách tới harness lý tưởng thành hai thành phần: mất mát tiến hóa (evolution loss) và mất mát thích nghi (adaptation loss). Hệ thống giảm mất mát tiến hóa bằng một bộ tiến hóa đa tác nhân có trạng thái (gồm Analyst, Researcher, Builder, Verifier) hoạt động qua các chu kỳ với bộ nhớ xuyên chu kỳ. Để giảm mất mát thích nghi, nó xây dựng một cây harness với các nhánh chuyên biệt theo từng loại tác vụ, và tại thời điểm giải, một router chọn nhánh phù hợp cho từng tác vụ đầu vào. Ngoài ra, hệ thống còn tích hợp hai điểm can thiệp con người (human-in-the-loop) để cung cấp tín hiệu thiếu hụt khi lịch sử không có đủ thông tin.

III. Main Results:

Trên PolyBench, hệ thống đầy đủ đạt Accuracy 80.9% và Return +330%, vượt xa Meta-Harness (Acc 50.8%, Return +320%).
Trên CTF-Dojo, đạt Pass@1 50.2%, cải thiện 5% so với A-Evolve (45.2%).
Trên FutureX, variant Multi-agent dẫn đầu với 49.5% Pass@1.
Ablation cho thấy cả bộ nhớ xuyên chu kỳ và feedback đều quan trọng; bỏ memory gây giảm hiệu suất rộng nhất.
Human steering tăng +20 điểm phần trăm trên tác vụ yêu cầu nguồn kiến thức bên ngoài (finance & tech).

IV. Conclusion & Future Works:

Adaptive Auto-Harness chứng minh rằng việc kết hợp tiến hóa đa tác nhân, cây harness với routing linh hoạt, và can thiệp con người là cần thiết cho triển khai agent trên luồng tác vụ mở. Hướng tương lai: mở rộng đánh giá lên thêm nhiều luồng triển khai thực tế khác và phát triển ước lượng chính thức cho các mất mát oracle.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu cách áp dụng cấu trúc cây harness và routing cho các tác vụ đa phương thức, kết hợp dữ liệu văn bản và hình ảnh để thích nghi linh hoạt hơn.
Phát triển một phương pháp tự động học chính sách routing tối ưu thay vì dùng router dựa trên quy tắc, sử dụng reinforcement learning.
Mở rộng khái niệm mất mát tiến hóa và thích nghi cho các hệ thống agent đa mô hình, chẳng hạn như phối hợp LLM với mô hình thị giác và hành động.

2. Patent:

Hệ thống gợi ý chiến lược giao dịch cá nhân hóa trên điện thoại: tự động học bộ kỹ năng và nguồn tin phù hợp với sở thích của từng người dùng dựa trên lịch sử tương tác, rồi chọn nhánh harness tương ứng khi họ đặt câu hỏi tài chính.
Ứng dụng bảo mật phát hiện lỗ hổng từ thiết bị di động: khi người dùng quét mã QR hoặc tải file lạ, hệ thống dùng cây harness với nhánh chuyên phân tích mã độc, tự động trích xuất và kiểm tra payload mà không cần kết nối đám mây liên tục.
Trợ lý dự báo sự kiện trên điện thoại: người dùng hỏi về tương lai (thể thao, chính trị); hệ thống xác định chủ đề, truy vấn nhiều nguồn web khác nhau qua các nhánh harness riêng, tổng hợp câu trả lời chính xác mà không tiết lộ nguồn gốc dữ liệu.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2606.01770
ArXiv Abstract	https://arxiv.org/abs/2606.01770
PDF Download	https://arxiv.org/pdf/2606.01770.pdf
Github Repository	N/A

📰 Summary of Papers
1. OCC-RAG: Optimal Cognitive Core for Faithful Question Answering (98 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
2. KVarN: Variance-Normalized KV-Cache Quantization Mitigates Error Accumulation in Reasoning Tasks (67 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
3. From Activation to Causality: Discovery of Causal Visual Representations in the Human Brain (54 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
4. Benchmarking Visual State Tracking in Multimodal Video Understanding (52 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
5. Trust Region On-Policy Distillation (45 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
6. Humanoid-GPT: Scaling Data and Structure for Zero-Shot Motion Tracking (41 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
7. World Models Meet Language Models: On the Complementarity of Concrete and Abstract Reasoning (29 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
8. Language Models Need Sleep: Learning to Self-Modify and Consolidate Memories (29 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
9. AutoMedBench: Towards Medical AutoResearch with Agentic AI Models (27 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
10. A Local Perturbation Theory for Cross-Domain Interference and Recovery in Multi-Domain RL (27 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
11. NVIDIA OmniDreams: Real-Time Generative World Model for Closed-Loop Autonomous Vehicle Simulation (23 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
12. PaddleOCR-VL-1.6: Expanding the Frontier of Document Parsing with Under-Optimized Region Refinement and Progressive Post-Training (23 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
13. WALL-WM: Carving World Action Modeling at the Event Joints (23 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
14. MIRA: Mid-training Rubric Anchoring for Source-Aware Data Selection (23 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
15. Bootstrap Your Generator: Unpaired Visual Editing with Flow Matching (22 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
16. Decentralized Instruction Tuning: Conflict-Aware Splitting and Weight Merging (21 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
17. Domain-Specific Data Synthesis for LLMs via Minimal Sufficient Representation Learning (20 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
18. TRON: Targeted Rule-Verifiable Online Environments for Visual Reasoning RL (17 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
19. Ultralytics YOLO26: Unified Real-Time End-to-End Vision Models (15 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
20. Small RL Controller, Large Language Model: RL-Guided Adaptive Sampling for Test-Time Scaling (14 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
21. Decoupled Residual Denoising Diffusion Models for Unified and Data Efficient Image-to-Image Translation (14 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
22. Ψ-Bench: Evaluating Persona-Sensitive Influencing in Persuasive Dialogues (13 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
23. Adaptive Auto-Harness: Sustained Self-Improvement for Agentic System Deployment on Open-Ended Task Streams (12 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan

📰 Summary of Papers​

1. OCC-RAG: Optimal Cognitive Core for Faithful Question Answering (98 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

2. KVarN: Variance-Normalized KV-Cache Quantization Mitigates Error Accumulation in Reasoning Tasks (67 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

3. From Activation to Causality: Discovery of Causal Visual Representations in the Human Brain (54 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

4. Benchmarking Visual State Tracking in Multimodal Video Understanding (52 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

5. Trust Region On-Policy Distillation (45 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

6. Humanoid-GPT: Scaling Data and Structure for Zero-Shot Motion Tracking (41 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

7. World Models Meet Language Models: On the Complementarity of Concrete and Abstract Reasoning (29 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

8. Language Models Need Sleep: Learning to Self-Modify and Consolidate Memories (29 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

9. AutoMedBench: Towards Medical AutoResearch with Agentic AI Models (27 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

📰 Summary of Papers

1. OCC-RAG: Optimal Cognitive Core for Faithful Question Answering (98 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

2. KVarN: Variance-Normalized KV-Cache Quantization Mitigates Error Accumulation in Reasoning Tasks (67 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

3. From Activation to Causality: Discovery of Causal Visual Representations in the Human Brain (54 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

4. Benchmarking Visual State Tracking in Multimodal Video Understanding (52 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

5. Trust Region On-Policy Distillation (45 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

6. Humanoid-GPT: Scaling Data and Structure for Zero-Shot Motion Tracking (41 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

7. World Models Meet Language Models: On the Complementarity of Concrete and Abstract Reasoning (29 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

8. Language Models Need Sleep: Learning to Self-Modify and Consolidate Memories (29 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

9. AutoMedBench: Towards Medical AutoResearch with Agentic AI Models (27 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers: