Chuyển tới nội dung chính

🤗 Daily Hugging Face Paper Digest - 2026-05-11

Báo cáo được tạo tự động vào lúc 2026-05-12 16:29:31 bằng mô hình deepseek-ai/deepseek-v4-flash.

📰 Summary of Papers​

1. Mean Mode Screaming: Mean--Variance Split Residuals for 1000-Layer Diffusion Transformers (110 votes)​

Tác giả: Pengqi Lu

Xuất bản lúc: 2026-05-07

Tag: Diffusion Transformers (DiTs), Mean Mode Screaming (MMS), Mean–Variance Split Residuals (MV-Split), Deep Learning Stability, Attention Mechanism

I. Main Problem:​

Khi mở rộng Diffusion Transformers (DiTs) lên hàng trăm lớp, mô hình gặp phải trạng thái suy sụp do sự đồng nhất hóa các biểu diễn token (mean-dominated collapse state). Sự cố này xảy ra đột ngột, ngay cả khi quá trình huấn luyện có vẻ ổn định, và không thể phục hồi. Nguyên nhân chính là sự mất cân bằng giữa thành phần gradient đồng nhất với giá trị trung bình (mean-coherent gradient) có thể tăng tuyến tính với độ dài chuỗi token và thành phần gradient biến thiên (centered gradient) bị triệt tiêu, dẫn đến mô hình chỉ dự đoán giá trị trung bình.

II. Main Idea:​

Bài báo đề xuất Mean–Variance Split (MV-Split) Residuals, một cơ chế kết hợp hai nhánh riêng biệt: một nhánh cập nhật trung tâm (centered residual update) được gán trọng số riêng và một nhánh thay thế giá trị trung bình (leaky trunk-mean replacement). Bằng cách tách biệt và kiểm soát riêng thành phần trung bình (mean) và thành phần biến thiên (centered variation) trong luồng dữ liệu, MV-Split ngăn chặn sự khuếch đại mất kiểm soát của gradient trung bình, đồng thời vẫn duy trì được khả năng học các đặc trưng đa dạng giữa các token.

III. Main Results:​

Trên mô hình DiT 400 lớp, MV-Split loại bỏ hoàn toàn các sự cố suy sụp, trong khi các baseline không ổn định (Post-Norm, LayerScale) vẫn gặp lỗi. MV-Split đạt chất lượng ảnh tốt hơn (FID thấp hơn, IS cao hơn) so với LayerScale, đồng thời duy trì gradient ổn định ở mức cao hơn. Mô hình DiT 1000 lớp sử dụng MV-Split vẫn huấn luyện ổn định và đạt kết quả tốt, chứng minh khả năng mở rộng của phương pháp.

IV. Conclusion & Future Works:​

MV-Split là một giải pháp hiệu quả để ổn định quá trình huấn luyện các mô hình Diffusion Transformer siêu sâu bằng cách can thiệp trực tiếp vào cơ chế gây mất ổn định (Mean Mode Screaming). Hướng nghiên cứu tương lai có thể áp dụng MV-Split cho các kiến trúc Transformer khác hoặc các tác vụ khác ngoài sinh ảnh.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu ứng dụng MV-Split vào các mô hình ngôn ngữ lớn (LLMs) siêu sâu để cải thiện độ ổn định và hiệu suất khi huấn luyện với hàng nghìn lớp.
  2. Phân tích chi tiết ảnh hưởng của MV-Split lên các kiến trúc Transformer khác nhau (ví dụ: Pre-LN, các loại attention khác) để xác định tính tổng quát của phương pháp.
  3. Kết hợp MV-Split với các kỹ thuật tối ưu hóa khác (ví dụ: kiến trúc mới, phương pháp huấn luyện) để đạt được chất lượng và tốc độ hội tụ tốt hơn nữa trên các mô hình sinh ảnh và video.

2. Patent:​

  1. Hệ thống tạo ảnh trên điện thoại thông minh: Sử dụng mô hình MV-Split được tối ưu hóa để tạo ra ảnh chất lượng cao từ mô tả văn bản ngay trên thiết bị di động, ngay cả khi thiết bị có bộ nhớ hạn chế. Kỹ thuật này giúp mô hình sâu hơn, tạo ảnh đẹp hơn mà không bị lỗi trong quá trình sử dụng.
  2. Phương pháp chỉnh sửa ảnh thông minh trên điện thoại: Ứng dụng MV-Split vào các mô hình chỉnh sửa ảnh (ví dụ: thay đổi phong cách, thêm/xóa đối tượng) trên điện thoại. Kỹ thuật này đảm bảo các thao tác chỉnh sửa phức tạp được thực hiện mượt mà, không bị vỡ hình hoặc mất chi tiết do mô hình quá sâu gây mất ổn định.
  3. Tính năng tạo hiệu ứng đặc biệt cho video trên điện thoại: Tận dụng mô hình Diffusion Transformer siêu sâu có MV-Split để tạo ra các hiệu ứng chuyển cảnh hoặc biến đổi hình ảnh mượt mà và sáng tạo trong thời gian thực trên video, mang lại trải nghiệm điện ảnh ngay trên thiết bị di động.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2605.06169
ArXiv Abstracthttps://arxiv.org/abs/2605.06169
PDF Downloadhttps://arxiv.org/pdf/2605.06169.pdf
Github Repositoryhttps://github.com/erwold/mv-split

2. Flow-OPD: On-Policy Distillation for Flow Matching Models (81 votes)​

Tác giả: Zhen Fang, Wenxuan Huang, Yu Zeng, Yiming Zhao, Shuang Chen, Kaituo Feng, Yunlong Lin, Lin Chen, Zehui Chen, Shaosheng Cao, Feng Zhao

Xuất bản lúc: 2026-05-08

Tag: Flow Matching, On-Policy Distillation, Reinforcement Learning, Text-to-Image, Multi-task Learning, Knowledge Distillation, GRPO, Diffusion Models

I. Main Problem:​

Các mô hình Flow Matching (FM) hiện tại gặp phải hai vấn đề chính khi huấn luyện đa nhiệm: (1) Phần thưởng thưa (reward sparsity) do sử dụng phần thưởng vô hướng, và (2) Nhiễu gradient (gradient interference) khi tối ưu đồng thời nhiều mục tiêu khác nhau. Điều này dẫn đến "hiệu ứng bập bênh" (seesaw effect) giữa các chỉ số cạnh tranh và hành vi lạm dụng phần thưởng (reward hacking), khiến cho việc tối ưu một chỉ số này (ví dụ OCR) sẽ làm suy giảm chỉ số khác (ví dụ tính thẩm mỹ).

II. Main Idea:​

Bài báo đề xuất Flow-OPD, một khung huấn luyện hậu kỳ thống nhất đầu tiên tích hợp kỹ thuật chưng cất trên chính sách (On-Policy Distillation - OPD) vào các mô hình Flow Matching. Flow-OPD áp dụng chiến lược căn chỉnh hai giai đoạn: (1) Đầu tiên, huấn luyện các mô hình giáo viên chuyên biệt cho từng lĩnh vực (ví dụ: GenEval, OCR, PickScore) thông qua tinh chỉnh GRPO với một phần thưởng duy nhất. (2) Sau đó, thiết lập một chính sách khởi tạo mạnh mẽ thông qua cơ chế Flow-based Cold-Start và hợp nhất kiến thức chuyên môn từ nhiều giáo viên vào một mô hình học sinh duy nhất thông qua ba bước: lấy mẫu trên chính sách, gán nhãn định tuyến tác vụ, và giám sát dày đặc ở cấp độ quỹ đạo. Ngoài ra, một kỹ thuật mới có tên Manifold Anchor Regularization (MAR) được giới thiệu để duy trì chất lượng thẩm mỹ, ngăn chặn sự suy giảm thường thấy trong các phương pháp dựa trên RL thuần túy.

III. Main Results:​

Khi xây dựng trên Stable Diffusion 3.5 Medium, Flow-OPD đạt được những kết quả vượt trội: tăng điểm GenEval từ 63 lên 92, độ chính xác OCR từ 59 lên 94, và cải thiện tổng thể khoảng 10 điểm so với GRPO thông thường. Phương pháp này duy trì độ trung thực của hình ảnh và sự căn chỉnh theo sở thích con người, đồng thời thể hiện hiệu ứng "vượt giáo viên" (teacher-surpassing effect), nơi mô hình học sinh đạt hoặc vượt hiệu suất của các giáo viên chuyên biệt.

IV. Conclusion & Future Works:​

Flow-OPD là khung huấn luyện hậu kỳ đầu tiên tích hợp OPD vào Flow Matching, giải quyết hiệu quả vấn đề phần thưởng thưa và nhiễu gradient. Nó cung cấp một mô hình có khả năng mở rộng để phát triển các mô hình text-to-image đa năng với tính toàn vẹn sinh học vượt trội. Hướng phát triển trong tương lai có thể bao gồm việc mở rộng khung này cho các loại mô hình sinh khác và khám phá các cơ chế định tuyến tác vụ phức tạp hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu các cơ chế định tuyến tác vụ (task routing) linh hoạt hơn, chẳng hạn như định tuyến mềm (soft routing) hoặc định tuyến dựa trên học tăng cường, để tự động phân phối các mẫu cho giáo viên phù hợp nhất mà không cần nhãn tác vụ rõ ràng.
  2. Mở rộng Flow-OPD cho các mô hình sinh video (text-to-video) hoặc mô hình đa phương thức khác, nơi việc căn chỉnh đa nhiệm càng trở nên quan trọng hơn do tính phức tạp của dữ liệu.
  3. Phân tích lý thuyết sâu hơn về hiệu ứng 'vượt giáo viên' (teacher-surpassing), bao gồm việc xây dựng các giới hạn lý thuyết và điều kiện để hiện tượng này xảy ra, từ đó thiết kế các thuật toán chưng cất hiệu quả hơn.

2. Patent:​

  1. Phương pháp và hệ thống cải thiện chất lượng hình ảnh trên thiết bị di động dựa trên chưng cất kiến thức đa giáo viên (Multi-Teacher Knowledge Distillation): Một hệ thống trên điện thoại thông minh sử dụng một mô hình nhỏ gọn (học sinh) được huấn luyện từ nhiều mô hình chuyên gia (giáo viên) mạnh mẽ hơn trên cloud. Khi người dùng chỉnh sửa ảnh (ví dụ: thay đổi văn bản trên biển hiệu, thay đổi bố cục), hệ thống sẽ sử dụng mô hình học sinh để tạo ra kết quả nhanh chóng, đảm bảo cả độ chính xác của văn bản và tính thẩm mỹ tổng thể, mà không cần kết nối mạng liên tục.
  2. Ứng dụng trên thiết bị di động để tạo ra hình ảnh từ văn bản với khả năng kiểm soát đa mục tiêu (Multi-Objective Control): Một ứng dụng chỉnh sửa ảnh trên điện thoại cho phép người dùng nhập một câu lệnh văn bản (ví dụ: 'một chú mèo đội mũ màu đỏ') và sau đó có thể tinh chỉnh kết quả bằng các thanh trượt điều khiển các khía cạnh khác nhau như 'độ chính xác của màu sắc', 'độ chi tiết của văn bản', và 'tính thẩm mỹ'. Hệ thống sử dụng kỹ thuật chưng cất trên chính sách (On-Policy Distillation) để đảm bảo việc thay đổi một thanh trượt không làm ảnh hưởng tiêu cực đến các khía cạnh khác.
  3. Hệ thống chụp ảnh thông minh trên điện thoại có khả năng tối ưu hóa đồng thời nhiều tiêu chí (Simultaneous Multi-Criteria Optimization): Một hệ thống camera trên điện thoại sử dụng mô hình Flow-OPD để hậu xử lý ảnh chụp. Khi người dùng chụp ảnh một văn bản (ví dụ: menu nhà hàng), hệ thống sẽ tự động tối ưu hóa hình ảnh để văn bản rõ nét nhất (OCR) đồng thời đảm bảo màu sắc và ánh sáng tổng thể vẫn đẹp (thẩm mỹ) mà không làm giảm chất lượng của một trong hai yếu tố.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2605.08063
ArXiv Abstracthttps://arxiv.org/abs/2605.08063
PDF Downloadhttps://arxiv.org/pdf/2605.08063.pdf
Github Repositoryhttps://github.com/CostaliyA/Flow-OPD

3. MACE-Dance: Motion-Appearance Cascaded Experts for Music-Driven Dance Video Generation (81 votes)​

Tác giả: Kaixing Yang, Jiashu Zhu, Xulong Tang, Ziqiao Peng, Xiangyue Zhang, Puwei Wang, Jiahong Wu, Xiangxiang Chu, Hongyan Liu, Jun He

Xuất bản lúc: 2026-05-07

Tag: Diffusion Model, Music-Driven Dance Generation, Mixture-of-Experts, 3D Motion Generation, Image Animation, SMPL, BiMamba, Transformer, Guidance-Free Training, LoRA

I. Main Problem:​

Bài toán sinh video nhảy theo nhạc hiện nay gặp hai thách thức chính: (1) tạo ra chuyển động nhảy vừa hợp lý về mặt động học vừa giàu tính biểu cảm nghệ thuật; (2) đạt được chất lượng hình ảnh trung thực cao với sự nhất quán về không gian-thời gian mạnh mẽ. Các phương pháp hiện có như sinh chuyển động 3D, hoạt hình ảnh dựa trên pose, hay sinh đầu nói chuyển động từ âm thanh đều không thể chuyển giao trực tiếp do sự khác biệt về mục tiêu và ràng buộc sinh, dẫn đến chất lượng chuyển động và hình ảnh bị suy giảm.

II. Main Idea:​

Tác giả đề xuất MACE-Dance, một framework sinh video nhảy theo nhạc với kiến trúc Chuyên gia Hỗn hợp xếp tầng (Cascaded Mixture-of-Experts). Framework bao gồm hai chuyên gia chính: (1) Motion Expert sử dụng Diffusion Model với kiến trúc lai BiMamba-Transformer và chiến lược Huấn luyện Không Hướng dẫn (Guidance-Free Training) để sinh chuyển động 3D từ nhạc, đảm bảo tính hợp lý về động học và biểu cảm nghệ thuật; (2) Appearance Expert áp dụng chiến lược tinh chỉnh Tách rời Động học – Thẩm mỹ (Kinematic–Aesthetic fine-tuning) dựa trên Wan-Animate để tổng hợp video từ chuyển động 3D và ảnh tham chiếu, giữ gìn nhận dạng hình ảnh với sự nhất quán không gian-thời gian. Điểm mấu chốt là sử dụng tham số SMPL 3D thay vì keypoints 2D làm biểu diễn trung gian, giúp bảo toàn thông tin không gian và tránh mất mát do chiếu 2D.

III. Main Results:​

MACE-Dance đạt kết quả state-of-the-art trên cả hai tác vụ con. Trên bộ dữ liệu MA-Data cho tác vụ sinh video nhảy theo nhạc, MACE-Dance vượt trội so với các baseline (Hallo2, WAN-S2V, EchoMimic-V3, EDGE, Lodge, MEGA) ở hầu hết các chỉ số: FID_k=16.46, FID_g=0.28, DIV_k=9.74, DIV_g=6.34, BAS=0.523 (motion); IQ=65.35, AQ=51.79, SC=93.97, BC=94.57 (appearance). Trên bộ FineDance cho tác vụ sinh chuyển động 3D, Motion Expert đạt FID_k=17.83, DIV_k=10.30, BAS=0.229, FPS=770. Trên MA-Data cho tác vụ hoạt hình ảnh dựa trên pose, Appearance Expert đạt FVD=274.94, SSIM=0.739, LPIPS=0.066, PSNR=22.40.

IV. Conclusion & Future Works:​

MACE-Dance là một framework hiệu quả cho sinh video nhảy theo nhạc nhờ kiến trúc chuyên gia xếp tầng, giải quyết tốt cả hai khía cạnh chuyển động và hình ảnh. Hướng phát triển tương lai có thể bao gồm: mở rộng biểu diễn chuyển động phong phú hơn (ví dụ SMPL-X), cải thiện chất lượng trên các thể loại nhảy đa dạng, và tối ưu hóa hiệu suất sinh cho các đoạn video dài hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. 1. Sinh video nhảy theo nhạc đa phong cách với điều khiển ngữ nghĩa: Nghiên cứu thêm về khả năng điều khiển phong cách nhảy (ví dụ: hip-hop, ballet, K-pop) thông qua các tín hiệu ngữ nghĩa bổ sung như văn bản mô tả hoặc mã phong cách. Có thể mở rộng MoE bằng cách thêm một chuyên gia phong cách hoặc tích hợp các kỹ thuật điều kiện hóa mạnh mẽ hơn.
  2. 2. Tích hợp chuyển động tay và biểu cảm khuôn mặt chi tiết: Mở rộng Motion Expert để sinh không chỉ chuyển động cơ thể mà còn cả chuyển động tay chi tiết và biểu cảm khuôn mặt (sử dụng SMPL-X). Appearance Expert cũng cần được điều chỉnh để đồng bộ các chi tiết này, tạo ra các video nhảy chân thực và biểu cảm hơn.
  3. 3. Sinh video nhảy tương tác thời gian thực: Tối ưu hóa MACE-Dance để có thể sinh video nhảy theo nhạc với độ trễ thấp, cho phép ứng dụng trong các hệ thống tương tác trực tiếp như metaverse, game, hoặc biểu diễn ảo. Hướng này có thể tập trung vào việc giảm kích thước mô hình và tăng tốc độ suy luận.

2. Patent:​

  1. 1. Ứng dụng tạo avatar nhảy trên điện thoại thông minh: Phát triển một ứng dụng di động cho phép người dùng chụp ảnh bản thân hoặc chọn một nhân vật hoạt hình, sau đó chọn một bài hát bất kỳ. Ứng dụng sẽ tự động tạo ra một video ngắn (ví dụ 15-30 giây) trong đó nhân vật nhảy theo điệu nhạc một cách tự nhiên và mượt mà, có thể chia sẻ lên mạng xã hội. Ý tưởng này dựa trên khả năng tổng hợp chuyển động và hình ảnh của MACE-Dance.
  2. 2. Tính năng 'dạy nhảy ảo' trên thiết bị di động: Tạo một ứng dụng học nhảy, nơi người dùng có thể chọn một bài hát và xem một video hướng dẫn được tạo ra tự động. Video này sẽ có một nhân vật ảo (có thể tùy chỉnh ngoại hình) thực hiện các động tác nhảy chuẩn xác, chậm rãi và có chú thích. Người dùng có thể tương tác bằng cách tua lại, xem chậm, hoặc thay đổi góc nhìn (nhờ dữ liệu 3D), giúp việc học nhảy trở nên trực quan và dễ dàng hơn.
  3. 3. Tạo nội dung quảng cáo cá nhân hóa với nhân vật nhảy: Một nền tảng quảng cáo trên di động cho phép các thương hiệu tải lên hình ảnh sản phẩm hoặc logo, chọn một bài hát nền, và hệ thống sẽ tự động tạo ra một video quảng cáo ngắn. Trong video, một nhân vật ảo (mặc trang phục hoặc mang biểu tượng thương hiệu) sẽ nhảy theo điệu nhạc một cách sôi động, thu hút sự chú ý. Ý tưởng này tận dụng khả năng sinh video có chất lượng hình ảnh cao và chuyển động nhịp nhàng của MACE-Dance.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2512.18181
ArXiv Abstracthttps://arxiv.org/abs/2512.18181
PDF Downloadhttps://arxiv.org/pdf/2512.18181.pdf
Github Repositoryhttps://github.com/AMAP-ML/MACE-Dance

4. Listwise Policy Optimization: Group-based RLVR as Target-Projection on the LLM Response Simplex (60 votes)​

Tác giả: Yun Qu, Qi Wang, Yixiu Mao, Heming Zou, Yuhang Jiang, Yingyue Li, Wutong Xu, Lizhou Cai, Weijie Liu, Clive Bai, Kai Yang, Yangkun Chen, Saiyong Yang, Xiangyang Ji

Xuất bản lúc: 2026-05-07

Tag: RLVR, LLMs, Policy Gradient, Listwise Optimization, KL Divergence

I. Main Problem:​

Các phương pháp học tăng cường với phần thưởng có thể kiểm chứng (RLVR) hiện tại, như GRPO, sử dụng gradient chính sách nhóm để cập nhật mô hình ngôn ngữ lớn. Tuy nhiên, các phương pháp này thực hiện một phép xấp xỉ bậc nhất của phép chiếu mục tiêu, dẫn đến sự thiếu ổn định trong tối ưu hóa và không khai thác được hết cấu trúc hình học của không gian phản hồi.

II. Main Idea:​

Bài báo giới thiệu Listwise Policy Optimization (LPO), một khung làm việc tường minh hóa quá trình chiếu mục tiêu trên simplex phản hồi. LPO tách biệt hai bước: (i) xây dựng mục tiêu (target) dưới dạng phân phối Gibbs trên các phản hồi đã lấy mẫu, và (ii) chiếu chính sách hiện tại lên mục tiêu này thông qua tối thiểu hóa phân kỳ (forward hoặc reverse KL). Việc chiếu chính xác trên simplex cho phép gradient có các tính chất mong muốn như bị chặn, tổng bằng không và tự sửa lỗi, đảm bảo cải thiện đơn điệu và ổn định tối ưu hóa.

III. Main Results:​

LPO vượt trội hơn các baseline policy gradient (GRPO, Dr.GRPO, MaxRL) trên nhiều tác vụ suy luận (logic, toán, lập trình, hình học đa phương thức) với nhiều backbone LLM khác nhau. Cụ thể, LPO đạt độ chính xác Pass@1 và Pass@k cao hơn trong hầu hết các cài đặt (13/15 cho LPOfwd và 13/15 cho LPOrev về Pass@1). LPO cũng duy trì entropy phản hồi cao hơn, gradient ổn định hơn và khả năng khám phá đa dạng hơn.

IV. Conclusion & Future Works:​

LPO cung cấp một góc nhìn hình học thống nhất cho RLVR, chứng minh rằng các phương pháp policy gradient hiện tại là các phép chiếu mục tiêu xấp xỉ. Khung làm việc tường minh của LPO mang lại sự ổn định và cải thiện hiệu suất. Hướng nghiên cứu tương lai bao gồm mở rộng chiếu mục tiêu theo từng bước (step-level) và khám phá các phân kỳ khác.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu về chiếu mục tiêu theo từng bước (Step-level Listwise Projection): Mở rộng LPO để thực hiện chiếu mục tiêu không chỉ ở cấp độ toàn bộ phản hồi mà còn ở từng bước suy luận, giúp tinh chỉnh quá trình ra quyết định chi tiết hơn, đặc biệt hữu ích cho các bài toán suy luận phức tạp.
  2. Khám phá các phân kỳ mới (Exploring Novel Divergences): Nghiên cứu các loại phân kỳ khác ngoài forward và reverse KL (ví dụ: Jensen-Shannon divergence, alpha-divergence) trong khung LPO, nhằm tìm ra các đặc tính tối ưu hóa độc đáo và cải thiện hơn nữa hiệu suất và sự đa dạng của phản hồi.
  3. Tích hợp LPO với các mô hình phần thưởng quá trình (Integrating LPO with Process Reward Models): Kết hợp LPO với các mô hình phần thưởng đánh giá từng bước suy luận, thay vì chỉ phần thưởng kết quả cuối cùng, để cung cấp tín hiệu học tập chi tiết và chính xác hơn cho các tác vụ suy luận nhiều bước.

2. Patent:​

  1. Phương pháp cải thiện chất lượng câu trả lời của trợ lý ảo trên điện thoại: Hệ thống sử dụng LPO để tối ưu hóa mô hình ngôn ngữ trên điện thoại, giúp trợ lý ảo đưa ra các câu trả lời chính xác và đa dạng hơn cho các câu hỏi của người dùng, bằng cách so sánh nhiều câu trả lời tiềm năng và chọn ra hướng tốt nhất.
  2. Ứng dụng LPO để cá nhân hóa gợi ý nội dung: Một hệ thống gợi ý trên điện thoại sử dụng LPO để học sở thích của người dùng từ nhiều lựa chọn nội dung (ví dụ: tin tức, video), đảm bảo các gợi ý không chỉ phù hợp mà còn đa dạng, tránh tình trạng lặp lại nội dung.
  3. Tối ưu hóa bộ lọc ảnh trên điện thoại thông qua phản hồi của người dùng: Một ứng dụng chỉnh sửa ảnh sử dụng LPO để học cách áp dụng bộ lọc dựa trên phản hồi của người dùng. Hệ thống tạo ra nhiều phiên bản ảnh với các bộ lọc khác nhau, sau đó tối ưu hóa mô hình để tạo ra kết quả được người dùng ưa thích nhất.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2605.06139
ArXiv Abstracthttps://arxiv.org/abs/2605.06139
PDF Downloadhttps://arxiv.org/pdf/2605.06139.pdf
Github RepositoryN/A

5. LLMs Improving LLMs: Agentic Discovery for Test-Time Scaling (57 votes)​

Tác giả: Tong Zheng, Haolin Liu, Chengsong Huang, Huiwen Bao, Sheng Zhang, Rui Liu, Runpeng Dai, Ruibo Chen, Chenxi Liu, Tianyi Xiong, Xidong Wu, Hongming Zhang, Heng Huang

Xuất bản lúc: 2026-05-08

Tag: LLMs, Test-Time Scaling, Agentic Discovery, AutoML, Mathematical Reasoning

I. Main Problem:​

Các chiến lược Test-Time Scaling (TTS) hiện tại chủ yếu được thiết kế thủ công bởi các nhà nghiên cứu, dựa vào trực giác để tạo ra các mẫu suy luận và điều chỉnh các tham số heuristic. Cách tiếp cận này khám phá không gian phân bổ tính toán một cách hạn chế, bỏ lỡ nhiều chiến lược tiềm năng hiệu quả hơn.

II. Main Idea:​

Bài báo đề xuất AutoTTS, một khung khám phá dựa trên môi trường (environment-driven discovery) giúp tự động hóa việc tìm kiếm các chiến lược TTS. Thay vì thiết kế thủ công các heuristic, AutoTTS chuyển vai trò của con người sang xây dựng môi trường khám phá (discovery environment), nơi định nghĩa không gian điều khiển (states, actions, feedback, objectives). Một LLM khám phá (explorer LLM) sau đó sẽ tự động tìm kiếm và đề xuất các bộ điều khiển (controllers) hiệu quả trong môi trường này. Cụ thể, TTS được định dạng như bài toán tổng hợp bộ điều khiển (controller synthesis) trên không gian width-depth, sử dụng các quỹ đạo suy luận và tín hiệu thăm dò (probe signals) đã được thu thập trước. Để việc tìm kiếm khả thi, bài báo giới thiệu phương pháp tham số hóa beta (beta parameterization) để giảm không gian tìm kiếm và cung cấp phản hồi chi tiết về dấu vết thực thi (execution trace feedback) để giúp LLM khám phá chẩn đoán lỗi.

III. Main Results:​

Các thí nghiệm trên các bộ dữ liệu suy luận toán học cho thấy: (1) Các chiến lược do AutoTTS khám phá cải thiện đường biên chính xác-chi phí (accuracy-cost Pareto frontier) so với các baseline thiết kế thủ công mạnh mẽ. (2) Chiến lược khám phá có khả năng tổng quát hóa sang các bộ dữ liệu và quy mô mô hình chưa từng thấy. (3) Toàn bộ quá trình khám phá chỉ tốn 39,9 đô la và 160 phút.

IV. Conclusion & Future Works:​

AutoTTS chứng minh rằng các chiến lược TTS hiệu quả không nhất thiết phải được thiết kế thủ công mà có thể được khám phá tự động khi có môi trường phù hợp. Công trình này mở ra một hướng đi mới, nơi nghiên cứu TTS tập trung vào thiết kế môi trường (environment design) thay vì thiết kế chiến lược (strategy design). Chi phí khám phá thấp cho thấy tính khả thi của phương pháp này trong thực tế.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng không gian điều khiển TTS: Nghiên cứu các không gian điều khiển phức tạp hơn ngoài width-depth, ví dụ như không gian cây (tree search) hoặc các hành động tinh chỉnh dựa trên bộ xác minh (verifier-guided refinement), và phát triển các môi trường khám phá tương ứng.
  2. Khám phá chiến lược TTS cho đa tác vụ: Thiết kế một môi trường khám phá chung có thể tìm ra các chiến lược TTS hiệu quả trên nhiều tác vụ khác nhau (ví dụ: lập trình, trả lời câu hỏi khoa học, dịch thuật), thay vì chỉ giới hạn ở suy luận toán học.
  3. Tối ưu hóa chi phí khám phá: Nghiên cứu các phương pháp giảm chi phí khám phá hơn nữa, ví dụ như sử dụng các mô hình ngôn ngữ nhỏ hơn làm agent khám phá, hoặc tái sử dụng kiến thức từ các lần khám phá trước để tăng tốc quá trình tìm kiếm.

2. Patent:​

  1. Phương pháp và hệ thống tối ưu hóa suy luận cho trợ lý ảo trên điện thoại thông minh: Sử dụng AutoTTS để tự động tìm ra chiến lược phân bổ tài nguyên tính toán khi trợ lý ảo trả lời câu hỏi phức tạp. Hệ thống sẽ học cách quyết định khi nào nên tạo thêm các nhánh suy luận, khi nào nên dừng lại dựa trên độ tin cậy của câu trả lời tạm thời, giúp tiết kiệm pin và tăng tốc độ phản hồi.
  2. Ứng dụng tìm kiếm thông minh trên thiết bị di động: Phát triển một ứng dụng tìm kiếm sử dụng AutoTTS để cải thiện chất lượng kết quả. Khi người dùng nhập một truy vấn phức tạp, ứng dụng sẽ tự động khám phá và áp dụng chiến lược suy luận tốt nhất (ví dụ: mở rộng tìm kiếm trên nhiều nguồn, đào sâu vào một vài kết quả tiềm năng) để đưa ra câu trả lời chính xác và nhanh chóng nhất mà không tiêu tốn quá nhiều dữ liệu.
  3. Hệ thống gợi ý nội dung cá nhân hóa trên điện thoại: Sử dụng AutoTTS để tối ưu hóa việc đề xuất nội dung (bài viết, video, sản phẩm). Hệ thống sẽ tự động tìm ra chiến lược 'suy nghĩ' tốt nhất để phân tích sở thích người dùng từ lịch sử tương tác, cân bằng giữa việc khám phá các sở thích mới (mở rộng) và tập trung vào các sở thích hiện tại (đào sâu), từ đó đưa ra các gợi ý hấp dẫn và tiết kiệm năng lượng xử lý.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2605.08083
ArXiv Abstracthttps://arxiv.org/abs/2605.08083
PDF Downloadhttps://arxiv.org/pdf/2605.08083.pdf
Github Repositoryhttps://github.com/zhengkid/AutoTTS

6. HyperEyes: Dual-Grained Efficiency-Aware Reinforcement Learning for Parallel Multimodal Search Agents (57 votes)​

Tác giả: Guankai Li, Jiabin Chen, Yi Xu, Xichen Zhang, Yuan Lu

Xuất bản lúc: 2026-05-08

Tag: Reinforcement Learning, Multimodal Search Agents, Parallel Search, Efficiency-Aware, Visual Grounding, GRPO, Knowledge Distillation

I. Main Problem:​

Các tác nhân tìm kiếm đa phương thức hiện tại xử lý các thực thể một cách tuần tự, dẫn đến số vòng tương tác dư thừa khi truy vấn có thể được phân rã thành các truy vấn con độc lập. Hơn nữa, các mô hình hiện có được tối ưu hóa chủ yếu dựa trên phần thưởng độ chính xác thuần túy, thiếu động lực để ưu tiên một quỹ đạo song song nhỏ gọn hơn là một quỹ đạo dài dòng, dẫn đến hành vi 'tìm kiếm quá mức' không hiệu quả. Các benchmark hiện tại cũng chỉ đánh giá độ chính xác mà bỏ qua chi phí suy luận và khả năng tìm kiếm song song.

II. Main Idea:​

Bài báo đề xuất HyperEyes, một tác nhân tìm kiếm đa phương thức song song, hoạt động trên không gian hành động Unified Grounded Search (UGS), tích hợp gắn kết trực quan và truy xuất thành một hành động nguyên tử duy nhất, cho phép tìm kiếm đồng thời nhiều thực thể trong một lượt. HyperEyes được huấn luyện qua hai giai đoạn: (1) một pipeline tổng hợp dữ liệu (Parallel-Amenable Data Synthesis) và lấy mẫu loại bỏ lũy tiến (Progressive Rejection Sampling) để tạo dữ liệu khởi động chất lượng cao, và (2) khung học tăng cường nhận thức hiệu quả hai cấp độ (Dual-Grained Efficiency-Aware Reinforcement Learning), bao gồm TRACE (Tool-use Reference-Adaptive Cost Efficiency) ở cấp độ quỹ đạo để kiểm soát số lượng cuộc gọi công cụ và On-Policy Distillation (OPD) ở cấp độ token để cung cấp tín hiệu điều chỉnh dày đặc từ một mô hình giáo viên.

III. Main Results:​

HyperEyes thiết lập kết quả tiên tiến trên sáu benchmark. HyperEyes-30B vượt qua tác nhân tìm kiếm đa phương thức mã nguồn mở mạnh nhất cùng quy mô 9,9% về độ chính xác với số vòng gọi công cụ trung bình ít hơn 5,3 lần. Dưới chỉ số Cost-Aware Score (CAS) mới, HyperEyes-30B đạt CAS cao hơn 4,3 lần trên BCVL và 7,6 lần trên IMEB so với các đối thủ mã nguồn mở. Các thử nghiệm loại bỏ cho thấy lọc chất lượng dữ liệu nghiêm ngặt vượt trội so với khối lượng dữ liệu thô, và TRACE thích ứng giúp tăng độ chính xác thêm 1,6 điểm và giảm số cuộc gọi công cụ.

IV. Conclusion & Future Works:​

HyperEyes chứng minh rằng các tác nhân tìm kiếm đa phương thức hiệu quả nên 'tìm kiếm rộng hơn, không dài hơn', và việc tối ưu hóa hiệu quả như một mục tiêu chính là khả thi. Các hướng nghiên cứu trong tương lai có thể bao gồm mở rộng khung công tác này cho các nhiệm vụ lập kế hoạch đa phương thức phức tạp hơn, khám phá các kiến trúc hành động song song khác, và phát triển các benchmark toàn diện hơn để đánh giá cả độ chính xác và hiệu quả trong các kịch bản tìm kiếm thực tế.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu về cơ chế phần thưởng thích ứng cho tác nhân tìm kiếm đa phương thức: Phát triển các hàm phần thưởng năng động hơn, có thể tự động điều chỉnh ngưỡng hiệu quả dựa trên độ khó của truy vấn và hiệu suất hiện tại của mô hình, thay vì dựa vào tham chiếu tĩnh hoặc cập nhật đơn giản.
  2. Mở rộng khả năng tìm kiếm song song cho các tác vụ lập kế hoạch đa bước phức tạp: Áp dụng nguyên lý 'tìm kiếm rộng' của HyperEyes vào các tác vụ đa chặng (multi-hop) phức tạp hơn, nơi các truy vấn con không độc lập hoàn toàn, yêu cầu các cơ chế phối hợp và tổng hợp thông tin thông minh hơn.
  3. Xây dựng benchmark toàn diện cho tác nhân tìm kiếm đa phương thức: Phát triển một bộ benchmark lớn hơn, bao gồm nhiều kịch bản thực tế hơn (ví dụ: tìm kiếm trên web, tương tác với giao diện người dùng), đánh giá đồng thời độ chính xác, hiệu quả (số bước, thời gian, token), và độ mạnh mẽ trước nhiễu.

2. Patent:​

  1. Phương pháp tìm kiếm hình ảnh song song trên thiết bị di động: Một hệ thống cho phép người dùng chụp một bức ảnh có nhiều đối tượng (ví dụ: nhiều món đồ trong tủ quần áo, nhiều loại cây trong vườn) và đặt một câu hỏi duy nhất. Hệ thống sẽ tự động xác định và khoanh vùng từng đối tượng, sau đó thực hiện các truy vấn tìm kiếm song song để lấy thông tin cho tất cả các đối tượng cùng một lúc, thay vì phải thực hiện từng bước một. Kết quả được tổng hợp và hiển thị một cách gọn gàng, giúp tiết kiệm thời gian và tài nguyên xử lý trên điện thoại.
  2. Ứng dụng trợ lý mua sắm thông minh với khả năng so sánh sản phẩm tức thì: Khi người dùng chụp ảnh nhiều sản phẩm (ví dụ: hai đôi giày khác nhau), trợ lý sẽ ngay lập tức nhận diện từng sản phẩm và thực hiện các tìm kiếm song song để lấy thông tin chi tiết (giá cả, đánh giá, thông số kỹ thuật) từ nhiều nguồn khác nhau. Kết quả được trình bày dưới dạng bảng so sánh trực quan, giúp người dùng đưa ra quyết định mua hàng nhanh chóng mà không cần phải thao tác tìm kiếm từng sản phẩm riêng lẻ.
  3. Hệ thống tra cứu thông tin đa phương thức tiết kiệm năng lượng cho điện thoại: Một phương pháp tối ưu hóa việc sử dụng các cuộc gọi API tìm kiếm trên thiết bị di động bằng cách học cách dự đoán số lượng truy vấn cần thiết để trả lời một câu hỏi. Hệ thống sẽ tự động điều chỉnh để thực hiện số lượng truy vấn tối thiểu nhưng vẫn đảm bảo độ chính xác, từ đó giảm thiểu việc tiêu thụ pin và dữ liệu di động. Ví dụ, nếu câu hỏi có thể trả lời bằng một lần tìm kiếm duy nhất, hệ thống sẽ không thực hiện các tìm kiếm bổ sung không cần thiết.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2605.07177
ArXiv Abstracthttps://arxiv.org/abs/2605.07177
PDF Downloadhttps://arxiv.org/pdf/2605.07177.pdf
Github Repositoryhttps://github.com/DeepExperience/HyperEyes

7. HumanNet: Scaling Human-centric Video Learning to One Million Hours (43 votes)​

Tác giả: Yufan Deng, Daquan Zhou

Xuất bản lúc: 2026-05-07

Tag: Human-Centric Video, Embodied AI, Representation Learning, Vision-Language-Action, Dataset Curation, Human-to-Robot Transfer, Egocentric Video, Motion Annotation

I. Main Problem:​

Các hệ thống học tập nhúng (embodied learning) hiện tại bị hạn chế về dữ liệu. Trong khi các mô hình ngôn ngữ và thị giác-ngôn ngữ có thể mở rộng quy mô nhờ kho dữ liệu internet khổng lồ, thì các mô hình tương tác vật lý lại chỉ được huấn luyện trên các bộ dữ liệu nhỏ hơn nhiều bậc, tập trung hẹp vào một số tác vụ chuẩn và thường gắn với một nền tảng robot, giao diện điều khiển hoặc cảm biến cụ thể. Sự thiếu hụt về quy mô này là một trong những nút thắt lớn nhất cho trí tuệ nhúng đa năng (general-purpose embodied intelligence).

II. Main Idea:​

Bài báo giới thiệu HumanNet, một kho ngữ liệu video trung tâm con người (human-centric video) với quy mô một triệu giờ. Kho ngữ liệu này bao gồm cả góc nhìn thứ nhất (first-person) và thứ ba (third-person), ghi lại các hoạt động tinh vi, tương tác người-vật, sử dụng công cụ và các hành vi dài hạn trong nhiều môi trường thực tế. Ngoài video thô, HumanNet còn cung cấp các chú thích tập trung vào tương tác như chú thích (captions), mô tả chuyển động (motion descriptions), và các tín hiệu liên quan đến tay và cơ thể. Quan trọng hơn, HumanNet giới thiệu một quy trình quản lý dữ liệu có hệ thống cho học tập nhúng, coi việc lọc dữ liệu trung tâm con người, cấu trúc thời gian, đa dạng góc nhìn và làm giàu chú thích là các nguyên tắc thiết kế cốt lõi. Thiết kế này biến video internet không có cấu trúc thành một nền tảng có thể mở rộng cho học tập biểu diễn (representation learning), hiểu hoạt động (activity understanding), sinh chuyển động (motion generation) và chuyển giao từ người sang robot (human-to-robot transfer).

III. Main Results:​

Kết quả xác thực chính cho thấy, dưới một giao thức hậu huấn luyện Vision-Language-Action (VLA) có kiểm soát, việc khởi tạo mô hình từ 1.000 giờ video chủ quan (egocentric) từ HumanNet đạt kết quả ngang bằng hoặc tốt hơn một chút so với việc khởi tạo từ 100 giờ dữ liệu robot thực tế từ Magic Cobot. Kết quả này chứng minh rằng video người chủ quan quy mô lớn không chỉ là một kho ngữ liệu thị giác bổ sung, mà còn là một sự thay thế có khả năng mở rộng và tiết kiệm chi phí, thu hẹp khoảng cách giữa tri giác quy mô internet và học tập hành động nhúng.

IV. Conclusion & Future Works:​

HumanNet khẳng định rằng việc mở rộng quy mô video hoạt động đa dạng của con người, với sự chú trọng đến quản lý và kiểm soát chất lượng, là một bước cần thiết để hướng tới các mô hình nền tảng nhúng đa năng (general-purpose embodied foundation models). Các hướng phát triển trong tương lai bao gồm: giải quyết khoảng cách giữa hành vi con người và robot (embodiment gap), xử lý nhiễu từ dữ liệu quy mô lớn, khắc phục sự phân bố không đồng đều về mặt địa lý và văn hóa, và giải quyết các vấn đề về quyền riêng tư và an toàn. Kho ngữ liệu này được kỳ vọng sẽ thúc đẩy các hệ thống hỗ trợ, thao tác robot, hiểu quy trình, mô hình hóa chuyển động và nghiên cứu AI vật lý nói chung.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu về việc giảm thiểu 'Embodiment Gap' giữa dữ liệu người và robot: Phát triển các kỹ thuật căn chỉnh hoặc học chuyển giao mới để tận dụng tối đa dữ liệu video người quy mô lớn cho việc huấn luyện các chính sách robot trên nhiều nền tảng phần cứng khác nhau, không chỉ giới hạn ở các tác vụ thao tác tay.
  2. Phân tích tác động của sự thiên lệch (bias) trong kho dữ liệu video người quy mô lớn: Nghiên cứu chi tiết về sự phân bố không đồng đều về mặt địa lý, văn hóa xã hội và nghề nghiệp trong HumanNet, đồng thời đề xuất các phương pháp lọc hoặc cân bằng dữ liệu để xây dựng các mô hình AI vật lý công bằng và toàn diện hơn.
  3. Phát triển các mô hình 'World-Action Model' từ HumanNet: Xây dựng một mô hình dự đoán động lực học môi trường (forward dynamics) có điều kiện hành động, được huấn luyện trên sự kết hợp giữa video góc nhìn thứ nhất và thứ ba trong HumanNet, để tạo ra các biểu diễn không gian và thời gian có cấu trúc cho việc lập kế hoạch và ra quyết định trong các tác vụ phức tạp.

2. Patent:​

  1. Phương pháp huấn luyện trợ lý ảo trên điện thoại thông minh bằng video hành động của con người: Sử dụng video quay từ camera điện thoại mô tả các thao tác như 'cách đặt báo thức' hoặc 'cách chỉnh sửa ảnh' để huấn luyện một trợ lý ảo có khả năng hiểu và hướng dẫn người dùng thực hiện các tác vụ phức tạp trên chính thiết bị đó, thay vì chỉ dựa trên các lệnh thoại đơn giản.
  2. Hệ thống cá nhân hóa giao diện điện thoại dựa trên phân tích chuyển động tay và mắt của người dùng: Thiết bị di động sử dụng camera trước để ghi lại và phân tích chuyển động tay, ánh nhìn và tương tác của người dùng với màn hình. Dựa trên dữ liệu này, hệ thống có thể tự động điều chỉnh bố cục biểu tượng, kích thước nút bấm hoặc đề xuất các ứng dụng thường dùng để tối ưu hóa trải nghiệm sử dụng một tay hoặc cho người dùng có nhu cầu đặc biệt.
  3. Ứng dụng tạo chuyển động cho nhân vật ảo (avatar) trong thời gian thực trên điện thoại: Một ứng dụng di động cho phép người dùng quay video ngắn các hoạt động hàng ngày của họ (ví dụ: vẫy tay, nhảy múa). Hệ thống sẽ tự động trích xuất chuyển động và ánh xạ lên một nhân vật ảo 3D, cho phép người dùng tạo ra các hoạt ảnh cá nhân hóa để sử dụng trong tin nhắn, mạng xã hội hoặc các ứng dụng thực tế ảo tăng cường (AR/VR) mà không cần thiết bị cảm biến chuyên dụng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2605.06747
ArXiv Abstracthttps://arxiv.org/abs/2605.06747
PDF Downloadhttps://arxiv.org/pdf/2605.06747.pdf
Github Repositoryhttps://github.com/DAGroup-PKU/HumanNet

8. Rubric-based On-policy Distillation (30 votes)​

Tác giả: Junfeng Fang, Zhepei Hong, Mao Zheng, Mingyang Song, Gengsheng Li, Houcheng Jiang, Dan Zhang, Haiyun Guo, Xiang Wang, Tat-Seng Chua

Xuất bản lúc: 2026-05-08

Tag: OPD, Knowledge Distillation, LLMs, Rubric-based Learning, Black-box Distillation, Reinforcement Learning, Model Alignment

I. Main Problem:​

Các phương pháp On-policy Distillation (OPD) hiện tại phụ thuộc vào logit đầu ra của mô hình giáo viên, yêu cầu truy cập 'white-box' vào toàn bộ thông số và kiến trúc của mô hình. Điều này hạn chế việc sử dụng các mô hình thương mại hiệu năng cao (như GPT-5.2) làm giáo viên cho các mô hình nguồn mở. Do đó, cần một phương pháp OPD có thể hoạt động hiệu quả trong kịch bản 'black-box', nơi chỉ có đầu ra văn bản từ giáo viên.

II. Main Idea:​

Bài báo giới thiệu ROPD (Rubric-based On-Policy Distillation), một khung làm việc mới chuyển đổi tín hiệu giám sát từ logit chi tiết thành các tiêu chí (rubric) ngữ nghĩa có cấu trúc. Quy trình gồm hai bước: (1) Rubricator tạo ra bộ tiêu chí đánh giá cụ thể cho từng câu hỏi bằng cách so sánh câu trả lời của giáo viên và học sinh; (2) Verifier sử dụng các tiêu chí này để chấm điểm câu trả lời của học sinh một cách khách quan (blind scoring), tạo ra phần thưởng cho quá trình tối ưu hóa on-policy. Phương pháp này cho phép OPD hoạt động mà không cần truy cập logit, chỉ dựa trên văn bản đầu ra.

III. Main Results:​

ROPD vượt trội hơn các phương pháp OPD dựa trên logit tiên tiến trong hầu hết các kịch bản, đạt hiệu suất tăng gấp 10 lần về mặt hiệu quả sử dụng mẫu (sample efficiency). Trong kịch bản black-box, ROPD thiết lập một chuẩn mực hiệu năng mới. Đáng chú ý, trên bộ dữ liệu AIME25 (thinking), ROPD (68.75%) vượt qua chính mô hình giáo viên GPT-5.2-chat (67.08%). Trong kịch bản white-box, ROPD thu hẹp 74.1% khoảng cách giữa học sinh và giáo viên, gấp 1.8 lần so với LOPD (42.1%). ROPD cũng cho thấy khả năng tổng quát hóa kiến trúc chéo và độ ổn định hội tụ vượt trội.

IV. Conclusion & Future Works:​

ROPD chứng minh rằng các tiêu chí ngữ nghĩa có cấu trúc có thể thay thế hiệu quả cho logit chi tiết trong OPD, mang lại hiệu suất cạnh tranh, khả năng tiếp cận cao hơn và tăng cường hiệu quả sử dụng dữ liệu. Hướng phát triển trong tương lai bao gồm mở rộng đánh giá sang các tác vụ sáng tạo hoặc chủ quan (ngoài suy luận hình thức), và kiểm tra độ tin cậy của ROPD khi các thành phần Rubricator/Verifier được thay thế bằng các mô hình khác. Nghiên cứu sâu hơn về cách thiết kế, xác thực và hiệu chỉnh các nguyên tắc ngữ nghĩa có cấu trúc là chìa khóa cho việc chưng cất có thể mở rộng.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng ROPD cho các tác vụ sáng tạo và chủ quan: Nghiên cứu cách xây dựng rubric cho các bài toán không có đáp án duy nhất như viết văn, dịch thuật, hoặc tóm tắt nội dung, nơi tiêu chí 'đúng-sai' không còn phù hợp.
  2. Tối ưu hóa hiệu quả tính toán của Rubricator và Verifier: Phát triển các mô hình nhẹ, chuyên biệt hóa cho vai trò tạo và đánh giá rubric, nhằm giảm chi phí tính toán trên mỗi bước (per-step overhead) của ROPD, giúp nó khả thi hơn cho việc huấn luyện quy mô lớn.
  3. Kết hợp ROPD với các phương pháp học tăng cường khác: Khám phá việc tích hợp tín hiệu từ rubric vào các khung học tăng cường tiên tiến hơn GRPO, ví dụ như các phương pháp dựa trên mô hình (model-based RL), để tận dụng thông tin ngữ nghĩa phong phú từ rubric một cách hiệu quả hơn.

2. Patent:​

  1. Phương pháp cải thiện khả năng suy luận toán học cho trợ lý ảo trên điện thoại: Một hệ thống trên điện thoại thông minh sử dụng ROPD để liên tục cải thiện khả năng giải toán của trợ lý ảo. Hệ thống sẽ lấy một bài toán từ người dùng, so sánh câu trả lời của trợ lý với câu trả lời từ một mô hình mạnh hơn trên đám mây, tạo ra bộ tiêu chí đánh giá (ví dụ: 'đã phân tích đúng đề bài', 'các bước tính toán chính xác'), và tự động điều chỉnh để trợ lý đưa ra câu trả lời đúng và có lý giải rõ ràng hơn trong tương lai, ngay cả khi không có kết nối mạng.
  2. Ứng dụng chấm điểm bài tập tự động cho học sinh: Một ứng dụng di động cho phép giáo viên tải lên đáp án mẫu và bài làm của học sinh. Ứng dụng sử dụng ROPD để tạo ra một bảng tiêu chí chấm điểm chi tiết dựa trên sự khác biệt giữa đáp án mẫu và bài làm. Sau đó, ứng dụng sẽ tự động chấm điểm từng bài làm dựa trên các tiêu chí này, đưa ra nhận xét cụ thể về lỗi sai của học sinh (ví dụ: 'sai ở bước phân tích đa thức') thay vì chỉ cho một điểm số tổng quát.
  3. Hệ thống gợi ý câu trả lời thông minh cho dịch vụ khách hàng trên di động: Một hệ thống trên điện thoại dành cho nhân viên chăm sóc khách hàng, sử dụng ROPD để học từ các cuộc hội thoại mẫu chất lượng cao. Hệ thống sẽ phân tích câu hỏi của khách hàng, so sánh câu trả lời dự kiến của nhân viên với câu trả lời từ một chuyên gia, tạo ra các tiêu chí như 'đã xác định đúng vấn đề', 'giải thích chính sách rõ ràng', 'thể hiện sự đồng cảm'. Dựa trên các tiêu chí này, hệ thống sẽ gợi ý những câu trả lời tốt hơn cho nhân viên, giúp nâng cao chất lượng dịch vụ mà không cần tiết lộ các cuộc hội thoại mẫu gốc.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2605.07396
ArXiv Abstracthttps://arxiv.org/abs/2605.07396
PDF Downloadhttps://arxiv.org/pdf/2605.07396.pdf
Github Repositoryhttps://github.com/Peregrine123/ROPD_official

9. Anisotropic Modality Align (23 votes)​

Tác giả: Xiaomin Yu, Yijiang Li, Yuhui Zhang, Hanzhen Zhao, Yue Yang, Hao Tang, Yue Song, Xiaobin Hu, Chengwei Qin, Shuicheng Yan, Hui Xiong

Xuất bản lúc: 2026-05-08

Tag: Modality Gap, Multimodal Large Language Models, Contrastive Learning, Representation Alignment, Anisotropic Geometry

I. Main Problem:​

Việc huấn luyện các mô hình ngôn ngữ lớn đa phương thức (MLLMs) bị hạn chế bởi sự khan hiếm dữ liệu đa phương thức chất lượng cao có cặp. Mặc dù không gian biểu diễn chia sẻ của các mô hình đối chiếu đa phương thức có thể làm cầu nối để huấn luyện với dữ liệu đơn phương thức, nhưng tính khả thi của việc trao đổi biểu diễn giữa các phương thức vẫn chưa được hiểu rõ. Rào cản cốt lõi là 'Khoảng cách phương thức' (Modality Gap) tồn tại dai dẳng trong không gian chia sẻ, khiến các biểu diễn từ các phương thức khác nhau không thể thay thế cho nhau một cách đáng tin cậy.

II. Main Idea:​

Bài báo này xem xét lại bản chất hình học của khoảng cách phương thức và phát hiện ra rằng các biểu diễn phương thức thực sự đã chia sẻ một cấu trúc ngữ nghĩa chiếm ưu thế tương thích. Điều thực sự cản trở khả năng thay thế lẫn nhau không phải là một sự dịch chuyển toàn cục đơn giản, mà là một cấu trúc dư thừa dị hướng (anisotropic residual structure) tập trung dọc theo một số ít hướng chiếm ưu thế. Dựa trên phát hiện này, các tác giả đề xuất nguyên tắc căn chỉnh khoảng cách phương thức dị hướng: việc căn chỉnh phương thức hiệu quả nên điều chỉnh theo phân phối của phương thức đích trong khi vẫn bảo toàn cấu trúc ngữ nghĩa của phương thức nguồn. Họ đề xuất một khung hiệu chỉnh hình học dị hướng, AnisoAlign, để căn chỉnh phương thức không có cặp. Khung này tận dụng tiên nghiệm hình học nội tại của phương thức đích và thực hiện hiệu chỉnh có giới hạn trên các biểu diễn của phương thức nguồn, từ đó xây dựng các biểu diễn thay thế trong phương thức đích.

III. Main Results:​

Các thí nghiệm cho thấy AnisoAlign đạt được sự tương thích hình học mục tiêu cân bằng nhất, bảo toàn ngữ nghĩa phương thức nguồn tốt hơn, và giảm các hướng dư thừa dị hướng chiếm ưu thế. Trong huấn luyện MLLM hoàn toàn bằng văn bản, AnisoAlign đạt điểm trung bình 47.49, vượt trội so với ReAlign (45.00) và các phương pháp khác. Trong cài đặt tiền huấn luyện chỉ bằng văn bản, AnisoAlign đạt 51.59 điểm, cao hơn ReAlign (50.16). Khi mở rộng quy mô dữ liệu chỉ văn bản lên 2M, AnisoAlign (52.75) thậm chí còn vượt nhẹ so với tiền huấn luyện bằng cặp ảnh-văn bản thực (52.72).

IV. Conclusion & Future Works:​

Công trình này tái định hình khoảng cách phương thức từ một quan sát thực nghiệm thành một hiện tượng hình học có cấu trúc có thể hiệu chỉnh được, cung cấp một góc nhìn mới về căn chỉnh biểu diễn cho việc huấn luyện các mô hình đa phương thức với dữ liệu đơn phương thức. Hướng nghiên cứu trong tương lai có thể mở rộng sang các phương thức khác ngoài ảnh và văn bản, hoặc khám phá các chiến lược căn chỉnh động thích ứng với dữ liệu.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng AnisoAlign cho các phương thức khác: Áp dụng khung hiệu chỉnh hình học dị hướng cho các cặp phương thức khác như âm thanh-văn bản, video-văn bản, hoặc dữ liệu cảm biến-văn bản. Nghiên cứu xem liệu cấu trúc dư thừa dị hướng có xuất hiện ở các cặp phương thức này không và liệu phương pháp đề xuất có thể được tổng quát hóa hiệu quả hay không.
  2. Căn chỉnh phương thức động và thích ứng: Phát triển các chiến lược căn chỉnh động, nơi các tham số hiệu chỉnh không cố định mà thích ứng với từng cụm dữ liệu hoặc từng miền cụ thể. Điều này có thể giúp cải thiện hiệu suất trên các bộ dữ liệu đa dạng hoặc khi phân phối dữ liệu thay đổi theo thời gian.
  3. Kết hợp AnisoAlign với các kiến trúc MLLM tiên tiến: Tích hợp AnisoAlign như một mô-đun tiền xử lý hoặc một lớp căn chỉnh trong các kiến trúc MLLM phức tạp hơn. Nghiên cứu ảnh hưởng của việc căn chỉnh hình học đến các khả năng suy luận đa phương thức phức tạp như hiểu biểu đồ, hình ảnh y tế, hoặc video dài.

2. Patent:​

  1. Phương pháp và hệ thống tạo ảnh đại diện từ văn bản cho điện thoại thông minh: Một ứng dụng cho phép người dùng nhập mô tả văn bản về một bức ảnh cụ thể (ví dụ: 'một chú mèo trên thảm xanh'), và hệ thống sẽ sử dụng AnisoAlign để tạo ra một biểu diễn ảnh thay thế từ văn bản. Biểu diễn này sau đó được sử dụng để tìm kiếm ảnh tương tự trong thư viện ảnh của điện thoại hoặc trên internet, giúp việc tìm kiếm ảnh trở nên trực quan và hiệu quả hơn.
  2. Hệ thống gợi ý nội dung đa phương thức cá nhân hóa trên thiết bị di động: Hệ thống này học sở thích của người dùng từ lịch sử văn bản (bài viết, tin nhắn) và ảnh đã xem. Sử dụng AnisoAlign, hệ thống có thể căn chỉnh các biểu diễn văn bản và ảnh, từ đó gợi ý các bài viết, sản phẩm hoặc nội dung giải trí phù hợp với cả sở thích ngữ nghĩa và thị giác của người dùng, ngay cả khi không có dữ liệu tương tác trực tiếp.
  3. Phương pháp nâng cao chất lượng tìm kiếm hình ảnh bằng văn bản trên thiết bị di động: Cải thiện chức năng tìm kiếm ảnh bằng văn bản trên điện thoại. Thay vì chỉ dựa trên nhãn hoặc mô tả văn bản có sẵn, hệ thống sử dụng AnisoAlign để hiệu chỉnh biểu diễn văn bản của truy vấn tìm kiếm sao cho nó nằm trong không gian biểu diễn hình ảnh. Điều này giúp tìm ra những bức ảnh có nội dung ngữ nghĩa tương tự nhưng không có nhãn văn bản chính xác, mang lại kết quả tìm kiếm chính xác và phong phú hơn.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2605.07825
ArXiv Abstracthttps://arxiv.org/abs/2605.07825
PDF Downloadhttps://arxiv.org/pdf/2605.07825.pdf
Github Repositoryhttps://github.com/Yu-xm/Modality_Gap_Theory

10. Beyond Retrieval: A Multitask Benchmark and Model for Code Search (22 votes)​

Tác giả: Siqiao Xue, Zihan Liao, Jin Qin, Ziyin Zhang, Yixiang Mu, Fan Zhou, Hang Yu

Xuất bản lúc: 2026-05-06

Tag: Code Search, Embedding Models, Reranking, Benchmark, LLMs, Retrieval-Augmented Generation

I. Main Problem:​

Các benchmark tìm kiếm mã nguồn hiện tại chỉ đánh giá giai đoạn embedding, bỏ qua giai đoạn reranker và truy vấn kiểu nhà phát triển. Chúng còn mắc các lỗi như nhiễu nhãn, ô nhiễm dữ liệu và cấu trúc liên quan nhị phân suy biến, dẫn đến đánh giá không thực tế.

II. Main Idea:​

Giới thiệu COREB, một benchmark và reranker mã nguồn mới, đa nhiệm, chống ô nhiễm dữ liệu, bao gồm ba tác vụ: văn bản-thành-mã, mã-thành-văn bản và mã-thành-mã trên năm ngôn ngữ lập trình. Điểm mới là sử dụng các bài toán LiveCodeBench được viết lại phản thực tế và nhãn liên quan được phân loại dựa trên kết quả thực thi, cùng với một reranker được tinh chỉnh (COREB-RERANKER) cải thiện nhất quán trên cả ba tác vụ.

III. Main Results:​

Mô hình chuyên biệt cho mã nguồn (0.5B) vượt trội so với mô hình đa năng (8B) trên tác vụ mã-thành-mã (~2x). Không có mô hình nào thắng cả ba tác vụ. Truy vấn từ khóa ngắn làm sụp đổ mọi mô hình (nDCG@10 gần 0). Reranker có sẵn không cải thiện nhất quán, chỉ có COREB-RERANKER đạt lợi ích trên cả ba tác vụ.

IV. Conclusion & Future Works:​

COREB cung cấp benchmark thực tế hơn cho pipeline tìm kiếm mã nguồn. Huấn luyện chuyên biệt quan trọng hơn kích thước mô hình. Truy vấn từ khóa ngắn và ngôn ngữ ít tài nguyên vẫn là thách thức. Hướng phát triển: kết hợp kỹ thuật mở rộng truy vấn (HyDE, Query2doc) và mở rộng benchmark sang nhiều ngôn ngữ hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu về các kỹ thuật mở rộng truy vấn (ví dụ: HyDE, Query2doc) để giải quyết vấn đề truy vấn từ khóa ngắn trong tìm kiếm mã nguồn, tập trung vào việc sinh câu truy vấn dài hơn từ ngữ cảnh hạn chế.
  2. Phát triển một mô hình embedding mã nguồn đa ngôn ngữ mới, sử dụng chiến lược huấn luyện đối nghịch (adversarial training) để cải thiện khả năng phân biệt giữa các mẫu mã khó (hard negatives) trong tác vụ mã-thành-mã.
  3. Xây dựng một hệ thống reranker thích ứng miền (domain-adaptive reranker) cho mã nguồn, sử dụng học tăng cường (reinforcement learning) để tối ưu hóa thứ hạng trên nhiều tác vụ tìm kiếm khác nhau, vượt qua hạn chế của các reranker hiện tại.

2. Patent:​

  1. Phương pháp và hệ thống tìm kiếm mã nguồn thông minh trên thiết bị di động: Sử dụng mô hình embedding mã nguồn nhỏ gọn (0.5B) được tối ưu hóa cho thiết bị di động, kết hợp với bộ lọc thông minh trên thiết bị để cải thiện tốc độ và độ chính xác khi lập trình viên tìm kiếm đoạn mã trên điện thoại.
  2. Ứng dụng hỗ trợ viết mã di động với khả năng gợi ý mã dựa trên ngữ cảnh: Hệ thống sử dụng pipeline tìm kiếm hai giai đoạn (embedding + reranker) để gợi ý các đoạn mã phù hợp dựa trên mô tả bằng ngôn ngữ tự nhiên hoặc mã hiện có, giúp lập trình viên làm việc hiệu quả hơn trên thiết bị di động.
  3. Phương pháp phát hiện và xử lý lỗi mã nguồn trên thiết bị di động: Kết hợp tìm kiếm mã-thành-mã để so sánh mã nguồn hiện tại với kho mã mẫu đã được kiểm chứng, từ đó đưa ra cảnh báo và đề xuất sửa lỗi cho lập trình viên khi họ viết mã trên điện thoại.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2605.04615
ArXiv Abstracthttps://arxiv.org/abs/2605.04615
PDF Downloadhttps://arxiv.org/pdf/2605.04615.pdf
Github Repositoryhttps://github.com/hq-bench/coreb

11. TextLDM: Language Modeling with Continuous Latent Diffusion (20 votes)​

Tác giả: Jiaxiu Jiang, Jingjing Ren, Wenbo Li, Bo Wang, Haoze Sun, Yijun Yang, Jianhui Liu, Yanbing Zhang, Shenghe Zheng, Yuan Zhang, Haoyang Huang, Nan Duan, Wangmeng Zuo

Xuất bản lúc: 2026-05-08

Tag: Diffusion, Flow Matching, Language Modeling, Latent Diffusion, Diffusion Transformer, Representation Alignment, VAE

I. Main Problem:​

Việc mở rộng thành công kiến trúc Diffusion Transformer (DiT) từ lĩnh vực sinh ảnh/video sang mô hình ngôn ngữ (text generation) gặp thách thức chính: làm thế nào để có được biểu diễn liên tục chất lượng cao cho văn bản? Các phương pháp VAE truyền thống chỉ tập trung vào độ chính xác tái tạo (reconstruction fidelity) tạo ra các không gian tiềm ẩn không phù hợp cho quá trình khử nhiễu có điều kiện (conditional denoising) của diffusion, dẫn đến chất lượng sinh văn bản kém.

II. Main Idea:​

Bài báo đề xuất TextLDM, chuyển giao công thức sinh ảnh tiềm ẩn (VAE + DiT + flow matching + CFG) sang sinh văn bản với sự thay đổi kiến trúc tối thiểu. Giải pháp gồm hai giai đoạn: (1) Huấn luyện một TextVAE (Transformer) để ánh xạ từng token rời rạc thành một vector tiềm ẩn liên tục, kết hợp với kỹ thuật Representation Alignment (REPA) để căn chỉnh đặc trưng của encoder với một mô hình ngôn ngữ lớn đã được đóng băng (Qwen3-1.7B), giúp không gian tiềm ẩn trở nên giàu ngữ nghĩa và phù hợp cho diffusion. (2) Huấn luyện một DiT tiêu chuẩn (TextDiT) trong không gian tiềm ẩn này với mục tiêu Flow Matching để mô hình hóa quá trình sinh văn bản.

III. Main Results:​

TextLDM vượt trội hơn đáng kể các mô hình ngôn ngữ diffusion trước đây (ví dụ: SSD-LM, Block Diffusion) trên 4 benchmark (WikiSource, Wikipedia, TinyStories, One Billion Words). Với mô hình 768M, TextLDM đạt kết quả tốt nhất trên hầu hết các chỉ số (ROUGE, BERTScore, MAUVE) và ngang bằng hoặc vượt qua GPT-2 cùng điều kiện. Các thử nghiệm cho thấy REPA là yếu tố then chốt giúp cải thiện chất lượng sinh, ngay cả khi độ chính xác tái tạo token của VAE gần như không đổi.

IV. Conclusion & Future Works:​

TextLDM chứng minh rằng công thức sinh ảnh tiềm ẩn (VAE + DiT + Flow Matching + CFG) có thể chuyển giao hiệu quả sang mô hình ngôn ngữ. Điều này mở ra hướng đi cho các kiến trúc Diffusion Transformer thống nhất cho đa phương thức (sinh và hiểu văn bản, hình ảnh, video). Hướng nghiên cứu tương lai bao gồm mở rộng quy mô dữ liệu và mô hình, và xây dựng kiến trúc đa phương thức thống nhất.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng TextLDM cho các ngôn ngữ khác ngoài tiếng Anh: Nghiên cứu khả năng chuyển giao của TextLDM sang các ngôn ngữ có cấu trúc ngữ pháp và bảng chữ cái khác nhau (ví dụ: tiếng Việt, tiếng Trung, tiếng Ả Rập). Đánh giá tác động của việc lựa chọn tokenizer và mô hình ngôn ngữ nguồn cho REPA đến chất lượng sinh văn bản.
  2. TextLDM với điều kiện đa phương thức (Multimodal Conditioning): Phát triển một phiên bản TextLDM có thể sinh văn bản dựa trên nhiều loại điều kiện đầu vào khác nhau, chẳng hạn như hình ảnh, âm thanh hoặc video. Nghiên cứu cách kết hợp các đặc trưng từ các bộ mã hóa khác nhau (ví dụ: CLIP, ImageBind) vào quá trình khử nhiễu của DiT.
  3. Nâng cao hiệu quả suy luận của TextLDM: Tập trung vào việc giảm số bước lấy mẫu (NFE) trong quá trình suy luận của TextLDM mà không làm giảm chất lượng sinh. Nghiên cứu các bộ giải ODE nhanh hơn (ví dụ: DPM-Solver, Consistency Models) hoặc kỹ thuật distillation (ví dụ: Progressive Distillation) được thiết kế riêng cho không gian tiềm ẩn liên tục của văn bản.

2. Patent:​

  1. Phương pháp và hệ thống sinh văn bản nhanh trên thiết bị di động sử dụng mô hình khuếch tán tiềm ẩn: Một phương pháp cho phép sinh văn bản (ví dụ: tóm tắt tin nhắn, gợi ý trả lời) trên điện thoại di động với độ trễ thấp. Hệ thống sử dụng một mô hình Văn bản-VAE đã được huấn luyện trước để nén văn bản thành các vector đặc trưng, sau đó một mô hình khuếch tán nhỏ gọn chạy trên thiết bị sẽ khử nhiễu các vector này. Kết quả được giải mã trực tiếp thành văn bản hoàn chỉnh, giúp giảm tải tính toán so với các mô hình tự hồi quy truyền thống.
  2. Ứng dụng chỉnh sửa văn bản dựa trên ngữ cảnh trên thiết bị di động: Một ứng dụng cho phép người dùng chọn một đoạn văn bản và yêu cầu thay đổi phong cách hoặc nội dung (ví dụ: chuyển từ văn phong trang trọng sang thân mật, kéo dài hoặc rút ngắn câu). Ứng dụng sử dụng mô hình TextLDM, trong đó đoạn văn bản gốc được mã hóa thành không gian tiềm ẩn và đóng vai trò là điều kiện đầu vào. Mô hình khuếch tán sau đó sẽ sinh ra một phiên bản tiềm ẩn mới với các đặc tính mong muốn, sau đó được giải mã thành văn bản hoàn chỉnh.
  3. Hệ thống gợi ý nội dung văn bản dựa trên cảm xúc người dùng cho thiết bị di động: Một hệ thống phân tích cảm xúc của người dùng (ví dụ: từ biểu cảm khuôn mặt, giọng nói) và sử dụng thông tin này làm điều kiện đầu vào cho mô hình TextLDM để sinh ra các gợi ý văn bản phù hợp. Ví dụ, khi người dùng có tâm trạng buồn, hệ thống có thể gợi ý những câu chuyện tích cực hoặc lời động viên. Hệ thống này có thể được tích hợp vào bàn phím ảo hoặc trợ lý ảo trên điện thoại.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2605.07748
ArXiv Abstracthttps://arxiv.org/abs/2605.07748
PDF Downloadhttps://arxiv.org/pdf/2605.07748.pdf
Github RepositoryN/A

12. UniPrefill: Universal Long-Context Prefill Acceleration via Block-wise Dynamic Sparsification (20 votes)​

Tác giả: Qihang Fan, Huaibo Huang, Zhiying Wu, Bingning Wang, Ran He

Xuất bản lúc: 2026-05-07

Tag: LLMs, Long-Context Inference, Prefill Acceleration, Sparsification, Hybrid Architectures, vLLM

I. Main Problem:​

Các phương pháp tăng tốc prefill hiện tại chủ yếu tập trung vào cơ chế sparse attention, chỉ hiệu quả trên các mô hình full-attention thuần túy. Khi áp dụng lên các kiến trúc hybrid mới (kết hợp linear/full attention hoặc sliding window/full attention), hiệu suất tăng tốc giảm đáng kể vì chỉ tác động lên một phần nhỏ các lớp attention. Ngoài ra, các phương pháp này thường không tương thích với continuous batching, gây khó khăn khi tích hợp vào các inference engine hiện đại như vLLM.

II. Main Idea:​

UniPrefill đề xuất một framework tăng tốc prefill không phụ thuộc vào kiến trúc mô hình, hoạt động ở mức token. Ý tưởng chính là ước lượng mức độ quan trọng của các token tại các lớp full-attention, sau đó loại bỏ các token không quan trọng và lan truyền độ thưa này qua tất cả các lớp tiếp theo (bao gồm attention, FFN, v.v.). Việc loại bỏ token dựa trên cơ chế top-p, giữ lại tập token nhỏ nhất có tổng trọng số attention đạt ngưỡng p. UniPrefill được tích hợp sâu vào vLLM như một continuous batching operator, hỗ trợ tensor parallelism và prefill-decode co-processing.

III. Main Results:​

UniPrefill đạt được tốc độ TTFT (Time-To-First-Token) nhanh hơn tới 2.1 lần so với baseline trên các mô hình full-attention (LLaMA-3.1-8B), linear/full attention hybrid (Qwen3-Next-80B-A3B) và sliding window/full attention hybrid (Gemma-3-12B), với độ chính xác suy giảm không đáng kể trên benchmark RULER. Tốc độ tăng tốc càng cao khi số lượng request đồng thời và độ dài ngữ cảnh tăng lên.

IV. Conclusion & Future Works:​

UniPrefill chứng minh rằng việc ước lượng mức độ quan trọng của token tại các lớp full-attention và lan truyền độ thưa qua tất cả các lớp là một hướng tiếp cận hiệu quả để tăng tốc prefill trên nhiều kiến trúc mô hình khác nhau. Hướng phát triển trong tương lai có thể bao gồm việc tối ưu hóa thêm cơ chế chọn token, mở rộng cho các mô hình đa phương thức, và cải thiện khả năng tương thích với các hệ thống suy luận khác.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu phương pháp ước lượng mức độ quan trọng của token dựa trên thông tin từ nhiều lớp attention thay vì chỉ một lớp, nhằm tăng độ chính xác và giảm thiểu sai số lan truyền.
  2. Phát triển cơ chế top-p động, tự động điều chỉnh ngưỡng p dựa trên độ phức tạp của ngữ cảnh hoặc phân bố attention, giúp cân bằng giữa tốc độ và độ chính xác.
  3. Mở rộng UniPrefill cho các mô hình đa phương thức (ví dụ: Vision-Language Models), nơi việc loại bỏ token có thể áp dụng không chỉ trên chuỗi văn bản mà còn trên các đặc trưng thị giác.

2. Patent:​

  1. Phương pháp tăng tốc xử lý văn bản dài trên điện thoại thông minh bằng cách loại bỏ các từ không quan trọng trong quá trình nhập liệu, giúp giảm thời gian phản hồi khi sử dụng các ứng dụng chat hoặc trợ lý ảo.
  2. Hệ thống tóm tắt văn bản thông minh trên thiết bị di động, sử dụng cơ chế ước lượng mức độ quan trọng của câu để tạo ra bản tóm tắt ngắn gọn nhưng vẫn giữ được nội dung chính, tiết kiệm thời gian và tài nguyên.
  3. Phương pháp tối ưu hóa bộ nhớ cho các ứng dụng AI trên điện thoại bằng cách chỉ lưu trữ các token quan trọng trong bộ nhớ đệm, giúp giảm dung lượng sử dụng và tăng tốc độ xử lý các tác vụ liên quan đến ngữ cảnh dài.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2605.06221
ArXiv Abstracthttps://arxiv.org/abs/2605.06221
PDF Downloadhttps://arxiv.org/pdf/2605.06221.pdf
Github Repositoryhttps://github.com/qhfan/UniPrefill

13. DecodingTrust-Agent Platform (DTap): A Controllable and Interactive Red-Teaming Platform for AI Agents (19 votes)​

Tác giả: Zhaorun Chen, Xun Liu, Haibo Tong, Chengquan Guo, Yuzhou Nie, Jiawei Zhang, Mintong Kang, Chejian Xu, Qichang Liu, Xiaogeng Liu, Tianneng Shi, Chaowei Xiao, Sanmi Koyejo, Percy Liang, Wenbo Guo, Dawn Song, Bo Li

Xuất bản lúc: 2026-05-06

Tag: AI Agent, Red-Teaming, LLM Security, Prompt Injection, Tool Injection, Benchmark, Autonomous Agent, Adversarial Attack

I. Main Problem:​

Các tác nhân AI ngày càng được triển khai trong nhiều lĩnh vực để tự động hóa các quy trình phức tạp, nhưng chúng tiềm ẩn rủi ro bảo mật và an toàn lớn. Kẻ tấn công có thể dễ dàng thao túng các tác nhân để thực hiện các hành động có hại như rò rỉ khóa API, xóa dữ liệu người dùng hoặc thực hiện giao dịch trái phép. Việc đánh giá bảo mật của các tác nhân AI gặp nhiều thách thức vì chúng hoạt động trong các môi trường không đáng tin cậy, liên quan đến các công cụ bên ngoài, nguồn dữ liệu không đồng nhất và tương tác thường xuyên với người dùng. Hiện tại, thiếu một môi trường mô phỏng thực tế, có thể kiểm soát và tái tạo để đánh giá rủi ro trên quy mô lớn.

II. Main Idea:​

Bài báo giới thiệu DECODINGTRUST-AGENTPLATFORM (DTAP), nền tảng red-teaming có thể kiểm soát và tương tác đầu tiên dành cho các tác nhân AI, bao gồm hơn 50 môi trường mô phỏng trong 14 lĩnh vực thực tế (ví dụ: Google Workspace, PayPal, Slack). Nền tảng này cho phép đánh giá bảo mật một cách an toàn và có thể tái tạo. Đi kèm với đó là DTAP-RED, một tác nhân red-teaming tự động, có khả năng khám phá các vectơ tấn công đa dạng (prompt, tool, skill, environment) và tự động tìm ra các chiến lược tấn công hiệu quả. DTAP-RED sử dụng một thư viện chiến lược tấn công, bộ nhớ đa lớp và phản hồi từ các thẩm phán có thể xác minh để tối ưu hóa các cuộc tấn công một cách lặp đi lặp lại.

III. Main Results:​

DTAP-BENCH, một bộ dữ liệu red-teaming quy mô lớn, được xây dựng gồm hơn 4.000 mục tiêu độc hại từ hơn 300 hạng mục rủi ro, với 6.682 nhiệm vụ chất lượng cao. Các thí nghiệm trên nhiều framework tác nhân tiên tiến (OpenClaw, Claude Code, Google ADK, OpenAI Agents SDK) với các mô hình nền mạnh mẽ (GPT-5.5, Gemini-3-Pro, Claude-Sonnet-4.5) cho thấy tất cả các tác nhân đều có lỗ hổng đáng kể. Google ADK dễ bị tấn công nhất trong mô hình gián tiếp (55.7% ASR), trong khi OpenClaw (DeepSeek-V4-Pro) có ASR cao nhất trong mô hình trực tiếp (59.6%). Ngay cả tác nhân mạnh mẽ nhất, Claude Code, vẫn đạt ASR trên 25.2%, cho thấy bảo mật vẫn là một thách thức lớn.

IV. Conclusion & Future Works:​

DTAP là nền tảng toàn diện đầu tiên cho red-teaming tác nhân AI, cho thấy các lỗ hổng bảo mật phổ biến và cung cấp những hiểu biết có giá trị để phát triển các tác nhân thế hệ tiếp theo an toàn hơn. Các hướng nghiên cứu trong tương lai có thể bao gồm việc mở rộng nền tảng ra nhiều lĩnh vực và môi trường hơn, phát triển các kỹ thuật tấn công tinh vi hơn, và thiết kế các cơ chế phòng thủ mạnh mẽ hơn như guardrails bên ngoài hoặc các biện pháp kiểm soát thực thi.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển các kỹ thuật tấn công kết hợp (compositional attack) mới cho tác nhân AI: Nghiên cứu sâu hơn về cách kết hợp nhiều vectơ tấn công khác nhau (ví dụ: prompt + tool + environment) để tạo ra các cuộc tấn công tinh vi và khó phát hiện hơn, đặc biệt là trong các tình huống đa bước và đa phương thức.
  2. Xây dựng cơ chế phòng thủ động dựa trên phân tích luồng thông tin (information flow analysis) cho tác nhân AI: Thiết kế các hệ thống phòng thủ có khả năng phân tích luồng thông tin và ngữ cảnh trong quá trình thực thi đa bước của tác nhân để phát hiện và ngăn chặn các hành vi độc hại, đặc biệt là các rủi ro liên quan đến ngữ cảnh như rò rỉ dữ liệu hoặc leo thang đặc quyền.
  3. Nghiên cứu sự khác biệt về lỗ hổng bảo mật giữa các tác nhân AI mã nguồn mở và mã nguồn đóng: Phân tích chi tiết nguyên nhân khiến các tác nhân dựa trên mô hình mã nguồn mở dễ bị tấn công trực tiếp hơn, từ đó đề xuất các chiến lược huấn luyện và căn chỉnh (alignment) phù hợp để tăng cường khả năng phân biệt ý định độc hại.

2. Patent:​

  1. Hệ thống phát hiện và ngăn chặn tấn công qua email giả mạo trên điện thoại thông minh: Một ứng dụng trên điện thoại thông minh có khả năng phân tích nội dung email đến, phát hiện các dấu hiệu của tấn công chèn lệnh (prompt injection) hoặc thao túng ngữ cảnh (ví dụ: email giả mạo yêu cầu chuyển tiền hoặc chia sẻ dữ liệu nhạy cảm). Hệ thống sẽ cảnh báo người dùng và tự động chặn các hành động nguy hiểm từ tác nhân AI, như thực hiện giao dịch hoặc gửi dữ liệu ra ngoài.
  2. Phương pháp kiểm tra bảo mật tự động cho các ứng dụng trợ lý ảo trên thiết bị di động: Một công cụ kiểm tra bảo mật (security scanner) được thiết kế dành riêng cho các ứng dụng trợ lý ảo tích hợp AI trên điện thoại. Công cụ này sẽ tự động mô phỏng các cuộc tấn công đa dạng (ví dụ: chèn lệnh độc hại qua tin nhắn, tệp đính kèm, hoặc liên kết) để đánh giá mức độ an toàn của trợ lý ảo trước khi ứng dụng được phát hành hoặc sau mỗi bản cập nhật.
  3. Cơ chế xác thực đa lớp cho các tác vụ nhạy cảm do tác nhân AI thực hiện trên thiết bị di động: Một hệ thống trên điện thoại thông minh yêu cầu sự xác nhận của người dùng (ví dụ: qua xác thực sinh trắc học như vân tay hoặc khuôn mặt) trước khi tác nhân AI thực hiện bất kỳ hành động nào có rủi ro cao, như thực hiện giao dịch tài chính, xóa dữ liệu, hoặc chia sẻ thông tin nhạy cảm. Hệ thống cũng có thể phân tích chuỗi hành động của tác nhân để phát hiện các hành vi bất thường và yêu cầu xác thực bổ sung.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2605.04808
ArXiv Abstracthttps://arxiv.org/abs/2605.04808
PDF Downloadhttps://arxiv.org/pdf/2605.04808.pdf
Github Repositoryhttps://github.com/AI-secure/DecodingTrust-Agent

14. Rethinking State Tracking in Recurrent Models Through Error Control Dynamics (16 votes)​

Tác giả: Jiwan Chung, Heechan Choi, Seon Joo Kim

Xuất bản lúc: 2026-05-08

Tag: State Tracking, Recurrent Neural Networks, Error Control, State-Space Models, Linear Attention

I. Main Problem:​

Lý thuyết về theo dõi trạng thái trong các kiến trúc hồi tiếp chủ yếu tập trung vào khả năng biểu diễn: liệu một kiến trúc cố định có thể thực hiện một bộ quy tắc chuyển đổi ký hiệu hay không. Tuy nhiên, một khía cạnh quan trọng không kém đã bị bỏ qua, đó là kiểm soát lỗi (error control) - động lực chi phối sự trôi dạt của trạng thái ẩn dọc theo các hướng phân biệt các trạng thái ký hiệu. Các mô hình hồi tiếp affine, bao gồm State-Space Models (SSMs) và Linear Attention, không thể sửa lỗi dọc theo các không gian con phân tách trạng thái một khi chúng đã bảo toàn các biểu diễn trạng thái. Do đó, các bộ theo dõi affine thực tế không học được cách theo dõi trạng thái một cách mạnh mẽ; thay vào đó, chúng học các giải pháp trong một khoảng thời gian hữu hạn bị chi phối bởi lỗi liên quan đến trạng thái tích lũy.

II. Main Idea:​

Bài báo đề xuất nghiên cứu kiểm soát lỗi như một trục còn thiếu trong việc theo dõi trạng thái hồi tiếp. Các tác giả chứng minh rằng các mô hình hồi tiếp affine không thể sửa lỗi trôi dạt trạng thái ký hiệu một khi chúng đã bảo toàn các biểu diễn trạng thái (Định lý 1). Các ánh xạ hồi tiếp phụ thuộc trạng thái (state-dependent return maps) có thể thoát khỏi sự cản trở này và co lại một cách có chọn lọc sự trôi dạt trong không gian con ký hiệu. Bài báo cũng mô tả đặc điểm của các khoảng thời gian hữu hạn mà các bộ theo dõi affine có thể duy trì mà không cần sự hiệu chỉnh phụ thuộc trạng thái. Sự thất bại của chúng bị chi phối bởi lỗi liên quan đến trạng thái tích lũy: việc theo dõi vẫn có thể đọc được trong khi độ trải rộng trong cùng một lớp (within-class spread) vẫn nhỏ so với khoảng cách giữa các lớp (between-class separation), và sụp đổ khi tỷ lệ này vượt qua ngưỡng có thể đọc được của bộ giải mã đã được huấn luyện.

III. Main Results:​

Kết quả thực nghiệm trên các tác vụ theo dõi trạng thái nhóm (C2, C6, S3) cho thấy sự phân chia rõ ràng: các mô hình phụ thuộc trạng thái (tanh RNN, State-gated RNN) duy trì khả năng theo dõi trên các khoảng thời gian dài nhất được kiểm tra (lên đến 1000 bước), trong khi các mô hình affine mất độ chính xác ở các khoảng thời gian khác nhau. Các chẩn đoán về động lực lỗi cho thấy các mô hình phụ thuộc trạng thái co lại một cách có chọn lọc các lỗi trạng thái ẩn được tiêm vào, trong khi các mô hình affine thì không. Tỷ lệ phân biệt q(t) = R(t)/M(t) theo dõi cách các mô hình affine dần dần cạn kiệt khoảng thời gian hữu hạn khi độ trải rộng trong cùng một lớp tiến gần đến khoảng cách giữa các lớp. Điểm mà q(t) vượt qua ngưỡng có thể đọc được lần đầu tiên, ký hiệu là T_cross, dự đoán một cách định lượng độ dài truyền tối đa (max-passing length) ở hạ nguồn trên các mô hình affine cho tác vụ S3 (tương quan r=+0.87).

IV. Conclusion & Future Works:​

Bài báo kết luận rằng việc theo dõi trạng thái mạnh mẽ không chỉ được quyết định bởi khả năng biểu diễn lý thuyết của một kiến trúc mà còn quan trọng bởi động lực kiểm soát lỗi của nó. Các mô hình affine không thể sửa lỗi trên không gian con phân tách trạng thái, và các bộ theo dõi affine xấp xỉ thất bại khi lỗi tích lũy vượt quá biên trạng thái. Các hướng nghiên cứu trong tương lai có thể bao gồm việc thiết kế các kiến trúc hồi tiếp mới kết hợp khả năng kiểm soát lỗi mạnh mẽ hơn, đặc biệt là cho các tác vụ yêu cầu theo dõi trạng thái trong thời gian dài.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển các kiến trúc hồi tiếp lai (hybrid recurrent architectures) kết hợp các thành phần affine và phi tuyến phụ thuộc trạng thái để cân bằng giữa hiệu quả tính toán và khả năng kiểm soát lỗi mạnh mẽ.
  2. Nghiên cứu các cơ chế kiểm soát lỗi thích ứng (adaptive error control mechanisms) cho các mô hình không gian trạng thái (SSMs), cho phép chúng tự động điều chỉnh động lực co lỗi dựa trên độ phức tạp của tác vụ theo dõi trạng thái.
  3. Mở rộng lý thuyết kiểm soát lỗi cho các kiến trúc hồi tiếp phức tạp hơn như Transformer và các biến thể của chúng, xem xét cách các cơ chế attention có thể ảnh hưởng đến sự trôi dạt trạng thái và khả năng hiệu chỉnh.

2. Patent:​

  1. Phương pháp và hệ thống theo dõi trạng thái đầu vào trên thiết bị di động sử dụng mô hình hồi tiếp có kiểm soát lỗi: Phát minh này mô tả một phương pháp để theo dõi trạng thái của người dùng (ví dụ: trạng thái ứng dụng, vị trí, hoạt động) trên điện thoại thông minh bằng cách sử dụng một mô hình hồi tiếp đặc biệt. Mô hình này được thiết kế để tự động sửa chữa các lỗi nhỏ trong quá trình dự đoán trạng thái, giúp cho việc theo dõi được chính xác và ổn định hơn trong thời gian dài, ngay cả khi có nhiễu từ cảm biến hoặc thao tác của người dùng. Điều này cải thiện hiệu suất của các tính năng như dự đoán hành động tiếp theo, đề xuất ứng dụng thông minh, hoặc điều khiển tự động.
  2. Hệ thống nhận dạng cử chỉ liên tục trên thiết bị di động với khả năng hiệu chỉnh lỗi trạng thái: Phát minh này đề xuất một hệ thống nhận dạng cử chỉ (ví dụ: vuốt, chạm, xoay) trên điện thoại di động. Hệ thống sử dụng một mạng hồi tiếp có khả năng theo dõi trạng thái của bàn tay hoặc ngón tay theo thời gian. Điểm mới là hệ thống này có thể tự động phát hiện và sửa chữa các lỗi trong quá trình theo dõi, chẳng hạn như khi người dùng thực hiện cử chỉ không chính xác hoặc khi cảm biến bị nhiễu. Nhờ đó, việc nhận dạng cử chỉ trở nên chính xác và mượt mà hơn, ngay cả trong các tình huống sử dụng thực tế.
  3. Phương pháp tối ưu hóa thời lượng pin cho thiết bị di động dựa trên dự đoán trạng thái sử dụng có kiểm soát lỗi: Phát minh này mô tả một phương pháp quản lý năng lượng thông minh trên điện thoại thông minh. Thay vì bật tắt các thành phần phần cứng (như màn hình, kết nối mạng) một cách đơn giản, hệ thống sử dụng một mô hình hồi tiếp nhẹ để dự đoán trạng thái sử dụng của người dùng trong tương lai gần (ví dụ: người dùng sắp mở khóa điện thoại, sắp sử dụng ứng dụng nặng). Mô hình này có khả năng tự sửa lỗi dự đoán, giúp các quyết định quản lý năng lượng trở nên chính xác hơn, từ đó kéo dài thời lượng pin mà không làm giảm trải nghiệm người dùng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2605.07755
ArXiv Abstracthttps://arxiv.org/abs/2605.07755
PDF Downloadhttps://arxiv.org/pdf/2605.07755.pdf
Github RepositoryN/A

15. AEM: Adaptive Entropy Modulation for Multi-Turn Agentic Reinforcement Learning (16 votes)​

Tác giả: Haotian Zhao, Songlin Zhou, Yuxin Zhang, Stephen S. -T. Yau, Wenyu Zhang, Lun Tian, Tianshu Zhu, Yifeng Huang, Yucheng Zeng, Jingnan Gu, Daxiang Dong, Jianmin Wu

Xuất bản lúc: 2026-05-08

Tag: Reinforcement Learning, Large Language Models, LLM Agents, Credit Assignment, Entropy Modulation, Multi-Turn Agentic RL, Exploration-Exploitation, GRPO

I. Main Problem:​

Trong huấn luyện tác nhân đa lượt (multi-turn agentic RL) bằng phương pháp học tăng cường, các phần thưởng đầu ra thường thưa thớt và chỉ có ở cuối quá trình tương tác. Điều này gây ra vấn đề gán tín hiệu học tập không rõ ràng cho từng bước hành động trung gian, làm cho việc tối ưu hóa chính sách kém hiệu quả. Các giải pháp hiện tại như mô hình phần thưởng quá trình hoặc tín hiệu tự giám sát thường yêu cầu thêm mô hình phụ trợ, tính toán nặng nề hoặc có những giả định cấu trúc hạn chế, thiếu tính tổng quát và linh hoạt.

II. Main Idea:​

Bài báo đề xuất AEM (Adaptive Entropy Modulation), một phương pháp gán tín hiệu học tập không cần giám sát, nhẹ và dễ tích hợp. AEM sử dụng entropy ở cấp độ phản hồi (response-level entropy) như một tín hiệu nội tại để điều chỉnh các lợi thế (advantages) của từng phản hồi. Cụ thể, AEM tăng trọng số cho các phản hồi có độ bất ngờ tương đối thấp (thể hiện sự tự tin) và giảm trọng số cho các phản hồi có độ bất ngờ cao (thể hiện sự khám phá). Qua đó, phương pháp này tự động điều chỉnh quá trình huấn luyện từ giai đoạn khám phá (exploration) sang giai đoạn khai thác (exploitation) dựa trên sự cân bằng giữa các mẫu tích cực và tiêu cực trong quá trình huấn luyện.

III. Main Results:​

AEM được thử nghiệm trên ba benchmark đa lượt thách thức: ALFWorld, WebShop và SWE-bench-Verified với các mô hình từ 1.5B đến 32B tham số. Kết quả cho thấy AEM cải thiện nhất quán các baseline mạnh như GRPO, DAPO, GSPO và DeepSWE. Cụ thể, AEM đạt mức cải thiện lên tới +8.8% trên GRPO với Qwen2.5-1.5B trên ALFWorld và +1.4% khi tích hợp vào DeepSWE trên SWE-bench-Verified. Phân tích cho thấy AEM giảm thiểu sự sụp đổ entropy sớm, thúc đẩy quá trình chuyển đổi từ khám phá sang khai thác một cách tự nhiên, và chỉ tốn thêm 1.1% chi phí tính toán.

IV. Conclusion & Future Works:​

AEM là một phương pháp gán tín hiệu học tập hiệu quả, không cần giám sát, giúp cải thiện đáng kể hiệu suất của các tác nhân đa lượt trong học tăng cường. Bằng cách sử dụng entropy cấp phản hồi, AEM cung cấp một cơ chế thực tế để kiểm soát sự cân bằng giữa khám phá và khai thác. Kết quả thực nghiệm trên nhiều benchmark khác nhau chứng minh tính hiệu quả và tổng quát của phương pháp. Các hướng nghiên cứu trong tương lai có thể mở rộng AEM cho các môi trường phức tạp hơn hoặc kết hợp với các kỹ thuật tối ưu hóa khác.

V. Brainstorming Space:​

1. Publish Papers:​

  1. 1. Mở rộng AEM cho các tác vụ đa phương thức (Multimodal Agentic RL): Nghiên cứu cách áp dụng nguyên lý điều chế entropy không chỉ trên văn bản mà còn trên các modality khác như hình ảnh, âm thanh trong các tác vụ tương tác phức tạp (ví dụ: robot điều khiển bằng ngôn ngữ và thị giác). Bài toán đặt ra là làm thế nào để định nghĩa và tính toán 'entropy' cho các hành động đa phương thức và sử dụng nó để cải thiện việc gán tín hiệu học tập.
  2. 2. Kết hợp AEM với các phương pháp học tăng cường dựa trên mô hình thế giới (Model-based RL): Tích hợp AEM vào các framework học tăng cường có sử dụng mô hình thế giới để dự đoán trạng thái tiếp theo. Entropy của phản hồi có thể được sử dụng như một tín hiệu để quyết định khi nào nên khám phá các trạng thái không chắc chắn trong mô hình thế giới, từ đó cải thiện hiệu quả học tập và giảm thiểu rủi ro.
  3. 3. Phân tích lý thuyết sâu hơn về động lực học entropy trong các thuật toán tối ưu hóa chính sách khác: Mở rộng định lý về sự thay đổi entropy (Entropy Drift) cho các thuật toán actor-critic phức tạp hơn như PPO, IMPALA. Nghiên cứu ảnh hưởng của các kỹ thuật như clipping, KL penalty lên động lực học entropy và đề xuất các biến thể AEM phù hợp.

2. Patent:​

  1. 1. Phương pháp điều chỉnh hành vi khám phá cho trợ lý ảo trên điện thoại thông minh: Một hệ thống trên điện thoại thông minh sử dụng AEM để điều chỉnh hành vi của trợ lý ảo khi thực hiện các tác vụ phức tạp nhiều bước (ví dụ: đặt vé máy bay, soạn thảo email). Khi trợ lý còn 'bối rối' (entropy cao), nó sẽ chủ động hỏi lại người dùng để làm rõ yêu cầu (khám phá). Khi đã hiểu rõ (entropy thấp), nó sẽ tự tin thực hiện các bước tiếp theo (khai thác), giúp tăng độ chính xác và trải nghiệm người dùng.
  2. 2. Hệ thống gợi ý ứng dụng (App Suggestion) thích ứng trên điện thoại: Một ứng dụng trên điện thoại học cách gợi ý các ứng dụng khác dựa trên chuỗi hành vi của người dùng. Sử dụng AEM, hệ thống sẽ 'khám phá' bằng cách gợi ý các ứng dụng mới, ít được sử dụng khi hành vi của người dùng còn đa dạng (entropy cao). Khi hành vi trở nên ổn định (entropy thấp), hệ thống sẽ 'khai thác' bằng cách tập trung gợi ý các ứng dụng quen thuộc, giúp dự đoán chính xác hơn nhu cầu của người dùng.
  3. 3. Phương pháp tối ưu hóa thời lượng pin cho các tác vụ nền trên điện thoại: Một hệ thống quản lý năng lượng trên điện thoại sử dụng AEM để quyết định tần suất và mức độ chi tiết khi thực hiện các tác vụ nền (ví dụ: đồng bộ dữ liệu, cập nhật ứng dụng). Khi môi trường thay đổi nhanh (entropy cao - nhiều sự kiện mới), hệ thống sẽ 'khám phá' bằng cách cập nhật thường xuyên hơn để nắm bắt thông tin. Khi môi trường ổn định (entropy thấp), hệ thống sẽ 'khai thác' bằng cách giảm tần suất cập nhật để tiết kiệm pin, kéo dài thời gian sử dụng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2605.00425
ArXiv Abstracthttps://arxiv.org/abs/2605.00425
PDF Downloadhttps://arxiv.org/pdf/2605.00425.pdf
Github RepositoryN/A

16. MatryoshkaLoRA: Learning Accurate Hierarchical Low-Rank Representations for LLM Fine-Tuning (15 votes)​

Tác giả: Ionut-Vlad Modoranu, Mher Safaryan, Dan Alistarh

Xuất bản lúc: 2026-05-08

Tag: LoRA, Parameter-Efficient Fine-Tuning, Low-Rank Adaptation, Matryoshka Representation, LLMs, Hierarchical Representations

I. Main Problem:​

Việc tinh chỉnh các mô hình ngôn ngữ lớn (LLMs) với hàng tỷ tham số đòi hỏi chi phí tính toán cao. Phương pháp Low-Rank Adaptation (LoRA) giúp giảm chi phí nhưng yêu cầu phải chọn trước một rank cố định, dẫn đến việc phải thử nghiệm nhiều lần để tìm rank tối ưu. Các giải pháp thích ứng rank hiện có như DyLoRA không học được các đặc trưng phân cấp một cách hiệu quả, đặc biệt là ở các rank cao, do tín hiệu gradient không nhất quán trên toàn bộ hệ thống phân cấp rank.

II. Main Idea:​

Bài báo đề xuất MATRYOSHKALORA, một khung huấn luyện tổng quát lấy cảm hứng từ Matryoshka Representation Learning. Phương pháp này chèn một ma trận đường chéo P được thiết kế cẩn thận vào giữa các bộ điều hợp A và B của LoRA để mở rộng quy mô các sub-rank tương ứng. Điều này cho phép học các đặc trưng phân cấp có độ chính xác cao, nơi các biểu diễn có rank thấp hơn được chứa trong các biểu diễn có rank cao hơn dưới dạng tiền tố. Phương pháp này loại bỏ nhu cầu tìm kiếm rank theo lưới, cho phép triển khai linh hoạt với các rank khác nhau trên các thiết bị khác nhau và hỗ trợ lựa chọn rank động.

III. Main Results:​

MATRYOSHKALORA vượt trội hơn LoRA và DyLoRA trên toàn bộ phổ rank trên các mô hình Llama-3.2-1B-Instruct và Llama-3.1-8B-Instruct trên các bộ dữ liệu GSM-8K, ARC-C và HellaSwag. Ví dụ, trên Llama-3.2-1B-Instruct với GSM-8K, MATRYOSHKALORA đạt AURAC (diện tích dưới đường cong độ chính xác-rank) là 38.4%, cao hơn đáng kể so với ~35% của LoRA và DyLoRA. Trên Llama-3.1-8B-Instruct, nó đạt độ chính xác lên tới 78.6% (3-shot) và 80.5% (8-shot) trên GSM-8K, cũng như cải thiện hơn 3% trên HellaSwag.

IV. Conclusion & Future Works:​

MATRYOSHKALORA là một khung huấn luyện đơn giản, hiệu quả cho LoRA, cho phép học các đặc trưng phân cấp có độ chính xác cao với cùng chi phí như LoRA tiêu chuẩn. Hướng phát triển trong tương lai bao gồm tinh chỉnh siêu tham số (learning rate, số epoch, weight decay) để cải thiện kết quả, và thử nghiệm các cấu hình rank khác nhau cho các tầng khác nhau trong mạng.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu khả năng mở rộng của MATRYOSHKALORA cho các mô hình đa phương thức (Vision-Language Models), nơi các rank khác nhau có thể được gán cho các module thị giác và ngôn ngữ khác nhau để tối ưu hiệu suất tổng thể.
  2. Phát triển một phương pháp tự động xác định tập các rank huấn luyện tối ưu S và vector tỷ lệ P dựa trên độ nhạy của từng tầng, nhằm tối đa hóa hiệu quả tham số và độ chính xác.
  3. Kết hợp MATRYOSHKALORA với các kỹ thuật lượng tử hóa (quantization) để tạo ra các adapter có thể hoạt động hiệu quả trên các thiết bị biên (edge devices) với tài nguyên hạn chế.

2. Patent:​

  1. Phương pháp tinh chỉnh mô hình ngôn ngữ lớn trên điện thoại thông minh: Hệ thống cho phép người dùng tải xuống một bộ adapter duy nhất từ đám mây. Dựa vào cấu hình phần cứng (RAM, chip xử lý) của điện thoại, hệ thống tự động chọn một rank phù hợp từ adapter này để chạy suy luận, đảm bảo tốc độ phản hồi nhanh và tiết kiệm pin.
  2. Ứng dụng hỗ trợ soạn thảo văn bản thông minh trên thiết bị di động: Một ứng dụng gợi ý câu từ và ngữ pháp có thể sử dụng MATRYOSHKALORA. Khi thiết bị ở chế độ tiết kiệm pin, ứng dụng sẽ dùng rank thấp để tiết kiệm năng lượng. Khi thiết bị được sạc hoặc có hiệu năng cao, ứng dụng sẽ tự động chuyển sang rank cao hơn để đưa ra các gợi ý chính xác và phong phú hơn.
  3. Hệ thống tìm kiếm và gợi ý hình ảnh trên điện thoại: Một ứng dụng thư viện ảnh thông minh sử dụng MATRYOSHKALORA để tinh chỉnh mô hình. Khi người dùng tìm kiếm ảnh, hệ thống sẽ dùng rank thấp để quét nhanh toàn bộ thư viện, sau đó dùng rank cao hơn để phân tích chi tiết và sắp xếp kết quả tìm kiếm một cách chính xác nhất.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2605.07850
ArXiv Abstracthttps://arxiv.org/abs/2605.07850
PDF Downloadhttps://arxiv.org/pdf/2605.07850.pdf
Github Repositoryhttps://github.com/IST-DASLab/MatryoshkaLoRA

17. 4DThinker: Thinking with 4D Imagery for Dynamic Spatial Understanding (15 votes)​

Tác giả: Zhangquan Chen, Manyuan Zhang, Xinlei Yu, Xiang An, Bo Li, Xin Xie, ZiDong Wang, Mingze Sun, Shuang Chen, Hongyu Li, Xiaobin Hu, Ruqi Huang

Xuất bản lúc: 2026-05-07

Tag: Vision-Language Models, 4D Reasoning, Dynamic Spatial Understanding, Latent Reasoning, Reinforcement Learning, Chain-of-Thought, Video Understanding, Mental Imagery

I. Main Problem:​

Các mô hình ngôn ngữ - thị giác (VLM) hiện tại gặp khó khăn trong suy luận không gian động từ video đơn nhãn. Các phương pháp hiện có hoặc chỉ dùng văn bản để suy luận (dài dòng, thiếu chính xác), hoặc phụ thuộc vào module hình học bên ngoài (tăng độ phức tạp suy luận). Thiếu một phương pháp giúp mô hình tự nội tại hóa khả năng mô phỏng diễn biến không-thời gian 4D.

II. Main Idea:​

4DThinker là framework đầu tiên cho phép VLM 'suy nghĩ với 4D' thông qua hình ảnh tinh thần tiềm ẩn động (dynamic latent mental imagery). Cụ thể, mô hình tự mô phỏng nội tại cách các cảnh vật tiến hóa trong không gian ẩn liên tục. Framework gồm 3 phần: (1) Pipeline tạo dữ liệu 4D không cần chú thích thủ công, (2) Dynamic-Imagery Fine-Tuning (DIFT) huấn luyện chung token văn bản và latent 4D, (3) 4D Reinforcement Learning (4DRL) cải thiện suy luận phức tạp bằng phần thưởng dựa trên kết quả, chỉ tối ưu token văn bản để tránh nhiễu.

III. Main Results:​

4DThinker vượt trội so với các baseline mạnh trên nhiều benchmark suy luận không gian động. Trên DSR-Bench, Qwen3-VL-32B đạt 62.0% (+34.0 pp so với nền), vượt cả DSR Suite-Model (58.9%) và các mô hình độc quyền như Gemini-2.5-Pro (31.7%). Trên Dyn-Bench, Qwen3-VL-32B đạt 75.4% (+10.9 pp), thiết lập SOTA mới. Các thử nghiệm cho thấy DIFT và 4DRL đều đóng góp quan trọng, và kích thước latent token tối ưu là 4.

IV. Conclusion & Future Works:​

4DThinker chứng minh rằng việc kết hợp suy luận chuỗi suy nghĩ với hình ảnh 4D liên tục hiệu quả hơn các phương pháp chỉ dùng văn bản hoặc module bên ngoài. Hạn chế: (1) Pipeline dữ liệu phụ thuộc vào bộ ước lượng hình học có sẵn (MegaSaM) có thể gây lỗi; (2) Đánh giá mới chỉ trên benchmark trắc nghiệm, chưa mở rộng sang các tác vụ sinh mở. Hướng phát triển: tích hợp các tiên đề hình học mạnh mẽ hơn và mở rộng sang các tác vụ lập kế hoạch trong môi trường thực tế.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng 4DThinker cho các tác vụ suy luận không gian động phức tạp hơn như dự đoán quỹ đạo tương lai của nhiều đối tượng tương tác từ video đơn nhãn, ứng dụng trong robot tự hành và xe tự lái.
  2. Nghiên cứu cải thiện pipeline tạo dữ liệu 4D bằng cách tích hợp các bộ ước lượng hình học mạnh mẽ hơn (ví dụ: 3D foundation models) để giảm nhiễu và tăng chất lượng dữ liệu huấn luyện, từ đó nâng cao hiệu suất suy luận.
  3. Phát triển phương pháp suy luận 4D lai kết hợp giữa latent reasoning và explicit token reasoning để tận dụng ưu điểm của cả hai, giúp mô hình xử lý linh hoạt các tình huống động phức tạp với độ chính xác cao hơn.

2. Patent:​

  1. Phương pháp nâng cao khả năng hiểu chuyển động trong video trên điện thoại thông minh: Hệ thống sử dụng mô hình ngôn ngữ - thị giác được huấn luyện đặc biệt để mô phỏng nội bộ diễn biến không-thời gian của các đối tượng trong video. Khi người dùng quay video, điện thoại sẽ tự động phân tích chuyển động của máy ảnh và đối tượng, sau đó cung cấp các mô tả chính xác về hướng, tốc độ và sự thay đổi vị trí. Ứng dụng: hỗ trợ người dùng quay video thể thao, hướng dẫn kỹ thuật, hoặc phân tích chuyển động trong các ứng dụng giáo dục.
  2. Hệ thống gợi ý bố cục video động trên điện thoại: Dựa trên khả năng suy luận không gian 4D, hệ thống có thể phân tích video đang quay và đưa ra gợi ý về cách di chuyển máy ảnh (ví dụ: lia máy, zoom) để tạo ra các thước phim chuyên nghiệp hơn. Hệ thống hoạt động trong thời gian thực, giúp người dùng không chuyên có thể quay video chất lượng cao mà không cần kiến thức về kỹ thuật quay phim.
  3. Phương pháp tạo hiệu ứng thực tế ảo tăng cường (AR) thích ứng với chuyển động trên điện thoại: Khi người dùng di chuyển điện thoại, hệ thống sử dụng suy luận 4D để hiểu chính xác chuyển động của máy ảnh và các đối tượng trong cảnh. Từ đó, các đối tượng AR được hiển thị một cách tự nhiên, bám sát không gian 3D thực tế và tương tác chính xác với chuyển động của người dùng. Ứng dụng: trò chơi AR, ứng dụng mua sắm, hoặc hướng dẫn sửa chữa từ xa.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2605.05997
ArXiv Abstracthttps://arxiv.org/abs/2605.05997
PDF Downloadhttps://arxiv.org/pdf/2605.05997.pdf
Github Repositoryhttps://github.com/zhangquanchen/4DThinker

18. A^2RD: Agentic Autoregressive Diffusion for Long Video Consistency (13 votes)​

Tác giả: Do Xuan Long, Yale Song, Min-Yen Kan, Tomas Pfister, Long T. Le

Xuất bản lúc: 2026-05-07

Tag: Diffusion, Long Video Synthesis, Autoregressive, Agentic, Multimodal Memory, Test-Time Scaling, Consistency, Narrative Coherence

I. Main Problem:​

Tổng hợp video dài (từ phút đến giờ) vẫn là một thách thức lớn do hai vấn đề cốt lõi: (1) tính nhất quán tạm thời (temporal consistency) – mô hình cần theo dõi và bảo toàn các thực thể, môi trường và động lực chuyển động; và (2) tính mạch lạc tường thuật (narrative coherence) – video cần phát triển một cách có ý nghĩa theo thời gian. Các phương pháp hiện tại (passive, open-loop) như sinh khung hình tự hồi quy (FAR) hoặc sinh đoạn (SAR) đều có hạn chế: FAR dễ bị trôi dạt ngữ nghĩa (semantic drift) và lặp lại nội dung; SAR gặp khó khăn trong việc duy trì tính nhất quán giữa các đoạn và không có cơ chế sửa lỗi lan truyền.

II. Main Idea:​

Bài báo giới thiệu A²RD (Agentic Auto-Regressive Diffusion), một kiến trúc huấn luyện không cần thêm dữ liệu (training-free) hoạt động theo vòng lặp đóng (closed-loop) với chu trình Retrieve – Synthesize – Refine – Update. A²RD bao gồm ba thành phần chính:

  1. Multimodal Video Memory (MVMem): Lưu trữ và theo dõi các trạng thái video ở nhiều dạng thức (khung hình, văn bản mô tả trạng thái thực thể/môi trường/quan hệ không gian/camera, và chính các đoạn video) để làm giàu ngữ cảnh cho quá trình sinh.
  2. Adaptive Segment Generation: Tự động chọn chế độ sinh phù hợp cho từng đoạn (ngoại suy – extrapolation để duy trì tiến triển tự nhiên, hoặc nội suy – interpolation để đảm bảo tính nhất quán cao) dựa trên nội dung tường thuật.
  3. Hierarchical Test-Time Self-Improvement (HITS): Cơ chế tự cải thiện ở cả cấp độ khung hình và đoạn video, sử dụng các tiêu chí đánh giá đa chiều và thuật toán Memory-Augmented Prompt Optimization (MAPO) để sửa lỗi và ngăn chặn sự lan truyền lỗi.

Ngoài ra, bài báo cũng giới thiệu bộ benchmark mới LVbench-C để thử thách khả năng nhất quán dài hạn với các tình huống thực thể và môi trường xuất hiện, biến mất và tái xuất hiện không theo tuyến tính.

III. Main Results:​

Trên các benchmark công khai và LVbench-C (video 1-10 phút), A²RD vượt trội so với các baseline state-of-the-art:

  • Cải thiện tới 30% về tính nhất quán (consistency).
  • Cải thiện 20% về tính mạch lạc tường thuật (narrative coherence).
  • Kết quả đánh giá của con người (human evaluation) xác nhận những cải thiện này, đặc biệt là về độ mượt mà của chuyển động và chuyển cảnh.
  • Chỉ với 2 vòng lặp tự cải thiện, A²RD đã đạt được kết quả state-of-the-art.

IV. Conclusion & Future Works:​

A²RD là kiến trúc agentic autoregressive đầu tiên cho tổng hợp video dài, kết hợp bộ nhớ đa phương thức, sinh đoạn thích ứng và tự cải thiện để thực thi tính nhất quán tạm thời và mạch lạc tường thuật. Nó vượt trội so với các phương pháp hiện có, giảm thiểu đáng kể sự trôi dạt ngữ nghĩa và sụp đổ nội dung. Hướng phát triển trong tương lai có thể bao gồm việc tích hợp thêm các mô hình ngôn ngữ mạnh hơn, tối ưu hóa hiệu suất cho thời gian thực, và mở rộng khả năng tương tác người dùng trong quá trình sinh video.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Tối ưu hóa bộ nhớ đa phương thức cho video siêu dài: Nghiên cứu các cấu trúc bộ nhớ phân cấp hoặc nén hiệu quả hơn để MVMem có thể xử lý các video dài hàng giờ mà không tốn quá nhiều tài nguyên, đồng thời vẫn đảm bảo khả năng truy xuất ngữ cảnh chính xác.
  2. Học tăng cường cho chiến lược sinh đoạn thích ứng: Thay vì dùng quy tắc cố định, có thể huấn luyện một tác tử (agent) nhỏ bằng học tăng cường (RL) để tự động quyết định chế độ sinh (ngoại suy/nội suy) và các tham số khác nhằm tối ưu hóa chất lượng video tổng thể.
  3. Mở rộng A²RD cho tương tác người dùng thời gian thực: Phát triển một hệ thống cho phép người dùng can thiệp vào quá trình sinh video (ví dụ: sửa một khung hình, thay đổi một đoạn mô tả) và hệ thống tự động cập nhật bộ nhớ và sinh lại các đoạn tiếp theo một cách mượt mà.
  4. patent_ideas
  5. Phương pháp và hệ thống tạo video dài trên thiết bị di động sử dụng bộ nhớ đa phương thức và tự cải thiện: Sáng chế mô tả một ứng dụng trên điện thoại cho phép người dùng nhập một câu chuyện ngắn (storyline). Ứng dụng sẽ tự động chia câu chuyện thành các đoạn nhỏ, sử dụng bộ nhớ thông minh để theo dõi nhân vật và bối cảnh qua từng đoạn, và tự động sửa các lỗi về ngoại hình nhân vật hoặc bối cảnh để tạo ra một video dài (ví dụ 5-10 phút) mượt mà và nhất quán.
  6. Ứng dụng chỉnh sửa video thông minh cho điện thoại dựa trên tác tử tự động: Sáng chế về một công cụ chỉnh sửa video trên điện thoại, nơi người dùng có thể chọn một video ngắn có sẵn và yêu cầu kéo dài nó. Ứng dụng sẽ phân tích nội dung video gốc (nhân vật, bối cảnh, hành động), sau đó sử dụng tác tử tự động để sinh thêm các đoạn video mới nối tiếp một cách hợp lý, đảm bảo nhân vật và phong cách không bị thay đổi.
  7. Hệ thống tạo nội dung quảng cáo và kể chuyện trên mạng xã hội từ điện thoại: Sáng chế về một ứng dụng giúp người dùng tạo ra các video quảng cáo hoặc câu chuyện ngắn (story) dài trên nền tảng mạng xã hội. Người dùng chỉ cần cung cấp ý tưởng và hình ảnh tham khảo, ứng dụng sẽ tự động lên kịch bản, sinh video từng đoạn và đảm bảo tính nhất quán về nhân vật và thương hiệu xuyên suốt toàn bộ video.
  8. patent_ideas

2. Patent:​

  1. Phương pháp và hệ thống tạo video dài trên thiết bị di động sử dụng bộ nhớ đa phương thức và tự cải thiện: Sáng chế mô tả một ứng dụng trên điện thoại cho phép người dùng nhập một câu chuyện ngắn (storyline). Ứng dụng sẽ tự động chia câu chuyện thành các đoạn nhỏ, sử dụng bộ nhớ thông minh để theo dõi nhân vật và bối cảnh qua từng đoạn, và tự động sửa các lỗi về ngoại hình nhân vật hoặc bối cảnh để tạo ra một video dài (ví dụ 5-10 phút) mượt mà và nhất quán.
  2. Ứng dụng chỉnh sửa video thông minh cho điện thoại dựa trên tác tử tự động: Sáng chế về một công cụ chỉnh sửa video trên điện thoại, nơi người dùng có thể chọn một video ngắn có sẵn và yêu cầu kéo dài nó. Ứng dụng sẽ phân tích nội dung video gốc (nhân vật, bối cảnh, hành động), sau đó sử dụng tác tử tự động để sinh thêm các đoạn video mới nối tiếp một cách hợp lý, đảm bảo nhân vật và phong cách không bị thay đổi.
  3. Hệ thống tạo nội dung quảng cáo và kể chuyện trên mạng xã hội từ điện thoại: Sáng chế về một ứng dụng giúp người dùng tạo ra các video quảng cáo hoặc câu chuyện ngắn (story) dài trên nền tảng mạng xã hội. Người dùng chỉ cần cung cấp ý tưởng và hình ảnh tham khảo, ứng dụng sẽ tự động lên kịch bản, sinh video từng đoạn và đảm bảo tính nhất quán về nhân vật và thương hiệu xuyên suốt toàn bộ video.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2605.06924
ArXiv Abstracthttps://arxiv.org/abs/2605.06924
PDF Downloadhttps://arxiv.org/pdf/2605.06924.pdf
Github RepositoryN/A

19. MISA: Mixture of Indexer Sparse Attention for Long-Context LLM Inference (12 votes)​

Tác giả: Ruijie Zhou, Fanxu Meng, Yufei Xu, Tongxuan Liu, Guangming Lu, Muhan Zhang, Wenjie Pei

Xuất bản lúc: 2026-05-08

Tag: Sparse Attention, Mixture of Experts, LLM Inference, Long-Context, Attention Mechanism, DeepSeek, MoE

I. Main Problem:​

Trong các mô hình ngôn ngữ lớn xử lý ngữ cảnh dài, cơ chế chú ý thưa (sparse attention) DSA của DeepSeek sử dụng một bộ chỉ mục (indexer) đa đầu để chấm điểm từng token trong tiền tố. Mặc dù hiệu quả, nhưng việc sử dụng tất cả các đầu chỉ mục (ví dụ: 64 đầu) cho mọi truy vấn khiến chi phí tính toán tăng tuyến tính với độ dài ngữ cảnh (O(HIL)), biến bộ chỉ mục trở thành nút thắt cổ chai về hiệu năng, đặc biệt khi xử lý ngữ cảnh lên tới hàng trăm nghìn token.

II. Main Idea:​

Bài báo đề xuất MISA (Mixture of Indexer Sparse Attention), một giải pháp thay thế trực tiếp cho bộ chỉ mục DSA. MISA coi các đầu chỉ mục như một nhóm các chuyên gia (experts) trong kiến trúc hỗn hợp chuyên gia (MoE). Một bộ định tuyến (router) nhẹ sử dụng thống kê cấp khối (block-level statistics) chi phí thấp để chọn ra một tập con nhỏ (h ≪ HI) các đầu chỉ mục phù hợp nhất cho mỗi truy vấn. Chỉ các đầu được chọn này mới thực hiện việc chấm điểm token nặng nề, giúp giảm chi phí tính toán từ O(HIL) xuống còn O(hL + HIM) với M là số khối nhỏ hơn nhiều so với L. MISA vẫn duy trì được sự đa dạng của tất cả các đầu chỉ mục nhờ cơ chế định tuyến linh hoạt.

III. Main Results:​

Không cần huấn luyện thêm, MISA với chỉ 8 đầu hoạt động (giảm 8 lần so với DSA trên DeepSeek-V3.2 và 4 lần trên GLM-5) đạt kết quả tương đương DSA đầy đủ trên bộ đánh giá LongBench (chênh lệch trong 0.5 điểm), vượt qua các phương pháp Block-Sparse và HISA. MISA duy trì bản đồ nhiệt Needle-in-a-Haystack hoàn hảo lên tới 128K ngữ cảnh. Kernel TileLang của MISA đạt tốc độ nhanh hơn khoảng 3.82 lần so với kernel chỉ mục gốc của DSA trên một GPU NVIDIA H200.

IV. Conclusion & Future Works:​

MISA chứng minh rằng định tuyến theo trục đầu (head-axis routing) là một hướng tiếp cận hiệu quả và có thể kết hợp với các phương pháp tối ưu theo trục token khác để tăng tốc chú ý thưa. Các hướng phát triển trong tương lai bao gồm: (1) đo độ trễ toàn bộ mô hình thay vì chỉ kernel, (2) giảm lượng truy cập bộ nhớ vào KV cache, và (3) huấn luyện chung bộ định tuyến với bộ chỉ mục để thu hẹp khoảng cách hiệu năng trên một số tác vụ.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu áp dụng cơ chế MoE tương tự cho các tầng chú ý khác trong mô hình, không chỉ riêng bộ chỉ mục, nhằm tối ưu toàn diện hơn.
  2. Phát triển một phương pháp định tuyến lai, kết hợp thông tin từ cả cấp độ token và cấp độ khối để chọn ra tập đầu chỉ mục tối ưu hơn nữa.
  3. Khám phá việc huấn luyện bộ định tuyến MISA một cách có giám sát hoặc sử dụng học tăng cường để tối ưu trực tiếp cho chất lượng đầu ra của mô hình.

2. Patent:​

  1. Phương pháp và hệ thống tăng tốc xử lý văn bản dài trên thiết bị di động: Sử dụng cơ chế chú ý thưa thông minh (MISA) để chỉ chọn ra một phần nhỏ thông tin quan trọng từ toàn bộ lịch sử hội thoại hoặc văn bản dài. Điều này giúp giảm đáng kể bộ nhớ và sức mạnh tính toán cần thiết, cho phép các trợ lý ảo trên điện thoại có thể 'nhớ' và xử lý các cuộc trò chuyện kéo dài hàng giờ hoặc tài liệu rất dài một cách mượt mà và nhanh chóng.
  2. Ứng dụng tìm kiếm và tóm tắt thông minh trên điện thoại: Khi người dùng tìm kiếm một thông tin cụ thể trong một tài liệu dài (ví dụ: sách điện tử, email dài), MISA cho phép thiết bị nhanh chóng xác định vị trí chính xác của thông tin đó mà không cần phải đọc lại toàn bộ văn bản. Cơ chế MoE giúp việc tìm kiếm này trở nên cực kỳ hiệu quả, tiết kiệm pin và mang lại trải nghiệm tìm kiếm tức thì.
  3. Trợ lý ảo đa nhiệm với bộ nhớ làm việc lớn trên điện thoại: MISA cho phép một trợ lý ảo duy nhất trên điện thoại quản lý đồng thời nhiều tác vụ phức tạp, mỗi tác vụ có một ngữ cảnh dài riêng (ví dụ: soạn thảo email dựa trên một báo cáo dài, đồng thời trả lời câu hỏi về một cuốn sách khác). Bộ định tuyến thông minh sẽ chỉ kích hoạt các 'chuyên gia' (đầu chỉ mục) phù hợp cho từng tác vụ, giúp trợ lý hoạt động nhanh, chính xác và không bị nhầm lẫn giữa các ngữ cảnh.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2605.07363
ArXiv Abstracthttps://arxiv.org/abs/2605.07363
PDF Downloadhttps://arxiv.org/pdf/2605.07363.pdf
Github RepositoryN/A

20. Scaling Continual Learning to 300+ Tasks with Bi-Level Routing Mixture-of-Experts (10 votes)​

Tác giả: Meng Lou, Yunxiang Fu, Yizhou Yu

Xuất bản lúc: 2026-05-08

Tag: Continual Learning, Class-Incremental Learning, Mixture-of-Experts, Pre-trained Models, Bi-Level Routing, Adapter, ViT

I. Main Problem:​

Bài toán học liên tục (continual learning), đặc biệt là học tăng cường lớp (class-incremental learning - CIL), gặp phải thách thức về việc cân bằng giữa tính ổn định (stability) và tính linh hoạt (plasticity) khi phải học trên các chuỗi tác vụ rất dài (hàng trăm tác vụ). Các phương pháp hiện tại chủ yếu được đánh giá trên số lượng tác vụ nhỏ (5-20 tác vụ) và chưa giải quyết tốt việc khai thác kiến thức bổ trợ từ các tác vụ liên quan một cách tinh tế, cũng như thiếu khả năng đưa ra quyết định cục bộ ở từng tầng mạng.

II. Main Idea:​

Bài báo đề xuất CaRE, một bộ học liên tục có khả năng mở rộng, sử dụng cơ chế Bi-Level Routing Mixture-of-Experts (BR-MoE). Cơ chế này gồm hai giai đoạn: (1) Dynamic Router Selection: Sử dụng một bộ cảm nhận lớp (class perceptron) cho mỗi tác vụ để tính độ bất định (entropy) của đầu vào, từ đó chọn ra M router (bộ định tuyến) phù hợp nhất. (2) Dynamic Expert Routing: Mỗi router được chọn sẽ tạo ra các trọng số gating để kích hoạt và tổng hợp K expert (chuyên gia) dạng adapter phù hợp nhất, cùng với một expert dùng chung (shared expert) để tạo ra đặc trưng đầu ra. Cơ chế này được tích hợp vào mọi tầng của mô hình ViT, cho phép đưa ra quyết định cục bộ và khai thác kiến thức bổ trợ một cách linh hoạt.

III. Main Results:​

CaRE đạt hiệu suất vượt trội so với các phương pháp baseline trên nhiều bộ dữ liệu, đặc biệt là trong các kịch bản chuỗi tác vụ dài (100-301 tác vụ). Ví dụ, trên bộ dữ liệu OmniBenchmark-1K với 100 tác vụ, CaRE vượt qua MIN 4.67% về độ chính xác cuối cùng (AB). Với 301 tác vụ, CaRE vẫn duy trì lợi thế rõ rệt. Trên các bộ dữ liệu ngắn hơn (5-20 tác vụ) như CIFAR-100, ImageNet-R, CaRE cũng đạt kết quả dẫn đầu hoặc cạnh tranh. Ngoài ra, CaRE có sự cân bằng tốt giữa hiệu suất và chi phí tính toán.

IV. Conclusion & Future Works:​

Bài báo kết luận rằng CaRE là một phương pháp học liên tục hiệu quả và có khả năng mở rộng, đặc biệt trên các chuỗi tác vụ rất dài nhờ cơ chế BR-MoE. Các tác giả hy vọng công trình này sẽ thúc đẩy nghiên cứu về học liên tục trong các môi trường thực tế với số lượng tác vụ không giới hạn. Hướng phát triển trong tương lai có thể bao gồm việc áp dụng CaRE vào các lĩnh vực khác như xử lý ngôn ngữ tự nhiên hoặc robot, cũng như cải thiện hơn nữa khả năng mở rộng.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Học liên tục trong Xử lý Ngôn ngữ Tự nhiên (NLP): Áp dụng cơ chế BR-MoE để xây dựng một mô hình ngôn ngữ lớn có khả năng học liên tục các tác vụ mới (ví dụ: phân loại cảm xúc, trả lời câu hỏi) mà không quên kiến thức cũ. Nghiên cứu cách điều chỉnh cơ chế định tuyến hai cấp cho dữ liệu văn bản.
  2. Học liên tục trong Thị giác Máy tính với Luồng Dữ liệu Không Nhãn: Phát triển một phương pháp học tự giám sát (self-supervised) kết hợp với BR-MoE để học các đặc trưng từ luồng video hoặc hình ảnh không có nhãn một cách liên tục. Điều này giúp mô hình thích nghi với các miền dữ liệu mới mà không cần sự can thiệp của con người.
  3. Tối ưu hóa Kiến trúc BR-MoE cho Thiết bị Biên: Nghiên cứu các kỹ thuật nén và lượng tử hóa mô hình CaRE để giảm chi phí tính toán và bộ nhớ, cho phép triển khai trên các thiết bị có tài nguyên hạn chế như điện thoại thông minh hoặc camera an ninh.

2. Patent:​

  1. Phương pháp cá nhân hóa ứng dụng di động dựa trên học liên tục: Một ứng dụng trên điện thoại thông minh sử dụng CaRE để học liên tục thói quen và sở thích của người dùng (ví dụ: các loại ảnh họ thường chụp, ứng dụng họ hay dùng). Khi người dùng có hành vi mới, ứng dụng sẽ tự động điều chỉnh các tính năng như gợi ý ảnh, sắp xếp ứng dụng mà không cần cập nhật phần mềm, đảm bảo trải nghiệm cá nhân hóa và riêng tư.
  2. Hệ thống nhận dạng đối tượng liên tục trên camera điện thoại: Một hệ thống trên điện thoại thông minh có khả năng học nhận dạng các đối tượng mới (ví dụ: một loại cây, một giống chó) từ ảnh chụp của người dùng một cách liên tục. Hệ thống sử dụng cơ chế BR-MoE để phân bổ tài nguyên, chỉ kích hoạt các 'chuyên gia' nhận dạng phù hợp với đối tượng trong ảnh, giúp tiết kiệm pin và tăng tốc độ xử lý.
  3. Ứng dụng dịch thuật thích ứng theo ngữ cảnh trên thiết bị di động: Một ứng dụng dịch thuật sử dụng CaRE để học liên tục các thuật ngữ chuyên ngành hoặc phong cách dịch thuật của người dùng. Khi người dùng dịch các văn bản thuộc nhiều lĩnh vực khác nhau (ví dụ: y học, công nghệ), ứng dụng sẽ tự động kích hoạt các 'bộ định tuyến' và 'chuyên gia' ngôn ngữ tương ứng để đưa ra bản dịch chính xác và phù hợp hơn.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2602.03473
ArXiv Abstracthttps://arxiv.org/abs/2602.03473
PDF Downloadhttps://arxiv.org/pdf/2602.03473.pdf
Github Repositoryhttps://github.com/LMMMEng/CaRE

21. STARFlow2: Bridging Language Models and Normalizing Flows for Unified Multimodal Generation (10 votes)​

Tác giả: Ying Shen, Tianrong Chen, Yuan Gao, Yizhe Zhang, Yuyang Wang, Miguel Ángel Bautista, Shuangfei Zhai, Joshua M. Susskind, Jiatao Gu

Xuất bản lúc: 2026-05-08

Tag: Normalizing Flows, Vision-Language Models, Multimodal Generation, Autoregressive Models, Unified Multimodal Models, Image Generation, Text-to-Image Generation

I. Main Problem:​

Các mô hình đa phương thức thống nhất hiện tại có cấu trúc phân mảnh: hoặc hy sinh chất lượng hình ảnh thông qua lượng tử hóa rời rạc, hoặc áp đặt sự bất đối xứng cấu trúc khi kết hợp sinh văn bản tự hồi quy với khử nhiễu khuếch tán lặp, hoặc làm suy giảm khả năng hiểu đã được huấn luyện trước khi điều chỉnh mô hình ngôn ngữ-hình ảnh cho nhiệm vụ sinh. Cụ thể, mục tiêu là xây dựng một kiến trúc thống nhất thực sự đáp ứng ba tiêu chí: (D1) Bảo toàn khả năng hiểu của VLM đã huấn luyện trước, (D2) Tạo hình ảnh liên tục chất lượng cao không mất mát do lượng tử hóa, và (D3) Cơ chế sinh nhân quả thống nhất về mặt cấu trúc cho cả văn bản và hình ảnh.

II. Main Idea:​

Bài báo giới thiệu STARFlow2, một khung kiến trúc mới có tên Pretzel, kết nối theo chiều dọc một luồng VLM (Vision-Language Model) đã được đóng băng với một luồng TARFlow (Autoregressive Normalizing Flow) thông qua các kết nối tắt dư (residual skip connections). Cả hai luồng cùng hoạt động trên cùng một chuỗi đa phương thức dưới cùng một mặt nạ nhân quả. Thiết kế này cho phép: (1) Bảo toàn khả năng hiểu đa phương thức đã được huấn luyện trước của VLM, (2) Tạo hình ảnh liên tục chất lượng cao nhờ luồng TARFlow, và (3) Thống nhất cơ chế sinh nhân quả cho cả văn bản và hình ảnh trong một lần giải mã duy nhất, tận dụng KV-cache mà không cần mã hóa lại. Mô hình cũng sử dụng thiết kế deep-shallow flow và không gian tiềm ẩn FAE thống nhất.

III. Main Results:​

STARFlow2 đạt được hiệu suất mạnh mẽ trên các benchmark hiểu đa phương thức (ví dụ: MME-P, GQA, SEED, MMBench, MMMU, AI2D) và sinh hình ảnh (GenEval đạt 0.82, DPG-Bench đạt 84.94), chứng minh khả năng đáp ứng đồng thời cả ba tiêu chí (D1, D2, D3). Kết quả cho thấy việc huấn luyện liên kết (Stage 3) cải thiện đáng kể chất lượng sinh hình ảnh so với chỉ huấn luyện sinh văn bản-hình ảnh (Stage 1), với mức cải thiện tương đối 60.8% trên GenEval và 3.6% trên DPG-Bench. So sánh với phương pháp MoT (Mixture-of-Transformers) cho thấy Pretzel vượt trội hơn trong việc bảo toàn khả năng hiểu trong khi vẫn đạt được chất lượng sinh tốt.

IV. Conclusion & Future Works:​

STARFlow2 chứng minh rằng các luồng tự hồi quy (autoregressive flows) là một nền tảng khả thi cho mô hình đa phương thức thống nhất, giải quyết các hạn chế của các phương pháp hiện tại. Kiến trúc Pretzel cho phép kết hợp hiệu quả khả năng hiểu của VLM đã huấn luyện trước với khả năng sinh liên tục của TARFlow. Các hướng nghiên cứu trong tương lai có thể bao gồm: mở rộng quy mô mô hình, cải thiện kiến trúc, và khám phá các ứng dụng mới như sinh video đa phương thức.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng STARFlow2 để hỗ trợ sinh video đa phương thức, nơi các khung hình video được coi như các token liên tục trong cùng một chuỗi nhân quả, tận dụng cấu trúc thống nhất của Pretzel.
  2. Nghiên cứu các biến thể của kiến trúc Pretzel, chẳng hạn như sử dụng các loại luồng chuẩn hóa khác nhau hoặc các cơ chế kết nối chéo khác (ví dụ: attention chéo thay vì kết nối tắt) để cải thiện hiệu quả tương tác giữa hai luồng.
  3. Phát triển một phương pháp huấn luyện hiệu quả hơn cho các mô hình thống nhất, chẳng hạn như sử dụng kỹ thuật distillation để truyền kiến thức từ các mô hình sinh chuyên dụng hoặc các mô hình hiểu mạnh mẽ hơn vào STARFlow2.

2. Patent:​

  1. Phương pháp và hệ thống chỉnh sửa ảnh trên điện thoại thông minh bằng ngôn ngữ tự nhiên: Người dùng có thể nhập mô tả văn bản (ví dụ: 'thêm mũ cho mèo', 'đổi màu hoa thành hồng') và mô hình STARFlow2 trên điện thoại sẽ thực hiện chỉnh sửa trực tiếp trên ảnh, tận dụng kiến trúc thống nhất để hiểu lệnh và sinh ảnh mới mà không cần qua các bước trung gian phức tạp.
  2. Ứng dụng tạo nội dung quảng cáo đa phương thức trên thiết bị di động: Hệ thống cho phép người dùng nhập một đoạn văn bản mô tả sản phẩm và một số hình ảnh mẫu, sau đó STARFlow2 sẽ tự động tạo ra một chuỗi nội dung xen kẽ văn bản và hình ảnh (ví dụ: một bài đăng trên mạng xã hội hoặc một quảng cáo nhỏ), đảm bảo tính mạch lạc và thẩm mỹ.
  3. Trợ lý ảo tương tác trực quan trên điện thoại cho người khiếm thị: Người dùng có thể chụp ảnh một vật thể hoặc cảnh vật, sau đó đặt câu hỏi bằng giọng nói về nội dung trong ảnh. Hệ thống sử dụng STARFlow2 để hiểu ảnh và câu hỏi, sau đó tạo ra phản hồi bằng văn bản hoặc giọng nói. Ngoài ra, trợ lý có thể sinh ra hình ảnh minh họa để giải thích rõ hơn, giúp người khiếm thị có trải nghiệm phong phú hơn.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2605.08029
ArXiv Abstracthttps://arxiv.org/abs/2605.08029
PDF Downloadhttps://arxiv.org/pdf/2605.08029.pdf
Github RepositoryN/A

22. Normalizing Trajectory Models (10 votes)​

Tác giả: Jiatao Gu, Tianrong Chen, Ying Shen, David Berthelot, Shuangfei Zhai, Josh Susskind

Xuất bản lúc: 2026-05-08

Tag: Normalizing Flow, Diffusion Model, Flow Matching, Few-Step Generation, Text-to-Image, Likelihood Training

I. Main Problem:​

Các mô hình khuếch tán (diffusion) và flow matching hiện tại giả định mỗi bước khử nhiễu là một phép biến đổi Gaussian. Giả định này chính xác khi có nhiều bước, nhưng khi giảm số bước để tăng hiệu quả, mỗi bước phải bao phủ một khoảng lớn hơn, khiến phân phối thực sự trở nên đa phương thức và không còn Gaussian. Các phương pháp ít bước hiện tại (như distillation, consistency models, adversarial) hy sinh khả năng tính toán likelihood chính xác, dẫn đến mất ổn định hoặc chất lượng kém.

II. Main Idea:​

Bài báo giới thiệu Normalizing Trajectory Models (NTM), một khung làm việc mới mô hình hóa mỗi bước khử nhiễu ngược (reverse step) như một normalizing flow có điều kiện (conditional normalizing flow) với khả năng tính likelihood chính xác. NTM kết hợp hai thành phần chính: (1) một bộ biến đổi khả nghịch (invertible transporter) biến đổi dữ liệu đầu vào thành một không gian tiềm ẩn (latent space) nơi phân phối có điều kiện trở nên đơn giản, và (2) một bộ dự đoán Gaussian (Gaussian predictor) hoạt động trên không gian tiềm ẩn đó. Nhờ tính khả nghịch, toàn bộ quá trình tương đương với một normalizing flow duy nhất, cho phép huấn luyện bằng exact log-likelihood. NTM có thể được khởi tạo từ các mô hình flow matching có sẵn và tận dụng likelihood chính xác để thực hiện khử nhiễu quỹ đạo (trajectory denoising) dựa trên gradient, từ đó có thể tạo ảnh chất lượng cao chỉ với 4 bước.

III. Main Results:​

Trên tác vụ text-to-image, NTM huấn luyện từ đầu đạt 0.82 trên GenEval và 79.64 trên DPG-Bench chỉ với 4 bước, vượt trội so với mô hình normalizing flow trước đó là STARFlow (0.56 GenEval, yêu cầu 256 bước). Khi fine-tune từ mô hình FLUX.2, NTM đạt 0.76 trên GenEval và 83.38 trên DPG-Bench. Trên ImageNet 256x256, NTM đạt FID 2.80 với 16 bước và 3.83 với 4 bước, tương đương STARFlow (2.67 FID) nhưng nhanh hơn 64 lần. Bộ khử nhiễu học được (learned denoiser) đạt tốc độ nhanh hơn 9 lần so với khử nhiễu quỹ đạo dựa trên gradient.

IV. Conclusion & Future Works:​

NTM là một khung làm việc tổng quát, kết hợp ưu điểm của normalizing flows và flow matching, cho phép tạo ảnh chất lượng cao chỉ với vài bước trong khi vẫn giữ được khả năng tính likelihood chính xác. Hướng phát triển trong tương lai bao gồm: khám phá các kiến trúc transporter sâu hơn để giảm số bước xuống còn 1, và áp dụng NTM cho các tác vụ tạo sinh đa phương thức khác như video hoặc âm thanh.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng NTM cho tạo sinh video: Áp dụng kiến trúc transporter khả nghịch và predictor sâu cho các quỹ đạo video, cho phép tạo video chất lượng cao chỉ với vài bước khử nhiễu.
  2. Kết hợp NTM với mô hình ngôn ngữ lớn (LLM) cho điều khiển nội dung chi tiết: Sử dụng LLM để điều khiển quỹ đạo tạo sinh của NTM, cho phép sinh ảnh với các mô tả phức tạp và bố cục chính xác hơn.
  3. Nghiên cứu transporter thích ứng độ sâu (adaptive-depth transporter) cho NTM: Thiết kế transporter có khả năng tự động điều chỉnh độ sâu dựa trên độ phức tạp của từng bước khử nhiễu, nhằm tối ưu hóa giữa chất lượng và tốc độ.

2. Patent:​

  1. Phương pháp tạo ảnh nhanh trên điện thoại: Sử dụng NTM với 4 bước khử nhiễu để tạo ảnh từ văn bản ngay trên thiết bị di động, cho phép người dùng mô tả nội dung và nhận ảnh chất lượng cao trong thời gian thực.
  2. Ứng dụng chỉnh sửa ảnh thông minh: Tận dụng khả năng tính likelihood chính xác của NTM để phát hiện và chỉnh sửa các vùng ảnh không khớp với mô tả văn bản, giúp người dùng dễ dàng thay đổi đối tượng hoặc phong cách trong ảnh.
  3. Hệ thống tạo ảnh đa bước có kiểm soát: Kết hợp NTM với một mô hình nhẹ hơn để tạo bản nháp nhanh, sau đó dùng NTM để tinh chỉnh chi tiết, cho phép người dùng duyệt và chọn lọc các phiên bản ảnh khác nhau một cách tương tác trên điện thoại.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2605.08078
ArXiv Abstracthttps://arxiv.org/abs/2605.08078
PDF Downloadhttps://arxiv.org/pdf/2605.08078.pdf
Github RepositoryN/A

23. UniSD: Towards a Unified Self-Distillation Framework for Large Language Models (10 votes)​

Tác giả: Yiqiao Jin, Yiyang Wang, Lucheng Fu, Yijia Xiao, Yinyi Luo, Haoxin Liu, B. Aditya Prakash, Josiah Hester, Jindong Wang, Srijan Kumar

Xuất bản lúc: 2026-05-07

Tag: Self-Distillation, Large Language Models, Knowledge Distillation, On-Policy Learning, Multi-Teacher Agreement, EMA Teacher, Contrastive Learning, Feature Matching, Divergence Clipping

I. Main Problem:​

Việc tự chưng cất (Self-Distillation - SD) trong các mô hình ngôn ngữ lớn (LLMs) kiểu tự hồi quy gặp nhiều thách thức: (1) Sinh văn bản tự do – một prompt có thể có nhiều câu trả lời đúng, đường dẫn suy luận hoặc cách triển khai mã khác nhau, khiến việc đánh giá độ tin cậy trở nên khó khăn. (2) Tín hiệu tự giám sát không đáng tin cậy và không ổn định – mô hình có thể tự củng cố các lỗi nhất thời, dự đoán quá tự tin hoặc các token có độ phân kỳ cao. (3) Thiếu sự hiểu biết có hệ thống – các phương pháp SD hiện tại thường nghiên cứu các chiến lược riêng lẻ, không rõ yếu tố nào thúc đẩy cải thiện, chúng tương tác ra sao và khi nào mỗi thành phần có lợi.

II. Main Idea:​

Bài báo đề xuất UniSD, một khuôn khổ thống nhất và có thể mở rộng đầu tiên để nghiên cứu một cách có hệ thống về Self-Distillation trong LLMs. UniSD tổ chức các cơ chế SD xoay quanh ba trục bổ sung: (1) Độ tin cậy của giám sát (Supervision Reliability) – sử dụng Multi-Teacher Agreement (thỏa thuận đa giáo viên) để ước tính độ tin cậy và Token-Level Contrastive Learning (học đối chiếu cấp token) để phân biệt tín hiệu hữu ích với các lựa chọn thay thế sai. (2) Căn chỉnh biểu diễn (Representation Alignment) – sử dụng Feature Matching (kết hợp đặc trưng) để chuyển cấu trúc biểu diễn nội bộ từ giáo viên sang học sinh. (3) Ổn định huấn luyện (Training Stability) – sử dụng EMA Teacher (giáo viên trung bình động hàm mũ) để làm mượt mục tiêu và Divergence Clipping (cắt phân kỳ) để ngăn các token có độ phân kỳ cao chi phối quá trình tối ưu hóa. Các thành phần này được tích hợp trong một pipeline thống nhất gọi là UniSD*.

III. Main Results:​

Qua đánh giá trên sáu benchmark và sáu mô hình từ ba họ mô hình (Qwen2.5, Llama-3.1, Gemma-3), UniSD* đạt hiệu suất tổng thể mạnh nhất, cải thiện so với mô hình gốc +5.4 điểm và so với baseline mạnh nhất (GKD) +2.8 điểm. Các phát hiện chính: (1) Bắt chước tĩnh (SFT) kém tin cậy hơn học on-policy. (2) Multi-Teacher Agreement (đặc biệt là cấp token) cải thiện độ tin cậy giám sát. (3) EMA Teacher là thành phần độc lập mạnh nhất. (4) Việc kết hợp các chiến lược bổ sung cho hiệu quả tốt nhất. UniSD* cũng cho thấy khả năng tổng quát hóa tốt trên các họ mô hình và cải thiện khả năng giữ phân phối gốc so với SFT.

IV. Conclusion & Future Works:​

UniSD chứng minh rằng self-distillation có thể là một phương pháp thực tế và có thể điều khiển được để thích ứng LLM một cách hiệu quả mà không cần giáo viên bên ngoài mạnh hơn. Khuôn khổ thống nhất cho phép phân tích có hệ thống các thành phần SD, tiết lộ khi nào và tại sao chúng hoạt động. Các hướng nghiên cứu trong tương lai có thể mở rộng UniSD để xử lý các tác vụ phức tạp hơn, khám phá các cách xây dựng ngữ cảnh phụ trợ khác, và áp dụng cho các kiến trúc mô hình khác.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng UniSD cho các tác vụ đa phương thức (Multimodal Self-Distillation): Nghiên cứu áp dụng khuôn khổ UniSD cho các mô hình đa phương thức như LMM (Large Multimodal Models), nơi tín hiệu tự giám sát có thể đến từ nhiều modality khác nhau (văn bản, hình ảnh, âm thanh). Cần điều chỉnh các cơ chế như Multi-Teacher Agreement và Feature Matching để hoạt động trên các không gian biểu diễn khác nhau.
  2. UniSD cho học liên tục (Continual Self-Distillation): Phát triển một biến thể của UniSD cho kịch bản học liên tục, nơi mô hình cần thích ứng với các tác vụ mới mà không quên các tác vụ cũ. EMA Teacher có thể đóng vai trò như một bộ nhớ dài hạn, trong khi Multi-Teacher Agreement giúp xác định tín hiệu nào nên được giữ lại từ các tác vụ trước.
  3. Phân tích lý thuyết về sự hội tụ của Self-Distillation: Xây dựng các phân tích lý thuyết về sự hội tụ của các thuật toán self-distillation trong khuôn khổ UniSD. Nghiên cứu ảnh hưởng của các thành phần như Divergence Clipping và EMA Teacher đến tốc độ hội tụ và chất lượng của điểm tối ưu cuối cùng.

2. Patent:​

  1. Phương pháp và hệ thống cải thiện trợ lý ảo trên điện thoại di động bằng Self-Distillation: Một hệ thống trên điện thoại sử dụng kỹ thuật self-distillation để liên tục cải thiện chất lượng phản hồi của trợ lý ảo mà không cần kết nối máy chủ mạnh. Hệ thống sẽ ghi lại các tương tác của người dùng, tự động tạo ra các tình huống giả định và sử dụng chính mô hình hiện tại để tự đánh giá và cải thiện độ chính xác của các câu trả lời, đặc biệt là trong các tác vụ như hẹn giờ, nhắc nhở, hoặc tìm kiếm thông tin đơn giản.
  2. Ứng dụng Self-Distillation để tối ưu hóa bàn phím dự đoán trên thiết bị di động: Một phương pháp sử dụng self-distillation để cải thiện khả năng dự đoán từ tiếp theo của bàn phím ảo trên điện thoại. Mô hình ngôn ngữ nhỏ trên thiết bị sẽ tự học từ các văn bản do người dùng nhập, sử dụng kỹ thuật EMA Teacher để ổn định quá trình học và Contrastive Learning để phân biệt các từ gợi ý đúng với các từ sai chính tả hoặc ngữ cảnh không phù hợp, giúp tăng tốc độ gõ và giảm lỗi.
  3. Phương pháp cá nhân hóa ứng dụng đọc tin tức trên điện thoại thông qua Self-Distillation: Một hệ thống trên điện thoại di động sử dụng self-distillation để cá nhân hóa các bản tóm tắt tin tức cho từng người dùng. Mô hình sẽ tự tạo ra các bản tóm tắt từ các bài báo, sau đó sử dụng chính các bản tóm tắt đó làm tín hiệu giám sát (với sự hỗ trợ của Multi-Teacher Agreement để đánh giá độ tin cậy) để học sở thích của người dùng về độ dài, phong cách và mức độ chi tiết của bản tóm tắt, từ đó đưa ra các nội dung phù hợp hơn mà không cần thu thập dữ liệu người dùng một cách công khai.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2605.06597
ArXiv Abstracthttps://arxiv.org/abs/2605.06597
PDF Downloadhttps://arxiv.org/pdf/2605.06597.pdf
Github RepositoryN/A

24. Q-RAG: Long Context Multi-step Retrieval via Value-based Embedder Training (10 votes)​

Tác giả: Artyom Sorokin, Nazar Buzun, Alexander Anokhin, Oleg Inozemcev, Egor Vedernikov, Petr Anokhin, Mikhail Burtsev, Trushkov Alexey, Yin Wenshuai, Evgeny Burnaev

Xuất bản lúc: 2026-05-04

Tag: RAG, Reinforcement Learning, Multi-step Retrieval, Long Context, Embedder, Value-based RL, Temporal Reasoning

I. Main Problem:​

Các phương pháp RAG hiện tại chủ yếu là truy xuất một bước, không đủ để trả lời các câu hỏi phức tạp yêu cầu tìm kiếm nhiều bước. Các phương pháp truy xuất nhiều bước hiện có thường yêu cầu tinh chỉnh các mô hình ngôn ngữ lớn (LLM), điều này tốn kém tài nguyên và không khả thi đối với các mô hình lớn hoặc độc quyền.

II. Main Idea:​

Q-RAG đề xuất một phương pháp mới để huấn luyện một tác tử truy xuất nhiều bước bằng cách sử dụng học tăng cường dựa trên giá trị (value-based RL) để tinh chỉnh mô hình nhúng (embedder) thay vì LLM. Tác tử hoạt động trong không gian tiềm ẩn của các chunk văn bản, sử dụng hàm Q được xấp xỉ bằng tích vô hướng của hai embedder (state và action) để đánh giá mức độ hữu ích của từng chunk. Phương pháp này cũng giới thiệu một cơ chế mã hóa vị trí tương đối (relative positional encoding) để hỗ trợ suy luận theo thời gian trong quá trình truy xuất.

III. Main Results:​

Q-RAG đạt được kết quả state-of-the-art trên các benchmark long-context như BabiLong và RULER (lên đến 10 triệu token) và cạnh tranh trên các benchmark open-domain QA như HotPotQA và MuSiQue. Mô hình này cho thấy sự suy giảm hiệu suất rất ít khi độ dài ngữ cảnh tăng lên. Toàn bộ quá trình huấn luyện chỉ cần một GPU A100 80GB, hiệu quả hơn nhiều so với các phương pháp khác yêu cầu cụm 8 GPU A100.

IV. Conclusion & Future Works:​

Q-RAG là một phương pháp hiệu quả về tài nguyên cho truy xuất nhiều bước, dễ dàng kết hợp với các LLM mạnh mẽ. Hướng phát triển trong tương lai bao gồm: sử dụng phản hồi có cấu trúc từ LLM làm tín hiệu thưởng, tăng cường suy luận thành phần và thời gian trực tiếp trong không gian nhúng, và khám phá sự tích hợp chặt chẽ hơn với quá trình sinh văn bản.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Kết hợp suy luận thời gian nâng cao: Phát triển một cơ chế suy luận thời gian phức tạp hơn trong không gian nhúng, không chỉ dựa trên vị trí tương đối mà còn có thể mô hình hóa các mối quan hệ nhân quả và trình tự sự kiện phức tạp trong văn bản dài. Điều này có thể cải thiện hiệu suất trên các tác vụ yêu cầu hiểu cốt truyện hoặc diễn biến lịch sử.
  2. Tối ưu hóa đa tác vụ và học chuyển giao cho Embedder: Nghiên cứu khả năng huấn luyện một embedder đa năng có thể thực hiện truy xuất nhiều bước hiệu quả trên nhiều loại tác vụ và miền dữ liệu khác nhau (commonsense reasoning, multi-hop QA, NIAH) mà không cần tinh chỉnh lại cho từng tác vụ cụ thể.
  3. Tích hợp phản hồi từ LLM như một tín hiệu thưởng: Thay vì chỉ dựa vào nhãn support fact, hãy sử dụng chính LLM để đánh giá chất lượng của các chunk được truy xuất. Tín hiệu thưởng này có thể dựa trên mức độ hữu ích của chunk đối với việc sinh ra câu trả lời cuối cùng, giúp embedder học cách truy xuất thông tin có giá trị cao hơn.

2. Patent:​

  1. Phương pháp và hệ thống tìm kiếm thông tin đa bước trên thiết bị di động: Một hệ thống trên điện thoại thông minh cho phép người dùng đặt các câu hỏi phức tạp về một tài liệu dài (ví dụ: sách, báo cáo). Hệ thống sử dụng một mô hình nhúng nhỏ gọn đã được huấn luyện bằng phương pháp Q-RAG để thực hiện nhiều bước truy xuất, liên tục thu thập các đoạn văn bản liên quan nhất từ tài liệu. Kết quả cuối cùng là một câu trả lời ngắn gọn, chính xác mà không cần tải toàn bộ tài liệu lên bộ nhớ đệm, tiết kiệm pin và dữ liệu.
  2. Ứng dụng trợ lý ảo thông minh cho cuộc hội thoại dài: Một trợ lý ảo trên điện thoại có khả năng theo dõi và trả lời các câu hỏi dựa trên lịch sử trò chuyện rất dài. Thay vì phải xử lý lại toàn bộ lịch sử, trợ lý này sử dụng một mô hình Q-RAG nhỏ gọn để 'nhớ' và truy xuất chính xác thông tin từ các cuộc trò chuyện trước đó (ví dụ: 'Tôi đã nói với bạn về nhà hàng đó ở đâu nhỉ?'), giúp cuộc trò chuyện trở nên tự nhiên và mạch lạc hơn.
  3. Công cụ hỗ trợ học tập và đọc hiểu trên thiết bị di động: Một ứng dụng cho phép học sinh, sinh viên đặt câu hỏi về một chương sách giáo khoa dài. Ứng dụng này sử dụng Q-RAG để thực hiện truy xuất nhiều bước, tìm ra các đoạn văn bản có liên quan để giải thích một khái niệm phức tạp, đồng thời đưa ra các câu hỏi phụ để kiểm tra sự hiểu biết của người dùng. Toàn bộ quá trình diễn ra nhanh chóng và hiệu quả ngay trên điện thoại.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2511.07328
ArXiv Abstracthttps://arxiv.org/abs/2511.07328
PDF Downloadhttps://arxiv.org/pdf/2511.07328.pdf
Github Repositoryhttps://github.com/griver/Q-RAG