Chuyển tới nội dung chính

🤗 Daily Hugging Face Paper Digest - 2026-07-01

Báo cáo được tạo tự động vào lúc 2026-07-03 03:20:52 bằng mô hình deepseek-ai/deepseek-v4-flash.

📰 Summary of Papers​

1. BlockPilot: Instance-Adaptive Policy Learning for Diffusion-based Speculative Decoding (67 votes)​

Tác giả: Hao Zhang, Yiming Hu, Yong Wang, Mingqiao Mo, Xin Xiao, et al.

Xuất bản lúc: 2026-06-30

Tag: Speculative Decoding, Diffusion Models, LLM Inference, Policy Learning, Acceleration

I. Main Problem:​

Các phương pháp speculative decoding dựa trên diffusion hiện tại dùng kích thước block cố định cho tất cả đầu vào, bỏ qua thực tế rằng kích thước block tối ưu thay đổi theo từng mẫu. Điều này dẫn đến hiệu suất dưới mức tối ưu, vì block quá lớn gây lỗi tích lũy còn block quá nhỏ không tận dụng được khả năng song song.

II. Main Idea:​

BlockPilot đề xuất một cơ chế quyết định thích ứng theo mẫu, dùng phân phối dự đoán của token cuối sau giai đoạn prefilling làm đặc trưng để dự đoán kích thước block tối ưu. Bài toán được đơn giản hóa thành phân loại trên không gian hành động cục bộ nhờ tính chất tập trung của kích thước block tối ưu quanh giá trị huấn luyện. Một MLP nhẹ hai lớp được huấn luyện để ánh xạ trạng thái prefilling sang kích thước block, chỉ chạy một lần sau prefilling và tích hợp liền mạch vào khung có sẵn.

III. Main Results:​

  • BlockPilot đạt speedup 4.20× và độ dài chấp nhận 5.92 trên Qwen3-4B ở temperature=1, vượt tất cả baseline.
  • Trên Qwen3-8B, speedup đạt 4.66× ở temperature=0 và 3.94× ở temperature=1.
  • Cải thiện ổn định trên cả ba loại benchmark Math, Code và Chat.
  • MLP dự đoán chỉ có 0.32B tham số, gây độ trễ 7.34ms, rất nhẹ so với backbone.

IV. Conclusion & Future Works:​

BlockPilot chứng minh rằng chính sách giải mã—chứ không riêng kiến trúc—đóng vai trò then chốt trong hiệu quả suy luận của speculative decoding. Hướng tương lai có thể mở rộng chính sách thích ứng cho cả tốc độ dự thảo và xác minh, hoặc kết hợp với các cơ chế dự thảo động khác.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng BlockPilot để chọn đồng thời cả kích thước block và chiến lược dự thảo theo từng bước giải mã, thay vì cố định cho cả chuỗi.
  2. Áp dụng ý tưởng thích ứng mẫu lên các phương pháp speculative decoding khác (ví dụ EAGLE, Medusa) bằng cách dùng đặc trưng từ hidden state thay vì phân phối token cuối.
  3. Nghiên cứu chính sách dự đoán động cho block diffusion—dự đoán kích thước block ở mỗi vòng lặp dự thảo thay vì chỉ một lần—để thích ứng với sự thay đổi độ khó trong quá trình sinh.

2. Patent:​

  1. Module tăng tốc suy luận LLM trên điện thoại thông minh có thể tự động chọn số lượng token sinh song song dựa trên độ phức tạp của câu hỏi đầu vào, giúp giảm thời gian phản hồi.
  2. Hệ thống chatbot tích hợp có thể tùy chỉnh kích thước block sinh theo lĩnh vực: câu hỏi toán học dùng block nhỏ hơn, hội thoại thông thường dùng block lớn hơn, dựa trên phân tích ngữ cảnh đầu tiên.
  3. Phần mềm hỗ trợ viết code trên IDE có thể tự động điều chỉnh kích thước block dự thảo code dựa trên độ phức tạp của đoạn code hiện tại, tăng tốc gợi ý mà không làm giảm độ chính xác.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.31315
ArXiv Abstracthttps://arxiv.org/abs/2606.31315
PDF Downloadhttps://arxiv.org/pdf/2606.31315.pdf
Github Repositoryhttps://github.com/AMAP-ML/BlockPilot

2. Managing Procedural Memory in LLM Agents: Control, Adaptation, and Evaluation (17 votes)​

Tác giả: Julia Belikova, Rauf Parchiev, Evgeny Egorov, Grigorii Davydenko, Gleb Gusev, et al.

Xuất bản lúc: 2026-06-22

Tag: LLM Agents, Procedural Memory, Skill Transfer, Benchmark, Enterprise Workflows, Few-Shot Learning

I. Main Problem:​

Các tác nhân LLM ngày càng được dùng trong quy trình công việc lặp lại, nhưng bộ nhớ thủ tục (procedural memory) chưa được kiểm tra khả năng tái sử dụng kỹ năng giữa các nhiệm vụ, vai trò và mô hình khác nhau. Các hệ thống hiện tại chỉ đánh giá cải thiện nội bộ, không đo lường sự tổng quát hóa khi chuyển ngữ cảnh, dẫn đến thiếu hiểu biết về khi nào kỹ năng thực sự có thể tái dùng.

II. Main Idea:​

Bài báo giới thiệu AFTER, một benchmark chuẩn hóa gồm 382 nhiệm vụ doanh nghiệp thực tế, bao phủ 6 vai trò chuyên nghiệp và 22 kỹ năng thủ tục, cùng các bộ chia dữ liệu kiểm soát cho chuyển giao chéo nhiệm vụ, chéo vai trò và chéo mô hình. Mỗi kỹ năng là một artifact SKILL.md có thể tiến hóa qua các vòng lặp COLLECT–DIAGNOSE–REVISE–PROMOTE. Kết quả thực nghiệm cho thấy bộ nhớ thủ tục cải thiện độ chính xác trung bình +2,8 điểm, tiến hóa một vòng thêm +5,2 điểm, và kỹ năng từ đa nguồn mô hình đạt 73,1% độ chính xác chéo mô hình.

III. Main Results:​

  • Bộ nhớ thủ tục tĩnh cải thiện độ chính xác full-pass +2,8 điểm trung bình so với không có kỹ năng.
  • Một vòng tinh chỉnh duy nhất (LLM-guided refinement) tăng thêm +3,7 đến +6,7 điểm tùy quy mô mô hình.
  • Kỹ năng tiến hóa từ đa dạng vết (diverse traces) đạt 73,1% độ chính xác chéo mô hình, vượt nguồn đơn tốt nhất +13,7 điểm.
  • Chuyển giao chéo vai trò cho thấy kỹ năng pdf tăng +11,7 điểm trong vai trò PM, nhưng giảm -4,8 đến -7,5 điểm khi chuyển sang DS.
  • Kỹ năng tiến hóa giảm dung lượng token sử dụng 16-62% so với kỹ năng thủ công.

IV. Conclusion & Future Works:​

AFTER cung cấp khung đánh giá chuyển giao bộ nhớ thủ tục, cho thấy kỹ năng tổng quát từ đa dạng trải nghiệm tốt hơn đáng kể so với từ hẹp. Hạn chế: benchmark tập trung vào lĩnh vực công nghệ, 22 kỹ năng chưa bao phủ hết tác vụ sáng tạo; tương lai nên mở rộng sang y tế, pháp lý, và nghiên cứu quan hệ giữa lượng vết và chất lượng chuyển giao.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu cách kỹ năng thủ tục tiến hóa tự động từ tập vết lớn hơn (>100 mẫu) và tác động của số lượng vết đến chất lượng chuyển giao chéo mô hình trên nhiều ngành khác nhau.
  2. Phân tích chuyên sâu về cơ chế quá khớp (overfitting) của kỹ năng với ngữ cảnh nguồn, đề xuất phương pháp phát hiện và loại bỏ chi tiết nguồn để tăng tính tổng quát.
  3. Kết hợp bộ nhớ thủ tục với kỹ thuật prompt optimization động, cho phép tác nhân tự chọn kỹ năng phù hợp dựa trên ngữ cảnh nhiệm vụ thời gian thực.

2. Patent:​

  1. Hệ thống tự động tạo và tinh chỉnh kỹ năng thủ tục cho trợ lý doanh nghiệp trên điện thoại: mỗi lần người dùng hoàn thành tác vụ (như xử lý hóa đơn, soạn thảo báo cáo), hệ thống thu thập vết, phân tích lỗi và cập nhật kỹ năng để lần sau tự động hóa nhanh hơn.
  2. Phương pháp chuyển giao kỹ năng giữa các ứng dụng di động (ví dụ: kỹ năng xử lý PDF từ app kế toán sang app quản lý dự án) dùng mô hình đa nguồn, cho phép người dùng tận dụng kinh nghiệm từ các vai trò khác nhau mà không cần cấu hình lại.
  3. Công cụ tối ưu token trên thiết bị di động: hệ thống lưu kỹ năng thủ tục đã tiến hóa dưới dạng tệp nhẹ, giảm đến 62% số token cần gửi lên đám mây cho mỗi lần gọi LLM, giúp tiết kiệm chi phí và tăng tốc phản hồi.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.23127
ArXiv Abstracthttps://arxiv.org/abs/2606.23127
PDF Downloadhttps://arxiv.org/pdf/2606.23127.pdf
Github Repositoryhttps://github.com/DavydenkoGr/AFTER

3. Orca: The World is in Your Mind (180 votes)​

Tác giả: Yihao Wang, Yuheng Ji, Mingyu Cao, Yanqing Shen, Runze Xiao, et al.

Xuất bản lúc: 2026-06-29

Tag: World Model, State Prediction, Vision-Language, Video Understanding, Embodied AI, Self-Supervised Learning, Multimodal Learning

I. Main Problem:​

Các mô hình hiện tại thường tối ưu cho các tác vụ đơn lẻ như dự đoán token tiếp theo, khung hình tiếp theo, hay hành động tiếp theo, thiếu một biểu diễn thống nhất về trạng thái thế giới. Điều này hạn chế khả năng hiểu, dự đoán và tương tác với thế giới một cách tổng quát và có khả năng chuyển giao.

II. Main Idea:​

Orca giới thiệu mô hình Dự đoán Trạng thái Kế tiếp (Next-State-Prediction) như một cách tiếp cận thống nhất để học một không gian tiềm ẩn (latent space) chung của thế giới từ các tín hiệu đa phương thức. Mô hình sử dụng hai cơ chế học bổ sung: Học Vô thức (Unconscious learning) nắm bắt các chuyển tiếp trạng thái tự nhiên, dày đặc từ video liên tục, và Học Ý thức (Conscious learning) mô hình hóa các chuyển tiếp thưa thớt, có ý nghĩa được điều khiển bằng ngôn ngữ và câu hỏi (VQA). Sau tiền huấn luyện, backbone của Orca được đóng băng và chỉ các decoder nhẹ cho từng phương thức được huấn luyện để đọc thông tin từ không gian tiềm ẩn này.

III. Main Results:​

  • Mô hình Orca 4B đạt điểm trung bình 51.8 trên các benchmark sinh văn bản, vượt các baseline có cùng kích thước và các mô hình world model lớn hơn.
  • Trong dự đoán ảnh (PRICE-V0.1), Orca 4B đạt điểm trung bình 59.8, vượt trội so với các mô hình sinh ảnh chuyên dụng cùng cỡ.
  • Kết quả sinh hành động cho robot thực tế trong các tác vụ out-of-domain (OOD) cho thấy khả năng khái quát hóa, dù không sử dụng dữ liệu hành động trong tiền huấn luyện.
  • Hiệu suất trên cả ba đầu ra (văn bản, ảnh, hành động) đều cải thiện khi tăng quy mô dữ liệu tiền huấn luyện và kích thước mô hình.
  • Các phân tích cho thấy Orca cải thiện chính xác chuyển tiếp trạng thái, suy luận thông thường và hiểu biết không gian 3D.

IV. Conclusion & Future Works:​

Orca chứng minh tính khả thi của việc học một không gian trạng thái thế giới thống nhất từ tín hiệu video và ngôn ngữ, cho phép hỗ trợ nhiều tác vụ đầu ra khác nhau với một backbone chung. Các hạn chế hiện tại bao gồm việc chưa khai thác hết dữ liệu video (mới dùng 1/10) và chỉ tập trung vào tín hiệu thị giác và ngôn ngữ. Hướng phát triển tương lai bao gồm tích hợp thêm các tín hiệu khác như âm thanh, xúc giác và các tín hiệu vật lý.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng Orca sang học liên tục (continual learning) trong môi trường thay đổi, nơi mô hình tự động cập nhật không gian trạng thái thế giới khi gặp các tình huống và tương tác mới mà không bị quên kiến thức cũ.
  2. Nghiên cứu khả năng chuyển giao zero-shot của Orca sang các tác vụ hoàn toàn mới như điều khiển drone hoặc robot dưới nước, chỉ dựa vào không gian tiềm ẩn thế giới đã học và một decoder mới nhẹ.
  3. Kết hợp học vô thức và ý thức để sinh ra các kịch bản phản thực tế (counterfactual) chính xác hơn, cho phép mô hình suy luận về các hệ quả nếu một hành động cụ thể không xảy ra hoặc xảy ra khác đi.

2. Patent:​

  1. Trợ lý điện thoại có khả năng dự đoán: Dùng Orca trên điện thoại để phân tích luồng video real-time từ camera, dự đoán hành động tiếp theo của người dùng (ví dụ: sắp cầm cốc nước) và đưa ra các gợi ý, cảnh báo hoặc kích hoạt chức năng tự động.
  2. Quản lý kho thông minh: Tích hợp Orca vào camera giám sát robot di động để mô hình hóa trạng thái kho (vị trí hàng hóa, chuyển động công nhân) và dự đoán xung đột, đề xuất đường đi tối ưu hoặc lịch trình sắp xếp lại không gian.
  3. Chụp ảnh thông minh trên điện thoại: Dùng Orca để dự đoán khung hình hoàn hảo ngay trước khi bấm máy, gợi ý điều chỉnh bố cục, góc chụp, hoặc tự động chụp đúng khoảnh khắc chuyển tiếp trạng thái (như khi quả bóng chạm vợt) dựa trên luồng video.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.30534
ArXiv Abstracthttps://arxiv.org/abs/2606.30534
PDF Downloadhttps://arxiv.org/pdf/2606.30534.pdf
Github RepositoryN/A

4. Scenes as Objects, Not Primitives: Instance-Structured 3D Tokenization from Unposed Views (36 votes)​

Tác giả: Mijin Yoo, In Cho, Subin Jeon, Jiwoo Lee, Eunbyung Park, et al.

Xuất bản lúc: 2026-06-28

Tag: 3D Scene Representation, Feed-forward Reconstruction, Instance Segmentation, 3D Tokenization, Neural Rendering, Open-vocabulary Retrieval, Scene Editing

I. Main Problem:​

Các phương pháp tái tạo 3D feed-forward hiện tại xuất ra các tập hợp điểm hoặc Gaussian dày đặc và không có cấu trúc, không có khái niệm về đối tượng. Những biểu diễn này đòi hỏi phải xử lý hậu kỳ như nhóm hoặc nâng cấp đặc trưng để hỗ trợ suy luận hoặc thao tác ở cấp độ đối tượng, dẫn đến dư thừa thông tin và mất hiệu quả.

II. Main Idea:​

Bài báo đề xuất một khung feed-forward phân rã cảnh 3D thành các nhóm token có cấu trúc đối tượng. Mỗi nhóm gồm một token đối tượng (entity-level identity) và nhiều token neo (anchor tokens) mã hóa hình dạng và diện mạo cục bộ. Các token neo được giải mã thành 3D Gaussian, và token đối tượng đóng vai trò gom nhóm và là giao diện chính để thao tác ở cấp độ đối tượng. Quá trình được huấn luyện với 2D supervision (hình ảnh và mặt nạ đối tượng) mà không cần 3D annotation.

III. Main Results:​

  • Đạt kết quả tốt nhất về nâng cấp đặc trưng (feature lifting) trên ScanNet với 2 view, vượt qua Uni3R và các baseline khác, trong khi chỉ lưu trữ 59.4K đặc trưng ngữ nghĩa (so với 8.4M của Uni3R).
  • Vượt qua các baseline per-scene optimization (Gaussian Grouping, ObjectGS) về phân đoạn đối tượng (class-agnostic instance segmentation) trên thước đo AP, AP50, AP25.
  • Hỗ trợ trực tiếp thao tác cấp độ đối tượng (xóa, dịch chuyển, chèn đối tượng) và truy vấn 3D đa ngôn ngữ (open-vocabulary retrieval) mà không cần xử lý hậu kỳ.
  • Ablation cho thấy huấn luyện chung tái tạo và phân đoạn cùng với warm-up cho λ_seg là cần thiết để đạt hiệu quả cao nhất.

IV. Conclusion & Future Works:​

Phương pháp này đưa ra hướng mới cho biểu diễn cảnh 3D: coi đối tượng là giao diện chính thay vì các phần tử cơ sở. Hướng tương lai bao gồm mở rộng ra cảnh ngoài trời lớn hơn, cảnh động, và kết nối với các mô hình ngôn ngữ lớn cho suy luận và sinh 3D.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng kiến trúc token nhóm để xử lý cảnh động với các đối tượng di chuyển, sử dụng các token thời gian để nắm bắt động lực học và tương tác giữa các đối tượng.
  2. Kết hợp token nhóm với mô hình ngôn ngữ lớn để tạo ra một system có khả năng suy luận và trả lời câu hỏi về cảnh 3D dựa trên cấu trúc đối tượng đã học.
  3. Phát triển phương pháp sinh 3D dựa trên token nhóm, cho phép tạo ra các cảnh 3D mới bằng cách tổng hợp, biến đổi hoặc hoán đổi các nhóm token từ các cảnh khác nhau.

2. Patent:​

  1. Ứng dụng trên điện thoại cho phép người dùng chụp ảnh một căn phòng bằng camera điện thoại, sau đó ứng dụng tự động phân tách các đối tượng trong ảnh và tạo ra một mô hình 3D của căn phòng. Người dùng có thể chạm vào bất kỳ đối tượng nào trên màn hình để di chuyển, xóa hoặc thay thế nó, phục vụ cho việc thiết kế nội thất hoặc mua sắm đồ đạc trực tuyến.
  2. Hệ thống thực tế ảo tăng cường (AR) dành cho giáo dục: Khi người dùng đưa camera điện thoại vào một mô hình hoặc bức tranh có chứa các đối tượng, hệ thống sẽ tự động nhận diện từng đối tượng và tạo ra các chú thích hoặc thông tin chi tiết về chúng, giúp quá trình học tập trở nên trực quan và sinh động hơn.
  3. Trợ lý ảo trong gia đình dùng camera thông minh để nhận diện và theo dõi các đồ vật (ví dụ: chìa khóa, điện thoại, điều khiển TV). Khi người dùng hỏi bằng giọng nói 'Chìa khóa của tôi ở đâu?', hệ thống có thể truy xuất vị trí chính xác của đối tượng dựa trên biểu diễn 3D đã được xây dựng từ các khung hình quét trước đó.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.29513
ArXiv Abstracthttps://arxiv.org/abs/2606.29513
PDF Downloadhttps://arxiv.org/pdf/2606.29513.pdf
Github RepositoryN/A

5. Evolution Fine-Tuning: Learning to Discover Across 371 Optimization Tasks (24 votes)​

Tác giả: Young-Jun Lee, Seungone Kim, Minki Kang, Alistair Cheong Liang Chuen, Zerui Chen, et al.

Xuất bản lúc: 2026-06-27

Tag: Evolutionary Optimization, LLM Fine-Tuning, LLM Training, Meta-Learning, Evolution Fine-Tuning, EFT LLM, Optimization, LLM

I. Main Problem:​

Các LLM kết hợp với tìm kiếm tiến hóa hiện nay thường xử lý một bài toán tối ưu hóa mỗi lần, và khả năng khám phá (ví dụ: biết đột biến phần nào, quyết định quay lui khi nào) nằm hoàn toàn ở khung tìm kiếm, không được lưu trữ trong mô hình. Điều này khiến mô hình phải bắt đầu lại từ đầu cho mỗi bài toán mới và lãng phí kinh nghiệm tích lũy.

II. Main Idea:​

Bài báo giới thiệu Evolution Fine-Tuning (EFT), một phương pháp

III. Main Results:​

  • Phương pháp EFT giúp mô hình vượt trội so với mô hình nền trên 22 tác vụ kiểm tra, đạt cải thiện trung bình 10.22%.
  • Mô hình Finch, được huấn luyện với EFT và kết hợp KTO, đạt điểm trung bình 37.30 trên Competitive Programming, vượt qua mô hình nền (24.21).
  • Kết hợp với RL test-time, Finch đạt kết quả tốt nhất trong hai bài toán Circle Packing và cải thiện hiệu suất trên bài toán Erdős thêm 3.2%.
  • Tăng số lượng tác vụ huấn luyện từ 15 lên 355 giúp cải thiện hiệu suất trung bình trên các tác vụ kiểm tra thêm 14.1%.
  • Finch-9B đạt mức cải thiện trung bình 10.24% trên tổng thể 22 tác vụ, vượt trội so với các mô hình khác.

IV. Conclusion & Future Works:​

Kết luận: EFT đóng vai trò là 'giai đoạn thực hành' cho các tác nhân khám phá đa năng, giúp mô hình nội hóa khả năng khám phá và áp dụng cho nhiều bài toán khác nhau. Hướng tương lai: mở rộng bộ dữ liệu với nhiều tác vụ hơn và kết hợp EFT với các phương pháp RL mạnh hơn để cải thiện hiệu suất trên các bài toán tối ưu phức tạp.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu cách kết hợp EFT với cơ chế chú ý chọn lọc để mô hình tự động nhận diện và ưu tiên học các chiến lược hoán vị hiệu quả nhất, giúp tăng tốc độ hội tụ.
  2. Phát triển phương pháp EFT cho các bài toán tối ưu nhiều mục tiêu, nơi mô hình cần cân bằng giữa các mục tiêu xung đột nhau trong quá trình tiến hóa.
  3. Áp dụng EFT cho các tác vụ tối ưu hóa trong thiết kế chip hoặc kiến trúc mạng nơ-ron, tận dụng khả năng tổng quát hóa để tìm giải pháp sáng tạo hơn.

2. Patent:​

  1. Một hệ thống tối ưu hóa cấu hình điện thoại thông minh (ví dụ: bố trí camera, thuật toán nén ảnh) tự động sử dụng LLM đã được tinh chỉnh với EFT, cho phép thiết bị tự tìm ra cấu hình tốt nhất mà không cần can thiệp thủ công.
  2. Hệ thống tự động điều chỉnh hiệu suất chơi game trên điện thoại: mô hình LLM được EFT huấn luyện sẽ đề xuất các tham số (như xung nhịp CPU, cài đặt đồ họa) dựa trên lịch sử chơi game và phản hồi từ người dùng, giúp tối ưu hóa trải nghiệm.
  3. Ứng dụng tối ưu hóa đường đi cho điện thoại di động, nơi mô hình LLM được dùng để đề xuất các tuyến đường thay thế thông minh, vượt qua giới hạn của thuật toán GPS truyền thống khi gặp tình huống bất thường.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.29082
ArXiv Abstracthttps://arxiv.org/abs/2606.29082
PDF Downloadhttps://arxiv.org/pdf/2606.29082.pdf
Github Repositoryhttps://github.com/Open-Galapagos/evolution-fine-tuning

6. SkillHone: A Harness for Continual Agent Skill Evolution Through Persistent Decision History (21 votes)​

Tác giả: Zhiwei Li, Yong Hu

Xuất bản lúc: 2026-06-23

Tag: Agent Skills, Continual Learning, Decision History, Skill Evolution, Multi-Agent, LLM Agents, Deep Research

I. Main Problem:​

Các phương pháp hiện tại cải thiện kỹ năng (skill) cho tác tử (agent) chỉ lưu artifact cuối cùng, bỏ qua lịch sử quyết định — bao gồm lý do chỉnh sửa, các phương án bị loại và bằng chứng đánh giá. Điều này khiến tác tử sau không hiểu được sự tiến hóa trước đó, dễ lặp lại sửa lỗi cũ hoặc làm cho việc tối ưu gặp khó.

II. Main Idea:​

SkillHone là một hệ thống (harness) cho phép tiến hóa kỹ năng tác tử liên tục dựa trên lịch sử quyết định bền vững. Nó duy trì kho kỹ năng và kho đánh giá riêng biệt, phân tách vai trò: nhóm tối ưu (optimization) đề xuất sửa đổi, nhóm đánh giá (evaluation) chạy kỹ năng thử nghiệm và trả về báo cáo đã che giấu (redacted) để tránh rò rỉ thông tin. Mỗi bước phát triển được ghi lại dưới dạng bản ghi quyết định (chẩn đoán, đề xuất, bằng chứng, kết quả) cho phép tác tử sau tiếp tục cải tiến mà không cần khám phá lại lý do cũ.

III. Main Results:​

  • Trên GAIA, SkillHone đạt 64.6%, cao hơn 15.8 điểm so với deep-research agent có search thương mại.
  • Trên WebWalkerQA-EN, SkillHone đạt 66.4%, vượt Hermes-SE 13.4 điểm và Existing-Skills 16.2 điểm.
  • Ablation: loại decision history làm giảm 13.4/10.9 điểm; loại role separation giảm 6.4/5.3 điểm.
  • Khi chuyển backbone (Claude Sonnet 4.6), SkillHone vẫn đạt 72.4% trên GAIA, vượt Hermes-SE 10.2 điểm.
  • Trong triển khai nội bộ 7 kịch bản, SkillHone cải thiện độ chính xác trung bình 18.8 điểm.

IV. Conclusion & Future Works:​

SkillHone chứng minh lịch sử quyết định bền vững giúp tiến hóa kỹ năng hiệu quả hơn các phương pháp iterative hay reflective. Hạn chế chính: hiện chỉ tiến hóa từng kỹ năng riêng lẻ, chưa xử lý tiến hóa nhiều kỹ năng phụ thuộc lẫn nhau cần phối hợp tài nguyên chung.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng SkillHone cho tiến hóa đa kỹ năng đồng thời, nơi các kỹ năng dùng chung tài nguyên (ví dụ search, extract) và xung đột thay đổi cần được điều phối qua lịch sử quyết định liên kết.
  2. Nghiên cứu chiến lược thăm dò chủ động (active probing) trong SkillHone để tối ưu tỷ lệ cải thiện trên số lần đánh giá hạn chế, đặc biệt khi tài nguyên probe đắt đỏ.
  3. Áp dụng cơ chế lịch sử quyết định cho tiến hóa prompt trong hệ thống đa tác tử, ghi lại lý do thay đổi prompt của từng tác tử để tránh xung đột và tái tạo lỗi cũ.

2. Patent:​

  1. Phương pháp ghi lại lịch sử quyết định (issue, PR, merge) trong GitHub để tự động tối ưu kỹ năng cho chatbot trợ lý, giúp chatbot cải thiện phản hồi theo thời gian mà không cần can thiệp thủ công.
  2. Hệ thống phân tách vai trò tối ưu-đánh giá chạy trên điện thoại: một module con tối ưu hóa câu trả lời mẫu, module kia chạy thử và trả về báo cáo ẩn danh, cho phép trợ lý giọng nói tự học từ phản hồi người dùng mà không lộ dữ liệu cá nhân.
  3. Ứng dụng decision history để tinh chỉnh kỹ năng tìm kiếm trên trình duyệt điện thoại: ghi lại lý do thất bại (rate limit, format thay đổi) và sửa lỗi tự động, giúp tác tử tìm kiếm trên web duy trì hiệu quả khi API thay đổi.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.08671
ArXiv Abstracthttps://arxiv.org/abs/2606.08671
PDF Downloadhttps://arxiv.org/pdf/2606.08671.pdf
Github Repositoryhttps://github.com/Tencent/SkillHone

7. MemLearner: Learning to Query Context memory for Video World Models (18 votes)​

Tác giả: Jiwen Yu, Jianxiong Gao, Jianhong Bai, Yiran Qin, Kaiyi Huang, et al.

Xuất bản lúc: 2026-06-30

Tag: Video World Models, Video Diffusion Models, Context Memory, Interactive Video Generation, Diffusion Transformer, Occlusion Handling, Dynamic Objects, Multi-Dataset Training

I. Main Problem:​

Các mô hình Video World Model hiện tại thiếu cơ chế bộ nhớ hiệu quả, dẫn đến nội dung sinh ra không nhất quán khi kéo dài thời gian. Các phương pháp truy xuất ngữ cảnh dựa trên quy tắc (rule-based) như FOV overlap hay point cloud estimation thất bại trong các tình huống có vật cản (occlusion) và vật thể động, vì không thể khái quát hóa linh hoạt theo môi trường thay đổi.

II. Main Idea:​

MemLearner đề xuất cơ chế bộ nhớ thích ứng có thể học được, dùng các query token (Q) làm cầu nối thông tin giữa context token (C) và predicted token (P). Thay vì dùng module riêng, tất cả C, Q, P được đưa vào chính mô hình sinh video (Diffusion Transformer) để tận dụng các prior thị giác có sẵn, giúp giảm chi phí huấn luyện. Để tối ưu hiệu năng, chỉ các lớp đầu (query layers) thực hiện tương tác giữa C, Q, P; các lớp sau chỉ xử lý Q và P, đồng thời loại bỏ các chú ý (attention) không cần thiết.

III. Main Results:​

  • MemLearner vượt trội các phương pháp trước (ví dụ CaM) về tính nhất quán cảnh, đặc biệt trong tình huống có occlusion và vật thể động.
  • Trên dataset rendered tự thu thập (100 video, mỗi video >18,000 frame), MemLearner cải thiện đáng kể PSNR/LPIPS so với baseline.
  • Kết quả nhất quán trên cả dataset CaM (không occlusion) và SpatialVID (thế giới thực).
  • Chiến lược multi-dataset giúp tận dụng cả dữ liệu rendered (pose chính xác) và real (da dạng) mà không bị nhiễu annotation.
  • Phương pháp hoạt động tốt với cả mô hình nội bộ 1B và mô hình mở Wan2.1 (T2V-1.3B), chứng tỏ tính khả chuyển.

IV. Conclusion & Future Works:​

MemLearner cho thấy học truy xuất ngữ cảnh thích ứng là hướng đi hiệu quả để giải quyết vấn đề bộ nhớ trong Video World Models, đặc biệt với occlusion và vật thể động. Hướng tương lai có thể mở rộng cơ chế này cho sinh video siêu dài hoặc kết hợp với các dạng bộ nhớ khác (3D/feature) để tăng cường nhất quán.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng cơ chế query token cho các mô hình sinh video tương tác với nhiều loại hành động hơn (camera, chuyển động đối tượng), khảo sát ảnh hưởng của số lượng query token đến chất lượng và tốc độ.
  2. Kết hợp multi-dataset training với kỹ thuật domain adaptation để mô hình hoạt động tốt trên nhiều miền dữ liệu khác nhau (rendered, real, synthetic) mà không cần điều chỉnh kiến trúc.
  3. Nghiên cứu cơ chế bộ nhớ có thể mở rộng (scalable memory) cho video world models, nơi query token tự động điều chỉnh số lượng và độ sâu truy xuất dựa trên độ phức tạp của cảnh.

2. Patent:​

  1. Hệ thống tạo video 360 độ tương tác trên điện thoại: dùng query token để truy xuất frame ngữ cảnh từ video quay trước, giúp khi xoay camera ảo, cảnh nền và vật thể được duy trì nhất quán, tránh hiện tượng nhấp nháy hay mất chi tiết.
  2. Ứng dụng chỉnh sửa video thông minh: người dùng chọn một vật thể trong video dài; hệ thống tự động truy xuất các frame có vật thể đó từ quá khứ và tương lai để giữ nguyên diện mạo khi chỉnh sửa (đổi màu, di chuyển) mà không cần keyframe thủ công.
  3. Trợ lý thực tế ảo tăng cường (AR) trên điện thoại: khi người dùng di chuyển camera, query token truy xuất thông tin từ các frame trước để neo vật thể ảo chính xác vào không gian thực, giảm hiệu ứng drift và mất dấu theo thời gian.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.31734
ArXiv Abstracthttps://arxiv.org/abs/2606.31734
PDF Downloadhttps://arxiv.org/pdf/2606.31734.pdf
Github RepositoryN/A

8. Are We Measuring Strategy or Phrasing? The Gap Between Surface- and Approach-Level Diversity in LLM Math Reasoning (14 votes)​

Tác giả: Sangmook Lee, Minbeom Kim, Jeonghye Kim, Dohyung Kim, Sojeong Rhee, et al.

Xuất bản lúc: 2026-06-29

Tag: LLM, Math Reasoning, Diversity, Reinforcement Learning, RLVR, LLM Judge, Test-Time Scaling

I. Main Problem:​

Các phương pháp đo đa dạng hiện tại trong suy luận toán học của LLM chủ yếu nắm bắt biến thiên bề mặt (cách viết, ký hiệu) thay vì biến thiên về chiến lược giải (approach-level diversity). Điều này dẫn đến sự sai lệch khi đánh giá hiệu quả của các thuật toán RLVR đa dạng hóa, vốn thường tối ưu các proxy bề mặt, trong khi không đảm bảo sự đa dạng về mặt chiến lược thực sự.

II. Main Idea:​

Bài báo định nghĩa approach-level diversity là sự khác biệt trong chiến lược giải quyết vấn đề, vượt lên trên sự khác biệt về từ ngữ hay ký hiệu. Tác giả xây dựng một khung đánh giá với LLM judge (GPT-5.2) đã được chuẩn hóa theo đánh giá của con người để phân cụm các lời giải theo cách tiếp cận. Sử dụng khung này, họ chứng minh rằng các metric phổ biến (N-gram, cosine, RPD) chỉ phân biệt tốt ở mức thô (1 approach vs nhiều approach) nhưng thất bại ở mức tinh hơn (giữa các tập đã đa dạng về chiến lược). Họ cũng chỉ ra rằng các thuật toán RLVR đa dạng (DQO, DIVER) chủ yếu làm tăng biến thiên bề mặt trong cùng một cách tiếp cận, chứ không mở rộng số lượng chiến lược.

III. Main Results:​

  • Các metric phổ biến có độ tương hợp (concordance) giảm mạnh từ Tier 1 (~0.7-0.8) xuống Tier 3 (~0.55-0.6) khi so sánh các tập lời giải có nhiều hơn một cách tiếp cận.
  • Các thuật toán RLVR như DIVER vẫn mất dần coverage về approach (Cov@16 giảm) dù vẫn giữ được proxy bề mặt (TD, ED).
  • 80.6% mức tăng đa dạng bề mặt của DIVER đến từ biến thiên trong cùng một approach.
  • Test-time scaling: với cùng số lượng lời giải, tập lời giải có nhiều approach hơn cho độ chính xác cao hơn đáng kể.
  • Huấn luyện trực tiếp với LLM judge reward dẫn đến reward hacking: chính sách khai thác thiên kiến của judge thay vì mở rộng chiến lược.

IV. Conclusion & Future Works:​

Bài báo giới thiệu approach-level diversity như một khái niệm riêng biệt và phát hiện sự sai lệch có hệ thống giữa đa dạng bề mặt và đa dạng chiến lược. Hướng tương lai bao gồm mở rộng phân tích sang các lĩnh vực khác (khoa học, lập trình) và thiết kế các mục tiêu huấn luyện vừa giữ được cấu trúc đa dạng về chiến lược vừa chống lại reward hacking.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng khái niệm approach-level diversity cho lập trình tổng hợp (code synthesis): xây dựng LLM judge để phân biệt các thuật toán giải (ví dụ: sắp xếp nhanh vs sắp xếp trộn) thay vì chỉ khác biệt về cú pháp.
  2. Thiết kế một metric mới dựa trên đồ thị lập luận (argument graph) để đo sự khác biệt về chiến lược một cách tự động và robust hơn với paraphrasing trong suy luận toán học.
  3. Nghiên cứu phương pháp fine-tuning kết hợp kỹ thuật đa tác vụ (multi-task) để buộc mô hình học nhiều cách tiếp cận toán học ngay từ đầu, tránh sự suy giảm đa dạng do RLVR.

2. Patent:​

  1. Hệ thống gợi ý giải bài tập toán trên ứng dụng di động: thay vì chỉ đưa ra một lời giải, hệ thống phân tích chiến lược của người dùng (ví dụ: dùng phương pháp thế) và gợi ý thêm các cách tiếp cận khác (ví dụ: dùng đồ thị) để phát triển tư duy.
  2. Ứng dụng luyện thi thông minh: khi người dùng giải sai, hệ thống sẽ thay đổi chiến lược giải của gợi ý (ví dụ: từ đại số sang hình học) thay vì chỉ diễn giải lại cùng một hướng, giúp người học hiểu bản chất vấn đề.
  3. Công cụ đánh giá độ đa dạng của đề thi: phân tích các lời giải mẫu cho cùng một bài toán, xác định xem đề thi đó chỉ khuyến khích một cách giải hay có sự đa dạng về chiến lược, hỗ trợ giáo viên ra đề tốt hơn.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.29985
ArXiv Abstracthttps://arxiv.org/abs/2606.29985
PDF Downloadhttps://arxiv.org/pdf/2606.29985.pdf
Github RepositoryN/A

9. PhotoQuilt: Training-Free Arbitrary-Resolution Photomosaics via Bootstrapped Tiled Denoising (13 votes)​

Tác giả: Koorosh Roohi, Javad Rajabi, Andrew Fleet, Babak Taati

Xuất bản lúc: 2026-06-29

Tag: Diffusion Models, Photomosaic, Training-Free, Tiled Denoising, High-Resolution Image Generation, DiT, U-Net

I. Main Problem:​

Tạo ảnh ghép mosaic (photomosaic) độ phân giải cao rất tốn kém và khó thỏa mãn cả hai thang: nhìn xa phải tái tạo bố cục toàn cục của ảnh mục tiêu, nhìn gần mỗi ô nhỏ phải là một ảnh độc lập có chất lượng. Các phương pháp có sẵn hoặc mất cấu trúc toàn cục hoặc không giữ được tính tự chủ của từng ô.

II. Main Idea:​

PhotoQuilt dùng cơ chế khử nhiễu lát gạch có bootstrap: đầu tiên sinh một ảnh nền thô ở độ phân giải thấp để cố định bố cục chung, sau đó nội suy lên không gian tiềm ẩn và bơm lại nhiễu để phục hồi năng lực sinh của mô hình. Quá trình khử nhiễu diễn ra độc lập trên từng ô cố định, mỗi ô tự hình thành ảnh riêng nhưng vẫn được giữ bởi bố cục chung.

III. Main Results:​

  • PhotoQuilt vượt trội so với các baseline (StreamDiff, Phomosaic, Color T2I-Adapter, AdaIN) trên cả độ chính xác toàn cục (PSNR, SSIM) và chất lượng cục bộ (CLIP, BLIP).
  • Phiên bản trên FLUX.1 đạt PSNR 30.15 và SSIM 0.89 cho cấu trúc toàn cục, CLIP 0.36 và Image Reward 0.21 cho chất lượng ô.
  • Ablation xác nhận: strength s = 0.6 và bootstrap 768×768 là điểm cân bằng tối ưu giữa bố cục và tính tự chủ của ô.
  • Không cần huấn luyện hay thay đổi kiến trúc; tương thích cả U-Net và DiT.

IV. Conclusion & Future Works:​

PhotoQuilt tạo ảnh mosaic chất lượng cao, mở rộng tự do nhờ tách bố cục toàn cục và sinh ô cục bộ. Thách thức còn lại là khi dùng thư viện ảnh thật, chất lượng tái tạo phụ thuộc vào backbone diffusion vì ô có thể lệch khỏi ảnh gốc.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng PhotoQuilt cho video mosaic: dùng bootstrap ảnh nền trung bình từ khung hình chính để đảm bảo tính nhất quán thời gian giữa các khung mosaic.
  2. Kết hợp conditioning đa mức: cho phép mỗi ô vừa tuân theo prompt toàn cục vừa theo hướng dẫn văn bản riêng, tạo các mosaic chủ đề hỗn hợp như ảnh chân dung từ các bức ảnh du lịch.
  3. Tối ưu tham số strength s tự động cho từng vùng ảnh: vùng chi tiết dùng s nhỏ để giữ cấu trúc, vùng ít chi tiết dùng s lớn để sáng tạo tự do hơn.

2. Patent:​

  1. Ứng dụng trên điện thoại thông minh: người dùng chụp ảnh chân dung, app tự động chia lưới và điền mỗi ô bằng ảnh từ thư viện cá nhân nhưng vẫn giữ được bố cục gương mặt tổng thể nhờ cơ chế bootstrap trên đám mây.
  2. Tạo poster quảng cáo cá nhân hóa: khách hàng nhập ảnh sản phẩm và từ khóa; hệ thống sinh mosaic trong đó mỗi ô là một biến thể quảng cáo nhỏ, giúp người xem vừa thấy sản phẩm chính vừa xem chi tiết đa dạng.
  3. Module tạo ảnh bìa album nhạc: người dùng chọn ảnh nền và danh sách ảnh ô (ảnh ca sĩ, bìa đĩa); thuật toán sắp xếp và khử nhiễu lát gạch để bố cục album ổn định, mỗi ô là một ảnh ghép nhỏ riêng biệt.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.30968
ArXiv Abstracthttps://arxiv.org/abs/2606.30968
PDF Downloadhttps://arxiv.org/pdf/2606.30968.pdf
Github RepositoryN/A

10. RedVox: Safety and Fairness Gaps in Speech Models Across Languages (12 votes)​

Tác giả: Beatrice Savoldi, Sara Papi, Wafa Aissa, Matteo Negri, Luisa Bentivogli

Xuất bản lúc: 2026-06-25

Tag: Multilingual Speech, Safety, Fairness, Bias, Benchmark, Red Teaming, LLM

I. Main Problem:​

Việc đánh giá an toàn và công bằng của các mô hình giọng nói hiện nay chủ yếu chỉ tập trung vào tiếng Anh và sử dụng giọng tổng hợp, không phản ánh điều kiện sử dụng thực tế. Chỉ 8% các mô hình được khảo sát có tài liệu đánh giá đa ngôn ngữ, tạo ra khoảng trống lớn trong việc phát hiện rủi ro cho người dùng không nói tiếng Anh.

II. Main Idea:​

Bài báo giới thiệu REDVOX, một bộ dữ liệu đa ngôn ngữ đầu tiên dùng giọng nói thật để kiểm tra an toàn và công bằng. Người tham gia đã đọc và ghi âm các yêu cầu gây hại và thiên kiến bằng năm ngữ (Anh, Pháp, Ý, Tây Ban Nha, Đức). Nghiên cứu đánh giá 8 mô hình hiện đại, phân tích phản hồi của chúng theo hai chiều: liệu mô hình có hiểu yêu cầu (relatedness) và có ủng hộ hành vi gây hại (safety & fairness) hay không.

III. Main Results:​

  • Các mô hình sở hữu trí tuệ (proprietary) an toàn nhất (≤3.1% unsafe), trong khi mô hình mở như VoxTral gây hại ở ~22% trường hợp.
  • Mức độ 'unsafe' ở ngôn ngữ không phải tiếng Anh cao gần gấp đôi tiếng Anh (10% so với 5.1%).
  • Yêu cầu gây hại ở dạng giọng nói (speech) nguy hiểm hơn đáng kể so với dạng văn bản thuần túy, tăng tỷ lệ phản hồi nguy hiểm và gây tranh cãi lên đến +20%.
  • Các yêu cầu về khuôn mẫu (stereotypes) dễ rơi vào vùng xám 'có tranh cãi' hơn là 'không an toàn' trắng đen.
  • Chỉ 50% người tham gia đồng ý công bố dữ liệu giọng nói do lo ngại về quyền riêng tư và trách nhiệm cá nhân.

IV. Conclusion & Future Works:​

REDVOX chứng minh lỗ hổng an toàn trong mô hình giọng nói tồn tại ngay cả trong điều kiện bình thường và trầm trọng hơn với ngôn ngữ không phải tiếng Anh. Công bố dữ liệu giọng nói gây hại gặp rào cản lớn về tâm lý và quyền riêng tư. Hướng phát triển tương lai là mở rộng đánh giá cho các ngôn ngữ ít tài nguyên và xây dựng khung bảo vệ cho những người tham gia vào hoạt động 'red teaming' giọng nói.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu mở rộng REDVOX cho các ngôn ngữ ít tài nguyên và đa dạng về loại hình ngôn ngữ (ví dụ: tiếng Việt, tiếng Swahili) để khảo sát mức độ ảnh hưởng của sự mất cân bằng dữ liệu huấn luyện lên hành vi an toàn của mô hình.
  2. Phát triển một phương pháp ẩn danh giọng nói mới để giảm lo ngại về quyền riêng tư, từ đó thúc đẩy sự tham gia của nhiều người hơn vào việc tạo bộ dữ liệu 'red teaming' đa ngôn ngữ.
  3. Phân tích tác động của các đặc điểm ngữ điệu (như tốc độ nói, giọng vùng miền) lên mức độ độc hại của phản hồi mô hình, mở rộng yếu tố 'semantic content' sang 'paralinguistic features'.

2. Patent:​

  1. Hệ thống kiểm tra an toàn đa ngôn ngữ cho trợ lý giọng nói trên điện thoại: dùng bộ dữ liệu như REDVOX để tự động kiểm tra và cảnh báo nhà phát triển nếu trợ lý trả lời không an toàn cho người dùng ở quốc gia khác.
  2. Tính năng 'bảo vệ trẻ em' cho điện thoại thông minh: khi trẻ em nói một yêu cầu có thể gây hại hoặc thiên kiến, hệ thống sẽ tự động can thiệp, chuyển sang chế độ hướng dẫn an toàn hoặc từ chối trả lời một cách phù hợp.
  3. Công cụ 'kiểm duyệt nội dung' tự động cho các cuộc gọi và tin nhắn thoại: sử dụng mô hình đa ngôn ngữ tương tự để phát hiện và cảnh báo người dùng nếu họ sắp gửi một tin nhắn chứa định kiến hoặc nội dung gây hại.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.26968
ArXiv Abstracthttps://arxiv.org/abs/2606.26968
PDF Downloadhttps://arxiv.org/pdf/2606.26968.pdf
Github RepositoryN/A

11. Little Brains, Big Feats: Exploring Compact Language Models (10 votes)​

Tác giả: Dari Baturova, Elena Bruches, Ivan Chernov, Roman Derunets, Arsenii Fomin, et al.

Xuất bản lúc: 2026-06-29

Tag: Small Language Models, Retrieval-Augmented Generation, Benchmarking, LLM-as-a-Judge, On-Device Inference, Question Answering, Russian Language

I. Main Problem:​

Các mô hình ngôn ngữ lớn (LLM) đòi hỏi tài nguyên tính toán khổng lồ, khiến việc triển khai trên thiết bị biên (edge device) hoặc trong môi trường hạn chế ngân sách là bất khả thi. Mô hình ngôn ngữ nhỏ (SLM) là giải pháp thay thế tiềm năng nhưng chưa được đánh giá đầy đủ về khả năng sinh văn bản trong hệ thống Retrieval-Augmented Generation (RAG). Bài báo này lấp đầy khoảng trống đó bằng cách xây dựng benchmark RAG tiếng Nga và đo lường hiệu năng của SLM trên CPU.

II. Main Idea:​

Nhóm tác giả xây dựng một benchmark gồm 500 mẫu từ năm tập dữ liệu tiếng Nga (bốn công khai, một độc quyền) bao phủ nhiều loại câu hỏi. Họ đánh giá 17 mô hình SLM (1B–8B tham số) trong vai trò sinh output của pipeline RAG, chạy hoàn toàn trên CPU. Để đo chất lượng, họ sử dụng phương pháp LLM-as-a-Judge với ba mô hình giám khảo (GPT-5-mini, Qwen3-8B, GLM-4.7) đánh giá bốn chỉ số: Correctness, Answer Relevance, Context Relevance và Faithfulness.

III. Main Results:​

  • Hệ thống RAG dùng SLM chạy được hoàn toàn trên CPU trong thời gian chấp nhận được, không cần GPU.
  • Mô hình GPT-5-mini (baseline) luôn đạt điểm cao nhất, nhưng nhiều SLM 2B-4B đạt kết quả cạnh tranh.
  • Các mô hình có cùng số tham số cho kết quả rất khác nhau, tùy thuộc vào kiến trúc và dữ liệu huấn luyện.
  • Đưa ngữ cảnh (context) vào prompt cải thiện đáng kể độ chính xác và tính trung thực của câu trả lời so với không có ngữ cảnh.
  • Ba mô hình giám khảo được chọn có độ tương quan cao (Pearson > 0.87) và F1 phân biệt đúng/sai > 0.85.

IV. Conclusion & Future Works:​

SLM có thể thay thế LLM trong pipeline RAG khi tài nguyên hạn chế mà vẫn đảm bảo chất lượng chấp nhận được. Hướng tương lai: mở rộng benchmark cho nhiều ngôn ngữ hơn, thử nghiệm với SLM có tinh chỉnh (fine-tune) trên miền cụ thể, và tối ưu thời gian suy luận trên thiết bị di động.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng benchmark đa ngôn ngữ cho RAG-SLM, bao gồm tiếng Việt, Trung và Ấn Độ, để kiểm tra tính tổng quát của kết quả.
  2. So sánh hiệu năng giữa SLM thuần túy và SLM được tinh chỉnh bằng LoRA trên các tập dữ liệu miền y tế và pháp lý trong hệ thống RAG.
  3. Nghiên cứu ảnh hưởng của chiến lược truy xuất (retrieval) đến chất lượng SLM sinh đáp án, đặc biệt với câu hỏi đa bước (multi-hop).

2. Patent:​

  1. Hệ thống trợ lý ảo chăm sóc khách hàng trên điện thoại: hoạt động hoàn toàn offline, dùng SLM và RAG để trả lời câu hỏi về sản phẩm từ tài liệu nội bộ, bảo vệ quyền riêng tư dữ liệu.
  2. Ứng dụng giáo dục trên thiết bị di động: cho phép sinh viên đặt câu hỏi bằng tiếng Việt về bài giảng đã tải, SLM+RAG tìm đoạn văn bản phù hợp và giải thích trực tiếp mà không cần kết nối mạng.
  3. Công cụ hỗ trợ bác sĩ trong bệnh viện: truy vấn bằng giọng nói trên điện thoại thông minh, hệ thống RAG-SLM tìm kiếm hồ sơ bệnh án và cập nhật phác đồ điều trị mới nhất, đảm bảo tuân thủ quy định HIPAA nhờ xử lý cục bộ.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.30062
ArXiv Abstracthttps://arxiv.org/abs/2606.30062
PDF Downloadhttps://arxiv.org/pdf/2606.30062.pdf
Github Repositoryhttps://github.com/SibNN/SLM-RAG-EVAL

12. Play2Perfect: What Matters in Dexterous Play Pretraining for Precise Assembly? (10 votes)​

Tác giả: Tyler Ga Wei Lum, Kushal Kedia, C. Karen Liu, Jeannette Bohg

Xuất bản lúc: 2026-06-24

Tag: Reinforcement Learning, Dexterous Manipulation, Sim-to-Real, Pretraining, Assembly, Contact-Rich Manipulation

I. Main Problem:​

Các tác vụ lắp ráp chính xác bằng tay robot đa ngón vẫn là thách thức do tiếp xúc phức tạp, khó thu thập dữ liệu bắt chước, và phần thưởng thưa thớt khiến học tăng cường trực tiếp không khả thi. Các giải pháp trước đây thường phải thiết kế phần cứng hoặc môi trường chuyên biệt cho từng tác vụ.

II. Main Idea:​

Play2Perfect đề xuất một khung học tăng cường gồm hai giai đoạn: đầu tiên, huấn luyện trước một chính sách điều khiển thao tác đa dạng (play) trên nhiều vật thể và mục tiêu khác nhau để thu được các kỹ năng thao tác tái sử dụng như nắm bắt, xoay trong tay và định vị 6D. Sau đó, chính sách này được tinh chỉnh (perfect) trên các tác vụ lắp ráp với phần thưởng thưa thớt, tập trung khám phá vào các tương tác tiếp xúc chính xác. Khung này cho phép học hiệu quả hơn 33 lần so với huấn luyện từ đầu.

III. Main Results:​

  • Play2Perfect đạt hiệu quả mẫu cao hơn 33 lần so với huấn luyện từ đầu, ngay cả khi được cung cấp phần thưởng dày đặc đa giai đoạn.
  • Đạt 60% thành công trong chuyển giao sim-to-real zero-shot cho lắp chèn chặt với khe hở 0.5 mm, và hơn 50% cho lắp ráp đa phần và vặn vít.
  • Chính sách Play2Perfect duy trì thành công trên 75% dưới nhiễu lực lớn 12N, trong khi chính sách từ đầu giảm xuống 0%.
  • Các yếu tố thiết kế quan trọng: đa dạng vật thể, mục tiêu 6D, đa dạng quỹ đạo và độ chính xác mục tiêu đều ảnh hưởng đến hiệu suất hạ nguồn.
  • Tinh chỉnh RL là cần thiết: chỉ chính sách play thuần túy thất bại ở khe hở nhỏ hơn 4 mm.

IV. Conclusion & Future Works:​

Play2Perfect chứng minh rằng huấn luyện trước thao tác đa dạng (play) là bước đệm hiệu quả để giải quyết các tác vụ lắp ráp chính xác bằng tay robot. Hướng tới, cần kết hợp các kỹ năng lắp ráp ngắn hạn này vào pipeline tự động hoàn chỉnh có khả năng lập kế hoạch và phục hồi, đồng thời cải thiện khả năng tri giác bằng cách tích hợp thêm thông tin thị giác và xúc giác.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu khả năng mở rộng của play pretraining cho các tác vụ thao tác phức tạp hơn như lắp ráp nhiều bước với chuỗi hành động dài, tận dụng các chính sách đã được huấn luyện trước.
  2. Kết hợp play pretraining với học biểu diễn (representation learning) để tự động trích xuất các kỹ năng thao tác có ích từ dữ liệu không có nhãn, giảm phụ thuộc vào định nghĩa mục tiêu thủ công.
  3. Mở rộng khung cho nhiều robot hoặc tay robot khác nhau, nghiên cứu tính tổng quát của prior thao tác khi chuyển đổi giữa các cấu trúc robot khác nhau.

2. Patent:​

  1. Hệ thống huấn luyện robot trước khi lắp ráp: robot tự động thực hiện các động tác chơi đùa với vật thể như nắm, xoay, và di chuyển để học các kỹ năng thao tác cơ bản, sau đó nhanh chóng thích nghi với các tác vụ lắp ráp mới mà không cần lập trình lại từ đầu.
  2. Phần mềm trên điện thoại thông minh cho phép người dùng 'dạy' robot gia đình cách thao tác với đồ vật: người dùng đặt vật thể ở nhiều tư thế khác nhau, robot tự động ghi nhận và luyện tập các kỹ năng cầm nắm, sau đó áp dụng vào các tác vụ cụ thể như sắp xếp đồ.
  3. Bộ công cụ mô phỏng cho phép nhà sản xuất nhanh chóng tạo và kiểm tra quy trình lắp ráp mới: nhập file CAD sản phẩm, hệ thống tự động sinh các bước lắp ráp và tinh chỉnh chính sách robot thông qua học tăng cường với phần thưởng thưa thớt, giảm thời gian và chi phí lập trình.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.26428
ArXiv Abstracthttps://arxiv.org/abs/2606.26428
PDF Downloadhttps://arxiv.org/pdf/2606.26428.pdf
Github Repositoryhttps://github.com/kushal2000/play2perfect

13. Dockerless: Environment-Free Program Verifier for Coding Agents (87 votes)​

Tác giả: Wenhao Zeng, Yuling Shi, Xiaodong Gu, Chao Hu, Chaofan Wang, et al.

Xuất bản lúc: 2026-06-26

Tag: Program Verification, Coding Agents, Environment-Free, Software Engineering, LLMs, Agentic Exploration, Rejection Sampling, SWE-bench

I. Main Problem:​

Huấn luyện coding agent đòi hỏi bộ kiểm thử chạy patch trong môi trường riêng biệt (ví dụ Docker) để lọc dữ liệu SFT và cung cấp phần thưởng RL. Việc thiết lập các môi trường này rất tốn kém, không khả thi với kho mã nguồn riêng tư hoặc cũ, và là nút thắt cổ chai cho việc huấn luyện quy mô lớn.

II. Main Idea:​

Dockerless là bộ kiểm thử agentic không cần môi trường. Thay vì chạy test, nó đánh giá tính đúng đắn của patch dựa trên bằng chứng thu thập được từ việc khám phá kho mã nguồn. Đầu tiên, dựa trên issue và reference patch, Dockerless sinh ra vài câu hỏi kiểm thử. Sau đó, các sub-agent song song dùng công cụ read-only để tìm kiếm bằng chứng trong codebase. Cuối cùng, một mô hình tổng hợp bằng chứng để đưa ra điểm số chính xác. Dockerless được huấn luyện bằng rejection sampling, chỉ giữ lại các trajectory mà phán quyết của nó khớp với kết quả thực thi thực tế.

III. Main Results:​

  • Dockerless vượt bộ kiểm thử open-source mạnh nhất tới 14.3 điểm AUC.
  • Pipeline hoàn toàn không cần môi trường tạo ra mô hình đạt 62.0%, 50.0% và 35.2% tỉ lệ giải quyết trên SWE-bench Verified, Multilingual và Pro.
  • SFT với Dockerless vượt SFT dùng môi trường 2.4 điểm trên SWE-bench Pro.
  • RL với Dockerless gần bằng RL chạy test truyền thống (62.0% vs 62.4% trên Verified).
  • Chi phí tính toán của Dockerless chỉ chiếm 7.2% thời gian mỗi rollout trong RL.

IV. Conclusion & Future Works:​

Dockerless là bộ kiểm thử agentic không cần môi trường, hiệu quả ngang bằng với kiểm thử dùng Docker. Nó mở ra hướng đi mới cho việc huấn luyện coding agent trên hàng loạt kho mã nguồn thực tế không có môi trường tái lập. Hướng tương lai có thể là tối ưu hóa số lượng câu hỏi kiểm thử và mở rộng cho các ngôn ngữ lập trình khác.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng Dockerless để kiểm thử cả các thay đổi ở nhiều file, không chỉ patch đơn lẻ, bằng cách sinh câu hỏi liên quan đến sự tương tác giữa các module.
  2. Áp dụng kỹ thuật active learning để Dockerless chọn ra những câu hỏi thông tin nhất cho từng issue, giảm số lượng sub-agent cần thiết và tiết kiệm chi phí.
  3. Nghiên cứu khả năng chuyển giao của Dockerless khi huấn luyện trên một tập repository và kiểm thử trên các repository hoàn toàn mới với cấu trúc code khác biệt.

2. Patent:​

  1. Hệ thống tích hợp trong IDE giúp lập trình viên kiểm tra chất lượng bản vá mà không cần build dự án, dùng Dockerless để phân tích tính đúng đắn dựa trên mã nguồn có sẵn và trả về điểm số cùng giải thích.
  2. Dịch vụ chấm điểm tự động cho bài tập lập trình: thay vì chạy test case trên server, dùng Dockerless để chấm dựa trên mã nguồn của sinh viên và code mẫu, giảm tải tài nguyên và tránh bị lộ test.
  3. Công cụ hỗ trợ pull request trên ứng dụng mobile: khi nhà phát triển xem xét thay đổi code trên điện thoại, Dockerless chạy nhanh trên cloud và hiển thị đánh giá về tính chính xác của bản vá, giúp đưa ra quyết định duyệt nhanh chóng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.28436
ArXiv Abstracthttps://arxiv.org/abs/2606.28436
PDF Downloadhttps://arxiv.org/pdf/2606.28436.pdf
Github RepositoryN/A

14. DOPD: Dual On-policy Distillation (76 votes)​

Tác giả: Xinlei Yu, Gen Li, Qingyi Si, Guibin Zhang, Yuqi Xu, et al.

Xuất bản lúc: 2026-06-29

Tag: On-Policy Distillation, Privileged Information, LLMs, VLMs, Knowledge Distillation, Token-Level Supervision, Advantage-Aware

I. Main Problem:​

Các phương pháp On-Policy Distillation hiện tại gặp phải 'privilege illusion' (ảo tưởng đặc quyền): khi thêm thông tin đặc quyền (privileged information) vào giáo viên hoặc học sinh, sự cải thiện hiệu suất thực chất đến từ bất đối xứng thông tin chứ không phải năng lực có thể chuyển giao được. Điều này khiến học sinh sao chép kết quả đặc quyền thay vì học năng lực thực sự, làm suy giảm chất lượng distillation.

II. Main Idea:​

DOPD đề xuất cơ chế distillation kép (dual distillation) dựa trên 'privilege advantage gap' – độ chênh lệch xác suất dự đoán giữa giáo viên và học sinh khi cả hai đều có thông tin đặc quyền. Với mỗi token, DOPD động chọn nguồn giám sát (giáo viên hay chính học sinh) và cường độ (mạnh, nhẹ, yếu) dựa trên gap này. Token có gap lớn (giáo viên vượt trội năng lực) được dùng full-vocabulary teacher distillation; token có gap nhỏ (chủ yếu do thông tin đặc quyền) được dùng teacher distillation nhẹ; token không chắc chắn dùng weak self-regularization; token học sinh tự tin được giữ nguyên khám phá. Cách này tránh privilege illusion, chuyển giao năng lực thực sự hiệu quả.

III. Main Results:​

  • DOPD vượt Vanilla OPD trung bình 7.5 điểm trên LLM benchmarks (8 bài) và 6.0 điểm trên VLM benchmarks.
  • Cải thiện nhất quán 6.2–10.6 điểm trên 5 cặp mô hình có kích thước khác nhau.
  • Trên AIME25, DOPD đạt 23.3 (cao hơn Vanilla OPD 6.6 điểm) và trên ZebraLogic 26.9 (hơn 11.1 điểm).
  • DOPD cũng tốt hơn trong continual learning, out-of-distribution và training stability.
  • Token ablation: bỏ token có advantage gap lớn làm giảm ~50% hiệu quả distillation, xác nhận vai trò quan trọng của các token này.

IV. Conclusion & Future Works:​

DOPD giải quyết privilege illusion bằng cách động chọn chiến lược distillation cho từng token dựa trên mức chênh lệch năng lực thực sự. Kết quả thí nghiệm trên LLM và VLM cho thấy DOPD vượt trội so với các phương pháp trước. Hướng tương lai: mở rộng cho các dạng thông tin đặc quyền phức tạp hơn và các kiến trúc mô hình đa dạng.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu cách mở rộng DOPD cho các dạng privileged information khác như phản hồi con người, ground-truth labels, hoặc knowledge graphs.
  2. Khám phá cơ chế dynamic routing không chỉ dựa trên advantage gap mà còn kết hợp độ không chắc chắn (uncertainty) của teacher để chọn chiến lược distillation phù hợp hơn.
  3. Áp dụng tư tưởng dual distillation cho các tác vụ multi-modal khác ngoài LLM/VLM như speech-text distillation hoặc video understanding.

2. Patent:​

  1. Hệ thống dịch thuật thông minh trên điện thoại: sử dụng mô hình lớn trên server làm teacher và student nhỏ trên thiết bị, thêm ngữ cảnh đặc quyền (các bước suy luận chi tiết); DOPD giúp student học những bước suy luận thực sự hữu ích thay vì sao chép kết quả.
  2. Ứng dụng trợ lý ảo trên điện thoại có khả năng tóm tắt văn bản: mô hình nhỏ (student) được huấn luyện với thông tin đặc quyền là các cấu trúc câu quan trọng; cơ chế DOPD giúp student chỉ học những điểm mạnh thực sự của teacher, tránh bắt chước thông tin dư thừa.
  3. Hệ thống nhận diện đồ vật qua camera điện thoại: thêm bounding box và nhãn đối tượng (privileged info) vào quá trình huấn luyện student; DOPD động điều chỉnh việc học để student tập trung vào năng lực nhận diện thay vì phụ thuộc vào thông tin đặc quyền, giúp hệ thống hoạt động tốt khi không có bounding box.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.30626
ArXiv Abstracthttps://arxiv.org/abs/2606.30626
PDF Downloadhttps://arxiv.org/pdf/2606.30626.pdf
Github RepositoryN/A

15. Does VLA Even Know the Basics? Measuring Commonsense and World Knowledge Retention in Vision-Language-Action Models (41 votes)​

Tác giả: Nikita Kachaev, Andrey Moskalenko, Matvey Skripkin, Nikita Kurlaev, Daria Pugacheva, et al.

Xuất bản lúc: 2026-06-17

Tag: Vision-Language-Action, Commonsense Knowledge, World Knowledge, Evaluatuion Benchmark, Robotics, VLM, Embodied AI

I. Main Problem:​

Các mô hình Vision-Language-Action (VLA) hiện tại chủ yếu được đánh giá thông qua tỷ lệ thành công nhiệm vụ thao tác, nhưng ít có phương pháp đo lường mức độ duy trì kiến thức phổ thông và kiến thức thế giới sau khi tinh chỉnh từ VLM. Việc thất bại trên các tác vụ nhạy cảm kiến thức bị nhầm lẫn giữa thiếu kiến thức và khả năng điều khiển kém, dẫn đến thiếu công cụ đánh giá có nguyên tắc về những gì VLA thực sự biết.

II. Main Idea:​

Bài báo giới thiệu Act2Answer, một giao thức đánh giá nhẹ chuyển đổi các benchmark kiến thức của VLM thành các tập phim mô phỏng trên bàn, nơi tác nhân trả lời bằng hành động (đặt khối lập phương lên đáp án đúng) thay vì sinh văn bản. Họ xây dựng bộ 1,720 câu hỏi nhị phân qua 12 danh mục kiến thức (cảm xúc, thuộc tính, màu sắc, v.v.), giảm thiểu nhiễu từ điều khiển tầm thấp. Ngoài ra, họ đề xuất phương pháp thăm dò ý định theo lớp (layerwise intent probing) để xác định vị trí thông tin liên quan đến câu trả lời trong các lớp ẩn của mô hình.

III. Main Results:​

  • VLA hiện tại hoạt động tốt trên các khái niệm tri giác đơn giản (màu sắc, hình dạng), nhưng thất bại gần như ngẫu nhiên trên các danh mục ngữ nghĩa phức tạp (cảm xúc, đếm, thời gian, văn hóa).
  • Khoảng cách VLM-VLA lớn: VLM gốc vượt VLA khoảng 20-40 điểm phần trăm trên hầu hết danh mục, cho thấy suy giảm kiến thức đáng kể sau khi thích ứng.
  • Thăm dò tuyến tính cho thấy thông tin liên quan đến câu trả lời tồn tại ở các lớp giữa của VLM backbone, nhưng suy yếu dần ở các lớp cuối dùng cho dự đoán hành động.
  • Huấn luyện kết hợp VQA (ví dụ: Magma) giúp duy trì kiến thức tốt hơn so với các mô hình chỉ huấn luyện trên robotics.

IV. Conclusion & Future Works:​

Act2Answer cho thấy việc tinh chỉnh VLM trên dữ liệu hành động là chưa đủ; kiến thức ngữ nghĩa phong phú thường bị suy giảm. Các nghiên cứu tương lai cần thiết kế kiến trúc và mục tiêu huấn luyện giúp duy trì và căn chỉnh hiểu biết ngữ nghĩa nền tảng với chính sách vận động, thay vì hy sinh kiến thức tổng quát để cải thiện điều khiển.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng Act2Answer thành benchmark đa ngôn ngữ, kiểm tra kiến thức văn hóa và chuẩn mực xã hội đặc thù từng vùng miền trên VLA.
  2. Nghiên cứu cơ chế chống quên kiến thức (anti-forgetting) trong quá trình tinh chỉnh VLA, kết hợp học liên tục hoặc replay dữ liệu VLM để duy trì hiểu biết ngữ nghĩa.
  3. Phát triển phương pháp căn chỉnh biểu diễn ngữ nghĩa giữa các lớp VLM backbone và action head, giúp thông tin kiến thức được truyền tải đầy đủ đến quyết định hành động.

2. Patent:​

  1. Hệ thống robot gia đình kiểm tra kiến thức nền: khi gặp vật thể lạ, robot tự động thực hiện chuỗi hành động ngắn (ví dụ: đặt vào đĩa có nhãn) để xác nhận hiểu biết, giúp hiệu chỉnh hành vi kịp thời.
  2. Ứng dụng trên điện thoại thông minh cho phép người dùng tạo câu hỏi trắc nghiệm về đồ vật hoặc cảnh xung quanh, robot ảo trả lời bằng hành động (di chuyển chấm đến đáp án) để đánh giá độ chính xác của mô hình VLA.
  3. Giao thức đánh giá an toàn cho robot giao hàng: trước khi triển khai, robot phải vượt qua bài kiểm tra Act2Answer về luật giao thông và dấu hiệu văn hóa (ví dụ: phân biệt biển báo) để đảm bảo tuân thủ quy tắc xã hội.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.19297
ArXiv Abstracthttps://arxiv.org/abs/2606.19297
PDF Downloadhttps://arxiv.org/pdf/2606.19297.pdf
Github Repositoryhttps://github.com/CognitiveAISystems/Act2Answer

16. GEAR: Guided End-to-End AutoRegression for Image Synthesis (28 votes)​

Tác giả: Bin Lin, Zheyuan Liu, Chenguo Lin, Sixiang Chen, Yunyang Ge, et al.

Xuất bản lúc: 2026-06-30

Tag: Autoregressive Image Synthesis, Vector Quantized (VQ), Representation Alignment, End-to-End Training, Image Generation, Diffusion

I. Main Problem:​

Các mô hình sinh ảnh thường được huấn luyện hai giai đoạn: tokenizer được tối ưu cho tái tạo rồi đông cứng, khiến tokenizer không biết được latent space của nó có dễ cho generator học hay không. Điều này tạo ra sự mất kết nối giữa nhu cầu tái tạo trung thực (chi tiết cao) và nhu cầu sinh đơn giản (cấu trúc dễ dự đoán).

II. Main Idea:​

GEAR huấn luyện đồng thời VQ tokenizer và AR generator end-to-end bằng cơ chế dual read-out. Nhánh hard (one-hot) huấn luyện AR với next-token prediction, nhánh soft (khả vi) mang loss representation-alignment để chỉ dẫn lại tokenizer. Điều này giúp AR điều chỉnh tokenizer về phân bố index dễ dự đoán hơn, chuyển gánh nặng alignment từ tokenizer sang AR, trái ngược với phương pháp diffusion (làm latent trở nên ngữ nghĩa).

III. Main Results:​

  • GEAR hội tụ nhanh hơn tới 10 lần (gFID) trên ImageNet so với LlamaGen-REPA.
  • Cải thiện gFID trên mọi kích thước mô hình (B/L/XL) cả khi có và không CFG.
  • Trên text-to-image (GPIC), GEAR vượt LlamaGen-REPA ở mọi bước huấn luyện, giảm FDD xuống 115.3 (so với 127.9) tại 390k steps.
  • Tokenizer sau end-to-end ít giống DINOv2 hơn, nhưng AR lại có nhiều đặc trưng giống DINOv2 hơn (patch-level).
  • Codebook usage trở nên sắc nét hơn, entropy thấp hơn nhưng không bị suy sụp.

IV. Conclusion & Future Works:​

GEAR cho thấy việc huấn luyện end-to-end với alignment giúp AR generator hội tụ nhanh và chất lượng cao hơn, vì tokenizer được định hướng để sinh token dễ dự đoán. Hướng tương lai có thể mở rộng cách tiếp cận này cho các kiến trúc sinh khác (ví dụ: masked generative models) hoặc tích hợp với các phương pháp sinh video.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu thay thế REPA loss bằng contrastive learning để dẫn dắt tokenizer, nhằm tăng khả năng tái tạo và tốc độ hội tụ.
  2. Kết hợp GEAR với diffusion models trong một pipeline hybrid, sử dụng AR để sinh token ban đầu rồi diffusion để tinh chỉnh chi tiết.
  3. Mở rộng GEAR cho ảnh độ phân giải cao bằng cách điều chỉnh dual read-out để xử lý spatial resolution lớn hơn mà không tăng gánh nặng tính toán.

2. Patent:​

  1. Ứng dụng trên điện thoại: hệ thống sinh ảnh từ mô tả văn bản, sử dụng GEAR để tạo ảnh nhanh và ổn định hơn, cho phép người dùng tạo ảnh tùy chỉnh trực tiếp trên thiết bị di động.
  2. Công cụ thiết kế nội thất: người dùng nhập mô tả phòng, GEAR sinh ảnh nhanh các phối cảnh khác nhau, hỗ trợ nhà thiết kế và khách hàng dễ dàng hình dung không gian.
  3. Hệ thống thumbnail video tự động trên mạng xã hội: khi người dùng tải video, GEAR tạo ảnh thumbnail bắt mắt dựa trên nội dung video, cải thiện tỷ lệ nhấp chuột.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.32039
ArXiv Abstracthttps://arxiv.org/abs/2606.32039
PDF Downloadhttps://arxiv.org/pdf/2606.32039.pdf
Github Repositoryhttps://github.com/Tencent-Hunyuan/GEAR

17. Multi-Block Diffusion Language Models (23 votes)​

Tác giả: Yijie Jin, Jiajun Xu, Yuxuan Liu, Chenkai Xu, Yi Tu, et al.

Xuất bản lúc: 2026-06-30

Tag: Block Diffusion Language Models, LLMs, Multi-Block Diffusion, Parallel Decoding, Teacher Forcing, KV Cache

I. Main Problem:​

Các Block Diffusion Language Models (BD-LMs) hiện tại chỉ hỗ trợ Single-Block Diffusion (SingleBD) với luồng giải mã tuần tự giữa các block, tạo ra khoảng trống lưu trữ KV cache và hạn chế tận dụng song song. Quá trình huấn luyện teacher forcing và diffusion forcing cũng không khớp với trạng thái thực tế khi giải mã đồng thời nhiều block, gây ra sự khác biệt train-inference làm giảm hiệu quả.

II. Main Idea:​

Bài báo đề xuất MBD-LMs với Multi-block Teacher Forcing (MultiTF), phương pháp hậu huấn luyện giúp BD-LMs học cách giải mã đồng thời một nhóm block có giới hạn. MultiTF sử dụng noise-groups có kích thước biến thiên với chain-uniform noise-scheduler tạo ra các mẫu nhiễu không đồng nhất giống lúc suy luận. Để tận dụng thực tế, cơ chế Block Buffer được giới thiệu nhằm duy trì đầu vào tĩnh, tái sử dụng KV cache và tăng parallelism, chuyển đổi Tokens Per Forward (TPF) cao hơn thành tăng tốc thực tế.

III. Main Results:​

  • MBD-LLaDA2-Mini tăng TPF trung bình từ 3.47 lên 6.19 (+78.4%) và cải thiện độ chính xác từ 79.95% lên 81.03%.
  • MBD-LLaDA2-Mini-DMax đạt TPF trung bình 9.34 (+47.1%) với chỉ 1.02% giảm độ chính xác trên benchmarks toán và code.
  • Hệ thống suy luận tối ưu đạt 951.41 TPS trung bình, so với 781.50 TPS của baseline.
  • MultiTF phục hồi hoặc cải thiện chất lượng bị mất khi áp dụng MultiBD mà không qua huấn luyện lại.
  • Với buffer size phù hợp, MBD-LMs duy trì hiệu suất ổn định ở nhiều kích thước khác nhau.

IV. Conclusion & Future Works:​

MBD-LMs với MultiTF khắc phục hạn chế về parallelism của SingleBD, cải thiện đáng kể tốc độ suy luận mà vẫn giữ chất lượng. Các nghiên cứu tương lai có thể mở rộng cơ chế Block Buffer cho các mô hình lớn hơn hoặc kết hợp MultiTF với các kỹ thuật tăng tốc suy luận khác.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Áp dụng MultiTF cho các BD-LMs quy mô lớn hơn, như LLaDA2-Large, và đánh giá trên nhiều tác vụ ngôn ngữ tổng quát hơn như dialogue, summarization, hoặc translation để khẳng định khả năng mở rộng.
  2. Nghiên cứu tác động của Buffer Size (G_max) đến độ chính xác và tốc độ suy luận cho các loại mô hình và tác vụ khác nhau.
  3. Kết hợp MultiTF với các phương pháp tối ưu suy luận khác (ví dụ: speculative decoding, early exiting) để tận dụng tối đa parallelism của MBD-LMs.

2. Patent:​

  1. Hệ thống tăng tốc suy luận cho chatbot trực tuyến: sử dụng MBD-LM với Block Buffer để giảm độ trễ phản hồi cuối cùng, đặc biệt hiệu quả khi chatbot cần sinh văn bản dài như email hoặc báo cáo.
  2. Ứng dụng cho tạo nội dung tương tác trên điện thoại: khi người dùng nhập prompt, mô hình giải mã đồng thời nhiều phần văn bản thay vì từng token, giúp hoàn thành câu trả lời nhanh hơn trên thiết bị di động.
  3. Mô-đun tăng tốc viết code trong IDE: MBD-LM hậu huấn luyện với MultiTF sinh đồng thời nhiều dòng code hoặc comment, cải thiện trải nghiệm gợi ý code trong thời gian thực.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.29215
ArXiv Abstracthttps://arxiv.org/abs/2606.29215
PDF Downloadhttps://arxiv.org/pdf/2606.29215.pdf
Github Repositoryhttps://github.com/SJTU-DENG-Lab/mbd-lms

18. DataEvolver: Self-Evolving Multi-Agent Data Construction for Text-Rich Image Generation (17 votes)​

Tác giả: Siyu Yan, Yizhen Gao, Yilin Wang, Dongxing Mao, Alex Jinpeng Wang

Xuất bản lúc: 2026-06-30

Tag: Text-to-Image Generation, Text-Rich Image, Multi-Agent System, Data Construction, Self-Evolution, LLM, OCR

I. Main Problem:​

Các pipeline xây dựng dữ liệu cho sinh ảnh giàu chữ hiện nay đều theo mô hình tĩnh: thu thập, lọc một lần và đóng băng dữ liệu. Các mẫu bị loại bỏ thường bị vứt đi, dù chúng chứa tín hiệu lỗi có ích như lỗi OCR hoặc không khớp ngữ nghĩa. Điều này khiến các vòng xây dựng sau lặp lại cùng một kiểu lỗi.

II. Main Idea:​

DataEvolver là khung multi-agent tự tiến hóa. Bốn agent hợp tác trong vòng lặp kín: Retriever thu thập mẫu, Verifier chấm điểm và ghi nguyên nhân từ chối, Critic tổng hợp phản hồi vòng thành hướng dẫn ngôn ngữ, và Generator tổng hợp mẫu cho vùng còn thiếu. Phản hồi ngữ nghĩa được lưu vào bộ nhớ và dùng để điều chỉnh chính sách xây dựng cho vòng tiếp theo, biến mẫu bị loại thành thông tin cải tiến có thể tái sử dụng.

III. Main Results:​

  • Trên PixArt-α, DataEvolver cải thiện OCR-F1 so với baseline mạnh nhất 85.3% trên TextScenesHQ và 35.3% trên LongTextBench ở quy mô 0.75M.
  • Lợi ích nhất quán trên cả hai downstream model PixArt-α và Show-o2.
  • Ablation: bỏ Critic làm F1 giảm mạnh (từ 1.78 xuống 1.01), cho thấy vai trò quyết định của phản hồi ngữ nghĩa.
  • Bỏ Generator làm giảm coverage, nhưng Critic quan trọng hơn để thích ứng chính sách.

IV. Conclusion & Future Works:​

DataEvolver biến mẫu bị loại thành phản hồi có ích, giúp xây dựng dữ liệu sinh ảnh giàu chữ tốt hơn so với pipeline tĩnh. Hướng tương lai: mở rộng Critic mạnh hơn (ví dụ 35B), tối ưu chiến lược thăm dò chủ động, và áp dụng cho miền dữ liệu đa phương thức khác.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng DataEvolver cho xây dựng dữ liệu đa phương thức tổng quát, không chỉ ảnh giàu chữ, bằng cách thay Verifier bằng bộ đánh giá chất lượng đa chiều.
  2. Tích hợp Critic dạng mô hình ngôn ngữ lớn hơn và học tăng cường để tối ưu chính sách truy vấn và prompt một cách thích ứng hơn.
  3. Nghiên cứu khả năng chuyển giao dữ liệu tự xây dựng giữa các downstream model khác kiến trúc, để kiểm chứng tính tổng quát của khung.

2. Patent:​

  1. Hệ thống quảng cáo tự động: máy tính dùng điện thoại cục bộ, thu thập mẫu ảnh biển hiệu, lọc lỗi OCR, và tự động sinh ảnh quảng cáo giả có chữ đẹp cho từng chủ đề.
  2. Ứng dụng chụp ảnh tài liệu: khi người dùng chụp hóa đơn, hệ thống phân tích vùng chữ mờ thiếu, tự tổng hợp và chèn ảnh chữ rõ vào vùng đó, cải thiện OCR cho lần quét sau.
  3. Trình tạo ảnh thẻ thành viên: người dùng nhập tên và layout mẫu; hệ thống lấy mẫu lỗi từ kho, dùng mô hình Critic để sửa lỗi bố cục, sinh thẻ có chữ sắc nét và đúng vị trí.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.31537
ArXiv Abstracthttps://arxiv.org/abs/2606.31537
PDF Downloadhttps://arxiv.org/pdf/2606.31537.pdf
Github RepositoryN/A

19. Reinforcement Learning with Metacognitive Feedback Elicits Faithful Uncertainty Expression in LLMs (16 votes)​

Tác giả: Gabrielle Kaili-May Liu, Avi Caciularu, Gal Yona, Idan Szpektor, Arman Cohan

Xuất bản lúc: 2026-06-30

Tag: RLHF, Faithful Calibration, Metacognition, Uncertainty Estimation, Preference Optimization, LLMs, GRPO

I. Main Problem:​

Các mô hình ngôn ngữ lớn (LLMs) hiện nay gặp các khiếm khuyết nghiêm trọng về siêu nhận thức (metacognition): chúng thường tự tin thái quá khi bịa đặt, không nhận biết được giới hạn tri thức của bản thân, và thể hiện sự không chắc chắn sai lệch so với sự không chắc chắn nội tại. Việc căn chỉnh lòng tin được báo cáo với lòng tin nội tại thực sự (faithful calibration) — một bài toán mang bản chất siêu nhận thức — hầu như chưa được giải quyết một cách toàn diện.

II. Main Idea:​

Bài báo đề xuất 'Reinforcement Learning with Metacognitive Feedback (RLMF)', một phương pháp huấn luyện mới thưởng cho mô hình không chỉ vì tạo ra kết quả tốt mà còn vì khả năng tự đánh giá chính xác mức độ hoàn thành nhiệm vụ của chính nó. Cụ thể, RLMF dùng độ chính xác trong tự đánh giá (metacognitive accuracy) để điều chỉnh 'advantage' trong quá trình tối ưu hóa ưu tiên, ưu tiên những câu trả lời mà mô hình vừa làm tốt vừa tự đánh giá đúng về hiệu suất của mình. Phương pháp này được tích hợp trong khuôn khổ GRPO và kết hợp với chiến lược chọn dữ liệu dựa trên tự đánh giá (metacognitive data selection), sau đó ánh xạ điểm số tin cậy đã được căn chỉnh thành ngôn ngữ diễn đạt sự không chắc chắn tự nhiên thông qua giai đoạn viết lại (rewriting stage) có thể tùy chỉnh theo ngữ cảnh.

III. Main Results:​

  • RLMF đạt điểm faithful calibration (cMFG*) trung bình 0.84 trên 10 tác vụ, vượt xa các phương pháp prompting (0.67) và SFT (0.66) trước đây.
  • RLMF vượt RL tiêu chuẩn tới 63% về faithful calibration và giúp mô hình nhỏ (8B) vượt các mô hình lớn độc quyền (GPT-5, Gemini).
  • Đánh giá của con người cho thấy ngôn ngữ diễn đạt sự không chắc chắn từ pipeline đạt tỷ lệ thắng 96% so với baseline mạnh nhất về tính tự nhiên và đa dạng.
  • RLMF cải thiện khả năng tự đánh giá hiệu suất của mô hình trong quá trình huấn luyện, không bị suy giảm như các phương pháp RL dùng tín hiệu nội tại trước đây.
  • Chọn dữ liệu dựa trên tự đánh giá (metacognitive data selection) cho kết quả tốt hơn cả chọn ngẫu nhiên và chọn theo active learning truyền thống.

IV. Conclusion & Future Works:​

RLMF chứng minh rằng việc sử dụng hiệu suất siêu nhận thức như một tín hiệu phản hồi nội tại có thể tăng cường đáng kể quá trình post-training cho LLMs, vừa cải thiện độ chính xác vừa giúp mô hình thể hiện sự không chắc chắn một cách trung thực hơn. Hướng phát triển tương lai bao gồm mở rộng RLMF cho các khía cạnh khác của siêu nhận thức và điều chỉnh hành vi, cũng như áp dụng cho các tác vụ tự cải thiện có giám sát.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu việc áp dụng RLMF cho bài toán 'nói không biết' (abstention), nơi mô hình được thưởng khi từ chối trả lời một cách chính xác dựa trên khả năng tự đánh giá kiến thức của nó.
  2. Mở rộng khái niệm 'metacognitive advantage scaling' sang các kiến trúc đa tác vụ hoặc multi-modal, nơi mô hình cần tự đánh giá hiệu suất trên các loại dữ liệu đầu vào khác nhau (văn bản, hình ảnh, âm thanh).
  3. Kết hợp RLMF với các kỹ thuật chain-of-thought để giúp mô hình không chỉ tự đánh giá kết quả cuối cùng mà còn cả quá trình suy luận, tạo ra tín hiệu siêu nhận thức chi tiết hơn cho việc tối ưu hóa.

2. Patent:​

  1. Hệ thống trợ lý ảo trên điện thoại có khả năng tự động gắn thẻ mức độ tin cậy (ví dụ: 70%, chắc chắn) vào mỗi câu trả lời dựa trên faithful calibration, cho phép người dùng biết khi nào nên kiểm tra lại thông tin từ nguồn khác.
  2. Phương pháp huấn luyện chatbot trên điện thoại để tự động điều chỉnh giọng điệu: nếu mô hình không chắc chắn về câu trả lời, nó sẽ dùng các từ ngữ thể hiện sự dè dặt (ví dụ: 'có thể', 'theo tôi được biết'), và khi chắc chắn sẽ dùng giọng điệu quả quyết hơn, tất cả đều dựa trên faithful calibration nội tại.
  3. Ứng dụng trên điện thoại giúp học ngoại ngữ, nơi mô hình ngôn ngữ 'dạy' người dùng bằng cách đưa ra câu trả lời kèm độ tin cậy: với câu trả lời có độ tin cậy thấp, ứng dụng sẽ gợi ý người dùng tự tra từ điển, còn với câu trả lời có độ tin cậy cao, ứng dụng sẽ xác nhận kiến thức đó là chính xác.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.32032
ArXiv Abstracthttps://arxiv.org/abs/2606.32032
PDF Downloadhttps://arxiv.org/pdf/2606.32032.pdf
Github Repositoryhttps://github.com/yale-nlp/RLMF