Chuyển tới nội dung chính

🤗 Daily Hugging Face Paper Digest - 2026-09-04

Báo cáo được tạo tự động vào lúc 2026-09-05 10:50:46 bằng mô hình hermes-agent.

📰 Summary of Papers​


1. Compile by Training: Turning Natural-Language Specifications into Local Neural Functions (266 votes)​

Tác giả: Yuntian Deng, Pengyu Nie, Stuart Shieber

Xuất bản lúc: 2026-09-03

Tag: Natural Language Programming, Neural Functions, Program Synthesis, LoRA, Knowledge Distillation, Parameter-Efficient Fine-Tuning, Local Inference

I. Main Problem:​

Nhiều hàm xử lý văn bản lặp lại rất dễ mô tả bằng ngôn ngữ tự nhiên nhưng khó viết thành luật cứng, ví dụ phân loại email khẩn, trích xuất mã arXiv từ đúng loại link, hoặc dịch sang một văn phong đặc trưng. Gọi mô hình lớn từ xa cho từng đầu vào thì đúng, nhưng tạo ba vấn đề: chi phí lặp lại, độ trễ mạng, và phụ thuộc nhà cung cấp. Ngược lại, code truyền thống thì nhanh và địa phương nhưng thất bại với các hàm “mờ” theo ngữ cảnh. Bài toán là làm sao biên dịch một đặc tả ngôn ngữ thành hàm neural nhỏ, dùng lại được, chạy local như một artifact phần mềm thông thường.

II. Main Idea:​

Compile by Training coi việc thích ứng mô hình như bước build phần mềm: dùng mô hình lớn một lần để tạo công cụ, rồi sau đó không cần chúng nữa. Quy trình chính:

  • Specify: người dùng viết đặc tả hàm text-to-text bằng ngôn ngữ tự nhiên.
  • Teacher synthesis: một hoặc nhiều teacher model sinh các cặp input-output minh họa đúng đặc tả; hệ thống validate JSON và loại batch lỗi.
  • Specialize: tất cả hàm chia sẻ một interpreter nhỏ đóng băng, ở đây là Qwen3-0.6B; mỗi đặc tả chỉ học một LoRA adapter nhẹ và một run-time scaffold dạng prompt template. Compiler kiểu Program-as-Weights tạo điểm khởi đầu nhanh, sau đó gradient descent tinh chỉnh adapter trên dữ liệu vừa sinh.
  • Package: adapter, scaffold, đặc tả gốc và metadata interpreter được đóng gói thành artifact .paw, có thể lưu, version, cache, compose như code thường.
  • Run: SDK local ghép input mới với prompt và adapter; không gọi teacher hay service biên dịch nữa.

Hệ thống triển khai tương tác bằng cách overlap teacher synthesis với training, dùng job queue + worker GPU + cache teacher output, và coi compile như background build vài chục giây đến khoảng một phút. Ví dụ đời thường: giống thuê thợ lành nghề dựng một “khuôn gá” theo yêu cầu một lần, rồi từ đó xưởng nhỏ tại chỗ chỉ cần đặt nguyên liệu vào khuôn là ra sản phẩm lặp lại, không phải mời thợ về mỗi lần làm.

III. Main Results:​

  • Trên FuzzyBench-Hard, tập các đặc tả mà fast compiler của Program-as-Weights không tạo exact match nào, compile by training đạt mean LLM Exact Match 0.836, so với 0.224 của amortized PAW, tức +0.612 absolute.
  • Cái giá là compile-time cao hơn: khoảng 50.9 giây so với 3.5 giây cho compiler nhanh.
  • Trộn teacher theo tỉ lệ 2:1 giữa model mini nhỏ hơn và model lớn hơn nâng LEM từ 0.746 lên 0.851 với 3600 cặp unique lặp thành 6400 mẫu train.
  • Tăng dữ liệu unique từ 1440 lên 2400 cặp nâng LEM từ 0.821 lên 0.836; 7200 cặp đạt 0.866.
  • Thực nghiệm service lạnh: compile một đặc tả đại diện mất 50.9s trên B300, 68.2s trên H200, 99.2s trên RTX; bốn job đồng thời hoàn thành với queue wait trung bình 1.01s.
  • Ứng dụng deploy gồm website helper dùng 30 chương trình compiled, 28 active cho bốn site; Avatar Director dịch lệnh ngôn ngữ tự nhiên sang action program đúng 43/44 mẫu; bộ dịch hai chiều English-Claudish hoàn thành 100,747 request thành công trong khoảng Aug 22-Sep 2, 2026.

IV. Conclusion & Future Works:​

Compile by Training bổ sung một điểm vào trade-off tốc độ-độ chính xác của Program-as-Weights: compiler nhanh tạo adapter trong một forward pass chỉ vài giây, còn compiler theo hướng training bỏ ra khoảng một phút để mua độ chính xác semantic lớn hơn. Ý nghĩa chính là dịch adaptation từ runtime dependency sang software build step: large language models đóng vai trò tool builders, còn hàm neural local có thể version, cache và compose với code thông thường. Hạn chế: supervision tổng hợp có thể kế thừa lỗi teacher, nên ứng dụng cần correctness đảm bảo vẫn nên validate output hoặc giữ deterministic control paths. Hướng tương lai gồm nghiên cứu người dùng có hệ thống, cải thiện độ tin cậy của teacher synthesis, và mở rộng composition nhiều hàm compiled trong pipeline lớn hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Compiler có kiểm soát chất lượng cho hàm neural local: tự động phát hiện teacher examples nhiễu bằng cách đối chiếu consistency giữa nhiều teacher, specification, và interpreter nhỏ trước khi training.
  2. Hệ thống quản lý lifecycle cho neural functions: version, cache, test và rollback adapter theo đặc tả, benchmark semantic và hợp đồng input-output như một phần của CI/CD phần mềm.
  3. Composition an toàn giữa hàm mờ compiled và code xác định: chứng minh hoặc giám sát boundary giữa neural decision nodes và deterministic retrieval, branching, validation trong ứng dụng đa bước.
  4. Nâng cấp compile-time bằng active example selection: thay vì sinh dữ liệu cố định, chọn các input gây nhầm lẫn nhất cho interpreter nhỏ để giảm số teacher calls và số bước training.
  5. Tối ưu resource cho compiler minute-scale: phân bổ job động giữa GPU mạnh yếu, cache theo specification embedding, và warm-start có chọn lọc từ program gần giống.

2. Patent:​

  1. Trợ lý lọc email trên điện thoại: người dùng mô tả một lần kiểu tin nhắn cần ưu tiên; dịch vụ đám mây tạo ví dụ huấn luyện, sau đó một mô hình nhỏ chạy ngay trên máy phân loại thư mới mà không gửi nội dung email lên server mỗi lần.
  2. Bộ lọc thông báo theo ngữ cảnh cá nhân: điện thoại học từ câu mô tả như “đánh dấu tin cần trả lời hôm nay”, rồi chạy offline để gắn nhãn khẩn, ẩn bản tin, hoặc gợi ý nhắc việc theo thói quen người dùng.
  3. Trình dịch phong cách văn bản hai chiều trên thiết bị di động: người dùng nhập giọng văn đích và một mẫu ngắn; hệ thống build một bộ chuyển đổi cục bộ để viết lại câu theo phong cách đó hoặc trả về giọng văn trực tiếp khi offline.
  4. Điều khiển avatar hoặc trợ lý 3D bằng lời nói: điện thoại hoặc trình duyệt nhận lệnh như “nhảy hai lần rồi vẫy tay”, một mô hình nhỏ chuyển thành chương trình hành động có cấu trúc, phần mềm xác định kiểm tra an toàn rồi phát hoạt ảnh.
  5. Bộ điều phối câu hỏi cho website học tập trên điện thoại: các hàm neural nhỏ quyết định câu hỏi cần link hay cần trả lời, chọn nguồn ghi chú hay diễn đàn, còn cơ chế tìm kiếm chính xác và trích nguồn vẫn chạy như phần mềm thông thường.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.04199
ArXiv Abstracthttps://arxiv.org/abs/2609.04199
PDF Downloadhttps://arxiv.org/pdf/2609.04199.pdf
Github Repositoryhttps://github.com/programasweights/compile-by-training

2. Terminal-Universe: Turning Agent Trajectories into Scalable Terminal Environments (220 votes)​

Tác giả: Jie Wu, Zhenru Zhang, Beichen Zhang, Xuwu Wang, Yuhui Su, et al.

Xuất bản lúc: 2026-09-03

Tag: Code Agents, Terminal Agents, Environment Reconstruction, Post-training, SFT, Task Synthesis, Software Engineering

I. Main Problem:​

Các agent code chạy trên terminal ngày càng phổ biến và đã tích lũy hàng triệu trajectory (lịch sử tương tác), nhưng môi trường thực thi khả dụng lại khan hiếm — vừa thiếu số lượng vừa thiếu tính xác thực. Vấn đề cốt lõi:

  • Trajectory là dữ liệu đông cứng: chỉ là một demo đã ghi lại, chất lượng bị giới hạn bởi model sinh ra nó, không kiểm chứng được kết quả có đúng không.
  • Environment mới là tài nguyên đáng scale cho post-training: cùng một môi trường có thể tái tạo thành nhiều task có verifier, cho model mạnh hơn giải lại, và tạo được task khó hơn.
  • Các hướng hiện có đều hạn chế: dựng từ git history (tốn công thủ công), perturb bug (chỉ toàn task sửa lỗi), sinh environment từ đầu (thiếu tính thực tế của code thật).

II. Main Idea:​

Đảo ngược quan hệ trajectory ↔ environment: thay vì chạy trajectory từ environment như trước đây, quan sát rằng lịch sử thao tác tool (Read/Write/Edit/exec) trong một trajectory đã lộ cấu trúc và nội dung môi trường gốc, nên có thể dựng lại environment từ chính trajectory. Framework gồm:

  • Environment Reconstruction: (1) deterministic replay — chạy lại tuần tự các thao tác file để khôi phục mỗi file về trạng thái trước khi agent sửa, workspace bắt đầu ở dạng chưa giải; (2) agentic completion — một agent bổ sung file và dependency còn thiếu mà không lộ lời giải; (3) filtering — judge kiểm tra workspace đủ ngữ cảnh cho task chưa.
  • Re-querying trên mỗi environment đã dựng: Intent Recovery (khôi phục task gốc), Single-WS (sinh task mới trong một workspace), breadth qua Cross-WS (khai thác quan hệ phụ thuộc giữa các workspace để tạo task xuyên nhiều codebase, ví dụ port tính năng từ repo tham chiếu), depth qua Multi-Round (user agent đưa yêu cầu bổ sung/sửa theo phản hồi test, giả lập lập trình viên thật).
  • Mọi task đều đi kèm verifier do agent viết bên trong container; chỉ giữ trajectory pass hết test.

Ví dụ đời thường: giống như xem lại video một thợ sửa xe làm việc, ta tái dựng được chiếc xe trước khi anh ta sửa (replay), bổ sung các bộ phận video không quay tới (completion), rồi giao xe đó cho học viên khác làm lại với đáp án chấm tự động — thay vì chỉ bắt chước tay nghề của thợ trong video.

III. Main Results:​

  • Pipeline tạo 68,263 environment, sau filter còn 37.3k environment đủ điều kiện; agentic completion nâng tỷ lệ sufficiency từ ~40% lên 93.5% (terminal) và 20.1% → 77.1% (SWE), tăng số file trung bình từ 2.9 lên 22.4.
  • Sinh được ~32.0k SFT demonstration đã qua verifier (25.4k Single-WS, 3.5k Cross-WS, 3.1k Multi-Round), ~1.42B token.
  • SFT Qwen3.5-27B trên corpus này: Terminal-Bench 2.0 52.8% (+11.2), Terminal-Bench 2.1 58.1% (+11.9), EvoCode-Bench v2 MT@4 20.1% (+13.8) — vượt mọi phương pháp synthesis cùng hạng, chỉ sau teacher Qwen3.7-Max.
  • Ablations: re-solving task trong environment tái dựng (52.1) vượt xa học bắt chước trajectory gốc (36.7); thiếu agentic completion sụt 4.2 điểm; verifier filtering quan trọng hơn với task khó (Cross-WS: 55.4 vs 53.2).

IV. Conclusion & Future Works:​

Bài báo chứng minh trajectory cũ là mỏ vàng environment: đảo ngược vai trò từ 'sản phẩm của environment' thành 'nguồn để tái dựng environment', kết hợp mở rộng theo breadth (cross-workspace) và depth (multi-round) để bám sát thực tiễn kỹ thuật phần mềm. Verifier tự động giúp scale mà không cần curation thủ công.

  • Hướng mở: áp dụng tư tưởng tái dựng-re-query cho ngoài terminal workspace; cải thiện user agent giả lập; khai thác sâu hơn quan hệ phụ thuộc giữa các environment để tạo task liên-repo ngày càng thực tế.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng tái dựng environment từ trajectory sang các loại agent khác (web navigation, data analysis) để tận dụng kho trajectory đã tích lũu trong mọi lĩnh vực.
  2. Nghiên cứu user agent mô phỏng người dùng thực tế hơn — học phân bố yêu cầu thay đổi từ session lập trình thật thay vì heuristic.
  3. Kết hợp reconstruction với reinforcement learning: dùng environment tái dựng làm bàn tập có verifier cho RL post-training của code agent.
  4. Phương pháp khai thác quan hệ phụ thuộc cross-workspace quy mô lớn bằng đồ thị capability để tự động lắp ghép curriculum nhiều tầng.

2. Patent:​

  1. Nền tảng huấn luyện kỹ sư phần mềm trên điện thoại: biến lịch sử làm việc thật của lập trình viên thành bài tập môi trường ảo có chấm điểm tự động; người học trên app nhận task sửa code, hệ thống chạy test và phản hồi như khách hàng.
  2. Hệ thống tạo bài phỏng vấn lập trình từ session làm việc thực: phân tích log thao tác terminal của đội ngũ, tái dựng project ở trạng thái chưa hoàn thiện, tự sinh câu hỏi và test chấm ứng viên khách quan.
  3. Trợ lý ôn tập coding trên điện thoại: đưa một repo thật đã tái dựng, người dùng sửa từng yêu cầu qua nhiều vòng, ứng dụng đóng vai người dùng phàn hành theo kết quả test để mô phỏng làm việc với khách hàng thật.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.04148
ArXiv Abstracthttps://arxiv.org/abs/2609.04148
PDF Downloadhttps://arxiv.org/pdf/2609.04148.pdf
Github RepositoryN/A

3. LLaDA-Image: Building Strong Image Generators with Fully Open Training Recipes (203 votes)​

Tác giả: Chuyan Chen, Haoxing Chen, Kun Chen, Zhenglin Cheng, Long Cui, et al.

Xuất bản lúc: 2026-09-03

Tag: Text-to-Image Generation, Diffusion Transformer, Flow Matching, Vision-Language Model, Image Editing, Knowledge Distillation, Open-Source Recipe

I. Main Problem:​

Các hệ thống tạo ảnh thế hệ mới phải vừa hiểu chỉ dẫn đa ngôn ngữ phức tạp, vừa sinh ảnh photorealistic, vừa giữ nguyên nội dung tham chiếu khi chỉnh sửa, vừa render chữ chính xác, trong khi vẫn chạy được với ngân sách suy luận thực tế. Với mô hình mở, vấn đề còn nghiêm trọng hơn vì mô hình proprietary giữ kín data và training recipe:

  • Caption đắt đỏ và thiếu chính xác: các paradigm truyền thống (LDM, FLUX) buộc học visual prior kèm language alignment ngay từ đầu, nghĩa là cần caption ghép cặp ở giai đoạn tốn compute nhất; chi tiết trong caption thường biến mất sau downsample.
  • Dữ liệu tổng hợp nhiều gây artifact: ảnh synthetic-heavy giúp hội tụ nhanh ban đầu nhưng giới hạn độ chân thật dài hạn.
  • Thiết kế unified khó: phải nối understanding đa phương thức với generation mà vẫn giữ bằng chứng ảnh tham chiếu cho editing.
  • Triển khai tốn kém: quỹ đạo diffusion nhiều bước cần được nén mà không mất chất lượng.

II. Main Idea:​

LLaDA-Image trả lời câu hỏi: cần gì để train một image generator mạnh từ con số không với công thức hoàn toàn mở? Kiến trúc gồm ba khối:

  • VLM dựa trên dLLM (LLaDA 2.0 Mini + SigLIP-VQ), đóng băng, đảm nhiệm hiểu prompt đa phương thức. Notably, ảnh tham chiếu khi editing bỏ qua hoàn toàn VLM.
  • Connector: Residual Query Adapter (query học được cross-attend vào input trước prefill) + Transformer Connector nông sau prefill, chiết xuất representation của VLM sang không gian điều kiện của DiT mà không fine-tune VLM.
  • Single-stream DiT 6B xử lý chung token ảnh nhiễu và token điều kiện qua self-attention từng block, dự đoán flow-matching velocity. Editing thêm hai tín hiệu tham chiếu trực tiếp vào DiT: feature SigLIP-VQ (ngữ nghĩa) + latent VAE sạch (pixel-level).

Pipeline training theo giai đoạn (quyết định cốt lõi: tách visual prior khỏi language alignment):

  • Image-only pre-training 256² và mid-training với aspect-ratio bucket 512² — không cần caption; điều kiện được suy ra từ chính vùng ảnh mà DiT học tạo.
  • Text-to-image SFT 512²→1024², tinh chỉnh trên dữ liệu giàu chữ và chân dung.
  • Joint generation–editing (T2I + I2I) trong một checkpoint.
  • TwinFlow distillation (distribution matching + self-adversarial flow) → LLaDA-Image Turbo chỉ cần 2–4 bước sampling.

Công thức ổn định hoá: RMSNorm phi tham số khắp DiT + optimizer Muon. Tổng 220M mẫu, 98% ảnh thật, image-only chiếm >90%.

Ví dụ đời thường: giống nghệ sĩ vẽ tranh được đào tạo theo kiểu học viện cổ điển — trước tiên chỉ tập vẽ lại đời thực bằng mắt quan sát (image-only pre-training) để nắn tay và hiểu hình khối, ánh sáng; chỉ sau khi mắt và tay vững mới bắt đầu nghe khách đặt mô tả (language alignment) và sửa chữa chi tiết trên bức đã vẽ (editing). Kỹ năng nền học sạch, không vướng lời diễn giải nhiễu của người khác.

III. Main Results:​

  • SOTA open-source trên Qwen-Image-Bench: 53.53 (English) và 53.38 (Chinese), vượt Z-Image Turbo, Qwen-Image 2512, GPT-Image 2, Gemini 3.1 Flash Image theo trung bình hai track.
  • 2–4 bước sampling với LLaDA-Image Turbo sau TwinFlow distillation, chất lượng gần bản multi-step.
  • Cạnh tranh trên LongText-Bench (render chữ dài), CVTG-2K, và GEdit-Bench (editing theo chỉ dẫn) không cần backbone tác vụ riêng.
  • Data budget vừa phải: chỉ ~220M mẫu (image-only >90%, ảnh thật 98%) so với các hệ thống dùng caption ở mọi giai đoạn; recipe ảnh thật-dominant hội tụ chậm hơn trên benchmark sớm nhưng chất lượng realism và trần khả năng dài hạn cao hơn.
  • Release đầy đủ: 4 checkpoint (Base, Turbo, cả hai bản FP8), code train/inference và recipe chi tiết.

IV. Conclusion & Future Works:​

Bài báo chứng minh một hệ thống tạo ảnh visual creation mạnh có thể được train với ngân sách dữ liệu vừa phải, lấy dữ liệu image-only và ảnh thật làm chủ đạo, rồi thích ứng triển khai hiệu quả qua few-step distillation. Đóng góp lớn nhất nằm ở tính inspectable và reproducible của toàn bộ quy trình: data construction, architecture, schedule training, distillation đều được công bố. Tác giả thẳng thắn không claim mọi component tối ưu tuyệt đối và không so sánh mọi kiến trúc/data mixture. Hướng tương lai hợp lý: tối ưu hơn nữa mixture ảnh thật/synthetic, mở rộng distillation cho số bước thấp hơn, và cân nhắc lại điểm giao giữa visual-prior learning và language alignment.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu chiến lược kết hợp ảnh thật và ảnh synthetic tối ưu trong SFT: tìm tỷ lệ và thời điểm chèn ảnh tổng hợp để tăng tốc hội tụ ban đầu mà không giới hạn realism dài hạn.
  2. Phát triển biến thể TwinFlow còn ít bước hơn (1–2 bước) hoặc áp dụng distillation dạng này cho các DiT khác, đồng thời lượng hoá mức suy hao chất lượng theo số bước.
  3. Khảo sát các cấu hình kết nối VLM–DiT thay thế (số lượng query của RQA, độ sâu Transformer Connector) để xem đâu là điểm tối ưu cho từng ngân sách tính toán.
  4. Mở rộng image-only pre-training sang video generation: học visual prior từ video không caption trước khi alignment ngôn ngữ.
  5. Nghiên cứu cơ chế ảnh tham chiếu đi thẳng vào DiT (bypass VLM) như một nguyên tắc thiết kế chung cho các tác vụ conditional generation khác như inpainting, style transfer.

2. Patent:​

  1. Ứng dụng chỉnh sửa ảnh bằng giọng nói trên điện thoại: người dùng nói 'đổi nền thành bãi biển, giữ nguyên người'; hệ thống dùng mô hình unified sinh ảnh mới trong 2–4 bước ngay trên thiết bị nhờ bản Turbo, bảo toàn chi tiết gốc nhờ đường tín hiệu ảnh tham chiếu đi thẳng vào bộ tạo ảnh mà không qua mô-đun hiểu ngôn ngữ.
  2. Hệ thống tạo ảnh quảng cáo đa ngôn ngữ cho thương mại điện tử: doanh nghiệp nhập mô tả sản phẩm tiếng Việt hoặc tiếng Trung, mô hình render banner có chữ chính xác trong ảnh, đồng thời cho phép chỉnh sửa cục bộ (đổi slogan, màu nền) mà không phải tạo lại toàn bộ ảnh.
  3. Bộ công cụ training nội bộ cho công ty cần image generator riêng: công thức mở gồm pre-training chỉ trên ảnh nội bộ (không cần gắn caption), chuẩn hoá RMSNorm phi tham số và optimizer Muon, giúp doanh nghiệp train mô hình từ đầu trên dữ liệu của mình với chi phí annotation thấp.
  4. Dịch vụ sửa ảnh cũ trên điện thoại: upload ảnh gia đình cũ kèm lệnh 'phục hồi màu, xoá vết rách, giữ nguyên khuôn mặt'; mô hình dùng latent sạch của ảnh gốc để khôi phục pixel-level đúng vùng cần giữ, chỉ thay đổi vùng được chỉ định.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.03796
ArXiv Abstracthttps://arxiv.org/abs/2609.03796
PDF Downloadhttps://arxiv.org/pdf/2609.03796.pdf
Github RepositoryN/A

4. Knowing When Not to Reuse: Conditional Experience Transfer in Autonomous LLM Post-Training (149 votes)​

Tác giả: Tingyun Li, Wenfeng Feng, Weiqing Li, Abudukelimu Wuerkaixi, Guohua Liu, et al.

Xuất bản lúc: 2026-08-27

Tag: LLMs, Autonomous Post-Training, Experience Transfer, Transfer Learning, Model Adaptation, Negative Transfer

I. Main Problem:​

Các hệ thống post-training tự động cho LLM liên tục lặp: đề xuất update, train candidate, đánh giá, rồi dùng phản hồi để đề xuất tiếp. Qua các vòng lặp, hệ thống tích lũy một kho lịch sử update và kết quả — nhưng bằng chứng đó không tự diễn giải được:

  • Hiệu quả của một update phụ thuộc vào parent model, data mixture, training stage, evaluation contract tại thời điểm quan sát.
  • Coi thành công trong quá khứ như giấy phép tái sử dụng vô điều kiện sẽ lãng phí compute; nếu child được promote, nó còn làm xấu toàn bộ quỹ đạo train sau đó (hiệu ứng lan truyền qua các checkpoint parent).
  • Trong 24 cặp candidate–context được audit: 13/24 không cải thiện target, và chỉ 3/11 cái có cải thiện target mới giữ được cả hai retention measure.

II. Main Idea:​

Bài báo định khung đây là bài toán conditional experience transfer và đề xuất BCIT (Boundary-Calibrated Intervention Transfer) — một bộ quy tắc Reject – Validate – Train minh bạch trước khi tốn full-training compute. Cơ chế:

  • Mỗi update lưu kèm source context (parent, data, stage, eval contract), độ mạnh bằng chứng S_i (có giảm trừ theo grade A/B/C), điều kiện áp dụng B_i, và hard conflict đặt tên.
  • Điểm số Q_i = S_i × A_i (source strength × compatibility hiện tại) — tích nên bằng chứng mạnh không thể bù cho context không phù hợp; hard conflict là veto tuyệt đối không bù đắp được.
  • Ba hành động: Reject nếu conflict hoặc Q_i < 0.30; Validate bằng trial ngắn (≤20% budget) từ parent hiện tại nếu còn nghi; Train đầy đủ chỉ khi Q_i ≥ 0.70 và bằng chứng loại A. Proposal mới bắt buộc validate — không được dựng điểm nguồn ảo.
  • Tách bạch hai quyết định: authorization (được tốn compute không) và adoption (một rule g chung promote/rollback child sau train) — validation checkpoint không bao giờ được promote trực tiếp.

Ví dụ đời thường: giống như thợ nhiều kinh nghiệm làm xe — kinh nghiệm sửa chiếc xe cũ không phải lúc nào cũng vận dụng nguyên xi cho xe mới; nếu phát hiện linh kiện khác hẳn (hard conflict) thì bỏ, nghi ngờ thì thử trên chính chiếc xe đó một lần ngắn trước khi tháo ra làm lớn.

III. Main Results:​

  • RQ1 (tính dị hệ): 13/24 candidate không cải thiện target; nhiều cái tăng target nhưng mất 8–22 điểm IFEval retention → cần cơ chế ràng buộc bằng chứng vào context.
  • RQ2 (Audit-24, cùng dữ liệu): BCIT authorize 2/8 harmful (25%) và giữ 9/10 beneficial (90%), so với Flat-Additive 5/8 harmful và 8/10 beneficial; tỷ lệ harmful trong số được authorize giảm từ 31.3% xuống 14.3%.
  • RQ3 (validation fidelity): trial 20% budget khớp hướng kết quả full train ở 20/24 candidate (83.3%), Spearman ρ=.72; Pass có precision/recall 80%/80% với chi phí trung vị chỉ 17% full train.
  • RQ4 (end-to-end, 36 GPU-hours): BCIT đạt mean 47.0, cao hơn Flat-Additive +2.63 điểm (95% CI [2.10, 3.16], thắng cả 6 seed ghép), vượt Validate-All +1.50 và Additive+Veto +0.90, đồng thời tiết kiệm 0.74 GPU-hour so với Validate-All; AUC cũng cao nhất (44.9).

IV. Conclusion & Future Works:​

Thành công trong một context nguồn không tự động cho phép sửa mọi parent tương lai — BCIT thực thi nguyên tắc này bằng veto conflict, validate trên parent hiện tại, và cấp budget chỉ theo rule đóng băng. Kết quả ủng hộ cách phân bổ post-training compute theo bằng chứng có điều kiện thay vì vô điều kiện. Hướng tương lai: mở rộng sang mô hình lớn hơn, nhiều domain hơn, quỹ đạo dài hơn, và boundary học được thay vì do người đặc tả; validation fidelity có thể thay đổi theo scale/data/schedule.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Học boundary applicability tự động từ lịch sử decision thay vì để con người đặc tả, với kiểm chứng chống data leakage từ sealed outcomes.
  2. Mở rộng conditional experience transfer cho chuỗi post-training dài hàng trăm bước với nhiều capability đồng thời và retention đa chiều.
  3. Nghiên cứu thay thế/cải tiến validation trial ngắn (proxy theo prefix, early-exit signal) để tăng fidelity mà giữ ngân sách validation thấp.

2. Patent:​

  1. Hệ thống quản lý fine-tuning mô hình AI tự động trên điện thoại/cloud: trước khi chạy huấn luyện đầy đủ, hệ thống đối chiếu update cũ với cấu hình hiển tại, tự chặn các update xung đột rõ ràng và chỉ chạy thử ngắn với các update còn nghi ngờ.
  2. Trợ lý tinh chỉnh mô hình cho doanh nghiệp: ghi nhớ mọi lần huấn luyện kèm ngữ cảnh (dữ liệu, phiên bản mô hình cha, giai đoạn), và khi người dùng yêu cầu lặp lại một thay đổi, hệ thống cảnh báo nếu điều kiện đã khác và chỉ cấp ngân sách lớn sau khi thử nghiệm nhỏ thành công.
  3. Dịch vụ tối ưu chuỗi tinh chỉnh liên tiếp (ví dụ cá nhân hóa trợ lý trên điện thoại qua nhiều lần cập nhật): rule promote/rollback chung tự giữ checkpoint tốt, tự từ chối các bản cập nhật làm suy giảm kỹ năng cũ, tiết kiệm chi phí GPU cho người dùng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.26730
ArXiv Abstracthttps://arxiv.org/abs/2608.26730
PDF Downloadhttps://arxiv.org/pdf/2608.26730.pdf
Github RepositoryN/A

5. Random Attention: Rethinking KV Cache Eviction for Efficient Reasoning (134 votes)​

Tác giả: Heng Wang, Jielin Qiu, Wenting Zhao, Cheng Qian, Liangwei Yang, et al.

Xuất bản lúc: 2026-09-03

Tag: KV Cache, LLM Inference, Cache Eviction, Efficient Reasoning, Chain-of-Thought, vLLM, Memory Compression

I. Main Problem:​

Các mô hình reasoning tạo ra chuỗi suy luận (chain-of-thought) dài hàng chục nghìn token, khiến KV cache trở thành nút cổ chai bộ nhớ nghiêm trọng khi serving. Các phương pháp nén KV cache hiện có (H2O, SnapKV, R-KV, VaSE, TriAttention) đều theo cùng một paradigm:

  • chấm điểm từng token đã cache dựa trên ước lượng mức độ quan trọng tương lai (tích lũy attention, cửa sổ gần, độ lớn value, thống kê theo vị trí...)
  • giữ lại top-K token điểm cao nhất

Giả định ngầm của toàn bộ hướng nghiên cứu này là: chất lượng của tín hiệu chấm điểm quyết định độ chính xác dưới nén. Bài báo đặt câu hỏi: giả định này có thật sự đúng?

II. Main Idea:​

Random Attention — chính sách eviction hoàn toàn không cần tín hiệu chấm điểm, gồm 2 lựa chọn cấu trúc:

  • Bảo vệ toàn bộ prompt: các vị trí prefill (system prompt, template, câu hỏi) không bao giờ bị evict
  • Xóa ngẫu nhiên phần còn lại, theo từng head: mỗi vị trí nhận điểm ngẫu nhiên i.i.d. uniform, mỗi KV head tự giữ top-K độc lập

Vì sao phương pháp "ngớ ngẩn" này lại hiệu quả? Hai thí nghiệm kiểm soát giải thích:

  • Prompt là phần mong manh: mọi selector chỉ khác nhau ở chỗ tín hiệu của chúng có giữ được prompt hay không. Khi bắt tất cả method giữ prompt như nhau, khoảng cách giữa chúng gần như biến mất
  • Trace suy luận tự bảo vệ chính nó bằng dư thừa 2 tầng:
    • trong văn bản: model liên tục nhắc lại những gì nó còn đang dùng
    • giữa các attention head: mỗi head giữ một bản sao riêng của mọi token, nên một fact chỉ mất khi tất cả head cùng xóa nó — và random draw độc lập per head cực đại hóa đúng khả năng này. Thí nghiệm cấy fact cho thấy: 1 head giữ fact thì retrieval chỉ ~3%, 3 head thì 83%, 8 head thì 99%; hình dạng các bản sao (rời rạc hay liền mạch) không quan trọng

Vậy tín hiệu chấm điểm gần như không mua được gì — nó chỉ còn giá trị với fact hiếm được nói một lần duy nhất và không bao giờ nhắc lại (trường hợp needle/passcode), mà trace reasoning thực tế hiếm khi sinh ra.

Ví dụ đời thường: giống như khi dọn phòng họp, bạn khóa kỹ tài liệu gốc chỉ có một bản vào tủ (prompt), còn bản photo thì xếp lộn xộn ngẫu nhiên — vì photo có hàng chục bản, dù vứt bớt vẫn chắc chắn còn ít nhất một bản dùng được; việc tỉ mỉ xếp photo theo độ quan trọng gần như không thêm giá trị gì.

III. Main Results:​

  • Độ chính xác ngang mạnh nhất: trên 4 model (Qwen3-4B/14B/32B, Phi-4-reasoning) và 6 tác vụ reasoning (MATH500, GPQA-D, AIME, HMMT, LiveCodeBench), Random Attention bằng baseline mạnh nhất ở mức nén ~4×; thắng có ý nghĩa thống kê 31/60 ô so sánh, chỉ thua có 1 ô (code reasoning trên Qwen3-32B, do chiều dài prompt chứ không phải do tín hiệu chấm điểm)
  • Nhanh hơn 32–43% khi serving: qua vLLM + PagedAttention, không phải chạy scoring pass nào nên đạt 1.58–2.67× throughput của full attention, vượt TriAttention +32–43% trên cả 4 model ở generation 32k token
  • Áp lực nén càng lớn càng thắng: từ 2× đến 16× compression, Random Attention bám sát full attention lâu hơn, khoảng cách với VaSE mở rộng
  • Trên code reasoning các selector "sập": SnapKV thua 20–35 điểm, VaSE sụp 29 điểm trên Phi-4 — vì prompt code dài (trung bình 557 token, chiếm tới nửa budget) và các selector này không bảo vệ prompt
  • Probe cấy fact: bảo vệ prompt giúp SnapKV tăng tới +22.5 điểm; một chính sách recency thuần + prompt chỉ thua baseline tốt nhất ~2 điểm — hầu hết chênh lệch giữa các method nằm ở prompt, không phải ở score
  • Phần còn lại cho tín hiệu chấm điểm: với passcode chỉ nói 1 lần, Random Attention retrieval = 0%, còn R-KV tìm được 84% — nhưng tình huống này hiếm gặp trong trace thật

IV. Conclusion & Future Works:​

Nén KV cache cho reasoning không phải bài toán ranking mà là bài toán bảo vệ: độ chính xác của một evictor được quyết định bởi nó bảo vệ cái gì, không phải nó xếp hạng phần còn lại thế nào. Random Attention là một baseline triển khai được (không cần calibration, không cần tuning, nhanh nhất ở độ chính xác tương đương) và là chuẩn mực tối thiểu mà mọi tín hiệu selection mới phải vượt qua ở cùng budget và cùng chế độ bảo vệ prompt.

Hướng tương lai:

  • Cách phân bổ budget cho prompt dài, đặc biệt tác vụ code, nơi ghim toàn bộ prompt tiêu tốn phần lớn budget — nhiều phần prompt là scaffolding (định dạng I/O, hướng dẫn) có thể nén thông minh hơn
  • Khôi phục fact hiếm chỉ được nói một lần — trường hợp duy nhất đòi hỏi tín hiệu phụ thuộc nội dung
  • Kết hợp eviction vào quá trình training (hướng tiếp cận của Prefix Sliding, Kontonis et al.)

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng phân tích redundancy của reasoning trace sang các kiến trúc model khác (non-Qwen, Mixture-of-Experts, hybrid attention) để kiểm chứng tính tổng quát của hiện tượng 'trace tự bảo vệ'.
  2. Nghiên cứu chính sách bảo vệ prompt có chọn lọc: nén phần scaffolding của prompt (định dạng I/O, hướng dẫn) thay vì ghim nguyên văn, giải quyết nút thắt budget ở tác vụ code reasoning.
  3. Phát triển cơ chế phát hiện và bảo vệ 'fact một lần' (once-stated facts) bằng tín hiệu phụ thuộc nội dung chi phí thấp, chỉ kích hoạt khi redundancy của trace không đủ.

2. Patent:​

  1. Module quản lý bộ nhớ cho trợ lý AI trên điện thoại: khi AI suy luận dài, ứng dụng ghim nguyên văn câu hỏi của người dùng, còn chuỗi suy luận thì xóa ngẫu nhiên theo từng attention head — tiết kiệm RAM, không cần tính toán điểm quan trọng, trả lời nhanh hơn mà không mất độ chính xác.
  2. Hệ thống serving LLM reasoning trên đám mây: máy chủ chỉ thực hiện thao tác compact (xóa ngẫu nhiên) thay vì chạy vòng scoring qua toàn bộ cache, giảm điểm chờ đồng bộ giữa các request trong batch, tăng 32–43% số request xử lý đồng thời trên cùng GPU.
  3. Dịch vụ chatbot chuyên sâu (y tế, pháp lý): cơ chế bảo vệ tuyệt đối văn bản đầu vào của khách hàng khỏi việc bị xóa khi nén bộ nhớ, đảm bảo không bao giờ mất thông tin khách cung cấp dù quá trình suy luận kéo dài hàng chục nghìn bước.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.03430
ArXiv Abstracthttps://arxiv.org/abs/2609.03430
PDF Downloadhttps://arxiv.org/pdf/2609.03430.pdf
Github Repositoryhttps://github.com/SalesforceAIResearch/Random-Attention

6. LatentPress: Context Compression Beyond Text and Vision (107 votes)​

Tác giả: Zhengze Zhou, Hejian Sang

Xuất bản lúc: 2026-09-01

Tag: Context Compression, Soft Tokens, Long Context, LLMs, Memory Systems, Knowledge Distillation

I. Main Problem:​

Các hệ thống AI dài hạn (trợ lý, agent) tích lũy lịch sử hội thoại và tài liệu dài hơn khả năng đọc lại. Cách nén ngữ cảnh hiện tại đều phải giữ dạng văn bản đọc được cho con người hoặc phải tái dựng lại văn bản từ ảnh (OCR) trước khi mô hình ngôn ngữ dùng được, gây ra:

  • tốn kém tính toán khi đọc (đọc lại toàn bộ context)
  • độ trễ cao khi viết (tóm tắt tự sinh, OCR tái dựng)
  • tổn thất thông tin nghiêm trọng (tóm tắt văn bản chỉ đạt 0.184 accuracy trên LongMemEval)
  • các phương pháp soft-token trước đây (Gist, AutoCompressor, ICAE) phải fine-tune decoder quy mô LLM hoặc phải giải mã ngược về text.

II. Main Idea:​

LatentPress đề xuất giao diện direct-read soft-token: thay vì lưu context dưới dạng text hay ảnh, lịch sử hội thoại/tài liệu dài được nén thành các vector liên tục (memory tokens) mà decoder đóng băng đọc trực tiếp qua input-embedding layer, không bước tái dựng text nào ở inference. Cơ chế gồm:

  • WRITE: một writer nhỏ (adapter 4.2M–26.2M tham số, ~0.1% của decoder) tái sử dụng 2 lớp transformer đầu của decoder (deep-copied, đóng băng) để ánh xạ đoạn text thành soft token trong một forward pass duy nhất
  • Tỷ lệ nén (π): heuristic đơn giản — lịch sử hội thoại dùng role-based (giữ nguyên turn của user, nén turn của assistant 8–32×); tài liệu dài dùng uniform pooling
  • Huấn luyện writer: hàm mất mát = reconstruction + forward-KL (distill phân phối next-token của decoder khi đọc full-context sang khi đọc context nén), decoder hoàn toàn đóng băng, một writer riêng cho mỗi reader

Ví dụ đời thường: giống như thay vì photocopy cả cuốn sổ tay rồi đọc lại, người ta nén toàn bộ nội dung thành vài trang ghi chú bằng 'ký hiệu riêng' mà chỉ người đó hiểu — khi cần tra cứu, họ đọc thẳng ký hiệu đó chứ không phải giải mã lại thành chữ viết đầy đủ.

III. Main Results:​

  • LongMemEval (zero-shot từ UltraChat): LatentPress đạt 0.476–0.504 accuracy ở 4.6–7.7× nén, vượt cả baseline không nén (0.490 ở 1×) và bỏ xa tóm tắt text (0.184) và OCR (0.426→0.312). Kết quả giữ vững trên cả 3 reader: Qwen2.5-7B, Qwen3-8B, Qwen3-1.7B.
  • LongBench-QA (tài liệu dài): với in-domain adaptation, reader nén vượt cả baseline raw context ở 4× (Qwen2.5-14B: 47.93→57.99; Qwen2.5-7B: 43.80→49.06; Qwen3-8B: 30.80→39.62); 16× mới rơi xuống dưới raw.
  • Chi phí ghi (write): 43ms/cuộc hội thoại, nhanh hơn ~22× so với DeepSeek-OCR (~934ms) và 8–15× so với ICAE (350–700ms).
  • Chi phí đọc (read): 0.43–0.49s/example, nhanh hơn 5–9× so với đọc raw context và OCR đã cache.
  • Footprint huấn luyện: chỉ 4.2M–26.2M tham số adapter; decoder và các lớp mượn đều đóng băng.

IV. Conclusion & Future Works:​

LatentPress chứng minh soft token đọc trực tiếp là giao diện ngữ cảnh thực dụng cho máy, vượt ra ngoài text và vision: giữ hoặc cải thiện độ chính xác, ghi gần real-time, đọc nhanh 5–9×, footprint huấn luyện nhỏ. Hạn chế hiện tại: dùng oracle evidence (chưa kết hợp retriever), tỷ lệ nén là heuristic cố định. Hướng tương lai: học chính sách nén động (reinforcement learning chọn tỷ lệ per segment theo ngân sách latency/bộ nhớ), learned token-wise fusion H, và mở rộng writer cho reader khác cũng như context đa phương thức (tool traces, embodied).

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nén động học per-segment cho soft-token context: dùng RL tối ưu tỷ lệ nén theo downstream answer reward dưới ngân sách latency/bộ nhớ, thay vì heuristic role-based/uniform cố định.
  2. Kết hợp LatentPress với retriever để xử lý haystack LongMemEval-S/M đầy đủ, biến soft-token compression thành thành phần của một hệ thống memory hoàn chỉnh (cùng update policy, conflict resolution).
  3. LatentPress đa phương thức: huấn luyện writer nén lịch sử tool calls, quan sát môi trường embodied và trace đa phương thức thành soft token đọc trực tiếp bởi decoder đóng băng.

2. Patent:​

  1. Trợ lý AI trên điện thoại với bộ nhớ dài hạn nén: lịch sử chat được nén thành soft token ngay trên thiết bị (chỉ cần adapter vài triệu tham số), lưu cực kỳ gọn, khi trả lời mô hình đọc trực tiếp vector nén thay vì tải lại toàn bộ lịch sử — tiết kiệm pin, băng thông và thời gian phản hồi.
  2. Module đọc tài liệu dài cho ứng dụng văn phòng: hợp đồng/sách/tài liệu kỹ thuật được nén một lần thành memory token (43ms), sau đó mọi câu hỏi của người dùng được trả lời nhanh gấp 5–9× so với đọc toàn văn, rất phù hợp tìm kiếm trên hồ sơ pháp lý dài.
  3. Hệ thống ghi nhớ khách hàng cho tổng đài thông minh: mỗi cuộc gọi được nén thành soft token gắn với reader cụ thể; khi khách gọi lại, agent khôi phục ngữ cảnh gần như tức thì mà không cần lưu hay chuyển transcript đầy đủ giữa các hệ thống.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.01507
ArXiv Abstracthttps://arxiv.org/abs/2609.01507
PDF Downloadhttps://arxiv.org/pdf/2609.01507.pdf
Github RepositoryN/A

7. Rethinking On-Policy Distillation of Large Language Models II: One Training Example (72 votes)​

Tác giả: Zixuan Fu, Bingxiang He, Yuxin Zuo, Haohuan Huang, Jinqian Zhang, et al.

Xuất bản lúc: 2026-09-03

Tag: On-Policy Distillation, LLMs, Knowledge Distillation, Post-Training, Reinforcement Learning, Data Efficiency

I. Main Problem:​

On-Policy Distillation (OPD) — student tự sinh rollout, teacher cung cấp phân phối token-level tại mọi prefix — đã trở thành thành phần chuẩn trong post-training của các LLM frontier (Qwen3, DeepSeek-V4, Kimi K3...). Tuy nhiên:

  • Các nghiên cứu trước chỉ phân tích thuật toán OPD, bỏ ngỏ vai trò của dữ liệu huấn luyện và tương tác giữa dữ liệu – thuật toán.
  • Không rõ vì sao OPD cần nhiều dữ liệu: liệu hiệu năng đến từ nhiều câu hỏi, hay từ cơ chế học nội tại?

II. Main Idea:​

Tác giả thực hiện one-shot OPD — huấn luyện chỉ trên một query duy nhất — như thí nghiệm cực trị để tách hai mặt hiệu quả: tại sao ít dữ liệu vẫn đủ tín hiệu và tại sao huấn luyện lâu như vậy. Kết luận: OPD bị "bội thực dữ liệu" nhưng "đói thuật toán" (data-overfed, algorithm-starved).

  • Phía dữ liệu — state coverage: giá trị của một query nằm ở các state (prefix sinh tự động) mà rollout của nó chạm tới, chứ không phải nội dung câu hỏi. Một query đã đạt 71.5% không gian state mà full-data OPD khám phá; 16 query đa dạng ngữ nghĩa đạt 98.9% và ngang full-data.
  • Phía thuật toán — slow alignment: tốc độ student thu hẹp khoảng cách với teacher (absorption rate) giảm dần theo thời gian như nhau, dù học 1 query hay cả 17k query; ngay cả tập state cố định cũng mất hàng trăm bước để "hấp thụ".
  • Kiểm chứng bổ sung: query không nội dung (template trống, prompt off-domain WildChat) vẫn gần ngang baseline — vì input chỉ cần kích hoạt student lý luận; và so với one-shot RLVR, tín hiệu token-level của OPD tồn tại suốt training (reward RLVR cạn khi query được giải).

Ví dụ đời thường: giống học nấu ăn với một công thức duy nhất nhưng nấu đi nấu lại hàng trăm lần — mỗi lần thử lại tạo ra biến thể mới của các tình huống (state) trong bếp, nên một công thức cũng dạy kỹ năng rộng; còn chậm tiến bộ không phải vì thiếu bài tập, mà vì người học chỉ "tiêu hóa" được một phần nhỏ bài học ở mỗi lần lặp.

III. Main Results:​

  • One-shot OPD đạt 87–72% gain của full-data OPD (toán học, macro MATH-500/AMC/AIME) sau 300–1000 bước, hồi phục ~69% khoảng cách teacher–student.
  • Hiệu ứng bền vững xuyên suốt: 3 cặp student–teacher (R1-Distill, Llama-3B, OLMo-7B) và 4 domain (toán, code, instruction following, tool use — hồi 73%/66%/64% gap).
  • Không nhạy với độ khó query (kể cả query student không bao giờ giải được), giới hạn độ dài response, nhiệt độ sampling.
  • State coverage: 1 query → 71.5% (phần lớn trong 100 bước đầu); 16 query semantic khác nhau → 98.9%, đồng thời khớp accuracy full-data.
  • Multi-teacher OPD (MOPD): 16 query đa dạng mỗi domain đủ để ngang full-data MOPD.
  • Absorption rate suy giảm cùng tốc độ với 1 query và 17k query → tốc độ học là thuộc tính của thuật toán, không phải của tập dữ liệu.
  • So với one-shot RLVR cùng query: gain OPD sau 1000 bước gấp hơn 2 lần RLVR.

IV. Conclusion & Future Works:​

OPD được cung cấp nhiều tín hiệu giám sát hơn khả năng hấp thụ của thuật toán; vấn đề của data curation không còn là thu thập bao nhiêu bài toán mà là state nào mà một input kích hoạt. Gợi mở tái xem xét dữ liệu và cơ chế đằng sau thành công gần đây của frontier post-training. Hướng tương lai: chọn query theo state coverage chúng sinh ra, và nâng tốc độ absorption của student (step efficiency của OPD).

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phương pháp chọn dữ liệu OPD theo state coverage: dự đoán cụm state mà rollout của một query sẽ chạm tới (qua teacher embedding) để chọn tập query nhỏ tối đa hóa độ phủ thay vì dựa vào độ khó hay nội dung.
  2. Thuật toán OPD cải tiến tăng absorption rate: tăng tốc thu hẹp teacher–student gap (ví dụ adaptive step size theo tốc độ alignment suy giảm) để tận dụng phần tín hiệu đang bị bỏ phí.
  3. Mở rộng phân tích state-level cho RLVR và RL tổng quát: kiểm tra liệu hiện tượng data-overfed/algorithm-starved có phải đặc trưng của tín hiệu dense token-level hay phổ biến trong post-training.
  4. Ứng dụng one-shot OPD cho cá nhân hóa mô hình trên thiết bị: tinh chỉnh student bằng một hoặc vài query của người dùng mà vẫn thu được phần lớn lợi ích distillation.

2. Patent:​

  1. Hệ thống cá nhân hóa trợ lý AI trên điện thoại: dùng 1–16 câu hỏi tiêu biểu của người dùng để chạy on-policy distillation từ teacher lớn trên đám mây về mô hình nhỏ trên máy, giảm chi phí thu thập và lưu trữ dữ liệu huấn luyện cá nhân.
  2. Module chọn dữ liệu huấn luyện tự động cho pipeline distillation: tính toán độ phủ các tình huống sinh văn bản mà mỗi câu hỏi kích hoạt, tự động chọn bộ câu hỏi nhỏ nhất đạt ngưỡng phủ thay vì dùng toàn bộ tập dữ liệu.
  3. Dịch vụ cập nhật mô hình theo thời gian thực bằng distillation một-câu-hỏi: khi có yêu cầu kỹ năng mới (ví dụ trả lời theo phong cách thương hiệu), hệ thống sinh vài câu hỏi khởi động rồi chạy OPD ngắn để nâng mô hình production mà không cần đợt thu thập dữ liệu lớn.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.04172
ArXiv Abstracthttps://arxiv.org/abs/2609.04172
PDF Downloadhttps://arxiv.org/pdf/2609.04172.pdf
Github Repositoryhttps://github.com/Thinking-Space/One-Shot-OPD

8. Why Gated DeltaNet Survives 4-Bit Quantization: NVFP4 W4A4 for the Recurrent Half of a Hybrid 27B LLM (72 votes)​

Tác giả: Sergii Kozyrev, Davyd Maiboroda

Xuất bản lúc: 2026-09-03

Tag: LLM Quantization, NVFP4, W4A4, Hybrid LLM, Gated DeltaNet, Linear Attention, KV Cache, Post-Training Quantization

I. Main Problem:​

Các mô hình hybrid như Qwen3.8-27B dùng 48 lớp Gated DeltaNet và 16 lớp attention, nhưng mọi bản quantization 4-bit công khai trước đó đều bảo vệ khối GDN: gate kiểm soát decay/write-strength giữ ở 8/16-bit vì giả định rằng lỗi trong recurrence sẽ tích lũy theo ngữ cảnh dài. Hệ quả là checkpoint lớn hơn, prefill chậm hơn, và chưa có bằng chứng kiểm soát cho việc quantize toàn bộ recurrent half.

II. Main Idea:​

Minima áp NVFP4 W4A4 cho toàn bộ 496 linear layers của Qwen3.8-27B, gồm cả Gated DeltaNet, chỉ loại embeddings, lm_head, convolution và norm. Thay vì tin trực giác “recurrence nhạy cảm”, tác giả đo thống kê activation thật 32K token, replay từng projection, chạy recurrence song song ở FP32 để bơm đúng lỗi 4-bit, và tách perplexity theo vị trí. Chuỗi giải thích gồm 4 tầng:

  • Block scaling của NVFP4 khoanh outliers của residual stream trong cụm 16 phần tử, nên lỗi activation chỉ 7.5–9.2% dù input có max/RMS cực đoan.
  • Các gate bị cộng đồng bảo vệ thực ra ít nhạy nhất: softplus/exponential/sigmoid nén lỗi GEMM ~11% xuống còn ~2–5% ở đầu ra.
  • Delta rule không chỉ decay dần lỗi mà mỗi write ghi đè state theo key hiện tại; nhiễu state chết trong hàng trăm đến vài nghìn bước, nhanh hơn nhiều so với chu kỳ decay gate.
  • Cuối cùng, khoảng cách perplexity theo vị trí nhỏ dần khi context dài, phản chứng giả thuyết tích lũy.

Kèm theo là sửa lỗi serving: calibration per-module bị vỡ khi vLLM fuse các projection thành một GEMM; phải hài hòa global scale. KV cache FP8 gần như không đổi task score, chỉ tốn perplexity ở 32K, và calibrated per-layer scales khôi phục 83% với throughput gần như không đổi.

Ví dụ đời thường: giống người ghi sổ theo từ khóa: dù chữ viết hơi lem, mỗi mục mới không chỉ chờ mờ dần mà ghi đè đúng dòng cũ theo từ khóa, nên vết bẩn bị xóa từng phần thay vì lan cả cuốn sổ.

III. Main Results:​

  • Minima đạt trung bình 5-task 85.10, chỉ thấp hơn BF16 0.52 và nằm trong nhiễu seed; AIME’25 khớp BF16 ở 86.7.
  • RULER retrieval ở 32K/64K đạt 100 cho mọi mô hình; GSM8K, MMLU-Pro, GPQA-Diamond, LiveCodeBench không tách biệt theo confidence interval.
  • Hiệu quả phục vụ rõ rệt: 17.53 GiB VRAM/disk, nhỏ hơn BF16 2.9× và nhỏ hơn Unsloth/RadixArk 7–13%; TTFT 32K giảm 6.90s → 4.03s; prefill +14–19% so với các recipe còn giữ GDN/attention ở FP8.
  • Perplexity là dấu vết thật duy nhất: Minima kém BF16 +0.72 ở 4K nhưng chỉ +0.49 ở 32K; Unsloth/RadixArk tốt hơn về PPL vì đơn giản quantize ít hơn và nặng hơn 1.3–2.7 GiB.
  • Mechanism study: lỗi state ở recurrence plateau ~12.6% từ token 256 tới 32,768, không tăng; impulse 1% bị xóa tới 1/e trong 80–1,382 bước và tới 1/10 quanh ~2,200–2,900 bước.
  • Sensitivity replay đảo ngược bản đồ bảo vệ: quantize gate a/b chỉ làm output lệch 2.1%/2.6%, trong khi qkv/z/out gây 9.9–12.7%.
  • Phát hiện serving-stack quan trọng: fused-GEMM lấy max global scale khiến gate bị sai scale, làm AIME giảm 80.8 và giả mạo PPL 32K tốt hơn BF16; sửa bằng cách gấp tỉ lệ vào block scale.
  • FP8 KV cache không làm task score đổi ngoài seed noise, tăng capacity 1.8–1.9×; chi phí PPL 32K +0.41 của Minima giảm còn +0.07 sau calibrated scales, throughput chênh <0.4%.

IV. Conclusion & Future Works:​

Kết luận chính: recurrent half của hybrid LLM là nửa dễ quantize, không phải nửa mong manh. Kiến trúc Gated DeltaNet tự có ba lớp chống nhiễu: block scaling localize outliers, parameterization log-space nén lỗi trước khi chạm control signals, và delta rule ghi đè/erase state error nhanh hơn decay gate. Do đó recipe thực tiễn là quantize everything, ship KV scales, calibration-only PTQ đã đủ cho W4A4 GDN. Hạn chế: bằng chứng mới ở một model family/size, một format NVFP4, perplexity tới 32K và retrieval tới 64K; hành vi 128K+ là suy luận. Decode của Minima thua RadixArk 2–4% do overhead quantize activation ở small batch, là vấn đề kernel. Hướng mở gồm stress test ngữ cảnh rất dài, kiểm tra gate dạng linear-parameterized decay, và mở rộng recipe sang embeddings/lm_head/MTP head hoặc codebook 3-bit cho MLP.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng nghiên cứu cơ chế chống lỗi của linear-attention recurrence sang các dạng gate khác, đặc biệt kiểm chứng khi decay không được parameter hóa trong log-space.
  2. Báo cáo benchmark 128K+ cho hybrid LLM W4A4, kết hợp perplexity theo vị trí, retrieval sâu và hành vi generation dài để kiểm tra giới hạn plateau của state error.
  3. Phát triển hướng dẫn audit serving-stack cho mọi checkpoint hybrid low-bit: phát hiện lệch global scale giữa calibration per-module và fused GEMM, so sánh composite versus text-only serving path, và chuẩn hóa harness cho thinking models.
  4. Nghiên cứu tối ưu kernel small-batch cho NVFP4 W4A4 nhằm gỡ overhead activation quantization ở decode, giữ lợi thế byte nhỏ hơn mà không mất 2–4% throughput.
  5. Khảo sát bảo mật và độ tin cậy của FP8 KV cache có calibrated scales trong serving đa tenant, gồm ảnh hưởng của scale mất/mismatch lên perplexity và retrieval dài.

2. Patent:​

  1. Phương pháp nén mô hình ngôn ngữ lai trên điện thoại: toàn bộ các lớp tính toán chính, kể cả lớp trạng thái lặp, dùng trọng số và activation 4-bit; cache truy xuất dùng 8-bit kèm hệ số chuẩn theo lớp để chạy offline dài hơn mà ít giảm chất lượng trả lời.
  2. Hệ thống phát hiện lỗi scale khi triển khai mô hình đã nén: trước khi phục vụ, kiểm tra các nhóm phép nhân ma trận được gộp có cùng hệ số toàn cục hay không; nếu lệch, tự gấp tỉ lệ vào hệ số nhỏ từng khối để tránh làm sai cổng quên/ghi của lớp trạng thái.
  3. Bộ nhớ cache thông minh cho trợ lý AI trên thiết bị di động: giữ kết quả attention ở 8-bit với thang đo hiệu chuẩn tĩnh, đồng thời theo dõi perplexity theo vị trí để tự động bật lại độ chính xác cao khi câu trả lời dài bất thường.
  4. Công cụ đo độ an toàn quantization cho mô hình suy nghĩ: chạy thử vài đoạn văn dài, tách lỗi theo vị trí, và cảnh báo nếu lỗi tăng cùng vị trí thay vì giảm dần — dấu hiệu pipeline serving hoặc cache đang sai.
  5. Module kiểm chứng câu trả lời trước khi gửi cho người dùng trên điện thoại: phát hiện suy nghĩ bị cắt, câu trả lời rỗng, hoặc định dạng chat bị thiếu để loại kết quả hỏng do lỗi inference thay vì coi là lỗi mô hình.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.04098
ArXiv Abstracthttps://arxiv.org/abs/2609.04098
PDF Downloadhttps://arxiv.org/pdf/2609.04098.pdf
Github RepositoryN/A

9. Puffin-World: Scaling a Unified Multimodal Model with Native 3D World States (65 votes)​

Tác giả: Kang Liao, Yihang Luo, Xiao-Ming Wu, Linyi Jin, Size Wu, et al.

Xuất bản lúc: 2026-09-03

Tag: World Models, Multimodal Models, 3D Generation, Camera Calibration, Diffusion, Spatial Intelligence, Physical AI

I. Main Problem:​

Các mô hình world model và multimodal hiện tại chỉ nắm bắt một phần của bài toán mô phỏng thế giới 3D:

  • Generative world models dự đoán thế giới gần như chỉ ở mức appearance (pixel RGB), không có khái niệm rõ ràng về hướng vật lý tuyệt đối của camera hay hình học cảnh bên dưới.
  • Unified multimodal models kết hợp hiểu và sinh trong một mạng, nhưng chỉ cho ngữ nghĩa 2D, dưới giả định camera đơn giản.
  • Các biểu diễn camera tương đối (như Plücker embeddings) thiếu neo vật lý toàn cục → cùng một quỹ đạo tương đối có thể ứng với nhiều hướng tuyệt đối khác nhau, gây trôi hướng (orientation drift) khi chuyển động phức tạp hoặc dài hạn.
  • Datasets 3D hiện có thiếu đa dạng xoay (roll ±5°, pitch ±10°), hiếm khi cung cấp hướng camera tuyệt đối → thiếu một mô hình thống nhất vật lý - hình học - appearance cho world modeling 3D.

II. Main Idea:​

Puffin-World là kiến trúc multimodal thống nhất, mô hình hóa đồng thời ba trạng thái thế giới tự nhiên (native 3D world states) trong một framework end-to-end, không dùng module ngoài:

  • Physics: trường trọng lực và vĩ độ (latitude) — neo ảnh vào thế giới vật lý tuyệt đối.
  • Geometry: depth map — cấu trúc không gian 3D.
  • Appearance: ảnh RGB — nội dung quan sát được.

Các thành phần kỹ thuật chính:

  • Omni-Camera representation: biểu diễn camera dày đặc theo pixel, ghép kênh giữa trường tuyệt đối gắn với trọng lực (up-vector + góc vĩ độ) và trường tia tương đối (ray origin + direction) → vừa có neo vật lý toàn cục, vừa mô hình hóa không gian liên tục, phục vụ cả tác vụ đơn view lẫn cross-view.
  • Physics Propagation: nhận diện trạng thái tuyệt đối của ảnh tham chiếu, rồi lan truyền hướng trọng lực sang các frame tương lai qua phép xoay tương đối → sinh ảnh ổn định, đúng trọng lực trên quỹ đạo dài và phức tạp.
  • Joint Appearance–Geometry Modeling: depth được mã hóa thành ảnh RGB qua ánh xạ màu nghịch đảo kiểu Hilbert curve, dùng chung VAE với appearance → cùng một lần denoise sinh đồng thời ảnh và depth; dùng asymmetric attention và trọng số ramp để bảo vệ chất lượng ảnh khi kích hoạt nhánh geometry.
  • Unified architecture: một backbone LLM vừa hiểu (autoregressive) vừa sinh (qua learnable queries + connector điều khiển MMDiT); vai trò từng view được điều khiển bằng role mask 4 kênh.
  • Long-horizon exploration: sinh tự hồi quy theo từng chunk, nối các chunk trong latent space (không qua VAE encode-decode lại) để tránh lỗi tích lũy, physics propagation áp dụng xuyên suốt toàn chuỗi.
  • Puffin-16M dataset: 15M triplets vision-language-camera đa tỉ lệ khung hình + 1M quỹ đạo camera với chuyển động xoay thử thách (roll/pitch ±45°, yaw 0–360°, tilt, pan 360°).

Ví dụ đời thường: giống như một người chụp ảnh thành thạo — trước tiên nhìn một bức ảnh là đoán được máy đang cầm nghiêng bao nhiêu độ so với phương thẳng đứng (perception), rồi khi di chuyển camera, người đó giữ nguyên cảm giác trời trên đầu và tưởng tượng cảnh sẽ trông thế nào từ góc mới — chứ không phải mỗi góc chụp lại đoán lại từ đầu một cách rời rạc.

III. Main Results:​

  • Camera-to-world understanding (vật lý perception): đạt state-of-the-art — median error tốt nhất và AUC ▷ 5° tốt nhất trên 4 benchmark công khai (MegaDepth, TartanAir, LaMAR, Stanford2D3D).
  • Free-viewpoint spatial simulation: sinh ảnh điều khiển được bằng camera với phân phối trung thực hơn các generator đa năng mạnh (so với các baseline được trích dẫn).
  • 3D world modeling: sinh cảnh 3D từ text/image với trajectory điều kiện hóa theo action high-DoF, đồng thời reconstruct geometry từng view — thế hệ mô hình tạo sinh duy nhất thực hiện được cả hai trong một quá trình.
  • Closed-loop multi-task synergy: chứng minh được các ứng dụng cần phối hợp nhiều tác vụ như mimic world exploration và self-calibrated world exploration (tự phát hiện và sửa lệch trọng lực qua action dự đoán + ảnh tưởng tượng), mô phỏng paradigm World-Action Models.
  • Open-source: code, model, dataset Puffin-16M được công bố; dùng khả năng hiểu camera tuyệt đối để annotate lại 28 dataset công khai (~44.5 triệu ảnh) với thông tin vật lý camera.

IV. Conclusion & Future Works:​

Puffin-World chứng minh rằng việc đồng mô hình hóa physics - geometry - appearance với camera representation thống nhất (Omni-Camera) và cơ chế physics propagation cho phép một mô hình duy nhất vừa hiểu, vừa sinh, vừa reconstruct thế giới 3D một cách nhất quán về vật lý — vượt qua giới hạn của các world model chỉ dựa trên appearance và camera tương đối. Khả năng closed-loop (mimic, self-calibrated exploration) cho thấy tiềm năng ứng dụng trong virtual reality và embodied intelligence. Hướng mở được gợi ý: tận dụng annotation chiều cao camera (5 mức) trong Puffin-Cam-15M để nâng cao spatial reasoning, và mở rộng mô hình cùng dữ liệu quy mô lớn hơn nữa.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng physics propagation sang môi trường động lực học (vật thể chuyển động, tương tác vật lý) thay vì chỉ camera motion — world model dự đoán cả trạng thái vật lý của các đối tượng theo thời gian.
  2. Kết hợp Puffin-World với embodied agent để thực hiện self-calibrated exploration trong môi trường thật, dùng khả năng phát hiện lệch trọng lực để tự hiệu chỉnh điều hướng không cần cảm biến IMU.
  3. Xây dựng world model có bộ nhớ không gian dài hạn dựa trên cơ chế sliding context window, cho phép khám phá môi trường quy mô lớn (tòa nhà, thành phố) mà không trôi hình học.

2. Patent:​

  1. Ứng dụng điện thoại tự hiệu chỉnh ảnh chụp nghiêng: người dùng chụp ảnh bất kỳ, mô hình trên điện thoại đoán góc roll/pitch và trường nhìn so với phương thẳng đứng, tự xoay và sửa méo hình học ảnh để chân trời nằm ngang mà không cần gyroscope.
  2. Ứng dụng sinh ảnh/quay video thực tế ảo từ một ảnh chụp: người dùng tải một ảnh lên điện thoại, nhập quỹ đạo di chuyển camera (quay trái, nghiêng lên, đi vòng quanh), ứng dụng sinh video tham quan không gian 3D nhất quán, đúng trọng lực — dùng cho bất động sản, du lịch.
  3. Hệ thống camera an ninh tự nhận diện tư thế và góc nhìn: camera lắp lệch hoặc bị xê dịch sau bão được hệ thống tự phát hiện qua ảnh, tự đo lại tham số góc nghiêng so với phương thẳng đứng và cảnh báo/canh chỉnh lại vùng giám sát mà không cần kỹ thuật viên đến hiện trường.
  4. Ứng dụng tạo nội dung 3D cho game/AR trên điện thoại: nhà thiết kế nhập mô tả văn bản + chọn góc camera mong muốn, ứng dụng sinh đồng thời ảnh cảnh và bản đồ depth để dựng mô hình 3D có thể xoay góc nhìn tự do trong ứng dụng thực tế tăng cường.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.04196
ArXiv Abstracthttps://arxiv.org/abs/2609.04196
PDF Downloadhttps://arxiv.org/pdf/2609.04196.pdf
Github RepositoryN/A

10. Scal3R: Learning Efficient Multi-Relative Pose Query for Scalable Online 3D Reconstruction (42 votes)​

Tác giả: Chin-Yang Lin, Yang-Che Sun, Cheng Sun, Fu-En Yang, Min-Hung Chen, et al.

Xuất bản lúc: 2026-09-03

Tag: 3D Reconstruction, Relative Pose Estimation, Prompt Tuning, Pose Graph Optimization, Online Learning, SLAM, Computer Vision

I. Main Problem:​

Các mô hình 3D reconstruction dạng feed-forward (CUT3R, STream3R) suy sụp trên video dài (quãng đường km, hàng nghìn frame). Nguyên nhân gốc:

  • Chúng hồi quy pose tuyệt đối so với frame đầu tiên — khi chuỗi dài, model phải ngoại suy ra tọa độ nằm xa ngoài phân phối huấn luyện (dữ liệu 3D hiện có chỉ phủ cảnh nhỏ).
  • Sai lệch nhỏ ở mỗi frame bị cộng dồn và khuếch đại thành sụp đổ hình học toàn cục.

Phân tích tương quan lỗi cho thấy sự tách rời quan trọng: lỗi pose toàn cục tăng vọt nhưng độ sâu từng frame vẫn ổn định — tức backbone giữ hình học cục bộ tốt, chỉ có global pose head bị hỏng.

II. Main Idea:​

Scal3R chuyển bài toán từ hồi quy pose toàn cục sang truy vấn pose tương đối đa tham chiếu (multi-reference relative pose query) trên backbone đóng băng:

  • Chỉ thêm ~1% tham số dạng learnable tokens; backbone (CUT3R/STream3R) đóng băng hoàn toàn.
  • Mỗi token là một query: tổng hợp từ base query token + camera token của các keyframe quá khứ (qua MLP nhẹ), dự đoán phép biến đổi tương đối giữa frame hiện tại và từng tham chiếu.
  • Asymmetric Attention Injection: pose token chỉ đóng vai trò query, attend vào image token; image token tự self-attention riêng — không làm nhiễu không gian đặc trưng, bảo toàn chất lượng pointmap.
  • Backend Pose Graph Optimization (PGO) online với iSAM2: gom các ràng buộc tương đối thành quỹ đạo nhất quán toàn cục, kèm keyframe selection theo 3D overlap và loop closure (mô tả DINOv2+SALD, FAISS) tích hợp tự nhiên như một reference slot thêm.
  • Số lượng reference có thể mở rộng tự do lúc inference (train K=3, dùng K=12) mà không cần train lại.

Ví dụ đời thường: giống như đi trong thành phố bạn không ghi nhớ vị trí tuyệt đối so với cửa nhà, mà liên tục hỏi "mình đang ở đâu so với mốc gần vừa rồi?" và ghép các câu trả lời cục bộ lại thành bản đồ tổng thể khớp nhau.

III. Main Results:​

  • KITTI (ATE): giảm trung bình hơn 60% so với online baseline mạnh nhất (TTT3R): ~70 so với ~182; riêng Ours (CUT3R) đạt Avg 69.7.
  • Đạt SOTA trên Virtual KITTI, Sintel, TUM-Dynamic, ScanNet và 7-Scenes.
  • Cải thiện rõ rệt nhất trên chuỗi dài hàng km (VD KITTI-02: 139.9 so với 280.8 của TTT3R).
  • Hiệu quả huấn luyện: hội tụ chỉ ~8 giờ trên 1 GPU A100, dùng mẫu 4 view, tránh được sụp đổ geometric prior khi fine-tune toàn bộ tham số.

IV. Conclusion & Future Works:​

Scal3R chứng minh rằng thất bại của reconstruction online dài hạn nằm ở pose head toàn cục chứ không phải hình học cục bộ; chỉ cần prompt tuning ~1% tham số trên backbone đóng băng kết hợp PGO + loop closure là đạt quỹ đạo nhất quán trên chuỗi kilomet. Đây là lần đầu áp dụng prompt tuning cho bài toán relative pose estimation dạng multi-reference query. Hướng tương lai hợp lý: tối ưu chiến lược chọn keyframe/tham chiếu, mở rộng cho luồng video không giới hạn thực tế, và tích hợp sâu hơn với các hệ SLAM học sâu.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng multi-reference relative pose query cho dòng video trực tiếp không giới hạn thời gian, với bộ nhớ tham chiếu có chọn lọc và quên dần theo mức độ quan trọng hình học.
  2. Kết hợp Scal3R với semantic understanding để loop closure dựa trên đối tượng/thay đổi cảnh, thay vì chỉ mô tả scene-level, cho môi trường động có vật di chuyển.
  3. Nghiên cứu cơ chế tự chọn số lượng và vị trí reference token tối ưu theo độ phức tạp hình học của cảnh thay vì dùng K cố định.
  4. Áp dụng asymmetric attention injection cho các bài toán điều kiện hóa khác trên frozen 3D foundation models (ví dụ: điều kiện theo văn bản, theo cảm biến IMU).

2. Patent:​

  1. Ứng dụng quét 3D bằng điện thoại cho công trình dài (hầm, đường hầm, nhà xưởng): camera điện thoại quay video liên tục, hệ thống trên điện thoại hoặc đám mây tính pose tương đối theo các keyframe, ghép qua tối ưu đồ thị để tạo bản đồ 3D kilomet không bị lệch tích lũy.
  2. Hệ hỗ trợ lái xe ghi lại và dựng lại đường đi chính xác: dashcam gửi video về, hệ thống tự động phát hiện khi xe quay lại đoạn đường cũ (loop closure) để hiệu chỉnh toàn bộ lộ trình, dùng cho bản đồ đường nội bộ công trường, mỏ, khu công nghiệp.
  3. Kính thông minh cho người khiếm thị trong không gian lớn: camera trên kính ước lượng chuyển động tương đối theo các mốc đã nhớ, xây bản đồ nội bộ tòa nhà theo thời gian thực mà không cần GPS hay đánh dấu vị trí tuyệt đối.
  4. Robot kiểm kê kho hàng: robot di chuyển quay video qua các lối đi dài, dựng bản đồ 3D kệ hàng nhất quán, tự phát hiện khi quay vòng lại vị trí cũ để sửa sai lệch lộ trình, chỉ cần train nhẹ với ít tham số trên model có sẵn.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.04201
ArXiv Abstracthttps://arxiv.org/abs/2609.04201
PDF Downloadhttps://arxiv.org/pdf/2609.04201.pdf
Github RepositoryN/A

11. Editable Visual Design (38 votes)​

Tác giả: Junyan Ye, Wei Liu, Dongzhi Jiang, Zichen Wen, HaoDong Li, et al.

Xuất bản lúc: 2026-09-03

Tag: Diffusion Models, Coding Agents, Visual Design, HTML/CSS Generation, VLM, Agentic Workflow, Text-to-Image

I. Main Problem:​

Hai hướng tạo thiết kế đồ họa hiện nay đều có điểm yếu nghiêm trọng:

  • Mô hình diffusion sinh ảnh trực tiếp (GPT-Image, Nano-Banana): đẹp về mặt thẩm mỹ nhưng xuất ra bitmap phẳng, chữ sai chính tả, các thành phần dính liền không tách lớp được → không chỉnh sửa cục bộ, không dùng được cho bản giao hàng thực tế.
  • Sinh thiết kế bằng code thuần (Coding Agents viết HTML/CSS): lớp sạch, chữ chính xác, dễ sửa, nhưng thiếu cảm giác thẩm mỹ không gian hai chiều → sản phẩm nhàm chán, mẫu mực kiểu "tiêu đề lớn + card bo góc đổ bóng", và không vẽ được asset phức tạp (nền điện ảnh, minh họa tinh xảo) nên phải dùng khối màu/gradient làm placeholder.

II. Main Idea:​

Đề xuất Editable Visual Design: một paradigm thiết kế do Coding Agent điều phối, chia vai rõ ràng:

  • VLM làm "creative brain" (Codex/GPT-5.6 Sol): hiểu yêu cầu, lập kế hoạch bố cục, viết code, đánh giá kết quả.
  • Mô hình sinh ảnh làm "visual world simulator" (GPT-Image-2): được gọi theo nhu cầu để biến ý tưởng trừu tượng thành hình ảnh cụ thể.

Quy trình vòng lặp "imagine first, then act" gồm 5 bước:

  • Hiểu & lập kế hoạch: đọc brief, gọi simulator tạo imagined visual — bức ảnh mẫu về thành phẩm để làm chuẩn thẩm mỹ (điểm rẻ nhất để người dùng can thiệp).
  • Visual simulation: phân tích ảnh mẫu để rút tông màu, phân bố bố cục, phong cách làm tham chiếu toàn cục.
  • Structural coding: gọi simulator sinh asset riêng lẻ từng lớp (nền không chữ, chủ thể tách nền qua alpha channel hoặc nền xanh lục + matting — không pixel nào của ảnh mẫu đi vào sản phẩm), rồi viết HTML/CSS native với lưới cố định kích thước pixel, mỗi phần tử là một layer riêng.
  • Verification & self-healing: chạy kiểm tra layout tất định trong headless browser (tràn khung, lỗi tài nguyên) + VLM soi ảnh render thật để phản hồi thẩm mỹ, vá cục bộ 1-2 vòng.
  • Delivery & Design Replay: giao artifact DOM với text/asset/nền tách lớp hoàn toàn (kéo thả, sửa trực tiếp, export từng lớp), đồng thời ghi lại toàn bộ quỹ đạch sáng tạo thành Agent Design Replay — quy trình minh bạch, truy vết được như designer thật.

Ví dụ đời thường: giống kiến trúc sư trước khi xây nhà — nhờ họa sĩ vẽ một bức phối cảnh hoàn chỉnh để "nhìn thấy" căn nhà tương lai, rồi tự vẽ bản vẽ kỹ thuật từng phần (móng, tường, mái) theo phối cảnh đó, và đi hiệu chỉnh lại trên bản vẽ chứ không bóc tách từ bức tranh.

III. Main Results:​

  • Vượt trội so sánh trực tiếp cùng một brief: pure diffusion cho bitmap khóa chặt, chữ Hán lỗi; pure code (Codex) để trống lớp, bố cục rối; Editable Visual Design giữ typography sạch như bản in + lớp tách riêng.
  • Thể hiện tốt trên đa dạng kịch bản: poster sự kiện, infographic, marketing, long-text layout — giữ tỉ lệ chữ và lưới ở mật độ cao, tổ chức không gian nhiều lớp hợp lý ở case thị giác.
  • Case study thực (infographic gấu trúc đỏ): agent tự lên kế hoạch, sinh asset, viết code, sửa lỗi bố cục sau render — 120 editable layers trong 13 nhóm; poster du lịch chỉ 6 lớp/1 nhóm, review qua không cần sửa.
  • Artifact giao dưới dạng DOM native: double-click sửa chữ, kéo-giãn asset, export từng lớp, kèm HTML/CSS/SVG, PPTX, PNG, PDF.

IV. Conclusion & Future Works:​

Kết luận: kết hợp VLM hoạch định + mô hình sinh ảnh làm simulator là cách tự nhiên để generation "feed back" vào understanding — lấy priors thẩm mỹ/bố cục từ ảnh trước khi viết code, khắc phục cả hai đầu hụt của hai paradigm cũ. Hạn chế thừa nhận:

  • Hệ thống không tạo năng lực mới — chỉ phân phối việc đúng người; chất lượng bị chặn bởi cả hai model nền (đặc biệt gu thẩm mỹ của image model).
  • Mới chỉ chứng minh trên thiết kế một trang; multi-page (deck, website) đòi hỏi tính nhất quán xuyên suốt — khả năng mở rộng phụ thuộc model nền.
  • Thẩm mỹ và editability khó đo bằng số (không ground truth) nên tác giả báo cáo case study thay vì điểm số, phần chấm thẩm mỹ là phán đoán VLM thay mắt designer. Hướng tương lai gợi mở: tương tác thiết kế tự nhiên hơn như AI điều khiển chuột trên GUI để dựng hình trực tiếp trên canvas.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng paradigm "image-as-simulator, code-as-deliverable" cho thiết kế đa trang (presentation deck, website) với cơ chế giữ nhất quán type scale, palette và visual thread xuyên suốt các trang.
  2. Nghiên cứu phân công lao động tối ưu giữa VLM và generation model: khi nào nên gọi simulator, khi nào nên tự sinh bằng code/SVG, kèm chi phí-chất lượng của từng lựa chọn.
  3. Phát triển metric định lượng cho editability và aesthetics của artifact thiết kế (hiện chỉ đánh giá bằng VLM judgment), kết hợp user study với designer thật.

2. Patent:​

  1. Ứng dụng thiết kế poster/quảng cáo trên điện thoại: người dùng nhập mô tả, agent tạo ảnh mẫu để duyệt trước, sau đó sinh thiết kế dạng lớp tách biệt — người dùng chạm để sửa chữ, kéo thả hình ảnh, đổi màu trực tiếp trên màn hình rồi xuất file in.
  2. Trình tạo infographic tự động cho báo cáo doanh nghiệp: hệ thống đọc dữ liệu, gọi mô hình sinh ảnh lấy phong cách tham chiếu, sinh từng biểu tượng/nền riêng lẻ và dựng trang HTML có thể chỉnh sửa từng thành phần, xuất sang PowerPoint/PDF.
  3. Công cụ thiết kế landing page có chế độ "xem quá trình sáng tạo": hiển thị lại toàn bộ quỹ đạch của agent (từ ý tưởng, ảnh mẫu, sinh asset đến sửa code sau render) dưới dạng timeline cho phép người dùng quay lại bất kỳ bước nào để can thiệp và tái tạo từ đó.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.04034
ArXiv Abstracthttps://arxiv.org/abs/2609.04034
PDF Downloadhttps://arxiv.org/pdf/2609.04034.pdf
Github RepositoryN/A

Tác giả: Yichen Liu, Quanwei Zhang, Haozhe Wang, Donghao Zhou, Xiaojie Li, et al.

Xuất bản lúc: 2026-09-02

Tag: Audio-Video Generation, Diffusion Transformers, Temporal Control, Script-Driven Generation, Multi-Modal Generation, LoRA

I. Main Problem:​

Các mô hình joint audio-video generation hiện tại đã tốt ở chất lượng hình ảnh và độ đồng bộ video–audio, nhưng không kiểm soát được thời điểm chuyển cảnh (shot) và thời điểm thoại (dialogue) theo kịch bản. Nguyên nhân:

  • Các generator hiện tại căn video và audio với nhau trên một trục thời gian chung, nhưng thời gian của từng shot/dialogue trong kịch bản chỉ được mã hóa dưới dạng text, không gắn với tọa độ thời gian của hai modality.
  • Hệ quả: video và audio vẫn khớp nhau, nhưng cả hai cùng lệch timeline kịch bản — cắt cảnh sai giờ, lời thoại nói nhầm lúc, phá vỡ mạch truyện trong sản xuất phim ngắn/quảng cáo.
  • Ba thách thức: shot và dialogue có khoảng thời gian chồng lấn nên phải điều khiển độc lập; cần annotation thời gian tinh mà dữ liệu gốc chỉ có thô; và phải giữ nguyên chất lượng visual + đồng bộ AV của generator gốc.

II. Main Idea:​

Temporal Context Routing (TCR) mở rộng căn chỉnh thời gian từ video–audio sang cả kịch bản có cấu trúc. Cơ chế:

  • Kịch bản gồm các prompt kiểu Reference / Shot / Event (dialogue) / Global, mỗi prompt gắn một khoảng thời gian [s, e]; phần timing này tách khỏi text encoder và đi vào như một kênh phụ.
  • Với mỗi token j, TCR tính routing score dạng Gaussian: B(t) = -β(t − c)² / 2r², với c là tâm, r là bán kính khoảng thời gian (chuẩn hóa theo độ dài) — đạt 0 ở tâm và −β/2 ở biên.
  • Score này được cộng trực tiếp vào logits cross-attention giữa text và video tower, text và audio tower (cả training lẫn inference). Vì exp(S + B) = exp(S)·exp(B), TCR nhân hệ số re-weight lên attention ngữ nghĩa mà không đụng vào text/query/key representation.
  • Thiết kế cộng dồn theo từng prompt cho phép shot và dialogue chồng lấn điều khiển độc lập; không có tham số học mới (chỉ LoRA trên backbone LTX-2.3 22B).
  • Kèm pipeline coarse-to-fine: Gemini gán semantic + timestamp thô → PySceneDetect sửa biên shot → WhisperX căn dialogue theo word-level → làm tròn lưới 0.1s, cho 57,022 clip huấn luyện.

Ví dụ đời thường: giống đạo diễn phim dùng bản kịch bản có ghi giờ cắt cảnh, rồi nhét tờ lịch đó thẳng vào bảng điều khiển — máy quay và micro tự biết lúc nào phải nghe lệnh nào, thay vì để diễn viên tự đoán từ lời thoại đọc lên.

III. Main Results:​

  • End-to-end trên 200 test scripts: so với baseline mạnh nhất (LTX-2.3), Shot Boundary MAE giảm 96% (1.11s → 0.042s), Shot IoU tăng 0.532 → 0.957, shot-count accuracy 36% → 93%, Dialogue Acc@0.5s tăng từ 28.3% → 84.1%.
  • Chất lượng không đánh đổi: IQ cao nhất (0.7032), Sync-C cao nhất (2.78), WER thấp nhất (8.48%) so với mọi baseline.
  • Controlled comparison (cùng backbone, chỉ đổi temporal operator): TCR thắt Gaussian Interval RoPE và hard interval mask trên mọi metric shot timing, MAE giảm hơn 60% (0.042s vs ~0.11s).
  • Ablation: bỏ bước temporal refinement làm MAE tăng 9× (0.042 → 0.375s), Acc@0.5s rơi 84.1% → 37.6% — chứng tỏ pipeline dữ liệu tinh là then chốt.
  • User study (28 người, 16 case): TCR được ưu thích trên cả 5 khía cạnh (shot timing, dialogue timing, script fidelity, AV sync, overall) so với LTX-2.3 và JoyAI-Echo; overall preference 72.3% và 83.9%.

IV. Conclusion & Future Works:​

Căn chỉnh thời gian cần mở rộng ngoài cặp video–audio để bao gồm cả kịch bản có cấu trúc; khi timing của từng prompt trở thành tín hiệu điều khiển显式, script-driven generation mới đúng timeline mà không hy sinh chất lượng hay đồng bộ AV. TCR là bước đầu: nhẹ (không tham số mới), tương thích LoRA, và cần cặp với supervision thời gian tinh. Hướng tương lai: mở rộng sang các loại Event phi-đối thoại (âm thanh môi trường), kiểm soát tinh hơn ở mức sub-shot, và áp dụng TCR cho các backbone joint generator khác.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng Temporal Context Routing cho các event âm thanh phi-đối thoại (SFX, nhạc nền) với khoảng thời gian chồng lấn lên cả shot và dialogue, cho phép mix âm thanh phức tạp từ kịch bản.
  2. Kết hợp TCR với điều khiển sub-shot mức chi tiết (diễn viên, vật thể xuất hiện theo giây) bằng cách routing theo entity thay vì theo prompt.
  3. Phát triển phương pháp tự động dựng dataset kịch bản đã căn thời gian ở quy mô lớn hơn mà không cần detector shot ngoài, dùng chính mô hình sinh để kiểm chéo.

2. Patent:​

  1. Ứng dụng điện thoại tự dựng video quảng cáo/phim ngắn từ kịch bản: người dùng nhập kịch bản có ghi giờ từng cảnh và câu thoại; hệ thống sinh video–thoại trên điện thoại hoặc đám mây với cắt cảnh và lời nói khớp giờ tuyệt đối.
  2. Công cụ làm phim tự động cho creator mạng xã hội: kéo-thả timeline kịch bản, hệ thống dựng clip nhiều cảnh có hội thoại, đảm bảo thoại vẫn trôi mượt qua điểm cắt cảnh như đạo diễn chỉnh tay.
  3. Module chèn quảng cáo động vào video dài: quảng cáo được chèn đúng khoảng thời gian trống trong kịch bản gốc, với tín hiệu routing căn âm thanh quảng cáo vào đúng vị trí timeline không lấn thoại chính.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.02367
ArXiv Abstracthttps://arxiv.org/abs/2609.02367
PDF Downloadhttps://arxiv.org/pdf/2609.02367.pdf
Github RepositoryN/A

13. Beyond Retrieval: Progressive Latent Memory Evolution for Streaming Video Understanding (29 votes)​

Tác giả: Hongyu Qu, Guangming Yao, Ling Xing, Xiaobin Hu, Rongxing Ding, et al.

Xuất bản lúc: 2026-09-03

Tag: Streaming Video Understanding, Video-LLMs, Latent Memory, Memory Retrieval, Test-Time Optimization, REINFORCE, Entropy Optimization, Long-Video Understanding

I. Main Problem:​

Streaming video understanding bắt buộc MLLM phải xử lý video liên tục theo thứ tự nhân quả và giữ ngân sách bộ nhớ cố định. Các phương pháp hiện tại chủ yếu nén lịch sử thành một memory bank ngoài, rồi khi có query mới truy xuất bằng chứng liên quan và đưa trở lại dưới dạng visual evidence biến đổi độ dài. Cách này giải quyết được nên giữ và truy xuất cái gì, nhưng bỏ ngỏ làm sao hóa bằng chứng đã truy xuất thành trạng thái latent nhỏ, query-conditioned, tiếp tục tiến hóa cùng reasoning. Hệ quả là streaming memory và query-conditioned reasoning vẫn lỏng lẻo, tách rời.

II. Main Idea:​

LatentStream chuyển streaming memory từ store-and-retrieve sang retrieve-and-internalize: lịch sử không chỉ được cất rồi lấy ra, mà được hấp thụ dần vào latent memory cố định độ dài để trực tiếp hướng dẫn reasoning.

  • Query-agnostic Hierarchical Streaming Memory (HSM): tổ chức visual history thành short-, mid-, long-term memory dưới ngân sách cố định. Jenks Natural Breaks chia điểm quan trọng theo thời gian thành Drop / Compress / Preserve; quá trình mid-to-long dùng khoảng cách không gian để gộp token trùng lặp hoặc giữ token riêng lẻ.
  • Hierarchical Latent Memory Evolution (HME): tạo các nhóm Latent Memory Tokens (LMTs) với receptive field mở rộng dần: nhóm short chỉ truy cập short-term, nhóm mid truy cập short+mid, nhóm long truy cập toàn bộ memory. Mỗi vòng lặp, LMT dùng cosine similarity chọn Top-K evidence từ phạm vi tương ứng, tiêm evidence vào context, cập nhật latent state, rồi dùng latent state mới để truy xuất vòng sau.
  • Progressive Confidence-guided Latent Memory Optimization (PMO): đo predictive entropy theo từng nhóm LMT và tối ưu REINFORCE bằng nhiễu Gaussian ở test-time. Reward gồm absolute confidence và hierarchical progression (E_s > E_m > E_l), buộc mô hình tự tin hơn khi receptive field mở rộng. Sau vài vòng lặp, evidence ngoài bị gỡ bỏ; câu trả lời chỉ dựa trên memory ngoài, query và latent memory đã tinh chỉnh.

Ví dụ đời thường: giống như xem lại một chuyến đi dài: không ôm cả album ảnh, cũng không chỉ lật qua rồi quên, mà xếp ảnh vào ba hộp theo mức quan trọng, rồi ghi chép ý chính vào một cuốn sổ nhỏ; mỗi lần sổ nhắc thêm chi tiết, mình biết cần mở lại hộp nào để bổ sung cho chính xác.

III. Main Results:​

  • OVO-Bench: LatentStream-7B đạt 64.2%, tăng +10.2% so với Qwen2.5-VL-7B; Real-Time Visual Perception tăng 63.3% → 68.5%, Backward Tracing tăng 44.7% → 60.0%. Bản 3B đạt 59.0%, tăng +6.8%.
  • StreamingBench: đạt 76.9%, tăng +3.0% và vượt các phương pháp training-free so sánh.
  • Offline long-video: VideoMME 66.6% (+3.3), MLVU 74.0% (+6.1), LongVideoBench 62.1% (+1.4); cải thiện nhất quán trên short/medium/long subsets của VideoMME.
  • Ablation: HSM nâng OVO-Bench/VideoMME từ 54.0/63.3 lên 58.1/65.1; thêm PMO đạt 62.4/66.1; đầy đủ HME đạt 64.2/66.6. Evolved LMT vượt cả appended retrieved evidence lẫn initial LMT, chứng tỏ lợi ích đến từ internalization chứ không chỉ thêm context.
  • Hiệu năng: peak memory giảm 30.80 GB → 21.97 GB, TPOT giảm 6.45 ms → 3.16 ms (-51%), TTFT tăng nhẹ 7.63 s → 8.41 s do latent evolution trước sinh câu trả lời.

IV. Conclusion & Future Works:​

Bài báo chứng minh streaming video reasoning có thể đi xa hơn truy xuất ngoài bằng cách duy trì một latent working memory nhỏ, cố định độ dài, query-conditioned và tiếp tục tiến hóa để hướng dẫn cả truy xuất lẫn suy luận. Cách tiếp cận này hiệu quả cho cả online streaming lẫn offline long-video trong ngân sách bộ nhớ chặt. Hướng mở tự nhiên là tinh chỉnh thêm cơ chế hierarchy, reward tiến hóa và đánh đổi latency-accuracy cho triển khai real-time rộng hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng latent working memory cho tác tử video có mục tiêu, nơi bộ nhớ nội tại không chỉ hỗ trợ trả lời mà còn điều khiển policy thu thập hình ảnh tiếp theo.
  2. Kết hợp entropy progression với active query formulation để hệ thống tự quyết định cần truy xuất lịch sử ở độ chi tiết nào trước khi phản hồi người dùng.
  3. Áp dụng retrieve-and-internalize cho embodied agents và robot, biến luồng quan sát liên tục thành trạng thái latent nhỏ phục vụ lập kế hoạch dài hạn.
  4. Nghiên cứu bản nén online của bộ nhớ đa phương thức gồm video, âm thanh và văn bản hội thoại dưới cùng một ngân sách latent cố định.

2. Patent:​

  1. Trợ lý video trên điện thoại khi quay hoặc xem livestream: hệ thống chia luồng hình ảnh thành các tầng trí nhớ, chọn vùng ảnh quan trọng, rồi tinh chỉnh một nhóm vector latent nhỏ để trả lời câu hỏi của người dùng mà không phải nạp lại toàn bộ video.
  2. Kính thông minh hỗ trợ người khiếm thị hoặc người dùng cần ghi nhớ cảnh vật: thiết bị giữ bản tóm tắt thị giác dạng latent liên tục cập nhật, khi người dùng hỏi “vật này xuất hiện lúc nào” thì hệ thống tìm lại đúng khoảnh khắc quan trọng đã nội hóa.
  3. Camera giám sát tiết kiệm bộ nhớ cho nhà kho hoặc cửa hàng: thay vì lưu mọi khung hình, hệ thống gộp khung trùng lặp, giữ chi tiết gần rõ hơn chi tiết xa, và duy trì trạng thái latent để phát hiện sự kiện bất thường theo thời gian thực.
  4. Module xe tự hành hoặc drone ghi nhớ hành trình: dữ liệu cảm biến liên tục được nén thành trí nhớ tầng ngắn-trung-dài và trạng thái latent được tối ưu theo độ tự tin, giúp giảm tải tính toán khi ra quyết định ở thời điểm hiện tại.
  5. Ứng dụng họp hoặc bài giảng dài trên điện thoại: khi người dùng hỏi về một đoạn đã nói trước đó, ứng dụng dùng trí nhớ thị giác-ngôn ngữ dạng latent để lần ngược nội dung liên quan mà không gửi toàn bộ video lên máy chủ.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.04131
ArXiv Abstracthttps://arxiv.org/abs/2609.04131
PDF Downloadhttps://arxiv.org/pdf/2609.04131.pdf
Github RepositoryN/A

14. CORE: Improving Compositional Reasoning in MLLM Embedding via Reranker Distillation (24 votes)​

Tác giả: Tingyu Song, Mingxin Li, Yanzhao Zhang, Dingkun Long, Chu Liu, et al.

Xuất bản lúc: 2026-09-03

Tag: Compositional Reasoning, Multimodal Retrieval, MLLM Embedding, Reranker Distillation, Rank-KL, Contrastive Learning, Vision-Language Models

I. Main Problem:​

Các mô hình embedding đa phương thức dựa trên MLLM vẫn yếu trong truy xuất có tính tổ hợp: chúng thường nhận ra các khái niệm giống nhau nhưng không phân biệt được liên kết thuộc tính–đối tượng khác nhau, ví dụ “đĩa trắng và ghế đen” vs “đĩa đen và ghế trắng”. Hai nguyên nhân chính:

  • Dữ liệu âm tính cũ thô, thường cắt/swap vật thể hoặc sinh ảnh kém chất lượng, tạo negative ít và nông.
  • Contrastive learning coi mọi negative là sai như nhau, không biểu thị mức độ giống có thang bậc từ gần đúng đến hoàn toàn sai. Hệ quả là embedding không giữ được cấu trúc tinh mà cần cho truy xuất fine-grained và multi-condition.

II. Main Idea:​

CORE chuyển khả năng phán đoán tổ hợp từ cross-attentive reranker sang embedding model bằng cách:

  • Xây pipeline tổng hợp dữ liệu có thang chấm điểm 5 mức: L5 Full Match, L4 Partial Presence, L3 Attribute Error, L2 Object Error, L1 Full Mismatch.
  • Từ ảnh seed LAION-400M, dùng Qwen3-VL trích xuất scene representation, sinh query + caption theo schema, rồi dùng Z-Image-Turbo tạo 5 ảnh ứng viên; kiểm chất lượng bằng MLLM và human verification.
  • Fine-tune reranker trên dữ liệu này thành CORE-RERANKER.
  • Distill ranking của reranker vào embedding bằng Rank-KL: teacher và student cùng tạo phân phối xác suất trên danh sách ứng viên, student học sao cho KL divergence nhỏ nhất, sao chép thứ tự L5 > L4 > L3 > L2 > L1 thay vì chỉ biết positive/negative.

Ví dụ đời thường: giống như chấm bài trắc nghiệm không chỉ phân đúng/sai, mà một giám khảo khó tính xếp các đáp án từ “gần đúng”, “lệch một chi tiết”, đến “hoàn toàn lạc đề”; học sinh chỉnh não mình để không còn đối xử mọi lỗi như nhau.

III. Main Results:​

  • CORE-RERANKER-8B đạt 82.7% total average, vượt Jina-Reranker +10.7 điểm; CORE-RERANKER-2B cũng vượt mọi reranker off-the-shelf.
  • CORE-EMBED-8B đạt 0.666 total average, tốt nhất trong các embedding model; hơn backbone VL-EMB-8B +5.7 điểm.
  • So sánh cùng dữ liệu/backbone/budget: Rank-KL là objective duy nhất cải thiện overall macro-average qua backbone; NDCG@10 trên graded dev: Rank-KL 0.850, CoSENT 0.843, CL 0.839, backbone 0.835.
  • Reranker fine-tune thường làm mất nhạy phủ định: Qwen3VL-Reranker-8B chỉ 0.261 trên NEGBENCH, trong khi CORE-RERANKER-8B đạt 0.698.
  • Không đánh đổi retrieval tổng quát: COCO/Flickr30K được giữ hoặc cải thiện; trên MCMR, R@1 tăng 0.375 → 0.412, MRR@10 0.469 → 0.506.
  • Giới hạn: lợi ích embedding còn khiêm tốn hơn reranker, COLA gần như không tăng, graded evaluation vẫn mang tính in-distribution vì cùng pipeline sinh dữ liệu.

IV. Conclusion & Future Works:​

Điểm mấu chốt là cross-attention reranker đã biết phân biệt các mức tổ hợp, nhưng tín hiệu đó bị nén/chệch trong embedding space; Rank-KL chuyển phán đoán mịn đó vào dense representation hiệu quả hơn contrastive learning và pairwise CoSENT. Hướng đi tiếp: thu hẹp khoảng cách reranker–embedding bằng kiến trúc/adapters mạnh hơn, xây graded benchmark độc lập ngoài dữ liệu tự sinh, cải thiện COLA và negation sensitivity, đồng thời mở rộng cho truy xuất phải thỏa nhiều ràng buộc đồng thời.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng CORE sang retrieval nhiều điều kiện đa phương thức, nơi query yêu cầu thỏa đồng thời vật thể, thuộc tính, quan hệ, phủ định và ngữ cảnh ảnh.
  2. Nghiên cứu teacher cho rank distillation: so sánh reranker off-the-shelf, reranker fine-tuned theo level, và ensemble teacher để giữ soft ranking đủ mịn nhưng ổn định.
  3. Xây benchmark graded độc lập bằng ảnh thật và ứng viên do người kiểm chứng, đánh giá thứ tự L1→L5 thay vì chỉ đúng/sai.
  4. Kết hợp rank distillation với Matryoshka Representation Learning để xem nén embedding theo nhiều kích thước có làm mất attribute-object binding hay không.

2. Patent:​

  1. Tìm ảnh trong điện thoại theo mô tả tinh: người dùng nhập “bàn gỗ nâu có cốc trắng bên trái hoa đỏ”; hệ thống xếp ảnh theo mức khớp từng phần thay vì chỉ trả về ảnh có đủ chữ đĩa/bàn/cốc/hoa.
  2. Ứng dụng mua sắm chụp ảnh tìm sản phẩm giống đúng chi tiết: người dùng chụp một phần sản phẩm, điện thoại ưu tiên sản phẩm cùng màu, chất liệu, vị trí chi tiết và loại trừ sản phẩm chỉ giống danh mục chung.
  3. Trợ lý ảnh cho người khiếm thị: camera điện thoại quan sát cảnh, người dùng hỏi “cái màu đỏ ở bên trái phải là quả táo không?”; hệ thống phân biệt trả lời có xác suất dựa trên liên kết thuộc tính–vật thể thay vì nhận diện rời rạc.
  4. Kiểm kê kho bằng ảnh chụp nhanh: nhân viên chụp kệ hàng, hệ thống phân loại lỗi tổ hợp như sai màu, sai vật thể, thiếu vật nhỏ trong nền, hoặc hoàn toàn không liên quan để ưu tiên kiểm tra.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.04083
ArXiv Abstracthttps://arxiv.org/abs/2609.04083
PDF Downloadhttps://arxiv.org/pdf/2609.04083.pdf
Github RepositoryN/A

15. DRACO: Fine-Grained Credit Assignment with Dynamic Rubrics for Long-Horizon Agent Training (23 votes)​

Tác giả: Shubham Gandhi, Saurabh Goyal, Kiran Kate, Yara Rizk

Xuất bản lúc: 2026-09-03

Tag: RLHF, GRPO, LLM Agents, Reinforcement Learning, Tool-Using Agents, Credit Assignment, Reward Modeling, Rubrics

I. Main Problem:​

Huấn luyện agent dài hạn (tens bước gọi tool) bằng reinforcement learning khi không có verifier kiểm tra thành công (outcome-blind): lĩnh vực như hỗ trợ khách hàng, nghiên cứu mở không có oracle lập trình được. Hai khó khăn cộng hưởng:

  • Reward mờ: rubric đa tiêu chí chỉ cho một scalar cho cả trajectory — tín hiệu yếu khi phân bổ đều cho hàng chục bước (trajectory thành công vẫn có bước dư thừa/may mắn, trajectory thất bại vẫn có bước đúng).
  • Credit assignment thiếu outcome: hầu hết phương pháp cũ buộc neo reward vào verifier/gold-answer cuối episode, điều không tồn tại ở setting này.

II. Main Idea:​

DRACO (Distributing Rubric-based Advantage for Credit Optimization) gồm hai thành phần bổ trợ, đều không cần verifier:

  • Dynamic rubric theo từng trajectory: judge đề xuất tiêu chí từ instruction, rồi mở rộng dựa trên mỗi rollout thực tế (sub-goal rollout lộ ra, cách policy thất bại); hợp nhất thành một tập dùng chung cho nhóm, loại trùng lặp, áp discriminative dropout (giữ tiêu chí mà ít nhất một rollout fail). Judge chấm pass/fail/not-applicable kèm bước nào chịu trách nhiệm cho từng tiêu chí.
  • Phân bổ lại advantage theo bước: reward rubric chuẩn hóa (pi − fi)/(pi + fi) đi qua GRPO thành Ai, sau đó DRACO tái phân phối Ai về từng bước theo chất lượng Qj (tỉ lệ pass của tiêu chí trích dẫn bước đó). Công thức closed-form — bước tốt nhận nhiều credit khi trajectory thắng, bước xấu nhận nhiều phạt khi trajectory thua — bảo toàn tổng push và dấu của trajectory, không cần module attribution nào được huấn luyện.

Ví dụ đời thường: giống giáo viên chấm bài thực hành dài bằng checklist được soạn riêng cho từng bài nộp (không checklist chung chung), rồi ghi điểm cộng/trừ cụ thể vào từng thao tác sai trong bài thay vì chỉ ghi một điểm chung cho cả bài.

III. Main Results:​

  • AppWorld TN: +15.9 TGC so với base model (69.4 → 85.3), SGC +29.5; vượt cả baseline GRPO huấn luyện bằng ground-truth reward (+5.3 TGC, +11.3 SGC) dù không dùng verifier nào.
  • AppWorld TC (task khó, app chưa thấy): TGC 49.7 → 61.5; đây là RL training đầu tiên trên AppWorld không chạm unit-test signal.
  • τ-bench zero-shot transfer (không train): SR 15.8 → 20.4, tốt hơn cả training bằng outcome reward; self-judge (policy tự chấm) đạt SR 21.1 — tốt nhất mọi setting — và giảm chi phí judge 5.1× (1607→1607 → 316).
  • Consistency tăng mạnh hơn discovery: p3 TGC +25.2 điểm (vs pass@3 chỉ +3.9) — agent không chỉ giải được mà giải ổn định lặp lại.
  • Rẻ hơn lại chính xác hơn: AppWorld TN 8.27vs8.27 vs 10.77 của base, episode ngắn hơn (18.7 → 14.7 turns).
  • Ablation: dynamic rubric hay step credit riêng lẻ chỉ +~1 TGC; kết hợp cả hai mới cho +4.2/+10.7 — rubric tĩnh quá chung chung không đủ cụ thể để gán credit có nghĩa. Rubric tĩnh bão hòa sớm (~95% pass trong 25 bước), rubric động giữ tín hiệu phân biệt suốt training.

IV. Conclusion & Future Works:​

DRACO chứng minh có thể huấn luyện agent dài hạn chỉ từ tiêu chí quá trình, không verifier, và đạt/ngang hiệu quả training bằng reward thật cùng budget. Thông điệp cốt lõi: credit assignment ở mức bước chỉ hiệu quả khi rubric đủ cụ thể theo từng episode. Hạn chế: không có tín hiệu độc lập kiểm chứng rubric có trung thực không; chưa đo variance từ discriminative dropout phụ thuộc nhóm rollout; self-judge dễ thiên lệch khoan dung hơn là nhiễu. Hướng tương lai: nghiên cứu chất lượng judge cần thiết (vì judge định nghĩa objective chứ không ước lượng nó), và xác thực attribution bằng đánh giá của con người.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Hệ thống hóa DRACO cho môi trường multi-agent hợp tác, nơi rubric động được sinh cho cả nhóm agent và credit phân bổ đồng thời theo vai trò từng agent trong trajectory.
  2. Kết hợp rubric động với hồi quy thứ bậc (hierarchical RL) để rubric được tổ chức thành cây sub-goal, hỗ trợ trajectory hàng trăm bước như deep research agent.
  3. Nghiên cứu tự cải thiện judge: policy yếu dần 'lớn lên' thành judge tin cậy cho chính nó, giảm dần phụ thuộc frontier model qua các giai đoạn curriculum.

2. Patent:​

  1. Trợ lý tự động chăm sóc khách hàng trên điện thoại tự huấn luyện liên tục: sau mỗi phiên hội thoại, hệ thống tự soạn checklist tiêu chí từ nội dung phiên (xác minh danh tính, đúng chính sách hoàn tiền...), tự chấm và gắn nhãn bước sai để cập nhật mô hình mà không cần người đánh giá hay đáp án mẫu.
  2. Ứng dụng gợi ý hành động học từ hành vi người dùng: điện thoại quan sát chuỗi thao tác người dùng hoàn thành một tác vụ, sinh tiêu chí đánh giá từng bước và học để gợi ý đúng bước tiếp theo, thay vì chỉ chấm thành công/thất bại cuối cùng.
  3. Hệ thống coaching nhân viên mới trong công việc nhiều bước (vận hành phần mềm nghiệp vụ): quan sát phiên làm việc, tự tạo rubric động theo từng ca làm việc, chỉ ra chính xác thao tác nào sai và đề xuất sửa, thay vì nhận xét chung chung về kết quả cuối ngày.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.04094
ArXiv Abstracthttps://arxiv.org/abs/2609.04094
PDF Downloadhttps://arxiv.org/pdf/2609.04094.pdf
Github Repositoryhttps://github.com/IBM/draco

16. PACE: Towards Surfacing Hidden Conflicts in User Requests (22 votes)​

Tác giả: Yoojin Kim, Jihyoung Jang, Hyounghun Kim

Xuất bản lúc: 2026-09-03

Tag: Personalized AI Assistants, Conflict Detection, Retrieval-Augmented Generation, Multi-Agent Systems, Knowledge Graph, Benchmark Dataset, Egocentric Knowledge

I. Main Problem:​

Trợ lý cá nhân hiện nay thường thực hiện đúng yêu cầu nhưng chưa đủ khả năng đánh giá yêu cầu đó có thực sự phù hợp với hoàn cảnh người dùng hay không. Vấn đề cốt lõi:

  • Một yêu cầu nhìn bề ngoài hoàn toàn hợp lý, ví dụ đặt bàn ăn tối, nhưng trở nên bất khả thi khi xét thêm lịch bận, dị ứng của bạn đi cùng, điều kiện đường đi hoặc trạng thái hoạt động của địa điểm.
  • Các benchmark an toàn trước đây chủ yếu phát hiện rủi ro hiện rõ trong câu hỏi, trong khi tình huống thật thường yêu cầu suy luận từ dữ kiện ngầm phân tán trong cơ sở tri thức cá nhân.
  • Nếu trợ lý quá cứng nhắc sẽ từ chối cả yêu cầu hợp lý, còn nếu quá vâng lời sẽ thi hành yêu cầu mâu thuẫn.
  • Thách thức nằm ở chỗ bằng chứng quyết định thường không trùng từ khóa với yêu cầu, bị chia thành nhiều sự kiện nhỏ và lẫn trong nhiều dữ kiện gây nhiễu cùng chủ đề.

II. Main Idea:​

Bài báo giới thiệu PACE, một tập dữ liệu nơi mỗi yêu cầu người dùng được ghép với một cơ sở tri thức egocentric gồm người dùng, người liên quan và bối cảnh xung quanh. Mô hình phải quyết định yêu cầu là conflicting hay non-conflicting, thuộc ba dạng chính: Temporal về lịch trình, Personal về sức khỏe/giá trị/quan hệ, và State về điều kiện hiện tại như đường đi, lệnh cấm hoặc sự cố cơ sở vật chất.

Để truy xuất bằng chứng ngầm, tác giả đề xuất PACEMAKER, một khung multi-agent training-free gồm các bước:

  • Conflict-aware query planning: một agent lập kế hoạch bằng cách chỉ ra tối đa ba tín hiệu cần kiểm tra như lịch bận, cam kết trước, nguồn lực; sau đó tạo các dạng truy vấn original và counter để chủ động dò điều kiện có thể gây mâu thuẫn.
  • Hybrid retrieval and fusion: kết hợp truy xuất dense vector và BM25 sparse, dùng Weighted Reciprocal Rank Fusion để ưu tiên kết quả từ các truy vấn counter, rồi qua pre-hop filter chọn hạt giống sạch.
  • Multi-hop graph traversal: mở rộng từ các tài liệu hạt giống trên đồ thị k-nearest neighbor bằng breadth-first search, tìm dữ kiện liên quán gián tiếp.
  • Conflict-aware evidence selection: dùng post-hop filter loại dữ kiện chỉ cùng chủ đề nhưng không quyết định được mâu thuẫn.
  • Answer generation: tổng hợp bằng chứng cuối và đưa ra quyết định kèm lý do.

Cơ chế giống như một trợ lý đặt bàn không chỉ nghe câu “đặt bàn 7 giờ”, mà tự hỏi ngược lại: “có ai bận không?”, “bạn ăn kiêng gì?”, “quán còn mở không?”, rồi mở sổ ghi chép cá nhân, nhảy từ lịch hẹn sang hồ sơ bạn bè, sang menu quán, và chỉ giữ lại vài dòng thật sự khiến cuộc hẹn đó không nên đặt.

III. Main Results:​

  • PACE có 3,249 queries, 185 profiles, tổng 376,448 facts, trung bình 2,035 facts/instance, 18 queries/instance và 4.01 gold facts/query. Nhãn khả thi do LLM tạo ra đạt 93.3% agreement với con người; trình đánh giá tự động đạt 93.5% agreement với Mechanical Turk.
  • Cung cấp toàn bộ cơ sở tri thức chưa lọc, tức Full KB, làm suy luận xuống rõ rệt: Qwen 57.49%, GPT 73.10%, Gemini 73.07% PASS, trong khi Oracle tương ứng đạt 86.89%, 87.13%, 91.26%. Điều này cho thấy chỉ có đủ ngữ cảnh là chưa đủ, mô hình vẫn cần chọn đúng bằng chứng.
  • PACEMAKER vượt sparse/dense retrieval ở cả ba cấu hình về PASS: Qwen 68.82% so với sparse 62.73% và dense 62.39%; GPT 75.35% so với sparse 65.53% và dense 62.63%; Gemini 77.44% so với sparse 67.44% và dense 63.59%.
  • Truy xuất cũng cải thiện mạnh, ví dụ cấu hình GPT đạt Recall@5 36.05% so với sparse 19.77% và dense 14.52%; Hit@10 82.57% so với sparse 62.61% và dense 52.71%.
  • Các truy vấn Conflict khó hơn Non-conflict ở mọi mô hình không phải Oracle. PACEMAKER cải thiện đáng kể nhất trên nhóm Conflict: +11.40 điểm với Qwen, +3.47 điểm với GPT, +4.02 điểm với Gemini so với baseline mạnh nhất cùng cấu hình.
  • Khi thiếu một phần bằng chứng vàng, tỉ lệ PASS trên Conflict vẫn tồn tại nhưng thấp hơn rõ; full coverage bằng chứng cho lợi ích lớn, chứng tỏ truy xuất đủ các sự kiện ngầm là then chốt.
  • Ablation cho thấy loại multi-hop traversal gây sụt lớn nhất, tiếp theo là query planning; so với GraphRAG và HippoRAG 2, PACEMAKER tốt hơn đặc biệt trên Conflict queries, cho thấy vấn đề không chỉ là truy xuất đa bước mà là hướng truy xuất về bằng chứng quyết định.

IV. Conclusion & Future Works:​

Kết quả cho thấy trợ lý cá nhân cần chuyển từ vâng lời mặc định sang suy luận dựa trên bằng chứng cá nhân, và việc truy xuất dữ kiện ngầm vẫn là bài toán mở. PACEMAKER chứng minh rằng lập kế hoạch truy vấn theo hướng mâu thuẫn, duyệt đồ thị đa bước và lọc bằng chứng quyết định có thể cải thiện đáng kể khả năng từ chối hoặc điều chỉnh yêu cầu một cách có căn cứ.

Hướng tương lai:

  • Mở rộng từ feasibility judgment sang tác vụ hoàn chỉnh như gợi ý, lên lịch và lập kế hoạch cá nhân.
  • Làm giàu thế giới persona với thực thể hành động, môi trường động và bối cảnh thay đổi theo thời gian.
  • Huấn luyện chuyên biệt các agent cho query reformulation, evidence selection, graph traversal và decision calibration thay vì chỉ dùng khung training-free.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Benchmark end-to-end cho trợ lý cá nhân vừa phát hiện xung đột ngầm vừa hoàn thành tác vụ downstream như đặt lịch, gợi ý nhà hàng và điều chỉnh kế hoạch khi phát hiện mâu thuẫn.
  2. Phương pháp huấn luyện riêng cho agent lập kế hoạch truy vấn theo giả thuyết mâu thuẫn, học cách sinh câu hỏi phản chứng có tỉ lệ tìm đúng bằng chứng cao hơn khi dùng mô hình ngôn ngữ chung.
  3. Nghiên cứu độ nhạy của quyết định từ chối theo mức đầy đủ bằng chứng: khi nào thiếu một sự kiện ngầm vẫn chấp nhận được, và khi nào thiếu bằng chứng phải dẫn tới hỏi lại người dùng thay vì quyết định.

2. Patent:​

  1. Trợ lý trên điện thoại trước khi đặt bàn, đặt xe hoặc mua vé sẽ tự kiểm tra lịch cá nhân, lịch người đi cùng, sở thích ăn uống, điều kiện đi lại và quy định địa điểm; nếu phát hiện mâu thuẫn, máy đề xuất khung giờ hoặc địa điểm khác thay vì thực hiện ngay.
  2. Hệ thống gợi ý cuộc hẹn trên điện thoại dùng đồ thị quan hệ cá nhân: khi người dùng chọn quán ăn chung với bạn, máy tự lần theo hồ sơ người đi cùng để tìm dị ứng, chế độ ăn, giới hạn thời gian và sở thích môi trường, rồi chỉ đưa ra lựa chọn phù hợp với tất cả mọi người.
  3. Tính năng từ chối có giải thích cho trợ lý di động: khi yêu cầu có vẻ hợp lệ nhưng xung đột với cam kết cũ, điều kiện sức khỏe hoặc trạng thái hiện tại, điện thoại hiển thị đúng dòng hồ sơ cá nhân khiến yêu cầu không nên thực hiện và đề nghị phương án thay thế gần nhất.
  4. Ứng dụng lên kế hoạch du lịch cá nhân hóa trên điện thoại tự dò các ràng buộc ẩn như giờ mở cửa, thời gian di chuyển, giấy tờ cần mang, dị ứng của bạn đồng hành và lịch rehearsal hoặc họp, sau đó cảnh báo trước khi người dùng thanh toán.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.03293
ArXiv Abstracthttps://arxiv.org/abs/2609.03293
PDF Downloadhttps://arxiv.org/pdf/2609.03293.pdf
Github RepositoryN/A

17. Last Translation Benchmark (22 votes)​

Tác giả: Vilém Zouhar, Niyati Bafna, Mukund Choudhary, Maike Züfle, Sara Rajaee, et al.

Xuất bản lúc: 2026-09-03

Tag: Machine Translation, Benchmark, LLM-as-a-Judge, Evaluation, Crowdsourcing, Multilingual NLP

I. Main Problem:​

Đánh giá dịch máy (MT) đang ở trạng thái khủng hoảng khi các mô hình ngày càng mạnh:

  • Benchmark tĩnh gần như bão hòa: không còn phân biệt được các mô hình mạnh, cũng không lộ ra failure mode thật.
  • Metric tự động không đáng tin: BLEU/ChrF lệch khỏi đánh giá con người khi chất lượng cao; metric neural (Comet, MetricX) và LLM-as-a-judge dễ bị reward-hacking, thiên lệch tự thích (self-preference), thiếu khả nghịch.
  • Đánh giá con người tốn kém, không tái lập, thang điểm tùy ý (không có mốc 100% rõ ràng như bài trắc nghiệm). Hệ quả: lĩnh vực không theo dõi được tiến bộ khách quan và không biết mô hình hỏng ở đâu.

II. Main Idea:​

Last Translation Benchmark (LTB) là tập dữ liệu "sống" gồm các ví dụ do con người đóng góp và peer-review, được thiết kế để làm các mô hình SOTA thất bại. Mỗi ví dụ đi kèm verification rules — các luật kiểm chứng viết tay mô tả cụ thể lỗi cần tránh cho ví dụ đó.

Quy trình đóng góp:

  • Người dùng nộp câu đầu vào (text, ảnh, audio, video) + bản dịch tham chiếu của mình.
  • Hệ thống dịch bằng ~10 mô hình SOTA; người đóng góp quan sát lỗi và viết rules kiểm chứng.
  • Chỉ chấp nhận ví dụ đủ khó (≥8/10 mô hình fail ít nhất 1 rule) và hợp lý (bản dịch của con người pass hết rules), rồi qua vòng review bởi người thông thạo cặp ngôn ngữ đó.
  • Một LLM verifier chấm từng bản dịch theo từng rule; pass ví dụ = pass tất cả rules → thang điểm % pass tự nhiên có trần 100%, khả nghịch, có thể phân tích lỗi từng phần.

LTBv1 gồm 3456 ví dụ, 109 ngôn ngữ, 244 người đóng góp từ 166 viện; ~94% là text, mỗi ví dụ ~1.9 rules, chi phí ~$0.12/ví dụ.

Điểm then chốt của thiết kế: rules tạo ra bất đối xứng thông tin giữa người dịch và người chấm — người chấm được "bật đèn" về chỗ dễ sai nên không cần giỏi dịch bằng người dịch vẫn chấm đúng, khắc phục lỗi "LLM chấm LLM sẽ miss đúng lỗi mà LLM dịch mắc phải".

Ví dụ đời thường: giống như kiểm định viên nhà cửa cầm theo một checklist (móng không nứt, ống nước không rò...) — người này không cần giỏi xây nhà bằng kiến trúc sư, chỉ cần soi từng mục trên danh sách là phát hiện được lỗi.

III. Main Results:​

  • Mọi mô hình SOTA đều thất bại nặng: tỉ lệ pass verifier trên LTBv1-eval cao nhất chỉ ~42% (Gemini 3.1 Pro), GPT-5.6 Sol ~32%, các mô hình còn lại hầu hết dưới 20%; Google Translate chỉ ~2-3%. Bản dịch con người đạt ~99-100%.
  • Ví dụ điển hình: câu "The two new nurses share the 100m men's world record" dịch sang Czech — mọi mô hình đều dùng từ "sestra" (y tá nữ) dù ngữ cảnh nói là nam; con người dịch đúng.
  • Cho mô hình xem rules trước khi dịch: pass rate tăng từ 7.2% lên 89.8% — mô hình không thể tự nhận ra thử thách của ví dụ nhưng làm được khi được chỉ rõ.
  • Mô hình tự sinh rules cho mình chỉ cải thiện nhẹ (12.9%) — viết rules cũng khó ngang thực hiện.
  • Đánh giá bằng rules khách quan hơn judge: verifier pass rate ổn định xuyên các LLM chấm (Kendall tau b X-X cao nhất), tương quan tốt hơn với đánh giá con người, đồng ý tốt với chính nó trên mẫu nhỏ; self-bias của LLM judge cao (+4–28%) trong khi verifier gần như trung lập.
  • Thí nghiệm chấm bởi người (cESA, 22 annotator, 317 ví dụ): ranking của con người khớp với verifier, mâu thuẫn với LLM judge và metric — chứng tỏ judge/metric chung không đo được lỗi thật.
  • Taxonomy độ khó được xây dựng cảm tính từ dữ liệu: phổ biến nhất là polysemy, metaphor, cultural knowledge, language-variant; xuất hiện các loại ít được benchmark như meta-reasoning, internet cultural artifact, thách thức ngữ âm.

IV. Conclusion & Future Works:​

LTB chứng minh rằng MT vẫn còn xa "human parity": các mô hình mạnh nhất fail ~60% ví dụ khó, và quan trọng hơn, cách đánh giá mới bằng verification rules cho phép chấm điểm khả nghịch, giải thích được, ít bị hack, căn chỉnh với người — trong khi judge/metric hiện tại cho điểm ảo tốt cho bản dịch sai nghiêm trọng.

Hướng tương lai (ngụ ý từ thiết kế):

  • Là live dataset: nhận đóng góp liên tục, release định kỳ (LTBv2+), cập nhật danh sách mô hình để tránh contamination.
  • Bảng xếp hạng công khai ở 2 chế độ "blind" (chỉ thấy input) và "oracle" (xem cả rules/bản dịch đúng) để tách năng lực dịch thật khỏi khả năng lợi dụng gợi ý.
  • Khuyến nghị dùng verifier mã nguồn mở (Gemma 4) cho khả năng tái lập tối đa.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng verification rules sang các tác vụ NLP mở khác (tóm tắt, hội thoại, viết sáng tạo): mỗi input khó kèm checklist lỗi cụ thể, biến đánh giá chất lượng mở thành bài toán kiểm chứng có trần 100%.
  2. Huấn luyện mô hình dịch tự phát hiện điểm khó của câu đầu vào (tự sinh rules trước khi dịch) để thu hẹp khoảng cách blind vs. oracle — tức dạy mô hình "biết mình không biết gì" về thử thách ẩn.
  3. Tự động mở rộng cặp ngôn ngữ ít tài nguyên bằng cách suy diễn ví dụ khó từ ngôn ngữ giàu tài nguyên sang ngôn ngữ nghèo, kiểm chứng qua pivot translation + verifier.
  4. Nghiên cứu taxonomy độ khó dịch thuật làm tín hiệu curriculum learning: huấn luyện theo thứ tự từ polysemy/cultural knowledge đến meta-reasoning/wordplay.

2. Patent:​

  1. Ứng dụng dịch thuật trên điện thoại có chế độ "kiểm lỗi theo checklist": người dùng nhập câu văn có yếu tố nhạy cảm (giới tính, thành ngữ, phương ngữ địa phương); ứng dụng tự sinh các rules kiểm chứng (vd. "từ chỉ nghề phải giữ đúng giới tính ngữ cảnh") rồi chạy verifier kiểm tra bản dịch của từng mô hình, chỉ trả về bản pass hết và giải thích lỗi cụ thể.
  2. Hệ thống gợi ý bản dịch hai lượt cho du khách: lượt một dịch bình thường, lượt hai mô hình tự đặt câu hỏi "câu này có thể sai ở đâu?" (tự sinh rules) rồi dịch lại — hiển thị độ tin cậy từng phần trên màn hình điện thoại.
  3. Nền tảng kiểm chứng bản dịch tài liệu pháp lý/y tế trên điện thoại: chuyên gia định nghĩa sẵn rules cho từng loại tài liệu; ứng dụng quét bản dịch từ bất kỳ dịch vụ nào và cảnh báo từng lỗi cụ thể thay vì chỉ cho một điểm chất lượng mơ hồ.
  4. API đánh giá dịch thuật cho doanh nghiệp: khách hàng nộp câu + bản dịch, hệ thống trả về danh sách rules bị vi phạm kèm vị trí lỗi — giảm chi phí thuê biên dịch viên rà soát toàn bộ văn bản.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.04173
ArXiv Abstracthttps://arxiv.org/abs/2609.04173
PDF Downloadhttps://arxiv.org/pdf/2609.04173.pdf
Github Repositoryhttps://github.com/zouharvi/last-translation-benchmark

18. RealSWE: A Compositional Evaluation of Coding Agents under Realistic User Requests (22 votes)​

Tác giả: Gyuhyeong Kim, Hyojung Gwon, Jeonghyeon Kim, Kyuhong Shim, Sunjae Lee

Xuất bản lúc: 2026-08-31

Tag: Coding Agents, LLM Evaluation, SWE-Bench, Benchmark Realism, Software Engineering

I. Main Problem:​

Các benchmark chuẩn cho coding agent như SWE-Bench (Verified/Pro) dùng issue GitHub đã được trau chuốt — dài, trang trọng, giàu thông tin — trong khi yêu cầu thực tế của người dùng ngắn gọn, thiếu thông tin, văng vãi (casual). Kết quả:

  • 88% prompt thật chỉ chứa Problem Statement (kèm ít context), nhưng chỉ 7% bài trong SWE-Bench thuộc dạng này
  • 87% prompt thật viết casual trong khi 94% bài benchmark viết formal
  • Điều này khiến điểm leaderboard ước lượng lạc quan hiệu năng coding agent ngoài đời thực, và các benchmark "realistic" trước đây (như CursorBench) đóng mã nguồn hoặc biến đổi task mà không kiểm soát được nguyên nhân gây giảm hiệu năng.

II. Main Idea:​

Định khung yêu cầu lập trình theo 2 trục: tổng hợp thông tin (taxonomy 6 loại: Problem Statement [P], Desired Behavior [D], Reproduction Steps [R], Environment [E], Motivation [M], Additional Info [A]) và phong cách ngôn ngữ (formal/casual, kiểu câu...). Dựa trên phân tích 718 prompt thật từ SWE-CHAT so với SWE-Bench, xây RealSWE: 381 task family đa biến thể, trong đó cùng một task và gold patch được biểu diễn dưới nhiều tổ hợp thông tin/phong cách khác nhau (qua pipeline LLM: phân loại task → tách thông tin → viết lại theo văn phong người dùng). Phát hành dưới 2 dạng: RealSWE-Bench (bộ cố định phân phối khớp dữ liệu thật) và RealSWE-Framework (cấu hình tùy ý để làm ablation từng trường thông tin).

Ví dụ đời thường: giống như giao cùng một việc sửa xe cho thợ, nhưng thử từng cách nói — "xe bị sao đó, anh xem lại" hay "phanh kêu, em muốn thay má phanh" — để xem câu nói nào giúp thợ sửa đúng nhất.

III. Main Results:​

  • Khoảng cách benchmark–thực tế: 7/7 model sụt trung bình 6.4 điểm phần trăm (pp) trên RealSWE-Bench (từ -4.0 của MiniMax M3 đến -8.0 của DeepSeek V4 Pro); chi phí và số bước agent lại tăng nhẹ (~6.2% và ~1.8%) vì phải tự khám phá thông tin còn thiếu.
  • Thứ hạng model thay đổi: MiMo V2.5 Pro vượt Qwen3.7 Plus và DeepSeek V4 Flash (từ hạng 4 lên hạng 2) dù rẻ ~2.5 lần — leaderboard gốc sẽ dẫn người dùng chọn model đắt hơn mà không tốt hơn.
  • Giá trị thông tin cực không đồng đều: với bug fix, bỏ Desired Behavior [D] gây sụt 7.1–8.9 pp (có ý nghĩa thống kê cho cả 4 model), trong khi bỏ Reproduction Steps, Environment Info, Additional Info hầu như không ảnh hưởng (chỉ ~1.8 pp); với feature request, Motivation [M] là trường duy nhất có giá trị (+3.4 pp trung bình, lên tới +7.1 pp).
  • Phong cách ngôn ngữ (formal ↔ casual) gần như không ảnh hưởng hiệu năng (không contrast nào có ý nghĩa, p≥0.35) — quan trọng là nội dung gì, không phải cách diễn đạt.
  • Bug fix sụt nhiều hơn feature request (9.1 pp vs 3.7 pp); [PD] thắng [PA] ở mọi model 3.8–6.1 pp.

IV. Conclusion & Future Works:​

RealSWE cho thấy thứ người dùng cung cấp ([P]/[PA] ngắn gọn) và thứ agent cần (Desired Behavior, Motivation) lệch nhau lớn: chỉ 5% prompt thật nêu Desired Behavior dù nó tăng tới +8–9 pp. Gợi ý thực tiễn: người dùng nên nêu hành vi mong muốn khi báo bug và động cơ khi xin tính năng; giao diện agent nên chủ động hỏi làm rõ hoặc tự suy luận thông tin còn thiếu từ repo trước khi code. Hạn chế: chưa đánh giá các model frontier mạnh nhất (GPT-5.6, Opus 5, Kimi K3); đánh giá single-turn nên chưa phản ánh hội thoại làm rõ đa lượt. Hướng tương lai: mở rộng đánh giá sang bối cảnh hội thoại có kiểm soát, ưu tiên thông tin cần hỏi trong các lượt tương tác.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng RealSWE thành đánh giá multi-turn có kiểm soát: agent được phép hỏi làm rõ, và đo xem chiến lược hỏi tập trung vào Desired Behavior/Motivation có thu hẹp khoảng cách benchmark–thực tế hay không.
  2. Nghiên cứu agent tự suy luận thông tin còn thiếu từ repository và lịch sử thay đổi (thay vì hỏi người dùng), kiểm chứng trên các variant [P]/[PA] của RealSWE-Framework.
  3. Đánh giá các mô hình frontier (GPT-5.6, Opus 5, Kimi K3) trên RealSWE để kiểm tra tính tổng quát của hiệu ứng Desired Behavior/Motivation ở tầng mô hình mạnh nhất.

2. Patent:​

  1. Trợ lý lập trình trên điện thoại tự hỏi làm rõ: khi người dùng nhắn ngắn kiểu "app bị crash, sửa đi", ứng dụng tự sinh 1–2 câu hỏi định hướng ("anh muốn khi đó app hiển thị gì?") rồi mới gọi model sửa code — nâng tỉ lệ sửa đúng ngay lần đầu.
  2. Hệ thống tự động bổ sung thông tin còn thiếu cho yêu cầu sửa lỗi: phân tích prompt người dùng, suy luận Desired Behavior từ mã nguồn và test hiện có, rồi ghép lại thành task hoàn chỉnh trước khi giao cho agent.
  3. Trình soạn yêu cầu thông minh tích hợp trong IDE/IDE di động: khi người dùng viết ticket, gợi ý tự động chèn mục "hành vi mong muốn" hoặc "lý do cần tính năng" dựa trên ngữ cảnh code, đo lường mức tăng tỉ lệ giải quyết thành công.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.27831
ArXiv Abstracthttps://arxiv.org/abs/2608.27831
PDF Downloadhttps://arxiv.org/pdf/2608.27831.pdf
Github Repositoryhttps://github.com/gyuhyeong-x/RealSWE

19. WorldReward: Reward Modeling for Camera-Conditioned World Models (21 votes)​

Tác giả: Yibin Wang, Zehan Wang, Junshu Tang, Zhimin Li, Yujie Zhou, et al.

Xuất bản lúc: 2026-09-03

Tag: World Models, Reward Modeling, Vision-Language Model, Video Generation, Reinforcement Learning, Preference Learning, Camera Control

I. Main Problem:​

Các world model điều kiện hóa theo camera sinh video tương tác nơi hành động được lệnh phải gây ra thay đổi cảnh đúng như mong đợi, đồng thời giữ nguyên hình thái, hình học và động lực học thời gian. Việc chấm điểm (reward) gặp ba thách thức:

  • Yêu cầu liên kết: cùng một thay đổi hình ảnh có thể đúng hoặc sai tùy hành động được lệnh → tính nhất quán hành động và chất lượng hình ảnh phải được phán xét từ một cách diễn giải chung của video.
  • Bằng chứng cục bộ: lệnh tiến hoặc xoay chỉ hiện trong vài frame của chuỗi dài, dễ bị nhấn chìm trong toàn bộ video.
  • Quy kết dài hạn: lỗi tích lũy theo thời gian, cần quy về đúng đoạn hành động gây ra.

Các reward hiện có đều thiếu sót: reward hình học (DepthAnything3) đo quỹ đạo nhưng bỏ qua chất lượng hình ảnh; reward dựa ảnh (HPSv3) chấm từng frame riêng lẻ, bỏ sót nhấp nháy và gián đoạn chuyển động; WorldCompass ghép hai hệ thống dị biệt; còn cho VLM chấm trực tiếp cả video dài tạo context dài và nhiễu, làm bằng chứng cục bộ bị pha loãng.

II. Main Idea:​

WorldReward là reward model dạng so sánh cặp (pairwise preference) dựa trên VLM, thống nhất đánh giá action-consistency và visual-quality cho world model điều kiện hóa theo camera, theo nguyên tắc local-to-global:

  • Chia chunk: cặp video dài được cắt thành các đoạn căn theo hành động, mỗi chunk chứa 4 hành động liên tiếp cùng frame tương ứng từ cả hai video.
  • Bằng chứng trực quan có cấu trúc: mỗi chunk là một input 6 ảnh gồm ảnh nguồn (neo danh tính cảnh), frame-grid (frame đầu/giữa/cuối mỗi hành động) và các action-level panel so khung đầu-cuối từng hành động → VLM kiểm tra từng hành động theo hướng được lệnh (tiến → vật phóng to; ngước lên → cảnh dịch xuống) đồng thời phán xét độ mượt thời gian, độ chân thực 3D và artifact.
  • Bỏ phiếu tổng hợp: quyết định từng chunk (A/B/Tie) được vote thành preference video-level riêng cho action và visual-quality, tránh một đoạn quá mạnh/yếu lấn át cả video.
  • Dữ liệu huấn luyện: pipeline ba tầng — reasoning chunk-level distilled từ Gemini 3.1 Pro → audit nhiều vòng bằng agent GPT-5.5 dùng tool đọc ảnh (agent sửa 42.1% số mẫu) → hiệu chỉnh có chọn lọc bởi người (xác nhận 87% sửa đổi của agent).
  • Ứng dụng RL: reward đóng vai trò tín hiệu cho clip-level RL (DiffusionNFT/Pref-GRPO) post-training HY-WorldPlay 1.5, với hai win-rate chuẩn hóa cộng gộp bằng hệ số λ.

Ví dụ đời thường: giống giám khảo phim không xem trọn một cuốn phim dài rồi chấm đại, mà cắt từng đoạn ngắn, so từng cảnh quay với kịch bản xem có đúng yêu cầu đạo diễn và quay có đẹp không, rồi gộp điểm từng đoạn lại thành kết luận chung.

III. Main Results:​

  • Trên WorldReward-Bench (760 cặp video gán nhãn người, bao phủ nhiều nhóm quỹ đạo, phong cách visual và world model), WorldReward đạt agreement cao nhất cả ba chiều, vượt GPT-5.5 lần lượt +3.42 (action), +1.45 (appearance), +3.56 (motion) điểm phần trăm, dù supervision ban đầu được distill từ chính các VLM đó.
  • Vượt cả các preference model visual (HPSv3) và bộ ước lượng quỹ đạo hình học (DepthAnything3).
  • Ablation: bỏ ảnh nguồn, frame-grid hoặc action panel đều làm giảm agreement; supervision có reasoning cấu trúc cải thiện thêm; agent auditing là nguồn lợi chính so với distill thuần, hiệu chỉnh người cộng thêm cải thiện.
  • Khi làm reward cho RL post-training HY-WorldPlay 1.5, cải thiện đồng thời action execution và visual quality trên mọi horizon ngắn đến dài, tốt hơn base model và WorldCompass; kết quả được GPT-5.5 và đánh giá người xác nhận theo cùng protocol so sánh cặp.

IV. Conclusion & Future Works:​

WorldReward chứng minh một VLM judge duy nhất có thể rút ra đồng thời preference về hành động và chất lượng hình ảnh từ cùng bằng chứng trực quan căn theo hành động, thay vì ghép các hệ reward dị biệt. Điểm then chốt là thiết kế chunk local-to-global giúp phát hiện lỗi cục bộ ngắn hạn mà chấm toàn video sẽ bỏ sót, cùng pipeline dữ liệu distill → agent audit → hiệu chỉnh người là nguồn lợi chính vượt cả teacher VLM. Hướng mở theo gợi ý của nhánh liên quan: mở rộng sang world model embodied/task-oriented (ngoài camera-conditioned), chống reward hacking bằng reward dạng agentic, và tinh chỉnh chiến lược thăm dò trong audit.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng phương pháp chunk-level reasoning cho reward model của world model embodied có tác vụ (robot navigation, thao tác vật thể), nơi cần đánh giá thêm hoàn thành tác vụ và tính hợp lý của cơ thể, không chỉ điều khiển camera.
  2. Kết hợp WorldReward với agentic reward chống reward hacking: tác tử chủ động lật tẩy các chiến lược gian lận reward (ví dụ chuyển động giả tạo vẫn thắng vote) bằng cách thẩm tra chéo các chunk bị nghi ngờ.
  3. Nghiên cứu tối ưu số lượng/kích thước chunk và chiến lược vote (trọng số theo độ dài, attention) cho video horizon rất dài (hàng phút) trong môi trường interactive real-time.
  4. Ứng dụng reward dạng pairwise VLM cho post-training các video generator đa phương thức ngoài camera (điều khiển bằng văn bản, sự kiện) với cùng nguyên tắc bằng chứng cục bộ căn theo điều kiện.

2. Patent:​

  1. Hệ thống chấm điểm video tự động cho dịch vụ tạo video trên điện thoại: khi người dùng ra lệnh quay/xoay camera trong video 3D, ứng dụng cắt video thành từng đoạn 4 hành động, đưa ảnh nguồn + lưới frame + ảnh đầu-cuối từng hành động lên mô hình ngôn ngữ-thị giác để chấm từng đoạn rồi bỏ phiếu, báo cáo video nào thực hiện lệnh tốt và đẹp hơn.
  2. Trợ lý chỉnh sửa video thông minh: người dùng chọn hai bản video sinh từ cùng một ảnh gốc; ứng dụng chỉ ra từng đoạn hành động nào bị lệch lệnh hoặc có lỗi nhấp nháy/nhảy cảnh (kèm giải thích bằng lời), giúp người dùng chọn bản và hiểu lỗi thay vì chỉ thấy một con điểm chung.
  3. Cơ chế kiểm soát chất lượng nội bộ cho nền tảng game/open-world tạo cảnh bằng AI: trước khi phát hành bản cập nhật, hệ thống sinh video gameplay từ nhiều mô hình, dùng reward model so sánh cặp từng đoạn hành động để tự động phát hiện hồi quy (ví dụ lệnh rẽ trái nhưng cảnh đi sang phải, hay cảnh bị biến màu theo thời gian).
  4. Dịch vụ tinh chỉnh model tạo video theo cử chỉ người dùng: tập hợp cặp video do các model khác nhau tạo cùng điều kiện, dùng agent tự động thẩm định từng đoạn kèm rà soát của người vận hành để xây bộ dữ liệu preference, rồi huấn luyện lại model để cải thiện cả độ trung thành lệnh điều khiển và chất lượng hình ảnh.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.03952
ArXiv Abstracthttps://arxiv.org/abs/2609.03952
PDF Downloadhttps://arxiv.org/pdf/2609.03952.pdf
Github RepositoryN/A

20. FlashRender: Few-Step Generative Rendering via Camera-Controlled Video MeanFlow (18 votes)​

Tác giả: Byeongjun Park, Byung-Hoon Kim, Hyungjin Chung

Xuất bản lúc: 2026-09-03

Tag: Diffusion, Video Generation, Novel View Synthesis, MeanFlow, Distillation, Camera Control, Generative Rendering

I. Main Problem:​

Generative rendering (quay lại video dọc theo một quỹ đạo camera mới) hiện tại phụ thuộc vào mô hình multi-step nhiều bước lấy mẫu, khiến suy luận rất tốn kém và chậm. Thu gọn về vài bước lấy mẫu (few-step) gặp lỗi lượng tử hóa (discretization error). Tác giả chỉ ra một hiện tượng tiêu biểu: camera control phụ thuộc vào số bước lấy mẫu — cùng một quỹ đạo camera mục tiêu nhưng đổi số step thì camera thực tế trong video sinh ra bị lệch (đổi tỉ lệ cảnh, vật thể mất vị trí không gian). Điều này khiến việc cất lượt (distill) xuống vài bước trở nên rất khó, vì quỹ đạo khử nhiễu quá cong và tương ứng token giữa video sạch và video nhiễu thay đổi theo từng timestep.

II. Main Idea:​

FlashRender giải quyết bằng pipeline huấn luyện 3 giai đoạn bổ trợ lẫn nhau:

  • Stage 1 — RETA (Representation Transformation and Alignment): căn chỉnh biểu diễn ẩn của video nguồn với đặc trưng view mục tiêu từ một encoder hình học VGGT đóng băng, kèm mã hóa pose tương đối từng frame (source-to-target). Nhờ đó phép biến đổi hình học được nội tại hóa ngay trong luồng video nguồn, camera control trở nên nhất quán ở mọi số bước lấy mẫu, và độ cong quỹ đạo khử nhiễu giảm mạnh.
  • Stage 2 — MeanFlow training: fine-tune trên quỹ đạo ít cong hơn này để học trường vận tốc trung bình — đường tắt qua quỹ đạo khử nhiễu, giảm trực tiếp lỗi lượng tử hóa khi chỉ dùng vài bước.
  • Stage 3 — On-policy flow map distillation: mô hình MeanFlow tự sinh rollout theo đúng lịch 4 bước như lúc suy luận, rồi tối ưu trên chính mẫu của mình (kèm mục tiêu DMD và adversarial theo DMD2) để sửa self-rollout error do lệch train/inference.

Kết quả: render lại video dọc theo camera mới chỉ với 4 NFE (~0.2 phút) thay vì 2×50 NFE (~6.5 phút), tức rẻ hơn ~25 lần.

Ví dụ đời thường: giống khi phải tô lại một bức tranh theo góc nhìn mới — thay vì mỗi lần cầm cọ lại tự mò lại phối cảnh từ đầu (mỗi bước vẽ lệch một chút), người thợ trước hết dựng một khung phác thảo đúng phối cảnh đích rồi cứ thế tô nhanh qua vài nét lớn, cuối cùng tự soi lại sản phẩm của chính mình để chỉnh nốt chi tiết sai.

III. Main Results:​

  • DAVIS benchmark (500 case): FlashRender với 4-NFE, runtime 0.2 phút, bằng hoặc vượt các baseline multi-step 2×50-NFE (6.5 phút) về chất lượng video và độ nhất quán hình học, đồng thời camera controllability tốt hơn rõ rệt: TransErr 0.0122 và RotErr 1.236 so với 0.0143/1.486 của FlashRender-MS và 0.0158/1.528 của GeoAlign-FS.
  • So với few-step baselines (NeoVerse, ReDirector-FS, GeoAlign-FS — cùng áp dụng framework distill của tác giả): FlashRender thắng gần như mọi chỉ số; baseline distill thiếu RETA không khắc phục được lỗi lượng tử hóa.
  • Ablation: bỏ RETA, bỏ MeanFlow (stage 2), hoặc bỏ distillation (stage 3) đều làm kết quả giảm; pipeline distill của họ vượt DMD2 và DFD thuần; RETA tốt hơn hẳn biến thể VideoREPA.
  • DyCheck (OOD camera): FlashRender vượt cả baseline multi-step về visual quality (Aesthetic 0.4454) và geometric consistency (Dyn-MEt3R 0.8424), chỉ thua nhẹ về fidelity do lệch tỉ lệ cảnh với ground truth.

IV. Conclusion & Future Works:​

Bài báo chứng minh camera control phụ thuộc số bước lấy mẫu là một biểu hiện chính của lỗi lượng tử hóa trong generative rendering, và việc loại bỏ bất nhất này qua RETA làm quỹ đạo khử nhiễu phẳng hơn, tạo nền tảng lý tưởng cho step distillation. Ba thành phần RETA (ổn định camera), MeanFlow (rút ngắn quỹ đạo), on-policy distillation (sửa lỗi rollout) đóng vai trò bổ trợ, cho phép render video theo camera mới trong vài giây với chất lượng ngang multi-step và khả năng khái quát tốt ra ngoài phân phối huấn luyện. Tác giả không nêu hướng nghiên cứu tiếp theo cụ thể.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng RETA sang bài toán chỉnh sửa video theo thời gian (video re-timing/editing) với điều khiển camera, để một lần huấn luyện đồng thời đổi góc quay và tốc độ diễn biến cảnh.
  2. Áp dụng khung ba giai đoạn RETA + MeanFlow + on-policy distillation cho text-to-video với điều khiển camera 3D nhằm tạo ảnh động điện ảnh chỉ trong một bước lấy mẫu.
  3. Kết hợp mô hình few-step kiểu FlashRender với ước lượng độ sâu và tái dựng cảnh tức thời để xử lý ổn định hóa video rung trên thiết bị biên (smartphone) trong thời gian thực.

2. Patent:​

  1. Tính năng 'quay lại cảnh' trên điện thoại: người dùng quay một video, sau đó kéo thanh điều khiển để chọn quỹ đạo camera mới (xoay quanh vật thể, zoom out, bay lên); ứng dụng sinh lại video từ góc đó trong vài giây ngay trên máy hoặc đám mây.
  2. Ứng dụng ổn định hóa và đổi góc quay cho video quay vội: biến đoạn quay rung, lệch góc thành phiên bản mượt với camera chuyển động chuẩn theo quỹ đạo người dùng chọn, hữu ích cho vlog và quay phim tự do.
  3. Công cụ dựng phòng thu ảo cho sản xuất video quảng cáo: chỉ cần một lần quay sản phẩm, đạo diễn có thể tạo vô số góc máy khác nhau (fly-through, xoay 360 độ) mà không cần quay lại, giảm chi phí set quay vật lý.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.03563
ArXiv Abstracthttps://arxiv.org/abs/2609.03563
PDF Downloadhttps://arxiv.org/pdf/2609.03563.pdf
Github Repositoryhttps://github.com/byeongjun-park/FlashRender

21. Using Grounded Theory for Agent Behavior Analysis at Scale (18 votes)​

Tác giả: Zhuoran Lu, Yangyang Yu, Zhuoyan Li, Yibo Meng, Nan Jiang, et al.

Xuất bản lúc: 2026-08-31

Tag: LLM Agents, Agent Behavior Analysis, Grounded Theory, Qualitative Coding, Multi-Agent Pipeline, Failure Prediction, Taxonomy Induction

I. Main Problem:​

Phân tích hành vi agent hiện rơi vào hai cực không vừa quy mô vừa giải thích được:

  • metadata định lượng như số bước, số lần retry, exit status rất dễ thu thập nhưng gần như "mù quá trình": biết agent thất bại, không biết vì sao.
  • phân tích thủ công giải thích tốt nhưng đắt đỏ với trajectory dài hàng trăm bước, khó mở rộng lên hàng nghìn ca.
  • taxonomy/classifier có sẵn do chuyên gia định nghĩa trước thì cứng nhắc, kém khái quát sang tác vụ mới và bỏ sót hành vi mới nổi.

Vấn đề cốt lõi: cần một phương pháp vừa scale đến hàng nghìn trajectory, vừa giữ được audit trail từ dữ liệu thô đến lý thuyết hành vi, thay vì dừng sau số vòng lặp cố định.

II. Main Idea:​

AutoTraceGT đưa Grounded Theory từ khoa học xã hội vào ML thành pipeline multi-agent tự động hóa ba tầng coding:

  • OpenCode: đọc từng trajectory theo chunk, gắn mã hành vi dạng (code, span, quote) — ví dụ tóm tắt 2-5 từ, đoạn bước liên quan, trích dẫn bằng chứng.
  • AxialCode: gom mã của một batch thành categories và quan hệ có kiểu, kèm memo và nhãn liên quan tới thành công/thất bại.
  • Manage: giữ codebook phiên bản hóa với revision log append-only; mỗi vòng chọn hành động như add/merge/split/flag cho category và confirm/extend/add/contradict cho relation. Thuật toán dừng theo theoretical saturation: khi số category mới a_t < epsilon trong W vòng liên tiếp.
  • TheoreticalCode: sau khi codebook bão hòa, chỉ dùng codebook + revision log để rút core category và narrative lý thuyết, không thêm bằng chứng cục bộ mới.

Điểm khác biệt so với LLM-assisted qualitative analysis trước là giữ nguyên cấu trúc open → axial → theoretical, có manager phối hợp cross-batch, và kiểm chứng saturation bằng sự hội tụ của codebook thay vì dừng cố định.

Ví dụ đời thường: giống một nhóm nghiên cứu phỏng vấn: một người ghi chú từng sự việc, một người gom chúng thành chủ đề, một người viết lý thuyết lớn, còn trưởng nhóm giữ sổ mã và cứ đối chiếu với dữ liệu mới cho tới khi thêm ca nào cũng không sinh chủ đề mới nữa.

III. Main Results:​

  • Quy mô đánh giá: hơn 7.500 trajectories, 6 datasets và 4 backbone LLMs; hai nhóm dữ liệu gồm outcome-label trajectories và trajectories có expert failure reasoning.
  • Process reliability: add actions giảm dần, merge/confirm tăng; codebook ổn định về kích thước và cosine similarity tới codebook cuối tiến gần 1. Các replicate trong cùng dataset-model giống nhau hơn rõ rệt so với cross-configuration, Mann-Whitney p < 1e-20. Cross-LLM trên cùng dataset vẫn giữ coverage vượt null baseline, p < 0.001 mọi dataset.
  • Coverage với taxonomy người: codebook tự sinh cover 73.0-90.9% failure modes trong taxonomy chuyên gia: ALFWorld 75.0%, GAIA 73.7%, WebShop 90.9%; khớp 58.0-87.9% reasoning từng trajectory.
  • Phát hiện thêm ngoài taxonomy người: vì precision/recall lệch cho thấy AutoTraceGT nêu các mode bị bỏ sót, ví dụ ALFWorld tách không hành động khi cần khỏi invalid/impossible action; GAIA bắt công bố đổi kế hoạch nhưng không thực hiện; WebShop tách dao động giữa paging/reset không tổng hợp phản hồi.
  • Convergence lý thuyết: narrative tự sinh hội tụ với tài khoản cascade-of-errors của expert analysis: lõi chung là agent ngừng tích hợp phản hồi môi trường — ALFWorld: feedback-decoupled control; GAIA: persistent repetition without adaptation; WebShop: ritualized non-diagnostic search.
  • Downstream failure prediction: dùng codebook làm deductive feature space thường vượt few-shot/zero-shot LLM baselines; nhiều ô bold↑ trên MCC và ROC AUC ở Tau-Bench, Go-Browse, SWE-Agent, đặc biệt khi kết hợp complementary feature engineering.

IV. Conclusion & Future Works:​

Bài báo lập luận rằng Grounded Theory là công cụ phân tích hành vi agent có thể scale, vì nó inductive, có điều kiện dừng saturation, và để lại audit trail từ trajectory tới category tới narrative. AutoTraceGT cho thấy codebook không chỉ giải thích được mà còn tái sử dụng làm feature space cho failure prediction.

Hướng mở rộng hợp lý: tinh chỉnh sampling policy để saturation nhanh hơn; tích hợp human-in-loop để kiểm định category nhạy cảm; mở rộng sang multi-agent trajectories, cross-task codebook transfer, và giám sát hành vi agent trong production theo thời gian thực.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng AutoTraceGT thành phương pháp audit định kỳ cho agent trong production: mỗi tuần hút mẫu trajectory mới, cập nhật codebook bão hòa và phát hiện failure mode mới trước khi chúng trở thành hồi quy hệ thống.
  2. Kết hợp grounded theory induct với phản hồi chuyên gia theo vòng lặp: agent gợi ý category mới, người đánh giá chỉ xác nhận hoặc gộp, từ đó rút ngắn đường tới taxonomy đáng tin cho tác vụ an toàn cao.
  3. Xây dựng benchmark chéo cho phân tích thất bại agent: đo độ ổn định codebook giữa các LLM backend, mức coverage với taxonomy người, và giá trị dự đoán downstream trên cùng một suite trajectory chuẩn.

2. Patent:​

  1. Trợ lý điện thoại tự ghi lại lỗi dùng app: hệ thống thu các bước màn hình, lỗi và phản hồi người dùng, rồi tự gom thành nhóm nguyên nhân như "bấm đúng nhưng không kiểm tra kết quả", "lặp lại thao tác khi bị kẹt", giúp đội phát triển biết vì sao người dùng bỏ giữa chừng.
  2. Tính năng chặn hành động rủi ro trên điện thoại: trước khi xác nhận thanh toán, gửi tin nhắn hoặc xóa dữ liệu, trợ lý tự đối chiếu danh tính người nhận, trạng thái đơn hàng và nội dung vừa nhập; nếu chưa khớp thì yêu cầu xác nhận lại thay vì thực hiện ngay.
  3. Công cụ kiểm thử tự động cho app mobile: mô phỏng người dùng đi qua nhiều màn hình, ghi nhận từng lần bấm và phản hồi hiển thị, sau đó tạo bản đồ lỗi kiểu "tuyên bố đổi hướng nhưng không đổi thao tác" để nhóm QA ưu tiên sửa đúng điểm gây hỏng trải nghiệm.
  4. Hệ thống cá nhân hóa trợ lý ảo trên điện thoại: học từ lịch sử thao tác của chính người dùng để nhận biết pattern như hay mở app nào sau khi thất bại, hay bỏ qua bước xác nhận ở đâu, rồi đề xuất shortcut hoặc nhắc kiểm tra đúng lúc.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.30391
ArXiv Abstracthttps://arxiv.org/abs/2608.30391
PDF Downloadhttps://arxiv.org/pdf/2608.30391.pdf
Github Repositoryhttps://github.com/ZhuoranLu/Qual-Agent-Behavior-Analysis

22. Environment Evolution for Terminal Agents (16 votes)​

Tác giả: Zhiyuan Fan, Tinghao Yu, Yuanjun Cai, Jiang Zhou, Jiangtao Guan, et al.

Xuất bản lúc: 2026-09-03

Tag: Reinforcement Learning, Terminal Agents, Environment Synthesis, Curriculum Learning, Multi-Agent Systems, LLM Agents

I. Main Problem:​

Bài toán cốt lõi là cung cấp môi trường terminal vừa đủ khó, kiểm chứng được và liên tục tạo tín hiệu học cho RL. Các môi trường tổng hợp từ đầu thường quá dễ với frontier models; khi agent giải được gần hết, reward không phân biệt được quỹ đạo tốt/xấu. Các phương pháp agent-environment co-evolution khắc phục bằng rollout on-policy, nhưng bị giới hạn bởi:

  • mô hình rollout và phân phối môi trường ban đầu
  • khó tổng quát khi mô hình đích khác mô hình sinh môi trường
  • tín hiệu suy giảm khi failures trở nên sparse.

II. Main Idea:​

Environment Evolution tăng độ khó off-policy, theo từng generation, bằng cách biến đổi một môi trường đã có thành lineage các môi trường khó dần. Từ mục tiêu học multi-turn, độ khó được tách thành ba hướng có thể chỉnh sửa:

  • scenario novelty: thay ngữ cảnh/tình huống yêu cầu
  • skill rarity: thay kỹ năng cần dùng trong tình huống đó
  • execution length: thêm các cặp scenario-skill để kéo dài chuỗi giải quyết

Quy trình là một loop-engineered multi-agent harness: Proposer đọc execution sequence của môi trường hiện tại, tạo target sequence theo hướng đã chọn; Reviewer duyệt plan theo rubric; Modifier tạo residual và áp lên môi trường; ba verifier chạy song song gồm Oracle solution phải pass, empty/no-op phải fail, và quality rubrics. Mỗi thế hệ có evolution effort low/high/max để giới hạn phạm vi chỉnh sửa; high là mặc định vì cân bằng khó hóa và kiểm soát. Khi train, Evolution-Lineage Scheduler không sample ngẫu nhiên toàn lineage mà đi theo thứ tự từ generation dễ tới khó, chỉ mở generation tiếp theo khi pass rate vượt ngưỡng, tránh rollout group toàn fail.

Ví dụ đời thường: giống như tập leo núi không ném người mới lên đỉnh, mà xây từng chặng dốc hơn một chút từ cùng một tuyến; mỗi chặng vẫn đi từ điểm đã quen, chỉ thêm đoạn lạ, đòi kỹ năng hiếm hơn hoặc kéo dài hành trình.

III. Main Results:​

  • Rollout độc lập bằng Hy4 preview, Claude Opus 5, GPT-5.6 Sol cho thấy pass rate giảm và avg turns tăng qua 15 generations; high/max giảm pass rate tới zero, low kéo dài horizon nhưng pass rate dao động.
  • Trong ablation direction 1-step và 15-step, cả ba hướng đều giảm pass rate và tăng turns; length giảm pass rate mạnh nhất, scenario/skill tăng turns nhiều hơn; hiệu ứng hướng tương đối ổn định.
  • EL Scheduler giữ nhiều rollout group còn partially solved hơn random scheduling trong 50 bước đầu, dùng rollout budget hiệu quả hơn và cải thiện reward.
  • Sau rejection-sampling fine-tuning rồi GRPO 200 steps, Qwen3.6-27B và Qwen3.6-35B-A3B đạt 71.5% và 64.9% trên Terminal-Bench 2.1 Verified, cao hơn Co-evolution 62.9%/55.1% và Ensemble 60.0%/52.8%; paper báo cáo cải thiện tổng 14.4 và 18.0 percentage points.

IV. Conclusion & Future Works:​

Environment Evolution đưa việc scale môi trường terminal từ sinh mới rồi vứt bỏ khi quá dễ sang tiến hóa dần theo lineage, giữ tín hiệu học lâu hơn và ít phụ thuộc mô hình rollout hơn co-evolution/ensemble. Hướng tương lai: thử nghiệm cho SWE agents và Computer-Use Agents.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng environment evolution cho SWE agents: tiến hóa các task sửa lỗi phần mềm từ issue đơn giản thành lineage yêu cầu hiểu codebase lớn, tái cấu trúc, kiểm thử hồi quy và sửa nhiều module liên kết.
  2. Nghiên cứu evolution lineage cho Computer-Use Agents: tăng độ khó bằng cách đổi giao diện, thêm bước xác nhận, hoặc yêu cầu thao tác chính xác trên nhiều cửa sổ.
  3. Kết hợp off-policy evolution với on-policy weakness: dùng rollout của agent chỉ để chọn lineage hoặc thời điểm cần fork, còn việc tạo môi trường khó vẫn giữ độc lập với policy.

2. Patent:​

  1. Hệ thống huấn luyện trợ lý điện thoại tự làm nhiệm vụ khó dần: biến một tác vụ như đặt lịch, duyệt file, gửi email thành chuỗi bài tập trong môi trường ảo; mỗi lần người dùng/mô hình làm tốt, hệ thống thêm bước, đổi ứng dụng hoặc yêu cầu thao tác hiếm hơn, đồng thời kiểm tra lời giải mẫu và chặn câu trả lời rỗng.
  2. Nền tảng tạo bài kiểm tra nội bộ cho kỹ sư vận hành cloud qua điện thoại: từ một ca cấu hình hệ thống, tự sinh các ca khó hơn dần như thêm dịch vụ lỗi, thay nhà cung cấp, kéo dài quy trình khôi phục; mỗi ca có lời giải chuẩn và bẫy kiểm tra để chấm điểm.
  3. Trình tạo kịch bản an toàn cho agent di động: trước khi thả trợ lý ra app thật, hệ thống tiến hóa mô phỏng cùng một tác vụ với dữ liệu giả, quyền hạn khác nhau và số bước tăng dần, chỉ đưa vào huấn luyện khi lời giải mẫu chạy được và hành vi sai bị phát hiện.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.04128
ArXiv Abstracthttps://arxiv.org/abs/2609.04128
PDF Downloadhttps://arxiv.org/pdf/2609.04128.pdf
Github RepositoryN/A

23. Principia: Relational Physics Tests for Video Models (16 votes)​

Tác giả: Varun Varma Thozhiyoor, Shivam Tripathi, Venkatesh Babu Radhakrishnan, Anand Bhattad

Xuất bản lúc: 2026-09-03

Tag: Video Generation, Vision-Language Models, Physical Reasoning, Benchmark, World Models, Newtonian Physics, Relational Invariants

I. Main Problem:​

Đánh giá lý trí vật lý trong video rất khó vì các phép đo chuyển động tuyệt đối phụ thuộc vào tốc độ khung hình, tỉ lệ vật thể, và hiệu chỉnh camera — những thứ thường mơ hồ hoặc không có sẵn trong video sinh. Các benchmark hiện có còn yếu vì:

  • plausibility là cảm tính: video sai vật lý vẫn có thể trông thuyết phục
  • so khớp quỹ đạo phạt cả những kết cục hợp lệ nhưng khác video gốc
  • đánh giá theo luật vật lý thường cần khôi phục khối lượng, vận tốc, gia tốc tuyệt đối
  • nhiều test chỉ chạy một hiện tượng, không kiểm chứng cấu trúc vật lý đa dạng.

II. Main Idea:​

Thay vì đo tuyệt đối từng vật, Principia kiểm tra quan hệ tương đối giữa hai vật cùng tuân theo một định luật Newton. Nếu hai vật được thả trong điều kiện giống nhau, chúng phải thỏa một bất biến quan hệ: cùng thời điểm chạm đất, tỉ lệ thời gian cố định, tỉ lệ biên độ cố định, hay thứ tự khoảng cách đúng — bất kể camera, tỉ lệ, hay frame rate.

Benchmark gồm 500+ cảnh thật, 8 hiện tượng: gravity, restitution, friction, rotational inertia, projectile motion, momentum, pendulum, mass-spring. Dữ liệu được thu với kiểm soát chặt: hình học ghép cặp, thả đồng bộ, bề mặt chuẩn, lực ngoài tối thiểu; vật thể được track bằng SAM3 hoàn toàn trong không gian pixel. Điểm consistency được chuẩn hóa trong [0,1], chỉ dùng tỉ số/đẳng thức pixel nên không cần camera intrinsics, metric scale, hay frame rate.

Một pipeline Isaac Sim tạo thêm Principia-Synth với cả video đúng vật lý và anti-physics để kiểm tra khả năng phát hiện vi phạm của các mô hình ngôn ngữ-thị giác.

Giống như thay vì đo chính xác từng quả bóng nặng bao nhiêu và camera lệch bao nhiêu, ta chỉ cần nhìn hai vật được thả cùng lúc xem chúng có chạm đất cùng lúc không.

III. Main Results:​

  • 6 video generators: Omni, Veo-3.1, Wan2.2-5B/14B, Cosmos-2.5-2B/14B. Tất cả đạt khoảng 0.8 trên VBench nhưng chỉ 0.14–0.42 trên Principia; chất lượng hình ảnh gần như tách rời độ chính xác vật lý.
  • Không model nào vượt 0.5 ở hầu hết hiện tượng; tốt nhất là Wan2.2-14B: 0.419, rồi Omni: 0.409, Veo-3.1: 0.379. Model open-weights có thể vượt closed-frontier.
  • Scale trong cùng họ không ổn định: tăng Cosmos từ 2B lên 14B cải thiện friction/inertia/pendulum nhưng giảm restitution/gravity/momentum; tăng Wan từ 5B lên 14B cải thiện nhiều hiện tượng nhưng momentum hơi giảm.
  • Mọi model đều rất yếu ở momentum, cho thấy tương tác đa vật phức tạp là điểm gãy lớn.
  • 4 vision-language models được hỏi PASS/FAIL vi phạm vật lý: tốt nhất là Gemini-3-Flash ~67% agreement; nhiều model gần mức ngẫu nhiên, cho thấy hạn chế kiến trúc/suy luận hơn là chỉ do quy mô.

IV. Conclusion & Future Works:​

Kết luận: các video generator hiện render thế giới rất đẹp nhưng chưa giữ các ràng buộc quan hệ mà định luật vật lý bắt buộc; nên gọi chúng là world models còn quá sớm. Các mô hình ngôn ngữ-thị giác cũng không đủ tin cậy để phát hiện video sai vật lý.

Hạn chế: benchmark chỉ phủ cơ học Newton vĩ mô, chưa gồm fluid dynamics, soft-body deformation, nhiệt động lực học; lỗi hallucination/mất vật/deform nặng chưa tách riêng hoàn toàn khỏi vi phạm vật lý.

Hướng đi: mở rộng sang các dạng vật lý phi Newton và môi trường liên tục; dùng synthetic counterfactual để huấn luyện/cải thiện consistency; thiết kế tín hiệu huấn luyện hoặc bias kiến trúc cho relational invariants; công bố first-frame và prompt nhưng giữ video thật để bảo vệ benchmark.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng đánh giá quan hệ calibration-independent sang fluid dynamics, soft-body, contact-rich manipulation, và các hiện tượng phi tuyến ngoài cơ học Newton vĩ mô.
  2. Phát triển phương pháp huấn luyện dùng anti-physics videos có kiểm soát để tối ưu trực tiếp relational invariants thay vì chỉ tối ưu plausibility cảm tính.
  3. Nghiên cứu tại sao scaling model không cải thiện đều physical consistency, và xác định kiến trúc/tín hiệu nào giúp duy trì bất biến vật lý khi tăng quy mô.
  4. Xây dựng metric tự thích ứng cho từng hiện tượng, tách rõ lỗi sinh ảnh không liên quan vật lý khỏi vi phạm định luật.

2. Patent:​

  1. Ứng dụng điện thoại kiểm tra thí nghiệm vật lý tại nhà: học sinh quay hai vật thả cùng lúc hoặc lăn xuống hai máng giống nhau; app đo trong không gian ảnh và nói ngay mối quan hệ thời gian/tỉ lệ có bị vi phạm không, không cần hiệu chỉnh camera.
  2. Bộ lọc vật lý cho video sinh trên điện thoại: trước khi xuất clip, hệ thống tạo hoặc kiểm tra cặp vật chuyển động theo cùng luật, loại bỏ những đoạn đẹp mắt nhưng sai quan hệ vật lý.
  3. Trợ lý AR/game mobile kiểm tra tính nhất quán cảnh: khi game sinh hai vật tương tác, engine so sánh thứ tự va chạm, tỉ lệ nảy, chu kỳ lắc để tự chỉnh animation cho khớp định luật.
  4. Camera hành trình ô tô/điện thoại phát hiện mô phỏng ảo sai vật lý: so sánh chuyển động tương đối của phương tiện và vật cản trong ảnh để cảnh báo khi mô hình dự báo cảnh tạo ra kết quả vật lý bất thường.
  5. Công cụ chấm bài quay video thực hành: giáo viên gửi một cặp hiện tượng, app tự đánh giá theo bất biến quan hệ và giải thích bằng ngôn ngữ đời thường vì sao video đúng/sai.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.04200
ArXiv Abstracthttps://arxiv.org/abs/2609.04200
PDF Downloadhttps://arxiv.org/pdf/2609.04200.pdf
Github RepositoryN/A

24. Select, Compress, Reinvest: A Controlled Study of Visual-Token Allocation in Long-Video MLLMs (15 votes)​

Tác giả: Prakhar Khatri

Xuất bản lúc: 2026-09-03

Tag: MLLMs, Long Video Understanding, Visual Token Allocation, Frame Selection, Orthogonal Matching Pursuit, Video QA, Token Compression

I. Main Problem:​

Các mô hình ngôn ngữ-đa phương thức (MLLM) cho video dài không thể xem mọi frame: video 1 giờ ở 1 fps là 3.600 ảnh, nhưng hệ thống chỉ giữ một lát cắt cố định nhỏ (8–64 frame). Vấn đề:

  • Quy tắc chọn frame mặc định vẫn là uniform sampling — lấy đều trên timeline bất kể câu hỏi là gì.
  • Các selector đã công bố thay đổi nhiều thứ cùng lúc (scorer, prompt, độ phân giải, answering model), nên so sánh giữa các bài báo thực chất là so sánh hai hệ thống khác nhau, không phải hai ý tưởng.
  • Chưa rỏ quyết định nào trong pipeline (chọn frame, nén không gian, hay tái đầu tư token) thực sự mang lại độ chính xác.

II. Main Idea:​

Nghiên cứu can thiệp có kiểm soát từng bước một: cố định một scorer (LongCLIP), một prompt boundary, một answering model (Qwen3-VL-8B) và một harness đánh giá, rồi thay đổi một quyết định duy nhất tại mỗi thí nghiệm, so cặp từng câu hỏi (paired comparison):

  • Select: giữ nguyên số frame và độ phân giải, chỉ đổi timestamp nào được chọn — qua 6 quy tắc training-free, trong đó nổi bật là OMP (Orthogonal Matching Pursuit, 1993) dùng nguyên trạng, không tinh chỉnh: mỗi bước chọn frame tương quan nhất với phần câu hỏi còn thiếu (residual), rồi chiếu bỏ hướng đã phủ trước khi chọn tiếp.
  • Compress: giữ timestamp cố định, giảm ~50% ngân sách không gian mỗi frame.
  • Reinvest: chi khoản tiết kiệm đó mua nhiều timestamp hơn (16 frame nén thay vì 8 frame full-res), với kiểm toán token thực tế để đảm bảo hai nhánh tốn kém ngang nhau.

Ví dụ đời thường: giống như đi chụp ảnh với thẻ nhớ giới hạn — thay vì chụp 8 tấm cực nét đúng theo đồng hồ báo giờ, ta chụp 16 tấm vừa đủ nét đúng vào các khoảnh khắc có người, có hành động; và cách chọn khoảnh khắc quan trọng hơn hẳn số megapixel mỗi tấm.

III. Main Results:​

  • Selection là đòn bẩy lớn nhất: 8 frame chọn theo câu hỏi thắng 16 frame uniform tới 6.9 điểm trên video 1 giờ (p=.0011); OMP vượt uniform 5.7–11.8 điểm tùy benchmark và chênh không quá 1 điểm so với mọi selector chuyên dụng.
  • Hiệu ứng chọn frame chỉ bật khi pool ứng viên vượt ngân sách: ở video 15s cả ba quy tắc cho kết quả giống hệt; tới 600s/3600s mới tách nhau 7.5–7.8 điểm.
  • Compression gần như miễn phí: giảm ~50% ngân sách không gian mỗi frame tối đa mất 0.44 điểm (hộ kiểm định tương đương TOST ±3 điểm đạt p=.0022).
  • Reinvestment biến tiết kiệm thành lợi nhuận: 16 frame nén thắng 8 frame full-res +2.24 điểm trên LongVideoBench, +3.04 trên LVBench, với chi phí token đo thực tế ≤ 1.0 lần.
  • Thứ hạng selector sống sót qua đổi scorer: thay LongCLIP bằng SigLIP làm thay đổi 67–84% frame được chọn nhưng thứ tự các quy tắc giữ nguyên.
  • Lỗi triển khai trong port AKS của chính tác giả (chọn global top-k ở mọi ngân sách) đổi ~99.5% frame nhưng chỉ đổi 0.07 điểm — cảnh báo so sánh giữa các bài báo rất dễ nhiễu.
  • Các lựa chọn OMP muộn bị trôi về nội dung mới lạ nhưng lệch câu hỏi (off-topic novelty: title card, cảnh chuyển, chương không liên quan).
  • Kết quả phụ thuộc cặp answerer–benchmark: InternVL3-8B hưởng lợi mạnh trên LVBench (+10.1) nhưng phẳng trên Video-MME dài.

IV. Conclusion & Future Works:​

Ba quyết định phân bổ visual-token không đáng tối ưu ngang nhau: dưới ngân sách cố định, nên ưu tiên chọn đúng frame hơn chọn thêm frame; nén không gian là miễn phí nhưng chỉ có giá trị khi tái đầu tư vào độ phủ thời gian; còn dùng ranking của OMP để phân bổ pixel giữa các frame thì không hiệu quả — cần tín hiệu importance riêng (như Group-DPP, +1.84 điểm). Các ranh giới được báo cáo thẳng: tính chọn lọc phụ thuộc model đọc frame và benchmark hỏi, hiệu ứng scorer-swap chỉ kiểm soát được lệch lớn >5 điểm, và audit thất bại chỉ mang tính thăm dò. Hướng tương lai: thiết kế selector có relevance floor để độ phủ được khám phá trong vùng bằng chứng hợp lý thay vì cả timeline, và xác định selector-specificity của reinvestment ở tỷ lệ ~1 điểm.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển selector lai kết hợp residual-projection kiểu OMP với một relevance floor có học được, để các lựa chọn muộn duy trì liên quan câu hỏi thay vì trôi về nội dung mới lạ lệch đề.
  2. Kiểm định tính bất biến của thứ hạng selector trên các scorer theo nguyên lý khác (ITM head, attention của MLLM) — vượt ra ngoài cặp contrastive image-text encoder hiện tại.
  3. Mở rộng giao thức select-compress-reinvest sang thiết kế factorial đầy đủ, tách riêng hiệu ứng pool size khỏi duration bằng thí nghiệm cắt video có kiểm soát.
  4. Xây dựng harness chuẩn mở có kiểm toán token và kiểm tra overlap chéo giữa các arm, để các so sánh selector trong tương lai không còn phụ thuộc vào triển khai riêng lẻ.

2. Patent:​

  1. Trợ lý video tóm tắt trên điện thoại: thay vì gửi toàn bộ video dài lên đám mây, ứng dụng giải mã 1 fps, chấm frame theo câu hỏi người dùng bằng thuật toán residual-greedy, rồi chỉ nén và gửi 8–16 khoảnh khắc liên quan — tiết kiệm băng thông và pin mà giữ chất lượng trả lời.
  2. Hệ thống camera an ninh tìm kiếm sự kiện: khi người dùng hỏi 'chiếc xe đỏ đi qua lúc nào', hub camera chọn các đoạn phù hợp câu hỏi thay vì gửi đều toàn bộ footage 24 giờ, đồng thời giảm độ phân giải các frame đã chọn để phủ nhiều thời điểm hơn trong cùng ngân sách lưu trữ.
  3. Module quản lý ngân sách visual-token cho mô hình video trên thiết bị biên: một bộ điều phối tự động đo token thực tế, cân bằng giữa số lượng frame và độ phân giải mỗi frame, và tái đầu tư phần tiết kiệm vào độ phủ thời gian khi câu hỏi yêu cầu thông tin xuyên suốt video.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.03820
ArXiv Abstracthttps://arxiv.org/abs/2609.03820
PDF Downloadhttps://arxiv.org/pdf/2609.03820.pdf
Github Repositoryhttps://github.com/codeprakhar25/omp-keyframe-sampling

25. Let Confidence Change, Not the Prediction: Prediction-Preserving Repair for Post-hoc Calibration (13 votes)​

Tác giả: Daehwan Kim, Haejun Chung, Ikbeom Jang

Xuất bản lúc: 2026-09-02

Tag: Calibration, Post-hoc Calibration, Uncertainty Estimation, Multiclass Classification, Confidence Scores, Deep Learning

I. Main Problem:​

Post-hoc calibration sửa lại độ tin cậy mô hình dự đoán, nhưng với bài toán multiclass, calibrator còn có thể làm thay đổi luôn nhãn dự đoán top-1 (argmax của vector xác suất đã hiệu chỉnh). Vấn đề:

  • Accuracy chỉ phản ánh hiệu ứng ròng: độ chính xác tăng hay giảm bao nhiêu, không phản ánh tần suất dự đoán bị đổi. Ví dụ Vector Scaling trên ResNet-50/ImageNet-1K chỉ giảm accuracy 0.24 điểm phần trăm, nhưng thực tế đã đổi dự đoán ở 5.74% số mẫu (có mẫu sai thành đúng, mẫu đúng thành sai, mẫu sai thành sai khác — các hiệu ứng này triệt tiêu nhau trong accuracy).
  • Để chặn hiện tượng này, các phương pháp trước phải ràng buộc ngay từ lúc fit calibrator (giữ argmax/order), làm giảm đáng kể biểu đạt của bản đồ hiệu chỉnh.
  • Công việc này đặt ra câu hỏi: liệu ràng buộc giữ nguyên dự đoán có thể được gỡ khỏi bước fit và áp sau đó không?

II. Main Idea:​

CORD (Calibrator-Output Repair for Top-1 Decision Preservation) là adapter chạy sau khi calibrator đã fit xong, sửa toàn bộ vector xác suất đầu ra để argmax của vector sửa khớp lại dự đoán gốc, trong khi không đụng vào calibrator hay output trực tiếp của nó, không fit thêm bất kỳ supervised map nào, và không có hyperparameter cần người dùng tinh chỉnh. Cơ chế:

  • Phân tách phân bố có điều kiện: giữ nguyên phân phối có điều kiện của calibrator trên các lớp không phải lớp dự đoán gốc (chuẩn hóa lại các thành phần này); sửa chỉ một bậc tự do duy nhất — khối xác suất s gán cho lớp dự đoán gốc.
  • Với mỗi mẫu, tồn tại một khoảng giá trị hợp lệ của s để lớp gốc luôn đứng đầu (theo Proposition: phân tách KL chứng minh cách sửa này là nghiệm tối ưu duy nhất giữ phân phối có điều kiện).
  • Điều phối trên calibration split: thay vì sửa từng điểm độc lập, CORD chọn s cho toàn bộ tập sao cho giữ lại khối xác suất trung bình mà output hiệu chỉnh gán cho các dự đoán gốc (nếu đạt được), bằng cách tối ưu tổng độ lệch Bernoulli–KL về các mốc tham chiếu cục bộ; bài toán n biến này gom về một nhân tử Lagrange η duy nhất, giải bằng bisection — đây cũng là toàn bộ trạng thái lưu lại khi deploy (8 byte).
  • Kết quả: một calibrator cho hai bản báo cáo — output trực tiếp (dự đoán mới) và output đã sửa (dự đoán gốc, độ tin cậy đã hiệu chỉnh), người dùng chọn tùy use-case.

Ví dụ đời thường: giống như thợ sửa xe chỉnh lại đồng hồ tốc độ cho báo đúng mà không đổi hướng tay lái — kim đồng hồ được hiệu chỉnh (độ tin cậy), còn con đường xe đang đi (dự đoán top-1) vẫn giữ nguyên như tài xế đã chọn.

III. Main Results:​

  • Zero TPCR by construction trên mọi tổ hợp dataset × calibrator (7 calibrator không bảo toàn dự đoán: VS, SVS, MS, SMS, Dir-ODIR, IROvA, IROvA-TS), mọi classifier (CNN, mobile nets, vision transformers) trên CIFAR-10/100 và ImageNet-1K.
  • Giảm trung bình ECE, NLL và Brier so với output trực tiếp của calibrator trên mọi dataset — nghĩa là lợi ích vượt ra ngoài calibration thuần túy, cải thiện cả chất lượng phân phối xác suất đầy đủ.
  • Độ lợi tỉ lệ thuận với TPCR của output gốc: calibrator càng hay đổi dự đoán, CORD cải thiện càng nhiều.
  • Vượt minimal repair (chỉ cắt s xuống ngưỡng tối thiểu): ECE/NLL/Brier tốt hơn có ý nghĩa thống kê trên cả 3 dataset → việc điều phối khối xác suất trung bình quan trọng, không chỉ giữ nguyên argmax.
  • Bền dưới distribution shift: trên CIFAR-10-C/100-C, TPCR của output gốc tăng tới 18.7% ở mức corruption nặng, CORD vẫn zero TPCR và giảm ECE/NLL/Brier ở mọi mức độ.
  • Ít nhạy với kích thước calibration set: lợi ích duy trì ở mọi tỉ lệ 10%–100% dữ liệu calibration.
  • Nhẹ: chi phí xây dựng < 1.4s, sửa ~26µs/mẫu trên ImageNet-1K; state lưu duy nhất là 1 scalar η.
  • So với các phương pháp giữ dự đoán ngay lúc fit (TS, IRM, AdaTS, TS–TvA, MCCT-I): CORD + calibrator không ràng buộc vẫn cạnh tranh hoặc tốt hơn trên ECE/ECE_EM/smECE.

IV. Conclusion & Future Works:​

CORD dịch chuyển bảo toàn dự đoán từ bước fit calibrator sang bước sửa output sau fit, mở ra không gian thiết kế calibration mới: bảo toàn dự đoán trở thành lựa chọn tại deployment — dùng output trực tiếp khi chấp nhận đổi dự đoán, dùng output sửa khi cần giữ nguyên top-1 gốc. Việc đổi dự đoán do calibrator tạo ra bao gồm cải thiện, suy giảm và chuyển giữa các lớp sai, trong khi accuracy chỉ ghi lại số dư ròng — do đó không nên xem việc đổi dự đoán là 'cái giá tất yếu' của tính biểu đạt. Hướng mở: các objective post-fit phong phú hơn, nguyên tắc chọn output khác cho feasible family, và mở rộng vượt ra ngoài bảo toàn top-1.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng CORD sang bài toán bảo toàn top-k dự đoán hoặc bảo toàn toàn bộ thứ tự ranking thay vì chỉ top-1, với các nguyên tắc chọn output tương ứng.
  2. Khảo sát các objective post-fit thay thế (ví dụ tối ưu trực tiếp ECE/smECE, hay proper scoring rules khác) trên feasible family do bảo toàn dự đoán định nghĩa.
  3. Áp dụng tư tưởng sửa output sau fit cho calibration trong semantic segmentation và các bài toán có cấu trúc đầu ra lớn, nơi ràng buộc argmax lúc fit đặc biệt tốn kém.
  4. Nghiên cứu lý thuyết về mối liên hệ giữa TPCR và độ lệch calibration, để định lượng khi nào việc bỏ ràng buộc bảo toàn dự đoán lúc fit thực sự có lợi.

2. Patent:​

  1. Hệ thống hiệu chỉnh độ tin cậy trên điện thoại thông minh: sau khi mô hình AI nhận diện ảnh (ví dụ chụp thực phẩm để đếm calo), một module nhẹ sửa vector xác suất đầu ra — số calo hiển thị kèm độ tin cậy chính xác hơn, nhưng nhãn món ăn người dùng nhìn thấy không bao giờ tự đổi sau hiệu chỉnh.
  2. Module calibration cho camera an ninh / nhận diện khuôn mặt doanh nghiệp: hiệu chỉnh độ tin cậy của hệ thống chấm công mà không làm thay đổi danh tính đã nhận diện, tránh tình trạng cùng một người bị báo là hai người khác nhau tùy phiên bản calibrator.
  3. Dịch vụ đám mây 'confidence-repair as a service': calibrator học được tối ưu mà không cần ràng buộc giữ dự đoán, sau đó module sửa output (chỉ lưu 1 con số η duy nhất) gắn vào pipeline, tiết kiệm chi phí huấn luyện lại cho từng yêu cầu bảo toàn dự đoán của khách hàng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.01072
ArXiv Abstracthttps://arxiv.org/abs/2609.01072
PDF Downloadhttps://arxiv.org/pdf/2609.01072.pdf
Github Repositoryhttps://github.com/labhai/CORD

26. Percolation Dynamics in Optimization : Variance Cascades and Discrete Scale Invariance (13 votes)​

Tác giả: Sai Niranjan Ramachandran, Suvrit Sra

Xuất bản lúc: 2026-09-02

Tag: SGD, Stochastic Gradient Descent, Percolation, Discrete Scale Invariance, Implicit Bias, Grokking, Adam, Optimization Dynamics

I. Main Problem:​

SGD được biết là hút mạng nơ-ron về các invariant set (tập bất biến) tương ứng với các subnetwork đơn giản hơn, nhưng quá trình diễn ra thế nào theo thời gian thì gần như chưa hiểu. Hệ quả:

  • không giải thích được cơ chế của grokking (mạng ghi nhớ xong nhưng mất hàng nghìn epoch mới generalize)
  • không lý giải được các chuyển pha đột ngột, không liên tục trong quá trình huấn luyện
  • hầu hết lý thuyết chỉ dừng ở SGD, còn Adam/AdamW (dùng phổ biến thực tế) thì chưa được chứng minh.

II. Main Idea:​

Tác giả mô hình hóa stochastic gradient flow (SGF) như một quá trình percolation (thấm dò) trong đó:

  • các đối xứng kiến trúc (như hoán vị nơ-ron) tạo ra invariant set hút quỹ đạo tham số
  • các subnetwork bị hút vào cùng invariant set không dính lần lượt từng cạnh như percolation Erdos-Renyi, mà hợp nhất đồng loạt theo nhóm (block-merge) do ràng buộc nhóm đối xứng S_n
  • các cặp tương đương được theo dõi qua Reeb graph, rồi tái chuẩn hóa (renormalize) thành đồ thị percolation vô hướng tiến
  • mỗi lần hợp nhất khối gây bước nhảy đột ngột trong order parameter O(p) (kích thước thành phần liên thông lớn nhất), đăng ký như đỉnh phương sai tương đối R_v(p) giữa các seed huấn luyện
  • các mức chuyển pha này tự tổ chức thành cascade hình học — tức Discrete Scale Invariance (DSI) với hệ số phóng đại λ(n) = n^σ, dự báo trước điểm sụp đổ cấu trúc toàn cục p_c
  • kết quả mở rộng sang Adam và AdamW dưới mô hình nhiễu heavy-tailed (cắt ngưỡng gradient, kiểm soát momentum và second moment).

Ví dụ đời thường: giống như các giọt sáp trong nến đang chảy — thay vì hợp nhất dần từng giọt, các cụm giọt cùng chảm về một điểm sẽ dính cụm lại với nhau một lúc, và khoảng cách giữa các lần dính cụm lặp lại theo một tỷ lệ hình học cố định.

III. Main Results:​

  • Toy models (K=3, K=6): quan sát đúng cascade DSI với λ ≈ 2.00, khớp lý thuyết; task shift tại t=3000 gây fragmentation peak ngược chiều, xác nhận tính thuận nghịch.
  • Grokking (Transformer, modular arithmetic): sự generalize bị trì hoãn trùng với cascade 3 đỉnh DSI (λ = 2.11) ngay trước bước nhảy accuracy; tỷ lệ dương tính giả so với phổ phase-randomized chỉ 0.1%.
  • UCI tabular (Heart Disease) và vision (FMNIST): cùng cấu trúc cascade DSI với hệ số phân số tương thích hợp nhất cặp hoặc bậc cao hơn — gợi ý tính universality.
  • Phân tích bằng Spectral Effective Rank thay distance-based clustering để mở rộng sang mạng chiều cao.
  • Chứng minh bước nhảy ΔO(p) là gián đoạn thật trong giới hạn nhiệt động khi các thành phần hợp nhất đã macroscopic (i = Θ(N)); chỉ tiệm cận liên tục khi hợp nhất vi mô (i = O(1)).

IV. Conclusion & Future Works:​

SGD (và có điều kiện là Adam/AdamW) sụp đổ mạng nơ-ron theo quá trình percolation cưỡng bức bởi đối xứng kiến trúc, tạo ra cascade chuyển pha rời rạc tự tương tự — cơ chế cụ thể cho hiện tượng stochastic collapse và gợi ý liên hệ với grokking. Hướng tương lai:

  • kiểm tra độ bền của gián đoạn ở width thực tế lớn
  • mở rộng cho invariant manifold cong và vùng hyperparameter cực trị
  • dùng đỉnh phương sai R_v để điều phối learning rate schedule
  • kết nối cascade DSI với scaling laws để suy ra scaling relation mới từ mô hình percolation.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu thực nghiệm hệ thống trên mô hình ngôn ngữ/thị giác quy mô lớn để kiểm chứng cascade DSI tồn tại ở width thực tế và tương quan với các bước nhảy loss đột ngột trong huấn luyện LLM.
  2. Phát triển thuật toán scheduling tự động dựa trên phát hiện đỉnh phương sai R_v, cho phép learning rate tự thích ứng tại các điểm chuyển pha cấu trúc.
  3. Mở rộng framework percolation cho invariant manifold không phẳng và cho các optimizer khác (Muon, Lion, Shampoo) để kiểm tra tính phổ quát của cơ chế hợp nhất khối.
  4. Kết nối hệ số phóng đại DSI λ với hệ số trong scaling laws của loss, đề xuất cách suy ra scaling relation mới từ tham số đối xứng của kiến trúc.

2. Patent:​

  1. Công cụ giám sát huấn luyện AI trên điện thoại/máy chủ nhỏ: theo dõi phương sai order parameter giữa nhiều lần chạy và phát cảnh báo hoặc tự điều chỉnh learning rate khi phát hiện đỉnh cascade chuyển pha, giúp huấn luyện on-device ổn định hơn.
  2. Ứng dụng dự báo thời điểm mô hình 'thông' (grokking) trên nền tảng học máy đám mây: hệ thống phân tích chuỗi phương sai của tỷ lệ kích thước thành phần liên thông và ước lượng trước khi nào mô hình sẽ đạt generalization để tối ưu chi phí GPU.
  3. Hệ thống phát hiện mất ổn định khi thay đổi dữ liệu trong mô hình đang chạy (task shift): đo đỉnh fragmentation trong phương sai cấu trúc để cảnh báo catastrophic forgetting sớm và đề xuất fine-tune có chọn lọc trên các khối tham số bị tách rời.
  4. Module phân tích độ phức tạp nội tại của mạng nơ-ron cho chip AI tiết kiệm năng lượng: ước lượng mức độ collapse cấu trúc qua phổ giá trị suy biến của trọng số để xác định thời điểm cắt tỉa (pruning) an toàn các subnetwork đã hợp nhất.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.02373
ArXiv Abstracthttps://arxiv.org/abs/2609.02373
PDF Downloadhttps://arxiv.org/pdf/2609.02373.pdf
Github RepositoryN/A

27. QCell: Recombining and Aligning Cell Queries for Overlapping Instance Segmentation (13 votes)​

Tác giả: Yaroslav Prytula, Anton Popov, Dmytro Fishman

Xuất bản lúc: 2026-08-29

Tag: Instance Segmentation, Microscopy, Overlapping Cells, DETR, Query-based Model, Contrastive Learning, Amodal Segmentation, Transformer

I. Main Problem:​

Phân đoạn tế bào trong ảnh hiển vi khó vì các tế bào thường nằm chồng lên nhau, tạo ranh giới mờ và bằng chứng hình ảnh bị trộn lẫn. Khác với vật thể bị che khuất thông thường, vùng chồng trong nhiều ảnh hiển vi vẫn nhìn thấy một phần nhưng tương phản yếu, khiến mô hình dễ gộp hai tế bào thành một hoặc bỏ sót phần bị che.

Các phương pháp cũ chủ yếu xử lý theo vùng cục bộ, dùng giả định hình dạng, hoặc phụ thuộc dự đoán sơ bộ nên thiếu suy luận toàn cục giữa các tế bào láng giềng. Với các mô hình query-based, khi tế bào chồng dày, các query gần nhau có thể bị self-attention kéo lại gần nhau, dẫn tới representational collapse.

II. Main Idea:​

QCell mở rộng MaskDINO theo hướng tách - tái hợp query và học contrastive có neo ổn định:

  • Mỗi query tế bào được tách bằng ba đầu MLP nhẹ thành amodal (toàn bộ vật thể), visible (phần nhìn thấy), invisible (phần bị che), rồi dự đoán mask cho từng phần.
  • Một bước recombination hợp nhất ba biểu diễn thành query tinh chỉnh; loss consistency bắt mask tinh chỉnh phải khớp với phép hợp nhất phần visible và invisible.
  • Mô hình tái sử dụng DN queries - các bản nhiễu từ ground truth - làm neo ổn định cho contrastive learning: InfoNCE giúp query học đặc trưng phân biệt từng tế bào, còn cosine alignment kéo query của cùng một tế bào lại gần và đẩy query của tế bào khác ra xa.

Bài báo cũng giới thiệu benchmark Organoids cho tế bào chồng lấp dày trong brightfield microscopy.

Ví dụ đời thường: giống tách hai tờ giấy trong suốt bị dính chồng: không nhìn chung một cục mờ, mà lần lượt xác định phần lộ ra, phần bị che, ghép lại thành tờ giấy hoàn chỉnh, rồi dán nhãn riêng để hai tờ không bị trộn thành một.

III. Main Results:​

  • Trên ISBI2014, QCell đạt 65.9 AP và 78.6 AJI, tương ứng cải thiện khoảng +2.2 AP và +2.7 AJI so với các phương pháp tốt trước đó; MaskDINO là 63.7 AP / 75.9 AJI.
  • Trên Revvity-25, QCell đạt 52.9 AP và 73.6 AJI, cao nhất bảng so sánh, nhỉnh hơn MaskDINO 52.3 AP / 73.5 AJI.
  • Trên benchmark mới Organoids, QCell đạt 51.0 AP và 63.2 AJI, tốt nhất trong các mô hình báo cáo.
  • So với MaskDINO, chi phí tăng nhẹ: khoảng 45M tham số và 182G FLOPs so với 44M / 163G.
  • Về định tính, QCell tách tế bào tốt hơn trong vùng chồng nặng, giữ chi tiết biên trên Revvity-25 và duy trì consistency trong cảnh Organoids dày.

IV. Conclusion & Future Works:​

Kết luận: mang nguyên lý decompose-and-recombine lên mức query, kết hợp với contrastive alignment dùng DN queries, giúp mô hình vừa hiểu cấu trúc đầy đủ của tế bào bị che vừa giữ khoảng cách biểu diễn giữa các tế bào chồng nhau. Đây là hướng phù hợp cho cảnh microscopy dày, semi-transparent, nơi suy luận toàn cục giữa các instance là cần thiết.

Hướng tương lai: phần trích xuất không nêu kế hoạch cụ thể; các hướng mở rộng tự nhiên từ bài báo là thử nghiệm trên thêm dạng tế bào/mô học, kiểm chứng khả năng triển khai nhẹ trên thiết bị biên, và mở rộng Organoids thành chuẩn đánh giá rộng hơn cho de-overlapping.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng QCell từ ảnh 2D sang chuỗi ảnh microscopy hoặc khối ảnh 3D, giữ nguyên ý tưởng tái hợp query và căn chỉnh contrastive để xử lý chồng lấp theo thời gian hoặc theo lát cắt.
  2. Kết hợp prior từ mô hình nền lớn cho segmentation với module tách - tái hợp query, nhằm tận dụng khả năng khái quát của foundation model mà vẫn giữ supervision riêng cho vùng bị che.
  3. Nghiên cứu bản QCell nhẹ hóa cho thiết bị biên: giảm chi phí decoder, projection head và DN queries, đồng thời đo độ chắc chắn của vùng chồng để cảnh báo khi cần chuyên gia kiểm tra.
  4. Phát triển thêm tập Organoids và giao thức đánh giá cho nhiều loại tế bào chồng lấp, đặc biệt các cảnh có mật độ rất cao và biến dạng hình thái lớn.

2. Patent:​

  1. Ứng dụng điện thoại kèm kính hiển vi mini cho xét nghiệm tế bào cổ tử cung: chụp ảnh mẫu có nhiều tế bào chồng nhau, hệ thống tách từng tế bào, vẽ lại phần bị che, đếm số lượng và đánh dấu vùng đáng ngờ để bác sĩ xem lại trên điện thoại.
  2. Hệ giám sát nuôi cấy organoid bằng camera điện thoại hoặc camera phòng lab: tự nhận diện từng cụm tế bào khi chúng dính/chồng vào nhau, ước lượng kích thước, mật độ và tốc độ phát triển rồi gửi cảnh báo khi mẫu quá đông hoặc có dấu hiệu bất thường.
  3. Module chẩn đoán nhanh tại điểm chăm sóc: điện thoại chụp mẫu máu hoặc dịch nhiễm qua lens rẻ tiền, mô hình tách các tế bào/vật thể nhỏ bị chồng lấp, tạo báo cáo số lượng và hình dạng để hỗ trợ sàng lọc ban đầu khi không có máy phân tích chuyên dụng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.29253
ArXiv Abstracthttps://arxiv.org/abs/2608.29253
PDF Downloadhttps://arxiv.org/pdf/2608.29253.pdf
Github Repositoryhttps://github.com/SlavkoPrytula/QCell

28. VeriPhy: Agentic Physical Reasoning for World Model Evaluation and Refinement (11 votes)​

Tác giả: Wenzhuo Xu, Yuchen Zhu, Chongjian Ge, Xuan Shen, Jing Shi, et al.

Xuất bản lúc: 2026-09-02

Tag: Video Generation, World Models, Physical Reasoning, Agentic Evaluation, Multimodal Evaluation, Diffusion, Provenance

I. Main Problem:​

Video tạo sinh ngày càng đẹp về mặt cảm quan nhưng vẫn có thể sai vật lý: vật lơ lửng, bóng xuyên tường, va chạm không có tiếng động, âm thanh đến trước hình ảnh, hoặc quỹ đạo không khớp lực tác động. Điều này đặc biệt nghiêm trọng khi video được dùng để huấn luyện/đánh giá robot và embodied AI.

  • Điểm chất lượng vô hướng không cho biết nghĩa vụ vật lý nào bị vi phạm.
  • Các đánh giá hiện có thường tách rời: rule-level, temporal localization, audio/cross-modal consistency, measurement riêng lẻ.
  • Thiếu một chuỗi bằng chứng kiểm chứng được, nói rõ lỗi xảy ra ở đâu, khi nào, do công cụ nào đo ra, và theo quy tắc tổng hợp nào.

II. Main Idea:​

VeriPhy là một hệ thống kiểm chứng vật lý có thể audit, gồm planner chỉ xử lý text, verifier đọc video/audio, các chuyên gia kỹ thuật đóng băng, và bộ tổng hợp quyết định cố định.

  • Trước khi xem bất kỳ frame nào, planner biên dịch prompt thành typed physical obligations và một execution plan được statically validated.
  • Khi chạy, quan sát từ video/audio chỉ gate và scope các lời gọi đã khai báo tới các công cụ đóng băng như SAM 3 segmentation/tracking, counting, 11 physical measurements trên track, monocular depth, OCR, audio-event detection.
  • Mỗi action trả về evidence record có provenance: payload là typed measurement hoặc learned state được gắn nhãn rõ ràng, kèm scope, trạng thái measured/abstained/errored, artifact hash và chi phí.
  • Các resolver kiểu dữ liệu và fixed composition ánh xạ bằng chứng sang trạng thái ba giá trị: supported / contradicted / unknown, hiển thị ở cấp clip là plausible / implausible / abstain. Mọi verdict đều truy ngược được về prompt span, tool output, thời điểm và luật tổng hợp.
  • Bài toán được tách thành hai phần đánh giá riêng: generation bằng video diffusion có điều khiển từ mô phỏng, và critic đánh giá clip đầu ra.

Ví dụ đời thường: giống một thanh tra nhà cửa không chỉ nhìn mặt tiền rồi chấm điểm, mà dùng checklist đã lập trước, đo từng phòng bằng đúng dụng cụ, ghi lại số đo và vị trí lỗi, rồi kết luận từng hạng mục có đạt hay không.

III. Main Results:​

  • Đóng góp VeriPhy: hệ thống biên dịch prompt thành obligations có kiểu, scope specialist calls bằng observation, và trả về quyết định ba giá trị có localized evidence và provenance.
  • Đóng góp corpus đánh giá: 1,500 clip tạo sinh với 2,582 human-written, prompt-grounded flaw records.
  • Trên 149-clip recall analysis chứa 304 defect được annotate: VeriPhy giải thích được 228, so với 164 của evaluator question-decomposition khi dùng cùng clip, cùng claims và cùng served model.
  • Prompt monolithic tới cùng backbone đạt 222, cho thấy recall thuần không tách được giá trị của tổ chức agentic; điểm khác biệt chính là mỗi quyết định của VeriPhy giữ lại evidence record và provenance để audit từng verdict.
  • Kết quả là recall-only, single-annotator, không held-out, nên mô tả hệ thống hiện tại hơn là khả năng khái quát hóa.
  • Có thêm generation testbed: geometry đã biết từ MuJoCo được render thành depth hoặc silhouette control để điều khiển generator Wan 2.2-VACE đóng băng.

IV. Conclusion & Future Works:​

  • VeriPhy cung cấp một auditable evaluation stack, biến prompt mở và clip A/V thành dependency-aware evidence chain thay vì tập hợp câu trả lời rời rác của model.
  • Hệ thống cũng tạo interface cụ thể để đưa verdict của critic ngược lại vào generation/refinement.
  • Các hướng còn mở gồm: feed physical diagnoses back into regeneration, cho phép verdict được viết lại vào quá trình tạo clip.
  • Tự động thay đổi tools, workflows, admission policies và external knowledge vẫn là future work; kết quả hiện tại chứng minh experience-conditioned harness execution, chưa phải self-improvement tự chủ.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phản hồi vật lý từ evaluator vào generator: dùng contradiction packet có timestamp và provenance để refine prompt, control signal hoặc vùng cần regenerate.
  2. Mở rộng corpus flaw records sang nhiều hiện tượng vật lý, đa dạng prompt mở và đánh giá cross-modal consistency ở quy mô lớn hơn.
  3. Nghiên cứu điểm commitment trong video diffusion có điều khiển từ mô phỏng: khi nào control signal có thể rút ra mà chuyển động đã được generator khóa lại.
  4. So sánh auditability và độ tin cậy giữa agentic measurement-based verification và monolithic VLM prompting trên cùng backbone.

2. Patent:​

  1. Ứng dụng điện thoại kiểm tra video quảng cáo trước khi đăng: người dùng tải clip lên, app đọc caption thành các yêu cầu vật lý, đo vật thể/âm thanh/thời gian rồi chỉ ra khoảnh khắc video có vật bay ngược, lặn xuyên tường hoặc tiếng va chạm sai nhịp.
  2. Trình chỉnh sửa video AI trên điện thoại tự sửa lỗi vật lý: khi phát hiện bóng không nảy, vật không chạm đất hoặc âm thanh lệch thời điểm, hệ thống đề xuất chỉnh prompt hoặc tạo lại đoạn lỗi trước khi lưu/chia sẻ.
  3. Module kiểm chứng AR/game engine: camera điện thoại hoặc game vật lý gửi clip hiệu ứng lên dịch vụ cloud, hệ thống trả về bằng chứng từng cảnh có tuân thủ va chạm, trọng lực, thứ tự sự kiện và đồng bộ âm thanh hay không.
  4. Hệ thống chấm video tạo sinh cho nền tảng mạng xã hội: mỗi clip được gắn hồ sơ kiểm chứng có mốc thời gian, chứng cứ đo lường và kết luận plausible/implausible/abstain để người xem hoặc advertiser tin được nội dung hơn.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.03153
ArXiv Abstracthttps://arxiv.org/abs/2609.03153
PDF Downloadhttps://arxiv.org/pdf/2609.03153.pdf
Github RepositoryN/A

29. RoboTok: An Internet-Scale Data Engine for Human Demonstration Retrieval and Dexterous Manipulation Learning (11 votes)​

Tác giả: Howard Qian, Yiting Chen, Yunfei Xie, Kejia Ren, Podshara Chanrungmaneekul, et al.

Xuất bản lúc: 2026-09-02

Tag: Robot Learning, Dexterous Manipulation, Video Retrieval, Hand Pose Estimation, Imitation Learning, Internet Video, Dynamic Time Warping, Embedding Learning

I. Main Problem:​

Robot learning cần dữ liệu minh họa (demonstration) đa dạng, nhưng thu thập dữ liệu robot rất tốn kém và không bao phủ được phần đuôi dài của tác vụ thực tế. Video internet là nguồn khổng lồ và liên tục tăng, nhưng:

  • video web không có cấu trúc: góc quay, bối cảnh, che khuất tùy ý
  • độ tương đồng về hình ảnh/ngữ nghĩa không đồng nghĩa với độ tương đồng về hành vi thao tác — cảnh giống nhau có thể chứa hành động khác hẳn
  • các phương pháp retrieval trước đây chỉ hoạt động trên corpus robot cố định, biểu diễn motion trong không gian ảnh 2D, hoặc dựa vào ngữ nghĩa — không ai khai thác video người trên internet cho học thao tác khéo léo (dexterous).

II. Main Idea:​

RoboTok là cỗ máy dữ liệu quy mô internet: cho một video người thao tác làm query, hệ thống tìm lại các clip web có quỹ đạo chuyển động bàn tay tương tự để huấn luyện policy robot. Cơ chế:

  • Lọc clip từ corpus Action100M (dài 4-8s, camera gần tĩnh, tay nhìn thấy rõ)
  • Trích xuất 3D hand keypoints (WiLoR), nâng lên metric depth (MoGe-2), điền khuyết (HaWoR)
  • Chuẩn hóa về hệ trục egocentric: một mô hình nhẹ ước lượng hệ trục thân (torso frame) chỉ từ cổ tay — không cần thấy cơ thể người — nên so sánh chuyển động được bất biến với góc camera và che khuất
  • DTW trên quỹ đạo 21 khớp tay làm oracle đo độ tương đồng chuyển động, giãn/nén thời gian cục bộ để khớp hai đoạn motion tốc độ khác nhau
  • Huấn luyện encoder nhẹ (cross-attention + positional encoding, embedding chuẩn hóa L2) sao cho thứ tự cosine-similarity trong không gian embedding bảo toàn thứ hạng của DTW, dùng batch anchor-centered với positive từ top-20 và boundary negative ngay ngoài ngưỡng relevance; loss = set loss + rank loss
  • Lúc inference: mỗi clip encode một lần duy nhất vào vector index; query trở thành nearest-neighbor search hiệu quả, clip mới thêm vào index mà không cần retrain.

Ví dụ đời thường: giống như người học nấu ăn không xem ảnh món ăn mà xem đường dao trên thớt — hệ thống đoán khung xương thân người đầu bếp rồi so quỹ đạo dao tay với mọi clip trên mạng, bất kể quay từ góc nào, để tìm đúng kiểu thái giống clip mẫu.

III. Main Results:​

  • Retrieval trên corpus RoboTok (100K clip, k=20): mAP@20 = 0.353 (baseline mạnh nhất STRAP chỉ 0.007, Flow/HAND gần như ngẫu nhiên); Recall@20 = 0.996 — gần như mọi query đều tìm được hàng xóm DTW đúng trong top 20; DTW cost top-20 = 1.333m so với 1.145m của oracle (chỉ ~16% chênh), trong khi random là 4.776m.
  • Khái quát hóa cross-dataset (AssemblyHands, 831 clip): vẫn dẫn mọi metric — mAP@5 = 0.261 so với 0.133 của STRAP.
  • Downstream policy (PPO trên VTDexManip bản gốc): thắng baseline pretrain tốt nhất ở 5/6 tác vụ, trung bình +7.45% (seen) và +5.83% (unseen).
  • Bản KHÓ HƠN (tay robot được điều khiển 3D đầy đủ, bỏ dense reward): khoảng cách cách biệt rõ — BottleCap Turning 77.3% seen (+17.8% so với HAND), Faucet Screwing 44.8% (+38.0%), Lever Sliding 79.3% (+59.8%); tốc độ học cũng nhanh hơn hẳn.
  • Phân tích không gian embedding: dù chỉ tối ưu cho vùng lân cận k=20, cấu trúc tổ chức toàn cục ngoài kỳ vọng; embedding tự nhóm thành các cụm hành vi mạch lạc mà không dùng nhãn ngữ nghĩa nào.

IV. Conclusion & Future Works:​

RoboTok chứng minh video internet là nguồn supervision quy mô và liên tục tăng trưởng cho robot, thay vì chỉ dựa vào dataset robot cố định. Bằng cách biểu diễn quỹ đạo tay 3D trong hệ trục torso tự ước lượng, retrieval tập trung vào bản chất chuyển động thao tác thay vì ngoại hình cảnh, nhãn ngữ nghĩa hay góc camera; không gian embedding học được đủ nhẹ để index và tìm kiếm ở quy mô web. Hướng tương lai: mở rộng sang video quay bằng camera di động, gồm cả góc third-person và egocentric, để khai thác trọn vẹn đa dạng của video web.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng torso-frame estimation cho camera chuyển động: dùng temporal smoothing và inertial cue để chuẩn hóa quỹ đạo tay egocentric khi người quay di chuyển, mở khóa toàn bộ video egocentric trên mạng.
  2. Kết hợp RoboTok retrieval với retargeting tự động sang nhiều hình thái robot (song song, bàn tay anthropomorphic, cánh tay công nghiệp) để một clip người phục vụ nhiều embodiment cùng lúc.
  3. Continuous lifelong indexing: hệ thống tự cập nhật index khi video web mới xuất hiện, kèm active selection chọn clip có thông tin motion bổ sung nhất cho các vùng chưa được phủ trong không gian embedding.
  4. Retrieval điều kiện hóa bằng ngôn ngữ + motion: cho phép query bằng câu mô tả tác vụ kết hợp video mẫu ngắn, phục vụ người dùng không có sẵn clip minh họa.

2. Patent:​

  1. Ứng dụng điện thoại dạy robot làm việc nhà: người dùng quay video mình làm mẫu (vặn nắp chai, lau bàn); điện thoại tải clip lên đám mây, hệ thống trích quỹ đạo tay 3D, ước lượng khung thân và tìm trong kho video online hàng ngàn clip tương tự, rồi gói thành dữ liệu huấn luyện gửi về cho robot tại nhà.
  2. Hệ gợi ý video học nghề theo động tác thật: người học nấu ăn/thợ mộc chụp một đoạn clip ngắn của chính mình thực hành; ứng dụng so quỹ đạo tay rồi trả về các clip chuyên gia trên mạng có đường chuyển động tay giống nhất để đối chiếu sai lệch, thay vì gợi ý theo tên món hay từ khóa.
  3. Module huấn luyện robot công nghiệp từ video bảo trì do kỹ thuật viên quay: kỹ thuật viên quay video mở nắp máy, thay van bằng điện thoại; hệ thống tự trích 3D hand trajectory, chuẩn hóa về hệ trục thân rồi lập chỉ mục, cho phép các robot khác cùng dòng lái lại động tác bằng cách truy vấn video mẫu.
  4. Tìm kiếm video theo 'cách tay chuyển động' trong thư viện cá nhân: người dùng vẽ hoặc quay một cử chỉ tay mẫu, ứng dụng điện thoại dùng mô hình nhẹ để tìm trong album/toàn bộ video đã lưu các đoạn có quỹ đạo tay tương tự (đảo ảnh, khuấy, gập), bất kể góc quay lúc quay.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.03199
ArXiv Abstracthttps://arxiv.org/abs/2609.03199
PDF Downloadhttps://arxiv.org/pdf/2609.03199.pdf
Github Repositoryhttps://github.com/Rice-RobotPI-Lab/RoboTok-Code