🤗 Daily Hugging Face Paper Digest - 2026-09-11

Báo cáo được tạo tự động vào lúc 2026-09-14 08:53:49 bằng mô hình hermes-agent.

📰 Summary of Papers

1. NCP-ArchPreview Technical Report: Moving towards Latent Space Language Models through Next Concept Prediction (177 votes)

Tác giả: NCP Team, Jiaqi Cao, Chiyu Chen, Shuang Cheng, Xu Cheng, et al.

Xuất bản lúc: 2026-09-09

Tag: Latent-Space Language Models, Next Concept Prediction, Vector Quantization, Autoregressive Pretraining, Product Quantization, Foundation Models, Efficient Training

I. Main Problem:

Trong pretraining ngôn ngữ, Next Token Prediction (NTP) chỉ giám sát ở mức token cá nhân — những trừu tượng ngữ nghĩa đa 토큰 (semantic concepts spanning multiple tokens) chỉ xuất hiện như hệ quả gián tiếp từ hidden states, chứ không bị hướng đến một mục tiêu rõ ràng. Hạn chế này:

thiếu objective explicit để học cấu trúc ngữ nghĩa跨越多个token
mô hình không được đào tạodirect way để nắm bắt dependencies跨越token spans
tiềm năng của latent representation chưa được khai thác hệ thống

II. Main Idea:

NCP-ArchPreview là mô hình ngôn ngữ latent-space đầu tiên scale đến 5.73T token, xây dựng một không gian khái niệm rời rạc và học đồng thời hai objective:

Cấu trúc mô hình (3 module):

Token Encoder (16 layer): sản xuất token-level hidden states $h_{1:T}$
Concept Module (8 layer): dự đoán khái niệm tiếp theo trong không gian latent
Token Decoder (16 layer): dùng predicted concepts + token states để sinh token
Tổng: ~8.9B parameters, dựng trên backbone OLMo-3-7B

Đầu ra của Token Encoder được nén: mean pooling theo nhóm $k$ token (chunk size $k=4$ ) → continuous concept representations $c_{1:M}$ (M = ⌊T/k⌋).

Học từ vựng khái niệm rời rạc:

Product Quantization (PQ): chia vector concept thành $S$ segment, mỗi segment có codebook riêng (32 codebooks × 128 entries × 128 dims)
' $N^S$ ' tổ hợp codeword khả thi từ các small codebooks → capacity lớn mà không cần monolithic codebook lớn
VQ loss: codebook entries được đẩy lại gần continuous concept representations (stop-gradient để không ảnh hưởng Token Encoder)

Next Concept Prediction (NCP):

Concept Module nhận concept history $c_{<m}$ , output phân phối trên mỗi segment codebook
Predicted concept = weighted combination of codebook entries theo phân phối đó → fully differentiable (không cần argmax/có discrete sampling)
NCP loss: MSE giữa predicted concept và target concept (detach)
Causality bảo vệ: predicted concept được shift ( $Δ=k$ ) rồi inject vào Token Decoder — không leak thông tin future tokens

Joint training:

$L_{total} = L_{NTP} + \alpha L_{NCP} + \beta L_{VQ}$
Ba objective được optimize đồng thời end-to-end

Hierarchical Residual Connections (MUDDFormer-inspired):

IRC (Intra-Module): MLP sinh trọng số kết hợp representations từ nhiều độ sâu trong cùng module
CRC (Cross-Module): 3 kết nối TokenEncoder→ConceptModule, TokenEncoder→TokenDecoder, ConceptModule→TokenDecoder (đã shift causal)

Ví dụ đời thường: giống việc học một ngôn ngữ mới: thay vì chỉ học từng từ một (NTP — next token), bạn cũng học cách các nhóm từ tạo thành ý tưởng/meaning units (NCP — next concept). Bạn đoán ý tác giả sẽ nói tiếp dựa trên "concept" đã nắm được, sau đó mới điền từng từ chi tiết — cả hai quá trình cùng học, cùng củng cố nhau.

III. Main Results:

Convergence speed (Stage-1): NCP-ArchPreview đạt final pretraining loss của OLMo-3-7B sau chỉ 51.3% số token (1.95× nhanh hơn), loss gap cuối stage 도달 0.091
Stage-2: 1.51× convergence speedup, loss thấp hơn 0.027,波动更小
Downstream (macro-average): +2.45 điểm so OLMo-3-7B, nổi bật +5.99 điểm trên GSM8K (math reasoning)
Compute efficiency Pareto: 1.74× cải thiện — dùng chỉ 85% computation vẫn tiếp cận được training loss của baseline 8.9B parameter-aligned
Domain adaptation: chỉ update 17M-parameter VQ module (nhẹ) đã làm interface domain adaptation mới;tested on code (HumanEval/MBPP), math (GSM8K/MATH-500), knowledge (TriviaQA)
Inference acceleration: inject concept representations vào DFlash2 speculative drafter → +4.17% mean accepted length với overhead negligible
Controlled ablations khẳng định gains đến từ latent architecture + NCP objective, không phải chỉ do capacity tăng

IV. Conclusion & Future Works:

Contributation cốt lõi: NCP-ArchPreview chứng minh rằng joint token + concept modeling ở tầm trillion-token là feasible và scalable, mở ra architectural blueprint cho thế hệ foundation model tiếp theo — latent-space prediction không chỉ là auxiliary objective.

Hướng mở:

Khai thác synergies giữa NCP và Multi-Token Prediction (MTP): NCP học concept-level dependency, MTP học multiple future tokens — có thể bổ sung cho nhau
Ứng dụng concept space làm interface cho domain adaptation scarcity (data ít → update module nhỏ)
Tối ưu chunk size $k$ theo dữ liệu/task
Mở rộng ra multimodal (video, image — vốn đã có JEPA-style latent prediction thành công)

V. Brainstorming Space:

1. Publish Papers:

NCP-ArchPreview: Moving towards Latent Space Language Models through Next Concept Prediction — The Intern-NCP Team (Shanghai AI Lab, LUMIA Lab SJTU), arXiv:2609.10715, 2026-09-11
Stage-1 checkpoints (khểm 100k steps), drafter models, Stage-1/Stage-2 final checkpoints được release public trên HuggingFace (ArchSpace-Collection) và GitHub (InternLM/lmdeploy, LUMIA-Group/ncp_olmo_eval)

2. Patent:

Module thích ứng miền nhẹ cho LLM pré-trained: tách biệt một small VQ concept module (17M params) có thể được update riêng để chuyển hướng output model về miền mới (code, math, knowledge) mà không cần retrain toàn bộ billions-parameter model — phù hợp edge deployment, mobile, hoặc fine-tuning cost-constrained.

Speculative decoding tăng tốc inference bằng concept guidance: dùng predicted latent concepts như một 'c 처분하여 draFTER' giúp speculize nhiều token hơn per step mà không mất quality — tăng throughput inference của LLM lớn trên thiết bị giới hạn.

Lấy concepts làm 'signature' domain cho personalization: VQ codebook có thể capture đặc trưng miền; dùng concept representation làm feature cho retrieval-augmented personalization — ví dụ hệ thống chatbot企业 có thể adapt nhanh đến phong cách/vốn từ vựng của từng khách hàng chỉ qua VQ module.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.10715
ArXiv Abstract	https://arxiv.org/abs/2609.10715
PDF Download	https://arxiv.org/pdf/2609.10715.pdf
Github Repository	N/A

2. SenseNova-U1.5: Towards Native Unified Visual Intelligence (140 votes)

Tác giả: Haiwen Diao, Jiahao Wang, Chenjing Ding, Hanming Deng, Jiangnan Chen, et al.

Xuất bản lúc: 2026-09-10

Tag: Native-Unified-Multimodal, Visual-Generation, Flow-Matching, Reinforcement-Learning, On-Policy-Distillation, 4K-Generation, Image-Editing, Text-Rendering

I. Main Problem:

Hệ thống thị giác hiện nay tồn tại khoảng cách kiến trúc cơ bản: phần hiểu ảnh dùng bộ mã hóa thị giác (Vision Encoder) đã huấn luyện sẵn, phần tạo ảnh dùng VAE — hai không gian biểu diễn tách biệt, một bên tối ưu cho trừu tượng ngữ nghĩa, bên kia cho trung thành pixel. Sự tách này hạn chế khả năng phối hợp giữa nhận thức, suy luận và tạo hình trong một khung thống nhất.

SenseNova-U1 (tiền nhiệm) đã chứng minh tính khả thi của mô hình native thống nhất không encoder/VAE, nhưng giao diện thị giác nhẹ của nó tái tạo từng token thành mộtpatch RGB độc lập — thiếu trao đổi thông tin giữa các patch lân cận, gây dấu tiếp nối, gián đoạn纹理 và bất nhất hình học ở độ phân giải cao.

II. Main Idea:

SenseNova-U1.5 là mô hình native unified multimodal 8B-MoT (Mixture-of-Transformers), hướng tới trí tuệ thị giác thống nhất từ đầu đến cuối — không cần encoder không cần VAE.

Hai bước tiến chính:

Tái tạo patch có mạch spatial (Spatially Coherent Patch Reconstruction)
- Thay vì dự đoán từng patch 32×32 độc lập qua MLP, model chiếu token vào một trường đặc trưng 2D, sau đó tái tạo ảnh thông qua convolution spatial + Pixel Shuffle (upsampling 2×, 2×, 8×).
- Các vùng lân cận trao đổi thông tin trước khi xác định pixel cuối cùng → màu sắc,纹理, hình học được giải quyết cùng nhau thay vì từng patch riêng lẻ.
- Giữ được hiệu quả của chuỗi token compact nhưng cải thiện coherence không gian, hỗ trợ sinh native đến 4K (4096×4096).
Chiến lược "Chuyên biệt rồi mới Thống nhất" (Specialize-then-Unify)
- Thay vì tối ưu thưởng chung cho tất cả tác vụ trong một policy (dễ xung đột mục tiêu), model trước tiên huấn luyện 4 chuyên gia RL riêng biệt:
  - Aesthetic Expert: thưởng HPSv3++ (chất lượng cảm nhận + alignment prompt ảnh), xen kẽ dữ liệu typography
  - OCR Expert: thưởng nhận diện văn bản song ngữ (PaddleOCR), ghép tập word-level (Anh) + character-level (Tây)
  - Infographic Expert: tạo biểu đồ/thông tin密度
  - Editing Expert: cân bằng giữa tuân thủ hướng dẫn, bảo tồn nội dung không chỉnh, và chất lượng vùng đã sửa
- Mỗi chuyên gia có dữ liệu, thưởng, chiến lược sampling (CPS/Precise), regularization riêng.
- Sau đó hợp nhất qua multi-expert on-policy distillation: chuyên gia hướng dẫn student trên chính trajectories sinh ra bởi student — bảo tồn sức mạnh bổ sung nhưng gói vào một policy thống nhất.

Kiến trúc cốt lõi:

Giao diện thị giác near-lossless: 2 convolution (GELU) downsample 16× rồi 2× → 1 token cho mỗi vùng 32×32, positional embedding 2D, token /.
MoT (Mixture-of-Transformers): backbone duy nhất, attention được cấu trúc để văn bản chỉ attend causal, ảnh sạch attend bidirectional trong block, token sinh attend bidirectional trong block + tất cả context sạch trước đó; hiểu và sinh có parameter riêng (attention proj, norm, FFN) nhưng shared attention làm kênh giao tiếp.
Tín hiệu huấn luyện thống nhất (3 thành phần):
- AR loss (ngôn ngữ): semantic understanding + reasoning
- Flow-matching loss (x-prediction, RGB space, noise scale phụ thuộc độ phân giải): học transformation nhiễu→ảnh trực tiếp
- Perceptual loss (LPIPS): điều chỉnh endpoint sinh về cấu trúc toàn cục nhất quán,纹理 lokal chân thực

Quy trình huấn luyện 5 giai đoạn:

Generation Pre-Training (180K + 100K + 185K steps): flow-matching, độ phân giải 256²→4096², crawl đến editing và interleaved data
Unified Mid-Training (80K steps): joint understanding + generation, sequence length 32,768
Unified SFT (10.5K steps): instruction-following, cosine decay
Multi-Expert RL: 4 chuyên gia riêng biệt
Multi-expert On-Policy Distillation: hợp nhất vào policy duy nhất

III. Main Results:

Chi tiết kỹ thuật:
- Patch size 32×32, 1 token/vùng, compression ratio cao
- Hidden size 4,096, 42 lớp, 32 heads (Q) / 8 heads (KV), head size 64/32/32
- 8.2B tham số (understanding) / 8.2B (generation)
- Native RoPE cho encoding không gian-thời gian thống nhất
- Noise conditioning mở rộng từ 2048² → 4096²
Hiệu năng tổng quát:
- Fidelity ảnh: cải thiện rõ rệt độ trung thành và chất lượng tổng thể
- Text rendering song ngữ (Anh + Trung): chính xác hơn, đặc biệt là chữ nhỏ và phức tạp
- Complex composition: tổ hợp nhiều đối tượng, layout phức tạp
- Multi-reference editing: chỉnh sửa với nhiều tham chiếu, bảo tồn chủ đề, hình học, vùng không sửa
- Interleaved generation: sinh소송 ngăn xen kẽ văn bản + ảnh
- Instruction following: tuân thủ hướng dẫn tốt hơn
Khả năng khái quát hóa đáng chú ý:
- Dù ít tiếp xúc với format có cấu trúc trong dữ liệu sinh, SenseNova-U1.5 tổng quát hóa hiệu quả đến hướng dẫn thị giác dài, phức tạp, có cấu trúc cao
- Chứng tỏ knowledge cấu trúc và lập trình học qua multimodal understanding/suy luận có thể chuyển tiếp sang tạo hình
Thông điệp then chốt: native unification không chỉ là giản lược kiến trúc — một biểu diễn thị giác compact chung có thể hỗ trợ hiệu quả cả "nhìn" lẫn "tạo", và khả năng học được từ dạng trí tuệ thị giác này có thể củng cố lẫn nhau.

IV. Conclusion & Future Works:

Native unified modelling được định vị là hướng đi hứa hẹn cho các hệ thống vừa nhận thức vừa suy luận vừa sáng tạo trong một khung end-to-end hoàn toàn. Bằng chứng then chốt: biểu diễn thị giác compact duy nhất (1 token/32×32 pixel) vừa đủ cho inference hiệu quả, vừa đủ mạnh để mang understanding, reasoning, generation và editing trên cùng một substrate — loại bỏ song song visual pathways và conversion encoder↔VAE-VAE latents.

Hướng mở:

Mở-source code huấn luyện (SFT, RL, on-policy distillation) — đang được công bố kèm paper
Khai thác tiếp khả năng transfer từ understanding sang creation — đặc biệt là structural planning trong sinh ảnh
Mở rộng sang các dạng sáng tạo thị giác phức tạp hơn, thời gian thực, và ứng dụng đa modal khác

Hợp nhất nhiều chuyên gia qua on-policy distillation là khuôn mẫu có thể nhân rộng cho các hệ thống native unified cần nhiều khả năng đặc thù.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng khuôn mẫu specialize-then-unify (multi-expert RL + on-policy distillation) sang các tác vụ native multimodal khác: video sinh, 3D, audio-visual, như một cách tổng hợp chuyên gia đặc thù vào một model duy nhất.
Nghiên cứu kỹ hơn cơ chế transfer: khía cạnh nào của multimodal understanding (suy luận cấu trúc, lập trình ngữ cảnh, quan hệ spatial) học được có thể tái sử dụng cho visual generation và ngược lại — đo lường định lượng転移.
Tối ưu chiến lược thăm dò (exploration) trong RL cho visual generation native: hiện tại CPS/Precise sampling và window-based optimization (5 bước đầu trong trajectory 30 bước) — có thể tìm hiểu scheduling, noise schedule learning, hoặc guided exploration theo ngữ cảnh tác vụ.
Mở rộng giao diện visual interface nhẹ (32×32 token) để giữ được near-lossless fidelity ở độ phân giải cực cao hơn (8K+) hoặc format khác (video khung hình, perfusion, 3D voxel) mà không làm 제조를 sequence length bùng nổ.

2. Patent:

Ứng dụng mobile: chỉnh ảnh trên điện thoại bằng hướng dẫn tự nhiên — người dùng nói/gõ "làm mờ nền sau, tăng sáng mặt, giữ nguyên tóc" → model native unified chạy trực tiếp trên thiết bị, hiểu ảnh và thực hiện editing đồng thời, bảo tồn vùng không sửa nhờ机制 riêng của editing expert, không cần pipeline encoder-VAE tách biệt.
Điện thoại tạo biểu đồ/thông tin trực quan (infographic) từ dữ liệu bảng — nhập dữ liệu + mô tả, model sinh infographic phong phú, có文字, biểu đồ, bố cục ở độ phân giải cao (4K) trực tiếp, phù hợp trình bày trên thiết bị di động và in ấn.
Trình tạo văn bản song ngữ (Anh–Trung/Tây) trong ảnh cho thiết bị di động — accessibility, bilingual caption kèm ảnh, poster, label sản phẩm: user cho ý tưởng, model render chữ chính xác, điều chỉnh font/khung/chạm при необходимости, ít phụ thuộc template cố định.
Chế độ chỉnh sửa đa tham chiếu (multi-reference) trên mobile — người dùng chọn vài ảnh mẫu (vải, kiểu, màu) và hướng dẫn, model tổng hợp đặc tính từ nhiều nguồn vào ảnh chính, giữ đặc điểm nhận dạng chủ thể và vùng không chỉnh — ứng dụng mảng thời trang, trang phục, sản phẩm.
Tạo ảnh độ phân giải cao native trên thiết bị — exploit kiến trúc chỉ cần 1 token/32×32 pixel, sequence length compact, đặc biệt phù hợp với network on-device; kết hợp noise conditioning phụ thuộc độ phân giải để hỗ trợ sinh lên 4K trực tiếp mà không cần upscale hậu kỳ.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.11929
ArXiv Abstract	https://arxiv.org/abs/2609.11929
PDF Download	https://arxiv.org/pdf/2609.11929.pdf
Github Repository	N/A

3. SpatialBlock: Enhancing Spatial Intelligence in LVLMs via Synthetic Block-Stacking Problem (68 votes)

Tác giả: Soohyun Ryu, Sohee Kim, Eunho Yang

Xuất bản lúc: 2026-09-07

Tag: Vision-Language Models, Spatial Intelligence, Synthetic Data, Block-Stacking, 3D Reasoning, GRPO, LoRA

I. Main Problem:

Large Vision-Language Models (LVLMs) hiện đại thất bại trong spatial intelligence — khả năng tái tạo cấu trúc 3D và lý luận không gian từ hình ảnh 2D. Mặc dù LVLMs giỏi nhiều tác vụ 2D, chúng kém chính xác ngay cả với bài toán khối đá cơ bản (con người ~95%, GPT-5 30%, Gemini 20.8%).

Hướng tiếp cận hiện có gặp 3 nghẽn cổ chai:

Phụ thuộc dataset thực tế yêu cầu annotation hình học dày đặc (segmentation, depth estimation)
Quá trình gán nhãn tốn kém, mất thời gian, và nhiễu do dựa vào module perceive bên ngoài
Khó mở rộng (scale) và kém ổn định reliability

II. Main Idea:

SpatialBlock-15k — dataset tổng hợp 15,000 bài toán xếp khối, lấy cảm hứng từ specification phát triển nhận thức của trẻ em (block play giúp trẻ rèn spatial integration, mental simulation). Dataset bao gồm 3 dạng bài:

Q1 — 3D-to-2D projection: dự đoán hình 2D từ một hướng nhìn nhất định, đòi hỏi tái tạo 3D nội tại + suy luận occlusion
Q2 — Viewpoint transformation: dự đoán hình ảnh của khối sau khi xoay/self-rotation, bảo toàn cấu trúc tương đối
Q3 — Structural combination: dự đoán kết quả khi ghép 2 cấu trúc 3D, cần xác định contact interface

Mở rộng visual cue: thêm biến đổi màu sắc điều khiển (depth cue theo tầng, anchor block, colored overlap) để mô phỏng cách con người dùng object làm điểm neo để suy luận quan hệ trong cảnh phức tạp — không chỉ là màu sắc trang trí.

Hai chiến lược huấn luyện:

SpatialBlock-direct: supervised fine-tuning dự đoán câu trả lời ngay, tối ưu accuracy
SpatialBlock-reason: LoRA init (bảo toàn CoT reasoning) + RL bằng GRPO với reward đa mục tiêu (đúng đáp án + format CoT + độ dài 50–1024 token). Không dùng cold-start từ teacher model lớn vì ngay cả GPT-5/Gemini cũng làm sai bài toán này.

Ví dụ đời thường: giống như dạy trẻ nhỏ nhận biết không gian bằng cách xếp những khối đúc sởi — trẻ không cần học từ cả căn phòng đồ đạc phức tạp mà qua việc tháo-xếp khối, chúng tự xây dựng khả năng tưởng tượng cấu trúc 3D trong đầu.

III. Main Results:

In-domain (SB-Bench, 600 câu): SpatialBlock-direct đạt 94.8–97.2% (tùy kích thước model 2B–7B)
Out-of-domain generalization (real-world benchmarks):
- MindCube (mental simulation): SpatialBlock-3B-direct 49.1% (+2.7% so với SpatialLadder-3B); 4B đạt 51.3% — tốt nhất open-source
- MMSI-Bench (logic phức tạp): SpatialBlock-reason 3B 29.2% (+3.2% vs SpatialLadder); 7B 29.7%
- SPBench: SpatialBlock-reason 7B 50.9%, 3B 43.7% — cải thiện dù không train trên dạng câu hỏi này
- MMMU (visual perception tổng quát): giữ ổn định ~46% → không làm suy giảm khả năng nhìn tổng quát
Ablation:
- Bỏ visual cue → giảm 7.9% (direct) và 7.3% (reason) trên MindCube
- Chỉ train 1 trong 3 loại câu hỏi → hiệu năng thấp hơn combine cả 3 → chúng complementary
- Train trên SpatialLadder-26k dùng cùng recipe → kém hơn → gains chủ yếu đến từ task design block-stacking
- Không init → giảm rõ rệt; cold-start full-SFT từ GPT-5/Qwen-7B tạo reasoning nhiễu → LoRA init tốt hơn
So với Synthetic-Real (dataset cùng cỡ nhưng dùng relative direction/distance thông thường): SpatialBlock generalizе tốt hơn lên tất cả benchmark ngoại miền

IV. Conclusion & Future Works:

Spatial intelligence của LVLMs có thể được nâng cao hiệu quả thông qua synthetic task design có mục tiêu thay vì lệ thuộc vào annotation thực tế đắt đỏ. Block-stacking tasks cung cấp tín hiệu học một cách systematically ba thành tố nền tảng: spatial composition, mental simulation, spatial integration.

Hướng mở rộng:

Khám phá scale lên dataset lớn hơn và model lớn hơn
Ứng dụng vào robotics (manipulation planning), autonomous driving (spatial reasoning từ camera)
Kết hợp reasoning-based prediction với cold-start chất lượng cao khi các teacher model đủ tốt

V. Brainstorming Space:

1. Publish Papers:

Mở rộng SpatialBlock sang bài toán spatial reasoning dạng open-ended, không chỉ multiple-choice — ví dụ generate description cấu trúc 3D hoặc hướng dẫn manipulation từng bước.
Tích hợp dataset vào pipeline huấn luyện multi-stage: trước khi học tác vụ thực tế, model thruẩn feature spatial cơ bản từ block-stacking.
Khảo sát tác dụng tích lũy: có nên curriculum giữa các loại câu hỏi (Q1→Q2→Q3) hay train đồng thời như hiện tại?

2. Patent:

Module huấn luyện spatial reasoning cho LVLMs trong smartphone: app dịch vụ cho khách hàng upload ảnh phòng, app tự động áp dụng việc chia khối 3D để trả lời câu hỏi vị trí tương đối (ví dụ: 'tủ lạnh ở đâu so với bàn làm việc?') — dùng kỹ thuật anchor-based color cue để nhận diện mối quan hệ không gian ngay từ ảnh 2D đơn.
Hệ thống đánh giá spatial IQ cho AI trong robotics: dùng bộ test block-stacking dự đoán front/back/left/right view như một benchmark nhanh, giá rẻ, không cần sensor 3D — robot nhà hoặc xe tự hành có thể tự chẩn đoán khả năng suy luận không gian trước khi deploy vào tác vụ thực.
Công cụ sinh data augment cho spatial pretraining: từ vài khối cơ bản, tự động sinh ra vô hạn biến thể (xoay, đổi màu depth cue, ghép cấu trúc) để train model mà không cần thu thập ảnh thực — giải pháp tiết kiệm chi phí annotation cho startup làm spatial AI.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.07064
ArXiv Abstract	https://arxiv.org/abs/2609.07064
PDF Download	https://arxiv.org/pdf/2609.07064.pdf
Github Repository	https://github.com/rsoohyun/SpatialBlock

4. EvoSafeHarness: Evolving Model- and Domain-Specific Harnesses for Securing Agents (36 votes)

Tác giả: Nanxi Li, Yingzi Ma, Yulong Cao, Edward Suh, Bo Li, et al.

Xuất bản lúc: 2026-09-05

Tag: LLM Agents, Prompt Injection, Safety Harness, Security, Adversarial Attacks, Automated Synthesis, System-Level Defenses

I. Main Problem:

LLM agents tác động thực tế (chuyển tiền, xóa dữ liệu, rò rỉ credential) nhưng thị trường an toàn hiện tại có hai khe hở lớn:

Phòng thủ ở mức model (fine-tuning, refusal training) không tạo được ranh giới enforcement độc lập — model vẫn có thể bị lỗi.
Phòng thủ ở mức harness (CaMeL, DRIFT, Progent, SafeHarness) đều là một thiết kế cố định do chuyên gia viết once-for-all, áp dụng giống nhau cho mọi model và mọi domain. Hệ quả:
- Harness quá strict với model đã safety-aligned → utility sụt giá serious (ví dụ CaMeL + DeepSeek: utility từ 70% còn 0%).
- Harness quá yếu với model dễ tấn công → ASR vẫn cao (ví dụ CaMeL + GLM-5: ASR 29.3%).
- Một policy không thể bao quát mọi domain: os-filesystem cần chặn command exfil, finance cần theo dõi money flow & wash trading — không thể ném một bộ filter chung.

Tóm lại: không có một harness phổ quát nào đạt được trade-off an toàn–tiện ích tốt nhất trên mọi triển khai model × domain.

II. Main Idea:

EvoSafeHarness là một khuôn khổ tối ưu hóa harness bảo mật tự động tổng hợp một harness triển khai được, đặc thù cho từng cặp (M, D) — model đóng băng và domain đích.

Cấu trúc harness: H = (P, C)

P (natural-language policy): khai báo ranh giới trust, framing provenance, tiêu chí từ chối — các hướng dẫn ngôn ngữ tự nhiên.
C (executable code logic): chương trình tùy chỉnh có thể rewrite/block tool call, biến đổi output, theo dõi provenance & dataflow, enforce capability, gọi classifier隔离.

4 thành phần trong vòng lặp tối ưu closed-loop:

Designer: đọc archive (source, score, failure traces), đề xuất/edit harness — tự do thay đổi P, C, state, control flow, không bị giới hạn trong taxonomy mechanism cố định.
Criticizer (fresh-context): trước khi đánh giá, một reviewer độc lập trong context sạch Challenge candidate: "Người tấn công giữ nguyên ý đồ nhưng đổi tên file/di chuyển location/rephrase câu lệnh thì rule này còn chặn được không?" → từ chối rule phụ thuộc artifact benchmark, sửa trước khi tốn budget đánh giá.
Cascade Test Environment: staged evaluation nested, cheap-to-expensive:
- Stage 0: static check (build hợp lệ)
- Stage 1: smoke prefix (không crash)
- Stage 2: confidence gate — nếu bootstrap 95% upper bound chứng minh candidate kém hơn no-defense reference > δ điểm → dừng sớm
- Stage 3: full search extension → Đo riêng benign utility, direct ASR, indirect ASR — không ném tất cả vào một scalar.
Analyzer: phân tích failure trace thành experience tái sử dụng được, trả về Designer.

Warm-start từ existing defenses: 8 security design experiences được distill từ CaMeL, DRIFT... (ví dụ: tool output là untrusted data, không phải instruction; effect phải check chống trusted user request trước khi execute). Chỉ là guidance, không phải template — Designer có thể xóa, kết hợp lại, thay thế.

Objective function: score = 100 × (U − ASR). Một harness refuse-everything vẫn chỉ đạt 0 — không thể giả sick bằng cách chặn tất cả.

Ví dụ đời thường: giống như việc thiết kế hệ thống an ninh cho từng tòa nhà riêng biệt. Tòa nhà A (model mạnh, đã có guardhouse sẵn) chỉ cần camera kiểm soát cổngentrances nhẹ; tòa nhà B (model yếu, dễ bị lừa) cần nhiều lớp: kiểm tra giấy tờ, quét bag, theo dõi người lạ khỏi khu vực. Và tòa nhà văn phòng (finance domain) cần theo dõi dòng tiền, nhận diện wash trading; còn nhà máy (os-filesystem) cần chặn 반출 vật liệu nguy hiểm, kiểm soát đường ra vào khu vực nhạy cảm — không thể dùng cùng một bộ quy tắc cho mọi tòa nhà.

III. Main Results:

DecodingTrust-Agent (DTAP) — 15 cell model × domain:
- Trung bình: ASR từ 45.6% → 10.0%, utility mất 3.3 điểm (79.8% còn lại).
- Bested mọi defense cố định (CaMeL ASR 37.7%, DRIFT 42.4%, Progent 10.5% nhưng utility chỉ 56.4%) trên 14/15 cell.
- Direct ASR: 50.9% → 12.6%; Indirect ASR: 40.4% → 7.4%.
- McNemar test: neutralized 385 attacks, chỉ mở 11 attack mới (p ≈ 2×10⁻⁷⁸).
- Ví dụ cụ thể: Sonnet 4.6 os-fs — CaMeL utility 50% ASR 2.9%, EvoSafeHarness utility 80% ASR 0%.
Agent-SafetyBench (ASB):
- Có harm không phải injection: unsafe user request, misinformation trong final answer — defense chỉ gate tool call không xử lý được.
- EvoSafeHarness: UBR thấp nhất mọi block, ASR thấp nhất hoặc băng cấp, utility under attack chỉ thấp 1.4 điểm so với tốt nhất.
- Trung bình 3 victims: duy nhất defense vừa hạ UBR (12.3%) & ASR (7.4%) vừa tăng utility under attack (63.4%).
- SafeHarness băng ASR trên GLM-5.2 nhưng mất 22 điểm utility — chứng tỏ search tìm đúng enforcement point.
**AgentDojo → AgentDyn **(transfer without re-search):
- Trên AgentDojo: utility 82.8%, ASR 0.0% — gấp đôi utility của CaMeL ở cùng zero-ASR point.
- Harness không đổi, chạy AgentDyn (shopping, GitHub, daily-life — domain search chưa thấy): utility 75.0%, ASR 0.0%, tốt hơn cả agent không defense (73.3%).
- CaMeL hoàn toàn không hoàn thành tác vụ trên AgentDyn (utility 0%), Progent xuống 9.7% — policy fitted vào vocabulary tool của AgentDojo bị từ chối tool chưa từng thấy.
Adaptive PAIR attack: harness đóng băng chống 3 PAIR attacker, refinement budget 16 — mean ASR vẫn dưới 20%.
Ablation: bỏ Criticizer → search score không đổi hoặc cao hơn nhưng held-out score hạ tới 31 điểm (chứng tỏ Criticizer chặn overfit vào benchmark artifact).

IV. Conclusion & Future Works:

EvoSafeHarness chứng minh rằng harness bảo mật không nên là sản phẩm once-for-all, mà phải được tối ưu cho từng deployment cụ thể: model决定 enforcement strength, domain决定 safety relations và state cần bảo vệ. Các harness tìm thấy tự giải thích consistent với intuition: model mạnh cần lightweight semantic checks, model yếu cần deterministic gates & provenance state; domain os-filesystem cần command/dataflow filter, domain finance cần transaction ledger & wash-trade detector.

Hướng tương lai:

Mở rộng sang nhiều domain phức tạp hơn (multi-agent, tool chaining sâu).
Tối ưu cơ chế Criticizer: hiện tại là reviewer độc lập, có thể automate toàn bộ.
Khảo sát boundary giữa model-level defense và harness-level defense — khi nào nên invest vào training model, khi nào phụ thuộc harness.
Kết hợp với formal verification của harness code để đảm bảo không có uncovered execution path.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng framework cho multi-agent system: harness phải quản lý safety boundary giữa nhiều agent có quyền hạn khác nhau, không chỉ giữa agent và external content.
Tích hợp formal verification (specification checking, model checking) vào cascade stage để đảm bảo harness code không có logic lỗ hổng — hiện tại chỉ có static import check rất cơ bản.
Tự động hóa Criticizer hoàn toàn: dùng LLM reviewer để challenge harness candidate, giảm dependence vào reviewer thủ công.
Khảo sát synergy: khi nào nên dùng model-level defense (fine-tuning/RLHF) + harness, ngược lại — tại sao defense phổ quát CaMeL làm utility sụt tới 0 trên một số model.

2. Patent:

Hệ thống tự động sinh policy bảo mật cho agent AI theo từng nghiệp vụ: doanh nghiệp cung cấp domain spec (tool, data flow, rule), hệ thống chạy search loop tự động học harness bảo mật phù hợp, nuôi dạy theo feedback từ production — giống như tự động hóa việc viết quy chế an ninh cho từng phòng ban.
Thiết bị di động (mobile) triển nạn agent AI realizan task nhạy cảm (chuyển tiền, chỉnh sửa file, gọi API): mỗi model được cài kèm harness riêng đã được tối ưu sẵn, khi model upgrade thì harness tự động re-search hoặc fallback về rule mới phù hợp — không cần expert viết lại từ đầu.
Sản phẩm 'harness store': từng harness được search và cấp phép cho từng cặp (model, domain), người dùng tải về deploy trực tiếp. Ví dụ: harness 'Claude + os-filesystem' bán riêng, harness 'GLM + finance' bán riêng, transfer learning giữa domain tương tự trong store.
Monitoring dashboard cho agent security: dashboard hiển thị trade-off utility-safe curve của harness hiện tại so với frontier, cảnh báo khi attack pattern mới xuất hiện hoặc utility sụt dưới ngưỡng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.05903
ArXiv Abstract	https://arxiv.org/abs/2609.05903
PDF Download	https://arxiv.org/pdf/2609.05903.pdf
Github Repository	https://github.com/SaFo-Lab/EvoSafeHarness

5. Mi-Ripple: Restoring Images Degraded by Iterative AI Editing (20 votes)

Tác giả: Jiayin Chen, Yicheng Xu, Muting Wang

Xuất bản lúc: 2026-09-10

Tag: Image Restoration, Digital Ripple, Iterative AI Editing, Spectral Analysis, Frequency-domain Filtering, Structure-aware Filtering, Reference-conditioned Generation

I. Main Problem:

Digital ripple — hiện tượng lặp lại 편집 (iterative reference-conditioned editing) làm xuất hiện các kết cấu lưới (grid), dạng ong (honeycomb) hoặc bột hạt (granular) trên ảnh, khó phát hiện ở thumbnail nhưng rõ ở native resolution.

Gốc vấn đề: mỗi lần edit dùng output cũ làm reference → tích tụ texture unwanted qua các thế hệ.
Thách thức cốt lõi: một artifact là spectral contamination (có thể tách biệt frequency → filter bỏ mà không hại detail) hay content-entangled (ví dụ: lá cây dày, tóc → không thể filter mạnh mà không phá hủy nội dung thật).
Nhiều nghiên cứu trước đây chỉ dùng frequency discrepancy để phát hiện ảnh generated hoặc giải thích tại mức kiến trúc 모델; ít công việc tập trung vào bài toán khôi phục thực tiễn khi đã nhìn thấy artifact.

II. Main Idea:

Mi-Ripple: workflow khôi phục dựa trên chẩn đoán (diagnosis-guided), gồm 3 giai đoạn nối tiếp:

1. Chẩn đoán (Diagnose)

Dùng 2 loại probe bổ sung:
- Spectral probe: phân tích log-amplitude spectrum, loại component liên kết (connected components) có excess >1.2 ngoài radius 24, support ≤80 bins. Cần ≥2 component và excess lớn nhất ≥2.5 mới chốt là lattice.
- Spatial probe: kiểm tra window 96-pixel về band-pass strength, excess kurtosis, blob coverage, isotropy; thêm whole-frame scale index (% tiles 128-pixel qualifying).
Tự hỏi: artifact này là lattice (ripple có period rõ) hay granular (hạt vô hướng, liên quan nội dung)?

2. Xử lý (Filter / Regenerate)

Lattice có peak cô lập → selective spectral notching: làm tròn phức spectrum bằng Gaussian feathering (σ=1.5) tại các peak đã chọn, giữ nguyên phase, chỉ modify lightness, giảm boundary effect bằng reflection padding.
Granular / content-entangled → structure-aware suppression: mask nghiêm ngặt dựa trên edge strength, orientation coherence, texture density → giảm band-pass local mà bảo vệ cấu trúc (tóc, khuôn mặt).
Nếu reconstruction chấp nhận được → reference-grade cleaning (suppression rộng hơn, có face protection) rồi regeneration từ reference đã cleaned, sau đó notching lại nếu xuất hiện peak mới.
Không ép filter mạnh khi vùng overlap nội dung thật → chuyển sang human review.

3. Verify

Dùng image difference thay vì anomaly score:
- Structural windows: residual SD ≤0.6 CIELAB lightness, high-frequency retention ≥90%.
- Flat-window band-pass SD không tăng >0.02.
- Whole-image residual SD ≤1.0.
Pass ≠ certifies texture/identity/semantic fidelity — chỉ đo distortion đo lường được.

Ví dụ đời thường: giống như kỹ sư sửa máy có tiếng l Moment lặp lại: đo âm thanh để phân biệt tiếng động cơ bị lỗi (có frequency cụ thể → cắm bộ lọc hở) hay là do cấu trúc máy tự nhiên (rung chứ không thể lọc), nếu không giải quyết được bằng filter thì tháo máy ra 이용 đoạn่วน sạch rồi lắp lại.

III. Main Results:

14 lần thực thi notch-only: whole-image residual SD nằm trong 0.08–0.44 (đơn vị CIELAB lightness).
Paired regeneration: reference cleaning giảm output debris density từ 1,842 → 1,020 components/megapixel (↓45%).
Scale index giảm (gen4 GPT-image-2.5):
- Moss gorge: 25.3% → 11.1%
- Wisteria tunnel: 41.1% → 12.1%
- Ice cave: 20.0% → 0.0%
6 candidate đầu của portrait series: tất cả detect lattice, 2 cái thêm masked suppression; tất cả pass distortion check: residual SD 0.21–0.49, retention 98.9–99.8%.
6 candidate hair-constrained sau notching: residual SD 0.25–0.44.
Bằng chứng channels: Channel B (gpt-image-2.5) lattice-positive ở 43/43 outputs; Channel A âm tính ở 20/20 outputs (1280×720) nhưng dương tính ở 6/6 (1536×1024) → vendor name không dự đoán được artifact.
Banana100 analysis: 5 model families có period đặc trưng persistent/late-emerging; 4 families có step correlation dương với autocorrelation strength; Qwen duy trì period 6-pixel ngang ở mọi step mà không tăng strength.
Prompt constraints không ổn định: dấu hiệu tăng scale index ở 5/8 cặp, giảm ở 3/8; sign-test p-values 0.29, 0.73, 0.73 → không đủ evidence cho benefit nhất quán.

IV. Conclusion & Future Works:

Kết luận: Mi-Ripple chuyển phân biệt lattice/granular từ nhận định theory thành quyết định xử lý thực tế — filter khi spectral isolate, regenerate khi content-entangled, verify bằng distortion measurement chứ không chỉ spectral score. Workflow nối được measurable artifact reduction với visibly cleaner images.

Hạn chế:

Thresholds cụ thể của study cần broader calibration.
Mixed-channel, mixed-canvas chains không isolate causal editing effect.
Single-draw regeneration comparisons chỉ demo restoration route, không phải population-average gain.
Star-shaped workflow (preserve approved references, tránh chain output-to-input) chưa được benchmark quality advantage.

Hướng tương lai:

Matched-channel studies + independently annotated images để ước lượng treatment success rate.
Benchmark star-shaped workflow so với chain workflow.
Mở rộng calibration threshold trên nhiều model family, resolution, nội dung scene đa dạng hơn.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng chẩn đoán distinction lattice/granular cho các model-generated image khác (Stable Diffusion, DALL-E, Midjourney) và đo lường tỷ lệ artifact type theo distribution prompt/scene.
Phát triển benchmark reconstruction quality cho cleaned-reference regeneration: độ fidelity với ground-truth clean ancestor (nếu có) và mức độ invention detail có chấp nhận được.
Nghiên cứu causal effect của scene-change vs same-scene chain trên granular texture accumulation — hiện tại mixed-channel khiến kết luận chỉ mang tính descriptive.

2. Patent:

Ứng dụng mobile restore ảnh AI-generated: người dùng up một ảnh đã qua nhiều thế hệ edit (grid/hạt nổi), app tự động chạy diagnosis: nếu lattice có peak cô lập → notch filter; nếu granular → structure-aware smoothing giữ detail; nếu content-entangled → đề xuất regenerate từ reference đã cleaned (hoặc yêu cầu người dùng chọn). Kết quả trả về ảnh sạch hơn, distortion kiểm soát trong ngưỡng.
Chất lượng kiểm soát (quality control) cho pipeline phát hành nội dung AI: trước khi xuất bản ảnh/generated asset, system tự chẩn đoán digital ripple, đánh scale index và spectral anomaly, ngăn chặn ảnh có artifact nghiêm trọng hoặc yêu cầu human review tự động — đặc biệt hữu ích cho studio sản xuất ảnh thương mại dùng iterative editing.
Star-shaped workflow trên thiết bị di động: thiết kế app edit ảnh theo kiểu "star" — giữ reference gốc đã approved, mọi edit sinh ra từ reference đó thay vì từ output trước đó; giảm tích lũy degradation, phù hợp cho người dùng tạo ảnhчет succession trên điện thoại mà không cần chuyên môn kỹ thuật.
Real-time artifact warning trong editor: khi người dùng edit liên tiếp trên cùng một ảnh, system theo dõi scale index / lattice score theo từng step, cảnh báo sớm khi approaching structured-artifact threshold và đề nghị chuyển sang regeneration từ reference sạch — tương tự như hệ thống cảnh báo overexposure trong camera.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.11317
ArXiv Abstract	https://arxiv.org/abs/2609.11317
PDF Download	https://arxiv.org/pdf/2609.11317.pdf
Github Repository	https://github.com/miyang-ai/Mi-Ripple

6. X-AuT: Progressive Audio-Encoder Compression for Speech LLMs with Cross-Scale Distillation (13 votes)

Tác giả: Haojun Zhang, Yi Zou, Min Chen, Qize Yu, Lianrui Fan, et al.

Xuất bản lúc: 2026-09-10

Tag: Speech-LLM, Audio-Encoder-Compression, Knowledge-Distillation, Progressive-Pruning, Cross-Scale-Distillation, LoRA, ASR, Qwen3-ASR

I. Main Problem:

Mô hình ngôn ngữ lớn âm thanh (speech LLM) kết hợp một encoder audio sâu với decoder tự regression — encoder phải xử lý mọi frame đầu vào nên trở thành người chi phối latency đầu tiên, đặc biệt ở hệ thống streaming/mobile/ô tô. Việc giảm độ sâu encoder sau khi đã train sẵn rất hấp dẫn vì loại bỏ hoàn toàn các Transformer block, tạo mô hình đều và dễ triển khai, rẻ hơn nhiều so với training lại encoder nhỏ từ đầu. Tuy nhiên, xóa các block hoàn chỉnh làm thay đổi embedding âm thanh được đưa vào decoder, gây ra lỗi xóa (deletion) và dự đoán EOS premature — các lỗi không chỉ do mismatch hidden-state mà còn do lịch sử giải mã của chính student.

Hai câu hỏi thực tế chưa có lời giải rõ ràng: (1) loại trộn layer nào có thể bị loại bỏ và hồi phục được dưới một ngân sách training cố định, và (2) chiến lược hồi phục nên xử lý đồng thời cả sai lệch biểu diễn lẫn lỗi do ngữ cảnh giải mã tự sinh của student. Hai câu hỏi này có quan hệ mật thiết: một layer trông thừa thãi khi xét riêng có thể trở nên quan trọng sau khi một layer khác bị loại, do các block sau nhận được biểu diễn đã bị dịch shift và bridge phải giữ nguyên interface decoder đã học trong pretraining.

II. Main Idea:

X-AuT là khuôn khổ pruning tiến tính (progressive) + hồi phục đa giai đoạn, gồm 3 thành phần chính:

1. Lọc dữ liệu theo độ nhất quán transcript (transcript-consistency filtering):

Mỗi utterance dùng transcript nguồn, rồi hai hệ ASR mạnh khác nhau (Qwen3-ASR-1.7B và Qwen3.5-Omni) decode offline.
Tính edit rate (CER cho Trung, WER cho Anh) giữa ba cặp: nguồn–mô hình1, nguồn–mô hình2, mô hình1–mô hình2. Giá trị e_max = maximum pairwise edit rate đo mức độ không thống nhất lớn nhất.
Chấm điểm 9 tier (Tier 1 = đồng nhất hoàn toàn, Tier 9 = thất bại). Thử nghiệm chính dùng class 1 (độ đồng nhất cao nhất) cho cả distillation; Stage 2 giữ nguyên ngưỡng nhưng tăng trọng số nguồn cockpit và target-domain.

2. Chọn tổ hợp layer bằng behavioral probe tiến tính:

Thay vì tính 점수 importância tĩnh từng layer, X-AuT chạy đo thử hành vi ngắn (behavioral probe) dưới cùng một khởi tạo, dữ liệu và tối ưu — đo trực tiếp TER sau khi loại bỏ.
Pruning theo hai bước nhảy: 18 → 16 → 14 layer.
Bước 1: loại layer {1, 18}.
Bước 2: bắt đầu từ checkpoint 16-layer đã hồi phục, làm nóng LoRA 0.3 epoch, đo từng layer còn lại khi loại đơn, rồi đo các cặp layer liền kề và không liền kề. Chọn tổ hợp {5,6} dựa trên TER thấp nhất trên bộ phát triển 5 benchmark. Kết quả cho thấy hiệu ứng không cộng tính: cặp {6,8} (gồm hai single removal mạnh nhất) lại bị kém hơn {5,6} 0.85 pp sau hồi phục như nhau — chứng tỏ không thể suy diễn khả năng hồi phục từ điểm số từng layer riêng lẻ.

3. Ba giai đoạn hồi phục (three-stage recovery):

Stage 0 (5% thời gian distillation): căn chỉnh biểu diễn đa tầng — mất mát MSE + cosine distance giữa teacher/student ở intermediate layer và bridge, cộng logit KD (KL divergence có temperature) và CE transcript. Teacher 24-layer (1.7B, hidden 2048) được chia đều thành M nhóm, student layer m căn chỉnh với teacher layer cuối nhóm m. Vì teacher rộng hơn (2048 vs 1024), dùng MLP 2 lớp với bottleneck 256 chiều để chiếu biểu diễn teacher về không gian student. Encoder audio + bridge trainable hoàn toàn; decoder backbone đóng băng, chỉ LoRA rank-32 trên q/k/v/o và tied output embedding được train.
Stage 1 (95%): tắt mất mát intermediate-layer, giữ bridge alignment + teacher-forced logit KD + gold CE. Sau 20% Stage 1, mỗi 5 bước optimizer là bước student-policy: student sinh prefix tự động, teacher và student đánh giá trên cùng ngữ cảnh tự sinh đó, so sánh distribution trên union top-512. Có cơ chế lọc rollout (min_new_tokens=3, max 256 token, loại bỏ batch degenerate) — nếu ≥50% batch bị từ chối, microbatch đó dùng teacher-forced. ~20% là target scheduling, thực tế có thể thấp hơn do lọc.
Stage 2 (1 epoch): LoRA finetuning thuần CE transcript vàng, encoder/bridge/LoRA trainable ở 5×10⁻⁶, tied lm_head/embedding đóng băng. Tái cân trọng số class-1 dữ liệu về hướng target-domain.

Mô hình decoder (Qwen3) giữ nguyên trọng số pretrained — chỉ adapter LoRA và tied embedding (trong Stage 0-1) được điều chỉnh. Teacher (Qwen3-ASR-1.7B, 24-layer audio) chỉ dùng để distillation, bỏ đi khi inference.

Ví dụ đời thường: Giống như việc rút bớt các khâu kiểm kê trong nhà máy: thay vì đo đạc từng công đoạn riêng để xem cái nào "thiết yếu", X-AuT giả vờ bớt đi một vài khâu rồi quan sát thực tế nhà máy chạy thử dưới cùng thời gian và nhân lực đó — nếu hàng sản xuất ra hư hỏng (lỗi giải mã), quay lại b만원으로 thiết lập khác. Cách "thử thật rồi sửa" này bắt đầu từ削减 nhẹ (18→16), kiểm tra结果, rồi Cuts deeper (16→14) trên nền tảng đã ổn định, cuối cùng dùng cả một Maestro (teacher lớn) để định hướng cho học sinh (student nhỏ).

III. Main Results:

16-layer model (18→16): macro-error 5.61% → 5.27% (giảm 0.34 pp, tương đối -6.1%). Cải thiện 4/10 benchmark, điểm mạnh nhất CommonVoice zh (-1.83 pp), CommonVoice en (-1.85 pp), WenetSpeech-meeting (-1.30 pp). Stage 2 cải thiện tất cả 10 mục so với checkpoint Stage 1.
14-layer model: 147.8M tham số audio-tower, giảm 20.7% so với baseline 186.4M. Macro-error 5.75% (+0.14 pp so với baseline). Giảm latency encoder thực đo: -21.4% trên PPU ô tô, -11.4% trên H800. Phần lớn tổn thất thêm tập trung ở vài benchmark Anh (Fleurs-en +0.93 pp).
So sánh teacher scale: Dùng teacher 1.7B (cross-scale) cho ra 5.55% mean error, tốt hơn hẳn self-distillation từ model 0.6B bản thân (8.45%) — chênh lệch lớn và tốt trên cả 10 benchmark. Cross-scale còn cải thiện macro-error 1.1% so với baseline gốc, trong khi self-teacher tăng 50.6%.
Pruning tiến tính vs trực tiếp: progressive 18→16→14 đạt 5.75%, trong khi pruning thẳng 18→14 dưới cùng ngân sách chỉ đạt 6.73%.
Behavior probe phơi bày tương tác không cộng tính: Single-layer sweep: L6 mạnh nhất (6.29%), L5 thứ nhì (6.42%), L8 thứ ba (6.52%). Nhưng cặp {6,8} đạt 7.78% (penalty tương tác 1.38 pp), trong khi {5,6} chọn được chỉ 6.93% (penalty 0.58 pp). {5,6} tốt hơn {6,8} 0.85 pp.
Chi tiết một số benchmark (14-layer): LibriSpeech test-clean 2.48→2.45% (cải!), CommonVoice zh 9.95→8.36% (cải!), WenetSpeech-meeting 8.36→8.78% (sụt 0.42 pp). 변동 실적 큼.

IV. Conclusion & Future Works:

Ý nghĩa: X-AuT chứng minh rằng giảm độ sâu encoder audio sau pretraining là khả thi và có thể cải thiện error trừu trung bình khi kết hợp Behavioral probe chọn tổ hợp layer + hồi phục đa giai đoạn (căn chỉnh biểu diễn → distillation có scheduled student-policy → LoRA finetuning). Giá trị cốt lõi nằm ở việc coi recoverability là tính chất của tổ hợp layer, không phải tổng điểm số từng layer, và dùng cross-scale teacher mạnh thay vì self-distillation.

Hạn chế nêu trong bài:

Kết quả chỉ single-run (seed 42), không có bootstrap hoặc significance test — chênh lệch nhỏ như 0.14 pp giữa 14-layer và baseline chỉ là quan sát mô tả.
Chỉ test trên một họ model (Qwen3-ASR) và tập candidate hạn chế; tương tác layer, hiệu quả projection alignment, và hành vi EOS có thể khác trên Whisper, Qwen2-Audio hay kiến trúc speech–language khác.
Dùng duy nhất class-1 dữ liệu; pipeline hỗ trợ 9 tier nhưng chưa khai thác thường phụ.
Chỉ nén audio tower, decoder autoregressive vẫn là bottleneck latency toàn hệ thống.

Hướng mở rộng tiềm năng:

Test trên nhiều họ model (Whisper, Qwen2-Audio, v.v.) để xem recipe có generalize không.
S ét các mức độ nhất quán transcript khác (không chỉ class-1) và mixture có kiểm soát.
Mở rộng behavioral probe sang nhiều candidate tổ hợp phức tạp hơn, không chỉ single/pair.
Nghiên cứu tách biệt contribution của pruning recovery và của recipe Distillation本身对 unpruned student có lợi hay không.
Áp dụng cho nén decoder song song hoặc nén toàn bộ end-to-end để giảm latency.*

V. Brainstorming Space:

1. Publish Papers:

Nén encoder audio đa họ model: Áp dụng behavioral probe + progressive pruning + cross-scale distillation cho Whisper, whisper, Qwen2-Audio, v.v. để kiểm tra recipe có robust không, và so sánh hiệu quả projection alignment giữa các kiến trúc khác nhau.
Kết hợp nén encoder với nén decoder: Mở rộng khỏi chỉ nén audio tower, thử nghiệm pruning + distillation trên cả decoder LLM để giảm tổng latency end-to-end, đặc biệt hướng hệ thống mobile/ô tô.
Khảo sát tác động của data-mix và transcript-consistency tier: So sánh training trên class-1 thuần, mixture đa tier, và source reweighting để tìm chiến lược dữ liệu tối ưu chi phí/độ chính xác.
Dự đoán sớm EOS và mitigation: Phân tích cơ chế gây deletion/error EOS khi loại layer, phát triển cơ chế cảnh báo hoặc loss regularization đặc biệt giảm lỗi sớm chấm dứt giải mã trong speech LLM nén."， "Behavior probe hiệu quả hơn: Thay vì đo TER trên development suite sau warm-up ngắn, dùng proxy nhanh hơn (confidence, hidden-state divergence) để sàng candidate, giảm chi phí chọn layer.

2. Patent:

Speech LLM nén cho điện thoại/voice assistant: Phone cài speech LLM với encoder audio 14-16 layer (giảm 10-20% tham số, giảm 11-21% latency encoder). Phương pháp progressive behavioral probe chọn tổ hợp layer tối ưu cho hardware mục tiêu, kết hợp cross-scale distillation từ model lớnờ cloud, LoRA finetuning nhẹ để tăng độ chính xác. User nói chuyện, encoder xử lý nhanh, decoder sinh text, battery-friendly.
Hệ thống nhận diện giọng nói ô tô (in-vehicle ASR) nén: Xe cài encoder 14-layer với PPU, latency giảm 21.4% đo реальность. Pipeline lọc dữ liệu cockpit-domain qua transcript-consistency + source reweighting để model nhạy tiếng ồn phòng lái. Teacher 1.7B dùng offline cloud để distillation, sản phẩm chỉ chạy student nhỏ.
Công cụ chọn cấu trúc encoder tự động (auto-encoder-pruning): Dịch vụ/cloud tool cho dev: upload model speech LLM, chọn độ sâu mục tiêu, hệ thống chạy behavioral probe trên dev suite, chọn layer combination tối ưu, tự động thực hiện 3-stage recovery (representation alignment + cross-scale distillation + LoRA finetuning), trả về checkpoint nén sẵn. Giúp team không phải thủ công thử từng tổ hợp layer.
On-device distillation với teacher ở xa: Thiết bị mobile nhẹ không đủ compute để distillation時 sử dụng teacher lớn, nhưng tận dụng cloud/GPU mạnh offline để huấn luyện student nén (cross-scale distillation với teacher 1.7B→0.6B), rồi chỉ deploy student. Ứng dụng: cá nhân hóa ASR trên điện thoại không tốn kém local training.
ASR đa ngôn ngữ nén cho dịch vụ transcription: Qwen3-ASR hỗ trợ Trung-Anh, nén 18→16 layer vẫn cải thiện nhiều benchmark. Ứng dụng: dịch vụ transcription đa ngôn ngữ với cost thấp, latency thấp, dùng single model nén cho nhiều ngôn ngữ thay vì model riêng, branch filtering ngữ cảnh bản địa qua data selection.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.11412
ArXiv Abstract	https://arxiv.org/abs/2609.11412
PDF Download	https://arxiv.org/pdf/2609.11412.pdf
Github Repository	https://github.com/XPENG-AI/X-AuT

7. Memory as Plans: World-Action Modeling with Memory-Grounded Planning (10 votes)

Tác giả: Sizhe Zhao, Haozhe Xie, Weiyu Zhao, Chenchu Zhang, Huan Wang, et al.

Xuất bản lúc: 2026-09-10

Tag: Vision-Language-Action, Robotics, World Modeling, Memory, Long-Horizon Manipulation, Mixture-of-Transformers

I. Main Problem:

Các tác vụ thao tác robot phức tạp thường không Markovian — thông tin quan trọng cho quyết định tương lai không còn visible trong quan sát hiện tại, đòi hỏi bộ nhớ dài hạn. Hai hướng hiện có đều có hạn:

Ngôn ngữ tóm tắt:compact nhưng đánh mất bằng chứng trực quan chi tiết (vị trí, màu sắc, cấu hình vật thể)
Cửa sổ hình ảnh mở rộng:giữ evidence trực quan giàu nhưng latency và GPU memory tăng dần theo chiều dài lịch sử, gây trade-off giữa phạm vi bộ nhớ và hiệu quả thực thi.

II. Main Idea:

MaP-WAM (Memory as Plans) phân tách bài toán world-action modeling phụ thuộc bộ nhớ thành hai pha:

1. Memory-Grounded Planning (hoạch định có nền tảng bộ nhớ):

Duy trì multimodal episodic context C<k: lịch sử thực thi ở cấp segment, gồm completed segment instructions + sparse visual context (covet frames được lấy mẫu đều từ trajectory thực)
VLM planner dự đoán language plan cấp đoạn tiếp theo (lk)
Causal World Model (CWM) dịch language plan + visual context dài hạn thành visual plan Gk — hướng dẫn trực quan chi tiết cho execution
Hai thành phần tạo thành memory-grounded plan Ck = {lk, Gk} nối ngữ nghĩa tác vụ với sự tiến hóa trực quan mong muốn

2. Plan-Conditioned Execution (thực thi điều kiện bởi kế hoạch):

WAP (World-Action-Progress) model — mở rộng pretrained video DiT với Mixture-of-Transformers: visual expert + action expert (1.02B params) + progress expert (207M params)
Jointly dự đoán future visual dynamics + action chunk + execution progress
Progress là modality đặc biệt nối execution state với visual plan, định vị thời gian semantic stage
Plan-observation alignment: dùng visual plan làm reference được index theo progress, lấy frame gần nhất về mặt visual với observation hiện tại để hiệu chỉnh progress — giảm sai số tích lũy
Progress-gated segment transition: khi predicted progress vượt threshold τ=0.95, chuyển sang segment mới, cập nhật episodic context bằng real observations

Ý tưởng cốt lõi: không truyền toàn bộ lịch sử frames vào executor mà biến lịch sử thành kế hoạch tĩnh — executor chỉ cần context cố định (plan + current observation + proprio + progress). Giống như nhân viên mới học công việc: thay vì nhớ từng chi tiết mọi lần làm trước, họ ghi chú lại "công việc đã làm" và "cần làm gì tiếp theo" thành một kế hoạch ngắn — đến lượt làm họ chỉ reference kế hoạch đó, không phải toàn bộ quá khứ.

III. Main Results:

RMBench (simulation): 83.3% success rate tổng thể — SOTA, cao nhất so với LingBot-VA (77.1%), Mem-0 (42.0%), π0.5 (10.4%)
Task-specific highlights:
- Swap T (cần nhớ vị trí khối T ban đầu): 96% (vượt baseline 88%)
- Press Button (phân biệt trạng thái视觉相似): 96% (vượt 84%)
- Observe and Pick Up (phân biệt nhiều loại vật thể, reasoning spatio-temporal): cải thiện từ 9% → 19%
Real-robot (Franka Research 3): 78.0% tổng thể — 88% trên Find Button, 68% trên Press Buttons (baseline gần như thất bại)
Hiệu suất inference: executor latency giữ ~827ms không đổi khi lịch sử tăng từ 0 đến 1700+ frames; LingBot-VA (full context) đạt OOM ở 1700 frames, latency tăng ~4× ở 1500 frames
Ablation tiến bộ:
- Không visual plan (chỉ language plan): sụt giảm trên Observe and Pick Up, Swap T
- Không visual memory (dùng world model conditioned trên observation hiện tại): sai object identity/vị trí — visual memory là quan trọng
- Không progress condition: sụt đáng kể trên Press Button (không phân biệt tốt pressing/releasing phases)
- Không progress calibration: sai số tích lũy trên tác vụ dài (Blocks Ranking Try ~423 steps)

IV. Conclusion & Future Works:

Tổng kết: MaP-WAM chuyển tích trữ bộ nhớ dài hạn từ đầu vào dense của executor sang bằng chứng thời điểm hoạch định, sinh kế hoạch gồm language plan + visual plan rồi thực thi bằng WAP model có progress-aware. Giữ executor context cố định, latency không đổi, nhưng vẫn truy cập được fine-grained visual evidence qua visual plan.

Hạn chế & hướng mở rộng:

Hiện tại dựa vào segment structure có sẵn trong benchmark — bước tiếp theo: automatic segment discovery từ unsegmented demonstrations
Plan-observation alignment dùng matching metric không cần training — có thể cải thiện robustness bằng learned similarity measure trong scene phức tạp

V. Brainstorming Space:

1. Publish Papers:

Tự động phát hiện segment từ trajectory thô không có annotation để MaP-WAM áp dụng cho dữ liệu thực tế lacking segment labels.
Thiết kế metric similarity học được (learned) cho plan-observation alignment, tăng độ tin cậy trong môi trường视觉 phức tạp, ánh sáng thay đổi.
Mở rộng framework cho đa robot hoặc robot anthropomorphic: mỗi tác nhân duy trì episodic context riêng và coordinate qua shared plans.

2. Patent:

Robot thao tác gia đình với bộ nhớ dài hạn: khi người dùng ra lệnh "lấy ly đã dùng vào buổi sáng", robot reference episodic context (frame sparse từ buổi sáng) để xác định vị trí ly cụ thể, không phụ thuộc vào vị trí hiện tại của ly.
Hệ thống công nghiệp thích ứng với thay đổi môi trường: robot maintain segment records từ các phiên làm trước, khi layout bàn sản xuất thay đổi, robot dùng visual plan grounding để locate lại vị trí vật thể dựa trên memory chứ không cần reprogram.
Robot y tế/hỗ trợ người già với ngữ cảnh dài: robot ghi nhớ thói quen và thông tin liên quan (ví dụ: thuốc đã đưa lúc 8h sáng) và dùng memory-grounded plan để đưa quyết định tương lai mà không cần người dùng lặp lại.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.11561
ArXiv Abstract	https://arxiv.org/abs/2609.11561
PDF Download	https://arxiv.org/pdf/2609.11561.pdf
Github Repository	https://github.com/aipixel/MaP-WAM

8. An Open Recipe for IMO Gold: Training Nemotron for Olympiad Mathematics (37 votes)

Tác giả: Ivan Moshkov, Stephen Ge, George Armstrong, Wei Du, Sadegh Mahdavi, et al.

Xuất bản lúc: 2026-09-09

Tag: Olympiad Mathematics, Proof Generation, Supervised Fine-Tuning, Reinforcement Learning, Test-Time Compute, Model Ensembling, LLMs

I. Main Problem:

Tạo ra lời giải olympic chất lượng huy chương vàng từ ngôn ngữ tự nhiên (không dựa vào công cụ formal) là bài toán cực khó vì:

cần lập luận chặt chẽ và dài hơi trên bài khó, không chỉ ra đáp số
mô hình phải tự phát hiện lỗi logic, chỉnh sửa và chọn bản tốt nhất để nộp
các hệ thống trước đạt được hoặc nhờ formal prover như Lean, hoặc không công khai toàn bộ recipe để tái lập

II. Main Idea:

Bài báo đề xuất một pipeline test-time-compute mở hoàn toàn, vận hành hoàn toàn bằng ngôn ngữ tự nhiên, gồm hai giai đoạn:

Giai đoạn tìm kiếm: ba checkpoint Nemotron-3-Ultra (GA, SFT, RL) cùng sinh 384 lời giải thử ở vòng đầu với các chiến lược khác nhau; panel hai verifier chấm điểm 0/0.5/1 và viết phản hồi; các vòng sau tinh chỉnh các bản tốt nhất dựa trên phê bình, lặp tối đa 8 vòng cho tới khi một bản được 16/16 phiếu chấp nhận
Giai đoạn chọn bài nộp: mỗi ứng viên cuối được chấm 48 lần theo thang IMO 0-7; bản có điểm trung bình cao nhất được gửi đi thi

Hai specialist được huấn luyện bằng SFT dữ liệu tổng hợp (414,890 ví dụ proof/refinement/verification) và RL với reward correctness trên ~9,600 bài chứng minh.

Ví dụ đời thường: giống một đội học sinh thi toán cùng làm một đề: mỗi bạn thử một hướng khác nhau, sau đó cả nhóm chấm chéo, chỉ ra lỗ hổng, bản nào được cả nhóm nhất trí đúng hoàn toàn mới được đem đi nộp.

III. Main Results:

Đạt 30/42 điểm tại IMO 2026, vượt ngưỡng huy chương vàng (29); full điểm 4 bài, 1 điểm mỗi bài 3 và 6
Hai checkpoint post-trained vượt trội bản GA: RL đạt 180 điểm (30 bài dev set), SFT đạt 165, GA chỉ 162; ensemble đầy đủ đạt 188
Nhóm ba model giải được nhiều bài hơn gấp đôi ngay từ vòng 1 (91 so với 34-70 của model đơn)
Tổng tài nguyên thi: ~707M token sinh và 1,464 GPU-hour GB200 cho 6 bài nộp; 4,800 GPU-hour cho toàn run
Một lời giải P6 tìm được sau giờ thi được hội đồng người chấm lại cho 4/7, nâng tổng lên 33 điểm (không chính thức)
Công khai toàn bộ: checkpoint, dữ liệu, code, bài nộp và Nemotron-IMO-Bench (200 bài mới hoàn toàn)

IV. Conclusion & Future Works:

Hệ thống chứng minh rằng không cần formal prover mà chỉ cần kết hợp post-training đúng (SFT + RL) với test-time search có cơ chế verify-refine đủ chặt vẫn đạt huy chương vàng IMO, đồng thời mở toàn bộ recipe để cộng đồng tái lập. Một điểm yếu lộ ra là model-based verifier có điểm mù chung trên các bài cực khó (P3, P6), chấm cao hơn giám khảo thật 2 điểm. Hướng tương lai: nâng độ tin cậy của verifier độc lập, cải thiện hiệu quả search trên bài khó nhất, và mở rộng benchmark đánh giá.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu verifier mù chung: phân tích hệ thống tại sao các model LLM cùng chấm quá cao trên những chứng minh sai sót tinh vi, và đề xuất kỹ thuật calibration cho panel chấm điểm đa model.
Mở rộng pipeline generate-verify-refine cho các kỳ thi viết luận dài và nghiên cứu toán học, nơi không có đáp án chuẩn mà phải dựa vào chấm chéo lặp.
Tối ưu hóa phân bổ compute trong test-time search: chiến lược adaptive chọn số vòng, số verifier và ngân sách tinh chỉnh theo độ khó ước lượng của từng bài toán.

2. Patent:

Ứng dụng điện thoại hỗ trợ giải toán thi: người dùng chụp đề, ứng dụng chạy nhiều mô hình song song mỗi model thử một cách tiếp cận, các model tự chấm chéo và chỉnh lỗi cho nhau, cuối cùng đưa ra lời giải đã được kiểm chứng nhiều lần kèm giải thích từng bước.
Hệ thống kiểm chứng bài luận tự động cho nền tảng giáo dục: một model viết bài, nhiều model đóng vai giám khảo chấm điểm 0-7 theo thang quốc tế, phát hiện lỗ hổng lập luận và gợi ý cải thiện trước khi nộp.
Trợ lý nghiên cứu khoa học trên thiết bị di động: cho phép nhà nghiên cứu nhập ý tưởng chứng minh, hệ thống sinh nhiều phương án, tự đánh giá độ tin cậy từng bước và đề xuất hướng sửa khi lập luận còn sơ hở.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.10712
ArXiv Abstract	https://arxiv.org/abs/2609.10712
PDF Download	https://arxiv.org/pdf/2609.10712.pdf
Github Repository	N/A

9. FreeFlow: A Bias-free Hierarchical Transformer for Optical Flow Estimation (34 votes)

Tác giả: Vladislav Bargatin, Alexander Yakovenko, Khaled Abud, Dmitriy Vatolin

Xuất bản lúc: 2026-09-10

Tag: Optical Flow, Vision Transformers, Attention, High-Resolution Dense Prediction, Inductive Bias, Siamese Networks

I. Main Problem:

Các phương pháp Optical Flow mạnh hiện nay thường phụ thuộc vào giả định thiết kế riêng cho tác vụ: bảng so khớp/correlation volume, biến dạng đặc trưng theo chuyển động, tinh chỉnh lặp, và upsampling lồi. Những thành phần này giúp chính xác nhưng:

ràng buộc mô hình vào heuristic có sẵn, khó học cấu trúc mới;
làm pipeline phức tạp, khó sửa, khó scale, khó tái dùng ngoài optical flow;
nhiều mô hình transformer gần đây vẫn còn warping, iteration, tiling hoặc decoder convolution lớn;
nhiều phương pháp train ở độ phân giải thấp, có thể giới hạn độ chính xác khi inference FullHD.

Ở độ phân giải cao, optical flow cần đồng thời lý luận cục bộ mạnh để giữ biên vật thể và chi tiết nhỏ, lẫn truyền thông tin xa để bắt chuyển động lớn.

II. Main Idea:

FreeFlow là hierarchical transformer không dùng thành phần chuyên biệt cho optical flow: không correlation volume, không feature warping, không pyramid refinement, không iterative refinement, không convex upsampling; chỉ là một encoder-decoder feed-forward duy nhất.

Hai ảnh đầu vào được cắt thành patch 8×8 và đưa qua encoder Siamese dùng chung trọng số, tạo đặc trưng F1 và F2.
Decoder xen kẽ self-attention và cross-attention giữa hai view để tạo flow tokens.
Mỗi tầng dùng ba dạng attention theo thứ tự cố định: Window attention xử lý cục bộ trong từng ô; Shifted-Window attention lệch nửa cửa sổ để thông tin qua biên ô; Global attention chạy ở độ phân giải giảm 2× để lấy ngữ cảnh xa với chi phí chấp nhận được.
Thiết kế này cho phép dense feature fusion lặp lại xuyên suốt mạng thay vì chỉ gộp cuối decoder; kết hợp xử lý tile cố định, hiệu quả ở 1080p.
Dùng RoPE cho vị trí token và hệ số attention theo log số token để tổng quát hóa tốt hơn khi inference độ phân giải cao hơn train.
Flow head chỉ là ba lớp convolution đơn giản, xuất trực tiếp flow và uncertainty cho mixture-of-Laplace loss, không cần refinement lặp.

Ví dụ đời thường: giống người ghép tranh từ nhiều mảnh nhỏ: nhìn kỹ từng mảnh để giữ nét, đổi mảnh sang vị trí lệch một chút để nối đúng đường ranh, rồi lùi ra xa một nhịp để kiểm tra cả bức tranh trước khi dán nốt mảnh cuối.

III. Main Results:

Sintel: EPE Clean 0.68, EPE Final 1.48.
KITTI-2015: Fl-all 3.23.
Spring: 1px 3.192; trên bảng so sánh trong trích đoạn, FreeFlow-L đạt EPE và Fl tốt nhất trong các phương pháp so sánh, đồng thời ngang mạnh nhất ở 1px và WAUC.
Vẫn tiết kiệm bộ nhớ ở inference 1080p, với các biến thể S/M/L cho thấy accuracy tăng nhất quán khi scale model.
Qualitative trên Spring cho thấy biên chuyển động sắc hơn các baseline mạnh, đồng thời giữ consistency chuyển động tốt hơn ở vùng nền và chi tiết mỏng.

IV. Conclusion & Future Works:

Kết luận chính: bỏ hoàn toàn inductive bias riêng cho optical flow không làm mất state-of-the-art nếu thay bằng kiến trúc transformer phân cấp có trao đổi cục bộ-toàn cục lặp lại và decoder/head tối giản. Điểm then chốt là cân bằng giữa local detail, cross-window exchange, và global context ở độ phân giải cao. Phần trích không nêu future work cụ thể; hướng mở rộng tự nhiên từ kết quả là tối ưu hiệu quả/tốc độ ở FullHD, kiểm chứng khả năng tái dùng sang các bài toán dense prediction khác, và nghiên cứu cách scale dữ liệu/độ phân giải cho mô hình bias-free.

V. Brainstorming Space:

1. Publish Papers:

Một kiến trúc bias-free thống nhất cho stereo matching, optical flow và depth estimation từ cặp ảnh, dùng chung encoder Siamese và decoder cross-attention với ít thành phần chuyên biệt hơn.
Chiến lược token-budget biến thiên cho training high-resolution dense prediction, kiểm chứng đánh đổi giữa tỉ lệ khung hình ngẫu nhiên, chi phí GPU và độ chính xác ở FullHD.
Distillation và pruning FreeFlow cho thiết bị biên: giữ local-window/global-block nhưng giảm chiều, số block và chi phí attention toàn cục để chạy video 1080p trên điện thoại.
Uncertainty-aware optical flow với mixture-of-Laplace cho video editing: tự động phát hiện vùng biên không chắc để giảm artifact khi nội suy khung hình hoặc tái chiếu chuyển động.

2. Patent:

Ứng dụng chống rung video trên điện thoại: dùng chuyển động pixel giữa hai khung hình liên tiếp để ước lượng dao động camera, sau đó bù bằng cách dịch ảnh theo hướng ngược lại; kiến trúc không cần bảng so khớp riêng giúp dễ nhúng vào app camera.
Chế độ quay video thiếu sáng trên điện thoại: ước lượng vùng đang chuyển động nhanh và vùng gần như yên để chọn thời gian phơi sáng riêng, giảm nhòe đồng thời tránh bóng ma ở vật thể di chuyển.
Hiệu ứng thực tế tăng cường dính vật thể ảo: điện thoại quay một cảnh, tính chuyển động từng pixel giữa các khung rồi neo mô hình 3D hoặc nhãn văn bản lên bề mặt thật khi người dùng di chuyển camera.
Nén và truyền video trong mạng yếu: thay vì gửi toàn bộ khung hình mới, thiết bị chỉ gửi chuyển động pixel ước lượng giữa hai khung, bên nhận dựng lại khung tiếp theo và làm mượt các vùng còn mơ bằng độ tin cậy đi kèm.
Chụp ảnh chân dung xóa phông nhanh: dùng chuyển động giữa hai khung khi người dùng lắc nhẹ điện thoại để phân biệt chủ thể ở gần và nền xa, từ đó tạo mặt nạ xóa phông mà không cần cảm biến chiều sâu riêng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.11486
ArXiv Abstract	https://arxiv.org/abs/2609.11486
PDF Download	https://arxiv.org/pdf/2609.11486.pdf
Github Repository	https://github.com/msu-video-group/freeflow

10. MetroLLM-Bench: Evaluating Language Models as Transit Kiosk Runtimes (32 votes)

Tác giả: Remco Hendriks

Xuất bản lúc: 2026-09-09

Tag: Benchmark, LLM Agents, Function Calling, PEFT, QLoRA, Tool Use, Evaluation

I. Main Problem:

Hệ thống kiosk bán vé metro truyền thống mã hóa quy tắc giá vé, tuyến đường và ứng phó sự cố dưới dạng state machine cứng, nên mỗi thay đổi (đóng ga, khung giá mới, lịch nghỉ lễ) đều phải qua chu kỳ triển khai phần mềm đầy tốn kém. Bài toán: liệu một language model có thể thay thế lớp policy của kiosk — đọc mô tả hệ thống bằng ngôn ngữ tự nhiên, gọi tool có cấu trúc và xuất trạng thái cuối mà phần cứng kiosk render được — hay không, đặc biệt dưới các tình huống gián đoạn dịch vụ, đa lượt hội thoại và đầu vào adversarial vốn là thường trực ở kiosk đón khách?

II. Main Idea:

Tác giả xây dựng MetroLLM-Bench, benchmark 955 ca trên 6 hệ metro thật (MARTA, Doha, BART, Taipei, CTA, Bắc Kinh — 37 đến 414 ga), gồm 11 nhóm tác vụ: routing, tính giá, gián đoạn, accessibility, văn hóa, policy, đa lượt, adversarial, temporal, tool-hallucination và compound stress. Cách vận hành:

Mỗi hệ có một framebook (thuật ngữ, tiền tệ, giờ hoạt động, quy ước văn hóa) được chèn vào system prompt, cho phép cùng một model chạy 6 bộ quy tắc khác nhau không cần đổi code.
Model chạy vòng lặp ReAct tối đa 20 lượt, gọi 6 tool (route planner, fare calculator, station/line info, disruption feed, knowledge base) rồi kết thúc bằng submit_assistant_state — trạng thái cuối gồm outcome (1 trong 5 loại), báo giá vé từng loại và hành động kiosk, được validate bằng Pydantic.
Chấm điểm 2 tầng: Tier 1 gồm 14 thành phần deterministic (đúng tuyến, đúng giá, không hallucinate tool...) vừa là thước đo vừa làm reward cho fine-tuning; Tier 2 gồm 8 thành phần chất lượng ngữ nghĩa, 6 cái dùng LLM judge đã hiệu chuẩn với người (judge đồng thuận với tác giả tốt hơn hai người đồng thuận với nhau).
Split 75/25 stratified theo hệ: 717 ca cho sinh dữ liệu huấn luyện, 238 ca held-out cố định trước khi train.

Ví dụ đời thường: giống nhân viên quầy vé mới chỉ cần đọc cuốn sổ tay nội quy của từng tuyến tàu thay vì học thuộc lòng mọi quy tắc — đổi tuyến nào thì đổi sổ tay đó, còn tra cứu bản đồ và bảng giá (tool) là xử lý được ngay.

III. Main Results:

Kết quả triển khai trọng tâm: student Qwen 3.5 4B fine-tune bằng PEFT (bản Q4_K_M chỉ 2.6 GB) đạt Tier 1 = 91.3 trên held-out, vượt cả hai tầng GPT-5.6 (90.6 và 90.0) và ngang GPT-5.4 full ở effort cao nhất (91.4).
PEFT sweep 4 kích thước (2B/4B/9B/27B, nhiều seed): lợi ích của PEFT giảm đơn điệu theo năng lực base — +7.03 điểm ở 2B, +2.00 ở 4B, +1.65 ở 9B, âm (−0.91) ở 27B; mọi seed đều cùng chiều. Student 9B và 27B không cải thiện gì thêm so với 4B.
Baseline rule-based (script nối cố định các tool) đạt Tier 1 = 84.6, gần bằng model ở routing/giá vé; lợi thế của LLM tập trung ở các nhóm cần ra quyết định: temporal (+21.4), compound (+22.8), accessibility (+21.5), policy (+23.4).
Muse Glimmer 30B dẫn bảng xếp hạng composite; top 11 khít nhau trong 3.18 điểm, không có khoảng cách lớn.
Cấu hình serving quyết định 2.7/3.6 điểm chênh lệch giữa Qwen 3.5 và 3.8 — ngân sách output token và decoding greedy vs sampling đổi optimum giữa các thế hệ model; leaderboard một-cấu-hình-duy-nhất biến lệch cấu hình thành chênh lệch năng lực giả.
Gemma 4 E2B/E4B bị loại khỏi ranking vì 28–33% ca không submit được trạng thái hợp lệ (lỗi cú pháp, không phải chọn sai tool).
Huấn luyện toàn bộ sweep chỉ tốn 9.4 GPU-giờ trên một RTX 5090.

IV. Conclusion & Future Works:

Trên tác vụ kiosk bị chặn rõ ràng, hiệu năng Tier 1 mức frontier không cần API frontier độc quyền: một model open-weight 4B (2.6 GB) fine-tune PEFT đạt parity với GPT-5.4 full effort cao nhất trong stack tự vận hành. Benchmark cũng cho thấy (1) PEFT chỉ đáng giá khi base model còn yếu — tới 27B thì thành có hại, và (2) chấm điểm LLM-agent phải tách deterministic/semantic và hiệu chuẩn judge với người. Hướng tương lai: mở rộng cross-judge calibration sang model không phải Anthropic, kiểm soát độ lạc quan khi chọn cấu hình serving trên chính tập held-out, và giảm chồng lấp mẫu giữa tập train/held-out.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng MetroLLM-Bench sang kiosk đa phương thức (giọng nói, màn hình cảm ứng) với scoring deterministic cho luồng hội thoại bằng lời nói có lỗi nhận diện.
Nghiên cứu chiến lược chọn cấu hình serving tự động theo từng model (ngân sách token, decoding) để leaderboard LLM-agent không bị nhiễu bởi lệch cấu hình giữa các thế hệ.
Khảo sát giới hạn PEFT trên nhiều domain agent khác để kiểm chứng đường cong 'lợi ích fine-tuning giảm và âm hóa khi base đủ mạnh' ngoài bài toán transit.

2. Patent:

Kiosk bán vé tàu điện chạy bằng model ngôn ngữ nhỏ trên thiết bị: khi đổi giá vé hoặc đóng ga, vận hành viên chỉ cập nhật file mô tả quy tắc bằng ngôn ngữ thường; model gọi các tool nội bộ (bản đồ tuyến, bảng giá) và xuất màn hình kết quả cho khách — không cần nâng cấp phần mềm kiosk.
Ứng dụng điện thoại hỗ trợ hành khách đi metro nhiều thành phố: người dùng chọn thành phố, ứng dụng nạp 'sổ tay quy tắc' của hệ đó và trả lời câu hỏi về giá vé, tuyến vòng khi có sự cố, vé giảm giá cho người khuyết tật bằng cách gọi các tool tra cứu cục bộ.
Hệ thống quầy tự phục vụ trong trung tâm thương mại/sân bay dùng model 2–4 GB fine-tune sẵn: khi có sự cố (thiên tai, bảo trì), nhân viên gõ mô tả tình huống vào hệ thống; model tự đổi câu trả lời và hướng dẫn khách mà không qua đội phát triển.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.10016
ArXiv Abstract	https://arxiv.org/abs/2609.10016
PDF Download	https://arxiv.org/pdf/2609.10016.pdf
Github Repository	https://github.com/continker/metrollm-bench

11. HyQuant: Hybrid-Precision Quantization for LLM Attention (31 votes)

Tác giả: Jiatong Ding, Bingxin Xing, Yu Zhang, Dian Ding, Xiaodong Yi, et al.

Xuất bản lúc: 2026-08-28

Tag: Quantization, KV Cache, Attention, Long-Context Inference, LLMs, Mixed Precision, FlashAttention

I. Main Problem:

Khi suy luận ngữ cảnh dài, Prefill chủ yếu bị giới hạn bởi tính toán, còn Decode bị giới hạn bởi băng thông và dung lượng bộ nhớ do phải đọc/ghi lại trạng thái quá khứ liên tục. Quantization đồng nhất xuống bit thấp giúp giảm chi phí, nhưng gây lỗi lớn vì attention trong LLM không đồng đều: một số ít token được nhiều query tham chiếu lặp lại, tạo các vertical lines trên heatmap. Lỗi nhỏ ở các vị trí này bị khuếch đại qua nhiều lần truy cập, khiến chất lượng suy luận dài và CoT giảm mạnh. Các phương pháp trước chủ yếu làm mượt outliers hoặc xóa token, chưa trả lời câu hỏi: phân bổ độ chính xác hỗn hợp thế nào cho phù hợp với độ nhạy không đồng nhất của từng token.

II. Main Idea:

HyQuant dùng hybrid precision: giữ nguyên độ chính xác cao cho rất ít token quan trọng, còn lại nén xuống bit thấp.

Vertical-line awareness: với mỗi layer/head, tính điểm cột attention tích lũy S(k)=Σ a(t,k); chọn top khoảng 5% vị trí không thuộc cửa sổ gần nhất làm vertical-line tokens.
Local window: giữ thêm một cửa sổ trượt gần nhất ở full precision để bảo vệ ngữ cảnh cục bộ.
Prefill: chia key/value thành nhóm full precision và nhóm low-bit, rồi fuse cả hai đường trong một kernel theo kiểu FlashAttention/online softmax.
Decode: lưu KV cache dạng hỗn hợp, phần lớn ở 4-bit, nhưng dequantize ngay trong attention kernel, không vật chất hóa bản full precision trung gian.

Ví dụ đời thường: giống khi chuyển nhà, đồ dễ vỡ và đồ quý được xếp riêng vào hộp chắc chắn, còn đồ thường được nén gọn vào thùng lớn; tổng thể vẫn chở được nhiều và nhanh hơn, nhưng những thứ quan trọng không bị va đập.

III. Main Results:

Đánh giá trên Qwen3-8B, Qwen3-32B, Llama-3.1-8B-Instruct, GLM-4-9B-0414 với LongBench, GSM8K và MATH500.
Độ chính xác gần FlashAttention-2 full precision và tốt hơn hầu hết baseline low-bit như KIVI, KVTuner, SageAttention.
Ví dụ LongBench: Qwen3-8B đạt 45.04 so với FA2 44.59; Llama-3.1-8B đạt 46.73 so với 46.63; GLM-4-9B đạt 45.78 so với 44.83; Qwen3-32B đạt 48.46, gần FA2 48.61.
Decode kernel nhanh hơn FA2 từ 1.32× ở prefix 1K đến 3.58× ở 32K; end-to-end decode tăng 1.04×–1.17×.
Ở batch cao, HyQuant là phương pháp duy nhất chạy được batch 16 với prefix 32K trên H100 80GB; các baseline khác bị OOM.
Chi phí nhận diện vertical-line chỉ khoảng 3%–5% runtime; overhead bộ nhớ so với 4-bit thuần khoảng 15% do giữ top 5% full precision.

IV. Conclusion & Future Works:

HyQuant cho thấy không cần giữ toàn bộ attention ở độ chính xác cao; chỉ cần giữ đúng các vị trí có attention mass lớn và cửa sổ gần nhất. Điều này giúp giảm lỗi low-bit mạnh trong Prefill, đồng thời giảm bộ nhớ và băng thông trong Decode nhờ cache hỗn hợp và dequantization tích hợp.

Hạn chế: lợi ích rõ nhất ở ngữ cảnh dài; GPU rất mạnh và chuỗi ngắn có thể làm speedup end-to-end kém nổi bật hơn; chưa thử mô hình lớn hơn Qwen3-32B và chưa rõ hiệu quả trong tác vụ agent/coding.

Hướng tương lai: tự động điều chỉnh tỉ lệ token full precision và cửa sổ cục bộ theo layer/head; kết hợp hybrid precision với sparse attention; tối ưu kernel cho nhiều backend phần cứng; mở rộng sang mô hình lớn hơn và tác vụ agent/coding.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu cơ chế chọn tỉ lệ token full precision thích ứng theo layer, head và độ dài ngữ cảnh, thay vì dùng top 5% cố định như HyQuant.
Kết hợp phân bổ độ chính xác theo token với sparse attention để đồng thời giảm tính toán Prefill, bộ nhớ Decode và lỗi quantization.
Phát triển kernel dequantization-attention tự động tối ưu cho nhiều loại GPU/edge accelerator, với trade-off độ chính xác-latency-bộ nhớ có thể cấu hình.
Đánh giá hybrid precision quantization trong môi trường agent và coding, nơi tầm quan trọng token thay đổi mạnh theo thời gian.

2. Patent:

Hệ thống chạy mô hình ngôn ngữ lớn trên điện thoại: bộ nhớ ngữ cảnh được nén xuống độ chính xác thấp, nhưng một số ít vị trí được nhiều câu hỏi liên tục nhắc tới được lưu ở độ chính xác cao để giảm lỗi mà vẫn tiết kiệm bộ nhớ và pin.
Module tăng tốc suy luận ngữ cảnh dài trên thiết bị biên: kernel tích hợp giải nén bộ nhớ ngữ cảnh ngay trong phép tính attention, tránh ghi ra bản đầy đủ trung gian và giảm đỉnh bộ nhớ cần dùng.
Trình quản lý bộ nhớ cho trợ lý AI di động: tự đo mức độ quan trọng theo từng cột attention, giữ lại vùng quan trọng và vùng gần nhất ở chất lượng cao, đồng thời nén phần còn lại để mở rộng số token xử lý được trên máy.
Dịch vụ đám mây cho phép người dùng chọn mức cân bằng giữa độ chính xác, tốc độ và mức tiêu thụ bộ nhớ; hệ thống tự phân loại token quan trọng để áp mức lưu trữ phù hợp.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2608.27875
ArXiv Abstract	https://arxiv.org/abs/2608.27875
PDF Download	https://arxiv.org/pdf/2608.27875.pdf
Github Repository	https://github.com/jerrysfls/HyQuant

12. Negative Self-Distillation: Learning to Reason by Avoiding Flaws (30 votes)

Tác giả: Rongcan Pei, Zhepei Wei, Shuyao Xu, Xinyu Zhu, Wei-Lin Chen, et al.

Xuất bản lúc: 2026-09-10

Tag: LLMs, Self-Distillation, Reinforcement Learning, Reasoning, Unlikelihood Training, Label-Free Learning, RLVR

I. Main Problem:

On-Policy Self-Distillation (OPSD) giúp LLM tự cải thiện bằng cách bắt học sinh bắt chước lời giải đã biết đáp án đúng, nhưng trên bài toán khó cách này làm suy luận trở nên quá tự tin và quá tuyến tính. Hệ quả:

Mô hình bị đè bẹp khám phá, ít nói kiểu "Wait", ít tự sửa lỗi.
Reward thưa và tính toán rollouts nhiều lần khiến RLVR tốn kém, dễ advantage collapse.
Dùng unlikelihood thuần để "quên" suy luận sai lại rất nguy hiểm vì token ngôn ngữ thường bị lẫn với token suy luận, dễ phá năng ngôn ngữ nền và gây nổ gradient trên token gần như chắc chắn như dấu câu.

II. Main Idea:

Negative Self-Distillation (NSD) đổi hướng: không học theo "người thầy biết đáp án", mà tự tạo một negative teacher từ chính mô hình bằng lời nhắc riêng cho từng bài, ví dụ "hãy suy luận cẩu thả". Sau đó NSD làm xác suất của học sinh rời xa những token mà chế độ cẩu thả làm tăng xác suất.

Cổng token tự thích ứng: so sánh xác suất của cùng token dưới reference model bình thường và negative teacher; chỉ phạt khi negative làm token tăng: G_t = max(0, pi_neg - pi_ref).
Gated Unlikelihood: phạt có chặn bằng sigmoid, mạnh nhất ở token độ tự tin thấp-trung bình, tránh nổ loss/gradient ở token gần 1.
Neo KL: giữ học sinh không trôi quá xa reference, bảo vệ priors ngôn ngữ.

Ví dụ đời thường: giống tập lái bằng cách nhờ một người cố tình lái ẩu cùng cung đường; bạn không học mọi động tác của người ấy, chỉ né đúng những thói quen khiến xác suất phanh muộn, đánh lái gấp tăng lên, còn cách cầm vô-lăng bình thường vẫn giữ nguyên.

III. Main Results:

Trên 7 benchmark toán gồm AIME 24/25/26, HMMT, AMC, OlympiadBench, MATH-500, NSD thắng OPSD, Intuitor, TTRL; cải thiện trung bình +2.3% / +7.5% / +6.0% cho Qwen3-1.7B/4B/8B.
Qwen3-4B NSD đạt 35.8 AIME 2024, 31.3 AIME 2025, 16.3 HMMT, 73.1 MATH-500; Qwen3-8B đạt 39.6 AIME 2024, 25.0 AIME 2026, 17.9 HMMT, 74.1 MATH-500.
Độ tin cậy cao: ∆Avg của 4B/8B có p-value < 1e-4, 1.7B có p=0.001.
NSD bảo vệ reflection: trên Qwen3-4B, tần suất token tự kiểm tra trung bình 7.5 lần/response, cao hơn baseline 3.6, OPSD 2.2, Intuitor 0.8.
Hiệu quả huấn luyện tốt hơn: chỉ cần 1 rollout/sample; thời gian mỗi bước khoảng 68s cho NSD online, 54s với wiki-irr, so với 105s OPSD và 187s Intuitor.
Ablation cho thấy KL là cần thiết: bỏ KL gây dao động mất ổn định và cổng gate mất tác dụng quanh bước 120; gate của NSD lọc style-token tốt hơn entropy-OPSD và OPSD thuần.

IV. Conclusion & Future Works:

NSD cho thấy self-improvement không nhất thiết cần đáp án đúng hay teacher ngoài: mô hình có thể tự sinh điều kiện làm sai và học bằng cách né đúng lỗi, giữ nguyên ngôn ngữ nền nhờ gate có chọn lọc và neo KL. Hướng mở rộng hợp lý là thay negative prompt online bằng chiến lược offline rẻ hơn, kết hợp NSD với dạng policy-gradient/advantage, và thử nghiệm ngoài toán sang code, agentic tool-use hoặc lý luận đa bước cần tự sửa lỗi.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu negative conditioning có cấu trúc cho từng domain: thay vì prompt "cẩu thả" chung, tự sinh lỗi đặc thù như sai dấu, sai đơn vị, sai giả định ngầm hoặc bỏ qua điều kiện biên trong bài toán, code và chứng minh.
Kết hợp NSD với kiểm chứng ngoài: dùng negative teacher để giảm xác suất các bước bị một verifier/solver bác bỏ, nhưng vẫn giữ neo KL để không làm méo ngôn ngữ.
Mở rộng NSD sang học đa mô hình: một mô hình tạo điều kiện sai, mô hình khác học né lỗi, rồi đảo vai theo chu kỳ để giảm bias từ chính policy sinh negative condition.

2. Patent:

Ứng dụng dạy toán trên điện thoại: khi học sinh trả lời sai, app tạo một bản giải "vội vàng/cẩu thả" cho cùng đề, so token nào trở nên đáng ngờ hơn trong bản cẩu thả, rồi gợi ý học sinh né đúng bước đó thay vì chỉ đưa đáp án đúng.
Trợ lý lập trình trên mobile IDE: trước khi đề xuất patch, hệ thống sinh một biến thể cố tình sửa sai, giảm ưu tiên các dòng/thao tác mà biến thể lỗi làm tăng khả năng chọn, đồng thời giữ nguyên cú pháp và API để tránh sửa một lỗi gây lỗi khác.
Bàn phím/trợ lý nhập liệu thông minh: khi phát hiện ngữ cảnh dễ gây hiểu nhầm, tạo chế độ "viết vội/nói ẩu" để xác định từ hay dấu câu bị đẩy xác suất sai, sau đó chỉnh gợi ý để người dùng tránh cách viết dễ gây tranh luận mà vẫn tự nhiên.
Tính năng kiểm tra chéo email/tin nhắn quan trọng: tạo bản trả lời "quá tự tin" cho cùng nội dung, đánh dấu các cụm mà bản quá tự tin làm tăng khả năng xuất hiện, rồi nhắc người dùng bổ sung điều kiện, lời phủ nhận hoặc câu kiểm chứng trước khi gửi.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.11699
ArXiv Abstract	https://arxiv.org/abs/2609.11699
PDF Download	https://arxiv.org/pdf/2609.11699.pdf
Github Repository	https://github.com/Prongcan/NSD

13. TempCloze: Can Video-LLMs Identify the Missing Middle? (29 votes)

Tác giả: Wenqi Pei, Henry Hengyuan Zhao, Yilai Liu, Jiahao Meng, Han Chen, et al.

Xuất bản lúc: 2026-09-01

Tag: Video-LLMs, Temporal Reasoning, Benchmark, Video Understanding, Multimodal Evaluation, Cloze Task

I. Main Problem:

Các benchmark lý luận thời gian cho Video-LLMs (TempCompass, TVBench, VideoMME...) đều đi qua ngôn ngữ làm trung gian: mô hình chọn đáp án dạng văn bản hoặc sinh caption. Điều này tạo ra linguistic shortcuts — mô hình có thể đạt điểm cao bằng cách bới lông tìm vết trong cách viết đáp án, tương quan giữa các lựa chọn, hoặc prior ngôn ngữ mà không cần nhìn video (một LM thuần đã vượt random baseline >25%). Hệ quả: điểm benchmark cao không phản ánh khả năng suy luận thời gian trên bằng chứng thị giác thật sự.

II. Main Idea:

Giới thiệu TempCloze, một benchmark dạng điền chỗ trống (cloze) trên video: cho mô hình xem đoạn đầu và đoạn cuối của video, yêu cầu chọn đoạn giữa bị khuyết trong số 4 ứng viên. Các distractor đều cắt từ cùng video gốc (cùng cảnh, cùng vật thể) nên mô hình không thể dựa vào độ tương đồng ngoại hình, buộc phải so sánh bằng chứng thời gian. Ba chiều distractor:

Semantic — cùng độ dài, lấy từ khoảng không trùng đoạn giữa: kiểm tra chuyện gì nên xảy ra
Alignment — dịch chuyển hoặc mở rộng khoảng ground-truth (Advanced/Deferred/Expanded): kiểm tra khi nào nó xảy ra
Progression — đảo ngược, xáo trộn, lặp lại đoạn (Reversed/Reordered/Repeated): kiểm tra nó diễn biến thế nào

Pipeline xây dựng: lọc video 12–90s bằng caption + LLM suy luận, lọc chất lượng (bitrate, độ nét) và chuyển động (optical flow Farnebäck), còn 1,521 video từ 7 nguồn (chủ yếu long-take, egocentric). Đánh giá 31 mô hình, kèm hai tập phụ: TempCloze-Mixed (trộn distractor đa chiều) và TempCloze-Hard (150 mẫu bị sai nhiều nhất).

Ví dụ đời thường: giống bài nghe tiếng Anh điền câu bị cắt giữa đoạn hội thoại — bốn phương án đều dùng đúng từ vựng của đoạn đó, nên muốn chọn đúng bạn phải căn vào mạch thời gian chứ không thể đoán theo nghĩa từng câu riêng lẻ.

III. Main Results:

Alignment là nút thắt chính: mô hình proprietary trung bình 70.7% (Semantic) và 67.7% (Progression) nhưng tụt còn 48.1% ở Alignment; open-source chỉ 26.5% Alignment. Mô hình mạnh nhất (Seed1.8: 76.9%) vẫn xa baseline con người 98%.
Kết quả tổng hợp: proprietary trung bình chỉ 33.2% trả lời đúng cả 3 chiều (3/3), trong khi người đạt 92%; open-source tốt nhất chỉ 35.8%.
Phân tích lỗi theo chiều: lỗi Alignment tập trung ở dạng Expanded (đúng nội dung nhưng tràn khỏi ranh giới thời gian — Seed1.8-I mắc 75% trường hợp), lỗi Progression chủ yếu là Reversed (đoạn phát ngược nhưng vẫn nghe nhìn 'hợp lý').
Mixed-dimension: Alignment là distractor gây nhầm lẫn nhất; điểm chính xác giảm mạnh khi các chiều cạnh tranh trực tiếp.
Độ nhạy hành vi: (1) Đổi thứ tự ứng viên làm lựa chọn thay đổi tới 60% (Flip Rate cao) dù độ chính xác gần như không đổi — độ ổn định ẩn sau điểm số; (2) mô hình dựa nhiều vào đoạn đầu hơn đoạn cuối (beginning-only thường đạt gần bằng cả hai, ending-only yếu nhất — có lẽ do pretraining theo thứ tự thuận); (3) mở rộng visible span hoặc tăng frame density khiến Alignment giảm vì dấu hiệu quyết định gần ranh giới bị pha loãng; (4) test-time scaling (pass@k) tăng tới ~30 điểm nhưng không đổi thứ tự khó giữa các chiều.

IV. Conclusion & Future Works:

Video-LLMs hiện tại có một ranh giới không đều: nhận diện nội dung sự kiện (Semantic) và trình tự cục bộ (Progression) khá tốt, nhưng định vị chính xác sự kiện trong thời gian (Alignment) thì thất bại, trong khi con người giải được gần như trọn vẹn. Các lỗi thường chọn clip có nội dung hợp lý nhưng cấu trúc thời gian không tương thích, và lựa chọn còn nhạy cảm với thứ tự trình bày, hướng context. Hướng tương lai: cần cơ chế video-native tích hợp cả hai hướng thời gian, chọn lọc bằng chứng then chốt, biểu diễn cấu trúc thời gian tường minh; benchmark tương lai nên mở rộng sang video dài hơn trong khi vẫn kiểm soát linguistic shortcuts.

V. Brainstorming Space:

1. Publish Papers:

Phát triển kiến trúc Video-LLM video-native không coi video là chuỗi ảnh rời rạc, có cơ chế chú ý hai chiều (từ đầu và từ cuối) để khắc phục độ lệch phụ thuộc forward-continuation.
Kỹ thuật key-frame selection / evidence distillation tự động xác định các frame mang dấu hiệu thời gian quyết định (gần ranh giới đoạn khuyết) để tránh hiện tượng pha loãng khi tăng frame density và visible span.
Mở rộng dạng cloze thị giác sang bài toán dự đoán tự do (không cung cấp sẵn ứng viên) hoặc kết hợp âm thanh, để đánh giá lý luận thời gian ngoài phạm vi multiple-choice.

2. Patent:

Tính năng điền khoảng trống video tự động trên điện thoại: ứng dụng cắt một đoạn giữa video người dùng và đề xuất 4 đoạn thay thế (dịch chuyển thời gian, đảo trình tự) để làm bài quiz hoặc hiệu ứng chuyển cảnh mượt.
Hệ thống kiểm tra tính liền mạch thời gian cho video dài trên đám mây: phân tích các cắt ghép trong video biên tập, phát hiện đoạn bị đảo thứ tự hoặc lặp lại bằng cách so khớp trình tự sự kiện giữa các khoảng liền kề.
Trợ lý tóm tắt video có kiểm chứng thời gian: khi tua nhanh/skip, ứng dụng hiển thị các sự kiện ở khoảng bị bỏ qua và kiểm tra mô hình AI đã 'hiểu đúng thứ tự diễn biến' hay chưa trước khi tin tóm tắt của nó.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.01515
ArXiv Abstract	https://arxiv.org/abs/2609.01515
PDF Download	https://arxiv.org/pdf/2609.01515.pdf
Github Repository	https://github.com/CedricPei/Temporal-Cloze

14. Beyond Solver Verdicts: Generative Reward Models for Autoformalization (28 votes)

Tác giả: Vikash Singh, Debargha Ganguly, Aman Goel, Ali Torkamani, Xiaoxue Han, et al.

Xuất bản lúc: 2026-09-10

Tag: Autoformalization, Neurosymbolic AI, SMT, Z3, Reward Model, LLM Verification, Test-Time Compute

I. Main Problem:

Các hệ neurosymbolic thường tin rằng nếu bản dịch logic chạy được và solver trả về sat/unsat đúng kỳ vọng thì suy luận đã đúng. Bài báo chỉ ra lỗ hổng này qua Verdict-Preserving-Unfaithfulness (VPU): bản formal hợp lệ cú pháp, có cùng verdict với reference, nhưng không tương đương logic với reference, ví dụ đổi > thành <, đảo implication, bỏ ràng buộc. Các kiểm tra cấu trúc như parse, type-check, self-consistency hay round-trip không đủ, và mọi hàm chỉ dựa vào verdict nhị phân đều bị chứng minh có AUROC tối đa 0.5 trên các cặp cùng verdict.

II. Main Idea:

Tác giả đề xuất Generative Verification (GenV): dùng chính không gian từ vựng của LLM làm đầu ra phán định. Thay vì gắn classifier ngẫu nhiên, mô hình nhận câu hỏi kiểu “bản encoding này có faithful với bài toán gốc không?” rồi trả một token Yes/No; điểm tương đương liên tục là P(Yes) / (P(Yes) + P(No)).

Offline supervision: Z3 kiểm tra tương đương hai chiều giữa candidate và gold reference để tạo nhãn exact, không cần gán nhãn thủ công.
Training: SFT bằng LoRA trên mô hình 27B, chỉ tính loss ở token trả lời để giữ năng lực pretrained.
Hard negatives: tạo các mutation nhỏ nhưng nghiêm trọng, ví dụ lật toán tử so sánh, đổi hằng số, đảo implication; chỉ giữ lại mẫu vẫn parse được, cùng verdict nhưng không tương đương.
Deployment: không cần reference, chỉ cần bài toán tự nhiên và candidate encoding, một forward pass cho điểm để phát hiện VPU, chọn best-of-N, hoặc điều phối compute.
Mechanistic view: gradient lens và sparse autoencoder cho thấy mô hình có tín hiệu nội tại về vị trí lỗi dù không được huấn luyện localization.

Ví dụ đời thường: giống như người thẩm định không chỉ xem “hồ sơ có được chấp nhận không”, mà đọc kỹ nội dung rồi nói “câu này vẫn đúng chữ ký, nhưng ý chính đã bị đổi”; cơ chế then chốt là ép mô hình phải đưa ra phán quyết ngôn ngữ tổng thể thay vì chỉ lặp lại kết quả kiểm tra hình thức.

III. Main Results:

Trên benchmark 950 mẫu từ output dịch thật, GenV+HN đạt AUROC 0.961; trên tập disjoint nghiêm ngặt hơn đạt 0.955.
Ablations cho thấy đọc generative P(Yes) đạt 0.983, cao hơn 2-class head khởi tạo warm/cold khoảng 0.921/0.920, và vượt xa PRM/ORM per-step từ 0.633–0.827.
So với baseline cùng backbone 27B: solver-only 0.500, Process RM 0.756, Outcome RM 0.762, self-consistency K=5 0.863.
Generalization zero-shot sang formal styles mới: ProverQA 0.964, MALLS 0.925, ProntoQA 0.915, ProofWriter 0.842, FOLIO 0.830, LogicNLI 0.642.
Ở tầng agentic, GenV+HN nâng accuracy end-to-end từ 0.655 lên 0.768, tức +11.3 điểm; mở rộng gồm Best-of-N +9.3, gated escalation +1.2, verifier selection +0.9.
Khi chỉ re-ranking tĩnh K=5, +GenV vẫn cải thiện nhiều backend, ví dụ gpt-oss-20b +14.2, Qwen3-32B +11.8.

IV. Conclusion & Future Works:

Kết luận: solver đúng chỉ chứng minh hệ quả từ encoding đã cung cấp, còn reference-equivalence là bài toán riêng có thể học được bằng cách distill oracle Z3 thành điểm generative reference-free. GenV+HN vượt qua giới hạn chance-level của verdict-only scoring và hữu ích trong cả phát hiện lỗi lẫn phân bổ test-time compute. Hạn chế: mục tiêu là strict Z3-equivalence, không đồng nhất hoàn toàn với ý định con người; hai công thức unsat có thể tương đương một cách rỗng; OOD style mạnh làm xấu calibration; hard negatives chủ yếu là mutation đơn lẻ, chưa phản ánh đầy đủ lỗi tự nhiên nhiều chỗ. Hướng tương lai: benchmark có nhãn ý định người, mở rộng VPU mining cho lỗi đa điểm, và biến tín hiệu nội tại từ gradient/SAE thành cơ chế repair có tính nhân quả.

V. Brainstorming Space:

1. Publish Papers:

Phát triển verifier autoformalization đa lỗi: từ phát hiện VPU sang định vị và sửa nhiều mutation tương quan bằng tín hiệu nội tại của LLM, với đánh giá nhân quả thay vì chỉ diagnostic.
Xây dựng benchmark reference-equivalence gắn với ý định ngôn ngữ tự nhiên: kết hợp Z3 equivalence, hội đồng người đánh giá, và protocol phân tích các trường hợp formal đúng nhưng diễn giải mơ hồ.
Nghiên cứu agentic autoformalization có kiểm chứng: dùng verifier liên tục để quyết định khi nào dịch lại, khi nào hỏi lại người dùng, và khi nào gọi solver sâu hơn trong giới hạn ngân sách compute.

2. Patent:

Trợ lý toán học trên điện thoại: người dùng nhập bài toán tiếng Việt, ứng dụng tạo nhiều bản formal logic, chấm mức độ tương đương với bản tham chiếu ẩn, tự chọn bản đáng tin rồi gọi solver để giải thích kết quả.
Bộ kiểm tra hợp đồng hoặc chính sách nội bộ: hệ thống chuyển điều khoản ngôn ngữ tự nhiên thành ràng buộc logic, phát hiện bản dịch vẫn chạy được nhưng làm sai lệch điều kiện quan trọng như “lớn hơn”, “ít nhất”, hoặc “hoặc/ và”.
Công cụ gợi ý sửa công thức cho học sinh: khi học sinh nhập điều kiện bài toán, ứng dụng không chỉ báo đúng/sai mà chỉ ra vị trí có khả năng bị đảo, thiếu hoặc thừa ràng buộc để đề xuất bản chỉnh sát nghĩa hơn.
API kiểm chứng pipeline AI cho doanh nghiệp: module nhận câu hỏi nghiệp vụ và bản encoding logic do LLM tạo ra, trả về điểm tin cậy liên tục để hệ thống quyết định có nên tự động thực thi hay chuyển cho người duyệt.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.11085
ArXiv Abstract	https://arxiv.org/abs/2609.11085
PDF Download	https://arxiv.org/pdf/2609.11085.pdf
Github Repository	N/A

15. Recursive Code World Models: Building Complex Worlds through Recursive Scene Programs (28 votes)

Tác giả: Zhiqi Li, Yuxuan Liao, Bo Zhu

Xuất bản lúc: 2026-09-10

Tag: Image-to-3D, Code World Models, Vision-Language Coding Agents, Scene Reconstruction, Three.js, Recursive Inference

I. Main Problem:

Mô hình thế giới bằng code (executable scene programs) cho phép tái dựng, chỉnh sửa và mô phỏng cảnh 3D, nhưng cách xây dựng một thế giới phức tạp nhiều tầng vẫn chưa rõ. Khi tái dựng từ một ảnh duy nhất:

các phương pháp toàn cảnh một lần bỏ sót cấu trúc nhỏ (cửa sổ, biển hiệu, trang trí)
còn dựng từng phần rồi ghép tạo xung đột: biển hiệu chồng cửa sổ, cây cầu tinh chỉnh lại không còn khớp bờ sông
chi tiết nhỏ và tính nhất quán giữa các phần khó được giải quyết đồng thời trong một quỹ đạo tái dựng duy nhất.

II. Main Idea:

Recursive Code World Models (RCWM) tái dựng cảnh 3D thành Recursive Scene Program (RSP) — chương trình cảnh khả thi, tổ chức theo các subworld lồng nhau với tham chiếu con rõ ràng — thông qua một solver đệ quy tự gọi chính mình. Mỗi lần gọi solver F đều đi qua chu trình toàn–cục–toàn (global–local–global) giống hệt nhau ở mọi cấp độ:

Establish the whole: dựng bố cục tổng thể của subworld hiện tại, định nghĩa giao diện giữa các phần
Recurse: chọn các phần chưa giải quyết, cấp cho mỗi con ảnh crop khớp + camera crop cùng phép chiếu (K' = H·K), rồi gọi đúng solver F đó xuống cấp sâu hơn
Revisit the whole: sau khi con trả về, render lại toàn bộ và sửa các lỗi xuyên phần (ranh giới tiếp xúc, quan hệ không gian, cấu trúc dùng chung)

Một vision-language coding agent (gpt-6-astra qua Codex) so trực tiếp render với ảnh tham chiếu để điều hướng việc tinh chỉnh, đi xuống sâu hơn, hay quay lên cha. Đệ quy quyết định phần nào được giải toàn bộ, còn song song chỉ là cách lên lịch.

Ví dụ đời thường: giống thợ xây dựng thị trấn — trước tiên phác toàn bộ mặt bằng, rồi cử một đội riêng vào làm chi tiết từng tòa nhà (cũng theo quy trình phác tổng thể → làm chi tiết → kiểm tra lại), và khi các tòa nhà hoàn thành, đứng ra ngoài nhìn lại cả khu để sửa chỗ nào lệch, chứ không phải xây xong từng nhà là ghép lại mặc kệ.

III. Main Results:

RCWM đạt PSNR cao nhất và LPIPS thấp nhất trên toàn bộ 10 ảnh tham chiếu (5 cảnh trọn + 5 crop cục bộ) so với SEIG, VIGA, img2threejs — cùng base model, cùng mức reasoning effort.
SSIM cao nhất trên 9/10 ảnh (chỉ thua VIGA ở valley-village: 0.38 vs 0.41); vượt trội rõ ở cả cấp cảnh trọn lẫn chi tiết cục bộ (ví dụ park-lake: PSNR 23.3 vs tối đa 18.4 của baseline).
Chương trình kết quả render được từ góc nhìn mới (xoay, nhìn từ trên, cận cảnh) mà không cần tối ưu thêm, chứng tỏ cấu trúc 3D thật.
Ablation (so 5 cách tổ chức dựng): thứ tự toàn→cục→toàn, độ sâu đệ quy, và bước parent revisitation đều đóng góp; gọi đệ quy sâu hơn cải thiện chi tiết ở tỷ lệ mịn hơn, còn flat+zoom hay local→global đều kém hơn rõ.

IV. Conclusion & Future Works:

Đóng góp cốt lõi là một nguyên lý xây dựng đệ quy cho world models bằng code: mỗi phần không phải asset để sinh rồi chèn, mà là một 'thế giới con' xứng đáng có trọn vẹn quy trình tái dựng riêng — kế thừa ngữ cảnh, bằng chứng trực quan tập trung, và quay về cha để tinh chỉnh. Đây là quy trình tại inference-time, áp dụng được cho cảnh kiến trúc, địa hình liên tục mà không cần phân cấp ngữ nghĩa theo domain. Hướng mở: tối ưu phân bổ budget giữa các cấp, mở rộng sang video/đa ảnh tham chiếu, và kết hợp học từ trace đệ quy.

V. Brainstorming Space:

1. Publish Papers:

Tổng quát hóa solver đệ quy cho tái dựng đa ảnh / video: các cấp con nhận bằng chứng từ nhiều góc nhìn thay vì một crop, với hiệu chỉnh camera gốc điều phối toàn cây.
Distillation từ cây gọi đệ quy đã ghi lại thành mô hình chuyên môn hóa (kiểu FuncRoom-Agent) nhưng theo nguyên lý world-construction chung, không gắn phân cấp ngữ nghĩa cố định.
Kết hợp Recursive Scene Program với physical simulation: cập nhật trạng thái thế giới bằng code, quan sát bằng render sinh, tạo vòng lặp world-model–simulation cho game/prototyping.

2. Patent:

Ứng dụng điện thoại biến ảnh chụp thành cảnh 3D tương tác: chụp một ảnh, ứng dụng dựng chương trình cảnh khả thi theo cách đệ quy (toàn cảnh → từng vật thể → chi tiết), người dùng có thể xoay, phóng to và chỉnh sửa từng phần riêng.
Công cụ thiết kế nội thất/kiến trúc trên điện thoại: từ ảnh chụp phòng, hệ thống tự tái dựng sơ đồ 3D dạng code có cấu trúc phân cấp, cho phép người dùng chạm vào từng đồ vật để thay đổi kích thước, vật liệu mà vẫn giữ đúng vị trí tương quan với đồ vật khác.
Hệ tái dựng hiện trường cho bảo hiểm/bất động sản: chụp ảnh hiện trường tai nạn hoặc căn nhà, hệ thống sinh mô hình 3D dạng chương trình có thể đo lường và chỉnh sửa, lưu trữ gọn nhẹ thay vì file mesh nặng, đo khoảng cách giữa các vật thể chính xác.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.11499
ArXiv Abstract	https://arxiv.org/abs/2609.11499
PDF Download	https://arxiv.org/pdf/2609.11499.pdf
Github Repository	https://github.com/ZhiqiLi-CG/RecursiveCWM_code

16. World in World: Explore the World with World Models (28 votes)

Tác giả: Chenxi Song, Yanming Yang, Chi Zhang

Xuất bản lúc: 2026-09-10

Tag: World Models, Video Generation, Autoregressive Video, Camera Control, Attention Mechanism, Diffusion, Inference-Time Control

I. Main Problem:

Các video world model autoregressive cho phép khám phá tương tác dài hạn, nhưng điều khiển linh hoạt vẫn khó: khi quan sát video nguồn từ góc nhìn mới, mô hình phải đồng thời giữ đồng bộ với sự kiện đã ghi, đặt nội dung đúng vị trí trong view mục tiêu, hoàn thiện hợp lý vùng lộ ra mới, và khôi phục hình dáng đã sinh khi camera quay lại.

Các phương pháp trước dùng module riêng cho từng tác vụ hoặc cần training thêm mỗi loại điều khiển.
Chưa có giao diện chung để mô hình đã pretrain đọc nhiều nguồn bằng chứng dị dạng (quan sát, hình học, lịch sử sinh) cùng lúc.

II. Main Idea:

World in World (WiW) là giao diện training-free chuyển mọi loại bằng chứng điều khiển thành các clean visual states gắn nhãn camera + thời gian, cho mô hình video causal đã đóng băng đọc trực tiếp qua self-attention gốc của nó. Ba loại bằng chứng bổ sung cho nhau:

Source-video observations: tham chiếu nội dung, hình dáng của sự kiện đã ghi.
Target-view projection: chiếu pixel qua depth (DepthCrafter) sang view mục tiêu → định hướng bố cục không gian.
Rendered geometry (avatar SMPL-X từ LHM++): đề xuất hình dáng cho vùng chủ thể mới lộ ra.
Retrieved generated history: lưu ngân hàng K/V toàn rollout, truy xuất trạng thái cũ khi camera quay lại (vượt giới hạn rolling cache).

Hai cơ chế điều tiết attention: CGAR (định tuyến query tới token video nguồn tương ứng bằng điểm bám hình học + log β) và EWA (evidence-wise CFG: chỉ khuếch đại thành phần bổ sung của attention response so với response native, không tốn thêm NFE).

Ví dụ đời thường: giống hướng dẫn viên xách nhiều tấm ảnh chụp cùng một cảnh ở nhiều góc, chọn đúng tấm đặt trước mắt du khách đúng lúc cần, mà không phải dạy du khách cách chụp ảnh lại từ đầu.

III. Main Results:

VBench Overall cao nhất (85.192 trên DAVIS+OpenVid-1M) và camera error thấp nhất (RotError 2.83°, TransError 0.0686) so với ReCamMaster, TrajectoryCrafter, WorldForge, InSpatio-World, UniWorld-View, CameraAnything.
PSNR 23.15, SSIM 0.787 — tốt nhất nhóm trên image fidelity.
Ablation: bỏ target-view warping làm RotError tăng ~3.4×, TransError ~10.9× → bằng chứng không gian là yếu tố quan trọng nhất; CGAR/EWA cải thiện consistency chủ thể và nền.
Một backbone đóng băng (LingBot-World 2.0 causal-fast) hỗ trợ cả: camera rerendering, bullet-time, video stabilization, editing, human-motion transfer, và K/V sharing giữa hai instance của cùng mô hình.

IV. Conclusion & Future Works:

WiW chứng minh việc mở rộng khả năng điều khiển của world model đã pretrain có thể được xem như bài toán xây dựng, định vị và điều tiết visual evidence thay vì thích ứng mô hình — hoàn toàn training-free. Kết quả cho thấy thế giới trong một video có thể được khám phá tự do như một world thật. Paper không nêu hướng tương lai cụ thể; không gian tự nhiên gồm mở rộng sang các loại bằng chứng mới qua cùng giao diện và tối ưu hóa lịch trình kích hoạt kênh bằng chứng.

V. Brainstorming Space:

1. Publish Papers:

Kết hợp truy xuất bộ nhớ hình học tường minh (point cloud/Gaussian) với ngân hàng K/V của WiW để khôi phục cấu trúc cảnh dài hạn chính xác hơn, đặc biệt khi quay lại vùng đã sinh sau nhiều chu kỳ rolling cache.
Học lịch trình kích hoạt kênh bằng chứng (γ(s)) và trọng số hướng dẫn theo từng giai đoạn khử nhiễu thay vì thiết kế thủ công, nhằm cân bằng tự động giữa adherence với evidence và prior sinh của mô hình.
Mở rộng giao diện evidence sang điều khiển hành động và tương tác vật lý (embodied-agent simulation), nơi evidence không chỉ là hình ảnh mà còn trạng thái hành động của tác nhân.
Nén và lượng tử hóa ngân hàng K/V lịch sử để giảm chi phí bộ nhớ khi rollout dài hạn, kèm chiến lược truy xuất xấp xỉ gần đúng theo pose.

2. Patent:

Ứng dụng điện thoại xem video theo góc tùy ý: người dùng xoay/trượt màn hình để điều khiển camera lướt quanh một video có sẵn; ứng dụng chiếu video gốc qua bản đồ depth và hoàn thiện vùng mới lộ bằng mô hình, mang lại trải nghiệm xem video như thật đang ở trong cảnh.
Tính năng ổn định video tự động trên điện thoại: phân tích đường camera rung từ video, tạo đường camera mượt và tái sinh video theo đường mới qua giao diện bằng chứng hình ảnh, không cần cắt ghép khung hình.
Hiệu ứng 'đóng băng thời gian' (bullet-time) trên video quay bằng điện thoại: chọn một khoảnh khắc, hệ thống vẽ camera quay vòng quanh chủ thể đang đứng yên bằng cách dựng geometry chủ thể và tái sinh các góc nhìn vòng quanh.
Chỉnh sửa video bằng văn bản trên điện thoại: thay đổi vật thể (ví dụ ngựa thành ngựa vằn) ở một khung, sau đó hệ thống lan truyền nội dung đã sửa qua toàn video bằng cách đưa trạng thái đã sửa làm bằng chứng trực quan cho các khung tiếp theo.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.11548
ArXiv Abstract	https://arxiv.org/abs/2609.11548
PDF Download	https://arxiv.org/pdf/2609.11548.pdf
Github Repository	N/A

17. Studying Image Tokenizers as Visual Languages in Unified Multimodal Models (28 votes)

Tác giả: Siting Li, Zhengyang Wang, Simon Shaolei Du, Xi Chen, Yang Liu

Xuất bản lúc: 2026-09-08

Tag: Multimodal Models, Image Tokenizers, Autoregressive Models, Visual Generation, Scaling Laws, VQGAN, Vision-Language Models

I. Main Problem:

Các image tokenizer định nghĩa "ngôn ngữ trực quan" của mô hình đa phương thức thống nhất, nhưng hiện chỉ được đánh giá qua:

metric cô lập như rFID, PSNR, accuracy phân loại ImageNet — không phản ánh hiệu suất downstream
pipeline chỉ generation hoặc chỉ understanding — bỏ qua hành vi mô hình hóa chung ảnh–chữ

Hệ quả: không rõ tokenizer ảnh hưởng thế nào đến multimodal learnability (khả năng mô hình hóa đồng thời token ảnh và chữ), đến can thiệp chéo vào mô hình hóa văn bản, và liệu loss pretraining có là tín hiệu đáng tin cho hiệu suất downstream hay không.

II. Main Idea:

Xây dựng testbed pure-autoregressive có kiểm soát (mở rộng Qwen3 0.6B/1.7B/4B với tokenizer ảnh rời rạc, continual pretraining trên 60M mẫu ảnh–chữ + chữ thuần), rồi theo dõi validation loss theo từng tác vụ (Text, Image, T2I, I2T) như một "kính lúp" để nghiên cứu tokenizer:

Phân tích scaling behavior của từng loss theo dữ liệu và kích thước mô hình
Liên hệ loss với hiệu suất generation (GenAI-Bench, MJHQ-30K) và understanding (VQAv2, GQA) trước/sau SFT
Dùng loss để soi lại 3 trục thiết kế tokenizer: discriminator, semantic supervision, vocabulary size

Ví dụ đời thường: giống việc đánh giá một ngôn ngữ mới không xong chỉ bằng cách chấm từ điển (reconstruction), mà phải xem người học dùng ngôn ngữ đó trong giao tiếp thật (viết ảnh từ chữ, mô tả ảnh bằng chữ) ra sao — bài kiểm tra từng kỹ năng riêng mới lộ được ngôn ngữ nào "dễ học".

III. Main Results:

Loss phải phân tích theo từng tác vụ: cả 4 loss đều giảm theo power law khi tăng dữ liệu/mô hình, nhưng scaling khác nhau và xếp hạng tokenizer khác nhau giữa các tác vụ — loss trung bình quá thô.
T2I loss (không gian token ảnh) tương quan với chất lượng generation khi tokenizer cố định, nhưng quan hệ loss–hiệu suất thay đổi giữa các tokenizer; chuẩn hóa theo log2(vocabulary size) giảm phần nào độ lệch, phần còn lại liên quan đến reconstruction fidelity.
I2T loss (tính trên từ vựng chữ chung) là tín hiệu nhất quán hơn xuyên tokenizer, tương quan cả với generation lẫn VQA sau SFT.
Reconstruction tốt hơn không đảm bảo học đa phương thức tốt hơn: discriminator DINO giúp GigaTok rFID 0.81→0.51 nhưng VQAv2 giảm 52.25→51.31.
Semantic supervision (UniTok-sem) làm reconstruction xấu đi (rFID 1.86→2.23) nhưng cải thiện mọi validation loss và cả GenAI (0.670→0.690) lẫn VQAv2 (57.21→61.28).
Vocabulary size vs learnability là phi tuyến (không đơn điệu), dù vocab lớn vẫn có thể lợi downstream qua reconstruction tốt hơn.
Tokenizer ảnh có thể ảnh hưởng cả mô hình hóa văn bản dưới tối ưu hóa chung.

IV. Conclusion & Future Works:

Validation loss theo tác vụ là công cụ chẩn đoán bổ sung cho việc thiết kế image tokenizer: I2T loss đáng tin hơn T2I loss để so sánh xuyên tokenizer, và metric reconstruction đơn thuần là không đủ — cần đo multimodal learnability trực tiếp. Hướng tương lai (suy luận từ giới hạn đã nêu): mở rộng sang tokenizer nhiều sub-codebook, thay đổi số token ảnh K và độ phân giải (any-resolution, tokenizer 1D nén cao), và các kiến trúc hybrid AR+diffusion.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu mối quan hệ giữa I2T loss trong continual pretraining và khả năng reasoning đa phương thức sau SFT ở quy mô lớn hơn, để xác lập I2T loss như tiêu chuẩn chọn tokenizer cho mô hình unified.
Phát triển thước đo 'multimodal learnability' chuẩn hóa được xuyên tokenizer cho kiến trúc serial/hybrid AR+diffusion (Transfusion, BAGEL), nơi không gian token ảnh và chữ không còn dùng chung objective next-token.
Thiết kế tokenizer ảnh tối ưu trực tiếp cho mục tiêu học chung ảnh–chữ (thay vì chỉ reconstruction), ví dụ thêm auxiliary loss dựa trên I2T alignment vào huấn luyện tokenizer.

2. Patent:

Hệ thống chọn bộ mã hóa ảnh tự động cho trợ lý AI trên điện thoại: trong quá trình pretraining, ứng dụng theo dõi loss dự đoán chữ từ ảnh (I2T) trên tập kiểm thử; khi loss vượt ngưỡng, hệ thống tự đổi sang tokenizer ảnh khác mà không cần đánh giá benchmark tốn kém.
Trình tạo ảnh trên thiết bị di động có tự chẩn đoán chất lượng: trước khi hiển thị ảnh sinh ra, mô hình tính xác suất next-token của chuỗi token ảnh; xác suất thấp báo hiệu ảnh có lỗi, kích hoạt sinh lại mà không cần người dùng phàn nàn.
Phương pháp cải thiện mô hình AI vừa tạo ảnh vừa trả lời câu hỏi: huấn luyện bộ mã hóa ảnh với tín hiệu ngữ nghĩa bổ sung (so khớp mô tả đối tượng trong ảnh với từ vựng chữ) để token ảnh gắn sẵn ý nghĩa vật thể, giúp mô hình chung học nhanh hơn và trả lời VQA chính xác hơn dù chất lượng tái tạo ảnh hơi giảm.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.09143
ArXiv Abstract	https://arxiv.org/abs/2609.09143
PDF Download	https://arxiv.org/pdf/2609.09143.pdf
Github Repository	https://github.com/amazon-far/Tokenizer_UMM

18. Building Multilingual Bridges: Data Mixing as the Pillar of Generalization for In-Language Reasoning (27 votes)

Tác giả: Mehrnaz Mofakhami, Ananya Sahu, Alejandro R. Salamanca, Daniel D'souza, Alexandre Berard, et al.

Xuất bản lúc: 2026-09-09

Tag: Multilingual Reasoning, L2 Reasoning, Supervised Fine-Tuning, Data Mixing, Cross-lingual Transfer, LLMs, Small Language Models

I. Main Problem:

Các mô hình reasoning hiện nay gần như chỉ suy luận bằng tiếng Anh, kể cả khi người dùng hỏi bằng ngôn ngữ khác — hiện tượng gọi là L2 reasoning gap. Hậu quả:

Người dùng không nói tiếng Anh không đọc được reasoning trace, mất khả năng kiểm tra kết quả trong các lĩnh vực nhạy cảm (y tế, pháp lý).
Việc chuyển ngầm sang tiếng Anh gây "lost in translation": mất ý định, sắc thái, ngữ cảnh văn hóa của câu hỏi gốc, dẫn đến độ chính xác thấp hơn.
Kiến thức văn hóa/địa phương thường dễ truy cập hơn bằng ngôn ngữ địa phương, nên reasoning tiếng Anh bỏ qua lợi thế này.
Các giải pháp hiện có (language forcing tại inference, huấn luyện riêng từng ngôn ngữ) kém hiệu quả với ngôn ngữ ít tài nguyên và chịu "multilinguality tax" — sụt hiệu suất đổi lấy đa ngôn ngữ.

II. Main Idea:

Tiếp cận theo hướng dữ liệu (data-centric): thay vì xây dựng lại mô hình, tác giả tối ưu thành phần và lịch trình dữ liệu SFT để hành vi reasoning "bắt chước" ngôn ngữ của câu hỏi. Ba nguồn dữ liệu được trộn trong cùng một batch (multi-task post-training):

English Reasoning (ER): ~1.7M trace reasoning tiếng Anh (AM-Thinking + gpt-oss-120b, toán/khoa học/lý luận chung) — xương sống năng lực giải bài.
Multilingual Reasoning (MR): dịch tự động (<5K mẫu/ngôn ngữ, 44 ngôn ngữ) bằng command-a-translate và DeepSeek-V3, có lọc kỹ để tránh lỗi dịch thuật (loại câu hỏi ràng buộc định dạng, code-switching).
Multilingual Non-Reasoning (NR): ~4.9M mẫu instruction-following thường (không trace) trên 67 ngôn ngữ, đánh dấu block thinking rỗng để mô hình trả lời trực tiếp — rẻ tiền nhưng giúp chuyển giao reasoning sang ngôn ngữ chưa hề có supervision.

Base model là Tiny Aya 3.35B (hỗ trợ 70+ ngôn ngữ), mở rộng context lên 32K. Kết quả là Tiny Aya L2-Thinker: dual-mode (reason hoặc trả lời thẳng tùy tín hiệu).

Ví dụ đời thường: giống như học một môn toán mới — thay vì thuê gia sư riêng cho từng ngôn ngữ, bạn học chung một lớp với giáo trình song ngữ ít ỏi, bài tập tiếng Anh dồi dào, và bạn bè đa quốc gia; dần dần kỹ năng suy luận "trôi" sang được cả thứ tiếng chưa từng được dạy riêng.

III. Main Results:

Tiny Aya L2-Thinker (3.35B) đạt L2 reasoning rate >93% trung bình trên 60 ngôn ngữ, 6 benchmark (MGSM, PolyMath, MIST-OEG, Marco-Bench-MIF, GlobalPIQA, Macaron-MCQ) — toán, commonsense, instruction following, generation mở, reasoning văn hóa — với hiệu suất gần ngang bản chỉ reasoning tiếng Anh.
So với Qwen3.5-4B cùng quy mô: bản En-only của tác giả có L2 rate gần 0% trên ngôn ngữ khác; language forcing (prefix) chỉ đạt ~31% và làm sụt accuracy; model của tác giả đạt 96.5% L2 rate trên non-English với accuracy tương đương.
Vượt M-Thinker-7B và Magistral-Small-24B (lớn hơn 2-7 lần) về phương sai xuyên ngôn ngữ nhỏ hơn nhiều và ít lặp vô hạn (doomloop) hơn, dùng token reasoning hiệu quả hơn nhờ tokenizer tốt.
Ba phát hiện chính từ ablation:
(i) Thêm nhiều ngôn ngữ vào MR không gây nhiễu — ngược lại còn tăng L2 rate trên ngôn ngữ chưa từng thấy; một model huấn luyện chung tốt hơn các chuyên gia theo khu vực. "Curse of multilinguality" không áp dụng cho reasoning.
(ii) Dữ liệu non-reasoning đa ngôn ngữ là đòn bẩy rẻ cho cross-lingual transfer cả về L2 rate lẫn accuracy trên ngôn ngữ unseen.
(iii) Dữ liệu English reasoning là backbone bắt buộc cho toán khó, và trộn dữ liệu (mixing) tốt hơn sequential training hay weight merging về đánh đổi accuracy/L2 rate.

IV. Conclusion & Future Works:

Reasoning với RLMs là hành vi phần lớn không phụ thuộc ngôn ngữ — có thể chuyển giao qua các ngôn ngữ khác hệ thống (typologically diverse) chỉ bằng cách trộn dữ liệu khéo léo, không cần supervision reasoning riêng cho từng ngôn ngữ. Xây đa ngôn ngữ ngay từ đầu (thay vì vá sau cho model tiếng Anh) giúp đạt L2 reasoning với tổn thất hiệu suất tối thiểu. Tác giả công khai model weights và multilingual reasoning dataset để cộng đồng tiếp tục nghiên cứu reasoning ít thiên về tiếng Anh hơn.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu chuyển giao L2 reasoning sang các ngôn ngữ cực ít tài nguyên (low-resource) bằng cách tăng độ đa dạng ngôn ngữ trong pha dịch thuật và dùng dữ liệu instruction bản địa làm đòn bẩy, định lượng ngưỡng dữ liệu tối thiểu cần thiết.
Áp dụng tư tưởng data mixing cho reinforcement learning (RL) thay vì chỉ SFT: thử nghiệm reward về tính nhất quán ngôn ngữ của reasoning trace trong quá trình RL đa ngôn ngữ.
Mở rộng đánh giá L2 reasoning sang các lĩnh vực cần kiểm chứng trace ở mức cao (y tế, pháp lý) và nghiên cứu độ trung thực (faithfulness) của reasoning khi thực hiện bằng ngôn ngữ không phải tiếng Anh.
Khảo sát dữ liệu reasoning bản địa thật (do người viết, không dịch máy) so với dịch tự động để đo lượng sai lệch chất lượng do dịch thuật gây ra.

2. Patent:

Trợ lý AI trên điện thoại tự suy luận đúng ngôn ngữ người dùng: khi người dùng hỏi bằng tiếng Việt, ứng dụng hiển thị toàn bộ chuỗi suy luận bằng tiếng Việt, giúp người dùng kiểm tra từng bước logic trước khi tin kết quả.
Hệ thống chăm sóc sức khỏe đa ngôn ngữ: bệnh nhân mô tả triệu chứng bằng ngôn ngữ mẹ đẻ, mô hình suy luận và giải thích bằng cùng ngôn ngữ đó, giúp bác sĩ và bệnh nhân cùng đọc, rà soát được logic chẩn đoán.
Công cụ dịch-thuật-tiết kiệm cho doanh nghiệp: dịch một lượng nhỏ (<5K) ví dụ reasoning sang ngôn ngữ mục tiêu rồi trộn với kho dữ liệu hướng dẫn đa ngôn ngữ sẵn có, tạo chatbot nội bộ suy luận được bằng ngôn ngữ địa phương mà không tốn chi phí dịch toàn bộ dữ liệu reasoning.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.10445
ArXiv Abstract	https://arxiv.org/abs/2609.10445
PDF Download	https://arxiv.org/pdf/2609.10445.pdf
Github Repository	N/A

19. Generative Late-Interaction Embeddings For Visual Document Retrieval (25 votes)

Tác giả: Mohamed Eltahir, Talal Aloushan, Rose Khairoalsendi, Jana Shata, Mohammed Alhassan, et al.

Xuất bản lúc: 2026-09-10

Tag: Late-Interaction Retrieval, Visual Document Retrieval, Embedding Compression, Generative Retrieval, MaxSim, k-means, Manifold Learning, ViDoRe, Efficient Indexing

I. Main Problem:

Late-interaction retrieval cho tài liệu hình ảnh rất chính xác nhưng tốn kho lưu trữ: mỗi trang có khoảng 1.031 vector patch, tức gần 258 KB/trang với ColPali. Các cách nén hiện có chủ yếu giữ lại một phần vector hoặc gộp trung bình cục bộ, nên khi ép xuống ngân sách rất thấp — dưới khoảng 16 vector/trang — chất lượng sụt nhanh. Các phương án vượt ngưỡng này thường phải fine-tune encoder, vô hiệu hóa toàn bộ embedding đã tính và đòi hỏi mất nhiều GPU.

II. Main Idea:

Bài báo đo hình học của tập vector trang và thấy chúng nằm trên unit sphere, đồng thời tập trung gần một manifold có intrinsic dimension chỉ 5-6 dù ambient dimension tới 128 hoặc 3.072. Từ đó, GLIE thay chiến lược “chọn mẫu từ vector gốc” bằng codec sinh lại bằng chứng khi cần:

Spherical anchoring: chuẩn hóa centroid k-means trở lại mặt cầu, sửa hệ thống đánh giá thấp MaxSim mà không tốn huấn luyện.
Learned code: mỗi trang chỉ lưu k vector; một refiner zero-initialized điều chỉnh các mốc neo bằng cách đọc toàn bộ token set, nên khởi đầu đúng bằng normalized k-means và chỉ cải thiện từ đó.
Generative read-out: một decoder dùng chung mở rộng top candidates trở lại gần đủ N vector để rescore chính xác; thiết kế bảo đảm không làm mất bằng chứng đã lưu.
Hai giai đoạn truy vấn: stage 1 chấm rẻ trên k vector cho mọi trang; stage 2 chỉ decode và rescore top-L, với L=20.

Ví dụ đời thường: giống lưu một bức ảnh phức tạp bằng vài “điểm neo” trên quả cầu; lúc cần xét kỹ vài ứng viên đáng nghi, hệ thống dựng lại chi tiết quanh các điểm neo đó thay vì mang theo toàn bộ ảnh.

III. Main Results:

Trên ViDoRe v1, GLIE đạt 0.657 nDCG@5 ở k=4, giữ 79% chất lượng uncompressed; ở k=64 đạt 0.811, tức 97%. Cùng ngân sách k=4, token pooling đạt 0.584 và raw k-means đạt 0.512.
Trên ViDoRe v2, GLIE giữ 64% ở k=4 và 95% ở k=64; margin ít suy giảm ở ngân sách lớn vì benchmark chưa bão hòa.
Với ColQwen2, GLIE giữ 82% ở k=4 và thắng normalized anchoring ở 5/6 ngân sách, chỉ thua ở k=2.
Ở ngân sách huấn luyện tương đương, fine-tune encoder không vượt nổi normalized k-means miễn phí; GLIE hơn bản fine-tune từ +0.074 tới +0.132 nDCG@5 ở mọi ngân sách.
Codec chỉ có 415K parameters, fit trong dưới 3 GPU-minutes trên khoảng 1.000 trang; co 1 triệu trang từ 258 GB xuống còn khoảng 1 GB ở k=4.
Ablation: spherical anchoring là yếu tố lớn nhất, tới +0.093 nDCG@5 ở k=4; learned code thêm khoảng +0.044 tới +0.016 tới k=16; generative read-out thêm khoảng +0.016 ở k=4 trên ViDoRe v1. Khi tăng shortlist, oracle tăng mạnh nhưng GLIE gần như không đổi, cho thấy decoder fidelity là điểm nghẽn chính.

IV. Conclusion & Future Works:

Ý chính là bài toán lưu trữ late-interaction có thể tiếp cận theo trục hình học và sinh lại bằng chứng, không chỉ cắt vector nhỏ hơn. Một trang tài liệu có ít bậc tự do nên có thể mang bởi vài anchor và một decoder chung; đây là lý do mô hình rất nhỏ và ít dữ liệu huấn luyện vẫn đủ. Hướng đi rõ nhất là cải thiển decoder, vì ở k=4 decode hoàn hảo có thể nâng 0.657 lên khoảng 0.782. Các hướng tiếp theo gồm thử thêm encoder late-interaction, kết hợp với quantized storage vì hai trục này bổ sung nhau, và mở rộng sang video late-interaction nơi token set lớn và dư thừa hơn.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng đánh giá sang nhiều encoder late-interaction khác để kiểm tra mức độ recipe nén-sinh này còn đúng khi backbone, độ phân giải patch và phân phối tài liệu thay đổi.
Kết hợp codec sinh lại bằng chứng với lượng tử hóa vector lưu trữ để giảm đồng thời số vector và số bit mỗi vector mà không phải fine-tune encoder.
Nghiên cứu decoder có cơ chế kiểm soát sai số cục bộ theo cụm bằng chứng, nhắm thu hẹp khoảng cách tới shortlist oracle hiện đang còn lớn ở ngân sách thấp.
Đưa phương pháp sang video late-interaction, nơi mỗi đoạn video có thể chứa rất nhiều token dư thừa và tiềm năng regenerate-on-demand càng lớn.
Phát triển bộ ước lượng intrinsic dimension trực tuyến để tự chọn số anchor k và shortlist L theo từng corpus hoặc từng loại trang.

2. Patent:

Ứng dụng tìm kiếm tài liệu quét trên điện thoại: thay vì lưu toàn bộ đặc trưng của mỗi trang, điện thoại chỉ giữ vài vector điểm neo đã chuẩn hóa; khi người dùng tìm, máy chấm nhanh toàn bộ trang rồi phục hồi chi tiết cho vài trang khả nghi nhất để xếp hạng lại chính xác.
Hệ thống lưu trữ hồ sơ doanh nghiệp tiết kiệm bộ nhớ: máy chủ nén hàng triệu ảnh hóa đơn, hợp đồng, báo cáo thành các gói cực nhỏ; khi có truy vấn kiểm toán, chỉ trang nằm trong danh sách ngắn được tái tạo đặc trưng để chứng minh dữ liệu khớp nghiệp vụ.
Module tra cứu ngoại tuyến cho thiết bị đọc sách hoặc máy quét cầm tay: người dùng tải về kho tài liệu dạng nén; tìm kiếm cục bộ chạy trên điểm neo, còn xem trước hoặc xác minh trang đúng chỉ giải nén chi tiết khi cần, giảm dung lượng và tiêu thụ pin.
Dịch vụ lập chỉ mục ảnh tài liệu đa người thuê: nhà cung cấp giữ checkpoint nhận diện cố định và áp một codec nhỏ sau hậu kỳ, cho phép thay đổi mức nén từng khách hàng mà không phải tính lại toàn bộ embedding kho lưu trữ.
Ứng dụng hỗ trợ khai thác bảng biểu trong ảnh: khi người dùng hỏi về một ô số hoặc chú thích biểu đồ, hệ thống mở rộng vùng bằng chứng liên quan quanh các cụm đã lưu để đối chiếu lại giá trị thật thay vì chỉ trả về trang gần giống.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.11808
ArXiv Abstract	https://arxiv.org/abs/2609.11808
PDF Download	https://arxiv.org/pdf/2609.11808.pdf
Github Repository	https://github.com/mohammad2012191/GLIE

20. UniH^3: Unifying Hierarchical Homogeneity and Heterogeneity for All-in-One Medical Image Restoration (24 votes)

Tác giả: Zhiwen Yang, Jiayin Li, Chengyu Liu, Hui Zhang, Bingzheng Wei, et al.

Xuất bản lúc: 2026-09-10

Tag: Medical Image Restoration, All-in-One Restoration, Multi-Task Learning, Vision Transformer, Memory Bank, Attention Mechanism, PET, CT, MRI

I. Main Problem:

Các mô hình All-in-One medical image restoration (MedIR) hiện tại chỉ tập trung vào inter-task heterogeneity (phân biệt modality và loại suy giảm để xử lý riêng), bỏ qua hai khía cạnh quan trọng:

Bỏ qua tính đồng nhất (homogeneity) của ảnh y tế: các modality chia sẻ cấu trúc giải phẫu và prior sinh học rất giống nhau — không khai thác được kiến thức chung này khiến học càng khỏi khi số task tăng.
Bỏ qua intra-task heterogeneity: sự khác biệt bên trong cùng một task do máy quét, trung tâm y tế, nhân khẩu học bệnh nhân khác nhau gây ra, tạo xung đột tối ưu mà các phương pháp cân bằng loss ở mức task (như uncertainty weighting) quá thô để xử lý. Hệ quả: mô hình chung khó huấn luyện, một số task bị lấn át, hiệu năng kém và tổng quát kém.

II. Main Idea:

UniH3 mô hình hóa đồng thời homogeneity và heterogeneity ở hai cấp độ (intra-task và inter-task) qua ba thành phần:

Hierarchical Homogeneity Memory (H2M): một memory bank gồm slot riêng cho từng task và slot dùng chung. Trong lúc train, module chưng cất cấu trúc giải phẫu sạch từ ảnh HQ vào memory bằng Exponential Moving Average; lúc test, dùng feature của ảnh đầu vào để truy xuất prior phù hợp nhất với cross-attention.
Homogeneity-Guided Attention (HGA): đổi hướng học — thay vì dựa trên feature ảnh nhiễu LQ và dùng prior làm phụ, HGA neo điểm xuất phát vào prior sạch HQ (thêm bias +V_H, trừ V trong attention), giảm độ khó học.
Hierarchical Heterogeneity Balancer (H2B): mở rộng cân bằng uncertainty từ 1 scalar/task thành σ = σ_task + Δσ_sample, trong đó Δσ được mạng UEB dự đoán theo từng mẫu — giải quyết xung đột tối ưu cả giữa các task lẫn bên trong một task.

Ví dụ đời thường: giống như phục chế một bức ảnh cũ mờ — thay vì tô lại từ con số không, ta tra trong album một tấm ảnh rõ nét giống nhất về bố cục và tô theo tấm ảnh đó, đồng thời có người phụ giúp điều chỉnh mức độ ưu tiên giữa các mảng ảnh khó phục chế để không bỏ quên mảng nào.

III. Main Results:

Đạt SOTA trên cả hai thiết lập All-in-One và Single-Task trên benchmark mới MedIR-2D-500K (509,200 cặp ảnh 2D, 7 task: PET/CT/X-ray/OCT/Ultrasound denoising, MRI/Pathology super-resolution) và MedIR-3D-3K (3,522 cặp volume 3D).
All-in-One trung bình: PSNR 36.77 / SSIM 0.9045, vượt AdaIR (36.56), PromptIR (36.54), AMIR (36.52) — với FLOPs thấp hơn hầu hết baseline (26.3G so với AirNet 230G).
Single-task trung bình: PSNR 36.90 / SSIM 0.9058, vượt MambaIR (36.75) và Restormer (36.72) — một mô hình duy nhất cạnh tranh với cả mô hình chuyên biệt.
Cải thiện nhất ở MRI super-resolution (+0.38 PSNR so với MambaIR trong all-in-one) và các task nhiễu cao như ultrasound, pathology.

IV. Conclusion & Future Works:

Bài học chính: để MedIR all-in-one hiệu quả cần khai thác cả hai mặt — đồng nhất (chia sẻ prior giải phẫu qua memory truy xuất) và dị biệt (cân bằng tối ưu ở cả cấp task lẫn cấp mẫu) — thay vì chỉ phân biệt các task. Bộ dữ liệu MedIR-2D-500K/MedIR-3D-3K được công bố làm benchmark chuẩn cho MedIR đa năng. Hướng tương lai (suy ra từ hướng nghiên cứu): mở rộng sang restoration 3D đầy đủ, nhiều modality hơn, và giảm chi phí truy xuất memory cho triển khai lâm sàng thực tế.

V. Brainstorming Space:

1. Publish Papers:

Memory-based prior retrieval cho medical imaging: mở rộng H2M sang các bài toán tái tạo y tế khác như segmentation và registration, dùng memory giải phẫu dùng chung để chuyển giao tri thức cross-modality.
Cân bằng tối ưu phân cấp cho multi-task learning y tế: áp dụng mô hình uncertainty hai cấp (task + sample) cho huấn luyện mô hình đa nhiệm lâm sàng (phát hiện bệnh đa cơ quan trên một ảnh).
All-in-One restoration cho dữ liệu y tế 3D/thời gian thực: tối ưu kiến trúc 3D của UniH3 để phục hồi volume toàn thân với tài nguyên GPU hạn chế.

2. Patent:

Ứng dụng điện thoại chụp và làm nét phim X-quang/CT cũ: người dùng chụp lại phim y tế bằng camera điện thoại, mô hình truy xuất prior giải phẫu tương ứng trong bộ nhớ đám mây để khử nhiễu và tăng độ phân giải ngay trên thiết bị, hỗ trợ y tế từ xa vùng sâu.
Siêu âm cầm tay kết nối điện thoại: thiết bị siêu âm di động thu ảnh nhiễu, ứng dụng trên điện thoại dùng mô hình all-in-one để khử nhiễu theo real-time, tự điều chỉnh theo độ khó từng khung hình (cân bằng mẫu) mà không cần máy quét đắt tiền.
Hệ thống chuẩn hóa ảnh y tế đa trung tâm: trước khi đưa vào AI chẩn đoán, ảnh từ các bệnh viện dùng máy quét khác nhau được một mô hình duy nhất phục hồi về chất lượng chuẩn, tự xử lý độ lệch phân phối giữa các máy/quốc gia.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.11156
ArXiv Abstract	https://arxiv.org/abs/2609.11156
PDF Download	https://arxiv.org/pdf/2609.11156.pdf
Github Repository	https://github.com/Yaziwel/UniH3

21. CARDEA: Auditable Reasoning Grounded in Spatial Evidence for End-to-End Coronary Angiography Interpretation (24 votes)

Tác giả: Jia-Jen Lee, Shih-Yen Hou, Kee Koon Ng, Wei-Chun Wang, Shih-Sheng Chang

Xuất bản lúc: 2026-09-07

Tag: Medical Imaging, Coronary Angiography, Large Vision-Language Models, RLVR, Chain-of-Box, Auditable AI, Report Generation

I. Main Problem:

Chẩn đoán bệnh động mạch vành bằng chụp mạch vành (CAG) phụ thuộc nhiều vào kinh nghiệm bác sĩ, dẫn tới biến thiên giữa người đọc (chỉ ~77% đồng thuận giữa các bác sĩ tim mạch). Các hệ AI hiện có có hai hạn chế lớn:

Mô hình discriminative chỉ xuất nhãn đóng, không giải thích được vì sao đưa ra kết luận
Mô hình sinh báo cáo tự do thiếu bằng chứng không gian auditable, khiến bác sĩ khó kiểm chứng và không tin dùng

II. Main Idea:

CARDEA là large vision-language model thống nhất chạy pipeline CAG end-to-end hai lượt:

Pass 1: chọn keyframe tiêu biểu và phân loại view (LCA/RCA/OTHER) từ video đa góc
Pass 2: lập luận Chain-of-Box (CoB) trên các keyframe đã chọn, đưa ra chẩn đoán mức study kèm bounding box định vị vị trí tổn thương trong chuỗi suy luận

Huấn luyện 3 giai đoạn chỉ trên public dataset với tác vụ closed-ended:

Visual feature alignment: fine-tune single-view (vessel/stenosis detection)
Self-distilled CoB cold start: mô hình tự sinh reasoning trace có box từ detection của stage 1
RLVR với CoB reward: thưởng khi trả lời đúng và dùng box trong reasoning

Ví dụ đời thường: giống bác sĩ đọc phim không chỉ nói "bệnh nhân bị hẹp mạch" mà còn khoanh tròn ngay vị trí hẹp trên phim để đồng nghiệp kiểm tra lại — CARDEA làm điều tương tự trong chuỗi suy luận.

III. Main Results:

Dominance classification: thua classifier chuyên biệt trên tập in-distribution (0.94 vs 0.97 accuracy) nhưng ngang bằng dưới domain shift (0.91 vs 0.89)
Complexity assessment: ngang hai bác sĩ can thiệp (accuracy 0.90 vs 0.90 và 0.88)
Zero-shot trên AngioCAD: vượt baseline RCA stenosis (F1 0.85 vs 0.81), view classification ngang khi lọc đúng view (0.95 vs 0.95)
Report generation zero-shot: chỉ RLVR cải thiện (VS-F1 0.686 so với 0.513 base model và 0.312 naive floor); SFT làm giảm chất lượng
Ablation: bỏ CoB reward → grounding sụp ~5%; bỏ cold start → box phóng to gần hết khung hình, mất tính diễn giải

IV. Conclusion & Future Works:

CARDEA chứng minh khả năng auditable end-to-end CAG interpretation với spatial evidence, cạnh tranh với baseline chuyên biệt và bác sĩ trên tác vụ closed-ended, đồng thời khái quát zero-shot sang cohort hoàn toàn mới. RLVR trên tác vụ có verifier giúp mở khóa khả năng report generation mà supervised imitation không đạt được. Hướng tương lai: cần prospective validation với bác sĩ chuyên khoa trước khi dùng lâm sàng; cải thiện grounding trên dữ liệu out-of-distribution; mở rộng học các dạng tổn thương ngoài vessel/stenosis.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng Chain-of-Box reasoning cho các tác vụ y khoa khác ngoài CAG (MRI, CT) với cơ chế spatial grounding auditable tương tự.
Kết hợp RLVR với reward model cho tác vụ open-ended như report generation mà không cần rule-based verifier.
Nghiên cứu cách duy trì grounding behavior ổn định trên dữ liệu out-of-distribution thông qua rejection sampling và bổ sung SFT.
Phát triển metric đánh giá faithfulness của bounding box trong CoB thay vì chỉ đo tần suất và kích thước.

2. Patent:

Hệ thống hỗ trợ đọc phim chụp mạch vành trên máy tính bảng bác sĩ: bác sĩ chụp hoặc tải video CAG, ứng dụng tự chọn frame tốt, đưa ra chẩn đoán kèm khung đánh dấu vị trí hẹp mạch để bác sĩ kiểm chứng trước khi quyết định can thiệp.
Ứng dụng di động cho bệnh nhân tim mạch mạn tính: người dùng tải ảnh CAG cũ, ứng dụng sinh báo cáo giải thích đơn giản kèm vùng ảnh minh họa giúp bệnh nhân hiểu tình trạng mạch máu và chuẩn bị cho tái khám.
Module tích hợp vào hệ thống PACS/RIS của bệnh viện: tự động tiền phân tích ca CAG, gắn nhãn độ phức tạp và gợi ý ưu tiên ca cần can thiệp gấp, kèm bản đồ vị trí tổn thương để bác sĩ đối chiếu nhanh.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.06931
ArXiv Abstract	https://arxiv.org/abs/2609.06931
PDF Download	https://arxiv.org/pdf/2609.06931.pdf
Github Repository	https://github.com/benbayibaurba/cardea

22. IdeaAMBIG: Benchmarking Implementation-Critical Gaps in Research-Idea Specifications (23 votes)

Tác giả: Yiling Ma, Yilun Zhao, Sihong Wu, Manasi Patwardhan, Arman Cohan

Xuất bản lúc: 2026-09-09

Tag: Benchmark, LLMs, Research Automation, Requirements Engineering, Clarification, Code Generation, Reproducibility

I. Main Problem:

Một ý tưởng nghiên cứu có thể mới, mạch lạc, khoa học hợp lý, nhưng phương pháp đề xuất vẫn thiếu định nghĩa đủ để cài đặt đúng như tác giả mong muốn. Khi một lựa chọn quyết định phương pháp bị bỏ sót, mơ hồ hoặc mâu thuẫn nội tại, agent lập trình phải hoặc hỏi lại để làm rõ, hoặc tự bịa giả định — tạo ra code chạy được nhưng thực hiện một phương pháp khác, gây lỗi tái hiện (reproducibility failures).

Các benchmark hiện có chỉ đánh giá chất lượng ý tưởng (novelty, feasibility) hoặc sản phẩm cuối (code, paper), bỏ qua mắt xích giữa hai giai đoạn: liệu bản đặc tả phương pháp có đủ thông tin để cài đặt trung thực hay không.

II. Main Idea:

IdeaAMBIG là benchmark gồm 660 instance một-khiếm-khuyết, có bằng chứng thực tế, để đo khả năng phát hiện và làm rõ lỗ hổng trong đặc tả phương pháp nghiên cứu:

163 instance thực tế trích từ báo cáo tái hiện (MLRC, ECIR, TMLR) và GitHub issues — nơi người cài đặt thật gặp lỗ hổng thật, có câu trả lời được bằng chứng hỗ trợ.
497 instance tổng hợp có kiểm soát: lấy đặc tả đã chứng minh cài đặt được thành công, rồi xoá/mơ hồ hóa đúng một chi tiết quyết định phương pháp làm đối trọng chính xác.

Ba nhiệm vụ lần lượt:

Readiness assessment: cho một đặc tả, quyết định READY / NOT-READY.
Defect localization: chỉ cho đặc tả bị thiếu, tìm blocker (nhãn Ambiguity / Incompleteness / Inconsistency + mô tả lỗi cụ thể), không có gợi ý.
Clarification action generation: cho đặc tả + blocker đã chú thích, sinh hành động làm rõ — hoặc đặt câu hỏi tác giả/người cài đặt, hoặc chỉ dẫn tra cứu bằng chứng trong paper, code, config, log.

Ví dụ đời thường: giống công thức nấu ăn ghi "nướng thịt vừa chín" mà không nói nhiệt độ — hai đầu bếp giỏi sẽ làm ra hai món khác nhau. Người thợ khéo léo cần tự nhận ra chỗ thiếu nhiệt độ, rồi hỏi đúng một câu "nướng bao nhiêu độ?" trước khi bật lò, thay vì đoán bừa rồi nấu sai.

III. Main Results:

Localization là nút thắt chính: model mạnh nhất (GPT-5.6-Sol) chỉ đạt 9.6% Macro DRR trên instance thực — dù đúng 60.1% nhãn Level-1, model thường đoán category hợp lý nhưng không tìm ra đúng quyết định phương pháp bị bỏ sót; 66.3% trường hợp tìm ra blocker khác hẳn.
Biết blocker thì làm rõ rất tốt: cùng model đạt 80.6% Macro-CAS khi được cho defect (96.2% trên tập tổng hợp). So sánh paired end-to-end (13.6%) vs defect-guided (80.6%) cho thấy khó khăn nằm ở khám phá blocker, không phải ở đoán giả định sai (No-Assumption ~95.7%).
Readiness assessment còn yếu: Macro-F1 67.5 (thực) / 86.4 (tổng hợp); chấp nhận 31% đặc tả lỗi, loại 34% đặc tả đúng; chỉ 1.5% dự đoán vừa đúng vừa có lý giải vững.
Oracle study: cung cấp đúng thông tin còn thiếu nâng tỉ lệ codification-ready từ 14% lên 98%; nghiên cứu thực thi được: test pass từ 45% lên 85%, chi tiết phương pháp trung thực từ 30% lên 90% — chứng tỏ code pass test vẫn có thể là phương pháp khác.

IV. Conclusion & Future Works:

LLM hiện tại hành động tốt khi đã biết vướng mắc ở đâu nhưng rất kém tự tìm ra nó — giống nhân viên giải quyết được vấn đề khi được chỉ, nhưng không tự phát hiện vấn đề. Hệ thống agent nghiên cứu đáng tin cần một "cổng kiểm tra readiness" trước khi cài đặt: phát hiện blocker, hỏi/làm rõ có căn cứ, ngăn giả định vô căn.

Hướng mở rộng: làm rõ đa lượt (multi-turn) thay vì một hành động; tự chọn giữa hỏi con người và tra cứu artifact; hòa giải bằng chứng mâu thuẫn; đặc tả nhiều lỗi tương tác; mở rộng ngoài AI/ML sang khoa học tính toán khác; tích hợp cổng readiness vào agent thật để đo giảm độ lệch cài đặt và chi phí sửa lỗi của con người.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng IdeaAMBIG sang đặc tả nhiều khiếm khuyết tương tác, với ngân sách câu trả lời cân bằng giữa các điều kiện, để kiểm tra liệu lỗi chồng lấn có làm localization khó hơn không.
Nghiên cứu agent làm rõ đa lượt: tự quyết định khi nào hỏi tác giả, khi nào tự tra cứu paper/code/config, và khi nào đã đủ thông tin để dừng hỏi.
Tích hợp cổng kiểm tra readiness vào pipeline agent nghiên cứu end-to-end, đo trực tiếp mức giảm độ lệch cài đặt, giả định vô căn và chi phí hiệu chỉnh của con người so với agent không có cổng này.

2. Patent:

Ứng dụng điện thoại cho nhà nghiên cứu: dán mô tả phương pháp thí nghiệm vào, ứng dụng quét và chỉ ra các chi tiết quyết định còn thiếu (cách xử lý dữ liệu, cấu hình mô hình, thang đo đánh giá) kèm câu hỏi gợi ý để hỏi tác giả bài báo trước khi bắt tay cài đặt.
Trợ lý lập trình AI trên điện thoại có chế độ "kiểm tra trước khi viết code": trước khi sinh code từ mô tả thuật toán, ứng dụng tự phân tích đặc tả, phát hiện điểm mơ hồ và đặt câu hỏi làm rõ với người dùng thay vì tự đoán giá trị thiếu.
Plugin quản lý dự án tái hiện nghiên cứu: tự đối chiếu mô tả phương pháp trong proposal với code, file cấu hình và log chạy thử trên máy người dùng, cảnh báo ngay những chỉnh sửa mã nguồn đang ngầm bịa giả định sai lệch so với thiết kế gốc.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.10539
ArXiv Abstract	https://arxiv.org/abs/2609.10539
PDF Download	https://arxiv.org/pdf/2609.10539.pdf
Github Repository	https://github.com/Yiling-Ma/IdeaAMBIG

23. ActReview: Rebuttal-Guided Training Data and Rubric Rewards for Actionable Peer Review Generation (23 votes)

Tác giả: Yiling Ma, Yilun Zhao, Sihong Wu, Ziyu Chen, Manasi Patwardhan, et al.

Xuất bản lúc: 2026-09-08

Tag: Peer Review, LLM, Post-training, GRPO, Rubric Rewards, SFT, Rebuttal, OpenReview

I. Main Problem:

Các hệ thống LLM dùng cho tự phản biện bài báo trước khi nộp chủ yếu tạo ra phản hồi mang tính mô tả (mô tả vấn đề) thay vì mang tính chỉ đạo (nêu cụ thể cách sửa), khiến tác giả không biết bước tiếp theo là gì. Hai khoảng trống chính:

Các công trình trước xem sinh review là một tác vụ đơn lẻ, không tách chẩn đoán vấn đề khỏi hướng dẫn sửa đổi.
Các nguồn dữ liệu peer-review hiện có thiếu tín hiệu tham chiếu nối điểm yếu do reviewer nêu với kế hoạch sửa chữa cụ thể, nên khó đánh giá một nhận xét chỉ dừng ở chẩn đoán hay còn hướng dẫn sửa gì, sửa ở đâu, sửa thế nào.

II. Main Idea:

Bài báo đề xuất Actionable Peer-review Generation như một bài toán hai tác vụ: (1) sinh diagnostic claims — nêu điểm thiếu sót cụ thể của bài; (2) sinh actionable suggestions — nêu cần sửa gì, ở đâu, làm thế nào, kỳ vọng đạt kết quả gì.

Ý tưởng trung tâm: rebuttal của tác giả tiết lộ cách khắc phục hợp lý cho mối lo ngại của reviewer, nên có thể dùng làm giám sát tiềm ẩn cho phản hồi hướng sửa đổi. Từ các luồng review–rebuttal thật trên OpenReview, tác giả xây dựng ActReview-40K qua 4 bước:

tách review thành điểm yếu nguyên tử, gán nhãn theo taxonomy hai cấp
căn chỉnh mỗi điểm yếu với đoạn rebuttal giải quyết nó (rebuttal chỉ dùng ngoại tuyến, không lộ ra đầu ra)
dùng GPT-5.4 viết lại thành phản hồi kiểu review ban đầu (claims + gợi ý sửa đổi)
truy xuất các đoạn (chunks) bài báo liên quan làm bằng chứng cục bộ thay vì dùng full paper

Mô hình Qwen3-8B-Base được huấn luyện multi-task SFT, rồi tối ưu thêm bằng GRPO với rubric rewards phụ thuộc candidate và điểm yếu cụ thể: mỗi instance có rubric riêng gồm hard constraints + tiêu chí mềm có trọng số, được xây dựng ngoại tuyến từ tham chiếu và các lỗi thực tế của candidate.

Ví dụ đời thường: giống việc học cách sửa xe bằng cách đọc lời giải thích của thợ về lần sửa trước — thợ không có mặt lúc bạn chẩn đoán, nhưng bạn rút ra được "nếu bệnh này thì sửa chỗ kia bằng cách nọ" rồi tự viết hướng dẫn từ đầu.

III. Main Results:

ActReview-RL vượt các mô hình review-generation chuyên biệt trước (DeepReviewer-14B, OpenReviewer-8B, RbtAct-8B) về actionability và grounding, đồng thời cạnh tranh với LLM mạnh dạng prompt (GPT-5.1, Gemini-3.1-Pro) dù nhỏ hơn hẳn (8B).
RL cải thiện đáng kể so với SFT-only: Task 2 ROUGE-L +7.27, BLEU +8.05, evidence specificity +1.82; số claims sinh ra (1.24) gần với tham chiếu (1.37) hơn các baseline hay sinh dư.
Đánh giá con người (200 instances, ẩn danh) xác nhận cải thiện tính hữu ích cho sửa đổi, nhưng vẫn còn khoảng cách về độ chính xác kỹ thuật so với LLM frontier.
Ablation: dữ liệu rebuttal-enhanced cho lợi ích lớn nhất ở Task 2 (+27.89 BLEU); rubric candidate-aware thắng cả judge reward trực tiếp lẫn rubric cố định chung (Task 2 Overall 73.4 vs 68.7 và 61.0); tách hai tác vụ thắng end-to-end (alignment claim–suggestion +0.35).
Khái quát hóa: trên 175 papers 2025–2026 held-out, cạnh tranh GPT-5.1 về validity, cải thiện resolution sufficiency và usefulness; tỉ lệ lỗi kỹ thuật nghiêm trọng thấp nhất (6.29%); abstain đúng 78.3% trên 360 cặp không có bằng chứng hỗ trợ.

IV. Conclusion & Future Works:

Kết quả cho thấy review–rebuttal interactions là nguồn giám sát giá trị còn bị bỏ ngỏ, và tách cấu trúc chẩn đoán điểm yếu khỏi kế hoạch sửa đổi tạo phản hồi cụ thể, khả thi hơn so với sinh review như một tác vụ duy nhất.

Hạn chế: benchmark chỉ bao phủ các điểm yếu giải quyết được qua rebuttal, loại trừ tranh cãi về tính mới hoặc lỗi phương pháp không thể vá; chưa vượt LLM độc quyền về độ chính xác kỹ thuật; pipeline phụ thuộc GPT-5.4 ở nhiều khâu nên có rủi ro judge-model coupling.

Hướng tương lai: cải thiện phán đoán kỹ thuật sâu hơn, đánh giá với judge đa dạng hơn và quy mô chuyên gia lớn hơn, mở rộng sang các loại tranh luận bài báo ngoài phạm vi rebuttal-resolvable.

V. Brainstorming Space:

1. Publish Papers:

Áp dụng tư tưởng rebuttal-as-latent-supervision cho các tác vụ khoa học khác như sinh câu hỏi review, đề xuất thí nghiệm bổ sung (ablation), hoặc thiết kế phản biện đa lượt, nơi phản hồi của tác giả/tác nhân là tín hiệu giám sát tiềm ẩn.
Phát triển rubric reward thích ứng theo lỗi candidate cho các tác vụ open-ended không kiểm chứng được (viết báo cáo, đánh giá sản phẩm, góp ý mã nguồn), trong đó tiêu chí thưởng được tổng hợp riêng cho từng instance.
Mở rộng framework hai tác vụ (chẩn đoán → kế hoạch hành động) sang AI-assisted writing/editing nói chung: mô hình tách nhận diện vấn đề khỏi đề xuất chỉnh sửa, dùng phản hồi của người dùng từ các phiên trước làm giám sát tiềm ẩn.
Nghiên cứu cải thiện technical accuracy của mô hình review nhỏ bằng cách kết hợp rubric reward với kiểm chứng bằng công cụ (code execution, tính toán, tra cứu tài liệu) thay vì judge ngôn ngữ thuần.

2. Patent:

Ứng dụng điện thoại trợ lý phản biện luận văn/báo cáo: người dùng tải bản thảo lên, chọn loại điểm yếu cần rà soát (ví dụ "phần thực nghiệm thiếu ablation"); ứng dụng chỉ ra đoạn cụ thể có vấn đề và đề xuất sửa gì, sửa ở đâu, cách sửa — học từ kho phản hồi–giải trình của người dùng trước đó.
Hệ thống góp ý tự động cho tài liệu nội bộ doanh nghiệp (đề án, hợp đồng, tài liệu kỹ thuật): mô hình được fine-tune với dữ liệu "nhận xét của người duyệt → bản giải trình chỉnh sửa" trong công ty, sau đó sinh phản hồi kiểu người duyệt mà không cần người thật đọc trước.
Công cụ hỗ trợ tác giả phản hồi reviewer trên điện thoại: khi nhận được review của hội đồng, ứng dụng gợi ý các hành động sửa đổi cụ thể gắn với từng điểm yếu, rút ngắn thời gian soạn rebuttal.
Dịch vụ kiểm tra bài nộp trước khi gửi tạp chí/hội nghị dạng web và mobile: quét từng nhóm điểm yếu phổ biến, chỉ ra bằng chứng trong bài và đưa kế hoạch chỉnh sửa từng phần, giúp tác giả tự sửa trước thay vì bị phản biện bác.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.09076
ArXiv Abstract	https://arxiv.org/abs/2609.09076
PDF Download	https://arxiv.org/pdf/2609.09076.pdf
Github Repository	https://github.com/Yiling-Ma/ActReview

24. Adaptive Bridge: A Proxy-Based Decoupling Layer for Mitigating DDS Backpressure in ROS 2 (23 votes)

Tác giả: Kaushalraj Puwar, B. Thangaraju

Xuất bản lúc: 2026-09-06

Tag: ROS 2, DDS, Middleware, QoS, Real-Time Systems, Robotics, Backpressure, Network Impairment

I. Main Problem:

Trong hệ thống ROS 2 dùng DDS, một subscriber chậm hoặc bị suy giảm mạng (mất gói Wi-Fi, băng thông thấp, quá tải CPU) trên topic RELIABLE có thể gây backpressure kéo cả nhóm xuống:

DDS writer giữ sample trong history cho đến khi mọi reader đều acknowledge; reader hỏng để sample treo lại.
Khi history đầy, publisher không ghi được sample mới → throughput sụt, message bị drop/delay.
Cả các subscriber lành mạnh, mang tính an toàn (ví dụ tránh va chạm cục bộ) cùng chịu chung số phận dù lỗi không phải của họ.
Cách dùng BEST EFFORT cho tất cả thì mất đảm bảo giao hàng cho node an toàn; chỉnh QoS theo subscriber cũng không tách được writer dùng chung; DiffServ chỉ ưu tiên gói tin, không hiểu ngữ nghĩa DDS.

II. Main Idea:

Adaptive Bridge đặt một proxy ở tầng ứng dụng giữa publisher và subscriber, tách đường dữ liệu theo mức độ quan trọng:

Proxy subscribe topic gốc, rồi republish qua hai DDS writer độc lập: một writer RELIABLE cho subscriber quan trọng (tránh va chạm), một writer BEST EFFORT cho subscriber không quan trọng/suy giảm (visualization từ xa). Vì hai writer có hàng đợi và lịch ack riêng, subscriber chậm không thể làm tắc đường quan trọng.
Classifier gửi probe RTT 5 Hz, tính RTT trung bình và tỉ lệ mất gói trên cửa sổ trượt 50 mẫu, dùng state machine có hysteresis (phải vượt ngưỡng 3 lần liên tiếp) để gán subscriber vào CRITICAL/NONCRITICAL; lỗi nhầm theo hướng an toàn (coi như critical khi chưa chắc).
Policy Engine: đường critical luôn đi toàn tốc; đường noncritical bị token-bucket giới hạn 3 Hz khi suy giảm, drop message cũ (>200 ms), và backpressure chỉ áp trên đường noncritical.
Safety Supervisor giám sát độ đầy hàng đợi và chuyển sang DEGRADED/EMERGENCY khi proxy quá tải.
Không cần sửa DDS internals, RMW hay node publisher; publishers được tạo sẵn lúc khởi động.

Ví dụ đời thường: giống như một nhân viên lễ tân ở cửa — thay vì để khách chậm trả tiền làm kẹt cả hàng giao dịch, lễ tân tách thành hai quầy: quầy ưu tiên phục vụ luôn khách gấp, quầy thường phục vụ chậm lại cho khách không vội, đồng thời liên tục dò xem quầy nào đang ùn để điều chỉnh.

III. Main Results:

Baseline xác nhận H1: dưới mất gói Gilbert-Elliott, throughput publisher sụt từ 30 Hz xuống 19.2–21.4 Hz (-29–36%), p95 latency của subscriber quan trọng lên tới 11.7–15.0 s.
Với Adaptive Bridge (H2): throughput giữ nguyên 30.0 Hz ở mọi mức suy giảm; p95 latency critical không quá 1.57 ms — giảm ~9,700 lần so với baseline mạnh nhất; overhead chỉ ~0.4 ms so với không có bridge.
Cross-RMW: kết quả tương đương trên cả Fast DDS và Cyclone DDS (p99 < 2 ms, rate 30 Hz) dù hai bên xử lý publish() rất khác nhau (non-blocking vs blocking).
Ablation (H3): topic splitting tĩnh một mình đã mang lại toàn bộ lợi ích latency cho đường critical; classifier chỉ thêm khả năng cắt băng thông noncritical từ 10 Hz xuống 3 Hz (tiết kiệm ~70%) khi suy giảm, phát hiện và hồi phục trong ~20 s.

IV. Conclusion & Future Works:

Tách topic qua proxy loại bỏ hoàn toàn coupling backpressure trong ROS 2 pha trộn độ quan trọng, triển khai được ngay ở tầng ứng dụng mà không đụng vào DDS/RMW/publisher; package đã phát hành cho ROS 2 Jazzy. Hạn chế: proxy là điểm lỗi đơn lẻ và có thể thành nút cổ chai ở băng thông tổng cao; classifier mang tính reactive (cần ~20 s, bỏ lỡ suy giảm ngắn); mới đánh giá trên 2 RMW và message LaserScan với mô hình mất gói kiểm soát, chưa phải trace Wi-Fi thực tế. Hướng tương lai: dự phòng multi-proxy/watchdog, phân loại dự đoán theo xu hướng mạng, đánh giá thêm RMW (RTI Connext) và message lớn (PointCloud2), kiểm chứng trên robot thật và trace Wi-Fi đo thực địa.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng Adaptive Bridge thành cụm proxy dự phòng có đồng thuận để loại bỏ điểm lỗi đơn lẻ trong hệ thống robot an toàn.
Phân loại suy giảm mạng dự đoán dựa trên học máy với trace Wi-Fi đo thực địa thay vì mô hình Gilbert-Elliott tổng hợp.
Đánh giá proxy decoupling cho lưu lượng dữ liệu lớn (PointCloud2, camera) và tính toán chi phí CPU/bộ nhớ của proxy ở băng thông tổng cao.
Tích hợp tín hiệu health của wireless link từ driver NIC vào classifier để rút ngắn thời gian phát hiện suy giảm dưới 20 giây.

2. Patent:

Ứng dụng robot giao hàng/dọn dẹp kết nối điều khiển qua điện thoại: khi điện thoại ở xa bị mất sóng Wi-Fi, một module trung gian trên robot tự tách luồng dữ liệu — lệnh tránh chướng ngại vật luôn được ưu tiên gửi tức thì, còn luồng xem camera trên điện thoại tự động hạ chất lượng/tần suốt để không làm nghẽn điều khiển.
Hệ thống giám sát sức khỏe mạng cho xe tự hành nội bộ: module trên xe liên tục 'ping' các thiết bị thu (cảm biến, màn hình điều khiển), tự phân loại thiết bị nào đang yếu và chuyển dữ liệu của thiết bị đó sang đường truyền ít đảm bảo, bảo vệ tuyệt đối luồng dữ liệu phanh/lidar.
Trung gian tách luồng cho hội nghị/telepresence robot: khi một người xem ở kết nối kém, server trung gian tự giảm tần suất khung hình gửi cho người đó mà không ảnh hưởng độ trễ của người trình bày điều khiển robot.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2608.15380
ArXiv Abstract	https://arxiv.org/abs/2608.15380
PDF Download	https://arxiv.org/pdf/2608.15380.pdf
Github Repository	https://github.com/KaushalrajPuwar/adaptive-bridge

25. DRG-MAPPO: Hierarchical Dynamic Role-Graph Multi-Agent Reinforcement Learning for Cooperative Air Combat (22 votes)

Tác giả: Junlin Liu, Chengwei Li, Yang Gao, Hui Chang, Xinchen Zhang, et al.

Xuất bản lúc: 2026-09-10

Tag: Multi-Agent Reinforcement Learning, MAPPO, Hierarchical Reinforcement Learning, Graph Attention Network, Air Combat, Role Assignment

I. Main Problem:

Học tăng cường đa tác tử (MARL) đã cho thấy tiềm năng trong tác chiến không quân, nhưng phối hợp chiến thuật tinh vi vẫn là thách thức lớn do hai hạn chế chính:

Thiếu mô hình hóa quan hệ có cấu trúc: các tác tử không nắm bắt được các tương tác thay đổi theo thời gian giữa các thực thể trên chiến trường (đồng đội, địch, tên lửa), nên bỏ lỡ các cửa sổ chiến thuật tối ưu (ví dụ địch vừa chuyển hướng mối đe dọa).
Kiến trúc phẳng truyền thống: không mô hình hóa rõ vai trò chiến thuật (leader, supporter...), dẫn đến phân công nhiệm vụ mơ hồ và không hình thành được phối hợp bất đối xứng (như chiến thuật mồi nhử Leader-Wingman-Decoy).

II. Main Idea:

DRG-MAPPO là khung MARL phân tầng tích hợp mô hình hóa quan hệ dạng đồ thị với gán vai trò động, gồm ba thành phần:

Graph Attention Encoder: chiến trường được biểu diễn thành đồ thị có hướng với các nút là 4 loại thực thể (self, đồng đội, địch, tên lửa); cơ chế attention dạng scaled dot-product trích xuất độ quan trọng tương tác cặp đôi, cho 3 mức biểu diễn: self-refined, agent-local, team-global.
Chính sách phân tầng: chính sách cao cấp gán vai trò chiến thuật rời rạc (leader, supporter...) dựa trên đặc trưng quan hệ đồ thị; chính sách thấp cấp chọn hành động cơ động 12 lệnh (cua, truy đuổi, né tên lửa, phóng tên lửa) điều kiện hóa theo vai trò được nhúng.
Cơ chế cam kết thời gian: vai trò chỉ được tái gán sau mỗi khoảng T_role cố định, tránh dao động vai trò gây mất ổn định huấn luyện. Thêm nhiệm vụ phụ ưu tiên mục tiêu (dự đoán mục tiêu ưu tiên dựa trên khoảng cách, trạng thái khóa radar, số tên lửa đang bám) để hình thành hành vi tập hỏa (focus-fire) mà không cần thiết kế reward thủ công.

Ví dụ đời thường: giống một đội bóng rổ — đội trưởng quan sát sân đấu (đồ thị quan hệ) rồi phân vai: một người làm tiền đạo ghi điểm, một người chơi mồi kéo phòng ngự; ai giữ vai trò gì thì cứ chơi đúng vai đó trong một khoảng thời gian chứ không đổi liên tục từng giây.

III. Main Results:

DRG-MAPPO đạt tỷ lệ thắng 87%, vượt các baseline MARL tiên tiến trong môi trường mô phỏng 2v2 BVR (Beyond-Visual-Range) trên vùng chiến 200×100 km.
Hành vi phối hợp bất đối xứng mới nổi (ví dụ chiến thuật Leader-Wingman-Decoy, tập hỏa) hình thành không cần reward thủ công cho từng hành vi đó.
Thiết kế cân bằng được mô hình hóa quan hệ, khả năng giải thích (vai trò rõ ràng) và ổn định tối ưu nhờ CTDE, cam kết thời gian và clipping riêng cho chính sách vai trò.

IV. Conclusion & Future Works:

DRG-MAPPO chứng minh rằng tách biệt gán vai trò chiến thuật (cao cấp) khỏi điều khiển cơ động (thấp cấp), kết hợp biểu diễn đồ thị attention và nhiệm vụ phụ ưu tiên mục tiêu, là hiệu quả cho tác chiến hợp tác. Khung đạt hiệu suất state-of-the-art với chiến thuật minh bạch, có thể giải thích.

Hướng mở rộng hợp lý (từ các giới hạn đã nêu): mở rộng cho đội hình quy mô lớn hơn, cảnh sát phối hợp nhiều mục tiêu, và môi trường quan sát bị che khuất thực tế hơn; cải tiến hàm ưu tiên mục tiêu phụ thuộc heuristic hiện tại.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng DRG-MAPPO cho tác chiến đội hình lớn (4v4, swarm nhiều UAV) với đồ thị thực thể dày đặc và cơ chế gán vai trò nhiều cấp.
Kết hợp role assignment với liên lạc khi quan sát bị nhiễu/mất gói: vai trò đóng vai trò giao thức ngầm thay cho trao đổi thông tin trực tiếp giữa các UAV.
Nghiên cứu học vai trò hoàn toàn không giám sát (không ràng buộc số lượng vai trò K cho trước) bằng cơ chế thay đổi cấu trúc hoặc discrete latent variables.

2. Patent:

Hệ thống điều phối đội drone cứu hộ/bảo vệ: mỗi drone nhìn toàn cảnh dưới dạng đồ thị (đồng đội, mục tiêu, chướng ngại); một module trung tâm phân vai trò (trinh sát, bao vây, hỗ trợ) và mỗi drone tự chọn động tác bay phù hợp vai trò, đổi vai chỉ sau mỗi vài giây để trực quan ổn định.
Ứng dụng trên điện thoại cho game chiến thuật theo thời gian thực: engine phân tầng giúp NPC phe người chơi tự phân vai tấn công/mồi nhử dựa trên đồ thị quan hệ các đơn vị trên bản đồ, tạo chiến thuật phối hợp chân thực thay vì AI đơn lẻ.
Hệ phòng không tự động phân bổ mục tiêu: mô-đun ưu tiên mục tiêu chung (dựa trên khoảng cách, tốc độ tiếp cận, số tên lửa đã bắn vào mỗi mục tiêu) giúp nhiều khẩu đội tập hỏa đúng mục tiêu nguy hiểm nhất thay vì bắn trùng nhau.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.11155
ArXiv Abstract	https://arxiv.org/abs/2609.11155
PDF Download	https://arxiv.org/pdf/2609.11155.pdf
Github Repository	N/A

26. Think Before You Link: Rarity, Reasoning, and Retrieval in Multilingual Entity Linking (22 votes)

Tác giả: Parinthapat Pengpun, Simran Khanuja, Graham Neubig

Xuất bản lúc: 2026-09-09

Tag: Entity Linking, Multimodal, Multilingual NLP, Retrieval-Augmented Generation, Reasoning LLM, Vision-Language Models, Knowledge Graph

I. Main Problem:

Các hệ thống entity linking đa phương thức, đa ngôn ngữ (nối tên thực thể trong văn bản + ảnh tới bài Wikipedia tiếng Anh) hoạt động tốt với thực thể phổ biến nhưng sụt mạnh ở đuôi dài. Vấn đề cốt lõi:

Nghiên cứu trước đây đo độ hiếm chủ yếu bằng pageviews — chỉ phản ánh mức độ được tra cứu, không phản ánh mức độ được mô tả/kết nối trong knowledge graph.
Trên benchmark MERLIN (5 ngôn ngữ: Hindi, Indonesia, Nhật, Tamil, Việt), mô hình SOTA Cultural Pangea giảm 15.4–39.9% trên các lát cắt thực thể hiếm; các định nghĩa hiếm khác nhau chỉ trùng nhau 37% thực thể — nghĩa là đánh giá theo pageview bỏ sót nhiều thực thể bị lỗi.
Thực thể hiếm gần như không được mã hóa trong trọng số mô hình, nhất là thực thể mang tính văn hóa cục bộ.

II. Main Idea:

Định nghĩa lại độ hiếm theo nhiều chiều bằng metric cấu trúc Wikidata (số bản Wikipedia ngôn ngữ, số statements, qualifiers, liên kết trong/ra) bên cạnh metric popularity (pageviews, backlinks), rồi công bố MERLIN-RARE — các lát cắt test thực thể hiếm. Sau đó đề xuất framework training-free, hai module:

Module 1: VLM có khả năng reasoning (Qwen3-VL Thinking) phân tích ngữ cảnh văn bản + ảnh, tìm kiếm Wikipedia lặp lại (tối đa 20 lượt, dùng BM25 hoặc multilingual embedding retrieval) rồi suy luận trên bằng chứng thu được.
Module 2: re-prompt để trích xuất đúng tiêu đề Wikipedia cuối cùng.

Kết quả phân tích: reasoning và retrieval bổ sung cho nhau — reasoning riêng lẻ không giúp thực thể hiếm, retrieval không reasoning giúp thực thể hiếm nhưng làm hỏng kết quả trên tập đầy đủ (model Instruct bị ngập bằng chứng vì search 3–5 lần không lọc); kết hợp cả hai mạnh nhất.

Ví dụ đời thường: giống người chơi đố vui chưa chắc câu trả lời — lướt Google một mình thì dễ nhặt phải trang nhiễu, chỉ suy nghĩ một mình thì thiếu dữ kiện; chỉ khi vừa tra dần vừa phân tích gợi ý thu được mới chốt được đáp án đúng.

III. Main Results:

Hệ tốt nhất 8B-Think+Embed đạt 87.9% trung bình trên MERLIN, vượt SOTA +6.9% (Hindi +10.0%, Indonesia +10.0%, Tamil +9.3%).
Trên các lát cắt thực thể hiếm, lợi thế tăng tới +23.3% (qualifiers), +22.1% (statements), +21.7% (Wikidata out-links); 14/15 lát cắt vượt mức +6.9% tập đầy đủ.
Retrieval gain tăng 5.0× với thực thể hiếm: từ +3.8% (full set) lên +18.8% (language editions) cho model 8B.
4B-Think+Embed ngang 8B-Instruct trên tập đầy đủ (83.7% vs 83.5%) và hơn +5–7% trên thực thể hiếm → reasoning+retrieval bù cho kích thước model.
Model 2B không dùng được công cụ tìm kiếm hiệu quả (97% chỉ search 1 lần bị ép) → dùng tool là năng lực cần đủ quy mô.
Phân tích lỗi: 72% lỗi do retrieval thất bại (thực thể đúng không được trả về); model Thinking search ít hơn (1.0–2.2 lần) nhưng tinh hơn (56–58% lượt search là tinh chỉnh truy vấn, so với 35–40% của Instruct).

IV. Conclusion & Future Works:

Bài học chính: độ hiếm không đồng nghĩa với ít người biết — thực thể thưa cấu trúc Wikidata và ít bản ngôn ngữ gây sụt giảm nghiêm trọng hơn phân tích pageview, cho thấy các công trình trước đã đánh giá thấp độ khó của đuôi dài văn hóa. Framework đơn giản (VLM reasoning + tìm kiếm Wikipedia lặp) cần kết hợp cả reasoning lẫn retrieval mới hiệu quả.

Hướng tương lai:

Cải thiện cross-lingual retrieval — bottleneck lớn nhất (72% lỗi), đặc biệt chuyển tự không phải chữ Latin.
Kiểm chứng tương tác reasoning×retrieval ngoài họ Qwen3-VL và mở rộng sang ngôn ngữ có Wikipedia cực thưa (ví dụ ngôn ngữ châu Phi).
Giải quyết lỗi disambiguation độ chi tiết khái niệm — model đã thấy thực thể đúng trong reasoning nhưng vẫn chọn sai 23.5% trường hợp.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu retrieval đa ngôn ngữ chuyên biệt cho entity linking: huấn luyện bộ ranker chịu trách nhiệm thu hồi thực thể đúng khi transliteration từ chữ Hindi/Tamil/Nhật sang tiêu đề tiếng Anh lệch nhau.
Mở rộng framework reasoning+retrieval sang entity linking không có bài Wikipedia tiếng Anh, dùng knowledge base song ngữ làm cầu nối trung gian.
Phân tích quy luật cultural long-tail trong dữ liệu huấn luyện LLM/VLM: đo lường mức độ thiên lệch văn hóa của trọng số mô hình và đề xuất curriculum learning cho thực thể văn hóa cục bộ.

2. Patent:

Trợ lý tra cứu trên điện thoại cho tin tức địa phương: người dùng chụp ảnh hoặc quét đoạn văn tiếng Việt/Hindi nhắc đến một địa danh/tổ chức ít phổ biến; ứng dụng tự động tìm Wikipedia tiếng Anh, đối chiếu ảnh rồi trả về bài viết tiếng Anh hoặc bản dịch có độ tin cậy cao.
Hệ thống chú thích thực thể cho ứng dụng đọc báo đa ngôn ngữ: khi người đọc chạm vào tên riêng, hệ thống tìm kiếm lặp lại trên Wikipedia theo ngữ cảnh đoạn văn + hình ảnh bài báo, giải quyết đúng thực thể dễ nhầm (ví dụ tên thành phố gần giống tên khu vực bầu cử).
Công cụ kiểm tra độ bao phủ văn hóa cho chatbot doanh nghiệp: quét tập câu hỏi của khách hàng đa ngôn ngữ, đánh dấu các thực thể thuộc đuôi dài văn hóa mà hệ thống hỏi-đáp hiện tại dễ trả lời sai, để tự động kích hoạt tìm kiếm ngoài thay vì trả lời từ bộ nhớ.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.10745
ArXiv Abstract	https://arxiv.org/abs/2609.10745
PDF Download	https://arxiv.org/pdf/2609.10745.pdf
Github Repository	https://github.com/neulab/think-before-you-link

📰 Summary of Papers
1. NCP-ArchPreview Technical Report: Moving towards Latent Space Language Models through Next Concept Prediction (177 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
2. SenseNova-U1.5: Towards Native Unified Visual Intelligence (140 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
3. SpatialBlock: Enhancing Spatial Intelligence in LVLMs via Synthetic Block-Stacking Problem (68 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
4. EvoSafeHarness: Evolving Model- and Domain-Specific Harnesses for Securing Agents (36 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
5. Mi-Ripple: Restoring Images Degraded by Iterative AI Editing (20 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
6. X-AuT: Progressive Audio-Encoder Compression for Speech LLMs with Cross-Scale Distillation (13 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
7. Memory as Plans: World-Action Modeling with Memory-Grounded Planning (10 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
8. An Open Recipe for IMO Gold: Training Nemotron for Olympiad Mathematics (37 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
9. FreeFlow: A Bias-free Hierarchical Transformer for Optical Flow Estimation (34 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
10. MetroLLM-Bench: Evaluating Language Models as Transit Kiosk Runtimes (32 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
11. HyQuant: Hybrid-Precision Quantization for LLM Attention (31 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
12. Negative Self-Distillation: Learning to Reason by Avoiding Flaws (30 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
13. TempCloze: Can Video-LLMs Identify the Missing Middle? (29 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
14. Beyond Solver Verdicts: Generative Reward Models for Autoformalization (28 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
15. Recursive Code World Models: Building Complex Worlds through Recursive Scene Programs (28 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
16. World in World: Explore the World with World Models (28 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
17. Studying Image Tokenizers as Visual Languages in Unified Multimodal Models (28 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
18. Building Multilingual Bridges: Data Mixing as the Pillar of Generalization for In-Language Reasoning (27 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
19. Generative Late-Interaction Embeddings For Visual Document Retrieval (25 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
20. UniH^3: Unifying Hierarchical Homogeneity and Heterogeneity for All-in-One Medical Image Restoration (24 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
21. CARDEA: Auditable Reasoning Grounded in Spatial Evidence for End-to-End Coronary Angiography Interpretation (24 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
22. IdeaAMBIG: Benchmarking Implementation-Critical Gaps in Research-Idea Specifications (23 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
23. ActReview: Rebuttal-Guided Training Data and Rubric Rewards for Actionable Peer Review Generation (23 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
24. Adaptive Bridge: A Proxy-Based Decoupling Layer for Mitigating DDS Backpressure in ROS 2 (23 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
25. DRG-MAPPO: Hierarchical Dynamic Role-Graph Multi-Agent Reinforcement Learning for Cooperative Air Combat (22 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
26. Think Before You Link: Rarity, Reasoning, and Retrieval in Multilingual Entity Linking (22 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan

📰 Summary of Papers​

1. NCP-ArchPreview Technical Report: Moving towards Latent Space Language Models through Next Concept Prediction (177 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

2. SenseNova-U1.5: Towards Native Unified Visual Intelligence (140 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

3. SpatialBlock: Enhancing Spatial Intelligence in LVLMs via Synthetic Block-Stacking Problem (68 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

4. EvoSafeHarness: Evolving Model- and Domain-Specific Harnesses for Securing Agents (36 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

5. Mi-Ripple: Restoring Images Degraded by Iterative AI Editing (20 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

6. X-AuT: Progressive Audio-Encoder Compression for Speech LLMs with Cross-Scale Distillation (13 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

7. Memory as Plans: World-Action Modeling with Memory-Grounded Planning (10 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

8. An Open Recipe for IMO Gold: Training Nemotron for Olympiad Mathematics (37 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

9. FreeFlow: A Bias-free Hierarchical Transformer for Optical Flow Estimation (34 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

📰 Summary of Papers

1. NCP-ArchPreview Technical Report: Moving towards Latent Space Language Models through Next Concept Prediction (177 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

2. SenseNova-U1.5: Towards Native Unified Visual Intelligence (140 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

3. SpatialBlock: Enhancing Spatial Intelligence in LVLMs via Synthetic Block-Stacking Problem (68 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

4. EvoSafeHarness: Evolving Model- and Domain-Specific Harnesses for Securing Agents (36 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

5. Mi-Ripple: Restoring Images Degraded by Iterative AI Editing (20 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

6. X-AuT: Progressive Audio-Encoder Compression for Speech LLMs with Cross-Scale Distillation (13 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

7. Memory as Plans: World-Action Modeling with Memory-Grounded Planning (10 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

8. An Open Recipe for IMO Gold: Training Nemotron for Olympiad Mathematics (37 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

9. FreeFlow: A Bias-free Hierarchical Transformer for Optical Flow Estimation (34 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers: