Chuyển tới nội dung chính

🤗 Daily Hugging Face Paper Digest - 2026-09-08

Báo cáo được tạo tự động vào lúc 2026-09-09 10:09:43 bằng mô hình hermes-agent.

📰 Summary of Papers​

1. Unlocking Lossless Speedups in LLMs via Discrete Diffusion (118 votes)​

Tác giả: Subham Sekhar Sahoo, Lingjie Chen, Khiem Pham, Jonathan Geuter, Chaitanya Dwivedi, et al.

Xuất bản lúc: 2026-09-03

Tag: LLMs, Discrete Diffusion, Speculative Decoding, Parallel Decoding, Inference Acceleration, LoRA, Distillation

I. Main Problem:​

Mô hình ngôn ngữ autoregressive (AR) sinh token tuần tự, một token mỗi bước, khiến inference chậm và memory-bound ở context dài, GPU bị underutilized. Các hướng hiện có chỉ giải quyết một phần:

  • Speculative decoding cần một draft model riêng, tốn kém duy trì và phụ thuộc độ khớp của drafter.
  • Diffusion LLMs (d-LLMs) sinh song song nhưng giảm chất lượng so với AR, và tốc độ nhanh hơn biến mất ở batch size lớn — trong khi workload thực tế (agentic, serving nhiều request) luôn chạy ở batch lớn.
  • Multi-token prediction phải sửa kiến trúc LLM và thêm prediction heads. Hệ quả: chưa có phương pháp tăng tốc không mất chất lượng (lossless) hiệu quả ở mọi batch size.

II. Main Idea:​

Diffusion-augmented LLMs (Uno) tách bạch hai vai trò trong một kiến trúc duy nhất:

  • AR weights — quyết định chất lượng câu trả lời, huấn luyện bằng next-token prediction như bình thường.
  • Diffusion weights — chỉ lo tốc độ, là các LoRA adapter nhẹ gắn vào từng layer, huấn luyện qua giai đoạn Diffusion Distillation (chi phí thấp, ~7B token trong 60 giờ) với hai loss: distillation một bước theo block (DCD) và Total Variation loss để tăng độ dài prefix được chấp nhận.

Tại inference, sampler Ψ-Spec hoạt động như speculative decoding nhưng không cần draft model riêng: diffusion pathway phác thảo (draft) cả block token song song trong một forward pass, AR weights xác minh bằng rejection sampling và giữ prefix dài nhất hợp lệ → phân phối đầu ra bằng đúng mô hình AR gốc (lossless). Có hai chế độ: Linear sampler tối ưu throughput hệ thống (batch lớn), Tree sampler tối ưu latency từng request (batch nhỏ). Ngoài ra còn có trục inference-time scaling: tăng số bước denoising mà không tăng context length.

Ví dụ đời thường: giống như người gõ tốc ký viết nhanh cả cụm từ trong một cử động, rồi người hiệu đính rà lại từng chữ theo bản gốc — phần đúng giữ nguyên, chỗ sai thay lại, nên thành phẩm y hệt bản chuẩn nhưng xong nhanh gấp nhiều lần.

III. Main Results:​

  • Tốc độ: Uno nhanh hơn mô hình AR gốc ở mọi batch size — khoảng 2.2× ở batch size 1 và 1.5× ở batch size 64 (lớn nhất trên H200); tổng thể tới ~3× so với AR, và vượt EAGLE-3 và DFlash (speculative decoding) ở mọi batch size đánh giá.
  • So với d-LLMs mã nguồn mở: Uno thắng DiffusionGemma-26B và Nemotron-Labs-Diffusion-14B trên mọi benchmark, đạt throughput hệ thống cao nhất dù dùng full attention.
  • So với d-LLM proprietary: Uno 8B thắng Mercury 2 trên toàn bộ agentic tool use, agentic coding, long-context reasoning; throughput hệ thống cao hơn ~4.6× dù Mercury 2 chạy trên GPU Blackwell nhanh hơn.
  • Tăng tốc RL training: speedup được giữ nguyên ngay cả khi AR weights tiếp tục được cập nhật bằng RL (rollouts nhanh hơn đáng kể).
  • Tính linh hoạt: huấn luyện được từ đầu hoặc gắn vào LLM mã nguồn mở có sẵn (Qwen3-8B) mà không cần dữ liệu gốc — chỉ cần dữ liệu khác phân phối (OpenThoughts), chứng tỏ hai tập trọng số không cần cùng dữ liệu.

IV. Conclusion & Future Works:​

Bằng cách tách chất lượng (AR weights) khỏi tốc độ (diffusion LoRA), Uno vượt qua trade-off chất lượng–tốc độ của d-LLMs và bỏ được draft model của speculative decoding, đạt tăng tốc lossless ở mọi batch size, đồng thời tăng tốc cả inference lẫn RL post-training. Hướng tương lai: khám phá hệ thống trục inference-time scaling (tăng số bước denoising tại context cố định) — đặc biệt câu hỏi liệu chất lượng vượt qua được AR để có thể tắt AR verification, và tinh chỉnh thêm trade-off giữa số candidate draft và chi phí xác minh.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng Ψ-Spec thành nhiều bước denoising (T > B) và chứng minh khi nào chất lượng vượt mô hình AR gốc, từ đó định nghĩa chế độ inference-time scaling tối ưu không cần AR verification.
  2. Nghiên cứu cách cập nhật diffusion adapters song song với RL policy optimization (thay vì đóng băng) để giữ acceptance rate cao hơn nữa trong suốt quá trình RL dài.
  3. Áp dụng diffusion augmentation cho kiến trúc suy luận tiết kiệm bộ nhớ (State-Space Models, sliding-window attention) nhằm đẩy throughput hệ thống lên cao hơn ở context rất dài.

2. Patent:​

  1. Module tăng tốc gõ phím trên điện thoại: gắn bộ adapter nhẹ kiểu LoRA vào mô hình ngôn ngữ chạy on-device để phác thảo cả cụm từ tiếp theo song song, rồi mô hình gốc tự xác minh — gợi ý xuất hiện nhanh hơn mà độ chính xác không đổi, tiết kiệm pin vì giảm số lần đọc toàn bộ trọng số.
  2. Hệ thống trợ lý ảo offline cho smartphone tầm trung: huấn luyện bổ sung adapter tốc độ trên mô hình đã có sẵn trong máy (không cần đào tạo lại từ đầu), cho phép trả lời dài gấp đôi trong cùng thời gian mà chất lượng câu trả lời giữ nguyên tuyệt đối.
  3. Dịch vụ đám mây sinh văn bản cho nhiều người dùng đồng thời: kiến trúc một mô hình hai bộ trọng số (chất lượng + tốc độ) giúp máy chủ duy trì throughput cao ở batch lớn mà không phải triển khai thêm mô hình dự thảo riêng, giảm chi phí GPU cho ứng dụng chatbot doanh nghiệp.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.04010
ArXiv Abstracthttps://arxiv.org/abs/2609.04010
PDF Downloadhttps://arxiv.org/pdf/2609.04010.pdf
Github Repositoryhttps://github.com/ifm-ai/uno

2. FlowBalance: Verifier-Grounded Self-Improvement from On-Policy Reasoning Experience (82 votes)​

Tác giả: Zixun Huang, Kishan Panaganti, Haitao Mi, Leowei Liang

Xuất bản lúc: 2026-09-03

Tag: RLVR, Self-Improvement, Trajectory Balance, Reasoning Models, GRPO, LLM Post-training, Reinforcement Learning, FlowRL

I. Main Problem:​

Vòng lặp tự cải thiện (self-improvement) của mô hình lập luận — sinh vài lời giải, đánh giá, cập nhật chính sách — rất mong manh vì hai lỗi đối lập:

  • Verifier cho kết quả đúng/sai (RLVR) đáng tin nhưng chỉ cho phản hồi thưa ở cuối: cả nghìn token mà chỉ có một reward cuối cùng, không khai thác được bằng chứng chi tiết dọc đường suy luận.
  • Tự chấm điểm bằng chính mình (một bản frozen của policy nhìn thêm lời giải mẫu/task feedback — privileged hindsight) cho tín hiệu dày đặc theo token, rẻ tiền, nhưng không đáng tin: nó có thể tự tin ủng hộ một lời giải bị verifier bác bỏ, rút ngắn suy luận, hoặc khiến mô hình bám vào một phong cách giải duy nhất — hiện tượng self-confirmation.

Câu hỏi cốt lõi: với experience on-policy, kết quả verifier thưa, và self-guidance dày nhưng sai sót, phân phối phản hồi đầy đủ nào mà policy kế tiếp nên học?

II. Main Idea:​

FlowBalance trả lời bằng cách dựng một phân phối chuẩn hóa trên toàn bộ câu trả lời, kết hợp hai nguồn tín hiệu qua cơ chế outcome-calibrated self-guidance:

  • Mỗi rollout group được sinh từ policy hiện tại; verifier cho group-relative advantage A (sparse nhưng grounded).
  • Một bản frozen của chính policy nhìn thêm context huấn luyện (lời giải mẫu/feedback) để chấm lại các token đã sinh, tổng hợp thành điểm tự đánh giá G_H theo từng trajectory.
  • Chìa khóa — sign gating: năng lượng E = ηA·A + βG·G_H·sgn(A). Nếu A > 0, giữ nguyên hướng guidance để củng cố lời giải đã xác minh; nếu A < 0, đảo ngược guidance thay vì để lỗi tự khuếch đại; nếu A = 0, tắt nhánh dày đặc.
  • Target là Gibbs distribution *p ∝ π_ref · exp(E/τ)**, được fit bằng profiled trajectory balance — chỉ một ước lượng log-partition cho mỗi rollout group, không có loss bắt chước token-level riêng.

Lý thuyết chứng minh 4 tính chất: giữ toàn bộ N−1 within-group contrasts (không đổ thông tin so với N lời giải), là reverse-KL nhỏ nhất so với reference ở cùng mức năng lượng, tăng ηA làm tăng monotonic reward kỳ vọng của target, và sign gating biến false-positive guidance trên câu bị reject thành hệ số exp(2βG·G_H/τ) ủng hộ câu đúng.

Ví dụ đời thường: như tự chấm bài khi có đáp án bên cạnh — nhưng chỉ tin lời tự chấm khi giáo viên (verifier) xác nhận bài đúng; bài bị trừ điểm thì nhận xét tự chấm bị đảo ngược thành ghi chú 'đừng làm thế này nữa', thay vì tự khen mình suốt đêm.

III. Main Results:​

  • Qwen3-4B: trung bình 5 benchmark đạt 64.26, hơn GRPO +1.95, RLSD +4.71, OPSD +10.14, FlowRL +1.04.
  • Qwen3-8B: đạt 67.61, tốt nhất mọi benchmark, hơn GRPO +2.12, RLSD +3.49, FlowRL +1.76; core 4-benchmark (AIME24, HMMT25, MATH500, OlympiadBench) hơn FlowRL +1.98.
  • Tốc độ & ổn định: đạt 0.5 AIME24 validation chỉ sau ~100 bước (GRPO ~143), giữ đỉnh qua 400 bước trong khi GRPO suy giảm mạnh sau bước ~180.
  • Tránh collapse: direct OPSD làm response-length sụp đổ nhanh; FlowBalance duy trì trace suy luận dài; tăng βG từ 1→3 thậm chí làm giảm AIME24 (89.33→86.00) — lợi ích đến từ calibrated chứ không phải guidance mạnh hơn.
  • Đa dạng chiến lược đúng: Simpson diversity 0.2194 so với GRPO 0.1017, RLSD 0.1456; policy khám phá các lối giải khác biệt về mặt toán học thực sự (ví dụ tìm embedding hộp 4×5×8 ẩn thay vì chỉ dùng Cayley–Menger).
  • Diagnostic tổng hợp: target success mass 0.900 so với 0.817 (reward-only) và 0.807 (ungated); reverse-KL chỉ bằng 1/3.6 lần phương án full-support cùng năng lượng.

IV. Conclusion & Future Works:​

FlowBalance cho thấy self-improvement từ on-policy experience có thể vừa chính xác hơn RLVR thuần, vừa ổn định hơn self-guidance thô, bằng cách nâng cấp object cập nhật từ tín hiệu tối ưu cục bộ thành phân phối chuẩn hóa rõ ràng trên chính các trajectory của mô hình. Verifier định hướng, hindsight cung cấp bằng chứng dày, trajectory balance gom thành một bước minimum-change có kiểm soát.

Hướng tương lai hợp lý:

  • Kết hợp outer loop (tạo task/curriculum động) với inner loop distributional update hiện tại.
  • Khảo sát subtrajectory balance để fit denser dọc response dài thay vì chỉ cấp full-trajectory.
  • Học partition bằng prompt-conditioned estimator thay vì profiling nhóm, cho prompt có cấu trúc reward phức tạp.
  • Kiểm chứng trên miền ngoài toán học (code, agent dài hạn) nơi verifier và hindsight đều nhiễu hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng sign-gating calibration cho self-guidance đa chiều: thay vì chỉ đảo ngược theo kết quả đúng/sai, hiệu chỉnh guidance theo mức độ sai lệch từng bước suy luận so với lời giải mẫu, cho phép học từ partial-credit ở bài toán không nhị phân.
  2. Tự động điều chỉnh βG theo độ tin cậy ước lượng được của hindsight view (ví dụ qua entropy hoặc agreement giữa hai snapshot khác nhau), thay vì dùng hệ số cố định — giảm rủi ro over-confidence ở vùng bài khó.
  3. Kết hợp FlowBalance với curriculum sinh task theo outer loop: prompt generator tạo bài ở biên khả năng của policy, inner loop dùng verifier-grounded trajectory balance để nội hóa, hình thành vòng self-improvement gần như khép kín.

2. Patent:​

  1. Ứng dụng gia sư toán trên điện thoại tự tinh chỉnh: app sinh nhiều lời giải cho một bài, chấm đúng/sai theo đáp án, rồi dùng chế độ 'xem lời giải mẫu' để chấm điểm từng bước suy luận — nhưng chỉ tin điểm tự chấm khi kết quả cuối khớp đáp án, câu sai thì đảo ngược nhận xét thành gợi ý sửa lỗi; mô hình càng dùng càng giải hay mà không cần gửi dữ liệu lên server huấn luyện lại.
  2. Bàn phím trợ lý trả lời tin nhắn tự học theo phản hồi: gợi ý câu trả lời cho tin nhắn khách hàng/người thân, hệ thống đối chiếu phản ứng thực tế (được chấp nhận hay bị bỏ qua/phàn nàn) làm verifier, còn bản sao mô hình có thêm ngữ cảnh hội thoại dài làm self-guidance — tinh chỉnh trên máy để gợi ý cá nhân hóa ngày càng sát mà không lộ dữ liệu hội thoại.
  3. Trợ lý lập trình trên IDE mobile/cloud: mô hình sinh nhiều đoạn code, chạy thử test case làm verifier; một view có thêm đề bài chi tiết và test ẩn chấm từng dòng code đã sinh; chỉ code qua test mới được củng cố, code fail có gợi ý tự tinh chỉnh bị đảo thành hướng dẫn tránh lỗi — giúp hệ thống gợi ý cải thiện liên tục theo phong cách và codebase riêng của từng công ty.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.03241
ArXiv Abstracthttps://arxiv.org/abs/2609.03241
PDF Downloadhttps://arxiv.org/pdf/2609.03241.pdf
Github Repositoryhttps://github.com/alexhuang13/FlowBalance

3. ENEAS: Embedding-guided Neural Ensemble for Adaptive Segmentation (35 votes)​

Tác giả: Javier del Pino, Salvador Rodríguez, Alejandro Garabito, Javier Álvarez, Chema Garabito

Xuất bản lúc: 2026-09-03

Tag: Text-Promptable Segmentation, Video Object Segmentation, Vision-Language Models, Open-Vocabulary Segmentation, Instance Tracking, Semantic Verification, 3D Reconstruction

I. Main Problem:​

Các mô hình phân đoạn theo văn bản, kể cả SAM 3, vẫn mắc lỗi nhận thức mạnh nhưng kiểm chứng yếu trên video thực tế:

  • Mất danh tính khi mục tiêu biến mất: mô hình dò theo từng khung hình dễ dán nhãn sai lên rèm, tóc, vật giống mục tiêu.
  • Vỡ không gian khi cận cảnh cực đoan: chỉ phân đoạn chi tiết cục bộ như nét cọ, nhân vật trong tranh thay vì toàn bộ đối tượng.
  • Nhầm giống-thật với thật: tượng siêu thực, chân dung pop-art, phản chiếu hay tranh vẽ bị coi là người thật vì dựa vào độ tương đồng hình ảnh.

Điều này đặc biệt nghiêm trọng cho 3D reconstruction, vì một lỗi dương tính có thể phá hỏng toàn bộ tài sản 3D.

II. Main Idea:​

ENEAS là một khung text-promptable duy nhất, nhận một câu mô tả và một tập khung hình có thể là video có thứ tự hoặc bộ ảnh chưa sắp xếp, rồi trả về mặt nạ nhị phân.

  • Instance tracking: khởi tạo vùng mục tiêu bằng văn bản trên một khung tham chiếu, sau đó dùng bộ nhớ thời gian của SeC để duy trì danh tính. Khi vật biến mất, hệ thống trả về mặt nạ rỗng thay vì bám sang vật giống nó.
  • Semantic discovery: mỗi khung được kiểm tra lại để tìm cả thể hiện mới. Lớp Florence-2 đề xuất ứng viên; SigLIP 2 chấm điểm độc lập từng ảnh-chữ; chỉ vùng nằm trong khoảng bất định giữa hai ngưỡng mới được gửi tới Qwen3-VL làm trọng tài ngữ nghĩa.
  • Cascade chi phí tăng dần: các vùng chắc chắn được chấp nhận/loại ngay, mô hình ngôn ngữ-thị giác chỉ xử lý trường hợp mơ hồ, nên chi phí tỉ lệ với độ mơ hồ của cảnh chứ không phải số đối tượng.

Ví dụ đời thường: giống như lễ tân kiểm tra danh sách khách: nhìn qua là nhận ra ngay người quen hoặc kẻ lạ rõ rệt, chỉ mang những trường hợp giống thật như ảnh chân dung ra hỏi trực tiếp để chắc chắn.

III. Main Results:​

  • Trên Church Statues với prompt “person”, SAM 3 đạt recall rất cao nhưng precision chỉ 11.1%, tức cứ một người đúng lại kèm khoảng tám vật giả như tượng.
  • ENEAS-2B đạt 94.7% precision / 73.5% recall / 82.8 F1, còn ENEAS-4B đạt 97.5% precision / 79.6% recall / 87.6 F1, cho thấy tăng kích thước trọng tài ngữ nghĩa giúp lấy lại recall mà gần như không mất độ chính xác.
  • Với tracking bức tranh xanh, ENEAS không hallucinate khi mục tiêu vắng mặt, trong khi Grounded SAM dán nhãn sai rèm/tóc; ở cận cảnh cực đoan, ENEAS giữ nguyên toàn bộ đối tượng còn SAM 3 vỡ thành chi tiết bên trong.
  • Trong cảnh nhiều vật, ENEAS phân biệt được ghế thật với hộp, bàn, tường và liên tục phát hiện thể hiện mới mà không cần nhắc lại prompt.
  • Thiết kế cuối giảm độ trễ của bước kiểm chứng ngữ nghĩa xuống khoảng 1 giây trên phần cứng L4, so với cách hỏi đa mục tiêu trong một prompt từng tốn tối thiểu 15 giây/khung hình.

IV. Conclusion & Future Works:​

ENEAS cho thấy điểm yếu cốt lõi của phân đoạn mở hiện nại là quá tin vào đặc trưng hình ảnh, trong khi nhiều lỗi thật sự là vấn đề kiểm chứng bản chất. Bằng cách kết hợp đề xuất vùng, embedding sigmoid độc lập và trọng tài ngôn ngữ-thị giác có điều kiện, phương pháp đạt độ tin cậy ngữ nghĩa cao với chi phí chỉ tập trung vào trường hợp khó.

Hướng mở rộng hợp lý: tối ưu thêm ngưỡng bất định theo độ trễ-ngữ nghĩa, mở rộng sang nhiều lớp distractor hơn ngoài tượng/tranh/phản chiếu, và kiểm tra khả năng mở rộng trên tập dữ liệu 3D capture lớn hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Một benchmark đo ontological robustness cho phân đoạn theo khái niệm, tách riêng khả năng dò hình dạng khỏi khả năng phân biệt bản chất thật/giả như tượng, tranh, mannequin và phản chiếu.
  2. Một nghiên cứu hệ thống về cascade kiểm chứng ngữ nghĩa, đo độ lệch giữa độ chính xác, recall và tỉ lệ gọi mô hình ngôn ngữ-thị giác khi thay đổi ngưỡng bất định.
  3. Một phương pháp mở rộng tracking có bộ nhớ khái niệm sang prompt đa phương thức, kết hợp điểm, khung chữ nhật và mô tả ngôn ngữ để khởi tạo hoặc hiệu chỉnh danh tính đối tượng.
  4. Một pipeline làm sạch dữ liệu cho 3D reconstruction, trong đó distractor được loại bằng mặt nạ ngữ nghĩa rõ ràng trước khi huấn luyện hoặc tối ưu NeRF/Gaussian Splatting.

2. Patent:​

  1. Ứng dụng di động cho bảo tàng hoặc địa điểm du lịch: người dùng chụp ảnh và hỏi “người thật ở đâu”; điện thoại gửi ảnh lên mô hình để phân biệt du khách với tượng sáp, tranh chân dung hoặc ảnh quảng cáo trước khi đếm người hoặc làm hiệu ứng thực tế tăng cường.
  2. Công cụ quay video trên điện thoại để dựng mô hình 3D: người dùng chọn một vật cần giữ hoặc một nhóm người cần xóa; ứng dụng tự theo dõi vật qua các khung hình, báo khi vật vắng mặt và tạo mặt nạ loại người thật nhưng giữ lại tượng hoặc tranh.
  3. Ứng dụng kiểm kê cửa hàng bằng camera điện thoại: người dùng hỏi “ghế” hoặc “hộp”; hệ thống đề xuất vùng ứng viên, tự chấm điểm ảnh-câu mô tả và chỉ gửi vùng mơ hồ tới mô hình ngôn ngữ-thị giác để tránh đếm nhầm bàn, thùng carton hoặc vật có hình dáng tương tự.
  4. Tính năng xóa đối tượng khỏi video trước khi chia sẻ: người dùng nhập mô tả như “khách qua đường”; ứng dụng phát hiện người mới xuất hiện theo thời gian, loại người thật nhưng bảo toàn áp phích, phản chiếu và tác phẩm nghệ thuật trong cảnh.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.03756
ArXiv Abstracthttps://arxiv.org/abs/2609.03756
PDF Downloadhttps://arxiv.org/pdf/2609.03756.pdf
Github Repositoryhttps://github.com/speridlabs/eneas

4. Causal Foundation Models (12 votes)​

Tác giả: Christopher Stith, Hossein Rahmani, Jesse C. Cresswell

Xuất bản lúc: 2026-09-02

Tag: Causal Inference, Foundation Models, In-Context Learning, Bayesian Inference, Transformers, Treatment Effect Estimation

I. Main Problem:​

Suy luận nhân quả truyền thống gần như phải xây pipeline riêng cho từng bài toán: phân tích dữ liệu, đề xuất cơ chế sinh dữ liệu, chọn estimator tương thích, tinh chỉnh siêu tham số rồi mới huấn luyện. Hệ quả là không tái sử dụng được tri thức giữa các tác vụ, tốn thời gian và khó mở rộng khi dữ liệu/ giả định nhận diện thay đổi. Bối cảnh lý thuyết cũng khắt khe: từ dữ liệu quan sát, các đại lượng nhân quả chỉ tính được khi có giả định như ignorability, positivity, SUTVA hoặc backdoor adjustment.

II. Main Idea:​

Causal Foundation Models (CFMs) mang paradigm foundation model vào suy luận nhân quả: pretrain một lần trên hàng loạt tác vụ nhân quả được sinh từ prior qua các data-generating process và structural causal models, để tới lúc inference chỉ cần đưa vài mẫu có nhãn làm context rồi dự đoán hiệu ứng can thiệp trên dữ liệu truy vấn hoàn toàn mới, không cập nhật trọng số. Về bản chất, mô hình học cách biến dataset thành posterior predictive distribution cho các đại lượng như CEPO, ATE, CATE hoặc individual treatment-response curve, tức amortized Bayesian inference: thay vì xấp xỉ posterior từng bài toán, nó nhận toàn bộ context và trả uncertainty cùng lúc với prediction. Ví dụ đời thường: như một bác sĩ đã xem rất nhiều ca giả lập từ vô số cơ chế bệnh khác nhau, nên khi được đưa hồ sơ bệnh viện mới, chỉ cần đọc vài ca tương tự là ra kết luận điều trị ngay mà không phải đi học lại y khoa.

III. Main Results:​

  • Bài viết là practical introduction: cung cấp background về potential outcomes, identifiability, Bayesian networks/SCMs, posterior predictive distributions và PFNs, kèm notebook và code tại github.com/layer6ai-labs/cfms.
  • CFMs được đặt là mô hình pretrained dùng in-context learning để ước lượng causal estimands trên dataset mới: gọi fit chỉ nạp context, estimate trả về CATE/query prediction mà không fine-tune.
  • Trục kỹ thuật chính kế thừa PFNs: prior-data loss, prior tổng hợp đa dạng để sinh task/dataset vô hạn, và transformer attention cho phép query token tham chiếu context token.
  • Tác giả benchmark ba CFM mở đầu tiên cùng các mô hình causal inference truyền thống; phần text trích cho thấy thông điệp định tính là CFM đạt hiệu năng top, tăng mạnh tốc độ inference và cải thiện performance, nhưng chưa đưa số liệu cụ thể trong các trang đầu.

IV. Conclusion & Future Works:​

Thông điệp chính là suy luận nhân quả có thể chuyển từ pipeline bespoke sang pretrain once, apply in-context, giữ lại lợi ích của uncertainty quantification qua posterior predictive thinking. Hướng mở được nêu gồm các phát triển mới trong thiết kế CFM, benchmark và mở rộng ứng dụng sang các lĩnh vực khoa học khác; tác giả cũng khuyến khích thử codebase để đưa CFM vào công việc thực tế.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Benchmark chuẩn hóa CFMs trên nhịp xử lý nhị phân, đa nhánh và continuous treatment, đo cả độ chính xác điểm ước lượng, calibration của predictive distribution và chi phí inference so với double machine learning/causal forests.
  2. Nghiên cứu CFMs dưới vi phạm giả định ignorability: học cách báo uncertainty rộng hơn, kết hợp instrumental variable/frontdoor signals hoặc sensitivity analysis để tránh kết luận giả khi cơ chế gây nhiễu đổi.
  3. Phương pháp active context selection cho CFMs: chọn mẫu context nào mang nhiều thông tin nhân quả nhất, thay vì nhét toàn bộ dataset, để giảm token và cải thiện ước lượng hiệu ứng cá nhân.
  4. Mở rộng CFM từ bảng sang chuỗi thời gian y tế/tài chính, nơi treatment, covariate và outcome phụ thuộc thời gian, đồng thời giữ khả năng dự đoán in-context mà không huấn luyện lại theo từng bệnh viện hay chiến dịch.

2. Patent:​

  1. Ứng dụng điện thoại cho ngân hàng/bảo hiểm: người dùng cung cấp một tập hồ sơ khách hàng đã biết kết quả làm ví dụ; hệ thống trên điện thoại ước lượng nếu đổi lãi suất, hạn mức hoặc thông điệp chăm sóc thì khả năng trả nợ/mua thêm thay đổi bao nhiêu, mà không chạy lại mô hình cho từng chi nhánh.
  2. Trợ lý sức khỏe cá nhân: dùng lịch sử uống thuốc, triệu chứng và kết quả điều trị đã ghi làm ngữ cảnh, ước lượng liều điều trị hoặc mức tuân thủ nào có lợi hơn cho từng người, chỉ ra vùng không chắc để bác sĩ kiểm tra.
  3. Tối ưu khuyến mãi trên app thương mại: đọc vài nghìn giao dịch có nhãn của một cửa hàng, dự đoán đường phản ứng theo mức giảm giá và đề xuất mức discount tối đa lợi nhuận, thay vì chạy thử nghiệm A/B riêng cho từng đợt sale.
  4. Công cụ chính sách công cộng trên mobile: nhập bảng dữ liệu quan sát của một địa phương, hệ thống cho biết can thiệp như đổi thuế, giá vé hay chi trợ cấp có thể ảnh hưởng tới việc làm/tiêu dùng thế nào, kèm cảnh báo khi dữ liệu không đủ để kết luận nhân quả.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.03003
ArXiv Abstracthttps://arxiv.org/abs/2609.03003
PDF Downloadhttps://arxiv.org/pdf/2609.03003.pdf
Github Repositoryhttps://github.com/layer6ai-labs/cfms

5. EmbodiedSkills: A Unified Framework for Orchestrating, Training, and Deploying VLA Agents (11 votes)​

Tác giả: Wei Wang, Wenqiao Zhang, Yutong Lin, Yuqian Yuan, Tianwei Lin, et al.

Xuất bản lúc: 2026-09-01

Tag: Vision-Language-Action, Robotics, VLA Agents, Embodied AI, Skill Orchestration, Robot Control

I. Main Problem:​

Các mô hình Vision-Language-Action (VLA) hiện nay chỉ dự đoán hành động từ quan sát và chỉ dẫn ngôn ngữ, nhưng tác vụ dài hạn đòi hỏi nhiều hơn thế:

  • robot phải phối hợp nhận thức, lập kế hoạch, thực thi, kiểm tra tiến độ và phục hồi khi thất bại
  • quyết định do model tạo ra không đảm bảo hợp lệ trong trạng thái vật lý hiện tại
  • khi thất bại, khó xác định nguyên nhân: grounding sai, chọn subgoal sai, thực thi lỗi, hay kiểm tra sai
  • LLM-based agents có bước suy luận rõ ràng nhưng không enforce được ràng buộc thực thi hay xác minh kết quả vật lý

II. Main Idea:​

EmbodiedSkills coi mỗi quyết định skill như một execution proposal: runtime kiểm tra điều kiện tiên quyết (prerequisites) trước khi chạy và xác minh kết quả sau khi chạy. Kiến trúc gồm:

  • AgentLoop 6 pha khép kín: Observe → Plan → Preflight → Execute → Verify → Recover (không cố định tuyến tính, có thể quay lại pha trước khi bằng chứng mới xuất hiện)
  • Policy–runtime separation: policy đề xuất quyết định có cấu trúc, runtime enforce phase compatibility, input hợp lệ, độ tươi của dữ liệu, transition hợp pháp
  • Skill contract thống nhất: input/output có kiểu, prerequisites rõ ràng, trạng thái cập nhật sau thực thi — cho phép thay thế VLA policy cấp thấp mà không đổi agent loop
  • Trajectory có cấu trúc ghi lại planning, execution, verification, recovery để huấn luyện từng component độc lập (planner, verifier, scheduler) và hỗ trợ online adaptation tùy chọn

Ví dụ đời thường: giống như phi công trước khi cất cánh phải qua checklist — không tin lời cơ phó nói 'ổn', mà từng hạng mục được đối chiếu thực tế (Preflight), thực hiện từng đoạn bay ngắn (bounded action chunk), rồi xác minh độ cao/hướng sau mỗi đoạn trước khi quyết định đoạn tiếp theo.

III. Main Results:​

  • RoboTwin 2.0 (50 tác vụ bimanual): 86.20% success trung bình, vượt reference π0.5 của LingBot-VA (82.74%) — cải thiện +3.46 điểm, thắng trên 39/50 tác vụ; lợi ích lớn nhất ở tác vụ contact-sensitive và multi-stage (Hanging Mug +20, Blocks Ranking Size +15, Open Microwave +15)
  • LIBERO (4 suites: Spatial, Object, Goal, Long): 97.40% trung bình, so với 96.85% của OpenPI chính thức
  • RMBench (4 tác vụ phụ thuộc bộ nhớ): chỉ 12.5% success — cho thấy giới hạn của phương pháp khi hành động đúng phụ thuộc lịch sử tương tác trước
  • Ablation AgentLoop có kiểm soát trên toàn bộ 50 tác vụ RoboTwin 2.0 (100 episode/tác vụ), các biến thể khác nhau ở semantic subtask, intermediate verification và repeated action chunks

IV. Conclusion & Future Works:​

EmbodiedSkills cung cấp một agent layer có thể huấn luyện và kiểm tra được để biến VLA policy thành hệ thống embodied khép kín, thay vì thay thế các policy hiện có. Đóng góp chính:

  • Skill-oriented closed-loop AgentLoop cho tác vụ dài hạn
  • Policy–runtime separation làm lỗi explicit và diagnosable
  • Modular adaptation: planner, verifier, low-level policy huấn luyện độc lập qua interface cố định

Hướng tương lai: mở rộng online policy optimization khi có interactive feedback; cải thiện hiệu suất trên tác vụ phụ thuộc bộ nhớ (dạng RMBench); tích hợp thêm VLA policy thế hệ mới qua cùng skill contract.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng skill contract cho điều phối đa robot hợp tác: các VLA agent dùng chung interface để đề xuất, kiểm chứng và phân chia subgoal giữa nhiều cánh tay robot.
  2. Kết hợp AgentLoop có kiểm chứng với hierarchical RL để học cả chiến lược recovery lẫn low-level policy đồng thời, dùng trajectory có cấu trúc làm reward shaping.
  3. Nâng cấp verifier bằng world model: dự đoán trước kết quả action chunk trước khi thực thi vật lý, giảm số lần thất bại cần phục hồi trong môi trường contact-rich.

2. Patent:​

  1. Ứng dụng điện thoại điều khiển robot gia đình: người dùng ra lệnh bằng giọng nói, hệ thống trên điện thoại tự phân rã thành subgoal, chạy preflight kiểm tra vị trí đồ vật qua camera trước khi gửi lệnh tới robot hút bụi hoặc cánh tay gắp đồ, và xác nhận kết quả sau từng động tác.
  2. Hệ thống kiểm tra an toàn cho robot công nghiệp trước mỗi ca sản xuất: vòng lặp Observe-Preflight-Execute-Verify tự động chặn lệnh không hợp lệ (sai pha, dữ liệu cũ, sai kiểu dữ liệu) và ghi log có cấu trúc để truy vết trách nhiệm khi có sự cố.
  3. Nền tảng huấn luyện robot qua điện thoại: người vận hành quan sát video thực thi, gán nhãn pass/fail cho từng subgoal ngay trên màn hình; dữ liệu đồng bộ về đám mây để fine-tune planner và verifier mà không cần can thiệp code của nhà máy.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.01281
ArXiv Abstracthttps://arxiv.org/abs/2609.01281
PDF Downloadhttps://arxiv.org/pdf/2609.01281.pdf
Github Repositoryhttps://github.com/DCDmllm/EmbodiedSkills

6. Verify Before You Distill: Prompt-Level Teacher Gating for On-Policy Distillation (10 votes)​

Tác giả: Zhiwei Zhang, Zechen Sun, Fei Zhao, Kang Peng, Bin Liang, et al.

Xuất bản lúc: 2026-09-02

Tag: On-Policy Distillation, Knowledge Distillation, LLMs, GRPO, RLVR, Reverse KL, Teacher-Student, Verifier, Gating

I. Main Problem:​

On-policy distillation (OPD) đưa tín hiệu học dense ở từng token từ teacher đã đóng băng lên rollouts của student, giúp học nhanh hơn RLVR khoảng một bậc. Nhưng Vanilla OPD áp dụng giám sát này đồng nhất trên mọi prompt, không kiểm tra độ tin cậy của teacher cho từng prompt. Hệ quả:

  • Reverse KL là mode-seeking: khi teacher tự tin nhưng sai, update dense sẽ khuếch đại đúng lỗi đó vào student.
  • Các proxy phân phối (entropy, teacher–student likelihood agreement) chỉ đo uncertainty/agreement, không kiểm chứng trực tiếp tính đúng của outcome.
  • Confidence của teacher tách biệt rất kém câu đúng/sai: trên code AUROC chỉ 0.51 (gần ngẫu nhiên); trong vùng low-reliability, câu tự-tin nhất của teacher sai tới 84% (code) / 61% (math).
  • Ngoài ra, trong pipeline OPD bất đồng bộ, teacher node chỉ đạt ~10% GPU utilization (59% thời gian dưới 5%), lãng phí tài nguyên đáng kể.

II. Main Idea:​

Teacher-Gated On-Policy Distillation (TGOPD) kiểm chứng độ tin cậy của teacher ở cấp prompt trước khi cho phép giám sát dense. Cơ chế:

  • Teacher sinh KT=3 probe rollouts cho cùng một prompt; verifier chấm điểm từng probe.
  • Pass rate qT(x) (unbiased estimator của RT(x) = xác suất teacher giải đúng x) so với ngưỡng τ=2/3.
  • Hard gate: qT(x) ≥ τ → dùng dense OPD; ngược lại → rút hoàn toàn teacher signal, chuyển sang verifier-grounded GRPO (áp dụng khi nhóm rollout của student có reward variation).
  • Hai nhánh routing tách biệt, không bao giờ blend trên cùng prompt — selector, không phải interpolation.
  • Probes chạy concurrent với student decoding, chủ yếu chiếm dụng capacity teacher vốn đang idle.

Ví dụ đời thường: giống trường học cho giáo viên dạy thử làm 3 bài kiểm tra mẫu trước khi phát giáo án cho học sinh — pass 2/3 bài mới được phép giảng; trượt thì lớp chuyển sang học theo chấm điểm chuẩn, tránh học sinh học lệch theo giáo viên đang sai.

III. Main Results:​

  • TGOPD vượt Vanilla OPD ở cả 6 setting domain×scale (4B, 35B × math, code, IF).
  • Gains lớn nhất trên code (+3.0 ở 4B, +2.9 ở 35B) — đúng domain confidence kém informative nhất.
  • 35B LiveCodeBench: mọi baseline distillation đều negative transfer (student thua cả base model), chỉ TGOPD đạt +3.0 over base và vượt cả teacher (+1.3 LCB, +1.1 OJBench).
  • 4B LCB: Vanilla OPD đóng 21% khoảng cách base→teacher, TGOPD đóng 55%.
  • Multi-domain (MOPD): seven-benchmark avg tăng +1.14 (4B) và +0.95 (35B).
  • Hiệu quả tính toán: teacher-node GPU utilization 9.8% → 78.9% (4B SOPD), cluster avg 51.5% → 69.5%, idle time từ 59% → ~0%, không tạo contention trên rollout nodes.
  • Threshold ablation (KT=5): đỉnh rộng quanh majority vote (τ=3/5); gate quá lỏng cho lỗi tự-tin lọt vào, quá chặt loại tín hiệu hữu ích (τ=5/5 làm HMMT-Feb tụt dưới Vanilla OPD).

IV. Conclusion & Future Works:​

Bài học thiết kế chính: verify teacher ở cấp prompt trước khi admit dense supervision — giữ nguyên tín hiệu OPD khi audit pass, rút hoàn toàn khi fail, và route thay vì blend hai nguồn giám sát. Việc giảm vai trò teacher đồng nhất trên mọi prompt (kiểu RLSD-style) có hại, vì nó vứt cả tín hiệu tốt lẫn xấu; gate chỉ rút trên prompt fail audit. Hướng tương lai: so sánh fallback GRPO chuẩn hóa vs un-normalized, khảo sát ngưỡng với probe budget lớn hơn, mở rộng gate cho các biến thể OPD khác và cho multi-modal distillation.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Probe budget thích ứng KT(x) theo độ khó prompt: dồn thêm probe vào prompt có qT(x) gần ngưỡng để gate quyết định chính xác hơn, thay vì KT cố định.
  2. Kết hợp prompt-level gating với token-level trust region (kiểu TrOPD) thành hệ thống giám sát hai tầng: gate chọn nhánh ở tầng prompt, trust region điều tiết token bên trong.
  3. TGOPD cho multi-modal distillation: dùng verifier đa phương thức (unit test, rule judge, visual check) để gate teacher cho mô hình vision-language-action và agent đa phương thức.

2. Patent:​

  1. Ứng dụng gia sư AI trên điện thoại: trước khi hiển thị lời giải cho học sinh, hệ thống cho mô hình lớn tự làm vài bài tương tự và chấm chéo; nếu tỉ lệ đúng thấp, chuyển sang chế độ gợi ý từng bước + kiểm tra đáp án học sinh thay vì đưa lời giải có thể sai.
  2. Trợ lý lập trình on-device/cloud hybrid: khi người dùng hỏi, mô hình teacher sinh vài solution thử, unit test chạy nhanh trên điện thoại hoặc sandbox; chỉ đưa solution cho user khi đa số probe pass, tránh gợi ý code lỗi.
  3. Tận dụng thời gian GPU/CPU idle trên điện thoại lúc sạc để chạy các probe kiểm chứng teacher, sau đó distill knowledge đã được gate vào model nhỏ chạy offline — vừa tiết kiệm pin vừa nâng chất lượng model on-device.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.02998
ArXiv Abstracthttps://arxiv.org/abs/2609.02998
PDF Downloadhttps://arxiv.org/pdf/2609.02998.pdf
Github RepositoryN/A

7. One Symptom, Three Levers: A Critical Review of On-Policy Self-Distillation (10 votes)​

Tác giả: Justin Robert, Raheel Qader

Xuất bản lúc: 2026-08-26

Tag: LLMs, Self-Distillation, On-Policy Distillation, Reinforcement Learning, RLVR, Reasoning, Knowledge Distillation, KL Divergence, KL regularization, Privileged Information

I. Main Problem:​

Reinforcement learning với verifiable rewards (RLVR) giúp LLM suy luận tốt nhưng có ba giới hạn cấu trúc:

  • Reward thưa (sparse): một tín hiệu cuối câu phải gán phần thưởng cho hàng trăm token, credit assignment khó khăn
  • Tốn kém: cần nhiều rollout dài cho mỗi bài toán
  • Không khám phá được reasoning mới, chỉ tập trung xác suất vào lối suy luận mô hình đã có

On-policy distillation (OPD) khôi phục tín hiệu dense bằng cách cho teacher chấm điểm từng token, nhưng đòi hỏi một mô hình lớn hơn làm teacher — tốn kém và phụ thuộc. Hơn nữa, collapse (co hẹp dần tập các đường suy luận mô hình sinh ra) đang là failure mode thống trị của cả lĩnh vực. Đánh giá các mô hình nhỏ cũng rất mong manh: benchmark 30 câu như AIME có variance cực lớn, dữ liệu bị contamination, và hiệu ứng "tín hiệu ngẫu nhiên cũng tăng điểm" riêng trên dòng Qwen.

II. Main Idea:​

On-Policy Self-Distillation (OPSD) bỏ teacher bên ngoài: teacher chính là mô hình đó, chỉ được cung cấp privileged information mà student sẽ không có lúc test — ví dụ đáp án tham khảo (reference solution), gợi ý, hoặc feedback từ môi trường. Teacher không giỏi hơn student, chỉ biết nhiều hơn. Quy trình:

  • Bước 1: student tự sinh rollout (on-policy, tránh exposure bias của SFT)
  • Bước 2: teacher chấm từng token bằng forward pass (có thể song song hóa toàn bộ vị trí), sinh ma trận phân phối token ~1.024 × 150.000
  • Bước 3: tính forward KL có clip giữa phân phối teacher và student từng vị trí, lấy trung bình thành loss
  • Bước 4: backprop chỉ cập nhật student, teacher giữ cố định

Biến thể SDPO dùng privileged information là feedback thực thi (lỗi runtime, output của verifier) thay cho đáp án, và cho teacher tiến hóa qua EMA. Ba thành phần hợp nhất: on-policy từ RL, density từ distillation, tự chủ từ privileged information (học thuyết của Vapnik & Vashist 2009).

Bài review khung hóa collapse như một triệu chứng điều khiển bởi ba cần điều chỉnh (lever):

  • Lever A — Hình học tín hiệu: hướng divergence (forward KL bao phủ mọi mode của teacher; reverse KL khóa vào một mode, giàu calibration nhưng nghèo diversity; JSD ở giữa) và mật độ/weighting của token — tín hiệu dense hơn không phải lúc nào cũng tốt hơn
  • Lever B — Privileged information: cho teacher xem gì; quá nhiều thông tin khiến student học lối tắt không có ở test time
  • Lever C — Ổn định vòng lặp: teacher là chính mô hình nên vòng lặp có thể trôi (drift); quy tắc cập nhật teacher, quên capability cũ, và lịch decay của guidance đều ảnh hưởng stability

Ví dụ đời thường: giống học sinh tự chấm bài của chính mình với đáp án đặt cạnh — người chấm không cần giỏi hơn mình, chỉ cần có đáp án; chấm xong tự sửa từng bước, rồi luyện lại cho đến khi làm được mà không nhìn đáp án.

III. Main Results:​

  • Hiệu quả token: OPSD chỉ cần 1 rollout tối đa 1.024 token cho mỗi bài, trong khi GRPO cần 8 rollout × 16k token — tiêu tốn ít token sinh hơn hẳn ở hiệu suất tương đương trên toán. Một run Qwen3-1.7B hoàn tất trong ~15 phút trên 4 GPU H100
  • Hiệu suất: khớp hoặc vượt GRPO và vượt off-policy distillation; điểm tốt nhất báo cáo: 57,2% AIME24, 43,9% AIME25, 29,2% HMMT25. Riêng lựa chọn forward KL nâng AIME25 từ 36,7 → 43,9
  • Tính tự chủ: không cần mô hình lớn hơn; SDPO mở rộng được sang code và tác vụ agentic với mức tăng hiệu quả tương tự
  • Nhưng tính dense cũng là mối nguy: các công trình mở rộng đo được suy giảm tới −17% (avg@16) trên thinking model, và hiệu ứng tương tự ngoài domain — đó chính là collapse mà ba lever nhắm kiểm soát
  • Cảnh báo đánh giá: ở budget compute ngang nhau, một bước OPSD đắt gấp ~2 lần GRPO (20,6s vs 11,2s trên Qwen3-8B) — lợi thế là hội tụ nhanh theo số bước, không phải chi phí đơn vị. Các con số best-over-checkpoints bị thổi phồng, và mọi kết quả cần đọc kèm số seed, pass@k, và dòng model

IV. Conclusion & Future Works:​

Đóng góp của review là cấu trúc, không phải thực nghiệm mới: một từ vựng chung cho các hiện tượng bị đặt tên khác nhau giữa các bài, và một đường ranh rõ ràng giữa cái đã settled và cái còn tranh cãi:

  • Còn mở cho Lever A: divergence nào (forward/reverse/JSD) và density nào tối ưu giữa performance và diversity
  • Còn mở cho Lever B: privileged information nào đủ giàu để dạy mà không tạo shortcut học thuộc
  • Còn mở cho Lever C: dynamics của teacher (frozen, EMA, refresh) và lịch decay của guidance
  • Phạm vi bài giới hạn ở toán học (nơi method sinh ra và failure mode được ghi nhận kỹ nhất); hai nhánh lớn khác là multimodal và tool-using agents tuân theo cùng các căng thẳng nhưng chưa được phủ. Các phát hiện tính đến tháng 8/2026

V. Brainstorming Space:​

1. Publish Papers:​

  1. Hệ thống hóa trade-off giữa các divergence (forward KL, reverse KL, JSD) với các thang đo diversity (pass@k, G-Pass@k, entropy) để xác định cấu hình tín hiệu tối ưu theo từng giai đoạn huấn luyện.
  2. Nghiên cứu lịch trình decay của privileged information (hint đầy đủ → gợi ý một phần → không gợi ý) nhằm thoát khỏi shortcut học thuộc mà vẫn giữ tín hiệu dense.
  3. Phân tích teacher dynamics: khi nào nên giữ teacher frozen (OPSD), khi nào nên EMA hoặc refresh định kỳ (SDPO) để ổn định vòng lặp tự cải thiện và chống quên capability cũ.
  4. Mở rộng khung ba lever sang multimodal learning và tool-using agents — hai nhánh lớn nhất của on-policy distillation hiện nay.
  5. Chuẩn hóa giao thức đánh giá cho mô hình suy luận nhỏ: bắt buộc avg@k kèm confidence interval, pass@k, kiểm soát contamination và replication ngoài dòng Qwen.

2. Patent:​

  1. Ứng dụng học toán trên điện thoại với mô hình nhỏ chạy offline: app tự cải thiện chất lượng gợi ý bằng cách cho mô hình tự chấm lại lời giải của mình dựa trên đáp án có sẵn trong bài tập, không cần gửi dữ liệu lên server hay thuê mô hình lớn.
  2. Bàn phím thông minh tự tinh chỉnh theo người dùng: khi người dùng sửa lại gợi ý soạn thảo, điện thoại dùng chính bản sửa đó làm 'privileged information' để tự cập nhật mô hình ngôn ngữ cục bộ, cá nhân hóa mà không chia sẻ dữ liệu ra ngoài.
  3. Trợ lý lập trình trên mobile: mô hình nhỏ tự chạy thử code, nhận lỗi từ mô hình thực thi làm phản hồi, rồi tự distill sửa lỗi vào chính nó theo kiểu SDPO — cải thiện dần kỹ năng sửa bug mà không cần mô hình teacher đám mây.
  4. Hệ thống ôn thi có đáp án ẩn: mỗi lần học sinh giải xong, ứng dụng tự sinh chấm điểm từng bước bằng cách cho mô hình xem lời giải tham khảo rồi tự cải thiện khả năng phân tích lỗi sai của từng học sinh, cá nhân hóa gợi ý cho lần sau.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.25936
ArXiv Abstracthttps://arxiv.org/abs/2608.25936
PDF Downloadhttps://arxiv.org/pdf/2608.25936.pdf
Github RepositoryN/A