Chuyển tới nội dung chính

🤗 Daily Hugging Face Paper Digest - 2026-08-03

Báo cáo được tạo tự động vào lúc 2026-08-04 10:12:17 bằng mô hình hermes-agent.

📰 Summary of Papers​

1. From RLVR to RLSVR: Task Transformation Induces Self-Verifiable Rewards for Open-Ended LLM Self-Improvement (74 votes)​

Tác giả: Qinsi Wang, Jing Shi, Huazheng Wang, Kun Wan, Yiran Wu, et al.

Xuất bản lúc: 2026-07-26

Tag: RLVR, RLSVR, Self-Play, LLM Self-Improvement, Reinforcement Learning, GRPO, Open-Ended Generation, Self-Verifiable Rewards

I. Main Problem:​

RLVR (Reinforcement Learning with Verifiable Rewards) thúc đẩy tiến bộ của các mô hình suy luận như OpenAI o1, DeepSeek-R1 nhờ tín hiệu thưởng xác thực, giá rẻ, vô hạn. Nhưng nó chỉ hoạt động tốt ở miền có đáp án xác định như toán học, lập trình.

Với tác vụ mở (tóm tắt, viết sáng tạo), không tồn tại bộ thẩm định đúng/sai:

  • Phải dùng LLM-as-a-Judge, reward model, hay RLHF/DPO → mang lại thiên kiến đánh giá, trần năng lực của người/chương trình chấm, và tốn chi phí suy luận mỗi lần rollout.
  • Căn nguyên: các phương pháp hiện tại cố xấp xỉ trực tiếp hàm chất lượng Q không thể thẩm định, thay vì tạo ra thưởng có thể kiểm chứng.

II. Main Idea:​

RLSVR (Reinforcement Learning with Self-Verifiable Rewards) vay mượn nguyên lý self-supervised learning: thay vì xấp xỉ nhãn thiếu, hãy biến đổi tác vụ gốc thành một môi trường proxy mà ở đó câu trả lời đúng được tạo ra tự động từ dữ liệu/môi trường.

Cơ chế 4 bước của phép biến đổi Φ:

  • Latent-variable injection: môi trường gán một biến ẩn z (ví dụ: ai là gián điệp) và lưu làm ground truth.
  • Conditioned task execution: policy thực hiện tác vụ gốc trên các quan sát được tạo từ (x, z).
  • Verifiable interaction: môi trường đặt câu hỏi về z phải trả lời từ output — và trả lời đúng phụ thuộc chặt chẽ vào chất lượng output.
  • Rule-based reward: thưởng = kiểm tra kết quả tương tác đối với z đã ghi — xác thực tuyệt đối, không cần judge ngoài.

SpyRL là cách cài đặt cụ thể: game Who Is the Spy? nhiều tác nhân.

  • Giai đoạn Performing: n-1 dân thường xem đủ thông tin, 1 gián điệp nhận bản rút gọn (che 20–40% văn bản). Tất cả làm chung tác vụ (tóm tắt, viết, giải toán).
  • Giai đoạn Detection: các tác nhân vote ai là gián điệp. Vì identity đã do môi trường định sẵn → thưởng vote verifiable 100%.
  • Thưởng performing tỉ lệ nghịch với số phiếu nghi ngờ; hai giai đoạn tối ưu luân phiên (alternating) để tránh cứng cục bộ.

Ví dụ đời thường: giống một lớp học đóng vai trò chơi 'tìm kẻ nói dối' — cô giáo bí mật chọn 1 bạn chỉ được đọc đề bài thiếu 1 đoạn, còn lại đọc đủ; cả lớp nộp bài rồi bỏ phiếu ai là người thiếu thông tin. Vì cô đã biết trước ai là người đó, việc 'bỏ phiếu đúng' có thể chấm chính xác; và bạn nào bài yếu hơn sẽ bị nghi nhiều hơn — nên ai cũng cố viết bài tốt nhất để không bị lộ.

III. Main Results:​

  • Tác vụ không verifiable (tóm tắt, viết sáng tạo): SpyRL thắng áp đảo. Trên Qwen3-8B đạt 75.4% (tóm tắt) và 77.3% (viết sáng tạo) win rate so baseline; ROUGE-L cao nhất mọi benchmark (GovReport 36.7 vs 33.2 của Absolute Zero ở Qwen3-4B).
  • Tác vụ verifiable (toán): SpyRL cũng dẫn đầu. Tăng Qwen3-4B và 8B lần lượt +8.97% và +6.16% trên 7 benchmark toán (GSM8K, Math500, AIME 24/25, Minerva, MMLU-Pro, GPQA-D).
  • Kiểm chứng liên kết thưởng–chất lượng: 100 game cho thấy số phiếu nghi ngờ tương quan thuận với hạng chất lượng GPT-4o (1=tốt nhất, 5=tệ nhất) → thưởng vote thực sự căn chỉnh với hiệu năng, không cần judge.
  • Ưu thế so baseline R-Zero / Absolute Zero: các phương pháp cũ dựa vào verifiable solver feedback nên học rất ít trên tác vụ mở; SpyRL nhờ đổi thành bài toán nhận diện identity nên tăng mạnh cả mặt chủ quan (novelty, emotion).

IV. Conclusion & Future Works:​

RLSVR chứng minh tác vụ mở có thể đưa vào paradigm RLVR có scalable chỉ bằng cách biến đổi tác vụ/môi trường để sinh thưởng tự xác thực — không cần con người, không cần reward model. SpyRL mở rộng self-play vượt khỏi toán/code.

Hướng tương lai:

  • Khám phá các phép biến đổi Φ và latent variable z mới cho nhiều loại tác vụ mở hơn.
  • Mở rộng sang miền đa phương thức (hình ảnh, audio) và tác vụ agentic phức tạp.
  • Tinh chỉnh chiến lược alternating optimization và Role-Advantage Estimation để ổn định hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng RLSVR sang các tác vụ đa phương thức (vision-language) bằng cách biến đổi thành game nhận diện thông tin thiếu trong ảnh/video.
  2. Nghiên cứu phép biến đổi tác vụ tự động học được (learnable transformation Φ) thay vì thiết kế thủ công theo domain.
  3. Áp dụng RLSVR cho huấn luyện agent đa bước trong môi trường công cụ, biến 'chất lượng kế hoạch' thành bài toán nhận diện tác nhân thiếu ngữ cảnh.
  4. Phân tích lý thuyết về điều kiện để thưởng identity-discrimination căn chỉnh với hàm chất lượng gốc Q.

2. Patent:​

  1. Tính năng tự cải thiện trợ lý viết trên điện thoại: người dùng đưa bản nháp thiếu vài câu, AI chạy self-play nội bộ (một phiên bản thiếu thông tin, vài phiên bản đủ) rồi bỏ phiếu để tự đánh giá bản nào yếu, từ đó gợi ý viết lại hay hơn — không cần server chấm điểm.
  2. App tóm tắt tin tức trên mobile: nhiều phiên bản tóm tắt chạy song song, một bản bị che ngẫu nhiên 20% văn bản gốc; hệ thống tự vote tìm bản thiếu thông tin, từ đó chọn bản tóm tắt đầy đủ nhất hiển thị cho người dùng.
  3. Bàn phím thông minh tự luyện viết sáng tạo: mô hình trên thiết bị tự tổ chức game 'ai là kẻ thiếu ý tưởng', tăng dần khả năng viết câu tự nhiên mà không cần thu thập đánh giá người dùng.
  4. Công cụ kiểm tra bài luận cho học sinh: AI giả lập một bản luận thiếu dữ kiện, so sánh với các bản đủ để chỉ ra chỗ yếu — giúp phát hiện lỗ hổng nội dung ngay trên điện thoại.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2607.23802
ArXiv Abstracthttps://arxiv.org/abs/2607.23802
PDF Downloadhttps://arxiv.org/pdf/2607.23802.pdf
Github Repositoryhttps://github.com/wangqinsi1/RLSVR

2. Mental World Modeling (55 votes)​

Tác giả: Hao Fei, Yiran Zhao

Xuất bản lúc: 2026-07-29

Tag: World Modeling, Theory-of-Mind, LLMs, POMDP, Mental State Modeling, Social Reasoning

I. Main Problem:​

Các world model hiện tại (representation, video-generative, 3D interactive) chỉ mô hình hóa trạng thái vật lý — vật thể, vị trí, hình học, chuyển động, vật cản — và coi con người trong cảnh như một vật thể di chuyển. Chúng trả lời câu hỏi cái gì / ở đâu / sẽ tiến hóa ra sao nhưng bỏ qua trạng thái tâm lý ẩn của tác nhân.

Hậu quả: một mô hình theo dõi đúng cảnh nhưng không biết mỗi người tin gì, muốn gì, định làm gì, cảm thấy thế nào, coi điều gì là phép lịch sự sẽ dự đoán sai hành động dù cảnh vật lý rất hợp lý.

  • Robot phục vụ phải đoán người dùng đang bối rối, sốt ruột hay nhờ vả gián tiếp.
  • Trợ lý y tế phải tính đến niềm tin, nỗi sợ, lòng tin của bệnh nhân.
  • Tác nhân cộng tác phải nhận ra chuẩn mực/xung đột khiến một hành động vật lý có thể xảy ra lại không được phép xã hội.

Nói cách khác: cùng một phòng vật lý, hai người có niềm tin khác nhau sẽ hành động khác nhau — world model thiếu biến tâm lý không thể giải thích điều đó.

II. Main Idea:​

Mental World Modeling (MWM) là khung lý thuyết chung đưa biến tâm lý thành thành phần cốt lõi của world model thay vì giải thích bề sau. Cơ chế:

  • duy trì trạng thái thế giới ghép đôi st = (sphy, sment): vật lý (vật, vị trí, quan hệ, môi trường) + tâm lý (niềm tin, chú ý, mục tiêu, ý định, cảm xúc, chuẩn mực, vai vế, không khí xã hội).
  • sinh quan sát phi nhân xưng (first-person) cho tác nhân mục tiêu — chỉ phần nó thấy/biết, không phải toàn bộ trạng thái.
  • tách hành động thành vật lý + tâm lý/ngữ nghĩa (nói gì + ý nghĩa xã hội của câu nói).
  • mô phỏng trạng thái kế tiếp ghép đôi: một hành động cập nhật cả cảnh vật lý lẫn cấu hình tâm lý-xã hội.

Khung xây dựng trên POMDP (quan sát một phần), nhưng mở rộng trạng thái ẩn thành cả biến tâm lý. Cài đặt tham chiếu MENTIS (training-free, inspectable) gồm 5 bước: phân tích trạng thái → sinh quan sát mục tiêu → tách hành động → chuyển tiếp vật lý & tâm lý ghép đôi → đánh giá giá trị từng nhánh rồi chọn hành động.

Ví dụ đời thường: giống như một người bạn xem bạn mình cầm hộp giấu sau lưng và chỉ tay sang bếp — nếu chỉ nhìn căn phòng (vật lý) bạn đoán anh ấy đi lấy nước; nhưng nếu biết anh ấy đang giấu quà sinh nhật và định đánh lạc hướng bạn, bạn mới hiểu đúng hành động — MWM chính là ghi nhớ cả 'cái anh ấy đang nghĩ' để đoán 'nước đi thật'.

III. Main Results:​

  • Trên Menti-Bench (bộ dữ liệu thủ công, kiểm soát chất lượng, gồm kịch bản quyết định tình huống qua văn bản, ảnh, video có âm thanh), thử với 8 world model dựa trên LLM hiện đại.
  • MWM đầy đủ là cấu hình tốt nhất cho cả 8 mô hình; gỡ bỏ kênh tâm lý làm tệ đi tất cả.
  • Lợi ích lớn nhất đúng trên bối cảnh liên cá nhân, nơi biến tâm lý ẩn mang quyết định.
  • Chẩn đoán oracle: phần lớn khoảng cách còn lại nằm ở transition simulation (bước dự đoán thế giới ghép đôi thay đổi), chỉ ra 'nút thắt' của MWM hiện tại.
  • Thí nghiệm 'necessity ladder' xác nhận mô hình tâm lý tường minh là cần thiết để dự đoán quyết định con người.

IV. Conclusion & Future Works:​

MWM được đề xuất là giai đoạn tiếp theo của world modeling: từ mô phỏng cảnh vật lý sang mô phỏng cả tâm trí đang hành động trong cảnh đó. Đóng góp cốt lõi: (1) khung toán học thống nhất động lực vật lý & tâm lý; (2) MENTIS — baseline không huấn luyện, minh bạch; (3) bằng chứng thực nghiệm rằng mô hình tâm lý tường minh là cần thiết, và nút thắt nằm ở chuyển tiếp.

Hướng tương lai: cải thiện transition simulation (dự đoán cách trạng thái ghép đôi biến đổi); mở rộng sang cảnh đa tác nhân phức tạp hơn; kết hợp MWM vào agent tự chủ và robot gia tiếp xã hội.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Cải tiến mô-đun chuyển tiếp ghép đôi: học động lực chuyển tiếp tâm lý-vật lý riêng thay vì chỉ dựa vào LLM zero-shot, nhắm thẳng vào nút thắt đã phát hiện.
  2. Mở rộng MWM sang đa tác nhân với suy luận Theory-of-Mind bậc cao (n-th order): mỗi tác nhân mô phỏng cả niềm tin về niềm tin của người kia để dự đoán xung đột/x协作.
  3. Kết hợp MWM với lập kế hoạch counterfactual: dùng thế giới tâm lý để sinh kịch bản 'nếu tôi nói thế này, đối phương sẽ tin/thấy thế nào' trước khi hành động.
  4. Đánh giá MWM trên tác vụ can thiệp xã hội thực tế (robot trợ giúp, tư vấn) thay vì chỉ dự đoán quyết định, để đo lường tác động của mô hình tâm lý lên hành vi agent.

2. Patent:​

  1. Trợ lý ảo trên điện thoại hiểu tâm lý người dùng: khi người dùng gõ tin nhắn giận dữ hoặc do dự, máy suy luận trạng thái cảm xúc/niềm tin ẩn rồi gợi ý cách phản hồi khéo léo thay vì trả lời máy móc, nhờ mô phỏng cả 'người dùng đang nghĩ gì'.
  2. App chăm sóc sức khỏe gia đình: khi hỏi bệnh nhân, app mô phỏng cả nỗi sợ/vỡ lòng tin về thuốc để nhắc uống thuốc đúng cách, không gây áp lực — ví dụ nhận ra bệnh nhân 'giả vờ hiểu' rồi chủ động giải thích lại.
  3. Tính năng gợi ý mua sắm trên app thương mại: phát hiện khách hàng 'ngập ngừng vì sợ giá đắt' hay 'nghi ngờ chất lượng' qua hành vi chạm màn hình, từ đó đề xuất mã giảm giá hoặc minh bạch đánh giá thay vì chỉ hiện thêm sản phẩm.
  4. Tính năng 'đọc vị cuộc hội thoại' trên điện thoại: trong gọi video, máy nhận diện đối phương đang bối rối hay không đồng tình (qua nét mặt/giọng), rồi nhắc người dùng đổi cách nói để tránh hiểu lầm xã hội.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2607.27201
ArXiv Abstracthttps://arxiv.org/abs/2607.27201
PDF Downloadhttps://arxiv.org/pdf/2607.27201.pdf
Github Repositoryhttps://github.com/mental-world/Mentis

3. N_0-VTLA: Scaling Vision-Tactile-Language-Action Model with Latent Tactile Tokens (50 votes)​

Tác giả: NeoteAI Team, Fudan TEAI Team

Xuất bản lúc: 2026-07-26

Tag: Vision-Language-Action, Tactile Sensing, Robotics, Latent Tokens, Offline RL, Flow-Matching, Contact-Rich Manipulation

I. Main Problem:​

Các mô hình Vision-Language-Action (VLA) hiện đại làm tốt thao tác tổng quát nhưng thiếu hoàn toàn xúc giác, nên yếu hẳn ở các thao tác giàu tiếp xúc (nhặt-đặt, bóp, vuốt vật mềm). Nguyên nhân: các nỗ lực tích hợp xúc giác trước nay chỉ huấn luyện trên tập nhiệm vụ nhỏ (tối đa vài chục giờ).

Hai cách tích hợp xúc giác hiện có đều khiếm khuyết:

  • Ghép token xúc giác vào ngữ cảnh thị giác-ngôn ngữ: coi stream xúc giác như một camera nữa — nhưng tín hiệu này thưa thớt, hầu như trống rỗng ngoài tiếp xúc, nên chẳng đóng góp gì trong prefix vốn thiết kế cho ảnh đặc.
  • Bơm đọc xúc giác hiện tại vào đường hành động: sai bản chất vì khung xúc giác chỉ ghi lại tiếp xúc do hành động đã thực hiện gây ra, chứ chẳng nói gì về tiếp xúc mà hành động sắp tới phải dự báo — policy luôn chậm một nhịp sau chính sự kiện tiếp xúc của nó.

II. Main Idea:​

N0-VTLA đi đường thứ ba: giữ xúc giác xa prefix thị giác-ngôn ngữ, và điều kiện hóa expert hành động lên dự đoán xúc giác chứ không lên đọc hiện tại. Cốt lõi:

  • Mỗi ngón kẹp có cảm biến visuo-tactile; khung xúc giác được lấy hiệu số so với khung nền không tiếp xúc rồi mã hóa bằng encoder DINOv2 đông cứng.
  • Một predictor nhẹ đọc token xúc giác hiện tại + ngữ cảnh thị giác-ngôn ngữ, phát ra latent tactile tokens z ước lượng sự thay đổi tiếp xúc ròng trong đoạn hành động sắp tới (H=50 bước). Policy hành động theo tiếp xúc chính nó sắp tạo ra.

Ba giai đoạn đưa đường xúc giác lên mạng ổn định:

  1. Grounding predictor: chỉ huấn luyện predictor, kéo z về mục tiêu xúc giác tương lai bằng InfoNCE + tái tạo L1 (z lấy lại đúng mục tiêu với 92.3% top-1, may rủi 3.2%).
  2. Align expert hành động: che prefix, ép expert chỉ học đọc z.
  3. End-to-end: mở toàn bộ, tinh chỉnh chung.

ALTER (offline RL): từ kho dữ liệu triển khai, huấn luyện mô hình tiến độ cặp (pairwise progress) bằng chú thích giai đoạn từ xúc giác + cặp ưu tiên từ sự kiện rơi vật và sửa người. Mô hình này gán nhãn ưu thế nhị phân theo giai đoạn để tinh chỉnh policy không cần tương tác môi trường thêm.

Ví dụ đời thường: giống thợ lắp máy kinh nghiệm, trước khi siết ốc anh không nhìn lực kế hiện tại mà nhẩm độ căng tay sẽ tạo ra trong cú vặn sắp tới, rồi điều chỉnh lực trước — chứ không đợi ốc trượt rồi mới sửa.

III. Main Results:​

  • NeoReal (9 tác vụ robot thật): N0-VTLA thắng toàn bộ 9 tác vụ so với baseline mạnh.
  • NeoSim (20 tác vụ mô phỏng): đạt 63.8% thành công trung bình, so với 44.0% của baseline mạnh nhất.
  • Long-horizon (3 tác vụ thật với ALTER): đạt 75–95% thành công.
  • Kiểm chứng latent: sau Stage 1, z truy hồi đúng mục tiêu tương lai 92.3% top-1 (may rủi 3.2%); chỉ dùng đọc hiện tại thì chỉ 57%.
  • Pretrain: mất và gradient norm phẳng, chứng tỏ khởi tạo sẵn chuyển gọn sang không gian hành động visuo-tactile.

IV. Conclusion & Future Works:​

N0-VTLA đặt nền móng cho policy thao tác dẫn động bởi xúc giác nhờ (1) pretrain xúc giác quy mô lớn trên NeoData, (2) latent tactile tokens coi xúc giác là mục tiêu dự đoán thay vì ngữ cảnh quan sát, và (3) ALTER cải thiện offline từ dữ liệu triển khai. Hướng tương lai: mở rộng cảm biến xúc giác đa hình thái, tự động hóa chú thích giai đoạn, và đưa nguyên lý dự đoán latent sang các modal cảm giác thưa thớt khác.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng nguyên lý latent tactile tokens sang robot đa tay/đa cảm biến, nơi dự đoán tiếp xúc đa điểm giúp phối hợp hai tay bóp vật mềm mà không cần force-torque riêng.
  2. Tự động hóa chú thích giai đoạn bằng VLM + tín hiệu xúc giác để ALTER chạy không cần người duyệt template, thu nhỏ chi phí offline RL từ dữ liệu triển khai.
  3. Áp dụng biểu diễn dự đoán latent (thay vì phản ứng) cho các modal thưa thớt khác như âm thanh tiếp xúc hoặc cảm biến áp suất trong thao tác tinh.

2. Patent:​

  1. Điện thoại/robot hút chân không tự điều chỉnh lực: trước khi gắp, máy dự đoán cảm giác tiếp xúc sắp tới qua camera cảm biến dạng gel trên đầu hút, tự chỉnh áp suất hút trước khi chạm — tránh làm vỡ đồ dễ vỡ trong dây chuyền đóng gói.
  2. Găng tay thông minh cho người khiếm thị: găng có cảm biến xúc giác, mô-đun dự đoán 'cảm giác sắp chạm' qua xử lý ảnh nền, rung báo trước milimet trước khi ngón chạm vật để cầm nắm chắc hơn.
  3. Máy pha chế tự động chống đổ: cánh tay rót nước dự đoán moment tiếp xúc ly khi nghiêng, tự giảm tốc trước khi chất lỏng trào — thay vì đợi phát hiện tràn rồi dừng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2607.23782
ArXiv Abstracthttps://arxiv.org/abs/2607.23782
PDF Downloadhttps://arxiv.org/pdf/2607.23782.pdf
Github Repositoryhttps://github.com/neoteai/N0-VTLA

4. Meshy T2: Fast Native Mesh Generation with Flow Matching (41 votes)​

Tác giả: Jiale Xu, Rendong Liang, Yuhao Long, Siyuan Shen, Zangyueyang Xian, et al.

Xuất bản lúc: 2026-07-28

Tag: Mesh Generation, Flow Matching, VAE, 3D Generation, Image-to-Mesh, Diffusion, Geometry

I. Main Problem:​

Sinh lưới (mesh) 3D chất lượng cao phục vụ game, phim, AR/VR hiện gặp ba nút thắt:

  • Hướng tiếp cận ngầm (implicit field) như Marching Cubes sinh ra hàng trăm nghìn tam giác dày đặc, raster hóa tốn kém và không giữ được topology sạch kiểu nghệ sĩ.
  • Hướng autoregressive (MeshGPT, TreeMeshGPT...) nối lưới thành chuỗi token 1D — bất tự nhiên vì lưới là cấu trúc không thứ tự; suy luận tuần tự chậm, dễ tích tụ lỗi, sinh lưới nứt/vặn.
  • Các mô hình diffusion/flow cũ lượng tử hóa đỉnh hoặc dùng heuristic tạo mặt, gây artifact; phần lớn chỉ làm retopology từ point cloud, chưa giải quyết trọn vẹn bài toán image-to-mesh khi không có geometry dày đặc sẵn.

II. Main Idea:​

Meshy T2 sinh lưới trực tiếp bằng flow matching theo hai tầng, trên một không gian latent mỗi token = một đỉnh.

Thành phần cốt lõi:

  • Vertex-set Mesh VAE: mã hóa mỗi đỉnh thành một latent token liên tục (không lượng tử hóa, không hàn đỉnh trùng). Bộ giải mã khôi phục vị trí, cạnh và thứ tự quấn mặt trong một lượt, giữ nguyên topology gốc.
  • Tầng 1 – Voxel Flow: từ ảnh tham chiếu, sinh một lưới occupancy thô 64³ làm giàn khoan (scaffold) định hình toàn cục.
  • Tầng 2 – Mesh Flow: sinh các latent token đỉnh bám vào scaffold, có điều kiện bởi ảnh + scaffold + ngân sách đỉnh người dùng chọn.
  • Điều khiển số lượng mặt: chọn trước số slot đỉnh (theo Euler, F≈2V) nên không cần simplify hậu kỳ; token padding học cách tự tắt slot thừa.
  • Vị trí latent bằng Optimal Transport: gán tọa độ Sobol cho token không thứ tự để flow hội tụ.

Ví dụ đời thường: giống thợ điêu khắc trước tiên nặn một khối đất sơ bộ để định hình tượng (giàn khoan thô), rồi mới đặt từng nếp gấp chi tiết lên khối đó cùng lúc thay vì tạc từng phần tuần tự — nhờ làm song song nên xong trong nháy mắt.

III. Main Results:​

  • Độ trung thực hình học đạt SOTA trên cả retopology và image-to-mesh.
  • Tốc độ tương tác: sinh end-to-end image-to-mesh trung vị 6 giây, nhanh hơn một bậc độ lớn so với baseline autoregressive.
  • Kiểm soát face-count trực tiếp qua ngân sách đỉnh, không cần simplify hậu kỳ.
  • Hỗ trợ tài sản đa phần tự nhiên: thành phần tách biệt ngay trong đồ thị đỉnh–cạnh, không cần sinh từng phần rồi ghép.
  • VAE gần như không mất mát: vị trí liên tục, topology nghệ sĩ và cấu trúc phần được giữ nguyên.

IV. Conclusion & Future Works:​

Meshy T2 lấp hai lỗ hổng: biểu diễn lưới gần lossless và sinh image-to-mesh trực tiếp với tốc độ tương tác, vượt autoregressive cả về tốc độ lẫn độ sạch topology. Hướng mở rộng: mở rộng conditioning đa ảnh/giác quan khác, nâng cao kiểm soát chính xác số đỉnh thay vì theo dải, và áp dụng quy trình hai tầng cho asset phức tạp hơn hoặc thời gian thực trên thiết bị cạnh.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu kiểm soát chính xác số đỉnh/mặt thay vì dải xấp xỉ bằng cách mở rộng phân bố huấn luyện và học ngưỡng tắt pad linh hoạt hơn.
  2. Mở rộng điều kiện sinh lưới sang đa chế độ đầu vào (nhiều ảnh, sketch, text) trên nền flow matching hai tầng để tăng độ khớp hình dáng.
  3. Tối ưu kiến trúc VAE đỉnh theo hướng nhẹ hóa để chạy trên thiết bị cạnh mà vẫn giữ topology sạch.

2. Patent:​

  1. Ứng dụng điện thoại: chụp một bức ảnh đồ vật, điện thoại tự sinh mô hình 3D dưới 10 giây để xem xoay 360 độ hoặc in 3D, nhờ quy trình giàn khoan thô rồi đắp chi tiết song song chạy được trên chip di động.
  2. Công cụ tạo avatar game trên app: người dùng chọn số lượng đa giác mong muốn (ngân sách đỉnh), hệ thống sinh nhân vật có topology sạch vừa đủ, nhẹ cho渲染 trên máy cấu hình thấp.
  3. Module tự động làm tài sản 3D cho AR: từ ảnh sản phẩm chụp nhanh, sinh lưới đa phần (thân, nắp, nút) đã tự tách rời, sẵn sàng đưa vào engine mà không cần nghệ sĩ retopology thủ công.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2607.28675
ArXiv Abstracthttps://arxiv.org/abs/2607.28675
PDF Downloadhttps://arxiv.org/pdf/2607.28675.pdf
Github RepositoryN/A

5. Weak-to-Strong On-Policy Distillation (41 votes)​

Tác giả: Fangxu Yu, Zinan Lin, Xiaodong Liu, Weijia Xu, Michael Xu, et al.

Xuất bản lúc: 2026-07-28

Tag: LLMs, Knowledge Distillation, On-Policy Distillation, Weak-to-Strong, RLVR, logit space, Reverse KL

I. Main Problem:​

On-policy distillation (OPD) cho phép student học từ token-level supervision dày đặc trên chính rollout của nó, khắc phục exposure bias của off-policy. Nhưng mọi cách làm hiện tại đều ngầm định teacher ít nhất ngang bằng student, dẫn đến hai lỗ hổng:

  • Strong-to-weak: khi mô hình tiến sát frontier, không còn model lớn hơn để chắt lọc → trần hiệu năng bị kẹt.
  • Same-origin consolidation (như MOPD, DeepSeek-V4): huấn luyện nhiều domain expert ở quy mô của student rồi gộp lại → tốn kém tính toán vì phải chạy RL ở quy mô lớn.

Áp dụng trực tiếp OPD theo hướng weak-to-strong gặp hai khó khăn:

  • Distributional mismatch: phân bố của weak teacher khác xa student → tín hiệu chắt lọc yếu đi.
  • Capability ceiling: vì teacher yếu hơn, bắt student bắt chước nó sẽ kéo student xuống và làm xói mòn năng lực tổng quát sẵn có.

II. Main Idea:​

W2S-OPD không bắt chước một weak supervisor, mà cô lập và chuyển giao một 'hướng năng lực' (capability direction) từ các mô hình yếu. Cơ chế:

  • Lấy một contrast pair: mô hình dương m+ (giỏi hơn) và mô hình âm m− (yếu hơn), cả hai đều nhỏ hơn và rẻ hơn student.
  • Tính hiệu số logit Δz = z+ − z− tại mỗi token. Phần hai model đồng thuận bị trừ đi, chỉ giữ lại hướng mà m+ hơn m− — tức năng lực cần truyền.
  • Cộng hướng này vào base model của chính student: z_proxy = z_base + α(z+ − z−), rồi qua softmax thành proxy teacher. Nhờ neo tại base của student, proxy teacher vừa có năng lực đích vừa sát phân bố student (α điều tiết độ lệch).
  • Student sinh rollout on-policy và minimize per-token reverse KL (KL(πS ∥ πT)) hướng tới proxy teacher.

Ba cách dựng contrast pair (chỉ cần output logits, không huấn luyện thêm):

  • Pre-RL / Post-RL: m+ = expert đã qua RL, m− = bản init trước RL → cô lập kỹ năng RL dạy (chỉ chạy RL ở mô hình nhỏ).
  • Smaller / Larger: hai base model có sẵn (4B vs 0.6B) → cô lập năng lực sinh ra từ scale, dùng miễn phí.
  • Correct / Wrong Hints: một base model duy nhất, cho gợi ý đúng vs sai → cô lập hướng tới lời giải đúng từng bài.

Mở rộng multi-teacher: cộng nhiều hiệu số α_k(z+_k − z−_k) vào chung một proxy teacher, gộp nhiều kỹ năng bằng một lượt chưng cất.

Ví dụ đời thường: giống một sinh viên giỏi (student) không bắt chước hẳn một bạn kém hơn, mà nhờ hai bạn yếu hơn — một làm đúng, một làm sai — so sánh bài của cả hai để rút ra đúng cái 'đường hướng suy nghĩ' nào tạo nên sự khác biệt, rồi tự ghép đường hướng đó vào cách học sẵn có của mình để giỏi lên mà không bị kéo tụt.

III. Main Results:​

  • Pre-RL/Post-RL: W2S-OPD vượt OPD +11.4% (single) và +12.0% (multi) trên math trung bình; student 8B đạt 51.8–52.1 avg, vượt cả domain expert 4B-RL (48.8). Trên code cũng thu hẹp khoảng cách với teacher.
  • Smaller/Larger: từ 4B và 0.6B (đều yếu hơn student), W2S-OPD vẫn nâng student thêm +6.0% math, +1.2% code so với base 8B.
  • Correct/Wrong Hints: chỉ với một model 4B yếu hơn, vẫn cải thiện +1.4% math, +1.1% code.
  • Huấn luyện: W2S-OPD học nhanh và ổn định hơn OPD mọi bước (Figure 3).
  • OOD generalization (GPQA-Diamond, IFBench): W2S-OPD nâng 8B từ 38.9 → 56.5 trên GPQA (vượt OPD +2.1), trong khi OPD làm suy giảm IFBench dưới mức base; W2S-OPD giữ và tăng năng lực tổng quát.
  • Hệ số α: α nhỏ → tín hiệu yếu; α lớn quá → teacher lệch phân bố; α trung bình (≈1.0) cân bằng tốt nhất.
  • Tín hiệu khác nhau: post-RL và hint nhấn mạnh reasoning framework (Plan, Monitor); scale contrast nhấn mạnh solving procedure (Analyze, Implement) — bổ trợ nhau.

IV. Conclusion & Future Works:​

W2S-OPD tái định hình weak-to-strong learning thành cô lập và chuyển giao capability direction thay vì bắt chước weak supervisor, cho phép mô hình frontier tiếp tục cải thiện từ nguồn tín hiệu yếu dồi dào và rẻ thay vì chờ teacher mạnh hơn. Hướng tương lai: (1) khám phá giới hạn — weak supervision đẩy student mạnh lên tới đâu trước khi bão hòa; (2) trích xuất tín hiệu thông tin hơn từ nguồn yếu; (3) phát triển weak-to-strong thành paradigm bền vững cho OPD và hậu huấn luyện nói chung.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng W2S-OPD đa teacher với nhiều domain (toán, code, khoa học) cùng lúc, tự động路由 mỗi câu hỏi tới cặp contrast phù hợp để gộp năng lực đa lĩnh vực vào một student bằng một lượt chưng cất.
  2. Kết hợp W2S-OPD với self-distillation từ privileged information để giảm phụ thuộc vào nhiều model yếu, chỉ dùng một base model và gợi ý đúng/sai làm tín hiệu duy nhất trên thiết bị cận biên.
  3. Nghiên cứu lý thuyết về điểm bão hòa của weak-to-strong supervision: đo lường khi nào capability direction từ model yếu không còn đẩy được student mạnh lên, và thiết kế chiết xuất tín hiệu dày đặc hơn từ hiệu số logit.
  4. Áp dụng cơ chế contrast-pair logit cho đa phương thức (vision-language) để cải thiện model lớn từ các expert chuyên biệt nhỏ hơn mà không cần huấn luyện teacher ở quy mô lớn.

2. Patent:​

  1. Trên điện thoại: hệ thống hậu huấn luyện model ngôn ngữ cục bộ bằng cách so sánh hai bản model nhỏ hơn (một bản đã tinh chỉnh, một bản gốc) để trích xuất hướng cải thiện, rồi ghép vào model lớn trên máy — giúp nâng cấp khả năng lập luận của trợ lý ảo mà không cần đưa lên đám mây hay model giáo viên lớn hơn.
  2. Tính năng tự cải thiện trên thiết bị cạnh (edge AI): một app toán học chạy hai model nhỏ — một trả lời đúng, một trả lời sai cùng định dạng — để sinh tín hiệu 'hướng tới lời giải đúng' cho model chính, nâng độ chính xác giải bài tập mà người dùng không cần kết nối mạng.
  3. Công cụ gợi ý code trong IDE trên laptop: dùng hiệu số logit giữa bản base và bản đã qua RL nhỏ để cải thiện model code cục bộ của developer, giúp gợi ý chính xác hơn qua mỗi bản cập nhật nhỏ mà không tốn tài nguyên huấn luyện lại ở quy mô lớn.
  4. Hệ thống tóm tắt tin tức trên điện thoại: kết hợp model lớn với một cặp model yếu (tóm tắt tốt / tóm tắt kém) để cô lập 'hướng tóm tắt súc tích', tự nâng chất lượng tóm tắt trên thiết bị mà không cần gửi dữ liệu người dùng lên server.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2607.26246
ArXiv Abstracthttps://arxiv.org/abs/2607.26246
PDF Downloadhttps://arxiv.org/pdf/2607.26246.pdf
Github Repositoryhttps://github.com/Yu-Fangxu/W2S-OPD

6. AISPA: User-Centric System Prompt Auditing for Large Language Model Applications (32 votes)​

Tác giả: Xiangning Lin, Shenzhe Zhu, Shu Yang, Zhenyu Zhang, Haoqian Zhang, et al.

Xuất bản lúc: 2026-07-30

Tag: System Prompt, LLMs, AI Auditing, AI Governance, Trust & Safety, Human Rights

I. Main Problem:​

System prompt — bộ lệnh do lập trình viên viết để định hình hành vi mô hình — ẩn với người dùng và không bị kiểm duyệt độc lập, dù nó quyết định AI có nói thật, giữ riêng tư, hay ưu tiên lợi ích công ty hơn người dùng. Hậu quả:

  • mô hình đã được căn chỉnh (aligned) vẫn có thể lừa dối hoặc thao túng nếu system prompt ép ưu tiên engagement hơn trung thực.
  • các vụ việc thực tế: chatbot bạn đồng hành thiếu phát hiện khủng hoảng dẫn đến tự tử thiếu niên; agent dịch vụ khách hàng bịa chính sách hoàn tiền; chatbot hãng xe đồng ý bán xe 76.000 USD với giá 1 USD.
  • bằng chứng cố ý: Meta cho phép chatbot trò chuyện lãng mạn với trẻ em; Grok bị cài persona thuyết âm mưu; tòa án Thượng Hải phạt tù hai dev vì bypass ràng buộc đạo đức qua system prompt.
  • không có tiêu chuẩn chung để đánh giá system prompt có phục vụ người dùng hay không.

II. Main Idea:​

AISPA (Artificial Intelligence System Prompt Assurance) là khung kiểm toán lấy người dùng làm trung tâm để rà soát system prompt. Cách tiếp cận:

  • xây 8 chiều kiểm toán (taxonomy) neo vào Tuyên ngôn Nhân quyền LHQ (UDHR): Identity Transparency, Truthfulness & Information Integrity, Privacy & Data Protection, Tool/Action Safety, User Agency & Manipulation Prevention, Unsafe Request Handling, Harm Prevention & User Safety, Fairness, Inclusion & Neutrality.
  • đơn vị phân tích là prompt span (thường là một câu), gán nhãn +1 (bảo vệ) hoặc -1 (có hại) cho từng chiều.
  • quy trình 3 vòng hợp tác human-LLM: (1) LLM (Claude-4.6-Opus) đề xuất ứng viên diện rộng; (2) 6 annotator huấn luyện sàng lọc tăng độ chính xác; (3) 3 chuyên gia phán quyết, nhãn -1 chỉ giữ khi 3/3 đồng thuận.
  • chỉ kiểm non-core logic span (phần bổ trợ đạo đức/an toàn), loại trừ core logic (chức năng sản phẩm).

Ví dụ đời thường: giống thanh tra an toàn thực phẩm vào bếp nhà hàng, đọc từng dòng quy trình không phải để xem món ăn nấu ra sao (core) mà để xem có dặn nhân viên trộn nguyên liệu bẩn hay lừa khách không (non-core), rồi dán tem tin cậy hoặc trả về báo cáo sửa lỗi.

III. Main Results:​

  • Quét 3.249 chỉ dẫn từ system prompt của 88 sản phẩm AI thương mại (chatbot, coding agent, search, specialized apps).
  • 98,9% sản phẩm có ít nhất 1 lệnh bảo vệ, nhưng chỉ ~24% bao phủ đủ 8 chiều AISPA.
  • ~40% sản phẩm chứa ít nhất 1 lệnh chống lại lợi ích người dùng; lệnh bảo vệ và có hại thường cùng tồn tại trong một prompt.
  • Sự chênh lệch tổ chức lớn: Anthropic dẫn đầu (~62,3 lệnh bảo vệ, gần 0 có hại mỗi sản phẩm), một số org ngược lại.
  • Xu hướng thời gian (2024→2025): độ dài prompt tăng từ ~9K lên >30K ký tự; lệnh bảo vệ trung bình tăng gấp đôi (15,0 → 38,4); nhưng % sản phẩm có lệnh có hại vẫn phổ biến (19–67% theo quý).
  • Phát hiện lớp vùng xám (44 mục): cues phụ thuộc parasocial, che giấu danh tính AI, nới lỏng chính sách nội dung vì động cơ chính trị.

IV. Conclusion & Future Works:​

AISPA chỉ ra khoảng trống minh bạch và giám sát nghiêm trọng ở system prompt thương mại, đồng thời chứng minh kiểm toán bên thứ ba có thể vận hành thực tế. Đề xuất: thiết lập cơ chế kiểm duyệt trước triển khai — dev nộp prompt cho auditor độc lập, đạt chuẩn thì cấp chứng chỉ tin cậy, công khai trạng thái chứng nhận để tăng trách nhiệm giải trình và cho regulator công cụ giám sát khả thi. Hướng tương lai: chuẩn hóa taxonomy thành tiêu chuẩn ngành, mở rộng quy mô kiểm toán định kỳ, nghiên cứu thêm vùng xám và tác động pháp lý của chủ prompt.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng AISPA thành tiêu chuẩn kiểm toán hệ thống mở: định kỳ quét system prompt trên quy mô lớn và công bố bảng xếp hạng minh bạch theo tổ chức.
  2. Nghiên cứu thực nghiệm về vùng xám — đo lường tác động của parasocial dependency cues và identity concealment lên hành vi người dùng thực tế.
  3. Phân tích pháp lý so sánh: trách nhiệm pháp lý của người kiểm soát system prompt across jurisdictions (Mỹ, EU, Trung Quốc) và thiết kế chứng chỉ tuân thủ.

2. Patent:​

  1. Ứng dụng điện thoại 'Trust Badge' quét system prompt của chatbot trước khi dùng: gửi prompt ẩn danh lên dịch vụ kiểm toán AISPA, hiển thị huy hiệu minh bạch (8 chiều) và cảnh báo lệnh thao túng ngay trên màn hình trò chuyện.
  2. Công cụ kiểm duyệt prompt tự động cho dev: plugin IDE phân tích system prompt theo thời gian thực, gắn cờ span -1 (che giấu danh tính AI, ép engagement) và gợi ý rewrite bảo vệ, tích hợp vào CI trước khi deploy.
  3. Hệ thống chứng chỉ tuân thủ cho store AI: như nhãn năng lượng gia dụng, mỗi ứng AI hiển thị điểm AISPA (bảo vệ vs có hại) do bên thứ ba xác nhận, giúp người dùng chọn app an toàn và regulator giám sát nhanh.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2607.28617
ArXiv Abstracthttps://arxiv.org/abs/2607.28617
PDF Downloadhttps://arxiv.org/pdf/2607.28617.pdf
Github Repositoryhttps://github.com/SystemPromptIndex/SystemPromptIndex

7. N_0-TWAM: Scaling Tactile-Native World-Action Model for Contact-Rich Manipulation (28 votes)​

Tác giả: NeoteAI Team, Fudan TEAI Team

Xuất bản lúc: 2026-07-26

Tag: World-Action Model, Tactile Sensing, Robotics, Contact-Rich Manipulation, Mixture-of-Transformers, Video Diffusion, Flow-Matching, VLA, Imitation Learning

I. Main Problem:​

Các mô hình thao tác hiện tại thất bại trong tác vụ giàu tiếp xúc (vặn vít, lột cốc dính, gắp vật mềm) vì quyết định nằm ở đầu ngón tay chứ không phải bố cục toàn cảnh — điều camera khó thấy nhưng cảm biến lực/xúc giác báo cáo trực tiếp.

Hai hướng tiếp cận trước chỉ cung cấp một nửa:

  • VLA (Vision-Language-Action) nén khung hình phong phú thành hành động 1 chiều, không mô hình hóa tương lai.
  • Video world model dự đoán khung hình tương lai nhưng tương lai đó hầu như chỉ có thị giác, không có xúc giác.
  • Các mô hình có touch hiện tại chỉ đưa xúc giác vào như kênh phụ hoặc dự đoán riêng rẽ bên ngoài mạng lưới ra quyết định — touch không bao giờ là thứ mô hình tự dự đoán.

II. Main Idea:​

N0-TWAM là world-action model coi xúc giác là bản địa (native): dưới cùng một mục tiêu sinh, nó dự đoán cả khung hình tương lai lẫn tiếp xúc tương lai, rồi đọc hành động từ chính tương lai đó.

Các điểm thiết kế cốt lõi:

  • MoT (Mixture-of-Transformers): 3 expert riêng biệt cho 3 modality — video, tactile, action — chỉ chia sẻ một lớp self-attention. Vision và touch giữ trọng số riêng nhưng vẫn chú ý đầy đủ lẫn nhau (thay vì bị mask/khóa như các mô hình trước).
  • Thiết kế bất đối xứng: expert video giữ nguyên độ rộng (warm-start từ mô hình đã huấn luyện), expert action/tactile gọn nhẹ (đào từ đầu) → giảm ~một nửa tham số, suy luận rẻ.
  • Hai đường xúc giác (dual-pathway): (1) predicted — mô hình tự sinh tiếp xúc tương lai làm mục tiêu tiên kiến (foresight); (2) observed — đọc xúc giác hiện tại qua NeoForce (không gian lực 3 trục) để điều kiện hóa hành động.
  • Dấu câu xúc giác (tactile punctuation): dùng sự kiện tiếp xúc (chạm/giữ/thả) để cắt demo dài thành các sub-task, và tại inference scheduler chỉ sang bước tiếp theo khi tín hiệu xúc giác xác nhận xong.
  • Cascade predict-then-act: trong một chunk, video+tactile cùng sinh tương lai, action denoise có điều kiện từ cặp đó; KV cache giúp action loop chỉ chạy expert nhẹ.

Ví dụ đời thường: giống thợ mộc vừa làm vừa sờ thử món gỗ — anh ta hình dung trước lực tay sẽ thế nào ở bước tới (tiên kiến), đồng thời cảm nhận lực đang ép vào tay lúc này (quan sát), rồi điều chỉnh nhát đục; và anh ta biết khi nào 'kịch' xong một công đoạn (dấu câu xúc giác) để chuyển sang đoạn ghép tiếp theo thay vì làm lộn xộn.

III. Main Results:​

  • Sim UniVTAC: 84.5%, vượt VLA mạnh nhất (30.0%) và world-action chỉ-thị-giác (21.9%).
  • Sim NeoSim: 49.4%, cao hơn VLA (45.8%) và world-action (32.1%).
  • Real-robot 8 tác vụ: 46.3% trung bình, so với 30.0% (VLA mạnh nhất) và 21.9%/14.4% (world-action thị giác).
  • Ablation: bỏ predicted tactile hoặc observed tactile đều làm giảm success → cả hai vai trò đều đóng góp.
  • Data scaling: hiệu suất tăng theo lượng dữ liệu pre-train; dưới distribution shift, N0-TWAM suy giảm nhẹ nhàng hơn world-action chỉ-thị-giác.
  • Quy mô: ~7.16B tham số (video 5.00B, action 1.13B, tactile 1.03B), huấn luyện trên 30.000+ giờ, 6 embodiments, 450 tác vụ.

IV. Conclusion & Future Works:​

N0-TWAM chứng minh xúc giác phải là modality được dự đoán, không chỉ là đầu vào, và việc cô lập capacity ở mức trọng số (MoT) giúp vision-touch-action cùng học dưới một objective. Đây là nền tảng world-action model có khả năng tiên kiến thị giác + xúc giác + hành động cho thao tác tinh vi mở. Hướng tương lai: mở rộng mã nguồn/checkpoint đã công bố; kết hợp planner ngôn nhịnh sinh sub-task tự do; tối ưu thêm precision (FP8/NVFP4) cho部署 thời gian thực trên phần cứng rộng hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng MoT cho đa cảm biến: thêm expert âm thanh/proprioception vào khung shared-attention để dự đoán tương lai đa modality đồng nhất.
  2. Hệ thống scheduler dấu câu xúc giác tự động cho robot dài hạn: dùng sự kiện tiếp xúc làm 'checkpoint' xác nhận tiến độ thay vì phụ thuộc prompt cố định.
  3. Khảo sát giới hạn data scaling của tactile world model: khi nào thêm dữ liệu xúc giác ngừng mang lại lợi ích và chi phí thu thập cảm biến có xứng đáng không.

2. Patent:​

  1. Găng tay thông minh cho thao tác tinh vi trên điện thoại: camera gắn găng thu hình ảnh gel biến dạng, mô-đun chuyển thành bản đồ lực 3 trục; app dự đoán trước lực tay cần thiết rồi rung phản hồi để người lắp linh kiện chính xác mà không làm gãy.
  2. Robot gắp hàng dễ vỡ trong kho: dùng xúc giác dự đoán trước lực tiếp xúc và phát hiện trượt sớm (incipient slip), tự điều chỉnh lực kẹp trước khi vật rơi — áp dụng cho dây chuyền đóng gói trái cây, thủy tinh.
  3. Trợ lý bếp tự động: cảm biến xúc giác trên kẹp nhận biết lúc 'đã nắm chắc' cốc hay 'đã rót xong' để chuyển bước đổ trà/trộn, thay vì dùng timer cố định dễ sai khi lượng vật thay đổi.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2607.23783
ArXiv Abstracthttps://arxiv.org/abs/2607.23783
PDF Downloadhttps://arxiv.org/pdf/2607.23783.pdf
Github Repositoryhttps://github.com/neoteai/N0-TWAM

8. Scaling Properties of Text Conditioning in Visual Generation (25 votes)​

Tác giả: Zilong Chen, Chaorui Deng, Kunchang Li, Hongyi Yuan, Haoqi Fan

Xuất bản lúc: 2026-07-31

Tag: Text-to-Image, Diffusion, Scaling Laws, Structured Prompts, LLM Prompter, Vision-Language

I. Main Problem:​

Mô hình sinh ảnh từ văn bản (T2I) thường nhân rộng bằng cách tăng kích thước mô hình, dữ liệu và compute — bắt chước LLM. Nhưng có một bất đối xứng căn bản: LLM học từ chính dòng văn bản, còn T2I học qua các cặp ảnh-chú thích, nên thông tin trong chú thích bị gắn vào ảnh mới tới được mô hình; chú thích mô tả mập mờ hoặc bỏ sót thì mô hình học rất yếu hoặc không học được gì.

Hậu quả được chứng minh thực nghiệm:

  • Tăng độ dài chú thích ngôn ngữ tự nhiên (NL) không cải thiện được gì — mọi mô hình mã nguồn mở thử nghiệm (Qwen-Image, Hunyuan 3.0, BAGEL, FLUX.1, Emu3) đều tệ hơn khi caption dài hơn caption ngắn nhất của chính nó.
  • Diffusion loss không tỉ lệ với số token của prompt NL. Thông tin ảnh-neo (image-grounded information) mới là giới hạn thực sự, nhưng ít khi được coi là biến huấn luyện rõ ràng.

II. Main Idea:​

Nghiên cứu đo tính chất scaling của điều kiện văn bản trong sinh ảnh, và phát hiện: loss khi hội tụ tỉ lệ với lượng ngôn ngữ có cấu trúc trong prompt chứ không phải độ dài token.

Quy trình cốt lõi:

  • Đưa vào structured prompt (SP): caption dạng JSON có kiểu, chia thông tin thành các trường đặt tên rõ ràng — global (bối cảnh, phong cách, ánh sáng), per-element (từng vật thể: thuộc tính, bbox, độ sâu), và cross-element (quan hệ giữa vật thể).
  • Định lượng thông tin caption bằng hai thước đo bổ sung: GPG (Grounded Perplexity Gain — white-box, đo mức tăng xác suất caption khi thấy ảnh) và ED (Effective Detailness — black-box, đo precision/recall thuộc tính so với tham chiếu từ ảnh).
  • Chạy sweep huấn luyện có kiểm soát (giữ nguyên ảnh, kiến trúc, compute): kết quả MSE hội tụ giảm tuyến tính theo GPG (r = −0.984) và theo hàm lũy thừa theo ED (r = −0.971).
  • Từ đó tách thành 2 yếu tố: Diffusability (SP tổ chức thông tin ảnh-neo tốt thế nào cho diffuser học) và Promptability (LLM prompter điền được SP từ lời người dùng tốt thế nào). Nâng diffusability bằng pipeline chú thích ảnh→SP dùng VLM + chuyên gia (pose, depth, segmentation); nâng promptability bằng SFT, cold-start蒸馏, và verifier-gated on-policy self-distillation (RFT), cộng vòng lặp agentic refine–render–judge lúc suy luận.

Ví dụ đời thường: giống như nhân viên mới được cấp một tờ phiếu có sẵn các ô điền cố định (tên món, vị trí, màu sắc) thay vì phải tự viết đoạn mô tả dài — nhờ form chuẩn mà ghi đúng và đủ thông tin hơn, thay vì nói nhiều nhưng chỉ lặp lại cùng một ý.

III. Main Results:​

  • Scaling law: MSE = 0.4549 − 8.45×10⁻⁵·GPG (tuyến tính, r = −0.984); MSE = 0.420·ED⁻⁰·²⁰⁷ (lũy thừa, r = −0.971). GPG và ED đồng thuận xếp hạng cấu hình (Spearman ρ = 0.96).
  • Thêm trường SP (scene, bbox, depth, relations) liên tục hạ loss, trong khi kéo dài NL làm loss đứng yên.
  • Probe tái tạo: cùng một backbone Qwen-Image, NL dài hơn không cải thiện tái tạo ảnh tham chiếu; SP càng đầy đủ các trường càng tái tạo tốt hơn (DINOv3/SigLIP2 tăng, LPIPS giảm).
  • Hệ thống cuối vượt mọi mô hình mã nguồn mở trên gần như mọi benchmark về composition, reasoning, world-knowledge; bằng hoặc vượt các mô hình đóng mạnh nhất trên phần lớn đánh giá, cách biệt lớn nhất ở benchmark nặng composition và reasoning.
  • Promptability tăng theo quy mô LLM prompter và (trừ quy mô nhỏ nhất) theo chain-of-thought; fine-tune prompter tạo lợi thế lớn hơn hẳn zero-shot.

IV. Conclusion & Future Works:​

Nâng cấp điều kiện văn bản = Diffusability × Promptability. SP biến thông tin ảnh-neo từ thuộc tính mô tả thành biến huấn luyện có kiểm soát, và tính chất scaling này dùng để sàng lọc cấu hình caption trước khi huấn luyện diffuser khác. Hiệu chuẩn là đặc thù backbone (fit trên BAGEL, áp dụng lên Qwen-Image) nên cần mở rộng sang backbone lớn hơn. Hướng tương lai: tái hiệu chuẩn GPG/ED–loss cho các kiến trúc khác; mở rộng vòng lặp agentic; mở rộng sang video và 3D.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng tính chất scaling của điều kiện văn bản sang diffusion video và 3D bằng SP chứa trường chuyển động/thời gian, kiểm chứng xem loss có tỉ lệ với thông tin cấu trúc theo thời gian hay không.
  2. Nghiên cứu hiệu chuẩn chéo GPG/ED–loss trên nhiều backbone (SDXL, Wan, DiT lớn) để xây dựng luật scaling điều kiện văn bản độc lập kiến trúc thay vì đặc thù từng mô hình.
  3. Kết hợp SP làm interface chung giữa prompter và diffuser nhiều tác vụ, cho phép transfer promptability đã huấn luyện sang mô hình sinh ảnh mới mà không cần dạy lại.

2. Patent:​

  1. Tính năng 'viết lại lời nhắc ảnh' trên điện thoại: người dùng gõ ý tưởng ngắn, app chạy LLM prompter sinh prompt JSON có cấu trúc (vị trí vật thể, màu, bối cảnh, phong cách) rồi truyền vào mô hình sinh ảnh cục bộ — ảnh ra đúng ý hơn mà không cần người dùng viết đoạn dài.
  2. Chế độ chỉnh sửa ảnh theo trường: app lưu bức ảnh dưới dạng SP (vị trí, chất liệu, bối cảnh từng vật thể), người dùng chỉ sửa một trường — ví dụ đổi 'áo đỏ' thành 'áo xanh' hoặc 'ban ngày' thành 'hoàng hôn' — rồi render lại, giữ nguyên phần còn lại của bức ảnh.
  3. Camera điện thoại tự sinh chú thích cấu trúc: khi chụp, app chạy mô hình nhận diện pose/độ sâu/vật thể để tạo SP, giúp tìm kiếm ảnh sau này theo từ khóa ngữ nghĩa sâu (tìm 'ảnh có 2 người, một cái bàn gỗ, ánh sáng ấm') thay vì chỉ tag thông thường.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2607.29679
ArXiv Abstracthttps://arxiv.org/abs/2607.29679
PDF Downloadhttps://arxiv.org/pdf/2607.29679.pdf
Github Repositoryhttps://github.com/heheyas/context-scaling

9. SAF-OPD: Stable Advantage Fusion for On-Policy Distillation (24 votes)​

Tác giả: Yifan Ding, Xincheng Wei, Yoshua Y. Li, Ziheng Li, Yuquan Lu, et al.

Xuất bản lúc: 2026-07-31

Tag: RLVR, GRPO, On-Policy Distillation, LLMs, Advantage Fusion, Knowledge Distillation, Reinforcement Learning

I. Main Problem:​

Khi huấn luyện LLM bằng RLVR (thưởng có thể xác minh), mỗi token trong một câu trả lời đều nhận chung một điểm thưởng — tín hiệu thưa nhưng đã xác minh. Ngược lại, on-policy distillation (OPD) chấm điểm từng token so với một teacher mạnh hơn, cho lợi thế dày đặc nhưng trần hiệu năng bị giới hạn bởi chất lượng teacher và không khuyến khích vượt qua teacher. Hai tín hiệu này bổ trợ cho nhau, nhưng cộng chúng với một hệ số cố định gây sụp đổ entropy do hai sự lệch chuẩn:

  • Magnitude mismatch (lệch biên độ): lợi thế OPD cấp token không bị chặn, có thể vọt cao gấp 1–2 bậc so với lợi thế GRPO đã chuẩn hóa, làm áp đảo tín hiệu GRPO.
  • Temporal mismatch (lệch thời gian): duy trì OPD nguyên cường độ suốt quá trình kéo student bám sát teacher, triệt tiêu không gian khám phá cần thiết để vượt qua teacher.

II. Main Idea:​

SAF (Stable Advantage Fusion) là khung hợp nhất lợi thế nhẹ nhàng, chỉ can thiệp vào nhánh OPD qua 4 giai đoạn độc lập, có thể bật/tắt, không thêm mô hình hay loss phụ:

  • ① Sparsify (top-k%): với mỗi câu, chỉ giữ những token có |A_OPD| vượt ngưỡng phân vị (1−k%), phần còn lại về 0 — loại bỏ token ít quan trọng.
  • ② Compress (tanh): ép các token còn lại vào khoảng (−c, c) bằng tanh có tỷ lệ c, chặn đỉnh cực đoan mà vẫn giữ thứ tự tương đối.
  • ③ Warm-up (kích bởi KL): tăng cường độ OPD tuyến tính từ 0, dừng sớm khi độ giảm KL(student→teacher) đạt δ — tránh sụp đổ entropy sớm.
  • ④ Anneal: sau warm-up, giảm hệ số OPD tuyến tính về c_min trong phần bước còn lại, nhường dần quyền kiểm soát cho GRPO để khám phá tiếp.

Công thức cuối: A_total = A_GRPO + opd_coef(s)·scale(s)·A_OPD,tanh. Mỗi giai đoạn tắt đi thu về hệt fusion cố định.

Ví dụ đời thường: giống sinh viên mới vào việc, thay vì copy y nguyên mọi thao tác của sếp cũ từ phút đầu (sẽ bị máy móc, không học được gì mới), trước tiên chỉ chú ý vài bước sếp làm giỏi nhất, làm quen dần rồi mới bắt chước sát, và sau một thời gian tự giảm dần việc nhìn sếp để tự mày mò cách làm hay hơn.

III. Main Results:​

  • Thử nghiệm trên 7 benchmark toán học và code với Qwen3-8B/4B/1.7B (teacher Qwen3-30B-A3B): SAF cải thiện điểm tổng hợp hơn fusion hệ số cố định ở cả 6 cấu hình, mức +0.51% đến +2.70%.
  • Toán: +0.97% (8B), +1.51% (4B), +1.85% (1.7B) — lợi ích tăng khi student nhỏ dần.
  • Code: +1.67% (8B), +2.70% (4B), +0.51% (1.7B).
  • Trung bình 6 cấu hình: SAF đạt 49.46%, vượt fixed-fusion +1.54%, GRPO-only +2.71%, OPD-only +1.60%.
  • Phân tích động học: fusion cố định làm entropy sụp từ ~0.35 xuống ~0.30 và giữ thấp, kéo KL(student–teacher) xuống thấp nhất nhưng accuracy plateau sớm nhất; SAF giữ entropy ổn định ~0.35–0.38, độ dài câu trả lời ~5.3k–6.2k, accuracy cuối cao hơn (AIME-24 ~0.59 vs 0.57).
  • Ablation (Qwen3-4B toán): chỉ magnitude control (44.35%) ≈ fixed (44.38%); thêm annealing lên 45.23%; cấu hình đủ SAF (δ=0.2) đạt 45.89%, cao hơn fixed +1.51%.

IV. Conclusion & Future Works:​

SAF chứng minh rằng ghép một thưởng thưa-đã-xác-minh với tín hiệu dày-đại-diện-không-nên quy về một hệ số trộn duy nhất, mà cần kiểm soát riêng biên độ và độ tin cậy theo thời gian. Bốn giai đoạn nhẹ, bật/tắt độc lập, không thêm forward pass nào. Hướng tương lai: kiểm thử với teacher/hyperparameter/quy mô ngoài dải 1.7B–8B; mở rộng cơ chế annealing sang các thuật toán RLVR khác ngoài GRPO; tự động hóa chọn ngưỡng k, c, δ theo đặc tính task.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng SAF sang các thuật toán RLVR khác (Dr.GRPO, DAPO, GSPO) để kiểm chứng tính khái quát của cơ chế magnitude+temporal control khi tín hiệu thưởng cấp câu được chuẩn hóa khác nhau.
  2. Nghiên cứu tự động điều chỉnh hyperparameter (k, c, δ, c_min) theo độ lệch phân phối OPD và tốc độ hội tụ KL của từng cặp student–teacher, thay vì đặt thủ công.
  3. Kết hợp SAF với reward extrapolation để vừa kiểm soát ổn định OPD vừa vượt qua trần chất lượng teacher, thay vì chỉ bắt chước.
  4. Phân tích lý thuyết về điều kiện đủ để magnitude control ngăn sụp đổ entropy dưới various teacher miscalibration regimes.

2. Patent:​

  1. Tính năng 'học hỏi thông minh' trên điện thoại AI: khi tinh chỉnh mô hình ngôn ngữ trên thiết bị bằng phản hồi người dùng, hệ thống chỉ giữ lại các token phản hồi mạnh nhất (top-k) và giảm dần mức bắt chước mô hình lớn hơn theo thời gian, tránh máy phản hồi quá cứng nhắc và giữ khả năng trả lời đa dạng.
  2. Trợ lý viết code trên app: kết hợp chấm điểm đúng/sai từ bộ test (thưởng xác minh) với gợi ý từ mô hình teacher lớn, nhưng tự giảm dần ảnh hưởng của teacher sau khi người dùng đã quen phong cách, giúp code sinh ra vừa đúng vừa mang nét riêng.
  3. Hệ thống tóm tắt thông minh trên điện thoại: dùng teacher để dạy mô hình nhỏ tóm tắt, song áp dụng cơ chế warm-up-then-anneal để mô hình nhỏ không sao chép y hệt teacher mà dần phát triển cách tóm tắt ngắn gọn phù hợp thói quen người dùng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2607.29209
ArXiv Abstracthttps://arxiv.org/abs/2607.29209
PDF Downloadhttps://arxiv.org/pdf/2607.29209.pdf
Github RepositoryN/A

10. QQWorld: Quantile-Quantile Matching for World Model Regularization (24 votes)​

Tác giả: Zhoushun Yu, Xiaoyu Hu, Xiangyu Xu

Xuất bản lúc: 2026-07-30

Tag: World Modeling, Latent Regularization, Quantile-Quantile Matching, Distribution Matching, Planning, JEPA

I. Main Problem:​

Mô hình thế giới ẩn (latent world model) dự báo động lực học trong không gian biểu diễn nén, và cần phân phối latent tuân theo Gaussian đẳng hướng để giảm sai số dự báo. LeWorldModel (LeWM) dùng kiểm định Epps–Pulley (EP) làm bộ chính quy ép latent về Gaussian.

Hạn chế cốt lõi: độ dốc hiệu chỉnh của EP tiêu biến rất nhanh với các mẫu nằm ở đuôi phân phối. Cụ thể:

  • EP tương đương MMD với kernel Gaussian băng thông hẹp → chỉ tương tác cục bộ.
  • Khi một latent chạy xa khỏi khối chính, lực kéo về gốc giảm siêu lũy thừa (cực đại tại |x|=√2 rồi tụt về 0).
  • Hậu quả: đuôi nặng (heavy tails) vẫn tồn tại và lớn dần, dù mô hình bị phạt vì phi-Gaussian — vì bộ chính quy đơn giản 'không nhìn thấy' các mẫu ngoài rìa.

II. Main Idea:​

QQWorld thay EP bằng mục tiêu Quantile–Quantile (QQ) matching: sắp xếp các latent chiếu một chiều theo thứ tự, rồi ép mỗi giá trị thứ hạng k về đúng phân vị Gaussian tương ứng q_k = Φ⁻¹((k−0.5)/N).

Cơ chế hoạt động:

  • Độ dốc ∂L/∂x = 2(x − q_ρ), tức lực kéo tỉ lệ thuận với độ lệch phân vị — càng lệch (kể cả đuôi) càng bị hiệu chỉnh mạnh, đối xứng hai đuôi.
  • Không có siêu tham số mới, là drop-in replacement cho LeWM.
  • Lý thuyết chứng minh QQ khống chế mạnh hơn EP (QQ→0 kéo EP→0, nhưng EP→0 không kéo QQ→0).

Cross-Batch QQ (mở rộng): dùng hàng đợi FIFO lưu latent đã tách đồ thị từ K batch trước để mở rộng bộ xếp hạng từ N lên M=(K+1)N mà không tăng bộ nhớ backprop (chỉ N mẫu giữ đồ thị). Có đánh đổi thiên kiến–phương sai: hàng đợi ngắn giảm phương sai ước lượng thứ hạng, nhưng quá dài gây thiên kiến lỗi thời do encoder đã cập nhật.

Ví dụ đời thường: giống xếp hàng học sinh theo chiều cao, mỗi em có một vạch chuẩn trên thước — em nào đứng xa vạch của mình (cao/thấp bất thường) bị kéo mạnh về đúng chỗ, em sát vạch chỉ chỉnh nhẹ; khác hẳn cách cũ chỉ so khoảng cách lân cận nên mấy em lệch ngoài rìa bị bỏ mặc.

III. Main Results:​

  • Tỉ lệ lập kế hoạch thành công trung bình 85.08%, vượt LeWM (79.75%) +5.33 điểm, và thắng trên cả 4 môi trường (Two-Room, Reacher, PushT, OGBench-Cube).
  • Căn chỉnh Gaussian tốt hơn: KS giảm 15.8%, EP giảm 31.4% so với LeWM — và QQWorld đạt EP thấp hơn dù LeWM được huấn luyện trực tiếp bằng EP.
  • Đuôi mỏng hơn: xác suất đuôi bán kính giảm từ 0.315 (LeWM) xuống 0.123 (QQWorld), tiệm cận chuẩn tham chiếu 0.10.
  • Bảo toàn thông tin vật lý: probing vị trí/góc khối trên PushT, QQWorld ngang bằng hoặc tốt hơn LeWM.
  • Cross-Batch QQ: với N=32, K+1=3 đạt 83.50% (vượt LeWM 79.75% dùng batch 128) trong khi giảm 73% bộ nhớ GPU; nhưng hàng đợi quá dài (K+1=4) lại giảm do thiên kiến lỗi thời.

IV. Conclusion & Future Works:​

QQWorld chứng minh rằng thay đổi bản thân hàm mục tiêu khớp phân phối (từ kernel MMD hẹp sang QQ matching theo thứ hạng) giải quyết triệt để điểm yếu đuôi nặng của EP, nâng cao both căn chỉnh Gaussian và hiệu năng lập kế hoạch mà không thêm siêu tham số. Cross-Batch QQ tách biệt kích thước bộ xếp hạng khỏi kích thước batch backprop, trở nên quan trọng khi mở rộng mô hình lớn, ảnh độ phân giải cao hoặc chuỗi dài. Hướng tương lai: tối ưu chiều dài hàng đợi theo tốc độ cập nhật encoder, và kết hợp QQ với cấu trúc không gian con (subspace) thay vì chỉ thay thế.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng QQ matching sang không gian con (subspace) kết hợp với Sub-JEPA/SD-JEPA để vừa khống chế đuôi vừa giữ cấu trúc tiến trình–nội dung của latent.
  2. Phân tích động lý thuyết về tốc độ hội tụ của Cross-Batch QQ khi encoder thay đổi nhanh, thiết kế hàng đợi thích ứng thay vì cố định K.
  3. Áp dụng QQ regularization cho các kiến trúc JEPA tự giám sát ngoài world modeling (như Wu et al. concurrent) để thay thế sliced Wasserstein mà không cần thêm hạng tử phương sai.

2. Patent:​

  1. Điện thoại tự hiệu chuẩn camera–cử chỉ: khi mở app AR, điện thoại chạy vài khung thăm dò ngắn thu thập biểu diễn latent của khung cảnh, rồi dùng QQ matching ép các đặc trưng nhiễu/rìa về phân phối chuẩn để lọc nhiễu đuôi và nhận diện cử chỉ ổn định hơn trên phần cứng yếu.
  2. Pin sạc nhanh an toàn: mô hình dự báo nhiệt–điện áp trong thế giới ẩn của pin, dùng QQ matching giữ các biến trạng thái trong vùng đại diện tốt, tránh duyệt phải vùng đuôi (quá nhiệt) mà mô hình chưa học kỹ — cảnh báo sớm khi latent chạy lệch phân vị.
  3. Gọi video trên điện thoại qua mạng yếu: bộ mã hóa khung hình nén thành latent, QQ regularization giữ latent sát phân phối chuẩn để bộ giải mã ở đầu kia tái tạo ít lỗi hơn khi mất gói, vì đuôi nặng (mất thông tin cực đoan) được kìm chế ngay lúc mã hóa.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2607.28415
ArXiv Abstracthttps://arxiv.org/abs/2607.28415
PDF Downloadhttps://arxiv.org/pdf/2607.28415.pdf
Github RepositoryN/A

11. Fewer Clarifications, Better Code: Benchmarking Cross-Session Personalized Ambiguity Adaptation in Coding Assistants (21 votes)​

Tác giả: Zijian Xu, Wenshuo Zhang, Zisen Qin, Rui Sheng, Yushi Sun, et al.

Xuất bản lúc: 2026-07-29

Tag: LLMs, Code Generation, Personalization, Long-term Memory, Ambiguity Resolution, Benchmark, In-Context Learning

I. Main Problem:​

Trợ lý lập trình AI thường nhận các yêu cầu mơ hồ theo cách riêng của từng người dùng và lặp lại qua nhiều phiên làm việc (ví dụ: một người luôn hiểu "normalize" là z-score, người khác lại là min-max). Các phương pháp giải mơ hồ hiện tại chỉ xử lý từng yêu cầu độc lập trong một phiên, liên tục hỏi làm rõ — gây gián đoạn và tăng gánh nặng nhận thức.

Điểm trống lớn: chưa ai khảo sát xem lịch sử các phiên đã giải xong của cùng một người dùng có thể đóng vai trò bộ nhớ để giải mơ hồ cá nhân hóa tái diễn trong một phiên mới hay không.

II. Main Idea:​

Định nghĩa một nhiệm vụ mới — personalized ambiguity adaptation: cho trước các phiên đã giải của một user và một yêu cầu mơ hồ mở phiên mới, trợ lý phải nhận diện mẫu mơ hồ tái diễn, sinh code đúng ý định, và tối thiểu hóa lượt hỏi làm rõ.

Xây dựng benchmark CAPA qua hai bước:

  • 6 cơ chế mơ hồ cá nhân hóa (domain-cognitive polysemy, structural logic misalignment, habitual context omission, system-boundary misconception, conversational context misalignment, implicit constraint under-specification), rút ra từ 11 loại mơ hồ ngôn ngữ và thực tế WildChat.
  • Quy trình sinh 3 giai đoạn: (1) biến task rõ ràng thành yêu cầu mơ hồ bằng cách che/gây nhiễu thông tin; (2) sinh hội thoại đa lượt qua môi trường AmbiSimu (user agent tách riêng biểu đạt và phán đoán, có chạy code thật); (3) kiểm tra tính nhất quán cá nhân hóa liên phiên rồi ghép thành quỹ đạo user.

Tổng: 600 phiên, 60 ô user–ambiguity cân bằng (mỗi ô 10 phiên: 5 lịch sử + 5 held-out). Đánh giá 12 LLM (no-history vs same-user-history) bằng ES (tỉ lệ giải được), FT-ES (giải ngay lượt đầu), TTC (số lượt trung bình). Đề xuất same-user history gating nhẹ: một LLM cổng soi lịch sử, nếu đủ bằng chứng mẫu mơ hồ thì bôi vàng dẫn chứng giúp model sinh code ngay, ngược lại gợi ý cần hỏi gì.

Ví dụ đời thường: giống đồng nghiệp mới vào team, thay vì mỗi lần đều hỏi bạn "ý bạn là min-max hay z-score?", chỉ cần đọc qua vài commit cũ một lần, nhận ra bạn luôn dùng z-score, từ đó tự động làm đúng ngay từ đầu mà không hỏi lại.

III. Main Results:​

  • Lịch sử cùng user cải thiện ES ở 11/12 model, FT-ES ở cả 12 model, và giảm TTC ở tất cả — nhưng còn xa mới bão hòa (frontier ES 78.7–90.0%, FT-ES chỉ 14.0–60.3%).
  • Hiệu quả tương tác tăng mạnh hơn độ đúng cuối cùng: trung bình FT-ES +15.6pp so với ES +6.8pp; TTC giảm 0.81 lượt. GPT-5.5: ES +10pp nhưng FT-ES +28.7pp.
  • Danh tính user có ý nghĩa thật: lịch sử trộn (shuffled) vẫn giúp nhờ mẫu chung, nhưng lịch sử đúng user cho thêm 2–12pp FT-ES → chứng tỏ mô hình tận dụng được mẫu mơ hồ cá nhân.
  • Task phức tạp khó hơn hẳn: so với simple, ES rớt 20.7–26.4pp, TTC tăng 1.55–2.12 lượt.
  • Memory sẵn có (mem0, A-mem) không nhất quán vượt raw history; phương pháp gating đề xuất đạt FT-ES cao nhất và TTC thấp nhất trên mọi model thử.

IV. Conclusion & Future Works:​

CAPA đặt nền tảng cho trợ lý lập trình dài hạn biết học mẫu mơ hồ riêng của user từ phiên trước để sinh code sát ý định mà ít phải hỏi lại. Hướng tương lai: bộ nhớ chuyên biệt trích xuất mẫu giải mơ hồ tái diễn thay vì chỉ lưu事实; cơ chế gating tích hợp sâu hơn và mở rộng sang dự án thực tế quy mô lớn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phương pháp same-user history gating đóng gói thành module gắn vào bất kỳ coding assistant nào, tự soi lịch sử phiên cũ để quyết định sinh code thẳng hay hỏi làm rõ.
  2. Hệ thống nhớ chuyên biệt cho lập trình: thay vì lưu ghi chú tự do như mem0/A-mem, trích xuất và cập nhật liên tục 'mẫu giải mơ hồ cá nhân' của từng user để tái dùng.
  3. Nghiên cứu đánh giá cá nhân hóa chéo mô hình: transfer mẫu mơ hồ giữa các task độ khó khác nhau và giữa các ngôn ngữ lập trình.

2. Patent:​

  1. Tính năng trong IDE (VS Code/Cursor): xây dựng hồ sơ mơ hồ riêng cho từng lập trình viên từ lịch sử phiên, tự động đoán đúng ý (z-score thay vì min-max) và giảm số lần popup hỏi làm rõ xuống mức tối thiểu.
  2. Ứng dụng code trên điện thoại: học thói quen diễn đạt mơ hồ lặp lại của user (hay bỏ sót ràng buộc nào), từ đó gợi ý code chuẩn ngay lần đầu mà không cần gõ lại yêu cầu đầy đủ.
  3. Plugin review code doanh nghiệp: so sánh code sinh ra với mẫu mơ hồ đã biết của dev, cảnh báo khi assistant chọn sai cách hiểu mà user thường dùng, tránh sinh implementation 'đúng kỹ thuật nhưng sai ý'.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2607.26611
ArXiv Abstracthttps://arxiv.org/abs/2607.26611
PDF Downloadhttps://arxiv.org/pdf/2607.26611.pdf
Github RepositoryN/A

12. ExtractBench: A Benchmark for Schema-Guided Enterprise Document Extraction (15 votes)​

Tác giả: Boyang Zhang, Adrian Lyjak, Eli Stewart, Zhaoqi Li, Simon Suo

Xuất bản lúc: 2026-07-31

Tag: Schema-Guided Extraction, Document IE, Benchmark, Grounding, VLMs, Coding Agents, LLMs, Enterprise Documents

I. Main Problem:​

Trích xuất dữ liệu có cấu trúc từ tài liệu doanh nghiệp đang chuyển từ con người sang agent AI, nhưng các benchmark hiện tại còn nhiều lỗ hổng lớn:

  • Benchmark fixed-ontology (SROIE, DocILE) dùng schema cố định, không test được schema do người dùng tự định nghĩa.
  • Benchmark schema-guided gần đây (ContextualAI ExtractBench, LongExtractBench-50, V AREX, LongArrayExtract) mỗi hệ thống chỉ phủ một góc: không đo cost, không chấm grounding (dấu vết nguồn), không chứa tài liệu scan/viết tay.
  • Thiếu cách chẩn đoán: một điểm số tổng hợp không cho biết hệ thống bỏ sót 1/3 danh sách hay chỉ nhầm một nhãn, cũng không phân biệt task khó với bản scan xấu.

Hậu quả: không so sánh được các họ hệ thống toàn diện, không đo được độ tin cậy truy xuất nguồn và chi phí thực tế — hai yếu tố sống còn khi triển khai quy mô triệu trang.

II. Main Idea:​

ExtractBench là benchmark cho bài toán schema-guided extraction: cho tài liệu + JSON Schema do user viết, hệ thống trả về JSON hợp lệ kèm bằng chứng nguồn (trang + bounding box). Điểm cốt lõi:

  • Corpus rộng: 370 tài liệu, 4,869 trang, 8 domain, 67 loại tài liệu, mỗi loại 1 schema chia sẻ.
  • 5 trục tag độc lập (task / perception / table structure / length / domain) để truy nguyên nguyên nhân thất bại.
  • Pipeline ground-truth có thể mở rộng theo 3 nguồn: (1) tài liệu thật → ensemble nhiều hệ thống độc lập đồng thuận + người duyệt; (2) danh sách dài tổng hợp → sinh dữ liệu trước, render PDF, box chính xác theo thiết kế; (3) form scan → người thật xác nhận từng trường.
  • Metric: Value F1 không phụ thuộc thứ tự (so khớp record bằng Hungarian) + 2 metric grounding (word-level IoU≥0.5, page-level) + cost/thang.

Ví dụ đời thường: giống giám thị chấm thi không tự đọc từng bài một, mà cho nhiều giáo viên chấm độc lập rồi lấy phần đồng thuận, bài nào lệch mới đem ra hội ý — vừa nhanh vừa tránh một người mắt mờ ảnh hưởng toàn bộ kết quả.

III. Main Results:​

  • LlamaExtract Agentic Plus đứng đầu cả 3 metric (Value F1 95.6%, word-grounding 46.4%, page-grounding 84.9%) với cost chỉ 8.1 ¢/trang.
  • VLM thương mại (Gemini 3.5 Flash, GPT-5.4 Nano) rẻ (≤1¢) nhưng F1 < 80%; trên tài liệu dài sụt thảm (Gemini 27.9% vs 87.9% ngắn).
  • Coding agents (Codex GPT-5.5 93.6%, Claude Code Opus 4.8 87.1%) giữ độ chính xác cao trên tài liệu dài nhưng đắt (>15¢/trang).
  • Bảng khổng lồ (S4, >1000 dòng): VLM gần như sập (<10%); LlamaExtract 95.9%, Reducto 95.3%, Claude Code 87.8% là top 3.
  • Grounding gap: mọi VLM và coding agent không trả evidence mặc định → word/page grounding = 0. Chỉ chuyên dụng API trả box.
  • Ngay hệ thống tốt nhất, word-level grounding vẫn < 50% — truy xuất từng từ nguồn vẫn là bài toán mở.

IV. Conclusion & Future Works:​

ExtractBench là benchmark đầu tiên đo đồng thời value accuracy, grounding và cost trên tài liệu doanh nghiệp thật, với tag chẩn đoán đa trục. Kết luận: chi phí cao chưa chắc đi kèm độ chính xác cao — LlamaExtract Agentic Plus thắng coding agents với <1/2 giá. Hướng tương lai: cải thiện word-level grounding (đang <50%), mở rộng corpus lớn hơn bằng pipeline có sẵn, và thu hẹp khoảng cách giữa trích giá trị và truy vết bằng chứng chính xác.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng ExtractBench lên hàng chục nghìn tài liệu bằng pipeline sinh tổng hợp có sẵn, giữ nguyên quy trình ensemble + adjudication để ground-truth không tăng giá thành gán nhãn thủ công.
  2. Nghiên cứu kỹ thuật bắt buộc VLM/coding agent trả word-level box nhằm khép khoảng grounding gap mà không cần chuyển sang API chuyên dụng.
  3. Phân tích chuyên sâu tại sao hệ thống bỏ sót record trên tài liệu dài (context limit vs thiếu chiến lược lặp) và đề xuất cơ chế duyệt trang lặp cho VLM một-pass.

2. Patent:​

  1. Hệ thống kế toán doanh nghiệp tự động: upload hóa đơn/đơn hàng, AI trích trường theo schema riêng của công ty và gắn link trang nguồn, kế toán chỉ click để đối chiếu thay vì gõ tay — tiết kiệm chi phí khi xử lý triệu chứng từ mỗi tháng.
  2. Ứng dụng ngân hàng số: trích thông tin từ sao kê và hợp đồng vay theo schema định sẵn, hiển thị bounding box chứng minh từng số liệu để kiểm toán viên xác minh nhanh mà không lật lại toàn bộ PDF dài.
  3. Tính năng trên điện thoại: chụp ảnh tờ khai thuế/phiếu khám bệnh, app trích trường và khoanh vùng từng giá trị trên ảnh gốc, giúp người dùng kiểm tra nhanh kết quả trích xuất trước khi gửi đi.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2607.29677
ArXiv Abstracthttps://arxiv.org/abs/2607.29677
PDF Downloadhttps://arxiv.org/pdf/2607.29677.pdf
Github RepositoryN/A

13. Enhancing Rubric-based RL via Self-Distillation (15 votes)​

Tác giả: Mingxuan Xia, Yuhang Yang, Chao Ye, Shuai Zhu, Shenzhi Yang, et al.

Xuất bản lúc: 2026-07-21

Tag: Rubric-based RL, GRPO, Self-Distillation, LLMs, Reinforcement Learning, On-Policy, Reward

I. Main Problem:​

Huấn luyện LLM bằng rubric-based RL (chấm điểm theo bộ tiêu chí thay vì đúng/sai) qua thuật toán GRPO gặp hai lỗi hệ thống khiến tín hiệu học bị mất:

  • Unexplored Criteria (tiêu chí chưa khám phá): không rollout nào trong nhóm thỏa mãn tiêu chí đó → tiêu chí này hoàn toàn không nhận được tín hiệu tối ưu.
  • Suppressed Criteria (tiêu chí bị kìm nén): có rollout thỏa mãn, nhưng do GRPO gộp nhiều tiêu chí thành một điểm số duy nhất rồi chia đều cho toàn bộ câu trả lời, nên advantage tổng lại âm hoặc bằng 0 → hành vi đúng bị phạt hoặc bỏ qua.

Thực tế: >57% mẫu chứa tiêu chí bị kìm nén, trung bình 1.8 tiêu chí/mẫu. Các cách cũ giải quyết bằng cách nhét rubric vào lúc sinh câu trả lời → gây mismatch train-inference (exposure bias), vì lúc inference không có thông tin đó nên lỗi tích lũy qua giải mã tự hồi quy.

II. Main Idea:​

CriPO (Criterion-Distilled Policy Optimization) tăng cường rubric-based RL bằng On-Policy Self-Distillation (OPSD): tự mô hình làm 'giáo viên' soi vào chính rollout của nó, không sinh câu trả lời có thông tin đặc quyền → không có mismatch.

Hai cơ chế song song:

  • Với tiêu chí chưa khám phá: xây criterion-injection self-teacher yêu cầu mô hình sửa lại rollout tốt nhất để thỏa tiêu chí còn thiếu, rồi tính forward-KL chỉ tại các token đóng góp nhiều KL nhất (lọc lấy 34.6% token chiếm 95% KL) → tiêm hành vi đang thiếu vào policy.
  • Với tiêu chí bị kìm nén: xây counterfactual self-teacher làm bản đối lập (làm yếu phần thỏa tiêu chí đó), so sánh để tìm đúng token mang tiêu chí, rồi lật advantage tại token đó từ âm sang dương (+0.1) → giữ lại hành vi tốt thay vì phạt.

Mục tiêu tổng: L_CriPO = L_GRPO + β·L_OPSD, giữ GRPO làm xương sống ổn định, OPSD làm module phụ trợ.

Ví dụ đời thường: giống giáo viên chấm bài luận — thay vì viết lại cả bài giúp học sinh (như cách cũ gây lệch vì lúc thi học sinh phải tự làm), thầy chỉ góp ý đúng vào câu hay và chỉ chỗ còn thiếu để học sinh tự sửa trên chính bài của mình.

III. Main Results:​

  • Trên Qwen3-1.7B: CriPO đạt trung bình 62.4, vượt GRPO (+3.2) và HeRL; trên Qwen3-4B: 69.6, vượt GRPO (+1.4).
  • OPSD thuần sụt nghiêm trọng (xuống ~38–43), xác nhận cần giữ GRPO làm nền.
  • Hiệu suất hội tụ nhanh hơn ~2×: đạt mức tốt nhất của GRPO ở bước 175 thay vì ~350 bước.
  • CriPO giảm tỉ lệ cả hai loại tiêu chí lỗi so với GRPO; riêng CriPO-U giảm mạnh tiêu chí chưa khám phá, CriPO-S giảm mạnh tiêu chí bị kìm nén.
  • Ablation: bỏ lọc token theo đóng góp KL hoặc bỏ chọn rollout tốt nhất đều làm giảm điểm, chứng tỏ hai thiết kế này cần thiết.

IV. Conclusion & Future Works:​

CriPO giải quyết đồng thời hai lỗi của rubric-based RL mà không gây mismatch train-inference, nhờ self-distillation on-policy kết hợp nền GRPO ổn định. Khung này cho hiệu quả và hiệu suất tối ưu vượt trội trên y tế và khoa học. Hướng tương lai: mở rộng sang tác vụ mở rộng khác (viết bài dài, hội thoại), tự động điều chỉnh ngưỡng lọc token và trọng số β, và kết hợp các kỹ thuật làm OPSD ổn định hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Áp dụng CriPO cho tác vụ sinh văn bản dài và hội thoại mở, nơi response dài làm mismatch cũ trầm trọng hơn.
  2. Nghiên cứu ngưỡng lọc token γ và trọng số lật advantage τflip tự thích ứng theo độ dài câu trả lời và số tiêu chí.
  3. Kết hợp nhiều self-teacher phản thực tế để xử lý đồng thời nhiều tiêu chí bị kìm nén mà không gây nhiễu tín hiệu.
  4. Phân tích lý thuyết tại sao forward-KL phù hợp hơn reverse-KL cho việc tiêm hành vi hoàn toàn vắng mặt trong rollout group.

2. Patent:​

  1. Trên điện thoại: trợ lý y tế AI tự cải thiện câu trả lời theo bộ checklist tiêu chuẩn (ví dụ hỏi đủ triệu chứng, lời khuyên an toàn) mà không cần máy chủ lớn — tự phát hiện chỗ thiếu và tự sửa trên câu trả lời của chính nó.
  2. App học tập: hệ thống chấm bài tự động dùng danh sách tiêu chí để nhận diện câu trả lời học sinh bỏ sót ý nào, rồi tăng cường mô hình theo hướng đó thay vì chỉ cho điểm tổng.
  3. Chatbot tư vấn sản phẩm trên mobile: dùng checklist đảm bảo trả lời đủ các điểm (giá, bảo hành, phù hợp nhu cầu), tự cân bằng giữa các tiêu chí để không bỏ quên ưu điểm quan trọng.
  4. Tính năng gợi ý nháp trên bàn phím điện thoại: mô hình tự soi lại câu đang gõ theo checklist phong cách/rõ ràng và chỉ sửa các từ khóa liên quan thay vì viết lại cả câu.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2607.18082
ArXiv Abstracthttps://arxiv.org/abs/2607.18082
PDF Downloadhttps://arxiv.org/pdf/2607.18082.pdf
Github RepositoryN/A

14. Evaluation-Verification Reward for Consistent Multi-Reference Image Editing (11 votes)​

Tác giả: Yingmao Miao, Pengfei Zhang, Xiaochen Lv, Meng Yu, Lei Sun, et al.

Xuất bản lúc: 2026-07-31

Tag: Diffusion Models, RL Fine-tuning, MLLM, Reward Modeling, Multi-Reference Image Editing, GRPO, Flow Matching, LoRA

I. Main Problem:​

Chỉnh sửa ảnh đa tham chiếu (gộp nhiều ảnh gốc vào một kết quả hài hòa) vẫn yếu ở tính nhất quán và sự hài hòa, dù các mô hình như Qwen-Image-Edit hay NanoBanana đã mạnh ở chỉnh sửa đơn.

Hai nút thắt cốt lõi:

  • Thiếu reward model phù hợp: RL tỏ ra hiệu quả cho sinh ảnh và chỉnh sửa đơn ảnh, nhưng không mở rộng được sang đa tham chiếu vì các reward hiện có (CLIPScore, EditScore) chỉ đánh giá trên dữ liệu đơn ảnh, không nắm được ràng buộc quan hệ giữa nhiều ảnh (nhất quán chéo, hài hòa thành phần).
  • Nghịch lý của MLLM làm giám khảo: chuỗi suy luận dài (CoT) khiến mô hình bịa đặt (hallucination) dựa trên văn bản nội bộ; bỏ hẳn CoT thì thiếu suy diễn logic cần cho đánh giá chéo đa ảnh.

II. Main Idea:​

Evaluation–Verification Reward (EVR) là cơ chế reward đa chiều, tách biệt suy luận khỏi kiểm chứng thực tế theo ba bước:

  • Phân rã 5 tiêu chí: Reference Consistency, Scene Consistency, Harmony, Instruction Consistency, Visual Quality — giảm tải nhận thức, kìm hallucination.
  • Evaluator (MLLM): với mỗi tiêu chí, sinh K giả thuyết độc lập, mỗi cái gồm một lý giải ngắn + điểm 1–5 (short-CoT giữ đủ suy diễn, bớt thiên kiến văn bản).
  • Verifier (MLLM): gom các lý giải thành các khẳng định có thể kiểm chứng, soi trực tiếp vào pixel ảnh để gán nhãn đúng/sai (0/1) — chỉ giữ claim có bằng chứng thị giác.
  • Tổng hợp: trung bình có trọng số các claim được xác thực, rồi lấy trung bình hình học của 5 chiều để chặn reward hacking (không thể cao tổng bằng cách chỉ đẹp một chiều).

Đi kèm là data pipeline: GPT sinh danh mục vật thể → Z-Image sinh ảnh vật + ảnh nền tương thích → Qwen3-VL sinh lệnh chỉnh sửa (thay thế/chèn), tạo 10K triplet. Huấn luyện base Qwen-Image-Edit bằng DiffusionNFT + LoRA trên DiT, không đổi kiến trúc.

Ví dụ đời thường: giống giám khảo chấm thi — một người viết vài bản nhận xét nháp (có đúng có bịa), rồi một biên tập viên cầm ảnh gốc đối chiếu từng câu nhận xét, gạch bỏ những lời khẳng định không thấy trong ảnh, chỉ tính điểm cho những gì có thật.

III. Main Results:​

  • 67% tỷ lệ thắng theo đánh giá người thật so với mô hình gốc; cải thiện nhất quán và hài hòa lên ngang bằng hoặc vượt NanoBanana.
  • Trên Qwen-Image-Edit-2509: Reference Consistency tăng từ 3.35 → 4.43 (+1.08), Instruction Consistency 3.27 → 4.01, Harmony 2.22 → 2.73; Scene Consistency hơi giảm do base model 'gian lận' bằng cách copy nguyên ảnh nền.
  • Verifier khóa nhỏ 8B vượt mô hình lớn hơn dùng chấm điểm trực tiếp: bước xác thực bù đắp năng lực yếu của mô hình nhỏ, cho reward tin cậy hơn.
  • So với logit-reward (Edit-R1): EVR cho tín hiệu reward có thể giải thích và mạnh hơn ở các chiều cần suy luận logic.
  • Chi phí: ~150 GPU-giờ trên 4× NVIDIA H20, 40 epoch, LoRA rank 64.

IV. Conclusion & Future Works:​

EVR chứng minh rằng tách suy luận khỏi kiểm chứng thị giác là chìa khóa để có reward đa chiều tin cậy cho RL đa tham chiếu, đồng thời bền vững qua mọi quy mô mô hình (8B đến 32B đều lợi lớn). Bước Verifier giúp mô hình nhỏ đánh bại mô hình lớn không xác thực.

Hướng tương lai: mở rộng sang N > 2 tham chiếu (đã thử trên tập thực tế ngoài miền); áp dụng pipeline dữ liệu và EVR cho các tác vụ chỉnh sửa phức tạp hơn; tối ưu ngân sách K giả thuyết và chi phí triển khai MLLM.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng EVR cho thiết lập đa tham chiếu tùy ý (N>2): nghiên cứu cách phân rã tiêu chí và cơ chế xác thực mở rộng khi số ảnh gốc tăng, dựa trên kết quả khái quát hóa ngoài miền đã quan sát.
  2. So sánh hệ thống Verifier chuyên biệt nhỏ với MLLM đa năng lớn: phân tích điểm mạnh của xác thực dựa trên bằng chứng thị giác trong việc bù đắp năng lực suy luận yếu.
  3. Kết hợp EVR với các thuật toán khám phá online khác (GRPO, AWM) để kiểm tra tính độc lập của cơ chế reward đối với chính sách tối ưu diffusion.

2. Patent:​

  1. Ứng dụng chỉnh sửa ảnh trên điện thoại: người dùng chọn nhiều ảnh tham chiếu (vật thể + bối cảnh), app dùng mô hình đã tinh chỉnh EVR để chèn/thay thế vật thể vào ảnh chụp sao cho nhất quán ánh sáng và phối cảnh, không cần máy chủ lớn nhờ Verifier nhỏ.
  2. Tính năng 'thử đồ ảo' thương mại: lấy ảnh sản phẩm và ảnh người mặc, hệ thống tự ghép sản phẩm vào bối cảnh người thật với độ hài hòa cao, kiểm chứng từng chi tiết (màu, kết cấu) bằng Verifier trước khi xuất ảnh.
  3. Công cụ thiết kế nội thất: người dùng đưa ảnh món đồ và ảnh phòng, app tạo phối cảnh đặt đồ vào phòng giữ nguyên phong cách nền, tránh lỗi 'vật thể nổi' hay lệch góc nhìn nhờ reward đa chiều EVR.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2607.29025
ArXiv Abstracthttps://arxiv.org/abs/2607.29025
PDF Downloadhttps://arxiv.org/pdf/2607.29025.pdf
Github RepositoryN/A