Chuyển tới nội dung chính

🤗 Daily Hugging Face Paper Digest - 2026-09-23

Báo cáo được tạo tự động vào lúc 2026-09-24 10:16:50 bằng mô hình hermes-agent.

📰 Summary of Papers​

1. The Tasteful Agent: Measuring and Improving Taste in Long-Horizon Tasks (113 votes)​

Tác giả: Wenbo Pan, Zhichao Liu, Shujie Liu, Jingying Zeng, Chin-Yew Lin, et al.

Xuất bản lúc: 2026-09-22

Tag: LLM Agents, Agent Evaluation, Benchmark, Long-Horizon Tasks, Distillation, Process Supervision

I. Main Problem:​

Các agent LLM ngày càng làm tác vụ dài hạn (research, engineering), trong đó chất lượng thành công phụ thuộc vào hàng loạt quyết định trung gian (chọn giả thuyết nào, xây tiếp trên implementation nào). Vấn đề:

  • Benchmark hiện có (SWE-bench, RE-Bench...) chỉ đo kết quả end-to-end, không đo chất lượng các quyết định dọc đường.
  • Quyết định sai trông hợp lý tại thời điểm chọn, hậu quả chỉ lộ ra rất lâu sau — nên đánh giá trực tiếp rất khó.
  • Gán nhãn thủ công đòi hỏi chuyên môn sâu, đắt và khó mở rộng sang domain mới.

II. Main Idea:​

Định nghĩa taste = khả năng chọn hướng đi tốt hơn tại decision fork (điểm rẽ nhánh) khi chưa thấy kết quả. Quan sát then chốt: phần sau của trajectory là bằng chứng hồi cố (hindsight) cho quyết định trước đó, nên chính các trajectory agent đã chạy cung cấp nhãn miễn phí. Cách xây Taste-Bench (502 câu hỏi):

  • Parallel forks: hai lần thử cùng một task tách nhau tại một điểm, nhãn = hướng có outcome tốt hơn (bắt lỗi agent không tự nhận ra).
  • Detour forks: trong một run, agent tự bỏ hướng sai sau khi thất bại và chọn hướng đúng — hỏi model có nhận ra lỗi sớm hơn agent thực thi không.
  • Lọc tự động bằng judge model: loại câu đoán được từ chữ (trivial), loại câu không quyết định được từ hồ sơ (undecidable). Human review đạt 98.8% đồng thuận với nhãn đào tự động.
  • Chống position bias: mỗi câu hỏi trả lời hai lần với thứ tự ứng viên đảo ngược, chỉ tính đúng khi cả hai lần đúng.

Ví dụ đời thường: giống như xem lại ván cờ của hai kỳ thủ cùng đi một nước rẽ giống hệt nhau, người thắng là người chọn nhánh tốt — rồi che bàn cờ lại ngay tại nước rẽ để hỏi thầy khai giáo "lúc đó anh sẽ đi đâu", xem thầy có đoán trúng phương án thắng không.

III. Main Results:​

  • 14 model frontier đều yếu: tốt nhất GPT-5.6 Sol chỉ 59.7%, GPT-5.5 59.5%, Claude Opus 5 55.5%; ngẫu nhiên đoán cũng 25%.
  • Time horizon quyết định độ khó: accuracy trung bình giảm từ 62.3% (bằng chứng nằm ngay trong prefix) xuống 21.0% (cần nhiều bước sau mới chứng minh được) — gần mức đoán bừa.
  • Thêm reasoning budget không giúp: tăng effort từ thấp lên cao nhất, GPT-5.6 Sol thay đổi −0.2 điểm, GPT-5.6 Luna +2.2 điểm; các model thậm chí sinh nhiều token suy luận nhất đúng tại mức khó nhất — tức chúng nhận ra fork khó nhưng không suy luận ra bằng chứng tương lai.
  • Khác biệt với benchmark end-to-end: tương quan với SWE-bench Verified chỉ r = 0.63; 4 model đứng đầu SWE-bench (chênh nhau 4 điểm) tách ra tới 10.7 điểm trên Taste-Bench.
  • Taste huấn luyện được: distill reasoning của teacher (được cho biết đáp án đúng) vào student Qwen3.6-27B qua SDPO-style forward-KL, train trên một fold, test trên fold không trùng task: accuracy tăng 30.0% → 47.9% (+17.9pp).
  • Có ích end-to-end: trên 41 task SWE-bench Pro held-out, inject judgment của student như lời khuyên vào executor → tỉ lệ thành công 14.6% → 33.7% (upper bound với khuyên đúng tuyệt đối là 39.0%).

IV. Conclusion & Future Works:​

Taste — khả năng phán đoán dài hạn — đo được hoàn toàn tự động từ chính các trajectory agent đã tạo ra, không cần chuyên gia gán nhãn, và huấn luyện được bằng cách chuyển judgment in-context của teacher vào trọng số student. Taste-Bench đo một chiều năng lực mà benchmark end-to-end không bắt được, và cải thiện nó dẫn tới lợi ích thực tế trong tỉ lệ hoàn thành tác vụ. Hướng tương lai: mở rộng khai thác forks sang nhiều domain hơn, nâng cao khả năng dự đoán ở các fork có time horizon dài, và nghiên cứu cách tích hợp advisor trực tiếp vào vòng lặp thực thi thay vì chỉ inject trước khi chạy.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng Taste-Bench sang domain mới (pháp lý, y tế, thiết kế) bằng pipeline khai thác decision fork tương tự, kiểm chứng tính chuyển giao của taste giữa các lĩnh vực.
  2. Nghiên cứu phương pháp nhận diện decision fork online trong lúc agent chạy (thay vì mine offline từ log), để advisor có thể can thiệp thời gian thực.
  3. Kết hợp distill taste với reinforcement learning từ outcome end-to-end, kiểm tra xem judgment rời rạc tại từng fork có cộng hưởng hay xung đột với tối ưu tổng thể nhiệm vụ.
  4. Phân tích định lượng nhân tố khiến model thất bại ở fork dài hạn (thiếu world model, thiếu kiến thức domain, hay thiếu khả năng giả định kịch bản tương lai).

2. Patent:​

  1. Trợ lý lập trình trên điện thoại tích hợp bộ phán đoán hướng đi: trước khi thực hiện một thay đổi lớn trong codebase (đổi thư viện, refactor module), ứng dụng phân tích các lần sửa trước đó, cảnh báo người dùng hướng nào thường dẫn tới lỗi về sau và gợi ý phương án an toàn hơn ngay tại điểm rẽ.
  2. Hệ thống gợi ý nội dung học tập/nghiên cứu: ứng dụng di động ghi lại lịch sử thử-nghiệm của người dùng (giả thuyết nào thành công, giả thuyết nào bị bỏ), tự động trích xuất các điểm rẽ quyết định và huấn luyện một model nhỏ đưa ra lời khuyên định hướng cho lần nghiên cứu tiếp theo.
  3. Trợ lý ra quyết định kinh doanh cá nhân: app điện thoại đối chiếu các quyết định tương tự trong quá khứ (chọn nhà cung cấp, chọn chiến dịch marketing) cùng kết quả thực tế ghi lại, để khi người dùng đứng trước lựa chọn tương tự, app đưa ra khuyến nghị dựa trên bằng chứng hậu kỳ mà không cần chuyên gia.
  4. Công cụ kiểm thử tự động cho agent kỹ thuật: hệ thống ghi lại toàn bộ phiên làm việc của kỹ sư với công cụ AI, tự phát hiện điểm agent chọn hướng kém, dùng kết quả cuối phiên làm nhãn để đào tạo và phát hành bản cập nhật nâng cao khả năng phán đoán cho tất cả người dùng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.25804
ArXiv Abstracthttps://arxiv.org/abs/2609.25804
PDF Downloadhttps://arxiv.org/pdf/2609.25804.pdf
Github Repositoryhttps://github.com/wbopan/tastebench

2. RULER: Instance-aware Rubric Rewards for SVG Generation (60 votes)​

Tác giả: Hangyu Ran, Yuhao Zheng, Yingying Zhang, Kevin Qinghong Lin, Han Peng

Xuất bản lúc: 2026-09-21

Tag: SVG Generation, Reinforcement Learning, GRPO, Vision-Language Models, Rubric-Based Evaluation, Reward Hacking

I. Main Problem:​

Sinh Scalable Vector Graphics (SVG) từ ngôn ngữ tự nhiên là bài toán mở: một câu lệnh có thể ứng với vô số ảnh hợp lệ, nên không có ground truth tuyệt đối. Điều này làm nghẽn cả hai khâu:

  • Đánh giá không đáng tin: CLIP, Aesthetic, HPS được hiệu chuẩn trên ảnh tự nhiên; trên nội dung vector phong cách hóa chúng thường chấm ảnh hỏng cao hơn ảnh đúng và tương quan yếu với người.
  • Huấn luyện bị reward hacking: supervised fine-tune dễ bắt chước template; RL dùng reward vô hướng thì policy trôi theo tín hiệu dễ bơm nhất, ví dụ làm đẹp theo classifier nhưng vỡ ngữ nghĩa.

II. Main Idea:​

RULER biến mỗi instruction thành một instance-aware rubric gồm 6 tiêu chí, trải trên 3 trục: semantic fidelity gồm khái niệm dễ nhận ra và các thành phần/cue đặc trưng; visual quality gồm silhouette, form, bố cục và dùng canvas; rendering style gồm độ sạch khi render và tính thống nhất/phong cách. Một frontier model tạo rubric chỉ từ text instruction; policy sinh nhiều rollout SVG, render ra ảnh, judge VLM chấm từng tiêu chí theo thang liên tục, rồi reward là trung bình có trọng số của 6 satisfaction. GRPO dùng độ lệch reward trong cùng nhóm rollout để cập nhật policy, nên các rollout thắng khác nhau ở từng tiêu chí tạo advantage đa dạng. Vì rubric sinh từ text, phương pháp không cần SVG ground truth ghép cặp hay nhãn preference của người. Cơ chế giống như chấm bài thi bằng phiếu tiêu chí riêng cho từng đề thay vì một điểm mơ hồ, rồi cho học sinh trong cùng lớp so bảng với nhau để biết mình hơn kém ở mục nào.

III. Main Results:​

  • Rubric đánh giá khớp người hơn hẳn: tương quan mẫu Spearman ρ=0.7929 so với Aesthetic 0.6051 và CLIP 0.5518; đồng thuận xếp hạng cặp Goodman-Kruskal γ=0.7574.
  • Trên MMSVG-Illustration/Icon, từ backbone Qwen3-8B rubric score tăng 0.432/0.395 → 0.693/0.683, vượt các specialist SVG và ngang DeepSeek-V3 lớn hơn nhiều; human preference win-rate trên 50% với mọi baseline, cao tới 96.5% so với JanusCoder.
  • Thiết kế reward là lever chính: universal rubric chỉ đạt 0.660/0.591; reward C+A+H bị hacking mạnh, Aesthetic bị bơm tới 6.697/6.210 còn rubric trên Icon sụt còn 0.262.
  • Ablation: bỏ visual quality gây sụt lớn nhất 0.693→0.580, bỏ rendering →0.599, bỏ semantic →0.623; rubric quá strict gây text-hint hacking và tụt còn 0.536.
  • Robust: hiệu quả giữ được với Qwen3-4B/8B và khi đổi generator rubric Claude-Opus-4.6 hay GPT-5.5.

IV. Conclusion & Future Works:​

RULER cho thấy rubric đa trục là nền đánh giá đáng tin cho SVG mở, và khi chuyển thành dense instance-aware reward thì giảm reward hacking, vượt scalar-reward RL và specialist. Hạn chế: phụ thuộc model tạo rubric và judge VLM nên có thể kế thừa thiên lệch; chi phí render + chấm từng rollout cao; phép tách semantic/visual/style là hữu ích nhưng chưa chắp bắt mọi ý đồ nghệ thuật. Hướng tương lai: rubric tương tác, steerable bởi người, thích ứng theo domain; giảm chi phí/thiên lệch judge; mở rộng cho visual code khác như HTML/CSS, diagram, slide.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Rubric thích ứng theo domain cho đồ họa vector: tự điều chỉnh trọng số semantic/visual/style theo logo, icon, minh họa sách, UI illustration thay vì một khung cố định.
  2. Hiệu chuẩn thiên lệch judge VLM: ước lượng độ không chắc chắn theo tiêu chí, ensemble nhiều judge và phạt judge quá coi trọng chi tiết bề mặt trong chấm ảnh render từ code.
  3. Reward rubric cho open-ended visual code nói chung: sinh checklist điều kiện hóa theo yêu cầu rồi RL bằng GRPO cho bố cục web, sơ đồ kỹ thuật, infographic và slide trình bày.
  4. Tinh giản reward đắt đỏ: cache điểm từng tiêu chí, distill judge thành reward nhẹ, hoặc dùng active judging chỉ chấm rollout có khả năng thay đổi thứ hạng trong nhóm.
  5. Rubric vòng lặp người dùng: người chỉnh một vài tiêu chí hoặc ví dụ đối lập, hệ thống cập nhật trọng số rubric cho từng phong cách thương hiệu mà không huấn luyện lại toàn bộ policy.

2. Patent:​

  1. Ứng dụng điện thoại tạo icon, emoji, avatar bằng giọng nói: người dùng mô tả “mèo xanh tối giản”, hệ thống tạo checklist 6 tiêu chí riêng cho câu này, sinh nhiều bản đồ họa vector phóng to không vỡ, chấm từng tiêu chí bằng mô hình thị giác-ngôn ngữ và chọn/cải tiến bản đẹp nhất.
  2. Bàn phím điện thoại có nút “làm sticker đúng ý”: mỗi lần người chọn bản này bỏ bản kia, hệ thống suy ra tiêu chí ngầm như màu, bố cục, độ sạch nét và cá nhân hóa checklist cho các sticker vector sau.
  3. Trợ lý thiết kế cho shop bán hàng trên điện thoại: người bán nhập mô tả sản phẩm và màu thương hiệu, app sinh bộ icon/banner vector, tự kiểm định có đủ chi tiết nhận diện, cân đối canvas và thống nhất phong cách trước khi xuất.
  4. Công cụ no-code tạo logo trên mobile: từ một câu brief, hệ thống phân rã thành tiêu chí con có thể kiểm chứng, tạo nhiều phương án, hiển thị điểm theo từng tiêu chí để người dùng kéo trọng số thay vì chỉnh tay từng đường nét.
  5. Hệ thống kiểm định ảnh minh họa trong app ghi chú hoặc trình chiếu: mỗi prompt chèn ảnh đều đi kèm rubric riêng; trước khi lưu, app render thử, chấm độ nhận ra chủ thể, chất lượng silhouette, độ hoàn thiện nét và cảnh báo lỗi như chữ lạ, phần tử chồng đè.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.25270
ArXiv Abstracthttps://arxiv.org/abs/2609.25270
PDF Downloadhttps://arxiv.org/pdf/2609.25270.pdf
Github RepositoryN/A

3. GAE: Learning a Geometry-Native Latent Space for 3D-Consistent World Generation (38 votes)​

Tác giả: Jiahao Lu, Minghao Yin, Wenbo Hu, Hengyu Liu, Wang Zhao, et al.

Xuất bản lúc: 2026-09-21

Tag: 3D Generation, World Models, Latent Space, Flow Matching, Novel View Synthesis, Geometry Foundation Models, Autoencoder, Video Generation

I. Main Problem:​

Các video generator hiện đại tạo được frame đẹp nhưng không giữ được một scene 3D nhất quán: hình học (depth, camera trajectory) bị trôi dạt giữa các view. Tác giả lập luận đây là vấn đề của không gian biểu diễn (latent space), không chỉ là vấn đề mô hình:

  • Pixel VAE (SD-VAE, Wan2.1) nén tốt ngoại hình nhưng không đọc được cấu trúc 3D
  • Semantic RAE (RAEV2) giàu ngữ nghĩa nhưng không có ngõ ra hình học tự nhiên
  • Raw features của geometry foundation model (DA3) có hình học sẵn nhưng chiều khổng lồ (3.072 kênh, rank hiệu dụng chỉ ~10, condition number tới 10^16) — cực kỳ khó mô hình hóa bằng flow/diffusion
  • Cách thường dùng là thêm hình học như ngõ ra phụ vào latent thiên về ngoại hình, không giải quyết gốc rễ.

II. Main Idea:​

Geometry-Native Autoencoder (GAE) tái tham số hóa features của một geometry foundation model (DA3) đang đông cứng thành một latent nhỏ gọn, vừa giải mã được RGB vừa giải mã được hình học (depth, camera rays, point maps). Huấn luyện 2 giai đoạn:

  • Giai đoạn 1 — codec: nén 4 tầng feature DA3 (đã chuẩn hóa và ghép kênh) thành latent 64/128 kênh; decoder tái dựng toàn bộ hierarchy để DPT head vẫn đông cứng đọc hình học (buộc latent phải giữ thông tin hình học, không cho decoder 'tự sửa' sau khi nén), đồng thời một RGB head học được giải mã ngoại hình từ cùng latent đó
  • Tổ chức latent cho generative transport: thêm token-wise alignment với C-RADIO (giúp flow học mượt, giàu ngữ nghĩa nhưng phá vỡ cấu trúc không gian) kết hợp relational loss khớp độ tương đồng cặp token với DINOv2 (phục hồi cấu trúc không gian/quan sát chéo view)
  • Giai đoạn 2 — flow matching: huấn luyện một DiT conditional flow chuẩn trên latent đã chuẩn hóa, với điều kiện text, metric Plücker camera rays, và clean reference latents (dùng condition dropout để cùng một model làm T2I, camera-controlled video, novel-view synthesis)

Ví dụ đời thường: giống việc thay vì dạy họa sĩ vẽ lại căn phòng từ từng bức ảnh rời rạc (dễ lệch phối cảnh), ta đưa cho họa sĩ một bản thiết kế 3D gọn nhẹ của cả căn phòng — từ đó họ vẽ ra nhiều góc nhìn khác nhau mà mọi bức đều khớp cùng một không gian thật.

III. Main Results:​

  • Latent-space diagnostics: GAE-64/128 đạt ρ thấp nhất, condition number nhỏ nhất trong các latent có ngõ ra hình học tự nhiên, rank hiệu dụng tăng từ ~10 lên 33–51, kênh giảm 24–48 lần so với raw DA3
  • Codec reconstruction: GAE-128 ngang hoặc vượt raw DA3 L0 về PSNR/LPIPS/rFID/rFVD dù chỉ dùng 128 kênh; về hình học, GAE vượt baseline L0 trên mọi metric depth, point-map, pose (ATE giảm từ 0.068 → 0.006–0.007 trên RealEstate10K)
  • Generation (so sánh controlled, cùng flow model, cùng ngân sách):
    • FVD giảm 12.7% trên RealEstate10K (225.7 so với 258.6 của latent mạnh nhất còn lại) và 23.1% trên DL3DV (287.0 so với 373.2)
    • Camera-trajectory error (ATE) giảm ~52.8% trên RealEstate10K so với baseline tốt nhất không phải GAE
    • GAE đứng đầu các phương pháp controlled về MEt3R reprojection/3D consistency trên cả hai dataset
    • Vượt cả GLD (cascade) và Gen3R (hệ thống ngoài) về hầu hết metric camera và point-cloud

IV. Conclusion & Future Works:​

Bài báo chứng minh latent space là yếu tố then chốt cho generation nhất quán về 3D: chỉ cần thay latent, cùng generator và protocol huấn luyện, cả chất lượng hình ảnh lẫn tính mạch lạc hình học đều cải thiện rõ rệt. Latent hình học-thuần chủng có thể trở thành giao diện chung giữa perception và generation — cùng một không gian trạng thái cho cả đọc (reconstruction) và viết (sampling) thế giới 3D. Hướng mở: mở rộng sang scene động/dài hơn, độ phân giải cao hơn, và khám phá latent chung cho các tác vụ perception khác ngoài hình học.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Tổng quát hóa GAE sang các backbone geometry foundation khác (VGGT, v.v.) để kiểm chứng nguyên lý 'reparameterize thay vì thêm hình học' không phụ thuộc kiến trúc cụ thể.
  2. Mở rộng latent hình học-thuần chủng cho world modeling động: dự báo chuyển động vật thể và tương tác trong latent 4D, phục vụ mô phỏng vật lý và planning.
  3. Kết hợp latent chung perception-generation để học liên tục: mô hình sinh tự cải thiện bằng cách đọc lại hình học từ chính ảnh nó tạo ra (self-improving via geometric feedback).
  4. Nghiên cứu tổ chức latent đa quan hệ (ngoài cặp token DINOv2) cho scene quy mô lớn, nhiều phòng/nhiều vật thể với cấu trúc phân cấp.

2. Patent:​

  1. Ứng dụng camera điện thoại tạo video fly-through 3D: người dùng chụp một ảnh và kéo đường bay trên màn hình; hệ thống sinh video đi xuyên không gian kèm bản đồ độ sâu, cho phép xoay góc nhìn tự do sau khi quay.
  2. Trợ lý thiết kế nội thất trên điện thoại: chụp ảnh căn phòng, nhập mô tả 'phong cách Scandinavian', ứng dụng sinh ảnh cải tạo từ nhiều góc nhìn luôn khớp nhau và kèm kích thước/depth để báo giá thi công.
  3. Tính năng quay video 'lấy nét lại sau chụp' cho smartphone: video được sinh từ latent chứa hình học thật của scene, cho phép người dùng đổi quỹ đảo camera, xóa vật thể hoặc zoom vật lý mà không vỡ cấu trúc 3D.
  4. Hệ thống kiểm tra bất động sản từ xa: từ vài ảnh người bán gửi, nền tảng sinh tour 3D nhất quán, tự phát hiện sai lệch kích thước/phối cảnh so với mặt bằng đã đăng ký để cảnh báo tin đăng ảo.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.24981
ArXiv Abstracthttps://arxiv.org/abs/2609.24981
PDF Downloadhttps://arxiv.org/pdf/2609.24981.pdf
Github Repositoryhttps://github.com/TencentARC/GAE-GeometricAutoEncoder

4. All-in-One Multilingual Scene Text Recognition with Script-aware Mixture-of-Experts (36 votes)​

Tác giả: Xingsong Ye, Yongkun Du, Jiaxin Zhang, Zhixian Li, Chong Sun, et al.

Xuất bản lúc: 2026-09-21

Tag: OCR, Scene Text Recognition, Multilingual OCR, Mixture-of-Experts, Synthetic Data, Vision-Language Models, Document AI

I. Main Problem:​

Nhận diện chữ trong ảnh tự nhiên ở nhiều ngôn ngữ vẫn khó vì dữ liệu thật bị thiên lệch mạnh về English/Chinese, trong khi các chữ viết khác như Arabic, Hindi, Cyrillic, Thai, Tibetan thiếu dữ liệu huấn luyện quy mô lớn.

Các hướng hiện tại đều có điểm yếu rõ:

  • Một mô hình cho mỗi ngôn ngữ: chi phí triển khai và bảo trì cao, cần thêm bước nhận diện ngôn ngữ; nếu bước này sai, toàn bộ pipeline phía sau sai theo.
  • Vision-Language Models lớn: gộp nhiều ngôn ngữ trong một hệ thống chung nhưng rất nặng, tốn kém khi chạy thiết bị biên và vẫn yếu trên nhiều script.
  • Một decoder dùng chung cho mọi script: các script khác nhau mạnh về hình thái nét, hướng đọc và kích thước bộ ký tự, nên một bộ tham số dày đặc bị chia capacity không đều; script ít dữ liệu bị thiệt, script phổ biến cũng khó chuyên biệt hóa.

II. Main Idea:​

Bài báo xây dựng một recognizer all-in-one cho đa ngôn ngữ bằng hai thành phần chính.

  • TextMuSS-10M: bộ dữ liệu tổng hợp 10 triệu ảnh, cân bằng cho 10 script và 229 ngôn ngữ. Dữ liệu được tạo bằng cách mở rộng engine tổng hợp UnionST, bổ sung bảng ký tự, corpus theo ngôn ngữ, văn bản dọc cho Chinese/Japanese/Korean và render right-to-left cho Arabic.
  • ScriptMoE: kiến trúc nhận diện dùng một visual encoder chung, sau đó thay lớp feed-forward trong decoder bằng khối Mixture-of-Experts.
    • Script router làm việc ở mức toàn bộ ảnh, không phải từng token.
    • Mỗi ảnh được gửi tới top-2 script experts phù hợp.
    • Một shared expert luôn bật học kiến thức dùng chung như chữ số, dấu câu, biến dạng hình học và đặc điểm gần giữa các script.
    • Một script classifier phụ cung cấp tín hiệu nhẹ để các expert tự tổ chức theo nhóm script, gồm Latin+Cyrillic, CJK, Arabic, và nhóm Hindi/Bangla/Tibetan/Thai.

Cách này khai thác prior rằng một ảnh chữ thường chỉ chứa một script, nên quyết định routing gần như không mơ hồ. Thay vì mọi script cùng tranh một bộ tham số dày đặc, mô hình chỉ kích hoạt đúng chuyên gia cần thiết.

Ví dụ đời thường: giống một quầy tiếp nhận nhìn nhanh một trang tài liệu, rồi chuyển ngay cho đúng hai chuyên gia ngôn ngữ cộng thêm một điều phối viên chung, thay vì bắt mọi chuyên gia đọc tất cả các trang hoặc mở riêng một phòng cho từng ngôn ngữ.

III. Main Results:​

  • Trên TextMuSS-Bench gồm 10 script và 10.899 ảnh thật, ScriptMoE đạt 82.06% accuracy trung bình, cao hơn baseline STR mạnh nhất là SVTRv2-AR 1.31 điểm.
  • Lợi ích tập trung ở các script khó và ít dữ liệu: Arabic +2.98%, Thai +2.40%, Tibetan +1.96% so với SVTRv2-AR.
  • ScriptMoE vượt xa hệ thống kiểu expert như PP-OCRv5 MLT và các VLM mạnh; nhiều VLM gần như sụp đổ trên Arabic, Bangla hoặc Tibetan.
  • Về hiệu quả, mô hình có 45.85M tham số tổng và kích hoạt khoảng 41.13M tham số mỗi ảnh, nhẹ hơn VLM từ một đến hai bậc độ lớn.
  • Trong bài toán nhận diện end-to-end trên CC-OCR, giữ nguyên detector của PP-OCRv5 và chỉ thay recognizer bằng ScriptMoE làm F1 tăng từ 65.71% lên 80.89%.
  • Mức 80.89% này nhỉnh hơn VLM mạnh nhất là Qwen3.5-9B ở 80.73%, dù VLM có số tham số lớn hơn rất nhiều.
  • Ablation cho thấy dữ liệu tổng hợp là bắt buộc với các script thiếu dữ liệu; mô hình 4 experts tốt hơn cả 10 experts riêng lẻ; bỏ shared expert làm accuracy trung bình giảm 0.71%, đặc biệt Arabic giảm 3.62% và Tibetan giảm 3.65%.

IV. Conclusion & Future Works:​

ScriptMoE chứng minh hướng all-in-one multilingual scene text recognition khả thi: nhẹ hơn VLM, đơn giản hơn tập hợp nhiều recognizer riêng, và chính xác hơn cả hai trên benchmark đa script.

Hạn chế còn lại là xung đột giữa Latin và Cyrillic do một số glyph trông giống nhau nhưng ánh xạ sang ký tự khác nhau, cùng thực tế Latin có nhiều dữ liệu thật hơn. Kết quả end-to-end cũng vẫn bị giới hạn bởi detector phía trước.

Hướng mở rộng hợp lý: thu thập thêm dữ liệu thật cho script ít tài nguyên, cải thiện synthetic-to-real domain adaptation, mở rộng sang ngôn ngữ/script mới, và tối ưu triển khai trên thiết bị biên với ít expert và chi phí routing thấp hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Huấn luyện đồng thời detection và script-aware recognition để giảm lỗi tích lũy giữa nhận diện ngôn ngữ và nhận diện chữ trong pipeline OCR đa ngôn ngữ.
  2. Kết hợp dữ liệu tổng hợp quy mô lớn với active learning trên dữ liệu thật để cải thiện các script ít tài nguyên như Tibetan, Thai và Bangla.
  3. Nghiên cứu script-aware continual learning để thêm ngôn ngữ mới mà không làm giảm đáng kể accuracy trên các ngôn ngữ đã học.
  4. Phát triển bộ routing nhẹ hơn cho thiết bị di động, cân bằng giữa số expert, độ phân giải ảnh và tốc độ nhận diện thời gian thực.

2. Patent:​

  1. Ứng dụng điện thoại quét biển hiệu đa ngôn ngữ khi du lịch: camera chụp ảnh, hệ thống tự xác định nhóm chữ viết rồi gửi ảnh tới hai chuyên gia phù hợp cùng một chuyên gia dùng chung để đọc chữ, dịch nghĩa và đọc thành giọng nói ngay cả khi không có mạng.
  2. Trợ năng cho người kém thị lực trên điện thoại: người dùng hướng camera tới văn bản, menu, nhãn thuốc hoặc biển báo; ứng dụng nhận diện nhiều kiểu chữ như dọc, phải-sang-trái, liền nét hoặc nhiều dấu phức tạp rồi đọc to bằng ngôn ngữ người dùng chọn.
  3. Hệ thống nhận diện địa chỉ và tên người trên phiếu giao hàng, hồ sơ y tế hoặc biểu mẫu đa quốc gia: một mô hình nhỏ chạy tại máy quét hoặc điện thoại giúp giảm gửi ảnh lên đám mây, tăng bảo mật và hỗ trợ các ngôn ngữ ít phổ biến.
  4. Bộ công cụ nhúng trong máy quét tài liệu cầm tay cho thư viện, bảo tàng và cơ quan hành chính: tự nhận diện chữ trên ảnh chụp nghiêng, cong hoặc thiếu sáng, sau đó chuyển sang bản số có thể tìm kiếm trong nhiều ngôn ngữ khác nhau.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.24058
ArXiv Abstracthttps://arxiv.org/abs/2609.24058
PDF Downloadhttps://arxiv.org/pdf/2609.24058.pdf
Github Repositoryhttps://github.com/YesianRohn/ScriptMoE

5. Ovis-Embedding: Pushing the Frontiers of Universal Omni-Modal Embeddings (31 votes)​

Tác giả: Embedding Team

Xuất bản lúc: 2026-09-21

Tag: Embeddings, Multimodal Learning, Omni-Modal, Contrastive Learning, Any-to-Any Retrieval, Embedding Distillation, Low-Rank Adaptation

I. Main Problem:​

Embedding đa phương thức hiện nay thiếu tính phổ quát cho any-to-any retrieval — tức truy vấn có thể gồm nhiều phương thức (âm thanh + văn bản chẳng hạn) và cần khớp trực tiếp với ứng viên ở phương thức khác trong cùng một index. Cụ thể:

  • Các mô hình vision-language specialist không hỗ trợ audio.
  • Các hệ omni-modal hiện có thường gắn nhánh audio vào embedder text-vision đã học sẵn, hoặc căn chỉnh encoder audio riêng vào không gian embedding đã có — khiến âm thanh bị ép vào một hình học không gian học mà không có audio, hạn chế căn chỉnh chi tiết giữa các phương thức.
  • Nhu cầu thực tế: agent bảo trì dùng clip âm thanh + mô tả để tìm video hướng dẫn, sơ đồ trong PDF hay hồ sơ sửa chữa cũ — cần không gian ngữ nghĩa thống nhất, được hiệu chuẩn để điểm relevance so sánh được xuyên phương thức.

II. Main Idea:​

Ovis-Embedding xây dựng embedder omni-modal trên backbone đa phương thức chia sẻ thay vì ghép các 'tháp' phương thức riêng lẻ. Ba điểm chính:

  • Native omni-modal initialization: khởi tạo từ mô hình Qwen-Omni đã pretrain (text, vision, audio, video cùng xử lý bởi một Transformer chia sẻ), bỏ phần sinh lời nói, lấy hidden state cuối tại token cuối không phải padding làm embedding — không thêm projection head riêng cho phương thức nào. Biến backbone sinh thành bi-encoder tham số-hiệu-chỉnh.
  • Data-centric training: kho dữ liệu ~50M cặp (query, target) bao phủ text, ảnh, video, audio, visual document, agent và dữ liệu interleaved; dùng homogeneous-source sampling — mỗi micro-batch lấy từ một nguồn, khử trùng ứng viên — để tạo in-batch negatives nhất quán về tác vụ mà không xung đột positive.
  • Training & inference tối ưu cho embedding: focal loss nhấn mạnh mẫu khó; Embedding Distillation chuyển cấu trúc tương đồng mịn từ các expert bổ trợ vào student; lúc suy luận, low-rank feature decomposition cho embedding nhỏ gọn, chiều linh hoạt với tổn thất hiệu suất tối thiểu.

Ví dụ đời thường: giống như thuê một nhân viên đã quen làm chung với cả khách nói tiếng Anh, tiếng Nhật lẫn khách giao tiếp bằng hình ảnh — vì 'được lớn lên' trong cùng một môi trường, anh ta tự so khớp được mọi cặp mà không cần phiên dịch viên riêng cho từng cặp ngôn ngữ.

III. Main Results:​

  • Ovis-Embedding-Omni-3B (backbone Qwen2.5-Omni-3B, hỗ trợ text+ảnh+video+audio): SOTA mới trên MMEB-v3, dẫn cả 6 nhóm phương thức (IMG, VID, VISDOC, TXT, AUD, AGENT), ví dụ TXT 77.5 so với ~50-65 của các mô hình cạnh tranh.
  • Ovis-Embedding-VL-9B (backbone Qwen3.5-9B, text+ảnh+video): dẫn đầu 4/5 nhóm tác vụ trên MMEB-v2 (image retrieval ~86.7), vượt seed1.6-embedding, Qwen3-VL-Embedding-8B và các embedder vision-language khác.
  • Cả gia đình mô hình còn nâng SOTA trên MVEB (video), MAEB (audio), RTEB (text).
  • Ablations trong quá trình huấn luyện 4 giai đoạn (low-rank pretrain → full finetune với homogeneous sampling → distillation annealing → elastic dimensions) cho thấy mỗi thành phần đều đóng góp vào không gian embedding thống nhất.

IV. Conclusion & Future Works:​

Ovis-Embedding chứng minh huấn luyện omni-modal thống nhất từ đầu (thay vì vá audio vào embedder có sẵn) giúp vượt qua 'modality fragmentation' và cho phép any-to-any retrieval trong một không gian biểu diễn mạch lạc. Nhóm tác giả cam kết mở mã nguồn: checkpoints, công thức xây dựng dữ liệu và huấn luyện, mã suy luận, và bộ công cụ đánh giá thống nhất — đặc biệt phục vụ các hướng còn thiếu nguồn mở như audio, audio-video và any-to-any retrieval.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng Ovis-Embedding sang các phương thức mới và interleaved phức tạp hơn (ví dụ retrieval đồng bộ audio-video dài, nhiều thời điểm) trong cùng không gian embedding.
  2. Nghiên cứu cơ chế chọn thứ tự và tỷ lệ trộn các nguồn dữ liệu omni-modal để cải thiện hơn nữa hiệu quả của homogeneous-source sampling và giảm shortcut theo phương thức.
  3. Phát triển biến thể embedder siêu nhẹ từ backbone nhỏ (2B trở xuống) kết hợp elastic dimensions để triển khai retrieval đa phương thức trực tiếp trên thiết bị biên.

2. Patent:​

  1. Ứng dụng tìm kiếm bằng giọng nói trên điện thoại: người dùng nói mô tả hoặc ghi âm tiếng ồn (tiếng máy lạnh kêu lạ) kèm vài từ chữ; hệ thống embedding omni-modal trả về ngay video hướng dẫn sửa chữa, hình ảnh trong tài liệu PDF và bài viết văn bản liên quan trong cùng một kết quả tìm kiếm.
  2. Trợ lý mua sắm đa phương thức trên điện thoại: chụp ảnh sản phẩm hoặc quay video ngắn, người dùng có thể thêm ghi âm yêu cầu ('tìm cái này nhưng màu xanh, giá dưới 500k'); hệ thống dùng embedding thống nhất để khớp sản phẩm trực tiếp từ nội dung đa phương thức mà không cần chuyển hết về văn bản.
  3. Hệ thống tìm kiếm kho nội dung doanh nghiệp trên thiết bị di động: dùng low-rank feature decomposition để lưu embedding chiều thấp trên điện thoại, cho phép tìm kiếm cục bộ xuyên văn bản, ảnh, video và âm thanh với bộ nhớ và pin tiết kiệm, mất rất ít độ chính xác.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.25165
ArXiv Abstracthttps://arxiv.org/abs/2609.25165
PDF Downloadhttps://arxiv.org/pdf/2609.25165.pdf
Github Repositoryhttps://github.com/ATH-MaaS/Ovis-Omni-Embedding

6. Circuit Hypernetworks for Quantum-Augmented Diffusion Language Models (24 votes)​

Tác giả: Xiaoqiang Wang, Mengyang Xiong, Jun Dai, Bang Liu

Xuất bản lúc: 2026-09-21

Tag: Quantum Machine Learning, Diffusion Language Models, Hypernetworks, Variational Quantum Circuits, Parameter-Efficient Fine-Tuning, Hybrid Quantum-Classical Computing

I. Main Problem:​

Các nghiên cứu trước về quantum-augmented transformers chỉ đánh giá mạch lượng tử ở một độ rộng cố định, chưa trả lời được câu hỏi: liệu tăng số qubit có làm mô hình ngôn ngữ tốt hơn không. Việc nghiên cứu này gặp hai rào cản:

  • Barren plateaus: phương sai gradient giảm theo hàm mũ khi tăng số qubit, mạch biến phân vô cấu trúc gần như không huấn luyện được.
  • Chi phí mô phỏng: mô phỏng chính xác trạng thái n-qubit cần vector 2^n biên độ — quá đắt khi chạy cho từng token bên trong backbone tỷ tham số.

Ngoài ra, mạch thiết kế tay cố định không thể thích ứng theo từng token trong ngữ cảnh.

II. Main Idea:​

HyperQ gắn các quantum residual branch (nhánh lượng tử dư) vào một masked-diffusion language model (LLaDA-1.1B, 22 khối transformer) đã đóng băng:

  • Trong mỗi khối, một circuit hypernetwork dạng low-rank adapter đọc hidden state của từng token và phát ra (emit) trực tiếp tọa độ mạch lượng tử riêng cho token đó: góc xoay một-qubit α, cường độ cộng hưởng hai-qubit ω, trục đo ψ.
  • Mạch phát ra thuộc họ IQP (instantaneous quantum polynomial) nghiêm ngặt: lớp Hadamard – khối đường chéo gồm cổng Rz và Rzz trên bộ khung cố định E (mỗi qubit đúng bậc 4: lớp vòng ring + lớp dây cung chord) – lớp Hadamard – phép đo.
  • Readout là giá trị kỳ vọng ⟨Z_q⟩, có công thức giải tích đóng với chi phí Θ(n) tuyến tính theo số qubit — không cần dựng statevector. Bậc cố định 4 giữ phương sai gradient ở 1/48 ở mọi độ rộng, né barren plateaus.
  • Kết quả đọc được chiếu qua low-rank projection và cộng dư (residual) vào Q, K, V. Chỉ nhánh lượng tử được huấn luyện.

Ví dụ đời thường: giống một công nhân lành nghề đi gia công theo yêu cầu từng món đồ — mỗi token đưa đến quầy là kèm một tờ thông số riêng, thợ chỉnh máy theo đúng thông số đó; còn khung xưởng (backbone) và khung mạch (skeleton E) thì cố định, nhẹ nhàng và tính toán được ngay tại chỗ.

III. Main Results:​

  • Điểm trung bình 6 benchmark (ARC-e, HellaSwag, PIQA, BoolQ, RACE, GSM8K) tăng theo độ rộng mạch: 47.65 (16q) → 52.80 (32q) → 54.30 (64q).
  • Ở 64 qubits, HyperQ vượt backbone đóng băng +4.71 điểm (49.59) và vượt bản cùng backbone + classical LoRA +3.67 điểm (50.63); vượt cả Qwen3-8B (53.79) và LLaDA-8B (53.37).
  • Chỉ fine-tune trên 20.000 cặp prompt-response — bằng 1/10 dữ liệu của baseline cổ điển.
  • Gain xuất hiện chỉ khi mạch đủ rộng: ở 16q HyperQ vẫn dưới backbone.
  • Ablation: phát mạch liên tục (emission) thắng mọi ansatz cố định và mọi phương pháp tìm kiếm motif rời rạc ở mọi độ rộng; vượt ansatz iqp-diag gần nhất tới +4.59 điểm ở 64q; cả ensemble 3 mạch cố định (52.24) cũng không đuổi kịp hypernetwork một lần chạy (52.80).
  • Phân tích mạch phát ra: mỗi token tự chọn cấu trúc con hoạt động trong skeleton (55.8% giữ cả ring+chord, 23.2% chỉ ring, 6.7% hoàn toàn tắt), chỉ 0.1% token giữ toàn bộ cạnh ở 64q.
  • Thử nghiệm boounded trên chip lượng tử siêu dẫn 156 qubit (giữ nguyên trọng số): đo thay readout giải tích, minh chứng pipeline tương thích phần cứng thật.
  • Tác giả không claim quantum advantage — readout vẫn mô phỏng cổ điển được; WikiText perplexity vẫn thua Qwen3-8B.

IV. Conclusion & Future Works:​

Kết quả ủng hộ token-conditioned circuit emission như một hướng kiến trúc khả thi cho quantum-augmented language modelling: bằng cách chọn họ mạch có readout giải tích hiệu quả (IQP, bậc cố định) và hypernetwork nhẹ, có thể huấn luyện mạch tới 64 qubits bên trong backbone 1.1B tham số với gradient ổn định. Điểm mấu chốt là chất lượng tăng theo độ rộng mạch lần đầu tiên được chứng minh trên suite benchmark chuẩn. Hướng mở: thay readout cổ điển bằng đo lường thật trên phần cứng lượng tử ở quy mô lớn hơn, nghiên cứu họ mạch rộng hơn IQP mà vẫn giữ tính huấn luyện được và mở rộng sang autoregressive backbone.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng circuit hypernetwork cho autoregressive LLM và mixture-of-experts, kiểm chứng xem lợi ích theo độ rộng mạch có giữ được ngoài mô hình diffusion không.
  2. Thiết kế họ mạch lượng tử readout-tractable tổng quát hơn IQP (ví dụ matchgate hoặc shallow Clifford hierarchy) và chứng minh giới hạn trên về gradient variance cho từng họ.
  3. Pipeline hybrid online: cập nhật trọng số nhánh lượng tử trong khi đo readout trực tiếp trên QPU thật, với error mitigation cho expectation values theo token.
  4. Phân tích lý thuyết về lý do token-conditioned circuit emission vượt discrete architecture search trong bối cảnh ngôn ngữ, dựa trên độ mượt của ánh xạ hidden state → tọa độ mạch.

2. Patent:​

  1. Trợ lý AI trên điện thoại với nhánh tính toán lượng tử tùy chọn: khi thiết bị kết nối được tới dịch vụ đám mây lượng tử, mô hình ngôn ngữ gửi tọa độ mạch của từng token để đo trên phần cứng thật, còn offline thì dùng công thức cổ điển tuyến tính thay thế, cho kết quả nhất quán ở cả hai chế độ.
  2. Hệ thống fine-tune siêu nhẹ cho mô hình trợ lý doanh nghiệp: chỉ huấn luyện các nhánh hypernetwork nhỏ gắn vào backbone lớn đã đóng băng, giảm dữ liệu và chi phí huấn luyện xuống còn một phần mười so với fine-tune truyền thống.
  3. Cơ chế kiểm soát độ phức tạp mạch theo ngữ cảnh cho chatbot: token quan trọng (từ khóa, thực thể) được phát mạch rộng nhiều qubit, token phụ trợ tự động rơi về cấu trúc đơn giản, tiết kiệm tài nguyên tính toán mà không mất độ chính xác.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.24657
ArXiv Abstracthttps://arxiv.org/abs/2609.24657
PDF Downloadhttps://arxiv.org/pdf/2609.24657.pdf
Github RepositoryN/A

7. Bellman Policy Optimization (24 votes)​

Tác giả: Zhuoqing Song, Haotian Xu, Xikun Zhang, Lidong Bing

Xuất bản lúc: 2026-09-14

Tag: Reinforcement Learning, LLMs, RLVR, Policy Optimization, Reasoning, GRPO

I. Main Problem:​

Trong RLVR (reinforcement learning với phần thưởng kiểm chứng được), các phương pháp tối ưu chính sách như GRPO đang rất phổ biến nhưng có những hạn chế căn bản:

  • GRPO dựa trên PPO với importance-sampling ratio theo từng token, vốn nhạy cảm với sự khác biệt giữa rollout policy và policy huấn luyện, gây bất ổn và thường cần clipping phức tạp.
  • Phương pháp có nền tảng lý thuyết chắc hơn như Policy Mirror Descent (PMD) lại yêu cầu ước lượng value/advantage tại mọi trạng thái trung gian — tức phải huấn luyện thêm value model (critic), tốn bộ nhớ, tính toán, và các ước lượng này thường không chính xác trên tác vụ suy luận.

II. Main Idea:​

BPO tái cấu trúc PMD thành bài toán critic-free ở cấp toàn bộ trajectory, tận dụng phương trình Bellman cho bài toán sinh văn bản tự hồi quy với phần thưởng chỉ ở cuối chuỗi:

  • Điểm mấu chốt: các advantage của token liên tiếp hiệu sai (telescope) dọc theo câu trả lời, chỉ còn lại phần thưởng cuối R(x,y) trừ giá trị khởi đầu V^µ(x) — mà V^µ(x) chỉ là kỳ vọng phần thưởng của prompt, ước lượng dễ dàng từ mẫu rollout (không cần critic).
  • BPO chứng minh bài toán tái cấu trúc này có cùng nghiệm tối ưu duy nhất với PMD gốc trên các trạng thái reachable.
  • Từ đó rút ra loss thực dụng: thay importance-sampling ratio của GRPO bằng mismatch-correction weight — tỉ số đã smoothing của xác suất bù (complementary probability) 1−µ(y|s) / 1−π(y|s), kết hợp clipping kiểu GRPO.

Ví dụ đời thường: giống chấm bài một bài luận thay vì chấm từng câu riêng lẻ — thay vì phải đánh giá điểm 'giá trị' sau mỗi câu viết (critic tốn kém), ta chỉ cần điểm cuối cùng của bài và điểm trung bình kỳ vọng, rồi phân bổ chênh lệch đó ngược lại dọc bài viết một cách gọn gàng.

III. Main Results:​

  • Huấn luyện Qwen3-30B-A3B-Base trên DAPO-Math-17k, so sánh công bằng (chỉ đổi policy loss) với GRPO-ClipHigher, GSPO, CISPO, DPPO.
  • BPO đạt peak accuracy trung bình 50.5% trên AIME 2024–2026 (Avg@32), cao nhất cả ba benchmark.
  • Vượt các baseline lần lượt +11.0 (GRPO-ClipHigher), +7.0 (GSPO), +3.1 (CISPO), +4.1 (DPPO) điểm phần trăm.
  • Cả về độ chính xác cuối cùng sau 400 bước: 49.4% so với 45.5% của DPPO (baseline mạnh nhất lúc kết thúc).

IV. Conclusion & Future Works:​

BPO cho thấy có thể giữ nguyên nghiệm tối ưu lý thuyết của PMD mà không cần critic, bằng cách chuyển ước lượng giá trị từ trạng thái trung gian sang phần thưởng đầu-cuối của trajectory. Trọng số hiệu chỉnh lệch (smoothed complementary-probability ratio) thay thế tốt hơn importance ratio của GRPO về cả hiệu năng lẫn độ ổn định. Hướng mở: áp dụng cho các tác vụ có phần thưởng dạng khác, cải tiến cách chọn hằng số smoothing/cap C, và kết hợp với các kỹ thuật ổn định rollout khác.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Tổng quát hóa reformulation critic-free của PMD cho MDP có phần thưởng trung gian (dense rewards), nơi việc telescope không còn đơn giản là hiệu đầu-cuối.
  2. Nghiên cứu lý thuyết về độ ổn định và hội tụ của mismatch-correction weight so với importance-sampling ratio dưới nhiễu rollout engine và policy lag lớn.
  3. Kết hợp BPO với các kỹ thuật giảm phương sai khác (ví dụ adaptive clipping, token-level advantage) để cải thiện thêm hiệu năng trên tác vụ mã nguồn mở và coding benchmarks.

2. Patent:​

  1. Hệ thống huấn luyện mô hình ngôn ngữ trên điện thoại/cloud dùng thuật toán tối ưu chính sách không cần mô hình đánh giá điểm (critic): ước lượng chất lượng câu trả lời chỉ từ điểm cuối cùng và điểm trung bình của nhóm câu trả lời, giảm đáng kể chi phí bộ nhớ và tính toán.
  2. Dịch vụ tinh chỉnh AI theo yêu cầu cho doanh nghiệp: thay trọng số hiệu chỉnh lệch xác suất cho thuật toán tối ưu hóa phản hồi, giúp chatbot trả lời chính xác hơn trên bài toán toán học/kỹ thuật mà không cần huấn luyện thêm mô hình chấm điểm riêng.
  3. Bộ công cụ ổn định huấn luyện RLHF trên thiết bị biên: thuật toán tối ưu chính sách dùng tỉ số xác suất bù đã làm mượt để tránh tràn số và dao động khi chính sách mới và chính sách tạo mẫu lệch nhau, phù hợp thiết bị tài nguyên hạn chế.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.15987
ArXiv Abstracthttps://arxiv.org/abs/2609.15987
PDF Downloadhttps://arxiv.org/pdf/2609.15987.pdf
Github RepositoryN/A

8. JEV-as-a-Judge: Accept When Confident, Escalate When Unsure (21 votes)​

Tác giả: Yubo Li, Yidi Miao, Ramayya Krishnan, Rema Padman

Xuất bản lúc: 2026-09-22

Tag: LLM-as-a-judge, Evaluation, Confidence Calibration, Model Cascades, Reward Models, Cost-efficient Inference

I. Main Problem:​

Đánh giá quy mô lớn bằng LLM-as-a-judge ngày càng đắt đỏ và khó tin cậy:

  • Các judge reasoning sinh ra nhiều token suy luận → phí cao, độ trễ lớn, chi phí judge trở thành một phần chi phí vận hành hệ thống.
  • LLM tự báo confidence thường overconfident, gán xác suất cao cho câu trả lời sai → khó biết khi nào có thể tin một phán quyết.
  • Câu hỏi thực tế: liệu một decision-only judge rẻ tiền có thể làm lớp sàng đầu tiên, tự tin thì chấp nhận, không chắc thì chuyển lên LLM mạnh hơn không?

II. Main Idea:​

Đánh giá JEV (TypeSafe JEV) — dịch vụ decision-only trả về thẳng verdict + phân phối xác suất nhãn (confidence q = max label probability), không sinh rationale — so với 16 judge generative và reward model trên các tác vụ preference, factuality có bằng chứng, adjudication đáp án cuối, style-adversarial; có adjudication của người (blind) cho các trường hợp bất đồng.

  • Kết quả: JEV chỉ kém judge SOTA ~3 điểm trên preference thông thường và factuality có evidence, với chi phí 0.36% của comparator.
  • Hạn chế rõ khi phải kiểm tra derivation nhiều bước hoặc chống lại câu trả lời sai được viết công phu (JudgeBench, RM-Bench hard).
  • Điểm then chốt: khoảng cách chất lượng tập trung ở các quyết định low-confidence → xây cascade đóng băng: nhận verdict khi q ≥ ngưỡng, escalate phần còn lại sang LLM mạnh.

Ví dụ đời thường: giống nhân viên tư vấn rẻ tiền ở quầy đầu — tự tin trả lời ngay, chỉ những vụ khó mới gọi chuyên gia lương cao ra xử lý, nên công ty tiết kiệm được phần lớn chi phí mà khách hàng vẫn được phục vụ đúng.

III. Main Results:​

  • RewardBench: JEV 92.2% vs GPT-6 93.5% (−1.3 điểm). HaluEval: 87.5% vs 86.7% (+0.8). Adjudication của người vẫn giữ khoảng cách trong ~3 điểm; phát hiện nhiều nhãn HaluEval sai.
  • JudgeBench (correctness khó): 78.6% vs 93.1% (−14.6; reasoning 68.4% vs 95.9%) → cần escalate.
  • RM-Bench: đạt 84.0% khi hai đáp án cùng style nhưng tụt còn 74.8% khi đáp án sai được viết công phu hơn; GPT-6 gần như không tụt.
  • Chi phí & trễ: JEV 0.044/1,000judgments,median0.152s;GPT−6:0.044/1,000 judgments, median 0.152s; GPT-6: 12.18, 1.885s → rẻ hơn ~9 lần GPT-4.1 mini và ~277 lần GPT-6.
  • Cascade τ=0.9 (accept khi confident, escalate sang GPT-6): giữ 99% accuracy của GPT-6 ở 47% chi phí (pooled); trên extension hai thứ tự: chấp nhận 53.7%, 92.5% vs 93.1%, 56.8% fee.
  • Giới hạn của confidence: AUROC phát hiện lỗi chỉ 0.770 trên RM-Bench hard; reference-free prose mọi judge đều gần ngẫu nhiên dù vẫn tự tin (mean prob ~0.9) → cascade vô tác dụng ngoài envelope.
  • Calibration không tự chuyển giao: temperature scaling fit trên tập này xấu đi trên tập kia; mỗi workload cần validate riêng.

IV. Conclusion & Future Works:​

JEV đủ dùng cho một lớp lớn công việc judging (preference thường, factuality có evidence, adjudication đáp án cuối) với chi phí cực thấp và verdict hợp lệ 100%; nhưng phải escalate khi cần kiểm tra derivation hoặc chống style đánh lừa, và không judge nào được tin trên prose không có reference. Vì confidence của JEV chỉ đúng nơi nó sai, escalation có thể tự động hóa.

Checklist vận hành đề xuất:

  • Judge cặp preference ở cả hai thứ tự rồi trung bình xác suất đã căn chỉnh.
  • Chọn ngưỡng escalation trên selection set địa phương, kiểm tra lại trên held-out.
  • Tính output không hợp lệ là lỗi khi so sánh judge.
  • Coi confidence là tín hiệu escalate, không phải chứng chỉ.
  • Validate cục bộ nhỏ trước khi mở rộng sang workload mới.

Hạn chế: so sánh một phiên bản JEV proprietary với cấu hình được chọn; không biết contamination; không match compute kiến trúc; không đo deliberation dài hay explanation faithfulness; latency cascade tuần tự thực tế và ngưỡng được validate ngoài vẫn còn mở.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Đánh giá decision-only judging trên các tác vụ đa phương thức (hình ảnh, bảng biểu, code execution) để xác định envelope nơi confidence-based escalation còn hiệu quả.
  2. Học ngưỡng escalate thích ứng theo workload bằng routing có bảo đảm độ chính xác (accuracy-guaranteed routing) thay vì ngưỡng đóng băng thủ công.
  3. Nghiên cứu cơ chế sinh confidence của decision-only judge so với verbalized probability của LLM reasoning để hiểu vì sao calibration khác biệt giữa các tác vụ.

2. Patent:​

  1. Hệ thống đánh giá chatbot trên điện thoại: ứng dụng gửi câu hỏi–hai câu trả lời lên judge rẻ tiền; khi mức tin cậy thấp, tự động chuyển sang LLM mạnh hơn trên đám mây, người dùng nhận kết quả nhanh với chi phí thấp.
  2. Cổng kiểm duyệt nội dung tự động cho mạng xã hội: judge đầu tiên phân loại bài viết an toàn/độc hại kèm xác suất; chỉ nội dung mơ hồ mới gửi cho mô hình lớn hoặc người kiểm duyệt, giảm đáng kể chi phí vận hành.
  3. Trợ lý chấm điểm bài thi trắc nghiệm và tự luận trên điện thoại: chấm nhanh các câu dễ bằng judge nhẹ, tự động đẩy các bài có xác suất thấp lên chấm lại bằng mô hình mạnh, đồng thời cảnh báo giáo viên những bài judge tự tin nhưng khả năng sai cao.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.26550
ArXiv Abstracthttps://arxiv.org/abs/2609.26550
PDF Downloadhttps://arxiv.org/pdf/2609.26550.pdf
Github RepositoryN/A

9. StableVQ: Practical Guidelines for Stable Vector-Quantized Tokenizer Training (20 votes)​

Tác giả: Bao Tang, Jiahao Guo, Haoxiang Cao, Wenyu Liu, Changqian Yu, et al.

Xuất bản lúc: 2026-09-22

Tag: Vector Quantization, VQ-VAE, Visual Tokenizer, Image Generation, Codebook Collapse, Autoregressive Generation

I. Main Problem:​

Huấn luyện tokenizer vector-quantized (VQ) cho mô hình sinh ảnh tự hồi quy bị mất ổn định nghiêm trọng, dù các phương pháp shared-projection (SimVQ, FVQ) đã cải thiện đáng kể việc sử dụng codebook. Các hỏng hóc điển hình:

  • Nhạy cảm với khởi tạo — codebook có thể kẹt ở pha ít mã được dùng
  • Codebook collapse đột ngột giữa chừng huấn luyện, đặc biệt ở quy mô lớn
  • Ba dạng sụp đổ được phân tích: code nhỏ hơn token (kẹt ít dùng lâu dài, spike NaN), code lớn hơn token (dead codes vĩnh viễn), scale divergence (sụp đổ tức thì do vòng phản hồi dương của gradient STE sai).

Nguyên nhân gốc: Encoder–Decoder và Codebook bị ràng buộc (entangled) trong huấn luyện — không module nào tự hoàn thành trách nhiệm của mình, hệ thống chỉ chạy khi hai bên tình cờ hợp tác, và vỡ đúng lúc huấn luyện căng thẳng nhất.

II. Main Idea:​

StableVQ áp dụng nguyên tắc separation of concerns: giao lại cho từng module đúng mục tiêu học của nó bằng 3 can thiệp không thêm tham số nào:

  • Dynamic STE: sửa mục tiêu học của Encoder. Token càng xa code được gán, gradient STE càng không đáng tin → gán trọng số w ∈ (0,1] theo khoảng cách tương đối so với token khớp nhất, giảm đóng góp gradient của token xa. Tự động vô hiệu (w≈1) khi huấn luyện khỏe mạnh, không cần siêu tham số ngưỡng.
  • Region VQ Loss: sửa mục tiêu học của Codebook. Code đang hoạt động lan truyền target sang code lân cận chưa dùng (theo quota tỷ lệ số lần được chọn), đảm bảo mọi code luôn có mục tiêu học rõ ràng — codebook tự mình bám được toàn bộ phân phối token.
  • Decoupled Schedule: hai module có động lực tối ưu khác nhau → mỗi bên một lịch learning rate riêng: Encoder–Decoder dùng warmup-plus-annealing (ổn định đa mục tiêu), Codebook dùng learning rate cao và không đổi (bám phân phối token luôn biến đổi).

Xây trên nền shared-projection nhưng chỉ cần một lớp linear duy nhất, không ràng buộc kiến trúc (FVQ bị giới hạn kích thước codebook là số chính phương).

Ví dụ đời thường: giống hai người khiêng một tủ — thay vì cả hai cùng loạn xạ, mỗi người ôm một đầu riêng: người chỉ đạo (Encoder) đi chậm chắc chắn, người điều chỉnh vị trí (Codebook) liên tục dịch chuyển theo từng nhịp — tủ không bao giờ tuột.

III. Main Results:​

  • Trên ImageNet 256×256, codebook 16K: rFID 1.22, LPIPS 0.2235, usage 100% với chỉ 1 lớp linear projector, vượt FVQ (rFID 1.70, cần ViTBlock-2) và SimVQ (rFID 2.89).
  • Codebook lớn 262K: rFID 1.05, LPIPS 0.1947, usage 100%.
  • UR-AUC 60.59 so với 8.08 (FVQ) và 2.17 (SimVQ) — khôi phục 100% usage nhanh chóng dưới mọi mức lệch phân phối codebook–token.
  • Sinh ảnh tự hồi quy: FID 2.18 (IBQ-L 649M) so với 2.45 của tokenizer IBQ.
  • Ablation mở rộng codebook (khởi tạo nhỏ): Region VQ + Decoupled Schedule đạt 100% usage; thiếu một trong ba thành phần là sụp NaN hoặc kẹt dưới 25% usage.
  • Ablation thu hẹp codebook (ℓ2-normalized): FVQ chỉ đạt 18–62% usage tùy khởi tạo; thêm Region VQ đạt 100% ở cả hai khởi tạo, rFID cải thiện ~0.1–0.6.

IV. Conclusion & Future Works:​

Sự mất ổn định lâu nay của VQ không phải giới hạn của bản thân vector quantization, mà là hệ quả của các mục tiêu tối ưu bị ràng buộc. Bằng cách khôi phục separation of concerns giữa Encoder–Decoder và Codebook, StableVQ biến usage 100% từ kết quả mong manh của heuristic thành tính chất được đảm bảo nguyên tắc. Đây là nền tảng để mở rộng VQ sang các bối cảnh khắc nghiệt hơn — tokenizer lớn hơn, quy mô lớn hơn, nơi độ robust của huấn luyện là điều kiện tiên quyết.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng Region VQ Loss cho residual/multi-stage quantization (RQ-VAE), đảm bảo từng tầng mã đều đạt usage cao mà không phụ thuộc thứ tự huấn luyện các tầng.
  2. Kết hợp Dynamic STE với ước lượng gradient theo rotation trick để cải thiện thêm độ tin cậy của gradient xuyên qua bước lượng tử hóa rời rạc.
  3. Áp dụng Decoupled Schedule cho huấn luyện tokenizer video đa tầng thời gian, nơi phân phối token biến đổi nhanh và codebook dễ sụp đổ giữa chừng.

2. Patent:​

  1. Module nén ảnh cho điện thoại theo dạng mã hóa–giải mã: mã sách tra cứu học cách bám theo phân phối đặc trưng ảnh bằng cách mã đang dùng chỉ đường cho mã chưa dùng, giúp ảnh nén chất lượng cao và ổn định ngay cả khi huấn luyện với dữ liệu đa dạng trên thiết bị.
  2. Hệ thống mã hóa ảnh tức thì trên cloud cho ứng dụng chỉnh sửa ảnh di động: bộ mã tự cân bằng, tự phục hồi 100% mã sau khi thêm/xóa dữ liệu huấn luyện mới mà không cần khởi tạo lại, giảm chi phí vận hành.
  3. Trình tạo ảnh AI trên điện thoại theo kiểu tự vẽ từng mảnh: thay vì tinh chỉnh toàn bộ mô hình khi người dùng đổi phong cách, chỉ cập nhật tốc độ học của bộ mã tra cứu để bám phong cách mới nhanh và ổn định, tiết kiệm pin và bộ nhớ.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.26774
ArXiv Abstracthttps://arxiv.org/abs/2609.26774
PDF Downloadhttps://arxiv.org/pdf/2609.26774.pdf
Github RepositoryN/A

10. From Pattern Recognizers to Personalized Companions: A Survey of Large Language Models in Mental Health (15 votes)​

Tác giả: He Hu, Yucheng Zhou, Qianning Wang, Yingjian Zou, Chiyuan Ma, et al.

Xuất bản lúc: 2026-09-21

Tag: Mental Health, Large Language Models, LLM Agents, RAG, Reinforcement Learning, Supervised Fine-Tuning, Multimodal, Datasets, Benchmarks, AI Safety

I. Main Problem:​

Sức khỏe tinh thần đang gia tăng toàn cầu, trong khi hệ thống hỗ trợ truyền thống bị giới hạn bởi thiếu nhân lực, chi phí cao, kỳ thị và lo ngại riêng tư. Các nghiên cứu về Large Language Models trong lĩnh vực này tăng nhanh nhưng phân mảnh, thiếu một câu chuyện tiến hóa thống nhất để định vị tiến bộ và xác định hướng đi. Vấn đề cốt lõi: phần lớn hệ thống hiện tại vẫn là phân tích thụ động hoặc trò chuyện một phiên, không nhớ quá khứ, trong khi hỗ trợ tâm lý thật cần liên tục, tin cậy, cá nhân hóa và an toàn lâm sàng.

II. Main Idea:​

Bài khảo sát xây dựng khung tiến hóa ba pha để sắp xếp toàn bộ lĩnh vực: ở Pha I, mô hình là Information Tool / Pattern Recognizer, chủ yếu đọc văn bản tĩnh để phát hiện trầm cảm, lo âu, nguy cơ tự sát hoặc chấm thang đo; ở Pha II, mô hình trở thành Empathetic Conversationalist, được fine-tune để trò chuyện đồng cảm, áp dụng các khuôn khổ như Cognitive Behavioral Therapy trong một phiên nhưng vẫn “stateless”; ở Pha III, mục tiêu là Longitudinal, Personalized Companion: tác tử có Profile mô tả người dùng, Memory nhớ quá khứ, Reasoning suy luận lâm sàng, Planning định hướng mục tiêu dài hạn và Tool Use tra cứu kiến thức an toàn. Khảo sát cũng theo dõi cơ sở hạ tầng dữ liệu: từ nhãn phân loại tĩnh, tới hội thoại một phiên, tới dữ liệu tổng hợp đa phiên phục vụ đồng hành dài hạn. Ví dụ đời thường: giống như chăm một người bạn lâu năm: đầu tiên chỉ đọc tin nhắn để đoán tâm trạng, sau biết ngồi nói chuyện an ủi một lần, cuối cùng nhớ cả câu chuyện dài, hiểu điểm yếu của bạn và cùng lên kế hoạch để bạn ổn dần.

III. Main Results:​

  • Không báo cáo thí nghiệm mới; kết quả chính là một khung phân loại ba pha giúp giải thích vì sao công nghệ, dữ liệu và đánh giá phải thay đổi theo.
  • Chỉ ra bốn trụ cột ứng dụng: đánh giá/chẩn đoán, can thiệp trị liệu, đào tạo, và hỗ trợ chuyên gia.
  • Tổng hợp các kỹ thuật lõi: pre-training theo miền, Supervised Fine-Tuning, Parameter-Efficient Fine-Tuning, alignment bằng reinforcement learning/preference optimization, prompting, Chain-of-Thought, Retrieval-Augmented Generation, và tín hiệu đa phương thức.
  • Hệ thống hóa kiến trúc tác tử Pha III thành Profile, Memory, Reasoning, Planning, Tool Use, đồng thời nhấn mạnh multi-agent để chia nhỏ suy luận lâm sàng, quy trình trị liệu và tương tác xã hội.
  • Cảnh báo các rủi ro: fine-tuning có thể làm mô hình cứng nhắc và khuếch đại lệch dữ liệu; đa phương thức dễ học theo artifact hoặc tương quan giả; dữ liệu tổng hợp có thể lệch phân phối và đồng nhất hóa văn hóa; an toàn tự động chưa chắc tương đương hành vi hợp lý về mặt lâm sàng.

IV. Conclusion & Future Works:​

Thông điệp lớn là lĩnh vực cần chuyển từ “nói hay trong một phiên” sang xây dựng quan hệ trị liệu dài hạn, có nhớ, có mục tiêu và có trách nhiệm giải trình. Các hướng then chốt gồm: benchmark dài hạn gắn với tiêu chí lâm sàng và rủi ro; cơ chế an toàn kiểm soát cả an ủi giả, chậm leo thang và suy luận bệnh lý tự tin thái quá; kiểm chứng đa phương thức trên nhiều văn hóa, tính cách và ngữ cảnh; dữ liệu tổng hợp có kiểm soát chất lượng, tránh lệch dân số; và dùng mô hình làm giám khảo chỉ như proxy, phải hiệu chuẩn với chuyên gia và thang đo lâm sàng.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển benchmark đánh giá trợ lý sức khỏe tinh thần theo chuỗi phiên dài hạn, kết hợp phản hồi từ khách hàng mô phỏng, tác tử và giám sát viên, đồng thời đo cả tiến bộ câu chuyện trị liệu, thang đo lâm sàng và khả năng leo thang rủi ro.
  2. Đề xuất cơ chế ghi nhớ tâm lý có chọn lọc cho tác tử đồng hành: lưu sự kiện quan trọng, mô phỏng quên theo đường cong Ebbinghaus, theo dõi suy nghĩ méo mó và cập nhật hồ sơ cảm xúc theo thời gian, rồi kiểm chứng trên dữ liệu đa phiên.
  3. Nghiên cứu phương pháp tạo dữ liệu hội thoại tổng hợp theo lý thuyết trị liệu nhưng đa văn hóa và kiểm soát lệch, đo lường sự khác biệt so với dân số lâm sàng thật để tránh huấn luyện mô hình theo artifact của chính dữ liệu sinh.
  4. Xây dựng khung đánh giá an toàn theo ngữ cảnh lâm sàng, phát hiện các phản hồi trông an toàn nhưng vô trách nhiệm như trấn an giả, chậm chuyển chuyên gia, hoặc suy luận chẩn đoán quá tự tin.

2. Patent:​

  1. Ứng dụng điện thoại đồng hành tinh thần dài hạn: sau khi người dùng đồng ý, ứng dụng ghi nhớ các chủ đề quan trọng, cập nhật hồ sơ cảm xúc, nhắc lại mục tiêu đã đặt, điều chỉnh giọng nói theo trạng thái và tự động đề xuất gọi chuyên gia hoặc đường dây hỗ trợ khi có dấu hiệu nguy cơ.
  2. Hệ thống trên điện thoại để luyện kỹ năng phỏng vấn tâm lý: tạo bệnh nhân ảo với triệu chứng, tính cách và phản ứng khác nhau; ghi âm phiên luyện tập; sau đó chấm điểm kỹ năng hỏi, phản hồi, xử lý khủng hoảng và đưa góp ý kiểu giảng viên giám sát.
  3. Module an toàn thời gian thực cho chatbot sức khỏe tinh thần: trước khi gửi câu trả lời, hệ thống đối chiếu tài liệu hướng dẫn đã kiểm chứng, phát hiện lời khuyên nguy hiểm, trấn an giả, tự tin chẩn đoán thái quá hoặc chậm chuyển cấp, đồng thời lưu vết giải thích để bác sĩ kiểm tra lại.
  4. Ứng dụng điện thoại hỗ trợ người điều trị theo kế hoạch cá nhân: chia mục tiêu dài hạn thành các bước nhỏ theo từng ngày, nhắc hoàn thành bài tập cảm xúc, tổng hợp tiến bộ sau mỗi tuần và tự điều chỉnh nội dung khi người dùng thay đổi trạng thái.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.25186
ArXiv Abstracthttps://arxiv.org/abs/2609.25186
PDF Downloadhttps://arxiv.org/pdf/2609.25186.pdf
Github Repositoryhttps://github.com/Emo-gml/Awesome-Mental-Health-LLMs

11. Flash-dLLM: IO-Aware KV Caching and Parallel Decoding for Fast, Memory-Efficient Diffusion LLMs (13 votes)​

Tác giả: Quan Nguyen-Tri, Mukul Ranjan, Zhiqiang Shen

Xuất bản lúc: 2026-09-22

Tag: Diffusion LLMs, KV Caching, Parallel Decoding, Inference Acceleration, Speculative Decoding, IO Optimization

I. Main Problem:​

Diffusion LLMs (dLLMs) sinh văn bản theo cách khử nhiễu lặp, không đi từ trái sang phải như autoregressive, nên việc suy luận thực tế rất chậm do:

  • Thiếu KV caching hiệu quả: mỗi bước khử nhiễu phải đọc/ghi lại cache nhiều lần, chi phí di chuyển dữ liệu trên GPU HBM chiếm phần lớn thời gian chạy (bottleneck là bộ nhớ, không phải tính toán).
  • Giải mã song song còn kém: token chỉ được chấp nhận khi confidence vượt ngưỡng rất thận trọng, nhiều token đúng nhưng chưa đủ tự tin bị bỏ qua → lãng phí bước lặp.
  • Các phương pháp cũ (Fast-dLLM, Elastic-Cache) xử lý KV cache và giải mã song song tách rời nhau, bỏ qua I/O bottleneck khi kết hợp cả hai, và không mở rộng tốt cho batch lớn hoặc chuỗi dài.

II. Main Idea:​

Flash-dLLM là framework tăng tốc suy luận không cần huấn luyện, gồm hai thành phần bổ trợ nhau:

  • Flash-Cache: nhận thấy pipeline cache truyền thống (QKV projection → RoPE → ghi cache → attention) tách thành 4 kernel riêng, ghi-đọc HBM lặp lại. Nên tác giả viết fused kernel Triton gộp projection + RoPE + ghi cache trực tiếp vào SRAM/HBM (giảm 1.37× trên RTX 3090); kèm scheduled flash attention dùng block table để xử lý các chuỗi dài ngắn khác nhau trong batch mà không padding; và selective cache update — chỉ cập nhật top-k token được chú ý nhiều nhất (32 token chiếm ~50% trọng số attention ở tầng giữa) thay vì toàn bộ cache.
  • Flash-Verify: dLLM tự làm cả drafter lẫn verifier, không cần mô hình phụ. Ở mỗi bước: token vượt ngưỡng confidence được giải mã luôn; các token còn lại được nhân đôi trong cùng một query — một bản điền dự đoán draft, một bản giữ [MASK] — cách ly bằng causal mask để chúng không nhìn nhau. Token được chấp nhận khi hai view đồng ý và mask-view đủ tự tin, chấp nhận từ trái sang phải theo kiểu speculative decoding.

Ví dụ đời thường: giống khi giải bài tập trắc nghiệm — trước hết tô đáp án chắc chắn, còn các câu phân vân thì viết phác thảo hai bản (một bản điền đáp án, một bản để trống) rồi tự đối chiếu: nếu cả hai cách suy luận cùng ra một đáp án thì mới chốt, giúp xong bài nhanh hơn mà ít sai.

III. Main Results:​

  • Tốc độ: tổ hợp Flash-Cache + Flash-Verify đạt 148–210 tokens/s, tương đương tăng tốc 22.3×–148.2× so với greedy không cache; vượt baseline mạnh nhất Elastic-Cache lần lượt 5.1× (GSM8K) và 11.0× (HumanEval).
  • Độ chính xác: trên GSM8K-512 đạt đồng thời accuracy cao nhất (83.02%) và throughput cao nhất (210.6 tokens/s); các benchmark khác lệch tối đa ~1.78 điểm trên toán.
  • Khả năng mở rộng: throughput gần tuyến tính tới batch size 32 trong khi Fast-dLLM bị OOM từ batch 24; dùng ~26 GB VRAM so với 50 GB của Fast-dLLM (giảm ~48%).
  • Giải mã được nhiều token hơn mỗi bước: Flash-Verify đạt tới 7.2 tokens/lần lặp so với 5.6 của confidence-aware decoding, với accuracy cao hơn 3.5%.

IV. Conclusion & Future Works:​

Flash-dLLM chứng minh rằng tối ưu I/O cho KV cache và giải mã song song draft-and-verify phải được thiết kế cùng nhau chứ không thể tách rời, giúp dLLM chuyển hóa được tiềm năng song song vốn có của khử nhiễu thành tốc độ wall-clock thực tế. Phương pháp training-free, không cần mô hình phụ, nên dễ áp dụng trực tiếp cho các dLLM mã nguồn mở hiện có. Hướng phát triển hợp lý: tích hợp kernel vào inference stack chuẩn của dLLM, hiệu chỉnh bộ siêu tham số (track budget, ngưỡng verify) theo từng tác vụ, và mở rộng cho chuỗi dài hơn cùng phần cứng đa GPU.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phương pháp tự xác minh hai-view cho giải mã song song trong dLLM: dùng causal mask để drafter và verifier là cùng một mô hình, áp dụng cho các kiến trúc dLLM mới hơn (Dream, Gemini Diffusion) để kiểm chứng tính tổng quát.
  2. Tối ưu hóa IO-aware kernel caching cho biến thể attention khác trong dLLM (như KV cache theo block, cache phân tầng) và đánh giá trên phần cứng consumer (RTX series).
  3. Kết hợp selective cache update với adaptive cache refresh dựa trên độ trôi attention để cân bằng độ chính xác và chi phí bộ nhớ trên chuỗi rất dài (8K+ token).

2. Patent:​

  1. Cơ chế tăng tốc gõ văn bản và trả lời trên điện thoại bằng mô hình ngôn ngữ khử nhiễu: hệ thống kernel gộp ghi cache trực tiếp trên chip AI để giảm lượt đọc-ghi bộ nhớ, giúp trợ lý AI trên thiết bị phản hồi nhanh và tốn ít RAM hơn khi xử lý nhiều yêu cầu cùng lúc.
  2. Chức năng tự kiểm chính tả và hoàn thành câu song song trên bàn phím điện thoại: mỗi lượt gợi ý tạo hai bản dự đoán (một bản giữ nguyên ký tự nghi vấn, một bản điền thử), so khớp trước khi chấp nhận để gợi ý nhiều từ cùng lúc mà ít lỗi hơn.
  3. Hệ thống dịch thuật cục bộ chạy trên thiết bị di động cho văn bản dài: chỉ cập nhật cache cho các từ được chú ý nhiều nhất ở mỗi bước dịch, tiết kiệm bộ nhớ và pin, đồng thời xử lý nhiều đoạn văn bản song song thông qua bảng lập lịch khối dữ liệu.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.26796
ArXiv Abstracthttps://arxiv.org/abs/2609.26796
PDF Downloadhttps://arxiv.org/pdf/2609.26796.pdf
Github Repositoryhttps://github.com/VILA-Lab/Flash-dLLM

12. Lean Pool: An AI-Maintained Archive of Formalized Mathematics (11 votes)​

Tác giả: Vasily Ilin

Xuất bản lúc: 2026-09-21

Tag: Lean, Formalized Mathematics, AI Agents, LLM Review, Proof Verification, Mathematical Reasoning, Continuous Integration, arXiv

I. Main Problem:​

Khi AI tạo ra lập luận toán học nhanh hơn tốc độ con người đọc và kiểm tra, verification trở thành nút thắt. Lean đã trở thành ngôn ngữ chính để kiểm chứng chứng minh, nhưng Mathlib thiếu nhiều định nghĩa và định lý ở mức research-level, và tăng trưởng khá tuyến tính vì review thủ công rất chặt.

Ngoài ra, một formalization dù đúng vẫn khó tái sử dụng nếu:

  • không tương thích với Lean/Mathlib phiên bản mới;
  • khó tìm, tra cứu giả định, hiểu phát biểu, và import vào phát triển mới;
  • thiếu ghi nhận tác giả, nguồn, license, và lịch sử chỉnh sửa.

Hệ quả là các chứng minh AI/human có thể được máy kiểm đúng, nhưng vẫn rơi vào trạng thái không dùng lại được như một thư viện sống.

II. Main Idea:​

Lean Pool là một living archive cho formalized mathematics: nơi các dự án formalization hoàn chỉnh được giữ trong một môi trường chung, và được AI agents grow, maintain, optimize dưới giám sát maintainer/con người.

  • Growth: thu thập các formalization hoàn chỉnh của kết quả toán học có tên, có license Apache-2.0/MIT; chấp nhận cả human-written, AI-generated, hoặc mixed; AI agents có thể tự tìm dự án upstream và import, còn người có thể pool dự án của mình.
  • Admission: phải hoàn chỉnh, không dùng sorry/admit, không thêm axiom ngoài Classical.choice/propext/Quot.sound, không bypass linter/resource limits; mỗi project có card ghi authors, upstream source, proof provenance, main results và informal statements.
  • Quality gates: Continuous Integration kết hợp full-library build, Mathlib linters, archive-specific checks về attribution, axioms, kích thước proof/file, audit compiled-environment, cùng LLM mathematical review xem xét faithfulness, novelty, significance, sources, code quality.
  • Maintenance: khi Lean/Mathlib đổi version, dependency-update workflow build archive, gán project lỗi cho repair agents, rồi kiểm tra lại toàn bộ; daily jobs tìm formalization mới/cũ, xử lý PR/issue, tối ưu codebase, công bố đóng góp lên Zulip.
  • Optimization: codebase được chỉnh định kỳ cho conciseness, compilation speed và RAM usage; các thay đổi như proof compression, tactic-import cleanup, certificate simplification, elaboration-cost reduction được đo before/after.
  • Documentation/discovery: Index, Exposition site với project cards, informal accounts, formal statements, dependency graphs, source-linked API documentation; công cụ ưa thích gồm Octo semantic search, Exposition, project cards.

Ví dụ đời thường: giống một kho sách có đội robot thủ thư: chỉ nhận sách hoàn chỉnh, dán nhãn tác giả/nguồn, kiểm tra không thiếu trang và không vi phạm quy định; mỗi khi hệ thống kệ sách thay đổi, robot tự sửa từng quyển cho khớp kệ, cắt gọn bớt trang, sắp xếp lại để người sau tra cứu và mượn ngay.

III. Main Results:​

  • Quy mô tại thời điểm viết: 211 completed projects, 7,043 Lean source files, 3,228,485 physical source lines, 193,862 source declaration commands, 837 registered main results; 18 contributors, 63 community PRs merged.
  • Provenance: 70 human projects, 102 AI projects, 39 mixed projects; project cards giữ attribution và upstream authorship ngay cả khi maintainer/agent import.
  • Tương thích dependency: các đợt bump Lean/Mathlib làm nhiều project fail; ví dụ ở bản 4.34.0-rc1 → 4.34.0 có 191 projects tại probe và 97 compiler failures. Workflow gán lỗi cho repair agents và sau đó pass combined archive build/repository checks, cho thấy agent-assisted upgrades có thể restore compatibility nhưng đòi hỏi follow-up integration.
  • Tối ưu thư viện rộng: library-wide compression xóa 45,217 lines, giảm build 16.11 → 15.59 phút; elaboration-cost reduction xóa 54,965 lines, giảm 28.46 → 26.82 phút; contributor proof golfing xóa 12,515 lines nhưng trong run đo lại lâu hơn, cho thấy shorter proof không luôn đồng nghĩa faster build.
  • Tối ưu cấp project: các PR được ghi nhận cải thiện compile time cho restricted-sum proofs, quantum parallel repetition, interior-point LP proofs; Navier–Stokes reusable APIs làm tăng nhẹ compile time nhưng thêm interface tái sử dụng.
  • Mathematical review: 296 retained reports gồm 188 approve, 71 changes requested, 37 discussion; findings gồm statement mismatch, attribution, incomplete results, duplicate definitions, unnecessary code. Chi phí review API lịch sử rất thấp (median 0.20),coˋnCodexAPI−equivalentướctıˊnhcaohơnnhie^ˋu(median0.20), còn Codex API-equivalent ước tính cao hơn nhiều (median 89.03) và không phải cash payment.
  • Exposition/discovery: deployment cover 203 projects, 173,362 source declarations, 124,412 theorems/lemmas, 1,389,967 dependency links; dependency graph cho phép đi từ informal claim tới assumptions/definitions và declarations dùng lại.
  • Reuse: Lean Pool là external repository được reuse nhiều nhất trong LeanEval structural audit; archive chứa từ classical structural theorems tới recent results như Gödel incompleteness, compact surface classification, Navier–Stokes/Euler blowup, polynomial Freiman–Ruzsa, Kurosh subgroup theorem, quantum parallel repetition.

IV. Conclusion & Future Works:​

Thông điệp chính: một archive toán học formalized có thể sống lâu và tái sử dụng được nếu kết hợp proof kernel đảm bảo correctness, linter/CI chặt, LLM review cho chất lượng phát biểu, attribution rõ ràng, và AI agents liên tục sửa lỗi khi dependencies đổi. Hồ sơ vận hành cho thấy agent-assisted maintenance không chỉ vá lỗi tương thích, mà còn hỗ trợ proof shortening, giảm compile time/RAM ở nhiều thay đổi, dù vẫn ghi nhận follow-up repairs, chi phí review lớn, và tradeoff giữa reusable interfaces với compilation cost.

Hướng tầm nhìn của tác giả: khi formalization ngày càng dễ và kết quả mới được formalize ngay khi công bố, Lean Pool có thể trở thành formal counterpart của arXiv.org — nơi chia sẻ nhanh formal proofs với ma sát thấp, giữ attribution, đồng thời duy trì dependency graph dùng được cho research sau này.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu dài hạn về agent-maintained formal libraries: đo chính xác bao nhiêu công sức bảo trì của con người được thay thế khi Lean/Mathlib đổi version, dùng lịch sử upgrade và PR records của Lean Pool làm dữ liệu hiện thực.
  2. Benchmark cho dependency-upgrade repair trong formal proofs: xây dựng tập project lỗi compiler có nhãn từ các đợt bump Lean/Mathlib, so sánh repair agents với baseline con người trên correctness, thời gian vá, follow-up repairs và regression.
  3. Đánh giá LLM mathematical review ngoài proof checking: kiểm tra độ tin cậy của nhận định faithfulness/novelty/significance/attribution, tương quan giữa verdict của dịch vụ review và quyết định merge/close thực tế, đồng thời phân tích chi phí theo billing regime khác nhau.
  4. Semantic discovery và dependency-aware reuse cho theorem archives: kết hợp semantic search, project cards, Exposition dependency graphs và API/source documentation để trả lời câu hỏi toán học bằng candidate declarations có giả định, điều kiện import và build cost đi kèm.
  5. Tradeoff giữa conciseness, compile speed, RAM và reusable APIs: phân tích khi nào proof golfing/module narrowing giúp, khi nào làm build chậm hơn, và đề xuất gợi ý tối ưu có lợi cho cả thư viện rộng và dự án riêng lẻ.

2. Patent:​

  1. Ứng dụng điện thoại cho nhà toán học: người dùng nhập hoặc chụp một câu hỏi/đề toán, hệ thống tìm trong kho chứng minh được máy kiểm tra rồi trả về phát biểu tự nhiên, phát biểu chính xác, giả định, nguồn bài báo, tác giả, license, độ dài chứng minh và chi phí biên dịch để quyết định có import dùng lại không.
  2. Dịch vụ đám mây bảo trì thư viện chứng minh cho trường đại học và phòng lab: khi ngôn ngữ chứng minh hoặc thư viện toán chuẩn phát hành bản mới, các tác tử trí tuệ nhân tạo tự build toàn bộ kho, phát hiện project lỗi, vá từng project, lập báo cáo thay đổi và chỉ xin người duyệt những chỗ rủi ro cao.
  3. Trợ lý lập trình trong môi trường nghiên cứu toán: khi người dùng viết một định lý mới, công cụ gợi ý các kết quả đã được kiểm chứng có thể dùng lại, hiển thị đồ thị dependency, các bổ đề trung gian, đường import và cảnh báo nếu phát biểu formal lệch khỏi ý định informal.
  4. Hệ thống quản lý quyền và xuất xứ cho chứng minh do người hoặc AI viết: mỗi project có thẻ ghi tác giả, nguồn upstream, license, loại chứng minh human/AI/mixed, lịch sử review và bản vá; phù hợp để doanh nghiệp kiểm toán trước khi đưa vào sản phẩm có yêu cầu pháp lý hoặc an toàn.
  5. Robot tối ưu chứng minh định kỳ cho kho mã nội bộ: tự tạo pull request cắt gọn proof, thu hẹp import, thay proof-search đắt bằng lập luận ngắn hơn, đo before/after về số dòng, thời gian build và bộ nhớ, nhưng chỉ merge khi qua kiểm tra máy và review toán học.
  6. Bản đồ tri thức toán học có thể duyệt trên điện thoại: hiển thị từng development như đồ thị các định nghĩa, bổ đề và định lý; người dùng chạm vào một kết quả để xem giả định, mã nguồn, tài liệu, tác giả và các chứng minh khác đang dùng kết quả đó.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.25199
ArXiv Abstracthttps://arxiv.org/abs/2609.25199
PDF Downloadhttps://arxiv.org/pdf/2609.25199.pdf
Github Repositoryhttps://github.com/Vilin97/lean-pool