Chuyển tới nội dung chính

🤗 Daily Hugging Face Paper Digest - 2026-09-07

Báo cáo được tạo tự động vào lúc 2026-09-08 10:19:04 bằng mô hình hermes-agent.

📰 Summary of Papers​

1. Bilevel Coordinated Reflection: A Game-Theoretic Approach to Multi-Agent LLM Systems (94 votes)​

Tác giả: Yihang Chen, Yuxiang Chen, Yuxuan Huang, Meng Fang, Weilin Luo, et al.

Xuất bản lúc: 2026-09-02

Tag: Multi-Agent LLM Systems, Game Theory, Potential Games, Reflection, Agent Memory, Verifier Grounding, Stochastic Approximation, SWE-bench

I. Main Problem:​

Các hệ thống LLM đa tác tử hiện đại thường dùng orchestrator để chia việc và workers để thực thi, rồi cải thiện qua reflection dạng văn bản. Tuy hiệu quả, cách tiếp cận này còn thiếu một lý thuyết thống nhất cho ba câu hỏi:

  • Phân rã công việc ảnh hưởng thế nào đến điều phối giữa các workers?
  • Khi nào free-form reflection chỉ chững lại thay vì hội tụ, do lỗi và ảo giác được ghi vào bộ nhớ?
  • Tại sao một cổng kiểm chỉ dựa vào transcript có thể thất bại ngay cả khi là LLM-as-judge lý tưởng, trong khi kiểm chứng dựa trên môi trường lại thành công?

Vấn đề cốt lõi là trọng tâm của hệ thống nằm ở memory editing trong khi trọng số mô hình bị đóng băng; nếu ghi nhận không qua sàng lọc, hệ thống có thể lưu lại thông tin sai và tạo error floor.

II. Main Idea:​

Bài báo đề xuất một khung lý thuyết duy nhất gồm ba lớp:

  • Bilevel coordination game: orchestrator là leader chọn cách phân rã, workers là followers cập nhật theo timescale nhanh hơn. Nếu tương tác giữa workers bị chặn, trò chơi con của followers trở thành approximate potential game; độ lệch cân bằng bị kiểm soát bởi chất lượng phân rã, tỉ lệ với bậc tương tác lớn nhất và cường độ coupling.
  • Drift analysis cho reflection: reflection tự do được mô hình hóa như quá trình ngẫu nhiên trên không gian bộ nhớ ngữ nghĩa. Tác giả chứng minh cận trên hữu hạn thời gian, độ chặt worst-case, và một cận dưới dương khi có điều kiện persistent harmful commitment có thể kiểm chứng.
  • Impossibility của self-contained gates: nếu hai môi trường sinh văn bản giống hệt nhau nhưng cùng một reflection có nghĩa trái ngược, mọi cổng chỉ nhìn transcript đều không thể cải thiện đồng thời cả hai. Chỉ tín hiệu grounded như test harness, simulator, reward thực tế hoặc formal checker mới tách biệt được các môi trường.
  • Stochastic Reflective Memory Ascent (SRMA): hệ thống chỉ chấp nhận một candidate memory khi một verifier grounded cho thấy risk giảm nghiêm ngặt. Dưới calibration và non-degenerate corrective mass, SRMA hội tụ đúng về zero ở tốc độ geometric hoặc polynomial, cả hai đều order-tight; có mở rộng confidence gating cho đánh giá ngẫu nhiên và re-anchoring khi môi trường đổi theo đoạn.

Ví dụ đời thường: giống một đội thợ sửa máy không ghi hết lời tự khen của nhau vào sổ tay, mà chỉ ghi kinh nghiệm khi máy đo thật hoặc bài test thật xác nhận máy chạy tốt hơn; khi máy đã đổi môi trường, đội trưởng phải tháo bỏ ghi chú cũ và neo lại quy trình theo hiện trạng mới.

III. Main Results:​

  • Resource Contest: SRMA đạt khoảng 98.5%–99.5% reward của oracle; execution memory làm regret giảm trung bình từ 4.33 xuống 1.70, tương ứng 60.8%.
  • Overcooked: grounded SRMA tốt nhất trên cả ba layout, cao hơn self-gating 14.3%, 27.3%, 30.0%; số bước tới delivery đầu tiên giảm mạnh. Tỉ lệ chấp nhận proposal gây hại giảm từ 34.5% của self-gating xuống 6.2%, final risk giảm từ 0.28 xuống 0.14.
  • Dự đoán lý thuyết khớp dữ liệu: ước lượng drift từ dữ liệu gate cho β≈0.52; plug-in prediction theo dõi held-out risk với Pearson r=0.94, RMSE 0.032.
  • Confidence gating: một lần kiểm chứng ngẫu nhiên chấp nhận sai 28.4% proposal xấu; dùng K=5 probes giảm còn 6.8%, còn adaptive gate đạt 7.1% với 63.6% ít verifier calls hơn.
  • Piecewise-stationary drift: re-anchored gate phát hiện thay đổi trong 1.2 vòng, chuyển optimum mới trong 2.5 vòng, post-shift regret 12.6; bản stale-anchor chậm hơn nhiều, còn text-only gate gần như không phát hiện thay đổi.
  • SWE-bench 500 instances: hệ thống Kimi K2.5 đầy đủ giải 72.2%, so với 58.4% của free-form multi-agent cùng backbone và 70.8% của public mini-SWE-agent v2 reference; với DeepSeek, bilevel SRMA đạt 71.4% so với 68.2%.

IV. Conclusion & Future Works:​

Bài báo cho thấy coordination, memory improvement và verification không nên được phân tích rời rạc: chất lượng phân rã kiểm soát độ lệch cân bằng của workers; reflection tự do có thể dừng ở error floor nếu không sàng lọc; và grounding cung cấp thông tin mà transcript thuần túy không thể thay thế. SRMA biến insight này thành quy tắc lọc bộ nhớ có bảo đảm hội tụ. Các giới hạn rõ ràng: kết quả là conditional, phụ thuộc bounded coupling, finite action sets, verifier calibration, non-degenerate corrective mass; incomplete test suites chỉ bảo đảm monotonicity cho verifier risk chứ không bảo đảm true task utility; re-anchoring chỉ cho per-segment convergence, chưa có switching-regret tổng quát; chi phí token của multi-agent coordination còn cao. Hướng đi tiếp theo: tối ưu đồng thời chất lượng memory và budget-aware termination, mở rộng lý thuyết cho môi trường mở và test suite không đầy đủ, đồng thời so sánh kiểm soát hơn với các baseline công khai.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển lý thuyết cho verifier không hoàn hảo khi test suite không đầy đủ, nơi bảo đảm hội tụ chỉ áp dụng cho verifier risk chứ chưa khẳng định utility thật của tác vụ.
  2. Mở rộng SRMA cho môi trường thay đổi liên tục hoặc open-ended, với switching regret, active re-anchoring và chiến lược dừng tiết kiệm ngân sách.
  3. Nghiên cứu cách orchestrator tối ưu hóa phân rã để đồng thời tăng local utility và giảm coupling, thay vì chỉ tối đa hóa một hàm mục tiêu tĩnh.
  4. Kiểm chứng cơ chế bằng các tác vụ đời thực ngoài SWE-bench, nơi verifier grounded đắt đỏ, nhiễu hoặc bị game hóa bởi chính các agents.

2. Patent:​

  1. Ứng dụng điện thoại hỗ trợ sửa lỗi kỹ thuật: nhiều trợ lý ảo chia nhau đọc log, đề xuất cách sửa và viết bài học chung; ứng dụng chỉ lưu bài học khi thử nghiệm thật trên thiết bị hoặc mô phỏng cho thấy lỗi giảm.
  2. Trợ lý lập trình trên điện thoại hoặc máy tính bảng: các tác tử cùng sửa một lỗi trong repository, ghi chú kinh nghiệm vào bảng chung; hệ thống chỉ chốt ghi chú khi bộ test của dự án chạy xác nhận bản vá tốt hơn bản trước.
  3. Bảng điều phối công việc nhóm có kiểm chứng ngoài: quản lý chia việc cho nhiều nhân viên ảo, mỗi nhân viên tự đề xuất bài học; phần mềm chỉ cập nhật quy trình làm việc khi chỉ số thực tế như doanh thu, tỉ lệ lỗi hoặc thời gian hoàn thành cải thiện.
  4. Hệ thống robot gia đình học kinh nghiệm an toàn: robot ghi lại cách thao tác được đề xuất, nhưng chỉ đưa vào bộ nhớ dài hạn nếu cảm biến môi trường xác nhận vật không rơi, không va chạm và tỉ lệ thành công tăng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.02750
ArXiv Abstracthttps://arxiv.org/abs/2609.02750
PDF Downloadhttps://arxiv.org/pdf/2609.02750.pdf
Github Repositoryhttps://github.com/YihangChen9/Bilevel-Coordinated-Reflection

2. Iris: Climbing to the Search Frontier (50 votes)​

Tác giả: Ziyuan Liu, Hengqi Liu, Zichuan Wang, Yang Qin, Jiachen Liang, et al.

Xuất bản lúc: 2026-09-03

Tag: Search Agents, Reinforcement Learning, SFT, Multi-hop Reasoning, Web Search, Agentic AI, MoE, Context Management

I. Main Problem:​

Các search agent hiện nay có ba nút thắt:

  • Dữ liệu huấn luyện tự nhiên quá dễ — câu hỏi web thông thường không đòi hỏi suy luận đa bước; câu hỏi viết tay thì đắt và khó mở rộng.
  • Khó tách năng lực thật của policy khỏi inference-time harness — phần lớn hệ thống chỉ báo cáo kết quả có context management (CM), làm mờ đâu là do model giỏi, đâu là do vỏ bọc ngoài cứu.
  • RL với live search tốn kém — rollout dài hạn có đuôi nặng: vài phiên chạy rất lâu khiến bước synchronous bị treo, và phụ thuộc API bên ngoài.

II. Main Idea:​

Pipeline dựng câu hỏi ngược từ cấu trúc hyperlink của web corpus, rồi leo lặp SFT–RL:

  • Web-graph construction: từ seed page, mở rộng theo out-links thành subgraph; khôi phục link thật từ RDF triples + page markup.
  • Task synthesis: trích entity graph, author câu hỏi multi-hop bắt buộc ≥ N quan hệ liên kết; rồi abstract mọi entity không phải đáp án thành mô tả — triệt tiêu shortcut string matching, buộc suy luận để phân giải.
  • Dual-criteria verification: chỉ giữ câu hỏi mà reference model fail khi closed-book nhưng giải đúng khi được cung cấp evidence — vừa đủ khó, vừa kiểm chứng được.
  • Lọc 2 tầng trước SFT: trajectory-level (đúng đáp án, loại degenerate bằng tỉ số nén zlib phát hiện vòng lặp, đủ độ sâu tool-call) rồi turn-level bằng LLM judge có rubric được induced từ chính dữ liệu, mask tối đa 10% turn kém.
  • RL với live search: judge và summarizer là model Qwen3.5-397B-A17B chạy trong cluster; rollout bị cắt ở request level và resume từ committed prefix ở bước sau, hiệu chỉnh lệch policy bằng truncated importance sampling.
  • SFT–RL climbing: sau mỗi vòng RL, chọn các câu có pass-rate thấp nhưng giải được, lấy trajectory ngắn nhất đủ sâu đưa ngược về SFT — tự tạo curriculum càng ngày càng khó.

Ví dụ đời thường: giống huấn luyện thám tử bằng cách tự dựng án từ bản đồ liên hệ, xóa hết tên tuổi dễ tra, chỉ giữ vụ khó nhưng đủ manh mối; cho thám tử giỏi làm mẫu, soi từng bước đi vụng để chấm lại, rồi cho học trò phá án thật — sau mỗi vòng ghi lại cách phá án hay nhất dạy lại, cứ thế leo dần lên đỉnh.

III. Main Results:​

  • Iris-mini (35B-A3B): BrowseComp 82.2, BrowseComp-ZH 84.8, DeepSearchQA 86.9, HLE 52.3 — dẫn đầu nhóm 30–35B trên 3/4 benchmark (chỉ thua DeepSearchQA).
  • Iris-pro (397B-A17B): 88.6 / 85.1 / 92.9 / 56.4 — dẫn đầu hoặc ngang tầm ~400B trên cả bốn; hơn XYZ-Aquila-pro +3.8 trên BrowseComp, +3.1 trên HLE.
  • Năng lực thật không nhờ CM: không context management, Iris-mini vẫn đạt 64.7/72.3 trên BrowseComp/ZH, vượt FORT-Searcher (55.9/62.1), OpenSeeker-v2, REDSearcher.
  • CM giúp thêm nhiều: discard-all cộng +17.5 (mini) và +16.0 (pro) trên BrowseComp; kết hợp retry đẩy Iris-pro lên 90.3 — nhưng tốn inference cost gấp bội.
  • Cạnh tranh model 1T+: Iris-mini sát Kimi-K2.6 và DeepSeek-V4-Pro trên BrowseComp; Iris-pro ngang MiroThinker-H1 và Apodex-1.0-H bản heavy-compute dù chỉ là single ReAct agent, không sub-agent, không test-time verification.
  • Chống leakage: chặn truy cập HuggingFace datasets/spaces chứa đáp án benchmark ở cả search, scrape và tool manager.
  • Transfer ngoài search: dữ liệu và teacher từ pipeline cải thiện cả General Tool Use (BFCL, τ-bench) và Cowork (OfficeQA, APEX).

IV. Conclusion & Future Works:​

Công thức end-to-end (dữ liệu → SFT lọc kép → RL live search → SFT–RL climbing) cho kết quả mạnh nhất tầm tham số tương ứng, và cho thấy search nên xem là atomic capability chứ không phải chuyên môn hẹp — hành vi nó rèn ra tái sử dụng được mọi nơi agent phải hành động dưới thông tin thiếu. Hướng đi tiếp theo: dùng search data xuyên suốt quá trình training thay vì giai đoạn chuyên biệt riêng; đánh giá trên phổ agentic scenario rộng hơn ngoài bốn benchmark; thu hẹp khoảng cách với các hệ frontier; công bố model weights và toàn bộ recipe.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phân tích chi tiết kỹ thuật request-level partial rollout với truncated importance sampling — cách tái sử dụng prefix đã commit để RL dài hạn chạy được dưới lịch synchronous trong cluster.
  2. Phương pháp induce rubric tự động cho turn-level judge từ failure modes thống kê trên dữ liệu, thay vì viết rubric thủ công, cho lọc SFT ở độ chi tiết từng turn.
  3. Nghiên cứu self-paced curriculum qua pass-rate band trong SFT–RL climbing: cơ chế tự dịch sang câu khó hơn khi policy tiến bộ và tự dừng khi candidate pool cạn.
  4. Đề xuất chuẩn benchmark hai chế độ (có/không context management) với tool set, context limit và judge cố định, để công bằng so sánh năng lực intrinsic của search agent.

2. Patent:​

  1. Trợ lý tìm kiếm thông minh trên điện thoại: tự dựng bài tập huấn luyện từ cấu trúc liên kết web, xóa tên riêng dễ tra thay bằng mô tể để buộc suy luận, giúp model nhỏ chạy offline trên thiết bị trả lời được câu hỏi nhiều bước.
  2. Hệ thống tạo dữ liệu huấn luyện tự động cho agent tìm kiếm: kiểm thử hai chiều (model fail khi không có tài liệu, đúng khi có tài liệu) để chọn lọc câu hỏi vừa khó vừa kiểm chứng được, chạy hoàn toàn tự động không cần người gắn nhãn.
  3. Cơ chế huấn luyện tăng cường có thể gián đoạn-hồi phục trên điện thoại/đám mây: khi phiên tìm kiếm bị cắt do hết thời gian hoặc hết pin, lưu prefix đã hoàn thành và nối tiếp ở lần chạy sau mà không mất công làm lại.
  4. Cụm máy chủ huấn luyện khép kín cho trợ lý AI di động: model chấm điểm và model tóm tắt trang web chạy ngay trong cluster huấn luyện, loại bỏ phụ thuộc API bên ngoài, giảm chi phí và rủi ro rò rỉ dữ liệu cho nhà cung cấp ứng dụng di động.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.04304
ArXiv Abstracthttps://arxiv.org/abs/2609.04304
PDF Downloadhttps://arxiv.org/pdf/2609.04304.pdf
Github Repositoryhttps://github.com/AllSpark-Research/Iris

3. Motion-Omni: End-to-End Joint Speech and Full-Body Motion for Spoken Dialogue (36 votes)​

Tác giả: Chengqian Ma, Wei Tao, Haoyu Zhang, Yiwen Guo

Xuất bản lúc: 2026-08-28

Tag: Spoken Dialogue, Motion Generation, Multimodal LLMs, TTS, VQ-VAE, Pseudo-labeling

I. Main Problem:​

Avatar hội thoại cần đồng thời quyết định nói gì và cử động thế nào, nhưng hai năng lực này đang nằm ở hai họ mô hình riêng:

  • Spoken dialogue models tạo lời nói nhưng không tạo chuyển động cơ thể.
  • Co-speech motion models tạo cử chỉ chỉ khi đã có audio đầu vào.

Cách phổ biến là cascade: sinh speech trước, rồi chạy motion model trên audio hoàn chỉnh. Cách này có hai chi phí cấu trúc:

  • cần một lần suy luận thứ hai sau khi audio đã xong, làm tăng độ trễ;
  • mục tiêu motion không bao giờ cập nhật được speech/dialogue pathway, nên hai đầu ra khó cùng tối ưu.

Bài toán khó thêm ở ba điểm: speech units 12.5 Hz và motion 30 Hz có tốc độ khác nhau; thiếu dữ liệu quy mô lớn có cùng một giọng nói mục tiêu kèm motion; và chưa có benchmark công khai cho open-ended full-body spoken dialogue ngẫu nhiên.

II. Main Idea:​

Motion-Omni biến motion thành đầu ra native của mô hình hội thoại bằng cách sinh facial expression, hand, upper-body và lower-body motion trực tiếp từ hidden states đang tạo speech, thay vì chờ waveform render xong rồi mới tạo cử chỉ.

Kiến trúc gồm bốn thành phần:

  • Speech Projector đưa đặc trưng Whisper vào không gian LLM.
  • LLM Backbone dùng Qwen2.5-7B-Instruct để hiểu ngữ cảnh và lập phản hồi.
  • Speech Generator sinh GLM-4-Voice discrete speech units.
  • Part-Aware Motion Generator gồm bốn decoder riêng cho face, hand, upper body, lower body; mỗi decoder nhận key/value từ hidden states của Speech Generator và query là embedding speech token được nội suy từ 12.5 Hz lên 30 Hz.

Training theo bốn giai đoạn:

  • ASR cho projector học đọc transcript;
  • TTS cho Speech Generator;
  • TTSM gắn Motion Generator và joint-train với Speech Generator;
  • Joint mixture mở khóa LLM và fine-tune nhẹ để giữ khả năng hội thoại.

Điểm then chốt là co-adaptation: nếu giữ speech pathway frozen, motion bị lệch audio; joint training giúp motion học timing/ngữ cảnh từ speech, còn speech supervision giữ trạng thái không mất khả năng dialogue.

Dữ liệu được xây bằng pipeline model-agnostic pseudo-labeling: chạy motion teacher LOM trên 422,856 response audio cùng giọng mục tiêu, tổng 1,402 giờ, rồi chấm chất lượng bằng reconstruction error và beat correlation để làm curriculum.

Ví dụ đời thường: giống người nói chuyện không phải ghi âm xong rồi thuê diễn viên đóng lại cử chỉ, mà cùng một ý nghĩ khiến miệng phát âm, tay gesticulate và mặt biểu cảm đúng nhịp ngay trong một hành động thống nhất.

III. Main Results:​

Thực nghiệm trên SwDA-500 cho thấy Motion-Omni-Q7 cân bằng tốt chất lượng speech, motion và latency:

  • Speech: WER 2.62% trên Seed-TTS-Eval, thấp nhất trong nhóm omni-modal LLMs so sánh; VoiceBench Overall 47.63, cao hơn LLaMA-Omni, Ex-Omni, Mini-Omni2 và Moshi.
  • Motion: reference-free motion metrics chênh teacher cascade cùng audio trong khoảng ~1–2%; đạt beat correlation 7.59 và diversity 13.67, tốt nhất trong các hệ không chạy motion teacher LOM lúc inference.
  • Facial/lip-sync: tốt hơn các cascade EMAGE và MambaTalk cùng audio trên rendered-video lip-sync metrics.
  • Latency: phản hồi speech + motion trong 4.32s, RTF 0.78, nhanh hơn thời gian thực; nhanh 5.4× so với cascade cùng speech nhưng chạy LOM riêng.
  • Human evaluation: thắng rõ MO-audio + EMAGE với margin +25; khi so với chính teacher LOM cùng audio, kết quả gần cân bằng 25/27/23, cho thấy motion đã bắt kịp phân phối teacher trong bối cảnh nhỏ.

Điểm đáng chú ý: cascade dùng EMAGE có thể gần về latency nhưng mất beat correlation; cascade dùng LOM vượt nhẹ beat correlation nhưng chậm hơn 5.4×. Motion-Omni là hệ duy nhất trong các hệ so sánh đạt cả hai mặt gần tối ưu.

IV. Conclusion & Future Works:​

Motion-Omni chứng minh full-body co-speech motion có thể là đầu ra native của spoken dialogue model, không cần giai đoạn audio-to-motion riêng. Việc condition motion lên hidden states của Speech Generator giữ chất lượng motion gần teacher cascade trong khi loại bỏ một inference pass và giảm mạnh response latency.

Hạn chế hiện tại:

  • Chất lượng motion bị giới hạn bởi teacher và VQ-VAE codebook của LOM.
  • Chưa điều kiện hóa rõ speaker identity hay emotion.
  • Dữ liệu hoàn toàn tiếng Anh, chưa khái quát sang ngôn ngữ/văn hóa cử chỉ khác.
  • Model offline, chưa streaming như MIBURI.
  • Metrics tự động chỉ là proxy; human study còn nhỏ và exploratory.

Hướng tương lai: thay teacher mạnh hơn, thử continuous motion heads, mở rộng đa ngôn ngữ, điều khiển speaker/emotion, và thiết kế streaming interaction với protocol latency riêng.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng Motion-Omni sang streaming spoken dialogue, nghiên cứu cách sinh speech, facial expression và full-body motion theo thời gian thực thay vì chờ người dùng nói hết.
  2. Thay motion teacher bằng mô hình co-speech mạnh hơn hoặc continuous motion head để thoát giới hạn codebook và cải thiện độ tinh tế của cử chỉ.
  3. Nghiên cứu điều khiển speaker identity, emotion, phong cách cử chỉ và đa ngôn ngữ cho avatar hội thoại có cơ thể đầy đủ.
  4. Xây dựng benchmark lớn hơn cho stochastic open-ended spoken motion với reference motion thật, nhiều ngữ cảnh văn hóa và giao thức đánh giá perceptual chặt chẽ hơn.

2. Patent:​

  1. Trợ lý video call có avatar toàn thân trên điện thoại: người dùng nói hoặc nhắn tin, avatar tự tạo giọng nói đồng thời sinh biểu cảm mặt, tay và cơ thể phù hợp ngữ cảnh, giảm độ trễ so với kiến trúc sinh âm thanh rồi mới sinh cử chỉ.
  2. Hệ thống tạo nhân vật ảo cho game và metaverse: nhân vật trả lời thoại mở đầu vào thời gian thực, cử chỉ toàn thân được tạo cùng lúc từ trạng thái ngôn ngữ chung, phù hợp hội thoại phiên bản tự nhiên.
  3. Ứng dụng học ngoại ngữ hoặc luyện thuyết trình trên điện thoại: phần mềm tạo người đối thoại ảo có cử chỉ hội thoại tự nhiên, giúp người học luyện phản xạ nghe-nói và quan sát ngôn ngữ cơ thể.
  4. Giải pháp telepresence cho robot hình người hoặc màn hình di động: người dùng ở xa gửi lời nói, hệ thống đồng bộ giọng nói với chuyển động mặt và tay theo đúng nhịp, giảm cảm giác robot đang phát lại ghi âm.
  5. Nền tảng tạo video giảng viên ảo từ giáo trình: nhập câu hỏi hoặc chủ đề, hệ thống sinh lời thoại kèm cử chỉ giảng dạy tự nhiên, có thể kiểm soát phong cách trò chuyện thay vì đọc kịch bản cứng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.04250
ArXiv Abstracthttps://arxiv.org/abs/2609.04250
PDF Downloadhttps://arxiv.org/pdf/2609.04250.pdf
Github Repositoryhttps://github.com/step-out/Motion-Omni

4. The Attention Triangle in Audio-Video Models (25 votes)​

Tác giả: Sagi Polaczek, Noa Kraicer, Gal Metzer, Zhuo Ning, Ali Mahdavi-Amiri, et al.

Xuất bản lúc: 2026-09-03

Tag: Audio-Video Generation, Diffusion Models, Cross-Attention, Attention Steering, Source Attribution, Semantic Leakage, LTX-2, Training-Free Inference

I. Main Problem:​

  • Mô hình text-to-audio-video đồng thời tạo video và âm thanh từ một prompt bằng cross-attention, nhưng cơ chế này thiếu ràng buộc cục bộ nên dễ làm semantic leakage giữa text, audio, video.
  • Bài toán được nhìn như một attention triangle: text→video, text→audio, audio↔video. Khi prompt đặt nguồn âm thanh vào một vật thể 'bất thường' theo thống kê học, ví dụ vẹt nói thay cướp biển, các prior học sẵn có thể ghi đè điều kiện text và chuyển tiếng nói về người.
  • Ba dạng lỗi điển hình: source-attribution leakage gán sai nguồn phát âm; appearance leakage làm vật thể khác mang đặc điểm của âm thanh; voice-characteristic leakage và generation suppression khi prompt xung đột mạnh với prior.
  • Phân tích cho thấy cạnh audio↔video là weak link: nó hai chiều, mang bias học sẵn, và token audio chỉ có vị trí thời gian nên định vị nguồn âm trong khung hình bị thiếu ràng buộc.

II. Main Idea:​

Phân tích và can thiệp cùng lúc cả ba cạnh của tam giác attention, thay vì chỉ sửa text hoặc chỉ sửa video.

  • Trước hết, tác giả trích các tín hiệu attention từ một lần chạy baseline để xác định: cụm từ text chỉ nguồn âm/hành động/đối thủ, vùng vật thể trong video nhờ phân đoạn ảnh, và vùng âm thanh đang mang âm sắc cần gán nhờ attention audio-query/text-key.
  • Sau đó, ở inference-time, họ thêm pre-softmax additive bias vào ba bề mặt cross-attention: text→video, text→audio, và audio↔video.
  • Trên hai cạnh text, bias tăng intended cells và giảm conflicting cells để giữ đúng vật thể/đặc điểm. Trên cạnh audio-video, họ dùng ma trận agreement giữa vùng nguồn định sẵn và vùng âm thanh đang nói để phạt các cặp nguồn-âm thanh không khớp.
  • Ba biến thể cho thấy tính bắt buộc của phối hợp: Ours-Text sửa ngoại hình nhưng vẫn gán sai nguồn; Ours-AV định vị đúng nguồn nhưng để lộ appearance leakage; chỉ Ours-Full giải quyết cả hai.

Ví dụ đời thường: giống người điều phối sân khấu không chỉ nghe lời thoại, mà dựng sơ đồ ai đang nhìn ai, ai đang nói với ai, rồi gắn biển chỉ lối đúng và chặn lối rẽ sai trước khi vở diễn tiếp tục.

III. Main Results:​

  • Trên LTX-2, can thiệp full attention triangle đạt Qwen source-attribution score cao nhất: 0.1349, so với native baseline 0.1216, Ours-AV 0.1302, Ours-Text 0.1140, adapted Bounded Attention 0.0925, Ovi 0.1207; bản video-only không có audio nên không chấm.
  • Trên đánh giá VA-Judger, Ours-Full được prefer hơn mọi phương án so sánh với tỷ lệ trung bình khoảng 57.6% tới 73.3%, khoảng tin cậy 95% đều trên 50%.
  • User study pairwise: người chọn Ours-Full trong 79.2% so sánh gán nguồn âm, 82.9% so sánh visual leakage, 80.1% so sánh chất lượng tổng thể; khác biệt có ý nghĩa sau Bonferroni với p < 1e-28.
  • Chất lượng video không bị đánh đổi rõ: VBench subject consistency 0.990, background consistency 0.986, aesthetic quality 0.604; CLAP audio-text 0.383, gần mức tốt nhất 0.384.
  • Ablations xác nhận không một cạnh đơn lẻ đủ điều khiển routing: sửa text giữ ngoại hình nhưng sai nguồn âm; sửa audio-video đúng nguồn âm nhưng gây rò rỉ ngoại hình; phải steer đồng thời cả ba cạnh.
  • Chi phí khoảng 2.5× một lần sinh không steer do cần thêm một trajectory để lấy anchors.

IV. Conclusion & Future Works:​

Kết luận chính là Attention Lesson: việc tăng cường liên kết cross-modal qua attention không tự động sửa lỗi, mà có thể khuếch đại bias-driven routing khi prior học sẵn mạnh hơn ràng buộc prompt. Bằng chứng trong paper chứng tỏ cạnh audio-video đóng góp lớn vào misalignment, đặc biệt ở lỗi gán nguồn âm, nhưng chưa khẳng định đây là cơ chế duy nhất.

Hướng tương lai: kiểm chứng trực tiếp giả thuyết về xung đột chiều giữa token video không gian-thời gian và token audio chỉ thời gian; thử biểu diễn audio có yếu tố spatial/pseudo-spatial và supervision grounding mạnh hơn; kiểm tra liệu các mẫu leakage và can thiệp này có chuyển sang kiến trúc single-stream dùng shared self-attention cho mọi modality hay không.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phân tích cơ chế dimensional mismatch giữa luồng audio 1D và video 3D trong các mô hình sinh audio-video, kèm các biểu diễn âm thanh có tọa độ giả không gian để cải thiện sound-source grounding.
  2. Mở rộng attention-triangle steering sang kiến trúc single-stream/shared self-attention và đo xem bias routing có xuất hiện theo cùng quy luật hay biến mất khi không còn cross-attention riêng.
  3. Xây dựng bộ chẩn đoán tự động cho bốn dạng leakage: sai nguồn phát âm, rò rỉ ngoại hình, giọng nói theo prior của vật thể, và triệt tiêu âm thanh, để đánh giá các mô hình T2AV mới theo entity-level grounding.
  4. Kết hợp tín hiệu attention với external grounding supervision hoặc phản hồi người dùng để giảm phụ thuộc vào một lần chạy baseline và hạ chi phí ~2.5×.

2. Patent:​

  1. Ứng dụng quay video có âm thanh trên điện thoại: người dùng nhập mô tả kiểu 'con vẹt nói câu này, người đứng cạnh im lặng'; hệ thống tự phát hiện lỗi gán tiếng nói sang nhân vật sai và can thiệp quá trình sinh để đúng nhân vật trước khi xuất clip.
  2. Công cụ chỉnh sửa video quảng cáo: khi thay lời thoại hoặc nhân vật phát âm, hệ thống giữ nguyên ngoại hình các vật thể còn lại và khóa âm thanh vào đúng đối tượng, tránh hiệu ứng mèo phát tiếng chó hay người vô tình mở miệng.
  3. Hệ thống kiểm soát bản quyền/kiểm duyệt nội dung sinh tự động: phân tích luồng chú ý giữa mô tả, hình ảnh và âm thanh để phát hiện khi mô hình ngầm cho một nhân vật nói hoặc hành động dù prompt không yêu cầu, rồi gắn nhãn cảnh báo trước khi phát hành.
  4. Tính năng dựng cảnh phim hoạt hình tự động trên điện thoại: người dùng chọn nhân vật nào được phát tiếng; ứng dụng điều chỉnh mô hình diffusion bằng bias attention ba chiều để nhân vật câm giữ đúng nét mặt, nhân vật nói giữ đúng vị trí âm thanh.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.03586
ArXiv Abstracthttps://arxiv.org/abs/2609.03586
PDF Downloadhttps://arxiv.org/pdf/2609.03586.pdf
Github Repositoryhttps://github.com/SagiPolaczek/The-Attention-Triangle

5. WorldSculpt: Generating Compositional Worlds from Grounded Videos (21 votes)​

Tác giả: Muyao Niu, Jixuan He, Ruihan Yu, Lian Fu, Yonghao Yu, et al.

Xuất bản lúc: 2026-09-04

Tag: 3D Generation, Compositional 3D, Multi-View Reconstruction, Generative Priors, Amodal Reconstruction, Mesh Generation, Benchmark

I. Main Problem:​

Bài toán: sinh biểu diễn 3D phân rã từng đối tượng cho cảnh lộn xộn chứa hàng trăm vật thể, mỗi vật là một mesh riêng đặt trong hệ tọa độ chung — điều mà game, AR/VR, simulation và robotics yêu cầu (cần chọn, di chuyển, mô phỏng từng vật).

Các hướng hiện có đều thiếu sót:

  • Phương pháp hình học (pointmap, Gaussian, per-scene optimization): chính xác ở vùng nhìn thấy nhưng hợp nhất cả cảnh thành một đại diện duy nhất, để trống hình học vùng bị che khuất.
  • World model cấp cảnh (Marble, HY-World): sinh được vùng không quan sát nhưng vẫn là đại diện nguyên khối, không tách từng đối tượng.
  • Generative prior 3D thuần túy (TRELLIS, Pixal3D): chỉ xử lý một ảnh, một vật, không pose.
  • Phương pháp compositional (SceneGen, MIDI...): chỉ demo trên cảnh đơn giản vài vật trên bàn, không chịu được cảnh dày đặc với occlusion nặng.

II. Main Idea:​

WorldSculpt chứng minh có thể sinh cảnh hàng trăm vật bằng cách kế thừa generative prior mạnh của một vật duy nhất (Pixal3D trên nền TRELLIS.2) và mở rộng bằng đường điều kiện hóa multi-view. Điểm mấu chốt: không cần huấn luyện cấp cảnh, chỉ finetune trên từng vật riêng lẻ trong canonical space.

Quy trình:

  • Anchor-aligned canonicalization: với mỗi vật, chọn một anchor view (vật nhìn rõ nhất), dựng virtual canonical cube căn chỉnh hướng và tỉ lệ, xây phép biến đổi canonical-to-world.
  • Multi-view feature lifting: trích đặc trưng DINOv3 từ từng view, chiếu lên thể tích voxel canonical qua crop-aware projection.
  • Permutation-invariant aggregation: gộp đặc trưng đa view theo kiểu IBRNet (mean + variance + softmax-weighted residual), bắt đầu từ cross-view mean thuần túy nhờ zero-init.
  • Conditioning injection: đưa điều kiện 3D vào hai stage hình học của Pixal3D (sparse structure 64³ → shape latent → mesh) qua zero-initialized projections, giữ frozen prior, chỉ học bằng LoRA.
  • Augmentation curriculum: giả lập occlusion 2D/3D, nhiễu camera pose, lỗi mask, downsample — tăng dần độ khó trong 3k iteration đầu.
  • Từng mesh canonical được đặt lại vào cảnh qua transformation riêng, không fusion chéo giữa các vật.

Ví dụ đời thường: giống thợ phục chế mỗi món đồ trong căn phòng chật cứng: chụp từng món từ nhiều góc, rồi dùng kinh nghiệm về đồ vật từng loại (prior) để bù đắp phần bị che — ghép lại mà không dính mép nhau.

III. Main Results:​

  • Toys4k single-object (1–16 view, occlusion 0–75%): vượt TRELLIS và Pixal3D rõ rệt — ví dụ với 8 view + 50% occlusion, CD-l2 giảm từ ~18–23 xuống 1.91; lợi thế càng lớn khi occlusion tăng.
  • HouseCat6D & Toys4k-Scene (multi-object): CD-l2 trên HouseCat6D 0.28 so với 1.26 của ShapeR; trên Toys4k-Scene 0.61 so với 8.38 của ShapeR — F-Score lên tới 0.981–0.995.
  • UE-MeshyScene (6 cảnh, 93–701 vật): CD-l2 2.48 so với 7.42 của ShapeR, F-Score 0.951 so với 0.813 — cải thiện mạnh nhất ở cảnh dày đặc, occlusion nặng.
  • Tính tổng quát: chuyển đổi các world 3DGS có sẵn (Marble, HY-World 2.0) thành cảnh mesh compositional.
  • Giới hạn: mới chỉ xử lý hình học, bỏ qua texture/material; cần masks, poses và bounding box có sẵn.

IV. Conclusion & Future Works:​

Kết luận: một prior sinh 3D huấn luyện chỉ trên vật đơn lẻ trong canonical space có thể tổng quát lên cảnh hàng trăm vật bị che khuất nặng, nhờ multi-view conditioning + anchor-aligned canonicalization + augmentation curriculum — chứng minh paradigm này khả thi và mở rộng được.

Hướng tương lai:

  • Mở rộng sang texture và material (stage còn lại của Pixal3D).
  • Gắn trực tiếp với các mô hình ước lượng pose/mask/pointmap đầu vào thay vì giả định có sẵn.
  • Mở rộng benchmark UE-MeshyScene cho các tác vụ khác (segmentation, detection dưới occlusion).

V. Brainstorming Space:​

1. Publish Papers:​

  1. Điều kiện hóa multi-view cho prior 3D dạng video: thay vì chọn anchor tĩnh, dùng chuỗi khung hình liên tục để cải thiện hình học vùng bị che trong cảnh động.
  2. Hoàn thiện pipeline end-to-end: tích hợp ước lượng camera pose, mask theo thời gian và 3D detection vào WorldSculpt để nhận video thô và xuất cảnh compositional.
  3. Mở rộng sang texture/material cho cảnh compositional hàng trăm vật, giữ nhất quán ánh sáng giữa các đối tượng trong cùng cảnh.
  4. Phương pháp self-supervised tinh chỉnh anchor view và canonical cube khi localization box bị lệch nhiều, giảm phụ thuộc vào annotation ngoài.

2. Patent:​

  1. Ứng dụng quét phòng bằng điện thoại để dựng game/AR: người dùng quay video căn phòng, ứng dụng tách từng đồ vật thành mesh 3D riêng (ghế, bình hoa...), đặt đúng vị trí, cho phép kéo thả đồ đạc trong không gian ảo.
  2. Hệ thống tạo nội dung cho game: từ bộ ảnh chụp hiện trường thật (cửa hàng, kho xưởng), tự động sinh toàn bộ scene 3D với từng vật thể là asset độc lập để import thẳng vào engine game như Unreal/Unity.
  3. Ứng dụng thiết kế nội thất thử đồ ảo: quay phòng khách, mỗi món đồ hiện có được dựng thành model 3D; người dùng thay thế/xóa từng món trên điện thoại và xem trước trước khi mua sắm.
  4. Module huấn luyện robot trong mô phỏng: chuyển video quay kho hàng thành môi trường 3D phân rã từng vật, đưa vào physics simulator để robot luyện gắp hàng mà không cần scan 3D đắt tiền.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.05416
ArXiv Abstracthttps://arxiv.org/abs/2609.05416
PDF Downloadhttps://arxiv.org/pdf/2609.05416.pdf
Github Repositoryhttps://github.com/AlayaLab/WorldSculpt

6. Enoki: Efficient Multi-Level Hallucination Detection (16 votes)​

Tác giả: Elisei Rykov, Timur Ionov, Nikolay Ivanov, Maksim Savkin, Maksim Makarenko, et al.

Xuất bản lúc: 2026-09-01

Tag: LLMs, Hallucination Detection, OpenIE, Fact Verification, NLP, RAG, NLI

I. Main Problem:​

Phát hiện hallucination trong LLM hiện tách rời ở hai mức độ khác nhau, gây khó khăn cho triển khai thực tế:

  • Claim-level (FActScore, SAFE, VeriScore): tách câu trả lời thành các đơn vị sự thật để kiểm chứng → dễ diễn giải nhưng không chỉ ra được đoạn văn bản cụ thể nào sai, và phụ thuộc nặng vào chất lượng bước phân rã (bỏ sót tân ngữ, bổ nghĩa, thời gian → kiểm chứng sai ý).
  • Span-level (lettucedetect, RAGTruth, MuSHROOM): định vị chính xác đoạn text sai → nhưng không lộ được cấu trúc sự thật nào đang bị kiểm tra.
  • Nối hai view này rất tốn kém: pipeline truyền thống cần nhiều lần gọi LLM (decompose → verify → align claim-to-span) và dễ truyền lỗi qua các bước.

II. Main Idea:​

ENOKI — khung phát hiện hallucination đa mức dựa trên Open Information Extraction (OpenIE) có neo vào văn bản (text-anchored). Quy trình 2 giai đoạn:

  • Fact Extraction: trích xuất các bộ ba quan hệ (subject, predicate, object) từ từng câu trả lời. Đặc biệt dùng incremental fact construction — các sự thật được xây dựng từng bước tự chứa (ví dụ: "Enoki | cultivated in | China" → thêm bước "... | northern China"), để khi kiểm chứng có thể giữ phần đúng và chỉ gán lỗi cho delta mới thêm.
  • Fact Verification: mỗi fact được chuyển thành giả thuyết và chấm bởi verifier kiểu NLI (chunk context dài với overlap 1 câu, lấy điểm entailment tối đa). Fact không được hỗ trợ → chiếu ngược (project) về span trong câu trả lời gốc nhờ ràng buộc text-anchoring, nên không cần module align riêng.
  • 3 chế độ trích xuất dùng chung một giao diện kiểm chứng: ENOKI-LLM (CycleOIE prompting + hướng dẫn incremental), ENOKI-RULE (35 quy tắc dependency-parse, không cần LLM), ENOKI-ENCODER (Iterative Grid Labeling + ModernBERT-large, huấn luyện bằng Hungarian matching loss kiểu DETR thay vì cross-entropy theo hàng cố định).

Ví dụ đời thường: giống thợ sửa chữa đọc hồ sơ xe bằng cách tách từng khẳng định nhỏ ("xe đời 2019", "động cơ chạy tốt", "máy lạnh mới thay") rồi đối chiếu từng ý với hồ sơ gốc — ý nào lệch thì khoanh đúng cụm từ lệch đó, thay vì gạch cả đoạn hay phải dò lại xem lỗi thuộc ý nào.

III. Main Results:​

  • Entity-level (HalluEntity): ENOKI-LLM đạt AUROC 79.70 / AUPRC 55.09, vượt +15.3 AUPRC so với phương pháp mạnh nhất trước đó; ENOKI-RULE cũng đạt AUPRC 46.81 vượt mọi OpenIE baseline.
  • Span-level: ENOKI-LLM dẫn đầu MuSHROOM (F1 52.07, +8.0 so với prior) và PsiloQA (F1 71.15); ENOKI-RULE/ENCODER vẫn cạnh tranh với chi phí thấp hơn ~2 bậc độ lớn.
  • Hiệu quả: ENOKI-ENCODER đạt F1 69.1% chỉ với 0.13s/câu — nhanh gấp 4–10× so với baseline cạnh tranh; ENOKI-LLM F1 76.4%, hơn Claimify +9.8 điểm ở latency tương đương.
  • Sentence-level: cạnh tranh nhưng không vượt trội (nhãn nhị phân thô không cần định vị span).
  • Dataset ENOKIQA: 3,990 mẫu có nhãn + 19,594 mẫu không nhãn, câu trả lời dài (5,682 ký tự) và context dài (14,879 ký tự) hơn hẳn benchmark cũ, nhãn claim-level và span-level được căn chỉnh với nhau.
  • Ablation decontextualization (FastCoref): hiệu quả tùy dataset — tốt trên RAGTruth (+3.05 F1), ANAH (+1.20) nhưng trung tính/hơi xấu trên HalluEntity, PsiloQA → để làm bước tùy chọn.

IV. Conclusion & Future Works:​

Text-anchored factual decomposition là cách biểu diễn hiệu quả, thống nhất kiểm chứng claim-level (dễ diễn giải) với định vị span-level (tinh vi) trong một pipeline duy nhất, tách rõ chất lượng trích xuất fact khỏi lựa chọn verifier. Hạn chế & hướng phát triển:

  • Phụ thuộc vào độ bao phủ của extractor — bỏ sót fact là mất recall.
  • Chiếu incremental kém chính xác khi nhiều phần của cùng một fact cùng sai.
  • Xử lý câu độc lập từng câu → coreference/ellipsis liên câu chỉ được xử lý một phần, cần extraction có nhận thức discourse.
  • Kết quả cuối vẫn nhạy với độ chắc chắn của verifier.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng ENOKI sang extraction có nhận thức ngữ cảnh liên câu (discourse-aware) để xử lý coreference, ellipsis và attribution ở cấp đoạn văn thay vì từng câu riêng lẻ.
  2. Nghiên cứu chiến lược chiếu lỗi tinh vi hơn cho các trường hợp nhiều thành phần của cùng một fact đồng thời không được hỗ trợ, thay vì gán toàn bộ delta cho span mới.
  3. Kết hợp huấn luyện encoder-based extractor với dữ liệu đa ngôn ngữ để đưa ENOKI-RULE/ENCODER — vốn rẻ và nhanh — lên mức độ chính xác gần ENOKI-LLM cho ứng dụng RAG đa ngữ.

2. Patent:​

  1. Trợ lý ảo trên điện thoại có chế độ "kiểm chứng trước khi gửi": khi người dùng soạn tin nhắn/tài liệu chứa dữ kiện (tên, ngày, địa điểm), ứng dụng tự tách các sự thật, đối chiếu với nguồn tham khảo và tô đỏ đúng cụm từ sai, gợi ý sửa ngay trên bàn phím.
  2. Hệ thống duyệt nội dung tin tức tự động cho mạng xã hội: máy chủ nhận bài viết, trích xuất từng khẳng định dạng bộ ba, kiểm chứng với kho báo chí và trả về nhãn theo 3 mức — toàn bài hợp lệ, câu có vấn đề, hoặc khoanh đúng cụm từ bịa — để độ kiểm duyệt con người phê duyệt nhanh.
  3. Trợ lý học tập/offline cho điện thoại: chạy bản rule-based nhẹ (không cần mạng, không gọi LLM) để học sinh dán đoạn văn vào và được đánh dấu cụm từ không khớp với giáo trình đã tải sẵn, giúp phát hiện lỗi học thuộc lòng ngay cả khi không có kết nối.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.00581
ArXiv Abstracthttps://arxiv.org/abs/2609.00581
PDF Downloadhttps://arxiv.org/pdf/2609.00581.pdf
Github Repositoryhttps://github.com/s-nlp/Enoki

7. Ask Before You Optimize: Dynamic Pre-Formulation Clarification for Interactive Optimization (15 votes)​

Tác giả: Sihan Ge, Yichen Lin, Chenyu Zhou, Jianghao Lin, Tao Yao, et al.

Xuất bản lúc: 2026-09-04

Tag: LLMs, Operations Research, Interactive Optimization, Clarifying Questions, Benchmark, Autoformulation

I. Main Problem:​

LLM ngày càng được dùng để chuyển mô tả bằng ngôn ngữ tự nhiên thành mô hình tối ưu hóa (objective, ràng buộc, biến quyết định). Nhưng yêu cầu tối ưu hóa thực tế hiếm khi hoàn chỉnh: người dùng mô tả năng lực và nhu cầu mà không nêu mục tiêu, hoặc nêu luật định tuyến mà không nói time window là cứng hay mềm. Hệ quả:

  • Các benchmark hiện hữu (NL4Opt, OptiMUS, ORLM...) giả định spec đã đủ nên bỏ qua khâu hỏi làm rõ
  • Agent mạnh thường tuyên bố sẵn sàng mô hình hóa khi dữ kiện cốt lõi còn thiếu, hoặc âm thầm gán giá trị mặc định không có căn cứ (ví dụ mặc định xe tải phải quay về depot, thay đổi hoàn toàn cấu trúc ràng buộc)
  • Chưa có framework nào đánh giá riêng khả năng phát hiện thiếu sót và biết khi nào đủ thông tin trước khi lập mô hình.

II. Main Idea:​

Bài báo đề xuất tác vụ Pre-Formulation Clarification (làm rõ trước khi lập mô hình) và hai sản phẩm:

1. Benchmark OR-Clarify (100 cases, 178 hidden slots, 1–5 slots/case):

  • Chuyển các bài toán OR hoàn chỉnh thành instance làm rõ bằng cách che giấu khoảng half các facts quan trọng (mục tiêu, ràng buộc, giả định) — các fact này được phân hạng mức độ P0 (blocking) / P1 (substantive) / P2 (secondary)
  • Simulated user chỉ trả lời đúng câu hỏi, không tự nguyện tiết lộ; agent bị cô lập hoàn toàn khỏi đáp án
  • Hai giao thức: tự do (open-ended) và trắc nghiệm (Choice: 3 lựa chọn A–C + lựa chọn D dạng tự do)
  • Metrics: Core Exact (hồi phục chính xác mọi slot P0/P1), silent assumptions, hành vi dừng (premature/appropriate/over-questioning), chi phí tương tác (Avg Turns, Avg Q)

2. Framework InterOPT — tách hai quyết định dễ bị trộn lẫn:

  • Stage 1 – Dynamic Gap Search: duy trì sổ tay (ledger) liên tục ghi lại các formulation gap (điều kiện kinh doanh chưa rõ có thể làm thay đổi cấu trúc mô hình) qua 6 hạng mục: mục tiêu, phạm vi quyết định, ràng buộc, ranh giới thời gian, quan hệ thực thể, chính sách cứng/mềm
  • Stage 2 – Gap-Guided Action Search: sinh 3 câu hỏi neo vào gap cụ thể trong sổ tay, một selector chọn câu hay nhất, đồng thời quyết định hỏi tiếp hay READY_TO_MODEL (quyết định dừng thuộc về model, không bị sổ tay chặn)

Ví dụ đời thường: giống như bác sĩ phẫu thuật duyệt lại từng mục trong checklist tiền phẫu (dị ứng, thuốc đang dùng, nhóm máu) — mục nào chưa tick thì hỏi đúng mục đó, tick xong hết mới được lên bàn mổ, thay vì mổ rồi đoán.

III. Main Results:​

  • Choice setting: InterOPT vượt xa mọi baseline (MC, MC-D, ReadyGate) về Core Exact — hồi phục chính xác các slot cốt lõi; ReadyGate (chỉ thêm reviewer chặn dừng sớm) không cứu được việc hỏi sai chỗ
  • Open-ended setting: InterOPT cạnh tranh ngang các phương pháp mạnh trước đây về hồi phục yêu cầu
  • Ablations cho thấy vai trò riêng của gap tracking (ghi nhớ liên lượt) và question selection (chọn trong 3 ứng viên) — tách monitoring khỏi action selection là điểm quyết định
  • Diagnostics: InterOPT giảm silent assumptions (giả định ngầm không xác nhận) và cải thiện hành vi dừng đúng lúc, với chi phí tương tác hợp lý
  • Tất cả chạy bằng DeepSeek V4 Pro, T_max = 20 lượt, 5 runs/case, judge nhiệt độ 0.

IV. Conclusion & Future Works:​

Bài báo tái định khung trợ lý OR như một bài toán quyết định chọn lọc về độ hoàn chỉnh: hỏi khi cần, dừng khi đủ, và lượng hóa phần còn thiếu. Hai đóng góp — benchmark OR-Clarify (đánh giá được cả hồi phục slot, quyết định sẵn sàng, giả định ngầm, chi phí tương tác dưới một ranh giới thông tin kiểm soát) và framework InterOPT (tách chẩn đoán gap khỏi điều khiển hỏi) — mở ra hướng nghiên cứu clarification dành riêng cho tối ưu hóa, khác với abstention chung chung hay clarification cho tìm kiếm. Hướng mở: cải thiện độ phủ của gap discovery (ledger rỗng không đồng nghĩa spec đã đủ), và kết nối clarification với giai đoạn autoformulation phía sau.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng OR-Clarify sang các lớp bài toán OR khác (stochastic programming, multi-objective optimization) nơi 'formulation-critical' còn phụ thuộc cả phương pháp giải, không chỉ cấu trúc mô hình.
  2. Nghiên cứu chính sách dừng có lý thuyết: đặt giá trị thông tin của từng câu hỏi (value of information) vào quyết định ask-vs-stop thay vì dựa hoàn toàn vào LLM tự phán.
  3. Kết hợp InterOPT với pipeline autoformulation end-to-end để đo tác động của chất lượng clarification lên độ đúng của mô hình cuối cùng (không chỉ slot recovery).
  4. Nghiên cứu simulated user biết mệt mỏi: mô hình chi phí phiền nhiễu của người dùng thật để cân bằng giữa độ chính xác và số lượt hỏi.

2. Patent:​

  1. Ứng dụng điện thoại cho nhân viên sales logistics: khách hàng nhắn yêu cầu giao hàng mơ hồ ('giao nhanh, rẻ'), app tự hỏi lại từng câu một (ưu tiên gì, cửa sổ giờ có cứng không, xe có cần về kho không) rồi mới sinh phương án định tuyến — tránh báo giá sai vì giả định ngầm.
  2. Trợ lý lập kế hoạch sản xuất cho nhà máy nhỏ trên mobile: chủ nhà máy mô tả đơn hàng bằng giọng nói, app duyệt checklist các điều kiện còn thiếu (phạt trễ hàng? cho phép tồn kho? ca đêm?), tích từng mục rồi mới tạo lịch sản xuất tối ưu.
  3. Chatbot tư vấn tối ưu hóa cho doanh nghiệp SME: duy trì 'sổ tay thiếu sót' hiển thị cho người dùng thấy phần nào của yêu cầu chưa đủ để lập mô hình, gợi ý câu hỏi đúng trọng tâm thay vì gửi form dài hỏi tùm lum.
  4. Hệ thống kiểm tra hợp đồng vận tải: tự động quét mô tả dịch vụ, phát hiện các điều khoản làm thay đổi mô hình tối ưu (điểm giao nhận mở/đóng, phí chờ) và nhắc nhân viên hỏi khách xác nhận trước khi ký.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.05258
ArXiv Abstracthttps://arxiv.org/abs/2609.05258
PDF Downloadhttps://arxiv.org/pdf/2609.05258.pdf
Github Repositoryhttps://github.com/AIOR-Research/InterOpt

8. Don't Drop Dropout: Optimizing Layer Sparsity for Efficient LLM Training and Inference (15 votes)​

Tác giả: Mostafa Elhoushi, Alex Pretko, Nolan Dey, Bin Claire Zhang, Gavia Gray, et al.

Xuất bản lúc: 2026-09-04

Tag: LLMs, Dropout, Stochastic Depth, Sparse Training, Efficient Inference, Early Exit, Self-Speculative Decoding

I. Main Problem:​

Khi LLM pre-training mở rộng tới hàng tỷ tham số và dataset khổng lồ, dropout nói chung và layer dropout nói riêng gần như bị bỏ rơi vì nhiều quan sát cho rằng nó không cần thiết hoặc làm giảm chất lượng. Tuy nhiên các bằng chứng trước đây rất rời rạc: khác model, khác data, khác cách cài đặt scaling và schedule, nên chưa rõ layer dropout có thật sự có lợi ở scale hiện đại hay chỉ bị cấu hình sai.

Bài toán cốt lõi là làm sao tắt bớt ngẫu nhiên cả transformer block trong lúc train mà không làm validation loss tệ hơn dense baseline, đồng thời giữ lại khả năng chạy nhanh hơn lúc inference nhờ early exit, bỏ layer giữa chừng, hoặc self-speculative decoding.

II. Main Idea:​

Tác giả khôi phục layer dropout như một cơ chế tạo sparsity có cấu trúc cho LLM pre-training: trong mỗi bước train, với mỗi sequence, ngẫu nhiên bỏ qua toàn bộ transformer layer thay vì chỉ tắt vài neuron, rồi scale tín hiệu theo r_train = 1 / density để transfer hyperparameter ổn định qua nhiều dropout rate. Sau đó họ tối ưu đồng thời learning rate, weight decay, batch size, so sánh drop cả layer vs drop attention/FFN riêng, per-sequence vs per-batch, và nhiều phân bố theo chiều sâu cùng nhiều schedule theo thời gian.

Kết luận thực hành là dùng tăng dần dropout theo chiều sâu và giảm dần dropout theo thời gian: đầu train cho mạng thấy nhiễu mạnh để khám phá, về cuối giảm dropout để hội tụ. Vì mô hình đã học trong điều kiện thiếu layer ngẫu nhiên, cùng một bộ trọng số có thể vận hành ở độ sâu khác nhau mà không cần fine-tune.

Ví dụ đời thường: giống luyện kịch bản cho một đoàn diễn viên bằng cách thỉnh thoảng cho một số diễn viên nghỉ ngẫu nhiên giữa buổi tập; nếu cốt truyện vẫn giữ được khi thiếu người, đến hôm biểu diễn có cắt bớt vài cảnh thì vở kịch vẫn mạch lạc.

III. Main Results:​

  • Compute–accuracy trade-off: Với cấu hình đúng, layer dropout cho validation loss cạnh tranh hoặc tốt hơn dense baseline ở cùng training FLOPs; ở một số mức tiết kiệm nhỏ, mô hình 503M/906M thậm chí đạt loss thấp hơn baseline dù dùng ít FLOPs hơn.
  • Tiết kiệm train: Có thể tiết kiệm tới khoảng 25% training FLOPs trong khi giữ validation loss tương đương hoặc thấp hơn.
  • Hyperparameter transfer: Scale factor r_train = 1 / density là then chốt; nó giữ activation scale ổn định và làm optimal learning rate, batch size, AdamW time scale gần như không đổi qua nhiều dropout rate.
  • Granularity: Drop cả transformer layer tốt hơn drop riêng attention và FFN; per-sequence tốt hơn per-batch về accuracy.
  • Configuration: Non-uniform distribution tốt hơn uniform khi cùng FLOPs budget; khi scale lên, increasing layer distribution nên được ưu tiên. Decreasing time schedule vượt constant và increasing schedule ở mọi scale thử nghiệm.
  • Inference: Mô hình train với layer dropout có elastic depth zero-shot, degrade gracefully dưới early exit và layer skipping; kết hợp adapter/self-speculative decoding cho tới khoảng 1.5× inference speedup với mất accuracy không đáng kể.
  • Scale: Các kết luận được kiểm chứng qua hơn 2400 training runs, từ vài trăm triệu tới hàng tỷ tham số và token budget rất lớn.

IV. Conclusion & Future Works:​

Thông điệp chính là đừng vội bỏ dropout trong LLM training: layer dropout không nên bị loại chỉ vì activation dropout tệ ở chế độ single-epoch large-data. Khi được cấu hình đúng, nó vừa là công cụ tiết kiệm FLOPs lúc train, vừa là cách huấn luyện mô hình dẻo theo chiều sâu để inference nhanh hơn mà không đổi kiến trúc hay thêm loss phụ.

Hướng mở: thử schedule cho mid-training, SFT, continual pre-training; khám phá per-token/per-neuron dropout hoặc cách drop khác nhau giữa các device khi distributed training; giải thích vì sao drop cả layer tốt hơn drop attention/FFN riêng; và kết hợp với pruning/fine-tuning thay vì chỉ zero-shot depth adaptation.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu layer dropout cho continual pre-training và supervised fine-tuning, kiểm tra liệu decreasing schedule vẫn hiệu quả khi mô hình học thêm kỹ năng mới sau pre-training.
  2. Phát triển biến thể depth elasticity có kiểm soát cho điện thoại: chọn số layer theo độ khó prompt, nhiệt độ máy, và ngân sách pin bằng router nhẹ không đổi trọng số chính.
  3. So sánh layer dropout với kiến trúc elastic có router hoặc adapter để làm rõ khi nào tính đơn giản của stochastic depth thắng các phương pháp cần tham số bổ sung.
  4. Khảo sát an toàn và độ tin cậy của early exit/self-speculative decoding trên mô hình được train bằng layer dropout trong các tác vụ đòi hỏi ít hallucination hơn.

2. Patent:​

  1. Trợ lý AI trên điện thoại tự điều chỉnh độ sâu: với câu hỏi đơn giản, hệ thống chạy ít transformer block hơn để trả lời nhanh và mát máy; với câu hỏi phức tạp, nó dùng toàn bộ layer để giữ độ chính xác.
  2. Ứng dụng gõ phím dự đoán tiếp theo dùng chế độ nháp-nhanh-kiểm-tra: chạy một phiên bản rút gọn để sinh kháng nghị nhanh, rồi dùng đầy đủ layer để xác minh, giảm độ trễ khi vẫn kiểm soát lỗi.
  3. Hệ thống tiết kiệm pin cho model AI cục bộ: khi pin yếu hoặc máy nóng, phần mềm tự chọn điểm thoát sớm và bỏ qua một số layer đã được huấn luyện để chịu rủi ro thiếu layer mà không cần tải lại model.
  4. Dịch vụ đám mây cung cấp cùng một LLM ở nhiều mức chi phí: khách hàng chọn chế độ economy chạy ít layer hơn, chế độ premium chạy đủ layer, mọi chế độ dùng chung một bộ trọng số đã được train để chịu độ sâu biến đổi.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.05275
ArXiv Abstracthttps://arxiv.org/abs/2609.05275
PDF Downloadhttps://arxiv.org/pdf/2609.05275.pdf
Github RepositoryN/A

9. UniMate: One Unified Model to Animate Diverse Skeletons (12 votes)​

Tác giả: Linzhan Mou, Jiahui Lei, Zhiyang Dou, Chenyue Cai, Chaoyue Song, et al.

Xuất bản lúc: 2026-09-04

Tag: Diffusion Models, Motion Generation, 3D Animation, Skeletal Animation, Flow Matching, Transformers, Text-to-Motion

I. Main Problem:​

Công cụ tạo hoạt hình học (learned animators) hiện nay bị khóa cứng vào một cấu trúc skeleton cố định:

  • Phụ thuộc mẫu template từng loại (SMPL cho người, SMAL cho động vật) — không dùng được cho bộ xương khác.
  • Các mô hình topology-agnostic (GANimator, SinMDM, AnyTop) vẫn cần fine-tuning riêng cho từng skeleton hoặc motion tham chiếu lúc inference.
  • Phương pháp dựa trên mesh tốn kém (per-asset distillation) hoặc sinh biến dạng vertex mất ràng buộc động học.
  • Thêm nữa, thiếu dữ liệu motion gắn văn bản cho các cấu trúc xương đa dạng (bò sát, côn trùng, chim, rắn, vật thể khớp nối).

Hậu quả: rig 3D giờ tạo hàng loạt được, nhưng động tác để điều khiển rig vẫn là nút thắt cuối, phải làm thủ công.

II. Main Idea:​

UniMate là mô hình nền duy nhất nhận đầu vào là một asset 3D đã rig + prompt văn bản, và sinh hoạt hình cho skeleton bất kỳ trong một lần chạy feed-forward, không cần tối ưu lúc test hay huấn luyện lại.

Kiến trúc cốt lõi — Topology-Aware Diffusion Transformer (TADiT), dùng flow matching, đưa cấu trúc skeleton vào attention qua 3 cơ chế:

  • Graph-aware attention bias: khớp xương gần nhau trên cây động học chú ý mạnh hơn (theo khoảng cách geodesic và quan hệ cha-con-anh-em), nhưng vẫn giữ phối hợp toàn thân.
  • Spec-RoPE: mở rộng RoPE lên cây động học bất kỳ bằng cách lấy góc xoay từ phổ Laplacian của đồ thị skeleton — vị trí của khớp được xác định bởi vị trí nó trên cây xương chứ không phải thứ tự index; có tính chất bất biến tịnh tiến và tương đương dưới hoán vị khớp.
  • Global topological conditioner: tóm tắt toàn bộ skeleton thành một vector cố định qua attention pooling, điều chỉnh mọi transformer block.

Kèm theo là UniML3D: bộ dữ liệu mới 13,006 chuỗi motion (~20 giờ) gồm người, thú tứ chân, chim, sinh vật biển, côn trùng, rắn và vật thể khớp nối, với pipeline lọc + chuẩn hóa thống nhất và augmentation skeleton lúc train.

Ví dụ đời thường: giống một vũ công điện tử đọc được "bản đồ xương" của bất kỳ con rối nào đặt trước mặt — thay vì học riêng từng con rối, cậu ấy nhìn cấu trúc khớp của nó rồi diễn ngay động tác theo lời miêu tả, dù con rối là người, chó hay cái kẹp càng cua.

III. Main Results:​

  • Vượt AnyTop (baseline gần nhất) trên skeleton unseen: FID giảm từ 2.711 → 0.757, diversity tăng từ 8.139 → 9.200.
  • So với phương pháp không cần skeleton (AnimateAnyMesh, V2M4) trên mesh animation: tốt hơn hầu hết chỉ số VBench (OC 0.186, DD 0.833, AQ 0.544) và thắng áp đảo trong user study (điểm trung bình 4.615 so với 2.808 và 2.413), đồng thời nhanh hơn hẳn: 1.2 giây/mesh so với 1.6 giờ (V2M4) hay 15.5 giây (AnimateAnyMesh).
  • Zero-shot hỗ trợ nhiều tác vụ không fine-tune: chuyển motion qua topology khác thông qua văn bản trung gian, motion in-betweening (nội suy giữa hai tư thế đầu-cuối), motion expansion (nối dài theo chuỗi prompt), chỉnh sửa motion theo văn bản theo thời gian thực (50 FPS).
  • Sinh chuỗi dài 180 frame mà không trôi, mượt về thời gian.

IV. Conclusion & Future Works:​

UniMate chứng minh một mô hình nền duy nhất có thể học chung các prior chuyển động xuyên topology thay vì gắn cấu trúc vào kiến trúc, mở đường cho pipeline tạo nội dung 3D hoàn toàn tự động: tạo mesh → rig tự động → animate bằng văn bản. Các tác vụ zero-shot (transfer, in-betweening, expansion, editing) cho thấy mô hình đóng vai trò động cơ hoạt hình đa năng, điều khiển được. Trong bài không nêu rõ hướng mở rộng tương lai; các hướng tự nhiên gồm mở rộng dữ liệu sang nhiều nhóm sinh vật/vật thể hơn, tích hợp ràng buộc vật lý, và tăng độ dài/tính nhất quán của chuỗi sinh dài hạn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Điều kiện hóa thêm ràng buộc vật lý và tương tác môi trường (va chạm, trọng lực) lên Spec-RoPE diffusion transformer để motion sinh ra khả thi vật lý ngay, không cần hậu xử lý.
  2. Mở rộng UniML3D sang motion đa nhân vật và tương tác giữa các rig khác topology (người cưỡi ngựa, robot cầm vật) với cơ chế attention liên skeleton.
  3. Kết hợp mô hình với automatic rigging đầu vào thành pipeline end-to-end: từ ảnh/văn bản mô tả nhân vật → mesh → skeleton → animation, một mô hình thống nhất.

2. Patent:​

  1. Ứng dụng game/AR trên điện thoại: người dùng tải lên bất kỳ mô hình 3D nào (đồ chơi, thú cưng ảo, nhân vật tự tạo), gõ mô tả "con mèo nhảy qua hàng rào"; hệ thống tự rig và sinh animation ngay trên thiết bị mà không cần dữ liệu mẫu của nhân vật đó.
  2. Công cụ làm phim hoạt hình cho người không chuyên: app di động cho phép người dùng chụp ảnh đồ vật (robot đồ chơi, búp bê, mô hình xe), nhập câu mô tả hành động, hệ thống sinh video hoạt hình của chính đồ vật đó với khớp nối tự động phát hiện.
  3. Thư viện motion điện toán đám mây đa nền tảng: dịch vụ lưu trữ động tác dưới dạng prompt văn bản, khi người dùng đổi sang nhân vật mới hệ thống tự áp dụng lại hành vi đó lên skeleton mới mà không cần ánh xạ khớp thủ công.
  4. Thiết bị tạo nội dung giáo dục/sở thú ảo: giáo viên nhập mô tả sinh vật (khủng long, bạch tuộc) và hành động, hệ thống hiển thị ngay sinh vật 3D chuyển động đúng cấu trúc xương để minh họa bài giảng sinh học.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.05415
ArXiv Abstracthttps://arxiv.org/abs/2609.05415
PDF Downloadhttps://arxiv.org/pdf/2609.05415.pdf
Github Repositoryhttps://github.com/Friedrich-M/UniMate

10. Beneath the Surface of Chains-of-Thought: A Mechanistic Interpretation of Reasoning Operations in LLMs (10 votes)​

Tác giả: Seogyeong Jeong, Jaehui Hwang, Dongyoon Han, Geonmo Gu, Alice Oh, et al.

Xuất bản lúc: 2026-09-04

Tag: LLMs, Chain-of-Thought, Mechanistic Interpretability, Representation Geometry, Reasoning, Probing, Hidden States

I. Main Problem:​

Các LLM reasoning hiện đại ngày càng được tối ưu trên chính quá trình suy luận (không chỉ đáp án cuối), nhưng ta gần như không biết gì về cấu trúc bên trong mà các mục tiêu huấn luyện này đang định hình:

  • chain-of-thought (CoT) chứa nhiều phép toán lập luận khác nhau (phân tích đề, phân rã bài toán, suy diễn, tính toán...) được phân biệt rõ ở mức văn bản
  • nhưng các phép toán này được tổ chức hình học thế nào trong không gian representation ẩn thì chưa ai kiểm chứng
  • chưa rõ tín hiệu operation có thật sự vượt qua định danh từ vựng, vị trí token, hay độ đúng/sai của phép tính không.

II. Main Idea:​

Phân tích hình học của các reasoning operation trong hidden representations của LLM. Quy trình:

  • dùng khung giải bài toán của Pólya (How to Solve It) để gán nhãn 8 operation lặp lại thường xuyên: Extraction, Direct mapping, Decomposition, Recall, Deduction, Algebraic manipulation, Arithmetic computation, Final answer (GPT-5 gán nhãn, con người xác thực)
  • trích hidden states từng span, fit PCA + LDA và định nghĩa reasoning-vector một-vs-rest cho từng operation, đo alignment trên tập held-out
  • kiểm chứng bằng loạt kiểm soát gian lận (chỉ text, chỉ vị trí, từ vựng của operation đối thủ, mật độ chữ số) và can thiệp attention masking để kiểm tra quan hệ nhân quả

Kết quả cốt lõi: operation là tách biệt được trong representation, đỉnh ở lớp giữa; tín hiệu lan từ cue token cục bộ (lớp sớm) sang phân bố khắp span (lớp giữa); ngay cả token giống hệt nhau cũng được biểu diễn khác nhau tùy operation của đoạn xung quanh; và representation phụ thuộc nhân quả vào ngữ cảnh lập luận trước đó.

Ví dụ đời thường: giống người đọc một bài giải toán — cụm từ giống hệt nhau ("ta có", "suy ra") nhưng khi nằm trong đoạn "tách bài toán" hay đoạn "tính nhẩm", người đọc ngầm hiểu vai trò khác nhau; và vai trò đó chỉ xác định được nhờ đọc cả đoạn trước, chứ không phải riêng câu đang đọc.

III. Main Results:​

  • Separability mạnh ở middle layers: peak AUROC one-vs-rest cao trên Qwen2.5-7B, Qwen3-8B, Gemma4-31B, vượt rõ baseline ngẫu nhiên; vẫn đứng khi bỏ LDA (chỉ PCA + class-mean direction).
  • Không giải thích được bằng lexical/positional confounds: text-only classifier thấp hơn probe ẩn (AUROC thấp hơn 0.041–0.097); position-only còn thấp hơn nhiều; probe vẫn chính xác trên span chứa từ vựng của operation đối thủ (AUROC ~0.92) và trên span mật độ chữ số/công thức cao.
  • Khái quát hóa tốt: probe Qwen3-8B chuyển zero-shot sang GPQA-Diamond (0.938/0.764) và MATH-500 (0.948/0.799); Llama-3-8B cũng cho kết quả tương tự (0.958/0.840).
  • Tín hiệu phân bố theo span: intra-span variance giảm ở lớp giữa — operation alignment lan khắp span thay vì dồn vào vài cue token; token bề mặt giống nhau tách rõ theo hướng operation riêng ở lớp giữa–cuối.
  • Nhân quả: masking attention tới 30 token ngay trước chunk làm giảm alignment với operation của chunk, chứng tỏ operation representation phụ thuộc ngữ cảnh trước.
  • Lỗi thực thi: geometry vẫn tồn tại khi phép tính sai (AUROC 0.955 vs 0.971 trên span không lỗi), nhưng suy giảm — rõ nhất ở Deduction và Arithmetic Computation, ít nhất ở Recall.

IV. Conclusion & Future Works:​

LLM duy trì tương ứng biểu diễn giữa các biểu đạt lập luận ngôn ngữ trên văn bản và tổ chức hình học bên trong — reasoning là quá trình có cấu trúc, phân tầng và phụ thuộc ngữ cảnh, không phải chuỗi token đồng nhất. Hướng tương lai: (1) mở rộng sang suy luận commonsense, planning, code generation; (2) kiểm chứng annotation ở quy mô lớn hơn cho cả nhãn lẫn ranh giới span; (3) chuyển từ phân tích chẩn đoán sang can thiệp — dùng reasoning-vector cho phát hiện lỗi suy luận, verification, kiểm soát decoding-time và activation steering.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Kiểm soát suy luận tại thời điểm sinh: dùng reasoning-operation vectors để phát hiện sớm bước lập luận sai và can thiệp steering vào latent space trước khi lỗi lan ra đáp án cuối.
  2. Mở rộng geometry của reasoning operation sang tác vụ commonsense reasoning và code generation, kiểm tra tính bền của cấu trúc operation-level ngoài bài toán toán học.
  3. Học representation cấp reasoning span cho agent đa bước: dự đoán loại bước tiếp theo từ hidden states để định tuyến lại chiến lược suy luận (tự kiểm tra, backtracking) một cách có chủ đích.

2. Patent:​

  1. Trợ lý học toán trên điện thoại tự chẩn đoán lỗi suy luận: ứng dụng phân tích hidden states theo từng bước giải để chỉ ra chính xác đoạn học sinh vi phạm (nhầm công thức hay tính sai) thay vì chỉ chấm đáp án cuối.
  2. Bộ lọc an toàn cho chatbot reasoning: module kiểm tra liên tục operation-geometry trong quá trình sinh, phát hiện bước lập luận lệch khỏi ngữ cảnh trước đó và tự động yêu cầu mô hình kiểm tra lại bước đó.
  3. Công cụ chấm bài tự luận tự động: thay vì so khớp văn bản, hệ thống so sánh chuỗi reasoning operations (phân tích đề → phân rã → suy diễn → tính toán) giữa bài học sinh và lời giải chuẩn để chấm điểm tư duy trên điện thoại.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.04753
ArXiv Abstracthttps://arxiv.org/abs/2609.04753
PDF Downloadhttps://arxiv.org/pdf/2609.04753.pdf
Github Repositoryhttps://github.com/naver-ai/beneath-cot