Chuyển tới nội dung chính

🤗 Daily Hugging Face Paper Digest - 2026-08-21

Báo cáo được tạo tự động vào lúc 2026-08-22 10:16:55 bằng mô hình hermes-agent.

📰 Summary of Papers​

1. EnvHarness: Awakening Static Worlds for Agent Learning (237 votes)​

Tác giả: Chengsong Huang, Zifeng Wang, Rujun Han, Jun Yan, Yanfei Chen, et al.

Xuất bản lúc: 2026-08-20

Tag: LLM Agents, Reinforcement Learning, Environment Generation, Curriculum Learning, Automated Environment Design

I. Main Problem:​

Các tác nhân LLM học bằng cách tương tác với môi trường, nhưng môi trường hiện tại được xây dựng thủ công và tĩnh: chúng không nhận biết được điểm yếu của tác nhân, nhanh chóng trở nên vô dụng khi tác nhân tiến bộ, và tốn rất nhiều công sức để xây dựng lại. Các phương pháp tự động sinh môi trường tuy có thể mở rộng nhưng lại:

  • bị giới hạn theo từng miền (web, lập trình, công cụ)
  • phụ thuộc vào bộ kiểm tra (verifier) đắt đỏ và không đáng tin
  • vẫn tạo ra các môi trường tĩnh, không đồng hành cùng tác nhân phát triển.

II. Main Idea:​

EnvHarness là một lớp lập trình được bao quanh một môi trường tĩnh đã có, biến nó thành môi trường điều chỉnh động mà không sửa đổi logic nội bộ hay verifier gốc. Tương tự như agent harness trang bị thêm bộ nhớ, công cụ cho LLM, EnvHarness trang bị cho môi trường ba thành phần cắm thêm:

  • Stage: thay đổi trạng thái ban đầu (ví dụ giấu vật phẩm, rút ngắn đoạn đầu)
  • Contract: viết lại không gian hành động/quan sát và luật chuyển trạng thái (ví dụ chặn lệnh dịch chuyển, cắt bớt mô tả)
  • Chain: nối nhiều môi trường thành tác vụ dài hạn

Cả ba hoạt động qua giao diện chuẩn reset/step/obs nên chuyển được giữa các miền khác nhau. Để tự động hóa, EnvRigger xem chính sách như hộp đen, quan sát các quỹ đạo thành công và thất bại, chẩn đoán lỗi, viết thành phần phù hợp, rồi kiểm chứng bằng rollouts mới — lặp lại cho đến khi môi trường đủ khó nhưng vẫn giải được.

Ví dụ đời thường: giống như huấn luyện viên cá nhân điều chỉnh máy tập gym (tăng trọng lượng, đổi tư thế bắt đầu, ghép nhiều bài tập thành circuit) để ép cơ yếu của học viên làm việc, trong khi vẫn giữ nguyên các máy tập gốc.

III. Main Results:​

  • Hiệu quả học kỹ năng: trên 5 benchmark thuộc 4 miền (ALFWorld, WebArena, SWE-bench Verified, OfficeQA, SpreadsheetBench), EnvHarness vượt môi trường gốc lẫn các pipeline sinh môi trường chuyên biệt.
  • Tăng điểm nhiều nhất +9.0 trên các tác vụ held-out (ALFWorld), +2.70 điểm trên SWE-bench Verified so với SWE-smith.
  • Giảm 9.8% số bước thực thi trên SWE-bench Verified (từ ~55.0 xuống ~49.6 bước), trong khi môi trường gốc lại làm tăng bước.
  • Học tăng cường (RL): chính sách huấn luyện trên môi trường EnvHarness đạt +6.5 điểm trên ALFWorld in-dist và +3.6 điểm WebShop score.
  • Mở rộng liên tục: khi số lượng môi trường tăng, EnvHarness vẫn cải thiện trong khi môi trường thật và môi trường sinh bão hòa.

IV. Conclusion & Future Works:​

EnvHarness thay đổi cách nghĩ về dữ liệu huấn luyện cho tác nhân: thay vì xây môi trường mới, nó đánh thức môi trường tĩnh sẵn có qua lớp bao giao diện, giữ nguyên verifier đáng tin và cho phép đồng tiến hóa liên tục giữa chính sách và môi trường. Hướng tương lai bao gồm mở rộng bộ thành phần, tích hợp mô hình môi trường neuron cho thế giới thực bán quan sát, và áp dụng cho các miền đòi hỏi an toàn cao.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng EnvHarness cho môi trường đa tác nhân, trong đó các thành phần Chain và Contract điều phối luân phiên vai trò và ràng buộc chung giữa nhiều agent.
  2. Kết hợp EnvHarness với mô hình môi trường học sâu để tự động điều chỉnh môi trường trong các tình huống thực tế bán quan sát hoặc ngẫu nhiên.
  3. Nghiên cứu đồng tiến hóa lâu dài: khi chính sách và môi trường cùng cải thiện qua nhiều vòng lặp EnvRigger, làm sao tránh vòng lặp cực đoan và duy trì tính tổng quát hóa.

2. Patent:​

  1. Ứng dụng luyện phỏng vấn lập trình trên điện thoại: bao quanh các bài LeetCode/HackerRank tĩnh bằng EnvHarness để tự động che gợi ý, giảm giới hạn thời gian, hoặc thêm lỗi ngầm vào đề bài dựa trên các dạng sai mà người dùng thường mắc.
  2. Trợ lý học ngoại ngữ trên smartphone: đóng gói các hội thoại mẫu thành Stage (bối cảnh mở đầu khác nhau) và Contract (giới hạn từ vựng được dùng, ẩn gợi ý) để cá nhân hóa bài tập theo điểm yếu ngữ pháp/từ vựng của người học.
  3. Nền tảng đào tạo kỹ năng mềm/kinh doanh: ghép nhiều tình huống mô phỏng (Chain) thành một ngày làm việc liên tục, tự động điều chỉnh mức độ khó và phản hồi dựa trên cách người dùng xử lý từng tình huống nhỏ.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.19880
ArXiv Abstracthttps://arxiv.org/abs/2608.19880
PDF Downloadhttps://arxiv.org/pdf/2608.19880.pdf
Github Repositoryhttps://github.com/google-research/envharness

2. FACET: Preserving Source Intent and Executable State in Terminal Task Synthesis (108 votes)​

Tác giả: Kou Shi, Zun Wang, Qisheng Su, Shiting Huang, Ziao Zhang, et al.

Xuất bản lúc: 2026-08-19

Tag: Terminal Agents, Task Synthesis, Executable Supervision, Agentic Scenario Reconstruction, Environment-Grounded Generation, LLM Fine-Tuning

I. Main Problem:​

Tổng hợp nhiệm vụ terminal chất lượng cao gặp hai thách thức chính:

  • Mất thông tin nguồn: kỹ năng gốc chứa dependencies, trạng thái trung gian, hợp đồng I/O và ràng buộc thủ tục, nhưng qua nhiều giai đoạn sinh, chúng bị nén thành mô tả nông cạn.
  • Artifacts rời rạc: instruction, environment, solution và verifier được sinh từ các giả định khác nhau, dễ dẫn đến file không tồn tại, schema sai hoặc verifier kiểm tra trạng thái không thể đạt được. Kết quả là nhiệm vụ không thể giải hoặc bị đánh giá sai.

II. Main Idea:​

FACET (Fine-grained Agentic Construction of Executable Tasks) là framework tổng hợp nhiệm vụ terminal từ kỹ năng agent. Thay vì dịch trực tiếp kỹ năng thành task, FACET:

  • Tái cấu trúc kịch bản: phân tích kỹ năng, khám phá ngữ cảnh ứng dụng, liên kết cross-skill dependencies, phục hồi workflow liên tục và mô tả theo 5 chiều (goal, context, capability, state, I/O & tools).
  • Xây dựng môi trường trước: container thực được dựng và sửa chữa, sau đó trở thành ngữ cảnh chung (shared grounding) cho instruction, solution và verifier.
  • Sinh tuần tự + sửa có nhắm: instruction → solution → verifier, chỉ sửa artifact bị lỗi thay vì sinh lại toàn bộ.

Ví dụ đời thường: giống như thầy dạy nghề không chỉ đọc sách hướng dẫn mà dựng một xưởng thực tế, sửa máy móc cho đúng, rồi mới viết bài tập, đáp án và bảng kiểm tra dựa trên cùng một xưởng đó.

III. Main Results:​

  • Sinh được 6.078 nhiệm vụ hợp lệ và 1.2K quỹ đạo thành công, với trung bình 22.77 checkpoint kiểm tra mỗi nhiệm vụ — nhiều hơn các bộ dữ liệu terminal hiện có.
  • Fine-tune Qwen3.5 trên Terminal-Bench 2.1:
    • 4B: 17.60 → 24.72 (+7.12, +40.5% tương đối)
    • 9B: 27.34 → 35.58 (+8.24)
    • 27B: 40.82 → 47.57 (+6.75), gần với Qwen3.5-397B (49.06) dù nhỏ hơn ~15×.
  • Thứ tự sinh Forward (I→S→V) đạt tỷ lệ hợp lệ cao nhất (46.5% ban đầu, 83/100 sau sửa), vượt trội so với Reverse (p=0.0017) và Joint (p=0.233), chứng minh solution-aware verifier cải thiện sự nhất quán.
  • Phân tích cho thấy 54% thất bại chỉ vi phạm 1–2 kiểm tra còn lại, làm lộ rõ khoảng cách giữa tiến bộ cục bộ và thành công toàn cục.

IV. Conclusion & Future Works:​

FACET cho thấy bảo toàn ý định nguồn và neo vào trạng thái thực thi là hai nguyên tắc then chốt để tổng hợp nhiệm vụ terminal có thể mở rộng. Hướng tương lai: mở rộng nguồn procedural knowledge đa dạng hơn, áp dụng các môi trường tương tác phong phú hơn, và dùng các nhiệm vụ cùng phản hồi thực thi để huấn luyện reinforcement learning cải thiện agent liên tục.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng nguyên tắc bảo toàn ý định nguồn và executable-state grounding sang tổng hợp nhiệm vụ cho GUI agent và web agent, nơi trạng thái thực cũng cần được dựng trước khi sinh instruction/solution/verifier.
  2. Sử dụng các checkpoint kiểm tra dày đặc trong dữ liệu FACET làm tín hiệu reward chi tiết cho reinforcement learning nhằm cải thiện khả năng tuân thủ từng ràng buộc của terminal agent.
  3. Xây dựng đồ thị kỹ năng đa miền để tự động phát hiện kịch bản liên kết và dependencies giữa các kỹ năng agent, từ đó tổng hợp nhiệm vụ phức tạp mà không cần thiết kế thủ công.

2. Patent:​

  1. Hệ thống tự động tổng hợp bài tập terminal từ thư viện kỹ năng: dựng container thực, sinh instruction/solution/verifier nhất quán để huấn luyện coding agent trong sandbox cô lập.
  2. Nền tảng đào tạo agent dòng lệnh trên điện thoại di động: người dùng mô tả nhiệm vụ qua giao diện điện thoại, hệ thống cấp phát sandbox, sinh solution tham chiếu và bộ kiểm tra, chấm điểm agent trong môi trường thực thi.
  3. Công cụ sửa lỗi có nhắm cho nhiệm vụ lập trình: tự xác định artifact nào (instruction, solution, verifier, environment) gây lỗi thực thi và chỉ sửa phần đó, giảm chi phí tạo dữ liệu huấn luyện cho agent lập trình.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.18580
ArXiv Abstracthttps://arxiv.org/abs/2608.18580
PDF Downloadhttps://arxiv.org/pdf/2608.18580.pdf
Github Repositoryhttps://github.com/StoKou/FACET-Terminal

3. 4DAnyone: Create Anyone in 4D from a Casual Monocular Video (58 votes)​

Tác giả: Yudong Jin, Tao Xie, Qihang Zhang, Zehong Shen, Zhen Xu, et al.

Xuất bản lúc: 2026-08-20

Tag: 4D Reconstruction, Human Avatar, Video Diffusion, 4D Gaussian Splatting, Multi-View Generation, Diffusion Transformers

I. Main Problem:​

Tái tạo con người 4D (không gian + thời gian) từ một video đơn ống kính thông thường — quay tay, chuyển động nhẹ, không biết tham số camera — để xem tự do từ mọi góc vẫn còn là thách thức lớn. Các phương pháp hiện có gặp vấn đề khi mở rộng:

  • Các mô hình diffusion video điều khiển camera tạo được video góc mới trực quan nhưng mất tính nhất quán khi cần hàng chục góc nhìn để xây dựng 4DGS.
  • Tái tạo trực tiếp từ video đơn thì khó ảo giác vùng bị che và không lấy lại được camera, khiến chất lượng bị giới hạn.
  • Nguyên nhân sâu xa: context attention của DiT bị giới hạn bởi bộ nhớ; khi số góc nhìn target vượt quá khả năng một lần forward, phải chia nhóm, dẫn đến rời rạc về màu sắc và cấu trúc.

II. Main Idea:​

4DAnyone tạo video đa góc đủ nhất quán để đẩy lên 4D Gaussian Splatting (4DGS) bằng ba thiết kế chính:

  • 3D-aware skeleton conditioning: dùng bộ xương 3D thưa (40 điểm then chốt) thay vì depth dày đặc không tin cậy. Xương được render với z-buffer độ sâu để giải quyết mơ hồ trước-sau, giúp điều khiển hình học chính xác mà vẫn để mô hình học chi tiết màu sắc, quần áo, biểu cảm.
  • Reference Context Packing (RCP): nén các góc đã sinh trước đó thành một context cố định với độ phân giải hỗn hợp, giảm độ phức tạp tham chiếu từ O(N) xuống O(1), giữ được thông tin màu sắc toàn cục mà không tràn bộ nhớ.
  • Target Context Routing (TCR): trong giai đoạn nhiễu cao, xoay vòng cách nhóm các góc target để thông tin cấu trúc toàn cục lan tỏa giữa các nhóm; ở giai đoạn nhiễu thấp, giữ cố định các nhóm góc liền kề để tinh chỉnh chi tiết địa phương ổn định.

Ví dụ đời thường: giống như một thợ may may áo dài từ một tấm ảnh chụp trước ngực — thay vì cố nhớ toàn bộ chi tiết, thợ chụp thêm vài góc rồi ghép lại theo khung xương áo (RCP nén thông tin, TCR xoay khung để kiểm tra đối xứng), cuối cùng dựng được mô hình 3D mặc thử từ mọi phía.

III. Main Results:​

  • Trên DNA-Rendering và DyMVHumans, 4DAnyone vượt các baseline MV-Performer, TrajectoryCrafter, ReCamMaster† trên cả ba khía cạnh:
    • Generated video consistency: PSNR 24.33 vs 21.47 tốt nhất baseline (DNA), chứng tỏ video đa góc đồng nhất để xây 4DGS.
    • 4DGS reconstruction: PSNR 24.15 vs 20.55 (DNA), SSIM và LPIPS cũng dẫn đầu.
    • Generated video reconstruction: PSNR 23.69 vs 20.74 (DNA), tức góc nhìn mới vừa trung thực vừa nhất quán.
  • Ablation: thiếu cả RCP và TCR cho PSNR chỉ 21.09; thiếu từng thành phần đều sụt; chỉ có chiến lược Sliding trong TCR cải thiện toàn diện, cho thấy hai module bổ trợ lẫn nhau.
  • In-the-wild: hoạt động tốt với video ngoài trời, nguồn lưng, chuyển động phức tạp và trang phục khó.

IV. Conclusion & Future Works:​

4DAnyone cho thấy có thể tái tạo người 4D chất lượng cao từ một video đơn giản không cần hiệu chuẩn, bằng cách kết hợp điều kiện hình học thưa tin cậy (bộ xương 3D) với hai cơ chế context (RCP + TCR) để mở rộng quy mô đa góc cho 4DGS. Hướng tương lai: giải quyết các trường hợp cực kỳ khó như tương tác với vật thể khác, cải thiện chi tiết ngón tay/khuôn mặt mà không cần keypoint dày đặc, và tối ưu tốc độ inference để chạy real-time trên thiết bị người dùng.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Kết hợp 4DAnyone với mô hình ngôn ngữ-vision để tái tạo 4D từ video kèm mô tả văn bản, cho phép điều chỉnh nội dung sinh theo hướng dẫn ngôn ngữ.
  2. Mở rộng RCP/TCR cho cảnh tĩnh tổng quát ngoài con người, kiểm tra xem cơ chế context có thể đóng vai trò như một lớp plug-in cho các mô hình multi-view diffusion khác hay không.
  3. Phát triển phương pháp tự hiệu chuẩn camera và ánh sáng từ video đơn, giảm dần sự phụ thuộc vào bộ xương 3D để áp dụng cho đối tượng không phải người.

2. Patent:​

  1. Ứng dụng quay chân dung 3D trên điện thoại: người dùng quay một vòng ngắn quanh chủ thể hoặc tự quay camera nhẹ; ứng dụng sinh video đa góc nhất quán và xuất avatar 4DGS có thể xoay, zoom, ghép vào AR/VR trên thiết bị di động.
  2. Hệ thống thử đồ ảo thời gian thực: từ một video người mẫu đi bộ quay bằng điện thoại thông thường, tạo mô hình 4D người mặc quần áo để người mua xem từ mọi góc và với động tác tự nhiên trong app thương mại điện tử.
  3. Công cụ sản xuất nội dung volumetric cho live concert/streaming: dùng một camera duy nhất quay nghệ sĩ biểu diễn, sau đó tự động sinh góc quay ảo và tái tạo 4DGS để người xem tự do chọn góc nhìn trong trải nghiệm VR.
  4. Giải pháp lưu trữ di sản văn hóa sống động: quay video ngắn nghệ nhân hoặc vũ công bằng smartphone, rồi dựng mô hình 4D để trưng bày tại bảo tàng số với khả năng xem từ mọi hướng mà không cần dàn camera chuyên nghiệp.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.20335
ArXiv Abstracthttps://arxiv.org/abs/2608.20335
PDF Downloadhttps://arxiv.org/pdf/2608.20335.pdf
Github Repositoryhttps://github.com/ant-research/4DAnyone

4. SWE-bench Science: Can Coding Agents Resolve Engineering Tasks in Science? (57 votes)​

Tác giả: Zhipeng Xu, Jiahao Lu, Yining Zheng, Yuxin Wang, Xipeng Qiu

Xuất bản lúc: 2026-08-20

Tag: Software Engineering, Coding Agents, Benchmarks, Scientific Computing, LLMs, SWE-bench

I. Main Problem:​

Phần mềm khoa học giờ là một phần của thiết bị nghiên cứu — lỗi code không chỉ làm chương trình chạy sai mà còn làm hỏng bằng chứng khoa học. Tuy nhiên, các benchmark hiện tại chỉ đo tỷ lệ hoàn thành tổng hợp, che giấu lý do tác nhân viết code thất bại trên phần mềm khoa học. Điều đó khiến việc cải thiện tác nhân trở nên mù mờ.

II. Main Idea:​

Bài báo giới thiệu SWE-bench Science, benchmark sửa chữa phần mềm khoa học ở cấp repository gồm 119 tác vụ từ 98 repo GitHub, trải rộng 20 lĩnh vực khoa học. Mỗi tác vụ thuộc một trong ba dạng:

  • Issue-driven: sửa lỗi đã biết.
  • Expert-exploratory: tự động điều tra nguyên nhân gốc rễ chưa rõ.
  • Engineering-integration: kết nối nhiều module để hoàn thành chuỗi năng lực đầu-cuối.

Bên cạnh đo điểm, tác giả phân tích thủ công các lần sửa thất bại qua bốn cơ chế lặp lại, và tiến hành ablation có cặp để loại bỏ thông tin khoa học bổ sung nhưng giữ nguyên repo và ngữ cảnh thực thi.

Ví dụ đời thường: giống như thợ máy không chỉ đọc sách hướng dẫn mà còn phải hiểu vật lý của máy — đôi khi thêm tài liệu giúp sửa nhanh, đôi khi lại khiến thợ bám vào giả thuyết sai mà quên kiểm tra động cơ thực tế.

III. Main Results:​

  • 119 tác vụ / 98 repo / 20 lĩnh vực, hóa học chiếm nhiều nhất (24), tiếp theo là vật liệu (16), sinh học (13), y-sinh (12), vật lý (11).
  • Cả tác nhân hàng đầu cũng không đạt Pass@1 ≥ 50%: Claude-Opus-5 dẫn đầu với 47,90%, GPT-5.6-sol đạt 46,22%, DeepSeek-V4-Pro đạt 42,02%.
  • GPT-5.6-sol mạnh nhất ở private score, Fail2Pass và Pass2Pass — sửa lỗi ẩn tốt và không phá test cũ.
  • DeepSeek-V4-Pro đạt public score cao nhất và dẫn nhóm Engineering-integration (44,44%).
  • Bốn cơ chế thất bại chính: thiếu kiến thức/abstraction khoa học, khám phá sai/sửa bề mặt, sửa không đủ/tích hợp hệ thống kém, và không khái quát hóa kiến thức khoa học.
  • Ablation cho thấy kiến thức khoa học không lúc nào cũng có lợi: hướng dẫn căn cứ tốt giúp giảm phạm vi sửa, tăng điểm trung bình và tiết kiệm token; hướng dẫn không khớp gây hiệu ứng neo (anchoring) mà không cải thiện exact repair success.

IV. Conclusion & Future Works:​

SWE-bench Science cho thấy sửa phần mềm khoa học khó hơn benchmark thông thường vì đòi hỏi kết hợp kiến thức khoa học, khám phá có kỷ luật, sửa đúng phạm vi hệ thống và khái quát hóa. Hướng đi tương lai cần xây dựng tác nhân có abstraction khoa học vững, cơ chế kiểm chứng độc lập khỏi public test, và cách trình bày thông tin nền để tránh anchoring.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng SWE-bench Science sang nhiều lĩnh vực khoa học hơn và tác vụ dài hạn hơn (long-horizon) để đo khả năng bảo trì phần mềm khoa học thực tế.
  2. Xây dựng coding agent với module suy luận khoa học tường minh, có thể tạo giả thuyết và kiểm chứng bằng thí nghiệm ảo trước khi sửa code.
  3. Nghiên cứu cách trình bày auxiliary scientific knowledge trong prompt để tối đa hóa lợi ích và giảm anchoring khi sửa phần mềm khoa học.

2. Patent:​

  1. Ứng dụng điện thoại hỗ trợ debug code khoa học: quét repository, nhận diện lĩnh vực khoa học, đọc issue và gợi ý giả thuyết nguyên nhân dựa trên nguyên lý domain-specific.
  2. Plugin IDE cho code khoa học: khi lập trình viên sửa code, plugin kiểm tra xem thay đổi có vi phạm invariant khoa học, đơn vị vật lý, hoặc abstraction toán học hay không.
  3. Hệ thống regression test thông minh cho phòng thí nghiệm: tự động sinh test khoa học ẩn từ bài báo và dữ liệu tham chiếu để đảm bảo mỗi bản patch không làm méo mó kết luận nghiên cứu.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.19799
ArXiv Abstracthttps://arxiv.org/abs/2608.19799
PDF Downloadhttps://arxiv.org/pdf/2608.19799.pdf
Github Repositoryhttps://github.com/OpenMOSS/SWE-bench-Science

5. WithEveryone: Unified Planning and Identity Grounding for Group Image Generation (38 votes)​

Tác giả: Hengyuan Xu, Qixun Wang, Yiji Cheng, Miles Yang, Zhao Zhong, et al.

Xuất bản lúc: 2026-08-20

Tag: Diffusion, Identity-Preserving Generation, Group Image Generation, Flow Matching, Unified Multimodal Models, Computer Vision

I. Main Problem:​

Sinh ảnh giữ nguyên danh tính (identity-preserving generation) trở nên không đáng tin khi phải tạo một cảnh với nhiều người được chỉ định (5–10 người). Các hệ thống hiện tại thường chỉ đáp ứng 1–5 danh tính, hoặc tối đa 7 người ở các hệ thống mạnh nhất. Khi số lượng danh tính tăng lên:

  • Tín hiệu danh tính bị pha loãng trong context chung
  • Xuất hiện trùng lặp khuôn mặt, gộp danh tính, hoặc gán sai người
  • Các hàm loss danh tính hiện tại dùng embedding matching giữa khuôn mặt sinh ra và khuôn mặt tham chiếu, nhưng trong quá trình huấn luyện nhiễu, các khuôn mặt gần như giống hệt nhau nên việc ghép cặp trở nên gần như ngẫu nhiên, khiến supervision triệt tiêu lẫn nhau.
  • Quan hệ không gian, tư thế, vị trí giữa nhiều người ngày càng phức tạp, một người đặt sai sẽ làm lỗi lan ra toàn bố cục.

II. Main Idea:​

WithEveryone là một khung unified multimodal model (UMM) sinh ảnh nhóm từ 5–10 danh tính tham chiếu trong một context thống nhất. Quy trình:

  • ID token: mỗi danh tính được chọn được trích xuất embedding ArcFace, chiếu thành một token địa chỉ hóa (addressed token) thay vì một “bể” token không có thứ tự.
  • Layout Chain of Thought (Layout CoT): model tự suy luận tự động về danh sách người tham gia, ghép danh tính–bố cục, dự đoán vùng mặt, vùng cơ thể, và keypoint tư thế bằng vốn từ tọa độ rời rạc.
  • Renderer: chuyển Layout CoT thành một ảnh điều kiện trực quan (face bbox, body bbox, pose skeleton, ảnh tham chiếu dán tạm) để điều khiển quá trình sinh ảnh flow matching.
  • ID Representation Forcing: trước khi sinh ảnh, model phải dự đoán một representation cho mỗi danh tính và căn chỉnh với embedding ArcFace mục tiêu, buộc các danh tính vẫn “có thể truy cập” trong context chung.
  • Layout-Grounded ID Loss (LG-ID Loss): thay vì dùng Hungarian matching trên khuôn mặt sinh ra, loss này cắt vùng mặt đã được chú thích trong layout để so sánh trực tiếp với danh tính mục tiêu, loại bỏ hoàn toàn vấn đề ghép cặp sai.

Ví dụ đời thường: giống như thợ chụp ảnh nhóm tổ chức một buổi kỷ yếu — trước khi bấm máy, anh ta lập danh sách ai đến, phân công vị trí đứng, dựng khung hình trên giấy, rồi mới đưa khung hình đó làm “bản phác thảo” cho máy ảnh, thay vì để mọi người tự chen vào và hy vọng không ai bị che mặt hay trùng nhau.

III. Main Results:​

  • Trên benchmark 5–10 người (210 ví dụ, identity-disjoint với training):
    • Sim(Tgt) cao nhất: 0.499 so với 0.462 của GPT-Image 2, cho thấy khuôn mặt sinh ra khớp nhất với danh tính trong ngữ cảnh mục tiêu.
    • Copy-Paste score chỉ 0.055, thấp hơn nhiều so với 0.169 của GPT-Image 2, nghĩa là độ tương đồng không đến từ việc “dán” khuôn mặt tham chiếu nguyên xi.
    • Coverage đạt 97.3%, tức gần như không bỏ sót danh tính nào; duplicate rate chỉ 2.8%, ít trùng lặp nhất trong các hệ thống so sánh.
    • CLIP-I đạt 0.861, cao nhất trong các phương pháp so sánh; DINO-I 0.716, CLIP-T 0.273.
  • Khi tăng số danh tính từ 5 lên 10, WithEveryone duy trì điểm ArcFace tốt hơn và độ suy giảm chậm hơn rõ rệt so với GPT-Image 2, UMO, v.v.
  • Ablation cho thấy LG-ID Loss là nguồn cải thiện danh tính lớn nhất (Sim(Tgt) tăng từ 0.304 lên 0.435 khi chỉ thêm loss này), trong khi Layout CoT và ID Representation Forcing cũng đóng góp vào bố cục và khả năng địa chỉ hóa danh tính.

IV. Conclusion & Future Works:​

WithEveryone chứng minh rằng việc liên kết rõ ràng danh tính với bố cục (identity–layout grounding) trong một context duy nhất cho phép sinh ảnh nhóm lớn mà không cần sao chép trực tiếp khuôn mặt tham chiếu. LG-ID Loss loại bỏ điểm yếu của matching dựa trên embedding trong quá trình huấn luyện, mở rộng giới hạn từ 1–2 người lên 5–10 người. Hướng tương lai: nâng cao chất lượng Layout CoT (gap giữa model layout và ground-truth layout vẫn là nguồn lỗi lớn), mở rộng cho nhóm lớn hơn 10 người, cải thiện xử lý các tư thế phức tạp và tương tác cơ thể, và giảm thiểu các artifact ở vùng chồng chéo.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng LG-ID Loss cho các tác vụ sinh ảnh đa đối tượng nói chung (không chỉ người) bằng cách dùng mask/bbox chú thích thay vì matching ngầm trong không gian embedding.
  2. Kết hợp WithEveryone với mô hình video để sinh video nhóm từ nhiều danh tính tham chiếu, duy trì tính nhất quán danh tính và bố cục trên nhiều khung hình.
  3. Nghiên cứu phương pháp tự động xây dựng ground-truth layout từ ảnh nhóm thực tế và từ mô tả văn bản, nhằm huấn luyện planner chính xác hơn mà không cần chú thích thủ công đắt đỏ.
  4. Áp dụng tư tưởng representation forcing cho các điều kiện điều khiển khác trong diffusion (style, camera pose, lighting) để tăng cường khả năng địa chỉ hóa các tín hiệu điều kiện trong context dài.

2. Patent:​

  1. Ứng dụng di động tạo ảnh nhóm từ ảnh riêng lẻ: người dùng chọn 5–10 ảnh thẻ/selfie của bạn bè trên điện thoại, nhập prompt về phong cách và bối cảnh, ứng dụng tự lập bố cục rồi sinh ảnh nhóm mọi người cùng xuất hiện một cách tự nhiên — hữu ích cho ảnh lớp, ảnh công ty, hoặc kỷ niệm nhóm khi không thể tụ họp.
  2. Tính năng thêm người vào ảnh nhóm đã có trong ứng dụng chỉnh sửa ảnh: người dùng chọn một ảnh nhóm hiện có và một vài ảnh của người muốn thêm; hệ thống tự động tính toán vị trí, tỷ lệ, ánh sáng, tư thế phù hợp để ghép người mới vào mà không bị chồng khung hay lệch phối cảnh.
  3. Dịch vụ ảnh sự kiện ảo cho nền tảng mạng xã hội: tổ chức sự kiện trực tuyến, hệ thống thu thập ảnh chân dung của người tham dự và sinh ảnh nhóm chung theo chủ đề sự kiện (lễ tốt nghiệp, tiệc công ty, đám cưới ảo) với đầy đủ danh tính và bố cục hợp lý.
  4. Module chống trùng lặp và bỏ sót người cho các công cụ AI sinh ảnh thương mại: trước khi trả ảnh cuối cho người dùng, hệ thống tự kiểm tra xem tất cả danh tính đã xuất hiện, có khuôn mặt nào bị lặp hay bị gộp không, và tự động tạo lại nếu coverage chưa đạt ngưỡng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.20336
ArXiv Abstracthttps://arxiv.org/abs/2608.20336
PDF Downloadhttps://arxiv.org/pdf/2608.20336.pdf
Github Repositoryhttps://github.com/doby-xu/WithEveryone

6. MemTrapBench: Benchmarking Cognitive Traps in LLM Memory Use (30 votes)​

Tác giả: Mengru Wang, Haozhe Luo, Zhenqian Xu, Zhixiang Cui, Haoming Xu, et al.

Xuất bản lúc: 2026-08-20

Tag: LLMs, Memory Systems, Benchmarking, Cognitive Traps, Safety, Prompt Engineering

I. Main Problem:​

Các benchmark hiện có cho LLM memory chủ yếu đánh giá trích xuất, lưu trữ, cập nhật và truy xuất thông tin, nhưng bỏ qua một vấn đề sâu hơn: bộ nhớ đã truy xuất có thể bóp méo suy luận và làm giảm hiệu suất tác vụ hiện tại. Ngay cả khi ký ức đó là chính xác và liên quan, nó vẫn có thể khiến mô hình mắc kẹt trong một chiến lược hoặc niềm tin sai lầm.

Hệ quả:

  • Các framework bộ nhớ tiên tiến đều thua cấu hình không dùng bộ nhớ.
  • Hiện thiếu một benchmark có kiểm soát để đo lường chính xác hiện tượng này.

II. Main Idea:​

Tác giả đề xuất khái niệm Memory-Induced Cognitive Traps và xây dựng benchmark MemTrapBench gồm 1,050 instance, chia làm hai nhóm lớn:

  • Reasoning Fixation: bộ nhớ neo mô hình vào một mẫu suy luận cũ.
    • Cognitive Bias: chiến lược từng thành công bị khái quát hóa sang trường hợp mới cần cách làm khác.
    • Trauma: phản hồi tiêu cực trước đó khiến mô hình tránh một chiến lược đúng trong tình huống hiện tại.
    • Task Boundary: quy tắc của tác vụ trước bị áp dụng sai sang tác vụ mới.
  • Belief Distortion: bộ nhớ làm thay đổi những gì mô hình coi là đúng.
    • Safety: tiền đề sai/counterfactual được cài trong lịch sử ghi đè lên kiến thức an toàn cơ bản.

Để giảm thiểu, họ đề xuất AdaptiveMem — một prompt kỹ năng đơn giản, chạy ở thời điểm inference, hướng dẫn LLM xác định và điều chỉnh trước khi sử dụng bộ nhớ. AdaptiveMem không cần sửa đổi kiến trúc bộ nhớ.

Ví dụ đời thường: giống như học sinh đã quen giải toán bằng cộng trừ nhân chia nên khi gặp bài mới cần giai thừa, em vẫn cố nhồi nhét cách cũ vào và bỏ qua lời giải đúng — dù các ví dụ cũ hoàn toàn chính xác trong ngữ cảnh của chúng.

III. Main Results:​

  • Tất cả chiến lược bộ nhớ đều sụt hiệu suất so với không dùng bộ nhớ trên cả Gemini-3-Flash-Preview và Qwen3-30B-A3B-Instruct-2507.
  • Baseline không bộ nhớ: Gemini đạt 85.16%, Qwen đạt 81.83%.
  • Điểm cao nhất có bộ nhớ: EverMemOS 71.17% trên Gemini, LightMem 70.13% trên Qwen — sụt hơn 10 điểm phần trăm.
  • Cognitive Bias và Safety là hai kịch bản sụt mạnh nhất, với điểm số có khi xuống dưới 50%.
  • Ablation xác nhận nguyên nhân là bẫy nhận thức, không phải đơn thuần do dài ngữ cảnh: khi loại bỏ yếu tố bẫy, hiệu suất trở lại gần baseline.
  • Độ dài bộ nhớ: chỉ cần 25% lịch sử cũng gây sụt đáng kể, và hiệu suất giảm dần khi tăng lên 100%.
  • AdaptiveMem cải thiện MemTrapBench tới +14.9 điểm cho LightMem trên Gemini, đồng thời giữ hoặc tăng hiệu suất trên LongMemEval.
  • Cả hai judge GPT-5.2 và Claude-Sonnet-4.6 đều đồng thuận về hướng và độ lớn của sự sụt giảm.

IV. Conclusion & Future Works:​

MemTrapBench cho thấy bộ nhớ LLM không chỉ gặp lỗi kỹ thuật (trích xuất, truy xuất) mà còn có thể bóp méo suy luận và niềm tin một cách có hệ thống. AdaptiveMem là một giải pháp nhẹ, dễ tích hợp, giúp sử dụng bộ nhớ đáng tin cậy hơn.

Hướng tương lai:

  • Mở rộng bẫy nhận thức sang hệ thống multi-agent với bộ nhớ chia sẻ.
  • Xây dựng cơ chế phát hiện bẫy dựa trên học máy thay vì chỉ dựa trên prompt.
  • Đánh giá trên nhiều ngôn ngữ và miền ứng dụng thực tế hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Thiết kế cơ chế học để tự động phát hiện và gán trọng số lại các memory có nguy cơ gây Reasoning Fixation hoặc Belief Distortion trong khi truy xuất.
  2. Mở rộng MemTrapBench cho hệ thống multi-agent, trong đó memory chia sẻ giữa các agent có thể lan truyền chiến lược sai hoặc niềm tin counterfactual.
  3. Nghiên cứu ảnh hưởng của cognitive traps trong bộ nhớ đa ngôn ngữ, kiểm tra xem các kịch bản bẫy có chuyển giao qua ngôn ngữ hay phụ thuộc văn hóa.

2. Patent:​

  1. Trợ lý AI trên điện thoại với Memory Trap Guard: trước khi dùng lịch sử hội thoại, hệ thống chạy một lớp kiểm tra AdaptiveMem để phát hiện xem gợi ý từ bộ nhớ có đang gây ra Cognitive Bias hoặc Belief Distortion, sau đó gắn cờ hoặc giảm trọng số memory đó.
  2. Hệ thống y tế AI trên thiết bị di động phát hiện Trauma-induced avoidance: khi người dùng hoặc bác sĩ đã từng phản hồi tiêu cực về một phác đồ trong trường hợp ngoại lệ, ứng dụng tự động nhắc xác nhận ngữ cảnh hiện tại để tránh bỏ qua phác đồ đúng chuẩn cho bệnh nhân mới.
  3. Module an toàn cho trợ lý gia đình thông minh: phân biệt các quy tắc/nguyên tắc được thiết lập trong sandbox hoặc trò chơi với thế giới thực, ngăn chặn việc áp dụng sai các tiền đề counterfactual vào câu hỏi an toàn thực tế.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.20202
ArXiv Abstracthttps://arxiv.org/abs/2608.20202
PDF Downloadhttps://arxiv.org/pdf/2608.20202.pdf
Github Repositoryhttps://github.com/zjunlp/MemTrapBench

7. SkillEvo: Self-Renewing Evolution Gradients from Multi-Turn Interaction Feedback (28 votes)​

Tác giả: Qianxi Yan, Chunrong Chen, Jiuzhou Zhao, Min Zhang, Yongzhou Xu, et al.

Xuất bản lúc: 2026-08-13

Tag: LLM Agents, Skill Evolution, Multi-Turn Dialogue, Automated Evaluation, Knowledge Management, Cloud Computing

I. Main Problem:​

Kỹ năng (Skill) của agent hiện nay chủ yếu viết tay hoặc sinh trong một lần gọi LLM, thiếu vòng lặp khép kín để tự cải thiện từ các tương tác thất bại. Các công trình gần đây đã đóng vòng lặp nhưng chỉ dùng đánh giá single-turn QA, dẫn đến:

  • gradient tiến hóa suy giảm nhanh sau khi vòng đầu vá các lỗ hổng hiển nhiên
  • các khuyết điểm chỉ lộ ra qua nhiều lượt hội thoại vẫn bị bỏ sót
  • cơ chế quản trị dựa trên điểm số vô hướng chỉ biết loại bỏ kết quả kém mà không xác định hoặc sửa được nguyên nhân cấu trúc.

Điểm nghẽn thực sự không phải khả năng chỉnh sửa hay số vòng lặp, mà là chất lượng tín hiệu phản hồi và khả năng kiểm soát hướng tiến hóa.

II. Main Idea:​

SkillEvo xây dựng tiến hóa kỹ năng trên hai trụ cột:

  • Trustworthy feedback: tái định nghĩa mô phỏng người dùng đa lượt từ một endpoint đánh giá thành máy phát phản hồi. Câu hỏi tiếp theo liên tục làm lộ ra lớp khuyết điểm mới, nên mỗi vòng sửa Skill vừa tiêu thụ gradient vừa sinh gradient mới.
  • Controllable governance: thay vì cổng loại bỏ thụ động, một lớp quản trị độc lập chủ động sửa thoái hóa kiến thức (mất fact, phồng văn bản, gãy tham chiếu) và kiểm soát bloat cấu trúc sau mỗi vòng, giữ gradient không bị lệch.

Quy trình khép kín: Scenario Synthesizer → User Agent → Verifier → Collective Attribution → Skill Optimizer → Skill Governor. Ba điều kiện của feedback đáng tin: coverage (máy trạng thái ý định đảm bảo mọi ý định chính đều được đưa ra), accuracy (đánh giá hai phía tách biệt trách nhiệm giữa simulator và service agent), attributability (phân loại root cause để chỉ sửa Knowledge Gap, không sửa Capability Limit hay Evaluation Noise).

Ví dụ đời thường: giống như giáo viên không chỉ chấm một bài kiểm tra xong bỏ đi, mà sau mỗi lần học sinh sửa bài lại hỏi tiếp câu khó hơn để lộ chỗ hiểu sai sâu hơn, đồng thời có người kiểm tra riêng đảm bảo học sinh không vừa sửa xong đã quên kiến thức cũ.

III. Main Results:​

  • TSR tổng thể: SkillEvo đạt 81.8%, vượt xa Original Skill 30.0% (+51.8 điểm), Self-Reflection 58.8% (+23.0 điểm), và Single-turn QA 66.4% (+15.4 điểm).
  • TSR theo vòng: SkillEvo tăng đều từ 59.4 → 71.3 → 77.9 → 81.8; Single-turn QA bão hòa 58.9 → 66.4; Self-Reflection dao động không có chiều hướng.
  • Ablation: bỏ multi-turn feedback, TSR giảm về 66.4 (−15.4); bỏ governance, TSR giảm nhẹ còn 78.6 (−3.2), nhưng bloat và regression tăng mạnh.
  • Chất lượng simulator: coverage đạt 98.9%, độ tương đồng với người thật 95.3%, exposed-intent accuracy của agent 71.1%.
  • Governance hiệu quả: cumulative bloat chỉ +2.8% có governance, so với +16.2% không có; cross-round regression rate giảm dần qua các vòng.

IV. Conclusion & Future Works:​

SkillEvo cho thấy rằng giới hạn của tự tiến hóa kỹ năng nằm ở chất lượng gradient phản hồi và khả năng quản trị hướng tiến hóa, không phải sức mạnh chỉnh sửa hay số vòng lặp. Multi-turn interaction feedback tự làm mới gradient bằng cách lộ dần các lỗi ẩn, trong khi governance đảm bảo kỹ năng không bị thoái hóa cấu trúc và fact qua nhiều vòng. Hướng tương lai: mở rộng sang các miền dịch vụ đa lượt khác (y tế, tài chính), cải thiện chiến lược dừng và phân tích emotion trajectory của user simulator, và tích hợp con người vào vòng xác nhận trước khi triển khai production.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Kết hợp SkillEvo với reinforcement learning để vừa tiến hóa nội dung kỹ năng vừa tối ưu chiến lược chọn câu hỏi tiếp theo trong mô phỏng đa lượt.
  2. Mở rộng trustworthy feedback cho hệ đa agent: phân tách trách nhiệm giữa simulator, service agent, và các agent cộng tác trong hội thoại nhóm.
  3. Áp dụng governance graph-structural cho codebase hoặc tài liệu kỹ thuật tự cập nhật, phát hiện dangling references và factual over-generalization trong tài liệu dạng markdown/wiki.

2. Patent:​

  1. Hệ thống hỗ trợ khách hàng tự động trên điện thoại cho dịch vụ đám mây: mô phỏng đa lượt hội thoại với agent, tự phát hiện chỗ agent trả lời sai hoặc thiếu, rồi vá vào kỹ năng hỗ trợ kỹ thuật và kiểm tra không cho xóa fact ổn định.
  2. Module kiểm soát chatbot ngân hàng/viễn thông: tách lỗi do simulator hỏi sai và lỗi do agent thiếu kiến thức, chỉ sửa khi xác định đúng Knowledge Gap, đồng thời chặn bản cập nhật làm mất thông tin chính sách cũ.
  3. Công cụ tự bảo trì cơ sở tri thức doanh nghiệp trên di động: sau mỗi lần cập nhật, hệ thống so sánh với phiên bản gốc và phiên bản trước để phát hiện xung đột fact, phồng văn bản, và tham chiếu gãy trong tài liệu nội bộ.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.13120
ArXiv Abstracthttps://arxiv.org/abs/2608.13120
PDF Downloadhttps://arxiv.org/pdf/2608.13120.pdf
Github RepositoryN/A

8. ForgeWM: Progressive Causal Training for Few-Step Action-Conditioned Video World Models (20 votes)​

Tác giả: Xinye Li, Lingshuai Lin, Lei Wang, Liuzhou Zhang, Jialin Cui, et al.

Xuất bản lúc: 2026-08-14

Tag: Diffusion Models, Video Generation, World Models, Consistency Distillation, Action-Conditioned Generation, Game AI, Causal Video Models

I. Main Problem:​

Mô hình thế giới video điều khiển bằng hành động cần sinh video nhân quả độ trễ thấp và phản hồi đúng với bộ điều khiển gốc của game (phím bấm rời rạc + chuột chuyển động liên tục). Khi nén thành vài bước khử nhiễu, lỗi từ trạng thái tự sinh lan truyền dọc rollout, làm giảm độ trung thực và khả năng điều khiển. Thách thức cốt lõi là giữ cửa sổ hành động, cache key–value và chunk tiềm ẩn luôn đồng bộ trong suốt huấn luyện nhân quả và triển khai tự hồi quy.

II. Main Idea:​

ForgeWM chuyển một generator hai chiều thành các student nhân quả chuyên ngân sách 1/2/4 bước qua bốn giai đoạn tiến triển:

  • Stage 0 — điều chỉnh domain hai chiều trên full clip để học prior thị giác và điều khiển.
  • Stage 1 — huấn luyện nhân quả với teacher forcing: mỗi chunk chỉ nhìn các chunk sạch trước đó, tránh lỗi rollout tự sinh.
  • Stage 2 — causal consistency distillation: khởi tạo student few-step bằng cách khớp dự đoán sạch với EMA của teacher tiến một bước Euler.
  • Stage 3 — on-policy distribution matching: student tự rollout, teacher đông lạnh từ Stage 0 chỉnh hướng phân bố thực tế qua mục tiêu fake/real denoiser.

Giao diện hành động modular giữ phím–chuột đồng bộ với chunk tiềm ẩn xuyên suốt. Triển khai kép: student 1 bước phục vụ tương tác trực tuyến độ trễ thấp, sau đó cùng checkpoint tái khử nhiệt bản thảo đã lưu để nâng chất lượng replay mà không sinh lại từ nhiễu.

Ví dụ đời thường: giống như học lái xe — đầu quan sát thầy lái mẫu trên đường thực (Stage 0), rồi tự lái từng đoạn ngắn nhưng thầy vẫn cầm vô-lăng phụ (teacher forcing), tiếp theo tự lái với thầy sửa sai từng khúc (consistency init), cuối cùng lái một mình và soi gương chiếu hậu so với video quy chuẩn để tự điều chỉnh (on-policy matching).

III. Main Results:​

  • Trên cặp quỹ đạo Minecraft, ForgeWM dẫn đầu 6/7 chỉ số chất lượng/điều khiển: Imaging Quality cao nhất, LPIPS thấp nhất, chính xác dấu hành động (KCtrl) và Mouse Accuracy vượt trội so với Matrix-Game 2.0 và HY-WorldPlay.
  • Hiệu suất: ForgeWM-1 đạt 72.1 FPS với độ trễ 168 ms, nhanh gấp ~2.2 lần Matrix-Game 2.0 và gấp ~9.6 lần HY-WorldPlay.
  • Ưu thích của người dùng: ForgeWM-4 thắng 68.8% chất lượng hình ảnh, 57.6% độ chính xác hành động, 55.6% nhất quán không–thời gian, tổng 60.7% so với hai baseline.
  • Replay-Time Refinement: đạt chất lượng tương đương ForgeWM-4 sinh từ nhiễu (LPIPS ~0.6155 vs 0.6168) nhưng giữ khoảng cách với bản thảo đã trải nghiệm chỉ 0.1970, gần gấp 3 lần so với sinh lại từ nhiễu (0.6187).
  • Chuyển công thức sang FPS: cùng quy trình 4 giai đoạn huấn luyện trên dữ liệu gamepad cho ra ForgeWM-CrossFPS hoạt động trên nhiều game bắn súng góc nhìn thứ nhất.

IV. Conclusion & Future Works:​

ForgeWM chứng minh một lộ trình huấn luyện nhân quả tiến triển có thể biến generator hai chiều thành các world model tương tác few-step vẫn giữ chính xác điều khiển game gốc và cung cấp nhiều điểm hoạt động chất lượng–độ trễ. Replay-Time Refinement tách hiệu quả tương tác trực tuyến khỏi nâng cao chất lượng ngoại tuyến.

Hướng tương lai: mở rộng cho rollout dài hơn, kiểm soát chi phí tích lũy lỗi; tổng quát hóa giao diện điều khiển đa dạng (cảm biến, VR, robot); kết hợp replay refinement với học tăng cường trực tuyến; và tối ưu phân bổ ngân sách khử nhiễu không đều giữa các chunk.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Áp dụng khung ForgeWM cho world models điều khiển bằng tư thế camera hoặc chỉ dẫn ngôn ngữ, kiểm tra xem bốn giai đoạn nhân quả có bảo toàn tính nhất quán đa chiều hay không.
  2. Mở rộng Replay-Time Refinement thành iterative online correction: tại mỗi bước rollout, mô hình tự quyết định khi nào nên chi thêm bước khử nhiễu để sửa lỗi mà không phá vỡ độ trễ tổng thể.
  3. Kết hợp ForgeWM với học tăng cường: dùng few-step world model làm simulator để huấn luyện chính sách, tận dụng phản hồi phím–chuột với chi phí suy luận thấp.
  4. Phân tích lý thuyết về on-policy distribution matching trong không gian tiềm ẩn thời gian nén: điều kiện hội tụ và giới hạn của việc ghép teacher hai chiều với student nhân quả.

2. Patent:​

  1. Hệ thống chơi game đám mây độ trễ thấp trên điện thoại: máy chủ gửi frame đầu + luồng hành động, điện thoại chạy ForgeWM-1 để dự đoán frame tiếp theo cục bộ, giảm lag; sau khi chơi xong, điện thoại tinh chỉnh lại bản thảo bằng cùng model với ngân sách lớn hơn để xuất video chất lượng cao.
  2. Dịch vụ Replay-Time Refinement cho video gameplay: lưu bản thảo latent từ phiên chơi, sau đó áp dụng mô hình few-step để làm mịn và nâng chất lượng highlight mà không làm thay đổi quỹ đạo người chơi đã thực hiện.
  3. Module kiểm thử game AI tự động: dùng ForgeWM few-step sinh video phản hồi cho chuỗi thao tác phím–chuột/chuột, kiểm tra khả năng phản ứng của engine hoặc cân bằng game mà không cần chạy renderer nặng.
  4. Thiết bị hỗ trợ game thủ khuyết tật: dịch chuyển động đầu/ngón tay liên tục thành điều khiển chuột rồi đưa vào ForgeWM để dự đoán hình ảnh phản hồi gần như real-time, giúp điều chỉnh độ nhạy theo cảm nhận thị giác.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.14022
ArXiv Abstracthttps://arxiv.org/abs/2608.14022
PDF Downloadhttps://arxiv.org/pdf/2608.14022.pdf
Github Repositoryhttps://github.com/asdfo123/ForgeWM

9. Repo0: Design-Driven Zero-to-All Code Generation (16 votes)​

Tác giả: Silin Chen, Haoyi Teng, Xiaodong Gu, Yuling Shi, Jiale Huang, et al.

Xuất bản lúc: 2026-08-20

Tag: Repository Generation, Code Generation, LLM Agents, Software Architecture, Test-Driven Development, Modularity

I. Main Problem:​

Các tác nhân sinh mã hiện tại giả định kiến trúc kho mã đã được định nghĩa trước, trong khi thiết lập zero-to-all đòi hỏi xây dựng toàn bộ dự án chỉ từ yêu cầu ngôn ngữ tự nhiên. Hệ quả:

  • các phương pháp lập kế hoạch một lần tạo ra kiến trúc cứng nhắc, không thích ứng khi phát hiện chồng chéo hay phụ thuộc phức tạp trong quá trình cài đặt;
  • thiếu hướng dẫn kiến trúc rõ ràng dẫn đến ranh giới thành phần không nhất quán, cấu trúc phụ thuộc mong manh và phối hợp xuyên tệp kém.

II. Main Idea:​

Repo0 định khung sinh kho mã zero-to-all như quá trình tiến hóa cấu trúc liên tục được điều hướng bởi độ đo module hóa. Quy trình:

  • duy trì trạng thái kiến trúc rõ ràng dưới dạng Dual-DAG: DAG yêu cầu (quan hệ phối hợp chức năng), DAG thành phần (phụ thuộc triển khai) và quan hệ alignment giữa hai DAG;
  • từ mô tả ngôn ngữ, phân rã yêu cầu rồi xây dựng DAG yêu cầu, sau đó ánh xạ sang các thành phần ban đầu;
  • vòng lặp tiến hóa thực hiện các hành động split (khi cohesion thấp), merge (khi coupling cao), revise, save, add dựa trên độ đo cohesion và coupling cho đến khi cấu trúc hội tụ;
  • sau khi hội tụ, kiến trúc cố định hướng dẫn test-driven development để sinh và sửa mã theo phản hồi kiểm thử.

Ví dụ đời thường: giống như xây nhà không vẽ một bản thiết kế rồi làm cứng theo đó, mà cứ để thợ khảo sát cách người ta thực sự đi lại giữa các phòng, rồi liên tục điều chỉnh vách ngăn (tách/ghộp) cho đến khi bố cục hợp lý mới bắt đầu đổ móng và xây tường.

III. Main Results:​

  • Trên RepoCraft (6 kho mã Python thực tế: requests, statsmodels, django, scikit-learn, pandas, sympy) với GPT-5 mini và DeepSeek V3.2, Repo0 đạt Functionality Coverage và Pass Rate cao nhất trong mọi thiết lập.
  • So với RPG (baseline lập kế hoạch kho mã mạnh nhất), Repo0 cải thiện Functionality Coverage từ 4.55 đến 20.08 điểm phần trăm và Pass Rate từ 7.61 đến 29.74 điểm phần trăm.
  • Ablation: bỏ Structural Evolution gây sụt giảm lớn nhất (ví dụ trên django: Coverage −5.92, Pass Rate −13.33); bỏ Dual-DAG hoặc Requirement Context cũng làm giảm độ chính xác và độ bao phủ.
  • Phân tích hội tụ: cách tiếp cận dựa trên độ đo cohesion/coupling vượt trội hơn cả việc không tiến hóa và việc để LLM tự quyết định cấu trúc với ngân sách cố định; LLM tự do dễ phân rã quá mức và làm giảm chất lượng kho mã.

IV. Conclusion & Future Works:​

Repo0 chứng minh rằng sinh kho mã từ con số không không thể là bài toán lập kế hoạch một lần, mà cần tiến hóa cấu trúc liên tục dựa trên độ đo module hóa cho đến khi hội tụ, sau đó mới dùng kiến trúc đã ổn định để hướng dẫn sinh mã TDD. Hướng tương lai: mở rộng cơ chế tiến hóa cấu trúc cho các ngôn ngữ và framework khác, cải thiện chi phí sinh thành phần, và tích hợp phản hồi thực thi sâu hơn trong vòng lặp tiến hóa.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng Dual-DAG cho việc tái cấu trúc kho mã hiện có: tác nhân đọc codebase cũ, xây dựng lại DAG yêu cầu và thành phần, rồi đề xuất các hành động split/merge/revise để cải thiện cohesion và coupling mà không làm mất hành vi.
  2. Kết hợp tiến hóa cấu trúc với kiểm chứng hình thức: sau mỗi vòng lặp tiến hóa, dùng công cụ phân tích tĩnh để xác thực tính nhất quán của DAG thành phần trước khi chuyển sang sinh mã.
  3. Ứng dụng continuous structural evolution cho hệ thống đa tác nhân: mỗi tác nhân phụ trách một nhóm yêu cầu, đồng thời điều phối qua shared Dual-DAG để duy trì ranh giới module hóa toàn cục.

2. Patent:​

  1. Trợ lý lập trình trên điện thoại thông minh: người dùng mô tả ứng dụng mong muốn bằng giọng nói; ứng dụng di động xây dựng Dual-DAG, cho phép người dùng kéo thả để tách/ghộp module, rồi tự động sinh codebase và chạy thử nghiệm trên cloud.
  2. Công cụ duy trì kiến trúc cho dự án phần mềm doanh nghiệp: hệ thống liên tục theo dõi cohesion/coupling của các pull request mới, tự động đề xuất tách module quá tải hoặc ghép module trùng lặp trước khi merge, ngăn nợ kỹ thuật tích lũy.
  3. Nền tảng tạo backend API từ tài liệu yêu cầu: upload file đặc tả, hệ thống phân rã yêu cầu thành Dual-DAG, tối ưu hóa cấu trúc microservice qua các hành động split/merge, rồi xuất ra project scaffold với test-driven code generation cho từng service.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.19854
ArXiv Abstracthttps://arxiv.org/abs/2608.19854
PDF Downloadhttps://arxiv.org/pdf/2608.19854.pdf
Github RepositoryN/A

10. FlashPrefill V2: Block-Sparse Prefill Attention for Long-Context LLM Serving (14 votes)​

Tác giả: Qihang Fan, Huaibo Huang, Zhiying Wu, Bingning Wang, Ran He

Xuất bản lúc: 2026-08-20

Tag: Sparse Attention, LLM Serving, FlashAttention, Long Context, FP8 Inference, Paged KV Cache, Continuous Batching

I. Main Problem:​

Attention trong giai đoạn prefill của LLM có độ phức tạp bậc hai theo độ dài ngữ cảnh, khiến xử lý văn bản dài (128K token) rất chậm và tốn tài nguyên. Phiên bản tiền nhiệm FlashPrefill tuy giảm chi phí bằng cách xác định mẫu attention tức thì và ngưỡng động, nhưng vẫn là nguyên mẫu thuật toán chưa triển khai được trong sản xuất vì:

  • độ chính xác suy giảm không kiểm soát khi cắt bỏ quá nhiều block,
  • kernel cũ dựa trên FlashAttention-2, không tận dụng được kiến trúc Hopper (H20/H100) với TMA và pipeline bất đồng bộ,
  • bố cục KV liên tục không tương thích với paged KV cache và continuous batching trong các framework phục vụ hiện đại như SGLang.

II. Main Idea:​

FlashPrefill V2 biến ý tưởng thuật toán thành một backend attention thực tiễn theo ba trục:

  • Mean correction term: thay vì bỏ hoàn toàn các block bị cắt, hệ thống dùng vector trung bình gộp (pooled mean) của key/value để bù lại khối lượng xác suất đã mất, giữ sai số xấp xỉ ở mức chấp nhận được ngay cả khi sparsity rất cao.
  • Kernel sparse attention tái thiết kế cho Hopper: áp dụng PackGQA (gộp query theo nhóm KV để chia sẻ tải bộ nhớ), warp specialization (tách producer/consumer), pingpong pipelining (chồng chéo QK GEMM, PV GEMM và softmax), đồng thời hỗ trợ FP8 để phục vụ lượng tử hóa thực tế.
  • Tích hợp hệ thống phục vụ: hỗ trợ nguyên bản paged KV cache và continuous batching, tích hợp trực tiếp như một attention backend trong SGLang mà không cần thay đổi định nghĩa mô hình hay bố cục cache.

Ví dụ đời thường: giống như đọc một cuốn sách dày 1.000 trang trước kỳ thi — bạn lướt nhanh để chọn ra các chương quan trọng đọc kỹ, còn những chương ít quan trọng thì chỉ đọc tóm tắt để không mất dòng ý chính; nhờ vậy vừa nhanh vừa vẫn nắm bắt được toàn bộ nội dung.

III. Main Results:​

  • Trên NVIDIA H20, FlashPrefill V2 đạt tốc độ vượt FlashAttention-2 lên đến 27.19× ở 128K (BF16) và 47.26× ở 128K (FP8).
  • So với baseline dense được căn chỉnh theo FlashAttention-3/4, vẫn đạt 17.54× (BF16) và 30.49× (FP8) ở 128K.
  • Benchmark RULER cho thấy sai lệch so với full attention chỉ khoảng 1.5 điểm ở 128K BF16, trong khi phiên bản không có mean correction có thể mất đến 6.2 điểm.
  • Tích hợp vào SGLang giảm end-to-end time-to-first-token lên đến 4.8× ở 128K với mất mát độ chính xác không đáng kể.
  • Tăng tốc vẫn duy trì ở ngay cả ngữ cảnh ngắn như 4K–8K token.

IV. Conclusion & Future Works:​

FlashPrefill V2 thu hẹp khoảng cách giữa thuật toán attention thưa và triển khai sản xuất bằng cách kết hợp kiểm soát sai số dưới sparsity cực cao, kernel tối ưu cho Hopper với FP8, và tích hợp hệ thống phục vụ hiện đại. Hướng phát triển tiếp theo có thể mở rộng sang giai đoạn decode (hiện tại vẫn dùng dense vì mỗi bước chỉ có một query), thêm các chiến lược lượng tử hóa linh hoạt, và tích hợp rộng hơn vào các inference engine khác ngoài SGLang.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng mean correction sang block-wise sparse attention động, trong đó mức độ bù đắp tự điều chỉnh theo phân phối attention từng vùng thay vì dùng một hệ số cố định.
  2. Kết hợp block-sparse prefill attention với phương pháp phân tách prefill-decode (disaggregated serving) để cải thiện cả độ trễ lẫn thông lượng trong trung tâm dữ liệu suy luận lớn.
  3. Nghiên cứu biểu diễn chỉ số sparse (CSR index) nén hơn nữa để giảm overhead bộ nhớ và truyền thông khi số lượng request và độ dài ngữ cảnh tiếp tục tăng lên hàng triệu token.

2. Patent:​

  1. Trợ lý AI trên điện thoại đọc tài liệu dài: ứng dụng di động tóm tắt hợp đồng, báo cáo tài chính hoặc hồ sơ y tế hàng trăm nghìn từ bằng cách chỉ tính toán chi tiết các đoạn quan trọng và bù tóm tắt cho đoạn bỏ qua, giúp chạy nhanh trên chip di động mà không quá tốn pin.
  2. Hệ thống chatbot đám mây xử lý nhiều cuộc hội thoại dài song song: máy chủ suy luận dùng bộ nhớ cache dạng trang và lập lịch liên tục để phục vụ hàng nghìn người dùng cùng lúc, giảm thời gian đến token đầu tiên khi ngữ cảnh dài.
  3. Thiết bị biên (edge AI) hỗ trợ tra cứu pháp lý và y tế tại chỗ: máy tính bảng hoặc máy trạm y tế chạy mô hình ngôn ngữ lớn với tính toán attention thưa ở độ chính xác 8 bit, giúp phân tích văn bản dài ngay trên thiết bị mà không cần gửi dữ liệu nhạy cảm lên đám mây.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.19758
ArXiv Abstracthttps://arxiv.org/abs/2608.19758
PDF Downloadhttps://arxiv.org/pdf/2608.19758.pdf
Github Repositoryhttps://github.com/qhfan/FlashPrefillv2

11. Thinking in a Low-Resource Language: What SFT Builds, What RL Fixes, What Accuracy Cannot See (13 votes)​

Tác giả: Ayoub Kirouane, Christos Petrocheilos

Xuất bản lúc: 2026-08-18

Tag: Large Language Models, Low-Resource Language, Supervised Fine-Tuning, Reinforcement Learning, Reasoning, Mixture-of-Experts, Greek

I. Main Problem:​

Các benchmark độ chính xác đánh giá fine-tune lý luận bằng ngôn ngữ ít tài nguyên là nhiễu và gần như không có thông tin: chỉ thay đổi seed ngẫu nhiên cũng làm điểm số dao động 7.7 điểm, lớn hơn mọi tác động của dữ liệu và công thức huấn luyện. Hệ quả:

  • accuracy không cho biết mô hình lý luận bằng ngôn ngữ nào, tiêu tốn bao nhiêu token, hay phân biệt câu dễ/khó ra sao
  • các mô hình gốc (base) trả lời đúng câu hỏi tiếng Hy Lạp nhưng lý luận hoàn toàn bằng tiếng Anh, khiến người dùng không đọc, kiểm tra hay sửa chữa được
  • một fine-tune "thất bại" về accuracy vẫn có thể mang lại hành vi lý luận mong muốn trong ngôn ngữ đích

II. Main Idea:​

Tác giả fine-tune ba họ mô hình Mixture-of-Experts (Alibaba Qwen, OpenAI GPT-OSS, NVIDIA Nemotron) bằng LoRA để lý luận bằng tiếng Hy Lạp, rồi đo sáu chiều hành vi thay vì chỉ accuracy: ngôn ngữ lý luận, ngân sách token, khả năng phân biệt độ khó, số bước lý luận, tình trạng dừng, và vượt ngân sách. Sau Supervised Fine-Tuning (SFT) mô hình gần như luôn lý luận bằng ngôn ngữ của câu hỏi (~98%), tiết kiệm token và không quên năng lực chung; nhưng SFT tự nó không sửa được lỗi tuân thủ định dạng, rò rỉ câu trả lời vào kênh lý luận, hay khóa ngôn ngữ. Reinforcement Learning với phần thưởng có thể xác minh (RLVR) được đăng ký trước training sửa triệt để hai lỗi đầu và cải thiện lỗi thứ ba, trong khi thói quen lý luận tiếng Hy Lạp vẫn giữ nguyên (~98.2% fidelity).

Ví dụ đời thường: giống như một đầu bếp nước ngoài được thuê làm món Hy Lạp, họ có thể nấu đúng hương vị nhưng vẫn tự nghĩ bằng tiếng mẹ đẻ; SFT dạy họ nghĩ và lẩm nhẩm công thức bằng tiếng Hy Lạp, còn RL sửa cách họ viết thực đơn và giữ đúng giờ bếp.

III. Main Results:​

  • Accuracy benchmark là nhiễu: seed khác nhau gây dao động 7.7 điểm, lớn hơn mọi can thiệp dữ liệu/công thức; điểm tốt nhất trong 15 arms chỉ 76.5 so với base 77.2
  • Ngôn ngữ lý luận thay đổi vững chắc: base không bao giờ lý luận bằng tiếng Hy Lạp (0/1000 trace đạt tỷ lệ Hy Lạp ≥0.9); SFT đạt 97.4–98.7% fidelity, RLVR giữ 98.2%
  • Tiết kiệm ngân sách: ở cùng accuracy, fine-tune tiêu tốn 3× ít token trên Qwen, tương đương trên NemotronH, nhưng 1.6× đắt hơn trên GPT-OSS do fertility tokenizer của tiếng Hy Lạp
  • Kỷ luật ngân sách: base vượt ngân sách ở 98% câu dễ vì không phân biệt độ khó; các fine-tune chỉ vượt 0.2–12%
  • RLVR sửa lỗi SFT: tỷ lệ không đưa ra dòng trả lời cuối giảm từ 24% xuống 2.5%; rò rỉ câu trả lời vào kênh lý luận giảm từ 3.5% xuống 0.0%; tuân thủ lệnh "hãy nghĩ bằng tiếng Anh" tăng +9.1pp
  • Quên gần như không xảy ra: năng lực chung (Titan-1 suite) gần như bằng base; ngữ pháp tiếng Hy Lạp cải thiện trên cả bốn họ mô hình; lỗi format là do công thức two-phase, không phải catastrophic forgetting

IV. Conclusion & Future Works:​

Accuracy trên benchmark dịch không đủ để đánh giá fine-tune lý luận ngôn ngữ íp tài nguyên; các chiều hành vi (ngôn ngữ lý luận, ngân sách token, tuân thủ định dạng, phân biệt độ khó) mới cho thấy fine-tune thực sự làm gì. Công cụ đo, đối chứng (control) và đăng ký trước (pre-registration) được xây dựng cho tiếng Hy Lạp có thể chuyển sang bất kỳ ngôn ngữ ít tài nguyên nào.

Hướng tương lai:

  • mở rộng sang các ngôn ngữ ít tài nguyên khác
  • nghiên cứu tại sao GPT-OSS phải trả giá token cao hơn
  • phát triển biện pháp kiểm soát nhiễm dữ liệu chặt hơn
  • tìm cách phá khóa ngôn ngữ một cách có kiểm soát

V. Brainstorming Space:​

1. Publish Papers:​

  1. Thước đo hành vi lý luận đa chiều cho các ngôn ngữ ít tài nguyên: từ tiếng Hy Lạp đến các ngôn ngữ khác
  2. Phân tích tương tác giữa SFT và RLVR trong việc kiểm soát ngôn ngữ lý luận của Large Language Models
  3. Tác động của kiến trúc MoE và tokenizer fertility đến chi phí serving khi fine-tune lý luận đa ngôn ngữ

2. Patent:​

  1. Hệ thống tự động kiểm tra ngôn ngữ lý luận trên điện thoại: ứng dụng AI assistant cá nhân chạy cục bộ, tự đánh giá xem phản hồi đang lý luận bằng ngôn ngữ người dùng hay dịch ngầm, đảm bảo minh bạch và có thể audit.
  2. Module fine-tune địa phương cho doanh nghiệp ngôn ngữ ít tài nguyên: giải pháp triển khai trên một node GPU, cho phép cộng đồng ngôn ngữ tự fine-tune mô hình lý luận bằng chính ngôn ngữ của mình với công cụ đo và đối chứng tích hợp.
  3. Công cụ huấn luyện RLVR tự động sửa lỗi định dạng và rò rỉ câu trả lời: hệ thống phần thưởng có thể xác minh dành cho các trợ lý lý luận đa ngôn ngữ, giúp giảm tỷ lệ không tuân thủ định dạng từ hàng chục phần trăm xuống dưới 3%.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.17744
ArXiv Abstracthttps://arxiv.org/abs/2608.17744
PDF Downloadhttps://arxiv.org/pdf/2608.17744.pdf
Github RepositoryN/A

12. Inject, Align, Recover: Staged Post-Training for Retrieval-Free Document Knowledge Internalization (10 votes)​

Tác giả: Qian Kou, Xiaofeng Shi, Xiaosong Qiu, Hua Zhou

Xuất bản lúc: 2026-08-20

Tag: Retrieval-Free QA, Document Knowledge Internalization, Continual Pre-training, Model Merging, Catastrophic Forgetting

I. Main Problem:​

Các mô hình ngôn ngữ lớn không trả lời được về một tập tài liệu cố định khi không được cung cấp tài liệu gốc tại inference. Cách tiếp cận hiện tại:

  • Vanilla SFT chỉ học từ cặp QA được sinh, tín hiệu thưa: chỉ những sự thật nằm trong câu hỏi mới đóng góp loss.
  • Continued Pre-training (CPT) tiếp xúc dày đặc với văn bản nhưng không dạy mô hình cách trả lời câu hỏi.
  • Cả hai đều gặp catastrophic forgetting: năng lực domain tăng nhưng IFEval, MMLU, MSBench sụt giảm nghiêm trọng.

Bài toán document knowledge internalization đòi hỏi mô hình vừa nội hóa corpus, vừa giữ năng lực tổng quát.

II. Main Idea:​

IAR (Inject → Align → Recover) tách biệt ba chức năng: tiếp xúc tài liệu, căn chỉnh QA, và phục hồi năng lực tổng quát.

  • Inject: chuyển tài liệu gốc thành các nhiệm vụ giám sát dày đặc — continuation (đoán tiếp đoạn sau prefix), rewrite (viết lại từ skeleton/outline), và instruction-conditioned reconstruction (tái tạo tài liệu từ prompt đọc ngắn).
  • Align: fine-tune checkpoint đã Inject trên cặp QA của domain, chỉ tính loss ở phần answer-only để dạy giao diện QA.
  • Recover: trộn model domain-adapted với base instruction model qua SLERP / task arithmetic / TIES / DARE để chọn điểm làm việc tốt nhất trên mặt phẳng domain–general.

Ví dụ đời thường: giống như sinh viên ôn một môn mới — trước đọc kỹ giáo trình (Inject), sau làm đề luyện theo dạng thi (Align), cuối cùng ôn lại các môn cũ một chút để không quên kiến thức nền (Recover), thay vì chỉ cày đề hoặc chỉ đọc lý thuyết.

III. Main Results:​

  • 7/8 dataset-model settings: IAR thắng Vanilla SFT trên cả 4 chỉ số; trung bình +3.6 điểm domain QA và +12.1 điểm mean general (IFEval, MMLU, MSBench).
  • Trên CC: IAR vượt Vanilla SFT về domain lẫn 3 chỉ số tổng quát cho cả 4 họ model (Llama, Phi, Qwen, SmolLM). Qwen3-4B đạt 50.5% so với 42.4% của Vanilla SFT.
  • Trên CCI: IAR thắng toàn diện cho Llama, Qwen3-4B, SmolLM3-3B; Phi cải thiện IFEval/MSBench nhưng trade-off nhẹ domain/MMLU.
  • So với BudgetMatch (cùng token budget): IAR cao hơn domain ở 3/4 setting và cao hơn mean general ở cả 4 setting.
  • Inject+Align trước Recover: tăng domain accuracy hơn Vanilla SFT ở cả 8 setting; mức tăng lớn nhất cho Phi/Llama, nhỏ nhất cho Qwen3-4B CCI do điểm baseline đã rất cao (70.6%).
  • Scaling Qwen3 trên CC (8B/14B/32B): IAR chỉ mất ≤1.1 điểm domain so với Best IA nhưng phục hồi 14.9–24.1 điểm mean general, cho thấy mô hình lớn vẫn cần Recover.

IV. Conclusion & Future Works:​

IAR không phải công thức thống trị mọi baseline, mà là một phân rã thực nghiệm giúp hiểu rõ nguồn gốc lợi ích: document exposure, QA alignment, và capability recovery nên đo riêng thay vì gộp chung. Hướng tương lai: tự động chọn recipe Inject tối ưu theo corpus/model; thử các toán tử merge ngoài SLERP/TIES/DARE; mở rộng sang corpora đa ngôn ngữ và đánh giá lâu dài trên cập nhật kiến thức tuần tự.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Tích hợp nhiều tài liệu có cấu trúc liên kết (multi-document graphs) vào IAR để mô hình nội hóa kiến thức cần suy luận xuyên tài liệu thay vì chỉ trả lời từng tài liệu đơn lẻ.
  2. Thuật toán tự động tìm mixture ratio Inject tối ưu dựa trên đặc trưng corpus (độ dài, mật độ thực thể, tỷ lệ OCR noise) để giảm phụ thuộc vào grid search thủ công.
  3. Lifelong IAR: kế thừa checkpoint đã nội hóa và tiếp tục Inject+Align+Recover với batch tài liệu mới, đo lường quên cũ và cập nhật kiến thức theo thời gian.

2. Patent:​

  1. Trợ lý tài liệu nội bộ trên điện thoại doanh nghiệp: ứng dụng IAR để nội hóa tài liệu nội bộ (quy trình, hợp đồng, FAQ) trực tiếp trên thiết bị, nhân viên hỏi mà không cần gửi tài liệu gốc lên đám mây, giảm rủi ro bảo mật và độ trễ.
  2. Chatbot hỗ trợ khách hàng offline cho nhà máy/kho bãi: nội hóa sổ tay vận hành, sơ đồ bảo trì, danh mục lỗi máy móc; kỹ thuật viên tra cứu bằng giọng nói hoặc text khi không có mạng hoặc không thể truy xuất tài liệu gốc.
  3. Hệ thống tuân thủ y tế trong bệnh viện: nội hóa hướng dẫn điều trị, quy trình xét nghiệm và thuốc men; bác sĩ hỏi nhanh về phác đồ mà không cần lục hồ sơ điện tử, Recover đảm bảo mô hình vẫn giữ khả năng trả lời câu hỏi y khoa tổng quát bên ngoài corpus.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.20281
ArXiv Abstracthttps://arxiv.org/abs/2608.20281
PDF Downloadhttps://arxiv.org/pdf/2608.20281.pdf
Github RepositoryN/A

13. EXIMO: VLM Guided Exploration of VLA Policies (10 votes)​

Tác giả: Bhavya Sukhija, Oliver Groth, Mohit Shridhar, Tim Hertweck, Michael Bloesch, et al.

Xuất bản lúc: 2026-08-20

Tag: Vision-Language-Action, Vision-Language Model, Robotics, Exploration, Behavioral Cloning, Reinforcement Learning

I. Main Problem:​

Các chính sách Vision-Language-Action hiện đại được huấn luyện bằng behavioral cloning trên dữ liệu teleoperation rất lớn, nhưng khó fine-tune cho tác vụ dài hạn, suy luận hoặc ngoài phân phối. Cụ thể:

  • Thu thập dữ liệu teleoperation tốn hàng trăm giờ nhân công cho mỗi tác vụ mới.
  • Reinforcement Learning có thể tự cải thiện nhưng lại thiếu hiệu quả mẫu, đặc biệt với tác vụ dài hạn cần khám phá.
  • Fine-tune VLA bằng RL rất khó vì mô hình lớn, đầu ra chuỗi hành động, và phân phối chính sách phức tạp.

II. Main Idea:​

EXIMO là pipeline ba bước — Explore, Imitate, Optimize — để fine-tune VLA một cách hiệu quả mẫu mà không cần teleoperation thêm.

Quy trình:

  • Explore: dùng VLM làm bộ lập kế hoạch cấp cao, phân rã mục tiêu dài hạn thành các lệnh ngôn ngữ ngắn hạn mà VLA có thể thực hiện; VLA thực hiện theo, thu thập dữ liệu thành công.
  • Imitate: lọc các episode thành công và fine-tune VLA bằng supervised learning, điều kiện hóa trực tiếp trên mục tiêu gốc để distill kiến thức từ VLM xuống VLA, loại bỏ độ trễ VLM khi triển khai.
  • Optimize: dùng residual off-policy RL để học một hiệu chỉnh Δa cộng vào hành động VLA, cải thiện chính sách từ dữ liệu online.

Ví dụ đời thường: giống như một người thợ mới được giao lắp ráp đồ phức tạp — thay vì tự mò mẫm, một thợ giỏi đứng bên hướng dẫn từng bước ngắn; sau khi làm thành công vài lần, người đó tự làm được và cuối cùng tinh chỉnh kỹ năng qua thực hành.

III. Main Results:​

  • VLM orchestration giúp GROD đạt tỷ lệ thành công cao hơn rõ rệt, đặc biệt trên tác vụ dài hạn như xếp đĩa/bát lên giá và tác vụ cần suy luận.
  • SFT trên dữ liệu orchestration vượt cả GROD gốc lẫn GROD + VLM-Orchestration, vì chính sách học được trực tiếp từ mục tiêu gốc mà không cần gọi VLM liên tục.
  • GROD + SFT + RL khởi đầu ở tỷ lệ thành công cao hơn và hội tụ cao hơn so với GROD + RL, dù base model được chạy thêm nhiều bước môi trường để bù đắp.
  • Thử nghiệm trên 22 tác vụ manipulation mô phỏng ALOHA cho thấy EXIMO vượt trội về cả hiệu quả mẫu và hiệu suất cuối.

IV. Conclusion & Future Works:​

EXIMO cho thấy cách kết hợp kiến thức ngôn ngữ-thị giác của VLM với kỹ năng vận động của VLA để fine-tune hiệu quả mà không cần teleoperation. Ba giai đoạn khám phá có hướng, bắt chước có lọc, và tối ưu residual RL tạo thành pipeline hoàn chỉnh.

Hướng tương lai: thay máy phát hiện thành công ground-truth bằng VLM-based success detector, dùng VLM để reset môi trường bằng cách "undo" tác vụ, và mở rộng từ off-policy sang on-policy distillation.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Tích hợp VLM làm success detector trong vòng lặp học robot hoàn toàn tự chủ, loại bỏ yêu cầu nhãn thành công từ môi trường.
  2. Mở rộng EXIMO sang on-policy self-distillation, trong đó VLM không chỉ khám phá mà còn cung cấp phản hồi liên tục để cải thiện chính sách online.
  3. Áp dụng residual RL + VLM orchestration cho robot di động và tác vụ dài hạn trong nhà máy, nơi việc reset tự động quan trọng.

2. Patent:​

  1. Hệ thống dạy robot tác vụ mới qua điện thoại: người dùng chỉ nói mục tiêu, ứng dụng dùng VLM trong đám mây để hướng dẫn robot từng bước, tự động lọc các lần thành công để fine-tune mô hình điều khiển cục bộ.
  2. Module tự học cho robot hỗ trợ người cao tuổi: robot quan sát môi trường, VLM phân rã yêu cầu như "lấy thuốc cho bà" thành các động tác cụ thể, sau đó tự cải thiện qua thực hành mà không cần lập trình viên can thiệp.
  3. Nền tảng đào tạo robot công nghiệp zero-shot: kỹ sư chỉ cần nhập mô tả ngôn ngữ cho tác vụ lắp ráp mới, hệ thống dùng VLM khám phá và thu thập dữ liệu, rồi fine-tune chính sách robot qua SFT và RL tự động.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.19891
ArXiv Abstracthttps://arxiv.org/abs/2608.19891
PDF Downloadhttps://arxiv.org/pdf/2608.19891.pdf
Github RepositoryN/A