Chuyển tới nội dung chính

🤗 Daily Hugging Face Paper Digest - 2026-08-20

Báo cáo được tạo tự động vào lúc 2026-08-21 10:10:31 bằng mô hình hermes-agent.

📰 Summary of Papers​

1. SemComp-Bench: Benchmarking Semantic Task Completion in Video Generation (153 votes)​

Tác giả: Keyu Tu, Zhuowei Chen, Mengqi Huang, Yuxin Wang, Jiahao Zhu, et al.

Xuất bản lúc: 2026-08-18

Tag: Video Generation, Benchmark, VLM, Semantic Grounding, Outcome Achievement, Instruction Following

I. Main Problem:​

Các benchmark video generation hiện nay chỉ đo độ chân thực thị giác, tính liên tục thời gian, sự tuân thủ prompt và tính nhất quán chủ thể, nhưng bỏ qua việc video có thực sự đạt được kết quả đã yêu cầu hay không khi có ảnh tham chiếu. Hậu quả:

  • không rõ mô hình có giữ được níu bám ngữ nghĩa (semantic grounding) với ảnh gốc trong các tác vụ biến đổi trạng thái (gấp tờ tiền thành rùa, trang điểm mắt, lắp tai nghe...) hay không
  • không phân biệt được video 'làm đúng kết quả' và video 'chỉ giữ nguyên dáng vẻ ảnh gốc nhưng không hoàn thành yêu cầu'.

II. Main Idea:​

Semantic Task Completion Video Generation là tác vụ sinh video hướng tới kết quả: thành công = đạt được trạng thái đích + giữ được mối quan hệ ngữ nghĩa liên quan đến tác vụ với ảnh tham chiếu (các thuộc tính không liên quan được phép đổi). Quy trình xây dựng gồm:

  • SemComp-Data: tập dữ liệu 6 lĩnh vực, mỗi mẫu = ảnh tham chiếu + chỉ thị ngắn + chỉ thị chi tiết + clip video tập trung kết quả, trích từ cùng một video thực tế (đảm bảo tác vụ khả thi).
  • 4-stage curation pipeline tự động: (1) lọc video tự chứa đủ thị giác, (2) tìm khung tham chiếu–kết quả (State Mining), (3) cắt clip quanh kết quả (Video Extension), (4) sinh chỉ thị ngắn/chi tiết (Instruction Structuring).
  • SemComp-Bench: đánh giá bằng VLM trả lời câu hỏi nhị phân có bằng chứng, báo OA Score (Outcome Achievement: 4 tiêu chí) và GR Score (Generation Reliability: 5 tiêu chí).

Ví dụ đời thường: giống thầy dạy nghề giao cho học trò tấm hình 'tờ tiền' và bảo 'gấp thành con rùa' — chấm điểm không phải xem học trò gấp từng nếp gấp ra sao, mà chỉ xem sản phẩm cuối có phải rùa origami làm từ đúng tờ tiền đó không, rồi còn xem tờ giấy có rách hay méo bất thường không.

III. Main Results:​

  • Qua 1.273 mẫu từ Koala-36M, chọn 60 mẫu cân bằng làm SemComp-Core đánh giá.
  • OA Score cao nhất chỉ 37.8% (HunyuanVideo-1.5-I2V); mọi mô hình đều < 40% → hoàn thành tác vụ + giữ grounding rất khó.
  • GR Score cao nhất 91.8% (Seedance 2.0); mô hình sinh khung riêng lẻ đẹp nhưng trong-scene spatiotemporal coherence là nút thắt (pass rate chỉ 0.328–0.739).
  • I2V luôn vượt T2V nhờ giữ được identity/appearance/structure; T2V gần như thất bại (OA 0.6–5.0%).
  • Chỉ thị chi tiết giúp OA cao hơn chỉ thị ngắn, nhưng chỉ thị ngắn dễ sinh video mượt hơn → đánh đổi giữa độ cụ thể và độ khó sinh.

IV. Conclusion & Future Works:​

SemComp-Bench là benchmark đầu tiên đồng thời đo Outcome Achievement và Generation Reliability qua VLM có bằng chứng, phơi bày giới hạn lớn của mô hình hiện tại trong hoàn thành tác vụ theo ảnh tham chiếu. Hướng tương lai: dùng SemComp-Data để fine-tune tăng khả năng task completion; mở rộng lĩnh vực và tiêu chí; cải thiện độ tin cậy trong-scene của các mô hình sinh.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Dùng SemComp-Data làm dữ liệu huấn luyện task-specific để nâng OA Score cho mô hình I2V, chứng minh hiệu quả thực tế thay vì chỉ đánh giá.
  2. Mở rộng benchmark sang lĩnh vực phức tạp hơn (robot thao tác, thí nghiệm khoa học) và bổ sung tiêu chí đánh giá quy trình trung gian tùy chọn.
  3. Nghiên cứu cơ chế grounding của VLM evaluator để giảm sai lệch đánh giá, so sánh VLM khác nhau làm giám khảo.

2. Patent:​

  1. Ứng dụng trên điện thoại: người dùng chụp ảnh vật phẩm (ví dụ món đồ handmade chưa hoàn thiện) rồi gõ lệnh 'làm thành sản phẩm X', app gọi mô hình video sinh clip minh họa kết quả cuối để người dùng xem trước ý tưởng trước khi tự làm.
  2. Tính năng preview trang điểm/phẫu thuật thẩm mỹ trên app di động: chụp mặt tham chiếu + mô tả kiểu makeup mong muốn, app sinh video khuôn mặt đã hoàn thiện giữ nguyên identity người dùng, giúp thử trước không rủi ro.
  3. Công cụ hướng dẫn nấu ăn/DIY trên điện thoại: chụp nguyên liệu gốc, app sinh clip món ăn hoàn thành từ đúng nguyên liệu đó để gợi ý kết quả, hỗ trợ người dùng hình dung trước khi bắt tay làm.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.17426
ArXiv Abstracthttps://arxiv.org/abs/2608.17426
PDF Downloadhttps://arxiv.org/pdf/2608.17426.pdf
Github Repositoryhttps://github.com/Kelly372/SemComp-Bench

2. Zetta ζ: An Efficient Closed-Loop Embodied Harness for Self-Evolving Physical Intelligence (133 votes)​

Tác giả: Xin Ding, Liang Mi, Mingzhe Huang, Zixuan Wang, Chao Zhang, et al.

Xuất bản lúc: 2026-08-17

Tag: Vision-Language-Action, Embodied AI, Robotics, Closed-Loop Learning, Self-Evolution, Agentic Harness, Rollout Infrastructure

I. Main Problem:​

Các hệ thống agent embodied hiện tại chỉ chạy mở vòng (open-loop): một khi bắt đầu thực thi, chúng tuân theo kỹ năng cố định hoặc quỹ đạo định sẵn, rồi mới phản tư sau khi episode kết thúc. Hậu quả:

  • mô hình lớn (VLA/WAM) không ra quyết định đủ nhanh (tần số milli-giây) để bắt kịp trạng thái robot-môi trường thay đổi liên tục
  • phản tư hậu kỳ không thể điều khiển thực thi đang diễn ra, không kiểm chứng được hành động thay thế, khó gán công trạng trên toàn quỹ đạo
  • kinh nghiệm thu được sau chạy khó tái dùng, thích nghi kém với động lực học thực tế thay đổi
  • gỡ lỗi thủ công bởi chuyên gia không mở rộng được theo phân phối tác vụ đuôi dài

II. Main Idea:​

Zetta là một harness embodied đóng vòng tự tiến hóa: giữ chính sách cơ sở (VLA/WAM) đóng băng, chỉ tiến hóa một harness H = {Critics, Recovery, Tools} gồm mã giám sát và phục hồi chạy tại thời gian thực. Ba vòng lặp tách biệt theo thời gian:

  • Loop 1 — Critic-Governed Action Loop: critic tần số cao quét quỹ đạo, phát hiện lệch phân phối rồi gợi ý chế độ; Orchestrator Agent duyệt bằng bằng chứng rồi mới can thiệp → điều khiển đóng vòng tại tần số hành động
  • Loop 2 — Rollout-Batch Candidate Optimization: gom cụm thất bại, chẩn đoán nhân quả từ trên xuống (Evaluation→Critic→State→Planning→Recovery→Parameter), rồi sinh ứng viên critic/recovery mới (cập nhật có biên, kiểu SGD trong không gian mã)
  • Loop 3 — Validation-Gated Skill Update: chỉ nhận ứng viên cải thiện tỷ lệ thành công và khái quát hóa qua held-out, đưa vào skill memory

Kèm Z-Infra: hạ tầng rollout tách logic agent khỏi tài nguyên phần cứng không đồng nhất (pool môi trường/model, batch inference, lập lịch bất đồng bộ) để mở rộng thông lượng.

Ví dụ đời thường: giống tổ thợ sửa máy, máy chính chạy tự động nhưng có một 'cảnh báo viên' đứng cạnh nhìn đồng hồ liên tục; hễ thấy rung lắc bất thường liền bấm chuông cho thợ lành nghề can thiệp ngay, xong thợ ghi lại bài học thành sổ tay chung để lần sau máy tự tránh lỗi — mà cái máy chính chẳng cần học lại gì cả.

III. Main Results:​

  • SOTA trên benchmark mô phỏng trong ngân sách rollout hiện tại: 90.8% LIBERO-Pro, 93.6% RoboCasa
  • Tỷ lệ thành công tăng theo vòng tiến hóa: LIBERO-Pro 34.5%→90.8%, RoboCasa 73.6%→93.6%
  • Zero-shot transfer: kỹ năng pregrasp/regrasp/stable-placement từ PnP-Stove sang PnP-Sink (58→82%), PnP-Cabinet (62→80%), PnP-Toaster (72→90%)
  • Robotic 'Aha Moments': Wine Bottle in Bowl 15%→95%, Put Cream Cheese on Bowl 5%→90% sau khi tìm ra cơ chế critic–recovery khóa
  • Tốc độ suy luận nhanh hơn 11.1× (độ trễ giảm 91% so với RPent)
  • Z-Infra tăng throughput 20.6×: 1.7→35.1 episode/phút, trực tiếp tăng tốc vòng tiến hóa

IV. Conclusion & Future Works:​

Zetta chứng minh đóng vòng tự tiến hóa của harness mở đường scaling cho trí tuệ vật lý đáng tin cậy: giữ policy đóng băng, chỉ tiến hóa critic/recovery chạy mã, kết hợp hạ tầng rollout tách rời phần cứng. Hướng tương lai: mở rộng sang môi trường vật lý thực, đa hình thái robot và nhiều policy khác nhau; tăng ngân sách rollout để tiếp tục nâng trần thành công; khái quát hóa harness sang tác vụ chéo miền.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng Zetta sang robot thật đa hình thái: kiểm chứng đóng vòng tự tiến hóa trên cánh tay công nghiệp và tay bám, đo độ trễ can thiệp thực tế so với mô phỏng.
  2. Nghiên cứu vòng tiến hóa đa tác vụ chéo miền: harness học một lần trên LIBERO-Pro rồi chuyển sang RoboCasa và ngược lại mà không cần tối ưu riêng từng task.
  3. Hạ tầng rollout tự động cân bằng tải trên cluster GPU/CPU hỗn tạp: lập lịch bất đồng bộ tối ưu throughput khi số lượng agent và môi trường mở rộng.

2. Patent:​

  1. App điện thoại điều khiển robot gia đình tự sửa lỗi: camera điện thoại làm critic tần số cao, app phát hiện vật trượt/kẹt rồi gửi lệnh phục hồi cho robot ngay lúc đang cầm đồ, không đợi chạy xong mới báo lỗi.
  2. Lò nướng/thiết bị thông minh tích hợp 'cảnh báo viên' đóng vòng: cảm biến quét trạng thái món ăn mỗi giây, khi lệch so với mẫu thành công chuẩn liền tự chỉnh nhiệt độ/thời gian, còn mạch chính không đổi thuật toán.
  3. Dây chuyền lắp ráp có sổ tay phục hồi chia sẻ: khi kẹp trượt ở công đoạn A, hệ thống ghi lại nguyên nhân và cách gỡ, đẩy vào thư viện chung để các tay máy khác tránh lỗi tương tự ở công đoạn B mà không cần kỹ sư can thiệp.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.16590
ArXiv Abstracthttps://arxiv.org/abs/2608.16590
PDF Downloadhttps://arxiv.org/pdf/2608.16590.pdf
Github Repositoryhttps://github.com/air-embodied-brain/Zetta-Embodiment

3. SemaPLC: A Project-Grounded, Verification-Gated Agent Harness for PLC Code Generation (111 votes)​

Tác giả: Yanlun Tu, Huacan Wang, Ziyue Zhou, Jie Zhou, Ningyan Zhu, et al.

Xuất bản lúc: 2026-08-19

Tag: PLC, LLM, Agent, Verification, IEC 61131-3, Structured Text, Code Generation, Runtime Validation, MCP

I. Main Problem:​

Các mô hình ngôn ngữ lớn (LLM) đã sinh được các đơn vị chương trình PLC độc lập, nhưng hai yêu cầu thực tế khi triển khai chưa được đo lường thống nhất:

  • Project grounding (neo dự án): mã sinh ra phải tích hợp vào một dự án PLC có sẵn — tái dùng module, block hàm, biến, kiểu, giao tiếp và tuân thủ quy tắc an toàn của dự án đó.
  • Runtime behavior (hành vi chạy thực): ngay cả khi đã biên dịch và qua kiểm tra tĩnh, logic vẫn có thể sai timer, sai chuyển trạng thái, quên reset, phá interlock, hoặc đẩy đầu ra sai thời điểm.

Các hệ thống trước chỉ trình diễn mã chạy được trên vài ca, chứ không đo lường độ tin cậy khi chạy trong dự án thực. Do đó chưa có đánh giá xuyên phương pháp, xuyên mô hình về hai yêu cầu này.

II. Main Idea:​

SEMAPLC là một agent harness (bộ khung tác tử) lấy LLM làm lõi, nhưng kỷ luật kết thúc mới là điểm mới: không tự cho mình xong, chỉ dừng khi có bằng chứng kiểm tra bên ngoài ghi log xác nhận. Ba nguyên lý thiết kế:

  • Project-grounded generation: sinh/sửa mã bám sát ngữ cảnh dự án (tìm module, tái dùng block, giữ quy ước, sửa trong phạm vi hẹp).
  • Multi-source verification: coi 3 nguồn kết quả ngoài là bằng chứng hạng nhất — kiểm tra spec, biên dịch, và xác thực trên runtime sống (triển khai thật, bơm input, so trace).
  • Verification-gated iteration: vòng lặp bị cổng xác thực chi phối — thất bại/thiếu/kết quả mơ hồ thì sửa tiếp; mỗi sửa vô hiệu mọi kết quả cũ, mọi claim phải khớp với tool log.

Các cấu phần (agent core, grounding, PLC skill library, verification, gate) giao tiếp qua một lớp PLC MCP tool duy nhất.

Ví dụ đời thường: giống thợ sửa máy giặt không tự tuyên bố xong việc chỉ vì 'trông ổn', mà phải cắm điện, bấm chạy thử từng chế độ và so đồng hồ áp lực với thông số chuẩn; hễ sai một bước là tháo ra sửa, rồi cắm chạy lại từ đầu — và chỉ giao máy khi các lần chạy thử đều ghi log đạt.

III. Main Results:​

  • Function track (117 task POU độc lập): SEMAPLC đạt tỷ lệ verified-pass cao nhất trên cả 7 mô hình (trung bình 72.6%, cao hơn baseline mạnh nhất Agents4PLC 8.8 điểm; GPT-5.5 đạt 82.1% vs 79.5%).
  • Project-context track (65 task trong 10 nhà máy thực): SEMAPLC dẫn đầu mọi lớp — integrated compilation 89.4%, static behavior 81.6, và dynamic behavior 52.2 so với tối đa 31.4 của baseline.
  • Lớp runtime phân biệt mạnh nhất: các baseline cách nhau ≤4 điểm ở static (71.7–75.7) nhưng tách xa ở dynamic (22.4–31.4); SEMAPLC không model nào dưới 30, baseline yếu rớt xuống một con số.
  • Hiệu ứng harness: bản 'bare' (lột bỏ kỹ năng/công cụ) kém hơn 8.5–33.3 điểm; harness là lớp tin cậy độc lập với mô hình (model yếu hưởng lợi nhất).
  • Ablation lớp kiểm tra (DeepSeek-V4-Flash): dynamic tăng đơn điệu 23.1 → 30.3 (+Spec) → 43.7 (+Compile) → 54.1 (+Runtime); chi phí tăng từ 34k token/8.9 request lên 129k/47.8.
  • Formal verification hở lỗ: 100% properties chứa timer (TON) không có kết luận chốt được → chính runtime validation bù lấp.
  • Chi phí: function track tương đương request (6.5 vs 6.3) và nhanh hơn (71s vs 454s); project track tốn nhiều request hơn hẳn (34.1 vs 6.9) để đổi lấy dẫn cách runtime.

IV. Conclusion & Future Works:​

SEMAPLC chứng minh chỉ có thực thi mới là phép thử trung thực của logic điều khiển: điểm static giống nhau có thể che giấu hành vi runtime rất khác biệt, nên benchmark phải chạy mã thật mới phân biệt được phương pháp tin cậy. Hai giới hạn: (1) dynamic scoring chỉ phủ tập kịch bản hữu hạn từ reference ẩn, chưa đo điều kiện chưa thấy; (2) ưu thế thu hẹp trên mô hình mạnh nhất (GPT-5.5 dynamic chỉ hơn 1.8 điểm). Hướng tương lai: xây dựng môi trường phát triển PLC end-to-end trên kiến trúc này, với sửa/sinh/triển khai cùng bị một cổng xác thực chi phối, và mở rộng validation sang mô phỏng quy trình.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng cổng xác thực sang mô phỏng quy trình (process simulation) để đánh giá hành vi PLC dưới kịch bản vận hành liên tục chưa có trong reference, thay vì chỉ các scenario rời rạc.
  2. Nghiên cứu cơ chế tự động tối ưu số vòng sửa (retry budget) theo độ khó task và năng lực backbone, thay vì cố định r=2, để giảm chi phí request trên project track.
  3. Áp dụng kỷ luật 'earned claims + edit invalidation' của SEMAPLC cho sinh mã an toàn thực thi (safety-critical code) ngoài PLC, nơi mọi assertion phải khớp tool log mới được giao.
  4. Xây dựng benchmark project-context quy mô lớn hơn với nhiều ngành công nghiệp và trace vàng đa điều kiện để đo độ khái quát của dynamic scoring.

2. Patent:​

  1. Ứng dụng điện thoại cho kỹ sư nhà máy: chụp/biên bản yêu cầu điều khiển bằng lời, app gửi lên agent sinh mã Structured Text, tự biên dịch và 'chạy thử ảo' trên runtime mô phỏng ngay trên điện thoại, hiển thị trace đầu ra so với chuẩn trước khi đẩy xuống PLC thật — tránh cắm nhầm logic hỏng.
  2. Công cụ kiểm định mã PLC di động: kỹ thuật viên dùng tablet quét project, app tự rà các block so với thư viện chuẩn và 'bơm' kịch bản input giả lập để bắt lỗi timer/reset/interlock ngay tại chân máy, xuất báo cáo sửa lỗi bằng tiếng thường.
  3. Hệ thống copilot IDE cho nhà máy: tích hợp cổng xác thực vào phần mềm lập trình PLC của hãng, mỗi đoạn mã AI sinh ra buộc phải qua 3 lớp spec-biên dịch-chạy thật mới được chấp nhận, ghi log làm bằng chứng giao hàng cho kiểm toán an toàn.
  4. Module tự kiểm PLC trong thiết bị biên (edge gateway): sau mỗi lần sửa logic, gateway tự deploy bản xem thử lên runtime ảo cách ly, so trace với bản tham chiếu, chỉ khi khớp mới chuyển sang PLC sản xuất — phát hiện sai thời điểm đầu ra trước khi ảnh hưởng dây chuyền.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.18565
ArXiv Abstracthttps://arxiv.org/abs/2608.18565
PDF Downloadhttps://arxiv.org/pdf/2608.18565.pdf
Github Repositoryhttps://github.com/midea-ai/SemaPLC

4. Co-RL: Unsupervised Reasoning Emerges from Diverse Cohort in Multi-agent RL (86 votes)​

Tác giả: Yunhao Yang, Yuexin Bian, Yunjie Tian, Di Fu, Tianjin Huang, et al.

Xuất bản lúc: 2026-08-19

Tag: Multi-Agent RL, Self-Rewarding RL, GRPO, LLMs, VLMs, Unsupervised Reasoning, Co-Training, Label-Free RL

I. Main Problem:​

RLVR (RL với reward xác minh được) cải thiện lý luận LLM/VLM rất tốt nhưng phụ thuộc nặng vào nhãn ground-truth — vừa đắt để gán, vừa ngày càng khan hiếm khi năng lực vượt quá khả năng con người đánh giá.

Self-rewarding RL (dùng chính output của mô hình làm phần thưởng) giảm phụ thuộc nhãn, nhưng vì reward và policy cùng từ một mô hình, nó:

  • tự củng cố thiên kiến và hành vi dưới tối ưu có sẵn
  • giảm đa dạng câu trả lời
  • dẫn đến output đồng nhất và training collapse (sụp đổ huấn luyện).

Câu hỏi cốt lõi: làm sao lấy được tín hiệu học đủ độc lập mà không cần nhãn nào?

II. Main Idea:​

CO-RL (Co-Reinforcement Learning) là phương pháp multi-agent RL không nhãn: nhiều mô hình tách rời, không chia sẻ tham số cùng tối ưu qua RL, dùng reward lấy từ peer (bạn cùng nhóm).

Quy trình mỗi bước:

  • Với một prompt không nhãn, mỗi agent sinh K câu trả lời, bỏ phiếu đa số (majority vote) ra một pseudo-answer.
  • Câu trả lời của agent này được thưởng nếu khớp với pseudo-answer của agent khác (vòng tròn: agent 1 học từ agent N).
  • Mỗi agent cập nhật riêng bằng GRPO/REINFORCE++, không truyền gradient qua nhau — chỉ giao tiếp tại khâu tính reward.

Vì các mô hình lỗi không tương quan hoàn toàn, một agent có thể sửa lỗi mà agent kia tự mình không thấy. Đa dạng cohort là chìa khóa: đẩy xa nhất có thể qua

  • họ mô hình khác nhau (Qwen / Llama / Gemma, encoder ảnh khác nhau cho VLM)
  • kích thước khác nhau (3B ghép 8B)
  • phương thức input khác nhau (prompt được viết lại thành tình huống khác nhưng giữ đáp án).

Lý thuyết chứng minh: self-reward tự xác nhận (p<1/2 càng đè bẹp đáp án đúng), còn CO-RL mở rộng vùng hội tụ đúng — nếu pA+pB>1 trên mỗi prompt thì cả hai hội tụ về đáp án đúng.

Ví dụ đời thường: giống hai sinh viên học chung mà không có đáp án — mỗi người tự làm rồi so bài với bạn; bạn này giỏi phần này, bạn kia giỏi phần kia, nên khi so nhau cả hai phát hiện chỗ mình sai mà tự làm thì cứ tin là đúng, thay vì ngồi một mình gật gù xác nhận lỗi của chính mình.

III. Main Results:​

  • Text-only (7 benchmark: toán, code, khoa học): CO-RL tăng LLM trung bình 3.0–8.6% so với base; thắng mạnh nhất self-rewarding (TTRL, RENT, Intuitor, Co-rewarding-II) 0.8–2.0%.
  • Same-family (2 agent cùng base) đã tăng 8.0% (Qwen2.5-3B) và 4.0% (Llama-3.2-3B); different-family+ đạt cao nhất.
  • Multimodal (4 benchmark: MathVision, MathVerse, MathVista, We-Math): tăng VLM 2B–12B trung bình 2.3–7.2%.
  • So multi-agent RL: thắng CoMAS +4.0% dù只用 nửa số agent và không cần LLM judge hay reward model.
  • 3-agent (Qwen2.5-3B + Llama-3.2-3B + Qwen3-1.7B): tăng 7.8 / 6.0 / 8.2%, đuổi kịp hoặc vượt GT-Reward dù không dùng nhãn.
  • Càng đa dạng họ mô hình → lỗi chồng chéo càng thấp (Figure 2d), pseudo-label càng chuẩn, training càng ổn định (không collapse như TTRL).

IV. Conclusion & Future Works:​

CO-RL chứng minh giám sát chéo giữa các agent độc lập là tín hiệu học hiệu quả và tổng quát — xuyên modal, xuyên họ mô hình, không cần nhãn hay judge ngoài. Đa dạng cohort là yếu tố quyết định tránh feedback loop tự củng cố.

Hướng tương lai (theo paper): mở rộng sang N agent lớn hơn, khảo sát cơ chế chọn peer tối ưu, và áp dụng cho miền phi lý luận (đối thoại, agentic tasks) nơi nhãn càng khó có.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phân tích lý thuyết động lực huấn luyện của giám sát chéo giữa N agent bất đối xứng: điều kiện cần để vùng hội tụ đúng mở rộng khi agent có năng lực rất chênh lệch.
  2. Cơ chế tự động điều phối peer trong CO-RL: thay vòng tròn tĩnh, chọn động agent giám sát dựa trên độ bù trừ lỗi ước lượng được trong batch.
  3. Mở rộng CO-RL sang huấn luyện agentic / tool-use không nhãn, nơi phần thưởng đến từ sự đồng thuận giữa các policy có inductive bias khác biệt.

2. Patent:​

  1. Hệ thống tự huấn luyện mô hình trên điện thoại: chạy hai phiên bản nhỏ của cùng một assistant (khác họ kiến trúc hoặc khác cỡ) trên câu hỏi người dùng, chúng so bài và tự sửa lẫn nhau để cải thiện trả lời mà không cần con người gán nhãn — tiết kiệm chi phí gán dữ liệu cho hãng.
  2. Tính năng 'tự học không nhãn' cho app hỏi đáp/offline: khi không có đáp án chuẩn, app dùng nhiều mô hình nhỏ khác nhau cùng suy luận một câu hỏi, lấy phiếu đa số chéo làm chuẩn tạm để tự nâng cấp, tránh bị kẹt ở câu trả lời sai lặp lại.
  3. Camera điện thoại kết hợp đa mô hình thị giác-ngôn ngữ: hai VLM dùng encoder ảnh khác nhau cùng phân tích một bức ảnh, so kết quả để tự kiểm chéo — ứng dụng cho nhận diện sản phẩm/mẹo nội thất tại gia mà không cần bộ dữ liệu gán nhãn tốn kém.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.17253
ArXiv Abstracthttps://arxiv.org/abs/2608.17253
PDF Downloadhttps://arxiv.org/pdf/2608.17253.pdf
Github Repositoryhttps://github.com/DrStranded/Co-RL

5. OmniScientist: An Omni-Modal Omni-Discipline AI Scientist (83 votes)​

Tác giả: Bobo Li, Hao Fei, Tianjie Ju, Mong-Li Lee, Wynne Hsu

Xuất bản lúc: 2026-08-13

Tag: AI Scientist, Multimodal Agents, Autonomous Research, Scientific Discovery, LLM Agents, Tool Use

I. Main Problem:​

Các hệ thống AI scientist hiện nay đã bao phủ gần toàn bộ quy trình nghiên cứu (tạo ý tưởng, chạy code, viết báo), nhưng vẫn bị mù trước bằng chứng thô — gọi là evidence-incomplete. Nguyên nhân cốt lõi:

  • Dữ liệu chỉ được đưa cho agent qua văn bản, code, nhãn hoặc tóm tắt tiền xử lý do con người chọn trước.
  • Các quan hệ quyết định (không gian cục bộ, thứ tự thời gian, chéo kênh, thống kê, quy trình) bị mất ngay tại giao diện: caption bỏ sót hình thái vi mô, vector đặc trưng không thứ tự xóa thứ tự thời gian, vài scalar che giấu sự bất nhất chéo kênh.
  • Hệ quả: agent chỉ có thể nhận thấy những bất thường mà biểu diễn con người cho phép, thu hẹp cả không gian câu hỏi lẫn tuyên bố khoa học.

II. Main Idea:​

OmniScientist là AI scientist đa phương thức, xuyên chuyên ngành, chạy trực tiếp từ bằng chứng thô dị loại. Kiến trúc gồm:

  • Một perception layer phân loại bằng chứng thành 4 họ độc lập chuyên ngành: perceptual (ảnh, phổ, sóng, 3-D), symbolic (văn bản, công thức, chuỗi, đồ thị tri thức), quantitative-statistical (bảng, phân bố, kiểm định), procedural (quỹ đạo, mô phỏng, trace).
  • Ba agent tự chủ Ideation – Experiment – Writeup, mỗi agent dùng vòng lặp ReAct (quan sát–lý luận–hành động), được bao bởi một pipeline tất định kiểm soát chuyển giai đoạn và quay lại ideation nếu thử nghiệm null/thất bại.
  • Code-enforced checks chạy bằng code (không phải LLM): lọc tính mới, kiểm tra rò rỉ/leakage & cỡ mẫu hiệu dụng, chứng thực provenance thực thi, hiệu chỉnh multiple-comparison trên mọi test đã thử, chặn HARKing, và truy vết mọi số liệu về execution record.

Ví dụ đời thường: giống như một thanh tra không đọc bản tóm tắt của cấp dưới mà tự cầm vật mẫu, soi kính, nghe tiếng động thực tế rồi mới kết luận — và mọi lời khẳng định đều phải chỉ được vào đúng số đo anh ta tự ghi, chứ không được bịa từ báo cáo.

III. Main Results:​

  • Chạy 36 ca thực tế trải 5 họ chuyên ngành, 4 họ bằng chứng, 11+ modality (ảnh, tín hiệu, audio, video, 3-D, quỹ đạo, bảng, công thức, đồ thị). Hoàn thành trọn vẹn từ dữ liệu thô đến PDF trong cả 36 ca.
  • Với backbone tham chiếu (Sonnet 5), điểm báo trung bình 6.3/10 trên rubric 7 chiều do 2 judge ngoài họ chấm.
  • Ablation mù: biến thể chỉ nhận đặc trưng scalar tiền tính thua toàn diện — perception cải thiện cả 7 chiều đánh giá, thắng 85% đối đầu head-to-head (lợi nhất ở multimodal grounding và ý nghĩa khoa học).
  • Phát hiện cụ thể từ đọc thô: 21.7% trace gán nhãn 'noise' thực chất chứa sự kiện thật; random k-fold understate lỗi extrapolation 3.1–7.0×; 1,500 CAD part tự nhóm thành 11 morphotype không giám sát.
  • Backbone yếu hơn (Qwen-9B, Gemma-26B) vẫn chạy xong nhưng factual accuracy & soundness sụt theo sức mô hình.

IV. Conclusion & Future Works:​

Kết luận: perception xuyên suốt toàn bộ vòng đời nghiên cứu là thiết yếu cho khám phá khoa học có căn cứ bằng chứng, không chỉ là module QA rời rạc. Hệ thống chứng minh một engine duy nhất vận hành được trên seismogram, CAD mesh hay knowledge graph chỉ bằng cách viết thêm file spec, không sửa code lõi. Hướng tương lai: mở rộng thư viện tool nhận thức, tinh chỉnh ngân sách visual perception, và đưa pipeline vào vòng lặp thí nghiệm vật lý thực tế thay vì chỉ mô phỏng/phân tích.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Định hình taxonomy 4 họ bằng chứng khoa học (perceptual / symbolic / quantitative-statistical / procedural) làm nền tảng thiết kế agent nhận thức đa chuyên ngành, kèm đánh giá vì sao giao diện tiền xử lý làm mất quan hệ không gian – thời gian.
  2. Cơ chế code-enforced verification chống HARKing và fabrication: buộc mọi số liệu truy vết về execution record và hiệu chỉnh multiple-comparison trên toàn bộ test đã thử kể cả test bị loại.
  3. Nghiên cứu thực nghiệm về trade-off giữa ngân sách visual perception và chất lượng phát hiện: khi nào native numeric analysis đủ, khi nào bắt buộc render ảnh.

2. Patent:​

  1. Ứng dụng trên điện thoại: app y tế chụp ảnh tế bào/mảnh mô hoặc ghi âm tim, tự phân tích đặc trưng thô (texture, dải tần) ngay trên thiết bị thay vì chỉ gửi nhãn có sẵn, giúp sàng lọc bệnh không cần bác sĩ đọc trước.
  2. Camera điện thoại làm 'thanh tra khoa học cá nhân': quay video mây radar hoặc quỹ đạo bão, app trích xuất trực tiếp chuyển động/quỹ đạo thô và phát hiện bất thường (ví dụ hai tế bào mây hợp nhất) mà không cần dữ liệu tổng hợp sẵn.
  3. Công cụ kiểm tra chất lượng công nghiệp qua âm thanh: điện thoại thu tiếng máy chạy, mô hình đọc footprint tần số – thời lượng của tiếng ồn để gom nhóm lỗi và cảnh báo hỏng hóc sớm mà không cần bảng thông số kỹ thuật tiền xử lý.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.13558
ArXiv Abstracthttps://arxiv.org/abs/2608.13558
PDF Downloadhttps://arxiv.org/pdf/2608.13558.pdf
Github Repositoryhttps://github.com/Omni-Scientist/OmniScientist

6. SPADE: Self-Play in Adaptive Synthetic Executable Environments (42 votes)​

Tác giả: Bo Liu, Simon Yu, Yiding Jiang, Ao Qu, Andrew Zhao, et al.

Xuất bản lúc: 2026-08-19

Tag: Self-Play, RLVR, GRPO, LLM Agents, Environment Design, Curriculum Learning, Tool Use, Open-Endedness, Code-as-Environment

I. Main Problem:​

Agent ngôn ngữ cần một bể môi trường huấn luyện không ngừng mở rộng (các nhiệm vụ tương tác có phần thưởng xác minh được) để tự cải thiện liên tục. Thực tế hiện nay:

  • Các bể môi trường hiện tại — tự tay thiết kế, tổng hợp tĩnh, hay verifier đóng băng — đều giữ nguyên phân bố mục tiêu khi learner mạnh lên.
  • Agent ngừng tiến bộ ngay khi cạn kiệt các môi trường này; nguồn văn bản chất lượng cao của con người cũng hữu hạn.
  • Self-play không neo corpus dễ mode-collapse, bị giới hạn bởi tính đối xứng thông tin (không đặt được thách thức vượt quá kiến thức của chính nó) và khuếch đại lỗi.
  • Các phương pháp tổng hợp prior chỉ sinh task (bài toán có thưởng terminal thưa), không sinh môi trường đa lượt (chuyển trạng thái, hàm thưởng, mã xác minh).

II. Main Idea:​

SPADE là framework self-play RL dùng một LLM duy nhất đóng hai vai trò qua system prompt:

  • Environment Designer: viết môi trường huấn luyện hoàn chỉnh thành mã Python thực thi có giao diện OpenAI Gym-style reset()/step() — đại diện một MDP đầy đủ (chuyển trạng thái, hàm thưởng, mã verify).
  • Reasoning Agent: học cách hành động trong các môi trường đó.

Cơ chế cốt lõi — hint-based regret:

  • Designer còn sinh một privileged hint (gợi ý đặc quyền: chiến lược/quan sát then chốt, không lộ đáp án).
  • Agent chơi môi trường có hint và không hint; regret = trung bình thưởng(có hint) − trung bình thưởng(không hint).
  • Regret lớn = môi trường nằm ở biên năng lực (giải được nếu có hint, chưa được nếu không) → Designer bị thưởng để tạo môi trường vừa giải được vừa sát giới hạn học tập của Agent, tránh đối thủ làm bài bất khả thi hoặc người hợp tác thổi phồng điểm số.

Hai thành phần then chốt giữ hệ thống không sụp:

  • Corpus grounding: neo Designer vào đoạn tài liệu lấy từ pretraining corpus mỗi vòng để có nguồn novelty ngoài trọng số của nó (chống mode-collapse).
  • Environment memory: bộ đệm các môi trường đã sinh kèm điểm regret, giúp Designer tránh lặp bài quá dễ/quá khó và khởi đầu từ thứ Agent đang thấy khó.

Code-as-environment thống nhất bài toán suy luận một lượt và tác vụ agentic đa lượt (tool use) dưới một giao diện và một pipeline huấn luyện.

Ví dụ đời thường: giống một giáo viên tự soạn đề thi cho chính học trò mình — thầy ra bài, xem trò làm được không khi có 'gợi ý nhỏ' và khi không; nếu trò chỉ làm được khi có gợi ý, thầy ghi nhớ bài đó 'vừa tầm' rồi lần sau ra đề khó hơn một chút, hai bên cùng tiến bộ và đề thi tự động bám sát năng lực trò.

III. Main Results:​

  • Với backbone 30B (Qwen3-30B-A3B), SPADE vượt baseline môi trường tĩnh mạnh nhất +5.3 điểm trung bình trên 8 benchmark held-out (toán AIME, khoa học GPQA, code LiveCodeBench, reasoning-gym).
  • Thiết lập tool-use: +5.7 trên BFCL v4 multi-turn và +13.9 trên ACEBench-Agent (tại 30B-A3B); +10.3 tại 4B.
  • Thiết lập games: khoảng cách领先 so với baseline mạnh nhất tăng theo quy mô mô hình (đến +7.5 trên từng benchmark tại 30B-A3B), lợi thế giữ được sau khi phân bố tĩnh bão hòa.
  • Ablation: hint-based regret thắng tín hiệu EMA learning-potential; cấu hình đầy đủ (adaptive + corpus-grounded + memory) thắng bản frozen-designer và các bản cắt gọt.
  • Phân tích định tính: chương trình học tự nổi lên, tiến từ nhiệm vụ đơn kỹ năng sang môi trường đa ràng buộc, tương tác nhiều bước (state-gated) theo thời gian.
  • Validate được self-play ở quy mô 30B+ với recipe thực tế (validate môi trường, tránh reward hacking, curriculum).

IV. Conclusion & Future Works:​

SPADE biến thiết kế môi trường thành một thành phần có thể học được qua RL, thay vì bộ sinh đóng băng — hiện thực hóa bước cụ thể hướng tới tự cải thiện mở (open-ended self-improvement): agent không chỉ giỏi lên cách suy luận/hành động mà còn giỏi lên cả 'thế giới' nó tự tạo để học. Hướng tương lai: mở rộng sang miền đa dạng hơn (robotics, computer-use, web navigation), phân tích lý thuyết điểm cân bằng co-evolution, và kết hợp bộ nhớ agentic dài hạn để giữ độ khó sát biên năng lực khi biên đó di chuyển.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng SPADE sang huấn luyện đa agent: nhiều cặp Designer-Agent cùng co-evolve trong không gian môi trường chia sẻ, khảo sát động lực cạnh tranh và chuyển giao năng lực.
  2. Phân tích lý thuyết điểm cân bằng Nash của self-play với hint-based regret khi quy mô mô hình tăng, kèm điều kiện hint-free optimality.
  3. Áp dụng code-as-environment cho tác vụ computer-use và web-navigation thực tế với verifier tự động sinh từ tài liệu API, thay vì sandbox thủ công.

2. Patent:​

  1. Ứng dụng điện thoại luyện thi/ học tập tự động sinh đề 'vừa tầm' cho từng người: hệ thống theo dõi bài nào người dùng làm được khi có gợi ý nhỏ nhưng chưa được khi không, rồi tự tạo bài khó hơn sát giới hạn hiện tại — thay vì dùng bộ đề cố định như app hiện nay.
  2. Hệ thống đào tạo lập trình viên trên điện thoại: tự sinh môi trường code (bài toán + bộ kiểm tra đúng/sai dưới dạng mã) lấy cảm hứng từ tài liệu học liệu, tự điều chỉnh độ khó theo năng lực người học đo bằng tỷ lệ giải khi có/không có gợi ý.
  3. Trợ lý AI trên điện thoại tự cải thiện khả năng thao tác app: tự tạo kịch bản thao tác (mở app, bấm nút, kiểm tra kết quả) thành mã thực thi, rồi luyện tập để thao tác mượt hơn mà không cần con người viết kịch bản sẵn.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.19197
ArXiv Abstracthttps://arxiv.org/abs/2608.19197
PDF Downloadhttps://arxiv.org/pdf/2608.19197.pdf
Github Repositoryhttps://github.com/spade-rl/spade

7. Training Chemical Plausibility-Aware Large Language Models for Single-Step Retrosynthesis (29 votes)​

Tác giả: Bogdan Zagribelnyy, Ivan Ilin, Nikita Bondarev, Maksim Kuznetsov, Mathieu Reymond, et al.

Xuất bản lúc: 2026-08-19

Tag: Retrosynthesis, Single-Step Retrosynthesis, LLMs, CASP, Supervised Fine-Tuning, GRPO, Reinforcement Learning, Top-K Prompting, ChemCensor, SMILES

I. Main Problem:​

Single-step retrosynthesis (SSRS) vốn dĩ là bài toán một-một-nhiều (một phân tử đích có thể bẻ gãy theo nhiều hướng phản ứng khác nhau), nhưng giao thức đánh giá truyền thống chỉ xét một đáp án duy nhất (Top-1), nên không đo được độ đa dạng và bỏ sót nhiều đường tổng hợp khả thi.

Hậu quả:

  • LLM làm mô hình SSRS tuy hứa hẹn nhưng kém hơn công cụ truyền thống (LocalRetro, MHNreact) trên benchmark URSA trước đó.
  • Các benchmark cũ dễ bị rò rỉ dữ liệu (data leakage) vì mô hình thuộc lòng đáp án từ USPTO.
  • Thiếu thước đo hợp lý hóa học (chemical plausibility) khách quan thay vì chỉ đếm độ khớp Top-K.

II. Main Idea:​

Tác giả đề xuất Top-K prompting/training kết hợp huấn luyện có nhận thức hợp lý hóa học để bắt trọn không gian phản ứng đa dạng.

Quy trình cốt lõi:

  • Top-K mode: thay vì bắt mô hình trả 1 đáp án, yêu cầu sinh tới 15 đứa tiền chất khác nhau ('Give me 15 different answers') để mô phỏng tính một-nhiều của retrosynthesis.
  • Tập dữ liệu khổng lồ CREED-CCV-2+USPTO-XL (~45.6M phản ứng đã xác minh) sinh bằng Virtual Synthesis Engine từ ~3K khuôn mẫu chuyên gia, qua lọc ChemCensor v1.1.1.
  • C3LM (Chemistry Constraint-Consistent Language Model, khởi tạo từ LFM2 2.6B) được SFT trên tập này ở Top-K mode, rồi RFT bằng GRPO với 6 thành phần thưởng: định dạng SMILES hợp lệ, đủ K câu trả lời, không trùng lặp, ChemCensor score (hợp lý) và Novelty reward (tiền chất nằm ngoài tập huấn luyện nhưng vẫn hợp lý).
  • Đánh giá bằng ChemCensor trên benchmark OOD URSA-expert-2026 (100 phân tử mới, không trùng dữ liệu huấn luyện).

Ví dụ đời thường: giống sinh viên được giao tìm mọi cách nấu một món ăn thay vì chỉ nhớ một công thức — thầy bắt liệt kê 15 biến thể nguyên liệu khác nhau, rồi chấm điểm theo 'có ăn được thật không' (ChemCensor) và 'có món nào chưa ai nghĩ ra không' (Novelty), nên sinh viên học được cả kho đường nấu chứ không thuộc vẹt một bài.

III. Main Results:​

  • Top-K vượt Top-1: hầu hết LLM tăng mạnh khi chuyển sang Top-K; Gemini 3.1 Pro vươn lên LLM baseline tốt nhất (Av.PT-Top-10 CC = 1.08), riêng GPT 5.2 tệ hơn.
  • Huấn luyện Top-K mode nâng C3LM >2.5 lần ở metric Av.PT-Top-10 so với Top-1 mode.
  • Mở rộng tập dữ liệu >6 lần (CREED-CCV → CREED-CCV-2+USPTO-XL) tiếp tục cải thiện Max/@3/@5/@10 thêm +0.12/+0.13/+0.17/+0.29.
  • C3LM-LFM2-RFT-CC-NR đạt Max=2.16, Av.PT-Top-10 CC=1.37 trên URSA-expert-2026, vượt mọi mô hình truyền thống (LocalRetro 2.11/1.22, MHNreact 2.05/1.28) trên benchmark OOD này.
  • Trên USPTO-50K-test-mini (ít rò rỉ), C3LM-RFT-CC-NR đứng nhì (Av.PT-Top-10=1.85), dấu hiệu sinh phản ứng thực sự hợp lý chứ không thuộc lòng.
  • Không gian bổ trợ: LLM và mô hình truyền thống khám phá các vùng phản ứng khác nhau — chỉ riêng C3LM-3 (+0.4) và C3LM-5 (+0.3) sinh nhiều phản ứng duy nhất hơn MHNreact; mọi LLM đều có phản ứng MHNreact không sinh ra → gợi ý hệ thống ensemble.
  • Frontier từ 30 mô hình ghép lại: vẫn còn dư địa cải thiện (+0.44 cho Av.PT-Top-10).

IV. Conclusion & Future Works:​

Top-K cộng huấn luyện nhận thức hợp lý hóa học là hướng đi thực tiễn mới giúp LLM vượt công cụ truyền thống trên SSRS. Hạn chế được thừa nhận: có vòng lặp một phần (tối ưu ChemCensor → đo bằng ChemCensor); ChemCensor chưa tính điều kiện phản ứng/thực tế phòng thí nghiệm; tập huấn luyện thiên kiến khuôn mẫu template. Hướng tương lai: xây dựng ensemble LLM + mô hình truyền thống để phủ rộng không gian hóa học; mở rộng tiền tố tham chiếu ngoài patent; so sánh đa dạng theo lớp phản ứng cơ chế thay vì chỉ khớp SMILES.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Hệ thống ensemble retrosynthesis kết hợp đầu ra của LLM (C3LM) và mô hình truyền thống (MHNreact/LocalRetro) theo phân bổ bổ trợ không gian phản ứng, đo lường bằng tỷ lệ giao cắt và phần duy nhất để tối ưu độ phủ.
  2. Mở rộng ChemCensor thành thước đo có tính đến điều kiện phản ứng, dung môi và phương pháp tinh chế, thay vì chỉ xác thực cấu trúc tiền chất.
  3. Nghiên cứu tiền tố synthetic precedent đa nguồn (ngoài patent USPTO) để giảm thiên kiến template và đưa vào các hóa học 'novel' bị khuôn mẫu bỏ sót.
  4. Đánh giá đa dạng phản ứng theo cơ chế/lớp phản ứng hóa học thay vì so khớp chuỗi SMILES exact, nhằm đo sát hơn tính đa dạng thực sự.

2. Patent:​

  1. Ứng dụng trên điện thoại cho nhà hóa học: app chụp hoặc nhập cấu trúc phân tử đích, gọi mô hình C3LM nhỏ gọn để liệt kê ngay 15 đường bẻ gãy tiền chất hợp lý kèm điểm ChemCensor, giúp đánh giá nhanh tính tổng hợp được trước khi vào phòng thí nghiệm.
  2. Module gợi ý nguyên liệu thay thế trong phần mềm thiết kế thuốc: khi một tiền chất đắt hoặc bị cấm, hệ thống sinh các disconnection mới (Novelty reward) nằm ngoài kho已知的 để đề xuất route rẻ hơn mà vẫn qua được bộ lọc hợp lý hóa học.
  3. Công cụ kiểm duyệt an toàn tích hợp ChemCensor trên cloud: tự động chặn các route tổng hợp sinh ra mà điểm hợp lý rơi vào vùng nghi vấn (tiềm năng lạm dụng), chỉ trả về đường tổng hợp cho hợp chất nằm ngoài cơ sở dữ liệu chất nguy hại.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.18940
ArXiv Abstracthttps://arxiv.org/abs/2608.18940
PDF Downloadhttps://arxiv.org/pdf/2608.18940.pdf
Github RepositoryN/A

8. Training Leaves Traces: Centered Residual Signatures for Language Model Lineage Verification (16 votes)​

Tác giả: Aman Singh Thakur, Rayan Khoury

Xuất bản lúc: 2026-08-14

Tag: Language Model Lineage, Provenance, Residual Networks, Weight Verification, Data-Free, Model Auditing, Checkpoint Laundering, Open-Weight Models

I. Main Problem:​

Các mô hình ngôn ngữ open-weight bị tinh chỉnh (fine-tune), lượng tử hóa (quantize), cắt tỉa (prune), gộp (merge), LoRA rồi phân phối lại dưới tên mới, nhưng nguồn gốc (lineage) thường không được ghi chép. Bài toán: chỉ từ trọng số (weights), hai checkpoint có kiến trúc residual tương thích có chia sẻ tổ tiên trọng số không?

Mọi phương pháp cũ đều hổng ít nhất một chiều (Bảng 1):

  • Crypto hash: vỡ sau bất kỳ thay đổi trọng số nào.
  • Metadata / model card: cần nhà phát hành trung thực, dễ giả mạo.
  • Watermark: phải cài chủ động trước khi phát hành → checkpoint cũ không cài được.
  • Phương pháp hành vi (CKA, SVCCA, IPGuard): cần dữ liệu + forward pass, đo độ tương đồng chứ không chứng minh kế thừa trọng số.
  • Weight similarity: vỡ dưới reparameterization.
  • Re-Basin: cần O(d³) căn chỉnh mỗi cặp.

II. Main Idea:​

Centered Residual Signature — chữ ký residual có hiệu chỉnh tâm. Cơ chế:

  • Mỗi block residual tính x′ = x + F(x); hợp các lớp tuyến tính trong nhánh thành branch product M = W_out·W_in.
  • Mọi mô hình residual đã huấn luyện đều có trace concentration (năng lượng tập trung dọc theo ma trận đơn vị): s(M)=|tr(M)|/‖M‖_F cao. Nhưng tín hiệu này chung cho mọi mô hình huấn luyện độc lập → không chứng minh được huyết thống.
  • Bóc tách: M = (tr(M)/d)·I + E, với E là phần không vết (traceless) — đây là thành phần riêng của checkpoint. Trừ bỏ phần I chung, chỉ giữ E.
  • Chữ ký φ = vector hóa E đã chuẩn hóa. So φ giữa hai checkpoint qua Hungarian matching từng block → lineage score đối xứng L(A,B) = trung bình cosine similarity các block đã căn chỉnh. Hiệu chuẩn với phân phối null thực nghiệm từ các mô hình độc lập.
  • Bất biến đại số với hoán vị unit ẩn và rescaling nghịch đảo trong block MLP.

Ví dụ đời thường: giống thợ soi vân tay — hai người cùng chủng tộc có nếp gấp da chung (như thành phần đơn vị mọi mô hình residual đều có), nên chỉ so nếp gấp chung thì ai cũng giống ai; thợ trừ đi lớp chung đó, chỉ giữ lại vân tay riêng từng người để đối chiếu mới phân biệt được ai là con ai.

III. Main Results:​

  • AUROC = 1.0 trên cả hai benchmark: residual-MLP (52 cặp) và GPT-2 30M (45 cặp), tách hoàn toàn hậu duệ (fine-tuned, LoRA-merged, pruned, quantized) khỏi mô hình độc lập và distilled.
  • Trace concentration xuất hiện ở 6 họ LM (GPT-2, BERT, LLaMA-2, Mistral, Qwen2.5, DeepSeek-R1): Hungarian matching khôi phục đúng cặp block 100%, baseline ngẫu nhiên ≤4%. Còn lan sang ViT, ResNet, Whisper.
  • Dưới chức-preserving laundering (hoán vị P, rescale D, PD, PDFT): phương pháp này và Re-Basin giữ AUROC=1.0; baseline thô sụp: Aligned Frobenius →0.5, SVD →0, Weight Cosine →0.80.
  • Nhanh hơn 76× so với Re-Basin trên GPT-2 (5ms vs 388ms) nhờ tính branch product trực tiếp O(L·d²·h), không cần tìm căn chỉnh.
  • Case study LLaMA-2: 3 hậu duệ (Chat 0.995, Vicuna 0.996, CodeLlama 0.336) ghi điểm cao; 7 mô hình độc lập (OpenLLaMA, Amber, Baichuan, InternLM, Yi) đều |L|<5×10⁻⁵.
  • Distillation không gây nhiễu: student giống teacher hơn +1.4% top-1 nhưng L≈0.002 → phương pháp đo tham số chung, không đo bắt chước hành vi.

IV. Conclusion & Future Works:​

Phương pháp thiết lập tín hiệu provenance bị động, không cần dữ liệu cho checkpoint residual open-weight tương thích. Giới hạn: chỉ white-box residual cùng độ sâu/vị trí ẩn; không xác định hướng huyết thống hay quyền sở hữu; không cross-architecture; điểm yếu dần khi cắt tỉa quá mạnh (0.58 ở 85% sparsity) hay continued-pretraining dài; dễ tổn thương với Q-rotation nếu norm không có tham số học. Hướng tới: mở rộng phủ sóng hệ sinh thái, khôi phục gia phả đa nhánh (multi-hop), xử lý kế thừa một phần (layer graft), và vượt qua tấn công Q-rotation.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng chữ ký residual sang kiến trúc thị giác và âm thanh (ViT, Whisper) để kiểm chứng nguồn gốc mô hình đa phương thức cùng một cơ chế data-free.
  2. Phục hồi cây gia phả mô hình từ tập checkpoint: kết hợp lineage score theo cặp thành đồ thị huyết thống đa nhánh thay vì chỉ xác nhận quan hệ hai đỉnh.
  3. Chống tấn công Q-rotation laundering: thiết kế chuẩn hóa không tham số hoặc thêm thành phần bất biến theo phép xoay để bịt lỗ hổng trên kiến trúc RMSNorm.
  4. Đánh giá độ bền dưới các hàm Laplacian thực tế (utility loss thực tế thay vì chỉ suppression attack trên MLP) để có ngưỡng bảo mật đáng tin hơn.

2. Patent:​

  1. App kiểm chứng nguồn gốc mô hình AI trên điện thoại: trước khi cài một mô hình ngôn ngữ tải từ mạng, app quét trọng số để báo xem nó có phải bản tinh chỉnh hợp lệ từ mô hình gốc đã được duyệt hay chỉ là bản sao giả mạo — giúp người dùng tránh mô hình chứa mã độc hoặc vi phạm bản quyền.
  2. Công cụ kiểm toán chuỗi cung ứng cho nhà phát triển ứng dụng: tự động đối chiếu trọng số mô hình bên thứ ba với mô hình gốc để phát hiện ai đang dùng trộm trọng số của mình mà không ghi nhận, không cần chạy mô hình hay có dữ liệu huấn luyện.
  3. Tính năng bảo mật hệ điều hành điện thoại: khi tải một mô hình AI, hệ điều hành tự phân tích 'dấu vết huấn luyện' và cảnh báo nếu mô hình thực chất là bản đã bị tối ưu hóa/lượng tử hóa lại của mô hình có bản quyền nhưng đổi tên để lẩn tránh.
  4. Dịch vụ xác thực mô hình cho cửa hàng ứng dụng: duyệt mô hình AI bằng cách so chữ ký residual với kho mô hình gốc đã đăng ký, tự động gắn nhãn 'được phép' hoặc 'nguồn gốc không rõ' trước khi phát hành.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.14929
ArXiv Abstracthttps://arxiv.org/abs/2608.14929
PDF Downloadhttps://arxiv.org/pdf/2608.14929.pdf
Github RepositoryN/A

9. Decision-Metric Alignment in Latent World Models: Diagnostics and Action-Conditioned Objectives for MPC Planning (15 votes)​

Tác giả: Jiawei Wang, Ke Rui, Yushen Zuo, Yichun Feng, Minglei Li

Xuất bản lúc: 2026-08-19

Tag: World Models, JEPA, MPC, Model Predictive Control, Latent Space, Inverse Dynamics, Representation Learning, Robotics

I. Main Problem:​

Mô hình thế giới latent kiểu JEPA dùng khoảng cách Euclidean từ latent dự đoán tới latent mục tiêu làm hàm chi phí cho MPC. Nhưng giải mã tốt các biến nhiệm vụ (state, action, reward) không đảm bảo chi phí này xếp hạng đúng các chuỗi hành động ứng viên theo tiến triển thực tế. Hai tính chất này độc lập:

  • Information sufficiency (thông tin đủ): nhiệm vụ có giải mã được từ latent không?
  • Decision-metric alignment (căn chỉnh metric quyết định): chi phí latent có xếp hạng ứng viên nhất quán với kết quả môi trường thật không?

Hậu quả: latent mã hóa đủ thông tin nhưng sắp xếp sai thứ tự ưu tiên (Candidate 1 rẻ thật nhưng xa goal latent, Candidate 3 đắt thật nhưng gần goal → Euclidean đảo ngược lựa chọn).

II. Main Idea:​

Tách biệt hai tính chất trên và đề xuất công cụ đo lường + mục tiêu huấn luyện mới.

Chẩn đoán (diagnostics):

  • Plan-Real Spearman: tương quan hạng giữa chi phí latent và chi phí thật trên 64 kế hoạch ngẫu nhiên.
  • CEM-stage Spearman: đo cùng tương quan đó qua 3 giai đoạn CEM (random → mid → elite) khi bộ tìm kiếm thu hẹp quanh vùng tối ưu.

Phân tích điều kiện đủ: latent giữ được thứ tự nếu (1) encoder ít méo (tỉ lệ Lipschitz Lf/µf → 1) và (2) độ chênh thực tế giữa ứng viên (margin) không quá nhỏ. Hai nguồn lỗi chính: encoder distortion và terminal rollout error.

DA-LeWM (Decision-Aligned LeWM): thêm 2 head phụ nhẹ — inverse-dynamics head (zt,zt+1 → at) và goal-conditioned action head (zt,zg → at) — vào mục tiêu LeWM gốc. Các head chỉ dùng lúc huấn luyện, bị vứt bỏ khi đánh giá, planner vẫn dùng Euclidean cũ.

Ví dụ đời thường: giống thợ mới học nghề không chỉ nhìn sơ đồ máy (giải mã được mọi bộ phận) mà còn tự thao tác thử vài động tác rồi quan sát máy phản ứng ra sao, nhờ đó khi gặp 10 cách vặn ốc khác nhau, tay biết cách nào thực sự tiến gần hoàn thành chứ không chỉ nhìn hình dáng ốc.

III. Main Results:​

  • Loại bỏ SIGReg làm bề mặt chi phí dẹt (tỉ lệ max/min cost từ 3–30× xuống ≈1.005×), Plan-Real Spearman gần 0, success rớt mạnh (PushT 49.3%→2.0%, Reacher 82%→10.7%).
  • Các biến thể không sụp đổ có probe score gần hệt nhau (R² chênh ≤0.03) nhưng Plan-Real Spearman và online success chênh rất lớn — tách rõ thông tin khỏi hình học quyết định.
  • DA-LeWM trên PushT: Plan-Real +0.280→+0.412, success 49.3%→92.7%.
  • Inverse-only đã mang lại phần lớn cú hích xếp hạng (Plan-Real +0.280→+0.420); cộng goal-action đẩy success thêm.
  • CEM-stage: random-stage DA-LeWM cao nhất (+0.536); elite-stage mọi biến thể bão hòa gần 0 (do margin thu hẹp).
  • Ngân sách lớn (10 epoch): DA-LeWM vào vùng success cao sớm hơn, duy trì tốt hơn LeWM trên cả 4 môi trường.
  • So baseline: PushT 98.7% (tốt nhất), Reacher 87.3% (tốt nhất), Cube 80.7%, TwoRoom 96.0% — đều vượt LeWM.

IV. Conclusion & Future Works:​

Đánh giá latent world model dùng cho điều khiển cần cả hai phía: nó mã hóa được gì VÀ thứ tự do chi phí quyết định tạo ra. DA-LeWM chứng minh giám sát có điều kiện hành động cải thiện hình học metric mà planner dùng, tăng cả tốc độ hội tụ lẫn success.

Hạn chế / mở rộng: chỉ 4 tác vụ giả lập ngắn hạn, ViT-Tiny, chi phí Euclidean, CEM; mỗi cấu hình 1 lần huấn luyện. Mở ngõ: robot thật, quan sát một phần, backbone lớn hơn, planner khác, reward/học được, metric latent PSD.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng chẩn đoán decision-metric alignment sang planner gradient-based và metric latent PSD thay vì Euclidean chuẩn, kèm chứng minh bound hạng chặt hơn theo margin.
  2. Nghiên cứu huấn luyện world model trên robot thật với goal đến từ một demo người dùng, kiểm tra DA-LeWM dưới quan sát một phần và nhiễu cảm biến.
  3. Kết hợp inverse-dynamics head với bisimulation/value-equivalence để học đồng thời hình học quyết định và metric thưởng mà không cần decoder pixel.

2. Patent:​

  1. Robot gập công nghiệp tự căn chỉnh: trong lúc huấn luyện mô hình thế giới, thêm head dự đoán hành động từ trạng thái kế tiếp, giúp không gian latent xếp hạng đúng các nhánh chuyển động; lúc vận hành chỉ cần so sánh khoảng cách latent tới ảnh mục tiêu để chọn kế hoạch, không cần viết hàm thưởng thủ công.
  2. App điện thoại hướng dẫn thao tác: người dùng chụp ảnh đích, điện thoại chạy MPC trên world model nhẹ; nhờ head goal-conditioned action huấn luyện trước, máy biết chuỗi hành động nào thực sự tiến gần đích dù hình ảnh bị nhiễu ánh sáng.
  3. Xe tự hành đồ chơi/gập nhà: world model dự đoán khung hình tiếp theo, dùng khoảng cách latent tới khung đích làm chi phí; patch thêm inverse-dynamics giúp né vật cản tốt hơn vì hình học latent phản ánh đúng hậu quả hành động thay vì chỉ giải mã được vị trí.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.18746
ArXiv Abstracthttps://arxiv.org/abs/2608.18746
PDF Downloadhttps://arxiv.org/pdf/2608.18746.pdf
Github RepositoryN/A

10. FM-Bench: A Benchmark for Long-Horizon Management with Competing Agents (15 votes)​

Tác giả: Tianyou Wang, Chongyang Gao, Kezhen Chen, Chen Dong, Yinghao He, et al.

Xuất bản lúc: 2026-08-19

Tag: LLM Agents, Benchmark, Long-Horizon, Multi-Agent, Tool-Use, Evaluation, Game-Theoretic, Memory

I. Main Problem:​

Các agent dựa trên LLM hiện đã làm tốt các tác vụ ngắn hạn có biên giới rõ ràng (sửa GitHub, giải toán, thao tác máy tính, gọi công cụ). Nhưng một câu hỏi vẫn chưa được đo lường: liệu chúng có duy trì được quyết định hiệu quả qua chân trời dài, nơi mỗi hành động có hậu quả cộng dồn và môi trường phản ứng lại lựa chọn của chúng hay không.

Các benchmark hiện có chỉ đẩy được một chiều thực tế:

  • Chân trời dài (hàng trăm bước, mô phỏng kinh doanh vài tháng–năm) — nhưng môi trường đứng yên, không đẩy lùi.
  • Agent cạnh tranh — nhưng chỉ diễn ra trong tập ngắn, không có tổ chức phải giữ sống.

Chưa có benchmark nào kết hợp đồng thời cả hai cùng một tổ chức phải vận hành qua chúng.

II. Main Idea:​

FM-Bench (Football Management Benchmark) đo lường khả năng quản lý: một LLM agent điều hành một câu lạc bộ bóng đá trong 20 năm ảo qua 26 công cụ và khoảng 340–400 điểm dừng quyết định, mỗi điểm dừng cho phép agent gọi bao nhiêu lượt công cụ tùy ý.

Quy trình tại mỗi điểm dừng:

  • agent đọc trạng thái (bảng xếp hạng, tiền, đội hình, thư mời...)
  • hành động qua công cụ (mua bán cầu thủ, đàm phán hợp đồng, đầu tư cơ sở, xếp đội hình)
  • gọi advance để thời gian chạy tiếp

Bốn đòi hỏi của quản lý được cài thành cơ chế cụ thể:

  • Thông tin ẩn: chỉ số thực của cầu thủ bị ẩn sau scouting có sai lệch vĩnh viễn.
  • Hậu quả cộng dồn: đầu tư trẻ/cơ sở chỉ đền bù sau nhiều năm; phá sản hoặc mất lòng tin ban lãnh đạo sẽ kích hoạt sa thải nhưng vẫn có thể phục hồi.
  • Thị trường phản-thích-ứng: giá ẩn tăng sau mỗi lời đề nghị bị từ chối, nên không chiến thuật nào giữ mãi là tối ưu.
  • Áp lực đa mục tiêu: ban lãnh đạo đánh giá kết quả lẫn kỷ luật tài chính cùng lúc.

Chấm điểm xác định, tích lũy từ cơ chế trò chơi, không có LLM judge hay người chấm. Hai chế độ:

  • Solo track: mỗi model đấu với thế giới kịch bản đóng băng.
  • Arena: 15 model cộng một anchor kịch bản chung một thế giới 20 năm — đấu đầu-đầu đầu tiên ở quy mô này.

Ví dụ đời thường: giống một người mới được giao quản lý một quán ăn 20 năm, không được xem sổ sách thật của nhân viên, mỗi quyết định mua nguyên liệu hay trả lương đều để lại hậu quả vài năm sau, khách thì so sánh giá giữa các quán nên hễ bạn trả giá bét lại càng bị hét cao, và ông chủ có thể đuổi bạn bất cứ lúc nào — bạn phải tự ghi chú để mai nhớ, chứ không ai nhắc.

III. Main Results:​

  • 15 model flagship chạy qua 3 seed đều hoàn thành toàn bộ 20 năm; trong khi các baseline kịch bản mù chết (bị sa thải/phá sản) ở 7/9 lượt.
  • claude-fable-5 dẫn đầu cả Solo (90.94) lẫn Arena, đạt ~95% của oracle được đọc trạng thái ẩn (95.54).
  • Thứ tự bảng xếp hạng không dự đoán được bởi quy mô, giá tiền, hay hãng sản xuất; nó chỉ ổn định muộn (tương quan hạng với kết quả cuối tăng từ 0.19 ở năm 5 lên 0.78 ở năm 15). deepseek-v4-pro dẫn năm 5 và 10 nhưng chốt thứ 12.
  • Người chơi thực (6 người, lần đầu): 4/6 chết, người giỏi nhất chỉ xếp cuối bảng model.
  • Ba hành vi quan trọng nhất gắn với điểm số (Spearman): giảm đầu tư đền bù chậm khi gần hết hạn (−0.58), giữ tiền đầu tư thay vì để không (−0.50), mở gia hạn hợp đồng sớm (+0.45).
  • Token spend không tương quan với điểm dưới mọi cách tính (người thắng nằm trong 3 model rẻ nhất).
  • Không model nào học được giá ẩn thật dù trải qua hàng trăm lời đề nghị bị từ chối (trung vị 30 đề nghị/mỗi vụ mua, cao nhất 133).
  • Bộ nhớ tự quản lý thất bại theo hai cực: archive chỉ ghi thêm (mất trong lịch sử) hoặc viết lại toàn bộ mỗi mùa (kế hoạch không còn để thực thi).

IV. Conclusion & Future Works:​

FM-Bench chứng minh quản lý dài hạn với đối thủ cạnh tranh là một năng lực riêng biệt mà benchmark ngắn hạn không đo được; người thắng là một generalist cân bằng chứ không phải model to nhất hay đắt nhất, và điều phân tách các model là hành vi quản lý chứ không phải lượng tính toán.

Hướng tương lai:

  • đo lường hợp tác người–agent trên cùng track (điểm số đồng nhất, hồ sơ hai bên bù trừ nhau).
  • đào sâu vì sao model không học được giá thị trường ẩn và cách sửa lỗi bộ nhớ.
  • mở rộng sang môi trường quản lý ngoài bóng đá.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phân rã điểm số thành hồ sơ hành vi đa trục cho agent dài hạn, thay vì chỉ xếp hạng kết quả, để chỉ ra năng lực nào đang thiếu ở mỗi model.
  2. Thiết kế bộ nhớ tự-chọn của agent (notebook) làm đối tượng đo lường, phát hiện hai chế độ hỏng: archive chỉ-ghi-thêm và viết-lại-toàn-bộ.
  3. Arena nhiều model đối thủ trong một nền kinh tế bền vững 20 năm với draft đồng-endowment và giải quyết xung đột kín để loại nhiễu ghế ngồi.
  4. Nghiên cứu vì sao hàng trăm lời đề nghị bị từ chối không dạy được model giá chấp nhận thật của thị trường phản-thích-ứng.

2. Patent:​

  1. Hệ thống đào tạo quản lý doanh nghiệp trên điện thoại: mô phỏng điều hành cửa hàng 20 chu kỳ, thị trường tăng giá sau mỗi lần người dùng trả giá bị từ chối, giúp học cách định giá thực tế mà không rủi ro tiền thật.
  2. Trợ lý AI quản lý tài chính cá nhân tự ghi chú kế hoạch vào 'notebook' và tự đánh giá: giữ tiền mặt ở mức tối ưu thay vì để không, tự gia hạn hợp đồng/hóa đơn trước hạn để tránh phạt trễ.
  3. Game đào tạo lãnh đạo cho doanh nghiệp: mỗi quyết định mua bán nhân sự/đầu tư để lại hậu quả vài quý sau, ban giám đốc ảo có thể sa thải người chơi, rèn kỹ năng credit-assignment dài hạn.
  4. Cơ chế chấm điểm tích lũy xác định (không cần người chấm) cho đánh giá AI agent quản lý: log-compress từng kênh (danh dự, giá trị thêm, giá trị đội) để không bão hòa và chống lạm dụng 'chết để cắt lỗ'.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.18423
ArXiv Abstracthttps://arxiv.org/abs/2608.18423
PDF Downloadhttps://arxiv.org/pdf/2608.18423.pdf
Github Repositoryhttps://github.com/Analogy-AI/fm-bench

11. Looped Language Models Improve Compositional Tool Calling (15 votes)​

Tác giả: Andrei Cristian Popescu, Haitz Sáez de Ocáriz Borde, Pietro Liò

Xuất bản lúc: 2026-08-17

Tag: Looped Language Models, Recurrent-Depth Transformers, Tool Calling, Agentic Systems, Compositional Reasoning, Adaptive Inference, Latent Computation

I. Main Problem:​

Các mô hình ngôn ngữ đóng vai trò ra quyết định trong hệ thống agentic thường thất bại khi phải gọi công cụ theo cấu trúc phức tạp. Cụ thể:

  • Tác vụ thực tế đòi hỏi phối hợp nhiều lệnh gọi API, duy trì trạng thái trung gian, và giữ các ràng buộc phụ thuộc giữa các bước (sequential/parallel/nested).
  • Transformer thường (một lần forward) chỉ sinh ra từng lệnh gọi đơn lẻ hợp lý, không đủ sức xây dựng và bảo toàn chuỗi hành động có cấu trúc qua nhiều quyết định.
  • Tiềm năng của looped language models (tính toán lặp ẩn) cho hành vi agentic hầu như chưa được khám phá.

II. Main Idea:​

Looped Language Models (Transformer vòng lặp / recurrent-depth): thay vì một lần truyền thuận, mô hình lặp lại một khối Transformer chia sẻ nhiều lần để tinh chỉnh biểu diễn ẩn trước khi sinh mỗi token — tăng compute tại test-time mà không tăng số tham số.

Cơ chế:

  • Mỗi token trải qua T vòng lặp; tại vòng t: trạng thái ẩn được cập nhật h^(t) = F_θ(h^(t−1)), sau đó một head chia sẻ đọc ra dự đoán.
  • Hỗ trợ adaptive inference: cổng exit học được cho phép dừng sớm khi tích lũy xác suất vượt ngưỡng q → chỉ tốn thêm tính toán khi thực sự cần.
  • Đóng khung compositional tool calling thành đồ thị có hướng không chu trình: nút = lệnh gọi (fk, ak), cạnh = phụ thuộc đầu ra→đầu vào (aj = ϕ(x, oi1, …)).

Ví dụ đời thường: giống thợ sửa máy mới nhận việc, thay vì trả lời ngay, anh ta thử chạy từng bộ phận, xem kết quả rồi mới quyết định bước tiếp theo — lặp vài vòng suy nghĩ ẩn để chắc chắn chuỗi thao tác đúng trước khi hành động.

III. Main Results:​

  • BFCL (compositional mạnh): lợi ích lớn nhất ở hạng mục Parallel / Parallel-Multiple; Simple (1 lệnh gọi) khác biệt nhỏ. Ouro-2.6B SFT Overall 86.4% vs Qwen3-1.7B SFT 40.7%. Retrofitted Llama-3.2-1B looped vượt bản non-looped (32.9% vs 21.4% Overall).
  • NESTful (nested/phụ thuộc): Ouro-2.6B SFT Win Rate 0.371 vs base 0.190; tăng độ sâu lặp → Win Rate tăng rõ rệt.
  • API-Bank (chủ yếu 1 lệnh gọi): chênh lệch rất nhỏ và phụ thuộc mô hình — khớp với đặc trưng benchmark thiên về chọn API/điền tham số.
  • Độ sâu lặp tăng → hiệu suất tăng trên tác vụ đa bước; mô hình lớn (Ouro-2.6B) bão hòa sớm (3 vòng) còn mô hình nhỏ cần nhiều hơn.
  • Adaptive inference đạt frontier compute–hiệu suất tốt hơn: dùng ít vòng lặp trung bình mà vẫn bằng/kém fixed-depth tốt nhất trên BFCL và NESTful.
  • Qualitative: depth thấp bỏ sót lệnh gọi phụ thuộc hoặc tham chiếu biến sai; từ depth 3 phục hồi đúng chuỗi + dependency (output-to-input reference).

IV. Conclusion & Future Works:​

Kết luận: looped computation đặc biệt có lợi khi tool calling đòi hỏi composition, dependency tracking, coordination. Retrofitted models yếu hơn native trên nested sâu → hiệu quả phụ thuộc cách biểu diễn hình thành từ pretraining. Giới hạn: thiếu bản non-looped cùng pretrain của Ouro (dùng Qwen/Llama SFT làm proxy); mọi benchmark đều tĩnh, single-turn. Hướng tương lai: mở rộng sang live/multi-turn (BFCL live) nơi agent phải phục hồi sau lỗi thực thi qua nhiều lượt.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Thiết kế adaptive exit gate chuyên biệt cho chuỗi phụ thuộc tool-calling, học ngưỡng dừng theo độ khó của từng bước thay vì theo token.
  2. Mở rộng looped LM sang thiết lập multi-turn live agent với khả năng tự phục hồi sau khi lệnh gọi trước thất bại.
  3. Nghiên cứu so sánh pretraining natively recurrent vs retrofitted trên nested workflows sâu để lý giải tại sao native vượt trội.

2. Patent:​

  1. Trợ lý ảo trên điện thoại tự phối hợp nhiều ứng dụng (lịch, email, nhắc việc): thay vì gọi 1 API, máy lặp vài vòng tính toán ẩn để lấy kết quả bước trước làm tham số bước sau (tra lịch rảnh rồi mới tạo sự kiện), chạy mượt mà hơn mà không cần mô hình lớn hơn.
  2. Hệ thống nhà thông minh hiểu lệnh phức tạp ('tắt đèn sau khi máy lạnh đạt 25 độ'): thiết bị lặp tính toán ẩn để theo dõi trạng thái trung gian và chỉ thực thi đúng khi ràng buộc thứ tự thỏa mãn, tránh sai sót khi gọi nhiều thiết bị.
  3. Tìm kiếm du lịch trên app: agent lặp nhiều vòng để ráp nối các truy vấn phụ thuộc (tìm chuyến bay rồi lọc khách sạn gần sân bay) mà không sinh chuỗi lý luận dài, tiết kiệm pin và độ trễ trên điện thoại.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.18171
ArXiv Abstracthttps://arxiv.org/abs/2608.18171
PDF Downloadhttps://arxiv.org/pdf/2608.18171.pdf
Github RepositoryN/A

Tác giả: Anna Borisiuk, Andrey Savchenko, Alexander Panchenko, Elena Tutubalina

Xuất bản lúc: 2026-08-14

Tag: LLM Unlearning, Machine Unlearning, Popularity Gap, LoRA, Dual-Ascent, Gradient Ascent, LLMs

I. Main Problem:​

Các phương pháp unlearning (gỡ bỏ tri thức khỏi mô hình đã huấn luyện) hiện tại đối xử với mọi fact trong forget set như bằng nhau về độ khó xóa, áp dụng gradient đồng đều bất kể tần suất xuất hiện lúc pretraining.

Thực tế ngược lại:

  • Fact phổ biến (thấy nhiều lần) được mã hóa sâu hơn, khó xóa hơn fact hiếm.
  • Hậu quả sinh ra popularity gap: fact hiếm bị xóa quá đà gây hỏng retain (khả năng giữ tri thức); fact phổ biến xóa không sạch, vẫn bốc lại được qua paraphrase hoặc adversarial prompt.
  • Các pháp hiện tại chỉ dùng tín hiệu nội tại (per-token confidence) — thứ phản ánh hành vi output hiện tại chứ không phản ánh độ sâu mã hóa tham số, nên không thể khép gap này lại.

II. Main Idea:​

AdaPop (Adaptive Popularity) — phương pháp unlearning đầu tiên điều kiện gradient per-fact lên một tín hiệu phổ biến đến từ ngoài mô hình (external proxy), kết hợp bộ điều khiển tự cân bằng.

Cơ chế:

  • Với mỗi fact, tính exponent βi = a·s_i^{-b} từ popularity score s_i (proxy: Wikidata sitelinks, LLM-as-Judge, hoặc corpus frequency). Fact càng phổ biến → s_i lớn → βi nhỏ → gradient ép xóa mạnh hơn (pressure-sustaining); fact hiếm → βi lớn → gradient tự suy yếu khi đã xóa (self-limiting).
  • Trọng số per-token: w_i,t = sg[p_i,t^{βi}], nhân vào forget loss. Vì stop-gradient, magnitude gradient thực tế là p^{βi-1}; β=1 khôi phục đúng WGA.
  • Dual-ascent controller: coi hệ số retain α như biến đối ngẫu (Lagrange multiplier), cập nhật mỗi epoch theo độ trôi retain loss → tự giữ cân bằng forget/retain, bỏ hẳn grid-search.

Khác biệt cốt lõi với WGA: lấy tín hiệu từ corpus frequency (độ sâu mã hóa) thay vì confidence (bề mặt output).

Ví dụ đời thường: giống thợ sửa máy, thay vì chỉ nhìn đồng hồ báo lỗi bề mặt, tra sổ bảo hành xem máy đó từng được dùng nhiều lần hay ít (popularity) để biết bộ phận nào mòn sâu cần tháo triệt để, rồi mỗi ngày tự vặn lại lực ốc sao cho máy vận hành êm mà không tháo nhầm ốc còn tốt.

III. Main Results:​

  • Thử trên 3 model (Llama-3.1-8B, Qwen2.5-7B, Gemma-7B, LoRA) × 2 benchmark (DUET, RWKU).
  • So với WGA/NPO: AdaPop rò rỉ ~5× ít hơn nội dung đã quên dưới paraphrase, ~1.6× ít hơn dưới adversarial reformulation.
  • Internal metrics: forget-set hidden states dịch chuyển xa hơn khỏi trạng thái pre-unlearning (Hid.Cos thấp nhất, ∆Rank cao nhất); retain-set giữ nguyên.
  • General capability (MMLU, HellaSwag) giữ trong 0.05 MMLU so với checkpoint gốc.
  • GA/GD collapse (sinh văn bản hỏng); NPO giữ retain tốt nhưng fact phổ biến vẫn recover được; WGA xóa bề mặt nhưng fact vẫn lấy lại qua paraphrase (∆Rank âm = dấu hiệu chỉ ức chế bề mặt).

IV. Conclusion & Future Works:​

Kết luận: confidence của mô hình không phản ánh độ sâu mã hóa; đóng popularity gap cần tín hiệu từ ngoài mô hình. Wikidata score cung cấp tín hiệu đó với chi phí thấp cho factual QA dạng entity-centric.

Hướng tương lai:

  • Mở rộng "popularity" thành độ khó xóa tổng quát (procedural / creative / code knowledge) — nơi sitelink không áp dụng.
  • Thay βi bằng bất kỳ per-fact difficulty estimate nào thỏa tiêu chí, hoặc tiêu chí khác hẳn như harm severity, per-fact retention priority.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng difficulty proxy cho tri thức thủ tục / sáng tạo / mã nguồn (nơi Wikidata sitelink không with tới), mang cơ chế popularity-dependent ascent vào các miền model không thể đo bằng tần suất entity.
  2. Thay βi bằng tiêu chí ngoài độ khó: gán trọng số xóa theo mức độ nguy hại (harm severity) hoặc ưu tiên giữ lại (retention priority) per-fact, biến AdaPop thành framework unlearning theo chính sách.
  3. Nghiên cứu độ lệch giữa proxy (Wikidata / LLM-judge / corpus frequency) và đề xuất heuristic tự chọn proxy tốt nhất khi thiếu Wikidata coverage.

2. Patent:​

  1. Hệ thống gỡ bỏ nội dung nhạy cảm trên chatbot điện thoại: dùng tần suất fact thực tế (số lượt truy vấn/user) làm proxy popularity để tự động tăng áp lực xóa với thông tin phổ biến, kèm bộ tự cân bằng giữ nguyên khả năng trả lời bình thường — phục vụ tuân thủ xóa dữ liệu theo yêu cầu user.
  2. Công cụ tuân thủ GDPR/AI Act cho ứng dụng: khi user yêu cầu "quên tôi đi", hệ thống tra mức độ phổ biến của thông tin trong dữ liệu huấn luyện để quyết định xóa triệt để (fact phổ biến) hay chỉ bề mặt (fact hiếm), tránh xóa nhầm tri thức quan trọng.
  3. Bộ lọc nội dung nguy hiểm on-device: gán trọng số xóa theo mức độ hại thay vì popularity, tự động loại bỏ tri thức độc hại được mã hóa sâu mà không làm yếu khả năng ngôn ngữ chung của mô hình chạy trên điện thoại.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.14229
ArXiv Abstracthttps://arxiv.org/abs/2608.14229
PDF Downloadhttps://arxiv.org/pdf/2608.14229.pdf
Github RepositoryN/A

13. Scaling Creative Writing Beyond Story-Centric Data with Attribute-Guided Genre Expansion (13 votes)​

Tác giả: Hwan Chang, Yongil Kim, Heuiyeen Yeen, Yireun Kim, Jinsik Lee, et al.

Xuất bản lúc: 2026-08-14

Tag: Creative Writing, Synthetic Data Generation, LLMs, Multi-Genre Datasets, SFT, Attribute-Guided Generation

I. Main Problem:​

Dữ liệu creative writing chất lượng cao cho LLM hiện bị thống trị bởi dữ liệu kiểu truyện (story-centric), khiến mô hình học được nội dung tự sự phong phú nhưng thất bại khi tuân theo quy ước cấu trúc/định dạng riêng của các thể loại khác (rap cần vần điệu, kịch bản phim cần định dạng phân cảnh, thiết kế game cần cơ chế). Hậu quả:

  • Mô hình chỉ giỏi viết truyện, yếu ở các format thực tế người dùng yêu cầu (lyrics, game design, podcast...).
  • Chỉ tăng quy mô dữ liệu truyện không giải quyết được lỗ hổng cấu trúc vì thiếu tín hiệu hợp lệ (validity signal) như code/math.
  • Các pipeline sinh dữ liệu chung dễ ra prompt đa chủ đề nhưng thiếu đặc tả hình thức (formally under-specified).

II. Main Idea:​

Attribute-Guided Genre Expansion tách hai nguồn biến thiên: đa dạng chủ đề và kiểm soát hình thức thể loại. Quy trình 3 bước:

  • Bước 1 — Thematic Seed Sampling: lấy 5 cặp prompt–response từ r/WritingPrompts (human-authored) làm hạt giống chủ đề.
  • Bước 2 — Genre Attribute Sampling: với mỗi thể loại, định nghĩa 5–15 thuộc tính cấu trúc (vd: rap → rhyme scheme, flow, wordplay) thu thập từ Wikipedia/sách viết sáng tạo, review thủ công; rồi lấy mẫu k thuộc tính để điều chỉnh độ ràng buộc của câu lệnh (k=0 = mở, k lớn = hẹp).
  • Bước 3 — Pair Synthesis: ghép genre + few-shot + thuộc tính vào meta-prompt, dùng GPT-5-mini sinh query, Qwen3-235B sinh response, LLM-as-judge (Qwen3-30B) lọc quality.

Kết quả: Multi-Genre Collection — 50K cặp, 13 thể loại (story, lyrics, rap, game design, movie script, TV series, podcast, theater, poem, magazine, motivational speech, character design, derivative work) + mục 'Etc.'.

Ví dụ đời thường: giống một đạo diễn nhận kịch bản gốc (truyện), thay vì viết lại nội dung, ông trao cho từng bộ phận một 'bản đặc tả thể loại' (bài hát cần vần AABB, kịch cần phân cảnh) rồi bảo nhau làm đúng khuôn đó — nội dung vẫn đa dạng nhưng hình thức luôn chuẩn từng loại.

III. Main Results:​

  • Fine-tune (SFT) trên Multi-Genre vượt base model rõ rệt: Qwen3-8B + SFT đạt Arena Hard 8.0→34.2, WritingBench 38.0→63.6, Multi-Genre 8.0→69.3.
  • Vượt cả baseline chuyên viết: mọi mô hình fine-tune đều đánh bại LongWriter-glm4-9B (viết chuyên biệt).
  • Thắng dataset viết hiện có: lấy mẫu 2K/corpus, Qwen3-8B trên Multi-Genre đạt Arena Hard 7.5, WritingBench 59.1, Multi-Genre 71.4 — cao hơn DeepWriting và LongWriter.
  • Thể loại càng nhiều, độ mới càng cao: Novelty tăng đơn điệu 3.87 (0 genre) → 4.81 (13 genre).
  • Robust với judge: dùng 3 judge độc lập (GPT-5-mini, DeepSeek v3.2, Gemini 3 Flash) và human eval đều xác nhận SFT thắng base — không phải bias tự đánh giá.
  • Phân tích định tính: mẫu lyrics Suno, base model thiếu tiêu đề/tên riêng; +SFT có tiêu đề (ASCENDANCE), thế giới đặt tên (Aethel), nhân vật (Elara), timestamp từng section.

IV. Conclusion & Future Works:​

Khung attribute-guided tách biệt chủ đề và hình thức thể loại, giúp chuyển đa dạng chủ đề từ prompt người thật sang 13 format đồng thời ép đúng quy ước cấu trúc qua thuộc tính thủ công. Ba kết luận: (1) SFT trên dataset này vượt base + baseline chuyên biệt; (2) vượt dataset viết tồn tại; (3) tăng đa dạng thể loại trực tiếp tăng độ mới đầu ra. Hướng tương lai: mở rộng số lượng thể loại, tự động hóa trích xuất thuộc tính, và khảo sát xem expansion có hữu ích cho tác vụ sáng tạo ngoài văn bản không.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Tự động hóa trích xuất genre attribute bằngLLM thay vì review thủ công, kết hợp active learning để phát hiện thuộc tính cấu trúc còn thiếu của thể loại mới.
  2. Mở rộng framework sang đa ngôn ngữ và các format phi văn bản (kịch bản video, kịch bản game tương tác) để kiểm chứng tính khái quát của trục kiểm soát 'chủ đề vs hình thức'.
  3. Nghiên cứu xem exposure đa thể loại có cải thiện khả năng tuân thủ ràng buộc định dạng trong tác vụ agentic/tool-use không, tương tự như cách nó cải thiện genre adherence.

2. Patent:​

  1. Tính năng 'chuyển đổi thể loại' trên app viết nháp điện thoại: người dùng viết ý tưởng tự do, app áp dụng bộ thuộc tính thể loại (thơ/rap/kịch bản) để tự động định dạng lại văn bản theo chuẩn từng loại mà không đổi nội dung.
  2. Công cụ hỗ trợ sáng tạo nội dung mạng xã hội: nhập prompt chủ đề, hệ thống gợi ý nhiều format (caption, script podcast, bài rap) mỗi bản kèm 'bản đặc tả' hiển thị ràng buộc đã áp dụng (vần, độ dài, tông giọng) để người dùng chọn.
  3. Trình soạn nhạc AI trên điện thoại: từ lời người dùng, module attribute sampler tự chọn cấu trúc (AABB, tempo nhanh) rồi sinh lyrics có timestamp tương thích công cụ như Suno, giảm thao tác thủ công của người dùng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.13947
ArXiv Abstracthttps://arxiv.org/abs/2608.13947
PDF Downloadhttps://arxiv.org/pdf/2608.13947.pdf
Github RepositoryN/A

14. SoftVTBench: A Deformation-Aware Visuo-Tactile Dataset and Benchmark for Deformable-Object Manipulation (12 votes)​

Tác giả: Bowen Jing, Mingxin Wang, Ruiyang Hao, Chenchen Ge, Hanwen Shen, et al.

Xuất bản lúc: 2026-08-19

Tag: Visuo-Tactile, Deformable-Object Manipulation, Robotics, Benchmark, Dataset, FEM, VLA, Physical Interaction

I. Main Problem:​

Các benchmark thao tác robot hiện nay chỉ chấm điểm hoàn thành nhiệm vụ (task success), bỏ qua chất lượng tương tác vật lý. Hậu quả:

  • Một chính sách có thể hoàn thành xong việc nhưng làm vật rơi (trượt) hoặc ép biến dạng quá mức — hai lỗi này không bị phân biệt với thao tác nhẹ nhàng, ổn định.
  • Nguyên nhân cốt lõi: thiếu dataset visuo-tactile ghép luồng quan sát tiếp xúc (policy nhìn thấy) với ground truth vật lý độc lập (ẩn với policy) xuyên suốt toàn bộ nhiệm vụ.
  • Các benchmark mềm hiện có hoặc lấy biến dạng làm mục tiêu, hoặc chỉ đánh giá cái nắm đơn lẻ, hoặc không có dữ liệu xúc giác.

II. Main Idea:​

SoftVTBench xây dựng một dataset visuo-tactile kèm benchmark đánh giá chất lượng tương tác vật lý cho thao tác vật mềm. Thiết kế cốt lõi là hai luồng dữ liệu tách rời trên cùng một timeline 20Hz:

  • Luồng policy-visible: multi-view RGB, xúc giác lưỡng ngón (tactile RGB + marker motion), proprioception, ngôn ngữ, hành động gripper (mã nhị phân + liên tục) — policy học và thực thi từ luồng này.
  • Luồng evaluator-only: trạng thái FEM (lưới thể tích), poses, sự kiện tiếp xúc/rơi — bị giấu hoàn toàn khỏi policy, chỉ người chấm dùng.

Trước khi train bất kỳ policy nào, scripted probing quét độ đóng kẹp để hiệu chuẩn ngưỡng biến dạng riêng cho từng vật (tolerance τ₀), nên tiêu chí chấm không bị policy can thiệp. Chỉ số chính DSR (Deformation-aware Success Rate) chỉ tính thành công khi vừa xong việc vừa giữ biến dạng đỉnh ≤ ngưỡng; hiệu TSR−DSR chính là phần thành công nhưng thao tác không an toàn.

Ví dụ đời thường: giống bài thi lái xe không chỉ chấm 'đến nơi chưa' mà còn gắn thiết bị đo tốc độ giấu kín để chấm 'đi có an toàn không' — tài xế chỉ thấy đường và vô lăng (luồng policy), còn giám khảo đọc camera tốc độ ẩn (luồng evaluator) để biết anh ta có phóng quá giới hạn không, dù xe vẫn đến đích đúng hẹn.

III. Main Results:​

  • 12/12 cấu hình in-distribution đều có DSR < TSR: mọi policy đều có rollout hoàn thành nhưng vượt ngưỡng biến dạng (0.7–24% số lần thành công).
  • Phân bổ lỗi khác nhau theo policy: FastWAM chỉ vi phạm 0.7–6.5%, π0.5 8–20%, Diffusion Policy 10–24% — chứng tỏ hoàn thành và tương tác là hai thứ khác nhau.
  • Dưới distribution shift (OOD): biến thể visuo-tactile thắng 6/6 về task success và 5/6 về DSR so với vision-only — chạm có lợi nhất khi gặp thay đổi môi trường.
  • Chi phí độ mềm phụ thuộc policy: π0.5 mất 18.4 điểm từ rigid sang soft, trong khi Diffusion Policy (2.6) và FastWAM (2.0) gần như không đổi — rigid twin là control cần thiết để tách nhiễu.
  • Lợi ích xúc giác bị nhiễu bởi độ chi tiết điều khiển gripper (binary vs continuous): cần kiểm soát chéo để kết luận công bằng.

IV. Conclusion & Future Works:​

Kết quả cho thấy chỉ cho policy 'cảm thấy' xúc giác không đảm bảo nó hợp nhất (fuse) đa phương thức hiệu quả — touch không uniformly có lợi. SoftVTBench cung cấp tài nguyên chung để nghiên cứu không chỉ 'policy có thành công' mà 'nó tương tác vật lý thế nào và khi nào touch cải thiện tương tác đó'. Hướng tương lai: (1) cơ chế hợp nhất visuo-tactile hiệu quả; (2) tiêu chuẩn calibration thay thế / rescoring; (3) chuyển giao sim-to-real sang cảm biến xúc giác thực (GelSight); (4) mở rộng DSR sang vật liệu y tế, thực phẩm nhạy cảm.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu cơ chế multimodal fusion trong visuo-tactile VLA: tại sao có touch mà policy vẫn không dùng, và kiến trúc nào hợp nhất xúc giác tốt nhất dưới OOD.
  2. Mở rộng DSR-style cho vật liệu thực tế (thực phẩm, y tế) qua sim-to-real với cảm biến GelSight thật và hiệu chuẩn ngưỡng biến dạng thực.
  3. Thiết kế tiêu chí an toàn vật lý ẩn cho các benchmark thao tác an toàn khác (force/torque budget, contact stress) có thể audit lại từ trạng thái evaluator-only.
  4. Phân tích nhiễu confounding giữa độ chi tiết điều khiển gripper và lợi ích cảm biến trong học imitation đa phương thức.

2. Patent:​

  1. Robot gắp thực phẩm/dược phẩm an toàn cho dây chuyền: camera đa góc + cảm biến xúc giác ngón kẹp, với module chấm điểm biến dạng ẩn (FEM) cảnh báo ép quá mức ngay trong lúc vận hành — ứng dụng trực tiếp cho手机装配或食品加工产线质检.
  2. Hệ thống đào tạo người mới vận hành máy qua AR trên điện thoại: thu lại cử động tay + phản hồi xúc giác mô phỏng, chấm 'vùng an toàn' như SoftVTBench để huấn luyện thao tác nhẹ nhàng.
  3. Module kiểm tra chất lượng bao bì mềm tự động: camera + cảm biến áp lực nắm bắt, đối chiếu với ngưỡng biến dạng đã hiệu chuẩn riêng từng loại hàng để loại hàng bị ép hỏng trước khi đóng gói.
  4. Robot gia đình gắp trái cây dễ dập: dùng luồng xúc giác làm input, luồng FEM ẩn làm vòng kiểm soát an toàn, tự nới lỏng kẹp khi phát hiện biến dạng vượt ngưỡng — tích hợp vào app điều khiển trên smartphone.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2608.18701
ArXiv Abstracthttps://arxiv.org/abs/2608.18701
PDF Downloadhttps://arxiv.org/pdf/2608.18701.pdf
Github RepositoryN/A