🤗 Daily Hugging Face Paper Digest - 2026-09-03

Báo cáo được tạo tự động vào lúc 2026-09-04 10:30:23 bằng mô hình hermes-agent.

📰 Summary of Papers

1. Repo-To-Skill: Distilling GitHub Repositories Into AI4AI Skills (499 votes)

Tác giả: Jianlyu Chen, Yuyang Hu, Hongjin Qian, Jiawei Liu, Wenqing Wei, et al.

Xuất bản lúc: 2026-09-02

Tag: Autonomous Agents, Skill Distillation, ML Research, LLM Agents, Agentic Systems, Knowledge Engineering

I. Main Problem:

Các agent nghiên cứu ML tự chủ hiện nay gồm hai thành phần: model backbone (lập luận, lập kế hoạch) và harness (điều phối, bộ nhớ, kiểm chứng). Cả hai đều thiếu một tầng quan trọng: operational knowledge — kiến thức "biết cách làm cho phương pháp chạy được", khác với chỉ biết phương pháp là gì.

Hệ quả:

Agent phải thử-sai (trial-and-error) để khám phá hành vi của package, cấu hình pipeline, tránh lỗi — tiêu tốn ngân sách chạy thử vào những lần chạy sai cấu hình.
Kiến thức tìm được trong một tác vụ không được lưu lại để dùng cho tác vụ sau.
Kiến thức này có sẵn trong repositories và papers, nhưng viết cho người đọc, quá lớn để nạp vào context khi chạy tác vụ.

II. Main Idea:

DisCo là agent nghiên cứu có hai chế độ trên cùng backbone và harness:

Creator mode: chạy skill distillation theo 4 giai đoạn — scope (xác định capability cần phủ), ground (thu thập bằng chứng từ nguồn), construct (đóng gói thành skill graph), verify (kiểm chứng, sửa lỗi, ghi lại khoảng trống chưa giải quyết).
Researcher mode: nạp skill phù hợp vào operating context K và thực hiện nghiên cứu.

Hai dạng distillation bổ sung nhau:

Task-agnostic: nguồn là repository/paper, tạo skill tái sử dụng dài hạn → thư viện AREX-Skill gồm 5.353 skills từ 1.000 repo ML, phân loại 20 areas / 178 capability families, có router 2 tầng. Mỗi skill có 3 lớp: SKILL.md (mô tả khi nào và cách dùng), references/ (chi tiết nạp theo nhu cầu — progressive disclosure), scripts/ (wrapper thực thi).
Task-oriented: nguồn là bài toán cụ thể; agent tự tìm tài liệu bù các capability còn thiếu rồi chưng cất thành skill cho tác vụ đó.

Mọi skill đều phải verify trước khi được đưa vào thư viện — đây là điểm khác biệt với tóm tắt thuần túy.

Ví dụ đời thường: giống như nhân viên mới không phải tự mò từ đầu mỗi lần gặp máy mới — công ty có sẵn một tủ sách hướng dẫn "cách vận hành" được biên soạn và kiểm chứng từ trước; anh ta chỉ lôi đúng cuốn cần đọc, mở đúng chương liên quan, còn phần cứng điều khiển tay chân (harness) thì giữ nguyên.

III. Main Results:

Giữ cố định GPT-5.5 backbone, harness Codex và ngân sách chạy, chỉ thay đổi việc có/không có skills:

MLE-bench (75 competitions): Any-Medal tăng từ 31.11% lên 72.89% (+134.3%); nhóm High tăng mạnh nhất (13.33% → 62.22%).
PaperBench (20 papers): +34.4% (1.531× so với no-skill, từ các số liệu tổng hợp).
FrontierCS (188 tác vụ Agent Track): +9.2%.
PassNet (compiler pass generation): +14.0% (1.343×).
Chi phí xây dựng thư viện: trung bình khoảng $40/repo, chỉ trả một lần và được chia sẻ cho mọi tác vụ sau; researcher mode chỉ trả phần skill thực sự mở.
Trên MLE-bench, Codex + AREX-Skill (72.89%) vượt mọi baseline công khai cùng suite, trong đó các agent mạnh nhất đạt ~61–64%.

IV. Conclusion & Future Works:

Bài báo chứng minh operational knowledge là tầng thiếu hụt bên cạnh model + harness: harness quyết định agent nghiên cứu thế nào, còn skills quyết định agent biết gì khi bắt đầu. Skill distillation tự động, có kiểm chứng, chuyển kiến thức khai báo (papers, repos) thành kiến thức vận hành (SKILL.md + references + scripts) với chi phí một lần nhưng tái sử dụng vô hạn. Hướng mở rộng: mở rộng thư viện sang nhiều repo và papers hơn theo ngân sách verification, mở rộng skill graphs từ các benchmark mới, và kết nối hai chế độ creator/researcher chặt hơn (tự cập nhật skills khi agent học được điều mới trong quá trình nghiên cứu).

V. Brainstorming Space:

1. Publish Papers:

Mở rộng distillation task-oriented có kiểm chứng cho các lớp bài toán ngoài ML (khoa học dữ liệu ứng dụng, tin sinh học, tối ưu thiết kế chip) với tín hiệu verify tương ứng từng miền.
Nghiên cứu cơ chế agent tự làm mới (refresh) skill khi repository upstream thay đổi phiên bản, giữ skill graph đồng bộ với API thực tế.
Kết hợp skill routing học được với phản hồi từ researcher mode để ưu tiên xây dựng những capability family có tác động benchmark cao nhất.
Đánh giá khả năng chuyển giao skill graphs giữa các harness khác nhau (Codex, Claude Code, OpenCode) để kiểm chứng tính độc lập của tầng kiến thức với tầng điều khiển.
Phát triển kỹ thuật verify tự động tiết kiệm chi phí hơn (hiện ~$40/repo) để mở rộng thư viện lên quy mô hàng chục nghìn repository.

2. Patent:

Trợ lý nghiên cứu trên điện thoại cho kỹ sư ML: người dùng mô tả bài toán (ví dụ 'cải thiện độ chính xác mô hình trên dữ liệu này'), ứng dụng tự tìm trong thư viện skill đã chưng cất từ hàng nghìn repository mã nguồn mở, gợi ý đúng thư viện, đúng cách cấu hình và cảnh báo lỗi thường gặp ngay trên màn hình, thay vì để người dùng tự mò tài liệu.
Hệ thống 'sổ tay vận hành' tự động cho doanh nghiệp phần mềm: mỗi khi công ty dùng một thư viện mã nguồn mở, hệ thống tự chưng cất repository đó thành bộ hướng dẫn vận hành có kiểm chứng (khi nào dùng hàm nào, cấu hình thế nào, cách sửa lỗi), giúp nhân viên mới làm việc được ngay mà không cần người hướng dẫn.
Ứng dụng hỗ trợ thi lập trình/thi Kaggle trên di động: trước mỗi cuộc thi, ứng dụng tự tổng hợp kiến thức vận hành từ các nguồn liên quan (loại trừ nội dung riêng của cuộc thi) thành gợi ý chiến lược, kiểm tra sớm và cách phục hồi khi thất bại, giúp người dùng tiết kiệm số lần nộp bài thử.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.02749
ArXiv Abstract	https://arxiv.org/abs/2609.02749
PDF Download	https://arxiv.org/pdf/2609.02749.pdf
Github Repository	https://github.com/VectorSpaceLab/AREX-Skill

2. HarnessDev: Can LLMs Create and Evolve Their Own Agent Harness? (226 votes)

Tác giả: Yuhao Wu, Jingyuan Zhang, Jiajun Shi, Xinping Lei, Qingshui Gu, et al.

Xuất bản lúc: 2026-09-01

Tag: LLM Agents, Agent Harness, Benchmark, Self-Improving Systems, Code Generation, Evaluation

I. Main Problem:

Hiệu năng agent ngày càng phụ thuộc vào harness bên ngoài model: vòng lặp thực thi, công cụ, quản lý context, trạng thái, phục hồi lỗi và kiểm chứng kết quả. Nhưng benchmark thường cố định harness rồi chỉ đo đáp án của từng task, nên gần như không đo được model có thể tự xây và tự cải tiến hạ tầng chạy task hay không.

Hệ quả là khoảng cách deployment vẫn do con người đóng vai trò forward-deployed engineer: dịch yêu cầu mơ hồ thành tiêu chí, tạo phản hồi đáng tin, xây hệ thống thực thi rồi duy trì khi yêu cầu đổi. Thiếu một benchmark coi harness là artifact cần phát triển, không phải cấu hình cố định.

II. Main Idea:

HarnessDev đổi đơn vị đánh giá từ đáp án task sang hạ tầng agent có thể chạy được, bị đóng băng và tái sử dụng. Quy trình gồm hai giai đoạn:

Creation: creator LLM nhận một weak seed chỉ có lớp tương thích đầu/cuối, không có agent loop, planner, tool policy, context management, state, verifier, retry hay stopping rule. Từ spec và 1-3 development cases, model phải xây đủ execution loop, tools, context, state, lifecycle và verification, rồi đóng băng harness.
Evolution: creator xuất phát từ harness Creation của chính mình, dùng kết quả chạy feedback set để sửa tiếp; mỗi phiên bản đều bị đóng băng, chạy đủ benchmark feedback và chịu kiểm tra regression.

Sau đó một executor LLM chạy harness đã đóng băng trên task ẩn. Đo hai trục: capability là task success trên held-out tasks, efficiency là số executor token tiêu tốn.

Khác sửa code thông thường, model ở đây đang sửa môi trường nó tự quan sát, lập kế hoạch và phục hồi lỗi, nên thay đổi nhỏ có thể làm hỏng hành vi tương lai.

Ví dụ đời thường: giống như thay vì chỉ chấm bài của thợ, người ta yêu cầu học sinh tự đóng một chiếc máy tiện, tự sửa máy sau mỗi lần gia công lỗi, rồi đem máy đó cho thợ khác dùng để xem sản phẩm có đều và rẻ không.

III. Main Results:

Báo cáo Creation gồm 6 creator LLMs: Opus 4.8, GPT-5.5, Gemini 3.1 Pro, DeepSeek V4 Pro, Qwen 3.7 Max, Seed 2.0 Pro; 4 domains và 5 benchmark, tổng 2,207 downstream instance.
Creation khả thi nhưng chưa đồng đều: harness do LLM tạo thường kém hệ thống human-engineered trên Code và Search/Research, trong khi bằng hoặc vượt reference trên Writing và MLE experimentation.
Dưới Self-Eval, Opus 4.8 đạt avg 67.8, thấp hơn human reference 86.2; Search là khoảng cách lớn nhất, Code cũng còn xa.
Không có quan hệ đơn giản giữa kích thước code và chất lượng: Gemini thêm ít dòng nhất nhưng Terminal-Bench đạt 68.8, cho thấy thay đổi tập trung và kiểm chứng thường quan trọng hơn viết nhiều.
Executor transfer yếu: đổi model chạy harness làm ranking đảo chiều; ví dụ hard-coded step limit khiến harness Code tốt dưới executor cũ gần như collapse dưới executor mới. Một harness Search thấy duplicate-query rate tăng từ 10.1% lên 88.2% khi đổi executor.
Chi phí cực kỳ phân tán: token thực thi trên MLE-bench chênh tới khoảng 19 lần, nhưng đắt hơn không đảm bảo điểm cao hơn.
Điểm yếu lặp lại: state/memory thường khai báo nhưng ít khi trigger; nhiều cơ chế là dead code; validation chủ yếu cú pháp nên submission suy biến không bị phát hiện.
Evolution có lợi cục bộ nhưng không ổn định: điểm thường tăng rồi giảm qua các revision, cải thiện trên feedback set chỉ transfer một phần sang held-out tasks, và phụ thuộc mạnh vào runtime model.

IV. Conclusion & Future Works:

Kết luận chính: LLM hiện tại đã có thể tạo runnable harness từ seed rất yếu và có thể cải thiện cục bộ từ execution feedback, nhưng chưa chứng minh được khả năng tự phát triển hạ tầng bền vững như forward-deployed engineer. Ba rào cản lớn là held-out generalization, regression control và transfer qua executor khác.

Hướng mở: cần benchmark dạng infrastructure-as-artifact, phương pháp evolution có kiểm chứng chặt, cơ chế chống overfit vào model tạo harness, tối ưu capability theo execution token, và giao thức tách rõ creator/executor để đo portability đúng hơn.

V. Brainstorming Space:

1. Publish Papers:

Phát triển giao thức evolution an toàn cho agent harness: mỗi revision phải qua feedback set, regression gate, held-out probe và audit trajectory trước khi được chấp nhận là cải tiến thật.
Nghiên cứu transfer của harness qua executor khác: tách prompt protocol, tool schema, budget và stopping rule để đo phần nào của harness là portable, phần nào chỉ khớp với model sinh ra nó.
Xây dựng agent tự nhận diện bottleneck trong execution trace rồi đề xuất patch tối thiểu cho loop, context, memory hoặc verifier thay vì viết lại toàn bộ scaffold.

2. Patent:

Hệ thống trên điện thoại tự sinh agent cá nhân cho từng ứng dụng: người dùng mô tả task, hệ thống tạo vòng lặp gọi công cụ, quản lý bộ nhớ ngữ cảnh và kiểm chứng kết quả, rồi tự sửa sau mỗi lần chạy lỗi để lần sau ổn định hơn.
Trợ lý lập trình di động có harness tự tiến hóa: khi developer sửa app và chạy thử, trợ lý không chỉ gợi ý code mà còn chỉnh luồng build, test, retry và kiểm tra log để giảm số lần chạy lại tốn kém.
Nền tảng doanh nghiệp duy trì harness agent theo phiên bản: mỗi thay đổi yêu cầu được ghi thành candidate harness, tự chạy bộ task công khai và task ẩn, giữ lại phiên bản không regression và ghi rõ chi phí vận hành trước khi triển khai.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.01437
ArXiv Abstract	https://arxiv.org/abs/2609.01437
PDF Download	https://arxiv.org/pdf/2609.01437.pdf
Github Repository	N/A

3. Aspire: Can Models Self-Evolve from Vague Goals? (205 votes)

Tác giả: Yuhao Wu, Jingyuan Zhang, Jiajun Shi, Yuxuan Zhang, Xinping Lei, et al.

Xuất bản lúc: 2026-08-31

Tag: Self-Evolution, LLMs, Benchmark, Vague Goals, Post-Training, Agentic AI, Evaluation

I. Main Problem:

Các hệ thống LLM tự cải thiện hiện nay gần như luôn bắt đầu sau khi con người đã operationalize mục tiêu: có task cụ thể, metric rõ ràng, tập đánh giá, reward hoặc judge. Với mục tiêu mơ hồ kiểu “trở thành nhà vật lý giỏi hơn” hoặc “cải thiện năng lực nghiên cứu”, mô hình phải tự quyết định học cái gì, học bằng cách nào, và làm sao biết mình đã tiến bộ. Đây là trục còn thiếu của autonomous post-training.

Aspire kiểm tra đúng khoảng trống đó: agent chỉ nhận một mục tiêu năng lực bằng ngôn ngữ tự nhiên, trong khi bộ đánh giá thật bị ẩn. Nó phải tự chọn dữ liệu, phương pháp cập nhật, tín hiệu kiểm chứng, và thời điểm đánh giá; kết quả sau cùng được đo trên 520 câu hỏi/ bài tập expert-authored cho 6 mục tiêu, agent không thấy item, đáp án, rubric hay phản hồi từng câu.

II. Main Idea:

Aspire biến self-evolution từ bài toán tối ưu một objective đã cho thành bài toán tự dịch mục tiêu mơ hồ thành chương trình học khả thi.

Đầu vào: chỉ một vague goal, ví dụ cải thiện reasoning toán, y học, khoa học, viết học thuật, reliability.
Agent phải tự làm: diagnose khoảng trống năng lực, decompose sub-goals, chọn hoặc synthesize dữ liệu, chọn SFT/GRPO/LoRA, xây validation riêng, quyết định train, branch, stop hay submit checkpoint.
Hai mặt tiến hóa: cập nhật model weights, hoặc cập nhật agent harness gồm prompt, tool policy, workflow, memory và self-evaluation.
Nguyên tắc an toàn: controller kiểm lineage, provenance, budget, checkpoint completion; checkpoint chỉ được retain nếu cải thiện aggregate score, nếu không rollback.
Thiết kế chống lách: bộ đánh giá thật là controller-only; agent chỉ nhận aggregate score giới hạn hoặc không nhận score trung gian tùy protocol.

Cơ chế giống việc giao cho một người học chỉ câu “hãy giỏi vật lý hơn” thay vì đề thi cụ thể: người đó phải tự chọn sách, tự ra bài tập, tự chấm thử, tự quyết định khi nào đã đủ sức đi thi thật.

III. Main Results:

RQ1 — vague goal làm thay đổi cả kết quả lẫn hành vi tìm kiếm. Claude Opus 4.8 đạt 27.07 dưới vague goal so với reference explicit-task 32.90; GPT-5.6 đạt 29.58 so với 36.23. Một số task riêng lẻ vẫn tăng, nên không suy ra mọi mặt đều giảm.
Vague goal kéo effort sang khâu diễn giải mục tiêu. Trong các cặp matched, thinking time tăng khoảng 2,109 giây, GPU idle tăng 0.61 giờ, active training/evaluation giảm 1.27 giờ; truy cập tài liệu task và script proxy evaluation dày hơn khoảng 2.98× và 2.39×.
Feedback loop yếu hơn. Claude Opus 4.8 dưới vague goal chỉ có khoảng 0.57 evaluations per training start, trong khi GPT-5.6 explicit-task reference đạt 2.63, tức mật độ feedback cao gấp 4.6×.
RQ2 — tự train được checkpoint, nhưng tăng điểm thật rất hiếm. Ở final-only protocol, Qwen3.5-4B có 0/6 cặp goal vượt base score; Qwen3.5-9B có 1/6, duy nhất scientific reasoning tăng +2.67. Chỉ 3/24 run cuối cùng vượt base score trước rollback.
Adaptive feedback vẫn không cứu được độ ổn định. Trong 30 configuration-goal cells, 28 tạo được evaluated checkpoint và 21 đủ điều kiện eligible, nhưng chỉ 2 cells có best evaluated checkpoint vượt base score.
Lỗi cốt lõi: agent thường train trên dữ liệu lệch mục tiêu và tin self-evaluation quá hẹp; vì vậy proxy gain cục bộ không transfer sang hidden evaluation, và tiếp tục search/train có thể xóa luôn cải thiện trước đó.
RQ3 — harness tiến hóa được, nhưng chưa vượt engineered baseline. Khi giữ weights cố định, agent tạo được successor harness có chức năng cho goal interpretation, tool use và self-evaluation; tuy nhiên harness mạnh nhất vẫn dưới reference Qwen-Agent.

IV. Conclusion & Future Works:

Aspire cho thấy khả năng thực thi vòng lặp train/eval và khả năng giữ lại cải thiện đúng mục tiêu là hai năng lực rất khác nhau. Các mô hình hiện tại đã chạy được pipeline self-evolution, nhưng thường thất bại ở ba điểm: chọn dữ liệu đúng gap, xây tín hiệu validation đủ trung thực, và tránh mất cải thiện khi tiếp tục tìm kiếm.

Hướng mở rộng tự nhiên là nghiên cứu recursive self-evolution thật sự khi checkpoint đã cải thiện được promote thành decision model; thiết kế self-evaluation bền hơn để phát hiện proxy gain giả; benchmark refresh tự động từ capability gap mới; và giao thức feedback giữa final-only hoàn toàn tách biệt với adaptive feedback có aggregate score. Về ứng dụng, vấn đề lớn không chỉ là làm agent học nhanh hơn, mà là làm nó biết mình đang học sai điều gì trước khi tốn thêm compute.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu cơ chế proxy-transfer failure: khi nào cải thiện trên tập tự chọn, tự chấm lại không mang sang năng lực ngoài phân phối đánh giá thật, và cách phát hiện bằng tín hiệu nội tại.
Phát triển recursive self-evolution có kiểm chứng, trong đó một checkpoint đã được kiểm chứng mới được quyền trở thành mô hình ra quyết định cho vòng sau.
Thiết kế self-validation chủ động: agent không chỉ tạo dữ liệu luyện, mà chọn thí nghiệm kiểm tra nào giúp tách bạch tiến bộ thật và overfitting vào proxy.
Mở rộng benchmark sang harness evolution với chu trình edit-freeze-compare, đo khả năng cải thiện runtime prompt, tool policy, memory và workflow khi model weights bị khóa.
Xây dựng quy trình tự phát hiện capability gap từ lỗi triển khai thực tế, rồi tự chuyển gap đó thành data, validation và checkpoint mới có audit trail.

2. Patent:

Trợ lý học tập trên điện thoại nhận mục tiêu mơ hồ như “viết tiếng Anh rõ ràng hơn”: tự đề xuất bài học, tạo bài tập cá nhân, chấm thử nội bộ, rồi chỉ giữ lại gói cập nhật nếu điểm kiểm thử tổng hợp tăng.
Hệ thống triển khai AI doanh nghiệp biến yêu cầu nghiệp vụ chung thành chu trình cải thiện có kiểm soát: chọn dữ liệu khách hàng, fine-tune mô hình, chạy validation riêng, ghi lineage, và tự rollback nếu bản mới không tốt hơn bản cũ.
Module tự cải thiện mô hình nhỏ trên thiết bị di động: dùng phản hồi sử dụng cục bộ để đề xuất cập nhật nhẹ, kiểm thử trên tập giữ lại, tiết kiệm pin và dung lượng bằng cách chỉ áp dụng thay đổi khi có bằng chứng cải thiện.
Bộ kiểm thử ẩn cho ứng dụng chatbot chuyên ngành: khách hàng chỉ nhập mục tiêu năng lực, hệ thống tự luyện và chọn phiên bản tốt hơn, còn ngân hàng câu hỏi, đáp án và cách chấm vẫn được giữ kín phía máy chủ.
Công cụ tự hiệu chỉnh agent nội bộ: khi người dùng nói “giảm lỗi trả lời sai quy trình”, hệ thống phân tích lỗi, tạo bộ kiểm thử riêng, chỉnh luồng gọi công cụ và bộ nhớ, rồi đóng băng phiên bản mới trước khi đánh giá.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2608.31111
ArXiv Abstract	https://arxiv.org/abs/2608.31111
PDF Download	https://arxiv.org/pdf/2608.31111.pdf
Github Repository	N/A

4. SolarWM: Open Data and Scalable Training for Long-Horizon Video World Models (133 votes)

Tác giả: Junchao Huang, Guian Fang, Shengju Qian, Xianghao Kong, Zhuoran Zhao, et al.

Xuất bản lúc: 2026-09-02

Tag: World Models, Video Generation, Long-Horizon Rollout, Autoregressive Diffusion, Camera Conditioning, Dataset Engineering, Open Source

I. Main Problem:

Các mô hình video world model tương tác phải vừa học từ nhiều nguồn dữ liệu rất khác nhau, vừa thích nghi nhiều generator video khác kiến trúc. Trộn dữ liệu một cách naive gây supervision không nhất quán; làm riêng cho từng backbone thì khó so sánh, khó mở rộng và khó tái sản xuất. Nhiều hệ thống mở thiếu dữ liệu đã xử lý đầy đủ, pipeline từ nguồn tới training, exact recipe, weights và inference code.

II. Main Idea:

SolarWM là nền tảng mở gồm ba lớp khớp nối với nhau:

Open Data Engine: chuẩn hóa 1.43 triệu clips từ 10 datasets, hơn 25 TB, thành một contract frame-aligned gồm video, metric camera geometry, dense captions, quality metadata, selection decisions và provenance; tách source preprocessing khỏi mixture construction nên đổi filter, sampling ratio hay source weight không cần chạy lại pipeline đắt đỏ.
Backbone-native adaptation: cùng interface cho camera conditioning, optimization và rollout, nhưng giữ nguyên representation/objective riêng của Wan2.2, LTX-2.5, MiniMax-H3; điều khiển camera được đưa vào self-attention hiện có qua fused-PRoPE.
Three-stage recipe: bidirectional camera-conditioned adaptation → teacher-forced AnyFlow autoregressive initialization → DMD-based causal training trên trajectory do chính model sinh ra, thu hẹp exposure gap và cho few-step real-time rollout.

Ví dụ đời thường: giống như đầu bếp không nấu từng nguyên liệu thô riêng lẻ, mà sơ chế mọi thứ thành khay chuẩn rồi dùng cùng một quy trình ba bước trên nhiều bếp khác nhau.

III. Main Results:

Bốn model 5B–33B: SolarWM-wan2.2-5B, SolarWM-wan2.2-14B, SolarWM-ltx-2.5-22B, SolarWM-minimax-h3-33B được huấn luyện bằng một recipe thống nhất.
Đạt state-of-the-art performance theo khẳng định của paper, không cần specialized ODE initialization hay Causal Consistency Distillation.
Chỉ train trên chuỗi 5s nhưng hỗ trợ rollout mở từ phút tới giờ mà không cần long-sequence fine-tuning hay attention-sink mechanisms.
Ablation/training finding: phần lớn optimization nên nằm ở bidirectional training; AR adaptation hội tụ nhanh; DMD cần ít bước tối ưu hơn.
Release đầy đủ corpus, annotations, quality/provenance records, rejected samples, pipeline, recipes, weights và inference code; nhấn mạnh 4 backbone families và source-to-training reproducibility.

IV. Conclusion & Future Works:

SolarWM chỉ ra rằng long-horizon interactive video world model có thể scale nếu data construction, backbone adaptation và training stages được căn chỉnh, thay vì dựa vào pipeline phức tạp hoặc train trực tiếp trên video rất dài. Hướng mở rộng tự nhiên là thêm backbone/dataset mới, thay đổi quality tiers và source weights, cải thiện consistency ở horizon rất dài, tối ưu real-time deployment, và phát triển post-training cho điều khiển tương tác.

V. Brainstorming Space:

1. Publish Papers:

SolarWM-Bench: benchmark thống nhất cho interactive video world models, so sánh công bằng nhiều backbone trên cùng data contract, camera conditioning và rollout horizon.
Recipe surgery for world-model data: đo lường ảnh hưởng của source weights, quality tiers, Clean Plate clips và motion filtering tới long-horizon consistency.
Hour-scale rollout without attention sinks: phân tích tại sao training ngắn 5s vẫn duy trì rollout dài, và giới hạn nào của cơ chế causal generation hiện tại.
Post-training interactive world models: kết hợp causal rollout với reinforcement learning hoặc semantic exploration để cải thiện độ ổn định khi người dùng điều khiển camera/actions.

2. Patent:

Ứng dụng điện thoại tạo thế giới ảo khám phá bằng camera: người dùng chọn ảnh/video ban đầu và quỹ đạo di chuyển; hệ thống dùng causal video world model few-step để sinh cảnh mới theo hướng nhìn theo thời gian thực.
Engine game streaming tiết kiệm dung lượng: thay vì tải toàn bộ map 3D, server sinh khung hình tiếp theo khi người chơi di chuyển, dựa trên model đã học từ dữ liệu scene sạch có camera metric ổn định.
Công cụ kiểm toán dữ liệu video cho training: ghi lại camera estimates, captions, chất lượng hình ảnh, motion, lý do loại bỏ và nguồn gốc từng clip để doanh nghiệp đổi ngưỡng lọc và rebuild training set mà không xử lý lại video gốc.
Simulator đào tạo robot/embodied AI từ video chụp nhanh: biến clip quay bằng điện thoại thành môi trường ảo có thể điều khiển camera, hỗ trợ thu thập dữ liệu và huấn luyện chính sách khi không có simulator vật lý đầy đủ.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.02886
ArXiv Abstract	https://arxiv.org/abs/2609.02886
PDF Download	https://arxiv.org/pdf/2609.02886.pdf
Github Repository	https://github.com/Junchao-cs/SolarWM

5. EarlyEval: Cheaper Agent Evaluation via Early Outcome Prediction (111 votes)

Tác giả: Yuling Shi, Zhensu Sun, Junsen Dong, Chengcheng Wan, David Lo, et al.

Xuất bản lúc: 2026-09-02

Tag: Agent Evaluation, Early Stopping, LightGBM, Benchmark Cost Reduction, Trajectory Prediction, LLM Agents

I. Main Problem:

Đánh giá các LLM agents đang trở nên rất đắt: một lần chạy benchmark có thể tốn vài trăm đến hơn hai nghìn đô la, và quá trình phát triển lặp lại nhiều lần. Các cách cũ chủ yếu rút gọn benchmark bằng cách giảm số task, nhưng không giảm chi phí chạy từng task. Vấn đề là: làm sao tiết kiệm tính toán bên trong từng task mà không làm sai lệch kết quả đánh giá cuối cùng.

II. Main Idea:

Early outcome prediction: thay vì chạy agent tới hết task, hệ thống quan sát hành vi trung gian và dự đoán kết quả cuối sớm. Cụ thể:

Thu thập các lịch sử chạy đã có nhãn thành/công và thất bại từ nhiều agent trên cùng benchmark.
Biến mỗi lịch sử thành các prefix theo từng bước, rồi trích xuất ba nhóm đặc trưng: hành vi như số lượt gọi công cụ, lỗi, test pass/fail, dấu hiệu lặp lại; văn bản từ task prompt, action, feedback; và đáp án tham chiếu nếu benchmark cung cấp.
Huấn luyện hai bộ phân loại LightGBM riêng: một nhận diện success, một nhận diện failure, vì hai tín hiệu này thường không đối xứng.
Ở mỗi bước chạy agent mới, hệ thống tính xác suất thành công/thất bại, hiệu chỉnh bằng Platt scaling, rồi dừng ngay nếu một ngưỡng tin cậy bị vượt qua; nếu chưa chắc thì cho chạy tiếp.

Ví dụ đời thường: giống như giám khảo nhìn bài làm của thí sinh và thấy người đó đã ghi đúng phép tính then chốt, hoặc lặp đi lặp lại một lỗi sai không sửa được, thì có thể kết luận sớm điểm cuối mà không cần chờ hết giờ.

III. Main Results:

Trên ba benchmark SWE-bench Verified, TerminalBench, và Toolathlon, phương pháp loại bỏ khoảng 13%–26% số bước agent và tới 44.1% input tokens, 29.4% output tokens, với độ chính xác dự đoán khoảng 89%–97%.
Với SWE-bench Verified, tại ngưỡng 0.95, hệ thống dừng sớm khoảng 35% số run, giảm 26.0% bước, 32.7% input tokens, 28.7% output tokens, trong khi sai lệch resolve rate trung bình chỉ 1.1 điểm phần trăm.
Thứ hạng agent gần như được giữ nguyên: Spearman rho = 0.991 trên SWE-bench Verified và rho ≥ 0.959 trên các thiết lập khác; khoảng 59%–81% agent giữ đúng vị trí xếp hạng.
Bộ dự đoán failure ổn định hơn success predictor; success predictor mạnh rõ trên SWE-bench Verified nhưng yếu hơn trên TerminalBench/Toolathlon.
Khi không có đáp án tham chiếu, mô hình vẫn chạy được nhờ tín hiệu hành vi; nhóm behavioral features quan trọng nhất, còn tín hiệu phân bố dư thừa nên bỏ từng nhóm con ít làm hỏng chất lượng quyết định.
So với MLP, logistic regression hay LLM judge, LightGBM đạt điểm tốt nhất trên cả bốn trục: coverage, accuracy, tiết kiệm bước, và độ trung thực metric; LLM judge tốn kém hơn ở inference và tiết kiệm ít hơn.

IV. Conclusion & Future Works:

EarlyEval bổ sung một trục tiết kiệm mới: giảm chi phí trong từng task, thay vì chỉ giảm số lượng task như benchmark distillation. Nó cho thấy nhiều run agent có thể dừng sớm mà gần như không thay đổi resolve rate và thứ hạng leaderboard. Hướng tương lai: hiệu chỉnh ngưỡng theo ngân sách từng benchmark, cải thiện success prediction khi thiếu reference solution, thử nghiệm trên nhiều scaffold và tác vụ agent hơn, và kết hợp với các phương pháp chọn task để tiết kiệm cả hai chiều.

V. Brainstorming Space:

1. Publish Papers:

Phát triển bộ điều chỉnh ngưỡng thích ứng theo ngân sách cho từng benchmark, để tự động cân bằng giữa mức dừng sớm và độ trung thực của metric.
Nghiên cứu cách cải thiện dự đoán thành công trên các benchmark không cung cấp đáp án tham chiếu, bằng tín hiệu hành vi và văn bản ổn định hơn.
Mở rộng đánh giá sang các scaffold lạ và pipeline agent đa dạng hơn, đo mức suy giảm khi cả khung điều phối lẫn mô hình nền đều thay đổi.
Kết hợp dừng sớm theo bước với rút gọn tập task, tạo chiến lược hai tầng tiết kiệm chi phí cho vòng lặp phát triển agent.

2. Patent:

Hệ thống kiểm thử tự động cho trợ lý AI trên điện thoại: theo dõi cách trợ lý gọi công cụ, đọc lỗi và phản hồi người dùng; nếu hành vi cho thấy kết quả cuối đã rõ, hệ thống dừng phiên thử sớm để giảm chi phí chạy thật và thời gian chờ.
Dịch vụ đánh giá chatbot trên đám mây cho ứng dụng di động: mỗi khi nhà phát triển thay prompt, thay khung điều phối hoặc đổi mô hình nền, hệ thống chạy một phần luồng công việc, dự đoán điểm cuối từ các bước đầu và báo cáo thứ hạng tương đối gần giống chạy đầy đủ.
Công cụ tiết kiệm pin và chi phí cho agent tự động sửa lỗi trên thiết bị: ứng dụng giám sát từng bước thao tác, phát hiện sớm dấu hiệu đã sửa đúng hoặc đang lặp lại thất bại, rồi cắt bỏ các bước còn lại không cần thiết.
Module quản lý phiên làm việc cho trợ lý lập trình viên: ghi nhận nhịp độ chỉnh sửa, chạy test, lỗi traceback và số lần lặp lại thao tác; khi kết quả cuối đủ rõ, module chốt điểm task và trả chi phí ước tính đã tiết kiệm cho nhóm phát triển.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.02783
ArXiv Abstract	https://arxiv.org/abs/2609.02783
PDF Download	https://arxiv.org/pdf/2609.02783.pdf
Github Repository	https://github.com/inphotoo/earlyeval

6. It Takes Two to Match: Co-Evolving Generative Retriever with Reinforcement Learning (66 votes)

Tác giả: Runpeng Dai, Kaili Huang, Changsung Kang, Ciya Liao

Xuất bản lúc: 2026-09-01

Tag: Information Retrieval, Generative Retrieval, Reinforcement Learning, GRPO, LLMs, Keyword Matching, Search Systems

I. Main Problem:

Trong hệ thống tìm kiếm/quảng cáo hiện đại, retrieval là tầng đầu tiên và lỗi ở tầng này gần như không sửa được: item không được retrieve thì ranking phía sau không cứu lại được. Các hướng hiện tại có hạn chế rõ:

Sparse retrieval (BM25, SPLADE): dựa trên từ khớp từ, yếu trong quan hệ ngữ nghĩa sâu.
Dense retrieval (DPR, ANCE): cần hạ tầng vector search, khó tương thích với hệ thống keyword-based (đặc biệt sponsored search nơi advertiser bid trên keyword).
LLM cho retrieval hiện nay: chỉ dùng LLM để mở rộng/rewrite query, còn phía item vẫn cố định và matching vẫn phụ thuộc retriever riêng — hai phía không được học cùng nhau.

Câu hỏi cốt lõi: có thể huấn luyện LLM tự xây dựng biểu diễn retrieval cho cả hai phía query và item và match trực tiếp trong không gian đó không?

II. Main Idea:

CoGR (Co-Evolving Generative Retriever): thay vì chỉ rewrite query, framework huấn luyện hai LLM riêng — một sinh tập keyword cho query, một sinh tập keyword cho item. Retrieval thực hiện bằng cách match keyword qua inverted index (kèm xếp hạng BM25), nên tương thích nguyên với hạ tầng keyword search hiện có. Quy trình hai pha:

Pha 1 — SFT khởi tạo: LLM gốc sinh keyword cho item; keyword của query được xây từ tần suất keyword các item liên quan, tạo overlap sẵn giữa cặp query–item relevant, đồng thời cho RL một điểm khởi đầu đủ tốt.
Pha 2 — Co-evolving RL với GRPO: luân phiên cập nhật hai generator, mỗi lần đóng băng index của phía đối diện để không học trên mục tiêu chuyển động:
- Query side nhận reward trực tiếp là retrieval F1 (cân bằng precision/recall, có ngân sách tối đa Kmax keyword).
- Item side nhận counterfactual marginal reward: đo độ thay đổi của tổng F1 toàn hệ thống khi chỉ thay keyword của đúng một item, cô lập được đóng góp của keyword set đó.

Ví dụ đời thường: giống hai người chơi trò 'đố từ khóa' luân phiên điều chỉnh bộ từ của mình — mỗi lượt chỉ một người được sửa, người kia giữ nguyên bộ từ để làm 'đáp án chuẩn', qua nhiều vòng cả hai dần nói cùng một 'ngôn ngữ' và khớp nhau ngày càng chính xác.

III. Main Results:

Kết quả chính: CoGR (backbone Qwen3-4B) đạt F1 tốt nhất trên cả hai dataset — Internal APP Marketplace: 0.396 (+10.9% so với baseline mạnh nhất ANCE-Qwen4B) và WANDS: 0.682 (+36.1%). Vượt tổng cộng 10 baseline thuộc ba họ sparse, dense, generative.
Co-evolving là cần thiết: biến thể chỉ tối ưu query side (CoGR/snowflake, DeepRetrieval) thua rõ rệt, chứng minh chỉ cải thiện một phía là không đủ — hai không gian keyword phải cùng thích nghi.
Động lực học ổn định: F1 tăng từ ~0.16 (sau SFT) lên ~0.40 sau 5 vòng luân phiên; vòng đầu cải thiện mạnh nhất, các vòng sau tăng đều.
Ablation: cả ba lựa chọn thiết kế (marginal reward thay vì F1 đảo chiều, hai generator tách biệt, SFT khởi tạo) đều quan trọng — bỏ cái nào cũng giảm F1, dù framework vẫn ổn định.
Tiến hóa keyword: keyword ngày càng cụ thể (từ đơn 'mobile', 'fun' bị loại bỏ; cụm 3+ từ tăng từ 12% → 31%), và từ vựng hai phía query/item hội tụ về quy mô tương đương sau 3-4 vòng.
Thông tin thêm giúp ích: bỏ description của item làm F1 giảm (0.396 → 0.376); thêm search results vào prompt query nâng F1 lên 0.438, đặc biệt giúp query mơ hồ/sai chính tả/không phải tiếng Anh.

IV. Conclusion & Future Works:

CoGR chứng minh khả thi một framework retrieval keyword-based mà cả hai phía query và item đều do LLM sinh ra và cùng tiến hóa qua phản hồi retrieval, thay vì chỉ tối ưu một phía như các phương pháp trước. Thiết kế giữ nguyên tương thích hạ tầng inverted index hiện có nên dễ triển khai trong hệ thống thực.

Hướng tương lai:

Mở rộng reward ngoài F1 sang mục tiêu kinh doanh như tỷ lệ quảng cáo không liên quan và doanh thu.
Cải thiện tầng ranking: hiện chỉ dùng BM25 trên keyword sinh ra, thiết kế bộ xếp hạng mạnh hơn có thể nâng chất lượng tổng thể.
Có thể thay GRPO bằng thuật toán RL khác (PPO) hoặc dùng F-measure có trọng số khi precision/recall có ưu tiên kinh doanh khác nhau.

V. Brainstorming Space:

1. Publish Papers:

Áp dụng co-evolving RL cho retrieval đa mục tiêu: huấn luyện đồng thời keyword generator với reward kết hợp F1, tỷ lệ quảng cáo không liên quan và revenue gain trong hệ thống sponsored search thực tế.
Nghiên cứu bộ xếp hạng thay thế BM25 cho tập keyword sinh bởi LLM (học trọng số keyword, hoặc kết hợp tín hiệu dense vào giai đoạn ranking của generative lexical retrieval).
Mở rộng CoGR cho tầng recall của hệ thống RAG: hai generator keyword tiến hóa cùng nhau để chọn đoạn tài liệu, thay thế hoàn toàn khâu dense retrieval trong pipeline RAG hạ tầng keyword.

2. Patent:

Hệ thống tìm kiếm ứng dụng trên điện thoại dùng hai mô hình AI: một mô hình sinh từ khóa từ câu tìm kiếm của người dùng, một mô hình sinh từ khóa từ tên và mô tả ứng dụng; hai mô hình được huấn luyện luân phiên để từ khóa hai phía ngày càng khớp nhau, tìm đúng ứng dụng mà không cần hạ tầng tìm kiếm vector.
Phương pháp cập nhật từ khóa quảng cáo tự động trên điện thoại: khi người dùng gõ truy vấn mới, hệ thống đo xem nếu thay từ khóa của một sản phẩm thì kết quả tìm kiếm tổng thể tốt hơn bao nhiêu, rồi chỉ cập nhật từ khóa của những sản phẩm mang lại cải thiện đó.
Cơ chế học luân phiên hai phía trong tìm kiếm mua sắm: đóng băng danh sách từ khóa của sản phẩm khi huấn luyện mô hình phía người dùng, rồi đóng băng phía người dùng khi huấn luyện mô hình sản phẩm, lặp nhiều vòng để hai bộ từ khóa tự đồng bộ mà không cần can thiệp thủ công.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.00638
ArXiv Abstract	https://arxiv.org/abs/2609.00638
PDF Download	https://arxiv.org/pdf/2609.00638.pdf
Github Repository	N/A

7. Language Models Can Control Their Own Attention (54 votes)

Tác giả: Namgyu Ho, Huzama Ahmad, Woosung Koh, Se-Young Yun, Tal Schuster, et al.

Xuất bản lúc: 2026-09-02

Tag: Sparse Attention, Long-Context LLMs, KV Cache, Inference Efficiency, Chain-of-Thought, Zero-Shot Elicitation, vLLM

I. Main Problem:

Transformer phải đọc toàn bộ KV cache ở mỗi bước sinh token, khiến suy luận trên context dài (đến 1M token) cực kỳ tốn kém: với Qwen-3.5-397B, mỗi bước decode phải nạp ~15GB KV cache, tương đương lượng băng thông nạp toàn bộ 17B tham số active.

Các phương pháp sparse attention ngoại sinh (heuristic tĩnh, proxy scorer) đều có chi phí O(N) mỗi bước hoặc sụt accuracy do không dự đoán được token cần thiết cho query tương lai.
Nghịch lý cốt lõi: attention weight thực tế chỉ tập trung vào một phần nhỏ context, nhưng ta không biết phần nào cho đến khi đã tính toàn bộ attention matrix — nghĩa là chính công cụ xác định token quan trọng lại đắt nhất.

II. Main Idea:

Declarative Attention (DA): thay vì ước lượng token quan trọng từ hidden states, khai thác khả năng tiềm ẩn của chính model để tự khai báo nơi cần attend trong chuỗi chain-of-thought. Protocol chia sinh token thành ba chế độ:

<global> — đọc toàn bộ context để định vị thông tin liên quan (navigation)
<focus magic_chunks="K"> — chỉ đọc segment (chunk ~2048 token) được chỉ định
<local> — chỉ dựa vào output đã sinh, không đọc context nữa

Một state machine đi kèm inference engine (tích hợp vLLM, block-aligned masking tương thích FlashAttention) phân tích các tag như tool-call và che bớt KV cache blocks ở mỗi bước decode. Điểm mấu chốt: hoạt động zero-shot trên off-the-shelf models, không cần huấn luyện, một prompt duy nhất cho mọi tác vụ; context được đóng gói thành "magic chunks" qua format tool-use transcript quen thuộc với model.

Ví dụ đời thường: giống như người tra cứu tài liệu — lướt toàn bộ mục lục để định vị (global), mở đúng một chương để đọc kỹ (focus), rồi tính toán dựa trên ghi chú đã chép mà không cần mở lại cuốn sách (local).

III. Main Results:

Tiết kiệm attention mạnh với sụt accuracy nhỏ: trung bình 15 tác vụ long-context, DA giảm 52.0% attended tokens trên Gemma-4-31B (chỉ -1.27pp accuracy) và 31.1% trên Qwen-3.6-27B (-2.75pp).
Mask là nguồn của lợi ích: so với ablation không mask (DAnm), mask cắt 71.1% attended tokens (Gemma) và 46.5% (Qwen); format chunk prompt gần như không tốn accuracy.
Scaling tích cực: relative accuracy tăng đều theo quy mô model — từ 29% (Gemma-4-E4B) lên 99% (Gemma-4-31B), từ 64% (Qwen-3.5-4B) lên 97% (Qwen-3.6-27B); model nhỏ thất bại chủ yếu do không parse được focus tags.
Lợi ích tăng theo độ dài context: tiết kiệm từ ~1M token ở context ngắn lên ~21M token/response ở bin dài nhất (code_repo tiết kiệm tới 41.8–52M tokens).
Hiệu quả wall-clock: tích hợp vLLM native, roofline analysis trên B200 ước tính decode wall-time còn 0.71× (Gemma) và 0.77× (Qwen) so với vanilla ở large-batch serving.

IV. Conclusion & Future Works:

DA mở một trục mới của sparse attention: intrinsic (model tự khai báo) thay vì extrinsic (scorer ngoài), và kết quả zero-shot chỉ là cận dưới — khoảng cách accuracy được kỳ vọng thu hẹp khi post-train trực tiếp cho protocol. Hướng tương lai:

Training-based DA: fine-tune model để tuân thủ protocol và chọn mode tối ưu
Tận dụng boundaries tự nhiên (lượt hội thoại, tool responses) thay vì heuristic segmenter
Khắc phục giới hạn thinking mode — hiện các model bỏ tuân thủ DA khi suy nghĩ trong thinking tags
Đánh giá lợi ích dưới nhiều cấu hình serving thực tế (batch size, context length khác nhau).

V. Brainstorming Space:

1. Publish Papers:

Post-training Declarative Attention: fine-tune model trên protocol DA thống nhất để vượt qua cận dưới zero-shot, đồng thời học cách cân bằng số bước decode và per-step attention cost.
DA cho suy luận dài (thinking models): mở rộng protocol để model khai báo attention cả trong thinking tags, vốn hiện là điểm thất bại chính của elicitation zero-shot.
Segmentation học được thay vì heuristic: huấn luyện segmenter gắn với semantic boundaries từ pre-training corpus, định vị chunk chính xác hơn cho focus mode ở context triệu token.
DA đa phương thức và tác tử: agent dùng focus declarations để chọn ảnh/trang web/dữ liệu công cụ cần nạp, giảm cost suy luận cho agentic long-horizon tasks.

2. Patent:

Trợ lý đọc tài liệu dài trên điện thoại: người dùng nạp hợp đồng/sách hàng trăm nghìn từ; model tự khai báo từng phần cần đọc nên chip chỉ nạp đúng vùng đó vào bộ nhớ, tiết kiệm pin và giảm độ trễ trả lời.
Ứng dụng chat với lịch sử hội thoại triệu token: khi người dùng hỏi chi tiết cũ, model tự gọi khai báo đúng đoạn hội thoại liên quan thay vì quét toàn bộ lịch sử, cho phép truy hồi sâu mà không chậm máy.
Trợ lý lập trình trên thiết bị di động cho repository lớn: model liệt kê các file/thư mục cần focus qua cú pháp khai báo, hệ thống chỉ đưa nội dung các file đó vào bộ nhớ khi sinh code, cắt mạnh chi phí suy luận.
Hệ thống họp trực tuyến tóm tắt biên bản dài: model điều phối điều hướng qua từng phần biên bản bằng khai báo chế độ đọc, giảm tải máy chủ khi tổng hợp câu trả lời cho hàng nghìn cuộc họp đồng thời.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.02737
ArXiv Abstract	https://arxiv.org/abs/2609.02737
PDF Download	https://arxiv.org/pdf/2609.02737.pdf
Github Repository	N/A

8. On the Design Fundamentals of Pixel Text Representation Learning (30 votes)

Tác giả: Chaohao Yuan, Ruifeng Yuan, Zhuoxu Huang, Yu Rong, Hong Cheng, et al.

Xuất bản lúc: 2026-09-01

Tag: Vision-Language Models, Contrastive Learning, Document Retrieval, OCR-free Text Encoding, Multilingual Representation, Vision Transformer

I. Main Problem:

Các encoder pixel-text hiện tại (đọc chữ trực tiếp từ ảnh RGB thay vì qua tokenizer) gặp bốn khó khăn cốt lõi:

Resolution mismatch: pretrain trên canvas nhỏ cố định (224×224) nhưng inference phải xử lý tài liệu độ phân giải cao (PDF 4K)
Visual shortcut learning: model ghi nhớ font nền cố định thay vì ngữ nghĩa
Thiếu grounding đa phương thức: huấn luyện chỉ trên text render tổng hợp gây collapse trên tác vụ tài liệu thực (gần 0 điểm ViDoRe)
Ngôn ngữ đa ngữ: chữ Arab/Trung/Hàn khác hẳn Latin về cấu trúc không gian, khó căn chỉnh cross-lingual

II. Main Idea:

Paper không đi theo hướng chỉ scale dữ liệu, mà dùng ablation có kiểm soát (13M ví dụ) để rút ra 4 nguyên tắc thiết kế rồi hợp nhất thành recipe cho model PIXELLINGUISTII:

Spatial proxies (RQ1): thay đổi độ phân giải ảnh tự nhiên và cỡ font render ngẫu nhiên buộc model học khái niệm tỉ lệ không gian, từ đó suy ra cho tài liệu độ phân giải cao mà không cần pretrain đắt đỏ — cố định font làm điểm trung bình tụt 37.83 → 30.97
Multimodal grounding (RQ2): ảnh tự nhiên–text (26M cặp LAION) là regularizer bắt buộc; bỏ đi gây collapse dù scale lên toàn bộ
Layout-aware rendering (RQ3): render on-the-fly với 393 font, 5000+ nền kết cấu, làm nhiễu độ sáng/mờ/xoay để model không bao giờ thấy cùng một instantiation
Hai giai đoạn đa ngữ (RQ4): pretrain không giám sát quy mô lớn trên Wikipedia đa ngữ (62M) trước, rồi mid-train trên cặp ngữ nghĩa chất lượng cao (26M) — tăng ~3.4 điểm tuyệt đối

Kiến trúc: NaViT (native resolution, khởi tạo từ Qwen2.5-VL) + phép pooling 2×2, contrastive InfoNCE duy nhất trên cả cặp image-text và text-text render; tổng 280M ví dụ qua 2 stage.

Ví dụ đời thường: giống học chữ không phải bằng cách đọc đi đọc lại một tờ giấy duy nhất, mà như luyện đọc bằng cách viết cùng nội dung ra hàng trăm loại giấy, mực, cỡ chữ, kiểu chữ khác nhau — buộc mắt phải nắm nghĩa chứ không thuộc lòng hình dạng; và phải luyện thêm bảng chữ cái của nhiều ngôn ngữ trước khi học dịch.

III. Main Results:

Visual STS (English): SOTA 79.80 Spearman sau fine-tune, vượt mạnh mô hình lớn gấp ~7 lần về tham số; chỉ mid-training đã đạt 74.72
ViDoRe (document retrieval): SOTA trung bình 50.94 nDCG@5, cải thiện +16.6 trên ShiftProject; đặc biệt mạnh ở bảng biểu, chart, văn bản dày xen cấu trúc
Đa ngữ: +15% cross-lingual và +16% multilingual so với SigLIP mạnh nhất, cả trên ngôn ngữ trước đây ở mức ngẫu nhiên (Trung, Nga, Hàn, Thổ)
Vision-only VDR: dùng chung một pipeline ảnh cho cả query text và document; SigLIP khi ép cách này mất 24.2 điểm trung bình, chứng tỏ độ robust của PIXELLINGUISTII
Nén optical context: giữ nguyên hiệu suất dù loại bỏ 60% visual token trên Visual STS; vẫn thắng CLIP chưa nén dù nén tới 80% trên ViDoRe; với MLLM, 40% token vẫn thắng Qwen2.5-ViT đủ budget
MLLM downstream: cải thiện tương đối +2.75% trung bình so với Qwen2.5-ViT khi ghép cùng LLM

IV. Conclusion & Future Works:

Bốn nguyên tắc thiết kế — spatial proxies, multimodal grounding, layout-aware rendering, curriculum đa ngữ hai giai đoạn — là điều kiện cần cho pixel-text representation tổng quát, và không thể bị scale dữ liệu thay thế (ablation toàn quy mô vẫn collapse khi thiếu ảnh tự nhiên). Hướng tương lai theo tác giả:

Scale thành phần image-text (hiện chỉ 26M LAION, nhỏ hơn hẳn CLIP/SigLIP tỷ cặp) để grounding tốt hơn
Bổ sung dữ liệu diagram, chart, hình minh họa khoa học vì còn yếu trên ArxivQA
Mở rộng nhiễu render sang scan mờ, occlusion, chữ viết tay, ảnh chụp camera kém chất lượng

V. Brainstorming Space:

1. Publish Papers:

Kết hợp pixel-text encoder với late interaction kiểu ColPali để truy xuất tài liệu vừa giữ độ chính xác semantic vừa giảm chi phí tính toán ở tầng corpus lớn.
Nghiên cứu cơ chế 'visual token compression' cho MLLM: dùng embedding quang học của PIXELLINGUISTII thay phần text context dài, mở rộng cửa sổ ngữ cảnh theo hướng của Glyph/Wei et al.
Huấn luyện encoder chịu nhiễu thực tế (chữ viết tay, ảnh chụp nghiêng mờ, tài liệu scan cũ) bằng cách mô phỏng degradation trong rendering engine để khái quát hóa ra dữ liệu ngoài phòng lab.

2. Patent:

Ứng dụng điện thoại tìm kiếm tài liệu qua ảnh chụp: người dùng chụp một đoạn văn bản trên giấy, hóa đơn, bảng biểu; ảnh được mã hóa thành vector ngữ nghĩa ngay trên máy (mô hình chịu được nén 80% token nên chạy nhẹ trên chip điện thoại) rồi so khớp với kho tài liệu cá nhân mà không cần gửi ảnh lên máy chủ.
Tính năng nén nội dung dài bằng ảnh cho trợ lý AI trên điện thoại: thay vì nhồi hàng trăm trang hợp đồng vào prompt, hệ thống render văn bản thành ảnh độ phân giải thấp, encoder chiết xuất vector ngữ nghĩa đặc biệt gọn giúp mô hình ngôn ngữ đọc hiểu toàn bộ tài liệu vượt giới hạn cửa sổ context.
Công cụ tra cứu đa ngữ không cần OCR cho doanh nghiệp: nhân viên chụp tài liệu tiếng Trung, Nhật, Hàn, Ả Rập; hệ thống so sánh ngữ nghĩa trực tiếp ở không gian ảnh để tìm bản dịch hoặc tài liệu tương đương trong kho đa ngữ, tránh lỗi nhận dạng ký tự truyền thống.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.01147
ArXiv Abstract	https://arxiv.org/abs/2609.01147
PDF Download	https://arxiv.org/pdf/2609.01147.pdf
Github Repository	N/A

9. S3Gym: Can LLMs Turn Self-Testing and Self-Judging into Self-Improvement? (27 votes)

Tác giả: Jiajun Shi, Siyuan Tao, Yuhao Wu, Zexuan Wang, Jingyuan Zhang, et al.

Xuất bản lúc: 2026-08-31

Tag: LLM Agents, Self-Improvement, Self-Judging, In-Context Learning, Memory, Interactive Benchmark, Text Games

I. Main Problem:

Các benchmark agent hiện tại đánh giá LLM như chính sách cố định tại thời điểm test, không trả lời được câu hỏi: mô hình có tự cải thiện được qua kinh nghiệm tương tác của chính mình không? Thực tế thu thập trajectory thuần tuý không đảm bảo học được — agent phải tự kiểm tra hành vi, diễn giải thành-bại, và biến diễn giải đó thành hành vi tốt hơn. Thiếu một giao thức thống nhất để so sánh các cơ chế tích hợp kinh nghiệm (history, summary, training) dưới cùng điều kiện tương tác, và để tách bạch lỗi do đánh giá kinh nghiệm sai hay do không chuyển hóa được feedback thành chính sách.

II. Main Idea:

S3Gym (Self-Testing, Self-Judging, Self-Improvement Gym) là benchmark tương tác với giao thức hai pha tách biệt:

Exploration Phase: agent chơi 7 game dạng text (Chess, Minesweeper, Nullify, Tetris, Snake, PvZ, Trust Evolution) ở cấu hình dễ dãi, tự sinh điểm số tức thì (self-judgment) cho mỗi hành động; điểm thật từ verifier bị giấu để không rò rỉ ground truth.
Evaluation Phase: agent đã cập nhật được test trên cấu hình khắc nghiệt hơn, held-out, đo khả năng transfer của kinh nghiệm.

Ba đường tích hợp kinh nghiệm được so sánh: History ICL (chèn trajectory gắn điểm vào context), Summary Memory (nén thành quy tắc giữ/tránh/hướng tiếp theo), và Parameter Training (SFT trên hành động tự đánh giá cao).

Ví dụ đời thường: giống người học lái xe tự lầm bẩm chấm điểm từng thao tác của mình khi tập trên đường vắng, rồi tổng kết thành kinh nghiệm đem ra thi trên đường đông — không ai nói cho mình điểm thật trong lúc tập.

III. Main Results:

Tự cải thiện không tự động và không đồng đều: History ICL giúp nhiều cặp model–game, nhưng hiệu quả phụ thuộc mạnh vào cấu trúc task.
Summary Memory hiệu quả khi kinh nghiệm nén được thành quy tắc chiến lược tái sử dụng, nhưng thường thua history thô khi thành công cần thông tin chính xác phụ thuộc trạng thái.
Parameter Training tạo lợi ích lớn ở một số task nhưng kém ổn định, có hiện tượng negative transfer nghiêm trọng ở task khác.
Nhận ra hành động thành công là chưa đủ — nút cổ chai là biến feedback thành chính sách thực thi và transfer được.
Self-judgment của model được đối chiếu trực tiếp với reward verifier để đo độ tin cậy của khâu tự đánh giá.

IV. Conclusion & Future Works:

S3Gym cung cấp khung thống nhất để chẩn đoán quá trình experience → improvement: tách lỗi do self-judging sai khỏi lỗi do cơ chế tích hợp kinh nghiệm, dưới cùng ngân sách tương tác và evaluation held-out. Kết luận cốt lõi: chọn đường tích hợp kinh nghiệm phải theo cấu trúc task, không có một cơ chế nào thắng tuyệt đối. Hướng tương lai: cải thiện độ chính xác của self-judging và thiết kế cơ chế chuyển hóa feedback ổn định hơn.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu chuyên sâu về hiệu chỉnh self-judging: huấn luyện model tự chấm điểm hành động khớp với verifier reward để giảm lỗi giữ lại kinh nghiệm xấu / loại bỏ kinh nghiệm tốt.
Kết hợp Summary Memory với retrieval theo trạng thái để khắc phục điểm yếu của bản tóm tắt khi task cần thông tin phụ thuộc ngữ cảnh chính xác.
Phân tích negative transfer trong self-training trên game: xây dựng tiêu chí lọc trajectory trước SFT để tránh khái quát hóa sai trên cấu hình khắc nghiệt.

2. Patent:

Trợ lý AI trên điện thoại tự cải thiện qua dùng thử: app cho phép agent thực hiện thao tác thử trong chế độ sandbox dễ dãi, tự chấm điểm từng bước, tổng hợt kinh nghiệm thành ghi nhớ chiến lược rồi áp dụng khi người dùng thao tác thật trong môi trường khắc nghiệt hơn.
Hệ thống gia sụ học tập tự chẩn đoán lỗi: ghi lại lịch sử bài làm của học sinh, tự phân loại lỗi thành quy tắc cần tránh và chiến lược nên giữ, rồi điều chỉnh gợi ý bài tập tiếp theo mà không cần can thiệp giáo viên.
Chatbot chăm sóc khách hàng tự tinh chỉnh theo phản hồi: chatbot tự đánh giá chất lượng từng câu trả lời trong phiên, nén kinh nghiệm thành quy tắc xử lý tình huống, và cập nhật hành vi cho phiên tiếp theo, với điểm hài lòng thật của khách hàng được hệ thống giữ riêng để đối chiếu chất lượng tự đánh giá.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2608.31100
ArXiv Abstract	https://arxiv.org/abs/2608.31100
PDF Download	https://arxiv.org/pdf/2608.31100.pdf
Github Repository	N/A

10. Beyond Visual Similarity: Entity-Aligned Retrieval for Knowledge-Based Visual Question Answering (26 votes)

Tác giả: Hangrui Xu, Zhengxian Wu, Yunyao Yu, Zhuohong Chen, Rui Cong, et al.

Xuất bản lúc: 2026-08-19

Tag: KB-VQA, RAG, MLLM, Retrieval Augmented Generation, Visual Question Answering, Embedding Learning, Knowledge Retrieval, Contrastive Learning

I. Main Problem:

Các hệ thống Knowledge-Based VQA (KB-VQA) gần như đều dùng retriever kiểu CLIP (dual encoder) để tìm bằng chứng từ Wikipedia, nhưng CLIP ưu tiên độ tương đồng hình ảnh bề mặt thay vì sự khớp nhau về thực thể ngữ nghĩa. Hậu quả:

Cùng một thực thể (khách sạn, loài chim, công trình) trông rất khác qua các góc nhìn, thời kỳ, phong cách → CLIP bỏ lỡ.
Hai thực thể khác nhau trông giống nhau (ví dụ các loài quạ) → CLIP trộn lẫn.
Vì vậy tập ứng viên giai đoạn retrieval đã sai ngay từ đầu, làm nghẽn toàn bộ pipeline RAG phía sau, dù có rerank hay reasoning mạnh cỡ nào.

II. Main Idea:

KBMR — retriever dựa trên Multimodal Large Language Model (MLLM) đầu tiên cho KB-VQA, gồm 3 cơ chế chính:

MLLM Embedding Retriever: thay vì hai encoder riêng của CLIP, dùng MLLM (Qwen2-VL, LLaVA-OneVision) với prompt "tóm tắt ảnh bằng một từ", lấy hidden state của token cuối làm vector retrieval → không gian ngữ nghĩa tự hồi quy, giữ được bản sắc thực thể dưới biến đổi hình ảnh lớn.
Semantic Discriminator (SD): một MLLM (Qwen2.5-VL-7B) hỏi từng cặp query–candidate "có cùng thực thể không?", rồi chuyển logits của token Yes/No thành trọng số consistency liên tục bằng sigmoid có hệ số γ.
Hard Negative Sampling + Continuous Semantic Distillation: dùng EVA-CLIP lấy top-50 ứng viên trực quan giống nhất, loại bỏ những cái SD cho là cùng thực thể, rồi lấy mẫu phân tầng theo trọng số để có hard negatives đa dạng. Khi train, thay nhãn 0/1 cứng bằng KL divergence đối xứng giữa phân phối similarity của retriever và phân phối soft do SD tạo ra → retriever học được cấu trúc ngữ nghĩa mịn quanh vùng dễ nhầm.

Ví dụ đời thường: giống như tìm người trong đám đông — thay vì chỉ so ngoại hình (kiểu tóc, áo) như CLIP, KBMR giống người am hiểu vừa nhìn vừa hỏi "đây có phải anh X mình cần gặp không, giống tới mức nào?", rồi dạy cho người tìm hiểu cách phân biệt các khuôn mặt giống nhau ở mức độ tinh vi, không chỉ đúng/sai đen trắng.

III. Main Results:

Retrieval: trên E-VQA, KBMR (LLaVA-OV-7B) đạt R@1 = 24.7, vượt CLIP mạnh nhất (EVA-CLIP-8B, 13.3) +11.4 điểm; trên InfoSeek đạt R@1 = 60.3, hơn EVA-CLIP-8B +14.7 điểm và hơn MLLM retriever tốt nhất +19.0. Zero-shot embedding của MLLM thì thậm chí còn yếu hơn CLIP → cần training đặc thù.
End-to-end VQA: thay retriever trong các pipeline SOTA (EchoSight, ReflectiVA, OMGM, MMKB-RAG) giữ nguyên mọi thứ khác, thu được lợi ích nhất quán +4.5 đến +9.4 điểm; thiết lập SOTA mới: 54.7 trên E-VQA, 50.8 trên InfoSeek, 79.3 trên OK-VQA (+12.7 so với OMGM gốc).
Ablation: trọng số soft của SD thắng mọi biến thể (random negatives, hard one-hot, trọng số bị đảo 10%/30%); SD có AUC 0.91 so với 0.79 của CLIP trên bài kiểm tra cặp cùng/khác thực thể; 8 hard negatives và γ = 1.1 là tối ưu; Qwen2.5-VL-7B là SD tốt nhất.

IV. Conclusion & Future Works:

KBMR chứng minh retrieval cho KB-VQA không nên dừng ở so khớp hình ảnh bề mặt mà phải mô hình hóa quan hệ ngữ nghĩa theo thực thể. Bằng cách dùng MLLM vừa làm retriever vừa làm "giáo viên" phân biệt thực thể, KBMR giải quyết nút nghẽn giai đoạn đầu của pipeline RAG và cải thiện câu trả lời cuối cùng một cách nhất quán trên nhiều kiến trúc downstream. Hướng tương lai (không nêu trực tiếp trong bài): có thể mở rộng sang retrieval đa phương thức/text-centric, kết hợp SD với kiến trúc nhẹ hơn để giảm chi phí gán nhãn, và áp dụng tư tưởng soft semantic supervision cho các bài toán retrieval long-tail ngoài VQA.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng continuous semantic distillation sang retrieval đa phương thức (ảnh + văn bản + câu hỏi) cho KB-VQA, trong đó Semantic Discriminator đánh giá cả sự khớp thực thể lẫn mức độ liên quan đến câu hỏi trong một trọng số liên tục thống nhất.
Nghiên cứu SD nhẹ và có thể distill: huấn luyện một mô hình nhỏ (vài trăm triệu tham số) bắt chước phân phối trọng số của MLLM để cắt chi phí gán nhãn cho corpus Wikipedia quy mô triệu mục.
Áp dụng cơ chế entity-consistency soft supervision cho cross-modal retrieval tổng quát (fashion, landmark, sản phẩm) nơi các thực thể trông gần giống nhau nhưng khác danh tính.

2. Patent:

Hệ thống tra cứu tri thức bằng camera trên điện thoại: người dùng chụp một công trình/động thực vật; ứng dụng dùng mô hình MLLM học theo KBMR để tìm đúng bài Wikipedia của thực thể đó, kể cả khi chụp góc lạ, lúc hoàng hôn hay mùa khác, thay vì gợi ý các thứ trông giống hình nhưng sai tên.
Công cụ phân loại sản phẩm chống nhầm thương hiệu cho sàn thương mại điện tử: module retrieval xếp hạng sản phẩm theo độ khớp thực thể (thương hiệu + dòng sản phẩm) chứ không theo độ giống ảnh, giảm trường hợp hàng nhái trông giống hàng thật bị xếp lẫn vào kết quả tìm kiếm.
Trợ lý du lịch thông minh: chụp ảnh khách sạn, bảo tàng hoặc tác phẩm nghệ thuật, ứng dụng truy xuất đúng thực thể (ví dụ chủ sở hữu hiện tại của khách sạn) từ cơ sở tri thức lớn, đối phó với việc tòa nhà thay đổi màu sơn, logo hay góc chụp khác nhau giữa các bức ảnh.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2608.21450
ArXiv Abstract	https://arxiv.org/abs/2608.21450
PDF Download	https://arxiv.org/pdf/2608.21450.pdf
Github Repository	N/A

11. WHALE: A Simple Recipe for Joint Harness-Weight Optimization (25 votes)

Tác giả: Haechan Kim, Yoonho Lee, Gisang Lee, Chelsea Finn, Kangwook Lee

Xuất bản lúc: 2026-08-31

Tag: LLM Agents, Rejection Sampling Fine-Tuning, Prompt Optimization, Tool-Use Agents, Program Search, Joint Optimization, Adaptive Scheduling

I. Main Problem:

Hiệu năng agent không chỉ do model weights mà còn do executable harness: mã quyết định đưa quan sát nào vào context, công cụ được gọi thế nào, lỗi được xử lý ra sao, và khi nào dừng. Nếu chỉ nâng cấp một phần, hệ thống vẫn bị nghẽn bởi phần còn lại:

weight-only có thể học hành vi mới nhưng harness giòn vẫn không trả về bằng chứng cần thiết
harness-only có thể cải thiện luồng công cụ nhưng model không đủ khả năng tổng hợp kết quả
các phương pháp joint-adaptation trước chỉ tối ưu weights với textual prompts, không chạm vào toàn bộ harness có thể thực thi Khó khăn cốt lõi là hai bước có nhịp cập nhật rất khác: training model thu thập rollout rồi cập nhật gradient, còn harness search dùng vòng propose–evaluate–accept dài hơn; chạy đồng thời dễ làm credit assignment bị nhiễu vì đối tác đang thay đổi.

II. Main Idea:

WHALE tối ưu hệ model + harness bằng cách luân phiên hai pha có điều kiện: mỗi cycle

Model update: cố định harness hiện tại, cải thiện model bằng online rejection-sampling fine-tuning, chỉ học trên các rollout được verifier chấp nhận
Harness search: cố định model vừa cập nhật, tìm harness tốt hơn bằng Meta-Harness, một vòng lặp đề xuất–đánh giá–chọn lọc trên archive các harness thực thi được
lặp lại để hai thành phần co-adapt qua phân phối trajectory chung

Điểm then chốt là khi nào đổi pha. Bản fixed dùng ngân sách pha cố định; bản adaptive dùng patience rule trên training signal: dừng pha cập nhật trọng số khi reward trung bình cửa sổ trượt ngừng cải thiện, dừng pha tìm harness khi best archive score ngừng tăng, sau một độ dài tối thiểu. Nhờ đó tách được cải thiện thật khỏi nhiễu mà không over-optimize vào một đối tác sắp thay đổi.

Ví dụ đời thường: giống hai người làm việc nhóm thay phiên chỉnh tay nhau — người A giữ nguyên quy trình để sửa kỹ năng của B, rồi B giữ nguyên kỹ năng mới để sửa quy trình; cứ thế tiến dần tới cách phối hợp tối ưu thay vì một người ôm hết rồi đổ lỗi cho người kia.

III. Main Results:

Trên Qwen3.5-2B/4B và ba bài toán SearchQA, mathematical reasoning, chess puzzles, WHALE vượt cả weight-only, harness-only và Fast–Slow Training bị giới hạn ở prompt; mức lợi cụ thể:
- hơn baseline chỉ tối ưu một thành phần: +7.67 đến +24.38 điểm phần trăm best mean@8 accuracy
- hơn Fast–Slow Training cùng schedule nhưng chỉ search prompt: +4.15 đến +13.00 điểm
Có hai chế độ nghẽn khác nhau:
- SearchQA là harness-dominant: chỉ search harness đạt accuracy đỉnh của weight-only với rất ít rollout hơn, cho thấy harness là kênh cải thiện hiệu quả hơn
- Math là model-dominant: harness search gần như không giúp cho tới khi có một weight update nhỏ, sau đó cùng search harness mới trở nên hiệu quả
So với stagewise tối ưu hết weights rồi mới search harness một lần, WHALE dùng các bước xen kẽ nhỏ hơn tăng +5.32 điểm ở SearchQA và +9.16 điểm ở Math, đồng thời vượt kết quả stagewise khi chỉ dùng 29% và 49% số rollout tương ứng
Schedule quá ngắn dễ chọn nhầm candidate do nhiễu; schedule quá dài bị conditional over-optimization vì đối tác sau đó đổi. Khoảng mạnh nằm giữa hai cực trị này
Adaptive WHALE tự chọn ngân sách pha gần vùng tốt mà không cần tune fixed budgets: đạt 52.82% ở SearchQA, tốt nhất toàn bộ so sánh; ở Math đạt 26.46%, tốt hơn fixed schedule chính nhưng thấp hơn schedule tay tune tốt nhất một chút

IV. Conclusion & Future Works:

Bài học chính là nên coi model và harness là một hệ thống được huấn luyện chung, không phải hai artifact riêng. WHALE là khung modular với interface dạng black-box, nên có thể thay thuật toán cập nhật trọng số hoặc search harness. Kết quả cho thấy domain quyết định component nào là bottleneck, và một thay đổi nhỏ ở bên này có thể mở khóa lợi ích từ bên kia. Hướng tương lai gồm instantiate hai operator bằng thuật toán mạnh hơn, mở rộng sang model lớn hơn và nhiều domain hơn, cải thiện adaptive switching, và nghiên cứu lý thuyết cho alternating conditional updates trong không gian harness thực thi.

V. Brainstorming Space:

1. Publish Papers:

Phát triển bộ phát hiện bottleneck tự động cho agentic systems: dùng một vài vòng search harness chi phí thấp để xác định domain đang bị giới hạn bởi model hay bởi luồng công cụ trước khi quyết định ngân sách training.
Nghiên cứu lý thuyết và thực nghiệm về điều kiện hội tụ của alternating optimization giữa trọng số mô hình và chương trình harness, đặc biệt khi hàm mục tiêu không tách rời và mỗi pha over-optimize theo đối tác cố định.
Mở rộng WHALE sang continual joint adaptation, trong đó harness và weights được cập nhật liên tục khi task distribution thay đổi, có cơ chế chống quên và chống over-adaptation vào archive harness cũ.
Khảo sát multi-agent hoặc hierarchical harness search: nhiều harness chuyên biệt cùng được tìm kiếm, còn model weights được fine-tune để điều phối hoặc lựa chọn harness theo context.
So sánh reward model, verifier program, và self-consistency làm tín hiệu cho adaptive phase switching, nhằm giảm phụ thuộc vào binary verifier và cải thiện độ tin cậy khi reward thưa.

2. Patent:

Trợ lý điện thoại tự tối ưu luồng làm việc: khi tỉ lệ trả lời đúng qua công cụ tìm kiếm, máy tính, hoặc gọi API sụt giảm, hệ thống luân phiên cập nhật nhẹ mô hình trên thiết bị/đám mây với việc chỉnh script định dạng kết quả, giới hạn số lần thử, và luật dừng; ngưỡng chuyển pha thay đổi theo đà cải thiện của training score.
Ứng dụng gợi ý lập trình trong IDE: sau mỗi lần fine-tune nhỏ mô hình gợi ý, hệ thống tự tìm trong kho template cách trình bày lỗi biên dịch, cách đề xuất sửa test, và thời điểm ngừng sinh mã để giảm số bước thừa cho lập trình viên trên điện thoại hoặc máy tính bảng.
Hệ tự động hóa doanh nghiệp trên điện thoại: agent điều khiển ứng dụng nội bộ xen kẽ giữa học từ các phiên thao tác thành công và chỉnh macro giao diện, thứ tự trường nhập, xử lý popup, và điều kiện kết thúc; khi tín hiệu thành công chững lại thì tự đổi sang tối ưu phần kia.
Chatbot chăm sóc khách hàng có harness tự sửa: mỗi chu kỳ cập nhật nhẹ khả năng hiểu câu hỏi, sau đó tìm cách viết lại phần mềm định tuyến giữa tra cứu đơn hàng, hoàn tiền, và chuyển người thật; lịch chuyển đổi thích ứng theo cửa sổ trượt của tỉ lệ xử lý đúng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.00196
ArXiv Abstract	https://arxiv.org/abs/2609.00196
PDF Download	https://arxiv.org/pdf/2609.00196.pdf
Github Repository	https://github.com/krafton-ai/WHALE

12. ZipTok3D: High-Fidelity 3D Tokenization with Compact Token Prefixes (22 votes)

Tác giả: Mingda Lin, Weijie Wang, Zeyu Zhang, Bowen Cui, Yefei He, et al.

Xuất bản lúc: 2026-09-01

Tag: 3D Tokenization, 3D Generation, Neural Fields, Autoencoder, Transformers, Iterative Refinement, Shape Reconstruction

I. Main Problem:

Các 3D tokenizer hiện tại (VecSet, COD-VAE) nén hình học vật thể thành chuỗi token tiềm ẩn, nhưng chất lượng tái tạo suy giảm dữ dội khi cắt xuống chỉ vài token:

Tokenizer theo không gian cục bộ (TRELLIS, OctFusion) cần chuỗi dài, khó nén thêm.
Tokenizer dùng global token tối ưu cho một ngân sách token cố định — không chủ đích xếp thông tin quan trọng vào token đầu, nên khi chỉ còn 1-2 token, cấu trúc tổng thể và chi tiết mịn giành nhau dung lượng tiềm ẩn cực hạn chế.
Decoder feed-forward độ sâu cố định không đủ sức "mở" vài vector toàn cục thành trường 3D chi tiết.

II. Main Idea:

ZipTok3D tách bài toán thành hai nút điều khiển: độ dài prefix K (bao nhiêu thông tin được giữ lại) và số bước refinement L (bao nhiêu tính toán để giải nén). Cơ chế:

Nested dropout: trong luyện tập, ngẫu nhiên cắt chuỗi token tiềm ẩn ở các mốc K = {1, 2, 4, ..., 128} và buộc mỗi prefix ngắn phải tái tạo nguyên vật thể → token đầu tiên mang hình học toàn cục, các token sau chỉ bổ sung chi tiết dư.
Parameter-shared iterative refinement: thay vì một lớp decoder riêng cho mỗi độ sâu, cùng một Transformer block được áp lặp đi lặp lại trên triplane tokens, mỗi vòng tinh chỉnh dần hình dạng — không tăng tham số, chỉ tăng độ sâu tính toán hiệu dụng.
Intermediate supervision + self-distillation: giám sát cả một bước trung gian ngẫu nhiên theo dự đoán cuối (stop-gradient) để mọi trạng thái refinement đều hợp lệ.
Giải mã trực tiếp từ prefix, không cần stage sinh mẫu riêng.

Ví dụ đời thường: giống cách phác thảo chân dung — nét đầu tiên phải nắm được khung xương và tỷ lệ khuôn mặt, các nét sau mới thêm chi tiết; và cùng một họa sĩ nhìn lại bức phác nhiều lần, mỗi lần chỉnh mịn thêm một chút thay vì cố vẽ xong trong một lượt nhìn duy nhất.

III. Main Results:

ShapeNet: chỉ 1 token đạt chất lượng tương đương COD-VAE-32 (IoU 96.8 so với 97.1; CD và F1 bằng nhau khi làm tròn) — chuỗi ngắn hơn 32×.
TRELLIS: 4 token vượt COD-VAE-32 trên cả CD (0.0166 so với 0.0172) và F1 (95.92 so với 95.67), ngắn hơn 8×; bootstrap 20,000 resample xác nhận CD/F1 cải thiện có ý nghĩa.
Sinh 3D theo class với latent 2×32 (ngắn hơn COD-VAE-32 gấp 16× ở stage-2): các metric phân phối (MMD, COV, 1-NNA) tương đương, sampling throughput cao hơn (50.62 so với 46.02 samples/s), memory thấp hơn.
Ablation (K=2, ShapeNet): nested dropout một mình nâng IoU từ 77.7 → 92.3; iterative refinement là yếu tố quan trọng thứ hai; intermediate supervision cải thiện thêm nhẹ.
Phân tích K × L: token dài bù cho decoder nông; refinement sâu giá trị nhất ở vùng cực ít token; cả hai dataset bão hòa quanh L = 5.

IV. Conclusion & Future Works:

ZipTok3D chứng minh vật thể 3D có thể tái tạo trung thực từ vài token duy nhất bằng cách tổ chức lại thông tin theo prefix lồng nhau và giải nén bằng refinement lặp chia sẻ tham số — hai cơ chế bổ trợ lẫn nhau: token chi trả cho decoder nông, tính toán lặp chi trả cho token ít. Điều này mở đường cho mô hình sinh 3D thế hệ sau rẻ hơn và nhanh hơn đáng kể. Paper không nêu hướng tương lai trực tiếp; hướng hợp lý từ kết quả: tối ưu số bước refinement theo độ phức tạp vật thể, và mở rộng prefix tokenization cho cảnh đa vật thể / text-to-3D quy mô lớn.

V. Brainstorming Space:

1. Publish Papers:

Kết hợp ZipTok3D với mô hình sinh tự hồi quy (autoregressive/flow matching) trên prefix token, cho phép tạo vật thể 3D với độ dài token linh hoạt theo ngân sách tính toán của người dùng.
Nghiên cứu token budget thích ứng: dùng độ phức tạp hình học ước lượng từ token đầu tiên để tự động chọn K và L tối ưu cho từng vật thể, cân bằng chất lượng – chi phí.
Mở rộng nested prefix tokenization lên cấp độ scene: học các prefix lồng nhau toàn cảnh (nhiều vật thể, bố cục phòng) để sinh cảnh 3D từ chuỗi token cực ngắn.

2. Patent:

Nén mô hình 3D trên điện thoại cho ứng dụng AR/VR: mỗi vật thể chỉ lưu 1-4 token (vài KB) thay vì hàng nghìn token; điện thoại giải mã bằng cách chạy lặp một khối mạng nhỏ để khôi phục vật thể chi tiết ngay trên thiết bị, tiết kiệm băng thông và pin.
Hệ thống truyền ảnh 3D qua mạng yếu cho ứng dụng video call: chỉ gửi prefix token ngắn của khuôn mặt/vật thể ở mức phân giải thấp, máy nhận tinh chỉnh dần bằng nhiều vòng refinement — càng mạng tốt, hình càng nét.
Thư viện đồ vật 3D cho game mobile: toàn bộ kho đồ vật được lưu dưới dạng chuỗi token vài byte mỗi món, tải tức thì; độ sâu refinement tự động điều chỉnh theo khoảng cách camera để giữ mượt 60fps.
Máy in 3D cá nhân qua app điện thoại: người dùng chụp ảnh vật thể, app sinh mã token cực ngắn gửi về máy in; máy in dùng decoder refinement lặp để tái tạo hình dạng đầy đủ trước khi in, không cần lưu file lưới nặng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.01740
ArXiv Abstract	https://arxiv.org/abs/2609.01740
PDF Download	https://arxiv.org/pdf/2609.01740.pdf
Github Repository	N/A

13. NeoMME: A Single-Tower Multimodal-Native Multilingual Foundation Encoder for Efficient Fine-Tuning and Inference (22 votes)

Tác giả: Aurélien Lac, Tony Wu

Xuất bản lúc: 2026-08-31

Tag: Multimodal Encoders, Visual Document Retrieval, Masked Diffusion, Late Interaction, Multilingual Models, ColPali, RAG

I. Main Problem:

Các mô hình đa phương thức hiện nay thường dựng trên kiến trúc sinh (generative): ghép vision encoder pretrained riêng (SigLIP, ViT) với causal language model rồi đóng vai encoder. Khi dùng cho truy xuất tài liệu trực quan (kiểu ColPali), chúng kế thừa toàn bộ chi phí tham số và tính toán của một VLM cho một tác vụ không hề sinh văn bản:

quá nặng và lãng phí cho bài toán embedding/retrieval
pipeline không thống nhất giữa các phương thức (vision tower riêng, decoder riêng)
khó nén và phục vụ (serving) hiệu quả ở độ phân giải cao.

II. Main Idea:

NeoMME: họ encoder hai chiều (bidirectional) đa phương thức, đa ngôn ngữ, huấn luyện hoàn toàn từ đầu (from scratch) trong một Transformer tháp duy nhất — không vision tower pretrained, không causal decoder:

260M và 800M tham số, ngữ cảnh dài 16,384 token (đủ mã hóa tới hai ảnh 4K UHD)
ảnh được cắt thành patch 32×32 pixel thô, đi qua MLP 2 lớp rồi chia sẻ mọi lớp Transformer với token văn bản; độ phân giải động giữ nguyên tỉ lệ khung hình
pretraining bằng mục tiêu masked discrete-diffusion trên văn bản (kiểu MDLM/LLaDA); với cặp ảnh–chữ, nhiệm vụ khử nhiễu văn bản được điều kiện hóa trên các patch ảnh nhìn thấy được — ép mô hình đọc bằng mắt thay vì đoán mò từ chữ
kiến trúc hiện đại: sliding-window + global attention xen kẽ, GQA, QK-norm, RoPE 2 chiều, factorized embedding kiểu ALBERT
fine-tune thành NeoMME-Retriever với hai đầu ra: dense (pooled) và late-interaction (multi-vector MaxSim) trong một forward pass duy nhất

Ví dụ đời thường: giống nhân viên văn phòng thay vì đọc bản tóm tắt do người khác viết sẵn (vision tower + LLM riêng), tự mở trang tài liệu gốc lên, nhìn thẳng vào hình và chữ cùng lúc bằng một cái đầu duy nhất để hiểu nội dung — vừa nhanh, vừa nhẹ, vừa khỏi cần hai người phối hợp.

III. Main Results:

ViDoRe v3: NeoMME-Retriever 260M đạt 0.523 nDCG@10, vượt mọi mô hình dưới 800M tham số; bản 800M đạt 0.556; Pareto-optimal trên ViDoRe v1/v2/v3.
Tốc độ: ở cùng độ phân giải 2048×2048 trên NVIDIA L40S, NeoMME-260M xử lý 51.3 trang/giây, nhanh ~1.97× ColModernVBERT (250M).
Nén embedding: hierarchical token pooling (hệ số 8) + lượng tử hóa bất đối xứng (query int8, tài liệu nhị phân) giảm kích thước embedding từ ~1.5 MB xuống 6 kB mỗi tài liệu (nén 255×) trong khi giữ trên 95% nDCG@10 gốc.
Tokenizer đa ngôn ngữ tự huấn luyện: ít hơn 44.4% token so với ModernBERT trên 14 ngôn ngữ FLORES-200.
Phát hành mã nguồn, pretrained backbone và checkpoint retriever dưới Apache 2.0 trên Hugging Face, tích hợp sẵn vào thư viện Transformers; kèm Late-Interaction Kernels (LIK) tối ưu MaxSim.

IV. Conclusion & Future Works:

NeoMME chứng minh một encoder hai chiều tháp đơn, multimodal-native, huấn luyện từ đầu vừa nhẹ hơn vừa mạnh hơn cách 'mượn' VLM làm encoder, đồng thời thống nhất vòng đời pretrain → fine-tune → serving xuyên suốt giữa văn bản và ảnh. Điểm then chốt là masked text-diffusion được điều kiện hóa bằng patch ảnh thô, khiến mô hình phải thật sự 'đọc' tài liệu. Hướng mở: mở rộng quy mô mô hình, cải thiện độ bao phủ ngôn ngữ ngoài 14 ngôn ngữ mục tiêu, và tối ưu thêm chi phí lưu trữ/scoring cho late-interaction trên corpus lớn.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng masked diffusion pretraining sang mục tiêu ẩn/hình ảnh trong cùng tháp chung, thay vì chỉ khử nhiễu văn bản điều kiện ảnh, để tăng khả năng tái tạo và hiểu bố cục tài liệu.
Khảo sát mô hình single-tower ở quy mô hơn 800M–tỷ tham số cho retrieval, kèm phân tích Pareto chính xác giữa độ chính xác, throughput và chi phí VRAM.
Nghiên cứu chiến lược pooling/lượng tử hóa học (learned pooling thay vì cố định hệ số 8) cho multi-vector embedding nhằm vượt ngưỡng nén 255× mà không mất nDCG.
Áp dụng NeoMME-Retriever làm bộ truy xuất trong Visual RAG end-to-end, đo chất lượng câu trả lời của VLM khi được cung cấp các trang tài liệu đã truy xuất.

2. Patent:

Ứng dụng tìm kiếm tài liệu scan/PDF trên điện thoại: người dùng chụp ảnh một trang giấy hoặc tải file PDF, mô hình encoder nhỏ chạy ngay trên thiết bị biến trang thành vector nén (~6 KB), đồng bộ lên cloud để tìm kiếm mọi nơi mà không cần OCR.
Hệ thống tra cứu hóa đơn, chứng từ doanh nghiệp: mỗi hóa đơn được chụp/chuyển thành ảnh, encoder đa ngôn ngữ tạo embedding đa vector; kế toán gõ mô tả bằng tiếng Việt là tìm ra đúng hóa đơn gốc kể cả khi chữ in mờ, bảng biểu phức tạp.
Trợ lý đọc báo cáo tài chính/quản trị trên mobile: truy xuất late-interaction theo trang báo cáo dạng ảnh 4K, nén vector 255 lần để lưu hàng triệu trang trên máy người dùng và trả lời trích nguồn đúng trang.
Dịch vụ lưu trữ hồ sơ y tế dạng ảnh (phiếu X-quang, đơn thuốc viết tay đa ngôn ngữ): encoder multimodal-native tạo chỉ mục trực tiếp từ ảnh, hỗ trợ bác sĩ tìm hồ sơ tương tự bằng mô tả văn bản mà không cần nhập liệu thủ công.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.01657
ArXiv Abstract	https://arxiv.org/abs/2609.01657
PDF Download	https://arxiv.org/pdf/2609.01657.pdf
Github Repository	N/A

14. A Glance Is All You Need: Single-Pass Fine-Grained Image Captioning with SimLoss (16 votes)

Tác giả: Suryaansh Jain, Rahasya Barkur, Vishal G, Ryan Rossi, Franck Dernoncourt, et al.

Xuất bản lúc: 2026-09-01

Tag: Image Captioning, Vision-Language Models, Contrastive Learning, InfoNCE, Fine-Grained Vision, GRPO, LoRA

I. Main Problem:

Các mô hình vision-language (VLM) hiện nay sinh caption mượt mà nhưng thiếu chi tiết — bỏ qua thuộc tính, số lượng, chất liệu, kết cấu và quan hệ không gian. Giải pháp trước đây là pipeline đa tầng (như CapMAS: sinh caption → tách thành mệnh đề → xác minh từng mệnh đề → viết lại), chất lượng tốt hơn nhưng:

trễ suy luận cao gấp ~20 lần (115 giây/ảnh)
caption từ pipeline có ~25% mệnh đề sai, nên dùng làm dữ liệu huấn luyện (distillation) sẽ truyền lỗi ảo giác
caption ngắn của MS COCO (trung bình 10 từ) không đủ giàu so với yêu cầu đánh giá siêu chi tiết của IIW (trung bình 171 từ).

II. Main Idea:

SimLoss — hàm mục tiêu không cần caption tham chiếu, giám sát mô hình ngay trong không gian embedding trước khi giải mã text. Ý tưởng cốt lõi: caption chi tiết tốt là caption giữ lại đủ thông tin để nhận ra ảnh gốc (quan điểm noisy-channel: tối đa hóa mutual information I(image; caption)). Quy trình:

một image encoder đóng băng (Qwen3-VL-Embed) mã hóa ảnh thành embedding mục tiêu
hidden states của VLM được mean-pool, chiếu qua projector rồi căn chỉnh với embedding ảnh qua InfoNCE contrastive loss — ảnh đúng là positive, các ảnh khác trong batch là negative
hai biến thể: SimLoss FFT (backprop đầy đủ qua projector, chỉ cần LoRA) và SimLoss GRPO (dùng embedding model làm hộp đen, thưởng độ tương đồng cos giữa caption sinh ra và ảnh)
lúc suy luận, encoder và projector bị gỡ bỏ — chỉ còn một VLM chạy single-pass, không cần bất kỳ caption mục tiêu nào.

Ví dụ đời thường: giống như thay vì bắt học sinh học thuộc lời bài giảng của thầy (vốn có thể thiếu sót hoặc sai), ta dạy học sinh cách nhìn tranh rồi kể sao cho người khác tìm đúng tranh đó giữa một đống tranh giống nhau — kỹ năng kể chi tiết, đúng trọng tâm tự nhiên mọc ra.

III. Main Results:

Đánh giá trên benchmark IIW-400 (precision = factuality, recall = coverage, F1 = trung bình điều hòa):

SimLoss FFT đạt precision cao nhất (0.8485), vượt cả CapMAS (0.8467), và F1 ngang CapMAS (0.7023 vs 0.7025) trong khi nhanh hơn ~20 lần (5.77s vs 115.31s mỗi ảnh trên A100)
SimLoss GRPO đạt recall cao nhất (0.6015) và CLAIR cao nhất (0.858) nhưng precision thấp hơn FFT
Caption của SimLoss FFT ngắn và ổn định nhất: trung bình 114 từ (±13) so với 347 từ (±47) của baseline — chứng tỏ caption chi tiết không phải là caption dài, mà là mã hóa hình ảnh hiệu quả
Recall gần như bằng nhau giữa mọi phương pháp → toàn bộ chênh lệch F1 nằm ở precision, và SimLoss FFT thắng ở đúng chỗ đó
Các baseline reward-based (FeedQuill/PPO) và perception-aware (PAPO) không vượt được baseline đơn giản, vì phụ thuộc vào LLM judge có độ tin cậy kém (bias agreeableness: nhận đúng gần 96% nhưng chỉ phát hiện sai dưới 25%) — SimLoss bỏ qua hoàn toàn sự phụ thuộc này.

IV. Conclusion & Future Works:

SimLoss cho thấy giám sát trong không gian embedding có thể mang lại chất lượng gần bằng pipeline xác minh đa tầng mà vẫn giữ suy luận single-pass tốc độ cao, không cần caption thật hay caption giả từ teacher pipeline. Khoảng cách F1 nhỏ còn lại với CapMAS gợi ý kiểm chứng显 tường minh vẫn hữu ích cho cân bằng precision–recall. Hướng tương lai:

so sánh/kết hợp nhiều embedding teacher khác nhau theo domain
kết hợp precision của FFT với recall của GRPO
thêm kiểm chứng factuality nhẹ hoặc confidence calibration mà vẫn giữ đường triển khai single-pass.

V. Brainstorming Space:

1. Publish Papers:

Kết hợp SimLoss FFT (giám sát biểu diễn trước giải mã) với SimLoss GRPO (thưởng embedding sau sinh) trong một mục tiêu lai nhằm đồng thời đạt precision cao của FFT và recall cao của GRPO.
Nghiên cứu chọn lọc và tích hợp nhiều frozen embedding teacher từ các domain khác nhau (y tế, robot, ảnh vệ tinh) để giảm bias của từng teacher đơn lẻ trong giám sát caption chi tiết.
Phát triển cơ chế kiểm chứng factuality siêu nhẹ chạy song hành single-pass captioner (ví dụ kiểm tra từng mệnh đề ngắn) để thu hẹp khoảng cách F1 còn lại với pipeline đa tầng mà không đánh đổi độ trễ.
Áp dụng tư tưởng giám sát embedding-space (không cần nhãn text) cho các tác vụ VLM khác như visual question answering chi tiết và mô tả video dài.

2. Patent:

Ứng dụng hỗ trợ người khiếm thị trên điện thoại: mô tả ảnh chụp bằng camera chi tiết, đúng sự thật (chất liệu, số lượng, vị trí đồ vật) với độ trễ thấp vì chỉ cần một lần chạy mô hình — quan trọng khi người dùng cần phản hồi tức thì.
Công cụ mô tả ảnh tức thì cho thương mại điện tử trên mobile: người bán chụp sản phẩm, ứng dụng tự sinh mô tả giàu chi tiết chính xác trong vài giây để đăng bán, tránh mô tả sai gây khiếu nại.
Hệ thống ghi chú ảnh y tế ngoại tuyến: bác sĩ chụp vùng tổn thương, mô hình single-pass sinh mô tả chi tiết đã được căn chỉnh với embedding ảnh để giảm bịa chi tiết — an toàn khi dùng kết hợp với kiểm tra nhẹ trước khi lưu hồ sơ.
Trợ lý mô tả cảnh cho robot gia đình: camera trên robot quan sát bàn bếp/bàn làm việc và mô tả chính xác vị trí, số lượng vật dụng trong một lần xử lý duy nhất, đủ nhanh cho tương tác thời gian thực.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.00591
ArXiv Abstract	https://arxiv.org/abs/2609.00591
PDF Download	https://arxiv.org/pdf/2609.00591.pdf
Github Repository	N/A

15. Cliff: Learning Process Rewards from the First Mistake (15 votes)

Tác giả: Peixuan Han, Runhui Wang, Ketan Ramaneti, Jie Hao, Gerald Friedland, et al.

Xuất bản lúc: 2026-09-02

Tag: RLVR, GRPO, Process Reward Model, LLM Post-training, Reinforcement Learning, Reward Shaping, Reasoning

I. Main Problem:

RLVR (Reinforcement Learning with Verifiable Rewards) chỉ dùng reward kết quả cuối cùng nên quá thô: một lời giải gần đúng chỉ sai một bước nhỏ bị phạt y hệt một lời giải hoàn toàn sai, khiến mô hình không biết mình sai ở đâu và học kém hiệu quả.

Các hướng khắc phục hiện có đều có hạn chế:

Process Reward Models (PRM): phải huấn luyện thêm reward model riêng, kém khái quát và dễ bị reward hacking.
On-Policy Distillation (OPD): chỉ tối ưu khi teacher và student có cùng kiểu suy luận, cùng tokenizer — khó áp dụng rộng.

II. Main Idea:

Cliff dựa trên một quan sát then chốt: một khi quá trình suy luận đã đi lầm đầu tiên, việc chấm điểm các bước sau nó gần như vô nghĩa vì chúng đã bị điều kiện hóa trên một tiền đề sai (cảm hứng từ vacuous implication trong logic học). Vì vậy không cần chấm từng bước — chỉ cần tìm đúng một điểm rơi đầu tiên.

Quy trình:

Teacher (một LLM mạnh hơn) tự giải bài, lời giải được automatic verifier kiểm tra; lời giải sai thì quay về GRPO thuần.
Teacher xét từng rollout của student, xác định Pitfall Step p(a) — bước suy luận đầu tiên bị sai.
Rollout bị cắt thành hai đoạn: prefix đúng (trước p(a)) và suffix sai (từ p(a) trở đi).
Token trước điểm rơi nhận advantage cao hơn; token từ điểm rơi trở đi nhận phản hồi âm như GRPO. Riêng hyperparameter λ = 0 (không thưởng thêm cho prefix của rollout sai) cho kết quả tốt nhất và tránh length hacking.

Ưu điểm: đơn giản, model-agnostic và task-agnostic, tự nhiên chống reward hacking (trì hoãn lỗi luôn tốt hơn, rollout hoàn toàn đúng vẫn tối ưu).

Ví dụ đời thường: giống thầy giáo chấm bài không cần gạch lỗi từng dòng, mà chỉ cần bút đỏ khoanh đúng chỗ học sinh bắt đầu sai — phần viết trước đó được ghi nhận, phần sau đó biết là không đáng tin mà thôi.

III. Main Results:

Vượt OPD +15% và GRPO +7% trung bình trên 12 tổ hợp scenario (2 student × 3 teacher × math + coding).
Chỉ số nâng cấp rõ trên cả GSM8k, MATH-500, DAPO, AIME, CodeContests, LiveCode.
Không đòi hỏi teacher quá mạnh: Qwen3-32B, Gemma3-27B làm teacher vẫn thắng GRPO thuần — vì phán xét lỗi dễ hơn tự giải bài (judge accuracy >90% khi có reference đúng, độ lệch vị trí lỗi so với người chỉ ~3 câu).
Ablation "GRPO with Teacher" (dùng teacher nhưng không tách prefix/suffix) gần như không cải thiện → lợi ích đến từ credit assignment hai đoạn, không phải từ bản thân teacher.
Ground truth filter: teacher mạnh (SOTA) không cần; teacher yếu hơn mất ~2% nếu bỏ filter.
λ = 1.0 làm câu trả lời dài vô nghĩa (length hacking), λ = 0 là chuẩn.
Training dynamics: vị trí Pitfall Step dịch dần về giữa câu trả lời rồi ổn định — model cải thiện suy luận trung gian, không phải hack teacher.

IV. Conclusion & Future Works:

Cliff chứng minh có thể nâng cấp RLVR bằng cách khai thác thông minh hơn tín hiệu đơn giản sẵn có thay vì thêm cơ chế giám sát phức tạp. Chỉ một điểm cắt duy nhất ở lỗi đầu tiên đã đủ tạo supervision mức process, tương thích mọi teacher và mọi task.

Hướng tương lai: mở rộng sang môi trường agentic, và thay LLM judge bằng rule-based Pitfall Step detectors cho các tác vụ có cấu trúc rõ ràng.

V. Brainstorming Space:

1. Publish Papers:

Áp dụng Cliff cho agentic RL: teacher nhận diện bước hành động đầu tiên sai của agent đa bước (tool-use, web navigation), cho phép gán credit theo phase thay vì theo episode.
Rule-based Pitfall Step detectors cho toán và code: thay LLM judge bằng bộ kiểm tra tính chất hình thức (symbolic checker, unit test từng bước) để loại bỏ hoàn toàn nhiễu từ teacher yếu.
Kết hợp Cliff với self-judging: student lớn tự xác định lỗi đầu tiên của chính mình, loại bỏ chi phí teacher và mở đường cho self-improvement vòng lặp.

2. Patent:

Hệ thống gia sư toán trên điện thoại: app chụp bài làm của học sinh, một mô hình lớn trên đám mây chỉ ra dòng đầu tiên sai và khoanh trực tiếp trên ảnh; phần trước đó được khen, phần sau gợi ý sửa — không chấm toàn bộ bài.
Trợ lý lập trình trong IDE: mỗi khi chạy test thất bại, hệ thống soi từng bước suy luận của lập trình viên (qua lịch sử prompt/chat) để chỉ ra quyết định thiết kế đầu tiên dẫn tới lỗi, thay vì chỉ báo test đỏ.
Hệ thống chấm thi tự luận tự động quy mô lớn: thay vì chấm điểm tổng, API trả về vị trí câu sai đầu tiên kèm lời phê, giảm chi phí chấm xuống chỉ một lượt duyệt cho mỗi bài.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.02817
ArXiv Abstract	https://arxiv.org/abs/2609.02817
PDF Download	https://arxiv.org/pdf/2609.02817.pdf
Github Repository	N/A

16. Influence-Directed Distillation: Solving the Diversity Bottleneck in Sampled-Token On-Policy Distillation (15 votes)

Tác giả: Run Yang, Runpeng Dai, Jie Sun, Jielei Zhang, Fan Zhou, et al.

Xuất bản lúc: 2026-08-30

Tag: On-Policy Distillation, Knowledge Distillation, Large Language Models, Entropy Regularization, Reasoning Models, Sampled-Token Training

I. Main Problem:

Kỹ thuật sampled-token on-policy distillation giúp mô hình học sinh học từ chính các đoạn văn bản nó tự sinh ra, chỉ cần hỏi xác suất của từng token đã được chọn từ mô hình giáo viên, nên rẻ hơn nhiều so với việc dùng toàn bộ phân phối từ vựng. Tuy nhiên, nó thường gặp diversity distillation failure: học sinh cải thiện pass@1 nhưng pass@k ngừng tăng, tức biết làm đúng một cách chính xác hơn nhưng mất khả năng tạo nhiều lời giải hoặc nhiều hướng suy luận khác nhau như giáo viên.

Nguyên nhân cốt lõi là một số bước cập nhật làm entropy của chính sách bị co lại, khiến mô hình ngày càng tự tin vào một vài lựa chọn và bỏ qua các phương án khác. Các cách bảo vệ đa dạng hiện có phải đánh đổi giữa độ chính xác và chi phí: một nhóm dùng thêm thông tin giáo viên nhưng cần phân phối top-K hoặc Forward-KL đắt đỏ; nhóm còn lại chỉ tăng entropy chung chung trên phía học sinh nên can thiệp quá thô.

II. Main Idea:

Bài báo đề xuất First-Order Local Entropy Influence, ký hiệu I_H(y) = A_y D_y, để dự đoán một bước học sẽ làm entropy tăng hay giảm. Trong đó:

A_y là khoảng cách log-probability giữa giáo viên và học sinh tại token đã chọn
D_y là cấu trúc xác suất cục bộ của chính học sinh, có thể tính từ logits đã có sẵn

Từ đó, phương pháp Influence-Directed Adaptive On-Policy Distillation (IDA-OPD) chỉnh sửa rất có chọn lọc:

Giữ nguyên các cập nhật làm entropy mở rộng
Với các cập nhật làm entropy co lại, thu nhỏ độ lớn hiệu chỉnh theo mức độ giáo viên và học sinh còn bất đồng
Nếu hai mô hình gần như đồng ý, bước cập nhật gần như bị triệt tiêu vì ít mang thông tin mới; nếu bất đồng mạnh, tín hiệu giáo viên được giữ lại

Điểm then chốt là phần mất entropy lớn nhất không nằm ở những token giáo viên và học sinh tranh luận kịch liệt, mà nằm ở vùng gần đồng thuận với số lượng token rất lớn, mỗi token chỉ rút một chút entropy nhưng cộng lại thành tổn thất chính.

Ví dụ đời thường: giống như huấn luyện một nhân viên mới không phải cứ thấy sai là la toàn bộ, mà chỉ nhắc mạnh ở những chỉnh sửa thực sự quan trọng; còn những thao tác nhân viên đã gần như làm đúng thì chỉ gõ nhẹ, tránh làm người học cứng nhắc và mất cách thử các phương án khác.

III. Main Results:

Trên toán học với Qwen3-8B và Qwen3-4B, IDA-OPD đạt pass@16 cao nhất trên AIME 2024, AIME 2025, HMMT Feb và HMMT Nov ở cả hai quy mô.
So với OPD tiêu chuẩn, các mức cải thiện pass@16 đáng kể, ví dụ +8.3 trên HMMT Feb và +4.6 trên AIME 2024 ở mô hình 4B; ở mô hình 8B có các mức +7.2, +4.2, +6.0.
IDA-OPD có thể đạt hoặc vượt pass@16 của giáo viên ở một số benchmark, trong khi pass@1 nhìn chung vẫn được duy trì hoặc cải thiện so với OPD.
So với các phương pháp cùng ngân sách sampled-token, IDA-OPD cải thiện rõ pass@k; so với các phương pháp dùng thông tin giáo viên mạnh hơn, nó ngang hoặc tốt hơn dù không cần phân phối top-K đầy đủ.
Trên code với MBPP+ và LiveCodeBench, IDA-OPD cải thiện cả pass@1 và pass@16 so với OPD.
Ablation cho thấy cả cổng chọn theo dấu I_H(y) và cơ chế thu nhỏ theo mức bất đồng đều cần thiết; dùng dấu của A_y làm cổng kém hơn rõ rệt.
Phân tích entropy cho thấy OPD dồn quá nhiều xác suất vào vùng entropy cực thấp, còn IDA-OPD giữ phân phối gần giáo viên hơn.
Chi phí truyền tin gần như OPD: chỉ một giá trị vô hướng mỗi vị trí, thay vì phải chuyển một danh sách xác suất lớn từ giáo viên.

IV. Conclusion & Future Works:

Bài báo chứng minh rằng thất bại trong học tính đa dạng của sampled-token on-policy distillation có thể được truy ngược về từng bước cập nhật làm entropy co lại. Thay vì tăng entropy chung chung hoặc nhập lại phân phối đắt đỏ của giáo viên, IDA-OPD dùng một tín hiệu rẻ, không cần truy vấn thêm giáo viên, để chọn đúng bước cần can thiệp và điều chỉnh cường độ theo giá trị học tập của bước đó.

Hướng mở rộng hợp lý:

Kiểm tra cơ chế trên các mô hình lớn hơn, bộ tokenizer khác nhau và tác vụ đa lượt
Kết hợp tín hiệu entropy cục bộ với lịch sử rollout hoặc reward để quyết định khi nào nên khám phá, khi nào nên bắt chước
Tối ưu trọng số thu nhỏ theo domain, độ dài suy luận hoặc ngân sách tính toán
Nghiên cứu phiên bản song song hóa tốt hơn cho huấn luyện quy mô lớn và triển khai trên thiết bị biên

V. Brainstorming Space:

1. Publish Papers:

Mở rộng Influence-Directed Distillation cho các tác vụ tác nhân đa lượt, nơi mô hình vừa cần học cách hành động vừa cần duy trì nhiều chiến lược khám phá khi tương tác với môi trường.
Kết hợp entropy influence với reward hoặc ước lượng độ khó của token để tạo ra một bộ điều khiển thích ứng, tự quyết định bước học nào nên giữ, thu nhỏ hoặc loại bỏ trong on-policy distillation.
Nghiên cứu biến thể cross-tokenizer và on-device, trong đó học sinh và giáo viên có bộ mã hóa từ khác nhau nhưng vẫn có thể truyền tín hiệu rẻ và bảo toàn đa dạng.
Phát triển chiến lược tự động chọn hệ số thu nhỏ dựa trên entropy toàn cục, độ lệch giáo viên-học sinh và giai đoạn huấn luyện, thay vì dùng một hàm cố định.

2. Patent:

Hệ thống cá nhân hóa học tập trên điện thoại: một mô hình nhỏ chạy trên máy học từ mô hình lớn trên đám mây; khi hai mô hình gần đồng ý ở một câu trả lời, hệ thống giảm can thiệp để tránh làm mô hình nhỏ cứng nhắc, còn khi chúng bất đồng mạnh thì tăng tín hiệu chỉnh sửa từ mô hình lớn.
Trợ lý lập trình trên điện thoại có chế độ tạo nhiều phương án: thay vì chỉ tối ưu một cách trả lời duy nhất, ứng dụng điều chỉnh mức học theo mức độ bất đồng giữa mô hình giáo viên và mô hình thiết bị để giữ nhiều cách viết code hơn cho cùng một yêu cầu.
Module chống trả lời đơn điệu cho chatbot di động: hệ thống theo dõi các bước huấn luyện có làm phân phối ngôn ngữ bị thu hẹp quá mức hay không, rồi tự động hạ trọng số những hiệu chỉnh ít giá trị để chatbot vẫn đưa ra được nhiều cách diễn đạt hoặc nhiều hướng suy luận khác nhau.
Bộ tinh chỉnh mô hình trên thiết bị cho ứng dụng soạn thảo: khi mô hình nhỏ cập nhật từ phản hồi của mô hình lớn, chỉ những khác biệt có ý nghĩa mới được giữ lại ở cường độ cao, giúp tiết kiệm băng thông và giảm hiện tượng mô hình ngày càng trả lời giống một khuôn mẫu cố định.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2608.29846
ArXiv Abstract	https://arxiv.org/abs/2608.29846
PDF Download	https://arxiv.org/pdf/2608.29846.pdf
Github Repository	N/A

17. VibeVoice-ASR-Streaming Technical Report (10 votes)

Tác giả: Yujie Tu, Zhiliang Peng, Jianwei Yu, Li Dong, Songchen Xu, et al.

Xuất bản lúc: 2026-09-02

Tag: Streaming ASR, Speaker Diarization, LLMs, Speech Recognition, Multi-speaker Speech, Autoregressive Generation, Open Source

I. Main Problem:

Các hệ thống nhận diện giọng nói có gán người nói truyền thống tách ASR và speaker diarization thành hai khối riêng, trong khi các mô hình LLM end-to-end mới như VibeVoice-ASR dù thống nhất hai tác vụ vẫn chủ yếu offline: phải đọc toàn bộ ghi âm mới xuất kết quả. Điều này không đáp ứng được yêu cầu độ trễ thấp của trợ lý giọng nói hay agent hội thoại thời gian thực.

Thách thức cốt lõi của streaming speaker-attributed ASR là: người nói xuất hiện trong chunk hiện tại có thể đã xuất hiện từ nhiều phút trước, nên lịch sử giữ lại không chỉ giúp dự đoán từ vựng mà còn khóa danh tính người nói. Nếu xóa lịch sử, hệ thống phải thêm kho embedding, speaker cache hoặc clustering offline — tức tái giới thiệu một giai đoạn riêng mà mô hình end-to-end muốn loại bỏ.

II. Main Idea:

VibeVoice-ASR-Streaming mở rộng VibeVoice-ASR sang dạng streaming bằng cách đưa audio và text vào một chuỗi autoregressive xen kẽ: [audio chunk X1, transcript có nhãn người nói Y1, audio chunk X2, transcript Y2, ...]. Mỗi chunk cố định kích thước — cấu hình phát hành dùng 22 latent frame tương ứng 2.9 giây audio, hoặc 15 frame tương ứng 2.0 giây — và luôn đọc thêm 4 frame nhìn trước khoảng 0.5 giây trước khi sinh text.

Kiến trúc giữ nguyên hai tokenizer của VibeVoice: Acoustic tokenizer giữ chi tiết phổ và Semantic tokenizer giữ nội dung ngôn ngữ, rồi chiếu vào backbone Qwen2.5. Khác với giải mã từng chunk độc lập, mọi chunk audio và transcript trước đó vẫn nằm trong context, nên model tạo “who said what” ngay khi lời nói đến mà không cần stage diarization riêng. Nhãn người nói đặt ở đầu segment, gán theo thứ tự xuất hiện và tái sử dụng khi nhận ra lại.

Quy trình huấn luyện gồm 3 giai đoạn: non-streaming training để học nhận diện đa người nói; streaming pre-training trên khoảng 420,000 giờ Anh/Trung để làm quen dạng interleaved; streaming fine-tuning trên khoảng 13,000 giờ dữ liệu chọn lọc cộng thêm 4,519.6 giờ hội thoại đa người tổng hợp, được chồng giọng và xử lý vang phòng.

Ví dụ đời thường: giống thư ký nghe hội thoại qua tai nghe: cứ nghe một đoạn ngắn, lướt thêm nửa giây để khỏi bẻ gãy câu, rồi ghi ngay “ai vừa nói gì”, đồng thời vẫn nhớ toàn bộ cuộc trò chuyện trước đó để không đổi tên người nói.

III. Main Results:

Recognition-only ASR: mô hình 7B đạt mean WER/CER thấp nhất trên năm benchmark: 24.66, so với Gemini 3.5 Transcribe Live 25.23, GPT Realtime Whisper 39.31, GPT Live Transcribe 40.55 và ElevenLabs Scribe v2 Realtime 41.39.
Speaker-attributed ASR: với độ trễ speaker-attribution kỳ vọng 2.00 giây, bản 7B 22-frame đạt best hoặc tied-best cpWER/cpCER trên 12/13 thiết lập; cải thiện so với Azure ConversationTranscriber khoảng 2.39–12.45 điểm trên bốn benchmark meeting và từ 27.06 xuống 22.75 trên MLC-Challenge average.
So với dịch vụ cloud: Azure CT có latency đo được 8.21 s, Google STT 9.12 s ở nhãn đầu phát và vẫn chỉnh nhãn sau hàng chục giây; VibeVoice-ASR-Streaming cam kết sớm hơn nhiều.
Giá phải trả khi chuyển sang streaming: so với checkpoint non-streaming cùng scale, WER/CER tăng 0.75–3.53, cpWER/cpCER tăng 5.13–6.67, cho thấy speaker attribution chịu tổn thất lớn hơn recognition.
Ablation quan trọng: chunk dài hơn và backbone lớn hơn cải thiện mạnh hơn ở speaker attribution; nhãn đầu segment và cuối segment xấp xỉ tương đương; lookahead tăng từ 0 lên 4 frame cải thiện nghiêm ngặt cả hai metric; real-time factor khi serving 7B 15-frame chỉ khoảng 0.073–0.104.
Mô hình cũng nhận diện đơn giọng khá cạnh tranh dù không tối ưu cho short-form audio: bản 22-frame đứng thứ hai trên AISHELL-1 và cả hai LibriSpeech split, mean bốn set ngang hệ mạnh nhất.

IV. Conclusion & Future Works:

VibeVoice-ASR-Streaming cho thấy một LLM end-to-end có thể vừa streaming vừa gán người nói trong một pass duy nhất, thay vì ghép recognizer với một module diarization riêng. Điểm mấu chốt là giữ toàn bộ lịch sử speech-text trong context để danh tính người nói không bị đứt quãng, đồng thời dùng chunk cố định và lookahead ngắn để kiểm soát độ trễ.

Hạn chế hiện tại: phạm vi ngôn ngữ bị giới hạn bởi forced aligner, mới hỗ trợ khoảng mười ngôn ngữ; hiệu suất giảm khi nhiều người nói chồng lấp kéo dài vì decoder phải tuần tự hóa overlap thành một luồng; checkpoint phát hành xử lý tới khoảng tám phút; latency 2.00 s là steady-state, còn first-packet latency là 3.5 s với 22 frame và 2.5 s với 15 frame.

Hướng tương lai: mở rộng đa ngôn ngữ vượt khả năng aligner, xử lý overlap dài bằng biểu diễn separation-aware hoặc multi-stream decoding, kéo dài recording bằng cách giảm chi phí context, và rút ngắn first-packet latency mà không đánh đổi độ chính xác của chunk lớn.

V. Brainstorming Space:

1. Publish Papers:

Phát triển biến thể streaming speaker-attributed ASR đa luồng để xử lý overlap kéo dài, thay vì bắt decoder tuần tự hóa toàn bộ lời nói chồng lấp vào một chuỗi duy nhất.
Nghiên cứu cơ chế nén hoặc tóm tắt lịch sử hội thoại trong context window để mở rộng thời lượng ghi âm vượt quá tám phút mà vẫn giữ danh tính người nói ổn định.
Tối ưu hóa giai đoạn khởi động streaming bằng chiến lược adaptive chunking: chunk nhỏ hơn ở đầu phiên để giảm first-packet latency, sau đó tăng chunk khi đã có đủ bối cảnh người nói.
Mở rộng huấn luyện cho ngôn ngữ thiếu forced aligner bằng cách thay aligner từ vựng bằng nhãn thời gian yếu hoặc tự giám sát từ chính mô hình speech-text.

2. Patent:

Ứng dụng ghi biên bản cuộc họp trên điện thoại: đặt điện thoại giữa phòng, app nghe liên tục và ghi ngay “ai nói câu gì” với độ trễ khoảng hai giây, hữu ích cho họp trực tiếp, phỏng vấn hoặc ghi chú bệnh án thời gian thực.
Trợ lý ảo đa người dùng trong xe hơi hoặc nhà thông minh: hệ thống nhận diện giọng nói phân biệt người nói khi họ vừa cất lời, để điều hướng yêu cầu theo đúng người ra lệnh mà không cần nút bấm hay xác thực riêng.
Dịch hội thoại trực tiếp cho điện thoại: người dùng để điện thoại trước mặt nhóm nói chuyện, ứng dụng vừa chuyển văn bản vừa giữ nhãn người nói liên tục, rồi hiển thị lời dịch theo từng người trên màn hình.
Hệ thống chú thích cuộc gọi chăm sóc khách hàng: mỗi câu khách và nhân viên nói được gán nhãn ngay lập tức, giúp phân tích cảm xúc theo người, phát hiện chen ngang, và lưu hồ sơ cuộc gọi có cấu trúc.
Bút ghi âm thông minh cho phòng họp nhỏ: thiết bị gửi audio theo từng đoạn ngắn lên mô hình streaming, xuất transcript có phân biệt người nói trước khi cuộc họp kết thúc, đồng thời hỗ trợ hotword và thuật ngữ riêng được nhập trước.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.02812
ArXiv Abstract	https://arxiv.org/abs/2609.02812
PDF Download	https://arxiv.org/pdf/2609.02812.pdf
Github Repository	N/A

📰 Summary of Papers​

1. Repo-To-Skill: Distilling GitHub Repositories Into AI4AI Skills (499 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

2. HarnessDev: Can LLMs Create and Evolve Their Own Agent Harness? (226 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

3. Aspire: Can Models Self-Evolve from Vague Goals? (205 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

4. SolarWM: Open Data and Scalable Training for Long-Horizon Video World Models (133 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

5. EarlyEval: Cheaper Agent Evaluation via Early Outcome Prediction (111 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

6. It Takes Two to Match: Co-Evolving Generative Retriever with Reinforcement Learning (66 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

7. Language Models Can Control Their Own Attention (54 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

8. On the Design Fundamentals of Pixel Text Representation Learning (30 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

9. S3Gym: Can LLMs Turn Self-Testing and Self-Judging into Self-Improvement? (27 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

📰 Summary of Papers

1. Repo-To-Skill: Distilling GitHub Repositories Into AI4AI Skills (499 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

2. HarnessDev: Can LLMs Create and Evolve Their Own Agent Harness? (226 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

3. Aspire: Can Models Self-Evolve from Vague Goals? (205 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

4. SolarWM: Open Data and Scalable Training for Long-Horizon Video World Models (133 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

5. EarlyEval: Cheaper Agent Evaluation via Early Outcome Prediction (111 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

6. It Takes Two to Match: Co-Evolving Generative Retriever with Reinforcement Learning (66 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

7. Language Models Can Control Their Own Attention (54 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

8. On the Design Fundamentals of Pixel Text Representation Learning (30 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

9. S3Gym: Can LLMs Turn Self-Testing and Self-Judging into Self-Improvement? (27 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers: