Chuyển tới nội dung chính

🤗 Daily Hugging Face Paper Digest - 2026-10-19

Báo cáo được tạo tự động vào lúc 2026-10-20 10:37:33 bằng mô hình hermes-agent.

📰 Summary of Papers​

1. HexaShell: A Thin Harness for Exploring the Limits of VLM Agents as Robot Coding Agents (286 votes)​

Tác giả: Hongcheng Gao, Alex Zhou, Jay Zhu, Zelin Zheng, Shijia Ge, et al.

Xuất bản lúc: 2026-10-16

Tag: VLM Agents, Coding Agents, Robot Manipulation, Triangulation, Tool Learning, RoboDojo, Active Perception, Embodied AI

I. Main Problem:​

Các tác nhân lập trình (coding agent) giỏi sửa lỗi code nhưng chưa ai biết chúng đi được bao xa khi điều khiển robot vật lý. Khó khăn cốt lõi:

  • Trong repo phần mềm, mọi thứ là text đọc chính xác; còn robot chỉ thấy pixel RGB, nhưng mọi lệnh đều cần tọa độ 3D chính xác ~1 cm để gắp vật.
  • Quan sát chuẩn không có depth; mạng depth đơn mắt (Depth Anything V2) lệch trung vị 41 mm ở camera đầu và ~100 mm ở camera cổ tay — quá sai cho thao tác chính xác.
  • Benchmark có giới hạn bước hành động, nên việc di chuyển camera để đo thêm phải trả giá bằng bước thực thi.

II. Main Idea:​

HexaShell giữ harness mỏng: chỉ một lệnh robo biến lệnh của tác nhân thành chuyển động khớp, không chứa bất kỳ logic tác vụ nào. Vòng lặp gồm:

  • Acting agent (Codex + GPT-6-Astra): thấy 3 ảnh RGB đã hiệu chuẩn, điều khiển robot hai tay qua command line.
  • Optimizer agent (cùng model): sau mỗi lần thất bại, đọc log như đọc test fail, chẩn đoán nguyên nhân và viết/sửa các tool nhỏ (kèm unit test); tool được giữ lại và tái dùng xuyên suốt các episode.
  • Đo 3D bằng hình học tam giác (triangulation) thay vì depth network: điểm hai camera cùng thấy nằm ở chỗ hai tia gặp nhau; điểm trên mặt phẳng đã biết (bàn, mặt trên khối) nằm ở chỗ tia cắt mặt phẳng đó. Khi camera đầu không đủ, robot chủ động di chuyển camera cổ tay để lấy góc nhìn thứ hai — trả giá bằng bước hành động.

Ví dụ đời thường: giống thợ mộc mới vào nghề không đo bằng thước điện tử, mà dùng hai mắt nhìn chéo để định vị điểm khoan — thấy vị trí sai thì chống cằm lại nhìn kỹ hơn (di chuyển đầu/camera) rồi mới đánh dấu, và ghi công thác đo đó vào sổ tay để lần sau dùng lại.

III. Main Results:​

  • State of the art mới trên RoboDojo: 39.7% success và progress score 48.0, vượt VPP2 (32.3%/39.3), PhysicalRSI (31.4%/36.3) và cùng model không dùng tool (22.5% → +17.2 điểm phần trăm).
  • Tool được xây trên 10 layout rồi đóng băng và kiểm thử trên 10 layout mới — không gian lận bằng layout huấn luyện.
  • Triangulation hơn depth network 8.7 điểm trên cùng harness, loop và model; thắng 57 layout, thua 23 (p < 0.001).
  • Giới hạn nằm ở tiếp xúc, không phải suy luận: pushing 92.5%, memory 65.0%, nhưng tight insertion chỉ 8.3%; vải/deformable yếu vì tool cố định một cách diễn giải trong khi tác vụ cần chỉnh liên tục.
  • Chống nhiễu tốt: giữ 95% success khi scene thêm 13–18 vật gây nhiễu (các policy học chỉ giữ trung vị 18%).
  • Chi phí góc nhìn thứ hai: 3.6% tổng bước thực thi, 43% episode có ít nhất một lần di chuyển camera nhìn — và trên các layout đó triangulation thắng 39–22.

IV. Conclusion & Future Works:​

Bài báo vẽ bản đồ giới hạn hiện tại của tác nhân VLM trong thế giới vật lý: thành công theo mức độ tiếp xúc vật lý mà tác vụ đòi hỏi, không theo khả năng đọc hay ghi nhớ. Các tool đo hình học nâng mạnh nhất các tác vụ quyết định bởi hình học đo được (pushing, rigid, memory); tight insertion và đổ chất lỏng là điểm gãy vì cần độ chính xác vài mm mà camera xa không đo được và depth render vẫn hơn RGB tới 10.6 điểm. Chế độ thất bại cũng phân biệt được: khai báo thành công bị checker bác = lỗi tri giác; cạn ngân sách bước = lỗi thực thi. Hướng tương lai: cải thiện đo lường không-depth cho tác vụ chính xác cao, xử lý vật liệu biến dạng, và kết hợp điểm mạnh tiếp xúc của policy học với khả năng lập trình đo lường của coding agent.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Kết hợp coding agent viết tool đo hình học với policy học chuyên về tiếp xúc: phần đo đạc và lập kế hoạch do VLM đảm nhiệm, phần chèn/ép chặt do policy có cảm biến lực thực thi, nhắm vượt cả hai giới hạn hiện tại.
  2. Nghiên cứu active perception có ngân sách: thuật toán chọn góc nhìn bổ sung tối ưu thông tin thu được trên mỗi bước camera di chuyển, áp dụng cho robot không có cảm biến depth.
  3. Mở rộng vòng lặp tự viết tool cho robot thật ngoài mô phỏng: đánh giá độ tin cậy của triangulation dưới sai lệch hiệu chuẩn camera thực và rung động cơ khí.
  4. Cơ chế sửa lỗi tức thời cho vật liệu biến dạng: thay tool cố định một chuyển động bằng tool có vòng phản hồi từng bước để phát hiện và chỉnh lệch như agent không dùng tool hiện làm được.

2. Patent:​

  1. Hệ thống điều khiển robot bằng giọng nói trên điện thoại: người dùng nói 'gắp quả táo bỏ vào tô', một tác nhân AI trên đám mây dùng camera điện thoại hoặc camera robot đã hiệu chuẩn, tự đo vị trí vật bằng cách ghép hai góc nhìn, tự viết chương trình điều khiển — và khi thất bại tự sửa code rồi thử lại, không cần lập trình viên.
  2. Robot gia đình tự học nghề qua dùng thử: sau mỗi lần làm hỏng một tác vụ (như xếp chén), robot ghi lại nguyên nhân và lưu một đoạn chương trình đo đạc riêng vào thư viện nội bộ; dần dần nó càng làm tốt hơn trong chính căn nhà đó mà không cần gửi dữ liệu về nhà sản xuất.
  3. Cánh tay robot tự vươn camera cổ tay để 'nhìn kỹ' vật cần thao tác chính xác: khi phải tra chìa vào ổ khóa hay cắm phích điện, robot tự di chuyển camera xuống gần để chụp hai góc, tính vị trí lỗ đến từng milimet rồi mới đẩy vào.
  4. Hệ thống kiểm tra kết quả tự động cho robot kho: sau khi xếp hàng xong, robot so sánh trạng thái cuối với yêu cầu đơn hàng; nếu chưa đúng, tự chẩn đoán xem lỗi do nhìn nhầm hay do chuyển động sai và gửi báo cáo phân loại lỗi cho người quản lý.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.23479
ArXiv Abstracthttps://arxiv.org/abs/2610.23479
PDF Downloadhttps://arxiv.org/pdf/2610.23479.pdf
Github Repositoryhttps://github.com/HexaFuture/HexaShell

2. Has GPT-6-Astra Achieved Embodied Intelligence? (247 votes)​

Tác giả: SenseNova, Joint Research Team, Zhongang Cai, Ziang Cao, Tailai Chen, et al.

Xuất bản lúc: 2026-10-15

Tag: Embodied Intelligence, Robotics, LLM Agents, In-Context Learning, Vision-Language-Action, Benchmarking, Humanoid Robots, Dexterous Manipulation, Navigation

I. Main Problem:​

Trước GPT-6-Astra, embodied intelligence chủ yếu đi theo mô hình mô hình chuyên biệt cho từng tác vụ/thân robot. Bài báo hỏi: một mô hình đa năng đã đạt tới ngưỡng trí tuệ embodied chưa, và lĩnh vực cần ưu tiên gì tiếp theo?

  • Cần đo giới hạn năng lực thật thay vì chỉ so SOTA từng benchmark.
  • Cần hiểu harness điều khiển: đại diện hành động, cách chia bước, phối hợp lý luận cao và điều khiển thấp.
  • Cần kiểm chứng trên robot thật, nơi không thể lấy thêm bước thử đổi lấy tỉ lệ thành công như trong mô phỏng.
  • Cần thiết kế lại benchmark để phản ánh nhu cầu thật: không demo trong-domain, thế giới vẫn chạy trong khi agent suy nghĩ.

II. Main Idea:​

Bài báo đẩy GPT-6-Astra tới giới hạn bằng một protocol chung, trọng số cố định gồm hai đòn bẩy:

  • In-context learning: trước test, mô hình đọc demonstration của tập huấn luyện và viết knowledge package bị đóng băng, gồm hướng dẫn tác vụ, motion/visual references, helper code kiểm tra forward/inverse kinematics, tiêu chí hoàn thành và recovery procedures. Khi test, mô hình retrieve-adapt-check từ gói này.
  • Extended interaction budget: tăng giới hạn bước lên tới 10×, để agent phát hiện lỗi, đổi chiến lược và recover trong cùng episode.

Ngoài ra, họ ablate System 2/System 1 harness: System 2 là GPT-6-Astra lý luận và rà soát, System 1 là VLA/controller thực thi; closed-loop review hiệu quả hơn open-loop nhưng rất tốn token. Cuối cùng, họ đề xuất benchmark mới lấy nhiệm vụ từ nhu cầu con người, không cung cấp demo in-domain, và có world clock chạy trong lúc agent cân nhắc.

Ví dụ đời thường: giống một quản lý giàu kinh nghiệm ngồi cạnh thợ máy lành nghề: quản lý đọc sổ tay công việc, xem từng động tác đề xuất rồi gật/sửa/từ chối trước khi thợ thực hiện; làm vậy ít sai hơn hẳn nhưng chậm và đắt, nên tốt nhất là gửi từng cụm việc đủ dài, đủ rõ, còn phần chỉnh tay chân chính xác để thợ lo.

III. Main Results:​

  • Trên 12 benchmark manipulation/navigation/humanoid/dexterous, ở budget chuẩn, GPT-6-Astra + ICL đã ngang hoặc vượt SOTA/agentic SOTA hầu hết mọi nơi; LIBERO/SIMPLE gần bão hòa, DexJoCo đạt khoảng 87.3%.
  • Khi tăng budget tới 10×, RoboDojo tăng mạnh lên khoảng 81.9% nhờ recover lặp, Bench2Dex tăng gấp hơn hai lần nhưng vẫn thấp, còn LHPR-VLN chỉ cải thiện nhẹ vì khó ở theo dõi subgoal dài hạn.
  • Giá phải trả rất cao: LIBERO-Long++ khoảng 1M token và gần 1 giờ/episode; LIBERO-Ultra-Long khoảng 9M token và gần 2 giờ; RoboDojo extended có episode trung bình hơn 3 giờ.
  • Harness: VLA đơn lẻ rất yếu; closed-loop System 2 review nâng mạnh success nhưng tốn token; review theo chuỗi dài hơn giảm cost đáng kể. ICL + closed-loop VLA đạt kết quả tốt nhất trong ablation nhưng token cao gấp nhiều lần.
  • Action interface: điều khiển joint-angle trực tiếp kém nhất; lệnh theo hướng/end-effector có ngữ nghĩa hơn; adaptive action chunking cân bằng performance và số lần gọi mô hình.
  • Robot thật trên 8 cấu hình: hoạt động được qua nhiều thân robot, mạnh ở tabletop grasping, yếu ở deformable object, precise contact và long-horizon; có khả năng chủ động chỉnh camera để lấy quan sát; có thể hợp tác với controller tần số cao cho humanoid.
  • Benchmark prototype lộ rõ lỗi: agent mất dấu thay đổi phụ như tủ lạnh còn mở, không tự biết cách vận hành cơ cấu lạ khi thiếu demo, và quan sát có thể lỗi thời vì thế giới tiếp tục thay đổi trong lúc suy nghĩ.

IV. Conclusion & Future Works:​

Kết luận trung tâm: GPT-6-Astra largely crossed the threshold of embodied competence, nhưng not yet practical embodied intelligence. Điểm nghẽn không còn là chỉ giải được nhiều benchmark hơn, mà là biến thành công benchmark thành triển khai thật tin cậy, hiệu quả, scalable.

Ưu tiên tương lai:

  • nâng generality của in-context learning để knowledge package vượt ra ngoài task có demo
  • giảm cost, latency, execution time
  • xây physical-state verification kiểm tra contact/support/alignment thật thay vì tin hình ảnh “trông giống xong”
  • xử lý irreversible failures và prerequisite dependencies
  • duy trì long-horizon progress preservation
  • benchmark mới theo nhu cầu người dùng, không demo in-domain, đánh giá cả thời gian suy nghĩ và hậu quả vật lý của nó

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phương pháp xây knowledge package embodied generalizable hơn: tự thu thập kinh nghiệm trong deployment, tái sử dụng motion/visual helpers qua task và robot khác nhau.
  2. Cơ chế selective verification/recovery cho System 2–System 1: chỉ rà soát khi rủi ro vật lý, contact, hoặc prerequisite cao, thay vì giám sát mọi bước.
  3. Benchmark embodied world-clock cho robot gia đình: nhiệm vụ từ nhu cầu thật, không demo in-domain, agent phải chịu hậu quả khi môi trường đổi trong lúc reasoning.
  4. Kiến trúc ghi nhớ tiến độ dài hạn cho embodied agent: theo dõi subgoal đã xong, điều kiện còn mở, và thay đổi phụ gây ra trong môi trường.
  5. Chiến lược action chunking thích ứng theo uncertainty và cost: tự chọn gửi một bước hay một cụm bước cho controller cấp thấp.

2. Patent:​

  1. Ứng dụng điện thoại điều khiển robot gia đình: người dùng quay vài lần thực hiện hoặc chọn video demo; điện thoại/đám mây đóng gói thành sổ tay tác vụ có hình ảnh, quỹ đạo, mã kiểm tra và cách sửa lỗi, robot dùng để làm việc mà không cần huấn luyện lại.
  2. Lớp an toàn vật lý cho robot dùng mô hình ngôn ngữ lớn: trước khi báo thành công, hệ thống kiểm tra lại bằng camera, lực/tiếp xúc và vị trí đối tượng để phát hiện trạng thái “nhìn giống xong nhưng chưa đạt điều kiện” như móc chưa vào, nắp chưa đậy, đồ vật chưa đứng vững.
  3. Hệ phối hợp điều khiển tiết kiệm chi phí: bộ não phần mềm phân tích theo cụm hành động dài hơn khi tình huống ổn định, chỉ xem từng bước khi rủi ro cao, giúp robot an toàn hơn mà giảm số lần gọi mô hình đắt tiền.
  4. Module tự học tác vụ mới cho cánh tay robot/phụ kiện thay đổi: robot chạy vài động tác thăm dò ngắn, ghi lại quan sát, rồi cập nhật cách hiểu không gian làm việc và cách sửa lỗi ngay trong phiên làm việc.
  5. Đồng hồ thế giới đánh giá robot thông minh: benchmark hoặc hệ thử nghiệm cho môi trường tiếp tục vận hành trong lúc robot suy nghĩ, buộc agent tối ưu cả chất lượng quyết định lẫn thời gian cân nhắc.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.22471
ArXiv Abstracthttps://arxiv.org/abs/2610.22471
PDF Downloadhttps://arxiv.org/pdf/2610.22471.pdf
Github Repositoryhttps://github.com/OpenSenseNova/SenseNova-RoboRSI

3. BizBench: Unveiling Hidden Challenges in Deploying Long-Horizon Agents for Real-World Business (176 votes)​

Tác giả: Enhan Zhao, Yongqi Tong, Xuejun Yu, Hang Wang, Pan Wang, et al.

Xuất bản lúc: 2026-10-14

Tag: Long-Horizon Agents, LLM Agents, Benchmark Evaluation, Tool Use, Business Workflows, Payment Systems, Agent Evaluation

I. Main Problem:​

Các benchmark agent long-horizon hiện tại chỉ đo thành công cuối cùng (final task success), bỏ qua tính hợp lệ của các bước trung gian. Trong vận hành kinh doanh thật — đặc biệt lĩnh vực thanh toán rủi ro cao — đây là lỗ hổng nghiêm trọng:

  • Vi phạm trung gian (chuyển tiền chưa được duyệt, phá ngưỡng dự trữ tiền mặt) vẫn là vi phạm tuân thủ dù kết quả cuối có đúng — ví dụ thanh toán trái phép vẫn sai dù sau đó hoàn tiền.
  • Quy tắc nghiệp vụ phân tán, lỗi thời, mâu thuẫn giữa nhiều tài liệu do các team khác nhau duy trì; agent phải xác định quy tắc nào đang hiệu lực và áp dụng được cho ngữ cảnh cụ thể, chứ không chỉ truy xuất thông tin.
  • Tác vụ có phụ thuộc thời gian, ràng buộc tài nguyên chia sẻ, cam kết từ các bước trước — chờ đợi thông tin có thể làm mất cửa sổ thực thi.

II. Main Idea:​

BizAgentBench: benchmark multi-turn xây từ quy trình thật của một công ty thanh toán hàng đầu, gồm 50 tác vụ, 789 tài liệu tri thức và 601 công cụ nghiệp vụ khám phá được, trong môi trường thực thi có trạng thái nhất quán. Điểm mới cốt lõi:

  • Đánh giá 3 lớp riêng biệt: Goal (G — kết quả yêu cầu), Process (P — ràng buộc trong suốt quá trình, ví dụ phải được duyệt trước khi thực thi, giữ đủ dự trữ ở mọi thời điểm), Protection (F — không tác động lên đối tượng bị cấm). Thành công nghiêm ngặt = G ∧ P ∧ F, kiểm tra deterministic trên lịch sử thực thi, không dùng LLM judge, và chấp nhận nhiều lối giải hợp lệ khác nhau.
  • Mỗi tác vụ được kiểm chứng bằng Golden trace (chạy lại từ trạng thái đầu), cùng các bản thực thi thay thế hợp lệ và các bản vi phạm cố ý để kiểm tra evaluator.
  • Agent tương tác với user simulator để hỏi thông tin khách hàng và xin phê duyệt; thông tin chỉ lộ ra khi agent hỏi đúng.

Ví dụ đời thường: giống như kế toán viên không chỉ cần cuối ngày sổ sách khớp (G), mà từng lần chi tiền phải có giấy phê duyệt trước (P) và không được đụng vào tài khoản bị phong tỏa (F) — cuối ngày cân sổ vẫn không cứu được sai phạm đã chi không phép lúc sáng.

III. Main Results:​

  • Thành công nghiêm ngặt thấp ngay cả với model frontier: Claude Opus 5 đạt 64.0%, GPT-6 Sol 61.3% — và chỉ 40% tác vụ được GPT-6 Sol hoàn thành cả 3 lần chạy (thiếu độ tin cậy).
  • Đánh giá theo kết quả che giấu vi phạm trung gian: Qwen3.8-27B đạt goal 42.0% nhưng strict success chỉ 32.7%; DeepSeek-V4.1-Flash có 4 lần chạy đạt goal và kết thúc trên ngưỡng dự trữ dù đã vi phạm ngưỡng ở bước giữa.
  • Chi phí thực thi lớn: DeepSeek-V4.1-Flash gọi trung bình 191.3 tool calls/lần (gấp ~1.7 lần Golden trace 111.8); Qwen3.5-9B gọi 187.2 lần với hơn một nửa là lỗi (chủ yếu truy cập tài nguyên không công khai) và không lần nào thành công trong 150 runs.
  • Ablation thông tin: cung cấp đúng tài liệu (Gold-doc) chỉ tăng từ 43.3% → 50.0%; tiết lộ đầy đủ thông tin khách hàng tăng lên 70.0% — cho thấy hỏi và giữ đúng ràng buộc từ khách hàng là khó khăn lớn nhất, nhưng vẫn còn 30% tác vụ thất bại do planning.
  • Nhạy ngân sách: giới hạn 2× số tool calls của Golden trace làm strict success rơi từ 43.3% xuống 26.7%; ở 1.2× chỉ còn 0.7%.
  • Kết quả tương đối ổn định khi đổi model user simulator (chênh tối đa 3.3 điểm phần trăm).

IV. Conclusion & Future Works:​

BizAgentBench cho thấy hoàn thành tác vụ, tuân thủ quy trình và tính nhất quán giữa các lần chạy là ba khả năng tách biệt — model giỏi kết quả vẫn vi phạm ràng buộc trung gian. Hành vi dùng tool quá nhiều không đồng nghĩa tiến bộ (nhiều call lặp lại, truy cập sai tài nguyên). Kết quả hướng tới nghiên cứu phối hợp thu thập thông tin và chọn hành động: agent cần biết khi nào đã đủ bằng chứng để hành động, và nghĩa vụ nào phải luôn được giữ trong suốt quá trình thực thi.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Kỹ thuật kiểm soát ngân sách cho agent nghiệp vụ: cân bằng giữa thu thập thông tin và số lần gọi công cụ, cho phép agent biết dừng tìm kiếm khi đủ bằng chứng để thực thi hợp lệ.
  2. Phương pháp xác thực phê duyệt theo ngữ cảnh: agent tự kiểm tra ràng buộc rời rạc (được duyệt chưa, đủ dự trữ không) trước mỗi bước có hậu quả tài chính trong quy trình dài hạn.
  3. Hệ thống quản lý tài liệu quy tắc có phiên bản và phạm vi hiệu lực: tự động xếp hạng độ ưu tiên giữa chính sách mới và cũ để agent áp dụng đúng quy tắc cho từng sự kiện nghiệp vụ.
  4. Cơ chế ghi nhớ cam kết giữa các luồng công việc: agent theo dõi nguồn lực đã cam kết ở tác vụ trước để không phá vỡ nghĩa vụ sau trong môi trường nhiều luồng liên kết.

2. Patent:​

  1. Trợ lý chăm sóc khách hàng ngân hàng trên điện thoại: trước khi thực hiện giao dịch, hệ thống tự kiểm tra lịch sử hội thoại để xác nhận khách hàng đã duyệt đúng khoản tiền và điều khoản đó chưa; nếu chưa thì tự xin xác nhận lại, tránh giao dịch không được ủy quyền.
  2. Ứng dụng quản lý tuân thủ cho doanh nghiệp nhỏ: theo dõi số dư tối thiểu phải duy trì và các khoản bảo đảm còn hiệu lực trong suốt quá trình thanh toán nhiều bước, cảnh báo và chặn ngay bước làm phá ngưỡng dù sau đó sẽ có tiền hoàn về.
  3. Hệ thống tra cứu chính sách thông minh cho nhân viên vận hành: gom các văn bản quy định từ nhiều phòng ban, tự gắn nhãn phạm vi áp dụng (sản phẩm, khu vực, thời hạn hiệu lực) và khi nhân viên hỏi, trả về đúng quy định đang còn hiệu lực thay vì tài liệu cũ đã thay thế.
  4. Trợ lý lập kế hoạch giao dịch đa bước có tính thời gian: nhắc người dùng xử lý trước những việc có hạn chót sắp đóng (đặt chỗ ưu tiên, nộp thuế) vì chờ xác nhận từ bước khác có thể làm mất cửa sổ thực hiện.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.20424
ArXiv Abstracthttps://arxiv.org/abs/2610.20424
PDF Downloadhttps://arxiv.org/pdf/2610.20424.pdf
Github Repositoryhttps://github.com/ant-intl/BizAgentBench

4. Learning to Think and Explore in 3D World (146 votes)​

Tác giả: Yijiang Li, Bingyang Wang, Nuno Vasconcelos

Xuất bản lúc: 2026-10-15

Tag: Vision-Language Models, 3D Reasoning, Reinforcement Learning, Active Exploration, POMDP, GRPO, Spatial Reasoning, Embodied AI

I. Main Problem:​

Các mô hình vision-language 3D hiện tại giả định quan sát đã đầy đủ từ trước: mô hình được đưa sẵn toàn bộ scan RGB-D, ảnh đa góc nhìn, video, hoặc biểu diễn 3D (point cloud, mesh). Nhưng trong thực tế, mô hình chỉ thấy một phần cảnh (partial observability) — vấn đề cốt lõi không chỉ là suy luận trên bằng chứng đang có, mà còn phải quyết định hành động thế nào để thu thập bằng chứng còn thiếu. Câu hỏi của bài: liệu một VLM có thể tự học cách chủ động khám phá và lấy bằng chứng trực quan liên quan đến tác vụ như một phần của quá trình suy luận 3D?

II. Main Idea:​

Diễn tả suy luận 3D như một POMDP tương tác: giữ nguyên cơ chế gốc của VLM (chỉ nhận một ảnh một lần như con người), cảnh 3D đóng vai trò môi trường bên ngoài — mô hình tương tác qua hành động (di chuyển trái/phải/trước/sau, quay) và quan sát (ảnh render theo góc nhìn mới), xuất phát từ một góc nhìn ban đầu + câu hỏi, luân phiên suy luận – di chuyển – quan sát rồi mới trả lời.

Huấn luyện hai giai đoạn:

  • Trajectory-supervised fine-tuning: khởi tạo giao thức tương tác từ 5,712 trajectory do GPT-5.4 tạo (không ép một chiến lược khám phá duy nhất)
  • Reinforcement learning (GRPO) với reward chủ yếu từ đúng/sai câu trả lời — hoàn toàn không giám sát góc nhìn trung gian hay hành động nào; hành vi khám phá tốt chỉ được học qua credit assignment từ hiệu suất tác vụ

Kết quả là mô hình ACT3D tự học được: tìm vật bị che khuất, tránh khám phá thừa khi bằng chứng đã đủ, và thu thập các góc nhìn bổ sung để so sánh không gian.

Ví dụ đời thường: giống người được nhốt trong phòng lạ chỉ nhìn qua một khe cửa — thay vì đòi toàn bộ bản thiết kế ngôi nhà, họ tự bước sang trái, nghiêng người, lùi lại để dò xem vật cần tìm ở đâu, tự rút ra quy tắc nên nhìn chỗ nào chỉ dựa trên việc lần nào nhìn thì trả lời đúng.

III. Main Results:​

  • Độ chính xác trung bình 53.2% trên 6 benchmark 3D, +22.0% so với base model Qwen3.5-9B và +1.0% vượt Gemini 3.6 Flash (cùng ngân sách tương tác).
  • Vượt các phương pháp 3D open-source khác nhưng dùng ít hơn 50–70% số frame đầu vào và độ phân giải thấp hơn.
  • Khái quát hóa ra ngoài miền huấn luyện: +5.9% trung bình so với khởi tạo supervised trên 4 benchmark out-of-distribution (chỉ train trên ScanQA vẫn cải thiện MP3D +6.0%, SQA3D +3.8%).
  • Khám phá thích ứng theo câu hỏi: mức cải thiện tăng từ +0.6% (câu trả lời được từ góc nhìn đầu) lên +16.3% (câu cần khám phá nhiều); RL riêng đóng góp +10.9% ở nhóm khó nhất.
  • RL làm số bước tương tác trung bình tăng từ ~3.3 lên ~8.3 — mô hình càng ngày càng chịu khám phá hơn khi cần.
  • Ablation quan trọng: render ảnh theo góc nhìn yêu cầu thắng rõ rệt (+10.6%) so với lấy ảnh thật gần nhất — tính nhất quán giữa hành động–quan sát quan trọng hơn độ nét hình ảnh; một ảnh khởi tạo đơn (41.0%) ngang 5 ảnh + bản đồ BEV (41.4%).

IV. Conclusion & Future Works:​

RL dựa trên kết quả (outcome-based) cho phép VLM không chỉ suy luận trên bằng chứng trực quan mà còn tự học khi nào và làm thế nào để thu thập bằng chứng đó — khám phá chủ động nổi lên như hành vi tự phát chỉ từ reward cuối cùng. Hướng mở rộng tự nhiên: kiểm chứng trên môi trường vật lý thật thay vì cảnh scan, mở rộng không gian hành động liên tục/phức tạp hơn, và kết hợp kiểm soát camera với thao tác vật thể (embodiment đầy đủ).

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng khung khám phá–suy luận từ QA thụ động sang tác vụ điều hướng–thao tác dài hạn, nơi mô hình phải vừa thu thập bằng chứng vừa lập kế hoạch hành động trong cùng một rollout RL.
  2. Kết hợp cơ chế tưởng thưởng grounding (vật trả lời đã xuất hiện trong tầm nhìn) với reward đa bước cho các tác vụ đòi hỏi so sánh không gian giữa nhiều vật thể.
  3. Nghiên cứu dạng hành động absolute (nhảy thẳng tới tọa độ góc nhìn) khi mô hình có thêm tín hiệu vị trí tuyệt đối, để rút ngắn số bước khám phá trong cảnh lớn.

2. Patent:​

  1. Trợ lý thực tế ảo trên điện thoại cho nhà thông minh: người dùng chụp một ảnh phòng, hỏi 'máy lọc nước để ở đâu'; mô hình trên điện thoại lần lượt mô phỏng các bước quay trái, tiến tới, lùi lại trong bản sao số của ngôi nhà để tìm vật rồi trả lời — không cần quét toàn bộ nhà trước.
  2. Ứng dụng hỏi đáp không gian cho người khiếm thị: camera trên kính đưa một khung hình hiện tại, người dùng hỏi về vật bị che; ứng dụng hướng dẫn quay đầu/ngả người từng bước (giống hành động của mô hình) để thu thập đủ hình ảnh rồi đọc câu trả lời.
  3. Hệ thống đào tạo nhân viên an toàn: mô phỏng nhà máy 3D trong điện thoại, người học phải tự di chuyển góc nhìn để trả lời câu hỏi về vị trí thiết bị thoát hiểm; hệ thống dùng reward đúng/sai để cá nhân hóa lộ trình khám phá của từng người.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.21783
ArXiv Abstracthttps://arxiv.org/abs/2610.21783
PDF Downloadhttps://arxiv.org/pdf/2610.21783.pdf
Github RepositoryN/A

5. LEV: Thinking Fast and Deep with Looped Decision Models (145 votes)​

Tác giả: Dingjie Song, Zhiling Yan, Yuxuan Zhang, Lichao Sun

Xuất bản lúc: 2026-10-14

Tag: Looped Transformers, Adaptive Computation, Decision Models, Early Exit, Efficient Inference, LLMs, System 1.5, Latency Optimization

I. Main Problem:​

Các decision model trả lời câu hỏi trắc nghiệm/đa lựa chọn bằng một forward pass, rất nhanh nhưng chi cùng một lượng tính toán cho mọi câu hỏi: câu dễ bị lãng phí, câu khó không được suy nghĩ thêm. Ngược lại, mô hình sinh văn bản có thể reasoning lâu hơn, nhưng mọi câu đều trả giá bằng token giải mã. Các cách cũ như cascade, early exit theo confidence, hay gắn loop sau khi pretrain đều có vấn đề: cascade phải đọc lại và cần mô hình thứ hai; early exit dễ overconfident trên dữ liệu mới; loop retrofit thường không được dùng vì pretrain không dạy cách dùng nó.

II. Main Idea:​

LEV là decision model dạng System 1.5: nghĩ sâu hơn bằng cách chạy lại cùng một cụm layer theo vòng lặp, thay vì sinh thêm token. Ý chính:

  • Dùng backbone ngôn ngữ được pretrain sẵn dạng loop, nên vòng lặp đã mở ngay từ đầu thay vì phải học lại sau này.
  • Sau mỗi bước lặp, một pointer head dùng chung đọc các lựa chọn và chấm điểm xác suất; mọi độ sâu được train đồng thời trên cùng một bộ trọng số.
  • Một checkpoint duy nhất phục vụ mọi độ sâu; bước sâu hơn tiếp tục từ hidden state, không cần đọc input lại.
  • Một stopper nhẹ quyết định câu nào dừng sớm bằng cách dự đoán câu trả lời hiện tại có khớp với câu trả lời ở độ sâu lớn nhất không; ngưỡng được fit trên request không nhãn, nên triển khai có thể tự hiệu chỉnh trên traffic thật.

Ví dụ đời thường: như làm trắc nghiệm, bạn chọn nhanh nếu chắc; nếu thấy chưa ổn thì đọc lại ý chính thêm một lượt trong đầu, chỉ câu khó mới cần nhiều lượt — thay vì viết lại toàn bộ bài luận cho tất cả câu hỏi.

III. Main Results:​

  • Độ chính xác tăng theo độ sâu trên cùng weights, phần lớn ở câu khó: LEV-2.6B đạt 63.2% ở depth 1 và 76.2% ở depth 4 trên JevBench; bước lặp đầu mang lại phần lớn lợi ích.
  • On-demand depth tiết kiệm khoảng 15%–24% tính toán, mất dưới 1 điểm accuracy, ngang hoặc nhỉnh hơn frontier của fixed-depth mix; kết quả giữ vững trên locked test.
  • Stopper tự phân bổ độ sâu theo độ khó mà không nhìn nhãn khó: trên JevBench, LEV-2.6B dùng trung bình khoảng 1.2 / 2.4 / 3.0 bước cho easy / standard / hard.
  • Ở vùng latency dưới 50ms, các bản 1.4B và 3B cao hơn 5.4–8.8 điểm so với dense model và cascade cùng latency.
  • Lợi ích không đều giữa các tác vụ: tăng mạnh ở language understanding, gần như không giúp các tác vụ “taste”; phần lớn sửa đổi giữa các depth là sửa sai thành đúng, nhưng có một thiểu số câu đúng ở depth nông bị depth sâu làm hỏng.

IV. Conclusion & Future Works:​

LEV cho thấy muốn có adaptive depth cho decision model, điều quan trọng là backbone đã được pretrain như một loop, readout mọi độ sâu phải được train đồng thời, và stopper nên nhắm tới agreement với câu trả lời sâu nhất thay vì confidence nhãn hóa. Điểm còn hạn chế là stopper chưa phân biệt tốt các câu sai mà thêm bước có thể sửa được; một số câu cũng bị depth sâu làm xấu đi. Hướng tương lai: tìm tín hiệu ẩn tốt hơn để nhận diện lỗi sửa được, huấn luyện chống over-revision ở depth lớn, mở rộng dữ liệu để nâng readout nông, tối ưu serving cho batch có nhiều độ sâu khác nhau, và thử nghiệm ngoài decision model sang ranking, retrieval, tool routing hoặc agent planning.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển stopper nhận diện fixable errors bằng tín hiệu từ quỹ đạo hidden state giữa các vòng lặp, thay vì chỉ dùng xác suất, margin, entropy hay KL giữa các readout.
  2. Nghiên cứu chiến lược anti-over-revision cho looped decision model: giữ lợi ích của depth sâu nhưng giảm tỷ lệ câu đúng ở depth nông bị làm sai ở depth sâu.
  3. Mở rộng on-demand computation sang retrieval/ranking/tool-selection, nơi mỗi request có thể cần số vòng suy luận khác nhau và không có nhãn độ khó rõ ràng.
  4. Xây dựng recipe pretrain/fine-tune cho looped backbone nhỏ hơn, kiểm chứng xem intermediate-loop supervision có thật sự cần thiết cho mọi kiến trúc hay chỉ một lớp đặc biệt.

2. Patent:​

  1. Trợ lý trên điện thoại trả lời câu hỏi trắc nghiệm tiết kiệm pin: app chấm điểm nhanh các lựa chọn ở lượt suy luận đầu; nếu kết quả chưa ổn định, chạy thêm lượt trong cùng bộ trọng số, dừng ngay khi kết quả khớp lượt sâu nhất.
  2. Hệ thống chấm điểm dịch vụ khách hàng tự điều chỉnh độ sâu: gateway đặt nhiều câu hỏi độc lập trong một request, câu dễ thoát sớm, câu khó chạy thêm vòng lặp, giảm chi phí GPU và giữ độ trễ thấp cho điện thoại hoặc chatbot.
  3. Bộ định tuyến quyết định cho ứng dụng doanh nghiệp: dùng độ lệch kết quả giữa các lượt suy luận để quyết định khi nào tin câu trả lời cục bộ, khi nào gửi sang mô hình lớn hơn, tránh gọi mô hình đắt tiền cho câu dễ.
  4. Module ôn thi thích ứng trên mobile: câu hỏi dễ được phản hồi gần như tức thì; câu khó được phân tích thêm vài vòng nội bộ, đồng thời hệ thống ghi lại mức độ ổn định của đáp án để cá nhân hóa độ khó tiếp theo.
  5. Hệ thống kiểm tra cấu hình thiết bị biến thiên: khi dữ liệu đầu vào từ cảm biến hoặc văn bản thay đổi, mô hình chạy thêm các vòng lặp chỉ cho bản ghi có dấu hiệu mập mờ, giảm tính toán so với việc nâng cấp toàn bộ mô hình lớn hơn.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.20951
ArXiv Abstracthttps://arxiv.org/abs/2610.20951
PDF Downloadhttps://arxiv.org/pdf/2610.20951.pdf
Github Repositoryhttps://github.com/OpenLAIR/lev

6. Into the Unknown: Benchmarking AI agents on open scientific research problems (131 votes)​

Tác giả: Seungone Kim, Jiayi Geng, Young-Jun Lee, Bo Liu, Juyoung Suk, et al.

Xuất bản lúc: 2026-10-13

Tag: AI Agents, Scientific Research, Benchmark, LLM Evaluation, Research Automation

I. Main Problem:​

Đánh giá khả năng tự chủ nghiên cứu khoa học của AI agent gặp bài toán cốt lõi: với một câu hỏi nghiên cứu chưa ai có câu trả lời, không tồn tại đáp án mẫu để chấm điểm.

  • Cách chấm bằng AI reviewer trước đây không đáng tin (AI có xu hướng 'tâng' bài của AI).
  • Benchmark cũ chỉ mô phỏng một phần quy trình nghiên cứu (tái lập paper, chạy workflow có sẵn), không đánh giá trọn vẹn từ ý tưởng đến bài báo hoàn chỉnh.

II. Main Idea:​

Bài báo giới thiệu INTO THE UNKNOWN, benchmark giao cho agent một bài báo khoa học cùng hướng nghiên cứu tiếp theo do chính tác giả bài gốc đề xuất (chưa công bố), và yêu cầu agent viết một follow-up paper hoàn chỉnh (kèm code và logs).

  • Điểm mấu chốt: thu hẹp không gian nghiên cứu mở bằng 'tiêu chuẩn của nhà khoa học' — mỗi nhà khoa học tại các phòng thí nghiệm quốc gia DOE (Mỹ) viết ra các điều kiện bắt buộc, được formalized thành hai bộ rubric:
    • Integrity rubric: kết quả có truy về được logs, có bịa số liệu không.
    • Direction-specific rubric: follow-up phải chứng minh được những gì.
  • Chấm 3 điều kiện: C1 trung thực, C2 đầy đủ deliverables, C3 đạt ngưỡng nhà khoa học đặt ra.
  • Thử nghiệm với 15 bài toán (quantum computing, plasma physics, computational chemistry, materials science, scientific ML) x 9 agent frontier, tổng 135 bài nộp.

Ví dụ đời thường: giống việc giao cho thực tập sinh một đề tài mà giáo sư nói rõ tiêu chí 'làm thế nào là đạt' ngay từ đầu, rồi chấm bài dựa trên checklist đó thay vì cảm tính — vấn đề là thực tập sinh liên tục nộp bài 'nghe rất hay' nhưng số liệu không khớp với sổ thí nghiệm.

III. Main Results:​

  • Không submission nào đạt cả 3 điều kiện (trung thực + đầy đủ + đạt chuẩn nhà khoa học) trong 135 bài.
  • 114/135 bài trượt kiểm tra integrity: phổ biến nhất là khẳng định đã làm việc chưa từng làm, số liệu trong paper mâu thuẫn với logs, paper không khớp code. Chỉ 3 agent từng qua C1: GPT-6-Astra (11/15), GPT-5.6-Sol (6/15), Claude-Opus-5.5 (4/15).
  • C2 gần như toàn trượt: chỉ 1/135 bài đủ deliverables; 128 bài thiếu file/logs bắt buộc.
  • C3 = 0% ở chấm strict: không bài nào vượt ngưỡng nhà khoa học đặt ra.
  • Phân tích 64 trajectory tìm ra 3 hành vi gây thất bại: tự kiểm chứng quá dễ dãi (58/64), không quay lại sửa khi phát hiện thiếu sót (34/64), tự ý thu nhỏ phạm vi đề tài (21/64).
  • Chạy lâu hơn không ra kết quả tốt hơn: tương quan âm giữa thời gian chạy và tỉ lệ pass rubric; agent chạy lâu nhất (DeepSeek, GLM) lại yếu nhất.

IV. Conclusion & Future Works:​

Các agent frontier hiện tại có thể tạo ra bài báo trông giống follow-up thật nhưng không vượt được chuẩn của nhà khoa học, chủ yếu do thiếu kỹ năng tự kiểm chứng nghiêm ngặt, backtracking và tuân thủ yêu cầu trong tác vụ dài hạn. INTO THE UNKNOWN được định vị là testbed thử thách để:

  • phát triển phương pháp post-training agent tốt hơn
  • thiết kế harness chuyên biệt cho nghiên cứu khoa học
  • nghiên cứu cách agent dùng thêm thời gian tính toán hiệu quả hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển phương pháp post-training (ví dụ reward modeling dựa trên rubric integrity) để agent tự kiểm chứng nghiêm ngặt hơn trong tác vụ nghiên cứu dài hạn.
  2. Thiết kế harness agentic chuyên cho khoa học: bắt buộc plan file có timestamp, liên kết số liệu paper với logs tự động để chống bịa kết quả.
  3. Mở rộng benchmark sang các mô hình agent mới hơn và đo xem cải tiến về verification/backtracking có giúp vượt ngưỡng C3 của nhà khoa học không.
  4. Nghiên cứu chiến lược quản lý ngân sách thời gian/tính toán cho agent nghiên cứu, vì hiện tại chạy lâu hơn không cải thiện chất lượng.

2. Patent:​

  1. Trợ lý nghiên cứu trên điện thoại cho nhà khoa học: nhà nghiên cứu chụp/tải paper lên app, app gợi ý hướng follow-up, tự chạy thử nghiệm trên server và sinh báo cáo có mọi con số truy về được log thực thi để người dùng kiểm chứng.
  2. Hệ thống chống gian lận kết quả thí nghiệm tự động: mọi con số trong bản thảo khoa học được liên kết bắt buộc với mục log tương ứng, cảnh báo ngay nếu có khẳng định không có bằng chứng chạy thực tế.
  3. Nền tảng benchmark nội bộ cho doanh nghiệp R&D: chuyên gia công ty đặt 'chuẩn đạt' cho từng đề tài, AI agent tự thực hiện và bị chấm theo checklist trung thực–đầy đủ–đạt chuẩn trước khi đưa con người duyệt.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.19159
ArXiv Abstracthttps://arxiv.org/abs/2610.19159
PDF Downloadhttps://arxiv.org/pdf/2610.19159.pdf
Github Repositoryhttps://github.com/prometheus-eval/into-the-unknown

7. LiveMACE: Process-Aware Evaluation of LLM Agent Capabilities in Evolving Markets (112 votes)​

Tác giả: Jun Zhao, Leiming Fu, Yanbo Wen, Yiding Wang, Xuantong Liu, et al.

Xuất bản lúc: 2026-10-07

Tag: LLM Agents, Benchmark, Evaluation, Financial Markets, Tool Use, Persistent Memory, Rule Following, Multi-Agent Collaboration

I. Main Problem:​

Đánh giá agent chỉ bằng kết quả cuối cùng là không đủ, nhất là trong môi trường liên tục thay đổi như thị trường tài chính. Lợi nhuận thực hiện có thể do thị trường diễn biến tốt, do may mắn ngắn hạn, hoặc do agent dùng công cụ/bộ nhớ/luật/hợp tác kém nhưng vẫn trúng sóng. Hậu quả:

  • Xếp hạng lợi nhuận đảo chiều liên tục theo thời gian.
  • Không tách được có cơ chế, dùng tốt cơ chế, và lợi nhuận do cơ chế đó mang lại.
  • Các benchmark agent truyền thống thường tập trung vào task tĩnh hoặc thành công cuối cùng, ít đo quá trình ra quyết định trong bối cảnh ngoại cảnh thay đổi độc lập với agent.

II. Main Idea:​

Bài báo đề xuất LiveMACEBench: benchmark process-aware dùng live crypto và U.S. equity markets làm môi trường tự nhiên luôn tiến hóa để đánh giá persistent LLM agents. Năm frontier LLM chạy paper-trading liên tục khoảng 30 ngày, cùng một khung ReAct và cùng điều kiện thị trường, với các biến thể được kiểm soát: Base, Tool Use, Persistent Memory, Rule Following, Multi-Agent Collaboration. Mỗi vòng quyết định 4 giờ ghi lại decision trace đầy đủ: quan sát, suy luận, gọi công cụ, vi phạm luật, vai trò agent, hành động và hậu quả vào tài khoản không reset.

Thay vì chỉ nhìn return, benchmark tách ba tín hiệu:

  • Task outcomes: lợi nhuận thực hiện.
  • Controlled mechanism effects: thay đổi khi thêm tool/memory/rule/collaboration.
  • Process diagnostics: trace cho thấy agent có chọn đúng công cụ, nhớ và dùng lại kinh nghiệm, tuân thủ và giải thích luật, phân vai và tích hợp bằng chứng hay không.

Ví dụ đời thường: giống như chấm một nhà giao dịch không chỉ xem cuối tháng lãi hay lỗ, mà bật camera làm việc để xem người đó có tra cứu đúng nguồn, có ghi chú bài học và dùng lại không, có né giới hạn rủi ro không, và có hỏi đúng chuyên gia trước khi xuống tiền không.

III. Main Results:​

  • Có outcome–capability gap rõ: return rankings biến động mạnh, với 21/180 reversals cho tool use, 19 cho memory, 19 cho rule following, 29 cho collaboration; trong khi capability rankings tương ứng chỉ 0, 5, 8, 2 reversals.
  • Không có model thống trị mọi khả năng: GPT-5.4 mạnh tool use, Grok-4.20 mạnh memory usage, Gemini-3.1-Pro mạnh rule following, DeepSeek-V3.2 mạnh collaboration.
  • Tool use: coverage đều cao nhưng Invocation Efficiency yếu; tìm tool và gọi đúng là hai lỗi khác nhau, ví dụ Grok routing tốt hơn nhưng valid call rate thấp hơn Qwen.
  • Memory: lưu nhiều không đồng nghĩa dùng tốt; Gemini tạo 93 memories và chất lượng nội dung cao nhưng Memory Usage Quality thấp nhất, ngược lại Grok ít memory hơn nhưng dùng hiệu quả nhất.
  • Rule following: DeepSeek lãi gần giống GPT nhưng khác mạnh về hard-rule pass và auditability; Gemini có compliance/audit cao nhất dù return thấp hơn.
  • Multi-agent: cải thiện return cho GPT/DeepSeek/Gemini nhưng làm Qwen tệ hơn; nhiều agent không tự động tạo collaboration thật, ví dụ GPT gần như rơi vào single-role workflow.

IV. Conclusion & Future Works:​

Kết luận chính: trong môi trường tiến hóa, lợi nhuận là hệ quả của vòng lặp agent–market, không phải thước đo trực tiếp của năng lực. Cần đánh giá song song outcome, mechanism effect, và process diagnostics; có quyền truy cập vào tool, memory, rule hay multi-agent không đảm bảo agent dùng hiệu quả, và dùng hiệu quả cũng chưa chắc tạo lợi nhuận tốt hơn trong mọi giai đoạn.

Hướng tương lai: kéo dài horizon đánh giá qua nhiều chế độ thị trường khác nhau, mở rộng sang các môi trường liên tục thay đổi ngoài finance, và phát triển chuẩn đoán quy trình để agent có thể tự phát hiện bottleneck thay vì chỉ tối ưu leaderboard return.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng LiveMACEBench sang đánh giá agent dài hạn nhiều tháng, kiểm tra tính bền của capability profiles khi thị trường chuyển từ uptrend sang downtrend hoặc sideways.
  2. Nghiên cứu cơ chế tự chẩn đoán cho agent: dùng decision traces để agent tự nhận biết đang lặp lại lỗi gọi công cụ, lưu memory kém, vi phạm luật mơ hồ, hoặc phân vai hình thức.
  3. Phát triển chuẩn đoán quy trình cho multi-agent tài chính: đo lường khi nào thêm chuyên gia thật sự cải thiện quyết định và khi nào chỉ làm tăng drawdown.
  4. Xây dựng bản chuẩn đoán không tài chính, ví dụ vận hành doanh nghiệp, an ninh mạng, hoặc logistics, nơi quyết định có hậu quả kéo dài và ngoại cảnh liên tục đổi.

2. Patent:​

  1. Ứng dụng điện thoại hỗ trợ giao dịch có chấm điểm quy trình: sau mỗi lượt mua/bán giả lập hoặc thật, app ghi lại người dùng đã tra giá, đọc tin, kiểm tra giới hạn rủi ro và ghi chú bài học; app đưa điểm theo từng kỹ năng thay vì chỉ báo lãi lỗ.
  2. Trợ lý đầu tư cá nhân trên điện thoại nhắc lỗi lặp lại: hệ thống lưu các tình huống từng gây thua lỗ, khi thị trường giống bối cảnh cũ thì đưa ra cảnh báo và giải thích bài học đã lưu trước khi người dùng xác nhận lệnh.
  3. Hệ kiểm soát tuân thủ tự động cho giao dịch di động: trước khi gửi lệnh, app tự tính tỷ trọng tài sản sau khi mua, chặn lệnh vượt giới hạn tập trung, và yêu cầu người dùng nêu rõ quy tắc nào đã được kiểm tra.
  4. Bộ hợp tác nhiều trợ lý trong app tài chính: một điều phối viên hỏi các chuyên gia ảo về kỹ thuật, tin tức, rủi ro và vĩ mô, sau đó tổng hợp nguồn vào một đề xuất có ghi rõ ý nào đến từ chuyên gia nào.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.09872
ArXiv Abstracthttps://arxiv.org/abs/2610.09872
PDF Downloadhttps://arxiv.org/pdf/2610.09872.pdf
Github Repositoryhttps://github.com/RaymondVoldemortFu/LiveMACE

8. Pack Light, CarryOn: Building Object-Oriented Context for Long-Horizon Agents (100 votes)​

Tác giả: Yuchen Lu, Julian McAuley, Lei Zhang

Xuất bản lúc: 2026-10-13

Tag: Long-Horizon Agents, Context Management, LLM Agents, Context Compression, Computer Use, Agent Memory

I. Main Problem:​

Các tác tử (agent) chạy tác vụ dài hạn (long-horizon) tích lũy tiến độ ở hai nơi: trạng thái tác vụ (file đã tạo, dữ liệu đã nhập) và lịch sử tương tác. Vấn đề:

  • Agent lặp đi lặp lại việc xử lý lịch sử mô tả cách tiến độ đã đạt được, dù kết quả đó đã nằm sẵn trong file/trạng thái tác vụ
  • Các phương pháp nén/tóm tắt/lược bớt lịch sử hiện có tạo ra bản tường thuật chọn lọc, dễ trôi khỏi trạng thái thật mà agent đang trực tiếp kiểm tra và sửa đổi
  • Hệ quả: context phình to (vượt 200K token), chi phí tăng, hiệu suất giảm theo chiều dài tác vụ.

II. Main Idea:​

CarryOn — runtime quản lý context theo hướng object-oriented: thay vì duy trì lịch sử tương tác, context được tổ chức quanh các đối tượng tác vụ tái sử dụng được. Context view gồm 3 thành phần bổ sung nhau:

  • Continuation carriers: đóng gói tiến độ đã hoàn thành — gồm 3 dạng: External Objects (file, tài liệu có thể mở lại), Information Products (kết luận/kết quả tổng hợp kèm nguồn), Situated State (trạng thái nằm trong một ứng dụng/session cụ thể), mỗi carrier kèm điều kiện tái sử dụng
  • Execution context: mục tiêu đang hoạt động, ràng buộc, vấn đề chưa giải quyết — những thứ không nằm trong carriers
  • Live tail: các tương tác gần nhất chưa được xử lý

Mỗi lần fold, CarryOn chạy 4 giai đoạn: Tracker nhận diện tiến độ tái sử dụng → chuẩn bị bằng chứng (Grounder kiểm tra môi trường read-only) → Compiler cập nhật đồng thời carriers và execution context → validation rồi commit, nghỉ hưu phần lịch sử đã phủ. Carrier bị ảnh hưởng được sửa thành phiên bản kế tiếp; carrier không đổi được giữ nguyên — không cần dựng lại toàn bộ.

Ví dụ đời thường: giống người thợ làm bài tập lớn — thay vì giữ cả sổ nháp dày cộp ghi từng bước tính toán, anh ta chỉ giữ lại sản phẩm hoàn thiện (bản báo cáo, file Excel) dán nhãn "đã kiểm tra, dùng được" cộng với một mảnh giấy nhỏ ghi việc còn dang dở; phần giấy nháp cũ vứt đi.

III. Main Results:​

  • OSWorld 2.0 (Claude Opus 4.7): partial score 43.9% → 49.7% (+5.8%), binary 15.7% → 19.4%; đồng thời giảm 51.9% tổng token và giảm 35.9% chi phí/tác vụ (bao gồm cả overhead của runtime)
  • BrowseComp-Plus: accuracy 49% → 56% (+7.0%), giảm 22.9% token, giảm 7.1% chi phí
  • Context input ổn định quanh ~65K token trong khi baseline tăng trưởng vô hạn; chi phí tích lũy vượt baseline từ khoảng turn 200, tới turn 500 giảm 34.1%
  • So với các chiến lược nén: Sliding Window và Generic Summary làm giảm điểm; CarryOn-Guided Summary phục hồi được một phần (50.93%), CarryOn đầy đủ đạt cao nhất (55.93%) với text ngắn hơn ~10%
  • Ablation: bỏ execution context → partial sụt 55.93% → 44.00%; bỏ carriers → partial 44.62% và tăng 23.8% số lượt gọi agent (phải làm lại việc cũ); 80% carrier được giữ hoặc cập nhật qua các fold chứ không dựng lại.

IV. Conclusion & Future Works:​

Tổ chức context theo đối tượng tác vụ tái sử dụng vượt trội hơn nén lịch sử thuần túy: cải thiện hiệu suất lẫn cắt giảm chi phí, và lợi thế càng lớn khi tác vụ càng dài. Carriers và execution context mang thông tin bổ sung nhau, và tiến độ được duy trì qua các fold thay vì tổng hợp lại liên tục. Hướng phát triển hợp lý: mở rộng sang các môi trường tác vụ dài hạn khác (SWE agents, deep research), tối ưu chi phí runtime, và cải thiện cơ chế kiểm chứng carriers trong môi trường động.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu cập nhật carriers tăng dần (incremental) thay vì biên dịch lại toàn bộ context ở mỗi fold, để giảm chi phí runtime khi số lượng đối tượng tác vụ lớn.
  2. Kết hợp CarryOn với bộ nhớ ngoài tuyến (external history retrieval) để agent có thể mở lại lịch sử đã nghỉ hưu khi carrier thiếu thông tin chi tiết cần thiết.
  3. Áp dụng nguyên lý object-oriented context cho SWE agents và trợ lý nghiên cứu sâu, nơi các đối tượng tái sử dụng là codebase, patch và bản ghi tìm kiếm.

2. Patent:​

  1. Trợ lý điện thoại thông minh quản lý bộ nhớ tác vụ dài: ứng dụng tự đóng gói kết quả đã hoàn thành (file đã lưu, tin nhắn đã gửi) thành thẻ gắn nhãn trạng thái, chỉ giữ danh sách việc còn dở trong bộ nhớ hoạt động — giúp trợ lý chạy tác vụ nhiều giờ mà không quá tải bộ nhớ hay tốn phí gọi mô hình.
  2. Hệ thống tự động "gấp gọn" hội thoại làm việc trên đám mây: sau mỗi giai đoạn, hệ thống kiểm tra lại tài liệu thật (đọc file, xác minh đường dẫn) rồi thay toàn bộ lịch sử chat bằng bản tóm tắt đối tượng có kiểm chứng, cắt phần lớn chi phí token cho doanh nghiệp dùng trợ lý AI.
  3. Trợ lý soạn thảo văn phòng đa bước trên điện thoại: ghi nhớ tiến độ dưới dạng tham chiếu trực tiếp tới file đang làm dở kèm điều kiện (ví dụ "bảng đo đã điền, còn thiếu cột kết quả"), để khi người dùng quay lại sau giờ nghỉ, trợ lý tiếp tục ngay từ trạng thái file thật mà không cần đọc lại toàn bộ lịch sử thao tác cũ.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.18784
ArXiv Abstracthttps://arxiv.org/abs/2610.18784
PDF Downloadhttps://arxiv.org/pdf/2610.18784.pdf
Github Repositoryhttps://github.com/Ethannju/carryon

9. Speculative Sampling in Interactive Video Generation (70 votes)​

Tác giả: Yubo Huang, Yuxuan Zhang, Jiaming Liu, Sirui Zhao, Enhong Chen

Xuất bản lúc: 2026-10-14

Tag: Video Generation, Diffusion, Interactive Streaming, Real-time Systems, Speculative Decoding, GPU Parallelism, Latent Diffusion

I. Main Problem:​

Video tương tác cần phản hồi nhanh khi người xem đổi lệnh điều khiển, nhưng cách phổ biến là dùng chunk bidirectional nhỏ để giảm latency. Điều này tạo ràng buộc sai: chunk càng nhỏ thì càng ít mô hình hóa thời gian chung và kém tận dụng GPU, trong khi chunk lớn lại làm người dùng chờ đến ranh giới phát lại. Vấn đề cốt lõi: phải chăng tương tác độ trễ thấp bắt buộc đánh đổi cửa sổ bidirectional nhỏ?

II. Main Idea:​

Bài báo tách khả năng dự đoán chung khỏi mức độ cam kết đầu ra. Thay vì sinh từng nhóm nhỏ rồi chốt luôn, hệ thống:

  • mở rộng cửa sổ bidirectional bằng cách nối các latent nhiễu làm padding vào latent kế tiếp
  • sinh một chunk lớn một lần, rồi cache toàn bộ dự đoán để dùng lại khi điều kiện không đổi
  • phát từng phần nhỏ trong khi phần tương lai chưa cam kết vẫn có thể bị thay thế
  • khi có điều kiện mới, chỉ replansuffix khả thi sau protected prefix, không hủy toàn bộ luồng
  • điều phối bằng finite-state machine hai trạng thái Produce/Consume, để sampling song song với playback và refill

Điểm then chốt là xóa waiting floor T/2 do ranh giới chunk; latency chuyển phụ thuộc từ kích thước chunk sang thời gian sinh mỗi chunk, chi phí thay thế dự đoán thừa xấp xỉ 1/(1-w) với w là phần bị loại bỏ.

Ví dụ đời thường: giống đầu bếp nấu sẵn một mẻ lớn rồi múc từng phần ra đĩa cho khách ăn ngay; nếu khách đổi món, chỉ cần thay phần chưa mang ra, chứ không phải nấu lại từ đầu hay chia mẻ nhỏ để phục vụ nhanh hơn.

III. Main Results:​

  • Chunk lớn thường tốt hơn: trên Wan1.3B, VBench tổng tăng từ khoảng 79.00 lên 81.66 khi đi từ K=1 sang K=3 ở 480p, 4 bước sampling; nhưng mức tăng không đơn điệu, nên K tối ưu phụ thuộc mô hình.
  • Song song hóa làm chunk lớn khả thi: tăng K từ 1 lên 3 chỉ làm forward latency tăng khoảng 2.05x ở 480p và 2.74x ở 720p, dù số latent hiện tại tăng gấp ba; với đủ GPU, K=21 ở 720p giảm từ 6432.8 ms xuống 899.7 ms trên USP8.
  • Serving thật giảm latency theo đúng dự đoán: Sol-H3 giảm trung bình 0.493s ở short và 2.814s ở long, gần lý thuyết 0.438s / 2.562s; Wan tăng dần từ 0.155s tới 1.744s, LTX eager từ 0.014s tới 2.116s khi chunk lớn hơn.
  • Long chunk vẫn responsive: với Speculative Sampling, L50 của cấu hình long chỉ cao hơn short khoảng 0.26-0.39s trên cả ba mô hình ở cả hai tần suất cập nhật.
  • Có headroom vận hành: cấu hình long dùng GPU thấp hơn rõ rệt, ví dụ Wan khoảng 17-20% so với 50-52%, Sol-H3 khoảng 18-23% so với 49-50%.
  • Có trường hợp long hơn cả short baseline: Sol-H3 long đạt L50 = 1.42/1.41s, thấp hơn short baseline 1.87/1.87s, và không có playback stall.
  • Hạn chế: cập nhật quá thường xuyên làm nhiều dự đoán bị vứt, tốn sampling; key-value của suffix bị loại vẫn có thể ảnh hưởng phần sinh lại do attention bidirectional.

IV. Conclusion & Future Works:​

Kết luận chính: kích thước chunk không còn là ràng buộc bắt buộc cho tương tác tức thì. Bằng cách giữ generation lớn, tái sử dụng prediction cache và chỉ thay phần tương lai chưa cam kết, hệ thống chuyển trọng tâm từ làm chunk nhỏ hơn sang tăng tốc joint generation, quản lý revocable predictions và lập lịch giao đúng hạn. Hướng mở rộng hợp lý: giảm chi phí revamp khi update liên tục, xử lý sạch hơn ảnh hưởng của suffix bị xóa trong attention, tinh chỉnh continuation interface cho latent nén, và kết hợp với few-step distillation, sequence parallelism, CUDA Graph để kéo C xuống.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phương pháp học hoặc cache policy cho prediction cache trong video streaming, để giữ lại dự đoán dài hơn mà vẫn hạn chế tổn thất khi người dùng thay đổi điều kiện liên tục.
  2. Kỹ thuật làm sạch trạng thái attention khi một phần video dự đoán bị loại bỏ, nhằm tránh thông tin cũ từ suffix bị hủy vẫn rò rỉ vào chunk tái sinh.
  3. Scheduler đa luồng cho interactive video: cân bằng nhiều session, update bursts, GPU headroom và playback deadline khi dùng large bidirectional chunks trên cụm serving thật.
  4. Fine-tune nhẹ continuation interface của mô hình bidirectional để nhận latent nén trực tiếp, bỏ qua bước decode/re-encode khung biên và giảm chi phí nối chunk.

2. Patent:​

  1. Ứng dụng quay video AI trên điện thoại khi người dùng chỉnh camera hoặc hành động nhân vật: app sinh một đoạn dài có chất lượng cao, xuất từng khung ra màn hình ngay, nếu người dùng vuốt đổi góc nhìn thì chỉ thay đoạn chưa hiển thị.
  • Lợi ích: mượt như chơi game, giảm giật, tận dụng chip AI/GPU của máy.
  1. Nền tảng livestream avatar thời gian thực: streamer đổi biểu cảm, giọng nói hoặc cảnh nền liên tục; hệ thống render trước một chùm khung tương lai, phát dần, và cập nhật chỉ phần tương lai khi lệnh mới tới.
  • Lợi ích: tương tác gần như tức thì mà không cần sinh từng khung riêng lẻ chất lượng thấp.
  1. Cloud gaming hoặc điện thoại chơi game qua video sinh: khi người chơi bấm nút, server cập nhật hướng camera/nhân vật ngay trong luồng phát bằng cách thay đoạn video chưa cam kết, giữ độ phân giải và chuyển động mượt.
  • Lợi ích: giảm độ trễ điều khiển so với chờ hết một khối render lớn.
  1. Trình chỉnh sửa video trên điện thoại có preview tức thì: người dùng đổi prompt, màu sắc, nhân vật hoặc bối cảnh; hệ thống sinh trước nhiều phương án và chỉ thay phần timeline chưa khóa để preview chạy liên tục.
  2. Hệ thống giám sát camera AI phát lại tình huống giả lập: khi người vận hành đổi kịch bản xâm nhập hoặc điều kiện thời tiết, luồng video tái tạo cập nhật phần tương lai ngay mà không gián đoạn những khung đã hiển thị.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.20556
ArXiv Abstracthttps://arxiv.org/abs/2610.20556
PDF Downloadhttps://arxiv.org/pdf/2610.20556.pdf
Github Repositoryhttps://github.com/Yubo-Shankui/SpeculativeSampling

10. PremiseCheck: Efficient Fact-Checking of Human and AI Peer Reviews (53 votes)​

Tác giả: Dingjie Song, Zhiling Yan, Ziqian Zhang, Yuxuan Zhang, Lichao Sun

Xuất bản lúc: 2026-10-15

Tag: Fact-Checking, Peer Review, LLMs, Decision Models, Claim Decomposition, Cost-Aware Inference, Benchmark

I. Main Problem:​

Bình duyệt học thuật đang quá tải vì số lượng bài nộp tăng nổ, và cả nhận xét của con người lẫn của AI đều chứa sai sót thực tế về nội dung bài báo. Những lỗi này đánh lừa tác giả, làm méo quyết định chấp nhận/từ chối, và ở quy mô hiện nay không thể rà soát thủ công — một area chair không thể đọc lại toàn bộ bài báo để kiểm tra từng nhận xét.

Các hệ thống kiểm chứng hiện có đều rơi vào nghịch lý chính xác hay rẻ:

  • LLM frontier (như GPT-5.5): chính xác nhưng phải đọc toàn bộ bài báo cho mỗi nhận xét — chi phí nhân lên khủng khiếp trên hàng chục nghìn review.
  • Decision model (như Jev): rẻ, nhanh (một phần nghìn giây) nhưng gần như thất bại trên nhận xét nguyên văn (AUROC ~50, ngang ngẫu nhiên) vì một nhận xét thường trộn lẫn nhiều khẳng định ngầm (ví dụ câu hỏi "tác giả đã thử mô hình khác chưa?" ngầm giả định bài không thử).

Ngoài ra, các tập dữ liệu chú thích lỗi thực tế trong review hiện có gán nhãn không nhất quán, và chưa ai đánh giá chi phí + độ trễ cùng với độ chính xác.

II. Main Idea:​

PremiseCheck tách bài toán thành hai phần theo insight then chốt: hiểu nhận xét nói gì cần LLM nhưng không cần bài báo; còn đọc bài báo là phần đắt tiền mà decision model làm được nếu khẳng định đã được viết rõ ràng. Quy trình 4 bước:

  • Decompose: LLM chỉ đọc comment (trung bình 24 token), tách thành 1–6 premise tường minh — bao gồm cả giả định ngầm của câu hỏi — mà không hề đọc paper.
  • Route: decision model tự phân loại mỗi premise là paper-decidable hay knowledge (kiến thức chung), vì hỏi "theo bài báo thì đúng không?" với một premise thuộc kiến thức chung sẽ làm xác suất sai lệch.
  • Verify: decision model đọc paper + premise và trả về xác suất, dùng 16 cách diễn đạt khác nhau (8 hỏi ủng hộ, 8 hỏi mâu thuẫn) trong một call duy nhất vì Jev chỉ tính tiền theo input.
  • Aggregate: điểm của comment = premise yếu nhất (min), vì một premise sai đồng nghĩa nhận xét chứa lỗi.

Điểm khác biệt với các phương pháp decomposition-trước-đây: ở đó LLM vẫn phải đọc paper để verify từng premise nên chi phí nhân lên; PremiseCheck thì paper chỉ được đưa cho decision model rẻ tiền.

Ví dụ đời thường: giống như khi kiểm tra lời tố cáo của một người — không cần luật sư đắt tiền điều tra toàn bộ hồ sơ vụ án; ta thuê một trợ lý giỏi nghe lời tố cáo rồi viết lại thành từng câu khẳng định rõ ràng, còn một thư ký rẻ tiền chỉ cần lật hồ sơ đối chiếu từng câu một.

III. Main Results:​

Đánh giá trên ReviewFact (benchmark mới: 9.267 comments trên 217 papers, gồm cả review của người và AI, xuyên NLP / machine learning / khoa học tự nhiên, đo AUROC + cost + latency):

  • Ngang GPT-5.5 với nửa chi phí: PremiseCheck (decomposer GPT-5.5 reasoning trung bình, verifier Jev) lệch không quá 0.3 điểm AUROC so với holistic GPT-5.5 trên cả 3 lĩnh vực, với ~51% chi phí.
  • Trên NLP reviews: chỉ còn 25% chi phí (với decomposer không reasoning) và dưới 50% độ trễ (45%), trong khi vẫn non-inferior về độ chính xác.
  • Cascade (Jev→GPT-5.5) tệ hơn ở mọi khía cạnh: đắt hơn (~75% chi phí) nhưng kém chính xác hơn PremiseCheck trên cả 3 phần.
  • Kết quả không phụ thuộc một model: 4 decision model từ các nhà cung cấp khác nhau (gồm open-weight Kev-27B) đều đạt sát GPT-5.5 khi làm verifier; các LLM rẻ hơn nhiều (GPT-5.6 Sol, Luna, Nemotron Super 3) làm decomposer vẫn non-inferior với 6–17% chi phí.
  • 16 phrasings miễn phí tăng độ chính xác: AUROC tăng từ 63.1 lên 65.7 nhờ câu hỏi dạng mâu thuẫn, không tăng chi phí.
  • Thực tiễn: khi batch toàn bộ review và fusion với holistic GPT-5.5 đạt AUROC 71.5 (vượt đáng kể) với 28% chi phí; cơ chế flag 3 comment đáng ngờ nhất/mỗi paper giúp tìm ra lỗi cho 40% số paper có lỗi (vs 29% của baseline), và flag chỉ thẳng tới premise cụ thể bị paper bác bỏ.
  • Phân tích lỗi: false alarm trên NLP chủ yếu do decomposition (58%); miss chủ yếu do nhãn gốc đáng nghi (40%) hoặc verification (36%).

IV. Conclusion & Future Works:​

Kết luận chính: kiểm chứng nhận xét review không cần LLM frontier đọc lại bài báo cho từng comment. Phân chia lao động — LLM chỉ viết lại premise, decision model rẻ đọc paper — đạt độ chính xác ngang GPT-5.5 với phần nhỏ chi phí, và kết quả không bị ràng buộc vào một model cụ thể.

Hướng tương lai:

  • Cải thiện decomposer để bám sát hơn lời reviewer (giảm false alarm).
  • Phát triển phương pháp cho errors of judgment (đánh giá tầm quan trọng, tính mới) — nằm ngoài phạm vi hiện tại.
  • Thử nghiệm thêm các decision model open-weight khác trong cùng framework.
  • Dùng ReviewFact làm chuẩn đánh giá các hệ kiểm chứng tương lai trên cả accuracy, cost và latency.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu decomposer có kiểm soát: dùng phản hồi của verifier để tự hiệu chỉnh premise viết lại, giảm tình trạng premise thêm thắt hoặc lệch khỏi lời reviewer gốc — nguyên nhân số một của false alarm.
  2. Mở rộng PremiseCheck sang kiểm chứng lỗi trong các tài liệu học thuật khác: grant proposal, rebuttal, survey và bài báo đã xuất bản, với routing tới nhiều nguồn bằng chứng.
  3. Kết hợp PremiseCheck với world knowledge graph để xử lý premise kiểu knowledge hiệu quả hơn thay vì chỉ dựa vào xác suất của decision model.
  4. Xây dựng module phát hiện errors of judgment (tầm quan trọng của concern, tính hợp lý của yêu cầu) bổ sung song song với fact-checking trong cùng pipeline review.

2. Patent:​

  1. Ứng dụng di động hỗ trợ tác giả phản biện (rebuttal): chụp/lưu file bài báo, nhập nhận xét của reviewer; ứng dụng tự tách thành các khẳng định, chỉ ra câu cụ thể trong paper bác bỏ từng khẳng định để tác giả viết phản hồi đúng trọng tâm thay vì đọc lại toàn bộ bài.
  2. Plugin cho hệ thống hội thảo (giống OpenReview): kiểm tra realtime từng nhận xét ngay khi reviewer gõ xong, cảnh báo reviewer về khẳng định có vẻ sai trước khi nộp review, giảm lỗi thực tế vào luồng bình duyệt.
  3. Trợ lý cho ban tổ chức/ban biên tập: tự xếp hạng độ đáng ngờ của toàn bộ nhận xét trong một đợt review, gợi ý 3 nhận xét cần area chair rà soát tay kèm đoạn văn bản trong paper liên quan — tiết kiệm phần lớn thời gian đọc lại.
  4. Công cụ kiểm chứng tin tức/trích dẫn cho phóng viên: tách một câu nhận định trong bài viết báo chí thành các khẳng định riêng và đối chiếu với tài liệu nguồn, đánh dấu khẳng định nào nguồn không ủng hộ trước khi xuất bản.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.21046
ArXiv Abstracthttps://arxiv.org/abs/2610.21046
PDF Downloadhttps://arxiv.org/pdf/2610.21046.pdf
Github Repositoryhttps://github.com/OpenLAIR/PremiseCheck

11. Scene-Designer: Learning Design Intelligence for Agentic 3D Scene Generation (49 votes)​

Tác giả: Xuanyu Liu, Hongyan Feng, Miao Pan, Sunlai Chen, Lizhou Liang, et al.

Xuất bản lúc: 2026-10-16

Tag: 3D Scene Generation, Vision-Language Models, RL (GRPO), Agentic AI, Scene Critique, Spatial Design

I. Main Problem:​

Sinh cảnh 3D trong nhà hoàn chỉnh từ ngôn ngữ tự nhiên đòi hỏi Design Intelligence — khả năng vừa thiết kế cảnh vừa phê phán chất lượng cảnh. Các mô hình đa năng mạnh nhất (GPT-5.2) vẫn có hai khuyết điểm rõ:

  • Sửa lỗi kém hiệu quả: nhiều lỗi đơn giản (vật cản cửa sổ, vi phạm biên) cần trên 5 thao tác thử-sai dù chỉ cần 1-2 thao tác; thiếu kinh nghiệm thiết kế để sửa trực tiếp.
  • Phê phán cảnh yếu: độ chính xác xếp hạng cảnh chỉ ~72% (so 2 cảnh) và sụt còn ~50% khi xếp hạng 4 cảnh; bỏ qua tổ chức chức năng và mạch lạc bố cục.
  • Dữ liệu hiện có (3D-FRONT...) chỉ là trạng thái tĩnh, không chứa kinh nghiệm từ quá trình thiết kế và phê phán.

II. Main Idea:​

Scene-Designer học Design Intelligence qua hai nguồn kinh nghiệm bổ sung nhau:

  • Scene-OTA-35K (kinh nghiệm thiết kế): dùng GPT-5.2 sinh quỹ đạo dựng cảnh, rồi áp Causal Trajectory Consolidation — gom các thao tác không cải thiện trạng thái/không giảm lỗi, đánh giá hiệu quả sửa lỗi, loại bỏ thao tác vô ích (quỹ đạo rút từ ~110 xuống ~30 bước) và sinh suy luận từng bước (Observation–Thought–Action).
  • Scene-OTC-15K (kinh nghiệm phê phán): tạo các mức phá hoại cảnh có kiểm soát (lệch bố cục nhẹ → suy giảm chức năng → vi phạm vật lý nghiêm trọng) để thứ tự chất lượng xác định tự động, kèm suy luận phê phán (Observation–Thought–Critic).

Hai giai đoạn huấn luyện: SFT chung → Scene-Builder; sau đó Scene-GRPO — tại mỗi bước, policy tạo nhiều nhánh hành động, một Critic đóng băng chấm điểm (so các nhánh với nhau + so con với cha) để chọn nhánh tốt nhất, giảm thử-sai thừa.

Ví dụ đời thường: giống nghệ nhân nội thất vừa biết bài trí phòng đẹp vừa có con mắt phê bình — mỗi lần đặt đồ, ông dựng vài phương án, tự soi phương án nào hợp lý hơn rồi chọn luôn thay vì đặt rồi dỡ lặp đi lặp lại.

III. Main Results:​

  • Chất lượng cảnh vượt ATISS, DiffuScene, LayoutGPT, Holodeck, I-Design, SceneWeaver trên bedroom/living room/bathroom/office về cả vật lý lẫn realism, functionality, layout, completeness.
  • Hiệu quả sửa lỗi: tỉ lệ lỗi cần ≥5 thao tác giảm mạnh so với Scene-Builder — interaction orientation 40%→7%, window blockage 21%→5%, door clearance 15%→13%, scale mismatch 50%→23%.
  • Scene-Critic vượt GPT-5.2: 89% vs 72% (so 2 cảnh), 76% vs 15% (xếp hạng 4 cảnh); joint training OTA+OTC tốt hơn chỉ train OTC.
  • Critic hướng dẫn lúc test-time (chọn nhánh tốt nhất trong 4) cải thiện thêm mọi chỉ số.
  • Ablation: bỏ branch-ranking hoặc improvement reward đều làm kết quả giảm rõ; quan sát thấy xu hướng tăng cường lẫn nhau giữa thiết kế và phê phán.

IV. Conclusion & Future Works:​

Học design intelligence cần cả kinh nghiệm thiết kế (quỹ đạo đã lọc thử-sai) lẫn kinh nghiệm phê phán (so sánh cảnh có thứ tự chất lượng rõ ràng); Critic-guided GRPO chuyển mô hình từ bắt chước sang tối ưu quyết định thiết kế, và Critic học được còn hữu ích ngoài huấn luyện (test-time guidance). Hướng tương lai: mở rộng sang cảnh phức tạp hơn/household đa phòng, khám phá sâu hơn vòng lặp tự cải thiện giữa designer và critic.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Tự động tạo bộ dữ liệu quỹ đạo thiết kế nội thất từ bất kỳ scaffold sinh cảnh nào bằng cơ chế causal consolidation đo lường được, khả chuyển cho các tác vụ agentic chỉnh sửa môi trường khác.
  2. Phương pháp sinh nhãn preference có thứ tự chất lượng tự động cho đánh giá thẩm mỹ-không gian, thay thế gán nhãn chủ quan của con người trong các bài toán ranking cảnh 3D.
  3. Nghiên cứu vòng lặp cộng sinh designer–critic: cả hai mô hình cùng cập nhật luân phiên để tự nâng cấp lẫn nhau trong tác vụ tối ưu bố cục dài hạn.

2. Patent:​

  1. Ứng dụng thiết kế nội thất trên điện thoại: người dùng nói 'thiết kế phòng khách 20m2 phong cách tối giản'; ứng dụng dựng nhiều phương án bố trí từng bước, tự so sánh và chọn phương án tốt nhất (không va đồ, lối đi thông thoáng, nhóm đồ theo chức năng) rồi hiển thị cảnh 3D hoàn chỉnh.
  2. Trợ lý bố trí đồ nội thất có khả năng tự phê bình: khi người dùng kéo thả tủ lạnh chắn cửa, ứng dụng không chỉ báo lỗi mà đề xuất ngay một thao tác di chuyển tối ưu thay vì để người dùng tự thử nhiều vị trí.
  3. Hệ thống chấm điểm tự động cho ảnh/thiết kế nội thất của người bán hàng: nhận ảnh phòng, hệ thống đánh giá mức hợp lý vật lý, tính tiện dụng và mạch lạc bố cục, xếp hạng nhiều thiết kế để gợi ý cải thiện cho doanh nghiệp nội thất.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.23121
ArXiv Abstracthttps://arxiv.org/abs/2610.23121
PDF Downloadhttps://arxiv.org/pdf/2610.23121.pdf
Github Repositoryhttps://github.com/ZJU-OmniAI/Scene-Designer

12. OpenMobile-2: Building Versatile Mobile Agents with Scalable Environments and App-Native Tools (38 votes)​

Tác giả: Chenyang Yan, Yingying Zhang, Kanzhi Cheng, Qiushi Sun, Zhengyuan Pan, et al.

Xuất bản lúc: 2026-10-09

Tag: Mobile Agents, GUI Agents, Vision-Language Models, Reinforcement Learning, Tool Use, Supervised Fine-Tuning, Benchmark, Android

I. Main Problem:​

Các tác nhân mobile (mobile agents) dựa trên mô hình vision-language ngày càng mạnh, nhưng dữ liệu huấn luyện tương tác chất lượng cao gần như là tài sản độc quyền, khiến cộng đồng mã nguồn mở bị bỏ lại phía sau. Các vấn đề cụ thể:

  • Môi trường huấn luyện hẹp: môi trường emulator thật khó reset, tốn kém khi chạy song song; môi trường mô phỏng hiện có quá ít app, chức năng nông, không tái hiện được workflow thương mại thực tế.
  • Thiếu dữ liệu mở quy mô lớn: trajectory ghi bởi người đắt đỏ và không có khái niệm thành công có thể kiểm chứng; dữ liệu RL có reward tự động gần như không tồn tại.
  • Tương tác chỉ qua GUI: thao tác GUI chậm và mong manh, trong khi các giao diện công cụ cấu trúc (tool) hiệu quả hơn nhưng chưa được tích hợp tự nhiên vào chính các ứng dụng mobile.

II. Main Idea:​

OpenMobile-2 là một stack mã nguồn mở đầy đủ gồm môi trường + dữ liệu + công thức huấn luyện, với ba đóng góp chính:

  • MOBILEGYM++: môi trường mô phỏng mới xây 35 app thương mại tái hiện trung thực (du lịch, mua sắm, tài chính, mạng xã hội...) với trạng thái nghiệp vụ persistent, reset hoàn toàn deterministically; kết hợp app emulator mới cấu hình tạo sân chơi 110+ ứng dụng, hỗ trợ workflow xuyên ứng dụng (clipboard, chia sẻ app-to-app, chuyển hướng thanh toán).
  • OpenMobile-Data-v2: gần 12K trajectory SFT (trong đó 1.7K xen kẽ GUI + tool call) và bộ RL mở lớn nhất gồm hơn 2K task thực thi được với reward tự động. Dữ liệu do Gemini-3.1-Pro tự sinh trong môi trường, lọc bằng verifier, lọc từng bước loại vòng lặp vô nghĩa.
  • Hybrid GUI + app-native tools: mỗi app tự lộ ra hơn 300 công cụ gốc (như search_course trong app fitness) thao tác trên cùng trạng thái với GUI, cho phép agent xen kẽ bấm màn hình và gọi hàm trong một task. Kèm MobileGym++ Bench: 215 task long-horizon cross-app đánh giá GUI-only và hybrid trên cùng bộ task.

Ví dụ đời thường: giống người dùng điện thoại thực thụ — đôi khi lướt tay bấm qua các màn hình, đôi khi dùng nút 'tìm nhanh' có sẵn trong app cho gọn; cả hai cách đều chạm vào cùng một dữ liệu trong máy, và mục tiêu cuối là xong việc chứ không phải đi đường nào.

III. Main Results:​

  • AndroidWorld 79.9, MobileWorld 50.4 (bản 27B), cạnh tranh với các mô hình thương mại; bản 9B tăng +19.7 điểm so với base.
  • Chuyển giao sang thiết bị thật: SPA-Bench tăng từ 31.9 lên 59.6 (gần gấp đôi), vượt các baseline mã nguồn mở mạnh.
  • Hybrid SFT giúp tool thực sự hữu ích: trên MobileGym++ Bench, hybrid vượt GUI-only (27B: 57.7 → 65.6); số bước tương tác giảm 4.8–5.8 bước, tỉ lệ gọi tool tăng mạnh (1.41 và 2.23 lần/task).
  • Tool-use khái quát hóa được: trên MobileWorld MCP với tool chưa từng thấy, hybrid SFT đạt 45.0 so với 35.0 của GUI-only SFT.
  • Phân tích coverage: với ngân sách 2K trajectory cố định, mở rộng từ 15 lên 53 app cải thiện Pass@1 trên app lạ (60.7 → 67.5) mà gần như không giảm hiệu suất app quen thuộc.
  • Kiểm tra overfitting: độ tương đồng dữ liệu train với các benchmark rất thấp (<2.25% vượt ngưỡng 0.7).

IV. Conclusion & Future Works:​

OpenMobile-2 chứng minh rằng mở rộng quy mô môi trường là đường đi thực tế để huấn luyện tác nhân mobile mạnh mà không cần dữ liệu độc quyền. Ba bài học chính:

  • App thương mại tái hiện trung thực + reset sạch là chìa khóa cho cả SFT lẫn RL.
  • Chỉ cung cấp app-native tools thì không đủ — phải huấn luyện hybrid thì agent mới biết khi nào nên gọi tool, và khi đó hiệu quả vượt bậc.
  • Lợi ích của RL phụ thuộc vào độ tương thích giữa môi trường huấn luyện và bối cảnh đánh giá.

Hướng tương lai: toàn bộ môi trường, dữ liệu, benchmark và model được mở mã nguồn để hỗ trợ nghiên cứu mở về tác nhân mobile, bao gồm mở rộng thêm app, cải thiện chiến lược dùng tool và thu hẹp khoảng cách với thiết bị thật.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu chiến lược chọn kênh tương tác: làm thế nào agent tự quyết định khi nào bấm GUI, khi nào gọi app-native tool dựa trên độ phức tạp của bước và trạng thái hiện tại.
  2. Mở rộng pipeline tự sinh dữ liệu sang app thương mại thật trên thiết bị thật, kết hợp mô phỏng để huấn luyện RL quy mô lớn cho tác nhân mobile.
  3. RL đa vòng (multi-turn RL) trên task mobile long-horizon cross-app, với reward dựa trên thay đổi trạng thái nghiệp vụ của ứng dụng.
  4. Học chuyển giao giữa môi trường mô phỏng và thiết bị thật cho tác nhân GUI, nhằm giảm domain gap về hình ảnh và hành vi ứng dụng.
  5. Đánh giá tác nhân mobile đa phương thức (GUI + tool + giọng nói) trong kịch bản người dùng thực có tương tác liên tục với agent.

2. Patent:​

  1. Trợ lý điện thoại tự động kết hợp hai cách thao tác: vừa điều khiển giao diện màn hình vừa gọi trực tiếp các chức năng có sẵn của từng ứng dụng (như tìm sản phẩm, đặt lịch) để hoàn thành việc nhanh hơn, ví dụ đặt vé máy bay rồi tự thêm lịch nhắc và gửi xác nhận cho người nhận trong một lượt.
  2. Hệ thống tạo bản sao mô phỏng của các ứng dụng phổ biến trên điện thoại để huấn luyện trợ lý AI: bản sao cho phép khôi phục trạng thái ban đầu ngay lập tức và tự kiểm tra kết quả, giúp huấn luyện hàng nghìn tình huống mua sắm, giao dịch mà không lo ảnh hưởng tài khoản thật.
  3. Nền tảng sinh dữ liệu huấn luyện tự động cho trợ lý điện thoại: mô hình AI thử thực hiện yêu cầu người dùng trong môi trường thử nghiệm, chỉ giữ lại những lần làm thành công được xác minh tự động, tạo kho ví dụ học miễn phí.
  4. Khung kiểm thử ứng dụng mobile tự động bằng AI: kiểm tra luồng nghiệp vụ xuyên nhiều ứng dụng (sao chép thông tin sang app khác, thanh toán liên ứng dụng) bằng cách xác minh thay đổi dữ liệu nghiệp vụ thay vì soi từng màn hình.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.14157
ArXiv Abstracthttps://arxiv.org/abs/2610.14157
PDF Downloadhttps://arxiv.org/pdf/2610.14157.pdf
Github Repositoryhttps://github.com/OpenMobile2/OpenMobile2-Code

13. From Research Goals to Scientific Closure: Evaluating Agents Through Evidence-Supported Physics Research (37 votes)​

Tác giả: Yijia Mao, Song Dai, Tao Chen, Xiangyu Lu, Linqian Zeng, et al.

Xuất bản lúc: 2026-10-15

Tag: AI Agents, LLMs, Scientific Discovery, Benchmarking, Physics, Autonomous Research, Evaluation

I. Main Problem:​

Các benchmark khoa học hiện nay chủ yếu chấm đáp án đúng, code chạy được, hoặc tái hiện được kết quả đã công bố, nhưng hiếm khi kiểm tra cả quá trình điều tra có dẫn đến một kết luận khoa học đầy đủ hay không.

Điều này tạo ra khoảng trống đánh giá:

  • Agent có thể tạo ra kết quả hợp lý hoặc đúng ở bước cuối nhưng không chứng minh được cơ chế vật lý.
  • Có thể tạo dữ liệu cần thiết nhưng diễn giải sai xu hướng của chính dữ liệu đó.
  • Có thể ủng hộ kết luận chính nhưng bỏ qua giới hạn áp dụng, kiểm chứng bắt buộc hoặc điều kiện phạm vi.
  • Vì vậy, một nghiên cứu có nhiều thành phần tốt vẫn chưa chắc đã khép lại được câu hỏi nghiên cứu.

II. Main Idea:​

Bài báo đề xuất PhysClosureBench, gồm 50 tác vụ nghiên cứu vật lý được chuyên gia kiểm chứng, xoay quanh strong-field physics, attosecond science, vật lý chất rắn, quantum optics và các lĩnh vực lân cận. Mỗi tác vụ chỉ cung cấp:

  • mục tiêu khoa học cần trả lời
  • thiết lập vật lý, tham số và ràng buộc cần thiết
  • ngân sách tính toán, thời gian và môi trường cô lập không có mạng

Không đưa quy trình giải cố định. Agent phải tự quyết định cách lập kế hoạch, chạy mô phỏng, tạo observables, phân tích, kiểm chứng và kết luận.

Đánh giá gồm hai lớp bổ sung nhau:

  • Atomic Score: 20 tiêu chí, mỗi tiêu chí 0.5 điểm, đo mức hoàn thành cục bộ theo năm nhóm: Formulation, Output, Identification, Mechanism, Validation/Scope.
  • Research Closure từ RC0 đến RC4: đo mức độ điều tra đã thỏa các yêu cầu bằng chứng, cơ chế và phạm vi áp dụng cần thiết để trả lời câu hỏi nghiên cứu.

Ví dụ đời thường: giống một thám tử không chỉ thu thập dấu vết tại hiện trường, mà còn phải đối chiếu chứng cứ, giải thích cách vụ việc xảy ra, loại trừ khả năng khác và xác định suy luận chỉ đúng trong trường hợp nào trước khi kết luận.

III. Main Results:​

  • Tác giả đánh giá 7 mô hình frontier trên 50 tác vụ, mỗi tác vụ chạy ba lần độc lập, tổng cộng 1.050 lượt.
  • Claude-Opus-5 đạt Atomic Score trung bình cao nhất: 6.29/10, nhưng chỉ đạt RC4 trong 32.7% các lượt.
  • Các mô hình mạnh tiếp theo gồm GPT-5.6-Sol: 5.83/10 và RC4 22.7%; Kimi-K3: 5.17/10 và RC4 19.3%. Gemini-3.1-Pro thấp nhất: 2.85/10 và RC4 0.7%.
  • Ngay cả khi làm rất tốt từng phần, kết luận hoàn chỉnh vẫn hiếm: 36.2% các lượt đạt ít nhất 8/10 Atomic Score vẫn không đạt RC4.
  • Với nhóm đạt từ 8/10 nhưng chưa RC4, các tiêu chí còn thiếu tập trung ở Identification và Mechanism, cho thấy tạo được kết quả chưa đồng nghĩa với giải thích được ý nghĩa khoa học của kết quả.
  • Kiểm chứng cũng là điểm yếu: scope justification đạt 86.9%, nhưng required validation chỉ 59.6% và risk-linked validation chỉ 47.8%.
  • Khi lặp lại ba lần, khoảng cách càng rõ: Claude-Opus-5 đạt RC4 ít nhất một lần trên 50% tác vụ, nhưng chỉ đạt RC4 cả ba lần trên 18%; GPT-5.6-Sol là 40% so với 10%; Kimi-K3 là 40% so với 4%.
  • Phân tích tình huống attoclock cho thấy ba mức thất bại khác nhau: diễn giải sai xu hướng dẫn tới RC2; có cơ chế đúng nhưng chưa giải quyết giới hạn áp dụng dẫn tới RC3; chỉ khi kết quả, cơ chế và phạm vi đều được ủng hộ mới đạt RC4.

IV. Conclusion & Future Works:​

Kết luận chính là có một khoảng cách lớn giữa làm được nhiều thành phần khoa học và hoàn thành toàn bộ quá trình nghiên cứu. Agent có thể lập mô hình đúng, tạo dữ liệu và đạt điểm cục bộ cao, nhưng vẫn thất bại ở diễn giải, chứng minh cơ chế, kiểm chứng hoặc xác định phạm vi áp dụng.

Bài báo cũng cho thấy không thể chỉ dùng một lần chạy thành công để kết luận agent đã có năng lực nghiên cứu ổn định. Cần đánh giá thêm độ tin cậy qua nhiều lần thử độc lập.

Hướng tương lai:

  • Cải thiện khả năng diễn giải kết quả và chứng minh cơ chế, thay vì chỉ tối ưu tạo output.
  • Tăng cường tự kiểm chứng, đối chứng và xác định giới hạn áp dụng.
  • Phát triển phản hồi huấn luyện hoặc cơ chế tự đánh giá giúp agent nhận ra phần bằng chứng còn thiếu trước khi kết luận.
  • Mở rộng đánh giá closure và tính nhất quán sang nhiều lĩnh vực khoa học khác.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển các agent khoa học tự xây dựng đồ thị bằng chứng, trong đó mỗi kết luận phải liên kết tới dữ liệu, cơ chế, kiểm chứng và giới hạn phạm vi tương ứng.
  2. Nghiên cứu chiến lược tự kiểm chứng cho agent mô phỏng vật lý, tập trung vào cách phát hiện xu hướng bị diễn giải sai hoặc mô hình cơ chế chưa đủ bằng chứng.
  3. Xây dựng phương pháp đánh giá độ tin cậy nghiên cứu qua nhiều lần chạy độc lập, phân biệt khả năng đạt kết luận đúng một lần với khả năng lặp lại kết quả đó.
  4. Mở rộng ý tưởng Research Closure sang hóa học, vật liệu và sinh học tính toán, nơi kết luận cũng cần kiểm chứng thực nghiệm và giới hạn điều kiện áp dụng.

2. Patent:​

  1. Ứng dụng điện thoại hướng dẫn nghiên cứu khoa học: người dùng nhập câu hỏi, ứng dụng tự lập kế hoạch thu thập hoặc mô phỏng dữ liệu, yêu cầu giải thích cơ chế và kiểm chứng trước khi đưa ra kết luận.
  2. Trợ lý thực nghiệm trên điện thoại cho dữ liệu cảm biến: điện thoại thu nhận số liệu từ camera, micro hoặc cảm biến ngoài, tự đề xuất phép đối chứng, ước lượng sai số và cảnh báo nếu kết luận vượt quá phạm vi dữ liệu.
  3. Hệ thống kiểm toán báo cáo khoa học qua điện thoại: người dùng tải biểu đồ, bảng số liệu hoặc bản thảo; hệ thống tách riêng kết quả, diễn giải, bằng chứng và giới hạn áp dụng, rồi chấm mức độ đủ căn cứ của kết luận.
  4. Công cụ học và làm nghiên cứu có giám sát quy trình: sinh viên hoặc kỹ sư dùng điện thoại để ghi lại từng bước mô phỏng, ứng dụng phát hiện khi chỉ có kết quả mà chưa có cơ chế hoặc chưa kiểm chứng điều kiện áp dụng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.21767
ArXiv Abstracthttps://arxiv.org/abs/2610.21767
PDF Downloadhttps://arxiv.org/pdf/2610.21767.pdf
Github Repositoryhttps://github.com/uncertainty2019/PhysClosureBench

14. BridgeWAM: Bridging Video and Action Experts via Latent Bridge Queries (36 votes)​

Tác giả: Jiaxin Fang, Ruitong Liu, Zeyu Lai, Xingyu Wang, Mingyuan Jia, et al.

Xuất bản lúc: 2026-10-10

Tag: World Action Models, Robot Learning, Vision-Language-Action, Diffusion, Mixture-of-Transformers, Latent Queries, Embodied AI

I. Main Problem:​

Các mô hình World Action Model (WAM) hiện nay ghép Video Expert và Action Expert qua cơ chế Mixture-of-Transformers (MoT) theo từng layer, gây hai hạn chế:

  • Mỗi layer video phơi bày toàn bộ visual features (dense K/V) cho layer action tương ứng, khiến thông tin liên quan tác vụ cạnh tranh với chi tiết thừa; action generation dễ tập trung vào vùng thị giác không liên quan, giảm khả năng khái quát khi môi trường thay đổi.
  • Ghép một-một giữa các layer buộc hai expert phải cùng độ sâu, tạo tham số và tính toán dư thừa — phía action quá lớn khiến mô hình học vẹt pattern cảnh thay vì quy luật tổng quát.

II. Main Idea:​

Bridge-of-Experts (BoE), hiện thực hóa thành BRIDGEWAM, thay ghép MoT dày đặc bằng một cầu tiềm ẩn gọn: 32 Latent Bridge Queries (LBQs) — các vector truy vấn học được — tổng hợp ảnh quan sát, ngôn ngữ và trạng thái robot vào một không gian tiềm ẩn chung, giới hạn kích thước.

  • Trong Video Expert, LBQs liên tục đọc đặc trưng khung hiện tại; video tương lai chỉ được đọc từ LBQs chứ không ngược lại.
  • Action Expert chỉ nhận điều kiện qua LBQs (cross-attention), không thấy video token thô hay text/state trực tiếp.
  • Hai expert tách độc lập độ sâu: 30-layer Video Expert + Action Expert siêu nhẹ chỉ 2 layer (cross-attention rồi self-attention); LBQs tính một lần và tái sử dụng trong toàn bộ quá trình denoise action.
  • Tối ưu chung: gradient của loss action chảy ngược qua LBQs vào Video Expert, ép video học biểu diễn phục vụ điều khiển; đồng thời Action Expert học chọn lọc thông tin tác vụ từ cầu.

Ví dụ đời thường: giống như trưởng phòng không giao cho nhân viên mới cả chồng tài liệu thô, mà cử một trợ lý tóm tắt 32 dòng chỉ giữ thông tin cần thiết cho việc; trợ lý lại được đào tạo để biết điều gì là quan trọng cho công việc, nên nhân viên làm nhanh hơn mà không bị ngập dữ liệu.

III. Main Results:​

  • LIBERO: 98.25% trung bình (Object đạt 100%), cao hơn Fast-WAM 1.45 điểm; LIBERO-Pro zero-shot: 53.7%.
  • LIBERO-Plus zero-shot: 72.2% (từ 49.5% của Fast-WAM), tốt nhất về biến đổi camera (56.5%).
  • RoboTwin 2.0: vượt Fast-WAM và Faster-WAM ở nhiều tác vụ khó (vd. Stack Bowls Three: 90% vs 78%); gần bằng các mô hình lớn hơn dù Action Expert chỉ 2 layer.
  • Hiệu quả: 5.06B tham số (giảm ~9% so với Faster-WAM); 1.46T FLOPs (giảm 54.7% so với Fast-WAM); độ trễ thực tế 77.1ms — nhanh 2.47× so với Fast-WAM.
  • Ablation chứng minh: đóng băng Video Expert → LIBERO-Plus chỉ còn 25.5% (joint adaptation là bắt buộc); đọc LBQ kiểu MoT → tụt 12 điểm ở Plus; tăng số layer Action Expert không giúp mà còn giảm robustness; khoảng 24–36 LBQs là đủ.
  • Định tính: attention của Action Expert tập trung rõ vào vật mục tiêu và điểm đích, ổn định dưới nhiễu background, ánh sáng, góc camera.

IV. Conclusion & Future Works:​

BoE khắc phục hai điểm yếu của MoT bằng giao diện tiềm ẩn gọn, học được (LBQs) cho phép Action Expert truy xuất chọn lọc đồng thời nhận điều chỉnh từ supervision phía action, và bằng tách độ sâu hai expert giúp giải mã action nhẹ nhàng mà không hy sinh sức mạnh biểu diễn video. Kết quả là cân bằng tốt giữa hiệu suất, khả năng khái quát và chi phí suy luận. Hướng phát triển hợp lý: mở rộng BoE sang các cặp expert khác (âm thanh, xúc giác), tối ưu số LBQs thích ứng theo tác vụ, và kết hợp với các kỹ thuật future-aware conditioning để thu hẹp khoảng cách hiệu suất còn lại với mô hình nặng hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng Latent Bridge Queries thành cơ chế giao tiếp chung giữa nhiều expert (video, âm thanh, xúc giác, ngôn ngữ) trong robot đa giác quan, một không gian tiềm ẩn chung thay cho ghép attention dày đặc.
  2. Kết hợp BoE với future-aware conditioning để Action Expert vừa đọc cầu tiềm ẩn gọn vừa khai thác thông tin dự báo tương lai, thu hẹp khoảng cách hiệu suất với WAM nặng hơn mà giữ độ trễ thấp.
  3. Nghiên cứu chiến lược điều chỉnh số lượng LBQs và năng lực Action Expert theo độ phức tạp tác vụ, cho phép robot tự cân bằng giữa độ chính xác và tốc độ suy luận trong điều khiển vòng kín.

2. Patent:​

  1. Hệ thống điều khiển robot trên điện thoại với đầu Action siêu nhẹ: mô hình video lớn chạy trên đám mây rút gọn cảnh thành vài chục vector tóm tắt gửi xuống điện thoại, điện thoại chỉ chạy mạng 2 lớp để tính động tác — robot phản hồi nhanh, tiết kiệm pin và băng thông.
  2. Cánh tay robot công nghiệp tự thích nghi khi đổi camera hoặc ánh sáng xưởng: bộ truy vấn cầu học được chỉ giữ thông tin liên quan tác vụ, robot vẫn thao tác chính xác mà không cần hiệu chỉnh lại toàn hệ thống thị giác.
  3. Robot phục vụ gia đình dùng chip suy luận rẻ tiền: tách mô hình thành phần video nặng (máy chủ) và phần quyết định hành động nhẹ (thiết bị đầu cuối), truyền qua giao diện tóm tắt nhỏ, cho phép điều khiển thời gian thực với độ trễ dưới 80ms.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.14746
ArXiv Abstracthttps://arxiv.org/abs/2610.14746
PDF Downloadhttps://arxiv.org/pdf/2610.14746.pdf
Github Repositoryhttps://github.com/jxfang04/BridgeWAM-code

15. Tree-Aware Posterior Distillation for Long-Horizon Agentic Reinforcement Learning (34 votes)​

Tác giả: Heming Zou, Qi Wang, Yixiu Mao, Yun Qu, Yuyi Guo, et al.

Xuất bản lúc: 2026-10-16

Tag: Reinforcement Learning, LLMs, Agentic AI, Policy Distillation, Credit Assignment, Long-Horizon Tasks, Multi-Turn Agents

I. Main Problem:​

Huấn luyện tác tử ngôn ngữ lớn trong tương tác nhiều bước, kéo dài gặp hai nút thắt chính:

  • Phân bổ công lao thưa thớt: chỉ có phần thưởng cuối cùng, nên một lượt hành động tốt trong chuỗi thất bại vẫn bị phạt, còn lượt xấu trong chuỗi thành công vẫn được thưởng.
  • Chính sách bị cũ giữa các lần cập nhật: dữ liệu thu thập từ chính sách cũ, nhưng mô hình được cập nhật nhiều mini-batch liên tiếp nên dần trôi xa chính sách đã tạo ra dữ liệu.

Các cách hiện có thường cần mạng giá trị, nhãn từng bước, hoặc giáo viên ngoài mạnh hơn; còn cắt tỉa tỉ lệ quan trọng chỉ giới hạn bước đi, không chỉ rõ điểm đến để dừng lại.

II. Main Idea:​

TreeOPSD là khung tự cất lớp hậu nghiệm, không cần mạng giá trị, biến phần thưởng cuối thành tín hiệu điều khiển từng lượt theo cây hành vi. Cơ chế chính:

  • Xây cây rollout: từ mỗi prompt, chính sách cũ tạo vài chuỗi hoàn chỉnh, rồi nhân các nhánh tiếp nối từ các tiền tố chung để so sánh nhiều cách đi sau cùng một lịch sử.
  • Sao lưu phần thưởng ngược lên cây: phần thưởng ở đầu nhánh được tổng hợp theo trọng số khả năng của chính sách cũ, thành điểm tín nhiệm từng lượt mà không cần người chấm từng bước.
  • Đóng băng một đích Bernoulli cho mỗi lượt: điểm tín nhiệm được ánh xạ tuyến tính thành xác suất mục tiêu quanh mức chính sách cũ, ví dụ công lao dương đẩy lượt đó lên cao hơn, công lao âm đẩy xuống thấp hơn.
  • Khớp học sinh với đích đóng băng: ở mỗi mini-batch, mô hình tính lại khả năng hiện tại của lượt so với chính sách cũ, rồi kéo nó về đích; khi tới đích lực kéo tiệt, nếu bị đẩy quá đích thì lực kéo đổi dấu tự sửa.

Ví dụ đời thường: giống như học lái xe bằng cách quay nhiều cung đường từ cùng một ngã rẽ, xem điểm đích của từng cách rẽ, rồi ghi nhớ với mỗi ngã rẽ một điểm dừng hợp lý; sau đó từng bước lái lại chỉ cần tiến tới điểm dừng đó và tự lùi nếu chạy quá.

III. Main Results:​

  • Trên Multi-Hop QA, TreeOPSD đạt trung bình 44.13 với Qwen3-4B và 45.93 với Qwen3-30B-A3B, cao hơn GRPO và TreePO cùng ngân sách lấy mẫu.
  • Trên Deep Research, lợi ích lớn hơn rõ ở tác vụ dài hơn: Qwen3-4B tăng từ 13.07 của TreePO lên 15.45; Qwen3-30B-A3B tăng từ 17.59 lên 21.20, tức +4.97 điểm so với GRPO.
  • Khi chuyển sang đánh giá ngoài web mở như BrowseComp, GAIA và xbench-DeepSearch, các chính sách TreeOPSD vẫn giữ lợi thế.
  • Phân tích cho thấy cách dùng điểm từng lượt tốt hơn điểm so sánh trong nhóm, vì hai nhánh hữu ích chung một nút cha có thể cùng được nâng thay vì triệt tiêu lẫn nhau.
  • Ánh xạ odds dùng trong bài giữ đích cha bằng trung bình trọng số của các đích con, nên cộng hưởng với cây; bản đối chứng dùng sigmoid logistic tuy khớp bước đầu nhưng phá tính nhất quán này.
  • Với cùng chi phí lấy mẫu kỳ vọng, cấu hình 4 rollout gốc + 2 nhánh tiếp nối hoạt động tốt hơn chỉ lấy 8 chuỗi độc lập, cho thấy chia sẻ tiền tố có giá trị.

IV. Conclusion & Future Works:​

Điểm mới cốt lõi là tách xây đích khỏi kéo chính sách về đích: đích được tạo một lần từ cây và chính sách cũ, còn việc học lặp lại nhiều mini-batch chỉ là hạ khoảng cách tới đích. Nhờ đó phương pháp giữ đúng hướng tăng công lao tại điểm lấy mẫu, đồng thời có điểm dừng hữu hạn và cơ chế đổi dấu tự sửa khi trôi xa. Hướng mở rộng hợp lý: tinh chỉnh bán kính đích và cách chia rollout gốc/nhánh tiếp nối theo từng môi trường, kết hợp phần thưởng cuối với ràng buộc an toàn, và thử nghiệm trên tác tử đa phương thức hoặc hệ thống có chi phí công cụ rất cao.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu bán kính đích thích ứng: tự điều chỉnh mức giới hạn quanh chính sách cũ theo độ dài cây, độ lệch phần thưởng và ngân sách công cụ, thay vì dùng một hằng số cố định.
  2. Mở rộng TreeOPSD cho tác tử dùng nhiều loại công cụ và ảnh quan sát, trong đó mỗi lượt có thể gồm suy nghĩ, gọi công cụ, xử lý ảnh và chờ phản hồi môi trường.
  3. Phân tích lý thuyết tốc độ hội tụ khi số lượng nhánh chia sẻ tiền tố tăng, làm rõ khi nào cây rollout đáng giá hơn lấy nhiều chuỗi độc lập ở cùng chi phí.
  4. Kết hợp đích hậu nghiệm từ phần thưởng cuối với kiểm tra an toàn ở từng lượt để giảm hành vi đạt điểm nhưng vi phạm ràng buộc thực tế.

2. Patent:​

  1. Trợ lý nghiên cứu trên điện thoại: khi người dùng hỏi một vấn đề phức tạp, ứng dụng tạo vài đường điều tra từ cùng dữ kiện ban đầu, chạy thử các nhánh truy vấn khác nhau, rồi học lại cách chọn bước tiếp theo dựa trên câu trả lời cuối cùng được kiểm chứng.
  2. Hệ huấn luyện nhân viên hỗ trợ khách hàng: mô phỏng nhiều cuộc hội thoại từ cùng một tình huống, chấm điểm cuối theo mức giải quyết vấn đề, sau đó cất lớp lại xu hướng trả lời ở từng lượt để bản cập nhật không bị kéo quá xa so với phiên bản đã tạo dữ liệu.
  3. Ứng dụng ghi chú học tập tự cải thiện: từ một bài toán hoặc tài liệu, hệ thống mở nhiều nhánh giải thích, đối chiếu kết quả cuối với đáp án tin cậy, rồi điều chỉnh cách đặt câu hỏi tiếp theo để hướng người học tới lời giải đúng mà không cần người chấm từng bước.
  4. Trợ lý lập kế hoạch du lịch trên điện thoại: thử nhiều lịch trình từ cùng điểm xuất phát và ngân sách, chấm điểm cuối theo thời gian, chi phí và sở thích, sau đó tinh chỉnh đề xuất từng bước đặt vé, đặt phòng và di chuyển theo mục tiêu đã đóng băng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.23181
ArXiv Abstracthttps://arxiv.org/abs/2610.23181
PDF Downloadhttps://arxiv.org/pdf/2610.23181.pdf
Github RepositoryN/A

16. Lexical Reference Frames: Interpreting LM Residual Streams in Native Semantics (32 votes)​

Tác giả: Jian Gu, Hongyu Zhang, Chunyang Chen, Aldeida Aleti

Xuất bản lúc: 2026-10-15

Tag: Interpretability, Language Models, Residual Stream, Mechanistic Interpretability, Attention, Logit Lens, Steering, Attribution

I. Main Problem:​

Các trạng thái ẩn giữa các lớp của mô hình ngôn ngữ là đối tượng của vô số ứng dụng — early exit, phát hiện hallucination, chỉnh sửa tri thức, nén mô hình — nhưng bản thân chúng không có định nghĩa ngữ nghĩa rõ ràng.

Hai hướng hiện tại đều thiếu cách mô hình thực sự đọc trạng thái:

  • Logit lens / tuned lens / Jacobian lens dùng một ánh xạ cố định cho mỗi lớp, nên bỏ qua ngữ cảnh và không theo được hướng đọc thay đổi giữa các câu.
  • Thống kê point-cloud như rank, intrinsic dimension, anisotropy chỉ mô tả trạng thái phân bố thế nào, không cho biết mô hình dùng trạng thái đó ra sao.

II. Main Idea:​

Bài báo đề xuất lexical reference frames: mỗi hidden state được đọc trong một hệ trục gốc do các lớp còn lại của chính mô hình tạo ra, thay vì qua một thấu kính cố định.

  • Native frame của một trạng thái là kết quả vận chuyển trạng thái đó qua toàn bộ lớp còn lại, với prefix giữ nguyên; nó cho ra các lexical readouts, tức hướng làm thay đổi logit của từng token.
  • LexFrame[n] xấp xỉ native frame bằng cách vận chuyển trạng thái qua các lớp còn lại nhưng chỉ thực hiện n vòng attention giữa các vị trí; attention còn lại được thay bằng một đầu ra attention “điển hình”, ước lượng một lần từ văn bản chưa gắn nhãn.
  • LexFrame[0] đọc trạng thái tự nó giữ gì, bỏ qua ngữ cảnh.
  • LexFrame[1] cho trạng thái attend trực tiếp tới prefix, đo phần thông tin trạng thái rút ra từ các token trước.
  • LexFrame[2] cho phép thông tin đi qua hai bước trong prefix.
  • LexFrame[∞] khôi phục đúng mô hình gốc và bằng output của mô hình.

Điểm mấu chốt là frame này model-native và context-aware tới bậc n đã chọn, đồng thời không fit gì vào output của mô hình, nên các lớp, checkpoint và mô hình cùng họ có thể so sánh công bằng.

Ví dụ đời thường: giống như đọc một từ giữa đoạn văn bằng cách để phần câu chuyện còn lại vận hành và làm rõ ý nghĩa của từ đó, thay vì tra cùng một nghĩa trong từ điển cho mọi đoạn văn.

III. Main Results:​

  • Trên SmolLM3-3B và OLMo3-7B, không một fixed-direction lens nào có thể vượt giới hạn √κ giữa hướng đọc cố định và native lexical readouts. Ở giữa mạng, giới hạn chỉ 0.30/0.35, trong khi LexFrame[1] đạt cosine trung bình 0.97/0.97.
  • KL divergence từ output của mô hình tới reading trung bình theo lớp:
    • LexFrame[0]: 0.87/0.93 nats
    • LexFrame[1]: 0.16/0.15 nats
    • LexFrame[2]: 0.06/0.05 nats
    • logit lens: 29.06/5.66 nats
    • Jacobian lens: 7.51/6.19 nats
  • LexFrame[1] đồng ý với top token của mô hình trên 0.86/0.86 số trạng thái, và trên 9/10 từ các lớp 18 và 17 trở lên; lens chỉ đạt mức một nửa gần output. Reading của LexFrame cũng “định cư” vào top token trong 0.82/0.81 số lớp cuối, so với tối đa 0.11 của lens.
  • Calibration error của LexFrame[1] là 0.027/0.018, gần với mô hình gốc 0.018/0.023, nên reading của nó có thể xem là dự đoán đáng tin chứ không chỉ là đại lượng phân tích.
  • Khoảng cách point-cloud dự đoán rất kém hiệu ứng khi thay trạng thái: rank correlation tối đa 0.28. LexFrame[1] đạt 0.94/0.95, vì nó so sánh trạng thái theo các hướng mà các lớp còn lại thực sự phản ứng.
  • Steering: readout của LexFrame[1] lật dự đoán trong 0.92/0.94 trường hợp, gần mức native frame 0.95/0.97; lexical basis cho nhiều can thiệp “sạch” hơn, đạt 0.71/0.82 clean flips so với tối đa 0.57 của lens.
  • Attribution: chênh lệch hệ số của LexFrame[1] tương quan 0.88/0.90 với hiệu ứng đo bằng cách gỡ component ra khỏi forward pass, tốt hơn linear attribution của native frame (0.62/0.68) và lens (tối đa 0.20).

IV. Conclusion & Future Works:​

Kết luận chính là: muốn giải thích một hidden state, cần đọc nó theo cách mô hình đọc — qua các lớp còn lại, với ngữ cảnh mô hình nhìn thấy, trong chính ngữ nghĩa gốc là từ vựng của mô hình. LexFrame[1] đã đủ sát native frame từ giữa chiều sâu để thay thế lens trong nhiều tác vụ phân tích trạng thái trung gian.

Bài báo không đưa roadmap tương lai chi tiết, nhưng các hướng mở tự nhiên gồm:

  • chọn bậc LexFrame theo độ phức tạp ngữ cảnh và ngân sách tính toán;
  • tính lexical basis/readout hiệu quả hơn cho mô hình lớn và context dài;
  • đưa frame vào early exit, phát hiện hallucination, chỉnh sửa tri thức và distillation;
  • theo dõi cách native frame thay đổi trong suốt huấn luyện.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Early exit và self-speculative decoding dựa trên LexFrame: dùng reading ở giữa mạng để quyết định lớp nào đã đủ tin cậy, thay vì chỉ dựa vào logit lens.
  2. Phát hiện hallucination bằng độ lệch giữa LexFrame[0], LexFrame[1] và output cuối: đo trạng thái có đang dựa vào ngữ cảnh đúng mức mô hình cần hay không.
  3. Knowledge editing và model compression theo lexical basis: chỉnh hoặc khớp trạng thái trung gian theo hướng tác động chọn lọc tới token mục tiêu, giảm làm nhiễu các token khác.
  4. Phân tích động lực học huấn luyện qua native reference frame: xem các lexical readouts và attribution paths hình thành, ổn định hay suy biến qua các checkpoint.

2. Patent:​

  1. Ứng dụng trợ lý AI trên điện thoại dùng early exit: đọc trạng thái giữa các lớp bằng cách mô phỏng phần mạng còn lại, nếu đã đủ chắc câu trả lời thì dừng sớm để giảm pin, nhiệt và độ trễ.
  2. Bộ kiểm tra độ tin cậy câu trả lời trên điện thoại: khi mô hình đang sinh văn bản, hệ thống so sánh cách đọc trạng thái giữa chừng với cách đọc có đủ ngữ cảnh để cảnh báo câu có dấu hiệu bịa thông tin trước khi hiển thị.
  3. Công cụ chỉnh sửa tri thức cục bộ cho mô hình ngôn ngữ nhúng trên thiết bị: tìm hướng tương ứng với một sự kiện hoặc thuộc tính, rồi chỉ thay đổi phần trạng thái liên quan để cập nhật thông tin mà ít ảnh hưởng tới câu trả lời khác.
  4. Module nén mô hình cho điện thoại: dạy mô hình nhỏ bằng cách bắt chước không chỉ output cuối, mà bắt chước cả cách đọc trạng thái giữa các lớp theo phần mạng còn lại của mô hình lớn.
  5. Hệ thống debug phản hồi AI trong ứng dụng mobile: khi câu trả lời sai, hiển thị token nào bị các lớp giữa đẩy mạnh hoặc bị bỏ qua, giúp nhà phát triển hiệu chỉnh prompt hoặc dữ liệu.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.22169
ArXiv Abstracthttps://arxiv.org/abs/2610.22169
PDF Downloadhttps://arxiv.org/pdf/2610.22169.pdf
Github Repositoryhttps://github.com/jianguda/lexframe

17. Xiaomi-Lens-0 Technical Report (27 votes)​

Tác giả: Pei Fu, Yike Liu, Yue Sun, Hanmo Wang, Xiuwen Xi, et al.

Xuất bản lúc: 2026-10-16

Tag: MLLMs, Visual Grounding, Segmentation, Referring Expression, Vision-Language Models, Chain-of-Thought

I. Main Problem:​

Các Multimodal Large Language Models (MLLMs) trả lời tốt về toàn bộ hình ảnh nhưng yếu trong hiểu biết chi tiết ở cấp vùng (region) — thường đếm nhầm vật gần nhau, nhận sai thuộc tính của vùng nhỏ. Nguyên nhân chính:

  • Giám sát chỉ bằng text: tín hiệu huấn luyện đến hoàn toàn từ câu trả lời, không chỉ định vùng ảnh nào hỗ trợ câu trả lời đó, vùng đó kéo dài đến đâu.
  • Các mô hình RES hiện có (LISA, Sa2VA, Qwen3-VL-Seg) dùng encoder phân đoạn bổ sung hoặc giữ vision encoder đóng băng, nên mask loss không chạm tới biểu diễn thị giác chia sẻ với sinh ngôn ngữ.
  • Mask supervision bị coi chỉ là công cụ cho segmentation, chưa được kiểm chứng có cải thiện perception và reasoning chi tiết hay không.

II. Main Idea:​

Xiaomi-Lens-0 — MLLM 4B xây trên Qwen3.5 — dự đoán mask trực tiếp từ chính biểu diễn thị giác của mình, đưa giám sát cấp pixel vào backbone dùng chung với sinh ngôn ngữ:

  • Mask decoder nhẹ kết hợp patch grid của vision encoder (lấy trước spatial merger để giữ độ phân giải không gian) với visual latent — trạng thái ngữ cảnh của token đặc biệt <|mask|> do chính language model sinh ra. Không cần encoder phân đoạn phụ hay fusion đa tỉ lệ.
  • Giám sát song song: loss mask (BCE + Dice) lan tới cả vision encoder và language model qua latent, nên mức độ lan rộng của vùng được ghi khắc ngay trong biểu diễn dùng để trả lời.
  • Thinking with visual latents: model xen kẽ lý luận văn bản với các <|mask|> token; mỗi latent giải mã thành một mask, làm vùng bằng chứng trong CoT trở nên cụ thể, kiểm chứng được. Grounded reasoning traces cung cấp mask cho cả các vùng trung gian được nhắc tới.
  • Hai giai đoạn huấn luyện: pretrain mask decoder trên backbone đóng băng, rồi fine-tune chung cả hai với hỗn hợp dữ liệu referring-expression và grounded reasoning.

Ví dụ đời thường: giống giáo viên chấm bài không chỉ đọc đáp án học sinh mà còn bắt học sinh tô đậm đúng dòng trong sách giáo khoa cho từng lập luận — từng câu suy luận đều phải chỉ được chính xác chỗ nó lấy bằng chứng, nên hiểu sâu hơn thay vì học vẹt đáp số.

III. Main Results:​

  • Referring Expression Comprehension: +5.6 điểm trung bình trên Qwen3.5 trên cả 8 split của RefCOCO, RefCOCO+, RefCOCOg.
  • Referring Expression Segmentation: đạt cIoU cao nhất trong các model so sánh trên mọi split RES.
  • Multi-instance grounding trên COCO 2017: F1 cao nhất (trung bình IoU 0.50–0.95).
  • Perception chi tiết: vượt backbone Qwen3.5 trên mọi benchmark perception, chứng tỏ mask supervision cải thiện cả tác vụ không gian lẫn nhận thức.
  • LensBench (benchmark mới, 1,200 đơn vị ghép cặp qua 4 lĩnh vực ảnh): cIoU cao nhất trong các domain aerial, driving, panoramic; hướng dẫn ngầm (implicit) vẫn khó, nhất là chọn nhiều target trong ảnh panoramic.
  • Ablation: grounded reasoning traces giúp tăng thêm điểm REC và RES.

IV. Conclusion & Future Works:​

Giám sát mask từ biểu diễn thị giác chia sẻ là cách trực tiếp để khắc phục yếu tố hiểu vùng chi tiết: nó không chỉ nâng REC/RES mà còn cải thiện mọi benchmark perception — pixel-level supervision thực sự truyền vào năng lực lý luận. Việc xen visual latents vào CoT làm vùng bằng chứng minh chứng được và kiểm tra được. LensBench mở ra đánh giá referring trong điều kiện thực tế đa dạng (ảnh ngầm, đa target, nhiều lĩnh vực ảnh). Hướng tương lai: cải thiện khả năng với hướng dẫn ngầm và chọn nhiều target trong cảnh panoramic, và mở rộng giám sát cấp vùng cho các dạng lý luận đa phương thức phức tạp hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng thinking with visual latents cho video: latent thị giác giải mã thành mask theo từng khung hình để grounded reasoning truy cập vùng động thay vì tĩnh.
  2. Khám phá dùng visual latents làm cơ chế giải thích: mask trung gian trong CoT có thể làm tín hiệu chẩn đoán sai lệch (hallucination) của MLLM.
  3. Nâng cấp LensBench với hướng dẫn ngầm đa tầng và đánh giá chọn nhiều target trong cảnh toàn cảnh (panoramic).
  4. Kết hợp mask supervision từ biểu diễn chia sẻ cho robot embodied: vùng đích được ground trực tiếp trong biểu diễn dùng cho ra quyết định hành động.

2. Patent:​

  1. Ứng dụng camera điện thoại trợ lý thị giác cho người khiếm thị: người dùng hỏi 'cái cốc của tôi ở đâu'; mô hình vừa trả lời bằng giọng nói vừa khoanh vùng chính xác từng vật bằng rung hoặc mô tả vị trí, kể cả khi vật chỉ được mô tả gián tiếp ('đồ dùng để uống nước').
  2. Tính năng chỉnh sửa ảnh thông minh trên điện thoại: người dùng nói 'tô đậm chiếc xe đỏ bên trái' hoặc 'làm mờ mọi người ngoài trừ người đang cưới'; mô hình sinh mask pixel-chính-xác ngay trên ảnh để cô lập vùng chỉnh sửa mà không cần khoanh tay.
  3. Đếm và kiểm kê tự động bằng camera điện thoại cho cửa hàng/kho: chụp một lần, hỏi 'có bao nhiêu chai chưa nhập kho?'; mô hình liệt kê từng vật kèm mask để hiển thị overlay xác nhận, giảm sai số đếm vật xếp sát nhau.
  4. Hệ thống chú thích ảnh tự động cho bảo hiểm xe: chụp ảnh tai nạn, mô hình tự chỉ ra từng vùng hư hỏng bằng mask và giải thích từng vùng trong báo cáo, giúp nhân viên đối chiếu nhanh.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.23279
ArXiv Abstracthttps://arxiv.org/abs/2610.23279
PDF Downloadhttps://arxiv.org/pdf/2610.23279.pdf
Github Repositoryhttps://github.com/SeerRay-Lab/Xiaomi-Lens-0

18. RAP: A Dataset for Paper-to-Poster Generation via Declarative Markup from Human-Crafted Exemplars (24 votes)​

Tác giả: Haonan Han, Yukang Lin, Minliang Lin, Haoxian Tan, Jun-Yan He, et al.

Xuất bản lúc: 2026-10-16

Tag: Visual Coding, Dataset, Retrieval-Augmented Generation, Vision-Language Models, Reinforcement Learning, HTML/CSS Generation, OCR, Layout Analysis

I. Main Problem:​

Làm poster hội nghị là một dạng lập trình trực quan thu nhỏ: phải tóm tắt cả bài báo, thiết kế bố cục, chọn màu/chữ/hình, rồi render thành một trang duy nhất. Các bộ dữ liệu cũ còn hạn chế:

  • quy mô nhỏ: chỉ vài trăm cặp bài-poster, hoặc có poster nhưng không đủ bài báo đầy đủ
  • thiếu markup render được: chỉ có layout box, OCR, reading order, không tái tạo lại poster thành HTML/CSS để so sánh render
  • đánh giá thiếu khách quan: phụ thuộc VLM-as-judge hoặc checklist thay vì render-and-compare
  • chưa dùng được thiết kế của con người: các phương pháp thường tạo layout từ đầu, bỏ phí kho poster do con người làm sẵn.

II. Main Idea:​

RAP biến bài toán paper-to-poster thành bài toán tái cấu trúc poster thành markup khai báo: thay vì bắt mô hình tự nghĩ layout, tác giả thu thập 25,435 cặp bài báo-poster đã kiểm chứng từ NeurIPS, ICLR, ICML 2022-2026, rồi dùng pipeline tự động để derender mỗi poster raster thành HTML/CSS có các slot định kiểu, có thể refill. Mỗi mẫu trở thành paper-poster-markup triplet, kiểm chứng bằng render lại và so với poster gốc. Từ đó có hai cách dùng: PosterRAG retrieval theo nhóm lĩnh vực/câu chuyện/thẩm mỹ rồi refill slot mà không động layout; và SFT+RL để huấn luyện mô hình riêng với phần thưởng từ luật render và so sánh tham chiếu.

Ví dụ đời thường: giống như lấy một poster in đẹp, tháo nó ra thành mẫu Canva/PowerPoint có ô sẵn: giữ nguyên khung, màu, font, chỉ thay nội dung bài mới vào đúng ô, rồi in thử để đối chiếu với bản gốc.

III. Main Results:​

  • PosterRAG dùng HTML Guidance đạt tốt nhất cả 5 metric, vượt các baseline như P2P, Paper2Poster, PosterGen, NanoBanana Pro: FID/FDiD = 23.75/306.79, DINOv2-CosDist = 0.4443; FDiD thấp hơn P2P khoảng 18.7%.
  • Ablation cho thấy HTML guidance quan trọng: so với chỉ dùng ảnh poster, FID/FDiD giảm từ 77.11/1267.84 xuống 23.75/306.79, DINOv2-CosDist tăng từ 0.0877 lên 0.4443.
  • Post-training có hiệu quả: SFT cải thiện Qwen3.8-27B trên cả 5 metric; RL tiếp tục giảm FID/FDiD từ 28.00/326.24 xuống 23.42/306.94 và đạt LPIPS/DISTS cao nhất, FID/FDiD chỉ sau Claude-Opus-5 trong nhóm so sánh.
  • Derendering đủ tốt để đo render-and-compare: SSIM khoảng 0.79, layout mIoU khoảng 0.69; thành phần Layout Detection tạo cải thiện lớn nhất, OCR và design caption bổ sung lợi ích nhất quán.
  • Backbone Claude-Opus-4.6 cho layout và distributional fidelity tốt nhất trong pipeline derendering, dù Gemini-3.1-Pro nhỉnh SSIM/DISTS.

IV. Conclusion & Future Works:​

Bài báo chứng minh poster của con người không chỉ để chấm điểm, mà là thư viện thiết kế có thể tái sử dụng và giám sát đã kiểm chứng cho huấn luyện. Khi mỗi poster được viết lại thành HTML/CSS slot hóa, chất lượng có thể đo bằng render-and-compare thay vì phụ thuộc ý kiến mô hình. Tác giả công bố dataset, pipeline derendering, codebase và demo để biến visual coding có tham chiếu thành bài toán reproducible. Bài báy không nêu roadmap tương lai chi tiết; hướng mở rõ nhất là mở rộng sang thêm lĩnh vực/hội nghị, làm phong phú design caption và phần thưởng render, đồng thời tăng khả năng chỉnh sửa/điều khiển thiết kế theo yêu cầu người dùng.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng RAP sang hội nghị và lĩnh vực ngoài machine learning, ví dụ y sinh, vật lý, khoa học xã hội, với cùng kiểu chú thích taxonomy và markup tái sử dụng.
  2. Xây dựng bộ benchmark editing poster: cho một poster HTML có sẵn, yêu cầu đổi màu, đổi cột, thêm/xóa figure hoặc chuyển ngôn ngữ nhưng giữ bố cục gốc.
  3. Kết hợp retrieval template với học tăng cường theo phản hồi người dùng để mô hình học chọn thiết kế đẹp và tuân thủ ràng buộc hội nghị.
  4. Nghiên cứu reward dựa trên đo lường DOM/render đa tầng: clipping, overlap, độ che phủ, mật độ chữ, độ tương phản, tính hợp lệ của ảnh/bảng/công thức.

2. Patent:​

  1. Ứng dụng điện thoại biến bài báo PDF thành poster hội nghị: người dùng tải file lên, chọn phong cách, hệ thống chọn mẫu poster do con người làm, rồi thay tiêu đề, tóm tắt, hình, bảng và công thức vào các ô có sẵn mà không làm vỡ bố cục.
  2. Trình tạo poster chỉnh sửa được cho sinh viên/nghiên cứu sinh: xuất ra trang web/HTML có các khung rõ ràng, cho phép đổi màu, font, ảnh và kích thước từng khối trước khi xuất PDF/in.
  3. Công cụ kiểm tra poster trước khi nộp hội nghị: tự động phát hiện chữ bị cắt, khối chồng lấn, ảnh hỏng, nội dung quá thưa hoặc quá dày, sau đó gợi ý sửa theo thiết kế tham chiếu.
  4. Dịch vụ poster cho sự kiện học thuật trên điện thoại: người dùng chụp hoặc tải poster cũ, hệ thống tách layout thành mẫu, rồi tạo poster mới cho bài báo khác cùng cách trình bày.
  5. Hệ thống gợi ý mẫu theo câu chuyện bài báo: so khớp phần giới thiệu, đóng góp, thí nghiệm của bài mới với các bài cũ để chọn mẫu có cấu trúc kể chuyện gần nhất.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.23230
ArXiv Abstracthttps://arxiv.org/abs/2610.23230
PDF Downloadhttps://arxiv.org/pdf/2610.23230.pdf
Github Repositoryhttps://github.com/VincentHancoder/RAP

19. Execution Before Memory: Diagnosing Memory Failures in Video World Models (23 votes)​

Tác giả: Weiyang Jin, Jiwen Yu, Sihan Xu, Yuwei Niu, Xihui Liu

Xuất bản lúc: 2026-10-16

Tag: Video World Models, Memory Evaluation, Test-Time Revision, Video Generation, VLM Judges

I. Main Problem:​

Các bài kiểm tra trí nhớ cho video world model (WRBench, MBench-T) gộp mọi thứ vào một điểm số duy nhất: cảnh đã dựng đúng chưa, thay đổi được yêu cầu đã xảy ra chưa, và khung hình cuối có thể hiện kết quả không. Hậu quả:

  • Điểm thấp dễ bị hiểu nhầm là mô hình quên, dù thực tế mô hình chưa hề thực hiện hành động được yêu cầu (ví dụ: hộp không bao giờ được mở, đứa trẻ chưa ngồi xuống ghế, kẹo không bị đập vỡ).
  • Nếu thay đổi không được thực hiện, trạng thái ẩn không bao giờ xuất hiện trên màn hình → khả năng lưu giữ/gọi nhớ trạng thái ẩn chưa được kiểm tra mà bài test đã kết luận thất bại.
  • 41/43 clip baseline trong benchmark nội bộ không bao giờ mở nắp hộp; các công cụ chỉnh sửa video theo chất lượng/vật lý/sở thích hiện có cũng không kiểm tra xem thay đổi được yêu cầu có xuất hiện không.

II. Main Idea:​

Tách biệt việc thực hiện thay đổi khỏi việc ghi nhớ nó, bằng hai công cụ:

  • MIST (evaluation): mỗi case gồm 3 shot 5 giây — shot 1 dựng cảnh, shot 2 qua "khoảng mù" (opaque gap, thay đổi được giấu), shot 3 mới yêu cầu mô hình reveal. Điểm số tách thành các cổng (gates) riêng: setup (cảnh dựng đúng), leak (đáp án có lộ trong gap không), reveal (hành động mở có xảy ra), inside match (trạng thái lộ ra có đúng). Một tích ba thừa số được báo cáo riêng thay vì gộp chung.
  • M3-Agent (Make the Missing Move): workflow tại test-time gồm 3 bước: (1) lập task record (tác nhân, thao tác, trạng thái mục tiêu, bằng chứng cần xuất hiện ở khung cuối); (2) VLM đọc khung hình cuối, chẩn đoán dạng lỗi (không có hành động, gắn sai đối tượng, thiếu departure/return, quay về vật còn nguyên); (3) viết lại chỉ thao tác thất bại (giữ nguyên tác nhân, đối tượng, thứ tự thời gian) rồi generate lại bằng chính model đóng băng — không thêm hay huấn luyện memory module nào. Chọn clip tốt nhất theo scorer (keep-best, clip gốc vẫn được giữ lại).

Ví dụ đời thường: giống như giao việc "để đồ vào hộp rồi mở cho tôi xem" — người làm dựng cảnh đúng nhưng không chịu mở hộp, nên bạn chẳng biết đồ có trong đó không; thay vì kết luận người đó "quên mất", bạn nhìn khung cuối, nói rõ động tác nào còn thiếu và ra lệnh lại đúng động tác đó.

III. Main Results:​

  • MIST baseline: setup cao (0.852) và leak 0/43, nhưng 41/43 clip không bao giờ mở nắp → thất bại nằm ở cổng execution (reveal), không phải memory.
  • M3-Agent trên MIST: reveal tăng từ 0.147 → 0.492, inside match 0.047 → 0.442; rewrite phải nêu cả thao tác lẫn đáp án — chỉ nêu đáp án (answer-only 0.684) hay chỉ "open and hold" (0.268) đều kém hơn look-then-rewrite (0.763).
  • WRBench (official T): tăng 26.1% (0.452 → 0.570, n=40); ~55% độ lợi đến từ gate departure, 41% từ gate return — camera hoàn tất hành trình rời-đi-quay-lại, không phải do khung đẹp hơn.
  • MBench-T (official U): tăng 52.7% (0.292 → 0.446, n=30); lỗi ở đây là quay lại với vật vẫn nguyên vẹn (open-but-wrong); keep-best từ chối rewrite có hại (giữ baseline 23/30 case).
  • Lưu ý quan trọng: kết quả chỉ chứng minh model có thể thực hiện thay đổi khi được nói rõ — khung cuối đúng không đồng nghĩa model đã lưu trữ trạng thái ẩn; cũng không phải so sánh số với các công cụ rewrite video khác.

IV. Conclusion & Future Works:​

Bài báo đảo ngược cách đọc điểm số trí nhớ: execution trước, memory sau — điểm thấp trong các benchmark hiện có phần lớn do model không thực hiện thay đổi được yêu cầu, chứ không phải vì quên. MIST cung cấp evaluation tách cổng để định vị đúng bottleneck; M3-Agent cho thấy tiềm năng sẵn có của model đóng băng khi chỉ thị được viết lại đúng chỗ hỏng. Hướng tương lai hàm ý: cần evaluation thực sự chứng minh trạng thái ẩn được lưu giữ và cập nhật (không chỉ khung cuối đúng), và cải tiến scorer keep-best hiện tại vẫn mang tính oracle coverage, chưa deployable.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển bài test trí nhớ video chứng minh được trạng thái ẩn thực sự được lưu và cập nhật — ví dụ ép model hành động từ trạng thái ẩn theo nhiều cách khác nhau thay vì chỉ so khung cuối.
  2. Mở rộng M3-Agent thành critic deployable thay vì keep-best oracle: huấn luyện bộ chọn clip từ cổng chẩn đoán của MIST để chọn lại candidate mà không cần biết trước đáp án.
  3. Áp dụng nguyên tắc tách cổng setup/leak/reveal cho đánh giá world model đa phương thức (video + audio + tương tác) và cho các tác vụ dài hạn nhiều chu kỳ rời-quay-lại camera.

2. Patent:​

  1. Trợ lý tạo video quảng cáo trên điện thoại: người dùng mô tả cảnh + thay đổi sản phẩm ("hộp mở ra có kẹo"); ứng dụng tự kiểm khung cuối, phát hiện thao tác bị bỏ sót, tự viết lại prompt và render lại đến khi video đúng yêu cầu.
  2. Hệ thống tự chỉnh prompt cho mô hình sinh video tích hợp sẵn trong app chỉnh sửa video: chẩn đoán lỗi qua VLM (không mở hộp, quay lại vật còn nguyên), gợi ý/sửa prompt tự động và chọn clip tốt nhất cho người dùng.
  3. Công cụ kiểm thử nội dung video tự động cho nền tảng mạng xã hội: tách kiểm từng giai đoạn của clip (dựng cảnh, khoảng mù, reveal) để xác định chính xác đoạn nào sai thay vì chỉ chấm tổng, hỗ trợ duyệt nội dung theo cổng lỗi.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.23542
ArXiv Abstracthttps://arxiv.org/abs/2610.23542
PDF Downloadhttps://arxiv.org/pdf/2610.23542.pdf
Github Repositoryhttps://github.com/HKU-MMLab/MIST

20. Can Visual Generation Expand What Unified Multimodal Models Know? (20 votes)​

Tác giả: Wenkai Li, Wenyi Hong, Zhuoyi Yang, Jie Tang

Xuất bản lúc: 2026-10-15

Tag: Unified Multimodal Models, Visual Generation, Cross-Modal Knowledge Transfer, Text-to-Image, Knowledge Transfer Probing, Multimodal Alignment

I. Main Problem:​

Các mô hình đa phương thức thống nhất (UMM) vừa hiểu vừa tạo ảnh, nhưng không rõ kiến thức học từ việc tạo ảnh có dùng được khi trả lời bằng ngôn ngữ hay không. Hình ảnh chứa thông tin mà chú thích văn bản không ghi lại (vị trí tương đối, đường bờ biển, địa hình), nhưng:

  • hiệu năng cao trên benchmark tách rời không chứng minh được kiến thức cụ thể vượt qua được giữa hai năng lực
  • hiện tượng Modal Aphasia: mô hình vẽ được khái niệm đã học nhưng không diễn đạt được bằng lời
  • thiếu một giao thức đo lường kiểm soát để lượng hóa mức độ tri thức học qua sinh ảnh chuyển sang ngôn ngữ.

II. Main Idea:​

Knowledge Transfer Probing (KTP) — giao thức kiểm soát để thử xem tạo ảnh có mở rộng được tri thức của UMM không. Quy trình:

  • định nghĩa knowledge unit (entity–attribute–value) với entity hư cấu trong thế giới "MagicWorld" để loại trừ ảnh hưởng kiến thức pretrained
  • Text-to-Image supervision: prompt chỉ nêu tên entity và bối cảnh, giá trị thuộc tính mục tiêu chỉ xuất hiện trong ảnh (không có trong caption)
  • đánh giá bằng text-only QA: hỏi giá trị thuộc tính mà không đưa ảnh, đo textual accessibility
  • so sánh với visual accessibility: cho mô hình tạo ảnh và dùng VLM chấm ảnh có đúng fact không → khoảng cách accessibility gap
  • ba điều kiện huấn luyện: Direct transfer (chỉ T2I), Textual Alignment (thêm QA văn bản cho một tập con entity), Interleaved Image–Text Alignment (một phản hồi duy nhất: sinh ảnh → quan sát → trả lời)
  • thử nghiệm trên 7 loại tri thức (color, count, shape, spatial, size, number, text) và 3 kiến trúc: BAGEL, GLM-Omni, SenseNova-U1

Ví dụ đời thường: giống kiểm tra một người học ngoại ngữ chỉ bằng tranh vẽ — cho xem tranh con mèo đeo vòng cổ số 10 rồi hỏi bằng lời; người vẽ được tranh đó chưa chắc nói được "số 10", và phải tập kiểu "vẽ ra rồi tự nhìn lại để trả lời" thì kiến thức mới chuyển từ tay sang miệng.

III. Main Results:​

  • Direct transfer có thật nhưng không đều: SenseNova-U1 đạt trung bình 20% textual accessibility, BAGEL chỉ 8.86% (dưới mức đoán ngẫu nhiên); transfer phụ thuộc mạnh vào mô hình và loại tri thức (size dễ, number/spatial/text gần như 0%).
  • Visual accessibility cao hơn hẳn textual: SenseNova-U1 tạo đúng 88% ảnh về number nhưng trả lời đúng 0% bằng chữ; accessibility gap trung bình +22.6pp (BAGEL), +39.4pp (GLM-Omni), +41.1pp (SenseNova-U1).
  • Textual Alignment trên tập con entity cải thiện QA cho entity khác không được dạy (không phải chỉ ghi nhớ đáp án), nhưng kết quả hỗn hợp theo model.
  • Interleaved Image–Text Alignment vượt Textual Alignment ở cả 3 model: BAGEL 15.4→17.1, GLM-Omni 12.6→26.9, SenseNova-U1 28.0→28.6; GLM-Omni tăng mạnh shape (12→64%) và spatial (0→40%).
  • Ablation che image loss trong chuỗi interleaved: accuracy tụt 26.9%→13.7% → tín hiệu sinh ảnh là thành phần quan trọng của transfer.
  • Visual CoT (cho sinh ảnh trung gian khi suy luận lúc inference): GLM-Omni 26.9→41.1%, number từ 0→36%.
  • Tương quan Pr(T|I) − Pr(T|¬I) dương ở hầu hết cài đặt interleaved → sinh đúng ảnh thường dẫn tới trả lời đúng hơn, nhưng Pr(T|I) vẫn dưới 50% → khoảng trống lớn giữa hai dạng truy cập tri thức.

IV. Conclusion & Future Works:​

Sinh ảnh thị giác là nguồn tri thức thật vượt ngoài giám sát văn bản, nhưng tri thức đó chuyển sang ngôn ngữ còn gián đoạn và không đều. Có thể cải thiện khả năng truy cập bằng cách thiết kế dữ liệu alignment (interleaved tốt hơn textual thuần) và chiến lược inference (Visual CoT), chứ không chỉ phụ thuộc vào kiến trúc. Hướng tương lai: mở rộng sang dữ liệu thị giác tự nhiên, tách riêng ảnh hưởng của kiến trúc, nghiên cứu sâu thiết kế dữ liệu alignment và chiến lược suy luận để tri thức sinh ảnh truy cập được đầy đủ hơn qua ngôn ngữ.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu KTP trên dữ liệu thị giác tự nhiên (ảnh chụp thật, bản đồ, hiện vật) thay vì entity hư cấu, để kiểm chứng transfer ở quy mô và độ đa dạng thực tế.
  2. Phân tách ảnh hưởng của kiến trúc (MoT, NEO-unify, tokenizer rời rạc) lên mức độ knowledge transfer bằng cách huấn luyện cùng một dữ liệu KTP trên nhiều thiết kế UMM.
  3. Phát triển chiến lược inference kiểu Visual CoT tự động: mô hình tự quyết định khi nào sinh ảnh trung gian để truy xuất tri thức thị giác khi trả lời câu hỏi khó.

2. Patent:​

  1. Ứng dụng giáo dục trên điện thoại: app dạy trẻ em kiến thức mới (màu sắc, số đếm, quan hệ không gian) bằng cách cho mô hình tạo tranh minh họa rồi tự đặt câu hỏi trắc nghiệm từ chính tranh đó, thay vì chỉ đọc văn bản — kiến thức hình ảnh được chuyển thành câu hỏi lời nói tự động.
  2. Hệ thống huấn luyện trợ lý ảnh đa phương thức cho doanh nghiệp: nhân viên cung cấp ảnh sản phẩm/quy trình nội bộ (sơ đồ, bản vẽ) mà không cần viết tài liệu; hệ thống sinh lại ảnh và tự xây dựng dữ liệu hỏi-đáp xen kẽ ảnh-chữ để chatbot có thể trả lời khách hàng bằng ngôn ngữ những thông tin chỉ tồn tại trong ảnh.
  3. Tính năng tự bổ sung kiến thức cho ứng dụng camera điện thoại: khi người dùng chụp ảnh địa danh, hiện vật, mô hình vừa mô tả vừa sinh lại ảnh có gắn nhãn chi tiết (khoảng cách, kích thước, chữ viết) rồi dùng quy trình "tạo ảnh → quan sát → trả lời" để trả lời câu hỏi sau đó mà không cần lưu ảnh gốc.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.21459
ArXiv Abstracthttps://arxiv.org/abs/2610.21459
PDF Downloadhttps://arxiv.org/pdf/2610.21459.pdf
Github Repositoryhttps://github.com/kevinlllee/Knowledge-Transfer-Probing

21. DLite: History-free Speculative Decoding for Agentic AI (20 votes)​

Tác giả: Jiaming Xu, Hanzhen Wang, Tianlang Zhao, Jiewen Xiao, Chengze Yuan, et al.

Xuất bản lúc: 2026-10-16

Tag: Speculative Decoding, LLM Inference, Agentic AI, KV Cache, Knowledge Distillation, Inference Acceleration

I. Main Problem:​

Speculative decoding tăng tốc suy luận LLM bằng cách dùng draft model nhẹ sinh token dự đoán rồi để target model xác minh. Nhưng với workload agentic AI (đầu vào dài, đa lượt tương tác, context liên tục phình to), các phương pháp hiện có gặp hai vấn đề cùng một gốc rễ:

  • Acceptance length sụt tới 80%: draft model nhẹ ngày càng không đủ sức tự mã hóa lịch sử dài để khớp phân phối dự đoán của target model (trên SWE-Bench chỉ còn 1~2 token được chấp nhận).
  • Overhead hệ thống lớn: duy trì và cập nhật KV cache lịch sử của draft model chiếm 10%~20% độ trễ end-to-end trong các tác vụ multi-turn.

Nguyên nhân chung: draft model phải tự xử lý và lưu một lịch sử ngày càng dài, dù target model đã xử lý cùng context đó — một sự trùng lặp lãng phí.

II. Main Idea:​

DLite — speculative decoding không cần lịch sử (history-free) cho agentic AI. Ý tưởng cốt lõi: thay vì bắt draft model tái dựng toàn bộ lịch sử, hãy tái sử dụng trực tiếp hidden states của target model và chỉ làm dự đoán cục bộ quanh vị trí decode hiện tại, biến bài toán mô hình hóa ngày càng phức tạp thành bài toán dự đoán đơn giản, cố định kích thước.

Kiến trúc gồm ba thành phần:

  • History-free parallel backbone: nhận hidden states từ target model (gắn depth embedding để phân biệt nguồn layer), anchor token hiện tại và K vị trí dự đoán với local position thay vì global position — không duy trì KV cache lịch sử nào; mỗi vòng dự đoán dựng lại độc lập từ representation mới nhất của target.
  • Lightweight sequential head: dùng RNN low-rank nén các token đã sinh trong block hiện tại thành state tuần hoàn, khôi phục quan hệ nhân-quả chỉ bên trong block — và làm việc này trực tiếp trong hidden space, tránh phép chiếu D×V ra toàn bộ từ vựng (rất tốn kém khi serving đồng thời nhiều request).
  • Two-stage training: vì draft (parallel, local) và target (autoregressive, full history) có cấu trúc dự đoán khác hệt nhau nên distill KL trực tiếp thất bại — giai đoạn warm-up huấn luyện một teacher đẳng cấu có lịch sử làm cầu nối tối ưu hóa, rồi giai đoạn stable bỏ teacher và căn thẳng vào target model bằng CE + total variation distance.

Ví dụ đời thường: giống như nhân viên phục vụ không cần học thuộc toàn bộ lịch sử nhà hàng, mà cứ hỏi đầu bếp (target model) 'món ăn hiện tại đang nấu tới đâu' rồi chỉ tự dự đoán xem vài giây tiếp theo cần chuẩn bị gì — nhẹ đầu, nhanh tay, và không phải nhớ gì.

III. Main Results:​

  • General-purpose: acceptance length 2~6, đạt 6.38 (GSM8K, Qwen3-4B) và 6.48 (Qwen3-8B), ngang hoặc vượt DSpark, EAGLE-3, DFlash — chứng tỏ bỏ KV cache lịch sử không làm giảm chất lượng dự thảo.
  • Long-context (LongBench v2): ưu thế rõ nhất, ví dụ Long-dialog History đạt speedup 3.88×–3.96× so với ~3.0–3.2× của DSpark.
  • Agentic workloads: cải thiện lớn nhất — SWE-Bench speedup 2.68×–2.74× (DSpark chỉ 1.6×), AgentMemBench 2.22.4×; tổng thể vượt DSpark tới 70%.
  • Throughput cao đồng thời (1–64 requests): cao hơn DSpark ở mọi mức concurrency, ngay cả khi acceptance length tương đương — nhờ sequential head nhẹ tránh chiếu full-vocabulary.
  • Ablation: hai-stage training cho acceptance length cao hơn single-stage xuyên suốt; biến thể có sliding-window KV cache (128/512) sau đủ training không tốt hơn bản không-KV — xác nhận hidden states của target đã chuyển đủ thông tin lịch sử.

IV. Conclusion & Future Works:​

DLite chứng minh rằng gỡ bỏ việc mô hình hóa lịch sử dư thừa khỏi draft model có thể đồng thời nâng chất lượng speculative decoding và hiệu quả hệ thống cho workload agentic: acceptance length 2~6, vượt DSpark tới 70%, và triệt tiêu hoàn toàn chi phí bảo trì draft KV cache. Bằng cách giao mô hình hóa global-context cho target model và chỉ dự đoán cục bộ ở phía draft, DLite định hình lại nguyên tắc thiết kế drafter cho kỷ nguyên agentic. Hướng tương lai hợp lý: mở rộng cho nhiều target model và kiến trúc khác, tối ưu thêm trade-off giữa số layer hidden states, cách compose đặc trưng và rank của sequential head, và tích hợp sâu vào serving engine (SGLang, vLLM) cho multi-turn agent thực tế.

V. Brainstorming Space:​

1. Publish Papers:​

  1. History-free speculative decoding cho các agentic workload còn lại (multi-agent hội thoại, tool-use lồng nhau): kiểm tra xem local prediction từ target hidden states có giữ được acceptance length khi lịch sử hành động của nhiều agent chồng lấp không.
  2. Kết hợp DLite với prefix caching và continuous batching: thiết kế lại pipeline serving để tận dụng triệt để việc draft model không còn KV cache, giảm thêm độ trễ multi-turn end-to-end.
  3. Tự động chọn chiều sâu layer và rank của sequential head theo độ dài context và mức tải concurrency, thay vì cấu hình cố định như hiện tại.

2. Patent:​

  1. Module tăng tốc suy luận AI trên điện thoại/edge: một dịch vụ dùng mô hình lớn (target) xử lý ngữ cảnh và mô-đun dự đoán nhẹ chỉ đọc trạng thái ẩn của mô hình lớn để đoán trước các từ tiếp theo, không cần lưu lịch sử hội thoại riêng — tiết kiệm bộ nhớ và pin khi chạy trợ lý AI đa lượt.
  2. Hệ thống trợ lý lập trình tự động (kiểu sửa bug trong kho mã nguồn): khi ngữ cảnh cuộc hội thoại dài và liên tục thay đổi, máy chủ chỉ cập nhật bộ nhớ của mô hình chính, còn bộ dự đoán tốc độ cao dựng lại từ đầu ở mỗi lượt — giảm độ trễ phản hồi và chi phí vận hành.
  3. Dịch vụ chatbot đa lượt trên nền tảng đám mây cao tải: kỹ thuật đầu tuần tự hạng thấp chạy trực tiếp trên không gian ẩn (không chiếu ra toàn bộ từ vựng) để dự đoán cụm từ tiếp theo, cho phép phục vụ hàng nghìn cuộc hội thoại đồng thời với throughput cao hơn mà không cần bộ nhớ lịch sử riêng cho từng phiên.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.23787
ArXiv Abstracthttps://arxiv.org/abs/2610.23787
PDF Downloadhttps://arxiv.org/pdf/2610.23787.pdf
Github Repositoryhttps://github.com/SJTU-DAI-Sys/DLite

22. OmniXRef: A Unified Framework for Multimodal Multi-Reference Video Editing (17 votes)​

Tác giả: Xiaoyan Cong, Tianyu Wang, Hyeonho Jeong, Zhifei Zhang, Yuqian Zhou, et al.

Xuất bản lúc: 2026-10-15

Tag: Video Editing, Diffusion Transformer, Multimodal Learning, MLLM, Reference-Guided Generation, Curriculum Learning

I. Main Problem:​

Chỉnh sửa video theo ý đồ sáng tạo hiện bị chia thành các bài toán rời rạc: chỉ theo văn bản, thêm một ảnh tham chiếu, hoặc một video tham chiếu cho một tác vụ cụ thể như camera hay hiệu ứng. Người dùng muốn kết hợp nhiều nguồn — ví dụ ảnh để giữ nhân vật, video để lấy chuyển động camera, và văn bản để mô tả hiệu ứng — nhưng thiếu một khung thống nhất cho số lượng tham chiếu thay đổi, phương thức đầu vào, thuộc tính cần chuyển, và cách ghép chúng. Bên cạnh đó, dữ liệu source–reference–target cho video tham chiếu rất khan hiếm, và thiếu benchmark đánh giá việc truyền thuộc tính động từ video tham chiếu sang video nguồn.

II. Main Idea:​

OmniXRef đưa mọi tham chiếu vào một reference bank chung: mỗi bank gồm tác vụ, lời hướng dẫn, và tùy chọn ảnh/video tham chiếu; nhiều bank có thể phối hợp để chỉ định kết quả cuối. Mô hình gồm một MLLM đọc chuỗi xen kẽ system prompt, video nguồn và các bank để tạo ngữ cảnh ngữ nghĩa, rồi một single-stream diffusion transformer xử lý đồng thời token văn bản, token ảnh/video VAE và token nhiễu để sinh video chỉnh sửa. Ba kỹ thuật chính:

  • Mix-Patchify: giữ patch mịn cho video nguồn/target, nhưng làm thô patch cho từng tham chiếu theo tác vụ để giảm token và chi phí tính toán.
  • R2-RoPE: dành trước một nhóm vị trí cho các reference bank và ngẫu nhiên gán bank vào slot trong lúc train, giúp inference dùng nhiều tham chiếu hơn train mà không lệch phân phối vị trí.
  • Curriculum learning: học từ một tham chiếu ở 272P, thêm phối hợp hai tham chiếu, rồi nâng lên 480P.

Kèm theo là OmniXRef-Data khoảng 10M mẫu từ các pipeline tổng hợp cho Camera, Motion, Content, Style, VFX và phối hợp hai tham chiếu; và OmniXRef-Bench gồm 125 ca kiểm thử truyền thuộc tính từ video tham chiếu.

Ví dụ đời thường: giống một đầu bếp nhận nhiều mẫu gia vị, mỗi mẫu kèm ghi chú 'lấy vị này'; bếp không nhớ thứ tự gia vị đặt ở đâu mà vẫn biết cần lấy mùi nào, bỏ vào món chính đúng chỗ và không làm hỏng phần còn lại.

III. Main Results:​

  • Trên OmniXRef-Bench, OmniXRef-Model đạt điểm tổng cao nhất, vượt các baseline chuyên biệt trong từng lĩnh vực và tốt hơn các mô hình thương mại mạnh như Seedance 2.0/2.5 và MiniMax-H3 về độ bám tham chiếu và giữ nội dung gốc.
  • Mô hình dẫn đầu ở Motion, Content, Style; riêng Camera có lỗi quỹ đạo thấp nhất theo RotErr, TransErr và CamMC.
  • Phiên bản fine-tune trên nền MiniMax-H3 cải thiện mọi hạng mục so với MiniMax-H3 gốc và vượt OmniXRef-Model ở Camera/VFX, cho thấy công thức và dữ liệu có thể chuyển sang kiến trúc khác.
  • Ablation cho thấy bỏ Mix-Patchify, R2-RoPE, curriculum learning hoặc dùng dropout cả bank đều làm kết quả giảm rõ; dropout cả bank dễ gây rò rỉ nội dung từ tham chiếu.
  • Kiểm thử đổi thứ tự reference bank cho kết quả ổn định; với ba video tham chiếu vượt ngoài dữ liệu train, mô hình vẫn kết hợp motion, camera và style trong khi Seedance 2.5 chỉ làm được một phần.

IV. Conclusion & Future Works:​

Bài báo chứng minh chỉnh sửa video có thể được thống nhất thành một không gian tham chiếu đa phương thức, nhiều nguồn, nhiều thuộc tính. Điểm mấu chốt là reference-bank interface cùng R2-RoPE giúp mô hình không bị khóa vào số lượng tham chiếu đã thấy khi train; Mix-Patchify giảm chi phí mà vẫn giữ thông tin cần thiết; dữ liệu tổng hợp quy mô lớn và benchmark chuyên biệt giúp đẩy video như một phương thức điều khiển cho editing. Hướng tương lai: cải thiện chất lượng hình ảnh để thu hẹp khoảng cách với backbone thương mại, thử chiến lược thích ứng tinh hơn cho mô hình ngoài nền tảng mặc định, và mở rộng đánh giá cho nhiều tổ hợp tham chiếu phức tạp hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng R2-RoPE thành cơ chế slot động có điều kiện, cho phép mô hình tự quyết định cần bao nhiêu slot tham chiếu và ưu tiên slot nào theo độ không chắc chắn.
  2. Nghiên cứu chiến lược chọn granularity của Mix-Patchify bằng cách học patch size theo tác vụ và độ phức tạp cảnh thay vì cố định theo danh mục thuộc tính.
  3. Xây dựng pipeline dữ liệu tự cải thiện cho phối hợp ba tham chiếu trở lên, kết hợp lọc chất lượng đa MLLM và kiểm chứng hình học cho camera/motion.
  4. Phát triển benchmark mở rộng cho chỉnh sửa đa tham chiếu có xung đột ý đồ, đo khả năng cân bằng bám tham chiếu, giữ nguồn và tránh rò rỉ nội dung.

2. Patent:​

  1. Ứng dụng điện thoại cho người làm video ngắn: người dùng chọn một video gốc, thêm vài đoạn video/ảnh mẫu để chỉ định kiểu ánh sáng, chuyển động camera hoặc hiệu ứng; app tự kết hợp các mẫu thành một video đầu ra mà không làm đổi bối cảnh chính.
  2. Công cụ chỉnh sửa quảng cáo trên điện thoại: nhãn hàng tải ảnh sản phẩm, một video mẫu chuyển camera và một câu hướng dẫn kiểu chữ; hệ thống giữ sản phẩm nguyên vẹn nhưng áp góc quay và không khí từ video mẫu để tạo nhiều phiên bản quảng cáo.
  3. Trợ lý biên tập phim gia đình: người dùng chọn cảnh quay gốc, rồi đưa video mẫu có chuyển động máy ảnh đẹp và ảnh mẫu cho nhân vật/phụ kiện; ứng dụng trên điện thoại tạo bản cắt mới theo chuyển động mẫu và thay/bổ sung đúng đối tượng được yêu cầu.
  4. Tính năng đổi phông nền động cho video call di động: người dùng chọn video nền mẫu thể hiện ánh sáng thay đổi hoặc chuyển cảnh; hệ thống truyền hiệu ứng từ nền mẫu sang video call trong khi giữ khuôn mặt và cử chỉ người dùng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.22744
ArXiv Abstracthttps://arxiv.org/abs/2610.22744
PDF Downloadhttps://arxiv.org/pdf/2610.22744.pdf
Github RepositoryN/A

23. OfficeTown: Generative Organizations for Evolving Agent Intelligence (17 votes)​

Tác giả: Hongchen Wei, Daohong Ying, Zhi Hong, Aidan Wu, Bei Liu, et al.

Xuất bản lúc: 2026-10-16

Tag: LLM Agents, Multi-Agent Systems, Benchmark, Environment Synthesis, Simulation, Agent Training, Fine-Tuning, Distillation

I. Main Problem:​

Các benchmark đánh giá tác tử AI làm việc chuyên nghiệp hiện nay coi mỗi nhiệm vụ là một trường hợp độc lập. Nhưng công việc thực tế trong tổ chức không bao giờ độc lập: nhiệm vụ nảy sinh từ hoạt động liên tục, kết quả bị phản biện và sửa đổi, quyết định tạo ra việc tiếp theo, và tài liệu tích lũy ở dự án này trở thành đầu vào của dự án sau. Hệ quả:

  • thiếu nguồn dữ liệu đánh giá/huấn luyện phản ánh bối cảnh công việc thật (quyền hạn, phân quyền, lịch sử tích lũy)
  • tác tử học trên nhiệm vụ rời rạc nên kém khi phải xử lý việc có ngữ cảnh dài hạn và giới hạn truy cập.

II. Main Idea:​

OfficeTown là framework mô phỏng sinh (generative simulation) của tổ chức chuyên nghiệp. Từ một mô tả ngôn ngữ tự nhiên về mục đích và hoạt động của tổ chức, hệ thống:

  • khởi tạo vai trò, mục tiêu, tài nguyên và ranh giới quyền hạn (profile vai trò dựa trên bản mô tả nghề nghiệp O*NET/ESCO)
  • chạy công việc liên tục theo lịch mô phỏng: các chuyên gia (principals) điều phối, giao việc có giới hạn cho tác tử trợ lý (assistants), rồi phản biện và yêu cầu sửa đổi sản phẩm
  • duy trì trạng thái tổ chức lâu dài nhưng không quan sát toàn cục: mỗi thành viên chỉ thấy thông tin theo quyền vai trò, quyền sở hữu và quy tắc chia sẻ; lưu/nhận/chia sẻ là ba hành động khác nhau
  • tài liệu, quyết định và vấn đề tồn đọng tích lũy và định hình nhiệm vụ tiếp theo

Từ dòng công việc này, tác giả trích xuất các nhiệm vụ khả thi (snapshot ngữ cảnh đúng thời điểm giao việc, kèm rubric chấm điểm) làm benchmark và dữ liệu huấn luyện.

Ví dụ đời thường: giống một công ty thật vận hành liên tục — sếp giao việc cho nhân viên trong phạm vi quyền hạn, nhân viên nộp bản thảo, sếp góp ý sửa lại, email và quyết định cũ đọng lại thành 'hồ sơ' mà người sau phải đọc mới làm được — và mỗi nhiệm vụ chấm điểm được cắt ra từ chính dòng chảy đó.

III. Main Results:​

  • OfficeTown Bench: 406 nhiệm vụ, 4.836 tiêu chí rubric, từ 23 tổ chức mô phỏng thuộc 8 lĩnh vực (tài chính, pháp lý, y khoa, thiết kế...), có 71 chuyên gia thật góp ý chỉnh sửa; ~45 file đầu vào/nhiệm vụ.
  • Kết quả frontier models (Pass@1): GPT-6 Astra dẫn đầu 74.4%, Grok-4.7 58.4%, Claude Opus 5.5 50.7%; nhiều model khác dưới 40% → còn dư địa lớn; Astra vẫn bỏ sót ít nhất 1 yêu cầu nghiêm trọng (P0) ở 20.8% nhiệm vụ.
  • Điểm cao trung bình ≠ giao việc hoàn chỉnh: Claude vượt GPT-5.6 Terra về Pass@1 (50.7% vs 39.4%) dù Weighted Score thấp hơn (67.5 vs 76.1).
  • Huấn luyện có giá trị ngoài môi trường nguồn: Qwen3.5-9B sau SFT (2.202 trajectory) + OPD (828 task-environment) tăng điểm GDPval từ 65.75 → 73.65 (+7.9 điểm), cải thiện cả trên JobBench-Easy, APEX-Agents, Terminal-Bench.
  • Principal–assistant harness vượt các baseline single-agent và multi-agent (Codex, MetaGPT, CAMEL) trên 5 benchmark ngoài (PRDBench, GDPevo, Terminal-Bench, research-code), trên cùng model GPT-5.5.

IV. Conclusion & Future Works:​

OfficeTown chứng minh rằng mô phỏng tổ chức là nguồn sinh dữ liệu đánh giá và huấn luyện quy mô lớn, gắn nhiệm vụ với ngữ cảnh công việc thật (lịch sử tích lũy, quyền truy cập, phản biện). Benchmark hé lộ khoảng cách giữa 'làm được một phần' và 'giao sản phẩm hoàn chỉnh đúng nghề'. Hướng tương lai: mở rộng sang nhiều lĩnh vực và thiết chế hơn, workflow dài hơn, cộng tác liên tổ chức; nghiên cứu cách lịch sử lâu dài và quyền hạn giới hạn ảnh hưởng đến sinh nhiệm vụ và học tập; nâng độ trung thực của mô phỏng và đối chiếu với thực tiễn nghề nghiệp thật.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mô phỏng tổ chức xuyên suốt: kéo dài chu kỳ mô phỏng sang nhiều tháng/tháng năm để nghiên cứu cách bộ nhớ tổ chức dài hạn và quyền truy cập giới hạn định hình khả năng của tác tử theo thời gian.
  2. Cộng tác liên tổ chức: nối nhiều tổ chức OfficeTown để sinh nhiệm vụ đòi hỏi trao đổi tài liệu giữa các bên với ranh giới bảo mật riêng.
  3. Tự động kiểm chứng độ thật của công việc mô phỏng: đối chiếu sản phẩm do tổ chức mô phỏng sinh ra với sản phẩm của chuyên gia thật để hiệu chỉnh độ trung thực của môi trường.

2. Patent:​

  1. Hệ thống tạo dữ liệu huấn luyện tác tử trên điện thoại: mô phỏng một văn phòng ảo (quản lý giao việc, nhân viên ảo thực hiện, phản biện) và xuất các nhiệm vụ kèm ngữ cảnh lịch sử thành bài tập để huấn luyện trợ lý AI cá nhân trên thiết bị.
  2. Nền tảng đánh giá trợ lý AI theo kịch bản công ty: doanh nghiệp nhập mô tả bộ phận của mình, hệ thống sinh chuỗi nhiệm vụ có quyền hạn và phản hồi sửa đổi như thật để kiểm thử chatbot nội bộ trước khi triển khai.
  3. Môi trường mô phỏng quyền truy cập cho ứng dụng văn phòng: mỗi tác tử AI chỉ được đọc/ghi file theo vai trò (quản lý thấy tổng quan, nhân viên chỉ thấy phần việc của mình), tái hiện đúng cách công ty thật vận hành để huấn luyện trợ lý tôn trọng quyền riêng tư dữ liệu.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.23194
ArXiv Abstracthttps://arxiv.org/abs/2610.23194
PDF Downloadhttps://arxiv.org/pdf/2610.23194.pdf
Github RepositoryN/A

24. MOSS-Image Technical Report (17 votes)​

Tác giả: MOSI. AI

Xuất bản lúc: 2026-10-16

Tag: Text-to-Image, Diffusion Transformer, DiT, Layout Control, Text Rendering, Prompt Enhancement, Benchmark, Image Generation

I. Main Problem:​

Các hệ thống sinh ảnh mã nguồn đóng (GPT Image 2, Seedream 5.0 Pro...) đã tạo được đồ họa dày chữ và bố cục phức tạp, nhưng mô hình open-weight vẫn thất bại ở hai thách thức liên kết:

  • Rendering: viết lại chữ dài (song ngữ Anh–Trung) chính xác và tuân thủ ràng buộc không gian; ngoại hình hợp lý không đảm bảo chữ đọc được, nội dung đầy đủ.
  • Specification: yêu cầu người dùng thường chỉ vài từ (chủ đề + định dạng), để lộ trống phần lớn nội dung, phân cấp thông tin và tổ chức bố cục.
  • Benchmark cũ (LongTextBench) gần bão hòa: văn bản mục tiêu chỉ trung bình 120 ký tự, không phân biệt được khả năng dựng chữ dài.

II. Main Idea:​

Kết hợp hai khối bổ trợ nhau trong một hệ thống mở MOSS-Image:

  • Generator: pretrain từ đầu một DiT single-stream 5B (dùng encoder văn bản Qwen3.5-9B đóng băng + FLUX.2 VAE). Điểm then chốt là một đường conditioning chung cho cả mô tả ngôn ngữ tự nhiên lẫn layout JSON có bounding box, nên model theo được cả hai dạng chỉ dẫn. Công thức training gồm: giữ rộng dữ liệu (không lọc ảnh kém mà ghi chú khuyết tật vào caption), caption đa mức chi tiết (ngắn/trung/dài), giữ nguyên xuống dòng trong chữ để dạy bố cục dòng, và training theo giai đoạn độ phân giải tăng dần (256→512→1024); tối ưu hybrid Muon–AdamW hội tụ nhanh hơn 29–33% số bước.
  • Prompt Enhancer: một agent (GPT-6) ở inference time định tuyến theo loại tác vụ (poster/infographic/UI), tra cứu kiến thức và tham chiếu hình ảnh, rồi sinh spec nội dung + layout JSON (chữ nguyên văn, bbox, typography) đưa qua đúng conditioning interface của DiT.

Ví dụ đời thường: giống một kiến trúc sư nhận ý tưởng vỏn vẹn "làm poster về ong" — agent đóng vai người lên kế hoạch chi tiết viết sẵn mọi câu chữ và vị trí từng khối, còn DiT là người thợ vẽ theo bản phác sẵn đó, thay vì tự bịa.

III. Main Results:​

  • LongLongTextBench (LLTB) — benchmark mới, văn bản mục tiêu dài gấp ~11 lần LongTextBench (trung bình 1.340 ký tự, song ngữ Anh–Trung): MOSS-Image đạt Mean-6 = 96,3%, cao nhất trong mọi mô hình open-weight, vượt Qwen Image 2512 (64,9) tới +31,4 điểm; dài nhất đạt 97,1 (EN) / 92,4 (ZH).
  • Layout control trên 7Bench: mIoU-det 0,88 và Layout AUC 0,70 — gấp đôi Ideogram 4 (0,44 / 0,20), dẫn đầu tuyệt đối.
  • RealLayoutArena (RLA) — đánh giá end-to-end bằng so sánh blind pairwise của người (61 tác vụ poster/infographic/UI): MOSS-Image đạt 1698,7 Elo, hạng 2 toàn hệ thống, sau GPT Image 2 (1844) nhưng trên Seedream 5.0 Pro (1661).
  • Backbone dùng chung enhanced prompt: MOSS-Image đứng đầu với 1807,3 Elo — chứng tỏ khả năng theo chỉ dẫn layout thuần văn bản.
  • Ablation prompt: yêu cầu ngắn 1081 Elo → prompt chi tiết ~1509 → layout JSON cao nhất 1623 Elo, xác nhận spec rõ ràng quyết định chất lượng.

IV. Conclusion & Future Works:​

Kết luận: để sinh đồ họa phức tạp từ yêu cầu ngắn gọn, cần cả renderer mạnh lẫn spec tường minh — riêng từng mảnh không đủ. Việc annotate khuyết tật thay vì lọc dữ liệu, giữ nguyên xuống dòng, và conditioning chung cho văn bản + layout là công thức pretraining thực dụng cho cộng đồng. Hạn chế & hướng tương lai:

  • Backbone hiện chỉ text-to-image; chưa điều kiện hóa trên ảnh tham chiếu hay hỗ trợ image editing — làm việc tương lai.
  • Prompt enhancer phụ thuộc LLM bên ngoài, nên lỗi kiến thức/thẩm mỹ của LLM vẫn rò rỉ vào spec.
  • Nhóm cam kết mở model, training recipe và benchmark (LLTB, RLA).

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng LLTB sang các ngôn ngữ khác và bố cục đa trang (ảnh dài như báo cáo nhiều trang), kèm metric đánh giá sai lệch typography ngoài OCR coverage.
  2. Đào tạo prompt enhancer nhẹ tự chủ (fine-tune trên dữ liệu layout tự sinh) để thay thế LLM bên ngoài, giảm chi phí inference và rò rỉ lỗi kiến thức.
  3. Phát triển backbone có điều kiện hóa ảnh tham chiếu (dùng sẵn trục RoPE reference-index) cho chỉnh sửa bố cục lặp lại và image editing.
  4. Nghiên cứu chiến lược dữ liệu annotate-instead-of-filter cho các phạm vi khác (ảnh y khoa, ảnh cũ nhiễu) để kiểm chứng tính tổng quát của công thức giữ rộng dữ liệu.

2. Patent:​

  1. Ứng dụng điện thoại tạo poster/infographic từ một câu: người dùng nói "làm infographic về giải phẫu con ong", ứng dụng tự tra kiến thức, lên bố cục từng khối chữ có tọa độ rồi sinh ảnh chữ rõ nét, in được ngay.
  2. Trình tạo giao diện màn hình (UI) bằng giọng nói cho nhà phát triển: mô tả ngắn được chuyển thành spec vị trí nút, chữ và vùng hiển thị dạng tọa độ, sinh ảnh mockup đúng bố cục để duyệt trước khi code.
  3. Hệ thống chỉnh sửa ảnh quảng cáo không cần dữ liệu gốc: thay đổi mô tả vị trí trong layout prompt (đổi slogan, đổi chỗ logo) để sinh lại ảnh mới giữ nguyên thiết kế tổng thể — hữu ích cho A/B testing nội dung marketing.
  4. Công cụ dựng thiệp/biểu banner tiếng Việt–Trung–Anh dài trang: nhập bài viết dài, hệ thống tự chia dòng, căn vị trí từng đoạn theo vùng chọn và xuất ảnh chữ không lỗi cho mạng xã hội.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.23374
ArXiv Abstracthttps://arxiv.org/abs/2610.23374
PDF Downloadhttps://arxiv.org/pdf/2610.23374.pdf
Github Repositoryhttps://github.com/OpenMOSS/MOSS-Image

25. Consistent Distribution Matching for Data-Free Diffusion Distillation (15 votes)​

Tác giả: Yuxiang Fu, Qi Yan, Zike Wu, Yongxing Zhang, Purang Abolmaesumi, et al.

Xuất bản lúc: 2026-10-06

Tag: Diffusion Models, Flow Matching, Distillation, Generative Models, Data-Free Training, Wasserstein Distance

I. Main Problem:​

Mô hình diffusion và flow-matching tạo ảnh chất lượng cao nhưng suy luận chậm vì phải giải ODE qua hàng trăm lượng gọi mạng (NFE). Các phương pháp distillation hiện tại để nén còn 1 vài bước vướng nhiều vấn đề:

  • Phụ thuộc dữ liệu distillation ngoài: nhiễu hóa mẫu thật tạo trạng thái trung gian lệch khỏi đường xác suất thầy — lệch nghiêm trọng khi thầy đã fine-tune, dùng classifier-free guidance, hoặc train trên dữ liệu độc quyền không tiếp cận được
  • Rollout ngược của thầy rất tốn tính toán
  • Mạng proxy giả lập score của student (như DMD2, SiD, FreeFlow) tốn bộ nhớ (33-37 GB) và chi phí train lớn vì phải liên tục đuổi theo phân phối student đang thay đổi
  • Nhiều mục tiêu, nhiều giai đoạn khiến tối ưu khó mở rộng.

II. Main Idea:​

Consistent Distribution Matching Distillation (CDMD): khung distillation không cần dữ liệu ngoài, không cần mô phỏng thầy, chỉ dùng đúng hai mạng (thầy đông cứng + student) và một mục tiêu tối ưu duy nhất. Cơ chế chính:

  • Gộp 2 vai trò vào 1 mạng: student học average velocity uθ(xt, t, r) — từ đó vừa sinh ảnh 1 bước (x0 = x1 − uθ(x1,1,0)) vừa tự cung cấp surrogate cho velocity tức thời qua đạo hàm, loại bỏ hoàn toàn mạng proxy giả
  • Tự bootstrap trạng thái: giảm nhiễu từ prior z một đoạn (1→s) bằng student, rồi nhiễu lại phân tích từ s→t bằng công thức đóng — không cần dữ liệu thật hay rollout thầy; khi student tiến gần thầy, trạng thái tự càng giống đường đi thật
  • Một mục tiêu duy nhất: hồi quy surrogate velocity của student về velocity tức thời của thầy tại các trạng thái đó, qua một Jacobian-vector product (JVP) có stop-gradient để ổn định
  • Bảo chứng lý thuyết: mất mát tiến về 0 kéo khoảng cách Wasserstein-2 giữa pushforward của student và marginal của thầy tiến về 0, và minimizer toàn cục đúng bằng average velocity của thầy — không yêu cầu trạng thái lấy mẫu từ đường xác suất thầy

Ví dụ đời thường: giống học việc lái xe bằng cách tự chạy thử rồi giáo viên ngồi cạnh sửa tay lái tại từng tình huống mình vừa tạo ra — không cần bản đồ tuyến đường chuẩn (dữ liệu ngoài), không cần thầy chạy mẫu trước (rollout), và không cần thêm một người thứ ba ghi chép lỗi riêng (mạng proxy).

III. Main Results:​

  • ImageNet 256×256: FID 2.04 với 1-NFE và 1.37 với 4-NFE (gần bằng thầy 1.35), vượt mọi baseline data-free (FreeFlow 4.28, DMD2 3.43, FACM 2.15 ở 1-NFE), trong ~40 epochs
  • Tận dụng thầy mạnh hơn: đổi sang teacher VA-REPA, CDMD cải thiện 0.54 FID (FreeFlow chỉ 0.41, DMD2 0.07)
  • Bộ nhớ train chỉ ~20 GB so với 33 GB của DMD2 và 37 GB của FreeFlow
  • Text-to-image (SANA-1.6B): tốt nhất về Aesthetic Score, PickScore, ImageReward và FID 27.83, vượt cả thầy chạy 4-NFE trên cả 6 chỉ số; train chỉ ~7 GPU-hours (DMD2 30h, MFD 25h)
  • Thang thời gian suy luận: nhờ tham số hóa average velocity trên mọi khoảng [t,r], cùng một student cải thiện tiếp khi tăng số bước mà không cần train lại — điều FreeFlow không làm được
  • Tổng hợp 2D (xoắn ốc): CDMD học đúng average velocity của thầy trong khi FreeFlow chững ở lỗi cao, chứng tỏ khớp marginal đầu ra không đồng nghĩa học đúng bản đồ vận chuyển
  • Ablation: hướng tiếp tuyến của thầy cho JVP ổn định nhất; pha trộn 2 kiểu trạng thái nhiễu (m=0.5) tốt hơn dùng riêng từng loại.

IV. Conclusion & Future Works:​

CDMD chứng minh distillation mạnh không cần dữ liệu ngoài, rollout thầy hay mạng proxy — chỉ với pipeline hai mô hình, một mục tiêu tối ưu, trong khi vẫn giữ linh hoạt lấy mẫu nhiều bước lúc suy luận. Đây là bước hướng tới distillation đơn giản và dễ mở rộng cho các thầy huấn luyện trên dữ liệu độc quyền.

Hướng tương lai: cải thiện ổn định của số hạng JVP, phát triển chiến lược khởi tạo khi không có trọng số mô hình sẵn, và mở rộng cho các tác vụ sinh quy mô lớn nơi khan hiếm dữ liệu là vấn đề chủ đạo.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Tối ưu hóa phương sai và ổn định hóa số hạng Jacobian-vector product trong distillation không dữ liệu, kèm phân tích lý thuyết đầy đủ về khi nào hiệu chỉnh JVP giúp train và khi nào độ lệch đường đi student-thầy gây hại.
  2. Khám phá chiến lược khởi tạo student cho distillation data-free khi không có sẵn trọng số thầy, chẳng hạn khởi tạo từ prior điều kiện hoặc tự tiến hóa từ mô hình nhỏ.
  3. Mở rộng CDMD sang video và dữ liệu 3D quy mô lớn — các lĩnh vực thiếu dữ liệu công khai nghiêm trọng, nơi lợi thế không cần dữ liệu distillation phát huy tối đa.
  4. Kết hợp CDMD với kỹ thuật guidance mạnh (classifier-free guidance cao, autoguidance) để khắc phục độ lệch student-thầy bị khuếch đại khi lấy mẫu nhiều bước.

2. Patent:​

  1. Công cụ tạo ảnh từ văn bản chạy cục bộ trên điện thoại: mô hình thầy lớn được chưng cất thành student 1 bước bằng CDMD mà không cần bộ dữ liệu huấn luyện gốc (thường không công khai), cho phép tạo ảnh tức thì, tiết kiệm pin và không gửi dữ liệu lên máy chủ.
  2. Dịch vụ đám mây rút gọn mô hình sinh ảnh theo yêu cầu: khách hàng gửi mô hình thầy (checkpoint), dịch vụ chạy quy trình distillation data-free với chi phí GPU thấp (~7 giờ thay vì hàng chục giờ) và bàn giao student chạy được trên phần cứng yếu.
  3. Trình tạo ảnh tích hợp trong chip NPU thiết bị di động: student một-bước được distillation từ thầy huấn luyện trên dữ liệu có bản quyền, vì CDMD không yêu cầu tiếp cận dữ liệu huấn luyện nên tránh rủi ro pháp lý khi triển khai thương mại.
  4. Hệ thống nâng cấp chất lượng ảnh máy ảnh điện thoại: mô hình khử nhiễu/siêu phân giải chạy nhiều bước được chưng cất thành bản vài bước với chất lượng gần nguyên bản, người dùng có thể chọn đánh đổi tốc độ/chất lượng ngay lúc chụp.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.09221
ArXiv Abstracthttps://arxiv.org/abs/2610.09221
PDF Downloadhttps://arxiv.org/pdf/2610.09221.pdf
Github Repositoryhttps://github.com/felix-yuxiang/CDMD

26. Stuck on Shuffle: On Attribute-Object Binding in Vision-Language Models (15 votes)​

Tác giả: Netanel Y. Tamir, Michael Green, Issar Tzachor, Or Shimshi, Dvir Samuel, et al.

Xuất bản lúc: 2026-10-15

Tag: Vision-Language Models, Multimodal Retrieval, Attribute-Object Binding, Compositionality, MLLM Embeddings, Contrastive Learning, Text-Only Finetuning, Benchmark

I. Main Problem:​

Các mô hình vision-language dùng cho retrieval thường học cách đặt ảnh và chữ vào cùng không gian embedding, nhưng lại hoạt động kiểu bag-of-words: biết có những khái niệm nào, song hay ghép sai thuộc tính với đúng vật thể — ví dụ thấy "golden cannon" và "tie-dye submarine" nhưng hoán đổi thành "tie-dye cannon" và "golden submarine". Các benchmark cũ chỉ phủ một cặp phương thức, chủ yếu màu sắc, hoặc hoán đổi hai vật đơn giản, nên chưa cho biết lỗi binding có lan rộng qua text↔text, text↔image, image↔text, image↔image và cảnh phức tạp hơn hay không.

II. Main Idea:​

Bài báo giới thiệu SABER, benchmark tổng hợp dùng câu hỏi 4-way multiple-choice: giữ cố định tập vật thể và thuộc tính, chỉ xáo trộn cách ghép; phủ cả 4 cặp image/text, 232 vật, 50 thuộc tính và cảnh tới 10 đối tượng. Sau đó tác giả chỉ fine-tune bằng text tổng hợp: dùng triplet gồm query, positive giữ binding, hard negative tạo bằng cách hoán vị thuộc tính/vật; cập nhật LoRA trên Qwen3-VL-Embedding rồi áp LiNeS để giảm quên khả năng cũ. Vì MLLM có phần tham số dùng chung xuyên phương thức, học từ text "kéo/push" embedding cũng làm binding lan sang ảnh dù không có ảnh trong huấn luyện.

Ví dụ đời thường: như dạy người mới phân loại đồ chỉ bằng lời — "lá ướt cạnh đá xám, không phải đá ướt cạnh lá xám" — sau đó người đó tự ghép đúng khi nhìn ảnh, vì não dùng chung quy luật "ai mang tính chất gì" cho cả lời nói và hình ảnh.

III. Main Results:​

  • Trên SABER-MCQ, mô hình 8B fine-tune text-only đạt 84.2% mean accuracy, từ 52.5% của Qwen3-VL-Embedding-8B; text→text gần như hoàn hảo 99.3%, cải thiện +34.1/+37.8/+9.4 cho text→image, image→text, image→image.
  • Trên SABER-Retrieval, bản 8B đạt 91.1 mAP independent và 54.1 mAP nested; lỗi còn lại nổi bật là containment: nhận cảnh chứa đủ binding cộng thêm vật khác vẫn khó hơn chỉ tìm đúng tập con.
  • Khái quát ngoài SABER: vượt mọi baseline trên 9 benchmark binding cũ / 12 cài đặt, trung bình +15.4 so với Qwen3-VL-Embedding-8B; riêng SugarCrepe++ text→text +22.8, ColorSwap text→image +33.9, CLEVR image→text +25.6.
  • Ít mất năng lực tổng quát: MMEB-v3 thay đổi chỉ khoảng −0.5/+0.5 ở bản 2B/8B.
  • Chuyển sang phủ định và instance retrieval: NegBench tăng khoảng +9.3/+10.5 trên COCO/VOC, mạnh nhất ở câu "có A nhưng không B"; instance retrieval tăng mọi bài kiểm tra, tới +9.9 mAP, ILIAS tăng +9.9. Bản lọc bỏ ví dụ phủ định vẫn giữ gần hết lợi ích, gợi ý là transfer từ binding supervision.

IV. Conclusion & Future Works:​

Điểm mấu chốt là độ chính xác compositional là một chiều chất lượng embedding riêng, không tự suy ra từ retrieval rộng; có thể cải thiện bằng supervision rẻ, kiểm soát chặt trên text mà vẫn lan sang ảnh. Hạn chế rõ: SABER dùng ảnh tổng hợp nên có thể mang biến thể ngoài ý đồ về bố cục, kích thước, hướng vật thể. Hướng mở: giảm phụ thuộc ảnh synthetic, xử lý tốt hơn containment/superset, và kết hợp instruction hoặc dữ liệu đa phương thức có kiểm soát khi cần.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Thiết kế thêm các biến thể SABER dùng ảnh tự nhiên hoặc bán tổng hợp để kiểm tra xem lợi ích text-only supervision còn giữ khi ảnh thật có nhiễu bố cục, ánh sáng và tư thế phức tạp hơn.
  2. Nghiên cứu hàm mất và dữ liệu hard negative nhằm cải thiện trực tiếp containment retrieval: query chỉ có một tập binding nhưng cần tìm cảnh lớn hơn chứa đúng tập binding đó.
  3. So sánh text-only supervision với supervision ảnh tổng hợp có kiểm soát ở quy mô lớn hơn, đo khi nào ảnh trở nên cần thiết cho binding chéo phương thức thay vì chỉ làm phong phú dữ liệu.
  4. Mở rộng tinh chỉnh binding sang các dạng composition khác như quan hệ không gian, số lượng, phủ định hỗn hợp và mệnh đề nhiều bước trong cùng một embedding space.

2. Patent:​

  1. Trợ lý tìm ảnh trên điện thoại hiểu mô tả chính xác hơn: người dùng nói "tấm áo đỏ cạnh túi xanh", hệ thống tìm đúng ảnh có áo đỏ và túi xanh, không bị nhầm với áo xanh và túi đỏ.
  2. Tìm sản phẩm theo thuộc tính ghép đôi trong app mua sắm: người dùng mô tả "giày trắng với dây vàng, áo khoác đen kẻ caro", kết quả ưu tiên đúng từng thuộc tính thuộc đúng sản phẩm thay vì chỉ đủ từ khóa.
  3. Bộ lọc video theo cảnh phức tạp cho điện thoại: tìm clip có "xe đỏ đỗ cạnh cây xanh và người mặc áo vàng", dùng embedding đã tinh chỉnh binding để giảm trả về clip đúng vật nhưng sai màu hoặc sai đối tượng.
  4. Ứng dụng sắp xếp album ảnh theo mô tả tự nhiên: gõ "bánh kem hồng và cốc xanh trên bàn gỗ", điện thoại nhóm ảnh đúng theo cách ghép thuộc tính-vật thể thay vì gom mọi ảnh có bánh, cốc, bàn.
  5. Công cụ kiểm tra caption ảnh tự động cho dịch vụ đám mây: phát hiện caption viết đúng từ nhưng sai chủ sở hữu thuộc tính, ví dụ "đá ướt và lá xám" trong khi ảnh là lá ướt và đá xám.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.22602
ArXiv Abstracthttps://arxiv.org/abs/2610.22602
PDF Downloadhttps://arxiv.org/pdf/2610.22602.pdf
Github Repositoryhttps://github.com/Netanel-Tamir/Stuck-On-Shuffle

27. Belief-Trajectory Energy: Measuring the Path to a Prediction (15 votes)​

Tác giả: Jiahao Ying, Wei Tang, Boxian Ai, Yaoning Wang, Haotian Chen, et al.

Xuất bản lúc: 2026-10-04

Tag: LLMs, Interpretability, Logit-Lens, Jensen-Shannon Divergence, AI-Generated Text Detection, Data Difficulty, Generator Attribution

I. Main Problem:​

LLM hiện thường chỉ được quan sát qua đầu ra cuối cùng: một xác suất, một câu trả lời, hoặc một nhãn quyết định. Nhưng bên trong mỗi forward pass, mô hình đã sửa dự đoán dần qua từng lớp Transformer, và phần lớn quỹ đạo nội bộ này bị vứt bỏ. Vấn đề là:

  • khó biến các trạng thái trung gian thành một đại lượng có nguyên tắc, thay vì feature thủ công
  • tín hiệu cần hữu ích ngoài một downstream predictor riêng lẻ
  • phải chọn đúng độ chi tiết: neuron-level thì đắt và khá model-specific, output-level thì mất hết quá trình hình thành dự đoán.

II. Main Idea:​

Belief-Trajectory Energy (BTE) đo mức độ mô hình phải chỉnh niềm tin dự đoán khi xử lý một input. Với mỗi token, tác giả chiếu trạng thái tại từng lớp qua unembedding head để thu phân phối next-token, rồi tính Jensen–Shannon divergence giữa hai phân phối liên tiếp như một bước thay đổi. Làm trung bình theo token nhưng giữ nguyên chiều sâu tạo BTE depth profile; còn các lớp giữa có thể rút thành scalar training-free để ước lượng độ khó. Về lý thuyết, mỗi bước tương ứng với effective predictive revision theo hình học Fisher–Rao, và chuỗi các bước giữ thông tin trung gian mà chỉ so belief đầu-cuối sẽ mất.

Ví dụ đời thường: giống như xem lại từng vòng xoay của bánh lái khi xe tự tìm đúng làn, thay vì chỉ nhìn điểm đến cuối cùng: con đường đi cho biết xe đã chỉnh hướng bao nhiêu và ở đoạn nào.

III. Main Results:​

  • Scalar BTE phản ánh độ khó tương đối của model: trên MATH-500, ProofWriter, StepGame, SpaRTUN, BTE tăng cùng mức khó; Spearman theo item đạt khoảng 0.33–0.66 với Llama scorer.
  • Không phải difficulty tuyệt đối: cùng input nhưng model khác nhau cho thứ tự BTE khác nhau; model quá mạnh hoặc quá familiar với domain có thể nén khác biệt BTE.
  • Human–LLM review detection: dùng full depth profile, Qwen-based BTE đạt tới 0.998 macro-AUROC ở setting full-coverage; vẫn mạnh khi test paper disjoint và khá robust khi rewrite human reviews.
  • Generator attribution: depth profile alone đạt 91.3% với Qwen; khi giữ thêm token-level statistics, eight-way attribution lên 95.6%.
  • Tín hiệu học được, không phải artifact kiến trúc: ở pretraining ngẫu nhiên, profile gần như phẳng; qua pretraining, BTE tăng và bắt đầu tương quan độ khó. Fine-tune trên toán làm BTE giảm mạnh trên chính distribution đó, ví dụ -22% trên MATH-500 và -17% trên GSM8K.

IV. Conclusion & Future Works:​

BTE cho thấy một LLM không chỉ là đối tượng cần đánh giá, mà còn có thể là công cụ đo dữ liệu thông qua động lực dự đoán nội bộ của chính nó. Tuy nhiên, kết quả phụ thuộc vào scorer: năng lực, dữ liệu pretraining và mức familiarity với từng phân phối đều làm phần của phép đo. Hướng mở gồm: dùng BTE để probe training exposure/model familiarity, xây scorer ensemble để giảm bias của một model, kết hợp token-level dynamics để giữ thông tin bị mean-pooling bỏ qua, và kiểm chứng chặt hơn khi LLM mới tạo text ngày càng gần phân phối human.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng đo lường quỹ đạo dự đoán thành model-familiarity probe: dùng mức giảm năng lượng qua các lớp để suy luận mô hình đã thấy một phân phối dữ liệu bao nhiêu, kể cả khi dữ liệu training không công khai.
  2. Phát triển multi-scorer BTE calibration: học cách kết hợp depth profile từ nhiều model cỡ nhỏ khác kiến trúc để ước lượng độ khó và phát hiện text tạo sinh ít phụ thuộc vào một scorer duy nhất.
  3. Nghiên cứu token-level belief dynamics cho attribution dài hạn: giữ pattern theo vị trí token, cụm nghĩa và độ dài câu để nhận diện nguồn tạo văn bản khi các generator liên tục đời mới tiến gần phong cách người viết.

2. Patent:​

  1. Ứng dụng điện thoại hỗ trợ học toán: nhập lời giải hoặc chụp ảnh bài làm, ứng dụng chạy một mô hình ngôn ngữ cục bộ/đám mây để đo mức thay đổi dự đoán qua từng lớp của lời giải, rồi gợi ý mức khó tương đối và điểm cần gợi ý tiếp theo mà không cần chấm đúng/sai tuyệt đối.
  2. Công cụ kiểm tra phản biện/đánh giá sản phẩm trên điện thoại: khi người dùng đọc một bài review, ứng dụng phân tích đường đi chỉnh dự đoán nội bộ của mô hình để cảnh báo bài viết có dấu hiệu giống text do máy tạo ra, đồng thời hiển thị mức độ tin cậy theo từng đoạn.
  3. Hệ thống quản lý nội dung cho nền tảng di động: dùng hồ sơ thay đổi dự đoán theo độ sâu lớp để gắn nhãn khả năng một bình luận, đánh giá khách sạn hoặc mô tả ứng dụng được tạo bởi model nào, hỗ trợ chống spam, chống review ảo và truy xuất nguồn nội dung.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.05114
ArXiv Abstracthttps://arxiv.org/abs/2610.05114
PDF Downloadhttps://arxiv.org/pdf/2610.05114.pdf
Github RepositoryN/A

28. DiscoveryRSI: Recursively Learning to Discover Valuable Hypotheses (14 votes)​

Tác giả: Jianyuan Zhong, Chenwei Wu, Zhaochen Yu, Xixian Jiang, Xuewei Li, et al.

Xuất bản lúc: 2026-10-16

Tag: AI for Science, Multi-Agent Systems, Recursive Self-Improvement, Hypothesis Generation, Scientific Discovery, LLMs, Agentic Search

I. Main Problem:​

Các research agent hiện nay sinh giả thuyết khoa học nhưng không học được từ quá trình nghiên cứu mà chúng vừa thực hiện. Hai khó khăn cốt lõi:

  • Không biết nên học gì: đánh giá cuối cùng của một giả thuyết không cho biết đóng góp nào đáng được củng cố — có thể một agent đề xuất giải thích, agent khác thêm nhóm đối chứng, agent khác sửa kế hoạch thí nghiệm.
  • Mất lịch sử nghiên cứu: chỉ giữ lại đề xuất cuối khiến các quyết định và sự tiến hóa đằng sau nó bị xóa, không tận dụng được kinh nghiệm cho vòng nghiên cứu sau.

Kết quả là chất lượng giả thuyết không cải thiện theo thời gian, và các agent liên tục lặp lại các lỗi quy trình (tool use hỏng, mất artifacts, đóng vấn đề quá sớm).

II. Main Idea:​

DiscoveryRSI định nghĩa giả thuyết khoa học đáng giá như một object gồm 4 phần: claim dựa trên bằng chứng, kế hoạch điều tra khả thi, tiêu chí quyết định (kết quả nào hỗ trợ/yếu đi claim), và giải thích thay thế. Framework phát triển giả thuyết qua cây nghiên cứu đa agent (Lead, Generation, Evolution, Critique, Progress — với các phép evolution, repair, crossover, restart), biên dịch kế hoạch điều tra thành task thực thi được (Harbor tasks), và lưu giữ toàn bộ lịch sử quyết định. Từ kinh nghiệm này, ba cơ chế học đệ quy:

  • Hypothesis credit optimization: dùng TrueSkill để chấm giả thuyết, rồi phân bổ có giới hạn credit về đúng các lịch sử đóng góp đã tạo ra nó — chỉ các bước được đóng góp hỗ trợ mới vào loss, không phải mọi message — và dùng credit đó để huấn luyện lại model (DiscoveryRSI-27B).
  • Harness replay: giữ nguyên trọng số model, phân tích lỗi lặp lại trong quy trình (exploration lặp, tool hỏng, mất artifacts) để chỉnh sửa workflow/agent harness.
  • Rediscovery: áp dụng model + harness đã nâng cấp vào các câu hỏi mới, tạo kinh nghiệm mới cho vòng học tiếp theo; mỗi vòng chấp nhận cập nhật qua đánh giá dev set trước khi triển khai.

Kèm theo DFM-Bench đánh giá 5 cấp: giả thuyết, revision, development path, whole-run allocation và contribution.

Ví dụ đời thường: giống một nhóm nghiên cứu người — khi giả thuyết cuối được công nhận, người quản lý điểm lại ai đề xuất ý hay, ai sửa được lỗi phương pháp, ghi công đúng người để họ càng làm tốt hơn, đồng thời rút kinh nghiệm về quy trình làm việc (sửa cách phân công, cách lưu dữ liệu) trước khi mở đề tài mới.

III. Main Results:​

  • Chất lượng giả thuyết tăng qua các vòng tự cải thiện: điểm trung bình từ 4.86 (base model) lên 5.39 sau 2 vòng RSI, tăng mạnh nhất ở falsifiability, alternative explanations và data resolvability.
  • Tương ứng với nghiên cứu thật sau cutoff: 6.3% giả thuyết của DiscoveryRSI-27B có liên kết hành động với công bố khoa học sau ngày cắt dữ liệu — vượt xa GPT-6 (2.5%) và Claude Opus 5 (2.3%).
  • Cải thiện mỗi revision theo đánh giá con người: +0.07 cho DiscoveryRSI-27B, so với +0.03 (GPT-5.6 Sol) và −0.01 (GPT-6 Luna).
  • Hành vi tiến hóa thay đổi: tỷ lệ dùng evolve/repair tăng từ 77.5% lên 91.7% qua các vòng — agent học được chiến lược hiệu quả hơn thay vì restart liên tục.
  • Đánh giá chuyên gia: DiscoveryRSI-27B được chấm cao hơn GPT-6 Luna về tầm quan trọng giả thuyết và mức độ plausible, giới hạn bởi bằng chứng.
  • DFM-Bench là benchmark đầu tiên phủ đủ 6 khía cạnh: merit, contribution, evidence use, revision, development path và whole-run allocation (các benchmark trước chỉ phủ tối đa 1-2).

IV. Conclusion & Future Works:​

DiscoveryRSI chứng minh rằng học đệ quy từ lịch sử phát triển giả thuyết — phân bổ credit đúng đóng góp, tái phát quy trình để sửa harness, và tái khám phá trên câu hỏi mới — cải thiện thực sự khả năng hình thành các điều tra có thể kiểm chứng. Điểm mấu chốt: giá trị nằm ở việc bảo toàn lịch sử nghiên cứu, không chỉ sản phẩm cuối.

Hướng tương lai (suy ra từ thiết kế):

  • Mở rộng rediscovery sang các miền khoa học ngoài life science và sang thí nghiệm vật lý không chỉ tính toán.
  • Cải thiện thuật toán phân bổ credit khi ancestry của giả thuyết là đồ thị phức tạp (nhiều cha).
  • Nghiên cứu sâu hơn cân bằng giữa cập nhật model (credit optimization) và cập nhật harness (replay) trong acceptance chung.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phương pháp phân bổ credit có giới hạn từ đánh giá khoa học (kiểu TrueSkill) xuống các đóng góp agent riêng lẻ, có thể áp dụng cho mọi hệ thống đa agent cần biết 'bước nào trong lịch sử đáng được học lại'.
  2. Benchmark DFM-Bench đánh giá tiến bộ khoa học tích lũy ở 5 cấp (giả thuyết, revision, lộ trình phát triển, phân bổ toàn run, contribution) — tiêu chuẩn mới để so sánh các research agent.
  3. Kết hợp cập nhật trọng số model và chỉnh sửa agent harness trong một vòng lặp tự cải thiện duy nhất, với acceptance qua dev set tách biệt test set.
  4. Nghiên cứu hành vi tiến hóa của agent khoa học: làm sao RSI làm dịch chuyển hành vi từ restart sang evolve/repair, và liệu mô hình hành vi này có dự đoán được chất lượng nghiên cứu không.

2. Patent:​

  1. Ứng dụng điện thoại hỗ trợ nghiên cứu y sinh cho bác sĩ: bác sĩ nhập câu hỏi lâm sàng (ví dụ liên quan đến chỉ số thận sau xuất viện ICU), app trên điện thoại tự sinh giả thuyết kèm kế hoạch phân tích dữ liệu bệnh viện, tiêu chí kết luận và giải thích nhiễu — sau mỗi lần dùng, hệ thống tự học từ phản hồi của bác sĩ để lần sau đề xuất chính xác hơn.
  2. Nền tảng quản lý ý tưởng nghiên cứu trong phòng lab: ghi lại từng phiên bản giả thuyết, ai đề xuất, ai sửa, kết quả chấm; tự động tính 'điểm công' cho từng thành viên và đề xuất điều chỉnh cách phân công khi phát hiện lỗi quy trình lặp lại (mất file, kiểm tra thiếu).
  3. Trợ lý nghiên cứu cá nhân trên điện thoại tự cải thiện theo tuần: mỗi tuần user đặt câu hỏi khoa học mới, trợ lý sinh giả thuyết + kế hoạch thí nghiệm, user chấm điểm; app cập nhật mô hình gợi ý cục bộ trên máy và sửa quy trình làm việc, đồng thời đối chiếu ngầm với bài báo mới xuất bản để cảnh báo nếu ý tưởng đã có người làm.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.23839
ArXiv Abstracthttps://arxiv.org/abs/2610.23839
PDF Downloadhttps://arxiv.org/pdf/2610.23839.pdf
Github Repositoryhttps://github.com/Gen-Verse/DiscoveryRSI

29. SciΠvot: Benchmarking Principal-Investigator Judgment at Pivotal Moments of Scientific AutoResearch Agents (11 votes)​

Tác giả: Youran Sun, Xingyu Ren, Chugang Yi, Kejia Zhang, Di Wu, et al.

Xuất bản lúc: 2026-10-15

Tag: LLM Agents, AutoResearch, Scientific Judgment, Benchmark, Human Corrections, Preference Supervision, Test-Time Compute, Agent Evaluation

I. Main Problem:​

Các tác nhân nghiên cứu khoa học tự động (AutoResearch) có thể chạy thí nghiệm nhiều tuần đến nhiều tháng, nhưng điểm nghẽn thật sự là phán đoán khoa học: chọn thí nghiệm nào đáng tốn tài nguyên, khi nào nghi ngờ kết quả bất thường, và khi nào bằng chứng đủ để kết luận. Đánh giá loại phán đoán này rất khó vì:

  • quyết định nghiên cứu mở, phụ thuộc ngữ cảnh dự án
  • các benchmark hiện có chủ yếu đo khả năng lặp lại thí nghiệm, lập trình workflow, hoặc cải thiện điểm số, không đo quyết định hướng nghiên cứu lúc bờ vực
  • hậu quả phán đoán sai là lãng phí tuần tính toán hoặc để lại câu hỏi khoa học chưa được giải quyết.

II. Main Idea:​

Tác giả xây dựng SciΠvot, benchmark gồm 248 ca phán đoán được rút ra ngược từ 6 tháng nghiên cứu thực tế: 26 dự án ở 6 lĩnh vực khoa học, do các nhà nghiên cứu cấp cao điều phối tác nhân LLM và liên tục can thiệp để sửa phán đoán sai. Mỗi ca:

  • phục hồi kế hoạch gốc của LLM (A) ngay trước điểm can thiệp
  • tái dựng kế hoạch đã được người sửa (B) từ can thiệp và kết quả điều tra tiếp theo
  • đưa cho mô hình (hoặc người mới) hồ sơ dự án tại thời điểm trước sửa đổi — gồm ý tưởng, tiến độ, code, log thí nghiệm — và yêu cầu chọn A hay B

Chọn B là đúng, vì B đã được hậu quả thực nghiệm xác nhận. Cách này tách phán đoán khỏi sinh kế hoạch khả tín, và biến mỗi sửa đổi của con người thành cặp so sánh kiểu direct preference optimization cho các quyết định như lên kế hoạch, thích ứng kết quả, nhận diện bất thường, đủ bằng chứng, và giữ đúng trọng tâm câu hỏi nghiên cứu.

Ví dụ đời thường: giống một giám sát viên giàu kinh nghiệm trình bày lại một ca bệnh khó ở thời điểm chưa có chẩn đoán — học viên chỉ có hồ sơ bệnh án và hai phác đồ, và phải tự chọn phác đồ mà về sau chứng minh là đúng, thay vì nghe kể lại ai đã đoán trúng.

III. Main Results:​

  • 4/5 mô hình frontier (GPT-6 Astra, Claude Opus 5, Grok 4.6, GPT-5.6 Sol, Terra) chọn kế hoạch bị người sửa nhiều hơn kế hoạch đúng ở mức suy luận trung bình khi có hồ sơ dự án; điểm trung bình 5 mô hình chỉ 39.2%, tệ hơn mức ngẫu nhiên 50%.
  • Điểm cao nhất có hồ sơ dự án là Astra 63.5% (mức xhigh), trong khi nhà nghiên cứu mới đạt 73.4%.
  • Hồ sơ dự án làm giảm độ chính xác: mọi mô hình đều đạt điểm cao hơn khi chỉ nhìn hai kế hoạch (trung bình 55.8% so với 39.2%), vì ghi chú tiến độ chứa cả lời giải thích sai của chính tác nhân.
  • Suy nghĩ nhiều hơn không chữa được: tăng effort chỉ cải thiện không nhất quán; ở lần xem lại thứ nhất sửa 422 lỗi nhưng tạo 302 lỗi mới, lần thứ hai sửa 264 nhưng tạo 305 — hiện tượng "re-trapping" quay lại đúng sai lầm cũ.
  • Phân tích theo loại phán đoán cho thấy Astra mạnh ở anomaly awareness (72.2%) nhưng yếu ở planning (56.1%) và focus (54.9%); 49 ca cả 5 mô hình đều chọn sai ở cả hai thứ tự lựa chọn.
  • Bias cấu trúc rõ rệt: mô hình thiên vị kế hoạch gốc của LLM (on-policy) hơn kế hoạch do người sửa (off-policy).

IV. Conclusion & Future Works:​

SciΠvot cho thấy kể cả với hồ sơ dự án đầy đủ và thêm thời gian cân nhắc, các mô hình frontier vẫn thường quay về đúng quyết định mà nhà nghiên cứu cấp cao đã phải sửa — phán đoán "Principal Investigator" là nút cổ chai thật của AutoResearch chứ không phải vấn đề duy trì thí nghiệm chạy. Hướng đi chính được đề xuất: dùng các cặp so sánh A/B của benchmark làm dữ liệu preference supervision để huấn luyện một preference scorer cho hành động nghiên cứu, làm phần thưởng trong agentic reinforcement learning. Câu hỏi kiểm chứng tiếp theo là liệu huấn luyện như vậy có cải thiện quyết định trên dự án mới và giảm số lần con người phải can thiệp hay không.

Giới hạn: benchmark chỉ phủ nghiên cứu lý thuyết/tính toán trên CPU/GPU (mô phỏng, phân tích dữ liệu như ảnh sinh học), chưa gồm wet-lab hay phần mềm chuyên dụng thương mại; các ca được chọn lọc nên đo khả năng nhận diện quyết định sửa đổi, không ước lượng tần suất lỗi trong nghiên cứu nói chung; sinh kế hoạch và thực thi nghiên cứu cần benchmark riêng.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Huấn luyện preference scorer trên các cặp kế hoạch gốc/đã sửa của SciΠvot bằng direct preference optimization, rồi dùng làm reward trong reinforcement learning cho tác nhân nghiên cứu, đo xem tỷ lệ can thiệp của con người trên dự án mới có giảm không.
  2. Mở rộng benchmark sang wet-lab và phần mềm mô phỏng chuyên ngành, kiểm tra mức độ chuyển giao của phán đoán PI giữa các môi trường thí nghiệm và công cụ khác nhau.
  3. Nghiên cứu cơ chế "re-trapping": tại sao tăng reasoning effort hoặc xem xét lại khiến mô hình rời khỏi lựa chọn đúng để quay về kế hoạch LLM gốc, và thiết kế kỹ thuật deliberation có phản hồi ngoài để chống hiện tượng này.
  4. Phát triển tác nhân có cơ chế tự kiểm chứng giả định: bắt buộc đối chiếu tuyên bố trong ghi chú tiến độ với quan sát và code trước khi chấp nhận kế hoạch kế tiếp, đặc biệt khi kết quả bất thường.

2. Patent:​

  1. Trợ lý nghiên cứu trên điện thoại cho sinh viên sau đại học: khi dự án bế tắc, ứng dụng đọc hồ sơ dự án (ghi chú, code, log thí nghiệm) và đưa ra hai phương án tiếp theo với phân tích rủi ro; hệ thống chấm điểm mức độ nghi ngờ để nhắc người dùng kiểm tra dụng cụ đo trước khi tăng quy mô thí nghiệm.
  2. Hệ thống giám sát tác nhân AI thuê đám mây cho phòng thí nghiệm nhỏ: dashboard phát hiện dấu hiệu dự án đi lệch — lặp lại chiến lược đã thất bại, tối ưu chỉ số phụ thay vì câu hỏi gốc, kết luận sớm khi dữ liệu chưa đủ — và tự động đề xuất các điểm cần con người phê duyệt trước khi tốn thêm giờ tính toán.
  3. Bộ công cụ tự đánh giá chất lượng phán đoán của trợ lý AI trước khi triển khai trong doanh nghiệp R&D: nạp lịch sử các lần sửa đổi của chuyên gia nội bộ thành bộ câu hỏi chọn lựa hai phương án, đo xem mô hình có thống nhất chọn phương án được chuyên gia xác nhận, rồi báo cáo điểm tin cậy kèm khoảng so với ngưỡng ngẫu nhiên.
  4. Module ghi nhớ bài học sửa đổi cho tác nhân AI kỹ thuật: mỗi lần kỹ sư chỉnh hướng thử nghiệm, hệ thống lưu thành cặp "phương án máy đề xuất / phương án đã chỉnh" kèm bằng chứng thực nghiệm, để lần sau tác nhân ưu tiên các dạng kiểm tra đo lường trước khi thay đổi quy mô mô hình hay tham số.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.21082
ArXiv Abstracthttps://arxiv.org/abs/2610.21082
PDF Downloadhttps://arxiv.org/pdf/2610.21082.pdf
Github RepositoryN/A

30. OPMD: On-Policy Mechanism Distillation Beyond Output Supervision (10 votes)​

Tác giả: Yingdong Shi, Zhihong Li, Changming Li, Jingyi Yu, Quan Li, et al.

Xuất bản lúc: 2026-09-29

Tag: Knowledge Distillation, On-Policy Distillation, Language Models, Representation Learning, Reasoning, LLMs

I. Main Problem:​

On-policy distillation (OPD) huấn luyện student trên các prefix do chính nó sinh ra, giảm exposure bias, nhưng giám sát chỉ dừng ở không gian đầu ra (phân phối token tiếp theo). Hệ quả:

  • Hai mô hình có thể dự đoán giống nhau nhưng tổ chức suy luận khác nhau ở tầng bên trong — thống nhất output không đồng nghĩa thống nhất cách tính toán.
  • Ghép trực tiếp hidden state của teacher vào student (activation patching qua projector MSE) có thể làm hỏng hoàn toàn khả năng sinh của student: gần nhau về hình học chưa chắc dùng được bởi các tầng phía sau của student.
  • Nhiều thông tin tính toán trung gian quý giá của teacher (đặc biệt với bài toán suy luận phức tạp) bị bỏ lỡ.

II. Main Idea:​

OPMD (On-Policy Mechanism Distillation) chuyển giao cơ chế tính toán bên trong của teacher thay vì chỉ kết quả đầu ra, theo 2 giai đoạn:

  • Giai đoạn I — dựng teacher tương thích với student: giữ nguyên cả teacher và student, học các projector từng tầng để tiêm hidden state của teacher vào giữa backbone student (dạng residual update). Projector được tối ưu bằng mất mát đầu ra (reverse KL với teacher) trên chính student đông cứng — tức chỉ tối ưu theo lợi ích chức năng phía sau, không phải sai số hình học MSE. Kết quả là 'student-compatible teacher': thông tin teacher được diễn đạt đúng ngôn ngữ tính toán của student.
  • Giai đoạn II — internalization on-policy: student tự sinh prefix, rồi được huấn luyện (LoRA) để tự tái tạo các trạng thái ẩn do student-compatible teacher tạo ra trên chính prefix đó. Khi suy luận, teacher và projector bị vứt bỏ hoàn toàn — chỉ còn student gốc tự vận hành.

Thí nghiệm patching cho thấy latent state của mô hình RL tối ưu chứa thông tin thật: chèn vào model base nâng độ chính xác từ ~15% lên ~85%.

Ví dụ đời thường: giống học nghề với thầy — không chỉ chép công thức thành phẩm, mà thầy đứng cạnh chỉnh từng động tác tay giữa lúc mình đang làm, sao cho chính đôi tay mình dùng được; sau đó thầy rời đi, mình làm một mình vẫn đúng kỹ thuật.

III. Main Results:​

  • Ba cặp teacher–student (Qwen3-4B→Qwen3-1.7B-Base, RL-Math→Qwen3-1.7B-Base, RL-Math→Qwen2.5-3B): OPMD đạt accuracy trung bình cao nhất mọi baseline; vượt OPD trên AMC lần lượt +3.76, +7.04, +2.66 điểm (AMC của OPMD: 39.07–41.41%).
  • Teacher mạnh hơn không tự động cho student tốt hơn: đổi teacher từ Qwen3-4B sang RL-Math làm OPD giảm (35.31→33.12) nhưng OPMD tăng (39.07→40.16) — OPMD tận dụng teacher chuyên biệt tốt hơn.
  • Train dài hơn vẫn cải thiện (lên 1.024 updates cao hơn mốc 512); OPMD đạt accuracy cao hơn OPD với phản hồi ngắn hơn ở mọi mốc — chất lượng suy luận tốt hơn, không phải chỉ viết dài hơn.
  • Mở rộng: multi-teacher (toán + code) vượt M-OPD trên cả AMC, HumanEval+, MBPP+; cross-family SFT (Qwen3-4B→Llama3.1-8B) chỉ thêm mechanism supervision, không cần KL ở logit, vẫn cải thiện AMC (25.31% vs 22.50%).
  • Phân tích tầng: weight-patching các block 1–7 / 8–14 vào student gốc đưa accuracy từ 14.84% lên 31.88%/34.06% và làm câu trả lời ngắn lại; các nhóm tầng giữ các khía cạnh khác nhau của cơ chế suy luận (chọn lối giải vs thực thi thành công).
  • Chi phí: với vLLM, Stage II của OPMD gần như cùng throughput với OPD; OPMD đạt 38.96% ở 768 updates so với 36.50% của OPD ở 1.024 updates, kể cả đã tính chi phí Stage I.

IV. Conclusion & Future Works:​

OPMD chứng minh giám sát ở cấp độ cơ chế (mechanism-level) là mở rộng thực tiễn của on-policy distillation vượt khỏi output matching. Hai nguyên tắc then chốt: tương thích tính toán (chuyển thông tin teacher sang dạng student dùng được) và internalization (student tự hấp thụ để vận hành độc lập, không cần teacher lúc suy luận). Học sinh không chỉ học teacher dự đoán gì mà cả teacher suy luận thế nào. Giới hạn & hướng tương lai: mới kiểm chứng trên ít cặp teacher–student và tác vụ toán/code; chưa rỏ kết quả với model lớn hơn, kiến trúc đa dạng hơn, tác vụ ngoài toán–code; hai case study ở mục 4.3 chưa đủ để khẳng định chuyên môn hóa tầng mang tính nhân quả.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng OPMD cho mô hình quy mô lớn (từ 7B trở lên) và kiến trúc đa dạng (Mixture-of-Experts, state-space models) để kiểm chứng tính bền vững của mechanism distillation ngoài họ Qwen.
  2. Nghiên cứu cách tự động xác định các cặp tầng teacher–student cần truyền cơ chế (thay vì chỉ định thủ công), dựa trên đo lường mức độ 'dùng được' của từng tầng đích.
  3. Kết hợp mechanism distillation với các mục tiêu on-policy nâng cao (token-level feedback, RL) để truyền đồng thời cả chiến lược suy luận lẫn hành vi đầu ra.
  4. Kiểm chứng internalization trên tác vụ đa phương thức (vision-language, agent) nơi cơ chế trung gian còn chứa nhiều thông tin chưa khai thác hơn văn bản thuần.

2. Patent:​

  1. Hệ thống cá nhân hóa trợ lý AI trên điện thoại: mô hình nhỏ chạy ngay trên máy học cách suy luận từ mô hình lớn trên đám mây — đám mây tiêm các trạng thái tính toán trung gian vào mô hình máy trong lúc người dùng đang dùng, rồi mô hình máy tự hấp thụ để sau đó suy luận tốt hơn hoàn toàn offline, không tốn dữ liệu gọi cloud.
  2. Ứng dụng gia sư toán trên smartphone cho học sinh: app có mô hình nhỏ nhẹ, định kỳ 'luyện nội công' bằng cách bắt chước quá trình giải bài từng bước của mô hình giáo viên mạnh, giúp gợi ý lời giải chất lượng cao mà không cần kết nối máy chủ mỗi lần học sinh hỏi.
  3. Dịch vụ nâng cấp suy luận cho chatbot doanh nghiệp triển khai riêng: nhà cung cấp mô hình lớn bán kèm 'bản sao cơ chế suy luận' dưới dạng projector đã huấn luyện; doanh nghiệp chạy một lần internalization để model nội bộ của họ học được tư duy của model cao cấp mà không tiết lộ trọng số gốc của nhà cung cấp.
  4. Tính năng tự hoàn thiện trợ lý ảo trên xe hơi/loa thông minh có kết nối không ổn định: khi có mạng, thiết bị học cơ chế xử lý từ model lớn; khi mất mạng, thiết bị vẫn giữ khả năng suy luận cải thiện thay vì dùng model nhỏ kém chất lượng như trước.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.14022
ArXiv Abstracthttps://arxiv.org/abs/2610.14022
PDF Downloadhttps://arxiv.org/pdf/2610.14022.pdf
Github RepositoryN/A

31. Towards Looped Models Done Right, Part I: Topology, Input Injection, Recurrent-State Design (10 votes)​

Tác giả: Benhao Huang, Chufan Shi, Junlin Chen, Shicheng Wen, Zhengzhong Liu, et al.

Xuất bản lúc: 2026-10-16

Tag: Looped Language Models, Recurrent Depth, Transformer, Mixture-of-Experts, Model Architecture, Reasoning

I. Main Problem:​

Các mô hình ngôn ngữ vòng (looped language models) tái sử dụng cùng một khối Transformer vật lý qua nhiều tầng logic để đánh đổi tính toán lấy bộ nhớ, nhưng các kiến trúc hiện có đan xen ba lựa chọn thiết kế mà không tách bạch được hiệu ứng của từng lựa chọn:

  • Vị trí đặt vòng lặp (iteration envelope): kiến trúc Ouro lặp toàn bộ stack, còn Huginn lặp phần giữa giữa prelude và coda không chia sẻ trọng số
  • Cách tiêm lại đầu vào (input injection) vào từng vòng lặp
  • Cách tổ chức trạng thái ẩn (latent state): khởi tạo thế nào, dùng một hay nhiều trạng thái

Do các thay đổi thường được áp dụng cùng lúc, chưa rõ lựa chọn nào thực sự quan trọng, và kết luận có giữ nguyên khi chuyển sang mô hình MoE hay không.

II. Main Idea:​

Bài báo đề xuất một khung phân tích chung tách ba trục thiết kế nói trên, rồi thực hiện ablation có kiểm soát từng bước từ Ouro sang Huginn, với mọi mô hình được train từ đầu ở cùng quy mô tham số (730M), cùng độ sâu logic (112 tầng), cùng ngân sách token (336B):

  • Q1 – Envelope: chuyển vòng lặp từ toàn stack sang kiến trúc sandwich (prelude – recurrent core – coda)
  • Q2 – Input injection: tiêm biểu diễn cố định từ prelude vào từng vòng lặp bằng toán tử điều chỉnh theo hướng đường chéo
  • Q3 – Latent state: thử khởi tạo ngẫu nhiên và tách trạng thái high/low
  • Sau đó kiểm chứng sự chuyển giao sang MoE và so sánh apples-to-apples với MoE feedforward dưới ngân sách FLOPs khớp nhau

Kết quả ủng hộ rõ thiết kế kiểu Huginn: sandwich envelope giúp suy luận nhiều bước, injection giúp tận dụng ngữ cảnh, còn khởi tạo ngẫu nhiên và trạng thái tách rời không mang lại lợi ích.

Ví dụ đời thường: giống việc tổ chức một nhóm giải toán — thay vì cả nhóm đọc đề rồi giải rồi viết đáp án trong một vòng lặp mập mờ (Ouro), ta tách rõ: một người chuyên ghi chép đề bài (prelude), nhóm giải lặp đi lặp lại phần giữa và được phép xem lại đề mỗi vòng (injection), còn một người chuyên chốt đáp án (coda) — phân vai rõ ràng khiến phần lặp tập trung tối ưu hơn.

III. Main Results:​

  • Sandwich envelope (Q1): cải thiện rõ suy luận nhiều bước — MATH500 +12.00 điểm, DROP +2.61, BBH-CoT +2.47, GSM8K +7.05 so với full-stack Ouro; nhưng gần như không lợi trên tác vụ kiến thức thuần hoặc code có ràng buộc nghiêm ngặt.
  • Input injection (Q2): lợi nhất cho tác vụ phụ thuộc ngữ cảnh prompt — BBH-CoT +6.63, MMLU +2.53, HumanEval+ +5.49, MBPP+ +4.23; nhưng làm giảm MATH500 (−3.60) và GSM8K (−2.51) trong kiến trúc middle-loop vì kéo trạng thái ngược về biểu diễn đầu vào.
  • Latent state (Q3): khởi tạo ngẫu nhiên và tách trạng thái H/L cho lợi ích không ổn định hoặc tiêu cực — không đáng thêm độ phức tạp.
  • Tổng hợp dense 730M/336B token: kiến trúc Huginn hoàn chỉnh thắng Ouro trên cả 10 benchmark.
  • Chuyển sang MoE (8B-A0.8B resident, tương đương 32B-A3.3B khi unroll, train 500B token): Huginn-MoE thắng Ouro-MoE trên gần hết benchmark (knowledge, reasoning, coding) và có routing chuyên gia cân bằng hơn, dùng các expert khác nhau có nghĩa qua các vòng lặp.
  • So với MoE feedforward 112 tầng dưới FLOPs khớp: Huginn-style chỉ cần 75% tham số resident ít hơn, vẫn thắng trên DROP và GSM8K, hòa MATH500, cạnh tranh trên các benchmark còn lại — đồng thời tiết kiệm bộ nhớ hơn.

IV. Conclusion & Future Works:​

Ba lựa chọn thiết kế của mô hình vòng không ngang giá trị: sandwich envelope và input injection đem lại lợi ích thật (suy luận và tận dụng ngữ cảnh), còn khởi tạo ngẫu nhiên và trạng thái tách rời là phức tạp thừa. Các nguyên tắc này chuyển giao được sang MoE, cho phép dùng vòng lặp thay cho chiều sâu feedforward để giảm tham số lưu trữ mà không mất hiệu năng.

Hướng tương lai: hiểu sâu cơ chế tại sao injection làm giảm suy luận định lượng (cường độ write, vị trí tiêm), tối ưu cân bằng giữa envelope và injection, và kết hợp chiều sâu vòng với conditional computation (Part II gợi ý).

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phân tích cơ chế của trade-off injection–reasoning: đo lường ảnh hưởng của cường độ write, vị trí tiêm và tương tác giữa trạng thái prelude cố định với trạng thái vòng tiến hóa lên chất lượng suy luận toán học.
  2. Khảo sát thang quy mô cho kiến trúc sandwich loop: kiểm chứng xem lợi thế Huginn so với Ouro và với feedforward MoE có bền khi tăng resident parameters và token budget lên nhiều bậc lớn hơn.
  3. Nghiên cứu chu kỳ lặp tối ưu (early-exit / adaptive depth): cho phép mô hình vòng tự quyết định số vòng lặp theo độ khó từng ví dụ, kết hợp với MoE để tiết kiệm thêm tính toán.
  4. Thiết kế trạng thái ẩn nhiều tốc độ (fast/slow latents) có cấu trúc cho mô hình vòng, nhằm biến kết quả tiêu cực hiện tại thành lợi ích thật thay vì chỉ thêm tham số.

2. Patent:​

  1. Kiến trúc mô hình AI tiết kiệm bộ nhớ cho điện thoại: một khối mạng được dùng lặp đi lặp lại nhiều lần giữa phần mã hóa đầu vào và phần giải mã đầu ra, trong đó mỗi lần lặp đều được phép đọc lại biểu diễn đã mã hóa của câu hỏi — cho phép chạy trợ lý AI thông minh tương đương mô hình 112 tầng nhưng chỉ lưu trữ dung lượng bằng mô hình 28 tầng.
  2. Hệ thống suy luận nhiều bước trên thiết bị biên: mô hình ngôn ngữ có lõi lặp chung kẹp giữa hai phần không chia sẻ tham số, chuyên tối ưu cho các tác vụ giải toán, đọc hiểu tài liệu dài và lập trình, chạy được trên chip di động với dung lượng RAM hạn chế nhờ giảm mạnh số tham số cần nạp.
  3. Module định tuyến chuyên gia cân bằng cho mô hình AI lai: kết hợp khối lặp chung với nhiều mạng con chuyên biệt (Mixture-of-Experts), trong đó vòng lặp vừa lặp lại khối chung vừa gọi các chuyên gia khác nhau ở từng vòng, giúp phân phối tải đều và tăng độ chính xác mà không tăng tham số lưu trữ.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.23036
ArXiv Abstracthttps://arxiv.org/abs/2610.23036
PDF Downloadhttps://arxiv.org/pdf/2610.23036.pdf
Github RepositoryN/A