🤗 Daily Hugging Face Paper Digest - 2026-10-12

Báo cáo được tạo tự động vào lúc 2026-10-13 10:48:56 bằng mô hình hermes-agent.

📰 Summary of Papers

1. DiffusionART: Efficient, Stable and Scalable Reinforcement of Diffusion Models (232 votes)

Tác giả: Zhenglin Wan, Jiayu Chen, Zhengfeiyang Zhang, Pengfei Zhou, Wangbo Zhao, et al.

Xuất bản lúc: 2026-10-08

Tag: Diffusion Models, Reinforcement Learning, RLHF, Text-to-Image, Text-to-Video, Reward Fine-tuning, Flow Matching

I. Main Problem:

Tinh chỉnh mô hình diffusion bằng online RL với reward black-box đang bị chia thành hai hướng, cả hai đều có vấn đề:

Reverse-process RL (Flow-GRPO và biến thể): học tốt trên các trạng thái thật nhưng gán tín dụng kém — mỗi trạng thái chỉ nhận điểm lợi thế của cả trajectory, khiến huấn luyện kém hiệu quả.
Forward-process RL (DiffusionNFT): hiệu quả nhưng không ổn định, phải dựa vào hai chất ổn định hóa — huấn luyện đồng thời positive/negative và rollout policy EMA — với schedule EMA phải tinh chỉnh riêng cho từng task, gây cản trở khả năng mở rộng.

Bài toán: làm sao có một thuật toán vừa hiệu quả vừa ổn định mà không cần tinh chỉnh theo từng task?

II. Main Idea:

Paper đầu tiên chẩn đoán nguyên nhân mất ổn định của NFT, rồi đề xuất DiffusionART (Aggregation-First Reward Tilting):

Chẩn đoán 1 — consistency force ẩn: mục tiêu NFT giả định ngầm rằng velocity khi sampling bằng velocity forward lý tưởng; khoảng cách giữa hai cái tạo ra một lực tự-khớp forward–reverse không hướng tới reward. Nhánh positive kéo, nhánh negative đẩy — huấn luyện chung chỉ triệt tiêu một phần (vì reward centering cân bằng theo prompt, không theo từng trạng thái).
Chẩn đoán 2 — EMA thực chất là restoration: EMA ổn định NFT không phải nhờ dữ liệu off-policy mà nhờ lực kéo về policy cũ chứa trong loss; nhưng cường độ phụ thuộc lag của EMA, phải tune từng task.
Giải pháp — aggregation-first: gom mọi sample của cùng một prompt thành một hướng cải thiện reward chung G(c) (hiệp phương sai reward–endpoint, chuẩn hóa RMS), áp lên mọi trạng thái của rollout — lực consistency bị loại từ trong thiết kế, không cần triệt tiêu qua từng sample.
Restoration thích ứng độ trôi: chia batch thành 2 minibatch, update MSE hai lần; update thứ hai tự sinh lực kéo về tỉ lệ với độ lệch d của từng trạng thái — thay thế EMA mà không cần schedule.
Trust-region mask: chặn các bước update quá lớn theo hướng đi ra ngoài (cảm hứng PPO clipping), chuyển ODE sang SDE tham chiếu để đo drift bằng KL proxy.
Hỗ trợ cả reward vô hướng và pairwise preference (DiffusionART-Pairwise).

Ví dụ đời thường: giống lớp học chấm bài — thay vì chấm từng bài rồi dạy lại từng học sinh một cách lộn xộn (mỗi đứa bị kéo đẩy khác hướng), giáo viên tổng hợp điểm cả lớp thành một bài giảng chung cho tất cả, và khi học sinh học lệch quá xa bài cũ thì kéo nhẹ lại — không cần ai đứng ngoài canh chừng (EMA) với quy tắc riêng cho từng môn.

III. Main Results:

T2I (SD3.5-M): đạt reward của Flow-GRPO ở bước 500 với 10.0×, 5.2×, 9.6× ít bước huấn luyện hơn trên GenEval, OCR, PickScore; hiệu quả ngang DiffusionNFT (EMA) mà không cần EMA.
T2I (FLUX.1-dev 12B): học nhanh nhất mọi baseline; DiffusionNFT dao động mạnh vì hyperparameter chuyển thẳng từ SD3.5-M không retune.
T2V (HunyuanVideo-13B, VQ:MQ = 1:1): đạt mức reward cuối của DiffusionNFT và Flow-GRPO-Fast với 12.02× và 11.72× ít GPU-hours, đồng thời mean training reward cao hơn 28.8% và 53.0%; VQ 5.5 chỉ cần 63.4 GPU-hours so với 1,401.4 của NFT (22.1×).
I2V (Wan2.1-14B): đạt MQ 6 với 4.8× ít GPU-hours hơn Flow-GRPO-Fast; các baseline tăng chậm hoặc chững lại.
Nhạy cảm hyperparameter: hoạt động ổn định từ ảnh đến video không tune per-task; bỏ trust-region mask gây sụt reward quanh bước 200.
Nhóm nhỏ vẫn hiệu quả: với pairwise feedback, K=2 (1 cặp/prompt) đạt VQ 12.235 — không thua K=8 (12.092) — với 3.4× ít GPU-hours, chứng tỏ chỉ cần một cặp mỗi prompt.

IV. Conclusion & Future Works:

Paper làm sáng tỏ bản chất mất ổn định của forward-process diffusion RL: một consistency force forward–reverse ẩn không bị triệt tiêu đáng tin giữa các trạng thái, và restoration là chìa khóa ổn định thật sự (không phải off-policy data). DiffusionART triệt tiêu lực gây hại bằng cách aggregate guidance trước khi gán cho trạng thái, kèm restoration thích ứng độ trôi và trust-region — cho huấn luyện reward hiệu quả, ổn định, mở rộng được sang cả ảnh và video, cả scalar lẫn pairwise feedback, cả nhóm rollout nhỏ. Kết quả mở đường cho post-training ở quy mô lớn cho mô hình sinh ảnh/video.

V. Brainstorming Space:

1. Publish Papers:

Phân tích lý thuyết sâu hơn hiện tượng phản trực giác: restoration có output-force RMS nhỏ hơn 9.4× nhưng parameter-gradient norm lớn hơn 4.9× so với guidance, gợi ý guidance dạng dị hợp bị triệt tiêu khi tổng hợp gradient — tác giả để hướng này cho tương lai.
Mở rộng DiffusionART cho các loại reward khác ngoài chất lượng hình ảnh/video, ví dụ reward đa phương thức (văn bản + âm thanh) hoặc reward có ràng buộc an toàn.
Kết hợp guidance dạng covariance với các kỹ thuật regularization chống reward hacking khi reward model ngày càng mạnh.

2. Patent:

Hệ thống tinh chỉnh mô hình sinh ảnh trên điện thoại bằng phản hồi người dùng: ứng dụng tạo vài ảnh cho cùng một lời nhắc, người dùng chọn ảnh đẹp/xấu; ứng dụng tổng hợp chênh lệch giữa các ảnh thành một hướng cải thiện chung để cập nhật mô hình cục bộ mà không cần máy chủ canh chỉnh tốc độ học.
Công cụ chỉnh sửa video tự động theo sở thích cá nhân: người dùng so sánh từng cặp video ngắn (thích hơn/kém hơn); hệ thống dùng phản hồi từng cặp để tinh chỉnh mô hình video sinh theo gu riêng của từng người, chỉ cần 1 cặp video mỗi lần nên chạy được trên thiết bị cá nhân.
Nền tảng tối ưu mô hình sinh nội dung doanh nghiệp: thu thập điểm đánh giá từ nhiều người chấm cho cùng một nội dung, gộp thành một 'hướng cải thiện chung' áp dụng đồng loạt, kèm cơ chế tự kéo mô hình về khi nó thay đổi quá nhanh — loại bỏ nhu cầu kỹ sư tinh chỉnh tham số ổn định cho từng chiến dịch.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12572
ArXiv Abstract	https://arxiv.org/abs/2610.12572
PDF Download	https://arxiv.org/pdf/2610.12572.pdf
Github Repository	https://github.com/vanzll/DiffusionART

2. S-Space: Exploring Spatial Workspace in Multimodal Language Models (202 votes)

Tác giả: Zhiyuan Shi, Xiang Li, Xingzhuo Guo, Shangchen Miao, Weiliang Chen, et al.

Xuất bản lúc: 2026-10-09

Tag: Multimodal Language Models, MLLMs, Interpretability, Spatial Reasoning, Linear Subspaces, Mechanistic Analysis, Chain-of-Thought

I. Main Problem:

Các mô hình ngôn ngữ đa phương thức (MLLM) đã giỏi nhiều tác vụ không gian (tái cấu trúc, điều hướng, thao tác robot), nhưng suy luận không gian bền vững vẫn là thách thức cơ bản: hiệu suất thấp trên những bài toán con người giải dễ dàng, đặc biệt khi phải đổi góc nhìn hoặc phối hợp các hệ tọa độ. Vấn đề nằm ở chỗ:

Hành vi bên ngoài (câu trả lời) không cho biết lỗi đến từ đâu: thị giác, tính toán, hay ngôn ngữ.
Cơ chế biểu diễn không gian nội bộ của MLLM gần như chưa được hiểu và chưa có công cụ chẩn đoán.

II. Main Idea:

Tác giả khám phá ra S-Space: một không gian con tuyến tính 3 chiều trong các activation trung gian của MLLM, đóng vai trò như bàn làm việc không gian nội bộ (internal spatial workspace). Cách tìm ra:

Định nghĩa độ tương phản câu trả lời (logit right−left, above−below, close−far) cho cặp câu hỏi so sánh vị trí.
Lấy gradient theo activation của token tên đối tượng, rồi lấy hiệu gradient phản xứng vai trò (query vs reference), trung bình qua nhiều câu hỏi → ra 3 vector trục H, V, D.
Chiếu tuyến tính token của bất kỳ đối tượng nào lên 3 trục → đọc trực tiếp tọa độ liên tục của nó, dù câu hỏi không liên quan đến không gian.

S-Space là intrinsic, không phải sản phẩm của dữ liệu hay prompt cụ thể: thị giác mã hóa vị trí vào đó, suy luận nội bộ biến đổi nó khi đổi góc nhìn, và phản hồi ngôn ngữ truy cập có chọn lọc (can thiệp nhân quả thay đổi câu trả lời không gian mà hầu như không ảnh hưởng câu hỏi màu sắc).

Ví dụ đời thường: giống như não người dựng một bản đồ nháp trong đầu — mắt nhìn vào là vị trí vật được ghi ngay lên bản đồ, khi tưởng tượng đứng sang chỗ khác thì các mảnh ghép trên bản đồ được xoay lại, và lúc trả lời chỉ cần nhìn xuống bản đồ để đọc, không cần nhìn lại thế giới thật.

III. Main Results:

Độ chính xác đọc tọa độ: tọa độ đọc từ S-Space tương quan mạnh với vị trí thật (Spearman ~0.79/0.77/0.52 cho H/V/D trên Molmo2-ER; ~0.87/0.87/0.69 cho chênh lệch cặp đối tượng).
Đọc tọa độ trả lời được QA không gian với độ chính xác ngang câu trả lời trực tiếp của mô hình, và khái quát hóa sang CV-Bench, EmbSpatial, SpatialTunnel — vượt xa phân phối dùng để xác định S-Space.
Nhân quả: chỉnh tọa độ trong S-Space thay đổi mạnh phán đoán không gian (giữ ~41% câu trả lời gốc khi dịch một đối tượng), trong khi can thiệp ngẫu nhiên giữ ~99.8%; câu hỏi màu sắc gần như bảo toàn (~78%).
Bền vững qua prompt: tọa độ vẫn đọc được chính xác dù hỏi vị trí tuyệt đối, hỏi từng đối tượng độc lập, hay câu hỏi không gian.
Vượt ra ngoài vật nhìn thấy: gán vị trí cho vật ẩn (quả bóng thủ môn lao tới), đặt người quan sát (token "you") ở gần camera, phản ánh quan hệ ngôn ngữ; thậm chí "socialist" nằm bên trái, "conservative" bên phải theo nghĩa bóng chính trị.
Chẩn đoán lỗi (SpinBench): đọc S-Space + xoay tọa độ tường minh nâng độ chính xác từ ~61% lên 91–99%, trong khi câu trả lời trực tiếp của mô hình vẫn yếu — chứng tỏ nút thắt là tính toán không gian, không phải tri giác.
Theo dõi CoT: tọa độ trong S-Space được chuyển dần đúng góc nhìn mục tiêu qua các giai đoạn suy luận, nhưng phép xoay nội bộ vẫn không hoàn hảo.
Lỗi hệ quy chiếu: token "east" trùng hướng "right", "north" trùng "above" trong S-Space → giải thích hiện tượng nhầm hướng la bàn với hướng tương đối ảnh.

IV. Conclusion & Future Works:

S-Space cho thấy MLLM sở hữu không gian làm việc không gian nội bộ có cấu trúc — vị trí được mã hóa tuyến tính, biến đổi qua suy luận, và được dùng có chọn lọc khi sinh câu trả lời — đồng thời là công cụ chẩn đoán tách biệt tri giác khỏi tính toán. Kết quả chỉ ra: (1) mô hình kế thừa thiên lệch từ dữ liệu pretrain (hướng bốc đồng gắn với trái/phải, trên/dưới); (2) hệ thống tương lai không nên dựa vào một MLLM đơn khối cho mọi phép toán không gian, mà nên theo hướng agentic spatial reasoning: kết nối các công cụ chuyên biệt cho phép biến đổi, mô phỏng và ghi nhớ, biến tri giác chính xác thành suy luận đáng tin.

V. Brainstorming Space:

1. Publish Papers:

Phương pháp gradient phản xứng vai trò (role-antisymmetric) tổng quát hóa để phát hiện không gian con tuyến tính biểu diễn các thuộc tính liên tục khác trong MLLM (kích thước, tư thế, chuyển động) ngoài tọa độ không gian.
Cơ chế học tự giám sát trong pretraining tạo ra S-Space: phân tích từ bài toán dự đoán ngôn ngữ không gian đến hình thành trục tọa độ ổn định không cần nhãn tọa độ.
Khuôn khổ agentic spatial reasoning kết nối S-Space với công cụ xoay/biến đổi tọa độ bên ngoài, nhắm thẳng vào nút thắt tính toán không gian đã chẩn đoán.

2. Patent:

Trợ lý ảnh thông minh trên điện thoại có chẩn đoán không gian: đọc tọa độ vật thể từ không gian nội bộ của mô hình để tự phát hiện khi mô hình 'nhìn thấy đúng nhưng suy luận sai' (ví dụ nhầm trái/phải khi đổi góc chụp) và cảnh báo hoặc tự xoay lại tọa độ trước khi trả lời.
Tính năng chỉ đường bằng camera điện thoại: ứng dụng đọc vị trí các cửa hàng/biển chỉ dẫn trong ảnh qua không gian biểu diễn nội bộ, tách riêng bước nhận diện vật và bước suy luận hướng để giảm lỗi 'vật đúng, hướng sai' cho người dùng.
Module kiểm thử tự động cho mô hình đa phương thức trong robot/nhà thông minh: chiếu token tên vật lên các trục không gian nội bộ để đo độ tin cậy vị trí của từng vật trong nhà, phát hiện vật bị định vị sai trước khi robot thực hiện thao tác.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.13527
ArXiv Abstract	https://arxiv.org/abs/2610.13527
PDF Download	https://arxiv.org/pdf/2610.13527.pdf
Github Repository	https://github.com/mirros-lab/s-space

3. Reflex: Visually Grounded Reactive Humanoid Control (132 votes)

Tác giả: Taoyang Jia, Weikai Huang, Linxin Song, Jared Darlington, Jieyu Zhao, et al.

Xuất bản lúc: 2026-10-08

Tag: Humanoid Robotics, Reinforcement Learning, Visual Control, Sim-to-Real, Whole-Body Control, Privileged Learning

I. Main Problem:

Robot humanoid giỏi bắt vật thể trong môi trường kiểm soát, nhưng phản ứng theo thị giác với toàn bộ cơ thể (bắt thùng hàng người ném, né vật lao tới) vẫn chưa đạt được vì bài toán gộp 3 khó khăn cùng lúc:

Điều khiển toàn thân: đặt chân, chỉnh tư thế ngực, dùng cẳng tay đỡ, hấp thụ xung lượng, giữ thăng bằng khi giữ vật
Phản ứng với động lực học nhanh: hộp bay tới robot chỉ trong ~1 giây, trong khi độ trễ camera→điều khiển thật là ~69 ms — robot phải dự đoán quỹ đạo và cam kết hành động trước khi chạm
Grounding từ thị giác egocentric: camera gắn trên robot chuyển động cùng robot, hình ảnh hỗn hợp chuyển động vật + chuyển động tự thân, và cánh tay robot che khuất vật ngay lúc sắp chạm

Các hệ thống trước chỉ giải một phần: dùng motion capture, vật dán marker, hoặc cánh tay gắn cố định — bỏ qua thăng bằng toàn thân và hấp thụ va chạm.

II. Main Idea:

Reflex là khung học 3 giai đoạn tách rời, kết nối bằng một biểu diễn nhỏ gọn (latent 8 chiều) về động lực học của vật:

Stage 1 — học điều khiển toàn thân: policy dựa trên trạng thái hộp (privileged) học bắt bằng PPO + human motion prior (AMP), không cần render hình ảnh
Stage 2 — học động lực học vật: encoder nén quan sát hộp bị trễ (20–60 ms), thiếu sót thành latent; khởi tạo bằng action matching (mô phỏng hành vi policy thầy), rồi tinh chỉnh bằng PPO + DAgger — latent này định nghĩa "thông tin vật mà bộ điều khiển cần"
Stage 3 — grounding thị giác: encoder CNN (heatmap định vị hộp) + GRU học dự đoán latent đó trực tiếp từ lịch sử RGB-D egocentric + ego-motion camera, trong khi bộ điều khiển giữ nguyên đóng băng — chỉ học cách "nhìn", không học lại cách "bắt"

Phép tách này cho từng năng lực một tín hiệu huấn luyện trực tiếp, và cô lập phần học thị giác đắt đỏ khỏi RL (Stage 2 chạy 28k bước/s thay vì 1.5k bước/s nếu render).

Ví dụ đời thường: giống người học lái xe theo 3 bước — trước học cách đạp ga/phan/bẻ lái (kỹ năng vận hành cơ thể), rồi học đọc tốc độ và khoảng cách xe phía trước (hiểu động lực học), cuối cùng mới tập nhìn qua gương chiếu hậu rung lắc để ước lượng đúng tình huống — từng phần được học riêng rồi ghép lại qua một "bản năng" chung.

III. Main Results:

Mô phỏng: bắt thành công 85.7% từ egocentric RGB-D, so với 87.9% khi được cấp quan sát hộp privileged — thị giác gần như không mất hiệu suất
Lịch sử thị giác (temporal history) là then chốt: bỏ nó (chỉ 1 frame) làm tỉ lệ bắt sụt 35.6 và 39.8 điểm với ném chính tâm/lệch 0.6 m; bỏ ego-motion mất 10–23 điểm
Robot thật (Unitree G1): bắt hộp do người ném với 65% và 40% ở 2.5 m và 5 m, đạt 76% và 59% tỉ lệ thành công của người thật (85%/68.3%); 15% ở 7 m (người cũng chỉ 28.3%)
Độ trễ: huấn luyện với ngẫu nhiên hóa độ trễ giúp controller vượt bản không random 5–11 điểm ở mọi mức trễ
So sánh kiến trúc: khởi tạo bằng action matching hơn weight mapping +5.2 điểm; hồi quy latent học được tốt hơn hồi quy trực tiếp 26-D state (+18.7 điểm)
Tổng quát hóa: chịu tải 0.5–2 kg ở 77.7–91.2%; thất bại với hộp quá nhỏ/lớn do policy gần như "mù kích thước"
Pipeline xuôi: sau khi bắt, kết nối controller đi bộ SONIC để mang hộp 7.8 m, trao tay người nhận, đi bộ về 7.3 m — tỉ lệ thành công tích lũy 65%→35%→30%→25%

IV. Conclusion & Future Works:

Reflex chứng minh có thể kết hợp đồng thời điều khiển toàn thân, phản ứng với vật chuyển động nhanh, và grounding từ thị giác egocentric trên humanoid thật — bằng cách phân rã bài toán theo năng lực và kết nối qua một latent động lực học học được, thay vì học end-to-end từ pixel. Điểm then chốt là chính sách động lực học này vượt cả policy dùng ground-truth state ở ném lệch tâm (+12 điểm), nghĩa Stage 1 không phải cận trên. Hướng mở ra cho lớp kỹ năng reactive rộng hơn: chặn đỡ, né tránh, trao nhận đồ, hỗ trợ vật lý — từ thị giác onboard thay vì môi trường gắn cảm biến.

V. Brainstorming Space:

1. Publish Papers:

Khái quát hóa framework 3 giai đoạn cho bài toán humanoid phản ứng nhanh khác (né vật lao tới, chặn bóng, đỡ đồ rơi) bằng cách học latent động lực học riêng cho từng tác vụ nhưng chia sẻ bộ điều khiển toàn thân.
Bổ sung nhận thức kích thước và hình dạng vật vào latent (hiện tại gần như mù kích thước) để mở rộng sang bắt vật chưa thấy trong huấn luyện.
Nâng cấp phần thị giác Stage 3 cho camera chất lượng thấp ngoài trời: xử lý motion blur, auto-exposure và lỗi depth có cấu trúc mà hiện chưa mô hình hóa.

2. Patent:

Robot kho tự bắt hàng từ người dỡ xe tải: camera RGB-D gắn ngực robot nhận diện thùng đang bay, tính trước điểm rơi, tự bước tới và đỡ vào ngực — không cần gắn chip/marker lên thùng, không cần camera lắp cố định trong kho.
Trợ lý robot trong nhà máy sản xuất chung dây chuyền: người công nhân ném linh kiện, robot tiếp nhận, mang tới trạm lắp ráp và trả lại đúng người — tất cả quan sát bằng camera trên thân robot, chuyển mượt sang chế độ mang đồ và bàn giao.
Hệ thống robot giao nhận hàng không tiếp xúc tại cửa: robot nhận kiện hàng được ném/đẩy tới từ khoảng cách ngắn, tự giữ thăng bằng khi va chạm, rồi bế hàng đi vào — hữu ích cho giao hàng tự động hoặc kho bãi thiếu diện tích tiếp cận.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12772
ArXiv Abstract	https://arxiv.org/abs/2610.12772
PDF Download	https://arxiv.org/pdf/2610.12772.pdf
Github Repository	https://github.com/ToberJ/reflex

4. SoftwareGym: Scaling Computer-Use Agent Training with Diverse Synthesized Software Environments (85 votes)

Tác giả: Tian Jin, Wenhao Wang, Jing Kang, Haoting Shi, Rui Ye, et al.

Xuất bản lúc: 2026-10-08

Tag: Computer-Use Agents, GUI Agents, Synthetic Data, Environment Synthesis, Software Engineering Agents, Multimodal SFT

I. Main Problem:

Huấn luyện computer-use agent cần môi trường phần mềm thật, đa dạng và tin cậy để tạo quỹ đạo tương tác hợp lệ, nhưng các hướng hiện có mắc kẹt ở ba điểm:

Ứng dụng native giữ workflow thật và trạng thái phức tạp, nhưng tích hợp tốn công, giới hạn số lượng app và dễ khiến mô hình overfit theo từng app.
Môi trường chạy trong trình duyệt dễ triển khai và kiểm soát trạng thái, nhưng cùng nền HTML/DOM nên thiếu chiều sâu tương tác và cấu trúc app desktop.
Để mở rộng, cần đồng thời có đa dạng giao diện, chức năng đúng khi bấm thật, và chi phí sinh môi trường thấp — ba yêu cầu khó cân bằng khi kiểm chủng chủ yếu bằng tay.

II. Main Idea:

SoftwareGym là pipeline thiết kế → cài đặt → đánh giá GUI → sửa lặp để tự sinh các app desktop Avalonia chạy được, có chức năng và giao diện khác nhau. Cơ chế gồm các lớp kiểm soát:

FunctionDesigner mở rộng một loại phần mềm thành specification giàu chức năng: đối tượng, thao tác, workflow nhiều bước, lỗi và phục hồi; mỗi chức năng ghi thành hợp đồng có điểm kiểm tra GUI.
StyleDesigner/SubStyleDesigner tạo nhiều blueprint UI cho cùng chức năng; chúng ép mỗi cặp variant khác nhau tối thiểu hai chiều layout, compile XAML, rồi dùng layout-tree edit distance để loại bản quá giống nhau.
Coder/DevCoder biến design package thành app chạy được và tự audit source theo functional manual.
EvalTaskGenerateAgent + GUIAgent chạy test bằng chuột/bàn phím trong máy ảo, giữ bộ test cố định, đo pass rate, gửi traceback và ảnh hỏng về sửa; chỉ app qua cả kiểm source và GUI mới vào thư viện. Sau đó Task Synthesis chỉ dùng chức năng đã có bằng chứng GUI passed để tạo task theo độ khó easy/normal/hard.

Ví dụ đời thường: giống xưởng nội thất không chỉ vẽ nhiều mẫu bàn khác nhau, mà còn đóng thử từng chiếc rồi cho người thật kéo ngăn, mở nắp, xếp đồ; cứ chỗ kẹt là gửi lại cho thợ sửa đúng bản lề đó, không đoán từ bản vẽ.

III. Main Results:

Sinh 182 app chạy được thuộc 12 category; pass rate GUI trung bình đạt 91.5% sau tối đa 3 vòng sửa.
Chi phí trung bình mẫu khảo sát: 237.3 phút, 14.8M tokens, 1,718 lần gọi mô hình, khoảng $70.76/app — rẻ và nhanh hơn phát triển tay tương đương.
Repair theo GUI rất quan trọng: cùng khởi đầu 50.4%, repair có GUI lên 83.1%, repair chỉ source gần như đứng yên 48.8%; full style design nâng diversity layout từ 4.9 lên 83.6.
SFT Qwen3.5-9B chỉ bằng trajectory SoftwareGym: OSWorld Pass@3 tăng 41.39% → 56.97% dù không dùng app/task/trajectory OSWorld; SoftwareGym-Bench đạt 40.0%.
Kết hợp SoftwareGym + OSWorld cho SoftwareGym-Bench tốt hơn, 47.5%, cho thấy dữ liệu phần mềm tổng hợp bổ sung chứ không thay thế native software.

IV. Conclusion & Future Works:

SoftwareGym cho thấy có thể tự động mở rộng phân phối phần mềm huấn luyện thay vì chỉ khai thác app có sẵn: kiểm soát thiết kế tạo diversity, kiểm chứng bằng GUI tạo reliability, và pipeline hóa tạo scalability. Điểm đáng chú ý là kỹ năng học được chuyển sang môi trường ngoài domain, nên lợi ích không gói gọn trong app tự sinh. Hướng mở rộng hợp lý: tăng số category và độ sâu workflow, cải thiện repair nhiều vòng theo nguyên nhân gốc, kết hợp dữ liệu native và synthesized tối ưu hơn, và mở sang mobile/IDE/phần mềm doanh nghiệp có trạng thái phức tạp hơn.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng SoftwareGym từ desktop sang môi trường lai desktop-web-mobile, giữ nguyên nguyên tắc design-package, GUI evidence gate và repair có phản hồi chạy thật.
Nghiên cứu cách trộn dữ liệu native software và synthesized software theo tỉ lệ, curriculum và độ khó để tối đa hóa khả năng chuyển sang benchmark ngoài domain như OSWorld.
Phát triển tác nhân sửa lỗi đọc nguyên nhân gốc từ trace GUI: phân biệt lỗi layout, lỗi logic, lỗi persistence và lỗi khởi tạo trạng thái để giảm số vòng repair.
Xây dựng benchmark đánh giá độ tin cậy môi trường tổng hợp theo mức độ workflow dài, cross-module state và distractor bảo vệ đối tượng.

2. Patent:

Nhà máy ứng dụng ảo để huấn luyện trợ lý điện thoại: hệ thống tạo nhiều bản app giả lập khác giao diện nhưng cùng chức năng, cho agent bấm thử bằng cử chỉ chạm/vuốt, tự sửa tới khi qua hết kịch bản rồi xuất dữ liệu huấn luyện cho mô hình trên điện thoại.
Công cụ kiểm thử tự động cho app di động doanh nghiệp: sinh nhiều biến thể màn hình và luồng công việc từ cùng một đặc tả, chạy robot thao tác UI trên điện thoại thật hoặc giả lập, phát hiện nút không phản hồi, mất trạng thái, sai file xuất và tạo báo cáo sửa theo bằng chứng màn hình.
Module tạo app tạm cho đào tạo nhân viên: người quản lý nhập loại phần mềm, hệ thống tạo bản chạy được có bài tập mức dễ/trung bình/khó, dấu vật phẩm nhiễu và yêu cầu bảo vệ dữ liệu, dùng để thực hành thao tác chuẩn trước khi cầm hệ thống thật.
Dịch vụ thử nghiệm giao diện theo yêu cầu: khách hàng chọn loại phần mềm như chỉnh ảnh, bảng tính, email, đọc PDF; nền tảng sinh nhiều thiết kế UI khác nhau, kiểm chứng bằng thao tác chuột/bàn phím và trả về bộ app kèm bộ test có thể chạy lại liên tục.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12611
ArXiv Abstract	https://arxiv.org/abs/2610.12611
PDF Download	https://arxiv.org/pdf/2610.12611.pdf
Github Repository	https://github.com/MrKiing-Jin/SoftwareGym

5. EmbodiedCLBench: Evaluating Continual Learning for Self-Evolving Embodied Agents (63 votes)

Tác giả: Jie Huang, Yanan Chen, Ruixun Liu, Kaichen He, Xinyi He, et al.

Xuất bản lúc: 2026-10-09

Tag: Continual Learning, Embodied AI, Compositional Generalization, Self-Evolving Agents, Benchmark, LLM Agents

I. Main Problem:

Hiện chưa có benchmark nào đánh giá continual learning cho agent thể hiện (embodied agents). Cụ thể:

Các benchmark continual learning hiện tại chỉ hoạt động trong môi trường phi thể hiện: bài toán tri thức, web, hệ điều hành, thế giới mô phỏng dài hạn — bỏ qua độ phức tạp không gian và ràng buộc vật lý của tác vụ embodied.
Các benchmark embodied AI (navigation, manipulation, planning dài hạn) không được thiết kế để đo khả năng tích lũy và chuyển giao kinh nghiệm giữa các tác vụ.
Hậu quả: không rõ self-evolving agent có biết tái kết hợp kỹ năng đã học để giải tác vụ mới, khó hơn hay chỉ học lại từ đầu.

II. Main Idea:

Đề xuất EmbodiedCLBench, benchmark mô phỏng thể hiện đầu tiên, dùng compositional generalization làm nguyên tắc đo continual learning. Cấu trúc ba tầng:

Atomic actions: một tương tác đơn với vật thể (pick up cup) trên nền mô phỏng TongSim.
Basic tasks: ghép vài atomic action thành việc nhà đơn giản (168 tác vụ, 6 loại hình).
Advanced tasks: ghép 2–4 loại basic task thành tác vụ chưa thấy (100 tác vụ, 2–4 atomic actions).

Quy trình đánh giá gồm hai pha: learning (agent hoàn thành basic tasks để tích lũy kinh nghiệm) rồi testing (agent dùng kinh nghiệm đó giải advanced tasks). Kinh nghiệm được cung cấp theo hai cách: In-Context Learning (giữ toàn bộ trajectory trong context) hoặc Skill Learning (agent tự viết bản tóm tắt kỹ năng Markdown). Mỗi tác vụ được biểu diễn thành state-transition graph với ảnh thực tế từng trạng thái và các lựa chọn hành động (optimal / suboptimal / invalid), cho phép đánh giá offline, tái lập hoàn toàn.

Ví dụ đời thường: giống như người thợ mới làm quen nhà bếp: trước hết tập lấy chén, mở tủ, bật bếp riêng lẻ; khi được yêu cầu "nấu xong rửa chén", họ không cần học lại từ đầu mà chỉ xâu chuỗi các thao tác đã biết thành một việc phức tạp hơn.

III. Main Results:

Đánh giá trên 4 harness (HERMES, OPENCLAW, CODEX, CLAUDECODE) × 2 backbone (Qwen3.8-Flash, GPT5.6-Terra):

Advanced tasks gần như không giải được zero-shot (~5–12%), nhưng kinh nghiệm từ basic tasks nâng success rate lên 22–52%, cải thiện nhất quán trên mọi harness.
ICL vs Skill Learning không ai hơn rõ rệt — cả hai đều trích được thông tin hữu ích từ kinh nghiệm.
Lợi ích của học không giảm khi độ khó tăng: zero-shot sụt mạnh khi atomic actions tăng từ 3→6, nhưng mức gain over zero-shot giữ ổn ~30%; ở độ phức tạp cao nhất (6 actions), zero-shot chỉ còn 4% trong khi ICL vẫn đạt 32%.
Không scale theo số lượng mẫu học: nhảy lớn nhất nằm ở k=0→1 (8–10% lên 28–40%); thêm mẫu thứ 2–6 không cải thiện thêm — agent hiện tại không trích được thông tin khác biệt từ kinh nghiệm bổ sung.
Phân tích lỗi: kinh nghiệm giảm hành động invalid 13–20% và tăng hành động optimal; thêm bước thừa (step budget) giúp mọi cài đặt nhưng agent có kinh nghiệm tận dụng dư địa tốt hơn — tức thời gian thử không thay thế được kinh nghiệm.

IV. Conclusion & Future Works:

EmbodiedCLBench chứng minh continual learning là năng lực nền tảng nhưng còn non trẻ ở embodied agents: kinh nghiệm từ tác vụ đơn giản giúp đáng kể trên tác vụ compositional chưa thấy, nhưng hiệu suất còn xa mức bão hòa và không tăng cùng lượng trải nghiệm. Hướng mở: thiết kế harness và phương pháp học giúp agent củng cố, tổng quát hóa và tái sử dụng kinh nghiệm qua nhiều tác vụ, hướng tới continual learning có khả năng scale.

V. Brainstorming Space:

1. Publish Papers:

Phương pháp skill learning giàu cấu trúc cho embodied agents: agent tự trích xuất và lập chỉ mục kỹ năng theo dạng thư viện reusable, để việc thêm mẫu học thực sự cải thiện hiệu suất thay vì chững lại ở mẫu đầu tiên.
Harness có bộ nhớ dài hạn ngoài context window cho agent thể hiện: lưu trữ và truy hồi kinh nghiệm tác vụ theo ngữ cảnh không gian–vật thể, vượt giới hạn cửa sổ context của In-Context Learning.
Đánh giá continual learning trên môi trường mô phỏng online (không còn offline graph) để kiểm tra tính bền vững của kết luận khi trạng thái vật lý có nhiễu và hành động không còn xác định tuyến tính.

2. Patent:

Robot gia đình học theo tầng qua ứng dụng điện thoại: người dùng hướng dẫn robot làm các việc nhỏ (lấy cốc, mở ngăn kéo) qua app; robot lưu thao tác thành kỹ năng, và khi ra lệnh phức tạp hơn (dọn bàn ăn) nó tự ghép các kỹ năng đã học thay vì cần lập trình lại.
Hệ thống đánh giá và huấn luyện agent bán tự động cho kho hàng: nhân viên giao cho robot các tác vụ cơ bản trong ca đầu, hệ thống đo mức cải thiện khi giao tác vụ ghép phức tạp vào cuối ca, tự đề xuất tác vụ luyện tập bổ sung.
Trợ lý ảo điều khiển thiết bị nhà thông minh bằng cơ chế tương tự: học từng lệnh đơn (bật đèn, kéo rèm) rồi tự sáng tác chuỗi thao tác cho kịch bản mới (chuẩn bị phòng ngủ) mà không cần kịch bản được lập trình sẵn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.13021
ArXiv Abstract	https://arxiv.org/abs/2610.13021
PDF Download	https://arxiv.org/pdf/2610.13021.pdf
Github Repository	https://github.com/PKU-VaLuE-Lab/EmbodiedCLBench

6. VisionWeave: Weaving Elastic Visual Representations as a Native Capability of MLLMs (55 votes)

Tác giả: Yuan Feng, Qize Yang, Ruizhe Chen, Sibo Song, Haolin He, et al.

Xuất bản lúc: 2026-10-06

Tag: MLLMs, Visual Token Compression, Self-Distillation, Efficient Inference, Vision-Language Models, Content-Adaptive Routing, SGLang

I. Main Problem:

Các MLLM hiện đại mã hóa ảnh/video thành chuỗi visual token dày đặc, kích thước cố định, gây chi phí tính toán và bộ nhớ lớn khi độ phân giải và số frame tăng. Nhưng thông tin hình ảnh phân bố không đều: vùng cần chi tiết cao (chữ nhỏ, GUI) cần token mịn, trong khi nền đồng nhất chỉ cần biểu diễn gọn. Các hướng hiện có đều có hạn chế:

Downsampling mất chi tiết tinh.
Token pruning/merging (FastV, VisionZip) gây suy giảm nghiêm trọng trên tác vụ dày thông tin và grounding; dùng tỉ lệ nén cố định, không thích ứng nội dung; khó tích hợp với serving engine hiện đại (SGLang, vLLM).
Phương pháp thay đổi patch size theo thống kê ảnh (edge density, entropy) chỉ tối ưu cho vision task đơn lẻ; ViCO chia tile theo độ phân giải nhưng không tương thích với kiến trúc native-resolution của Qwen/Kimi và không đủ mịn khi vùng chi tiết và nền xen kẽ nhau.

II. Main Idea:

VisionWeave biến khả năng "dệt" biểu diễn hình ảnh đàn hồi theo nội dung thành một native capability của MLLM, thông qua self-distillation quy mô lớn (hơn 30K giờ A100, scale tới Qwen3.8-27B). Hai thành phần cốt lõi:

Gated Spatial Pooler: học cách gộp mỗi vùng 2x2 patch thành một token thô (coarse-grained), nằm cùng không gian embedding với token mịn gốc thông qua gate học được (khởi tạo về mean pooling) — vùng đồng nhất thì dùng 1 token thay vì 4 token mịn.
Granularity Router: "dò" đặc trưng ViT ở ba độ sâu (early/mid/late) bằng cross-attention local + global, rồi quyết định từng khối không gian nên dùng token mịn hay token thô, với tọa độ MRoPE dùng chung (token thô đặt ở tâm hình học của 4 token mịn).
Huấn luyện 3 giai đoạn self-distillation: (1) chỉ học pooler với toàn token thô, (2) chỉ học router qua soft-mixing khả vi kèm balance loss, (3) distillation trên chuỗi hard-routed mixed-granularity đúng như lúc inference.

Ví dụ đời thường: giống thợ chụp ảnh nén ảnh thông minh — giữ nguyên độ nét ở vùng có chữ/khuôn mặt quan trọng, còn bầu trời hay bức tường trống thì gộp lại thành một mảng mờ vẫn đủ dùng, thay vì giảm nét đều toàn bức ảnh.

III. Main Results:

Tiết kiệm token thích ứng nội dung: trên Qwen3.8-27B, tiết kiệm trung bình 43.0% visual token (từ 16.5% trên InfoVQA tới 55.1% trên ScreenSpotV2) trong khi giữ 98.9% hiệu suất gốc trên 8 benchmark.
Vượt xa baseline cố định: FastV† và VisionZip ở mục tiêu tiết kiệm 50% cố định chỉ giữ ~88% hiệu suất; trên ScreenSpotV2 chúng sụt tới 47.5% trong khi VisionWeave chỉ sụt 3.17%. Ngay cả khi cho baseline dùng đúng tỉ lệ tiết kiệm của VisionWeave, chất lượng vẫn thấp hơn rõ (76.73 vs ~70.3).
Robust trên mọi độ phân giải và ngân sách frame: luôn có trade-off tốt hơn downsampling; với cap 256 frame, vượt cả native model cap 128 frame trên LongVideoBench (+1.20 điểm) với ít token hơn.
Lợi ích serving thực tế: tích hợp vào SGLang đạt 2.30x throughput, giảm TTFT 54.4% và TPOT 60.6%.

IV. Conclusion & Future Works:

VisionWeave chứng minh elastic visual representation weaving — điều chỉnh lượng tính toán theo hàm lượng thông tin của từng vùng ảnh — có thể trở thành capability bản ngữ của MLLM thế hệ mới, đạt tiết kiệm thích ứng, robust xuyên tác vụ và triển khai được trên hạ tầng serving hiện đại. Nền tảng tự nhiên để mở rộng: điều khiển mức nén bằng ngưỡng routing tại inference, và áp dụng tư tưởng phân bổ tính toán theo nội dung cho các phương thức đa phương thức khác.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng elastic visual weaving sang audio và interleaved image-text: router học cách phân bổ độ mịn biểu diễn cho nhiều phương thức trong cùng một MLLM đa phương thức.
Kết hợp granularity routing với token budget động theo yêu cầu người dùng/latency target: hệ thống tự điều chỉnh ngưỡng routing để đáp ứng SLA khi tải serving thay đổi.
Nghiên cứu elastic weaving cho long-video với ngân sách token cố định: định tuyến độ mịn theo cả không gian lẫn thời gian, ưu tiên frame có biến động thông tin cao.

2. Patent:

Tính năng tiết kiệm pin và băng thông cho camera điện thoại thông minh: trước khi gửi ảnh lên mô hình AI trên đám mây, điện thoại tự đánh giá từng vùng ảnh và chỉ mã hóa chi tiết vùng có chữ, khuôn mặt, vật thể quan trọng, nén phần còn lại — giảm dung lượng gửi đi mà câu trả lời AI gần như không đổi.
Hệ thống đọc tài liệu/giấy tờ qua điện thoại (scan hóa đơn, hợp đồng): vùng có chữ nhỏ được giữ độ phân giải cao, vùng nền trắng trống tự động gộp token, giúp trả lời nhanh hơn gấp đôi trên máy chủ dùng chung.
Trợ lý AI quay video dài trên điện thoại (ghi hình lái xe, sự kiện): ứng dụng tự chọn giữ chi tiết ở các khoảnh khắc có chuyển động/chữ trên biển hiệu và nén các đoạn tĩnh, cho phép hỏi-đáp về video dài mà không tốn dung lượng xử lý lớn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.07987
ArXiv Abstract	https://arxiv.org/abs/2610.07987
PDF Download	https://arxiv.org/pdf/2610.07987.pdf
Github Repository	https://github.com/FFY0/VisionWeave

7. Hear the World in Stereo: Learning Dynamic Spatial Correspondence for Immersive Joint Video-Audio Generation (51 votes)

Tác giả: Hanmo Chen, Chengcheng Liu, Tianxiao Chen, Zheyu Zhang, Siming Zheng, et al.

Xuất bản lúc: 2026-10-08

Tag: Video-Audio Generation, Stereo Audio, Diffusion Transformer, Spatial Audio, Audio-Visual Correspondence, Motion Tracking, RoPE, LoRA

I. Main Problem:

Các mô hình joint video-audio generation hiện đại (Seedance, LTX-2, MOVA, Minimax-H3) chỉ đạt được semantic correspondence (đúng nội dung nghe) và temporal synchronization (đúng thời điểm), nhưng hoàn toàn bỏ qua không gian âm thanh. Với ứng dụng AR/VR và game tương tác, người dùng cần nghe âm thanh stereo có vị trí cảm nhận thay đổi nhất quán khi nguồn phát hình ảnh di chuyển — tác giả gọi là Dynamic Spatial Correspondence. Thách thức nằm ở chỗ:

motion track (quỹ đạo vật thể trên ảnh) không dịch trực tiếp thành âm thanh stereo
vị trí âm thanh chỉ hiện gián tiếp qua các độ lệch giữa hai tai (ITD/ILD)
thiếu dữ liệu stereo quy mô lớn có nhãn không gian (VGGSound, OpenHumanVid chỉ có tín hiệu mono, không có đầu thu âm hiệu chuẩn).

II. Main Idea:

StereoBind là framework đầu tiên điều kiện hóa cả video và âm thanh stereo lên cùng motion track, gồm ba cơ chế bổ trợ:

Visual Motion Binding (VMB): 64 token học được tổng hợp quỹ đạo chuyển động tham chiếu → gắn với video đang sinh → audio cross-attend để đọc ngữ cảnh nguồn âm, tạo cầu nối cross-modal
Spatial Track Encoder (STE): mã hóa quỹ đạo thành embedding thời gian + Track-Adaptive modulation (shift/scale/gate theo layer) cung cấp điều kiện hóa vị trí tuyệt đối
Residual Track RoPE (RT-RoPE): thêm pha tàn phần phụ thuộc track vào RoPE có sẵn (kèm Stereo LoRA rank 32), mã hóa chuyển vị tương đối giữa các audio token

Kèm theo, bài xây dựng StereoWorld-29K (dữ liệu stereo có quỹ đạo: pipeline VAS render stereo từ video thật qua VGGT + gpuRIR; pipeline SDS tổng hợp cảnh điều khiển được qua LLM) và benchmark StereoWorldBench (SWBench) đo độ khớp không gian động.

Ví dụ đời thường: giống người quay phim chỉ cho diễn viên "đi từ trái sang phải", và máy tự động biết vặn tiếng sao cho tai người xem cảm nhận vật đang dịch từ bên trái sang bên phải theo từng giây — như đạo diễn âm thanh ngồi xoay nút pan liên tục khớp với hình ảnh trên màn hình.

III. Main Results:

StereoBind (xây trên LTX-2.3, train 8K iteration trên 8 GPU H20) vượt tất cả baseline VA (Ovi, MiniMax-H3, LTX-2.5) và V2SA (PrismAudio, See2Sound) trên mọi chỉ số stereo trên SWBench:
- ILD-W 2.754 (tốt nhất, Ovi: 3.744), SELD-Acc 0.757, SMR-Err 14.86, AST-Ang 0.465, AST-Cal 0.314
Đồng thời đạt Audio PQ, AV Sync, Motion Smoothness, Imaging Quality tốt nhất — không đánh đổi chất lượng tổng thể
Ablation: thiếu RT-RoPE → AST-Ang/AST-Cal giảm; thiếu STE → SMR-Err tăng mạnh; thiếu VMB → toàn diện suy giảm; số token VMB = 64 là điểm cân bằng tối ưu
Qualitative qua SILD/IDS: quỹ đạo stereo của StereoBind bám sát chuyển động nguồn, baseline thì lệch và không nhất quán.

IV. Conclusion & Future Works:

StereoBind chứng minh dynamic spatial correspondence có thể học được bằng cách ràng buộc motion track vào cả hai nhánh sinh video và stereo audio qua ba cơ chế bổ trợ (source binding, vị trí tuyệt đối, chuyển vị tương đối), mở đường cho trải nghiệm thực tế ảo/AR nghe như thật. Giới hạn công khai: chưa thảo luận các trường hợp nhiều nguồn âm cùng di chuyển, chuyển động theo trục sâu, hay áp dụng cho các backbone VA khác ngoài LTX-2.3 — đây là các hướng mở rộng tự nhiên.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng StereoBind cho cảnh đa nguồn âm động: phân tách và ràng buộc đồng thời nhiều motion track với các luồng stereo riêng biệt để xử lý đám đông, giao thông.
Điều kiện hóa chuyển động theo trục sâu (xa–gần) kết hợp với độ lớn âm thanh và đặc trưng phòng học, để tái tạo đầy đủ cảm giác không gian 3D.
Ứng dụng pipeline VAS (VGGT + gpuRIR) để nâng cấp kho video mono sẵn có thành stereo có quỹ đạo, xây dựng bộ dữ liệu quy mô triệu clip cho lớp mô hình VA kế tiếp.

2. Patent:

Tính năng quay video âm thanh không gian trên điện thoại: nhấn chọn vật thể trong khung hình, người dùng kéo quỹ đạo di chuyển; ứng dụng tự sinh video kèm âm thanh stereo có hướng thay đổi đúng theo quỹ đạo đã kéo.
Hệ thống tạo video quảng cáo AR: sản phẩm (xe, người mẫu) di chuyển theo đường cong tùy chỉnh trong video sinh tự động, và tiếng động của sản phẩm xoay từ tai trái sang tai phải như thật để tăng độ cuốn hút.
Game mobile trên kính VR/tai nghe: mô hình nhẹ hóa từ StereoBind chạy cục bộ, cho phép NPC và vật thể di chuyển trong game luôn phát âm thanh stereo đúng hướng theo vị trí thời gian thực mà không cần tính toán vật lý âm thanh nặng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.38748
ArXiv Abstract	https://arxiv.org/abs/2609.38748
PDF Download	https://arxiv.org/pdf/2609.38748.pdf
Github Repository	https://github.com/vivoCameraResearch/StereoBind

8. ProgramGym: Scaling Training Environments for Long-Horizon Program Reproduction Agents (49 votes)

Tác giả: Chengyi Yang, Renxu Bao, Jue Hou, Zongpei Teng, Ziheng Wang, et al.

Xuất bản lúc: 2026-10-09

Tag: Coding Agents, Program Reproduction, Agent Training Environments, Software Engineering, Black-Box Testing, LLM Fine-Tuning, Long-Horizon Agents

I. Main Problem:

Các coding agent hiện nay chủ yếu làm hai loại bài: sửa issue trong repo có sẵn (kiểu SWE-bench) hoặc sinh repo từ tài liệu yêu cầu (kiểu NL2Repo-Bench) — cả hai đều cung cấp sẵn codebase hoặc đặc tả tính năng, nên agent không phải tự khám phá. Trong thực tế, kỹ sư phần mềm xây chương trình từ đầu phải liên tục tự hỏi cần gì và thiết kế hệ thống thế nào. Bài toán program reproduction (dựng lại chương trình chỉ từ tài liệu dùng và file chạy tham chiếu, không xem source) tái hiện đúng thử thách này, nhưng gặp hai vấn đề lớn:

Thiếu môi trường huấn luyện có thể kiểm chứng (verifiable) ở quy mô lớn: mỗi repo có toolchain và dependency riêng, khó build; bộ test black-box sinh một lần thường thiếu hành vi quan trọng hoặc assertion quá yếu, không loại được bản tái hiện sai.
Agent không trụ được quá trình dài (long-horizon): agent hay bắt tay code trước khi khám phá đủ chương trình tham chiếu, và quên các yêu cầu đã quan sát khi context bị nén. Không có workflow nào điều phối được khám phá – cài đặt – rà soát trong một phiên dài.

II. Main Idea:

Paper đề xuất ProgramGym, gồm hai thành phần bổ trợ nhau:

Program-Env — pipeline tự động biến repo GitHub thành môi trường huấn luyện kiểm chứng được, theo vòng lặp có phản hồi:
- Stage 1: thu thập 30,459 repo (lọc theo ngôn ngữ, sao, giấy phép, gắn commit cố định, loại repo đã dùng ở benchmark khác).
- Stage 2: sinh download.sh (chuẩn bị dependency online) và compile.sh (build offline); nếu build lỗi thì diagnostic được trả về cho agent tự sửa cho tới khi ra được executable chạy được trong sandbox cách ly mạng.
- Stage 3: sinh test black-box song song theo từng module chức năng, mỗi module do một subagent phụ trách với vòng lặp phản hồi gồm: Summary (ghi lại đã làm gì/còn gì), Program analysis (dùng phân tích tĩnh + độ phủ động để tìm hành vi chưa được test), và 4 kiểm tra validation — pass check (test phải chạy đúng trên chương trình tham chiếu), double check (kết quả ổn định qua nhiều lần chạy), dummy check (test phải từ chối bản giả), weak-assert check (assertion đủ mạnh).
Program-Agent — workflow mô phỏng cách kỹ sư thật làm việc, tách vai trò và tách phiên:
- Analysis: khám phá tài liệu và chạy thử chương trình tham chiếu, ghi mọi bằng chứng hành vi vào analysis.md rồi đóng băng read-only — không được sửa code ở giai đoạn này để tránh thiên lệch.
- Implement: code trong phiên riêng, chỉ dựa vào tài liệu đã đóng băng (không nhìn lại chương trình tham chiếu), vòng đầu phải deliver được bản build được.
- Review: so sánh bản candidate (bất biến) với chương trình tham chiếu, chuyển mọi khác biệt hành vi thành yêu cầu sửa đổi cụ thể.
- Revision management: mỗi vòng Implement phải compile sạch snapshot ngoài workspace; bản build được được lưu vào Revisions làm checkpoint khôi phục nếu vòng sau hỏng.

Kết quả: 1,648 môi trường huấn luyện cho C, C++, Go, Rust, mỗi môi trường gồm executable tham chiếu, sandbox, tài liệu và bộ test black-box.

Ví dụ đời thường: giống một thợ mộc được giao làm lại chiếc tủ khóa kín không được mở thông số bên trong — trước tiên phải đo đạc, kéo thử từng ngăn và ghi chép cẩn thận đặc điểm bên ngoài (Analysis), rồi làm tủ trong phòng riêng chỉ dựa vào sổ ghi chép (Implement), sau đó đặt hai chiếc tủ cạnh nhau để so sánh từng chi tiết và sửa dần (Review), đồng thời giữ lại bản tủ làm tốt nhất sau mỗi lượt để lỡ hỏng vẫn quay về được.

III. Main Results:

Program-Env giúp huấn luyện hiệu quả: fine-tune Qwen3.8-27B trên trajectory thu từ môi trường xây được nâng % Tests Passed từ 34.87% lên 42.84% trên ProgramBench (cùng scaffold Claude Code), vượt cả GPT 5.4 dùng mini-SWE-agent (37.70%).
Program-Agent mở rộng giới hạn khả năng của mô hình: nâng Qwen3.8-27B từ 34.87% lên 55.71%, và Qwen3.8-27B-SFT lên 56.25% — cả hai đều vượt Claude Opus 4.7 (50.90%) và Gemini 3.5 Flash (53.60%) ở scaffold mini-SWE-agent; DeepSeek-V4-Flash-0731 + Program-Agent đạt 58.97%.
Test-time scaling hiệu quả: với Qwen3.8-27B-SFT, % Tests Passed tăng từ 43.49% (K=1) → 54.13% (K=3) → 56.25% (K=5); phần lớn lợi ích đạt được ở K=3.
Quy mô môi trường: 1,648 môi trường (Go 49.6%, C++ 22.9%, Rust 18.4%, C 9.0%), 5,918 subagent sinh test, tổng 665,512 test case đã validate, coverage trung bình 72.99% (median 81.63%), trung bình ~404 test/repo, tổng chi phí 136.77B tokens.
Phân tích hành vi: Program-Agent khiến agent chuyển từ chủ yếu execute/probe sang nhiều hơn read và git — tức hướng tới khám phá và quản lý phiên bản, và đây là tác động của scaffold chứ không phải chỉ của SFT.
Bài toán chưa giải xong: % Resolved gần như bằng 0 ở mọi mô hình — tái hiện trọn vẹn một chương trình từ đầu vẫn là thử thách mở.

IV. Conclusion & Future Works:

ProgramGym chứng minh rằng có thể scale môi trường huấn luyện kiểm chứng được cho bài toán tái hiện chương trình từ đầu, và rằng một workflow tách vai trò kiểu kỹ sư phần mềm (phân tích → cài đặt → rà soát, kèm quản lý revision) khai thác tốt hơn đáng kể cùng một mô hình so với scaffold một phiên duy nhất. Kết hợp cả hai (môi trường tốt + workflow tốt) đưa mô hình cỡ trung vượt nhiều flagship. Tác giả cam kết phát hành công khai toàn bộ môi trường, code xây dựng và artifact huấn luyện để cộng đồng phát triển coding agent kiểu 'kỹ sư tự chủ' — có thể mở rộng sang nhiều ngôn ngữ hơn, tăng coverage test ở các repo chỉ tương tác được qua black-box, và đẩy % Resolved lên khỏi mức gần-zero.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng Program-Env sang các ngôn ngữ chưa phủ (Java, Python compiled, v.v.) và loại chương trình có giao diện đồ họa/TUI phức tạp, nơi coverage black-box hiện còn thấp.
Nghiên cứu cơ chế phân bổ ngân sách lặp (iteration budget) thích ứng cho Program-Agent: tự quyết định dừng hay tiếp tục dựa trên độ lợi kỳ vọng thay vì ngân sách K cố định.
Kết hợp ProgramGym với học tăng cường (RL) trên phản hồi test pass/fail thay vì chỉ SFT bằng rejection sampling, để tối ưu trực tiếp % Tests Passed.

2. Patent:

Hệ thống tự động tạo bài kiểm tra kỹ năng lập trình cho nền tảng đào tạo: đưa một repo vào, hệ thống tự build, cách ly trong sandbox, sinh bộ test hành vi có chấm điểm tự động, dùng để ra đề thi và chấm code học viên trên điện thoại hoặc web.
Trợ lý lập trình trên điện thoại kiểu 'kỹ sư kèm cặp': người dùng mô tả phần mềm cần làm lại, ứng dụng chạy chế độ phân tích (chạy thử và ghi yêu cầu), rồi cài đặt và đối chiếu từng vòng, tự lưu các bản chạy được để lỗi vẫn khôi phục được.
Dịch vụ đám mây chấm điểm tự động khả năng tái hiệt phần mềm của AI agent: doanh nghiệp nộp chương trình tham chiếu, hệ thống sinh môi trường sandbox riêng, bộ test black-box chống gian lận (dummy check, weak-assert check) và báo cáo điểm chênh lệch hành vi chi tiết.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.13395
ArXiv Abstract	https://arxiv.org/abs/2610.13395
PDF Download	https://arxiv.org/pdf/2610.13395.pdf
Github Repository	https://github.com/Acm1011/ProgramGym

9. Continually Post-training Small Models via Synthetic Self-distillation (41 votes)

Tác giả: Woosung Koh, Hyunsoo Lee, Kyungjae Lee, Haeju Park, Dahyun Lee, et al.

Xuất bản lúc: 2026-10-09

Tag: Continual Learning, Catastrophic Forgetting, Self-Distillation, Small Language Models, Rejection Sampling, Knowledge Injection, On-device LLMs

I. Main Problem:

Các mô hình nhỏ rất cần cho triển khai nhanh trên thiết bị, nhưng post-training liên tục gặp cùng lúc hai khó khăn:

Acquisition: học được năng lực mới từ dữ liệu SFT.
Retention: không làm mất kiến thức cũ, tức tránh catastrophic forgetting.

Bài báo chỉ ra rằng độ lệch phân phối sau post-training tương quan mạnh với quên kiến thức: càng train ra khỏi phân phối gốc, mô hình càng hỏng khả năng cũ. Trong khi đó, phương pháp self-distillation cũ phụ thuộc vào khả năng in-context learning và instruction-following; ở mô hình nhỏ, chất lượng tự dạy bị suy giảm nghiêm trọng, nên cần một cách tạo dữ liệu đúng phân phối nhưng chất lượng cao hơn.

II. Main Idea:

Synthetic Self-Distillation làm lại cơ chế tự viết lại dữ liệu của self-distillation, nhưng thay vì để mô hình nhỏ tự viết, nó thuê một aligner chỉ lớn hơn một chút và cùng dòng model để viết lại demonstration theo văn phong, phân phối, chuỗi suy luận của mô hình nhỏ. Quy trình gồm ba bước:

Rewrite: aligner cùng họ model chuyển câu trả lời thành phong cách gần với base model hơn, giữ nguyên đáp án đúng.
Rejection sampling: chỉ giữ các bản rewrite có kết quả khớp đáp án chuẩn, lọc nhiễu rất quan trọng với mô hình nhỏ.
Off-policy SFT: train mô hình nhỏ trên tập đã lọc, nhờ đó vừa học nội dung mới vừa không bị kéo xa phân phối cũ.

Điểm then chốt là aligner không cần mạnh nhất, mà cần gần phân phối nhất; aligner cùng họ như Qwen2.5-7B/14B tốt hơn các model mạnh hơn nhưng khác họ, đồng thời rẻ hơn nhiều về FLOPs.

Ví dụ đời thường: giống như học một môn mới bằng cách nhờ anh/chị cùng trường, chỉ hơn mình một khóa, chép lại giáo trình thành cách nói quen thuộc của mình; sau đó chỉ giữ lại những trang trả lời đúng mới ôn, thay vì tự viết bừa rồi học cả lỗi.

III. Main Results:

Trên 3 quy mô 0.5B, 1.5B, 3B, phương pháp đạt acquisition cao nhất trên 4 bối cảnh: science, tool-use, medicine và science mixture gồm 4 môn, đồng thời giữ retention tương đương baseline mạnh nhất trên 14 benchmark.
So với off-policy và on-policy distillation dùng cùng aligner nhưng không rewrite demonstration, acquisition tăng trung bình +5.7%p đến +16.9%p trên 4 setting và 3 quy mô.
Aligner cùng họ nhưng yếu hơn lại tốt hơn teacher mạnh hơn nhưng khác họ: cải thiện acquisition khoảng +2.5 đến +4.6 điểm trong một số cặp so sánh, giảm chi phị sinh dữ liệu khoảng 62.9% đến 76.9% FLOPs.
Khi prompt được làm khớp tối đa với self-distillation, phương pháp vẫn thắng +18.96%p acquisition và +1.68%p retention, cho thấy lợi ích không đến từ khác prompt.
Ablation xác nhận rejection sampling là thành phần quan trọng: bản bị loại bỏ bước lọc suy giảm rõ trên nhiều domain.

IV. Conclusion & Future Works:

Kết luận chính là continual post-training ở model nhỏ cần in-distribution demonstration injection: không chỉ dùng dữ liệu đúng, mà dùng dữ liệu được viết lại sao cho nằm trong phân phối tự nhiên của mô hình nhỏ. Việc kết hợp off-policy supervision với rejection sampling cho phép lọc chất lượng mà không phá phân phối, điều mà on-policy self-distillation khó làm tốt khi model quá nhỏ.

Hướng tương lai: một là làm cho aligner ngoài họ model cũng tạo được supervision trong phân phối, ví dụ đưa câu trả lời của base model vào context để ép rewrite gần phân phối hơn; hai là tăng độ phủ dữ liệu bằng cách scale số lần sinh mẫu; ba là kiểm tra giá trị của aligner nhỏ hơn nữa trong cùng một gia đình model để cân bằng chất lượng, phân phối và chi phí tốt hơn.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng cơ chế chọn aligner theo độ gần phân phối cho continual learning đa domain, trong đó hệ thống tự chọn model viết lại tối ưu giữa chất lượng, độ lệch phân phối và ngân sách tính toán.
Nghiên cứu cách điều chỉnh mô hình lớn khác họ để tạo dữ liệu in-distribution cho mô hình nhỏ, thông qua kỹ thuật cho câu trả lời của mô hình nhỏ vào ngữ cảnh rồi ép style rewrite gần phân phối mục tiêu.
Phát triển pipeline continual post-training cho thiết bị biên, tối ưu đồng thời retention, acquisition và chi phí sinh dữ liệu bằng cách chọn aligner cùng họ ở mức chỉ lớn hơn một hoặc hai bậc.

2. Patent:

Hệ thống cập nhật kiến thức cho trợ lý AI chạy trên điện thoại: khi cần học tài liệu mới, một model cùng họ nhưng lớn hơn chạy trên đám mây viết lại tài liệu theo phong cách model trên máy, lọc bỏ câu trả lời sai, rồi gửi bản đã lọc về để cập nhật cục bộ mà ít làm mất kỹ năng cũ.
Module bảo trì khả năng cho chatbot y tế offline trên thiết bị y tế: khi thêm hướng dẫn điều trị mới, hệ thống dùng model cùng dòng lớn hơn để chuyển hướng dẫn thành lời giải thích quen thuộc của thiết bị, chỉ giữ các mục có đáp án kiểm chứng khớp, rồi học thêm mà không làm hỏng khả năng hỏi đáp cơ bản.
Cơ chế nâng cấp kiến thức cho mô hình nhỏ trong robot hoặc xe tự hành: trước khi cập nhật quy trình vận hành mới, hệ thống tạo nhiều bản diễn giải từ model cùng họ, chấm đúng/sai bằng luật kiểm chứng, sau đó chỉ dùng bản đạt để fine-tune nhằm tránh quên lệnh an toàn cũ.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.13113
ArXiv Abstract	https://arxiv.org/abs/2610.13113
PDF Download	https://arxiv.org/pdf/2610.13113.pdf
Github Repository	N/A

10. Work2Skill: Capturing Human GUI Experience for Reusable Agent Skill Induction (39 votes)

Tác giả: Yuqi Huang, Hui Li, Yifei Cao, Zikun Cai, Tianci Xie, et al.

Xuất bản lúc: 2026-10-09

Tag: GUI Agents, Computer-Use Agents, Skill Induction, Human Demonstrations, Multimodal Learning, Agent Skills

I. Main Problem:

Các computer-use agent đã thực hiện được nhiều tác vụ GUI phức tạp, nhưng vẫn vấp khi gặp phần mềm hoặc quy trình lạ đòi hỏi kiến thức nghiệp vụ của con người (ví dụ: 'nộp đơn hoàn tiền' không nói rõ vào cổng nào, đính kèm biên lai nào, kiểm tra gì trước khi gửi). Ba khó khăn cốt lõi:

Action grounding mơ hồ: tọa độ click cho biết đâu nhưng không nói control đó là gì; các phương pháp cũ (ShowUI-Aloha, Demo2Tutorial) thiếu evidence accessibility-tree (AX) nên phải đoán ngữ nghĩa từ hình ảnh.
Không có chuẩn so sánh: các nghiên cứu trước dùng bộ demo, tác vụ và giao thức đánh giá khác nhau, kết quả bị lẫn giữa chất lượng induction và chất lượng dữ liệu nguồn.
Pipeline cứng nhắc: các pipeline cố định thứ tự parse → trừu tượng hóa; nạp cả video dài vào context gây quá tải, còn chọn subset cố định lại bỏ sót chi tiết cần thiết.

II. Main Idea:

Work2Skill gồm ba thành phần biến trải nghiệm GUI của người thành kỹ năng agent tái sử dụng:

WorkRecorder: hạ tầng ghi lại đồng bộ video màn hình, sự kiện chuột/bàn phím và accessibility-tree (tên, vai trò, vị trí control), căn chỉnh theo timeline chung để mỗi hành động có đủ ngữ cảnh trực quan + ngữ nghĩa.
WorkDemo-350: bộ dữ liệu 350 demo GUI desktop được sàng lọc (đầy đủ, thành công), phủ 64 tác vụ MyPCBench Bounded Action và 286 tác vụ OSWorld-Verified — nguồn evidence chung cho mọi phương pháp induction.
Agentic Skill Induction: agent tự kiểm tra evidence theo nhu cầu (chủ động chọn ảnh, file, đoạn video để giải quyết nghi vấn khi phát sinh) xen kẽ với viết và sửa skill, thay vì pipeline cố định. Skill đầu ra (SKILL.md) khái quát hóa dữ liệu riêng của demo thành quy tắc quy trình, phụ thuộc bước, điều kiện hoàn thành mà agent thực thi không cần video gốc.

Ví dụ đời thường: giống người học nghề xem lại băng ghi hình người thợ — không xem hết một lúc, mà tua đến đúng đoạn mơ hồ, dừng lại ghi chú, rồi quay lại xem tiếp chỗ còn thắc mắc, cuối cùng viết thành cuốn sổ tay quy trình để người khác làm theo được.

III. Main Results:

RQ1 (hiệu quả): Work2Skill đạt điểm và tỉ lệ thành công cao nhất trên cả 4 model thực thi (GPT-5.5, Opus-4.8, Qwen3.5-35B, Qwen3.5-9B). Cải thiện so với No Skill: +4.67–10.54 điểm trên MyPCBench, +3.11–7.50 điểm trên OSWorld-286; SR trên MyPCBench của GPT-5.5 đạt 48.44% so với 37.50% của cả hai baseline.
RQ2 (tổng quát hóa): skill cũ tái sử dụng trực tiếp trên các biến thể tác vụ thay đổi thực thể/tham số (MyPCBench Jitter) vẫn +3.93–8.64 điểm, SR +6.25–9.38 điểm phần trăm so với No Skill.
RQ3 (chuyển giao cross-model): skill do GPT-5.5 sinh ra chạy tốt cả trên Qwen3.5-9B và ngược lại; mọi cặp kết hợp đều vượt No Skill, nhưng induction mạnh không xóa được khoảng cách năng lực giữa các executor.
RQ4 (ablation): bỏ ảnh keyframe, UI annotations hoặc keylogs làm sụt 5.02–10.63 điểm; prompt tự do của Work2Skill vượt Pipeline Prompt cố định +3.97 điểm. Case study: tác vụ đặt bàn với fallback — hai baseline chỉ 55/100, Work2Skill đạt 100/100 nhờ làm rõ subgoal phụ thuộc và kiểm tra persistence.

IV. Conclusion & Future Works:

Work2Skill chứng minh giá trị của evidence đa phương thức được căn chỉnh (video + input events + accessibility-tree) kết hợp với khám phá evidence chủ động, không theo pipeline cố định để tạo procedural guidance tái sử dụng cho computer-use agent — skill hoạt động qua giao diện text chung, không cần truy cập bản ghi gốc, và tổng quát hóa được cả khi đổi yêu cầu tác vụ lẫn đổi model thực thi. Hướng mở: mở rộng bộ dữ liệu sang nhiều ứng dụng và nền tảng hơn, tối ưu chi phí token induction, và cho phép skill tự tinh chỉnh dựa trên phản hồi từ môi trường thực thi.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng WorkRecorder sang thiết bị di động (Android/iOS) để thu thập demo GUI mobile và xây dựng bộ dữ liệu tương đương WorkDemo-350 cho tác vụ mobile.
Kết hợp phản hồi từ kết quả thực thi (success/failure) làm vòng lặp tinh chỉnh skill tự động, thay vì chỉ dựa vào evidence tĩnh lúc induction như hiện tại.
Nghiên cứu nén và lập chỉ mục video demo dài để agent tra cứu evidence nhanh hơn với chi phí token thấp, áp dụng cho quy trình doanh nghiệp nhiều bước.
Kỹ thuật chuyển giao skill giữa các mô hình executor khác hệ sinh thái (ví dụ skill sinh từ LLM lớn chạy trên model cục bộ nhỏ trên thiết bị cá nhân).

2. Patent:

Tính năng điện thoại/ máy tính 'ghi lại và dạy trợ lý AI': người dùng bật chế độ ghi, thao tác một lần qua các ứng dụng; hệ thống đồng bộ màn hình, chạm và thông tin phần tử giao diện, sau đó tự tạo hướng dẫn để trợ lý AI lặp lại thao tác đó khi được yêu cầu.
Hệ thống đào tạo nhân viên mới tự động: quay màn hình chuyên viên kỳ cựu làm quy trình nội bộ (kế toán, khai báo thuế, ERP), trích xuất thành checklist từng bước có điều kiện kiểm tra hoàn thành, giao cho bot thực hiện hoặc làm tài liệu hướng dẫn.
Ứng dụng ghi quy trình và phát hiện lỗi thao tác: so khớp hành vi người dùng hiện tại với skill đã học để cảnh báo khi thiếu bước (ví dụ quên lưu file, quên kiểm tra lại thông tin trước khi gửi).
Dịch vụ đám mây chia sẻ 'kỹ năng thao tác phần mềm' giữa người dùng: một người ghi demo, hệ thống sinh skill chuẩn hóa, người khác tải về để trợ lý AI của họ thực hiện cùng quy trình trong ứng dụng tương tự.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12984
ArXiv Abstract	https://arxiv.org/abs/2610.12984
PDF Download	https://arxiv.org/pdf/2610.12984.pdf
Github Repository	https://github.com/china-qijizhifeng/Work2Skill

11. SepGen: Multi-Stem Audio-Video Separation and Generation in a Single Model (39 votes)

Tác giả: Aviad Dahan, Rajaei Khatib, Yonatan Bitton, Idan Szpektor, Lior Wolf, et al.

Xuất bản lúc: 2026-10-08

Tag: Audio-Video Generation, Source Separation, Diffusion Models, Flow Matching, LoRA, Spatial Audio, Multimodal Learning

I. Main Problem:

Các mô hình sinh audio-video hiện tại (LTX-2, Ovi, Veo 3.1) chỉ xuất một luồng âm thanh trộn (audio-mix) cho cảnh: các nguồn âm không thể truy cập riêng lẻ nên không thể di chuyển, xóa, hoặc tái render từng nguồn. Hệ quả:

Khi video được đưa lên cảnh 4D và render lại từ góc nhìn mới, âm thanh vẫn phẳng — cả hai tai nghe cùng một bản mix, không có âm thanh không gian.
Các mô hình tách nguồn theo ngôn ngữ (LASS) phải chạy thêm một model riêng, xử lý từng caption độc lập, nên khi hai nguồn cùng loại (hai người nói) dễ trả về cùng một nguồn hai lần.

II. Main Idea:

SepGen mở rộng một mô hình audio-video pretrained bằng cách thêm các kênh stem vào luồng audio của backbone, để trong một lần sampling sinh ra video, audio-mix và một waveform riêng cho mỗi nguồn có caption.

Các cơ chế bảo vệ backbone: audio-mix là kênh được bảo vệ (tự attention, bypass adapter LoRA, projection đóng băng) nên video và soundtrack gốc không đổi; các stem chỉ nhận thông tin một chiều từ scene.
Block-diagonal caption routing: mỗi stem chỉ cross-attend tới caption của mình; Cross-Stem Attention Guidance dùng caption của stem anh em làm negative prompt để hai stem không trộn lẫn.
Hai chế độ một bộ trọng số: chọn bằng mức nhiễu của audio-mix — separation giữ mix sạch (σm=0), generation khử nhiễu mix cùng stem; lịch Estimated Separation cho stem đọc ước lượng mix sạch khi nhiễu thấp. Huấn luyện 2 giai đoạn: trước separation, sau đó tiếp tục ngắn với mix nhiễu để vừa tách vừa sinh.

Ví dụ đời thường: giống người phiên dịch ngồi nghe một đoạn hội thoại trộn lẫn tiếng ồn, vừa nghe vừa tách ra từng giọng nói riêng theo từng lời thoại được giao — và cũng chính người đó có thể tự diễn lại hội thoại đó nếu chưa có bản ghi.

III. Main Results:

Generation: vượt mọi baseline cascade (FlowSep, AudioSep, SAM Audio) trên mọi metric; vượt rõ nhất ở J-swap (2.07 vs ≤1.27) vì hai stem sinh cùng lúc, mỗi stem gắn đúng caption; own-line WER 0.07 so với 0.81–1.03 của baseline.
Separation trên Veo benchmark (149 cảnh): Judge 4.39 so với 3.46 tốt nhất của baseline; dẫn đầu cả khi bỏ lời thoại khỏi caption. Trên SAM-Audio-bench (ghi âm thật): Judge 3.70, J-swap 1.52, đều dẫn đầu.
User study: separation thắng SAM Audio 0.58 vs 0.25 (0.64 vs 0.20 trên âm thanh thật); generation thắng AudioSep 0.63 vs 0.28.
Ablation: tách từng caption độc lập (không joint) làm sụp mọi swap margin; attention mask bảo vệ mix cho kết quả bit-identical với backbone; vị trí rotary thời gian thẳng hàng là then chốt (bỏ đi làm WER tăng gấp 3+); video hầu như không ảnh hưởng tới metric tách — caption và audio-mix mới là động lực chính.

IV. Conclusion & Future Works:

SepGen chứng minh có thể biến generator audio-video pretrained thành multi-stem generator chỉ bằng adapter LoRA nhẹ (327M tham số) trên dữ liệu hai nguồn, chuyển đổi hai chế độ chỉ qua lịch nhiễu của audio-mix. Hạn chế: cố định 2 nguồn; VAE decoder tái tổng hợp phase nên SI-SDR đo phần tái tạo phase; stem giữ nguyên âm học môi trường gốc (vang, khoảng cách) nên renderer không gian phải hiệu chỉnh trước. Hướng tương lai: mở rộng quá 2 stem, đọc vị trí nguồn từ stem-to-video attention và tích hợp vào spatial renderer cho cảnh 4D.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng kiến trúc SepGen lên N nguồn (N>2) với cơ chế định tuyến caption và cân bằng attention giữa nhiều stem trong cùng một lần denoising.
Tích hợp đầu đọc vị trí không gian-thời gian từ attention map của từng stem lên video, nối thẳng với spatial audio renderer để tái render cảnh 4D hoàn chỉnh.
Tách và tái tổng hợp pha (phase) của stem chính xác hơn để nâng SI-SDR, thay vì chỉ tái tạo envelope và spectrum qua audio VAE decoder.
Khử đặc tính âm học môi trường (vang, khoảng cách) khỏi stem để có thể đặt nguồn vào không gian ảo mới mà không mang theo âm thanh phòng gốc.

2. Patent:

Ứng dụng điện thoại quay video hội thoại: chụp một video hai người nói, ứng dụng tách mỗi giọng nói thành một track riêng đúng thứ tự lượt nói, cho phép tăng giảm âm lượng từng người, xóa tiếng người này hoặc dịch lời người kia ngay trên máy.
Chỉnh sửa video trên điện thoại bằng mô tả văn bản: người dùng nhập 'giữ tiếng guitar, bỏ tiếng xe máy' — ứng dụng tách và loại bỏ đúng nguồn ồn khỏi bản ghi mà không cần micro array hay cài đặt phức tạp.
Tái trải nghiệm âm thanh không gian khi xem lại video: mỗi nguồn âm trong video được đặt đúng vị trí vật thể trên màn hình điện thoại, khi người dùng xoay góc nhìn (xem 3D/VR) tiếng vỗ tay, nhạc, lời nói vang từ đúng hướng tương ứng.
Hệ thống hội nghị trực tuyến tự tách nguồn: camera quay phòng họp, hệ thống tách từng người nói thành track riêng, cho phép hiển thị phụ đề theo từng người và triệt tiếng vang phòng tự động.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.11361
ArXiv Abstract	https://arxiv.org/abs/2610.11361
PDF Download	https://arxiv.org/pdf/2610.11361.pdf
Github Repository	https://github.com/AviadDahan/SepGen

12. Can AI Agents Learn Their Way to the Top? Evaluating Heuristic Learning in a Long-Running Game Agent Competition (33 votes)

Tác giả: Kaisen Yang, Qingle Liu, Kejin Wang, Yicheng Zhao, Jieming Li, et al.

Xuất bản lúc: 2026-10-08

Tag: AI Agents, Game AI, Reinforcement Learning, Code Agents, Benchmarking, Self-Improvement

I. Main Problem:

Các game đối kháng là bài kiểm tra kinh điển cho AI, nhưng học và thích nghi chiến lược từ rất ít trận đấu vẫn khó. Các hướng tiếp cận như heuristic search hay reinforcement learning thường:

cần nhiều mẫu tương tác hoặc self-play tốn kém
khó cập nhật chính sách có thể giải thích và chỉnh sửa khi đối thủ thay đổi
thiếu giao thức đánh giá giống cuộc thi game thực tế, nơi tác nhân phải đọc luật, chọn đối thủ, phân tích replay và cải tiến chương trình trong ngân sách giới hạn.

II. Main Idea:

Bài báo đề xuất Adversarial Heuristic Learning (AHL): dùng AI agent như một learning engine, liên tục đọc luật game, replay, log và kết quả trận đấu để chỉnh sửa code policy và phần mềm hỗ trợ, trong khi không cập nhật trọng số mô hình nền. Vòng lặp gồm:

đọc tài liệu game, replay dictionary, SDK và demo
viết/chỉnh sửa game-agent policy dưới dạng mã nguồn có thể kiểm tra
chạy kiểm tra hợp lệ nhanh qua validator
chọn đối thủ và đánh small match để nhận dense feedback
đánh full evaluation trên toàn bộ hồ frozen human programs để nhận Elo và rank
ghi nhớ lịch sử phát triển, rồi lặp lại cho tới khi hết ngân sách.

Benchmark AAArena mô phỏng điều này bằng 12 game đối kháng thật và 1,920 chương trình của con người từ các cuộc thi trước. Mục tiêu là leo lên đỉnh bảng xếp hạng của con người, không chỉ học cách chơi lý thuyết.

Ví dụ đời thường: giống một vận động viên không thay đổi bản năng, mà sau mỗi trận xem lại băng ghi hình, ghi chú lỗi, sửa kịch bản tập luyện, rồi chọn đối thủ phù hợp để kiểm chứng bản sửa đó trước khi thi chính thức.

III. Main Results:

Opus5.5 + Claude Code giành 6 huy chương vàng, tức đứng hạng 1 trong 6/12 bảng xếp hạng con người đã đóng băng.
Không cấu hình nào trong 7 cấu hình được đánh giá vượt được 6 bảng còn lại.
Hiệu năng thường yếu hơn ở các game có luật phức tạp hơn.
Thí nghiệm bổ sung cho thấy:
- opponent selection hỗ trợ cải thiện policy
- dense feedback hữu ích hơn chỉ nhận kết quả thắng/thua
- tác nhân học được từ cả replay của chính mình và replay của người chơi khác.
Các case study chỉ ra hạn chế dai dẳng ở hiểu luật game, hiện thực hóa chiến lược và phát triển policy dài hạn.

IV. Conclusion & Future Works:

AAArena cho thấy AI agent có thể học theo hướng Adversarial Heuristic Learning và đạt thứ hạng cao trong nhiều game đối kháng thật, nhưng chưa đủ mạnh để vượt con người ở các game luật phức tạp. Hướng tương lai:

cải thiện khả năng đọc hiểu luật dài và chuyển luật thành chiến lược khả thi
nghiên cứu chiến lược chọn đối thủ và phản hồi dày đặc hiệu quả hơn
tận dụng replay off-policy để vượt plateau học tập
phát triển agent có kế hoạch dài hạn, biết quản lý ngân sách trận đấu và đánh giá.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu cơ chế chọn đối thủ cho AI agent trong game đối kháng, đánh giá xem lựa chọn đối thủ ảnh hưởng thế nào tới tốc độ leo bảng xếp hạng và chất lượng chiến lược.
Phát triển phương pháp khai thác replay của người chơi khác như nguồn kinh nghiệm off-policy, giúp agent vượt qua giai đoạn học chững lại khi chỉ dùng trận của chính mình.
Xây dựng giao thức đánh giá mới cho bài toán học từ luật game phức tạp, tách rõ khả năng đọc luật, viết chính sách và tối ưu chiến thuật dài hạn.
Mở rộng AAArena sang các game nhiều người chơi, thông tin ẩn hoặc vai trò bất đối xứng để kiểm tra giới hạn của AI agent trong môi trường gần thi đấu thực tế hơn.

2. Patent:

Trợ lý luyện game trên điện thoại: ứng dụng đọc luật game, xem lại trận đã chơi, gợi ý chỉnh chiến thuật và sinh mã bot tương ứng để người dùng thử trong các game có server riêng.
Hệ thống huấn luyện kỹ năng phân tích đối thủ cho game di động: tự chọn người chơi phù hợp để thử nghiệm, ghi nhận kết quả từng trận và đề xuất thay đổi chiến lược dễ áp dụng cho người dùng phổ thông.
Nền tảng tạo bot thi đấu từ tài liệu luật: doanh nghiệp game nhập luật chơi, video hoặc log trận đấu; hệ thống tạo chương trình bot, kiểm tra hợp lệ và chạy thử để đưa ra bản cải tiến có thể triển khai.
Công cụ ôn luyện thể thao điện tử cá nhân hóa trên điện thoại: phân tích các trận thua, đối chiếu cách người chơi khác xử lý tình huống tương tự, rồi đưa ra kế hoạch luyện tập và đối thủ luyện phù hợp.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12341
ArXiv Abstract	https://arxiv.org/abs/2610.12341
PDF Download	https://arxiv.org/pdf/2610.12341.pdf
Github Repository	https://github.com/THU-CST-SAST/AAArena

13. SoloQ: Calibration-Free Quantization for Diffusion Language Models (33 votes)

Tác giả: Donghyun Lee, Arkapravo Ghosh, Varun Manjunath, Bumjoon Kyle Rhee, Hyunho Kook, et al.

Xuất bản lúc: 2026-10-05

Tag: Quantization, Diffusion Language Models, Post-Training Quantization, KV-Cache Compression, NVFP4, Calibration-Free, Low-Bit Inference, LLMs

I. Main Problem:

Diffusion LLM (dLLM) sinh văn bản bằng cách khử nhiễu toàn bộ chuỗi token qua nhiều bước, khiến suy luận rất tốn tính toán và bộ nhớ (forward pass lặp lại, KV-cache phình to theo context, đặc biệt ở block-diffusion). Giải pháp tự nhiên là lượng tử hóa thấp bit (weight + activation), nhưng dLLM gặp khó khăn hơn LLM autoregressive vì:

phân phối activation thay đổi liên tục theo trạng thái mask và bước khử nhiễu (Figure 1b)
các phương pháp PTQ hiện tại cho dLLM (DLLMQuant, STaR-Quant...) đều phụ thuộc calibration data, mà dữ liệu calibration đổi (WinoGrande → MMLU) làm accuracy dao động mạnh, không khái quát giữa các tác vụ (Figure 1c).

II. Main Idea:

Thay vì chạy theo phân phối activation luôn thay đổi, SOLOQ biến nó thành dạng có thể đoán trước để lượng tử hóa mà không cần calibration. Cơ chế chính:

K-RPBH rotation: phép xoay cấu trúc (permutation ngẫu nhiên + block Hadamard + trộn chéo giữa các block qua Kronecker Q_k) đưa mọi vector về tọa độ có phân phối Gaussian dễ đoán trước (theo lý thuyết spherical marginal), khắc phục mất cân bằng năng lượng giữa các block của RPBH, rẻ hơn phép xoay Haar dày đặc hàng chục lần
Hai đường lượng tử hóa không cần dữ liệu: SOLOQ-C dùng codebook khớp phân phối (Lloyd–Max cho activation, E8P cho weight) và SOLOQ-N dùng NVFP4 phần cứng gốc (định dạng E2M1 + scaling 16 nhóm)
Scale-only bias correction: hệ số chỉnh nhẹ khôi phục phần hình chiếu bị méo của vector lượng tử hóa, không cần bit phụ trợ
Commit-time KV-cache quantization (cho block-diffusion): chỉ nén KV khi một block đã hoàn thành, giữ block đang khử nhiễu ở độ chính xác đầy đủ.

Ví dụ đời thường: giống như thay vì phải hỏi từng người (calibration data) để đoán kích cỡ áo cho từng người, ta xây dựng một phép biến hình chuẩn khiến mọi thân hình đều trở thành một dáng chuẩn duy nhất — chỉ cần một bảng size duy nhất cho tất cả.

III. Main Results:

W4A4 trên full-sequence dLLM: SOLOQ-C đạt 57.74 trung bình trên LLaDA-Base-8B (hơn DLLMQuant++ 3.45 điểm); SOLOQ-N đạt 68.48 trên LLaDA-1.5 (hơn 4.17 điểm); 62.53 trên Dream-7B — vượt mọi baseline có calibration, dù không cần dữ liệu calibration nào.
Block-diffusion (Fast-dLLM v2, Nemotron-Labs-Diffusion): RTN/AWQ sụp đổ hoàn toàn ở W4A4 (về gần 0%), trong khi SOLOQ giữ accuracy mạnh cả ở W4A4KV4; trên Nemotron đạt ~70-71%, gần FP16 (78.67%).
Hiệu quả hệ thống: giảm peak memory tới 2.61× và tăng tốc suy luận tới 2.24× so với BF16 (NVFP4 trên RTX Pro 6000).
KV-cache 2-bit: SOLOQ vượt KIVI, OScar, TurboQuant (53.5 vs 50.3 avg trên Fast-dLLM v2).
Ablation: K-RPBH giảm KL divergence về phân phối mục tiêu xuống 0.004 và mất cân bằng năng lượng còn 22.12%; rotation nhanh hơn Haar ~17× với accuracy tương đương; bias correction cải thiện rõ accuracy (GPQA 31.92 → 33.71).

IV. Conclusion & Future Works:

SOLOQ chứng minh định hình phân phối có thể đoán trước là nền tảng chung cho lượng tử hóa dLLM hiệu quả, loại bỏ hoàn toàn sự phụ thuộc vào calibration data — điểm yếu cố hữu của các phương pháp hiện tại. Framework bao phủ đồng thnh weight, activation và KV-cache trên cả hai dòng mô hình (full-sequence và block-diffusion). Hướng mở rộng tự nhiên: tích hợp sâu hơn với phần cứng (đã có prototype FPGA), mở rộng sang bit thấp hơn nữa, và áp dụng nguyên lý này cho các mô hình diffusion đa phương thức (ảnh, video, âm thanh).

V. Brainstorming Space:

1. Publish Papers:

Mở rộng K-RPBH sang lượng tử hóa calibration-free cho mô hình diffusion đa phương thức (video, ảnh 3D, âm thanh) với KV-cache và latent cache dạng persistent.
Kết hợp SOLOQ với speculative decoding cho block-diffusion để nhân tố tăng tốc từ quantization với tăng tốc theo chuỗi token.
Nghiên cứu lượng tử hóa dưới 4-bit (2-bit weight–activation) cho dLLM bằng cách ghép rotation dự đoán trước với codebook có hiệu chỉnh lỗi tích lũy qua các bước khử nhiễu.
Phát triển kernel và compiler tự động nhận diện lớp dLLM phù hợp với NVFP4 native trên GPU/FPGA để triển khai SOLOQ trong hệ thống suy luận sản xuất.

2. Patent:

Hệ thống nén mô hình ngôn ngữ trực tiếp trên điện thoại: ứng dụng tải mô hình diffusion đã xoay K-RPBH và lượng tử hóa sẵn 4-bit, giúp mô hình lớn chạy nhanh hơn gấp đôi, tốn ít bộ nhớ hơn 2.6 lần mà không cần bất kỳ dữ liệu hiệu chỉnh nào từ người dùng.
Module suy luận thời gian thực cho trợ lý AI trên thiết bị: thiết kế chip/FPGA tích hợp sẵn phép xoay khối Hadamard và định dạng 4-bit phần cứng, cho phép khử nhiễu văn bản với bộ nhớ cache lịch sử được nén tự động mỗi khi một đoạn hội thoại hoàn thành.
Phần mềm tối ưu mô hình AI cho doanh nghiệp: công cụ một chạm chuyển mô hình ngôn ngữ diffusion bất kỳ sang dạng 4-bit không cần calibration, loại bỏ bước thu thập và bảo mật dữ liệu hiệu chỉnh — tiết kiệm chi phí triển khai và giảm rủi ro dữ liệu.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.07121
ArXiv Abstract	https://arxiv.org/abs/2610.07121
PDF Download	https://arxiv.org/pdf/2610.07121.pdf
Github Repository	N/A

14. RSI-Anything: Unlocking Recursive Self-Improvement with World Models (30 votes)

Tác giả: Taoyong Cui, Pinxian Zeng, Wanghan Xu, Hao Xiao, Shuhan Xue, et al.

Xuất bản lúc: 2026-10-09

Tag: Recursive Self-Improvement, World Models, JEPA, Self-Training, Active Learning, Agentic Workflows

I. Main Problem:

Recursive Self-Improvement (RSI) bi kẹp giữa hai khó khăn:

Phản hồi bên ngoài đắt đỏ: muốn cải thiện phải chạy thử/đánh giá ứng viên, nhưng ngân sách tương tác bị giới hạn, cản trở khám phá.
Mâu thuẫn cập nhật ghép đôi (coupled-update challenge): khi policy thay đổi, phân phối hành động và trải nghiệm mà world model dự đoán cũng đổi theo → dự đoán dễ trở nên không đáng tin; ngược lại, cập nhật world model lại làm thay đổi thứ hạng ứng viên và tín hiệu học của policy. Cải thiện từng thành phần riêng lẻ không đảm bảo hiệu năng tổng thể tốt hơn.

II. Main Idea:

RSI-Anything là framework miền-tổng-quát xây trên JEPA-Anything, nơi world model dự đoán kết quả hành động để hệ thống tự cải thiện lặp lại mà không lệ thuộc nhiều vào phản hồi ngoài. Cơ chế gồm ba vòng khép kín:

Lựa chọn có dẫn hướng dự đoán: world model chấm điểm các ứng viên hành động (có thể kèm phạt độ không chắc chắn), ưu tiên ứng viên đáng giá nhất được mang đi đánh giá thật — tiết kiệm ngân sách phản hồi.
Cải thiện do phản hồi: kết quả quan sát được dùng để cập nhật policy/workflow; world model chỉ được điều chỉnh có điều kiện khi kiểm tra độ tin cậy phát hiện dự đoán lệch (reliability check), đủ dữ liệu và còn ngân sách.
Giữ lại có kiểm chứng: policy và world model tiến hóa không đồng bộ, qua hai lớp kiểm — kiểm tra từng thành phần (component check) và kiểm tra tính tương thích của cả cặp (compatibility check: policy mới có thể tạo ứng viên mà model cũ dự đoán sai, và ngược lại). Cặp policy–model nào vượt qua mới được giữ lại để vòng sau dùng tiếp.

Ví dụ đời thường: giống người thợ trước khi làm thử tưởng tượng trước kết quả từ phương án, chỉ đem phương án tốt nhất ra làm thật; sau mỗi lần làm, đổi dụng cụ hay đổi tay nghề nhưng chỉ giữ bộ dụng cụ mới nếu cả bộ vẫn phối hợp ăn ý với nhau chứ không riêng lẻ từng món.

III. Main Results:

Sửa mã nguồn (code repair): giữ coder cố định, tỷ lệ thành công tăng từ 26.3% (verifier tĩnh) → 29.2% (chọn lọc có world model) → 31.2% (sau khi điều chỉnh world model), với mức dùng test tương đương.
Tương tác GUI: tỷ lệ hoàn thành tác vụ cao hơn, số hành động trung bình giảm 39.4%.
Lập kế hoạch phòng thí nghiệm: điểm số hơn gấp đôi sau 5 phiên bản policy liên tiếp, từ 21.80% lên 46.01%.
Tối ưu phản ứng hóa học: đạt năng suất tốt nhất trung bình 96.15% so với 82.16% của Bayesian optimization, cùng ngân sách 40 thí nghiệm.
Ứng dụng miễn dịch học end-to-end: kết nối tiến hóa workflow của scientific agent, xây world model miễn dịch, phân tích tự sửa lỗi và sinh giả thuyết trị liệu.

IV. Conclusion & Future Works:

Bài báo chứng minh rằng đưa world model dự đoán vào vòng lặp self-improvement — kết hợp với cơ chế giữ lại có chọn lọc cặp policy–model — cho phép hệ thống cải thiện liên tục qua nhiều vòng dù ngân sách phản hồi ngoài hạn chế, và khái quát hóa được qua nhiều miền: tính toán, quy hoạch vật lý, khoa học thực nghiệm. Điểm then chốt là làm cho độ tin cậy của dự đoán dưới policy luôn thay đổi trở thành yêu cầu thiết kế trung tâm, thay vì giả định model dự đoán cố định. Hướng mở: mở rộng sang các miền mới, tinh chỉnh giao thức kích hoạt điều chỉnh world model và kiểm tra tương thích, cũng như tích hợp sâu hơn dữ liệu học từ quỹ đạo tưởng tượng (imagined trajectories).

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu cơ chế kích hoạt thích ứng world model thích ứng: khi nào nên cập nhật predictor dưới policy đang tiến hóa để cân bằng giữa chi phí điều chỉnh và độ tin cậy của dự đoán trong các vòng RSI dài hạn.
Mở rộng RSI-Anything cho tối ưu thí nghiệm khoa học tự động: kết hợp acquisition rule ưu tiên độ không chắc chắn với imagined trajectories để giảm số thí nghiệm thật cần chạy trong hóa học và vật liệu.
Khung kiểm tra tương thích policy–world model có lý thuyết: đưa ra tiêu chuẩn chấp nhận cặp ghép có đảm bảo hội tụ hoặc cận dưới hiệu năng thay vì chỉ kiểm tra thực nghiệm.
Ứng dụng RSI trong thiết kế thuốc và miễn dịch học: workflow scientific agent tự tiến hóa kết hợp world model sinh học để đề xuất giả thuyết trị liệu với chi phí thí nghiệm phân tử thấp.

2. Patent:

Trợ lý sửa lỗi phần mềm trên điện thoại: trước khi chạy bộ kiểm thử tốn kém trên máy thật, ứng dụng dùng mô hình dự đoán nội bộ để xếp hạng các bản vá đề xuất, chỉ chạy thử bản tốt nhất; kết quả chạy thật được ghi lại để tự cập nhật bộ chấm điểm vá lỗi qua các phiên sử dụng.
Hệ thống tự điều khiển giao diện điện thoại (GUI agent) tiết kiệm thao tác: agent dự đoán kết quả của từng thao tác trước khi bấm, chọn đường đi ngắn nhất đến mục tiêu; sau mỗi tác vụ, hệ thống tự cập nhật chiến lược điều khiển nếu cả cặp chiến lược và mô hình dự đoán vẫn hoạt động tốt cùng nhau.
Trợ lý lập kế hoạch thí nghiệm cho phòng lab: ứng dụng di động gợi ý trình tự thí nghiệm, dùng mô hình dự đoán để chọn thí nghiệm giá trị nhất trong ngân sách; tự cải thiện kế hoạch qua nhiều tuần và tự điều chỉnh mô hình dự đoán khi phát hiện dự đoán lệch so với kết quả thật.
Hệ gợi ý tối ưu công thức/phản ứng cho sản xuất: thay vì chạy đầy đủ thí nghiệm, hệ thống trên điện thoại hoặc máy tính bảng cho kỹ thuật viên dùng mô hình dự đoán để chọn điều kiện phản ứng tiếp theo, đạt năng suất cao hơn tối ưu Bayesian truyền thống với cùng số lần thử.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.13912
ArXiv Abstract	https://arxiv.org/abs/2610.13912
PDF Download	https://arxiv.org/pdf/2610.13912.pdf
Github Repository	https://github.com/Gen-Verse/RSI-Anything

15. PolyOCR-Venus: Unified OCR Foundation Models for Text-Centric Visual Intelligence (29 votes)

Tác giả: GuangJian Team, Kaili Huang, Yongshuo Zhang, Bingtao Fu, Changjiang Jiang, et al.

Xuất bản lúc: 2026-09-29

Tag: OCR, Multimodal LLMs, Vision-Language Models, Document Intelligence, Reinforcement Learning, Knowledge Distillation, Data Synthesis

I. Main Problem:

Các hệ thống OCR hiện nay không cân bằng được toàn bộ năng lực nhận diện, định vị và suy luận trên văn bản trong ảnh, vì:

Hệ thống chuyên biệt (phát hiện chữ, nhận diện, phân tích bảng, trích xuất thông tin...) tối ưu riêng lẻ cho từng tác vụ, dẫn đến kiến thức chia mảnh, khó chuyển giao giữa các kịch bản.
MLLM đa dụng (Qwen-VL, Gemini...) có giao diện thống nhất nhưng năng lực OCR chỉ học ngầm qua pretraining đa phương thức, nên hiệu suất không đều giữa nhận diện ký tự chính xác, định vị, tài liệu dày chữ, trích xuất có cấu trúc.
Khi huấn luyện đa tác vụ, chiến lược sampling tĩnh khiến tác vụ dễ lấn át tác vụ khó, đồng thời gây quên kiến thức cũ (catastrophic forgetting) khi thích ứng tuần tự.

II. Main Idea:

PolyOCR là một họ mô hình nền OCR thống nhất (2B và 9B, xây trên Qwen3.5) đưa mọi tác vụ OCR về một khung instruction-following sinh tự hồi quy duy nhất: từ chép chữ, tọa độ vùng chữ, bảng biểu, công thức LaTeX, bản dịch đến trả lời lý luận — tất cả đều sinh qua một giao diện chung, giúp chia sẻ tri thức giữa 6 nhóm năng lực: nhận diện, định vị, phân tích tài liệu, trích xuất thông tin, hiểu văn bản trực quan và suy luận OCR.

Ba trụ cột kỹ thuật:

Data engine quy mô lớn: gom dữ liệu toàn phổ + tổng hợp dữ liệu cho các năng lực thiếu hụt (dán chữ lên ảnh đường phố, dựng lại tài liệu từ HTML/CSS với key-value mới, kiểm chứng chéo 2 mô hình phân tích trang PDF, sinh CoT cho tác vụ đếm/tính toán), tất cả qua bộ lọc chất lượng.
Competence-Guided Policy Optimization (CGPO): kết hợp GRPO có verifier với on-policy distillation, nhưng trọng số học theo giáo viên được điều chỉnh theo từng mẫu dựa trên độ tin cậy của teacher và khoảng cách năng lực teacher–student đang thay đổi — mẫu nào teacher còn dạy được thì học, mẫu nào teacher kém tin cậy thì tự học bằng RL.
OCRBench v2.1: bản chỉnh sửa OCRBench v2 với hiệu chỉnh annotation thủ công và thang điểm khớp tác vụ; kèm biến thể PolyOCR-2.7B chuyên đa ngữ (21 nhóm ngôn ngữ/chữ viết).

Ví dụ đời thường: giống lớp học có học sinh giỏi kèm học sinh yếu — thay vì chép bài suốt, thầy giáo chỉ đưa đáp án cho câu nào học sinh thật sự chưa làm được, còn câu nào học sinh tự làm đúng được thì để tự luyện, và mức kèm cặp được điều chỉnh liên tục theo mức độ giỏi của cả hai.

III. Main Results:

OCRBench v2.1: PolyOCR-9B đạt 80.4, vượt Qwen3.8-Max (77.8), Doubao-Seed-2.0 (74.3), Kimi-K3 (72.9) và GPT-5.6 (70.3).
CC-OCR: PolyOCR-9B đạt 82.4, cao nhất nhóm so sánh (OvisOCRv2: 82.1).
OmniDocBench v1.6 (pipeline layout-guided): 96.9, dẫn đầu trước MinerU2.5-Pro (96.6) và PaddleOCR-VL-1.6 (96.3).
In-house KIE (F1): 93.6, cao nhất trong các baseline.
MDPBench (PolyOCR-2.7B): 87.0, vượt Qianfan-OCR (86.6) và các baseline khác.
Kết quả cho thấy năng lực cân bằng và mạnh đồng đều xuyên suốt từ nhận diện ký tự cơ bản đến suy luận trực quan cấp cao.

IV. Conclusion & Future Works:

PolyOCR chứng minh rằng một khung sinh thống nhất + data engine toàn phổ + tối ưu có nhận thức năng lực (CGPO) là đủ để xây mô hình nền OCR vừa rộng vừa sâu, khắc phục được sự phân mảnh giữa các hệ thống chuyên biệt và sự thiếu cân bằng của MLLM đa dụng. Việc công bố OCRBench v2.1 cùng các benchmark đã chỉnh chu (CC-OCR, OmniDocBench v1.6, KIE, MDPBench) cũng đặt chuẩn đánh giá mới cho cộng đồng OCR. Hướng tương lai hợp lý: mở rộng sang OCR đa phương thức (video, tài liệu dài nhiều trang), tối ưu thêm cơ chế routing trong CGPO, và tinh chỉnh biến thể đa ngữ cho các chữ viết ít tài nguyên hơn.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu mở rộng CGPO cho huấn luyện đa tác vụ nói chung: ước lượng khoảng cách năng lực teacher–student theo thời gian thực để điều phối học tăng cường và chưng cất cho mọi mô hình học sinh giáo viên.
Xây dựng mô hình OCR đa phương thức cho video và tài liệu dài: liên kết nhận diện chữ xuyên khung hình với suy luận theo trang, duy trì reading order ổn định trên tài liệu hàng trăm trang.
Phát triển pipeline tổng hợp dữ liệu tự động cho các ngôn ngữ/chữ viết cực ít tài nguyên (low-resource scripts), dùng kiểm chứng chéo nhiều mô hình để thay nhãn người.

2. Patent:

Ứng dụng camera điện thoại quét tài liệu đa năng: chụp một lần, mô hình OCR thống nhất vừa chép toàn bộ chữ, vừa tái tạo bảng biểu/công thức thành file Word/Excel có cấu trúc, vừa trả lời câu hỏi về nội dung — thay vì cần nhiều ứng dụng riêng.
Trợ lý thanh toán hóa đơn trên điện thoại: chụp hóa đơn/hóa đơn điện tử, mô hình tự định vị vùng, trích xuất tên mặt hàng, số lượng, thành tiền thành bản ghi có cấu trúc và tự tính tổng, cho phép người dùng chỉnh sửa trực tiếp.
Công cụ dịch thực tế tăng cường cho du khách: camera điện thoại hướng vào biển hiệu, thực đơn, bảng chỉ dẫn; mô hình vừa nhận diện vùng chữ vừa dịch song ngữ phủ lên đúng vị trí gốc trên màn hình.
Hệ thống nhập liệu tự động cho văn phòng: quét hàng loạt đơn, biểu mẫu, phiếu khảo sát viết tay; mô hình trích xuất trường thông tin theo mẫu (tên, ngày, tổng tiền) và xuất thẳng vào bảng quản lý.
Tính năng đọc màn hình hỗ trợ người khiếm thị: mô hình mô tả và đọc to mọi chữ xuất hiện trên giao diện ứng dụng điện thoại kèm vị trí, đồng thời trả lời câu hỏi của người dùng về nội dung hiển thị.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.37712
ArXiv Abstract	https://arxiv.org/abs/2609.37712
PDF Download	https://arxiv.org/pdf/2609.37712.pdf
Github Repository	https://github.com/inclusionAI/PolyOCR-Venus

16. Learning Representations to Guide Pixel Diffusion Transformers (22 votes)

Tác giả: Zihao Pan, Mengting Chen, Cheng Shi, Taihang Hu, Zhengrong Yue, et al.

Xuất bản lúc: 2026-10-09

Tag: Diffusion, Diffusion Transformers, Representation Learning, Pixel Diffusion, Flow Matching, Image Generation, Text-to-Image

I. Main Problem:

Câu hỏi cốt lõi: điều gì làm một representation trở nên hữu ích cho việc sinh ảnh (không chỉ cho recognition)? Hai phát hiện trong pixel diffusion transformers (pDiTs) cho thấy:

Representation tốt chưa chắc hữu ích cho sinh ảnh: can thiệp REPA vào lớp giữa (khớp với DINOv2) cải thiện rõ semantics/spatial structure tại lớp đó, nhưng cải thiện nhanh chóng mất đi ở các lớp sau khi tiến về dự đoán pixel; FID cuối cùng thậm chí tệ hơn baseline (REPA-4: 4.80 vs 4.56).
Tách kiến trúc (pixel-specialized decoder) không tạo representation tốt hơn: nó chủ yếu phân phối lại khối lượng mô hình hóa semantics/spatial giữa encoder và decoder (PixelDiT: +55% params, +67% FLOPs mà FID tương đương; DiP 6.09, DeCo 9.17 đều kém hơn), trong khi rời xa thiết kế Transformer đơn giản, dễ scale của JiT.

II. Main Idea:

Representation Guidance (RG) giữ nguyên kiến trúc Transformer thuần và tác động trực tiếp vào cách representation được hình thành và được sử dụng:

Bottleneck chiều thấp giữa encoder và decoder ép thông tin liên quan đến sinh ảnh vào một implicit latent space nhỏ gọn (tính compact và tổ chức không gian như latent của VAE, nhưng được tối ưu end-to-end cho nhiệm vụ sinh).
Guidance objective: so sánh dự đoán decoder có và không có representation (r=0 với xác suất 0.1), lấy velocity offset Δv_rep giữa hai lần dự đoán, và điều chỉnh flow-matching target theo Δv_rep (stop-gradient, scale s≈1.4). Nhờ đó decoder buộc phải dùng representation, đồng thời gradient chạy ngược qua r giúp encoder hình thành đúng thông tin cần cho sinh ảnh.
Kết hợp với REPA làm giàn giáo semantics (từ DINOv2) ở lớp encoder sớm; cả hai thành phần bổ sung cho nhau — cả hai đều thiếu thì guidance làm FID tệ hơn (7.85–8.99).

Ví dụ đời thường: giống việc bắt học sinh không được nhìn bản nháp khi chấm bài — thầy giáo cố tình so sánh bài làm có nháp và không có nháp, rồi ép bài viết cuối cùng phải phụ thuộc vào dàn ý; nếu bài viết vẫn tốt khi bỏ dàn ý thì nghĩa là dàn ý chưa được dùng, nên dàn ý tự dần được chỉnh cho thật sự quyết định nội dung bài.

III. Main Results:

ImageNet 256×256: RG-XL/16 (725M params) đạt FID 1.55, tốt nhất trong các mô hình pixel-space, vượt PixelDiT-XL (1.61), DeCo-XL/16 (1.69), JiT-G/16 2B params (1.82). RG-L/16 chỉ 459M params đạt FID 1.79, vượt các mô hình pixel-space lớn hơn nhiều — thu hẹp khoảng cách với latent diffusion.
ImageNet 512×512: RG-XL/16 đạt FID 1.74, vượt cả các baseline latent-space.
Text-to-image: RG-T2I-L/16 đạt GenEval 0.89, DPG-Bench 87.1, vượt SD3 (8B), FLUX.1-dev (12B) và các mô hình pixel-space dùng text encoder lớn hơn nhiều; cùng kích thước với MiniT2I thì +0.01 GenEval, +1.2 DPG.
Phân tích representation: RG giữ contours semantics rõ ràng ở encoder (lớp 3–8) và patterns tần số cao ở decoder (lớp 9–12) — functional specialization rõ rệt; bottleneck cải thiện RMSC/LDS, guidance tăng linear probing accuracy.
Ablation: bottleneck width d=128 tốt nhất khi train dài (FID 2.64 @600 epochs); RG scale s=1.4, t_min=0.3 là tối ưu; encoder/decoder 8/4 blocks tối ưu; RG chỉ thêm 0.4M params và 13% FLOPs, không tốn chi phí ở inference; DINOv2-reg và DINOv3 làm teacher cho kết quả tương đương.

IV. Conclusion & Future Works:

Bài báo chứng minh rằng sinh ảnh pixel-space hiệu quả không cần decoder pixel chuyên biệt ngày càng phức tạp hay features bên ngoài ngày càng mạnh. Một Transformer thuần có thể học representation hữu ích cho sinh ảnh nếu representation đó vừa được hình thành đúng (bottleneck compact) vừa được khai thác tích cực (guidance qua velocity offset). RG scale hiệu quả về cả tham số lẫn tính toán và mở rộng tốt từ class-conditional sang text-to-image và độ phân giải cao (1024×1024).

V. Brainstorming Space:

1. Publish Papers:

Khảo sát sâu hơn về cơ chế 'lazy aggregation' trong pixel diffusion: tại sao supervision theo pixel khiến mạng bỏ qua semantics bậc cao, và cách thiết kế objective để chống lại xu hướng này ngoài cơ chế guidance hiện tại.
Mở rộng Representation Guidance sang video diffusion và generation đa phương thức, kiểm tra xem implicit latent space của RG có bắt được tính nhất quán thời gian không.
Nghiên cứu mối liên hệ giữa RG và self-distillation trong self-supervised learning: làm rõ lý thuyết về tại sao sharpening velocity target theo representation-induced offset buộc representation mã hóa cấu trúc semantics/spatial cần thiết cho sinh ảnh.

2. Patent:

Công cụ tạo ảnh theo văn bản chạy cục bộ trên điện thoại: mô hình sinh ảnh trực tiếp từ pixel (không cần autoencoder nén) kết hợp bottleneck chiều thấp giúp giảm dung lượng và chi phí tính toán, cho phép tạo ảnh chất lượng cao ngay trên thiết bị di động mà vẫn tiết kiệm pin.
Hệ thống chỉnh sửa ảnh thông minh bằng cách khoá 'dàn ý' nội bộ: khi người dùng yêu cầu thay đổi bố cục hoặc đối tượng trong ảnh, ứng dụng giữ nguyên representation nén từ ảnh gốc làm điều kiện để tái sinh ảnh mới nhất quán về cấu trúc không gian với ảnh cũ.
Module nén ảnh tùy ý cho ứng dụng lưu trữ ảnh: dùng bottleneck tự học của mô hình sinh ảnh làm bộ mã hóa nhỏ gọn trên điện thoại, ảnh được lưu dưới dạng latent nén và có thể khôi phục lại ảnh gốc chất lượng cao khi cần xem.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12978
ArXiv Abstract	https://arxiv.org/abs/2610.12978
PDF Download	https://arxiv.org/pdf/2610.12978.pdf
Github Repository	https://github.com/Pan-Zihao/Representation-Guidance

17. Contextual Correction of Parallel Draftsfor Speculative Decoding (21 votes)

Tác giả: Roy Eisenstadt, Harel Lidar, Tal Gonen, Omer Luxembourg, Itamar Zimerman, et al.

Xuất bản lúc: 2026-10-08

Tag: Speculative Decoding, LLM Inference, Diffusion Models, Parallel Drafting, Inference Acceleration

I. Main Problem:

Các drafter sinh song song theo khối (như DFlash, diffusion-based) tăng tốc inference bằng cách dự đoán nhiều token cùng lúc trong một forward pass, nhưng trả giá đắt: mỗi vị trí trong khối được dự đoán mà không biết token nào đã được chọn ở vị trí trước nó (thiếu intra-block dependencies).

Hậu quả:

Các token riêng lẻ hợp lý nhưng kết hợp lại thành chuỗi mâu thuẫn (ví dụ: drafter biết cả "New York" và "San Diego" nhưng có thể sinh "New Diego").
Tỷ lệ draft acceptance giảm, làm giảm speedup của speculative decoding.
Các phương pháp sửa lỗi hiện có (DSpark, Domino) dùng module tuần tự position-by-position → chi phí latency nằm trên critical path, làm mất lợi thế khi serving tải cao.

II. Main Idea:

DCOCO (DFlash Contextual Corrector) khôi phục dependencies trong khối draft mà không cần module tuần tự nào, dựa trên hai quan sát:

Drafter thường đã "nghi đúng" token: trên Qwen3-8B, top-16 candidates chứa token mà verifier chọn tại 59% các vị trí mà top-1 sai → bài toán sửa lỗi trở thành chọn lại trong tập candidates có sẵn thay vì sinh token mới.
Verification dừng ở token đầu tiên bị reject → cải thiện ở vị trí sau chỉ có giá trị nếu prefix trước đó được chấp nhận.

Quy trình:

Giữ lại top-K candidates ở mỗi slot của một DFlash pass duy nhất, tạo lưới dense B×K.
Chấm điểm song song tất cả K² transitions giữa hai slot liền kề bằng MLP 2 lớp nhỏ (dùng hidden states, candidate embeddings, logits có sẵn — không thêm forward pass của drafter).
Prefix-first greedy selection: chọn token trái sang phải, mỗi bước chọn successor tốt nhất của predecessor vừa chọn — phản ánh đúng cấu trúc prefix của verification.
Chỉ phần chọn đường đi (O(BK)) là tuần tự; phần scoring (O(BK²)) hoàn toàn song song.

Ví dụ đời thường: giống như chơi ô chữ mà thay vì điền mỗi ô một lần rồi không sửa được, bạn viết sẵn vài chữ cái đề cử ở từng ô, rồi nhìn cả hàng để chọn tổ hợp khớp nhau nhất — chỉ bước "chọn" là nối tiếp, còn việc đối chiếu đề cử thì làm một lúc.

III. Main Results:

Tốc nhất cao nhất trong mọi cấu hình trên 4 verifier backbones (Qwen3-4B/8B/Coder-30B-A3B, Llama-3.1-8B) và 10 benchmark (toán, code, đa dụng), cả greedy (T=0) lẫn sampling (T=1), có/không extended thinking.
Speedup tới 6.6× so với vanilla decoding; vượt baseline mạnh nhất (Domino/DSpark) 8–19% về speedup trung bình.
Vượt Domino: +8.1% accepted length và +14.3% request throughput (T=0, Qwen3-8B).
Ưu thế bền dưới tải serving: từ 4–32 concurrent requests, DCOCO vượt baseline mạnh nhất 6–23%, trong khi Domino và DSpark chậm hơn cả DFlash gốc ở tải cao vì overhead tuần tự của chúng.
DCOCO vừa có prefix được chấp nhận dài hơn 7–8%, vừa có chu kỳ ngắn hơn 6% so với baseline mạnh nhất → nhân lên thành +13–15% throughput.
Ablations: bỏ pair state mất 7.3%/5.6% accepted length; bỏ candidate representation mất 4.8%/3.7%; dùng corrector như drop-in (đóng băng drafter) vẫn cải thiện DFlash 4.4%, joint training thêm ≈15%.
Prefix-first greedy selection thắng Global-Sum trên mọi suite (acceptance + throughput), và nhanh hơn 2.8% so với geometric discounted variant.

IV. Conclusion & Future Works:

Hai drafter song song bỏ lại hai thứ trên bàn: top-K candidates mang coverage lớn hơn hẳn top-1, và danh tính token đã chọn là thông tin không slot nào khác được dùng. DCOCO khai thác đúng hai điều này: chấm điểm song song rẻ tiền mọi transition rồi chọn greedy theo hướng prefix, giống hệt cách verification tiêu thụ draft (trước ra sau, dừng ở lỗi đầu tiên). Kết luận cốt lõi: khi correction đủ rẻ, nó là lợi nhuận thuần cho speculative decoding — và ưu thế này không những giữ mà còn rộng ra ở tải concurrency cao, nơi các corrector tuần tự thua cả drafter chưa sửa.

V. Brainstorming Space:

1. Publish Papers:

Tổng quát hóa corrector contextual song song cho các kiến trúc drafter khác ngoài DFlash (Medusa-style multi-head, CTC-based drafting) để xem nguyên lý re-selection trên top-K + prefix-first selection có chuyển giao được không.
Nghiên cứu chiến lược chọn candidates thích ứng theo độ tự tin (dynamic K theo slot) thay vì K cố định, cân bằng chi phí scoring song song và chất lượng draft.
Kết hợp contextual correction với draft tree/đồ thị đa nhánh để tận dụng verification theo nhánh, thay vì chỉ sửa một đường prefix duy nhất.

2. Patent:

Hệ thống tăng tốc sinh văn bản trên điện thoại/edge: một mô hình dự thảo nhỏ đề xuất đồng thời nhiều từ tiếp theo, module chấm điểm chạy ngay trên thiết bị chọn tổ hợp từ mạch lạc nhất theo từng từ một, giúp trợ lý gõ/viết phản hồi nhanh hơn mà không cần kết nối máy chủ lớn liên tục.
Máy chủ dịch thuật/thông dịch thời gian thực cho nhiều khách hàng đồng thời: bộ sửa draft chạy song song giữ vững tốc độ xử lý khi số luồng yêu cầu tăng lên, tránh tình trạng các bộ sửa lỗi theo kiểu tuần tự làm chậm toàn hệ thống lúc giờ cao điểm.
Trợ lý soạn thảo văn bản trong ứng dụng văn phòng trên điện thoại: khi người dùng gõ, mô hình nhẹ đoán trước cụm từ kế tiếp và tự chỉnh cụm đó cho khớp ngữ cảnh câu trước khi hiển thị gợi ý, giảm gợi ý vô nghĩa mà gần như không tốn thêm thời gian chờ.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12570
ArXiv Abstract	https://arxiv.org/abs/2610.12570
PDF Download	https://arxiv.org/pdf/2610.12570.pdf
Github Repository	https://github.com/two-delta/DCOCO

18. SWE-Duel: Towards a Self-Scaling Arena for Coding Agents (20 votes)

Tác giả: Wei Minn, Zhensu Sun, Lwin Khin Shar, David Lo

Xuất bản lúc: 2026-10-08

Tag: Coding Agents, Benchmark, Self-Play, Software Engineering, LLM Evaluation, Arena

I. Main Problem:

Các benchmark lập trình tĩnh (như SWE-bench Verified) có hai vấn đề cấu trúc:

Rò rỉ dữ liệu: nội dung công khai ngày càng bị hút vào dữ liệu huấn luyện của các LLM (OpenAI đã ngừng báo cáo kết quả SWE-bench vì model frontier tái tạo được gold patch).
Bão hòa độ khó: tập nhiệm vụ cố định sẽ bị các agent mạnh hơn giải dần; các bản cập nhật như SWE-bench-Live chỉ làm nhiệm vụ 'mới hơn', không 'khó hơn'.

Các hướng mới (BugPilot, SwingArena) chỉ sinh oracle hoặc lấy nhiệm vụ từ pool con người — độ khó vẫn bị trần bởi vấn đề thật mà lập trình viên gặp hằng ngày.

II. Main Idea:

SWE-Duel là arena tự-vận-hành trong đó hai coding agent chấm điểm lẫn nhau qua các lượt Red–Blue soi gương:

Red (tác giả nhiệm vụ): trong 3 phiên cách ly context, (A) tự đề xuất và cài tính năng mới kèm feature tests, (B) giấu một bug tinh vi trong tính năng đó kèm bug tests niêm phong, (C) tự sửa blind — nhiệm vụ chỉ được nhận nếu phiên mới của chính agent đó tìm và sửa được bug từ góc nhìn của người review.
Blue (người giải): review pull request mà không được biết có bug; chỉ thắng khi sửa đổi pass cả 3 bộ test (hiện có + tính năng + bug niêm phong), rồi hai bên đổi vai.

Vì mọi feature, bug, oracle đều sinh lúc đánh giá nên không gì để rò rỉ, và độ khó do chính các agent tạo ra nên tự tăng theo năng lực của chúng.

Ví dụ đời thường: giống hai đầu bếp thi nhau nấu món mới rồi giấu một 'lỗi nêm nếm' vào món của mình — món chỉ được đem ra thi nếu chính người nấu tự nếm lại (không biết lỗi ở đâu) mà vẫn chỉnh được, còn đối thủ phải tìm ra lỗi chỉ bằng cách ăn kỹ.

III. Main Results:

Giải đấu 11 participant (model x harness), 15 repo thuộc 5 ngôn ngữ, 50 trận / 1,500 lượt: GPT-5.5 + Codex CLI đứng đầu với BT +2.82.
Hồ sơ thắng khác nhau: GPT-5.5 là solver mạnh nhất (sửa đúng 98.3% bug khi review); Claude Opus 4.8 + mini-swe-agent là task author mạnh nhất (Red win 27.3%, gấp hơn 2 lần GPT-5.5) — nó giấu bug khó tìm hơn.
Bằng chứng tự co giãn độ khó: cố định solver, cho 3 thế hệ GLM làm tác giả — solver thất bại 8.3% (GLM-5.1), 0% (GLM-5.2), 42.9% (GLM-5.3): nhiệm vụ của bản mới nhất khó hơn rõ rệt.
Vào giải muộn rẻ: Gemini 3.1 Pro chỉ cần 5 trận (log-sampling) thay vì 10, không làm thay đổi bảng xếp hạng cũ (Kendall tau = 1.0); chi phí onboarding ~ $243, toàn giải ~$ 2,109.
Blue thắng 87.9% tổng thể; bug khó nhất là logic errors (81.9%), dễ nhất là input validation (95.5%). Admission qua self-repair ổn định (91.7%); tỉ lệ test bug từ chối nhầm sửa đúng chỉ 6%.

IV. Conclusion & Future Works:

SWE-Duel chứng minh benchmark có thể tự tạo nhiệm vụ, tự điều chỉnh độ khó nhờ các agent đấu với nhau, loại bỏ cả rò rỉ dữ liệu lẫn trần độ khó của benchmark tĩnh, đồng thời phủ trọn vòng đời kỹ thuật phần mềm (đặc tả, cài tính năng, viết test, review, định vị lỗi, sửa chữa) trong một giao thức duy nhất. Công cụ arena mở cho phép cộng đồng tự tổ chức giải hoặc thêm agent mới vào leaderboard. Hướng tương lai: mở rộng quy mô giải, tinh chỉnh trade-off giữa độ khó và tính giải được của nhiệm vụ, và kiểm chứng sâu hơn giả thuyết độ khó bám theo năng lực tác giả.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng SWE-Duel thành hệ thống đánh giá liên tục: các agent vào giải theo thời gian thực qua active sampling, xây dựng bảng xếp hạng coding agent luôn cập nhật mà không cần tổ chức lại toàn bộ giải đấu.
Nghiên cứu hành vi đối kháng của agent trong vai tác giả nhiệm vụ: chiến lược giấu bug, độ tinh vi của bug theo ngôn ngữ lập trình, và mối liên hệ giữa năng lực tạo nhiệm vụ với năng lực giải nhiệm vụ trong cùng một mô hình.
Đưa giao thức Red–Blue tự-sinh-nhiệm-vụ vào vòng lặp huấn luyện (self-play RL) để mô hình vừa học sửa bug vừa học tạo nhiệm vụ khó, với curriculum tự động do chính đối thủ quyết định.

2. Patent:

Nền tảng đánh giá kỹ năng lập trình viên/kỹ sư AI trên điện thoại: ứng dụng giao cho hai hệ thống AI (hoặc người và AI) soi gương — một bên thêm tính năng và giấu lỗi, bên kia review — chấm điểm tự động bằng bộ test chạy trên máy chủ, kết quả xếp hạng hiển thị ngay trong app.
Hệ thống kiểm thử chống sao chép cho bài tập lập trình: mỗi lần sinh đề thi, hệ thống tự cài một tính năng mới kèm lỗi cố ý vào repo mẫu, tự kiểm chứng lỗi giải được rồi phát cho thí sinh — đề thi không tồn tại trước nên không thể rò rỉ.
Công cụ đào tạo code review trong doanh nghiệp: tự động tạo pull request luyện tập có bug ẩn từ repo nội bộ, yêu cầu nhân viên tìm lỗi mà không biết có lỗi, chấm điểm bằng test tự động và điều chỉnh độ khó theo trình độ người học.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12569
ArXiv Abstract	https://arxiv.org/abs/2610.12569
PDF Download	https://arxiv.org/pdf/2610.12569.pdf
Github Repository	https://github.com/sweduel/SWE-Duel

19. InstantFusion: A Shared Latent Interface for Heterogeneous Image Generators (18 votes)

Tác giả: Xuanlang Dai, Jiazi Bu, Yujie Zhou, Yuhong Liu, Beichen Zhang, et al.

Xuất bản lúc: 2026-10-09

Tag: Diffusion Models, Flow Matching, Latent Space Alignment, Text-to-Image Generation, Model Composition, Knowledge Distillation

I. Main Problem:

Các mô hình sinh ảnh hiện đại (SD3, FLUX.1, Qwen-Image, Z-Image) ngày càng dị biệt về kiến trúc, không gian latent và cơ chế điều kiện hóa, nhưng vẫn được nghiên cứu và triển khai như những hệ thống biệt lập. Hệ quả:

Chưa rõ các không gian latent của chúng có tương thích chéo không — không thể trao đổi trạng thái trung gian trực tiếp mà không học ánh xạ riêng cho từng cặp mô hình.
Các phương pháp latent alignment hiện có chỉ xử lý từng cặp model, bỏ qua động lực học khử nhiễu; các phương pháp trajectory stitching thì giả định các model dùng chung latent space.
Chuyển giao đường khử nhiễu (denoising trajectory) giữa các generator dị biệt vẫn là bài toán mở.

II. Main Idea:

InstantFusion xây dựng một giao diện latent dùng chung (shared latent interface) nhẹ, nối các đường khử nhiễu của các generator dị biệt. Cơ chế:

Mỗi generator đông cứng được trang bị một Latent AutoEncoder (LAE) riêng (encoder + decoder nhẹ, có điều kiện theo mức nhiễu), chiếu trạng thái trung gian về một không gian latent chung rồi giải mã sang latent của model đích.
Ba mục tiêu bổ sung: L_align (căn chỉnh trạng thái từ cùng ảnh ở cùng mức nhiễu), L_rec (tái tạo để giữ thông tin, tránh nghiệm tầm thường), L_dyn (đồng bộ hóa vận tốc khử nhiễu cục bộ — bước đi một bước của từng model — vì chỉ căn chỉnh trạng thái thôi thì vận tốc vẫn lệch nhau).
Khi suy luận, trạng thái của model gửi được mã hóa rồi giải mã sang không gian model nhận; chiến lược bàn giao thích ứng chọn bước chuyển dựa trên độ ổn định của ảnh sạch dự đoán qua hai bước liên tiếp.
Thêm model mới chỉ cần thêm một LAE — không cần ánh xạ riêng cho từng cặp.

Xuất phát từ quan sát thú vị: các model huấn luyện độc lập có tổ chức không gian latent rất giống nhau, và việc bàn giao thô (không căn chỉnh) giữa hai model vẫn giữ được chủ thể và bố cục thô dù có artifact.

Ví dụ đời thường: giống như các thợ vẽ khác trường phái cùng phác một bức tranh chung — InstantFusion làm 'phiên dịch viên' chuyển bản phác thô từ ngôn ngữ của người này sang người kia, sao cho người nhận không chỉ hiểu bố cục mà còn vẽ tiếp đúng nhịp của người gửi.

III. Main Results:

Tái tạo trung thực: round-trip 1 lần qua không gian chung đạt PSNR > 31 dB, SSIM > 0.94 giữa SD3, FLUX.1, Qwen-Image.
Cross-model composition: Qwen-Image + SD3/FLUX.1 nâng GenEval-v2 lên 35.06 và 36.54 (+13 điểm so với model gốc), CVTG-2K +0.18–0.28.
Tăng tốc sinh ảnh: Qwen-Image từ 18.84s xuống 2.545s khi ghép FLUX.2-Klein (~7×), tốc độ 1.8–3.3× với Z-Image-Turbo; tương thích chồng lấp với DiCache (10.64s → 5.70s, chất lượng gần như không đổi).
On-policy distillation xuyên kiến trúc: chuyển kiến thức từ Qwen-Image sang SD3, nâng HPSv2 trung bình từ 26.27 lên 26.46; bỏ L_dyn khiến huấn luyện phân kỳ.
Multi-preference composition: kết hợp các expert GRPO riêng lẻ (GenEval-v2 + HPSv2) đạt 30.97/30.68, vượt velocity fusion và gần bằng GRPO đa-reward huấn luyện chung — không cần tối ưu lại.
Ablation: thay block điều kiện thời gian bằng conv thường làm GenEval-v2 giảm 7.2 (SD3) và 19.2 (FLUX.1); cascade 3 tầng ổn định với mọi thứ tự model.

IV. Conclusion & Future Works:

InstantFusion chứng minh các generator ảnh độc lập tiềm ẩn tương thích một phần về cấu trúc latent và động lực học, có thể khai thác qua một giao diện latent dùng chung nhẹ, hỗ trợ tái cấu trúc trạng thái, chuyển giao trajectory và chuyển giao năng lực mà không cần ánh xạ riêng từng cặp. Hướng tương lai: mở rộng giao diện cho nhiều generator và phương thức sinh hơn (video, 3D), cải thiện độ bền của không gian chung khi số model tăng lên, và tinh chỉnh tiêu chí bàn giao thích ứng.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng shared latent interface cho các loại generator khác ngoài ảnh tĩnh — video, 3D, âm thanh — với cùng nguyên lý LAE + căn chỉnh động lực học.
Nghiên cứu khả năng mở rộng của không gian chung khi tích hợp hàng chục generator cùng lúc, bao gồm hiện tượng nhiễu chéo giữa các LAE.
Phát triển tiêu chí bàn giao thích ứng thay thế dựa trên uncertainty hoặc reward model để chọn điểm chuyển model tối ưu hơn.

2. Patent:

Ứng dụng điện thoại sinh ảnh nhanh: dùng model nhiều bước chất lượng cao phác thảo cấu trúc ảnh trong ít bước đầu, sau đó model ít bước nhẹ trên điện thoại hoàn thiện — giảm đáng kể thời gian và chi phí điện toán đám mây.
Hệ thống kết hợp nhiều 'gu' thẩm mỹ trên điện thoại: người dùng chọn đồng thời ưu tiên độ đẹp ảnh chân dung và độ chính xác theo chữ; ứng dụng ghép hai model chuyên biệt qua không gian latent chung thay vì phải huấn luyện một model đa-mục tiêu riêng.
Dịch vụ nâng cấp ảnh cũ bằng AI lai: ảnh được khử nhiễu bởi một model, giữ nguyên bố cục gốc, rồi model sinh ảnh chất lượng cao hơn tiếp tục từ trạng thái chuyển tiếp — phục hồi ảnh mờ mà vẫn trung thành nội dung gốc.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.13944
ArXiv Abstract	https://arxiv.org/abs/2610.13944
PDF Download	https://arxiv.org/pdf/2610.13944.pdf
Github Repository	https://github.com/InternLM/InstantFusion

20. Inducing Process Supervision from Outcome-Only Reinforcement Learning (18 votes)

Tác giả: Shengda Fan, Xin Cong, Zhong Zhang, Haotian Chen, Yankai Lin

Xuất bản lúc: 2026-09-29

Tag: Process Reward Models, Reinforcement Learning, LLMs, Reward Modeling, Chain-of-Thought, GRPO, Test-Time Scaling

I. Main Problem:

Process reward models (PRMs) rất quan trọng vì cho phép chấm điểm từng bước trong suy luận toán và hành vi agent, nhưng huấn luyện chúng rất tốn kém:

Gán nhãn từng bước bởi người chính xác nhưng khó mở rộng.
Monte Carlo estimation cần rất nhiều rollout và có thể lệch khỏi tính đúng thật của từng bước, vì một bước sai vẫn có thể dẫn tới đáp án đúng.
Các phương pháp chỉ dùng nhãn kết quả cuối trước đây thường không bắt được vị trí bước sai một cách đáng tin.

II. Main Idea:

TIPS huấn luyện một reward model dạng generative để cùng lúc tạo suy nghĩ, gán nhãn từng bước và dự đoán kết quả cuối, nhưng phần thưởng chỉ dựa vào việc dự đoán kết quả cuối có đúng không. Quy trình:

Cho một bài toán và một lời giải nhiều bước, mô hình sinh chain-of-thought (CoT) trước.
Sau đó nó xuất step-level labels cho từng bước và outcome label cho toàn bộ lời giải.
Dùng GRPO để so sánh nhóm các rollout; rollout nào dự đoán outcome đúng sẽ được thưởng.
Cùng một advantage từ outcome được áp cho toàn bộ token, gồm cả suy nghĩ và nhãn từng bước, nên mô hình học cách kiểm tra bước trung gian như một cách để đoán kết quả cuối tốt hơn.
Lý thuyết thông tin cho thấy nếu kết quả cuối phụ thuộc vào đúng/sai của các bước, thì suy nghĩ giúp dự đoán outcome phải mang thông tin về tính đúng của các bước.

Ví dụ đời thường: giống như kiểm tra hóa đơn chỉ nhìn tổng cuối có khớp không, nhưng khi tổng sai người ta buộc phải quay lại soi từng dòng để biết sai ở đâu; nếu chỉ thưởng cho tổng đúng, dần dần thói quen rà từng dòng sẽ được củng cố.

III. Main Results:

Hiệu quả rất cao với ít dữ liệu: TIPS-Qwen3-4B-Thinking-2507 đạt 85.2 F1 trên ProcessBench chỉ với 3.2K trajectory có nhãn outcome.
Vượt nhiều trained PRM lớn hơn như UniversalPRM-7B, Qwen2.5-Math-PRM-72B, GenPRM-32B, DeepCritic-7B-PRM800K, đồng thời vượt các LLM judge mạnh dạng prompt-only như GPT-5.4-Instruct 79.4 và Claude-4.7-Opus 79.3, còn thua o1-mini 87.9.
Bản Instruct cũng đạt 77.7 F1 trung bình, cho thấy hiệu ứng không chỉ đến từ dữ liệu lớn.
Trên AgentProcessBench, TIPS cải thiện FirstErrAcc cho cả ba backbone thử nghiệm: +2.5, +5.4, +4.5 điểm trung bình.
Ở Best-of-8, TIPS-Qwen3-4B-Thinking-2507 đạt 73.3 trung bình, tốt hơn các baseline cùng backbone và gần với mức Pass@8 upper bound 78.1.
Kết quả tổng quát qua nhiều họ mô hình: Qwen, DeepSeek, Llama, SmolLM, nhiều quy mô khác nhau.
Ablation cho thấy CoT là yếu tố then chốt: biến thể chỉ xuất nhãn gần như không cải thiện process verification, trong khi CoT cho phép RL định hình cách kiểm tra từng bước.

IV. Conclusion & Future Works:

TIPS cho thấy outcome-only reinforcement learning có thể tạo ra process supervision khi reward cuối phụ thuộc vào việc theo dõi đúng/sai của các bước. Điểm mấu chốt là mô hình phải nói ra suy nghĩ kiểm tra bước trước khi kết luận, và backbone có sẵn thói quen suy luận từng bước sẽ chuyển outcome reward thành lợi ích process ổn định hơn. Giới hạn gồm: agent task có liên kết yếu hơn giữa bước cụ thể và thành công cuối, mô hình yếu có thể học shortcut để đoán outcome, và nếu outcome quá dễ đoán thì kênh suy nghĩ không cần chứa thông tin process. Hướng tương lai trong bài là kết hợp TIPS với light Monte Carlo priors hoặc CoT distillation.

V. Brainstorming Space:

1. Publish Papers:

Kết hợp TIPS với một lượng rất nhỏ Monte Carlo prior để ổn định việc chuyển từ nhãn kết quả sang nhận diện bước sai, đặc biệt cho backbone có prior suy luận yếu.
Nghiên cứu tiêu chí dừng sớm không cần nhãn từng bước dựa trên khi outcome accuracy chững lại và độ dài phản hồi giảm, nhằm tránh suy giảm chất lượng process verification sau nhiều bước RL.
Phân tích điều kiện outcome–process coupling theo miền: so sánh toán, code và agent để xác định khi nào thành công cuối thật sự bị quyết định bởi đúng/sai của các bước trung gian.

2. Patent:

Ứng dụng dạy toán trên điện thoại: học sinh nhập lời giải, AI tự nêu cách kiểm tra từng dòng rồi chỉ ra bước đầu tiên có khả năng sai; hệ thống được huấn luyện bằng cách chỉ thưởng khi kết luận đáp án cuối đúng, nên học cách soi từng bước mà không cần người gán nhãn lỗi từng dòng.
Trợ lý sửa code trên điện thoại: người dùng gửi một đoạn thay đổi, AI viết phần phân tích ngầm về từng chỉnh sửa và cảnh báo thao tác rủi ro; quá trình học chỉ dùng kết quả cuối cùng là chương trình có chạy hoặc qua test hay không.
Trợ lý thao tác ứng dụng trên điện thoại: AI quan sát chuỗi thao tác như mở app, nhập dữ liệu, xác nhận, rồi dự đoán tác vụ có thành công không và chỉ ra hành động đầu tiên đáng nghi; dữ liệu huấn luyện chỉ cần ghi nhãn cuối là tác vụ thành công hay thất bại.
Công cụ chấm chất lượng quy trình làm việc cá nhân: người dùng lưu chuỗi bước hoàn thành một công việc, hệ thống học cách tìm bước dễ gây thất bại dựa trên kết quả cuối của công việc, rồi đề xuất sửa quy trình trên điện thoại.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.36641
ArXiv Abstract	https://arxiv.org/abs/2609.36641
PDF Download	https://arxiv.org/pdf/2609.36641.pdf
Github Repository	N/A

21. Stateless Language Agents: Scaling Long-Horizon Automated Research (18 votes)

Tác giả: Qizheng Zhang, Changxiu Ji, Isaac Sun, Yuetai Li, Shubhangi Upasani, et al.

Xuất bản lúc: 2026-10-06

Tag: LLM Agents, AutoResearch, Multi-Agent Systems, Context Management, Long-Horizon Search, AI Scientists

I. Main Problem:

Các hệ thống nghiên cứu tự động (AutoResearch) chạy agent LLM trong thời gian rất dài nhưng nhiều inference không đồng nghĩa nhiều tiến bộ:

Agent phát lại lịch sử hội thoại ngày càng dài, tốn token và làm suy giảm hành vi (kể cả dừng sớm)
Các agent trùng lặp công việc của nhau hoặc tuyên bố lời giải tối ưu rồi ngừng thí nghiệm trong khi token vẫn chạy (trong một run CORAL, 98% 1.500 phiên cuối không gọi tool nào)
Đánh giá hiện tại dùng ngân sách ngắn hoặc benchmark bão hòa sớm (ví dụ bài toán xếp 26 vòng tròn: các phương pháp bằng nhau tới 10^-10 chỉ sau 5M token), khiến các lựa chọn thiết kế có hiệu ứng cộng dồn bị đánh giá sai.

II. Main Idea:

Stateless Language Agents (SLA) dựa trên nguyên tắc "stateful search with stateless agents": không agent nào mang hội thoại qua các lần gọi; thay vào đó harness (khung điều phối) sở hữu toàn bộ research state (các ứng viên + kết quả đo được) và dựng lại context mới, theo vai trò, cho mỗi lần gọi.

Advisor (stateless): mỗi epoch nhận tóm tắt bằng chứng do harness dựng (kết quả theo hướng tìm kiếm, phân biệt rõ "không cải thiện đo được" với "thất bại chưa kết luận được") và giao các thí nghiệm cụ thể cho các Worker song song — tránh trùng lặp và tập trung sức lực vào điểm nghẽn đầy hứa hẹn.
Worker (stateless): mỗi trial chỉ thấy task spec, phần việc được giao, ứng viên cục bộ và phản hồi địa phương — không đọc được lịch sử đầy đủ hay workspace của Worker khác.
Trạng thái bền nằm ngoài hội thoại nên context mỗi agent thành một lựa chọn thiết kế chủ động, và việc checkpoint trở thành công cụ thí nghiệm cho ablation.

Ví dụ đời thường: giống một xưởng may mà quản đốc (harness) giữ hồ sơ đo và phác thảo; mỗi thợ may vào ca mới chỉ nhận phiếu việc, mẫu vải và ghi chú lỗi của chính mình — không ai lật lại cuốn sổ tay dày cộp của người khác, nên không ai may trùng sản phẩm.

III. Main Results:

Kết quả tốt nhất ở mọi tác vụ (software engineering, kernel optimization, algorithm design) với ngân sách tới 1 tỷ token: giảm 8.1–12.8% chu kỳ kernel, +4.95 điểm trung bình trên FrontierSWE.
Tiết kiệm token cực lớn: đạt ngưỡng hiệu năng của baseline mạnh nhất chỉ với 67.9M token so với 986.3M (giảm 93.1%); tới 95.9% trên SOL-ExecBench #58.
Xếp hạng phụ thuộc độ dài đánh giá: trên FrontierSWE, SLA thua ở 25% ngân sách nhưng dẫn đầu cả 4 tác vụ ở 100% ngân sách.
Ablation từ checkpoint chung: bỏ dựng lại context cho Advisor, bỏ cô lập context Worker, hoặc bỏ phân công của Advisor đều làm giảm tiến độ; chi phí của việc bỏ cô lập Worker tăng từ 5–11 chu kỳ (100M token) lên 224 chu kỳ (run đầy đủ 1B token) — hiệu ứng cộng dồn theo thời gian.
Điều phối rẻ: Advisor chỉ tốn 0.24–0.51% token (so với 8.4–10.7% của Shepherd trong SwarmResearch) và ≤2.3% chi phí model.
Mở rộng 1→15 Worker giảm 6.6–7.3× thời gian; Worker model rẻ hơn có thể thắng model mạnh hơn ở chi phí ngang nhau tùy tác vụ.

IV. Conclusion & Future Works:

Paper lập luận rằng research state bền phải nằm ngoài hội thoại agent: stateless hóa agent kết hợp context do harness dựng lại và phân công dựa trên bằng chứng giúp tìm kiếm dài hạn bền vững, hiệu quả token và rẻ ở khâu điều phối. Kết quả cũng cảnh báo đánh giá ngắn hạn có thể phán xét sai cả phương pháp lẫn thành phần, và kêu gọi báo cáo kết quả ở nhiều mức ngân sách token khác nhau. Hướng mở: lựa chọn số Worker và model Worker theo tác vụ/ngân sách, và benchmark có đủ headroom cho chế độ dài hạn.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu chiến lược chọn độ rộng Worker pool và model Worker theo tác vụ để tối ưu đồng thời chất lượng, chi phí token và thời gian wall-clock trong nghiên cứu tự động đa agent.
Phát triển phương pháp tự động dựng tóm tắt bằng chứng (evidence summarization) cho harness, thay vì để harness dùng template cố định, nhằm cải thiện chất lượng phân công thí nghiệm của Advisor.
Xây dựng chuẩn đánh giá AutoResearch đa ngân sách token với các benchmark có headroom dài hạn, đo cả chất lượng lẫn hiệu quả token, để tránh sai lệch do xếp hạng ở ngân sách ngắn.

2. Patent:

Nền tảng nghiên cứu tự động trên điện thoại/đám mây: ứng dụng di động gửi yêu cầu tối ưu (ví dụ tối ưu mã nguồn, thiết kế thuật toán); máy chủ điều phối giữ toàn bộ kết quả thử nghiệm, mỗi phiên làm việc agent khởi động mới chỉ nhận nhiệm vụ cụ thể và dữ liệu cần thiết, giúp chạy hàng tỷ token mà không bị trùng lặp hay tốn token đọc lại lịch sử.
Hệ trợ lý kỹ sư phần mềm trên smartphone: người dùng đặt mục tiêu (sửa lỗi, chuyển ngôn ngữ); một "quản đốc" AI phân tích kết quả test của nhiều phiên làm việc song song và giao việc cụ thể cho từng phiên, mỗi phiên kết thúc là xóa sạch hội thoại, chỉ giữ lại mã tốt nhất và điểm số — tiết kiệm chi phí API đáng kể.
Dịch vụ tối ưu hiệu năng tính toán cho ứng dụng di động/game: hệ thống thuê nhiều agent tối ưu kernel/đồ họa chạy song song, điều phối viên tự tổng hợp bằng chứng đo lường và phân công hướng thử khác nhau, đạt kết quả tốt hơn với ít token gọi model hơn so với cách một agent chạy dài liên tục.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.07625
ArXiv Abstract	https://arxiv.org/abs/2610.07625
PDF Download	https://arxiv.org/pdf/2610.07625.pdf
Github Repository	https://github.com/Alex-q-z/stateless-language-agents

22. Towards Physically Grounded Articulated 3D Assets: A Multi-Agent Pipeline and Benchmark (18 votes)

Tác giả: Xudong Cai, Ruijie Zhu, Haoliang Shang, Ruining Li, Marc Pollefeys, et al.

Xuất bản lúc: 2026-10-09

Tag: 3D Generation, Multi-Agent, LLM Agents, Physics Simulation, Articulated Objects, Robotics

I. Main Problem:

Việc tạo tài sản 3D có khớp nối (articulated) từ văn bản hoặc ảnh tham chiếu hiện chủ yếu mô phỏng cách vật thể trông thế nào, bỏ qua cách nó vận động và vận hành:

Các mô hình học riêng lẻ xử lý từng khía cạnh (hình dạng, khớp nối, vật liệu, khối lượng, độ ổn định) nên không thể đạt đồng thời mọi tính chất vật lý.
Các bộ sinh procedural bằng quy tắc cứng nhắc giới hạn loại vật thể tạo được.
Các phương pháp agentic hiện có (như Articraft) dùng một agent vừa dựng vừa tự kiểm → nảy sinh self-evaluation bias: agent tự thỏa mãn checklist của chính mình mà không đảm bảo chất lượng thật, và không kiểm thử trực tiếp trong mô phỏng vật lý → tài sản sinh ra thường bị va chạm giữa các bộ phận, đổ khi chịu trọng lực.
Thiếu benchmark toàn diện để đánh giá đồng thời độ trung thực hình học, tính hợp lý vật lý và khả năng dùng thực tế.

II. Main Idea:

ARTISAN mở rộng pipeline Articraft thành ba LLM agent độc lập kèm phản hồi từ mô phỏng vật lý:

Design Agent: nhận prompt + ảnh tham chiếu, xuất ra blueprint văn bản (bộ phận, khớp nối, chuyển động kèp cặp, tác vụ tương tác) và design board hình ảnh (các góc nhìn, phối nổ chi tiết, sơ đồ động học).
Coding Agent: dịch blueprint thành chương trình Python dựng vật thể, dùng các connector chuẩn tái sử dụng (bản lề, ray trượt, khớp xoay, ống ren...) thay vì tự thiết kế từ đầu → giảm lỗi xuyên nhau; đồng thời tự tạo nhãn hành động cho tác vụ robot.
Review Agent: đánh giá độc lập tài sản so với blueprint, chấm điểm và liệt kê lỗi có mức độ nghiêm trọng — không tự sửa chương trình.
Physical Validation: chạy thử trong MuJoCo, kiểm tra va chạm khi vận hành khớp (đơn, đôi, đa khớp) và độ ổn định dưới trọng lực (đo độ nghiêng trong 5-10 giây); báo cáo vật lý được trả lại cho Coding Agent sửa lần lặp tiếp theo.

Sự tách bạch giữa dựng và duyệt loại bỏ thiên kiến tự đánh giá; phản hồi mô phỏng vật lý thật thay cho checklist ảo. Kèm đó, paper đóng góp benchmark thống nhất với 4 trục: độ trung thực không gian, tính hợp lý vật lý, hiệu suất tác vụ downstream và chất lượng tổng thể (đánh giá con người).

Ví dụ đời thường: giống quy trình xây nhà có kiến trúc sư vẽ bản thiết kế, thợ xây dựng làm, và giám sát độc lập kiểm tra — thay vì một người tự thiết kế tự nghiệm thu; lại còn cho ngôi nhà thử 'run lắc' trong buồng mô phỏng động đất trước khi bàn giao.

III. Main Results:

Va chạm giảm mạnh: ARTISAN (GPT-6 Astra) chỉ còn 1.7% ở chuyển động đơn khớp và 13.0% ở đa khớp, trong khi các baseline agentic/coding-agent từ ~33% đến ~100%; ổn định dưới trọng lực đạt 98% (tư thế nghỉ) và 96% (tư thế mở) — tốt nhất trong hơn 10 mô hình được đánh giá.
Độ trung thực không gian cạnh tranh: vượt các baseline ở 8/11 chỉ số hình dạng, vật liệu, động học (oCD, pCD, pIoU, LPIPS, CLIP).
Agentic vượt mô hình task-specific: tốt hơn cả Instruct-Particulate, PhysX-Anything, URDF-Anything+ ở đa số chỉ số, dù không phải mô hình chuyên biệt.
Ablation chứng minh vai trò then chốt của physical validation: bỏ bước này, ngoại hình/hình học gần như không đổi nhưng va chạm tăng vọt (3.5% → 37.5% ở đơn khớp) — tài sản không vận hành được trong simulator.
Multi-agent độc lập giúp loại self-evaluation bias: so với Articraft cùng backbone GPT-5.5, cải thiện ~5.4% pCD, 4.9% pIoU, giảm ~11.9% va chạm.
Tác vụ robot: huấn luyện π0.5 bằng dữ liệu từ ARTISAN đạt success rate cao hơn Articraft (RoboTwin 63% vs 60%; RoboCasa 27% vs 5%); trộn với dữ liệu native tăng kết quả (RoboTwin 84% vs 80%). Tỷ lệ tài sản đủ điều kiện dùng cho robot vượt Articraft ~37 điểm phần trăm.
Đánh giá con người: 43.3% phiếu Top-1 và 85.1% Top-3, áp đảo runner-up Codex (21.1% / 68.7%).

IV. Conclusion & Future Works:

ARTISAN cho thấy kết hợp multi-agent harnessing với phản hồi mô phỏng vật lý trong vòng lặp sinh là yếu tố then chốt để tạo tài sản 3D có khớp nối sẵn sàng dùng cho mô phỏng và robot, vượt cả các mô hình feed-forward chuyên biệt. Hướng tương lai mà tác giả đề xuất:

Xem lại vai trò của mô hình feed-forward khi agentic pipeline tổng quát lại hiệu quả hơn.
Phát triển agent harness hiệu quả hơn cho nhiều tác vụ.
Cung cấp phản hồi từ simulator giàu và hành động được hơn (hiện mới dừng ở va chạm + ổn định).
Mở rộng simulator để bắt thêm nhiều hiện tượng vật lý (đàn hồi, chất lỏng, ma sát phức tạp...), hướng tới các 'thế giới 3D vật lý' đầy đủ.

V. Brainstorming Space:

1. Publish Papers:

Kết hợp mô hình feed-forward task-specific làm 'công cụ' trong vòng lặp multi-agent: mạng học sâu đề xuất hình dạng ban đầu, các agent LLM tinh chỉnh cấu trúc khớp và thuộc tính vật lý qua phản hồi simulator, tận dụng điểm mạnh cả hai hướng.
Hệ thống hóa vai trò của Review Agent: nghiên cứu rubric kiểm thử độc lập giàu chiều (vật liệu, độ bền, chuyển động kèm cặp giữa các khớp) và cách truyền phản hồi có cấu trúc để coding agent sửa lỗi hiệu quả hơn.
Tự động tạo dữ liệu huấn luyện robot mở rộng: pipeline sinh tài sản + nhãn hành động (grasp region, joint cần tác động, biên độ thành công) để mở rộng không gian vật thể cho chính sách Vision-Language-Action mà không cần gán nhãn thủ công.
Mở rộng simulator feedback sang các hiện tượng vật lý nâng cao (đàn hồi, chất lỏng, rung động) và benchmark tương ứng cho tài sản 3D sinh bởi agent.

2. Patent:

Ứng dụng thiết kế sản phẩm trên điện thoại: người dùng nhập mô tả hoặc chụp ảnh một vật dụng (tủ lạnh, ghế xoay, máy xay sinh tố); hệ thống agent tự dựng mô hình 3D có khớp nối kèm khối lượng và vật liệu từng bộ phận, rồi mô phỏng thử trên màn hình — người dùng 'kéo mở' cửa tủ ảo để kiểm tra va chạm và độ chắc chắn trước khi quyết định mua hoặc chế tạo.
Hệ thống tạo nội dung luyện tập cho robot hầu gái/gia đình: từ mô tả đồ gia dụng bằng giọng nói, pipeline sinh mô hình 3D vật lý chuẩn xác của đồ vật, tự gán nhãn vị trí cầm nắm và bản lề cần tác động, để robot luyện kỹ năng mở tủ, kéo ngăn kéo trên vật thể ảo trước khi cầm thật.
Công cụ kiểm thử kỹ thuật số cho nhà sản xuất nội thất: nhập bản thiết kế ghế/tủ, hệ thống tự phân tách thành các chi tiết, gán vật liệu và khối lượng ước tính, mô phỏng đổ/lật dưới trọng lực và va chạm khi đóng mở — cảnh báo lỗi thiết kế (trọng tâm cao, ray trượt xuyên thân) ngay trên điện thoại của kỹ sư.
Trợ lý mua sắm có mô phỏng vật lý: quét ảnh sản phẩm trên sàn thương mại điện tử, ứng dụng dựng bản 3D có khớp nối của sản phẩm để người dùng thử xoay, mở, gập trước khi đặt hàng, đồng thời ước lượng khối lượng thực để dự báo phí vận chuyển.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.13947
ArXiv Abstract	https://arxiv.org/abs/2610.13947
PDF Download	https://arxiv.org/pdf/2610.13947.pdf
Github Repository	https://github.com/physicalvision/Artisan

23. When Do We Need On-Policy Distillation? Distilling on Offline Student Rollouts Is Often Better (17 votes)

Tác giả: Siyan Zhao, Yonggan Fu, Jindong Jiang, Shih-Yang Liu, Song Bian, et al.

Xuất bản lúc: 2026-10-08

Tag: Knowledge Distillation, On-Policy Distillation, Large Language Models, Reasoning Models, Reverse KL, Exposure Bias

I. Main Problem:

Distillation hiện đại thường mặc định dùng on-policy sampling: học sinh tự tạo câu trả lời mới liên tục trong khi teacher chấm từng token. Cách này đắt tính toán và có nhiều dấu hiệu lỗi: câu trả lời ngày càng dài, lặp vòng tự sửa, khó kết thúc, phần cuối trajectory lệch khỏi phân phối teacher nên supervision yếu hoặc có hại. Bài báo hỏi: on-policy sampling có thật sự luôn cần thiết cho mọi cặp teacher-student?

II. Main Idea:

Semi-OPD thay vì cứ cập nhật rollout theo student đang thay đổi, chỉ lấy rollout một lần từ initial student trước khi huấn luyện, rồi tái sử dụng bộ dữ liệu cố định đó xuyên suốt. Teacher cũng chỉ chạy một lần để lưu log-probabilities; tại mỗi bước, student vẫn tính lại log-probability và advantage theo tham số hiện tại nên tín hiệu học tiếp tục biến đổi. Cách này đổi chiến lược từ student on-policyness tuyệt đối sang cân bằng: giữ trajectory neo ở student ban đầu, đồng thời bảo toàn coverage đầy đủ các reasoning stage và ở gần teacher hơn. Điểm chọn phương pháp là initial teacher-student top-64 output-token overlap: overlap thấp thì Semi-OPD thường tốt và nhanh hơn; overlap rất cao thì OPD mới đáng giá.

Ví dụ đời thường: giống như học viên chụp một bộ bài tập mình tự làm lúc mới vào lớp, nhờ thầy chấm một lần, rồi ôm bộ bài đó luyện đi luyện lại; mỗi lần luyện vẫn tự chấm lại theo trình độ hiện tại, thay vì cứ viết bài mới liên tục rồi dễ lạc đề.

III. Main Results:

Trên 17 cặp teacher-student từ 1.5B tới 235B tham số, nhiều model family và cả thinking/non-thinking mode, Semi-OPD thắng OPD 14/17, tới +13.6% accuracy và tới 11.4× training speedup; 3 trường hợp còn lại chỉ kém/thua nhẹ khoảng 0.1-2.6%.
Lợi thế của Semi-OPD tương quan mạnh với low initial overlap: Pearson r = -0.73 giữa accuracy gain của Semi-OPD so với OPD và top-64 overlap; overlap thấp OPD có thể sụt/collapse, overlap cao OPD mới hơi hơn hoặc tương đương.
So với OPD variants trên low-overlap pairs, Semi-OPD đạt accuracy cao hơn và hiệu quả hơn hẳn: ví dụ +7.1% và +8.8% accuracy so với Relay-OPD với thời gian huấn luyện giảm tới 35×/19.5×; trên high-overlap Nemotron-Cascade-2 vẫn cạnh tranh, chỉ thua best baseline khoảng 0.7% trong khi giảm 2.2× so với FastOPD và 4.5× so với OPD.
Ablations cho thấy: dùng teacher-generated rollouts thay initial student rollouts làm kết quả xấu đi; truncation prefix làm mất supervision ở reasoning stage sau và giảm final accuracy; rollout quá dài hại low-overlap pair nhưng không hại high-overlap pair; Semi-OPD duy trì nhiều token có teacher probability > student probability hơn OPD.
Thêm: SFT on teacher rollouts tăng overlap nhẹ nhưng không giúp Semi-OPD tốt hơn; gains từ toán chuyển sang HumanEval/HumanEval+; Semi-OPD cần initial student đủ mạnh, base model yếu làm phương pháp thất bại; với low-overlap pairs, chuyển sang OPD sau warm start vẫn hội tụ về mức OPD-from-scratch gần như bất kể initialization.

IV. Conclusion & Future Works:

Kết luận chính: không nên mặc định dùng on-policy distillation. Cần đo initial teacher-student output-token overlap rồi chọn: overlap cao thì OPD hợp lý, overlap thấp thì Semi-OPD là baseline mạnh, nhanh và ổn định hơn. Hiệu quả distillation cần đồng thời on-policyness với student và gần phân phối teacher; OPD tối ưu phần đầu nhưng có thể phá phần sau khi trajectory dài và lệch teacher.

Hướng tương lai:

đặc trưng hóa rollout-determined equilibrium mà OPD hội tụ tới, đặc biệt khi initialization đã được cải thiện bởi Semi-OPD;
thiết kế OPD variants có chọn lọc làm mới rollout chỉ khi phát hiện drift hoặc overlap đủ cao;
kết hợp metric alignment, rollout quality và coverage reasoning stages để quyết định khi nào on-policy sampling thật sự có ích;
kiểm tra các cặp teacher-student ý nghĩa hơn, thay vì chỉ tin rằng OPD luôn tốt hơn offline baselines.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu cơ chế hội tụ của on-policy distillation về một equilibrium xác định bởi phân phối rollout: phân tích khi nào warm start từ Semi-OPD chỉ đổi quỹ đạo hội tụ và khi nào nó thật sự nâng chất lượng cuối cùng.
Phát triển phương pháp lai: giữ cache rollout từ student ban đầu cho phần lớn chu trình, chỉ kích hoạt tái sinh rollout khi overlap teacher-student cao hoặc khi detector báo hiệu trajectory đang lệch supervision.
Xây dựng thước đo tổng hợp cho distillation chọn lọc dữ liệu, kết hợp output-token overlap, độ dài trajectory, tỉ lệ token được teacher ưu tiên, và coverage các reasoning stage để dự đoán hiệu quả trước khi huấn luyện.
Mở rộng đánh giá Semi-OPD ra các cặp teacher-student có alignment thấp hơn ở nhiều mô hình lớn hơn, kiểm tra giới hạn khi initial student quá yếu và xác định ngưỡng chất lượng rollout tối thiểu.

2. Patent:

Trợ lý AI trên điện thoại cá nhân hóa: trước khi huấn luyện, mô hình nhỏ trên máy tự tạo một bộ câu trả lời mẫu; máy chủ chấm một lần bằng mô hình lớn, sau đó điện thoại dùng bộ dữ liệu cố định đó học lại khi đang sạc/idle, giảm lượt gọi cloud, tiết kiệm pin và giữ câu trả lời gần phong cách người dùng ban đầu.
Gia sư toán-lập trình trên điện thoại: app tạo lời giải thử từ mô hình học sinh đang cài trên máy, gửi lên server để teacher chấm một lần, rồi cập nhật mô hình cục bộ/edge theo từng giai đoạn để cải thiện gợi ý lập trình và phản hồi nhanh mà không phải liên tục sinh dữ liệu mới.
Hệ thống chăm sóc khách hàng offline-first cho doanh nghiệp: thiết bị hoặc app thu thập câu trả lời ban đầu của nhân viên ảo, server teacher gán điểm token một lần, sau đó hệ thống huấn luyện lại theo cụm GPU riêng cho rollout, chấm điểm teacher và tối ưu student, rồi đồng bộ bản nâng cấp xuống điện thoại khi có mạng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.11291
ArXiv Abstract	https://arxiv.org/abs/2610.11291
PDF Download	https://arxiv.org/pdf/2610.11291.pdf
Github Repository	N/A

24. MetaKernelBench: Measuring GPU Kernel Knowledge Transfer Beyond Code (16 votes)

Tác giả: Xueyi Chen, Shiyu Liu, Xin Jin, Yuhua Zheng, Xin Li, et al.

Xuất bản lúc: 2026-10-04

Tag: GPU Kernels, LLM Agents, Knowledge Transfer, DSL, CuTe, TIRx, Benchmark, Skill Distillation

I. Main Problem:

Các benchmark kernel hiện nay (KernelBench, TritonBench, v.v.) chỉ chấm điểm chất lượng từng lần thử (đúng/sai, nhanh/chậm), nhưng bỏ qua một khía cạnh ngày càng quan trọng: các agent tối ưu kernel giờ đây lưu lại kinh nghiệm (knowledge base, skill đã distill) để tái sử dụng. Câu hỏi bị bỏ ngỏ:

Kinh nghiệm rút ra từ một lần thử ở DSL này có giúp ích cho lần thử mới cùng bài toán ở DSL khác không?
Skill chuyển giao có thể có hại chứ không chỉ có lợi — và điều gì trong nội dung skill dẫn đến mỗi kết quả? Không có công cụ nào đo được giá trị tái sử dụng của kinh nghiệm (knowledge transfer) một cách có kiểm soát.

II. Main Idea:

MetaKernelBench đo transfer kiến thức kernel giữa hai DSL (CuTe DSL và TIRx) trên cùng một bài toán, với bố cục paired:

Mỗi bài toán có hai biến thể (CuTe và TIRx) chỉ khác nhau về DSL; thuật toán, workload, phần cứng (NVIDIA B200), luật chấm đều giữ nguyên.
Solo attempt: agent tự giải từng biến thể, đồng thời được yêu cầu distill bài học thành skill bằng ngôn ngữ tự nhiên (không code, không API), kể cả khi lần thử thất bại.
Skill-conditioned attempt: chỉ duy nhất skill nguồn được chuyển sang lần thử mới ở DSL kia (không kèm code, không kèm trajectory), cùng ngân sách 40 phút.
Paired lift: so runtime và correctness của lần thử có skill với lần solo trên cùng biến thể → đo trực tiếp skill giúp hay hại.

74 bài toán thuộc 6 nhóm (Attention, KV Cache, Linear Attention, MLP & Norm, MoE, Quantization), rút từ các benchmark và hệ thống production (SOL-ExecBench, FlashInfer, vLLM, flash-linear-attention).

Ví dụ đời thường: giống một người thợ làm mộc thử chế một chiếc kệ bằng đồ nghề A, rồi chỉ ghi lại vài dòng ghi chú kinh nghiệm ("chốt này dễ gãy, nên khoan chéo") đưa cho một người khác cùng làm chiếc kệ đó nhưng bằng đồ nghề B — xem ghi chú đó giúp người kia nhanh hơn hay vướng hơn.

III. Main Results:

Paired lift trên 6 model, cả hai chiều: từ −19% đến +29%; 4 model (Gemini 3.7 Flash, DeepSeek-V4-Pro, GLM-5.3, GPT-5.6 Sol) cải thiện cả hai chiều; GLM-5.3-Flash hồi quy cả hai chiều.
Mọi model, mọi chiều đều có cả help và harm: tỷ lệ bị hại 16%–45%, được giúp 22%–41%.
Kết quả theo vị thế của attempt nguồn so với solo của target, không phải chỉ theo pass/fail: nguồn trội hơn → 71% cải thiện; nguồn kém hơn → 54% hồi quy. Pass nguồn không đảm bảo skill có ích, fail nguồn không loại trừ giá trị tái dùng.
Phân tích nội dung skill: kết luận không có bằng chứng mà loại trừ các phương án khác (unsupported closure) xuất hiện nhiều hơn trong các so sánh bị hại ở 5/6 model; tỷ lệ này dao động theo từng model.
Phân tích thất bại: các model lớn chủ yếu bị skill dẫn lạc (search truncation, unverified adoption chiếm 65–86% nguyên nhân hại), trong khi hai model Flash yếu nhất chủ yếu tự thất bại trong thực thi (faulty execution).
Skill được theo đúng hoặc một phần trong >80% các trường hợp bị hại — tức kênh giúp ích cũng là kênh lan truyền claim sai; các claim chưa kiểm chứng từ skill nguồn lặp lại trong skill của attempt mới nhiều hơn trong các trường hợp bị hại (17–68% so với 5–32%).
DeepSeek-V4-Pro pass 100% nhưng speedup thấp nhất (~1.8–2.4×); Qwen3.8-Flash pass thấp nhất (~63–65%) nhưng GM cao nhất ở TIRx (8.7×) — chất lượng solo không tương ứng trực tiếp với giá trị transfer.

IV. Conclusion & Future Works:

MetaKernelBench bổ sung một chiều đánh giá mới bên cạnh chất lượng implementation: giá trị tái sử dụng kiến thức kernel xuyên DSL trên cùng bài toán. Ba kết luận chính:

Transfer skill tự distill có thể giúp lẫn hại, và cả hai xuất hiện ở mọi model.
Kết quả transfer bám theo vị thế tương đối của attempt nguồn so với solo của target — chất lượng tuyệt đối của implementation nguồn một mình không quyết định giá trị tái dùng, nên cả hai đều phải được đo.
Nội dung skill quan trọng: các kết luận vô căn cứ loại trừ phương án là dấu hiệu điển hình của tác hại, và chúng lan truyền sang thế hệ skill tiếp theo. Hướng mở: lọc/chứng thực skill trước khi chuyển, xây cơ chế chống lan truyền claim chưa kiểm chứng, và mở rộng đánh giá transfer sang bài toán mới, workload mới, phần cứng mới.

V. Brainstorming Space:

1. Publish Papers:

Kỹ thuật chứng thực skill tự động trước khi chuyển giao: dùng verifier để kiểm tra từng claim trong skill (đặc biệt các phát biểu loại trừ phương án) và gắn nhãn độ tin cậy, chỉ chuyển các phần đã được chứng minh bằng thực nghiệm.
Cơ chế chống lan truyền suy diễn sai xuyên các thế hệ skill: theo dõi nguồn gốc của từng claim và tự động vô hiệu hóa các claim vô căn cứ khi phát hiện chúng dẫn đến hồi quy lặp lại.
Mở rộng benchmark sang transfer liên bài toán (kinh nghiệm từ bài A giúp bài B) và liên phần cứng (kinh nghiệm trên GPU này áp dụng cho GPU khác), nơi tính DSL-neutral của skill bị thử thách mạnh hơn.

2. Patent:

Hệ thống ghi chép kinh nghiệm tối ưu hóa tự động cho trợ lý lập trình trên điện thoại: sau mỗi lần agent tối ưu một đoạn code, ứng dụng tự tóm tắt bài học thành ghi chú ngôn ngữ tự nhiên, kiểm chứng bằng chạy thử, rồi đề xuất lại khi người dùng gặp bài toán tương tự ở môi trường/ngôn ngữ khác.
Công cụ kiểm thử kỹ năng chuyển giao của trợ lý AI trong doanh nghiệp: chấm không chỉ độ đúng của từng đầu ra mà cả mức độ ghi nhớ kinh nghiệm giúp ít hay gây hại cho lần làm việc sau, hiển thị cảnh báo khi AI đang 'học theo' một kết luận chưa được kiểm chứng.
Module chống 'học lệch' cho agent mã hóa: khi phát hiện agent lặp lại một khuyến nghị tối ưu hóa không có bằng chứng mà các lần trước đã gây chậm hoặc sai, hệ thống tự động gắn cờ, yêu cầu kiểm chứng lại trước khi áp dụng, tránh lan truyền sai lầm qua nhiều phiên làm việc.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.05014
ArXiv Abstract	https://arxiv.org/abs/2610.05014
PDF Download	https://arxiv.org/pdf/2610.05014.pdf
Github Repository	https://github.com/YIGE24/MetaKernelBench

25. Recurrent Harness for Agentic Continual Learning (16 votes)

Tác giả: Yuxin Xiao, Zhiyun Lu, Jianyu Wang, Yangtian Zhang, Yang Song, et al.

Xuất bản lúc: 2026-10-08

Tag: Continual Learning, LLM Agents, Agent Harness, Memory Systems, Reflection, Online Adaptation, Test-Time Adaptation

I. Main Problem:

Các agent LLM ngày càng vận hành trên chuỗi tương tác dài, phải thích nghi trực tuyến với các distribution shift mà vẫn giữ kinh nghiệm cũ (continual learning). Vấn đề của các agent harness hiện tại:

Chỉ tiến hóa trạng thái theo luồng thông tin một chiều (forward): sau mỗi instance, trích xuất kinh nghiệm / reflection rồi ghi vào harness, nhưng không bao giờ chỉnh sửa lại dựa trên hiệu quả thực tế sau này
Một số phương pháp cần tập validation hoặc replay bổ sung để tối ưu harness — điều bất khả thi trong giao thức online streaming nghiêm ngặt
Hệ quả: reflection bị quá khái quát hóa hoặc lỗi thời (ví dụ học được quy tắc "sắp xếp số lớn trước" rồi áp dụng sai khi đề bài đổi thành sắp xếp tăng dần) cứ tồn tại trong harness và liên tục dẫn hướng sai các quyết định tương lai.

II. Main Idea:

ReHarness — một recurrent harness bổ sung cơ chế backward revision (chỉnh sửa ngược) bên cạnh forward read/write, hoạt động hoàn toàn dưới giao thức streaming nghiêm ngặt, không cần replay hay cập nhật tham số. Ba bước lặp lại qua từng instance:

Forward Read: truy xuất top-k reflection liên quan nhất từ harness để hỗ trợ decision agent
Backward Revision: sau khi thấy kết quả của instance hiện tại (trajectory + reward làm phản hồi), một revision agent xem lại từng reflection đã truy xuất và chỉnh sửa chúng — bổ sung bằng chứng bị bỏ sót, sửa giả thuyết quá khái quát, thu hẹp điều kiện áp dụng. Mọi nội dung mới phải bám vào trajectory gốc của reflection (chống rò rỉ thông tin)
Forward Write: memory agent sinh reflection mới, dùng các reflection đã sửa làm ví dụ mẫu để tránh lặp lại sai lầm

Nhờ vậy, thay vì xóa/chèn memory thụ động, ReHarness truyền phản hồi ngược qua trạng thái văn bản của harness, kịp thời sửa kinh nghiệm sai trước khi nó tiếp tục gây hại.

Ví dụ đời thường: giống như bạn ghi chú kinh nghiệm làm việc trong sổ tay; thay vì chỉ viết thêm ghi chú mới, ReHarness thỉnh thoảng lật lại trang cũ, đối chiếu với hậu quả thực tế hôm nay rồi gạch chữa lại quy tắc đã lỗi thời — "số lớn đặt trước chỉ khi đề yêu cầu sắp xếp giảm dần".

III. Main Results:

Vượt mọi baseline có ý nghĩa thống kê (Wilcoxon, p_adj < 0.05) trên 3 benchmark (CL-Bench, MemoryBench, MemoryArena) × 3 backbone (Claude Opus 4.8, GPT-5.5, Gemini 3.7 Flash); normalized gain trung bình 0.240, cao nhất hoặc ngang hạng ở 8/9 tổ hợp, vượt cả các baseline raw-context mạnh (Top-K Raw 0.168, Full Raw 0.164) và các phương pháp memory/reflection (Mem0, RBank, DoT, ACE) lẫn tối ưu prompt (GEPA-Online)
Revision có nghĩa và bám nguồn: >95% claim trong reflection đã sửa vẫn grounded vào trajectory gốc, tỷ lệ rò rỉ chỉ 0.8–2.1%; thử nghiệm counterfactual replay cho thấy nếu áp dụng harness đã sửa lại ngay instance hiện tại thì gain tăng từ 0.217 lên 0.335 — chứng minh cơ chế ngược thực sự "biết sửa đúng chỗ"
Cân bằng stability và plasticity: ReHarness đạt plasticity cao nhất trên cả 3 backbone và là nhóm hiếm hoi có stability không âm, trong khi hầu hết baseline forward-only có stability âm (harness trở thành gánh nặng sau distribution shift)
Hiệu quả token: chỉ dùng ~1/3 token của Full Raw (41.6M vs 142.1M), chi phí ~254 USD so với ~314 USD, trong khi đạt gain cao hơn
Hạn chế: kém hiệu quả trên exploitable poker (reward nhiễu, không phản ánh chất lượng chiến lược) và vẫn phải lưu raw trajectory gây tốn storage.

IV. Conclusion & Future Works:

ReHarness khép kín vòng lặp recurrent cho continual learning của agent: bổ sung backward revision vào forward read/write để liên tục tinh chỉnh kinh nghiệm tích lũy dưới giao thức streaming nghiêm ngặt, không cập nhật tham số. Phân tích cho thấy revision sửa được reflection quá khái quát (giai đoạn sớm) và lỗi thời (sau distribution shift), cải thiện đồng thời stability lẫn plasticity. Hướng tương lai: xử lý tín hiệu phản hồi nhiễu (môi trường stochastic như poker), giảm overhead lưu trữ raw trajectory, và mở rộng cơ chế revision cho các dạng trạng thái harness khác.

V. Brainstorming Space:

1. Publish Papers:

Phát triển cơ chế revision chịu nhiễu: ước lượng độ tin cậy của reward trước khi dùng làm phản hồi sửa reflection, để recurrent harness hoạt động được trong môi trường stochastic (trò chơi, thị trường).
ReHarness đa agent: các agent trong hệ thống chia sẻ một harness chung, revision agent học cách hợp nhất phản hồi từ nhiều agent dùng chung một reflection.
Nén và lưu trữ trajectory gốc hiệu quả (tóm tắt có kiểm chứng được) để revision vẫn grounded mà không phải giữ nguyên toàn bộ lịch sử tương tác.
Kết hợp backward revision với retrieval học được: hệ thống vừa sửa nội dung reflection vừa tự điều chỉnh reflection nào nên được truy xuất trong tương lai.

2. Patent:

Trợ lý AI cá nhân trên điện thoại tự sửa "bài học kinh nghiệm": sau mỗi cuộc hội thoại hoặc tác vụ, ứng dụng xem lại các quy tắc đã lưu về sở thích người dùng và tự chỉnh sửa những quy tắc gây phản hồi tiêu cực (ví dụ quy tắc "luôn đề xuất món cay" bị sửa thành "chỉ đề xuất món cay khi người dùng nhắc đến").
Hệ thống ghi nhớ khách hàng cho nhân viên bán hàng / chăm sóc khách hàng: mỗi lần tương tác kết thúc, hệ thống đánh giá lại các ghi chú hồ sơ đã truy xuất trong cuộc tương tác đó và tự sửa thông tin lỗi thời (địa chỉ, sở thích, cam kết cũ) dựa trên kết quả thực tế của cuộc trò chuyện.
Trợ lý học tập thích nghi theo giáo trình thay đổi: khi nội dung môn học cập nhật (đổi syllabus, đổi định dạng đề thi), ứng dụng tự chỉnh sửa các chiến lược gợi ý đã lưu thay vì để lời khuyên cũ tiếp tục dẫn hướng sai người học.
Trợ lý lập trình trong IDE tự sửa kinh nghiệm: sau mỗi lần gợi ý bị người dùng từ chối hoặc code lỗi, hệ thống xem lại và chỉnh sửa các "mẹo" đã ghi nhớ từ dự án trước để không lặp lại gợi ý sai trong các dự án sau.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12668
ArXiv Abstract	https://arxiv.org/abs/2610.12668
PDF Download	https://arxiv.org/pdf/2610.12668.pdf
Github Repository	N/A

26. Judging in Latent Space: Efficient Generative Reward Modeling via Semantics-Preserving Compression (16 votes)

Tác giả: Mingqing Yuan, Xiaobo Liang, Junwei Yang, Ziwei Chen, Zeren Zhang, et al.

Xuất bản lúc: 2026-10-08

Tag: Reward Modeling, Latent Reasoning, Model Compression, Inference Efficiency, Rubric-based Evaluation, LLMs

I. Main Problem:

Reward modeling cần cân nhắc đồng thời nhiều tiêu chí như đúng sự thật, tuân thủ yêu cầu, rõ ràng và súc tích, rồi gộp thành một preference cuối cùng. Các generative judge thường nói/thành văn toàn bộ đánh giá trước khi kết luận, khiến chuỗi suy luận dài và tốn kém khi decode tự hồi quy. Vấn đề cốt lõi: liệu judge có thể giữ thông tin đánh giá đa tiêu chí nhưng thực hiện phần tính toán trung gian ngắn gọn hơn nhiều trong không gian liên tục không?

II. Main Idea:

LatentGRM thay phần đánh giá bằng văn bản dài bằng các bước latent liên tục ngắn, dùng rubric để biết nén ở đâu và giữ ngữ nghĩa ra sao. Quy trình gồm ba phần:

Semantic Chunking: chia evaluation trace theo các khối tiêu chí của rubric, cấp ngân sách nén cố định cho từng khối rồi tinh chỉnh ranh giới theo câu, mệnh đề và quan hệ phụ thuộc.
Semantic Compression: mã hóa tiêu đề đánh giá thành trạng thái ẩn, chiếu lên từ vựng của decoder, giữ top-K xác suất rồi trộn embedding thành latent token có thể chèn trực tiếp vào decoder; decoder học khôi phục phần còn lại và preference.
Autonomous Latent Evaluation: judge tự sinh chuỗi latent bằng cách lấy top-K từ phân phối tiếp theo, thêm nhiễu Gumbel để tạo đa dạng cho voting, dừng khi gặp think end rồi xuất preference.
Một Latent Trace Interpreter riêng chạy ngoài đường dẫn chấm điểm trực tuyến để tái dựng văn bản đánh giá từ trace đã lưu, cho phép kiểm tra thông tin còn sót lại sau nén.

Ví dụ đời thường: giống người chấm thi ghi nhanh các ý chấm thành dấu mật mã rất ngắn để chốt điểm ngay, còn bản giải mã đầy đủ chỉ viết lại sau khi đã chấm xong.

III. Main Results:

Dùng cùng dữ liệu OpenRubrics và backbone Qwen3-4B/8B, LatentGRM đạt accuracy cạnh tranh so với explicit rubric judge: tại vote@5, Avg.-8 là 67.8 và 69.0 so với 67.0 và 68.1; lợi thế lớn nhất ở Focus khoảng +6.0 đến +6.4 điểm.
So với fixed-rate chunking cùng tỉ lệ nén, semantic chunking cải thiện vote@5 trên Chat Hard +2.2, Precise IF +3.9, Focus +1.7, trung bình bốn domain +1.8 điểm.
Thử nghiệm can thiệp rubric trên 398 cặp cho thấy sửa một tiêu chí làm preference lệch về phản hồi được chỉ định, đạt +4.58 log-odds ở cuối trace; khi chỉ thay nguồn latent mà giữ prompt cố định, hiệu ứng còn +2.75, nghĩa là thông tin tiêu-chí-phụ-thuộc được mang qua chuỗi latent.
Hiệu quả inference tại vote@5: nén số bước sinh 8.87–9.23×, giảm tổng thời gian judge trên vLLM 6.11–6.95×; với Transformers/PyTorch thường tốc độ 8.17–8.82×. Điều khiển cùng độ dài cho thấy chi phí mỗi bước gần như không đổi, 1.017×.
Khôi phục đánh giá: interpreter đạt State Macro-F1 98.93 và Vector Exact 93.98, vượt xa chỉ dùng prompt 40.20/18.61 hay dùng hidden replay 69.42/33.03; Rubric Semantic 74.65, ROUGE-L 79.24.
Ứng dụng chỉnh sửa câu trả lời bằng model frozen: phản hồi được khôi phục từ latent cho Repair 80.49%, Regression 1.86%, Full 57.50%, criterion satisfaction 90.12%, tốt hơn hoặc ngang phản hồi rubric văn bản tường minh.

IV. Conclusion & Future Works:

Kết luận: đánh giá reward có thể chạy hoàn toàn trong latent space với chất lượng gần hoặc tốt hơn explicit judge trên nhiều domain, đồng thời giảm mạnh chi phí decode. Điểm mới quan trọng là rubric không chỉ định hướng chấm điểm mà còn làm neo ngữ nghĩa cho nén, làm cơ sở can thiệp và làm đơn vị đo khôi phục. Hướng mở rộng hợp lý gồm: ngân sách nén thích ứng theo độ khó và số tiêu chí, voting/early-exit tối ưu cho latent trajectory, mở rộng sang listwise hoặc scalar reward cho RLHF, và interpreter mạnh hơn để audit an toàn, đa ngôn ngữ và triển khai trên thiết bị.

V. Brainstorming Space:

1. Publish Papers:

Adaptive semantic compression cho latent reward modeling: tự chọn số latent token theo độ dài rubric, độ nhạy tiêu chí và ngưỡng dừng sớm, thay vì ép cùng một tỉ lệ nén cho mọi cặp phản hồi.
Control and audit of latent judges: dùng can thiệp rubric, thay thế nguồn latent và counterfactual probes để kiểm chứng preference nào đang được mã hóa ở từng đoạn trajectory.
From pairwise latent judgment to scalable feedback: mở rộng LatentGRM sang ranking nhiều phản hồi, chấm điểm liên tục và vòng lặp tối ưu chính sách với chi phí inference thấp.
On-device reward models for mobile assistants: nén tiêu chí chấm điểm trên điện thoại, giảm pin và độ trễ, đồng thời tái tạo giải thích ngắn để người dùng tin tưởng quyết định.

2. Patent:

Trợ lý điện thoại chọn câu trả lời tốt nhất theo nhiều tiêu chí: thay vì viết lại toàn bộ nhận xét trước khi chọn, ứng dụng lưu các trạng thái đánh giá rất ngắn, chốt đáp án nhanh rồi tạo giải thích sau cho người dùng.
Ứng dụng học tập trên điện thoại chấm bài tiết kiệm pin: chương trình nén quá trình kiểm tra đúng/yêu cầu/lập luận thành dấu vết nội bộ, trả điểm ngay và khôi phục nhận xét theo từng tiêu chí khi học sinh mở lại.
Hệ duyệt nội dung di động kiểm tra nhiều quy tắc cùng lúc: an toàn, độ tin cậy, ngôn ngữ và mức độ hữu ích được cân bằng trong không gian nén, sau đó hệ thống xuất bản báo cáo kiểm định cho từng tiêu chí khi cần audit.
Tổng đài tự động đánh giá phản hồi khách hàng trước khi gửi: điện thoại hoặc máy chủ nhỏ dùng trạng thái đánh giá gọn để chọn phản hồi lịch sự, đúng chính sách và đủ thông tin, rồi sinh văn bản lý do đã chọn cho nhân viên.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.09788
ArXiv Abstract	https://arxiv.org/abs/2610.09788
PDF Download	https://arxiv.org/pdf/2610.09788.pdf
Github Repository	https://github.com/EADMO/LatentGRM

27. DataVista: Diagnosing Multimodal LLMs on Data Video Understanding (13 votes)

Tác giả: Yupeng Xie, Zhenyang Wang, Jiayi Zhu, Yinghao Tang, Zhouan Shen, et al.

Xuất bản lúc: 2026-10-08

Tag: Benchmark, Multimodal LLMs, Video Understanding, Data Visualization, Chart Understanding, Evaluation

I. Main Problem:

Các benchmark hiện có chỉ đánh giá video tổng quát (Video-MME, MVBench) hoặc biểu đồ tĩnh (ChartQA), bỏ trống khoảng trống với data video — dạng truyền thông kết hợp biểu đồ động với kể chuyện bằng video, phổ biến trong báo chí dữ liệu (Bloomberg, NYT). Hiểu data video đòi hỏi ba năng lực chưa được đánh giá hệ thống:

đọc dữ liệu chính xác từ biểu đồ chuyển động trong video liên tục (không phải ảnh biểu đồ đã cô lập sẵn)
tích hợp bằng chứng xuyên thời gian và xuyên nhiều biểu đồ
hiểu cấu trúc tự sự và ý đồ thiết kế hình ảnh của người tạo video.

II. Main Idea:

Tác giả xây dựng DATAVISTA, benchmark đầu tiên cho data video understanding, gồm 961 video thật từ YouTube (kinh tế, xã hội, khoa học, chính trị, văn hóa) và 6.775 câu hỏi trắc nghiệm, được tổ chức thành khung năng lực 3 tầng theo Bloom's taxonomy với 10 dạng câu hỏi:

L1 Data Perception: đọc giá trị, nhận diện yếu tố biểu đồ (2 dạng câu hỏi)
L2 Temporal Reasoning: thay đổi xuyên thời gian, so sánh xuyên biểu đồ, suy luận nhân quả, tổng hợp lập luận (4 dạng)
L3 Narrative Understanding: cấu trúc tự sự, ý đồ truyền đạt trực quan, phân tích phản thực, đánh giá chất lượng (4 dạng)

Quy trình xây dựng dùng human-AI collaborative annotation: Gemini-3-Flash trích xuất trước đoạn biểu đồ, điểm dữ liệu, chương tự sự; chuyên gia kiểm chứng từng đoạn và tự viết câu hỏi; lọc câu hỏi trả lời được bằng chữ mà không cần video; hai người review độc lập (chỉ 80% qua được).

Ví dụ đời thường: giống thi lấy bằng lái xe theo 3 cấp — cấp 1 nhìn biển báo đọc đúng số liệu, cấp 2 quan sát diễn biến giao thông để suy đoán tình huống, cấp 3 hiểu cả video camera hành trình dài để phân tích ai sai ai đúng trong vụ việc.

III. Main Results:

19 MLLM được đánh giá: mô hình tốt nhất Gemini-3.1-Pro đạt 70.0%, vẫn thua con người 91.7% (L1: 97.1%, L2: 89.0%, L3: 86.8%); mô hình mã nguồn mở mạnh nhất Qwen3-VL-32B chỉ 57.3%.
Điểm yếu nhất: Causal Reasoning (mô hình tốt nhất chỉ 44.2%) và Narrative Structure (các mô hình dồn về 47-51%).
Thêm frame (8→32 frame) chủ yếu cải thiện L1 (+11.6 điểm), rất ít lợi cho L3 (+2.1); thêm phụ đề lợi nhất cho L2 (+6.5 điểm), thu hẹp khoảng cách giữa video ngắn và dài.
Phân tích lỗi (120 câu sai của Gemini-3.1-Pro): 47.5% lỗi cảm nhận (đọc sai giá trị/chữ trên biểu đồ), 42.5% lỗi suy luận (chủ yếu phán đoán bằng chứng — đọc đúng dữ liệu nhưng không biết nó có hỗ trợ lập luận không), 10% lỗi tuân thủ hướng dẫn đề bài.
Khi cho video gốc kèm âm thanh, Gemini-3.1-Pro đạt 73.5% — vẫn xa con người.

IV. Conclusion & Future Works:

DATAVISTA cho thấy khoảng cách lớn giữa MLLM và con người trong hiểu data video, đặc biệt ở nhận diện bằng chứng cho tuyên bố nhân quả và hiểu cấu trúc tự sự — hai năng lực mà chỉ thêm frame hay phụ đề không cứu được. Benchmark này là nền tảng để hệ thống hóa việc đánh giá và cải thiện khả năng đọc, tích hợp, diễn giải biểu đồ trong video cho các mô hình đa phương thức tương lai.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng DATAVISTA với các dạng câu hỏi tự do (không trắc nghiệm) để đánh giá khả năng tạo lập luận có cấu trúc từ bằng chứng trong video dữ liệu.
Nghiên cứu mô hình chuyên biệt cho suy luận nhân quả trên biểu đồ động, kết hợp grounding bằng chứng theo timestamp để cải thiện Causal Reasoning và Argument Synthesis.
Đánh giá tác động của âm thanh lồng tiếng (không chỉ phụ đề) lên từng tầng năng lực, đặc biệt L3 Narrative Understanding vốn gần như không hưởng lợi từ frame và phụ đề.

2. Patent:

Ứng dụng điện thoại hỗ trợ xem tin tức kinh tế dạng video đồ họa: người dùng chụp/dán link video, ứng dụng tự đặt câu hỏi kiểm tra người xem có đọc đúng số liệu trên biểu đồ và hiểu đúng lập luận của video hay không, rồi giải thích lại bằng ngôn ngữ đơn giản.
Công cụ kiểm chứng tự động cho video báo cáo doanh nghiệp: hệ thống phân tích video trình bày biểu đồ doanh số, tự phát hiện các khẳng định trong lời thoại không khớp với dữ liệu hiển thị trên màn hình và cảnh báo người xem.
Trợ lý học tập trên điện thoại cho môn khoa học dữ liệu: học sinh xem video giảng biểu đồ động, ứng dụng hỏi theo ba mức từ đọc số liệu, suy luận xu hướng, đến phân tích cách người làm video sắp xếp lập luận, kèm giải thích vì sao đáp án đúng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.11993
ArXiv Abstract	https://arxiv.org/abs/2610.11993
PDF Download	https://arxiv.org/pdf/2610.11993.pdf
Github Repository	https://github.com/HKUSTDial/DataVista

28. Surfing the Activation Wave: Analyzing the Information and Geometry of LLM Hidden States for Speculative Decoding (13 votes)

Tác giả: Raghavv Goel, Sudhanshu Agrawal, Mukul Gagrani, Risheek Garrepalli, Mingu Lee

Xuất bản lúc: 2026-10-09

Tag: Speculative Decoding, LLMs, Hidden States, Matrix Entropy, CKA, EAGLE, Inference Acceleration

I. Main Problem:

Trong speculative decoding kiểu EAGLE3, mô hình draft được điều kiện hóa bằng hidden states từ một số layer của mô hình target, nhưng việc chọn layer hiện dựa trên heuristic cố định theo vị trí (ví dụ [N-1] hay [2, N//2, N-3]) thay vì một tiêu chí rõ ràng. Hậu quả:

Bài toán chọn tập layer là tổ hợp bùng nổ — với model 36 layer, chọn 3 layer đã có hàng nghìn phương án, không thể duyệt hết.
Không ai biết tập layer nào thông tin bổ sung cho nhau và tập nào dư thừa về mặt biểu diễn.
Các heuristic mặc định đôi khi chạy tốt nhưng không giải thích được tại sao, thiếu tính nguyên tắc.

II. Main Idea:

Khung phân tích và chọn layer dựa trên hai tiêu chí bổ sung: tính thông tin (đo bằng matrix entropy — entropy Shannon tính trên phổ suy biến của ma trận hidden states nối ghép) và tính đa dạng (đo bằng CKA — Centered Kernel Alignment để phát hiện ranh giới chuyển tiếp giữa các "khoang" biểu diễn theo chiều sâu). Pipeline gồm 3 giai đoạn:

Token-entropy filtering: loại bỏ hidden states của các token có entropy dự đoán thấp (giữ top 30%), giúp thống kê chọn layer ổn định hơn giữa các prompt (giảm phương sai entropy xuyên prompt tới ~48%).
ELSI: beam search khởi tạo từ các layer đơn lẻ có entropy cao, mở rộng dần tập layer bằng cách tối đa hóa entropy của hidden states nối ghép.
ELSI-C: mở rộng ELSI bằng cách chỉ ứng viên hóa các layer nằm ở ranh giới CKA transition (nơi biểu diễn thay đổi mạnh), đảm bảo tập được chọn vừa giàu thông tin vừa ít trùng lặp.

Phân tích cho thấy entropy theo layer có dạng "sóng kích hoạt" không đều (cao ở đầu, trũng giữa, cao lại cuối), và các cặp layer cho lợi ích entropy rất khác nhau — chứng minh phải tối ưu tập layer cùng lúc, không thể chọn rời rạc.

Ví dụ đời thường: giống như tuyển một nhóm nhân sự — thay vì chọn người theo số thứ tự bàn ngồi (heuristic vị trí), ta đo mỗi người mang bao nhiêu "thông tin" riêng (entropy) và kiểm tra xem hai người có đang nắm giữ kiến thức trùng nhau không (CKA), rồi dùng beam search để tìm nhóm nhỏ nhưng bao phủ được nhiều kỹ năng nhất.

III. Main Results:

Trên Qwen3-4B-Instruct: ELSI (m=3) vượt EAGLE3 từ 1.6–2.2% (+0.085 token được chấp nhận trung bình) và vượt EAGLE2 tới 6.1–7.3% trên SpecBench.
Đáng chú ý, ELSI với chỉ 1 layer đã ngang hoặc hơn EAGLE3 dùng 3 layer — cho thấy chọn đúng quan trọng hơn chọn nhiều.
Lợi ích lớn nhất ở các mục EAGLE3 yếu: Translation (+2.6–5.6%), Summarization (+2.1–4.2%), STEM (+2.4–3.9%); kết quả ổn định qua mọi nhiệt độ sampling và kích thước draft tree.
Control thấp entropy (chọn tập layer entropy thấp nhất) luôn cho kết quả tệ nhất → xác nhận entropy thật sự là tín hiệu chọn layer tốt.
Trên Llama-3.1-8B-Instruct: ELSI (m=1) vượt EAGLE2 2.8–4.9% và đạt ~99% hiệu suất của EAGLE3 chỉ với 1 layer; tăng số layer không còn lợi vì các layer của Llama trùng lặp thông tin cao (vùng CKA cao rộng) — heuristic đều đặn đã đủ tốt. Điều này giải thích tại sao baseline vị trí vẫn cạnh tranh được ở một số model.
Token filtering giảm phương sai entropy xuyên prompt 48.4% (layer sớm), 45.8% (giữa), 35.6% (cuối) mà vẫn giữ nguyên hình dạng "sóng kích hoạt".

IV. Conclusion & Future Works:

Paper đưa ra khung nguyên tắc và giải thích được cho việc chọn tập layer đa lớp trong speculative decoding, thay cho heuristic cố định. Hai thông điệp chính: (i) chọn layer đúng quan trọng hơn số lượng layer, (ii) mức độ lợi ích của việc chọn layer phụ thuộc vào mức độ dư thừa biểu diễn của từng model — model càng đa dạng thì chọn càng có giá trị, model càng trùng lặp thì càng có thể chọn tập nhỏ. Hướng tương lai: thử nghiệm trên nhiều target model và chiến lược điều kiện hóa draft hơn nữa; đánh giá trên thiết bị edge (nơi dùng ít layer sẽ giảm chi phí down-projection, tăng throughput thật); mở rộng phương pháp chọn tập layer sang các bài toán khác như embedding và interpretability.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng phân tích entropy/CKA theo chiều sâu sang các kiến trúc mới (Mixture-of-Experts, hybrid attention) để kiểm chứng tính phổ quát của 'sóng kích hoạt' và các khoang biểu diễn.
Kết hợp ELSI với thiết kế draft model nhẹ cho điện thoại: tự động chọn số lượng và vị trí layer tối ưu dưới ràng buộc độ trễ/năng lượng, đo throughput thực tế trên thiết bị edge thay vì GPU.
Áp dụng tập layer được chọn bằng entropy tối đa làm đầu vào cho các tác vụ embedding và giải thích mô hình, kiểm tra xem các tập 'giàu thông tin' có tương quan với các tính năng ngôn ngữ học được hay không.

2. Patent:

Hệ thống tự tối ưu hóa trên điện thoại cho LLM chạy nội bộ: ứng dụng phân tích entropy và độ tương đồng giữa các lớp của model ngôn ngữ trong quá trình hiệu chuẩn một lần, tự chọn ra vài lớp giàu thông tin nhất để mô hình dự đoán phụ (draft) dùng, giúp gõ văn bản nhanh hơn mà không cần máy chủ.
Module chọn lớp mô hình thích ứng theo thiết bị: trước khi phát hành một model ngôn ngữ, hệ thống tự động lọc bỏ các token ít ý nghĩa, đo mức độ thông tin và sự khác biệt giữa từng cặp lớp, rồi đề xuất cấu hình lớp tối ưu riêng cho từng loại chip (điện thoại, xe hơi, loa thông minh) nhằm tối đa tốc độ sinh văn bản.
Công cụ chẩn đoán độ dư thừa của model AI trên nền tảng đám mây: doanh nghiệp tải model lên, hệ thống vẽ 'bản đồ nhiệt' cho thấy lớp nào mang thông tin mới và lớp nào trùng lặp, từ đó đề xuất cắt giảm hoặc tái sắp xếp lớp để giảm chi phí vận hành.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12939
ArXiv Abstract	https://arxiv.org/abs/2610.12939
PDF Download	https://arxiv.org/pdf/2610.12939.pdf
Github Repository	N/A

29. GraphDecisionBench: Benchmarking System One Models on Graph Tasks (13 votes)

Tác giả: Xianliang Yang, Yapu Zhang, Li Zhao

Xuất bản lúc: 2026-10-09

Tag: Graph Learning, LLMs, Benchmark, System One Models, Decision-Making, Graph Optimization, Evaluation

I. Main Problem:

Các mô hình System One (kiểu Jev — chọn trực tiếp từ danh sách phương án, không suy luận dài) ngày càng được dùng cho bài toán đồ thị, nhưng năng lực thật của chúng trên đồ thị gần như chưa được đo đạc. Điểm chính:

Điểm tổng hợp (accuracy trung bình, giá trị mục tiêu cuối) che giấu ba câu hỏi riêng biệt: (1) thành công có lan sang các phép toán cấu trúc khác không, (2) thêm một thành phần đầu vào (cạnh đồ thị) có thật sự thêm giá trị so với bằng chứng văn bản đi kèm không, (3) lời giải khả thi có phản ánh năng lực chọn của mô hình hay chỉ là nhờ các phương án heuristic được đưa sẵn quá tốt.
Benchmark đồ thị hiện có (OGB, CLRS, NLGraph, GraphArena, STaRK) đo từng khía cạnh riêng lẻ, không tách bạch được ba phân biệt trên trong một giao diện chọn lựa thống nhất.

II. Main Idea:

GraphDecisionBench — benchmark chẩn đoán độc lập với mô hình, tách biệt đặc tả tác vụ khỏi mô hình thực thi (adapter ánh xạ đầu vào/phương án sang giao diện của từng mô hình). Ba nhóm tác vụ bổ sung nhau:

RQ1 — Graph Cognition: 6 tác vụ cấu trúc (adjacency, degree, chu trình, kết nối cặp đỉnh, ngưỡng khoảng cách, điểm khớp) trên đồ thị 8–12 đỉnh, đáp án chuẩn tính bằng thuật toán.
RQ2 — Graph-Text Decision-Making: phân loại nút trên ogbn-arxiv và chọn thực thể trên STaRK-Prime dưới 5 điều kiện đầu vào ghép cặp (matched): T (text), G (quan hệ), TG (kết hợp), BAG (bỏ cạnh khỏi TG), A/A* (đối chứng trần) — đo hiệu ứng của việc thêm cạnh khi giữ cố định phần còn lại qua các độ lệch Δ_edge = S(TG)−S(BAG), Δ_relation = S(G)−S(C0).
RQ3 — Sequential Decision-Making: 4 bài toán tối ưu (TSP, Signed MaxCut, Influence Maximization LT, Modularity nhị phân), mỗi bài 2 chế độ — direct construction (chọn trong mọi hành động hợp lệ) và heuristic-proposal selection (chọn trong 4 đề xuất của luật cố định) — kèm đối chứng random và luật mạnh nhất để tách năng lực chọn khỏi chất lượng phương án được đưa sẵn. Đo coverage (tỉ lệ hoàn thành) và gap so với giá trị chuẩn (optimum đã chứng minh/MILP-certified).

Đánh giá 14 cấu hình model-interface: Jev, Decider-2B, Kev-4B, Laya (native choice), Qwen3.5/3.8/2.5 nhiều cỡ (generation no-thinking + candidate scoring), GPT-5.4 (reasoning_effort=none), GPT-6-Astra (reasoning, làm chuẩn tham chiếu).

Ví dụ đời thường: giống thi trắc nghiệm có kiểm soát cho ứng viên — cùng một câu hỏi nhưng người chấm cố tình thêm/bớt từng manh mối gợi ý để xem manh mối nào thật sự giúp, rồi cho thêm vòng thi chọn trong các đáp án được gợi ý sẵn để kiểm tra ứng viên chọn giỏi hơn chọn ngẫu nhiên bao nhiêu — và quan trọng là liệu anh ta có chọn tốt hơn cả một quy tắc chấm cứng đã biết trước.

III. Main Results:

RQ1 — Nhận diện cục bộ không đồng nghĩa hiểu cấu trúc: Jev đạt 100% adjacency nhưng chỉ 67.8% degree và 61.25% articulation; Decider/Kev ~10% degree. Kev hơn Jev đúng 1 nhiệm vụ (articulation 62.5% vs 61.25%) — không có áp đảo toàn diện. GPT-6-Astra đạt 100% cả 6 tác vụ.
RQ2 — Kết hợp đồ thị + text không đảm bảo cải thiện: Jev trên ogbn-arxiv có lợi từ quan hệ khi chỉ có anchor (G−A = +10 điểm %, khoảng tin cậy [+3,+18]) nhưng thêm cạnh khi đã có text gần như vô dụng (TG−BAG = +1 điểm, [−4,+7]). Trên STaRK-Prime, Hit@1 của Jev ở T/G/TG xấp xỉ nhau (48/47/49%), mọi khoảng tin cậy đều chứa 0. Kev thậm chí sụt từ 61% (G) xuống 27% (TG) — mất mát khi thêm text, không phải lợi ích khi thêm cạnh.
RQ3 — Hoàn thành được ≠ chất lượng cao: Jev hoàn thành đủ 10/10 instance TSP/MaxCut/Modularity nhưng gap trực tiếp rất tệ (TSP 59.66%, MaxCut mục tiêu trung bình ≈ 0, modularity Q ≈ 0, LT 52.84%). Chọn từ pool heuristic cải thiện rõ (TSP 25.87%, LT 0.50%) và vượt random-proposal, nhưng không vượt luật cố định mạnh nhất: MaxCut 9.05% vs greedy completion 8.87%; modularity 0.0555 vs 0.0361; TSP 25.87% ≈ nearest rule 25.86% và thua return reserve 15.58%. Trong 1.120 đơn vị đánh giá: 951 hoàn thành khả thi, 165 unsupported, 4 lỗi.
Mô hình lớn không suy luận (GPT-5.4) vẫn yếu optimization; Astra (có reasoning) mới đạt gap rất nhỏ — nhưng benchmark không kết luận nguyên nhân là reasoning.

IV. Conclusion & Future Works:

Ba phân biệt cốt lõi của benchmark được kiểm chứng: (1) adjacency chính xác không bảo đảm đúng về cấu trúc rộng hơn, (2) đầu vào kết hợp graph-text không cải thiện ổn định — lợi ích phải được chứng minh theo từng cấu hình mô hình và tác vụ, (3) giải pháp khả thi không chứng minh chất lượng lựa chọn — vượt random-proposal chưa đủ, phải so với luật cố định mạnh nhất. Hợp đồng tác vụ, giao diện và chấm điểm độc lập với Jev nên tái sử dụng được cho mọi decision model. Hướng mở rộng hợp lý: đồ thị có hướng/có trọng số/động, thêm cấu hình reasoning-enabled vào nghiên cứu System One, và áp dụng phương pháp matched-input + proposal-pool cho các miền quyết định tuần tự ngoài đồ thị.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng GraphDecisionBench sang đồ thị có hướng, có trọng số và đồ thị động để kiểm tra tính bền của các phân biệt chẩn đoán (cấu trúc, lợi ích đầu vào, chất lượng chọn lựa) ngoài đồ thị vô hướng đơn giản.
Nghiên cứu System One có reasoning tích hợp: đo chính xác đóng góp nhân quả của suy luận vào gap tối ưu bằng cách so cặp cùng mô hình ở các mức reasoning_effort khác nhau trong cùng giao diện chọn lựa.
Áp dụng khung matched input contrasts + heuristic-proposal controls cho tác vụ quyết định tuần tự ngoài đồ thị (lập lịch, điều phối, khuyến nghị) để kiểm tra khi nào thông tin bổ sung thật sự giúp mô hình chọn.

2. Patent:

Công cụ kiểm thử chất lượng AI tích hợp trong ứng dụng lập lộ trình trên điện thoại: hệ thống đưa cùng một bài toán tuyến đường cho mô hình AI ở các mức thông tin khác nhau (chỉ text địa chỉ, chỉ bản đồ, cả hai) và so kết quả với luật cố định (gần nhất-trước, tiết kiệm nhiên liệu) để cảnh báo người dùng khi AI chỉ 'đi theo' gợi ý sẵn mà không thật sự chọn tốt.
Module chẩn đoán mạng cho ứng dụng quản trị hạ tầng: đặt câu hỏi kiểm tra (hai nút có nối không, điểm nghẽn nào mất là đứt mạng) cho mô hình AI với graph-text contrasts có kiểm soát, giúp doanh nghiệp biết mô hình hiểu topology hay chỉ đọc được danh sách kết nối liệt kê sẵn.
Trợ lý tối ưu chuỗi quyết định có giám sát heuristic: trong sản xuất/lập lịch, hệ thống chấm điểm mỗi lượt chọn của AI theo độ lệch so với heuristic mạnh nhất và điểm chuẩn tối ưu, tự động chuyển sang luật cố định khi AI không chứng minh được lợi thế lựa chọn — báo cáo trực tiếp lên dashboard điện thoại của quản lý.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.06354
ArXiv Abstract	https://arxiv.org/abs/2610.06354
PDF Download	https://arxiv.org/pdf/2610.06354.pdf
Github Repository	https://github.com/VictorYXL/GraphDecisionBench

30. From Given to Gathered Evidence: Agentic Learning for Longitudinal Medical Reasoning (12 votes)

Tác giả: Minye Shao, Chaohui Yu, Yixuan Wu, Fan Wang, Ling Shao, et al.

Xuất bản lúc: 2026-09-30

Tag: Medical AI, Vision-Language Models, Agentic RL, Tool Use, Multimodal Benchmark, Reinforcement Learning, Self-Distillation, Longitudinal Reasoning

I. Main Problem:

Các benchmark y khoa truyền thống đưa sẵn bằng chứng cho mô hình (text, ảnh đã chọn trước) rồi hỏi câu trả lời — trong khi lâm sàng thực tế, bằng chứng phân tán rải rác trong hồ sơ bệnh án, MRI nhiều lần khám, đo lường, báo cáo và bác sĩ phải tự quyết định xem cái gì trước khi kết luận. Hệ quả:

đánh giá sai bản chất năng lực lâm sàng — mô hình không được thử khả năng tự đi tìm bằng chứng
chưa rõ mô hình nhỏ có thể học quy trình điều tra từ các mô hình frontier và vượt qua kỹ thuật bắt chước (imitation) thuần túy hay không.

II. Main Idea:

CASE (Clinical Agents for Seeking Evidence) — tái định nghĩa suy luận y khoa dọc thời gian thành bài toán tương tác đi tìm bằng chứng, với benchmark mới trên UK Biobank (50.401 câu hỏi, 4.739 bệnh nhân, MRI baseline + follow-up của 5 vùng cơ quan) và một chính sách vision–language nhỏ (Qwen3-VL-8B) đóng 3 vai (Radiologist, Anatomist, Consultant) chạy chung một vòng lặp tool-use. Quy trình học 2 giai đoạn:

RSFT: chắt lọc ~14.734 quỹ đạo tương tác do mô hình frontier ghi lại, distill để khởi tạo cách hành xử như agent
Agentic RL: chính sách tự khám phá môi trường bệnh nhân, kết hợp 3 tín hiệu:
- OPSD (privileged on-policy self-distillation): so sánh phân phối next-token giữa góc nhìn thường và góc nhìn được "mách đáp án" của chính policy — phạt độ lệch KL ở pha tổng hợp, chặn hiện tượng lặp lại lời giải thích mà không chốt kết luận
- Rubric-based RLAIF: judge Kimi K2.6 chấm điểm insight (tính cụ thể của bằng chứng, logic, hỗ trợ đáp án, độ đầy đủ), cộng thưởng liên kết chỉ khi insight tốt và đáp án đúng
- phần thưởng đúng/sai + định dạng, tối ưu bằng GRPO trên quỹ đạo tự sinh

Ví dụ đời thường: giống thực tập sinh bác sĩ — đầu tiên đi theo quan sát bác sĩ giỏi khám bệnh (RSFT), sau đó tự khám bệnh nhân thật và được giáo sư chấm riêng phần lập luận kết luận (rubric feedback), đồng thời tự đối chiếu "nếu mình biết trước kết quả xét nghiệm thì lập luận mình có khác không" để khỏi vòng vo lặp lại mà chốt chẩn đoán dứt khoát (OPSD).

III. Main Results:

CASE-8B đạt 76.1% Micro / 75.1% Macro, vượt GPT-5.4-0305 (+16% tương đối) và Claude Opus 4.8 (+10% tương đối) dù nhỏ hơn hàng chục lần, và vượt cả teacher Qwen3.8-Max (59.7%) — chứng minh vượt qua được imitation.
Ablation từng thành phần (từ RSFT 65.7% lên đầy đủ 76.1%): RLAIF +4.9, OPSD +8.1; thiếu OPSD thì RL chỉ có RLAIF bị sụp reward ở 1/3 cuối epoch do lặp văn phong lập luận.
Chất lượng insight (chấm bởi judge cố định) tăng đều suốt training và ổn định qua 3 judge khác nhau.
Ablate kênh bằng chứng: cấm thu thập hoặc bỏ MRI/follow-up/báo cáo đều làm accuracy giảm → policy thực sự dùng bằng chứng thu thập được, không phải prior.
Hiệu quả tương tác tốt: ít lượt hơn, tỉ lệ cắt ngang và JSON lỗi gần bằng 0 — accuracy cao không đánh đổi bằng ngân sách tool lớn hơn.

IV. Conclusion & Future Works:

CASE đặt nền móng cho cả đánh giá lẫn huấn luyện khả năng điều tra lâm sàng: việc thu thập bằng chứng trở thành thứ có thể đo lường, chính sách điều tra là policy-driven, còn tổng hợp bằng chứng là có thể huấn luyện được — hướng đi có nguyên tắc từ đánh giá ngữ cảnh cố định sang điều tra lâm sàng có thể học. Hạn chế: nhãn lâm sàng đôi khi không quan sát được từ ảnh; bằng chứng sinh tạo và judge vẫn có thể sai; tổng quát hóa ngoài cohort UK Biobank và hiệu quả triển khai là việc tương lai.

V. Brainstorming Space:

1. Publish Papers:

Áp dụng paradigm evidence-seeking cho các chuyên khoa lâm sàng rộng hơn (bệnh án điện tử đa bệnh viện, công cụ đa dạng hơn MRI và báo cáo sinh tạo), với môi trường bằng chứng và ngân sách tool riêng theo khoa.
Nghiên cứu tổng quát hóa policy điều tra giữa các quần thể bệnh nhân và hệ thống ảnh y khoa khác nhau (CT, X-quang, siêu âm) để kiểm chứng tính chuyển giao của chính sách thu thập bằng chứng đã học.
Kết hợp privileged self-distillation ở tầng quỹ đạo với các phương pháp gán tín dụng cấp bước cho tool-use, nhằm học chính xác hơn quyết định thứ tự thu thập bằng chứng.

2. Patent:

Trợ lý chẩn đoán trên điện thoại cho bác sĩ: bác sĩ nhập triệu chứng, ứng dụng tự đề xuất cần xem ảnh MRI lần khám nào, cơ quan nào, so sánh với lần trước ra sao, rồi đưa phác thảo lập luận kèm đáp án — giảm thời gian đọc hồ sơ dày cộp.
Hệ thống học liên tục cho bệnh án theo dõi dài hạn: mỗi lần bác sĩ kết luận, hệ thống tự đánh giá lại chuỗi tìm bằng chứng của mình bằng cách đối chiếu với kết quả điều trị thực tế, tinh chỉnh thói quen khám cho lần sau mà không cần can thiệp kỹ thuật.
Bộ chấm điểm chất lượng suy luận lâm sàng tích hợp sẵn trong phần mềm bệnh viện: tự động kiểm tra xem kết luận của bác sĩ (hoặc gợi ý của AI) có được bằng chứng cụ thể nào trong hồ sơ ủng hộ không, cảnh báo những chẩn đoán 'trôi chảy nhưng thiếu căn cứ'.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.39566
ArXiv Abstract	https://arxiv.org/abs/2609.39566
PDF Download	https://arxiv.org/pdf/2609.39566.pdf
Github Repository	https://github.com/VinyehShaw/CASE

Tác giả: Chenge Li, Yefei He, Xinyu Liu, Feng Chen, Hong Zhou, et al.

Xuất bản lúc: 2026-10-09

Tag: Visual Tokenization, Image Generation, VQ-VAE, MaskGIT, Token Allocation, Autoregressive Models, Diffusion, Image Compression

I. Main Problem:

Tokenizer trực quan hiện tại không cân bằng được độ gọn của biểu diễn và chi tiết hình ảnh cục bộ:

Tokenizer 2D dạng lưới (VQ-VAE, VQGAN, LlamaGen): giữ đúng vị trí không gian nhưng phân bổ token đồng đều cho mọi vùng — lãng phí token vào vùng đơn giản như bầu trời trơn, trong khi vùng chi tiết lại thiếu.
Tokenizer 1D dạng dãy (TiTok, ALIT): nén ảnh thành chuỗi rất ngắn, nhưng thiếu tương ứng không gian nên mất chi tiết cục bộ khôi phục lại.
Ngoài ra, hầu hết tokenizer cấp số token cố định cho mọi ảnh ở cùng độ phân giải — ảnh đơn giản bị thừa token, ảnh phức tạp bị thiếu token.

II. Main Idea:

MixTok là tokenizer lai: dùng dãy 1D gọn làm biểu diễn nền toàn cục, rồi rải thưa token 2D vào các vị trí cần tinh chỉnh nhất. Cơ chế:

Nhánh 1D: một ít token toàn cục được mở rộng trở lại thành lưới đặc trưng không gian (đặc trưng nền).
Content-Adaptive Router gồm hai bộ phận:
- Grid Scorer: học điểm ưu tiên tinh chỉnh cho từng vị trí lưới (dựa trên đặc trưng 1D/2D và ảnh tái tạo nền).
- Budget Controller (top-p): xếp hạng điểm, giữ tiền tố ngắn nhất sao cho tổng xác suất tích lũy đạt ngưỡng p → tự quyết cần bao nhiêu token cho từng ảnh trong ngân sách trung bình mục tiêu.
Trộn thưa: đặc trưng 2D thay thế đặc trưng nền 1D tại các vị trí được chọn, rồi một decoder chung tái tạo ảnh.
Sinh ảnh hai tầng MaskGIT: tầng 1 sinh token 1D → chúng dẫn hướng chọn vị trí tinh chỉnh và cung cấp context; tầng 2 sinh thưa các token 2D tại vị trí đó; decoder ghép lại.

Ví dụ đời thường: giống người vẽ chân dung theo kiểu phác nhanh toàn bộ khuôn mặt bằng vài nét 1D, rồi chỉ dùng bút mực đậm (token 2D) tô lại riêng mắt, mũi, miệng — chỗ nào quan trọng thì đậm nét, chỗ nào nền phẳng thì để phác, và tranh nào cầu kỳ thì tô nhiều chi tiết hơn tranh đơn giản.

III. Main Results:

Tái tạo (ImageNet 256×256): rFID 1.195, PSNR 19.51 dB với chỉ ~128 token trung bình — vượt TiTok (1.72/1.51) và One-D-Piece (1.44), cạnh tranh với FlexTok (1.14) và DetailFlow (1.14).
Sinh ảnh: gFID 1.95 với ~131 token, tốt hơn TiTok-S-128 (2.00) và giảm số vòng lặp sampling từ 64 xuống 16; nhanh hơn TiTok 3.77× và DetailFlow 2.48× về độ trễ.
Tinh chỉnh 2D thưa nâng gFID từ 4.33 → 1.95 so với chỉ dùng token 1D.
Khả năng chuyển giao: áp dụng lên ALIT–VQGAN (64 token 1D + 64 token 2D) cải thiện rFID từ 2.945 → 2.472.
Ablation: Grid Scorer học vượt các heuristic (ngẫu nhiên, đều, gradient-entropy); phân bổ top-p theo nội dung vượt phương án xáo trộn ngân sách, chứng minh lợi ích thật của phân bổ thích ứng.

IV. Conclusion & Future Works:

MixTok chứng minh giá trị của việc kết hợp nén toàn cục bằng token 1D với tinh chỉnh cục bộ bằng token 2D thưa, phân bổ theo nội dung — đạt chất lượng tái tạo và sinh ảnh cao với ngân sách token rất thấp (~128–131 token/ảnh). Bộ định tuyến thích ứng quyết định đồng thời ở đâu và bao nhiêu token cho từng ảnh.

Hướng tương lai (không nêu cụ thể trong bài, suy từ thiết kế): mở rộng sang độ phân giải cao hơn, điều kiện bằng văn bản, và tích hợp vào các mô hình sinh đa phương thức.

V. Brainstorming Space:

1. Publish Papers:

Kết hợp tokenizer lai 1D+2D thưa với mô hình sinh có điều kiện văn bản: chọn lọc token 2D dựa trên vùng mô tả văn bản nhấn mạnh để cân bằng ngân sách token cho sinh ảnh text-to-image.
Học cùng lúc ngân sách token và độ phân giải lưới: ảnh phức tạp nhận nhiều token 2D hơn, ảnh đơn giản nén gần hoàn toàn bằng token 1D để tối ưu băng thông mã hóa ảnh/video.
Tokenization thích ứng cho video: mở rộng Grid Scorer theo thời gian để chỉ bổ sung token 2D ở khung và vùng không gian có chuyển động/chi tiết, giảm chi phí lưu trữ video.
Distillation đa tầng: huấn luyện một bộ chọn vị trí chung dùng lại cho nhiều cặp tokenizer 1D/2D nền khác nhau thay vì chuyên biệt từng cặp.

2. Patent:

Phương pháp nén ảnh trên điện thoại tiết kiệm dung lượng: ảnh được mã hóa thành một chuỗi token toàn cục ngắn cộng thêm token chi tiết chỉ ở vùng quan trọng (khuôn mặt, chữ, vật thể), cho chất lượng gần ảnh gốc với kích thước file nhỏ hơn đáng kể so với JPEG/HEIC ở cùng dung lượng.
Tính năng chỉnh sửa ảnh thông minh trên điện thoại: khi người dùng phóng to một vùng ảnh, ứng dụng tự ưu tiên giải mã và làm nét thêm token chi tiết đúng vùng đó thay vì toàn ảnh, cho ảnh rõ nét cục bộ mà không tốn thêm dữ liệu.
Hệ thống sinh ảnh nhanh trên thiết bị di động: tạo trước ảnh phác bằng token toàn cục (hiển thị ngay), sau đó sinh thêm chi tiết cho các vùng quan trọng trong vài bước — giảm độ trễ và điện năng so với sinh ảnh đầy đủ theo lưới.
Dịch vụ lưu trữ ảnh đám mây có mức nén theo nội dung: máy chủ tự đo mức độ phức tạp của từng ảnh để cấp số token khác nhau — ảnh chân dung lưu gọn, ảnh phong cảnh giàu chi tiết giữ chất lượng cao — tối ưu hóa chi phí lưu trữ theo từng ảnh.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.13181
ArXiv Abstract	https://arxiv.org/abs/2610.13181
PDF Download	https://arxiv.org/pdf/2610.13181.pdf
Github Repository	https://github.com/LCGLiChenge/MixTok

32. Video-RSI: Recursive Self-Improvement of Video Understanding Agents via Harness Evolution (12 votes)

Tác giả: Bingjun Luo, Jialin Guo, Siqi Li

Xuất bản lúc: 2026-09-29

Tag: Video Understanding, Self-Improvement, Agentic Systems, Harness Evolution, Multimodal LLMs, Cost-Aware Optimization, Active Investigation

I. Main Problem:

Các tác tử hiểu video hiện đại ra quyết định dựa trên bằng chứng do harness thu thập, nhưng execution trace chỉ ghi lại những gì harness hiện tại đã quan sát. Khi trả lời sai, mô hình khó phân biệt:

sampling gap: sự kiện quan trọng nằm giữa các frame được lấy mẫu
perceptual error: đã nhìn thấy nhưng diễn giải sai
evidence-use failure: đã có bằng chứng nhưng không dùng đúng

Ngoài ra, sửa lỗi không đồng nghĩa với cải thiện: tăng mật độ frame có thể đúng hơn nhưng tốn kém hơn; tiết kiệm frame có thể làm giảm độ chính xác. Bài toán là làm sao để tác tử tự cải thiện cách thu thập và sử dụng bằng chứng mà không thay đổi model weights.

II. Main Idea:

Video-RSI để cùng một frozen language model đóng hai vai: Solver trả lời câu hỏi video và Editor tự chỉnh executable harness. Quy trình chính:

Active Video Investigation: Editor xem lại các training video gốc để kiểm tra các giả thuyết lỗi, ví dụ lấy thêm frame dày hơn, đổi vùng thời gian, dùng transcript/OCR hoặc hỏi lại perception; mỗi quan sát mới giúp chẩn đoán lỗi thuộc loại nào trước khi sửa code.
Diagnosis-guided revision: từ chẩn đoán, Editor viết candidate harness mới, có thể thay đổi prompt construction, tool implementation, observation processing, memory và execution control.
Cost-Aware Harness Evolution: candidate được đánh giá trên một private development set theo cả answer accuracy và visual cost (số frame trung bình xử lý). Cổng chấp nhận cho phép hoặc tăng accuracy với chi phí tăng bị chặn, hoặc giảm chi phí với độ sụt accuracy rất nhỏ.

Khác với chỉnh theo trace cũ, Video-RSI mở rộng bằng chứng ngoài trace để biết nên sửa gì, rồi dùng accuracy–cost gate để quyết định thay đổi nào đáng giữ lại. Quá trình tiến hóa xảy ra offline; harness cuối được đóng băng để đánh giá trên câu hỏi mới.

Ví dụ đời thường: giống một nhân viên không chỉ đọc báo cáo lỗi, mà quay lại hiện trường để xem máy thật sự hỏng ở đâu, rồi viết lại quy trình vận hành và chỉ giữ quy trình mới nếu vừa ít lỗi hơn vừa không tốn nguyên liệu hơn.

III. Main Results:

Trên MLVU, Video-RSI đạt 72.9% accuracy với 61.1 frames, so với VideoSeek 68.1% / 83.9 frames và VideoHarness-RSI 64.1% / 83.2 frames.
Trên LongVideoBench, Video-RSI đạt 71.1% / 41.1 frames, tốt hơn cả hai baseline về accuracy và giảm mạnh frame usage.
Trên Video-MME long, Video-RSI đạt 80.0% / 21.6 frames, cao hơn VideoSeek 78.7% / 17.8 frames nhưng dùng nhiều frame hơn; so với VideoHarness-RSI 69.7% / 92.8 frames thì vượt rõ cả hai chỉ số.
Trên EgoSchema, Video-RSI đạt 78.2% / 42.4 frames, cải thiện accuracy và giảm frame so với VideoHarness-RSI; so với VideoSeek thì accuracy nhỉnh hơn và dùng ít frame hơn nhiều.
So với harness ban đầu, Video-RSI cải thiện accuracy trên cả bốn benchmark và dùng ít hơn 10.8–44.1% frames.
Ablation cho thấy active investigation tốt hơn chỉ dùng trajectories: trên MLVU cao hơn 8.2 điểm phần trăm với mức dùng frame tương đương; run có investigation giữ lại 5/20 revisions, so với 3/20 của trajectory-only.
Accuracy-only gate cũng tăng accuracy nhưng thường làm tăng frames; Video-RSI dùng cost-aware gate nên đạt accuracy cao hơn và ít frames hơn trên mọi benchmark, trên Video-MME chỉ khoảng một nửa số frame.
Phân tích harness tiến hóa cho thấy các thay đổi đáng chú ý: structured perception, evidence reuse qua relation graphs, và selective observation routines như mở rộng overview hoặc công cụ đếm sự kiện có kiểm chứng.

IV. Conclusion & Future Works:

Video-RSI chứng minh rằng một video agent có thể tự cải thiện harness bằng cách kết hợp điều tra video gốc, sửa code theo chẩn đoán và chọn lọc revision theo cả accuracy lẫn visual cost. Điểm mấu chốt là phải có bằng chứng đủ rõ cho việc sửa và tiêu chuẩn đủ thực tế cho việc giữ lại thay đổi.

Hướng mở rộng hợp lý: áp dụng cơ chế investigate-then-revise-cost-aware cho các agent đa phương thức khác như âm thanh, robot hoặc dữ liệu thời gian thực; nghiên cứu cân bằng chi phí tính toán tổng thể thay vì chỉ frame; cải thiện cách dùng transcript, OCR và quan sát có cấu trúc; và kiểm tra khả năng chuyển giao khi benchmark hoặc phân phối video thay đổi.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng Video-RSI sang agent đa phương thức: thay vì chỉ video, mô hình tự điều tra thêm âm thanh, phụ đề, hình ảnh và cảm biến để chẩn đoán lỗi trước khi chỉnh quy trình ra quyết định.
Nghiên cứu cost-aware harness evolution với ngân sách tính toán tổng thể: tối ưu đồng thời số frame, số lần gọi mô hình, token và độ trễ thay vì chỉ dùng visual frames.
Phát triển self-improving video agent cho video thời gian thực: agent vừa trả lời vừa học cách chọn vùng thời gian cần xem, sau đó tự viết lại quy trình xử lý khi gặp lỗi lặp lại.
Xây dựng bộ benchmark đo chất lượng chẩn đoán của Editor: đánh giá khả năng phân biệt lỗi do thiếu quan sát, nhận thức sai hay dùng bằng chứng kém trong video dài.

2. Patent:

Ứng dụng điện thoại tự học cách xem video dài: người dùng hỏi về một sự kiện trong video; hệ thống kiểm tra lại các đoạn video đã lưu, tự điều chỉnh cách chọn khung hình để trả lời đúng hơn trong khi tiết kiệm pin và thời gian xử lý.
Trợ lý camera an ninh trên điện thoại: khi phát hiện báo cáo sai, hệ thống quay lại đoạn ghi hình gốc để xác định là do bỏ sót khoảnh khắc ngắn, nhận diện sai hay không kết nối được dữ kiện; sau đó tự cập nhật quy tắc quét video mà không cần nâng cấp mô hình nhận diện.
Công cụ tóm tắt video học tập trên di động: ứng dụng tự theo dõi những câu hỏi người dùng hay hỏi sai, kiểm tra lại video bài giảng rồi tinh chỉnh cách lấy dẫn chứng từ slide, phụ đề và hình ảnh để trả lời nhanh hơn và đúng hơn.
Hệ thống phân tích video bán hàng tự tối ưu chi phí: doanh nghiệp dùng điện thoại hoặc camera quay quầy hàng; phần mềm tự học cách chỉ xem những đoạn có khả năng chứa hành vi cần phân tích, giảm số frame gửi lên máy chủ nhưng vẫn giữ độ tin cậy của báo cáo.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2609.37950
ArXiv Abstract	https://arxiv.org/abs/2609.37950
PDF Download	https://arxiv.org/pdf/2609.37950.pdf
Github Repository	https://github.com/bingjunluo/Video-RSI

33. Coding-Agent Benchmarks Should Match Their Users' Task Flows (11 votes)

Tác giả: Igor Slinko, Yaroslav Golubev, Sergey Titov

Xuất bản lúc: 2026-10-07

Tag: Coding Agents, Benchmark Evaluation, LLM Agents, Software Engineering, Human-AI Interaction, Task Flow, SWE-Bench

I. Main Problem:

Các benchmark coding agent hiện nay (SWE-bench, SWE-Bench Pro, SWE-rebench, DeepSWE) không phản ánh cách người dùng thật tương tác với agent. Phân tích 4,782 phiên làm việc thật của kỹ sư phần mềm trong JetBrains IDE (Production Sessions) cho thấy:

Các benchmark chỉ đưa một prompt duy nhất, gần như chỉ là new-feature (54.7%) và bug-fix (39.1%), trong khi yêu cầu thực tế trải rộng trên 16 loại tác vụ: giải thích code, lập kế hoạch, code review, refactor, chạy lệnh, debug...
Người dùng chuyển đổi loại tác vụ liên tục trong một phiên (ví dụ: xin tính năng → hỏi về hành vi hiện tại → lập kế hoạch → yêu cầu review), điều mà benchmark một-lượt bỏ qua hoàn toàn.
Không có phân phối tương tác nào là 'chuẩn' chung: ba corpus công khai (SWE-chat, SpecStory, DataClaw) có Task Flow khác hẳn nhau và khác cả Production Sessions.

II. Main Idea:

Bài báo đề xuất SWE-TaskFlow, một phương pháp biến đổi benchmark issue-derived hiện có thành benchmark đa-lượt căn chỉnh theo Task Flow đo được từ người dùng mục tiêu. Các bước:

Task Flow được định nghĩa chính thức là bộ ba phân phối: độ dài phiên, loại tác vụ của từng tin nhắn, và chuyển tiếp có hướng giữa các tin nhắn liên tiếp.
Prompt splitting: tách một issue hoàn chỉnh thành K lượt tin nhắn có thứ tự, tự chứa (giữ nguyên mọi yêu cầu gốc, không thêm mới), mô phỏng cách người dùng thật tiết lộ yêu cầu dần dần.
Repository QA: sinh 0–3 câu hỏi có thể kiểm chứng về hành vi của repo (kèm đáp án tham chiếu ẩn và proof script chạy được), bổ sung intent explain mà benchmark thiếu.
TaskFlow Alignment Score (TFAS): điểm 0–100 dựa trên Jensen–Shannon divergence giữa ba phân phối của benchmark và mục tiêu, dùng để chọn cấu hình tối ưu trong họ các trajectory sinh ra.
Repository, thay đổi yêu cầu, môi trường và bộ test được giữ nguyên, chỉ tái tạo lớp tương tác.

Ví dụ đời thường: giống như thay vì giao cho nhân viên một tờ giấy ghi đầy đủ mọi yêu cầu ngay từ đầu, sếp giao việc từng phần qua nhiều cuộc trò chuyện, xen kẽ cả những câu hỏi 'đoạn code này chạy thế nào', và đánh giá nhân viên qua cả quá trình tương tác đó chứ không chỉ sản phẩm cuối cùng.

III. Main Results:

Task Flow thực tế rất khác benchmark: trong các phiên dài (≥3 tin nhắn, 33% mẫu), bug-fix chỉ chiếm 25.9% và new-feature 18.9%; explain chiếm 6.1%, question 9.7% — các intent này vắng mặt hoàn toàn trong SWE-Bench Pro.
Không có phân phối tương tác phổ quát: Task Flow của SWE-chat, SpecStory, DataClaw khác nhau rõ rệt về cả intent lẫn chuyển tiếp → benchmark phải nêu rõ use case mục tiêu và căn chỉnh theo đo lường của chính nó.
Pilot trên 700 tác vụ SWE-Bench Pro với 4 mô hình (GPT-5.6 Luna, GPT-5.6 Terra, GPT-5.4 Mini, Gemini 3.7 Flash):
- Split prompt làm chi phí agent tăng gấp đôi, nhưng resolve rate không thay đổi ổn định → giao thức tương tác là một biến đánh giá thật sự, không trung lập.
- Căn chỉnh QA theo TFAS nâng điểm alignment từ 59.6 lên 77.8.
- Độ chính xác trả lời QA đạt 69.8–83.0% tùy mô hình — một tín hiệu verified thứ hai bên cạnh resolve rate.
- Trajectory Split+QA cho nhiều tín hiệu verified hơn (verdict test sau mỗi lượt + đáp án QA được chấm), hỗ trợ chẩn đoán chi tiết và huấn luyện dựa trên ranking.

IV. Conclusion & Future Works:

Bài báo kết luận: benchmark agent tương tác phải nêu rõ phân phối tương tác của ai mà nó đại diện — người dùng thật trộn lẫn và chuyển đổi loại tác vụ theo cách mà benchmark issue-derived bỏ sót, và không corpus công khai nào đại diện cho corpus khác. SWE-TaskFlow lấp khoảng trống này trong khi tái sử dụng các tác vụ đã kiểm chứng sẵn có. Hướng mở:

Phát triển augmentation cho các intent còn thiếu (planning, code-review, refactor, execute, debug) — hiện chưa có cách kiểm chứng tự động cho các lượt này.
Kết hợp tương tác tĩnh (replay chính xác, so sánh paired — đo progressive disclosure, bộ nhớ, thích ứng) với tương tác phản ứng (simulated user, yêu cầu giấu, chỉnh sửa xen vào — đo phản hồi theo hành vi agent).
Hạn chế: chỉ đo trên một use case (phiên dài trong IDE JetBrains), classifier thiếu bộ chuẩn human-labeled (đồng thuận giữa mô hình 76.1%), pilot chỉ chạy 3 lần với min–max chứ không có kiểm định ý nghĩa thống kê.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng SWE-TaskFlow với các verifier cho intent planning và code-review: sinh lượt lập kế hoạch/đánh giá trên tác vụ đã kiểm chứng và chấm điểm tự động bằng cách kiểm tra tính khả thi của kế hoạch qua thực thi thử hoặc so khớp với patch tham chiếu.
Xây dựng benchmark tương tác phản ứng (reactive) căn chỉnh theo Task Flow: mô phỏng người dùng sinh yêu cầu bổ sung dựa trên hành vi agent thật, với Task Flow của chính kịch bản phản ứng cũng được đo và căn chỉnh.
Áp dụng khung căn chỉnh Task Flow cho các miền ngoài coding agent: trợ lý phân tích dữ liệu trong notebook, agent vận hành hệ thống, hoặc trợ lý soạn thảo văn bản — đo Task Flow riêng cho từng quần thể người dùng.

2. Patent:

Hệ thống đánh giá trợ lý lập trình tích hợp trong IDE: thu thập thống kê ẩn danh về cách lập trình viên thật gửi yêu cầu (loại tác vụ, độ dài phiên, chuyển tiếp giữa các yêu cầu), rồi tự động tái cấu trúc bộ câu hỏi kiểm thử nội bộ sao cho phân phối hội thoại khớp với hành vi người dùng thực tế.
Ứng dụng điện thoại huấn luyện và chấm điểm chatbot kỹ thuật: thay vì đưa một câu hỏi dài, ứng dụng tự chia yêu cầu thành nhiều lượt tin nhắn ngắn xen kẽ câu hỏi kiểm tra hiểu biết, đo cả chi phí phản hồi lẫn độ chính xác từng lượt để xếp hạng mô hình.
Module chấm điểm đa-tín hiệu cho trợ lý code doanh nghiệp: mỗi phiên làm việc với agent sinh ra nhiều tín hiệu được xác minh (kết quả chạy test sau từng yêu cầu, độ chính xác câu trả lời về codebase), dùng để chẩn đoán điểm yếu của từng phiên bản mô hình và tự động chọn cấu hình tương tác tối ưu.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.09633
ArXiv Abstract	https://arxiv.org/abs/2610.09633
PDF Download	https://arxiv.org/pdf/2610.09633.pdf
Github Repository	https://github.com/JetBrains-Research/SWE-TaskFlow-Generation-Public

34. AMLworld-Compact: Importance-Weighted Downsampling for Cost-Effective LLM Evaluation and Error Diagnosis (11 votes)

Tác giả: Natapong Nitarach, Phume Ngampornsukswadi, Pittawat Taveekitworachai, Surapon Nonesung, Warit Sirichotedumrong, et al.

Xuất bản lúc: 2026-10-09

Tag: LLM Evaluation, Anti-Money Laundering, Coreset Selection, Stratified Sampling, Horvitz-Thompson, Graph Reasoning, Cost-Effective Benchmarking

I. Main Problem:

Đánh giá LLM trên bộ test AMLworld tốn kém cực độ: mỗi giao dịch cần một graph prompt riêng, trong khi hai split nhỏ nhất có hơn 1 triệu giao dịch test với tỉ lệ illicit chỉ 0.12% (HI-Small) và 0.05% (LI-Small). Lấy mẫu ngẫu nhiên nhỏ thì:

mẫu cân bằng theo lớp (class-proportional) để lại quá ít ca illicit → không ước lượng được recall và phân tích typology
mẫu cân bằng giàu illicit → làm sai lệch precision và F1 không trọng số so với toàn bộ test set Thách thức: giảm số lượt gọi model hàng trăm lần nhưng vẫn giữ đủ ca hiếm để chẩn đoán và ước lượng hiệu suất đúng với prevalence thật của full test.

II. Main Idea:

AMLworld-Compact với giao thức HT-Coreset, gồm 3 bước:

Giữ lại toàn bộ giao dịch illicit (mọi ca dương tính, đủ 8 typology) — recall trở thành chính xác tuyệt đối
Phân bổ ngân sách benign theo độ khó: dùng điểm trung bình của 3 mô hình supervised (LightGBM, XGBoost, GCPAL) để xác định hard negatives (benign dễ bị dự đoán nhầm, ngưỡng ~0.40/0.24); tối đa 30% ngân sách benign dành cho stratum này, phần còn lại lấy mẫu từ 3 tercile độ khó
Trọng số Horvitz–Thompson w = 1/π (nghịch đảo xác suất được chọn) để ước lượng không thiên lệch số đếm confusion trên full test; recall chính xác, precision/F1 là ratio estimate

Tỉ lệ phát hành 1 illicit : 2 benign, giảm 271× (HI-Small: 3,753 targets) và 611× (LI-Small: 2,268 targets). Cùng một tập targets cho hai báo cáo: trọng số HT cho ước lượng full-test, không trọng số cho chẩn đoán trên subset.

Ví dụ đời thường: giống như kiểm tra chất lượng một kho hàng triệu sản phẩm — thay vì kiểm từng cái, ta kiểm hết toàn bộ hàng lỗi (dù hiếm), ưu tiên kiểm kỹ các sản phẩm 'khả nghi dễ nhầm', rồi nhân kết quả lên theo tỉ lệ mỗi nhóm được chọn để suy ra chất lượng cả kho.

III. Main Results:

Giảm chi phí đánh giá: 271× (HI-Small) và 611× (LI-Small), mỗi pass LLM chỉ còn ~3.7K/2.3K prompt thay vì >1 triệu
Độ chính xác ước lượng (study hold-out bằng cách dùng một họ booster định nghĩa strata, đánh giá họ còn lại, 500 lần rút mẫu/config): F1 RMSE chỉ 0.00–2.58 điểm phần trăm với HT-Coreset, so với 4.44–7.41 cho lấy mẫu đều + trọng số HT; coverage khoảng tin cậy 99.6–100% (dù khoảng tin cậy còn rộng, 27–55 pp)
Đánh giá 7 LLM open-weight (GPT-OSS, Nemotron, Qwen3.5, 3–27B active params): weighted precision gần bằng baseline 'predict-all-illicit' (lift 0.94–1.03) — tức LLM gắn cờ hầu hết giao dịch, recall zero-shot tới 97.8–100% nhưng kèm cực nhiều false positive; model lớn hơn không cải thiện đáng kể
Few-shot giúp nhận diện typology nhất quán hơn zero-shot (+5.3 pp TF1 trung bình trên HI-Small) nhưng không cải thiện detection ổn định
Kiểm tra lexical trên 1,000 output: các marker cấu trúc pass cho 84.5% câu trả lời đúng nhưng cũng 56.2% câu sai → pass kiểm tra từ vựng không chứng minh được đáp án đúng
Phân tích ML–LLM overlap: LLM recover được các ca illicit mà ML bỏ sót nhưng cũng flag benign có điểm ML thấp; hệ hybrid 'Doubt Triage' lợi hầu hết nhờ đường đi label-derived chứ không phải khả năng LLM

IV. Conclusion & Future Works:

AMLworld-Compact cho phép so sánh model/prompt với vài nghìn targets trong khi vẫn giữ toàn bộ ca illicit để chẩn đoán. Kết quả chính cho thấy LLM hiện tại gần như không phân biệt được illicit và benign trên AMLworld khi prompt gốc không đánh dấu rõ giao dịch mục tiêu. Hạn chế và hướng mở:

prompt đánh giá đôi khi thiếu hoặc không nhận diện giao dịch mục tiêu (324/3,753 ca trên HI-Small) → cần so sánh paired giữa bản gốc và bản target-marked
khoảng tin cậy bảo thủ còn rộng; chưa kiểm chứng sampling uncertainty với full-test LLM predictions
study hold-out chỉ test 2 họ booster liên quan — chuyển giao sang predictor khác chưa được chứng minh
dữ liệu tổng hợp, chưa kiểm chứng trên dữ liệu ngân hàng thật; không ủng hộ triển khai LLM-only trong AML

V. Brainstorming Space:

1. Publish Papers:

Phát triển phương pháp coreset có trọng số cho đánh giá LLM trên các tác vụ phát hiện gian lận khác (credit card fraud, insurance fraud) với lớp hiếm cực đoan.
Thiết kế prompt graph-text tự động đánh dấu và nhúng giao dịch mục tiêu, kèm đánh giá paired đo lường độ nhạy của LLM với serialization.
Nghiên cứu router ML–LLM chọn ca đưa cho LLM dựa trên đặc trưng quan sát được (không dùng label), vượt qua giới hạn của Doubt Triage hiện tại.
Kỹ thuật kiểm chứng trace của LLM có thể chứng minh được grounding trên đồ thị, thay vì chỉ kiểm tra marker từ vựng.

2. Patent:

Hệ thống đánh giá model chống rửa tiền trên điện thoại/di động cho nhân viên compliance: chọn tập kiểm thử thu nhỏ giữ lại toàn bộ giao dịch đáng ngờ, cân bằng bằng trọng số nghịch đảo tỉ lệ lấy mẫu, cho phép chạy thử model mới vài phút thay vì hàng ngày.
Ứng dụng audit giao dịch cho ngân hàng: tự động rút mẫu giao dịch thường theo độ khó (ưu tiên giao dịch dễ bị model hiện tại phán nhầm) để đội kiểm soát nội bộ tập trung rà soát đúng nơi, đồng thời ước lượng tỉ lệ lỗi trên toàn bộ lịch sử giao dịch.
Module đánh giá LLM tiết kiệm chi phí trên nền tảng đám mây: người dùng nộp model, hệ thống tự xây coreset có trọng số từ lịch sử dự đoán, chạy vài nghìn query thay vì hàng triệu, trả về precision/recall ước lượng toàn dữ liệu kèm khoảng tin cậy.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.13627
ArXiv Abstract	https://arxiv.org/abs/2610.13627
PDF Download	https://arxiv.org/pdf/2610.13627.pdf
Github Repository	https://github.com/nat-nischw/AMLworld-Compact

35. Universal Textual Teaching for LLMs (10 votes)

Tác giả: Zhanyi Lu, Huan Wang

Xuất bản lúc: 2026-10-08

Tag: Knowledge Distillation, LLMs, Prompt Engineering, Knowledge Transfer, In-Context Learning, Textual Knowledge

I. Main Problem:

Các phương pháp knowledge distillation (KD) truyền thống cho LLM đều cần cập nhật tham số của Student (fine-tuning trên dữ liệu do Teacher tạo ra, hoặc preference/RL tối ưu hóa), dẫn đến các hạn chế:

Kiến thức được mã hóa ngầm trong trọng số, khó kiểm tra, khó chỉnh sửa, khó tái sử dụng.
Kiến thức gắn chặt vào một kiến trúc/checkpoint cụ thể — không chuyển được sang mô hình khác.
Không áp dụng được cho các mô hình chỉ truy cập qua API, không train được hoặc đắt đỡ để train.

Câu hỏi trung tâm: có thể chưng cất khoảng trống kiến thức Teacher–Student thành một biểu diễn ngôn ngữ tự nhiên, có thể diễn giải và tái sử dụng mà không cập nhật tham số nào không?

II. Main Idea:

Universal Textual Teaching (UTT) — khung KD không cập nhật tham số, chưng cất khoảng trống kiến thức Teacher–Student thành một văn bản tự nhiên gọi là Primer (như một cuốn sách giáo khoa gối đầu giường). Quy trình gồm hai giai đoạn:

Knowledge-gap construction: chấm song song Teacher và Student trên tập dữ liệu, chia thành ba tập không chồng lấp — distillation (Teacher giải đúng, Student sai → dùng để tổng hợp), retention (cả hai đều đúng → kiểm tra không làm giảm năng lực cũ), frontier (cả hai đều sai → đo khả năng vượt giới hạn).
Closed-loop Primer synthesis qua tương tác đa vai trò, xử lý theo batch (mặc định 16):
- Student thử giải bài với Primer hiện tại
- Nếu sai, Prompter chẩn đoán lỗi từ phản hồi đánh giá và soạn chỉ dẫn dạy học
- Teacher dùng chỉ dẫn đó để tạo minh họa có nhắm mục tiêu
- Chỉ giữ lại bản ghi dạy học nào Teacher giải đúng khi kiểm chứng
- Synthesizer hợp nhất bản ghi vào Primer hiện tại; Primer ứng viên chỉ được chấp nhận qua cổng kiểm chứng nếu không làm Student giải tệ hơn trên batch đó

Primer cuối cùng được dùng trực tiếp như ngữ cảnh tự nhiên khi suy luận — mọi tham số đều đông cứng. Khác với prompt engineering thông thường (tối ưu prompt theo hiệu suất tác vụ), UTT dựa trên khoảng trống hiệu suất thực quan sát được giữa Teacher và Student.

Ví dụ đời thường: giống thầy giáo xem bài làm của học sinh, chỉ ra chỗ sai, làm mẫu một bài tương tự, rồi ghi phần bài học vào một cuốn sổ tay chung — cuốn sổ ấy đem cho học sinh khác đọc cũng vẫn hiệu quả, không cần 'cấy' kiến thức vào đầu ai.

III. Main Results:

Hiệu quả trên Student nguồn: KernelBench accuracy từ 9.4% → 48.6%, Fast 1 từ 9% → 35%; Omni-MATH-2 từ 27.6% → 51.7% (cấu hình Pro→Flash).
Chuyển giao chéo giữa các Student: Primer tổng hợp cho Flash giúp Qwen tăng +32.0 điểm KernelBench mà không cần tổng hợp lại; tương tự Primer của Qwen giúp Flash +34.4 điểm.
Chuyển giao chéo cả Teacher lẫn Student: Primer từ Claude Opus 5→Flash giúp Qwen (không tham gia tổng hợp) đạt 51.0% KernelBench, +31.5 điểm Math — chứng tỏ ngôn ngữ tự nhiên là phương tiện chuyển giao tri thức phổ quát giữa các LLM.
Phân tích chi tiết: Primer khái quát hóa tốt sang bài chưa thấy (ví dụ Math 9.7% → 64.8% trên tập test); trên tập retention KernelBench không suy giảm mà còn tăng (ví dụ 34% → 74%); trên tập frontier có 5/6 cấu hình đạt độ chính xác khác 0 (Student giải được bài mà cả Teacher lẫn Student gốc đều thất bại).
So với prompt engineering (one/few-shot, teacher summary, APE, MIPROv2, GEPA): UTT tốt nhất ở cả 6 tổ hợp tác vụ–mô hình.
So với KD có cập nhật tham số (SeqKD, Fine-tune-CoT, RSR, LUFFY) trong cấu hình Pro→Qwen: UTT vượt baseline mạnh nhất +7.2 điểm Math, +8.2 điểm KernelBench, +4 điểm Fast 1 — trong khi Student vẫn giữ nguyên trọng số.

IV. Conclusion & Future Works:

UTT thể hiện rằng ngôn ngữ tự nhiên có thể đóng vai trò một phương tiện tri thức có thể triển khai (deployable knowledge carrier) xuyên suốt các mô hình, mở ra góc nhìn KD mới không cập nhật tham số cho LLM. So với kiến thức mã hóa ngầm trong tham số, Primer có thể diễn giải, kiểm toán và không gắn với trọng số cụ thể, cho phép chuyển trực tiếp sang mô hình khác. Kết quả sơ bộ cũng cho thấy triển vọng chuyển sang mô hình đa phương thức (multimodal). Các phân tích ablation (lựa chọn knowledge-gap, vai trò Prompter, cổng kiểm chứng, batch size, lượng tử hóa, chế độ thinking) và thảo luận hạn chế được để trong phụ lục.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu cơ chế 'thị trường Primer': nhiều Teacher cùng đóng góp bài học vào một kho văn bản tri thức dùng chung, với giao thức hợp nhất và giải quyết xung đột giữa các bài học từ các Teacher khác nhau.
Tự động cá nhân hóa Primer: hệ thống đọc lỗi đặc trưng của từng Student để chọn lọc và cắt ghép các phần của Primer toàn cục thành phiên bản tối ưu cho từng mô hình, thay vì dùng nguyên bản.
Chu kỳ Primer liên tục: cơ chế cập nhật Primer định kỳ khi benchmark hoặc phân phối dữ liệu thay đổi theo thời gian, kết hợp phát hiện tri thức đã lỗi thời để loại bỏ hoặc viết lại.

2. Patent:

Tính năng 'gia sư văn bản' trên điện thoại cho chatbot: khi người dùng chọn một mô hình nhỏ chạy cục bộ để tiết kiệm pin, ứng dụng tự tạo một cuốn sổ tay hướng dẫn từ mô hình lớn trên đám mây; sổ tay được lưu lại và tự động chèn vào mọi cuộc hội thoại, giúp mô hình nhỏ trả lời chính xác hơn mà không cần tải mô hình lớn về máy.
Hệ thống nâng cấp kỹ năng cho trợ lý ảo doanh nghiệp qua API: đơn vị vận hành gửi bộ câu hỏi kiểm thử nội bộ; dịch vụ đám mây so sánh câu trả lời của mô hình cao cấp và mô hình giá rẻ, sinh ra tệp hướng dẫn bằng ngôn ngữ tự nhiên; doanh nghiệp chỉ cần nạp tệp này vào prompt của mô hình giá rẻ để có chất lượng gần tương đương với chi phí thấp.
Chợ trao đổi 'sổ tay kỹ năng' giữa các nhà phát triển mô hình: nền tảng cho phép người dùng tải lên và chia sẻ các tệp hướng dẫn đã được kiểm chứng cho từng lĩnh vực (toán olympic, tối ưu mã nguồn...), người dùng khác tải về dùng ngay cho mô hình của mình mà không cần quy trình tổng hợp lại.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.12114
ArXiv Abstract	https://arxiv.org/abs/2610.12114
PDF Download	https://arxiv.org/pdf/2610.12114.pdf
Github Repository	N/A

36. TouchScale: 500 Hours of Human Vision and Touch for Visual-Tactile Learning (10 votes)

Tác giả: Dayou Li, Hao Wang, Qianqian Yang, Zihao Zhu, Haoquan Fang, et al.

Xuất bản lúc: 2026-10-07

Tag: Visual-Tactile Learning, Egocentric Dataset, Tactile Sensing, Robotic Manipulation, Representation Learning, Embodied AI

I. Main Problem:

Dữ liệu video góc nhìn đầu người giúp robot học cách tương tác vật lý, nhưng camera không ghi lại áp lực và điểm tiếp xúc giữa tay và vật. Các bộ dữ liệu có xúc giác đồng bộ hiện nay thường:

quá nhỏ, phần lớn dưới 30 giờ;
thu từ nhiều loại cảm biến hoặc quy trình khác nhau, khiến không rõ lợi ích đến từ quy mô dữ liệu hay từ thay đổi thiết bị;
thiếu dữ liệu lớn, nhất quán để kiểm chứng xem xúc giác con người thu ở quy mô hàng trăm giờ có cải thiện nhận thức và điều khiển robot hay không.

II. Main Idea:

TouchScale là bộ dữ liệu 500 giờ tương tác giàu tiếp xúc của con người, được thu bằng một hệ thống đeo thống nhất gồm camera RGB-D trên đầu, camera RGB ở cả hai cổ tay và găng tay xúc giác đo áp lực toàn bàn tay hai bên. Bộ dữ liệu có khoảng 87K episode, gần 2K mô tả tác vụ, hơn 1.5K vật thể và hơn 800 cấu hình bối cảnh, trải dài từ nhà bếp, phòng thí nghiệm, văn phòng đến y tế và đóng gói.

Cách dùng chính:

huấn luyện dự đoán xúc giác từ hình ảnh, kể cả trên cảm biến chưa từng thấy;
pretrain visual encoder bằng nhiệm vụ dự đoán xúc giác để học biểu diễn chuyển sang nhận diện hành động;
dùng TouchScale làm mid-training không cần hành động cho chính sách robot, sau đó mới post-training trên dữ liệu robot.

Ví dụ đời thường: giống như học nấu ăn không chỉ xem video mà còn đeo găng tay cảm nhận độ nóng, độ cứng và lực bóp; sau đó khi cầm dụng cụ mới, người học đã biết chỗ nào cần ấn mạnh, chỗ nào chỉ cần chạm nhẹ.

III. Main Results:

Dự đoán xúc giác zero-shot: cùng mô hình TouchAnything và cùng khoảng 16 giờ huấn luyện, TouchScale đạt contact IoU 0.181 trên EgoTactile, cao hơn EgoTouch với 0.134; vIoU tăng từ 0.185 lên 0.243.
Scaling dữ liệu cho nhận thức: tăng từ 10% lên 100% TouchScale nâng contact IoU zero-shot từ 0.311 lên 0.383 và giảm lỗi định vị áp lực.
Biểu diễn thị giác: pretrain bằng TouchScale đạt kết quả nhận diện hành động tốt nhất trên ba benchmark, với trung bình 24.45% ở linear probing và 49.62% khi fine-tune end-to-end.
Chuyển sang robot: mid-training bằng TouchScale nâng tỷ lệ thành công thực tế trung bình trên bốn tác vụ từ 22.5% lên 57.5%; Soft/Hard Sorting tăng mạnh nhất từ 10% lên 60%.
Scaling cho robot: dùng 20%, 40%, 60%, 80%, 100% TouchScale cho thấy xu hướng thành công tăng tương ứng 30.0%, 32.5%, 50.0%, 50.0%, 57.5%.
Mô hình xúc giác tương lai: độ chính xác dự đoán thay đổi xúc giác trên dữ liệu robot tăng từ 0.18% không mid-training lên 3.31% khi dùng toàn bộ TouchScale; tương quan giữa lỗi dự đoán xúc giác và lỗi hành động sau post-training chỉ ở mức yếu.

IV. Conclusion & Future Works:

TouchScale cho thấy dữ liệu hình ảnh và xúc giác của con người, khi được thu quy mô lớn với một pipeline cảm biến nhất quán, là nguồn giám sát hữu ích cho cả nhận thức lẫn điều khiển robot. Các lợi ích tăng khi dùng nhiều dữ liệu hơn, ở cả dự đoán xúc giác và tỷ lệ thành công robot.

Hạn chế: TouchScale chưa có nhãn hành động, và phần kiểm chứng robot mới giới hạn ở một nền tảng với bốn tác vụ. Hướng tương lai: mở rộng đánh giá sang nhiều hình thái robot, nhiều tác vụ giàu tiếp xúc hơn, đồng thời làm rõ vai trò của dự đoán xúc giác tương lai trong điều khiển.

V. Brainstorming Space:

1. Publish Papers:

Xây dựng các bộ dữ liệu xúc giác con người quy mô hàng nghìn giờ với phần cứng thống nhất, để kiểm chứng giới hạn scaling của học đa phương thức cho robot.
Nghiên cứu cách kết hợp dữ liệu xúc giác con người không có nhãn hành động với dữ liệu robot có nhãn, nhằm giảm khoảng cách giữa bàn tay người và tay robot.
Phát triển mô hình world model xúc giác dự đoán trước lực tiếp xúc tương lai để hỗ trợ lập kế hoạch, kiểm soát lực và phát hiện trượt khi thao tác vật thể mềm.
Mở rộng đánh giá chính sách visual-tactile-language-action sang nhiều loại robot, nhiều loại găng xúc giác và các tác vụ dài hạn trong môi trường thật.

2. Patent:

Găng tay thông minh kết nối điện thoại để dạy robot hoặc tay máy phục hồi chức năng: điện thoại ghi video góc nhìn người dùng, găng tay đo áp lực từng ngón, sau đó hệ thống tổng hợp thành mẫu thao tác có cảm nhận lực.
Ứng dụng điện thoại huấn luyện robot dọn nhà: người dùng thực hiện thao tác như cầm khăn lau hoặc đặt vật mềm; điện thoại và găng cảm biến ghi lại hình ảnh cùng lực bàn tay để tạo dữ liệu huấn luyện nhanh cho robot.
Hệ thống kiểm tra chất lượng sản phẩm bằng camera và cảm biến lực cầm tay: nhân viên đeo găng đo áp lực khi sờ bề mặt; điện thoại hoặc máy tính bảng phân tích video để phát hiện lõm, nứt, vùng quá cứng hoặc quá mềm.
Thiết bị đeo cổ tay cho kỹ thuật viên bảo trì: camera ghi cận cảnh thao tác vặn, ấn, lắp ráp; cảm biến đo lực ngón tay giúp tạo hướng dẫn số biết chỗ nào cần dùng lực và lực vừa đủ.
Robot giao đồ uống trong nhà hàng có cảm nhận lực từ dữ liệu người: camera và găng xúc giác ghi cách người cầm ly, xoay chai, nhấc nắp; robot học lại để giảm làm đổ hoặc bóp vỡ vật.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.10288
ArXiv Abstract	https://arxiv.org/abs/2610.10288
PDF Download	https://arxiv.org/pdf/2610.10288.pdf
Github Repository	https://github.com/phai-lab/touchscale

37. PreSTO: Predictive Subtree Prefetching for Fast LLM Power Sampling (10 votes)

Tác giả: Nan Jiang, Panagiotis Theodoropoulos, Wei Deng

Xuất bản lúc: 2026-10-09

Tag: LLMs, MCMC, Metropolis-Hastings, Power Sampling, Inference Acceleration, Speculative Decoding, Test-Time Compute

I. Main Problem:

Power sampling giúp LLM reasoning tốt hơn bằng cách lấy mẫu từ phân phối đã được sharpen, nhưng sampler chính là PowerMH rất chậm vì bản chất tuần tự: mỗi bước Metropolis-Hastings phải chờ quyết định chấp nhận hoặc loại bỏ trước khi tạo proposal tiếp theo. Hệ quả:

Trên MATH500, PowerMH có thể sinh tới 8.8× số token so với sampling thông thường.
Trên LCB V6 với Qwen3.5-9B, PowerMH chậm 6.5×–18.4× mỗi prompt so với low-temperature sampling.
Các hướng cải tiến trước chủ yếu đổi sampler hoặc đổi model, trong khi PreSTO giữ nguyên transition kernel của PowerMH.

II. Main Idea:

PreSTO coi các kết quả accept/reject tương lai của Metropolis-Hastings như một cây quyết định. Thay vì gọi model tuần tự từng bước, PreSTO:

Thu thập feasible suffix-resampling requests từ một subtree của cây; một request chỉ feasible khi cut index mới không lớn hơn cut index hiện tại, nhờ đó prefix dùng chung có thể tạo trước mà không đổi conditional distribution.
Sinh proposals theo batch trong một lần gọi model, tận dụng prefix caching để tái sử dụng KV cache cho các prefix chung.
Tính acceptance probabilities cho từng proposal trong cùng batch.
Đi theo realized path trên subtree bằng acceptance rule gốc của PowerMH, hoàn thành nhiều transitions sau mỗi lần gọi model.

Bằng chứng lý thuyết là Proposition 1: PreSTO-PowerMH không thay đổi MH transition kernel của PowerMH. Tác giả còn quan sát thấy phần cây thực sự được MH đi qua thường sparse và gần như unary, vì phần lớn acceptance probability bị đẩy về 0 hoặc 1. Từ đó họ đề xuất predictive traversal rule: dùng logistic regression ba lớp dự đoán khả năng accept/reject/uncertain, rồi chọn subtree tối đa hóa số transitions dự kiến hoàn thành trong cùng prefetch budget.

Ví dụ đời thường: giống người chơi cờ tính trước vài nước đi có thể xảy ra cho cả hai phương án trước khi biết đối thủ chọn đâu; khi ván cờ đi theo một hướng, ta vẫn chỉ đi đúng một đường, nhưng đã dự tính sẵn nên không phải nghĩ lại từ đầu.

III. Main Results:

Trên 7 datasets và 5 base LLMs, PreSTO không chậm hơn baseline trong 105 settings; đạt ít nhất 1.5× speedup trong 96 settings.
Median speedup: 1.71× over PowerMH, 1.91× over EntropyCut, 2.33× over MultiTryMH.
Với PowerMH và EntropyCut, speedup chủ yếu đến từ giảm số model calls: trung vị 3.9× fewer calls, mỗi call chỉ dài hơn khoảng 2.1×.
Trên LCB V6 với Qwen3.5-9B, PreSTO-PowerMH hoàn thành 4.96 transitions per call so với 1.00 của PowerMH, làm 4.92× fewer calls, mỗi call dài 3.42×, tổng speedup 1.44×.
Predictive traversal rule nhanh hơn BFS mặc định 1.25×–1.37× trên LCB V6 với Qwen3.5-9B.
Log-likelihood và confidence của outputs qua paired equivalence tests trong 29/38 comparisons, ủng hộ tính bảo toàn transition kernel.

IV. Conclusion & Future Works:

PreSTO cho thấy có thể tăng tốc power sampling mà không đổi target distribution, proposal rule, hay MH acceptance rule; chỉ thay đổi cách lập lịch sinh và chấm điểm proposals. Điểm mấu chốt là prefetch phải đi kèm feasibility condition, prefix-cache reuse, và traversal rule biết tập trung vào nhánh MH thực sự có khả năng đi qua. Hướng mở rộng tự nhiên là cải thiện bộ dự đoán nhánh certainty, thiết kế adaptive prefetch budget theo dataset/model, và tích hợp sâu hơn với serving engines để giảm chi phí mỗi batched call.

V. Brainstorming Space:

1. Publish Papers:

Học traversal policy thích ứng cho speculative MCMC: dùng mạch reward từ số transitions hoàn thành mỗi call để tự điều chỉnh subtree shape và prefetch budget theo từng model, dataset, prompt length.
Kết hợp predictive subtree prefetching với prefix-aware scheduling trong LLM serving engines, tối ưu cache reuse khi nhiều yêu cầu sinh tiếp nối cùng prefix nhưng khác suffix.
Mở rộng ý tưởng prefetch theo accept/reject tree cho các inference-time refinement methods khác ngoài power sampling, với điều kiện bảo toạn chính xác sampling trajectory.

2. Patent:

Trợ lý soạn tin nhắn trên điện thoại dự đoán trước các hướng trả lời có khả năng xảy ra: khi người dùng đang nhập, hệ thống sinh sẵn vài phiên bản tiếp nối cho các tình huống hội thoại khác nhau, tính sẵn độ phù hợp, rồi chỉ chọn nhanh theo ngữ cảnh thật khi người dùng gửi.
Trợ lý giọng nói trên smartphone giảm độ trễ bằng cách chuẩn bị song song các câu trả lời cho các ý định tiếp theo có thể xảy ra; thiết bị vẫn chỉ xuất một câu trả lời cuối cùng, nhưng không phải gọi mô hình lại nhiều lần cho từng nhánh hội thoại.
Bàn phím thông minh trên điện thoại tạo trước các đoạn văn tiếp nối cho nhiều lựa chọn chỉnh sửa có thể chấp nhận hoặc loại bỏ, dùng lại phần đầu chung của câu để giảm tính toán lặp và gợi ý hoàn chỉnh nhanh hơn khi người dùng chọn một hướng viết.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.13171
ArXiv Abstract	https://arxiv.org/abs/2610.13171
PDF Download	https://arxiv.org/pdf/2610.13171.pdf
Github Repository	https://github.com/Nan-Jiang-Group/PreSTO

38. When Do Biological Reasoning Models Use Their Biological Inputs? (10 votes)

Tác giả: Ada Fang, Nikitha Thoduguli, Lukas Fesser, Hanlin Zhang, Sham M. Kakade, et al.

Xuất bản lúc: 2026-10-01

Tag: LLMs, Biological Reasoning Models, Foundation Models, Interpretability, Multimodal Learning, Bioinformatics, Evaluation

I. Main Problem:

Các biological reasoning models kết nối LLM với đầu vào sinh học (biểu diễn từ biological foundation models như Evo2, ESM3 và văn bản sinh học như mô tả gene, pathway). Điểm số benchmark cao được mặc định xem là bằng chứng rằng LLM thực sự suy luận dựa trên các đầu vào sinh học này — nhưng đây là giả định chưa được kiểm chứng. Vấn đề:

Model nhận nhiều biểu diễn chồng lấp của cùng một genome/protein/cell, nên khó quy kết dự đoán về một đầu vào cụ thể
Chú thích dự đoán sẵn có thể cho đáp án đúng ngay cả khi biểu diễn sequence bị bỏ qua — tương tự lỗi language prior trong vision-language models
Benchmark không phân biệt được: đầu vào kém thông tin, hay đầu vào có thông tin nhưng model không dùng

II. Main Idea:

Bài báo xây dựng bốn thử nghiệm kiểm tra xem dự đoán của model có thực sự phụ thuộc vào từng đầu vào sinh học hay không, áp dụng trên 6 models (BioReason, ChatNT, BioReason-Pro, Prot2Text-V2, C2S-Scale, CellWhisperer) qua ba loại dữ liệu: DNA, protein, single-cell:

Perturbation: xáo trộn một đầu vào, giữ nguyên query và các đầu vào khác, đo độ thay đổi của đáp án và độ chính xác
Evidence conflict: ghép biểu diễn của thực thể A với văn bản của thực thể B (hai nguồn ủng hộ hai đáp án khác nhau), xem model theo nguồn nào
Linear probe: huấn luyện probe tuyến tính trên biểu diễn model nhận được, để tách biệt đầu vào "kém thông tin" khỏi đầu vào "có thông tin nhưng bị underutilized"
Reasoning trace: so sánh lập luận sinh ra với đầu vào thực tế và dự đoán cuối cùng

Ví dụ đời thường: giống như kiểm tra một người phiên dịch có thực sự đọc tài liệu gốc hay không — không hỏi kết quả dịch (benchmark), mà cố tình sửa một chi tiết trong bản gốc (perturbation), đưa hai bản gốc mâu thuẫn nhau (evidence conflict), hoặc thử xem người đó có trích dẫn đúng chi tiết đã sửa trong lời giải thích của mình (reasoning trace).

III. Main Results:

BioReason & BioReason-Pro gần như bỏ qua foundation model representations: xáo DNA không đổi độ chính xác dự đoán bệnh (0.847 vs 0.847); trong evidence conflicts, BioReason theo văn bản 97.9% và BioReason-Pro theo GO-GPT 99.7% số trường hợp
Nghịch lý probe: linear probe trên biểu diễn Evo2/ESM3 dự đoán được target (accuracy 0.736; AUROC 0.77–0.92) — tức biểu diễn có chứa thông tin, nhưng model không khai thác
Ngược lại, các model khác dùng đầu vào sinh học: ChatNT (accuracy sụt từ ~0.99 xuống ~0.5 khi xáo sequence), Prot2Text-V2, CellWhisperer, và các DEG trong gene sentence đóng góp cho C2S-Scale
Post-training tăng accuracy nhưng không tăng việc sử dụng đầu vào sinh học: qua checkpoints SFT→RL và 42 checkpoints của BioReason; riêng C2S-Scale 2B→27B thì tăng cả hai
Reasoning traces sai lệch: BioReason chỉ đúng base substitution 7.2% (RL) và 3.6% (SFT); BioReason-Pro mô tả chức năng có trong trace nhưng vắng mặt ở dự đoán GO cuối; rationale của C2S-Scale quá tải gene ribosomal, làm loãng tín hiệu marker
Supervision phụ trợ: dạy BioReason dự đoán base bị sửa làm nó nhạy với sequence hơn (0.08 → 0.67 accuracy), nhưng chỉ khái quát tốt trên genome đã thấy trong training — trên genome mới chỉ còn 0.148, gần bằng dự đoán majority

IV. Conclusion & Future Works:

Benchmark sinh học hiện tại có thể thưởng cho đáp án đúng mà không yêu cầu model thực sự diễn giải biểu diễn sinh học nó nhận được. Cả ba yếu tố — truy cập biểu diễn có tính dự đoán, post-training (SFT/RL), và accuracy cao hơn — đều không đảm bảo model sử dụng đầu vào sinh học. Thiết kế và đánh giá biological reasoning models cần đặt mục tiêu sử dụng đúng đầu vào ngang hàng với accuracy.

Hướng tương lai:

Thử nghiệm objective RL thưởng cho phản ứng đúng khi đầu vào sinh học thay đổi, không chỉ thưởng accuracy cuối
Mở rộng đánh giá sang kiến trúc và phương thức sinh học khác
Kiểm tra các biến thể training prompt khi giữ cố định các cài đặt còn lại

V. Brainstorming Space:

1. Publish Papers:

Phát triển phương pháp huấn luyện biological reasoning models với reward shaping dựa trên độ nhạy đối với perturbation của đầu vào sinh học, thay vì chỉ tối ưu accuracy cuối cùng.
Áp dụng khung evidence conflict và reasoning trace auditing cho các lớp model multimodal ngoài sinh học (y khoa hình ảnh, tài liệu pháp lý) để phát hiện hiện tượng 'ảo giác hiểu biết' tương tự.
Nghiên cứu cơ chế khiến foundation model representations bị bỏ qua trong post-training — projector, prompt format, hay xung đột với thông tin văn bản — và kỹ thuật projector/thiết kế prompt khắc phục.

2. Patent:

Hệ thống kiểm định tự động cho ứng dụng y sinh trên điện thoại (ví dụ phân tích DNA gửi về từ thiết bị xét nghiệm cá nhân): trước khi đưa kết luận bệnh cho người dùng, hệ thống cố tình xáo trộn trình tự DNA và đối chiếu hai lần chẩn đoán; nếu kết quả không đổi trong khi kết quả phụ thuộc vào trình tự, hệ thống cảnh báo 'kết luận dựa trên chú thích, chưa kiểm chứng trình tự' thay vì đưa ra nhận định chắc chắn.
Trợ lý phân tích protein cho nhà nghiên cứu trên điện thoại: khi hai nguồn bằng chứng (cấu trúc sequence và mô tả chức năng có sẵn) mâu thuẫn nhau, ứng dụng tự phát hiện xung đột bằng cách ghép thử hai nguồn và chạy lại model, rồi hiển thị mức độ tin cậy theo từng nguồn thay vì một đáp án duy nhất.
Công cụ audit reasoning trace cho chatbot y khoa: so khớp tự động từng lập luận sinh ra với đầu vào thực tế (vị trí đột biến, gene, marker) và với kết luận cuối, phát hiện khi model 'kể' chức năng không có trong kết quả hoặc trích dẫn sai đột biến — bắt buộc hiển thị cảnh báo trước khi bác sĩ tin dùng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.00898
ArXiv Abstract	https://arxiv.org/abs/2610.00898
PDF Download	https://arxiv.org/pdf/2610.00898.pdf
Github Repository	N/A

39. Rethinking Relative Policy Differences Transfer of On-Policy Distillation (10 votes)

Tác giả: Rong Wu, Daocheng Fu, Yu Yang, Xuemeng Yang, Siqi Li, et al.

Xuất bản lúc: 2026-10-09

Tag: On-Policy Distillation, Knowledge Distillation, LLM Post-Training, Reinforcement Learning, Supervised Fine-Tuning, Implicit Reward, Policy Transfer, Qwen

I. Main Problem:

On-policy distillation giúp học sinh tự cải thiện trên dữ liệu do chính nó sinh ra, nhưng bản chất phụ thuộc vào giáo viên mạnh hơn rất nhiều. Các phương pháp mới chuyển khác biệt tương đối giữa chính sách trước và sau huấn luyện, nhưng vẫn chưa rõ:

loại khác biệt nào chứa tín hiệu hữu ích
vai trò của mô hình chuyên gia, mô hình tham chiếu và mô hình đích khác nhau thế nào
vì sao cùng một khác biệt có mô hình học được, có mô hình không học được Điều này giới hạn khả năng tái sử dụng kết quả post-training giữa các mô hình khác quy mô, khác giai đoạn huấn luyện và khác kiến trúc.

II. Main Idea:

Bài báo nhìn log-ratio giữa proxy expert và proxy reference như một implicit reward cho bài toán tối ưu chính sách có ràng buộc KL. Từ đó họ rút ra mục tiêu any-to-any policy transfer: cặp nguồn và mô hình đích được chọn độc lập, còn on-policy distillation thông thường chỉ là trường hợp đặc biệt.

Proxy expert: cung cấp khả năng mới cần chuyển giao
Proxy reference: lọc bớt hành vi đã giống expert, chỉ giữ lại phần cải tiến còn lại
Target reference: neo mô hình đích ở điểm xuất phát của chính nó
Transfer strength: tỉ lệ giữa độ mạnh tín hiệu chuyển giao và độ chặt của ràng buộc KL Ba kết luận chính: khác biệt từ huấn luyện theo nhiệm vụ bằng reinforcement learning hoặc supervised fine-tuning chuyển tốt; khác biệt chỉ do tăng quy mô mô hình chuyển yếu; thành công phụ thuộc vào việc cập nhật đẩy mô hình đích tiến gần expert và khái quát ngoài dữ liệu huấn luyện.

Ví dụ đời thường: giống như học nấu ăn không phải chép lại y hệt món thành phẩm của đầu bếp, mà là so sánh đầu bếp trước và sau khi chỉnh công thức để lấy phần thay đổi đúng, rồi áp phần thay đổi đó lên tay nghề hiện có của mình.

III. Main Results:

Nguồn khác biệt quyết định chất lượng supervision: các cặp tối ưu theo nhiệm vụ cho target Qwen3-8B tăng từ +9.78 đến +32.23 điểm; còn khác biệt chỉ do scale thường chỉ tăng nhỏ, có cặp làm target giảm −1.03 dù proxy pair vẫn cải thiện.
Expert và reference bổ sung vai trò: giữ reference cố định, đổi expert từ early RL sang late RL làm target gain tăng từ 22.42 → 26.84 → 28.18; giữ expert cố định, đổi reference làm phần residual cần chuyển thay đổi mạnh, ví dụ từ +9.62 lên +29.09.
Không thể dùng khoảng cách chính sách thô để dự đoán transfer: mối liên hệ giữa proxy gain và target gain rất mạnh, Pearson r = 0.96, nhưng hai cặp có độ lớn cập nhật gần nhau có thể cho kết quả rất khác nếu một cặp mang tín hiệu nhiệm vụ và cặp kia chỉ là chênh lệch scale.
Khả năng nhận tín hiệu là thuộc tính của target: các target Qwen3 đạt gain khoảng +9.78 đến +29.09, trong khi nhiều target Qwen2.5 gần như không học được, thậm chí âm; thay reference sang cùng thế hệ với target có thể cứu transfer thất bại.
Thất bại không phải do thiếu huấn luyện: target không tương thích có thể tăng accuracy trên training nhưng validation gần như không cải thiện, tức đã fit dữ liệu huấn luyện mà không khái quát.
Mẫu hình đồng nhất qua toán và code: cấu hình thành công trên math cũng tăng trên code, ví dụ Qwen3→Qwen3 cải thiện khoảng +26.8 math và +2.3 code; cấu hình cross-generation thất bại trên cả hai.

IV. Conclusion & Future Works:

A2-OPD cho thấy relative policy difference transfer nên được hiểu là chuyển một hướng cải tiến đã được lọc, không phải sao chép phân phối đầu ra tuyệt đối. Ba yếu tố then chốt là task-directed training, reference filtering, và target compatibility. Hướng mở rộng tự nhiên là tự động chọn proxy pair và reference cho từng target, học hoặc hiệu chỉnh transfer strength, kiểm tra trên nhiều họ mô hình và tác vụ hơn ngoài math/code, đồng thời phát triển chỉ số chẩn đoán sớm khả năng khái quát của cập nhật được chuyển giao.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu chọn reference thích ứng cho từng target: dùng tín hiệu overlap token hoặc validation gain sớm để tự động ghép cặp proxy reference với target trước khi chạy huấn luyện đầy đủ.
Mở rộng any-to-any transfer sang đa phương thức: chuyển phần cải tiến tương đối giữa các mô hình xử lý văn bản, hình ảnh, âm thanh hoặc hành động robot khi không thể dùng một giáo viên mạnh hơn trực tiếp.
Phát triển mô hình kinh tế cho reuse post-training: ước lượng khi nào nên chuyển cập nhật tương đối, khi nào nên dùng supervised fine-tuning trực tiếp, và khi nào cần thu thập dữ liệu mới để tránh lãng phí tài nguyên huấn luyện.
Kết hợp implicit reward từ proxy pair với verifier hoặc reward model ngoài để ổn định transfer trong các tác vụ không có phần thưởng dễ kiểm chứng như tóm tắt, lập trình thực tế hoặc lập kế hoạch.

2. Patent:

Tính năng trên điện thoại cải thiện trợ lý ngôn ngữ cục bộ: khi mô hình nhỏ chạy trên máy yếu hơn mô hình đám mây, hệ thống không tải toàn bộ câu trả lời của mô hình lớn mà chỉ trích phần thay đổi hành vi trước và sau khi mô hình đám mây được tinh chỉnh theo tác vụ, rồi áp dụng phần thay đổi đó cho mô hình trên máy.
Bàn phím thông minh tự nâng cấp theo phong cách người dùng mà không đọc toàn bộ dữ liệu riêng tư: máy chủ so sánh phiên bản trước và sau khi tinh chỉnh để tạo tín hiệu sửa chữa tương đối, điện thoại chỉ nhận tín hiệu sửa chữa và điều chỉnh gợi ý gõ phím, viết email hoặc trả lời nhanh.
Module tái sử dụng kết quả huấn luyện cho doanh nghiệp: khi nâng cấp từ thế hệ mô hình cũ sang mô hình mới, hệ thống chọn một mô hình tham chiếu gần với mô hình đích để lọc phần cải tiến còn lại, giúp tri thức đã học từ dữ liệu nội bộ được chuyển sang mô hình mới mà không cần huấn luyện lại từ đầu.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2610.13205
ArXiv Abstract	https://arxiv.org/abs/2610.13205
PDF Download	https://arxiv.org/pdf/2610.13205.pdf
Github Repository	https://github.com/KnowledgeXLab/A2-OPD

📰 Summary of Papers
1. DiffusionART: Efficient, Stable and Scalable Reinforcement of Diffusion Models (232 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
2. S-Space: Exploring Spatial Workspace in Multimodal Language Models (202 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
3. Reflex: Visually Grounded Reactive Humanoid Control (132 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
4. SoftwareGym: Scaling Computer-Use Agent Training with Diverse Synthesized Software Environments (85 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
5. EmbodiedCLBench: Evaluating Continual Learning for Self-Evolving Embodied Agents (63 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
6. VisionWeave: Weaving Elastic Visual Representations as a Native Capability of MLLMs (55 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
7. Hear the World in Stereo: Learning Dynamic Spatial Correspondence for Immersive Joint Video-Audio Generation (51 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
8. ProgramGym: Scaling Training Environments for Long-Horizon Program Reproduction Agents (49 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
9. Continually Post-training Small Models via Synthetic Self-distillation (41 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
10. Work2Skill: Capturing Human GUI Experience for Reusable Agent Skill Induction (39 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
11. SepGen: Multi-Stem Audio-Video Separation and Generation in a Single Model (39 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
12. Can AI Agents Learn Their Way to the Top? Evaluating Heuristic Learning in a Long-Running Game Agent Competition (33 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
13. SoloQ: Calibration-Free Quantization for Diffusion Language Models (33 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
14. RSI-Anything: Unlocking Recursive Self-Improvement with World Models (30 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
15. PolyOCR-Venus: Unified OCR Foundation Models for Text-Centric Visual Intelligence (29 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
16. Learning Representations to Guide Pixel Diffusion Transformers (22 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
17. Contextual Correction of Parallel Draftsfor Speculative Decoding (21 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
18. SWE-Duel: Towards a Self-Scaling Arena for Coding Agents (20 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
19. InstantFusion: A Shared Latent Interface for Heterogeneous Image Generators (18 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
20. Inducing Process Supervision from Outcome-Only Reinforcement Learning (18 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
21. Stateless Language Agents: Scaling Long-Horizon Automated Research (18 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
22. Towards Physically Grounded Articulated 3D Assets: A Multi-Agent Pipeline and Benchmark (18 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
23. When Do We Need On-Policy Distillation? Distilling on Offline Student Rollouts Is Often Better (17 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
24. MetaKernelBench: Measuring GPU Kernel Knowledge Transfer Beyond Code (16 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
25. Recurrent Harness for Agentic Continual Learning (16 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
26. Judging in Latent Space: Efficient Generative Reward Modeling via Semantics-Preserving Compression (16 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
27. DataVista: Diagnosing Multimodal LLMs on Data Video Understanding (13 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
28. Surfing the Activation Wave: Analyzing the Information and Geometry of LLM Hidden States for Speculative Decoding (13 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
29. GraphDecisionBench: Benchmarking System One Models on Graph Tasks (13 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
30. From Given to Gathered Evidence: Agentic Learning for Longitudinal Medical Reasoning (12 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
31. MixTok: Adaptive Visual Tokenization with Global 1D Tokens and Sparse 2D Refinement (12 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
32. Video-RSI: Recursive Self-Improvement of Video Understanding Agents via Harness Evolution (12 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
33. Coding-Agent Benchmarks Should Match Their Users' Task Flows (11 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
34. AMLworld-Compact: Importance-Weighted Downsampling for Cost-Effective LLM Evaluation and Error Diagnosis (11 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
35. Universal Textual Teaching for LLMs (10 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
36. TouchScale: 500 Hours of Human Vision and Touch for Visual-Tactile Learning (10 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
37. PreSTO: Predictive Subtree Prefetching for Fast LLM Power Sampling (10 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
38. When Do Biological Reasoning Models Use Their Biological Inputs? (10 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan
39. Rethinking Relative Policy Differences Transfer of On-Policy Distillation (10 votes)
- I. Main Problem:
- II. Main Idea:
- III. Main Results:
- IV. Conclusion & Future Works:
- V. Brainstorming Space:
- Các đường dẫn liên quan

📰 Summary of Papers​

1. DiffusionART: Efficient, Stable and Scalable Reinforcement of Diffusion Models (232 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

2. S-Space: Exploring Spatial Workspace in Multimodal Language Models (202 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

3. Reflex: Visually Grounded Reactive Humanoid Control (132 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

4. SoftwareGym: Scaling Computer-Use Agent Training with Diverse Synthesized Software Environments (85 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

5. EmbodiedCLBench: Evaluating Continual Learning for Self-Evolving Embodied Agents (63 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

6. VisionWeave: Weaving Elastic Visual Representations as a Native Capability of MLLMs (55 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

7. Hear the World in Stereo: Learning Dynamic Spatial Correspondence for Immersive Joint Video-Audio Generation (51 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

8. ProgramGym: Scaling Training Environments for Long-Horizon Program Reproduction Agents (49 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

9. Continually Post-training Small Models via Synthetic Self-distillation (41 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

📰 Summary of Papers

1. DiffusionART: Efficient, Stable and Scalable Reinforcement of Diffusion Models (232 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

2. S-Space: Exploring Spatial Workspace in Multimodal Language Models (202 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

3. Reflex: Visually Grounded Reactive Humanoid Control (132 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

4. SoftwareGym: Scaling Computer-Use Agent Training with Diverse Synthesized Software Environments (85 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

5. EmbodiedCLBench: Evaluating Continual Learning for Self-Evolving Embodied Agents (63 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

6. VisionWeave: Weaving Elastic Visual Representations as a Native Capability of MLLMs (55 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

7. Hear the World in Stereo: Learning Dynamic Spatial Correspondence for Immersive Joint Video-Audio Generation (51 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

8. ProgramGym: Scaling Training Environments for Long-Horizon Program Reproduction Agents (49 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

9. Continually Post-training Small Models via Synthetic Self-distillation (41 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers: