Chuyển tới nội dung chính

🤗 Daily Hugging Face Paper Digest - 2026-11-09

Báo cáo được tạo tự động vào lúc 2026-11-10 10:18:35 bằng mô hình hermes-agent.

📰 Summary of Papers​


1. SplatAnything: Gaussian Spacing Normalization for Feed-forward 3DGS across Arbitrary Scenes (64 votes)​

Tác giả: Hao Yu, Zhenwei Wang, Yongzhen Hu, Yuning Gong, Junta Wu, et al.

Xuất bản lúc: 2026-11-05

Tag: 3D Gaussian Splatting, Feed-forward 3D Reconstruction, Novel View Synthesis, Geometry Foundation Models, Normalization

I. Main Problem:​

Các phương pháp feed-forward 3DGS hiện tại dựa trên mô hình hình học foundation đều dự đoán thuộc tính Gaussian trong không gian Radial Distance Normalization (RDNorm) — chuẩn hóa theo khoảng cách xuyên tâm trung bình từ camera. Vấn đề:

  • RDNorm không chuẩn hóa trực tiếp khoảng cách giữa các tâm Gaussian lân cận (Gaussian spacing), mà đại lượng này thay đổi tới 4.5× giữa các loại cảnh (vật thể, trong nhà, ngoài trời) và giữa các cấu hình camera.
  • Vì Gaussian scale cần tương xứng với spacing để phủ bề mặt, cùng một quan sát cục bộ tương tự lại tương ứng với target khác nhau giữa các cảnh → ambiguity trong supervision.
  • Hệ quả: model thiên lệch scale nhỏ tạo lỗ hổng (holes) ở vùng spacing lớn; thiên lệch scale lớn gây over-smoothing ở vùng dày đặc — bottleneck chính của khái quát hóa cross-scene.

II. Main Idea:​

Đề xuất Gaussian Spacing Normalization (GSNorm) trong framework SplatAnything:

  • Khai triển quan hệ chiếu: với mô hình pinhole, spacing đặc trưng tại pixel là d_i(u) ≈ D_i(u) / √(f_x f_y) — phụ thuộc độ sâu và camera intrinsics.
  • Chuẩn hóa toàn cảnh bằng trung vị (median) của spacing trên mọi pixel hợp lệ: s_g = median(D_i(u)/√(f_x f_y)), rồi rescale toàn bộ geometry, depth, translation camera về median spacing = 1.
  • Median giúp robust với outlier và bảo toàn biến thiên cục bộ có nghĩa của spacing.

Kiến trúc: geometry foundation model WorldMirror 2.0 đông cứng ước lượng depth/poses → chuyển từ không gian RDNorm sang GSNorm → Gaussian Backbone (fine-tune từ backbone hình học) + GS Head nhẹ dự đoán per-pixel opacity, rotation, scale, SH coefficients; mỗi pixel hợp lệ là một tâm Gaussian. Huấn luyện 20k iterations, 64 GPU H20, MSE + LPIPS.

Ví dụ đời thường: như người may đo thay vì cắt vải theo kích thước giấy tờ (khoảng cách xuyên tâm) thì đo trực tiếp khoảng cách giữa các nét kim trên áo để chọn cỡ kim chuẩn — dù áo to hay nhỏ, mũi kim luôn khớp với độ dãn của vải.

III. Main Results:​

  • SOTA trên 7 dataset (ScanNet, NRGBD, DL3DV, Tanks&Temples, Mip-NeRF 360, ETH3D, DTU), ở cả cài đặt có và không có camera pose, với 1–64 ảnh đầu vào; ví dụ cải thiện rõ nhất ở DL3DV (LPIPS 0.156 vs 0.188 của Mirror2-GS) và DTU khi có pose (0.184 vs 0.315).
  • Cải thiện mạnh nhất khi scene scale và viewpoint lệch lớn (extrapolated views, overlap 0.2–0.6).
  • Monocular: vượt SHARP và InfiniSplat trên hầu hết dataset.
  • Ablation: GSNorm thắng cả RDNorm và RDNorm + scale calibration ở mọi mức số ảnh (ví dụ 4 views: LPIPS 0.245 vs 0.278 và 0.309) — chứng tỏ hiệu chỉnh scale sau dự đoán không khắc phục được ambiguity của RDNorm.
  • Benchmark mới có hệ thống: cross-domain, độ phân giải 480p–1K, 1→64 views, target views extrapolation có kiểm soát.

IV. Conclusion & Future Works:​

GSNorm khắc phục ambiguity của supervision bằng cách chuẩn hóa trực tiếp spacing đặc trưng thay vì thống kê xuyên tâm, giúp một model feed-forward duy nhất khái quát tốt qua mọi quy mô cảnh và cấu hình camera — bước tiến lớn cho feed-forward 3DGS. Hạn chế: phụ thuộc prior hình học nên suy giảm khi đầu vào cực thưa/thử thách; chỉ tái dựng vùng nhìn thấy, còn lỗ hổng ở vùng unobserved. Hướng tương lai: ước lượng hình học robust hơn và dùng generative priors để hoàn thiện vùng không quan sát được.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng GSNorm cho tái dựng 4D động: chuẩn hóa spacing của Gaussian theo thời gian để feed-forward 4D reconstruction khái quát qua cảnh động với quy mô và tốc độ chuyển động khác nhau.
  2. Kết hợp generative priors với GSNorm để hallucinate và hoàn thiện các vùng bị che khuất/không quan sát được, giảm lỗ hổng khi đầu vào thưa.
  3. Nghiên cứu thống kê chuẩn hóa spacing thích ứng theo vùng (local/per-object normalization) thay vì một factor toàn cảnh duy nhất cho cảnh có nhiều vật thể quy mô lệch nhau.

2. Patent:​

  1. Ứng dụng điện thoại quét 3D: người dùng quay vài giây video bất kỳ (phòng nhỏ hay cảnh ngoài trời rộng), ứng dụng tự chuẩn hóa mật độ điểm 3D theo khoảng cách giữa các điểm lân cận để dựng mô hình 3D nhất quán, không cần cấu hình thủ công.
  2. Dịch vụ đám mây tạo nội dung 3D cho game/AR: upload bộ ảnh với số lượng và loại camera tùy ý, hệ thống feed-forward dựng Gaussian 3D trong vài giây với chất lượng ổn định qua mọi quy mô cảnh.
  3. Module nén và truyền scene 3D trong video call thực tế ảo: chuẩn hóa spacing Gaussian ở phía người gửi giúp người nhận hiển thị cảnh 3D từ góc nhìn mới (di chuyển đầu) mà không bị vỡ hình hay mờ khi zoom ra xa.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2611.08264
ArXiv Abstracthttps://arxiv.org/abs/2611.08264
PDF Downloadhttps://arxiv.org/pdf/2611.08264.pdf
Github Repositoryhttps://github.com/zju3dv/SplatAnything

2. P^2-MOPD: Accelerating Multi-Teacher On-Policy Distillation via Parameter Priors (45 votes)​

Tác giả: Sinuo Wang, Jiacheng Lu, Zeyu Zhang, Maojia Song, Rui Sun, et al.

Xuất bản lúc: 2026-11-02

Tag: Model Merging, Task Arithmetic, On-Policy Distillation, Multi-Teacher Distillation, Large Language Models, Parameter Priors, Model Consolidation

I. Main Problem:​

Khi hợp nhất nhiều chuyên gia đã huấn luyện riêng thành một mô hình LLM chung, MOPD giúp giữ khả năng từng lĩnh vực bằng cách cho giáo viên chấm điểm câu trả lời do học sinh tự sinh, nhưng quy trình này rất nặng và chậm: mỗi bước phải sinh rollout, chạy giáo viên bằng teacher forcing, rồi cập nhật học sinh qua nhiều vòng. MOPD cũng không phục hồi đều các lĩnh vực, thường bỏ lại y tế phía sau; tiếp tục distill thậm chí có thể làm xói mòn khả năng mà phép merge ban đầu đã có. Trong khi đó, Task Arithmetic hợp nhất tham số theo tổ hợp tuyến tính mà không cần huấn luyện, nhưng mô hình sau merge không được giám sát nên chất lượng không đảm bảo; merge đều trong bài báo chỉ phục hồi khoảng 43% tại 4B và 32% tại 1.7B. Giới hạn cốt lõi là mô hình bị khóa trong không gian affine sinh bởi các task vector, nên khó điều chỉnh theo hướng mà không chuyên gia nào chứa sẵn.

II. Main Idea:​

P2-MOPD coi một tổ hợp tuyến tính của học sinh và các chuyên gia đóng băng là một mô hình duy nhất, có thể backpropagation đồng thời qua cả trọng số học sinh lẫn hệ số pha trộn. Với mỗi module tuyến tính, mô hình viết lại trọng số là W_m = B_m + Σ_k α_k,m τ_k,m, trong đó B_m là trọng số học sinh đầy đủ, τ_k,m là task vector của chuyên gia k, còn α_k,m là hệ số học được; chuyên gia và task vector luôn đóng băng. P2-MOPD giữ nguyên mất MOPD trên rollout của học sinh, nhưng gradient chảy qua hai kênh: - kênh hệ số: ∂L/∂α_k,m = ⟨G_m, τ_k,m⟩, tức đạo hàm theo hướng của từng chuyên gia - kênh trọng số: ∂L/∂B_m = G_m, cho phép học sinh điều chỉnh bên ngoài không gian span của các task vector

Khởi tạo từ Task Arithmetic merge, hệ số α bắt đầu ở λ và B bắt đầu ở trọng số nền, nên mô hình ban đầu trùng đúng merge. Sau đó hai kênh chia việc: hệ số kéo mô hình dọc theo các hướng đã học từ chuyên gia, còn trọng số học sinh uốn mô hình ra ngoài các hướng đó. Khác IM-MOPD chỉ merge theo quy tắc kiểm định tại các mốc rời rạc, P2-MOPD học hệ số liên tục từ chính gradient distill. Nó có thể được xem như preconditioning bậc thấp: thành phần α làm gradient dọc theo task vector mạnh hơn, nhưng mô hình không bị giam trong span vì B vẫn tự do.

Ví dụ đời thường: giống lái xe có sẵn vài “thanh kéo” đưa xe về phía từng người thầy, nhưng vẫn giữ vô lăng riêng; thanh kéo giúp xe đi đúng hướng chuyên gia đang bị bỏ lại, còn vô lăng cho phép rẽ ra ngoài con đường đó khi cần.

III. Main Results:​

  • Nhanh hơn rõ rệt: tại Qwen3-4B, P2-MOPD đạt 92.3% average recovery sau 50 bước, vượt mức cuối cùng của MOPD từ cùng Task Arithmetic init là 83.1%; tại Qwen3-1.7B là 90.5% sau 50 bước, vượt 80.9% của MOPD.
  • Kết quả cuối tốt hơn: average recovery đạt 94.85% tại 4B so với 83.13% của MOPD, và 94.74% tại 1.7B so với 80.93%; cải thiện raw score trung bình khoảng +2.66 điểm tại 4B và +2.17 điểm tại 1.7B.
  • Cân bằng hơn mạnh mẽ: worst-domain recovery tăng từ 47.22% lên 89.42% tại 4B, và từ 32.03% lên 88.01% tại 1.7B; độ lệch chuẩn giữa các lĩnh vực giảm từ 21.8 xuống 4.6 tại 4B và từ 28.4 xuống 4.8 tại 1.7B.
  • Nguồn lợi chủ yếu ở MedQA: P2-MOPD cao hơn MOPD +29.0 recovery points tại 4B và +48.2 points tại 1.7B ở y tế; các lĩnh vực khác hầu như được giữ ở mức rất cao, FinQA vẫn đạt khoảng 98%/94% recovery.
  • Phân tích hướng di chuyển: MOPD gần như không đi dọc theo task vector y tế, chỉ khoảng +0.03, trong khi P2-MOPD di chuyển +0.40/+0.42, gấp 13–15 lần; hệ số α_med tự học tăng từ 0.25 lên khoảng 0.63–0.65.
  • Hai kênh chia việc: kênh hệ số chiếm khoảng 81%/84% năng lượng dịch chuyển trong span của task vector, còn kênh trọng số học sinh chủ yếu điều chỉnh bên ngoài span.
  • Chi phí hợp lý: mỗi bước đắt hơn do phải đưa task vector vào cập nhật, nhưng 100 bước chỉ tốn 1.24× tại 4B và 1.09× tại 1.7B thời gian của MOPD; P2-MOPD vượt chất lượng cuối của MOPD chỉ với khoảng 0.31× wall-clock tại 4B và 0.55× tại 1.7B.
  • Ablation cho thấy cần cả hai phần: chỉ học hệ số trong span đạt khoảng 52.98/49.31 average recovery, chỉ học trọng số đạt 83.13/80.93, còn học cả hai đạt 94.85/94.74; dùng hướng ngẫu nhiên thay task vector thì không vượt được MOPD.

IV. Conclusion & Future Works:​

Thay vì chỉ dùng chuyên gia một lần như khởi tạo, merge rời rạc hoặc nguồn logit giám sát, P2-MOPD cho thấy trọng số chuyên gia có thể là parameter prior xuyên suốt quá trình distill, định hướng cả cách học sinh di chuyển trong không gian tham số. Điểm mấu chốt là reachability: gradient chỉ cập nhật trọng số học sinh gần như không đi theo hướng của lĩnh vực bị bỏ lại, còn một hệ số học được cho mỗi module mở ra hướng đó; đồng thời trọng số học sinh tự do giúp mô hình vượt khỏi span của task vector. Hướng mở rộng hợp lý: thử trên nhiều lĩnh vực và nhiều giáo viên hơn, kiểm tra độ nhạy với learning rate của α, giảm chi phí stream task vector trong huấn luyện phân tán, và dùng hệ số học được như một công cụ chẩn đoán khả năng đóng góp của từng chuyên gia.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng parameter priors cho nhiều hơn bốn lĩnh vực và nhiều thang mô hình, kiểm tra xem hệ số học được có tự tìm đúng chuyên gia bị bỏ lại khi số task vector tăng lên và khi các lĩnh vực chồng lấn phức tạp hơn.
  2. Kết hợp P2-MOPD với các cơ chế cân bằng ngân sách hoặc định tuyến token của MOPD hiện đại, để xem kênh hệ số tham số và kênh giám sát token có bổ sung hay cạnh tranh lẫn nhau khi cả hai cùng nhắm vào lĩnh vực yếu.
  3. Phát triển biến thể chi phí thấp cho hợp nhất chuyên gia trên thiết bị hoặc hạ tầng hạn chế, bằng cách nén task vector, dùng granularity thô hơn có chọn lọc, hoặc cập nhật hệ số α theo chu kỳ thay vì mỗi bước.
  4. Nghiên cứu lý thuyết preconditioning của parameter priors, đặc biệt khi kết hợp với Adam, clipping và weight decay, để giải thích vì sao kênh hệ số làm gradient dọc theo chuyên gia hiệu quả mà không làm mất khả năng điều chỉnh bên ngoài span.

2. Patent:​

  1. Hệ thống hợp nhất mô hình AI cá nhân hóa trên điện thoại: người dùng cài sẵn nhiều gói chuyên môn như y tế, pháp lý, tài chính; mô hình chung khởi tạo bằng cách pha trộn tuyến tính các tham số chuyên môn, rồi tinh chỉnh đồng thời hệ số pha trộn và trọng số riêng để trả lời đúng lĩnh vực mà không cần gửi dữ liệu cá nhân lên máy chủ.
  2. Trợ lý điện thoại học kỹ năng mới qua gói chuyên gia tải về: thay vì huấn luyện lại toàn bộ trợ lý, hệ thống dùng gói tham số chuyên môn làm prior, sinh câu trả lời thử, nhờ mô hình chuyên môn chấm điểm, rồi cập nhật hệ số pha trộn và trọng số chung để học nhanh kỹ năng đó với ít bước hơn.
  3. Nền tảng hợp nhất mô hình cho doanh nghiệp có nhiều phòng ban: máy chủ giữ các mô hình chuyên gia làm nguồn prior đóng băng, trong khi mô hình dịch vụ chung học cách pha trộn và điều chỉnh tham số từ dữ liệu tự sinh của chính mình, giúp giảm thời gian huấn luyện và tránh trường hợp một phòng ban bị bỏ lại phía sau.
  4. Công cụ chẩn đoán trước khi phát hành mô hình đã hợp nhất: sau huấn luyện, hệ thống trực quan hóa các hệ số pha trộn học được để cho biết mô hình đang dựa vào chuyên gia nào, lĩnh vực nào bị thiếu, và cần bổ sung dữ liệu hay chuyên gia nào trước khi triển khai cho người dùng cuối.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2611.03953
ArXiv Abstracthttps://arxiv.org/abs/2611.03953
PDF Downloadhttps://arxiv.org/pdf/2611.03953.pdf
Github Repositoryhttps://github.com/SinuoWang/P2-MOPD

3. Confucius4-R2T2: A Stable-Prefix Streaming ASR Model for Real Real-Time Transcription (35 votes)​

Tác giả: Daniel Huang, Qi He, Shaoxiong Duan, Yingjie Li, Qiao Cheng, et al.

Xuất bản lúc: 2026-11-04

Tag: ASR, Streaming Speech Recognition, Speech LLM, Stable-Prefix Decoding, Post-training, GRPO

I. Main Problem:​

Nhận dạng giọng nói trực tiếp (streaming ASR) ngày càng được máy móc tiêu thụ (dịch thuật viên, tác tử giọng nói) xử lý từng token ngay khi nó xuất hiện. Vấn đề cốt lõi:

  • Token phát ra sớm thường bị sửa lại khi có thêm âm thanh (hiện tượng flicker/revision): gây lãng phí tính toán cho hệ thống hạ nguồn và có thể dẫn đến hành động sai trong tác tử.
  • Các phương pháp cũ hoặc dùng luật cam kết tại inference (Local Agreement, hold-n, mask-k) — chỉ che giấu, model vẫn học cách sửa, không đảm bảo — hoặc train gián tiếp (prefix training, self-training) — giảm revision nhưng không bao giờ đảm bảo ổn định.
  • Không có định nghĩa và mục tiêu học tập nào cho phép chuyển một model full-context thành streaming ổn định mà không đổi kiến trúc (causalize encoder) hay tổn hao độ chính xác.

II. Main Idea:​

Confucius4-R2T2 chuyển Qwen3-ASR-1.7B thành model streaming có tiền tố ổn định (stable-prefix) bằng post-training 1.500 giờ âm thanh Trung–Anh, đóng băng encoder và projector (giữ đặc trưng bidirectional gốc). Trụ cột là khái niệm mới Longest Stable Prefix (LSP):

  • Định nghĩa: tại thời điểm t, LSP là output dài nhất mà model từng tạo ra từ âm thanh đã có và hoàn toàn là tiền tố của output full-audio — chỉ công nhận tất cả hoặc không.
  • Tính chất được chứng minh: đơn điệu theo thứ tự tiền tố (không bao giờ co), nhất quán với output đầy đủ, và tối đa trong các nhãn trùng một output thực — khác với nhãn final-anchored (có thể gán một trạng thái model chưa từng thực sự đạt) và all-future (quá chặt).
  • LSP Learning (hai giai đoạn): (1) SFT — cắt audio ngẫu nhiên, nếu cắt trong vùng ổn định thì gán tiền tố LSP, nếu cắt ở khoảng không chắc thì gán LSP + token Wait; model học tách quyết định khi nào nói khỏi nói gì; (2) GRPO — phần thưởng 8 thành phần (CER, chống lặp, chống tiếp tục sớm, chống hallucination) để tinh chỉnh chất lượng và hành vi chờ.
  • Inference tối ưu: tái sử dụng cache theo cửa sổ attention 8s, Wait-terminated decoding (gặp Wait là dừng, không sinh token mới), bị chặn ngữ cảnh — không đổi model mà đạt RTF < 1, chunk cấu hình được từ 80 ms đến 2 s.

Ví dụ đời thường: giống người ghi chép cuộc họp theo lời — chỉ chốt lại những câu đã chắc chắn vào biên bản, còn đoạn đang nghe dở thì ghi "chờ" thay vì viết bừa rồi lại tẩy sửa, nên bản chép cuối cùng chỉ dài ra chứ không bao giờ bị thay đổi ngược.

III. Main Results:​

  • Ổn định tuyệt đối: output chỉ bổ sung, không bao giờ sửa lại (đạt định nghĩa stable-prefix theo nghĩa hành vi), đồng thời độ chính xác gần bằng chế độ full-context của chính model gốc và tốt hơn các model proprietary cùng hạng.
  • Độ trễ thấp: dưới 500 ms ở chunk nhỏ nhất; chỉ 6,25 cập nhật/giây ở chunk 160 ms.
  • Đo lường mới — Streamability (AUC của độ dài LSP theo thời gian): Qwen3-ASR-1.7B đạt 0.493, cao nhất trong các model thử nghiệm — chỉ tiêu tốt để chọn backbone khả dĩ stream hóa; thú vị là WhisperRT (encoder đã causalize) có streamability còn kém hơn cả base model do output không ổn định.
  • Khái quát ngoài ngôn ngữ post-train: lợi ích vượt ra ngoài Trung–Anh, cho thấy đây là đường đi thực tiễn từ full-context ASR sang streaming ổn định.
  • Một model hai chế độ: cùng weights chạy được cả streaming lẫn full-context, phục hồi phần lớn chất lượng offline.
  • Model weights và code được mở nguồn (HuggingFace, GitHub — netease-youdao).

IV. Conclusion & Future Works:​

LSP Learning cho thấy có thể biến model full-context thành streaming stable-prefix mà không causalize encoder, không thêm lớp/head, không đổi kiến trúc — chỉ bằng cách dạy decoder biết khi nào nên nói "Wait". Đánh đổi chính là tính bảo thủ: một token lệch là mất toàn bộ công nhận ở bước đó, khiến phát hơi muộn hơn nhãn final-anchored. Hướng tương lai:

  • Streamability có khái quát được cho các tác vụ stream khác (ví dụ dịch đồng thời) hay không.
  • Self-distillation hiện tại tránh lệch pha teacher–student; cần kiểm chứng liệu teacher mạnh hơn có tạo model streaming tốt hơn không.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Áp dụng khung LSP Learning cho dịch thuật đồng thời (simultaneous translation): định nghĩa LSP cho chuỗi song ngữ và chứng minh tính admissible của nhãn giúp loại bỏ flicker mà không cần force-decode committed prefix.
  2. Phát triển chỉ số streamability thành công cụ chẩn đoán chuẩn: tương quan AUC với WER streaming và độ trễ trên nhiều backbone, xây dựng bộ benchmark công khai cho tiềm năng stream hóa của model full-context.
  3. Kết hợp token Wait với học chính sách phát (emission policy) bằng reinforcement learning trực tiếp trên độ trễ–chất lượng, thay vì chỉ tinh chỉnh hành vi chờ qua reward thủ công.
  4. Mở rộng LSP Learning lên nhận dạng đa ngôn ngữ và code-switching, kiểm chứng giả thuyết khái quát ngoài ngôn ngữ post-train được quan sát thực nghiệm.

2. Patent:​

  1. Phụ đề trực tiếp trên điện thoại cho cuộc gọi/hội nghị: model nghe theo từng đoạn âm thanh ngắn và chỉ hiển thị những câu đã chắc chắn, phần chưa chắc hiển thị dạng chờ — người dùng không bao giờ thấy chữ bị nhảy lùi hay sửa lộn xộn trên màn hình.
  2. Trợ lý giọng nói phản hồi nhanh và an toàn trên điện thoại: vì văn bản trung gian không bị thu hồi, tác tử có thể bắt đầu tra cứu hoặc gọi công cụ ngay khi câu nói chắc chắn, không tốn công tính lại khi model đổi ý.
  3. Hệ thống phiên âm cho phòng họp/phiên tòa chạy thời gian thực: bản ghi được chống sửa theo nguyên tắc chỉ-thêm-không-đổi, đáp ứng yêu cầu chứng cứ điện tử mà không cần lưu lịch sử từng phiên bản sửa đổi.
  4. Phương pháp huấn luyện chuyển đổi: lấy một model nhận dạng giọng nói offline có sẵn, cho nó nghe lại dữ liệu theo từng đoạn, tự gán nhãn cho chính mình theo nguyên tắc chỉ công nhận đoạn hoàn toàn khớp với kết quả khi nghe trọn vẹn — biến thành model trực tiếp ổn định mà không phải đào tạo lại bộ phận xử lý âm thanh.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2611.06043
ArXiv Abstracthttps://arxiv.org/abs/2611.06043
PDF Downloadhttps://arxiv.org/pdf/2611.06043.pdf
Github Repositoryhttps://github.com/netease-youdao/Confucius4-R2T2

4. PCBRouteAgent: How Close Are LLM Agents to Becoming PCB Routing Engineers? (30 votes)​

Tác giả: Yue Zhang, Jilei Sun, Liqiang Jing, Yijie Wei, Ruohan Yang

Xuất bản lúc: 2026-11-05

Tag: LLM Agents, PCB Routing, EDA, Tool Use, Multimodal Agents, Feedback-Driven Planning, Replanning

I. Main Problem:​

Đi dây mạch in (PCB routing) là quá trình chuyển kết nối nguyên lý thành đường đồng vật lý, tuân thủ nghiêm ngặt luật thiết kế (khoảng cách cách điện, độ rộng dây, vias, ranh giới board). Đây là bài toán liên kết chặt: mỗi quyết định đi dây cục bộ ảnh hưởng đến các kết nối còn lại.

  • Router truyền thống (Freerouting, OrthoRoute) tự động phần nào nhưng board phức tạp vẫn cần can thiệp thủ công.
  • Các tác tử LLM trong PCBWorld dù có công cụ đi dây gốc của KiCad vẫn thua router dạng rule-based, đặc biệt trên board thực: GPT-5.4 chỉ đạt 42% trên D3-A và 0% trên D3-B.
  • Nguyên nhân: truy cập công cụ + phản hồi thực thi không tự động tạo ra phối hợp ở tầm board — tác tử thiếu cơ chế lập kế hoạch toàn cục, phân bổ không gian giữa các net cạnh tranh, và nhận biết khi nào cần đổi chiến lược thay vì thử lại cục bộ.

II. Main Idea:​

PCBRouteAgent mô phỏng cách kỹ sư thật làm: lập kế hoạch toàn cục, thực thi cục bộ, và điều chỉnh khi bị kẹt — qua vòng lặp plan–execute có phản hồi:

  • Global Routing Planner (multimodal LLM): nhận ảnh board (layout, 2 mặt đồng, nhu cầu kết nối) + thông tin cấu trúc (tọa độ pad, net, luật thiết kế), rồi sinh routing guide gồm:
    • Topology kết nối bằng Minimum Spanning Tree trên các cụm pad của mỗi net (giảm không gian tìm kiếm tổ hợp)
    • Thứ tự đi dây: net ngắn trước
    • Hành lang đi dây (corridors) và vùng chuyển lớp (via regions) — chỉ định vùng không gian, không cố định đường dây chính xác
  • Detailed Routing Executor: dùng router push-and-shove (PNS) của KiCad để kéo dây thật qua các waypoint; khi hỏng thì phục hồi cục bộ có giới hạn (walkaround, shove, tìm đường vòng bằng A*)
  • Feedback-driven replanning: thất bại cục bộ được đóng gói thành feedback có cấu trúc (vị trí dừng, chướng ngại, độ lệch so với guide); planner sinh guide patch chỉ sửa phần hỏng, giữ nguyên các dây đã đi thành công

Ví dụ đời thường: giống người giao hàng lập sơ đồ chạy xe cho cả thành phố trước (đi đâu trước, đường nào, chỗ nào đổi tầng), nhưng nếu gặp đường đào thì tự đi vòng cục bộ; chỉ khi nào bí hoàn toàn mới quay về bản đồ lớn để vẽ lại đoạn đường đó, không vẽ lại toàn bộ.

III. Main Results:​

  • Đánh giá trên PCBWorld-Bench: 128 board tổng hợp + 119 board thực (4 split D2, D3-A, D3-B, D3-C).
  • Clean-pass rate: 100% (D2), 94.9% (D3-A), 100% (D3-B), 40% (D3-C).
  • Vượt baseline rule-based mạnh nhất (Freerouting) lần lượt +19.9, +36, +10 điểm phần trăm trên ba tập thực; vượt tác tử PCBWorld GPT-5.4 rất xa (42% / 0% / 30%).
  • Trên D3-C: đạt 94.9% routability, giảm số vi phạm luật thiết kế trung bình từ 32.0 (Freerouting) xuống 6.3 mỗi board.
  • Sử dụng Claude Opus 5.5 và Haiku 5.5; đánh giá bởi engine KiCad chính thức, không phải tự đánh giá.

IV. Conclusion & Future Works:​

Kết quả cho thấy LLM agents đã vượt rule-based routers và tiến gần vai trò kỹ sư đi dây PCB nhờ tách biệt planning toàn cục khỏi execution cục bộ và dùng phản hồi thực thi để replan có chọn lọc — thay vì để mỗi quyết định là bài toán tìm đường riêng lẻ. Nhân tố then chốt là guide patch chỉ sửa phần lỗi, bảo toàn các tuyến đã hoàn thành. Hướng mở: nâng tỷ lệ pass trên board lớn phức tạp (D3-C mới 40%), tối ưu ngân sách gọi mô hình/token, và mở rộng sang placement–routing phối hợp.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng vòng lặp plan–execute–replan cho placement–routing liên kết: planner toàn cục điều phối đồng thời vị trí linh kiện và đường dây để tối ưu khả năng đi dây ngay từ bước bố trí.
  2. Học chiến lược khám phá phục hồi cục bộ bằng reinforcement learning, thay các ngưỡng retry cố định để giảm số lần leo thang lên replan toàn cục và tiết kiệm chi phí LLM.
  3. Áp dụng phản hồi có cấu trúc dạng guide patch cho các bài toán layout vật lý khác (chip package routing, floorplanning) nơi quyết định toàn cục và thực thi hình học cần tách rời.

2. Patent:​

  1. Trợ lý đi dây mạch in tự động tích hợp trong phần mềm thiết kế trên điện thoại/máy tính bảng: người dùng mô tả board bằng ảnh chụp và danh sách linh kiện; hệ thống đề xuất sơ đồ đi dây (thứ tự net, vùng đi dây, chỗ đổi lớp), tự kéo dây bằng engine thiết kế và sửa lại phần bị kẹt mà không phải đi lại từ đầu.
  2. Hệ thống kiểm tra và sửa lỗi board mạch in cho nhà sản xuất thiết bị điện tử: khi công cụ đi dây báo vi phạm luật thiết kế, hệ thống gửi về báo cáo lỗi có cấu trúc (vị trí, chướng ngại vật) cho mô hình phân tích và chỉ điều chỉnh lại đoạn dây lỗi, giữ nguyên toàn bộ phần đã đạt chuẩn.
  3. Công cụ dạy và hỗ trợ kỹ sư thiết kế mạch mới vào nghề: mỗi lần thực tập sinh bị kẹt khi kéo dây, hệ thống giải thích vì sao kế hoạch toàn cục cần thay đổi và đề xuất phương án khác, kèm hình ảnh minh họa trước/sau trên màn hình.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2611.08175
ArXiv Abstracthttps://arxiv.org/abs/2611.08175
PDF Downloadhttps://arxiv.org/pdf/2611.08175.pdf
Github Repositoryhttps://github.com/chip-ai-agent/PCBRouteAgent

5. LongBanana: An Expert-Verified Benchmark for Long-Context Multi-Reference Image Synthesis (28 votes)​

Tác giả: Haoxiang Cao, Yuxuan Zhang, Penghui Du, Bo Li, Jiajiong Cao, et al.

Xuất bản lúc: 2026-11-04

Tag: Image Synthesis, Multi-Reference Generation, Benchmark, Evaluation, Agentic Workflow, Long-Context Generation, VLM-as-Judge

I. Main Problem:​

Đánh giá mô hình sinh ảnh không chỉ cần ảnh trông đẹp, mà phải dùng đúng bằng chứng thị giác phân tán trên nhiều ảnh tham chiếu. Thách thức cốt lõi:

  • retrieval: chọn đúng ảnh liên quan từ kho lớn (~32 ảnh/case)
  • rejection: loại distractor giống thật nhưng không liên quan
  • binding: gắn đúng thuộc tính/vật liệu/màu/quan hệ vào đúng thực thể
  • composition: thỏa ràng buộc toàn cảnh như layout, số lượng, trạng thái

Lỗi thường là provenance errors: ảnh render mượt nhưng sai nguồn — copy màu từ sai túi, gắn handle sai đối tượng, lọt hard-negative, hoặc thêm chi tiết không được hỗ trợ.

II. Main Idea:​

LONGBANANA biến mỗi tác vụ sinh ảnh thành entity–relation graph, rồi tách thành checklist gồm các mục chấm điểm nhỏ, kiểm chứng được bằng mắt:

  • Content Fidelity: node-level — thực thể, thuộc tính, text có đúng và forbidden/unsupported content có vắng không
  • Relational Binding: edge-level — quan hệ không gian, tương tác, gán vật liệu/màu/kết cấu đúng chủ thể
  • Global Constraint Satisfaction: whole-graph — layout, đếm số lượng, style cảnh, temporal/state, chọn đúng reference

Pipeline LONGBANANA-Eval hoạt động như agentic checklist judge: parse từng checklist item, gom evidence packet gồm ảnh sinh + ảnh tham chiếu liên quan, route tới critic theo 3 chiều, gọi deterministic tools khi cần — OCR, count, layout match, identity/feature matching — rồi gán nhãn 0/1/2 kèm evidence trace để kiểm toán.

Bên sinh ảnh, paper so sánh direct generation, minimal harness, và workflow RPR: ReAct để lấy/lý luận evidence, Plan–Exec để chia bước sinh/sửa, Reflect để kiểm draft và quyết định retrieval/revision tiếp.

Ví dụ đời thường: giống thợ trang trí cửa hàng không chỉ nhìn ảnh mẫu rồi dựng một tấm ảnh đẹp, mà phải lật từng ảnh chụp túi, loại đúng mẫu giả, giữ đúng màu da và quai từng chiếc, rồi xếp đúng số lượng đúng kệ — sau đó còn phải soi lại từng chi tiết như đang đánh dấu checklist trước khi giao hàng.

III. Main Results:​

  • Benchmark scale: 90 expert-designed cases theo taxonomy 3×3; mỗi case khoảng 32 references, hơn 20 constraints, tổng 4.670 atomic checklist items.
  • Human audit: 900 outputs × 10 conditions = 46.700 reviewed labels; 15% double-labeled subset đạt 89.4% exact agreement và κ = 0.83.
  • Evaluator validation: agentic checklist judge LONGBANANAEVAL vượt VLM-as-judge, Pearson 0.8707 vs 0.8413, Spearman 0.8602 vs 0.8248, Kendall 0.6727 vs 0.6437; item-level exact ternary agreement tăng +15.82 điểm phần trăm, lỗi 0↔2 giảm 19.28 điểm.
  • Generation: PD-Direct mạnh nhờ graph scheduling tối ưu, đạt GAC 98.8, Overall Avg. 74.6, P@70% 35.6. Agentic vượt direct ở nhiều mặt; OpenClaw + RPR + Nano Banana 2 đạt Overall Avg. 78.4 và P@70% 47.8, vượt PD-Direct +3.8 điểm trung bình và +12.2 điểm pass rate.
  • Ablation RPR: Plan–Exec mạnh về appearance binding; ReAct giúp reference selection; Reflect giúp layout/aggregation/pass rate; full RPR tốt nhất tổng thể.
  • Backend: dưới cùng OpenClaw + RPR, Nano Banana 2 dẫn cả 9 subclasses; Seedream 4 và GPT Image 1 yếu hơn rõ.

IV. Conclusion & Future Works:​

Điểm mấu chốt là khác biệt giữa lên kế hoạch composition và điều khiển quá trình thực hiện. PD-Direct có lợi thế graph để lập lịch tối ưu, nhưng ảnh trung gian vẫn có thể trôi khỏi constraint; agentic workflow kiểm tra intermediate output, duy trì reference binding và sửa đổi thích ứng nên thành công rộng hơn dù không được cấp construction graph.

Hướng phát triển: agent cần lý luận đồng thời trên task structure và visual state đang tiến hóa, giữ liên kết reference xuyên suốt các bước, và dùng evidence trace để chọn đúng điều cần revisit — preserve những phần đã thỏa, repair đúng phần còn thiếu.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển agent sinh ảnh đa tham chiếu có bộ nhớ ràng buộc: lưu entity–reference–attribute mapping xuyên suốt quá trình sinh/sửa, giảm drift khi ảnh trung gian thay đổi.
  2. Nghiên cứu evidence-guided repair: dùng item-level checklist failures để quyết định retrieval lại, chỉnh layout, đếm lại hay sửa local binding thay vì regenerate toàn cục.
  3. Mở rộng LONGBANANA sang video/image sequence: giữ consistency xuyên thời gian khi nhiều thực thể, trạng thái và quan hệ phải bền qua nhiều frame.
  4. Cải tiến judge agentic bằng active evidence seeking: tự chọn crop, so sánh đối chiếu thay vì chỉ nhận evidence packet cố định, đặc biệt cho negative-content checks.

2. Patent:​

  1. Ứng dụng quảng cáo trên điện thoại cho người bán hàng: chụp kho sản phẩm, hệ thống tự chọn đúng mẫu cần đăng, loại ảnh mẫu gần giống nhưng sai yêu cầu, rồi tạo một ảnh poster đúng màu, đúng số lượng, đúng bố cục và có bảng kiểm từng lỗi để sửa trước khi xuất bản.
  2. Trợ lý thiết kế album ảnh cá nhân: người dùng chọn nhiều ảnh tham chiếu trên điện thoại, ứng dụng tổng hợp một ảnh chân dung/ghép cảnh đúng người, đúng trang phục, đúng phụ kiện, đồng thời đánh dấu nếu có chi tiết bị lẫn từ ảnh khác hoặc thêm chi tiết không có thật.
  3. Công cụ kiểm duyệt ảnh marketing tự động cho doanh nghiệp: khi designer nộp ảnh cuối, hệ thống đối chiếu với ảnh sản phẩm gốc và mô tả chiến dịch để phát hiện sai logo, sai màu, sai vật liệu, sai số lượng sản phẩm hoặc lọt đối thủ/distractor vào khung hình.
  4. Tính năng chỉnh ảnh theo nhiều mẫu tham chiếu trên điện thoại: người dùng chạm chọn các vùng cần giữ từ nhiều ảnh khác nhau; ứng dụng sinh ảnh mới nhưng vẫn khóa từng đặc điểm vào đúng đối tượng, tránh đổi màu hay đổi chất liệu sang vật thể sai.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2611.06856
ArXiv Abstracthttps://arxiv.org/abs/2611.06856
PDF Downloadhttps://arxiv.org/pdf/2611.06856.pdf
Github Repositoryhttps://github.com/KlingAIResearch/LongBanana

6. LLMs Don't Know What They Know: Benchmarking Temporal Self-Knowledge for Financial Backtesting (23 votes)​

Tác giả: Lingfei Qian, Yan Wang, Xueqing Peng, Yupeng Cao, Yuechen Jiang, et al.

Xuất bản lúc: 2026-11-04

Tag: LLMs, Financial Forecasting, Look-ahead Bias, Backtesting, Knowledge Boundaries, Self-Knowledge, Benchmark

I. Main Problem:​

Đánh giá dự báo tài chính của LLM bằng dữ liệu lịch sử chỉ có ý nghĩa nếu mô hình thực sự chưa biết kết quả nó được yêu cầu dự đoán. Người dùng hiện dựa vào ba biện pháp bảo vệ:

  • Vendor-stated cutoff: chỉ backtest sau ngày cắt dữ liệu do nhà phát hành công bố
  • Tự khai báo: hỏi mô hình nó biết gì / cutoff của nó là khi nào
  • Lệnh ngày tháng: ra lệnh "hãy trả lời như thể đang ở một ngày trong quá khứ"

Vấn đề: không ai kiểm chứng được độ tin cậy của cả ba biện pháp này. Mô hình có thể đã lưu kết quả lịch sử trong tham số và nhại lại thay vì suy luận, làm kết quả backtest bị thổi phồng (hindsight leakage).

II. Main Idea:​

Bài báo giới thiệu FinDendro, benchmark gồm 2.226 sự kiện tài chính Mỹ có ngày tháng (1999–2026) gồm chỉ số kinh tế vĩ mô hằng tháng, giá cổ phiếu cuối tháng của 50 công ty lớn và quyết định lãi suất của Fed. Với mỗi sự kiện, benchmark so sánh hai ranh giới thời gian:

  • Actual cutoff: ranh giới ước lượng từ độ chính xác thực tế (mô hình trả lời đúng đến thời điểm nào)
  • Model-identified cutoff: ranh giới mà mô hình tự nhận là mình còn biết

Ba tác vụ:

  • Task 1 (value): chọn giá trị đúng → đo kiến thức thật
  • Task 2 (value + claim): chọn giá trị kèm tuyên bố "tôi biết" / "tôi đoán" → so khớp khai báo với hiệu suất thật
  • Task 3 (dated prediction): thêm lệnh "giả sử hôm nay là [ngày quá khứ]" → kiểm tra lệnh ngày tháng có xóa được khai báo kiến thức không

Có các kiểm soát (persistence, balanced accuracy) để độ chính xác ngẫu nhiên chỉ còn ~0.27.

Ví dụ đời thường: giống việc hỏi một người "bạn nhớ chuyện gì đến tháng nào?" — câu trả lời của họ không đáng tin bằng việc đưa ra bộ câu hỏi phủ mọi tháng và tự xem họ trả lời đúng đến đâu; chỉ đáp án thực tế mới vẽ ra đúng ranh giới trí nhớ, chứ không phải lời họ tự nhận.

III. Main Results:​

  • GPT-5 trả lời đúng 76% sự kiện được kiểm soát nhưng chỉ tự nhận biết 38%; trong số thứ nó nói "không biết", vẫn trả lời đúng tới 61% (ví dụ: đoán đúng nguyên giá đóng cửa 55.51 của Intel tháng 1/2021).
  • Khai báo kiến thức kéo dài sau ranh giới kiến thức thật tới 7 quý (Llama-3.3-70B); GPT-4o và DeepSeek-V3.2 lệch 1 quý.
  • Vendor-stated cutoff sai lệch lớn: Llama-3.3-70B công bố cutoff tháng 12/2023 nhưng độ chính xác đã rơi về mức ngẫu nhiên từ giữa 2021 — lệch tới 10 quý.
  • Lệnh ngày tháng lịch sử gần như vô hiệu: với GPT-5, tỉ lệ khai báo "đã biết kết quả" giảm từ 39% xuống 1%, nhưng độ chính xác gần như không đổi (0.76 → 0.75) — tức kết quả có sẵn vẫn bị đóng khung thành "dự đoán".
  • Lọc theo tự khai báo không làm sạch backtest: giữ lại chỉ phần mô hình nói "không biết", GPT-5 vẫn đạt 75% độ chính xác trong cửa sổ kiến thức (so với 33% sau ranh giới).
  • Các mô hình point-in-time nhỏ thì ngược lại: độ chính xác gần như mức ngẫu nhiên ở cả hai phía cutoff — an toàn nhưng không dự đoán được gì.

IV. Conclusion & Future Works:​

Không biện pháp bảo vệ nào trong ba cái đang dùng (cutoff do nhà phát hành công bố, tự khai báo của mô hình, lệnh ngày tháng) có thể chứng nhận backtest là sạch rò rỉ. FinDendro đề xuất đo hành vi để xác định ranh giới kiến thức thật, rồi chọn kỳ backtest dựa trên kiến thức thực chứng thay vì lời tuyên bố. Benchmark + quy trình ước lượng hai ranh giới (kiến thức thật và khai báo) được công bố kèm dữ liệu, file câu hỏi và mã xây dựng. Hướng đi tự nhiên là dùng quy trình này như chuẩn tiền-kiểm tra cho mọi đánh giá dự báo tài chính hồi cứu trên các mô hình mới.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng FinDendro sang dữ liệu tài chính ngoài Mỹ (châu Âu, châu Á) để kiểm tra tính tổng quát của khoảng cách giữa ranh giới kiến thức thật và ranh giới tự khai báo trên các lịch sử kinh tế khác nhau.
  2. Phát triển phương pháp hiệu chuẩn backtest tự động: tự động ước lượng ranh giới kiến thức hành vi của một mô hình mới và đề xuất khoảng thời gian đánh giá an toàn, tích hợp vào pipeline đánh giá tài chính.
  3. Nghiên cứu huấn luyện/điều chỉnh mô hình để tự nhận thức thời gian chính xác hơn, thu hẹp khoảng cách giữa "biết gì" và "nói biết gì" — nhằm biến tự khai báo thành biện pháp bảo vệ backtest đáng tin.

2. Patent:​

  1. Ứng dụng tài chính trên điện thoại kiểm tra độ tin cậy của mô hình AI trước khi tin kết quả backtest: người dùng chọn một mô hình và ứng dụng tự chạy bộ câu hỏi lịch sử (giá cổ phiếu, lạm phát, lãi suất) để xác định thời điểm mô hình thực sự còn nhớ dữ liệu, rồi hiển thị cảnh báo nếu khoảng backtest nằm trong vùng mô hình đã biết trước kết quả.
  2. Hệ thống chấm điểm "độ sạch" của một chiến lược giao dịch do AI đề xuất: kiểm tra xem các tín hiệu mua/bán có trùng với sự kiện mà mô hình đã khai báo là biết trước không; nếu trùng, tự động loại khỏi báo cáo hiệu suất để tránh đánh giá sai lệch.
  3. Công cụ cho nhà phân tích: bảng điều khiển so sánh "ngày cắt dữ liệu do hãng công bố" với "ngày cắt đo được bằng cách kiểm tra hành vi", giúp chọn khoảng thời gian kiểm thử chiến lược đầu tư mà không lo mô hình nhại lại kết quả quá khứ.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2611.06808
ArXiv Abstracthttps://arxiv.org/abs/2611.06808
PDF Downloadhttps://arxiv.org/pdf/2611.06808.pdf
Github RepositoryN/A

7. Beneath the Surface: What We Overlook When We Talk About Agent Evolution (23 votes)​

Tác giả: Xiaobo Wang, Zimu Wang, Siyu Ye, Jiaqi Li, Min Tang, et al.

Xuất bản lúc: 2026-11-05

Tag: LLM Agents, Recursive Self-Improvement, Agent Optimization, Agent Evaluation, Benchmark Analysis, Reliability, Cost Efficiency

I. Main Problem:​

Các phương pháp agent harness evolution cho phép tác tử tự cải thiện bằng cách sửa phần vỏ xung quanh mô hình ngôn ngữ mà không cập nhật trọng số, nhưng điểm benchmark cao hơn thường bị hiểu nhầm là tác tử hữu ích hơn. Điểm số tổng hợp che giấu việc tác tử giải được bài mới nhưng mất bài cũ, tăng chi phí triển khai, và không cho thấy hiệu quả trên nhiệm vụ ngoài dữ liệu đã dùng để tiến hóa. Hệ quả là dễ chọn phiên bản giòn, đắt, hoặc chỉ thích nghi với đúng bài tập đã huấn luyện.

II. Main Idea:​

Bài báo không đề xuất thêm một thuật toán tiến hóa nữa ngay từ đầu, mà kiểm chứng lại bản chất của cải thiện bằng cách đo lặp lại bốn phương pháp AHE, HyperAgents, A-Evolve và GEPA trên hai kiểu harness MiniSWE và Codex, với hai môi trường τ3-Banking cho tác vụ tổng quát và Terminal-Bench 2 cho tác vụ lập trình. Thay vì nhìn một điểm số duy nhất, họ tách riêng độ tin cậy qua nhiều lần chạy, phạm vi bài giải được, bài bị mất, chi phí mỗi lần triển khai, sau đó dùng phân tách tập, chuyển benchmark, mở rộng agent có kiểm soát, can thiệp thành phần và tái phát lệnh admission để truy ngược các bước select, analyze, mutate và gate. Cuối cùng, các chẩn đoán được đóng gói thành EvoAudit/AGE để sửa luôn quy trình tiến hóa.

Ví dụ đời thường: giống như đánh giá một chiếc xe sau sửa chữa không chỉ nhìn đồng hồ tổng mà phải kiểm tra từng bộ phận, đo xăng tiêu thụ, ghi lại bộ phận nào mới tốt và bộ phận nào vừa hỏng, rồi thử xe trên đường khác trước khi kết luận chiếc xe thật sự tiến bộ.

III. Main Results:​

  • Cải thiện tổng hợp không đồng nghĩa an toàn: cả 16 agent tiến hóa đều giành thêm bài từng giải được nhưng đồng thời mất một số bài trước đó giải được; có trường hợp độ tin cậy tăng 5.2 điểm trong khi mất 10 bài đã phủ.
  • Reliability và coverage là hai kết quả khác nhau: 11/16 dòng tiến hóa tăng Avg@8, 10/16 tăng Pass@8; một số dòng tăng chỉ tiêu này nhưng giảm chỉ tiêu kia.
  • Cải thiện thường đi kèm chi phí: 8/11 champion tăng độ tin cậy có chi phí mỗi lần chạy cao hơn seed; chỉ các trường hợp tăng ít chi phí hơn nằm ở harness cho phép sửa source với tác vụ lập trình.
  • Hiệu quả triển khai phụ thuộc số lần thử: MiniSWE chạy AHE trên τ3-Banking đạt 56.7% coverage sau 4 lượt, cao hơn seed 54.6% sau 8 lượt và có chi phí triển khai thấp hơn.
  • Khái quát hóa trong cùng benchmark còn sót lại: độ tin cậy trên test tăng ở 10/16 dòng; các công thức implementation-centric tăng 7/8, còn reflection-centric trên harness chỉ sửa lớp ngoài đều giảm.
  • Chuyển benchmark chọn lọc bảo toàn lợi ích: coverage giảm ở 7/8 champion khi chuyển sang tác vụ tổng quát, nhưng tăng ở 7/8 khi chuyển sang tác vụ lập trình; reliability có thể đi ngược coverage.
  • Điểm hiện tại không đo đúng tiềm năng cải thiện: rule chọn parent gốc thấp hơn random 25% trên tác vụ tổng quát nhưng trên 55% trên tác vụ lập trình.
  • Thay đổi cụ thể tốt hơn nhắc nhở chung chung: 15/16 component riêng lẻ vượt generic reminder; 6/8 champion hoàn chỉnh vượt cả hai component tách rời về độ tin cậy.
  • Admission quá chặt có thể vứt bỏ phương án hữu ích: agent đang mạnh nhất không cho cải thiện trung bình lớn nhất trong cả bốn pool.
  • Sửa quy trình theo chẩn đoán có hiệu quả: EvoAudit/AGE cải thiện reliability và coverage so với phương pháp tham chiếu trên cả hai benchmark và cả hai harness.

IV. Conclusion & Future Works:​

Kết luận cốt lõi là tiến hóa agent phải được đánh giá theo kiểu bảo toàn hành vi hữu ích, không chỉ tối đa điểm trung bình. Một lượt tiến hóa đáng tin cần ba điều: chọn đúng parent có tiềm năng cải thiện, kết hợp các thay đổi tương thích, và giữ lại candidate tốt thay vì lọc theo tiêu chí quá hẹp. Bài báo ủng hộ evaluation tách bạch task gain/loss, ghi cost triển khai, kiểm tra ngoài tập tiến hóa, và quy định rõ điều kiện áp dụng cho từng revision. Hướng tương lai: gate biết bảo toàn coverage, selection đo cả downstream improvement, ưu tiên candidate rẻ hơn khi coverage ngang nhau, và xây benchmark chuẩn cho agent evolution có audit cost, regression và transfer.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Một bộ tiêu chuẩn đánh giá agent evolution bắt buộc báo cáo task turnover, reliability qua nhiều lần chạy, cost triển khai và external transfer, thay vì chỉ công bố điểm tổng hợp.
  2. Thuật toán chọn parent cho tiến hóa tác tử dựa trên downstream candidate gain, tránh ưu tiên agent hiện tại có điểm cao nhưng ít khả năng cải thiện tiếp.
  3. Phương pháp gate preservation-aware giữ lại những thay đổi làm tăng bài mới mà không phá vỡ bài đã giải được, có kiểm soát tương tác giữa các thành phần.
  4. Nghiên cứu cost-aware champion selection cân bằng coverage, reliability và chi phí triển khai cho tác tử ngôn ngữ dài hạn.

2. Patent:​

  1. Trợ lý sửa chữa quy trình trên điện thoại: khi người dùng thay đổi cách ra lệnh, ứng dụng tự chạy thử vài kịch bản ngắn, ghi lại tác vụ nào mới làm được và tác vụ nào bị lỗi, rồi chỉ chấp nhận cấu hình mới nếu không mất khả năng cũ.
  • Hệ thống này phù hợp trợ lý lập trình, trợ lý booking hoặc trợ lý vận hành doanh nghiệp trên mobile.
  1. Công cụ kiểm thử hồi quy cho chatbot nội bộ: trước khi phát hành phiên bản prompt mới, điện thoại hoặc máy tính bảng của quản trị viên chạy lại bộ tác vụ mẫu, so sánh tỷ lệ thành công, chi phí gọi mô hình và danh sách tác vụ bị mất.
  • Ứng dụng đưa ra cảnh báo nếu điểm tổng tăng nhưng một nhóm tác vụ quan trọng sụt giảm.
  1. Hệ chọn phiên bản trợ lý đắt-rẻ theo mục tiêu: người dùng chọn ưu tiên chắc chắn, phủ rộng hoặc tiết kiệm; ứng dụng trên điện thoại đề xuất phiên bản hội thoại và công cụ phù hợp, đồng thời ghi nhận mức chi phí ước tính trước khi chạy.
  • Có thể dùng cho trợ lý du lịch, trợ lý bán hàng hoặc trợ lý học tập có ngân sách gọi API giới hạn.
  1. Module chuyển kỹ năng giữa lĩnh vực cho trợ lý cá nhân: khi người dùng đổi từ hỗ trợ coding sang hỗ trợ chăm sóc khách hàng, hệ thống kiểm tra kỹ năng nào giữ được, kỹ năng nào cần khóa lại để tránh lỗi công cụ.
  • Điều này giúp trợ lý trên điện thoại không mang theo thói quen từ môi trường cũ gây sai lệch ở môi trường mới.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2611.07624
ArXiv Abstracthttps://arxiv.org/abs/2611.07624
PDF Downloadhttps://arxiv.org/pdf/2611.07624.pdf
Github RepositoryN/A

8. Fast and Exact Relative-Position Attention via Structure-Aware Kernels (19 votes)​

Tác giả: Delyan Boychev, Ivo Petrov, Dimitar I. Dimitrov

Xuất bản lúc: 2026-10-31

Tag: Attention, FlashAttention, Transformer, Relative Position Embeddings, Triton, CUDA, Long Context, Speech Recognition

I. Main Problem:​

Các cơ chế relative-position attention kiểu học được — Shaw, Transformer-XL, DeBERTa, T5 — thường tốt hơn RoPE/ALiBi khi cần tổng quát ngoài độ dài huấn luyện, nhưng rất khó scale vì mỗi cặp token (i, j) phải tra một hạng vị trí phụ thuộc khoảng cách i−j. Hệ quả:

  • Phải vật liệu hóa ma trận bias N×N trong HBM, đúng nút cổ chai mà FlashAttention đã loại bỏ.
  • Các backend lập trình được như FlexAttention chỉ thấy từng cặp điểm qua callback, nên không tái sử dụng được cấu trúc tile theo offset.
  • Backward phải cộng dồn gradient vào cùng relation row, gây atomic contention O(N²), mất tính deterministic và tốn bộ nhớ. Vì thiếu kernel tổng quát, nhiều hệ thống phải thay relative-position bằng RoPE và train lại từ đầu.

II. Main Idea:​

Bài báo đưa relative-position attention vào kiến trúc tiled kiểu FlashAttention nhưng vẫn exact, bằng cách không dàn bias N×N ra HBM mà chỉ đọc các projection cần thiết ngay trong SRAM. Ý chính:

  • Unified formulation: mọi hạng vị trí cộng tính đều quy về ba bảng quan hệ AQ, AK, b và ánh xạ offset ϕ(i, j); điểm số chỉ cần cộng thêm ZQ[i,ϕ(i,j)] + ZK[j,ϕ(i,j)] + b[ϕ(i,j)].
  • Reachable projection ranges: với identity map, mỗi nhóm G query chỉ chạm tới N+G−1 relation rows thay vì 2N−1; chi phí thừa chỉ còn G−1 cột.
  • Constant-range reuse: với clipped/bucketed map, mở rộng bucket thành dải offset rồi dùng clipping; các tile nằm ngoài dải bão hòa chỉ cần một giá trị query, một giá trị key, một bias rồi broadcast, chỉ tile gần đường chéo mới tra từng điểm.
  • Atomic-free backward: tích lũy gradient theo offset δ thay vì theo row r, mỗi thread block sở hữu một query tile; hai vùng bão hòa được gộp bằng running sum on-chip, sau đó reduce deterministic về relation rows.
  • Cài đặt Triton drop-in cho Hugging Face/NeMo, autotune theo GPU, có thể lưu ZQ/ZK hoặc recompute để đổi tốc độ lấy bộ nhớ.

Ví dụ đời thường: giống chia khu vực giao hàng theo mã bưu điện — không mang sổ địa chỉ N×N của mọi người, shipper chỉ cầm danh sách các khoảng cách mình thật sự đi qua; xa quá thì dùng chung một tem ‘ngoại tỉnh’, gần trung tâm mới tra từng nhà, và khi tổng kết mỗi khu cử một người giữ sổ riêng thay vì cả phường chen nhau ghi vào một trang.

III. Main Results:​

  • Ở 8K tokens, so với baseline mạnh nhất từng cơ chế: forward nhanh hơn 1.8–6.4×, backward nhanh hơn 2.0–21×; peak memory giảm 2.9–128× forward và 1.4–54× backward.
  • Vẫn exact theo kiểm tra FP32; nhiều hệ thống DeBERTa backward bị sai từ 4K tokens, còn phương pháp này luôn qua.
  • End-to-end Parakeet-TDT-0.6B-v3 transcribe TED-LIUM 3: gần 2× throughput ở whole talks, WER giữ nguyên, bộ nhớ giảm còn khoảng 1/5 so với native attention.
  • Fine-tune Canary-1B-v2: nhanh hơn 1.09–1.36× theo độ dài cửa sổ; SDPA OOM từ 15 phút, phương pháp này vẫn chạy bằng recompute projections.
  • Fine-tune DeBERTa-v3-base trên văn bản dài: từ 2K tokens nhanh hơn hơn 2×, accuracy chênh ≤0.3 điểm, peak memory gần ngừng tăng trong khi Transformers tăng mạnh.
  • Ablation: bỏ atomic-free gradients làm backward chậm 2.9–4.4×; bỏ preprojection làm forward chậm 2.0–2.9×; reachable ranges/constant reuse/bucket copies chủ yếu tối ưu từng họ map.

IV. Conclusion & Future Works:​

Kết luận: relative-position attention không còn phải hy sinh exactness hay train lại mô hình để có hiệu năng. Bằng cách khai thác cấu trúc offset theo tile, hạn chế projection tới vùng reachable, reuse ở vùng constant-offset, và tích lũy gradient không atomic, phương pháp trở thành drop-in replacement cho training/inference long-context trên nhiều GPU. Giới hạn còn lại: identity map như Transformer-XL vẫn quadratic về projection; map có relation row không liên tiếp phải fallback atomic FP32; chưa dùng đặc tả phần cứng như warp specialization hay async bulk transfers.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Tích hợp warp specialization, asynchronous copy và pipeline theo kiến trúc GPU Blackwell/Ampere/Hopper để nâng hiệu năng kernel Triton cho relative-position attention lên mức near-roofline.
  2. Thiết kế compiler/dispatcher tự suy ra reachable ranges, bucket expansion và chiến lược recompute projections từ định nghĩa map ϕ(i, j), mở rộng sang sparse attention, local windows và packed sequences.
  3. Nghiên cứu exact sub-quadratic hoặc low-rank approximation có kiểm chứng lỗi cho identity-map relative attention, giữ tính exact trong vùng quan trọng gần đường chéo.
  4. Đánh giá quantization, FP8/BF16 và sequence packing cho relative-position attention trong speech và long-document NLP, kèm chứng minh WER/accuracy không đổi trên production models.

2. Patent:​

  1. Trợ lý ghi âm trên điện thoại dùng attention vị trí tương đối: thay vì tạo bảng N×N cho file họp dài, điện thoại chỉ tính các vùng khoảng cách thật sự cần dùng, cache lại trong bộ nhớ nhanh và tổng hợp gradient theo từng vùng để transcript dài tiết kiệm pin, ít nóng máy.
  2. Hộp thoại sửa text/văn bản pháp lý trên thiết bị di động: bộ nhớ ứng dụng giữ embedding theo mốc khoảng cách có thể tái dùng, chỉ tra chi tiết quanh câu hiện tại, cho phòng đọc tài liệu hàng trăm trang không cần gửi dữ liệu lên máy chủ.
  3. Module chuyển giọng nói thành chữ offline cho xe hơi/tai nghe: khi câu dài hơn ngưỡng huấn luyện, hệ thống dùng bias học theo khoảng cách tổng quát hơn xoay góc, rồi chạy kernel tiết kiệm bộ nhớ để không bị gián đoạn cuộc gọi hoặc ghi chú.
  4. Bộ công cụ SDK cho app soạn thảo đa ngôn ngữ: API cho phép model DeBERTa/T5-style dùng bảng vị trí tương đối mà không đổi trọng số, tự chọn lưu hay tính lại các projection để cân bằng giữa độ trễ thấp và bộ nhớ máy yếu.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2611.01182
ArXiv Abstracthttps://arxiv.org/abs/2611.01182
PDF Downloadhttps://arxiv.org/pdf/2611.01182.pdf
Github RepositoryN/A

9. EvoWorld: Towards Out-of-Sight World Evolution in Generative Video Models (19 votes)​

Tác giả: Yequan Bie, Dengyang Jiang, Zhixuan Chen, Xiaozhuan Liang, Haoxuan Che, et al.

Xuất bản lúc: 2026-11-04

Tag: Video Generation, World Models, Vision-Language Model, Autoregressive Generation, Diffusion Models, Causal Reasoning

I. Main Problem:​

Các mô hình video sinh mới dùng làm world simulator chỉ mạnh ở render pixel hợp lý, chứ không có cơ chế suy luận trạng thái thế giới khi có sự kiện xảy ra. Hệ quả:

  • Khi một sự kiện xuất hiện (quái vật, cháy nhà), model vẽ được sự kiện nhưng không suy ra hậu quả đối với các thực thể ngoài tầm nhìn (nhân vật gần đó nên bỏ chạy, nấp hay phản đánh).
  • Các kỹ thuật trước (memory, retrieval, 3D point cloud) chỉ lưu/lấy lại trạng thái đã thấy, không mô hình hóa sự tiến hóa nhân quả của thế giới.
  • Khi camera rời đi rồi quay lại: sự kiện mất, nhân vật bám theo camera hoặc nhân đôi, ngoại hình trôi dạt, phản ứng vô lý.

Bài toán mới được đề xuất: Out-of-Sight Causal Evolution — render sự kiện → suy luận hậu quả cho thế giới (kể cả vật thể ngoài tầm nhìn) → reveal kết quả hợp lý khi camera quay lại.

II. Main Idea:​

EvoWorld là framework brain–renderer collaboration tách biệt suy luận trạng thái thế giới khỏi render hình ảnh:

  • World brain (VLM, Qwen3.8-27B): quan sát từng segment vừa sinh, ghi lại thực thể, cảnh, sự kiện vào world memory liên tục; sau khi sự kiện xảy ra, suy luận hậu quả nhân quả và viết lại prompt phản ứng cho nhân vật ngoài tầm nhìn.
  • Segment-autoregressive renderer (từ LTX-2.5): sinh segment tiếp theo từ prompt suy luận + bằng chứng thực thể + latent gần nhất, với:
    • Entity anchor + Temporal anchor: khôi phục danh tính dài hạn (truy xuất latent khi nhân vật rõ nhất) và liền mạch ngắn hạn (4 latent cuối).
    • Identity-Anchored Attention (IAA): thêm bias chú ý +beta có chọn lọc cho block token-revisit → entity anchor đọc entity anchor, chống trôi ngoại hình.
    • Hai giai đoạn huấn luyện: (1) học reactive rendering trên dữ liệu sạch; (2) online autoregressive rollout tự sinh context tiền nhiệm để giảm exposure bias tại điểm chuyển event→revisit.
  • EvoWorld-Data: ~12k video >=10s, 19 họ sự kiện, 16 họ cảnh, 14 kiểu phản ứng, kiểm chứng bằng VLM và ước lượng camera motion; EvoWorld-Bench: 120 ca chống trùng lặp với train.

Ví dụ đời thường: giống đạo diễn phim có trợ lý ghi chép liên tục — trợ lý nhìn cảnh quay, nhớ nhân vật A đang ở đâu, và khi có tiếng nổ ngoài khung hình thì tự suy ra 'A phải cúi xuống sau xe' rồi ra lệnh cho quay phim quay lại đúng cảnh đó.

III. Main Results:​

  • Core Task Success 90.8%, vượt baseline tốt nhất (Evoke-Turbo 21.7%) +69.1 điểm phần trăm — đây là tỷ lệ đồng thời thành công revisit + event + causal plausibility đầy đủ.
  • Causal Plausibility 94.2% và Reaction Quality 85.0%, vượt xa các model khác (~21–36%), chứng tỏ khả năng render phản ứng nhân quả vượt trội.
  • Không đánh đổi chất lượng hình ảnh: Subject Consistency 99.2%, Background Consistency 98.3%, Visual Integrity 83.8%, Motion Smoothness 99.5% (VBench).
  • Ablation: IAA nâng Core từ 82.5%→84.2%; Stage-2 online rollout nâng lên 90.8%. Bỏ reasoning prompt làm sụt mạnh (~-36 điểm), chứng tỏ vai trò của brain.
  • Chuyển giao: prompt suy luận của brain áp lên Evoke-Turbo nâng Core từ 21.7%→45.0% — lợi ích mang sang renderer khác.
  • Event–prompt alignment CLIP cao nhất trong các model so sánh.

IV. Conclusion & Future Works:​

Paper định nghĩa Out-of-Sight Causal Evolution như một thiết lập cụ thể để nghiên cứu tiến hóa thế giới tự trị, kèm EvoWorld-Data/Bench để học và đánh giá event realization, trạng thái hậu sự kiện hợp lý về nhân quả, và revisit consistency. Framework EvoWorld tách suy luận (VLM brain) khỏi render (two-stage autoregressive renderer với IAA), cho kết quả vượt trội mọi video world model gần đây. Hướng tương lai được thảo luận trong Appendix Section G (hạn chế và mở rộng cho nghiên cứu world evolution tăng cường suy luận).

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng Out-of-Sight Causal Evolution sang đa sự kiện liên tiếp và lâu hơn: brain theo dõi nhiều thực thể ngoài tầm nhìn đồng thời và suy luận hệ quả lan truyền giữa các sự kiện.
  2. Học world brain thay vì dùng VLM tổng quát: huấn luyện trực tiếp brain trên EvoWorld-Data để suy luận phản ứng chính xác hơn và bỏ qua bước prompt engineering thủ công.
  3. Kết hợp suy luận nhân quả với bộ nhớ hình học 3D để vừa giữ consistency không gian vừa tiến hóa hành vi thực thể trong môi trường lớn, có thể tương tác.

2. Patent:​

  1. Ứng dụng video world simulator trên điện thoại cho trò chơi thực tế ảo: khi người chơi quay camera đi chỗ khác rồi quay lại, hệ thống tự suy luận NPC phản ứng thế nào với sự kiện vừa xảy ra (ví dụ nhân vật đã trốn sau tường khi nghe tiếng nổ), thay vì đóng băng hoặc biến mất.
  2. Công cụ làm phim/làm quảng cáo bằng AI: đạo diễn chỉ định một sự kiện xảy ra ngoài khung hình (sập giàn giáo, cháy kho); hệ thống tự suy luận và render cảnh quay lại với nhân vật phản ứng đúng logic nhân quả, giữ nguyên ngoại hình nhân vật.
  3. Mô phỏng huấn luyện tình huống khẩn cấp (an toàn lao động, y tế): camera khảo sát rời khu vực khi sự cố xảy ra; khi quay lại, mô phỏng hiển thị trạng thái hiện trường và phản ứng của nhân viên một cách hợp lý, dùng để chấm điểm quyết định của học viên.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2611.06748
ArXiv Abstracthttps://arxiv.org/abs/2611.06748
PDF Downloadhttps://arxiv.org/pdf/2611.06748.pdf
Github Repositoryhttps://github.com/Tommy-Bie/EvoWorld

10. Video-Coder: Reinforcing Agentic Coding for Video Generation (16 votes)​

Tác giả: Chaoyang Wang, Sicheng Gao, Junan Hu, Kunyang Li, Dongyang Chen, et al.

Xuất bản lúc: 2026-11-06

Tag: Video Generation, LLM Agents, Reinforcement Learning, Code Generation, Blender, 3D Scene, Physical Consistency, GRPO

I. Main Problem:​

Các mô hình tạo video (Sora, Kling, HunyuanVideo...) tuy đạt chất lượng hình ảnh tốt nhưng không mô hình hóa thế giới 3D rõ ràng, dẫn đến:

  • sai số lượng và vị trí vật thể, occlusion không nhất quán, quỹ đạo chuyển động phi vật lý, vật thể biến dạng hoặc biến mất
  • khó kiểm soát bố cục cảnh, quan hệ không gian, tương tác đa vật thể theo đúng yêu cầu prompt
  • video tạo end-to-end khó chỉnh sửa hoặc tái lập, người dùng phải thử-sai bằng cách viết lại prompt

Các công trình trước dùng LLM sinh code 3D cho nội dung hình ảnh thường chỉ một lượt trong pipeline cố định, không tận dụng phản hồi thực thi và không tối ưu cho chất lượng video cuối cùng.

II. Main Idea:​

Video-Coder — agent lập trình đa phương thức đầu tiên được huấn luyện cho tạo video: thay vì tạo video trực tiếp từ prompt, agent tự viết và chạy code Blender để dựng cảnh 3D động, render ra Draft Video (video mô hình đất nặng xám, chỉ mang thông tin cấu trúc và chuyển động), rồi draft này dẫn hướng cho video generator downstream tạo video thật. Quy trình:

  • Video-Coder Harness: sandbox tích hợp thực thi code, render Blender và phản hồi 3 loại — lỗi thực thi, kiểm tra nội dung (khung hình trống, vật thể ra ngoài view), và khung hình trực quan để agent tự soi
  • agent lặp vòng viết – chạy – sửa qua nhiều lượt; kết quả cuối còn được chạy lại từ đầu để xác minh reproducible
  • Dữ liệu: pipeline 4 giai đoạn (xây prompt mô tả cảnh học → sinh trajectory agentic bằng Gemini → tổng hợp video ground-truth bằng MiniMax-H3 → lọc 3 tầng), cho Video-Coder-SFT-6k và Video-Coder-RL-2k
  • Huấn luyện 2 giai đoạn: SFT trên Qwen3.5-9B rồi agentic RL với GRPO và hai phần thưởng: execution reward (code chạy được) và video reward (Qwen3.8-omni đánh giá độ khớp video cuối với prompt/reference). Chiến lược annealing theo thời gian giảm dần trọng số execution reward để giai đoạn sau tối ưu trực tiếp chất lượng video.

Ví dụ đời thường: giống đạo diễn không quay luôn mà trước tiên dựng mô hình tập thu nhỏ bằng giấy bìa (không màu, chỉ đúng vị trí và cử động) để duyệt bố cục và chuyển động trước, rồi ekip mới quay cảnh thật theo đúng phác thảo đó.

III. Main Results:​

  • PhyGenBench: Video-Coder-9B + MiniMax-H3 đạt trung bình 0.67 (MiniMax-H3 thuần 0.61, Wan2.2-5B 0.54, HunyuanVideo 0.33), đứng đầu cả 4 hạng mục (Mechanics 0.68, Optics 0.79, Thermal 0.60, Material 0.61).
  • VBench-2.0: trung bình 78.19%, cao nhất trong các baseline (CogVideoX-1.5 77.04%); cải thiện MiniMax-H3 +24 điểm, riêng Mechanics đạt 88.67% (+21 so với base).
  • Khái quát hóa tốt: dù RL rollout với MiniMax-H3, khi test với OmniWeaving vẫn nâng 0.48 → 0.51.
  • Ablation: SFT một mình 0.63; RL đầy đủ 0.67; thiếu video reward → 0.64, thiếu execution reward → 0.63; bỏ annealing → 0.65 (execution reward cố định khiến agent sinh code 'an toàn nhưng tẻ nhạt'). α=0.5–0.6 là ổn định nhất.
  • Mô hình, dữ liệu và code đều open-source.

IV. Conclusion & Future Works:​

Video-Coder chứng minh tách rời cấu trúc/chuyển động (code 3D có thể thực thi, kiểm chứng) khỏi ngoại hình (video generator) là hướng hiệu quả để tạo video vật lý nhất quán, có kiểm soát và diễn giải được. Tác giả kỳ vọng đây là nền tảng mở cho nghiên cứu code-driven video generation — có thể mở rộng sang dựng cảnh vật liệu, ngoại hình tinh hơn (hiện draft video cố tình bỏ qua appearance nên hạng mục Material còn thua CogVideoX-1.5), và tối ưu chiến lược thăm dò của agent trong harness.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng phần thưởng video reward để bao phủ độ tinh của vật liệu và phản ứng bề mặt, vượt qua giới hạn 'chỉ cấu trúc và chuyển động' của draft video hiện tại.
  2. Nghiên cứu agentic RL đa agent cho tạo video dài nhiều cảnh, trong đó agent lập trình dựng scene kế tiếp dựa trên trạng thái và phản hồi của cảnh trước.
  3. Kết hợp mô phỏng vật lý nâng cao (mềm, chất lỏng) vào Harness để draft video thể hiện được hiện tượng vật lý phức tạp hơn rigid-body keyframe hiện nay.

2. Patent:​

  1. Ứng dụng điện thoại tạo video theo mô tả: người dùng gõ mô tả cảnh ('ba chiếc xe lăn xuống dốc đâm vào hộp'), agent trên điện thoại/đám mây viết code dựng cảnh 3D, render bản nháp xám để người dùng duyệt số lượng vật thể và chuyển động, rồi mới sinh video hoàn chỉnh — cho phép sửa bằng cách chỉnh code thay vì viết lại mô tả.
  2. Công cụ làm phim quảng cáo trên di động: đạo diễn phác thảo vị trí camera và quỹ đạo vật thể bằng lời nói; hệ thống tự sinh chương trình dựng cảnh, xuất video mẫu không màu trước, sau đó render bản có chất liệu thật theo đúng phác thảo đã duyệt.
  3. Hệ thống kiểm chứng video AI cho mạng xã hội: tái dựng cảnh 3D từ video bằng cách lập trình lại chuyển động trong đó, rồi so khớp để phát hiện số lượng vật thể, quan hệ không gian hoặc chuyển động phi vật lý — dấu hiệu của video tạo bởi AI.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2611.09894
ArXiv Abstracthttps://arxiv.org/abs/2611.09894
PDF Downloadhttps://arxiv.org/pdf/2611.09894.pdf
Github Repositoryhttps://github.com/CYWang735/Video-Coder

11. AgentBaton: Efficient Model Collaboration in Agentic Tasks (12 votes)​

Tác giả: Junlong Li, Jindong Jiang, Yonggan Fu, Jiarui Yao, Hanrong Ye, et al.

Xuất bản lúc: 2026-10-25

Tag: LLM Agents, Model Routing, Cost Efficiency, Agentic Tasks, Model Collaboration, Cascade Inference

I. Main Problem:​

Các tác vụ agentic dài hạn (lập trình, vận hành terminal) đòi hỏi mô hình capable đắt tiền gọi qua API liên tục, trong khi mô hình efficient (mô hình cloud giá thấp, mô hình nhỏ chạy local) rẻ hơn nhiều nhưng tự làm một mình thì kém chính xác. Các phương pháp routing theo từng query bỏ qua một thực tế: trong tác vụ nhiều bước, năng lực cần thiết thay đổi theo từng lượt khi agent tương tác với môi trường, nên quyết định giao việc ngay từ câu hỏi đầu vào là không đủ.

II. Main Idea:​

Nghiên cứu hệ thống việc chuyển giao (handoff) giữa hai mô hình một lần duy nhất trong một tác vụ agentic, theo hai chiều và hai cách chuyển ngữ cảnh:

  • Efficient → Capable: kém hiệu quả, thậm chí đắt hơn chạy capable-only; việc chuyển ngữ cảnh qua logfile (file .jsonl để model nhận tự tra bằng grep/cat) tốt hơn chèn trực tiếp vào context.
  • Capable → Efficient tại thời điểm phù hợp: gần như giữ nguyên (đôi khi vượt) độ chính xác capable-only trong khi giảm chi phí mạnh. Dấu hiệu sẵn sàng handoff: đã có implementation/artifact cụ thể, đã có phản hồi thực thi/task-relevant (kể cả lỗi cũng hữu ích nếu nó thu hẹp phạm vi), và phần việc còn lại chỉ là sửa lỗi cục bộ, validate, hoàn thiện.

Từ đó tác giả xây AgentBaton: detector nhẹ (Qwen 3.5 2B) chạy sau mỗi lượt của capable model, học từ 4.000 trajectory được Codex gán nhãn điểm handoff sớm nhất, quyết định HANDOFF_READY/NOT_READY; khi kích hoạt, efficient model thừa hưởng workspace và chạy tới hết. So với routing mỗi lượt, một lần chuyển giao đúng lúc tránh được lỗi tích lũy do đổi model liên tục.

Ví dụ đời thường: giống thợ xây lành nghề tự tay đổ móng, dựng khung nhà — phần khó và quyết định — rồi giao lại cho học việc tô trát, sơn hoàn thiện khi cấu trúc đã vững; người học việc tự xây từ đầu thì dễ sập, nhưng làm phần cuối trên nền đã có thì được.

III. Main Results:​

  • Giảm 65.9% chi phí API trung bình trên 11 cặp model và 2 benchmark (Terminal-Bench 2.1, DeepSWE v1.1), độ chính xác gần như được bảo toàn, có trường hợp cao hơn tới +8.8 điểm % so với chạy capable-only.
  • 12/22 cấu hình (cặp model × benchmark) giữ accuracy hoặc chỉ mất dưới 5% tương đối; ví dụ Kimi K3 → Qwen 3.8 27B: 72.6% vs 73.5% capable-only, giảm 72.9% chi phí; Opus → GPT-5.6 Luna: tăng từ 67.3% lên 76.1%, giảm 70.5% chi phí.
  • Điểm handoff được phát hiện ở ~27–41% trajectory trên DeepSWE và ~56–69% trên Terminal-Bench.
  • Prompt-based handoff (để tự model quyết định) thất bại: Kimi K3 không bao giờ chịu giao việc, GLM-5.3 chỉ giao 6/113 task.
  • So với MTRouter (routing mỗi lượt): AgentBaton giảm chi phí thêm 46.7–86.6% với accuracy ngang hoặc tốt hơn.
  • So với handoff tại ngưỡng %/lượt cố định: accuracy ngang mức baseline dùng thông tin tương lai, vượt baseline theo lượt cố định.
  • Mở rộng Pareto frontier accuracy–cost so với việc chỉ chỉnh reasoning effort của một model; độ trễ detector trung vị 338ms trên H100.

IV. Conclusion & Future Works:​

Một lần chuyển giao capable → efficient đúng lúc là đủ để cân bằng chi phí–độ chính xác trong tác vụ agentic dài hạn; tiến độ công việc (artifact + phản hồi thực thi + phần việc còn lại cục bộ hóa) là tín hiệu hiệu quả để phân bổ năng lực động, và reasoning effort cùng model handoff là hai cách bổ sung cho nhau. Bài báo không nêu hướng nghiên cứu tương lai cụ thể.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng AgentBaton cho handoff đa lần/hai chiều có điều kiện, kết hợp cơ chế phục hồi khi efficient model gặp khó để leo thang lại capable model mà không tích lũy lỗi.
  2. Huấn luyện detector handoff không cần nhãn Codex: tự giám sát từ thành công/thất bại của model nhận việc trên các checkpoint lịch sử, giảm chi phí dán nhãn.
  3. Kết hợp tín hiệu tiến độ công việc với uncertainty estimation của efficient model để quyết định handoff mượt hơn thay vì nhị phân READY/NOT_READY.
  4. Nghiên cứu chuyển giao linh hoạt giữa mô hình đám mây và mô hình chạy cục bộ trên thiết bị cá nhân, tối ưu đồng thời chi phí API, độ trễ và quyền riêng tư dữ liệu.

2. Patent:​

  1. Trợ lý AI trên điện thoại tiết kiệm chi phí: mô hình mạnh trên đám mây nhận yêu cầu phức tạp, làm phần phân tích và lập khung giải pháp; khi hệ thống phát hiện phần việc còn lại chỉ là thao tác lặp lại, chuyển sang mô hình nhỏ chạy ngay trên máy để hoàn tất, giảm hóa đơn đám mây và giữ dữ liệu ở lại thiết bị.
  2. Hệ tự động sửa lỗi phần mềm trong doanh nghiệp: model cao cấp đọc codebase, định vị bug và viết bản sửa thử; module phân tích tiến độ quyết định thời điểm chuyển cho model giá rẻ chạy viết test, chạy kiểm thử và hoàn thiện patch, cắt chi phí vận hành hàng tháng.
  3. Hệ thống giao việc đa tác tử trong trung tâm dịch vụ khách hàng: bot mạnh xử lý phân tích yêu cầu khó và tra cứu chéo, sau đó chuyển hội thoại cho bot nhẹ xử lý các bước xác nhận thông tin lặp lại, với bản ghi tương tác dạng file để bot nhẹ tự tra thay vì nạp toàn bộ lịch sử vào bộ nhớ.
  4. Tính năng lập trình bằng giọng nói trên thiết bị di động: dùng model lớn để hiểu ý đồ và tạo khung code ban đầu, rồi chuyển cho engine nhỏ chạy offline để chỉnh sửa cục bộ, bổ sung test và định dạng, giúp người dùng có kết quả nhanh mà không tốn dung lượng mạng liên tục.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2610.35959
ArXiv Abstracthttps://arxiv.org/abs/2610.35959
PDF Downloadhttps://arxiv.org/pdf/2610.35959.pdf
Github RepositoryN/A

12. LowRAM: Low-Rank Keys and Amortised Values for Composable KV Cache Compression at Test-Time (10 votes)​

Tác giả: Teresa Delgado, Hugo Hazard, Martin Benfeghoul, Jun Wang, Zafeirios Fountas

Xuất bản lúc: 2026-11-04

Tag: KV Cache, LLM Inference, Model Compression, Low-Rank Decomposition, Quantization, Test-Time Adaptation, Attention

I. Main Problem:​

KV cache trong giải mã tự hồi quy tăng tuyến tính theo độ dài context, khiến bộ nhớ trở thành nút thắt, giới hạn batch size và throughput. Các phương pháp post-training hiện có (eviction, quantisation, low-rank decomposition) khai thác dư thừa theo các trục riêng biệt nhưng bỏ qua một nguồn dư thừa bổ sung: trong mỗi attention head, value gần như dự đoán được từ key của chính nó. Bài toán đặt ra: làm sao nén KV cache mạnh mẽ, gần như không mất thông tin, và có thể kết hợp với các kỹ thuật khác mà không cần huấn luyện lại mô hình.

II. Main Idea:​

LowRAM — pipeline nén bất đối xứng, xử lý key và value như hai đối tượng cấu trúc khác nhau:

  • Value cache amortisation: trong prefill, huấn luyện một MLP nhỏ per-head học ánh xạ key → value cho từng context; chỉ lưu residual corrections cho các token bị dự đoán tệ nhất (theo reconstruction error). Value cache thu gọn còn tham số mạng + tập residual thưa → nén value 4× gần như không mất chất lượng.
  • Key: nén bằng low-rank cross-layer (xKV) vì phổ năng lượng của key tập trung ở ít chiều; thử nghiệm cho thấy dự đoán key kém bền hơn value, và lỗi key gây hại lớn hơn (làm nhiễu attention logits).
  • Khởi tạo từ Slim Attention (pseudoinverse của key/value projection) + meta-learning (MAML) để giảm overhead adapt từ 150 bước xuống 2 bước gradient; selective reconstruction chỉ tái tạo top-k chunk theo query tại mỗi bước giải mã.
  • Composable: kết hợp thêm eviction và quantisation (TurboQuant, 4-bit key / 2-bit residual).

Ví dụ đời thường: giống việc thuê thợ sửa đồng hồ — thay vì lưu giữ nguyên toàn bộ chi tiết máy (value gốc), ta giữ bộ khung chính (keys nén low-rank) kèm một 'người thợ' nhỏ biết cách chế tạo lại đa số chi tiết từ khung, và chỉ cất riêng vài mảnh khó làm nhất để ghép vào sau.

III. Main Results:​

  • Gần lossless ở nén vừa phải trên 3 họ mô hình (Mistral-7B, Llama-3.1-8B, Qwen3.5-4B): giữ 97.9–99.4% hiệu năng baseline ở 3×, 96–99.6% ở 4× (RULER 4K, LongBench).
  • Value amortisation riêng lẻ: giữ 98.2% (RULER) và 99.3% (LongBench) ở 4×; vượt low-rank trên value ở mọi mức nén.
  • Hiệu suất: meta-init giảm TTFT overhead xuống 1.3× baseline (từ 26.3×); selective reconstruction đạt ~5× peak decode throughput ở context 262K, batch 28.
  • Nén cực đoan: kết hợp eviction + quantisation (LowRAM-EQ) đạt 26.9× nén với 94.5% hiệu năng baseline trên LongBench >10K tokens — vượt từng phương pháp riêng lẻ.
  • Ablations: chia sẻ một predictor cho cả layer làm mất ~20 điểm (map key→value rất head-specific); chọn residual theo error gần như khôi phục toàn bộ độ chính xác, chọn ngẫu nhiên thì mất hầu hết.

IV. Conclusion & Future Works:​

Bài báo chứng minh keys và values nên được nén khác nhau: value có thể 'amortise' qua predictor học từ key, còn key phù hợp với low-rank. LowRAM bền vững ở nén vừa, kết hợp tốt với quantisation hơn eviction (vì eviction rút ngắn chuỗi nhưng không giảm chi phí cố định của mạng predictor — bất lợi ở context ngắn <2-3K token). Hạn chế & hướng tương lai: chưa đánh giá generation dài (cần nén định kỳ suffix token mới sinh); chưa rõ phần nào của ánh xạ key→value là chia sẻ giữa các context — nghiên cứu này có thể cho phép phân bổ bộ nhớ/tính toán hiệu quả hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng value amortisation cho generation dài: nén định kỳ cửa sổ token mới sinh trong khi giữ chất lượng attention trên toàn chuỗi.
  2. Phân tách thành phần context-agnostic và context-specific của ánh xạ key→value để giảm chi phí thích ứng per-context xuống mức tối thiểu.
  3. Áp dụng tư tưởng nén bất đối xứng key/value cho kiến trúc hybrid (linear + full attention) như Qwen3.5, và cho các mô hình đa phương thức với cache cross-attention.

2. Patent:​

  1. Hệ thống suy luận LLM trên điện thoại với bộ nhớ hạn chế: khi đọc tài liệu dài, ứng dụng huấn luyện một mạng nhỏ học quy luật suy ra value từ key của văn bản, chỉ lưu các phần 'khó đoán' — cho phép chat với tài liệu dài mà không đầy RAM.
  2. Dịch vụ QA tài liệu dùng chung một context cho nhiều người dùng: hệ thống 'học' mối liên hệ key-value của tài liệu một lần duy nhất ở prefill, sau đó phục vụ hàng nghìn truy vấn với cache đã nén, giảm chi phí hạ tầng đám mây.
  3. Ứng dụng ghi nhớ hội thoại dài hạn trên thiết bị cá nhân: nén lịch sử chat bằng cách lưu khung thông tin chính ở độ chính xác cao và tái tạo phần còn lại qua bộ dự đoán nhỏ, mở rộng được trí nhớ chat gấp nhiều lần mà không đổi phần cứng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2611.07025
ArXiv Abstracthttps://arxiv.org/abs/2611.07025
PDF Downloadhttps://arxiv.org/pdf/2611.07025.pdf
Github Repositoryhttps://github.com/lowram-model/lowram

13. Frontier3DBench: Benchmarking Coding Agents for 3D Creation across Objects, Scenes, and Interactive Open Worlds (10 votes)​

Tác giả: Xinjie Lin, Qingle Liu, Wenyi Li, John Lam, Xiaoqiu Wang, et al.

Xuất bản lúc: 2026-11-06

Tag: 3D Generation, Coding Agents, Benchmark, Blender, Unreal Engine, World Models, Scene Reconstruction

I. Main Problem:​

Các coding agents (tác nhân AI vừa hiểu hình ảnh vừa viết/ chạy chương trình) đang mở ra cách mới để tự động hóa tạo nội dung 3D — từ tái tạo (reconstruction), sinh nội dung (generation) tới chỉnh sửa (editing). Tuy nhiên:

  • Các benchmark hiện có bị phân mảnh: benchmark vật thể/cảnh đo độ trung thực hình ảnh, benchmark thế giới/game đo hành vi tương tác — không thể so sánh thống nhất năng lực của một tác nhân xuyên suốt ba cấp độ.
  • Một điểm số tổng hợp duy nhất che giấu nguyên nhân thất bại: không rõ tác nhân hỏng ở khâu khớp hình tham chiếu, sắp xếp cảnh hay cài đặt hành vi.
  • Câu hỏi mở: coding agents đã tiến xa tới đâu trong tạo nội dung 3D?

II. Main Idea:​

Tác giả đề xuất Frontier3DBench — benchmark thống nhất gồm 145 tác vụ thuộc 9 danh mục, xếp theo ba cấp độ xây dựng:

  • L1 · Vật thể (65 tác vụ): sinh từ văn bản (Text2Code), tái tạo từ nhiều ảnh chiếu (Img2Code), tái tạo từ một ảnh duy nhất (SingleView) — output là file Blender có thể chỉnh sửa.
  • L2 · Cảnh (65 tác vụ): sinh cảnh từ mô tả (Brief2Scene), tái tạo cảnh từ ảnh render (Ref2Scene), từ ảnh chụp thật (RealPhoto), và chỉnh sửa cảnh có sẵn (SceneEdit).
  • L3 · Thế giới mở tương tác (15 tác vụ): dựng thế giới trong Unreal Engine với nhiều vùng chức năng liên thông, cơ chế tương tác và trạng thái bền vững (Text2Env, Img2Env).

Điểm đánh giá kết hợp song song ba khía cạnh: hình ảnh render đo ngoại hình, kiểm tra scene gốc đo cấu trúc, và bộ quan sát độc lập chạy thực tế trong engine để đo hành vi (cơ chế hoạt động, va chạm chuyển động, hoàn thành hoạt động). Điểm tổng = 0.30·L1 + 0.30·L2 + 0.40·L3.

Ví dụ đời thường: giống bài thi tay nghề tổng hợp cho thợ mộc — không chỉ chấm chiếc ghế đẽo đẹp (vật thể), cả căn phòng bày hợp lý (cảnh), mà còn cho người thật ngồi thử, kéo ngăn, bật công tắc xem cả căn nhà dùng được trơn tru hay không (thế giới tương tác).

III. Main Results:​

  • 11 cấu hình model–harness được đánh giá: GPT-6.1-sol đứng đầu tổng thể với 66.02/100; GPT-6-astra dẫn đầu ở cấp thế giới mở (L3 = 61.28); Claude Opus 5.5 dẫn Text2Code (84.05). Không model nào dẫn mọi danh mục.
  • Tái tạo theo tham chiếu khó hơn sinh từ văn bản ở cả L1 lẫn L2: text-to-object đạt 75.9–84.1, trong khi tái tạo nhiều view tối đa chỉ 69.61, một view 66.26.
  • Cơ chế cục bộ chạy tốt, hoạt động phối hợp thì không: trung bình 165 bài L3, cơ chế địa phương đạt 83.08/100, nhưng motion clearance chỉ 20.82 và stateful workflow chỉ 30.26.
  • Phân tích năng lực theo 3 chiều: trung bình L1, cấu trúc thô (72.77) dễ thỏa mãn hơn chất lượng hình ảnh (57.28) và chi tiết (52.15).
  • MiniMax xếp 6 tổng thể nhưng đứng 2 về SceneEdit (78.70) — năng lực chỉnh sửa vượt nhiều model đứng trên.
  • Chi phí không tương ứng điểm số: Sol ~1.01/taˊcvụđạt66.02;Astra 1.01/tác vụ đạt 66.02; Astra ~5.58 và Opus ~21.17đe^ˋuđa˘ˊthơnnhưngđiểmtha^ˊphơn.DeepSeekchỉ 21.17 đều đắt hơn nhưng điểm thấp hơn. DeepSeek chỉ ~0.45 đạt 57.45 — hiệu quả chi phí tốt nhất nhóm dưới.
  • Nghiên cứu đồng thuận với người (8 người chấm, 360 phán đoán trên 45 mục) xác nhận thứ hạng của điểm số tự động.

IV. Conclusion & Future Works:​

Hai nút thắt chính của coding agents trong tạo nội dung 3D được xác định rõ:

  • Độ trung thực tham chiếu: bắt chước hình học, bố cục và chi tiết hình ảnh đã chỉ định khó hơn hẳn việc sinh nội dung "trông hợp lý".
  • Hoàn thành hoạt động phối hợp: các bộ phận chuyển động riêng lẻ hoạt động được, nhưng chuỗi hành động có điều kiện tiên quyết và trạng thái bền vững vẫn là thách thức lớn.
  • Sức mạnh model phân hóa theo cấp độ tác vụ → cần hồ sơ năng lực theo tác vụ để chọn model, thay vì một bảng xếp hạng duy nhất.

Hướng tương lai (suy ra từ các gap): cải thiện khả năng tái tạo đa-view và một-view; nâng cấp lập trình hành vi có trạng thái và tương tác phụ thuộc trong engine; phát triển agent có khả năng tự kiểm thử runtime (chạy thử cơ chế, phát hiện va chạm) trước khi nộp bài.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Benchmark mở rộng cho tái tạo 3D từ một ảnh duy nhất với đánh giá chuyên sâu về độ sâu, tỉ lệ và chi tiết bị che khuất.
  2. Phương pháp huấn luyện/tự cải thiện coding agents qua vòng lặp chạy thử-trong-engine: agent tự phát hiện lỗi va chạm chuyển động và trạng thái không bền vững rồi sửa trước khi hoàn thành.
  3. Đánh giá hệ quả chi phí–chất lượng chuẩn hóa cho coding agents, với giao thức đo token/cache thống nhất để so sánh công bằng giữa các nhà cung cấp model.

2. Patent:​

  1. Công cụ tạo nội dung 3D trên điện thoại bằng chụp ảnh: người dùng chụp một tấm ảnh đồ vật hoặc căn phòng; ứng dụng gọi coding agent để tái tạo thành model 3D có thể xoay, chỉnh sửa bằng lời nói, rồi xuất sang AR hoặc in 3D.
  2. Trình chỉnh sửa cảnh game bằng ngôn ngữ tự nhiên: game thủ nói "thay bồn tắm mới nhưng giữ nguyên chân đế và khăn treo"; hệ thống sinh mã chỉnh sửa scene, tự kiểm tra vùng được phép đổi và vùng phải giữ nguyên trước khi áp dụng.
  3. Nền tảng tạo thế giới game mini từ ảnh chụp thật: người dùng tải ảnh phong cảnh hoặc ảnh panorama; hệ thống dựng thành môi trường có thể đi lại với các cơ chế tương tác (cửa mở theo chìa khóa, công tắc bật đèn) và lưu trạng thái chơi liên tục.
  4. Hệ thống kiểm thử tự động cho nội dung 3D tương tác: trước khi phát hành, một observer agent tự điều khiển nhân vật trong thế giới ảo, thử từng cơ chế và chuỗi hành động hoàn chỉnh để phát hiện vật bị kẹt, va chạm chuyển động hoặc trạng thái bị mất.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2611.09017
ArXiv Abstracthttps://arxiv.org/abs/2611.09017
PDF Downloadhttps://arxiv.org/pdf/2611.09017.pdf
Github RepositoryN/A

14. Exploring Weight-Space Programming: Capabilities, Generalization, and Limitations (10 votes)​

Tác giả: Junru Hu, Cheng Tang, Wei Li, Hongze Zhu, Chun-Mei Feng, et al.

Xuất bản lúc: 2026-11-06

Tag: Weight-Space Programming, LLM Editing, Model Adaptation, Knowledge Editing, Mechanistic Interpretability, Agents

I. Main Problem:​

Fine-tuning mô hình ngôn ngữ theo cách thông thường (gradient, LoRA) tốn dữ liệu và tính toán, trong khi các phương pháp sửa trọng số trực tiếp (knowledge editing, task arithmetic) chỉ chứng minh được ở quy mô nhỏ. Weight-Space Programming (WSP) — cho một agent lý luận tự đọc và sửa tham số mạng nơ-ron — mới chỉ có kết quả ban đầu (GPT-6 Astra nâng độ chính xác MATH-500 của Qwen3.5-0.8B từ 7.9% lên 48.1% bằng cách sửa ~0.016% tham số), còn khả năng tổng quát, mức chuyển giao giữa các tác vụ và giới hạn thực tế hoàn toàn chưa được hiểu rõ. Bài báo đặt câu hỏi: WSP liệu có thể là phương pháp thích ứng mô hình mang tính tổng quát, hay chỉ là công cụ vá lỗi hành vi cụ thể?

II. Main Idea:​

WSP cho một agent lý luận (GPT-6 Astra) trực tiếp kiểm tra và chỉnh sửa trọng số của mô hình đích (Qwen3.5-0.8B và 9B), không dùng gradient, không backpropagation. Quy trình:

  • Agent chẩn đoán lỗi qua hai chế độ phản hồi: sinh văn bản tự do (đo hiệu suất tác vụ) và teacher forcing (lấy log-probability từng token và activation để phân tích cơ chế)
  • Tự xây dựng can thiệp trên trọng số: sửa sparse MLP, cập nhật rank-one, rescale attention head, hoặc kết hợp
  • Với ngân sách 50 lượt forward, agent lặp vòng sửa-thử, tự chọn checkpoint cuối hoặc giữ nguyên trọng số gốc nếu không tin tưởng cải tiến
  • Checkpoint chọn được đánh giá trên dữ liệu test hoàn toàn ẩn với agent

Nghiên cứu chạy 16 quỹ đạo chỉnh sửa trên 7 benchmark (MATH-500, MMLU-Pro, IFEval, GPQA Diamond, MedXpertQA, SciBench, SciCode) và 2 quy mô mô hình, để trả lời 3 câu hỏi: khả năng (cải thiện được gì), tổng quát hóa (có lan sang tác vụ khác không), giới hạn (tìm và xác thực can thiệp có đáng tin không).

Ví dụ đời thường: giống thợ máy không tháo toàn bộ động cơ ra học lại, mà mở nắp, nghe tiếng kêu, chỉ vặn đúng một con ốc bị lỏng — động cơ chạy ngay tốt hơn, nhưng việc tìm đúng con ốc đó thì không phải lần nào cũng thành công.

III. Main Results:​

  • Cải tiện mạnh với can thiệp cục bộ cực nhỏ: chỉ sửa 1.023 tham số (một cột duy nhất ở lớp 23) đã nâng MATH-500 của bản 0.8B lên +29.45 điểm phần trăm; IFEval +36.72, SciBench +17.11, GPQA Diamond +4.42.
  • Mô hình lớn khó sửa hơn: bản 9B cải thiện khiêm tốn hơn nhiều (IFEval +1.85, SciBench +3.03), riêng MATH-9B còn giảm nhẹ (-0.35) — mô hình càng mạnh thì càng ít dư địa để can thiệp.
  • Chuyển giao giữa tác vụ có thật nhưng không đều: checkpoint sửa từ toán học tự cải thiện IFEval +12.18 và SciBench +20.10 mà không sửa thêm gì, nhưng để nguyên SciCode; một số can thiệp khác gây suy giảm tác vụ khác.
  • Số lượng tham số sửa không quyết định hiệu quả: ba quỹ đạo sửa toán cùng nhắm lớp 23 nhưng cho kết quả +29.45 / +27.30 / +5.00 điểm — cấu trúc can thiệp và mục tiêu tính toán mới là yếu tố then chốt.
  • Không ổn định giữa các lần chạy: kết quả chênh lệch lớn giữa các quỹ đạo độc lập cùng tác vụ; 6/16 quỹ đạo giữ nguyên trọng số gốc vì không xác thực được cải tiện tin cậy (ví dụ bản 9B GPQA: +6.25 điểm trên dev nhưng tụt khi đánh giá rộng hơn). Cải tiến trên dev không phải lúc nào cũng giữ được trên test.

IV. Conclusion & Future Works:​

WSP cho thấy tiềm năng thích ứng mô hình cực kỳ cục bộ và mạnh mà không cần fine-tuning truyền thống, đồng thời bộc lộ ba thách thức lớn: tìm can thiệp hiệu quả trong ngân sách tìm kiếm hạn chế, xác thực đáng tin (cải tiện dev hay bị mất trên held-out), và dự đoán chuyển giao chéo tác vụ vốn không đối xứng. Hướng tương lai: cần cơ chế chọn can thiệp tin cậy hơn, đánh giá hiệu quả hơn, hiểu sâu hơn cơ chế của việc sửa đồng thời nhiều vị trí tham số, ảnh hưởng của kích thước/diversity dữ liệu dev, và thử nghiệm WSP trên suy luận dài hạn và tác vụ agentic phức tạp.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển phương pháp xếp hạng và xác thực can thiệp trọng số dựa trên độ tin cậy thống kê, để agent tự quyết định giữ hay loại bỏ một chỉnh sửa mà không cần đánh giá lặp lại tốn kém.
  2. Nghiên cứu cơ chế học sâu về việc sửa nhiều vị trí tham số cùng lúc: tương tác giữa các can thiệp lan tỏa và điều kiện để cải tiến chuyển giao sang tác vụ chưa từng được sửa.
  3. Mở rộng lập trình không gian trọng số cho suy luận dài hạn và tác vụ agentic (công cụ, lập kế hoạch), nơi lỗi mô hình mang cấu trúc đa bước thay vì lỗi một hành vi đơn lẻ.

2. Patent:​

  1. Dịch vụ đám mây sửa lỗi mô hình AI trên điện thoại: khi trợ lý ảo trên điện thoại liên tục trả lời sai một kiểu (lặp câu, bỏ dở phản hồi), hệ thống gửi trọng số mô hình lên máy chủ; một AI chẩn đoán tìm vài nghìn tham số bị lỗi, chỉnh sửa cục bộ rồi gửi bản vá nhỏ gọn về cập nhật, không cần tải lại toàn bộ mô hình hay thu thập dữ liệu huấn luyện mới.
  2. Cơ chế tự vá lỗi cho mô hình AI chạy cục bộ (xe hơi, thiết bị y tế, nhà thông minh): thiết bị định kỳ chạy bộ câu hỏi kiểm tra tự sinh, phát hiện suy giảm hành vi; module phân tích sẽ sửa trực tiếp một số ít trọng số trong bộ nhớ để khôi phục độ chính xác mà không gián đoạn hoạt động và không cần kết nối mạng.
  3. Bộ công cụ cá nhân hóa trợ lý giọng nói: người dùng phản hồi vài ví dụ về kiểu trả lời mong muốn (ngắn gọn hơn, đúng giọng vùng miền, tuân thủ định dạng); hệ thống dịch phản hồi đó thành một vài can thiệp nhỏ lên trọng số mô hình, áp dụng ngay trên thiết bị thay vì gửi dữ liệu riêng tư lên máy chủ để huấn luyện lại.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2611.09382
ArXiv Abstracthttps://arxiv.org/abs/2611.09382
PDF Downloadhttps://arxiv.org/pdf/2611.09382.pdf
Github Repositoryhttps://github.com/WSP-Scope/WSP-Scope-Project