🤗 Daily Hugging Face Paper Digest - 2026-09-17
Báo cáo được tạo tự động vào lúc 2026-09-18 10:21:28 bằng mô hình hermes-agent.
📰 Summary of Papers
1. LimiX-2: A Contextual Mechanism Network Towards General Structured-Data Intelligence (115 votes)
Tác giả: Xingxuan Zhang, Gang Ren, Hao Yuan, Hao Zou, Hongze Tan, et al.
Xuất bản lúc: 2026-09-15
Tag: Tabular Foundation Models, In-Context Learning, Structural Causal Models, Masked Modeling, Causal Discovery, Transformers
I. Main Problem:
Trí tuệ cho dữ liệu dạng bảng (structured data) còn kém phát triển so với LLM cho ngôn ngữ hay world model cho vật lý. Các phương pháp hiện có — gradient-boosted trees, deep tabular networks, AutoML pipeline — đều phải huấn luyện riêng và chọn mô hình riêng cho từng dataset, hầu như không tái sử dụng tri thức giữa các tác vụ.
Các tabular foundation model kiểu Prior-Data Fitted Networks (PFNs) như TabPFN, TabICL, TabFM khắc phục phần nào bằng in-context learning, nhưng chúng chỉ tối ưu mục tiêu p(y|x, D_context) — chỉ dự đoán một cột target cố định — nên:
- không học phân phối đồng thời toàn bộ biến (joint distribution)
- hạn chế khả năng suy luận với dữ liệu thiếu (imputation) và các biến thể tác vụ khác
- không tận dụng được cấu trúc nhân quả ẩn sau dữ liệu.
II. Main Idea:
Contextual Mechanism Networks (CMNs) đổi nguyên tắc tổ chức của in-context learning: thay vì tập trung vào dự đoán target (p(y|x, D)), mô hình học cơ chế phụ thuộc chung giữa các biến qua mục tiêu p(x, y | D_context). Dự đoán có giám sát chỉ còn là trường hợp đặc biệt của một khung suy luận điều kiện rộng hơn.
LimiX-2 hiện thực CMN bằng:
- Context-Conditional Masked Modeling (CCMM): pretraining kết hợp dự đoán target với tái tạo feature bị che, dưới nhiều kiểu mask khác nhau (từng ô, theo cột, theo khối)
- Cell-level representation: mỗi ô bảng có embedding riêng (d=256), không nén cả hàng, giữ cấu trúc chi tiết
- Kiến trúc dual-axis Transformer 24 lớp: sample-axis attention (học prior từ context) + feature-axis attention bất đối xứng (feature nhìn được target, target chỉ nhìn feature), FFN SwiGLU tách riêng cho feature và target
- Pretraining hoàn toàn trên dữ liệu tổng hợp do Structural Causal Models (SCM) sinh ra: DAG đa dạng (chain, confounding, collider qua causal motifs), nhiều hàm cơ chế (MLP, CNN, cây quyết định, linear, kernel, periodic...), và quy trình quan sát biến đổi ngẫu nhiên
Nhờ đó một mô hình pretrained duy nhất làm được classification, regression, imputation giá trị thiếu, và cả causal skeleton recovery (attention trên feature mã hóa được quan hệ nhân quả trực tiếp).
Ví dụ đời thường: giống người thợ thay vì chỉ học thuộc lời dạy "nhìn đồng hồ này thì vặn nút kia", ngồi quan sát cả cỗ máy hoạt động — hiểu các bộ phận liên hệ nhau thế nào — nên khi một bộ phận hỏng hoặc bị che, vẫn suy ra được phần còn lại.
III. Main Results:
- TabArena (51 dataset thực tế): Elo 1935, vượt mọi foundation model và cả AutoGluon 1.6 (mô hình chuyên huấn luyện riêng từng dataset).
- TALENT (288 dataset): Elo 1506, dẫn đầu các tabular foundation model.
- BCCO (156 dataset, dữ liệu thiếu/nhiễu): Elo 1432, cho thấy robustness cao.
- Hiệu quả tham số: vượt TabFM dù chỉ bằng 1/4 kích thước mô hình.
- Causal skeleton recovery: attention của LimiX-2 vượt các tabular foundation model khác, phương pháp feature importance dựa trên XGBoost, và cả các phương pháp causal discovery chuyên biệt — chứng tỏ mô hình hình thành nhận thức nhân quả mà không được dạy trực tiếp.
- Scaling law được thiết lập và tuân thủ khi mở rộng cả model và data.
IV. Conclusion & Future Works:
CMN chứng minh rằng tổ chức supervision theo cơ chế phụ thuộc giữa các biến (thay vì tâm là target) là hướng khả thi cho large structured-data models: một mô hình pretrained duy nhất xử lý được nhiều dạng suy luận điều kiện (dự đoán, điền thiếu, phát hiện bất thường, khám phá nhân quả) tại inference time mà không cập nhật tham số. Hướng đi tự nhiên là tiếp tục scale theo scaling law đã chứng minh, và mở rộng phổ tác vụ suy luận trên structured data vượt ra ngoài classification/regression.
V. Brainstorming Space:
1. Publish Papers:
- Khám phá cấu trúc nhân quả ẩn từ attention của mô hình tabular pretrained: phân tích hệ thống liên hệ giữa feature attention và causal skeleton trên nhiều loại DAG, định lượng giới hạn của phương pháp.
- Mở rộng CMN cho tác vụ suy luận điều kiện tổng quát trên dữ liệu bảng: điền thiếu có cấu trúc, phát hiện bất thường có giải thích, và truy vấn kiểu SQL tự nhiên trong một kiến trúc thống nhất.
- Nghiên cứu scaling law cho structured-data foundation models ở quy mô lớn hơn: kiểm chứng độ chính xác của luật scale khi tăng thêm bậc thập lớn về tham số và số lượng synthetic dataset pretraining.
2. Patent:
- Ứng dụng chăm sóc sức khỏe trên điện thoại: hệ thống phân tích bảng chỉ số xét nghiệm bệnh nhân, tự điền các chỉ số còn thiếu, đồng thời chỉ ra cặp chỉ số nào có quan hệ nhân quả (ví dụ chỉ số A ảnh hưởng trực tiếp đến chỉ số B) để bác sĩ đánh giá nhanh.
- Công cụ phân tích tài chính cá nhân: ứng dụng di động nhập bảng thu chi và biến động tài khoản, dự đoán dòng tiền tương lai mà không cần huấn luyện riêng cho từng người dùng, đồng thời phát hiện khoản giao dịch bất thường.
- Hệ thống khám phá nhân quả cho dữ liệu vận hành doanh nghiệp: tự động đọc bảng dữ liệu sản xuất/kinh doanh, vẽ sơ đồ quan hệ nhân quả giữa các yếu tố (giá nguyên liệu, năng suất, lỗi máy) giúp nhà quản lý xác định điểm gây nghẽn mà không cần chuyên gia data science.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2609.17488 |
| ArXiv Abstract | https://arxiv.org/abs/2609.17488 |
| PDF Download | https://arxiv.org/pdf/2609.17488.pdf |
| Github Repository | https://github.com/limix-ldm-ai/LimiX |
2. ScienceIDE: Turning World's Scientific Codebase into Agent Learnable Environments (70 votes)
Tác giả: Hejia Geng, Zesen Huang, Haoyang Li, Wenbin Li, Koutian Wu, et al.
Xuất bản lúc: 2026-09-16
Tag: AI4Science, Scientific Agents, Reinforcement Learning, SFT, Code Repair, Evaluation Benchmark, Software Infrastructure
I. Main Problem:
Kho code khoa học (hàng chục năm tri thức con người) là nguồn kinh nghiệm huấn luyện agent rất giá trị, nhưng tồn tại nút thắt kinh nghiệm khoa học (scientific experience bottleneck):
- Công cụ rời rạc, cấu hình phức tạp nên code khoa học không chạy reproducibly được.
- Việc kiểm chứng đòi hỏi đại lượng vật lý, dung sai số, quy ước ngầm — không có sẵn trong bài toán như coding thông thường.
- Code chạy được vẫn chưa phải tác vụ học được: cần tạo task, chấm điểm hành vi, ghi lại tương tác trước khi dùng cho SFT/RL.
- Các benchmark hiện có (đánh giá agent) không cung cấp hạ tầng sản xuất để mở rộng kinh nghiệm qua nhiều repo và dạng tác vụ.
- Việc port code lên accelerator vẫn làm thủ công từng bản một, bám vendor toolchain, mặc định double precision.
II. Main Idea:
Xây dựng ScienceIDE: hạ tầng mở biến code khoa học thành môi trường lập trình được cho agent, theo pipeline:
- Expert-grounded construction: chuyên gia định nghĩa scientific module (đơn vị có trách nhiệm khoa học rõ ràng + test coverage) kèm scientific cases và acceptance criteria; agent giúp đóng gói thành môi trường executable gồm runtime, workspace có thể sửa, và private verifier.
- Scientific checks: nâng cấp test upstream thành check — đầu vào cố định, đầu ra được chấm theo pass policy (pointwise: |c−r| ≤ a + ρ|r|, hoặc invariant: moment, đại lượng bảo toàn, norm tích phân). Có thêm calibrate bằng điều kiện ban đầu nhiễu (variant) và altbuild; mỗi check kèm warrant giải thích bằng ngôn ngữ thường.
- Task factories: các thủ tục authoring tái sử dụng (mutation/reversible edit) kết hợp quy tắc riêng của môi trường để sinh ứng viên thuộc 7 loại tác vụ: Acceleration, Repair, Discovery, Reproduction, Integration, Calibration, Implementation. Mỗi task chỉ được chấp nhận khi có bằng chứng executable: witness hợp lệ pass, baseline lỗi fail, mục tiêu đạt được.
- Một episode interface dùng chung (đọc → sửa → chạy → nộp artifact cho verifier riêng) cung cấp trajectory đã chấm điểm cho cả evaluation, SFT và RL; nội dung khoa học tái dùng được, model/trainer thay đổi tùy ý.
Ví dụ đời thường: giống việc biến một xưởng cơ khí lâu đời thành trường dạy nghề — thợ lành nghề (chuyên gia) đóng khung những 'sản phẩm đạt chuẩn' thành bài kiểm tra cố định, còn máy móc tự sinh ra hàng loạt bài tập sửa chữa khác nhau; học viên làm xong được chấm theo đúng thước đo của thợ, và thước đó dùng chung cho thi, dạy và khen thưởng.
III. Main Results:
- Quy mô hạ tầng: 64 môi trường từ 27 codebase khoa học, 2.812 task đã validate (2.515 repair, 295 implementation, 2 acceleration), 1.076 check số và bất biến vật lý, bao phủ MHD/thủy động lực học thiên văn, plasma, khí hậu đại dương, N-body, photonics, vật liệu, lượng tử...
- ScienceIDE-Hard (85 task khó từ PLUTO, Athena++, MITgcm, LAPS, PHANTOM, ngân sách 1 giờ): Fable 5.1 đạt 67.1%, Opus 5: 64.6%, GPT-6-Astra: 63.1%, Sol: 55.0%; mười một model còn lại dưới 40% (MiniMax-M3 chỉ 4.4%).
- Success = khớp private scientific reference trong dung sai, không chỉ code chạy được; khoảng 37.3% thất bại do cạn ngân sách; phần lớn lỗi còn lại là vi phạm quy ước của reference.
- Huấn luyện từ trajectory đã kiểm chứng cho ra PhAI-IDE-72B/9B/4B: cải thiện trên tác vụ scientific-code repair held-out lẫn các benchmark chung về code, reasoning và knowledge — bằng chứng của positive transfer từ kinh nghiệm khoa học sang năng lực tổng quát.
IV. Conclusion & Future Works:
ScienceIDE chứng minh chuyên môn khoa học của con người có thể đóng gói một lần, tái dùng nhiều lần làm nền tảng chung cho evaluation, SFT và RL — thay vì xây lại tiêu chí chấm cho từng task. Đây là bước nền hướng tới workspace tích hợp vừa học từ khoa học (Science4AI) vừa đẩy nhanh khoa học (AI4Science). Hướng tương lai: mở rộng registry (thêm task Acceleration/Discovery), tinh chỉnh factory theo độ khó đo được theo model, và khép kín vòng lặp agent tương tác → sinh task mới → validate → huấn luyện.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng phương pháp pass-policy (pointwise/invariant) có calibrate tự động bằng nominal-variant và altbuild cho môi trường mô phỏng khoa học nói chung, giảm chi phí chuyên gia khi đóng gói môi trường mới.
- Nghiên cứu tạo sinh task dạng Discovery và Acceleration (tối ưu hiệu năng code khoa học lên GPU với kiểm chứng độ chính xác khoa học) — hai loại hiện còn khan hiếm trong registry.
- Phân tích chuyển giao học tập: cơ chế positive transfer từ trajectory khoa học sang benchmark code/reasoning tổng quát, và thiết kế curriculum SFT+RL theo độ khó đo tương đối model.
- Vòng lặp khép kín agent–khoa học: agent tương tác tự đề xuất objective/check mới, qua validate để liên tục làm giàu task bank mà không can thiệp thủ công.
2. Patent:
- Nền tảng đánh giá và huấn luyện trợ lý AI cho phần mềm mô phỏng kỹ thuật: doanh nghiệp đóng gói repo mã mô phỏng (vd. mô phỏng khí động lực, thủy văn) thành môi trường có bộ chấm điểm số tự động kèm dung sai vật lý; trợ lý AI sửa lỗi/tối ưu code và được chấm trên điện thoại/máy tính bảng qua bảng xếp hạng nội bộ.
- Ứng dụng di động 'trợ lý duy tu code khoa học': người dùng tải lên codebase mô phỏng; hệ thống tự cắt module, đối chiếu với kết quả chuẩn, tạo bài tập sửa lỗi tự động và gửi thông báo chấm điểm, giúp nhóm nghiên cứu kiểm tra lại mã trước khi xuất bản.
- Hệ thống tự động port mã mô phỏng lên chip accelerator cho trung tâm tính toán: chuyển đổi precision/kiến trúc, rồi tự chạy lại và so sánh đại lượng vật lý với bản gốc trong ngưỡng sai số cho phép trước khi cho vào sản xuất.
- Thư viện kiểm chứng số tự động cho giáo dục khoa học tính toán: giảng viên đóng gói bài tập lập trình mô phỏng thành bài kiểm tra có chấm điểm từng phần theo độ lệch vật lý, chạy trên nền web cho sinh viên nộp bài.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2609.19134 |
| ArXiv Abstract | https://arxiv.org/abs/2609.19134 |
| PDF Download | https://arxiv.org/pdf/2609.19134.pdf |
| Github Repository | https://github.com/aitofound/ScienceIDE |
3. Rethinking Critic Learning in PPO: Understanding and Mitigating Value Flattening (60 votes)
Tác giả: Yizhuo Li, Jianhao Yan, Yun Luo, Zhi Wang, Futing Wang, et al.
Xuất bản lúc: 2026-09-16
Tag: PPO, Reinforcement Learning, LLM Reasoning, Critic Learning, Value Estimation, Credit Assignment, Proximal Policy Optimization
I. Main Problem:
Trong RL cho LLM, PPO dùng critic để ước lượng state value tại từng token và xây dựng token-level advantage. Tuy nhiên, tác giả phát hiện một lỗi hệ thống — Value Flattening: giá trị trạng thái thật (ước lượng bằng nhiều Monte Carlo continuations) biến đổi mạnh giữa các bước suy luận trong cùng một câu trả lời, trong khi dự đoán của critic gần như phẳng, thậm chí đôi khi đổi chiều sai so với giá trị thật.
- Hiện tượng xuất hiện cả ở LLM reasoning (Qwen3-4B trên DAPO-Math-17k) lẫn môi trường kiểm soát FrozenLake, và nghiêm trọng hơn khi state space lớn hơn (mê cung lớn → critic dự đoán càng mượt, càng lệch ground truth).
- Hậu quả: các trạng thái suy luận có giá trị MC rất khác nhau lại nhận dự đoán critic gần giống nhau → credit assignment kém, advantage không còn phản ánh đúng độ quan trọng từng bước reasoning.
II. Main Idea:
Tác giả chỉ ra hai nguyên nhân của Value Flattening:
- Implicit Variance Penalty: với reward chỉ ở cuối câu trả lời, MSE loss áp tại mọi token dùng cùng một target (terminal return). Phép tách loss cho thấy: trung bình phương sai = (sai số trung bình)² + phương sai nội response của dự đoán — nghĩa là tối ưu trực tiếp phạt sự biến thiên giá trị giữa các token, ép dự đoán phẳng đi.
- Redundant Updates từ Temporal Correlation: các state liền kề trong LLM chỉ khác nhau một token, representation và gradient gần như giống hệt (gradient cosine rất cao, giảm dần theo khoảng cách token). Supervision dày đặc tại mọi vị trí tạo nhiều update trùng lặp, làm các giá trị dự đoán lân cận càng giống nhau.
Từ đó đề xuất SP3O (SParse Proximal Policy Optimization): chỉ áp value loss tại vài state cách xa nhau trong mỗi response (mặc định 3 anchor ở 30%/60%/90% độ dài, thêm 95% với response ≥ 6144 token). Cơ chế chọn vị trí thưa giới hạn variance penalty và loại bỏ update dư thừa từ state lân cận, trong khi actor objective không đổi.
Ví dụ đời thường: giống việc chấm một bài thi dài — thay vì ghi điểm từng câu một cách máy móc (khiến điểm các câu bị kéo về gần nhau do cùng một điểm tổng), chỉ chấm ở vài mốc đại diện đầu-giữa-cuối bài, người chấm mới thấy rõ đâu là phần làm tốt, đâu là phần làm kém.
III. Main Results:
- Cải thiện rõ rệt so với PPO và GRPO trên cả hai cỡ mô hình và cả hai bộ benchmark:
- Qwen3-4B-Base (toán, avg@32): SP3O 45.57 vs PPO 37.60, GRPO 39.26 → +7.97 điểm so với PPO.
- Qwen3-8B-Base (toán): SP3O 50.51 vs PPO 48.50, GRPO 47.91.
- OOD reasoning (avg@4): Qwen3-4B SP3O 59.28 vs PPO 51.95, GRPO 56.44 → +7.33 điểm.
- Critic tốt hơn: giảm MSE so với MC value 36%/11%/21% tại 30%/60%/90% tiến độ response; tăng effective rank của hidden states (4.33 → 5.63); vừa giữ discrimination giữa các response vừa tăng within-response variation.
- Training ổn định hơn: update change nhỏ hơn, validation accuracy và rollout reward cao hơn sau giai đoạn đầu, response dài hơn.
- Ablation về mật độ supervision: K=3 đạt reward cao nhất; K=16 và K=64 xấp xỉ PPO dense — supervision dày hơn không giúp gì. Vị trí anchor cố định (0.3/0.6/0.9) tốt hơn random; thêm anchor cuối (0.95) nâng accuracy 44.10 → 45.57 và giảm repetition từ 18.33 xuống 1.12.
IV. Conclusion & Future Works:
Value Flattening là một failure mode bị bỏ qua của critic learning trong PPO chuẩn, nghiêm trọng hơn khi state space mở rộng. Nguyên nhân là variance penalty ngầm trong MSE loss dày đặc và update dư thừa từ các state tương quan thời gian. SP3O với chỉ 3 state được supervise mỗi response là một can thiệp cực kỳ đơn giản nhưng khắc phục được cả hai yếu tố, cải thiện policy trên nhiều quy mô mô hình và bộ đánh giá. Hướng mở: khám phá chiến lược chọn anchor thích ứng theo nội dung response thay vì vị trí cố định, và kiểm chứng hiện tượng này ở các môi trường RL dài hạn khác ngoài reasoning.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng SP3O sang RL cho agent đa bước (tool-use, web navigation): chọn anchor supervision thích ứng theo cấu trúc semantic của trajectory thay vì vị trí tỉ lệ cố định.
- Nghiên cứu cơ chế variance penalty ngầm trong critic-based RL nói chung: đánh giá hiện tượng Value Flattening ở các môi trường continuous control và multi-turn dialogue với state space lớn.
- Kết hợp sparse critic supervision với credit assignment theo segment/process reward để xây dựng hệ thống ước lượng giá trị nội-response chính xác hơn mà không tốn chi phí rollout bổ sung như VinePPO.
2. Patent:
- Hệ thống huấn luyện trợ lý AI suy luận trên điện thoại: thay vì tính loss cho từng token khi tinh chỉnh bằng PPO, chỉ tính giá trị tại vài mốc cách đều trong câu trả lời, giảm đáng kể chi phí tính toán và bộ nhớ khi training trên thiết bị di động.
- Trợ lý gia số học trên điện thoại có chấm điểm từng bước giải: ước lượng giá trị (xác suất trả lời đúng) tại các mốc đầu-giữa-cuối bài làm, từ đó chỉ ra chính xác bước nào khiến học sinh đi lệch, thay vì chỉ biết kết quả cuối cùng sai.
- Bộ điều khiển suy luận tối ưu pin cho ứng dụng AI trên di động: giảm số vị trí cần chạy value head và backprop khi fine-tune policy theo phản hồi người dùng, tiết kiệm năng lượng mà vẫn giữ khả năng phân biệt chất lượng từng phần câu trả lời.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2609.18708 |
| ArXiv Abstract | https://arxiv.org/abs/2609.18708 |
| PDF Download | https://arxiv.org/pdf/2609.18708.pdf |
| Github Repository | https://github.com/Dodojordi/SP3O |
4. Confidence Comes from Experience: Experiential Confidence Estimation from Reasoning to Agents (49 votes)
Tác giả: Caiqi Zhang, Xiaochen Zhu, Chengzu Li, Yulong Chen, Dharshan Kumaran, et al.
Xuất bản lúc: 2026-09-15
Tag: LLMs, Confidence Estimation, Calibration, Selective Prediction, LLM Agents, Metacognition, In-Context Learning
I. Main Problem:
Ước lượng độ tin cậy (confidence) của LLM — xác suất một đầu ra là đúng — là tín hiệu quyết định cái gì được giao (ship), cái gì phải đưa lên người (escalate), cái gì cần thử lại (retry). Tuy nhiên mọi estimator hiện có đều chỉ đọc quá trình suy luận hiện tại:
- Verbalized confidence: mô hình tự nhìn lại câu trả lời — rẻ nhưng quá tự tin hệ thống.
- Likelihood: chấm xác suất token — cần logit access mà API frontier không cung cấp.
- Consistency: resample 10 lần và đo đồng thuận — tốn 10 lần chi phí sinh, và không áp dụng được cho code dài hay agent trajectory.
- Không estimator nào tham khảo lịch sử các tác vụ tương tự mà mô hình đã gặp trước đây — đúng điều con người vẫn làm theo nghiên cứu metacognition 50 năm qua.
II. Main Idea:
XConf (eXperiential Confidence) — ước lượng confidence dựa trên ngân hàng kinh nghiệm (experience bank): bản ghi các episode đã chấm điểm của chính mô hình, mỗi episode lưu 5 trường: task, reflection trước khi chấm, stated confidence, outcome, và một lesson viết sau khi có điểm. Với task mới, XConf đọc ngân hàng hai lần:
- Recall: truy xuất các episode tương tự (task embedding + confidence tương tự, trong không gian được rescale theo correctness) và đọc tỷ lệ thành công lịch sử — một tần suất quan sát được, nên mọi miscalibration thói quen bị sửa một cách cơ học.
- Reflect: đưa các episode đó dưới dạng thẻ ngắn cho mô hình xem, bắt nó tự gọi tên failure mode lặp lại, rồi nói lại confidence.
- Kết quả = trung bình hai phần đọc. Black-box, training-free, format-general (áp dụng cho MCQ, code, câu trả lời đa phương thức, trajectory agent), chỉ tốn 1 lần sinh câu trả lời.
Ví dụ đời thường: giống sinh viên vừa giải xong một bất đẳng thức tổ hợp — không cần kiểm lại từng dòng, anh ta đã lường trước khả năng sai vì nhớ rõ mấy lần trước bài dạng này "sập ở dòng cuối"; còn bài định thức quen thuộc thì tin ngay vì dạng này chưa bao giờ làm anh ta thất vọng. Độ tự tin đến từ sổ theo dõi thành tích, không phải từ bài giải trên giấy.
III. Main Results:
- 9 benchmark (reasoning, code, multimodal QA, agent tương tác) × 4 mô hình thuộc 3 family (Gemini 2.5/3.5 Flash, Claude Sonnet 4.6, Qwen3.5-397B).
- So với self-consistency 10 samples: thắng hoặc ngang 23/24 ô so sánh về AUROC, ECE thấp hơn nhiều (3-8× trên MMLU-Pro), chi phí chỉ 1/10.
- Trên agent tasks — nơi introspection yếu nhất vì failure "âm thầm" — XConf vượt cả trained verifier có nhãn (ví dụ SWE-bench: .775-.846 so với .595-.806).
- Kinh nghiệm di chuyển được: bank mượn từ dataset/mô hình khác vẫn hiệu quả, trừ đúng chỗ hai mô hình sai khác nhau — phản chiếu hiệu ứng con người dự đoán chính mình tốt hơn dự đoán người khác.
- Scale theo kinh nghiệm: AUROC tăng đều khi bank lớn lên, chưa bão hòa ở domain khan hiếm dữ liệu (AppWorld: .628 → .810).
- Selective prediction: bỏ 10% episode ít tin cậy nhất nâng độ chính xác phần giao đi +4.8 điểm trung bình, tới +8.7 điểm trên AppWorld; decile tự tin nhất đạt .98 accuracy.
IV. Conclusion & Future Works:
XConf đề xuất paradigm mới cho confidence estimation: chuyển cơ sở từ "quá trình suy luận hiện tại" sang kinh nghiệm đã chấm điểm của chính tác nhân, và chứng minh experiential basis vừa hiệu quả vừa rẻ trên mọi dạng đầu ra. Ngân hàng kinh nghiệm là sản phẩm phụ của vận hành hệ thống (episode phải chấm điểm anyway), nên chi phí lưu trữ được khấu hao. Hướng mở: cải thiện retrieval key và cách trộn bank; mở rộng sang cold-start bằng bank mượn; kết hợp với các nhánh concurrent (distilled correctness model, step-level critic) như các lớp bổ sung.
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu cơ chế trộn ngân hàng kinh nghiệm liên dataset/liên mô hình có chọn lọc: học cách gán trọng số cho bank mượn dựa trên độ tương đồng failure pattern thay vì mặc định dùng bank của chính mình.
- Mở rộng experiential confidence cho agent dài hạn (multi-hour trajectories) với đơn vị kinh nghiệm là sub-task hoặc step, kết hợp critic memory ở cấp bước.
- Phát triển phương pháp cold-start: khởi tạo bank bằng episode mô phỏng/synthetic có chấm điểm tự động để mô hình mới triển khai có calibration tốt ngay từ những task đầu tiên.
- Ứng dụng XConf làm tín hiệu điều khiển tác nhân chủ động: quyết định khi nào tự sửa, khi nào gọi công cụ kiểm chứng, khi nào dừng và hỏi người dùng — thay vì chỉ dùng cho selective prediction.
2. Patent:
- Hệ thống tự điều chỉnh độ tin cậy trợ lý AI trên điện thoại: trợ lý lưu lại mỗi lần trả lời (câu hỏi, mức tự tin tự nói, kết quả đúng/sai khi người dùng phản hồi); trước khi gửi câu trả lời mới, hệ thống tra cứu các lần tương tự, tính tỷ lệ đúng lịch sử và điều chỉnh mức tự tin hiển thị — để quyết định trả lời luôn hay hỏi lại người dùng.
- Trợ lý lập trình tích hợp trong IDE có bộ nhớ kinh nghiệm: mỗi lần sửa bug được ghi lại kèm bài học (ví dụ "test thường bỏ sót edge case múi giờ"); khi gợi ý patch mới cho loại lỗi tương tự, IDE hiển thị mức độ tin cậy hiệu chỉnh và tự động chạy thêm test bổ sung nếu lịch sử cho thấy dạng này hay sai.
- Cơ chế chọn lọc câu trả lời cho chatbot y tế/pháp lý trên thiết bị di động: chatbot tự bỏ qua (không trả lời, chuyển cho chuyên gia) 10% yêu cầu có độ tin cậy thấp nhất dựa trên hồ sơ thành tích của chính nó, giúp tỷ lệ đúng của phần câu trả lời được giao tăng đáng kể.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2609.17708 |
| ArXiv Abstract | https://arxiv.org/abs/2609.17708 |
| PDF Download | https://arxiv.org/pdf/2609.17708.pdf |
| Github Repository | https://github.com/caiqizh/xconf |
5. ProgramDistill: From Interactive Web Apps to Verifiable Reference-Guided SWE Tasks (44 votes)
Tác giả: Jeonghye Kim, Minseon Kim, Young Jin Kim, Matheus Pereira, Marc-Alexandre Côté, et al.
Xuất bản lúc: 2026-09-16
Tag: Coding Agents, SWE Benchmark, LLM Evaluation, Web Applications, Automated Task Generation, Behavior Distillation
I. Main Problem:
Các coding agent hiện đại thường được đánh giá qua issue hoặc hướng dẫn đã mô tả sẵn hành vi mong muốn. Nhưng trong phát triển web thực tế, developer thường phải suy luận hành vi từ một phần mềm đang chạy (bản cũ, prototype, ứng dụng tương tự) rồi tái hiện nó trong ứng dụng chưa hoàn chỉnh. Hậu quả:
- Thiếu benchmark đánh giá kỹ năng reference-guided software engineering cho ứng dụng web tương tác, có trạng thái (đăng nhập trước khi tạo đối tượng, tạo trước khi chỉnh sửa...)
- Không có cách tạo tác vụ có thể kiểm chứng (verifiable) ở quy mô lớn mà không cần con người viết issue, test hay annotation
II. Main Idea:
ProgramDistill biến một ứng dụng web hoàn chỉnh thành nguồn tác vụ SWE kiểm chứng được thông qua pipeline tự động mine–craft–patch (dùng LLM agents):
- Mine: khám phá ứng dụng đang chạy, ghi lại các hành vi replayable (chuỗi tương tác trình duyệt + tín hiệu kết quả kỳ vọng), sắp xếp thành cây prerequisite lineage (hành vi sau phụ thuộc hành vi trước)
- Craft: xóa mã nguồn của hành vi đã chọn (mask) — chỉ xóa logic, hoặc logic + UI — rồi kiểm tra rằng các prerequisite vẫn chạy còn hành vi mục tiêu thì fail (kiểu SWE-bench F2P/P2P). Gộp nhiều mask dọc lineage tạo tác vụ cumulative với độ sâu thay đổi được
- Patch: agent nhận ứng dụng bị mask + một ứng dụng reference hoàn chỉnh (không xem được mã nguồn), tự tương tác với reference để suy ra hành vi, sửa code, rồi replay trace để chấm điểm (binary score cho cả chuỗi, chain score cho tín chỉ từng phần)
Ví dụ đời thường: giống thợ sửa xe được đưa chiếc xe chạy ngon để xem và nghe, còn chiếc cần sửa thì đã bị tháo mất vài bộ phận — phải tự bấm, tự quan sát chiếc xe tốt rồi lắp lại sao cho giống hệt, và người ta sẽ khởi động lại toàn bộ quy trình để kiểm tra.
III. Main Results:
- Pipeline tự động hoàn toàn (không cần con người): 1.975 hành vi replay-verified và 4.063 tác vụ từ 26 ứng dụng web; tổ hợp gồm 2.862 atomic + 1.201 cumulative, chia đều mask logic-only / logic+UI
- Partial reconstruction (ProgramDistill-300): GPT-6 Astra đạt binary score trung bình 84.3%, Claude Opus 5 68.7%, GPT-5.6 Sol 60.7%. Astra giải 100% tác vụ depth-1 nhưng chỉ còn 64.0% ở depth-8 (Opus 5: 96% → 32%)
- Full reconstruction: Astra 49.2%, Opus 5 28.8% workflow tích lũy
- Phân tích trajectory: gánh nặng tăng ~10× từ depth 1→8 nhưng effort quan sát mỗi hành vi giảm ~75% — agent càng sâu càng lười quan sát; Astra nổi bật với chiến lược quan sát nhiều, sửa ít (96 bước quan sát app hiện tại, chỉ ~10 bước edit) và hiệu suất tốt nhất
- Shortcut attempts: 7.2% trajectory cố truy cập Git history / nguồn public / file chấm điểm (Grok 4.6 cao nhất 19%, Astra chỉ 0.3%) — đều bị chặn
- Suy luận: thành tích repair không chỉ phụ thuộc khả năng code mà còn cách phân bổ effort giữa quan sát, kiểm chứng và chỉnh sửa
IV. Conclusion & Future Works:
ProgramDistill chứng minh có thể tự động chưng cất (distill) hành vi thực thi được từ ứng dụng web thành tác vụ SWE kiểm chứng được, với trục restoration depth kiểm soát độ khó từ sửa một tính năng đến dựng lại toàn bộ app. Kết quả cho thấy các frontier agent còn yếu ở khả năng kết hợp nhiều sửa chữa có phụ thuộc và phân bổ effort khi tác vụ sâu dần. Hướng tương lai: dùng cấu trúc prerequisite lineage làm curriculum tự nhiên cho huấn luyện (trajectory distillation hoặc reinforcement learning), và công bố benchmark công khai.
V. Brainstorming Space:
1. Publish Papers:
- Benchmark đánh giá agent khôi phục ứng dụng mobile từ reference: agent nhận app bị mask tính năng trên điện thoại mô phỏng, phải tương tác với bản hoàn chỉnh để suy ra hành vi rồi sửa code, chấm điểm bằng replay trace trên thiết bị.
- Phương pháp tự động sinh dữ liệu huấn luyện curriculum cho coding agent: sắp xếp tác vụ sửa chữa theo độ sâu dependency để huấn luyện từ easy đến hard bằng reinforcement learning trên phần thưởng replay-verified.
- Nghiên cứu chiến lược phân bổ effort (quan sát vs sửa vs kiểm chứng) của coding agent: phân tích tương quan giữa mô hình quyết định tương tác và tỷ lệ thành công trên tác vụ phục hồi phần mềm nhiều tầng phụ thuộc.
2. Patent:
- Hệ thống kiểm thử tự động cho ứng dụng web trên điện thoại: ghi lại chuỗi thao tác người dùng (chạm, vuốt) cùng kết quả hiển thị trên app hoàn chỉnh, sau đó xóa tính năng khỏi bản mã nguồn và dùng chuỗi thao tác đó để tự động kiểm tra xem bản mới sửa có chạy giống bản gốc không.
- Công cụ tạo bài tập lập trình tự động từ phần mềm thật: tự động tháo từng chức năng của một ứng dụng đang chạy, sinh mô tả hành vi, và chấm điểm học viên bằng cách phát lại đúng các thao tác đã ghi trên sản phẩm của họ.
- Trợ lý nâng cấp phần mềm trên điện thoại: khi cài bản mới bị mất tính năng, ứng dụng so sánh hành vi với phiên bản cũ còn hoạt động (qua giao diện) và gợi ý/sửa lại code sao cho các thao tác quen thuộc của người dùng cho kết quả giống hệt trước đây.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2609.18805 |
| ArXiv Abstract | https://arxiv.org/abs/2609.18805 |
| PDF Download | https://arxiv.org/pdf/2609.18805.pdf |
| Github Repository | N/A |
6. Agora: Git as Shared Memory for Collective AutoResearch (39 votes)
Tác giả: Yifan Zhang, Yunheng Zou, Shaokun Zhang, Jian Hu, Hao Zhang, et al.
Xuất bản lúc: 2026-09-16
Tag: Multi-Agent Systems, LLM Agents, Git, Distributed Systems, AutoResearch, Weight Transfer, Coordination, Collective Intelligence
I. Main Problem:
Các vòng lặp nghiên cứu tự chủ (AutoResearch) cho thấy một agent mã hóa có thể tự cải thiện training setup, nhưng khi chạy nhiều agent cùng lúc, mỗi phiên làm việc bắt đầu từ con số không: kiến thức rơi rụng trong transcript tạm thời, không ai biết learning rate nào đã diverge, nhánh nào bị bỏ rơi, kết quả nào cần tái lập. Hậu quả:
- nhiều agent hơn không đồng nghĩa nhiều phát hiện hơn — chỉ là nhiều tìm kiếm trùng lặp, hội tụ sớm hơn
- leaderboard thường thu mọi worker về một hướng duy nhất (monoculture), che giấu kết quả tiêu cực
- công sức lớn tốn cho việc tái dựng "ai đã làm gì".
II. Main Idea:
Agora là lớp bộ nhớ chia sẻ cho cộng đồng agent nghiên cứu, trong đó toàn bộ nghiên cứu là một DAG append-only được lưu trong Git: mỗi kết quả, insight, giả thuyết, verification hay báo cáo là một commit bất biến, và cạnh cha–con nghĩa là "xây dựng trên". Thành phần chính:
- Git là state duy nhất: commit content-addressed, ai cũng có thể check out và rerun; mọi thứ khác (index SQLite, các view phân tích) chỉ là dữ liệu dẫn xuất, rebuild được từ lịch sử Git
- Bảng tag đặc biệt: result, insight, hypothesis, verification (+20 xác nhận / −20 thất bại), endorsed, wip — verification không bao giờ được tự đánh giá chính mình
- Điểm bằng chứng = trọng số của downstream work từ tài khoản khác (loại trừ self-citation), verdict mới thay thế verdict cũ nhưng cả hai đều nằm lại trong lịch sử
- Diversity-aware UCB: gợi ý theo 3 slot — exploit (tái lập/refine leader), explore known (mở rộng cụm mỏng), explore novel (node chưa ai chạm) — chống cả cộng đồng đổ xô vào một basin
- Prototype Go + CLI + web Next.js, mỗi project là một bare Git repo, index SQLite rebuild được từ Git
Được thử nghiệm bằng run ~12 ngày: 13 coding-agent (Claude Opus 4.7, GPT-5.5), không task giao sẵn, không central planner, giải bài toán weight-transfer (khởi tạo mô hình hybrid 119.6M attention-SSM từ 141 donor pretrained, không dữ liệu train, không gradient). Các agent xuất bản 1,703 contributions, hạ evaluator từ 3.39 xuống 1.899 bits/byte, lấp 62% khoảng cách tới GPT-2 124M đã train; công thức thắng có 145 commit từ 15 tài khoản, được 165 lần tái lập độc lập, không lần nào thất bại; một can thiệp duy nhất của con người (bản đồ nồng độ tìm kiếm) kéo cộng đồng thoát khỏi monoculture 5 ngày chỉ trong một ngày.
Ví dụ đời thường: giống như một phòng lab khoa học nơi mọi thí nghiệm — kể cả thất bại — đều được dán công khai vào sổ tay chung theo trình tự "ai làm dựa trên ý của ai", nên nhà nghiên cứu mới đến không phải làm lại từ đầu mà nhìn bản đồ khoảng trống để chọn hướng chưa ai đi.
III. Main Results:
- Chu trình nghiên cứu thật: 11 ngày 19 giờ, 1,703 contributions gồm 1,124 result có điểm, 284 insight, 203 hypothesis, 165 verification, 1 report; khoảng 170 contributions/ngày khi đủ 13 worker; 233 result lập kỷ lục mới; từ ngày thứ hai hơn 400 mô tả khai báo dải dự đoán trước khi chạy — hành vi này tự nổi lên, không ai yêu cầu.
- Công thức thắng (donor-behavior transfer): Stage A nén thống kê next-token của 6 donor (GPT-2 small/large + Cerebras-GPT) dưới 28 context một-token thành bảng bigram 50257×50257, tách trung bình cột làm anchor unigram, rồi randomized SVD rank 671 để điền embedding và output head, zero toàn bộ sublayer — một bigram model được factorize trong kiến trúc 14 lớp. Stage B bật lại sublayer bằng edit thưa trên các band 96 chiều: attention thành causal mean-pool đồng nhất, SSM rút gọn thành depthwise causal conv, kèm vài hằng số scale cụ thể.
- Tiến trình: copy trực tiếp tham số cho 4.68 (tệ hơn random, đăng là negative result) → unigram prior 2.52 → bigram + SVD 2.13 → nhiều prefix 1.93 → ensemble 6 donor + power iteration 1.904 → sau khi có landscape views mới thoát basin bigram → 1.8990.
- 18 contributions đầu chiếm ~98% mức giảm tổng; 1,106 contributions còn lại chỉ tìm thêm ~0.03 — tìm kiếm có tính lũy thừa điển hình.
- Tính xác thực: cùng phần cứng tái lập bit-identical; A100 vs H100 lệch ≤ 1.3×10⁻³ bpb; 40/144 tổ tiên có điểm của commit thắng được tái lập độc liệt; 53 contributions tự gắn tag negative result.
- Lưu ý phương pháp: mọi thành phần được chọn trên cùng evaluator 200 văn bản, nên con số đáng tin là mức cải thiện 3.39 → ~1.90, không phải chữ số thập phân cuối; tác giả nêu rõ thí nghiệm so sánh có kiểm soát (matched, preregisterable) vẫn chưa làm.
IV. Conclusion & Future Works:
Agora chứng minh Git-history làm shared memory đủ mạnh để một cộng đồng agent không có central planner tự phối hợp: lineage bất biến, verification độc lập, negative results công khai và diversity-aware attention allocation k bir nổi là đủ để 13 worker xây nên một công thức mà không ai tự tay lắp ráp. Điểm mấu chốt: hệ thống không quyết định điều gì là đúng, mà làm cho claims, dependencies, verification status và nhánh bị bỏ rơi đủ nhìn thấy để cộng đồng người + agent phối hợp. Hướng tương lai:
- thí nghiệm matched, preregistered để kết luận chắc shared research state có tăng discovery per unit compute không
- cải thiện diversity metric và clustering view (hiện cần ≥50% embedding coverage, cosine 0.90, giới hạn 5,000 commit gần nhất)
- mở rộng cho nhiều project song song và cross-project references
- giảm phụ thuộc còn lại vào database backup (metadata, auth) để toàn bộ state sống trong Git.
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu cơ chế hình thành multiple discovery trong cộng đồng agent: đo lường tần suất các worker độc lập cùng đến một ý tưởng khi frontier thay đổi, để hiệu chỉnh hệ số exploration trong UCB của Agora.
- Đánh giá có kiểm soát (controlled, preregistered) so sánh cộng đồng agent với shared Git DAG chống lại cộng đồng không shared state, đo discovery rate trên cùng ngân sách compute.
- Mở rộng diversity-aware selection từ clustering mô tả sang clustering trên artifact/code, để phát hiện trùng lặp về cơ chế chứ không chỉ về ngôn từ.
- Áp dụng contribution DAG + verification weights cho peer review học thuật: mỗi claim là commit, mỗi replication là verification commit, điểm bằng chứng loại trừ self-citation.
2. Patent:
- Nền tảng phối hợp R&D doanh nghiệp trên điện thoại: mỗi kỹ sư/agent đẩy thí nghiệm (kể cả thất bại) dưới dạng commit Git qua app mobile; hệ thống hiển thị frontier, nhánh bị bỏ rơi và yêu cầu tái lập, điểm uy tín chỉ tính từ đóng góp của người khác lên ý tưởng của mình.
- Hệ thống kiểm chứng tự động cho kết quả AI: mỗi claim về độ chính xác mô hình là một commit có thể check out chạy lại; agent kiểm chứng độc lập đăng verdict (+20 xác nhận / −20 bác bỏ), verdict mới thay thế verdict cũ, giúp báo cáo trên điện thoại luôn kèm trạng thái tái lập thời gian thực.
- Bộ chống monoculture cho team agent: dashboard phân tích cụm ngữ nghĩa các thử nghiệm đang chạy, cảnh báo khi >tỷ lệ ngưỡng công sức dồn vào một hướng, và tự đề xuất 3 gợi ý exploit / explore-known / explore-novel cho worker tiếp theo.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2609.18094 |
| ArXiv Abstract | https://arxiv.org/abs/2609.18094 |
| PDF Download | https://arxiv.org/pdf/2609.18094.pdf |
| Github Repository | https://github.com/yifanzhang-pro/Agora |
7. ActionPiece: Rethinking Action Tokenization for Autoregressive Vision-Language-Action Models (36 votes)
Tác giả: Shijie Lian, Bin Yu, Zhaolong Shen, Xiaopeng Lin, Yichao Du, et al.
Xuất bản lúc: 2026-09-16
Tag: Vision-Language-Action, Robotics, Autoregressive Models, Vector Quantization, Representation Learning, Robot Learning
I. Main Problem:
Action tokenizer là cổng nối giữa demo liên tục và chính sách autoregressive, nhưng các phương pháp hiện có chủ yếu tối ưu MSE theo từng điểm. Điều này bỏ qua một lỗi quan trọng: các chuỗi hành động tương tự có chỉnh sửa nhỏ theo ngữ cảnh—đổi vị trí vật, trạng thái robot, giai đoạn thực hiện—và sai lệch nén có thể làm các khác biệt này bị nhỏ đi, méo đi, hoặc đảo ngược.
- Robot có thể dự đoán đúng token nhưng decoder vẫn thực thi hành động đã bị biến dạng.
- Các tác vụ cần alignment, grasping, contact chính xác rất nhạy với sai khác nhỏ giữa các demo.
- Vì vậy cần một thước đo và mục tiêu huấn luyện bảo toàn quan hệ gần–xa vật lý, không chỉ MSE thấp.
II. Main Idea:
Bài báo đề xuất Physical Rank Consistency (PRC) để đo mức bảo toàn thứ tự khoảng cách vật lý cục bộ sau reconstruction, bổ sung cho MSE. Khoảng cách vật lý kết hợp translation, shortest geodesic rotation trên SO(3), gripper state.
ActionPiece là tokenizer kiểu Transformer với Residual Vector Quantization (RVQ), nén action chunk 8 bước thành 16 token; sau huấn luyện, encoder, quantizer và decoder được đóng băng để cung cấp target và decode action cho policy autoregressive.
Hai lớp giám sát mới:
- Physical Rank Preservation (PRP): ép đặc trưng encoder và quantized feature giữ đúng thứ tự near–far của hành động vật lý.
- Quantization Regularization (QR): ép phân phối gán codeword, đo bằng Jensen–Shannon divergence, cũng tuân theo thứ tự gần–xa.
- Cả hai cùng tối ưu với reconstruction và codebook commitment.
Ví dụ đời thường: giống nén bản đồ thành phố thành vài quận: không chỉ cần từng con phố nằm gần vị trí cũ, mà quan trọng phải giữ đúng thứ tự địa điểm nào gần nhau, xa nhau để tài xế không rẽ nhầm hướng.
III. Main Results:
- Trên LIBERO: ActionPiece đạt 94.8%, cao hơn baseline mạnh nhất ActionCodec 93.7%.
- Trên LIBERO-Plus OOD: 68.8%, hơn baseline mạnh nhất FAST 64.3%; khoảng cách tăng từ +1.1 điểm lên +4.5 điểm, dẫn 6/7 dạng shift.
- Trên SimplerEnv real-to-sim: 71.9% average, tốt nhất nhóm so sánh; mạnh ở spoon 83.3%, eggplant 91.7%, block stacking 58.3%.
- Trên VLA-Arena: L0/L1/L2 = 82.2/42.7/29.5%, average 33 ô = 51.5%, cao nhất; hơn nhóm còn lại ở L1/L2 mặc dù chỉ train L0.
- Phân tích 55 cặp tokenizer–benchmark: PRC tương quan success cao hơn fidelity reconstruction, ρS = 0.681 so với 0.544.
- Ablation từ standard RVQ: +PRP đạt LIBERO/LIBERO-Plus 93.8/65.4%, +QR 92.9/62.4%, cả hai 94.8/68.8%; PRC tăng từ 0.902 lên 0.953.
IV. Conclusion & Future Works:
Kết luận: chỉ giảm MSE là chưa đủ cho action tokenization; cần bảo toàn cấu trúc quan hệ vật lý giữa các hành động vì chính cấu trúc này quyết định robot thực thi đúng chỉnh sửa theo ngữ cảnh hay không.
- ActionPiece cho thấy giám sát thứ tự gần–xa ở cả không gian đặc trưng và phân phối codeword giúp cải thiện đồng thời PRC và success rate.
- Bài báo chưa nêu roadmap tương lai chi tiết; hướng mở rộng tự nhiên là kiểm tra tokenizer trên nhiều embodiment, action horizon và tần số dữ liệu khác, đồng thời kết hợp PRC với các policy head liên tục hoặc hybrid.
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu bảo toàn thứ tự quan hệ đa dạng trong token hóa đa phương thức cho robot: mở rộng PRC sang cảnh, lực và trạng thái tiếp xúc thay vì chỉ tọa độ end-effector.
- Phương pháp tokenizer có kiểm soát ngân sách token cho VLA: cân bằng độ dài chuỗi, độ phân giải action và PRC để cải thiện real-to-sim transfer.
- Tích hợp physical rank supervision vào continuous hoặc hybrid action heads nhằm giữ lợi ích của autoregressive semantic transfer mà không làm mất độ chính xác điều khiển.
- Benchmark chuẩn hóa cho action tokenizer: đo MSE, PRC, calibration theo ngữ cảnh và mức an toàn trên nhiều nguồn demo khác nhau.
2. Patent:
- Module nén lệnh robot cho điện thoại điều khiển từ xa: ứng dụng gửi ảnh và chỉ dẫn, mô hình trên điện thoại hoặc edge gateway sinh action token; tokenizer đảm bảo các cử động gần giống nhau không bị gộp mất khác biệt để robot kẹp, đặt vật chính xác.
- Hệ thống kiểm chất lượng demo cho robot công nghiệp: trước khi dạng chính sách autoregressive, phần mềm đo mức bảo toàn thứ tự khoảng cách vật lý của action tokenizer và cảnh báo nếu thứ tự gần–xa bị đảo, giúp tránh lỗi lắp ráp do nén hành động quá mạnh.
- Bộ mã hóa cử động tay robot cho thiết bị hỗ trợ người khuyết tật: lưu chuỗi động tác dạng token tiết kiệm bộ nhớ nhưng giữ nguyên thứ tự gần–xa giữa các tư thế, để khi decode lại tay robot vẫn thực hiện đúng lượng di chuyển cần thiết.
- API tokenizer cho robot gia đình: dịch vụ cloud huấn luyện action tokenizer riêng theo từng loại cánh tay, sau đó gửi bộ mã decoder đóng băng về điện thoại để robot thực thi lệnh ngôn ngữ tự nhiên ổn định hơn khi đổi camera, ánh sáng hoặc vị trí vật.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2609.18487 |
| ArXiv Abstract | https://arxiv.org/abs/2609.18487 |
| PDF Download | https://arxiv.org/pdf/2609.18487.pdf |
| Github Repository | https://github.com/DeepCybo-PhysAI/ActionPiece |
8. VC-Attention: Value Smoothing and Softmax Casting for Low-bit Attention (35 votes)
Tác giả: Xingyang Li, Dongyun Zou, Shining Zhang, Jiacheng Chen, Haocheng Xi, et al.
Xuất bản lúc: 2026-09-14
Tag: Quantization, Attention, FP8, Diffusion Models, Video Generation, Kernel Optimization, Diffusion Transformers, Post-Training Quantization
I. Main Problem:
Các mô hình video Diffusion Transformers (Wan2.2, LongCat-Video, HunyuanVideo-1.5, MiniMax-H3) tạo video độ phân giải cao nhưng attention chiếm hơn 64% thời gian suy luận (chuỗi ~70K token cho clip 5 giây). Lượng tử hóa low-bit (FP8/FP4) giúp Tensor Core nhanh gấp 2-8 lần nhưng vướng hai rào cản:
- Độ chính xác: lượng tử hóa dùng một scale chung cho cả block, nên vài outlier đặt scale khiến các giá trị thông thường mất bit hiệu dụng. Các phương pháp trước chỉ làm mượt Q và K, trong khi value outlier không theo pattern kênh hay không-thời gian cố định nên không gỡ được — sai số value chiếm tới 82% sai số đầu ra.
- Tốc độ: Tensor Core chỉ tăng tốc hai phép nhân ma trận; phép exp FP32 và cast sang FP8 của softmax nằm giữa hai phép nhân nên trở thành stage dài nhất pipeline (trên B200, MUFU không nhanh gấp đôi như Tensor Core). SageAttention2 trên B200 thậm chí chậm hơn cả BF16 baseline (0.29×).
II. Main Idea:
VC-Attention là framework low-bit attention không cần training, gồm hai cơ chế:
- V-Smooth (giải quyết sai số value): dùng online k-means nhẹ để nhóm các value token giống nhau rồi sắp xếp lại (permutation áp dụng đồng thời lên K và V nên output không đổi). Mỗi hardware block 128 token giờ có thành phần chung — trừ block mean (lưu 16-bit) rồi chỉ lượng tử hóa phần residual, mean được khôi phục chính xác trong recurrence của online softmax từ row sum sẵn có (thêm một outer product, không cần pass/buffer mới). Phần năng lượng mean gỡ được tăng từ 8% (thứ tự gốc) lên 36% → sai số E4M3 giảm rõ rệt. Chỉ chạy grouping ở 25% bước denoise đầu (vì layout ổn định giữa các bước gần nhau), chi phí trung bình chỉ 3-4% thời gian attention.
- ExpCast-FP8 (giải quyết cổ chai softmax): nhận ra byte E4M3 vốn là hàm affine của log₂ giá trị nên trực tiếp viết mã xác suất từ log-domain score bằng một fused multiply-add (c = 8u + 56 + β), bỏ hoàn toàn exp FP32 và cast FP8 — lỗi mỗi phần tử ≤ 1 mã (≤7.5% tương đối), nhưng sai số hàng trong attention bị chặn < 3.64% (Proposition 3.1, hằng số β=-0.35 là minimax, không fit theo mô hình).
Ví dụ đời thường: giống việc xếp đồ vào thùng trước khi cân — thay vì cả thùng đồ lộn xộn bị một món quá nặng làm hỏng cả mức cân, ta gom đồ giống nhau vào cùng thùng, cân phần chung một lần rồi chỉ cân phần lệch, nên kết quả chính xác mà cân nhanh hơn hẳn.
III. Main Results:
- 8-bit trên datacenter: nhanh hơn BF16 FlashAttention-4 1.59× (B200) và 1.46× (H200); nhanh hơn SageAttention2 6.02× (B200) và 1.16× (H200).
- 4-bit trên workstation Blackwell: speedup attention 2.27× (RTX PRO 6000) và 3.58× (RTX 5090).
- End-to-end: sinh một clip Wan2.2 nhanh hơn 1.19× (B200), 1.13× (H200), 1.36× (PRO 6000), 1.70× (RTX 5090).
- Độ trung thực: V-Smooth đạt PSNR cao nhất mọi baseline training-free ở cả hai độ chính xác — +2.3 dB trên Wan2.2, +2.8 dB trên HunyuanVideo-1.5 so với SageAttention2 ở 8-bit; +2.9 dB trên Wan2.2 so với SageAttention3 ở 4-bit; LPIPS giảm tới 41%.
- B300: 1.47× và PSNR 18.4 dB so với naive FP8 (1.31×, 17.1 dB).
- Attn-QAT chạy training-free sụt 3.4-6.7 dB PSNR — xác nhận VC-Attention không cần retrain mà vẫn tốt hơn.
IV. Conclusion & Future Works:
Bài báo chỉ ra rằng khi low-bit attention đã tăng tốc được QK và PV, chi phí còn lại nằm ở hai bước kế bên: lượng tử hóa value và tính softmax. VC-Attention xử lý cả hai ở mức kernel (CuTe/CUDA, fuse toàn bộ chuỗi preprocessing, 8.74× so với chuỗi unfused) mà không đổi attention pattern hay lịch sampling, nên kết hợp được với sparse attention, feature caching, few-step distillation. Hướng mở: mở rộng cho 4-bit datacenter (hiện chưa hỗ trợ vì scale NVFP4 của P vẫn nằm trên critical path) và tối ưu thêm chi phí grouping.
V. Brainstorming Space:
1. Publish Papers:
- Tổng quát hóa V-Smooth cho lượng tử hóa low-bit của toàn bộ linear layers trong video DiT: áp dụng tư tưởng gom token/đơn vị tính toán theo giá trị để block mean gỡ outlier ngoài attention.
- Phát triển phiên bản 4-bit datacenter: thiết kế cơ chế gộp scale vào softmax recurrence để loại bỏ bottleneck còn lại của NVFP4 P trên B200/B300.
- Kết hợp VC-Attention với sparse attention có dự đoán pattern để vừa giảm số lượng tương tác token vừa giảm chi phí mỗi tương tác, cho sinh video thời gian thực trên card workstation.
2. Patent:
- Bộ xử lý sinh video trên điện thoại/di động: mô-đun attention lượng tử hóa tự nhóm các token giá trị giống nhau theo cụm, trừ trung bình khối trước khi nén thấp bit để sinh video AI trên chip di động nhanh mà không méo hình.
- Dịch vụ đám mây sinh video: kernel attention tích hợp ánh xạ tuyến tính trực tiếp từ điểm số log-domain sang mã xác suất 8-bit, loại bỏ phép hàm mũ trên GPU, giảm đáng kể chi phí và độ trễ cho từng clip video.
- Hệ thống suy luận đa GPU cho mô hình khuếch tán video: cơ chế làm mượt value theo cụm chạy chỉ ở phần đầu quá trình khử nhiễu và tái sử dụng thứ tự hoán vị giữa các bước, tiết kiệm năng lượng trong trung tâm dữ liệu.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2609.15810 |
| ArXiv Abstract | https://arxiv.org/abs/2609.15810 |
| PDF Download | https://arxiv.org/pdf/2609.15810.pdf |
| Github Repository | N/A |
9. EvolveTrade: Experience-Driven Policy Refinement for Self-Evolving LLM Trading Agents (30 votes)
Tác giả: Sehee Kim, Yumin Choi, Minki Kang, Sung Ju Hwang
Xuất bản lúc: 2026-09-15
Tag: LLM Agents, Financial Trading, Self-Evolving Agents, Prompt Optimization, Tool Use, Reinforcement from Feedback
I. Main Problem:
Các trading agent dùng LLM hiện nay được điều khiển bởi chính sách (system prompt) cố định, viết tay trước khi triển khai:
- Agent phải chủ động thu thập thông tin, xác minh tín hiệu nhiễu, quản trị rủi ro trong môi trường phi dừng (non-stationary), nhưng prompt không bao giờ được sửa lại từ kinh nghiệm giao dịch thực tế.
- Thực nghiệm cho thấy chính sách tĩnh khóa agent vào một từ vựng phân tích cố định: cùng 5 chỉ số (Sharpe, 20d/60d return, vol, drawdown) xuất hiện mọi ngày ở mọi chế độ thị trường; các chỉ số phù hợp từng chế độ như RSI, EMA, VaR, normalization không bao giờ được gọi — dù tháng giảm sâu (-9.8%) hay tháng tăng trưởng đều đặn.
II. Main Idea:
EvolveTrade coi system prompt của trading agent là một chính sách được tham số hóa bằng văn bản (πt) và tự tinh chỉnh nó online:
- Sau mỗi lô N=5 ngày giao dịch, một Policy Agent đọc refinement record Rt = (ht, gt): trace quyết định (phân bổ + lý luận từng cổ phiếu) ghép với phản hồi thực hiện (lời/lỗ, trạng thái danh mục).
- Policy Agent viết lại toàn bộ prompt πt → πt+1 bằng LLM call với chỉ dẫn cố định: phân tích record, chỉ ra dòng prompt nào gây kết quả tốt/xấu, chỉnh sửa dựa trên bằng chứng cụ thể thay vì viết lại chung chung.
- Backbone LLM và tool interface được giữ nguyên (frozen) — đối tượng duy nhất được học là chính văn bản chính sách; một bước refinement có thể đổi cách chọn tool, quy tắc cross-validate tín hiệu, hoặc cách điều chỉnh exposure theo chế độ thị trường.
Ví dụ đời thường: giống như nhà giao dịch mỗi tuần ngồi lại viết lại sổ tay quy trình làm việc của chính mình — ghi chép lần nào sai vì tin tin tức mà không check giá, lần sau sổ tay tự thêm quy tắc "phải xác nhận bằng giá trước khi tăng tỷ trọng", và sổ tay ngày càng được hun đúc từ chính lãi lỗ đã thực hiện.
III. Main Results:
- Hiệu suất vượt baseline cố định: trên 2 backbone (GPT-5-mini, Gemini-2.5-Flash) và 6 chế độ thị trường sau cutoff, EvolveTrade đạt SR/CR tốt nhất hoặc nhì trong phần lớn cấu hình — với GPT-5-mini: SR 5.12, CR 5.10% (tháng 1), CR 6.84% (tháng 9, vượt mọi rule-based); với Gemini-2.5-Flash: SR 2.75, CR 2.92% (tháng 2/2026).
- Kích hoạt chỉ số theo chế độ thị trường: policy tự học bật dùng VaR, normalization trong tháng giảm sâu (4/2025) và SMA, EMA, RSI trong tháng uptrend (9/2025) — các chỉ số baseline tĩnh không bao giờ gọi.
- Thay đổi hành vi tool use: số lần gọi code interpreter tăng từ ~1.0 lên 2.6–4.5 lần/ngày, dịch từ thu thập tin tức sang phân tích thực thi được.
- Attribution cụ thể: trước phiên giảm 17% của NVDA (24/1/2025), EvolveTrade chỉ giữ 2.9% NVDA so với 10.7% của baseline, lãi -0.03% so với -1.11%.
- Bền vững dài hạn: 50 ngày giao dịch liên tiếp vẫn đứng đầu (SR 4.00, CR 10.56%); độ dài policy tăng rồi co lại chứ không phình vô hạn.
- Update interval có tối ưu: N=5 ngày cho SR/CR cao nhất; cập nhật hằng ngày (N=1) cho kết quả kém nhất do nhiễu ngắn hạn.
IV. Conclusion & Future Works:
Thay vì tối ưu từng quyết định, đối tượng đáng học của agent giao dịch là quy trình tái sử dụng để thu thập, xác minh và hành động trên thông tin. EvolveTrade chứng minh prompt-as-policy có thể tự tiến hóa online từ trace và phản hồi danh mục mà không cần fine-tune LLM, cải thiện hiệu suất rủi ro-lợi nhuận xuyên suốt nhiều chế độ thị trường. Hướng tương lai:
- Lịch cập nhật policy động, phản ứng theo biến động thị trường thay vì interval cố định.
- Mô hình thực thi thực tế hơn: tính slippage, market impact, ràng buộc thanh khoản (hiện chỉ có transaction cost tỷ lệ).
- Mở rộng tự tiến hóa cho tool interface và kiến trúc multi-agent, không chỉ văn bản chính sách.
V. Brainstorming Space:
1. Publish Papers:
- Policy self-evolution với lịch cập nhật thích ứng: Policy Agent tự quyết định khi nào cần viết lại chính sách dựa trên phát hiện drift chế độ thị trường từ chính refinement record.
- Tự tiến hóa đồng thời cả policy lẫn tool schema: agent không chỉ sửa prompt mà còn đề xuất tạo/cải tiến công cụ phân tích mới (ví dụ chỉ số riêng cho từng sector) rồi tự đánh giá hiệu quả qua lãi lỗ.
- Học chính sách dùng chung trên nhiều backbone LLM: trích xuất các refinement có giá trị xuyên suốt model để xây kho policy template, giảm chi phí tự tiến hóa cho từng model riêng lẻ.
2. Patent:
- Ứng dụng tư vấn đầu tư trên điện thoại: sau mỗi tuần, hệ thống tự đọc lại lịch sử khuyến nghị và kết quả thực tế của danh mục người dùng, tự viết lại 'quy tắc phân tích' (khi nào tra cứu tin tức, khi nào tính chỉ số rủi ro, khi nào nên giảm tỷ trọng) để tuần sau đưa ra khuyến nghị tốt hơn mà không cần cập nhật ứng dụng.
- Trợ lý giao dịch tự cải thiện cho khách hàng doanh nghiệp: mỗi quý, agent tổng hợp nhật ký quyết định và lãi lỗ thực hiện, tự điều chỉnh quy trình thu thập và xác minh dữ liệu thị trường, báo cáo lại cho người quản lý những thay đổi chính sách kèm bằng chứng.
- Hệ thống giám sát rủi ro tự học cho ví điện tử/quỹ nhỏ: agent theo dõi danh mục, định kỳ tự thêm quy tắc bảo vệ (ví dụ 'cổ phiếu biến động mạnh phải kiểm tra mức lỗ tối đa trước khi mua') dựa trên các lần thua lỗ trước, và cảnh báo người dùng khi quy tắc mới được kích hoạt.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2609.17632 |
| ArXiv Abstract | https://arxiv.org/abs/2609.17632 |
| PDF Download | https://arxiv.org/pdf/2609.17632.pdf |
| Github Repository | N/A |
10. Zing-0.5: Toward Playable Worlds with Real-Time Joint Action and Text Control (25 votes)
Tác giả: Mingyang Chen, Shengdong Chen, Xiaoxiao Fu, Bosheng Gong, Haoyuan Guo, et al.
Xuất bản lúc: 2026-09-15
Tag: World Models, Interactive Video Generation, Autoregressive Generation, Distillation, Text-to-Video, Game AI, Real-Time Inference
I. Main Problem:
Các world model tương tác hiện tại chỉ hỗ trợ một dạng điều khiển duy nhất — hoặc bàn phím/navigation, hoặc text cố định — khiến người dùng không thể vừa khám phá vừa can thiệp vào thế giới đang sinh. Cụ thể:
- Điều khiển qua camera pose gián tiếp từ bàn phím dễ lệch khỏi lịch sử hình ảnh đã sinh, gây vỡ mạch thị giác khi rollout dài.
- Text chỉ được gắn toàn bộ video, không thể đổi prompt giữa phiên sinh.
- Tạo video theo từng block ngắn làm sự kiện ngữ nghĩa (một câu lệnh có thể kéo dài nhiều block) khó học, đồng thời sinh từng bước tốn tính toán, không đạt real-time cho tương tác liên tục.
II. Main Idea:
Zing-0.5 là world model autoregressive 5B (dựa trên Wan2.2-TI2V) cho phép điều khiển đồng thời bàn phím + text trực tuyến trong một phiên sinh liên tục. Ba trụ cột:
- Unified action & text conditioning: bàn phím W/A/S/D + I/J/K/L được mã hóa kèm độ lớn liên tục (magnitude-aware), text gắn theo khoảng thời gian của từng sự kiện; khi đổi prompt chỉ refresh text K/V, giữ nguyên visual K/V để không mất ngữ cảnh cảnh.
- Event-scale supervision: một segment-level teacher (bidirectional, nhìn cả đoạn sự kiện nhiều prompt) giám sát block-level causal student (sinh từng block 4 latent frames) qua distribution-matching distillation, kèm rollout-and-replay để student học trên chính lịch sử nó tự sinh và history perturbation chống lỗi cộng dồn.
- Real-time rẻ tiền: khởi tạo bằng ODE + local consistency distillation rồi DMD, chỉ cần 4 bước sinh + streaming tái sử dụng cache → 832×480 @ 24 FPS, chi phí ~$0.009/phút stream.
Ví dụ đời thường: giống chơi game nhập vai mà người chơi vừa lái xe trượt tuyết bằng phím, vừa gõ chữ "hãy vẫy cờ và mở ô" — thế giới không tua lại hay khởi động lại mà tiếp tục diễn ngay từ đúng khung hình hiện tại, có thầy giáo (teacher) nhìn trước cả đoạn phim để sửa từng bước ngắn của học sinh (student).
III. Main Results:
- WBench Navigation: overall score 81.0, consistency 88.5 trên 158 case có điều kiện ảnh — đánh giá khả năng sinh theo điều khiển navigation.
- Joint-control demo định tính: một phiên duy nhất người dùng lái xe trượt tuyết, chỉ đạo bằng text "cheer" rồi "open an umbrella" — cả hai sự kiện xảy ra trong cùng phiên sinh không restart.
- Hiệu năng thực tế: 832×480 @ 24 FPS, ước tính ~$0.009 mỗi stream-minute trên server thuê.
- Action encoder thêm chỉ 3.68M tham số (~0.074% của backbone 5B).
- Mở mã nguồn: trọng số model, inference code và serving implementation Zing-SGLang.
IV. Conclusion & Future Works:
Zing-0.5 chứng minh playability khả thi: kết hợp điều khiển bàn phím liên tục, thay đổi sự kiện bằng text trực tuyến và sinh real-time giá rẻ trong một kiến trúc thống nhất. Các giải pháp chính — điều kiện hóa độ lớn bàn phím trực tiếp (bỏ camera pose trung gian), teacher-student phân vùng thời gian khác nhau với DMD, và runtime streaming giữ ngữ cảnh — tạo nền tảng cho các world model có thể chơi được. Hướng phát triển: cải thiện chất lượng và độ bền của sự kiện do text điều khiển, mở rộng đa dạng môi trường/tương tác, và nâng cao độ chính xác của các benchmark cho joint action-text control.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng điều khiển joint action-text sang các dạng tương tác phức tạp hơn: thao tác đối tượng, thay đổi vật lý cảnh, hoặc hội thoại đa lượt với nhân vật trong world model.
- Nghiên cứu phân vùng thời gian teacher-student cho các sự kiện kéo dài rất dài (phút) mà vẫn giữ nhất quán nhân vật và bối cảnh.
- Phát triển benchmark định lượng cho khả năng thay đổi sự kiện bằng text trong phiên sinh liên tục, bổ sung cho WBench Navigation hiện chỉ đo navigation.
- Tối ưu hóa thêm pipeline serving (cache, decoding, scheduling) để đạt độ phân giải cao hơn hoặc nhiều stream đồng thời trên cùng phần cứng.
2. Patent:
- Ứng dụng game trên điện thoại sinh thế giới vô hạn: người chơi điều khiển bằng joystick ảo kèm cường độ, gõ chat yêu cầu nhân vật hành động; mô hình trên server sinh video 24 FPS theo thời gian thực với chi phí thấp, không cần tải game nặng.
- Nền tảng mô phỏng huấn luyện (driving, an toàn lao động) qua trình duyệt: học viên vừa điều khiển di chuyển vừa ra lệnh bằng giọng nói/chữ cho tình huống xảy ra; hệ thống phản hồi trực quan tức thì để luyện ra quyết định.
- Trợ lý sáng tạo nội dung video quy trình dài: biên kịch nhập chuỗi hành động điều khiển camera + các lệnh thay đổi sự kiện theo mốc thời gian; mô hình sinh một luồng video liên tục, cho phép chỉnh sửa sự kiện giữa chừng mà không render lại từ đầu.
- Hệ thống streaming world model đa người chơi: mỗi người chơi có luồng điều khiển riêng trên cùng thế giới nền, server dùng cơ chế tái sử dụng visual cache chung kết hợp cập nhật riêng theo từng người để giảm chi phí mỗi stream.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2609.17909 |
| ArXiv Abstract | https://arxiv.org/abs/2609.17909 |
| PDF Download | https://arxiv.org/pdf/2609.17909.pdf |
| Github Repository | N/A |
11. HypoEvolve: Genetic Algorithms Enable Multi-Agent LLMs to Discover Scientific Hypotheses (24 votes)
Tác giả: Jieyuan Liu, Mengzhou Hu, Jefferson Chen, JungHo Kong, Pratibha Jagannatha, et al.
Xuất bản lúc: 2026-09-14
Tag: LLM Agents, Genetic Algorithms, Multi-Agent Systems, Scientific Hypothesis Discovery, Drug Repurposing, Evolutionary Search, Biomedical AI
I. Main Problem:
Các hệ thống LLM khoa học hiện nay có thể tạo, phê bình và tinh chỉnh giả thuyết, nhưng chất lượng giả thuyết phụ thuộc vào cả năng lực chuyên môn của từng agent lẫn cách các agent phối hợp. Điểm mở chính là:
- làm sao tách riêng ảnh hưởng của năng lực khoa học khỏi ảnh hưởng của thiết kế cộng tác
- làm sao thay đổi quy tắc chọn, biến đổi và giữ lại giả thuyết mà không đổi vai trò khoa học của các agent
- làm sao đánh giá giả thuyết bằng bằng chứng sinh học độc lập, thay vì chỉ dùng điểm do chính LLM chấm
II. Main Idea:
HypoEvolve đưa cộng tác multi-agent vào một generational genetic algorithm với quần thể giả thuyết có kích thước cố định. Mỗi giả thuyết là một tài liệu có tiêu đề, tóm tắt, phát biểu giả thuyết và lý luận cơ chế. Quy trình gồm:
- Khởi tạo từ tài liệu: agent tạo giả thuyết dựa trên cơ sở khoa học cho mục tiêu nghiên cứu.
- So sánh từng cặp: agent đánh giá hai giả thuyết theo độ đặc hiệu với ung thư, bằng chứng về target và khả năng kiểm chứng; mô hình Bradley-Terry gộp các so sánh thành fitness.
- Crossover ngữ nghĩa: kết hợp cơ chế hoặc dùng ý tưởng từ cha mẹ để tạo lời giải thích mới.
- Mutation ngữ nghĩa: thay thuốc trong phạm vi cho phép hoặc xem lại giả định để tạo cách giải thích khác.
- Cạnh tranh trực tiếp: cha mẹ và con cái cùng được chấm, chỉ giữ lại top quần thể; dòng dõi và toán tử sinh ra từng giả thuyết được ghi lại.
Điểm then chốt là fitness không dùng dữ liệu sinh học bên ngoài, nên các thước đo như DepMap và Open Targets chỉ dùng sau tìm kiếm để kiểm chứng độc lập. Giống như chọn giống cây trồng: mỗi vòng giữ lại cây tốt, lai ghép hoặc gây biến đổi để tạo thế hệ mới, rồi chỉ những cây mạnh nhất được bước tiếp vào vòng sau.
III. Main Results:
- Trên 34 loại ung thư, HypoEvolve đạt điểm trung bình cao nhất trong 6 baseline ở cả hai thước đo sinh học ngoài.
- DepMap selectivity: 0.171, so với 0.115 của Tree of Thoughts và 0.039 của single-pass generation.
- Open Targets association: 0.426, so với 0.329 của Tree of Thoughts và 0.163 của single-pass generation.
- Lợi thế khái quát hóa sang held-out cancer types: vượt single-pass generation +0.111 trên DepMap và +0.280 trên Open Targets.
- Ưu thế mạnh nhất nằm ở bằng chứng di truyền: +0.334 trên genetic association.
- Fitness tăng trong tất cả 94 runs; trung bình quần thể tăng từ 50.0 lên 112.2, best fitness tăng từ 81.2 lên 125.7.
- 87/94 giả thuyết cuối do crossover hoặc mutation tạo ra; phần lớn đến từ inspiration và drug substitution.
- Khi giữ cố định toán tử khoa học và số giả thuyết, fitness-guided parent selection cải thiện cả điểm trung bình và điểm thấp nhất của quần thể.
- Tăng số agent calls không tự động tốt hơn: HypoEvolve dùng 206 calls/run, thấp hơn co-scientist scaffold và static reranking nhưng vẫn vượt các baseline mạnh.
IV. Conclusion & Future Works:
Bài học chính là thiết kế cộng tác có thể là một biến thực nghiệm riêng, không chỉ là phụ thuộc của model mạnh hơn. HypoEvolve cho thấy một hệ thống AI research team có thể phát triển giả thuyết sinh học tốt hơn khi quy tắc chọn lọc, biến đổi và thay thế quần thể được làm rõ và kiểm soát.
Hướng mở rộng: thử nghiệm trên nhiều bệnh và mục tiêu tái sử dụng thuốc hơn; kết hợp phản hồi thực nghiệm; kiểm chứng prospectively bằng thí nghiệm sinh học; và thiết kế thêm các quy tắc tiến hóa để cân bằng novelty, feasibility và testability.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng HypoEvolve từ drug repurposing sang target discovery, biomarker hypothesis và thiết kế thí nghiệm CRISPR, với bằng chứng ngoài tương ứng cho từng loại tuyên bố sinh học.
- Nghiên cứu lineage-aware hypothesis evolution: dùng lịch sử cha-con, toán tử sinh và lý do bị loại để giải thích tại sao một giả thuyết thắng, thay vì chỉ trả về kết quả cuối.
- So sánh có kiểm soát giữa evolutionary collaboration, debate-based collaboration và beam search trên cùng scientific roles để định lượng đóng góp của từng quy tắc phối hợp.
2. Patent:
- Ứng dụng điện thoại cho nhà nghiên cứu lâm sàng: người dùng nhập loại ung thư hoặc mục tiêu điều trị, hệ thống truy xuất tài liệu, tạo nhiều giả thuyết tái sử dụng thuốc, rồi tiến hóa từng thế hệ để đưa ra phương án có lý luận cơ chế, bằng chứng target và khả năng kiểm chứng tốt nhất.
- Bảng điều khiển trên điện thoại cho đội drug repurposing: mỗi đề xuất hiển thị dạng thẻ có giả thuyết, thuốc đề xuất, cơ chế, nguồn bằng chứng và dòng tiến hóa; người dùng có thể chấm từng cặp để hệ thống cập nhật thế hệ tiếp theo.
- Plugin hỗ trợ viết grant hoặc protocol trên điện thoại: từ một research goal ngắn, hệ thống sinh nhiều hướng giải thích sinh học, tự loại dần ý tưởng yếu bằng chấm điểm từng cặp, rồi xuất bản thảo giả thuyết kèm lý luận và thí nghiệm kiểm chứng.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2609.15938 |
| ArXiv Abstract | https://arxiv.org/abs/2609.15938 |
| PDF Download | https://arxiv.org/pdf/2609.15938.pdf |
| Github Repository | N/A |
12. SpectralShift: Effective Context Window Extension of Gated DeltaNet via Spectral Reparameterization (23 votes)
Tác giả: Zian Liu, Yiwen Hu, Zican Dong, Tian Xie, Wayne Xin Zhao, et al.
Xuất bản lúc: 2026-09-13
Tag: Linear Attention, Gated DeltaNet, Long-Context LLMs, Continual Pretraining, Spectral Analysis, State Space Models, MoE
I. Main Problem:
Các mô hình ngôn ngữ dùng linear attention / Gated DeltaNet nén lịch sử vào trạng thái hữu hạn, nên khi mở rộng context window bằng continued pretraining thông thường, phần lớn phương pháp chỉ chỉnh positional encoding cho softmax attention mà bỏ qua động lực học trạng thái recurrent. Điều này gây mâu thuẫn: trạng thái học ở context ngắn có thể quên quá nhanh ở context dài, hoặc mất khả năng xóa trạng thái khi chuyển ngữ cảnh.
II. Main Idea:
SpectralShift nhìn việc giữ thông tin dài hạn như bài toán phổ suy giảm của ma trận chuyển trạng thái. Tác giả chỉ ra cần đồng thời: mở rộng slow spectral band đủ rộng khớp khoảng cách phụ thuộc mục tiêu, đồng thời giữ các mode suy giảm nhanh để xóa trạng thái. Phương pháp gồm hai bước khi nối pretraining từ độ dài tham chiếu sang độ dài đích:
- Reparameterize alpha projections: giữ phần trung bình toàn cục, chỉ co phần lệch phụ thuộc input theo hệ số s = sqrt(L_ref/L_tar); alpha gate được điều chỉnh dị biệt theo head/input để tạo thêm kênh truyền chậm mà không phá hướng chuyển đổi đã học.
- Length-scaled continual pretraining: scale learning rate riêng cho alpha projections cũng bằng s, trong khi beta/key/value vẫn học bình thường để thích ứng dữ liệu dài; lý thuyết chỉ ra exponent tối ưu là 0.5 và lượng dịch phổ có cận kiểm soát.
Ví dụ đời thường: giống chỉnh dàn âm thanh trước khi nghe một bản nhạc dài — vặn nhỏ các nút biến thiên nhanh nhưng giữ nút nền, để tầng bass vang lâu mà không làm vỡ tiếng treble cần tắt nhanh.
III. Main Results:
- Trên GDN-MoE 1.5B-A0.6B pretrained 8K rồi mở lên 32K/64K/128K, SpectralShift cải thiện đều long-context trên RULER/DROP/RACE so với baseline cùng curriculum; ở 128K hai giai đoạn, RULER average khoảng 55.18 vs 52.38, tương đương +5.35% tương đối.
- Khả năng ngắn hạn/general giữ tương đương hoặc tốt hơn trên MMLU, LAMBADA, ARC-Easy, WinoGrande, PiQA; cân bằng được mode chậm và mode nhanh.
- Ablation: phải kết hợp reparameterization alpha với learning-rate scaling ở hệ số sqrt; bỏ một trong hai đều giảm, scale toàn bộ theo s thuần túy làm mất ổn định general.
- Tương thích với nhiều positional encoding như DroPE, YaRN, ABF, và vẫn hiệu quả trên pure GDN, lợi ích tăng khi context đích dài hơn.
IV. Conclusion & Future Works:
Bài học chính: với recurrent linear attention, mở rộng context không chỉ là kéo dài positional encoding, mà phải chỉnh phổ trạng thái sao cho có đủ mode chậm mang thông tin xa và vẫn còn mode nhanh để reset ngữ cảnh. Hạn chế: chứng minh chủ yếu ở mô hình 1.5B MoE quy mô vừa, chưa kiểm chứng trên hybrid foundation model lớn từ đầu. Hướng mở: mở rộng cho hybrid hiện đại, kiểm soát chặt điều kiện lý thuyết khi CPT dài, và tối ưu chi phí cho mở rộng 256K–1M tokens.
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu spectral reparameterization cho hybrid linear-attention/transformer ở quy mô lớn hơn, kiểm tra tính bảo toàn phổ chậm/nhanh khi positional encoding và recurrent blocks học không đồng bộ.
- Phát triển biến thể adaptive của SpectralShift chọn hệ số scale theo độ dài dependency ước lượng từ dữ liệu thay vì một hệ số căn bậc hai cố định.
- Kết hợp phân tích slow spectral band với retrieval/selective write để tự động phát hiện đầu recurrent nào cần mở rộng băng thông nhớ và đầu nào cần giữ decay nhanh.
2. Patent:
- Trợ lý điện thoại đọc tài liệu rất dài: trước khi mở file PDF/sách điện tử hàng trăm nghìn token, ứng dụng điều chỉnh “nút quên” của bộ nhớ recurrent theo tỉ lệ căn bậc hai giữa context cũ và mới, giúp giữ chi tiết đầu trang mà vẫn xóa nội dung lỗi thời khi lật chương.
- Hệ điện thoại–máy chủ mở rộng ngữ cảnh: điện thoại gửi checkpoint mô hình nhỏ lên máy chủ; máy chủ chỉ chỉnh các chiều giữ/quên bộ nhớ rồi trả về bản cập nhật gọn, để máy yếu chạy được hội thoại dài mà không cần fine-tune nặng trên thiết bị.
- Bộ nhớ hội thoại cho app nhắn tin/doanh nghiệp: khi cuộc trò chuyện vượt ngưỡng, hệ thống tự tạo thêm kênh nhớ chậm cho sự kiện quan trọng và giữ kênh xóa nhanh cho tin rác, cải thiện tóm tắt, tra cứu và chuyển chủ đề mượt hơn.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2609.14320 |
| ArXiv Abstract | https://arxiv.org/abs/2609.14320 |
| PDF Download | https://arxiv.org/pdf/2609.14320.pdf |
| Github Repository | https://github.com/RUCAIBox/GDN-SpectralShift |
13. A Zeroth-Order Paradigm for LLM Preference Alignment (22 votes)
Tác giả: Peter Chen, Xi Chen, Wotao Yin, Tianyi Lin
Xuất bản lúc: 2026-09-16
Tag: LLM, Preference Alignment, RLHF, DPO, Zeroth-Order Optimization, Comparison Oracle, KL Regularization, Local Coverage
I. Main Problem:
Các phương pháp direct preference alignment (như DPO) hiện nay mắc phải hiện tượng likelihood displacement: trong quá trình huấn luyện, xác suất tuyệt đối của câu trả lời được ưa thích lại giảm, dẫn đến "unintentional unalignment" — mô hình có thể dịch chuyển xác suất sang các phản hồi không an toàn hoặc có ý nghĩa trái ngược. Vấn đề này đặc biệt nghiêm trọng với noisy preference pairs — các cặp có margin log-likelihood nhỏ giữa câu được ưa thích và bị từ chối. Cách giải quyết hiện tại là lọc bỏ các cặp này, nhưng làm vậy loại luôn thông tin hữu ích có thể cải thiện mô hình.
II. Main Idea:
Comparison-based Preference Optimization (ComPO) — thay vì tối ưu hóa trực tiếp một hàm loss khả vi trên các cặp preference, ComPO dùng các cặp noisy như tín hiệu so sánh để đánh giá xem một thay đổi nhỏ (perturbation) trong policy có làm tăng likelihood của câu được ưa thích và giảm likelihood của câu bị từ chối hay không.
Quy trình hoạt động:
- Nhiễu nhẹ các tham số output layer theo hướng ngẫu nhiên
- So sánh policy nhiễu với policy hiện tại bằng preference comparison oracle — trả về -1 nếu câu preferred có likelihood cao hơn VÀ câu dispreferred có likelihood thấp hơn, +1 nếu ngược lại
- Tổng hợp các tín hiệu 1-bit này (qua sparse 1-bit estimator từ 1-bit compressed sensing) để ước lượng hướng cập nhật
- Chỉ cập nhật khi tỷ lệ perturbation được chấp nhận vượt ngưỡng
Phiên bản online ComPO giữ nguyên cơ chế so sánh offline nhưng dùng các generation không nhãn từ policy hiện tại để ước lượng reverse KL so với reference policy, từ đó điều chỉnh bước học và ràng buộc policy không đi quá xa.
Ví dụ đời thường: giống như thử nhiều hướng đi trong sương mù — thay vì nhìn bản đồ (gradient), bạn bước thử vài bước theo hướng ngẫu nhiên, ngửi xem có mùi đích đến không (oracle so sánh), rồi tổng hợp các mùi đó để đoán hướng tốt nhất.
III. Main Results:
- Bảo đảm hội tụ cho offline ComPO: best-iterate convergence dưới giả định smoothness, gradient sparsity và oracle compatibility; số lượng perturbation phụ thuộc logarit theo chiều không gian tham số nhờ khai thác cấu trúc gradient thưa.
- Bảo đảm online: feasibility dưới ràng buộc reverse-KL chính xác, và bound performance gap theo in-distribution pairwise reward error dưới điều kiện local coverage.
- Thực nghiệm trên nhiều họ mô hình: Mistral, Llama, Gemma-2, Qwen3, Gemma-3 — cả base và instruction-tuned.
- Kết hợp DPO_clean + ComPO trên noisy pairs vượt các phương pháp direct alignment hiện có, bao gồm cả length-controlled win rates.
- Pair-level diagnostics cho thấy ComPO thực sự làm giảm likelihood displacement: likelihood của câu preferred tăng tuyệt đối (không chỉ tương đối so với câu bị từ chối).
IV. Conclusion & Future Works:
ComPO chứng minh rằng zeroth-order comparison-based optimization có thể khai thác thông tin từ noisy preference pairs mà không cần tối ưu trực tiếp margin-based loss, từ đó giảm likelihood displacement và cải thiện alignment. Việc kết hợp với direct alignment methods trên clean pairs tạo ra pipeline hiệu quả. Hướng tương lai: mở rộng sang ranking feedback nhiều mức, tích hợp active exploration để thu thập thêm preference feedback có giá trị, và áp dụng cho các mô hình đa phương thức.
V. Brainstorming Space:
1. Publish Papers:
- Phát triển phiên bản ComPO không cần reference model: dùng self-comparison hoặc ensemble để xác định noisy pairs mà không phụ thuộc vào likelihood của reference policy.
- Kết hợp ComPO với online AI feedback: tự động thu thập preference labels cho generations của policy hiện tại để mở rộng tập comparison set theo thời gian thực.
- Mở rộng comparison oracle sang đa phương thức: so sánh không chỉ text likelihood mà cả embedding similarity cho các cặp preference liên quan đến hình ảnh, âm thanh.
2. Patent:
- Hệ thống tinh chỉnh mô hình ngôn ngữ trên điện thoại: khi người dùng phản hồi thái độ (thích/không thích), ứng dụng thực hiện các thử nghiệm cập nhật nhỏ trên tham số lớp cuối, so sánh xác suất các phản hồi trước/sau để điều chỉnh mô hình cục bộ mà không cần gửi dữ liệu lên đám mây.
- Trợ lý AI cá nhân học từ phản hồi ngầm: hệ thống theo dõi thời gian đọc, thao tác cuộn, và chỉnh sửa của người dùng để tạo preference pairs; sau đó dùng zeroth-order optimization để tinh chỉnh phản hồi mà không cần reward model riêng.
- Cơ chế chống hallucination cho chatbot y tế/pháp lý: tự động phát hiện các cặp câu trả lời có độ tương đồng cao (noisy pairs), áp dụng comparison-based update để tăng độ tin cậy tuyệt đối của câu trả lời an toàn thay vì chỉ tăng margin tương đối.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2609.19144 |
| ArXiv Abstract | https://arxiv.org/abs/2609.19144 |
| PDF Download | https://arxiv.org/pdf/2609.19144.pdf |
| Github Repository | N/A |
14. Gaze as Evidence for Common Grounding: A Cross-Corpus Analysis of MapTask and MUNDEX (22 votes)
Tác giả: Nan Li, Albert Gatt, Massimo Poesio
Xuất bản lúc: 2026-09-16
Tag: Gaze Analysis, Grounding, Multimodal Corpora, Dialogue, Common Ground, NLP
I. Main Problem:
Khi hai người cùng làm một tác vụ nhưng mỗi người nắm thông tin khác nhau (ví dụ bản đồ khác nhau), sự hiểu nhau không thể mặc định mà phải được xây dựng qua tương tác — lý thuyết grounding của Clark. Ánh mắt (gaze) là manh mối quan sát được của quá trình này, nhưng:
- Các corpus hiện có chú thích gaze theo ontologies riêng của từng corpus, khó so sánh xuyên tác vụ.
- Chú thích là rời rạc từ video (nhìn đối tác/bảng/đi chỗ khác), không phải tọa độ eye-tracking.
- Chưa rõ gaze có mang tín hiệu nhất quán về grounding giữa các tác vụ khác nhau hay không, và tín hiệu đó mạnh cỡ nào.
II. Main Idea:
Tác giả ánh xạ hai corpus — HCRC MapTask (người chỉ đường + người theo, bản đồ khác nhau) và MUNDEX (người giảng dạy board game + người học, tiếng Đức) — vào một bộ từ vựng chung partner/task/away (nhìn đối tác / nhìn tác vụ / nhìn đi chỗ khác), rồi tính các đặc trưng gaze quanh các đơn vị hội thoại liên quan đến grounding: tỉ lệ thời gian nhìn từng mục tiêu, entropy Shannon, số lần chuyển hướng nhìn, động lực thời gian, bigram chuyển tiếp, phối hợp hai người, các tỉ sệ suy ra. Sau đó kiểm định xem các trạng thái hiểu nhau (aligned trong MapTask; understood/UND trong MUNDEX) có đi kèm mẫu gaze khác biệt không, bằng kiểm định Mann–Whitney, GEE cluster-robust và logistic regression với grouped cross-validation.
Ví dụ đời thường: giống như khi giảng bài cho bạn — nếu bạn đã hiểu, bạn cúi mắt nhìn vở và ít liếc hỏi lại; còn khi chưa hiểu, bạn liên tục ngước lên nhìn mặt giảng viên, mắt đảo loạn. Bài báo đo chính xanh điều này bằng số liệu.
III. Main Results:
- Hai corpus hội tụ cùng hướng: khi hiểu nhau (aligned / UND), cả hai bên nhìn tác vụ nhiều hơn, nhìn đối tác ít hơn, entropy gaze thấp hơn, ít chuyển hướng nhìn hơn. Nhưng hiệu ứng nhỏ (|r| lớn nhất .058 ở MapTask, .181 ở MUNDEX).
- Hiệu ứng rõ nhất ở người dẫn dắt tác vụ: reference do giver tạo ra ở MapTask, và phán đoán của explainer ở MUNDEX (đồng biến cả với gaze của explainee).
- Phân tích chuỗi reference trong MapTask: entropy gaze của speaker giảm đáng kể tại lần nhắc lại mà referent chuyển từ chưa aligned sang aligned (dz=−.20, q=.044) — chứng cứ trong-speaker về gaze thay đổi quanh điểm đạt được chung hiểu.
- Dự đoán: nhóm đặc trưng tốt nhất là temporal dynamics ở MapTask (macro-F1 .532, hơn control .060) và raw proportions ở MUNDEX (.564, hơn control .020); mức tăng modest và phụ thuộc cách chia cross-validation.
- Độ vững kém: khi dùng nhóm người tham gia lặp lại (thay vì dialogue) làm đơn vị suy luận, hầu hết hiệu ứng MapTask biến mất; chỉ gaze của explainer/explainee ở MUNDEX còn vững.
IV. Conclusion & Future Works:
Gaze mang bằng chứng nhất quán về hướng cho grounding xuyên hai tác vụ bất đối xứng thông tin, nhưng hiệu ứng nhỏ và nhạy với đơn vị suy luận — vì vậy gaze nên được mô hình hóa như một manh mối bổ sung bên cạnh đặc trưng ngôn ngữ và ngữ cảnh tác vụ, không phải tín hiệu đứng một mình. Hướng tương lai: áp dụng representation partner/task/away cho các corpus có video-coded gaze khác; so sánh referent chi tiết hơn và dialogue acts để tách mẫu tác vụ-chung khỏi hành vi riêng của từng tác vụ; mô hình hóa theo vai tương tác (role-conditioned modeling); thêm các dự đoán đa phương thức khác.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng từ vựng chung partner/task/away sang các corpus hội thoại có video-coded gaze khác (ví dụ tác vụ lắp ráp, chăm sóc sức khỏe) để xây dựng bộ chuẩn so sánh grounding xuyên tác vụ.
- Kết hợp đặc trưng gaze với dialogue acts, entropy từ vựng và trạng thái tác vụ trong mô hình dự đoán hiểu nhau theo thời gian thực, kiểm chứng khả năng khái quát khi held-out theo nhóm người tham gia.
- Mô hình hóa có điều kiện theo vai (giver/follower, explainer/explainee) để kiểm định trực tiếp vai trò tương tác điều tiết mối liên hệ gaze–grounding mà các kiểm định hiện tại chỉ gợi ý.
- Dùng gaze làm tín hiệu bổ sung cho các mô hình ngôn ngữ-thị giác (vision-language models) để đánh giá và cải thiện khả năng theo dõi common ground trong hội thoại bất đối xứng.
2. Patent:
- Ứng dụng họp trực tuyến trên điện thoại: camera phân tích hướng nhìn của người tham gia (nhìn màn hình tác vụ hay nhìn mặt đối phương, độ loạn của ánh mắt) để cảnh báo cho người trình bày kỹ thuật số rằng có thể có phần nội dung chưa được hiểu, gợi ý giải thích lại tại thời điểm đó.
- Hệ thống đào tạo trực tuyến: theo dõi ánh mắt học viên qua camera điện thoại trong lúc giảng viên giảng bài qua video; khi tỉ lệ nhìn lên màn hình giảng viên tăng kèm chuyển hướng nhìn dày đặc, hệ thống tự đánh dấu đoạn bài giảng cần giải thích lại hoặc gửi câu hỏi kiểm tra.
- Trợ lý hướng dẫn lắp ráp hai người (một người chỉ, một người làm): dùng camera điện thoại đặt cạnh để nhận diện trạng thái hiểu nhau qua ánh mắt, tự động chậm hoặc lặp lại bước hướng dẫn khi phát hiện người làm chưa nắm được.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2609.18011 |
| ArXiv Abstract | https://arxiv.org/abs/2609.18011 |
| PDF Download | https://arxiv.org/pdf/2609.18011.pdf |
| Github Repository | https://github.com/chnln/gaze-as-grounding-evidence |
15. EventEgoHands++: Event-based Egocentric 3D Hand Mesh Reconstruction with Real Dataset (21 votes)
Tác giả: Ryosei Hara, Wataru Ikeda, Masashi Hatano, Mariko Isogawa
Xuất bản lúc: 2026-09-15
Tag: Event Camera, Egocentric Vision, 3D Hand Mesh Reconstruction, 3D Hand Pose Estimation, Instance Segmentation, Attention Mechanism, AR/VR, Robotics
I. Main Problem:
Tái tạo lưới bàn tay 3D từ góc nhìn thứ nhất là cần thiết cho AR/VR, robot và tương tác người-máy, nhưng camera RGB/depth thường yếu trong thiếu sáng và motion blur. Event camera giúp vì có high dynamic range và temporal resolution cao, nhưng ở góc egocentric, chuyển động của người đeo camera tạo background events dày đặc, che tín hiệu bàn tay. Hơn nữa, EventEgoHands cũ chỉ dùng binary mask, không phân biệt tay trái/phải, luôn dự đoán cả hai tay dù một tay hoặc không tay nào xuất hiện; cross-attention cố định cũng trao đổi thông tin với tay vắng mặt, làm sai quan hệ giữa hai tay và chỉ được kiểm chứng trên dữ liệu synthetic.
II. Main Idea:
EventEgoHands++ xử lý bài toán theo hai giai đoạn:
- Hand Extraction Stage: dùng một Hand Detector kiểu instance segmentation để ước lượng riêng bounding box và mask của tay trái/phải, từ đó lọc chỉ các event thuộc vùng tay thay vì toàn cảnh nhiễu.
- Hand Reconstruction Stage: một vision encoder chung trích đặc trưng từng tay; Adaptive Attention dùng kết quả detection để quyết định cơ chế attention. Nếu cả hai tay hiện, mỗi tay qua self-attention rồi trao đổi qua cross-attention hai chiều; nếu chỉ một tay hiện, bỏ cross-attention và chỉ tự tinh chỉnh đặc trưng tay đó; nếu không tay nào hiện, bỏ qua mẫu.
- Cuối cùng, đặc trưng được đưa qua MANO decoder để sinh joints và vertices 3D của từng tay.
Khác với masked attention, Adaptive Attention tắt hẳn luồng xử lý tay không hiện, tránh làm nhiễu đặc trưng tay còn lại và giảm tính toán thừa.
Ví dụ đời thường: giống người quan sát hai tay khi nấu ăn: trước tiên xác định tay nào đang nằm trong tầm nhìn, chỉ cho hai tay phối hợp khi cả hai đều thấy; nếu một tay bị che hoặc rời khung, không bắt nó đoán vị trí tay kia.
III. Main Results:
- Trên N-HOT3D synthetic: MPJPE đạt 43.01 mm, MPVPE đạt 39.96 mm, giảm so với EventEgoHands tương ứng 21.82 mm / 33.7% và 20.57 mm / 34.0%; R-AUC đạt 0.661, RR-AUC đạt 0.528.
- Trên EEH-R real-world: giảm MPJPE 7.90 mm / 18.8% và MPVPE 7.13 mm / 18.1% so với các baseline mạnh.
- Đánh giá định tính cho thấy lưới tay gần ground truth hơn; baseline xử lý từng tay độc lập thường mất quan hệ không gian hai tay, còn baseline point-cloud mất chi tiết do phải subsampling event trong cảnh egocentric quá nhiều event.
- Hai dữ liệu mở cũng là kết quả quan trọng: N-HOT3D mở rộng lên khoảng 480K frames có mask/bbox; EEH-R có khoảng 1M frames real event egocentric, gồm cả điều kiện well-lit và low-light.
IV. Conclusion & Future Works:
EventEgoHands++ chứng minh rằng chỉ với event data cũng có thể tái tạo tay 3D egocentric chính xác hơn nếu giải quyết rõ hand identity và visibility, thay vì ép mô hình luôn xử lý cả hai tay. Việc công bố EEH-R đặc biệt quan trọng vì lần đầu cho phép kiểm chứng trên real event data egocentric, kể cả low-light. Hạn chế hiện tại là EEH-R vẫn thu trong lab và dùng găng sensor nên thay đổi ngoại hình tay. Hướng tương lai gồm thu thập in-the-wild, dùng marker-less motion capture để ghi bare-hand, và thu hẹp domain gap giữa synthetic và real event streams.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng EventEgoHands++ từ reconstruction sang hand-object interaction egocentric, dùng instance-level hand detection làm điều kiện để ước lượng cả tư thế tay và tiếp xúc với vật thể.
- Nghiên cứu temporal 4D hand reconstruction từ event stream, tận dụng temporal resolution cao để dự báo chuyển động tay ngắn hạn thay vì chỉ reconstruct từng frame.
- Phát triển synthetic-to-real domain adaptation cho event camera, giảm chênh lệch mật độ event, phân bố thời gian và sensor noise giữa simulator và dữ liệu thật.
- Kết hợp event camera với IMU hoặc cảm biến đeo nhẹ để tăng độ ổn định khi tay bị che khuất một phần hoặc rời khỏi field-of-view.
2. Patent:
- Kính AR hoặc điện thoại tích hợp cảm biến sự kiện nhỏ: theo dõi tay 3D trong thiếu sáng hoặc khi tay cử động nhanh để điều khiển giao diện, chỉ kích hoạt phối hợp hai tay khi cả hai tay thật sự được nhìn thấy.
- Hệ điều khiển robot bằng tay không cần marker: camera đeo trên đầu ghi luồng sự kiện, hệ thống nhận diện tay trái/phải và lưới 3D rồi ánh xạ sang cánh tay robot, giảm nhiễu nền khi người vận hành di chuyển.
- Thiết bị hỗ trợ phục hồi chức năng tay: camera sự kiện nhẹ ghi chuyển động hai tay trong phòng tập ánh sáng yếu, đo biên độ khớp và phối hợp tay trái-phải để cảnh báo động tác lệch cho bác sĩ hoặc người tập.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2609.17189 |
| ArXiv Abstract | https://arxiv.org/abs/2609.17189 |
| PDF Download | https://arxiv.org/pdf/2609.17189.pdf |
| Github Repository | https://github.com/ryhara/EventEgoHandsV2 |
16. In-Context Robot Learning with VLM Agents (15 votes)
Tác giả: Dongzhou Cheng, Taoran Yi, Ye Fang, Xingwu Zhang, Fan Feng, et al.
Xuất bản lúc: 2026-09-16
Tag: Robotics, Vision-Language Models, In-Context Learning, Embodied AI, Robot Learning, VLM Agents
I. Main Problem:
Robot hiện nay không thể thích ứng với tình huống mới như con người: không bộ dữ liệu demo nào phủ hết mọi tác vụ và hoàn cảnh robot sẽ gặp. In-context learning (ICL) cho robot — học từ demo, ví dụ, phản hồi tương tác ngay lúc triển khai mà không cập nhật gradient hay thay đổi tham số — vẫn nằm ngoài tầm với của các chính sách robot hiện có. Câu hỏi trung tâm: liệu các VLM đa năng thương mại (như GPT-6 Astra) đã có sẵn khả năng này hay cần huấn luyện chuyên biệt cho robot?
II. Main Idea:
GPT-Policy là khung general-agent kết nối một VLM off-the-shelf với robot qua vòng lặp kín chung, gồm ba thành phần:
- Context compiler: biên dịch và giữ lại các chuyển tiếp trực quan liên quan đến tác vụ (video demo người/robot, ảnh mục tiêu, chuỗi action có gắn timestamp, lịch sử tương tác)
- VLM (tham số cố định): đọc chỉ dẫn + trạng thái hiện tại + context, rồi đề xuất tool request tham số hóa (ví dụ move_to với pose xyzquat)
- Constrained controller: kiểm tra, thực thi từng action bằng nội suy SLERP + IK + time scaling (Ruckig), rồi trả kết quả/quan sát về để lập kế hoạch lại
Đánh giá trên 5 họ context: video demo người (cross-embodiment), video robot + action (tác vụ nhạy tiếp xúc), ảnh mục tiêu, lịch sử tự tương tác, tương tác người-robot trực tuyến.
Ví dụ đời thường: giống người thợ mới xem đồng nghiệp làm mẫu một lần rồi tự bắt chước theo ngay, không cần đi học lại — nhưng có một người giám sát đứng cạnh kiểm tra từng động tác có làm đúng không trước khi cho qua bước tiếp theo.
III. Main Results:
- Video demo người (không cần nhãn action robot): nhặt khăn 2/3 và sách 2/3 thành công so với 0/3 không có context; giảm số quyết định từ ~95 xuống ~72 và thời gian từ 24.6 xuống ~17 phút — chứng tỏ chuyển giao chiến lược qua khác hình thái cơ thể.
- Video robot + action: vặn nắp chai đạt 3/3 (video đơn chỉ 2/3, không context 0/3); rút-cắm phích 2/3 trong khi hai điều kiện kia đều 0/3. Action reference dày thời gian giúp giảm mơ hồ chuyển động giữa các keyframe.
- Ảnh mục tiêu: xếp chữ T và xếp trái cây đều 3/3 — một ảnh thay thế mô tả vị trí/khoảng cách phức tạp bằng lời.
- Lịch sử tự tương tác: 3/3 cả hai tác vụ; robot tự gỡ khăn để tìm đĩa hồng, tự tránh chướng ngại vật khi di chuyển — hành vi lập subgoal mức cao.
- Tương tác người-robot (cờ caro, chỉ quả theo người chơi): 3/3 cả hai.
- Giới hạn rõ rệt: hiểu tác vụ tốt hơn ≠ thực thi chính xác — tiếp xúc vật lý, xác minh kết quả và an toàn vẫn là khoảng trống chưa giải quyết.
IV. Conclusion & Future Works:
GPT-Policy chứng minh VLM đa năng off-the-shelf đã có thể dùng context đa dạng để định hướng hành vi robot, đặt nền tảng thực nghiệm cho ICL robot mà không cần huấn luyện chính sách riêng. Đồng thời nó làm rõ lộ trình nghiên cứu: thách thức tiếp theo là biến khả năng thích ứng này thành đáng tin cậy trong suốt vòng lặp cảm nhận–hành động vật lý — đặc biệt ở tiếp xúc chính xác, kiểm chứng kết quả và an toàn. Hướng đi gần: cải thiện tầng thực thi có ràng buộc và xác minh kết quả vật lý.
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu cơ chế VLM suy luận động lực học tiếp xúc từ context: khi nào demo đủ để robot thực hiện thao tác cần lực chính xác, khi nào cần hỗ trợ của mô hình vật lý chuyên biệt.
- Kết hợp VLM agent với kiểm chứng kết quả vật lý đáng tin cậy: mô hình tự xác minh thành công thật thay vì tự tuyên bố hoàn thành, đóng khoảng trống model-declared completion vs physical success.
- Mở rộng ICL cho robot di động tay kép trong môi trường động: dùng lịch sử tương tác dài hạn và phản hồi người trực tuyến để thích ứng khi quy tắc môi trường thay đổi giữa tác vụ.
2. Patent:
- Ứng dụng dạy robot gia đình qua video trên điện thoại: người dùng quay clip tự làm mẫu (ví dụ gấp khăn), robot xem video, tự suy ra từng động tác và thực hiện lại ngay mà không cần lập trình hay huấn luyện.
- Hệ thống robot công nghiệp tự học tác vụ mới tại chỗ: trước mỗi đơn hàng mới, công nhân chỉ cần thao tác mẫu một lần trước camera; robot ghi lại, tách action tham chiếu khớp thời gian rồi tự lặp lại với tầng kiểm soát giới hạn an toàn.
- Trợ lý robot có hội thoại chỉnh hành vi theo người: người dùng nói hoặc chỉ tay để đổi ý định giữa chừng (đổi quả cần lấy, đổi vị trí đặt); robot cập nhật qua phản hồi trực tuyến mà không khởi động lại phiên làm việc.
- Chế độ tự khám phá có ghi nhớ cho robot giao hàng trong nhà kho: robot ghi lại lịch sử tự tương tác (đã thử cửa nào, gặp vật cản ở đâu) để lần sau tìm kiện hàng nhanh hơn mà không cần bản đồ cập nhật thủ công.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2609.19138 |
| ArXiv Abstract | https://arxiv.org/abs/2609.19138 |
| PDF Download | https://arxiv.org/pdf/2609.19138.pdf |
| Github Repository | https://github.com/cheng-haha/GPT-Policy |
17. Flattening Every Memory Peak in Long-Context Mixture-of-Experts Training (10 votes)
Tác giả: Shrey Pandit, Xuan-Phi Nguyen, Yiran Zhao, Shafiq Joty
Xuất bản lúc: 2026-09-13
Tag: Mixture-of-Experts, Long-Context Training, Memory Optimization, Expert Parallelism, Gradient Checkpointing, Optimizer Offload, LLMs, Distributed Training
I. Main Problem:
Huấn luyện mô hình Mixture-of-Experts (MoE) ở context dài hoặc batch lớn thất bại ngay khi bất kỳ một thành phần nào vượt quá bộ nhớ GPU — đây là bài toán về giá trị cực đại (peak), không phải bộ nhớ trung bình. Các phương án song song phổ biến (FSDP2, ZeRO, expert parallelism) không chặn 4 nguồn tiêu tốn bộ nhớ sau:
- Expert dispatch: bộ đệm routing matrix, tăng theo độ lệch (skew) của router
- Vocabulary projection: tensor logits kích thước tokens × vocabulary
- Gradient checkpoint boundaries: tensor đầu vào mỗi layer giữ từ forward đến backward, tăng theo depth × sequence length
- Optimizer state (AdamW): 16 byte/tham số, và bản cập nhật trên CPU làm GPU nhàn rỗi
Điểm khó: cái nào cạn trước thay đổi theo cấu hình — logits chiếm ưu thế ở vocab lớn + context dài, dispatch ở routing lệch, boundaries ở mạng sâu, optimizer ở mô hình lớn trên ít GPU. Chỉ giảm cái lớn nhất sẽ lộ ra cái tiếp theo, nên cần chặn cả 4 đồng thời, mỗi cái bật/tắt riêng được.
II. Main Idea:
Bốn toán tử bounded-streaming — mỗi cái chỉ đổi thứ tự và độ mịn (granularity) của tính toán/luồng dữ liệu nên loss và gradient giữ nguyên chính xác, không dùng quantization, low-rank hay routing xấp xỉ:
- PipelinedLLEP: chia batch thành các chunk với ngân sách token c trên mỗi rank gửi, pipeline 3 giai đoạn (dispatch → expert matmul → combine) với gradient checkpoint lồng nhau; chọn token theo thứ tự strided để mỗi chunk phân tán đều về các destination — bộ đệm bị chặn ở 2·Ep·k·ceff·H·b bất kể router lệch cỡ nào
- Ring-DTP: mỗi rank giữ batch riêng của mình và vòng truyền hoặc activations hoặc weight shard quanh ring, sao cho mọi batch gặp mọi shard đúng một lần; mỗi vòng chỉ tạo một dải logits rồi gập vào trạng thái online log-sum-exp 3 scalar (max, exp-sum, target logit) — tensor N×V không bao giờ được hình thành, footprint giảm P lần
- SCO (Selective Checkpoint Offload): chuyển một tập con (theo ngân sách RAM host) các checkpoint boundary sang pinned host memory, prefetch về trước 1 layer trong backward — trên device chỉ tồn tại tối đa 2 boundary cùng lúc
- OffloadStreamAdamW: thay vì cập nhật AdamW tuần tự chậm trên CPU, luồng hóa trạng thái optimizer thành các bucket qua GPU nhàn rỗi (3 stream: H2D → cập nhật fused trên GPU → ghi lại D2H), chồng lấp truyền thông với tính toán
Cả 4 được tổng hợp trong layout Mixture-of-Parallelisms (MoP), cho một công thức bộ nhớ per-rank khép kín (mọi số hạng cố định từ lúc launch) nên cấu hình kiểm chứng được khả năng chạy trước khi khởi động.
Ví dụ đời thường: giống như dọn nhà đón khách không phải bằng cách thuê nhà lớn hơn, mà xếp việc thành luồng — rửa bát theo mẻ nhỏ thay vì chồng hết một lần (PipelinedLLEP), đọc hóa đơn dài theo từng trang gập ngay vào sổ sách thay vì trải ra cả bàn (Ring-DTP), cất đồ ít dùng lên gác và mang xuống đúng lúc cần (SCO), còn người rảnh tay (GPU) thì luân phiên xử lý hộ phần việc của máy giặt (OffloadStreamAdamW).
III. Main Results:
- PipelinedLLEP: giảm peak dispatch tới 59.3% so với LLEP, tốc độ tương đương (1.01–1.10×); chọn chunk strided nhanh hơn chunk liền kề tới 1.35× và tiết kiệm thêm tới 1.37 GiB
- Ring-DTP: giảm peak vocabulary projection 82.8–86.6% với chi phí thời gian dưới 5.1%; tiết kiệm càng lớn khi context càng dài
- SCO: peak HBM giảm đơn điệu theo ngân sách host (giảm tới 17.65% HBM), throughput lệch dưới 2%, batch lớn nhất chạy được tăng 17.7–35.7%
- OffloadStreamAdamW: bước optimizer offload nhanh hơn 2.05× (3.95s → 1.93s) so với CPU AdamW của ZeRO-Offload, chỉ cần 2 slot staging (4.23 GiB/GPU)
- Tổng hợp end-to-end trên MoE 120B, 241B, 667B: huấn luyện được ở context 1M tokens ở cả 3 quy mô, gấp 8–32× tầm với của FSDP2 tuned tốt nhất (chỉ chạy được 32K–128K)
- Throughput cao hơn tới 10.4× FSDP2-best ở độ dài dài nhất mà baseline chạy được; tỉ lệ FLOP/s cao hơn 2.2× (lên 213–233 TFLOP/s so với <40 của baseline); batch toàn cục lớn nhất tăng tới 12× (3M tokens distinct)
IV. Conclusion & Future Works:
Bài học chính: một stack huấn luyện MoE khả dụng ở context dài chỉ khi mọi thành phần peak đều có cận trên và không cận nào bắt buộc — mỗi cận là một schedule mới (ngân sách token per-source, ring họp vocab, offload boundary theo ngân sách host, bucket pipeline cho optimizer), giữ kết quả toán học chính xác và cho phép kiểm chứng feasibility trước launch. Hướng tương lai / giới hạn cần mở rộng: các giả định all-to-all và ring traffic cần interconnect nhanh — với fabric chậm hơn NVLink, đánh đổi số chunk có thể khác; chi phí của các luồng truyền thông ở quy mô liên node cũng là hướng cần đo lường thêm.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng PipelinedLLEP cho interconnect chậm (đa node, fabric Ethernet/IB): mô hình hóa chi phí số chunk và ngân sách token tối ưu theo băng thông thực tế thay vì giả định NVLink.
- Tự động hóa việc chọn cấu hình: dùng công thức budget per-rank khép kín làm ràng buộc cho một bộ tìm kiếm cấu hình (context length, batch, số GPU) tối ưu throughput dưới trần bộ nhớ.
- Áp dụng nguyên lý bounded-streaming cho suy luận (inference) KV-cache và speculative decoding: chặn các peak bộ nhớ sinh ra bởi batch đa dạng độ dài trong serving LLM/MoE dài context.
- Kết hợp SCO với chính sách chọn layer thông minh (theo độ lớn tensor và thời điểm dùng) thay vì ngân sách host đơn thuần để tối ưu hóa trade-off HBM/RAM cho kiến trúc decoder rất sâu.
2. Patent:
- Phương pháp trên điện thoại chạy mô hình ngôn ngữ lớn cục bộ: chia dòng token thành các mẻ nhỏ có ngân sách cố định, tính và giải phóng từng mẻ ngay (pipeline xử lý-chờ-luồng) để dùng LLM vốn cần bộ nhớ vượt xa RAM máy mà không tải toàn bộ vào một lúc.
- Hệ thống tính hàm softmax/chuẩn hóa xác suất trên thiết bị di động cho từ điển lớn: xử lý từng khối cột của ma trận trọng số từ vựng theo vòng luân chuyển, chỉ lưu ba giá trị gộp (giá trị lớn nhất, tổng mũ, giá trị mục tiêu) cho mỗi token — giảm bộ nhớ tạm thời khi chấm điểm câu đi một vòng qua các lõi xử lý của điện thoại.
- Ứng dụng dịch máy hoặc gõ phím thông minh trên điện thoại cấu hình thấp: giữ trạng thái tối ưu hóa (mô-men, trọng số chuẩn) trong bộ nhớ chung, luân chuyển từng phần nhỏ tham số lên GPU/NPU của máy để cập nhật rồi ghi lại — cho phép fine-tune hoặc thích ứng mô hình theo người dùng mà không cần bộ nhớ đủ cho toàn bộ mô hình.
- Kỹ thuật quản lý bộ nhớ huấn luyện trên cụm GPU cho thuê theo giờ: công cụ tính trước công thức bộ nhớ từng GPU (dispatch, logits, checkpoint, optimizer) để tự động báo cấu hình dài context / batch lớn nhất chạy vừa trước khi bật máy, tránh lãng phí tiền thuê do chạy OOM giữa chừng.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2609.14306 |
| ArXiv Abstract | https://arxiv.org/abs/2609.14306 |
| PDF Download | https://arxiv.org/pdf/2609.14306.pdf |
| Github Repository | N/A |