Chuyển tới nội dung chính

🤗 Daily Hugging Face Paper Digest - 2026-06-09

Báo cáo được tạo tự động vào lúc 2026-06-30 11:11:24 bằng mô hình deepseek-ai/deepseek-v4-flash.

📰 Summary of Papers​

1. Agents' Last Exam (370 votes)​

Tác giả: Yiyou Sun, Xinyang Han, Weichen Zhang, Yuanbo Pang, Tianyu Wang, et al.

Xuất bản lúc: 2026-06-03

Tag: AI Benchmark, Generalist Computer-Use Agent, O*NET, Economic Impact, Workflow Evaluation, Long-Horizon Tasks

I. Main Problem:​

Các benchmark AI hiện tại, dù có độ khó cao như MMLU hay SWE-bench, chủ yếu đo kiến thức hoặc thao tác đơn lẻ, không phản ánh năng lực thực hiện các quy trình công việc chuyên nghiệp dài hạn, có giá trị kinh tế. Điều này tạo khoảng cách giữa thành công trên điểm chuẩn và tác động kinh tế thực tế (GDP).

II. Main Idea:​

Agents’ Last Exam (ALE) là benchmark sống với hơn 1.000 tác vụ, trải dài 55 lĩnh vực công nghiệp dựa trên phân loại nghề nghiệp O*NET/SOC 2018. Mỗi tác vụ được đóng góp bởi 250+ chuyên gia, dựa trên công việc thực tế đã hoàn thành, yêu cầu tác nhân tổng quát (GCUA) tích hợp GUI, dòng lệnh, mã nguồn và lập kế hoạch dài hạn. Đánh giá được tự động hóa bằng cách so sánh đầu ra có cấu trúc với tài liệu tham chiếu hoặc tiêu chí chấm điểm xác định, thay vì dùng LLM làm giám khảo.

III. Main Results:​

  • Tỷ lệ pass trung bình của các mô hình mạnh nhất (Codex + GPT-5.5) trên toàn bộ các tầng độ khó là 24.0%, với tầng khó nhất (Last-Exam) đạt 0% pass rate.
  • Ngay cả trên ALE-CLI (chỉ các tác vụ Linux), Codex + GPT-5.5 chỉ đạt 23.3% pass rate, trong khi đạt 82% trên Terminal-Bench.
  • Mức độ khó ba tầng (Near-Term, Full-Spectrum, Last-Exam) cho phép lựa chọn đánh giá phù hợp với ngân sách.
  • Lỗi chủ yếu đến từ thiếu kiến thức miền (Understanding/Approach ~75%), thay vì lỗi thực thi.
  • Các mô hình frontiê như Claude Fable 5 và GPT-5.5 có hồ sơ điểm số theo miền tương tự nhau, với giáo dục ở mức thấp nhất.

IV. Conclusion & Future Works:​

ALE là benchmark toàn diện đầu tiên bao phủ tất cả các ngành công nghiệp kỹ thuật số, với tác vụ chân thực và đánh giá tự động. Kết quả hiện tại cho thấy các tác nhân frontiê vẫn còn xa mới bão hòa điểm chuẩn này. Hướng phát triển tiếp theo là mở rộng kho tác vụ và duy trì tính sống động của benchmark để nó thực sự phản ánh tác động kinh tế.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phân tích chuyên sâu về nguyên nhân thất bại của tác nhân trong các tác vụ đòi hỏi kiến thức miền sâu, từ đó đề xuất phương phập fine-tuning hoặc in-context learning để cải thiện.
  2. Nghiên cứu so sánh hiệu quả chi phí-thời gian giữa các cấu hình harness và backbone trên ALE, nhằm xây dựng công thức tối ưu cho tác nhân giá rẻ.
  3. Mở rộng ALE cho các miền chưa được khám phá như y tế lâm sàng hoặc kỹ thuật hàng không, với quy trình xây dựng tác vụ tương tự từ chuyên gia ngành.

2. Patent:​

  1. Hệ thống tự động đánh giá năng lực AI cho doanh nghiệp: dùng giao diện web để nhập mô tả dự án, sau đó hệ thống sinh môi trường ảo, chạy tác vụ và chấm điểm tự động, giúp doanh nghiệp chọn được mô hình phù hợp.
  2. Công cụ hỗ trợ chuyên gia xây dựng tác vụ cho ALE trên điện thoại: người dùng chụp ảnh màn hình làm việc, mô tả ngắn bằng giọng nói, hệ thống tự động tạo file cấu hình tác vụ để gửi lên cổng đánh giá.
  3. Phần mềm giám sát hiệu suất tác nhân AI trong môi trường làm việc thực tế: theo dõi các bước thao tác, so sánh với tác vụ ALE, phát hiện sai lệch và tự động gửi cảnh báo khi cần can thiệp.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.05405
ArXiv Abstracthttps://arxiv.org/abs/2606.05405
PDF Downloadhttps://arxiv.org/pdf/2606.05405.pdf
Github Repositoryhttps://github.com/rdi-berkeley/agents-last-exam

2. SWE-Explore: Benchmarking How Coding Agents Explore Repositories (121 votes)​

Tác giả: Shaoqiu Zhang, Yuhang Wang, Jialiang Liang, Yuling Shi, Wenhao Zeng, et al.

Xuất bản lúc: 2026-06-05

Tag: Coding Agents, Benchmark, Repository Exploration, Bug Localization, Context Retrieval, SWE-bench

I. Main Problem:​

Các benchmark lập trình cấp repository hiện tại (ví dụ SWE-bench) chỉ đo lường kết quả nhị phân 'sửa được hay không', bỏ qua khả năng khám phá kho mã nguồn (repository exploration) — kỹ năng tìm đúng đoạn code cần thiết. Không có thước đo nào định lượng việc agent có đọc đúng dòng lệnh cần thiết trước khi viết code hay không.

II. Main Idea:​

SWE-Explore cô lập và chuẩn hóa bài toán khám phá repository như một tác vụ chọn lọc ngữ cảnh ở cấp dòng (line-level). Với một issue và kho mã, agent phải trả về danh sách các vùng code được xếp hạng theo mức độ liên quan, trong một ngân sách dòng cố định. Dữ liệu ground truth được trích xuất từ các quỹ đạo (trajectories) thành công của nhiều agent độc lập, đảm bảo các vùng code là thực sự cần thiết. Benchmark đánh giá theo độ phủ (coverage), thứ hạng (ranking) và hiệu quả ngữ cảnh (context efficiency).

III. Main Results:​

  • Agentic exploration vượt trội so với retrieval cổ điển (BM25, TF-IDF, RAG) trên mọi thước đo.
  • Hầu hết agent đạt độ phủ file (HitFile) cao nhưng độ phủ dòng (Recall) thấp (~0.14–0.19), cho thấy khám phá dòng cụ thể vẫn là nút thắt.
  • CoSIL đạt recall và F1 cao nhất nhờ tìm kiếm đồ thị code lặp, nhưng vẫn thấp hơn Oracle đáng kể.
  • Downstream resolve rate (sửa lỗi) tương quan mạnh nhất với Context Efficiency (r=0.95) và Rec@100 (ρ=0.85).
  • Thiếu ngữ cảnh cốt lõi (core context) gây hại nhiều hơn so với dư thừa ngữ cảnh không liên quan.

IV. Conclusion & Future Works:​

SWE-Explore cung cấp benchmark chuẩn để đánh giá khả năng tìm đúng mã nguồn của coding agent một cách độc lập với khả năng vá lỗi. Các agent hiện tại mạnh ở cấp file nhưng yếu ở cấp dòng. Hướng tương lai: phát triển cơ chế khám phá có độ phủ rộng hơn và thuật toán xếp hạng dòng chính xác hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển phương pháp active learning cho coding agent: tự động chọn ra các hành động đọc file (grep, cat) mang nhiều thông tin nhất để tối đa hóa recall cấp dòng với ngân sách dòng tối thiểu.
  2. Nghiên cứu ảnh hưởng của chiến lược khám phá (depth-first vs breadth-first) trong đồ thị mã nguồn lên độ chính xác xác định vị trí lỗi cho các repository lớn.
  3. Xây dựng mô hình học tăng cường (RL) để tối ưu hóa thứ tự các hành động khám phá, dựa trên phần thưởng là các metric trong SWE-Explore như nDCG@500 và Line-level Recall.

2. Patent:​

  1. Phần mềm trợ lý lập trình trên điện thoại: khi gặp lỗi, ứng dụng tự động trích xuất ngữ cảnh lỗi và chạy tác vụ SWE-Explore để gợi ý vùng mã cần sửa trong kho code từ xa, hiển thị trực tiếp lên màn hình.
  2. Hệ thống kiểm thử tự động cho ứng dụng di động: khi deploy bản cập nhật, hệ thống tự động khám phá các vùng mã liên quan đến chức năng mới, tạo ra các bài kiểm tra hồi quy nhắm vào đúng các dòng code đó thay vì kiểm tra toàn bộ.
  3. IDE thông minh có tính năng 'điều hướng ngữ cảnh': khi lập trình viên chọn một issue bất kỳ, IDE chạy nền một agent SWE-Explore để tìm và đánh dấu tất cả các vùng mã có thể liên quan, giúp lập trình viên không bỏ sót đoạn code quan trọng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.07297
ArXiv Abstracthttps://arxiv.org/abs/2606.07297
PDF Downloadhttps://arxiv.org/pdf/2606.07297.pdf
Github Repositoryhttps://github.com/Qiushao-E/SWE-Explore-Bench

3. On the Geometry of On-Policy Distillation (75 votes)​

Tác giả: Zhennan Shen, Yanshu Li, Qingyu Yin, Chak Tou Leong, Zhilin Wang, et al.

Xuất bản lúc: 2026-06-05

Tag: On-Policy Distillation, Knowledge Distillation, LLM Reasoning, Parameter-Space Geometry, Supervised Fine-Tuning, Reinforcement Learning with Verifiable Rewards, Subspace Locking

I. Main Problem:​

On-policy distillation (OPD) cải thiện khả năng suy luận của mô hình ngôn ngữ lớn, nhưng động lực học trong không gian tham số của nó chưa được nghiên cứu. Không rõ OPD nằm ở đâu trong phổ giữa supervised fine-tuning (SFT) và reinforcement learning với phần thưởng xác minh được (RLVR), hay nó có quỹ đạo cập nhật riêng.

II. Main Idea:​

Bài báo phân tích OPD thông qua các chẩn đoán không gian tham số, sử dụng các phép đo như độ thưa của cập nhật, góc xoay không gian con, độ lệch phổ và định vị cập nhật. Họ phát hiện OPD nằm ở chế độ ngoài chính nới lỏng (relaxed off-principal regime) giữa SFT và RLVR. Ngoài ra, OPD thể hiện subspace locking: cập nhật tích lũy nhanh chóng đi vào một kênh chiều thấp hẹp ngay từ đầu huấn luyện. Các thí nghiệm kiểm soát cho thấy đặc điểm này nhạy với thành phần mục tiêu huấn luyện hơn là các yếu tố runtime như pha loãng token hay chính sách rollout.

III. Main Results:​

  • OPD có độ thưa cập nhật bf16 là 51.6%, nằm giữa SFT (8.1%) và RLVR (77.2%).
  • OPD có góc xoay không gian con nhỏ hơn SFT và độ lệch phổ ở mức 10^-4, giữa SFT (10^-3) và RLVR (10^-5).
  • OPD nhanh chóng đi vào một dải chiều thấp hẹp trong quá trình huấn luyện, khác với SFT mở rộng và RLVR co lại.
  • Kênh chiều thấp này ổn định và đủ chức năng: giới hạn huấn luyện vào kênh sớm vẫn giữ hiệu suất OPD nhưng làm giảm hiệu suất SFT.
  • Pha loãng token và thay đổi chính sách rollout không làm thay đổi quỹ đạo rank, nhưng trộn mục tiêu OPD với RLVR làm thay đổi động lực học.

IV. Conclusion & Future Works:​

OPD không chỉ là điểm trung gian giữa SFT và RLVR mà có chế độ không gian tham số riêng với subspace locking. Hướng tương lai là thiết kế thuật toán OPD như kiểm soát hình học, theo dõi kênh cập nhật và dùng thành phần mục tiêu làm đòn bẩy chính để điều chỉnh.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu xem subspace locking có xuất hiện trong các tác vụ không suy luận như sinh văn bản sáng tạo hay dịch máy không, và nó có ảnh hưởng đến chất lượng đầu ra thế nào.
  2. Phát triển phương pháp can thiệp vào subspace locking để tăng tốc độ hội tụ hoặc giảm chi phí tính toán, bằng cách chủ động thu hẹp không gian cập nhật dựa trên chẩn đoán sớm.
  3. Mở rộng phân tích sang các kiến trúc khác như Mixture-of-Experts hoặc mô hình đa phương thức để kiểm tra tính phổ quát của relaxed off-principal regime và subspace locking.

2. Patent:​

  1. Hệ thống tối ưu hóa mô hình ngôn ngữ trên điện thoại: dùng subspace locking để chỉ cập nhật các trọng số trong kênh chiều thấp, tiết kiệm năng lượng và bộ nhớ khi huấn luyện trên thiết bị di động.
  2. Phần mềm tinh chỉnh mô hình trên cloud cho ứng dụng chatbot: tự động phát hiện và khóa không gian cập nhật sớm, cho phép huấn luyện nhanh hơn và ít tốn tài nguyên GPU, phù hợp triển khai cho nhiều khách hàng.
  3. Công cụ kiểm soát chất lượng cho quá trình distillation: giám sát quỹ đạo rank của cập nhật để cảnh báo khi mô hình thoát khỏi chế độ OPD mong muốn, giúp điều chỉnh tham số huấn luyện tự động.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.07082
ArXiv Abstracthttps://arxiv.org/abs/2606.07082
PDF Downloadhttps://arxiv.org/pdf/2606.07082.pdf
Github RepositoryN/A

4. Latent Spatial Memory for Video World Models (71 votes)​

Tác giả: Weijie Wang, Haoyu Zhao, Yifan Yang, Feng Chen, Zeyu Zhang, et al.

Xuất bản lúc: 2026-06-08

Tag: Video Generation, Video World Models, Spatial Memory, 3D-consistent Video Generation, Latent Space, Depth-Guided Back-Projection, Diffusion Models

I. Main Problem:​

Các mô hình video world model hiện tại duy trì tính nhất quán 3D bằng cách lưu trữ đám mây điểm RGB rõ ràng, dẫn đến chi phí tính toán cao do phải rasterize và VAE encode lại mỗi bước, đồng thời làm mất đặc trưng học được của không gian tiềm ẩn.

II. Main Idea:​

Bài báo giới thiệu latent spatial memory—bộ nhớ 3D lưu trữ thông tin cảnh trực tiếp trong không gian tiềm ẩn của diffusion model, thay vì không gian RGB. Dựa trên đó, Mirage được xây dựng với ba bước chính: khởi tạo bộ nhớ bằng cách chiếu ngược các latent token lên 3D, đọc bộ nhớ bằng phép chiếu trực tiếp trên lưới camera ở độ phân giải tiềm ẩn, và cập nhật bộ nhớ tự hồi quy loại trừ vật thể động. Thiết kế này loại bỏ hoàn toàn vòng lặp pixel-space ở mỗi bước điều kiện hóa.

III. Main Results:​

  • Trên WorldScore, Mirage đạt Average Score cao nhất (70.36) so với tất cả các baseline, vượt Spatia (69.73) và các mô hình nền tảng như Wan2.1 (55.21).
  • Trên RealEstate10K, Mirage đạt SSIM (0.779) và LPIPS (0.250) tốt nhất ở novel view synthesis, cũng như PSNR_C (20.05) và SSIM_C (0.825) tốt nhất ở closed-loop.
  • Về hiệu năng, Mirage có tốc độ sinh video nhanh hơn tới 10.57× và giảm bộ nhớ GPU đến 55× so với RGB-cache baselines.
  • Chi phí đọc cache mỗi frame ổn định ở 0.25 giây, trong khi các baseline dùng RGB cache tăng từ 2.8 lên 7.6 giây khi rollout kéo dài.

IV. Conclusion & Future Works:​

Latent spatial memory giúp video world model duy trì nhất quán 3D mà không tốn chi phí pixel-space round trip, đồng thời cải thiện chất lượng và hiệu năng. Hướng tương lai có thể mở rộng bộ nhớ tiềm ẩn cho các tác vụ tương tác hoặc điều khiển camera phức tạp hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng latent spatial memory cho mô hình tương tác vật lý, nơi bộ nhớ lưu trữ không chỉ hình dáng mà còn trạng thái động lực học của vật thể.
  2. Kết hợp latent spatial memory với mô hình ngôn ngữ lớn để điều khiển camera theo mô tả ngữ nghĩa, cho phép tạo video khám phá không gian tự nhiên.
  3. Phát triển phương pháp cập nhật bộ nhớ thích ứng dựa trên độ không chắc chắn của depth, dùng active learning để chỉ lưu các vùng thông tin nhất.

2. Patent:​

  1. Hệ thống tạo video quảng cáo bất động sản từ ảnh đơn: người dùng vẽ đường bay camera trên điện thoại, mô hình dùng latent spatial memory tạo video mượt, nhất quán 3D, tránh hiện tượng nhòe hay biến dạng.
  2. Ứng dụng du lịch ảo cho điện thoại: chụp một ảnh điểm du lịch, sau đó xoay điện thoại để xem các góc nhìn khác, hệ thống dùng bộ nhớ tiềm ẩn để tái tạo ngay không gian 3D với độ trễ thấp.
  3. Tính năng tạo video đường đi cho bản đồ trên điện thoại: người dùng nhập điểm đầu và cuối, ứng dụng dùng bộ nhớ tiềm ẩn để sinh video mô phỏng hành trình với cảnh quan thực tế mà không cần dữ liệu 3D trước.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.09828
ArXiv Abstracthttps://arxiv.org/abs/2606.09828
PDF Downloadhttps://arxiv.org/pdf/2606.09828.pdf
Github Repositoryhttps://github.com/microsoft/LatentSpatialMemory

5. LatentSkill: From In-Context Textual Skills to In-Weight Latent Skills for LLM Agents (66 votes)​

Tác giả: Aofan Yu, Chenyu Zhou, Tianyi Xu, Zihan Guo, Rong Shan, et al.

Xuất bản lúc: 2026-06-04

Tag: LLM Agents, LoRA, Hypernetwork, Skill Encoding, Modularity, Adapters

I. Main Problem:​

Các hệ thống agent hiện tại thường nhúng kỹ năng dưới dạng văn bản vào prompt ở mỗi bước hành động, gây tiêu tốn nhiều token và làm lộ nội dung kỹ năng. Các phương pháp tham số hóa như fine-tuning lại làm mất tính mô-đun, khó cập nhật hay kết hợp riêng lẻ.

II. Main Idea:​

LatentSkill chuyển đổi kỹ năng văn bản thành các bộ điều hợp LoRA thông qua một hypernetwork đã được huấn luyện. Kỹ năng được lưu trữ trong không gian trọng số thay vì ngữ cảnh, giúp loại bỏ token kỹ năng khỏi prompt trong khi vẫn giữ được khả năng tải, thay thế và kết hợp mô-đun. Các bộ điều hợp LoRA thu được có cấu trúc hình học ngữ nghĩa, có thể điều khiển chính xác qua hệ số tỉ lệ và kết hợp thông qua số học trên tham số.

III. Main Results:​

  • Trên ALFWorld, LatentSkill cải thiện tỷ lệ thành công 21.4 và 13.4 điểm trên tập seen và unseen, đồng thời giảm 64.1% số token prefill.
  • Trên Search-QA, LatentSkill tăng điểm Exact Match thêm 3.0 điểm và giảm 72.2% chi phí token kỹ năng.
  • Các LoRA tạo ra có cấu trúc ngữ nghĩa rõ ràng: kỹ năng cùng miền tạo cụm riêng, kể cả trên dữ liệu ngoài phân phối.
  • Hệ số tỉ lệ α cho phép điều khiển liên tục cường độ kỹ năng; hiệu suất đạt đỉnh ở α=0.5-0.6 và giảm khi α quá lớn.
  • Kết hợp kỹ năng ở cấp độ thành phần (component) đạt hiệu quả tốt nhất, tăng thêm 23.1% và 5.6% trên tập seen và unseen so với chỉ dùng kỹ năng đơn lẻ.

IV. Conclusion & Future Works:​

LatentSkill chứng minh rằng việc chuyển kỹ năng từ không gian prompt sang không gian trọng số vừa nâng cao hiệu quả vừa tăng tính mô-đun, điều khiển được và bảo mật hơn. Hướng phát triển tương lai bao gồm mở rộng đánh giá trên các tác vụ đa dạng hơn (web browsing, software engineering) và khám phá với các backbone LLM khác nhau.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu khả năng mở rộng của LatentSkill khi số lượng kỹ năng lên đến hàng nghìn, đánh giá ảnh hưởng đến tốc độ suy luận và chất lượng của hypernetwork.
  2. Kết hợp LatentSkill với cơ chế học tăng cường để agent tự động điều chỉnh hệ số tiêm kỹ năng α tối ưu dựa trên phản hồi từ môi trường.
  3. Phát triển phương pháp phân rã kỹ năng tự động (skill decomposition) mà không cần con người, cho phép kết hợp linh hoạt hơn trong không gian trọng số.

2. Patent:​

  1. Hệ thống trợ lý ảo trên điện thoại thông minh: người dùng tải kỹ năng thực hiện tác vụ phức tạp (đặt lịch, tra cứu thông tin) từ kho, được chuyển thành LoRA và gắn vào mô hình, giúp giảm độ trễ và bảo vệ nội dung kỹ năng.
  2. Ứng dụng dịch vụ khách hàng: mỗi nhân viên (agent) trên điện thoại có bộ LoRA kỹ năng riêng (xử lý khiếu nại, bán hàng) có thể bật/tắt mà không cần gửi hướng dẫn dài dòng, tăng tốc phản hồi và bảo mật.
  3. Kho kỹ năng bảo mật cho ứng dụng nhắn tin: người dùng có thể kích hoạt kỹ năng (tóm tắt chat, tìm kiếm file) dưới dạng LoRA thay vì văn bản, tránh bị đọc trộm nội dung kỹ năng khi chặn gói tin.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.06087
ArXiv Abstracthttps://arxiv.org/abs/2606.06087
PDF Downloadhttps://arxiv.org/pdf/2606.06087.pdf
Github RepositoryN/A

6. FlashMemory-DeepSeek-V4: Lightning Index Ultra-Long Context via Lookahead Sparse Attention (64 votes)​

Tác giả: Yan Wang, Qifan Zhang, Jiachen Yu, Tian Liang, Dongyang Ma, et al.

Xuất bản lúc: 2026-06-08

Tag: LLMs, KV Cache, Long Context, Sparse Attention, DeepSeek, Memory Efficiency, Dual-Encoder

I. Main Problem:​

LLMs với cửa sổ ngữ cảnh siêu dài bị nghẽn cổ chai bởi bộ nhớ GPU khi KV cache mở rộng tuyến tính theo độ dài chuỗi. Các cơ chế sparse attention hiện tại chỉ giảm FLOPs chứ không loại bỏ được sự tăng trưởng tuyến tính của bộ nhớ GPU.

II. Main Idea:​

Lookahead Sparse Attention (LSA) sử dụng một Neural Memory Indexer dạng dual-encoder độc lập để dự đoán trước chunk KV nào thực sự cần thiết và chỉ tải những chunk đó vào GPU. Indexer được huấn luyện riêng biệt với BCE loss và Focal Loss mà không cần tải mô hình backbone lớn, giúp tiết kiệm tài nguyên tính toán đáng kể.

III. Main Results:​

  • LSA giảm KV cache footprint trung bình xuống chỉ còn 13.5% so với full-context baseline, tương đương giảm 86.5%.
  • Độ chính xác trung bình tăng nhẹ +0.6% so với DeepSeek-V4-Flash.
  • Tại độ dài 500K, mức giảm bộ nhớ lên tới 90%.
  • Trên LongBench-v2-L (493K), LSA vượt baseline +1.9% với chỉ 10% bộ nhớ.
  • Các phương pháp ngây thơ (Recency Only, Random 10%) thất bại hoàn toàn trên tác vụ yêu cầu tổng hợp ngữ cảnh toàn cục.

IV. Conclusion & Future Works:​

FlashMemory-DeepSeek-V4 chứng minh 'less is more' khi LSA vừa tăng hiệu suất vừa giảm mạnh bộ nhớ. Hạn chế hiện tại gồm leak background probability trên chuỗi cực dài, khả năng suy biến trên tác vụ dense memory (MRCR), và giới hạn generalization gấp 2 lần độ dài huấn luyện. Hướng phát triển tương lai: sử dụng key representation có thể học, kết hợp late interaction, và tối ưu end-to-end.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Cải tiến Memory Indexer với khả năng học biểu diễn key (thay vì frozen) và sử dụng late interaction (ColBERT-style) để xử lý các tác vụ dense memory như MRCR, cải thiện đáng kể độ chính xác trên các benchmark yêu cầu truy xuất đa đoạn.
  2. Nghiên cứu cơ chế sinh động lực học cho indexer: kết hợp thông tin vị trí (position encoding) có khả năng mở rộng vượt 2 lần độ dài huấn luyện, giải quyết giới hạn generalization ceiling khi suy luận trên chuỗi 1M+ token.
  3. Phát triển phiên bản LSA với thích ứng động threshold dựa trên mật độ ngữ cảnh, giúp giữ constant memory footprint trên tác vụ context-independent trong khi vẫn duy trì recall cao trên tác vụ memory-dense.

2. Patent:​

  1. Hệ thống chatbot di động thông minh trên điện thoại: Khi người dùng hỏi về tài liệu dài (ví dụ hợp đồng, sách), module Memory Indexer chỉ tải các phần liên quan vào bộ nhớ, giúp chạy mượt mà trên thiết bị có RAM hạn chế mà không cần kết nối đám mây.
  2. Ứng dụng soạn thảo văn bản AI trên điện thoại: Khi người dùng viết nội dung mới liên quan đến đoạn trước, hệ thống tự động dùng LSA để truy xuất các đoạn văn bản cũ có liên quan, cung cấp gợi ý thông minh mà không cần giữ toàn bộ lịch sử trong RAM.
  3. Trình duyệt web di động có trợ lý AI cá nhân hóa: Khi đọc bài báo dài, hệ thống chỉ lưu trữ các phần thực sự quan trọng (dựa trên hành vi đọc của người dùng) vào KV cache, giảm tải bộ nhớ và tăng tốc độ phản hồi khi người dùng đặt câu hỏi về nội dung.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.09079
ArXiv Abstracthttps://arxiv.org/abs/2606.09079
PDF Downloadhttps://arxiv.org/pdf/2606.09079.pdf
Github Repositoryhttps://github.com/libertywing/FlashMemory-Deepseek-V4

7. CoVEBench: Can Video Editing Models Handle Complex Instructions? (51 votes)​

Tác giả: Jiangtao Wu, Jiaming Wang, Yiwen He, Yuanxing Zhang, Shihao Li, et al.

Xuất bản lúc: 2026-06-07

Tag: Video Editing, Compositional Editing, Benchmark, Evaluation, MLLM, Instruction Following

I. Main Problem:​

Các chuẩn đánh giá chỉnh sửa video hiện tại chỉ tập trung vào thao tác đơn lẻ (như chuyển đổi style hoặc chèn đối tượng), không phản ánh nhu cầu thực tế. Người dùng thường yêu cầu chỉnh sửa tổ hợp nhiều mặt cùng lúc, nhưng thiếu công cụ đo lường mức độ tuân thủ lệnh phức tạp và phát hiện lỗi chi tiết.

II. Main Idea:​

CoVEBench gồm 416 video gốc, 626 hướng dẫn chỉnh sửa đa điểm và 9.990 câu hỏi kiểm tra chi tiết. Các lệnh được phân rã thành các thao tác nguyên tử, đánh giá qua MLLM (Qwen3.5-122B) về mức độ tuân thủ lệnh, chất lượng video và độ trung thực nội dung gốc. Hệ thống đo lường tự động bổ sung thêm các chỉ số về tính thẩm mỹ, ổn định chuyển động và cấu trúc.

III. Main Results:​

  • Mô hình closed-source (Wan2.7, HappyHorse1.0) vượt trội về tuân thủ lệnh, nhưng Union Accuracy (UAS) chỉ đạt ~56%.
  • Có sự đánh đổi rõ rệt giữa thực thi chỉnh sửa và bảo tồn nội dung; Ditto đạt IFS cao nhưng SEM thấp (58%).
  • Chỉnh sửa tổ hợp (joint) cho kết quả tốt hơn so với xử lý tuần tự (UAS 30.63% vs 23.70%).
  • Camera control, motion và subject edits khó hơn đáng kể so với background/style modifications.
  • MLLM judge đạt độ đồng thuận với người trên 93% (Cohen's κ = 0.84).

IV. Conclusion & Future Works:​

CoVEBench vạch trần các rào cản cốt lõi: mô hình hiện tại thiếu khả năng xử lý độc lập các khái niệm không gian-thời gian tổ hợp, dẫn đến lỗi thừa thiếu, vi phạm vật lý và biến dạng nền. Giới hạn: chưa hỗ trợ tín hiệu đa phương thức (ảnh tham chiếu, audio) và không cung cấp dataset huấn luyện quy mô lớn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển phương pháp phân rã lệnh tự động nhờ LLM: thay vì yêu cầu mô hình xử lý toàn bộ thao tác cùng lúc, một tác tử LLM sẽ tách lệnh phức tạp thành các bước con và thực hiện tuần tự, hạn chế xung đột giữa các nhiệm vụ.
  2. Kết hợp CoVEBench với mô hình reward học từ phản hồi người dùng để tinh chỉnh mô hình chỉnh sửa video, giúp mô hình ưu tiên các chỉnh sửa thực tế về mặt vật lý thay vì chỉ đơn thuần làm theo lệnh.
  3. Mở rộng khung đánh giá CoVEBench sang miền tương tác đa phương thức: cho phép người dùng cung cấp thêm ảnh tham chiếu, bounding box hoặc âm thanh như tín hiệu điều khiển bổ sung, đánh giá khả năng kết hợp nhiều nguồn thông tin.

2. Patent:​

  1. Ứng dụng trên điện thoại cho phép người dùng ghi video nhanh và nhập lệnh chỉnh sửa tổ hợp bằng giọng nói, hệ thống tự động phân tích lệnh và áp dụng các hiệu ứng phức hợp, ví dụ: 'chèn logo vào góc trên, chuyển sang đen trắng, và làm chậm cảnh cuối'.
  2. Tính năng chỉnh sửa video thông minh trong trình phát trên di động: người dùng chọn một số khung hình chính, nhập mô tả ngắn gọn về chỉnh sửa mong muốn, hệ thống sử dụng MLLM kiểm tra từng bước và cảnh báo nếu hiệu ứng vi phạm tính tự nhiên.
  3. Hệ thống hậu kỳ video tự động trên đám mây dành cho người sáng tạo nội dung: cho phép gửi nhiều lệnh chỉnh sửa cùng lúc; kết quả được đánh giá bởi MLLM để báo cáo mức độ thành công và gợi ý điều chỉnh, tiết kiệm thời gian render thử sai.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.08415
ArXiv Abstracthttps://arxiv.org/abs/2606.08415
PDF Downloadhttps://arxiv.org/pdf/2606.08415.pdf
Github Repositoryhttps://github.com/NJU-LINK/CoVEBench

8. SpatialWorld: Benchmarking Interactive Spatial Reasoning of Multimodal Agents in Real-World Tasks (46 votes)​

Tác giả: Hongcheng Gao, Hailong Qu, Jingyi Tang, Jiahao Wang, Zihao Huang, et al.

Xuất bản lúc: 2026-06-08

Tag: Multimodal Large Language Models, Spatial Reasoning, Benchmark, Embodied AI, POMDP, 3D Environment

I. Main Problem:​

Các benchmark về suy luận không gian hiện tại chủ yếu đánh giá thụ động (VQA tĩnh, video) hoặc gắn chặt với một simulator cụ thể, không phản ánh khả năng tương tác động trong môi trường thực tế nơi tác nhân chỉ có quan sát một phần và phải chủ động khám phá để thu thập bằng chứng trực quan. Thiếu một chuẩn đánh giá thống nhất, độc lập với simulator, cho phép so sánh trực tiếp các MLLM đa năng.

II. Main Idea:​

SpatialWorld là benchmark thống nhất với 760 tác vụ do con người chú thích, tích hợp 8 simulator 3D (nhà bếp, lái xe, game) dưới một giao diện quan sát-hành động chung. Mỗi tác vụ được mô hình hóa như POMDP: tác nhân chỉ nhận ảnh egocentric RGB và đưa ra hành động cấp cao (di chuyển, xoay, tương tác) thông qua không gian hành động văn bản thống nhất, độc lập với simulator. Đánh giá dựa trên trạng thái đầu cuối (TSR) và hiệu suất bước (SE), đảm bảo công bằng và tái lập.

III. Main Results:​

  • Mô hình mạnh nhất GPT-5 chỉ đạt 17.4% TSR trung bình trên toàn benchmark; mô hình mã nguồn mở tốt nhất Qwen-3.5-397B-A17B đạt 14.1%.
  • Tồn tại khoảng cách lớn giữa TSR và SE: các mô hình thành công thường phải thử-sai nhiều (ví dụ Kimi-K2.5 SE 0.584 vs GPT-5.4 SE 0.745).
  • Hiệu suất thay đổi mạnh theo lĩnh vực: GPT-5 dẫn đầu trong nhà (14.1%), Gemini-3-Flash dẫn ngoài trời (9.0%), GPT-5 vượt trội ở tương tác (69.4%) trong khi Gemini dẫn về dẫn đường (8.6%).
  • TSR giảm mạnh khi kết hợp dẫn đường và tương tác (Navigation-Interaction: 4.2% vs Interaction: 50.2%).

IV. Conclusion & Future Works:​

SpatialWorld cho thấy MLLM hiện tại còn yếu trong suy luận không gian tương tác, đặc biệt là khám phá chủ động và lập kế hoạch dài hạn. Benchmark này cung cấp testbed khắt khe cho các agent không gian trong tương lai. Hướng phát triển tiếp theo có thể bao gồm cải thiện khả năng khám phá, lập kế hoạch, và thích ứng đa miền.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển phương pháp học tăng cường cho MLLM để cải thiện khám phá chủ động trong môi trường không gian chưa biết, sử dụng SpatialWorld làm môi trường huấn luyện.
  2. Nghiên cứu cơ chế memory không gian hiệu quả cho MLLM, cho phép agent duy trì và cập nhật belief về môi trường trong suốt quá trình tương tác nhiều bước.
  3. Xây dựng phiên bản mở rộng của SpatialWorld với các tác vụ động (đối tượng di chuyển, thay đổi trạng thái) để đánh giá khả năng suy luận không gian theo thời gian thực.

2. Patent:​

  1. Ứng dụng trên điện thoại: người dùng chụp ảnh căn phòng, app tự động đề xuất cách bố trí lại đồ đạc bằng cách mô phỏng di chuyển đồ vật trong không gian 3D, dựa trên khả năng suy luận không gian của MLLM.
  2. Hệ thống hướng dẫn trong nhà thông minh cho người khiếm thị: camera điện thoại quét môi trường, MLLM phân tích ảnh egocentric và đưa ra chỉ dẫn bằng giọng nói ("đi thẳng 2 mét, rẽ trái"), hỗ trợ di chuyển an toàn.
  3. Công cụ hỗ trợ mua sắm nội thất AR: người dùng đặt camera điện thoại vào góc phòng, MLLM tự động xác định kích thước và khoảng cách, sau đó gợi ý và overlay đồ nội thất ảo phù hợp với không gian thực.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.09669
ArXiv Abstracthttps://arxiv.org/abs/2606.09669
PDF Downloadhttps://arxiv.org/pdf/2606.09669.pdf
Github Repositoryhttps://github.com/Hongcheng-Gao/SpatialWorld

9. Human Psychometric Questionnaires Mischaracterize LLM Behavior (36 votes)​

Tác giả: Woojung Song, Dongmin Choi, Yoonah Park, Jongwook Han, Eun-Ju Lee, et al.

Xuất bản lúc: 2026-05-29

Tag: LLMs, Psychometrics, Questionnaire, Generation Probability, Personality, Human Values, Persona Prompting

I. Main Problem:​

Các bảng hỏi tâm lý (ví dụ: PVQ, BFI) được thiết kế cho con người đang được áp dụng rộng rãi để đo tính cách và giá trị của mô hình ngôn ngữ lớn (LLMs). Tuy nhiên, chưa rõ liệu các bảng hỏi này có thực sự phản ánh hành vi phát sinh văn bản của LLM trong các tương tác thực tế với người dùng hay không, đặt ra câu hỏi về tính giá trị sinh thái của chúng.

II. Main Idea:​

III. Main Results:​

  • Sự tương đồng về thứ hạng các cấu trúc tâm lý giữa bảng hỏi và xác suất sinh là thấp (Spearman ρ trung bình ≈ 0.3 cho giá trị, ≈ 0.2 cho tính cách).
  • Tính nhất quán nội bộ của các mục trong cùng một cấu trúc (η², WMV) chỉ xuất hiện trên bảng hỏi, nhưng biến mất hoàn toàn khi đo bằng xác suất sinh.
  • LLM dễ dàng nhận ra cấu trúc tâm lý mục tiêu từ văn bản của bảng hỏi (F1 trung bình 0.69–0.83), nhưng không thể làm điều này với các tình huống thực tế trong Value Portrait (F1 ≈ 0.09).
  • Persona nhân khẩu học làm thay đổi điểm số bảng hỏi theo hướng phù hợp với khuôn mẫu con người, nhưng không tạo ra thay đổi mạch lạc nào trong xác suất sinh.
  • Bảng hỏi có xu hướng đánh giá quá cao các đặc tính ủng hộ xã hội (ví dụ: Lòng vị tha) so với hành vi phát sinh thực tế của LLM.

IV. Conclusion & Future Works:​

Nghiên cứu kết luận rằng bảng hỏi tâm lý con người là công cụ không đầy đủ để dự đoán hành vi phát sinh của LLM. Các tác giả khuyến nghị sử dụng phương pháp đo dựa trên xác suất sinh như một giải pháp thay thế có giá trị sinh thái cao hơn. Hướng đi tương lai bao gồm mở rộng tập dữ liệu kịch bản và so sánh với khoảng cách tự báo cáo - hành vi ở con người.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển một bộ dữ liệu kịch bản tương tự Value Portrait nhưng mở rộng cho các cấu trúc tâm lý khác như sự lương thiện, lòng vị tha đạo đức hoặc các khía cạnh văn hóa. Điều này sẽ củng cố tính tổng quát cho các nghiên cứu về giá trị của LLMs.
  2. Khảo sát các kỹ thuật 'debiasing' để hiệu chỉnh điểm số từ bảng hỏi nhằm khớp hơn với hành vi phát sinh. Một hướng tiếp cận có thể là sử dụng hiệu chỉnh dựa trên hệ số nhận diện cấu trúc của mô hình.
  3. Áp dụng phương pháp xác suất sinh để so sánh tính cách 'thực' của LLM với nhận thức của người dùng về tính cách đó. Điều này giúp đánh giá chất lượng trải nghiệm người dùng khi tương tác với chatbot hỗ trợ tâm lý.

2. Patent:​

  1. Hệ thống kiểm tra tính cách LLM trên điện thoại dựa trên tình huống thực tế: thay vì các câu hỏi dạng 'Tôi là người...', hệ thống đưa ra các tình huống hội thoại ngắn (ví dụ: bạn bè mượn tiền) và phân tích xác suất mô hình chọn các phản hồi khác nhau để suy ra tính cách.
  2. Ứng dụng cá nhân hóa chatbot dựa trên giá trị hành vi: chatbot phân tích các chuỗi log-probability của câu trả lời trong các hội thoại trước của người dùng, từ đó điều chỉnh phong cách trả lời cho phù hợp với giá trị tiềm ẩn của họ (ví dụ: thiên về lý trí hay cảm xúc).
  3. Công cụ benchmark đánh giá an toàn cho các trợ lý AI (như Siri, Google Assistant): thay vì dùng bảng khảo sát nhàm chán, công cụ này dùng các bối cảnh 'cạm bẫy đạo đức' có xác suất phát sinh cao và đánh giá xem trợ lý AI có xu hướng trả lời gây hại hay mang tính định kiến không.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2509.10078
ArXiv Abstracthttps://arxiv.org/abs/2509.10078
PDF Downloadhttps://arxiv.org/pdf/2509.10078.pdf
Github RepositoryN/A

10. Echo-Memory: A Controlled Study of Memory in Action World Models (32 votes)​

Tác giả: Wayne King, Zeyue Xue, Yuxuan Bian, Jie Huang, Haoran Li, et al.

Xuất bản lúc: 2026-06-08

Tag: World Models, Video Generation, Memory Mechanisms, State-Space Models, Diffusion Transformers, Action-Conditioned Generation

I. Main Problem:​

Các mô hình thế giới hành động (action world models) thường thất bại khi camera rời khỏi và quay lại cảnh—vật thể chính bị thay đổi âm thầm. Nguyên nhân gốc là lỗi bộ nhớ chứ không phải sinh ảnh cục bộ. Các thiết kế bộ nhớ hiện có khó so sánh vì kết quả bị lẫn với sự khác biệt về backbone, tập huấn luyện và đánh giá.

II. Main Idea:​

Echo-Memory cố định pipeline từ ảnh-đầu-vào đến video-đầu-ra, chỉ thay đổi cách lưu và đọc lịch sử. Nghiên cứu so sánh bốn họ bộ nhớ trên cùng backbone Video DiT: Context thô, Compression, Spatial Summary và State-Space hồi quy. Mỗi biến thể được đánh giá qua ba nhánh: replay (theo quỹ đạo có sẵn), loop revisit trong miền, và return probe ngoài miền dùng VLM để kiểm tra vật thể có còn sau khi camera quay lại.

III. Main Results:​

  • Context thô (K=20) cải thiện điểm VLM ngoài miền từ 12.25 lên 58.63, hiệu quả hơn nhiều so với cải thiện replay.
  • Spatial Memory đạt replay PSNR cao nhất (13.60) nhưng điểm VLM ngoài miền thấp nhất (6.00)—bộ nhớ gọn không tự động là bộ nhớ ngữ nghĩa.
  • State-Space block-wise đạt điểm VLM ngoài miền cao nhất (69.00) dù replay PSNR thấp hơn (9.59), cho thấy cấu trúc truy hồi quan trọng hơn là quyết định dùng nó.
  • Tổng hợp nén lai (hybrid compression) phá hủy bằng chứng định danh, điểm VLM chỉ đạt 8.75–9.00.
  • Replay và return mâu thuẫn (tương quan r = -0.03), chứng tỏ replay không phải phép đo bộ nhớ đầy đủ.

IV. Conclusion & Future Works:​

Echo-Memory chứng minh rằng: (1) context thô là baseline mạnh về dung lượng, (2) nén gọn không thay thế được dung lượng, (3) hồi quy có cấu trúc block-wise là cơ chế return tốt nhất. Hướng tới: thiết kế bộ nhớ spatial có nhận thức đối tượng, và phát triển giao thức đánh giá tích hợp replay lẫn return.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng giao thức ba nhánh cho bộ nhớ multi-modal (âm thanh, văn bản) trong world models, kiểm tra mâu thuẫn giữa độ trung thực tái tạo và tính nhất quán ngữ nghĩa khi mất thông tin thị giác.
  2. Kết hợp bộ nhớ state-space block-wise với attention chéo cho Spatial Memory, nhằm cải thiện khả năng lưu giữ định danh đối tượng mà không tăng dung lượng token.
  3. Nghiên cứu chiến lược nén bộ nhớ có mục tiêu giữ bằng chứng quan trọng cho return, ví dụ: dùng VLM để xác định đối tượng chính và chỉ lưu các frame chứa đối tượng đó.

2. Patent:​

  1. Ứng dụng bộ nhớ state-space block-wise trong điện thoại quay video 360 độ: khi người dùng xoay camera, hệ thống tự động duy trì hình dạng và vị trí của vật thể chính ngay cả khi khuất tầm nhìn, giúp video quay lại mượt mà không bị thay đổi cảnh đột ngột.
  2. Tích hợp bộ nhớ context thô vào ứng dụng chỉnh sửa video trên điện thoại: người dùng xóa một đoạn, phần mềm tự động giữ lại thông tin cảnh và đối tượng từ frame trước để dựng lại chuyển tiếp liền mạch mà không cần render lại từ đầu.
  3. Hệ thống chơi game trên điện thoại dùng bộ nhớ nén thông minh: khi nhân vật di chuyển ra khỏi khu vực, chỉ các đối tượng chính (kẻ thù, vật phẩm) được lưu dưới dạng token ngắn; khi quay lại, game khôi phục chính xác trạng thái mà không tốn bộ nhớ full frame.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.09803
ArXiv Abstracthttps://arxiv.org/abs/2606.09803
PDF Downloadhttps://arxiv.org/pdf/2606.09803.pdf
Github Repositoryhttps://github.com/Echo-Team-Joy-Future-Academy-JD/Echo-Memory

11. End-to-End Context Compression at Scale (27 votes)​

Tác giả: Ang Li, Sean McLeish, Haozhe Chen, Nimit Kalra, Zaiqian Chen, et al.

Xuất bản lúc: 2026-06-08

Tag: Context Compression, Encoder-Decoder, Large Language Models, KV Cache, Latent Representation, Long-Context Inference

I. Main Problem:​

Suy luận với ngữ cảnh dài bị nghẽn cổ chai bởi bộ nhớ do KV cache phình to theo độ dài văn bản. Các phương pháp nén KV cache hiện tại làm giảm chất lượng mô hình, cần nhiều thời gian và tính toán, hoặc không tương thích với các engine suy luận sản xuất hiện đại.

II. Main Idea:​

Bài báo giới thiệu Latent Context Language Model (LCLM), họ các bộ nén encoder-decoder được huấn luyện end-to-end trên quy mô lớn với các tỉ lệ nén 4×, 8× và 16×. LCLM gồm encoder nhỏ (0.6B tham số) nén từng khối token thành các soft token, adapter chiếu chúng lên không gian tiềm ẩn, và decoder (4B tham số) tiêu thụ chuỗi nén thay cho văn bản gốc. Quá trình huấn luyện chia làm bốn giai đoạn: khởi động adapter, huấn luyện encoder, tiếp tục pre-training end-to-end, và supervised fine-tuning với dữ liệu tái tạo phụ trợ.

III. Main Results:​

  • LCLM thiết lập Pareto frontier mới về thời gian nén và độ chính xác trên các benchmark RULER, LongBench và LongHealth, nhanh hơn từ 4,7× đến 8,8× so với các phương pháp nén KV cache.
  • Tại độ dài ngữ cảnh 512K token, LCLM với tỉ lệ nén 16× gần như không tăng peak memory, trong khi các baseline hết bộ nhớ hoặc thất bại.
  • Trong tác vụ agent dạng needle-in-a-haystack, LCLM kết hợp công cụ EXPAND cải thiện đáng kể độ chính xác truy xuất chính xác so với LCLM thô.
  • Trên GSM8K, LCLM đạt độ chính xác cao nhất ở mọi tỉ lệ nén, đặc biệt vượt trội so với baseline ở tỉ lệ cao.

IV. Conclusion & Future Works:​

LCLM chứng minh rằng encoder-decoder nén soft token có thể cạnh tranh và vượt các phương pháp nén KV cache về tốc độ, bộ nhớ và độ chính xác. Hướng tương lai gồm mở rộng quy mô mô hình và tối ưu hóa hệ thống agent với khả năng mở rộng linh hoạt các khối nén.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu kiến trúc encoder thích ứng với độ dài cửa sổ thay đổi động theo nội dung, cho phép nén linh hoạt hơn và khả năng giữ thông tin chi tiết tốt hơn.
  2. Kết hợp LCLM với cơ chế sparse attention để giảm chi phí tính toán trên chuỗi nén dài, tăng hiệu quả cho các tác vụ siêu dài.
  3. Mở rộng LCLM cho đa phương thức (văn bản-hình ảnh) bằng cách thiết kế encoder nén đồng thời các token ngôn ngữ và thị giác thành một biểu diễn chung thống nhất.

2. Patent:​

  1. Hệ thống tóm tắt lịch sử hội thoại trên điện thoại thông minh: dùng LCLM để nén toàn bộ lịch sử chat thành vài soft token, lưu trên thiết bị và mở rộng khi cần, giúp trợ lý ảo trả lời mà không tốn bộ nhớ.
  2. Ứng dụng đọc tài liệu dài (sách, báo cáo) trên di động: LCLM nén văn bản thành chuỗi ngắn, cho phép tìm kiếm nhanh và mở rộng đoạn quan trọng, tiết kiệm thời gian xử lý và pin.
  3. Công cụ hỗ trợ lập trình trên thiết bị di động: nén toàn bộ mã nguồn dự án vào LCLM, lập trình viên có thể hỏi về lỗi hoặc chức năng; hệ thống tự động mở rộng đoạn mã liên quan để đưa ra câu trả lời chính xác.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.09659
ArXiv Abstracthttps://arxiv.org/abs/2606.09659
PDF Downloadhttps://arxiv.org/pdf/2606.09659.pdf
Github Repositoryhttps://github.com/LeonLixyz/LCLM

12. A Geometric Account of Activation Steering through Angle-Norm Decomposition (26 votes)​

Tác giả: Georgii Aparin, Tatiana Gaintseva

Xuất bản lúc: 2026-06-04

Tag: Activation Steering, Geometric Decomposition, Language Models, Representation Engineering, Spherical Steering, Angle-Norm Analysis, Interpretability

I. Main Problem:​

Phương pháp kích hoạt tuyến tính (additive steering) thay đổi đồng thời góc và độ dài (norm) của hidden states, khiến khó hiểu và kiểm soát can thiệp. Các phương pháp hình cầu (spherical steering) đặt giả định thông tin khái niệm nằm chủ yếu ở góc nhưng chưa được kiểm chứng đầy đủ. Nghiên cứu thiếu lý giải rõ ràng về vai trò riêng biệt của hai thành phần hình học.

II. Main Idea:​

Bài báo phân rã mỗi hidden state thành thành phần góc (alignment với concept direction) và thành phần bán kính (norm), rồi so sánh sáu phương pháp steering trên framework này. Qua đó, tác giả chứng minh khái niệm được mã hóa chủ yếu theo góc (probe trên normalized states đạt độ chính xác gần probe gốc, còn probe chỉ dùng norm là ngẫu nhiên). Tuy nhiên, norm đóng vai trò quyết định đến độ ổn định của sinh văn bản và khả năng bảo toàn chất lượng mô hình, đặc biệt ở cường độ steering cao, tăng norm nhẹ có thể giảm perplexity tới 1,8 lần mà không thay đổi hiệu quả ngữ nghĩa.

III. Main Results:​

  • Probe trên hidden states đã chuẩn hóa (unit vectors) có độ chính xác ngang probe trên raw states, trong khi probe chỉ dùng norm ở mức ngẫu nhiên, xác nhận khái niệm được mã hóa chủ yếu theo góc.
  • So sánh cặp CAA-m (giữ nguyên góc, không giữ norm) và Spherical Steering S (giữ nguyên góc, buộc giữ norm): ở γ=0,7, S gây perplexity tăng mạnh, còn CAA-m ổn định hơn, giữ MMLU cao hơn.
  • Spherical Steering với Norm Scaling (SN): tăng β từ 1,0 lên 1,2 giảm perplexity ~1,8× tại γ=0,7, trong khi task metric thay đổi không đáng kể (~2,5 điểm %).
  • Phân tích Pareto trên toàn bộ datasets cho thấy CAA-m nằm vùng gần gốc tối ưu (task metric cao, perplexity thấp), trong khi S tụt hẳn ở γ lớn.
  • Các phương pháp giữ norm như CAA-r và AS cho hành vi khác nhau: AS tạo perplexity cao hơn dù cùng norm preservation.

IV. Conclusion & Future Works:​

Kết quả khẳng định steering nên được hiểu là can thiệp hai tham số: góc điều khiển hiệu ứng ngữ nghĩa, bán kính điều khiển độ ổn định sinh. Điều này giải thích vì sao các phương pháp có tác dụng ngữ nghĩa tương tự lại khác nhau về chất lượng sinh. Hướng tới, cần tự động chọn tỉ lệ norm và mở rộng đánh giá cho nhiều mô hình và hành vi phức tạp hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng phân rã góc–norm cho steering đa khái niệm: thiết lập công thức tối ưu hóa đồng thời nhiều concept directions với ràng buộc bán kính có thể điều chỉnh riêng lẻ.
  2. Kết hợp steering góc-norm với selective steering theo tầng: xác định tầng nào nên ưu tiên điều chỉnh norm, tầng nào ưu tiên điều chỉnh góc để tối ưu tổng thể.
  3. Nghiên cứu mối liên hệ giữa norm scaling và representational capacity: thiết kế thí nghiệm đo entropy biểu diễn để kiểm chứng giả thuyết norm mở rộng dung lượng biểu diễn còn lại.

2. Patent:​

  1. Hệ thống điều chỉnh hành vi chatbot trên điện thoại: người dùng kéo thanh trượt 'cường độ' và 'ổn định' riêng, tương ứng điều khiển góc và norm, cho phép tinh chỉnh phản hồi mà không làm hỏng mạch văn.
  2. Công cụ trên smartphone cho phép nhập concept score mong muốn và tự động hiệu chuẩn norm scale để đạt perplexity thấp nhất, phù hợp triển khai ứng dụng trợ lý ảo yêu cầu độ tin cậy cao.
  3. Ứng dụng trên thiết bị di động cho phép người dùng chọn mức trung thực/tích cực cho tin nhắn; hệ thống tự động dò tìm tầng tối ưu và cân bằng góc-norm để tối đa hóa hiệu quả ngữ nghĩa và độ ổn định khi sinh.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.06735
ArXiv Abstracthttps://arxiv.org/abs/2606.06735
PDF Downloadhttps://arxiv.org/pdf/2606.06735.pdf
Github RepositoryN/A

13. Skill-3D: Evolving Scene-Aware Skills for Agentic 3D Spatial Reasoning (25 votes)​

Tác giả: Haoyuan Li, Zhengdong Hu, Jun Wang, Hehe Fan, Yi Yang

Xuất bản lúc: 2026-06-05

Tag: Agentic 3D Reasoning, Multimodal LLM, Tool Augmentation, Skill Learning, Spatial Understanding, Scene Memory, Reinforcement Learning

I. Main Problem:​

Các tác nhân MLLM hiện tại thường áp dụng chiến lược sử dụng công cụ đồng nhất cho mọi cảnh 3D khác nhau, dẫn đến lựa chọn công cụ lệch lạc và thu thập bằng chứng không đầy đủ. Do đó, việc thêm công cụ không cải thiện đáng kể khả năng suy luận không gian so với các phương pháp không dùng công cụ.

II. Main Idea:​

Skill-3D xây dựng Scene Memory ghi lại toàn bộ trajectory sử dụng công cụ (thành công và thất bại). Từ đó, Skill Library phát triển các kỹ năng tái sử dụng (scene-aware skills): trajectory thành công được chưng cất thành kỹ năng, còn trajectory thất bại được gắn làm bài học. Khi suy luận, các kỹ năng phù hợp được truy xuất để hướng dẫn lập kế hoạch sử dụng công cụ. Cuối cùng, skill-guided agentic post-training (SFT + GRPO) chuyển hành vi này vào các tác nhân nhỏ gọn.

III. Main Results:​

  • Skill-3D cải thiện hiệu quả sử dụng công cụ từ 39% lên 78% trên VSI-Bench.
  • Cải thiện Gemini-3-Flash 67% trên MMSI-Bench.
  • Skill-guided post-training nâng Qwen3-VL-8B lên 60% trên VSI-Bench.
  • Trung bình trên bốn MLLM đóng, Skill-3D tăng 50.3% trên VSI-Bench so với baseline không dùng công cụ.
  • Trên CV-3D, tỷ lệ sử dụng công cụ hiệu quả (ETU) tăng từ 31.8% lên 87.5%.

IV. Conclusion & Future Works:​

Skill-3D chứng minh rằng kỹ năng nhận biết cảnh giúp tác nhân sử dụng công cụ chính xác và hiệu quả hơn trong suy luận không gian 3D trong nhà. Hạn chế: khung này chưa được thử nghiệm trên cảnh ngoài trời, điều hướng tác vụ hoặc tương tác robot thời gian thực.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng Skill-3D sang suy luận không gian ngoài trời, yêu cầu các giao diện công cụ mới như bản đồ địa hình và GPS, và tín hiệu cảnh phù hợp.
  2. Kết hợp Skill-3D với học tăng cường trực tiếp trên môi trường mô phỏng để robot tự động khám phá và tinh chỉnh kỹ năng sử dụng công cụ.
  3. Nghiên cứu cơ chế tổng hợp kỹ năng tự động: từ các kỹ năng cơ bản, tác nhân có thể kết hợp chúng để giải quyết tác vụ phức tạp hơn, ví dụ kết hợp kỹ năng đo khoảng cách và kỹ năng nhận diện hướng để lập kế hoạch đường đi.

2. Patent:​

  1. Hệ thống hỗ trợ sắp xếp nội thất thông minh trên điện thoại: người dùng chụp ảnh phòng; mô hình phân tích cảnh, truy xuất kỹ năng phù hợp (ví dụ: đo khoảng cách, nhận diện hướng) để tự động đề xuất vị trí đặt đồ hợp lý.
  2. Ứng dụng hướng dẫn lắp ráp đồ nội thất AR: camera điện thoại nhận diện các chi tiết và bề mặt; hệ thống tự động gợi ý thứ tự và công cụ cần dùng dựa trên kỹ năng đã học từ các cảnh lắp ráp tương tự.
  3. Tính năng chụp ảnh thông minh: điện thoại nhận diện bối cảnh (ví dụ: bữa tiệc, phong cảnh) và gợi ý chế độ chụp (chân dung, góc rộng) bằng cách so sánh với các kỹ năng chụp ảnh đã lưu từ những cảnh tương tự trước đó.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.07436
ArXiv Abstracthttps://arxiv.org/abs/2606.07436
PDF Downloadhttps://arxiv.org/pdf/2606.07436.pdf
Github Repositoryhttps://github.com/skill-3d/Skill-3D

14. WorldCraft: From Camera Navigation to Object Manipulation in Interactive Video World Models (22 votes)​

Tác giả: Bohai Gu, Taiyi Wu, Yueyang Yuan, Jian Liu, Xiaocheng Lu, et al.

Xuất bản lúc: 2026-05-24

Tag: Video World Models, Object Manipulation, Camera Control, Trajectory Control, Autoregressive Generation, Diffusion Transformer, LoRA

I. Main Problem:​

Các mô hình thế giới dạng video hiện nay mới chỉ hỗ trợ tương tác ở mức camera: người dùng có thể di chuyển góc nhìn nhưng không thể điều khiển trực tiếp đối tượng. Hành động trong thế giới thực vốn tập trung vào đối tượng, vì vậy các mô hình này chỉ là người quan sát thụ động, chưa phải môi trường có thể thao tác thực sự.

II. Main Idea:​

WorldCraft mở rộng mô hình thế giới tương tác từ điều khiển camera sang điều khiển quỹ đạo đối tượng thông qua ba thành phần chính. Thứ nhất, Normalized World Trajectory (NWT) biểu diễn quỹ đạo người dùng trong hệ tọa độ thế giới chuẩn hóa, tách biệt chuyển động đối tượng khỏi chuyển động camera. Thứ hai, Spatial-Pathway LoRA (SP-LoRA) chỉ tinh chỉnh các lớp điều khiển không gian để thêm khả năng thao tác đối tượng mà không phá vỡ điều khiển camera có sẵn. Thứ ba, Trajectory-Anchored State Persistence (TASP) dùng quỹ đạo thế giới như tín hiệu vị trí bền vững, làm mới bộ nhớ tự hồi quy để đối tượng di chuyển xuất hiện đúng vị trí ngay cả khi ra khỏi khung hình.

III. Main Results:​

  • WorldCraft đạt lỗi quỹ đạo thấp nhất (TE=38.90) và chất lượng ảnh tốt nhất (PSNR=17.23) so với DragAnything và Wan-Move khi điều khiển đối tượng trên camera tĩnh.
  • Độ chính xác điều khiển camera được bảo toàn: RPErot chỉ 0.131 ở 61 frame, thậm chí cải thiện nhẹ (0.123) ở 253 frame so với baseline WorldPlay (0.130).
  • Hệ thống hỗ trợ điều khiển đồng thời camera và đối tượng, điều khiển nhiều đối tượng cùng lúc, và tạo video dài 253 frame (~10.5 giây) với trạng thái đối tượng nhất quán.
  • NWT với ước lượng độ sâu lặp giảm lỗi quỹ đạo đáng kể (TE=34.65) so với không gian pixel (45.28) khi camera xoay lớn.
  • SP-LoRA với chỉ ~50M tham số giữ được cân bằng tốt nhất giữa lỗi quỹ đạo (38.90) và độ chính xác camera (RPErot=0.131).

IV. Conclusion & Future Works:​

WorldCraft mở rộng mô hình thế giới dạng video từ điều khiển camera sang điều khiển đối tượng chính xác, với khả năng duy trì trạng thái đối tượng nhất quán ngay cả khi ra khỏi tầm nhìn. Hướng tương lai có thể phát triển các mô hình thế giới tương tác không chỉ di chuyển góc nhìn mà còn thao tác và suy luận về các đối tượng trong cảnh.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng WorldCraft với hành động tương tác phức tạp hơn như kéo, thả, hoặc va chạm giữa các đối tượng, cho phép mô hình thế giới mô phỏng các kịch bản vật lý phong phú hơn.
  2. Kết hợp WorldCraft với mô hình ngôn ngữ lớn để tạo quỹ đạo đối tượng từ mô tả ngôn ngữ tự nhiên, cho phép người dùng ra lệnh như 'đẩy cốc sang trái' thay vì vẽ tay.
  3. Áp dụng tư tưởng NWT và TASP cho robot học từ video: robot có thể suy luận trạng thái đối tượng sau khi rời khỏi tầm nhìn, giúp lập kế hoạch hành động dài hạn mà không cần quan sát liên tục.

2. Patent:​

  1. Phương pháp điều khiển đối tượng trong video trên điện thoại: người dùng chạm và kéo đối tượng trên màn hình; mô hình tự động tạo video tiếp theo với đối tượng di chuyển theo quỹ đạo đã vẽ, kết hợp với di chuyển camera bằng cảm biến con quay.
  2. Hệ thống chỉnh sửa video thông minh cho điện thoại: người dùng vẽ đường đi cho một đối tượng trong video; hệ thống tự động tạo các frame mới với đối tượng dịch chuyển, giữ nguyên nền và cho phép xoay camera cùng lúc.
  3. Ứng dụng thực tế ảo tăng cường trên điện thoại: người dùng đặt vật thể ảo lên màn hình, vẽ quỹ đạo di chuyển; mô hình thế giới dự đoán hình ảnh liên tục khi cả camera và vật thể ảo cùng di chuyển, tạo trải nghiệm nhập vai.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2605.25077
ArXiv Abstracthttps://arxiv.org/abs/2605.25077
PDF Downloadhttps://arxiv.org/pdf/2605.25077.pdf
Github RepositoryN/A

15. OmniGameArena: A Unified UE5 Benchmark for VLM Game Agents with Improvement Dynamics (19 votes)​

Tác giả: Mingxian Lin, Shengju Qian, Yuqi Liu, Yi-Hua Huang, Yiyu Wang, et al.

Xuất bản lúc: 2026-06-08

Tag: Vision-Language Model, Game Agent, Unreal Engine 5, Benchmark, Self-Improvement, Reflection, Multi-Agent

I. Main Problem:​

Các game benchmark hiện tại cho VLM agent thường chỉ báo cáo điểm số lần chơi đầu tiên, chỉ tập trung vào chế độ Solo đơn lẻ (đối kháng và hợp tác bị thiếu), và thiếu giao thức chung để đánh giá các lớp agent khác nhau (VLM thương mại, VLM nguồn mở, chính sách game chuyên biệt) trên cùng một mặt bằng. Ngoài ra, các benchmark cũ tái sử dụng các tựa game có sẵn, dễ bị nhiễm dữ liệu huấn luyện trước.

II. Main Idea:​

OmniGameArena là một benchmark gồm 12 game Unreal Engine 5 được xây dựng mới, trải dài trên ba chế độ Solo, PvP và Coop, với giao diện hành động thống nhất, giúp giảm nguy cơ rò rỉ dữ liệu tiền huấn luyện. Improvement Dynamics Curve (IDC) là một khung tự phản ánh (agentic-reflection) nơi một LLM reflector sử dụng công cụ tự động để tinh chỉnh skill prompt giới hạn qua nhiều vòng, tạo ra quỹ đạo điểm số đa vòng thay vì điểm số một lần duy nhất. IDC còn đo khả năng chuyển giao của skill đã học sang các biến thể task chưa thấy, phơi bày sự khác biệt ẩn giấu trong điểm số đơn lẻ.

III. Main Results:​

  • Trên cold-start, không có VLM nào thống trị hoàn toàn; GPT-5.5 dẫn đầu 4/7 game Solo, Claude Opus 4.6 thắng cách biệt ở CueChase (0.840 so với 0.580).
  • VLM nguồn mở và chính sách chuyên biệt (NitroGen, Open-P2P) đạt điểm rất thấp hoặc bằng 0, xác nhận độ khó và tính mới của OmniGameArena.
  • Trong IDC, cả bốn agent hàng đầu đều cải thiện so với baseline, nhưng hiệu suất đỉnh thường đạt ở giữa đường cong thay vì vòng cuối.
  • Trên SharedFloor, kỹ năng chuyển giao tích cực ở 16/16 biến thể; trên LastStand, kỹ năng của các mô hình khác nhau lại cho kết quả trái ngược – GPT-5.5 (+79% trên var2) trong khi Opus 4.7 giảm -76%.

IV. Conclusion & Future Works:​

OmniGameArena và IDC đã tạo ra một benchmark toàn diện hơn, phơi bày động lực cải thiện và khả năng chuyển giao của VLM agent, vốn bị che giấu bởi điểm số đơn lẻ. Hạn chế hiện tại là IDC mới chỉ thử nghiệm trên hai game; hướng tới mở rộng sang nhiều game và biến thể hơn, đồng thời khám phá cấu hình reflector bất đối xứng (player nhỏ hơn, reflector mạnh hơn).

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng IDC sang các game PvP để đo lường khả năng thích nghi của agent trước hành vi đối thủ thay đổi theo thời gian qua nhiều vòng phản ánh.
  2. Kết hợp IDC với một thư viện skill đa dạng (giống Voyager) thay vì một skill prompt duy nhất, cho phép agent lưu trữ và chọn lựa chiến lược phù hợp cho từng tình huống.
  3. Nghiên cứu tác động của việc dùng hai mô hình khác nhau cho player và reflector (ví dụ: player nhỏ hơn, reflector mạnh hơn) lên hiệu quả cải thiện và khả năng khái quát hóa.

2. Patent:​

  1. Ứng dụng IDC để đào tạo NPC thông minh trong game: mỗi NPC tự chơi và rút kinh nghiệm qua nhiều vòng, cập nhật prompt chiến thuật để ứng biến linh hoạt hơn so với kịch bản cố định.
  2. Dùng IDC làm cơ chế tự tinh chỉnh cho chatbot hỗ trợ khách hàng: sau mỗi ca làm việc, hệ thống phân tích log hội thoại, self-reflect và cập nhật hướng dẫn xử lý tình huống để cải thiện chất lượng phản hồi ở ca sau.
  3. Tích hợp IDC vào hệ thống điều khiển robot gia đình: robot tự thực hiện một loạt nhiệm vụ mẫu, ghi lại kết quả, rồi dùng LLM tự sửa chữa prompt điều khiển để thích nghi với bố trí đồ đạc mới trong nhà.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.09826
ArXiv Abstracthttps://arxiv.org/abs/2606.09826
PDF Downloadhttps://arxiv.org/pdf/2606.09826.pdf
Github Repositoryhttps://github.com/mxlin043/OmniGameArena

16. SwiftVR: Real-Time One-Step Generative Video Restoration (17 votes)​

Tác giả: Jiaqi Yan, Xiangyu Chen, Xinlin Zhong, Haibin Huang, Chi Zhang, et al.

Xuất bản lúc: 2026-06-08

Tag: Video Restoration, Diffusion Models, One-Step Sampling, Real-Time, Streaming, Attention Mechanism, Autoencoder

I. Main Problem:​

Các mô hình khuếch tán phục hồi video hiện tại không thể chạy thời gian thực trên GPU phổ thông, đặc biệt ở độ phân giải 1080p trở lên. Hai nút thắt chính là chi phí tính toán bình phương của self-attention tại độ phân giải cao và độ trễ của bộ giải mã video dung lượng lớn.

II. Main Idea:​

SwiftVR là framework phục hồi video thế hệ một bước theo luồng. Nó dùng Mask-free Shifted-Window Self-Attention (MFSWA) để thu gọn từng cửa sổ không gian thành tensor dày đặc, cho phép tất cả các lời gọi attention chạy trên đường SDPA dày đặc chuẩn mà không cần mặt nạ, dịch vòng hay kernel thưa đặc thù phần cứng, đạt tăng tốc 1.62× so với teacher full-attention. Bên cạnh đó, một Restoration-aware Autoencoder (ReAE) nhẹ được tinh chỉnh đồng thời với DiT để giảm chi phí giải mã. SwiftVR xử lý video theo từng chunk nhân quả, giới hạn độ dài thời gian T trong tensor DiT.

III. Main Results:​

  • Trên H100, SwiftVR đạt 31 FPS ở 2560×1440 và 14 FPS ở 3840×2160, trong khi tất cả baseline khuếch tán so sánh đều vượt giới hạn bộ nhớ tại 4K.
  • Trên RTX 5090, SwiftVR đạt 26 FPS ở 1920×1080, là mô hình sinh đầu tiên đạt streaming thời gian thực 1080p trên GPU phổ thông.
  • SwiftVR đứng đầu về các metric không tham chiếu (MUSIQ, CLIP-IQA) trên nhiều benchmark phục hồi video thực tế.
  • MFSWA nhanh gấp 1.62× teacher full-attention (566ms so với 1039ms cho một chunk 2560×1440) trong khi vẫn giữ chất lượng phục hồi tương đương.
  • ReAE (40.95M tham số) đạt cân bằng chất lượng-hiệu năng tốt hơn nhiều so với autoencoder gốc (704M tham số) và bộ giải mã siêu nhẹ.

IV. Conclusion & Future Works:​

SwiftVR là mô hình phục hồi video thế hệ một bước đầu tiên đạt được streaming thời gian thực 1080p trên GPU phổ thông. Nó vượt qua các hạn chế về bộ nhớ và độ trễ nhờ thiết kế attention không mặt nạ và bộ giải mã ý thức phục hồi nhẹ. Phục hồi 4K thời gian thực trên phần cứng phổ thông vẫn là thách thức mở cho các nghiên cứu tương lai.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng MFSWA cho các tác vụ video khác như sinh video hoặc chỉnh sửa video, nơi attention toàn cục cũng là nút thắt, để xem liệu thiết kế không mặt nạ có lợi thế tương tự không.
  2. Kết hợp SwiftVR với các kỹ thuật nén mô hình (ví dụ: lượng tử hóa, cắt tỉa) để giảm thêm chi phí suy luận, hướng tới triển khai trên thiết bị di động hoặc nhúng.
  3. Nghiên cứu cách thích ứng SwiftVR cho phục hồi video đa nhiệm (siêu phân giải + khử nhiễu + chống rung) trong một pipeline thống nhất, tận dụng khả năng học biểu diễn chung của DiT.

2. Patent:​

  1. Hệ thống nâng cấp chất lượng video livestream trên điện thoại: khi người dùng phát trực tiếp, camera gửi từng khung hình xuống server; server dùng SwiftVR để phục hồi chất lượng (siêu phân giải, khử nhiễu) theo thời gian thực rồi trả về luồng video sắc nét mà không gây trễ đáng kể.
  2. Ứng dụng xem phim hoặc video cũ trên TV thông minh: khi mở video độ phân giải thấp, TV dùng mô hình SwiftVR (có thể nhẹ hơn) nhúng sẵn để nâng cấp lên 4K theo thời gian thực, cải thiện trải nghiệm xem mà không cần tải lại dữ liệu.
  3. Module chỉnh sửa video trên điện thoại: khi người dùng quay video trong điều kiện thiếu sáng hoặc nhiễu hạt, một chip AI tích hợp sẵn chạy SwiftVR để khử nhiễu và tăng cường chi tiết ngay sau khi quay, giúp video trông sắc nét hơn mà không cần ứng dụng chỉnh sửa phức tạp.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.09516
ArXiv Abstracthttps://arxiv.org/abs/2606.09516
PDF Downloadhttps://arxiv.org/pdf/2606.09516.pdf
Github Repositoryhttps://github.com/H-oliday/SwiftVR

17. AHA-WAM:Asynchronous Horizon-Adaptive World-Action Modeling with Observation-Guided Context Routing (15 votes)​

Tác giả: Jisong Cai, Long Ling, Shiwei Chu, Zhongshan Liu, Jiayue Kang, et al.

Xuất bản lúc: 2026-06-08

Tag: World-Action Model, Diffusion Transformer, Robot Manipulation, Asynchronous Inference, Dual-System Policy, Context Routing

I. Main Problem:​

Các world-action model hiện tại buộc cả nhánh dự đoán thế giới (video) và nhánh hành động phải chạy cùng một nhịp thời gian ngắn. Điều này khiến nhánh video tốn chi phí tính toán cho các biến đổi khung hình gần kề dư thừa và ít thông tin, thay vì tập trung vào kế hoạch thị giác dài hạn cho điều khiển robot.

II. Main Idea:​

AHA-WAM đề xuất kiến trúc dual-Diffusion Transformer không đồng bộ: nhánh video (world planner) hoạt động ở tần số thấp để duy trì bộ nhớ KV quay vòng và tạo ngữ cảnh kế hoạch tầm xa, trong khi nhánh hành động (action expert) chạy tần số cao để thực hiện các chuỗi hành động ngắn khép kín. Cơ chế Observation-Guided Video-Context Routing (OVCR) cho phép nhánh hành động truy vấn và cập nhật ngữ cảnh video cũ bằng quan sát mới nhất mà không cần chạy lại video DiT. Huấn luyện horizon-adaptive offset giúp action expert thích ứng với độ lệch pha giữa planner và executor.

III. Main Results:​

  • Trên RoboTwin 2.0: AHA-WAM đạt 92.80% thành công trung bình, vượt Fast-WAM (91.83%) và LingBot-VA (92.20% – có pretrain robot).
  • Trên robot thật 4 tác vụ: đạt 78.33% thành công, ngang bằng π0.5 (76.67%) và vượt xa Fast-WAM (68.33%), Motus (21.67%).
  • Tần số điều khiển vòng kín: 24.17 Hz (nhanh gấp 4.59 lần Fast-WAM); phiên bản flash đạt 56.95 Hz (gấp 10.82 lần).
  • Ablation chứng minh OVCR và KV Memory đều cần thiết: Naive-Async chỉ đạt 88.60%, +KV Memory lên 91.01%, +OVCR lên 91.47%, đầy đủ lên 92.80%.

IV. Conclusion & Future Works:​

AHA-WAM cho thấy việc tách nhịp world planning và action execution không những cải thiện hiệu suất mà còn tăng tần số điều khiển đáng kể. Hướng tương lai: mở rộng cơ chế bất đồng bộ lên các mô hình nền tảng lớn hơn và tích hợp thêm đa camera hoặc tactile feedback.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển phiên bản AHA-WAM có thể online điều chỉnh tầm nhìn video dựa trên độ bất định của hành động, thay vì cố định horizon 64 khung hình.
  2. Kết hợp AHA-WAM với active learning: robot tự quyết định khi nào cần refresh planner video dựa trên sự thay đổi cảnh quan, giảm thêm chi phí tính toán.
  3. Mở rộng AHA-WAM cho đa tác nhân: mỗi robot có planner riêng nhưng chia sẻ ngữ cảnh video qua giao tiếp liên tác nhân, giúp phối hợp không đồng bộ.

2. Patent:​

  1. Ứng dụng trong điện thoại điều khiển robot hút bụi: planner video chạy trên đám mây phân tích layout nhà (tần số thấp), còn action expert trên thiết bị xử lý ngay lập tức các chướng ngại vật mới dựa trên camera của robot.
  2. Hệ thống gắp hàng trong kho có nhánh camera quan sát tổng thể (chạy chậm) và nhánh cánh tay robot tần số cao: OVCR trên điện thoại di động của nhân viên giám sát giúp cập nhật tình huống kho hàng theo thời gian thực mà không cần server mạnh.
  3. Module hỗ trợ lái xe trên điện thoại: camera điện thoại quay toàn cảnh (planner chậm) kết hợp với cảm biến gia tốc và GPS của xe (executor nhanh) để dự đoán va chạm và đề xuất phanh gấp với độ trễ cực thấp.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.09811
ArXiv Abstracthttps://arxiv.org/abs/2606.09811
PDF Downloadhttps://arxiv.org/pdf/2606.09811.pdf
Github RepositoryN/A

18. Whisper Hallucination Detection and Mitigation via Hidden Representation Steering and Sparse AutoEncoders (15 votes)​

Tác giả: Georgii Aparin, Vadim Popov, Tasnima Sadekova, Assel Yermekova

Xuất bản lúc: 2026-06-05

Tag: Automatic Speech Recognition, Whisper, Hallucination, Sparse AutoEncoder, Activation Steering, Representation Learning, Fine-tuning-free

I. Main Problem:​

Whisper, một mô hình ASR phổ biến, thường tạo ra các bản phiên âm mạch lạc nhưng hoàn toàn bịa đặt (hallucination) khi đầu vào là âm thanh không chứa giọng nói, như tiếng ồn hoặc nhạc. Cơ chế lọc nội bộ của Whisper không đủ mạnh để phát hiện các hallucination này, dẫn đến nhu cầu cần có phương pháp phát hiện và giảm thiểu hiệu quả hơn mà không cần fine-tuning lại mô hình.

II. Main Idea:​

Bài báo đề xuất hai chiến lược steering không cần fine-tuning để giảm hallucination: steering trong không gian activation thô và steering trong không gian latent của Sparse AutoEncoder (SAE). Đầu tiên, các tác giả chứng minh rằng thông tin về hallucination có thể phân tách tuyến tính trong cả hai không gian biểu diễn, và tập trung ở một số lượng nhỏ các feature, đặc biệt ở các lớp encoder sâu hơn. SAE-based steering tác động trực tiếp lên các latent dimension quan trọng nhất, cho phép kiểm soát tinh vi hơn và đạt hiệu quả giảm hallucination vượt trội so với activation steering, tiến gần đến kết quả của các phương pháp fine-tuning.

III. Main Results:​

  • SAE steering giảm tỷ lệ hallucination (HR) trên tập non-speech đầy đủ từ 72.63% xuống 14.11% cho Whisper small và từ 86.88% xuống 27.33% cho Whisper large-v3.
  • Trên tập UrbanSound8K, SAE steering đạt HR 19.88% cho Whisper large-v3, tiệm cận phương pháp fine-tuning Calm-Whisper (15.51%).
  • Chỉ 10-25 latent dimension SAE là đủ để phân loại hallucination gần như tối ưu, cho thấy thông tin tập trung rất thưa.
  • Activation steering cải thiện nhẹ WER trên tiếng Anh cho Whisper small nhưng làm tăng CER trên tiếng Trung cho cả hai phương pháp.
  • Kết quả nhất quán trên nhiều tập dữ liệu non-speech và hai biến thể mô hình Whisper.

IV. Conclusion & Future Works:​

Nghiên cứu xác nhận rằng steering dựa trên SAE là phương pháp khả thi, không cần fine-tuning để giảm hallucination trong ASR. Hướng phát triển tương lai bao gồm huấn luyện SAE đa ngôn ngữ và các chiến lược steering đa lớp để cải thiện hiệu quả hơn nữa.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng SAE steering sang các mô hình ASR khác ngoài Whisper, ví dụ như Wav2Vec2 hoặc HuBERT, để kiểm tra tính tổng quát của phương pháp trong việc phát hiện và giảm hallucination trên các kiến trúc khác nhau.
  2. Nghiên cứu steering kết hợp cả encoder và decoder để xem liệu can thiệp đồng thời ở cả hai phía có mang lại hiệu quả giảm hallucination tốt hơn so với chỉ can thiệp một phía hay không.
  3. Phát triển một chiến lược steering động, tự động điều chỉnh cường độ và số lượng latent dimension dựa trên đặc điểm của từng đoạn âm thanh đầu vào, thay vì dùng tham số cố định.

2. Patent:​

  1. Ứng dụng trên điện thoại thông minh để lọc hallucination trong các ứng dụng ghi chú thoại hoặc trợ lý ảo: hệ thống sử dụng SAE steering để tự động phát hiện và loại bỏ các bản phiên âm bịa đặt khi người dùng ghi âm trong môi trường ồn ào, cải thiện độ chính xác của văn bản ghi lại.
  2. Thiết bị trợ thính thông minh: tích hợp SAE steering vào chip xử lý để giảm thiểu các phiên âm sai lệch do tiếng ồn nền, giúp người dùng khiếm thính nhận được nội dung hội thoại chính xác hơn mà không cần cập nhật phần mềm.
  3. Hệ thống kiểm duyệt nội dung video trực tiếp: sử dụng kỹ thuật steering để lọc các hallucination từ ASR, đảm bảo phụ đề tự động được tạo ra từ âm thanh nền (tiếng nhạc, tiếng ồn) không chứa nội dung sai lệch hoặc gây hiểu lầm cho người xem.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.07473
ArXiv Abstracthttps://arxiv.org/abs/2606.07473
PDF Downloadhttps://arxiv.org/pdf/2606.07473.pdf
Github RepositoryN/A

19. OmniCap-IF: Benchmarking and Improving Instruction Following Abilities for Omni-Video Captioning (14 votes)​

Tác giả: Jiahao Wang, An Ping, Yanghai Wang, Yuanxing Zhang, Shihao Li, et al.

Xuất bản lúc: 2026-06-07

Tag: Omni-Modal Large Language Models, Video Captioning, Instruction Following, Benchmark, Temporal Grounding, Format-Content Tradeoff

I. Main Problem:​

Các mô hình Omni-modal Large Language Models (OLLMs) có thể xử lý đồng thời video và âm thanh, nhưng khả năng tuân thủ các hướng dẫn phức tạp, đa chiều của người dùng vẫn chưa được đánh giá. Các chuẩn đánh giá hiện tại chỉ tập trung vào hiểu video tổng thể hoặc làm theo hướng dẫn trên văn bản, thiếu sự kết hợp giữa các phương thức và các ràng buộc người dùng.

II. Main Idea:​

Bài báo giới thiệu OmniCap-IF, chuẩn đánh giá đầu tiên về khả năng làm theo hướng dẫn trong omni-modal captioning, với 1,920 mẫu video và 50 loại ràng buộc khác nhau. OmniCap-IF đánh giá caption trên hai khía cạnh: format correctness (tính đúng đắn về định dạng) và content correctness (tính đúng đắn về nội dung), trong đó có Temporal Grounding để đo độ chính xác về thời gian. Nghiên cứu phát hiện ra “format-content tradeoff”: tăng độ phức tạp của định dạng làm giảm khả năng suy luận omni-modal của mô hình. Để cải thiện, nhóm tác giả xây dựng OmniCap-IF-54K (54K mẫu huấn luyện) và huấn luyện OmniCaptioner-IF, một mô hình mạnh mẽ hơn trong việc tuân thủ hướng dẫn phức tạp.

III. Main Results:​

  • OmniCap-IF gồm 1,920 mẫu, 50 loại ràng buộc, độ dài video trung bình 54.6 giây.
  • Mô hình hàng đầu (Gemini-3.1-Pro) chỉ đạt CSR 80.65% và ISR 25.82%.
  • OmniCaptioner-IF-7B cải thiện đáng kể so với Qwen2.5-Omni-7B: CSR từ 49.19% lên 70.73%.
  • Phát hiện “format-content tradeoff”: định dạng cứng (JSON) làm giảm Content CSR tới ~15% so với văn bản tự do.
  • Trên chuẩn Omni-Cloze, OmniCaptioner-IF-7B tăng độ chính xác từ 12.9% lên 25.17%.

IV. Conclusion & Future Works:​

OmniCap-IF cung cấp chuẩn đánh giá toàn diện và phát hiện tradeoff giữa định dạng và nội dung. OmniCaptioner-IF chứng tỏ fine-tuning mục tiêu có thể cải thiện cả khả năng làm theo hướng dẫn lẫn hiểu omni-modal. Hướng tương lai có thể mở rộng thêm loại ràng buộc và cải thiện khả năng tích hợp âm thanh-hình ảnh.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng OmniCap-IF với các ràng buộc về cảm xúc và ngữ cảnh tương tác, như giọng nói tức giận hoặc bối cảnh nguy hiểm, để đánh giá sâu hơn khả năng omni-modal.
  2. Nghiên cứu cơ chế giảm thiểu format-content tradeoff, chẳng hạn như huấn luyện mô hình với các định dạng phức tạp dần hoặc sử dụng kỹ thuật multi-task learning để cân bằng giữa chúng.
  3. Áp dụng khung đánh giá của OmniCap-IF cho các tác vụ omni-modal khác như tóm tắt video hoặc trả lời câu hỏi đa phương thức, để kiểm tra tính khái quát.

2. Patent:​

  1. Hệ thống tạo phụ đề tự động cho người khiếm thính trên điện thoại: người dùng nói rõ định dạng (ví dụ: bảng, danh sách) và nội dung cần mô tả (hành động, âm thanh). Mô hình OmniCaptioner-IF tự động tạo caption đáp ứng cả yêu cầu, giúp người dùng dễ dàng nắm bắt thông tin.
  2. Ứng dụng hướng dẫn nấu ăn trên điện thoại: người dùng quay video món ăn, yêu cầu mô tả chi tiết từng bước (kèm âm thanh, thời gian). OmniCaptioner-IF tạo ra bảng hướng dẫn có mốc thời gian chính xác, giúp người mới có thể làm theo dễ dàng.
  3. Công cụ biên tập video trên điện thoại cho người dùng cá nhân: khi chỉnh sửa, người dùng đưa ra các ràng buộc như 'mô tả chuyển cảnh' hoặc 'xác định thời điểm âm thanh đỉnh'. Mô hình phân tích và trả về kết quả dưới dạng cấu trúc (JSON) để ứng dụng tự động thực hiện các hiệu ứng tương ứng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.08572
ArXiv Abstracthttps://arxiv.org/abs/2606.08572
PDF Downloadhttps://arxiv.org/pdf/2606.08572.pdf
Github Repositoryhttps://github.com/NJU-LINK/omnicap-if

20. Bayesian-Agent: Posterior-Guided Skill Evolution for LLM Agent Harnesses (14 votes)​

Tác giả: Xiaojun Wu, Cehao Yang, Honghao Liu, Xueyuan Lin, Wenjie Zhang, et al.

Xuất bản lúc: 2026-06-06

Tag: LLM Agents, Bayesian Inference, Skill Evolution, Prompt Engineering, Self-Evolving Agents, Harness Optimization, SOP

I. Main Problem:​

Các LLM agent hiện tại dựa vào nhiều tài nguyên ngoại vi (prompt, tool, SOP, skill) nhưng thường cập nhật chúng bằng heuristic reflection hoặc đếm tần suất thành công/thất bại một cách thiếu tin cậy. Trong môi trường dữ liệu thưa thớt và phụ thuộc ngữ cảnh, cách tiếp cận này dễ dẫn đến sửa lỗi nhiễu hoặc bỏ sót các lỗi có thể tái sử dụng.

II. Main Idea:​

Bayesian-Agent coi mỗi skill hoặc SOP như một giả thuyết về khả năng thành công của mô hình trong một ngữ cảnh cụ thể. Hệ thống ghi lại các trajectory đã được xác minh, duy trì posterior phân loại có điều kiện đặc trưng cho mỗi skill, và ánh xạ trạng thái posterior thành các hành động có thể kiểm tra như patch, split, compress, retire và explore. Prompt nhận được các guardrail có thể thực thi và bản vá lỗi, trong khi posterior audit vẫn có sẵn để gỡ lỗi.

III. Main Results:​

  • Với deepseek-v4-flash, incremental repair cải thiện SOP-Bench từ 80% lên 95%, Lifelong AgentBench từ 90% lên 100%, và RealFin-Bench từ 45% lên 65%.
  • Backend ablation trên 4 harness (native, GenericAgent, mini-swe-agent, Claude Code) cho thấy hiệu quả tương tự, chứng minh tính di động của Bayesian-Agent.
  • Trên một số thiết lập bão hòa, full Bayesian không tốt hơn baseline (ví dụ: Lifelong AgentBench với flash giảm từ 90% xuống 85%).
  • Phiên bản incremental repair chỉ tốn thêm hàng nghìn token nhưng cải thiện đáng kể độ chính xác.
  • Các skill evolution artifact ghi lại rõ ràng hành động patch, split, compress, retire và lý do, giúp kiểm tra quá trình tiến hóa.

IV. Conclusion & Future Works:​

Bayesian-Agent chứng minh rằng tiến hóa skill của agent nên được định hướng bằng evidence có kiểm chứng và rõ ràng về độ bất định. Hướng tương lai: thay thế chính sách bảo thủ hiện tại bằng các chính sách Bayesian phong phú hơn, mở rộng qua nhiều adapter hơn, và nghiên cứu cách chia sẻ skill beliefs giữa các mô hình và triển khai khác nhau.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng posterior-guided skill evolution cho các tác vụ đa ngôn ngữ, nơi lỗi phụ thuộc vào ngữ cảnh ngôn ngữ có thể được vá tự động mà không cần fine-tuning mô hình riêng.
  2. Kết hợp Bayesian-Agent với active learning để agent tự chọn các tác vụ kiểm tra thông tin nhất nhằm giảm độ bất định về skill beliefs một cách hiệu quả.
  3. Nghiên cứu khả năng chia sẻ skill beliefs giữa nhiều agent khác nhau, tạo ra một thư viện skill dùng chung được cập nhật dựa trên bằng chứng từ nhiều nguồn.

2. Patent:​

  1. Hệ thống tự động sửa lỗi cho chatbot hỗ trợ kỹ thuật: khi chatbot gặp lỗi nhiều lần, hệ thống phân tích posterior và tự động tạo bản vá prompt, giúp chatbot trả lời chính xác hơn mà không cần lập trình viên can thiệp.
  2. Trợ lý ảo trên điện thoại có khả năng tự học các quy trình (SOP) mới: khi người dùng thực hiện một tác vụ lặp lại, trợ lý ghi nhận các bước thành công và thất bại để tự động sinh ra SOP tối ưu cho lần sau.
  3. Nền tảng tự động tối ưu prompt cho các ứng dụng AI trên thiết bị di động: dựa trên phản hồi từ người dùng, hệ thống duy trì posterior của mỗi prompt và tự động split/compress khi cần, giữ cho prompt luôn hiệu quả và tiết kiệm token.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.08348
ArXiv Abstracthttps://arxiv.org/abs/2606.08348
PDF Downloadhttps://arxiv.org/pdf/2606.08348.pdf
Github Repositoryhttps://github.com/DataArcTech/Bayesian-Agent

21. DEI: Diversity in Evolutionary Inference for Quality-Diversity Search (14 votes)​

Tác giả: John Donaghy, Shikhar Rastogi

Xuất bản lúc: 2026-05-26

Tag: Quality-Diversity, Large Language Models, Evolutionary Algorithms, Heterogeneous Ensembles, MAP-Elites, Distributed Search, Co-evolution

I. Main Problem:​

Các thuật toán tiến hóa sử dụng một LLM duy nhất làm toán tử đột biến bị giới hạn bởi thiên kiến quy nạp của mô hình đó, tạo ra các vùng trống trong không gian tìm kiếm. Việc song song hóa đồng nhất chỉ tăng thêm tính toán, chứ không tăng tính đa dạng hành vi. Do đó, cần một khung tìm kiếm Quality-Diversity phân tán có thể khai thác sự khác biệt về thiên kiến giữa nhiều LLM khác nhau.

II. Main Idea:​

DEI mở rộng khung Digital Red Queen thành một hệ thống gồm nhiều nút, mỗi nút sử dụng một LLM khác nhau làm toán tử đột biến. Các nút giao tiếp bất đồng bộ để chia sẻ champion của mỗi vòng, tạo áp lực chọn lọc chéo giữa các mô hình. Thiết kế này cho phép mỗi LLM khai thác vùng không gian hành vi riêng, đồng thời nhận hạt giống từ các vùng mà nó hiếm khi tự sinh ra. Cơ chế hoàn toàn không đồng bộ tránh thắt cổ chai do độ trễ khác nhau giữa các mô hình.

III. Main Results:​

  • Bốn nút đa dạng (GPT-5.4-mini, Claude Sonnet 4.6, GPT-5.2, Claude Haiku 4.5) đạt QD-Score cao hơn 124% (45.90 so với 20.46) so với một nút đơn ở cùng ngân sách gọi LLM.
  • Độ phủ archive tăng 28% (80.6% so với 63.0%) so với nút đơn.
  • Ensemble đa dạng vượt ensemble đồng nhất trên cả QD-Score, coverage và generality.
  • Niche novelty trung bình cao hơn hẳn ở ensemble đa dạng (0.42-0.48) so với đồng nhất (0.09-0.35).
  • Kết quả khẳng định đa dạng mô hình, chứ không chỉ song song hóa, là yếu tố tạo nên cải thiện.

IV. Conclusion & Future Works:​

DEI chứng minh rằng khai thác thiên kiến quy nạp khác nhau của nhiều LLM trong một hệ thống tìm kiếm phân tán sẽ đạt được archive chất lượng và đa dạng hơn đáng kể so với sử dụng một mô hình đơn lẻ. Hướng phát triển bao gồm: kết nối động các nút có archive bổ sung nhất, cho phép mỗi nút theo dõi trục hành vi riêng, và áp dụng cho các tác vụ đa tác nhân ngoài Core War.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng DEI cho bài toán thiết kế mạch điện tử: mỗi nút dùng LLM có nền tảng huấn luyện về mạch analog hoặc digital khác nhau để sinh thiết kế đa dạng, chia sẻ champion qua gossip bất đồng bộ.
  2. Nghiên cứu ảnh hưởng của số lượng và mức độ đa dạng mô hình: so sánh ensemble ít mô hình khác họ với nhiều mô hình cùng họ để tìm điểm lợi suất giảm dần
  3. Phát triển DEI cho tác vụ tối ưu siêu tham số mạng học sâu: mỗi LLM chuyên về một dạng kiến trúc (CNN, Transformer, MLP) và trao đổi champion để lấp đầy không gian siêu tham số.

2. Patent:​

  1. Hệ thống tìm kiếm cấu hình phần mềm cho smartphone: nhiều LLM khác nhau (nhanh/chậm, ưu tiên pin/hiệu năng) cùng khám phá tổ hợp cài đặt, chia sẻ các cấu hình tối ưu qua mạng ngang hàng để điện thoại nhanh chóng tìm được thiết lập phù hợp nhất.
  2. Công cụ sinh kịch bản kiểm thử bảo mật di động: mỗi nút dùng LLM có chuyên môn về một dạng tấn công khác nhau (SQL injection, buffer overflow, XSS) và trao đổi các mẫu thành công để tạo kho chứa test case đa dạng.
  3. Nền tảng tối ưu hóa thời gian thực cho ứng dụng trên nhiều thiết bị: điện thoại và máy tính bảng cùng tham gia tìm kiếm cấu hình ứng dụng, mỗi thiết bị mang LLM riêng và chia sẻ các giải pháp tốt nhất bất đồng bộ.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2605.27130
ArXiv Abstracthttps://arxiv.org/abs/2605.27130
PDF Downloadhttps://arxiv.org/pdf/2605.27130.pdf
Github Repositoryhttps://github.com/gensyn-ai/dei

22. Skill-RM: Unifying Heterogeneous Evaluation Criteria via Agent Skill (13 votes)​

Tác giả: Tao Chen, Gangwei Jiang, Pengyu Cheng, Siyuan Huang, Yihao Liu, et al.

Xuất bản lúc: 2026-06-02

Tag: Reward Model, LLM Post-training, Agent Skill, Reinforcement Learning, RLHF, LLM-as-a-Judge, Reasoning, Evaluation

I. Main Problem:​

Các mô hình reward hiện tại phụ thuộc vào nhiều tiêu chí đánh giá không đồng nhất như rule-based verifier, ground-truth reference, checklist và rubric, nhưng thiếu cơ chế hợp nhất để tích hợp tất cả các loại bằng chứng. Việc nén thông tin đánh giá đa dạng vào điểm số vô hình hoặc prompt phẳng khiến quá trình đánh giá thiếu minh bạch, kém linh hoạt và khó thích ứng với từng đầu vào cụ thể.

II. Main Idea:​

Skill-RM đề xuất đóng khung lại việc tính toán reward như một quy trình thực thi kỹ năng (skill) có cấu trúc, thay vì là một tác vụ chấm điểm đơn điệu. Framework này định nghĩa kỹ năng Reward-Evaluation bao gồm một bản đặc tả thủ tục (SKILL.md) và một ngân hàng tài nguyên chứa rubric, reference, checklist, verifier, cùng quy tắc tổng hợp. Khi đánh giá, một agentic judge mô hình LLM tuần tự kích hoạt các tiêu chí, truy xuất và thực thi tài nguyên theo nhu cầu, ghi lại bằng chứng từng tiêu chí, rồi tổng hợp thành quyết định reward cuối cùng qua hàm đọc xác định.

III. Main Results:​

  • Skill-RM (Qwen3.5-27B) đạt trung bình 86.2 trên RewardBench2, RM-Bench, JudgeBench, vượt baseline LLM-as-a-Judge 83.9.
  • Khi được gắn thêm tài nguyên mẫu cụ thể (sample-specific), Skill-RM đạt 89.1, cải thiện +5.2 điểm so với baseline.
  • Ablation cho thấy lợi ích đến từ cơ chế skill-mediated (85.0, 91.5, 82.1) chứ không chỉ đơn thuần thêm tài nguyên (81.0) hay công cụ Python (83.6).
  • Best-of-N selection: Skill-RM đạt 97.8 trên GSM8K, cải thiện rõ nhất trên IFEval và HumanEval+.
  • Instruction-following RL: Skill-Rm đạt 45.9 trung bình trên IFEval, IFBench, AdvancedIF, cao hơn VerIF (44.7) và Tulu 3 (45.1).

IV. Conclusion & Future Works:​

Skill-RM chứng minh rằng việc đối xử đánh giá reward như một quy trình có cấu trúc, tái sử dụng và kiểm tra được là hướng đi mở rộng để đạt được sự tin cậy, minh bạch và chính xác cao hơn trong alignment của LLM. Hướng phát triển tương lai gồm mở rộng kho tài nguyên, tối ưu chiến lược truy xuất và áp dụng cho nhiều tác vụ downstream hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng Skill-RM sang đánh giá đa-agent: mỗi agent thực thi skill đánh giá riêng trên luồng hội thoại, sau đó tổng hợp chéo để đưa ra reward phối hợp.
  2. Tích hợp cơ chế active learning để agent tự xác định tiêu chí đánh giá mới dựa trên phân bố lỗi gặp phải, cập nhật động skill và ngân hàng tài nguyên.
  3. Nghiên cứu phương pháp nén skill thành biểu diễn liên tục để có thể huấn luyện mô hình reward nhẹ dự đoán luồng đánh giá mà không cần chạy từng bước LLM.

2. Patent:​

  1. Hệ thống chấm điểm bài tập tự động trên điện thoại: người dùng chụp ảnh bài làm; hệ thống dùng Skill-RM gọi rubric, tham chiếu đáp án và công cụ kiểm tra cú pháp để đưa ra điểm số kèm giải thích từng lỗi mà không cần mạng.
  2. Trợ lý ảo đánh giá độ an toàn của tin nhắn trên mạng xã hội: Skill-RM kiểm tra từ khóa vi phạm, tham chiếu chính sách, và chạy verifier phân tích ngữ cảnh để quyết định gắn cờ hay cho phép đăng.
  3. Công cụ so sánh phản hồi chatbot tự động trên thiết bị di động: người dùng copy hai câu trả lời từ các chatbot khác nhau; Skill-RM gọi rubric ưu tiên độ chính xác và định dạng, chạy verifier kiểm tra thực tế, và trả lời mô hình nào tốt hơn cùng dẫn chứng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.03980
ArXiv Abstracthttps://arxiv.org/abs/2606.03980
PDF Downloadhttps://arxiv.org/pdf/2606.03980.pdf
Github Repositoryhttps://github.com/Qwen-Applications/Skill-RM

23. SlimSearcher: Training Efficiency-Aware Web Agents via Adaptive Reward Gating (12 votes)​

Tác giả: Zequn Xie, Junjie Wang, Dan Yang, Jie Feng, Yue Shen, et al.

Xuất bản lúc: 2026-06-05

Tag: Web Agents, Efficiency, Supervised Fine-Tuning, Reinforcement Learning, Reward Shaping, Pareto Optimization

I. Main Problem:​

Các web agent hiện tại thường sử dụng chiến lược brute-force, lạm dụng công cụ ngoài và sinh ra chuỗi suy luận dài dòng, dẫn đến chi phí tính toán và token cao. Nguyên nhân là do các phương pháp huấn luyện chỉ tập trung vào độ chính xác, không có cơ chế loại bỏ các hành vi kém hiệu quả.

II. Main Idea:​

SlimSearcher là một khung huấn luyện hai giai đoạn (SFT và RL) giúp tối ưu đồng thời độ chính xác và chi phí. Ở giai đoạn SFT, nó dùng Pareto-Efficient Filtration để chỉ chọn những quỹ đạo vừa đúng vừa ngắn gọn. Ở giai đoạn RL, nó dùng Adaptive Reward Gating, một cơ chế thưởng động so sánh hiệu quả của các quỹ đạo trong cùng một batch, kết hợp với một cổng chính xác (correctness gate) để tránh reward hacking và brevity bias.

III. Main Results:​

  • Trên các benchmark GAIA, BrowseComp, XBench-DeepSearch, SlimSearcher giảm số lượt gọi công cụ 17%–58% mà vẫn duy trì hoặc cải thiện độ chính xác.
  • Trên GAIA với backbone Tongyi-DeepResearch, lượt gọi công cụ giảm 48.4%, token giảm 33.4%, độ chính xác tăng từ 0.682 lên 0.709.
  • Phương pháp Prompt Control (hướng dẫn thủ công) không cải thiện hiệu quả nhất quán và thường làm giảm độ chính xác.
  • Loại bỏ cổng chính xác trong RL dẫn đến độ chính xác giảm thảm hại (0.136 trên GAIA) do reward hacking.
  • Loại bỏ Adaptive Efficiency Anchoring làm tăng số lượt gọi công cụ và token mà không cải thiện, thậm chí làm giảm độ chính xác.

IV. Conclusion & Future Works:​

SlimSearcher chứng minh rằng có thể đạt được Pareto improvement giữa độ chính xác và hiệu quả tính toán trong web agent. Hướng tương lai bao gồm mở rộng ra miền đa phương thức, cải thiện RL cho các tên miền cực kỳ chuyên biệt, và sử dụng trọng số công cụ chi tiết hơn để phản ánh chi phí thực tế.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng Adaptive Reward Gating cho các tác vụ đa phương thức (hình ảnh+văn bản) để phát hiện và loại bỏ dư thừa trong cả hai modality.
  2. Nghiên cứu chiến lược khởi tạo SFT cho các lĩnh vực chuyên sâu, nơi mô hình cơ sở không thể tìm ra Minimal Necessary Path, bằng cách kết hợp knowledge graph.
  3. Phát triển phương pháp trọng số công cụ phụ thuộc vào ngữ cảnh và độ trễ, thay vì trọng số đồng nhất, để tối ưu chi phí trong triển khai thực tế.

2. Patent:​

  1. Hệ thống trên điện thoại tự động tối ưu hóa các bước tìm kiếm web: khi người dùng hỏi, hệ thống dùng mô hình nhẹ để quyết định có cần gọi API tìm kiếm hay tự trả lời từ kiến thức nội bộ, giúp tiết kiệm pin và dữ liệu.
  2. Ứng dụng mua sắm trực tuyến trên điện thoại thông minh, nơi agent tự động rút ngắn các bước duyệt sản phẩm bằng cách học từ lịch sử tương tác của người dùng, chỉ gọi API khi thực sự cần thiết.
  3. Hệ thống trợ lý ảo trên thiết bị di động cho các tác vụ phức tạp (ví dụ: đặt vé máy bay), có cơ chế thưởng động để khuyến khích agent đưa ra kết quả chính xác với số bước tương tác tối thiểu, tránh các vòng lặp xác minh vô ích.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.07074
ArXiv Abstracthttps://arxiv.org/abs/2606.07074
PDF Downloadhttps://arxiv.org/pdf/2606.07074.pdf
Github Repositoryhttps://github.com/AQ-MedAI/AntAFu-DeepResearch

24. Light-WAM: Efficient World Action Models with State-Fusion Action Decoding (11 votes)​

Tác giả: Ziang Li, Dongzhou Cheng, Yibin Wang, Shiyue Wang, Xiaoyang Xu, et al.

Xuất bản lúc: 2026-06-06

Tag: World Action Models, Robot Manipulation, Video Prediction, Efficient AI, State Fusion, LoRA, VLM

I. Main Problem:​

Các World Action Models (WAM) hiện tại kết hợp dự đoán video tương lai và sinh hành động trong cùng một kiến trúc generative lớn, dẫn đến chi phí huấn luyện cao, bộ nhớ GPU lớn và độ trễ suy luận đáng kể, khiến chúng khó triển khai như các policy robot vòng kín hiệu quả.

II. Main Idea:​

Light-WAM đề xuất một World Action Model nhẹ, giữ video backbone (Wan2.1-T2V-1.3B) đông lạnh và chỉ thích ứng với các module nhẹ (LoRA, WAM adapter thưa). Để giảm chi phí video supervision, nó áp dụng mất mát dự đoán video trong không gian latent được downsampling. Điểm mấu chốt là StateFusionActionExpert: module này đọc các trạng thái đã thích ứng từ nhiều lớp backbone, nén token video dày đặc bằng learned-query pooling, hợp nhất chúng và dự đoán trực tiếp action chunks chỉ trong một lượt forward, không cần generative action expert hay sinh video ở inference.

III. Main Results:​

  • Đạt 97.2% success rate trung bình trên LIBERO (hạng 1 trong các phương pháp không có embodied pretraining), sử dụng chỉ 0.44B tham số huấn luyện.
  • Trên RoboTwin 2.0 (50 tác vụ), đạt 76.4% success rate, cạnh tranh với các baseline lớn hơn nhiều.
  • Giảm tham số huấn luyện từ 6.02B (Fast-WAM) xuống 0.44B, cải thiện throughput 4.25x.
  • Độ trễ suy luận chỉ 72.03ms với đỉnh bộ nhớ GPU 4.1GiB, nhanh hơn đáng kể so với các WAM khác.

IV. Conclusion & Future Works:​

Light-WAM chứng minh rằng có thể xây dựng WAM hiệu quả bằng cách giữ video supervision ở latent đã downsample và dùng bộ giải mã hành động trực tiếp không sinh video ở inference. Hạn chế: trong các tác vụ đa nhiệm phức tạp hơn, model lớn hơn vẫn vượt trội. Hướng tới sẽ tích hợp augmentation dữ liệu và huấn luyện tăng cường độ robust để cải thiện khả năng tổng quát.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu ảnh hưởng của độ phân giải video supervision lên chất lượng biểu diễn của WAM nhẹ, mở rộng ablation trên nhiều độ phân giải và kiến trúc backbone khác.
  2. Kết hợp StateFusionActionExpert với các cơ chế attention thích ứng theo tác vụ, cho phép model tự động chọn layer backbone phù hợp nhất cho từng hành vi robot.
  3. Áp dụng tư tưởng Light-WAM cho các nền tảng robot di động (xe tự hành, drone), nơi tài nguyên tính toán bị hạn chế nhưng cần dự đoán tương tác với môi trường.

2. Patent:​

  1. Hệ thống điều khiển robot gia đình trên điện thoại: điện thoại nhận luồng video từ camera robot, gửi lên server chạy Light-WAM, server trả về hành động dự đoán với độ trễ dưới 100ms, cho phép điều khiển thời gian thực trên thiết bị di động.
  2. Module tự động tối ưu năng lượng cho robot nhà máy: Light-WAM chạy local trên robot, dự đoán chuyển động tiếp theo dựa trên quan sát hiện tại mà không cần sinh video, giúp giảm tải tính toán và tiết kiệm pin so với các WAM generative.
  3. Ứng dụng trên điện thoại thông minh cho robot phẫu thuật từ xa: bác sĩ điều khiển tay robot qua mạng, Light-WAM trên điện thoại nhận video từ camera nội soi, dự đoán hành động tiếp theo của robot để giảm độ trễ và hỗ trợ quyết định.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.08242
ArXiv Abstracthttps://arxiv.org/abs/2606.08242
PDF Downloadhttps://arxiv.org/pdf/2606.08242.pdf
Github Repositoryhttps://github.com/L1ziang/Light-WAM

25. Text-to-Image Models Need Less from Text Encoders Than You Think (11 votes)​

Tác giả: Nurit Spingarn, Noa Cohen, Tamar Rott Shaham, Tomer Michaeli

Xuất bản lúc: 2026-06-02

Tag: Text-to-Image, Diffusion Transformers, Text Encoders, Bag-of-Words, Position Embeddings, Compositionality

I. Main Problem:​

Các mô hình text-to-image (TTI) ngày càng dùng text encoder lớn và phức tạp với giả định rằng biểu diễn văn bản giàu ngữ cảnh sẽ cải thiện chất lượng sinh ảnh. Tuy nhiên, chưa rõ liệu mô hình sinh ảnh có thực sự khai thác toàn bộ thông tin ngữ cảnh từ các encoder này hay không. Câu hỏi đặt ra là: khía cạnh nào của biểu diễn văn bản là thiết yếu cho sinh ảnh?

II. Main Idea:​

Bài báo đề xuất ba loại embedding không ngữ cảnh (contextless): Bag-of-Tokens (BoT), Bag-of-Words (BoW) và Bag-of-Position-Tagged-Words (BoPTW) – chỉ giữ lại nghĩa từng từ và thứ tự từ, loại bỏ hoàn toàn thông tin ngữ cảnh. Các embedding này được tạo bằng cách lấy trung bình embedding của một token/word trên nhiều câu ngẫu nhiên, có hoặc không giữ vị trí tuyệt đối. Bằng cách dùng các embedding không ngữ cảnh này thay thế trực tiếp cho embedding đầy đủ, các tác giả đo lường mức độ suy giảm chất lượng ảnh trên các mô hình DiT như SD 3, FLUX.1 và FLUX.2.

III. Main Results:​

  • BoPTW đạt tỷ lệ không thua kém (non-inferiority rate) từ 65% trở lên so với embedding đầy đủ trên hầu hết benchmarks và mô hình, trong khi tỷ lệ này của embedding đầy đủ chỉ khoảng 70-90%.
  • BoT (chỉ giữ token riêng lẻ) đã đạt non-inferiority trên 40% nhiều trường hợp, chứng tỏ mô hình đôi khi chỉ cần nghĩa từng token.
  • BoW cải thiện đáng kể so với BoT, nhất là với các từ đa token (ví dụ "cube" gồm "cu" và "be").
  • Các hạng mục phức tạp như "Text" (chữ trong ảnh) vẫn là thách thức với BoPTW.
  • Mô hình U-Net cũ (SDXL, SD 2.1) thất bại hoàn toàn với BoPTW (non-inferiority ~0-4%), khác với DiT mới.

IV. Conclusion & Future Works:​

Kết quả cho thấy các mô hình DiT chủ yếu dùng nghĩa từng từ và thứ tự từ, không cần ngữ cảnh phức tạp. Điều này mở ra hướng phát triển text-to-image với các bộ mã hóa văn bản đơn giản và tập trung vào khả năng diễn giải ngôn ngữ của chính mô hình sinh ảnh. Mở rộng biểu diễn này cho các cụm từ đa từ (multi-word idioms) có thể cải thiện thêm kết quả.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Khảo sát liệu thông tin về vị trí tương đối giữa các từ (thay vì vị trí tuyệt đối) có thể thay thế BoPTW để mô hình hiểu cấu trúc câu tốt hơn hay không.
  2. Xây dựng kiến trúc text encoder nhẹ chỉ xuất ra embedding dạng BoPTW, được huấn luyện đồng thời với mô hình DiT để giảm kích thước và tăng tốc suy luận.
  3. Nghiên cứu khả năng của mô hình DiT trong việc tự học các quan hệ ngữ nghĩa phức tạp (như quan hệ không gian, đếm số) từ đầu vào dạng từ đơn lẻ, nhằm thiết kế pipeline huấn luyện không cần text encoder lớn.

2. Patent:​

  1. Phương pháp sinh ảnh trên điện thoại thông minh chỉ dùng từ khóa và thứ tự từ, không cần mô hình ngôn ngữ lớn, giúp tiết kiệm tài nguyên và tăng tốc độ xử lý.
  2. Hệ thống tìm kiếm ảnh theo mô tả tiếng Việt: người dùng gõ câu đơn giản, hệ thống chuyển thành dãy từ khóa kèm vị trí và sinh ảnh minh họa nhanh mà không cần hiểu ngữ pháp phức tạp.
  3. Ứng dụng chỉnh sửa ảnh theo lệnh: gạt bỏ ngữ cảnh không cần thiết, chỉ dùng từ khóa mô tả đối tượng và vị trí tương đối để cập nhật vùng ảnh tương ứng, giúp tương tác nhanh và trực quan.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.03715
ArXiv Abstracthttps://arxiv.org/abs/2606.03715
PDF Downloadhttps://arxiv.org/pdf/2606.03715.pdf
Github RepositoryN/A

26. Why Muon Outperforms Adam: A Curvature Perspective (10 votes)​

Tác giả: Shuche Wang, Fengzhuo Zhang, Jiaxiang Li, Dirk Bergemann, Zhuoran Yang

Xuất bản lúc: 2026-06-03

Tag: Muon, Adam, Optimization, LLM Training, Curvature, Normalized Directional Sharpness, Hessian

I. Main Problem:​

Muon optimizer giúp huấn luyện LLM nhanh gấp đôi so với Adam nhưng cơ chế hình học địa phương của lợi thế này vẫn chưa rõ. Cần giải thích vì sao Muon giảm loss một bước lớn hơn Adam dựa trên cấu trúc bề mặt tối ưu.

II. Main Idea:​

Bài báo phân tích giảm loss một bước bằng khai triển Taylor bậc hai: Muon và Adam có mức tăng bậc nhất tương đương nhưng Muon chịu phạt độ cong bậc hai nhỏ hơn nhiều. Phạt độ cong được phân rã thành chuẩn cập nhật và Normalized Directional Sharpness (NDS) – chỉ số độ nhọn theo hướng chuẩn hóa. Kết quả: chuẩn cập nhật hai optimizer tương tự, nên Muon thắng nhờ NDS thấp hơn, tức hướng cập nhật ít cong hơn. Dùng Zipf-PCFG cho thấy mất cân bằng dữ liệu làm rộng gap NDS. Phân rã trong/vượt lớp cho thấy Muon duy trì NDS thấp nhờ độ cong nội lớp nhỏ hơn ở giai đoạn giữa và cuối. Lý thuyết trên quadratic mẫu chứng minh Muon có NDS trung bình thấp hơn GD nhờ cân bằng năng lượng cập nhật giữa các nhóm độ cong.

III. Main Results:​

  • Muon giảm loss một bước lớn hơn Adam khi so sánh ở cùng validation loss; gap chủ yếu từ phạt độ cong nhỏ hơn, không phải từ mức tăng bậc nhất.
  • Chuẩn cập nhật của Muon và Adam tương đương, nhưng NDS của Muon thấp hơn đáng kể (tỉ lệ trung bình Adam/Muon là 1.76).
  • Khi dữ liệu mất cân bằng (Zipf exponent s từ 0 lên 1), NDS của Adam tăng mạnh (1.63→2.38) trong khi Muon tăng nhẹ (1.00→1.25), gap mở rộng 1.8 lần.
  • Trong huấn luyện, tỉ lệ đóng góp nội lớp trong NDS của Muon tăng từ 14% lên 44%, trong khi Adam dao động quanh 30%; cả thành phần nội và vượt lớp đều thấp hơn cho Muon.
  • Trên mô hình quadratic, Muon đạt NDS trung bình nhỏ hơn GD khi độ cong không đồng nhất và gradient căn chỉnh với hướng cong cao.

IV. Conclusion & Future Works:​

Nghiên cứu xác định cơ chế then chốt: Muon giảm loss lớn hơn nhờ hướng cập nhật chuẩn hóa phổ có NDS thấp, làm giảm chi phí độ cong bậc hai. Hướng tương lai: khám phá ảnh hưởng của hiệu ứng bậc cao và ứng dụng phân rã NDS vào thiết kế optimizer mới.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển optimizer mới kết hợp chuẩn hóa phổ như Muon với cơ chế hiệu chỉnh NDS thích ứng theo từng lớp, nhằm giảm thêm phạt độ cong mà không tăng chi phí tính toán.
  2. Nghiên cứu ảnh hưởng của cấu trúc mô hình (ví dụ: số lớp, kích thước head) đến lợi thế NDS của Muon, từ đó tối ưu hóa kiến trúc cho từng loại optimizer.
  3. Mở rộng phân tích độ cong cho các optimizer matrix-aware khác (ví dụ: Shampoo, K-FAC) để xác định xem lợi thế NDS có phải đặc điểm chung của các phương pháp cập nhật có cấu trúc hay không.

2. Patent:​

  1. Phương pháp tối ưu hóa mạng nơ-ron trên thiết bị di động cho tác vụ xử lý ảnh/video: dùng optimizer dạng Muon với chuẩn hóa phổ gradient momentum để giảm độ nhọn theo hướng, từ đó đạt hội tụ nhanh hơn mà không cần tăng kích thước batch, tiết kiệm pin và tài nguyên tính toán.
  2. Ứng dụng trong huấn luyện mô hình ngôn ngữ nhúng trên điện thoại: kết hợp optimizer matrix-aware với kỹ thuật nén tham số (ví dụ: low-rank) để giảm độ cong nội lớp, giúp mô hình hội tụ ổn định hơn khi dữ liệu huấn luyện bị mất cân bằng (ví dụ: từ hiếm).
  3. Hệ thống cá nhân hóa trên điện thoại thông minh: dùng optimizer có ý thức về độ cong để điều chỉnh trọng số mô hình dựa trên dữ liệu người dùng phân bố lệch, cải thiện tốc độ học các đặc trưng hiếm mà không làm quên các đặc trưng phổ biến.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.04662
ArXiv Abstracthttps://arxiv.org/abs/2606.04662
PDF Downloadhttps://arxiv.org/pdf/2606.04662.pdf
Github RepositoryN/A