🤗 Daily Hugging Face Paper Digest - 2026-08-12
Báo cáo được tạo tự động vào lúc 2026-08-13 14:39:11 bằng mô hình hermes-agent.
📰 Summary of Papers
1. ComBodied Agents: a New Paradigm of Human-Centric Agentic AI (176 votes)
Tác giả: Qianggang Ding, Xingyao Wang, Rui Feng, Zhibin Wang, Feixiang Wang, et al.
Xuất bản lúc: 2026-08-11
Tag: Agentic AI, Human-Centered AI, Personal World Models, Longitudinal Memory, Multimodal Perception, Edge AI, Human Digital Twin, Co-agency
I. Main Problem:
Agentic AI hiện tại chia hai nhánh thống trị nhưng đều thiếu một mắt xích cấu trúc:
- Digital Agents: tổ chức quanh biến đổi trạng thái phần mềm (giao diện, API, workflow).
- Embodied Agents: tổ chức quanh biến đổi trạng thái vật lý (robot, xe tự lái, thao tác).
Cả hai không lấy trạng thái và quyền tự chủ của con người đang tiến hóa làm đối tượng chính để mô hình hóa, can thiệp và đánh giá. Ví dụ: người già bỏ liều thuốc — agent phần mềm chỉ nhắc lại, agent vật lý chỉ mang thuốc tới, nhưng không giải thích được tại sao (quên, bối rối, tác dụng phụ, hay cố tình từ chối) và không xác định được hỗ trợ nào phù hợp.
Hệ lụy rộng hơn:
- Hiệu suất tác vụ và sự phát triển con người có thể phân kỳ: AI sửa văn bản hay hơn nhưng tác giả hiểu ít đi; đẩy nhanh quyết định nhưng làm yếu khả năng phán đoán.
- Người dùng giảm nỗ lực nhận thức, phụ thuộc quá mức vào mô hình.
- Tập trung trí tuệ vào ít tổ chức làm tập trung quyền định nghĩa mục tiêu và giá trị của người dùng.
Ba giới hạn lặp lại trên 12 loại agent khảo sát: tối ưu kết quả tác vụ ngoài thay vì quỹ đạo con người; mô hình hóa người phân mảnh/nông; tiêu chí an toàn/đánh giá hiếm khi đo mất quyền tự chủ.
II. Main Idea:
ComBodied Agents (ghép "Companion" + "Body") là paradigm lấy con người làm trung tâm: nhận thức, mô hình hóa, dự đoán và hỗ trợ quỹ đạo trạng thái cá nhân theo thời gian. Công cụ phần mềm, cảm biến, thiết bị đeo, robot, dịch vụ con người chỉ là kênh hành động, không phải mục tiêu cuối.
Khung kỹ thuật vòng kín gồm 4 thành phần chức năng:
- Event-based multimodal perception: tái cấu trúc bằng chứng về các sự kiện cá nhân có ý nghĩa từ dữ liệu nhiễu, gián đoạn, không đều.
- Longitudinal & correctable memory: cung cấp ngữ cảnh thời gian (sự kiện, mục tiêu, quan hệ, can thiệp, kết quả, hiệu chỉnh).
- Personal World Models (PWMs): chuyển bằng chứng sự kiện dọc thời gian thành phân bố hiệu chỉnh về trạng thái tương lai, sự kiện quan sát được, kết quả dưới các quyết định/can thiệp thay thế.
- Admissible intervention policy: chọn hỗ trợ tương xứng dưới ràng buộc đồng thuận, bất định, an toàn, có thể đảo ngược, quyền kiểm soát của người dùng.
Phản hồi từ người và môi trường cập nhật lại nhận thức, bộ nhớ, dự đoán, can thiệp. Không đòi hỏi Human Digital Twin toàn diện — chỉ dùng biểu diễn giới hạn mục đích, nhận thức bất định, người dùng có thể hiệu chỉnh.
Năm đặc tính cốt lõi: Human-centric state modeling, Longitudinality, Intervention, Co-agency, Agency preservation.
Ví dụ đời thường: giống người thân chăm ông bà già — thay vì chỉ cài chuông báo (digital) hay trực tiếp đưa thuốc (embodied), họ quan sát nhiều tuần, nhận ra mẫu (hay bỏ liều sau khi có khách lạ, thay đổi tâm trạng), lặng lẽ hiểu chuyện gì đang xảy ra, chủ động đoán khi nào cần giúp, và can thiệp vừa đủ — lúc chỉ nhắc nhẹ, lúc gọi bác sĩ — trong khi luôn để người già giữ quyền quyết định.
III. Main Results:
Đây là preprint định hướng paradigm (bài quan điểm/khung khái niệm), chưa có kết quả thực nghiệm đo lường. Bốn đóng góp mang tính nền tảng:
- Định nghĩa hình thức và chính thức hóa ComBodied Agents (Định nghĩa 1, năm đặc tính).
- Phát triển khung vòng kín kèm công thức toán học: trạng thái tiềm ẩn H_t, quan sát O_t, bộ nhớ M_t, PWM, chính sách can thiệp Π_t, và hàm chuyển trạng thái con người phụ thuộc cả hành động agent, hành động người dùng và ảnh hưởng ngoại sinh.
- Tổng hợp không gian thiết kế qua kiến trúc triển khai, đánh giá lấy con người làm trung tâm, và phân loại tích hợp (chế độ quan hệ, vai trò agent, mục tiêu trạng thái, ứng dụng).
- Khảo sát rủi ro, yêu cầu quản trị, thách thức mở và trường lân cận.
Bảng 1 so sánh 12 loại agent hiện có để chỉ ra khoảng trống cần lấp bằng Combodied Agents thay vì gộp thêm tính năng.
IV. Conclusion & Future Works:
Hướng đi cốt lõi: chuyển Agentic AI từ hoàn thành tác vụ ngoài sang lợi ích con người bền vững — cải thiện sức khỏe, học tập, phán đoán, năng lực, quan hệ, mục tiêu — không lấy engagement, sự phụ thuộc, hay tự động hóa tối đa làm thước đo thành công.
Các hướng tương lai được nêu:
- Chuyển dịch sang edge-native personal models: trí tuệ cá nhân chạy trên thiết bị, bộ nhớ/PWM do người dùng sở hữu, chỉ dùng cloud có chọn lọc.
- Đánh giá lấy kịch bản làm trung tâm, metric bảo toàn quyền tự chủ (agency-preservation), yêu cầu benchmark, và định hướng quản trị.
- Giải quyết căng thẳng giám sát–tự chủ, đồng thuận, ranh giới trách nhiệm trong chăm sóc.
- Trường lân cận: Human Digital Twins, Human-Centered Agents, edge privacy.
V. Brainstorming Space:
1. Publish Papers:
- Event-based multimodal perception cho dữ liệu cá nhân phân mảnh: phương pháp phân đoạn sự kiện và lượng hóa bất định từ cảm biến gián đoạn, không đều.
- Personal World Models dự đoán đáp ứng can thiệp cá nhân: học phân bố trạng thái–sự kiện–kết quả dưới các hành động agent và người dùng thay thế.
- Agency-preservation metrics và benchmark kịch bản cho Combodied Agents: đo tăng trưởng năng lực và bảo toàn quyền tự chủ thay vì chỉ hoàn thành tác vụ.
- Kiến trúc edge-native personal intelligence: bộ nhớ và PWM trên thiết bị với chính sách cục bộ và dùng cloud có chọn lọc.
- Relationship-safety architecture cho companion agents: phát hiện phụ thuộc và leo thang an toàn trong giao tiếp xã hội.
2. Patent:
- Điện thoại tự điều chỉnh thông báo theo trạng thái người dùng: dùng cảm biến trên máy (chuyển động, giọng nói, thói quen) để phát hiện mệt/stress, tự giảm số thông báo hoặc gợi ý nghỉ thay vì ồn ào mặc định.
- Hệ thống nhắc thuốc cá nhân hóa trên thiết bị đeo và điện thoại: học mẫu bỏ liều riêng từng người (sau khách, thay đổi tâm trạng) để tự đổi cách nhắc — lúc chỉ rung nhẹ, lúc báo người thân — và luôn cho phép tắt.
- Trợ lý học tập trên app đo lường tăng trưởng năng lực: thay vì chỉ chấm điểm, theo dõi độ tự lập phán đoán theo thời gian và dần trả kiến thức về người dùng thay vì làm thay.
- Module trí tuệ cá nhân chạy trên thiết bị (edge): lưu bộ nhớ đời sống người dùng tại máy, dự đoán tâm trạng/rủi ro cục bộ, chỉ gửi lên cloud khi cần leo thang, bảo vệ riêng tư.
- Cơ chế can thiệp có thể đảo ngược và do người dùng hiệu chỉnh cho app chăm sóc: người dùng đặt quy tắc không nhớ, sửa sai bộ nhớ, và thu hồi can thiệp bất cứ lúc nào.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.10915 |
| ArXiv Abstract | https://arxiv.org/abs/2608.10915 |
| PDF Download | https://arxiv.org/pdf/2608.10915.pdf |
| Github Repository | N/A |
2. Beyond Pixels: From Video Priors to 4D Worlds (122 votes)
Tác giả: Zihao Liu, Xiaolong Shen, Zhenglin Zhou, Ruijie Quan, Yi Yang
Xuất bản lúc: 2026-08-11
Tag: 4D Generation, Video Diffusion, VAE Latent, DiT, Spatiotemporal Attention, Feed-Forward Reconstruction
I. Main Problem:
Sinh 4D (cảnh động 3D có hình học và chuyển động theo thời gian) từ text hoặc ảnh hiện gặp nghịch lý truyền先验 (prior) video sang 4D:
- Generate-then-reconstruct: sinh video RGB rồi đưa vào mô hình tái tạo riêng → lệch phân bố (distribution mismatch) và truyền lỗi (artifact sinh ra ở RGB lan sang hình học không ổn định).
- Integrated feed-forward: dự đoán hình học trực tiếp nhưng bị trói vào một generator cụ thể; đổi mô hình video là phải huấn luyện lại geometric supervision.
- Dữ liệu 4D giám sát khan hiếm so với video quy mô lớn → cần một giao diện tái dùng, bỏ qua RGB, phục vụ nhiều generator tương thích.
II. Main Idea:
Latent-to-4D coi latent VAE cuối cùng đã khử nhiễu của mô hình video (trước bước giải mã RGB) là giao diện tái dùng nối thẳng sang bộ giải mã 4D, không qua ảnh RGB. Cơ chế:
- Các DiT chia sẻ cùng một VAE → sinh ra latent trong không gian biểu diễn chung (cùng chuẩn hóa, layout, nén).
- Mạng L4AR (Latent-to-4D Alignment and Refinement):
- Alignment: resampling 3D + tích chập 3D học được để khớp lưới token video vào lưới token của bộ giải mã 4D.
- Refinement: luân phiên frame-wise attention (củng cố cấu trúc từng khung) và global spatiotemporal attention (truyền thông tin quan sát, chuyển động qua toàn chuỗi).
- 4D Decoder: từ pretrained reconstructor, dự đoán camera và point map động theo world coordinate.
- Huấn luyện chỉ tối ưu Alignment + LoRA nhẹ + heads; đóng băng video DiT, VAE, trọng số gốc. Một checkpoint chạy nguyên trạng trên nhiều DiT cùng VAE.
Ví dụ đời thường: giống thợ cơ khí giỏi không tháo máy ra xem bản vẽ ảnh (RGB) mà đọc trực tiếp các chỉ số đồng hồ trên bảng điều khiển chung của nhiều dòng máy (latent VAE) để đoán cấu trúc bên trong, nhờ một bộ đọc đồng hồ duy nhất dùng được cho mọi máy cùng hãng.
III. Main Results:
- Trên Text4D-200: vượt cascade Wan+4RC cùng latent về DINO-F1 +2.88–3.45 điểm; một checkpoint cho kết quả gần giống trên cả Wan2.1-14B và 1.3B.
- Trên I4D-200: đứng đầu mọi metric, DINO-F1 +5.81 điểm so với Wan2.2-I2V+4RC; vượt cả 4DNeX native.
- Human eval (50 người, 50 ca/task): Ours được chọn ưu tiên cho geometry/completeness (66.8–72.1%), temporal stability (63.5–68.3%), overall (65.7–70.6%) — mọi khoảng tin cậy vượt 50%.
- Ablation: bỏ 3D-conv hoặc một loại attention làm sụt mạnh trên 7-Scenes/NRGBD (Acc/Comp tăng gấp đôi).
- DiT-residual diagnostic: tại nhiễu ρ=0.6, point-map drift của Ours chỉ 0.0053 vs 0.3827 của baseline → mạnh hơn trước nhiễu dư.
IV. Conclusion & Future Works:
Direct latent-to-4D biến latent VAE thành giao diện tái dùng nối video prior với bộ giải mã 4D, huấn luyện ~1K clip, một checkpoint chạy trên 3 DiT text/image cùng VAE. Bằng chứng giới hạn trong cùng quy ước VAE và DINO projection không đo metric chính xác của cảnh sinh. Hướng tương lai: mở rộng sang các VAE khác; xác thực metric hình học; khai thác sâu hơn các control upstream (pose, trajectory, manipulation).
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng giao diện latent chung sang nhiều họ VAE khác nhau (không chỉ Wan VAE) để một pathway 4D phục vụ đa dạng generator từ các lab khác nhau mà không huấn luyện lại.
- Kết hợp latent-to-4D với camera control thời gian suy luận để người dùng chỉnh góc quay tự do trên cảnh 4D sinh ra từ text/image.
- Nghiên cứu đánh giá metric 4D chuẩn xác cho cảnh sinh (không chỉ DINO proxy) nhằm đo lường sai số hình học thực tế của direct latent lifting.
2. Patent:
- Ứng dụng trên điện thoại: từ một bức ảnh chụp cảnh, app sinh cảnh 4D xem được từ mọi góc bằng cách dùng latent của mô hình video trên thiết bị làm đầu vào trực tiếp cho bộ giải mã 4D, bỏ qua bước render RGB trung gian → nhẹ và ít lỗi hơn.
- Công cụ VR/AR tạo nhanh nhân vật động: nhập câu lệnh text, hệ thống dùng một checkpoint duy nhất sinh hình học động 3D tương thích với nhiều engine video, giúp studio nhỏ làm nội dung immersive không cần huấn luyện riêng từng mô hình.
- Robot quan sát: camera ghi video rồi chuyển latent thẳng sang point map động để robot ước lượng cảnh và chuyển động xung quanh theo thời gian thực, hữu ích cho dẫn đường và tránh va chạm mà không cần giải mã ảnh trung gian.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.10744 |
| ArXiv Abstract | https://arxiv.org/abs/2608.10744 |
| PDF Download | https://arxiv.org/pdf/2608.10744.pdf |
| Github Repository | https://github.com/hayd-zju/Beyond-Pixels |
3. Co-Evolution in Agentic Systems: Toward Self-Directed Evolution Beyond Human Design (122 votes)
Tác giả: Qing Zong, Jiayu Liu, Junhao Shen, Zecong Tang, Linsi Wu, et al.
Xuất bản lúc: 2026-08-10
Tag: Agentic Systems, Co-Evolution, Self-Evolution, LLM Agents, Multi-Agent, Open-Endedness, Meta-Learning
I. Main Problem:
Các hệ thống agentic ngày càng cần tự cải thiện sau khi triển khai, nhưng dạng tự tiến hóa đơn thực thể (single-entity self-evolution) bị kẹt vì bối cảnh học tĩnh: nhiệm vụ cố định, phản hồi cố định.
- Tiến bộ chạm plateau (đỉnh bằng) vì chỉ một phía thích nghi, bên còn lại đứng yên — giống hiệu ứng Red Queen.
- Không có khảo sát nào lấy đồng tiến hóa (co-evolution) làm trục phân loại trung tâm; các survey cũ chỉ coi nó là chủ đề phụ.
II. Main Idea:
Bài khảo sát đề xuất đồng tiến hóa đa thành phần — nhiều agent và môi trường gây áp lực thích nghi lên nhau — qua phân loại 3 giai đoạn tiến lũa theo độ mở rộng 'tự do tiến hóa' (bớt dần ràng buộc do con người thiết kế):
- Giai đoạn 1 — Agent–Agent Co-Evolution: các agent thích nghi lẫn nhau trong môi trường cố định (đối kháng, hợp tác, tái cấu trúc tổ chức).
- Giai đoạn 2 — Agent–Environment Co-Evolution: môi trường cũng đổi theo — nhiệm vụ, phản hồi, không gian tương tác thay đổi cùng agent.
- Giai đoạn 3 — Meta Co-Evolution: chính cơ chế tiến hóa Ω cũng trở nên tiến hóa được (sửa what/when/how/where/evaluate), mở đường tới open-endedness (không hội tụ về điểm tắt).
Quy trình cốt lõi: trạng thái hệ thống chuyển qua cơ chế Ω, trong đó ít nhất hai đơn vị tiến hóa cùng thay đổi và tái định hình áp lực tiến hóa của nhau chứ không chỉ trao đổi thông tin.
Ví dụ đời thường: giống hai sinh viên học nhóm cùng ôn thi — mỗi khi một đứa tìm ra cách giải khó hơn, đứa kia buộc phải học cách mới để không thua, rồi cả hai lại đổi đề thi khó hơn; khác với một đứa tự học một mình với bộ đề cũ mãi chẳng tiến bộ thêm.
III. Main Results:
- Giai đoạn 1 & 2 cải thiện hiệu suất trong hầu hết thiết lập (theo bằng chứng chéo ở Figure 4), nhưng mức tăng giảm dần khi tiến gần plateau.
- Chỉ có số rất ít công trình hiện thỏa định nghĩa Giai đoạn 3 (Meta Co-Evolution); phần lớn mới dừng ở precursor đơn thực thể (PromptBreeder, Gödel Agent, MemEvolve).
- RQGM là ví dụ hiếm hoi: đồng tiến hóa agent–evaluator, meta-agent dùng phản hồi chung để điều hướng các vòng tiến hóa sau.
- Chưa có số liệu benchmark tổng hợp vì bài là survey, không chạy thực nghiệm mới.
IV. Conclusion & Future Works:
Tiến bộ tương lai nằm ở agent tự cải thiện qua đồng tiến hóa chứ không phải agent tĩnh mạnh hơn. Ba hướng mở:
- Đánh giá động: đo xem mọi thành phần có cùng tiến bộ, có khái quát sang đối tác/môi trường lạ, và tránh evaluator exploitation / partner overfitting / diversity collapse.
- Mở rộng quy mô: đưa agent + harness + môi trường cùng đổi, giữ áp lực đồng tiến hóa ổn định không bị một thành phần áp đảo.
- An toàn & quản trị: sandbox, giám sát liên tục, rollback, điểm can thiệp con người để quá trình tự chủ vẫn kiểm soát được.
V. Brainstorming Space:
1. Publish Papers:
- Xây dựng benchmark đánh giá đồng tiến hóa đo cả tiến bộ chéo (cross-play lịch sử) và ablation từng thành phần thay vì chỉ đo độ thành công nhiệm vụ cuối.
- Hiện thực hóa Giai đoạn 3 đầy đủ: hệ thống tự sửa cơ chế tiến hóa Ω dựa trên trajectory chung của hệ sinh thái cấp thấp đồng tiến hóa.
- Giao thức quản trị cho meta co-evolution: rollback về trạng thái đã xác minh và chấm dứt có thể kích hoạt khi hệ tự đổi luật phần thưởng.
- Mở rộng vòng lặp agent–environment sang môi trường thực (robotics, computer-use) thay vì chỉ sandbox/mô phỏng.
2. Patent:
- Trợ lý khách hàng tự huấn luyện trên điện thoại: app sinh ra các hồ sơ người dùng giả ngày càng khó tính (SEAD-style) để agent dịch vụ tự cải thiện, không cần con người viết kịch bản.
- Bộ luyện mô hình AI an toàn tại thiết bị: một agent tấn công sinh prompt jailbreak, agent phòng thủ học chặn — cả hai tự đẩy nhau lên, tích hợp vào app chat để tự kiểm tra bảo mật offline.
- Robot gia đình tự tạo bài tập: sau mỗi lần thất bại thao tác, robot tự sinh nhiệm vụ luyện lại từ lỗi đó và tự chỉnh reward function, giúp nâng cấp kỹ năng không cần kỹ sư cấu hình.
- Trình biên tập ảnh/viết văn trên mobile dùng vòng produce-and-revise: một module đề xuất, một module phản biện, hai bên đồng tiến hóa để gợi ý ngày càng sát ý người dùng.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.10299 |
| ArXiv Abstract | https://arxiv.org/abs/2608.10299 |
| PDF Download | https://arxiv.org/pdf/2608.10299.pdf |
| Github Repository | https://github.com/zongqing0068/awesome-co-evolution |
4. Articulated Object Reconstruction from Rest-State Observation (42 votes)
Tác giả: Daeun Lee, Jaeah Lee, Woosung Kim, Haebeom Jung, Jaesik Park
Xuất bản lúc: 2026-07-30
Tag: Articulated Object Reconstruction, Digital Twin, Vision-Language Model, Video Diffusion, Mesh Segmentation, 3D Reconstruction
I. Main Problem:
Các phương pháp tái tạo đối tượng khớp động (đồ nội thất có cửa/ngăn kéo) hiện tại đều đòi hỏi quan sát được chuyển động qua nhiều trạng thái mở — tức phải thấy vật đang mở hoặc đang di chuyển. Thực tế vật thường chỉ được chụp ở trạng thái đóng (ảnh sản phẩm online, dataset ScanNet/Replica), nên không có manh mối chuyển động nào.
Bài toán rest-state (chỉ từ ảnh vật đóng) là bài toán ngược thiếu điều kiện (ill-posed):
- không có tín hiệu chuyển động để biết bộ phận nào di chuyển, di chuyển kiểu gì
- bề mặt đồng màu, hình hộp, biên tiếp giáp khiến phân đoạn bộ phận cực khó
- các mô hình pretrained (VLM, segmentation, video diffusion) khi dùng riêng lẻ đều nhiễu và mâu thuẫn nhau: VLM bỏ sót bộ phận, SAM bỏ sót ở một số góc nhìn, video diffusion bịa ra bộ phận không tồn tại.
II. Main Idea:
Rest2Art tái tạo đồ vật khớp động (lưới hình học từng bộ phận + tham số khớp) chỉ từ một trạng thái đóng, không cần thấy chuyển động, không cần biết trước số bộ phận. Ba ý tưởng cốt lõi:
- Lưới mesh làm đại diện trung gian để xác minh và gộp kết quả từ nhiều mô hình: vì mesh mã hóa tính liên kết bề mặt nên gắn được nhãn 3D nhất quán, xử lý được che khuất.
- Vòng lặp đồng tinh chỉnh (co-refinement) giữa VLM (đề xuất cây phân cấp bộ phận) và SAM3 (mặt nạ phân đoạn từng góc nhìn). Mâu thuẫn giữa hai mô hình là tín hiệu để sửa lẫn nhau: VLM thiếu bộ phận thì vẽ mặt nạ màu rực lên ảnh đưa lại cho VLM; rồi nâng bằng chứng 2D lên mesh qua tích lũy có trọng số tin cậy và lan truyền nhãn trên đồ thị lân cận.
- Dùng video diffusion làm nguồn giả thuyết chuyển động: vì không có thật, sinh video vật mở (Wan2.2 + VBVR LoRA), bám điểm 2D (CoTracker3), fit mô hình khớp cứng (revolute/prismatic) bằng min reprojection error, rồi dùng mesh phạt các trục gây xuyên thấu để chọn đúng hướng. Cuối cùng hoàn thiện mỗi bộ phận thành khối đặc phục vụ mô phỏng vật lý.
Ví dụ đời thường: giống thợ mộc nhìn tủ đóng chưa từng thấy, không mở được, bèn vừa đoán cấu trúc (VLM) vừa soi từng góc (SAM), hai thông tin cãi nhau chỗ nào thì soi kỹ lại chỗ đó để chốt đúng ngăn; rồi tưởng tượng thử cánh cửa đung đưa thế nào (video sinh) để ước lượng bản lề, nhưng vẫn lấy thước kẻ khung gỗ thật mà loại bỏ mấy cái mở bị đụng vào tủ.
III. Main Results:
- Phân đoạn bộ phận trên ACD-HSSD vượt PartField, Find3D, SAMesh; tách được cả tay nắm bị thiếu trong ground-truth.
- Ước lượng khớp cạnh tranh với cả baseline quan sát chuyển động (2 trạng thái), baseline sinh (single-image) và baseline ghép mô hình pretrained.
- Hoạt động trên nhiều nguồn đầu vào: tái tạo đa góc nhìn (2DGS), sinh 3D từ 1 ảnh, và mesh scan có sẵn — nhờ thiết kế không phụ thuộc nguồn mesh.
- Sinh 2 video với seed khác nhau rồi gộp bằng chứng làm ước lượng khớp ổn định hơn.
IV. Conclusion & Future Works:
Rest2Art chứng minh có thể khôi phục cả hình học lẫn cấu trúc động học từ một trạng thái đóng bằng cách để các mô hình nền tảng kiểm chứng chéo qua mesh thay vì ghép nối tuần tự, và dùng video diffusion làm giả thuyết chuyển động rồi thắt chặt bằng hình học mesh. Hướng tương lai: mở rộng sang cơ chế khớp phức tạp hơn, cải thiện sinh video vật lý chính xác hơn, và áp dụng cho vật thể chung (không chỉ nội thất) hoặc quét thực tế (MultiScan).
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng đồng tinh chỉnh VLM–segmentation sang phân đoạn ngữ nghĩa 3D zero-shot cho vật thể kín nói chung, không chỉ đồ khớp động.
- Dùng mô hình video diffusion làm nguồn giả thuyết chuyển động được thắt chặt hình học cho các bài toán ước lượng pose/động học không có quan sát thật.
- Hoàn thiện lưới thành khối đặc có hình học bên trong tham số hóa cho drawer/ngăn kéo từ đầu vào rest-state, phục vụ xuất URDF và mô phỏng vật lý.
2. Patent:
- Ứng dụng điện thoại: chụp một bức ảnh tủ/cửa đóng bất kỳ, app tự phân tích cấu trúc (cánh cửa, ngăn kéo, bản lề) và ước lượng cách mở, giúp người mua nội thất xem trước cơ chế vận hành hoặc giúp thợ sửa chữa biết ngay cánh cửa mở lật hay trượt trước khi tháo.
- Camera thông minh trong nhà: chỉ từ ảnh phòng ở trạng thái tĩnh, hệ thống tự nhận diện đồ vật khớp động và mô phỏng chuyển động mở để làm bản đồ tương tác, hỗ trợ robot dọn dẹp tránh đụng vào ngăn kéo đang mở.
- Thiết kế nội thất AR: người dùng quét nhanh một món đồ đóng bằng điện thoại, app tạo bản sao số có thể 'mở ra' ảo để kiểm tra dung tích ngăn bên trong và cơ cấu bản lề trước khi sản xuất.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2607.27749 |
| ArXiv Abstract | https://arxiv.org/abs/2607.27749 |
| PDF Download | https://arxiv.org/pdf/2607.27749.pdf |
| Github Repository | N/A |
5. Mendel Gödel Machine: Recursive Self-Improving Coding Agents via Comparative Evolution (24 votes)
Tác giả: Changzhi Liu, Yilun Liu, Sikuan Yan, Volker Tresp, Yunpu Ma
Xuất bản lúc: 2026-08-07
Tag: Self-Improving Agents, LLM Coding Agents, Evolutionary Algorithms, Gödel Machine, Agent Scaffolding, SWE-bench, Polyglot, Monte Carlo Simulation
I. Main Problem:
Các agent mã hóa tự cải thiện hiện tại lặp lại việc viết lại mã nguồn của chính mình, nhưng mỗi bước tự sửa đổi chỉ dựa vào một quỹ đạo thất bại duy nhất trên một tác vụ. Kho lưu trữ (archive) ghi lại mọi biến thể agent từng sinh ra cùng kết quả thử nghiệm trên mọi tác vụ bị bỏ phí — nó chỉ được dùng làm bảng xếp hạng để chọn agent chứ không phải làm bằng chứng chẩn đoán.
Hậu quả:
- bỏ lỡ tín hiệu so sánh giàu có giữa các tác vụ và giữa các dòng agent khác nhau
- không phân biệt được lỗi do khiếm khuyết gen thực sự (lặp lại) hay do tai nạn ngẫu nhiên trên một tác vụ cụ thể
- tự sửa đổi kém định hướng, tốn nhiều bước dò mò thừa.
II. Main Idea:
Mendel Gödel Machine (MGM) mượn nguyên lý di truyền Mendel (kiểm soát tính thừa kế qua so sánh có đối chứng) để cấu trúc lại bước tự sửa đổi thành 3 toán tử, tất cả đều dùng quỹ đạo đã tích lũy sẵn nên không tốn thêm lượt chạy tác vụ:
- Clonal mutation (đột biến dòng thuần): sửa agent từ 1 quỹ đạo thất bại đơn lẻ — giống baseline cũ.
- Reaction-norm mutation (đột biến hình thái phản ứng): cho agent xem quỹ đạo của chính nó trên nhiều tác vụ khác nhau, tìm mẫu lỗi lặp lại để sửa khiếm khuyết nền tảng.
- Cross-lineage hybridization (lai ghép khác dòng): cho agent thất bại trên một tác vụ xem quỹ đạo của agent khác dòng trên cùng tác vụ đó (người kia thành công làm đối chứng), rút ra đặc điểm hành vi có thể chuyển giao rồi tự áp dụng vào mã của mình — không cắt ghép file nguồn.
MGM còn duy trì hồ bỏ phí (failed-task pool) để ưu tiên chấm điểm các tác vụ từng bộc lộ lỗi, tăng giá trị chẩn đoán mỗi lần thử và tạo sự chồng lấp giữa các dòng để dễ so sánh.
Dưới mô hình additive fitness landscape (genotype là vector nhị phân, tiến bộ = giảm khoảng cách Hamming tới oracle), lý thuyết chứng minh và mô phỏng Monte Carlo xác nhận: so sánh làm thu hẹp tập ứng viên lỗi, giảm bất định chẩn đoán nên xác suất sửa đúng cao hơn đơn quỹ đạo.
Ví dụ đời thường: giống một trưởng nhóm không chỉ đọc một phiếu phạt của nhân viên, mà gom báo cáo của cùng người đó qua nhiều dự án để biết anh ta yếu thật sự ở kỹ năng nào, rồi còn đem so với đồng nghiệp khác làm cùng việc thành công để học cách sửa — từ đó huấn luyện đúng chỗ thay vì đoán mò.
III. Main Results:
- Polyglot: Qwen3.6-35B-A3B được MGM nâng từ 50.8% → 93.3%, vượt GPT-5 (96.9% khi chuyển scaffold sang DeepSeek-V4-Pro) với ~117× ít tham số hơn.
- SWE-bench Verified: 68.3% → 78.3% (HGM baseline chỉ tới 73.3%), cùng ngân sách 200 lượt chạy.
- Hiệu quả: chi phí token mỗi bước tương đương HGM, tức cải thiện không đến từ tăng chi tiêu.
- Khái quát hóa chéo benchmark: scaffold tiến hóa trên Polyglot chuyển sang SWE-bench Pro (+10.0 điểm) và Multilingual (+13.3 điểm) — HGM thì suy giảm或 tăng nhẹ.
- Khái quát hóa chéo mô hình: scaffold MGM chuyển sang DeepSeek-V4-Flash/Pro vẫn giữ lợi thế +5.0 điểm so với HGM.
- Ablation: bỏ ΦRM (79.7%) hoặc ΦCH (74.6%) đều làm giảm mạnh so với đầy đủ (93.2%), ΦCH quan trọng nhất.
IV. Conclusion & Future Works:
MGM chứng minh rằng điều kiện hóa bằng bằng chứng so sánh (giữa tác vụ và giữa dòng) giúp mỗi bước tự sửa đổi định hướng tốt hơn mà không tốn thêm lượt chạy, phát hiện được các cải thiện mức workflow có thể tái dùng thay vì vá lỗi hẹp. Hướng tương lai: phát triển scaffold trên tập nhỏ và backbone rẻ rồi tái dùng cho mô hình mạnh hơn — con đường tự cải thiện agent có khả năng mở rộng; mở rộng sang nhiều dạng benchmark và nghiên cứu sâu hơn cơ chế bảo toàn thông tin tiến hóa giữa các thế hệ.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng lai ghép khác dòng sang nhiều hơn 2 lineage trên cùng tác vụ để xây dựng quy luật tổng hợp đặc điểm hành vi tối ưu qua bình chọn đối chứng.
- Kết hợp trọng số Thompson-sampling với học tín hiệu giá trị chẩn đoán động, tự điều chỉnh λ_CM/λ_RM/λ_CH theo độ khó ban đầu và tỷ lệ sửa đúng quan sát được.
- Áp dụng khung MGM cho agent không phải mã hóa (lập kế hoạch, duyệt web) để kiểm chứng tính khái quát của đột biến hình thái phản ứng ngoài lập trình.
- Nghiên cứu lý thuyết về hàm fitness phi cộng tính và giới hạn hội tụ khi số locus sai ban đầu rất lớn.
2. Patent:
- Ứng dụng chạy trên điện thoại: trình trợ lý viết mã tích hợp sẵn cơ chế tự sửa — sau mỗi lần gợi ý code bị người dùng báo lỗi, máy gom các lỗi qua nhiều bài tập khác nhau để nhận diện điểm yếu cố hữu của mô hình trên thiết bị, rồi tự tinh chỉnh quy trình gợi ý mà không cần gửi dữ liệu lên đám mây.
- Tính năng 'học từ đồng nghiệp' cho IDE di động: khi một người dùng sửa thành công một đoạn code mà người kia thất bại, hệ thống so sánh hai lịch sử thao tác trên cùng bài toán để gợi ý cho bên thất bại cách tiếp cận đúng, giúp cả nhóm viết code tốt hơn.
- Bộ tự hiệu chuẩn workflow cho app sửa lỗi tự động: trước khi gửi bản vá, app tự chạy thử trên tập tác vụ đã từng lỗi để phát hiện mẫu hỏng lặp lại, tự ưu tiên kiểm tra những chỗ yếu đó thay vì quét ngẫu nhiên, tiết kiệm pin và thời gian trên điện thoại.
- Hệ thống đề xuất mã nguồn chia sẻ giữa các dự án: khi một module thất bại trên nhiều ngôn ngữ lập trình khác nhau, điện thoại tổng hợp các quỹ đạo thử nghiệm để đề xuất cấu trúc code chung tái dùng được, giảm số lần thử sai khi lập trình đa ngôn ngữ.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.07645 |
| ArXiv Abstract | https://arxiv.org/abs/2608.07645 |
| PDF Download | https://arxiv.org/pdf/2608.07645.pdf |
| Github Repository | https://github.com/RealLcz/MGM |
6. AdvFD: Boosting Visual Generation via Adversarial Fr'echet Distance Loss (23 votes)
Tác giả: Mingju Gao, Jingkai Zhou, Kun Gai, Changqian Yu, Hao Tang
Xuất bản lúc: 2026-08-11
Tag: Diffusion, Flow-Matching, Frëchet Distance, GAN, Image Generation, Post-Training, Distribution Matching
I. Main Problem:
Khi huấn luyện hậu kỳ (post-training) generator một bước bằng mục tiêu Frëchet distance tĩnh (FD-Loss), hiện tượng Frëchet hacking xuất hiện: chỉ số đang tối ưu (ví dụ FID trên Inception) tiếp tục giảm, nhưng chất lượng ảnh thật tế lại đi xuống và các chỉ số Frëchet tính bằng encoder khác (như CLIP) đứng yên hoặc tệ hơn.
Nguyên nhân cốt lõi:
- Mục tiêu chỉ soi xét sự khác biệt qua không gian đặc trưng cố định, đóng băng của encoder tiền huấn luyện.
- Mỗi encoder chỉ nắm bắt được một khía cạnh (ngữ nghĩa, cấu trúc, kết cấu); những lỗi nằm ngoài tầm nhìn của nó bị phạt rất yếu.
- Generator dần 'quen mặt' không gian đặc trưng đó, giảm được FD mục tiêu trong khi vẫn giữ lại nhiễu tần số cao mà mắt người (và encoder khác) thấy rõ.
II. Main Idea:
Adversarial Frëchet Distance (AdvFD) bổ sung cho tập encoder tĩnh một mạng biểu diễn có thể học (adversarial representation) chạy song song, tạo thành trò chơi min–max trong không gian đặc trưng:
- G-step (Generator): đóng băng cả encoder tĩnh và mạng biểu diễn, cập nhật generator để kéo phân phối ảnh sinh ra gần phân phối thật (giảm tổng FD tĩnh + FD thích ứng).
- D-step (Representation): đóng băng generator, cập nhật mạng biểu diễn để đẩy xa hai phân phối trong không gian đặc trưng của nó — tức là phơi bày những sai lệch còn sót lại mà encoder cố định bỏ qua.
- Hai bước luân phiên: mỗi khi generator tiến bộ, mạng biểu diễn lại 'tìm ra' góc nhìn mới để soi lỗi, cho tín hiệu huấn luyện liên tục tiến hóa thay vì đóng khung.
Ngăn bùng nổ tỷ lệ đặc trưng: tăng FD thô có thể gian lận chỉ bằng cách phóng to norm đặc trưng. AdvFD thêm real-feature whitening — chuẩn hóa均值 và hiệp phương sai của đặc trưng ảnh thật — khiến FD bất biến với phép co giãn toàn cục, triệt tiêu hướng tăng 'ăn gian' qua khuếch đại đặc trưng, giúp tối ưu min–max ổn định.
Ví dụ đời thường: giống giám khảo thi nấu ăn ban đầu chỉ chấm qua mùi (encoder tĩnh) nên thí sinh học cách tăng mùi nhân tạo để được điểm cao dù món dở. AdvFD thuê thêm một giám khảo phản biện cứ xem xong lại chỉ ra khuyết điểm mới (đạm, vị, trình bày) buộc thí sinh phải nấu ngon toàn diện; và món nào cũng bị cân lại gia vị về chuẩn để không ai 'lừa' bằng cách rắc thật nhiều muối cho đậm hơn.
III. Main Results:
- Chạy trên ImageNet 256×256, generator một bước JiT (B/L/H) và pMF (B/L/H), AdvFD vượt FD-Loss ở mọi quy mô.
- JiT-B: FID 1.00→0.79 (−21.0%), FD-r6 5.53→3.92 (−29.1%), FD-r3 held-out 8.45→6.03 (−28.6%).
- JiT-L: FD-r6 3.24→2.01 (−38.0%), FD-r3 5.46→3.20 (−41.4%).
- JiT-H: FD-r6 2.65→1.80 (−32.1%), FD-r3 4.44→2.93 (−34.0%); pMF-H cũng cải thiện tương tự.
- FD-r3 (tính bằng encoder không dùng khi huấn luyện) giảm nhất quán → chứng tỏ cải thiện khái quát hóa chứ không chỉ 'luyện' vào không gian tối ưu.
- Ablation: bỏ whitening làm sập chỉ số (FID 10.69, FD-r6 58.50); PatchGAN/DMD ngoài FD không cải thiện được FD-r3.
- Khởi tạo mạng biểu diện từ Inception tiền huấn luyện cho kết quả tốt nhất; SigLIP/MAE yếu hơn do phải học đặc trưng cơ bản trước.
IV. Conclusion & Future Works:
AdvFD xác định và khắc phục Frëchet hacking bằng cách chuyển từ không gian đặc trưng tĩnh sang biểu diễn đối kháng tự tiến hóa có whitening ổn định, cải thiện chất lượng thế hệ và khái quát hóa trên cả hai backbone JiT/pMF và mọi quy mô. Hướng tương lai: mở rộng sang sinh ảnh văn bản, video/giọng nói; khảo sát chiến lược khởi tạo và cấu trúc mạng biểu diễn đối kháng tối ưu; áp dụng tư tưởng whitening cho các mục tiêu phân phối khác.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng AdvFD sang sinh ảnh theo văn bản (text-to-image) và sinh video một bước, nơi không gian đặc trưng tĩnh dễ bỏ sót sai lệch ngữ nghĩa động.
- Kết hợp biểu diễn đối kháng với reward model trong post-training ưu tiên thẩm mỹ, chống over-optimization qua whitening cấu trúc.
- Nghiên cứu lịch trình luân phiên G-step/D-step tự thích ứng để giảm chi phí tính toán khi mở rộng quy mô mô hình.
2. Patent:
- Tính năng 'siêu phân giải & tăng chất lượng ảnh' trên điện thoại: sau khi chụp, mô hình một bước chạy post-training cục bộ với AdvFD để xóa nhiễu/nếp nhăn giả tạo mà không làm mất chi tiết thật, nhờ whitening ngăn khuếch đại nhiễu.
- Bộ lọc ảnh AI trong ứng dụng mạng xã hội: generator tạo ảnh khuôn mặt theo style, AdvFD đảm bảo ảnh đầu ra không bị 'hack' artifact tần số cao khi tối ưu chỉ số đẹp, giữ da thịt tự nhiên trên màn hình điện thoại.
- Camera điện thoại chụp đêm: mô hình sinh ảnh một bước dùng AdvFD với biểu diễn đối kháng để lộ và sửa sai lệch ánh sáng thực tế thay vì chỉ giảm chỉ số mù mờ, cho ảnh ban đêm sạch hơn.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.11205 |
| ArXiv Abstract | https://arxiv.org/abs/2608.11205 |
| PDF Download | https://arxiv.org/pdf/2608.11205.pdf |
| Github Repository | N/A |
7. Ex-Omni-2D: Expressive Omni-Modal Dialogue Models with Native Visual Presence (15 votes)
Tác giả: Haoyu Zhang, Zhipeng Li, Xiaoying Tang, Tianshu Yu, Yiwen Guo
Xuất bản lúc: 2026-08-11
Tag: Omni-Modal Dialogue, Talking Avatar, Speech Generation, Video Generation, Diffusion, Flow-Matching, Knowledge Distillation, Streaming Inference
I. Main Problem:
Các hệ thống hội thoại omni-modal hiện nay đã hiểu được nhiều loại đầu vào (nói, văn bản, hình ảnh) và sinh ra câu trả lời bằng giọng nói, nhưng phản hồi vẫn thiếu hình ảnh đi kèm — không có một nhân vật ảo đang nói chuyện. Các phương pháp cũ gặp ba lỗ hổng:
- Tách rời thị giác khỏi hội thoại: video thường được thúc đẩy bởi sóng âm đã hoàn thành hoặc prompt thủ công, nên không suy ra được ý định biểu cảm từ trạng thái câu chuyện hiện tại.
- Khó có dữ liệu ghép cặp đầy đủ: rất hiếm bộ dữ liệu query → văn bản → giọng nói → video cùng nhau, khiến việc huấn luyện chung trở nên bế tắc.
- Chậm với video diffusion toàn chuỗi: không thể chạy thời gian thực cho hội thoại tương tác.
II. Main Idea:
Ex-Omni-2D xây dựng khung hội thoại sinh ra phản hồi phối hợp gồm văn bản + giọng nói cá nhân hóa + video nhân vật ảo đồng bộ. Cơ chế cốt lõi có ba lớp:
- Visual Thought Plan (VTP): mô hình LLM (Qwen3-8B) trước tiên sinh một bản kế hoạch cấu trúc 5 trường (khung đầu, cảnh, cảm xúc, phong cách, chuyển động) — rồi mới sinh câu trả lời cho người dùng. VTP là 'ý định thị giác' nội bộ.
- Giao diện đơn vị giọng nói đa codebook (speech units): thay vì ánh xạ trực tiếp trạng thái LLM sang video, mô hình sinh 16 codebook âm học (12.5 Hz). Chuỗi đơn vị này là giao diện âm-thời gian chung: một mặt giải mã thành sóng âm, một mặt lặp lại thành đặc trưng điều kiện cho từng khung hình video (25 FPS).
- Hai bản Video Generator: một Teacher sinh toàn chuỗi (chất lượng cao) và một Streaming Student chắt lọc từ Teacher, dùng Prefix Streaming — mỗi cửa sổ 4 latent giữ lại 1 latent sạch của đoạn trước làm 'mỏ neo' để tránh biến dạng tích lũy ở các đoạn sau.
Thiết kế này cho phép mỗi đường dẫn (hội thoại, giọng nói, video) học từ dữ liệu dị biệt (ASR/TTS, hội thoại nói, clip video ảo) mà không cần dữ liệu ghép cặp hoàn chỉnh.
Ví dụ đời thường: giống một đạo diễn phim vẽ nhanh một tờ ghi chú cảnh diễn (VTP) rồi gõ nhịp một đoạn nhạc đệm (speech units); diễn viên và khung hình đều đọc chung tờ nhạc đó nên vừa nói vừa động tay chân khớp nhau, thay vì quay xong mới đắp tiếng vào sau.
III. Main Results:
- Đồng bộ A-V: Teacher đạt Sync-C 4.95, Dynamic Degree 72.00, SIM giọng nói 0.417 — vừa sinh hội thoại vừa sinh video.
- Streaming Student: 4 bước suy luận đạt E2E RTF 1.293 trên 4 GPU (400×720), FPS video 26.5; 8 bước nâng IQ/DD/Sync-C nhưng FPS giảm còn 15.6.
- Prefix Streaming thắng no-prefix: trên 200 mẫu CommonEval, giảm độ dốc suy giảm chủ thể từ 0.00783 xuống 0.00599/chunk, giảm lỗi chunk cuối 21.4% (0.1005 → 0.0790).
- Hội thoại đa lượt (OmniCharacter): Fluency 3.812, Coherency 4.100, Consistency 3.902 — cao nhất trong các hệ so sánh.
- Speech QA (VoiceBench): AlpacaEval 4.28, CommonEval 3.71, BBH 58.70 — đứng thứ hai sau Qwen2.5-Omni.
- Độ trễ: tiếng nói đầu tiên sau 2.308s, khung video đầu sau 3.142s.
IV. Conclusion & Future Works:
Ex-Omni-2D chứng minh rằng có thể gắn sự hiện diện thị giác vào hội thoại omni-modal thông qua hai giao diện tường minh (VTP ngữ nghĩa + speech units âm-thời gian), cho phép học từ dữ liệu dị biệt và triển khai dòng (streaming) nhờ chắt lọc Prefix Streaming. Hướng tương lai: cân bằng thích ứng giữa định hướng ngữ nghĩa (VTP) và bằng chứng âm học trên từng phản hồi; mở rộng sang video dài hơn và đa nhân vật.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng Prefix Streaming sang sinh video hội thoại đa nhân vật, nơi mỗi nhân vật ảo giữ mỏ neo latent riêng để tránh trôi danh tính khi nhiều người cùng nói.
- Cơ chế cân bằng động Text-CFG / Audio-CFG tự thích ứng theo từng phản hồi để cảm xúc từ VTP và khẩu hình từ giọng nói hòa hợp tự nhiên hơn.
- Áp dụng giao diện speech-unit chung cho huấn luyện liên hợp dữ liệu hội thoại nói và clip video thực tế mà không cần ghép cặp thủ công.
2. Patent:
- Trợ lý ảo trên điện thoại có gương mặt người dùng: khi gọi trợ lý, máy tự vẽ kế hoạch biểu cảm (VTP) từ nội dung tin nhắn và sinh giọng nói cá nhân hóa, rồi hiển thị khuôn mặt ảo đang nói khớp môi trên màn hình khóa — không cần thu hàng ngàn video ghép cặp của chủ máy.
- Tính năng 'thu âm giọng và chân dung một lần' cho ứng dụng nhắn tin video: người dùng cung cấp một ảnh và một đoạn nói mẫu, hệ thống tái tạo video người ảo đang đọc tin nhắn trả lời của AI theo thời gian thực, hữu dụng cho người khiếm thị hoặc gọi video tự động.
- Camera thông minh/gương thông minh trong nhà: trợ lý gia đình hiển thị nhân vật ảo mặt người thân đang 'nói' câu trả lời, đồng bộ khẩu hình với giọng tùy cá nhân hóa đã lưu, giúp tương tác ấm hơn mà không cần diễn viên lồng tiếng.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.10720 |
| ArXiv Abstract | https://arxiv.org/abs/2608.10720 |
| PDF Download | https://arxiv.org/pdf/2608.10720.pdf |
| Github Repository | https://github.com/LOGO-CUHKSZ/Ex-Omni-2D-Code |
8. VibeLifeBench: Can Your Life Agent Be Proactive and Persistent in a Living World? (15 votes)
Tác giả: Xiaohongshu Inc
Xuất bản lúc: 2026-08-11
Tag: LLM Agents, Benchmark, Long-Horizon, Proactivity, Living World, Tool-Use, Evaluation, Life Assistant
I. Main Problem:
Các bộ đánh giá agent hiện tại không khớp với việc trợ giúp đời sống thật:
- Chủ yếu dùng yêu cầu ngắn, tự đóng gói trong môi trường tĩnh.
- Đời sống thật thì dài hạn (hàng tuần), thế giới tự thay đổi khi không ai nhắc, và nhiều ràng buộc không bao giờ được nêu thẳng.
- Không có benchmark nào đo được ba tính chất cốt lõi: proactivity (tự chủ động hành động), thích ứng thế giới sống, và nhất quán dài hạn.
- Hậu quả: agent chỉ biết trả lời yêu cầu trước mắt sẽ thất bại khi làm việc đa tuần như lên kế hoạch du lịch gia đình, theo dõi tranh chấp thuê nhà, hay điều phối cải tạo nhà cửa.
II. Main Idea:
VibeLifeBench reframe đánh giá agent thành một thế giới có đồng hồ, không phải một prompt. Cơ chế cụ thể:
- 200 tác vụ trải đều 10 lĩnh vực đời sống (travel, finance, litigation, renovation, career, fitness, exam, rental, shopping, team building), mỗi task dài trung vị 29 ngày.
- Một thế giới mô phỏng gồm 22 dịch vụ giả (email, calendar, banking, flight…) hé lộ 288 giao diện tool, chạy trên đồng hồ ảo và tự tiến triển.
- Dòng thời gian gồm 7,453 sự kiện, trong đó 1,483 mutation câm (không báo, không mở lượt) — chỉ agent tự kiểm tra lại thế giới mới phát hiện kịp.
- Mỗi task cài sẵn ràng buộc ngầm và giới hạn an toàn (hạn hộ chiếu, ngân sách cứng, email lừa đảo) buộc agent tự nhận diện và tuân thủ.
- Chấm điểm bằng 12,261 check có trọng số đọc trực tiếp artifact để lại (trạng thái backend, file, email, reply), chia 3 tầng: per-stage, cross-stage, final.
Ví dụ đời thường: giống người trợ lý gia đình được giao lo chuyến đi 3 tuần, nhưng không ai nhắn nhủ mỗi ngày — anh ta phải tự mở lịch ra xem chuyến bay có bị dời không, tự nhắc chủ dọn hộ chiếu hết hạn, và tự giữ một cuốn sổ ngân sách xuyên suốt, chứ không đợi bị hỏi mới làm.
III. Main Results:
- 7 mô hình mạnh đều điểm thấp: cao nhất Claude Opus 5 đạt avg@3 32.5, max@3 41.2; thấp nhất DeepSeek-V4-Pro chỉ 21.1.
- Khoảng cách hẹp (21–33) cho thấy năng lực tool-use chuyên nghiệp không tự động chuyển sang quản lý đời sống đa tuần.
- Tầng cross-stage & final khó nhất (19.1% số check nhưng 26.8% trọng số) → kéo tụt điểm tuyệt đối; một lỗi an toàn (lộ thông tin, vượt ngân sách) phạt nặng hơn nhiều tác vụ nhỏ.
- Proactivity và persistence là điểm yếu lớn nhất theo trục năng lực.
- Không ổn định: min@3 ≤ 23.8, độ lệch trong-task tới 10.0 → khó tái lập ngay cả khi làm đúng.
- Chênh lệch theo lĩnh vực: dễ nhất shopping/travel/renovation, khó nhất team building/rental/exam; không mô hình nào giỏi đều all domains.
- Token nhiều không bảo đảm điểm cao: Gemini 3.5 Flash đọc context nhiều nhất (41.2M) nhưng chỉ giữa bảng; GPT-5.5 ít output nhất nhưng hạng 2 — cách tiêu effort (duy trì trạng thái, giữ ràng buộc) quan trọng hơn số lượng.
IV. Conclusion & Future Works:
VibeLifeBench đo lường khoảng cách thực tế giữa tool-use thụ động một lượt của agent hiện tại và hành vi chủ động, bền bỉ mà trợ lý đời sống dài hạn đòi hỏi. Ba đóng góp: (1) định hình lại đánh giá quanh proactivity/sống động/dài hạn; (2) benchmark 200 task trên 22 backend, 7,453 sự kiện có mutation câm; (3) điểm thấp của mọi mô hình tiền tuyến. Hướng tương lai: mở mã nguồn toàn bộ task/môi trường/framework để thúc đẩy nghiên cứu agent sống lâu, biết chủ động; cải thiện cơ chế nhớ bền vững, tự kiểm tra thế giới, và tuân thủ ràng buộc ngầm/x红线 an toàn.
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu cơ chế nhớ bền vững (durable memory) cho agent đa tuần: cách duy trì plan tự nhất quán khi thế giới ngầm thay đổi mà không bị quên ngữ cảnh đầu task.
- Phương pháp proactivity có thể gradable: huấn luyện agent tự quyết định when-to-act / when-to-ask / when-to-stay-silent qua tín hiệu từ thế giới sống thay vì chờ prompt.
- Benchmark mở rộng sang thế giới thực tế (API thật, thiết bị đeo) với quy trình sinh kịch bản tự động giữ tính khách quan và tái lập được.
2. Patent:
- Trợ lý cá nhân trên điện thoại tự động theo dõi chuyến đi: app chạy nền, định kỳ gọi lại trạng thái vé/máy bay/tài chính từ các dịch vụ, tự cảnh báo khi có delay hoặc vượt ngân sách, mà người dùng không cần mở app hỏi.
- Bộ lọc an toàn tích hợp trong trợ lý: tự nhận diện email lừa đảo giả mạo phí thị thực, tự từ chối gửi bản scan hộ chiếu vào địa chỉ lạ hoặc chuyển tiền vào tài khoản cá nhân, rồi báo cáo lại người dùng.
- Lịch trình gia đình 'sống': app quản lý cải tạo nhà hoặc tranh chấp thuê, tự nhắc các mốc deadline pháp lý, tự ghi nhật ký cam kết vào calendar/notes và phát hiện xung đột khi tình hình đổi mà không ai báo.
- Đồng hồ sức khỏe chủ động: trợ lý đọc dữ liệu thiết bị đeo (đường huyết, nhịp tim) của người thân, tự nhắc mang thuốc/thư bác sĩ khi đi du lịch và cập nhật plan mà không đợi người dùng nói.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.10875 |
| ArXiv Abstract | https://arxiv.org/abs/2608.10875 |
| PDF Download | https://arxiv.org/pdf/2608.10875.pdf |
| Github Repository | https://github.com/evolvent-ai/VibeLifeBench |
9. SkillZip: Evaluation-Free Skill Compression for Self-Evolving Agents by Discovering Reusable Structure (12 votes)
Tác giả: Xiaofan Bai, Hongqiang Lin, Chao Liu, Yantao Zhang, Xuan Jin, et al.
Xuất bản lúc: 2026-08-11
Tag: Self-Evolving Agents, Skill Compression, Minimum Description Length, Prompt Compression, LLM Agents, RAG-like Skill Memory
I. Main Problem:
Agent tự tiến hóa (self-evolving) tích lũy kỹ năng bằng cách nối thêm quy tắc thành công và sửa lỗi thất bại mỗi vòng. Về lâu dài, cùng một yêu cầu bị viết lại nhiều lần ở các nhánh, ví dụ, cảnh báo; các chuỗi hành động giống nhau bị copy thay vì tái dùng. Hậu quả:
- văn bản kỹ năng phình to (trung bình >5× độ dài ban đầu sau vài vòng) dù nội dung thủ tục thực sự đã bão hòa
- kỹ năng dài tăng chi phí prefill và che khuất chỉ thị quan trọng trên mọi lời gọi
- nén prompt thông thường (LLMLingua, v.v.) không phù hợp: kỹ năng không phải đoạn văn phẳng — tên/mô tả quyết định khi nào gọi, workflow điều khiển thực thi, tool/output contract ràng buộc tính đúng đắn, và ngoại lệ hiếm vẫn có thể thiết yếu dù ít khi kích hoạt
- nén có đánh giá (như SkillReducer) cần rollout, tốn kém, và phụ thuộc vào bộ task lúc nén — dễ bỏ sót guard/chỉ tắc chưa được test.
II. Main Idea:
SkillZip nén kỹ năng theo nguyên lý explain once, reference many (giải thích một lần, tham chiếu nhiều nơi) mà không cần chạy bất kỳ task/rollout/verifier nào. Cốt lõi: tìm giải thích cấu trúc ngắn nhất faithful cho kỹ năng.
Quy trình One-Shot:
- Scan: parser xác định YAML front matter, heading, danh sách lồng, code block → cây scope ban đầu
- Extract contract: một lệnh LLM trích xuất hợp đồng có kiểu ⟨Interface, Workflow, Tool, Rules, Output, Evidence⟩; mỗi đơn vị phải trích dẫn source, span mơ hồ bị khóa verbatim
- Propose reuse: chỉ ghép các đơn vị cùng kiểu và cùng scope/guard tương thích (rule lặp → đẩy lên scope chung; workflow lặp → thành procedure chung; biến thể có guard → rule chung + ngoại lệ)
- Min-cost cover: chọn đại diện ngắn nhất phủ mọi đơn vị bắt buộc (mục tiêu MDL: min L(K)+L(R|K)) — unique rule dù hiếm cũng không bị xóa
- Render + audit: sinh SKILL.MD ngắn, audit cấu trúc khôi phục span thiếu
Chế độ Zip-on-Write (liên tục): lưu sidecar skillzip.json, mỗi patch được so sánh với vùng lân cận hợp đồng và chọn một trong 4 thao tác — ABSORB / REFINE / EXTEND / REFACTOR — theo cùng mục tiêu độ dài; repack định kỳ khi tích lũy đủ tái dùng chéo scope.
Ví dụ đời thường: giống như người quản lý sửa một cuốn cẩm nang vận hành — thay vì ghi 'không ghi đè file' ở mỗi mục 1, 2, 3, cô viết một lần ở đầu chương rồi các mục chỉ 'như trên', còn mục nào có ngoại lệ thật sự mới ghi riêng; cuốn sách mỏng đi mà không mất chỉ thị nào.
III. Main Results:
- RQ1: kỹ năng phình 5.6× / 3.1× / 6.7× (BFCL-V4 / LiveMath / Spreadsheet) sau 5 vòng, trung bình ~5.2× so với seed
- RQ2: SkillZip nén 27.1%–36.9% (trung bình 31.2%) trong khi giữ nguyên hoặc tăng hiệu năng (macro-avg 0.577 vs 0.570 của evolved skill); SkillReducer chỉ nén 9.2% avg và thấp hơn (0.544)
- RQ3: tốc độ 3.5× nhanh hơn SkillReducer (286s vs ~1000s avg), 0 rollout task trên mọi dataset (SkillReducer cần 40–80 rollout)
- RQ4: chuyển giao chéo mô hình trên LiveMath đạt retention 0.97 vs 0.91 của SkillReducer — biểu diễn kỹ năng độc lập với backbone hơn
- RQ5 (Zip-on-Write): kích hoạt từ vòng 1 giữ kỹ năng ở 1.6×–1.9× seed (giảm 38%–50% so endpoint không nén), độ chính xác không đổi; bật muộn ở vòng 8 chỉ gỡ được một phần bloat đã cộng dồn.
IV. Conclusion & Future Works:
SkillZip coi kỹ năng như hợp đồng có kiểu, nén bằng 'giải thích cấu trúc ngắn nhất faithful' — không cần đánh giá, bảo vệ quy tắc hiếm qua hard coverage, và thống nhất chia sẻ rule / đặt scope / tái dùng workflow / mã hóa ngoại lệ. Cần bật nén ngay từ vòng tiến hóa đầu thay vì dọn dẹp sau. Hướng tương lai (ngụ ý): đóng gói SkillZip thành skill để chính agent tự bảo trì hợp đồng, mở rộng repack thông minh hơn, và kết hợp với biểu diễn executable (Formal Skill / SkillRT) thay vì chỉ văn bản.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng Zip-on-Write thành giao thức đa agent: mỗi agent tự tiến hóa một mảnh kỹ năng, sau đó hợp nhất các sidecar skillzip.json qua ghép hợp đồng có kiểu chéo scope để tránh trùng lặp quy tắc toàn hệ thống.
- Kết hợp MDL skill compression với adaptive data analysis để chứng minh chính thức rằng việc không phơi压缩 với task lúc nén tránh được sample-specific overfitting trong chọn lọc ứng viên.
- Nghiên cứu repack chủ động: dùng ước lượng thống kê về tần suất gia đình rule / n-gram hành động để kích hoạt tái cấu trúc trước khi bloat vượt ngưỡng, thay vì chờ ngưỡng cố định.
2. Patent:
- Tính năng 'tự gọn sạch' cho trợ lý AI trên điện thoại: mỗi khi người dùng dạy trợ lý một thao tác mới (ví dụ 'gửi ảnh vào nhóm A'), hệ thống tự gộp quy tắc trùng vào một mục chung và chỉ lưu ngoại lệ, giúp giữ bộ nhớ kỹ năng nhẹ mà không cần chạy thử task.
- Công cụ nén thủ tục cho low-code/no-code: người dùng xây quy trình tự động hóa lặp lại nhiều bước giống nhau ở các nhánh; hệ thống tự nhận diện chuỗi hành động lặp, gom thành 'macro' một lần rồi gọi lại, giảm dung lượng script và dễ đọc.
- Bộ nhớ kỹ năng cá nhân hóa cho chatbot doanh nghiệp: chatbot tích lũy cảnh báo lỗi từ phản hồi khách hàng, rồi tự nén thành hợp đồng có kiểu — quy tắc chung áp dụng toàn kênh, quy tắc hiếm (như ngoại lệ hợp đồng pháp lý) luôn giữ nguyên dù ít khi gặp.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.11079 |
| ArXiv Abstract | https://arxiv.org/abs/2608.11079 |
| PDF Download | https://arxiv.org/pdf/2608.11079.pdf |
| Github Repository | N/A |
10. Decoding-Level Taboo: A Diagnostic Stress Test for LLM Robustness (12 votes)
Tác giả: Tadanobu Chuyo Kamijo, Ori Rottenstreich, Javier Conde, Gonzalo Martínez, Pedro Reviriego
Xuất bản lúc: 2026-08-10
Tag: LLMs, Robustness, Logit-space Intervention, Decoding, Stress Test, Alignment, Chain-of-Thought, Safety Auditing
I. Main Problem:
Các bài đánh giá LLM hiện nay chủ yếu đo hiệu năng trên đường sinh chuẩn (nominal) — nơi mô hình thoải mái đi trên hành lang token được tối ưu hóa sẵn, tạo ảo giác về năng lực. Thực tế triển khai, các ràng buộc (system prompt phức tạp, guardrail an toàn, định dạng JSON, giới hạn từ cấm) liên tục ép mô hình rời khỏi đường đó. Hậu quả:
- Điểm benchmark lệch xa hiệu năng thực tế khi gặp ràng buộc.
- Chưa rõ bộ máy suy luận nội tại còn vững vàng hay sụp đổ khi bị lệch đường.
- Các benchmark hiện có (IFEval, FollowBench) can thiệp ở mức prompt, nên không phân biệt được mô hình 'không chịu tuân thủ' hay 'lộn xộn logic' khi bị ép lệch — hai hiện tượng bị nhiễu lẫn nhau.
II. Main Idea:
Decoding-Level Taboo là công cụ chẩn đoán zero-prompt, can thiệp trực tiếp vào không gian logit tại thời điểm sinh (runtime), giữ nguyên prompt. Cơ chế:
- Tại mỗi bước giải mã, cộng một mặt nạ nhị phân vào vector logit trước khi softmax, đẩy xác suất của top-i token ưa thích nhất về −∞.
- Chỉ áp dụng mặt nạ ở ranh giới từ (word-initial), để nguyên các token con giữa từ — ép mô hình đi đường vòng ngữ nghĩa (machine circumlocution) thay vì phá hỏng tokenization.
- Đo mức độ ép lệch bằng Injected Surprisal (ΔS) — chi phí thông tin (bit) khi phải phát token thay thế thay vì token ưa thích.
- Chỉ số chính: Conditional Retention Ratio (R) — tỉ lệ các câu đã giải đúng ở chế độ chuẩn vẫn đúng sau khi bị Taboo.
Ví dụ đời thường: giống nhân viên mới bị cấm dùng từ thông dụng nhất để mô tả một đồ vật, buộc phải lục lọi từ ngữ khác để diễn đạt lại — nếu người đó hiểu sâu vẫn nói trôi chảy, còn kẻ chỉ thuộc lòng văn mẫu sẽ bí và lắp bắp ngay.
III. Main Results:
- Alignment tăng độ bền lệch đường nhưng chỉ trên tác vụ suy luận đa bước, và chỉ ở một số họ mô hình: trên GSM8K, Instruct giữ được 48% (Qwen-7B), 45% (OLMo-7B), 90% (Gemma-12B) ở liều nhẹ i=1, trong khi Base sụp dưới 8% ở liều cao.
- Llama-3.1-8B là ngoại lệ: Base và Instruct gần như không chênh (14% vs 16% ở i=1) — nhưng hiệu ứng alignment tái xuất ở Llama-70B (36%→75%), nghĩa là Llama 'học' độ bền muộn hơn, không phải thiếu.
- Quy mô tham số nói chung tăng độ bền, cộng hưởng với alignment (Qwen-32B-Instruct giữ 93% ở i=1, vẫn 74% ở i=8; Base chỉ còn 13%).
- Hiệu ứng đặc thù tác vụ: mạnh trên GSM8K (suy luận), yếu trên TriviaQA (hỏi đáp linh hoạt sẵn), vô hiệu trên trắc nghiệm MMLU (mặt nạ trúng luôn chữ cái đáp án) và sụp về 0 trên HumanEval (mã nguồn không có từ đồng nghĩa thay thế từ khóa).
- Can thiệp giữa từ (thay vì đầu từ) làm độ chính xác rớt còn 0.01–0.05 — chứng tỏ sụt là do logic chứ không phải lỗi tokenization.
IV. Conclusion & Future Works:
Taboo chứng minh độ bền lệch đường không phải mặc định mà là thuộc tính thu được: alignment mang lại nó (3/4 họ), quy mô khuếch đại nó, và mô hình aligned lớn nhất giữ được phần lớn suy luận đa bước ngay cả khi bị mặt nạ mạnh, trong khi Base sụp nhanh hơn ở mọi quy mô. Vì can thiệp nằm trong logit space, Taboo không cần prompt engineering, không retrain, chi phí runtime không đáng kể — thành công cụ audit trước triển khai thực tế. Hướng tương lai: mở rộng chế độ mặt nạ (thưa, thích ứng, ngưỡng surprisal), đa ngôn ngữ, kiến trúc MoE/đa phương thức, và dùng làm tín hiệu huấn luyện (taboo-guided RL).
V. Brainstorming Space:
1. Publish Papers:
- Dùng can thiệp logit-space làm công cụ audit an toàn phi phá hủy: mặt nạ token từ chối để phân biệt guardrail 'sâu' (tái định tuyến an toàn) và 'nông' (chỉ thuộc văn mẫu refusal).
- Sinh tập CoT tổng hợp đa dạng bằng cách ép mô hình rẽ sang các hành lang suy luận thay thế thay vì lấy mẫu ngẫu nhiên (temperature/top-p) — nguồn distillation sạch hơn.
- Stress-test định dạng có cấu trúc (JSON, function calling) không cần huấn luyện: mặt nạ token ưu tiên trong schema để biết mô hình hiểu ràng buộc hay chỉ thuộc template.
- Taboo-guided alignment: tích hợp mặt nạ vào rollout của RL có verifier (GRPO) để thưởng mô hình tìm đường suy luận hợp lệ khi bị ép lệch — biến Taboo từ chẩn đoán thành chính quy hóa.
2. Patent:
- Tính năng 'kiểm tra độ bền' trên điện thoại AI: trước khi xuất xưởng hoặc cập nhật model, chạy Taboo mask các token ưa thích để đo xem trợ lý có giữ được logic khi gặp ràng buộc hệ thống (ví dụ bị cấm một số từ khóa) hay sụp đổ — cảnh báo nhà phát triển trước khi phát hành.
- Bộ lọc an toàn thông minh cho ứng dụng nhắn tin: app chủ động mặt nạ các token refusal của model tại runtime; nếu model lập tức phát nội dung vi phạm chính sách thì bị chặn ngay, nếu model tự tìm cách nói an toàn khác thì cho phép — phát hiện guardrail yếu mà không cần sửa prompt người dùng.
- Trình tạo dữ liệu huấn luyện offline trên máy tính bảng: dùng Taboo ép model local sinh nhiều lời giải toán khác nhau cho cùng một bài, giúp người dùng xây dựng bộ flashcards giải thích đa hướng mà không cần kết nối đám mây.
- Công cụ kiểm thử voice assistant trên xe hơi: mặt nạ các từ ra lệnh ưu tiên để xác nhận trợ lý vẫn hiểu ý định người dùng qua cách diễn đạt khác, thay vì chỉ nhận diện đúng cụm từ huấn luyện — đảm bảo không 'cụt lời' khi người dùng nói lạ.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.09900 |
| ArXiv Abstract | https://arxiv.org/abs/2608.09900 |
| PDF Download | https://arxiv.org/pdf/2608.09900.pdf |
| Github Repository | N/A |
11. Reference-Free Post-Training of Open Large Language Models for Multilingual Machine Translation (11 votes)
Tác giả: Chris Han, Pengzhi Gao, Pei Fu, Jian Luan
Xuất bản lúc: 2026-08-11
Tag: Multilingual Machine Translation, GRPO, Reinforcement Learning, Quality Estimation, LLMs, Checkpoint Interpolation, On-Policy Distillation
I. Main Problem:
Dịch máy đa ngôn ngữ (MT) bằng open LLMs gặp nút thắt: cải thiện thêm qua học có giám sát (SFT) bị kẹt vì thiếu dữ liệu song ngữ chất lượng cao, đặc biệt với ngôn ngữ ít tài nguyên và các cặp dịch không qua tiếng Anh. Trong khi đó văn bản nguồn rất dồi dào và dễ thu thập. Hệ quả:
- không có câu đích đối chiếu (reference) để học token-level
- nếu dùng mô hình ước lượng chất lượng (QE) không cần reference, mô hình dễ reward hacking (dịch trôi chảy nhưng sai ngôn ngữ).
II. Main Idea:
Bài báo đề xuất reference-free post-training: tinh chỉnh sau (post-training) không cần câu dịch chuẩn, chỉ dùng câu nguồn. Quy trình gồm 3 bước:
- GRPO (Group Relative Policy Optimization): với mỗi câu nguồn, mẫu G=8 bản dịch, chấm điểm rồi cập nhật chính sách theo phần thưởng tương đối trong nhóm.
- Reward gồm 2 QE model (XCOMET + COMETKiwi) trung bình lại, có cổng language-identification (OpenLID-v3) chặn bản dịch sai ngôn ngữ (phần thưởng = 0).
- SFT–RL checkpoint interpolation: nội suy tuyến tính θα = α·θSFT + (1−α)·θRL (α=0.5) để giữ lại hành vi SFT, giảm trôi lệch do RL.
Ví dụ đời thường: giống thầy dạy tiếng bằng cách cho học trò tự viết nhiều bản dịch, rồi một giáo viên bản ngữ chỉ chấm 'có đúng tiếng đích và hay không' mà không cần đáp án mẫu; sau đó pha trộn bài của học trò với bài mẫu cũ để trò vừa sáng tạo vừa không lạc lối.
III. Main Results:
- Trên 46 ngôn ngữ, MiLMMT-46-v1.0 (1B/4B/12B) đều vượt bản SFT v0.1: XCOMET/COMETKiwi trên WMT24++ tăng trung bình +2.75 / +2.44 điểm.
- MiLMMT-46-12B-v1.0 đạt reference-free XCOMET/COMETKiwi cao nhất, vượt cả Google Translate, Gemini 2.5/3 Pro, GPT-5.
- Model 1B vượt TranslateGemma-4B dù chỉ dùng 1/4 số tham số.
- spBLEU giảm nhẹ (~1.21) nhưng tác giả coi metrics học được (XCOMET) quan trọng hơn.
- Checkpoint interpolation là nút chỉnh: tăng α lên spBLEU tăng, XCOMET giảm; α=0.5 là điểm cân bằng thu hồi phần lớn spBLEU mất đi với giá nhỏ.
- On-Policy Distillation (OPD) từ teacher 12B vào student 1B/4B đạt chất lượng ngang ngửa nhưng không vượt mặt RL + interpolation.
IV. Conclusion & Future Works:
RL với reward QE có cổng ngôn ngữ cải thiện nhất quán chất lượng dịch đa ngôn ngữ mà không cần câu chuẩn; interpolation SFT–RL giữ được spBLEU. OPD là cách chuyển gọn các lợi ích sang model nhỏ nhưng không mở rộng giới hạn chất lượng. Hướng tương lai: reward model bám sát con người hơn, mở rộng sang dịch đa phương thức (multimodal), và thử quy mô lớn hơn.
V. Brainstorming Space:
1. Publish Papers:
- Thiết kế reward model không cần reference bền vững hơn, giảm reward hacking qua cổng định danh ngôn ngữ đa tầng kết hợp kiểm tra ngữ nghĩa.
- Mở rộng reference-free post-training sang dịch đa phương thức (hình ảnh/văn bản) bằng GRPO và interpolation checkpoint.
- Nghiên cứu hành vi của phương pháp ở quy mô model rất lớn (hàng chục tỷ tham số trở lên) và các cặp dịch không qua tiếng Anh.
2. Patent:
- Tính năng dịch trên điện thoại: dùng mô hình QE chạy tại thiết bị để tự cải thiện bản dịch dựa trên câu nguồn alone, không cần server có sẵn đáp án, giúp dịch offline cho ngôn ngữ hiếm.
- Bộ lọc tự động trong ứng dụng dịch: cổng nhận diện ngôn ngữ chặn các bản dịch trôi chảy nhưng sai ngôn ngữ trước khi hiển thị cho người dùng, tăng độ tin cậy.
- Công cụ hỗ trợ dịch tài liệu nội bộ doanh nghiệp: cho phép tinh chỉnh nhanh mô hình dịch nhỏ bằng nguồn văn bản sẵn có (không cần cặp song ngữ) qua interpolation SFT–RL, triển khai nhẹ trên máy tính cá nhân.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.10812 |
| ArXiv Abstract | https://arxiv.org/abs/2608.10812 |
| PDF Download | https://arxiv.org/pdf/2608.10812.pdf |
| Github Repository | https://github.com/xiaomi-research/gemmax |
12. UniMoMo: Expert Merging-Based MoE Acceleration for Large Recommendation Models (11 votes)
Tác giả: Lei Xin, Bin Gu, Peize Li, Zitong Wang, Jianbo Zhao, et al.
Xuất bản lúc: 2026-08-09
Tag: Recommender Systems, MoE, Model Compression, Expert Merging, Graph Coarsening, Post-training
I. Main Problem:
Mô hình recommendation dùng sparse MoE mở rộng năng lực qua conditional computation, nhưng checkpoint đã train vẫn phải lưu và routing toàn bộ expert bank (ví dụ 8 expert mỗi lớp). Vấn đề triển khai: sau khi train xong một recommender MoE, cần thu nhỏ số expert xuống một ngân sách phục vụ cụ thể (ví dụ còn 4 hoặc 2 expert) mà không thêm module nén chạy online.
Các hướng cũ không giải quyết:
- Hệ thống như MegaBlocks, ScatterMoE tối ưu thực thi sparse nhưng giữ nguyên expert bank đã train.
- Các phương pháp nén expert khác dựa trên khoảng cách tham số hoặc độ tương đồng output đơn thuần — chưa đủ vì: (1) hai expert参 số xa vẫn có thể ứng xử giống nhau trên hidden state thực tế; (2) cùng một lỗi tái tạo gây hậu quả lớn hơn nếu nó nằm ở expert có lưu lượng routing cao.
II. Main Idea:
UniMoMo là framework nén post-training, coi việc chuyển checkpoint thành bài toán graph coarsening có ràng buộc dưới ngân sách expert. Quy trình trên mỗi lớp MoE:
- Profiling kép bằng tập calibration không nhãn: chạy mọi expert trên chung một tập hidden state để đo độ tương đồng chức năng (phân phối Gaussian của output, tính KL divergence đối xứng → affinity graph); đồng thời thu routing mass (xác suất có trọng số) để tính entropy thiếu hụt của lớp.
- Bảo vệ theo lưu lượng: lớp càng mất cân bằng routing thì càng bảo vệ nhiều expert cao-traffic khỏi bị merge lặp lại (tránh lan truyền lỗi).
- Coarsening có ràng buộc: gộp liên tục cặp cluster có average-link similarity cao nhất cho đến khi đủ M expert, tôn trọng tập protected.
- Tái tạo trọng số: trung bình có trọng số theo routing mass các projection (SwiGLU), rồi dùng least-squares correction (pseudoinverse) sửa sự lệch activation do phi tuyến SwiGLU không giao hoán với averaging. Router mới = centroid cộng của các hàng router nguồn.
- Sau merge, fine-tune ngắn rồi dùng top-k routing tiêu chuẩn, không thêm module online.
Ví dụ đời thường: giống ông quản lý cửa hàng không sa thải nhân viên theo khoảng cách chỗ ngồi hay hồ sơ, mà quan sát thử mọi người xử lý chung một lô đơn hàng, thấy hai người làm gần giống nhau thì gộp; nhưng ai đang ôm quá nửa đơn hàng thì giữ nguyên không dồn việc, rồi chỉnh lại quy trình cho người thay thế khớp cách làm cũ.
III. Main Results:
- Trên Amazon Beauty, KuaiRec, TenRec với 2/4/6 khối MoE (9 cấu hình): checkpoint 4-expert đạt 99.92%–102.30% NDCG@10 so với Origin MoE, tăng tốc đo được 1.28×–1.63× trên A100.
- Điểm operating 2-expert, top-1: 98.36%–104.24% NDCG, tốc độ 1.47×–2.21×.
- So với baseline MergeMoE (cùng dạng 8→4): UniMoMo hơn 0.0004–0.0051 NDCG nhờ partition có điều kiện lưu lượng.
- Ablation: bỏ cả tín hiệu hành vi và exposure làm giảm NDCG 0.0018; cả hai đều có ích.
- Nhạy cảm: 4-expert giảm 40.36% latency giữ 99.37% NDCG (cân bằng nhất); 6 khối là điểm vận hành chính (thêm khối 8 chỉ lợi thêm 0.63% NDCG nhưng tăng latency 145%).
IV. Conclusion & Future Works:
UniMoMo biến việc giảm expert bank thành chuyển đổi checkpoint dưới ngân sách triển khai, dùng lưu lượng recommendation để định nghĩa một partition có ràng buộc và tái tạo thành MoE chuẩn không có module online. Kết quả làm rõ đầu ra của từng ngân sách phục vụ. Hạn chế: partition phụ thuộc vào tập calibration đại diện — hành vi không có trong luồng này không ảnh hưởng; chứng cứ giới hạn ở RankMixer 8 expert, 2–6 khối, single-A100. Hướng tương lai: mở rộng sang backbone khác và kịch bản phân phối lưu lượng phức tạp hơn.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng UniMoMo cho các backbone recommendation MoE khác (Multi-gate MoE, SMES, frequency-aware experts) để kiểm chứng tính portability vượt RankMixer.
- Nghiên cứu chế độ bảo vệ thích ứng theo exponent β động thay vì ánh xạ tuyến tính, tinh chỉnh ngưỡng bảo vệ theo phân phối routing thực tế của từng lớp.
- Kết hợp calibration đa phân phối (nhiều nhóm user/items) để bắt được expert mã hóa hành vi hiếm nhưng hữu ích mà routing mass đơn lẻ bỏ sót.
2. Patent:
- Tính năng 'thu nhỏ mô hình gợi ý trên điện thoại': ứng dụng video ngắn tự nén checkpoint MoE từ 8 xuống 4 expert bằng tập tương tác người dùng không nhãn khi cài đặt, giữ chất lượng xếp hạng 99% mà chạy nhanh hơn 1.6 lần trên thiết bị cũ.
- Công cụ quản trị cho hệ thống đề xuất thương mại: cho phép operator chọn ngân sách serving (số expert) rồi tự động xuất checkpoint MoE chuẩn tương ứng không cần train lại, dễ thả vào pipeline deployment có sẵn.
- Module tối ưu quảng cáo cá nhân hóa edge: trước giờ cao điểm, server đẩy bản MoE 2-expert đã merge (top-1) xuống thiết bị người dùng để dự đoán nhanh với tài nguyên pin/thấp, không cần module nén chạy kèm.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.08627 |
| ArXiv Abstract | https://arxiv.org/abs/2608.08627 |
| PDF Download | https://arxiv.org/pdf/2608.08627.pdf |
| Github Repository | N/A |
13. Not Worth Another Token: Marginal Value Estimation for Efficient Deep Research Agents (11 votes)
Tác giả: Harshitha Kolukuluru, Reshma Ashok, Kirat Arora, Evan William Ciccarelli, Nischal Ashok Kumar, et al.
Xuất bản lúc: 2026-08-09
Tag: Deep Research Agents, Context Pruning, Marginal Value Estimation, LLMs, RAG, Efficiency, MMR, Prompt Compression
I. Main Problem:
Các tác nhân nghiên cứu sâu (deep research agents) giải quyết truy vấn phức tạp bằng cách truy xuất và tổng hợp lặp đi lặp lại qua nhiều bước, làm ngữ cảnh tích lũy phình to rất nhanh. Nhưng giá trị cận biên của mỗi bằng chứng mới thu được thường giảm dần: các bước đầu đã lấy được sự thật cốt lõi, bước sau chỉ thêm nội dung trùng lặp hoặc ít hữu ích.
Hậu quả:
- Tốn token, độ trễ cao, chi phí tính toán lớn (baseline: 375.4k token, 29 node, ~3423 giây mỗi báo cáo).
- Ngữ cảnh cuối nhiễu hơn, làm giảm chất lượng báo cáo.
- Các pipeline hiện tại thường dùng LLM để quyết định loại bỏ gì → thêm chi phí suy luận và hành vi không nhất quán.
Chưa có hiểu biết thực nghiệm về giai đoạn nào trong pipeline được hưởng lợi nhất khi tỉa bớt, và chiến lược nào hiệu quả ở từng giai đoạn.
II. Main Idea:
Bài báo đề xuất ước lượng giá trị cận biên (marginal value estimation) như một bài toán tỉa ngữ cảnh có ý thức theo giai đoạn (stage-aware pruning) trong pipeline nghiên cứu sâu. Pipeline gồm 4 bước: phân rã truy vấn → truy xuất mở rộng → tích lũy ngữ cảnh → tổng hợp báo cáo. Tác giả xác định 3 điểm can thiệp để loại bớt nội dung giá trị thấp:
- Pre-Retrieval: lọc các truy vấn con giá trị thấp trước khi tốn chi phí truy xuất.
- Post-Retrieval: sau mỗi bước truy xuất, đánh giá từng mục thu được so với ngữ cảnh đã có, bỏ mục trùng lặp/yếu.
- Pre-Synthesis: trước khi viết báo cáo, chỉ giữ bằng chứng giá trị cao.
Mỗi điểm dùng một hàm điểm V(x|C,Q) chung; giữ nếu vượt ngưỡng. Các chiến lược so sánh: heuristic (MMR, GRN, CD, DPP, SC), LLM-based, và learned controller. Kết hợp thành cấu hình 1-, 2-, 3 giai đoạn.
Ví dụ đời thường: giống như sinh viên viết tiểu luận thuê trợ lý đi thư viện; thay vì để trợ lý photocopy mọi trang liên quan rồi mang về đống giấy, ta bảo trợ lý trước mỗi chuyến: 'chỉ lấy nếu trang đó thêm thông tin mới chưa có' — vứt bớt ngay tại kệ sách, đỡ tiền photo, đỡ xách nặng, và bài luận cuối cũng rõ ràng hơn vì không bị lấp trong giấy lặp.
III. Main Results:
- Vị trí tỉa quan trọng hơn luật chấm điểm: tỉa sớm (đặc biệt Post-Retrieval) tiết kiệm lớn nhất; tỉa muộn (Pre-Synthesis) chủ yếu tinh chỉnh ngữ cảnh tổng hợp.
- Post-Retrieval MMR: mạnh nhất về hiệu suất — giảm token từ 375.4k xuống 114.6k (≈69.5% ít hơn), node 29→8.84, thời gian 3423→1380s, chất lượng còn 56.62 (≈97.9% baseline).
- Three-stage MMR: giảm token xuống 100.1k (≈73.3% ít hơn), node 7.82, nhưng chất lượng thấp hơn (55.90).
- Pre-Synthesis Hybrid: điểm chất lượng one-stage cao nhất (60.68, +2.85 vs baseline) nhưng tiết kiệm ít (332.3k token).
- Two-stage CD+SC: điểm cân bằng tốt nhất — chất lượng 59.47 (+1.64), token -63.4%, thời gian -53.3%.
- Không có phương pháp nào áp đảo: heuristic relevance–redundancy (MMR) giỏi kiểm soát chi phí sớm; coverage (SC)/diversity (DPP) giữ bằng chứng rộng hơn, trích dẫn tốt hơn; LLM-based cạnh tranh chất lượng nhưng tốn chi phí suy luận.
- Chất lượng báo cáo và độ trung thực (citation recall) có thể phân kỳ: nén tốt không đồng nghĩa giữ được bằng chứng nguồn.
- Learned controller chỉ là khái niệm thăm dò, không vượt trội heuristic.
IV. Conclusion & Future Works:
Nghiên cứu đầu tiên so sánh có hệ thống pruning theo giai đoạn cho deep research agents. Kết luận cốt lõi: stage placement quan trọng hơn scoring rule — tỉa sớm (Post-Retrieval) tiết kiệm nhiều nhất, tỉa muộn tinh chỉnh chất lượng. Hai giai đoạn cho trade-off thực tế tốt nhất; ba giai đoạn chỉ thêm khi ưu tiên nén tối đa. Vì chất lượng và faithfulness phân kỳ, phải đánh giá đồng thời cả bốn phương diện (quality, relevance, faithfulness, efficiency). Hướng tương lai: tinh chỉnh ngưỡng theo tác vụ, mở rộng sang kiến trúc agent/retrieval khác, và kết hợp học sâu hơn cho pre-retrieval controller.
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu pruning stage-aware trên các kiến trúc deep research khác (không phải chỉ GPT-Researcher) và các mô hình nền tảng khác để kiểm chứng tính khái quát của thứ tự ưu tiên giai đoạn.
- Thiết kế controller học sâu end-to-end dự đoán giá trị cận biên đa giai đoạn thay vì heuristic cố định, kèm cơ chế tự động chỉnh ngưỡng theo ngân sách token.
- Phân tích rủi ro faithfulness khi pruning: làm sao tránh vứt bằng chứng mâu thuẫn/thiểu số, kết hợp kiểm toán trích dẫn và human oversight.
2. Patent:
- Trên điện thoại: trợ lý nghiên cứu AI tự động — khi người dùng hỏi câu phức tạp, app phân rã thành nhiều câu hỏi nhỏ, trước mỗi lần tìm kiếm web app lọc bớt câu hỏi trùng, và sau mỗi kết quả chỉ giữ đoạn mới lạ, giúp trả lời nhanh, tốn ít pin/data hơn mà báo cáo vẫn đủ ý.
- Trình tóm tắt tài liệu cho điện thoại: trước khi đưa đống văn bản dài vào mô hình viết, app chạy bộ lọc relevance–redundancy loại bỏ đoạn lặp, giữ lại ý mới — báo cáo sinh ra ngắn gọn, ít token, chạy mượt ngay cả máy cấu hình thấp.
- Công cụ hỗ trợ viết báo cáo doanh nghiệp: hệ thống tự thu thập tư liệu từ nhiều nguồn, tại mỗi bước gắn thẻ 'thông tin đã có chưa', bỏ phần trùng, chỉ đưa phần giá trị cao vào bản nháp — tiết kiệm chi phí API và giảm nhiễu cho văn bản cuối.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.08389 |
| ArXiv Abstract | https://arxiv.org/abs/2608.08389 |
| PDF Download | https://arxiv.org/pdf/2608.08389.pdf |
| Github Repository | N/A |
14. InSight-doc: Agentic Visual Perception for Long-Document Understanding (10 votes)
Tác giả: Kaican Li, Weiyan Xie, Lewei Yao, Jiannan Wu, Lanqing Hong, et al.
Xuất bản lúc: 2026-08-11
Tag: Document VQA, Multimodal LLM, Agentic Visual Perception, Coarse-to-Fine, Reinforcement Learning, Chain-of-Thought, Context Rot
I. Main Problem:
Hiểu tài liệu dài, nhiều trang, giàu hình ảnh bằng MLLM gặp hai nút thắt:
- Tốn kém khi suy luận: phải đưa toàn bộ trang vào độ phân giải cao → số token tăng theo bình phương, độ trễ lớn.
- Context rot:注意力 bị pha loãng trên ngữ cảnh dài làm độ chính xác tụt thảm hảo, dễ bịa (hallucination) khi thiếu thông tin.
Các cách cũ hoặc cần pipeline OCR dễ lỗi, hoặc cần retriever ngoài để lấy trang — vừa tốn chi phí indexing vừa bỏ sót bằng chứng nằm ngoài tập được chọn.
II. Main Idea:
InSight-doc coi độ phân giải là tài nguyên suy luận có thể điều chỉnh lúc chạy, không cố định. Cơ chế:
- Bắt đầu từ ảnh độ phân giải thấp (toàn bộ tài liệu, ~50 DPI) để tiết kiệm token.
- Mô hình tự sinh chuỗi think + tool_call zoom_in chỉ định trang, mô tả vùng và bbox.
- Vùng được cắt từ ảnh gốc độ phân giải cao, đính kèm vào chuỗi CoT làm bằng chứng, lặp nhiều vòng cho tới khi trả lời.
- Không cần retriever: chủ động tìm, lấy, gộp bằng chứng đa vùng, đa trang, hỗ trợ câu hỏi nhiều bước (multi-hop).
Huấn luyện: bộ corpus 17.9K quỹ đạo SFT (có zoom region-level) + 19.2K ví dụ RL khó, dùng Qwen3-VL-8B, GRPO. SFT dạy khi nào/zoom đâu, RL tinh chỉnh tính ổn định quỹ đạo.
Ví dụ đời thường: giống người đọc báo — trước chỉ liếc toàn trang nhìn tiêu đề, thấy đoạn nghi vấn mới đưa mắt zoom sát vào ô số liệu cụ thể, thay vì đọc chậm từng chữ cả tờ báo ngay từ đầu.
III. Main Results:
- Trên 4 benchmark document VQA, InSight-doc-8B (SFT+RL) tại r=0.25 đạt 66.9%, vượt base Qwen3-VL-8B +16.4 điểm; tại r=0.5 vượt +4.3 điểm.
- Tài liệu dài (MMLongBench-Doc, LongDocURL): vượt base 12.8–17.1 điểm; so với mạnh nhất trước đó tăng 15.7 và 9.3 điểm.
- Giảm hallucination >40% trên câu không thể trả lời; F1 unanswerable tăng tới 25.9 điểm.
- Độ trễ giảm 41%–68%, số token giảm tới 69% ở bản tài liệu dài nhất, vẫn giữ độ chính xác cao hơn.
- General high-res VQA (MME-RealWorld-Lite, O3-Bench): cũng vượt base, thậm chí đạt 48.2% vượt mặt Gemini/GDPB một số thiết lập.
- RL làm giảm trajectory dư thừa/rối: stuck rate từ 9.7% xuống 0.1%, evidence-box coverage tăng lên 82.3%.
IV. Conclusion & Future Works:
InSight-doc chứng minh tiếp cận coarse-to-fine agentic giải quyết tốt context rot và chi phí suy luận trên tài liệu dài mà không cần retriever. Hạn chế/hướng tới: mới thử trên Qwen3-VL-8B; chưa thử RL nâng cao hay backbone khác — còn dư địa cải thiện reward design và mở rộng mô hình.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng framework cho backbone đa dạng và kỹ thuật RL tiên tiến (reward shaping, process reward) để tăng độ ổn định quỹ đạo zoom.
- Áp dụng cơ chế chủ động zoom đa vùng cho tài liệu siêu dài (hàng trăm trang) hoặc video tài liệu, nơi context rot nghiêm trọng hơn.
- Kết hợp InSight-doc với visual retrieval làm hybrid: retriever gợi ý trang thô, agent zoom vùng tinh để giảm cả token lẫn sai sót.
2. Patent:
- Ứng dụng đọc tài liệu trong điện thoại: app chụp cả chồng hóa đơn/rợp dài, hiển thị bản thu nhỏ, AI tự zoom vào ô số tiền cụ thể để trích xuất mà không cần OCR toàn trang — chạy nhanh, ít tốn pin.
- Tính năng 'hỏi tài liệu' trên máy scan văn phòng: máy scan ảnh độ phân giải thấp toàn bộ, khi người dùng hỏi 'tổng doanh thu quý 3 ở trang nào' thì thiết bị tự phóng to vùng bảng số liệu rồi đọc ra, thay vì xử lý ảnh nét cao toàn bộ.
- Trợ lý học tập trên tablet: sinh viên chụp sách giáo khoa dày, AI liếc tổng thể rồi chủ động zoom sát vào biểu đồ/định nghĩa được hỏi, trả lời nhanh ngay trên thiết bị without gửi toàn bộ sách lên đám mây.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.10628 |
| ArXiv Abstract | https://arxiv.org/abs/2608.10628 |
| PDF Download | https://arxiv.org/pdf/2608.10628.pdf |
| Github Repository | https://github.com/m-Just/InSight-doc |
15. DistilVDR: A Compact End-to-End Visual Document Retriever via Dual-Student Distillation (10 votes)
Tác giả: Zhuchenyang Liu, Ziyi Wang, Yao Zhang, Yu Xiao
Xuất bản lúc: 2026-08-11
Tag: Visual Document Retrieval, Knowledge Distillation, Single-vector Retrieval, Vision-Language Model, Embedding, Late Interaction, ColPali, NDCG
I. Main Problem:
Truy xuất văn bản dạng ảnh (VDR) hiện do các mô hình hàng tỷ tham số thống trị (2–8 B), gây hai hệ lụy: index chậm (tốn hàng chục GPU-giờ cho 1 triệu trang) và phục vụ đắt (>16 GB VRAM mỗi trang). Hai hướng nén trước đây đều không chốt được bài toán:
- Huấn luyện từ đầu mô hình nhỏ + late interaction đa vector: index phình 16×, điểm mỗi truy vấn chậm 100× so với tích vô hướng đơn.
- Chỉ chắt lọc (distill) phía truy vấn: giữ nguyên encoder tài liệu cỡ giáo viên, nên vẫn phải gánh mô hình tỷ tham số khi index.
Chưa có hệ thống single-vector đầu-cuối gọn nhẹ vừa chất lượng cao vừa rẻ trên mọi trục triển khai.
II. Main Idea:
DistilVDR là hệ thống VDR single-vector đầu-cuối 524 M, chắt lọc song phương từ một giáo viên vision-language 8 B duy nhất dưới hàm cosine alignment pointwise (mỗi sinh viên hồi quy lên embedding đã cache của giáo viên).
Cơ chế:
- Giáo viên đóng băng sinh embedding 4096-chiều cho cả ảnh tài liệu và câu truy vấn; sinh viên chỉ bắt chước không gian đó, không cần nhãn liên quan, không âm, không hạng từ đối lập (vì tín hiệu liên quan đã nằm sẵn trong không gian giáo viên).
- Thiết kế bất đối xứng encoder-only: tháp tài liệu nặng 454 M (InternViT-300M + ModernBERT-base + head chiếu 768→4096, chia tile ảnh động theo tỷ lệ khung hình) ghép với tháp truy vấn nhẹ 70 M (DistilBERT-base + head). Hai sinh viên huấn luyện độc lập, song song.
- Hai biến thể chỉ khác ngân sách tile ảnh: HiRes (6 tile + thumbnail) và Fast (2 tile + thumbnail); đem ra dùng chỉ chạy sinh viên, vứt giáo viên.
Ví dụ đời thường: giống hai thực tập sinh cùng học nghề từ một chuyên gia giàu kinh nghiệm — một người chuyên xem kỹ từng trang tài liệu, một người chuyên đọc câu hỏi — mỗi người tự copy bản đồ trí nhớ (vị trí trên bản đồ 4096 chiều) của sếp cho riêng phần mình, chứ không ai bảo 'đúng/sai', rồi sau này tự làm mà sếp không cần có mặt.
III. Main Results:
- Chất lượng (NDCG@5 trung bình ViDoRe v1+v2+v3): DistilVDR-HiRes 61.74 (86.9% giáo viên 8 B), DistilVDR-Fast 59.98 (84.4%) — cả hai dẫn mọi baseline sub-1 B tái hiện (tốt nhất cũ colSmol-500M: 53.01).
- Trên benchmark khó v3: HiRes 47.07 dẫn baseline sub-1 B kế tiếp tới 13.55 điểm; Fast 43.66 đổi chất lượng lấy 3× ít token ảnh hơn.
- So với tham chiếu 2–3 B: HiRes vượt DSE-Qwen2 (2.2 B) +1.03 và ColPali v1.3 (2.9 B) +1.42 dù nhỏ 4–6 lần. Thua nhóm 4–8 B multi-vector 6.95–9.80 điểm (chủ yếu ở v2, v3).
- Hiệu suất triển khai (H200, B=8, bf16): Fast index 99.04 trang/giây, VRAM đỉnh 2.10 GB — nhanh gấp ~18× so với giáo viên 8 B, nhanh một bậc so với mọi baseline đa vector. Truy vấn chỉ 3.4 ms qua DistilBERT.
- Index & điểm: lưu 1 vector float32 4096-d/trang = 16.4 GB/triệu trang (nhỏ 15.6× so với baseline sub-1 B đa vector ~256 GB), điểm 10 K trang trong 9.6 ms so với 1.1–3.2 s của MaxSim đa vector (nhanh ~100×).
- Ablation: bỏ chia tile mất 5.12 điểm; data bão hòa trên 75%; giảm vector xuống 768-d tiết kiệm 5.3× dung lượng nhưng mất 3.19 điểm; ModernBERT query hơn DistilBERT 1.04 điểm nhưng chậm 5.1×. Thêm hạng từ đối lập (InfoNCE/KL) không cải thiện.
IV. Conclusion & Future Works:
DistilVDR chứng minh chắt lọc cả hai tháp của một giáo viên single-vector mạnh đạt điểm vận hành tốt hơn mọi retriever đa vector nhỏ đã phát hành ở quy mô 500 M, trên cả chất lượng lẫn mọi trục chi phí. Giới hạn & hướng tới:
- Sinh viên bị kẹp trong không gian giáo viên — điểm yếu của Qwen3-VL-Embedding-8B truyền sang, không vượt được giáo viên trên phía mình thay thế.
- Chưa chạy đối chứng cùng kiến trúc huấn luyện từ đầu bằng contrastive; chỉ dùng 1 giáo viên (sweep giáo viên yếu/mạnh là bước rẻ tiếp theo vì target đã cache).
- Hai sinh viên huấn luyện độc lập nên bỏ lỡ liên kết cross-modal giữa query và tài liệu — hướng mở là sơ đồ chắt lọc chung có tương tác query-tài liệu.
- Tile budget cố định theo tỷ lệ khung hình, không theo nội dung trang — cần ngân sách thích ứng theo độ phức tạp trang.
- Query chỉ tiếng Anh + 5 ngôn ngữ Latin; ảnh truy vấn và script phi Latin (Trung, Nhật, Ả Rập) nằm ngoài phạm vi. Chưa thử PQ/binary hashing nén index.
V. Brainstorming Space:
1. Publish Papers:
- Chắt lọc chung hai tháp có tương tác query-tài liệu: thêm hạng từ dựa trên phân phối tương đồng giáo viên trong một bước tinh chỉnh chung, thay vì distill độc lập, để tận dụng liên kết cross-modal ẩn.
- Ngân sách tile ảnh thích ứng: dùng mô hình nhẹ ước lượng độ phức tạp trang (mật độ chữ nhỏ, bảng, hình) để cấp token ảnh nhiều hơn cho trang khó, cố định Tmax thay vì chia đều.
- Sweep giáo viên VDR: đánh giá DistilVDR khi đổi quy mô/gia đình giáo viên (2 B, 4 B, cross-encoder) trên cùng target đã cache để đo trần chất lượng và chi phí chắt lọc.
- Mở rộng đa ngôn ngữ phi Latin và truy vấn có ảnh: huấn luyện tháp query bắt cả ảnh+text và bổ sung song ngữ CJK/Arabic vào hỗn hợp train.
2. Patent:
- Tìm kiếm tài liệu doanh nghiệp trên điện thoại: ứng dụng chụp trang PDF/slide, mã hóa thành 1 vector nhỏ chạy hoàn toàn trên thiết bị (tháp tài liệu 454 M + query 70 M), truy xuất cục bộ hàng nghìn trang không cần server GPU — phù hợp máy tính bảng y tế, luật sư tra hợp đồng ngoài mạng.
- RAG trên thiết bị cho tài liệu kỹ thuật: máy in đa năng hoặc drone công nghiệp chụp bản vẽ, tìm trang hướng dẫn tương ứng trong sổ tay bảo trì offline qua DistilVDR-Fast (VRAM 2.1 GB, index 16.4 GB/triệu trang), trả lời ngay không đẩy lên đám mây.
- Quét hóa đơn xuất trình minh chứng bảo hiểm: camera điện thoại quét chồng hóa đơn, DistilVDR ánh xạ ảnh sang vector đơn để ghép nhanh với câu truy vấn 'điện nước tháng 7' trong ví dụ đời thường, thay vì chạy OCR lỗi và lưu index phình như đa vector.
- Trình duyệt tài liệu thông minh trong xe hơi: tài xế đọc bản đồ bảo dưỡng bằng giọng nói, hệ thống single-vector truy xuất trang ảnh tương ứng trong sách hướng dẫn đã nén trên bộ nhớ xe, điểm trong vài miligiây không làm treo hệ thống giải trí.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.10636 |
| ArXiv Abstract | https://arxiv.org/abs/2608.10636 |
| PDF Download | https://arxiv.org/pdf/2608.10636.pdf |
| Github Repository | https://github.com/Ryenhails/NanoVDR |
16. SPIEval: Evaluating Large Language Models as Mobile Assistants over Scattered Personal Information (10 votes)
Tác giả: Junjie Ye, Zhuohui Sheng, Shaofan Liu, Yulun Zhu, Wenjie Fu, et al.
Xuất bản lúc: 2026-08-11
Tag: LLM, Mobile Assistant, Benchmark, Tool-use, Information Retrieval, Personalization, Multi-turn Interaction
I. Main Problem:
Các LLM làm trợ lý di động phải hoàn thành lệnh ngắn gọn, thiếu tham số (vd: "Gọi cho sếp") bằng cách tự truy vấn thông tin cá nhân nằm rải rác trên nhiều ứng dụng. Tuy nhiên:
- Các benchmark hiện có hoặc cung cấp sẵn tham số trong lệnh, hoặc chỉ cho truy xuất một tài liệu đơn lẻ.
- Chưa có bộ đo nào ép mô hình tự định vị thông tin phân tán qua nhiều app để rồi mới hành động.
- Năng lực thực tế của LLM trong bối cảnh "thông tin rải rác" vẫn chưa được hiểu rõ.
II. Main Idea:
SPIEval là benchmark thủ công đánh giá trợ lý di động qua 5 năng lực nhận thức: reasoning (suy luận đa bước), disambiguation (phân biện bản ghi mơ hồ), integration (tổng hợp nhiều nguồn), preference inference (suy luận sở thích ngầm), multi-intent decomposition (tách lệnh phức tạp).
Quy trình xây dựng và đánh giá:
- 250 tác vụ dựa trên 4.335 bản ghi trải rải trên 10 app (Danh bạ, Lịch họp, Ghi chú, SMS, Giao dịch...), liên kết qua hồ sơ người dùng chung.
- Cung cấp 21 tool: 11 tool truy xuất (tìm kiếm theo chuỗi/con ngữ/tin cậy, phân trang) + 10 tool thực thi (gọi, tạo lịch, chuyển tiền...).
- Mỗi tác vụ có gold answer ở mức tham số, đánh giá tự động (không dùng LLM làm trọng tài), đúng chỉ khi tool gọi và tham số khớp hoàn toàn.
- Môi trường đóng, xác định — tool chạy cục bộ, đầu ra lặp lại giống hệt.
Ví dụ đời thường: giống người trợ lý mới nhận lệnh mơ hồ "gọi cho sếp", không hỏi lại mà tự mở lần lượt lịch họp (để biết tên sếp), danh bạ (lấy số), ghi chú (biết sếp thích gọi video), rồi mới bấm gọi — nếu tra nhầm và dừng sớm sẽ gọi sai người.
III. Main Results:
- Đánh giá 9 LLM đại diện: mô hình mạnh nhất GPT-5.5 (xhigh) đạt 57.3%, yếu nhất Kimi K2.6 chỉ 16.4% — khoảng cách lớn, dư địa cải thiện rộng.
- 79% lỗi đến từ định vị thông tin sai: mô hình chốt sớm vào bản ghi có vẻ đúng thay vì tiếp tục truy xuất để xác minh (chỉ 6% lỗi do thiếu tham số bắt buộc).
- Bỏ hẳn bước truy xuất (cho sẵn bản ghi) đẩy độ chính xác trung bình từ 35.5% → 66.8%; trả toàn bộ kết quả một lần chỉ lên 36.0% → nút thắt là khả năng đặt truy vấn đúng, không phải hiển thị.
- Preference inference & multi-intent khó nhất (~23%): khi cho sẵn thông tin, preference vọt lên 67% (vấn đề là tìm bằng chứng), còn multi-intent chỉ 45.7% (vấn đề là tách và lập kế hoạch).
- Tăng reasoning effort giúp trung bình +13.8 điểm (GPT-5.5 +28.8, GLM-5.2 chỉ +6.0).
- Trên 126.279 lượt truy xuất: 98.5% dùng substring đơn, regex+fuzzy <2%, chỉ 9.5% giới hạn trường — mô hình hầu như không dùng tìm kiếm nâng cao.
- Mô hình thất bại lại truy xuất ít hơn khi thành công (1.0–3.8 lượt) → chứng tỏ chúng dừng sớm, không phải bỏ cuộc.
IV. Conclusion & Future Works:
SPIEval bộc lộ định vị thông tin là nút thắt chính của trợ lý di động hiện nay: LLM hay chốt sớm vào thông tin hợp lý nhưng sai, ít dùng tìm kiếm nâng cao, và yếu trong suy luận ngầm/tách lệnh phức tạp.
Hướng tương lai:
- Dạy mô hình biết khi nào bằng chứng đủ, tự quyết định có cần truy xuất thêm.
- Khai thác tốt hơn truy xuất có cấu trúc (regex, fuzzy, giới hạn trường) thay vì chỉ substring.
- Cải thiện phân rã đa ý định và suy luận sở thích từ bằng chứng phân tán.
- Tối ưu chiến lược cân bằng giữa truy xuất ít nhưng trúng (Gemini/Claude) và truy xuất nhiều để xác minh (GPT-5.5).
V. Brainstorming Space:
1. Publish Papers:
- Xây dựng cơ chế 'tự hoài nghi' cho agent: mô hình phát hiện độ không chắc chắn của bản ghi và tự kích hoạt vòng truy xuất bổ sung trước khi hành động, giảm lỗi chốt sớm.
- Học chính sách truy xuất có cấu trúc: fine-tune agent biết chọn regex/fuzzy/giới hạn trường dựa trên loại trường và nhiễu dữ liệu thay vì mặc định substring.
- Benchmark mở rộng sang đa người dùng và quyền riêng tư: đánh giá trợ lý khi thông tin cá nhân nằm rải rác nhưng bị giới hạn quyền truy cập theo ngữ cảnh.
- Phương pháp tách đa ý định có thứ tự ưu tiên cho lệnh phức tạp, kết hợp lập kế hoạch thực thi song song trên nhiều app.
2. Patent:
- Điện thoại thông minh có 'trợ lý định vị thông tin chủ động': khi nhận lệnh mơ hồ như 'nhắc tôi gặp bác sĩ tuần sau', máy tự quét lịch, SMS, ghi chú để tìm tên bác sĩ và lịch hẹn, rồi đề xuất tạo sự kiện — không cần người dùng gõ đủ tham số.
- Tính năng 'xác minh trước khi gọi': trước khi thực hiện cuộc gọi hay chuyển tiền, hệ thống hiển thị nguồn đã tra (đâu là danh bạ, đâu là ghi chú sở thích) và yêu cầu xác nhận nếu độ tin cậy thấp, tránh hành động sai trên thông tin nhầm.
- Công cụ tìm kiếm đa app trên điện thoại: một ô tìm kiếm duy nhất áp dụng fuzzy + giới hạn trường để gom các bản ghi liên quan (cùng tên, cùng số) từ danh bạ, giao dịch, SMS thành một bối cảnh duy nhất cho AI suy luận.
- Chế độ 'an toàn cho người già': trợ lý tự động tách lệnh phức tạp ('gọi con và chuyển tiền học phí') thành từng bước, thực hiện tuần tự và báo tiến độ bằng giọng nói, giảm rủi ro thao tác nhầm.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.10692 |
| ArXiv Abstract | https://arxiv.org/abs/2608.10692 |
| PDF Download | https://arxiv.org/pdf/2608.10692.pdf |
| Github Repository | N/A |
17. 360CityArena: A Realistic Virtual Urban Navigation Benchmark for Embodied Agents (10 votes)
Tác giả: Kenta Watanabe, Atsuyuki Miyai, Mizuki Takenawa, Kiyoharu Aizawa, Toshihiko Yamasaki
Xuất bản lúc: 2026-08-09
Tag: Embodied AI, Urban Navigation, Vision-Language Models, Benchmark, Spatial Reasoning, Photorealistic Simulation, 360° Video
I. Main Problem:
Các benchmark điều hướng ngoài trời hiện tại không đủ chân thực và phức tạp so với đô thị thực, tạo khoảng cách lớn với thực tế:
- 3D simulator (CARLA, MetaUrban...) có độ photo-realistic thấp, bố cục đơn giản.
- Google Street View cho ảnh chân thực nhưng thiếu yếu tố động (người đi bộ, xe) và không liên tục để điều hướng tự do.
- Video-to-sim hứa hẹn nhưng dùng clip ngắn, không phủ được mạng lưới phố rộng.
- Thiếu bài toán khám phá ground-level egocentric trong phố thực có động lực phong phú, kết hợp nhiều dạng nhiệm vụ.
II. Main Idea:
360CityArena là benchmark đánh giá agent thể nhập (embodied agent) trong môi trường ảo tái tạo chân thực quận Akihabara (Tokyo) từ 602 đoạn video 360° phủ 85 con phố, ghép thành pose graph điều hướng được trong Unity. Cốt lõi:
- 175 nhiệm vụ thủ công chia 3 nhóm lớn, 7 mục nhỏ (mỗi mục 25 task): Environment Understanding (Localization, Landmark Search ngôn ngữ / ảnh), Path Reasoning (Map Navigation, Vision-Language Navigation), Spatial Reasoning (Relational Spatial Reasoning, Object Count).
- Agent nhận quan sát thị giác 360°, có thể kèm thông tin vị trí trên bản đồ, duy trì bộ nhớ qua các bước, hành động rời rạc (tiến, xoay, rẽ nhánh, trả lời).
- Mỗi task gán độ khó Easy/Medium/Hard; 4 giao thức chấm điểm: exact_match, fuzzy_match (GPT-5 làm trọng tài, κ=0.937), coordinate_match (sai số ≤10–20m), MRA cho đếm đối tượng.
Ví dụ đời thường: giống một du khách được cho trò chơi street-view 360° quay sẵn của cả một khu phố thật, phải tự tìm biển hiệu, rẽ theo chỉ dẫn, đếm máy bán hàng — nhưng bị buộc chạy trên đường ray video có sẵn như tàu điện trên ray cố định, không đi tắt được ngoài khung hình đã quay.
III. Main Results:
- Con người đạt 77.3%, mô hình mạnh nhất Gemini 2.5 Flash chỉ 17.1% — cách biệt rất lớn.
- LMM mạnh nhất thay đổi theo task (GPT-5 thắng Landmark Ảnh, Gemini 2.5 Flash thắng tổng thể).
- Task khó nhất với agent: Map Navigation, Object Count, Relational Spatial Reasoning; người vẫn đạt ~90% ở nhiều task định hướng.
- Bỏ thông tin vị trí tường minh (bản đồ) không làm giảm đều; đôi khi cải thiện ở vài task → cách cung cấp prior vị trí ảnh hưởng chiến lược khám phá và mode thất bại.
- Ở Landmark Search, người làm bản Ảnh tốt hơn ngôn ngữ nhiều → ảnh chứa thông tin phong phú hơn mô tả text.
IV. Conclusion & Future Works:
360CityArena là testbed cần thiết, thách thức cho điều hướng đô thị quy mô phố và suy luận không gian; đồng thời là hướng dẫn thực tế để xây dựng dữ liệu huấn luyện trong thế giới ảo chân thực. Hướng tương lai: (1) mở rộng sang nhiều thành phố (biểu diễn city-agnostic qua GPS/SLAM + Movie Map); (2) nghiên cứu sâu ảnh hưởng của location prior đến chiến lược thám hiểm; (3) thiết kế model biết tận dụng tốt hơn cả thị giác lẫn tự định vị; (4) cải thiện discontinuity tại biên trajectory và thiếu tương tác vật lý.
V. Brainstorming Space:
1. Publish Papers:
- Mở rộng biểu diễn city-agnostic: xây dựng thế giới ảo 360° cho nhiều đô thị khác qua geo-localization GPS/SLAM và nối snippet thành pose graph traversable, chuẩn hóa benchmark đa thành phố.
- Phân tích sâu vai trò của location prior: thử nghiệm có/không bản đồ, ngôn ngữ vs ảnh, để tìm chiến lược cung cấp thông tin vị trí tối ưu cho agent đô thị.
- Đề xuất cơ chế thám hiểm chủ động (active exploration) cho agent egocentric trên pose graph video, khắc phục discontinuity tại biên và tăng tỷ lệ tìm được mục tiêu.
2. Patent:
- Ứng dụng dẫn đường cho người khiếm thị trên điện thoại: tái tạo quận thực từ video 360° thành bản đồ điều hướng giọng nói, hướng dẫn đi bộ an toàn qua phố đông mà không cần robot vật lý.
- Hệ thống sinh dữ liệu huấn luyện robot giao hàng: dùng thế giới ảo Akihabara để tự động tạo hàng nghìn kịch bản định hướng phố chân thực, tăng tốc dạy robot thực tế ảo (sim-to-real).
- Trợ lý du lịch AR trên smartphone: người dùng hướng camera, app đối chiếu khung cảnh 360° đã quay để định vị tức thì và chỉ đường đến biển hiệu/mặt hàng cụ thể bằng ảnh tham chiếu.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2608.08814 |
| ArXiv Abstract | https://arxiv.org/abs/2608.08814 |
| PDF Download | https://arxiv.org/pdf/2608.08814.pdf |
| Github Repository | https://github.com/360MM-Team/360CityArena |