Chuyển tới nội dung chính

🤗 Daily Hugging Face Paper Digest - 2026-06-22

Báo cáo được tạo tự động vào lúc 2026-06-30 18:56:28 bằng mô hình deepseek-ai/deepseek-v4-flash.

📰 Summary of Papers​

1. MemSlides: A Hierarchical Memory Driven Agent Framework for Personalized Slide Generation with Multi-turn Local Revision (172 votes)​

Tác giả: Ye Jin, Yangyang Xu, Jun Zhu, Yibo Yang

Xuất bản lúc: 2026-06-15

Tag: LLM Agents, Memory Hierarchy, Personalization, Slide Generation, Multi-turn Revision, Tool Learning

I. Main Problem:​

Các hệ thống tạo slide tự động hiện nay thiếu khả năng cá nhân hóa bền vững. Người dùng phải lặp lại sở thích mỗi lần tương tác; các chỉnh sửa nhiều vòng thường phải tái tạo toàn bộ slide deck, gây lãng phí, mất nội dung đã ổn và không lưu giữ được ưu tiên mới phát sinh trong phiên làm việc.

II. Main Idea:​

MemSlides là khung agent bộ nhớ phân cấp, tách bộ nhớ dài hạn (hồ sơ người dùng theo từng ý đồ + bộ nhớ công cụ) khỏi bộ nhớ làm việc (trạng thái phiên hiện tại). Hồ sơ người dùng lưu sở thích vượt tác vụ; bộ nhớ làm việc mang ưu tiên tạm thời giữa các vòng chỉnh sửa; bộ nhớ công cụ ghi lại kinh nghiệm thực thi để sửa cục bộ đáng tin cậy. Thay vì tái tạo toàn bộ deck, MemSlides áp dụng sửa slide-local: đọc cấu trúc slide bị ảnh hưởng, vá chính xác phần tử đó (CSS, style ngữ nghĩa hoặc patch ảnh chụp), và kiểm tra tính bao phủ trước khi kết thúc vòng.

III. Main Results:​

  • Hồ sơ người dùng cải thiện điểm căn chỉnh persona rõ rệt: riêng với GLM-5, MemSlides đạt 9.00 (Nội dung) so với 6.67 (DeepPresenter) và 4.44 (SlideTailor).
  • Bộ nhớ công cụ nâng độ hoàn thành vòng sửa từ 0.815 lên 0.963 và kiểm tra chặt (Strict Verify) từ 0.310 lên 0.534.
  • Thời gian lần sửa đúng đầu tiên giảm từ 609.5s xuống còn 242.5s; tỉ lệ thời gian công cụ lõi giảm còn 0.327×.
  • Chất lượng deck tổng thể (Constraint, Content, Style) vẫn cạnh tranh với các baseline, không đánh đổi cá nhân hóa.
  • Thí nghiệm định tính cho thấy MemSlides chỉ tác động vào vùng cần sửa, không làm xáo trộn nội dung slide khác.

IV. Conclusion & Future Works:​

MemSlides chứng minh tách bộ nhớ hồ sơ người dùng, bộ nhớ làm việc và bộ nhớ công cụ cùng cơ chế sửa cục bộ là chìa khóa cho cá nhân hóa trong tạo slide. Hạn chế: thí nghiệm trên bộ dữ liệu persona giả lập, chưa có nghiên cứu người thật. Hướng tới: mở rộng thử nghiệm với người dùng thực, bộ chỉnh sửa ngẫu nhiên và cơ chế bảo vệ quyền riêng tư về sở thích.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng bộ nhớ hồ sơ người dùng cho domain khác như tạo báo cáo tự động hoặc thiết kế slide đa phương tiện (biểu đồ, video) để đánh giá tính khái quát hóa.
  2. Kết hợp bộ nhớ công cụ với học tăng cường từ phản hồi (RLHF) để agent tự động chọn chiến lược sửa tối ưu qua nhiều phiên làm việc.
  3. Xây dựng benchmark đa persona, đa ý đồ mở rộng cho tạo nội dung trình bày cá nhân hóa, tích hợp cả chỉnh sửa nhiều vòng và đánh giá tự động qua LLM judge.

2. Patent:​

  1. Ứng dụng tạo slide trình bày trên điện thoại thông minh: người dùng nói hoặc gõ nội dung; hệ thống tự động lấy hồ sơ sở thích (màu sắc, phông chữ) từ lịch sử, tạo slide đầu tiên và cho phép sửa nhanh một slide mà không làm ảnh hưởng toàn bộ bài.
  2. Trình tạo bài giảng cho giáo viên: sau mỗi buổi dạy, giáo viên chỉnh sửa slide; hệ thống ghi nhớ kiểu trình bày, layout và bổ sung từ khóa vào hồ sơ để lần soạn sau tự động áp dụng.
  3. Công cụ thiết kế slide nhóm: khi nhiều người cùng sửa một bộ slide, bộ nhớ tạm thời của mỗi phiên làm việc riêng biệt giữ các thay đổi cục bộ, sau đó hợp nhất mà không ghi đè sở thích cá nhân lâu dài.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.17162
ArXiv Abstracthttps://arxiv.org/abs/2606.17162
PDF Downloadhttps://arxiv.org/pdf/2606.17162.pdf
Github Repositoryhttps://github.com/huohua325/Memslides

2. PerceptionDLM: Parallel Region Perception with Multimodal Diffusion Language Models (64 votes)​

Tác giả: Yueyi Sun, Yuhao Wang, Jason Li, Ye Tian, Tao Zhang, et al.

Xuất bản lúc: 2026-06-17

Tag: Multimodal Large Language Models, Diffusion Language Models, Region Captioning, Parallel Decoding, Visual Perception, Instruction Tuning, Benchmark

I. Main Problem:​

Các mô hình ngôn ngữ lớn đa phương thức hiện tại chủ yếu dùng sinh tự hồi quy, dẫn đến chi phí suy luận tăng tuyến tính khi cần mô tả đồng thời nhiều vùng trong một ảnh. Hiệu quả xử lý vùng-dày chưa được giải quyết do thiếu cơ chế tận dụng song song vốn có của mô hình ngôn ngữ khuếch tán.

II. Main Idea:​

PerceptionDLM đề xuất kiến trúc khuếch tán đa phương thức cho phép sinh song song mô tả nhiều vùng trong một quá trình khử nhiễu duy nhất. Mô hình kết hợp region prompting (nhúng học được cho mỗi vùng) và cơ chế mặt nạ chú ý có cấu trúc để đảm bảo độc lập giữa các vùng, tránh nhiễu chéo. Nó xây dựng trên nền tảng PerceptionDLM-Base – một baseline khuếch tán mạnh được huấn luyện qua bốn giai đoạn (căn chỉnh, kiến thức, tinh chỉnh hướng dẫn, tinh chỉnh chất lượng cao).

III. Main Results:​

  • PerceptionDLM-Base vượt LLaDA-V trên 15/16 benchmark đa phương thức.
  • Trên ParaDLC-Bench, PerceptionDLM đạt độ chính xác trung bình 62.4%, gần gấp đôi LLaDA-V (35.2%) và SDAR-VL (31.3%).
  • PerceptionDLM đạt TPF 2.9 so với 1 của các mô hình tự hồi quy, giảm thời gian suy luận tổng thể từ 479s (GAR) xuống 276s trên ParaDLC-Bench.
  • Khi xử lý 5 mask, PerceptionDLM đạt tăng tốc thông lượng gấp 3.5 lần so với GAR-8B.

IV. Conclusion & Future Works:​

PerceptionDLM chứng minh mô hình ngôn ngữ khuếch tán đa phương thức có thể đạt cân bằng tốt giữa chất lượng mô tả vùng và hiệu suất suy luận song song. Hướng tương lai có thể dùng Reinforcement Learning để tăng cường khả năng suy luận phức tạp, vốn còn hạn chế do giải mã song song thứ tự tùy ý.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng kiến trúc song song vùng cho các tác vụ hiểu cảnh phức tạp như phát hiện vật thể và phân tích mối quan hệ không gian giữa nhiều vật.
  2. Kết hợp PerceptionDLM với cơ chế đa độ phân giải động để xử lý ảnh có kích thước lớn hơn, giữ chi tiết tinh trong khi vẫn đảm bảo suy luận song song.
  3. Áp dụng chiến lược huấn luyện tăng cường (RL) để cải thiện khả năng suy luận logic trên các vùng phức tạp, khắc phục hạn chế của giải mã song song.

2. Patent:​

  1. Ứng dụng trên điện thoại thông minh: cho phép người dùng khoanh vùng nhiều đối tượng trong ảnh, máy chủ đám mây dùng PerceptionDLM để sinh mô tả đồng thời từng vùng, phục vụ nhận diện sản phẩm hoặc mô tả cảnh nhanh.
  2. Hệ thống camera giám sát thông minh: khi phát hiện nhiều vật thể chuyển động trong một khung hình, thiết bị biên dùng PerceptionDLM để sinh mô tả song song hành vi của từng đối tượng, giảm tải xử lý so với phương pháp tuần tự.
  3. Robot giao hàng tự động: robot chụp ảnh góc rộng, khoanh vùng từng vật cản, mô hình PerceptionDLM trên đám mây sinh mô tả song song các vật cản đó, giúp robot đưa ra quyết định tránh vật nhanh chóng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.19534
ArXiv Abstracthttps://arxiv.org/abs/2606.19534
PDF Downloadhttps://arxiv.org/pdf/2606.19534.pdf
Github Repositoryhttps://github.com/MSALab-PKU/PerceptionDLM

3. MCompassRAG: Topic Metadata as a Semantic Compass for Paragraph-Level Retrieval (21 votes)​

Tác giả: Amirhossein Abaskohi, Raymond Li, Gaetano Cimino, Peter West, Giuseppe Carenini, et al.

Xuất bản lúc: 2026-06-16

Tag: RAG, Topic Modeling, Metadata-Guided Retrieval, Knowledge Distillation, Chunking, Extreme Multi-Label Classification

I. Main Problem:​

Các hệ thống RAG phải đối mặt với sự đánh đổi giữa độ chi tiết và hiệu quả: chương nhỏ tăng độ chính xác nhưng mở rộng không gian tìm kiếm; chương lớn giảm số ứng viên nhưng nhúng hỗn hợp nhiều chủ đề gây nhiễu ngữ nghĩa. Điều này đặc biệt hạn chế trong các tác vụ nghiên cứu sâu đòi hỏi truy xuất nhanh và chính xác trên kho ngữ liệu lớn, không đồng nhất.

II. Main Idea:​

MCompassRAG làm giàu biểu diễn chương thô bằng siêu dữ liệu chủ đề (topic metadata) cùng không gian nhúng với bộ truy xuất, hoạt động như

III. Main Results:​

  • Cải thiện Information Efficiency (IE) trung bình 8.24% so với baseline non-LLM mạnh nhất trên sáu benchmark.
  • Độ trễ hơn 5× thấp hơn so với các baseline RAG mạnh dùng LLM.
  • Trên DRBench, IE đạt 47.97 so với 37.47 của SAKI-RAG (baseline non-LLM mạnh nhất).
  • Tiếp cận sát oracle LLM + 10 Topics (chênh lệch IE < 1-3 điểm) mà không cần gọi LLM suy luận.
  • Hoạt động tốt với 4.126 token mỗi truy vấn và 174 ms độ trễ end-to-end.

IV. Conclusion & Future Works:​

MCompassRAG chứng minh rằng làm giàu chương thô bằng tín hiệu chủ đề giúp truy xuất hiệu quả và chính xác mà không tăng chi phí. Hướng tương lai có thể mở rộng khung này cho các loại siêu dữ liệu ngữ nghĩa khác ngoài chủ đề.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng MCompassRAG để tích hợp đồng thời nhiều loại siêu dữ liệu (ví dụ: ngày tháng, tác giả) nhằm tăng độ chính xác truy xuất trên các kho tài liệu đa dạng.
  2. Nghiên cứu khả năng khái quát hóa của MCompassRAG sang các ngôn ngữ khác và các lĩnh vực chuyên sâu như y tế, luật.
  3. Kết hợp trích xuất chủ đề động (online topic modeling) để MCompassRAG có thể cập nhật siêu dữ liệu chủ đề khi kho ngữ liệu thay đổi mà không cần huấn luyện lại toàn bộ.

2. Patent:​

  1. Công cụ tìm kiếm tài liệu nội bộ doanh nghiệp: phân đoạn tài liệu lớn và gắn nhãn chủ đề; khi người dùng đặt câu hỏi, hệ thống chọn siêu dữ liệu chủ đề phù hợp trước khi truy xuất, giảm nhiễu và tăng độ chính xác trên điện thoại thông minh.
  2. Hỗ trợ nghiên cứu khoa học trên thiết bị di động: người dùng nhập câu hỏi và ứng dụng tự động truy xuất các đoạn văn bản phù hợp từ kho bài báo được phân chủ đề, không cần gửi dữ liệu ra máy chủ lớn.
  3. Trợ lý ảo đa năng trong điện thoại: khi người dùng hỏi, trợ lý dùng chủ đề suy luận từ lịch sử hội thoại để lọc và truy xuất thông tin trong các tài liệu dài, trả lời nhanh mà không cần gọi dịch vụ LLM bên ngoài.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.18508
ArXiv Abstracthttps://arxiv.org/abs/2606.18508
PDF Downloadhttps://arxiv.org/pdf/2606.18508.pdf
Github Repositoryhttps://github.com/AmirAbaskohi/MCompassRAG

4. GateMem: Benchmarking Memory Governance in Multi-Principal Shared-Memory Agents (18 votes)​

Tác giả: Zhe Ren, Yibo Yang, Yimeng Chen, Zijun Zhao, Benshuo Fu, et al.

Xuất bản lúc: 2026-06-17

Tag: LLM Agents, Memory Governance, Benchmark, Multi-Principal, Access Control, Active Forgetting, Shared Memory

I. Main Problem:​

Các benchmark bộ nhớ cho LLM agent hiện tại chủ yếu đánh giá trong môi trường đơn người dùng, bỏ qua các tình huống triển khai thực tế như bệnh viện, văn phòng nơi nhiều người dùng (principal) cùng chia sẻ một bộ nhớ chung. Trong các môi trường đó, một agent có thể truy xuất đúng thông tin nhưng vẫn thất bại nếu tiết lộ dữ liệu nhạy cảm cho người không được phép hoặc khôi phục thông tin đã bị yêu cầu xóa.

II. Main Idea:​

Bài báo giới thiệu GateMem, một benchmark đánh giá khả năng quản trị bộ nhớ (memory governance) của agent trong môi trường đa principal. Benchmark này gồm 91 kịch bản dài (hội thoại nhiều bên) trong 4 lĩnh vực (y tế, văn phòng, giáo dục, gia đình) với 2.218 checkpoint ẩn, đồng thời kiểm tra ba khía cạnh: Utility (trả lời đúng cho người có quyền), Access Control (từ chối tiết lộ cho người không có quyền), và Active Forgetting (không khôi phục thông tin đã bị yêu cầu xóa). Mỗi checkpoint được chấm tự động bằng LLM-as-a-judge, và điểm tổng hợp MGS được tính theo công thức nhân (U * (1-A) * (1-F)) để phản ánh yêu cầu khắt khe của quản trị bộ nhớ.

III. Main Results:​

  • Không phương pháp nào (long-context, RAG, hay hệ thống bộ nhớ chuyên dụng) đạt đồng thời Utility cao, Access Control tốt và Active Forgetting đáng tin cậy.
  • Long-context prompting đạt MGS cao nhất ở hầu hết các cấu hình, nhưng vẫn rò rỉ thông tin (Access Control failure >20%) và tiêu tốn nhiều token.
  • RAG có policy cải thiện an toàn nhưng làm giảm Utility do từ chối quá mức (over-refusal).
  • Các hệ thống bộ nhớ rõ ràng (A-MEM, MEM0, REMEM) không tự động cung cấp quản trị tốt; vẫn rò rỉ thông tin đã xóa hoặc không được phép.
  • Backbone mạnh (GPT-5.4, Deepseek-V4-Pro) cải thiện MGS đáng kể so với backbone yếu hơn.

IV. Conclusion & Future Works:​

GateMem cho thấy agent bộ nhớ hiện tại chưa đủ tin cậy để triển khai trong môi trường tổ chức có nhiều người dùng. Hướng tương lai gồm phát triển agent có cơ chế quản trị bộ nhớ rõ ràng, tối ưu hóa chi phí token, và mở rộng benchmark sang các lĩnh vực và kịch bản tấn công tinh vi hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng GateMem sang môi trường đa agent cộng tác, nơi mỗi agent có bộ nhớ riêng và phải phối hợp khi chia sẻ thông tin nhạy cảm giữa các nhóm người dùng khác nhau.
  2. Kết hợp cơ chế forget learning (học quên) có kiểm soát vào kiến trúc agent, cho phép xóa thông tin theo yêu cầu mà không ảnh hưởng đến các tri thức hợp lệ khác.
  3. Xây dựng phương pháp tối ưu hóa đa mục tiêu giữa utility, access control và active forgetting, sử dụng học tăng cường với phần thưởng phạt dựa trên rò rỉ và từ chối quá mức.

2. Patent:​

  1. Hệ thống trợ lý ảo dùng chung trong bệnh viện: khi bác sĩ hỏi thông tin bệnh nhân, hệ thống tự động kiểm tra quyền truy cập dựa trên vai trò và mối quan hệ, đồng thời xóa vĩnh viễn dữ liệu nhạy cảm khi bệnh nhân yêu cầu, đảm bảo không thể khôi phục.
  2. Ứng dụng quản lý công việc nhóm trên điện thoại: mỗi thành viên chỉ thấy nhiệm vụ và dữ liệu được phân quyền; khi ai đó rời dự án, tất cả thông tin cá nhân của họ (chat, file) bị xóa hoàn toàn khỏi bộ nhớ chung.
  3. Trợ lý giáo dục cho phụ huynh và học sinh: phụ huynh được xem điểm số nhưng không thấy nhận xét riêng tư của giáo viên; khi học sinh chuyển trường, yêu cầu xóa hồ sơ sẽ loại bỏ mọi dấu vết dữ liệu cũ khỏi hệ thống.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.18829
ArXiv Abstracthttps://arxiv.org/abs/2606.18829
PDF Downloadhttps://arxiv.org/pdf/2606.18829.pdf
Github Repositoryhttps://github.com/rzhub/GateMem

5. SproutRAG: Attention-Guided Tree Search with Progressive Embeddings for Long-Document RAG (18 votes)​

Tác giả: Amirhossein Abaskohi, Issam H. Laradji, Peter West, Giuseppe Carenini

Xuất bản lúc: 2026-06-16

Tag: RAG, Hierarchical Retrieval, Sentence-Level Embeddings, Attention Mechanism, Beam Search, Long-Document, Information Efficiency

I. Main Problem:​

Các hệ thống RAG hiện tại gặp khó khăn trong việc cân bằng giữa độ chính xác của từng đoạn ngắn và ngữ cảnh tổng thể trong tài liệu dài. Các phương pháp như phân đoạn cố định hoặc tóm tắt phân cấp thường gây ra mất thông tin, hoặc phụ thuộc vào các cuộc gọi LLM tốn kém trong quá trình lập chỉ mục và truy xuất.

II. Main Idea:​

SproutRAG tổ chức các câu thành một cây nhị phân dựa trên attention học được từ một Small Language Model (SLLM), thay vì dùng attention trung bình đồng nhất. Các nút trong của cây lưu progressive embeddings của cụm câu; quá trình truy xuất sử dụng Hierarchical Beam Search để thu thập ứng cử viên ở nhiều độ phân giải. Mô hình được huấn luyện end-to-end với mục tiêu kép: tối ưu chất lượng truy vấn và cấu trúc cây, không cần gọi LLM bên ngoài hay tóm tắt mất mát thông tin.

III. Main Results:​

  • SproutRAG cải thiện Information Efficiency (IE) trung bình 6.1% so với baseline mạnh nhất trên bốn benchmark (SCI-DOCS, LegalBench-RAG, Dragonball, MS MARCO).
  • Đạt Recall và Precision cao nhất trên tất cả các benchmark, đặc biệt IE trên Dragonball tăng 8.06 điểm.
  • Hiệu quả end-to-end vượt trội so với GraphRAG, ReflectiveRAG, và REFRAG, với chỉ 4.38K token online và độ trễ 193ms mỗi truy vấn.
  • Ablation cho thấy cả mục tiêu huấn luyện và thiết kế cây attention đều quan trọng; loại bỏ mục tiêu cấu trúc (Lattn) làm giảm IE trên tất cả benchmark.

IV. Conclusion & Future Works:​

SproutRAG giải quyết hiệu quả vấn đề granularity-context trade-off, mang lại hiệu suất cao với chi phí online thấp. Hướng tương lai có thể khám phá hàm kết hợp nút phức tạp hơn ngoài mean pooling, xây dựng cây đa nhánh, hoặc chính sách truy xuất thích ứng dựa trên truy vấn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng SproutRAG với cây đa nhánh thay vì nhị phân, cho phép gộp nhiều câu có liên quan đồng thời thành một nút, tăng khả năng nắm bắt phụ thuộc nhiều-nhiều.
  2. Kết hợp SproutRAG với kỹ thuật học tăng cường để tự động điều chỉnh chiến lược truy xuất (beam width, threshold) theo đặc thù từng truy vấn.
  3. Nghiên cứu phương pháp progressive embedding thông minh hơn như gated composition hoặc attention-based composition để cải thiện biểu diễn ngữ nghĩa tại các nút trong.

2. Patent:​

  1. Hệ thống tra cứu tài liệu pháp lý trên điện thoại: người dùng đặt câu hỏi, hệ thống tự động xây dựng cây attention cho văn bản luật và trả về các điều khoản liên quan ở cả cấp câu và cấp đoạn, tiết kiệm thời gian đọc.
  2. Trợ lý đọc sách giáo khoa: ứng dụng di động phân tích sách thành cây chủ đề, khi học sinh hỏi về một khái niệm, hệ thống trả về cả câu giải thích gốc và đoạn văn ngữ cảnh rộng hơn, giúp hiểu bài sâu hơn.
  3. Chức năng tóm tắt báo cáo y tế trên thiết bị di động: bác sĩ nhập câu hỏi chẩn đoán, hệ thống dùng SproutRAG để truy xuất cả câu mô tả triệu chứng cụ thể và các đoạn kết luận lâm sàng liên quan từ nhiều trang báo cáo.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.18381
ArXiv Abstracthttps://arxiv.org/abs/2606.18381
PDF Downloadhttps://arxiv.org/pdf/2606.18381.pdf
Github Repositoryhttps://github.com/AmirAbaskohi/SproutRAG

6. Multi-Turn Reflective Masking Elicits Reasoning in Mask Diffusion Models (14 votes)​

Tác giả: Yanming Zhang, Yihan Bian, Jingyuan Qi, Yuguang Yao, Lifu Huang, et al.

Xuất bản lúc: 2026-06-15

Tag: Mask Diffusion Models, Reflective Masking, Test-Time Scaling, Iterative Revision, Reasoning

I. Main Problem:​

Mô hình autoregressive (AR) phải sinh lại toàn bộ chuỗi khi cần sửa lỗi cục bộ, gây lãng phí tính toán và lan nhiễm sai sót. Mask Diffusion Models (MDM) có cơ chế masking tự nhiên hỗ trợ sửa cục bộ, nhưng các MDM hiện tại không hỗ trợ sửa đa lượt có chủ đích, khiến khả năng tự sửa lỗi giống con người chưa được khai thác.

II. Main Idea:​

Reflective Masking (RM) kích hoạt khả năng tự sửa nội tại của MDM bằng cách cho phép model tự quyết định giữ, re-mask, hoặc reveal token tại mỗi vị trí dựa trên độ không chắc chắn. RM được huấn luyện post-training nhẹ, không thay đổi kiến trúc. Kèm theo History Reference (HR) – cơ chế tích lũy embedding quá khứ không tham số – giúp model tránh lặp lỗi và tận dụng lịch sử denoising để sửa chính xác hơn.

III. Main Results:​

  • Trên image editing, RM đạt Edit Precision 99.73% và PSNR 34.759 dB, vượt xa Lumina gốc (65.81%, 23.092 dB).
  • Trên Sudoku, RM + HR + HER đạt Exact Accuracy 93.4%, giảm Replay Mistake xuống 0.03% so với 0.57% khi không dùng HR.
  • Trên text reasoning, RM cải thiện MBPP code generation thêm 8.8% và ARC-Challenge thêm 4.8% so với Vanilla SFT.
  • Quá trình huấn luyện RM chỉ mất ~5 giờ trên 2 GPU H100, rất nhẹ so với các phương pháp thay đổi kiến trúc.
  • RM hoạt động ổn định trên nhiều tác vụ, không làm suy giảm khả năng sinh thông thường.

IV. Conclusion & Future Works:​

Reflective Masking biến MDM thành công cụ suy luận có tự sửa lỗi tại chỗ, mở hướng scaling test-time mới. Hạn chế: hiện chỉ thử nghiệm trên tác vụ đơn giản hơn suy luận dài hạn của AR. Hướng tới: áp dụng RM cho block diffusion models và phát triển cơ chế sửa toàn bộ ngữ cảnh thay vì chỉ trong block hiện tại.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng Reflective Masking cho các tác vụ suy luận đa bước phức tạp như chứng minh định lý hoặc lập kế hoạch dài hạn, nơi cần sửa nhiều lỗi logic liên tiếp.
  2. Kết hợp History Reference với cơ chế attention temporal để tự động học trọng số lịch sử thay vì dùng decay cố định, cải thiện ổn định khi số bước denoising lớn.
  3. Nghiên cứu khả năng transfer của RM giữa các MDM khác nhau (ví dụ từ LLaDA sang block diffusion) để tìm hiệu suất suy luận tổng quát.

2. Patent:​

  1. Ứng dụng RM trong ứng dụng chỉnh sửa ảnh trên điện thoại: người dùng chọn vùng và nhập mô tả, model tự động xác định vùng cần sửa, chỉ tái tạo phần đó, giữ nguyên nền, cho chất lượng cao mà không cần xử lý toàn bộ ảnh.
  2. Dùng RM để tự động sửa mã nguồn trong IDE: khi phát hiện lỗi cú pháp hoặc logic cục bộ, model tự động re-mask các token lỗi và dự đoán đáp án đúng dựa trên ngữ cảnh xung quanh, giảm thời gian debug.
  3. Hệ thống giải Sudoku trên điện thoại: cho phép nhập bảng sai, model dùng RM + HR tự động phát hiện ô sai và sửa dần, hiển thị quá trình sửa từng bước để người dùng học cách giải.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.16700
ArXiv Abstracthttps://arxiv.org/abs/2606.16700
PDF Downloadhttps://arxiv.org/pdf/2606.16700.pdf
Github Repositoryhttps://github.com/tianyi-lab/Reflective_Masking

7. BrainG3N: A Dual-Purpose Tokenizer for Controllable 3D Brain MRI Generation (10 votes)​

Tác giả: Max Van Puyvelde, Ibrahim Gulluk, Wim Van Criekinge, Olivier Gevaert

Xuất bản lúc: 2026-06-17

Tag: Masked Autoencoder, Latent Diffusion, 3D Brain MRI, Conditional Generation, Transformer, Self-Supervised Learning

I. Main Problem:​

Các tokenizer hiện có cho latent diffusion trên 3D brain MRI thường được huấn luyện với mục tiêu tái tạo voxel, dẫn đến encoder ưu tiên độ chính xác thô ở cấp độ pixel và làm lu mờ thông tin lâm sàng quan trọng. Kết quả là các embedding thu được nghèo nàn về mặt nội dung lâm sàng và chỉ hữu ích cho việc tái tạo, không thích hợp cho các tác vụ hồi quy/phân loại bệnh lý.

II. Main Idea:​

BrainG3N đề xuất một tokenizer hai pha: Pha 1 huấn luyện một 3D Masked Autoencoder trên 35,309 khối lượng não để học embedding giàu thông tin lâm sàng. Pha 2 đóng băng encoder này và ghép nối nó với một CNN decoder qua một phép chiếu tuyến tính; từ đó embedding vừa phục vụ tác vụ lâm sàng vừa làm không gian tiềm ẩn cho một conditional diffusion transformer (DiT). DiT được điều kiện hóa theo sáu biến (bệnh, giới tính, phương thức, v.v.) và có thể dự báo diễn tiến dọc theo thời gian cho từng bệnh nhân.

III. Main Results:​

  • Trên 23 tác vụ linear probing, encoder đông lạnh của BrainG3N vượt hoặc ngang bằng ba mô hình nền tảng (BrainIAC, BrainSegFounder, MedicalNet) trên 21 tác vụ.
  • Đạt AUC 0,937 cho dự đoán đột biến IDH1 và AUC 0,967 cho dự đoán giới tính; sai số tuyệt đối trung bình cho tuổi não là 4,43 năm.
  • DiT tạo ảnh kiểm soát được: tương quan Pearson 0,93 cho độ tuổi yêu cầu; 3D-FID gen-vs-recons là 34,4, cạnh tranh với các công trình 3D trước đó.
  • Dự báo dọc theo thời gian: hệ số góc 0,268, tương quan 0,716 giữa khoảng thời gian yêu cầu và gia tăng tuổi não dự đoán.
  • Không phát hiện hiện tượng ghi nhớ dữ liệu huấn luyện qua kiểm tra láng giềng gần nhất trong không gian tiềm ẩn.

IV. Conclusion & Future Works:​

BrainG3N chứng minh rằng một MAE encoder có thể đóng vai trò tokenizer cho latent diffusion trên 3D brain MRI, đồng thời cung cấp embedding giàu thông tin lâm sàng và hỗ trợ sinh ảnh có kiểm soát. Hướng phát triển tương lai bao gồm mở rộng sang các phương thức 3D khác (CT, siêu âm) và cải thiện mức độ khuếch đại cường độ trong dự báo diễn tiến bệnh.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng kiến trúc MAE-CNN tokenizer cho các vùng cơ thể khác (toàn thân, ngực) để tạo embedding lâm sàng đa mục đích và hỗ trợ sinh ảnh latent diffusion trong y học.
  2. Kết hợp thêm các biến lâm sàng phức tạp như kết quả xét nghiệm máu, dược lý, hoặc dữ liệu gene để tăng cường khả năng kiểm soát và độ chính xác của DiT trong sinh ảnh bệnh nhân.
  3. Nghiên cứu cơ chế học liên tục (continual learning) cho tokenizer để cập nhật embedding với dữ liệu mới mà không làm mất kiến thức cũ, phục vụ triển khai tại bệnh viện với lưu lượng ảnh lớn và thay đổi theo thời gian.

2. Patent:​

  1. Hệ thống hỗ trợ chẩn đoán từ xa: Nhập ảnh MRI não từ bệnh viện tuyến dưới, trích xuất embedding lâm sàng bằng tokenizer đông lạnh và dùng DiT để sinh ảnh đối chứng giả định (ví dụ: 'nếu bệnh nhân này mắc Alzheimer thì não sẽ thế nào?'), hỗ trợ bác sĩ ra quyết định.
  2. Ứng dụng trên điện thoại cho bệnh nhân: Chụp ảnh MRI não được gửi lên đám mây, tokenizer phân tích và đưa ra dự báo tiến triển bệnh Parkinson hoặc Alzheimer dựa trên embedding và mô hình dự báo dọc, cảnh báo sớm cho người dùng.
  3. Công cụ tạo dữ liệu ảnh não tổng hợp cho đào tạo AI: Dùng DiT sinh ra hàng loạt ảnh não 3D với các tổ hợp bệnh, tuổi, giới tính khác nhau, giúp huấn luyện các mô hình chẩn đoán mà không cần thu thập dữ liệu bệnh nhân thực, bảo vệ quyền riêng tư.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2606.19651
ArXiv Abstracthttps://arxiv.org/abs/2606.19651
PDF Downloadhttps://arxiv.org/pdf/2606.19651.pdf
Github RepositoryN/A