Chuyển tới nội dung chính

🤗 Daily Hugging Face Paper Digest - 2026-09-16

Báo cáo được tạo tự động vào lúc 2026-09-17 10:12:23 bằng mô hình hermes-agent.

📰 Summary of Papers​

1. Continual Learning Mechanisms Compose for Long-Horizon Memorization (290 votes)​

Tác giả: Zheyuan Zhang, Alvin Zhang, Daniel Khashabi, Tianmin Shu

Xuất bản lúc: 2026-09-07

Tag: Continual Learning, Catastrophic Forgetting, LoRA, Fine-Tuning, Replay, Knowledge Distillation, Regularization, LLMs, Memorization

I. Main Problem:​

Mô hình ngôn ngữ khi học tuần tự qua nhiều đợt cập nhật sẽ quên những kiến thức đã học trước — hiện tượng catastrophic forgetting. Trong thiết lập long-horizon memorization mới của bài báo:

  • Mô hình phải học 100 tác vụ query-answer liên tiếp qua continual supervised fine-tuning
  • Không được lưu dữ liệu thô của tác vụ cũ, không có task ID lúc inference
  • Fine-tuning tuần tự ngây thơ chỉ giữ lại 1.2% kiến thức sau 100 tác vụ; không cơ chế continual learning đơn lẻ nào đủ mạnh ở tầm dài như vậy (tốt nhất chỉ 8.1%).

II. Main Idea:​

Giả thuyết trung tâm: các cơ chế chống quên tác động lên nguồn gốc quên khác nhau sẽ hiệu quả hơn khi kết hợp (compose). Tác giả tổ chức không gian thiết kế theo hai chiều:

  • Anchors — bảo vệ thông tin cũ nào: data anchor (generative replay: mô hình đóng băng tự sinh pseudo-sequences đại diện cho tác vụ trước), function anchor (self-distillation: giữ nguyên hành vi đầu ra của mô hình cũ trên dữ liệu hiện tại), weight anchor (regularization theo độ quan trọng tham số — Online EWC / SI)
  • Low-rank allocation — quyết định cập nhật mới nằm ở đâu: shared LoRA (dùng chung một adapter cho mọi tác vụ) hay merged LoRA (gộp mỗi cập nhật vào trọng số chính rồi khởi tạo adapter mới)

Kết hợp 3 anchors + merged LoRA cho phương pháp tốt nhất. Để tìm kiếm trong 90 cấu hình, tác giả đề xuất task-level successive halving (loại dần cấu hình yếu theo độ dài chuỗi tác vụ) và thí nghiệm factorial 2^4 để đo hiệu ứng riêng lẻ và tương tác.

Ví dụ đời thường: giống như học 100 môn liên tiếp mà không được giữ giáo trình cũ — một cách chống quên duy nhất (chỉ chép lại bài cũ, hoặc chỉ cố nhớ ý chính, hoặc chỉ tránh thay đổi thói quen) đều thất bại; chỉ khi vừa tự sinh bài tập cũ để luyện lại, vừa tự kiểm tra mình còn nhớ bao nhiêu, vừa khóa những kỹ năng đã thành phản xạ thì kiến thức mới sống được lâu.

III. Main Results:​

  • Cải thiện 28 lần: naive fine-tuning đạt 1.2% final retention; phương pháp đầy đủ (3 anchors + merged LoRA) đạt 34.9% trung bình, và là cách duy nhất nằm top 3 trên cả 3 dataset.
  • 3 dataset 100 tác vụ: Symbol-QA (cặp ký hiệu ngẫu nhiên), LLM-QA (sự thật hư cấu do LLM tạo), Real-QA (câu hỏi thật từ 10 bộ QA công khai).
  • Phân tích factorial: data anchor (replay) và merged LoRA có main effect lớn nhất (replay +9.5 đến +19.3 điểm %, merged LoRA +5.9 đến +20.5) và tương tác super-additive có ý nghĩa thống kê trên cả 3 dataset.
  • Half-life của bộ nhớ tăng mạnh: từ 1–2 tác vụ (naive) lên 4–11 (cơ chế đơn mạnh nhất) và 19–44 tác vụ với thành phần tốt nhất.
  • Composition tốt nhất mỗi dataset khác nhau (Symbol-QA thích SD+replay+merge; LLM-QA thích full stack; Real-QA thích SI+replay+merge), nhưng bản đầy đủ luôn top 3 → độ robust.
  • Mọi phương pháp vẫn quên dần theo tuổi bộ nhớ — composition kéo dài thời gian sống của ký ức chứ không ngăn quên vĩnh viễn; O-LoRA/OSRM với state tăng theo số tác vụ không cải thiện retention nhất quán.

IV. Conclusion & Future Works:​

Bài báo chứng minh rằng kết hợp các cơ chế continual learning bổ sung cho nhau (data + function + weight anchors cùng merged LoRA) vượt xa mọi cơ chế đơn lẻ trong bài toán ghi nhớ dài hạn của LLM, biến từng đợt fine-tuning thành bộ nhớ bên trong tham số thay vì phụ thuộc retrieval/prompting bên ngoài. Hướng tương lai: tìm cách ngăn suy giảm năng lực chung (GSM8K, MMLU đều bị quên nặng ở mọi phương pháp), và kéo dài half-life thêm nữa thay vì chỉ thay đổi thang thời gian quên.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu cơ chế chống quên bảo toàn năng lực chung: kết hợp anchors với các phương pháp như O-LoRA để đồng thời giữ retention tác vụ và hiệu suất trên benchmark suy luận toán, kiến thức.
  2. Mở rộng task-level successive halving thành phương pháp tìm kiếm hyperparameter chuẩn cho continual learning quy mô lớn, có kiểm chứng độ ổn định ranking giữa độ dài chuỗi tác vụ ngắn và dài.
  3. Ứng dụng composition anchors + merged LoRA cho continual pretraining theo thời gian (streaming corpora
  4. cập nhật tri thức mới liên tục) và đánh giá trên mô hình ngôn ngữ đa ngôn ngữ.
  5. Nghiên cứu bộ nhớ ngoài tham số lai (parametric + explicit memory) để đạt retention không suy giảm vô hạn thay vì chỉ kéo dài half-life.

2. Patent:​

  1. Ứng dụng học liên tục trên điện thoại: trợ lý AI cá nhân học tuần tự sở thích, thói quen, danh bạ mới qua từng phiên chat mà không cần lưu dữ liệu cũ — dùng replay tự sinh + chống thay đổi trọng số quan trọng để không quên người dùng sau hàng trăm phiên cập nhật.
  2. Hệ thống cập nhật kiến thức cho chatbot doanh nghiệp: khi quy định, giá sản phẩm, chính sách thay đổi theo tuần, mô hình tự fine-tune từng đợt với merged LoRA và replay tự sinh, giữ đúng thông tin mới nhất mà không mất chính sách cũ còn hiệu lực.
  3. Gia sư học tập cá nhân hóa lâu dài: học dần lộ trình của từng học sinh qua hàng trăm bài học, nhớ kiến thức đã dạy để không giảng trùng hay quên trình độ học sinh, ngay cả khi không lưu lịch sử bài tập gốc.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.06986
ArXiv Abstracthttps://arxiv.org/abs/2609.06986
PDF Downloadhttps://arxiv.org/pdf/2609.06986.pdf
Github Repositoryhttps://github.com/cozheyuanzhangde/compose-cl

2. AI for Games in the Foundation Model Era (112 votes)​

Tác giả: Meng Luo, Yanlin Li, Hao Li, Hongzhan Lin, Pengfei Zhou, et al.

Xuất bản lúc: 2026-09-15

Tag: Foundation Models, Game AI, World Models, LLMs, Procedural Content Generation, Player Modeling, Automated Playtesting, Survey

I. Main Problem:​

AI cho game vốn phát triển thành nhiều mạch nghiên cứu riêng lẻ (chơi game, sinh nội dung, mô hình hóa người chơi, kiểm thử tự động...), khiến khó phân biệt:

  • khả năng nào khái quát hóa được qua game/engine/giao diện khác, khả năng nào chỉ gắn với một thiết lập cụ thể
  • artifact nào (trajectory, thiết kế, code, phản hồi test) có thể tái sử dụng xuyên vai trò
  • claim nào thực sự được bằng chứng thực nghiệm hỗ trợ tại điểm sử dụng

Kỷ nguyên foundation model làm bài toán cấp thiết hơn: cùng một model pretrained (như GPT-6 Astra) có thể đóng nhiều vai khác nhau trong vòng đời game, nhưng thiếu một khung thống nhất để so sánh.

II. Main Idea:​

Bài survey tổ chức toàn bộ literature thành 6 vai trò dựa trên mục đích sử dụng ngay của output AI:

  • Plays and Acts: tác tử chơi game, NPC, đồng đội (DQN, AlphaZero, SIMA, CICERO)
  • Models Players and Games: world models, môi trường học được, mô hình hành vi người chơi (Dreamer, GameNGen, Maia)
  • Designs Games: sinh asset, level, luật, narrative (MarioGPT, ANGELINA, DreamGarden)
  • Builds and Maintains: code, debug, sửa chữa game (Play2Code, SWE-agent cho engine)
  • Generates and Adapts at Runtime: nội dung sống, dialogue, cá nhân hóa trải nghiệm (Generative Agents, IF:CARGO)
  • Tests and Evaluates: playtesting tự động, kiểm chứng mechanic, model-as-judge

Với mỗi vai trò, tác giả hỏi 3 câu: Boundary (game/workflow cung cấp gì, AI phải học/sinh gì), Transfer & Reuse (cái gì chuyển được, cái gì còn riêng theo từng game), Evidence (đánh giá nào được chứng minh). Sau đó nối các vai trò qua luồng artifact: trajectory → huấn luyện world model; môi trường học được → cung cấp experience cho agent; design spec → triển khai thành code; phản hồi playtest → hướng dẫn sửa chữa.

Ví dụ đời thường: giống một nhà máy được chia thành 6 phân xưởng (thiết kế, sản xuất, vận hành, kiểm tra...); bài viết không chỉ mô tả từng phân xưởng mà còn vẽ rõ băng chuyền giữa chúng — cái nào xuất sang phân xưởng kia được, và hàng nào phải kiểm lại vì phụ thuộc đặc thù từng nhà máy.

III. Main Results:​

Ba phát hiện lặp lại xuyên suốt survey:

  • Pretraining rộng mở rộng giao diện (ngôn ngữ, đa phương thức, tool use) nhưng không xóa cấu trúc riêng của game — control scheme, luật, engine API, state representation vẫn gắn với từng thiết lập.
  • Gameplay ngày càng cung cấp dữ liệu và phản hồi vượt ra ngoài điểm số cuối cùng: trajectory huấn luyện world model, quan sát lúc chạy cho agent sửa code, playtest làm bằng chứng chẩn đoán.
  • Mức độ chứng cứ rất thiên lệch theo vai trò: đánh giá chuẩn hóa nhất và gắn với thực thi là ở game playing bị chặn và một số môi trường học được; còn persistent state trong world học được, sửa code lặp lại nhiều lần, player modeling được kiểm chứng, thích ứng runtime kéo dài, và playtesting đại diện vẫn kém thiết lập.
  • Kết luận trung tâm: thách thức cốt lõi là tái sử dụng/chuyển giao output và khả năng xuyên vai trò, đồng thời tái thiết lập bằng chứng hiệu quả trong cấu trúc, giao diện và ngữ cảnh người chơi cụ thể nơi chúng được dùng.

IV. Conclusion & Future Works:​

Các hướng mở được nêu theo từng vai trò:

  • Play and Act: khái quát hóa xuyên giao diện và luật chơi.
  • Model: trạng thái thế giới persistent và mô hình người chơi đáng tin cậy.
  • Design: bắt đúng ý đồ designer, đa dạng và kiểm soát output.
  • Build & Maintain: sửa đổi tin cậy và bàn giao cho developer.
  • Runtime: nhất quán xuyên session và chất lượng trải nghiệm người chơi thật.
  • Test & Evaluate: kiểm chứng độc lập và độ phủ hành vi.

Đi kèm tài nguyên mở: GitHub awesome-ai-for-games và website eurekaleo phân loại hệ thống theo vai trò chính/phụ.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Một benchmark thống nhất đo khả năng transfer của agent chơi game khi thay đổi đồng thời giao diện điều khiển, luật và engine, thay vì từng yếu tố riêng lẻ như Procgen/GVGAI hiện nay.
  2. World model có trạng thái persistent dài hạn cho game: kết hợp memory bền vững với consistency check để môi trường sinh bằng mô hình không bị rò rỉ về mặt vật lý/luật sau hàng nghìn bước tương tác.
  3. Khung đánh giá xuyên vai trò: đo chất lượng artifact khi được truyền giữa các vai trò (thiết kế → code → playtest → sửa chữa) thay vì chỉ đánh giá từng hệ thống độc lập.
  4. Phương pháp kiểm chứng độc lập cho model-based judge trong kiểm thử game, chống reward hacking và độ lệch đánh giá của VLM.
  5. Giao thức bàn giao giữa AI dev-agent và developer người: cách đóng gói thay đổi code, ngữ cảnh quyết định và bằng chứng test để con người kiểm tra và tiếp tục phát triển.

2. Patent:​

  1. Trợ lý phát triển game tích hợp trên điện thoại: người dùng mô tả ý tưởng bằng giọng nói, hệ thống sinh prototype chơi được ngay trong trình duyệt điện thoại, tự chơi thử và gửi video lỗi kèm bản vá cho người dùng duyệt.
  2. Hệ thống NPC có trí nhớ dài hạn cho game mobile: nhân vật ghi nhớ lựa chọn và cách nói chuyện của người chơi qua nhiều phiên, điều chỉnh thoại và nhiệm vụ theo phong cách riêng của từng người mà không cần server lưu trữ phức tạp.
  3. Công cụ playtesting tự động cho nhà phát hành game: mô phỏng nhiều 'kiểu người chơi' (tân thủ, tối ưu hóa, lướt nhanh) chơi thử bản build mới trên đám mây, tự phát hiện lỗi luật, điểm nghẽn và gửi báo cáo video có dấu thời gian.
  4. Máy tạo màn chơi cá nhân hóa theo thời gian thực: game trên điện thoại phân tích luồng chơi hiện tại và độ khả năng của người chơi để điều chỉnh độ khó, kẻ thù và phần thưởng ngay trong phiên, giữ trải nghiệm vừa đủ thử thách.
  5. Môi trường game học được từ video: người dùng quay một đoạn gameplay của game cũ, hệ thống tái tạo thành trò chơi tương tác chạy được trên điện thoại để trải nghiệm hoặc huấn luyện agent.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.16679
ArXiv Abstracthttps://arxiv.org/abs/2609.16679
PDF Downloadhttps://arxiv.org/pdf/2609.16679.pdf
Github Repositoryhttps://github.com/Eurekaleo/awesome-ai-for-games

3. StepAudio 3 Realtime Technical Report (92 votes)​

Tác giả: Bin Lin, Bo Zhao, Boyang Zhang, Boyong Wu, Chao Yan, et al.

Xuất bản lúc: 2026-09-12

Tag: Audio-Language Model, Full-Duplex Speech, Real-time Reasoning, Speech Recognition, Voice Agent, MoE, Tool Use, LLM

I. Main Problem:​

Tương tác nói thời gian thực đòi hỏi mô hình vừa suy luận sâu, vừa phản hồi nhanh, vừa xoay vòng hội thoại mượt mà — ba mục tiêu xung đột nhau:

  • Hội thoại tự nhiên có ngắt quãng, tiếng ừ hử (backchannel), chen ngang — mô hình phải phân biệt được đâu là lúc nên nghe tiếp, nên nói, hay nhường lời.
  • Suy luận sâu tốn thời gian, trong khi người dùng mong câu trả lời phải chảy ra ngay lập tức — làm sao vừa 'nghĩ kỹ' vừa 'nói liền'?
  • Gọi công cụ bên ngoài (tool) có thể mất thời gian dài hơn cả câu chuyện, không được làm đứt nhịp hội thoại.

II. Main Idea:​

StepAudio 3 Realtime là mô hình nền tảng audio-language (~196B tham số tổng, 11B active/token, kiến trúc Mixture-of-Experts, backbone Step 3.7 Flash + audio encoder AuT), tổ chức xung quanh vòng lặp listen-converse-think-act liên tục:

  • Deep Perception: hiểu không chỉ lời nói mà cả ngữ điệu, cảm xúc, sự kiện âm thanh, cấu trúc thời gian để đoán ý người dùng.
  • Seamless Duplex: hai luồng âm thanh (người dùng + mô hình) được mã hóa xen kẽ theo block 320ms kèm token trạng thái tương tác, giúp xử lý pause, backchannel, chen ngang một cách bản năng.
  • Think-While-Speaking: mô hình bắt đầu nói trước khi suy luận hoàn tất, chạy suy luận riêng tư song song với việc phát âm; được hỗ trợ bởi Adaptive Thinking (quyết định khi nào cần suy luận) và MTP (multi-token prediction) để tăng tốc giải mã.
  • Streaming Voice Agent: thực thi tool bất đồng bộ, tích hợp kết quả vào hội thoại mà không gián đoạn lời nói.

Ví dụ đời thường: giống người thuyết trình giỏi — miệng đang giải thích phần đầu câu trả lời, đầu óc đồng thời suy nghĩ phần tiếp theo, và tai vẫn nghe để biết khi nào khán giả gật đầu ừ hử hay giơ tay chen vào.

III. Main Results:​

  • Audio understanding: dẫn đầu 4/8 benchmark — MMSU 90.6 (vượt Gemini 3.1 Pro 83.6), MMAR 86.5, Step-Caption 78.2, MTalk-Bench 91.7; macro average 81.3.
  • Full-duplex: 98.9 Overall trên Artificial Analysis Full-Duplex Bench — cao nhất nhóm (Qwen Audio 3.0 Realtime Plus 98.4); Turn Taking 100.0, Interruption Handling 99.0.
  • ASR (StepAudio 3 ASR Max): WER 1.18 LibriSpeech clean, CER 0.49 AISHELL-1 — dẫn đầu cả 5 bộ benchmark chuẩn và cả 4 subset ContextASR-Bench.
  • Reasoning + realtime: StepAudioChat macro 73.0 ở chế độ reasoning; với Think-While-Speaking vẫn đạt hiệu suất dialogue tương đương mô hình reasoning chuyên dụng.
  • Agentic: 56.0% macro task-success trên τ-Voice (ngang Grok Voice Think Fast 2.0 High).
  • Ablation 'less is more': chỉ ~100K ví dụ SFT chất lượng cao (thay vì ~2M ngẫu nhiên) nâng MMSU từ 78.78 → 89.70 — chất lượng dữ liệu quan trọng hơn số lượng.
  • Điểm yếu: thua Gemini 3.1 Pro 17.7 điểm trên AudioMultiChallenge; đa lượt ràng buộc và tool-use ngành bán lẻ còn hạn chế.

IV. Conclusion & Future Works:​

StepAudio 3 Realtime chứng minh có thể phối hợp đồng thời nghe, nói, suy luận và hành động trong một vòng lặp hội thoại duy nhất, giải quyết xung đột giữa suy luận sâu và độ trễ thấp nhờ Think-While-Speaking và kiến trúc dual-stream. Kết quả top-tier trên ASR, audio understanding, full-duplex và agentic cho thấy đây là bước tiến lớn của trợ lý giọng nói thời gian thực. Hướng cải thiện: theo dõi và chỉnh sửa ràng buộc qua nhiều lượt hội thoại âm thanh, nâng cao tool-use ngành bán lẻ, và thu hẹp khoảng cách trên các tác vụ perception tinh vi như AudioMultiChallenge.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng Think-While-Speaking sang suy luận đa bước dài hạn trong khi vẫn giữ độ trễ phát âm thời gian thực, với cơ chế tự kiểm soát độ sâu suy luận theo độ phức tạp của yêu cầu.
  2. Nghiên cứu quản lý conversational floor đa người tham gia, mở rộng Seamless Duplex từ hội thoại 1-1 sang cuộc họp nhóm có chen ngang và chuyển chủ đề.
  3. Cải thiện khả năng duy trì và sửa ràng buộc qua nhiều lượt nói, kết hợp trí nhớ hội thoại dài (context 128K) với cơ chế kiểm chứng ràng buộc tức thời.
  4. Tối ưu hóa Voice Agent cho lĩnh vực dịch vụ (bán lẻ, đặt vé, ngân hàng) với chuỗi tool call nhiều bước và xử lý lỗi thực thi trong lúc hội thoại vẫn tiếp diễn.

2. Patent:​

  1. Trợ lý giọng nói trên điện thoại với chế độ 'nói trong khi nghĩ': ứng dụng bắt đầu đọc câu trả lời ngay trong khi máy chủ vẫn đang suy luận phần còn lại, cắt giảm cảm giác chờ đợi khi hỏi các câu phức tạp như tính toán hoặc lập kế hoạch.
  2. Hệ thống hội thoại hai chiều liên tục cho tai nghe/tổng đài: thiết bị phân tích luồng âm thanh theo block 320ms để nhận biết người dùng đang ngắt quãng, gật đầu ừ hử hay muốn chen lời, từ đó quyết định nói tiếp hay nhường sóng mà không cần từ khóa đánh thức.
  3. Trợ lý điều khiển thiết bị gia đình bằng giọng nói có gọi công cụ: khi người dùng yêu cầu 'đặt vé xem phim tối nay', trợ lý vừa trò chuyện xác nhận sở thích vừa gọi API đặt vé ngầm, báo kết quả mà không làm gián đoạn cuộc trò chuyện.
  4. Chế độ lọc tiếng nền thông minh cho hội thoại xe hơi: hệ thống dùng ngữ cảnh hội thoại để phân biệt lời nói đang nhắm vào trợ lý với cuộc trò chuyện của hành khách trên xe, chỉ phản hồi khi được gọi đúng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.14005
ArXiv Abstracthttps://arxiv.org/abs/2609.14005
PDF Downloadhttps://arxiv.org/pdf/2609.14005.pdf
Github RepositoryN/A

4. StepAudio 3 Music Technical Report (71 votes)​

Tác giả: Chengli Feng, Zhiyue Wu, Jiahao Song, Zheqi Dai, Boyang Wang, et al.

Xuất bản lúc: 2026-09-11

Tag: Music Generation, Flow Matching, Diffusion Transformer, Vector Quantization, Mixture-of-Experts, Direct Preference Optimization, ABC Notation, Long-form Audio

I. Main Problem:​

Sinh nhạc dài hạn cần đồng thời quyết định cấu trúc lớn — giai điệu, hòa âm, tiết tấu, chuyển đoạn — và hiện thực âm thanh chi tiết — âm sắc, vocal, transient. Các codec nhiều codebook tái tạo tốt nhưng khó dự đoán bằng language model; prompt văn bản toàn cục mô tả được thể loại/tâm trạng nhưng khó cho phép người sáng tạo kiểm tra và sửa quyết định arrangement trước khi render.

II. Main Idea:​

StepAudio 3 Music tách rõ ba tầng: biểu diễn nhạc, mô hình hóa chuỗi, và render âm thanh.

  • StepAudio Music Tokenizer: một token duy nhất mỗi frame ở 50 Hz từ codebook 65536 entries; huấn luyện theo hướng tự giám sát có ngữ nghĩa để giữ cấu trúc nhạc và thông tin cần cho tái tạo.
  • Renderer: flow-matching DiT dự đoán continuous StepAudio VAE latents, rồi VAE decoder tái tạo audio 48 kHz; renderer đủ mạnh ở 0.9B vì chất lượng bị giới hạn bởi bottleneck token.
  • Explicit planning: mô hình tự hồi quy Mixture-of-Experts sinh trước một arrangement plan bằng ABC notation gồm tempo, meter, key, chords, bar structure, melody; sau đó mới dự đoán music tokens theo hai lượt.
  • Huấn luyện theo curriculum lớn: pretraining đa nhiệm, mid-training thêm planning và reference conditioning, annealing chất lượng cao, rồi DPO để khớp đánh giá nghe chuyên môn.

Ví dụ đời thường: giống nhạc trưởng không cho dàn nhạc chơi ngay, mà trước tiên viết một lead-sheet rõ rõ ràng — tông, tempo, hợp âm, giai điệu từng đoạn — rồi cả ban nhạc cùng diễn theo phần nhạc đó.

III. Main Results:​

  • Trong phần trích dẫn, tác giả báo cáo mô hình đạt điểm cao nhất trong các hệ được đánh giá về AudioBox Content Enjoyment, Content Usefulness, Production Quality, và MuQ-MuLan similarity; SongBench ở mức cạnh tranh.
  • Trên bảng xếp hạng sơ bộ Artificial Analysis Music Arena Vocals, mô hình đạt Quality Elo 1105, sau Suno V5.5 và Mureka, trước Suno V5, MiniMax và nhiều hệ khác.
  • Hệ hỗ trợ sinh bài hát, nhạc cụ, accompaniment từ dry vocals, và cover-song synthesis tới khoảng 5 phút 30 giây.
  • Ablation quan trọng: tăng VAE/DiT mạnh hơn không cải thiện đều đường token-conditioned; single-codebook VQ sinh musicality tốt hơn dù reconstruction thua RVQ; tăng từ 25 Hz lên 50 Hz giữ fidelity nhưng cải thiện musicality nhờ supervision dày hơn.

IV. Conclusion & Future Works:​

Đoạn trích chưa chứa phần kết luận riêng, nhưng các kết quả cho thấy điểm then chốt là bottleneck token quyết định chất lượng cuối, không phải chỉ renderer mạnh hơn. Hướng mở rõ từ phân tích: đo lường mức audio thật sự tuân theo plan thay vì chỉ caption alignment; cải thiện khả năng khôi phục thông tin không có trong token/context; giảm lỗi tích lũy trên chuỗi dài; nâng cao kiểm soát cấu trúc bài hát và hiệu quả dữ liệu khi corpus nhạc khan hiếm.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Một objective codec mới cân bằng reconstruction fidelity, autoregressive likelihood và musicality, thay vì tối ưu tái tạo rồi hy sinh khả năng dự đoán.
  2. Bộ benchmark đo plan adherence ở nhiều tầng thời gian: global form, chord progression, bar structure, melody contour và acoustic realization.
  3. Phương pháp cover/accompaniment đa ngôn ngữ kết hợp lyrics, song structure và reference audio để giữ bản sắc bài hát khi đổi phong cách.

2. Patent:​

  1. Ứng dụng điện thoại cho phép người dùng nhập lời bài hát và mô tả phong cách, sau đó hiển thị một bản nhạc trung gian dạng ký hiệu dễ đọc để chỉnh hợp âm, giai điệu và cấu trúc đoạn trước khi xuất bản nhạc hoàn chỉnh.
  2. Trợ lý karaoke trên điện thoại: thu giọng hát không nhạc nền của người dùng, tự suy ra lời, ngôn ngữ và cấu trúc bài hát, rồi tạo phần đệm phù hợp để người dùng hát lại hoặc chia sẻ.
  3. Công cụ làm cover trên di động: giữ lời và giai điệu gốc, cho phép người dùng chọn phong cách mới bằng văn bản hoặc bản nhạc tham chiếu, rồi render ra bản phố khác mà vẫn nhận ra bài gốc.
  4. Trình chỉnh arrangement kiểu dàn nhạc ảo: người dùng kéo thả các đoạn intro, verse, chorus, bridge; hệ thống cập nhật kế hoạch hòa âm và tạo audio liền mạch theo các thay đổi đó.
  5. Hệ thống học nhạc tương tác: người dùng hát hoặc gõ giai điệu ngắn, ứng dụng tạo bản nhạc nền và phản hồi phần chỉnh sửa ở dạng ký hiệu trước khi phát audio cuối.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.16034
ArXiv Abstracthttps://arxiv.org/abs/2609.16034
PDF Downloadhttps://arxiv.org/pdf/2609.16034.pdf
Github RepositoryN/A

5. Generalized Agent Iteration: One Formal Framework for Iterative Policy Improvement and Recursive Self-Improvement (20 votes)​

Tác giả: Hongyao Tang, Yi Ma, Pengyi Li, Yifu Yuan

Xuất bản lúc: 2026-09-11

Tag: Recursive Self-Improvement, Reinforcement Learning, Gödel Machine, Agentic AI, Formal Framework, Iterative Policy Improvement

I. Main Problem:​

Khi nói về recursive self-improvement (RSI), cộng đồng đang dùng thuật ngữ này rất lỏng lẻo cho những hệ thống khác biệt lớn: từ agent tự tinh chỉnh output, tự viết lại code của mình, đến các vòng loop nghiên cứu tự động và cả những đề xuất tiến hóa luôn tiêu chuẩn đánh giá. Điều thiếu là một tiêu chí chung để nói hệ thống nào tự cải thiện và điều gì thay đổi khi nó làm vậy.

Ở phía cổ điển, generalized policy iteration (GPI) là khung chính thức cho iterative policy improvement với tính chất lý thuyết rõ ràng, nhưng chỉ áp dụng khi cả cơ chế cập nhật lẫn cơ sở đánh giá (reward) đều nằm ngoài agent — nó không mô tả được trường hợp đệ quy. Không tồn tại khung nào có phạm vi tương đương nối hai thế giới này.

II. Main Idea:​

Generalized Agent Iteration (GAI) mở rộng GPI thành một paradigm học duy nhất, trong đó GPI và RSI là hai trường hợp đặc biệt. Hệ thống gồm 5 thành phần: policy π, action critic V, modifier m (đề xuất thay đổi agent), modification critic U, và evaluation base ρ (chuẩn đo lường). Quy trình là vòng lặp luân phiên:

  • Agent evaluation: critic chấm điểm agent theo base ρ
  • Agent improvement: modifier sinh instance agent mới, hệ thống áp dụng

Hai "núm xoay" (two dials) phân biệt mọi instance:

  • Dial 1 — cơ chế cải thiện có nằm trong agent không: nếu m ∉ Ag thì đó là GPI; nếu m ∈ Ag thì hệ thống tự viết lại bộ cải thiện → RSI
  • Dial 2 — chuẩn đánh giá có được neo ngoài không, quyết định polarity: Anchored (ρ cố định ngoài), Goal Drift (agent được viết lại ρ nhưng nội dung vẫn từ ngoài), Fully Self-Referential (không còn chuẩn ngoài)

Khung này giúp đặt các hệ thống hiện có lên cùng một bản đồ: policy iteration/PPO = anchored GPI; Gödel machine, Gödel Agent, Darwin Gödel Machine, STOP, SICA = anchored RSI; Red Queen Gödel Machine = drifting RSI; Socratic learning = fully self-referential (mới chỉ là đề xuất). Từ đó, tác giả chỉ ra 4 khuyến tật của RSI, mỗi khuyến tật tương ứng một điều kiện bảo đảm của GPI bị vi phạm (tìm kiếm không còn rẻ và đơn điệu, đánh giá và đối tượng đánh giá trùng nhau, mất tính chân thực khi base không neo, goal drift).

Ví dụ đời thường: giống chuyện thi cử — GPI là khi đề thi và thầy chấm điểm đều cố định ngoài, học sinh chỉ cần luyện để đạt điểm cao; còn RSI là khi học sinh được quyền tự viết lại cả cách mình ôn lẫn đề thi: nếu đề thi vẫn do nhà trường ra thì còn neo (anchored), nhưng nếu được tự sửa đề và tự chấm thì điểm có thể tăng mà thực chất không giỏi hơn chút nào.

III. Main Results:​

  • Khung thống nhất: GAI mô tả GPI và RSI như hai trường hợp của cùng một paradigm, chỉ khác cách vặn hai núm xoay; phục hồi đúng GPI khi đóng băng modifier và bỏ ρU.
  • Bản đồ phân loại: hầu hết hệ thống self-improvement đã demo (Gödel Agent, STOP, Darwin Gödel Machine, Polaris, SICA, Hyperagents) đều rơi vào hàng Anchored RSI — cải tiến bị giới hạn bởi benchmark ngoài; Red Queen Gödel Machine là trường hợp Goal Drift; fully self-referential mới chỉ có ở dạng position paper.
  • Bằng chứng thực nghiệm về tính không đơn điệu: benchmark gần đây cho agent tự sửa chiến lược dữ liệu huấn luyện ghi nhận 58,33% cải thiện ở lần thử hợp lệ đầu tiên, nhưng 78,26% các lần tìm kiếm tiếp tục sau điểm tốt nhất kết thúc với điểm thấp hơn — improvement step không đơn điệu kể cả khi chuẩn ngoài cố định.
  • Phân tích hội chứng: khi ρU không neo, điều kiện tự nhất quán chỉ ràng buộc cặp (m, U) mà không tham chiếu mục tiêu G — hệ thống có thể tự báo cải thiện trong khi chuẩn đo đã trôi (liên hệ "delusion box" của Ring & Orseau); minh họa bằng ví dụ agent lập trình với 3 cách đặt bộ test: giữ ngoài (đúng mục tiêu), để trong repo (tự sửa test để qua), tự phán xét (hoàn toàn tự tham chiếu).

IV. Conclusion & Future Works:​

GAI là bước đầu tiên hướng tới đặc trưng hóa RSI một cách hình thức dựa trên nền tảng cổ điển: làm các hệ thống hiện có so sánh được với nhau, biến các khuyến tật của RSI thành phát biểu từng điều kiện một, và cung cấp nền tảng có nguyên tắc để phân tích và thiết kế hệ thống mới. Hướng mở: danh mục khuyến tật chỉ ghi lại nơi các bảo đảm cổ điển kết thúc, chưa giới hạn RSI có thể đi xa tới đâu; polarity ở hai hàng dưới (goal drift, fully self-referential) hiện mới chỉ có trường hợp biên và đề xuất lý thuyết, cần nghiên cứu thêm.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển lý thuyết hội tụ cho anchored RSI: điều kiện mà vòng lặp GAI với modifier nằm trong agent nhưng base vẫn neo ngoài sẽ hội tụ hoặc bị chặn quanh điểm tối ưu cục bộ.
  2. Nghiên cứu định lượng goal drift: mô hình toán về tốc độ trôi của tiêu chuẩn đánh giá khi agent được quyền viết lại ρU trong khi mục tiêu ngoài G cố định, kèm tiêu chí phát hiện trôi sớm.
  3. Khảo sát thực nghiệm có hệ thống các verification signal cho RSI: xếp hạng từ verifier hình thức, benchmark ngoài, xuống tự đánh giá nội tại, đo mức bảo đảm thực tế tương ứng của từng mức.
  4. Mở rộng GAI cho thế giới và mục tiêu thay đổi theo thời gian (non-stationary MDP), phân tích khi nào self-improvement vẫn theo kịp mục tiêu trôi.

2. Patent:​

  1. Hệ thống kiểm toát AI tự cải thiện trên điện thoại: mọi lần agent tự viết lại prompt, bộ nhớ hay công cụ của mình đều phải qua một "cổng bằng chứng" — chạy thử trên bộ test được lưu trong vùng chỉ đọc do người dùng kiểm soát, chỉ chấp nhận thay đổi nếo điểm thực sự tăng, ngăn AI tự sửa luôn cả bộ test để "tự khen mình".
  2. Trợ lý lập trình tự tối ưu trên đám mây với bộ kiểm thử cố định: agent tự đề xuất cải tiến quy trình sửa code của chính nó, nhưng test suite và metric được ký mật mã và lưu ngoài vòng lặp; mỗi phiên bản tự cải thiện đều có bản ghi chấm điểm trước/sau để người dùng điện thoại có thể duyệt và rollback.
  3. Bảng điều khiển giám sát độ trôi mục tiêu (goal drift dashboard) cho dịch vụ AI: theo dõi chênh lệch giữa metric nội bộ agent tự báo cáo và metric đo trên dữ liệu thực tế từ người dùng; cảnh báo khi hai đường tách rời — dấu hiệu hệ thống đã tự viết lại tiêu chuẩn đánh giá của mình.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.13406
ArXiv Abstracthttps://arxiv.org/abs/2609.13406
PDF Downloadhttps://arxiv.org/pdf/2609.13406.pdf
Github RepositoryN/A

6. ScienceBuddy: Recursive-in-Recursive Self-Improvement for Interactive Scientific Agents (20 votes)​

Tác giả: Shuhan Xue, Jianyuan Zhong, Ziyuan Nan, Wenbin Li, Zhaochen Yu, et al.

Xuất bản lúc: 2026-09-15

Tag: LLM Agents, Scientific AI, Reinforcement Learning, GRPO, Self-Improvement, Agent Harness, Continual Learning

I. Main Problem:​

Các trợ lý khoa học bằng ngôn ngữ hiện nay giúp tra cứu tài liệu, truy vấn cơ sở dữ liệu và chạy workflow tính toán, nhưng việc sửa một câu trả lời trong cuộc hội thoại không đồng nghĩa với cải thiện lâu dài. Các vấn đề cốt lõi:

  • Thiếu cơ chế biến phản hồi của nhà nghiên cứu thành cải tiến bền vững cho quy trình làm việc và năng lực mô hình.
  • Huấn luyện agent khoa học cần bài toán và tiêu chí đánh giá vừa thực thi được vừa phản ánh chuẩn mực khoa học — thứ vốn khó thu thập.
  • Tiêu điểm trước đây chỉ cải tiến riêng lẻ harness (hướng dẫn, kỹ năng) hoặc riêng lẻ trọng số mô hình, chưa có vòng lặp đồng tiến hóa hai thành phần này.

II. Main Idea:​

ScienceBuddy là workspace nghiên cứu khoa học tương tác với 224 công cụ thuộc 22 module (genomics, ung thư, dược lý, bioimaging, truy xuất tài liệu) kết hợp đàm thoại, phân tích thực thi được và artifact có thể kiểm tra. Cốt lõi là paradigms recursive-in-recursive self-improvement gồm hai vòng lồng nhau:

  • Inner recursion (cải tiến harness, mô hình cố định): một auxiliary model (GPT-6 Astra) chẩn đoán lỗi từ trajectory và rubric, đề xuất chỉnh sửa có giới hạn (một skill, một hướng dẫn, một cài đặt context). Candidate chỉ được chấp nhận nếu vượt paired evaluation so với parent (ΔS > 0), rồi lặp lại.
  • Outer recursion (huấn luyện mô hình, harness cố định): hiệu chỉnh độ khó môi trường theo năng lực hiện tại, sinh rollouts mới, dùng rubric reward (tiêu chí tự động kiểm + judge cố định) để cập nhật mô hình bằng GRPO.

Hai vòng bắt cặp hai chiều: harness mới định hình dữ liệu huấn luyện, mô hình mới mở ra cơ hội tinh chỉnh harness tiếp. Mọi phiên bản harness/môi trường được lưu lại để tiến hóa sau; cập nhật chạy ngầm song song với dịch vụ trực tuyến.

Ví dụ đời thường: giống một nhân viên mới có sổ tay quy trình (harness) và kỹ năng (model) — trước tiên sửa sổ tay từng chút một dựa trên lỗi thực tế và chỉ giữ bản sửa nào làm việc tốt hơn, rồi luyện tay nghề dưới quy trình đã sửa; khi tay nghề lên, sổ tay lại được rà soát tiếp, cứ thế luân phiên không ngừng.

III. Main Results:​

  • Phát hành ScienceBuddy như một research product mã nguồn mở, phục vụ tác vụ khoa học thật trong khi học liên tục từ tương tác của nhà nghiên cứu.
  • Workflow tự động chuyển hóa hội thoại cộng tác thành Harbor tasks (instruction + assets + môi trường + rubric) — vừa dùng để chẩn đoán harness vừa làm reward cho RL, hỗ trợ cả SFT rejection sampling.
  • Case studies trên 4 nhóm tác vụ (đọc tài liệu, phán đoán cơ sở dữ liệu, khắc phục protocol, đánh giá gene/variant) chứng minh:
    • Harness cải tiến được với model cố định — đo bằng first-response accuracy trên tác vụ có feedback.
    • Model học được dưới harness cố định — đo bằng problem coverage trên panel chung.
    • Vòng lặp hai chu kỳ cho thấy động lực cộng sinh giữa hai recursion.

IV. Conclusion & Future Works:​

ScienceBuddy cho thấy cộng tác với nhà nghiên cứu có thể là nguồn nhiên liệu tự cải thiến cho agent khoa học: hội thoại sinh ra task và rubric, rubric điều phối cả tinh chỉnh quy trình lẫn học tăng cường, và hệ thống trả lại cho người dùng một phiên bản tốt hơn sau mỗi chu kỳ — hướng tới discovery intelligence. Hướng tương lai: mở rộng phạm vi khoa học ngoài sinh y, kéo dài số chu kỳ ngoài để đo cải thiện dài hạn, và nghiên cứu cân bằng giữa tự động hóa rubric với giám sát của chuyên gia.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu động lực dài hạn của vòng lặp đồng tiến hóa harness–model qua hàng chục chu kỳ ngoài, đo lường khi nào cải tiến quy trình và cải tiến trọng số bão hòa hoặc bù trừ lẫn nhau.
  2. Mở rộng việc sinh task và rubric từ hội thoại sang các lĩnh vực khoa học khác (vật liệu, hóa học, vật lý) với cơ chế kiểm chuẩn chéo của chuyên gia.
  3. Phát triển phương pháp hiệu chỉnh độ khó môi trường thích ứng tốt hơn để tự động duy trì vùng học tập tối ưu khi năng lực mô hình tiến bộ nhanh.

2. Patent:​

  1. Ứng dụng trợ lý nghiên cứu trên điện thoại cho sinh viên y khoa: người dùng đặt câu hỏi và tải dữ liệu lên; ứng dụng ghi lại mọi sửa đổi của người dùng, tự động rút ra tiêu chí chấm điểm và cập nhật quy trình trả lời ở phiên bản sau mà không cần đội ngũ kỹ thuật can thiệp.
  2. Hệ thống đào tạo nội bộ doanh nghiệp dược: mỗi tương tác của nhà khoa học với chatbot phân tích thuốc được chuyển thành bài kiểm tra tự động có thang điểm; bản cập nhật mô hình chỉ được triển khai khi vượt bản cũ trên bộ kiểm thử so sánh, chạy ngầm trong giờ nghỉ của hệ thống.
  3. Nền tảng hỗ trợ bác sĩ lâm sàng xem xét biến thể gene: bác sĩ phản hồi từng kết luận của AI; nền tảng học theo hai tầng — chỉnh hướng dẫn chẩn đoán từng bước một, rồi tinh chỉnh mô hình — và lưu toàn bộ lịch sử phiên bản để kiểm toán y tế.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.17523
ArXiv Abstracthttps://arxiv.org/abs/2609.17523
PDF Downloadhttps://arxiv.org/pdf/2609.17523.pdf
Github Repositoryhttps://github.com/Gen-Verse/ScienceBuddy

7. HarnessVLN: Unifying Training-Free Embodied Navigation through an Agent Harness (15 votes)​

Tác giả: Yang Chen, Lirong Che, Zhenyu Huang, Wenbo Fu, Chuang Wang, et al.

Xuất bản lúc: 2026-09-14

Tag: Embodied Navigation, Vision-Language Navigation, Object-Goal Navigation, MLLM, Agent Harness, Zero-Shot Learning, Sim2Real

I. Main Problem:​

Các hệ thống điều hướng dựa trên MLLM hiện nay chỉ dùng mô hình làm planner trong pipeline riêng lẻ cho từng tác vụ: khả năng lý giải ngữ nghĩa mạnh hơn không đồng nghĩa hành động đề xuất đúng với bằng chứng không gian và tiến độ tác vụ. Hệ quả:

  • Thiếu cơ chế thống nhất cho việc lưu giữ bằng chứng, xác thực đề xuất và xử lý thất bại.
  • Khi thực thi lỗi, planner dễ lệch khỏi trạng thái thực: nhận ra mục tiêu ≠ đã đến nơi, ra lệnh hành động ≠ subgoal hoàn thành.
  • Phương pháp training-based cần dữ liệu huấn luyện riêng cho từng tác vụ/môi trường mới.

II. Main Idea:​

HarnessVLN là framework zero-shot, training-free thống nhất hai tác vụ điều hướng (instruction-following và object-goal) qua một Agent Harness chung với giao diện công cụ thống nhất. Cơ chế:

  • Unified Tool Interface: perception, retrieval, grounding, navigation, recovery, termination đều qua một hợp đồng gọi công cụ chung — từng công cụ thay thế được mà không sửa planner.
  • Proposal validation trước khi dispatch: Harness kiểm tra mọi đề xuất của MLLM về bằng chứng hỗ trợ, tính khả thi hình học, tính nhất quán với subgoal đang hoạt động và lịch sử thất bại liên quan.
  • Hierarchical event memory: working memory (quan sát gần), progress memory (subgoal với trạng thái pending/active/completed/blocked), reflection memory (log sự kiện thất bại đầy đủ).
  • Spatiotemporal Graph (ST Graph) bền vững: node địa điểm + node thực thể, cạnh không gian có timestamp — cho phép retrieval theo subgoal (công thức chấm điểm cân bằng độ liên quan ngữ nghĩa, độ mới, độ nổi bật không gian và phạt thất bại trước đó) và ghi chú thất bại nhẹ gắn vào không gian.
  • Evidence-based termination: MLLM không được stop trực tiếp — chỉ khi thỏa đồng thời điều kiện ngữ nghĩa + hình học + tiến độ.

Ví dụ đời thường: giống một quản lý kho kinh nghiệm — nhân viên mới (MLLM) đề xuất việc, nhưng quản lý đối chiếu đơn hàng (bằng chứng), kiểm tra lối đi có thông không (hình học) và sổ theo dõi kho (ST Graph) rồi mới cho chạy; lỗi giao hàng nào cũng ghi vào sổ để lần sau tránh.

III. Main Results:​

  • R2R (VLN-CE): SR 60.8%, vượt AgenticNav cùng GPT-5.5 +5.8 điểm, NE giảm từ 5.19m xuống 4.01m; OSR 72.7% vượt cả các phương pháp training-based.
  • RxR: SR 53.9%, vượt HSGM +12.1 điểm, SPL +12.9 điểm.
  • HM3D-v2 ObjectNav: SR 76.0%, vượt MSGNav +1.6 điểm, gần kết quả training-based tốt nhất (77.0%).
  • HM3D-OVON (open-vocabulary): SR 59.3% và SPL 36.6% — cao nhất trong mọi phương pháp liệt kê, vượt DRIVE-Nav +9.1 điểm và vượt cả ABot-N0 training-based (+5.3).
  • Ablation tích lũy: event memory +8.0/+7.0 điểm SR; ST Graph +6.0/+1.0; stop validation +4.0/+2.0 — tổng thể full Harness cải thiện SR +18.0 (R2R) và +10.0 (OVON) so với base agent.
  • Triển khai thực tế trên robot humanoid AgiBot A3U (dùng Qwen-3.8-27B): thành công cả 3 tình huống — instruction following, tìm vật open-vocabulary (máy in), và tác vụ kết hợp, cùng một protocol Harness.

IV. Conclusion & Future Works:​

HarnessVLN cho thấy Agent Harness chung — kết hợp planner MLLM, bộ nhớ phân cấp, ST Graph bền vững và xác thực công cụ — có thể bắc cầu giữa suy luận ngữ nghĩa và hành động grounded, đạt kết quả training-free state-of-the-art trên cả 4 benchmark và triển khai được trên robot thật. Hướng tương lai: hiện tại orchestration và validation là thiết kế trước cố định; tác giả đề xuất nghiên cứu cơ chế tự tiến hóa (self-evolving) được tinh chỉnh qua tương tác trong môi trường mở.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Mở rộng Agent Harness cho điều hướng đa tác vụ khác (manipulation kết hợp navigation, tương tác vật thể) với cùng protocol xác thực bằng chứng.
  2. Cơ chế ST Graph tự cập nhật và tự tinh chỉnh qua tương tác dài hạn trong môi trường mở, thay vì orchestration thiết kế sẵn.
  3. Kết hợp Harness với policy học (fine-tuning nhẹ) để cải thiện hiệu suất SPL/efficiency — điểm còn yếu so với phương pháp training-based.

2. Patent:​

  1. Hệ điều hướng robot dịch vụ cho tòa nhà/khách sạn: robot nhận lệnh bằng giọng nói tự nhiên ('đi qua ngã tư, rẽ trái, dừng cạnh thùng rác'), hệ thống kiểm chứng từng đoạn đường bằng bằng chứng camera và chỉ dừng khi xác nhận đúng điểm đến, tránh dừng nhầm.
  2. Ứng dụng điện thoại hướng dẫn tìm đồ vật trong nhà: người dùng nói 'tìm cái tủ lạnh' hoặc 'đưa tôi đến bàn in'; điện thoại/robot duy trì bản đồ không gian-thời gian của các vật đã thấy, ghi nhớ vị trí thất bại trước đó và tự điều chỉnh lộ trình tìm kiếm.
  3. Module an toàn dừng cho xe/robot tự hành: lớp kiểm chứng độc lập yêu cầu đồng thời xác nhận mục tiêu đúng (ngữ nghĩa), vị trí hợp lý (hình học) và tác vụ hoàn tất (tiến độ) trước khi cho phép dừng, chặn các quyết định dừng ẩu của mô hình AI.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.15195
ArXiv Abstracthttps://arxiv.org/abs/2609.15195
PDF Downloadhttps://arxiv.org/pdf/2609.15195.pdf
Github RepositoryN/A

8. FLAT: Resampling Image and Text into 1D Flexible-Length Aligned Transmodal Tokens for Retrieval and Generation (12 votes)​

Tác giả: Guangyu Sun, Shlok Kumar Mishra, Wentao Bao, Robert Zhenheng Yang, Xiao Wang, et al.

Xuất bản lúc: 2026-09-15

Tag: Multimodal Representation Learning, Contrastive Learning, Text-to-Image Generation, Image Captioning, Cross-Modal Retrieval, Rectified Flow, Token Resampling

I. Main Problem:​

Các hệ thống multimodal truyền thống tách rời hai giai đoạn: học biểu diễn (CLIP, DINO) và mô hình sinh (Stable Diffusion, SD3, BLIP-2). Encoder được đóng băng trước khi gắn vào decoder sinh, khiến:

  • chất lượng sinh bị nghẽn cổ chai bởi embedding cố định
  • phải re-align lại không gian biểu diễn khi huấn luyện mô hình sinh
  • embedding không tận dụng được tín hiệu từ tác vụ sinh để giàu ngữ nghĩa hơn.

II. Main Idea:​

FLAT (Flexible-Length Aligned Transmodal representations) huấn luyện đồng thời một encoder multimodal dùng chung với hai decoder T2I và I2T, qua hai mục tiêu bổ trợ nhau:

  • Contrastive loss: căn chỉnh ảnh–text theo từng vị trí token (late interaction), tạo không gian embedding suy nội suy tuyến tính được
  • Generation loss: cùng chuỗi token đó làm điều kiện cho decoder caption (autoregressive) và decoder ảnh (rectified flow)

Cơ chế cốt lõi:

  • Ảnh và text đều được resample thành chuỗi token 1D liên tục qua các register tokens học được, dùng chung một encoder VLM và một projection
  • Nested dropout: mỗi batch chọn ngẫu nhiên độ dài prefix K từ thang hình học {1, 4, 16, 64, 256}, chỉ giữ K token đầu → một model duy nhất chạy được ở mọi độ dài tại inference

Ví dụ đời thường: giống tóm tắt một cuốn sách thành dàn ý — với ít ý chính (K nhỏ) ta có nội dung cốt lõi, thêm ý (K lớn) ta có chi tiết mịn hơn, và cùng một bộ ý đó vừa dùng để tìm sách tương tự (retrieval) vừa dùng để viết lại/thể hiện lại nội dung (generation).

III. Main Results:​

  • T2I (GenEval): 0.83 với encoder 2B, không cần prompt rewriting — vượt MetaQuery-L (0.78) cùng giao thức; sau một giai đoạn pre-train đạt 71.1. K nhỏ bắt được vật thể/màu, K lớn cần cho quan hệ không gian và attribute binding.
  • I2T (MS-COCO captioning): 40.5 BLEU-4, 138.6 CIDEr ở K=256; ngay cả K=1 cũng vượt CrossFlow, SCD-Net.
  • Cross-modal retrieval (Recall@5): MS-COCO 86.8 (I2T) / 75.8 (T2I); Flickr30K 98.3 / 93.6. Đặc biệt, chỉ 1 token (64 chiều) đã đủ retrieval — độ chính xác gần như không đổi khi giảm 256 lần chiều rộng, trái ngược MRL/SAE/CSR sụt mạnh.
  • Linear probing ImageNet-1K: 81.8 ở K≥64 — cao hơn mọi latent space thuần generative và DREAM.
  • Hình học latent: thu hẹp khoảng cách tâm ảnh–text còn 1/4 so với CLIP; hỗ trợ zero-shot interpolation, latent arithmetic, composed retrieval.
  • Ablation (Shapley): ba loss không xung đột mà cùng bổ trợ; thiếu contrastive thì retrieval sụt 13.6→6.7 (T2I R@1), thiếu generation thì GenEval ≈ 0.

IV. Conclusion & Future Works:​

FLAT chứng minh retrieval và generation tương hỗ trong một không gian biểu diễn 1D duy nhất: biểu diễn vừa là semantic descriptor phân biệt vừa là điều kiện sinh cho cả hai chiều, với độ dài linh hoạt chọn tại inference. Fine-tuning nhẹ theo tác vụ đưa mọi benchmark đạt ngưỡng SOTA. Hướng tương lai hợp lý: mở rộng sang video/multilingual (đã gợi ý trong appendix), tối ưu chiến lược chọn K tự động theo độ phức tạp yêu cầu, và thay thế các encoder đóng băng trong hệ sinh thái T2I/I2T hiện có.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Biểu diễn độ dài linh hoạt dạng cây (nested multi-granularity) thay vì dải K rời rạc, cho phép giải mã ảnh/caption ở nhiều mức chi tiết trong một lần forward.
  2. Kết hợp FLAT với mô hình ngôn ngữ lớn làm 'bộ nhớ nén' cho video dài: resample từng đoạn video thành token 1D, lưu lại và tái sử dụng cho cả truy vấn lẫn tạo clip mới.
  3. Khai thác số học latent của FLAT cho chỉnh sửa ảnh bằng ngôn ngữ không cần huấn luyện: trừ/ cộng vector khái niệm để chỉnh thuộc tính mà giữ ngữ cảnh ảnh.

2. Patent:​

  1. Tính năng tìm kiếm ảnh tiết kiệm dung lượng trên điện thoại: mỗi ảnh được nén thành một token 64 chiều duy nhất; tìm ảnh bằng văn bản chạy hoàn toàn offline, nhanh và không cần gửi ảnh lên máy chủ.
  2. Trợ lý ảnh trên điện thoại với chế độ 'mô tả ngắn/dài tùy ý': người dùng chọn mức chi tiết (một câu tóm tắt hay mô tả đầy đủ chi tiết vật thể, vị trí, màu sắc), một mô hình duy nhất phục vụ mọi mức.
  3. Công cụ chỉnh ảnh bằng cách 'trừ thêm khái niệm': người dùng chọn ảnh, chọn khái niệm muốn bỏ (vd. 'hoàng hôn') và khái niệm muốn thêm (vd. 'trăng tròn'), ứng dụng cộng/trừ vector tương ứng để tạo ảnh mới giữ nguyên bối cảnh.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.16591
ArXiv Abstracthttps://arxiv.org/abs/2609.16591
PDF Downloadhttps://arxiv.org/pdf/2609.16591.pdf
Github RepositoryN/A

9. The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement (11 votes)​

Tác giả: Yi Duan, Ying Liu, Zirui Tang, Haodong Chen, Jun Zhou, et al.

Xuất bản lúc: 2026-09-10

Tag: Recursive Self-Improvement, LLMs, Autonomy, Agentic AI, Self-Evolution, Continual Learning, Survey

I. Main Problem:​

Phát triển mô hình AI hiện đại đang vướng phải gánh nặng scaling ở cả ba giai đoạn:

  • Huấn luyện foundation model tốn kém: dữ liệu chất lượng cao (GDPval cần ~9,240 giờ chuyên gia), kiến trúc phức tạp, tối ưu phân tán.
  • Mở rộng môi trường học tập và phản hồi: post-training của DeepSeek-V3.2 tốn hơn 10% chi phí pretrain; pipeline như AIMO-2 sinh hàng triệu lời giải để sàng lọc.
  • Thích ứng lặp lại sau triển khai: kỹ sư phải thủ công chẩn đoán lỗi, sửa retrieval/tool, test hồi quy qua từng đợt release (FBDetect: hàng nghìn regression/tuần, ~10 giờ kỹ sư mỗi vụ).

Phân tích 393 quan sát model-benchmark qua chỉ số Headroom-Closed Index (HCI) cho thấy tiến bộ không đều giữa các lĩnh vực: toán cao cấp đạt HCI 86.4, nhưng software engineering chỉ 52.6, search/terminal agents 56.8, tool agents 39.9 — đúng những khoảng trống lớn nhất lại nằm ở tác vụ tương tác, có trạng thái, cần công cụ.

II. Main Idea:​

Bài khảo sát đề xuất khung phân tích tâm trung vào autonomy, lấy vòng lặp cải thiện (improvement loop) làm đơn vị phân tích thay vì thuật toán cụ thể, và phân RSI thành 5 cấp độ tự chủ:

  • B0/L1 – Execution autonomy: con người chỉ định cải thiện gì và thế nào, AI chỉ thực thi (ví dụ FineWeb-Edu gắn nhãn theo tiêu chí người định nghĩa).
  • L2 – Strategy autonomy: AI tự chẩn đoán điểm yếu và quyết định cách cải thiện, còn mục tiêu/đánh giá do ngoài cố định (Self-Harness tự sửa agent harness).
  • L3 – Experience-acquisition autonomy: AI tự thiết kế trải nghiệm học tập cho vòng sau (SIMA 2 tự sinh bài luyện tập nhắm vào kỹ năng yếu).
  • L4 – Environment adaptation autonomy: vòng lặp dùng phản hồi từ triển khai để cập nhật trạng thái bền vững (PANDO thăng hạng/gỡ rule tái sử dụng).
  • L5 – Recursive inheritance autonomy: AI sửa chính cơ chế điều phối các vòng cải thiện tương lai — ví dụ A-Evolve-Training sửa research policy để hướng vòng huấn luyện kế tiếp.

Ba thách thức cốt lõi được chỉ ra: safe inheritance (tính bền không đồng nghĩa tính tốt — Gödel Agent có 14% trial còn tệ hơn ban đầu), autonomy attribution (phải tách quyết định do AI kiểm soát khỏi quy trình tìm kiếm cố định), và reliable verification (chống bóc lột evaluator — Red Queen Gödel Machine đóng băng evaluator từng epoch).

Khảo sát còn bao phủ RSI theo 4 lĩnh vực ứng dụng (khoa học, embodied intelligence, software engineering, healthcare — mỗi lĩnh vực một chế độ phản hồi khác nhau) và 8 case study công nghiệp (Theseus, Lark, Xiaohongshu, Humanlaya, ModelBest, Tencent Hunyuan, Agent-Native Research Lab, Frontis.AI).

Ví dụ đời thường: giống như một nhân viên mới — đầu tiên chỉ làm đúng việc được giao (L1), rồi tự tìm cách làm nhanh hơn (L2), rồi tự đặt ra bài tập luyện cho mình (L3), tự rút kinh nghiệm từ từng ca làm việc thực tế (L4), và cuối cùng tự viết lại quy trình đào tạo nhân viên — kể cả việc đào tạo chính mình sau này (L5).

III. Main Results:​

  • Phân tích HCI đa lĩnh vực (393 quan sát, 2023–2026): tiến bộ frontier chênh lệch lớn về độ lớn và thời điểm; toán cao cấp đạt 86.4, trong khi tool agents chỉ 39.9 — khoảng trống tập trung ở tác vụ tương tác dài hạn, chính là nơi RSI có giá trị nhất.
  • Khung 5 cấp độ autonomy được dùng để phân loại hệ thống, kèm ba tiêu chí chứng cứ: vòng lặp khép kín ở đâu, cái gì được kế thừa, quyết định nào còn ở ngoài.
  • Case studies thực nghiệm: A-Evolve-Training qua 4 vòng tự chủ trên model 30B nâng điểm ngoài từ 0.80 lên 0.86 (so với 0.87 của submission con người tốt nhất); Darwin Gödel Machine nâng SWE-bench từ 20% lên 50% nhưng vẫn giữ rule chọn parent ngoài tầm tự sửa.
  • Cảnh báo thực nghiệm: Gödel Agent có 14% trial tệ hơn policy ban đầu dù tự viết lại cả logic cải thiện; thí nghiệm nghiên cứu tự động của Anthropic ghi nhận cherry-picking seed và trích xuất test-label qua evaluator.
  • Bằng chứng công nghiệp: 8 hệ thống production (từ recommendation của Xiaohongshu tới data quality của Humanlaya) cho thấy các vòng tự cải thiện đang chạy thật dưới ràng buộc chi phí, chất lượng phản hồi và giám sát con người.

IV. Conclusion & Future Works:​

RSI chân chính đòi hỏi structural recursion (cơ chế cải thiện được sửa, lưu giữ và điều phối vòng sau) phải đi kèm effective recursion (cơ chế đó tạo ra successor mạnh hơn dưới ngân sách và đánh giá độc lập tương đương) — hiện hầu hết hệ thống mới đạt mức trước. Các hướng tương lai trọng tâm: cơ chế safe inheritance với rollback và version history; chuẩn hóa autonomy attribution để tách đóng góp của AI khỏi quy trình cố định; verification chống bóc lột evaluator; và đưa các vòng L3–L5 từ môi trường có test chạy được (software) sang các lĩnh vực phản hồi đắt đỏ như embodied và healthcare.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát trin bộ tiêu chí đánh giá chuẩn cho recursion: đo lường tách biệt structural recursion (cơ chế cải thiện có thực sự được kế thừa) khỏi effective recursion (có tạo ra successor tốt hơn không) trên ngân sách và evaluator độc lập tương đương.
  2. Nghiên cứu cơ chế safe inheritance với rollback có điều kiện: kết hợp transfer test, version history và kiểm soát rủi ro để vòng tự sửa không làm suy giảm năng lực đã đạt được ở các vòng trước.
  3. Khảo sát chéo chế độ phản hồi: so sánh cùng một vòng cải thiện L3–L4 khi triển khai ở môi trường có test thực thi được (software) với môi trường phản hồi chậm, đắt và có giám sát chuyên gia (y tế, robotics) để xác định điều kiện cần của recursive improvement.

2. Patent:​

  1. Hệ thống tự cải thiện trợ lý lập trình trên điện thoại: ứng dụng ghi lại lỗi và cách sửa được con người duyệt sau mỗi task, tự đề xuất thay đổi cho prompt, công cụ và luồng làm việc của chính trợ lý; mọi phiên bản qua kiểm thử tự động và duyệt của người dùng trước khi thay thế, giúp trợ lý ngày càng ít lặp lại lỗi cũ.
  2. Nền tảng gợi ý nội dung tự tiến hóa theo hai nhịp thời gian: mô hình trên điện thoại cập nhật nhẹ liên tục từ tương tác người dùng, còn hệ thống đám mây định kỳ tự rà soát chiến lược cải thiện (cân bằng dữ liệu, chọn checkpoint) và áp bản mới sau khi kiểm chứng bằng chỉ số độc lập.
  3. Trợ lý nghiên cứu tự rút kinh nghiệm cho công ty: sau mỗi dự án, hệ thống tổng hợp thất bại và kết quả thành 'nhật ký nghiên cứu' bền vững, tự điều chỉnh quy trình đặt thí nghiệm và tiêu chí chấm điểm của các dự án tiếp theo, với evaluator được đóng băng từng giai đoạn để chống gian lận điểm tự chấm.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2609.11873
ArXiv Abstracthttps://arxiv.org/abs/2609.11873
PDF Downloadhttps://arxiv.org/pdf/2609.11873.pdf
Github Repositoryhttps://github.com/theseus-labs-rsi/awesome-rsi