Chuyển tới nội dung chính

🤗 Daily Hugging Face Paper Digest - 2026-01-27

Báo cáo được tạo tự động vào lúc 2026-01-28 10:08:16 bằng mô hình gemini-2.5-flash.

📰 Summary of Papers​

1. Can LLMs Clean Up Your Mess? A Survey of Application-Ready Data Preparation with LLMs (129 votes)​

Tác giả: Wei Zhou, Jun Zhou, Haoyu Wang, Zhenghao Li, Qikang He, Shaokun Han, Guoliang Li, Xuanhe Zhou, Yeye He, Chunwei Liu, Zirui Tang, Bin Wang, Shen Tang, Kai Zuo, Yuyu Luo, Zhenzhe Zheng, Conghui He, Jingren Zhou, Fan Wu

Xuất bản lúc: 2026-01-22

Tag: LLMs, Data Preparation, Data Cleaning, Data Integration, Data Enrichment, Agents, Survey

I. Main Problem:​

Dữ liệu thô thường chứa các vấn đề về chất lượng, sự không nhất quán và thiếu ngữ nghĩa, gây khó khăn cho các ứng dụng hạ nguồn. Các phương pháp chuẩn bị dữ liệu truyền thống (dựa trên quy tắc tĩnh, thủ công, hoặc mô hình chuyên biệt) có những hạn chế đáng kể: đòi hỏi nhiều công sức và chuyên môn, thiếu hiểu biết ngữ nghĩa, khả năng khái quát hóa kém, và phụ thuộc nhiều vào dữ liệu được gắn nhãn. Điều này dẫn đến tình trạng chuẩn bị dữ liệu trở thành một nút thắt cổ chai quan trọng, gây lãng phí doanh thu đáng kể trong các doanh nghiệp.

II. Main Idea:​

Bài nghiên cứu này trình bày một đánh giá có hệ thống về cách các Mô hình Ngôn ngữ Lớn (LLM) đang trở thành một phương pháp biến đổi và tiềm năng thống trị trong chuẩn bị dữ liệu sẵn sàng cho ứng dụng. Nó đặc trưng hóa sự thay đổi mô hình cơ bản từ các quy trình dựa trên quy tắc, chuyên biệt cho từng mô hình sang các quy trình được điều khiển bằng lời nhắc, nhận biết ngữ cảnh và dựa trên tác tử (agentic). Bài báo giới thiệu một phân loại theo nhiệm vụ, tổ chức lĩnh vực thành ba nhiệm vụ chính: làm sạch dữ liệu (Data Cleaning), tích hợp dữ liệu (Data Integration), và làm giàu dữ liệu (Data Enrichment). Đối với mỗi nhiệm vụ, bài báo khảo sát các kỹ thuật đại diện, nêu bật điểm mạnh (ví dụ: khả năng khái quát hóa, hiểu biết ngữ nghĩa) và hạn chế của chúng (ví dụ: chi phí cao, ảo giác, đánh giá yếu).

III. Main Results:​

Bài khảo sát đã phát hiện ra rằng LLM mang lại sự thay đổi mô hình trong chuẩn bị dữ liệu, cho phép các quy trình làm việc dựa trên lời nhắc, nhận biết ngữ cảnh và có khả năng hoạt động như tác tử, khác biệt so với các phương pháp dựa trên quy tắc truyền thống. Nó phân loại lĩnh vực thành ba nhiệm vụ cốt lõi: Làm sạch dữ liệu (bao gồm chuẩn hóa, xử lý lỗi, điền dữ liệu thiếu), Tích hợp dữ liệu (bao gồm ghép nối thực thể, ghép nối lược đồ), và Làm giàu dữ liệu (bao gồm gán nhãn, lập hồ sơ). Mặc dù các kỹ thuật dựa trên LLM cho thấy điểm mạnh như khả năng khái quát hóa và hiểu biết ngữ nghĩa được cải thiện, chúng vẫn đối mặt với các hạn chế như chi phí cao khi mở rộng LLM, khả năng tạo ra "ảo giác" (hallucinations) ngay cả trong các tác tử tiên tiến, và sự không phù hợp giữa các phương pháp tiên tiến với các giao thức đánh giá hiện có.

IV. Conclusion & Future Works:​

LLM đang định hình lại lĩnh vực chuẩn bị dữ liệu bằng cách cung cấp các giải pháp thông minh và thích ứng hơn so với các phương pháp truyền thống. Để vượt qua các hạn chế hiện tại và khai thác tối đa tiềm năng của LLM, các hướng nghiên cứu trong tương lai cần tập trung vào việc phát triển các hệ thống LLM-dữ liệu có khả năng mở rộng, thiết kế nguyên tắc cho các quy trình làm việc dựa trên tác tử đáng tin cậy, và các giao thức đánh giá mạnh mẽ.

V. Brainstorming Space:​

1. Publish Papers:​

  • Nghiên cứu một khuôn khổ tác tử LLM đáng tin cậy để tự động phát hiện và sửa chữa lỗi dữ liệu trên nhiều kiểu dữ liệu không đồng nhất.
  • Phát triển các phương pháp đánh giá định lượng và định tính mới để đo lường hiệu quả của LLM trong các tác vụ chuẩn bị dữ liệu, đặc biệt là về khả năng khái quát hóa và giảm "ảo giác".
  • Khám phá các kỹ thuật tinh chỉnh LLM hiệu quả về chi phí cho các tác vụ chuẩn bị dữ liệu cụ thể, nhằm giảm sự phụ thuộc vào dữ liệu được gắn nhãn lớn và giải quyết vấn đề chi phí mở rộng.

2. Patent:​

  • Một hệ thống trợ lý cá nhân trên điện thoại thông minh sử dụng trí tuệ nhân tạo để tự động làm sạch và tổ chức dữ liệu liên hệ, lịch và ghi chú của người dùng, giải quyết các định dạng không nhất quán và thông tin trùng lặp.
  • Ứng dụng di động giúp người dùng chuẩn bị dữ liệu cho phân tích cá nhân (ví dụ: ngân sách, sức khỏe) bằng cách cho phép họ mô tả các yêu cầu chuẩn bị bằng ngôn ngữ tự nhiên, và trí tuệ nhân tạo sẽ tự động chuyển đổi dữ liệu thành định dạng mong muốn.
  • Công nghệ tích hợp trong camera điện thoại thông minh, sử dụng trí tuệ nhân tạo để tự động gắn nhãn và sắp xếp ảnh dựa trên ngữ cảnh được phát hiện (ví dụ: "chuyến đi biển mùa hè 2023", "bữa tối gia đình"), đồng thời đề xuất làm phong phú thông tin bằng cách kết nối với dữ liệu vị trí hoặc lịch sử.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.17058
ArXiv Abstracthttps://arxiv.org/abs/2601.17058
PDF Downloadhttps://arxiv.org/pdf/2601.17058.pdf
Github Repositoryhttps://github.com/weAIDB/awesome-data-llm

2. daVinci-Dev: Agent-native Mid-training for Software Engineering (106 votes)​

Tác giả: Ji Zeng, Dayuan Fu, Tiantian Mi, Yumin Zhuang, Yaxing Huang, Xuefeng Li, Lyumanshan Ye, Muhang Xie, Qishuo Hua, Zhen Huang, Mohan Jiang, Hanning Wang, Jifan Lin, Yang Xiao, Jie Sun, Yunze Wu, Pengfei Liu

Xuất bản lúc: 2026-01-26

Tag: Large Language Models, Software Engineering, Code Generation, Mid-training, Agents

I. Main Problem:​

Các mô hình ngôn ngữ lớn (LLM) hiện tại gặp khó khăn trong kỹ thuật phần mềm mang tính tác tử (agentic software engineering) vì chúng chủ yếu được huấn luyện trên dữ liệu tĩnh, không phản ánh quy trình tương tác thực tế của việc phát triển phần mềm. Phương pháp hậu huấn luyện (post-training) phổ biến hiện nay có những hạn chế về số lượng và tính đa dạng của dữ liệu, chi phí thu thập quỹ đạo chuyên gia cao, và giới hạn khả năng nội tại của mô hình cơ sở. Vấn đề cốt lõi là sự không phù hợp phân phối (distribution mismatch) giữa dữ liệu huấn luyện tĩnh và môi trường phát triển thực tế, năng động, giàu phản hồi.

II. Main Idea:​

Bài báo đề xuất phương pháp huấn luyện giữa chừng (mid-training - MT) mang tính tác tử (agentic mid-training) bằng cách sử dụng dữ liệu "agent-native" trên quy mô lớn. Dữ liệu này được tạo ra từ các GitHub Pull Request và bao gồm hai loại quỹ đạo bổ sung cho nhau:

  1. Quỹ đạo theo ngữ cảnh (Contextually-native trajectories): Nhấn mạnh độ bao phủ rộng và tính đa dạng, tái cấu trúc toàn bộ luồng thông tin và quy trình kỹ thuật thực tế (ví dụ: các bước xác định vị trí, chỉnh sửa lặp đi lặp lại với lý luận văn bản).
  2. Quỹ đạo theo môi trường (Environmentally-native trajectories): Ưu tiên tính chân thực của tương tác, thu thập từ các kho lưu trữ có thể thực thi được (sử dụng môi trường Docker và kiểm thử đơn vị) để ghi lại các quan sát thực tế từ việc gọi công cụ và thực thi kiểm thử. Mục tiêu là xây dựng nền tảng vững chắc cho các hành vi mang tính tác tử mà các phương pháp hậu huấn luyện sau này có thể tinh chỉnh hiệu quả hơn.

III. Main Results:​

  • Phương pháp daVinci-Dev vượt trội so với KIMI-DEV (phương pháp MT mã nguồn mở trước đó) trên SWE-Bench Verified, sử dụng ít hơn một nửa lượng token huấn luyện giữa chừng (73.1 tỷ so với khoảng 150 tỷ).
  • Các mô hình 32B và 72B tốt nhất đạt tỷ lệ giải quyết lần lượt là 56.1% và 58.5%, đây là hiệu suất cao nhất trong số các công thức huấn luyện mã nguồn mở sử dụng giàn giáo tác tử (agentic scaffolds) cho kích thước mô hình tương ứng, dù khởi tạo từ các mô hình cơ sở Qwen2.5-Base không chuyên về code.
  • Ngoài khả năng tác tử, phương pháp này còn cải thiện hiệu suất trên các tác vụ tạo mã tổng quát và các điểm chuẩn khoa học.

IV. Conclusion & Future Works:​

Bài báo đưa ra phương pháp huấn luyện giữa chừng mang tính tác tử và giới thiệu dữ liệu "agent-native" làm nguồn giám sát giúp bảo toàn luồng thông tin của kỹ thuật phần mềm thực tế. Các tác giả chứng minh hiệu suất vượt trội và sự khái quát hóa của phương pháp trong kỹ thuật phần mềm mang tính tác tử. Trong tương lai, họ có kế hoạch công khai phần lớn tập dữ liệu, công thức huấn luyện và các điểm kiểm tra mô hình để thúc đẩy nghiên cứu trong lĩnh vực này.

V. Brainstorming Space:​

1. Publish Papers:​

  • Nghiên cứu cách tối ưu hóa việc kết hợp giữa quỹ đạo theo ngữ cảnh và quỹ đạo theo môi trường để đạt hiệu quả huấn luyện cao hơn nữa trong các tác vụ kỹ thuật phần mềm phức tạp.
  • Khám phá việc áp dụng phương pháp huấn luyện giữa chừng "agent-native" này cho các lĩnh vực tương tác khác ngoài kỹ thuật phần mềm, như thiết kế giao diện người dùng tự động hoặc quản lý hệ thống.
  • Phân tích sâu hơn về khả năng học hỏi các kỹ năng suy luận bậc cao thông qua huấn luyện giữa chừng với dữ liệu "agent-native" so với chỉ hậu huấn luyện trên các bộ dữ liệu khác.

2. Patent:​

  • Một hệ thống trợ lý lập trình thông minh trên điện thoại di động có khả năng tự động điều hướng, chỉnh sửa và kiểm thử mã nguồn ứng dụng dựa trên mô tả vấn đề bằng ngôn ngữ tự nhiên.
  • Một công cụ phát triển phần mềm di động tích hợp khả năng tự động sửa lỗi và tối ưu hóa hiệu suất ứng dụng, nơi người dùng mô tả sự cố và hệ thống tự động đề xuất, kiểm tra các thay đổi mã trên môi trường giả lập.
  • Một nền tảng học tập cá nhân hóa cho lập trình viên ứng dụng di động, mô phỏng môi trường phát triển thực tế để huấn luyện các mô hình AI về cách giải quyết các bài toán kỹ thuật phần mềm thông qua phản hồi trực tiếp từ quá trình biên dịch và kiểm tra trên điện thoại ảo.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.18418
ArXiv Abstracthttps://arxiv.org/abs/2601.18418
PDF Downloadhttps://arxiv.org/pdf/2601.18418.pdf
Github Repositoryhttps://github.com/GAIR-NLP/daVinci-Dev

3. The Script is All You Need: An Agentic Framework for Long-Horizon Dialogue-to-Cinematic Video Generation (46 votes)​

Tác giả: Chenyu Mu, Xin He, Qu Yang, Wanshun Chen, Jiadi Yao, Huang Liu, Zihao Yi, Bo Zhao, Xingyu Chen, Ruotian Ma, Fanghua Ye, Erkun Yang, Cheng Deng, Zhaopeng Tu, Xiaolong Li, Linus

Xuất bản lúc: 2026-01-25

Tag: Video Generation, Agentic AI, Script Generation, Cinematic AI

I. Main Problem:​

Các mô hình tạo video hiện đại gặp khó khăn trong việc tạo ra các câu chuyện dài, mạch lạc từ các khái niệm cấp cao như đối thoại, tạo ra một "khoảng cách ngữ nghĩa" giữa ý tưởng sáng tạo và việc thực hiện điện ảnh của nó. Cụ thể, các thách thức bao gồm việc hiểu ngữ cảnh chi tiết từ đối thoại thưa thớt, kiến thức chuyên môn về làm phim để tạo ra các thông số kỹ thuật camera hợp lệ, và khả năng suy luận sáng tạo để kết nối lời nói với hình ảnh cần thể hiện.

II. Main Idea:​

Bài báo giới thiệu một khuôn khổ dựa trên tác nhân (agentic framework) mới, từ đầu đến cuối, để tạo video điện ảnh từ đối thoại. Hệ thống này gồm ba thành phần chính:

  1. ScripterAgent: Được huấn luyện để dịch đối thoại thô thành một kịch bản điện ảnh chi tiết, có thể thực thi được, thông qua quá trình huấn luyện hai giai đoạn (SFT và GRPO) để căn chỉnh với tiêu chuẩn đạo diễn chuyên nghiệp. Để hỗ trợ việc này, ScriptBench, một bộ dữ liệu lớn mới với ngữ cảnh đa phương thức phong phú, đã được xây dựng.
  2. DirectorAgent: Điều phối các mô hình tạo video tiên tiến bằng cách sử dụng chiến lược tạo liên tục đa cảnh với "neo khung hình" (frame-anchoring) để đảm bảo tính mạch lạc trên phạm vi dài, khắc phục hạn chế về thời gian của các mô hình hiện tại.
  3. CriticAgent: Đánh giá bộ phim được tạo ra từ cả góc độ kỹ thuật và điện ảnh. Giải pháp này đảo ngược mối quan hệ video-ngôn ngữ truyền thống từ mô tả thụ động sang tạo chủ động, coi kịch bản là yếu tố trung tâm để sản xuất phim tự động.

III. Main Results:​

  • Khuôn khổ này cải thiện đáng kể sự trung thực của kịch bản (script faithfulness) và tính chân thực về thời gian (temporal fidelity) trên tất cả các mô hình tạo video được thử nghiệm.
  • ScripterAgent vượt trội hơn các phương pháp hiện có, với các chuyên gia con người đánh giá cao hơn về "Dramatic Tension" (4.1 so với 3.7) và "Visual Imagery" (4.3 so với 3.8).
  • Sử dụng kịch bản được tạo ra làm đầu vào giúp cải thiện hiệu suất của tất cả các mô hình video được thử nghiệm (bao gồm Sora2-Pro và Veo3.1), tăng các chỉ số như "Script Faithfulness" lên tới +0.4 điểm.
  • Phân tích cho thấy một sự đánh đổi quan trọng giữa sự hoành tráng về hình ảnh và sự tuân thủ kịch bản nghiêm ngặt trong các mô hình hiện tại.
  • Việc giới thiệu chỉ số "Visual-Script Alignment" (VSA) mới xác nhận phương pháp này tăng cường sự mạch lạc ngữ nghĩa-thời gian (temporal-semantic coherence) lên hơn 7 điểm.
  • Đây là giải pháp từ đầu đến cuối đầu tiên cho việc tạo video điện ảnh dựa trên đối thoại.

IV. Conclusion & Future Works:​

Bài báo cung cấp giải pháp từ đầu đến cuối đầu tiên cho việc tạo video điện ảnh dựa trên đối thoại và mở ra một mô hình mới cho kể chuyện tự động. Công trình này nhấn mạnh rằng kịch bản là "mảnh ghép còn thiếu" trong việc làm phim tự động và khuôn khổ đề xuất đã thành công trong việc thu hẹp "khoảng cách ngữ nghĩa" giữa đối thoại thưa thớt và đầu ra điện ảnh mạch lạc.

V. Brainstorming Space:​

1. Publish Papers:​

  • Nghiên cứu sâu hơn về tác động của các chiến lược tối ưu hóa chính sách khác nhau (ví dụ: GRPO) đối với chất lượng kịch bản điện ảnh được tạo ra.
  • Phân tích cách tích hợp phản hồi đa phương thức từ người dùng vào quy trình huấn luyện ScripterAgent để nâng cao khả năng sáng tạo.
  • Khám phá việc mở rộng khuôn khổ tác nhân này để tạo ra toàn bộ phim dài, xử lý các cấu trúc câu chuyện phức tạp và phát triển nhân vật.

2. Patent:​

  • Một hệ thống trên điện thoại thông minh có khả năng tự động tạo ra một kịch bản video chi tiết từ các đoạn hội thoại, bao gồm các chỉ dẫn về góc quay và mô tả cảnh quay.
  • Một ứng dụng di động cho phép người dùng nhập đối thoại và tự động sản xuất một đoạn video ngắn có tính liền mạch và phù hợp với kịch bản được tạo ra, tối ưu hóa cho hiển thị trên thiết bị cầm tay.
  • Một công nghệ trên thiết bị di động có thể đánh giá và điều chỉnh tự động chất lượng hình ảnh và sự tuân thủ kịch bản của các video được tạo ra, nhằm đảm bảo trải nghiệm xem chuyên nghiệp.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.17737
ArXiv Abstracthttps://arxiv.org/abs/2601.17737
PDF Downloadhttps://arxiv.org/pdf/2601.17737.pdf
Github Repositoryhttps://github.com/Tencent/digitalhuman/tree/main/ScriptAgent

4. Scientific Image Synthesis: Benchmarking, Methodologies, and Downstream Utility (35 votes)​

Tác giả: Honglin Lin, Chonghan Qin, Zheng Liu, Qizhi Pei, Yu Li, Zhanping Zhong, Xin Gao, Yanfeng Wang, Conghui He, Lijun Wu

Xuất bản lúc: 2026-01-17

Tag: Scientific Image Synthesis, Text-to-Image, Multimodal Reasoning, Benchmarking, Programmatic Generation, Large Multimodal Models

I. Main Problem:​

Vấn đề cốt lõi mà bài báo đề cập là khó khăn trong việc tổng hợp các hình ảnh khoa học chính xác và chặt chẽ. Các mô hình Text-to-Image (T2I) hiện có thường tạo ra hình ảnh trông có vẻ hợp lý nhưng lại không đúng về mặt khoa học, dẫn đến sự khác biệt giữa hình ảnh và logic ("visual–logic divergence") và hạn chế khả năng suy luận đa phương thức trong các lĩnh vực khoa học như toán học, vật lý và kỹ thuật.

II. Main Idea:​

Bài báo đề xuất một nghiên cứu có hệ thống về tổng hợp hình ảnh khoa học, bao gồm các phương pháp tạo, đánh giá và ứng dụng thực tế. Cụ thể, giải pháp bao gồm:

  1. Phân tích các phương pháp tạo hình ảnh: So sánh giữa phương pháp tạo pixel trực tiếp (pixel-based) và phương pháp tạo hình ảnh bằng lập trình (programmatic synthesis).
  2. Đề xuất ImgCoder: Một framework điều khiển bằng logic, tuân theo quy trình "Understand -> Plan -> Code" để cải thiện độ chính xác về cấu trúc của hình ảnh khoa học bằng cách tách rời quá trình suy luận và render.
  3. Giới thiệu SciGenBench: Một bộ benchmark mới được thiết kế để đánh giá sự đúng đắn về mặt khoa học của hình ảnh được tạo ra, tập trung vào tính hữu ích của thông tin và tính hợp lệ về mặt logic, thay vì chỉ là sự tương đồng về hình ảnh.
  4. Đánh giá tiện ích downstream: Chứng minh rằng việc tinh chỉnh các Large Multimodal Models (LMMs) trên dữ liệu hình ảnh khoa học tổng hợp đã được kiểm chứng nghiêm ngặt mang lại lợi ích nhất quán trong suy luận khoa học.

III. Main Results:​

  1. Phát hiện lỗi hệ thống: Đánh giá bằng SciGenBench cho thấy các mô hình pixel-based có những chế độ lỗi hệ thống và nhấn mạnh sự đánh đổi cơ bản giữa khả năng biểu đạt (expressiveness) và độ chính xác (precision) giữa hai phương pháp tạo hình ảnh. Các phương pháp dựa trên code đạt độ chính xác cấu trúc cao hơn nhưng khả năng biểu đạt lại hạn chế hơn.
  2. Cải thiện suy luận đa phương thức: Việc tinh chỉnh các LMMs trên dữ liệu hình ảnh khoa học tổng hợp đã được xác minh chặt chẽ giúp cải thiện đáng kể khả năng suy luận khoa học, với xu hướng mở rộng tiềm năng tương tự như trong lĩnh vực văn bản.
  3. Xác nhận phương pháp: Các kết quả chứng minh rằng tổng hợp hình ảnh khoa học có độ chân thực cao là một con đường khả thi và có thể mở rộng để mở khóa khả năng suy luận đa phương thức.

IV. Conclusion & Future Works:​

Bài nghiên cứu kết luận rằng tổng hợp hình ảnh khoa học chính xác là một bước tiến quan trọng để nâng cao khả năng suy luận đa phương thức của các mô hình AI. Mặc dù các mô hình pixel-based hiện tại còn hạn chế về độ chính xác khoa học, phương pháp lập trình như ImgCoder cùng với bộ benchmark SciGenBench đã đặt nền tảng cho việc tạo ra dữ liệu tổng hợp đáng tin cậy. Hướng nghiên cứu tiếp theo có thể tập trung vào việc giảm thiểu sự đánh đổi giữa khả năng biểu đạt và độ chính xác, cũng như mở rộng ứng dụng của dữ liệu tổng hợp này để đào tạo các LMMs mạnh mẽ hơn nữa trong các lĩnh vực khoa học.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu cách kết hợp ưu điểm về khả năng biểu đạt của mô hình pixel-based với độ chính xác của mô hình programmatic để tạo ra hình ảnh khoa học chất lượng cao hơn.
  2. Phát triển một phương pháp tự động để sinh ra các "drawing constraints" dựa trên ngữ cảnh khoa học để tăng cường khả năng tự kiểm soát của các mô hình tạo hình ảnh.
  3. Khám phá việc ứng dụng các hình ảnh khoa học tổng hợp được kiểm chứng để tạo ra các tập dữ liệu huấn luyện đa ngôn ngữ, hỗ trợ suy luận khoa học toàn cầu.

2. Patent:​

  1. Một ứng dụng điện thoại thông minh cho phép người dùng nhập mô tả văn bản về một khái niệm khoa học và ngay lập tức nhận được một hình ảnh minh họa khoa học chính xác và chi tiết trên màn hình.
  2. Một hệ thống camera điện thoại thông minh tích hợp trí tuệ nhân tạo có khả năng phân tích một hình ảnh thực tế và tự động tạo ra một sơ đồ khoa học tương ứng với các thành phần được gắn nhãn và mối quan hệ chính xác.
  3. Một công nghệ trên điện thoại di động giúp giáo viên và học sinh tạo ra nhanh chóng các sơ đồ thí nghiệm hoặc minh họa vật lý tương tác chỉ bằng cách nhập các thông số cơ bản, hiển thị ngay kết quả trực quan trên ứng dụng học tập.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.17027
ArXiv Abstracthttps://arxiv.org/abs/2601.17027
PDF Downloadhttps://arxiv.org/pdf/2601.17027.pdf
Github Repositoryhttps://github.com/SciGenBench/SciGenBench

5. Elastic Attention: Test-time Adaptive Sparsity Ratios for Efficient Transformers (26 votes)​

Tác giả: Zecheng Tang, Quantong Qiu, Yi Yang, Zhiyi Hong, Haiya Xiang, Kebin Liu, Qingqing Dang, Juntao Li, Min Zhang

Xuất bản lúc: 2026-01-24

Tag: Transformers, Attention, Sparsity, LLMs, Efficiency, Adaptive Learning

I. Main Problem:​

  • Độ phức tạp bậc hai của cơ chế attention tiêu chuẩn gây ra nút thắt về khả năng mở rộng cho các mô hình ngôn ngữ lớn (LLMs) trong các kịch bản ngữ cảnh dài.
  • Các chiến lược attention lai hiện có kết hợp sparse và full attention thường sử dụng tỷ lệ tính toán tĩnh. Điều này khiến chúng không thể thích ứng với độ nhạy sparsity khác nhau của các tác vụ hạ nguồn trong quá trình suy luận, làm hạn chế tính mạnh mẽ và khả năng ứng dụng rộng rãi.
  • Các tác vụ hạ nguồn có thể được phân loại thành "sparsity-robust" (ít nhạy cảm với sparsity) và "sparsity-sensitive" (nhạy cảm với sparsity), và một tỷ lệ sparsity cố định sẽ không tối ưu cho cả hai loại.

II. Main Idea:​

  • Đề xuất "Elastic Attention", một phương pháp cho phép mô hình tự động điều chỉnh tổng thể tỷ lệ sparsity dựa trên đầu vào trong giai đoạn prefill.
  • Điều này được thực hiện bằng cách tích hợp một module nhẹ có tên "Attention Router" vào các mô hình tiền huấn luyện hiện có.
  • Attention Router hoạt động tương tự như cơ chế cổng của Mixture-of-Experts, tự động gán mỗi attention head vào chế độ tính toán Full Attention (FA) hoặc Sparse Attention (SA) một cách linh hoạt.
  • Module Attention Router bao gồm một task MLP để suy luận đặc điểm tác vụ từ trạng thái ẩn đầu vào và một router MLP để xác định chế độ tính toán cho từng head. Module này chỉ thêm 0.27M tham số mỗi lớp.
  • Để tối ưu hóa, phương pháp này áp dụng sơ đồ làm mềm liên tục dựa trên Gumbel-Softmax và kỹ thuật Straight-Through Estimator (STE) để truyền gradient, đảm bảo tính nhất quán giữa huấn luyện và suy luận.
  • Trong quá trình suy luận, một kernel hợp nhất (fused kernel) được thiết kế để xử lý đồng thời tất cả các head đã được định tuyến trong một lần chạy forward duy nhất.
  • Trong quá trình huấn luyện, tất cả các tham số backbone của mô hình đều được đóng băng, chỉ các thành phần của Elastic Attention được huấn luyện.

III. Main Results:​

  • Phương pháp cho phép các mô hình đạt được cả hiệu suất mạnh mẽ và suy luận hiệu quả.
  • Thể hiện sự vượt trội so với các phương pháp hiện có trên ba tiêu chuẩn ngữ cảnh dài trên các LLMs được sử dụng rộng rãi (Qwen3-series và Llama-3.1-8B-Instruct).
  • Quá trình huấn luyện chỉ yêu cầu 12 giờ trên 8 GPU A800 mà không cần sửa đổi các tham số backbone của mô hình.
  • Mô hình học cách phân bổ các mức độ sparsity khác nhau cho các tác vụ khác nhau.
  • Attention Router chỉ tạo ra chi phí bổ sung không đáng kể về tham số (0.27M tham số mỗi lớp), duy trì hiệu quả suy luận và chi phí tính toán.

IV. Conclusion & Future Works:​

  • Elastic Attention là một giải pháp hiệu quả để giải quyết độ phức tạp bậc hai của cơ chế attention và sự thiếu linh hoạt của các chiến lược attention lai tĩnh trong LLMs.
  • Bằng cách tự động điều chỉnh tỷ lệ sparsity dựa trên đầu vào, phương pháp này cải thiện đáng kể hiệu suất và hiệu quả suy luận của LLMs trong các tình huống ngữ cảnh dài.
  • Văn bản trích dẫn không đề cập rõ ràng đến các công việc hoặc hướng nghiên cứu tương lai.

V. Brainstorming Space:​

1. Publish Papers:​

  • Nghiên cứu tác động của các chiến lược gộp (pooling) khác nhau trong Attention Router đến chất lượng biểu diễn tác vụ và độ chính xác định tuyến.
  • Mở rộng ứng dụng của Elastic Attention sang các kiến trúc transformer khác ngoài mô hình ngôn ngữ lớn, như vision transformer, để đánh giá tính tổng quát.
  • Phân tích sâu hơn các quyết định định tuyến đã học của Attention Router để hiểu rõ hơn về độ nhạy sparsity của các loại tác vụ và tiềm năng khám phá các mẫu attention mới.

2. Patent:​

  • Hệ thống điện thoại thông minh tự động điều chỉnh khả năng tập trung xử lý dữ liệu của các ứng dụng AI để phù hợp với từng loại tác vụ, giúp tăng tốc độ phản hồi và tiết kiệm năng lượng pin.
  • Phương pháp điều khiển linh hoạt mức độ chi tiết mà một ứng dụng AI trên thiết bị di động cần tập trung vào thông tin, đảm bảo hiệu suất tối ưu cho các tác vụ như tóm tắt văn bản hoặc trả lời câu hỏi chi tiết.
  • Cơ chế phần mềm tích hợp trên thiết bị di động cho phép các tính năng thông minh thích ứng với độ phức tạp của yêu cầu người dùng, tự động chuyển đổi giữa chế độ xử lý nhanh gọn và chế độ xử lý chuyên sâu để tối ưu hóa trải nghiệm.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.17367
ArXiv Abstracthttps://arxiv.org/abs/2601.17367
PDF Downloadhttps://arxiv.org/pdf/2601.17367.pdf
Github Repositoryhttps://github.com/LCM-Lab/Elastic-Attention

6. iFSQ: Improving FSQ for Image Generation with 1 Line of Code (24 votes)​

Tác giả: Bin Lin, Zongjian Li, Yuwei Niu, Kaixiong Gong, Yunyang Ge, Yunlong Lin, Mingzhe Zheng, JianWei Zhang, Miles Yang, Zhao Zhong, Liefeng Bo, Li Yuan

Xuất bản lúc: 2026-01-23

Tag: Image Generation, Quantization, Autoregressive Models, Diffusion Models, FSQ, Tokenization

I. Main Problem:​

Lĩnh vực tạo ảnh hiện đang bị chia rẽ thành hai mô hình chính: mô hình Autoregressive (AR) hoạt động trên các token rời rạc và mô hình Diffusion sử dụng các không gian ẩn liên tục. Sự phân chia này gây cản trở việc mô hình hóa thống nhất và đánh giá hiệu suất công bằng. Mặc dù Finite Scalar Quantization (FSQ) cung cấp một cầu nối lý thuyết, nhưng FSQ nguyên bản có một nhược điểm quan trọng: lượng tử hóa khoảng cách bằng nhau của nó có thể gây ra sự sụp đổ kích hoạt (activation collapse), dẫn đến sự đánh đổi giữa độ trung thực tái tạo và hiệu quả thông tin.

II. Main Idea:​

Bài báo đề xuất iFSQ, một cải tiến cho FSQ bằng cách đơn giản thay thế hàm kích hoạt trong FSQ gốc bằng một ánh xạ khớp phân phối để ép buộc một phân phối tiền nghiệm đồng nhất. Chiến lược này chỉ yêu cầu một dòng mã (y=2.0·σ(1.6x)−1) nhưng đảm bảo cả việc sử dụng bin tối ưu và độ chính xác tái tạo. Bằng cách chuyển đổi không gian ẩn Gaussian không giới hạn sang phân phối đồng nhất có giới hạn, iFSQ đảm bảo các bin lượng tử hóa được sử dụng với xác suất bằng nhau (hiệu quả thông tin cao) trong khi vẫn duy trì các khoảng cách bằng nhau (độ trung thực tái tạo cao).

III. Main Results:​

  • iFSQ giải quyết được sự đánh đổi giữa độ trung thực tái tạo và hiệu quả thông tin, đạt được hiệu quả tối ưu (100% sử dụng bin) và độ trung thực vượt trội (MSE: 0.1669).
  • Sử dụng iFSQ làm chuẩn mực thống nhất, nghiên cứu tiết lộ hai hiểu biết chính:
    1. Điểm cân bằng tối ưu giữa biểu diễn rời rạc và liên tục nằm ở khoảng 4 bit mỗi chiều.
    2. Dưới các ràng buộc tái tạo giống hệt nhau, các mô hình AR có tốc độ hội tụ ban đầu nhanh, trong khi các mô hình Diffusion đạt được giới hạn hiệu suất cao hơn, cho thấy thứ tự tuần tự nghiêm ngặt có thể hạn chế giới hạn trên của chất lượng tạo ảnh của AR.
  • Bài báo cũng mở rộng phân tích bằng cách điều chỉnh Representation Alignment (REPA) cho các mô hình AR, tạo ra LlamaGen-REPA, với việc căn chỉnh lớp thứ 8 cho kết quả tốt nhất và yêu cầu điều chỉnh chuẩn hóa căn chỉnh mạnh hơn (lambda=2.0).

IV. Conclusion & Future Works:​

iFSQ cung cấp một cải tiến đơn giản nhưng hiệu quả cho FSQ, giải quyết xung đột giữa hiệu quả thông tin và độ trung thực tái tạo bằng cách biến đổi các không gian ẩn Gaussian thành một phân phối tiền nghiệm đồng nhất. Nó thiết lập một chuẩn mực công bằng để so sánh các mô hình AR và Diffusion, tiết lộ điểm tối ưu 4-bit và sự khác biệt về giới hạn hiệu suất của chúng. Hướng nghiên cứu tiếp theo có thể bao gồm việc khám phá thêm các kỹ thuật căn chỉnh cho mô hình AR và điều tra sâu hơn về các ngưỡng giới hạn chất lượng của các mô hình tạo ảnh khác nhau.

V. Brainstorming Space:​

1. Publish Papers:​

  • Nghiên cứu ảnh hưởng của các hàm kích hoạt khớp phân phối khác lên hiệu suất của các mô hình lượng tử hóa trong các tác vụ thị giác ngoài tạo ảnh.
  • Phân tích chi tiết về lý do tại sao 4 bit mỗi chiều là "điểm ngọt" cho sự cân bằng giữa biểu diễn rời rạc và liên tục trong các nhiệm vụ tạo ảnh.
  • Khám phá các phương pháp để cải thiện giới hạn trên về chất lượng tạo ảnh của các mô hình AR bằng cách điều chỉnh cấu trúc tuần tự hoặc kết hợp các cơ chế mới.

2. Patent:​

  • Một phương pháp nén dữ liệu hình ảnh cho thiết bị di động, tự động điều chỉnh mức độ lượng tử hóa dựa trên điều kiện mạng và dung lượng lưu trữ để tối ưu hóa chất lượng hình ảnh.
  • Một hệ thống tạo ảnh động hoặc ảnh đại diện cá nhân hóa trên điện thoại, sử dụng một thuật toán lượng tử hóa hiệu quả để giảm tải tính toán mà vẫn duy trì độ nét.
  • Một giải pháp tối ưu hóa bộ nhớ và tốc độ xử lý cho các ứng dụng camera trên điện thoại thông minh, áp dụng kỹ thuật lượng tử hóa tự động để điều chỉnh chất lượng hình ảnh được chụp và lưu trữ.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.17124
ArXiv Abstracthttps://arxiv.org/abs/2601.17124
PDF Downloadhttps://arxiv.org/pdf/2601.17124.pdf
Github Repositoryhttps://github.com/Tencent-Hunyuan/iFSQ

7. Teaching Models to Teach Themselves: Reasoning at the Edge of Learnability (22 votes)​

Tác giả: Shobhita Sundaram, John Quan, Ariel Kwiatkowski, Kartik Ahuja, Yann Ollivier, Julia Kempe

Xuất bản lúc: 2026-01-26

Tag: Reinforcement Learning, Meta-Learning, LLM, Self-Improvement, Curriculum Learning, Self-Play

I. Main Problem:​

Các phương pháp học tăng cường (RL) hiện tại gặp khó khăn khi tinh chỉnh các mô hình lý luận ngôn ngữ lớn (LLM) trên các tập dữ liệu có tỷ lệ thành công ban đầu thấp, dẫn đến thiếu tín hiệu huấn luyện. Điều này khiến mô hình bị "mắc kẹt" ở một mức độ học tập nhất định và không thể học từ những vấn đề mà nó chưa thể giải quyết. Vấn đề cốt lõi là làm thế nào để mô hình tự động tạo ra một chương trình học (curriculum) giúp vượt qua các giới hạn này mà không cần dữ liệu được chọn lọc bổ sung hay các chương trình học được thiết kế thủ công phức tạp.

II. Main Idea:​

Bài nghiên cứu đề xuất SOAR (Self-Optimization via Asymmetric RL), một khuôn khổ meta-RL tự cải thiện với kiến trúc thầy-trò bất đối xứng. Một mô hình "thầy" (teacher) tạo ra các vấn đề tổng hợp (câu hỏi-câu trả lời) cho mô hình "trò" (student) huấn luyện bằng RL. Điểm khác biệt quan trọng là mô hình thầy được thưởng dựa trên sự cải thiện có thể đo lường được của mô hình trò trên một tập hợp nhỏ các vấn đề thực tế khó, thay vì sử dụng các phần thưởng nội tại (intrinsic rewards) như các phương pháp tự chơi (self-play) trước đây. Cách tiếp cận này giúp khai thác kiến thức tiềm ẩn trong LLM để tạo ra các "bước đệm" hữu ích, cho phép mô hình học tập ngay cả khi đối mặt với các vấn đề ban đầu không thể giải quyết.

III. Main Results:​

Nghiên cứu trên các tập con khó nhất của các điểm chuẩn toán học (tỷ lệ thành công ban đầu 0/128) đã đưa ra ba phát hiện chính:

  1. Meta-RL hai cấp mở khóa khả năng học tập: Việc hiện thực hóa meta-RL hai cấp có thể mở khóa khả năng học tập dưới phần thưởng thưa thớt, nhị phân bằng cách mài dũa khả năng tiềm ẩn của các mô hình tiền huấn luyện để tạo ra các bước đệm hữu ích.
  2. Phần thưởng "được căn cứ" vượt trội: Phần thưởng được căn cứ (grounded rewards), dựa trên tiến độ thực tế của học trò, tốt hơn so với các phương án phần thưởng nội tại, giúp tránh được sự mất ổn định và sụp đổ đa dạng thường thấy.
  3. Cấu trúc câu hỏi quan trọng hơn tính đúng đắn của lời giải: Chất lượng cấu trúc và tính chuẩn mực của câu hỏi được tạo ra quan trọng hơn tính đúng đắn của lời giải để đạt được tiến bộ học tập. Kết quả thực nghiệm với Llama-3.2-3B-Instruct cho thấy các vấn đề tự tạo ra giúp cải thiện hiệu suất đáng kể trên tập dữ liệu khó (ví dụ: tăng 4 lần pass@1 và 2 lần pass@32 trên MATH, 2 lần pass@1 và 1.5 lần pass@32 trên HARP), đồng thời có khả năng chuyển giao để mở khóa học tập trên các tập dữ liệu khó khác.

IV. Conclusion & Future Works:​

Khả năng tạo ra các bước đệm hữu ích không đòi hỏi mô hình phải có sẵn khả năng giải quyết các vấn đề khó ngay từ đầu. SOAR cung cấp một lộ trình có nguyên tắc để vượt qua các giới hạn lý luận mà không cần dữ liệu được tuyển chọn bổ sung. Các mô hình có thể tự mình khám phá dữ liệu cần học để mở rộng giới hạn học tập của chúng thông qua meta-RL được căn cứ.

V. Brainstorming Space:​

1. Publish Papers:​

  • Nghiên cứu khả năng mở rộng và áp dụng SOAR cho các lĩnh vực lý luận phức tạp khác như tạo mã hoặc tự động khám phá khoa học.
  • Khám phá các chiến lược "thầy" thích nghi hơn trong SOAR, nơi cách tạo vấn đề của thầy điều chỉnh động dựa trên những điểm yếu cụ thể của học trò được xác định trong quá trình huấn luyện.
  • Đánh giá tính ổn định dài hạn và khả năng chống lại sự trôi dạt chương trình học của SOAR khi được triển khai trong các chu trình tự cải thiện liên tục.

2. Patent:​

  • Một phương pháp trên thiết bị di động để tự động cá nhân hóa lộ trình học tập cho người dùng, trong đó ứng dụng tạo ra các bài tập trung gian dựa trên mức độ tiến bộ thực tế của người dùng đối với các kiến thức khó.
  • Một hệ thống quản lý kiến thức trên điện thoại thông minh cho phép người dùng nhập vào một vấn đề phức tạp, và hệ thống tự động sinh ra các câu hỏi và lời giải đơn giản hơn theo từng bước để hướng dẫn người dùng hiểu và giải quyết vấn đề đó.
  • Công nghệ trên ứng dụng điện thoại giúp cải thiện kỹ năng giải quyết vấn đề của người dùng bằng cách tự động tạo ra các tình huống thực hành, trong đó độ khó của các tình huống được điều chỉnh dựa trên phản hồi về hiệu suất của người dùng trên các thử thách phức tạp đã định trước.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.18778
ArXiv Abstracthttps://arxiv.org/abs/2601.18778
PDF Downloadhttps://arxiv.org/pdf/2601.18778.pdf
Github RepositoryN/A

8. Self-Refining Video Sampling (18 votes)​

Tác giả: Sangwon Jang, Taekyung Ki, Jaehyeong Jo, Saining Xie, Jaehong Yoon, Sung Ju Hwang

Xuất bản lúc: 2026-01-26

Tag: Video Generation, Diffusion, Self-Refinement, Sampling

I. Main Problem:​

Các mô hình tạo video hiện đại gặp khó khăn trong việc mô hình hóa động lực vật lý phức tạp, dẫn đến kết quả kém chân thực và không nhất quán. Các phương pháp hiện có để giải quyết vấn đề này thường tốn kém về mặt tính toán (sử dụng trình xác minh bên ngoài hoặc đào tạo bổ sung trên dữ liệu mở rộng) và vẫn còn hạn chế trong việc nắm bắt chuyển động chi tiết.

II. Main Idea:​

Bài báo giới thiệu "self-refining video sampling", một phương pháp đơn giản cho phép trình tạo video đã được đào tạo tự cải thiện. Bằng cách diễn giải trình tạo như một bộ tự mã hóa khử nhiễu (denoising autoencoder), phương pháp này cho phép tinh chỉnh lặp đi lặp lại trong quá trình suy luận mà không cần trình xác minh bên ngoài hoặc đào tạo bổ sung. Phương pháp này bao gồm "Predict-and-Perturb (P&P)", một kỹ thuật lấy mẫu không cần huấn luyện, lặp đi lặp lại tạo nhiễu và khử nhiễu ở một mức nhiễu cố định để kéo video về các vùng có mật độ cao hơn của phân phối dữ liệu video. Ngoài ra, "Uncertainty-aware P&P" được đề xuất để tinh chỉnh chọn lọc các vùng dựa trên tính tự nhất quán, ngăn ngừa các tạo tác do tinh chỉnh quá mức.

III. Main Results:​

Các thử nghiệm trên các trình tạo video tiên tiến (Wan2.1, Wan2.2, Cosmos-2.5) đã chứng minh những cải tiến đáng kể về tính liên kết chuyển động (motion coherence) và sự phù hợp với vật lý (physics alignment). Cụ thể, phương pháp này đạt được hơn 70% ưu tiên của người dùng so với bộ lấy mẫu mặc định và bộ lấy mẫu dựa trên hướng dẫn, đặc biệt cải thiện chất lượng chuyển động trên Wan2.2 với hơn 73% ưu tiên.

IV. Conclusion & Future Works:​

Bài báo kết luận rằng phương pháp lấy mẫu video tự tinh chỉnh cho phép các trình tạo video hiện có cải thiện đáng kể tính chân thực về vật lý và tính nhất quán của chuyển động mà không cần bất kỳ mô hình bên ngoài hay đào tạo bổ sung nào, bằng cách tận dụng khả năng nội tại của chính trình tạo. Hướng nghiên cứu tiếp theo có thể bao gồm việc khám phá sâu hơn cách tối ưu hóa các chiến lược tinh chỉnh dựa trên độ không chắc chắn hoặc áp dụng khái niệm này cho các loại mô hình tạo sinh khác.

V. Brainstorming Space:​

1. Publish Papers:​

  • Nghiên cứu ứng dụng kỹ thuật tự tinh chỉnh này cho việc tạo ra các đối tượng 3D hoặc môi trường ảo có động lực vật lý phức tạp.
  • Phát triển một khuôn khổ tự tinh chỉnh động để điều chỉnh cường độ và chiến lược tinh chỉnh dựa trên phản hồi chất lượng thời gian thực của video.
  • Khám phá các phương pháp mới để ước tính độ không chắc chắn của mô hình và tích hợp nó vào quá trình tự tinh chỉnh để giảm thiểu tạo tác và tăng cường chất lượng.

2. Patent:​

  • Một phương pháp tăng cường chất lượng video được tạo ra trên điện thoại thông minh bằng cách liên tục điều chỉnh và làm rõ từng khung hình dựa trên mô hình nội tại của điện thoại để đảm bảo tính chân thực về vật lý.
  • Một hệ thống tạo hiệu ứng chuyển động mượt mà và vật lý chân thực cho các đối tượng trong video quay bằng điện thoại, thông qua một quy trình tự động lặp lại dự đoán và sửa lỗi.
  • Một công nghệ trên thiết bị di động cho phép tạo ra các đoạn video có tính nhất quán cao về thời gian và không gian, bằng cách tự động xác định và cải thiện các vùng có chuyển động không ổn định.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.18577
ArXiv Abstracthttps://arxiv.org/abs/2601.18577
PDF Downloadhttps://arxiv.org/pdf/2601.18577.pdf
Github Repositoryhttps://github.com/agwmon/self-refine-video

9. VIBEVOICE-ASR Technical Report (12 votes)​

Tác giả: Zhiliang Peng, Jianwei Yu, Yaoyao Chang, Zilong Wang, Li Dong, Yingbo Hao, Yujie Tu, Chenyu Yang, Wenhui Wang, Songchen Xu, Yutao Sun, Hangbo Bao, Weijiang Xu, Yi Zhu, Zehua Wang, Ting Song, Yan Xia, Zewen Chi, Shaohan Huang, Liang Wang, Chuang Ding, Shuai Wang, Xie Chen, Furu Wei

Xuất bản lúc: 2026-01-26

Tag: ASR, Speaker Diarization, Large Language Models, Multilingual, Speech Recognition, Long-form Audio

I. Main Problem:​

Các phương pháp xử lý âm thanh dạng dài (ví dụ: cuộc họp, podcast) hiện tại gặp phải những thách thức lớn về sự phân mảnh ngữ cảnh và độ phức tạp khi có nhiều người nói. Các phương pháp truyền thống dựa trên chia nhỏ âm thanh thành các đoạn ngắn để xử lý độc lập, dẫn đến mất ngữ cảnh toàn cầu và sự phức tạp trong việc kết hợp các đầu ra từ các tác vụ riêng biệt như nhận dạng giọng nói, phân tách người nói và đánh dấu thời gian.

II. Main Idea:​

VIBEVOICE-ASR là một framework hiểu giọng nói đa năng, được xây dựng trên VIBEVOICE, nhằm giải quyết các vấn đề trên. Nó hỗ trợ xử lý một lần duy nhất cho âm thanh dài tới 60 phút, hợp nhất các tác vụ Nhận dạng giọng nói tự động (ASR), Phân tách người nói (Speaker Diarization) và Đánh dấu thời gian (Timestamping) thành một tác vụ tạo ra kết quả end-to-end. VIBEVOICE-ASR hỗ trợ hơn 50 ngôn ngữ, không yêu cầu cài đặt ngôn ngữ rõ ràng, và xử lý chuyển đổi mã (code-switching) một cách tự nhiên. Ngoài ra, nó giới thiệu cơ chế injection ngữ cảnh dựa trên prompt, cho phép người dùng cung cấp ngữ cảnh tùy chỉnh để cải thiện độ chính xác cho các thuật ngữ chuyên ngành và disambiguation các ký tự đa âm.

III. Main Results:​

VIBEVOICE-ASR thiết lập một trạng thái nghệ thuật mới cho việc hiểu giọng nói dạng dài, liên tục vượt trội so với các mô hình đa phương thức mã nguồn đóng mạnh mẽ (Gemini-2.5/3-Pro) trên năm bộ dữ liệu công khai. Các kết quả cho thấy độ chính xác vượt trội trong việc phân bổ người nói (DER) và chuyển đổi văn bản theo thời gian (tcpWER), đặc biệt trong môi trường đa người nói phức tạp (Hình 1). Hơn nữa, pipeline xử lý dữ liệu của VIBEVOICE-ASR cũng đạt được DER và WER thấp hơn một cách nhất quán so với WhisperX và Emilia trên phần lớn các bộ dữ liệu được đánh giá (Bảng 1).

IV. Conclusion & Future Works:​

Bài nghiên cứu giới thiệu VIBEVOICE-ASR như một bước đột phá trong việc hiểu giọng nói dạng dài bằng cách từ bỏ mô hình xử lý từng đoạn truyền thống để chuyển sang phương pháp xử lý một lần duy nhất, thống nhất các tác vụ nhận dạng, phân tách người nói và đánh dấu thời gian. Hệ thống này không chỉ cung cấp hiệu suất vượt trội trên nhiều ngôn ngữ và ngữ cảnh phức tạp mà còn vượt qua các mô hình hàng đầu hiện có. Mặc dù không nêu rõ các công việc trong tương lai, bài báo ngụ ý rằng phương pháp này là một nền tảng vững chắc cho các ứng dụng hiểu giọng nói dạng dài trong tương lai.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu ảnh hưởng của việc tích hợp các loại prompt ngữ cảnh khác nhau lên hiệu suất nhận dạng giọng nói trong các miền chuyên biệt.
  2. Khám phá khả năng mở rộng kiến trúc VIBEVOICE-ASR để xử lý các bản ghi âm dài hơn đáng kể, vượt quá 60 phút, mà vẫn duy trì hiệu suất cao.
  3. Đánh giá hiệu quả của VIBEVOICE-ASR trong việc nhận dạng giọng nói và phân tách người nói trong các môi trường có tiếng ồn cao hoặc điều kiện âm thanh kém.

2. Patent:​

  1. Một hệ thống xử lý giọng nói tích hợp trên thiết bị di động, cho phép người dùng ghi âm cuộc họp hoặc bài giảng dài và tự động nhận diện từng người nói, đánh dấu thời gian cho từng lời nói và chuyển đổi toàn bộ thành văn bản một cách liên tục.
  2. Phương pháp cải thiện độ chính xác nhận dạng giọng nói trên điện thoại thông minh bằng cách cho phép người dùng nhập danh sách từ khóa hoặc mô tả ngữ cảnh trước khi ghi âm, giúp thiết bị ưu tiên nhận diện và chuyển đổi chính xác các thuật ngữ chuyên ngành hoặc tên riêng.
  3. Công nghệ trên điện thoại di động tự động phát hiện và gắn nhãn các đoạn không phải lời nói (như tiếng nhạc, tiếng ồn môi trường, hay khoảng lặng) trong các bản ghi âm dài, đồng thời cung cấp bản ghi lời nói có cấu trúc rõ ràng với thông tin về người nói và thời gian, tối ưu hóa trải nghiệm xem lại nội dung.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.18184
ArXiv Abstracthttps://arxiv.org/abs/2601.18184
PDF Downloadhttps://arxiv.org/pdf/2601.18184.pdf
Github RepositoryN/A

10. DeepPlanning: Benchmarking Long-Horizon Agentic Planning with Verifiable Constraints (10 votes)​

Tác giả: Yinger Zhang, Shutong Jiang, Renhao Li, Jianhong Tu, Yang Su, Lianghao Deng, Xudong Guo, Chenxu Lv, Junyang Lin

Xuất bản lúc: 2026-01-26

Tag: Agentic LLMs, Planning, Benchmarking, Constraints, Long-horizon, Tool Use

I. Main Problem:​

Các benchmark hiện có để đánh giá tác nhân AI (agentic LLM) trong các tác vụ dài hạn vẫn chủ yếu tập trung vào lập luận cục bộ, cấp độ bước, thay vì tối ưu hóa toàn cầu với các ràng buộc phức tạp (ví dụ: ngân sách thời gian và tài chính). Chúng cũng chưa đại diện đầy đủ cho việc thu thập thông tin chủ động và các ràng buộc cục bộ chi tiết điển hình trong các tình huống thực tế, khiến cộng đồng thiếu một thước đo đáng tin cậy để đánh giá khả năng lập kế hoạch toàn diện của tác nhân.

II. Main Idea:​

Bài nghiên cứu giới thiệu DEEPPLANNING, một benchmark thách thức được thiết kế để đánh giá khả năng lập kế hoạch thực tế, dài hạn của các tác nhân LLM. Benchmark này bao gồm các tác vụ lập kế hoạch du lịch nhiều ngày và mua sắm nhiều sản phẩm, đòi hỏi ba năng lực chính: (i) Thu thập thông tin chủ động, (ii) Lập luận với ràng buộc cục bộ, và (iii) Tối ưu hóa với ràng buộc toàn cầu. DEEPPLANNING sử dụng các sandbox ngoại tuyến và bộ kiểm tra dựa trên quy tắc để đảm bảo việc đánh giá có thể tái tạo và dễ dàng xác minh.

III. Main Results:​

Các đánh giá trên DeepPlanning cho thấy ngay cả các mô hình LLM tác nhân tiên tiến nhất cũng gặp khó khăn với các vấn đề này, nhấn mạnh tầm quan trọng của các mẫu lập luận tường minh đáng tin cậy và việc sử dụng công cụ song song để đạt được sự cân bằng tốt hơn giữa hiệu quả và hiệu suất. Phân tích lỗi chỉ ra rằng các tác nhân có thể bỏ qua các lời gọi công cụ cần thiết, khó phát hiện các ràng buộc môi trường ngầm định (ví dụ: giờ mở cửa), và thiếu khả năng kiểm tra tính nhất quán toàn cầu cũng như quay lại (backtracking) mạnh mẽ cho các tác vụ dài hạn, ràng buộc chặt chẽ.

IV. Conclusion & Future Works:​

DeepPlanning là một benchmark toàn diện, phơi bày những hạn chế cơ bản của các tác nhân LLM hiện tại trong việc lập kế hoạch dài hạn dưới các ràng buộc phức tạp. Bài nghiên cứu gợi ý các hướng đi hứa hẹn để cải thiện các tác nhân LLM trên các chân trời lập kế hoạch mở rộng, đặc biệt là thông qua việc tăng cường khả năng lập luận tường minh và sử dụng công cụ song song. Mã nguồn và dữ liệu được công khai để hỗ trợ nghiên cứu trong tương lai.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu các phương pháp tích hợp mô hình học tăng cường với các mô hình ngôn ngữ lớn để cải thiện khả năng thu thập thông tin chủ động trong môi trường phức tạp.
  2. Phát triển các kiến trúc tác nhân mới cho phép lập luận đa cấp độ, kết hợp hiệu quả các ràng buộc cục bộ và tối ưu hóa toàn cầu trong lập kế hoạch.
  3. Khám phá các kỹ thuật tạo kế hoạch có khả năng tự động xác minh tính khả thi và điều chỉnh kế hoạch dựa trên phản hồi từ môi trường hoặc các ràng buộc phát sinh.

2. Patent:​

  1. Một hệ thống trợ lý cá nhân thông minh trên điện thoại di động có khả năng lập kế hoạch chuyến đi trọn gói bao gồm đặt vé, chỗ ở, lịch trình tham quan và ước tính chi phí, tự động điều chỉnh kế hoạch nếu có sự thay đổi đột xuất.
  2. Một ứng dụng mua sắm trên điện thoại di động sử dụng trí tuệ nhân tạo để tổng hợp danh sách mua sắm từ nhiều cửa hàng trực tuyến và vật lý, tối ưu hóa giỏ hàng dựa trên ngân sách, ưu đãi và thời gian giao hàng mong muốn của người dùng.
  3. Một công nghệ trên điện thoại di động cho phép trợ lý ảo tự động tra cứu thông tin cụ thể (ví dụ: giờ mở cửa của địa điểm, tình trạng còn hàng của sản phẩm) từ các nguồn dữ liệu trực tuyến và đưa ra quyết định dựa trên các ràng buộc phức tạp của người dùng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.18137
ArXiv Abstracthttps://arxiv.org/abs/2601.18137
PDF Downloadhttps://arxiv.org/pdf/2601.18137.pdf
Github RepositoryN/A

11. CGPT: Cluster-Guided Partial Tables with LLM-Generated Supervision for Table Retrieval (10 votes)​

Tác giả: Tsung-Hsiang Chou, Chen-Jui Yu, Shui-Hsiang Hsu, Yao-Chung Fan

Xuất bản lúc: 2026-01-22

Tag: Table Retrieval, LLM, Embedding Models, Contrastive Learning, K-means Clustering, Synthetic Query Generation

I. Main Problem:​

Các mô hình nhúng đa năng (general-purpose embedding models) hoạt động kém hiệu quả trong truy xuất bảng (table retrieval) do nội dung có cấu trúc cao dẫn đến nén ngữ nghĩa và sự không khớp giữa truy vấn và bảng. Các phương pháp tăng cường truy xuất dựa trên LLM hiện tại thường dựa vào việc lựa chọn các bảng con (partial tables) theo kinh nghiệm (ví dụ: chỉ chọn các hàng đầu tiên) và hiếm khi sử dụng các truy vấn tổng hợp (synthetic queries) làm dữ liệu giám sát để cải thiện mô hình nhúng.

II. Main Idea:​

Bài báo giới thiệu CGPT, một khung huấn luyện nhằm nâng cao khả năng truy xuất bảng thông qua giám sát được tạo bởi LLM. CGPT giải quyết vấn đề bằng cách:

  1. Tạo bảng con có hướng dẫn cụm (Cluster-Guided Partial Tables): Áp dụng thuật toán phân cụm K-means để nhóm các hàng (instance) của bảng thành các tập con có tính ngữ nghĩa và lấy mẫu từ mỗi cụm để xây dựng các bảng con đại diện, từ đó mở rộng phạm vi ngữ nghĩa.
  2. Tạo truy vấn tổng hợp bằng LLM: Một Large Language Model (LLM) sau đó tạo ra các truy vấn tổng hợp (synthetic queries) cho các bảng con này.
  3. Điều chỉnh mô hình nhúng bằng huấn luyện đối nghịch (Contrastive Fine-tuning): Các truy vấn tổng hợp này được sử dụng trong quá trình điều chỉnh đối nghịch với các mẫu phủ định cứng (hard-negative contrastive fine-tuning) để tinh chỉnh mô hình nhúng, giúp nó phân biệt tốt hơn giữa các bảng có liên quan và không liên quan.

III. Main Results:​

  • CGPT liên tục vượt trội hơn các mô hình cơ sở truy xuất, bao gồm QGpT, với mức tăng trung bình 16.54% R@1.
  • Ngay cả việc chỉ sử dụng các bảng con được xây dựng theo cụm (CGPT w/o FT) mà không qua điều chỉnh cũng cho thấy sự cải thiện đáng kể so với QGpT (ví dụ, tăng R@1 lần lượt 2.14 và 6.48 điểm trên MimoTable), chứng minh giá trị của việc xây dựng bảng con có hướng dẫn ngữ nghĩa.
  • Phương pháp CGPT đầy đủ thể hiện hiệu suất R@1 mạnh nhất, ví dụ, trên MimoTable (EN), CGPT đạt 60.13% R@1, vượt QGpT 9.47 điểm. Điều này cho thấy việc lấy mẫu phủ định cứng là yếu tố cần thiết để tối đa hóa độ chính xác (R@1) trong truy xuất bảng.
  • Trong môi trường corpus đa miền hợp nhất, CGPT thể hiện khả năng khái quát hóa mạnh mẽ qua các miền và vẫn hiệu quả ngay cả khi sử dụng các LLM nhỏ hơn để tạo truy vấn tổng hợp.

IV. Conclusion & Future Works:​

Việc xây dựng bảng con có hướng dẫn ngữ nghĩa kết hợp với huấn luyện đối nghịch từ giám sát được tạo bởi LLM cung cấp một phương pháp hiệu quả và có khả năng mở rộng cho truy xuất bảng quy mô lớn. Kết quả cho thấy CGPT có khả năng chuyển giao hiệu quả giữa các sơ đồ xây dựng và cung cấp sự mạnh mẽ cho các bảng phân tán ngữ nghĩa, hỗ trợ khả năng ứng dụng rộng rãi trong các thiết lập truy xuất.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu cách tối ưu hóa số lượng cụm và cách lấy mẫu từ mỗi cụm để đạt được sự cân bằng tốt nhất giữa phạm vi ngữ nghĩa và hiệu quả tính toán.
  2. Khám phá việc sử dụng các kỹ thuật phân cụm khác hoặc các phương pháp biểu diễn bảng con động để nâng cao hiệu quả truy xuất.
  3. Đánh giá tác động của các mô hình ngôn ngữ lớn khác nhau hoặc các chiến lược tạo truy vấn tổng hợp nâng cao hơn đối với hiệu suất và chi phí của CGPT.

2. Patent:​

  1. Một hệ thống tìm kiếm thông tin trong các ứng dụng di động cho phép người dùng nhập truy vấn ngôn ngữ tự nhiên và tìm kiếm chính xác các bảng dữ liệu liên quan trong các tài liệu hoặc cơ sở dữ liệu trên thiết bị.
  2. Một phương pháp tối ưu hóa việc hiển thị kết quả tìm kiếm bảng trên màn hình điện thoại nhỏ bằng cách chỉ hiển thị những phần bảng quan trọng nhất dựa trên cụm ngữ nghĩa và truy vấn của người dùng.
  3. Một công nghệ trên điện thoại thông minh tự động tạo ra các câu hỏi liên quan đến nội dung bảng trên màn hình để hỗ trợ người dùng khám phá dữ liệu và tìm kiếm thông tin hiệu quả hơn.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.15849
ArXiv Abstracthttps://arxiv.org/abs/2601.15849
PDF Downloadhttps://arxiv.org/pdf/2601.15849.pdf
Github Repositoryhttps://github.com/yumeow0122/CGPT