Chuyển tới nội dung chính

🤗 Daily Hugging Face Paper Digest - 2026-01-14

Báo cáo được tạo tự động vào lúc 2026-01-15 10:18:01 bằng mô hình gemini-2.5-flash.

📰 Summary of Papers​

1. MemGovern: Enhancing Code Agents through Learning from Governed Human Experiences (62 votes)​

Tác giả: Qihao Wang, Ziming Cheng, Shuo Zhang, Fan Liu, Rui Xu, Heng Lian, Kunyi Wang, Xiaoming Yu, Jianghao Yin, Sen Hu, Yue Hu, Shaolei Zhang, Yanbing Liu, Ronghao Chen, Huacan Wang

Xuất bản lúc: 2026-01-11

Tag: Code Agents, Software Engineering, LLM, Memory Systems, Experience Governance, Bug Fixing, GitHub Data

I. Main Problem:​

Các tác nhân kỹ thuật phần mềm tự trị (SWE agents) hiện tại bị giới hạn bởi "thế giới đóng", tức là chúng chỉ cố gắng sửa lỗi từ đầu hoặc chỉ sử dụng ngữ cảnh cục bộ. Điều này khiến chúng bỏ qua kho kinh nghiệm sửa lỗi khổng lồ của con người trên các nền tảng như GitHub. Việc truy cập và sử dụng kinh nghiệm "thế giới mở" này bị cản trở bởi tính chất không cấu trúc, phân mảnh và chứa nhiều nhiễu của dữ liệu theo dõi sự cố thực tế trên GitHub, gây ra "khoảng cách ngữ nghĩa" (semantic gap) và thiếu cơ chế quản trị hiệu quả.

II. Main Idea:​

Bài báo giới thiệu MemGovern, một framework được thiết kế để quản trị và chuyển đổi dữ liệu thô từ GitHub thành bộ nhớ kinh nghiệm có thể hành động cho các tác nhân. MemGovern thực hiện điều này thông qua:

  1. Experience Governance (Quản trị Kinh nghiệm): Quá trình hệ thống để chắt lọc dữ liệu thô hỗn loạn thành các "thẻ kinh nghiệm" (experience cards) có cấu trúc, độ trung thực cao và thân thiện với tác nhân. Quản trị này bao gồm ba giai đoạn:
    • Experience Selection (Chọn lọc Kinh nghiệm): Lọc bỏ nhiễu tín hiệu thấp ở cả cấp độ kho lưu trữ (chọn các kho có hoạt động và chất lượng cao) và cấp độ trường hợp (giữ lại các bản ghi sửa lỗi "vòng lặp kín" và loại bỏ nhiễu xã hội).
    • Standardization (Tiêu chuẩn hóa): Định nghĩa một "giao thức kinh nghiệm sửa chữa hợp nhất" để làm sạch nội dung (LLM nén luồng bình luận) và tổ chức thành hai lớp trong mỗi thẻ kinh nghiệm: Index Layer (tóm tắt vấn đề, tín hiệu chẩn đoán cho việc truy xuất) và Resolution Layer (logic sửa chữa chi tiết).
    • Quality Control (Kiểm soát Chất lượng): Cơ chế dựa trên danh sách kiểm tra để đảm bảo độ tin cậy của bộ nhớ.
  2. Agentic Experience Search (Tìm kiếm Kinh nghiệm theo tác nhân): Một chiến lược tìm kiếm cho phép các tác nhân tương tác với bộ nhớ kinh nghiệm thông qua nhiều vòng tìm kiếm và duyệt, mô phỏng cách các kỹ sư con người khám phá các trường hợp trước đó để xác định logic sửa chữa cơ bản. MemGovern được thiết kế như một module plug-and-play, có thể tích hợp vào các framework tác nhân hiện có như SWE-Agent.

III. Main Results:​

  • MemGovern đã tạo ra 135 nghìn thẻ kinh nghiệm được quản trị (governed experience cards).
  • Đạt được sự cải thiện đáng kể về hiệu suất, nâng cao tỷ lệ giải quyết lỗi trên bộ dữ liệu SWE-bench Verified lên 4.65% một cách trung bình.
  • MemGovern cung cấp một giải pháp cơ sở hạ tầng bộ nhớ thân thiện với tác nhân.

IV. Conclusion & Future Works:​

MemGovern giải quyết hiệu quả hạn chế "thế giới đóng" của các tác nhân kỹ thuật phần mềm bằng cách quản trị và chuyển đổi kinh nghiệm sửa lỗi của con người từ GitHub thành bộ nhớ có cấu trúc, có thể hành động. Framework này cho phép các tác nhân học hỏi và tận dụng chuyên môn lịch sử một cách hiệu quả và đáng tin cậy. Hướng nghiên cứu tiếp theo có thể bao gồm việc tối ưu hóa các cơ chế quản trị và tìm kiếm để xử lý dữ liệu phức tạp hơn, cũng như mở rộng ứng dụng của bộ nhớ kinh nghiệm này sang các nhiệm vụ kỹ thuật phần mềm khác.

V. Brainstorming Space:​

1. Publish Papers:​

  • Nghiên cứu phương pháp tự động tạo ra "thẻ kinh nghiệm" từ các cuộc trò chuyện tự nhiên của lập trình viên trên các nền tảng hợp tác khác ngoài GitHub, như Slack hoặc Microsoft Teams.
  • Phát triển mô hình học sâu (deep learning) để dự đoán mức độ hữu ích của một "thẻ kinh nghiệm" cụ thể đối với một lỗi mới, từ đó tinh chỉnh chiến lược tìm kiếm của tác nhân.
  • Thử nghiệm tích hợp MemGovern với các mô hình ngôn ngữ lớn (LLM) đa phương thức để xử lý kinh nghiệm sửa lỗi bao gồm cả mã nguồn, hình ảnh và video hướng dẫn.

2. Patent:​

  • Một hệ thống AI trên điện thoại di động có khả năng tự động phân tích và khắc phục các lỗi nhỏ trong ứng dụng, bằng cách truy vấn một cơ sở dữ liệu kinh nghiệm sửa lỗi được tổ chức theo giao thức của MemGovern.
  • Một ứng dụng trên điện thoại thông minh cho phép người dùng ghi lại, tổ chức và chia sẻ các giải pháp cho vấn đề kỹ thuật của thiết bị (ví dụ: lỗi phần mềm, cấu hình khó), tạo thành một kho kinh nghiệm có thể tìm kiếm.
  • Công nghệ tích hợp vào hệ điều hành điện thoại thông minh để tự động chuyển đổi dữ liệu phản hồi lỗi và báo cáo sự cố từ người dùng thành các "thẻ kinh nghiệm" có cấu trúc, giúp nhà phát triển nhanh chóng hiểu và sửa chữa lỗi cho các phiên bản cập nhật.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.06789
ArXiv Abstracthttps://arxiv.org/abs/2601.06789
PDF Downloadhttps://arxiv.org/pdf/2601.06789.pdf
Github Repositoryhttps://github.com/QuantaAlpha/MemGovern

2. Solar Open Technical Report (53 votes)​

Tác giả: Sungrae Park, Sanghoon Kim, Jungho Cho, Gyoungjin Gim, Dawoon Jung, Mikyoung Cha, Eunhae Choo, Taekgyu Hong, Minbyul Jeong, SeHwan Joo, Minsoo Khang, Eunwon Kim, Minjeong Kim, Sujeong Kim, Yunsu Kim, Hyeonju Lee, Seunghyun Lee, Sukyung Lee, Siyoung Park, Gyungin Shin, Inseo Song, Wonho Song, Seonghoon Yang, Seungyoun Yi, Sanghoon Yoon, Jeonghyun Ko, Seyoung Song, Keunwoo Choi, Hwalsuk Lee, Sunghun Kim, Du-Seong Chang, Kyunghyun Cho, Junsuk Choe, Hwaran Lee, Jae-Gil Lee, KyungTae Lim, Alice Oh

Xuất bản lúc: 2026-01-11

Tag: LLM, Mixture-of-Experts, Underserved Languages, Korean, Synthetic Data, Reinforcement Learning, Curriculum Learning, Tokenizer

I. Main Problem:​

Vấn đề cốt lõi mà bài báo đề cập là sự thiếu hụt các Mô hình Ngôn ngữ Lớn (LLM) chất lượng cao và dễ tiếp cận cho các "ngôn ngữ kém được phục vụ" (underserved languages), ngoài tiếng Anh và tiếng Trung. Tình trạng này dẫn đến hiệu suất suy giảm của các mô hình trong các tác vụ hạ nguồn cho những ngôn ngữ này do khan hiếm dữ liệu, việc mã hóa token không tối ưu và bỏ qua ngữ cảnh văn hóa ngôn ngữ cụ thể. Bài báo lấy tiếng Hàn làm ví dụ điển hình, một ngôn ngữ phải đối mặt với tình trạng thiếu dữ liệu nghiêm trọng, gây khó khăn cho việc đào tạo các LLM cạnh tranh. Ngoài ra, các phương pháp phát triển LLM truyền thống gặp thách thức trong việc mở rộng học tăng cường (RL) cho các mục tiêu đa dạng trong môi trường khan hiếm tài nguyên.

II. Main Idea:​

Các tác giả giới thiệu Solar Open, một mô hình ngôn ngữ đa ngữ Mixture-of-Experts (MoE) 102 tỷ tham số được thiết kế để giải quyết các thách thức của các ngôn ngữ kém được phục vụ, đặc biệt là tiếng Hàn. Phương pháp luận có hệ thống của họ tập trung vào ba giải pháp liên kết:

  1. Tổng hợp dữ liệu nhân tạo: Để khắc phục tình trạng khan hiếm dữ liệu, họ tổng hợp 4.5 nghìn tỷ token dữ liệu nhân tạo chất lượng cao, chuyên biệt theo lĩnh vực và định hướng RL. Dữ liệu này được sử dụng cho các mục đích khác nhau qua các giai đoạn huấn luyện, từ làm phong phú các hoạt động logic cơ bản đến tạo ra các quỹ đạo giải quyết vấn đề thành công và hỗ trợ khả năng suy luận hợp thành.
  2. Chương trình đào tạo song ngữ tiến bộ: Họ triển khai một chương trình đào tạo đa pha tinh vi, phối hợp và tối ưu hóa dữ liệu nhân tạo qua các giai đoạn huấn luyện. Chương trình này cân bằng dữ liệu song ngữ (tiếng Hàn và tiếng Anh), áp dụng các ngưỡng chất lượng theo ngôn ngữ và sử dụng phân cụm chủ đề dựa trên embedding để đảm bảo độ bao phủ miền cân bằng, dần dần xây dựng khả năng suy luận.
  3. Khung RL có khả năng mở rộng (SnapPO): Để cho phép suy luận hợp thành một cách hiệu quả và có khả năng mở rộng, họ đề xuất SnapPO, một khung học tăng cường ngoài chính sách theo chu kỳ. SnapPO phân tách quá trình tạo dữ liệu, tính toán phần thưởng và huấn luyện thành các quy trình độc lập với kết quả trung gian được lưu vào bộ nhớ cache, cho phép mở rộng tuyến tính và kết hợp đa miền linh hoạt, làm cho việc huấn luyện RL đa mục tiêu trở nên khả thi ở quy mô lớn. Ngoài ra, họ đã phát triển một tokenizer BPE tùy chỉnh cấp byte được tối ưu hóa cho tiếng Hàn, với kích thước từ vựng lớn và các quy tắc cụ thể như tách chữ số và bảo toàn khoảng trắng, cùng với một mẫu chat sử dụng token <|think|> cho các đường suy luận rõ ràng.

III. Main Results:​

Dựa trên văn bản được trích xuất, những phát hiện chính bao gồm:

  • Solar Open, một mô hình MoE 102 tỷ tham số với 12 tỷ tham số hoạt động trên mỗi token, đạt hiệu suất cạnh tranh trên các điểm chuẩn bằng cả tiếng Anh và tiếng Hàn.
  • Phương pháp luận của họ chứng tỏ tính hiệu quả trong việc phát triển AI cho các ngôn ngữ kém được phục vụ.
  • Việc sử dụng 4.5 nghìn tỷ token tổng hợp và một chương trình đào tạo tiến bộ qua 20 nghìn tỷ token đã giúp đạt được hiệu suất mạnh mẽ với ngân sách token thấp hơn, thể hiện hiệu quả của phương pháp.
  • Tokenizer Solar Open tùy chỉnh đạt được tỷ lệ nén cạnh tranh (Bytes per Token) so với cả các mô hình toàn cầu (tập trung vào tiếng Anh/Trung) và các mô hình chuyên biệt tiếng Hàn khác, đặc biệt xuất sắc trong việc nén dữ liệu tiếng Hàn.
  • Token <|think|> trong mẫu chat tạo điều kiện thuận lợi cho việc mô hình hóa phần thưởng chính xác hơn trong học tăng cường và quản lý đường suy luận hiệu quả.
  • Khung SnapPO cho phép mở rộng tuyến tính và kết hợp đa miền linh hoạt cho RL, giải quyết các thách thức về khả năng mở rộng cho các mục tiêu đa dạng.

IV. Conclusion & Future Works:​

Bài báo kết luận rằng Solar Open trình bày một phương pháp luận gắn kết và hiệu quả để xây dựng các Mô hình Ngôn ngữ Lớn cạnh tranh cho các ngôn ngữ kém được phục vụ. Phương pháp này, tích hợp việc tạo dữ liệu tổng hợp mạnh mẽ, một chương trình đào tạo song ngữ được thiết kế cẩn thận và một khung học tăng cường (SnapPO) có khả năng mở rộng, đã giải quyết thành công các thách thức chính như khan hiếm dữ liệu và nhu cầu về khả năng suy luận mạnh mẽ. Mặc dù được minh họa với tiếng Hàn, các tác giả khẳng định rằng cách tiếp cận có hệ thống này có thể áp dụng cho bất kỳ ngôn ngữ nào thiếu dữ liệu đào tạo đầy đủ và các mô hình chất lượng tiên tiến, qua đó thúc đẩy việc dân chủ hóa khả năng tiếp cận LLM trên toàn cầu. Văn bản không nêu rõ các công trình tương lai, nhưng khả năng áp dụng rộng rãi cho các ngôn ngữ khác ngụ ý một hướng nghiên cứu tiếp theo.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu so sánh hiệu quả của các chiến lược tạo dữ liệu tổng hợp khác nhau cho các ngôn ngữ khác nhau trong việc cải thiện hiệu suất của LLM.
  2. Phân tích tác động của các chiến lược chương trình đào tạo đa ngôn ngữ lên khả năng suy luận và hiểu biết văn hóa của các mô hình LLM cho các ngôn ngữ kém được phục vụ.
  3. Khám phá việc điều chỉnh và tối ưu hóa framework SnapPO cho các loại tác vụ RL khác nhau (ví dụ: tối ưu hóa an toàn, tối ưu hóa sự thật) và các ngôn ngữ khác ngoài tiếng Hàn.

2. Patent:​

  1. Hệ thống trợ lý AI di động tích hợp mô hình ngôn ngữ song ngữ được tối ưu hóa cho ngôn ngữ mẹ đẻ và tiếng Anh, cung cấp phản hồi chính xác về văn hóa và chuyên sâu về lĩnh vực thông qua giao diện giọng nói.
  2. Phương pháp tăng cường dữ liệu tổng hợp dựa trên AI cho các ứng dụng dịch thuật thời gian thực trên điện thoại di động, giúp cải thiện chất lượng dịch cho các cặp ngôn ngữ ít tài nguyên.
  3. Công cụ tùy chỉnh tokenizer trên điện thoại thông minh cho phép người dùng tối ưu hóa hiệu quả mã hóa văn bản cho các ngôn ngữ địa phương hoặc phương ngữ cụ thể, giúp tăng tốc độ xử lý ngôn ngữ trên thiết bị.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.07022
ArXiv Abstracthttps://arxiv.org/abs/2601.07022
PDF Downloadhttps://arxiv.org/pdf/2601.07022.pdf
Github RepositoryN/A

3. KnowMe-Bench: Benchmarking Person Understanding for Lifelong Digital Companions (47 votes)​

Tác giả: Tingyu Wu, Zhisheng Chen, Ziyan Weng, Shuhe Wang, Chenglong Li, Shuo Zhang, Sen Hu, Silin Wu, Qizhen Lan, Huacan Wang, Ronghao Chen

Xuất bản lúc: 2026-01-08

Tag: LLM, Benchmarking, Person Understanding, Lifelong Digital Companions, Autobiographical Memory, Cognitive Streams, RAG

I. Main Problem:​

Vấn đề cốt lõi mà bài báo đề cập là việc các benchmark bộ nhớ dài hạn hiện có không hiệu quả trong việc đánh giá khả năng "hiểu người" (person understanding) của các hệ thống AI, đặc biệt là đối với các trợ lý kỹ thuật số đồng hành suốt đời (lifelong digital companions). Các benchmark này thường dựa vào hội thoại đa lượt hoặc lịch sử người dùng tổng hợp, ưu tiên hiệu suất truy xuất thông tin thay vì suy luận về các nguyên tắc ổn định, động lực ẩn sâu và mô hình quyết định từ kinh nghiệm sống thực tế. Điều này dẫn đến sự sai lệch trong đánh giá (G1), khi các phép đo truy xuất không tương đương với hiểu người, và việc sử dụng dữ liệu có mật độ thấp, bị phi ngữ cảnh hóa (G2a, G2b), không đủ để xây dựng một mô hình người dùng nội bộ toàn diện.

II. Main Idea:​

Bài báo giới thiệu KnowMe-Bench, một benchmark có thể công khai được xây dựng từ các tự truyện dạng dài (long-form autobiographical narratives) để đánh giá khả năng suy luận mô hình người dùng dựa trên bằng chứng (evidence-grounded person-model inference). Phương pháp này bao gồm ba mô-đun thiết kế chính:

  1. Chất nền tự truyện (M1): Sử dụng các tự truyện giàu chi tiết tình huống và độc thoại nội tâm, cung cấp bằng chứng có mật độ cao về các sự kiện bên ngoài và giải thích nội bộ.
  2. Tái cấu trúc luồng nhận thức với điều chỉnh trí nhớ (M2): Tái cấu trúc các tự truyện thành một luồng nhận thức theo thời gian, có nhận biết hồi tưởng (flashback-aware), được neo bằng dấu thời gian và địa điểm. Văn bản được phân tách thành năm trường: quan sát thị giác, đầu vào thính giác, ngữ cảnh tình huống, kiến thức nền và độc thoại nội tâm, cho phép "điều chỉnh trí nhớ" (mnestic realignment) để khôi phục cấu trúc thời gian và nhân quả.
  3. Đánh giá phân cấp dựa trên bằng chứng với xác minh của chuyên gia (M3): Đề xuất bộ đánh giá ba cấp độ: (1) Trích xuất sự thật, (2) Gán thuộc tính trạng thái chủ quan, và (3) Suy luận nguyên tắc và quyết định. Các cấp độ 2 và 3 yêu cầu một suy luận ngắn gọn và một tập hợp bằng chứng rõ ràng được liên kết với dòng thời gian, đảm bảo khả năng kiểm toán và ngăn chặn suy đoán tự do, với sự xác minh chéo từ các chuyên gia. Quá trình xây dựng dữ liệu tuân theo quy trình đa tác nhân bốn giai đoạn (Phân đoạn, Trích xuất đơn vị tự sự nguyên tử, Tạo dòng thời gian có nhận biết hồi tưởng, Khởi tạo tự sự) với nguyên tắc "Faithfulness-First" và vòng lặp "Verify-and-Revise" để đảm bảo độ tin cậy.

III. Main Results:​

Các hệ thống được tăng cường truy xuất (retrieval-augmented systems) chủ yếu cải thiện độ chính xác trong việc trích xuất sự thật. Tuy nhiên, các lỗi vẫn tồn tại đối với các giải thích dựa trên thời gian và các suy luận cấp độ cao hơn (như gán thuộc tính trạng thái chủ quan và suy luận nguyên tắc quyết định), cho thấy sự cần thiết của các cơ chế bộ nhớ vượt ra ngoài việc truy xuất đơn thuần để đạt được khả năng hiểu người thực sự. Kết quả này làm nổi bật khoảng cách giữa năng lực định hướng truy xuất và suy luận mô hình người. KnowMe-Bench chứa 4.7 triệu token dữ liệu tự truyện.

IV. Conclusion & Future Works:​

Bài báo kết luận rằng việc hiểu người đối với các trợ lý kỹ thuật số đồng hành suốt đời cần được định hình như một vấn đề suy luận mô hình người có thể kiểm toán được dựa trên kinh nghiệm dài hạn. KnowMe-Bench cung cấp một benchmark có thể công khai, dựa trên các tự truyện, với biểu diễn kinh nghiệm có cấu trúc, mật độ cao thông qua tái cấu trúc luồng nhận thức và điều chỉnh trí nhớ. Đồng thời, nó giới thiệu một giao thức đánh giá phân cấp, liên kết bằng chứng với xác minh chuyên gia và cung cấp các đường cơ sở chẩn đoán. Hướng nghiên cứu tiếp theo sẽ tập trung vào việc phát triển các cơ chế bộ nhớ và mô hình suy luận vượt trội hơn RAG truyền thống để giải quyết các suy luận cấp cao hơn và các giải thích dựa trên thời gian, nhằm thu hẹp khoảng cách hiện có giữa truy xuất dữ liệu và hiểu người sâu sắc.

V. Brainstorming Space:​

1. Publish Papers:​

  • Nghiên cứu về các kiến trúc mô hình ngôn ngữ lớn mới có khả năng thực hiện suy luận về nguyên tắc và động lực cá nhân thay vì chỉ truy xuất sự kiện đơn lẻ.
  • Khám phá việc tích hợp đa phương thức (ví dụ: hình ảnh, âm thanh từ môi trường sống) vào luồng nhận thức để nâng cao khả năng hiểu ngữ cảnh và trạng thái chủ quan của người dùng.
  • Phát triển các phương pháp "mnestic realignment" tự động và mạnh mẽ hơn để xử lý các cấu trúc thời gian phi tuyến tính phức tạp như hồi tưởng trong các câu chuyện tự truyện.

2. Patent:​

  • Hệ thống trợ lý kỹ thuật số tích hợp trên điện thoại thông minh có khả năng xây dựng và cập nhật hồ sơ người dùng tiến hóa dựa trên nhật ký cá nhân, hội thoại và hoạt động ứng dụng để đưa ra gợi ý cá nhân hóa sâu sắc và đồng nhất.
  • Phần mềm trong thiết bị đeo tay có thể tự động ghi lại và cấu trúc kinh nghiệm sống hàng ngày thành các "đơn vị tự sự nguyên tử" để cung cấp khả năng truy vấn thông tin cá nhân theo ngữ cảnh và hỗ trợ ra quyết định.
  • Ứng dụng di động sử dụng công nghệ "mnestic realignment" để tự động tổ chức nhật ký hoặc ghi chú cá nhân, cho phép người dùng xem lại trải nghiệm theo dòng thời gian hợp lý ngay cả khi các sự kiện được ghi lại dưới dạng hồi tưởng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.04745
ArXiv Abstracthttps://arxiv.org/abs/2601.04745
PDF Downloadhttps://arxiv.org/pdf/2601.04745.pdf
Github Repositoryhttps://github.com/QuantaAlpha/KnowMeBench

4. User-Oriented Multi-Turn Dialogue Generation with Tool Use at scale (41 votes)​

Tác giả: Jungho Cho, Minbyul Jeong, Sungrae Park

Xuất bản lúc: 2026-01-13

Tag: Large Reasoning Models, LRM, Generative AI, Dialogue Generation, Tool Use, Multi-Turn Interaction, Synthetic Data, User-Oriented Simulation, Autonomous Agents

I. Main Problem:​

Vấn đề cốt lõi mà bài báo đề cập là nhu cầu ngày càng tăng đối với các mô hình lý luận lớn (LRM) hoạt động như các tác nhân tự chủ với khả năng sử dụng công cụ đa lượt phức tạp. Các tập dữ liệu và phương pháp tạo dữ liệu hiện có bị hạn chế bởi các bộ công cụ tĩnh, được xác định trước, không thể mở rộng quy mô để xử lý sự phức tạp của tương tác cộng tác mở giữa người và tác nhân. Cụ thể, các phương pháp tạo dữ liệu hiện tại thường tạo ra các quỹ đạo chỉ tập trung vào việc hoàn thành nhiệm vụ ("solely task-solving trajectories") với tương tác tối thiểu, không thể tái tạo các cuộc hội thoại có số lượt cao và tính chất lặp lại, gia tăng như trong các kịch bản thực tế.

II. Main Idea:​

Bài báo đề xuất một mô hình mô phỏng hướng người dùng ("user-oriented simulation paradigm") để tạo ra dữ liệu hội thoại đa lượt sử dụng công cụ ở quy mô lớn, nhằm khắc phục hạn chế của các phương pháp hướng nhiệm vụ. Giải pháp này tách biệt việc tạo nhiệm vụ khỏi một trình mô phỏng người dùng chuyên dụng, bắt chước các quy tắc hành vi của con người như đưa ra yêu cầu tăng dần và cung cấp phản hồi theo từng lượt. Điều này giúp tạo ra các cuộc đối thoại đa lượt chân thực và kéo dài hơn, phản ánh bản chất lặp đi lặp lại của việc giải quyết vấn đề trong thế giới thực.

Quy trình tạo dữ liệu bao gồm ba thành phần chính:

  1. Tổng hợp công cụ và nhiệm vụ động: Sử dụng một trình tạo dựa trên LRM để tạo ra các nhiệm vụ độc đáo, có tiêu chí đánh giá cụ thể, dựa trên các schema cơ sở dữ liệu được tổng hợp, thay vì phụ thuộc vào các API cố định.
  2. Khả năng mở rộng plug-and-play: Quy trình này có tính mô-đun cao, có thể bắt đầu mô phỏng từ bất kỳ trạng thái nào, từ đầu hoặc chèn yêu cầu sử dụng công cụ vào một cuộc trò chuyện đang diễn ra, đảm bảo tính linh hoạt cao trong việc mở rộng dữ liệu.
  3. Các quỹ đạo có mật độ cao: Cho phép hoàn thành nhiều nhiệm vụ trong một luồng hội thoại duy nhất, tạo ra một tập dữ liệu phản ánh tính đa diện của các trường hợp sử dụng trong thế giới thực.

III. Main Results:​

Các kết quả thực nghiệm trên các điểm chuẩn tác nhân như BFCL và τ2 cho thấy rằng các mô hình được đào tạo trên dữ liệu của họ đạt được hiệu suất đa lượt mạnh mẽ hơn và việc sử dụng công cụ đáng tin cậy hơn, đặc biệt trong các miền có tầm nhìn dài và có trạng thái. Hơn nữa, phân tích tính nhất quán trong các lần thực thi lặp lại chứng minh rằng các mô hình này duy trì hành vi sử dụng công cụ chính xác qua nhiều lần thử, thay vì chỉ dựa vào những thành công đơn lẻ.

IV. Conclusion & Future Works:​

Bài báo kết luận bằng cách nhấn mạnh tầm quan trọng của việc mô hình hóa tương tác hướng người dùng và giám sát dựa trên thực thi để đào tạo các mô hình lý luận tác nhân mạnh mẽ và thực tế. Mặc dù văn bản trích dẫn không nêu rõ các hướng nghiên cứu trong tương lai, nhưng nó ngụ ý sự cần thiết phải tiếp tục phát triển các phương pháp tạo dữ liệu tổng hợp chất lượng cao, đa dạng và chân thực để nâng cao khả năng của các tác nhân AI trong tương tác đa lượt phức tạp.

V. Brainstorming Space:​

1. Publish Papers:​

Nghiên cứu về cách kết hợp các mô hình hành vi người dùng phức tạp hơn, bao gồm cảm xúc và ý định không rõ ràng, vào trình mô phỏng người dùng để tạo ra dữ liệu đối thoại chân thực hơn. Khám phá việc áp dụng phương pháp tạo dữ liệu hướng người dùng này cho các miền ứng dụng chuyên biệt khác, ví dụ như chăm sóc sức khỏe hoặc dịch vụ tài chính, để đánh giá khả năng mở rộng và hiệu quả của nó. Phát triển một framework tự động để đánh giá mức độ "tính người" của các cuộc hội thoại được tạo ra, sử dụng các chỉ số định lượng hoặc đánh giá của con người.

2. Patent:​

Một hệ thống tạo dữ liệu đào tạo cho trợ lý ảo trên điện thoại thông minh, trong đó một trình mô phỏng người dùng tạo ra các kịch bản sử dụng công cụ đa lượt phức tạp, ví dụ như đặt lịch hẹn, kiểm tra thời tiết và tìm kiếm nhà hàng, với phản hồi và yêu cầu gia tăng mô phỏng người dùng thực. Một phương pháp động hóa việc tổng hợp các công cụ và API ảo chuyên biệt trên điện thoại, dựa trên nhu cầu của người dùng để hỗ trợ các ứng dụng độc đáo hoặc tích hợp với các ứng dụng di động khác, mà không cần lập trình thủ công cho từng công cụ. Một mô-đun phần mềm "plug-and-play" trên thiết bị di động cho phép các ứng dụng AI tích hợp khả năng sử dụng công cụ đa lượt, cho phép mở rộng chức năng theo thời gian bằng cách tự động tạo và sử dụng các công cụ mới dựa trên ngữ cảnh tương tác của người dùng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.08225
ArXiv Abstracthttps://arxiv.org/abs/2601.08225
PDF Downloadhttps://arxiv.org/pdf/2601.08225.pdf
Github RepositoryN/A

5. ArenaRL: Scaling RL for Open-Ended Agents via Tournament-based Relative Ranking (36 votes)​

Tác giả: Qiang Zhang, Boli Chen, Fanrui Zhang, Ruixue Ding, Shihang Wang, Qiuchen Wang, Yinfeng Huang, Haonan Zhang, Rongxiang Zhu, Pengyong Wang, Ailin Ren, Xin Li, Pengjun Xie, Jiawei Liu, Ning Guo, Jingren Zhou, Zheng-Jun Zha

Xuất bản lúc: 2026-01-10

Tag: Reinforcement Learning, LLM Agents, Open-Ended Tasks, Relative Ranking, Tournament-based Evaluation, Discriminative Collapse

I. Main Problem:​

Vấn đề cốt lõi là các thuật toán Reinforcement Learning (RL) hiện tại gặp khó khăn trong các tác vụ tác nhân ngôn ngữ lớn (LLM agent) có tính chất mở (open-ended tasks) với không gian giải pháp rộng lớn và thiếu sự thật khách quan (ground-truth). Các phương pháp dựa trên mô hình phần thưởng chấm điểm từng điểm (pointwise scalar scoring) dẫn đến hiện tượng "suy giảm khả năng phân biệt" (discriminative collapse), nơi mô hình phần thưởng không thể phân biệt được những lợi thế tinh tế giữa các quỹ đạo khác nhau, khiến tín hiệu phần thưởng hiệu quả bị nhiễu và quá trình tối ưu hóa bị đình trệ.

II. Main Idea:​

Bài báo đề xuất ArenaRL, một mô hình học tăng cường thay đổi từ chấm điểm scalar từng điểm sang xếp hạng tương đối trong nhóm. ArenaRL giới thiệu một cơ chế đánh giá cặp đôi nhận biết quy trình (process-aware pairwise evaluation) sử dụng các tiêu chí đa cấp để gán điểm tương đối chi tiết cho các quỹ đạo. Ngoài ra, ArenaRL xây dựng một đấu trường đối kháng nội nhóm (intra-group adversarial arena) và thiết kế một lược đồ xếp hạng dựa trên giải đấu (tournament-based ranking scheme) để thu được tín hiệu lợi thế ổn định. Để giải quyết chi phí tính toán cao của so sánh cặp đôi, ArenaRL đề xuất một cơ chế loại trực tiếp đơn lẻ có hạt giống (seeded single-elimination mechanism) sử dụng quỹ đạo được tạo bởi giải mã tham lam (greedy decoding) làm "neo chất lượng" để xếp hạng sơ bộ. Bài báo cũng xây dựng hai bộ benchmark chất lượng cao mới là Open-Travel và Open-DeepResearch để khắc phục sự thiếu hụt các benchmark chu trình đầy đủ cho các tác nhân mở.

III. Main Results:​

Cơ chế loại trực tiếp đơn lẻ có hạt giống đạt được độ chính xác ước tính lợi thế gần tương đương với so sánh cặp đôi đầy đủ (độ phức tạp O(N^2)) nhưng chỉ với độ phức tạp O(N), tạo ra sự cân bằng tối ưu giữa hiệu quả và độ chính xác. ArenaRL vượt trội đáng kể so với các baseline RL tiêu chuẩn (SFT, GRPO, GSPO) trên các benchmark mở đa dạng (lập kế hoạch du lịch, nghiên cứu sâu và các tác vụ viết mở), cho phép các tác nhân LLM tạo ra các giải pháp chặt chẽ hơn về mặt logic và mạnh mẽ hơn trên các tác vụ thực tế phức tạp.

IV. Conclusion & Future Works:​

Bài báo xác định và hình thức hóa vấn đề suy giảm khả năng phân biệt trong các tác vụ mở, đồng thời đề xuất ArenaRL để giải quyết bằng cách thay thế phần thưởng scalar từng điểm không ổn định bằng cơ chế xếp hạng tương đối dựa trên giải đấu. Để giảm chi phí tính toán, một kiến trúc giải đấu loại trực tiếp đơn lẻ có hạt giống hiệu quả đã được thiết kế và kiểm chứng. Ngoài ra, bài báo đã xây dựng các benchmark Open-Travel và Open-DeepResearch hoàn chỉnh, lấp đầy khoảng trống quan trọng trong việc đánh giá vòng đời đầy đủ của các tác nhân mở. Hướng nghiên cứu tiếp theo có thể tập trung vào việc tận dụng cơ sở hạ tầng benchmark mới để tiếp tục cải thiện các tác nhân mở.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu các thuật toán hạt giống thay thế hoặc nâng cao cho cơ chế loại trực tiếp đơn lẻ để cải thiện độ chính xác xếp hạng ban đầu.
  2. Khám phá việc áp dụng ArenaRL và phương pháp xếp hạng tương đối cho các lĩnh vực tạo sinh nội dung sáng tạo khác, nơi đánh giá chủ quan là phổ biến.
  3. Phát triển các mô hình giải đấu tự điều chỉnh, có thể thay đổi cấu trúc hoặc chiến lược ghép cặp dựa trên đặc điểm phân phối chất lượng của các quỹ đạo được tạo ra.

2. Patent:​

  1. Một hệ thống AI cá nhân hóa trên điện thoại thông minh sử dụng thuật toán xếp hạng tương đối dựa trên giải đấu để tối ưu hóa và đề xuất các kế hoạch du lịch hoặc lịch trình hàng ngày chi tiết.
  2. Một phương pháp tích hợp cơ chế đánh giá cặp đôi nhận biết quy trình vào các ứng dụng trợ lý nghiên cứu trên điện thoại, cho phép người dùng nhận được các bản tóm tắt hoặc phân tích thông tin chất lượng cao hơn từ nhiều nguồn.
  3. Công nghệ tối ưu hóa giao diện người dùng dựa trên xếp hạng tương đối cho các ứng dụng di động, nơi các giải pháp hoặc gợi ý phức tạp được xếp hạng và trình bày một cách có hệ thống để cải thiện trải nghiệm người dùng và hiệu quả tác vụ.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.06487
ArXiv Abstracthttps://arxiv.org/abs/2601.06487
PDF Downloadhttps://arxiv.org/pdf/2601.06487.pdf
Github Repositoryhttps://github.com/Alibaba-NLP/qqr

6. MemoBrain: Executive Memory as an Agentic Brain for Reasoning (33 votes)​

Tác giả: Hongjin Qian, Zhao Cao, Zheng Liu

Xuất bản lúc: 2026-01-12

Tag: LLM, Agent, Executive Memory, Context Management, Reasoning

I. Main Problem:​

Vấn đề cốt lõi mà bài báo đề cập là khả năng suy luận phức tạp trong các khung tác tử được tăng cường công cụ (tool-augmented agent) thường đòi hỏi tầm nhìn dài hạn, dẫn đến sự tích lũy của các dấu vết suy luận và các tạo phẩm công cụ tạm thời. Điều này gây căng thẳng cho ngữ cảnh làm việc có giới hạn của các mô hình ngôn ngữ lớn (LLM), làm gián đoạn tính liên tục logic và làm suy yếu sự liên kết với nhiệm vụ. Các cơ chế bộ nhớ hiện có (như bộ nhớ liên nhiệm vụ và bộ nhớ dài hạn) không đủ linh hoạt để chủ động theo dõi tiến trình suy luận, nắm bắt các phụ thuộc giữa các kết luận trung gian và quản lý luồng thông tin để duy trì tính nhất quán và liên kết với nhiệm vụ.

II. Main Idea:​

Bài báo đề xuất MemoBrain, một mô hình bộ nhớ điều hành (executive memory) cho các tác tử được tăng cường công cụ. MemoBrain xây dựng một bộ nhớ nhận biết phụ thuộc (dependency-aware memory) qua các bước suy luận, ghi lại các trạng thái trung gian nổi bật và mối quan hệ logic của chúng. Hoạt động như một trợ lý (co-pilot) bên cạnh tác tử suy luận, MemoBrain tổ chức tiến trình suy luận mà không cản trở việc thực thi và chủ động quản lý ngữ cảnh làm việc. Cụ thể, nó cắt tỉa các bước không hợp lệ, gập các phân đoạn con đã hoàn thành (folds completed sub-trajectories), và bảo toàn một xương sống suy luận nhỏ gọn, có độ nổi bật cao trong một ngân sách ngữ cảnh cố định. MemoBrain tổ chức bộ nhớ xung quanh hai quy trình chính: xây dựng bộ nhớ (tóm tắt các phiên thực thi tạm thời thành các đơn vị bộ nhớ nhỏ gọn gọi là "thoughts") và quản lý bộ nhớ (điều chỉnh ngữ cảnh làm việc bằng cách gập hoặc xóa các phần tử ít hữu ích và ưu tiên các xương sống suy luận có độ nổi bật cao).

III. Main Results:​

MemoBrain đã được đánh giá trên các điểm chuẩn dài hạn đầy thách thức bao gồm GAIA, WebWalker và BrowseComp-Plus. Kết quả cho thấy MemoBrain mang lại những cải thiện nhất quán so với các phương pháp cơ sở mạnh mẽ, trên nhiều quy mô mô hình khác nhau, từ 4 tỷ đến 14 tỷ tham số. Điều này chứng minh hiệu quả của nó trong các tác vụ tìm kiếm thông tin và suy luận phức tạp dưới ngân sách ngữ cảnh bị giới hạn.

IV. Conclusion & Future Works:​

Bài báo giới thiệu bộ nhớ điều hành (executive memory) như một mô hình bộ nhớ mới dành riêng cho suy luận phức tạp trong các khung tác tử tăng cường công cụ, hình thức hóa bộ nhớ như một cơ chế kiểm soát rõ ràng để quản lý ngữ cảnh và mô hình hóa nhận thức. MemoBrain, một mô hình bộ nhớ điều hành độc lập, hoạt động như một trợ lý, xây dựng bộ nhớ trong nhiệm vụ nhận biết phụ thuộc và chủ động quản lý ngữ cảnh làm việc thông qua các hoạt động bộ nhớ rõ ràng. Các tác giả đã chứng minh thực nghiệm rằng việc tích hợp bộ nhớ điều hành vào các khung tác tử tăng cường công cụ khác nhau giúp cải thiện hiệu suất một cách nhất quán trên các điểm chuẩn khó. Hướng nghiên cứu tiếp theo có thể bao gồm việc tối ưu hóa các chiến lược xây dựng và quản lý bộ nhớ để đạt được hiệu quả cao hơn nữa trong các kịch bản thực tế.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu cách tích hợp executive memory với các mô hình suy luận đa phương thức để giải quyết các vấn đề phức tạp đòi hỏi thông tin từ nhiều dạng dữ liệu.
  2. Khám phá việc áp dụng executive memory trong môi trường học tăng cường (Reinforcement Learning) để cải thiện khả năng lập kế hoạch và ra quyết định dài hạn của tác tử.
  3. Phát triển một khuôn khổ tự động điều chỉnh các chiến lược quản lý bộ nhớ của MemoBrain dựa trên độ phức tạp nhiệm vụ và tài nguyên tính toán có sẵn.

2. Patent:​

  1. Hệ thống quản lý bộ nhớ thông minh cho trợ lý ảo trên điện thoại di động, tự động tóm tắt và ưu tiên thông tin cuộc hội thoại để duy trì ngữ cảnh dài hạn hiệu quả.
  2. Công nghệ tối ưu hóa tài nguyên thiết bị di động bằng cách sử dụng executive memory để giảm tải ngữ cảnh cho các ứng dụng AI nặng khi người dùng thực hiện các tác vụ phức tạp.
  3. Phương pháp tăng cường khả năng suy luận trên thiết bị di động bằng cách triển khai một co-pilot executive memory để xử lý và quản lý các bước suy luận phức tạp từ các công cụ AI cục bộ.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.08079
ArXiv Abstracthttps://arxiv.org/abs/2601.08079
PDF Downloadhttps://arxiv.org/pdf/2601.08079.pdf
Github Repositoryhttps://github.com/qhjqhj00/MemoBrain

7. Ministral 3 (30 votes)​

Tác giả: Alexander H. Liu, Kartik Khandelwal, Sandeep Subramanian, Victor Jouault, Abhinav Rastogi, Adrien Sadé, Alan Jeffares, Albert Jiang, Alexandre Cahill, Alexandre Gavaudan, Alexandre Sablayrolles, Amélie Héliou, Amos You, Andy Ehrenberg, Andy Lo, Anton Eliseev, Antonia Calvi, Avinash Sooriyarachchi, Baptiste Bout, Baptiste Rozière, Baudouin De Monicault, Clémence Lanfranchi, Corentin Barreau, Cyprien Courtot, Daniele Grattarola, Darius Dabert, Diego de las Casas, Elliot Chane-Sane, Faruk Ahmed, Gabrielle Berrada, Gaëtan Ecrepont, Gauthier Guinet, Georgii Novikov, Guillaume Kunsch, Guillaume Lample, Guillaume Martin, Gunshi Gupta, Jan Ludziejewski, Jason Rute, Joachim Studnia, Jonas Amar, Joséphine Delas, Josselin Somerville Roberts, Karmesh Yadav, Khyathi Chandu, Kush Jain, Laurence Aitchison, Laurent Fainsin, Léonard Blier, Lingxiao Zhao, Louis Martin, Lucile Saulnier, Luyu Gao, Maarten Buyl, Margaret Jennings, Marie Pellat, Mark Prins, Mathieu Poirée, Mathilde Guillaumin, Matthieu Dinot, Matthieu Futeral, Maxime Darrin, Maximilian Augustin, Mia Chiquier, Michel Schimpf, Nathan Grinsztajn, Neha Gupta, Nikhil Raghuraman, Olivier Bousquet, Olivier Duchenne, Patricia Wang, Patrick von Platen, Paul Jacob, Paul Wambergue, Paula Kurylowicz, Pavankumar Reddy Muddireddy, Philomène Chagniot, Pierre Stock, Pravesh Agrawal, Quentin Torroba, Romain Sauvestre, Roman Soletskyi, Rupert Menneer, Sagar Vaze, Samuel Barry, Sanchit Gandhi, Siddhant Waghjale, Siddharth Gandhi, Soham Ghosh, Srijan Mishra, Sumukh Aithal, Szymon Antoniak, Teven Le Scao, Théo Cachet, Theo Simon Sorg, Thibaut Lavril, Thiziri Nait Saada, Thomas Chabal, Thomas Foubert, Thomas Robert, Thomas Wang, Tim Lawson, Tom Bewley, Tom Bewley, Tom Edwards, Umar Jamil, Umberto Tomasini, Valeriia Nemychnikova, Van Phung, Vincent Maladière, Virgile Richard, Wassim Bouaziz, Wen-Ding Li, William Marshall, Xinghui Li, Xinyu Yang, Yassine El Ouahidi, Yihan Wang, Yunhao Tang, Zaccharie Ramzi

Xuất bản lúc: 2026-01-13

Tag: Language Model, Distillation, Parameter-Efficient, Multimodal, Pruning, Online Preference Optimization

I. Main Problem:​

Bài báo giải quyết vấn đề tạo ra các mô hình ngôn ngữ mật độ cao (dense language models) có hiệu suất cạnh tranh nhưng lại hiệu quả về mặt tính toán và bộ nhớ, đặc biệt cho các ứng dụng bị hạn chế về tài nguyên. Các mô hình hiện có thường yêu cầu ngân sách đào tạo lớn (lên đến hàng chục nghìn tỷ tokens), gây tốn kém về chi phí và thời gian.

II. Main Idea:​

Bài báo giới thiệu chuỗi mô hình Ministral 3 (3B, 8B, 14B parameters) được phát triển thông qua phương pháp "Cascade Distillation". Đây là một kỹ thuật lặp lại gồm cắt tỉa (pruning) và tiếp tục đào tạo với chưng cất (distillation) từ một mô hình cha lớn hơn (Mistral Small 3.1). Mỗi kích thước mô hình có ba biến thể: mô hình cơ sở được tiền đào tạo, mô hình tinh chỉnh theo hướng dẫn (instruction-finetuned) và mô hình suy luận (reasoning model). Các mô hình này cũng tích hợp khả năng hiểu hình ảnh. Quá trình đào tạo bao gồm tiền đào tạo theo kiểu "prune-distill-repeat", sau đó là hậu đào tạo bằng Supervised Fine-Tuning (SFT) và Online Direct Preference Optimization (ODPO) để có khả năng thực hiện lệnh và suy luận.

III. Main Results:​

  • Ministral 3 đạt hiệu suất cạnh tranh với các mô hình mã nguồn mở có kích thước tương đương (ví dụ: Gemma 3, Qwen 3).
  • Mô hình Ministral 3 14B Base đạt hiệu suất gần bằng Mistral Small 3.1 Base, trong khi nhỏ hơn hơn 40% và được đào tạo trong thời gian ngắn hơn nhiều.
  • Phương pháp Cascade Distillation chứng minh tính hiệu quả về tính toán, giúp tiền đào tạo các mô hình với chi phí thấp hơn đáng kể so với việc đào tạo từ đầu.
  • Xác nhận các phát hiện từ công trình trước: (a) tồn tại "khoảng cách năng lực" khi một mô hình giáo viên mạnh hơn không nhất thiết tạo ra mô hình học sinh mạnh hơn trong tiền đào tạo, nhưng lại có lợi trong hậu đào tạo; (b) chưng cất từ mô hình giáo viên đã được hậu đào tạo tốt hơn so với mô hình giáo viên chỉ được tiền đào tạo; (c) chưng cất từ mô hình giáo viên đã được tối ưu hóa theo ưu tiên của con người tốt hơn so với mô hình chỉ được hậu đào tạo bằng SFT.
  • Tối ưu hóa ưu tiên trực tuyến (Online Direct Preference Optimization - ODPO) cải thiện đáng kể sự phù hợp với ưu tiên của con người so với SFT và các biến thể DPO ngoại tuyến.
  • Tất cả các mô hình Ministral 3 đều có khả năng hiểu hình ảnh và hỗ trợ độ dài ngữ cảnh lên đến 256k tokens (128k cho mô hình suy luận).

IV. Conclusion & Future Works:​

Ministral 3 giới thiệu một dòng 9 mô hình ngôn ngữ mật độ cao, mã nguồn mở dưới giấy phép Apache 2.0, được thiết kế cho các ứng dụng hạn chế về tài nguyên. Các mô hình này được phát triển thông qua một quy trình tiền đào tạo hiệu quả về tính toán, Cascade Distillation, và bao gồm các biến thể cho mục đích chung, theo hướng dẫn và suy luận, cùng với khả năng hiểu hình ảnh. Bài báo cũng củng cố các hiểu biết quan trọng về chiến lược chưng cất mô hình. Văn bản được trích xuất không chi tiết về hướng nghiên cứu tương lai cụ thể.

V. Brainstorming Space:​

1. Publish Papers:​

  • Nghiên cứu sâu hơn về "khoảng cách năng lực" trong chưng cất mô hình bằng cách khám phá các kiến trúc mô hình giáo viên/học sinh đa dạng và các kỹ thuật chưng cất phức tạp hơn để tối ưu hóa hiệu suất học sinh.
  • Mở rộng phương pháp Cascade Distillation để áp dụng cho các modalities khác như âm thanh hoặc video, tạo ra các mô hình đa phương thức nhỏ gọn và hiệu quả.
  • Phát triển các chiến lược hậu đào tạo (post-training) dựa trên preference optimization nâng cao, tích hợp phản hồi trực tiếp từ người dùng trong môi trường thời gian thực để liên tục cải thiện sự phù hợp của mô hình với nhu cầu người dùng.

2. Patent:​

  • Hệ thống trợ lý AI trên điện thoại thông minh sử dụng các mô hình Ministral 3 được chưng cất để xử lý cục bộ các yêu cầu của người dùng, đảm bảo quyền riêng tư và giảm thiểu độ trễ, đặc biệt hữu ích cho các tác vụ hàng ngày.
  • Công nghệ nhận dạng hình ảnh tích hợp vào camera điện thoại sử dụng bộ mã hóa thị giác (vision encoder) của Ministral 3 để phân tích và cung cấp thông tin chi tiết về đối tượng/cảnh vật trong thời gian thực, với mức tiêu thụ năng lượng thấp.
  • Phương pháp tối ưu hóa thông báo thông minh trên thiết bị di động, nơi một biến thể Ministral 3 được đào tạo để phân tích ngữ cảnh tin nhắn đến và ưu tiên hoặc tóm tắt chúng, giúp người dùng tập trung vào các thông tin quan trọng mà không cần kết nối mạng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.08584
ArXiv Abstracthttps://arxiv.org/abs/2601.08584
PDF Downloadhttps://arxiv.org/pdf/2601.08584.pdf
Github RepositoryN/A

8. 3AM: Segment Anything with Geometric Consistency in Videos (24 votes)​

Tác giả: Yang-Che Sun, Cheng Sun, Chin-Yang Lin, Fu-En Yang, Min-Hung Chen, Yen-Yu Lin, Yu-Lun Liu

Xuất bản lúc: 2026-01-13

Tag: Video Object Segmentation, Geometric Consistency, 3D-aware Features, SAM2, MUSt3R, Object Tracking

I. Main Problem:​

Các phương pháp phân đoạn đối tượng trong video (VOS) hiện tại như SAM2 đạt hiệu suất tốt nhưng gặp khó khăn nghiêm trọng khi có sự thay đổi góc nhìn lớn của camera, chủ yếu do phụ thuộc vào các đặc trưng hình ảnh 2D. Các phương pháp phân đoạn 3D truyền thống giải quyết vấn đề nhất quán góc nhìn nhưng đòi hỏi thông tin phức tạp như tư thế camera, bản đồ độ sâu và quá trình tiền xử lý tốn kém, không phù hợp cho các ứng dụng thực tế. Cả hai hướng tiếp cận đều không thể duy trì nhận dạng đối tượng nhất quán trong môi trường 3D động mà không có sự giám sát 3D rõ ràng hoặc chi phí tính toán cao.

II. Main Idea:​

Bài báo giới thiệu 3AM, một cải tiến trong quá trình huấn luyện tích hợp các đặc trưng nhận biết 3D từ mô hình tái tạo MUSt3R vào SAM2. Phương pháp này sử dụng một Feature Merger nhẹ để kết hợp các đặc trưng đa cấp của MUSt3R (mã hóa sự tương ứng hình học ngầm định) với các đặc trưng hình ảnh của SAM2. Sự kết hợp này cho phép nhận diện đối tượng nhất quán về mặt hình học, dựa trên cả vị trí không gian và sự tương đồng thị giác. Ngoài ra, một chiến lược lấy mẫu nhận biết trường nhìn được đề xuất để đảm bảo các khung hình quan sát các vùng đối tượng nhất quán về mặt không gian, giúp học sự tương ứng 3D đáng tin cậy. Quan trọng nhất, 3AM chỉ yêu cầu đầu vào RGB tại thời điểm suy luận mà không cần tư thế camera hay tiền xử lý phức tạp.

III. Main Results:​

3AM đã đạt được những cải thiện đáng kể so với SAM2 và các phương pháp mở rộng trên các bộ dữ liệu thử thách với chuyển động đường cơ sở rộng (ScanNet++, Replica). Cụ thể, 3AM đạt 90.6% IoU và 71.7% Positive IoU trên tập con được chọn của ScanNet++, cải thiện đáng kể so với SAM2Long (74.7% IoU và 41.3% Positive IoU), tương ứng là +15.9 và +30.4 điểm. Điều này chứng tỏ khả năng vượt trội của 3AM trong việc theo dõi đối tượng nhất quán dưới các thay đổi góc nhìn lớn và sự tái xuất hiện của đối tượng.

IV. Conclusion & Future Works:​

3AM giải quyết hiệu quả khoảng cách giữa theo dõi 2D và nhất quán 3D bằng cách tích hợp các đặc trưng hình học mà không cần giám sát 3D tại thời điểm suy luận. Phương pháp này cho phép phân đoạn và theo dõi đối tượng nhất quán về mặt hình học, khả năng gợi ý linh hoạt và khái quát hóa rộng rãi. Hướng nghiên cứu tiếp theo có thể tập trung vào việc tối ưu hóa hơn nữa Feature Merger và chiến lược lấy mẫu để cải thiện hiệu suất trong các kịch bản cực đoan hơn hoặc khám phá ứng dụng của 3AM trong các tác vụ liên quan đến tương tác 3D và robot.

V. Brainstorming Space:​

1. Publish Papers:​

  • Phát triển một framework học tập tự giám sát cho các đặc trưng hình học 3D để giảm sự phụ thuộc vào các mô hình tái tạo ban đầu như MUSt3R.
  • Nghiên cứu việc áp dụng 3AM trong các môi trường 3D động phức tạp cho robot và xe tự hành, tập trung vào khả năng ra quyết định dựa trên sự hiểu biết không gian nhất quán.
  • Mở rộng 3AM để thực hiện phân đoạn ngữ nghĩa và panoptic 3D nhất quán trên video dài, xử lý các tình huống đối tượng biến mất và tái xuất hiện kéo dài.

2. Patent:​

  • Hệ thống theo dõi đối tượng video trên điện thoại thông minh sử dụng camera đa góc để tạo ra bản đồ hình học ngầm định, cho phép người dùng chọn và theo dõi đối tượng liên tục trong các video quay bằng điện thoại, ngay cả khi góc nhìn thay đổi mạnh.
  • Ứng dụng điện thoại di động cho phép người dùng chỉnh sửa video chuyên nghiệp bằng cách chọn một đối tượng bất kỳ trong video và tự động duy trì vùng phân đoạn nhất quán của đối tượng đó qua các cảnh, hỗ trợ xóa phông hoặc hiệu ứng AR một cách liền mạch.
  • Công nghệ camera điện thoại thông minh tích hợp nhận diện và theo dõi đối tượng 3D-aware để hỗ trợ tính năng lấy nét tự động thông minh hoặc ổn định hình ảnh, giữ cho đối tượng chính luôn rõ nét và ở trung tâm ngay cả khi người quay di chuyển và thay đổi góc nhìn.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.08831
ArXiv Abstracthttps://arxiv.org/abs/2601.08831
PDF Downloadhttps://arxiv.org/pdf/2601.08831.pdf
Github RepositoryN/A

9. Motion Attribution for Video Generation (24 votes)​

Tác giả: Xindi Wu, Despoina Paschalidou, Jun Gao, Antonio Torralba, Laura Leal-Taixé, Olga Russakovsky, Sanja Fidler, Jonathan Lorraine

Xuất bản lúc: 2026-01-13

Tag: Motion Attribution, Video Generation, Diffusion Models, Data Curation, Gradient-based

I. Main Problem:​

Vấn đề cốt lõi mà bài báo đề cập là sự hiểu biết còn hạn chế về vai trò của dữ liệu huấn luyện trong việc ảnh hưởng đến chuyển động trong các mô hình tạo video. Các phương pháp gán thuộc tính dữ liệu hiện có thường tập trung vào nội dung tĩnh (ảnh), và việc mở rộng chúng một cách trực tiếp sang video sẽ làm mất đi cấu trúc thời gian, chỉ tập trung vào ngoại hình mà bỏ qua động lực học. Điều này dẫn đến các thách thức trong việc xác định chính xác clip nào trong dữ liệu huấn luyện ảnh hưởng đến chất lượng và tính nhất quán của chuyển động trong video được tạo ra.

II. Main Idea:​

Bài báo giới thiệu Motive (MOTIon attribution for Video gEneration), một khung gán thuộc tính dữ liệu dựa trên gradient, tập trung vào chuyển động và có khả năng mở rộng. Motive giải quyết vấn đề bằng cách:

  1. Cô lập động lực học thời gian: Sử dụng các mặt nạ tổn thất có trọng số chuyển động (motion-weighted loss masks), được tạo ra từ lưu lượng quang học (optical flow), để đảm bảo tín hiệu gán thuộc tính tập trung vào các vùng động thay vì ngoại hình tĩnh.
  2. Khả năng mở rộng và hiệu quả: Áp dụng các phương pháp tính toán gradient có thể mở rộng cho các mô hình và tập dữ liệu video lớn, bao gồm các phép xấp xỉ inverse-Hessian, ước tính tương tự gradient độ phương sai thấp (sử dụng common randomness), biến thể lấy mẫu đơn để giảm chi phí tính toán, và phép chiếu Fastfood để giảm yêu cầu lưu trữ.
  3. Khắc phục sai lệch: Xử lý sai lệch do độ dài khung hình trong độ lớn gradient, đảm bảo gán thuộc tính công bằng cho các clip có thời lượng khác nhau.
  4. Cung cấp hướng dẫn chọn lọc dữ liệu: Các điểm số từ Motive giúp xác định các clip huấn luyện có ảnh hưởng mạnh mẽ đến chuyển động, từ đó hỗ trợ việc chọn lọc dữ liệu tinh chỉnh (fine-tuning) để cải thiện độ mượt, mức độ động lực, tính nhất quán thời gian và độ tin cậy vật lý của video.

III. Main Results:​

  • Motive xác định hiệu quả các clip trong dữ liệu tinh chỉnh có ảnh hưởng lớn đến chuyển động.
  • Việc chọn lọc dữ liệu theo hướng dẫn của Motive cải thiện tính nhất quán thời gian và tính hợp lý vật lý của chuyển động trong video.
  • Trên VBench, phương pháp này cải thiện cả độ mượt chuyển động (motion smoothness) và mức độ động lực (dynamic degree).
  • Đạt được tỷ lệ ưu tiên của con người là 74.1% so với mô hình cơ sở đã được huấn luyện trước (pretrained base model).
  • Đạt được hoặc vượt qua hiệu suất tinh chỉnh toàn bộ tập dữ liệu chỉ với 10% dữ liệu đã chọn lọc.
  • Vượt trội hơn các phương pháp gán thuộc tính không nhận biết chuyển động (motion-unaware attribution baselines).
  • Đây là khung làm việc đầu tiên gán thuộc tính cho chuyển động (chứ không phải ngoại hình) trong các mô hình tạo video và sử dụng nó để tuyển chọn dữ liệu tinh chỉnh.

IV. Conclusion & Future Works:​

Bài báo kết luận rằng Motive cung cấp một khung gán thuộc tính dữ liệu tập trung vào chuyển động, có khả năng mở rộng và hiệu quả, cho phép hiểu rõ hơn về cách dữ liệu huấn luyện ảnh hưởng đến động lực học trong các mô hình tạo video. Bằng cách cô lập ảnh hưởng của chuyển động, Motive hỗ trợ việc chọn lọc dữ liệu tinh chỉnh để cải thiện đáng kể chất lượng chuyển động của video được tạo ra. Văn bản được trích xuất không đề cập trực tiếp đến các hướng nghiên cứu tương lai cụ thể.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu ứng dụng Motive để phân tích và tối ưu hóa dữ liệu huấn luyện cho các mô hình tạo video dài hơn hoặc có tương tác phức tạp hơn giữa các đối tượng trong môi trường đa tác nhân.
  2. Mở rộng framework Motive để không chỉ phân tích ảnh hưởng của dữ liệu mà còn đề xuất các cách tổng hợp dữ liệu mới (ví dụ: bằng cách kết hợp các yếu tố chuyển động từ nhiều clip) nhằm tạo ra các loại chuyển động mong muốn cụ thể.
  3. Áp dụng Motive trong việc gỡ lỗi (debugging) các mô hình tạo video, tự động xác định nguyên nhân gốc rễ của các lỗi chuyển động cụ thể (như flicker, object drift) từ các mẫu dữ liệu huấn luyện có ảnh hưởng tiêu cực.

2. Patent:​

  1. Một hệ thống AI tích hợp vào ứng dụng chỉnh sửa video trên điện thoại thông minh, tự động phân tích và đề xuất các clip mẫu từ thư viện của người dùng để cải thiện hoặc tái tạo phong cách chuyển động trong video đang được tạo ra hoặc chỉnh sửa.
  2. Công nghệ trên điện thoại thông minh cho phép người dùng quay video và sử dụng thuật toán dựa trên Motive để xác định các phân đoạn chuyển động "chất lượng cao" nhất trong video đó, sau đó tự động tạo ra các GIF hoặc video ngắn tối ưu cho chia sẻ mạng xã hội.
  3. Phương pháp sử dụng camera điện thoại thông minh để thu thập dữ liệu về các hoạt động thể chất hoặc biểu cảm khuôn mặt của người dùng, sau đó sử dụng Motive để đánh giá và chọn lọc dữ liệu đó nhằm cá nhân hóa việc huấn luyện các mô hình AI tạo animation hoặc avatar số với chuyển động chân thực.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.08828
ArXiv Abstracthttps://arxiv.org/abs/2601.08828
PDF Downloadhttps://arxiv.org/pdf/2601.08828.pdf
Github RepositoryN/A

10. The Confidence Dichotomy: Analyzing and Mitigating Miscalibration in Tool-Use Agents (21 votes)​

Tác giả: Weihao Xuan, Qingcheng Zeng, Heli Qi, Yunze Xiao, Junjue Wang, Naoto Yokoya

Xuất bản lúc: 2026-01-12

Tag: LLMs, Tool-Use Agents, Calibration, Miscalibration, Confidence Dichotomy, Reinforcement Learning

I. Main Problem:​

Vấn đề cốt lõi là đảm bảo độ tin cậy (trustworthiness) của các tác nhân tự trị (autonomous agents) dựa trên mô hình ngôn ngữ lớn (LLM) trong các tác vụ đa lượt (multi-turn tasks). Một trụ cột cơ bản của độ tin cậy này là hiệu chuẩn (calibration) – khả năng của tác nhân thể hiện mức độ tự tin (confidence) phản ánh chính xác hiệu suất thực tế của nó. Mặc dù hiệu chuẩn đã được nghiên cứu kỹ cho các mô hình tĩnh, động lực của nó trong quy trình làm việc của tác nhân tích hợp công cụ vẫn chưa được khám phá đầy đủ. Các nghiên cứu trước đây đã chỉ ra rằng việc sử dụng công cụ thường làm trầm trọng thêm tình trạng tự tin thái quá (overconfidence), nhưng vẫn còn một câu hỏi quan trọng: liệu hiệu chuẩn kém (miscalibration) có phải là hệ quả phổ biến của việc sử dụng công cụ, hay nó phụ thuộc vào bản chất của công cụ đó?

II. Main Idea:​

Nghiên cứu này điều tra một cách có hệ thống về hiệu chuẩn bằng lời nói (verbalized calibration) trong các tác nhân sử dụng công cụ và tiết lộ một "tính lưỡng phân tự tin" (confidence dichotomy) cơ bản được điều khiển bởi loại công cụ. Cụ thể:

  • Công cụ bằng chứng (evidence tools) (ví dụ: tìm kiếm web) gây ra sự tự tin thái quá nghiêm trọng do thông tin nhiễu loạn vốn có.
  • Công cụ xác minh (verification tools) (ví dụ: trình thông dịch mã) có thể làm nền tảng cho lập luận thông qua phản hồi mang tính xác định và giảm thiểu hiệu chuẩn kém. Để cải thiện hiệu chuẩn trên các loại công cụ, bài báo đề xuất một khung làm mịn (fine-tuning) dựa trên học tăng cường (Reinforcement Learning - RL) mang tên Calibration Agentic RL (CAR). Khung này tối ưu hóa đồng thời độ chính xác của tác vụ và độ tin cậy của sự tự tin được thể hiện, được hỗ trợ bởi một tiêu chuẩn toàn diện về thiết kế phần thưởng, bao gồm phần thưởng mới Margin-Separated Calibration Reward (MSCR).

III. Main Results:​

  • Phát hiện "tính lưỡng phân tự tin": Nghiên cứu thí điểm chỉ ra rằng công cụ bằng chứng (ví dụ: tìm kiếm web) có hệ thống gây ra sự tự tin thái quá nghiêm trọng (được đo bằng MCIP cao hơn), trong khi công cụ xác minh (ví dụ: trình thông dịch mã) có thể làm nền tảng cho lập luận thông qua phản hồi có tính xác định và giảm thiểu hiệu chuẩn kém (MCIP thấp hơn). Sự lưỡng phân này tồn tại trên cả các chiến lược dựa trên nhắc nhở và RL tiêu chuẩn, cho thấy đây là một thách thức cơ bản không thể giải quyết chỉ bằng kỹ thuật nhắc nhở. Các kiểm định t-test cho thấy sự khác biệt là có ý nghĩa thống kê.
  • Hiệu quả của khung CAR: Các tác nhân được huấn luyện bằng khung CAR không chỉ đạt được hiệu chuẩn vượt trội mà còn thể hiện khả năng khái quát hóa mạnh mẽ từ môi trường huấn luyện cục bộ sang các môi trường web nhiễu loạn và sang các miền riêng biệt như lập luận toán học.
  • Các tác nhân được huấn luyện duy trì độ chính xác cạnh tranh trong khi đạt được hiệu chuẩn tốt hơn đáng kể so với các đường cơ sở.

IV. Conclusion & Future Works:​

Kết quả nghiên cứu nhấn mạnh sự cần thiết của các chiến lược hiệu chuẩn dành riêng cho từng miền đối với các tác nhân sử dụng công cụ. Công trình này thiết lập một nền tảng để xây dựng các tác nhân tự nhận thức (self-aware agents) có thể giao tiếp độ bất định một cách đáng tin cậy trong các triển khai thực tế có rủi ro cao. Hướng nghiên cứu tiếp theo có thể bao gồm việc khám phá thêm các thiết kế phần thưởng cho RL, đặc biệt là dựa trên các hiểu biết từ MSCR, để tối ưu hóa hiệu chuẩn.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu sâu hơn về cách các cơ chế chú ý (attention mechanisms) trong LLM tương tác với các công cụ khác nhau để ảnh hưởng đến sự tự tin và hiệu chuẩn của tác nhân.
  2. Phát triển các phương pháp huấn luyện đa nhiệm (multi-task training) cho tác nhân sử dụng công cụ để đồng thời cải thiện hiệu suất tác vụ, hiệu chuẩn và khả năng đối phó với thông tin nhiễu.
  3. Phân tích tính khái quát hóa của "tính lưỡng phân tự tin" và khung CAR trên một phạm vi rộng hơn của các kiến trúc LLM, khung tác nhân và các tác vụ phức tạp, đa công cụ.

2. Patent:​

  1. Hệ thống trợ lý ảo trên điện thoại thông minh có khả năng đánh giá và hiển thị mức độ tin cậy của câu trả lời hoặc đề xuất cho người dùng, đặc biệt khi thông tin được lấy từ internet hoặc các nguồn không xác định.
  2. Công nghệ tích hợp vào các ứng dụng xử lý dữ liệu hoặc ghi chú trên điện thoại, tự động gắn cờ các thông tin có độ tin cậy thấp hoặc chưa được xác minh khi người dùng thu thập dữ liệu từ nhiều nguồn khác nhau.
  3. Phần mềm điều hướng hoặc ứng dụng bản đồ trên điện thoại có tính năng hiển thị mức độ chắc chắn của các tuyến đường hoặc thông tin giao thông dựa trên độ tin cậy của dữ liệu đầu vào (ví dụ: từ cảm biến đám đông so với dữ liệu chính thức), giúp người dùng đưa ra quyết định di chuyển tốt hơn.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.07264
ArXiv Abstracthttps://arxiv.org/abs/2601.07264
PDF Downloadhttps://arxiv.org/pdf/2601.07264.pdf
Github RepositoryN/A

11. Parallel Context-of-Experts Decoding for Retrieval Augmented Generation (18 votes)​

Tác giả: Giulio Corallo, Paolo Papotti

Xuất bản lúc: 2026-01-13

Tag: RAG, Decoding, LLM, KV Cache, Context-of-Experts

I. Main Problem:​

Các phương pháp Retrieval Augmented Generation (RAG) truyền thống đối mặt với sự đánh đổi giữa việc lý luận đa tài liệu và hiệu suất. Việc nối các tài liệu vào một prompt dài gây tắc nghẽn prefill (độ trễ ban đầu) và có thể làm giảm khả năng lý luận do mô hình khó tích hợp bằng chứng từ nhiều tài liệu. Trong khi đó, việc mã hóa các KV cache của tài liệu một cách độc lập giúp tăng tốc độ nhưng lại loại bỏ khả năng tương tác chéo giữa các tài liệu, làm giảm hiệu suất đối với các truy vấn đa bước và yêu cầu lý luận chuyên sâu.

II. Main Idea:​

Bài báo đề xuất Parallel Context-of-Experts Decoding (PCED), một khung làm việc không cần huấn luyện (training-free) giúp chuyển đổi quá trình tổng hợp bằng chứng từ cơ chế attention sang quá trình giải mã (decoding). PCED xử lý các tài liệu đã truy xuất như những "chuyên gia" độc lập, đồng bộ hóa các dự đoán của chúng thông qua một quy tắc giải mã tương phản nhận biết truy xuất (retrieval-aware contrastive decoding) mới, trong đó trọng số logits của chuyên gia được cân nhắc dựa trên mô hình tiên nghiệm (model prior). Cách tiếp cận này khôi phục khả năng lý luận đa tài liệu mà không cần xây dựng attention chung giữa các tài liệu, đồng thời cung cấp tốc độ nhanh hơn bằng cách sử dụng các KV cache độc lập.

III. Main Results:​

  • PCED vượt trội so với các phương pháp song song trước đây (như APE) tới 70 điểm trên các điểm chuẩn RAG và ICL.
  • PCED thường ngang bằng hoặc vượt trội hơn các phương pháp baseline sử dụng ngữ cảnh dài (long context baselines).
  • Đạt được tốc độ tăng tốc thời gian phản hồi token đầu tiên (time-to-first-token - TTFT) hơn 180 lần.
  • PCED-DENSE vượt trội hơn Corpus in Ctx (All) trong 11 trên 16 cài đặt thử nghiệm.
  • PCED-DENSE cải thiện độ chính xác từ 58 (Corpus in Ctx Single) và 79 (All) lên 85 trên NQ với Llama, tương tự từ 60 (Single) và 76 (All) lên 81 với MISTRAL, cho thấy khả năng giảm nhiễu từ các ngữ cảnh không liên quan.
  • PCED phục hồi khả năng lý luận đa tài liệu tại thời điểm giải mã, cho phép mô hình chuyển đổi giữa các tài liệu để trả lời các truy vấn đa bước.

IV. Conclusion & Future Works:​

PCED cung cấp một giải pháp hiệu quả để giải quyết mâu thuẫn giữa hiệu suất và khả năng lý luận đa tài liệu trong RAG bằng cách dịch chuyển quá trình tổng hợp bằng chứng sang giai đoạn giải mã. Khung làm việc này cho phép sử dụng các tài liệu độc lập như các "chuyên gia" và điều phối các dự đoán của chúng một cách thông minh, từ đó đạt được cả tốc độ và độ chính xác cao. Mặc dù bài viết không nêu rõ các hướng nghiên cứu trong tương lai, thành công của việc tổng hợp bằng chứng ở thời điểm giải mã mở ra tiềm năng lớn cho các hệ thống RAG có khả năng mở rộng và hiệu quả hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  • Nghiên cứu các chiến lược lựa chọn hoặc tổng hợp token từ các chuyên gia khác nhau để tối ưu hóa chất lượng đầu ra cho các tác vụ RAG phức tạp.
  • Phát triển các phương pháp tự động điều chỉnh các siêu tham số (hyperparameters) như beta0 và gamma dựa trên đặc điểm của truy vấn hoặc tài liệu.
  • Khám phá việc tích hợp PCED với các mô hình RAG khác hoặc các chiến lược truy xuất tài liệu tiên tiến để đạt được hiệu suất cao hơn nữa.

2. Patent:​

  • Hệ thống RAG tối ưu hóa tiêu thụ năng lượng cho thiết bị di động bằng cách sử dụng các KV cache tài liệu độc lập và giải mã song song để giảm tải tính toán.
  • Ứng dụng trợ lý ảo thông minh trên điện thoại có khả năng tổng hợp thông tin từ nhiều nguồn tài liệu được lưu trữ cục bộ hoặc đám mây một cách nhanh chóng và chính xác, đặc biệt trong các trường hợp cần thông tin đa nguồn.
  • Phương pháp tìm kiếm và tổng hợp thông tin cá nhân hóa trên điện thoại, tự động đánh trọng số độ tin cậy của các tài liệu dựa trên lịch sử tương tác và sở thích của người dùng để cung cấp câu trả lời phù hợp hơn.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.08670
ArXiv Abstracthttps://arxiv.org/abs/2601.08670
PDF Downloadhttps://arxiv.org/pdf/2601.08670.pdf
Github RepositoryN/A