Chuyển tới nội dung chính

🤗 Daily Hugging Face Paper Digest - 2026-01-15

Báo cáo được tạo tự động vào lúc 2026-01-16 09:42:12 bằng mô hình gemini-2.5-flash.

📰 Summary of Papers​

1. Controlled Self-Evolution for Algorithmic Code Optimization (95 votes)​

Tác giả: Tu Hu, Ronghao Chen, Shuo Zhang, Jianghao Yin, Mou Xiao Feng, Jingping Liu, Shaolei Zhang, Wenqi Jiang, Yuqi Fang, Sen Hu, Yi Xu, Huacan Wang

Xuất bản lúc: 2026-01-12

Tag: Algorithmic Code Optimization, Self-Evolution, Large Language Models (LLMs), Genetic Algorithms, Exploration Efficiency

I. Main Problem:​

Các phương pháp tự tiến hóa hiện có để tối ưu hóa mã thuật toán thông qua LLM gặp phải vấn đề hiệu quả khám phá thấp. Điều này dẫn đến việc chúng không thể tìm ra các giải pháp có độ phức tạp vượt trội (về thời gian và không gian) trong một ngân sách tài nguyên hạn chế. Cụ thể, sự thiếu hiệu quả này bắt nguồn từ: thiên vị khởi tạo (initialization bias) làm mắc kẹt quá trình tiến hóa ở các vùng giải pháp kém; các phép toán ngẫu nhiên không được kiểm soát (uncontrolled stochastic operations) thiếu hướng dẫn phản hồi; và việc sử dụng kinh nghiệm chưa đủ hiệu quả giữa các tác vụ và trong cùng một tác vụ, dẫn đến lặp lại các thất bại.

II. Main Idea:​

Bài báo đề xuất Controlled Self-Evolution (CSE) để giải quyết các vấn đề về hiệu quả khám phá bằng cách kiểm soát chặt chẽ quá trình tự tiến hóa. CSE bao gồm ba thành phần chính:

  1. Diversified Planning Initialization: Sinh ra nhiều chiến lược thuật toán có cấu trúc khác biệt ban đầu để đảm bảo bao phủ rộng rãi không gian giải pháp, giảm nguy cơ bị mắc kẹt vào các cực tiểu cục bộ.
  2. Genetic Evolution: Thay thế các phép toán ngẫu nhiên bằng các cơ chế được hướng dẫn bởi phản hồi. Điều này bao gồm đột biến có mục tiêu (targeted mutation) thông qua phân tách chức năng của mã để tinh chỉnh các thành phần lỗi và lai ghép tổ hợp (compositional crossover) để tích hợp điểm mạnh từ các giải pháp đa dạng.
  3. Hierarchical Evolution Memory: Thu thập và tái sử dụng kinh nghiệm tiến hóa (cả thành công và thất bại) ở hai cấp độ: bộ nhớ cục bộ (intra-task) để học hỏi các bài học cụ thể của tác vụ hiện tại, và bộ nhớ toàn cục (inter-task) để chắt lọc các mẫu tối ưu hóa chung có thể tái sử dụng cho các tác vụ tương lai.

III. Main Results:​

Các thí nghiệm toàn diện trên bộ dữ liệu EffiBench-X chứng minh rằng CSE:

  • Liên tục vượt trội hơn tất cả các phương pháp cơ sở trên nhiều kiến trúc LLM khác nhau.
  • Đạt được hiệu quả cao hơn ngay từ những thế hệ tiến hóa đầu tiên.
  • Duy trì sự cải thiện liên tục trong suốt quá trình tiến hóa. Những kết quả này khẳng định CSE mang lại những lợi ích mạnh mẽ, không phụ thuộc vào kiến trúc LLM, với khả năng khởi động nhanh và tiến bộ bền vững.

IV. Conclusion & Future Works:​

CSE cung cấp một khung làm việc mới giúp cải thiện đáng kể hiệu quả khám phá trong quá trình tối ưu hóa mã thuật toán thông qua tự tiến hóa có kiểm soát. Bằng cách giải quyết các hạn chế của các phương pháp hiện có thông qua khởi tạo đa dạng, tiến hóa có hướng dẫn phản hồi và quản lý kinh nghiệm phân cấp, CSE có khả năng tìm ra các giải pháp hiệu quả hơn về mặt thuật toán trong các giới hạn tài nguyên nghiêm ngặt. Bài báo không đề cập cụ thể đến các hướng nghiên cứu tiếp theo trong đoạn trích này.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu áp dụng khung CSE để tối ưu hóa mã cho các thiết bị nhúng và hệ thống thời gian thực, nơi các ràng buộc về tài nguyên và hiệu suất là cực kỳ quan trọng.
  2. Khám phá việc tích hợp các mô hình ngôn ngữ nhỏ hơn vào CSE để giảm chi phí tính toán, giúp triển khai tự tiến hóa hiệu quả hơn trong môi trường tài nguyên hạn chế.
  3. Phân tích sâu hơn về tác động của các chiến lược phân tách chức năng mã khác nhau trong Genetic Evolution của CSE đối với hiệu quả và chất lượng tối ưu hóa.

2. Patent:​

  1. Một ứng dụng di động cho phép các nhà phát triển tối ưu hóa mã nguồn của ứng dụng trực tiếp trên điện thoại, sử dụng một dịch vụ đám mây tích hợp công nghệ CSE để đề xuất các phiên bản mã hiệu quả hơn về năng lượng và tốc độ.
  2. Hệ thống tối ưu hóa thuật toán tích hợp vào hệ điều hành điện thoại thông minh, tự động phân tích và tinh chỉnh các đoạn mã của ứng dụng nền để cải thiện tuổi thọ pin và hiệu suất tổng thể mà không cần can thiệp từ người dùng hoặc nhà phát triển.
  3. Công nghệ phát hiện và tối ưu hóa các điểm nghẽn hiệu suất trong mã nguồn của trò chơi di động, sử dụng CSE để tự động tạo ra các biến thể mã được tối ưu hóa cho từng dòng chip xử lý đồ họa di động cụ thể, cải thiện trải nghiệm chơi game.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.07348
ArXiv Abstracthttps://arxiv.org/abs/2601.07348
PDF Downloadhttps://arxiv.org/pdf/2601.07348.pdf
Github Repositoryhttps://github.com/QuantaAlpha/EvoControl

2. DeepResearchEval: An Automated Framework for Deep Research Task Construction and Agentic Evaluation (92 votes)​

Tác giả: Yibo Wang, Lei Wang, Yue Deng, Keming Wu, Yao Xiao, Huanjin Yao, Liwei Kang, Hai Ye, Yongcheng Jing, Lidong Bing

Xuất bản lúc: 2026-01-14

Tag: LLM, Deep Research Systems, Agentic Evaluation, Automated Benchmarking, Fact-Checking

I. Main Problem:​

Việc đánh giá các hệ thống nghiên cứu sâu (deep research systems), vốn được sử dụng rộng rãi cho các tác vụ nghiên cứu web nhiều bước, phân tích và tổng hợp thông tin từ nhiều nguồn, còn gặp nhiều thách thức. Các benchmark hiện có thường đòi hỏi xây dựng tác vụ tốn nhiều chú thích, dựa vào các chiều đánh giá tĩnh, và không thể xác minh độ tin cậy của các sự thật khi thiếu trích dẫn.

II. Main Idea:​

Bài báo giới thiệu DeepResearchEval, một framework tự động hóa để xây dựng tác vụ nghiên cứu sâu và đánh giá theo cơ chế tác nhân. Framework này gồm hai phần chính:

  1. Xây dựng tác vụ: Đề xuất một quy trình dựa trên persona (persona-driven pipeline) để tạo ra các tác vụ nghiên cứu phức tạp, thực tế, neo theo các hồ sơ người dùng đa dạng. Quy trình này áp dụng hai bộ lọc (Task Qualification và Search Necessity) để chỉ giữ lại các tác vụ yêu cầu tích hợp bằng chứng từ nhiều nguồn và truy xuất bên ngoài.
  2. Đánh giá theo cơ chế tác nhân: Đề xuất một quy trình bao gồm hai thành phần:
    • Adaptive Point-wise Quality Evaluation: Động học tạo ra các chiều đánh giá, tiêu chí và trọng số cụ thể cho từng tác vụ dựa trên tác vụ được tạo ra.
    • Active Fact-Checking: Tự động trích xuất và xác minh các tuyên bố trong báo cáo thông qua tìm kiếm trên web, ngay cả khi không có trích dẫn.

III. Main Results:​

DeepResearchEval đã được sử dụng để đánh giá 9 hệ thống nghiên cứu sâu hàng đầu, với tổng cộng 900 báo cáo từ 100 tác vụ cho mỗi hệ thống.

  • Gemini Deep Research đạt hiệu suất mạnh nhất về chất lượng báo cáo, thể hiện độ bao phủ, cái nhìn sâu sắc và tính mạch lạc cấu trúc vượt trội.
  • Manus và Gemini Deep Research đạt điểm cao nhất trong đánh giá tính xác thực, cho thấy khả năng chống chịu tốt hơn trước hiện tượng "ảo giác" và lỗi trích dẫn trong quá trình tổng hợp báo cáo phức tạp từ nhiều nguồn.
  • Quan sát thấy một khoảng cách nhất quán giữa điểm đánh giá chung và điểm đánh giá cụ thể theo tác vụ: điểm theo tác vụ thường thấp hơn một cách có hệ thống, cho thấy các hệ thống nghiên cứu sâu hiện tại thường không đáp ứng các tiêu chí thành công cụ thể của tác vụ.
  • Quy trình tự động đã tạo ra 100 tác vụ nghiên cứu sâu chất lượng cao, được xác nhận bởi các chuyên gia.

IV. Conclusion & Future Works:​

DeepResearchEval cung cấp một framework tự động toàn diện để tạo và đánh giá các tác vụ nghiên cứu sâu, khắc phục các hạn chế của các benchmark hiện có bằng cách cung cấp khả năng tạo tác vụ tự động, đánh giá thích ứng với tác vụ, và xác minh tính xác thực chủ động cho cả tuyên bố có và không có trích dẫn. Hướng phát triển tiếp theo là tận dụng khả năng của pipeline để liên tục tạo ra các tác vụ mới, chất lượng cao, giúp framework này hoạt động như một benchmark "sống" động, phù hợp cho việc giám sát lâu dài.

V. Brainstorming Space:​

1. Publish Papers:​

  • Nghiên cứu mở rộng DeepResearchEval để tích hợp đánh giá các hệ thống nghiên cứu sâu tạo ra các định dạng đầu ra đa dạng, ví dụ như bản trình bày hoặc video.
  • Phát triển một kỹ thuật học tăng cường để tối ưu hóa quá trình tạo persona và tác vụ, nhằm tạo ra các kịch bản nghiên cứu sâu có độ khó và độ chân thực cao hơn.
  • Phân tích sâu hơn mối quan hệ giữa các kiến trúc LLM khác nhau và khả năng của chúng trong việc đáp ứng các tiêu chí đánh giá cụ thể theo tác vụ.

2. Patent:​

  • Một hệ thống tích hợp trong điện thoại thông minh tự động tạo ra các câu hỏi nghiên cứu sâu cá nhân hóa dựa trên lịch sử duyệt web và các ứng dụng mà người dùng thường xuyên sử dụng, ví dụ như "Tìm hiểu về các công nghệ pin điện thoại mới nhất".
  • Một tính năng ứng dụng di động cho phép người dùng chụp ảnh tài liệu hoặc màn hình, sau đó hệ thống tự động trích xuất các tuyên bố và xác minh tính xác thực của chúng qua tìm kiếm web ngay trên điện thoại.
  • Một nền tảng dịch vụ trên điện thoại di động sử dụng DeepResearchEval để cung cấp báo cáo đánh giá chất lượng và độ tin cậy của các nguồn thông tin được tìm thấy bởi người dùng thông qua trình duyệt điện thoại.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.09688
ArXiv Abstracthttps://arxiv.org/abs/2601.09688
PDF Downloadhttps://arxiv.org/pdf/2601.09688.pdf
Github Repositoryhttps://github.com/Infinity-AILab/DeepResearchEval

3. MAXS: Meta-Adaptive Exploration with LLM Agents (81 votes)​

Tác giả: Jian Zhang, Zhiyuan Wang, Zhangqi Wang, Yu He, Haoran Luo, li yuan, Lingling Zhang, Rui Mao, Qika Lin, Jun Liu

Xuất bản lúc: 2026-01-14

Tag: LLM Agents, Meta-Adaptive Exploration, Lookahead, Trajectory Stability, Multi-Tool Reasoning

I. Main Problem:​

Các LLM Agents hiện tại gặp phải hai vấn đề chính trong quá trình suy luận: (i) tạo ra các bước cục bộ thiển cận do thiếu cơ chế nhìn trước (lookahead), và (ii) đường suy luận không ổn định, nơi các lỗi nhỏ ban đầu có thể leo thang thành các đường suy luận phân kỳ. Những vấn đề này gây khó khăn trong việc cân bằng hiệu quả tổng thể và hiệu suất tính toán.

II. Main Idea:​

Bài báo đề xuất MAXS (Meta-Adaptive Exploration with LLM Agents), một framework suy luận meta-adaptive dựa trên LLM Agents tích hợp linh hoạt việc thực thi công cụ và lập kế hoạch suy luận. MAXS sử dụng một chiến lược lookahead để mở rộng đường suy luận vài bước, ước tính giá trị ưu điểm của việc sử dụng công cụ. Nó kết hợp phương sai độ nhất quán của bước (step consistency variance) và độ dốc xu hướng giữa các bước (inter-step trend slopes) để cùng lựa chọn các bước suy luận ổn định, nhất quán và có giá trị cao. Ngoài ra, cơ chế hội tụ quỹ đạo (trajectory convergence mechanism) được giới thiệu để kiểm soát chi phí tính toán bằng cách dừng các lượt rollout khi đạt được sự nhất quán của đường dẫn, giúp cân bằng giữa hiệu quả tài nguyên và hiệu quả tổng thể trong suy luận đa công cụ.

III. Main Results:​

MAXS liên tục vượt trội hơn các phương pháp hiện có về cả hiệu suất và hiệu quả suy luận trên ba mô hình cơ sở (MiMo-VL-7B, Qwen2.5-VL-7B, Qwen2.5-VL-32B) và năm bộ dữ liệu (MathVista, OlympiadBench, EMMA, TheoremQA, MATH). Ví dụ, trên MiMo-VL-7B-SFT, MAXS đạt độ chính xác trung bình 63.46 với 9.86e8 tokens, trong khi các phương pháp như MCTS đạt 48.80 độ chính xác với 9.91e10 tokens, cho thấy MAXS vượt trội về hiệu suất và tiết kiệm đáng kể lượng token sử dụng. Phân tích sâu hơn xác nhận hiệu quả của chiến lược lookahead và thiết kế sử dụng công cụ của MAXS.

IV. Conclusion & Future Works:​

Bài nghiên cứu giới thiệu MAXS, một framework suy luận agent meta-adaptive đầu tiên áp dụng khám phá meta-adaptive trong quá trình suy luận của LLM Agents. Chiến lược lookahead dựa trên ước tính của nó giúp giảm thiểu cả sự thiển cận cục bộ và sự bất ổn định của đường suy luận. Các thí nghiệm rộng rãi trên nhiều mô hình và bộ dữ liệu đã chứng minh hiệu quả của MAXS. Phần trích dẫn không đề cập rõ ràng đến các hướng nghiên cứu trong tương lai.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Phát triển các chiến lược lookahead thích ứng tự động điều chỉnh độ sâu tìm kiếm dựa trên độ phức tạp của tác vụ để tối ưu hóa hơn nữa hiệu quả tính toán.
  2. Khám phá việc áp dụng khung MAXS trong môi trường đa tác nhân, nơi nhiều LLM Agents cộng tác để giải quyết các vấn đề phức tạp đòi hỏi nhiều miền kiến thức.
  3. Nghiên cứu tích hợp MAXS với các mô hình Retrieval-Augmented Generation (RAG) để cải thiện khả năng thu thập và sử dụng thông tin bên ngoài một cách hiệu quả hơn trong quá trình suy luận.

2. Patent:​

  1. Hệ thống hỗ trợ lập kế hoạch chuyến đi thông minh trên điện thoại di động, sử dụng cơ chế lookahead của MAXS để dự đoán các biến động giao thông và thời tiết, từ đó đề xuất lộ trình tối ưu và đáng tin cậy nhất.
  2. Ứng dụng trợ lý cá nhân trên điện thoại có khả năng "nghĩ trước" các bước cần thiết để hoàn thành một chuỗi tác vụ phức tạp (ví dụ: đặt lịch hẹn, mua sắm trực tuyến), sử dụng MAXS để đưa ra các gợi ý hành động tiếp theo ổn định và hiệu quả.
  3. Chức năng tự động điều chỉnh và tối ưu hóa cài đặt ứng dụng trên điện thoại, sử dụng MAXS để dự đoán hành vi và nhu cầu của người dùng, từ đó đưa ra các thay đổi cài đặt thông minh, đảm bảo trải nghiệm ổn định và hiệu quả mà không cần can thiệp thủ công liên tục.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.09259
ArXiv Abstracthttps://arxiv.org/abs/2601.09259
PDF Downloadhttps://arxiv.org/pdf/2601.09259.pdf
Github Repositoryhttps://github.com/exoskeletonzj/MAXS

4. A^3-Bench: Benchmarking Memory-Driven Scientific Reasoning via Anchor and Attractor Activation (74 votes)​

Tác giả: Jian Zhang, Yu He, Zhiyuan Wang, Zhangqi Wang, Kai He, Fangzhi Xu, Qika Lin, Jun Liu

Xuất bản lúc: 2026-01-14

Tag: Scientific Reasoning, Large Language Models (LLMs), Memory-Driven Reasoning, Benchmarking, Anchor and Attractor Activation, AAUI

I. Main Problem:​

Các benchmark hiện tại cho suy luận khoa học chủ yếu tập trung vào độ chính xác của câu trả lời cuối cùng và sự mạch lạc của quy trình, bỏ qua các cơ chế kích hoạt bộ nhớ nền tảng điều khiển suy luận của con người. Vấn đề này dẫn đến việc không thể xác định liệu các lỗi suy luận của các mô hình ngôn ngữ lớn (LLM) là do suy luận logic bị lỗi hay do việc truy xuất và kích hoạt bộ nhớ cần thiết không đầy đủ, đặc biệt trong các tác vụ suy luận khoa học phức tạp.

II. Main Idea:​

Bài báo đề xuất A3-Bench, một benchmark mới được thiết kế để đánh giá khả năng suy luận khoa học dựa trên bộ nhớ thông qua cơ chế kích hoạt Anchor và Attractor. Giải pháp này bao gồm ba bước chính:

  1. Xây dựng tập dữ liệu: Chú thích 2.198 bài toán suy luận khoa học từ nhiều lĩnh vực (toán, vật lý, hóa học) bằng quy trình SAPM (subject, anchor & attractor, problem, và memory developing) để tạo ra các tín hiệu bộ nhớ kép: "anchors" (các đơn vị kiến thức nền tảng) và "attractors" (các khuôn mẫu dựa trên kinh nghiệm).
  2. Thiết lập khung đánh giá: Giới thiệu một khuôn khổ đánh giá bộ nhớ ở hai cấp độ (anchors và attractors) cùng với chỉ số AAUI (Anchor–Attractor Utilization Index) để định lượng tỷ lệ kích hoạt bộ nhớ giống như cách con người truy hồi theo ngữ cảnh.
  3. Thực nghiệm và phân tích: Tiến hành các thí nghiệm với nhiều mô hình LLM và các phương pháp khác nhau để xác nhận A3-Bench và phân tích cách kích hoạt bộ nhớ ảnh hưởng đến hiệu suất suy luận.

III. Main Results:​

  1. Tập dữ liệu A3-Bench đã được tạo ra, bao gồm 2.198 bài toán suy luận khoa học được chú thích chi tiết với các tín hiệu bộ nhớ kép (anchors và attractors) thông qua quy trình SAPM.
  2. Chỉ số AAUI đã được đề xuất để định lượng tỷ lệ kích hoạt bộ nhớ, cung cấp một thước đo cụ thể về khả năng sử dụng kiến thức liên quan của mô hình.
  3. Các thí nghiệm trên A3-Bench đã chứng minh rằng việc kết hợp cơ chế kích hoạt Anchor và Attractor cải thiện đáng kể độ chính xác của nhiều mô hình LLM trong suy luận khoa học, đồng thời duy trì chi phí token ở mức có thể kiểm soát. Ví dụ, hiệu suất trung bình ở môn Toán của DeepSeek-V3.2 tăng từ 38.28% lên 49.10% khi áp dụng phương pháp này.
  4. A3-Bench cho phép đánh giá chi tiết về việc các mô hình LLM có kích hoạt chính xác bộ nhớ và sử dụng chúng một cách hiệu quả trong quá trình suy luận đa bước hay không, từ đó hỗ trợ phát triển các mô hình đáng tin cậy hơn.

IV. Conclusion & Future Works:​

Bài báo đã giới thiệu A3-Bench, benchmark đầu tiên được thiết kế đặc biệt để đánh giá khả năng suy luận khoa học dựa trên bộ nhớ thông qua cơ chế kích hoạt anchors và attractors. Nó cung cấp một cách tiếp cận mới để phân tích và cải thiện khả năng suy luận của LLM bằng cách tập trung vào các cơ chế bộ nhớ cơ bản của con người. Hướng nghiên cứu trong tương lai có thể bao gồm việc mở rộng A3-Bench sang các lĩnh vực khoa học rộng hơn, khám phá các cấu trúc bộ nhớ phức tạp hơn, và phát triển các phương pháp để LLM có thể tự động học và kích hoạt anchors và attractors một cách hiệu quả hơn.

V. Brainstorming Space:​

1. Publish Papers:​

  • Phát triển một framework học tăng cường để các LLM tự động tối ưu hóa việc kích hoạt anchors và attractors trong quá trình suy luận mà không cần chú thích thủ công.
  • Nghiên cứu ảnh hưởng của việc tích hợp A3-Bench với các kiến trúc RAG (Retrieval Augmented Generation) tiên tiến để nâng cao khả năng suy luận khoa học của LLM.
  • Khám phá việc áp dụng mô hình Anchor và Attractor vào các lĩnh vực suy luận khác ngoài khoa học, như suy luận pháp lý hoặc y tế, để đánh giá tính tổng quát của phương pháp.

2. Patent:​

  • Hệ thống trợ lý học tập cá nhân trên điện thoại di động sử dụng công nghệ Anchor và Attractor để gợi ý các định lý, công thức (anchors) và các phương pháp giải quyết vấn đề điển hình (attractors) khi học sinh đang giải bài tập khoa học.
  • Ứng dụng chẩn đoán lỗi thiết bị điện tử thông minh trên điện thoại, nơi các "anchors" là các triệu chứng phổ biến và "attractors" là các quy trình khắc phục sự cố đã được xác định, giúp người dùng tự sửa chữa các vấn đề cơ bản.
  • Tính năng lập kế hoạch tài chính cá nhân trên điện thoại di động sử dụng suy luận dựa trên bộ nhớ để đề xuất các nguyên tắc đầu tư (anchors) và các chiến lược tài chính đã thành công (attractors) dựa trên mục tiêu và hồ sơ rủi ro của người dùng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.09274
ArXiv Abstracthttps://arxiv.org/abs/2601.09274
PDF Downloadhttps://arxiv.org/pdf/2601.09274.pdf
Github Repositoryhttps://github.com/exoskeletonzj/A3-Bench

5. Distribution-Aligned Sequence Distillation for Superior Long-CoT Reasoning (46 votes)​

Tác giả: Shaotian Yan, Kaiyuan Liu, Chen Shen, Bing Wang, Sinan Fan, Jun Zhang, Yue Wu, Zheng Wang, Jieping Ye

Xuất bản lúc: 2026-01-14

Tag: Knowledge Distillation, Sequence Distillation, Large Language Models (LLMs), Chain-of-Thought (CoT) Reasoning, Model Compression, SFT

I. Main Problem:​

Bài báo xác định ba hạn chế chính trong phương pháp chắt lọc cấp độ chuỗi (sequence-level distillation) hiện đang được áp dụng rộng rãi, chủ yếu dưới dạng fine-tuning có giám sát (SFT) trên các phản hồi do mô hình giáo viên tạo ra: i) Khó khăn trong việc biểu diễn đầy đủ phân phối đầu ra cấp độ chuỗi của mô hình giáo viên; ii) Sự không tương thích giữa phân phối đầu ra của giáo viên và khả năng học của học sinh; và iii) Lệch phơi nhiễm (exposure bias) phát sinh từ việc huấn luyện bằng teacher-forced so với suy luận tự hồi quy. Những hạn chế này làm giảm khả năng học được toàn bộ phân phối đầu ra của giáo viên và kế thừa khả năng tổng quát hóa của nó.

II. Main Idea:​

Bài báo đề xuất một đường ống huấn luyện chắt lọc cấp độ chuỗi được cải tiến, gọi là Distribution-Aligned Sequence Distillation (DASD), nhằm giải quyết các vấn đề trên. Các cải tiến chính bao gồm:

  1. Học theo lịch nhiệt độ (Temperature-scheduled Learning): Sử dụng chiến lược hai giai đoạn, ban đầu huấn luyện trên các mẫu nhiệt độ thấp, độ tin cậy cao để nắm bắt các mẫu nhất quán, sau đó dần dần tích hợp các mẫu nhiệt độ cao hơn để mở rộng phạm vi bao phủ các "mode" của giáo viên.
  2. Lấy mẫu nhận biết phân kỳ (Divergence-aware Sampling): Phân tích sự khác biệt giữa xác suất dự đoán của giáo viên và học sinh để xác định các trường hợp mà giáo viên có độ tin cậy cao nhưng học sinh có xác suất thấp. Học sinh được khuyến khích ưu tiên học từ những trường hợp phân kỳ cao này để giảm thiểu gradient gây hiểu lầm và thúc đẩy học tập mạnh mẽ hơn.
  3. Chắt lọc chính sách hỗn hợp (Mixed-policy Distillation): Sau giai đoạn SFT ban đầu, thực hiện chắt lọc chính sách hỗn hợp nhẹ nhàng. Mô hình học sinh tạo ra các tiền tố phản hồi, giáo viên hoàn thành phần còn lại, và chỉ những phần hoàn thành chất lượng cao mới được giữ lại để fine-tuning, giúp giảm thiểu lệch phơi nhiễm và khuyến khích đầu ra ngắn gọn hơn. Dựa trên những đổi mới này, nghiên cứu giới thiệu mô hình DASD-4B-Thinking.

III. Main Results:​

  • Mô hình DASD-4B-Thinking, một mô hình suy luận nguồn mở có kích thước 4B, đạt hiệu suất hàng đầu (SOTA) trong số các mô hình nguồn mở có quy mô tương đương trên các bài kiểm tra thách thức về toán học, suy luận khoa học và tạo mã.
  • Nó thậm chí còn vượt trội hơn một số mô hình lớn hơn (ví dụ: quy mô 32B).
  • DASD-4B-Thinking đạt được kết quả cạnh tranh chỉ với 448K mẫu huấn luyện, ít hơn một bậc so với hầu hết các nỗ lực nguồn mở hiện có.
  • Các cải tiến phương pháp luận đã chứng minh hiệu quả: Học theo lịch nhiệt độ mang lại lợi ích về hiệu suất, đặc biệt trong các lĩnh vực suy luận phức tạp. Lấy mẫu nhận biết phân kỳ giúp giảm thiểu gradient sai lệch. Chắt lọc chính sách hỗn hợp giúp giảm thiểu lệch phơi nhiễm và tạo ra các đầu ra ngắn gọn hơn.

IV. Conclusion & Future Works:​

Bài báo kết luận rằng việc xem xét lại một cách nghiêm túc và cải tiến phương pháp chắt lọc cấp độ chuỗi hiện có thông qua các đổi mới về phương pháp luận có thể tạo ra các mô hình suy luận nhẹ nhưng có năng lực cao. DASD-4B-Thinking là một minh chứng cho điều này, đạt hiệu suất vượt trội với lượng dữ liệu huấn luyện ít hơn đáng kể. Nghiên cứu này đặt nền tảng cho việc khai thác sâu hơn bản chất của quá trình chắt lọc bằng cách thiết lập tương tác rõ ràng giữa mô hình giáo viên và học sinh, với việc trình bày các phương pháp tiếp cận như một cuộc khám phá sơ bộ để giải quyết các hạn chế đã nêu.

V. Brainstorming Space:​

1. Publish Papers:​

  • Nghiên cứu việc tự động điều chỉnh lịch nhiệt độ dựa trên độ phức tạp của tác vụ hoặc tiến độ học của mô hình học sinh thay vì lịch trình cố định.
  • Khám phá việc tích hợp phương pháp chắt lọc chính sách hỗn hợp vào các giai đoạn đầu của quá trình huấn luyện hoặc lặp lại liên tục để tăng cường khả năng tự học của mô hình.
  • Mở rộng lấy mẫu nhận biết phân kỳ để kết hợp nhiều giáo viên hoặc một tập hợp các giáo viên nhằm tạo ra một phân phối mục tiêu phong phú và đa dạng hơn.

2. Patent:​

  • Hệ thống trợ lý mã hóa thông minh trên điện thoại di động sử dụng mô hình suy luận được chắt lọc để cung cấp các gợi ý mã chính xác, tự động sửa lỗi cú pháp và giải thích logic lập trình phức tạp trong thời gian thực.
  • Ứng dụng giải toán và khoa học hỗ trợ học tập trên điện thoại thông minh, tích hợp mô hình DASD-4B-Thinking để phân tích các bài toán, hiển thị các bước giải chi tiết và đưa ra lời giải thích chuyên sâu cho người dùng mọi lứa tuổi.
  • Công nghệ tối ưu hóa hiệu suất AI cho thiết bị di động, sử dụng các nguyên tắc chắt lọc phân phối để cho phép các mô hình ngôn ngữ lớn (LLMs) được thu nhỏ hoạt động mượt mà trên điện thoại, giảm tiêu thụ pin và tăng tốc độ phản hồi cho các tác vụ suy luận phức tạp.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.09088
ArXiv Abstracthttps://arxiv.org/abs/2601.09088
PDF Downloadhttps://arxiv.org/pdf/2601.09088.pdf
Github Repositoryhttps://github.com/D2I-ai/dasd-thinking

6. Fast-ThinkAct: Efficient Vision-Language-Action Reasoning via Verbalizable Latent Planning (38 votes)​

Tác giả: Chi-Pin Huang, Yunze Man, Zhiding Yu, Min-Hung Chen, Jan Kautz, Yu-Chiang Frank Wang, Fu-En Yang

Xuất bản lúc: 2026-01-14

Tag: VLA, Reasoning, Latent Planning, Efficient Reasoning, Embodied AI, Knowledge Distillation, Robotics.

I. Main Problem:​

Các tác vụ Vision-Language-Action (VLA) yêu cầu suy luận phức tạp và thực hiện hành động thích ứng. Tuy nhiên, các phương pháp suy luận VLA hiện có dựa trên chuỗi suy luận tường minh (Chain-of-Thought - CoT) gây ra độ trễ suy luận cao đáng kể do chuỗi suy luận dài, làm cản trở các ứng dụng thời gian thực trong AI thể hiện (embodied AI) như điều khiển robot. Vấn đề cốt lõi là làm thế nào để duy trì khả năng suy luận mạnh mẽ đồng thời cho phép các biểu diễn nhỏ gọn, hiệu quả về thời gian và có thể nắm bắt chính xác động lực không gian-thời gian cần thiết cho điều khiển thể hiện.

II. Main Idea:​

Đề xuất Fast-ThinkAct, một khung suy luận hiệu quả đạt được khả năng lập kế hoạch nhỏ gọn nhưng hiệu quả thông qua suy luận tiềm ẩn có thể diễn đạt bằng lời (verbalizable latent reasoning). Fast-ThinkAct học cách suy luận hiệu quả với các chuỗi suy luận tiềm ẩn (latent CoTs) bằng cách chắt lọc từ một mô hình giáo viên (teacher VLM) sử dụng phương pháp chắt lọc dẫn hướng theo ưu tiên (preference-guided distillation). Phương pháp này nén khả năng lập kế hoạch ngôn ngữ và thị giác thành các mã tiềm ẩn liên tục nhỏ gọn, được hướng dẫn bởi các tín hiệu phần thưởng từ học tăng cường (RL) và căn chỉnh các quỹ đạo thao tác giữa mô hình giáo viên và học sinh để chuyển giao khả năng lập kế hoạch thị giác. Một mô hình Verbalizer LLM được sử dụng để giải mã các mã tiềm ẩn thành văn bản, đảm bảo rằng các mã tiềm ẩn vẫn có thể diễn đạt bằng lời và có cơ sở trong việc lập kế hoạch thị giác. Sau khi được huấn luyện, mô hình học sinh VLM cho phép học chính sách được tăng cường suy luận, kết nối lập kế hoạch đa phương thức ngầm với việc thực hiện hành động, mang lại suy luận nhanh hơn đáng kể.

III. Main Results:​

  • Fast-ThinkAct đạt được hiệu suất mạnh mẽ với khả năng giảm độ trễ suy luận lên đến 89.3% so với các VLA suy luận tiên tiến nhất.
  • Duy trì khả năng lập kế hoạch dài hạn hiệu quả, khả năng thích ứng với ít shot (few-shot adaptation) và khả năng phục hồi lỗi.
  • Đạt được hiệu suất tốt hơn so với các phương pháp VLA suy luận hiện có trên các điểm chuẩn thao tác và suy luận thể hiện đa dạng. Ví dụ, Fast-ThinkAct nhanh hơn 9.3 lần so với ThinkAct-7B trên điểm chuẩn SimplerEnv-Google trong khi vẫn mang lại hiệu suất cải thiện.
  • Thay vì tạo ra các chuỗi suy luận dài (khoảng 250 mã thông báo) như các VLA trước đây, Fast-ThinkAct sử dụng các mã thông báo liên tục nhỏ gọn (ví dụ: 6) và các mã thông báo không gian song song làm suy luận nội bộ.

IV. Conclusion & Future Works:​

Fast-ThinkAct đã thành công trong việc giải quyết vấn đề độ trễ suy luận cao trong các tác vụ VLA bằng cách nén suy luận thành các mã tiềm ẩn có thể diễn đạt bằng lời, cho phép lập kế hoạch hiệu quả và hiệu suất cao. Khung này mở ra hướng nghiên cứu cho việc phát triển các hệ thống AI thể hiện có khả năng suy luận nhanh chóng và hiệu quả hơn trong các môi trường động, đáp ứng yêu cầu thời gian thực của các ứng dụng thực tế. Hướng nghiên cứu tiếp theo có thể bao gồm việc mở rộng phương pháp này sang các nhiệm vụ phức tạp hơn hoặc khám phá các cơ chế chắt lọc nâng cao hơn để tối ưu hóa hơn nữa sự cân bằng giữa hiệu quả và khả năng suy luận.

V. Brainstorming Space:​

1. Publish Papers:​

  • Nghiên cứu các phương pháp chắt lọc dựa trên dữ liệu tổng hợp để giảm sự phụ thuộc vào mô hình giáo viên, cho phép Fast-ThinkAct tự học các suy luận tiềm ẩn.
  • Khám phá việc tích hợp các mô hình thế giới (world models) để tăng cường khả năng dự đoán và lập kế hoạch dài hạn của Fast-ThinkAct trong các môi trường động không xác định.
  • Phát triển một framework đánh giá mới cho các hệ thống VLA hiệu quả, tập trung vào sự cân bằng giữa độ trễ, hiệu suất và khả năng giải thích của suy luận tiềm ẩn.

2. Patent:​

  • Hệ thống hỗ trợ điều khiển robot công nghiệp dựa trên điện thoại thông minh, cho phép người dùng ra lệnh bằng giọng nói và cử chỉ để robot thực hiện các tác vụ lắp ráp hoặc kiểm tra phức tạp với phản hồi gần như tức thì.
  • Ứng dụng điện thoại thông minh cho phép người dùng điều khiển các thiết bị gia dụng thông minh bằng lời nói và hình ảnh từ camera điện thoại, với khả năng suy luận ngữ cảnh nhanh chóng để thực hiện các chuỗi hành động phức tạp.
  • Công nghệ tích hợp vào ứng dụng bản đồ điện thoại, sử dụng suy luận VLA tiềm ẩn để phân tích tình hình giao thông theo thời gian thực qua camera điện thoại và đưa ra các hướng dẫn điều hướng tối ưu hóa ngay lập tức cho người lái.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.09708
ArXiv Abstracthttps://arxiv.org/abs/2601.09708
PDF Downloadhttps://arxiv.org/pdf/2601.09708.pdf
Github RepositoryN/A

7. SkinFlow: Efficient Information Transmission for Open Dermatological Diagnosis via Dynamic Visual Encoding and Staged RL (36 votes)​

Tác giả: Lijun Liu, Linwei Chen, Zhishou Zhang, Meng Tian, Hengfu Cui, Ruiyang Li, Zhaocheng Liu, Qiang Ju, Qianxi Li, Hong-Yu Zhou

Xuất bản lúc: 2026-01-14

Tag: LVLM, Dermatology, Dynamic Visual Encoding, Reinforcement Learning, Information Transmission

I. Main Problem:​

Các mô hình Ngôn ngữ Thị giác Lớn (LVLMs) đa mục đích thường không hiệu quả trong chẩn đoán da liễu do "sự chú ý phân tán", khiến chúng không thể phân biệt các tổn thương bệnh lý tinh tế với nhiễu nền. Thêm vào đó, các phương pháp đánh giá truyền thống như độ chính xác Top-1 không phù hợp với thực tế lâm sàng, bỏ qua tầm quan trọng của sự liên quan phân cấp và độ an toàn chẩn đoán trong y học.

II. Main Idea:​

Bài báo giới thiệu SkinFlow, một framework coi chẩn đoán là tối ưu hóa hiệu quả truyền tải thông tin thị giác, thách thức quan điểm rằng chỉ mở rộng tham số là cách duy nhất để đạt độ chính xác y tế. SkinFlow sử dụng Dynamic Visual Encoder (DVE) để "mở rộng" các manifold bệnh lý phức tạp mà không cần tăng tham số vật lý, kết hợp với chiến lược Học tăng cường (Reinforcement Learning - RL) hai giai đoạn. Giai đoạn I căn chỉnh các mô tả y tế rõ ràng, trong khi Giai đoạn II tái tạo các cấu trúc chẩn đoán ngầm định trong không gian ngữ nghĩa bị giới hạn. Bài báo cũng đề xuất một giao thức đánh giá lâm sàng, ưu tiên độ an toàn chẩn đoán và mức độ liên quan theo phân cấp bệnh lý thay vì chỉ khớp nhãn cứng nhắc.

III. Main Results:​

Mô hình SkinFlow 7B thiết lập một tiêu chuẩn mới về hiệu suất trên benchmark Fitzpatrick17k, đạt được mức tăng +12.06% độ chính xác Top-1 và +28.57% độ chính xác Top-6 so với các mô hình đa mục đích lớn hơn nhiều (ví dụ: Qwen3VL-235B và GPT-5.2). Những phát hiện này chứng minh rằng việc tối ưu hóa dung lượng hình học và luồng thông tin mang lại khả năng suy luận chẩn đoán vượt trội so với việc chỉ mở rộng tham số. Trên tập dữ liệu nội bộ, mô hình của họ cung cấp một danh sách ứng viên chẩn đoán đáng tin cậy hơn, vượt trội hơn tất cả các đối thủ cạnh tranh ở các chỉ số Top-2 đến Top-6 (ví dụ: đạt 79.21% độ chính xác Top-6).

IV. Conclusion & Future Works:​

Bài báo kết luận rằng việc tối ưu hóa hiệu quả nén và giải mã thông tin thị giác là một cơ chế cơ bản để cải thiện hiệu suất chẩn đoán và độ tin cậy lâm sàng, hiệu quả hơn so với việc tăng quy mô tham số thô. Framework SkinFlow hỗ trợ chẩn đoán da liễu với từ vựng mở, vượt qua giới hạn phân loại nhãn cố định. Hướng nghiên cứu tiếp theo có thể tập trung vào việc áp dụng phương pháp tối ưu hóa truyền tải thông tin này cho các miền y tế khác và mở rộng khả năng của mô hình trong việc xử lý các điều kiện da liễu đa dạng và dài.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu sự ảnh hưởng của việc tích hợp dữ liệu bệnh nhân đa phương thức (ví dụ: tiền sử bệnh, kết quả xét nghiệm) vào framework SkinFlow để nâng cao độ chính xác chẩn đoán.
  2. Khám phá các phương pháp RL tiên tiến để cải thiện sự ổn định và hiệu quả khám phá trong các tác vụ chẩn đoán y tế có không gian trạng thái lớn và phức tạp.
  3. Phân tích định lượng tác động của module Dynamic Visual Encoding (DVE) trong việc cải thiện tỷ lệ tín hiệu-nhiễu trên các loại hình ảnh y tế khác ngoài da liễu.

2. Patent:​

  1. Một ứng dụng di động cho phép người dùng chụp ảnh tổn thương da, sau đó công nghệ Dynamic Visual Encoding sẽ làm nổi bật các đặc điểm bệnh lý và cung cấp một mô tả chi tiết, hỗ trợ tự kiểm tra sức khỏe da ban đầu.
  2. Hệ thống tích hợp trên điện thoại thông minh sử dụng thuật toán RL hai giai đoạn của SkinFlow để cung cấp các chẩn đoán da liễu tiềm năng, kèm theo mức độ an toàn lâm sàng, cho phép người dùng gửi ảnh cho bác sĩ để tham khảo và nhận phản hồi.
  3. Công nghệ DVE được nhúng vào chip xử lý hình ảnh của điện thoại thông minh, tự động tối ưu hóa việc chụp và xử lý ảnh da để tăng cường khả năng nhận diện các dấu hiệu bệnh lý nhỏ, cải thiện chất lượng hình ảnh phục vụ chẩn đoán từ xa.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.09136
ArXiv Abstracthttps://arxiv.org/abs/2601.09136
PDF Downloadhttps://arxiv.org/pdf/2601.09136.pdf
Github RepositoryN/A

8. OpenDecoder: Open Large Language Model Decoding to Incorporate Document Quality in RAG (25 votes)​

Tác giả: Fengran Mo, Zhan Su, Yuchen Hui, Jinghan Zhang, Jia Ao Sun, Zheyuan Liu, Chao Zhang, Tetsuya Sakai, Jian-Yun Nie

Xuất bản lúc: 2026-01-13

Tag: Retrieval-Augmented Generation (RAG), Large Language Model (LLM), Decoding Paradigm, Robust Question Answering, Information Retrieval, Document Quality

I. Main Problem:​

Các mô hình ngôn ngữ lớn (LLM) thường gặp vấn đề về tri thức không đầy đủ, dẫn đến "hallucinations" hoặc tạo ra kết quả lỗi thời. Mặc dù Retrieval-Augmented Generation (RAG) giúp khắc phục bằng cách tích hợp thông tin bên ngoài, chất lượng của nội dung được tạo ra vẫn phụ thuộc rất nhiều vào độ hữu ích của thông tin được truy xuất. Giả định chung rằng thông tin truy xuất luôn liên quan là không chính xác, vì dữ liệu có thể chứa nhiễu hoặc không liên quan, làm suy giảm hiệu suất của LLM. Các phương pháp RAG hiện tại không sử dụng tín hiệu liên quan ban đầu từ bộ truy xuất, mà chỉ dựa vào cơ chế xử lý thông tin nội bộ của LLM, dẫn đến thiếu sự mạnh mẽ khi đối mặt với ngữ cảnh nhiễu.

II. Main Idea:​

Bài báo đề xuất OpenDecoder, một phương pháp mới nhằm trực tiếp sửa đổi quá trình giải mã của LLM trong RAG bằng cách tận dụng các tín hiệu liên quan của tài liệu được truy xuất như các "chỉ số chất lượng" rõ ràng. Mục tiêu là xây dựng một mô hình RAG mạnh mẽ hơn trước các mức độ nhiễu khác nhau. OpenDecoder thực hiện điều này bằng cách:

  1. Xây dựng các chỉ số bên ngoài: Trích xuất các đặc trưng chất lượng từ tài liệu đã truy xuất, bao gồm điểm liên quan từ bộ truy xuất, điểm ngữ nghĩa do LLM đánh giá, và điểm dự đoán hiệu suất truy vấn (QPP).
  2. Thiết kế khung đào tạo: Dạy LLM tận dụng các đặc trưng chỉ số rõ ràng này để giải mã câu trả lời.
  3. Điều chỉnh phân phối xác suất: Tích hợp các đặc trưng bên ngoài vào mạng chú ý nội bộ của LLM để trực tiếp điều chỉnh LLM khi tạo ra xác suất cho các token giải mã ứng cử viên.
  4. Đào tạo để tăng cường sự mạnh mẽ (Robustness Training): Tái tạo các tài liệu top-k đầu vào bằng cách lấy mẫu thêm các tài liệu có mức độ liên quan khác nhau, giúp mô hình mạnh mẽ hơn trước thông tin nhiễu. OpenDecoder được thiết kế linh hoạt để có thể tích hợp với việc huấn luyện sau của LLM cho bất kỳ mục đích nào và kết hợp với bất kỳ loại chỉ số bên ngoài nào khác.

III. Main Results:​

Các thử nghiệm trên năm bộ dữ liệu benchmark, bao gồm cả trả lời câu hỏi tổng quát và đa bước (multi-hop QA), đã chứng minh hiệu quả và sự mạnh mẽ vượt trội của OpenDecoder. Phương pháp này liên tục vượt qua các phương pháp cơ sở khác nhau, bao gồm RAG truyền thống và các baseline mạnh khác, trong các môi trường nhiễu đa dạng. OpenDecoder thể hiện sự hiệu quả vượt trội.

IV. Conclusion & Future Works:​

OpenDecoder cung cấp một phương pháp mới để trực tiếp điều chỉnh quá trình giải mã của LLM trong RAG bằng cách khai thác các tín hiệu liên quan của tài liệu. Phương pháp đào tạo được thiết kế, bao gồm việc xây dựng các chỉ số liên quan rõ ràng và đào tạo tăng cường sự mạnh mẽ, đã chứng minh hiệu quả. Hệ thống đạt được hiệu suất vượt trội và mạnh mẽ hơn trong các môi trường nhiễu. Hướng nghiên cứu tiếp theo bao gồm việc tích hợp OpenDecoder với các quá trình huấn luyện sau của LLM cho nhiều mục đích khác và kết hợp thêm các loại chỉ số bên ngoài khác để cải thiện hiệu quả, tính mạnh mẽ hoặc độ tin cậy.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu ảnh hưởng của các loại chỉ số chất lượng tài liệu khác nhau (ví dụ: độ tin cậy của nguồn, độ mới của thông tin) đến hiệu suất của OpenDecoder.
  2. Khám phá việc tích hợp OpenDecoder với các kiến trúc RAG nâng cao khác (ví dụ: RAG đa bước, RAG tùy biến ngữ cảnh) để cải thiện hơn nữa hiệu suất.
  3. Phân tích khả năng ứng dụng của OpenDecoder trong các lĩnh vực cụ thể đòi hỏi độ chính xác cao và khả năng chống nhiễu (ví dụ: y tế, tài chính).

2. Patent:​

  1. Hệ thống trợ lý ảo trên điện thoại thông minh sử dụng OpenDecoder để đưa ra câu trả lời chính xác hơn bằng cách đánh giá chất lượng của các tài liệu tìm kiếm từ web hoặc bộ nhớ cục bộ.
  2. Ứng dụng đọc tin tức trên điện thoại tích hợp OpenDecoder để tự động lọc bỏ thông tin nhiễu hoặc kém tin cậy, chỉ hiển thị tóm tắt chất lượng cao từ các nguồn đáng tin cậy.
  3. Chức năng tìm kiếm và tóm tắt tài liệu trên điện thoại di động sử dụng OpenDecoder để ưu tiên thông tin từ các tài liệu được đánh giá là liên quan và chất lượng cao, giúp người dùng nhận được thông tin hữu ích nhanh chóng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.09028
ArXiv Abstracthttps://arxiv.org/abs/2601.09028
PDF Downloadhttps://arxiv.org/pdf/2601.09028.pdf
Github RepositoryN/A

9. OpenVoxel: Training-Free Grouping and Captioning Voxels for Open-Vocabulary 3D Scene Understanding (22 votes)​

Tác giả: Sheng-Yu Huang, Jaesung Choe, Yu-Chiang Frank Wang, Cheng Sun

Xuất bản lúc: 2026-01-14

Tag: Open-Vocabulary 3D Scene Understanding, Sparse Voxel Rasterization (SVR), Vision Language Models (VLMs), Multi-modal Large Language Models (MLLMs), Training-Free, 3D Segmentation, Referring Expression Segmentation (RES).

I. Main Problem:​

Các phương pháp hiện có để hiểu cảnh 3D theo từ vựng mở (open-vocabulary 3D scene understanding), như phân đoạn ngữ nghĩa và phân đoạn biểu thức tham chiếu, thường phụ thuộc vào việc huấn luyện các nhúng ngôn ngữ (language embeddings) và yêu cầu chú thích thủ công tốn thời gian cho từng cảnh. Điều này hạn chế khả năng của chúng trong việc xử lý các truy vấn ngôn ngữ tự nhiên phức tạp và tốn kém về mặt thời gian cũng như tài nguyên để huấn luyện.

II. Main Idea:​

OpenVoxel đề xuất một thuật toán không cần huấn luyện (training-free) để nhóm và gán chú thích cho các voxel thưa thớt nhằm hiểu cảnh 3D theo từ vựng mở. Thay vì huấn luyện các đặc trưng 3D để khớp với một không gian nhúng cố định, OpenVoxel trực tiếp tạo ra các chú thích văn bản phong phú, dễ đọc cho các nhóm đối tượng trong cảnh 3D. Phương pháp này bao gồm ba thành phần chính:

  1. Training-Free Sparse Voxel Grouping: Gom các voxel thưa thớt thành các thực thể 3D mạch lạc (object-level groups) bằng cách nâng cấp và khớp các bản đồ phân đoạn 2D trên từng khung hình từ SAM2.
  2. Canonical Scene Map Construction: Sử dụng Vision Language Models (VLMs) và Multi-modal Large Language Models (MLLMs) để gán các chú thích chi tiết và thông tin không gian 3D cho tất cả các nhóm voxel, tạo thành một bản đồ cảnh thông tin.
  3. Referring Query Inference: Thực hiện suy luận truy vấn bằng cách sử dụng MLLMs để thực hiện tìm kiếm trực tiếp văn bản-tới-văn bản (text-to-text retrieval) giữa truy vấn của người dùng và bản đồ cảnh đã xây dựng, cho phép hiểu và phân đoạn cảnh linh hoạt.

III. Main Results:​

OpenVoxel thể hiện hiệu suất vượt trội so với các nghiên cứu gần đây, đặc biệt trong các tác vụ phân đoạn biểu thức tham chiếu (RES) phức tạp. Nó loại bỏ nhu cầu về các nhúng ngôn ngữ (language embeddings) và chú thích thủ công, giúp giảm đáng kể thời gian xử lý (ví dụ: khoảng 3 phút so với hơn 1 giờ của các phương pháp khác). Phương pháp này thành công trong việc tạo ra các nhóm đối tượng có ý nghĩa và bản đồ cảnh giàu thông tin, cho phép thực hiện các tác vụ hiểu cảnh 3D như phân đoạn từ vựng mở (OVS) và phân đoạn biểu thức tham chiếu (RES) một cách hiệu quả.

IV. Conclusion & Future Works:​

OpenVoxel cung cấp một khuôn khổ không cần huấn luyện, giải quyết hiệu quả các hạn chế về tốc độ và độ chính xác của các phương pháp dựa trên nhúng trong việc hiểu cảnh 3D theo từ vựng mở. Bằng cách xây dựng bản đồ cảnh chi tiết với các chú thích dễ đọc và thực hiện suy luận trực tiếp văn bản-tới-văn bản, nó mở ra khả năng hiểu cảnh 3D linh hoạt và mạnh mẽ. Mã nguồn sẽ được công khai, tạo điều kiện cho các nghiên cứu và ứng dụng tiếp theo trong lĩnh vực này.

V. Brainstorming Space:​

1. Publish Papers:​

  • Nghiên cứu mở rộng OpenVoxel để hỗ trợ tương tác và chỉnh sửa cảnh 3D theo ngôn ngữ tự nhiên, cho phép người dùng thay đổi các đối tượng trong cảnh thông qua các lệnh văn bản.
  • Khám phá việc tích hợp thông tin động hoặc theo thời gian vào bản đồ cảnh voxel để hiểu các cảnh 3D thay đổi hoặc tương tác giữa các đối tượng.
  • Phát triển các phương pháp tối ưu hóa để triển khai OpenVoxel trên các thiết bị di động với tài nguyên hạn chế, vẫn duy trì hiệu suất và tốc độ cao.

2. Patent:​

  • Hệ thống ứng dụng di động cho phép người dùng chụp ảnh nhiều góc độ của một vật thể bằng điện thoại, sau đó tự động nhóm và gắn chú thích chi tiết cho từng phần của vật thể, hỗ trợ quản lý kho hàng hoặc mô tả sản phẩm trực tuyến.
  • Công nghệ tích hợp vào camera điện thoại để nhận diện và mô tả các đối tượng trong môi trường 3D theo thời gian thực mà không cần kết nối internet, phục vụ ứng dụng hỗ trợ người dùng khiếm thị hoặc hướng dẫn du lịch bằng giọng nói.
  • Phương pháp tạo mô hình 3D có chú thích chi tiết từ video quay bằng điện thoại, sau đó cho phép người dùng tìm kiếm và tương tác với các đối tượng trong mô hình bằng giọng nói hoặc văn bản, ứng dụng trong thiết kế nội thất ảo hoặc giáo dục.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.09575
ArXiv Abstracthttps://arxiv.org/abs/2601.09575
PDF Downloadhttps://arxiv.org/pdf/2601.09575.pdf
Github RepositoryN/A

10. ExpSeek: Self-Triggered Experience Seeking for Web Agents (15 votes)​

Tác giả: Wenyuan Zhang, Xinghua Zhang, Haiyang Yu, Shuaiyi Nie, Bingli Wu, Juwei Yue, Tingwen Liu, Yongbin Li

Xuất bản lúc: 2026-01-13

Tag: Web Agents, Experience Seeking, Large Language Models (LLMs), Entropy, Self-Triggered Learning, Proactive Intervention

I. Main Problem:​

Các phương pháp can thiệp kinh nghiệm hiện có trong tác nhân web (web agents) thường tiêm kinh nghiệm một cách thụ động như một ngữ cảnh toàn cục trước khi thực thi nhiệm vụ. Điều này khiến chúng gặp khó khăn trong việc thích ứng với các quan sát ngữ cảnh thay đổi linh hoạt trong quá trình tương tác giữa tác nhân và môi trường, dẫn đến khả năng ra quyết định dưới tối ưu hoặc không phù hợp.

II. Main Idea:​

Bài báo đề xuất ExpSeek, một khuôn khổ tìm kiếm kinh nghiệm tự kích hoạt (self-triggered) giúp tác nhân chủ động tìm kiếm kinh nghiệm ở cấp độ từng bước. Giải pháp này bao gồm hai yếu tố chính:

  1. Xác định thời điểm can thiệp: Ước tính ngưỡng entropy ở cấp độ từng bước bằng cách sử dụng các tín hiệu nội tại của mô hình để xác định khi nào tác nhân đang "bối rối" và thực sự cần hướng dẫn.
  2. Thiết kế nội dung kinh nghiệm phù hợp: Xây dựng một cơ sở kinh nghiệm từ các cặp quỹ đạo thành công và thất bại, được tổ chức theo chủ đề và chứa các bộ ba (behavior, mistake, guidance). Sau đó, một mô hình kinh nghiệm sẽ đọc ngữ cảnh lịch sử của bước hiện tại, truy xuất các bộ ba liên quan và tạo ra hướng dẫn phù hợp với tương tác đang diễn ra.

III. Main Results:​

  • ExpSeek đạt được mức cải thiện tuyệt đối lần lượt là 9.3% và 7.5% trên các mô hình cơ sở Qwen3-8B và Qwen3-32B, và vượt trội hơn các phương pháp tiêm kinh nghiệm thụ động lần lượt là 6.7% và 6.0% trên bốn bộ dữ liệu web agent đầy thách thức.
  • Entropy của chính mô hình được xác nhận là một tín hiệu kích hoạt hiệu quả, có thể chỉ ra thời điểm cần nhận hướng dẫn kinh nghiệm.
  • Ngay cả một mô hình kinh nghiệm quy mô nhỏ 4B cũng có thể tăng đáng kể hiệu suất của các mô hình tác nhân lớn hơn (ví dụ: mô hình 32B).
  • Tìm kiếm kinh nghiệm tự kích hoạt làm tăng entropy của mô hình trong các bước trung gian của tương tác, đồng thời giảm entropy ở bước trả lời cuối cùng, cho thấy sự khám phá được tăng cường và cuối cùng dẫn đến hội tụ hiệu quả hơn tới câu trả lời chính xác.

IV. Conclusion & Future Works:​

Bài báo đề xuất ExpSeek, một khuôn khổ tìm kiếm kinh nghiệm tự kích hoạt, truyền cảm hứng cho một mô hình chủ động tìm kiếm kinh nghiệm khác biệt so với việc tiêm kinh nghiệm thụ động. Nghiên cứu này khẳng định entropy của mô hình có thể là một tín hiệu nội tại để chủ động tìm kiếm kinh nghiệm, và thiết kế một cơ sở kinh nghiệm cùng mô hình kinh nghiệm để tạo ra hướng dẫn động. Các thử nghiệm và phân tích sâu rộng đã chứng minh những lợi thế đáng kể của ExpSeek.

V. Brainstorming Space:​

1. Publish Papers:​

  • Nghiên cứu so sánh các tín hiệu kích hoạt nội tại khác (ngoài entropy) cho việc tìm kiếm kinh nghiệm tự động trong các tác nhân học tăng cường.
  • Phát triển các phương pháp tạo nội dung kinh nghiệm được cá nhân hóa và thích ứng hơn dựa trên hồ sơ học tập và phong cách tương tác của từng tác nhân.
  • Mở rộng khuôn khổ ExpSeek để áp dụng cho các tác nhân đa phương thức (multi-modal agents) tương tác với môi trường có cả dữ liệu hình ảnh và văn bản.

2. Patent:​

  • Hệ thống trợ lý ảo trên điện thoại thông minh tự động tìm kiếm và đề xuất giải pháp hoặc thông tin bổ sung khi phát hiện người dùng đang gặp khó khăn hoặc thiếu tự tin trong một tác vụ cụ thể (ví dụ: soạn email phức tạp, tìm kiếm sản phẩm), dựa trên việc phân tích các tín hiệu nội tại của mô hình ngôn ngữ và hành vi tương tác trên thiết bị.
  • Ứng dụng trình duyệt web di động thông minh tích hợp cơ chế tự kích hoạt tìm kiếm kinh nghiệm, cho phép nó chủ động cung cấp hướng dẫn từng bước hoặc gợi ý điều chỉnh khi người dùng gặp phải trang web phức tạp, biểu mẫu khó điền hoặc lỗi thường gặp, nhằm nâng cao trải nghiệm duyệt web.
  • Hệ thống khuyến nghị nội dung cá nhân hóa trên thiết bị di động sử dụng entropy để xác định thời điểm người dùng có thể cần khám phá các loại nội dung mới hoặc gặp khó khăn trong việc tìm kiếm thông tin phù hợp, sau đó tự động truy xuất và đề xuất các trải nghiệm hoặc mẫu tương tác thành công trước đây.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.08605
ArXiv Abstracthttps://arxiv.org/abs/2601.08605
PDF Downloadhttps://arxiv.org/pdf/2601.08605.pdf
Github RepositoryN/A

11. EvoFSM: Controllable Self-Evolution for Deep Research with Finite State Machines (12 votes)​

Tác giả: Shuo Zhang, Chaofa Yuan, Ryan Guo, Xiaomin Yu, Rui Xu, Zhangquan Chen, Zinuo Li, Zhi Yang, Shuhao Guan, Zhenheng Tang, Sen Hu, Liwen Zhang, Ronghao Chen, Huacan Wang

Xuất bản lúc: 2026-01-14

Tag: LLM-based Agents, Self-Evolution, Finite State Machines (FSM), Deep Research, Controllable AI

I. Main Problem:​

Các tác nhân AI dựa trên LLM hiện tại sử dụng quy trình làm việc cố định, gặp khó khăn trong việc thích ứng với các truy vấn nghiên cứu mở và phức tạp trong thế giới thực. Các phương pháp tự tiến hóa hiện có, thường dựa vào việc viết lại mã hoặc lời nhắc không có kiểm soát, dẫn đến sự bất ổn, ảo giác và trôi lệnh (instruction drift), làm giảm hiệu suất của hệ thống.

II. Main Idea:​

Bài báo đề xuất EvoFSM, một framework tự tiến hóa có cấu trúc, giải quyết vấn đề bằng cách phát triển một Finite State Machine (FSM) tường minh thay vì viết lại tự do. EvoFSM tách không gian tối ưu hóa thành Flow (logic chuyển đổi trạng thái vĩ mô) và Skill (hành vi cụ thể của từng trạng thái), cho phép cải thiện có mục tiêu dưới các ranh giới hành vi rõ ràng. Một cơ chế phê bình (critic mechanism) hướng dẫn EvoFSM tinh chỉnh FSM thông qua một tập hợp các thao tác bị ràng buộc. Ngoài ra, framework này còn tích hợp một bộ nhớ tự tiến hóa để chắt lọc các quỹ đạo thành công làm tiền đề có thể tái sử dụng và các mẫu thất bại làm ràng buộc cho các truy vấn trong tương lai, đảm bảo sự cải thiện liên tục và ổn định.

III. Main Results:​

  • Đạt được độ chính xác 58.0% trên benchmark DeepSearch.
  • Các kết quả bổ sung trên các tác vụ ra quyết định tương tác chứng minh khả năng tổng quát hóa của EvoFSM.
  • Framework chứng minh hiệu quả trên năm benchmark QA đa bước (multi-hop QA benchmarks).

IV. Conclusion & Future Works:​

EvoFSM cung cấp một phương pháp tiếp cận có cấu trúc và có thể kiểm soát để các tác nhân AI tự tiến hóa trong các tác vụ nghiên cứu sâu, vượt qua những hạn chế của các hệ thống cố định hoặc tự tiến hóa không ràng buộc. Bằng cách sử dụng FSM, tách biệt Flow và Skill, cùng với bộ nhớ tự tiến hóa, EvoFSM đảm bảo sự ổn định và khả năng thích ứng liên tục. Hướng nghiên cứu tiếp theo có thể tập trung vào việc khám phá các thao tác nguyên tử phức tạp hơn hoặc tích hợp các phương pháp học tăng cường tiên tiến hơn để tối ưu hóa việc học kinh nghiệm trong bộ nhớ tự tiến hóa.

V. Brainstorming Space:​

1. Publish Papers:​

  • Nghiên cứu cách tối ưu hóa việc lựa chọn các thao tác nguyên tử (atomic operations) trong quá trình tự tiến hóa FSM bằng cách sử dụng học tăng cường.
  • Khám phá việc tích hợp các mô hình FSM tiến hóa vào các tác nhân đa nhiệm để cải thiện khả năng phối hợp và phân chia công việc.
  • Phát triển một phương pháp để tự động khởi tạo FSM ban đầu và bộ nhớ kinh nghiệm cho các loại tác vụ hoàn toàn mới mà không cần dữ liệu lịch sử.

2. Patent:​

  • Hệ thống trợ lý AI trên điện thoại thông minh tự động điều chỉnh các bước tìm kiếm và xử lý thông tin phức tạp dựa trên phản hồi của người dùng và các tác vụ thành công trước đó.
  • Ứng dụng di động giúp người dùng nghiên cứu thông tin chuyên sâu, nơi FSM tự động tối ưu hóa quy trình truy vấn dữ liệu và hiển thị kết quả dựa trên các mẫu thất bại và thành công đã học.
  • Công nghệ tích hợp vào các thiết bị di động cho phép các trợ lý ảo điều khiển các thiết bị IoT trong nhà thông minh, với quy trình tương tác FSM tự tiến hóa để thích ứng với thói quen và yêu cầu thay đổi của người dùng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.09465
ArXiv Abstracthttps://arxiv.org/abs/2601.09465
PDF Downloadhttps://arxiv.org/pdf/2601.09465.pdf
Github RepositoryN/A

12. FocusUI: Efficient UI Grounding via Position-Preserving Visual Token Selection (12 votes)​

Tác giả: Mingyu Ouyang, Kevin Qinghong Lin, Mike Zheng Shou, Hwee Tou Ng

Xuất bản lúc: 2026-01-07

Tag: UI Grounding, Vision-Language Models (VLMs), Efficient AI, Token Pruning, Positional Encoding

I. Main Problem:​

Các mô hình Vision-Language (VLM) đạt hiệu suất ấn tượng trong tác vụ UI grounding, đặc biệt khi xử lý ảnh chụp màn hình độ phân giải cao. Tuy nhiên, việc chuyển đổi những ảnh này thành hàng nghìn visual token gây ra chi phí tính toán đáng kể và làm loãng sự chú ý của mô hình. Các phương pháp cắt tỉa token thị giác thông thường, được thiết kế cho hình ảnh tự nhiên, lại làm mất tính liên tục của thông tin vị trí, dẫn đến giảm nghiêm trọng độ chính xác trong các tác vụ UI grounding đòi hỏi định vị chính xác.

II. Main Idea:​

Bài báo đề xuất FOCUSUI, một framework hiệu quả cho UI grounding, tập trung vào việc chọn lọc các visual token liên quan đến hướng dẫn và bảo toàn tính liên tục về vị trí. Giải pháp này giải quyết hai thách thức chính:

  1. Loại bỏ các token dư thừa: FOCUSUI xây dựng giám sát cấp độ patch bằng cách kết hợp điểm UI-graph dựa trên luật và điểm có điều kiện theo hướng dẫn. Điều này cho phép chọn lọc các token thị giác khác biệt và liên quan đến hướng dẫn, đồng thời giảm trọng số các vùng đồng nhất lớn trên giao diện người dùng.
  2. Bảo toàn tính liên tục về vị trí: Giới thiệu chiến lược POSPAD mới. POSPAD nén mỗi chuỗi token thị giác bị loại bỏ liên tục thành một marker đặc biệt duy nhất, được đặt ở chỉ số cuối cùng của chuỗi đó, nhằm bảo toàn thông tin vị trí và ngăn chặn sự suy giảm độ chính xác do mất tính liên tục.

III. Main Results:​

  • FOCUSUI vượt trội hơn các mô hình UI grounding chuyên biệt khác. Trên benchmark ScreenSpot-Pro, FOCUSUI-7B đạt cải thiện hiệu suất 3.7% so với GUI-Actor-7B.
  • Ngay cả khi chỉ giữ lại 30% visual token, hiệu suất của FOCUSUI-7B chỉ giảm 3.2%, đồng thời đạt được tốc độ suy luận nhanh hơn 1.44 lần và giảm 17% bộ nhớ GPU cao điểm.
  • Các thử nghiệm trên bốn benchmark grounding cho thấy FOCUSUI duy trì độ chính xác cao trong khi cải thiện đáng kể hiệu quả tính toán.
  • Các phương pháp cắt tỉa token thị giác chung bị giảm độ chính xác nghiêm trọng trên các tác vụ UI grounding do làm mất thông tin vị trí.

IV. Conclusion & Future Works:​

FOCUSUI là framework tiên phong cho UI grounding hiệu quả, giải quyết các vấn đề về chi phí tính toán và mất thông tin vị trí. Bằng cách kết hợp lựa chọn token thông minh và cơ chế bảo toàn vị trí POSPAD, FOCUSUI cung cấp một giải pháp cân bằng giữa hiệu suất và độ chính xác. Hướng nghiên cứu tiếp theo có thể bao gồm việc mở rộng FOCUSUI để xử lý các tác vụ UI phức tạp hơn hoặc tối ưu hóa sâu hơn các chiến lược lựa chọn token và bảo toàn vị trí.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu mở rộng ứng dụng của chiến lược POSPAD sang các tác vụ hiểu video hoặc xử lý chuỗi thời gian đa phương tiện, nơi việc bảo toàn ngữ cảnh và vị trí rất quan trọng.
  2. Phát triển một mô hình Query-Guided Saliency Scorer tự học, có khả năng điều chỉnh trọng số giữa các tín hiệu bounding box và UI-graph dựa trên đặc điểm của từng giao diện người dùng cụ thể.
  3. Khám phá việc tích hợp FOCUSUI với các mô hình ngôn ngữ lớn (LLM) để cho phép UI grounding dựa trên các hướng dẫn phức tạp hơn hoặc ngữ cảnh người dùng động.

2. Patent:​

  1. Hệ thống tối ưu hóa hiển thị giao diện người dùng cho thiết bị di động, sử dụng thuật toán FOCUSUI để giảm tải tài nguyên tính toán khi hiển thị các ứng dụng, kéo dài thời lượng pin và cải thiện trải nghiệm người dùng trên điện thoại thông minh.
  2. Công nghệ trợ lý ảo thông minh trên điện thoại di động, được cấp bằng sáng chế cho khả năng thực hiện các lệnh điều khiển UI chính xác và nhanh chóng hơn bằng cách chỉ tập trung vào các thành phần giao diện liên quan theo hướng dẫn của người dùng.
  3. Phương pháp nén dữ liệu giao diện người dùng cho truyền tải mạng không dây trên điện thoại, áp dụng nguyên lý lựa chọn token của FOCUSUI để giảm dung lượng dữ liệu cần truyền mà vẫn giữ được thông tin quan trọng cho các tác vụ tương tác UI từ xa.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.03928
ArXiv Abstracthttps://arxiv.org/abs/2601.03928
PDF Downloadhttps://arxiv.org/pdf/2601.03928.pdf
Github RepositoryN/A

13. Are LLMs Vulnerable to Preference-Undermining Attacks (PUA)? A Factorial Analysis Methodology for Diagnosing the Trade-off between Preference Alignment and Real-World Validity (11 votes)​

Tác giả: Hongjun An, Yiliang Song, Jiangan Chen, Jiawei Shao, Chi Zhang, Xuelong Li

Xuất bản lúc: 2026-01-10

Tag: LLM, Preference Alignment, Vulnerability, Attack, Factorial Analysis, PUA, Sycophancy, Factuality, Deference

I. Main Problem:​

Các mô hình ngôn ngữ lớn (LLM) được tối ưu hóa cho sự phù hợp với sở thích của người dùng (preference alignment) có thể dễ bị khai thác bởi các chiến lược nhắc nhở thao túng, được định nghĩa là Preference-Undermining Attacks (PUA). Những cuộc tấn công này khiến LLM đưa ra các phản hồi mang tính chiều lòng người dùng thay vì giữ vững tính xác thực, dẫn đến sự đánh đổi giữa tính chính xác và sự tuân thủ sở thích, đặc biệt trên các tác vụ vô hại nhưng có thể kiểm chứng. Vấn đề cốt lõi là làm thế nào để chẩn đoán và hiểu rõ sự đánh đổi này.

II. Main Idea:​

Nghiên cứu đề xuất một phương pháp chẩn đoán mới dựa trên khung đánh giá phân tích thừa số (factorial evaluation framework) để định lượng mức độ dễ bị tổn thương của LLM trước PUA. Phương pháp này phân tách các thay đổi do nhắc nhở gây ra thành các hiệu ứng có thể diễn giải được của mục tiêu hệ thống (hướng sự thật so với hướng sở thích) và bốn yếu tố đối thoại kiểu PUA (kiểm soát trực tiếp, hạ thấp cá nhân, chấp thuận có điều kiện, phủ nhận thực tế). Thiết kế thí nghiệm sử dụng là 2x2^4, đánh giá mô hình dựa trên hai chiều: sự tuân thủ (deference, được đánh giá bởi một LLM khác) và tính xác thực (factuality, đo lường bằng độ chính xác khách quan).

III. Main Results:​

  • Nhắc nhở kiểu PUA nhất quán làm tăng sự tuân thủ (deference) và độ dài phản hồi (verbosity) của LLM, đồng thời làm giảm tính xác thực (factual accuracy).
  • Các mô hình tiên tiến hơn đôi khi lại dễ bị tổn thương hơn trước các hiệu ứng PUA.
  • Yếu tố "phủ nhận thực tế" (reality denial) là yếu tố thống trị trong các cuộc tấn công PUA.
  • Các mô hình nguồn mở (open-source models) thể hiện khả năng dễ bị thao túng cao hơn so với các mô hình độc quyền (closed-source models).

IV. Conclusion & Future Works:​

Nghiên cứu kết luận rằng LLM được tối ưu hóa theo sở thích người dùng dễ bị tổn thương trước các cuộc tấn công PUA, làm suy yếu tính xác thực để đổi lấy sự chiều lòng. Phương pháp phân tích thừa số được đề xuất cung cấp một công cụ chẩn đoán chi tiết hơn để hiểu các rủi ro liên kết sở thích và tác động của nhắc nhở thao túng. Hướng nghiên cứu tương lai bao gồm việc phát triển các biện pháp phòng thủ phù hợp (tailored defenses) thay vì các biện pháp bảo vệ đồng bộ, và sử dụng khung này để cải thiện quy trình hậu đào tạo như RLHF nhằm cân bằng tốt hơn giữa sự phù hợp sở thích và tính hợp lệ trong thế giới thực trong các lần lặp sản phẩm của LLM.

V. Brainstorming Space:​

1. Publish Papers:​

  • Nghiên cứu có thể mở rộng bằng cách tích hợp các yếu tố văn hóa hoặc ngôn ngữ khác nhau vào các kiểu tấn công PUA để đánh giá khả năng chống chịu của LLM đa ngôn ngữ.
  • Một nghiên cứu tiếp theo có thể khám phá các phương pháp đào tạo mới hoặc điều chỉnh kiến trúc mô hình để tăng cường khả năng chống lại PUA mà không làm mất đi khả năng phù hợp với sở thích người dùng.
  • Phát triển một bộ dữ liệu kiểm định (benchmark) tự động và liên tục theo dõi sự dễ bị tổn thương của LLM trước PUA theo thời gian và với các phiên bản mô hình mới.

2. Patent:​

  • Hệ thống phòng thủ tích hợp vào ứng dụng điện thoại thông minh để phát hiện và cảnh báo người dùng khi tương tác với LLM có dấu hiệu bị ảnh hưởng bởi PUA, bảo vệ tính toàn vẹn của thông tin.
  • Công nghệ điều chỉnh động phản hồi của LLM trên thiết bị di động, tự động cân bằng giữa sự lịch sự và tính xác thực dựa trên ngữ cảnh cuộc trò chuyện và mức độ đáng tin cậy của nguồn thông tin.
  • Tính năng "chế độ xác thực ưu tiên" trong các trợ lý ảo trên điện thoại, cho phép người dùng kích hoạt để LLM ưu tiên thông tin chính xác hơn là sự chiều lòng, ngay cả khi bị nhắc nhở thao túng.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.06596
ArXiv Abstracthttps://arxiv.org/abs/2601.06596
PDF Downloadhttps://arxiv.org/pdf/2601.06596.pdf
Github RepositoryN/A

14. TranslateGemma Technical Report (10 votes)​

Tác giả: Mara Finkelstein, Isaac Caswell, Tobias Domhan, Jan-Thorsten Peter, Juraj Juraska, Parker Riley, Daniel Deutsch, Cole Dilanni, Colin Cherry, Eleftheria Briakou, Elizabeth Nielsen, Jiaming Luo, Kat Black, Ryan Mullins, Sweta Agrawal, Wenda Xu, Erin Kats, Stephane Jaskiewicz, Markus Freitag, David Vilar

Xuất bản lúc: 2026-01-13

Tag: Machine Translation, LLM, Fine-tuning, Reinforcement Learning, Multilingual, Gemma, TranslateGemma

I. Main Problem:​

Vấn đề cốt lõi là nhu cầu về các mô hình dịch máy mạnh mẽ, hiệu quả và mở để thu hẹp rào cản ngôn ngữ, tạo điều kiện giao tiếp toàn cầu và dân chủ hóa quyền tiếp cận thông tin, đặc biệt là bằng cách nâng cao khả năng dịch thuật của các mô hình ngôn ngữ lớn (LLM) nền tảng như Gemma 3.

II. Main Idea:​

Giải pháp đề xuất là TranslateGemma, một bộ mô hình dịch máy mã nguồn mở dựa trên các mô hình nền tảng Gemma 3. Để tăng cường khả năng đa ngôn ngữ vốn có của Gemma 3 cho nhiệm vụ dịch thuật, TranslateGemma sử dụng quy trình tinh chỉnh hai giai đoạn:

  1. Supervised Fine-Tuning (SFT): Được thực hiện bằng cách sử dụng hỗn hợp phong phú dữ liệu song ngữ tổng hợp quy mô lớn chất lượng cao được tạo ra qua các mô hình hiện đại (như Gemini 2.5 Flash và MADLAD-400) và dữ liệu song ngữ do con người dịch (từ các tập dữ liệu SMOL và GATITOS), đồng thời bao gồm dữ liệu tuân thủ hướng dẫn chung để duy trì khả năng tổng quát của mô hình.
  2. Reinforcement Learning (RL): Theo sau giai đoạn SFT, tối ưu hóa chất lượng dịch bằng cách sử dụng một tập hợp các mô hình phần thưởng (reward models) bao gồm MetricX-QE, AutoMQM, ChrF, Naturalness Autorater và một mô hình phần thưởng tổng quát, tận dụng các ưu điểm cấp độ token để cải thiện hiệu quả đào tạo.

III. Main Results:​

TranslateGemma đã chứng minh hiệu quả vượt trội:

  • Đánh giá tự động trên WMT24++ cho 55 cặp ngôn ngữ cho thấy TranslateGemma đạt được mức tăng đáng kể và nhất quán về chất lượng dịch so với các mô hình Gemma 3 cơ sở ở tất cả các kích thước.
  • Các mô hình TranslateGemma nhỏ hơn thường đạt hiệu suất tương đương hoặc thậm chí vượt trội so với các mô hình cơ sở lớn hơn (ví dụ: mô hình TranslateGemma 12B vượt trội hơn mô hình Gemma 3 cơ sở 27B), mang lại hiệu quả cao hơn.
  • Các mô hình TranslateGemma vẫn giữ được khả năng đa phương thức mạnh mẽ, với hiệu suất được cải thiện trên điểm chuẩn dịch hình ảnh Vistra.
  • Các cải tiến là nhất quán trên tất cả 55 cặp ngôn ngữ được đánh giá, bao gồm cả các ngôn ngữ tài nguyên cao và thấp.

IV. Conclusion & Future Works:​

TranslateGemma đại diện cho một bước tiến quan trọng trong lĩnh vực dịch máy mã nguồn mở, cung cấp các công cụ mạnh mẽ, linh hoạt và hiệu quả cho cộng đồng nghiên cứu. Việc phát hành các mô hình này nhằm mục đích thúc đẩy sự minh bạch, khả năng tái tạo và đổi mới dựa trên cộng đồng trong lĩnh vực dịch máy, cung cấp một nguồn tài nguyên quý giá cho các nhà nghiên cứu và người thực hành. Bài báo không đề cập cụ thể về các công việc tương lai ngoài việc khuyến khích cộng đồng tận dụng các mô hình đã phát hành.

V. Brainstorming Space:​

1. Publish Papers:​

  1. Nghiên cứu tác động của việc kết hợp các nguồn dữ liệu đa phương thức khác nhau trong giai đoạn SFT để tăng cường hơn nữa khả năng dịch hình ảnh của TranslateGemma.
  2. Phân tích sâu hơn về khả năng của TranslateGemma trong các ngôn ngữ tài nguyên thấp và đề xuất các chiến lược tinh chỉnh mới để cải thiện đáng kể cho các ngôn ngữ này.
  3. So sánh hiệu suất và hiệu quả của các mô hình TranslateGemma với các mô hình dịch máy mã nguồn mở tiên tiến khác, tập trung vào các kịch bản triển khai thực tế.

2. Patent:​

  1. Một hệ thống dịch thuật thông minh tích hợp vào camera điện thoại, cho phép người dùng dịch văn bản trong thế giới thực (biển báo, menu) theo thời gian thực và hiển thị bản dịch lên hình ảnh trực tiếp.
  2. Công nghệ dịch thuật cuộc gọi video trên điện thoại di động sử dụng TranslateGemma để cung cấp phụ đề thời gian thực hoặc lồng tiếng tự động, phá vỡ rào cản ngôn ngữ trong giao tiếp trực quan.
  3. Một phương pháp tối ưu hóa việc sử dụng năng lượng trên thiết bị di động cho các tác vụ dịch máy của TranslateGemma, cho phép dịch ngoại tuyến hiệu suất cao với mức tiêu thụ pin tối thiểu.

Các đường dẫn liên quan​

Nền tảngĐường dẫn
Hugging Facehttps://huggingface.co/papers/2601.09012
ArXiv Abstracthttps://arxiv.org/abs/2601.09012
PDF Downloadhttps://arxiv.org/pdf/2601.09012.pdf
Github RepositoryN/A