🤗 Daily Hugging Face Paper Digest - 2026-01-30

Báo cáo được tạo tự động vào lúc 2026-02-02 08:52:33 bằng mô hình gemini-2.5-flash.

📰 Summary of Papers

1. Idea2Story: An Automated Pipeline for Transforming Research Concepts into Complete Scientific Narratives (149 votes)

Tác giả: Tengyue Xu, Zhuoyang Qian, Gaoge Liu, Li Ling, Zhentao Zhang, Biao Wu, Shuo Zhang, Ke Lu, Wei Shi, Ziqi Wang, Zheng Feng, Yan Luo, Shu Xu, Yongjin Chen, Zhibo Feng, Zhuo Chen, Bruce Yuan, Harry Wang, Kris Chen

Xuất bản lúc: 2026-01-28

Tag: Large Language Models, LLM-based Agents, Scientific Discovery, Knowledge Graph, Automated Research, Pre-computation

I. Main Problem:

Các hệ thống khám phá khoa học tự động hiện có dựa trên Large Language Models (LLM) gặp phải những hạn chế đáng kể do sử dụng mô hình "tính toán tại chỗ" (on-the-spot computation). Điều này đòi hỏi các tác nhân LLM liên tục đọc, tóm tắt và suy luận trên lượng lớn tài liệu khoa học trực tuyến, dẫn đến chi phí tính toán cao, giới hạn cửa sổ ngữ cảnh (context window limitations) của LLM, và thường gây ra suy luận kém chính xác hoặc "ảo giác" (hallucination). Hơn nữa, chiến lược này còn làm tăng thời gian thực thi và lặp đi lặp lại việc xử lý thông tin dư thừa.

II. Main Idea:

Bài báo đề xuất Idea2Story, một khung làm việc dựa trên "tiền tính toán" (pre-computation) nhằm tự động hóa quá trình khám phá khoa học. Idea2Story chuyển đổi việc hiểu tài liệu từ suy luận trực tuyến sang xây dựng tri thức ngoại tuyến.

Giai đoạn ngoại tuyến (Offline Knowledge Construction): Hệ thống liên tục thu thập các bài báo đã được bình duyệt cùng với phản hồi đánh giá của chúng, trích xuất các đơn vị phương pháp cốt lõi, tổng hợp các mẫu nghiên cứu có thể tái sử dụng, và tổ chức chúng thành một đồ thị tri thức phương pháp luận có cấu trúc. Đồ thị này đóng vai trò là kho lưu trữ bền vững các khái niệm phương pháp luận trừu tượng.
Giai đoạn trực tuyến (Online Research Generation): Khi nhận được các ý định nghiên cứu chưa rõ ràng từ người dùng, hệ thống sẽ đối chiếu chúng với các mô hình nghiên cứu đã được thiết lập trong đồ thị tri thức. Điều này cho phép truy xuất và tái sử dụng hiệu quả các mẫu nghiên cứu chất lượng cao, thay vì phụ thuộc vào việc tạo ra một cách mở và thử-sai. Việc lập kế hoạch và thực thi nghiên cứu được căn cứ vào đồ thị tri thức đã xây dựng trước, giúp giảm thiểu tắc nghẽn cửa sổ ngữ cảnh của LLM và giảm đáng kể quá trình suy luận lặp lại trên tài liệu khi chạy.

III. Main Results:

Các phân tích định tính và nghiên cứu thực nghiệm sơ bộ đã chứng minh rằng Idea2Story có khả năng tạo ra các mẫu nghiên cứu mạch lạc, có nền tảng phương pháp luận vững chắc và mang tính mới mẻ. Hệ thống cũng đã tạo ra một số minh chứng nghiên cứu chất lượng cao trong môi trường đầu cuối (end-to-end setting). Những kết quả này cho thấy rằng việc xây dựng tri thức ngoại tuyến cung cấp một nền tảng thực tế và có thể mở rộng cho việc khám phá khoa học tự động đáng tin cậy.

IV. Conclusion & Future Works:

Idea2Story là một khung làm việc đột phá cho khám phá khoa học tự động, giải quyết các vấn đề về hiệu quả và độ tin cậy của các hệ thống dựa trên LLM hiện tại. Bằng cách chuyển đổi từ suy luận trực tuyến sang xây dựng tri thức ngoại tuyến thông qua một đồ thị tri thức phương pháp luận, Idea2Story giúp giảm chi phí tính toán, khắc phục giới hạn cửa sổ ngữ cảnh và cải thiện độ tin cậy của suy luận. Hệ thống này mở ra một nền tảng thực tế và có thể mở rộng cho việc khám phá khoa học tự động.

V. Brainstorming Space:

1. Publish Papers:

Phát triển các phương pháp tiên tiến để tự động trích xuất các mối quan hệ phức tạp và ngữ cảnh ẩn giữa các đơn vị phương pháp từ các bài báo khoa học để làm giàu đồ thị tri thức.
Nghiên cứu về cách tích hợp phản hồi từ các chuyên gia con người vào chu trình cập nhật đồ thị tri thức để liên tục cải thiện chất lượng và độ phù hợp của các mẫu nghiên cứu được tạo ra.
Khám phá việc ứng dụng khung làm việc Idea2Story vào các lĩnh vực khoa học ngoài khoa học máy tính, ví dụ như y sinh hoặc khoa học vật liệu, để đánh giá tính tổng quát và khả năng thích ứng của nó.

2. Patent:

Một hệ thống trợ lý nghiên cứu cá nhân trên điện thoại thông minh, cho phép người dùng nhập các ý tưởng sơ bộ và nhận được các đề xuất về phương pháp luận, tài liệu liên quan và cấu trúc nghiên cứu dựa trên một cơ sở dữ liệu kiến thức khoa học có tổ chức.
Một ứng dụng di động giáo dục có khả năng phân tích các câu hỏi hoặc chủ đề học thuật do người dùng nhập vào, sau đó tự động xây dựng các "lộ trình học tập" bao gồm các khái niệm, phương pháp và tài liệu tham khảo được liên kết trong một cấu trúc dễ hiểu.
Một tính năng trên điện thoại thông minh hỗ trợ các nhà khoa học hoặc sinh viên trong việc phác thảo và tổ chức các ý tưởng thí nghiệm, nơi AI sẽ kiểm tra tính khả thi và đưa ra gợi ý về các bước thực hiện dựa trên các mẫu nghiên cứu đã thành công được rút ra từ các tài liệu khoa học.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2601.20833
ArXiv Abstract	https://arxiv.org/abs/2601.20833
PDF Download	https://arxiv.org/pdf/2601.20833.pdf
Github Repository	https://github.com/AgentAlphaAGI/Idea2Paper

2. Everything in Its Place: Benchmarking Spatial Intelligence of Text-to-Image Models (104 votes)

Tác giả: Zengbin Wang, Xuecai Hu, Yong Wang, Feng Xiong, Man Zhang, Xiangxiang Chu

Xuất bản lúc: 2026-01-28

Tag: Text-to-Image, T2I, Benchmarking, Spatial Intelligence, Diffusion Models

I. Main Problem:

Mặc dù các mô hình Text-to-Image (T2I) đã đạt được thành công đáng kể trong việc tạo ra hình ảnh chất lượng cao, chúng thường thất bại trong việc xử lý các mối quan hệ không gian phức tạp như nhận thức, suy luận hoặc tương tác không gian. Các chuẩn đánh giá hiện tại thường bỏ qua những khía cạnh quan trọng này do thiết kế lời nhắc (prompt) ngắn hoặc ít thông tin, chỉ tập trung vào việc xác minh sự hiện diện của vật thể, thuộc tính hoặc các mối quan hệ nhị phân đơn giản, và sử dụng các số liệu thô sơ, dẫn đến việc bỏ lỡ các thiếu sót trong khả năng suy luận cấp cao hơn.

II. Main Idea:

Bài báo giới thiệu SpatialGenEval, một chuẩn đánh giá mới được thiết kế để đánh giá một cách có hệ thống trí tuệ không gian của các mô hình T2I. SpatialGenEval bao gồm 1.230 lời nhắc dài, giàu thông tin trên 25 cảnh đời thực, mỗi lời nhắc tích hợp 10 miền phụ không gian và 10 cặp câu hỏi-trả lời trắc nghiệm tương ứng, từ vị trí vật thể, bố cục đến sự che khuất và quan hệ nhân quả. Ngoài ra, để chứng minh tiện ích của thiết kế giàu thông tin này vượt ra ngoài việc đánh giá, bài báo còn xây dựng một tập dữ liệu khác là SpatialT2I, chứa 15.400 cặp văn bản-hình ảnh với các lời nhắc được viết lại để đảm bảo tính nhất quán của hình ảnh trong khi vẫn giữ nguyên mật độ thông tin.

III. Main Results:

Đánh giá rộng rãi 23 mô hình tiên tiến cho thấy suy luận không gian cấp cao hơn vẫn là một nút thắt cổ chai chính. Mặc dù các mô hình xuất sắc trong việc tổng hợp vật thể cơ bản, độ chính xác của chúng giảm xuống khi đối mặt với các nhiệm vụ yêu cầu hiểu biết không gian cấp cao hơn như định vị tương đối, sự che khuất và quan hệ nhân quả. Việc tinh chỉnh các mô hình nền tảng hiện tại (như Stable Diffusion-XL, Uniworld-V1, OmniGen2) bằng tập dữ liệu SpatialT2I mang lại hiệu suất tăng ổn định (+4.2%, +5.7%, +4.4%) và các hiệu ứng thực tế hơn trong các mối quan hệ không gian, làm nổi bật một mô hình lấy dữ liệu làm trung tâm để đạt được trí tuệ không gian trong các mô hình T2I.

IV. Conclusion & Future Works:

Bài báo giới thiệu SpatialGenEval như một chuẩn đánh giá mới để hệ thống hóa việc đánh giá trí tuệ không gian phức tạp của các mô hình T2I, chuyển từ việc chỉ hỏi "cái gì" sang "ở đâu", "như thế nào" và "tại sao" trong việc tạo hình ảnh. Các phát hiện chính cho thấy một nút thắt cổ chai hiệu suất phổ quát trong suy luận không gian ở các mô hình hiện tại. Bài báo cũng khám phá SpatialT2I, một tập dữ liệu nhận biết không gian, như một giải pháp thực tế dựa trên dữ liệu để cải thiện trí tuệ không gian của các mô hình hiện có, chứng minh phương pháp lấy dữ liệu làm trung tâm là một con đường khả thi và hiệu quả để cải thiện mô hình.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu các phương pháp tích hợp các mô-đun suy luận không gian rõ ràng vào kiến trúc Text-to-Image để khắc phục nút thắt cổ chai đã được xác định trong việc hiểu không gian cấp cao hơn.
Phát triển các kỹ thuật kỹ thuật lời nhắc mới được thiết kế đặc biệt để khai thác và tăng cường khả năng trí tuệ không gian của các mô hình Text-to-Image hiện có mà không cần tinh chỉnh.
Khám phá việc tạo ra một chuẩn đánh giá trí tuệ không gian động, tương tác có thể điều chỉnh các câu hỏi dựa trên đầu ra của mô hình, cung cấp phản hồi chẩn đoán theo thời gian thực.

2. Patent:

Một hệ thống tạo ảnh dựa trên mô tả văn bản cho phép người dùng điều chỉnh chính xác vị trí và mối quan hệ không gian của các vật thể trong ảnh được tạo ra thông qua giao diện chạm trên điện thoại.
Một ứng dụng chỉnh sửa ảnh trên điện thoại thông minh tự động đề xuất và điều chỉnh vị trí của các vật thể trong ảnh dựa trên mô tả ngữ cảnh không gian phức tạp của người dùng, giúp cải thiện bố cục ảnh.
Một công nghệ trên điện thoại di động giúp người dùng tạo ra các hình ảnh thực tế ảo hoặc tăng cường, trong đó các vật thể được đặt chính xác trong môi trường 3D dựa trên lời nói hoặc văn bản mô tả vị trí, khoảng cách và tương tác.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2601.20354
ArXiv Abstract	https://arxiv.org/abs/2601.20354
PDF Download	https://arxiv.org/pdf/2601.20354.pdf
Github Repository	https://github.com/AMAP-ML/SpatialGenEval

3. Scaling Embeddings Outperforms Scaling Experts in Language Models (92 votes)

Tác giả: Hong Liu, Jiaqi Zhang, Chao Wang, Xing Hu, Linkun Lyu, Jiaqi Sun, Xurui Yang, Bo Wang, Fengcun Li, Yulei Qian, Lingtong Si, Yerui Sun, Rumei Li, Peng Pei, Yuchen Xie, Xunliang Cai

Xuất bản lúc: 2026-01-29

Tag: Language Models, Mixture-of-Experts, Embedding Scaling, Sparsity, Inference Optimization

I. Main Problem:

Kiến trúc Mixture-of-Experts (MoE), dù đã trở thành tiêu chuẩn cho việc mở rộng độ thưa trong các mô hình ngôn ngữ lớn (LLM), ngày càng đối mặt với tình trạng lợi nhuận biên giảm dần và các nút thắt cổ chai ở cấp độ hệ thống. Điều này gây khó khăn trong việc mở rộng số lượng tham số MoE một cách hiệu quả, đặc biệt do chi phí giao tiếp và áp lực băng thông bộ nhớ tăng cao trong quá trình huấn luyện phân tán.

II. Main Idea:

Bài nghiên cứu khám phá việc mở rộng lớp nhúng (embedding scaling) như một chiều bổ trợ mạnh mẽ và độc lập để mở rộng độ thưa của mô hình. Giải pháp được đề xuất bao gồm:

Phân tích so sánh: Thực hiện các thí nghiệm mở rộng quy mô toàn diện để xác định các chế độ cụ thể mà việc mở rộng nhúng đạt được hiệu quả vượt trội (biên Pareto) so với việc tăng số lượng chuyên gia, đặc biệt khi số lượng chuyên gia đã vượt quá "điểm tối ưu" của nó.
Đặc trưng hóa các yếu tố kiến trúc: Hệ thống hóa các yếu tố quan trọng ảnh hưởng đến hiệu quả của việc mở rộng nhúng, bao gồm ngân sách tham số, kích thước từ vựng, sơ đồ khởi tạo, và sự tương tác với chiều rộng và chiều sâu của mô hình. N-gram Embedding được xác định là phương pháp mở rộng nhúng mạnh mẽ nhất.
Tối ưu hóa suy luận hiệu quả: Tích hợp các tối ưu hóa hệ thống riêng biệt và kỹ thuật giải mã phỏng đoán (speculative decoding) cùng với bộ nhớ đệm N-gram (N-gram Cache) chuyên dụng và các kernel đồng bộ để chuyển đổi độ thưa thành tốc độ suy luận nhanh hơn, giảm tắc nghẽn I/O và tối đa hóa việc sử dụng phần cứng.
Phát triển mô hình mới: Giới thiệu và công khai mã nguồn mô hình LongCat-Flash-Lite, một mô hình 68.5B tham số được huấn luyện từ đầu, với một phần đáng kể (hơn 30B) tham số được phân bổ cho các lớp nhúng.

III. Main Results:

Hiệu suất vượt trội: Việc mở rộng nhúng đạt được biên Pareto ưu việt hơn so với việc tăng số lượng chuyên gia trong các kịch bản cụ thể, đặc biệt khi MoE đã đạt đến độ thưa cao.
Mô hình LongCat-Flash-Lite: Với 68.5B tổng tham số và khoảng 2.9B~4.5B tham số được kích hoạt, LongCat-Flash-Lite không chỉ vượt trội so với các mô hình MoE cơ sở có cùng số lượng tham số mà còn cạnh tranh xuất sắc với các mô hình hiện có cùng quy mô, đặc biệt trong các tác vụ liên quan đến đại lý (agentic) và lập trình.
Hiệu quả suy luận: N-gram Embedding kết hợp với giải mã phỏng đoán và các kernel tối ưu hóa giúp giảm đáng kể tắc nghẽn I/O trong các lớp MoE, chuyển hóa việc giảm tham số hoạt động thành độ trễ thấp hơn và thông lượng cao hơn.
Phân tích kiến trúc: Lợi ích của N-gram Embedding rõ rệt nhất khi được tích hợp ở mức độ thưa cao (khi số lượng chuyên gia đã vượt quá "điểm ngọt" của nó). Lợi thế này được tăng cường trong các mô hình rộng hơn nhưng có xu hướng giảm dần trong các mô hình sâu hơn.

IV. Conclusion & Future Works:

Bài nghiên cứu kết luận rằng mở rộng quy mô nhúng là một chiều mở rộng hiệu quả và độc lập so với mở rộng chuyên gia trong các mô hình ngôn ngữ lớn, đặc biệt khi các mô hình MoE đạt đến giới hạn hiệu quả. Các yếu tố kiến trúc và chiến lược tối ưu hóa suy luận đóng vai trò quan trọng trong việc khai thác tiềm năng này, giúp cải thiện cả hiệu suất và tốc độ suy luận. Hướng nghiên cứu tiếp theo có thể bao gồm việc khám phá sâu hơn sự tương tác giữa mở rộng nhúng và các chiến lược mở rộng khác, cũng như phát triển thêm các kỹ thuật tối ưu hóa hệ thống để đạt được hiệu suất suy luận tối đa.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu ảnh hưởng của các phương pháp khởi tạo và chiến lược huấn luyện phân tán khác nhau lên hiệu quả của N-gram Embedding trong các kiến trúc LLM quy mô lớn.
Khám phá việc kết hợp mở rộng nhúng với các kỹ thuật nén mô hình như lượng tử hóa hoặc cắt tỉa để đạt được hiệu suất cao hơn với chi phí tài nguyên thấp hơn.
Phân tích định lượng chi tiết về chi phí năng lượng và môi trường khi mở rộng nhúng so với mở rộng chuyên gia trên các cấu hình phần cứng khác nhau.

2. Patent:

Một hệ thống gợi ý từ tự động trên điện thoại thông minh, sử dụng một cơ chế mở rộng từ vựng nội bộ dựa trên các cụm từ (n-gram) để cải thiện độ chính xác của dự đoán từ và hoàn thành câu trong thời gian thực, thích ứng với thói quen nhập liệu của người dùng.
Một phương pháp tối ưu hóa hiệu quả lọc thư rác và tin nhắn rác trên thiết bị di động, thông qua việc áp dụng các bảng dữ liệu nhúng mở rộng đại diện cho các chuỗi từ thường gặp, giúp nhận diện nhanh chóng các nội dung độc hại hoặc không mong muốn.
Một kiến trúc phần mềm tích hợp trên điện thoại di động cho các trợ lý ảo hoặc công cụ dịch thuật ngoại tuyến, sử dụng một bộ nhớ đệm thông minh cho các biểu diễn từ ngữ phức hợp (n-gram cache) để giảm thiểu độ trễ và tăng tốc độ xử lý các truy vấn ngôn ngữ mà không phụ thuộc vào kết nối mạng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2601.21204
ArXiv Abstract	https://arxiv.org/abs/2601.21204
PDF Download	https://arxiv.org/pdf/2601.21204.pdf
Github Repository	N/A

4. DynamicVLA: A Vision-Language-Action Model for Dynamic Object Manipulation (60 votes)

Tác giả: Haozhe Xie, Beichen Wen, Jiarui Zheng, Zhaoxi Chen, Fangzhou Hong, Haiwen Diao, Ziwei Liu

Xuất bản lúc: 2026-01-29

Tag: Vision-Language-Action, Robotics, Dynamic Manipulation, Diffusion Model, Latency

I. Main Problem:

Các mô hình Vision-Language-Action (VLA) hiện tại gặp khó khăn trong việc điều khiển các đối tượng động do độ trễ cao giữa nhận thức và thực thi (perception-execution gap, inter-chunk waiting), dẫn đến phản ứng chậm và thiếu khả năng thích ứng liên tục. Ngoài ra, thiếu các bộ dữ liệu quy mô lớn và toàn diện cho thao tác đối tượng động.

II. Main Idea:

DynamicVLA đề xuất một khung làm việc bao gồm: 1) Một mô hình VLA nhỏ gọn 0.4B tham số với bộ mã hóa thị giác dạng tích chập để suy luận nhanh; 2) Cơ chế Continuous Inference cho phép chồng chéo quá trình suy luận và thực thi hành động, loại bỏ độ trễ giữa các phân đoạn hành động; 3) Cơ chế Latent-aware Action Streaming để đảm bảo các hành động được thực thi đồng bộ với thời gian, ưu tiên các dự đoán mới nhất. Đồng thời, bài báo giới thiệu bộ dữ liệu Dynamic Object Manipulation (DOM) quy mô lớn được thu thập tự động để giải quyết vấn đề thiếu dữ liệu.

III. Main Results:

Các đánh giá rộng rãi cho thấy những cải tiến đáng kể của DynamicVLA về tốc độ phản ứng, khả năng nhận thức và khái quát hóa trong thao tác đối tượng động. Mô hình được định vị là một khung làm việc thống nhất cho việc thao tác đối tượng động tổng quát trên nhiều loại thiết bị robot. Bài báo cũng giới thiệu bộ dữ liệu DOM với 200K tập mô phỏng và 2K tập dữ liệu thực tế trên 2.8K cảnh và 206 đối tượng.

IV. Conclusion & Future Works:

DynamicVLA là một khung làm việc thống nhất, bao gồm mô hình VLA 0.4B tham số nhỏ gọn, cùng với các cơ chế Continuous Inference và Latent-aware Action Streaming, cho phép kiểm soát vòng lặp kín theo thời gian thực trong thao tác đối tượng động. Ngoài ra, bộ dữ liệu DOM được giới thiệu cung cấp nguồn dữ liệu quy mô lớn thông qua các quy trình tự động trong cả môi trường mô phỏng và thực tế trên nhiều loại thiết bị robot.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu các kiến trúc bộ mã hóa thị giác nhẹ khác hoặc cơ chế tổng hợp thời gian mới để cải thiện hơn nữa khả năng nhận diện đối tượng động và giảm độ trễ trong DynamicVLA.
Phát triển phương pháp để nâng cao tính mạnh mẽ và khả năng thích ứng của DynamicVLA trong các môi trường động phức tạp, không có cấu trúc hoặc có nhiều tác nhân.
Tích hợp DynamicVLA với các kỹ thuật điều khiển dự đoán tiên tiến để dự đoán các tương tác động trong thời gian dài hơn và cải thiện khả năng thao tác chủ động.

2. Patent:

Hệ thống điều khiển robot linh hoạt cho các dây chuyền lắp ráp di động: Một phương pháp cho phép robot công nghiệp tự động điều chỉnh tốc độ và quỹ đạo của mình để tương tác chính xác với các bộ phận đang di chuyển trên băng chuyền hoặc xe tự hành trong nhà máy, tối ưu hóa hiệu suất sản xuất.
Hệ thống hỗ trợ chụp ảnh động vật hoặc đối tượng chuyển động nhanh bằng điện thoại: Một công nghệ camera trên điện thoại thông minh sử dụng thuật toán dự đoán chuyển động để tự động điều chỉnh tiêu cự, phơi sáng và kích hoạt chụp ảnh tại thời điểm tối ưu, đảm bảo bắt được những khoảnh khắc sắc nét của đối tượng đang di chuyển.
Công nghệ điều khiển thiết bị gia dụng thông minh phản ứng nhanh với chuyển động người dùng: Một hệ thống cho phép các thiết bị gia dụng (như robot hút bụi, rèm cửa tự động) sử dụng camera tích hợp để nhận diện và dự đoán chuyển động của con người hoặc thú cưng, từ đó tự động điều chỉnh hoạt động của chúng một cách an toàn và kịp thời để tránh va chạm hoặc làm gián đoạn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2601.22153
ArXiv Abstract	https://arxiv.org/abs/2601.22153
PDF Download	https://arxiv.org/pdf/2601.22153.pdf
Github Repository	https://github.com/hzxie/DynamicVLA

5. MMFineReason: Closing the Multimodal Reasoning Gap via Open Data-Centric Methods (47 votes)

Tác giả: Honglin Lin, Zheng Liu, Yun Zhu, Chonghan Qin, Juekai Lin, Xiaoran Shang, Conghui He, Wentao Zhang, Lijun Wu

Xuất bản lúc: 2026-01-29

Tag: Multimodal Reasoning, VLM, Dataset, Chain-of-Thought, Data-centric, Open-source

I. Main Problem:

Các mô hình Vision Language Models (VLM) mã nguồn mở hiện tại vẫn còn kém xa so với các hệ thống độc quyền trong khả năng suy luận đa phương thức, chủ yếu do thiếu dữ liệu suy luận chất lượng cao. Các bộ dữ liệu hiện có hạn chế về phạm vi phủ sóng các lĩnh vực khó như biểu đồ STEM và câu đố trực quan, đồng thời thiếu các chú thích Chain-of-Thought (CoT) dài, nhất quán cần thiết để phát huy khả năng suy luận mạnh mẽ.

II. Main Idea:

Bài báo giới thiệu MMFineReason, một bộ dữ liệu suy luận đa phương thức quy mô lớn gồm 1.8 triệu mẫu và 5.1 tỷ token giải pháp, với các chú thích suy luận chất lượng cao được chắt lọc từ Qwen3-VL-235B-A22B-Thinking. Bộ dữ liệu này được xây dựng thông qua quy trình ba giai đoạn: (1) thu thập và chuẩn hóa dữ liệu quy mô lớn, (2) tạo ra các giải thích Chain-of-Thought, và (3) lựa chọn toàn diện dựa trên chất lượng suy luận và nhận thức về độ khó. Sau đó, họ tinh chỉnh Qwen3-VL-Instruct trên MMFineReason để phát triển các phiên bản MMFineReason-2B/4B/8B.

III. Main Results:

Các mô hình MMFineReason-2B/4B/8B đạt được kết quả SOTA mới cho phân khúc kích thước của chúng. Đáng chú ý, MMFineReason-4B vượt qua Qwen3-VL-8B-Thinking và MMFineReason-8B thậm chí vượt trội hơn Qwen3-VL-30B-A3B-Thinking trong khi tiếp cận Qwen3-VL-32B-Thinking, thể hiện hiệu quả tham số đáng kinh ngạc. Họ cũng phát hiện ra hiện tượng "ít mà hiệu quả hơn" thông qua chiến lược lọc theo độ khó: một tập con chỉ 7% dữ liệu (123K mẫu) đạt hiệu suất tương đương với toàn bộ bộ dữ liệu. Ngoài ra, việc kết hợp dữ liệu định hướng suy luận đồng thời thúc đẩy các khả năng tổng quát của mô hình. Các nghiên cứu chuyên sâu về chiến lược huấn luyện và thành phần dữ liệu đã cung cấp những hiểu biết và công thức thực tế cho việc phát triển mô hình suy luận đa phương thức.

IV. Conclusion & Future Works:

MMFineReason đóng vai trò là một tài nguyên huấn luyện chất lượng cao và một khuôn khổ có thể tái tạo để xây dựng các VLM mã nguồn mở với khả năng suy luận mạnh mẽ. Nó thúc đẩy việc khám phá có nguyên tắc các chiến lược tập trung vào dữ liệu trong suy luận đa phương thức để thu hẹp khoảng cách hiệu suất giữa các mô hình mã nguồn mở và độc quyền.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu sâu hơn về hiện tượng "ít mà hiệu quả hơn" bằng cách phân tích các đặc điểm dữ liệu cụ thể trong tập con đã lọc và ảnh hưởng của chúng đến hiệu suất mô hình.
Phát triển các phương pháp tự động hóa việc tạo ra các câu đố trực quan và biểu đồ STEM phức tạp để mở rộng bộ dữ liệu suy luận đa phương thức.
Khám phá ảnh hưởng của các phương pháp chưng cất kiến thức (distillation methods) khác nhau từ các mô hình giáo viên mạnh mẽ đến chất lượng và hiệu quả của dữ liệu suy luận.

2. Patent:

Một hệ thống ứng dụng di động cho phép học sinh chụp ảnh bài toán (bao gồm hình ảnh và văn bản) và nhận được lời giải chi tiết từng bước thông qua mô hình suy luận đa phương thức.
Một tính năng trên điện thoại thông minh có thể phân tích biểu đồ, sơ đồ kỹ thuật hoặc hình ảnh hướng dẫn lắp ráp sản phẩm, sau đó cung cấp giải thích hoặc hướng dẫn thực hiện bằng giọng nói.
Một ứng dụng trên thiết bị di động để giải các câu đố logic hoặc xếp hình dựa trên hình ảnh, có khả năng điều chỉnh độ khó của câu đố và cung cấp gợi ý thông minh dựa trên phân tích hình ảnh.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2601.21821
ArXiv Abstract	https://arxiv.org/abs/2601.21821
PDF Download	https://arxiv.org/pdf/2601.21821.pdf
Github Repository	N/A

6. OCRVerse: Towards Holistic OCR in End-to-End Vision-Language Models (43 votes)

Tác giả: Yufeng Zhong, Lei Chen, Xuanle Zhao, Wenkang Han, Liming Zheng, Jing Huang, Deyang Jiang, Yilin Cao, Lin Ma, Zhixiong Zeng

Xuất bản lúc: 2026-01-29

Tag: OCR, Vision-Language Models, Multimodal AI, Holistic OCR, Supervised Fine-Tuning, Reinforcement Learning

I. Main Problem:

Các phương pháp OCR hiện có chủ yếu tập trung vào việc nhận diện các yếu tố văn bản từ hình ảnh hoặc tài liệu quét (OCR tập trung vào văn bản), bỏ qua việc nhận diện các yếu tố hình ảnh từ các nguồn hình ảnh dày đặc thông tin trực quan như biểu đồ, trang web và sơ đồ khoa học (OCR tập trung vào thị giác). Những hình ảnh dày đặc thông tin trực quan này phổ biến trên internet và có giá trị ứng dụng thực tế đáng kể nhưng các phương pháp hiện tại không giải quyết được việc thu thập các mối quan hệ ngữ nghĩa được nhúng trong cấu trúc trực quan, vốn đòi hỏi biểu diễn cấp mã (HTML, Python, LaTeX).

II. Main Idea:

Nghiên cứu đề xuất OCRVerse, một phương pháp OCR toàn diện đầu tiên hoạt động theo mô hình end-to-end, cho phép hợp nhất OCR tập trung vào văn bản và OCR tập trung vào thị giác. Giải pháp được xây dựng thông qua hai chiến lược bổ sung:

Kỹ thuật dữ liệu toàn diện: Xây dựng tập dữ liệu bao gồm nhiều loại tài liệu tập trung vào văn bản (báo, tạp chí, sách) và các thành phần trực quan (biểu đồ, trang web, sơ đồ khoa học).
Phương pháp huấn luyện đa miền SFT-RL hai giai đoạn:
- Giai đoạn SFT (Supervised Fine-Tuning): Trực tiếp trộn dữ liệu đa miền để thiết lập kiến thức miền ban đầu, giúp mô hình học các mẫu trực quan và định dạng đầu ra đa dạng.
- Giai đoạn RL (Reinforcement Learning): Tập trung vào việc thiết kế các chiến lược phần thưởng cá nhân hóa cho đặc điểm của từng miền, giải quyết xung đột và tối ưu hóa hiệu suất (ví dụ: độ chính xác cấu trúc cho bảng, độ trung thực ngữ nghĩa cho biểu đồ), từ đó cải thiện sự kết hợp đa miền và tránh xung đột dữ liệu. Mô hình cơ sở là một mô hình OCR nhẹ dựa trên Qwen3-VL 4B.

III. Main Results:

OCRVerse thể hiện hiệu quả mạnh mẽ, đạt được kết quả cạnh tranh trên cả các tác vụ OCR tập trung vào văn bản và tập trung vào thị giác. Cụ thể, nó đạt 89.23 trên OmniDocBench v1.5 và có kết quả tương đương với các mô hình mã nguồn mở quy mô lớn và các mô hình độc quyền trên nhiều điểm chuẩn tập trung vào thị giác. Các biểu đồ so sánh cho thấy OCRVerse thường có hiệu suất cao hơn hoặc tương đương với các mô hình như HunyuanOCR, Gemini-2.5 Pro, Qwen2.5-VL-72B, Deepseek-OCR 2, GPT-5, InternVL và Qwen3-VL trên các tác vụ như Text Block, Formula, Table, ChartMimic_direct_v2, UniSVG-ISVGEN, Design2Code, Image2Latex_plot, ChemDraw.

IV. Conclusion & Future Works:

OCRVerse là phương pháp OCR toàn diện end-to-end đầu tiên hợp nhất khả năng OCR tập trung vào văn bản và tập trung vào thị giác, bắc cầu giữa nhận diện cấp ký tự và biểu diễn cấp mã thông qua một kiến trúc nhẹ. Phương pháp huấn luyện SFT-RL hai giai đoạn của nó giúp thiết lập kiến thức đa miền và giải quyết xung đột miền hiệu quả. Nghiên cứu này chứng minh tiềm năng của việc giải quyết các thách thức OCR đa dạng trong một khuôn khổ thống nhất. Bài báo không đề cập cụ thể đến các hướng nghiên cứu trong tương lai, nhưng ngụ ý rằng việc phát triển các mô hình OCR toàn diện có thể tiếp tục được khám phá để xử lý các nguồn thông tin trực quan phức tạp hơn nữa.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu việc tích hợp các mô-đun chuyên biệt vào kiến trúc OCRVerse để nâng cao độ chính xác trên các loại tài liệu đặc thù như tài liệu y tế hoặc bản vẽ kỹ thuật.
Phát triển các phương pháp tạo dữ liệu tổng hợp tiên tiến hơn cho các kịch bản OCR tập trung vào thị giác, đặc biệt là các loại biểu đồ và giao diện người dùng ít phổ biến.
Khám phá việc áp dụng các kỹ thuật học tăng cường tiên tiến hơn hoặc các kiến trúc mô hình ngôn ngữ lớn thị giác khác để cải thiện hiệu suất của OCRVerse trong môi trường thực tế.

2. Patent:

Một hệ thống nhận dạng tài liệu thông minh trên điện thoại di động có khả năng tự động trích xuất thông tin từ cả văn bản thuần túy và các thành phần hình ảnh phức tạp như biểu đồ doanh thu hoặc cấu trúc trang web hiển thị.
Một phương pháp cho phép ứng dụng quét tài liệu trên điện thoại di động tạo ra mã nguồn (ví dụ: HTML, Python) trực tiếp từ hình ảnh biểu đồ hoặc giao diện người dùng, giúp người dùng dễ dàng chỉnh sửa và tái sử dụng nội dung.
Một công nghệ trên điện thoại di động có khả năng phân tích và số hóa hoàn chỉnh các trang tạp chí hoặc sách báo, bao gồm cả văn bản, hình ảnh và bố cục, để tạo ra phiên bản kỹ thuật số tương tác cao, giữ nguyên định dạng gốc.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2601.21639
ArXiv Abstract	https://arxiv.org/abs/2601.21639
PDF Download	https://arxiv.org/pdf/2601.21639.pdf
Github Repository	https://github.com/DocTron-hub/OCRVerse

7. ConceptMoE: Adaptive Token-to-Concept Compression for Implicit Compute Allocation (33 votes)

Tác giả: Zihao Huang, Jundong Zhou, Xingwei Qu, Qiyang Min, Ge Zhang

Xuất bản lúc: 2026-01-29

Tag: LLMs, MoE, Token Compression, Compute Allocation, Efficiency

I. Main Problem:

Các mô hình ngôn ngữ lớn (LLMs) hiện tại phân bổ lượng tính toán đồng đều cho tất cả các token, bỏ qua thực tế là một số chuỗi dễ đoán trong khi những chuỗi khác đòi hỏi suy luận sâu. Cách tiếp cận "một kích thước cho tất cả" này gây lãng phí tính toán cho các dự đoán thông thường và có thể thiếu tài nguyên cho nội dung có mật độ ngữ nghĩa cao. Các phương pháp hiện có để làm giàu ngữ nghĩa hoặc giảm số lượng token (như mở rộng từ vựng hoặc gộp token động) có giới hạn về hiệu quả, khả năng thích ứng hoặc chưa cung cấp các so sánh công bằng về kiến trúc.

II. Main Idea:

ConceptMoE đề xuất một cách tiếp cận mới bằng cách nâng cấp xử lý của LLMs từ cấp độ token lên cấp độ khái niệm thông qua việc gộp thích nghi có thể học được. Mô hình này tự động hợp nhất các token có ngữ nghĩa tương tự thành các biểu diễn khái niệm (concept representations) bằng cách sử dụng một module "chunk" có thể học được. Module này xác định các ranh giới tối ưu bằng cách đo lường sự tương đồng giữa các token, nén các chuỗi theo một tỷ lệ mục tiêu R trước khi chúng đi vào mô hình khái niệm chuyên sâu về tính toán. Điều này thực hiện việc phân bổ tính toán ngầm định ở cấp độ token. Kiến trúc MoE cho phép đánh giá có kiểm soát, nơi tính toán tiết kiệm được phân bổ lại để phù hợp với FLOPs kích hoạt và tổng số tham số của mô hình cơ sở, từ đó cô lập các lợi ích kiến trúc thực sự.

III. Main Results:

ConceptMoE liên tục vượt trội so với MoE tiêu chuẩn trên các tác vụ ngôn ngữ và ngôn ngữ-thị giác:

Đạt +0.9 điểm trong huấn luyện trước ngôn ngữ.
Đạt +2.3 điểm trong hiểu ngữ cảnh dài.
Đạt +0.6 điểm trên các tiêu chuẩn đa phương thức.
Khi chuyển đổi MoE đã huấn luyện trước trong quá trình huấn luyện liên tục với vòng lặp lớp, mức tăng đạt +5.5 điểm, thể hiện khả năng ứng dụng thực tế. Huấn luyện từ đầu đạt +6.4 điểm tổng thể.
Giảm tính toán attention map lên đến R2 lần và KV cache lên đến R lần.
Với R = 2, các phép đo thực nghiệm cho thấy tốc độ prefill tăng tới 175% và tốc độ giải mã tăng tới 117% trên các chuỗi dài.

IV. Conclusion & Future Works:

ConceptMoE thể hiện một sự thay đổi mô hình từ xử lý cấp độ token đồng nhất sang xử lý cấp độ khái niệm thích ứng, cải thiện cơ bản cả hiệu quả và hiệu suất của các mô hình ngôn ngữ lớn. Các sửa đổi kiến trúc tối thiểu cho phép tích hợp dễ dàng vào các kiến trúc MoE hiện có, mở ra hướng ứng dụng rộng rãi.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu về việc áp dụng ConceptMoE cho các ngôn ngữ có cấu trúc ngữ pháp và hình thái khác nhau để đánh giá khả năng thích nghi của nó.
Khám phá việc tích hợp module chunking đa cấp hoặc phân cấp để nén khái niệm phức tạp hơn trong các chuỗi rất dài.
Phân tích tác động của các chiến lược phân bổ tính toán khác nhau trong MoE khi kết hợp với nén token-to-concept thích ứng.

2. Patent:

Một hệ thống điện thoại thông minh có khả năng tự động điều chỉnh mức độ chi tiết khi xử lý tin nhắn hoặc nội dung văn bản, giúp tiết kiệm pin và tăng tốc độ phản hồi của trợ lý ảo.
Thiết bị di động sử dụng công nghệ tự động gộp các thông tin ít quan trọng thành các khái niệm lớn hơn, giúp giảm lượng dữ liệu cần xử lý và tăng hiệu suất cho các ứng dụng trí tuệ nhân tạo trên thiết bị.
Phương pháp xử lý dữ liệu cho ứng dụng trên điện thoại thông minh, trong đó các thông tin có tính lặp lại hoặc dễ đoán được nén lại thành các đơn vị khái niệm, tối ưu hóa việc sử dụng tài nguyên phần cứng và cải thiện trải nghiệm người dùng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2601.21420
ArXiv Abstract	https://arxiv.org/abs/2601.21420
PDF Download	https://arxiv.org/pdf/2601.21420.pdf
Github Repository	https://github.com/ZihaoHuang-notabot/ConceptMoE

8. Qwen3-ASR Technical Report (22 votes)

Tác giả: Xian Shi, Xiong Wang, Zhifang Guo, Yongqi Wang, Pei Zhang, Xinyu Zhang, Zishan Guo, Hongkun Hao, Yu Xi, Baosong Yang, Jin Xu, Jingren Zhou, Junyang Lin

Xuất bản lúc: 2026-01-29

Tag: ASR, LALM, Speech Recognition, Forced Alignment, Multilingual ASR

I. Main Problem:

Bài báo giải quyết các vấn đề liên quan đến ASR truyền thống như khả năng nhận diện tiếng nói dài, độ bền vững với nhiễu, khả năng hiểu biết thế giới và các thực thể được đặt tên, cũng như phạm vi đa ngôn ngữ và phương ngữ. Ngoài ra, bài báo cũng tập trung vào nhu cầu cung cấp dấu thời gian chính xác cùng với bản ghi, và sự thiếu hụt các hệ thống căn chỉnh bắt buộc (forced alignment) đa ngôn ngữ, thống nhất trong các triển khai thực tế.

II. Main Idea:

Bài báo giới thiệu dòng sản phẩm Qwen3-ASR, bao gồm hai mô hình ASR "tất cả trong một" mạnh mẽ (Qwen3-ASR-1.7B và Qwen3-ASR-0.6B) hỗ trợ nhận diện ngôn ngữ và ASR cho 52 ngôn ngữ và phương ngữ, cùng với một mô hình căn chỉnh bắt buộc giọng nói phi tự hồi quy (non-autoregressive) mới là Qwen3-ForcedAligner-0.6B, hỗ trợ 11 ngôn ngữ. Các mô hình này tận dụng dữ liệu huấn luyện giọng nói quy mô lớn và khả năng hiểu âm thanh mạnh mẽ của mô hình nền tảng Qwen3-Omni. Bài báo cũng công bố các mô hình này dưới giấy phép Apache 2.0 để thúc đẩy nghiên cứu cộng đồng.

III. Main Results:

Qwen3-ASR-1.7B đạt hiệu suất hàng đầu (SOTA) trong số các mô hình ASR mã nguồn mở và cạnh tranh với các API độc quyền mạnh nhất.
Qwen3-ASR-0.6B mang lại sự cân bằng tốt nhất giữa độ chính xác và hiệu quả, đạt thời gian tới token đầu tiên (TTFT) trung bình chỉ 92ms và có thể chuyển mã 2.000 giây giọng nói trong 1 giây với 128 luồng xử lý đồng thời (thông lượng 2000, RTF 0.064).
Qwen3-ASR-1.7B và Qwen3-ASR-0.6B hỗ trợ nhận diện giọng nói cho 30 ngôn ngữ và 22 phương ngữ Trung Quốc, có khả năng nhận diện mạnh mẽ trong môi trường phức tạp, bao gồm cả giọng hát và bài hát có nhạc nền, cũng như các mẫu văn bản phức tạp.
Qwen3-ForcedAligner-0.6B cho thấy độ chính xác dấu thời gian vượt trội so với ba mô hình căn chỉnh bắt buộc mạnh nhất, đồng thời hiệu quả và linh hoạt hơn, hỗ trợ căn chỉnh ở nhiều mức độ hạt (từ, câu, đoạn văn).

IV. Conclusion & Future Works:

Gia đình mô hình Qwen3-ASR cung cấp các giải pháp ASR "tất cả trong một" và căn chỉnh bắt buộc giọng nói dựa trên LALM (Large Audio-Language Model) với hiệu suất hàng đầu, khả năng đa ngôn ngữ rộng rãi, và hiệu quả vượt trội. Việc phát hành mã nguồn mở các mô hình và khung làm việc toàn diện này được kỳ vọng sẽ đẩy nhanh nghiên cứu và phát triển trong cộng đồng nhận dạng giọng nói tự động.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu sâu hơn về ảnh hưởng của việc tích hợp các mô hình ngôn ngữ lớn vào kiến trúc ASR đa phương thức để cải thiện khả năng hiểu ngữ cảnh và độ chính xác trong các tình huống thực tế.
Phát triển các phương pháp huấn luyện tăng cường (Reinforcement Learning) mới để tối ưu hóa khả năng chống nhiễu và độ ổn định của ASR trong môi trường âm thanh phức tạp.
Khám phá các kỹ thuật căn chỉnh bắt buộc phi tự hồi quy mới, tập trung vào việc giảm độ trễ và tăng cường khả năng xử lý các ngôn ngữ ít tài nguyên.

2. Patent:

Một hệ thống nhận diện giọng nói di động thông minh có khả năng tự động điều chỉnh tốc độ phản hồi và độ chính xác dựa trên điều kiện mạng và tài nguyên thiết bị, đặc biệt hữu ích cho các cuộc gọi video hoặc ghi âm trực tiếp.
Một ứng dụng di động cho phép người dùng ghi âm và đồng thời hiển thị bản ghi có kèm dấu thời gian chính xác cho từng từ, giúp dễ dàng tạo phụ đề cho video hoặc ghi chú cuộc họp ngay trên điện thoại.
Một công nghệ trợ lý giọng nói trên điện thoại có khả năng nhận diện giọng hát và lời bài hát ngay cả khi có nhạc nền, cho phép người dùng tìm kiếm bài hát hoặc hiển thị lời bài hát một cách chính xác.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2601.21337
ArXiv Abstract	https://arxiv.org/abs/2601.21337
PDF Download	https://arxiv.org/pdf/2601.21337.pdf
Github Repository	N/A

9. Exploring Reasoning Reward Model for Agents (20 votes)

Tác giả: Kaixuan Fan, Kaituo Feng, Manyuan Zhang, Tianshuo Peng, Zhixun Li, Yilei Jiang, Shuang Chen, Peng Pei, Xunliang Cai, Xiangyu Yue

Xuất bản lúc: 2026-01-29

Tag: Agentic Reinforcement Learning, Reward Modeling, Multi-faceted Feedback, Large Language Models, Tool Use

I. Main Problem:

Các phương pháp học tăng cường tác nhân (Agentic Reinforcement Learning - Agentic RL) hiện tại thường dựa vào phần thưởng thưa thớt chỉ dựa trên kết quả cuối cùng. Điều này không thể phân biệt chất lượng lý luận trung gian, dẫn đến hiệu suất đào tạo dưới tối ưu và bỏ qua giá trị của các bước trung gian thành công. Ngoài ra, các mô hình phần thưởng hiện có gặp phải chi phí chú thích cao, dễ bị tấn công phần thưởng và thường chỉ cung cấp phản hồi dưới dạng điểm số vô hướng hoặc ưu tiên cặp đôi, thiếu khả năng cung cấp hướng dẫn chi tiết, có thể thực hiện được bằng ngôn ngữ tự nhiên để sửa chữa các lỗi logic phức tạp.

II. Main Idea:

Bài báo giới thiệu Agent Reasoning Reward Model (Agent-RRM), một mô hình phần thưởng đa diện được thiết kế để tạo ra phản hồi có cấu trúc cho các quỹ đạo của tác nhân. Phản hồi này bao gồm: (1) một dấu vết lý luận tường minh, (2) một lời phê bình tập trung cung cấp hướng dẫn tinh chỉnh bằng cách nêu bật các lỗi lý luận, và (3) một điểm số tổng thể đánh giá hiệu suất của quá trình. Dựa trên các tín hiệu này, bài báo hệ thống hóa ba chiến lược tích hợp (gọi chung là Reagent): Reagent-C (tinh chỉnh được tăng cường văn bản), Reagent-R (hướng dẫn được tăng cường phần thưởng) và Reagent-U (tích hợp phản hồi hợp nhất). Để hỗ trợ nghiên cứu, bốn bộ dữ liệu chuyên biệt chất lượng cao đã được tạo ra để đào tạo cả tác nhân và mô hình phần thưởng. Agent-RRM được đào tạo thông qua quy trình hai giai đoạn: tinh chỉnh có giám sát (SFT) để tạo ra định dạng đầu ra có cấu trúc và tối ưu hóa chính sách tương đối nhóm (GRPO) để tinh chỉnh các lý do đánh giá và hiệu chuẩn điểm số vô hướng.

III. Main Results:

Các đánh giá rộng rãi trên 12 bộ dữ liệu đánh giá đa dạng cho thấy Reagent-U mang lại những bước nhảy vọt đáng kể về hiệu suất, đạt 43.7% trên GAIA và 46.2% trên WebWalkerQA. Điều này chứng minh tính hiệu quả của mô hình phần thưởng lý luận và các chiến lược đào tạo được đề xuất. Các mô hình Reagent nói chung cho thấy những cải thiện hiệu suất đáng kể, nhấn mạnh hiệu quả của các tín hiệu phản hồi dựa trên lý luận đa cấp trong các tác vụ tác nhân phức tạp. Các bộ dữ liệu, mã nguồn và mô hình được phát hành để tạo điều kiện thuận lợi cho nghiên cứu trong tương lai.

IV. Conclusion & Future Works:

Bài báo giới thiệu Agent-RRM, một trình đánh giá đa diện cung cấp phản hồi có cấu trúc và chi tiết, bao gồm lý do lý luận tường minh, phê bình có thể hành động và điểm chất lượng tổng thể, nhằm nâng cao khả năng lý luận của tác nhân. Nghiên cứu đã khám phá ba biến thể tích hợp Agent-RRM vào Agentic RL (Reagent-C, -R, và -U), chỉ ra rằng Reagent-U đạt được hiệu suất vượt trội. Công trình này cung cấp một lộ trình toàn diện để khai thác phản hồi đa cấp nhằm tăng tốc quá trình học tăng cường tác nhân. Mã nguồn, mô hình và bộ dữ liệu đã được phát hành để hỗ trợ cộng đồng nghiên cứu tiến bộ trong lĩnh vực này.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu tác động của việc cá nhân hóa mô hình Agent-RRM dựa trên phong cách học tập hoặc sở thích của từng tác nhân để tối ưu hóa hiệu quả đào tạo.
Khám phá khả năng mở rộng của Agent-RRM trong các môi trường đa tác nhân, nơi các tác nhân cần hợp tác hoặc cạnh tranh và phản hồi lý luận cần tính đến tương tác giữa chúng.
Phát triển một phương pháp để tự động tạo ra lời phê bình và dấu vết lý luận chất lượng cao mà không cần sự giám sát của mô hình lớn bên ngoài, giảm chi phí và sự phụ thuộc vào các API thương mại.

2. Patent:

Một hệ thống trên điện thoại thông minh phân tích các bước người dùng thực hiện trong các ứng dụng phức tạp (ví dụ: chỉnh sửa ảnh, lập trình đơn giản) và cung cấp phản hồi chi tiết về các điểm không hiệu quả, đề xuất các cách cải thiện.
Một tính năng trợ lý ảo trên thiết bị di động có khả năng đánh giá chuỗi suy nghĩ hoặc yêu cầu nhiều bước của người dùng, sau đó đưa ra lời giải thích rõ ràng nếu có lỗi logic và gợi ý các bước thay thế để đạt được mục tiêu.
Một ứng dụng trên điện thoại cung cấp hướng dẫn học tập cá nhân hóa, nơi nó không chỉ đánh giá câu trả lời cuối cùng của người học mà còn phân tích quá trình suy nghĩ của họ, chỉ ra các sai lầm trong lập luận và cung cấp lời khuyên cụ thể để khắc phục.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2601.22154
ArXiv Abstract	https://arxiv.org/abs/2601.22154
PDF Download	https://arxiv.org/pdf/2601.22154.pdf
Github Repository	https://github.com/kxfan2002/Reagent

10. PLANING: A Loosely Coupled Triangle-Gaussian Framework for Streaming 3D Reconstruction (20 votes)

Tác giả: Changjian Jiang, Kerui Ren, Xudong Li, Kaiwen Song, Linning Xu, Tao Lu, Junting Dong, Yu Zhang, Bo Dai, Mulin Yu

Xuất bản lúc: 2026-01-29

Tag: 3D Reconstruction, Streaming 3D Reconstruction, Monocular, Hybrid Representation, Gaussian Splatting, Triangle Primitives, Neural Rendering

I. Main Problem:

Việc tái tạo 3D liên tục (streaming 3D reconstruction) từ chuỗi hình ảnh đơn sắc vẫn còn nhiều thách thức. Các phương pháp hiện có thường chỉ ưu tiên chất lượng kết xuất cao hoặc độ chính xác hình học, nhưng hiếm khi đạt được cả hai. Đặc biệt, các phương pháp dựa trên 3D Gaussian Splatting, dù hiệu quả trong việc tạo hình ảnh chất lượng cao, lại thiếu các cấu trúc hình học rõ ràng, nhỏ gọn và ổn định, dẫn đến khó khăn trong việc phục hồi hình dạng bề mặt mạch lạc và có thể chỉnh sửa mà không làm giảm chất lượng hình ảnh. Điều này thường gây ra sự dư thừa lớn về các nguyên tố (primitives), làm tăng chi phí tính toán và hạn chế khả năng mở rộng trong môi trường streaming.

II. Main Idea:

Bài báo giới thiệu PLANING, một khung làm việc tái tạo 3D hiệu quả và tức thì, được xây dựng trên một biểu diễn lai (hybrid representation) kết hợp lỏng lẻo các nguyên tố hình học tường minh (explicit geometric primitives) là các hình tam giác (learnable triangles) với các Gaussian thần kinh (neural Gaussians) cho bề mặt hiển thị.

Mô hình hóa hình học và hiển thị tách rời: Các hình tam giác được dùng để mô hình hóa hình học, cung cấp các cạnh rõ ràng và cấu trúc bề mặt tường minh, đặc biệt hiệu quả với các bố cục phẳng. Các Gaussian thần kinh được sử dụng để mô hình hóa hiển thị, với các thuộc tính được giải mã từ sự kết hợp các đặc trưng tam giác và đặc trưng riêng của từng Gaussian.
Chiến lược tối ưu hóa trực tuyến: Việc tách rời này cho phép một chiến lược khởi tạo và tối ưu hóa trực tuyến, tách biệt các cập nhật về hình học và hiển thị, giúp tái tạo streaming ổn định và giảm đáng kể sự dư thừa cấu trúc.
Khung làm việc streaming hiệu quả: PLANING sử dụng các mô hình feed-forward để ước tính tư thế camera mạnh mẽ và cung cấp hướng dẫn hình học ổn định. Nó cũng áp dụng một chiến lược khởi tạo nguyên tố được điều chỉnh với việc lọc quang học và không gian để giảm sự dư thừa, và điều chỉnh bản đồ tổng thể để duy trì sự căn chỉnh của mô hình 3D với các tư thế camera được tối ưu hóa liên tục.

III. Main Results:

PLANING cải thiện độ chính xác hình học (Chamfer-L2) lên 18.52% so với PGSR.
Vượt trội hơn ARTDECO về chất lượng hiển thị (PSNR) 1.31 dB.
Tái tạo các cảnh ScanNetV2 trong dưới 100 giây, nhanh hơn hơn 5 lần so với 2D Gaussian Splatting, đồng thời duy trì chất lượng tương đương với tối ưu hóa ngoại tuyến trên từng cảnh.
Hiệu suất vượt trội trên các tiêu chí độ chính xác hình học, chất lượng hiển thị, hiệu quả tính toán và sử dụng bộ nhớ so với các phương pháp hiện có.
Mô hình PLANING tạo ra các mặt phẳng 3D nhỏ gọn và nhất quán bằng cách giữ lại các cấu trúc nổi bật và loại bỏ hình học dư thừa, giúp giảm đáng kể số lượng tam giác.

IV. Conclusion & Future Works:

PLANING giới thiệu một giải pháp cân bằng giữa độ chính xác hình học, chất lượng hiển thị cao và hiệu quả tính toán cho việc tái tạo 3D liên tục. Cấu trúc rõ ràng và hiệu quả tính toán của nó làm cho PLANING rất phù hợp cho nhiều ứng dụng hạ nguồn, bao gồm mô hình hóa cảnh quan quy mô lớn, tạo môi trường sẵn sàng cho mô phỏng trong AI có thể vật chất hóa (embodied AI) như huấn luyện vận động hoặc hỗ trợ tinh chỉnh tư thế bằng mặt phẳng. Hướng nghiên cứu tiếp theo có thể tập trung vào việc khai thác hơn nữa các mặt phẳng 3D nhỏ gọn và nhất quán để cải thiện việc tái tạo cảnh quy mô lớn và tính nhất quán toàn cầu của việc ước tính tư thế.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu phương pháp tối ưu hóa việc trích xuất và sử dụng các mặt phẳng từ mô hình PLANING để cải thiện hiệu suất của các hệ thống SLAM theo thời gian thực.
Khám phá cách tích hợp thêm các yếu tố ngữ nghĩa vào mô hình PLANING để tự động nhận diện và phân loại các đối tượng trong môi trường 3D được tái tạo.
Phát triển một biến thể của PLANING chuyên biệt cho việc tái tạo các cảnh ngoài trời quy mô lớn, tập trung vào việc xử lý địa hình phức tạp và vật thể không gian rộng.

2. Patent:

Một hệ thống ứng dụng trên điện thoại di động cho phép người dùng quay video và ngay lập tức xem mô hình 3D của môi trường xung quanh được tạo ra với độ chính xác hình học cao và hình ảnh sống động.
Phương pháp trên điện thoại thông minh để tạo ra các mô hình 3D của căn phòng, có khả năng tự động xác định và trích xuất các bề mặt phẳng chính, giúp ích cho việc bố trí nội thất ảo hoặc đo đạc không gian.
Công nghệ cho phép điện thoại di động liên tục cập nhật và duy trì một bản đồ 3D chi tiết của môi trường trong khi di chuyển, sử dụng cả thông tin về hình dạng vật thể và màu sắc để tạo ra trải nghiệm thực tế tăng cường ổn định và chính xác hơn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2601.22046
ArXiv Abstract	https://arxiv.org/abs/2601.22046
PDF Download	https://arxiv.org/pdf/2601.22046.pdf
Github Repository	N/A

11. AgentLongBench: A Controllable Long Benchmark For Long-Contexts Agents via Environment Rollouts (18 votes)

Tác giả: Shicheng Fang, Yuxin Wang, XiaoRan Liu, Jiahao Lu, Chuanyuan Tan, Xinchi Chen, Yining Zheng. Xuanjing Huang, Xipeng Qiu

Xuất bản lúc: 2026-01-28

Tag: Long-context LLMs, Autonomous Agents, Benchmarking, Environment Rollouts, Dynamic Context, Information Density

I. Main Problem:

Các mô hình ngôn ngữ lớn (LLMs) khi được triển khai dưới dạng tác nhân tự chủ (autonomous agents) gặp phải thách thức lớn trong việc quản lý các ngữ cảnh rộng lớn và động. Các bộ benchmark hiện tại còn hạn chế, chủ yếu là tĩnh và dựa vào các tác vụ truy xuất thông tin thụ động, không mô phỏng được độ phức tạp của tương tác tác nhân-môi trường thực tế, bao gồm suy luận phi tuyến tính và phản hồi lặp lại. Điều này dẫn đến sự yếu kém trong khả năng tổng hợp thông tin động, gây ra suy luận rời rạc, ảo giác và lỗi lập kế hoạch trong các quy trình làm việc phức tạp.

II. Main Idea:

Bài nghiên cứu giới thiệu AgentLongBench, một bộ benchmark mới được thiết kế để đánh giá các tác nhân thông qua việc mô phỏng "environment rollouts" (cuộn môi trường) dựa trên các câu đố tư duy lateral (Lateral Thinking Puzzles). Khuôn khổ này tạo ra các quỹ đạo tương tác nghiêm ngặt trong cả kịch bản chuyên sâu kiến thức (Knowledge-Intensive) và không kiến thức (Knowledge-Free), buộc các tác nhân phải phân tích các nhật ký công cụ mật độ cao do máy tạo ra và thực hiện theo dõi trạng thái chính xác. AgentLongBench bao gồm một phân loại đánh giá toàn diện với 32 loại câu hỏi riêng biệt, 2 cài đặt (Knowledge-Intensive, Knowledge-Free), 2 định dạng tương tác (Concise-Response, Verbose-Response), và 8 tác vụ, bao phủ các độ dài ngữ cảnh từ 32K đến 4M token.

III. Main Results:

Các thí nghiệm sâu rộng trên các mô hình LLM và khung bộ nhớ tiên tiến (từ 32K đến 4M token) đã phơi bày một điểm yếu cốt lõi: mặc dù các tác nhân có khả năng truy xuất tĩnh tốt, chúng lại gặp khó khăn nghiêm trọng với việc tổng hợp thông tin động cần thiết cho các quy trình làm việc. Sự suy giảm hiệu suất này được xác định là do số lượng token tối thiểu cần thiết để giải quyết một truy vấn. Mật độ thông tin cao vốn có trong các phản hồi công cụ lớn đặt ra một thách thức đáng kể hơn nhiều so với sự phân mảnh bộ nhớ điển hình của các cuộc đối thoại nhiều lượt. Các chế độ lỗi chính được phát hiện bao gồm: (i) sự phụ thuộc mạnh mẽ vào kiến thức tham số trong các cài đặt Knowledge-Free, (ii) sự đánh đổi giữa các quỹ đạo tương tác dài lượt và các đầu ra đơn lượt dày đặc, và (iii) gánh nặng suy luận cao hơn đáng kể đối với các nhật ký công cụ có mật độ cao.

IV. Conclusion & Future Works:

AgentLongBench cung cấp một phương pháp đánh giá quan trọng cho các tác nhân LLM trong các ngữ cảnh động, làm nổi bật những hạn chế hiện tại của chúng trong việc tổng hợp thông tin và theo dõi trạng thái. Nghiên cứu khẳng định rằng việc cải thiện khả năng xử lý ngữ cảnh có mật độ thông tin cao và giảm sự phụ thuộc vào kiến thức tham số là yếu tố then chốt để phát triển các tác nhân tự chủ hiệu quả hơn. Hướng nghiên cứu tiếp theo có thể tập trung vào việc thiết kế các chiến lược mới để giảm gánh nặng suy luận từ các nhật ký công cụ mật độ cao và nâng cao tính nhất quán trong lập kế hoạch và suy luận của tác nhân trong các ngữ cảnh dài.

V. Brainstorming Space:

1. Publish Papers:

Phát triển các thuật toán nén ngữ cảnh thích ứng dựa trên mật độ thông tin để tối ưu hóa việc sử dụng bộ nhớ cho các tác nhân trong môi trường động.
Nghiên cứu tác động của các mô hình bộ nhớ dài hạn khác nhau lên hiệu suất của tác nhân trong việc giải quyết các câu đố tư duy lateral dưới cài đặt Knowledge-Free.
Thiết kế một phương pháp đánh giá định lượng về sự phụ thuộc vào kiến thức tham số của LLM và đề xuất kỹ thuật để giảm thiểu nó trong các tác vụ suy luận.

2. Patent:

Một hệ thống trợ lý ảo trên điện thoại thông minh tự động tóm tắt các cuộc hội thoại dài hoặc chuỗi thông báo, chỉ cung cấp các thông tin quan trọng mà không làm người dùng bị quá tải.
Một công cụ quản lý tác vụ thông minh tích hợp trên điện thoại, có thể tự động học từ các tương tác trước đây của người dùng và các phản hồi từ ứng dụng để đề xuất các bước tiếp theo hiệu quả trong quy trình làm việc.
Một tính năng duyệt web thông minh trên điện thoại di động, nơi một tác nhân AI có thể tổng hợp thông tin từ nhiều trang web liên quan đến một truy vấn tìm kiếm, tạo ra một bản tóm tắt mạch lạc thay vì chỉ hiển thị các liên kết riêng lẻ.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2601.20730
ArXiv Abstract	https://arxiv.org/abs/2601.20730
PDF Download	https://arxiv.org/pdf/2601.20730.pdf
Github Repository	N/A

12. Shaping capabilities with token-level data filtering (17 votes)

Tác giả: Neil Rathi, Alec Radford

Xuất bản lúc: 2026-01-29

Tag: Data Filtering, Capability Shaping, Language Models, Pretraining, AI Safety, Token-level Filtering.

I. Main Problem:

Các phương pháp hiện tại để giảm thiểu các khả năng không mong muốn trong mô hình ngôn ngữ thường được thực hiện sau quá trình huấn luyện (post hoc), khiến chúng dễ bị đối thủ vượt qua thông qua jailbreak hoặc tinh chỉnh. Điều này tạo ra một cuộc chiến không ngừng giữa các biện pháp bảo vệ và những nỗ lực phá vỡ chúng, làm tăng nguy cơ lạm dụng các mô hình AI có khả năng cao.

II. Main Idea:

Bài nghiên cứu đề xuất một cách tiếp cận thay thế là định hình các khả năng của mô hình ngay trong giai đoạn tiền huấn luyện bằng cách lọc dữ liệu. Thay vì lọc ở cấp độ tài liệu (document-level), phương pháp này tập trung vào lọc các "token" riêng lẻ (token-level data filtering) liên quan đến các khả năng không mong muốn. Các tác giả giới thiệu một phương pháp luận để gán nhãn token sử dụng sparse autoencoder và chắt lọc các bộ phân loại hiệu quả, chi phí thấp nhằm xác định và loại bỏ các token có hại.

III. Main Results:

Lọc dữ liệu tiền huấn luyện là một phương pháp hiệu quả cao, mạnh mẽ và tiết kiệm chi phí để giảm các khả năng không mong muốn, được chứng minh trên nhiệm vụ loại bỏ khả năng y tế.
Lọc token hiệu quả hơn đáng kể so với lọc tài liệu, đạt được mức giảm các khả năng không mong muốn tương đương với chi phí thấp hơn đối với các khả năng có lợi.
Hiệu quả của việc lọc tăng lên theo quy mô: đối với các mô hình lớn nhất, lọc token dẫn đến hiệu suất tính toán chậm hơn 7000 lần trên miền "quên" (forget domain).
Các mô hình được huấn luyện với lọc token vẫn có thể được điều chỉnh (aligned) trên miền "quên" và thậm chí còn tổng quát hóa tốt hơn cho việc huấn luyện từ chối (refusal training) so với baseline không lọc.
Phương pháp gán nhãn token dựa trên sparse autoencoder có khả năng tạo ra các bộ phân loại chất lượng cao, vượt trội so với các phương pháp có giám sát, và có thể chịu được nhãn nhiễu khi có đủ tài nguyên tính toán tiền huấn luyện.

IV. Conclusion & Future Works:

Bài nghiên cứu kết luận rằng lọc dữ liệu cấp token có thể định hình hiệu quả và tiết kiệm chi phí các khả năng của mô hình ở quy mô lớn mà không làm ảnh hưởng đến khả năng điều chỉnh hoặc yêu cầu nhãn hoàn hảo. Các hướng nghiên cứu tiếp theo có thể bao gồm việc mở rộng phương pháp này sang các miền khả năng không mong muốn khác và khám phá thêm về tính mạnh mẽ của nó trước các kịch bản nhãn nhiễu phức tạp.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu sâu hơn về tác động của việc kết hợp lọc token với các kỹ thuật huấn luyện mô hình khác (ví dụ: huấn luyện đối nghịch) để tăng cường khả năng chống lại sự lạm dụng.
Phát triển các phương pháp gán nhãn token tự động và thích ứng cho các ngôn ngữ khác ngoài tiếng Anh hoặc các miền dữ liệu chuyên biệt khác.
Phân tích tác động dài hạn của việc lọc token lên sự phát triển của các khả năng mới và không lường trước được trong các mô hình ngôn ngữ quy mô lớn.

2. Patent:

Một hệ thống lọc nội dung trên điện thoại thông minh sử dụng thuật toán phân loại token để tự động chặn hoặc cảnh báo người dùng về các đoạn văn bản có khả năng gây hại hoặc không phù hợp trong các tin nhắn và trang web.
Một công nghệ bảo mật thiết bị di động áp dụng lọc token để tinh chỉnh các mô hình học máy trên thiết bị, đảm bảo chúng không học được hoặc tái tạo các thông tin nhạy cảm hoặc không mong muốn từ dữ liệu cá nhân của người dùng.
Một ứng dụng kiểm soát phụ huynh trên điện thoại di động sử dụng phương pháp phân loại token để giám sát và loại bỏ các nội dung độc hại hoặc không phù hợp từ các ứng dụng và trò chơi, tạo môi trường kỹ thuật số an toàn cho trẻ em.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2601.21571
ArXiv Abstract	https://arxiv.org/abs/2601.21571
PDF Download	https://arxiv.org/pdf/2601.21571.pdf
Github Repository	https://github.com/neilrathi/token-filtering

13. EEG Foundation Models: Progresses, Benchmarking, and Open Problems (17 votes)

Tác giả: Dingkun Liu, Yuheng Chen, Zhu Chen, Zhenyao Cui, Yaozhi Wen, Jiayu An, Jingwei Luo, Dongrui Wu

Xuất bản lúc: 2026-01-25

Tag: EEG, Foundation Models, Benchmarking, Self-supervised Learning, Transfer Learning

I. Main Problem:

Bài báo này giải quyết việc thiếu các so sánh công bằng và toàn diện về các mô hình nền tảng điện não đồ (EEG foundation models) hiện có, do sự không nhất quán trong mục tiêu tiền huấn luyện, lựa chọn tiền xử lý và giao thức đánh giá đầu ra. Nó cũng nhằm mục đích đánh giá khả năng tổng quát hóa, hiệu suất so với các mô hình chuyên biệt, và liệu nguyên tắc mở rộng quy mô (scaling law) có áp dụng cho các mô hình nền tảng EEG hay không.

II. Main Idea:

Các tác giả đã thực hiện một nghiên cứu tổng quan toàn diện về 50 mô hình nền tảng EEG, sắp xếp các lựa chọn thiết kế của chúng vào một khuôn khổ phân loại thống nhất. Sau đó, họ tiến hành đánh giá 12 mô hình nền tảng mã nguồn mở và các mô hình cơ sở chuyên biệt trên 13 bộ dữ liệu EEG trải dài qua chín giao thức BCI. Việc đánh giá tập trung vào khả năng tổng quát hóa chéo đối tượng (cross-subject generalization) và khả năng hiệu chỉnh nhanh trong nội bộ đối tượng với ít dữ liệu (within-subject few-shot adaptation), đồng thời so sánh tinh chỉnh toàn bộ tham số với dò tìm tuyến tính (linear probing) để đánh giá khả năng chuyển giao của các biểu diễn tiền huấn luyện.

III. Main Results:

Các kết quả chính cho thấy: 1) phương pháp dò tìm tuyến tính thường không đủ hiệu quả; 2) các mô hình chuyên biệt được huấn luyện từ đầu vẫn cạnh tranh trên nhiều tác vụ; và, 3) các mô hình nền tảng lớn hơn không nhất thiết mang lại hiệu suất tổng quát hóa tốt hơn với các chế độ dữ liệu và thực hành huấn luyện hiện tại.

IV. Conclusion & Future Works:

Bài báo cung cấp một cái nhìn tổng quan có cấu trúc và điểm chuẩn toàn diện cho các mô hình nền tảng EEG, chỉ ra những hạn chế hiện tại như việc các mô hình lớn hơn không tự động cải thiện hiệu suất và sự cạnh tranh của các mô hình chuyên biệt. Hướng nghiên cứu tiếp theo sẽ tập trung vào việc giải quyết những vấn đề này, khám phá các chiến lược tiền huấn luyện và kiến trúc mới để cải thiện khả năng tổng quát hóa và chuyển giao của các mô hình nền tảng EEG, đặc biệt trong các kịch bản thực tế với dữ liệu hạn chế.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu các phương pháp tiền huấn luyện mới kết hợp thông tin về cấu trúc không gian của tín hiệu EEG để cải thiện khả năng tổng quát hóa của mô hình.
Phát triển các chiến lược tinh chỉnh (fine-tuning) hiệu quả hơn cho các mô hình nền tảng EEG trong môi trường dữ liệu ít (few-shot learning) bằng cách sử dụng các kỹ thuật học chuyển giao tiên tiến.
Thiết kế các kiến trúc mô hình nền tảng EEG có khả năng tận dụng tốt hơn quy mô dữ liệu và tham số để đạt được hiệu suất tổng quát hóa vượt trội trên nhiều tác vụ BCI.

2. Patent:

Một hệ thống điều khiển ứng dụng trên điện thoại thông minh bằng tín hiệu não, sử dụng mô hình học sâu đã được tùy chỉnh để nhận diện ý định hoặc lệnh từ dữ liệu điện não đồ của người dùng.
Một phương pháp cá nhân hóa nhanh chóng trải nghiệm người dùng trên thiết bị di động, cho phép điều khiển các chức năng của điện thoại thông qua suy nghĩ chỉ với một lượng nhỏ dữ liệu não ban đầu của từng người dùng.
Một thiết bị phụ kiện điện thoại có khả năng thu thập và phân tích tín hiệu điện não đồ để đánh giá trạng thái tinh thần của người dùng (ví dụ: mức độ tập trung, căng thẳng) và tự động điều chỉnh cài đặt điện thoại như âm lượng, độ sáng màn hình hoặc chế độ thông báo.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2601.17883
ArXiv Abstract	https://arxiv.org/abs/2601.17883
PDF Download	https://arxiv.org/pdf/2601.17883.pdf
Github Repository	https://github.com/Dingkun0817/EEG-FM-Benchmark

14. Discovering Hidden Gems in Model Repositories (16 votes)

Tác giả: Jonathan Kahana, Eliahu Horwitz, Yedid Hoshen

Xuất bản lúc: 2026-01-29

Tag: Model Discovery, Multi-Armed Bandit, Model Evaluation, Sequential Halving

I. Main Problem:

Mặc dù có hàng triệu mô hình được tinh chỉnh trong các kho lưu trữ công cộng (như Hugging Face), phần lớn người dùng lại tập trung vào một số ít các mô hình nền tảng phổ biến. Điều này đặt ra câu hỏi liệu sự tập trung này có phản ánh việc lựa chọn hiệu quả hay liệu các mô hình vượt trội hơn đang bị bỏ qua một cách có hệ thống. Việc phát hiện các mô hình tốt nhất cho từng tác vụ trở thành một nút thắt cổ chai quan trọng, đặc biệt khi tài liệu về mô hình thường không đầy đủ hoặc thiếu hoàn toàn, khiến việc đánh giá toàn diện hàng triệu mô hình là bất khả thi về mặt tính toán.

II. Main Idea:

Bài nghiên cứu đề xuất một phương pháp để khám phá các "viên ngọc ẩn" – những mô hình ít phổ biến nhưng có hiệu suất vượt trội. Để giải quyết vấn đề đánh giá không khả thi, các tác giả đã hình thức hóa việc khám phá mô hình thành một bài toán Multi-Armed Bandit (MAB). Cụ thể, họ tăng tốc thuật toán tìm kiếm Sequential Halving (SH) bằng cách áp dụng hai cải tiến chính: 1) Sử dụng các tập hợp truy vấn được chia sẻ (correlated sampling) giữa các mô hình để giảm phương sai trong quá trình đánh giá, và 2) Áp dụng lịch trình loại bỏ tích cực (aggressive elimination schedule) trong các vòng đầu tiên để nhanh chóng loại bỏ các mô hình kém chất lượng, từ đó phân bổ ngân sách tính toán hiệu quả hơn cho các ứng viên tiềm năng hàng đầu.

III. Main Results:

Sự tồn tại của "viên ngọc ẩn": Nghiên cứu đã xác nhận sự phổ biến của các "viên ngọc ẩn" – những mô hình được tinh chỉnh không phổ biến nhưng vượt trội đáng kể so với các mô hình phổ biến. Ví dụ, trong họ Llama-3.1-8B, các mô hình ít được tải xuống đã cải thiện hiệu suất toán học từ 83.2% lên 96.0% mà không làm tăng chi phí suy luận.
Khám phá hiệu quả: Phương pháp đề xuất có thể tìm thấy các mô hình hàng đầu chỉ với 50 truy vấn cho mỗi ứng viên, tăng tốc quá trình khám phá lên hơn 50 lần so với các phương pháp đánh giá toàn diện, đồng thời cải thiện hiệu suất trung bình lên hơn 4.5%.
Ưu việt của phương pháp: Phương pháp "Ours" (của tác giả) đã đạt được thứ hạng trung bình và độ chính xác cao hơn đáng kể so với các thuật toán MAB khác (bao gồm cả Sequential Halving tiêu chuẩn) trong việc tìm kiếm các mô hình tốt nhất trên nhiều cây mô hình (Qwen, Mistral, Llama).

IV. Conclusion & Future Works:

Nghiên cứu kết luận rằng việc tập trung sử dụng các mô hình phổ biến trong các kho lưu trữ không phản ánh hiệu suất tốt nhất, mà nhiều mô hình vượt trội đang bị bỏ qua. Phương pháp khám phá mô hình dựa trên Multi-Armed Bandit và Sequential Halving cải tiến của họ cung cấp một giải pháp hiệu quả để xác định các mô hình chất lượng cao này. Về hướng nghiên cứu tiếp theo, bài báo gợi ý rằng phương pháp của họ có thể dễ dàng được tích hợp với các phương pháp lựa chọn truy vấn hiện có, mặc dù đây không phải là trọng tâm của nghiên cứu này.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu cách tích hợp các tín hiệu phi hiệu suất (ví dụ: kích thước mô hình, tốc độ suy luận) vào thuật toán MAB để tối ưu hóa việc khám phá mô hình cho các ràng buộc tài nguyên cụ thể.
Phát triển một phương pháp học tăng cường để tự động điều chỉnh lịch trình loại bỏ và phân bổ truy vấn trong Sequential Halving, dựa trên đặc điểm phân phối hiệu suất của mô hình trong kho lưu trữ.
Khám phá việc sử dụng học meta để đào tạo một mô hình xếp hạng sơ bộ các ứng viên tiềm năng, từ đó giảm đáng kể không gian tìm kiếm ban đầu cho thuật toán MAB.

2. Patent:

Một hệ thống ứng dụng di động tự động xác định và đề xuất mô hình trí tuệ nhân tạo hiệu quả nhất cho các tác vụ của người dùng (ví dụ: nhận diện giọng nói, xử lý ảnh) từ một thư viện mô hình có sẵn trên đám mây, bằng cách sử dụng một quy trình đánh giá mẫu thông minh.
Phương pháp tối ưu hóa việc lựa chọn mô hình cho các chức năng AI trên điện thoại thông minh, bao gồm việc thử nghiệm các mô hình với các bộ dữ liệu nhỏ, được chọn lọc cẩn thận để đánh giá hiệu suất và loại bỏ nhanh chóng các lựa chọn kém hiệu quả.
Một tính năng trên điện thoại thông minh cho phép người dùng khám phá các phiên bản cải tiến của các mô hình AI ngôn ngữ hoặc hình ảnh, được tinh chỉnh cho hiệu suất tốt hơn hoặc tiết kiệm pin, mà không cần phải tải xuống và kiểm tra từng mô hình một cách thủ công.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2601.22157
ArXiv Abstract	https://arxiv.org/abs/2601.22157
PDF Download	https://arxiv.org/pdf/2601.22157.pdf
Github Repository	N/A

15. Language-based Trial and Error Falls Behind in the Era of Experience (15 votes)

Tác giả: Haoyu Wang, Guozheng Ma, Shugang Cui, Yilun Kong, Haotian Luo, Li Shen, Mengya Gao, Yichao Wu, Xiaogang Wang, Dacheng Tao

Xuất bản lúc: 2026-01-29

Tag: LLM Agent, Reinforcement Learning, Exploration-Exploitation

I. Main Problem:

Các Mô hình Ngôn ngữ Lớn (LLM) gặp khó khăn trong các môi trường phi ngôn ngữ, chưa từng được thấy (như các tác vụ biểu tượng hoặc không gian) do chi phí thăm dò (trial-and-error) quá cao. Việc học các tác vụ này đòi hỏi thử nghiệm mở rộng, điều này không bền vững về mặt tính toán đối với các LLM nặng tham số, hoạt động trong không gian ngữ nghĩa chiều cao. Vấn đề cốt lõi là sự không phù hợp giữa phân phối tiền huấn luyện và kiểm tra, cũng như sự kém hiệu quả của LLM trong việc thăm dò không gian hành động và tạo token.

II. Main Idea:

Bài nghiên cứu đề xuất SCOUT (Sub-Scale Collaboration On Unseen Tasks), một khuôn khổ mới tách rời quá trình thăm dò khỏi khai thác. SCOUT sử dụng các "scouts" nhẹ (ví dụ: các mạng MLP nhỏ) để thăm dò động lực môi trường với tốc độ và quy mô vượt trội so với LLM. Các quỹ đạo được thu thập từ scouts sau đó được sử dụng để khởi tạo LLM thông qua điều chỉnh tinh Supervised Fine-Tuning (SFT), tiếp theo là học tăng cường đa lượt (multi-turn Reinforcement Learning - RL) để kích hoạt kiến thức thế giới tiềm ẩn của LLM.

III. Main Results:

SCOUT cho phép mô hình Qwen2.5-3B-Instruct đạt điểm trung bình 0.86, vượt trội đáng kể so với các mô hình độc quyền như Gemini-2.5-Pro (0.60), đồng thời tiết kiệm khoảng 60% lượng tiêu thụ GPU. Phương pháp này đã được thử nghiệm thành công trên nhiều tác vụ biểu tượng và động như FrozenLake, Sokoban, Sudoku, 2048 và Rubiks’ Cube.

IV. Conclusion & Future Works:

SCOUT giải quyết nút thắt về hiệu quả thăm dò vốn có trong các tác nhân LLM thuần túy bằng cách tận dụng các mạng thần kinh nhỏ làm "scouts" để thăm dò nhanh và tạo quỹ đạo. Nó kích hoạt hiệu quả tiềm năng của LLM cho các tác vụ out-of-distribution (OOD) chưa từng thấy, cho phép LLM mô hình hóa môi trường mới một cách hiệu quả.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu các kiến trúc "scout" tiên tiến hơn, bao gồm các mô hình có khả năng học chuyển đổi để thích ứng với nhiều loại tác vụ hơn.
Phát triển một cơ chế tự động để điều chỉnh trọng số giữa dữ liệu từ "scout" và kiến thức tiên nghiệm của LLM trong quá trình huấn luyện.
Áp dụng khung SCOUT vào các môi trường tương tác thực tế phức tạp hơn, chẳng hạn như điều khiển robot hoặc mô phỏng sinh học.

2. Patent:

Một hệ thống trợ lý thông minh trên điện thoại di động sử dụng các thuật toán học tăng cường nhỏ gọn để nhanh chóng nắm bắt các quy tắc của một trò chơi hoặc ứng dụng mới, sau đó hướng dẫn người dùng qua một giao diện ngôn ngữ tự nhiên.
Một phương pháp tối ưu hóa hiệu suất thiết bị điện tử cầm tay bằng cách triển khai một mô hình thăm dò nhẹ để khám phá các cài đặt hệ thống tối ưu trong các kịch bản sử dụng khác nhau, từ đó cải thiện thời lượng pin và trải nghiệm người dùng.
Một giao diện lập trình trên điện thoại thông minh cho phép người dùng tạo các macro tự động hóa bằng cách sử dụng một mô hình thăm dò nhỏ để thực hiện các thử nghiệm hành động trong ứng dụng, sau đó đề xuất các chuỗi lệnh hiệu quả cho người dùng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2601.21754
ArXiv Abstract	https://arxiv.org/abs/2601.21754
PDF Download	https://arxiv.org/pdf/2601.21754.pdf
Github Repository	https://github.com/Harry-mic/SCOUT

16. LoL: Longer than Longer, Scaling Video Generation to Hour (15 votes)

Tác giả: Justin Cui, Jie Wu, Ming Li, Tao Yang, Xiaojie Li, Rui Wang, Andrew Bai, Yuanhao Ban, Cho-Jui Hsieh

Xuất bản lúc: 2026-01-23

Tag: Video Generation, Autoregressive Models, Diffusion Models, Attention Mechanism, Rotary Position Embedding

I. Main Problem:

Các mô hình tạo video dài dạng autoregressive hiện tại gặp phải vấn đề tích lũy lỗi và mất tính nhất quán dài hạn. Cụ thể, chúng mắc phải một lỗi nghiêm trọng gọi là "sink-collapse," trong đó nội dung được tạo lặp đi lặp lại quay về các khung "sink" ban đầu, dẫn đến cảnh bị đặt lại đột ngột và các mẫu chuyển động lặp đi lặp lại. Vấn đề này bắt nguồn từ sự xung đột cố hữu giữa cấu trúc chu kỳ của Rotary Position Embedding (RoPE) và cơ chế multi-head attention phổ biến trong các mô hình tạo sinh hiện tại.

II. Main Idea:

Bài báo đề xuất một phương pháp nhẹ, không cần huấn luyện (training-free) để giải quyết sink-collapse bằng cách giới thiệu kỹ thuật "multi-head RoPE jitter." Phương pháp này phá vỡ sự đồng nhất hóa (homogenization) của attention giữa các head và làm giảm sự sụp đổ ở tầm nhìn dài thông qua việc dịch chuyển các tần số cơ bản của các attention head khác nhau xung quanh tần số cơ bản gốc của RoPE. Để mở rộng khả năng tạo video liên tục không giới hạn độ dài, phương pháp này còn tích hợp việc tạo RoPE và lấy mẫu nhiễu dạng streaming, cùng với bộ giải mã VAE 3D causal trong quá trình suy luận.

III. Main Results:

Các thử nghiệm rộng rãi cho thấy phương pháp này đã thành công làm giảm hiện tượng sink-collapse trong khi vẫn duy trì chất lượng tạo video. Đây là lần đầu tiên chứng minh được khả năng tạo video thời gian thực, streaming và không giới hạn độ dài với ít suy giảm chất lượng. Bài báo đã tạo ra các video liên tục dài tới 12 giờ, được ghi nhận là một trong những kết quả dài nhất được công khai trong lĩnh vực tạo video streaming.

IV. Conclusion & Future Works:

Bài nghiên cứu đã phân tích một cách có hệ thống hiện tượng sink-collapse trong các mô hình tạo video siêu dài tiên tiến và tiết lộ nguyên nhân gốc rễ của nó. Bằng cách đề xuất một phương pháp đơn giản nhưng hiệu quả cao để giảm thiểu sink-collapse thông qua việc dịch chuyển tần số của các head attention khác nhau, kết hợp với việc triển khai RoPE streaming và lấy mẫu nhiễu, bài báo đã mở rộng khả năng tạo video thời gian thực đến vô hạn mà không bị sụp đổ chất lượng.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu tác động của các chiến lược dịch chuyển tần số RoPE khác nhau lên các kiến trúc Transformer trong các tác vụ tạo sinh dữ liệu phi video.
Khám phá việc tích hợp kỹ thuật RoPE jitter vào các mô hình ngôn ngữ lớn để cải thiện tính nhất quán dài hạn trong các cuộc hội thoại kéo dài.
Phân tích sự tương tác giữa multi-head RoPE jitter và các phương pháp nén dữ liệu để tối ưu hóa hiệu suất và chi phí tính toán cho việc tạo video siêu dài.

2. Patent:

Một hệ thống trên điện thoại thông minh cho phép người dùng tạo ra các đoạn video hoạt hình hoặc kể chuyện liên tục, không gián đoạn dựa trên mô tả văn bản.
Một ứng dụng trên điện thoại di động tự động sửa lỗi các cảnh bị lặp lại hoặc gián đoạn đột ngột trong video do AI tạo ra, mang lại trải nghiệm xem mượt mà hơn.
Một tính năng trên điện thoại tích hợp AI để tạo hình nền động hoặc các ảnh GIF vô hạn cho người dùng, với khả năng duy trì sự thay đổi cảnh tự nhiên và không lặp lại.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2601.16914
ArXiv Abstract	https://arxiv.org/abs/2601.16914
PDF Download	https://arxiv.org/pdf/2601.16914.pdf
Github Repository	N/A

17. Latent Adversarial Regularization for Offline Preference Optimization (11 votes)

Tác giả: Enyi Jiang, Yibo Jacky Zhang, Yinglun Xu, Andreas Haupt, Nancy Amato, Sanmi Koyejo

Xuất bản lúc: 2026-01-29

Tag: GAN, Latent Space, Preference Optimization, Large Language Models, Offline Learning

I. Main Problem:

Việc học từ phản hồi của con người (human feedback) để điều chỉnh các mô hình ngôn ngữ lớn (LLMs) thường dựa vào tối ưu hóa ưu tiên (preference optimization), vốn bị hạn chế bởi các phương pháp điều chuẩn (regularization) hoạt động ở không gian token. Vấn đề cốt lõi là sự tương đồng ở không gian token không đồng nghĩa với sự tương đồng về mặt ngữ nghĩa hoặc hành vi. Điều này khiến các bộ điều chuẩn token-level hiện có trở thành một proxy thô sơ cho sự tương đồng thực tế, dẫn đến khó khăn trong việc cung cấp phản hồi cấu trúc hiệu quả và khả năng dễ bị tổn thương trước sự dịch chuyển phân phối (distributional shift) và nhiễu.

II. Main Idea:

Bài nghiên cứu đề xuất GANPO (Generative Adversarial Network Preference Optimization) để giải quyết vấn đề này bằng cách giới thiệu điều chuẩn không gian tiềm ẩn (latent-space regularization) cho tối ưu hóa ưu tiên. Thay vì điều chuẩn ở không gian token, GANPO phạt sự phân kỳ giữa các biểu diễn nội bộ (internal representations) của mô hình chính sách (policy model) và mô hình tham chiếu (reference model) trong không gian tiềm ẩn. Để vượt qua thách thức về việc các biểu diễn tiềm ẩn không có mật độ xác suất rõ ràng, phương pháp này áp dụng một cách tiếp cận đối kháng (adversarial approach) lấy cảm hứng từ GANs. Cụ thể, nó sử dụng các bộ phân biệt (discriminators) để phân biệt giữa các biểu diễn do mô hình chính sách tạo ra và các biểu diễn từ mô hình tham chiếu. Mục tiêu của GANPO là giảm thiểu sự phân kỳ không gian tiềm ẩn này, và nó được tích hợp như một bộ điều chuẩn vào các mục tiêu tối ưu hóa ưu tiên ngoại tuyến hiện có. Ngoài ra, bài báo giới thiệu một khung biểu diễn tứ giác (quad representation framework) sử dụng hai bộ phân biệt để cùng phân biệt các biểu diễn chất lượng cao và chất lượng thấp, cho phép mô hình chính sách học từ dữ liệu ưu tiên theo cặp và nhận phản hồi cấu trúc dày đặc hơn.

III. Main Results:

Các thí nghiệm trên nhiều kiến trúc mô hình và tác vụ khác nhau đã chứng minh sự cải thiện nhất quán khi GANPO được tích hợp vào các phương pháp tối ưu hóa ưu tiên ngoại tuyến (OPO-style methods), với kết quả được báo cáo trên AlpacaEval-2.0.
GANPO cung cấp phản hồi cấu trúc mạnh mẽ và đáng tin cậy hơn dưới điều kiện dịch chuyển phân phối và nhiễu.
Phương pháp này duy trì hiệu suất cạnh tranh trên các tác vụ downstream với chi phí tính toán bổ sung tối thiểu.
GANPO giúp bảo tồn tốt hơn hình học của không gian biểu diễn nội bộ của mô hình, cải thiện khả năng chống chịu với nhiễu lấy mẫu ngẫu nhiên và dịch chuyển phân phối.

IV. Conclusion & Future Works:

GANPO là phương pháp điều chuẩn không gian tiềm ẩn dựa trên GAN đầu tiên được đề xuất cho việc tối ưu hóa ưu tiên các mô hình ngôn ngữ, cung cấp một bộ điều chuẩn đối kháng hiệu quả và dễ dàng tích hợp. Nó giải quyết những hạn chế của điều chuẩn không gian token bằng cách tận dụng thông tin cấu trúc dày đặc hơn trong các biểu diễn tiềm ẩn, dẫn đến cải thiện sự căn chỉnh ngữ nghĩa và độ bền vững. Hướng nghiên cứu tiếp theo có thể bao gồm việc tối ưu hóa cách chọn dữ liệu để trích xuất biểu diễn tiềm ẩn và mở rộng ứng dụng của GANPO sang các phương pháp tối ưu hóa ưu tiên không ngoại tuyến hoặc các lĩnh vực liên quan khác.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu việc áp dụng GANPO để điều chỉnh các mô hình đa phương thức, nơi biểu diễn tiềm ẩn có thể kết hợp thông tin từ văn bản, hình ảnh và âm thanh để tối ưu hóa phản hồi.
Phân tích độ nhạy của GANPO với các siêu tham số khác nhau và đề xuất một chiến lược tự động điều chỉnh siêu tham số để tối ưu hóa hiệu suất và ổn định.
Phát triển một biến thể của GANPO có khả năng hoạt động hiệu quả với dữ liệu ưu tiên không hoàn chỉnh hoặc nhiễu, bằng cách tích hợp các kỹ thuật xử lý dữ liệu thiếu hoặc không chắc chắn.

2. Patent:

Một hệ thống trợ lý ảo trên điện thoại di động có khả năng tự động điều chỉnh giọng điệu và phong cách giao tiếp để phù hợp với sở thích cá nhân của người dùng, bằng cách học hỏi từ các tương tác trước đó ở cấp độ ý nghĩa sâu sắc.
Một công nghệ gợi ý nội dung thông minh cho ứng dụng truyền thông trên điện thoại, có khả năng lọc và đề xuất nội dung dựa trên sự phù hợp ngữ nghĩa sâu sắc với sở thích ẩn của người dùng, thay vì chỉ dựa vào từ khóa bề mặt.
Một phương pháp tối ưu hóa hiệu suất bàn phím ảo trên điện thoại thông minh, cho phép nó dự đoán từ hoặc cụm từ tiếp theo không chỉ dựa trên xác suất tần suất mà còn dựa trên sự liên kết ngữ nghĩa trong bối cảnh cuộc trò chuyện của người dùng, cải thiện tốc độ và độ chính xác gõ phím.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2601.22083
ArXiv Abstract	https://arxiv.org/abs/2601.22083
PDF Download	https://arxiv.org/pdf/2601.22083.pdf
Github Repository	https://github.com/enyijiang/GANPO

18. Scalable Power Sampling: Unlocking Efficient, Training-Free Reasoning for LLMs via Distribution Sharpening (11 votes)

Tác giả: Xiaotong Ji, Rasul Tutunov, Matthieu Zimmer, Haitham Bou Ammar

Xuất bản lúc: 2026-01-29

Tag: Power Sampling, LLMs, Reasoning, Distribution Sharpening, Training-Free

I. Main Problem:

Vấn đề cốt lõi mà bài báo đề cập là phương pháp huấn luyện tăng cường (RL post-training) hiện đang là cách tiếp cận phổ biến để cải thiện hiệu suất suy luận của các mô hình ngôn ngữ lớn (LLMs), nhưng nó có chi phí tính toán cao. Cụ thể, việc lấy mẫu từ phân phối lũy thừa (power distribution) bằng phương pháp Markov chain Monte Carlo (MCMC) có thể đạt được hiệu suất tương đương RL mà không cần phần thưởng bên ngoài, nhưng chi phí tính toán cao của MCMC khiến phương pháp này không thực tế để áp dụng rộng rãi.

II. Main Idea:

Bài báo đề xuất một giải pháp thay thế dựa trên lý thuyết, loại bỏ nhu cầu về MCMC lặp. Họ đưa ra một công thức mới cho thấy phân phối lũy thừa toàn cục có thể được xấp xỉ bằng một phân phối nhiệt độ thấp được điều chỉnh ở cấp độ token, trong đó yếu tố điều chỉnh (scaling factor) nắm bắt chất lượng quỹ đạo tương lai. Dựa trên hiểu biết này, họ giới thiệu một thuật toán không cần huấn luyện và không cần bộ kiểm định (verifier-free) để làm sắc nét phân phối sinh của mô hình cơ sở một cách tự hồi quy (autoregressively). Yếu tố điều chỉnh này có thể được ước tính thông qua lấy mẫu Monte Carlo tự hồi quy.

III. Main Results:

Trên các tác vụ toán học, hỏi đáp (QA) và mã hóa (code) với bốn LLMs, phương pháp được đề xuất:

Đạt hoặc vượt trội so với hiệu suất của GRPO (một phương pháp dựa trên RL) trong thiết lập một lần (one-shot), mà không cần bất kỳ phần thưởng bên ngoài hoặc cập nhật tham số nào.
Giảm độ trễ suy luận hơn 10 lần so với các phương pháp lấy mẫu dựa trên MCMC.

IV. Conclusion & Future Works:

Bài báo kết luận rằng những cải tiến về khả năng suy luận của LLMs do huấn luyện tăng cường mang lại chủ yếu đến từ việc làm sắc nét phân phối, chứ không phải do việc học các khả năng mới. Phương pháp được đề xuất cung cấp một cách hiệu quả, không cần huấn luyện và không cần bộ kiểm định để làm sắc nét phân phối cơ sở của LLM, đạt được hiệu suất suy luận mạnh mẽ với chi phí tính toán thấp hơn đáng kể so với các phương pháp MCMC truyền thống.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu sâu hơn về sự sai lệch và các phương pháp hiệu chỉnh bias hiệu quả hơn cho việc ước tính yếu tố điều chỉnh Monte Carlo.
Ứng dụng phương pháp lấy mẫu phân phối được làm sắc nét này cho các tác vụ tạo sinh văn bản sáng tạo hoặc các tác vụ ít liên quan đến suy luận khác.
Phân tích lý thuyết về giới hạn của xấp xỉ phân phối lũy thừa bằng phân phối nhiệt độ thấp được điều chỉnh trong các trường hợp phức tạp hơn.

2. Patent:

Một hệ thống tăng cường chất lượng phản hồi của trợ lý ảo trên điện thoại thông minh bằng cách điều chỉnh xác suất từ tiếp theo dựa trên dự đoán chất lượng của chuỗi phản hồi trong tương lai, giúp tạo ra các câu trả lời chính xác và tự nhiên hơn mà không cần nhiều tài nguyên xử lý.
Một công cụ tạo văn bản thích ứng cho thiết bị di động sử dụng cơ chế chấm điểm từ ngữ đơn giản, có khả năng nhận biết tương lai để tạo ra văn bản chất lượng cao, mạch lạc với yêu cầu xử lý thấp hơn.
Một phương pháp tối ưu hóa gợi ý nội dung trên điện thoại thông minh bằng cách dự đoán khả năng người dùng hoàn thành một chuỗi hành động, từ đó làm sắc nét xác suất của các gợi ý liên quan mà không cần huấn luyện mở rộng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2601.21590
ArXiv Abstract	https://arxiv.org/abs/2601.21590
PDF Download	https://arxiv.org/pdf/2601.21590.pdf
Github Repository	N/A

19. Llama-3.1-FoundationAI-SecurityLLM-Reasoning-8B Technical Report (11 votes)

Tác giả: Zhuoran Yang, Ed Li, Jianliang He, Aman Priyanshu, Baturay Saglam, Paul Kassianik, Sajana Weerawardhena, Anu Vellore, Blaine Nelson, Neusha Javidnia, Arthur Goldblatt, Fraser Burch, Avi Zohary, Assaf Eisenman, Mahdi Sabbaghi, Supriti Vijay, Rahim Dharssi, Dhruv Kedia, Kojin Oshiba, Yaron Singer, Amin Karbasi

Xuất bản lúc: 2026-01-28

Tag: LLM, Reasoning, Cybersecurity, Supervised Fine-tuning, Reinforcement Learning

I. Main Problem:

Mặc dù các mô hình ngôn ngữ lớn (LLM) đã đạt được tiến bộ đáng kể trong khả năng suy luận, việc ứng dụng các phương pháp suy luận gốc (native reasoning) vào lĩnh vực an ninh mạng vẫn còn hạn chế. Các mô hình hiện có thường gặp khó khăn với các quy trình phân tích phức tạp, nhiều bước quan trọng trong an ninh mạng, yêu cầu một chuỗi suy luận minh bạch và có thể kiểm chứng, thay vì chỉ đưa ra câu trả lời trực tiếp.

II. Main Idea:

Bài nghiên cứu giới thiệu Foundation-Sec-8B-Reasoning, một mô hình suy luận gốc mã nguồn mở, 8 tỷ tham số, được thiết kế đặc biệt cho an ninh mạng. Mô hình này được xây dựng dựa trên Foundation-Sec-8B (phát triển từ Llama-3.1-8B-Base) và được huấn luyện qua quy trình hai giai đoạn: tinh chỉnh có giám sát (SFT) và học tăng cường từ phần thưởng có thể kiểm chứng (RLVR). Quá trình huấn luyện sử dụng dữ liệu suy luận độc quyền bao gồm phân tích an ninh mạng, tuân thủ hướng dẫn và suy luận toán học, với mục tiêu hình thành khả năng "suy nghĩ trước khi nói" bằng cách tạo ra các dấu vết suy luận rõ ràng.

III. Main Results:

Foundation-Sec-8B-Reasoning thể hiện hiệu suất cạnh tranh với các mô hình lớn hơn đáng kể (ví dụ: Llama-3.3-70B-Instruct) trên 10 điểm chuẩn an ninh mạng, đồng thời duy trì khả năng tổng quát mạnh mẽ trên 10 điểm chuẩn đa năng. Mô hình cho thấy khả năng tổng quát hóa hiệu quả trên các tác vụ suy luận đa bước và hiệu suất an toàn mạnh mẽ khi được triển khai với các lời nhắc hệ thống và hàng rào bảo vệ phù hợp. Đây là mô hình suy luận gốc mã nguồn mở đầu tiên chuyên biệt cho an ninh mạng.

IV. Conclusion & Future Works:

Công trình này chứng minh rằng các mô hình suy luận chuyên biệt theo miền có thể đạt được hiệu suất mạnh mẽ trên các tác vụ chuyên biệt đồng thời duy trì khả năng tổng quát rộng lớn. Nó đại diện cho một bước tiến quan trọng trong việc tích hợp trí tuệ nhân tạo mạnh mẽ và minh bạch hơn vào các quy trình công việc quan trọng về bảo mật. Hướng tiếp theo là tiếp tục phát triển và tích hợp AI có khả năng suy luận minh bạch vào các hệ thống an ninh mạng để hỗ trợ ra quyết định trong các tình huống rủi ro cao.

V. Brainstorming Space:

1. Publish Papers:

Đánh giá Foundation-Sec-8B-Reasoning trên các kịch bản tấn công mạng phức tạp và mới nổi, bao gồm cả các cuộc tấn công dựa trên AI và lỗ hổng zero-day.
Nghiên cứu ảnh hưởng của các phương pháp tạo dữ liệu tổng hợp khác nhau đối với chất lượng suy luận và khả năng tổng quát hóa của mô hình an ninh mạng.
Phát triển một khung thử nghiệm mới để đo lường tính minh bạch và khả năng kiểm chứng của các chuỗi suy luận do LLM an ninh mạng tạo ra.

2. Patent:

Một hệ thống bảo mật tích hợp trên điện thoại di động sử dụng trí tuệ nhân tạo để phân tích và giải thích các mối đe dọa mạng một cách dễ hiểu, cung cấp cho người dùng lý do cụ thể cho mỗi cảnh báo bảo mật.
Một ứng dụng trên điện thoại di động giúp người dùng quản lý quyền riêng tư bằng cách sử dụng một trợ lý trí tuệ nhân tạo để giải thích chi tiết cách các ứng dụng thu thập và sử dụng dữ liệu, cũng như đề xuất các biện pháp bảo vệ.
Một công nghệ trên điện thoại thông minh cho phép mô hình trí tuệ nhân tạo giám sát hoạt động của các ứng dụng trong nền, phát hiện hành vi bất thường và cảnh báo người dùng với một giải thích từng bước về lý do hoạt động đó bị coi là có hại.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2601.21051
ArXiv Abstract	https://arxiv.org/abs/2601.21051
PDF Download	https://arxiv.org/pdf/2601.21051.pdf
Github Repository	N/A

20. Self-Improving Pretraining: using post-trained models to pretrain better models (10 votes)

Tác giả: Ellen Xiaoqing Tan, Shehzaad Dhuliawala, Jing Xu, Ping Yu, Sainbayar Sukhbaatar, Jason Weston, Olga Golovneva

Xuất bản lúc: 2026-01-29

Tag: Pretraining, Reinforcement Learning, Large Language Models, Self-Improvement, Alignment

I. Main Problem:

Vấn đề cốt lõi mà bài báo đề cập là việc đảm bảo tính an toàn, độ chính xác và chất lượng tổng thể trong các thế hệ của mô hình ngôn ngữ lớn (LLM), đặc biệt khi các mô hình này ngày càng được triển khai trong các ứng dụng thực tế. Các phương pháp hiện hành, dù tốn kém và phức tạp (thu thập dữ liệu được tuyển chọn kỹ lưỡng và các giai đoạn tinh chỉnh/căn chỉnh), vẫn không thể đảm bảo sửa chữa các mẫu hành vi được học trong quá trình tiền huấn luyện. Điều này dẫn đến các vấn đề như phản hồi độc hại, thiên vị, không an toàn hoặc ảo giác trở nên ăn sâu vào mô hình, và việc chỉ xử lý những vấn đề này ở giai đoạn hậu huấn luyện thường là quá muộn.

II. Main Idea:

Bài báo giới thiệu một phương pháp tiền huấn luyện mới gọi là "Tiền huấn luyện Tự cải thiện" (Self-Improving Pretraining). Phương pháp này tái định hình tiền huấn luyện như một nhiệm vụ học chuỗi thay vì dự đoán token tiếp theo. Nó sử dụng một mô hình đã được hậu huấn luyện mạnh mẽ (mô hình giáo viên) làm "người viết lại" (rewriter) và "người đánh giá" (judge) để cải thiện quá trình tiền huấn luyện một mô hình mới (mô hình chính sách). Cụ thể, trong quá trình tiền huấn luyện, phương pháp này truyền tải tài liệu và sử dụng học tăng cường (RL) để cải thiện K token tiếp theo được tạo ra ở mỗi bước. Mô hình hậu huấn luyện mạnh mẽ sẽ đánh giá các thế hệ ứng cử viên – bao gồm các "rollout" của mô hình chính sách, hậu tố gốc và một hậu tố đã được viết lại – về chất lượng, an toàn và độ chính xác. Ban đầu, quá trình này dựa vào hậu tố gốc và hậu tố đã viết lại; khi mô hình cải thiện, RL sẽ thưởng cho các rollout chất lượng cao. Mục tiêu là xây dựng các mô hình chất lượng cao hơn, an toàn hơn và chính xác hơn ngay từ đầu.

III. Main Results:

Phương pháp được đề xuất mang lại những cải tiến đáng kể so với tiền huấn luyện tiêu chuẩn:

Trong thiết lập tiền huấn luyện liên tục (continual pretraining):
- Cải thiện tỷ lệ thắng về chất lượng tạo sinh lên tới 86.3% so với mô hình cơ sở tiền huấn luyện tiêu chuẩn.
- Cải thiện tương đối 36.2% về độ chính xác (factuality).
- Cải thiện tương đối 18.5% về độ an toàn.
Trong thiết lập tiền huấn luyện từ đầu (from-scratch pretraining):
- Cải thiện tuyệt đối 31.1% về tỷ lệ thắng chất lượng tạo sinh.
- Cải thiện tương đối 14.4% về độ an toàn. Các thí nghiệm sử dụng mô hình Llama2 1.4 tỷ tham số làm mô hình chính sách và Llama3.1-8B-Instruct hoặc GPT-OSS-120B làm mô hình đánh giá/viết lại.

IV. Conclusion & Future Works:

Phương pháp Tiền huấn luyện Tự cải thiện giải quyết các thách thức quan trọng về an toàn, độ chính xác và chất lượng trong LLM bằng cách tích hợp các cơ chế học tăng cường và sử dụng mô hình hậu huấn luyện để hướng dẫn quá trình tiền huấn luyện. Điều này cho phép xây dựng các mô hình chất lượng cao hơn, an toàn hơn và chính xác hơn ngay từ giai đoạn đầu, giải quyết các vấn đề hành vi cốt lõi mà các phương pháp hậu huấn luyện khó khắc phục. Bài báo cũng đề cập đến việc phân tích chi tiết và nghiên cứu cắt bỏ các chiến lược tối ưu hóa đóng góp vào những cải thiện này.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu tác động của các chiến lược phân phối phần thưởng động trong học tăng cường để tối ưu hóa sự cân bằng giữa dữ liệu tiền huấn luyện gốc và các thế hệ tự cải thiện.
Khám phá việc áp dụng phương pháp tiền huấn luyện tự cải thiện cho các ngôn ngữ khác nhau ngoài tiếng Anh để đánh giá khả năng tổng quát hóa và hiệu quả đa ngôn ngữ.
Phân tích chi tiết vai trò của các mô hình "người viết lại" và "người đánh giá" có kích thước và kiến trúc khác nhau để xác định cấu hình tối ưu cho hiệu suất tự cải thiện.

2. Patent:

Một hệ thống trên điện thoại thông minh giúp ứng dụng nhắn tin cải thiện khả năng tạo ra tin nhắn an toàn và phù hợp bằng cách tự động đánh giá và điều chỉnh cách chương trình tạo văn bản học hỏi.
Một phương pháp được tích hợp vào các thiết bị di động để liên tục nâng cao chất lượng phản hồi từ trợ lý ảo, bằng cách sử dụng một chương trình ngôn ngữ mạnh để hướng dẫn và chỉnh sửa quá trình học của chương trình ngôn ngữ chính.
Một công nghệ cho phép các ứng dụng tạo nội dung trên điện thoại di động như viết email hoặc bài đăng mạng xã hội, tự động sửa lỗi hoặc cải thiện cấu trúc câu trước khi gửi, dựa trên việc chương trình học cách viết tốt hơn thông qua phản hồi tự động.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2601.21343
ArXiv Abstract	https://arxiv.org/abs/2601.21343
PDF Download	https://arxiv.org/pdf/2601.21343.pdf
Github Repository	N/A

📰 Summary of Papers​

1. Idea2Story: An Automated Pipeline for Transforming Research Concepts into Complete Scientific Narratives (149 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

2. Everything in Its Place: Benchmarking Spatial Intelligence of Text-to-Image Models (104 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

3. Scaling Embeddings Outperforms Scaling Experts in Language Models (92 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

4. DynamicVLA: A Vision-Language-Action Model for Dynamic Object Manipulation (60 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

5. MMFineReason: Closing the Multimodal Reasoning Gap via Open Data-Centric Methods (47 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

6. OCRVerse: Towards Holistic OCR in End-to-End Vision-Language Models (43 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

7. ConceptMoE: Adaptive Token-to-Concept Compression for Implicit Compute Allocation (33 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

8. Qwen3-ASR Technical Report (22 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

9. Exploring Reasoning Reward Model for Agents (20 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

📰 Summary of Papers

1. Idea2Story: An Automated Pipeline for Transforming Research Concepts into Complete Scientific Narratives (149 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

2. Everything in Its Place: Benchmarking Spatial Intelligence of Text-to-Image Models (104 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

3. Scaling Embeddings Outperforms Scaling Experts in Language Models (92 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

4. DynamicVLA: A Vision-Language-Action Model for Dynamic Object Manipulation (60 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

5. MMFineReason: Closing the Multimodal Reasoning Gap via Open Data-Centric Methods (47 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

6. OCRVerse: Towards Holistic OCR in End-to-End Vision-Language Models (43 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

7. ConceptMoE: Adaptive Token-to-Concept Compression for Implicit Compute Allocation (33 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

8. Qwen3-ASR Technical Report (22 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

9. Exploring Reasoning Reward Model for Agents (20 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers: