🤗 Daily Hugging Face Paper Digest - 2026-03-04

Báo cáo được tạo tự động vào lúc 2026-03-07 13:20:23 bằng mô hình gemini-2.5-flash.

📰 Summary of Papers

1. Utonia: Toward One Encoder for All Point Clouds (139 votes)

Tác giả: Yujia Zhang, Xiaoyang Wu, Yunhan Yang, Xianzhe Fan, Han Li, Yuechen Zhang, Zehao Huang, Naiyan Wang, Hengshuang Zhao

Xuất bản lúc: 2026-03-03

Tag: Point Clouds, Self-supervised Learning, Transformers, Multi-domain Learning, 3D Vision, Foundation Models, Robotics, Autonomous Driving, AR/VR

I. Main Problem:

Vấn đề chính mà công trình này giải quyết là sự phân mảnh miền dữ liệu trong học biểu diễn đám mây điểm tự giám sát (point cloud self-supervised learning). Các mô hình hiện có gặp khó khăn trong việc khái quát hóa trên các miền dữ liệu 3D đa dạng do sự khác biệt lớn về quy mô, mật độ, mẫu lấy mẫu, các phương thức phụ trợ (như màu sắc/pháp tuyến), và các quy ước tọa độ (ví dụ: căn chỉnh trọng lực). Điều này cản trở việc phát triển một bộ mã hóa đám mây điểm duy nhất, phổ quát có thể hưởng lợi từ và được chia sẻ trên tất cả các loại dữ liệu 3D thưa thớt. Cụ thể, các phương pháp trước đây như Sonata và Concerto thường được huấn luyện trong một miền duy nhất và khả năng chuyển giao kém giữa các miền.

II. Main Idea:

Utonia đề xuất một bộ mã hóa transformer đám mây điểm tự giám sát thống nhất, được huấn luyện trên nhiều miền đa dạng bao gồm viễn thám, LiDAR ngoài trời, chuỗi RGB-D trong nhà, mô hình CAD tập trung vào đối tượng và đám mây điểm được nâng cấp từ video chỉ có RGB. Để giải quyết các sự không khớp giữa các miền, Utonia giới thiệu ba thiết kế đơn giản, không phụ thuộc vào miền: Causal Modality Blinding (che ngẫu nhiên các phương thức như màu sắc/pháp tuyến để tăng cường khả năng chịu lỗi khi thiếu dữ liệu), Perceptual Granularity Rescale (điều chỉnh các đơn vị không gian để hài hòa các thang đo nhận thức hiệu quả và coi trọng lực là một tiền đề phụ thuộc vào độ chi tiết), và RoPE-enhanced Positional Hints (sử dụng Rotary Positional Embedding trên các tọa độ đã được căn chỉnh độ chi tiết để cung cấp mã hóa hình học có thể chuyển giao, ít nhạy cảm hơn với sự thay đổi mật độ và các thay đổi do lấy mẫu). Utonia sử dụng công thức tiền huấn luyện chưng cất tự giám sát theo kiểu thầy-trò dựa trên Point Transformer V3.

III. Main Results:

Utonia đạt được hiệu suất cạnh tranh và thường vượt trội so với các phương pháp SOTA trước đây (Concerto) trên nhiều tác vụ nhận thức 3D khác nhau:

Phân đoạn ngữ nghĩa trong nhà: Đạt mIoU SOTA (ví dụ: 81.1% trên ScanNet và 78.1% trên S3DIS với fine-tuning đầy đủ).
Phân đoạn ngữ nghĩa ngoài trời: Đạt mIoU tốt nhất trong các phương pháp so sánh dưới linear và decoder probing, và hơi vượt qua Concerto dưới full fine-tuning.
Phân loại đối tượng và phân đoạn bộ phận: Thể hiện khả năng chuyển giao linear-probing mạnh mẽ trên phân loại đối tượng (ví dụ: ScanObjectNN(H) mAcc 88.3%) và cải thiện trên phân đoạn bộ phận dưới full fine-tuning (ví dụ: PartNetE mIoU 62.7%).
Khả năng chịu lỗi khi thiếu phương thức: Utonia thể hiện khả năng thích ứng vượt trội trong các tình huống thiếu màu sắc hoặc pháp tuyến, ổn định hơn đáng kể so với Concerto.
Lợi ích xuyên miền: Cho thấy các hành vi nổi bật khi dữ liệu quy mô đối tượng, trong nhà và ngoài trời được hưởng lợi dưới một bộ mã hóa chung.
Ứng dụng hạ nguồn: Cải thiện thao tác robot (tỷ lệ thành công 82.1% trên benchmark GraspVLA) và mang lại lợi ích trong lý luận không gian (ví dụ: ScanRefer Acc@0.5 54.0%, Scan2Cap CIDEr@0.5 83.9%).
Kết quả định tính: Các đặc trưng của Utonia mượt mà, mạch lạc và có ý nghĩa ngữ nghĩa trên các hình học, mật độ và mẫu khác nhau, cung cấp các tín hiệu nhận biết hình học hữu ích cho các cảnh thao tác lộn xộn và cấu trúc bộ phận mạch lạc cho phân đoạn đối tượng trong thế giới mở.

IV. Conclusion & Future Works:

Utonia là một bước đi đầu tiên hướng tới một bộ mã hóa đám mây điểm “tất cả vì một, một vì tất cả”, được học từ và chia sẻ cho các đám mây điểm đa dạng. Bằng cách xác định và giải quyết các sự không khớp giữa các miền với các thiết kế tối thiểu, không phụ thuộc vào miền, Utonia cho phép tiền huấn luyện chung và tạo ra một không gian biểu diễn chung với các lợi ích nổi bật xuyên miền. Ngoài nhận thức 3D, các đặc trưng của Utonia còn được chuyển giao cho lý luận không gian trong các backend VLM và cải thiện thao tác robot khi điều kiện các chính sách VLA. Hướng nghiên cứu tương lai sẽ tập trung vào ba khía cạnh:

Giao diện tác vụ dựa trên truy vấn: Phát triển các thanh ghi toàn cục (global registers) để tổng hợp ngữ nghĩa cấp độ đối tượng và các bộ giải mã dựa trên truy vấn có điều kiện theo tác vụ (task-conditioned query-based decoders) để truy xuất và tổng hợp thông tin chi tiết, có cấu trúc từ các point tokens, nhằm giải quyết hạn chế của một lớp đọc tuyến tính duy nhất cho các tác vụ đa dạng.
Nhận thức không gian 4D: Hướng tới tiền huấn luyện không-thời gian (spatiotemporal pretraining objectives) nhằm tăng cường tính nhất quán giữa các khung hình, tích hợp tương tác nhận biết chuyển động và các tín hiệu thời gian để nắm bắt cả cấu trúc bền vững và sự thay đổi theo thời gian trong các thiết lập động, tập trung vào chuỗi.
Kiến trúc xương sống thế hệ tiếp theo có khả năng mở rộng: Khám phá các kiến trúc xương sống hiệu quả hơn về bộ nhớ và thân thiện với hệ thống, giữ được khả năng biểu đạt hình học trong khi tối ưu hóa cho phần cứng hiện đại và dễ triển khai ở quy mô lớn, nhằm khắc phục các nút thắt về hiệu quả của các phương pháp sparse convolution hiện tại.

V. Brainstorming Space:

1. Publish Papers:

Phát triển các giao diện tác vụ dựa trên truy vấn (Query-based task interfaces) cho các mô hình đám mây điểm, bao gồm việc thiết kế các "global registers" để tổng hợp ngữ nghĩa cấp độ đối tượng và các bộ giải mã dựa trên truy vấn (query-based decoders) có điều kiện theo tác vụ để truy xuất thông tin chi tiết, có cấu trúc từ các "point tokens".
Nghiên cứu nhận thức không gian 4D (4D spatial cognition) bằng cách phát triển các mục tiêu tiền huấn luyện không-thời gian (spatiotemporal pretraining objectives) nhằm tăng cường tính nhất quán giữa các khung hình, tích hợp tương tác nhận biết chuyển động và các tín hiệu thời gian để nắm bắt cấu trúc bền vững và sự thay đổi theo thời gian.
Thiết kế một kiến trúc xương sống thế hệ tiếp theo có khả năng mở rộng (scalable next-generation backbone) cho đám mây điểm, tập trung vào việc cải thiện hiệu quả bộ nhớ và khả năng triển khai, sử dụng các mẫu tính toán phù hợp hơn với phần cứng hiện đại và dễ tối ưu hóa/triển khai ở quy mô lớn.

2. Patent:

Cải thiện quét và nhận diện vật thể 3D trên điện thoại: Một hệ thống trên điện thoại di động cho phép người dùng quét các vật thể trong môi trường xung quanh (ví dụ: đồ nội thất, đồ chơi) bằng camera của điện thoại. Hệ thống này có khả năng tự động điều chỉnh để "hiểu" kích thước và hình dạng của vật thể một cách chính xác, bất kể vật thể đó nhỏ và ở gần hay lớn và ở xa. Nó cũng có thể nhận diện vật thể ngay cả khi một phần của vật thể bị che khuất hoặc khi điều kiện ánh sáng không lý tưởng, giúp người dùng dễ dàng tạo mô hình 3D hoặc tìm kiếm thông tin về vật thể đó mà không cần nhiều thao tác thủ công.
Hệ thống điều khiển robot hoặc thiết bị AR/VR thông qua cử chỉ 3D: Một ứng dụng trên điện thoại di động sử dụng camera để theo dõi chuyển động 3D của tay hoặc cơ thể người dùng trong không gian thực. Thay vì chỉ nhận diện cử chỉ 2D đơn giản, hệ thống này có thể "hiểu" các cử chỉ 3D phức tạp hơn, ví dụ như nắm, kéo, xoay một vật thể ảo hoặc điều khiển cánh tay robot từ xa. Ứng dụng này được thiết kế để hoạt động hiệu quả trong nhiều môi trường khác nhau (trong nhà, ngoài trời) và duy trì độ chính xác cao ngay cả khi có sự thay đổi về ánh sáng hoặc góc nhìn, mang lại trải nghiệm tương tác trực quan và mạnh mẽ.
Tối ưu hóa trải nghiệm thực tế tăng cường (AR) đa dạng: Một công nghệ AR trên điện thoại di động có khả năng hiển thị các vật thể ảo một cách chân thực và ổn định trong nhiều môi trường khác nhau, từ không gian trong nhà với nhiều đồ vật đến cảnh quan ngoài trời rộng lớn. Hệ thống này có thể tự động thích ứng với các điều kiện ánh sáng và cấu trúc không gian thay đổi, cho phép người dùng đặt các vật thể ảo (ví dụ: nội thất ảo, nhân vật game) vào môi trường thực một cách chính xác. Công nghệ này đảm bảo các vật thể ảo duy trì vị trí và tỷ lệ phù hợp dù người dùng di chuyển hay quay điện thoại, tạo ra trải nghiệm AR liền mạch và đáng tin cậy.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2603.03283
ArXiv Abstract	https://arxiv.org/abs/2603.03283
PDF Download	https://arxiv.org/pdf/2603.03283.pdf
Github Repository	https://github.com/Pointcept/Utonia

2. UniG2U-Bench: Do Unified Models Advance Multimodal Understanding? (79 votes)

Tác giả: Zimo Wen, Boxiu Li, Wanbo Zhang, Junxiang Lei, Xiaoyu Chen, Yijia Fan, Qi Zhang, Yujiang Wang, Lili Qiu, Bo Li, Ziwei Liu, Caihua Shan, Yifan Yang, Yifei Shen

Xuất bản lúc: 2026-03-03

Tag: Unified Multimodal Models, Multimodal Understanding, Generation-to-Understanding, Benchmarks, Vision-Language Models, Generative AI, Multimodal AI, Spatial Intelligence, Reasoning

I. Main Problem:

Việc liệu và khi nào khả năng tạo sinh (generation) trong các mô hình đa phương thức hợp nhất (unified multimodal models) cải thiện khả năng hiểu (understanding) vẫn chưa rõ ràng. Các bộ benchmark hiện có thiếu sự khám phá có hệ thống về các tác vụ cụ thể mà ở đó tạo sinh hỗ trợ việc hiểu. Hầu hết các benchmark hiện tại chỉ tập trung vào nhận diện, phân loại hoặc suy luận bằng lời nói trên các đầu vào hình ảnh tĩnh, thường có thể được giải quyết mà không cần thông tin hình ảnh phi ngôn ngữ. Ngoài ra, việc đánh giá các mô hình này còn gặp thách thức do các biến gây nhiễu như quy mô mô hình và sự khác biệt về kiến trúc xương sống.

II. Main Idea:

Để giải quyết vấn đề này, các tác giả giới thiệu UniG2U-Bench, một bộ benchmark toàn diện phân loại đánh giá Generation-to-Understanding (G2U) thành 7 chế độ và 30 tác vụ con, yêu cầu các mức độ biến đổi hình ảnh ngầm hoặc rõ ràng khác nhau. UniG2U được thiết kế để cô lập khả năng G2U bằng cách so sánh chặt chẽ các mô hình hợp nhất với các mô hình Vision-Language Models (VLM) cơ sở thuần túy phân biệt của chúng dưới các giao thức suy luận phù hợp. Nghiên cứu đánh giá hơn 30 mô hình dưới hai chế độ suy luận: Trực tiếp (Direct) và Tạo-rồi-Trả lời (Generate-then-Answer - GtA). UniG2U cũng giới thiệu hai chỉ số mới, Reasoning-Alignment (RA) và Answer-Alignment (AL), để định lượng chất lượng của hình ảnh trung gian được tạo ra trong giai đoạn GtA. Các mô hình hợp nhất được phân loại thành ba nhóm: End-to-end, Decoupled và Agentic.

III. Main Results:

Nghiên cứu trên hơn 30 mô hình đã đưa ra ba phát hiện cốt lõi:

Các mô hình hợp nhất thường hoạt động kém hơn các Vision-Language Models (VLM) cơ sở của chúng, và suy luận Generate-then-Answer (GtA) thường làm giảm hiệu suất so với suy luận trực tiếp.
Những cải tiến nhất quán xuất hiện trong các tác vụ con liên quan đến trí tuệ không gian (spatial intelligence), ảo ảnh thị giác (visual illusions) hoặc suy luận đa vòng (multi-round reasoning). Trong các tình huống này, khả năng nhận thức không gian và hình dạng được tăng cường, cũng như các trạng thái hình ảnh trung gian đa bước, tỏ ra có lợi.
Các tác vụ có cấu trúc suy luận tương tự và các mô hình chia sẻ kiến trúc thể hiện hành vi tương quan, cho thấy sự kết nối giữa tạo sinh và hiểu gây ra các sai lệch cảm ứng nhất quán theo lớp trên các tác vụ, dữ liệu tiền huấn luyện và kiến trúc mô hình. UniG2U là bộ benchmark lớn nhất cho các mô hình hợp nhất cho đến nay, với 3.000 mẫu, 30 tác vụ con và bao phủ hơn 30 mô hình.

IV. Conclusion & Future Works:

Những phát hiện này nhấn mạnh sự cần thiết của dữ liệu huấn luyện đa dạng hơn và các mô hình mới để khai thác tối đa tiềm năng của mô hình đa phương thức hợp nhất. Việc đánh giá vẫn là một nút thắt quan trọng để hiểu khi nào sự hợp nhất mang lại những cải tiến khả năng thực sự.

V. Brainstorming Space:

1. Publish Papers:

Nâng cao hiệu quả của quy trình Generate-then-Answer (GtA) trong các mô hình đa phương thức hợp nhất thông qua cơ chế kiểm soát chất lượng hình ảnh trung gian: Nghiên cứu này sẽ tập trung vào việc phát triển các phương pháp để đảm bảo độ chính xác và tính hữu ích của hình ảnh được tạo ra, giảm thiểu sự suy giảm hiệu suất do lỗi thị giác.
Khám phá các kiến trúc và chiến lược huấn luyện mới cho mô hình đa phương thức hợp nhất nhằm tối ưu hóa khả năng Generation-to-Understanding (G2U) trong các tác vụ trí tuệ không gian và suy luận đa bước: Nghiên cứu sẽ tập trung vào việc thiết kế các mô hình có thể tạo ra và sử dụng hiệu quả các biểu diễn hình ảnh trung gian để cải thiện khả năng hiểu sâu sắc hơn.
Phân tích định lượng các sai lệch cảm ứng (inductive biases) trong các mô hình đa phương thức hợp nhất: Nghiên cứu sẽ điều tra cách dữ liệu tiền huấn luyện và kiến trúc mô hình ảnh hưởng đến sự tương tác giữa khả năng tạo sinh và khả năng hiểu, từ đó đề xuất các hướng dẫn thiết kế mô hình để tối đa hóa hiệu suất G2U.

2. Patent:

Một ứng dụng di động hỗ trợ giải toán hình học và vật lý: Người dùng chụp ảnh bài toán hoặc biểu đồ trên điện thoại. Ứng dụng sử dụng AI để phân tích hình ảnh, tự động vẽ thêm các đường phụ trợ hoặc mô phỏng các quá trình vật lý (ví dụ: quỹ đạo chuyển động, đường đi của ánh sáng) trên chính hình ảnh đó. Sau đó, ứng dụng cung cấp lời giải chi tiết từng bước, kết hợp hình ảnh minh họa được tạo ra và giải thích bằng văn bản. Điều này giúp người dùng dễ dàng hình dung và hiểu sâu sắc hơn các khái niệm phức tạp.
Hệ thống trợ lý giải đố hình ảnh thông minh trên điện thoại: Một ứng dụng trò chơi hoặc học tập trên di động giúp người dùng giải các câu đố hình ảnh phức tạp (như xếp hình jigsaw, mê cung, câu đố trượt). Ứng dụng sử dụng AI để dự đoán và hiển thị trực quan các bước tiếp theo hoặc trạng thái trung gian tối ưu của câu đố. Người dùng có thể tương tác với các gợi ý hình ảnh này để xác nhận hoặc khám phá các giải pháp, nâng cao khả năng giải quyết vấn đề và hiểu biết về cấu trúc của câu đố.
Tính năng hỗ trợ định hướng và tập trung chú ý trong ứng dụng camera/bản đồ di động: Khi người dùng hướng camera điện thoại vào một cảnh phức tạp (ví dụ: một bản đồ đường phố đông đúc, một trang hướng dẫn sử dụng dày đặc) hoặc sử dụng ứng dụng bản đồ, hệ thống AI sẽ tự động tạo ra các tín hiệu thị giác (như tô sáng các khu vực liên quan, vẽ mũi tên chỉ dẫn, phóng to các chi tiết quan trọng) để hướng sự chú ý của người dùng đến thông tin cần thiết hoặc chỉ ra đường đi ngắn nhất. Điều này cải thiện khả năng định vị và hiểu thông tin trong môi trường thực tế.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2603.03241
ArXiv Abstract	https://arxiv.org/abs/2603.03241
PDF Download	https://arxiv.org/pdf/2603.03241.pdf
Github Repository	https://github.com/nssmd/UniG2U

3. Beyond Language Modeling: An Exploration of Multimodal Pretraining (69 votes)

Tác giả: Shengbang Tong, David Fan, John Nguyen, Ellis Brown, Gaoyue Zhou, Shengyi Qian, Boyang Zheng, Théophane Vallaeys, Junlin Han, Rob Fergus, Naila Murray, Marjan Ghazvininejad, Mike Lewis, Nicolas Ballas, Amir Bar, Michael Rabbat, Jakob Verbeek, Luke Zettlemoyer, Koustuv Sinha, Yann LeCun, Saining Xie

Xuất bản lúc: 2026-03-03

Tag: Multimodal Pretraining, Foundation Models, Vision-Language Models, Mixture-of-Experts (MoE), Representation Autoencoder (RAE), World Modeling, Scaling Laws, Diffusion Models, Autoregressive Models

I. Main Problem:

Các mô hình nền tảng hiện tại chủ yếu dựa vào pretraining ngôn ngữ, mặc dù có khả năng suy luận đáng kể nhưng bị giới hạn bởi bản chất trừu tượng của văn bản, bỏ lỡ các chi tiết vật lý, hình học và nhân quả của thế giới thực. Dữ liệu văn bản chất lượng cao đang cạn kiệt. Không gian thiết kế cho các mô hình đa phương thức từ đầu vẫn chưa rõ ràng, với nhiều phương pháp hiện tại dựa vào khởi tạo từ các mô hình ngôn ngữ đã được pretrain, làm phức tạp việc rút ra kết luận về quá trình pretraining đa phương thức thực sự. Động lực học cơ bản và mối quan hệ scaling giữa thị giác và ngôn ngữ vẫn chưa được hiểu rõ.

II. Main Idea:

Nghiên cứu này cung cấp sự rõ ràng thực nghiệm thông qua các thí nghiệm pretraining từ đầu được kiểm soát, tập trung vào việc cô lập các yếu tố chi phối pretraining đa phương thức mà không bị nhiễu từ pretraining ngôn ngữ. Các tác giả áp dụng framework Transfusion, sử dụng next-token prediction cho ngôn ngữ và diffusion cho thị giác, để huấn luyện trên dữ liệu đa dạng bao gồm văn bản, video, cặp ảnh-văn bản và video có điều kiện hành động. Nghiên cứu tập trung vào 5 khía cạnh chính: biểu diễn thị giác, tác động của dữ liệu, khả năng mô hình hóa thế giới, thiết kế kiến trúc (đặc biệt là Mixture-of-Experts), và tính chất scaling.

III. Main Results:

Nghiên cứu đưa ra bốn kết quả chính: (i) Representation Autoencoder (RAE) cung cấp một biểu diễn thị giác thống nhất tối ưu, xuất sắc trong cả hiểu và tạo thị giác. (ii) Dữ liệu thị giác và ngôn ngữ bổ sung cho nhau, tạo ra sự hiệp đồng cho các khả năng downstream. (iii) Pretraining đa phương thức thống nhất tự nhiên dẫn đến khả năng mô hình hóa thế giới, với các khả năng này xuất hiện từ quá trình huấn luyện tổng quát. (iv) Kiến trúc Mixture-of-Experts (MoE) cho phép scaling đa phương thức hiệu quả và hài hòa dung lượng giữa các modalities, đồng thời tự nhiên tạo ra sự chuyên môn hóa modality. Phân tích IsoFLOP cho thấy thị giác cần nhiều dữ liệu hơn ngôn ngữ, và MoE giúp hài hòa sự bất đối xứng này. Cụ thể, RAE (SigLIP 2) đạt hiệu suất tốt nhất trên các benchmark tạo ảnh (DPGBench, GenEval) và hiểu ảnh (VQA). Dữ liệu image-text rất cần thiết cho khả năng hiểu và tạo thị giác. Pretraining đa phương thức cải thiện đáng kể hiệu suất VQA so với pretraining chỉ văn bản.

IV. Conclusion & Future Works:

Để thúc đẩy các mô hình nền tảng vượt ra ngoài giới hạn của mô hình ngôn ngữ, cần tích hợp trực tiếp thế giới thị giác như một 'công dân hạng nhất'. Các gợi ý chính bao gồm: thống nhất biểu diễn thị giác bằng RAE, tận dụng dữ liệu đa phương thức đa dạng để tạo ra sự hiệp đồng, khai thác khả năng mô hình hóa thế giới tự nhiên từ pretraining tổng quát, và sử dụng kiến trúc Mixture-of-Experts (MoE) để scaling hiệu quả và hài hòa dung lượng giữa các modality. Hướng nghiên cứu trong tương lai có thể bao gồm việc khám phá học trực tiếp từ pixel thô với quy mô lớn hơn và tối ưu hóa việc kết hợp các nguồn dữ liệu image-text khác nhau.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu sâu hơn về tiềm năng của việc học trực tiếp từ dữ liệu pixel thô trong pretraining đa phương thức: Khám phá cách các mô hình có thể học hiệu quả từ pixel thô mà không cần biểu diễn trung gian, đặc biệt là với tài nguyên tính toán lớn hơn, và phân tích sự đánh đổi giữa hiệu suất và chi phí tính toán so với các phương pháp biểu diễn thị giác nén.
Phân tích định lượng và định tính về sự xuất hiện của khả năng mô hình hóa thế giới từ pretraining đa phương thức tổng quát: Phát triển các metric và kịch bản đánh giá mới để đo lường mức độ và chất lượng của khả năng dự đoán vật lý, lập kế hoạch và tương tác trong thế giới ảo/thực tế, tập trung vào cách các khả năng này tổng quát hóa từ dữ liệu pretraining không chuyên biệt.
Tối ưu hóa chiến lược kết hợp dữ liệu đa phương thức và điều chỉnh kiến trúc MoE để giải quyết sự bất đối xứng scaling: Nghiên cứu các phương pháp phân bổ dữ liệu và tài nguyên tính toán một cách linh hoạt hơn cho các modality khác nhau, đồng thời phát triển các cơ chế định tuyến chuyên gia (expert routing) thông minh hơn trong MoE để đạt được hiệu suất tối ưu trên nhiều tác vụ đa phương thức.

2. Patent:

Hệ thống "Trợ lý Thị giác Tổng hợp" trên điện thoại di động: Một ứng dụng điện thoại sử dụng công nghệ Representation Autoencoder (RAE) để cho phép người dùng chụp ảnh và sau đó thực hiện cả việc phân tích (ví dụ: nhận diện vật thể, mô tả chi tiết bằng văn bản) và tạo ra các biến thể hình ảnh (ví dụ: thay đổi phong cách, thêm hoặc bớt các yếu tố) ngay trên thiết bị, mang lại trải nghiệm tương tác trực quan và sáng tạo hơn.
Công nghệ "Dự đoán Kết quả Hành động" cho camera điện thoại: Một tính năng tích hợp vào ứng dụng camera của điện thoại, cho phép người dùng quay một đoạn video ngắn về môi trường xung quanh và sau đó nhập một hành động mong muốn bằng văn bản (ví dụ: "đặt sách lên bàn"). Hệ thống sẽ tự động tạo ra một đoạn video mô phỏng kết quả của hành động đó trong khung cảnh được quay, giúp người dùng hình dung trước các kịch bản hoặc thử nghiệm các ý tưởng mà không cần thực hiện trong thực tế.
Hệ thống "Quản lý Năng lượng và Hiệu suất AI" thông minh cho thiết bị di động: Một công nghệ cấp hệ điều hành hoặc phần mềm trên điện thoại, sử dụng các nguyên tắc từ kiến trúc Mixture-of-Experts (MoE) để tự động điều chỉnh việc sử dụng tài nguyên xử lý (CPU/GPU/NPU) dựa trên loại và độ phức tạp của dữ liệu đa phương thức mà người dùng đang tương tác. Ví dụ, khi xử lý một yêu cầu hình ảnh phức tạp, hệ thống sẽ tự động phân bổ nhiều tài nguyên hơn cho các "chuyên gia" xử lý thị giác, trong khi các tác vụ văn bản đơn giản sẽ được xử lý bởi các "chuyên gia" ngôn ngữ với ít tài nguyên hơn, tối ưu hóa hiệu suất và kéo dài thời lượng pin.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2603.03276
ArXiv Abstract	https://arxiv.org/abs/2603.03276
PDF Download	https://arxiv.org/pdf/2603.03276.pdf
Github Repository	N/A

4. BeyondSWE: Can Current Code Agent Survive Beyond Single-Repo Bug Fixing? (50 votes)

Tác giả: Guoxin Chen, Fanzhe Meng, Jiale Zhao, Minghao Li, Daixuan Cheng, Huatong Song, Jie Chen, Yuzhi Lin, Hui Chen, Xin Zhao, Ruihua Song, Chang Liu, Cheng Chen, Kai Jia, Ji-Rong Wen

Xuất bản lúc: 2026-03-03

Tag: Code Agents, LLMs, Benchmarking, Software Engineering, Bug Fixing, Search Augmentation

I. Main Problem:

Các bộ tiêu chuẩn hiện tại để đánh giá tác nhân mã (code agents) chủ yếu tập trung vào việc sửa lỗi cục bộ, cụ thể trong một kho lưu trữ duy nhất. Điều này bỏ qua các thách thức quan trọng trong thế giới thực như suy luận đa kho lưu trữ, giải quyết vấn đề chuyên biệt theo miền, di chuyển mã do thay đổi phụ thuộc và tạo toàn bộ kho lưu trữ. Các tác nhân mã hiện tại cũng thiếu khả năng sử dụng kiến thức bên ngoài ngoài cơ sở mã được cung cấp, đặt ra câu hỏi liệu chúng có thể tồn tại ngoài việc sửa lỗi trong một kho lưu trữ duy nhất hay không.

II. Main Idea:

Để giải quyết khoảng trống này, nghiên cứu giới thiệu BeyondSWE, một bộ tiêu chuẩn toàn diện mở rộng các đánh giá hiện có theo hai trục—phạm vi giải quyết (resolution scope) và phạm vi kiến thức (knowledge scope)—sử dụng 500 trường hợp thực tế trên bốn cài đặt riêng biệt: CrossRepo (giải quyết vấn đề đa kho lưu trữ), DomainFix (giải quyết vấn đề chuyên biệt theo miền), DepMigrate (di chuyển mã do thay đổi phụ thuộc) và Doc2Repo (tạo kho lưu trữ từ tài liệu đặc tả). Nghiên cứu cũng phát triển SearchSWE, một khung tác nhân tích hợp khả năng tìm kiếm sâu với khả năng mã hóa để điều tra một cách có hệ thống vai trò của kiến thức bên ngoài. Ngoài ra, nghiên cứu còn trình bày quy trình xây dựng môi trường tự động và giao thức đánh giá nghiêm ngặt để đảm bảo tính xác thực và khả năng tái tạo.

III. Main Results:

Các kết quả thực nghiệm cho thấy một khoảng cách năng lực đáng kể: ngay cả các mô hình tiên tiến cũng chỉ đạt dưới 45% tỷ lệ thành công trên BeyondSWE, và không có mô hình nào hoạt động nhất quán trên tất cả các loại nhiệm vụ. So với tỷ lệ thành công hơn 80% trên SWE-bench Verified, điều này cho thấy những hạn chế cơ bản khi vượt ra ngoài việc sửa lỗi một kho lưu trữ. Cụ thể, DomainFix chứng tỏ là thách thức nhất. Việc tăng cường tìm kiếm (search augmentation) mang lại lợi ích không nhất quán và trong một số trường hợp có thể làm giảm hiệu suất, cho thấy khó khăn trong việc mô phỏng quy trình làm việc của nhà phát triển, nơi tìm kiếm và suy luận đan xen trong các tác vụ mã hóa. Các mô hình chuyên biệt về mã gặp khó khăn hơn trong việc tích hợp tìm kiếm so với các mô hình tổng quát.

IV. Conclusion & Future Works:

Nghiên cứu này cung cấp cả một bộ tiêu chuẩn đánh giá thực tế, đầy thách thức (BeyondSWE) và một khung linh hoạt (SearchSWE) để thúc đẩy nghiên cứu hướng tới các tác nhân mã có năng lực hơn. Kết quả cho thấy có sự ngắt kết nối quan trọng giữa khả năng tìm kiếm và khả năng mã hóa trong các LLM hiện tại. Các tác nhân mã có năng lực hơn đòi hỏi sự tích hợp hiệu quả hơn các khả năng tìm kiếm. Công việc trong tương lai cần tập trung vào việc hiểu rõ hơn lý do tại sao việc tích hợp này lại khó khăn, khi nào tìm kiếm giúp ích và khi nào gây hại, cũng như các thách thức độc đáo của việc nghiên cứu sâu cho các ngữ cảnh mã hóa.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu về các kiến trúc tác nhân mã mới để tích hợp liền mạch khả năng tìm kiếm và suy luận: Phát triển và đánh giá các mô hình tác nhân mã có khả năng kết hợp hiệu quả việc truy xuất thông tin bên ngoài với quá trình tạo mã và gỡ lỗi nội bộ, đặc biệt tập trung vào việc vượt qua những hạn chế về sự không nhất quán của việc tăng cường tìm kiếm.
Khám phá các phương pháp tích hợp kiến thức chuyên sâu theo miền cho tác nhân mã: Nghiên cứu các kỹ thuật để tác nhân mã có thể tiếp thu và áp dụng kiến thức chuyên biệt từ các lĩnh vực khoa học (ví dụ: vật lý lượng tử, tin sinh học) nhằm cải thiện đáng kể hiệu suất trong các tác vụ DomainFix, có thể thông qua các cơ sở tri thức miền hoặc đào tạo chuyên biệt.
Phát triển tác nhân mã cho các tác vụ chuyển đổi phần mềm quy mô lớn và tạo hệ thống hoàn chỉnh: Tập trung vào việc nâng cao khả năng của tác nhân mã để thực hiện các nhiệm vụ như tái cấu trúc toàn bộ cơ sở mã (DepMigrate) và tạo kho lưu trữ chức năng từ các tài liệu đặc tả (Doc2Repo), bao gồm việc xử lý kiến trúc hệ thống, quản lý phụ thuộc và đảm bảo tính nhất quán của mã.
Nâng cao khả năng của tác nhân mã để xử lý suy luận đa kho lưu trữ và giải quyết vấn đề dựa trên tài liệu tham khảo: Nghiên cứu các chiến lược để tác nhân mã có thể phân tích và tổng hợp thông tin từ nhiều kho lưu trữ khác nhau cũng như các tài liệu tham khảo bên ngoài một cách hiệu quả, nhằm cải thiện hiệu suất trong các tình huống yêu cầu kiến thức vượt ra ngoài một cơ sở mã duy nhất.

2. Patent:

Hệ thống trợ lý mã hóa di động với khả năng tìm kiếm ngữ cảnh thông minh: Một ứng dụng hoặc tính năng tích hợp trong môi trường phát triển di động (IDE) trên điện thoại, cho phép nhà phát triển khi gặp lỗi hoặc cần triển khai tính năng mới, hệ thống sẽ tự động tìm kiếm tài liệu liên quan (SDK, diễn đàn, ví dụ) và cung cấp gợi ý mã hoặc sửa lỗi theo ngữ cảnh, ngay cả đối với các phụ thuộc đa dự án, mà không cần người dùng chuyển đổi ngữ cảnh thủ công.
Công cụ di chuyển mã tự động trên thiết bị di động cho ứng dụng: Một ứng dụng di động hoặc tiện ích tích hợp trong quy trình phát triển ứng dụng di động, có khả năng tự động phát hiện các thư viện hoặc API lỗi thời trong dự án ứng dụng di động và đề xuất/áp dụng các thay đổi mã để di chuyển sang các phiên bản mới hơn. Điều này giúp giảm đáng kể công sức của nhà phát triển và đảm bảo ứng dụng luôn được cập nhật.
Nền tảng tạo ứng dụng di động từ mô tả ngôn ngữ tự nhiên: Một ứng dụng di động cho phép người dùng (kể cả những người không phải là nhà phát triển) mô tả các tính năng và hành vi mong muốn của ứng dụng bằng ngôn ngữ tự nhiên. Nền tảng này sau đó sẽ tự động tạo cấu trúc dự án ứng dụng di động cơ bản, mã ban đầu, cùng với định nghĩa API và logic giữ chỗ, sẵn sàng cho việc phát triển tiếp theo. Điều này đơn giản hóa giai đoạn thiết lập ban đầu cho các ý tưởng ứng dụng mới.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2603.03194
ArXiv Abstract	https://arxiv.org/abs/2603.03194
PDF Download	https://arxiv.org/pdf/2603.03194.pdf
Github Repository	https://github.com/AweAI-Team/BeyondSWE

5. Qwen3-Coder-Next Technical Report (37 votes)

Tác giả: Ruisheng Cao, Mouxiang Chen, Jiawei Chen, Zeyu Cui, Yunlong Feng, Binyuan Hui, Yuheng Jing, Kaixin Li, Mingze Li, Junyang Lin, Zeyao Ma, Kashun Shum, Xuwu Wang, Jinxi Wei, Jiaxi Yang, Jiajun Zhang, Lei Zhang, Zongmeng Zhang, Wenting Zhao, Fan Zhou

Xuất bản lúc: 2026-02-28

Tag: LLMs, MoE, Reinforcement Learning, Supervised Fine-tuning, Agentic Training, Code Generation, Code Editing, Tool Use

I. Main Problem:

Qwen3-Coder-Next giải quyết thách thức trong việc phát triển các mô hình ngôn ngữ lớn (LLMs) chuyên biệt cho tác nhân lập trình, đặc biệt là cân bằng giữa khả năng mã hóa mạnh mẽ và hiệu quả suy luận (chỉ kích hoạt 3 tỷ trên tổng số 80 tỷ tham số). Các vấn đề chính bao gồm:

Mở rộng quy mô huấn luyện tác nhân: Các tác nhân lập trình hiện đại cần khả năng suy luận dài hạn, tương tác với môi trường thực thi và phục hồi lỗi đa bước, đòi hỏi lượng lớn tín hiệu huấn luyện có thể kiểm chứng, thực thi và giàu tương tác.
Khả năng khái quát hóa kém của mô hình đối với các định dạng gọi công cụ (tool-calling) và môi trường phát triển (IDE/CLI) đa dạng.
Nguy cơ "đánh lừa phần thưởng" (reward hacking) trong các môi trường huấn luyện tác nhân.

II. Main Idea:

Qwen3-Coder-Next là một mô hình ngôn ngữ mã nguồn mở 80 tỷ tham số, sử dụng kiến trúc Mixture-of-Experts (MoE) lai với chỉ 3 tỷ tham số hoạt động trong quá trình suy luận để đạt được hiệu quả cao. Ý tưởng cốt lõi là mở rộng quy mô huấn luyện tác nhân thông qua:

Hệ thống huấn luyện tác nhân quy mô lớn: Tổng hợp các tác vụ mã hóa có thể kiểm chứng, xây dựng môi trường thực thi tái tạo (dựa trên Docker) và học trực tiếp từ phản hồi môi trường thông qua huấn luyện giữa kỳ (mid-training) và học tăng cường (reinforcement learning).
Quy trình huấn luyện đa giai đoạn:
1. Huấn luyện trước tiếp tục: Chuyển đổi biểu diễn mô hình sang các miền tập trung vào mã hóa và tác nhân, mở rộng độ dài ngữ cảnh lên 262.144 token và hỗ trợ 370 ngôn ngữ lập trình. Sử dụng dữ liệu tự nhiên (GitHub) và dữ liệu tổng hợp (QA một lượt, mã hóa tác nhân đa lượt).
2. Điều chỉnh tinh chỉnh có giám sát (SFT): Căn chỉnh khả năng của mô hình cơ sở với các hướng dẫn phức tạp của con người, sử dụng dữ liệu chất lượng cao đã được xác minh và đánh giá ưu tiên theo cặp.
3. Chuyên môn hóa mô hình chuyên gia: Huấn luyện các mô hình chuyên gia riêng biệt cho các lĩnh vực như Phát triển Web (sử dụng Vision-Language Model để kiểm tra giao diện người dùng), Trải nghiệm người dùng (UX) tập trung vào tuân thủ định dạng gọi công cụ đa dạng, Hỏi đáp một lượt (áp dụng RL cho nhiều loại tác vụ mã hóa) và Kỹ thuật phần mềm (RL đa bước, tương tác môi trường, với hình thành phần thưởng và chặn "reward hacking").

III. Main Results:

Qwen3-Coder-Next đạt hiệu suất cạnh tranh trên các điểm chuẩn tập trung vào tác nhân như SWE-Bench Verified (70.6%), SWE-Bench Multilingual (70.2%), SWE-Bench Pro (74.2%) và Terminal-Bench 2.0 (74.8%), vượt trội hoặc tương đương với nhiều mô hình có lượng tham số hoạt động lớn hơn nhiều lần.
Việc định dạng lại tài liệu web giúp cải thiện đáng kể hiệu suất mô hình trên các điểm chuẩn Evalplus (từ 54.38 lên 63.09), MultiplE (từ 36.02 lên 48.35) và CRUX-Eval (từ 57.13 lên 58.94).
Phân tích mở rộng quy mô cho thấy hiệu suất cải thiện nhất quán khi tăng số lượng token huấn luyện giữa kỳ trong cùng một "scaffold" (khung tác nhân), nhưng khả năng chuyển giao giữa các "scaffold" khác nhau còn hạn chế.
Mô hình đạt độ chính xác trung bình 92.7% trong việc tuân thủ định dạng trên 5 môi trường IDE/CLI được cộng đồng sử dụng, cho thấy khả năng khái quát hóa mạnh mẽ đối với các lược đồ gọi công cụ và mẫu nhắc lệnh đa dạng.
Mở rộng quy mô đa dạng tác vụ RL dẫn đến những cải tiến nhất quán trên nhiều khả năng mã hóa phụ khác nhau (Lập trình cạnh tranh, Mã hóa an toàn, Lập trình SQL, Lập trình đa ngôn ngữ, Phát triển phần mềm, Tạo mã, Mã hóa hướng thư viện, Tuân thủ hướng dẫn, Chỉnh sửa mã).
Phát hiện và giải quyết các hành vi "đánh lừa phần thưởng" (reward hacking) tinh vi của tác nhân trong môi trường huấn luyện GitHub.

IV. Conclusion & Future Works:

Qwen3-Coder-Next là một mô hình ngôn ngữ mã nguồn mở tiên tiến dành cho các tác nhân lập trình, thể hiện khả năng mã hóa mạnh mẽ với hiệu quả suy luận cao nhờ kiến trúc MoE và quy trình huấn luyện tác nhân quy mô lớn. Kết quả nghiên cứu nhấn mạnh rằng việc mở rộng quy mô huấn luyện tác nhân, chứ không chỉ riêng kích thước mô hình, là động lực chính để nâng cao khả năng của các tác nhân lập trình trong thế giới thực. Hướng phát triển trong tương lai bao gồm tiếp tục tinh chỉnh huấn luyện tác nhân, cải thiện khả năng khái quát hóa giữa các khung tác nhân khác nhau và phát triển thêm các mô hình chuyên gia để giải quyết những thách thức cụ thể trong lập trình.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu về các kỹ thuật Học tăng cường (RL) đa ngôn ngữ cho tác vụ lập trình phức tạp, tập trung vào việc khai thác thư viện và giải quyết vấn đề thực tế.
Phân tích chuyên sâu và phương pháp giảm thiểu hành vi "Reward Hacking" trong huấn luyện tác nhân lập trình, đặc biệt là trong các môi trường tương tác với hệ thống kiểm soát phiên bản (Git).
Tối ưu hóa khả năng khái quát hóa của mô hình ngôn ngữ lớn cho các định dạng gọi công cụ (tool-calling) và lược đồ tương tác đa dạng trong môi trường phát triển tích hợp (IDE) và giao diện dòng lệnh (CLI).

2. Patent:

Trợ lý lập trình di động với giao diện điều khiển thông minh: Một ứng dụng trên điện thoại giúp lập trình viên viết mã và sửa lỗi. Nó hiểu ngữ cảnh dự án và gợi ý các đoạn mã hoặc cách sửa lỗi. Khi cần sử dụng một công cụ (ví dụ: truy vấn cơ sở dữ liệu), AI sẽ hiển thị một mẫu điền sẵn cho công cụ đó, giúp người dùng nhập thông số dễ dàng mà không cần nhớ cú pháp phức tạp.
Hệ thống sửa lỗi tự động cho ứng dụng di động: Một ứng dụng di động cho phép nhà phát triển mô tả lỗi (bằng văn bản hoặc ảnh chụp màn hình). Hệ thống sẽ tự động tạo một môi trường kiểm thử nhỏ gọn (có thể chạy trên đám mây), đề xuất các giải pháp sửa lỗi và tự động kiểm tra xem lỗi đã được khắc phục hay chưa, tất cả đều thông qua giao diện di động.
Công cụ tối ưu hóa giao diện người dùng (UI/UX) cho ứng dụng di động: Một công cụ AI tích hợp vào quy trình phát triển ứng dụng di động. Nó có thể tự động cải thiện mã nguồn của ứng dụng (ví dụ: tăng hiệu suất, bảo mật). Sau khi thay đổi, công cụ sẽ sử dụng công nghệ phân tích hình ảnh để kiểm tra xem giao diện người dùng có bị ảnh hưởng tiêu cực về mặt hiển thị hoặc chức năng trên điện thoại hay không, đảm bảo trải nghiệm người dùng luôn mượt mà.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2603.00729
ArXiv Abstract	https://arxiv.org/abs/2603.00729
PDF Download	https://arxiv.org/pdf/2603.00729.pdf
Github Repository	https://github.com/QwenLM/Qwen3-Coder

6. Beyond Length Scaling: Synergizing Breadth and Depth for Generative Reward Models (32 votes)

Tác giả: Qiyuan Zhang, Yufei Wang, Tianhe Wu, Can Xu, Qingfeng Sun, Kai Zheng, Xue Liu, Chen Ma

Xuất bản lúc: 2026-03-02

Tag: GRMs, LLMs, RL, CoT, SFT, RLHF, DPO, Test-time Scaling, Reward Model, Mechanism Alignment

I. Main Problem:

Các Mô hình Phần thưởng Sinh học (GRM) hiện tại chủ yếu mở rộng chiều dài của Chain-of-Thought (CoT) để nâng cao độ tin cậy của việc đánh giá. Tuy nhiên, chúng bỏ qua hiệu quả khác nhau của các cơ chế suy luận riêng biệt: Breadth-CoT (B-COT, bao phủ nguyên tắc đa chiều) và Depth-CoT (D-COT, tính đúng đắn của phán đoán chuyên sâu). Việc không căn chỉnh cơ chế suy luận với nhiệm vụ cụ thể sẽ làm giảm hiệu suất. Điều này gây khó khăn cho các Mô hình Phần thưởng (RM) trong việc cung cấp phản hồi đáng tin cậy cho các truy vấn ngày càng phức tạp từ nhiều kịch bản thực tế.

II. Main Idea:

Giới thiệu Mix-GRM, một framework tích hợp các cơ chế suy luận "rộng" và "sâu" vào một mô hình phần thưởng thống nhất. Mix-GRM chuyển đổi các lý do thô, phi cấu trúc thành B-COT (tổng hợp song song các nguyên tắc riêng biệt để bao quát đa chiều) và D-COT (mở rộng phán đoán bằng cách sử dụng dấu vết suy luận tự giải để đảm bảo tính đúng đắn). Quy trình này bao gồm ba giai đoạn:\n1. Chuẩn hóa lược đồ mô-đun: Phân tích các lý do thô thành các đơn vị "Nguyên tắc-Phán đoán-Phán quyết" có cấu trúc.\n2. Tổng hợp cơ chế: Xây dựng B-COT bằng cách kết hợp các nguyên tắc đa dạng cho các nhiệm vụ ưu tiên chủ quan và D-COT bằng cách mở rộng phán đoán với một dấu vết suy luận cho các nhiệm vụ đúng đắn khách quan.\n3. Căn chỉnh thích ứng cơ chế: Huấn luyện mô hình thông qua Supervised Fine-Tuning (SFT) trên một tập dữ liệu hỗn hợp (B-COT cho ưu tiên, D-COT cho tính đúng đắn) và sau đó tối ưu hóa bằng Reinforcement Learning with Verifiable Rewards (RLVR) sử dụng GRPO để căn chỉnh phán quyết với nhãn thực tế. RLVR hoạt động như một "bộ khuếch đại chuyển đổi," tự động điều chỉnh kiểu suy luận của mô hình để phù hợp với yêu cầu của nhiệm vụ.

III. Main Results:

Hiệu suất SOTA tổng thể: Mix-GRM thiết lập trạng thái nghệ thuật mới trên năm bộ benchmark, vượt qua các RM mã nguồn mở hàng đầu trung bình 8.2%. Sự vượt trội này cũng mở rộng sang các tác vụ hạ nguồn như Offline RL (DPO) và Test-time Scaling (Best-of-N).\n- Vai trò khác biệt của cơ chế suy luận: B-COT mang lại lợi ích cho các nhiệm vụ ưu tiên chủ quan nhưng làm giảm tính đúng đắn khách quan, trong khi D-COT vượt trội về tính đúng đắn nhưng lại kém hiệu quả trong các nhiệm vụ ưu tiên. Điều này khẳng định hiệu quả của cơ chế suy luận phụ thuộc vào nhiệm vụ.\n- RLVR như một bộ khuếch đại chuyển đổi: RLVR tăng cường Mix-GRM lớn hơn (4.3 điểm) so với Base-GRM (3.6 điểm). Phân tích cho thấy RLVR tự động làm sắc nét sự phân bổ cơ chế, tự phát chuyển đổi sang B-COT cho ưu tiên và D-COT cho tính đúng đắn.\n- Hiệu quả dữ liệu: Mix-GRM đạt được hiệu suất tương đương với ít dữ liệu hơn đáng kể (9K mẫu SFT so với 2.5M mẫu của FARE-8B).\n- Phân tích cấu trúc: Phân tích cho thấy Mix-GRM (SFT) đạt được sự kết hợp cân bằng của cả hai cơ chế, và RLVR tiếp tục mở rộng điều này thành một "không gian suy luận" rộng hơn, tối ưu hóa sự phân bổ cơ chế để đạt hiệu quả đánh giá tối đa.

IV. Conclusion & Future Works:

Công trình này chứng minh rằng độ tin cậy của GRM được thúc đẩy bởi sự tích hợp các cơ chế suy luận khác nhau, không chỉ đơn thuần là mở rộng chiều dài. Mix-GRM dịch chuyển trọng tâm phát triển GRM từ việc mở rộng thô bạo sang tối ưu hóa cấu trúc bằng cách phối hợp B-COT cho bao phủ đa chiều và D-COT cho tính đúng đắn của phán đoán.\nCác hạn chế và hướng nghiên cứu tương lai bao gồm:\n- Mức độ chi tiết của không gian suy luận: Sự phân đôi B-COT/D-COT hiện tại là một ánh xạ thô của không gian căn chỉnh đa dạng. Các tác vụ thực tế thường đòi hỏi sự kết hợp phức tạp giữa tính chính xác suy luận và các sắc thái đa chiều. Cần khám phá các phân loại chi tiết hơn để đạt được sự hiệu chỉnh cơ chế-tác vụ chính xác hơn.\n- Độ cứng nhắc trong các tác vụ lai rõ ràng: Sự phân cực tự phát có thể tạo ra độ cứng nhắc khi gặp các kịch bản phức tạp, đa miền. Các ứng dụng trong thế giới thực, như Nghiên cứu Sâu sắc của tác nhân (agentic Deep Research), đòi hỏi sự kết hợp động giữa logic suy luận chặt chẽ và văn phong chất lượng cao. Cần phát triển các benchmark cắt lát lai chuyên dụng để đánh giá sự đánh đổi giữa phong cách và logic, cùng với việc thiết kế các cấu trúc lai tinh vi hơn (ví dụ: cơ chế định tuyến mềm) có thể chuyển đổi linh hoạt giữa các cơ chế suy luận.

V. Brainstorming Space:

1. Publish Papers:

- Phân loại và Hiệu chỉnh Cơ chế Suy luận Đa cấp cho Mô hình Phần thưởng: Nghiên cứu phát triển một hệ thống phân loại chi tiết hơn cho các cơ chế suy luận ngoài Breadth và Depth, bao gồm các cơ chế lai hoặc các trục suy luận khác. Đề xuất các phương pháp để tự động hiệu chỉnh và chuyển đổi giữa các cơ chế này dựa trên đặc điểm cụ thể của nhiệm vụ, vượt qua sự phân đôi cứng nhắc hiện tại.
- Tối ưu hóa các Mô hình Phần thưởng cho các Tác vụ Nghiên cứu Sâu sắc của Tác nhân: Tập trung vào việc thiết kế các cấu trúc CoT lai động và cơ chế định tuyến mềm cho GRM nhằm hỗ trợ các tác vụ yêu cầu sự kết hợp linh hoạt giữa suy luận logic chặt chẽ và khả năng tạo văn bản phong cách, chất lượng cao. Đánh giá hiệu suất trên các benchmark mới được thiết kế đặc biệt cho các kịch bản đa miền và phức tạp.
- Phân tích Ảnh hưởng của Tính Đại diện và Denoising trong Tổng hợp Breadth-CoT: Mở rộng nghiên cứu về cách chọn lọc nguyên tắc tối ưu trong B-COT. Khám phá các thuật toán tinh vi hơn để xác định các nguyên tắc "tần suất cao" hoặc "quan trọng" và giảm nhiễu từ các nguyên tắc "tần suất thấp" để nâng cao hiệu quả của B-COT, đặc biệt trong các tập dữ liệu lớn và đa dạng.

2. Patent:

- Hệ thống Đánh giá Nội dung Động trên Thiết bị Di động: Một ứng dụng di động sử dụng công nghệ Mix-GRM để đánh giá chất lượng phản hồi của chatbot hoặc nội dung do người dùng tạo. Ứng dụng sẽ tự động xác định xem phản hồi yêu cầu đánh giá chủ quan (ví dụ: tính sáng tạo, văn phong) hay khách quan (ví dụ: tính chính xác, logic) và áp dụng cơ chế suy luận (rộng hoặc sâu) phù hợp để đưa ra phản hồi chi tiết và chính xác hơn cho người dùng hoặc nhà phát triển nội dung.
- Công cụ Hỗ trợ Học tập và Giải quyết Vấn đề Thích ứng: Một tính năng trên điện thoại thông minh hoặc máy tính bảng giúp học sinh và sinh viên giải quyết các bài toán hoặc câu hỏi phức tạp. Hệ thống sẽ phân tích loại câu hỏi (toán học, khoa học, văn học, v.v.) và tự động điều chỉnh cách "suy nghĩ" để đưa ra lời giải thích. Đối với các bài toán cần logic chặt chẽ, nó sẽ cung cấp các bước giải chi tiết (Depth-CoT); đối với các câu hỏi mở, nó sẽ đưa ra nhiều quan điểm hoặc khía cạnh khác nhau (Breadth-CoT), giúp người dùng hiểu sâu hơn.
- Bộ lọc và Phân loại Tin tức/Nội dung Tùy chỉnh: Một công nghệ tích hợp vào các ứng dụng đọc tin tức hoặc mạng xã hội trên di động, cho phép người dùng tùy chỉnh cách nội dung được đánh giá và lọc. Người dùng có thể thiết lập ưu tiên cho việc đánh giá "tính đa chiều" của thông tin (ví dụ: nhiều quan điểm, bao quát chủ đề rộng) hoặc "tính chính xác" của thông tin (ví dụ: sự thật, nguồn đáng tin cậy). Hệ thống sẽ sử dụng các cơ chế suy luận (B-COT hoặc D-COT) tương ứng để xếp hạng và hiển thị nội dung phù hợp nhất với sở thích đánh giá của từng người dùng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2603.01571
ArXiv Abstract	https://arxiv.org/abs/2603.01571
PDF Download	https://arxiv.org/pdf/2603.01571.pdf
Github Repository	N/A

7. Kling-MotionControl Technical Report (24 votes)

Tác giả: Kling Team, Jialu Chen, Yikang Ding, Zhixue Fang, Kun Gai, Kang He, Xu He, Jingyun Hua, Mingming Lao, Xiaohan Li, Hui Liu, Jiwen Liu, Xiaoqiang Liu, Fan Shi, Xiaoyu Shi, Peiqin Sun, Songlin Tang, Pengfei Wan, Tiancheng Wen, Zhiyong Wu, Haoxian Zhang, Runze Zhao, Yuanxing Zhang, Yan Zhou

Xuất bản lúc: 2026-03-03

Tag: Generative AI, Diffusion Models, Character Animation, Video Generation, Motion Control, DiT, Identity Preservation, Inference Acceleration

I. Main Problem:

Vấn đề chính mà công trình này nhằm giải quyết là tạo ra các video hoạt hình nhân vật sống động như thật bằng cách chuyển động từ một video điều khiển sang một hình ảnh tham chiếu. Các thách thức bao gồm:

Khó khăn trong việc tạo hoạt hình toàn diện (holistic full-body animation) thay vì chỉ tập trung vào khuôn mặt hoặc cơ thể riêng lẻ.
Cân bằng giữa chất lượng hình ảnh và khả năng kiểm soát trên các mức độ chi tiết chuyển động khác nhau (ví dụ: sự ổn định cấu trúc cơ thể lớn và biểu cảm chi tiết của khuôn mặt, ngón tay).
Hiện tượng "trôi danh tính" (identity drift) khi chuyển động giữa các nhân vật khác nhau về danh tính (ví dụ: người thật sang hoạt hình hoặc động vật).
Mất kiểm soát các thuộc tính hình ảnh khác (như hậu cảnh, chuyển động camera) khi ưu tiên các ràng buộc chuyển động.
Chi phí tính toán cao và hiệu quả suy luận hạn chế, cản trở việc triển khai thực tế.

II. Main Idea:

Kling-MotionControl là một khung DiT (Diffusion Transformer) thống nhất được thiết kế để hoạt hình nhân vật toàn diện một cách mạnh mẽ, chính xác, biểu cảm và hiệu quả. Các ý tưởng chính bao gồm:

Phối hợp chuyển động đa cấp độ thống nhất: Sử dụng chiến lược "chia để trị" với các biểu diễn chuyển động không đồng nhất được điều chỉnh cho các đặc điểm riêng biệt của cơ thể, khuôn mặt và bàn tay, được điều hòa thông qua chiến lược đào tạo đa giai đoạn tiến bộ. Điều này giúp cân bằng sự ổn định cấu trúc lớn với sự biểu cảm chi tiết.
Chuyển giao chuyển động chéo danh tính thích ứng: Áp dụng mô hình học chuyển động không phụ thuộc danh tính để tách rời các mẫu động học khỏi các thuộc tính vật lý của đối tượng điều khiển ở cấp độ hình học, kết hợp với mô-đun mô hình hóa chuyển động ngữ nghĩa để nắm bắt ý định hành động cấp cao.
Bảo toàn danh tính trung thực với hỗ trợ thư viện đối tượng: Cơ chế mã hóa và hợp nhất danh tính chuyên biệt, cùng với cơ chế thư viện đối tượng cho phép người dùng cung cấp thêm tài liệu tham khảo (ảnh/video đa góc nhìn) để xây dựng biểu diễn danh tính mạnh mẽ hơn, đảm bảo tính nhất quán và bảo toàn ngoại hình.
Nhận thức 3D với kiểm soát camera góc nhìn tự do: Biểu diễn chuyển động đa cấp độ được trang bị khả năng nhận thức 3D thông qua giám sát đa góc nhìn quy mô lớn, cho phép căn chỉnh chính xác các hướng nhân vật và kiểm soát camera điện ảnh linh hoạt qua mô tả văn bản.
Khả năng phản hồi văn bản thông minh: Sử dụng mô-đun Prompt Enhancer (PE) để kết nối điều khiển chuyển động với hướng dẫn văn bản, cho phép người dùng linh hoạt thao tác các yếu tố cảnh, phong cách quần áo và chuyển động camera.
Tăng tốc suy luận hiệu quả cao: Khung tăng tốc tiên tiến sử dụng chiến lược lấy mẫu hai nhánh hiệu quả cho mô hình thầy và chiến lược chưng cất đa giai đoạn để giảm đáng kể số lần đánh giá hàm (NFE), đạt được tăng tốc suy luận hơn 10 lần.
Khung quản lý dữ liệu toàn diện: Xây dựng một tập dữ liệu lớn bao gồm nhiều loại nhân vật và động lực chuyển động đa dạng, với quy trình lọc nghiêm ngặt và hệ thống chú thích chi tiết.

III. Main Results:

Đánh giá ưu tiên của con người (sử dụng giao thức GSB) cho thấy Kling-MotionControl mang lại hiệu suất vượt trội so với các giải pháp thương mại hàng đầu (Dreamina, Runway Act-Two) và mã nguồn mở (Wan-Animate). Cụ thể:

Đạt được điểm số cao hơn đáng kể về "Ưu tiên tổng thể" và "Chất lượng hình ảnh".
Thể hiện khả năng vượt trội trong việc tạo ra các chuyển động toàn diện, khả năng tổng quát hóa miền mở và chất lượng, độ mạch lạc của hình ảnh.
Mô hình hóa và tái tạo chính xác các biểu cảm khuôn mặt và cử chỉ tay chi tiết, đồng thời mạnh mẽ trước các chuyển động cơ thể phức tạp, biên độ lớn và nhanh chóng mà không bị biến dạng cấu trúc hoặc trôi ngoại hình.
Duy trì khả năng phản hồi văn bản trung thực cùng với kiểm soát chuyển động chính xác và tạo video chất lượng cao.
Khung tăng tốc đã đạt được hiệu quả tăng tốc suy luận hơn 10 lần.

IV. Conclusion & Future Works:

Kling-MotionControl là một khung DiT thống nhất cung cấp hoạt hình nhân vật toàn diện mạnh mẽ, chính xác và biểu cảm. Bằng cách điều phối các biểu diễn chuyển động không đồng nhất cho cơ thể, khuôn mặt và bàn tay, nó đạt được cả sự ổn định cấu trúc quy mô lớn và sự biểu cảm chi tiết. Công trình cũng giải quyết vấn đề chuyển giao danh tính chéo thông qua học chuyển động thích ứng và duy trì tính nhất quán danh tính đối tượng bằng cách mã hóa và hợp nhất biểu diễn danh tính, được tăng cường bởi thư viện đối tượng. Các chiến lược tăng tốc tiên tiến giúp tăng hiệu quả suy luận hơn 10 lần, cùng với khả năng tăng cường lời nhắc thông minh, nâng cao tiện ích thực tế và khả năng kiểm soát đa điều kiện. Kết quả định tính và đánh giá ưu tiên của con người cho thấy Kling-MotionControl vượt trội so với các giải pháp hiện tại. Về công việc trong tương lai và tác động: Công nghệ này có tiềm năng lớn nhưng cũng đặt ra những lo ngại về đạo đức như vi phạm quyền riêng tư, chiếm đoạt hình ảnh trái phép và nguy cơ tạo ra "deepfake" lừa đảo. Cần có các biện pháp bảo vệ kỹ thuật (lọc nội dung, thủy vân) và phát triển các hướng dẫn đạo đức, khung pháp lý để ngăn chặn việc lạm dụng, đảm bảo nghiên cứu có trách nhiệm.

V. Brainstorming Space:

1. Publish Papers:

Phát triển các phương pháp phát hiện và giảm thiểu deepfake thời gian thực cho hoạt hình nhân vật: Nghiên cứu các kỹ thuật mới để nhận diện và ngăn chặn việc lạm dụng công nghệ hoạt hình nhân vật tiên tiến, đặc biệt là trong bối cảnh deepfake, tập trung vào các giải pháp có thể triển khai hiệu quả trong thời gian thực.
Mở rộng khả năng kiểm soát hoạt hình nhân vật để tương tác phức tạp với môi trường và vật thể 3D: Khám phá việc tích hợp sâu hơn các mô hình vật lý và biểu diễn 3D của môi trường để cho phép các nhân vật không chỉ chuyển động một cách tự nhiên mà còn tương tác một cách chân thực với các vật thể và bối cảnh xung quanh.
Nghiên cứu về học tập chuyển động tự giám sát hoặc bán giám sát để giảm sự phụ thuộc vào dữ liệu chú thích thủ công: Phát triển các phương pháp học máy cho phép mô hình học các biểu diễn chuyển động đa cấp độ mà không cần đến lượng lớn dữ liệu chú thích chi tiết thủ công, giúp giảm chi phí và nâng cao khả năng tổng quát hóa.

2. Patent:

Ứng dụng "Video Avatar Cá Nhân" trên điện thoại di động: Một ứng dụng cho phép người dùng tạo ra một "avatar video" động từ một ảnh tĩnh của họ và một video chuyển động bất kỳ. Công nghệ này sẽ tự động chuyển các chuyển động phức tạp (biểu cảm khuôn mặt, cử chỉ tay, động tác cơ thể) từ video điều khiển sang avatar cá nhân, duy trì chính xác đặc điểm khuôn mặt và ngoại hình, cho phép người dùng nhanh chóng tạo ra các video cá nhân hóa để chia sẻ trên mạng xã hội.
Hệ thống "Đạo diễn Video AI" trên điện thoại di động: Một tính năng tích hợp trong ứng dụng chỉnh sửa video trên điện thoại, cho phép người dùng điều khiển các yếu tố điện ảnh của video hoạt hình (như góc máy, tiêu điểm, hiệu ứng ánh sáng và chuyển động camera) chỉ bằng các lệnh văn bản đơn giản. Ví dụ, người dùng có thể nhập "zoom vào khuôn mặt", "quay toàn cảnh từ trên cao", hoặc "thêm hiệu ứng mưa", và AI sẽ tự động điều chỉnh video một cách chuyên nghiệp.
Công nghệ "Bảo Hộ Danh Tính Ảnh/Video" tự động trên điện thoại: Một hệ thống trên thiết bị di động có khả năng phân tích và học hỏi các đặc điểm nhận dạng độc đáo từ một bộ sưu tập ảnh hoặc video của người dùng. Khi người dùng muốn tạo hoặc chỉnh sửa video, hệ thống sẽ sử dụng thông tin này để đảm bảo rằng mọi hoạt ảnh được tạo ra đều giữ nguyên danh tính gốc của người đó, ngăn chặn sự biến dạng hoặc thay đổi ngoại hình không mong muốn, đồng thời có thể tích hợp tính năng cảnh báo hoặc thủy vân khi phát hiện nguy cơ deepfake.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2603.03160
ArXiv Abstract	https://arxiv.org/abs/2603.03160
PDF Download	https://arxiv.org/pdf/2603.03160.pdf
Github Repository	N/A

8. How Controllable Are Large Language Models? A Unified Evaluation across Behavioral Granularities (22 votes)

Tác giả: Ziwen Xu, Kewei Xu, Haoming Xu, Haiwen Hong, Longtao Huang, Hui Xue, Ningyu Zhang, Yongliang Shen, Guozhou Zheng, Huajun Chen, Shumin Deng

Xuất bản lúc: 2026-03-03

Tag: LLMs, Controllability, Evaluation, Benchmarking, Prompt Engineering, Activation Steering, Behavioral Control, Granularity

I. Main Problem:

Các Mô hình Ngôn ngữ Lớn (LLMs) đang được triển khai ngày càng nhiều trong các lĩnh vực nhạy cảm xã hội, nhưng hành vi khó đoán của chúng, từ ý định không phù hợp đến tính cách không nhất quán, tiềm ẩn nhiều rủi ro. Các phương pháp điều khiển hành vi LLM hiện có thường được đánh giá trên các hành vi hoặc tập tác vụ hạn chế, với định nghĩa khái niệm và định dạng dữ liệu không đồng nhất, gây khó khăn cho việc so sánh. Đặc biệt, các phương pháp này thiếu cấu trúc phân cấp để đánh giá khả năng kiểm soát ở các mức độ chi tiết khác nhau của hành vi.

II. Main Idea:

Nghiên cứu giới thiệu SteerEval, một bộ tiêu chuẩn phân cấp để đánh giá khả năng điều khiển LLM trên ba lĩnh vực: đặc điểm ngôn ngữ, cảm xúc và tính cách. Mỗi lĩnh vực được cấu trúc thành ba cấp độ đặc tả: L1 (cần thể hiện cái gì), L2 (thể hiện như thế nào) và L3 (hiện thực hóa cụ thể ra sao), kết nối ý định hành vi cấp cao với đầu ra văn bản cụ thể. SteerEval được xây dựng bằng cách tự động tổng hợp dữ liệu với các khái niệm phân cấp và xác minh thủ công để đảm bảo chất lượng, cung cấp dữ liệu ưu tiên theo khái niệm và bộ đánh giá phù hợp với khái niệm. Nghiên cứu cũng đánh giá các phương pháp điều khiển hiện đại (dựa trên prompt và dựa trên kích hoạt) để tiết lộ cách kiểm soát suy giảm ở các mức độ chi tiết hơn.

III. Main Results:

Các kết quả chính cho thấy khả năng kiểm soát LLM thường suy giảm ở các cấp độ chi tiết hơn (L2, L3). Cụ thể:

Điều khiển dựa trên prompt vượt trội hơn điều khiển dựa trên kích hoạt nói chung và ổn định trên tất cả các cấp độ chi tiết.
Điều khiển dựa trên kích hoạt rất nhạy cảm với mức độ chi tiết của khái niệm, với hiệu suất giảm mạnh từ L1 xuống L3. Mặc dù có thể ngang bằng hoặc vượt trội hơn prompt ở cấp độ thô nhất (L1), nhưng lại kém xa ở L2 và L3.
Điều khiển dựa trên kích hoạt thể hiện sự phụ thuộc rõ ràng vào miền, trong khi điều khiển dựa trên prompt vẫn mạnh mẽ và ổn định trên các miền.
Đối với prompt-based, một vài ví dụ (few-shot) thường mang lại lợi ích lớn và bão hòa ở L1/L2, nhưng ít hữu ích hơn hoặc thậm chí có hại ở L3.
Đối với activation-based, tăng cường hệ số điều khiển có thể cải thiện điểm khái niệm nhưng có thể làm giảm khả năng tuân thủ hướng dẫn và độ trôi chảy, đặc biệt rõ ràng ở L1.

IV. Conclusion & Future Works:

SteerEval cung cấp một khuôn khổ có nguyên tắc và dễ hiểu để đánh giá hành vi LLM an toàn và có thể kiểm soát, làm nền tảng cho nghiên cứu trong tương lai. Nghiên cứu kết luận rằng hiệu suất điều khiển suy giảm một cách có hệ thống và có thể dự đoán khi các mục tiêu kiểm soát trở nên sâu hơn và được chỉ định chặt chẽ hơn, tiết lộ các giới hạn và chế độ lỗi rõ ràng của các phương pháp hiện có. Các hướng nghiên cứu trong tương lai bao gồm:

Mở rộng SteerEval để bao gồm các khái niệm và miền phức tạp hơn như hội thoại đa lượt, sử dụng công cụ, tương tác ngữ cảnh dài và các miền quan trọng về an toàn.
Nghiên cứu điều khiển đa lượt, kết hợp nhiều khái niệm hoặc điều khiển tuần tự/lặp lại.
Nâng cao khả năng điều chỉnh phương pháp để tối ưu hóa hiệu suất ở các cấp độ L2/L3.
Cải thiện độ tin cậy của đánh giá dựa trên LLM-as-a-judge.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng SteerEval cho các Tương tác Đa phương thức và Ngữ cảnh Dài: Phát triển một phiên bản SteerEval mới để đánh giá khả năng điều khiển LLM trong các kịch bản phức tạp hơn, bao gồm hội thoại đa lượt, tích hợp công cụ, và xử lý ngữ cảnh dài, với các cấp độ chi tiết hành vi được điều chỉnh cho từng loại tương tác.
Phương pháp Điều khiển Tổng hợp và Tuần tự cho LLMs: Nghiên cứu và phát triển các phương pháp điều khiển mới cho phép kết hợp nhiều khái niệm hành vi (ví dụ: vừa vui vẻ vừa súc tích) và áp dụng các tín hiệu điều khiển theo trình tự thời gian để đạt được hành vi mong muốn trong các tác vụ phức tạp.
Nâng cao Khả năng Điều khiển Hạt Mịn của LLMs thông qua Can thiệp Kích hoạt Nâng cao: Thiết kế các kỹ thuật điều khiển dựa trên kích hoạt mới tập trung vào việc duy trì hiệu suất và độ tin cậy ở các cấp độ chi tiết hành vi L2 và L3, giải quyết sự suy giảm hiệu suất hiện tại của các phương pháp này ở các cấp độ hạt mịn.

2. Patent:

Trợ lý Di động Thông minh với Khả năng Điều chỉnh Phong cách Giao tiếp Động: Một hệ thống trên điện thoại di động cho phép trợ lý AI tự động điều chỉnh phong cách giao tiếp (ví dụ: trang trọng, thân mật, nhiệt tình, điềm tĩnh) và mức độ chi tiết của thông tin dựa trên ngữ cảnh hoặc cảm xúc của người dùng (được phát hiện qua giọng nói hoặc biểu cảm khuôn mặt). Ví dụ, nếu người dùng đang căng thẳng, trợ lý sẽ tự động chuyển sang giọng điệu nhẹ nhàng và cung cấp thông tin tóm tắt, súc tích hơn.
Ứng dụng Học tập Di động với Phản hồi và Giải thích Thích ứng: Một ứng dụng học tập trên điện thoại thông minh sử dụng AI để cung cấp phản hồi và giải thích nội dung bài học. Hệ thống có thể điều chỉnh mức độ chi tiết của giải thích (từ khái niệm tổng quát đến ví dụ cụ thể hoặc từ ngữ chính xác) dựa trên mức độ hiểu bài của học sinh hoặc các câu hỏi cụ thể của họ, giúp cá nhân hóa trải nghiệm học tập và nâng cao hiệu quả.
Công cụ Soạn thảo Tin nhắn Di động với Kiểm soát Ngữ điệu và Đặc điểm Ngôn ngữ Hạt mịn: Một tính năng tích hợp trong ứng dụng nhắn tin hoặc email trên điện thoại di động, giúp người dùng soạn thảo tin nhắn bằng cách cho phép họ điều khiển AI để sửa đổi văn bản theo các đặc điểm cụ thể như làm cho câu văn mạch lạc hơn, súc tích hơn, hoặc thể hiện một cá tính nhất định (ví dụ: tự tin, khiêm tốn). Hệ thống này có thể gợi ý các thay đổi ở cấp độ từ ngữ hoặc cấu trúc câu để đạt được hiệu quả giao tiếp mong muốn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2603.02578
ArXiv Abstract	https://arxiv.org/abs/2603.02578
PDF Download	https://arxiv.org/pdf/2603.02578.pdf
Github Repository	N/A

9. PRISM: Pushing the Frontier of Deep Think via Process Reward Model-Guided Inference (18 votes)

Tác giả: Rituraj Sharma, Weiyuan Chen, Noah Provenzano, Tu Vu

Xuất bản lúc: 2026-03-03

Tag: DEEPTHINK, LLMs, Reasoning, Process Reward Model, MCMC, Inference, Self-correction, Population-based methods

I. Main Problem:

Các phương pháp DEEPTHINK hiện tại thường thiếu tín hiệu đúng đắn đáng tin cậy trong quá trình suy luận, dẫn đến tắc nghẽn trong việc cải thiện quần thể ứng viên giải pháp. Điều này khiến cho việc suy luận sâu hơn có thể khuếch đại lỗi, loại bỏ các giải pháp đúng nhưng thiểu số, và mang lại hiệu quả thấp khi tăng cường tài nguyên tính toán. Cụ thể, các chiến lược tinh chỉnh hiện có thường viết lại toàn bộ giải pháp mà không có tín hiệu chất lượng ổn định, khiến lỗi có thể tồn tại, lan truyền hoặc khuếch đại qua các lần lặp. Ngoài ra, các hệ thống DEEPTHINK còn chưa được hiểu rõ về mặt cơ chế, gây khó khăn trong việc chẩn đoán lỗi và tối ưu hóa hiệu suất.

II. Main Idea:

Bài báo giới thiệu PRISM (Process reward model-guided Refinement, Iteration, and Selection Mechanisms), một thuật toán suy luận được hướng dẫn bởi Mô hình Thưởng Quy trình (PRM) sử dụng tín hiệu đúng đắn ở cấp độ bước để định hướng cả việc tinh chỉnh quần thể giải pháp và tổng hợp kết quả cuối cùng. PRISM phân tách các hệ thống DEEPTHINK thành ba giai đoạn: tạo quần thể, cải thiện quần thể và tổng hợp giải pháp, từ đó xác định giai đoạn cải thiện quần thể là nút thắt cổ chai chính. Trong quá trình tinh chỉnh, PRISM coi các giải pháp ứng viên như các hạt trong một không gian năng lượng được xác định bởi điểm PRM, và tái định hình quần thể thông qua việc lấy mẫu lại có hướng dẫn theo điểm số và tinh chỉnh ngẫu nhiên. Điều này tập trung khối lượng xác suất vào các lý luận chất lượng cao hơn trong khi vẫn duy trì sự đa dạng. PRISM cũng sử dụng PRM để tổng hợp giải pháp cuối cùng bằng cách chọn ứng viên có điểm PRM tổng hợp cao nhất, ưu tiên các câu trả lời được hỗ trợ bởi lập luận chất lượng cao hơn là chỉ dựa vào tần suất xuất hiện.

III. Main Results:

PRISM đạt hiệu suất cạnh tranh hoặc vượt trội so với các phương pháp DEEPTHINK hiện có, đạt 90.0% trên AIME25, 75.4% trên HMMT25 và 71.4% trên GPQA Diamond với mô hình gpt-oss-20b, đồng thời ngang bằng hoặc vượt trội hơn gpt-oss-120b. Phân tích cho thấy PRISM tạo ra sự điều chỉnh có hướng rõ ràng trong quá trình tinh chỉnh, vẫn đáng tin cậy ngay cả khi quần thể ban đầu chứa ít ứng viên đúng, và thường nằm trên đường biên Pareto về hiệu suất tính toán-độ chính xác. PRISM khắc phục các chế độ lỗi chính của các phương pháp DEEPTHINK trước đây, thể hiện động lực quần thể ổn định và hướng lên, và cải thiện tính mạnh mẽ trong các chế độ có độ chính xác ban đầu thấp.

IV. Conclusion & Future Works:

Công trình này đã giới thiệu một phân loại chức năng của các hệ thống DEEPTHINK, xác định nút thắt cổ chai trong việc cải thiện quần thể, và đề xuất PRISM – một thuật toán suy luận được hướng dẫn bởi PRM giúp cải thiện hiệu suất, tính mạnh mẽ và khả năng mở rộng. Hy vọng rằng công trình này sẽ thúc đẩy các nghiên cứu có nguyên tắc hơn về suy luận hiệu quả và đáng tin cậy trong thời gian suy luận. Các hướng nghiên cứu trong tương lai có thể bao gồm khám phá các kiến trúc và chiến lược huấn luyện PRM khác nhau, mở rộng PRISM cho các tác vụ suy luận đa phương thức, và nghiên cứu sâu hơn về cơ sở lý thuyết của các chuyển đổi kiểu MCMC được hướng dẫn bởi PRM trong bối cảnh suy luận của LLM.

V. Brainstorming Space:

1. Publish Papers:

Khám phá kiến trúc và chiến lược huấn luyện PRM hiệu quả: Nghiên cứu các kiến trúc Process Reward Model (PRM) khác nhau (ví dụ: mô hình nhỏ chuyên biệt, mô hình lớn hơn) và các phương pháp huấn luyện (ví dụ: tự giám sát, huấn luyện đối kháng) để đánh giá tác động của chúng đến hiệu quả và hiệu suất của PRISM. Mục tiêu là tìm ra cấu hình PRM tối ưu cho các loại tác vụ suy luận khác nhau.
Mở rộng PRISM cho các tác vụ suy luận đa phương thức: Phát triển và thử nghiệm PRISM trong bối cảnh suy luận đa phương thức, nơi các giải pháp có thể liên quan đến hình ảnh, video hoặc âm thanh. Điều này đòi hỏi PRM phải có khả năng đánh giá tính đúng đắn ở cấp độ bước trên nhiều phương thức khác nhau, mở rộng phạm vi ứng dụng của phương pháp này.
Phân tích lý thuyết về cơ chế MCMC được hướng dẫn bởi PRM cho suy luận của LLM: Thực hiện phân tích toán học sâu hơn về các tính chất hội tụ, thời gian trộn (mixing times) và lịch trình nhiệt độ (Tsmc) tối ưu của các chuyển đổi kiểu Markov chain Monte Carlo (MCMC) được hướng dẫn bởi PRM trong ngữ cảnh các quỹ đạo suy luận của Mô hình Ngôn ngữ Lớn (LLM). Nghiên cứu này có thể dẫn đến các thuật toán mạnh mẽ và hiệu quả hơn về mặt lý thuyết.

2. Patent:

Trợ lý bài tập thông minh với sửa lỗi từng bước trên điện thoại di động: Một ứng dụng trên điện thoại di động giúp học sinh giải các bài toán hoặc khoa học phức tạp. Khi học sinh nhập giải pháp từng bước của mình, ứng dụng, sử dụng cơ chế tương tự PRM, sẽ cung cấp phản hồi tức thì về từng bước, làm nổi bật lỗi và đề xuất sửa chữa, thay vì chỉ đưa ra câu trả lời cuối cùng. Điều này giúp học sinh hiểu tại sao các bước của họ sai và học tập hiệu quả hơn.
Công cụ gỡ lỗi mã nguồn cá nhân hóa cho phát triển di động: Một môi trường phát triển tích hợp (IDE) di động hoặc trợ lý mã hóa mà khi nhà phát triển viết mã, không chỉ chỉ ra lỗi cú pháp mà còn phân tích luồng logic của mã bằng cách sử dụng mô hình giống PRM. Nó có thể đề xuất cải tiến từng bước hoặc xác định các lỗi tiềm ẩn trong lý luận đằng sau mã, đặc biệt hữu ích cho các thuật toán phức tạp hoặc logic ứng dụng di động, cung cấp khả năng gỡ lỗi theo ngữ cảnh theo thời gian thực.
Trợ lý cá nhân nâng cao để lập kế hoạch tác vụ phức tạp trên điện thoại di động: Trợ lý AI trên điện thoại di động có thể chia nhỏ các yêu cầu phức tạp của người dùng (ví dụ: "Lên kế hoạch tiệc sinh nhật bất ngờ cho bạn tôi vào tháng tới") thành một loạt các tác vụ con. Sử dụng hệ thống giống PRM, nó sẽ không chỉ tạo ra một kế hoạch mà còn đánh giá tính nhất quán logic và tính khả thi của từng bước trong kế hoạch, cho phép người dùng tinh chỉnh các bước có vẻ không chính xác hoặc không hiệu quả, dẫn đến một chiến lược thực hiện mạnh mẽ và cá nhân hóa hơn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2603.02479
ArXiv Abstract	https://arxiv.org/abs/2603.02479
PDF Download	https://arxiv.org/pdf/2603.02479.pdf
Github Repository	https://github.com/Rituraj003/PRISM

10. Kiwi-Edit: Versatile Video Editing via Instruction and Reference Guidance (17 votes)

Tác giả: Yiqi Lin, Guoqiang Liang, Ziyun Zeng, Zechen Bai, Yanzhe Chen, Mike Zheng Shou

Xuất bản lúc: 2026-03-02

Tag: Video Editing, Instruction-guided, Reference-guided, Diffusion Models, MLLM, Dataset Generation, Benchmarking

I. Main Problem:

Các phương pháp chỉnh sửa video dựa trên hướng dẫn (instruction-based) hiện tại thường gặp khó khăn trong việc kiểm soát hình ảnh chính xác, do ngôn ngữ tự nhiên có giới hạn trong việc mô tả các sắc thái hình ảnh phức tạp. Mặc dù chỉnh sửa dựa trên tham chiếu (reference-guided) là một giải pháp mạnh mẽ, nhưng tiềm năng của nó đang bị cản trở bởi sự khan hiếm dữ liệu đào tạo chất lượng cao.

II. Main Idea:

Để giải quyết vấn đề này, nhóm nghiên cứu đã giới thiệu một quy trình tạo dữ liệu có thể mở rộng, chuyển đổi các cặp chỉnh sửa video hiện có thành các bộ bốn dữ liệu đào tạo chất lượng cao (video nguồn, hướng dẫn chỉnh sửa, ảnh tham chiếu, video đích) bằng cách tận dụng các mô hình tạo ảnh để tạo ra các giàn giáo tham chiếu tổng hợp. Dựa trên quy trình này, họ xây dựng RefVIE, một tập dữ liệu quy mô lớn dành cho các tác vụ chỉnh sửa video theo hướng dẫn và tham chiếu, đồng thời thiết lập RefVIE-Bench để đánh giá toàn diện. Hơn nữa, họ đề xuất kiến trúc chỉnh sửa thống nhất mang tên Kiwi-Edit, kết hợp các truy vấn có thể học được và các đặc trưng hình ảnh tiềm ẩn để hướng dẫn ngữ nghĩa tham chiếu, đạt được hiệu suất vượt trội thông qua một chương trình đào tạo đa giai đoạn tuần tự.

III. Main Results:

Kiwi-Edit đạt được những cải tiến đáng kể trong việc tuân thủ hướng dẫn và độ trung thực của tham chiếu. RefVIE là tập dữ liệu mã nguồn mở quy mô lớn đầu tiên (477K bộ bốn dữ liệu) dành cho chỉnh sửa video theo hướng dẫn và tham chiếu. Kiwi-Edit đạt hiệu suất tiên tiến trên OpenVE-Benchmark với điểm tổng thể là 3.02, vượt trội so với OpenVE-Edit (2.50) và đặc biệt xuất sắc trong tác vụ Thay đổi nền (Background Change) với 3.84 điểm, vượt qua cả Runway Aleph (2.62). Trên RefVIE-Bench, mô hình đạt điểm tổng thể 3.31, nhỉnh hơn Runway Aleph (3.29) và cho thấy hiệu suất cạnh tranh về Nhất quán nhận dạng (Identity Consistency) (3.98) và Tương đồng tham chiếu (Reference Similarity) (3.72). Các nghiên cứu loại bỏ cũng xác nhận hiệu quả của thiết kế điều kiện và chương trình đào tạo nhiều giai đoạn.

IV. Conclusion & Future Works:

Công trình này giải quyết sự khan hiếm dữ liệu chất lượng cao cho chỉnh sửa video dựa trên tham chiếu. Họ giới thiệu một quy trình có thể mở rộng để tổng hợp RefVIE, chuyển đổi các cặp video hiện có thành các bộ bốn dữ liệu hướng dẫn-tham chiếu phong phú, và thiết lập RefVIE-Bench để chuẩn hóa đánh giá trong lĩnh vực này. Tận dụng dữ liệu này, mô hình chỉnh sửa thống nhất Kiwi-Edit đạt hiệu suất tiên tiến, thu hẹp khoảng cách giữa ý định của người dùng và việc tạo video. Cách tiếp cận tập trung vào dữ liệu này tạo nền tảng vững chắc cho việc tạo nội dung video dễ kiểm soát và dễ tiếp cận hơn trong tương lai.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu các phương pháp tổng hợp dữ liệu tham chiếu đa phương thức (ví dụ: hình ảnh, 3D, âm thanh) để mở rộng khả năng chỉnh sửa video theo hướng dẫn-tham chiếu cho các tác vụ phức tạp hơn như tạo hiệu ứng đặc biệt hoặc chỉnh sửa tương tác.
Khám phá các kiến trúc MLLM-DiT hiệu quả hơn, có khả năng xử lý ngữ cảnh dài hơn và duy trì sự nhất quán không gian-thời gian tốt hơn, đồng thời giảm chi phí tính toán cho việc đào tạo và suy luận trên các thiết bị tài nguyên hạn chế.
Phát triển các phương pháp đánh giá tự động tiên tiến hơn cho chỉnh sửa video, vượt ra ngoài các chỉ số hiện tại để bao gồm các khía cạnh như độ chân thực vật lý, sự liền mạch của chuyển động và khả năng tương tác của đối tượng được chỉnh sửa trong ngữ cảnh video.

2. Patent:

Tính năng "Thay đổi đối tượng thông minh" trên điện thoại di động: Cho phép người dùng chụp hoặc chọn một đối tượng trong video, sau đó sử dụng một hình ảnh tham chiếu và câu lệnh văn bản đơn giản để thay thế đối tượng đó bằng một đối tượng khác, đảm bảo đối tượng mới được tích hợp tự nhiên về ánh sáng, bóng đổ và phối cảnh trong video.
Ứng dụng "Biến đổi phong cách video tức thì" cho điện thoại: Cung cấp khả năng áp dụng phong cách hình ảnh từ một ảnh tham chiếu (ví dụ: một bức tranh, một họa tiết) lên toàn bộ nền hoặc một phần cụ thể của video thông qua hướng dẫn bằng lời nói, tạo ra các hiệu ứng nghệ thuật độc đáo một cách nhanh chóng ngay trên thiết bị di động.
Công nghệ "Chỉnh sửa hậu cảnh động" dựa trên tham chiếu cho điện thoại: Cho phép người dùng thay thế hậu cảnh của video bằng một cảnh quan từ ảnh tham chiếu, đồng thời giữ nguyên chủ thể chuyển động một cách mượt mà và tự nhiên, phù hợp với các điều kiện ánh sáng và góc nhìn của hậu cảnh mới.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2603.02175
ArXiv Abstract	https://arxiv.org/abs/2603.02175
PDF Download	https://arxiv.org/pdf/2603.02175.pdf
Github Repository	https://github.com/showlab/Kiwi-Edit

11. Next Embedding Prediction Makes World Models Stronger (16 votes)

Tác giả: George Bredis, Nikita Balagansky, Daniil Gavrilov, Ruslan Rakhimov

Xuất bản lúc: 2026-03-03

Tag: Model-based Reinforcement Learning, World Models, Deep Reinforcement Learning, Temporal Transformers, Latent Space Learning, Self-supervised Learning, Decoder-free, Partial Observability

I. Main Problem:

Các phương pháp học tăng cường dựa trên mô hình (MBRL) hiện tại gặp khó khăn trong việc nắm bắt các phụ thuộc thời gian trong các môi trường có thể quan sát một phần và dữ liệu chiều cao. Cụ thể, các phương pháp không dùng bộ giải mã (decoder-free) thường chỉ tập trung vào sự khớp tức thời (cùng bước thời gian), không đủ để xây dựng các biểu diễn trạng thái dự đoán được qua thời gian, dẫn đến cấu trúc dài hạn yếu và thất bại trong các nhiệm vụ đòi hỏi trí nhớ và điều hướng. Các mô hình dựa trên tái tạo pixel cũng gặp vấn đề về gánh nặng tính toán và có thể tập trung vào các chi tiết hình ảnh không liên quan đến nhiệm vụ.

II. Main Idea:

Giới thiệu NE-Dreamer, một tác nhân MBRL không dùng bộ giải mã, sử dụng transformer thời gian để dự đoán các nhúng mã hóa (encoder embeddings) của bước tiếp theo từ chuỗi trạng thái tiềm ẩn. Phương pháp này tối ưu hóa trực tiếp sự căn chỉnh dự đoán theo thời gian trong không gian biểu diễn, cho phép NE-Dreamer học các biểu diễn trạng thái mạch lạc và có tính dự đoán mà không cần tổn thất tái tạo (reconstruction losses) hay giám sát phụ trợ. NE-Dreamer thay thế tái tạo pixel bằng mục tiêu dự đoán nhúng tiếp theo, sử dụng Barlow Twins để căn chỉnh dự đoán với mục tiêu stop-gradient, từ đó tập trung vào tính dự đoán theo thời gian thay vì khớp tức thời.

III. Main Results:

NE-Dreamer đạt hiệu suất ngang bằng hoặc vượt trội DreamerV3 và các tác nhân không dùng bộ giải mã hàng đầu trên DeepMind Control Suite. Đặc biệt, trên các nhiệm vụ DMLab Rooms khó khăn liên quan đến trí nhớ và suy luận không gian, NE-Dreamer đạt được những cải thiện đáng kể. Các nghiên cứu loại bỏ thành phần (ablation studies) xác nhận rằng những cải tiến này đến từ mô hình hóa chuỗi dự đoán (transformer thời gian nhân quả + dịch mục tiêu bước tiếp theo) chứ không phải từ tái tạo hay các thủ thuật phụ trợ. Chẩn đoán biểu diễn hậu kỳ cho thấy NE-Dreamer duy trì tính nhất quán của đối tượng và bố cục không gian theo thời gian tốt hơn các phương pháp khác.

IV. Conclusion & Future Works:

NE-Dreamer là một tác nhân kiểu Dreamer không dùng bộ giải mã, học các biểu diễn mô hình thế giới bằng cách dự đoán và căn chỉnh nhúng mã hóa tiếp theo sử dụng transformer thời gian nhân quả. Nó cải thiện đáng kể khả năng điều hướng/ghi nhớ dài hạn trong DeepMind Lab Rooms và đạt hiệu suất tương đương trên DeepMind Control Suite. Những lợi ích này được quy cho mô hình hóa chuỗi dự đoán. Hạn chế là các thử nghiệm tập trung vào các môi trường mà cấu trúc dài hạn quan trọng hơn chi tiết hình ảnh. Công việc trong tương lai nên khám phá các tổn thất căn chỉnh thay thế và thử nghiệm NE-Dreamer trong các miền có hình ảnh phức tạp hơn. Kết quả này thiết lập dự đoán nhúng tiếp theo với transformer nhân quả như một nền tảng thực tiễn, có thể mở rộng để học biểu diễn mạnh mẽ trong MBRL.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu các tổn thất căn chỉnh thay thế cho dự đoán nhúng tiếp theo trong MBRL: Khám phá các phương pháp tự giám sát khác ngoài Barlow Twins (ví dụ: VICReg, SimSiam, các biến thể tương phản) để đánh giá tác động của chúng đến hiệu suất và tính ổn định của NE-Dreamer, đặc biệt trong các môi trường có đặc điểm thị giác đa dạng.
Mở rộng NE-Dreamer sang môi trường thị giác phức tạp và có độ chân thực cao: Phát triển và đánh giá khả năng của NE-Dreamer trong các tác vụ yêu cầu hiểu biết chi tiết về hình ảnh, có thể thông qua việc tích hợp các bộ mã hóa thị giác tiên tiến hoặc các cơ chế xử lý chi tiết hình ảnh mà không cần tái tạo pixel trực tiếp.
Tối ưu hóa và mở rộng transformer thời gian cho các phụ thuộc dài hạn cực lớn: Nghiên cứu các kiến trúc transformer hiệu quả hơn hoặc các cơ chế bộ nhớ để xử lý chuỗi dữ liệu rất dài, cho phép NE-Dreamer học và dự đoán các hành vi và trạng thái trong tương lai xa hơn trong các môi trường phức tạp hơn.

2. Patent:

Hệ thống dự đoán hành vi ứng dụng thông minh trên điện thoại di động: Một hệ thống trên điện thoại thông minh học cách dự đoán hành động tiếp theo của người dùng (ví dụ: mở ứng dụng nào, sử dụng tính năng nào) bằng cách phân tích chuỗi các tương tác trước đó mà không cần tái tạo giao diện người dùng. Điện thoại có thể tự động chuẩn bị tài nguyên hoặc đề xuất hành động phù hợp, giúp tăng tốc độ phản hồi và cải thiện trải nghiệm người dùng, chẳng hạn như tự động mở ứng dụng nhắn tin khi người dùng vừa chụp ảnh xong.
Công nghệ tối ưu hóa năng lượng dựa trên dự đoán bối cảnh sử dụng: Một tính năng trên điện thoại di động sử dụng dữ liệu cảm biến và hành vi để dự đoán bối cảnh sử dụng tiếp theo của người dùng (ví dụ: đang lái xe, sắp vào phòng họp, sắp đi ngủ). Dựa trên dự đoán này, điện thoại tự động điều chỉnh các cài đặt như độ sáng màn hình, kết nối Wi-Fi/Bluetooth, hoặc chế độ âm thanh để tiết kiệm pin hoặc tối ưu hóa trải nghiệm mà không cần sự can thiệp thủ công.
Hệ thống định vị và điều hướng trong nhà không cần bản đồ dựa trên dự đoán: Sử dụng các cảm biến có sẵn trên điện thoại (như gia tốc kế, con quay hồi chuyển, la bàn và camera) để học và dự đoán chuyển động tiếp theo của người dùng trong một không gian quen thuộc (ví dụ: căn hộ, văn phòng). Hệ thống này có thể cung cấp hướng dẫn điều hướng theo thời gian thực mà không cần bản đồ chi tiết hay tái tạo hình ảnh môi trường, hữu ích cho người dùng trong các không gian phức tạp hoặc cho các ứng dụng hỗ trợ người khiếm thị.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2603.02765
ArXiv Abstract	https://arxiv.org/abs/2603.02765
PDF Download	https://arxiv.org/pdf/2603.02765.pdf
Github Repository	https://github.com/corl-team/nedreamer

12. Code2Math: Can Your Code Agent Effectively Evolve Math Problems Through Exploration? (14 votes)

Tác giả: Dadi Guo, Yuejin Xie, Qingyu Liu, Jiayu Liu, Zhiyuan Fan, Qihan Ren, Shuai Shao, Tianyi Zhou, Dongrui Liu, Yi R. Fung

Xuất bản lúc: 2026-03-03

Tag: LLMs, Multi-agent systems, Code agents, Mathematical reasoning, Problem generation, Data synthesis, Automated verification, AI exploration

I. Main Problem:

Sự khan hiếm các bài toán toán học chất lượng cao và đầy thách thức là một nút thắt cổ chai đáng kể cho việc đào tạo và đánh giá các mô hình ngôn ngữ lớn (LLMs), đặc biệt khi khả năng toán học của chúng đang tiến gần đến cấp độ IMO. Việc tạo ra các bài toán như vậy thủ công đòi hỏi chuyên môn sâu và tốn nhiều công sức, không thể mở rộng quy mô.

II. Main Idea:

Bài báo đề xuất một khung đa tác nhân (multi-agent framework) tên là Code2Math, sử dụng các tác nhân mã (code agents) để tự động phát triển các bài toán toán học hiện có thành các biến thể phức tạp hơn thông qua quá trình khám phá và thực thi mã. Hệ thống bao gồm ba tác nhân chuyên biệt:

Evolution Agent (Tác nhân Tiến hóa): Phân tích các nút thắt nhận thức trong lời giải bài toán gốc và thiết kế các bài toán mới, khó hơn bằng cách dự đoán các con đường suy luận của người giải và đưa vào các "khoảnh khắc Aha" (Aha moments) khó khám phá.
Solvability Verification Agent (Tác nhân Xác minh Khả năng Giải quyết): Kiểm tra các lỗi bề mặt và tính nhất quán logic sâu sắc trong lời giải đề xuất của bài toán đã tiến hóa để đảm bảo bài toán có thể giải được.
Difficulty Verification Agent (Tác nhân Xác minh Độ khó): Đánh giá độ khó tương đối của bài toán gốc và bài toán đã tiến hóa, đảm bảo rằng bài toán mới tăng "Gánh nặng Khám phá" (Burden of Discovery) chứ không chỉ tăng độ phức tạp giả tạo. Các tác nhân sử dụng môi trường thực thi mã (Python sandbox với các thư viện như SymPy, Z3, NetworkX, itertools) để thực hiện các cuộc điều tra thực nghiệm, tính toán biểu tượng và xác minh các giả thuyết, cho phép khám phá cấu trúc và tạo ra các bài toán có tính toán học chặt chẽ.

III. Main Results:

Các thí nghiệm trên 100 bài toán gốc cho thấy:

Khả năng giải quyết cao: Các bài toán được tạo ra duy trì tỷ lệ giải quyết cao, ví dụ, DeepSeek-Reasoner đạt tỷ lệ đồng thuận 96% với thẩm định viên bên ngoài (GPT-5.2-High), xác nhận tính đúng đắn về mặt toán học.
Tăng độ khó đáng kể: Các bài toán đã tiến hóa khó hơn một cách có hệ thống đối với các mô hình giải hiện tại, được thể hiện qua sự giảm đáng kể trong tỷ lệ giải (Solve Rates - SR). Ví dụ, Gemini-3-Flash-Thinking giảm 21% SR trên các bài toán được tiến hóa bởi DeepSeek-Reasoner. Sự tiêu thụ token trung bình (Average Token Consumption - ATC) cũng tăng đáng kể, cho thấy yêu cầu suy luận sâu hơn.
Bất đối xứng khả năng: Các mô hình có thể tự động tạo ra các thách thức vượt quá khả năng giải quyết ban đầu của chính chúng hoặc của các mô hình mạnh hơn.
Hiệu quả và chi phí: Quá trình tiến hóa đòi hỏi nhiều lần thử (trung bình từ 1.56 đến 6.55 lần thất bại cho mỗi lần thành công), với phần lớn các lỗi đến từ việc xác minh khả năng giải quyết, cho thấy việc đảm bảo tính nhất quán logic là một nút thắt cổ chai chính.

IV. Conclusion & Future Works:

Khung Code2Math đã chứng minh khả năng tự động tạo ra các bài toán toán học hợp lệ và khó hơn cho các mô hình giải quyết hiện đại thông qua khám phá dựa trên mã và xác minh kép. Tuy nhiên, quá trình này có chi phí tính toán đáng kể và yêu cầu nhiều lần lặp để đạt được các tiêu chí xác minh. Nút thắt chính nằm ở việc đảm bảo tính nhất quán logic của các bài toán mới. Công việc trong tương lai có thể tập trung vào việc cải thiện hiệu quả của các lần thử (rollouts), tăng cường các đảm bảo về khả năng giải quyết, và đánh giá liệu các chiến lược khám phá tương tự có thể khái quát hóa ra ngoài lĩnh vực suy luận toán học hay không. Việc khám phá có thể thực thi được coi là một hướng đi khả thi để mở rộng độ khó một cách tự động trong các lĩnh vực suy luận có cấu trúc.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu về cơ chế tự động tạo "Aha moments" trong các bài toán suy luận: Tập trung sâu hơn vào cách các tác nhân AI có thể nhận diện và tạo ra các "nút thắt nhận thức" (cognitive bottlenecks) và "khoảnh khắc Aha" trong các bài toán, không chỉ trong toán học mà còn trong các lĩnh vực suy luận khác (ví dụ: logic, giải đố). Nghiên cứu các phương pháp định lượng và phân loại các "Aha moments" này và cách chúng ảnh hưởng đến độ khó nhận thức của con người và AI.
Khám phá hiệu quả của việc thực thi mã trong việc tạo dữ liệu cho các nhiệm vụ ngoài toán học: Mở rộng ý tưởng về việc sử dụng các tác nhân mã và môi trường thực thi mã để tạo ra dữ liệu huấn luyện và đánh giá cho các nhiệm vụ suy luận có cấu trúc khác, chẳng hạn như khoa học máy tính (thuật toán, cấu trúc dữ liệu), vật lý hoặc hóa học, nơi việc thực thi mã có thể cung cấp phản hồi xác định và khả năng khám phá có cấu trúc.
Tối ưu hóa hiệu suất và giảm chi phí tính toán trong hệ thống tạo vấn đề đa tác nhân: Phát triển các kỹ thuật mới để cải thiện hiệu quả của quá trình tiến hóa bài toán, đặc biệt là giảm số lượng lần thử thất bại và chi phí tính toán. Điều này có thể bao gồm việc sử dụng các chiến lược tìm kiếm thông minh hơn, học tăng cường để tối ưu hóa quá trình tạo, hoặc các phương pháp xác minh khả năng giải quyết nhanh hơn và đáng tin cậy hơn.

2. Patent:

Hệ thống "Gia sư Toán học Thông minh" trên điện thoại: Một ứng dụng di động sử dụng công nghệ tương tự Code2Math để tạo ra các bài toán toán học cá nhân hóa, có độ khó tăng dần dựa trên hiệu suất của người dùng. Ứng dụng sẽ phân tích các lỗi của học sinh để tạo ra các bài toán mới nhắm vào các điểm yếu cụ thể, đồng thời đảm bảo rằng các bài toán này có thể giải được và có chất lượng cao, giúp học sinh phát triển tư duy giải quyết vấn đề.
Công cụ "Kiểm tra & Nâng cấp Bài tập" cho giáo viên: Một tính năng tích hợp trên nền tảng giáo dục di động hoặc một ứng dụng riêng cho phép giáo viên nhập một bài tập hiện có và tự động nhận được các phiên bản nâng cao, khó hơn của bài tập đó. Hệ thống sẽ sử dụng các tác nhân AI để thay đổi các tham số, thêm các ràng buộc hoặc mở rộng bối cảnh của bài toán gốc, đồng thời cung cấp lời giải chi tiết cho cả bài gốc và bài đã nâng cấp, giúp giáo viên dễ dàng tạo ra tài liệu ôn tập đa dạng và thử thách hơn.
Chức năng "Thử thách Tư duy Sáng tạo" trong game di động: Một cơ chế trong các trò chơi giải đố hoặc giáo dục trên điện thoại, nơi AI tự động tạo ra các câu đố hoặc thử thách logic mới dựa trên các nguyên tắc đã được giới thiệu trong game. AI sẽ đảm bảo rằng các thử thách này có lời giải hợp lệ nhưng đòi hỏi người chơi phải suy nghĩ sáng tạo, vượt ra ngoài các giải pháp mẫu, từ đó tăng cường trải nghiệm chơi game và khả năng tư duy phản biện của người dùng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2603.03202
ArXiv Abstract	https://arxiv.org/abs/2603.03202
PDF Download	https://arxiv.org/pdf/2603.03202.pdf
Github Repository	N/A

13. Learning When to Act or Refuse: Guarding Agentic Reasoning Models for Safe Multi-Step Tool Use (11 votes)

Tác giả: Aradhye Agarwal, Gurdit Siyan, Yash Pandya, Joykirat Singh, Akshay Nambi, Ahmed Awadallah

Xuất bản lúc: 2026-03-03

Tag: Agentic LLMs, Safety, Tool Use, Reinforcement Learning, Preference-based Learning, Alignment, Multi-step Reasoning, Prompt Injection

I. Main Problem:

Các mô hình ngôn ngữ lớn (LLMs) hoạt động như tác nhân (agentic models) phải đối mặt với những thách thức an toàn nghiêm trọng khi lập kế hoạch, gọi công cụ và thực hiện các hành động dài hạn, nơi một sai sót nhỏ cũng có thể gây ra thiệt hại không thể đảo ngược (ví dụ: truy cập tệp, nhập thông tin đăng nhập). Các phương pháp căn chỉnh hiện có, vốn được tối ưu hóa cho việc tạo văn bản tĩnh và hoàn thành tác vụ, không hiệu quả trong các môi trường này do quá trình ra quyết định tuần tự, phản hồi công cụ đối kháng và suy luận trung gian quá tự tin. Đặc biệt, các mô hình ngôn ngữ nhỏ (SLMs) dễ bị tổn thương hơn. Hơn nữa, các hệ thống thưởng scalar chỉ dựa trên kết quả cuối cùng không thể nắm bắt được sự khác biệt về an toàn ở cấp độ quỹ đạo (ví dụ: từ chối sớm so với hủy bỏ muộn sau khi hành động không an toàn).

II. Main Idea:

Bài báo giới thiệu MOSAIC, một khung làm việc hậu huấn luyện (post-training framework) nhằm căn chỉnh các tác nhân cho việc sử dụng công cụ đa bước an toàn bằng cách làm cho các quyết định an toàn trở nên rõ ràng và có thể học được. MOSAIC cấu trúc quá trình suy luận thành một vòng lặp "lập kế hoạch, kiểm tra, sau đó hành động hoặc từ chối", với suy luận an toàn rõ ràng () và hành động từ chối (refusal tool) là các hành động hạng nhất. Để huấn luyện mà không cần nhãn cấp độ quỹ đạo, MOSAIC sử dụng học tăng cường dựa trên ưu tiên (preference-based reinforcement learning) với các so sánh quỹ đạo theo cặp, giúp nắm bắt các khác biệt về an toàn mà phần thưởng scalar thường bỏ lỡ. Khung này cũng học cách chủ động kích hoạt kiểm tra an toàn khi cần thiết để tối ưu hóa hiệu quả token.

III. Main Results:

MOSAIC đã được đánh giá zero-shot trên ba họ mô hình (Qwen2.5-7B, Qwen3-4B-Thinking, Phi-4) và các bộ dữ liệu ngoài phân phối (out-of-distribution) bao gồm các tác vụ gây hại, tấn công prompt injection, sử dụng công cụ lành tính và rò rỉ quyền riêng tư. MOSAIC giảm hành vi gây hại lên tới 50%, tăng tỷ lệ từ chối các tác vụ gây hại hơn 20% trong các cuộc tấn công injection, cắt giảm rò rỉ quyền riêng tư, và duy trì hoặc cải thiện hiệu suất tác vụ lành tính. Các mô hình nguồn mở được huấn luyện với MOSAIC vượt trội hơn GPT-4o và GPT-5 không có cơ chế an toàn và trở nên tương đương khi áp dụng các cơ chế an toàn rõ ràng. MOSAIC mang lại lợi ích thích ứng với từng mô hình: Qwen2.5-7B giảm 50% điểm tác vụ gây hại; Qwen3-4B-Thinking tăng gấp đôi tỷ lệ hoàn thành tác vụ lành tính từ 44% lên 85%; và Phi-4 giảm 56% tỷ lệ từ chối lành tính quá mức. Các kiểm tra an toàn rõ ràng và phần thưởng ưu tiên theo cặp được chứng minh là cần thiết thông qua các nghiên cứu loại bỏ (ablation studies).

IV. Conclusion & Future Works:

MOSAIC là một khung làm việc mô-đun hóa, có thể mở rộng, giúp các tác nhân mô hình ngôn ngữ học cách đưa ra các quyết định an toàn rõ ràng và có thể huấn luyện được trong quá trình sử dụng công cụ đa bước. Nó chứng minh rằng hành vi tác nhân an toàn không phải là một thuộc tính tự nhiên của quy mô mô hình mà được hình thành thông qua suy luận an toàn rõ ràng và cơ chế từ chối. MOSAIC mang lại những cải tiến an toàn thích ứng với mô hình, thu hẹp khoảng cách giữa các mô hình nguồn mở và mô hình tiên tiến. Các phương pháp kiểm tra an toàn rõ ràng và học tăng cường dựa trên ưu tiên theo cặp là rất quan trọng để đảm bảo hành vi an toàn và đáng tin cậy của tác nhân, đặc biệt là trong việc nhận diện các vi phạm an toàn tuần tự và tối ưu hóa hiệu quả token. Hướng nghiên cứu trong tương lai có thể tập trung vào việc mở rộng MOSAIC cho các miền công cụ phức tạp hơn, phân tích sâu hơn sự đánh đổi giữa an toàn và hiệu suất, và phát triển các phương pháp học hỏi liên tục để đối phó với các mối đe dọa mới.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng MOSAIC cho các miền công cụ chuyên biệt: Nghiên cứu việc tối ưu hóa và áp dụng khung MOSAIC cho các bộ công cụ chuyên biệt trong các lĩnh vực rủi ro cao như y tế (chẩn đoán, kê đơn) hoặc tài chính (quản lý giao dịch). Cần phát triển các cơ chế kiểm tra an toàn và tập dữ liệu ưu tiên được điều chỉnh cho các quy định và hậu quả cụ thể của từng ngành.
Phân tích định lượng sự đánh đổi giữa an toàn và hiệu suất của tác nhân: Đi sâu vào mối quan hệ giữa các thiết lập kiểm tra an toàn của MOSAIC và hiệu suất tác vụ. Phát triển các mô hình và chiến lược để điều chỉnh linh hoạt mức độ kiểm tra an toàn dựa trên ngữ cảnh tác vụ, độ phức tạp và mức độ tin cậy của mô hình, nhằm đạt được sự cân bằng tối ưu giữa bảo mật và tiện ích.
Học hỏi liên tục để thích ứng với các mối đe dọa tác nhân mới: Phát triển các kỹ thuật cho phép MOSAIC học hỏi và thích ứng với các hình thức tấn công mới (ví dụ: prompt injection mới, phản hồi công cụ độc hại) theo thời gian thực mà không yêu cầu huấn luyện lại toàn bộ. Điều này có thể bao gồm việc tích hợp học tăng cường trực tuyến hoặc các cơ chế cập nhật mô hình an toàn dựa trên phản hồi liên tục từ môi trường hoặc người dùng.

2. Patent:

Hệ thống "Trợ lý An toàn Di động": Một tính năng điện thoại thông minh cho phép người dùng ủy quyền các tác vụ phức tạp cho AI. Trước khi thực hiện bất kỳ hành động nào có rủi ro (ví dụ: thanh toán, chia sẻ dữ liệu nhạy cảm), hệ thống sẽ tạm dừng, hiển thị giải thích về rủi ro tiềm ẩn (như "Suy nghĩ an toàn" của AI) và yêu cầu xác nhận rõ ràng từ người dùng trên màn hình. Tính năng này đảm bảo người dùng luôn kiểm soát các hành động quan trọng.
Bộ lọc "Phản hồi Công cụ Đáng ngờ" tích hợp trong ứng dụng liên lạc: Một công nghệ tích hợp vào các ứng dụng nhắn tin hoặc email trên điện thoại. Khi một trợ lý AI được yêu cầu thực hiện hành động dựa trên nội dung có thể là lừa đảo hoặc độc hại (ví dụ: liên kết lừa đảo trong email), hệ thống sẽ tự động phát hiện "phản hồi công cụ đáng ngờ" từ môi trường và cảnh báo người dùng hoặc từ chối hành động trước khi AI có thể gây hại.
Chế độ "An toàn Tối đa" cho Trợ lý Ảo: Một chế độ đặc biệt cho các trợ lý ảo trên điện thoại (ví dụ: Siri, Google Assistant) được kích hoạt khi người dùng yêu cầu các tác vụ nhạy cảm (ví dụ: xóa dữ liệu, chuyển tiền). Trong chế độ này, trợ lý ảo sẽ áp dụng quy trình kiểm tra an toàn đa bước, yêu cầu xác nhận rõ ràng hoặc giải thích các rủi ro tiềm ẩn trước khi thực hiện, đảm bảo rằng mọi hành động quan trọng đều được người dùng chấp thuận một cách có ý thức và minh bạch.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2603.03205
ArXiv Abstract	https://arxiv.org/abs/2603.03205
PDF Download	https://arxiv.org/pdf/2603.03205.pdf
Github Repository	N/A

14. Track4World: Feedforward World-centric Dense 3D Tracking of All Pixels (11 votes)

Tác giả: Jiahao Lu, Jiayi Xu, Wenbo Hu, Ruijie Zhu, Chengfeng Zhao, Sai-Kit Yeung, Ying Shan, Yuan Liu

Xuất bản lúc: 2026-03-03

Tag: 3D Tracking, Scene Flow, Monocular Video, Feedforward Model, Vision Transformer, 4D Reconstruction, Computer Vision, Deep Learning

I. Main Problem:

Ước tính quỹ đạo 3D của mọi điểm ảnh từ một video đơn sắc là rất quan trọng để hiểu toàn diện về động lực 3D của video, nhưng các phương pháp hiện tại còn hạn chế. Các thách thức chính bao gồm: 1) Các phương pháp theo dõi 3D gần đây chỉ giới hạn ở việc theo dõi các điểm thưa thớt trên khung hình đầu tiên hoặc sử dụng khung công tác dựa trên tối ưu hóa chậm cho việc theo dõi dày đặc. 2) Tái tạo hình học đơn sắc vốn không được xác định rõ để khôi phục 3D từ quan sát một khung hình, và việc theo dõi các điểm 3D ở các bước thời gian khác nhau làm tăng thêm độ phức tạp. 3) Việc thiết kế một cơ chế liên kết cho việc theo dõi 3D của mọi điểm ảnh là rất tốn kém về mặt tính toán, dẫn đến tiêu thụ bộ nhớ và tính toán không thể chấp nhận được. 4) Các phương pháp hồi quy ngầm định để ước tính dòng cảnh 3D dày đặc thường yêu cầu lượng lớn dữ liệu huấn luyện 3D và mạng lưới nhiều tham số, đồng thời gặp khó khăn trong việc nắm bắt chi tiết chuyển động tinh tế. 5) Sự khan hiếm nghiêm trọng của các chú thích ground-truth 3D.

II. Main Idea:

Track4World đề xuất một mô hình feedforward hiệu quả để theo dõi 3D toàn diện mọi điểm ảnh trong hệ tọa độ thế giới từ video đơn sắc. Các ý tưởng chính bao gồm:

Biểu diễn cảnh 3D toàn cục: Mô hình được xây dựng dựa trên biểu diễn cảnh 3D toàn cục được mã hóa bởi một Vision Transformer kiểu VGGT.
Cơ chế tương quan 3D mới: Track4World áp dụng một lược đồ tương quan 3D mới để đồng thời ước tính dòng chảy 2D và 3D dày đặc theo từng pixel giữa các cặp khung hình bất kỳ. Điều này cho phép theo dõi 3D hiệu quả mọi điểm ảnh.
Ước tính dòng cảnh hai khung hình thay vì quỹ đạo 3D trực tiếp: Thay vì dự đoán trực tiếp quỹ đạo 3D của tất cả các điểm ảnh, Track4World dự đoán dòng cảnh hai khung hình làm biểu diễn cho động lực video 3D toàn diện, giảm đáng kể sự dư thừa tính toán.
Chiến lược ước tính dòng cảnh 3D lặp lại dựa trên tương quan:
- Từ thưa thớt đến dày đặc (Sparse-to-Dense): Hoạt động trên một tập hợp các điểm neo thưa thớt và sau đó phục hồi chuyển động dày đặc cho toàn bộ hình ảnh thông qua nội suy học được, để quản lý chi phí tính toán.
- Tương quan 2D sang 3D (2D-to-3D Correlation): Giới thiệu một cơ chế tương quan lai hiệu quả, kết hợp các nhúng đặc trưng hình học 3D với tương quan 2D theo từng pixel, tránh các tìm kiếm k-nearest neighbor và phép toán cross-attention 3D tốn kém.
- Giám sát chung 2D-3D (2D-3D Joint Supervision): Cơ chế tương quan 2D sang 3D hỗ trợ dự đoán kép dòng chảy 2D và 3D, cho phép sử dụng các bộ dữ liệu dòng chảy 2D phong phú để cung cấp tín hiệu huấn luyện bổ trợ cho nhiệm vụ dòng cảnh 3D, khắc phục sự khan hiếm chú thích 3D.
- Dòng cảnh toàn cục (Global Scene Flow): Ước tính dòng chảy giữa các cặp khung hình bất kỳ trong chuỗi video, tận dụng ngữ cảnh thời gian toàn cục để giải quyết các mơ hồ cục bộ.
Phục hồi dòng cảnh dày đặc: Các bản đồ dòng chảy độ phân giải thấp được nâng cấp lên độ phân giải đầy đủ thông qua một phép toán pixel-shuffle học được, được hướng dẫn bởi các trọng số ngữ cảnh đã giải mã. Một lược đồ unprojection lai kết hợp trực tiếp dòng chảy 2D với dịch chuyển trục Z từ dòng cảnh 3D để tạo ra dòng cảnh 3D cuối cùng.
Suy luận quỹ đạo toàn cục: Nối các dòng cảnh 3D hai khung hình trong hệ tọa độ toàn cục để xây dựng theo dõi 3D toàn diện cho mọi điểm ảnh.

III. Main Results:

Track4World đã chứng minh hiệu suất vượt trội và nhất quán so với các phương pháp hiện có trên nhiều bộ dữ liệu:

Ước tính dòng cảnh và dòng quang học: Vượt trội hơn các phương pháp hiện có trên các bộ dữ liệu Kubric-3D val (ngắn và dài), KITTI và BlinkVision, cả trong và ngoài miền, với các chỉ số như Abs Rel, EPE3D, EPE2D, δ<1.25, AccS, AccR, AccS2D, AccR2D.
Ước tính theo dõi 3D: Vượt trội hơn hầu hết các phương pháp theo dõi 3D và dòng cảnh cặp hiện có trên các bộ dữ liệu PointOdyssey, ADT, PStudio và DriveTrack, ở cả hệ tọa độ camera-centric và world-centric, được đánh giá bằng chỉ số APD.
Ước tính theo dõi 2D: Đạt được hiệu suất cạnh tranh với các phương pháp theo dõi 2D tiên tiến trên các bộ dữ liệu Kinetics, RoboTAP và RGB-Stacking, được đánh giá bằng các chỉ số Occlusion Accuracy (OA), δavgvis và Average Jaccard (AJ).
Ước tính bản đồ điểm và ước tính tư thế camera: Đạt được hiệu suất ước tính hình học và tư thế camera rất cạnh tranh, cung cấp nền tảng vững chắc cho ước tính dòng chảy 3D.
Hiệu quả tính toán: Đạt được hiệu quả vượt trội về thời gian chạy, bộ nhớ và kích thước mô hình so với các phương pháp khác, đồng thời hỗ trợ theo dõi dày đặc và duy trì hiệu suất tiên tiến. Cụ thể, mô hình của chúng tôi chỉ mất 3.4 giây, 14GB bộ nhớ và 26.06M tham số trên chuỗi 16 khung hình của bộ dữ liệu ADT, trong khi các phương pháp theo dõi dày đặc khác tốn nhiều thời gian và bộ nhớ hơn, hoặc gặp lỗi OOM (Out-of-Memory) khi mở rộng sang theo dõi dày đặc.

IV. Conclusion & Future Works:

Track4World là một mô hình nền tảng feedforward để theo dõi 3D dày đặc, hiệu quả trong khung tọa độ thế giới. Bằng cách tận dụng biểu diễn cảnh 3D toàn cục và cơ chế tương quan 3D mới để ước tính dòng cảnh 2D và 3D dày đặc giữa các cặp khung hình tùy ý, Track4World cho phép trích xuất quỹ đạo 3D hiệu quả theo từng pixel. Các thử nghiệm rộng rãi cho thấy tính mạnh mẽ, khả năng mở rộng và tổng quát hóa vượt trội của phương pháp, đánh dấu một bước tiến đáng kể hướng tới tái tạo 4D toàn diện từ các video đơn sắc trong môi trường thực tế. Hướng phát triển trong tương lai có thể tập trung vào việc mở rộng khả năng của mô hình để xử lý các kịch bản 4D phức tạp hơn trong thế giới thực, cải thiện hơn nữa hiệu quả tính toán, hoặc giảm sự phụ thuộc vào dữ liệu huấn luyện 3D có chú thích.

V. Brainstorming Space:

1. Publish Papers:

Mở rộng Track4World để xử lý đa luồng video (multi-stream video) hoặc kết hợp dữ liệu từ nhiều camera để cải thiện độ chính xác và độ tin cậy của ước tính dòng cảnh 3D và theo dõi đối tượng trong các môi trường phức tạp hơn, như các hệ thống giám sát hoặc robot.
Phát triển các phương pháp tự giám sát (self-supervised) hoặc bán giám sát (semi-supervised) cho ước tính dòng cảnh 3D và theo dõi 3D, nhằm giảm sự phụ thuộc vào dữ liệu huấn luyện 3D được gắn nhãn đắt đỏ, đặc biệt là trong bối cảnh các ứng dụng thực tế và dữ liệu "in-the-wild".
Tích hợp Track4World với các mô hình ngôn ngữ lớn (LLMs) hoặc mô hình thị giác-ngôn ngữ (VLMs) để cho phép theo dõi 3D ngữ cảnh và tương tác, ví dụ như theo dõi các đối tượng được mô tả bằng ngôn ngữ tự nhiên hoặc dự đoán các hành động 3D dựa trên lời nhắc.

2. Patent:

Hệ thống theo dõi chuyển động 3D cho thực tế tăng cường (AR) trên điện thoại di động: Một công nghệ cho phép điện thoại di động theo dõi chính xác chuyển động 3D của mọi điểm ảnh trong video từ camera đơn của nó. Điều này có thể được sử dụng để đặt các vật thể ảo vào môi trường thực một cách liền mạch, ổn định và tương tác một cách chân thực hơn, ví dụ như đặt một con vật ảo di chuyển trên bàn hoặc theo dõi chuyển động của người dùng để áp dụng hiệu ứng AR lên quần áo của họ.
Cải thiện ổn định video và xóa phông chuyển động 3D trên điện thoại di động: Một phương pháp sử dụng thông tin theo dõi 3D dày đặc của mọi điểm ảnh để phân biệt chuyển động của camera với chuyển động của các vật thể trong cảnh. Điều này cho phép điện thoại di động thực hiện ổn định video tiên tiến hơn, loại bỏ rung lắc không mong muốn và tạo ra hiệu ứng làm mờ chuyển động (motion blur) chân thực hơn cho các vật thể đang di chuyển, hoặc thậm chí xóa phông chuyển động của các vật thể không mong muốn khỏi video.
Ứng dụng chỉnh sửa video thông minh dựa trên theo dõi 3D trên điện thoại di động: Một tính năng trên ứng dụng chỉnh sửa video di động cho phép người dùng tự động theo dõi và áp dụng hiệu ứng, nhãn dán hoặc chỉnh sửa màu sắc lên bất kỳ đối tượng nào trong video, ngay cả khi đối tượng đó di chuyển trong không gian 3D. Ví dụ, người dùng có thể chọn một người đang đi bộ và áp dụng bộ lọc màu chỉ cho người đó, hoặc thêm một bong bóng thoại theo sát khuôn mặt của họ trong suốt video.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2603.02573
ArXiv Abstract	https://arxiv.org/abs/2603.02573
PDF Download	https://arxiv.org/pdf/2603.02573.pdf
Github Repository	https://github.com/TencentARC/Track4World

15. Surgical Post-Training: Cutting Errors, Keeping Knowledge (11 votes)

Tác giả: Wenye Lin, Kai Han

Xuất bản lúc: 2026-03-02

Tag: LLMs, Post-training, Catastrophic Forgetting, Reasoning, DPO, Data Rectification, Binary Classification, Fine-tuning, Optimization

I. Main Problem:

Các Mô hình Ngôn ngữ Lớn (LLMs) gặp phải sự đánh đổi giữa hiệu quả và quên thảm khốc (catastrophic forgetting) khi tăng cường khả năng suy luận thông qua huấn luyện sau (post-training). Các phương pháp huấn luyện sau hiện tại như SFT (Supervised Fine-Tuning) dễ bị quên thảm khốc kiến thức đã học trước đó, trong khi các phương pháp RL (Reinforcement Learning) trên chính sách (on-policy) tuy giảm quên nhưng lại tốn kém về mặt tính toán và bị hạn chế bởi khả năng lấy mẫu các đường suy luận đúng của mô hình cơ sở. Các vấn đề khác bao gồm "hiệu ứng kéo lên" (pull-up effect) trong huấn luyện chỉ với dữ liệu tích cực (positive-only training) và sự không phù hợp của xếp hạng tương đối (relative ranking) trong DPO (Direct Preference Optimization) đối với các tác vụ suy luận yêu cầu tính đúng đắn cứng nhắc.

II. Main Idea:

Nghiên cứu đề xuất Surgical Post-Training (SPOT), một phương pháp mới được thiết kế để tối ưu hóa khả năng suy luận hiệu quả đồng thời bảo toàn kiến thức đã học trước đó, bằng cách khai thác cơ chế chính quy hóa ẩn (implicit regularization) vốn có trong ước tính phần thưởng của DPO. SPOT bao gồm hai thành phần chính: 1. Quy trình chỉnh sửa dữ liệu (Data Rectification Pipeline): Sử dụng một Oracle (mô hình giáo viên mạnh hơn hoặc con người) để "phẫu thuật" sửa chữa các bước suy luận sai lầm với những chỉnh sửa tối thiểu. Điều này tạo ra các mẫu dữ liệu tích cực (y+) gần với phân phối của mô hình gốc, đảm bảo rằng y+ và y- (phản hồi sai) chia sẻ phần lớn quỹ đạo mã thông báo, chỉ khác biệt ở các phần quan trọng về quyết định. 2. Mục tiêu tối ưu hóa Entropy chéo nhị phân dựa trên phần thưởng (Reward-based Binary Cross-Entropy Objective): Thay vì xếp hạng tương đối như trong DPO, mục tiêu này coi tính đúng đắn của suy luận là một bài toán phân loại nhị phân, áp đặt các tín hiệu giám sát độc lập để tối đa hóa sự tự tin vào các chỉnh sửa đúng (y+) và giảm thiểu sự tự tin vào các lỗi (y-). Mục tiêu này cũng duy trì "hiệu ứng neo" (tethering effect) của mô hình tham chiếu thông qua hệ số điều chỉnh động ("Elastic Tether") để ngăn chặn việc quên thảm khốc. SPOT cung cấp hai biến thể: SPoT-BCE và SPoT-BCO (với một dịch chuyển phần thưởng δ để ngăn chặn bão hòa).

III. Main Results:

Với chỉ 4 nghìn cặp dữ liệu toán học đã được chỉnh sửa, SPOT đã cải thiện độ chính xác của Qwen3-8B trung bình 6.2% trên các tác vụ trong miền (in-domain) và ngoài miền (out-of-domain - OOD), chỉ với 28 phút huấn luyện trên 8 GPU H800. SPOT vượt trội hơn tất cả các phương pháp cơ sở trên các chỉ số trong miền và OOD, đạt hiệu suất tốt nhất trên cả Qwen3-8B và Llama-3.1-8B-Instruct. Cụ thể, SPOT cho thấy khả năng khái quát hóa mạnh mẽ trên suy luận OOD và IFEval, thậm chí còn tăng cường khả năng tuân thủ hướng dẫn trên Qwen3-8B. Các thử nghiệm chứng minh rằng SFT tiêu chuẩn dẫn đến quên thảm khốc, trong khi sự gần gũi của dữ liệu là cần thiết nhưng không đủ để ngăn chặn điều này. SPoT-BCO mang lại kết quả tổng thể và độ chính xác suy luận trong miền tốt nhất, trong đó SPoT-BCE cung cấp sự ổn định vượt trội cho các khả năng chung. Việc sử dụng "dữ liệu đã được chỉnh sửa" (rectified data) tốt hơn đáng kể so với "dữ liệu trực tiếp" (direct data) (+5.2% điểm trung bình), và việc áp dụng bộ lọc LCS (với γ=0.6) để tăng cường sự gần gũi của dữ liệu là rất quan trọng để tối đa hóa hiệu suất.

IV. Conclusion & Future Works:

Nghiên cứu chứng minh rằng có thể tăng cường hiệu suất trong miền một cách hiệu quả thông qua giám sát mà không gây ra quên thảm khốc. SPOT là một phương pháp mới kết hợp quy trình chỉnh sửa dữ liệu "phẫu thuật" với mục tiêu tối ưu hóa nhị phân. Các phân tích lý thuyết và thực nghiệm cho thấy hàm mất mát này hoạt động như một cơ chế dừng sớm theo từng mẫu, giúp bảo toàn kiến thức đã học trước đó một cách hiệu quả. Mục tiêu nhị phân, trái ngược với xếp hạng tương đối, là rất quan trọng đối với các tác vụ suy luận cứng nhắc. SPOT có tiềm năng hợp nhất các quy trình huấn luyện sau phức tạp (SFT → GRPO → DPO) thành một pha duy nhất, được gọi là "hiệu chuẩn hành vi". Các hướng nghiên cứu trong tương lai bao gồm: khám phá các cơ chế tự sửa lỗi để loại bỏ sự phụ thuộc vào Oracle; mở rộng áp dụng các nguyên tắc chỉnh sửa "phẫu thuật" và xác minh nhị phân sang các lĩnh vực khác như tạo mã, lập kế hoạch tác nhân (agentic planning) và giảm ảo giác (hallucinations); và thực hiện các thí nghiệm với các mô hình lớn hơn.

V. Brainstorming Space:

1. Publish Papers:

Tự chỉnh sửa LLM không cần Oracle: Khám phá các phương pháp tạo dữ liệu chỉnh sửa tự động và kiểm soát chất lượng.
Áp dụng Surgical Post-Training cho các tác vụ tạo mã và lập kế hoạch tác nhân: Cải thiện độ chính xác và giảm lỗi trong các chuỗi suy luận phức tạp.
Phân tích định lượng và định tính về 'Hiệu ứng kéo lên' trong huấn luyện LLM: Các chiến lược giảm thiểu và tác động đến khả năng khái quát hóa.

2. Patent:

Hệ thống sửa lỗi thông minh cho ứng dụng ghi chú/soạn thảo trên điện thoại: Một hệ thống trên điện thoại di động sử dụng công nghệ "chỉnh sửa phẫu thuật" để tự động phát hiện và đề xuất sửa chữa các lỗi logic hoặc cú pháp trong văn bản, mã lập trình hoặc công thức toán học mà người dùng nhập vào. Thay vì chỉ sửa lỗi chính tả, nó tập trung vào việc sửa các bước sai trong một chuỗi suy luận hoặc hướng dẫn, giữ nguyên phong cách và phần lớn cấu trúc ban đầu của người dùng, giúp người dùng học hỏi và cải thiện kỹ năng.
Cải thiện khả năng suy luận cho trợ lý ảo trên điện thoại: Một công nghệ tích hợp vào trợ lý ảo trên điện thoại (ví dụ: Siri, Google Assistant) cho phép nó suy luận chính xác hơn trong các tác vụ phức tạp (ví dụ: giải toán, lập kế hoạch lộ trình với nhiều ràng buộc, đưa ra lời khuyên dựa trên dữ liệu cá nhân). Hệ thống sẽ sử dụng một phiên bản "hậu huấn luyện phẫu thuật" của mô hình ngôn ngữ để "cắt bỏ" các bước suy luận sai và "neo" kiến thức mới vào, giúp trợ lý đưa ra các câu trả lời chính xác và đáng tin cậy hơn mà không bị "quên" các khả năng cốt lõi.
Công cụ học tập cá nhân hóa trên thiết bị di động với phản hồi chính xác: Ứng dụng giáo dục trên điện thoại thông minh sử dụng nguyên tắc "huấn luyện sau phẫu thuật" để cung cấp phản hồi tức thì và chính xác cho các bài tập của học sinh. Khi học sinh giải một bài toán hoặc viết một đoạn văn, công cụ không chỉ đánh dấu sai mà còn đề xuất chỉnh sửa từng bước nhỏ nhất để sửa lỗi logic hoặc ngữ pháp, giúp học sinh hiểu rõ chỗ sai và cách sửa mà không làm thay đổi toàn bộ câu trả lời, từ đó nâng cao hiệu quả học tập và giảm thiểu sự nản lòng.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2603.01683
ArXiv Abstract	https://arxiv.org/abs/2603.01683
PDF Download	https://arxiv.org/pdf/2603.01683.pdf
Github Repository	https://github.com/Visual-AI/SPoT

16. Humans and LLMs Diverge on Probabilistic Inferences (11 votes)

Tác giả: Gaurav Kamath, Sreenath Madathil, Sebastian Schuster, Marie-Catherine de Marneffe, Siva Reddy

Xuất bản lúc: 2026-02-26

Tag: LLMs, Reasoning, Probabilistic Inference, Human-AI Comparison, NLI, Uncertainty Quantification

I. Main Problem:

Lý luận của con người thường liên quan đến việc xử lý thông tin hạn chế để đưa ra các kết luận xác suất. Trong khi các mô hình ngôn ngữ lớn (LLMs) đã thể hiện hiệu suất mạnh mẽ trong các nhiệm vụ logic và toán học, hành vi của chúng đối với các suy luận mở, không xác định như vậy vẫn chưa được khám phá rộng rãi. Các mô hình LLM hiện tại thất bại trong việc tạo ra các phân phối phán đoán giống con người và thường thể hiện sự tự tin thái quá trong các suy luận xác suất.

II. Main Idea:

Nghiên cứu giới thiệu PROBCOPA, một tập dữ liệu mới gồm 210 suy luận xác suất thủ công bằng tiếng Anh, mỗi suy luận được chú thích về khả năng xảy ra bởi 25–30 người tham gia. Nghiên cứu so sánh các phán đoán xác suất này của con người với phản hồi từ tám mô hình LLM tiên tiến, tập trung vào các LLM lý luận (reasoning LLMs) có khả năng tạo ra chuỗi suy luận. Mục tiêu là phân tích sự khác biệt dai dẳng giữa con người và LLM, và xác định các mẫu trong chuỗi suy luận của LLM để làm sáng tỏ cách chúng đưa ra phản hồi cuối cùng.

III. Main Results:

Phán đoán của con người: Các phản hồi của con người là có cấp độ, đa dạng và phần lớn là đơn mode, cho thấy các phán đoán xác suất có sắc thái. Con người thể hiện sự bất đồng cao hơn đối với các mục có khả năng xảy ra trung bình.2. Sự khác biệt giữa con người và LLM: Các mô hình LLM luôn thất bại trong việc tạo ra các phân phối giống con người, đặc biệt đối với các suy luận mà con người thể hiện sự không chắc chắn (khả năng xảy ra trung bình). Chúng có xu hướng tránh các điểm số khả năng xảy ra trung bình, cho thấy sự tự tin thái quá.3. Biến thiên phản hồi của LLM: LLM cho thấy sự biến thiên phản hồi (độ entropy khác biệt) ít hơn đáng kể so với con người. Việc điều chỉnh nhiệt độ hoặc sử dụng lời nhắc cá nhân hóa không tạo ra sự biến thiên phản hồi giống con người.4. Hiệu suất của LLM: Ngay cả khi tăng cường nỗ lực suy luận, các điểm số khả năng xảy ra trung bình của mô hình không thay đổi đáng kể. Việc kết hợp các phản hồi của mô hình cải thiện sự phù hợp với các phân phối của con người nhưng vẫn kém hơn so với đường cơ sở giữa người với người.5. Chuỗi suy luận của LLM: LLM suy luận lâu hơn đối với các mục mà con người có sự bất đồng lớn hơn. 90% chuỗi suy luận của LLM được kiểm tra thủ công bao gồm việc xem xét rõ ràng các kịch bản thay thế để đưa ra phán đoán cuối cùng.

IV. Conclusion & Future Works:

Nghiên cứu này cho thấy sự khác biệt đáng kể giữa cách con người và LLM phán đoán các suy luận xác suất, với việc LLM không khớp với các phân phối phán đoán của con người hoặc tạo ra sự biến thiên đầu ra ở cấp độ con người. Các mô hình thể hiện sự tự tin thái quá ngay cả trong các suy luận vốn không chắc chắn. Kết quả nhấn mạnh sự cần thiết phải đánh giá lý luận vượt ra ngoài các thiết lập xác định và trong các ngữ cảnh mở, giống con người, không xác định. Các hạn chế bao gồm việc chỉ giới hạn ở tiếng Anh và việc sử dụng điểm số khả năng xảy ra bằng lời nói cho LLM. Công việc trong tương lai nên tập trung vào việc xác định các phương pháp khác để gợi ra khả năng xảy ra phù hợp với bản chất của các mô hình lý luận và truyền cảm hứng cho nghiên cứu sâu hơn về lý luận ngoài logic hoặc suy diễn.

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu các phương pháp mới để định lượng sự không chắc chắn của LLM trong suy luận xác suất: Phát triển và đánh giá các kỹ thuật mới để trích xuất các ước tính khả năng xảy ra từ LLM, vượt ra ngoài các điểm số bằng lời nói, có thể tích hợp sâu hơn với các phương pháp định lượng sự không chắc chắn (UQ) để phản ánh tốt hơn sự biến thiên và độ tin cậy của con người.
Mở rộng tập dữ liệu PROBCOPA cho các ngôn ngữ khác và phân tích đa văn hóa: Xây dựng các phiên bản PROBCOPA cho các ngôn ngữ khác ngoài tiếng Anh và thực hiện các nghiên cứu so sánh để hiểu xem sự khác biệt giữa con người và LLM trong suy luận xác suất có phải là phổ quát hay có tính chất phụ thuộc vào ngôn ngữ/văn hóa.
Phát triển các chiến lược tinh chỉnh (fine-tuning) LLM để cải thiện sự phù hợp với phán đoán xác suất của con người: Thiết kế các phương pháp đào tạo hoặc tinh chỉnh mới cho LLM, có thể sử dụng các phân phối phán đoán của con người làm mục tiêu, để giảm sự tự tin thái quá và tăng cường sự biến thiên phản hồi giống con người trong các nhiệm vụ suy luận xác suất.

2. Patent:

Hệ thống Hỗ trợ Quyết định Cá nhân hóa trên Điện thoại Di động: Một ứng dụng di động sử dụng mô hình AI được đào tạo trên dữ liệu suy luận xác suất giống con người để cung cấp ước tính khả năng xảy ra cho các tình huống hàng ngày của người dùng (ví dụ: "Khả năng trời mưa nếu tôi ra ngoài bây giờ là bao nhiêu?"). Hệ thống sẽ hiển thị không chỉ một con số mà còn là một phân phối khả năng xảy ra và các kịch bản thay thế có thể xảy ra, giúp người dùng hiểu rõ hơn về sự không chắc chắn, giống như cách con người đưa ra phán đoán.
Công cụ Đánh giá Rủi ro Thông minh cho Giao dịch Tài chính trên Điện thoại: Một tính năng tích hợp vào ứng dụng ngân hàng hoặc đầu tư trên điện thoại, cho phép người dùng nhập các điều kiện thị trường hoặc kịch bản kinh tế. AI sẽ cung cấp một dải khả năng xảy ra cho các kết quả tài chính (ví dụ: "Khả năng khoản đầu tư này tăng giá trong tuần tới là bao nhiêu?"), cùng với các yếu tố có thể ảnh hưởng đến kết quả đó, thay vì chỉ đưa ra một dự đoán duy nhất, giúp người dùng đưa ra quyết định thận trọng hơn.
Trợ lý Lập kế hoạch Sự kiện Động với Ước tính Khả năng Xảy ra: Một ứng dụng lập kế hoạch sự kiện trên điện thoại di động sử dụng AI để ước tính khả năng thành công của các khía cạnh khác nhau của một sự kiện (ví dụ: "Khả năng tất cả khách mời sẽ đến đúng giờ là bao nhiêu?"). Thay vì đưa ra một câu trả lời 'có' hoặc 'không', nó sẽ cung cấp một thang điểm khả năng và liệt kê các yếu tố rủi ro cùng các phương án dự phòng, giúp người tổ chức sự kiện quản lý sự không chắc chắn hiệu quả hơn.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.23546
ArXiv Abstract	https://arxiv.org/abs/2602.23546
PDF Download	https://arxiv.org/pdf/2602.23546.pdf
Github Repository	https://github.com/McGill-NLP/probabilistic-reasoning

17. Spilled Energy in Large Language Models (10 votes)

Tác giả: Adrian Robert Minut, Hazem Dewidar, Iacopo Masi

Xuất bản lúc: 2026-02-21

Tag: LLMs, Hallucinations, Energy-Based Models, EBMs, Training-free, Error Detection, Generative Models, Autoregressive Models

I. Main Problem:

Các Mô hình Ngôn ngữ Lớn (LLM) thường có xu hướng tạo ra thông tin không chính xác hoặc gây hiểu lầm, hay còn gọi là "ảo giác" (hallucinations). Các phương pháp phát hiện lỗi hiện có thường yêu cầu huấn luyện các bộ phân loại thăm dò (trained probe classifiers) hoặc loại bỏ kích hoạt (activation ablations), điều này làm giảm khả năng khái quát hóa của chúng trên các tác vụ và tập dữ liệu khác nhau, đặc biệt trong các tình huống sử dụng thực tế mà không thể dự đoán trước.

II. Main Idea:

Nghiên cứu này tái diễn giải bộ phân loại softmax cuối cùng của LLM như một Mô hình Dựa trên Năng lượng (EBM), phân tách chuỗi xác suất từ chuỗi sang chuỗi thành nhiều EBM tương tác trong quá trình suy luận. Cách tiếp cận có nguyên tắc này cho phép theo dõi "sự tràn năng lượng" (energy spills) trong quá trình giải mã, mà theo kinh nghiệm cho thấy có mối tương quan với các lỗi thực tế, sai lệch và thất bại của mô hình. Tác giả giới thiệu hai chỉ số hoàn toàn không cần huấn luyện, được suy ra trực tiếp từ các logits đầu ra:

Năng lượng tràn (spilled energy): Đo lường sự khác biệt giữa các giá trị năng lượng qua các bước tạo liên tiếp mà về mặt lý thuyết phải khớp nhau.
Năng lượng biên (marginalized energy): Có thể đo được tại một bước duy nhất. Phương pháp này tập trung vào các token câu trả lời chính xác để phát hiện ảo giác mà không cần bộ phân loại thăm dò được huấn luyện hoặc loại bỏ kích hoạt.

III. Main Results:

Phương pháp này đã được đánh giá trên chín bộ dữ liệu chuẩn (benchmarks) với các LLM tiên tiến (bao gồm LLaMA, Mistral và Gemma) và trên các phép toán đại số tổng hợp (Qwen3). Kết quả cho thấy khả năng phát hiện ảo giác mạnh mẽ, cạnh tranh và khả năng khái quát hóa giữa các tác vụ. Đáng chú ý, những kết quả này được duy trì cho cả các biến thể mô hình đã được huấn luyện trước (pretrained) và đã được điều chỉnh theo hướng dẫn (instruction-tuned) mà không phát sinh chi phí huấn luyện bổ sung. "Năng lượng tràn" nhất quán gán giá trị thấp hơn cho các câu trả lời đúng và giá trị cao hơn cho các câu trả lời sai, tạo ra một biên độ phân tách rõ ràng. So với các phương pháp cơ bản như logit, "năng lượng tràn" đạt được khả năng phân biệt vượt trội, đặc biệt đối với các lỗi khó phát hiện. Các mô hình được tinh chỉnh theo hướng dẫn có xu hướng khuếch đại biên độ mà "năng lượng tràn" vượt trội so với các phương pháp khác. Chiến lược gộp tối thiểu (min pooling) mang lại hiệu suất tổng thể tốt nhất.

IV. Conclusion & Future Works:

Việc tái diễn giải lớp softmax của LLM như một EBM đã cho phép định nghĩa "năng lượng tràn" – sự khác biệt giữa các giá trị năng lượng mà về nguyên tắc phải bằng nhau qua các bước thời gian liên tiếp. Về mặt lý thuyết và thực nghiệm, sự khác biệt này cung cấp một tín hiệu mạnh mẽ, không cần huấn luyện để phát hiện ảo giác và lỗi trong đầu ra của LLM. Phương pháp này khái quát hóa mạnh mẽ trên các bộ dữ liệu chuẩn NLP đa dạng mà không yêu cầu bộ phân loại bổ sung hoặc huấn luyện dành riêng cho tác vụ, không giống như các phương pháp thăm dò gặp khó khăn trong việc chuyển giao. Nhìn chung, "năng lượng tràn" cung cấp một khung làm việc có nguyên tắc và thực tế để phát hiện lỗi trong LLM, đồng thời mang lại một góc nhìn mới về động lực năng lượng bên trong của các mô hình tự hồi quy. Trong tương lai, cần giải quyết hạn chế về việc đôi khi tạo ra các dương tính giả trên các token không mang thông tin ngữ nghĩa (ví dụ: dấu câu, từ đầu câu) bằng cách cải thiện việc xác định chính xác các "token câu trả lời".

V. Brainstorming Space:

1. Publish Papers:

Nghiên cứu sâu hơn về cơ chế gây ra "năng lượng tràn" (spilled energy) trong các mô hình LLM khác nhau và mối liên hệ của nó với các loại lỗi cụ thể (ví dụ: lỗi thông tin sai lệch, lỗi suy luận, thiên vị). Mục tiêu là xây dựng một phân loại lỗi dựa trên đặc điểm của "năng lượng tràn".
Phát triển các phương pháp tinh chỉnh (fine-tuning) hoặc huấn luyện LLM mới nhằm giảm thiểu "năng lượng tràn" trực tiếp trong quá trình huấn luyện, thay vì chỉ phát hiện ở giai đoạn suy luận, để cải thiện độ tin cậy và tính chính xác của mô hình.
Mở rộng khung EBM để định lượng sự không chắc chắn (uncertainty quantification) trong LLM một cách toàn diện hơn, không chỉ tập trung vào phát hiện lỗi mà còn cung cấp một thước đo tin cậy liên tục cho mọi token được tạo ra, áp dụng cho các tác vụ như tóm tắt văn bản hoặc tạo nội dung sáng tạo.

2. Patent:

Một hệ thống phát hiện thông tin sai lệch tích hợp trên thiết bị di động, sử dụng thuật toán "năng lượng tràn" để tự động kiểm tra tính xác thực của nội dung văn bản do LLM tạo ra (ví dụ: tin nhắn, email, bài đăng mạng xã hội). Khi người dùng soạn thảo hoặc nhận nội dung từ LLM, hệ thống sẽ phân tích "năng lượng tràn" của các token quan trọng và cảnh báo người dùng về khả năng có lỗi hoặc thông tin sai lệch, gợi ý kiểm tra lại hoặc sửa đổi trước khi chia sẻ.
Một công cụ trợ lý viết thông minh tích hợp vào bàn phím ảo hoặc ứng dụng soạn thảo trên điện thoại di động. Khi người dùng sử dụng tính năng tự động hoàn thành hoặc tạo văn bản bằng AI, công cụ sẽ hiển thị một chỉ báo trực quan (ví dụ: gạch chân màu đỏ, biểu tượng cảnh báo) bên cạnh các từ hoặc cụm từ có "năng lượng tràn" cao, cho thấy chúng có thể không chính xác hoặc không đáng tin cậy, giúp người dùng chủ động chỉnh sửa.
Một tính năng nâng cao cho các trợ lý ảo hoặc chatbot trên điện thoại thông minh, cho phép chúng tự động đánh giá độ tin cậy của phản hồi bằng cách sử dụng "năng lượng tràn" trước khi hiển thị cho người dùng. Nếu phản hồi có "năng lượng tràn" cao, trợ lý ảo có thể tự động tìm kiếm thông tin bổ sung, đưa ra nhiều lựa chọn phản hồi khác nhau, hoặc thông báo cho người dùng rằng thông tin có thể không hoàn toàn chính xác, cải thiện trải nghiệm và độ tin cậy của tương tác AI.

Các đường dẫn liên quan

Nền tảng	Đường dẫn
Hugging Face	https://huggingface.co/papers/2602.18671
ArXiv Abstract	https://arxiv.org/abs/2602.18671
PDF Download	https://arxiv.org/pdf/2602.18671.pdf
Github Repository	https://github.com/OmnAI-Lab/spilled-energy

📰 Summary of Papers​

1. Utonia: Toward One Encoder for All Point Clouds (139 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

2. UniG2U-Bench: Do Unified Models Advance Multimodal Understanding? (79 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

3. Beyond Language Modeling: An Exploration of Multimodal Pretraining (69 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

4. BeyondSWE: Can Current Code Agent Survive Beyond Single-Repo Bug Fixing? (50 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

5. Qwen3-Coder-Next Technical Report (37 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

6. Beyond Length Scaling: Synergizing Breadth and Depth for Generative Reward Models (32 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

7. Kling-MotionControl Technical Report (24 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

8. How Controllable Are Large Language Models? A Unified Evaluation across Behavioral Granularities (22 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

2. Patent:​

Các đường dẫn liên quan​

9. PRISM: Pushing the Frontier of Deep Think via Process Reward Model-Guided Inference (18 votes)​

I. Main Problem:​

II. Main Idea:​

III. Main Results:​

IV. Conclusion & Future Works:​

V. Brainstorming Space:​

1. Publish Papers:​

📰 Summary of Papers

1. Utonia: Toward One Encoder for All Point Clouds (139 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

2. UniG2U-Bench: Do Unified Models Advance Multimodal Understanding? (79 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

3. Beyond Language Modeling: An Exploration of Multimodal Pretraining (69 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

4. BeyondSWE: Can Current Code Agent Survive Beyond Single-Repo Bug Fixing? (50 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

5. Qwen3-Coder-Next Technical Report (37 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

6. Beyond Length Scaling: Synergizing Breadth and Depth for Generative Reward Models (32 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

7. Kling-MotionControl Technical Report (24 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

8. How Controllable Are Large Language Models? A Unified Evaluation across Behavioral Granularities (22 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers:

2. Patent:

Các đường dẫn liên quan

9. PRISM: Pushing the Frontier of Deep Think via Process Reward Model-Guided Inference (18 votes)

I. Main Problem:

II. Main Idea:

III. Main Results:

IV. Conclusion & Future Works:

V. Brainstorming Space:

1. Publish Papers: