🤗 Daily Hugging Face Paper Digest - 2026-05-05
Báo cáo được tạo tự động vào lúc 2026-05-06 15:56:36 bằng mô hình deepseek-ai/deepseek-v4-pro.
📰 Summary of Papers
1. MolmoAct2: Action Reasoning Models for Real-world Deployment (187 votes)
Tác giả: Haoquan Fang, Jiafei Duan, Donovan Clay, Sam Wang, Shuo Liu, Weikai Huang, Xiang Fan, Wei-Chuan Tsai, Shirui Chen, Yi Ru Wang, Shanli Xing, Jaemin Cho, Jae Sung Park, Ainaz Eftekhar, Peter Sushko, Karen Farley, Angad Wadhwa, Cole Harrison, Winson Han, Ying-Chun Lee, Eli VanderBilt, Rose Hendrix, Suveen Ellawela, Lucas Ngoo, Joyce Chai, Zhongzheng Ren, Ali Farhadi, Dieter Fox, Ranjay Krishna
Xuất bản lúc: 2026-05-04
Tag: VLA, Vision-Language-Action, Robotics, Embodied AI, Imitation Learning, Action Tokenizer, Flow Matching, Open Source
I. Main Problem:
Các mô hình Vision-Language-Action (VLA) hiện tại chưa đáp ứng được yêu cầu triển khai thực tế do bốn hạn chế chính: (i) các mô hình tiên tiến nhất là hệ thống đóng, không công khai dữ liệu và quy trình huấn luyện; (ii) các cơ chế suy luận (reasoning) giúp cải thiện chất lượng hành động nhưng lại gây ra độ trễ quá lớn, không phù hợp cho điều khiển vòng kín; (iii) một số ít mô hình mã nguồn mở có trọng số lại bị ràng buộc với phần cứng robot đắt tiền, vượt quá khả năng của nhiều phòng thí nghiệm; (iv) hiệu suất zero-shot còn kém và tỉ lệ thành công sau tinh chỉnh vẫn dưới ngưỡng tin cậy để triển khai thực tế.
II. Main Idea:
Nhóm tác giả đề xuất MolmoAct2, một mô hình suy luận hành động hoàn toàn mở, được xây dựng để triển khai thực tế trên các nền tảng robot có chi phí thấp đến trung bình. MolmoAct2 cải tiến qua năm trụ cột: (1) Xây dựng mô hình nền tảng Molmo2-ER chuyên biệt cho suy luận không gian và thể hiện (embodied reasoning) thông qua quy trình huấn luyện 'chuyên môn hóa rồi diễn tập lại'; (2) Công bố ba bộ dữ liệu robot chất lượng cao cho các nền tảng YAM, SO-100/101 và DROID; (3) Phát triển OpenFAST Tokenizer, một bộ mã hóa hành động nguồn mở chuyển đổi quỹ đạo liên tục thành token rời rạc; (4) Thiết kế kiến trúc mới kết hợp chuyên gia hành động liên tục (flow-matching) với mô hình ngôn ngữ-thị giác thông qua điều kiện hóa KV-cache theo từng lớp; (5) Giới thiệu MolmoAct2-Think, biến thể suy luận có khả năng dự đoán độ sâu thích ứng, giảm độ trễ bằng cách chỉ suy luận lại các vùng thay đổi giữa các bước thời gian.
III. Main Results:
Trong nghiên cứu thực nghiệm toàn diện nhất từ trước đến nay đối với bất kỳ VLA mở nào, trải dài trên 7 môi trường mô phỏng và thực tế, MolmoAct2 và MolmoAct2-Think vượt trội hơn tất cả các mô hình cơ sở mạnh mẽ. MolmoAct2 vượt qua π0.5 trên các tác vụ triển khai thực tế. Molmo2-ER vượt qua GPT-5 và Gemini Robotics ER-1.5 trên 13 tiêu chí đánh giá suy luận thể hiện. Các biến thể tinh chỉnh của MolmoAct2 có thể được triển khai ngay lập tức trên phần cứng tương ứng mà không cần tinh chỉnh thêm.
IV. Conclusion & Future Works:
MolmoAct2 là một mô hình nền tảng robot học thuật có khả năng hỗ trợ triển khai thực tế và tạo ra tác động xã hội ý nghĩa. Mô hình được công bố hoàn toàn mở về trọng số, mã nguồn huấn luyện và toàn bộ dữ liệu huấn luyện. Các hướng nghiên cứu trong tương lai có thể tập trung vào việc mở rộng khả năng của mô hình sang các hệ thống robot di động, cải thiện hơn nữa hiệu quả suy luận để triển khai trên các thiết bị biên có tài nguyên hạn chế, và phát triển các cơ chế học tập liên tục để mô hình có thể thích ứng với môi trường mới mà không cần huấn luyện lại từ đầu.
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu phát triển một kiến trúc VLA phân cấp, trong đó một mô hình ngôn ngữ-thị giác nhẹ trên thiết bị di động thực hiện suy luận ngữ nghĩa cấp cao và lập kế hoạch, sau đó truyền đạt mục tiêu dưới dạng điểm ảnh và văn bản cho một chính sách hành động liên tục tốc độ cao chạy cục bộ trên robot, nhằm giảm độ trễ đầu cuối.
- Đề xuất phương pháp học biểu diễn hành động đa phôi thai (multi-embodiment) bằng cách sử dụng một không gian tiềm ẩn chung cho các cấu trúc robot khác nhau, kết hợp với kỹ thuật mã hóa vị trí cấu trúc động học (kinematic structure encoding), cho phép chuyển giao chính sách zero-shot giữa các robot có hình thái khác nhau.
- Phát triển một hệ thống sinh dữ liệu robot tự động trong mô phỏng, sử dụng mô hình ngôn ngữ lớn để đề xuất và xác minh các nhiệm vụ đa dạng, sau đó sử dụng học tăng cường để huấn luyện chính sách chuyên gia, tạo ra nguồn dữ liệu tổng hợp chất lượng cao, quy mô lớn để huấn luyện VLA mà không cần thu thập dữ liệu thực tế tốn kém.
2. Patent:
- Hệ thống trợ lý ảo trên điện thoại thông minh có khả năng điều khiển robot gia đình: Người dùng quay video môi trường bằng camera điện thoại và đưa ra yêu cầu bằng giọng nói (ví dụ: 'dọn bàn ăn'). Điện thoại sẽ chạy mô hình VLA suy luận thích ứng, xác định các vị trí thay đổi trong khung hình để giảm thiểu thời gian xử lý, sau đó gửi lệnh hành động liên tục đến robot qua kết nối không dây. Hệ thống sử dụng cơ chế dự đoán độ sâu có chọn lọc để tiết kiệm năng lượng và tăng tốc độ phản hồi trên thiết bị di động.
- Phương pháp hiệu chỉnh hành động robot theo thời gian thực bằng thiết bị di động: Khi robot đang thực hiện một nhiệm vụ (ví dụ: lau bàn), camera điện thoại liên tục quan sát và phát hiện các điểm bất thường hoặc thay đổi trong môi trường. Mô hình trên điện thoại chỉ tính toán lại các vùng không gian có sự thay đổi để cập nhật lệnh hành động cho robot mà không cần xử lý lại toàn bộ khung cảnh, giúp tiết kiệm tài nguyên tính toán và pin. Cơ chế này cho phép can thiệp và sửa lỗi ngay lập tức khi robot thao tác sai.
- Nền tảng chia sẻ kỹ năng robot cộng đồng qua điện thoại: Người dùng có thể thu thập một vài thao tác mẫu cho một kỹ năng mới (ví dụ: gấp một loại áo đặc biệt) bằng cách điều khiển robot qua ứng dụng điện thoại. Ứng dụng sẽ sử dụng OpenFAST Tokenizer để mã hóa các thao tác này thành một chuỗi token gọn nhẹ, sau đó tinh chỉnh mô hình nền tảng MolmoAct2 trên điện toán đám mây. Kỹ năng mới sau đó được tải về và chạy suy luận trực tiếp trên điện thoại để điều khiển robot mà không cần kết nối internet liên tục, tạo ra một kho kỹ năng được cá nhân hóa và chia sẻ trong cộng đồng.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2605.02881 |
| ArXiv Abstract | https://arxiv.org/abs/2605.02881 |
| PDF Download | https://arxiv.org/pdf/2605.02881.pdf |
| Github Repository | https://github.com/allenai/molmoact2 |
2. From Context to Skills: Can Language Models Learn from Context Skillfully? (128 votes)
Tác giả: Shuzheng Si, Haozhe Zhao, Yu Lei, Qingyi Wang, Dingwei Chen, Zhitong Wang, Zhenhailong Wang, Kangyang Luo, Zheng Wang, Gang Chen, Fanchao Qi, Minjia Zhang, Maosong Sun
Xuất bản lúc: 2026-05-03
Tag: Context Learning, Skill Augmentation, Multi-Agent Self-Play, LLMs, Automated Skill Discovery, Adversarial Collapse
I. Main Problem:
Các mô hình ngôn ngữ (LMs) gặp khó khăn khi thực hiện các nhiệm vụ yêu cầu suy luận dựa trên ngữ cảnh phức tạp chứa kiến thức mới, vượt ra ngoài kiến thức tham số của chúng. Việc tăng cường kỹ năng thông qua trích xuất quy tắc từ ngữ cảnh là một giải pháp trực quan, nhưng gặp phải hai thách thức cốt lõi: (1) Chi phí cao cho việc chú thích kỹ năng thủ công đối với các ngữ cảnh dài và chuyên sâu về mặt kỹ thuật; (2) Thiếu tín hiệu phản hồi bên ngoài để tự động đánh giá và xây dựng kỹ năng một cách chính xác.
II. Main Idea:
Bài báo đề xuất Ctx2Skill, một khuôn khổ tự tiến hóa, tự động khám phá, tinh chỉnh và lựa chọn các kỹ năng đặc thù cho ngữ cảnh mà không cần sự giám sát của con người hay phản hồi bên ngoài. Ý tưởng cốt lõi là một vòng lặp tự đấu đa tác nhân (multi-agent self-play), trong đó một tác nhân Thách thức (Challenger) tạo ra các nhiệm vụ thăm dò, một tác nhân Lý luận (Reasoner) cố gắng giải quyết chúng, và một tác nhân Phán xét (Judge) đưa ra phản hồi nhị phân. Cả hai tác nhân Thách thức và Lý luận cùng tiến hóa thông qua việc cập nhật bộ kỹ năng ngôn ngữ tự nhiên dựa trên các ca thất bại. Để ngăn chặn sự suy sụp đối nghịch (adversarial collapse), cơ chế Phát lại Xuyên thời gian (Cross-time Replay) được giới thiệu để chọn ra bộ kỹ năng cân bằng nhất qua các vòng lặp.
III. Main Results:
Đánh giá trên bốn tác vụ học ngữ cảnh từ CL-bench, Ctx2Skill cải thiện nhất quán tỷ lệ giải quyết trên nhiều mô hình nền tảng: nâng GPT-4.1 từ 11.1% lên 16.5%, GPT-5.1 từ 21.2% lên 25.8%, và GPT-5.2 từ 18.2% lên 21.4%. Ctx2Skill cũng đạt điểm chất lượng kỹ năng trung bình cao nhất trên các tiêu chí như độ trung thực, rõ ràng và hiệu quả so với các phương pháp cơ sở. Các kỹ năng được tạo ra có khả năng chuyển giao giữa các mô hình khác nhau.
IV. Conclusion & Future Works:
Ctx2Skill cung cấp một mô hình thực tế và có khả năng mở rộng để trang bị cho các mô hình ngôn ngữ khả năng học hỏi một cách khéo léo từ các ngữ cảnh phức tạp, chưa từng thấy. Các hướng nghiên cứu trong tương lai bao gồm: (1) Khám phá số vòng lặp tự đấu và số lượng nhiệm vụ lớn hơn để tối ưu hóa hiệu suất; (2) Mở rộng Ctx2Skill cho các loại ngữ cảnh đa dạng hơn như video hoặc mã nguồn; (3) Tích hợp cơ chế học tăng cường để tinh chỉnh tham số mô hình dựa trên các kỹ năng đã được khám phá.
V. Brainstorming Space:
1. Publish Papers:
- Phát triển một khuôn khổ học tăng cường đa tác nhân, nơi các tác nhân không chỉ cập nhật kỹ năng ngôn ngữ tự nhiên mà còn tinh chỉnh tham số mô hình dựa trên phản hồi từ vòng lặp tự đấu, nhằm nội tại hóa kiến thức ngữ cảnh một cách sâu sắc hơn.
- Nghiên cứu cơ chế phát hiện và chống suy sụp đối nghịch (adversarial collapse) trong các hệ thống tự cải thiện đa tác nhân, tập trung vào các phương pháp động để cân bằng giữa việc khám phá điểm yếu mới và duy trì kiến thức đã học được.
- Mở rộng Ctx2Skill để xử lý các ngữ cảnh đa phương tiện (hình ảnh, âm thanh, video) bằng cách tích hợp các bộ mã hóa đa phương thức vào vòng lặp tự đấu, cho phép trích xuất kỹ năng từ các nguồn thông tin phi văn bản.
2. Patent:
- Hệ thống trợ lý ảo trên điện thoại di động có khả năng tự động đọc và học từ các tài liệu hướng dẫn sử dụng sản phẩm mới (ví dụ: thiết bị gia dụng, đồ điện tử) để tạo ra các kỹ năng tương tác và hướng dẫn người dùng thực hiện các quy trình thiết lập hoặc khắc phục sự cố một cách từng bước mà không cần kết nối internet.
- Ứng dụng học tập cá nhân hóa trên điện thoại, nơi mô hình ngôn ngữ tự động phân tích các chương sách giáo khoa hoặc bài báo khoa học phức tạp, trích xuất các quy tắc và quy trình cốt lõi thành các 'thẻ kỹ năng', sau đó tự tạo ra các câu hỏi và bài tập thực hành để kiểm tra mức độ hiểu bài của người học.
- Công cụ hỗ trợ lập trình viên trên thiết bị di động, có khả năng tự động phân tích tài liệu API hoặc mã nguồn mới để xây dựng một bộ kỹ năng lập trình đặc thù cho dự án đó. Công cụ này sẽ tự tạo ra các đoạn mã mẫu, các bài kiểm tra đơn vị và các quy tắc sử dụng API, giúp lập trình viên nhanh chóng làm quen và áp dụng các thư viện mới.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2604.27660 |
| ArXiv Abstract | https://arxiv.org/abs/2604.27660 |
| PDF Download | https://arxiv.org/pdf/2604.27660.pdf |
| Github Repository | https://github.com/S1s-Z/Ctx2Skill |
3. Persistent Visual Memory: Sustaining Perception for Deep Generation in LVLMs (14 votes)
Tác giả: Siyuan Huang, Xiaoye Qu, Yafu Li, Tong Zhu, Zefeng He, Muxin Fu, Daizong Liu, Wei-Long Zheng, Yu Cheng
Xuất bản lúc: 2026-05-01
Tag: LVLMs, Visual Signal Dilution, Attention Mechanism, Visual Injection, Cross-Attention, GRPO, Multimodal Reasoning
I. Main Problem:
Trong các mô hình Ngôn ngữ-Thị giác Lớn (LVLMs) tự hồi quy, khi quá trình sinh văn bản kéo dài, các token văn bản lịch sử ngày càng chiếm ưu thế trong cơ chế tập trung (attention), gây ra hiện tượng Pha loãng Tín hiệu Thị giác (Visual Signal Dilution). Điều này dẫn đến việc mô hình dần mất đi khả năng truy xuất thông tin từ hình ảnh gốc, làm suy giảm nghiêm trọng độ chính xác trong các tác vụ suy luận phức tạp và hội thoại kéo dài.
II. Main Idea:
Nhóm tác giả đề xuất mô-đun Persistent Visual Memory (PVM) , một nhánh song song nhẹ được tích hợp bên cạnh Mạng truyền thẳng (FFN) trong khối Transformer. Thay vì dựa vào sự chú ý tuần tự đang bị pha loãng, PVM thiết lập một đường dẫn truy xuất độc lập, sử dụng cơ chế tập trung chéo (cross-attention) chỉ trên tập token thị giác cố định. Thiết kế này đảm bảo tín hiệu hình ảnh luôn sẵn sàng và không bị ảnh hưởng bởi độ dài của lịch sử văn bản. PVM hoạt động như một bộ chuyển đổi thắt cổ chai (bottleneck adapter) trong không gian tiềm ẩn, sử dụng cổng học (learnable gate) để kết hợp tín hiệu thị giác vào luồng suy luận chính.
III. Main Results:
PVM đạt được mức cải thiện độ chính xác trung bình ấn tượng trên 8 tiêu chuẩn đánh giá đa phương thức: +4.8% trên mô hình nền Qwen3-VL-8B và +4.4% trên phiên bản 4B. Đặc biệt, hiệu suất tăng mạnh theo độ dài chuỗi sinh (tăng tới +27.3% ở nhóm văn bản dài), xác nhận PVM chống lại hiệu quả sự suy giảm tín hiệu thị giác. Phân tích cơ chế cho thấy PVM giúp tăng tốc độ hội tụ của dự đoán nội bộ thay vì chỉ đơn thuần tăng dung lượng mô hình. Mô-đun này chỉ thêm 27.92 triệu tham số (khoảng 0.32% kích thước mô hình 8B).
IV. Conclusion & Future Works:
Nghiên cứu này chỉ ra rằng việc chuyển từ lưu giữ thụ động sang cơ chế 'nhận thức theo yêu cầu' (on-demand perception) thông qua một đường dẫn truy xuất trực quan song song là chìa khóa để xây dựng trí tuệ đa phương thức mạnh mẽ trong các tác vụ suy luận dài. Các hướng phát triển trong tương lai có thể bao gồm việc mở rộng PVM cho các tác vụ video, tối ưu hóa chiến lược lựa chọn tầng tiêm tín hiệu một cách động dựa trên nội dung đầu vào, và khám phá sâu hơn về cơ chế hội tụ dự đoán nội bộ.
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu cơ chế quên thị giác thích ứng trong LVLMs: Thay vì tiêm tín hiệu thị giác một cách tĩnh ở các tầng cố định, phát triển một bộ điều khiển có khả năng dự đoán thời điểm mô hình sắp 'quên' thông tin hình ảnh dựa trên độ bất định của token đang sinh, từ đó kích hoạt động cơ chế PVM để truy xuất lại thông tin thị giác một cách thông minh.
- Mở rộng PVM cho các tác vụ hiểu video dài: Đề xuất kiến trúc Persistent Spatio-Temporal Memory, nơi mô-đun PVM không chỉ truy xuất thông tin không gian từ một khung hình tĩnh mà còn duy trì và truy xuất các đặc trưng thị giác theo thời gian từ các khung hình video trong quá khứ, giải quyết vấn đề pha loãng tín hiệu trong các chuỗi video kéo dài hàng giờ.
- Phân tích và cải thiện sự đánh đổi giữa suy luận logic và neo giữ thị giác trong quá trình đồng tối ưu hóa: Nghiên cứu chuyên sâu về xung đột giữa gradient cập nhật cho khả năng lập luận (từ văn bản) và khả năng neo thị giác (từ PVM) trong quá trình huấn luyện RL, từ đó đề xuất các chiến lược cân bằng động để tối ưu đồng thời cả hai khía cạnh mà không gây nhiễu lẫn nhau.
2. Patent:
- Hệ thống trợ lý ảo trên điện thoại với khả năng 'ghi nhớ hình ảnh bền vững' cho các cuộc hội thoại dài: Khi người dùng chia sẻ một bức ảnh (ví dụ: ảnh chụp một chiếc áo, một công thức nấu ăn) và sau đó tiếp tục trò chuyện về các chủ đề khác, trợ lý vẫn có thể quay lại trả lời chính xác các câu hỏi chi tiết về bức ảnh đó ở cuối cuộc trò chuyện mà không cần người dùng gửi lại ảnh. Công nghệ PVM đảm bảo các chi tiết thị giác không bị 'chìm' vào lịch sử chat.
- Tính năng 'Đồng họa sĩ mù' (Blind Painter Co-pilot) cho ứng dụng chỉnh sửa ảnh: Người dùng mô tả bằng giọng nói một bức ảnh phức tạp cho AI trên điện thoại (ví dụ: 'Tôi muốn một bức tranh phong cách Van Gogh về chú chó của tôi đang ngồi cạnh một tách cà phê'). Trong quá trình AI tạo ảnh và người dùng liên tục đưa ra các yêu cầu chỉnh sửa dài dòng ('đổi màu tách cà phê sang xanh đậm', 'thêm một quyển sách trên bàn'), PVM giúp mô hình duy trì chính xác tất cả các yếu tố đã được phê duyệt trước đó, tránh việc mô hình 'quên' các chi tiết ban đầu khi nhận thêm yêu cầu mới.
- Công cụ hỗ trợ học tập thông minh qua camera: Ứng dụng cho phép học sinh chụp ảnh một bài toán hình học phức tạp và bắt đầu một phiên hỏi đáp kéo dài. Khi học sinh đặt các câu hỏi suy luận nhiều bước ('Nếu em kẻ thêm đường phụ này, thì góc A có bằng góc B không? Tại sao?'), PVM đảm bảo AI luôn bám sát vào các yếu tố trong ảnh gốc (điểm, đường thẳng, góc) trong suốt quá trình suy luận, ngăn chặn các ảo giác thị giác và đưa ra lời giải thích không liên quan đến hình vẽ.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2605.00814 |
| ArXiv Abstract | https://arxiv.org/abs/2605.00814 |
| PDF Download | https://arxiv.org/pdf/2605.00814.pdf |
| Github Repository | https://github.com/huaixuheqing/PVM |
4. Repetition over Diversity: High-Signal Data Filtering for Sample-Efficient German Language Modeling (14 votes)
Tác giả: Ansar Aynetdinov, Patrick Haller, Alan Akbik
Xuất bản lúc: 2026-04-30
Tag: Data Filtering, Multi-Epoch Training, Small Language Models, Non-English LLMs, Data Quality, Sample Efficiency, German NLP
I. Main Problem:
Bài toán nghiên cứu xoay quanh một thế lưỡng nan chiến lược trong việc phát triển mô hình ngôn ngữ cho các ngôn ngữ không phải tiếng Anh nhưng có nguồn tài nguyên lớn (ví dụ: tiếng Đức). Cụ thể, khi nguồn dữ liệu web không dồi dào như tiếng Anh, việc lọc dữ liệu nghiêm ngặt để tăng chất lượng sẽ làm giảm đáng kể số lượng văn bản duy nhất. Điều này đặt ra câu hỏi: nên ưu tiên tính đa dạng bằng cách huấn luyện một lần trên tập dữ liệu lớn đã được lọc nhẹ, hay nên ưu tiên mật độ tín hiệu (chất lượng) bằng cách huấn luyện lặp lại nhiều lần trên một tập dữ liệu lõi nhỏ hơn nhưng có chất lượng cao hơn.
II. Main Idea:
Bài báo đề xuất một cách tiếp cận theo hướng "chất lượng hơn số lượng" cho ngôn ngữ tiếng Đức. Thay vì tối đa hóa số lượng token duy nhất, nhóm tác giả xây dựng một hệ thống lọc dữ liệu phân cấp gồm ba tầng chất lượng: Tính mạch lạc (Coherence), Giá trị thông tin (Information Value), và Chất lượng giáo dục (Educational Quality). Phần giao của ba tầng lọc này tạo ra một tập dữ liệu lõi đậm đặc (Dense Core) có mật độ tri thức cao. Ý tưởng cốt lõi là huấn luyện mô hình ngôn ngữ trong nhiều epoch trên tập dữ liệu lõi chất lượng cao này, và so sánh hiệu quả của nó với việc huấn luyện một lần trên tập dữ liệu lớn hơn nhưng ít được lọc hơn, trong cùng một ngân sách token cố định.
III. Main Results:
Kết quả thực nghiệm trên các mô hình có quy mô 350M và 1B tham số cho thấy việc huấn luyện lặp lại trên dữ liệu lõi chất lượng cao (Dense Core) vượt trội hơn hẳn so với việc huấn luyện một lần trên tập dữ liệu lớn và đa dạng hơn. Cụ thể, mô hình Dense Core 350M đạt điểm trung bình cao hơn 4.89 điểm so với mô hình huấn luyện trên dữ liệu ngẫu nhiên. Khoảng cách về hiệu suất này thậm chí còn được duy trì và mở rộng sau 7 epoch huấn luyện, vượt qua ngưỡng 4 epoch thường được coi là điểm bão hòa. Các mô hình BOLDT đạt kết quả tối tân (state-of-the-art) cho quy mô của chúng dù chỉ được huấn luyện trên lượng token ít hơn từ 10 đến 360 lần so với các mô hình cạnh tranh. Lợi ích từ việc tiền huấn luyện chất lượng cao cũng được bảo toàn trong giai đoạn tinh chỉnh theo chỉ thị (instruction-tuning).
IV. Conclusion & Future Works:
Nghiên cứu kết luận rằng đối với các ngôn ngữ không phải tiếng Anh có nguồn tài nguyên cao, việc lọc dữ liệu nghiêm ngặt và huấn luyện đa epoch là một chiến lược khả thi và hiệu quả hơn việc cố gắng tối đa hóa khối lượng dữ liệu duy nhất. Các hướng nghiên cứu trong tương lai bao gồm: (1) xác thực các phát hiện này trên các ngôn ngữ không phải tiếng Anh khác và các ngữ hệ khác nhau; (2) nghiên cứu tác động của chiến lược này ở quy mô mô hình và ngân sách tính toán lớn hơn nhiều (cấp công nghiệp); (3) đánh giá tác động của việc lọc dữ liệu nghiêm ngặt đến các vấn đề về định kiến, độc hại và an toàn của mô hình.
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu tác động của việc lọc dữ liệu theo hướng "mật độ tri thức" đối với các ngôn ngữ có hình thái phức tạp (ví dụ: tiếng Phần Lan, Thổ Nhĩ Kỳ) hoặc sử dụng bộ ký tự không phải Latin (ví dụ: tiếng Nhật, tiếng Ả Rập), nhằm kiểm tra tính tổng quát của phương pháp.
- Khám phá các chiến lược huấn luyện kết hợp (curriculum learning) động, trong đó một mô hình đánh giá trực tuyến sẽ tự động quyết định khi nào cần chuyển từ việc huấn luyện trên dữ liệu đa dạng, chất lượng thấp sang huấn luyện lặp lại trên tập dữ liệu lõi chất lượng cao để tối ưu hóa đường cong học tập.
- Phát triển một bộ phân loại chất lượng văn bản đa ngôn ngữ, không cần dữ liệu gán nhãn cho từng ngôn ngữ cụ thể, bằng cách sử dụng các đặc trưng liên ngôn ngữ (cross-lingual features) và kỹ thuật học chuyển giao để xác định các tài liệu có "mật độ tín hiệu" cao trên nhiều ngôn ngữ khác nhau.
2. Patent:
- Hệ thống và phương pháp tối ưu hóa hiệu suất trợ lý ảo trên thiết bị di động cho ngôn ngữ đích: Thiết bị sẽ tự động tải về một tập dữ liệu lõi "đậm đặc tri thức" đã được lọc nghiêm ngặt từ máy chủ, sau đó tiến hành tinh chỉnh mô hình ngôn ngữ nhỏ trên chính thiết bị trong nhiều epoch. Quá trình này giúp trợ lý ảo hoạt động chính xác và mượt mà hơn bằng ngôn ngữ bản địa (ví dụ: tiếng Đức, tiếng Việt) mà không cần kết nối internet liên tục hay tiêu tốn quá nhiều tài nguyên tính toán của điện thoại.
- Phương pháp lọc thông minh để tạo bộ dữ liệu cá nhân hóa trên điện thoại thông minh: Một quy trình trên thiết bị di động có khả năng phân tích và lọc tất cả các loại văn bản người dùng gặp phải (tin nhắn, email, bài báo đã lưu) dựa trên ba tiêu chí: tính mạch lạc, giá trị thông tin và chất lượng giáo dục. Hệ thống sẽ xây dựng một "bộ dữ liệu lõi cá nhân" an toàn, riêng tư, chỉ chứa thông tin mật độ cao, để tinh chỉnh bàn phím thông minh hoặc mô hình dự đoán văn bản, giúp cải thiện đáng kể khả năng gợi ý từ và sửa lỗi chính tả theo ngữ cảnh.
- Cơ chế đánh giá và sửa lỗi tự động cho các bộ kiểm tra tiếng nước ngoài trên ứng dụng di động: Khi một nhà phát triển tích hợp bộ dữ liệu đánh giá đa ngôn ngữ (ví dụ: bộ câu hỏi trắc nghiệm) vào ứng dụng học tập, một mô-đun phần mềm sẽ tự động phát hiện và cảnh báo các lỗi dịch thuật làm sai lệch bản chất bài kiểm tra (như lỗi trật tự từ trong các ngôn ngữ có cấu trúc câu khác tiếng Anh). Mô-đun này sẽ đề xuất bản dịch sửa lỗi hoặc loại bỏ câu hỏi lỗi, đảm bảo chất lượng và độ tin cậy của các bài đánh giá năng lực ngôn ngữ ngay trên điện thoại.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2604.28075 |
| ArXiv Abstract | https://arxiv.org/abs/2604.28075 |
| PDF Download | https://arxiv.org/pdf/2604.28075.pdf |
| Github Repository | N/A |
5. Hallucinations Undermine Trust; Metacognition is a Way Forward (12 votes)
Tác giả: Gal Yona, Mor Geva, Yossi Matias
Xuất bản lúc: 2026-05-02
Tag: LLMs, Hallucination, Metacognition, Uncertainty Quantification, Faithful Uncertainty, Agentic AI, Calibration, Discrimination, Factuality
I. Main Problem:
Dù đã có nhiều cải thiện về độ chính xác, các mô hình ngôn ngữ lớn (LLMs) vẫn tạo ra các "ảo giác" (hallucinations) - những thông tin sai lệch được trình bày một cách tự tin. Vấn đề cốt lõi được chỉ ra là hầu hết các tiến bộ về tính xác thực chỉ đến từ việc mở rộng ranh giới kiến thức (biết nhiều hơn) chứ không phải từ việc cải thiện khả năng tự nhận thức về ranh giới đó (biết những gì mình không biết). Các tác giả lập luận rằng các mô hình về cơ bản thiếu khả năng phân biệt (discriminative power) để tách biệt hoàn hảo đâu là sự thật và đâu là lỗi sai. Điều này tạo ra một sự đánh đổi cố hữu: để loại bỏ hoàn toàn ảo giác, mô hình buộc phải từ chối trả lời khi không chắc chắn, dẫn đến việc đánh mất nhiều thông tin hữu ích (đánh đổi giữa độ chính xác và tính hữu dụng).
II. Main Idea:
Bài báo đề xuất định nghĩa lại "ảo giác" là "lỗi tự tin" (confident error) thay vì chỉ đơn thuần là lỗi. Thay vì cố gắng loại bỏ mọi lỗi, các tác giả đề xuất một hướng đi thứ ba là "thể hiện sự không chắc chắn một cách trung thực" (Faithful Uncertainty). Đây là một khía cạnh của siêu nhận thức (metacognition) - khả năng tự nhận thức về sự không chắc chắn của chính mình và hành động dựa trên nhận thức đó. Mục tiêu là căn chỉnh sự không chắc chắn về mặt ngôn ngữ (cách mô hình diễn đạt sự do dự) với sự không chắc chắn nội tại (xác suất thống kê bên trong mô hình). Cách tiếp cận này không yêu cầu mô hình phải biết khi nào nó sai so với thế giới thực, mà chỉ cần biết khi nào nó không chắc chắn về mặt nội tại. Đối với các hệ thống tác tử (agentic systems), siêu nhận thức đóng vai trò như lớp điều khiển để quyết định khi nào nên sử dụng công cụ tìm kiếm và xử lý xung đột thông tin.
III. Main Results:
- Khoảng cách phân biệt (Discrimination Gap): Các tín hiệu tự tin hiện tại của LLMs có khả năng hiệu chuẩn (calibration) tốt nhưng khả năng phân biệt (discrimination) kém. AUROC cho việc phân biệt câu trả lời đúng và sai thường chỉ đạt 0.70–0.85, không đủ để thoát khỏi sự đánh đổi với tính hữu dụng. Để giảm tỷ lệ lỗi từ 25% xuống 5%, mô hình phải hy sinh hơn 50% câu trả lời đúng.
- Bằng chứng thực nghiệm: Biểu đồ từ bộ dữ liệu SimpleQA Verified cho thấy các mô hình tiên tiến nhất hoặc có tỷ lệ ảo giác cao (để tối ưu độ bao phủ) hoặc phải từ chối quá nhiều (để tối ưu độ chính xác), không mô hình nào đạt được góc phần tư lý tưởng.
- Tính khả thi của Faithful Uncertainty: Việc thể hiện sự không chắc chắn một cách trung thực được lập luận là khả thi về mặt nguyên tắc vì nó chỉ yêu cầu mô hình ánh xạ trạng thái nội tại của nó sang ngôn ngữ, thay vì phải giải quyết bài toán khó là biết khi nào trạng thái đó tương ứng với sự thật.
IV. Conclusion & Future Works:
Việc loại bỏ hoàn toàn ảo giác là cực kỳ khó khăn do những giới hạn về mặt lý thuyết và thực nghiệm trong khả năng phân biệt của mô hình. Thay vì theo đuổi mục tiêu bất khả thi này, hướng đi khả dĩ và cấp thiết hơn là phát triển siêu nhận thức cho LLMs, cụ thể là khả năng thể hiện sự không chắc chắn một cách trung thực. Điều này không chỉ xây dựng lòng tin trong tương tác trực tiếp mà còn là nền tảng cho các hệ thống tác tử (AI Agent) hoạt động đáng tin cậy. Các hướng nghiên cứu trong tương lai bao gồm: phát triển các kiến trúc và phương pháp huấn luyện mới để cải thiện khả năng tự đánh giá, tạo ra các phép đo đánh giá tập trung vào khả năng phân biệt thay vì chỉ hiệu chuẩn, và nghiên cứu cách tích hợp siêu nhận thức làm lớp điều khiển cho các tác tử AI phức tạp.
V. Brainstorming Space:
1. Publish Papers:
- Nghiên cứu phát triển một kiến trúc mô-đun cho LLMs, trong đó một mô-đun siêu nhận thức chuyên biệt được huấn luyện riêng để đánh giá độ không chắc chắn nội tại của các dự đoán từ mô hình chính, nhằm cải thiện điểm AUROC trong các tác vụ hỏi đáp kiến thức đuôi dài (long-tail knowledge).
- Khám phá các chiến lược học tăng cường (RL) để huấn luyện tác tử AI sử dụng tín hiệu không chắc chắn nội tại làm phần thưởng cho việc quyết định khi nào nên gọi công cụ tìm kiếm, hướng tới việc giảm thiểu việc lạm dụng công cụ và tối ưu chi phí tính toán.
- Đề xuất một bộ tiêu chuẩn đánh giá mới cho khả năng siêu nhận thức của LLMs, tập trung vào việc đo lường mức độ căn chỉnh giữa biểu hiện ngôn ngữ không chắc chắn và sự không chắc chắn về ngữ nghĩa bên trong mô hình, thay vì chỉ dựa trên độ chính xác của câu trả lời cuối cùng.
2. Patent:
- Hệ thống trợ lý ảo trên điện thoại thông minh có khả năng tự đánh giá độ tin cậy của câu trả lời trước khi hiển thị cho người dùng. Khi trợ lý không chắc chắn về một sự kiện (ví dụ: giờ đóng cửa của một cửa hàng), thay vì im lặng hoặc đưa ra thông tin sai, nó sẽ chủ động hiển thị câu trả lời kèm theo một chỉ báo trực quan (như thanh màu hoặc biểu tượng) thể hiện mức độ tin cậy, đồng thời gợi ý người dùng tự xác minh qua một cú chạm để gọi điện hoặc tìm kiếm.
- Cơ chế kiểm soát truy cập dựa trên độ không chắc chắn cho các tác vụ nhạy cảm trên thiết bị di động. Khi người dùng yêu cầu trợ lý ảo thực hiện một hành động có rủi ro cao (như soạn tin nhắn chứa thông tin tài chính hoặc sức khỏe), mô hình siêu nhận thức sẽ đánh giá độ chính xác của nội dung. Nếu mức độ không chắc chắn vượt ngưỡng, hệ thống sẽ tự động khóa bước gửi đi và yêu cầu người dùng xác nhận lại một cách tường minh trước khi thực thi.
- Phương pháp tạo phản hồi thích ứng theo ngữ cảnh trên loa thông minh hoặc thiết bị đeo. Dựa trên mức độ không chắc chắn nội tại và ngữ cảnh (ví dụ: người dùng đang hỏi nhanh khi đang lái xe hoặc đang rảnh rỗi ở nhà), hệ thống sẽ tự động điều chỉnh cách diễn đạt. Khi độ không chắc chắn cao và người dùng đang bận, thiết bị sẽ nói ngắn gọn "Tôi không rõ, hãy kiểm tra sau". Khi người dùng rảnh, nó sẽ nói "Tôi nghĩ là X, nhưng tôi không hoàn toàn chắc chắn, bạn có muốn tôi tra cứu chi tiết không?".
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2605.01428 |
| ArXiv Abstract | https://arxiv.org/abs/2605.01428 |
| PDF Download | https://arxiv.org/pdf/2605.01428.pdf |
| Github Repository | N/A |
6. OceanPile: A Large-Scale Multimodal Ocean Corpus for Foundation Models (12 votes)
Tác giả: Yida Xue, Ningyu Zhang, Tingwei Wu, Zhe Ma, Daxiong Ji, Zhao Wang, Guozhou Zheng, Huajun Chen
Xuất bản lúc: 2026-04-25
Tag: Multimodal Large Language Models, Ocean AI, Knowledge Graph, Instruction Tuning, Dataset, Benchmark, Sonar, Underwater Vision
I. Main Problem:
Trí tuệ nhân tạo, đặc biệt là các Mô hình Ngôn ngữ Lớn Đa phương thức (MLLMs), chưa tạo được nhiều tác động trong lĩnh vực khoa học đại dương do một nút thắt dữ liệu cơ bản. Dữ liệu đại dương hiện đang bị phân mảnh cao, tồn tại dưới nhiều dạng thức khác nhau (sonar, hình ảnh, văn bản), chứa nhiều nhiễu và được gán nhãn yếu, thiếu các lược đồ thống nhất và sự liên kết ngữ nghĩa. Sự thiếu vắng các bộ dữ liệu đa phương thức quy mô lớn, được liên kết tốt dành riêng cho môi trường biển đã hạn chế nghiêm trọng khả năng phát triển năng lực suy luận chuyên ngành của các MLLMs cho các tác vụ trí tuệ hàng hải.
II. Main Idea:
Nhóm tác giả giới thiệu OceanPile, một kho ngữ liệu đa phương thức quy mô lớn được thiết kế cho các mô hình nền tảng về đại dương. OceanPile tích hợp dữ liệu từ nhiều nguồn rời rạc thành một tài nguyên thống nhất, bao gồm ba thành phần chính: OceanCorpus (tập hợp dữ liệu thô đa dạng từ sách giáo khoa, bài báo, web, sonar, hình ảnh dưới nước), OceanInstruction (bộ dữ liệu hướng dẫn chất lượng cao được tổng hợp thông qua một quy trình mới sử dụng Đồ thị Tri thức Khái niệm Đại dương phân cấp), và OceanBenchmark (bộ đánh giá được tuyển chọn thủ công). Một quy trình kiểm soát chất lượng đa giai đoạn được thiết lập để đảm bảo tính hợp lệ về mặt khoa học và sự liên kết giữa các phương thức.
III. Main Results:
Kết quả thực nghiệm cho thấy các mô hình được huấn luyện với dữ liệu từ OceanPile đạt được những cải thiện hiệu suất đáng kể. Cụ thể, mô hình Qwen3-VL-8B sau khi tinh chỉnh với OceanInstruction đã vượt qua các mô hình mạnh mẽ như GPT-5 và Gemini-3-Flash trên tổng thể đánh giá đa phương thức của OceanBenchmark (đạt 32.59%). Các cải thiện nổi bật nhất được ghi nhận ở tác vụ Hỏi đáp trực quan về Sinh vật Biển (từ 9.96% lên 48.52%) và Hỏi đáp trực quan về Sonar (từ 8.04% lên 19.97%).
IV. Conclusion & Future Works:
OceanPile là nỗ lực toàn diện đầu tiên nhằm thu hẹp khoảng cách lĩnh vực trong AI hàng hải bằng cách cung cấp dữ liệu đại dương đa phương thức được liên kết cẩn thận. Nó giải quyết các thách thức về phân mảnh dữ liệu và thiếu liên kết ngữ nghĩa, tạo ra chất nền thiết yếu cho việc phát triển các MLLMs chuyên ngành có năng lực. Tất cả các bộ dữ liệu đều được công bố công khai để thúc đẩy lĩnh vực trí tuệ nhân tạo hàng hải. Các hướng nghiên cứu trong tương lai có thể tập trung vào việc mở rộng phạm vi dữ liệu, cải thiện kỹ thuật liên kết đa phương thức và phát triển các mô hình nền tảng đại dương tiên tiến hơn.
V. Brainstorming Space:
1. Publish Papers:
- Phát triển phương pháp học biểu diễn đa phương thức mới giúp thu hẹp khoảng cách ngữ nghĩa giữa dữ liệu âm thanh (sonar) và hình ảnh quang học dưới nước, sử dụng kỹ thuật học tương phản trên tập dữ liệu OceanCorpus để tạo ra không gian nhúng thống nhất cho nhận thức dưới nước.
- Nghiên cứu xây dựng mô hình nền tảng đại dương chuyên sâu có khả năng suy luận liên ngành (vật lý, hóa học, sinh học biển), dựa trên việc huấn luyện đa nhiệm với sự dẫn dắt của Đồ thị Tri thức Khái niệm Đại dương (OCG) từ OceanPile.
- Đề xuất khung đánh giá mới cho MLLMs trong lĩnh vực khoa học biển, tập trung vào khả năng suy luận chuỗi và hiểu biết không gian-thời gian từ dữ liệu quan trắc đại dương đa phương thức, mở rộng từ bộ OceanBenchmark hiện tại.
2. Patent:
- Hệ thống trên điện thoại thông minh hỗ trợ ngư dân và thợ lặn nhận diện loài sinh vật biển và cảnh báo nguy hiểm (ví dụ: sứa độc, cá dữ) theo thời gian thực, sử dụng camera điện thoại và mô hình MLLM đã được tinh chỉnh cho tác vụ nhận diện loài từ OceanPile, hoạt động ngay cả khi không có kết nối mạng.
- Ứng dụng di động cho phép người dùng chụp ảnh mẫu nước biển hoặc trầm tích, sau đó sử dụng mô hình đa phương thức được huấn luyện trên OceanPile để phân tích và cung cấp thông tin trực quan về các chỉ số môi trường cơ bản (như độ đục, màu sắc liên quan đến tảo), hỗ trợ giám sát môi trường biển quy mô cộng đồng.
- Tính năng 'phiên dịch sonar' trên thiết bị di động dành cho người điều khiển tàu cá hoặc thiết bị lặn, cho phép tải lên hình ảnh sonar quét được, sau đó mô hình AI trên điện thoại sẽ phác họa và chú thích các vật thể dưới nước (như đàn cá, xác tàu, đá ngầm) lên bản đồ trực quan đơn giản, giúp người dùng phổ thông dễ dàng hiểu được thông tin dưới đáy biển.
Các đường dẫn liên quan
| Nền tảng | Đường dẫn |
|---|---|
| Hugging Face | https://huggingface.co/papers/2605.00877 |
| ArXiv Abstract | https://arxiv.org/abs/2605.00877 |
| PDF Download | https://arxiv.org/pdf/2605.00877.pdf |
| Github Repository | https://github.com/OceanGPT/OceanPile |