这项由中科院自动化研究所邢兴润、张家俊与小红书技术团队合作完成的突破性研究发表于2025年12月，论文编号为arXiv:2512.03442v1。感兴趣的读者可以通过这个编号查询完整的研究论文。

当我们学习一门新技能时，比如学做菜，我们不会漫无目的地翻看所有食谱。相反，我们会主动选择那些看起来有趣、难度适中、能教给我们新东西的菜谱。我们会跳过那些太简单或者看不懂的内容，专注于那些"正好超出我们当前能力一点点"的挑战。这种主动选择学习内容的能力，正是人类学习如此高效的秘密。

然而，目前的AI大语言模型却完全不是这样学习的。它们就像一个被迫按照固定菜谱顺序学做菜的学徒，必须从第一页开始，逐字逐句地"啃"完整本食谱，无论内容是否对自己有用。这种被动的学习方式不仅效率低下，更重要的是，当遇到需要深度推理的复杂问题时，这些AI往往表现得力不从心。

为了解决这个问题，中科院的研究团队开发了一个名为"PretrainZero"的革命性系统。这个系统最大的突破在于：它是世界上第一个能够让AI像人类一样"主动学习"的预训练框架。更令人震惊的是，它完全不需要人工标注的数据，就能让AI自己从维基百科这样的通用文本中挑选有价值的内容来学习。

一、当前AI学习的根本问题：被动灌输vs主动探索

要理解这项研究的重要意义，我们需要先了解当前AI训练面临的核心困境。

目前训练大语言模型主要有两个阶段，就像培养一个专业厨师的过程。第一阶段叫"预训练"，相当于让AI读遍所有的基础食谱书，学会基本的语言理解能力。第二阶段叫"后训练"，通过强化学习让AI学会解决特定问题，比如数学题或编程任务，就像让厨师专门训练做法式料理或中式点心。

预训练阶段虽然能让AI获得广泛的知识，但就像让学生死记硬背教科书一样，AI并不真正理解如何运用这些知识进行复杂推理。而后训练阶段虽然能让AI在特定任务上表现出色，但面临一个严重问题：需要大量经过专家验证的高质量数据。

研究团队形象地将这个问题称为"验证数据壁垒"。比如，要训练AI解数学题，就需要大量带有标准答案的数学题；要训练AI写代码，就需要大量经过验证的代码样本。这就像培训一个厨师，必须有经验丰富的大厨在旁边不断纠正和指导。这种方式虽然有效，但成本极高，而且很难扩展到更广泛的推理领域。

更关键的是，现有的强化学习方法只能在那些有明确对错标准的特定领域工作，比如数学计算或代码编写。但对于更广泛的常识推理、文本理解等任务，我们很难找到这样明确的验证标准。这就导致AI的推理能力被严重限制在几个狭窄的专业领域内。

二、PretrainZero的核心创新：让AI学会"主动挑食"

PretrainZero最令人惊叹的创新，就是让AI学会了"主动挑食"。就像一个聪明的学生不会盲目地从头到尾背诵整本教科书，而是会主动识别哪些内容对自己最有价值一样，PretrainZero让AI获得了这种主动学习的能力。

这个系统的工作原理可以用一个有趣的比喻来理解：把AI想象成一个学习小组里的两个角色。第一个角色是"出题者"，负责从课本中挑选练习题；第二个角色是"答题者"，负责解答这些题目。但这里有个巧妙的设计：出题者的目标是找到那些"刚好难倒答题者"的题目，而答题者的目标是正确回答尽可能多的问题。

具体来说，PretrainZero面对一段维基百科文本时，会启动一个双重过程。首先，"出题者"会扫描这段文本，主动选择其中最有信息量的词汇或短语进行遮盖，就像在课文中挖空白一样。这个选择过程不是随机的，而是经过深思熟虑的：它会避开那些太简单或太难的内容，专注于那些具有适当挑战性的部分。

接着，"答题者"看到这个挖空的文本后，需要通过推理来填补空白。关键是，它不能简单地猜测答案，而必须展示完整的推理过程，就像学生在考试中不仅要写出答案，还要写出解题步骤一样。这个推理过程往往包含多个步骤的逻辑分析，确保AI真正理解了文本内容，而不是简单地记忆答案。

这种设计的巧妙之处在于创造了一个自我进化的学习循环。当答题者答对了太多问题时，出题者就会选择更有挑战性的内容；当答题者频繁答错时，出题者就会适当降低难度。这样，整个系统始终保持在最适合学习的"甜蜜点"上，既不会因为太简单而浪费时间，也不会因为太难而无法学习。

三、技术实现：巧妙的对抗式学习机制

PretrainZero的技术实现采用了一个精巧的对抗式学习框架，就像两个棋手在博弈中共同提高技艺一样。

在传统的AI训练中，模型只能被动接受固定的训练任务，就像学生只能按照老师事先准备好的习题册做练习。而PretrainZero则让同一个AI模型扮演两个角色：既是老师又是学生，既是出题者又是答题者。这种设计让AI获得了前所未有的主动学习能力。

当系统遇到一段文本时，比如关于古罗马历史的维基百科文章，"出题者"角色会仔细分析这段文本，寻找最有价值的学习目标。它不会简单地随机选择单词进行遮盖，而是会考虑多个因素：这个词汇是否包含重要信息？根据上下文推断这个词汇的难度如何？这个词汇是否能够通过逻辑推理得出答案？

经过这种智能筛选，出题者可能会选择遮盖"凯撒"这个关键人物名称，或者"公元前44年"这个重要时间点，而不是"的"、"在"这样的功能词汇。这种选择确保了学习过程始终聚焦于最有价值的内容。

当"答题者"角色接收到这个挖空文本后，它需要展开详细的推理过程。比如，面对"[遮盖词]在公元前44年遇刺身亡，结束了罗马共和国的历史"这样的句子，答题者不会简单地输出"凯撒"，而是会进行一系列推理：首先分析时间背景，然后考虑历史背景，最后得出这个人物最可能是凯撒，并详细解释推理过程。

这种对抗式训练的精妙之处在于，两个角色的目标是相互矛盾的。出题者希望找到能够"难倒"答题者的问题，而答题者希望正确回答尽可能多的问题。这种矛盾推动了持续的进步：当答题者变得更强时，出题者也必须变得更聪明；当出题者找到更有挑战性的问题时，答题者也被迫提升自己的推理能力。

四、实验验证：显著超越传统方法的推理能力

研究团队在多个基础模型上验证了PretrainZero的效果，结果令人印象深刻。他们选择了不同规模的语言模型进行测试，包括30亿到300亿参数的各种模型，就像在不同年级的学生身上验证同一种教学方法的效果。

在Qwen3-4B基础模型上，PretrainZero在三个重要的推理基准测试中都取得了显著提升。在MMLU-Pro这个综合推理测试中，性能提升了8.43分；在SuperGPQA这个研究生级别的多学科测试中，提升了5.96分；在数学推理的平均表现上，更是提升了10.60分。这些提升幅度在AI领域属于非常显著的进步。

更重要的是，研究团队还验证了PretrainZero训练出的模型在后续专门任务训练中的表现。就像一个通过广泛阅读提高了基础能力的学生，在学习特定科目时也会表现得更出色。实验表明，经过PretrainZero预训练的模型在接受专门的数学或科学推理训练后，最终性能比传统方法训练的模型高出2到3分。

特别值得注意的是训练过程中模型推理能力的逐步提升。研究团队观察到，随着训练的进行，模型生成的推理过程越来越详细和准确。初期，模型可能只能进行简单的填空，但随着训练的深入，它开始展现出多步骤的逻辑推理能力，能够从多个角度分析问题，考虑不同的可能性，最终得出合理的结论。

研究团队还发现了一个有趣的现象：尽管训练过程中模型的回答变得更长更详细，但在实际应用中，模型的推理效率反而提高了。这说明模型学会了在需要深度思考时进行充分推理，而在处理简单问题时保持简洁，显示出了类似人类的智能推理模式。

五、与传统方法的关键差异：从被动接受到主动探索

PretrainZero与传统AI训练方法的差异，就像主动学习的优秀学生与被动听讲的普通学生之间的差异一样根本。

传统的AI预训练就像让学生按顺序阅读整套百科全书，不管内容是否对自己有用，都必须逐字逐句地学习。这种方法虽然能让AI获得广泛的知识覆盖，但学习效率极低，而且很难培养出深度推理能力。更重要的是，这种被动学习方式无法让AI学会区分什么是重要信息，什么是次要信息。

传统的强化学习后训练则面临另一个极端：需要大量专家标注的高质量数据，就像需要一对一的私人导师时时刻刻进行指导。这种方法虽然在特定任务上效果显著，但成本极高，而且很难扩展到更广泛的推理领域。

PretrainZero的革命性突破在于找到了这两种方法之间的最佳平衡点。它既利用了预训练阶段丰富而廉价的文本数据，又实现了强化学习的深度推理训练，关键是整个过程完全不需要人工标注。这就像培养出了一个既有广博知识又有深度思考能力的全才学生，而且这个培养过程不需要昂贵的一对一辅导。

另一个重要差异在于学习目标的设定。传统方法的学习目标是固定的，比如预测下一个词汇或者完成特定格式的任务。而PretrainZero的学习目标是动态变化的，随着模型能力的提升，学习任务的难度也会相应调整。这种适应性学习确保了模型始终处于最佳学习状态，既不会因为任务太简单而停滞不前，也不会因为任务太难而无法进步。

六、实际应用前景：重塑AI能力边界

PretrainZero的成功不仅是学术界的突破，更预示着AI应用领域的根本性变革。这种主动学习能力的获得，将让AI在许多之前无法胜任的场景中发挥重要作用。

在教育领域，PretrainZero式的AI可以成为真正智能的个人导师。它不会像传统的教学软件那样机械地按照预设程序授课，而是能够主动识别学生的知识盲点，自动调整教学内容的难度和重点，就像一位经验丰富的老师能够根据学生的反应灵活调整教学策略一样。

在科研领域，这种主动学习能力将让AI成为研究人员的得力助手。面对海量的科学文献，AI不再需要人工标注哪些内容重要，而是能够自主识别最有价值的信息，主动发现不同研究之间的潜在联系，甚至可能提出新的研究假设。这将大大加速科学发现的进程。

在内容创作领域，PretrainZero训练的AI将具备更强的创造性推理能力。它不仅能够生成文本，更能够进行深度思考，分析不同观点，探索创新角度，创作出更有深度和洞察力的内容。

特别值得期待的是，这种技术将让AI的推理能力从狭窄的专业领域扩展到更广泛的常识推理。目前的AI虽然在数学、编程等有明确对错标准的领域表现出色，但在需要常识判断、道德推理、创意思考等更复杂的人类智能活动中仍然表现有限。PretrainZero开辟的这条技术路径，为解决这些挑战提供了新的可能。

七、技术挑战与未来发展方向

尽管PretrainZero取得了突破性进展，但研究团队也坦诚地指出了当前技术面临的挑战和限制。

首先是计算效率的问题。由于需要同时训练"出题者"和"答题者"两个角色，而且每个角色都需要生成复杂的推理过程，PretrainZero的计算需求比传统方法更高。这就像培养一个既会出题又会答题的全能学生，需要投入更多的教育资源。研究团队正在探索各种优化方法，包括更高效的模型架构和训练策略。

其次是学习稳定性的挑战。在对抗式学习过程中，出题者和答题者的能力必须保持相对平衡，否则可能出现一方压倒另一方的情况。比如，如果出题者变得过于"刁钻"，可能会选择一些无法通过合理推理得出答案的问题，导致整个学习过程崩溃。研究团队开发了多种平衡机制来确保训练过程的稳定性。

第三个挑战是如何评估学习质量。由于PretrainZero是一个完全自主的学习系统，如何确保它学到的是有价值的知识而不是错误的关联，这需要更精细的评估方法。研究团队正在开发更全面的评估框架，不仅关注最终任务的表现，也要评估推理过程的合理性和知识的准确性。

展望未来，研究团队计划在几个方向上继续深化这项技术。他们希望将PretrainZero的主动学习机制扩展到多模态学习中，让AI不仅能从文本中主动学习，也能从图像、音频等其他类型的数据中主动提取知识。另外，他们也在探索如何将这种主动学习能力应用到持续学习中，让AI能够在不断变化的环境中持续适应和进步。

说到底，PretrainZero为我们展示了一种全新的AI训练哲学：不是被动地灌输知识，而是主动地探索和学习。这种转变不仅提升了AI的推理能力，更重要的是，它让AI获得了类似人类的学习智慧。当AI学会了如何学习，它就真正开始走向智能的本质。

这项研究的成功证明，我们不需要等待更大的模型或更多的数据，通过巧妙的算法设计，就能让现有的AI系统获得质的提升。这为整个AI领域提供了新的发展思路：与其单纯追求模型规模的扩大，不如专注于让AI学会更智能的学习方式。

归根结底，PretrainZero不仅仅是一个技术突破，更是对AI发展方向的深刻思考。它提醒我们，真正的智能不在于记住多少知识，而在于能够主动地、有选择地从环境中学习，并运用这些知识进行创造性的思考。有兴趣深入了解这项研究细节的读者，可以通过arXiv:2512.03442v1查询完整的技术论文。

Q&A

Q1：PretrainZero如何实现AI的主动学习能力？

A：PretrainZero让同一个AI模型扮演两个角色：出题者负责从文本中挑选有挑战性的内容进行遮盖，答题者负责通过推理填补空白。出题者会主动选择那些既不太简单也不太难的内容，而答题者必须展示完整的推理过程。这种对抗式设计让AI学会了像人类一样主动选择学习内容。

Q2：PretrainZero相比传统AI训练方法有什么优势？

A：传统方法要么是被动学习所有内容（预训练），要么需要大量人工标注数据（强化学习后训练）。PretrainZero既利用了廉价的通用文本数据，又实现了深度推理训练，关键是完全不需要人工标注。它还能动态调整学习难度，确保AI始终处于最佳学习状态，这比固定难度的传统方法更高效。

Q3：PretrainZero训练出的AI模型性能提升有多大？

A：在Qwen3-4B基础模型上，PretrainZero在MMLU-Pro综合推理测试中提升了8.43分，在SuperGPQA研究生级测试中提升了5.96分，数学推理平均提升了10.60分。更重要的是，经过PretrainZero预训练的模型在后续专门任务训练中，最终性能比传统方法训练的模型还要高出2到3分。