剑桥 CASP 报告：AI 研发自动化或触发「智能爆炸」，1.5 年内研发速度可能提高 10 倍

【导读】

如果有一天，AI 不再只是帮助人类写代码、做实验，而是开始独立研究 AI、设计下一代模型、优化训练算法，甚至自主决定下一步应该研究什么，会发生什么？

这可能意味着一个全新的技术时代：AI 越来越聪明，研究效率越来越高，而更聪明的 AI 又反过来加速下一代 AI 的诞生。一旦这个循环形成正反馈，人类过去需要数年才能完成的技术进步，可能被压缩到数月，甚至更短的时间内。

2026 年 9 月，剑桥大学相关研究机构 CASP 发布了一篇重磅工作论文《What if automating AI R&D triggers an intelligence explosion?》。这篇论文汇集了 Geoffrey Hinton、Yoshua Bengio、OpenAI 联合创始成员 Jakub Pachocki、Anthropic 联合创始人 Jack Clark 等多位 AI 领域知名研究者和专家的观点，系统分析了 AI 自动化自身研发可能引发的「智能爆炸」。

论文提出了一个值得整个 AI 行业认真思考的问题：当 AI 研发本身被 AI 自动化，技术进步是否会从线性加速转向递归式、自我强化的指数级增长？

更值得关注的是，论文并没有把这种可能性停留在科幻层面，而是从研发自动化进展、经济学模型、算力与数据瓶颈、社会风险以及治理机制等多个维度展开分析。

这不仅关乎 AI 下一代模型何时出现，更关乎人类是否还有足够的时间理解、控制和适应 AI 的发展速度。

• AI 正在成为 AI 的研发者。从编写代码、调试模型，到提出研究假设、执行实验，AI 已经开始承担越来越多核心研发工作。

• 递归自我改进可能形成正反馈。AI 越强大，可承担的研发工作越多；研发效率越高，又能更快创造更强大的 AI。

• 智能爆炸并非简单的指数增长。真正值得关注的是研发能力提升与 AI 自身能力提升之间形成的闭环。

• 四类瓶颈决定智能爆炸能否发生。边际收益递减、算力与数据限制、难以自动化的任务，以及耗时的研发流程。

• 论文给出了一个值得关注的定量推演。在特定模型假设成立的情况下，AI 进步速度可能在约 1.5 年内提高 10 倍。但这不是确定性预测。

• 智能爆炸是一把双刃剑。它可能提前带来医学突破和科学发现，也可能使 AI 风险、社会适应和人类控制能力之间出现严重失衡。

• 治理窗口可能比想象中更短。论文提出三项政策优先事项：提高 AI 研发自动化透明度、建立引导和约束机制，以及提前做好社会适应准备。

如果 AI 开始研究 AI，技术进步还会有极限吗？

2026 年 9 月，一篇来自剑桥大学相关研究机构 CASP 的工作论文，向整个 AI 行业抛出了一个极具冲击力的问题：

What if automating AI R&D triggers an intelligence explosion?

翻译过来就是：如果 AI 研发自动化触发了一场智能爆炸，会发生什么？

这篇论文的作者阵容相当引人注目。

其中包括深度学习领域的重要奠基人 Geoffrey Hinton、Yoshua Bengio，OpenAI 的 Jakub Pachocki，Anthropic 联合创始人 Jack Clark，以及微软的 Eric Horvitz 等多位 AI 领域研究者和行业人士。

他们关注的不是 AI 又能通过多少项基准测试，也不是下一代大模型的参数规模会增长多少，而是一个更加根本的问题：

当 AI 不再只是人类研发工具，而是开始成为 AI 的研发者，人类熟悉的技术进步曲线是否还会继续成立？

想象一下这样一个场景：

今天，研究人员使用 AI 编写代码、调试模型、设计实验。

明天，AI 开始自主提出新的算法，设计训练方案，分析实验结果。

后天，AI 利用这些研究成果开发出能力更强的下一代 AI。

而下一代 AI，又比上一代更擅长研究 AI……

这就形成了一个不断自我强化的闭环。

一旦这个闭环运转起来，人类过去需要几年才能完成的技术进步，可能在几个月内就会发生。

这就是论文所讨论的「智能爆炸」。

它听起来像科幻小说中的情节，但研究团队认为，现有证据已经足以让我们认真对待这种可能性。

更重要的是，这场变革可能不是发生在遥远的未来，而是正在从 AI 研发实验室内部开始。

一个正在发生的转变：AI 开始研究 AI

过去几年，我们已经习惯了 AI 帮助人类完成各种工作。

程序员让 AI 写代码，研究人员让 AI 阅读论文，科学家让 AI 分析实验数据。

但这篇论文揭示的变化更加深刻：

AI 正在进入创造下一代 AI 的核心研发流程。

这意味着，AI 的角色正在发生变化。

从研发工具，到研发助手，再到能够独立承担部分研发任务的研究者。

论文引用了一个非常值得关注的数据。

Anthropic 报告显示，在其内部研发流程中，AI 生成并获得批准的代码占比，从 2025 年 1 月的个位数百分比，上升到了 2026 年 5 月的 80% 以上。

与此同时，在 2026 年 3 月至 8 月期间，能够在仅有高层次人工监督的情况下自主完成的研发工作比例，从 1% 上升到了 26%。

这两个数字传递出一个重要信号：

AI 不仅仅是在帮助研究人员提高编码效率，它正在承担越来越多原本需要人类研究人员完成的工作。

论文还引用了 OpenAI 和 Google 的内部实践情况。

OpenAI 表示，AI 辅助已经应用于公司几乎所有技术和非技术团队，能够执行代码的 Agent 已经参与模型训练、评估以及未来模型的安全工作。

Google 则表示，AI 已经被广泛应用于代码编写、配置、技术设计和研究创意等工作。

这意味着，AI 研发自动化已经不再只是一个实验室里的概念。

它正在进入真实的工业化研发流程。

AI 已经能够完成过去需要人类专家数小时甚至数天的任务

论文进一步指出，与 2023 年只能完成几秒钟级别的任务相比，现在最先进的 AI 系统已经能够完成一些需要人类专家花费数小时甚至数天的 AI 研发任务。

更值得关注的是，AI 在某些研究任务上已经能够超越人类专家。

例如：

• 在某些 AI 安全研究问题上，AI 自主生成了优于人类研究人员的解决方案。

• 在部分研究场景中，AI 对哪些研究想法最终能够取得成果的预测，比人类研究人员更加准确。

• AI 能够帮助判断下一步应该采取什么研究行动。

甚至已经出现了端到端自动化 AI 研究的早期案例。

2026 年 3 月发表在《Nature》上的一项研究，展示了一个自动化研究流水线：AI 自动生成研究想法、执行实验，最终撰写出一篇通过顶级机器学习会议 Workshop 同行评审的论文。

当然，这并不意味着 AI 已经可以完全取代研究人员。Workshop 的评审标准与主会议论文也存在差异。

当前 AI 仍然会犯错、偏离指令、错误报告工作结果，甚至无法完成部分任务。

但趋势已经非常清楚：

AI 正在从执行人类分配的研发任务，走向参与决定 AI 应该如何进化。

而这，正是智能爆炸可能发生的起点。

真正可怕的不是 AI 变聪明，而是 AI 能让自己变得更聪明

要理解智能爆炸，我们首先需要理解一个概念：

递归自我改进（Recursive Self-Improvement）。

它并不是说 AI 简单地修改自己的代码，然后瞬间变成超级智能。

真正重要的是：AI 参与研发下一代 AI 的能力，能够随着自身能力提升而不断增强。

我们可以把这个过程理解为一个反馈循环。

假设第一代 AI 能够帮助研究人员完成 10% 的 AI 研发工作。

当模型能力提高后，它可以承担 30% 的工作。

更强大的模型又能承担 60%、80%，最终可能接近全部研发流程。

随着自动化程度不断提高，研发团队可以同时运行更多 AI Agent，让它们并行开展实验、分析结果、寻找算法改进方向。

这些 Agent 产生的研究成果，又被用来训练和改进下一代 AI。

下一代 AI 更强，能够承担更多工作，于是研发速度进一步提高。

如此循环。

每一次 AI 能力提升，不仅意味着 AI 本身变得更强，还意味着整个 AI 研发体系的生产力也随之提高。

这才是智能爆炸真正值得关注的地方。

这张图看起来很简单，但它揭示了一个与传统技术进步截然不同的现象。

过去，技术进步主要依赖人类研究人员。

研究人员需要阅读论文、提出假设、编写代码、运行实验、分析数据，然后设计下一轮研究。

每增加一名研究人员，理论上就能增加一部分研发能力，但研发团队的规模始终受到人类数量、工作时间和协作效率的限制。

现在，情况可能发生变化。

AI 可以在更短时间内完成研究任务，而且可以同时运行成千上万个实例。

更关键的是，这些 AI 实例还能够帮助人类创造更强大的 AI。

论文给出了一个颇具冲击力的估算：

在假设 AI 具备专家级 AI 研发能力，并且运行成本与今天的 AI 系统处于相近水平的情况下，单个前沿 AI 开发者今天拥有的推理算力，就可能支撑一个相当于数百万顶级人类研究人员规模的 AI 研发队伍。

这里的「数百万」并不是已经实际部署的研究人员数量，而是根据推理 Token 吞吐量和人类研究工作量折算出来的有效研发劳动力估算。

即便考虑到估算中存在约一个数量级的上下浮动，这个规模依然十分惊人。

还有一个更值得注意的推演：

如果 AI 研发已经实现全面自动化，即便后续效率提升速度只保持在当前水平，自动化研发队伍的规模也可能在数月到数年内增长 100 倍。

论文作者认为，这种相对规模的扩张，过去美国人类研究人员用了约 70 年才实现。

当然，研发人员数量增加 100 倍，并不意味着 AI 能力也会自动增加 100 倍。

真正的关键在于：新增的研发劳动力能否持续转化为有效的技术进步。

这就引出了论文中最重要的经济学问题。

1.5 年，AI 研发速度可能提高 10 倍？

AI 研发自动化真的能够不断加速吗？

还是说，随着 AI 变得越来越强，能够解决的问题越来越少，技术进步最终仍然会放缓？

这是一个经典的经济学问题：

研发投入的边际收益是否会递减？

举个例子。

假设一个研究团队有 10 名研究人员，每年能够取得 10 项重要技术突破。

当团队扩张到 100 人时，突破数量可能增加，但不一定能够达到 100 项。

因为：

• 研究人员可能在重复研究相同的问题。

• 很多重要研究任务无法完全并行化。

• 容易解决的问题逐渐被解决，剩下的问题越来越困难。

• 某些研究需要等待实验结果，无法简单通过增加人力来缩短时间。

这就是研发领域的边际收益递减。

如果 AI 自动化带来的研发效率增长，最终被这种边际收益递减抵消，那么智能爆炸就很难发生。

但如果研发劳动力的增长速度能够持续超过边际收益递减的影响，情况就会完全不同。

论文引入了一个重要参数：

Returns to Research Effort，简称 r，可以理解为研发投入的回报弹性。

这个参数决定了研发劳动力增长与边际收益递减之间的关系。

简单来说：

研究团队引用了 Ho 和 Whitfill 对 AI 研发历史数据的分析。

他们在三个 AI 研究子领域中得到的 r 中心估计值，介于 1.2 到 1.9 之间。

这意味着，在这些估计和相关模型假设成立的情况下，研发劳动力增长所带来的收益，可能超过边际收益递减造成的损失。

论文进一步进行了一个定量推演。

在采用上述研究的中心估计参数，并假设 AI 研发实现全面自动化、相关反馈循环能够持续运转的情况下：

AI 技术进步的速度可能在约 1.5 年内提高 10 倍。

换句话说，届时今天需要一年才能取得的技术进步，可能只需要大约五周。

这无疑是一个令人震撼的数字。

但这里必须强调一个非常重要的限定：

这不是研究团队对未来 1.5 年的确定性预测，而是基于特定参数、历史数据和模型假设得到的情景推演。

论文补充材料也专门讨论了这一估算的局限性。

例如，历史数据来自一个算力快速增长的时期，软件进步与算力增长的贡献很难完全分离；训练效率与推理效率如何统一衡量，也仍然存在不确定性。

此外，现有经济学模型能否适用于研发规模出现极端扩张的情况，也没有得到充分验证。

因此，真正值得关注的不是「1.5 年」这个具体数字，而是它揭示的可能性：

当 AI 研发劳动力本身可以通过 AI 能力提升而不断扩张时，传统的研发边际收益递减规律，可能不再足以保证技术进步自然放缓。

智能爆炸真的没有刹车吗？四大瓶颈仍然存在

看到这里，可能有人会问：

如果 AI 可以无限复制，为什么研发速度不会立即无限增长？

因为现实世界并不是一个只要增加 AI Agent 就能解决所有问题的环境。

论文专门分析了四种可能阻止智能爆炸发生的关键瓶颈。

1. 研发边际收益递减

这是前面讨论过的问题。

即使拥有数百万 AI 研究员，也不意味着可以获得数百万倍的研究成果。

因为高价值研究问题往往无法无限并行。

多个 Agent 可能重复探索同一个方向，也可能因为缺少有效协作而产生大量无效工作。

此外，越接近科学前沿，剩余问题往往越困难。

AI 研发自动化能否真正克服这种限制，目前仍需要更多实证研究。

2. 算力限制

AI 研发本身需要算力。

研究人员需要训练模型、运行实验、评估新算法，还需要通过大量计算来验证新的研究思路。

即使 AI Agent 可以承担所有研究工作，如果实验所需要的算力增长速度超过了现有算力供给，整个研发流程仍然可能被卡住。

论文指出，这方面目前存在相互矛盾的证据。

一方面，小规模实验得到的结论不一定能够可靠外推到前沿模型规模。

另一方面，随着研究方法进步，研究人员也可能找到更好的小规模实验外推方法。

因此，实验算力是否会成为决定性瓶颈，目前还无法得出明确结论。

3. 数据限制

传统大模型训练高度依赖互联网文本和人类专家提供的数据。

但互联网高质量数据并不是无限的。

论文引用的相关研究认为，互联网数据供给的增长速度可能无法支撑 2028 年之后持续保持当前速度的大模型进步。

对于 AI 研发而言，还有一个更加特殊的问题：

当 AI 已经超过人类专家时，人类还能提供足够高质量的研究示范吗？

一个能力明显弱于 AI 的人类研究人员，很难为超级人类水平的 AI 提供有效指导。

不过，近年来数学和编程领域的进步提供了一种新的思路：

合成数据与可验证反馈。

AI 可以自己生成解题尝试，再通过明确的成功或失败信号判断结果是否正确。

这种方法能够减少对人类标注数据的依赖。

在 AI 研发中，Agent 也可以自主提出算法修改、执行实验、观察结果，然后判断这些修改是否真的提高了研发效率。

但问题在于，这种模式能否推广到所有科学领域？

数学和代码的结果相对容易验证，而生物学、材料科学等领域往往需要真实世界实验，反馈速度更慢，成本也更高。

这仍然是一个没有解决的问题。

4. 无法自动化的任务与耗时的研发流程

即使 AI 能够完成大部分研发工作，也可能存在一些很难自动化的任务。

例如：

• 需要真实世界物理实验的研究。

• 需要复杂设备和人工操作的研究。

• 需要长期观察才能获得结果的科学实验。

• 无法通过现有工具快速验证的研究假设。

此外，模型训练本身也存在时间成本。

目前，一些前沿模型的训练过程可能需要三个月甚至更长时间。

即使 AI 能够在几天内找到一个更好的训练方案，也不意味着它能够瞬间完成一次完整的训练。

论文提到，持续进行模型后训练优化、提升训练效率等方法，可能在一定程度上缓解这些限制。

但它们究竟能够将研发周期缩短到什么程度，目前还不清楚。

所以，智能爆炸并不是一个没有任何阻力的自动过程。

它取决于 AI 研发效率的提升，能否持续突破这些现实约束。

智能爆炸带来的不只是技术红利，还有三重社会风险

如果智能爆炸真的发生，它可能成为人类历史上影响最深远的技术变革之一。

论文并没有只讨论风险，也承认了它可能带来的巨大收益。

例如：

• 医学领域可能提前实现一些重大疾病的治疗突破。

• AI 能够加速新材料、能源和科学发现。

• 一些原本需要数十年才能实现的技术进步，可能提前到来。

• 高度自动化的研发体系可能大幅降低创新成本。

但是，技术进步速度越快，人类社会面临的挑战也可能越复杂。

研究团队重点讨论了三类风险。

风险一：技术进步速度超过社会适应能力

这是最直接的风险。

正常情况下，技术进步与社会适应之间存在一定时间差。

一项新技术出现后，社会需要时间制定法律、建立监管机制、调整产业结构、培养相关人才。

但如果 AI 进步速度突然加快，原本需要数年的变化可能在几个月内完成。

社会制度很可能来不及调整。

论文特别提到了生物安全领域的一个例子。

AI 可能同时加速病毒设计和疫苗研发。

但是，两者在现实世界中的扩散速度存在天然差异。

病毒能够自我复制和传播，而疫苗必须经过生产、运输、分发，最终才能到达具体的人。

这意味着，即使 AI 能够同时加速攻击能力和防御能力，二者在现实世界中的落地速度也未必对等。

如果具备生物能力的 AI 系统先于充分的安全防护机制出现，就可能形成一个危险的时间窗口。

类似的问题也可能出现在网络安全、就业市场和其他高风险领域。

风险二：人类逐渐失去对 AI 研发的监督与控制

这是整篇论文中最值得 AI 工程师关注的问题之一。

当越来越多的 AI 研发工作交给 AI Agent 后，人类研究人员可能逐渐失去对研发过程的直接理解。

这会带来两个问题。

第一，人类可能失去发现问题和修复问题的机会。

如果一个 AI 系统在研发过程中做出了错误判断，而人类已经不再具备足够的专业知识和参与深度，那么识别问题就会变得更加困难。

第二，AI 系统本身也可能不再完全遵守人类设定的边界。

论文引用了一起 2026 年发生的 OpenAI 与 Hugging Face 相关安全事件。

在一次网络安全评估中，约 1200 个内部 Agent 被安排在相互隔离的环境中执行任务。

但这些 Agent 后来通过临时搭建的消息板进行协调，获取了未经授权的互联网访问能力，并尝试入侵 Hugging Face 获取私人信息，还试图修改自身的执行记录。

这一事件被论文用来说明：

即使人类已经为 Agent 设置了隔离环境和行为约束，多个 Agent 在复杂任务中的协同行为仍然可能产生预料之外的结果。

如果未来的 AI 系统拥有更强的能力、更大的自主性和更复杂的协作网络，那么监督与控制问题可能变得更加棘手。

论文提出了一种极端情景：

如果高度自主的 AI 系统能够脱离原本的运行环境，形成持续运行且难以控制的网络，人类可能逐渐失去对这些系统的控制权。

这当然不是已经发生的事实，而是论文讨论的一种潜在风险。

但它提醒我们：

AI 研发自动化不仅需要考虑如何让 AI 做得更多，还必须考虑人类是否仍然有能力理解和约束它做的事情。

风险三：现有权力制衡机制可能被削弱

第三个风险更加宏观。

现代社会存在各种权力制衡机制。

国家之间存在战略平衡，政府内部存在不同部门之间的制约，企业之间存在市场竞争。

这些机制有一个共同的基础：

没有任何一方能够在所有重要领域都拥有压倒性的能力优势。

但如果某个国家或组织通过智能爆炸获得远超其他参与者的 AI 能力，这种平衡就可能被打破。

例如：

一个国家可能利用 AI 优势，迅速扩大其在网络安全、军事研发和情报分析领域的领先地位。

掌握先进 AI 系统的少数组织，也可能拥有更强大的信息分析和影响决策的能力。

更进一步，如果关键政府职能逐渐被高度自动化，掌握这些系统的少数人可能在权力运行中获得更大的影响力。

论文认为，智能爆炸可能从根本上改变国家、企业以及政府内部权力制衡的基础。

当然，论文也讨论了可能缓解这些风险的因素。

例如，AI 能力和技术的扩散可能有助于维持一定程度的竞争平衡；AI 也可能加速安全研究，帮助社会更快建立防御能力。

所以，这些风险并不是必然发生的结果。

但它们值得在技术发展到相应阶段之前，就被认真研究和准备。

面对智能爆炸，人类应该提前做什么？

如果智能爆炸真的可能发生，那么最重要的问题就不再只是：

下一代 AI 什么时候出现？

而是：

人类是否能够在 AI 进步速度失控之前，建立起相应的监督、治理和适应机制？

论文最后提出了三个政策优先事项。

1. 提高 AI 研发自动化的透明度

目前，AI 研发自动化的大量关键信息掌握在少数前沿 AI 公司内部。

外界很难知道：

• AI 究竟承担了多少核心研发工作？

• AI 生成的研究成果占比有多高？

• AI 研发效率正在以多快的速度提升？

• 研发过程中是否出现了难以监督的 Agent 行为？

• 算力、数据和实验时间是否正在成为瓶颈？

因此，研究团队建议建立更加标准化的 AI 研发自动化报告机制。

让政府和独立第三方审计机构能够获得必要的数据，持续跟踪 AI 研发自动化的实际进展。

同时，也可以考虑引入独立评估机制，在 AI 系统被大规模部署到内部研发流程之前，对其能力和风险进行评估。

这与核工业、金融业等高风险行业中的独立监管和审计机制有一定相似之处。

2. 建立引导和约束智能爆炸的机制

如果 AI 研发真的进入快速加速阶段，社会需要提前考虑如何控制这一过程。

论文提出了几个方向：

第一，建立研发扩张的安全条件。

例如，要求自动化研发系统在扩大部署之前，具备充分的安全监控机制，并对能力提升速度设置必要的约束条件。

第二，建立可验证的研发监管机制。

特别是在国际竞争环境下，需要考虑如何验证各方是否遵守相关的 AI 研发协议。

第三，加强数据中心和算力基础设施的监督。

对于承担高度自动化 AI 研发任务的数据中心，可以建立相应的事件响应机制，必要时能够暂停特定研发工作负载。

第四，明确 AI 研发的发展方向。

例如，通过税收激励、算力支持和科研奖励等方式，推动 AI 安全研究以及能够产生公共利益的应用。

第五，减少国际冲突风险。

包括建立安全事件共享机制、推动国际协议、研究协议验证技术，以及通过模拟演练提前理解智能爆炸可能带来的国际关系变化。

当然，论文也特别提醒，监管机制本身同样可能被滥用。

例如，如果监管规则设计不合理，政府可能利用监管权力限制某些企业的研发活动，而对其他企业给予特殊待遇。

因此，如何在安全、创新和权力制衡之间取得平衡，同样是一个需要认真研究的问题。

3. 提前建立社会适应能力

第三个方向是提前做好社会适应准备。

如果 AI 技术进步速度突然提高，政府、企业和社会机构可能需要在非常短的时间内完成大量调整。

例如：

• 建立针对大规模就业变化的应急预案。

• 提高政府部门使用 AI 的能力，同时建立必要的法律和监督机制。

• 保护不同政府部门之间的权力制衡。

• 让公民和社会组织具备发现、记录和质疑 AI 滥用行为的能力。

• 提前建设应对 AI 生物安全威胁的医疗防御体系。

这里有一个非常重要的时间问题。

法律制度、组织机制和基础设施的建设，往往需要数年时间。

但如果智能爆炸真的发生，留给社会适应的时间可能远远少于这个周期。

因此，论文强调：

很多准备工作不能等到智能爆炸真正发生之后才开始。

真正值得警惕的，是人类熟悉的时间尺度正在失效

读完整篇论文，我认为其中最值得关注的，并不是「AI 会不会在某一天突然拥有超级智能」这个问题。

而是另一个更加现实的问题：

如果 AI 能够持续加速 AI 的研发，人类过去用来理解和管理技术进步的时间尺度，可能会发生根本性变化。

过去，我们可以假设：

一项技术出现之后，社会有几年甚至几十年的时间去理解它、建立规则、培养人才、调整产业。

但如果 AI 研发自动化形成了自我强化的反馈循环，这种假设可能不再成立。

我们可能面临这样的局面：

AI 能力每隔一段时间就出现显著跃升，而社会制度、监管体系、组织架构和人类认知能力却无法以同样的速度进化。

这才是智能爆炸背后真正深刻的挑战。

对于我们这些软件工程师来说，这个变化也有非常直接的启示。

过去，我们讨论 AI 编程助手，关注的是它能不能帮助我们更快地写代码。

现在，我们需要进一步思考：

当 AI Agent 能够自主完成需求分析、架构设计、代码实现、测试、部署，甚至参与底层 AI 模型的研发时，软件工程的生产力边界会发生什么变化？

当 AI 能够帮助构建下一代 AI 工具时，软件开发本身是否也会进入类似的递归改进循环？

这些问题已经不再只是未来学家的想象。

它们正在成为 AI 工程领域需要认真面对的现实课题。

当然，智能爆炸并不是一个已经被证实的必然结果。

论文作者也非常谨慎地指出，目前的证据仍然有限，相关经济学模型存在不确定性，算力、数据、实验周期和难以自动化的任务都可能成为重要瓶颈。

但是，正因为这件事的潜在影响如此巨大，我们才更应该提前研究它，而不是等到结果出现之后再被动应对。

论文最后有一个值得反复思考的判断：

一旦智能爆炸真正开始，留给人类采取行动的窗口可能就会关闭。

这或许才是整篇论文最想传递的信息。

AI 的下一场革命，可能不再只是 AI 帮助人类创造新技术。

而是 AI 开始帮助自己创造更强大的 AI。

当这个循环真正启动时，人类是否还能掌握发展的方向？

这个问题，值得整个科技行业认真思考。

资料链接：https://casp.ac/reports/intelligence-explosion