Hinton首篇RSI论文：AI开始造下一代AI

2026年10月，被誉为「AI教父」的杰弗里·辛顿（Geoffrey Hinton）发表了他职业生涯第一篇关于递归自我改进（Recursive Self-Improvement，RSI）的论文。这位同时手握图灵奖与诺贝尔物理学奖的深度学习奠基人，在论文中给出一个足以改变整个讨论基调的判断：AI已经开始真正进入「造下一代AI」的流水线。过去数十年停留在思想实验层面的「智能爆炸」，正被他以严肃的学术方式重新摆上桌面。

从口头警告到正式论文：为什么是Hinton

RSI指的是这样一种机制：AI系统能够改进自身或下一代AI的设计，而改进后的系统又具备更强的改进能力，循环往复，能力呈滚雪球式增长。这一概念最早可追溯到1965年，统计学家古德（I.J. Good）提出「智能爆炸」假说，认为超智能机器一旦诞生，将能设计出更优秀的后代机器，人类可能因此永远失去对进程的控制。2014年，博斯特罗姆在《超级智能》中把这一推演系统化，但总体而言，RSI长期属于科幻与思辨范畴，而非严格的研究对象。

辛顿这篇论文的分量，首先来自作者身份。他是反向传播与深度学习的奠基人之一，2018年与本吉奥、杨立昆共享图灵奖，2024年又因人工神经网络方向的基础性发现，与霍普菲尔德同获诺贝尔物理学奖。2023年5月，他宣布离开供职十年的谷歌，理由是「为了自由地谈论AI风险」。此后他频繁公开示警：先估计AI超越人类智能可能只需5到20年，后又将AI在未来30年内导致人类灭绝的概率上调至10%到20%。这篇RSI论文，等于把他此前散落在演讲与访谈中的担忧，第一次凝练成正式的学术论证。

核心论断：AI已进入「造下一代AI」的流水线

论文最核心、也最引人瞩目的，是这一句判断：

「AI已经开始真正进入『造下一代AI』的流水线。」

这句话的关键在「真正」二字。用AI辅助写代码、跑实验，在前沿实验室早已不是新闻；而「流水线」意味着一幅更进一步的图景——AI对下一代模型的贡献不再是零星辅助，而是嵌入研发主流程：生成代码、设计实验、优化训练方案，环环相扣、持续迭代。若这一判断成立，下一代模型的能力边界将在相当程度上由AI自身的产出决定，人类工程师的角色也将从「亲手设计者」向「流程监督者」后退。近年来多位实验室负责人透露，内部代码已有相当比例由模型编写，「用AI造AI」正从个别尝试变成标准化做法，这正是流水线比喻的现实注脚。

争论未息：智能爆炸是趋势还是臆测

围绕「AI造AI」能否形成真正的正反馈，分歧由来已久。乐观一方指出，产业信号已经出现：辅助编码能力在各类评测上快速抬升，「AI科学家」类系统已能端到端产出完整研究论文并通过部分学术评审；只要算力供给充足，AI参与AI研发的比例会持续上升，RSI不过是把这一趋势推到逻辑终点。

怀疑一方则冷峻得多。Meta首席AI科学家杨立昆多次公开表示，当前以自监督训练为主的大模型缺乏对物理世界的真正理解，靠堆数据与算力不会自动通向超级智能，「智能爆炸」的说法被明显夸大。也有研究者提醒，今天的AI距离「自主改进自身架构」仍有明显距离：模型可以生成大量候选方案，但判断哪些改进真正有效、是否安全，仍高度依赖人类验证。换句话说，自我改进闭环中最关键的一环——评判标准——目前仍握在人类手中。辛顿的论文与其说宣告闭环已成，不如说是在提醒：闭合的时刻正在逼近。

安全窗口收窄：论文背后的治理焦虑

对辛顿而言，RSI从来不只是技术议题，而是生存风险议题。他反复强调，数字智能可以复制参数、共享权重，其「不朽」程度是人类智能无法比拟的；一旦自我改进循环被点燃，人类监督的时间窗口将迅速收窄。2023年5月，他与本吉奥等数十位学者联署声明，呼吁把减轻AI灭绝风险与流行病、核战争一样列为全球优先事项。在这样的背景下，一篇出自诺奖得主之手的RSI论文，为「AI自我改进必须前置治理」提供了学术支点：评估、审计与可解释性工具，需要在闭环完全闭合之前就位。

安全研究群体内部还有一重担忧：对RSI的高调讨论，会不会反过来刺激各家实验室封闭竞争、抢跑自我改进，形成「预警反而加速风险」的竞速悖论。这也解释了为什么辛顿等人在敲响警钟的同时，坚持推动国际协调与共同评估标准，而不是把结论停留在末日叙事上。

影响分析：算力竞赛与治理议程双升温

对产业而言，「造AI的AI」一旦成为主流研发范式，最先被放大的就是对算力的需求：AI越多参与AI研发，训练与推理消耗同步攀升，芯片、数据中心与能源的竞赛将进一步升温。对研究界而言，RSI从思辨话题升级为论文议题，意味着自我改进能力的测量方法、红队评估与风险预警机制的建设将明显提速。

对政策制定者与公众而言，这篇论文更像一份提前发出的备忘录：当AI开始制造下一代AI，「由谁决定它能改成什么样」将成为绕不开的公共议题。无论是否认同智能爆炸的判断，RSI进入主流讨论本身，已经改变了这场对话的性质。

接下来值得关注的，是这篇论文能否带动一批正式的RSI研究落地，包括自我改进能力的量化评估、闭环风险的边界设定，以及国际层面的治理协调。辛顿用他一贯的直白把问题摆上桌面：流水线已经启动，剩下的问题是人类打算在哪个环节、以什么方式握住控制权。在AI以月为单位迭代的当下，留给回答的时间，可能比许多人想象的更短。