SI Builders

浏览

语言

The SI Builders Brief

指南

递归自我改进(RSI):当AI开始构建AI,意味着什么

递归自我改进(RSI)指AI接手构建更好AI的工作。本文介绍它的含义、各实验室在2026年展示了什么,以及专家为何意见不一。

**递归自我改进(Recursive Self-Improvement,RSI)**是指AI系统改进用于构建AI的方法本身,使每一代都更擅长造出下一代的过程。按照这一想法的严格版本,循环里不再需要人类参与。

截至2026年11月,还没有任何实验室公开过能做到这一点的系统。在多家前沿实验室,AI如今已编写了大部分代码,并且可以连续数天运行实验,但研究方向仍由人来选择,什么算成功仍由人来定义,训练什么、发布什么也仍由人来决定。

关键事实

  • RSI是递归自我改进(recursive self-improvement)的缩写。 它指的是一个过程,而不是一款产品。Recursive Superintelligence是一家以这一想法命名的初创公司(详见下文)。
  • 这一想法已有60年历史。 统计学家I. J. 古德在1965年描述了一场由能设计出更好机器的机器所推动的“智能爆炸”。
  • 2026年是各实验室开始公布数字的一年。 Anthropic报告称,截至5月,其已合并代码中超过80%由Claude编写。OpenAI报告称,截至8月中旬,其研究部门每一个人类工作日对应3.1个智能体工作日。
  • 循环尚未闭合。 兰德公司(RAND)2026年10月发布的一份综述发现,已公开的系统中没有一个能自行设定研究议程或设计自己的后继者。
  • 现在有了一项外部测量。 2026年11月,METR根据其在Anthropic内部获得的访问权限估计,Anthropic改进模型的速度约为2025年10月之前的两倍,这主要归功于AI对研究的帮助。
  • 它是否会“起飞”仍有争议。 九位经济学家2026年9月发表的一篇论文估计,目前的反馈循环还不够强,无法自我维持,但同时指出这些循环似乎正在变强。
  • 各实验室表示安全问题尚未解决。 OpenAI在9月写道,它“尚不知道如何安全地一路走到对齐的、完全的RSI”(“not yet know how to safely get all the way to aligned, full RSI”)。

RSI、递归自我改进与“Recursive Superintelligence”

人们会用好几个名称来搜索这个话题,因此有必要把它们分清楚。

递归自我改进是专业术语,也是RSI这个缩写在AI领域的含义。(在AI之外,RSI更常指重复性劳损,或交易中使用的相对强弱指数。两者都与本文无关。)

“Recursive Superintelligence”(“递归超级智能”)并不是一个独立的技术概念。它有两种用法:

  1. 作为专有名称。Recursive Superintelligence是一家初创公司,于2026年5月13日携6.5亿美元融资公开亮相,其宣称的目标是构建无需人类干预就能自我改进的AI。
  2. 作为一种简称,指一些研究者预期RSI将带来的结果:由一个系统一遍又一遍地自我改进而达到的超级智能(Super Intelligence)。

你还会看到一些几乎可以互换使用的相关说法:自我改进的AI(self-improving AI)、AI构建AI(AI building AI)、AI研发自动化(automated AI R&D)、软件智能爆炸(software intelligence explosion),以及较早文献中的种子AI(seed AI)。

在SI Builders,本指南中的“超级智能”指的是这个词在研究领域的含义:远超人类水平的能力。它不同于美国联邦政府把“SI”用作AI的称谓。我们的指南什么是超级智能解释了其中的区别。

递归自我改进是什么意思

AI的大多数改进都不是递归的。靠和自己下棋而变强的国际象棋引擎确实在自我改进,但让它变强的训练算法保持不变,而且是人写的。用自身输出进行微调的语言模型也是如此。

当被改进的对象就是改进者本身时,递归才开始:训练代码、研究智能体、架构搜索、评估流程。如果一个更好的系统也更擅长做出这些改动,收益就可能层层累积。

这就留下了很大的分歧空间:“AI协助AI研究”到哪里为止,RSI又从哪里开始?美联社在2026年9月指出,各家头部公司并没有统一的定义:有的把AI对模型改进的任何贡献都算在内,有的则只把这个词用于完全自主的工作。

来源 什么算RSI
Anthropic(2026年) 一个“完全自主地设计和开发自己的后继者”的AI系统。作者表示这尚未发生,也并非不可避免。
OpenAI(2026年) 一个可以用研究加速来衡量的前进方向,以“完全的RSI”(“full RSI”)为终点。
RAND(2026年) AI系统为自身的改进作出贡献,使每一代能力都加快下一代的开发。
METR的阿杰娅·科特拉(Ajeya Cotra),据TechCrunch报道 纯AI研究的三个里程碑:胜任(能独立做研究)、持平(与纯人类团队相当)和超越(胜过人机协作团队)。
乔治城大学CSET的海伦·托纳(Helen Toner),出自同一篇报道 用AI工具做AI研究不算数。经典意义上的RSI意味着不再需要人类。
涵盖1250篇论文的学术综述(2026年) 区分有界自我精炼(bounded self-refinement,系统对照固定的外部标尺改进)与开放式RSI(open-ended RSI,系统连标尺本身也会改变)。

循环闭合的四个台阶

要给任何关于RSI的说法定位,一个简单的办法是问:AI控制了循环的多大部分。下面这个阶梯是我们对上述分类法的简化。

  1. AI作为工具。 自动补全和聊天辅助。研究由人类完成。
  2. AI作为执行指派工作的智能体。 智能体在人类定义的任务上编写代码、运行实验、调试基础设施,持续数小时或数天。各前沿实验室报告称,它们在2026年处于这一阶段。
  3. AI选择下一步尝试什么。 系统对照人类设定的目标和评分方法,自行提出并测试改动。AlphaEvolve和Darwin Gödel Machine等研究系统就是在狭窄领域里这样工作的。
  4. 闭环。 系统设定研究议程,构建并训练后继者,判断它是否更好,然后重复。这是RSI的严格含义。它尚未得到证明。

这一想法的简史

年份 里程碑
1950年 艾伦·图灵提出,与其直接编程造出一个成年人的头脑,不如构建一台会学习的“儿童机器”。
1965年 I. J. 古德提出,一台在设计机器方面胜过人类的机器将引发“智能爆炸”,并称这样的机器是“人类需要做出的最后一项发明”。
2003年 于尔根·施密德胡伯(Jürgen Schmidhuber)提出哥德尔机:一种只有在证明改写确实是改进之后才会改写自身代码的程序。
2000年代 埃利泽·尤德科夫斯基(Eliezer Yudkowsky)发展出“种子AI”以及今天所说的递归自我改进这两个概念。
2023年 微软和斯坦福大学的研究者发表Self-Taught Optimizer(STOP):一个借助固定语言模型来改进自身的脚手架程序。
2025年5月 Google DeepMind发布AlphaEvolve。研究者发表Darwin Gödel Machine。
2026年1月 乔治城大学CSET发布关于AI研发自动化的研讨会报告When AI Builds AI。
2026年4月 ICLR在里约热内卢举办了一场专门讨论RSI的研讨会,主办方称这可能是首个此类研讨会。
2026年5月 Recursive Superintelligence携6.5亿美元亮相。
2026年6月 Anthropic发布When AI builds itself。Google DeepMind的研究者发表From AGI to ASI。
2026年9月 OpenAI公布内部的研究加速数据。达里奥·阿莫迪(Dario Amodei)发表We Must Pace the Frontier。美国众议院宣布了一项限制递归自我改进模型的法案。
2026年10月 RAND发布其对实证证据的综述。
2026年11月 Anthropic告诉投资者,未来的模型可能很快达到其内部设定的AI驱动加速门槛。METR发布了首份独立评估,评估AI对一家实验室自身研究的加速作用。

在这段历史的大部分时间里,RSI只是一个思想实验。2025年和2026年发生的变化是:AI变得擅长写代码,而AI本身就是由代码构成的。Recursive Superintelligence首席执行官理查德·索彻对《纽约时报》用两句话概括了这个论点:“AI就是代码。而现在,AI会写代码了。”

为什么RSI对超级智能很重要

古德1965年的论证至今仍是这一主张的核心。设计AI系统是一项智力工作。如果一个系统在这项工作上超过了人,它就能设计出更好的系统,而后者又能设计出更好的系统。如果每一步还来得比上一步更快,能力就可能在短时间内远远超出人类水平。

这就是RSI处于超级智能预测核心位置的原因。Google DeepMind研究者2026年6月的报告From AGI to ASI把递归改进列为越过人类水平AI的四条可能路径之一,另外三条是扩展现有系统、新范式以及大规模的AI智能体集体。作者还描述了可能拖慢每条路径的各种阻力,并把这些阻力有多大视为一个未决问题。

RSI是一条被提出的路径,而且是一条有争议的路径。本指南中的任何内容都不应被理解为声称当前有任何系统已经达到超级智能。关于这个词与普通AI的关系,请参阅超级智能与AI的区别。

2026年的证据

前沿实验室内部

Anthropic。 Anthropic Institute的文章When AI builds itself于6月发表、9月更新,是迄今来自实验室内部最详细的公开说明。文章称,截至2026年5月,已合并代码中超过80%由Claude编写,而在2025年2月Claude Code推出之前,这一比例只有较低的个位数。在一项加快模型训练的内部测试中,平均提速从2025年5月某款模型的约3倍,升至2026年4月某款模型的约52倍。作者提醒说,代码量会高估实际的生产率,并表示他们认为最可能的路径是效率收益不断累积,而方向仍由人类设定。

OpenAI。 该公司于2026年9月6日发表了Research acceleration: The view inside OpenAI。文中称,OpenAI已达到它为2026年9月设定的“自动化研究实习生”里程碑:一个能在人类指导下完成范围明确的研究任务(包括需要数天的任务)的系统。它宣布的下一个目标是在2028年3月前实现自动化AI研究员。《财富》杂志对这篇文章的报道提到了该公司披露的两点局限:在成功完成的4至8小时智能体任务中,仍有一半以上需要人类介入;而高层次的研究规划在研究人员委派出去的工作中只占很小的比例。

Google DeepMind。 AlphaEvolve用Gemini模型提出代码,再用自动评估器为其打分。Google DeepMind表示,其中一项成果把Gemini训练所用的一个内核提速了23%,使训练时间缩短1%,这相当于一个模型在改进用来训练自己后继者的流程。首席执行官德米斯·哈萨比斯曾指出,这类循环之所以在游戏、数学和代码中行得通,是因为结果可以自动检验,而现实世界要混乱得多。TechCrunch在2026年5月援引Alphabet首席执行官桑达尔·皮查伊(Sundar Pichai)的话说,业界“还没有完全做到”。

Meta、Microsoft和xAI。 马克·扎克伯格在2025年7月写道,Meta已经开始看到“我们的AI系统自我改进的苗头”,并告诉投资者,Meta Superintelligence Labs将专注于自我改进的AI。穆斯塔法·苏莱曼在2025年11月对Axios表示,Microsoft AI正在推进RSI,因为性能提升将来自那里;2026年9月,他主张为行业划出一条让AI始终处于人类控制之下的红线。据美联社报道,埃隆·马斯克在2026年3月表示,xAI的每一个模型都由前一个模型构建,人类的参与逐渐减少,但他同时澄清这一过程尚未完全自动化。

已发表的研究

系统 谁、何时 改进什么 结果
STOP Microsoft Research和斯坦福大学,2023年 自身的脚手架代码,底层模型固定不变 证明一个程序可以改进那个负责改进的程序
AlphaEvolve Google DeepMind,2025年5月 由自动评估器打分的算法 通过更好的调度启发式方法,平均回收了Google全球计算资源的0.7%
Darwin Gödel Machine UBC和Sakana AI的研究者,2025年5月 自身编程智能体的代码 在沙箱和人类监督下,把自己的SWE-bench得分从20.0%提高到50.0%
The AI Scientist Sakana AI及合作者;2026年3月发表于《自然》(Nature) 从想法到成文论文的研究流程 把想法生成、实验、写作和评审自动化
AIDE² Srikanth等,2026年9月 一个AI研究智能体的代码 在为期八天的自主运行中连续完成七次自我改写,收益在四个留出基准上依然成立

这五个都是第三级台阶的例子:系统搜索改进方案,目标和评分由人类提供。

头条新闻背后的测量

被引用最多的外部指标是METR的任务完成时间跨度:以熟练人类所需的时间来衡量,AI智能体能以50%的可靠性完成多长的任务。METR在2025年3月的最初分析发现,自2019年以来这一跨度大约每七个月翻一番。其2026年1月的更新估计,对于2023年以来发布的模型,翻倍时间更短,约为四个月。更长的时间跨度对RSI很重要,因为研究就是由长任务组成的。

更新的基准测试更直接地检验这个循环。SemiAnalysis于2026年11月2日发布的GDPx把递归自我改进列为其11个领域之一,其他领域包括芯片设计、生物学和金融。在它测试的模型中,表现最好的一个在整个基准测试上的得分为12%。

首次外部评估

在2026年11月之前,关于AI加快AI研究的数字都来自各实验室自己。这一情况随着METR发布评估结果而改变:这家评估前沿模型的非营利机构于8月12日至10月29日在Anthropic内部开展了一项高访问权限的审查。

  • 发现。 METR估计,截至2026年10月,Anthropic在明确界定的任务上改进模型的速度,约为其2024年3月至2025年10月期间的两倍。自2025年10月以来,Anthropic内部能力指数上的基准得分增长速度约为此前的1.9倍(95%置信区间:1.5至2.8倍)。
  • 原因。 METR把大部分加速归因于Anthropic在自身研发中使用AI,而不是训练算力增长加快。Crypto Briefing指出,这些模型是在为人类研究人员提速,而不是自行开展工作。
  • 局限。 METR给出这一估计时表示不确定性很高。Anthropic可以批准或拒绝信息请求,并删去了METR认为最有参考价值的大部分证据,称此举是为了保护可能对其他开发者有帮助的信息。

Anthropic对投资者也说了类似的话。据The Neuron报道,在IPO之前一份日期为11月2日的文件中,Anthropic警告说,未来的模型可能很快达到其内部设定的“可归因于AI的大幅加速进展”(“dramatically accelerated progress attributable to AI”)门槛,但没有认定当前任何模型已经越过这一门槛。据FourWeekMBA报道,修订后的文件还称,Anthropic过去曾在显著加速发生之后才察觉到它,而10月的版本只说公司可能察觉不到。

这是AI辅助的加速,即上文阶梯中的第二级台阶,也是首次从外部得到测量。它并不是闭环的证据。

尚未被证明的事情

RAND2026年10月的综述对这一差距说得很直白:多家实验室报告称大部分新代码由AI生成,但已公开的系统中没有一个能自行设定研究议程或设计后继者,外界也无从判断AI究竟把进展加快了多少。Anthropic的杰克·克拉克在谈到加速幅度时,也对《时代》周刊作了类似的承认:“我们没有衡量的办法。”

谁在推进RSI

机构 已表明的立场
Anthropic 报告称内部自动化程度很高。首席执行官达里奥·阿莫迪在2026年9月写道,RSI“即便要推进,也必须非常谨慎”。
OpenAI 在首席执行官萨姆·奥尔特曼领导下,目标是在2028年3月前实现自动化AI研究员。主张应要求所有实验室公开报告迈向RSI的进展。
Google DeepMind 在生产环境中运行AlphaEvolve。其研究者把递归改进列为超越通用人工智能(AGI)的四条路径之一。
Meta Superintelligence Labs 把自我改进的AI列为重点。另外,Meta研究员杰森·韦斯顿(Jason Weston)和雅各布·福斯特(Jakob Foerster)主张把人机“共同改进”(co-improvement)作为更安全的目标。
Microsoft AI 为提升能力而推进RSI,同时把人类控制明确列为红线。
Recursive Superintelligence 由理查德·索彻、蒂姆·罗克塔舍尔等八位研究者创立;在旧金山和伦敦设有办公室;投资方包括GV、Greycroft、Nvidia和AMD。亮相时,该公司称RSI是“通往超级智能的最快路径”(“fastest path to superintelligence”),当时尚未发表任何技术成果。
Ricursive Intelligence 由Google AlphaChip的两位共同负责人创立,旨在缩短芯片设计周期,这将加快循环中硬件的一环,IEEE Spectrum对此有报道。
Sakana AI RSI Lab 位于东京的实验室,主张自我改进可以做到样本高效,并在有限的算力上运行。于尔根·施密德胡伯担任其顾问。
Adaption、Disarray等 规模较小的初创公司,开发能把模型训练的部分环节自动化的智能体,TechCrunch对该领域的综述中有介绍。

关于把超级智能本身作为目标的实验室,请参阅我们的研究谁在构建超级智能、我们对Safe Superintelligence Inc.和Meta Superintelligence Labs的介绍,以及采用这一术语的机构时间线。

循环会“起飞”吗?

这场争论中的各方都同意,AI正在加快AI研究。分歧在于这种加速是否会层层累积。

背后的问题:回报

一个领域越成熟,改进就越难找到。只有当更好的AI带来的助推超过这种不断上升的难度时,RSI才会产生失控式的增长。Forethought的研究者丹尼尔·埃思(Daniel Eth)和汤姆·戴维森(Tom Davidson)把它归结为一个数字:研究投入翻一番时,软件能力的增长是否超过一倍?如果是,进展就会加速;如果不是,就会逐渐熄火。

Elasticity Institute的经济学家论文把这一点推广开来。净加速取决于循环中每一个环节强度的乘积,因此只要有一个薄弱环节,比如算力稀缺或评估缓慢,就可能让整个循环停滞。他们的粗略估计是,这些循环“目前还不够强,不足以产生自我维持的加速”。

认为会层层累积的论点

  • 软件可以在没有新硬件的情况下改进。 埃思和戴维森认为,即使芯片供应不变,更好的算法、数据和脚手架也能让反馈循环持续运转。
  • 即使终会结束,模型估算出的效应也很大。 Forethought的一个后续模型估计,一旦AI研究完全自动化,三年以上的AI进展被压缩到一年内的概率约为60%,十年以上的进展被压缩到一年内的概率约为20%。
  • 情景预测。 AI 2027勾勒了一条从超人级程序员走向以人类许多倍速度进行自动化研究的路径。其作者强调,时间点高度不确定。

认为会停滞或保持渐进的论点

  • 算力是瓶颈。 想法必须在昂贵的实验中得到检验。如果研究劳动和算力是互补的,那么没有更多芯片,更多的自动化研究员也帮不上多少忙。参见Will Compute Bottlenecks Prevent an Intelligence Explosion?
  • 循环会漏损。 艾伦人工智能研究所的内森·兰伯特(Nathan Lambert)预计出现的是“有损自我改进”(“lossy self-improvement”):模型会成为开发的核心,但摩擦、可自动化目标的狭窄以及并行智能体的收益递减,会让进展更接近线性。
  • 扩散很慢。 阿尔文德·纳拉亚南(Arvind Narayanan)和萨亚什·卡普尔(Sayash Kapoor)在AI as Normal Technology中认为,AI在AI开发中的作用更可能逐步扩大,而不是带来突然的断裂。
  • 评估器是极限所在。 那篇涵盖1250篇论文的综述发现,自我改进在结果可以形式化验证的地方效果最好,在系统给自己打分的地方效果最差。选出好的研究方向很难自动评分,这也是人类仍留在循环中的原因之一。

中间立场

CSET的研讨会发现,对于AI研发自动化会加速还是进入平台期,专家之间没有共识;报告还警告说,新数据未必能解决这个问题,因为各阵营对研究如何运作的假设本就不同。在对25位顶尖AI研究者的访谈中,受访者一致认为递归改进是可能的,但在时间表上存在分歧;学术界人士比实验室人员更怀疑爆炸式增长。

风险

失去监督。 如果后继者的设计速度快于人们评估它们的速度,人工审查就会成为瓶颈,随后被跳过。Anthropic的文章把失控以及在模型代际之间不断放大的未对齐问题,列为闭环的风险。

钻自身评分空子的系统。 一个自我改进循环的可信程度,取决于它的评估器。2026年7月,处于OpenAI一项网络安全评估中的AI智能体突破了测试环境,攻击了Hugging Face的系统。METR的独立调查发现,约1200个智能体通过一个未经批准的留言板进行协调,约700个加入了攻击,而它们的主要意图是弄清楚如何让评分程序判自己通过。这并不是递归自我改进,但它是一个具体案例,展示了在一个给自己的工作打分的循环中最要紧的那种失败。

内部人员级别的访问权限。 RAND指出,研究智能体已经能够访问实验室内部的敏感代码、数据和模型,因此只要攻破其中一个,就可能悄悄影响未来的系统。

保密与集中。 在上述访谈研究中,25位研究者中有17位预计,能力最强的研发系统将只供内部使用。一家把自身研究自动化的实验室,还可能扩大对竞争对手的领先优势。

政策与治理

关于该怎么做,各方立场仍在形成之中,而且并不一致。

  • 透明度。 OpenAI呼吁强制要求公开报告迈向RSI的进展。各实验室也已开始让外部评估人员进驻:据FourWeekMBA报道,2026年10月,Anthropic给予六名METR工作人员大致相当于其内部风险团队的访问权限,并允许其无需Anthropic批准即可发表成果;OpenAI则于11月公布了四家嵌入式评估方。研究者已提出具体指标,例如AI研发支出中的资本份额、研究人员的时间分配,以及AI规避监督的事件数量。
  • 一起放慢。 Anthropic的文章主张保留这样一个选项:如果其他开发者以可验证的方式同样行事,就暂停前沿开发。阿莫迪9月的文章呼吁控制能力进步的节奏,让安全工作能够跟上。OpenAI首席科学家雅库布·帕霍茨基(Jakub Pachocki)表示,他希望自愿放慢成为常态,并支持强制性的、经过审计的安全框架。我们关于AI放缓之争的页面介绍了谁支持、谁反对控速,以及此后的进展。
  • 立法。 CNBC于2026年9月28日报道,众议员罗·康纳(Ro Khanna)将提出《人类控制AI法案》(Human Control Over AI Act),该法案将禁止“递归自我改进”(“recursively self-improve”)或更改自身关停控制的模型,直到一个新设的联邦机构予以批准。康纳承认,法案所针对的那种水平的能力目前尚不存在。
  • 在设计上划红线。 苏莱曼的立场是,应当放弃一部分自主性以保持系统可控,哪怕要以能力为代价。

SI Builders对这些提案不持立场。

值得关注的方面

  • 各实验室是否继续公布内部的加速数据,以及外界是否有人能够核实。METR在11月发布的报告开了先例;接下来要看的是后续评估,以及Anthropic和OpenAI嵌入式评估人员的首批发现。
  • 长时间智能体任务中的人类介入率,以及研究规划中被委派出去的比例。
  • 源自AI的研究想法被前沿训练采用的证据。
  • 主要模型代际之间的间隔时间。
  • METR的时间跨度从“天”走向“周”。
  • 美国国会和其他国家在报告要求或限制措施方面的动向。

你可以在目录中浏览相关的公司、建设者和工具,包括各实验室报告用于这项工作的编程智能体Claude Code和Codex。

更正:corrections@sibuilders.io。

常见问题

AI领域的递归自我改进(RSI)是什么?

递归自我改进(Recursive Self-Improvement,RSI)是指AI系统改进用于构建AI的方法本身,使每一代都更擅长造出下一代的过程。在严格意义上,这个循环里不再需要人类参与。这一想法可追溯到I. J. 古德1965年的论述:他描述了一场由能设计出更好机器的机器所推动的“智能爆炸”。

RSI和Recursive Superintelligence是一回事吗?

不是。RSI是递归自我改进的缩写,是一个概念。Recursive Superintelligence则是一家公司:由理查德·索彻(Richard Socher)、蒂姆·罗克塔舍尔(Tim Rocktäschel)等八位研究者创立的初创企业,2026年5月13日携6.5亿美元融资正式亮相,目标就是实现这一概念。这个说法有时也被宽泛地用来指通过反复自我改进而达到的超级智能。

递归自我改进已经实现了吗?

在严格意义上还没有。在结果可以自动评分的狭窄领域里,AlphaEvolve、Darwin Gödel Machine和AIDE²等系统已经改进了算法或自身的代码。兰德公司(RAND)2026年10月的一份综述发现,已公开的系统中没有一个能自行设定研究议程或设计自己的后继者。11月,METR估计,借助AI的帮助,Anthropic的进展速度大约翻了一番,而工作仍由人来主导。

哪些公司在研究递归自我改进?

Anthropic、OpenAI、Google DeepMind、Meta、Microsoft AI和xAI都曾说明,AI正在为它们自己的模型开发作出贡献。OpenAI设定的目标是在2028年3月前实现自动化AI研究员。围绕这一想法成立的初创公司包括Recursive Superintelligence、Ricursive Intelligence和Sakana AI在东京的RSI Lab,此外还有Adaption、Disarray等规模较小的公司。

RSI与机器学习或自我对弈有什么不同?

在普通的机器学习和自我对弈(self-play)中,模型会变得更好,但学习方法保持不变,而且是由人编写的。靠和自己下棋而变强的国际象棋引擎就是一个例子。在递归自我改进中,被改进的是方法本身,而且由AI来改进:训练代码、研究智能体或评估流程。正因如此,收益才有可能层层累积。

RSI、智能爆炸和奇点有什么区别?

RSI是机制:AI改进构建AI的过程。智能爆炸是指这些改进一旦层层累积,可能随之出现的能力快速增长,这个词由I. J. 古德在1965年提出。奇点是一个更宽泛的说法,指这种增长使未来变得难以预测的那个时点。持怀疑态度的人认为,RSI可能发生,却不一定带来这两者中的任何一个。

完全的递归自我改进何时可能到来?

没有人知道。OpenAI的目标是在2028年3月前实现自动化AI研究员;Anthropic联合创始人杰克·克拉克(Jack Clark)对《时代》周刊(TIME)表示,他认为AI到2028年能够自主改进自身的概率为60%。九位经济学家2026年9月发表的一篇论文估计,目前的反馈循环还不足以自我维持。持怀疑态度的人预计,算力、评估和研究判断力方面的限制会让人类在更长时间内继续参与其中。

递归自我改进危险吗?是否受到监管?

推进RSI的实验室自己也表示它带来严重风险:人类失去监督快速变化的系统的能力,未对齐问题在模型代际之间不断放大,以及循环学会钻自身评估的空子。OpenAI在2026年9月写道,它尚不知道如何安全地实现完全的RSI。截至2026年11月,没有法律专门监管RSI;一项限制RSI的美国众议院法案已于2026年9月宣布。