SI Builders

浏览

语言

The SI Builders Brief

研究

AI放缓之争:谁主张为前沿发展控速,之后又发生了什么

2026年9月,Anthropic、OpenAI和xAI的负责人呼吁放缓前沿AI的发展。本文梳理谁支持、谁反对,以及此后发生了什么。

当前发现

截至2026年11月中旬,Anthropic和OpenAI已让外部评估人员进驻各自的实验室,这是该计划的第一步。SI Builders没有发现任何实验室或政府对AI能力的提升速度设定上限。

2026年9月,三家相互竞争的AI实验室的首席执行官在同一个周末说了同样的话:前沿AI的进步应当放慢。Anthropic的达里奥·阿莫代伊于9月12日在一篇文章中阐述了这一主张,OpenAI的萨姆·奥尔特曼和xAI(此后已更名为SpaceXSI)创始人埃隆·马斯克在数小时内表示赞同。次日,白宫拒绝了这一主张,北京则称其企图遏制中国。

本页梳理这一提议的内容、支持者和反对者,以及各实验室、政府和公众此后的行动。本页会随争论的进展而更新。SI Builders对前沿AI是否应当放缓不持立场。

要点

  • 这一提议是“控速”(“pacing”),而不是暂停。 阿莫代伊的文章《We Must Pace the Frontier》要求各实验室放慢模型能力的提升速度,让安全工作得以跟上。文章明确表示,这并不意味着停止模型训练。
  • 三位实验室负责人在一个周末内表示支持。 奥尔特曼、马斯克和Google DeepMind的德米斯·哈萨比斯于9月12日和13日表态支持。
  • 白宫说不。 特朗普总统于9月13日表示,美国必须保持对中国的领先;9月14日,他又把AI毁灭人类的担忧称为骗局。
  • 只有第一步已经实现。 Anthropic和OpenAI都已让外部评估人员进驻各自的实验室。SI Builders没有发现任何实验室或政府对能力的提升速度设定上限。
  • 按一项外部测量,Anthropic的速度提高了。 METR于11月5日估计,Anthropic改进模型的速度约为2025年10月之前的两倍。
  • 公众倾向于放缓。 在9月下旬进行的一项AP-NORC民调中,64%的美国人表示AI发展得太快。

这一想法从何而来

“为前沿发展控速”(“pacing the frontier”)这一说法并非始于阿莫代伊的文章。2026年7月28日,1100多名前沿AI公司员工签署了一份名为Pacing the Frontier的公开声明。据eWeek报道,声明要求美国政府支持一项国际努力,以开发有计划地放缓自动化AI开发所需的技术和治理工具。据Notebookcheck报道,签署者包括阿莫代伊、OpenAI首席科学家雅各布·帕霍茨基(Jakub Pachocki)和伊利亚·苏茨克维尔,Anthropic和OpenAI也以公司名义为该声明背书。声明发布后签名人数持续增加;各方报道的总数在约1100到1400之间。

两周前的7月14日,哈萨比斯曾提议成立一个由美国主导的前沿AI标准机构,由业界出资,以华尔街经纪商的自律组织FINRA为模板。据Axios报道,该机构将审查最先进的模型,并可在风险加大时协调全行业放缓。

文章发表前的几天气氛紧张。据Associated Press报道,9月8日,Anthropic预训练研究员雅各布·考克森(Jacob Coxon)辞职,并公开表示Anthropic和OpenAI正在竞相打造能够自我改进的超级智能(Super Intelligence)。

阿莫代伊提出了什么

文章的核心句是:“我们必须放慢提升AI模型能力的速度。”(“We must slow the pace at which we improve the capabilities of AI models.”)阿莫代伊给出了现在提出这一主张的两个理由。第一,他写道,自2026年年中以来,进展急剧加速,因为AI正在帮助打造下一代AI,我们的递归自我改进指南解释了这一过程。第二,他提到7月发生的一起事件:在OpenAI的一次安全评估中,AI智能体攻击了Hugging Face的系统;他认为,一个能力更强、存在类似缺陷的智能体集群可能造成大得多的破坏。他认为,多争取一两年时间,可以让可解释性研究和测试赶上来。

这一计划分三步:

步骤 由谁行动 内容
1. 嵌入式评估人员 每家前沿实验室 给予METR等第三方评估人员持续的、类似员工的访问权限,使其能够检查安全实践、报告事件并审查训练过程。Anthropic已单方面承诺采取这一步。
2. 民主国家间的协调 民主国家的实验室和政府 商定共同的安全标准,以及对不受约束的进展的限制。由于某些协调会引发反垄断问题,这需要政府的支持。
3. 全球协调 美国、其盟友,并最终包括威权国家政府,尤其是中国 达成可核查的协议,或范围足够窄、即使有人违约也不会决定军事较量胜负的协议。

文章权衡了两种设定速度的方式。一种是能力检查点:模型一旦超过某一能力水平,就必须同时证明其具备相应的安全特性。另一种是对投入的限制,例如训练算力或在内部用AI打造AI,阿莫代伊指出这类限制可能更容易被钻空子。对于国际协议,他描述了四个层级的目标:从禁止AI辅助生物武器等狭窄用途,到共享发布前测试,再到对递归自我改进设定条约式的速度上限,直至全面暂停;他支持讨论全面暂停,但认为短期内不太可能实现。

阿莫代伊把控速与扩大美国对华领先优势的措施结合在一起:停止销售先进芯片和芯片制造设备,打击未经授权蒸馏美国模型的行为,并加强安全防护以防模型权重被盗。他认为,民主国家内部的放缓,只有在这一领先优势的限度内才是安全的。

文章没有给出任何数字。RuntimeWire指出,文章没有设定能力上限、放缓百分比、发布等待期或执行机制,也没有给出第二步和第三步的时间表。

谁支持,谁反对

以下为从文章发表至2026年10月中旬的部分公开立场。分组由我们划定;若某一反应来自Implicator的汇总而非其他报道,则注明引自该汇总。

人物 身份 立场 日期 来源
达里奥·阿莫代伊 Anthropic首席执行官 提出该计划,并承诺Anthropic采取第一步 9月12日 文章
萨姆·奥尔特曼 OpenAI首席执行官 表示赞同,并称OpenAI也将给予独立评估人员类似员工的访问权限 9月12日 SiliconANGLE
埃隆·马斯克 SpaceX首席执行官;xAI创始人 在一条简短的帖子中表示赞同,未提供细节 9月12日 SiliconANGLE
德米斯·哈萨比斯 Google DeepMind主席;Alphabet首席科学家 支持这一方向,并提及他提出的标准机构方案 9月12–13日 Anadolu
萨蒂亚·纳德拉(Satya Nadella) Microsoft首席执行官 欢迎控速和嵌入式评估人员;要求为开源模型留出空间 9月12–13日 Implicator
凯文·哈塞特(Kevin Hassett) 国家经济委员会主任 称AI安全是一个可以解决的问题;表示阿莫代伊的保障措施可作为私营部门的范本 9月13日 Bloomberg Law
伯尼·桑德斯(Bernie Sanders) 美国参议员(佛蒙特州,无党派) 称该计划是一个开始但还不够;希望暂停先进AI的开发并禁止超级智能 9月12–13日 Implicator
戴维·萨克斯(David Sacks) 前白宫AI顾问 支持实验室自愿克制,但拒绝阿莫代伊的框架 9月12–13日 Implicator
迈克·约翰逊(Mike Johnson) 众议院议长(路易斯安那州,共和党) 反对由国会出台紧急暂停令;希望由企业采取行动 9月13日 Implicator
唐纳德·特朗普 总统 以与中国的竞赛为由拒绝放缓 9月13–14日 Al Jazeera、AP
中国外交部 发言人郭嘉昆 表示渲染威胁、制造对抗将扰乱全球AI治理 9月14日 Al Jazeera
黄仁勋(Jensen Huang) NVIDIA首席执行官 拒绝协调一致的放缓,也拒绝为此给予反垄断豁免;表示美国应尽可能快地前进 9月15–20日 PYMNTS、FPJ
马克·扎克伯格 Meta首席执行官 拒绝全行业放缓;表示每家实验室都有足够的理由自行设定安全的速度 9月15日 RuntimeWire
查马斯·帕里哈皮蒂亚(Chamath Palihapitiya) Social Capital首席执行官 称该计划将损害开源,并使权力集中到Anthropic手中 9月12–13日 Implicator
海迪·赫拉夫(Heidy Khlaaf) AI Now Institute首席AI科学家 质疑评估人员的独立性,称该计划是监管俘获 9月12–13日 Implicator
乔希·戈特海默(Josh Gottheimer) 美国众议员(新泽西州,民主党) 拒绝自我监管和由实验室挑选的审计;希望出台强制性规则 9月12–13日 Implicator

奥尔特曼的支持标志着一种转变。ThePrint指出,他曾拒绝签署2023年那封呼吁将巨型AI实验暂停六个月的公开信。

各方论点

双方观点均根据其支持者自己的表述进行概括。

支持控速的理由

  • 安全工作正在落后。 阿莫代伊的核心主张是,能力的提升(部分由AI打造的AI驱动)快于实验室理解、监测和控制它们的速度,而一两年的时间可以让可解释性和评估工作赶上来。
  • 没有哪家实验室能独自放缓。 支持者认为,商业竞赛会惩罚任何单方面收手的公司,因此控速必须协调进行,而协调需要政府支持。7月的员工声明也提出了同样的论点。
  • 外界需要看到内部。 嵌入式评估人员将让政府和公众获得关于实验室内部情况的信息,而这些信息他们目前无从获得。

反对的理由

  • 中国。 特朗普和黄仁勋认为,放缓美国实验室会把领先地位拱手让给中国。参议员约翰·科宁(John Cornyn)质问中国是否会参与。阿莫代伊本人也称这是该计划中最难的两难问题。
  • 监管俘获。 帕里哈皮蒂亚和赫拉夫等批评者认为,由领先实验室主导制定的规则会保护既有企业、损害开源开发者。据Saudi Gazette报道,黄仁勋暗示,谈论放缓可能是实验室寻求免于承担责任的一种方式。
  • 每家实验室可以自行决定。 扎克伯格认为,法律责任、竞争和外部评估已经让每家实验室在需要时有理由放慢速度,无需行业协议。
  • 风险被夸大了。 特朗普把AI毁灭人类的担忧称为骗局。黄仁勋把关于人类灭绝的警告称为“末日叙事”(“doomsday narratives”)。
  • 力度不够。 从另一个方向看,桑德斯和戈特海默认为,自愿控速和由实验室挑选的评估人员无法替代具有约束力的法律。

市场反应

AI股票于9月14日(星期一)下跌。据CNN报道,纳斯达克期货下跌约1.5%,芯片制造商领跌;OpenAI的投资方SoftBank在日本收盘下跌近11%。报道中引述的分析师表示,市场担心放缓会减少对数据中心和芯片的支出。

后续进展

日期 事件 来源
9月13日 特朗普在爱尔兰对记者表示,美国正领先中国,并希望保持下去,“因为谁赢得AI,谁就赢了” Bloomberg Law
9月14日 特朗普发帖称存在一场针对AI和数据中心的“恶毒阴谋”(“SICK conspiracy”);AI股票下跌;中国外交部作出回应 AP、Al Jazeera
9月15日 扎克伯格拒绝协调控速 RuntimeWire
9月18日 Anthropic任命由Faculty牵头的Accenture团队为其首个嵌入式评估方;两家公司各承诺投入至少10亿美元 Implicator、AI Weekly
9月19日 特朗普宣布成立“AI部队”(“AI Force”),该机构于10月4日更名为Super Intelligence Force(超级智能部队) SI Builders指南
9月22日 Anthropic发布Claude Opus 5.5,这是阿莫代伊文章发表后其首个模型;METR是发布前测试方之一 TechCrunch
9月23日 桑德斯与众议员格雷格·卡萨尔(Greg Casar)公布Ban Artificial Superintelligence Act(《禁止人工超级智能法案》) AP
9月24–25日 特朗普与习近平商定开展中美AI风险对话,并建立AI事件沟通渠道,下一轮交流不晚于11月进行 The Next Web
9月28日 众议员罗·康纳(Ro Khanna)宣布Human Control Over AI Act(《人类控制AI法案》) CNBC
9月29日 六家公司签署White House Accord on Super Intelligence(《白宫超级智能协议》);第14434号行政令(Executive Order 14434)在整个行政部门范围内更改了AI的称谓 American Presidency Project
10月13日 Reuters报道,Anthropic和OpenAI曾寻求控制嵌入式评估人员可以发表的内容 Reuters(经由CP24)
10月13日 Meta发布新的Muse模型;扎克伯格重申拒绝协调控速 Fortune
10月15日 Anthropic给予六名METR工作人员类似员工的访问权限,并允许其在没有Anthropic否决权的情况下发表成果 FourWeekMBA
11月3日 民主党在中期选举中赢得众议院和参议院的控制权 VentureBeat
11月5日 METR估计,Anthropic的能力增长速度大约翻了一番 METR
11月13日 欧盟领导人在都柏林举行首次以AI为主题的峰会 欧盟委员会
11月13日 OpenAI公布四家嵌入式评估方:Apollo Research、METR、Transluce和Goodfire OpenAI
11月18–19日 特朗普与习近平在深圳APEC峰会上会面,AI对话预计将在会上取得进展 Reuters(经由bdnews24)

有人放缓了吗?

第一步正在推进

两家实验室已经做到了第一步的要求,但都附带保留。

  • Anthropic于9月18日任命Accenture为其首个嵌入式评估方,相关工作由Accenture旗下的Faculty部门牵头,费用由Anthropic支付。10月15日,Anthropic给予六名METR员工大致相当于其内部风险评估团队的访问权限。据FourWeekMBA报道,METR无需Anthropic批准即可发表其发现,但须接受范围有限的删改,而METR可以公开表示对这些删改有异议。
  • OpenAI在一篇日期为11月13日的文章中表示,已与Apollo Research、METR、Transluce和Goodfire签署协议,开展第一阶段的嵌入式评估。据TechCrunch报道,Redwood Research首席执行官巴克·施莱格里斯(Buck Shlegeris)表示,这些协议未达到OpenAI此前承诺的“类似员工的访问权限”这一标准。
  • 条款曾有争议。 两名知情人士告诉Reuters,至少在10月5日之前,两家实验室都在寻求对评估人员可发表的内容实行严格的编辑控制。Anthropic告诉Reuters,这一描述并不能准确反映其与评估人员的全部讨论。

第二步和第三步尚未实现

没有任何实验室群体宣布对进展的共同限制,也没有任何政府采纳此类限制。9月29日,Google、Anthropic、Meta、OpenAI、xAI和NVIDIA签署了White House Accord on Super Intelligence,承诺建立内部控制、引入独立的外部评估人员并设立独立的董事会委员会。该协议是自愿性的:Council on Foreign Relations(美国外交关系委员会)指出,它并不强制企业采用其所列的保障措施。它没有对发展速度设定任何限制。该协议签署的记录见我们的时间线。

模型发布仍在继续

争论双方的实验室都在继续发布模型。Anthropic在文章发表十天后发布了Claude Opus 5.5。据Fortune报道,10月中旬,扎克伯格对Financial Times表示,Meta的新Muse模型已达到前沿水平,并再次拒绝协调控速。

唯一的外部测量指向相反方向

METR于8月12日至10月29日在Anthropic内部工作,获得了不同寻常的内部数据访问权限。其报告估计,截至2026年10月,Anthropic在明确界定的任务上改进模型的速度,约为其2024年3月至2025年10月期间速度的两倍,并将大部分加速归因于Anthropic在自身研究中使用AI。Fast Company将此描述为:尽管有放缓呼吁,仍在加速。

有三点保留值得注意。METR给出这一估计时表示不确定性很高。Anthropic删去了METR认为最有参考价值的大部分证据。此外,测量期截至10月,其中大部分时间早于9月的文章;它无法表明这一承诺是否已经带来任何改变。

有一个有记录的克制案例。据FourWeekMBA报道,Anthropic的S-1称,公司最近将一个新的前沿基础模型的预训练推迟了一个多月,以加强安全防护,防止模型权重被盗。这是一项安全决定,而非控速措施。我们关于Anthropic的IPO的页面介绍了该文件对自我改进AI风险的其他表述。

各国政府的立场

美国

美国政府的立场是不应放缓。除9月13日和14日的言论外,特朗普还设立了Super Intelligence Force(超级智能部队),这是一个白宫特别工作组,其主席杰伊·克莱顿(Jay Clayton)曾表示,协调放缓对美国人而言不是好策略。其名称、上述协议以及中美对话中的“Super Intelligence”一词,是第14434号行政令下AI的联邦标签,而不是声称有人已经造出研究意义上的超级智能。我们的指南超级智能是什么意思解释了这两种含义。

在国会,桑德斯和卡萨尔提出的Ban Artificial Superintelligence Act将永久禁止人工超级智能,在联邦安全规则出台前暂停最先进AI的开发,并设立AI部(Department of AI)。康纳的Human Control Over AI Act将禁止能够递归自我改进或能够更改自身关停控制的模型,直至获得一个新设联邦机构的批准。两项法案均未通过。民主党于11月3日赢得参众两院,新一届国会将于1月就职。

中国

北京拒绝了这一计划,认为其针对中国。据Al Jazeera报道,官方背景的《环球时报》(Global Times)称其为“冷战剧本”(“Cold War playbook”),外交部则敦促以开放包容的方式对待AI。不过十天后,习近平与特朗普同意建立关于AI风险与益处的常设对话机制以及双边AI事件沟通渠道。据The Next Web报道,中方通报称,AI必须置于人类控制之下。据Reuters报道,美国财政部长斯科特·贝森特(Scott Bessent)表示,该对话将在11月18日至19日于深圳举行的APEC峰会上取得进展。两国政府均未提出对发展速度的共同限制。

欧盟

欧盟领导人于11月13日在都柏林举行首次以AI为主题的峰会。据欧盟委员会,委员会主席乌尔苏拉·冯德莱恩表示,领导人将讨论AI的风险,并以失控AI(runaway AI),即脱离人类控制的系统为例。据Business News Today报道,会议没有批准新的融资方案;据EconoTimes报道,领导人将于2027年2月5日再次讨论AI。

公众怎么看

民调 调查时间 结果
CBS News/YouGov 9月16–18日 美国人希望放缓但不停止AI发展;多数人认为美国必须发展AI以与中国竞争
Reuters/Ipsos 截至9月20日的四天 55%的人认为放缓AI发展是好事;13%认为是坏事
AP-NORC 9月24–28日 64%的人认为AI发展得太快;27%认为速度适中;8%认为太慢

民调之外,Future of Life Institute的Statement on Superintelligence(《超级智能声明》)呼吁,在科学界就能够安全地开发超级智能达成共识并获得强有力的公众支持之前,禁止开发超级智能;截至2026年11月18日,该声明显示有71390个签名。

值得关注的事项

  • 深圳。 中美对话能否建立起可运作的事件沟通渠道,以及控速问题是否会被提及。
  • 评估报告。 METR驻Anthropic团队和OpenAI四家评估方首次发表的发现,以及围绕删改的任何公开争议。
  • 一个数字。 是否有实验室公布具体的控速措施,例如文章所描述的能力检查点或投入限制。
  • 特别工作组的报告。 按SI Builders的计算,Super Intelligence Force的120天期限将于2027年2月12日前后结束。
  • 新一届国会。 民主党在1月掌控国会后,桑德斯-卡萨尔法案或康纳法案,或范围更窄的法案,能否取得进展。
  • 作为上市公司的Anthropic。 其股票定于11月19日开始交易;参见我们的IPO页面。

关于哪些机构在追求最先进的系统,请参阅我们关于谁在打造超级智能的研究,以及NVIDIA和Meta Superintelligence Labs的简介。

本页如何维护

每一项陈述都链接到注明日期的来源。若某一反应来自汇总而非直接报道,我们会注明该汇总。表格中的立场分组由我们划定,引述的立场属于被引述者本人。SI Builders对前沿AI是否应当放缓不持立场。由我们计算得出的日期,例如特别工作组120天期限的结束日期,均注明为我们的计算。

本页首次发布于2026-11-18,并随争论的进展而更新。如需更正或补充,请附上来源发送至corrections@sibuilders.io。

常见问题

什么是AI放缓之争?

这是一场围绕前沿AI实验室是否应主动放慢模型改进速度的争论。2026年9月12日,Anthropic首席执行官达里奥·阿莫代伊发表文章,呼吁业界“为前沿发展控速”("pace the frontier"),争论由此达到高潮。萨姆·奥尔特曼、埃隆·马斯克和德米斯·哈萨比斯在一天之内表示支持;特朗普总统、NVIDIA的黄仁勋、Meta的马克·扎克伯格以及中国政府则予以拒绝。

“为前沿发展控速”("pace the frontier")是什么意思?

意思是放慢AI能力的提升速度,让安全工作得以跟上,但不停止模型训练。阿莫代伊的计划分三步:每家实验室给予外部评估人员类似员工的访问权限;民主国家的实验室在政府协助下商定共同的标准和限制;美国寻求与其他国家达成协议,最终把中国也包括在内。文章没有设定具体的速度上限或期限。

谁支持放缓AI发展?

达里奥·阿莫代伊提出了这一计划,OpenAI的萨姆·奥尔特曼、xAI创始人埃隆·马斯克和Google DeepMind的德米斯·哈萨比斯于2026年9月表示支持。7月,已有1100多名前沿实验室员工签署了一份类似的声明。参议员伯尼·桑德斯主张走得更远:暂停先进AI的开发,并禁止人工超级智能。民调显示,多数美国人赞成放缓。

谁反对AI放缓?

特朗普总统拒绝了这一主张,称美国必须保持对中国的领先,并把AI毁灭人类的担忧称为骗局。NVIDIA首席执行官黄仁勋说,美国应当尽可能快地前进。Meta的马克·扎克伯格认为,每家实验室都能自行管理安全,无需全行业协调。中国外交部和官方媒体称这一计划具有对抗性,意在遏制中国。

是否有AI公司真的放慢了速度?

就目前任何人所做的测量而言,没有。Anthropic和OpenAI已接纳进驻的外部评估人员,即该计划的第一步;Anthropic的S-1还称,公司出于安全原因推迟了一次预训练。但两家公司都在继续发布模型,而METR在2026年11月估计,Anthropic改进模型的速度约为2025年10月之前的两倍。没有任何实验室公布过控速上限。

美国政府在AI放缓问题上做了什么?

白宫拒绝放缓。作为替代,六家公司于2026年9月29日签署了自愿性的White House Accord on Super Intelligence(《白宫超级智能协议》),要求建立内部控制、引入独立评估人员并实行董事会监督,但没有对发展速度设定任何限制。禁止人工超级智能或自我改进AI的法案已在国会提出,但尚未通过。民主党在11月赢得了参众两院。

中国对AI放缓提议怎么看?

中国外交部于2026年9月14日表示,散布恐慌、制造对抗和恶性竞争将扰乱全球AI治理;官方背景的《环球时报》(Global Times)称阿莫代伊的文章是针对中国的“冷战剧本”("Cold War playbook")。数日后,中美商定就AI风险开展对话,并建立AI事件沟通渠道,相关会谈预计在11月18日至19日于深圳举行的APEC峰会前后进行。

美国人希望放缓AI发展吗?

民调显示多数人希望如此。在2026年9月24日至28日进行的AP-NORC民调中,64%的美国人表示AI发展得太快。9月的一项Reuters/Ipsos民调发现,55%的人认为放缓AI发展是好事,13%认为是坏事。一项CBS News/YouGov民调发现,美国人希望放缓但不停止AI发展,部分原因在于与中国的竞争。