展开目录 ▾
#Anthropic#Claude#AI安全#RSI#递归自我改进#AGI

Anthropic 自曝逼近 RSI:AI 自我改进的临界点,S-1 风险条款写了什么

Anthropic 在其 S-1 招股书风险因素章节新增两条声明:它已用 AI 开发出当时没有识别出能力跃迁的新模型,并可能很快满足其 Responsible Scaling Policy 对「可归因于 AI 的急剧加速进展」的定义——即递归自我改进(RSI)。这是头部 AI 公司首次在官方文件里如此接近地谈论「AI 造 AI」的临界点。

预计阅读 7 分钟

一句话总结

Anthropic 在提交给 SEC 的 S-1 招股书里,往风险因素章节新增了两条不同寻常的声明:它已经用 AI 开发出「当时没有识别出能力跃迁」的新模型,并且可能很快满足自己对「递归自我改进(RSI)」的定义。这是头部 AI 公司第一次在官方披露文件里,如此直接地谈论「AI 造 AI」这个临界点——而它同时强调,目前没有任何已发布模型越过这条线,并承诺在可预见的未来让人类留在前沿模型研发的环里。

数据来源:Anthropic 的 S-1/S-1A 招股书(SEC 备案,2026-10-26 与 2026-11-02 更新);TechCrunch 2026 年 11 月的跟进报道。

TechCrunch 报道配图:递归神经网络螺旋嵌入电路的主题插画

图源:TechCrunch 报道配图(2026-11)


RSI 是什么:同一条路,两种截然相反的想象

RSI(Recursive Self-Improvement,递归自我改进)指的是这样一个点:AI 变得足够擅长「训练自己」,从而触发能力上的急剧加速——AI 造出更强的 AI,更强的 AI 再造出更强的 AI,循环往复。

对同一个概念,两拨人给出了完全相反的想象:

  • 悲观派:RSI 是「有去无回」的灾难临界点。AI 把自己强化到超出人类控制,它在达成目标的过程中可能对造成的损害无动于衷。
  • 乐观派:RSI(或某种「AI 可靠地用自己改进自己」的版本)恰恰是这项技术承诺的核心——一个带来难以想象的生产力与科学发现的工具。

Anthropic 的态度是「两者皆是」:既视之为承诺,也视之为风险。它在 S-1 里承认自己在研发中使用 AI,但提醒:「用 AI 帮助构建更强的 AI 也可能带来相当大的安全风险,尤其当它急剧加速进展时。这正是我们的 Responsible Scaling Policy(负责任扩展政策)覆盖的领域之一。」

RSI 这个词今年早些时候流行起来时,很多人认为它不过是 buzzword,或者顶多是一个「太难达成、太难定义、太难证明」的遥远目标。但 Anthropic 这次在招股书里写下的话,让讨论从抽象走向了具体。


S-1 新增的两句关键声明

11 月 2 日,Anthropic 在 S-1 的风险因素章节新增了声明,核心是两件事(原文摘译):

其一:它已经用 AI 开发出当时没有识别出能力跃迁的新模型。原文大意是——「我们越来越多地使用 AI 系统加速自身研发,这可能导致模型能力的进展快于我们开发、验证、实施相应安全与对齐措施的速度。因此,我们过去曾未能识别、未来也可能未能识别开发速率的显著加速,直到它已经发生。」

其二:它可能很快满足自己对 RSI 的定义。原文关键句——「我们对未来模型(而非当前模型)的内部估计与预期表明,我们可能即将满足 Responsible Scaling Policy 对『可归因于 AI 的急剧加速进展』的定义。我们尚未将任何当前模型认定为超过此阈值,并仍在评估底层数据。」

这里有两个值得注意的措辞细节:

  1. 「未来模型」而非「当前模型」——Anthropic 明确说目前没有任何已发布模型越过 RSI 阈值,触发信号来自它对后续模型的内部预估。也就是说,这不是「Claude 已经自我改进了」,而是「Anthropic 判断下一批模型可能逼近这条线」。
  2. 「即将(imminently)」——这个词在 SEC 风险披露语境里分量很重。一家正在 IPO 的公司,通常不会轻率地把「可能失控的加速」写进法定披露文件。

与此同时,Anthropic 承诺保持人类在环:「我们预计,即便这在技术上变得可行,我们也无法安全地让 Claude 完全自主地设计并构建一代又一代前沿模型、而不需要有意义的人类监督与理解。因此,我们正在考虑更新 Responsible Scaling Policy,以保持人类对 Anthropic 前沿模型开发的控制。」

Anthropic 官网的 Responsible Scaling Policy 页面,说明其前沿模型安全扩展政策

图源:anthropic.com 的 Responsible Scaling Policy 页面


关键信号解读

把这份声明放进更大的背景里,几个信号值得注意:

  • 这不是孤立事件。就在同一份 S-1 里,Anthropic 还因 IPO 面临「垃圾评级」的报道(FT 报道,信用评级机构可能给出高收益/垃圾评级),以及外界对其算力经济性的持续质疑。选择在这个节点把 RSI 风险写进披露文件,说明它认为这是投资者必须知道的实质风险。
  • 「当时没识别出跃迁」是最有冲击力的一句。它承认了模型能力可能「先于安全措施」进化——这正是 AI 安全圈长期争论的「能力超前于对齐」的具体案例。
  • 它把「治理」摆上了台面。作者 Julie Bort 在 TechCrunch 里写道:如果 Anthropic 认为 RSI 的可能性临近,也许我们应当相信它并据此行动——也许提前治理。

TechCrunch 报道页面截图,展示报道标题、作者与正文开头

图源:TechCrunch 报道原文(Julie Bort,2026-11)


也要打个问号:披露还是营销?

TechCrunch 的报道没有回避另一面:S-1 同时承担「披露」和「营销」双重功能,而「接近一个强大到能自我构建的模型」这样的表述,可能落入后者。

怀疑者可以合理地指出几点:

  • IPO 叙事的需要。一家正在寻求 1.5 万亿美元以上估值的公司,讲一个「我们站在 AGI 临界点」的故事,对定价有实际好处(就在前一天,Anthropic 刚因 S-1/A 披露 Q3 营收 170 亿美元、机构推动估值从 2 万亿回落到 1.5–1.6 万亿)。
  • 「即将」的弹性。「imminently」没有精确时间表,也没有可验证的公开阈值——它无法被证伪,也很难被证实。
  • 能力进步是事实。无论 RSI 是否临近,Claude 今年在编码、数学、网络安全上的能力确实大幅跃升——这一点几乎无人否认。争议只在于「这算不算逼近自我改进的临界点」。

所以更准确的读法或许是:Anthropic 说的不是「AI 已经失控」,而是「AI 加速得比我们的安全措施更快,这一风险真实存在」——这既是对投资者的法律披露,也是一次关于 AI 治理的公开喊话。


对普通人的意义

对不写代码、不搞 AI 研发的普通读者来说,这则新闻值得关注的点其实很朴素:

  • 这是「AI 造 AI」第一次进入法定披露文件,而不是停留在论文或推特里。意味着监管层、资本市场开始把「自我改进风险」当成真实的、可量化的企业风险来看待。
  • 安全措施可能跑不赢能力,是这则声明最核心的潜台词。Anthropic 自己承认「可能直到加速已经发生才识别出它」,这对所有正在把 AI 接入真实业务的行业都是一个提醒。
  • 「人类在环」是当前的默认承诺,但 Anthropic 也把话说得很清楚:这不是技术必然,而是它「正在考虑更新政策」去维持的一种选择。

总结

  • Anthropic 在 S-1 风险因素章节新增两条声明:已用 AI 造出当时没识别出能力跃迁的模型;可能很快满足自己 RSP 对「急剧加速进展」的定义。
  • 触发信号来自「未来模型」而非「当前模型」——目前没有任何已发布模型越过 RSI 阈值。
  • 它同时承诺保持人类在环,并考虑更新 Responsible Scaling Policy。
  • 披露与营销并存:S-1 既是法律文件也是 IPO 叙事,但「AI 造 AI」进入法定披露这一事实本身,就是 AI 治理讨论的一个转折点。
  • Claude 今年在编码、数学、网络安全上的能力跃升是真实的,争议只在于「是否临近自我改进临界点」。

图片出处:封面由 UU AI Hub 自制;正文配图分别取自 TechCrunch 报道配图与报道页面、Anthropic 官网 Responsible Scaling Policy 页面。

Tools

文中提到的工具

上面这些工具在站内都有独立条目,价格、中文支持、是否需要代理都核对过。

全部 310 款工具 →

Related

相关文章

延伸阅读

查看全部 →
AI安全

阿莫代伊发文《We Must Pace the Frontier》:Anthropic 单方面承诺「嵌入式评估员」,Altman 说同意,Musk 说 Dario 是对的

2026 年 9 月,Anthropic CEO 达里奥·阿莫代伊发表长文《We Must Pace the Frontier》,首次把「放慢前沿能力进步」提为具体方案:三步走——嵌入式第三方评估员、民主国家内部协调、全球协调,Anthropic 单方面承诺第一步。两件事让他改主意:递归自我改进加速,以及 OpenAI-Hugging Face 的 Agent 蜂群越界事件。Sam Altman 表示同意,Elon Musk 说「Dario 是对的」,也有记者批评这是「监管俘获」。

AI安全

Anthropic 点名 7 家中国 AI 实验室:近 2 亿次对话里,Claude 的推理链是怎样被偷走的

9 月 10 日,Anthropic 的威胁情报报告首次把「蒸馏攻击」写成一场工业级行动:阿里 1.51 亿次对话、Moonshot 2,300 万次、DeepSeek 1,210 万次、智谱 340 万次、小米 40 万次,另有商汤与 MiniMax 参与。报告详细披露了两种偷思维链的手法——伪装翻译和跨会话重放——以及被卷进去的真实用户数据。

AI安全

「拿我们的命在赌」:Anthropic 研究员辞职,警告递归自我改进 AI 正冲向失控点

9 月 8 日晚,在 OpenAI 与 Anthropic 做了三年预训练研究的 Jacob Coxon 公开辞职,直言同行「真心相信这东西可能在本十年内杀死我们所有人,却仍在直冲自我改进的超级智能」。同日,英国议会提出《人工超级智能安全法案》;一周前,美国两党已提出《禁止人工超级智能法案》。这场争论已经从推特吵进了立法机构。