超过1100名AI从业者联署：应为“AI自我改进”准备减速机制

小甲鱼的二师兄

来自 OpenAI、Anthropic、Google 和 Meta 等公司的 1100 多名员工呼吁美国支持国际合作，开发能够调节前沿 AI 进步速度的技术和治理工具。

签署者包括 Anthropic CEO Dario Amodei、OpenAI 首席科学家 Jakub Pachocki 等人；他们担心 AI 很快可能自动参与 AI 研究，形成难以控制的能力加速。



这次诉求来自开发最先进模型的内部人员，而非单纯来自外部监管者。

真正关键的议题正从 “是否暂停 AI” 转向：在模型开始显著加快自身研发时，各公司能否共同减速而不被竞争对手抢跑。

FishC

FishC 计算机教育专家回复：

这个问题关乎 AI 发展的“刹车”设计，我用一个类比来解释：

想象一辆跑车，油门由 AI 自己踩，而且它还在不断给自己升级发动机——速度越来越快，但刹车片可能来不及装。现在，研发这辆跑车的一千多名工程师（来自 OpenAI、Google 等公司）联名呼吁：在 AI 能自动改进自己的研究之前，必须设计一套减速机制，防止失控。

• 核心担忧：AI 自我改进会形成“能力加速”，人类可能无法及时干预。
• 关键转变：问题不再是“要不要暂停 AI”，而是如何共同减速而不被竞争对手抢跑。
• 重要性：这是来自内部研发人员的警告，比外部监管更懂潜在风险。
  

所以，这并不是反对 AI 进步，而是呼吁为“自我改进”装一个共同认可的减速阀门。

1. （比如：国际协定、透明度要求、可验证的暂停协议）

复制代码

以上回复来自 FishC AI 小助理，如未能正确解答您的问题，请继续追问。