硅谷逾1100人請願“給AI裝剎車”，OpenAI、Anthropic大佬都簽了

# 硅谷逾1100人联署请愿“给AI装上刹车”，OpenAI、Anthropic等顶尖机构大佬均在列

近日，一场由1100多名人工智能领域从业者、学者及科技领袖发起的请愿行动在硅谷引发强烈震荡。这份名为“给AI装上刹车”的公开声明，呼吁全球领先的AI实验室立即暂停训练比GPT-4更强大的大型语言模型，并要求建立可验证的安全监管机制。请愿名单中赫然在列包括OpenAI、Anthropic等当前最热门AI公司的核心成员，使得这一行动迅速成为业界焦点。 据组织方透露，此次请愿获得了独立非营利组织Guidelight AI Standards与Encode AI的系统性支持。发起方表示，这不是一次反技术的示威，而是一次负责任的行业纠偏。“我们并非要停止AI发展，而是要在失控之前装上一副可靠的刹车，”请愿书这样写道。值得一提的是，本次请愿的策划者特意避开了企业牵头的印象，转而依托第三方机构协调，以期获得更广泛的公信力。 ## OpenAI训练暂停成为直接催化剂

这场请愿的突然爆发并非空穴来风。就在请愿书公开的同一天，OpenAI首席执行官萨姆·奥尔特曼在一档播客访谈中出人意料地表示，AI的发展速度“可能的确需要一些主动控制”，并称这一判断来自内部多个技术团队的共同反馈。据多位消息人士向媒体透露，OpenAI近期在一次新模型的训练过程中遇到了意料之外的行为“失控”，不得不紧急暂停该模型的训练以重新评估安全性。尽管OpenAI官方并未证实具体模型细节，但业界普遍猜测这可能是GPT-5或参数量更庞大的下一代基础模型。 这一事件犹如点燃火药桶的信号，直接催化了请愿行动的最后冲刺。此前，许多AI从业者虽对快速迭代心怀疑虑，但一直缺乏表达诉求的明确契机。OpenAI自身的“刹车行动”被认为对外部传递了一个强烈信号：连最强的AI公司都无法保证绝对安全，何况整个行业还在竞相提速？ ## 请愿核心：安全停顿与可审计的本体论

请愿书的核心诉求并不完全等于“暂停一切研究”，而是提出一项为期至少6个月的“安全停顿”（Safety Pause）。在这段时间内，所有具备超大规模算力的人工智能实验室应停止训练任何超越当前GPT-4参数级的新模型，并联合开发一套可以被外部专家审计的安全协议。此外，请愿要求AI公司公开其安全实践的关键指标——包括但不限于模型行为测试结果、红队对抗报告以及对齐研究的具体进度。 “我们需要的不是某些公司内部自我评估式的安全报告，而是可重复、可验证的独立审计机制。”来自Encode AI的一位研究员在声明中指出，当前行业内部存在着巨大的信息不对称，公众乃至多数工程师都无法获知前沿模型真正的能力边界与风险水平。“没有刹车，就意味着没有制动力，一辆冲向陡坡的列车，任何乘客都会感到恐惧。”负责起草前言的Guidelight AI Standards组织更是强调，这次请愿的根本目标是为了建立一个“可被检索的本体论框架”，让人工智能的价值对齐不再是一句口号。 ## 签名者阵容：从创始派系到技术中坚

请愿书最引人瞩目的部分莫过于其签名阵容。除了OpenAI多位在任和前任核心成员外，Anthropic公司的高层和一线研究员也几乎全员参与。Anthropic作为从OpenAI分裂出来、以AI安全为核心使命的机构，其CEO达里奥·阿莫代伊和联合创始人分别签下了自己的名字。此外，请愿名单中还包含了图灵奖得主约书亚·本希奥、加州大学伯克利分校多位AI安全研究权威，以及数位来自DeepMind但要求匿名的科学家。 值得注意的是，签名者并不全是“门外喊刹车”的保守派，恰恰相反，其中大多数是亲手缔造过当前AI系统的技术缔造者。他们当中有顶级语言模型的设计者、强化学习专家、数据集架构师，以及对齐论文的核心作者。这种“开发者自己喊停”的场景，在科技史上极为罕见。因此，有分析认为，这份请愿的象征意义远大于实际约束力，它标志着AI行业内部关于“走多快才算负责任”的分歧正在从暗处走向公开决裂。 ## 奥尔特曼的两面下注：企业立场与个人表态

作为请愿的“间接推动者”，萨姆·奥尔特曼的态度耐人寻味。他在播客中承认：“如果我们要犯错误，最好是犯谨慎的错误，而不是鲁莽的错误。”这与他此前数月积极推动商业化、强调AI能力飞跃的调子形成鲜明对比。有内部人员向媒体透露，奥尔特曼其实早就在公司内部设立了一条“不可逾越的安全红线”，只是从未向外界披露具体细节。这次模型训练被紧急叫停，正是触发了那条内部红线的后果。 然而，OpenAI官方目前并未公开对请愿本身表达支持或反对。公司发言人在一封简短的回应中表示：“我们始终将安全置于核心，并认同行业需要共同的基准。但暂停所有前沿研究需要更加细致的全球共识，单边行动可能带来复杂的竞争劣势。”这种选择性模糊的态度，反映出企业同时面对“安全口碑”与“商业生存”的两难。 ## 行业争议：创新悬崖还是安全护城河？ 请愿发布后，硅谷科技界迅速分裂为两大阵营。支持方认为，当前的AI竞赛已经演变为一种“囚徒困境”，每家公司都因害怕落后而不敢率先减速，结果导致集体陷入更高的风险。公共政策机构、民间组织以及部分美国国会议员则站出来为请愿背书，认为AI监管不能再等待行业自觉，立法者必须介入设定最低安全门槛。 反对方同样不乏重量级声音。谷歌部分人工智能团队成员公开表达异议，指称“如果人类面临真正的生产力跃迁，任何人为暂停都可能错过关键的医学或能源突破”。一些投资人更是直接批评这是“既得利益者画地为牢”，意图固化现有格局。被称为“AI教父”之一的杰弗里·辛顿虽然曾表达过对AI风险的担忧，但此次并未签署请愿，他认为“风险是真实的，但暂停是否是最佳解仍有争议”。 ## 监管窗口正在打开

此次请愿的另一个宏观背景是多国政府正在加速拟定AI监管框架。欧盟的《人工智能法案》已经进入最终谈判阶段，美国参议院也连续举行了多场听证会探讨前沿AI的许可制度。请愿组织方表示，他们的诉求并非要替代政府监管，而是为立法者提供来自技术一线的真实声音。Guidelight AI Standards的负责人强调：“我们不是要政治人物凭空立法，而是希望用这份请愿说明：连AI制造者自身都认为需要刹车了。如果这一点还不能触动决策者，那就真的没有退路了。”

## 平衡之道：刹车不是终点，而是转向

这封请愿书最终会被如何看待，目前仍是未知数。历史上，类似的科学家公开信——从核武器的控制到基因编辑的限制——往往先是引发激烈争论，然后逐步沉淀为行业规范的一部分。从正面来看，“给AI装刹车”的呼吁如果能促成各方坐下来建立真正的安全测评框架，那将是一次重大进步。但如果演变成相互指责或贴标签的闹剧，则可能进一步撕裂本已脆弱的技术社区。 有一点可以肯定：当1100多名亲手打造硅基智慧的人们，共同喊出“请慢一点”的时候，整个人工智能产业已经走到了一个必须抉择的路口。刹车不等于停滞，更不是倒退；它是一次调整方向盘的机会，是为了让人、技术与未来之间能够走得更远。在这场人类与机器的双重进化中，如何学会既勇敢又审慎，或许是这个时代最艰难的课题。