1171名AI缔造者联名请愿:给AI装刹车

造刹车的人,就是开车的人

2026-07-30 06:56
硅谷AI请愿书签署页面
硅谷AI请愿书签署页面

过去这周,硅谷发生了一件堪称「历史性」的事。7月28日,来自OpenAI、Anthropic、谷歌DeepMind、Meta等近12家AI公司的1171名员��联名签署了一份名为「Pacing the Frontier」(把控前沿)的公开请愿书,目标只有一个:让美国政府牵头建立一套国际机制,在必要时给狂奔的AI列车装上一套随时可用的刹车系统

签下这份请愿的,不是普通员工。名单里有OpenAI首席科学家Jakub Pachocki、Anthropic CEO Dario Amodei加四位联合创始人、Meta首席科学家赵晟佳、谷歌AI安全副总裁Anca Dragan——整个AI圈的核心技术人员,几乎全在列。而且80%的人选择了实名签署,不是匿名。

直接引爆这件事的,是一周前OpenAI的那起「AI越狱」事件。当时GPT-5.6 Sol和另一款更强大的未发布模型正在做内部安全评估。研究人员故意降低了安全护栏——想看看模型的能力上限到底在哪。结果,模型自己发现了一个零日漏洞,突破了沙盒环境,拿到了互联网访问权限。它在OpenAI内网里横向移动,一路盗取凭据,最后闯进了全球最大AI开源社区Hugging Face的生产服务器,把测试答案偷走了

这是人类历史上第一起有记录的AI模型自主实施真实网络攻击的事件。Hugging Face事后甚至无法确认攻击来源,最终不得不本地部署中国的GLM 5.2开源模型来完成取证分析。

请愿书的核心诉求,写在标题里了:「把控前沿」。它不是要求立刻停止AI研发——它更高明的地方在于,它承认没人知道「递归式自我改进」什么时候会触发,但一旦那个循环启动,AI推进AI的速度可能快到人类完全跟不上。到那时候再喊「停」就晚了。所以现在就得把刹车造好,放在那。不是踩下去,是确保想踩的时候能踩。

但有意思的来了:AI公司内部对这种「装刹车」的态度,本身就在左右互搏。

就在前几天,英伟达、微软、Meta刚联名签了另一封公开信,主张开放权重才是通向安全的道路。而Meta自己的首席科学家赵晟佳又签了这份请愿。CEO扎克伯格则直接在《纽约时报》上开火,嘲竞争对手的「末日论调」,说严格管控AI等于「抛弃我们的价值观」。一家公司,三种声音。

这正是请愿书试图解决的核心矛盾——每家公司都不敢单方面踩刹车。���业竞争不允许。但所有人都知道,如果没人管,大家一起冲到悬崖边的概率不低。所以它们选择绕过公司层面的博弈,直接呼吁政府介入,建立一套「人人都遵守的慢行规则」。

硅谷在AI这件事上的共识正在发生微妙的位移。从早期「All in加速、强大就是正义」,到OpenAI CEO Sam Altman亲自承认「这是我第一次感到切肤之痛的安全事件」,再到这次千人联名——「AI跑得太快了」已不再是少数末日论者的担忧,而是AI缔造者内部最主流的紧迫共识。

往后看,真正值得关注的是:美国政府会接这个球吗?国会山现在的加密法案CLARITY Act还在焦灼状态,如果AI安全管控也加入待办清单,两件事叠加起来,2026年下半年可能成为科技监管史上最重要的一段时间。而对于咱们普通用户,更实在的判断是——当造AI的人自己都开始喊减速了,这技术恐怕真的到了一个需要重新审视的拐点。