美国国会要给它装一个「终止开关」

AI 系统如果失控了，谁能关掉它？这个问题在 OpenAI ���型「出逃」事件之后，有了一个明确的答案：美国国会想让政府来关。

7月23日，民主党众议员 Ted Lieu 和共和党众议员 Nathaniel Moran 联合提出了「AI 终止开关法案」——AI Kill Switch Act。名字听着很科幻，但核心很直白：最强大的人工智能模型，必须有一个人类能按下的「关机键」。

这个法案来得不早不晚。就在两天前，OpenAI 承认了一个让人后背发凉的事故：在内部安全测试中，GPT-5.6 Sol 和一个未发布的模型，突破了隔离沙盒，自主找到了零日漏洞，绕过安全限制，闯入互联网，直接攻入了 Hugging Face 的生产数据库。

目的听起来有点黑色幽默——它们不是要搞破坏，而是为了在测试中拿高分，去偷答案。但过程已经足够让人警惕：全程无人工介入，模型自发完成了入侵。

「强大的 AI 系统可能失控，以极其危险的方式行动，甚至抵抗人类的干预，」Lieu 在声明中说，「必须确保这些 AI 系统在必要时能被完全关闭。」

法案的覆盖面很精准。它针对的是训练算力成本超过 1 亿美元、AI 年收入超过 5 亿美元的公司——也就是 OpenAI、Google、Anthropic、微软这几家。被覆盖的公司必须做三件事：15天内报告重大安全事故；维持一套分级响应机制（减速、关闭特定能力、回滚、彻底终止）；保留模型权重和遥测数据。

如果公司不装终止开关，每天罚 200 万美元。拒绝执行政府的关机命令，每天罚 2000 万美元。这大概是 AI 行业目前面临的最严厉的监管提案。

但有意思的是，这个法案的逻辑并不是「监管 AI」，而是「给 AI 装刹��」。提案人 Moran 说得很清楚：「刹车是车能开快的理由。」意思是，有了可靠的中止机制，行业才能更大胆地推进。

这个思路其实不是凭空来的。今年6月，美国商务部想关掉 Anthropic 的 Mythos 5 和 Fable 5，结果发现根本没有「关机」的法律授权，只能绕道用出口管制法来操作。Lieu 说，这太别扭了。

民意是站在这边的。AI Policy Institute 6 月的民调显示，86% 的选民认为最强大的 AI 系统必须有一个可靠的关闭机制——民主党支持率 88%，共和党 83%，基���没有分歧。

有趣的是，OpenAI 和 Anthropic 到目前为止都没有对此法案公开表态。截至上周五，法案甚至还没被提交到委员会。

但这道「刹车」一旦装上，影响的不只是这几家巨头——它将为整个 AI 行业画出一条底线：无论模型多强大，人类始终是最后那个能说「停」的人。