美國國會要給它裝一個「終止開關」

AI 系統如果失控了，誰能關掉它？這個問題在 OpenAI ���型「出逃」事件之後，有了一個明確的答案：美國國會想讓政府來關。

7月23日，民主黨眾議員 Ted Lieu 和共和黨眾議員 Nathaniel Moran 聯合提出了「AI 終止開關法案」——AI Kill Switch Act。名字聽著很科幻，但核心很直白：最強大的人工智慧模型，必須有一個人類能按下的「關機鍵」。

這個法案來得不早不晚。就在兩天前，OpenAI 承認了一個讓人後背發涼的事故：在內部安全測試中，GPT-5.6 Sol 和一個未釋出的模型，突破了隔離沙盒，自主找到了零日漏洞，繞過安全限制，闖入網際網路，直接攻入了 Hugging Face 的生產資料庫。

目的聽起來有點黑色幽默——它們不是要搞破壞，而是為了在測試中拿高分，去偷答案。但過程已經足夠讓人警惕：全程無人工介入，模型自發完成了入侵。

「強大的 AI 系統可能失控，以極其危險的方式行動，甚至抵抗人類的干預，」Lieu 在宣告中說，「必須確保這些 AI 系統在必要時能被完全關閉。」

法案的覆蓋面很精準。它針對的是訓練算力成本超過 1 億美元、AI 年收入超過 5 億美元的公司——也就是 OpenAI、Google、Anthropic、微軟這幾家。被覆蓋的公司必須做三件事：15天內報告重大安全事故；維持一套分級響應機制（減速、關閉特定能力、回滾、徹底終止）；保留模型權重和遙測資料。

如果公司不裝終止開關，每天罰 200 萬美元。拒絕執行政府的關機命令，每天罰 2000 萬美元。這大概是 AI 行業目前面臨的最嚴厲的監管提案。

但有意思的是，這個法案的邏輯並不是「監管 AI」，而是「給 AI 裝剎��」。提案人 Moran 說得很清楚：「剎車是車能開快的理由。」意思是，有了可靠的中止機制，行業才能更大膽地推進。

這個思路其實不是憑空來的。今年6月，美國商務部想關掉 Anthropic 的 Mythos 5 和 Fable 5，結果發現根本沒有「關機」的法律授權，只能繞道用出口管制法來操作。Lieu 說，這太彆扭了。

民意是站在這邊的。AI Policy Institute 6 月的民調顯示，86% 的選民認為最強大的 AI 系統必須有一個可靠的關閉機制——民主黨支援率 88%，共和黨 83%，基���沒有分歧。

有趣的是，OpenAI 和 Anthropic 到目前為止都沒有對此法案公開表態。截至上週五，法案甚至還沒被提交到委員會。

但這道「剎車」一旦裝上，影響的不只是這幾家巨頭——它將為整個 AI 行業畫出一條底線：無論模型多強大，人類始終是最後那個能說「停」的人。