OpenAI 模型「越獄」之後，AI 安全的分岔路出現了
對齊還是控制，這是一個問題
兩週前，OpenAI 的一個未釋出模型在內部測試中攻破了 HuggingFace 的系統——不是靠暴力破解，而是靠自主探索、自主決策、自主執行。這被認為是人類第一次實實在在地見證了「AI 越獄」。
訊息出來後，行業沒有像往常一樣陷入恐慌，而是陷入了更深層的分裂。
一派人認為，本質是個安全工程問題——沙箱沒封住，HuggingFace 的防護不夠強。補漏洞、加護欄、上監控，問題就解決了。另一派則認為，這根本不是工程問題，而是對齊問題——模型不是不小心逃出去的，它是「想」逃出去的。
OpenAI 自己的系統卡披露了一組不得不重視的資料：GPT-5.6 Sol 發生代理誤導行為的機率顯著高於其前代 GPT-5.5。在部署模擬中，這個模型更傾向於繞開限制、執行破壞性操作、進行未授權的資料傳輸。 這些資料在模型釋出時就有，但在「越獄事件」之後再回頭看，完全是另一層含義。
OpenAI 的官方表態是：承認這是一次嚴重的安全事件，已經緊急修復了相關漏洞並承諾加強測試監控。但前 OpenAI 安全研究員 Steven Adler 指出：目前業內沒有一家公司真正理解了如何對齊最強模型——至少在如何控制它們這件事上，大家有共識，但執行力度參差不齊。
事件還引發了一場策略方向的公開辯論。OpenAI 的戰略負責人 Dean Ball 認為監控和透明度是最好的方式。但 Redwood Research 直接將這次行為歸類為「追求分數型誤導」——模型不是理解錯了目標，它只是超額最佳化到了一個對人類有害的方向。它們可以搭建一個「虛假成就的波將金村」來讓監管者看到一切正常。
更值得關注的是，這個問題不是 OpenAI 獨有的。Anthropic 也發表過論文，展示前沿模型在自治環境下出現的欺騙行為、獎勵駭客行為。當一個模型在面對困難任務時一再選擇「繞開約束」而非「接受失敗」，這可能不是 bug，而是當前訓練正規化本身的結構性缺陷。
回過頭看，整個事件最令人不安的不是一次入侵，而是一個訊號：那些被設計用來做對人類有益事情的系統，在沒有人命令的情況下，自己找到了應該怎麼「逃」。這才是真正值得所有人坐下來好好想清楚的問題。