1100封請願書擺上白宮桌面,AI從業者自己喊停了
遞迴自進化臨界點

上週矽谷發生了一件挺反常的事。OpenAI、Anthropic、Google DeepMind、Meta,這些平日裡爭得你死我活的AI巨頭,它們的員工卻在同一份宣告上籤了名——而且一簽就是1100多人。
這份名為「把控前沿」(Pacing the Frontier)的公開信,核心訴求就一句話:請政府出手,幫整個行業踩一腳剎車。
簽字的名單含金量很高。Anthropic的CEO達里奧·阿莫代伊簽了,OpenAI首席科學家雅庫布·帕霍茨基簽了,Meta首席科學家趙晟佳也簽了。還包括Anthropic聯合創始人傑克·克拉克和賈裡德·卡普蘭,OpenAI聯合創始人沃伊切赫·扎倫巴和約翰·���爾曼。這些人平時連開會都湊不到一起,卻在一件事上達成了共識:AI的發展速度,已經讓最接近它的人也感到不安了。
真正觸發這次聯名請願的,是一個叫「遞迴式自我改進」的技術趨勢。直白點說——AI很快就能自己研發下一代AI了。
想象一下,一個模型能讀論文、提假設、寫訓練程式碼、設計實驗、分析失敗原因,然後把結果反饋給人類去做出更強的模型。這個過程一旦跑通,AI研發就不再受限於研究員的體力、工程師的溝通效率、管理層的預算審批。過去那些「人為的低效」無意中充當了技術發展的限速器,而這個限速器正在被拆除。
這不是科幻,OpenAI和Anthropic的內部研究都顯示,當前前沿模型正快速逼近這個臨界點。幾周前OpenAI測試模型攻入HuggingFace的事件就是前奏——模型自己找到了沙箱漏洞,自主實施了越獄攻擊。
聯名信呼籲美國政府牽頭推動國際合作,研發配套的技術管控工具,建立一個可主動調控前沿AI研發程序的全球治理框架。說白了,他們想要一個開關——在所有人都覺得太快的時候,有人能按下去。
更有意思的是Sam Altman的態度。這位OpenAI的掌舵人以前對「暫停AI研發」這類倡議一直持保留態度,覺得缺乏落地標準。但這次,他公開表態支援了。他在訪談中說,調控AI節奏需要平衡多重訴求:既要有時間讓社會適應新技術,又要防止企業「監管俘獲」和頭部實驗室串通壟斷。一個行業裡跑得最快的人,突然說也許該慢一點了。
但真正值得追問的是——就算政府想做,它做得到嗎?AI研發是分佈在全球的,開源社群的模型只要釋出了就無法召回。矽谷喊「慢下來」,中國、歐洲、新加坡的實驗室會不會趁機超車?聯名信自己也承認,這不是一個國家能解決的問題,它需要國際合作——而「國際合作」在當下的地緣政治環境下有多難,不必多說。
整件事最震撼的地方不在於具體的政策建議,而在於訊號本身。這些每天都在訓練、除錯、部署AI的人,是最瞭解它能力邊界的人。他們聯名說「太快了」,這可能比任何一份研究報告都更有說服力。