OpenAI 擴充套件家長通知，青少年越界封號實時告知監護人

7月21日，OpenAI 宣佈擴充套件 ChatGPT 的家長通知功能：當青少年因為暴力威脅或網路暴力行為被封號時，系統會實時通知已關聯的監護人。這意味著 AI 青少年保護，正從「內容遮蔽」邁向「社會共治」的新階段。

這次升級直接回應了 今年 2 月加拿大 Tumbler Ridge 槍擊案的教訓。那起案件中，嫌疑人曾用 ChatGPT 查詢暴力內容，但 OpenAI 當時並未報警。事件之後，公司全面改革了安全協議，並下調了向執法機構報告的標準。換句話說，平臺把「該不該出手」的門檻，壓得更低了。

OpenAI 還與網路暴力監測機構 Moonshot 合作開發新功能，形成「AI 平臺加專業安全機構」的聯動模式。無獨有偶，Meta 也在同期推出了類似的青少年自殘內容通知機制。家長通知，正成為各大 AI 平臺的標配。從 YouTube 到 TikTok，再到 ChatGPT，未成年人保護正在從單點功能，升級成平臺之間互相看齊的基礎設施競賽。

值得關注的是，通知的觸發點很具體：不是泛泛的內容警告，而是封號這一強訊號。也就是說，當系統判定青少年已經越界到需要封禁的程度，監護人會第一時間收到提示。這比單純在對話里加一道過濾，更能兜住極端情形。但封號本身已經是事後動作，如何在越界早期就給出更柔和的分級提示，而不是等事態滑到不可挽回才通知，是這套機制真正要補的功課。

把視角拉遠，這類機制的本質，是把平臺責任從「技術遮蔽」擴充套件到了「關係干預」。AI 越來越深入地進入青少年生活，光靠模型自己攔是不夠的。讓家庭這個節點也參與進來，或許才是更穩的護欄。

當然，如何在保護隱私和及時干預之間拿捏分寸，平臺還有很多功課要做。真正難的地方在於：通知太頻繁會製造恐慌，太少又形同虛設。對 OpenAI 來說，這條線怎麼畫，將是接下來最現實的考驗。教育者和心理學家也有擔憂：把封號訊號推給家長，會不會讓青少年把 AI 當成告密者，反而躲進更隱蔽的角落？技術能發出警報，但修復關係這件事，終究要回到現實世界裡完成。