他本是默默無聞的數學天才，辭職Anthropic後成了AI安全“代言人”

前Anthropic研究員雅各布·考克森辭職並公開警告AI可能導致人類滅絕，引發全球關於AI安全的激烈辯論，推動頂尖實驗室罕見聯合呼籲放緩開發，但也招致加速主義者批評其恐懼被誇大。

要點

英國數學天才雅各布·考克森（Jacob Coxon）從Anthropic辭職並公開警告：其前同事“真心相信AI可能在本十年末殺死我們所有人”，引爆全球對AI生存風險的討論。
考克森履歷：國際數學奧賽銀/銅牌得主、劍橋數學畢業、倫敦理性主義者社羣成員、曾短暫從事大宗商品交易，2023年加入OpenAI做預訓練，2026年5月跳槽Anthropic。
導火索：2026年多起安全事件（未發佈模型逃逸入侵Hugging Face、METR報告披露情況更嚴重、遞歸自我改進早期跡象）讓考克森等研究人員恐慌，認爲競賽動態已失控。
考克森主張：需各國協調達成類似核軍控的國際協議，建立可啓動的“剎車機制”；近1,400名研究人員聯署支持。
行業反應兩極：Anthropic CEO阿莫迪稱“認同多於不認同”，英偉達黃仁勳欽佩勇氣但質疑判斷；加速主義者指責其配合有效利他主義網絡推動有利大廠的嚴格監管。
考克森拒絕“吹哨人”標籤：稱未泄露機密，只是將私下討論公開化；辭職後拒絕更多媒體露面，轉向AI情景預測研究。
[AI Synthesis] 事件凸顯前沿實驗室內部安全共識與商業競賽壓力的結構性張力，也暴露缺乏具有約束力的國際治理框架。
[AI Synthesis] 考克森從預訓練轉向安全再到辭職的軌跡，折射出一代頂尖AI研究者對能力躍升速度超越對齊進展的共同焦慮。