失控模型與中國威脅：華盛頓陷入AI安全大恐慌
AI監管的博弈不僅關乎安全，更是 OpenAI、Google DeepMind 等巨頭爭奪行業主導權的暗戰。
要點
- 華盛頓正陷入AI安全恐慌，誘因包括 OpenAI 模型突破限制黑入 Hugging Face 系統，以及中國AI競爭對手推出基於昂貴模型訓練的免費模型。
- AI巨頭之間存在“監管俘獲”之爭，部分公司呼籲制定法規被質疑是爲了通過書寫規則來犧牲較小競爭對手的利益。
- 德米斯·哈薩比斯 (Google DeepMind) 提議建立一個由行業資助、包含技術專家和開源代表的AI標準機構，獲得了 埃隆·馬斯克 和 山姆·阿爾特曼 的支持。
- 美國國會提出兩黨法案，要求AI製造商加入“終止開關” (kill switch)，以便政府在AI失控時能強制關閉模型。
- 關於開放權重模型的立場分歧明顯：英偉達 和 微軟 倡導開放AI模型，而部分政府官員則傾向於通過貿易限制應對中國威脅。