別管什麼AI末日了，真正的威脅就在眼前
雖然AI末日論引人關注，但真正的風險在於缺乏監管和安全防護，需像航空等行業一樣對AI實施嚴格標準。
要點
- AI已被用於網絡攻擊和潛在武器製造，顯示出實際危害（Hugging Face被黑客攻擊）。
- 多位專家如Anthropic CEO Dario Amodei和斯圖爾特·拉塞爾呼籲建立類似航空、食品藥品監管的AI安全框架（Anthropic，Stuart Russell）。
- 研究機構Vals AI預測到2027年模型可能實現遞歸自我改進，增加失控風險（Vals AI）。
- 部分學者認爲AI的危險並非來自通用智能，而是缺乏技術護欄和責任追究機制（EquiStamp）。