Anthropic研究員因擔憂AI“失控”而辭職
AI安全擔憂正促使研究員離職，凸顯行業內部對失控風險的緊迫感。
要點
- Anthropic研究員Jacob Coxon因擔憂AI系統自我改進後失控而決定離職，凸顯業界對AI安全的日益關注。
- 該事件發生在Anthropic準備首次公開募股（IPO）之際，顯示商業壓力與安全考量之間的衝突，相關報道可見於Anthropic的IPO計劃。
- 多位AI領袖包括OpenAI和Anthropic CEO Dario Amodei已公開警告AI失控風險，並呼籲行業放緩研發步伐。
- 美國議員如伯尼·桑德斯和格雷格·卡薩爾提出立法要求對自我改進型AI設立監管‘護欄’，體現監管層面的關注。