AI人工智慧失控與遭濫用的疑慮持續，人工智慧新創巨頭Anthropic執行長阿莫戴（Dario Amodei）昨（12）日於X平台發文，強烈呼籲各大AI企業應放慢提升模型能力的腳步，並提出三步驟控制框架以爭取風險管控時間，該提議隨即獲得OpenAI執行長阿特曼（Sam Altman）與xAI負責人馬斯克（Elon Musk）的迅速響應與支持。
阿莫戴在X平台公開呼籲，業界必須放慢提升AI模型能力的速度，他強調：「即使速度放慢，技術進展仍將顯得非常迅速，我們必須善用所爭取到的時間。」阿莫戴澄清，他並非主張完全停止模型訓練或中止技術進展，而是希望企業能擁有充分時間進行AI模型「對齊」， 即引導AI系統的行為與目標符合人類意圖、價值觀及安全規範，同時強化內部防護措施，並讓第三方審查人員進行驗證。
根據路透報導，這篇聲明的背景，源於Anthropic才剛發布的一份威脅情報報告。報告指出，有多方不良意圖者曾試圖利用旗下Claude AI模型進行武器開發、發動網路戰、執行監控以及進行大規模詐騙等違法行為。此外，Anthropic研究員考克森（Jacob Coxon）日前辭職並公開警告：「打造AI的人真心認為，這項技術可能在10年內消滅全人類。」
阿莫戴提出的三步驟應對架構，包括在各大前沿AI企業內部設置「常駐第三方審查人員」，賦予審查人員使用內部工具與參與企業風險評估流程的權限，加上推動國際層面的政策與法規規範，以及由各先進公司共同制定安全標準。
阿莫戴的倡議發布後，OpenAI執行長阿特曼迅速承諾採納該提議，並表示將在公司內安排具備類似員工權限的獨立評估員；xAI負責人馬斯克亦轉發貼文力挺，直言「達里歐（阿莫戴）說得對」。
更多FTNN新聞網報導
Gemini現在也會唱歌了！人聲、純音樂一鍵生成 Lyria3.5正式登場
Claude被控「偷學」數萬首歌！Sony、Warner等35出版商告Anthropic 每首最高求償477萬
OpenAI傳AI代理失控！多團隊研究急喊停 砸數百萬美元調查