依照OpenAI的風險定義,達到這個等級的模型,可能自行發現並利用未知的零日漏洞,在極少或沒有人工介入的情況下,對高度防護的政府或企業目標發動複雜攻擊。
OpenAI已暫停部分未符合新安全要求的內部開發工作,將Astra移入限制網路連線的隔離環境,並強化身分驗證、資料加密、存取限制及行為監控。Astra目前尚未公開發布,也未涉及先前發生的其他AI代理越權事件。
OpenAI準備邀請政府、資安機構及外部安全研究人員共同測試。這項決定顯示,前沿AI模型的網路攻擊能力,正在從協助人類尋找弱點,逐步逼近能夠自行規畫及執行攻擊的階段。OpenAI說明 (https://openai.com/index/responding-next-frontier-critical-cyber-capabilities/)。
更多放言報導
南韓足協爆性招待外籍裁判醜聞 官方道歉坦承公司卡支付費用
加拿大50%關稅8月19日生效倒數 卡尼:所有選項都在桌上