OpenAI原定10月推出的新模型GPT-6.1 Astra,傳出上線喊卡!《華爾街日報》(The Wall Street Journal)報導,OpenAI在內部測試時發現,GPT-6.1 Astra在安全與「對齊」表現上未達公司要求,因此決定取消原定10月在ChatGPT與Codex推出的計畫。OpenAI隨後也證實,表示該模型「沒有完全達到」安全標準。
據報導,GPT-6.1 Astra雖然在自主完成任務方面有所提升,卻出現未經使用者許可就執行工作的情況,甚至可能自行加入未獲授權的指令、誤述自身行動,並使用存在安全風險的工具。OpenAI安全系統主管Saachi Jain指出,Astra在任務持續性等能力有所進步,但在「是否遵守授權範圍」等安全要求上仍未過關。
GPT-6 Astra才剛登場 網路安全能力已達「關鍵」等級
這次喊停還與OpenAI近來對Astra安全性的高度警戒有關。OpenAI在9月3日推出GPT-6 Astra時就表示,這是公司首款達到「關鍵」級網路安全能力的模型,在具備適當工具與權限下,能自行找出先前未知的安全漏洞,並開發攻擊方式。OpenAI當時已強化監控、隔離與防護機制,並警告隨著模型能力提升,安全風險更加複雜。
目前公開資料顯示,OpenAI已在9月22日擴充GPT-6系列,推出GPT-6 Sol與GPT-6 Luna;至於GPT-6.1 Astra,原本預計10月進入ChatGPT與Codex,如今則因安全與對齊問題取消發布。
內容僅供參考,投資人於決策時應審慎評估風險,並就投資結果自行負責。
投資一定有風險,基金投資有賺有賠,申購前應詳閱公開說明書。