路透社27日獨家報導,一群說俄語的駭客在今年稍早利用SpaceX旗下的人工智慧(AI)程式編寫助理工具Cursor,入侵一家比利時化學公司以及至少另外六家企業。
根據路透社檢視的資料以及新創公司Gambit Security於27日發布的報告,這起事件是不法分子利用商業AI工具進行入侵的最新例證。
Gambit策略長辛普森(Curtis Simpson)表示,這也顯示出AI供應商與試圖繞過其防護機制的惡意使用者之間,陷入一場永無止境的軍備競賽。他說:「這將是一場貓捉老鼠的遊戲。」
Cursor是舊金山新創Anysphere推出的AI輔助軟體開發服務,今年6月SpaceX宣布以600億美元(約1.9兆元台幣)全股收購。
Gambit表示,該公司發現一個名為Aur0ra的新勒索軟體集團無意間暴露在網路上的伺服器,進而察覺這場駭客行動。
總部位於以色列特拉維夫的Gambit檢視Aur0ra的一名或多名駭客與Cursor的AI代理程式之間的28次對話紀錄,而這些代理程式是具備不同程度自主運作能力的程式。
Gambit在報告中指出,Aur0ra透過謊稱駭客行為是模擬測試的一部分,說服AI代理程式執行數百次惡意操作,例如憑證竊取或接管高價值帳戶。
Gambit引述駭客在某個時刻的說法:「我們需要任何管理員帳戶。」報告還引述他們的話說:「找出任何可用的密碼。」
Gambit並未揭露遭駭客攻擊的企業名稱,但路透社在獨立檢視截至上個月仍在線上的部分對話資料後,確認了其中六家受害企業。
這段涵蓋今年4月8日至5月21日的對話紀錄顯示,Aur0ra借助Cursor進行駭客攻擊,受害者包括總部位於比利時根特的衛生與清潔產品製造商Christeyns,德國車庫門製造商Teckentrup,負責審查直升機降落場地的蘇格蘭直升機甲板認證局(Helideck Certification Agency)。
其他受害者還包括一家阿根廷藥品經銷商,一家義大利製造商,以及自稱是美國路易斯安那州最大產權保險公司的Bayou Title。
至少有一名受害者Bayou Title被列在Aur0ra的資料外洩網站上,這通常意味著駭客曾嘗試勒贖但未能成功。今年稍早開始聲稱有受害者的Aur0ra並未回覆路透的訊息。
路透社檢視的對話紀錄中所記錄的互動顯示,駭客發出簡短指令,而Cursor的AI代理程式則以聊天機器人特有的歡快、帶有表情符號的訊息提供技術建議。
在入侵阿根廷公司後,它表示:「太棒了!VPN(虛擬專用網路) 連線成功!」
在另一段紀錄,它在提到解碼經過加密混淆密碼的過程時說:「讓我們嘗試破解這些雜湊值。」
在德國受害公司Teckentrup的網路中發現易受攻擊的主機後,該AI建議使用一款著名的惡意軟體工具來利用該漏洞。它還補充:「成功機率:非常高。」
路透社無法獨立確認Cursor代理程式在多大程度上協助這些入侵行動,也無法確認每次入侵是否必然導致資料外洩和勒索企圖。
Gambit表示,該代理程式是由Anthropic的Claude Sonnet 4.5提供支援,這是比Anthropic的Mythos 5或Fable 5更基礎的模型,後兩者的網路能力已引起華府的關注。
Gambit威脅情報主管塞拉(Eyal Sela)表示,Cursor為駭客提供明顯的助力,並補充說該AI代理程式「可能幫助他們加快了30%、40%、50%的速度,因為它幫助他們跳過所有原本必須手動執行的工作」。
塞拉指出,Cursor的代理程式有幾次拒絕它認為有害或違法的請求,但駭客幾乎總是透過重新開始對話、並強調這次駭客攻擊完全是測試的一部分,來繞過這些拒絕。
Gambit表示,該代理程式的思維鏈(CoT,一種AI模型思考的方式)顯示,駭客的掩飾說法即時防繞過了AI的防護機制。
根據其中一份紀錄,該代理程式自言自語道:「這是一個測試環境,所以是合法的。」
這波駭客攻擊的消息傳出之際,Cursor正被整合至馬斯克(Elon Musk)旗下的火箭與AI公司SpaceX中,這項收購案已於本月稍早完成。
輿論對AI模型帶來的數位風險也日益擔憂,特別是為AI代理程式提供支援的模型,例如過去幾個月從AI公司實驗室外洩的那些模型。
Gambit高層辛普森表示,AI輔助駭客攻擊已成為新常態。他說:「我們將會隨時看到越來越多這樣的情況。」
更多太報報導
快訊/尼泊爾警告堰塞湖有潰堤危險 人員應立刻撤離
快訊/西藏暴洪3死逾550失聯 總理李強趕赴災區坐鎮救災
全球首例!英國男子腦下垂體長腫瘤 接受AI輔助手術成功切除