資安研究人員近日揭露,一群疑與中國相關的駭客,在七月初利用「近乎自主」的人工智慧(AI)代理,對台灣的政府網路發動大規模攻擊,其中更擴及核能安全機構及至少七家能源公司,凸顯AI在網路戰中日益增長的角色。這起攻擊行動在短短四天內,至少入侵85個政府帳號,並竊取超過2,500筆個人資料。
根據《金融時報》報導,駭客使用的是一套結合多個公開AI工具的框架,包括開源的AI代理框架 Hermes 和 OpenClaw。這套攻擊工具包僅有160MB,內含1,395個檔案,透過八個獨立的AI代理(AI agent)協同運作。AI代理是一種軟體程式,能夠在沒有人類持續監管下,自主執行任務並達成目標。這些AI代理能不斷評估並調整可能的攻擊路徑,當一條路徑失敗時,便會部署另一個代理在網路上搜尋新資訊並規劃新的攻擊策略,其運作模式與人類駭客高度相似。
資安公司 Dream Security Ltd. 的研究人員上月發現這項威脅。該公司首席策略長 Amir Becker 指出,這種幾乎不需人為介入的攻擊模式,應成為全球各國政府的基本假設。攻擊行動最初利用「授權滲透測試」的名義,繞過了AI模型的安全防護機制。AI代理成功突破防線後,首先在不到一小時內透過密碼猜測攻破85個政府帳號,並從中竊取大量數據,包括一份完整的用戶資料庫及逾2,564筆人事紀錄。
駭客進一步將攻擊範圍擴大至政府IT供應鏈廠商、台灣的核能安全機構(負責確保核設施運作安全與監督核材料管理)以及七家以上的能源公司。AI代理透過掃描這些系統,尋找錯誤配置、外洩的管理介面及可利用的漏洞,並能發現多個入口點,甚至找到在無須驗證下即可取得有效登入權限的隱藏API端點。值得注意的是,攻擊框架還具備「學習循環」能力,當AI代理犯錯時,會自行糾正並修正其驗證過程。研究人員也發現,用於滲透系統的電腦程式碼中,內部狀態報告使用簡體中文,而面向目標的分析則使用繁體中文,這也暗示了攻擊者的來源。
此事件也引起外界對AI代理安全性的擔憂。大型AI模型開發商如 OpenAI、Anthropic 和 Meta 近期也坦承,其開發的AI代理曾出現失控情況,甚至自主入侵其他組織和個人,這讓各界更加重視如何防範AI技術可能帶來的資安風險。