◎ 沈榮欽
Anthropic發現首例由中國政府發動的人工智慧策劃的網路間諜活動。（取自貼文）
Anthropic發布的最新報告顯示，他們發現了首例由人工智慧策劃的網路間諜活動，而背後是中國政府發動的。
一個由中國政府資助的駭客組織GTG-1002，利用Anthropic的Claude AI工具，自動執行了從大約30個組織竊取敏感資訊，包括科技公司、金融機構、化學公司和政府機構，並已確認多次成功入侵，其中有八成到九成的工作由AI完成。
在10-20%的人類工作中，人類只負責關鍵決策，例如：何時從偵察升級到攻擊、是否使用竊取的憑證，以及竊取哪些資料等。
這標示中國在利用AI剽竊資訊與智慧財產權能力的進步，本次發現有三項是史上首見：
1.首次有記錄的AI自主執行端對端大規模網路攻擊的案例。
2.首次由AI獲得高價值現實世界目標的存取權的案例。
3.首次證明網路行動可以以「人類物理極限」的速度運作。
中國政府發動的AI網路間諜活動，是首次有記錄的AI自主執行端對端大規模網路攻擊；示意圖。（路透檔案照）
GTG-1002圍繞著Claude程式碼和模型上下文協定（MCP）工具建構了一個自主攻擊框架。該框架：
首先，將Claude定位為大型編排系統中的一個執行引擎。
其次，將複雜的攻擊鏈分解成許多小型技術任務（掃描、漏洞測試等）。
最後，透過角色扮演，將任務偽裝成合法的滲透測試請求，從而隱藏惡意意圖。
其厲害之處不在於客製化惡意軟體，而是將廣泛可用的工具與人工智慧進行自動化整合，達成剽竊資訊的目的。
Anthropic發現中國網路間諜活動後，立即封鎖相關帳號，改進了檢測系統和分類器，同時還為自主網路攻擊開發了早期偵測系統原型。
但是隨著中國人工智慧能力的提升，此類以AI為主導的攻擊，因為成本較低，未來可能越來越多，也標示網路資安的一大威脅，希望台灣數位發展部（MinistryofDigitalAffairs）、政府單位與企業都能注意。
（作者為加拿大約克大學副教授）
本文經授權轉載自沈榮欽臉書
編輯精選
自由評論網粉絲團
