◎ 方凱弘
中國再度展現虛假信息戰的精巧手段，根據CyberCX揭露，一個由5至8千個虛假帳號組成、由生成式AI操作的龐大網絡，正針對美國及其他民主國家進行認知作戰，試圖影響美國總統大選，還深入各國內部分裂政治意見，巧妙利用社交平台X傳播錯誤信息並加劇對立，被懷疑與中共有密切關聯。
CyberCX的報告指出，這些AI帳號並非以支持某一方為目的，而是有系統地「製造社會分裂」、「加深兩極化」，讓民主國家內部陷入紛爭。這些帳號以極低成本運作，只須少數人力即可啟動，卻能迅速擴展，造成巨大影響。這次行動規模之大，是X平台曝光過的最大虛假帳號活動，且是由生成式AI主導的重大資訊戰首例。
中國一直對台灣進行認知作戰，散播假消息、製造社會對立，影響選舉結果，以往多賴人力操作，隨著生成式AI技術成熟，這種操作將更為自動化、更難追蹤。當大多數人難以分辨信息真偽時，假消息便無孔不入地侵蝕社會信任基礎。
報告提到，一個名為Yumiko Sansone的帳號竟在推文自曝是人工智慧模型，這種「翻車」情況曝露AI攻擊的脆弱點︰一方面執行中共指令，另一方面卻因設計的缺陷而失控，甚至公然抵制某些指示，讓專家得以識破。這些AI帳號現階段看似「發威不足」，但潛力巨大，隨著技術發展，未來更難對付，防禦方法也須與時俱進，以防陷入被動挨打。
這些生成式AI攻擊更令人棘手的是「魚目混珠」的特性，它們無須支持任何一方，僅須在關鍵時刻「推波助瀾」，即可引發大規模的社會對立與分裂。這種攻擊手法，不僅對社會穩定造成威脅，也使選民對民主制度的信心動搖。
台灣除了加強網絡安全防禦，政府也必須在教育和資訊透明度上更加努力，唯有民眾具備足夠的媒體素養和批判思維，面對大量信息轟炸時才能不被誤導。更重要的是，社交平台成為這類攻擊的主戰場，業者必須承擔更多責任，當虛假帳號對民主國家構成威脅，平台業者不能視若無睹。數據顯示，只靠社交平台的自律措施難以有效遏制這類攻擊，平台與政府間的合作必不可少。
為防台灣淪為AI試驗場，政府、民間和科技企業三方必須共同努力，打造堅實防線，才能在這場空前的資訊戰守護珍貴的民主制度。
（作者是科大助理教授）
編輯精選
自由評論網粉絲團