晴時多雲

自由廣場》治詐術 缺重典/AI科技監理的當務之急!

◎ 林山姆

新北婦人遭到AI變臉「視訊劉德華」詐騙二六四萬,立委洪孟楷召開「詐騙合成影像恐嚇取財」記者會,新聞報導抖音出現川普與拜登合唱中文歌曲「愛我別走」影片,特別是本周,許多常見的受害名人,都出現本人深偽聲音的「限時限量加入我的專屬群組」,一般民眾實在難辨真偽,顯見深偽影像結合AI文字轉語音的商用化,已經達到高度普及與成熟的危險地步,謝金河、胡睿涵、盧燕利、阮慕驊,甚至吳淡如都遭荼毒,單一個案仿冒謝金河被害人遭詐一.七八億台幣,仿冒李永年案則詐了一.一億台幣,受害之烈,超乎想像。

兩年來AI技術運用愈趨成熟,但現行法制與刑法體系仍未與時俱進,前立委高嘉瑜在兩年前曾開記者會表示,AI換臉技術APP,透過臉孔合成影音片段,恐導致個資販售威脅及詐騙之疑慮,呼籲主管機關應針對Deepfake與AI可能造成的各種威脅,進行通盤性法治研議,杜絕濫用AI的惡意犯罪。

然而,利用AI與Deepfake的治理與管制嚴重不足,特別是衛福部今年研擬納管二次元兒少性影像,追求日式不健康文化者竟為之跳腳。最後達成協議「
虛擬人物性影像 未來兒少條例不管」,因此未來AI兒少性影像、真人、以真人為主角繪製的兒少性影像,始由兒少性剝削防制條例規範,其餘涉及性暴力的兒少性影像,則由刑法處理。

然而仰賴刑法各罪處理,如偽造文書、妨害秘密法、妨礙電腦使用,相關刑度普遍不高,嚇阻效果不彰,且多屬告訴乃論,對不知情的被害人毫無保護,且面臨舉證犯嫌之困難。加上騰訊、抖音、微信前年紛紛推出深偽軟體服務,中文化的「騰訊雲」深偽創作服務,宣稱提供三分鐘的偽影音可使用語音片段進行自我分析和訓練,製作出讓人信服的深偽影片,初級使用者可在五分鐘內學會使用該軟體。

「中國國家互聯網信息辦公室」在二○二三年已經制定「深度偽造技術使用規則」,中企申請人工智慧(AI)產品與開發深度偽造技術領域更已多達百餘件,各國對AI與深偽技術發展已可輕易製造假新聞或不實訊息而深感擔憂。美國媒體業更追蹤發現,中方「狼新聞(Wolf News)」使用AI主播避開播報責任,它是透過深偽技術蓄意放大美國社會問題的認知作戰傳媒,這類技術若未受到法律前端監管與約束,在政治上將造成國安危機,在社會上將造成信任崩解,在財經發展上將造成客源毀滅,在民生上將造成詐欺案件攀升,在兒少保護上,將充斥擬真兒少AI性影音(不是只有卡通,而是可以擬真成完全像真人主播)而無法可管。

在AI已經商用進入無從辨別真偽的時代,若無AI創作與標示的規範,將造成社會更大損傷,後端的偵辦犯罪實體,也將落入耗盡人力物力而無法究辦的窘境,嚴重癱瘓現實社會的政治、財經、教育、文化體系,讓民眾產生「甚麼都是假的」的錯覺,政府必須更有魄力與前瞻性面對AI科技監理挑戰。

(作者是現職員警)

不用抽 不用搶 現在用APP看新聞 保證天天中獎  點我下載APP  按我看活動辦法

已經加好友了,謝謝
歡迎加入【自由評論網】
按個讚 心情好
已經按讚了,謝謝。

編輯精選

載入中