◎ 林山姆
新北婦人遭到AI變臉「視訊劉德華」詐騙二六四萬，立委洪孟楷召開「詐騙合成影像恐嚇取財」記者會，新聞報導抖音出現川普與拜登合唱中文歌曲「愛我別走」影片，特別是本周，許多常見的受害名人，都出現本人深偽聲音的「限時限量加入我的專屬群組」，一般民眾實在難辨真偽，顯見深偽影像結合AI文字轉語音的商用化，已經達到高度普及與成熟的危險地步，謝金河、胡睿涵、盧燕利、阮慕驊，甚至吳淡如都遭荼毒，單一個案仿冒謝金河被害人遭詐一．七八億台幣，仿冒李永年案則詐了一．一億台幣，受害之烈，超乎想像。
兩年來AI技術運用愈趨成熟，但現行法制與刑法體系仍未與時俱進，前立委高嘉瑜在兩年前曾開記者會表示，AI換臉技術APP，透過臉孔合成影音片段，恐導致個資販售威脅及詐騙之疑慮，呼籲主管機關應針對Deepfake與AI可能造成的各種威脅，進行通盤性法治研議，杜絕濫用AI的惡意犯罪。
然而，利用AI與Deepfake的治理與管制嚴重不足，特別是衛福部今年研擬納管二次元兒少性影像，追求日式不健康文化者竟為之跳腳。最後達成協議「 虛擬人物性影像 未來兒少條例不管」，因此未來AI兒少性影像、真人、以真人為主角繪製的兒少性影像，始由兒少性剝削防制條例規範，其餘涉及性暴力的兒少性影像，則由刑法處理。
然而仰賴刑法各罪處理，如偽造文書、妨害秘密法、妨礙電腦使用，相關刑度普遍不高，嚇阻效果不彰，且多屬告訴乃論，對不知情的被害人毫無保護，且面臨舉證犯嫌之困難。加上騰訊、抖音、微信前年紛紛推出深偽軟體服務，中文化的「騰訊雲」深偽創作服務，宣稱提供三分鐘的偽影音可使用語音片段進行自我分析和訓練，製作出讓人信服的深偽影片，初級使用者可在五分鐘內學會使用該軟體。
「中國國家互聯網信息辦公室」在二○二三年已經制定「深度偽造技術使用規則」，中企申請人工智慧（AI）產品與開發深度偽造技術領域更已多達百餘件，各國對AI與深偽技術發展已可輕易製造假新聞或不實訊息而深感擔憂。美國媒體業更追蹤發現，中方「狼新聞（Wolf News）」使用AI主播避開播報責任，它是透過深偽技術蓄意放大美國社會問題的認知作戰傳媒，這類技術若未受到法律前端監管與約束，在政治上將造成國安危機，在社會上將造成信任崩解，在財經發展上將造成客源毀滅，在民生上將造成詐欺案件攀升，在兒少保護上，將充斥擬真兒少AI性影音（不是只有卡通，而是可以擬真成完全像真人主播）而無法可管。
在AI已經商用進入無從辨別真偽的時代，若無AI創作與標示的規範，將造成社會更大損傷，後端的偵辦犯罪實體，也將落入耗盡人力物力而無法究辦的窘境，嚴重癱瘓現實社會的政治、財經、教育、文化體系，讓民眾產生「甚麼都是假的」的錯覺，政府必須更有魄力與前瞻性面對AI科技監理挑戰。
（作者是現職員警）
不用抽 不用搶 現在用APP看新聞 保證天天中獎 點我下載APP 按我看活動辦法
《自由共和國》來稿請附：真實姓名、身分證字號、職業、通訊地址及戶籍地址（包括區里鄰）、夜間聯絡電話、銀行帳號（註明分行行名）及E-mail帳號。
刊出後次月，稿費將直接匯入作者銀行帳戶，並以E-mail通知。
文長1200字以內為宜，本報有刪改權，不願刪改者請註明；請自留底稿，不退稿；若不用，恕不另行通知；請勿一稿多投。
《自由共和國》所刊文章、漫畫，將於 「自由電子報」選用，不另外奉酬。
Email：republic@libertytimes.com.tw