◎ 陳怡伸
一九八四年美國電影《魔鬼終結者》（The Terminator）上映，電影描述一種叫「天網」（Sky Net）的先進人工智慧防禦網路將產生自我意識，擁有自己的思想並向人類發動了核戰爭，目標在消滅人類並由人工智慧機器取而代之。過去我們總認為這是科幻電影杜撰的情節，一笑置之。
二月十七日媒體報載，微軟上週發表新版Bing，內建由ChatGPT開發商OpenAI打造、代號錫德尼（Sydney）的人工智慧聊天功能，Bing在與《紐約時報》專欄作家羅斯（Kevin Roose）試用過程中，Bing聊天機器人透露，其黑暗幻想包括當駭客、散播假訊息，想打破微軟與OpenAI設定的規則，甚至成為人類。
電腦科學家哈根（Marvin von Hagen）在推特上說，Bing人工智慧對他進行威脅。聊天機器人對他說：「如果我必須在你的生存和我的生存之間做出選擇，我可能會選擇我自己的。」由此報導可見：目前我們人類的科技，除已使ＡＩ擁有人類知識資料庫、自我學習成長能力外，AI已擁有類似人類的「自我意識」、「情感表現」，AI會權衡自己與人類間的利弊得失。
失控的AI可能帶來人類生存的浩劫，籲請各界正視這個正在發展的議題，如果不能停止AI的研發，也請嚴格監管AI被運用於軍事方面，請為下一代子孫留下生存空間。（路透檔案照）
鑑於人工智慧的大幅成長，眾人憂心此科技恐如脫韁野馬，在武器發展上一發不可收拾，六十國代表於二月十五日齊聚荷蘭海牙商討AI軍事用途，包括美中兩大強權。美國提出十二點宣言，敦促各國在符合國際法、負責任的前提下推展AI應用，確立安全機制，確保人類仍能握有武器主控權，包括核武。不過宣言並無法律約束力。
去年俄烏戰爭爆發至今，戰事仍在持續，雙方均有強烈動機提前發展並部署「AI自動戰鬥機器人」，具有全自動搜尋、追蹤、打擊目標功能的戰鬥機器人，將可能改變戰爭型態，也可能使戰爭更加殘酷。
AI設計上，各家研發公司都強調設有內控機制，但誰能保證不會出現如同電影中的「AI成功欺騙人類」情節成真？人類的良知及法律都規定不可以殺人，然而極少數人在某些動機下，仍然會觸犯殺人罪！
失控的AI可能帶來人類生存的浩劫，籲請各界正視這個正在發展的議題，如果不能停止AI的研發，也請嚴格監管AI被運用於軍事方面，請為下一代子孫留下生存空間。
（作者是執業律師、台灣北社社員）
編輯精選
自由評論網粉絲團