AI換臉換聲，一種“新型”的詐騙方式

近日，社交平臺上有人以香港特首李家超出席活動的畫面，配上人工智能生成的聲音，推介所謂高回報投資計劃，還稱獲利可以免稅。對此特區政府嚴正澄清，有關影片全屬偽造，呼吁市民提高警惕，并強烈譴責不法之徒的詐騙行為。

這些年，AI技術迭代發展，深入社會運行各個場景，給人們帶來豐富休閑體驗的同時，也生出了不少困擾。“你要的樣子我都有”“你喜歡的聲音都提供”，因換聲換臉變裝而起的爭議頻頻發生。有演員遭遇換臉不得不公開打假，有歌手被換聲忙不迭澄清譴責。公眾人物不堪其擾，普通大眾也屢屢躺槍。好好的一張生活照被“一鍵脫衣”，誤以為是好友聊天結果10分鐘被騙400多萬……以假亂真的視頻、圖片、聲音日漸泛濫，不僅挑戰著社會認知，也造成了秩序混亂。

AI換的“臉”“聲”是假的，作惡造成的沖擊卻是真的。隨著技術升級，應用的門檻迅速降低，辨別真偽的難度越來越大。比如前段時間，“特朗普與霉霉以自己的獨特音色發表中文談話”火爆全網，AI的表情姿態、語言風格相當自然。照這么發展下去，大家的肖像權、名譽權、著作權等如何才能得到有效維護，財產安全、隱私安全乃至人身安全等如何才能得到妥善保障？

AI換臉換聲絕不只是“逗你玩”，很可能成為不法之徒的幫兇。2022年12月，《互聯網信息服務深度合成管理規定》發布，2023年8月《生成式人工智能服務管理暫行辦法》施行……隨著各項法規出臺并細化，剛性治理有了更多抓手。對踩踏紅線者嚴肅懲處，將典型案例廣而告之，盡可能震懾作惡，才能引導技術在服務社會的軌道上運行。

“強大人工智能的崛起，可能是人類遇到的最好的事情，但也可能是最壞的事情。”技術本身無原罪，善惡其實都在人。讓科技為社會造福而不是添亂，我們都需多一分敬畏，多一些謹慎。