警惕“AI換臉”為所欲為

關末

身著西裝，神態緊張，語氣鄭重，屏幕上還配以“突發新聞”字樣……最近，一則日本首相岸田文雄的虛假視頻在全球社交媒體瘋傳。令人不寒而栗的是，如此轟動的視頻不過是生成式人工智能（AI）技術產品，且制作全程僅花了1小時。

“AI換臉”通過深度合成算法處理，為二度創作提供了支持，也滿足了網絡受眾的獵奇心理和社交需求。但隨著技術門檻降低與應用場景增多，人臉置換似乎愈發出格。以躺槍的各國政要為例——“拜登”公然宣布第三次世界大戰開始；“馬克龍”直播回答“政府聘用滅霸”；“特朗普被捕”事件還沒發生，“現場照片”就已瘋傳……如果說仿造娛樂明星僅是一種惡搞，那么刻意生成政治人物的表態，則可能誤導整個國家乃至全球公共輿論。谷歌前首席執行官埃里克·施密特就曾警告，“2024年的選舉將一團糟，因為社交媒體平臺無法保護我們免受AI生成的虛假消息的侵害?！?/p>

人工智能發展至今，已經成為全球新一輪科技革命和產業變革的核心驅動力。而當我們追問數據算力是否具備認知水平、未來能否取代人類之時，其帶來的泄露隱私、侵犯權益、擾亂視聽等現實問題已然擺在眼前。特別是在“有圖不一定有真相”的社交媒體上，有人借此編造新聞、炒作熱點，侮辱誹謗、實施詐騙，作惡成本越來越低。眼下，針對AI技術帶來的顛覆性風險挑戰，各國紛紛制定法律以探索深度合成的治理路徑。就我國而言，《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理辦法（征求意見稿）》等文件相繼出臺，理順了信息安全主體責任，明確了相應技術服務的規范、監督和管理等內容。但必須看到，AI生成數據量龐大，且存在多次合成、多種場景等問題，“以技術管技術”恐怕還有很長的路要走。

以更大視野來看，從社交機器人衍生出網絡水軍，到算法推薦加固信息繭房，再到如今人工智能掀起“以假亂真”風潮，都讓我們深刻認識到，新技術往往是一把“雙刃劍”。對此，需要前瞻研判其可能造成的規則沖突、社會風險、倫理挑戰，更要在技術普及過程中不斷拉緊韁繩。無論是以嚴格監管促使形成向上向善的研發應用環境，還是通過實際案例引導公眾認清濫用與使用界限，努力縮短從野蠻生長到規范發展的時間差，才能最大限度抵消這股“反作用力”。