嗶哩嗶哩平臺換臉視頻亂象及治理之策

黃子妍 吳天藝 董安淇

隨著人工智能技術的不斷進步，深度偽造作為一種尖端技術產物，已經開始在個人、社會乃至國家等層面產生深遠影響。其中，“換臉”視頻作為深度偽造技術的典型應用，不僅具有極高的技術吸引力，更在實際應用中引發了廣泛的社會關注?，F基于嗶哩嗶哩平臺這一具有代表性的網絡平臺，深入探討“換臉”視頻出現的成因，并對深度偽造技術的實際應用進行全面反思，旨在為防范網絡虛假信息的擴散提供針對性建議，以期在享受技術紅利的同時，維護網絡空間的安全。

新一輪技術革命浪潮下，人工智能技術迎來蓬勃發展的新階段，展現出深度學習、跨界融合、人機協同、群智開放和自主操控等鮮明特征。人工智能技術的運用對全球經濟發展、社會進步和全球治理產生了深遠而重大的影響?？萍紵o疑已成為推動世界發展的第一生產力，但同時它也是一把雙刃劍，在帶來無盡機遇的同時，也帶來了諸多挑戰。作為人工智能在深度學習領域的一個分支，深度偽造技術近年來發展迅猛，其中最為人們所熟知的表現形式即“換臉”視頻。這些視頻不僅影響了個人隱私和安全，更在一定程度上對社會秩序和國家安全造成了沖擊。本文旨在全面解析深度偽造技術的產生背景和發展現狀，并以嗶哩嗶哩平臺上的“換臉”視頻為例，深入探討其潛在危害。下文將分析這些危害產生的根源，并提出一系列具有針對性的建議和措施，以期在推動人工智能技術進步的同時，有效防范和應對由此產生的各種風險和問題。希望本文的闡述能夠為構建健康、安全的網絡環境提供有益的參考和啟示。

深度偽造技術概述

深度偽造技術的興起

“深度偽造”一詞源于英文“Deepfake”，是由“Deep learning”（深度學習）和“Fake”（偽造）兩個詞匯組合而成的。其起源可以追溯到美國社交新聞媒體紅迪網（reddit）上一段引起轟動的視頻。這段視頻由一位名為“deepfakes”的用戶發布，盡管該視頻因舉報而被下架，但該用戶隨后公開了制作該視頻的算法，使得深度偽造視頻的制作變得相對簡單。

隨著技術的不斷進步，越來越多的深度偽造方法和應用程序涌現出來，如國外的FaceApp、FakeApp、FaceToFace、DeepFaceLab，以及國內曾出現過的ZAO、螞蟻呀嘿等換臉軟件（目前這些軟件均已下架）。這些工具的應用不局限于視頻制作，還擴展到了圖像、音頻制作等領域，對娛樂、教育等多個領域產生了廣泛影響。

深度偽造技術的應用

深度偽造技術作為一種基于深度學習的工具，其本質上并不具備善惡屬性。從狹義上說，該技術主要是指通過深度學習進行人像合成的視頻技術，其中最為人們所熟知的就是AI“換臉”技術。而從更廣義的角度來看，深度偽造技術可利用機器的深度學習，實現音頻、圖像、文本和視頻的篡改、偽造和自動生成，不僅在醫學成像、歷史影像復原和影視劇制作等領域有所應用，還對社會的方方面面產生了深遠的影響。

在眾多深度偽造技術的應用中，“換臉”視頻無疑是最為典型且常見的一種。在國內，雖然曾經涌現出的一些“換臉”視頻平臺如今已經下架，但“換臉”視頻仍然大量存在于抖音、快手、嗶哩嗶哩等平臺上。特別是嗶哩嗶哩平臺，作為一個多元文化社區，該平臺聚集了大量的當代年輕人，這些年輕人往往熱衷于追求新興技術。同時，嗶哩嗶哩平臺獨特的鬼畜文化也進一步推動了“換臉”視頻在該平臺的流行。然而，“換臉”視頻的廣泛傳播也帶來了一系列不容忽視的問題。

嗶哩嗶哩平臺“換臉”視頻的特點及危害

嗶哩嗶哩平臺“換臉”視頻的特點

1.高度真實

深度偽造技術為嗶哩嗶哩等平臺上的“換臉”視頻提供了強大的技術支持。這些視頻的制作需要采集大量的人臉樣本，通過對人物面部肌肉和微表情的精細算法分析，達到極其逼真的換臉效果，以至于用戶僅憑肉眼難以分辨真偽。展望未來，隨著技術的不斷進步，基于眨眼頻率、聲音、微表情、文本等多模態特征融合的假視頻制作技術將成為一個新的發展趨勢。這意味著隨著多模態特征融合技術的廣泛應用，普通公眾辨別深度偽造作品的難度將進一步加大。

2.制作簡單

雖然深度偽造技術的原理相當復雜，但隨著網絡的迅猛發展，軟件公司能夠相對容易地獲取大量的人臉信息用于技術訓練。這得益于機器學習算法的進步、易于訪問的數據庫的增加以及開放源代碼的普及，即使是沒有深度學習算法專業知識的個人或團體，也能輕易地利用這三者制作“換臉”視頻。在此背景下，為了追逐商業利益，軟件公司紛紛根據用戶需求開發出各種“換臉”功能。這些功能通過簡單的操作界面即可使用，使得普通用戶能夠輕松地對視頻中的人物進行“換臉”操作，從而制作出大量“換臉”視頻。

3.傳播廣泛

互聯網的迅猛發展使得嗶哩嗶哩平臺擁有龐大的用戶基礎，自媒體時代，每個人都能輕松通過平臺創作、發布和傳播視頻。在這樣的環境下，“UP主”們利用深度偽造技術制作的“換臉”視頻一旦通過平臺的審核，便能在嗶哩嗶哩平臺上發布并得到廣泛傳播。通過觀眾的點贊、轉發、收藏和投幣等操作，這些視頻的影響力得以進一步擴大，吸引了更多的觀眾參與互動。

嗶哩嗶哩平臺“換臉”視頻的危害

1.侵犯個人隱私

在嗶哩嗶哩平臺上流傳的“換臉”視頻中，所涉及的被“換臉”對象涵蓋了明星、網紅以及普通民眾。這些視頻侵犯了當事人的肖像權。尤其是當“換臉”視頻被用于惡搞或諷刺時，會對當事人的名譽權造成損害。更為嚴重的是，若這些視頻被不法分子用于敲詐勒索等，將會對公民的財產和人身安全構成嚴重威脅。

2.擾亂社會秩序

涉及公眾人物的“換臉”視頻一旦廣泛傳播，將對社會信任體系產生深遠影響，導致公眾對媒體的公信力產生質疑。在學術領域，這種現象被視為對信息傳播真實性和可靠性的挑戰。若不法分子利用“換臉”視頻散布謠言，操控公眾意識，將加劇公眾對媒體平臺上信息真偽的懷疑，進而影響社會的穩定。

嗶哩嗶哩平臺“換臉”視頻的管理缺陷

與深度偽造技術應用相關的法律缺失

我國尚未頒布專門的法律條文對深度偽造技術的應用進行直接規范，這間接導致了嗶哩嗶哩平臺上“換臉”視頻的泛濫。盡管2019年5月28日國家互聯網信息辦公室發布的《數據安全管理辦法（征求意見稿）》中第三章第二十四條規定了網絡運營者在利用技術自動合成信息時應標明“合成”字樣，并禁止以謀取利益或損害他人利益為目的的合成行為，但與深度偽造技術和“換臉”視頻相關的法律法規體系仍不完整，缺乏全面且深入的規范標準，這導致嗶哩嗶哩平臺在管理用戶行為時缺乏明確的法律依據和審核標準。

平臺與創作者責任界限模糊不清

由于“換臉”視頻上傳者的責任界定不明確，因此難以確定誰應對“換臉”視頻的制作和傳播負責。這種模糊的責任劃分可能會使制作者誤解其行為的合法性，同時也讓平臺難以制定明確的審核和處置標準。嗶哩嗶哩平臺作為大型視頻平臺，每天都有大量視頻上傳，其中混雜著利用深度偽造技術制作的“換臉”視頻。目前，嗶哩嗶哩平臺僅在部分“換臉”視頻下方設置“該內容疑似使用AI技術合成，請謹慎甄別”的提醒，缺乏統一標準。這種不明確導致平臺難以有效審核和過濾“換臉”視頻，進而會影響用戶對平臺和創作者的信任。

產生危害后補救措施不完善

如果深度偽造視頻廣泛傳播并造成危害，嗶哩嗶哩平臺現行的處理策略顯然存在若干不足。首先，嗶哩嗶哩平臺沒有及時處理違規視頻，導致這些視頻在平臺上的存續時間過長，擴散范圍過大，加劇了對用戶的潛在傷害。其次，嗶哩嗶哩平臺在面對深度偽造視頻所引發的個人隱私侵害、名譽受損以及虛假信息傳播等問題時，缺乏明確有效的信息恢復機制。盡管平臺保持中立立場，但在協助受害者迅速刪除、修正或反駁虛假內容方面，其反應不夠迅速，這無疑增加了受害者的困擾和損失。

嗶哩嗶哩平臺“換臉”視頻的規制建議

制定針對深度偽造視頻的規范

嗶哩嗶哩平臺作為一個匯聚大量用戶生成內容的視頻平臺，對深度偽造技術的應用和管理承擔著重要的責任。為了確保用戶、社會和國家的利益不受損害，嗶哩嗶哩平臺必須與政府、法律機構以及其他相關方展開緊密合作，共同制定全面且明確的深度偽造技術應用規范。

首先，明確深度偽造技術的使用行為至關重要，包括但不限于定義冒充他人、傳播虛假信息、侮辱他人等違規行為，確保制作者和平臺都能清晰地了解哪些行為是不被允許的。

其次，為了增強用戶對深度偽造視頻的辨識能力，應明確標識和水印要求。所有使用深度偽造技術制作的視頻都必須在畫面上顯著標注“深度偽造”或類似字樣，以提醒用戶注意視頻內容的真實性。

最后，建立完善的用戶舉報和申訴機制也是必不可少的。這一機制應著眼于處理深度偽造相關的違規視頻和制作者，確保違規內容能夠被及時發現并得到妥善處理。同時，提供申訴通道，為被誤判的制作者提供申辯的機會。

總之，嗶哩嗶哩平臺應積極與政府、法律機構以及其他相關方合作，共同制定明確的深度偽造技術應用規范。這不僅有助于保護用戶、社會和國家的利益，還能促進深度偽造技術的健康發展，為社會帶來更多積極的影響。

明確平臺監管的職責和創作者使用的程度

在深度偽造視頻的管理方面，需要構建一個全面且明確的責任體系。這一體系旨在明確創作者在創作和上傳深度偽造視頻時需要承擔的法律責任，并建立健全審核機制，從而保障用戶的權益和社區的信譽。

首先，嗶哩嗶哩平臺作為視頻分享平臺，其首要責任是確保平臺上的內容不違背社會公序良俗，不侵犯他人權益，且不會對社會的安全穩定造成威脅。為實現這一目標，嗶哩嗶哩平臺需要制定并執行嚴格的審核標準，投入足夠的人力資源和技術支持，以構建高效、準確的審核機制。這不僅可以確保上傳的“換臉”視頻內容合規，也能及時識別和處理違規內容，避免其對社會造成不良影響。

其次，創作者需要明確使用深度偽造技術的倫理和法律邊界。創作者應避免利用該技術進行虛假陳述、人身攻擊或其他惡意行為。特別是在涉及政治、宗教等的敏感領域，應明確禁止深度偽造技術的使用，以防止其被濫用，進而影響社會穩定。

最后，為了加強創作者和用戶對深度偽造技術合規使用的認知，嗶哩嗶哩平臺還應加強對相關法律法規的宣傳。具體可以通過發布指導手冊、組織線上培訓或開展相關研討會等形式，幫助創作者和用戶更好地了解和掌握深度偽造技術的合法使用方式。

綜上所述，明確嗶哩嗶哩平臺的監管職責和創作者在使用深度偽造技術時的行為準則，是確保深度偽造視頻合規傳播和良性發展的關鍵。這不僅有助于保護用戶權益，維護社會公共利益，還能推動深度偽造技術在積極、合法的軌道上持續發展和創新。

加強公眾對深度偽造視頻的認知

公眾對深度偽造技術的認知程度對其理解和判斷具有決定性的影響。利用深度偽造技術能夠制作出高度逼真的內容，使公眾誤認為視頻內容是真實的。因此，加強公眾對深度偽造技術的認知至關重要。

首先，公眾需要了解深度偽造技術的基本原理和應用范圍。這種技術的應用不僅僅局限于“換臉”視頻，還涉及電影特效制作、醫學診斷等多個領域。通過了解深度偽造技術多樣化的應用方式，公眾可以更加全面地認識深度偽造技術，而非將其簡單地視為只有負面影響的技術。

其次，公眾還需要對深度偽造視頻的潛在風險和危害有清晰的認識。這種技術可能會被惡意利用，用于制作虛假信息，進行網絡詐騙，破壞社會穩定。了解這些風險可以幫助公眾提高警惕，以免成為深度偽造技術的受害者。

為了加強公眾對深度偽造技術的認知，需要加強教育和宣傳工作。通過廣泛傳播相關知識和信息，幫助公眾形成正確的認知和態度，確保他們能夠理性應對深度偽造技術。同時，還需要鼓勵公眾積極參與討論和交流，分享對深度偽造技術的看法和體驗，共同推動社會對這一技術的正確理解和應用。

綜上所述，加強公眾對深度偽造技術的認知是確保社會公眾理性應對這種技術的關鍵。通過加強教育和宣傳，公眾可以形成正確的認知和態度，避免受到深度偽造技術的負面影響，并充分發揮深度偽造技術在各個領域的積極作用。

作為人工智能時代的產物，深度偽造技術在網絡中的影響力日益提升。然而，這種技術也對個人、社會和國家造成了一定的潛在危害?！皳Q臉”視頻作為深度偽造技術的典型應用，其在嗶哩嗶哩平臺等擁有大量用戶生成內容的平臺上的廣泛傳播引發了一系列問題。針對這一現象，應通過制定規范、明確職責、加強公眾認知等多種措施，實現深度偽造技術的正向使用，為人類社會帶來積極的影響。這需要政府、視頻平臺、創作者和公眾共同努力，以確保深度偽造技術在為社會服務的同時，不損害個人、社會和國家的利益。

本文系江蘇省南師大大學生創新創業訓練計劃項目（社科類）“深度偽造的倫理問題及其規制研究——以B站換臉視頻為例”（編號：473）的階段性研究成果。

（作者單位：南京師范大學）