國外深度偽造技術政策文本分析與啟示
——以美國、歐盟為例

趙雪芹，李天娥，胡慧慧

（湖北大學歷史文化學院，武漢 430062）

1 引言

近年來，隨著數字技術不斷更新迭代，人工智能技術應用不斷推陳出新，尤其是以智能化算法為基礎的深度學習使得人們的生活發生了巨大改變，其中較具代表性的便是Deepfake技術?！癉eepfake” 由“Deep Learning” 和 “Fake” 結合而成，即 “深度偽造”，也稱 “深度造假”，是指運用深度學習算法去創建或修改音視頻、圖像等內容，最終偽造一些虛假的信息和內容[1]。深度偽造技術是人工智能技術發展過程中自然而然出現的衍生技術，其核心是深度學習算法中的生成對抗網絡（GAN）算法，該算法可以對語音、圖像、文字等信息內容進行修改。目前在日常生活中，語音合成、AI 換臉等深度偽造技術應用已十分常見，FaceSwap，Zao，Lyrebird 等移動APP 使用戶可以自由地創建并發布內容。然而，技術一直以來都具有雙刃劍性質，一方面可以創造價值，造福人類；另一方面具有潛在的安全隱患，危害個人、社會、國家安全，深度偽造技術也不例外。

目前，國內外關于深度偽造的研究主要集中在以下主題：一是針對深度偽造的檢測和溯源技術研究，如基于循環神經網絡的深度偽造視頻檢測[2]、基于圖像紋理特征的深度偽造圖像檢測算法[3]、深度偽造圖像追蹤溯源方法[4]等；二是深度偽造所帶來的困境研究，如使政治輿論復雜化[5]、威脅國家安全[6]、破壞社會穩定及民主[7]等；三是深度偽造治理研究，對深度偽造技術應用過程中的潛在刑事治理風險[8]、治理模式[9]進行探究，并從技術角度提出規制深度偽造的方案[10]。由此可知，為引導深度偽造技術向善發展，國家必須對深度偽造技術主體的行為進行有效管理和限制，不能任其自由發展。然而，中國目前尚未有針對深度偽造技術的政策，因此，本文采用文本分析法，對美國和歐盟的深度偽造政策文本進行分析，得出他們治理深度偽造技術的一般手段，進而為中國深度偽造技術的治理提出政策建議，以期為中國深度偽造技術以及其他人工智能技術的發展提供有力的政策保障。

2 深度偽造技術的威脅

當前，深度學習算法推動了數字經濟的發展，成為新的行業增長點。但同時，由深度學習算法而衍生的深度偽造技術，對網絡安全造成嚴重的威脅，加劇網絡安全風險。2020 年，澳大利亞與美國分別發布《深度造假武器化——國家安全與民主》報告[11]與《Deepfakes：基本威脅評估》報告[12]。根據這兩個報告，可以總結深度偽造技術帶來的威脅主要在3 個方面：一是在國家層面，深度偽造技術降低了國家之間信息站的成本，惡意行為主體會利用深度偽造技術制造虛假信息來引發輿論，進而給國家安全帶來不良影響，如2016 年有人發布深度偽造內容干預了美國總統大選；二是在社會層面，深度偽造技術逐漸成為網絡犯罪者的工具，如在2019 年3 月，英國有犯罪分子利用深度偽造技術成功詐騙22 萬歐元；三是在公眾層面，深度偽造技術的廣泛使用可能會破壞人們與個體或政府機構之間的正當溝通機制，大量虛假的合成內容會削弱公眾對于信息真偽的辨認力，從而降低人們對政府制度的信任度，引發信任危機。如2019 年6月，美國皮尤研究中心發布報告，稱超過1/3 的調查者認為“虛假新聞” 導致他們不能接收真正的新聞[13]。

綜上所述，可知深度偽造技術的濫用對國家安全、社會公共安全、個人隱私和聲譽均造成了不同程度的威脅，因而有必要從政策層面對深度偽造技術的開發、使用等行為進行約束。首先，深度偽造技術政策可幫助政府更好治理網絡環境，使執法機關能夠有法可依，進而更加精準地打擊網絡犯罪；其次，深度偽造技術政策能夠引導技術主體修正自身行為，不再繼續借助技術損害他人權益；最后，對于技術發展而言，政策的引導和限制是極其必要的。

3 深度偽造政策文本選擇及分析框架構建

美國與歐盟已關注到深度偽造技術的異化現象，且制定了一系列的政策加以治理，對中國深度偽造技術的治理具有一定的借鑒意義，因此筆者選擇美國與歐盟的深度偽造技術政策文本進行分析。

3.1 政策文本選擇

為保證研究的代表性與權威性，政策文本的選擇將根據以下原則所進行：第一，政策發文機構必須為美國的聯邦政府、州政府或歐盟委員會；第二，僅收集已在政府網站中公開發布的政策；第三，所收集的政策主題需與深度偽造緊密相關，因此本文以 “Deep Fake” “Deceptive” “Disinformation” “Deep Fakes”等作為檢索關鍵詞，在美國的國會網站、各州政府網站及歐盟委員會網站進行政策收集?；谝陨显瓌t，收集時間為2022 年1 月20 日—2022 年1 月31 日，初步獲得美國及歐盟的共25 份相關政策文本。下一步，需要對政策文本進行整理，首先深入了解每一份政策文本的主題，剔除與深度偽造技術無關的文本；其次，對所有政策文本進行掃描和識讀，把與本研究相關的政策內容匯總成一個文檔，比如，在《2020 年國防授權法案》中，只需抽取其中與深度偽造相關的兩個章節；最后，經過多次檢查與核對，整理得到21 份政策文本（表1），以及一份66 837 字符的文檔，以此作為本文的研究材料。

表1 美國與歐盟深度偽造政策文本Table 1 Deepfake policy text in the US and EU

3.2 政策分析框架

本文采取二維分析框架對深度偽造政策文本進行分析，首先以基本政策工具作為X 維度，然后以技術異化治理的角度作為Y 維度，最后將二者結合進行綜合分析，即研究政策工具在技術異化治理上的應用情況，分析框架如圖1 所示。

圖1 深度偽造技術政策分析框架Fig.1 An analytical framework for deepfake technology policy

3.2.1 X 維度：基本政策工具

政策工具是政府達成某種目標的一種重要手段，在政府制定政策目標時，政策工具的科學設計與組合是實現政策目標的前提[14]。因此，可通過分析政策中的政策工具類型及其組合運用去研究政策的合理性與科學性。目前，政策工具在學界有許多分類，如HOWLETT 等將政策工具分為信息型、經濟型、權威型和志愿型[15]；PHHAL 等將政策工具劃分為自愿型、強制型、混合型[16]。雖然政策工具分類方式多樣，但在進行政策文本分析時，研究者可依據具體研究對象和研究問題進行合理的選擇。本文借鑒ROTHWELL和ZEGVELD 的劃分，并以此作為政策分析的X 維度，從政策對技術影響的角度將政策工具劃分為供給型、環境型和需求型[17]。

供給型政策工具是指政府通過提供基礎設施、技術扶持、人才培養、宣傳教育、資金投入等手段來保障深度偽造技術的可持續發展，此階段最重要的是要培養技術創新者的科技向善理念及人文主義觀念，在技術開發之前就有效規避其不良影響。環境型政策工具是指政府為技術創新創造有利條件，如加大對深度偽造內容的監督力度、建立技術使用反饋機制，本文所涉及的政策工具包括標準規范、處罰與獎勵、法規管制、鼓勵創新、機構管制、監督機制、信息安全文化。需求型政策工具主要是用于降低某種技術的市場風險，從而促進該技術的可持續發展，其重點是要給予技術創新一定的關注與扶持，盡量降低不良因素對技術創新的影響，防止技術異化。它具體包括服務外包、科研活動、政府補貼、政府采購等工具。

3.2.2 Y 維度：技術異化治理

技術異化是當前新興科技發展演進中出現的一種現象，即在技術至上和功利主義的主導下，違背 “以人為本” 的科技發展初衷，違背法律、倫理和人文精神，以獲取非正當收益為主要目標的一種不利于國家、社會、個人可持續發展的現象[18]。當前，科學技術無疑是國家發展和社會進步的重要基石，因而技術創新應將 “以人為本” 作為出發點，以社會的可持續發展作為根本目的。然而，由于目前新興技術層出不窮且使用門檻較低，導致技術異化現象屢屢發生。深度偽造技術便是當前人工智能技術異化的典型代表，若不采取相應措施去規避深度偽造技術存在的潛在風險，任其自由地發展下去將會對國家、社會和個人造成不可逆轉的影響。

為了對美國與歐盟的深度偽造政策文本進行深入的分析，本文將技術異化治理作為政策分析的Y 維度，以探究深度偽造技術治理的情況。根據技術異化的原因，可將技術異化治理從微觀到宏觀分為6 個角度，即技術、個體動機、組織管理、社會制度、國家安全和文化觀念[19]，如圖2 所示。

圖2 技術異化治理的6 個角度Fig.2 Six perspectives of dealing with technology alienation

具體而言，技術異化的原因，在技術層面體現為技術的應用場景和組合方式不相適應，以及不斷增長的新技術對社會的反噬，即新技術帶來的不良影響。在個體動機上體現為技術創造者的動機異化，即堅持技術至上和功利主義價值觀[20]；以及技術使用者的理念異化，即沒有正確的技術防控理念。在組織管理的層面表現為技術創新過程中缺乏倫理審查機制，即未考慮新技術可能造成的倫理問題；以及企業管理者存在 “使命漂移” 現象[21]，即沒有形成規范的、閉合的管理體系。在社會制度層面表現為缺乏針對技術異化的監督和反饋機制，使得技術異化的現象愈加嚴重。在國家安全層面，由于技術創新可以提升國家的整體競爭優勢，因此技術競賽一直存在于國家之間[22]，并且將愈演愈烈，但是目前沒有統一的國際協同治理機制，這將會影響人類命運共同體的構建，最終可能會導致技術異化在全球范圍內發生，進而造成不可估計的負面影響。最后，從更加宏觀的層面來看，技術異化的產生與技術文化觀念的教育缺失密不可分，主要原因是在技術創新過程中，社會和國家缺乏技術倫理、科技向善、人文主義等理念的教育。綜上所述，技術異化產生的原因錯綜復雜，所以其治理也需要從原因的角度展開，而政策制定是國家重要的治理手段之一，因此本文將技術異化治理角度與政策工具結合進行文本分析，以探究深度偽造政策是否合理、規范。

4 國外深度偽造政策文本分析

本文采取Nvivo12 軟件作為政策分析工具，首先對政策文本進行逐一閱讀，了解大致內容；其次，利用Nvivo12 軟件完成政策工具的編碼，根據選定的政策工具類型對政策條款逐一進行編碼；最后，對編碼結果進行分析，并得出結論。

4.1 政策主題分析

在對內容進行分析之前，筆者利用Nvivo12Plus 軟件分別對美國及歐盟的深度偽造政策主題進行了統計分析，經過停用詞、詞長度、顯示字詞等詞頻條件的設置，最終得到如圖3 所示的詞語云。字體越大表示該詞在政策中出現的頻次越高，由圖3 看出，美國與歐盟的深度偽造政策側重點有所不同，美國最為突出的3 個詞是 “individual” “person” “act”，表明其較為關注技術對個人信息所造成的威脅，嚴格治理危害個人安全的深度偽造內容，從源頭上杜絕深度偽造技術對個人隱私的侵犯。歐盟最為突出的3 個詞是 “ict”“data” “cybersecurity”，說明歐盟通過對通信技術、數據安全、網絡安全的治理，進而間接治理深度偽造技術，原因是深度偽造內容依賴于各種通信技術進行傳播，并對數據安全與網絡安全造成影響。

圖3 深度偽造政策詞語云Fig.3 Word cloud for deepfake policies

4.2 X 維度分析

采用Nvivo12 軟件中的編碼功能對21 份政策文本進行編碼，首先由兩位成員進行逐一編碼，然后再由第三人對兩份編碼結果進行逐一校對，進行兩輪編碼之后最終得到236 個編碼點，編碼示例如表2 所示。這些編碼點在政策工具上的分布如表3 所示。

表2 深度偽造政策編碼示例Table 2 Coding example of deepfake policy

由表3 可知，供給型政策工具共有36 個參考點，文字覆蓋率為2.47%。其中，技術扶持和宣傳教育是使用較多的政策工具，技術扶持體現為政府明文指出要研究和開發可以對抗并打擊深度偽造的技術，而且政府要為研究此類技術的機構提供支持。比如美國加利福利亞州在《犯罪：欺騙性記錄》法案中提出資助加州大學2 500 萬美元用于研究新技術，以識別和打擊Deepfake 技術的不當使用。而宣傳教育政策工具主要體現為政府為培養公眾辨別數字內容真實性的能力所制定的相關措施，在很大程度上，公民數字能力的培養可以從技術使用者層面上減少深度偽造技術的異化現象。因而，宣傳教育也是促進深度偽造技術持續性發展的重要政策工具之一。

表3 基于Nvivo12 的政策工具編碼統計表Table 3 Statistical table of policy tool coding based on Nvivo12

環境型政策工具共有177 個參考點，文字覆蓋率為20.31%，是使用最多的政策工具類型。其中，法規管制工具使用最多，主要原因是美國與歐盟對深度偽造制定的政策多為法案，因此其中的法規管制條款占比較大。比如，美國的弗吉尼亞州頒布的《非法傳播或出售他人影像》是針對深度偽造刑事犯罪的刑法，內容明確且具有強制性。除法規管制之外，標準規范、機構管制與監督機制3 個是使用較多的政策工具，標準規范工具用于制定與深度偽造技術相關的定義、標準，以明確生活中的哪些行為屬于深度偽造犯罪，幫助執法機關落實法律法規。機構管制工具主要是用于對相關機構的合作、技術開發、信息共享等活動進行管理和控制，以形成一個良好的技術創新環境。監督機制是政府治理深度偽造技術異化的關鍵手段，主要是因為深度偽造技術是否向善往往取決于技術開發者和使用者的主觀行為，不能一味地采取強制性手段去打擊深度偽造技術本身，因而需要監督和審查技術的開發與使用者，以便能夠及時發現技術異化現象。此外，政府還采用了處罰與獎勵工具，以打擊深度偽造犯罪行為，并激勵個體和組織的技術創新行為。

需求型政策工具共有23 個參考點，文本覆蓋率為1.89%，是最少使用的工具類型。而在23 個參考點中，科研活動工具占據一半以上，說明目前美國與歐盟政府都致力于研究新技術來對抗深度偽造技術，比如開發檢測視頻、音頻文件或照片的工具，助力司法實踐中的數字取證，以識別和分析數字證據的真偽。

4.3 X&Y 維度分析

在X 維度的統計分析之上，結合Y 維度，統計政策工具中分別涉及了技術異化治理的哪個角度，統計結果如表4 所示。由表4 可知，X 維度在Y 維度各層面上的運用差距較大。在技術層面，政府使用最多的政策工具是標準規范，主要是用于界定深度偽造技術的定義、內容、使用規范等，或是界定哪些行為屬于深度偽造犯罪，有助于執法部門發現深度偽造技術異化現象。

表4 X&Y 維度統計表Table 4 Statistical table of X&Y dimension

在個體動機層面，使用最多的政策工具是法規管制，政府一方面通過法規管控技術創新者的惡意行為；另一方面以條例保護技術使用者的隱私權、訴訟權等公民權益不受侵害。此外，科研活動工具全部作用于個人層面，說明對于深度偽造技術異化的治理，重點需要對技術創新者的科研行為進行積極引導。在組織管理層面，政府運用最多的政策工具是機構管制，通過對深度偽造技術相關機構進行依法管理，以促進機構間的相互協同合作，實現對深度偽造技術異化的多元協同治理。在社會制度層面，使用最多的政策工具是監督機制，該工具一方面可以及時發現社會中的深度偽造技術異化現象，以便對其進行針對性治理；另一方面還可以在社會中形成良好的監督響應機制，以對個體和組織的行為進行全方位監管。在國家安全層面，使用最多的政策工具是機構管制與監督機制，二者共同作用使國家的整體安全不受侵害。機構管制主要是對跨國機構及他國在本國的機構進行管控，預防其利用深度偽造技術散布不利于國家安全的虛假信息；而監督機制主要是對其他國家的深度偽造技術發展情況進行監督，防止本國在國際技術競賽上落后于他國。在文化觀念層面，運用較多的政策工具是宣傳教育與信息安全文化，二者本質都是通過教育手段來加強人們的技術道德素養，潛移默化地影響人們的動機，實現“潤物細無聲” 的技術異化治理。

5 國外深度偽造政策分析結論與啟示

5.1 美國與歐盟深度偽造政策分析結論

通過分析21 份深度偽造政策文本內容，筆者發現美國、歐盟的深度偽造政策在內容具有一定的特色和側重點，但總體上都是在其現有制度的基礎上增加對深度偽造技術異化現象的治理，以加強新政策與舊政策的相互促進和融合。

（1）深度偽造政策以環境型政策為主。由表3 可知，深度偽造政策文本中環境型政策工具共有177 個參考點，占全部編碼參考點的75%，由此可知，深度偽造政策以環境型政策為主。環境型政策工具對于限制和規范深度偽造技術的使用具有顯著作用，例如，美國國會頒布的《深度偽造責任法案》是全球第一部針對深度偽造犯罪所制定的法案，其對深度偽造合成技術進行針對性打擊，以遏制深度偽造技術使用者的惡意行為。再如，美國德克薩斯州政府制定的《關于制作欺騙性視頻意圖影響選舉結果的刑事犯罪法案》與弗吉尼亞州政府頒布的《非法傳播或出售他人影像》，這兩部均屬于明確且具有強制性的法案，其中規定涉嫌制作或傳播深度偽造內容的人將罰款5 000 美元或監禁兩年半。綜上可知，在當前復雜多變的互聯網環境中，為對深度偽造技術異化進行有效治理，政府不僅需要制定引導性的環境型政策，還需要設計強制且硬性的環境型政策。

（2）深度偽造政策工具較為關注對技術、個體和組織的治理。從表4 中可看出，美國與歐盟的深度偽造政策工具較多運用在技術、個體和組織上，主要原因在于以下方面：其一，技術異化大多是新技術所造成的不良影響，因而最為科學的治理方式是彌補技術的缺陷或創造出可與其對抗的新技術；其二，個體作為技術的使用者，其使用意圖直接決定了技術的惡與善，因此對個體行為進行限制和管制是最為有效的治理方式；其三，組織機構在開發、研制新技術的過程中，具有技術倫理審查和監督的義務和責任，因此政府需對組織進行嚴格的管理，從開發者層面降低技術異化概率。

（3）深度偽造政策關注技術倫理的宣傳與教育。從X&Y 維度的分析中，可以發現已有政策工具作用于文化觀念層面，主要是通過宣傳教育使公眾了解并合理使用技術，最終實現對其技術素養的提升。對于正在快速發展的國家和社會而言，技術倫理的宣傳與教育是其技術市場穩定發展的 “助推器”，一方面，技術倫理可引導技術主體在技術的設計、生產、使用等過程中充分考慮技術活動的附隨后果，從而做出合乎倫理的選擇；另一方面，當技術主體充分遵循技術倫理時，不僅會促進技術的創新發展，還會對國家和社會的發展帶來正向的牽引。因此，在對深度偽造技術異化進行治理時，政府應當考慮如何進行技術倫理的宣傳與教育，這樣才能從源頭上減少技術異化現象的發生。

5.2 中國深度偽造異化治理政策啟示

在前文的政策結論基礎之上，結合深度偽造技術在中國的應用以及技術異化治理的必要性，筆者得出以下政策啟示。

（1）制定深度偽造技術異化治理方案。在復雜的網絡環境中，為應對突發的深度偽造違法現象，政府應當制定技術異化治理方案：其一，針對深度偽造內容的惡意制作和傳播行為制定相關法規管制及懲罰政策，目前中國的深度偽造惡意行為一般體現為未經他人同意的AI 換臉、語音合成等行為，在一定程度上是對個人隱私權的侵犯，因此相關機構應當給予重視；其二，建立健全社會監督和反饋機制，運用監督機制政策工具加強社會中的深度偽造技術異化監督與反饋；其三，制定深度偽造技術標準體系，國家立法機關應與國標委合作制定深度偽造技術標準規范，對技術的開發與使用進行嚴格界定，以促進共同利益的實現。

（2）促進政府主導的深度偽造技術創新實踐。由政府主導的技術創新實踐不僅可以降低技術倫理帶來的負面影響，還可以推動技術的創新創造。政府可利用技術扶持、鼓勵創新、人才培養、科研活動等政策工具的組合實現上述目標。其中，科研活動政策強調政府與高校/ 科研機構的合作，主要形式是由政府出資、高校/科研機構負責技術研發。除此之外，政府可鼓勵企業進行技術創新，并給予一定的政策支持，如技術扶持與稅收優惠政策。

（3）實現技術倫理與政策工具的結合。當今人們生活在極為復雜的信息環境中，新興技術帶來了潛在風險、不確定以及多元價值選擇等問題，因而技術倫理與政策的結合愈發變得迫切。技術倫理與政策工具結合指政府將技術發展的倫理考量納入政策制定過程，通過一系列規約手段和規約機制更好地在實踐中貫徹技術倫理要求，從而使技術發展更加符合倫理價值、滿足社會需求[23]。為實現技術價值的最大化，政策應當嵌入深度偽造技術的設計、試驗、應用、推廣階段，實現以政府為主導、多元主體共同參與的技術倫理治理機制，以及前瞻性的制度和規范建構。此外，政府可通過政策工具作用于輿論和教育，比如進行技術倫理的宣傳教育、培養信息安全文化素養，將深度偽造技術倫理與社會價值相融合。

（4）積極參與國際深度偽造技術異化治理。世界局勢暗流涌動，技術競爭一直都是國家之間的核心競爭所在。因此，中國不僅要關注國內技術異化的治理，還要積極參與國際中的技術異化治理，具體措施包括以下方面：其一，調查并評估其他國家深度偽造技術進展，比如美國深度偽造政策中就提出 “對中國和俄羅斯使用深度偽造技術的情況進行評估”，由此看出，在維護國家安全同時也必須未雨綢繆，以保持本國利益的最大化；其二，參與國際協同治理機制建構，國際協同治理是一種國際組織通過 “中間人”，利用軟性約束開展間接治理的方式[24]，這種方式有助于實現全球技術異化治理。雖然國際協同治理由于種種原因很難實現，但中國作為世界大國之一應當主動開展多層次、多方位的國際合作，加深與國際組織的互動，適當調整原則并表達自身訴求，建立國際協同治理機制。

6 結語

近年來，人工智能技術的飛速發展對社會造成了巨大而深遠的影響，有人認為應該充分發揮技術的潛能來造福社會；但也有人極力抵觸新興技術的廣泛使用，認為應該加以監管和限制。兩種立場均言之有理，但為了避免技術異化對個人、社會和國家帶來的潛在威脅，確保技術向善，政府應當提出強有力的舉措來治理技術異化。本文聚焦于深度偽造技術的政策分析，通過收集、梳理、分析美國與歐盟的深度偽造政策文本內容，對政策文本中的政策工具及其所涉及的技術異化治理維度進行量化分析，從而結合中國國情提出關于深度偽造技術異化治理的政策建議。研究中還存在不足，如政策文本分析的樣本是以美國和歐盟為例，因此在樣本選擇上存在一定的局限性，在進一步研究中，可擴大樣本的選取范圍，以增加政策分析的可信度。