美、歐、中人工智能治理實踐盤點

劉曉春 王潔 石嘉浩

2023年，隨著生成式人工智能、通用基礎模型的快速發展，各國紛紛加快了對人工智能規制路徑的探索。對比美、歐、中2023年在人工智能治理方面的進展，可以發現，謀求發展與安全、促進與規制的平衡是一致性治理目標，國家與公共安全、數據安全和個人信息保護、知識產權規則發展等是共同的關注點，但在具體治理路徑上則各具特點。

一、美國的人工智能治理

美國是人工智能的優勢產業國，且對新技術業態一貫秉持鼓勵態度，其人工智能治理呈現如下特點。

第一，政府主要發揮引導作用，通過市場行業自律等方式實現多方協同共治。2023年7月21日、9月12日，拜登政府先后召集了15家人工智能技術的頭部公司——Amazon、Anthropic、Google、Inflection、Meta、Microsoft、OpenAI、Adobe、IBM等共同做出自愿性承諾，旨在使人工智能系統和產品更安全、更可信。2023年，美國參眾兩院共召開了超過30場人工智能相關聽證會，聯邦貿易委員會、商務部、管理和預算辦公室、國防部等各部門及其下轄機構圍繞人工智能也發布了各種研判和報告，《人工智能風險管理框架》（AI RMF 1.0）《生成式人工智能和數據隱私：初探》報告、《兩黨人工智能立法框架》《關于推進聯邦機構使用人工智能的治理、創新和風險管理》政策草案等相繼問世，但目前仍以原則性要求內容為主，尚無具體的義務性內容。

第二，以《關于安全、可靠和值得信賴的人工智能》為里程碑，全方位構筑了美國人工智能治理的未來藍圖。該行政令意在根據風險等級和影響領域，綜合利用“標準+測試”“最佳實踐”等治理手段，確立人工智能安全的新標準，保護隱私，促進公平和公民權利保護（包括隱私和消費者、工人、學生等的權益保障，防止歧視等），促進創新和競爭，推動美國在全球的領導地位，確保政府負責任且有效地使用人工智能等。同時，該行政令強調通過“以技制技”的手段來提升人工智能的安全性。要求高級AI系統的開發者必須與美國政府共享紅隊安全測試（即測試安全漏洞的系統對抗攻擊）的結果等關鍵信息，利用強披露制度倒逼企業提高防御能力。

另外，行政令還要求美國商務部制定內容認證和水印指南，明確標注AI生成內容。提出在已有的“AI網絡挑戰”（AI Cyber Challenge）治理活動基礎上建立網絡安全計劃，通過開發AI工具查找、修復關鍵軟件中漏洞，以提升網絡系統魯棒性（Robust的音譯，是指在異常和危險情況下系統生存的能力）及抗風險能力。關注人工智能對軍事、情報和國家安全的影響。要求國家安全委員會和白宮辦公廳聯合制定國家安全備忘錄，指導人工智能和安全方面的進一步行動。

第三，司法領域的兩大焦點分別為模型訓練、輸出是否侵權和人工智能生成物是否可受知識產權保護。自類型多樣的生成式人工智能產品和服務涌現以來，美國已經產生多起圍繞上述兩大焦點的案件。其中引發最大關注的即去年12月28日《紐約時報》向OpenAI和微軟發起的侵權指控，同時要求銷毀所有包含紐約時報作品的GPT或其他大語言模型和訓練集和數十億美元索賠。相關案件可以看出，版權方在證明侵權事實方面的證據日益詳實充分，但模型訓練和輸出具體侵犯何種權利以及是否可能被認定為合理使用，仍存在較大爭論空間。早在2023年4月，紐約時報就曾與微軟和OpenAI接觸，表達了對其知識產權使用的擔憂，并探索友好的解決方案，但并未達成任何解決方案。而在同年7月13日美聯社已經與OpenAI達成合作，將部分新聞報道授權給OpenAI?？梢?，侵權紛爭的背后歸根結底還是利益的分配問題。

在人工智能生成物是否受版權保護方面，美國版權局和法院目前的立場較為一致。2023年3月16日，美國版權局發布了“包含AI生成元素的作品”的《版權注冊指南》，對含AI生成元素作品相關的版權登記問題提供指引。該《指南》首先明確：受版權保護作品的作者必須是人類，缺乏人類作者身份的作品將不會被準予注冊。同時指出，美國版權局對含AI生成元素的生成物的可版權性的判斷標準是“作品中的傳統作者要素，如文學、藝術、音樂表達或內容的選擇、編排等要素，是否為人類所完成”。如果這些要素是由機器生成，則該作品會被認為缺乏人類創作，進而無法得到版權局的注冊。但與此同時，人類作者也可以對AI生成的內容進行創造性的選擇、編排或修改，使得選擇或編排后的作品整體上構成作者原創作品，此時該作品中由人類創作的部分仍然可以得到版權保護。

二、歐盟的人工智能治理

作為數字戰略的一部分，歐盟一直在積極推進人工智能的發展和監管，歐盟人工智能治理呈現如下特點。

第一，全球第一部綜合性人工智能法案即將生效，影響力及示范效應待觀察。自2021年4月起，歐盟便致力于推動《人工智能法案》的立法進程。盡管基于風險的分類監管方法是法案始終堅持的治理思路，但關于AI的定義以及與傳統軟件的區分、禁止AI系統的范圍、高風險AI系統的范圍和義務、面部識別技術的使用禁止或豁免等仍是多次談判討論的焦點。特別是2023年生成式人工智能的涌現，要求歐盟立法者必須考慮如何對通用AI模型、生成式人工智能進行精準定義和監管，直到2023年12月8日的臨時協議各方才就通用AI模型的分層監管和對應義務達成一致?！度斯ぶ悄芊ò浮分荚趯I系統及模型在歐盟的部署、使用、提供服務設定統一的法律框架，旨在對風險進行事前防范。然而，當前人工智能技術正快速迭代發展，歐盟的監管政策是否可以實現監管和創新的平衡，是否可以趕上技術的發展速度以及應對由此不斷衍生的新問題，仍存在較大不確定性。歐盟在人工智能領域所引領的立法潮流是否會和數據隱私個人信息領域的《通用數據保護條例》一樣在全球范圍內產生“布魯塞爾影響力”，值得持續關注。

第二，當前聚焦個人信息隱私保護等重點領域，利用已有監管工具展開治理。無論是歐盟層面還是成員國層面，監管重點均是從《通用數據保護條例》出發，密切關注人工智能在數據隱私和個人信息保護、算法方面的合規性，開展了一系列針對性的調查行動。歐洲數據保護委員會設立特別小組，負責研究人工智能聊天機器人是否符合歐盟《通用數據保護條例》（GDPR）。該特別小組最初關注ChatGPT，后也將Bard納入工作范圍。該特別小組旨在協調不同數據保護機構（DPA）可能對ChatGPT和Bard采取的行動，以協調執法。

2023年3月，意大利個人數據保護局宣布禁用ChatGPT，并限制其開發者OpenAI處理意大利用戶信息，同年4月，德國、法國、愛爾蘭和西班牙也考慮禁用ChatGPT，但并未實際實施。后雖在OpenAI更新相關隱私政策后，意大利恢復了對ChatGPT的訪問，但ChatGPT仍然受到歐洲各國的持續監管。此外，各國還針對模型數據集、算法、透明度等發布了多項行動指引手冊、報告，要求防范錯誤信息、假新聞、泄露隱私和侵犯版權的風險，對人工智能的透明度作出解釋和要求等。

第三，法國、德國、丹麥等紛紛出臺政策鼓勵扶持人工智能產業發展，謀求競爭優勢。出于發展本國人工智能技術和產業的考慮，歐盟多國紛紛加大人工智能領域投資，發布人工智能戰略規劃。而且，歐盟層面也面臨部分成員國人工智能產業發展的強烈訴求。2023年11月，在歐盟人工智能法案談判的最后階段，法國、德國和意大利就如何監管通用人工智能基礎模型達成共識，支持通用人工智能基礎模型“通過行為準則進行強制性自我監管”，以期對本國正處于發展之中的人工智能公司（如法國Mistral，德國Aleph Alpha）予以保護。

三、中國的人工智能治理

2023年是中國的“大模型元年”，人工智能行業整體呈現出“百模大戰”的競爭態勢，是數字經濟的重點發展產業之一。中國在人工智能治理方面呈現如下特點。

第一，治理目標上，“發展與安全”并重，“促進與規制”并行。一方面重點關注算力、芯片、數據的供給和大模型發展，推動人工智能基礎設施建設和公共訓練數據資源平臺建設，促進算力資源協同共享，提升算力資源利用效能，對生成式人工智能實行包容審慎監管，注重我國人工智能的發展與創新。另一方面重點關注人工智能的訓練安全和內容安全，強調人工智能在訓練過程中的個人信息與數據處理的合規性以及人工智能生成內容的合法性、準確性和可靠性，強調人工智能符合科技倫理要求，并落實人工智能相關主體責任，促進人工智能良性健康發展。2023年8月15日，《生成式人工智能服務管理暫行辦法》開始施行。該辦法堅持發展和安全并重、促進創新和依法治理相結合的原則，在采取有效措施鼓勵生成式人工智能創新發展的同時，也提出了對生成式人工智能服務實行包容審慎和分類分級監管的思路和要求，從訓練治理、內容安全、安全評估、算法備案和責任承擔等方面對生成式人工智能進行規范。

第二，治理形式上，以部門規章、地方性文件和推薦性標準為主，實現精準化治理。2023年1月10日，《互聯網信息服務深度合成管理規定》施行，從訓練治理、安全評估、內容安全和責任承擔對利用深度學習、虛擬現實等生成合成類算法提供的互聯網信息服務進行規制，并重申了算法相關的管理制度、技術保障以及信息內容安全等要求；2023年3月，中國信通院發布《生成式人工智能技術及產品評估方法》，系國內首個生成式人工智能標準，內容涉及技術能力標準和產品能力標準兩個部分；北京、上海、深圳等地發布《北京市促進通用人工智能創新發展的若干措施》等推動人工智能發展相關政策性文件，廣東、遼寧、浙江等地發布《加強科技倫理治理的實施方案》等加強科技倫理治理文件。目前，人工智能正處于快速發展時期，制定一部專門性人工智能法對所有類型的人工智能進行系統性、全面性規制的時機尚不成熟。通過針對性的部門規章、文件、標準等形式應對當前階段面臨的風險是更為靈活和有效的治理形式，也可以更好地調動行業協會、企業主體等多方的參與，共同探索最佳治理方案和實踐。

第三，治理重點上，關注個人信息、數據與算法安全、人格權益和知識產權保護、生成內容標注等多重維度。因生成式人工智能具有巨量參數、海量數據、超大規模等核心特征，且難以精準把控生成內容的質量，因此數據質量、數據安全、相關主體的權益保護以及生成內容的標注即成為治理的重點。

第四，司法層面注重推動人工智能技術的創新發展和應用。2023年12月，北京互聯網法院審理的人工智能生成圖片第一案判決生效。該案中，原告通過設計圖片中人物的呈現方式、選擇提示詞、安排提示詞順序、設置參數、選定圖片等行為，對人工智能生成圖片進行了智力投入。從涉案圖片本身來看，體現出了與在先作品存在可以識別的差異性。從涉案圖片生成過程來看，原告通過設置參數、不斷增加調整修正提示詞，最終獲得圖片，體現出人類的審美選擇和個性判斷，涉案圖片具有獨創性。法院認為該案判決體現出“一個傳承”和“兩點考量”?！耙粋€傳承”即本案裁判是對此前北京互聯網法院“菲林律所訴百度公司著作權案”的繼承和發揚。本案繼續堅持著作權法只保護“自然人的創作”的觀點，而人工智能模型不具備自由意志，不是法律上的主體，不能成為我國著作權法上的“作者”。與前案不同的是，除了涉案人工智能模型具有更高“智能”外，本案中原告的智力投入也較多，因此，具備進一步探索適用著作權法予以保護的基礎。同時，該案中，法院還進一步考量：（1）當傳統理論遇到全新應用場景時，是否要進行調適和發展的問題。認為只有秉持面向未來的司法理念才能更好地鼓勵新技術應用、推進新業態發展；（2）獨創性的認定規則方面，司法希望通過認可人工智能生成圖片的“作品”屬性和使用者的“創作者”身份，來鼓勵使用者利用AI工具進行創作的熱情，從而實現著作權法“激勵作品創作”的內在目標。

四、總結

美國人工智能的治理中，政府主要發揮引導作用，更多是通過市場行業自律等方式實現多方協同共治，政策法律內容均以原則性要求為主。2023年的重要事件是拜登政府簽署了《關于安全、可靠和值得信賴的人工智能》的行政令，該行政令全方位構筑了美國人工智能治理的未來藍圖，授權商務部下屬的國家標準與技術研究所、能源部、國土安全部等機構制定指導方針、行業標準和最佳實踐。模型訓練和輸出在美國已經遭遇了多起侵權指控，是否可以以合理使用為由獲得豁免，尚無定論。版權局和法院在多起案例中堅持人工智能生成內容不受版權法保護的立場。

歐盟當前的監管重點是從GDPR出發，聚焦人工智能在數據隱私和個人信息保護、算法方面的合規性展開一系列調查行動，但尚無具體處罰。同時，其《人工智能法案》已達成協議，并于2024年2月2日公布了最新文本，將在2026年全面生效?！度斯ぶ悄芊ò浮凡扇★L險分級的思路，旨在對AI系統及模型在歐盟的部署、使用、提供服務設定統一的法律框架。然而，這種統一性的立法模式是否可以趕上技術的發展速度以及應對由此不斷衍生的新問題，需要持續關注。

中國在強調科技倫理指導的同時，對人工智能的治理呈現精準靈活的特點，聚焦生成式人工智能和深度合成的風險防控。2023年5月31日發布的《國務院2023年度立法工作計劃》中提及預備提請全國人大常委會審議人工智能法草案，但未能進入2023年9月7日發布的十四屆全國人大常委會未來5年的立法規劃，說明我國的人工智能立法尚出于審慎評估推進階段。在人工智能生成物的版權保護方面，已生效的司法案例從推動人工智能技術的創新發展和應用出發，認可其個案中可受著作權法保護。

2023年3月以來，一系列人工智能大模型的發布加劇了全球對人工智能的風險認知，全球人工智能治理呈現出風險全球化、治理分散化、國際組織協調不足等特點?？傮w而言，具有實質意義的全球人工智能治理框架尚未搭建。未來，人工智能的治理將呈現如下趨勢。

“軟法”與“硬法”的協同及向高風險領域“硬法”的逐步過渡。由于人工智能技術和應用的復雜性、高頻創新性特征，使得自愿適用的框架、指引、標準、原則成為當前主流的治理形式，但隨著對風險研判和治理重點的明晰，統一立法模式或可緩行，未來在共識性的高風險領域加快出臺強制性規范可能將逐步成為趨勢。

分級分類精準監管逐步成為共識。當前，無論是不具有強制力的治理原則或框架，還是具有強制約束力的法律規范，分級分類思路的引入有助于在精準性防控風險的同時為產業發展留出空間，在高風險領域，考慮將風險識別與治理嵌入人工智能的全生命周期。

各國在加強國際合作的同時，也在積極搶占制定人工智能治理規則的話語權。當前，人工智能的國際競爭已經從技術領域延伸至規則制定方面。2023年，中國發布了《全球人工智能治理倡議》。七國集團（G7）宣布同意遵守《國際人工智能指導原則》和《先進人工智能系統開發組織國際行為準則》。10月，聯合國高級別人工智能咨詢機構成立，并于12月發布《以人為本的人工智能治理》的臨時報告，向公眾征求意見。11月1日，全球首屆AI安全峰會上，包括中國、美國、歐盟在內的28個國家簽署了《布萊切利人工智能安全宣言》。這其中既體現了國際社會對人工智能安全發展的共同關切，背后也暗藏著大國在治理話語權方面的競爭。

（作者依次為中國社會科學院大學互聯網法治研究中心執行主任、互聯網公司法務、中國社會科學院大學互聯網法治研究中心研究助理）