Sora問世，法律風險何在？

王仲昀

AI根據提示詞生成的圖片：戴著VR眼罩的女孩。

AI的進化速度遠超預期！ Sora強大的視頻生成能力，在令IT界、藝術界和科技愛好者感到興奮的同時，也難逃人類對于最新科技成果的擔憂。

影視業也許是最先直面Sora挑戰的行業。有從業者表示，可以預見的是，隨著Sora普及，草根導演會出現，中基層的創作群體會很容易被洗牌。除了產業格局存在被重塑的可能性，Sora是否會進一步對傳統道德倫理及既定法律法規產生沖擊？為此，《新民周刊》記者采訪了關注人工智能的法律學者與從業律師。他們分享了各自眼中的擔憂與期許。

Sora出現后，輿論普遍認為影視行業從業者應該是最先引起重視的群體。畢竟，2023年好萊塢大罷工以抵制“AI入侵”的畫面還歷歷在目。

據《環球時報》報道，當地時間2023年7月13日，代表16萬演藝人員的美國演員工會及廣播電視藝人聯合工會（SAG-AFTRA）宣布，其與制片公司的談判破裂，確定從即日起進行罷工。當時編劇和演員稱，他們組織罷工是為了扭轉薪酬下降的趨勢。與傳統的電視、電影相比，人工智能及流媒體使他們的薪水和工作條件惡化，他們要求制片方和流媒體公司保證不會以人工智能技術生成的面孔和聲音來替代演藝人員。

好萊塢大罷工數月后，2023年12月27日，美國《紐約時報》又對OpenAI和微軟提起訴訟，指控這兩家企業未經授權使用該媒體數以百萬計文章訓練ChatGPT等AI聊天機器人。

《紐約時報》稱，在某些情況下，OpenAI和微軟將其刊登的內容逐字復制，提供給向AI聊天機器人尋求答案的用戶，這些新產品為新聞出版商創造了潛在競爭對手，而此種對媒體版權作品的使用方式是違法的。

國內法律界人士認為，美國作為一個判例法國家，該案的判決結果對后續AI行業的同類性質產品治理也會帶來“邏輯沿用”，譬如最新的Sora。

Sora和它的同類產品顯然已經引起了一些實質性爭議，未來可能還會延伸到哪些領域？同濟大學法學院副教授、上海市人工智能社會治理協同創新中心研究員陳吉棟接受《新民周刊》采訪表示，Sora雖然是最新的文生視頻模型，但其本身仍是依賴數據處理而運行，本質上和過去已有的人工智能產品具有一致性。

“涉及數據處理，往往需要解決三方面問題。首先是個人信息和隱私保護；然后是財產權的利用問題，如數據權益與知識產權；最后是公共利益和各層次的安全保護相關問題?！标惣獥澱f道。

既然Sora的核心依然是數據處理，和過去的人工智能模型沒有發生根本性變化，為何有人在討論相關內容時會感到非常擔憂？陳吉棟認為，這需要回到“風險”角度。關于這一點，他曾經撰文指出，人工智能法律研究在治理法與責任法之間游移，未能正確處理人工智能法律制度展開的邏輯起點——風險及其治理理論研究與風險分配規范設計。

“目前我們擔心Sora等人工智能產品，擔憂它不安全，會造成新的風險與損害。傳統風險理論認為，當一個事物具有脆弱性，就會有可能被外來威脅利用，造成最終損害”，陳吉棟說，“進一步說，人類內心對于人工智能的焦慮，根源在于不信任。人工智能不同于傳統社會信任關系的形成機制，它超脫時空，建立在計算的基礎上，對于計算過程與結果的不確定（黑箱）讓人難以捉摸?！?/p>

對此陳吉棟提出，伴隨著人工智能應用背后的技術復雜程度越來越高，迭代速度越來越快，從而形成了建立在技術體系及其服務模式上的結構性的不平等，人類沒有太多選擇。

在玻璃杯碎裂的視頻中，Sora混淆了玻璃破碎和液體溢出的順序。說明AI模擬物理世界的能力還存在著一定的偏差，有可能存在著巨大的誤導。

對于這種結構性的不平等，陳吉棟認為，需要將人工智能系統研發與應用風險的認知作為起點，加強事前、事中風險治理與民事責任的溝通，如此在研發者、生產者、服務提供者與用戶之間合理分配義務，構建以風險為基礎的人工智能法律治理體系。

目前Sora還未開啟公測，僅部分藝術家、OpenAI員工擁有Sora的訪問權限。一些嘗試過的業內人士在感慨其強大創造力的同時，也發現各種漏洞和被濫用的風險。2024年1月，谷歌發布AI視頻模型Lumiere時，已經宣稱“使用這一技術時，的確有創建虛假或有害內容并被濫用的風險”。

假若未來Sora向普通用戶和社交媒體創作者開放，勢必會生產出海量視頻內容，潛在的法律問題理應得到更多重視。中倫律師事務所合伙人劉新宇律師接受《新民周刊》采訪表示，Sora等視頻生成模型是AI技術發展的重要里程碑，當然也在各個領域提出了法律問題。

劉新宇律師認為：“上述法律問題中，首先是對版權與知識產權的挑戰；其次，是對隱私與數據保護的考量；再次，還涉及內容責任與監管的機制；最后，還要討論AI道德倫理的邊界?！?/p>

劉新宇律師說，在傳統法律框架下，版權保護的是人的創造性勞動成果，但Sora作為AIGC產品，其生成的視頻內容是否應被視為“作品”并享有版權保護，目前尚無明確法律答案。如果AI生成內容被認定為作品，版權歸屬將變得復雜，可能涉及開發者、用戶甚至AI本身?！坝捎赟ora目前的創作邏輯是通過在網絡大數據中隨機抓取視頻素材進行‘再創作’，如果未經權利人許可，抓取他人享有著作權的作品，進行分析、處理、演繹，并在后續輸出成果中展示，可能侵犯他人著作權?！?/p>

近期，一起人工智能生成圖片著作權糾紛案件引發輿論關注。案件中，原告利用人工智能模型，通過輸入提示詞的方式生成了一張圖片并發布在小紅書平臺。而被告人在其他平臺上使用了這張圖片作為文章配圖，并去除了圖片上的水印。原告就此提起侵犯著作權之訴。北京互聯網法院作出一審判決，認為在創作中利用了人工智能技術的涉案圖片具備獨創性，可以被認定為作品，應受到著作權法保護。業內人士指出，相關判決意味著我國法院對人工智能繪畫大模型使用者在生成圖片上享有創作權益給出了首次認可。

涉及數據處理，往往需要解決三方面問題。首先是個人信息和隱私保護；然后是財產權的利用問題；最后是公共利益和各層次的安全保護相關問題。

與此同時，有網友提出，用AI技術讓《西游記》等作者早已離世的作品文生視頻，是否還會構成侵權？根據《著作權法》規定，自然人的作品，其發表權等規定的權利的保護期為作者終生及其死亡后五十年，而《西游記》作者逝世遠超五十年。

在劉新宇律師看來，如果使用《西游記》的文本為Sora提供素材，并不一定直接構成侵權?！翱偟膩碚f，使用AI技術讓《西游記》這種作者早已離世的作品文生視頻，雖然可以明顯識別來自哪個文學作品，但原作品著作權在保護期外，作品已經進入公共領域，理論上大家都可以使用再次進行創作，但最好能有‘獨創性’的投入?！?/p>

要想理解Sora涉及的版權問題，就必須討論“獨創性”的定義。據劉新宇律師介紹，“獨創性”體現在“作品源于作者獨立的、富有個性的創作”，是作者精神與意識的產物。如果生成內容與原作品在表達上構成“實質性相似”，則落入“復制權”的規制范圍；若不構成“實質性相似”，而是在保留作品基礎表達的前提下形成了新的表達形式，則可能構成對訓練作品“改編權”的侵害。

因此，“獨創性”是作品的本質屬性與靈魂，也是判斷人工智能生成物是否屬于知識產權保護客體的關鍵所在。

至于個人隱私與數據安全，劉新宇律師認為，AI模型的訓練和優化依賴于大量數據集，這些數據可能包含敏感個人信息，甚至進一步被不法分子利用引發詐騙。

關于這一點，陳吉棟在采訪中表示，數據安全一旦遭到侵害，因為其天然的虛擬性，使得追責并不容易?！皵祿膯栴}在于，其虛擬性、非競爭、易復制等特性決定了相關侵害行為通常難以發現。數據存在于系統中，但它的侵害往往是發生在遠端?！?/p>

近年來陳吉棟在教學與學術研究的同時，也圍繞人工智能、數字經濟發展等國家戰略和地方需求，積極服務立法實踐，陸續參與了《上海市數據條例》（學術建議稿）、《上海市促進人工智能發展條例》等起草研究工作。如今Sora等最新模型出現，在平臺和政府監管層面，又可能會有哪些新要求？陳吉棟告訴記者，監管的突出難點在于成本?！叭绻孪仍O置好完備的護欄，那可能就不會有Sora的誕生；而事后去對生成內容進行追責，有時候平臺具備能力，但行使能力需要消耗大量時間和人力成本?！?/p>

鑒于上述原因，陳吉棟認為政府層面理應盡快建立科學完備的人工智能風險防控機制體制?！瓣P鍵在于政府要建立風險的分級標準。高風險產品和低風險產品，需要區別看待。只有這樣，才能避免對人工智能監管的極端化，并降低監管的成本?！?/p>

劉新宇律師認為，隨著AI技術的發展，新型版權形式如算法版權、數據版權可能應運而生，這將對現有知識產權法律體系提出更高要求。如何在保護創新與避免過度限制技術發展之間找到平衡，是法律制定者面臨的挑戰。

隨著新技術的快速發展，目前我國也在加快推進知識產權建設。2023年11月，國新辦舉行加快推進知識產權強國建設、有效支撐創新驅動發展國務院政策例行吹風會提到，適應侵權新的特點，加強技術支撐?！凹訌娭R產權信息化、智能化基礎設施建設，強化互聯網、人工智能、大數據等信息技術在知識產權審查和保護領域的應用，推動知識產權保護線上線下融合發展、一體推進?！?/p>

劉新宇律師告訴記者，科技發展日新月異，實踐中的知識產權侵權行為的確涌現了新的特點?！斑@體現在糾紛形態與網絡環境深度融合，網絡環境下的知識產權保護日益成為重點難題?！?/p>