基于臉的治理及其轉向:從刺臉、刷臉到非法AI換臉
——兼論數智時代人的數字化問題

謝新水

(首都師范大學 管理學院,北京 100048)

從美學層面看,人是極其愛惜臉的物種;從道德層面看,人是極其愛面子的動物。前者是對自然之美的珍惜,后者是對社會之美的珍愛。在《草稿本》中,利希滕貝格指出:“世上最值得玩味的表面乃是人的臉?！盵1]引言001從社會治理角度看,臉之所以最值得玩味乃是因為臉可以作為社會治理場域。在農業社會,“刺臉”是一種統治工具;在工業社會,臉逐漸商品化、市場化;到了數字社會,“刷臉”成為新治理方式并帶來了治理泛化。在本文中,筆者將“刺臉”和“刷臉”統稱為“基于臉的治理”。隨著生成式人工智能技術形成特別是深度合成技術普遍應用后,非法AI換臉帶來了許多社會問題。由于非法AI換臉引發了臉的數字化問題,以此為轉向,臉從治理工具變成了被治理的對象,如何治理非法換臉成為人工智能時代的社會問題。在我國,《互聯網信息服務深度合成管理規定》和《生成式人工智能服務管理暫行辦法》都對非法AI換臉問題進行了規范。對于公共管理而言,從臉的社會發展形態及其治理歷史來探究禁止非法AI換臉的治理價值,既有理論意義又有現實意義。

1 問題提出與文獻綜述

在人工智能時代興起的AI換臉技術,屬于深度合成技術中的深度偽造技術。為了深入了解AI換臉,需要界定深度合成技術、深度偽造技術和AI換臉技術之間的關系。深度合成技術是指利用深度學習、虛擬現實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術[2]。深度偽造是利用深度學習技術中的對抗生成網絡模型形成的智能視頻處理技術,AI換臉視頻是該技術最為典型的應用[3]。從技術淵源來看,AI換臉發端于PS技術,在影視界,換臉技術已經存在20多年。其后,換臉技術不斷進化,AI換臉色情視頻帶來了巨大的社會沖擊。2019年9月,針對媒體公開報道和用戶曝光的“ZAO”APP用戶隱私協議不規范,存在數據泄露風險等網絡數據安全問題,工業和信息化部網絡安全管理局對相關企業負責人進行了問詢約談[4]。媒體對這一“裸奔”視覺革命有諸多負面評論:AI換臉影響國家安全、公共安全和政治民主[5]。故而,“對于臉的治理”成為非法AI換臉出現后的大問題。

從學術史來分析,在很長時間內,理論界對臉這個習以為常的東西缺乏研究熱情。當數字時代“刷臉”與“換臉”問題出現后,“對于臉的治理”成為熱點問題。在西方哲學中,“臉”遭受的冷遇命運與“身體”受到的一貫“垂青”在整個哲學史上反襯分明。只有到了阿甘本那里,“臉”才第一次被賦予形而上學的韻味與意指,并與倫理學的討論完美地接榫[6]。但阿甘本對臉的談及也是零碎的,他指出:“一個存在——一張臉,一個姿勢,一個事件——在它不像其他任何一個存在,而像其他所有存在的時候,才是特別的?！盵7]97-98其實,阿甘本更關注身體的意義,他認為:“人的本性的扭曲導致了對身體的‘發現’和對赤裸的感知?！盵8]108此外,他還提及20世紀用身份證、正面頭像和指紋來治理社會等問題[8]96。從藝術史看,貝爾廷的《臉的歷史》既是一部關于臉的文化史,又對社會治理有重要啟示。他指出,人的面部活動部分可追溯到遠古時期,另一部分則隨著人類進化而逐漸形成;只有在文化中,臉才被賦予了自然之外的意義,臉的文化史構成了一個開放性的領域[1]序言004。在我國歷史上,基于臉的治理延續了很長時間,清代學者沈家本的《寄簃文存》中“刺字集聚”一章,對我國歷代典籍中的“刺臉”問題進行了系統的研究[9]196-197。此外,現代法學史領域一些學者對“刺臉”這類恥辱刑也做了深入研究。

數字時代來臨,特別是三年疫情期間,新冠病毒迫使人們隔離,致使“刷臉”治理成為熱點,眾多文獻對刷臉、換臉問題做了多學科分析(1)由于正文中引用了眾多相關文獻,在此只對已有研究進行簡單陳述。。一些文獻分析了人臉識別的收益與風險[10];一些文獻分析了深度偽造規模、數量和傳播速度對市場產生的多重影響[11]。有學者指出,非法深度偽造遲早會導致一系列令人不安的惡意使用[12]。確實,非法AI換臉帶來的憂慮尤甚,有些問題甚至令人毛骨悚然。然而,就現有文獻來看,聚焦于AI換臉問題的研究要少一些。不過,人們對于非法AI換臉問題的社會共識大體形成:AI換臉不僅具有極高的欺騙性,也帶來個人信息安全與肖像權的侵害、視覺失真與新聞失實等一系列社會風險[13]。從制度領域看,2022年11月,國家互聯網信息辦公室、工業和信息化部、公安部聯合制定《互聯網信息服務深度合成管理規定》,自2023年1月10日起施行。有國外評論指出,中國對深度偽造的監管領先于歐洲和美國[14]。從農業社會、工業社會一直到數字社會,臉一直是治理工具;在當下,AI換臉技術已經成熟且容易普及,放任非法AI換臉等深度偽造流行將對社會、國家乃至全球秩序的建構產生破壞性影響。所以,公共管理領域應提升對非法AI換臉引發的社會治理問題的關注度。

與既往研究不同的是,本文基于“臉”這一治理場域的發展歷程,把非法AI換臉作為重要治理議題,將“刺臉”“刷臉”和“換臉”問題置于社會治理的歷史發展邏輯中來透視非法AI換臉問題。本文主要討論兩方面的問題:“基于臉的治理”和“對于臉的治理”,前者討論不同歷史時期基于臉的治理的過程及其局限,后者討論非法AI換臉帶來的社會混亂及禁止非法AI換臉的緣由。本文具體探討了三個方面的問題:一是從歷史治理視角解讀臉的社會化、市場化和數字化發展趨勢及其局限;二是剖析農業社會的“刺臉”統治和數字社會的“刷臉”治理,以此為基礎,界定“基于臉的治理”的邊界;三是探究禁止非法AI換臉的四重治理價值。本文可以為生成式人工智能、通用人工智能的可持續發展提供一些理論借鑒。

2 歷史視野中臉的社會狀態及其局限

臉具有裸露權,是具有反饋性、情感性、可識別性的交互工具;臉亦是人們相互凝視和交換信息的重要場域,更是社會交往不可或缺的界面。從歷史視野中審視可知,臉的社會化、市場化和數字化是臉的三種社會狀態,以此為線索,能更清晰地闡述“基于臉的治理”。

2.1 臉的社會化及其治理局限

臉是情感的表現場域,人無法逃避漂浮不定的情感和日益滄桑的臉的雙重磨礪。飄浮不定的情感讓人類享受愛與情之美卻又飽受相思之苦與情緒之累,依賴情感生活者經常備受折磨,但任何人都無法逃避歲月對臉無情的摧殘(2)在抖音等平臺中,變臉軟件可以讓人看到自己從小到老過程中臉的變化,每個人都可以對比年輕時的青春活力與年老時的衰弱無奈,這種快速、直接的對比讓每個人都心驚肉跳。。從社會視角看,作為社會界面、裸露且展現情感的臉不僅具有可識別性,更加重要的是被賦予了社會性。阿甘本指出:天主教傳統把“衣服”稱為人類在天堂中得到的恩典之禮物,這一事實具有非常重要的意味。人只有通過外在于他的榮耀之衣才能得到說明,后者就和任何衣服一樣[8]17。遮體、保暖并呈現美的服飾是人類文明的標志之一;這一文明行為讓臉成為裸露、特殊、特色的部分而促使臉成為社會治理功能發生的場域。經過錘煉、有城府的臉可以不動聲色,但作為社會交往不可或缺的界面,個體的臉都蘊含著熱情、冷漠、羨慕、慈愛、麻木、僵硬、恐懼、憂心、開懷與興奮等各類情感,個體行為的社會性或多或少都要在臉這一裸露的界面中體現。在社會交往中,臉是個體向社會擴散的符號,不斷呈現出個體的情感狀態、生存狀態和交往狀態。在社會交往中,臉更是連接他者、社會和國家的界面,這種逐漸擴大的社會化提升了臉的治理價值。雖然,作為社會交往界面的臉被賦予了社會治理功能,但也存在明顯局限。

其一,與作為人造物的服飾相比,臉的社會治理功能存在明顯局限。豐富多彩的衣服作為人造物可改變人的形象但改變不了人的臉;可識別性致使臉具有自然差異,但僅僅依靠臉難以實質性地區分社會個體。在社會秩序建構過程中,社會地位、社會身份以及職業主要依賴服飾來區分,眾多王朝對衣冠配飾都有明確規定——無論國王還是大臣、貴族還是貧民,在衣冠、配飾和武器方面存在重要區分。在我國古代,象刑是最早的恥辱刑,是一種讓罪犯穿上特殊服飾以示懲罰的象征性刑罰?！渡袝贰吨芏Y》以及荀子的《正論》對象刑都有過記載[15]。在現代社會,平等成為公共產品,但在軍、檢、法等行使公權力的特殊職業中,“制服”還是必需品,以此來象征這些職業所具有的威嚴。與之相反,囚犯“制服”包含了懲罰、區分、隔離、不認同等復雜治理意涵?？梢?服飾是區分職業群體的視覺之物亦或服從標志,然而不借助特殊技術臉難以成為治理工具。

其二,“面具”的使用,隔斷了臉的社會化與行動主體的聯系,削弱了臉的社會治理功能。臉是社會化的,既是責任又是權利,更是歷史寫照:黑奴解放的笑臉、法國大革命者的激情之臉、戰場上將軍和士兵充滿生死情感的臉、明星品牌般的臉、卑微者被忽視的臉等都隱藏、夾雜了社會情感或社會責任。在更多時候,臉內在地拒絕社會性,于是人們發明了面具。實體的面具是臉的物化,是掩飾工具和媒介;此外,每個人還有一個情感的“面具”。面具的出現表達了對臉的可識別性的不滿,是現實世界“變臉”的方式。貝爾廷指出:“臉不僅天生適于配戴面具,而且天生適于充當面具?！盵1]25人們戴上面具的目的在于娛樂、演戲、曖昧或隱藏身份、保護隱私、藏匿情感,但面具隔斷了臉與身體的聯系,以“換臉”方式讓臉失去了社會性。在社會生活中,不只是演員通過面具或化妝“變臉”,每個人都或多或少地戴著“面具”。面具使臉和身體不再一體化,“變臉”與“換臉”都有混淆他者、分裂行動的危險,暗含著破壞社會秩序的可能。

2.2 臉的市場化及其肖像權問題

臉部政治與廣告美學使臉政治化和市場化[1]39。廣義的臉部政治包含了統治、管理、治理的指向。在農業社會,血緣、身份與臉之間具有直接因果關系。通過基于血緣的臉來建構身份秩序,是一種統治方式,王公貴族因為血統高貴出生后就獲得了一張擁有統治權且受尊重的臉,也獲得了政治特權,而出身底層的百姓被置于政治秩序的底層。在傳統政治中,“百姓”概念蘊含了屈于“一姓”統治的意涵,本質上,臉的政治化是為了維護社會秩序、建構政治秩序與階級統治。隨著市場經濟的發展,臉的市場化逐漸形成。臉的市場化是臉的物化過程,意指臉融入市場成為特殊商品,使其經濟價值逐漸得以釋放、得以凸顯。19世紀以來,現代廣告業的發展使個人的名譽、肖像、姓名等人格權的經濟價值逐漸凸顯,可以大量進行商業化利用,并隨著電視、報紙等媒體的宣傳而擴大了知名度,獲得經濟效益[16]。肖像權是聲光技術發展及照相機和攝像機逐漸普及后的產物,這類技術讓臉得以留存、進而重復利用。為了促進臉的市場化,19世紀中葉,肖像權就已經萌芽了,德國、美國、日本等國家開始為肖像權立法[17]。肖像權的設立為臉的市場化提供了保障。

在社會意義上,肖像是對人的必死性的抵抗。繪畫、攝影技術的普及讓臉得以保存為可持久物,從而將死者和生者聯系起來、相互慰藉。肖像實現了死者與生者面對面的、儀式性的交流,增強了人類的精神力量。在家庭、家族乃至國家治理中,肖像及其雕塑都有重要社會價值。肖像權使臉的社會屬性得以張揚、臉的公共屬性乃至政治屬性都因此變得活躍。在工業時代,臉傳遞著各種事件的激情,在政治選舉、游行示威、個人宣誓、商品電視廣告等社會行為中,臉的角色繁多、任務繁重,明星等公眾人物都因臉的市場化產生了價值。數字社會來臨后,為了促進臉的市場化,互聯網上對個人形象的商業利用屢見不鮮,無論是在電商平臺上銷售印有明星肖像的紀念品,還是利用社交網絡上的“網紅”或者“意見領袖”推銷商品,抑或通過明星照片來“引流”都十分普遍[18]。

2.3 臉的數字化及其治理問題

進入數字社會后,臉的數字化進程得以開啟,平臺和流量成為數字權力的核心要素,臉的數字化引發的問題也隨之而來。當然,臉的數字化與人的數字化是相連的。簡單而言,人的數字化有兩個類型,即整體數字化和局部數字化,前者是將人整體數字化,后者則是將人的器官數字化。人的數字化在現實世界和虛擬世界都可以展開。在現實世界,人的整體數字化表現為各種類型的人型機器人出現;人的局部數字化則針對手臂等助力器官而言,機械手臂等是人的局部數字化形態。在虛擬世界中,自20世紀60年代以來,數字人技術開始發展,至今有了幾十年的發展歷程[19]。隨著虛擬世界不斷迭代更新,作為人的數字化的新形式,虛擬數字人活躍在元宇宙等虛實相容的世界中。人的數字化是數字時代的重要問題之一。當下的數字化理論主要關注產業數字化和數字產業化,卻忽略了數字化轉型中的另一個特殊對象:人的數字化。

在數字社會,隨著人工智能的發展,屬于人的局部數字化的臉的數字化開始活躍,其表現形態主要有兩種,即“刷臉”與“換臉”?！八⒛槨笔侵溉四樧R別治理技術。隨著人工智能技術的發展,尤其是因特殊原因導致人和人之間盡量避免接觸,“刷臉”變成熱詞,臉也再次成為社會熱點,可識別的臉成為出入各種場所的“通行證”。在日常生活中,作為身份認證方式,“刷臉”治理的場景不斷擴大甚至泛化,進而在不同場所流行起來?！八⒛槨贝蛴螒?、寄快遞、住店、進小區、入景區;“刷臉”坐高鐵、“刷臉”解鎖、辦理公務、各類支付,甚至用“刷臉”進行考勤等?？梢哉f,“刷臉”治理的場景在不斷泛化,也隨之產生了不同類型的問題。

“換臉”是深度偽造技術的典型形式。目前,AI換臉技術已發展成熟并逐漸普及。從社交平臺獲得照片、視頻和其他文檔,“一鍵換臉”就能生成與某個人“真實地”聊天的“好朋友”。AI換臉是人的局部數字化的“反叛”形式,具有諸多反社會功能。如果說深度偽造徹底埋葬了人類社會歷久積累的眼見為實的判斷原則,那么非法AI換臉則尤其為甚。例如,非法AI換臉技術利用“眼見為實”的判斷習慣或認知偏見詐騙親戚朋友,或生成不雅視頻在網絡平臺傳播,損害他人聲譽等。AI換臉帶來的侵害可以滲透到政治、經濟、文化和社會生活之中,臉的數字化伴隨著諸多社會治理問題。

3 “基于臉的治理”及其邊界

自古以來,我國就重視臉對社會秩序建構的價值,臉亦是不可或缺的治理界面;在統治、管理和治理意義上“基于臉的治理”并不鮮見。從行動視角去考察臉作為治理工具的歷史過程,可以發現,“刺臉”和“刷臉”是“基于臉的治理”的兩種主要形式。

3.1 刺臉

于一般人而言,只有熟人的臉能被識別,陌生人的臉很難識別。從原理上看,只有通過技術賦能,臉才能成為治理場域。在不同時期,基于臉的治理都是因為賦予了臉以識別和認同功能,增強了臉的可識別性和顯現性。在識別技術不多的農業社會,如何將那些既要處罰又要教育的違法亂紀人員區分開來,是社會秩序建構中的重要問題。在我國農業社會,基于臉的治理體現為兩類刑罰,即墨刑和劓刑,前者的刺字部位在額頭,后者就是割掉鼻子[15]。這兩種刑罰都是將臉作為治理場域,讓違法者遭受一輩子的精神痛苦,故而有“黥刺一膺,終身僇辱”的話語[9]4。在此,王朝統治者將臉、刀和文字融合成為可識別的刑罰。

從統治的角度看,“刺臉”是通過對臉的進一步標識,進而增強對特殊主體的可識別性。劓刑非常殘酷,在我國歷史上實施的時間不長,但“刺臉”是我國王朝統治中的常用刑法,各王朝的法律大都使用了“刺臉”這一恥辱刑[15]。清代沈家本的“刺字集序”,對刺字刑專門做了歸納總結。他指出:“墨一名黥”,“黥,墨也。在面也?！盵9]196從統治功能而言,刺臉是一種社會信號。在臉上刺字,讓他者以此知道“刺臉”的人的過去,可以被提防、遠離、回避或者隔離,使之在社會交往中淪為“異類”。在宋代,刺字成為軍人和罪犯共有的體貌特征。軍人和罪犯在刺字內容和部位上雖有差異,卻都被社會主流群體視為賤民[20]。在清代,對于“刺臉”有嚴格規定?！捌烊舜瘫?奴仆刺面,民犯徒罪以上刺面,杖罪以下刺臂。再犯者亦刺面,刺面在鬢之下,頰之上,刺臂在腕之上,肘之下?！盵21]隨著現代社會的進步,“刺臉”這種基于臉的治理因為冒犯人格而被廢除,這是巨大的社會進步。

3.2 刷臉

“刷臉”是人臉識別的俗稱,是使用人臉數據進行比對識別,以實現身份認證、解鎖和支付等功能。在“刷臉”治理中,每個人的臉成為社會治理的“通用標準”。根據《信息安全技術 人臉識別數據安全要求(GB/T 41819—2022)》的規定:人臉識別數據主要用于識別自然人身份,典型應用包括機場、火車站使用人臉識別數據進行人證比對,移動智能終端、應用程序使用人臉識別數據實現解鎖、支付等功能,公園、居民小區等使用人臉識別數據核對人員身份。從技術層面看,之所以說“刷臉”技術具有重要的治理功能,是因為“刷臉”治理技術可以提升社會治理效能。比如,醫?！八⒛槨敝Ц冻蔀槔^醫保電子憑證、移動支付后看病就醫的又一“快捷通道”,有效解決了病人高峰期“排隊時間長”的問題,幫助患者省去記憶密碼和輸入密碼的麻煩,真正實現了人證(卡)合一。人證(卡)合一減少了各類作假行為,達到了即時認證和即時治理的效果。

在數字社會,由于大數據、人工智能等技術的賦能,“刷臉”成為公共領域不可或缺的治理工具,可以視為現代社會基于臉的治理的新方式。目前,人臉識別技術已被廣泛應用于社會生活,大到智慧城市的建設,小到手機等APP應用的登錄解鎖,在金融、電商、安保、娛樂等諸多領域都發揮著巨大作用[22]?！八⒛槨敝卫碛兴茉焐鐣a模式和運行方式的價值,是技術治理的一部分,可以在身份識別、預約取號、提升社會治理效能和應對重大公共安全危機等方面發揮作用[23]?！八⒛槨币廊皇腔谀樀闹卫?在公私領域都得以使用的“刷臉”治理既提升了社會治理效能,又引發了社會治理問題。

3.3 “基于臉的治理”的問題

從一般意義上看,在農業社會,臉既是身份又是面子。從統治角度看,臉又是王權可支配的“公共空間”,是建構社會等級秩序的標識和統治工具。當然,即使在個體權利不被重視的王朝時代,臉作為自然之物或父母所賜之物,只有基于王權才可以懲罰性地進行“刺臉”,也就是說,只有王權可以讓臉去承載特定個體的“罪與罰”。在我國歷史上的王朝時期,“刺臉”只是官府依法的行動,僅僅限于王朝統治權力的作為。在任何時候,都不能非法損害他者的臉,更不能利用臉來開展各類懲罰性的管理。農業社會臉的社會化是基于王權的社會化,與之相隨的是一種直接的暴力統治。工業社會臉的社會化主要體現為商業價值,臉可以被各類主體基于各種利益訴求來應用。臉的商品屬性越來越擴大,臉的經濟屬性不斷凸顯。與之同時,臉的市場化、商品化也引發了肖像權問題。由于相關法律的保護,個體的臉的權利得到了尊重,但侵犯肖像權的事情仍在不斷發生。

隨著人工智能技術應用場景的不斷開拓,臉的數字化增強了人臉的可識別性。數字時代的臉不僅具有道德價值、經濟價值,還由于技術賦能不斷提升了治理價值,但“刷臉”治理也產生了一些負面效應。一是“刷臉”技術帶來了治理主體的泛化。由于“刷臉”技術泛化,基于臉的治理不再限于政府這一主體,“刷臉”不僅僅是政府的治理工具,企業、社會組織甚至社區都利用“刷臉”來進行治理。二是“刷臉”治理導致人臉信息與人臉主體的分離。在“刷臉”過程中,“刷臉”者的姓名、性別、年齡、聯系方式等信息都被一并收集、儲存?！八⒛槨逼鸬缴矸菡J證功能,能夠開啟一個通向賽博空間的賬戶,延續了人臉作為通用標識符的社會功能?！八⒛槨币馕吨J證權力過程從分布式轉向集中化,認證信息與載體的分離[24]。然而,需要知道的是,個體的臉已經在被別人“控制”和使用。三是一些企業利用“刷臉”牟利。在2021年“3·15”晚會上,央視曝光了多家企業未經告知私自通過監控攝像頭搜集消費者人臉信息,涉事企業包含多家知名企業[25]?！八⒛槨敝卫頂U大化提升了社會危害性。

“刷臉”治理泛化帶來了“刷臉”治理問題,規范人臉識別成為媒體、學界關注的重要問題。2019年,郭兵訴杭州野生動物世界有限公司一案,成為全國第一起涉及人臉識別技術使用糾紛的民事案件。批評者指出,判決所傳遞的信息并不利于加強對個人信息的保護[26]。針對人臉這一生物信息的獨特性、直接識別性、不可更改性、易采集性、不可匿名性等特征,法學領域的學者希望厘定人臉識別技術應有的法律底線和法律規制的要點[10]。不過,“刷臉”治理對權力邊界的突破,遠不如非法AI換臉的程度大。

4 禁止非法AI換臉的緣由

非法AI換臉是指為達到非法目的而將現實生活中A主體的臉更換給B主體,在虛擬世界中B主體基于A主體的身份展開行動。深度偽造特別是非法AI換臉帶來了多宗罪,包括傳播假新聞、影響選舉、在法庭上引入高度逼真的假證據、制作假色情電影,等等。這些“罪行”對社會關系、社會秩序、民主和法治產生了重大影響,之所以提出禁止非法AI換臉,是因為深度偽造已經沖擊人類感知的極限[27],引發了不同類型群體的深度擔憂。禁止非法AI換臉可以產生多重治理價值。

4.1 非法AI換臉導致行動者主體性喪失

嫁接是人工繁殖植物的方法,是把一株植物的枝或芽嵌入另一株植物的莖或根上,使接在一起的兩個部分發育成一個完整植株。AI換臉是一種“數字嫁接”,是用人臉識別和對抗性生成技術將一個人的臉“嫁接”到另一個人身體上,從而實現不同人之間的換臉。隨著AI換臉一鍵生成與網絡化,AI換臉形成了比較豐富的類型。根據應用目的,可將AI換臉分為娛樂類、色情類和政治類。其中,娛樂類是出于娛樂、游戲的傳播意向;色情類是將他人臉部圖像嫁接至扮演色情淫穢音視頻的角色身上;政治類是出于表達政治訴求或制造政治輿論沖突的動機,將政治人物的臉部圖像嫁接或處理、生成不正確內容的音視頻[13]。

作為娛樂型的AI換臉有助于平凡者將自己的臉更換到喜劇人物、公眾人物甚至杰出人物的身上,這一類型的AI換臉具有角色狂歡、自我表演并力圖開啟走向虛擬世界的主體歷程,力圖在虛擬的邊界中建立自我[13]。根據筆者的調查,就娛樂類AI換臉而言,大多數人可以接受的是私下小范圍的娛樂性換臉,即使如此,絕大多數人仍然難以接受性別變化的AI換臉,即將臉換到異性身體上。當然,無論哪種類型的換臉,行動者都因此被別人支配而喪失了虛擬世界的數字主體性。AI換臉猶如戴面具一樣,不但割裂了身體與臉的聯系,而且可能混亂社會秩序。在現實世界中,戴面具的人讓他者無法判斷臉、身體和行為之間的一致性。在虛擬世界中,非法AI換臉混淆人臉,導致人們無法把控臉和身體的聯系,由于自我的行動已經被他者控制、進而混亂了人的身份,一旦發生違法行為,就會引發社會秩序的混亂。如果將現實生活中行動者A的臉更換給B主體,A主體就無法控制其在虛擬世界中的行動,這樣一來,A行動者的主體性就喪失了。隨著生成式人工智能、虛擬人技術和元宇宙的不斷發展,非法AI“換臉”帶來的問題將越來越多。

4.2 非法AI換臉帶來不可遏制的惡

“刷臉”是人機合作的治理行為,“刷臉”治理有強制性的,也有非強制性的,比較而言,前者更有可能產生違法問題。之所以提出要禁止非法AI換臉是因為它可能產生不可遏制的惡。

一是利用AI非法換臉形成視覺壓迫,破壞生活原則。一些非法AI換臉者從社交平臺獲得個人的照片、視頻和其他文檔,利用技術生成與真人一樣的視頻,然后以“眼見為實”的方式讓一些人上當受騙;非法換臉者操控視覺世界,試圖徹底埋葬“眼見為實,耳聽為虛”的原則,形成了巨大的視覺壓迫,生活世界可能因此變得“魔幻”。非法AI換臉帶給人們深刻的教訓:你看到的是我想讓你看到的,你聽到的是我想讓你聽到的,從而徹底擊垮了人們的判斷能力,致使人們對其判斷能力失去自信、變得怯弱,轉而尋求幫助。非法AI換臉等深度偽造技術對全球商業、政治和司法系統都將構成威脅,篡改證據成為深度偽造在司法系統中構成的主要威脅之一;只有提高檢測技術、制定有效的刑事解決方案才能提高證據的可信度。

二是非法AI換臉傳播色情,破壞社會道德?；诜欠康闹圃旌蛡鞑ド橐曨l是非法AI換臉的主要目標?；蛘哒f,這是非法AI換臉者利用人性弱點試圖制造新的“色情陷阱”。2023年5月,福建、浙江、蘇州等地的不法分子用AI換臉發送個人不雅照、以換臉視頻聊天騙取信任等方式實施詐騙,涉及金額巨大[28]。2023年6月,虞某某從互聯網公共空間非法獲取眾多人臉信息,利用AI換臉等深度合成技術非法處理、制作淫穢視頻后在超過2 000人的社交軟件群組傳播,蕭山區檢察院對此進行了嚴格處理[29]。多年來,美國和英國的立法機構一直在尋求網絡騷擾的解決方案,許多司法管轄區將“復仇色情”定為刑事犯罪。由于非法AI換臉制造的色情視頻量大,對社會道德產生的沖擊也很大。

三是非法AI換臉破壞政治秩序,導致社會混亂。在政治層面,人們擔心的是,深度偽造特別是AI換臉帶來的深度虛假信息會引發社會混亂、曲解政治觀點和政治事件,進而會威脅國家安全、選舉程序及政治家的聲譽[30]。深度偽造技術存在侵害民族國家安全的隱患,在一定程度上引發公眾對于國家民主的質疑,引發官員焦慮;它還以一種諷刺方式突出國家安全精英的缺陷[31]。特別需要注意的是,由于深度偽造是新興人工智能技術,沒有專門的法律對其規制,在應用過程中極易出現侵犯公民合法權益、威脅社會公共安全、破壞國家秩序甚至國際秩序等問題[32]。如果任意讓AI非法換臉普及,那么未來真正的問題不是個別的深度造假或廉價造假,而是虛假信息生態系統的整體形成[33]?？梢哉f,非法AI換臉的普及可能破壞整個社會政治秩序。2019年9月,德克薩斯成為第一個將意圖傷害政治候選人或影響選舉的深度假視頻定為犯罪的州[34]。

四是削弱信用根基,形成“說謊者紅利”。在現實生活中,非法AI換臉的“成功”詐騙,沖擊了親情和友情,削弱了社會信用根基。對個人而言,非法AI換臉侵犯肖像權、名譽權、身份、尊嚴與情感,是對個人信用的徹底破壞。對社會、政府乃至國家而言,非法AI換臉損害企業利益、扭曲政策辯論、操縱選舉、侵蝕信任、可能加劇社會分裂、損害國家安全以及破壞國際關系。所以,以人臉為對象造假,不僅會導致泄露個人身份信息,而且帶來社會失信,進而形成政治、經濟、社會、文化和倫理等方面的信用危機。特別需要指出的是,深度造假使說謊者更容易逃避問責,形成“說謊者紅利”[12]。

雖然深度合成技術可應用到影視、醫療、教育、媒體和電子商務等領域,具有多重商業和社會價值[32],但非法AI換臉一出生時就帶著原罪,包括侵害個人肖像權、嵌入色情視頻、考驗人性甚至擾亂社會秩序等。非法AI換臉技術激活了一些社會主體的欲望,被個人、利益集團和不法分子利用并成為做惡工具,這需要加大力度打擊。但基于“工具理性”的、針對深度偽造技術的控制,無法從源頭解決技術濫用問題。只有重塑社會信任關系才能有效緩解虛假信息對公眾信念的影響[35]。那么如何才能重塑人工智能時代的社會信用關系呢?禁止非法AI換臉是一個重要且直接的路徑。

4.3 非法AI換臉帶來系統性的監管沖擊

在人工智能時代,AI換臉問題已經引起了相關部門的重視。在我國,一些法律法規為監管非法AI換臉提供了依據?！秱€人信息保護法》將生物識別、宗教信仰、特定身份、醫療健康、金融賬戶、行蹤軌跡等信息,以及不滿14周歲未成年人的個人信息,歸為敏感個人信息。臉作為敏感信息適用《個人信息保護法》?！痘ヂ摼W信息服務深度合成管理規定》要求,深度合成服務提供者提供人臉生成、人臉替換、人臉操控、姿態操控等人物圖像、視頻生成或者顯著改變個人身份特征的編輯服務,可能導致公眾混淆或者誤認的,應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識,向公眾提示深度合成情況[2]。

盡管如此,理論界還是存在諸多擔憂。一方面,傳統的監管體系很難有效監管深度偽造技術,也無法有效保障公民個人信息安全,而且在信息時代,僅僅依靠行政部門顯然無法實現全面監管[32];另一方面,深度偽造創建音視頻的速度超過了人工智能檢測此類視頻的能力[36]。對于AI換臉帶來的社會問題,權威媒體大聲呼吁:人臉怎能“想換就換”?有關部門對那些未經肖像權人同意的“換臉”、詐騙行為,應該重拳出擊、嚴厲打擊[37]。禁止非法AI換臉獲得了媒體的支持。在我國,2023年7月,《生成式人工智能服務管理暫行辦法》頒布并于2023年8月15日起施行。該辦法指出,國家堅持發展和安全并重、促進創新和依法治理相結合的原則,采取有效措施鼓勵生成式人工智能創新發展,對生成式人工智能服務實行包容審慎和分級分類監管;同時要求提供和使用生成式人工智能服務,應當遵守法律、行政法規,尊重社會公德和倫理道德。筆者認為,對生成式人工智能服務采取包容審慎和分級分類的監管策略非常必要,但嚴格依法監管非法AI換臉同樣重要。由于非法AI換臉的應用范圍大,特別是它的一些負面應用迎合了部分人的不良需求,所以嚴厲禁止非法AI換臉十分必要。

4.4 非法AI換臉損害了人工智能的聲譽

對于何為智能,人們的認識是不一致的。在16世紀,對智能的理解就是交換信件或者信號。托馬斯·埃利奧特寫道:“現在Intelligence作為一個文雅的說法,用來表示通過相互交換信件或者口信達成協議或者約定?！盵38]引子41956年,麥卡錫將人工智能定義為制造智能機器的科學與工程;或者將AI解釋為Automation of Intelligence[39]。何懷宏認為,人工智能就是人造的機器通過不斷學習、自我改良,尋求更優良的算法來處理和解決認知與控制的問題[40]。隨著ChatGPT等生成式人工智能的普及,人們對強人工智能的認識分歧正在加大?；艚?、馬斯克等人都認為人工智能的危險非常大,但更多的人認為人工智能風險可控。其實,人們是否信任人工智能取決于它們所展示的社會功能,而不僅是人們對智能以及人工智能的定義。

很多人習慣地認為,所有的技術都是一把“雙刃劍”,但我們不能認同技術是“雙刃劍”的辯證式提法。在應用過程中,技術之所以體現出正反兩方面的功能,是不同的人使用的結果。本質上,與其說技術是一把“雙刃劍”,還不如說人性有善惡兩面,將技術視為“雙刃劍”是將人的惡性轉嫁到技術身上的“狡計”,技術的“惡性”主要是因為人性的惡在技術使用過程中得到了張揚。如果不嚴厲禁止非法AI換臉,就很難阻止AI換臉技術與人性的惡的高度結合,依托被抓取的人臉信息和AI換臉技術,敲詐勒索、電信網絡詐騙、網絡暴力等違法犯罪活動更易發生[41]。非法AI換臉所帶來的危害超出了人類的理性判斷、觀察與預料,非法AI換臉的危害既不可控又不透明,還會引發人們的不安——現在,一些人誤以為是人工智能搶走了他們的工作、騙空了他們的口袋、破壞了他們和家人的關系、損害了無辜人的聲譽。如果非法AI換臉全面“搞壞”了全球政治、經濟、社會和文化的基礎,那么必然影響人工智能技術的社會信譽。因此,禁止非法AI換臉理所當然。

5 結論與展望

人類已經走進數智時代,數字化、智能化既是技術創新的方向,又是人類社會發展的方向。于我國而言,數字化、智能化會持續較長時間并且日益成為人們生活的重心。在數智技術不斷創新發展并與社會生產生活日益融合的過程中,人的數字化問題非常值得重視。隨著深度合成社會的來臨,深度偽造技術對個人和社會所產生的沖擊不斷增大,特別是AI換臉的非法使用不斷加重社會治理的責任。本文的直接目的是回應非法AI換臉引發的社會治理問題,希望公共管理領域加大對人的數字化問題、臉與公共秩序建構問題的關注力度。本文探討的是“基于臉的治理”和“對于臉的治理”兩方面的問題。首先,從歷史視角解讀了臉的社會化、市場化和數字化三種社會發展形態及其局限;其次,對“刺臉”和“刷臉”進行了描述并界定了其邊界;最后,從社會治理價值方面提出了禁止非法AI換臉的四重緣由。本文的創新性在于:從公共管理的視角,基于臉的治理歷史及其邊界考察了刺臉、刷臉與換臉問題,基本觀點有以下三個。其一,在人工智能時代,數字化和智能化是一股巨大的轉型力量;產業數字化和數字產業化是數字化轉型中的重要領域,人的數字化問題同樣需要引起理論界和實踐界的關注[42]。其二,在我國社會發展過程中,“刺臉”與“刷臉”都曾被社會質疑或反對;我國有重視臉的傳統文化,失去面子是對一個人尊嚴的最大損害,基于臉可以美化但不可以更換的樸素觀念,禁止非法AI換臉是一種文化要求。其三,非法AI換臉導致行動者數字主體性的喪失,帶來了道德層面、監管層面和社會信用層面的問題,禁止非法AI換臉有利于保護人工智能的信譽。

對于AI換臉問題,筆者的政策建議是:在社會生活領域,作為娛樂工具的AI換臉僅限于私人空間使用;在特定的經濟文化領域,AI換臉需要依法有序使用;在政治、經濟或者社會領域,非法AI換臉必須禁止。隨著生成式人工智能、通用人工智能技術的不斷發展,人的數字化問題必然隨之凸顯。雖然包容審慎依然是監管新經濟業態和新技術的基本原則,但在現實世界,如何監管智能機器人在不同社會領域中的應用是非常重要的問題;在虛擬世界,特別是在虛實融合的元宇宙時代來臨后,不同形態的數字人及其在多場景中的應用將產生大量的社會治理問題。在公共管理領域,研究者只有不斷加大對人的數字化問題的研究并提出系統性的監管理論,才能為人工智能技術應用創新、數字經濟高質量發展提供理論支持。