真人驅動型虛擬主播直播詐騙的犯罪及其防控

□楊懿玲

(上海政法學院,上海 青浦區 201701)

近年來,我國網絡直播門戶及用戶規?？焖僭鲩L,開啟了全新網絡社交格局。截至2023年6月,我國網絡直播用戶規模達7.65億,相比2022年12月增長474萬人,增長率為2.0%。[1]數據顯示網絡直播受眾數量呈快速上升之勢,加之2022年中銀國際證券有限公司發布《虛擬人行業深度研究:乘元宇宙之風,虛擬人行業發展加速》(以下簡稱《虛擬人行業深度研究》)指出,虛擬主播的市場規模在2030年預計高達1747.2億元。由此可見,虛擬主播將成為未來新型傳播媒介主體,通過直播間與現實世界互動,模糊虛擬與現實之間的邊界。在“web3.0 時代的網絡是虛擬的社會空間,也是犯罪空間”,[2]可將直播平臺視作超現實的虛擬社區,虛擬主播屬于社區中的數字化主體,并可能在社區中實施犯罪行為。然而,隨著虛擬主播行業在軟硬件以及內容產出方面呈現出爆發式增長,隱藏在直播面孔背后的犯罪風險亦不容小覷。因為虛擬直播技術一旦被濫用,同樣會淪為網絡詐騙犯罪的助推器。

一、真人驅動型虛擬主播直播詐騙的特點

傳統的直播詐騙犯罪,根據行為的不同可分為網絡直播誘導打賞詐騙、網絡直播炸金花詐騙、網絡交友類詐騙等類型。虛擬主播根據驅動來源的不同可以分為真人驅動型虛擬主播(1)真人驅動型虛擬主播,是指真人的動作、表情等需要真人通過動捕設備或者面捕設備驅動2D/3D數字形象的虛擬數字人,其中操控虛擬形象的真人被稱之為“中之人”。例如在抖音平臺中的“金桔2049”虛擬主播。和人工智能驅動型虛擬主播(2)人工智能驅動型虛擬主播是指通過多模態技術和深度學習模型的預算結果實時或離線驅動虛擬人的語音表達、面部表情、具體動作的虛擬數字人。例如AI虛擬主播“小小撒”“康曉輝”、新華社的3D版AI合成主播“新小微”。完美日記、歐萊雅、花西子、德芙、白象等品牌,均有專屬的人工智能型虛擬主播為其帶貨。。本文所討論的真人驅動型虛擬主播直播詐騙,是指真人驅動型虛擬主播以虛假承諾、虛假抽獎的形式,誘導直播間觀眾打賞的行為。如2022年發生了虛擬主播誘導觀眾為其打賞“上艦”(3)艦長是虛擬主播的粉絲團成員,上艦是指直播間觀眾給虛擬主播打賞一定的人民幣得以加入主播粉絲團的行為。事件。[3]在該事件中,主播聲明在該場直播成為“艦長”均可獲得周大福小金花,并抽取現場一位幸運“艦長”贈送浙江豪華大別墅一棟。當晚直播打賞隨即超過三百萬元,但該主播由于未兌現其諾言,使觀眾造成了巨大的經濟損失。由此可見,真人驅動型虛擬主播直播詐騙犯罪有以下的特點:

(一)社會危害性大

真人驅動型的虛擬主播實施的行為依靠“中之人”的主觀意識掌控,“中之人”憑借活潑的性格、優秀的才藝和擬人的形象收獲上百萬粉絲,人氣甚至超過部分網紅明星,影響力可見一斑。人工智能驅動型虛擬主播,該類虛擬主播直播帶貨時“可以通過機器學習和智能算法,根據觀眾的喜好和購買行為,根據個性化的推薦和推銷,提高銷售轉化率?！盵4]但在當前技術背景下,“算法驅動型數字人在實施具體行為時受到人類設計和編制算法的制約,其所實施的行為完全符合人類設計和編制算法的目的?！盵5]268因此,由算法控制的虛擬主播不具有獨立的意志,不會自主生成非法占有的目的,社會危害性較小。相比之下由真人操控的虛擬主播擁有“中之人”的主觀意志,不僅具備主觀上的非法目的,其客觀上也能夠實施詐騙行為,因此具備的危害性較大。相較傳統的直播詐騙而言,真人驅動型虛擬主播直播詐騙時不僅可以利用虛擬技術、網絡“黑產”技術逃避犯罪偵查,現有法律難以規制適用,因而具備更大的社會危害性。

(二)具備刑事責任主體資格

目前學界對虛擬主播的法律地位關注較多,多數人認為真人驅動型虛擬主播的使用者具備責任主體資格。如有學者通過論述間接正犯的特點,對比明確真人驅動型虛擬主播的刑事責任歸屬問題。認為真人驅動型虛擬主播的意識和意志完全來源于驅動者,“直接追究物理空間中相應自然人的刑事責任”即可。[5]270有學者認為“現實型數字人是自然人在元宇宙的映射,由現實所對應的人承擔權利與義務?！盵6]由虛擬增強技術創造的現實型數字人指的就是真人驅動型虛擬主播,而“現實所對應的人”指的是“中之人”。本文贊成以上觀點,真人驅動型虛擬主播顧名思義就是需要真人通過動作捕捉設備操縱的虛擬主播[7],具備辨認能力、控制能力的是背后的真人操縱者,其實施的直播詐騙行為由中之人承擔刑事責任。

(三)犯罪手段隱蔽性強

第一,犯罪主體的不確定性。使用變聲技術的虛擬直播間與眾普遍認為的“所見所聞即為真相”存在顛覆性的認知。因為觀眾“所見”為虛擬形象,變聲器技術使“所聞”也存在虛假的可能。在這種情況下,犯罪主體“中之人”與虛擬形象二者的性別是否統一、直播時“中之人”是否被更換,這些行為都難以被觀眾、平臺察覺。第二,犯罪證據難以保存。直播間的音頻、彈幕等實時發送、轉瞬即逝,因此犯罪證據則只能通過截屏或錄屏保存,導致公安機關難以捕捉到證據。

(四)犯罪風險小、收益大

第一,犯罪形式新穎,但規制不力。目前學術界對虛擬主播的法律問題研究并不多,研究成果呈現碎片化,多側重研究人工智能驅動型虛擬主播的民事侵權行為或者是否具備犯罪主體資格。真人驅動型虛擬主播實施直播詐騙行為是新型犯罪模式,但現有法律規制水平滯后。同時,未統一建立直播行業行政監管體系,執法收效甚微。第二,詐騙受害的涉眾性明顯。真人驅動型虛擬主播特殊的受眾群體中是青少年群體,經過研究發現,“虛擬主播的受眾群體以‘Z 世代’的青少年為主”。[8]處于青春期的少年由于同輩壓力、心理變化等原因,渴求真人驅動型虛擬直播這類新型的網絡交流方式。他們通過與虛擬主播的言語互動、打賞等行為獲得認同感、展現自我價值,但這些行為需要得到正確引導?！短摂M人行業深度研究》報告顯示:2020-2021年B站虛擬主播直播打賞營收高速增長,2021年整年保持100%以上的同比增速,2021年12月B站虛擬主播直播打賞收入高達6940萬元。而艾媒咨詢發布的《2023年中國虛擬主播行業研究報告》(以下簡稱《艾媒報告》)顯示:有近90%的受訪者愿意為虛擬主播消費,且有36.7%的受訪者表示未來會增加對虛擬主播的消費意愿。由此可見,絕大多數的受訪者都愿意為其喜愛的虛擬主播直播“買單”。然而,這也意味著一旦虛擬主播被濫用為行騙門戶,則被騙的青少年受眾多、波及范圍廣,且涉案金額較大,其危害后果不容小覷。

二、真人驅動型虛擬主播直播詐騙風險來源分析

根據真人驅動型虛擬主播直播詐騙犯罪的特點以及發展現狀,從虛擬主播所處的網絡環境、虛擬主播自身發展現狀、直播監管部門三方角度分析犯罪風險的來源。

(一)虛擬主播直播成本畸低

第一,畸低的虛擬形象制作成本,反向刺激了犯罪分子的詐騙動機。元創島公司推出的虛擬主播月租套餐僅為599元,用戶只需準備手機與電腦即可開播,還可以享受手動捏臉系統、40多種虛擬形象等服務。[9]由此,花費百元即可獲得一個優質形象的主播,可見犯罪成本低。第二,開播的門檻較低,處于野蠻生長狀態。目前并未要求真人驅動型虛擬主播開播需要經過培訓或者考核,只要用戶有設備即可開播。雖然在2021年廣播影視人才交流中心曾在北京等地開展針對網絡視聽主播的線上培訓,線上考試合格者可獲得合格證書,但該許可證的性質并非資格證書,而是培訓合格的證明書?！毒W絡主播行為規范》第十三條第二款(4)《網絡主播行為規范》第十三條第二款“對于需要較高專業水平(如醫療衛生、財經金融、法律、教育)的直播內容,主播應取得相應執業資質,并向直播平臺進行執業資質報備,直播平臺應對主播進行資質審核及備案?！闭J為只有在涉及較高專業水平直播內容時,才會要求虛擬主播取得相應的執業資質。由此,真人驅動型虛擬主播極低的開通門檻及制作成本,為直播詐騙犯罪污言注入強勁動力。

(二)網絡“黑產”猖獗

試想即使平臺封禁主播賬號,“中之人”仍可通過非法渠道獲得直播賬號,繞過開播前的人臉識別系統后再使用變聲技術偽裝身份,繼續實施直播詐騙行為。這些“黑產”技術都已成熟并滲透在網絡世界中,直播平臺自然難以逃脫?？梢哉f,網絡“黑產”能為真人驅動型虛擬主播直播詐騙犯罪逃避偵查提供重要的技術幫助。

1.惡意注冊賬號的支撐

近年來惡意注冊賬號現象在直播平臺十分猖獗,2020年字節跳動安全中心曾對此類“黑產”開展技術治理行動,在行動中每周攔截黑產作弊帳號的注冊請求超四百萬次。由此可見,此種現象能夠成為虛擬主播詐騙犯罪的來源,一方面是因為“在信息過度泛濫的當下,用戶的稀缺性注意力是各大平臺型媒體爭奪的目標?！盵10]直播平臺允許手機號即可注冊賬號,是惡意注冊賬號現象在平臺盛行的重要原因。另一方面,對詐騙分子而言“為了在網絡空間從事違法犯罪活動,就會對抗網絡身份的實名制,因而出現互聯網賬號的惡意注冊現象”。[11]可見,惡意注冊賬號旨在掩蓋主播真實身份,這就給詐騙主播逃避偵查提供支撐。盡管如此,目前僅有抖音平臺表明要完善虛擬主播的注冊機制,(5)《人工智能生成內容的平臺規范暨行業倡議》指出:“使用虛擬人進行直播,或創建以虛擬人為人設的賬號,必須對相應的虛擬人形象在平臺注冊?！逼渌闹辈テ脚_似乎仍未知完善虛擬主播注冊機制的重要性。

2.“人臉代過”的審查漏洞

所謂“人臉代過”,即可幫助犯罪人繞過人臉識別認證系統的“黑產”技術。比如,2019年,湖南的胡某、王某等人成立“人臉代過”工作室,使用非法獲取的公民個人信息制作用于繞開網絡游戲“地下城與勇士”及其他網絡平臺的人臉識別、解封游戲賬號或平臺賬號的人臉識別視頻。該案非法獲取的個人信息總計四萬多條,涉及金額高達十萬元。(6)廣東省從化市人民法院(2021)粵0117刑初159號判決書。2019年12月16日起,被告人趙愷與楊某某共謀,由楊某某通過“照片活化技術”(7)所謂“照片活化技術”,是指將人臉照片制作成3D動態人臉視頻的技術,該動態人臉視頻可通過實人認證系統。此技術屬于“人臉代過”技術的組成部分。制作動態人臉視頻破解實名認證環節,違規在上海住建委行政服務中心平臺的行業從業人員信息庫中錄入身份信息。(8)上海市徐匯區人民法院(2020)滬0104刑初732號判決書?？梢?“人臉代過”“黑產”仍有較大規模的應用市場,在直播平臺中勢必同樣滲透著“人臉代過”的技術服務。

3.“變聲器”技術的濫用

“變聲器”技術給直播間帶來娛樂效果的同時,還為偽裝主播真實身份提供技術幫助。比如,劉真通過某網絡直播平臺直播加上被害人微信后,虛構自己為武漢傳媒大學的女大學生“邱雨婷”的身份。并使用變聲器變換為女聲,騙被害人的交友信任。后以親人去世、家里欠債等理由,通過微信轉賬、微信紅包等陸續騙取被害人人民幣共計3萬元。(9)浙江省平陽縣人民法院(2019)浙0326刑初966號判決書。在普通直播詐騙中濫用變聲技術就足以為犯罪人帶來極強的身份偽裝,更何況在虛擬主播的直播間濫用變聲技術了,其偽裝的隱蔽性唯有過之而無不及。變聲技術的濫用容易誤導觀眾,極大減少詐騙分子的暴露風險及違法成本。

(三)執法懲戒力度不足

從2018年至2023年,針對網絡直播現象以及虛擬主播的行為規范相關管理部門總共發布了11項規定(見表1)。在這些規定中,管理部門僅在各自的職責領域內宏觀上強調了要落實互聯網直播服務提供者與虛擬主播的責任,但未提供可行的落實政策。[12]如《網絡主播行為規范》第十七條(10)《網絡主播行為規范》第十七條:“對問題性質嚴重、多次出現問題且屢教不改的網絡主播,應當封禁賬號,將相關網絡主播納入“黑名單”或“警示名單”,不允許以更換賬號或更換平臺等形式再度開播?！迸c《網絡直播營銷管理辦法(試行)》第十四條第三款(11)《網絡直播營銷管理辦法(試行)》第十四條第三款:“直播營銷平臺應當建立黑名單制度,將嚴重違法違規的直播營銷人員及因違法失德造成惡劣社會影響的人員列入黑名單,并向有關主管部門報告?！敝卸贾赋鰬獦嫿ㄖ辈テ脚_“黑名單”系統,但在實踐中此規定并未得到有效落實。若沒有可行的落實政策與之同步,那么這些規定都僅限于“紙上談兵”。同時,還體現出這些管理部門內存在治理內容重疊、權責交叉的問題,導致執法懲戒力度不足,使直播平臺怠于履行監管義務。

表1 2018-2023年行政機關針對網絡直播行業與虛擬主播的部分政策及規定

三、虛擬主播直播詐騙規制措施

真人驅動型虛擬主播的直播詐騙行為與傳統直播詐騙行為之間是特殊與一般的關系,前者特殊在于使用虛擬人技術,但二者的客觀行為十分相似。根據現有研究,可從以下五個角度規制傳統的網絡直播詐騙犯罪:第一,根據情境預防理論規制直播詐騙犯罪。第二,治理網絡直播詐騙犯罪應當以社會治理水平提升為切入點,實施透明化管理、規范管理體系、提高監管能力和加強法律建設。[12]第三,根據犯罪行為模式采取階段式預防,在犯罪預備階段直播平臺應當落實主播的黑名單制度,提高觀眾防范意識,在犯罪著手階段應當完善并確保執行直播行業自律公約。[13]第四,從增加社會參與的角度規制直播詐騙犯罪,包括規范直播平臺運行、增強普通群眾的防范意識,加強對情感社交軟件平臺的管理。[14]因此對真人驅動型虛擬主播的直播詐騙犯罪規制,先針對特殊性問題規制,再借鑒傳統網絡直播詐騙的規制方法去治理共性問題即可。

(一)完善真人驅動型虛擬主播的管理機制

虛擬主播帶領人類從“實”走向“虛”,但對其監管必須從“虛”走向“實”。真人驅動型虛擬主播與傳統直播詐騙的特殊性問題在于虛擬技術增加了犯罪的隱蔽性。對虛擬主播采取實證認證的身份約束機制可以降低犯罪隱蔽性,進而有效解決主播道德失范、亂象叢生的問題。[15]

1.完善實名認證機制

完善虛擬主播注冊實名制,是指直播平臺應完善“中之人”的真實身份信息,這些信息一經提交只有提供正當的理由時才可以修改。不僅如此,還應完善多次動態實人認證制度,即在開播后要求主播進行不定時的實人認證,對比開播時的人臉信息是否與開播前提交的信息一致。該機制在《網絡直播營銷管理辦法》《網絡直播營銷管理辦法》第八條第二款中規定:“直播營銷平臺應當建立直播營銷人員真實身份動態核驗機制,在直播前核驗所有直播營銷人員身份信息,對與真實身份信息不符的,不得為其提供直播發布服務?！敝幸驯惶岢?但尚未獲得廣泛應用。動態實人認證技術可以大大降低犯罪的隱蔽性,具體體現在真人驅動型虛擬主播開播者與賬號注冊者必須相同,同時精準打擊惡意注冊賬號與“人臉代過”“黑產”技術的濫用。

2.完善準入機制

第一,虛擬主播開播必須持有職業資格證?！耙嬲貙W絡主播行業進行監管,必須提高準入門檻,開設網絡主播從業資格證管理制度,讓網絡主播持‘真證’上崗?！盵16]由此可見,無論直播內容是否涉及專業領域,虛擬主播都應獲取職業資格證。由人力資源部門將虛擬主播的職業資格納入國家職業資格目錄中,并沿用廣播影視人才交流中心的培訓方式。培訓后再對虛擬主播的道德素養、法律常識等內容進行考核,合格者獲得國家廣播電視總局頒發的職業資格證書。第二,直播平臺、經紀機構應當健全虛擬主播日?？己藱C制,把用戶評價情況以及基礎法律常識兩方面納入日?？荚u體系中。日?？己瞬粌H可以讓虛擬主播主動學習直播相關法律知識,還可對潛在的犯罪人起到教育、警示作用。

(二)強化平臺對“黑產”的技術阻截

直播平臺應積極預防與治理網絡黑產,強化對“黑產”的阻截技術?！爸卫矶桃曨l平臺亂象的關鍵在于認清‘科技平臺論’的謬誤”,[17]即直播平臺不能只享受流量利益,卻回避應履行的監管義務。直播平臺在網絡黑產治理方面有天然的行業和技術優勢,因此整治網絡“黑產”時不會陷入被動治理的困境。具體來說,直播平臺從著重以下幾個方面阻截“黑產”:

第一,提高審核直播內容的技術水平與效率,及時捕獲“黑產”線索。以往直播平臺依靠人工審核,雖能保證正確率但難以保證效率。所以應以人工智能審核為主、人工審核為輔,在加快審核速度的同時保證準確率。計算機智能程序可以根據賬號流量數據、直播時頁面敏感詞匯、實人驗證情況、用戶舉報次數等內容快速篩選出疑似違規賬號后,再由真人進行審核。在直播間內建立快速舉報渠道,及時獲取違法犯罪證據轉交警方。

第二,管控“變聲器”技術的濫用?！熬W絡直播是指依托互聯信息網傳播媒介,實時向社會公眾發布視頻、音頻、圖文等信息的活動?！盵18]直播平臺作為傳媒工具,對具有娛樂性質的變聲技術有依賴性,不宜全面禁止使用“變聲器”。但需要在平臺確認該虛擬主播無欺詐風險后才能使用,并在獲批的直播間封面用加粗文字提醒觀眾。

第三,加強實人認證系統安全性。直播平臺在實人認證環節中增加隨機動作,確保用戶認證時網絡環境的安全,可以較大程度防控“人臉代過”行為。與此同時,也要注意用戶人臉信息的保護問題,在用戶規則中說明平臺存儲人臉信息的期限與用途,在存儲期間保護用戶個人信息達到期限時及時模糊處理,以上內容均應在用戶實人認證時以彈窗、加粗紅色字體等方式提示、告知用戶。

(三)加大執法懲戒的力度

第一,凝聚行政資源,合力治理直播亂象。由于直播平臺的行政部門之間存在“各自為政”現象,導致治理職責重疊、行政資源浪費。應構建以國家互聯網信息中心部門為核心樞紐,聯通國家廣播電視總局、文化和旅游部、工業和信息化部、國家市場監督管理總局、公安部等管理部門的互聯網直播行業管理體系。管理部門應為防控虛擬技術滋生的犯罪行為提供前置性預防對策,加大對違規網絡直播平臺的懲戒力度,并全網通報批評違規直播平臺。當網絡監管等管理部門嚴厲懲處違規直播平臺、公安機關迅速破案,雙方合力治理之下必能降低真人驅動型虛擬主播直播詐騙犯罪的機率。

第二,建立共享的“黑名單”制度,切斷犯罪循環圈?！皹嫿ā诿麊巍贫饶軌蛟黾臃缸锓肿拥姆缸锍杀?具體體現在不法分子在實施違法行為被發現一次后就必須更換手機號等個人信息?！盵19]構建“黑名單”制度的意義在于,違法犯罪的真人驅動型虛擬主播無法再次開播,從而切斷犯罪的循環圈。由此,構建直播平臺與網監部門的“黑名單”系統實有必要,應當納入發放直播平臺營業許可證(12)直播平臺的營業許可證主要是指四種證書,即《網絡文化經營許可證》《互聯網新聞信息服務許可證》《互聯網信息服務業務經營許可證》《信息網絡傳播視聽節目許可證》。其中,直播平臺獲得《信息網絡傳播視聽節目許可證》后,還需要向工業和信息化部門進行備案。的必要條件中。

然而正如前文所述,由于缺少相應的落實政策,導致“黑名單”系統難以搭建。但從直播平臺角度出發,維護“黑名單系統”不僅需要耗費直播平臺的技術與人力資源,賬號被拉入“黑名單”還會對平臺流量造成不良影響,具有商業化性質的直播平臺自然十分排斥該制度。由于行政機關從未強制要求直播平臺共同加入“黑名單”系統,因此自愿加入的平臺只有少部分。只有當所有的直播平臺統一加入“黑名單”系統時,才能控制犯罪的擴張風險?？傊?應當先由國家網信辦牽頭,以地方各省市網信辦為主線再精確到區、縣級網信辦,以此為脈絡構建“黑名單”系統。當直播平臺將某虛擬主播的賬戶拉入“黑名單”后,網信辦系統再負責對賬號二次審核再將該賬號信息上傳至“黑名單”中。既能最大程度上降低直播平臺的沉沒成本,又能真正達到整治違法違規主播的效果?！皩τ诰W絡直播的規制,不應過度依賴強制性手段,還應適當引入柔性手段?！盵20]因此,行政機關在指導直播平臺規范運營時,可以在全網表彰表現出色的直播平臺。

(四)深入開展反詐宣傳教育

被害人受騙的主要原因是對網絡詐騙手法的甄別意識不強,這主要與犯罪類型新穎、直播平臺與行政機關的宣教力度不強有關。直播平臺與行業管理部門共同協作,利用線上與線下相結合的方式展開對受眾群體的反詐宣教。一方面,利用短視頻的傳播優勢,加大反詐曝光度。直播平臺將真人驅動型虛擬主播詐騙行為制作成短視頻當用戶在直播間大額打賞時自動彈出提醒用戶。另一方面,創新線下反詐宣教方式,筑牢反詐防線。針對特殊的青少年受眾群體,公安機關可與心理醫生共同在校園開展防控真人驅動型虛擬主播直播詐騙、青春期心理認同感的主題宣講[14],在廣泛提高青少年受眾群體的反詐意識的同時呵護其心理健康。直播平臺和公安機關在宣傳以上反詐內容時還應鼓勵公民受騙后及時報警,提供犯罪線索既節省司法資源還能減少網絡犯罪黑數現象。

四、結語

可以說,正是因為虛擬技術致使犯罪手段的隱蔽性強、難以追蹤使用者的真實身份,導致一些犯罪分子逃脫制裁,催生了一定的違法犯罪黑數。對此,直播平臺應當加強審查監測的能力,完善真人驅動型虛擬主播的管理,識別詐騙賬戶后及時發布防騙警示,配合網監部門將賬戶拉入“黑名單”系統永久封禁。同時,及時轉交違法線索給行政執法機構進行處罰,將犯罪線索轉交司法機關處理。真人驅動型虛擬主播的受眾群體提升識別該類虛擬直播詐騙風險與防范意識,能夠有效防止潛在的受害者受騙。受眾群體及時報警處理能夠減少網絡犯罪黑數、營造清朗的網絡直播平臺。一言以蔽之,只有在直播平臺、政府、用戶三方的協力共舉下,才能確保直播平臺不致淪為真人驅動型虛擬主播詐騙犯罪的集散場。