無人化應用的跨界風險與協同治理

張樂

【關鍵詞】數字化轉型 無人化應用 跨界風險 協同治理

【中圖分類號】D669 【文獻標識碼】A

當前全球主要經濟體爭相進行整體性數字化轉型，不斷向智能社會躍進，無人化應用領域憑借高效、無感、便捷等方面的技術優勢在數字化大潮中異軍突起，發展勢頭強勁。在2022年北京冬奧會上，多樣態的無人化應用場景給世人留下了深刻印象，防疫機器人、接待機器人、遞送機器人、物流機器人、炒菜機器人、送餐機器人等各類智能“黑科技”大放異彩。隨著經濟社會的發展，無接觸、智能化、高效率的無人化應用擴展到越來越多的生產生活場景之中，為企業的提質增效和人民生活便利化提供了更多元的選擇。

近年來，人工智能、大數據、物聯網技術的商業化模式逐漸走向成熟，無人經濟的發展進入快車道，在諸多領域出現了更多無人化應用新場景。當前，我國數字經濟中無人化板塊進入加速發展時期，主要分布在無人零售、工業機器人、無人載具、物流倉儲和商旅服務等行業領域。

我國無人化應用的發展呈現出三個主要特征。一是適用范圍廣，應用場景多元化。像無人零售、智慧物流、無人銀行、無人加油站等生活服務場景在大城市已經屢見不鮮，并不斷向中小城市和村鎮擴張。而在生產領域，無人化應用讓智慧工廠、無人車間和智慧農業成為現實，生產中一些或單調或繁復的工作開始交給智能機器人去完成，而在一些高危行業和惡劣工作環境下，機器人已經可以替人涉險，最大限度地避免事故災難對人的直接傷害。二是功能日趨完善，智能融合化趨勢明顯。在大數據、人工智能、物聯網、5G通信技術快速迭代與深度融合的加持下，無人化應用在多個領域的功能愈發完善，通過技術集成，呈現出模塊化、系統化和高智能性特征。例如，智慧物流和倉儲的無人化應用已經實現了更高水平的路徑規劃、自主移動、自主管理與分揀和無接觸精準配送等功能，達到了在統一的無人系統控制下分階段、無縫銜接地完成工作任務的智能水平。三是無人化應用帶來了管理體驗的高效化和用戶體驗的個性化。在生產和管理端，無人化應用極大地提高生產率，明顯減少一線員工數量，進而降低運行成本，整體性提高管理效率，這從根本上促進企業的數字化轉型和公共管理服務部門的數字治理效能提升。在客戶消費端，無人化應用的無感式、人性化、便捷式服務水平和質量不斷提升，滿足了客戶對服務效率的極致追求和對產品服務的多元化、定制化和人性化的高標準需求，消費者體驗效果的好評度也隨之提升。

無人化應用的快速發展受多種因素驅動。首先，數字技術的革新是無人化應用興起和擴展的支撐因素。人工智能、大數據、物聯網、移動互聯網是支撐無人化的關鍵技術，它們的融合創新讓人與物、物與物之間的全方位對接成為現實。其次，以降成本提效率為目標的經濟考量是驅動無人化應用發展的動力因素。對效率、效益最大化的追求是驅動資本、企業和管理部門不斷投入資金研發無人化技術、采用無人化應用、推廣無人化場景的原動力。成規模的無人化應用的部署和多場景化的推廣可以提高經濟效益和資本回報率。另外，人口老齡化加劇，人口紅利消失導致的勞動力成本高企等因素進一步強化了雇主研發、部署無人化應用的意愿和速度。最后，新冠肺炎疫情成為無人化應用需求增長的特定因素。傳染性極強的新冠病毒讓保持社交距離、減少人員接觸成為防疫“剛需”，在促進經濟發展和做好疫情防控要求下，無人化應用獨有的“無接觸、安全性、智能化”特征讓其成為助力科學抗疫、助推智能經濟產業化進程中不可或缺的關鍵要素，這倒給無人化應用場景的推廣帶來新發展機遇。

作為極具顛覆性的技術應用，無人化應用的發展推動了經濟社會的進步，也帶來了新的風險與挑戰。種種跡象表明，它們正在改變著就業結構、沖擊法律與社會倫理、侵犯個人隱私甚至挑戰國際關系準則，對政府管理、經濟安全和社會穩定乃至全球治理產生深遠影響。這些發展中的風險復雜、多變又相互關聯，形成了跨界風險。

首先是網絡安全風險，它是基礎性風險因素。無人化應用的依存基礎是泛在化的移動網絡和物聯網等信息通訊設施，物與物、人與人、人與物的互聯互通是無人化應用場景實現的必要條件。萬物互聯既是無人化應用的特征也是跨界風險的源頭。網絡基底技術及其構成的系統都存在安全漏洞。例如，在所有網絡系統和軟件中常見的0Day漏洞（又稱暫時沒有安全補丁的漏洞，該漏洞從被發現到被利用再到被封堵存在著時間差，這期間所遭受的攻擊難以防范），就會讓聯網設備面臨信息泄露、系統癱瘓的威脅。據統計，2020年全球約有123億臺設備聯網，隨著無人化應用場景的擴張，這一數字還會成倍增加。在這些設備中，由于成本和設計的原因，大量無人化設備安全防護系統陳舊或過于簡單，無法有效抵御類似0Day漏洞的攻擊。即使重啟一個簡單的物聯網燈泡，最終也可能會暴露真實的網絡地址，攻擊者就能夠利用漏洞遠程接管設備，將提前準備好的攻擊代碼或惡意程序添加到所在網絡中，竊取甚至控制個人或組織的其他聯網設備，導致信息泄露或財產損失。

其次是數據安全風險，它是核心風險因素。在數字時代，任何以電子或者其他方式對信息的記錄都可以稱為數據。從某種程度上講，無人化應用及場景的運行本質上就是數據的處理過程。而建立在網絡基礎上的數據處理，包括數據的收集、存儲、使用、加工、傳輸等多個功能環節或多或少都存在著安全隱患，導致數據處于缺乏保護或非法利用的狀態，無法保障整個無人化應用場景的持續安全。無人化應用場景里的數據安全風險主要包括數據泄露、數據篡改、數據濫用、違規傳輸、非法訪問等幾種形式。例如，在常見的無人化服務場景中，數據濫用的情況就比較嚴重。無人化設備在提供消費服務時候需要人臉識別、掃碼登記支付操作，通常會采集用戶的生物信息、手機號、設備信息，還會越界讀取個人通信信息、短信和相冊等敏感信息。無人化設備采集到的這些信息可能會被非法傳輸給設備商、經銷商、服務商等多層次的數據后臺，用于消費習慣“畫像”和標簽化等數據加工，甚至發生非法的用戶信息數據共享與交易行為。

最后是社會安全風險，它屬于技術風險的衍生風險因素。無人化應用的網絡和數據最終都是要為社會和用戶服務，網絡安全風險和數據安全風險也終將會傳導到社會領域，由此引發的社會安全風險可以分為三種類型：一類是因人機功能定位不當或權責歸屬模糊不清導致的法律風險。無人化應用運行中產生了許多人機交互的數據，這些數據的產權歸屬、收益分配和安全保護責任與成本分攤等關鍵問題要么尚未得到法律確認，要么法規的操作性不強，容易產生利益相關的自然人與法人之間的權責糾紛。另外，在特殊情境下，無人化設備出現功能故障導致財產損失與人身傷害時，因主體“缺失”導致的責任認定困境，也會引發無人設備生產者、運營者和使用者等多方利益糾紛。第二類是無人化應用擴展對工作崗位的替代效應產生的結構性失業風險?！盁o人”最初的設計目標本就是盡量替代人工進行勞動。在某種意義上來說，無人化應用越普及，被其替代的工作崗位就越多，直接從事該崗位的原有勞動者面臨的失業威脅越大。當然，無人化應用場景的發展也會增加對無人化系統的研發、運營和維護等工作崗位的需求。如果被無人化應用替代勞動崗位的“失業者”與因無人化應用場景擴展新增的“就業者”不是同一批“人”，則更容易發生結構性失業風險。第三類風險是指上述多重風險進一步傳導放大形成的社會風險，如新型的數字鴻溝與數字不平等。當無人化應用場景滲透日常生活的各個領域，成為主要的生產形式和生活方式的時候，那些對無人化應用適應性差或抵觸使用無人化應用的群體，就會因缺乏替代場景或備用選擇而無法享受無人化發展帶來的數字生活紅利，或者連基本的生活也受到限制。

從總體上看，這些跨界風險存在以下特征：一是風險跨越了空間場域邊界。無人化應用的風險跨越技術與社會兩大領域，縱橫影響技術、生產、生活和管理等多重維度。無論是無人化應用的軟件系統還是無人化應用的物理設備都難逃技術漏洞的物理攻擊，無論是單純的消費領域還是社會穩定與國家安全領域都有可能因為無人化應用風險的外溢而遭受威脅或損失。二是風險跨越了時間的影響邊界。無人化應用場景中一些風險具有“黑箱效應”，普通人難以察覺，類似0day漏洞的發現與封堵可能會拖延很長時間，此類風險缺少明確的起點和終點，在相當長一段“潛伏期”內對其波及領域產生實質威脅。三是風險跨越了系統功能邊界。無人化應用場景是典型的復雜系統，其內部的功能分工有別于傳統的機械化分割，其構成要素之間的多重耦合、功能嵌套、邊界重疊和非線性作用機制都決定了發生在內部的任何一個環節的功能障礙或破壞，都有可能快速地突破子系統的功能邊界，擴散到整個無人化應用場景網絡中，產生級聯故障或系統癱瘓。四是風險跨越了傳統的安全邊界。與跨越系統功能邊界相關聯，無人化應用場景的風險同樣突破了原有意義上的安全防護界限。通常，政府、市場和社會各自設定了安全防護規制與措施，但這些系統因各自發揮的功能目標不同，安全防護的側重點也各異。當跨界運作的無人化應用場景全方位、立體化地嵌入其中并通過互聯網和物聯網將各類系統鏈接起來的時候，一個領域（或業務部門或管理層級）的安全措施不能或無力抵御來自相連領域的風險威脅，風險的傳導和波及或將沖破條塊化分割的安全邊界，造成全域性系統安全風險。五是風險跨越了組織的管理邊界。由于無人化應用場景涉及企業、行業、政府和用戶等眾多主體，在其研發、運營和使用等多個階段都存在風險隱患，在上述時空邊界和功能安全邊界模糊不清或防護不足的情況下，按照傳統的業務、部門和層級進行安全監管分工的組織邊界也會被打破，如果相關監管固守之前的組織架構、管理職責和權限，將無法有效應對無人化應用擴張帶來的跨界風險的沖擊與挑戰。

面對無人化應用快速發展帶來的跨界風險，傳統的治理模式難以取得良好的效果，碎片化的治理結構和缺乏彈性的治理機制無法應對無人化跨界風險帶來的新挑戰。協同治理是一種秉持整體性視角，以多中心、去邊界和深度合作為主要特征的新型治理模式。以協同治理應對跨界風險成為數字時代風險治理的新思路。

一是技術領域的主動防護與“協同數網”創新?！耙约贾渭肌笔侵卫砜缃顼L險的重要原則，借助人工智能、區塊鏈等新技術獨有的“算法對抗”“自主驗證”技能來提高協同防護的效率。其一，構建以“零信任架構”為基礎的主動防護機制。建構網絡安全是治理無人化應用跨界風險的基礎性工作。通過建立“持續驗證，永不信任”網絡安全防護框架，將系統的安全邊界延伸到無人化應用場景的最末端，無論是用戶、設備、應用程序在試圖獲得網絡訪問權限的時候，在其身份真實性被驗證之前，訪問請求都能夠被堅決拒絕，從而構建一個基于身份策略模型的動態訪問控制的安全防護體系。其二，推動“協同數網”建設，提升主動防護的能力。數據處理是無人化應用的核心過程，通過組建完善“云端”數據資源的接入和一體化調度中心，降低算力使用成本和門檻，形成“數據樞紐”，建立無人化應用復雜系統的“中樞大腦”，統籌運算和風險監測預警功能。在此基礎上，利用區塊鏈的分布式獨立核算與存儲功能，實現信息的自我驗證、傳遞和管理，進而形成一個既能促進跨場域、跨部門、跨層級的數據流通又能實施風險治理功能的“數鏈”系統，提高無人化應用數據處理效率的同時可以有效防范數據篡改或非法傳輸等風險。

二是社會領域的風險會商與爭端解決機制創新。首先，在前端的風險分析與評估階段，應鼓勵試點多主體參與的風險會商體系。通過建立常態化的議事機構、制定規范的議事規則，督促不同的監管主體（政府職能部門、相關企業及平臺、行業協會、學術研究機構、專業社會組織）根據自身資源優勢和能力狀況，開展會商式的風險評估活動，分析研判無人化應用跨界風險在不同場景、不同發展階段、不同功能形態上的風險源頭、風險類型、發生概率、形成機制和傳導鏈條及影響程度，確定風險等級，提出兼具治理共識和明確指向的風險防范指導。在后端的矛盾糾紛化解階段，應嘗試建立包容審慎的爭端解決機制。以無人化應用為代表的數字經濟很容易形成“數字技術霸權”和“數字技術弱勢群體”對立狀況，造成數字鴻溝的擴大，激化企業平臺與普通用戶之間的利益矛盾。因此，建立包容審慎的爭端解決機制，充分考慮到多元主體各自的利益和訴求，以平臺企業的獲利讓渡和用戶有限度的信息授權為基礎，合理地分配因數據流動帶來的收益，讓無人化應用場景的擴張兼顧市場經濟效益和公共服務的共享價值。

三是跨領域的立體治理創新。立體治理是協同治理面對新興科技跨界風險時所采取的一種創新治理手段，是針對跨界風險的時空延展性和功能邊界的復雜性特點設計出的兼具長度、寬度和深度的“三維治理”形態。其一，以敏捷治理和觸發響應機制來靈活調節風險治理的時機（時間跨度）。既然無人化應用跨界風險在時間上具有高度不確定性和治理的時滯性，那么在應用場景存續的全周期都保持風險警覺，隨著無人化技術及應用場景的發展調整風險監測治理的時機，通過設定風險響應的“底線”，決定觸發監管介入的合適時機，在保持監管處置及時性的同時，避免過度監管反應影響系統的自主性、拖延生產服務效率或降低科技創新的動力。其二，以全主體協同參與的聯合監管拓展風險治理的寬度。理論上的多主體和多中心協同治理實際上是“知易行難”。如果應對無人化應用跨界風險不得不采取跨場景、跨業務、跨部門的聯合監管，那么主體間的風險責任和管理權限就需要得到明確和重新劃分。在此基礎上，根據交叉領域跨界風險特征和影響程度，打破原有的業務、部門和層次的邊界，重塑治理的組織架構，整合原有的風險治理功能，建立一個基于統一目標任務導向的聯合監管治理體系，提高風險監管效能。其三，以無人化應用場景的可信性建設增強跨界風險治理的深度。無人化技術及應用場景的復雜性是跨界風險的根源，而為應對這些風險建立的管理體系如果變得過于龐雜，反而可能會加重風險危機的嚴重程度。從風險治理的角度看，要提高無人化應用的可解釋性、透明度，提高監管機構安全監督、評估和信息披露的及時性、通俗性和翔實程度，這既是對技術領域加強與社會溝通、獲得社會支持、實現自我完善的“倒逼”，也是對監管機構的監管行為的公開、公正、公平等治理屬性的督促和強化。

（作者為山東大學生活質量與公共政策研究中心專任研究員，山東大學（威海）法學院教授、博導；山東大學政治學與公共管理學院博士研究生李瑾對本文亦有貢獻）

【注：本文系國家社科基金年度重點項目“人工智能發展中的社會風險及適應性治理研究”（項目編號：20ASH009）及山東大學人文社科重大項目“防范化解數字化轉型中的重大社會風險研究”（項目編號：21RWZD18）階段性成果】

【參考文獻】

①胡華成編著：《無人經濟》，北京：清華大學出版社，2022年。

②張曉：《數字化轉型與數字治理》，北京：電子工業出版社，2021年。

③杜慶昊：《數字經濟協同治理》，長沙：湖南人民出版社，2020年。

④馬奔：《危機管理中跨界治理的檢視與改革之道：以汶川大地震為例》，《清華大學學報（哲學社會科學版）》，2009年第3期。

⑤張玉磊：《跨界公共危機與中國公共危機治理模式轉型：基于整體性治理的視角》，《華東理工大學學報（社會科學版）》，2016年第5期。

責編/于洪清 美編/楊玲玲