數字經濟的科技倫理治理：動因與機制

李曉華

數字科技與數字產業在促進經濟增長、推動產業變革、造福人類社會的同時，也可能會對經濟、社會造成不利影響，甚至對人類的長遠發展造成威脅。與其他新興科技和產業一樣，數字經濟發展也存在著技術與產業不確定性大、演進速度快、復雜程度高等特點，由此導致數字經濟治理面臨巨大挑戰。依靠法律、政策的傳統治理模式無法很好地適應數字經濟高質量發展，需要引入科技倫理治理，以推動數字經濟沿著有利于人類的道路發展。

數字經濟等新興技術和產業的治理難題

當前，新一輪科技革命和產業變革正深入推進，在數字科技、生命科技、新能源、新材料、深?？仗斓阮I域不斷有顛覆性的技術涌現，進而形成新興產業。其中，數字科技是創新最活躍、影響最廣泛的領域。一方面，通過新產品、新模式的創新和發展壯大形成新產業；另一方面，作為通用目的技術在國民經濟各個行業獲得廣泛和深入的應用，引發其他行業的深刻變革?？梢哉f，數字經濟已經成為推動經濟增長的新動能新引擎與經濟社會變革的重要力量。但也要看到，數字技術在創造更多物質和精神產品、豐富和便利人類生活的同時，出現了平臺壟斷、數據歧視、算法偏見、殺手并購、侵害隱私、產業安全等一系列問題，數字科技的進一步發展甚至有可能威脅到人類的生存和發展。2022年底以來，O p e n A I公司發布的生成式人工智能ChatGPT展現出廣闊的應用前景和巨大的變革性，被認為是人工智能發展的里程碑甚至是通用人工智能的起點，其創新性、顛覆性不可謂不大，但同時也引發了對人工智能威脅人類生存和發展的擔憂。深度學習之父杰弗里·辛頓教授提醒人們警惕人工智能不受控制的發展帶來的風險，包括埃隆·馬斯克在內的北美2000 多名計算機科學家和業內人員簽署了一份公開信，呼吁暫停開發比GPT-4更強大的人工智能系統。

世界各國針對成熟技術和產業已經建立起完善的法律和政策體系，對這些技術和產業中出現的產品質量、壟斷與不正當競爭、侵害消費者權益、危害公共安全等各種負面影響和問題進行監管和治理。但是對于包括數字科技在內的前沿技術和新興產業，單純依靠法律和政策體系很難對其進行有效治理。

一是政府監管存在滯后性。新科技新產業具有雙重用途、雙重價值，既可造福人類，也可能被惡意利用，造成巨大的經濟、人身損失，威脅到人類未來世代的健康甚至人類生存（雷瑞鵬，2020）。傳統政府監管的邏輯以問題為導向（楊青峰、任錦鸞，2021），通過對違反法律法規的行為做出處罰，一方面消除負面影響、彌補造成的損害，另一方面也通過對潛在違法違規行為的威懾，減少甚至避免這些負面問題的出現。但是當問題發生時，就意味著損失已經發生。其中，一些損失非常大，一些危害的影響會長期持續。

二是技術和產業演進的不確定性大。高度的不確定性加大了對技術和產業有效治理的難度。當新技術在發展初期顯得“人畜無害”時，過度的控制可能會限制科技創新對經濟社會發展的貢獻，但是當技術的負面后果顯現出來時，對其進行糾偏可能付出巨大的代價。

三是技術和產業演進速度快。以法律和政策為代表的治理規則是在既有經驗基礎上總結出來的，其顯著特點就是穩定性。新法律的制定以及對既有法律的修訂要經過提案、論證、反復審議，往往要經歷一個漫長的過程。面對大量前沿技術和新興產業的不斷涌現，且持續處于快速變化之中的新功能、新模式、新影響，常常難以找到合適的法條和政策對此加以規范。當針對新技術新產業出現的新問題出臺相關法律法規時，技術已經演進到新的階段，法律的監管目標可能已發生改變，又會重新出現法律力有不逮的情況。

四是新興產業的復雜性高。新興產業的產品或服務架構復雜，監管機構往往缺少深入到產品（如軟件代碼）內部進行監管的技術能力和手段。數字經濟的運轉以數據、算法為基礎，復雜的系統往往有成千上萬行代碼，且各種函數相互嵌套。數字經濟的復雜性、不透明性、不易解釋性造成很難搞清楚算法里是否存在無意的或惡意制造的具有危害性的代碼。而且一些技術的影響可能需要較長的時間才能顯現。此外，即使算法形成的產品、服務及其造成的結果能夠被觀察，往往也很難判斷算法中是否存在違法違規行為。例如，一些網絡平臺存在的針對不同用戶收取不同費用的“價格歧視”現象，很難說是軟件開發者有意根據顧客特征制定不同的價格，還是隨時變化的市場供求關系造成的。在數字經濟領域，人工智能還具有自主學習與決策能力，其行為結果不完全歸因于程序開發人員（王亦菲、韓凱峰，2021）。

數字經濟科技倫理治理的機制

數字經濟發展中出現的問題已引起各方的高度重視，在大力發展數字經濟的同時加強對數字經濟的治理已經成為各國政府的共識。2021年10月，中共中央政治局就推動我國數字經濟健康發展進行第三十四次集體學習時，習近平總書記指出“要完善數字經濟治理體系，健全法律法規和政策制度”，同時也提出“要明確平臺企業主體責任和義務，建設行業自律機制。要開展社會監督、媒體監督、公眾監督，形成監督合力”?？萍紓惱硎情_展科學研究、技術開發等科技活動需要遵循的價值理念和行為規范。針對傳統治理方式無法有效適用于解決前沿技術和新興產業治理的難題，世界各國紛紛加強科技倫理治理。2022 年3月，中共中央辦公廳、國務院辦公廳印發了《關于加強科技倫理治理的意見》，要求“加快構建中國特色科技倫理體系，健全多方參與、協同共治的科技倫理治理體制機制”，“建立完善符合我國國情、與國際接軌的科技倫理制度”。

數字經濟是科技倫理治理的重點領域。隨著數字技術的快速發展、廣泛擴散和應用，科技倫理治理在數字經濟中的必要性和重要性日益突出。以最受各國重視的人工智能領域為例，為了確保人工智能研究和應用的風險處于可控范圍，針對人工智能可能帶來的技術誤用、技術失控、應用失控等方面風險，世界上已有40多個機構或組織提出了各自的人工智能倫理準則建議（陳小平，2019）。例如，美國國防部2019 年2月提出了“以合法和合乎道德的方式使用人工智能，以強化負責任的價值觀愿景和強化人工智能利用的指導原則”；美國人工智能促進協會提出避免傷害、誠實守信、公平并采取行動不歧視、尊重隱私等人工智能道德原則（肖紅軍、陽鎮，2023）。

福建福州：智能服務機器人產銷兩旺。圖為福建漢特云智能科技有限公司智能機器人裝配制造車間。圖/中新社

科技倫理治理之所以能夠在規范數字經濟的發展中發揮重要作用，是因為它抓住了前沿技術和新興產業的特點，把企業、員工、社會、政府等各方面力量有機結合并調動起來參與到治理之中。

一是事前自我治理。數字科技企業根據科技倫理的基本原則與規范對科技創新與產業發展方向、企業競爭行為等經營活動進行全面審查，主動終止會對經濟社會產生負面影響的活動，或者在評估基礎上終止存在較大負面影響的活動。同時，當企業的經營活動存在違反科技倫理的風險時，認可科技倫理所確定原則和規范的企業員工會主動予以糾偏，甚至當發現企業存在惡意違反科技倫理的行為且內部反對無效時，向社會披露和政府部門報告。

二是事中社會治理。盡管企業會選擇盡量隱藏惡意的違反科技倫理、對社會造成負面影響的行為，但仍然有可能通過多種方式被披露并在社會上擴散。企業技術開發、生產經營等活動中隱藏的行為會通過學術交流、科研合作、專利公開、上下游供應商聯系、員工流動等形式為行業內的企業、人員乃至社會大眾所知曉，當這些隱藏的活動中存在有違科技倫理的情況或有損社會整體價值時，相關機構和個人可以通過拒絕研究成果發表、抵制申請該企業職位、解除業務合作關系等方式對違規企業做出不同程度的懲戒。

三是事后政府治理。對于違反科技倫理同時又違反法律或行政法規的行為，依法依規進行相應處罰。對那些違反科技倫理但并未觸犯法律法規的行為，政府部門可以通過研發資金分配、稅收優惠、項目審批、土地出讓、銀行貸款利率、上市融資審批等途徑和方式予以懲戒，將遵守科技倫理情況作為企業申報國家和地方資格認證、試點示范項目等的重要條件。

對數字經濟的事前、事中、事后治理與企業、社會、政府治理不是割裂的，而是相互協同促進的，將有可能損害社會福利乃至人類社會持續發展的行為盡可能早地予以發現、糾正。例如，員工可以將企業違反科技倫理的行為曝光，引發更廣泛的社會監督和政府監管部門的介入；行業協會等社會中介組織可以在吸收各界意見的基礎上制定數字經濟科技倫理治理規則，同時企業可以根據科技創新和產業發展中發現的新的科技倫理問題，推動數字科技倫理規范的更新；政府部門的事后懲處可以形成對企業的威懾，增強企業遵守科技倫理的自覺性。

構建具有中國特色的數字科技倫理體系

鑒于科技倫理治理在糾正新興技術和產業的負面影響中的作用，應積極推動構建具有中國特色的數字科技倫理體系。

在國家層面，由國家科技倫理委員會組織有關機構和專家科學研判數字科技與數字產業發展中存在的問題以及未來可能帶來的負面影響，在兼顧發展與監管的基礎上，積極推動我國數字科技倫理體系建設，包括制定科技倫理規范、指南、標準，以及針對違反科技倫理行為的處理規則，構建既能夠支撐我國數字經濟創新和發展，又能夠降低數字經濟負面影響、消除對人類社會可持續發展帶來潛在風險的數字科技倫理體系。加強數字科技倫理建設的國際合作，在吸納國際數字科技倫理先進理念和成功經驗的同時，積極推廣中國的科技倫理理念和規則，貢獻中國智慧和中國方案，推動在數字科技倫理上形成國際共識。

在社會層面，加大對科技倫理的宣傳，增強全社會對科技倫理的認識，使企業和個人形成遵守科技倫理的意識。支持數字科技企業、高等學校、科研機構共同發起科技倫理高峰論壇，大力倡導負責任的數字經濟、負責任的創新、負責任的人工智能等理念，加強對數字科技和產業發展中科技倫理問題的研討，分享經驗和教訓，對未來趨勢和潛在風險進行前瞻性研判，推動完善科技倫理規范以及科技倫理審查、風險處置、違規處理等規則流程。

在企業層面，鼓勵數字科技企業、高等學校、科研機構將科技倫理納入自己的價值主張、公司戰略和技術創新管理過程，加強企業董事會、戰略委員會、高管團隊等戰略決策者對數字科技倫理認識和重視（肖紅軍、陽鎮，2023）。設立數字科技倫理委員會，制定本單位數字科技倫理治理細則（如科技倫理原則、科技倫理審查程序、倫理風險的化解機制等），對企業技術創新、產品開發、市場競爭等各方面的行為進行常態化的科技倫理審查。鼓勵數字科技企業開發科技倫理治理的數字技術，提高數字科技倫理的治理效率。推動上市公司、國有企業將科技倫理治理情況納入E SG（環境、社會和公司治理）報告對公眾發布，接受公眾監督。