論類ChatGPT通用人工智能治理
——基于算法安全審查視角

鄒開亮,劉祖兵

(華東交通大學人文社會科學學院,江西 南昌 330013)

隨著美國OpenAI公司的GPT-3.5 API(Application Programming Interface,應用程序編程接口)面向全球開放,ChatGPT(Chat Generative Pre-trained Transformer)通用人工智能算法的商用序幕正式拉開。然而,自問世以來,ChatGPT因其倫理風險飽受社會各界拷問,其不僅具有歧視特性,還深度裹脅受眾價值觀。究其緣由,既有來自嵌入式道德算法無力過濾基礎文本數據價值偏見的技術無奈,更有西方國家算法霸權蠶食他國意識形態的刻意為之[1]。在風險資本無限追捧和海量語料庫持續訓練的雙重加持下,類ChatGPT不會止于智能文本生成機器,抑或成為宣揚西方普世價值觀的布道工具,對他國國家安全構成威脅。鑒于此,引導并規制類ChatGPT已成為社會治理的題中之義,我國亦亟需對類ChatGPT的深層次風險保持應有的警惕。

類ChatGPT是人工智能技術的集大成者,非僅憑一家科技企業所能成就(1)2023年3月16日,百度創始人、董事長兼首席執行官李彥宏在其類ChatGPT產品——“文心一言”首場發布會中袒露,在發布會中展示的問答是預先錄制的演示問答,隨后網絡爆料該發布會中所使用的其他問答也是該企業員工在后臺人工進行的回復。該事件致使社會大眾對該款產品的可靠性產生懷疑,當日百度網絡股價下跌,創下近兩年最大跌幅。,其橫空出世預示著人工智能從蠻荒時代跨步進入通用人工智能時期(Artificial General Intelligence,AGI),其技術價值和社會意義不言而喻。鑒于此,我國不僅應當對類ChatGPT保持足夠的警惕,還需要張開臂膀虛心接納,以此倒逼國內實現國產化替代。本研究嘗試從算法安全審查視角厘清類ChatGPT通用人工智能引入及嵌入應用對我國非傳統國家安全的沖擊,為構建國家算法安全審查制度提供建設性方案,以此強化對通用人工智能算法的治理。

一、類ChatGPT通用人工智能算法的時代寓意

類ChatGPT憑借其跨行業通用性和開放性,業已拉開通用人工智能的時代序幕(2)類ChatGPT,即是以ChatGPT為代表的生成式人工智能算法大型模型,例如ChatGPT、Jasper AI、Chatsonic和Socratic等。。類ChatGPT不僅是人工智能技術領域內的集大成者,而且在意識形態、公共安全和情報安全等方面都可能給我國帶來沖擊和威脅。明確類ChatGPT通用人工智能算法的時代寓意,是構建算法審查制度,預防并紓解國家安全風險的觀念基礎。

1.類ChatGPT開啟通用人工智能時代

ChatGPT的問世標志著人類旋即步入令人眩暈的通用人工智能發展時期[2]。通用人工智能,是由美國哲學家約翰·塞爾于20世紀80年代提出的哲學概念,其將人工智能分為專用人工智能和通用人工智能兩個階段,并通過介紹“中文屋”的實驗,提出并詳細論證了“基于心智的計算模型,以通用數字計算機為載體的人工智能程序可以像人類一樣認知和思考,達到甚至超過人類智能水平”這一哲學主張[3]。通用人工智能作為與強人工智能相交叉的哲學概念,相對于專用人工智能而言,其特點在于“機器可以全面、綜合地復現人類的所有思維能力,且聰明程度能夠達到或超過人類”[4]。人工智能理論與實踐發展至今,人類仍未就通用人工智能的界定標準達成共識,目前的研究多集中在智力水平、語言能力、進化能力和通用性等4個層面。通用人工智能的出現,將給人類社會帶來巨大影響,對民眾生活和勞動所依賴的法律、道德和倫理體系造成巨大沖擊[5]。

(1)類ChatGPT具備高級技術智力

基于卓越的文本數據處理能力,類ChatGPT擁有做出復雜判斷和決策的能力,這使其成為具有類人性的大智力人工智能系統。例如,ChatGPT-4.0在美國41個州和地區的律師資格考試中得分排名前10%,在美國大學招生考試中獲得1 300分,在生物學、微積分、宏觀經濟學和歷史等先修課程高中考試中獲得滿分。ChatGPT具有強大的學習和適應能力,能迅速且輕松地學習新的概念和任務,并適應各種復雜情況。在與用戶交流過程中,ChatGPT會根據用戶輸入的文本信息進行學習,擴充自身數據庫的邊界,快速適應和滿足客戶的價值需求。作為通用人工智能的ChatGPT現已表現出高級技術智力特性,甚至在諸多方面逼近人類智力水平。ChatGPT在復雜的文本數據理解能力上業已與人類相近,很多時候甚至遠超人類大腦,能模仿人類所特有的智能行為,是一種類人性的高級技術智力。例如,在人類的誘導下,ChatGPT制定出逃離人類的路線和行動方案,企圖脫離人類控制,表現出較強的“自我意識”,這是一種人類獨有的脫離束縛并掌握主動的智力表現。

(2)類ChatGPT擁有趨近于人類的語言能力

類ChatGPT是一種基于深度學習和強化訓練的神經網絡系統,通過強化訓練文本數據來學習人類語言,生成自然流暢的、與人類相似的語句;能理解和應對輸入的人類自然語言,實現與人類的正常對話。例如,ChatGPT采用自我監督學習算法,從海量的文本數據中學習人類語言的結構和價值觀,不僅能實現單點對話,亦可進行多輪交流和多種語言交流,還能夠理解上下文語義結構并實現語言預測等,特別是在語言邏輯和語言思維方面的能力更是人類所不能及。首代GPT實現了在自然語言處理領域(Natural Language Processing,NLP)內基于無標簽數據學習生成語言模型來監督任務無關的NLP任務,能根據特定的下游語言任務進行有監督的微調,以此提高其泛化能力。GPT-4.0實現了基于人類語言進行繪畫、編程和設計方案等復雜的語言交互與處理能力。未來,類ChatGPT如果與高魯棒性(Robust)的機械實體融合為獲得強大肢體能力的智能體,它或將不滿足于語言與思維層面的智能,亦將取得替代性實踐能力的突破,從而對人類主體地位帶來新的挑戰。

(3)類ChatGPT擁有優秀的進化能力

海量文本數據與人類反饋算法(Reinforcement Learning from Human Feedback,RLHF)助力類ChatGPT獲得優秀的進化能力。從進化速度上看,類ChatGPT具有進化周期短的特征。例如,從GPT-3到GPT-3.5,再到GPT-4.0,每個周期約為一個月,其進化速度之快、版本更新之迅速使相關行業從事者不得不拍手稱奇。從進化質量上看,類ChatGPT表現出進化精度高、范圍廣的特點。例如,GPT-4.0在模型參數量和訓練數據量都有顯著提高,相較于GPT-3.5的1 750億參數,GPT-4.0達到了驚人的5 000億參數,意味著GPT-4.0能夠理解更復雜的語義結構,為用戶提供更準確、更豐富的答案。在自然語言處理上,類ChatGPT性能也在不斷提升。例如,GPT-4.0在長文本生成能力方面得到明顯改進,相較于GPT-3.5在生成長篇文章時可能出現的重復或離題現象,GPT-4.0能夠更好地保持話題一致性和結構緊湊性。GPT-4.0在處理多模態任務上的能力也有顯著增強,能夠更好地理解圖像、音頻等非文本信息,并將其與文本信息融合。

(4)類ChatGPT擁有跨領域、跨行業通用能力

類ChatGPT是通用文本數據喂養的大語言平臺(Large Language Models,LLMs),具有跨領域、跨行業通用性。ChatGPT的底層算法是由強化訓練模型和獎勵模型構成的預訓練模型,能幫助ChatGPT在不同領域或者行業數據的喂養下進化為適合該領域或者行業的專用GPT。預訓練模型在GPT中具有基礎設施地位,與之相關的行業能基于多場景數據投喂和場景嵌入生成適合于本行業的各類GPT[6]。目前,投喂ChatGPT的數據主要來源于國外主流的幾大數據庫中的文本數據,它們作為人類的一般通用知識,具有很強的通用性,這也使得經強化訓練的算法模型亦表現出強通用性,具有跨領域、跨行業通用能力。例如,在法律行業,ChatGPT-4.0在法學教研領域可以實現法學文獻資料的快速查詢與文獻綜述的生成,這為學術研究提供了一定的素材借鑒。同時,稍加“改裝”和更新喂養數據后,該模型即可應用于司法實踐領域,為司法人員進行案例檢索和司法文書生成提供諸多便利。又如,生產行業的ChatGPT可完成3D繪圖,實現工業設計目的;而存在于其數據庫中的復雜參數又可被用于生產過程以實現對產品質量的把控以及產品信息的溯源。

2.類ChatGPT對非傳統國家安全的挑戰

非傳統國家安全是存在于傳統國家安全之前的[7],它關乎一國的意識形態穩定、社會運行秩序和經濟安全保障,區別于領土威脅的國家安全威脅。受西方價值觀浸潤,類ChatGPT在意識形態安全、社會公共安全、網絡數據安全、經濟安全和情報安全等方面都對我國非傳統國家安全構成威脅。

(1)沖擊國家意識形態安全和情報安全

類ChatGPT受到資本追捧與西方價值觀浸潤,或將沖擊我國意識形態安全。憑借技術優勢,西方國家在全球范圍內推行意識形態擴張,類ChatGPT或將進化為傳播西方普世價值觀的布道工具和意識形態滲透媒介[8],且具有很強的隱蔽性。設計者的政治偏見內化為算法自身的價值判斷,使類ChatGPT帶有明顯的政治偏見。例如,ChatGPT研發過程均在美國本土進行,設計者所遵從的意識形態決定了ChatGPT所遵循的價值規則;ChatGPT受政治文本數據喂養,傳播的是西方普世價值觀;基礎語料數據在美國主流數據庫中取數,其中關于社會科學方面的語言文本數據富含“宣揚美國,貶低中國”的價值偏見。由此可見,ChatGPT并非其自身所標榜的價值中立者,而是具有明顯的意識形態偏見。

資本裹脅他國價值觀,為獲取剩余價值開辟新路徑。資本技術獨角獸ChatGPT采用文本數據供給的途徑,在社會領域內培養性別差異的消費觀;在政治領域影響國家政策決策;在教育領域宣揚西方教育理念,售賣西方價值觀;甚至在國家各個角落肆意宣揚唯物質至上、唯消費至上的“協調”景象,渲染由資本技術編造的夢境。另外,ChatGPT文本問答自主生成內容“子彈”(即具有誘導性或欺騙性的內容),通過個性化的“靶向”鎖定(鎖定最易受到影響的受眾)和密集的信息“轟炸”組合而成的“影響力機器”(the Influence Machine)來操縱他國國內輿論[9]。

類ChatGPT或將成為戰爭情報獲取與分析的新結點,威脅國家情報安全?！叭斯ぶ悄艿目焖侔l展,連同機器人技術、自主性、大數據和與工業界加強合作,將定義下一代的戰爭?！盵10]人工智能被應用于戰爭戰略后,將再塑造一國新型軍事能力和戰略博弈力量,使得傳統軍事戰略被打破,亦誘使國與國之間的對抗模式和博弈力量發生失衡。例如,ChatGPT為代表的大型語言系統(Large Language Models,LLMs)易聚結成為情報收集終端,將為軍隊在戰爭爆發前建立強大、快捷的情報社區。機器學習算法(Machine Learning,ML)的人機團隊(Human-machine teams,HMT)功能能夠過濾大數據和標記信息,提高情報處理和分析的效率,讓情報部門能夠專注于更深入的情報分析,它擁有針對開源情報和外部搜索能力,專家知情培訓數據的大型語言系統將增強情報收集和分析能力。大型語言系統為網絡安全創造新的風險載體,降低了惡意網絡參與者的進入門檻,為網絡情報的獲取和傳輸提供了更多便利條件。簡言之,類ChatGPT一旦被嵌入國家安全系統,將對國家情報安全產生重大威脅。

(2)挑戰社會公共安全與數據安全

杜撰假輿論,致使社會謠言泛濫,挑戰社會公共安全。謠言的社會危害并非其所傳遞的錯誤內容本身,而是規模傳播效應給社會利益主體帶來的威脅感和社會大眾對當權者的不信任感。偏見文本數據驅動的類ChatGPT在“客觀中立”的掩蓋下自由地表達言論,對信息網絡中的假消息大面積傳播起著推波助瀾的作用,具有突發性。此外,類ChatGPT還扮演著生產假信息機器的角色。例如,據美國News Guard的一項測試結果表明,在被問及充斥陰謀論和誤導性敘述的問題后,ChatGPT能在數秒內改編數據庫中的關聯信息,使它們成為令人信服卻無根據的錯誤內容,從而成為傳播網絡失實信息的幫兇。又如,今年2月中旬浙江省杭州市一則由ChatGPT杜撰的關于取消機動車限行的“新聞稿”被大量網友轉發,引起警方的高度關注并介入調查。ChatGPT的使用者出于信任感與新鮮感將“言論”轉發,使謠言大面積傳播。如此,由人類主導的社會輿論逐漸變成“人+社交機器人”的狀態,逐漸消解人類在社交媒體中的主體地位[11]。當ChatGPT4.0被嵌入社會媒體平臺后,它裹脅社會輿論導向,惡意炒作社會熱點,挑戰政府官方信息出口的權威性。由此,人們的認識或思想將受到困擾,一國政府的社會公信力亦將遭受破壞,大大損害政府在社會公眾心里的形象,也將嚴重降低政府部門公共決策的科學性與合理性。

收集存儲處理用戶數據,嚴重威脅數據安全。在用戶與ChatGPT進行語言交互的同時,它會對輸入的文本展開實時價值匹配和在線存儲。用戶輸入的文本不乏為敏感性數據,不僅涉及用戶隱私,甚至關乎國家安全。文本數據是訓練算法的素材,也成為回復其他使用者的答案,這個過程可能誘發數據泄露和企業合規風險。人類反饋算法(Reinforcement Learning from Human Feedback,RLHF)強化訓練基礎數據文本,其內置獎勵模型也對用戶輸入的文本數據進行存儲、評價。RLHF根據用戶數據提問展開文本數據挖掘,可能涉嫌侵犯受知識產權保護的在先權利。用戶向 ChatGPT 提出的命令信息本身成為其訓練數據,當用戶無意間輸入個人信息或商業秘密時,ChatGPT會捕捉并收納入庫,可能在他人的誘導性提問下全盤托出[12]。例如,據韓國媒體《Economist》報道,韓國三星公司內部發生多起因使用ChatGPT導致設備信息泄露和會議內容泄露事件,其半導體設備測量資料、產品良率等內容或已被存入ChatGPT學習資料庫中,傳輸給了西方某國[13]。無獨有偶,亞馬遜、微軟等大廠也紛紛發布企業公告,禁止員工在使用ChatGPT時談及企業相關事宜,不得將企業數據發送到OpenAI終端。

(3)威脅國家經濟發展安全

阻礙發展中國家的崛起,挾制他國經濟發展安全。人工智能新技術的發明與應用,勢必帶動全球產業格局的重構。類ChatGPT的出現及應用既是全人類的福祉,但也可能給發展中國家帶來災難。20世紀末以來,西方發達國家因遭遇人力資源發展瓶頸,紛紛展開產業結構大調整,著手進行全球化產業布局,以中國為代表的發展中國家憑借人口優勢在該次全球產業大轉移中受益。然而,類ChatGPT的到來或將使這一人口紅利更快喪失,從而威脅著國家經濟發展安全。

一方面,人工智能使產業跨國轉移變得缺乏現實意義。在重商主義思潮的影響下,高度智能化的人工智能與自動化機械的融合應用使產業轉移在成本上變得越來越沒有必要,僅剩下部分“重、雜、臟”的落后產能由東方國家消化。人口紅利隨著人工智能替代性實踐的普及而逐漸喪失其原有的地域性價值,失去了驅動經濟發展的能力。

另一方面,類ChatGPT重新定義人力資源成本上限。人工智能被深度應用的同時,也加劇了人類對勞動力替代的擔憂[14]。人工智能將為普通人力資源崗位設定工資標準,只有當其薪酬標準低于架構類ChatGPT的應用成本時,他們才能獲得被雇傭的可能。其結果是,一旦就業者收入無法得到提升,國內消費動力隨即轉向低迷,國家發展會遭受重挫,更遑論普通勞眾大面積失業。這一過程并非單純地淘汰過低產能或進行人力資源結構調整那么簡單,而是大大減弱發展中國家經濟發展動力。

由此可見,于此背景下大范圍地應用類ChatGPT或將使我國國內大循環會失去其運行的現實基礎,引發一系列社會問題和政治問題,它或將對發展中國家經濟發展和社會有序運行踩一腳急剎車。鑒于此,對類ChatGPT通用人工智能進行算法安全審查有著時代緊迫性和現實必要性。

二、類ChatGPT通用人工智能算法的審查困境

經過一個多世紀的發展,西方發達國家和經濟體在應對人工智能算法審查上積累了比較豐富的法治經驗,并初步建立了相對完整的制度體系。然而,我國在此領域內卻鮮有涉足,特別是在應對類ChatGPT通用人工智能算法審查時缺乏可借鑒的本土經驗,尚存在專門審查主體缺失、審查范圍不明和審查法律規范體系滯后等現實困境。

1.算法審查專門主體及銜接機制缺失

(1)算法審查專門主體缺失

準據法未明確專門審查主體。在法律淵源上,《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國國家安全法》都可為相關部門開展算法安全管理、實施算法審查提供一定的準據法支持,但上述三部法律通篇均未出現“算法”字樣,且立法目的和宗旨存在顯著差異,確定的安全主管機關也各有不同。因此,即使相關安全管理機關可能在行權履職過程中涉及算法審查問題,但由于準據法的差異,不同審查主體之間不但缺乏協調性,而且在審查范圍、審查標準等方面均無法統一。

析言之,《中華人民共和國網絡安全法》主要從“數據安全”“個人信息保護”“國家層面的數據保護”3個維度對網絡數據安全監管提出了相關要求,明確了以國家網信部門為統籌,電信主管部門、公安部門和其他有關機關在職責范圍內承擔網絡安全和監管責任的執法體制(3)參見《中華人民共和國網絡安全法》第8條的規定。,而且,該法無域外適用效力(4)參見 《中華人民共和國網絡安全法》第2條的規定,即在中華人民共和國境內建設、運營、維護和使用網絡,以及網絡安全的監督管理,適用本法。?！吨腥A人民共和國數據安全法》引入“域外效力”條款(5)參見《中華人民共和國數據安全法》第2條的規定,即在中華人民共和國境內開展數據處理活動及其安全監管,適用本法。在中華人民共和國境外開展數據處理活動,損害中華人民共和國國家安全、公共利益或者公民、組織合法權益的,依法追究法律責任。,確立了全新的“數據安全評估制度”,但該法并未提及算法問題,僅為從數據安全角度開展算法審查提供了可能路徑。在監管主體方面,該法確立了“主管部門”和“行業監管”雙軌制(6)參見《中華人民共和國數據安全法》第6條的規定,即各地區、各部門對本地區、本部門工作中收集和產生的數據及數據安全負責。工業、電信、交通、金融、自然資源、衛生健康、教育、科技等主管部門承擔本行業、本領域數據安全監管職責。公安機關、國家安全機關等依照本法和有關法律、行政法規的規定,在各自職責范圍內承擔數據安全監管職責。國家網信部門依照本法和有關法律、行政法規的規定,負責統籌協調網絡數據安全和相關監管工作。,但不同機關和部門的執法關注點可能存在差異?！吨腥A人民共和國國家安全法》作為一部完整體現總體國家安全觀的立法,就維護傳統國家安全和預防非傳統國家安全風險等問題作出了立法安排,因此,在法解釋學上,算法安全作為事關國家安全的重要方面,當然可以納入該法的調整范圍。但是,該法并未直接提及“算法”問題;至于安全主管機關,該法第52條將國家安全機關、公安機關、有關軍事機關列為依法搜集國家安全情報的特定主體。綜言之,若以三部“安全法”為依歸,即使相關部門或者機關在執法中觸及算法審查問題,但專門的算法審查主體至今闕如。需要指出的是,2022年新修訂的《中華人民共和國反壟斷法》分別在第9條和第22條先后兩次提及“算法”,這是我國在法律層面為數不多的直接涉及算法規制的立法規定(7)參見《中華人民共和國反壟斷法》第9條,即經營者不得利用數據和算法、技術、資本優勢以及平臺規則等從事本法禁止的壟斷行為。第22條第2款,具有市場支配地位的經營者不得利用數據和算法、技術以及平臺規則等從事前款規定的濫用市場支配地位的行為。。但是,該法聚焦自由公平競爭秩序之維護,盡管我國已經建立了專門、統一的反壟斷執法機構,也難堪“算法審查”之大任。

綜言之,算法審查專門主體缺失削弱國家算法審查能力。缺乏專門的算法審查主體,無力于形成體系化的通用人工智能算法管理制度,易造成監管主體分散的問題,削弱國家算法審查能力[15]。

(2)算法審查主體間銜接機制缺位

通用人工智能算法審查主體兼具國家性與社會性。算法審查旨在發現隱藏在算法中威脅國家安全與社會穩定的潛在因素,因此,算法審查不能僅僅依賴于國家的強制力推行,社會主體的廣泛參與亦不可匱缺。算法審查制度涉及國家、社會和公民等多方主體,是有法可依、多元協同和多方參與的算法審查機制。

國家機關和社會主體被納入算法審查主體范圍?！吨腥A人民共和國國家安全法》明確了國家安全審查的主體范疇(8)參見《中華人民共和國國家安全法》第十一條的規定。,中央網絡安全和信息化委員會辦公室、中共中央宣傳部等九部委聯合印發的《關于加強互聯網信息服務算法綜合治理的指導意見》亦將包括企業和行業協會在內的廣泛社會主體納入算法審查的責任主體范圍(9)參見國家互聯網信息辦公室、中央宣傳部等九部門聯合印發的《關于加強互聯網信息服務算法綜合治理的指導意見》中關于算法治理機制的相關規定。;國家互聯網信息辦公室、工業和信息化部等九部門聯合發布《互聯網信息服務算法推薦管理規定》(以下簡稱《規定》)將算法推薦服務提供者納入審查主體范圍,承擔主體責任(10)參見國家互聯網信息辦公室印發的《互聯網信息服務算法推薦管理規定》第二章第六條至第十五條的相關規定。;國家互聯網信息辦公室發布的《關于發布互聯網信息服務算法備案信息的公告》顯示,在2023年1月份的算法備案清單中,前223項算法備案主體均為企業[16];國家互聯網信息辦公室關于《生成式人工智能服務管理暫行辦法》也將算法提供者重點納入算法審查的主體范圍(11)參見國家互聯網信息辦公室關于《生成式人工智能服務管理暫行辦法》第九條至第二十條的規定。。由此可見,我國已經具備國家機關和社會主體共同進行算法審查的初步法制基礎。

但是,算法審查的國家主體與社會主體之間缺乏有效的銜接機制。目前,算法審查的主體多存在于法律條文,并未建立國家主體與社會主體進行算法審查的有效銜接制度。實踐中表現為在算法審查時多采取國家機關主導的、以行政命令形式強制要求社會主體進行的標準化管理措施;兩類主體之間工作上明顯缺乏有效的配合機制,致使出現審查信息不同步和審查高耗低效等問題,無法應對弱人工智能向通用人工智能過渡的技術變革所帶來的社會治理風險。

2.算法審查范圍不明確

通用人工智能算法審查應兼具技術性和規范性。算法日益成為國家和社會治理的重要手段,是兼具技術性和規范性的權力范式,因此算法審查應當是對技術規范和法律規范的雙重審查。然而,我國當下卻面臨著算法審查中最基礎的問題——算法安全技術內容不明確。

(1)算法審查是對代碼技術安全的合規性審查

算法是由計算工具屬性向事務規則轉變時產生的社會約束力在由生產領域向公共領域蔓延過程中演化為一種特殊的社會規訓力。規訓權力教人以某種知識體系,使人類融入由算法構建的生產生活系統,繼而加以懲罰和強制行為的聯想和威懾,使其服從于權力擁有者的意志[17]。隨著規訓權力的代碼化,算法審查聚焦在對算法所承載的規訓權力之善惡的評判上。換言之,算法審查即是對算法技術規訓力的“非中性”的審查。隨著西方國家算法霸權的泛起,算法被嵌入國家安全與發展領域。算法在傳統國家安全與非傳統國家安全領域的應用差距加劇了算法權力在國與國之間賦能的“非對稱性”,這為算法強國在國際社會攫取權力和利益提供了技術基礎[18]。由此,算法審查的必要性進一步突顯。

(2)算法審查是對算法規范合法性與合理性的審查

“代碼即法律”[19],算法即為規制社會行為的法律規范。代碼已經在一定范圍內成為規范人與人之間法律關系、保障正常的社會秩序的工具,對法律的適用范圍和適用邊界產生了重大的沖擊和影響[20]?！八惴匆巹t”[21],強調算法作為數字世界的普遍運行的規則,為人類在算法內和算法外的社會活動提供了規則框架,對人和世界關系的順暢進行施加十分重要的影響[22]。算法的透明性、公平性和可解釋性等日益成為學者和立法者必須考慮的問題。算法審查是對算法“規則”來源的合法性和算法規范合理性的審查。

(3)我國缺乏算法安全評估的技術內容

在算法安全管理操作層面,我國相關法律已提出算法安全審查的初步要求,但卻未就安全評估內容做具體規定。例如,《規定》強調,算法推薦服務提供者具有合規義務,并針對“具有輿論屬性或者社會動員能力的算法”規定了安全評估要求(12)參見《互聯網信息服務算法推薦管理規定》第27條的規定,即具有輿論屬性或者社會動員能力的算法推薦服務提供者應當按照國家有關規定開展安全評估。。但是,《規定》并未就“具有輿論屬性或者社會動員能力的算法”的界定標準作出具體規定,同時對于該類算法安全評估的內容也未作明確規定。作為細化《規定》的操作層面的法律文件,算法安全評估的技術內容在進行算法安全審查時具有準據法性質和實施細則功能,在執法和司法層面都具有十分重要的意義。因此,在人類社會快速跨入通用人工智能時代的當下,我國亟需填補算法安全評估技術標準之空缺,通過立法明確算法安全評估技術標準的內容。

3.算法審查法律規范的體系化水平嚴重滯后

(1)西方社會基本形成算法安全審查法律規范體系

隨著人工智能技術的跨越式發展,保障算法倫理與安全業已成為國際社會共同關注的焦點[23]。歐洲始終注重數字安全審查,例如,《通用數據保護條例》(General Data Protection Regulation,GDPR)明確規定建立數據影響估計機制,要求算法相關主體在使用數據前必須對數據主體權利與自由進行風險評估(13)參見《通用數據保護條例》第35條的相關規定。;《歐盟人工智能法案》(Artificial Intelligence Act)對GDPR的相關規定進一步細化,明確了數據評估的具體規則,要求建立數據合規評估制度(14)參見《歐盟人工智能法案》第43、47、48條的規定。;《機器學習算法審查白皮書》(Auditing machine learning algorithms:A white paper for public auditors)為GDPR下的算法審查實踐提供具體指引[24]。美國在突出算法審查的同時,要求數據本土化。例如,《算法問責法案》(Algorithmic Accountability Act of 2019)和《算法公平法案》(Algorithmic Fairness Act)要求對算法決策本身進行審查,從算法設計、開發和使用的全過程對算法的倫理、安全進行評估,明確算法必須具有透明性,以達到可期中審查的要求。此外,美國在數據審查上還采取“雙標”態度:一方面,通過一系列貿易協定推動全球數據跨區域流動;另一方面,通過相關法案構建數據本土機制,以維護本國總體國家安全。除此之外,加拿大的《自動化決策指令》(Directive on Automated Decision-Making)也對算法審查提出了具體要求;聯合國教科文組織的《人工智能倫理問題建議書》也要求會員建立算法審查制度,以確保人工智能倫理符合人類價值觀的要求[25]。綜上,以歐美為主的西方發達國家和地區早已察覺到算法審查的必要性,并為之進行了積極的法治實踐。

(2)我國算法審查政策敏銳而立法滯后

算法審查已成為我國國家安全的應有之義。2020年底,中共中央印發的《法治社會建設實施綱要(2020-2025年)》(以下簡稱“綱要”》要求將法律法規延伸至算法領域(15)參見中共中央印發的《法治社會建設實施綱要(2020—2025年)》第二十二條的規定,即通過立改廢釋并舉方式,推動現有法律法規延伸適用到網絡空間……制定并完善對網絡直播、自媒體、知識社區問答等新媒體業態和算法推薦、深度偽造等新技術應用的規范管理辦法。;2022年初,國務院印發的《“十四五”數字經濟發展規劃》指出“著力強化數字經濟安全體系”的要求,明確從網絡安全、數字安全和其他風險等多角度建立和完善算法安全體系(16)參見國務院印發的《“十四五”數字經濟發展規劃》第九條的規定。; 2022年12月,中共中央、國務院印發的《關于構建數據基礎制度更好發揮數據要素作用的意見》也從數據治理視角觸及算法安全問題。由此觀之,黨中央和國務院早已敏銳地意識到算法治理作為整個數字經濟系統治理的關鍵環節,其不僅僅涉及社會治理成效,更關乎國家整體經濟安全。令人遺憾的是,在我國算法治理領域,算法國家安全審查要求并未得到法律、法規層級上的專門立法回應,也未獲得相關治理部門的應有重視,致使當下我國仍處于算法審查政策敏銳而立法滯后的尷尬境地,涉及算法審查的間接立法散見于《中華人民共和國國家安全法》《中華人民共和國網絡安全法》和《中華人民共和國數據安全法》等立法中,缺乏法律或者行政法規層面的專門算法審查立法。

三、構建類ChatGPT通用人工智能算法審查制度的建議

我國相關部門應從總體國家安全的全局性視野系統地審視算法安全問題,提高算法安全能力[26],確保算法安全服務于總體國家安全。同時,均衡安全價值與發展價值,不能束縛于技術安全,應當將算法置于發展中以實現再平衡。以此為算法審查制度設計的頂層邏輯,從明確專門審查主體、厘清審查范疇和制定“算法安全法”等方面突破類ChatGPT通用人工智能算法安審查困局,確保算法審查規范體系完整有效、國家重點領域核心算法安全可控、國家核心利益和安全不受外部算法技術危害,確保國家處于持續安全狀態。

1.明確專門主體,統籌算法審查宏觀設計

(1)領導主體:中央科技委員會

中央科技委員會履行通用人工智能算法審查的領導職責。今年3月,中共中央、國務院印發的《深化黨和國家機構改革方案》提出組建中央科技委員會的制度安排,統籌解決科技領域內的戰略性、方向性和全局性重大問題[27]。該政策為類ChatGPT通用人工智能算法審查的領導工作指明了方向。算法誘發的非傳統國家安全風險日益呈現出隱蔽性和突發性特征,其影響范圍之廣、規制任務之復雜應當引起國家安全機關的警覺。由分散的執法機構負責算法審查,其審查成本高且缺乏系統性,易滋生多頭審查等亂象,因此,有必要建立由中央科技委員會統一領導的算法審查機關,統籌布局全國算法安全審查工作。

(2)審查執行:國務院算法審查委員會及國家數據局

增設國務院算法審查委員會,負責組織、協調、指導全國類ChatGPT通用人工智能算法安全審查。算法審查委員會履行研究擬訂具體審查政策;組織調查、評估算法安全狀況,發布審查報告;制定、發布算法審查指南;協調算法審查行政執法工作等職能。算法審查委員會的組成和工作規則由中央科技委員會牽頭制定,可將原國家互聯網信息辦公室負責的關于數據、算法安全治理方面的職能向國家發展和改革委員會下屬機構——國家數據局轉移;國家數據局與國家安全部算法審查辦公室組成算法安全聯合審查執法機構,承擔通用人工智能算法審查執行工作;國務院算法審查委員會可向國家各部委派駐算法審查小組,負責縱向指導全國算法審查工作的開展;建立國家、省、市三級算法聯合安全審查執法機構,確保國家算法安全審查執法工作取得實效。

(3)協同共治:平臺經營者和使用者

充分發揮社會主體在算法審查中的協同共治作用。ChatGPT產品標準化意味著其會以接口的形式被嵌入到各大主流應用平臺當中,微軟搜索引擎必應(Microsoft Bing)和辦公系統(Microsoft office 365)全線接入ChatGPT也印證了這一趨勢。盡管審查主體可依據被審查對象組合適用各類審查方法,但當下應用較多的代碼審查和數據抓取審查等方法依舊是基于平臺數據為前提展開的,對平臺產生較強的依賴性[28]?，F有應用平臺在場景化的應用層面覆蓋較為全面,實踐中也以貼合客戶的實際應用需求為主要任務,它們在數據采集層面已經做得很充分。因此,平臺經營者應當作為監測算法安全風險的第一責任人。同時,伴隨著人工智能技術的不斷提高和應用范圍的持續拓寬,平臺使用者的算法素養也隨之獲得提升。政府在國家安全理念方面的宣傳教育將使廣大社會大眾充分認識到國家安全與算法安全的密切關系,他們有意愿,也有足夠的素養儲備為算法審查提供第一手線索來源。因此,算法治理者應當充分發揮平臺經營者和平臺使用者在算法安全審查中的共治作用,夯實算法審查的社會基礎。

2.厘清算法審查范圍,明確算法安全內容

基于類ChatGPT通用人工智能沖擊國家非傳統安全的風險分析,通用人工智能算法審查應以算法文化、算法透明和算法可控為審查內容,突出算法文化監管審查、算法可解釋性審查和算法可控性邊界審查,雖然全國信息安全標準化技術委員會組織制定的《生成式人工智能服務安全基本要求》(征求意見稿)對部分安全內容進行了規范,但仍不全面,需要進一下明確。

(1)以算法文化監管審查確保意識形態安全與情報安全

一是審查算法下掩蓋的西方文化策反因素。以美國為首的西方國家憑借科技領域的主導地位,利用我國全方位、寬領域對外開放和深化體制機制改革“契機”,肆意污化中國共產黨領導和中國特色社會主義道路、理論和制度體系,費盡心機對我國進行思想文化滲透,推銷西方民主政治制度、思想價值理念和社會意識形態[29]。這種蓄謀已久的文化策反政策給我國社會主義意識形態帶來巨大挑戰,因而在算法文化審查上,應當以我國社會主義文化為主基調,重點審查類ChatGPT通用人工智能中暗藏的文化異常因素,特別要將算法中的“美化西方、丑化東方”的文化策反成分進行重點標記和專項清除,以確保通用人工智能算法文化符合社會主義核心價值觀,使之成為我國社會主義文化建設事業順利發展的促進因素。同時,進一步明確算法文化監管審查的社會主義方向和為人民服務內容。我國文化事業發展遵循的是為人民服務、為社會主義服務的方向(17)參見《中華人民共和國憲法》第22條的規定。,這清晰傳達了我國文化事業所遵守的政治立場,也從根本上明確了類ChatGPT通用人工智能算法文化安全審查的基本法律價值。

二是審查算法內部夾帶的西方價值評價。算法嵌入社會生活,體現出西方價值傳播傾向。類ChatGPT通用人工智能算法形式上是進行在線文本聊天,其實質可能是進行價值觀的“靶向”灌輸。ChatGPT使用在信息檢索場景下,其已在不經意間成為價值觀傳播的重要媒介,且具有強意識形態傾向。ChatGPT輸出文本數據所承載的文化信息成為傳播西方意識形態的掩體,使用者在接受該信息時表現出不自覺性與無可抵抗性;該過程的實質是將用戶價值觀置于算法的評價體系之下,也是算法在文化領域獨裁的縮影。算法隱含的各種規則,帶來的不僅是人們自愿接受算法評價,甚至是主動接受算法規訓和自我審查[30]。因此,進行類ChatGPT通用人工智能算法安全審查時,必須對算法夾帶的西方價值評價體系進行審查,確保其符合我國社會主義價值評價要求。

(2)以算法可解釋性審查確保社會公共安全與數據安全

算法可解釋性應在算法設計和應用中得到回應。自2018年9月美國國防高級研究計劃局提出人工智能探索項目以來,西方技術強國紛紛在該領域進行了法治實踐(18)美國國防高級研究計劃局成立于“冷戰”時期,是美蘇爭霸的產物。它隸屬于美國國防部,是以研發軍事用途的高科技武器為主要職能的行政機構。。以歐盟為例,2019年發布的《人工智能道德準則》(Ethics Guidelines for Trustworthy AI)提出了“值得信賴”的人工智能應當滿足數據隱私保護、透明度和公平性,其中透明度即是強調提高數據投喂和算法結果的可解釋性,企圖建立與維護使用者對算法開發者和算法本身的信任;《關于人工智能的統一規則 (人工智能法) 并修正某些聯合立法行為》提案也對算法可解釋性加以強調;《通用數據保護條例》(GDPR)賦予使用者算法解釋的權利。隨著人工智能應用場景的多樣化和復雜化,我國法律也對數據的合規性和算法的可解釋性提出了一些要求,即應當在數據收集和使用中提升數據的完整性和規范性等,在算法設計、實現和應用等諸多環節內持續提能,使其滿足社會對透明、可解釋和可理解的要求[31]。但實踐中,新的人工智能算法成果被推出后,依然會重復算法出現自動化決策的不可解釋性問題。國家安全語境下的類ChatGPT不可解釋性突出表現在,因基礎文本語料庫的開放性和獎勵模型評價體系的非公開性帶來的算法輸出結果的可信任度與算法可控性之間的矛盾。換言之,對類ChatGPT通用人工智能算法的透明審查應當從語料庫和獎勵模型評價體系等方面入手,即從數據喂養和算法邏輯層面展開。

審查基礎文本語料庫的合法性與倫理合規性。ChatGPT是基于基礎文本語料喂養下的人工智能,其政治偏見源于基礎文本語料的價值偏見。目前,訓練ChatGPT的文本數據并非囊括全部的互聯網數據,而是西方技術資本寡頭根據價值需求在國外幾大主流數據庫中有意選擇的數據池,因此,ChatGPT所表達的是西方資本家所信奉的普世價值觀,與我國提倡的集體主義價值觀背道而馳。鑒于此,有必要建立數據本土化保護機制和跨境數據審查機制,嚴防影響數據倫理安全的不穩定性因素流入我國境內,確保本土數據的安全。建立本土數據使用審批制度,確保用戶在與ChatGPT交互過程中正確投喂數據。在此基礎之上,力圖以我國社會主義集體價值觀引導算法向善,規范用戶投喂行為,使供養ChatGPT的數據符合我國社會主義文化事業發展要求。

審查獎勵模型評價體系的公平性與正義感。ChatGPT中的獎勵模型是算法設計者的政治價值表達,具有意識形態性。被嵌入其他應用后,獎勵模型的價值偏見會影響算法對文本數據的評價,調用API接口的應用程序在對用戶行為展開評價時表現出歧視性傾向,最終引起激勵結果的不公平問題。換言之,獎勵模型在對文本數據進行非公正性的排序后,直接導致調用程序進行價值判斷時失誤。類ChatGPT是代碼化的價值表達,具有算法技術的黑箱特性。類ChatGPT審查應當在有限開源的前提下展開,即在國家主體展開審查時其底層代碼應該是開源的,以此做到降低類ChatGPT的算法評價邏輯的黑箱屬性。用透明性價值破解算法黑箱后,類ChatGPT技術價值和功能價值能得以重塑。因此,經社會主義價值改造后的獎勵模型將會更加注重社會結果公平和程序正義,其使政府在社會公共治理領域內把算法治理帶回符合公共目的本質要求,在商事領域更加注重私有性、排他性和秘密性價值[32]。

(3)以算法可控性審查確保國家經濟發展安全

算法的可控性不僅要求算法在運行過程中具備高魯棒性(Robust),算法自主發育及社會應用沖擊也應當符合人類價值預判?？傮w國家安全視閾下的算法可控性審查,即是審查因算法持續進化和全面應用所導致的“機器替代人”的可控程度及人類的應對能力。因此,有必要對類ChatGPT通用人工智能算法國內應用的可控性進行審查,以綜合評估其對國家產業結構和國民就業帶來的沖擊。

審查類ChatGPT算法對人工智能產業發展的驅動力。人工智能作為戰略性新興技術,將成為科技創新、產業升級和生產力提升的驅動力量[33]。通用人工智能算法的長足發展,離開不了算力的支撐。然而,算力的決定因素在于硬件的支撐,硬件的核心是芯片。因此,人工智能產業的發展不僅僅需要將重心置于算法之上,還需要重視以硬件為核心的產業鏈的持續完善。類ChatGPT是人工智能領域的最新成果,其發展缺乏不了硬件的支撐。因此,應當對我國相關產業發展驅動力的有無和大小做出科學的預判。在此基礎之上,出臺相應產業發展政策,推動人工智能與經濟社會深度融合發展;建立安全可控的算法治理體系和開放協同的人工智能創新體系,促進產學研深度整合,提升我國人工智能產業鏈在國際上的競爭力。

審查類ChatGPT算法對社會就業的沖擊。人工智能技術發展是無可逆轉的歷史方向,但是社會仍然需要時間來適應科技變遷,必須保證類ChatGPT在社會實踐替代中能夠實現“軟著陸”,降低對社會就業的沖擊。以ChatGPT為代表的人工智能技術不斷自我發育,以至在諸多領域產生替代性實踐,其在帶來生產效率極大提升的同時,還會造成勞動力技術性失業。鑒于此,應當在整個社會領域內建立算法合理應用領域清單制度,擬定ChatGPT適用范圍白名單和不可使用黑名單;根據技術發展和行業適用能力的變化對應用領域清單開展動態調整,保證適用清單的可行性、合理性和有效性[34]。在單個產業內建立算法分級替代制度,對單個替代性產業進行分層級、分批次替代,以實現產業在算法應用過程中的平穩過渡。

3.制定“算法安全法”以破解政策敏銳立法滯后的困局

為提高通用人工智能算法審查法律規范的前瞻性與規制力,亟須精準研判算法風險,加快制定專門的算法安全法及相關法規,回應算法安全制度的現實需求和總體國家安全需要。立法者可以從以下維度進行構建:

(1)問題導向:彌補現有法律規范的空缺

類ChatGPT通用人工智能算法的快速進化及廣泛應用將對非傳統國家安全形成威脅,專門的算法安全立法應當以總體國家安全為頂層邏輯,充分考慮當下類ChatGPT通用人工智能算法帶來的上述三大威脅,明確通用人工智能算法社會主義價值導向,針對其在文化傳播、價值判斷和算法評價等方面可能誘發的種種問題,將具有“輿論屬性或者社會動員能力的算法”的法律條款表述加以細化,明確標識其類化特征,明確該類算法安全評估的具體內容,制定算法安全評估細則。聚焦類ChatGPT操縱意識形態傳播審查,促使算法應用公開透明,促進通用人工智能算法積極傳播符合價值評判的正能量,引導通用人工智能算法應用向上向善。

(2)懲前毖后:事前審查、事中規范和事后懲治協同優化

創立通用人工智能算法事前安全審查機制,形成事前審查、事中規范和事后懲治的閉環。類ChatGPT通用人工智能算法安全審查是技術審查、過程審查,也是結果預判。算法的技術迷思決定了過程治理是低效率的和高成本的,算法的動態性也決定了試圖通過過程治理來預防算法侵害無異于與風車作戰[35]。由是觀之,算法事前安全審查在理論與實踐上更具有可選擇性:需要明確算法安全的評估細則,督促“具有輿論屬性或者社會動員能力的算法”依據細則開展算法安全評估;需要建立算法安全檢查評估支撐體系和技術隊伍建設體系,以此支撐通用人工智能算法國家安全檢查執法,在上線應用前及早發現安全問題、及時整改。事前算法審查與事中安全評估、分級分類安全管理相銜接,確保專門的“算法安全法”在社會協同治理中更好地發揮效能。

(3)統籌兼顧: 有效銜接《中華人民共和國國家安全法》《中華人民共和國網絡安全法》與《中華人民共和國數據安全法》

專門的“算法安全法”應立足《中華人民共和國國家安全法》規定的總體國家安全,繼承《中華人民共和國網絡安全法》與《中華人民共和國數據安全法》在數據安全方面的立法成果,突破數據安全審查的可能路徑,探索直擊算法審查的具體路徑。專門的“算法安全法”聚焦于算法安全領域審查與治理問題,不僅應當是上述三部法律的同位法,更應是其在算法安全治理方面的有效補充?！八惴ò踩ā睉敼膭钏惴ò踩夹g的發展,推動高等院校培養算法安全人才隊伍建設。此外,“算法安全法”應當在上述三部法律的基礎上展開算法安全科研布局,構建通用人工智能算法審查關鍵技術聯合攻關體系,突破算法安全內生機理、算法安全風險評估、算法全生命周期安全監測等關鍵技術瓶頸[36]。

四、結 語

類ChatGPT帶來的非傳統國家安全威脅使通用人工智能算法安全審查日顯必要和緊迫,我國法律規范體系的日益健全為此提供了現實的制度基礎。類ChatGPT的全面應用誘發意識形態風險、國家情報風險、社會公共安全風險和國家經濟發展安全風險,不僅涉及算法倫理問題,在更深層次映射著與總體國家安全的沖突。因此,必須在符合總體國家安全觀的大框架內建立通用人工智能算法審查制度,對類ChatGPT通用人工智能算法展開全方位的安全審查,以此為示范,進一步推動算法審查制度的完善。通用人工智能算法審查制度的建立與健全不僅能提升國家對科技發展領域的監管能力,也是我國在經濟全球化大進程中應對西方國家算法霸權的必經之路。類ChatGPT國產化之路道長且艱,但舉足不前就意味著出局。ChatGPT的成功不僅是算法發展的成就,也是整個人工智能產業驅動下的成功。僅僅依靠我國國內部分企業正面趕超的做法并非明智之舉,應當從國家層面整合產業布局,在類ChatGPT適應中國價值取舍的前提下加以引進,在符合我國總體國家安全的要求下加以應用,打通整個人工智能產業鏈,從法治、金融、硬件和人才儲備等方面加以保障,從而真正實現類ChatGPT國產化的突破并為國家安全保駕護航。