?

通用人工智能賦能智慧司法:邏輯與規制*

2024-05-10 15:44孫富博李長健
實事求是 2024年1期
關鍵詞:司法人工智能智慧

孫富博 李長健

(1中國船舶集團有限公司 第七二四研究所 江蘇 南京 211153;2華中科技大學 法學院 湖北 武漢 430073)

一、引言

近年來,以數字信息、數字技術、數字平臺及數字業態為核心內容的數字經濟蓬勃發展,已成為推動我國經濟高質量發展和社會進步的重要力量。其中,元宇宙、區塊鏈、人工智能等前沿信息技術的創新與變革,正在重塑國家的治理理念,并引領社會治理的數智化方向。在此背景下,各種以“數字元素+治理領域”的深度融合與實踐,使中國式現代化改革展現出鮮明特征,而智慧司法改革正是這一改革浪潮中的重要組成部分。早在2017年,習近平總書記就明確提出:“要遵循司法規律,把深化司法體制改革和現代科技應用結合起來?!盵1]同年,國務院發布《新一代人工智能發展規劃》,將智能化法庭建設納入其中,最高人民法院也發布了智慧法院建設意見及評價體系。2022年,最高人民檢察院成立了數字檢察辦公室,以推進智慧檢察建設。這充分表明,智慧司法改革一直得到政府和司法機關的積極支持和推動。

司法是保障權利的重要環節,而智慧司法作為現代司法理念的核心,更是強調了權利保護的重要性。隨著ChatGPT 類技術的問世,通用人工智能的發展已經進入新的歷史階段,從弱智能時代逐步向強智能甚至超強智能時代邁進。這種技術的發展深刻地改變了生產方式和思維方式,[2]對法律和科技的關系也產生了深遠的影響,法律和科技不再是簡單的利用和被利用、主導和被主導的關系,而是相互關聯、相互促進的生態聯結。在此形勢下,如何正確處理司法與科技的關系,堅守司法公正,需要從實現權利保護的角度出發,探討通用人工智能如何賦能司法,以期強化司法的民主屬性,回應數字經濟時代社會公平正義維護與人民權益保護的需求。

二、通用人工智能賦能智慧司法的理論研判

(一)ChatGPT類技術與通用人工智能發展

ChatGPT是AIGC(人工智能生成內容)技術的一種,具有極高的顛覆性。它依賴于海量數據和強大的算法算力,基于神經網絡架構技術進行機器學習、預訓練、微調與生成,以此不僅能夠理解人類的自然語言,并記住大量的前置學習訓練內容,還可以在人工標準輔助算法的幫助下進行微調升級并生成高質量的內容,實現機器的深度學習、生成內容的創新性以及人機之間幾乎無障礙的交互。其良好的互動性、高度的通用性和智能性正在加速與人類社會剛性、高頻及深刻的聯結。[3]特別是2023年3月GPT-4的出現,進一步強化了這種聯結。GPT-4在短時間內顯著提升了ChatGPT的智力水平,改變了原有ChatGPT僅支持文本類內容生成的限制,實現全面支持文本、圖像、音頻等多模態輸入及文本輸出,既可以處理復雜豐富的信息,又可以提供更多樣化的服務。它在各種專業和學術領域的基準測試中展現出“人類水平”的性能;[4]在與GPT-4的對話中,已經呈現某些類人意識特征。據國外專家評估,GPT-4已經達到了9歲兒童的心智水平。[5]ChatGPT類技術已經超越了狹義的人工智能,接近人們所理解的通用人工智能,開啟了通用人工智能發展的新篇章。以ChatGPT類技術為起點的通用人工智能正在爆發式發展,為人類社會帶來巨大的變革和進步。

習近平總書記強調:“人工智能是引領這一輪科技革命和產業變革的戰略性技術,具有溢出帶動性很強的‘頭雁’效應?!盵6]因此,在數字經濟時代,發展通用人工智能,掌握關鍵通用人工智能核心技術,成為新時期引領科技革命和產業變革的關鍵,也是國家核心競爭力的體現。2023年4月,中共中央政治局召開會議,指出“要重視通用人工智能發展,營造創新生態,重視防范風險”;[7]同月,國家網信辦發布《生成式人工智能服務管理辦法(征求意見稿)》;7月,網絡安全等級保護與安全保衛技術國家工程研究中心又發布《通用人工智能AGI等級保護白皮書》來規范指引通用人工智能發展。我國正在通用人工智能走深走實道路上快速前進。

(二)通用人工智能賦能智慧司法的基本邏輯:權利的司法保護

在我國數字司法和智慧司法改革的推動下,人工智能在司法領域的應用日益普及和廣泛。[8]隨著技術的深入發展,數字司法和智慧司法對數據處理能力、結果準確性和可靠性的需求日益增長,同時對自然語言生成與理解能力的要求也越來越高,這就決定了以ChatGPT技術為起點的通用人工智能在司法領域的應用前景廣闊。但同時也應清晰認識到,ChatGPT技術社交性、自主性、反應性和機動性改變了傳統的人與輔助機器人的交互規則,人與機器的關系已經從單方面利用向機器參與決策分析轉變,進入了一個全新的人機耦合生態空間。這給現有的司法業務、司法權力運行和司法權力保護帶來了很大沖擊,對既有的司法倫理和正義構成了挑戰。因此,我們既要看到通用人工智能發展對司法技術的賦能價值,同時也要站在更高的角度,回歸智能治理的人本主義價值、自然法善的價值以及司法本源的價值和作用,[9]順應通用人工智能的發展實際,從權利保護切入,站在數字經濟時代依法治國的全局高度,革新司法思維方式、組織形式和治理邏輯等,以開放和自我革命的態度,對整個司法體系進行全面賦能。以期在此基礎上發揮司法的作用,使其引導大模型、通用人工智能向善發展,維護社會公平正義,強化Web3.0數字經濟時代人民權利的有效保障。

1.人民維度:依法保障人民權益的智能訴求。1949年,毛澤東在《論人民民主專政》中指出:“我們現在的任務是要強化人民的國家機器,這主要地是指人民的軍隊、人民的警察和人民的法庭,借以鞏固國防和保護人民利益?!盵10](P1476)人民性是中國特色社會主義司法制度的本質屬性,是新時代習近平法治思想中司法改革的核心要義。無論什么時代,依法保障人民權益的目的和司法為民的職能不能變,這就要求司法要積極回應人民群眾對公平正義的新要求、新訴求、新期待,保障人民合法權益不受侵犯,保護公民權利有效落實。

首先,通用人工智能賦能可有效促進司法打擊犯罪。通用人工智能在司法領域的應用可以促進打擊犯罪的有效性。隨著ChatGPT等人工智能技術的智能化水平不斷提高,其在提高經濟和社會活動便捷性的同時,也為違法犯罪行為提供了便利。如自動化攻擊使得違法犯罪行為更加隱蔽、高效、低成本和廣擴散,這對司法機關的偵查活動和打擊犯罪帶來了巨大挑戰。傳統的物理世界行為規制的邏輯已經無法應對數字經濟時代形式多樣、復雜多變的違法犯罪活動。因此,司法機關需要轉變思路,積極利用通用人工智能賦能,將技術與法律相結合,實現偵查的便捷、高效和低成本。這種結合不僅是技術以輔助性地位嵌入,而且是技術和法律價值的協同和功能互補耦合。[11]通過這種方式,可以促進檢察機關公益訴訟制度的發展,實現類案監督和社會治理的轉型。同時,通用人工智能賦能也有利于推進司法機關融入黨的二十大所倡導的“共建、共治、共享”格局,走向更加符合數字化時代公平正義和權利保護特征的多元主體協同全過程性治理模式。

其次,通用人工智能賦能可有效增強司法對新興權利的保護。隨著數字網絡、人工智能等科技的發展,人們對科技帶來的利益保護需求,特別是將利益上升至權利層面進行保護的意愿越來越強烈。由于立法無法及時有效地回應復雜多元的新興權利訴求,這些訴求便大量涌入司法領域,司法已然成為化解新興權利訴求矛盾的第一道防線,也是這些新興權利實現和落地的關鍵。在數字經濟時代,新興權利呈現出保護依據、存在樣式與行使方式的動態變化和價值多元化,[12]這增加了保護的敏感性和謹慎性,即對其保護要精準地兼顧社會效果、長遠利益和立法預期,防止因處理不當而影響經濟社會發展與穩定。因此,在對新興權利進行識別、衡量、確認和保護時,需要以大量經驗事實的獲取與分析為基礎,采用體系化、比較、實證研究方法,增強法律問題相關性分析,進行科學充分的評估與論證。這需要改變傳統的權利論證方式,創新司法方法的運用,發揮通用人工智能對多元化社會價值取向和社會需求包括民情民意、難點堵點、風險預判等方面大數據的挖掘、分析作用,提升新興權利研究效率及保護的精準性和有效性。[13]同時,新興權利中的數字權利基于算法的可計算性,要求司法對數字權益糾紛應通過智能和可計算的特殊性救濟方式加以解決,這決定了司法救濟對人工智能大數據技術的依賴性。[14]

2.公正維度:權威高素質司法隊伍建設的智力要求。

黨的二十大報告指出:“加快建設公正高效權威的社會主義司法制度,努力讓人民群眾在每一個司法案件中感受到公平正義?!盵15]公正司法是人民群眾的新期待,是司法的生命線,司法公正與否直接影響司法的公信力。[16]實現司法公正,就是要解決影響司法公正的深層次問題,[17]有效抑制司法技術問題和因腐敗問題造成的判案不公與錯案冤案。隨著ChatGPT 類技術的發展,我們看到了通過相關智能技術賦能,可顯著提升司法隊伍的司法能力和規范司法行為,降低因司法中“人”的任意性因素造成的不公。一方面,正如拉倫茨所言,“只有同時考量法律規定的全部,才能認識一項法條的真正適用范圍”。[18](P140)ChatGPT類技術基于強大的算法、算力及深度學習訓練,展現出龐大的法律知識儲備與基于算法的法律融貫性理解。這種技術可以顯著提高對常規案件處理的效率、準確度和公正度,特別是在國家推崇要素式審判以及當代建構主義下的中國法去倫理化趨勢下,[19]增加了ChatGPT類技術與司法深度交互的可能性。然而,人們也擔心算法偏見會帶來執法司法的不公,但我們應該理性對待這種偏見。在現實裁判中,法官難以避免嵌入價值多元社會中,存在主觀恣意,難以避免價值偏見。相比之下,人工智能在隨著ChatGPT類技術發展完善的過程中,通過規范機器學習和人工標注技術,可以保持較高的司法標準性和統一性。在常規案件處理上,這種標準性和統一性既可以減輕司法人員的案件處理負擔,解決“案多人少”的矛盾,又可以有效防止司法干預和腐敗,呈現更為科學合理的公平正義。另一方面,ChatGPT類人工智能作為元宇宙的重要組成,其賦能必然帶來司法的平臺化、去中心化。通過將司法推上社會的“陽光下”全流程運行,可以保證司法的公正廉潔。這種發展趨勢符合習近平總書記對司法公開透明的要求。

3.治理維度:司法便民利民的智治需求。完善便民利民司法服務機制,滿足多層次、多元化司法服務需求,并建立與之對應的訴訟服務體系、公共法律服務體系是近些年司法改革的重點。隨著司法智能化的推進,科技賦能使司法服務水平得到了明顯提升。例如,在訴訟領域,智能訴訟服務大廳、服務網、服務熱線的建設實現了從現場辦向“網上辦”“掌上辦”的轉變,為當事人提供了更加便捷、高效的司法服務。此外,司法部提出的“十四五”期間要建成覆蓋全業務、全時空的法律服務網絡規劃,進一步增強了公共法律服務能力。[20]然而,便民利民司法服務機制的構建仍處于發展階段,服務的量度、廣度、深度以及平衡度仍有待提高。ChatGPT類技術的出現,為便民利民司法服務質變提升提供了極強的推動力。一方面,ChatGPT類技術可以成為當事人便捷、低成本的“律師”,依靠大數據及算力生成法律知識的及時性,可助力法律知識傳播去中心化,降低法律服務的邊際成本,也客觀地回應群眾“沒有錢打、沒有律師求助”的問題。另一方面,Chat-GPT類技術服務的普惠性與公平性可以有效解決法律服務區域、城鄉發展不平衡的問題,保障人民司法發展權。在訴源治理方面,ChatGPT類技術的應用可以進一步優化智化司法。相較于傳統人工智能,ChatGPT類技術可以生成更加專業、精準以及貼近當事人需求的預估結論。當事人對訴訟結果進行清晰、準確的預計可促使其將主要精力花在多元化糾紛化解上,滿足司法助力和賦能新時代“楓橋經驗”實踐的需求。

三、權利保護語境下通用人工智能賦能智慧司法的現實挑戰

(一)通用人工智能賦能智慧司法面對的風險

通用人工智能在通過數據收集、挖掘和分析進行智能賦能的過程中,應用于智慧司法領域時,需要面對與數字治理中權利保護的通用性問題,包括數字安全、數字倫理和數字正義。由于司法在社會治理和權利保護中占據特殊地位,因此相較于其他領域,相關問題的復雜性和重要性等級更高,應對更為復雜。

1.數字安全:國家與個人數據保護。首先,增加了國家數字安全風險。數字安全是國家安全的重要組成部分,智慧司法的發展及數據使用必須在國家數字安全體系的框架下運行,以確保數據安全。一方面,由于ChatGPT 類技術的發展主要源于西方國家,因此基于西方技術研發的通用人工智能在數據收集、挖掘、處理方面容易受到西方價值觀和思維方式的影響,從而影響技術的中立性。這可能會帶來價值偏向和意識形態滲透,對國家的文化、價值觀和國家安全造成威脅。這樣的技術應用于司法領域,可能會對我國現有的司法倫理產生破壞性影響,沖擊中國特色社會主義制度下的司法正義,甚至可能以西方的價值觀干預司法工作,破壞司法公平,進而影響社會穩定。另一方面,通用人工智能的發展必然會面臨數據公開化與去中心化的問題。在數字信息敏感度不足、保護意識不強的情況下,一些司法機關在智慧司法考核壓力下將整個智慧司法搭建外包給科技公司,可能會導致涉及敏感信息的司法數據被西方獲取,并通過深度挖掘、分析對我國進行監控,這將對國家主權和國家安全造成嚴重影響。因此,數據公開化與去中心化增加了被境外以及不法分子攻擊的可能,同時也增加了數據泄露和違法利用的風險。其次,增加了個人數據安全與隱私權保護的風險。一方面,在數據收集過程中可能會引發個人信息保護問題。司法機關在通用人工智能數據庫搭建過程中需要收集案件事實、證據等數據材料,并利用這些數據進行訓練與優化以提高智能水平,然而,這會產生智慧司法與個人信息保護之間的利益矛盾。如何找到平衡點,做好智能發展與個人數據尊重保護之間的利益協調,是亟待解決的問題。另一方面,通用人工智能的發展也引發了新的隱私權保護問題。由于司法信息公開而引發的隱私權保護問題一直是智慧司法的老問題。然而,隨著ChatGPT 類技術的發展,這個問題還面臨著現有的保護措施能否有效應對通用人工智能強大的算法和算力的挑戰。例如,通過ChatGPT類技術基于相關性分析,可以挖掘出當事人信息;通過畫面數據處理,可以去除打碼等,將當事人的隱私暴露在陽光下。這些問題都是不能忽視的。

2.數字倫理:社會價值回應與司法責任承擔。在人工智能技術的發展過程中,數據倫理問題逐漸成為人們關注的焦點。在司法領域,人工智能技術的運用也引發了一系列倫理問題,如算法歧視和算法黑箱等。然而,最主要的倫理問題是通用人工智能司法的人本溫度和社會價值回應。盡管ChatGPT等技術已經展現出人工智能對法律理解的情景判斷趨勢,但價值判斷仍是人工智能無法代替人類在司法中的作用。因此,我們需要回歸司法的社會價值來理性判斷這一倫理風險。當前法治化進程快速推進,一定程度上泛化了司法的社會價值,過于強調司法的宣傳和影響效果,追求公眾的司法認同。然而,法治終究是規制之治,需要以客觀的標準來規范。無論是宏觀層面的法治理念、法治戰略,還是微觀層面的執法、司法、守法,都需要以某種標準呈現,而且是客觀的標準。因此,需要以實用法條主義和適度的司法能動協同,找尋司法法理與社會功能的互補?;诖朔N意義而言,通用人工智能賦能司法不存在根本性的倫理障礙,至少在司法體系中對于大部分事實清楚、證據確實充分的案件不存在較大的價值沖突抑或判斷的案件辦理中不存在障礙。司法倫理最需要解決的是復雜、疑難或是無明確的法律規制,需要引領社會價值風尚的案件如何賦能的問題。在這個過程中,我們需要充分發揮人工智能技術的優勢,同時注重保護人權、維護社會公正和法治秩序等基本價值。

此外,通用人工智能在司法領域的運用,無疑增加了司法責任承擔的復雜性,為新時期全面準確落實司法責任制改革提出了新的挑戰。例如,當通用人工智能獨立進行司法工作時,如果出現司法不公的情況,責任應由誰承擔?是科技公司、算法設計者,還是其他相關人員?如果需要承擔責任,又應該遵循何種價值觀來設定追責的尺度和標準。另外,當通用人工智能與檢察官、法官共同參與司法工作時,責任應該如何分配?責任是否可以減免?如何在人機交互的背景下實現司法權責的統一,以及權力的有效制約?這些問題都需要進行深入的探討和研究。

3.數字正義:司法人權與平等。數字正義要求在智慧司法中立足人權視角,努力消除數字鴻溝,以確保司法服務的普惠與平等。但現實中,通用人工智能的廣泛應用卻使這一鴻溝變得更為明顯。首先,通用人工智能在司法中的廣泛應用加劇了控辯雙方的地位不平等。司法機關憑借國家力量推進的通用人工智能技術,在案件數據獨占、強大算力和數據整合能力方面占據優勢,并進一步強化了其在刑事訴訟中的地位。對于本就處于弱勢地位的被追訴人、代理辯護人等,他們往往面臨數據信息獲取的不對等和信息不對稱的尷尬境地,無法保障控辯雙方的實力平等與均衡。這種情況可能導致司法權的過度擴張,對相關主體的合法權利造成擠壓。其次,在民事案件中,對通用人工智能運用案件處理能力的差異,放大了主體間訴訟地位的不平等,對司法正義造成沖擊。例如,在強個體與弱個體之間、個體與大公司之間的訴訟中,這種不平等表現得尤為明顯。最后,盡管通用人工智能在司法中的核心目標是司法為民、便民利民,但對于那些對通用人工智能持懷疑態度、習慣于傳統方式、不愿接觸或無能力運用新技術的當事人來說,通用人工智能并沒有增強他們參與司法活動的信任度、便捷度和滿意度。相反,他們可能會覺得自己的司法權利受到了侵害。特別是對于難以熟練運用科技的老年人、殘疾人等弱勢群體來說,他們無法充分享受通用人工智能帶來的便利,導致司法權利行使的不充分和司法公正實現的困難。

(二)通用人工智能賦能智慧司法推進過程中的內生障礙

我國智慧司法的發展主要依賴于“自上而下”的推動,但在實施過程中,由于目標差異和考核機制的問題,智慧司法并未形成有效的內在需求,缺乏整體聯動,導致智慧司法的整體應用水平相對較低。[21]通用人工智能賦能智慧司法需要以原有的智慧司法建設為基礎,然而,目前的建設和發展水平對未來的通用人工智能賦能智慧司法卻帶來了一定阻礙,其中最大的是數據庫問題。數據是通用人工智能發展的基礎,ChatGPT類技術在國外法律領域之所以能迅速發展,并在準確性和客觀性上實現質的提升,是因為它們對數據法律、政策的模型訓練達到了驚人的幾十TB程度,這很大程度上依賴于國外公開領域大量高質量的數據支持。相比之下,我國的法律數據不充分、結構化不足,其數量和質量還不能有效滿足通用人工智能賦能智慧司法的需求。此外,地方保護主義也是阻礙高質量數據庫形成的一個重要因素。[22]除了上述問題,長期以來,我國司法組織傾向于在封閉和半封閉的狀態中完成司法行為,與外界交流較少,這在一定程度上影響了信息技術帶來的司法變革。[23]尤其是通用人工智能可能會對法官、檢察官等司法地位產生一定的影響,對原有的司法工作帶來一定的挑戰與變革。即使通用人工智能的賦能可以極大地減輕司法人員的工作負擔,但基于自身利益的考量和固有的思維慣性,其主動擁抱通用人工智能發展的積極性并不強。

四、權利保護語境下通用人工智能賦能智慧司法的規制路徑

(一)數字主權安全與私權保護的雙核心地位

我們黨和政府一直堅持維護數字主權,加強數字安全屏障,并激發數字經濟的活力。習近平總書記指出:“互聯網發展也給世界各國主權、安全、發展利益帶來許多新的挑戰?!盵24]沒有強大的主權支撐和安全穩定的社會環境,談論通用人工智能的發展和賦能是不切實際且無法實現的。因此,數字主權和數字安全是通用人工智能賦能智慧司法和權利司法保護的前提條件和實現基礎。在技術層面,當前數字主權和數字安全的核心理念是我國應主導本國的數字技術和通用人工智能的發展權。這意味著必須構建數字技術主權,發展核心數字技術,避免對西方技術的依賴,保障國家數字生態鏈的安全。[25]為此,實現這一目標需要國家力量、政策和資源的推動。首先,要重視數據安全對國家主權和國家安全的影響,關注數據的深層次價值,對數據進行科學審查,實現數據動態分級監控。其次,規范司法信息公開和通用人工智能司法數據庫的搭建,合理隱藏或限制公開可能涉及國家主權安全等敏感數據信息,防止境外西方國家對我國數據安全的侵犯。此外,在通用人工智能賦能智慧司法方面,一是基于司法數據國家安全的考慮,可以設置保密資格門檻,對科技公司進行保密資質審查。不符合保密資格要求的不能作為合格的服務方。同時,盡量選擇國產技術替代方案,如果不能實現,需要對智慧司法相關技術進行國家安全影響評估和倫理審查,以防止技術不中立并攜帶西方價值觀對我國司法正義的破壞和威脅。二是司法領域應主動與相關科技公司開展通用人工智能研發和課題攻堅,根據我國的司法實踐,優化數據結構和算法模型。

在數字主權和數字安全的基礎上,應著重關注當事人的數據安全和隱私權。首先,應在個人數據的收集、處理和應用上堅持最小限度原則。無論是基于司法數據庫搭建還是偵查、監督工作需要收集當事人個人信息的,都應嚴格按照收集的目的來確定范圍和界限,并確保當事人的知情權和同意權。即使相關信息收集涉及公共利益的保護,也要在履行告知程序后,以最小限度的方式進行收集,并進行有效的隱私保護。特別是在通用人工智能時代,數據收集變得更加便捷,因此要對司法機關的收集行為進行限制,防止其以“公共利益”為名濫用司法權力并造成對個人權利的侵害。另外,當司法機關運用通用人工智能對相關數據進行分析和處理時,也應該堅持最小限度原則,僅應圍繞案件訴求和關聯度進行有限度的數據挖掘,而不能過度分析和處理?;诖?,需要出臺相關規則,以最小限度原則理念,保障當事人的數據權利,并對司法機關的收集、使用行為進行規制。其次,應對公開數據進行合理的保護,特別是對信息數據標識化處理技術的有效性進行檢驗。而現有的通過隱名、遮蓋、打碼、刪除等技術對案件信息進行去標識化后進行公布的方式實際上存在一定的風險,因此要改變隱私保護的方式,[26]從通用人工智能模型算法的反向思維入手,主動查找現有去標識化被破譯的風險,優化司法公開信息中的隱私權保護。

(二)社會價值合理呈現下司法工作機制與包容性司法責任追究機制構建

1.構建人機深度交互和人機分工科學明確的司法工作機制。在技術可靠性前提下,應構建通用人工智能與司法人員多層級分工協作的司法工作機制,并制定正面清單和負面清單。首先,隨著通用人工智能的發展,對于已經可以實現技術對人替代的司法工作,要敢于制定正面清單,明確相關工作必須應用人工智能來處理。為了防止出現司法倫理問題,可以采用技術和組織機制進行合理規避。在技術層面,可以基于區塊鏈、元宇宙技術,構建多個機器人多級審理、審核與監督機制,最大限度地防止因單個機器人算法被滲透而引發的司法公正問題。同時,區塊鏈、元宇宙技術的應用也可以規制算法黑箱問題。在組織層面,應尊重并考慮當事人可能需要此類案件進行價值判斷,可以增設倫理審查委員會,對相關事項進行價值判斷,發揮“人在回路”的作用。其次,對于目前通用人工智能發展水平尚不能完全替代的司法工作,應科學制定負面清單。例如,在相對保守的審判領域,最高人民法院發布《關于規范和加強人工智能司法應用的意見》明確指出,“無論技術發展到何種水平,人工智能都不得代替法官裁判”,[27]這確定了人工智能在審判領域的負面清單基調,但其并非要完全剔除人工智能,而是要實現人與機器的合理分工協作。隨著通用人工智能的發展,可以逐步減少人的要素占比,通用人工智能可以在審判中發揮初步分析、預判等優勢,而法官則在此基礎上可進行深入的倫理標注,以最大限度保障司法結果的公正。最后,應充分利用司法倫理爭議較小的司法環節,如案件預估、審前羈押、保釋等,以此完成司法數據的收集、大量的數據模型訓練以及算法調整等工作,逐步完善通用人工智能的司法功能。

2.構建包容性司法責任追究機制。在構建責任機制時,要處理好安全與發展的關系,不能因通用人工智能賦能司法這個特殊領域就過于嚴苛,以免束縛研發人員的創新精神與積極性,阻礙通用人工智能賦能智慧司法的進度與深度。[28]在追究通用人工智能的司法責任時,要總體保持包容合理的限度,嚴格區分故意、過失與不可抗力等,構建科學的司法責任追究機制。對此,可以借鑒企業合規試點經營的經驗,如果科技公司、研發人員對通用人工智能的不足與錯誤率進行事前充分預估、明示以及提出相關方案,并在全流程技術服務上合規盡職履責,對在發生風險時積極采取措施控制風險蔓延,等等,應考慮減輕或免除處罰。同時,積極探索以經濟責任為主的追究機制。此外,要探索人機合作下責任的劃分與責任減免。雖然以人承擔責任為主,但要科學劃定責任范圍,做好責任減免工作,防止挫敗司法人員運用人工智能的熱情。例如,司法人員完全按照使用標準使用人工智能造成危害后果的,應構建合理的責任減免機制。

(三)通用人工智能賦能智慧司法的“當事人中心”走向

1.在數字人權背景下構建通用人工智能時代實質平等的控辯關系。我國控辯關系已經進入“合作為主,對抗為輔”的階段,并不斷向以控辯平等為追求的方向良性、科學發展。[29]通用人工智能的賦能有助于掃除控辯平等發展中的障礙,推動協商性司法的發展,構建科學的控辯機制。因此,需要構建數據信息共享與信息披露機制,增加透明度,降低因力量和資源懸殊而帶來的實質不平等。但也不能回避因信息對稱與絕對透明,犯罪嫌疑人可能會借助通用人工智能了解到司法機關的調查進度與深度,而故意隱瞞犯罪事實等,從而增加刑事偵查的復雜性、難度性以及提高證據收集的要求。在這種情況下,司法機關需要順應數字經濟時代的發展特點,根據技術發展不斷轉變理念、創新工作方法。例如,數據信息共享可以基于證據信息進行依法、雙向、誠信、分級開示。[30]同時,為了減輕因信息對稱和透明造成的司法機關權限和籌碼被知曉,在司法協商中處境尷尬,需要創新認罪認罰等相關制度。

2.基于知情權與選擇權下建立互信與普惠的司法服務體系。對于那些對通用人工智能抱有疑慮的人群,應給予他們合理的選擇權和拒絕權。同時,要不斷提升司法服務的水平與方式,使通用人工智能在司法領域的運用更加人性化,提高其信任度和便捷度,引導相關當事人逐步接受并適應司法工作與服務的變革。為了實現普惠司法,需要特別關注弱勢群體,并幫助他們更好地利用通用人工智能進行司法活動。同時,從全局出發,加大投入力度,關注通用人工智能賦能智慧司法區域和城鄉發展不平衡的問題,確保每個人都能平等地享受司法服務。此外,在通用人工智能的背景下,應給予訴訟地位弱勢群體合法且合理的賦能援助,以盡可能平衡雙方的訴訟地位,實現司法正義。

(四)上下聯動與觀念創新支撐通用人工智能賦能

解決好數據問題和人機沖突問題是推進司法領域通用人工智能賦能的關鍵。首先,在堅持原有智慧司法、數字司法自上而下推進模式的同時,重點關注通用人工智能賦能智慧司法發展的障礙性問題,特別是高質量數據庫的搭建。通過在中央層面設置司法數據采集內容的統一標準與規范,可以克服司法數據地方化的“百家爭鳴”現象,從全局性統籌規劃高度建設司法數據庫。其次,堅持漸進性的推進思路,重視內生動力的產生和向上推動。在通用人工智能賦能階段要優化考核機制、暢通上下聯結溝通渠道,充分聽取一線司法人員對智慧司法的現實性需求與運用障礙;同時,要在上級統一規劃的基礎上,充分調動下級的積極性,實現上下聯動創新發展,推進通用人工智能賦能智慧司法更加高效實用與便捷。最后,要創新司法文化,引導司法人員轉型。隨著通用人工智能的發展,法律工作的去中心化、技能化、資歷化等已成為必然趨勢。這對許多依賴習慣和經驗從事司法工作的司法人員提出了變革性挑戰。因此,要引導司法人員理性認識通用人工智能的發展,接受初級和中級司法工作將逐步被機器替代的事實,逐步轉向從事高階司法工作,主導知識驗證、創新與價值判斷等知識權利,鞏固人在司法工作中的主體地位。[31]

猜你喜歡
司法人工智能智慧
制定法解釋中的司法自由裁量權
司法所悉心調解 墊付款有了著落
2019:人工智能
非正式司法的悖謬
人工智能與就業
數讀人工智能
下一幕,人工智能!
論司法公開的困惑與消解
有智慧的羊
智慧派
91香蕉高清国产线观看免费-97夜夜澡人人爽人人喊a-99久久久无码国产精品9-国产亚洲日韩欧美综合