智慧司法輔助審判系統中算法歧視的成因與對策

彭家闊

（湘潭大學法學院，湖南湘潭 411105）

隨著智能化、信息化建設不斷發展并滲透到生活的各個層面，人工智能技術也不斷刷新行業業態，以不可思議的速度蓬勃發展并被廣泛應用，不僅開始重塑各行各業，而且對具體應用場景也進行技術賦能，形成“一加一大于二”的協同效應。自黨的十八大提出全面依法治國以來，這一效應在司法領域尤為凸顯，形成了多種“人工智能+司法”的協同模式，助力全面依法治國戰略的實施。2010 年，習近平總書記在中央政法工作會議上提出“推動大數據、人工智能等科技創新成果同司法工作深度融合”［1］。最高人民法院、最高人民檢察院自2016 年以來也相繼出臺了一系列關于“智慧法院”和“智慧檢務”的建設規劃文件。在此背景下，杭州率先推出了法律人工智能機器人“法小淘”。隨后，北京、上海相繼推出了“睿法官”智能研判系統、“206”刑事案件智能輔助辦案系統，河南省人民檢察院上線使用“小包公”智能量刑輔助系統。2022 年，全國多地都構建了地方化的智慧司法輔助裁判系統，這些系統的應用提升了司法裁判活動的效率，在一定程度上解決了當前“案多人少”的司法裁判困境，形成了人工智能賦能司法活動的基本格局。

人工智能技術與司法裁判活動相結合為新時代我國司法體制改革注入了新動力。我國的智慧司法輔助審判實踐已處于世界領先地位，但在司法領域全面推進“智慧司法”建設的大背景下，基于“先發展后治理”的發展模式顯然已不合時宜，由美國的“威斯康星州訴盧米斯案”引出的算法規制難題亟待解決。當前我國對于司法領域算法規制的法律制度供給略顯不足，較難適應智慧司法的發展需要，左衛民教授指出，人工智能與法律相結合的研究，在話語與實踐、國內與國外之間存在著較為明顯的“冷熱差異”［2］。實踐中缺乏合理的審查、制衡機制，且對于人工智能技術的應用多為機械式的平移適用，導致技術人員在進行智慧司法系統編碼設計時簡單地適用法律程序，加之主觀偏見和法學素養不足，致使算法歧視問題加劇，影響裁判結果公正。

一、智慧司法輔助審判系統的司法邏輯

想要探究智慧司法輔助審判系統中的算法歧視成因，首先要明確智慧司法輔助審判系統內在的司法邏輯架構，了解輔助審判系統的緣起，才能探求出相對合理的治理范式。

（一）輔助審判系統的形成邏輯

在傳統司法審判中，司法裁判都是由司法機關依法獨立行使審判權，不受任何機關、個人、社會團體的干涉，從名稱看當前的智慧司法輔助審判系統被界定為輔助工具已無異議。智慧司法輔助審判系統自出現就備受關注，打破了人們對于人工智能司法的認識，就像當初“阿爾法狗”戰勝世界圍棋冠軍那樣令人不可思議。通過大量數據訓練進行學習的智慧司法輔助審判系統對于案件的裁判準確率甚至已經超過了法官等專業人士，數次司法裁判比賽的結果顯示，人工智能裁判的準確性已經超過人類裁判。在使用歐洲人權法院的裁判文書進行實驗時發現，利用人工智能算法對涉及基本人權的584 個司法審結案件進行模擬裁判，有79%的案件裁判結果與法院裁判結果一致，剩余21%的案件由于人工智能檢測到法律事實與案件出現差異而與法院裁判相異。在另外一次測試中，來自英國的研究者組織人工智能與100名資深律師進行保險合同案件檢查，最終結果是人工智能以86.6%的準確率遙遙領先于專業律師們的66.3%［3］?？梢哉f，在簡單裁判領域，智慧司法輔助審判系統已經能夠勝任“法官”這個角色。在實際司法裁判過程中，法官在審判經驗指導下對簡單案件可以快速準確裁判。而問題在于，簡單的案件總是占據法官們大量時間，從而在員額制改革背景下加劇了審判效率不高的現狀。據最高人民法院工作報告顯示，2013年至2018年，各地人民法院每年審結的一審案件呈逐年上升的趨勢，與此同時，“案多人少”的司法難題進一步加劇。輔助審判系統成為法官完成簡單司法審判任務的助手，幫助法官從繁雜的司法任務中解放出來，更加高效地完成疑難案件的庭審任務，從而實現以審判為中心的司法責任制改革目的?？梢哉f，當前智慧司法輔助審判系統的產生不僅是人工智能技術發展的必然結果，更是我國司法審判制度改革的現實需要。這對人工智能輔助審判算法提出了更高層次的要求，避免算法歧視也成為保障算法輔助審判公正最重要的一環。

（二）輔助審判系統的審判邏輯

智慧司法輔助審判系統的審判邏輯和傳統的三段論邏輯不同，人工智能輔助審判以過往司法案例大數據為重要依托，將已經裁判生效的案件通過模塊化拆解、分析，通過將“案件事實”“罪名”“刑事責任”“年齡”等要素模塊化，并通過不同模塊影響定罪量刑的程度來進行專家賦值，而后通過機器深度學習、卷積神經網絡的便利，得出最優的裁判結果和關聯類案推送給法官參考。和傳統審判以法律條文為邏輯起點不同，人工智能審判的邏輯起點是歷史司法審判數據。因此，相較于判例法國家，成文法國家司法審判系統中算法歧視的存在更是對現有法律文本的巨大挑戰，經過算法訓練的人工智能輔助審判邏輯，極大可能會突破法律條文的邊界。相較于傳統的司法裁判邏輯，智慧司法輔助審判下的算法裁判更具有經驗主義色彩。然而，法律文本成分的弱化并不當然意味著以司法數據為依托的智慧司法輔助審判缺乏法律正當性。實踐中法官在衡量具體案件和法律條文的映射關系時，法律文本給予法官的指引非常有限。例如在面對一些自然犯時，法官并不能直接通過法律文本指引判斷被告人的主觀心理要件，其往往需要借助案件中的證據、犯罪行為、后果等客觀要件來推斷被告人的主觀意圖［4］。在實際審判過程中，司法審判的核心是如何將案件的主觀要件與客觀要件建立現實聯系，而非裁判結果與法律條文的強映射性。因此，法官必須借助以往的審判經驗結合法官職業素養對案件作出裁斷，而以往的裁判經驗單靠法官人力搜索難以完備，這成為阻礙司法審判效率提升的一大障礙，幸而在人工智能、大數據技術的助力下，智慧司法輔助審判系統應運而生，成為法官裁判的助手。當然，算法輔助決斷的弊端也難以掩蓋，基于司法審判數據生成的智能輔助審判系統的算法歧視問題成為當下亟待解決的一大難題。

二、智慧司法輔助審判系統中算法歧視的成因

所謂算法，就是一系列的編碼指令，通過這一串具有邏輯性的數字指令可以解決既定問題、實現編碼目的。算法可以通過海量的數據訓練進行基于統計學的隨機性控制。目前廣泛適用的機器學習算法模型，從運行過程來看就是通過構建初始模型，輸入訓練數據，再根據所輸入數據進行自主訓練學習，之后對數據進行驗證，確認算法的可靠性，進而完成算法的模型訓練，生成最終模型［5］。了解機器學習算法的訓練過程，有助于我們探究智慧司法輔助審判系統中的算法歧視成因。

（一）算法模型構建者的人為歧視嵌入

歧視是人類社會中普遍存在的社會現象，而算法又是人類決策邏輯的數字化映射。因此，算法歧視在極大程度上源于社會認知，并經由社會認知塑造出的人類潛在意識的數字化算法轉化，對現有文化語境下存在的歧視進行歸納或者同構后形成文化禁錮或社會禁錮［6］。在計算機領域，很長時間以來人們總是認為程序因其工具屬性只有效率性和準確性基本不會受到人為因素的影響，即所謂的算法中性理論，但是隨著人工智能技術的發展，機器學習理論的不斷深入，算法中性理論被算法歧視理論所取代。即輸入數據內容中若含有歧視要素，則輸出的結果也必然帶有歧視色彩。更為關鍵的是模型的開發建構者將其本身帶有的歧視性觀點通過算法的編碼表達映射出來，這種人為潛在的歧視也可能是無意識的。在司法模型的建構中，對于開發者開發出的算法模型的隱性歧視的識別化解至關重要，因為系統本身的算法模型歧視可能會在后續的數據訓練中被加強，甚至在深度學習過程中把潛在的歧視因素賦予更高的權重，加重算法歧視。

（二）司法訓練數據“缺位”

基于訓練數據培養的算法模型的準確性來源于數據。司法裁判數據的廣度決定了智慧司法輔助審判系統的精度。只有在海量司法數據的“喂養”下，輔助審判系統才能在海量、準確的司法裁判數據中提取出類案的審判經驗和規則體系［7］，為人工智能賦能司法研發提供“燃料”，提高智能化審判的準確性，保障司法公正［8］。在輔助審判系統的實際研發過程中，鑒于不同地區法院辦理案件的性質、種類存在著差異，對于司法訓練數據的輸入樣本主要是靠各輔助審判系統開發地區所擁有的司法數據樣本進行訓練，但還有很多司法數據并沒有被允許使用，而不同地區的案件數量的差異性也導致了智慧司法審判算法的數據訓練量并沒有達到預期的要求。此外，隨著時代的進步發展，除了一些自然犯之外，新興犯罪的產生也給輔助審判系統的數據獲取帶來困難。在實踐過程中，對于一些司法數據保有量較少的犯罪類型，輔助審判算法可能無法得到足夠量的訓練數據支持，進而導致驗證不通過、無法生成相應的算法模型，可能會將部分數據量小的犯罪歸入其他犯罪數據量多的類型中，直接影響司法決策模型輸出結果的公正性和合理性。

（三）輔助審判系統算法黑箱

算法黑箱，簡單來說就是算法的決策過程對于開發者或使用者之外的人是缺乏透明度的，就如同一個“黑箱”，對于公眾來說只能知曉其最終的決策結果，而對決策的依據、決策流程以及方式一無所知，且大多數算法數據都以商業秘密不公開為由回避公眾監督，即便公開算法，一些由字母數字組成的代碼塊、字符串也難以被不具有專業知識的公眾所理解。因此，不具有公眾透明度的算法為算法歧視提供了生長的土壤。所謂算法不可解釋性是對現代法治的釋法析理精神的挑戰，極大程度上限制了司法審判中當事人的知情權和抗辯權。參與審判的當事人有權知曉司法算法決策的過程和依據，這是司法公正、透明的必然要求，是保障訴訟參與人知情權的必要措施。

（四）輔助審判系統算法權力的異化

權力的本質是一種支配性力量，作用于一定的社會關系。而在技術對司法賦能并構成直接的控制和影響的情況下，技術褪去了純粹工具性外表，展現出一定的權力屬性［9］?；谏疃葘W習的算法已經成為一種戰略資源甚至是一種數字武器，本質上已經脫離了單純的數據計算程式，其強大的算力優勢和數據訓練后的自主學習能力，加之算法黑箱提供的黑色地帶，給算法使用者提供可操作空間，甚至擺脫其輔助工具地位，形成一種算法權力，進一步與社會化的知識、利益和公共利益交融，成為一種影響社會生活的“非國家力量”，嬗變為一種“準公權力”。而算法權力的影響力和控制力源于掌握著算法運行過程的開發者和設計者，因算法具有高度的專業性，就算是資深的法律人員也難以準確地掌握算法設計的全流程，算法設計者和用戶之間存在“數字鴻溝”，訴訟參與人只能被動地接受最終的決策結果，無法對其進行過程溯源。申言之，司法人工智能的技術操縱直接表現為對司法權力的支配［10］，展現出強烈的權力屬性，超脫狹義的技術工具論，表現為對司法的主導權［11］。如若沒有相應的制衡機制，就可能導致司法算法權力的異化，進而侵害訴訟參與人的訴權，形成司法算法霸權，破壞司法公正。

三、智慧司法輔助審判系統中算法歧視的對策

（一）強化源頭治理

1.限定司法輔助審判系統的適用場域

實踐中智慧司法輔助審判系統與傳統審判的最大不同之處在于說理方式的不同［12］，只有擁有大量裁判基數的案件才能形成有效的說理模型和結論。如若把智慧司法輔助審判系統的審理案件范圍限定在普通簡單案件，其效果將會達到最大化。對于海量簡單案件數據，其司法要素的識別已不成問題，在簡單案件中形成“類案類判”具有很強的可操作性，其通過簡單案件流程化的基本操作路徑就可以形成判決結果的推送、呈現，通過案件中的各種司法要素的分析、對比和計算，再與海量裁判數據比對，從而形成人工智能裁判“最優解”，可以在很大程度上緩解“案多人少”的司法困境，把有限的司法資源從普通簡單案件中抽離出來，投入到疑難案件中去，從而實現庭審實質化，在一定程度上消弭輔助審判系統算法歧視帶來的不利影響。是故，可將司法輔助審判系統的案件適用場域進行立法限制，保障司法輔助審判系統審判結果的推送是基于海量裁判數據生成，避免因案件數據量小造成的“個案不公”。具體可制定司法輔助審判系統適用規則，根據現有司法裁判案件數量實時修訂該系統準予適用的案件類型。

2.構建司法輔助審判系統設計者法律倫理培訓機制

技術工作和法律工作分屬不同學科體系門類，存在思考邏輯的差異性，對技術工作者而言，提高算法的高效運行是第一要務，而法律工作者更注重公平正義的價值體現。所以，在委托開發過程中對算法構建者和程序實現者進行司法審判活動知識培訓十分必要，必須在技術中注入法律元素，體現審判活動的關鍵特點，反復論證算法構建的合理性和司法公正性，符合司法倫理的要求，最大限度地避免歧視性決策要素的存在。更為重要的是，在目前的弱人工智能時代，算法雖然具有一定的自主學習能力，但究其本質，還是一串串人工編碼得出的計算機代碼程式，里面蘊含著開發者的邏輯理性。算法歧視的根源是開發者的主觀認識使得算法擁有了歧視的非正義屬性，故而在構建司法輔助審判系統設計者法律倫理培訓機制過程中，使設計者形成非歧視的算法設計價值觀也是消弭司法輔助審判系統算法歧視的重要一環。

3.建立司法輔助審判系統內部算法審查、監管體系

在對司法輔助審判系統的構建中，開發設計相關方建立內部算法審查、監管體系是十分必要的，既要引導算法的設計人員遵守算法規則，也要在相關方內部建立專門的算法合規審查機制、監管體系。第一，建立一支由專門技術人員構成的防歧視審查專家委員會，保證技術層面的合理合規性。第二，在算法測試數據的過程中，應當實時、準確并詳細地記錄算法訓練的過程，做好相應的數據備份，以便后續系統的升級、改進和維護。第三，針對算法不透明的問題，在司法公開屬性的內在要求指引下，相關方有責任也有義務編制算法解釋手冊，以便訴訟參與人查看和質詢。

4.擴充司法數據并進行歧視信息脫敏處理

智慧司法輔助審判系統需以司法數據為驅動，即首先要獲取到全面、完備且具有相關性、代表性的司法數據，然后利用算法模型進行契合［13］。而目前法院系統內部仍然積累著巨量的、并未電子化的歷史裁判數據。同時，司法機關應當構建各省市審判數據互聯互通機制，拓展司法裁判數據的來源，多方面統籌挖掘、收集、整合司法審判數據，為保障司法輔助審判系統的精準性和非歧視性提供必要前提。開發利用司法數據最重要的是提取個案中的共同要素，而非對個案各個要素進行提取，所以，對司法文書中涉及的較為詳細的個人信息模塊應當經過專家評審后進行脫敏處理并去標識化，避免特殊性轉化為普適性。這既回應了個人信息保護法的法律要求，也是消弭司法輔助審判系統算法歧視的重要組成部分，從數據層面斷絕歧視性要素的輸入，避免歧視性結果的輸出。

（二）強化外部監管

1.堅守社會主義法治的價值追求

公平正義是社會主義法治的價值追求，算法歧視顯然是對公平正義理念的偏離，是故有必要強化涉及司法的算法的公平正義觀念，將可能處于偏離的價值取向拉回預定軌道。算法公平正義應當貫穿到算法開發、運行的全方位、各層次，保障過程公平和結果公平。過程公平強調在司法算法數據測試過程中預先剔除歧視性偏見數據，提高其過程透明度。結果公平不是絕對意義上的公平，而是需要考慮到個體的差異的實質公平。算法歧視結構性來源最終還是社會觀念潛移默化地影響到個人而形成的定式思維。是故，需要強化公平正義、反對歧視的社會氛圍，引導人們向上向善，從而使科技向善，更好地維護和促進司法審判算法權力的運行，避免社會大眾受到司法算法權力的侵害，充分保障司法算法權力的穩健發展，打造智慧法治國家。

2.設置輔助審判系統非相關方審查制度

較之于其他應用場域，算法在司法審判領域的審查監管應當充分貫徹“強監管”“穿透式監管”政策。在司法審判公正、公開、透明原則的指引下，建立一套開發前、應用時、事故后的第三方智慧司法輔助審判系統審查機制，其中，第三方應為獨立的、公益性質的算法審計組織。審查活動的進行將依靠由法律領域專業人士以及計算機科學領域專業人士所組成的專家委員會，只有通過專家委員會評審的系統才能夠進行開發、投入使用。而每一個審查階段的專家委員會評審名單按照一定的比例進行調整，以確保每一次評審的客觀性和中立性，從而保障輔助審判系統的客觀性、非歧視性。

3.建立健全問責機制，防止算法權力異化

如若產生了司法輔助審判的算法歧視性裁判結果，就需要引入相應的問責機制對相關方進行問責，防止司法算法權力的異化。面對司法審判算法權力異化的挑戰，必須發揮法律的保障作用，建立健全法律制裁措施，確立以“外部問責”為核心要點的算法權力規制方向，落實開發者和使用方責任，規范司法算法的運行和決策。

四、結語

從某種意義上來說，整個人類的刑事法律文明史，都是在探索實現刑罰目的并不斷地探索審判公正的歷史［14］。我國目前構建的智慧司法輔助審判系統也是以這一目的為邏輯起點而展開的，雖然其在一定程度上提升了司法審判的效率、推動了庭審實質化改革，但其中存在的算法歧視問題也是我們必須面對并解決的現實問題。對此，應重視算法中隱藏的歧視、偏見與不公，通過內部溯源治理和外部強化監管解決司法審判活動中的算法歧視問題，早日實現法治中國夢。