算法取證的倫理危機與法律規制

劉爾晴

（南京審計大學,江蘇 南京 211815）

在大數據時代，刑事案件偵查實踐常面臨案件數量多、取證數據分析難、依靠人工分析數據成本高等各類現實挑戰。算法取證是指大數據時代偵查機關在辦理刑事案件的過程中，利用人工智能算法對網絡電子數據進行搜集、篩選，并通過算法模型對數據進行分析、處理，獲得與案件事實相關聯的電子數據，以發現、提取、固定證據的過程。以大數據、物聯網、人工智能等為基礎的大數據取證的取證對象，與傳統電子數據在取證理念、方式和技術上有本質差別[1]。既有研究從電子數據取證的視角展開論述，抑或在社會治理層面對算法進行倫理學探討，但針對刑事偵查中的算法取證所涉及的倫理問題和法律規制的研究還不夠充分。

1 算法取證的運行邏輯及其誤差

1.1 效率主導的運行邏輯

算法取證作為證據搜集的一種手段，在處理海量電子數據、證據時能充分發揮大數據算法高處理效率和清晰的數據來源等優勢，其效率主導機制是多方面原因導致的。其一，偵查活動需要算法取證提供高效的運算結果。面對大量的數據信息，偵查人員利用算法進行自動化分析，可以快速、準確地處理大量數據，提供及時、準確的線索和證據，進而優化警力、資源分配，提高整體偵查效率。其二，算法的自主學習能力十分有限，處理的多是程式化的、可量化的工作。在偵查活動的各種價值取向中，“效率”這一價值是最容易被量化的指標[2]，可以通過減少算法循環次數、優化算法計算公式以提升算法運行的效率。

1.2 算法運算機制存在誤差

網絡電子數據的算法取證基于機器計算，看似錯誤率極低，其結果具有天然的科學性，為證據的可靠性提供了強有力的支撐，但是卻忽略了可能存在的誤差。首先，數據集的選取具有主觀性。在訓練算法時，輸入端數據集的選取經過了一定程度上的人為判斷，加入了訓練人員的主觀偏向。其次，大數據具有不確定性。數據一直處于流動的狀態，無論何時進行數據集選取都是一個抽樣的過程[1]。最后，算法本身的運算機制并不具備百分之百的準確率。而利用算法對網絡電子數據進行取證，存在不可忽略的誤差可能性。

2 算法取證引發的倫理危機

在大數據時代，算法取證通過完成人為設置的各種算法指令，幫助偵查人員獲取偵查線索和證據，具有處理效率高、數據來源清晰等優勢，在偵查活動中得到廣泛運用[3]。這是一次偵查取證方式的變革。但算法取證效率主導的運行邏輯、運算機制造成的天然誤差，引發的倫理危機現實存在，必須予以重視。

2.1 弱化了人在偵查活動中的主體地位

黑格爾認為主體性主要包括“個人（個體）主義”“批判的權利”“行為自由”“把握自我意識的理念”四個方面的內涵[4]?，F代社會強調“以人為本”，因此在算法取證中，應當全面貫徹個人主義、理性主義等基本原則。

偵查人員在偵查過程中依賴算法、信任算法取證結果，使算法從一種取證工具成為取證主體。偵查人員利用已經訓練好的類案模型進行證據篩選，但目前算法模型的識別準確率達不到百分之百，而且偵查人員僅對算法運行結果所涉及的數據進行確認，而不對算法運行過程進行審查[5]。利用算法對網絡電子數據進行取證所獲得的結果會趨向于模式化，忽略了偵查人員作為偵查活動實施者的主觀能動性，不斷消解人的主體性，從而弱化了人在偵查取證活動中的主體地位。

2.2 沖擊了權利優先的傳統正義觀

人是正義反映的主體，也是評價正義的主體。羅爾斯認為，個人的基本權利應當優先于公共的“善”。只有在尊重他人權利的前提下，才能去追求個人的“善”。正義的社會，應當體現自由、平等的人類社會價值，應當確立個體權利優先性的基本理念。

而算法取證所體現的是以效率為核心的正義觀，其往往追求取證的結果，過于注重取證過程的效率，忽略了涉案人員的個人私權利。這實際上是將效率和便利凌駕于個人權利之上，認為效率應當優先于私權利，這種以“效率至上”的方式去追求特定的“善”忽略了算法本身對涉案人員的私權利的侵害，動搖了權利本位的核心理念，進而沖擊了權利優先的傳統正義觀。

2.3 侵害了涉案人員的基本權利

隨著大數據的快速發展，個人信息的采集和分析變得更加廣泛和深入，這顯然對個人隱私權構成了潛在威脅。而算法取證作為一種取證方式，對涉案人員信息進行提取分析也可能侵害了涉案人員的基本權利。

在算法取證的過程中，算法將涉案人員視為可以被獲取、計算、預測的客體，將其信息、行為等進行拆解分析，其個人信息就此在數據庫中“裸奔”，個人信息權、隱私權遭到任意侵害，在某種程度上是對相對人的重要權益造成侵害的“強制偵查行為”。并且算法取證無須受到令狀原則、比例原則等刑事強制偵查原則的限制，權責還缺乏有效制衡和匹配，導致取證過程可能對涉案人員的權利造成“以非人格化的、彌漫性的、以數理定律的方式呈現出來”[6]的侵害。

3 算法取證法律規制的現實困境

在多種規制路徑中，只有法律規制具有法定強制力，而其他規制路徑如倫理規制、行業規制和自身規制等都無法預防和遏制上述倫理危機的發生，因此法律規制應當作為算法取證的主要規制路徑。但現階段對算法取證進行法律規制存在一些不可避免的現實困境。

3.1 算法及其載體不能承擔法律責任

在算法取證中，算法和作為算法載體的人工智能體被賦予了一定的“偵查權”，若算法取證出現錯誤并造成了對涉案人員的不利影響，根據權責相統一的原則，算法及其載體應承擔相應的法律責任，但這一點目前無法實現。

一方面，算法及其載體不是法律主體。法律主體是指具有人格意義的人，其應當具有意志且能夠自律。而算法本質上是一套符號運算程序，在深度學習的基礎上，其懂運算，能夠進行自我學習，但這僅僅是一種機械意志，而非心理認知意義上的意志[7]。并且，自律性的形成受到多種社會文化因素的影響，表現為一種理性反思、抑制本能的糾偏性意志。算法及其載體所擁有的知識和能力都是由人加工編程而來的，其深度學習無法像人類一樣與常變常新的物質世界保持一致，不具有道德感和反思能力，因而也不具有自律性，不能成為法律主體。

另一方面，算法及其載體的行為不具有法律意義。在算法取證中，人工智能體的行為是算法程序運行的結果。訓練算法模型的輸入端數據集在選取時，已經加入了訓練者的人為判斷。在運行過程中，算法及其載體只是執行被預設的算法程序指令，而不能認識到自己行為所具有的法律意義和社會意義。無論從哪個部門法的角度都無法對人工智能體的行為進行評價。

現代法律制度以人具有獨立人格為前提，而算法及其載體都只是一種工具性存在，既不具有自由意志和自律性，其行為也不具有法律意義。因此，無論是算法還是其載體，都不具有現代法律意義上的主體資格，也無法承擔相應的法律責任。

3.2 算法取證無法適用公開透明原則

公開透明原則一直貫穿于現代法律制度之中。美國大法官路易斯·布蘭代斯（Louis Brandeis）有一句流傳甚廣的名言——“陽光是最好的消毒劑”[8]。為了規制算法權力，打開“算法黑箱”，有學者提出要保證人工智能司法證據推理的內容在一定程度上公開透明，這既是保障公正的需要，也是接受檢驗保障準確性的有效途徑[9]，然而算法取證很難做到公開透明。

第一，公開透明原則在防止算法技術過度侵害個人信息方面雖然能起到一定的作用，但由于算法取證并非由簡單編程形成的一套源代碼系統，而是由多個算法合并運算得出結論，對其公開解釋難度較高。并且，隨著大數據的發展，算法模型的運行機制也在不斷更新，普通偵查人員認知能力的提升速度難以匹配技術發展帶來的知識增量，即使偵查機關對算法運作機理進行了詳細的公開解釋，非專業的普通公眾也無法發現算法存在的問題和漏洞。因此，所謂的公開透明原則在算法取證活動中難以實現。

第二，算法取證作為偵查活動之一，還應當具有隱蔽性，這與公開透明原則形成了不可調和的矛盾。就算法的性質而言，其往往涉及敏感的個人隱私、關鍵的商業秘密和知識產權，在刑事偵查中算法取證還涉及偵查思路和方法。若為了適用所謂的“公開透明原則”，打開算法取證的“黑箱”，讓公眾對其進行評判和監督，可能會導致犯罪分子采取更加復雜的反偵查手段來應對算法取證活動，這會給打擊犯罪帶來更大阻礙。

3.3 數據權利難以約束算法取證的權力

算法能將數據加以轉化和控制，進而形成一種“準公權力”，這是算法異化的一個重要原因[10]。算法取證中需要大量運用公民數據，有學者認為應當盡快出臺保護數據和數據生產者合法權利的法律法規[11]。但是對個人數據賦權并不能很好地回應算法取證帶來的倫理問題。

一方面，互聯網絡平臺上的數據權利的歸屬難以明確，其既可以被界定為平臺的數據權利、個體的數據權利或二者共有的權利，也可以被界定為網絡空間的公共數據。偵查機關在算法取證中針對的不是單個主體的數據，而是網絡空間的公共數據。在取證過程中，權利主體身份的可識別狀態往往不是數據搜集的起點，而是取證的結果。所以，從保護個體數據權利入手規制算法取證，無法達到保護個人權益的目的。

另一方面，當個體數據被處理時，公民很難行使數據權利。面對算法取證“黑箱”，個體很難知曉其個人數據是否被處理、何時被處理、被誰處理。運用公民的數據權益來制約算法權力的思路是一種以單個的個體為中心來對抗“準公權力”的思路[2]。這種思路忽視了偵查機關的強制偵查權和算法異化形成的權力。即使個體知道算法取證中存在侵犯隱私權益的行為，也難以向法院提起侵權之訴。

4 算法取證法律規制的完善路徑

算法本身由人類創造，其背后邏輯的道德基礎是人類的有限理性，算法的底層指令和代碼歸根結底是人類思考方式的展現。因此，對算法取證的法律規制在本質上應是對偵查人員使用算法取證行為的法律規制。為了應對上述困境，可以采取以下措施。

4.1 明確算法取證中的責任承擔制度

4.1.1 明確偵查人員作為算法取證的責任承擔主體

算法取證在案件中如何發揮作用主要取決于取證主體——偵查人員。需要明確的是，算法及其載體既沒有自由意志，其行為也不具備法律意義，本質上是一種工具。因此，偵查人員應當承擔算法取證的責任。

一方面，偵查人員應當充分發揮自身的主觀能動性。偵查人員在使用算法取證時，既要堅持自身的人權理念和倫理道德，又要充分利用算法的工具性特點，理解算法、駕馭算法。具體而言，偵查人員應當理解算法原理和局限性，避免過度依賴算法取證結果；參與數據收集和預處理過程，確保取證數據的準確性和完整性；關注算法取證領域的最新技術發展，以便及時引入和應用最新的技術和方法，使算法取證真正為人所用。

另一方面，偵查人員應當對算法取證的結果進行理性分析和綜合認定。經過算法抓取的數據和結果最終能否被用于某一案件，取決于偵查人員對取證結果證據能力和證明力的判定。偵查人員要防止用機器的思維方式代替人類的判斷，避免偵查思維被算法化和在取證活動中出現“算法統治思想”。

4.1.2 細化算法取證中的責任承擔規則

偵查機關作為算法取證的主導方，對于算法取證過程中出現的失誤或錯誤，故意侵害涉案人員權利的、導致案件無法偵破或出現錯誤判決的，應當予以行政處分；對涉案人的財產權利造成侵害時，偵查機關應承擔相應的行政賠償責任。只有明確偵查人員是算法取證中的責任承擔者，才能有效督促偵查人員認真履行偵查職責，審核算法取證的結果，減少乃至杜絕冤假錯案的發生。除此之外，如果因為算法本身的程序漏洞導致偵查工作失誤所造成的錯案，在對具體偵查人員追責的同時，也應視情況追究算法設計人員的民事賠償責任。

4.2 建立算法取證的正當程序

算法透明原則僅僅是一種事前規制方式，盡管在某些情形下它有可能發揮“防患于未然”的作用，但不能過分夸大其在規制中的效用。建議從以下幾個方面入手建立算法取證的正當程序，規制算法取證。

首先，就算法本身而言，偵查機關應確保在取證活動中所運用的算法以可信、可用的狀態得以設計、部署、應用和執行[12]，定期向公眾公開算法的基本技術原理、數據庫來源、主要用途、適用范圍等不涉密的基礎信息，以通俗易懂的語言向普通公民披露算法取證的基本運行機制。

其次，完善算法取證的審批備案制度。對于深度挖掘、分析公民隱私的算法，應實行“分案分級”的審批模式。對于偵查人員難以及時申請審批的特殊情況，可以適用備案制度。明確偵查機關上級機構為審批主體，嚴格限制偵查人員對公民個人數據的使用，并要求偵查人員遵守保密義務。

再次，規范算法取證的操作流程。在得到偵查機關上級機構批準后，偵查機關應依照數據爬取、預處理（清洗）、挖掘、分析等步驟[13]嚴格運行算法取證程序，做好證據保全措施，實行完善的檔案管理，使得算法取證過程“可視化”，從而推動算法取證的規范化發展。

最后，設置對算法取證結果的異議機制。算法本身的誤差、數據不準確或算法模型選取不適配等問題可能導致算法取證結果的錯誤，若涉案人員對算法取證結果持有異議，可以在偵查階段申請偵查機關重新進行算法檢測，或委托第三方專門機構對原有數據集進行檢測，借此來保留算法取證中個人權利的救濟途徑。

4.3 引入檢察機關監督算法取證合理應用

除了賦予個人數據權利和獲得救濟權利來對抗算法權力的侵害之外，還可以通過“加強行業自律和引入第三方規制力量”[14]對算法權力進行規制。在確立公民數據權利效果十分有限的情況下，可以在算法取證活動中引入檢察機關監督、促進算法取證合理應用。

算法取證系統由算力、算法與數據等要素構成[15]。算力作為“基礎設置”，指的是數據分析處理的能力，對數據分析結果公正性的影響較小。而算法的框架由研發人員構建，可能存在主觀價值判斷，數據的選取與導入時也可能存在偏差。所以，檢察監督促進算法取證合理應用應當以算法取證系統中的算法和數據為切入點。

一方面，確立檢察機關參與取證算法研發機制。避免“以犯罪偵查”為導向的單一目的算法設計，將監督偵查等檢察職能導入其中，從算法建構開始就減弱其“入罪”的偏見風險。此外，檢察機關也應當對算法展開定期糾偏，及時修復算法取證系統中出現的偏誤，對偵查機關已作出的取證結果進行定期抽樣重復檢驗，確保算法運行的公正性。

另一方面，公檢機關協商共建算法取證數據互通規則。準許檢察機關接入偵查機關數據庫，對訓練算法模型時所依據的原始數據展開真實性核查。促進公檢間數據共享，將不敏感、不涉密、已結案的案件數據上傳至公檢數據平臺，打破數據孤島和信息繭房，充分利用已結案的案件數據來完善算法取證運行程序，充分發揮數據價值。

5 結語

身處大數據時代，可以說每個人的行為在高度數據化的今天都有跡可循。顯然，犯罪分子在這樣的環境下也無所遁形。毋庸置疑，在偵查活動中使用算法取證可以更加快速、精準、有效地打擊犯罪。但筆者認為，依賴算法取證的今天，人在算法取證中的主體性地位被弱化，權利優先的傳統正義觀遭到沖擊，涉案人員的基本權利無法得到保障。然而對算法取證進行法律規制并非易事，由于算法及偵查活動的特殊性，算法及其載體無法承擔法律責任，取證活動無法適用公開透明原則，并且明確涉案人員數據權利對算法取證權力的約束效果也十分有限。為了應對上述倫理和實踐困境，筆者認為，應當堅持“以人為本”，明確算法取證中的責任承擔制度，建立算法取證的正當程序，引入檢察機關監督促進算法取證的合理應用，以完善算法取證的法律規制路徑。