法醫精神病學和刑事司法中的神經預測和人工智能：神經法視角

Leda Tortora　Gerben Meynen　Johannes Bijlsma　Enrico Tronci　Stefano Ferracuti著?萬歡譯

摘 要｜神經影像學與人工智能結合使用的進步，特別是機器學習技術的使用，促進了大腦閱讀技術的發展。這些技術在不久的將來可能被廣泛應用，例如測謊、神經營銷或大腦計算機接口。其中一些原則上也可用于法醫精神病學。這些方法在法醫精神病學中的應用可能有助于提高風險評估的準確性并確定可能的干預措施。這種技術可以稱為“人工智能神經預測”，它涉及識別潛在的神經認知標志物來預測累犯。然而，這項技術的未來意義以及神經科學和人工智能在暴力風險評估中的作用仍有待確定。本文回顧和分析了有關使用大腦閱讀人工智能對暴力和再逮捕進行神經預測的文獻，以確定未來在法醫精神病學和刑事司法領域使用這些技術的可能性和挑戰，同時考慮了法律影響和倫理問題。分析表明，需要對人工智能神經預測技術進行更多研究，并且非常有必要了解如何在法醫精神病學領域的風險評估中實施這些技術。除了人工智能神經預測的誘人潛力之外，本文認為，在這些技術完全可用時以及在其研究和開發過程中都應該對其在刑事司法和法醫精神病學中的使用進行徹底的危害或者益處分析。

關鍵詞｜神經預測；人工智能；累犯；法醫精神病學；風險評估；神經法

Copyright ? 2023 by author （s） and SciScan Publishing Limited

This article is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License.

https：//creativecommons.org/licenses/by-nc/4.0/

一、引言

風險評估是刑事司法系統的重要組成部分。近年來，人們對開發新的工具和技術以改善法醫精神病學和刑事司法領域的風險評估越來越感興趣。目前，已經開發了200多種暴力風險評估工具，通常是集成的臨床精算工具，用于預測暴力、反社會性和性行為，并且它們在刑事司法環境中的使用似乎顯著增加。這些方法的中心目標是正確識別高風險和低風險罪犯。根據司法管轄權的不同，它們被用于為一系列醫療法律決定提供信息，例如量刑、假釋、民事承諾、死刑、少年法庭的處置以及發現精神錯亂后的釋放問題。近年來，人工智能（AI）被用于提高風險評估的預測準確性。

算法風險評估的使用隨著神經影像學領域的研究而發展，推動了“大腦閱讀”技術的發展，這些技術在一定程度上能夠根據人的大腦活動解碼心理狀態或者根據人的大腦結構和功能將他們分組。該技術的一個可能的司法應用是識別危險的罪犯。人工智能和神經影像學的結合促進了所謂的“人工智能神經預測”的發展，即使用結構或功能性大腦參數與機器學習方法相結合來進行臨床或行為預測。也許在不久的將來，人工智能神經預測可以更普遍地用于預測法醫精神病學和刑事司法中的累犯風險。然而，這類技術的應用引發了法律和倫理問題。

本文的目的是確定未來在法醫精神病學和刑事司法領域使用人工智能神經預測暴力和累犯的可能性和挑戰，并討論法律影響和倫理問題。在第二部分，我們將討論風險評估技術。在第三部分，我們探討了當前使用神經影像與人工智能相結合的“大腦閱讀”技術。在第四部分，我們概述了近年使用神經影像數據與人工智能相結合的神經預測來預測累犯的研究。在第五部分，我們討論了預測分析的技術限制和陷阱。最后，在第六部分，我們討論了應用這些技術所引發的倫理和法律問題。

二、風險評估：最先進的技術

在過去的二十年中，美國和歐洲對暴力風險評估工具的興趣和研究顯著增加，提出了不同的方法，從基于回歸的嚴格精算工具到算法風險評估，提供重新犯罪的概率估計以及結構化的專業判斷。最初，精算方法在該領域占主導地位，它們雖然有一定的預測價值，但是仍然非常有限。

與個人暴力或攻擊性行為的可能性增加相關的風險變量包括犯罪需求（增加累犯風險的個人特征）、人口統計、社會經濟地位和智力。風險因素通常分為靜態因素和動態因素。靜態因素是歷史性的，不會改變（如犯罪歷史、犯罪類型、童年虐待）；動態因素原則上是可變的，因此它們提供了干預的機會，可以改變未來的風險（如沖動、吸毒、社會支持、工作、治療依從性）。一些動態因素相當穩定，而另一些則更“流動”。動態因素需要多次測量，有時測量的間隔期很短。

然而，目前風險評估工具的結果遠未達到完美的程度，尤其是對于長期預測而言。當前的刑事風險評估工具顯示出較差到中等的準確性，需要考慮在假陽性和假陰性之間取得良好的平衡，這取決于社會和政治背景以及使用該工具時所處的刑事司法程序的階段。通常，當風險評估工具將個人歸類為低風險時，通常是正確的。然而，如果該工具將某人歸類為高風險，這通常是不正確的，幾乎超過一半的高風險人群被錯誤地歸類。假陽性（預計被告會再次犯罪，但事實并非如此）似乎比假陰性（預計被告不會再次犯罪，但確實如此）更常見。

這往往導致許多人可能被監禁或繼續被監禁，而他們實際上不會對社會構成危險。Fazel等人（2012）指出：“這些發現的一個含義是，即使經過30年的發展，在大多數情況下可以預測暴力、性或犯罪風險的觀點也不是基于證據的?！边@種對當前事態的診斷使得尋找改進法醫精神病學和刑事司法風險評估的方法變得非常重要。

與通常來源于各種形式的回歸分析的經典方法相比，算法有望對犯罪行為進行更準確的預測。它們可用于為未來的暴力提供個體化風險措施，并有助于制定預防和治療決策，以盡量減少風險因素并突出保護因素。包含機器學習的風險評估工具已用于審前風險評估、量刑和康復，并且可能在司法決策中發揮重要作用，以指導“關于保釋、緩刑/假釋的決定、法院命令的治療和民事承諾”。

三、人工智能和神經影像學

腦成像技術的快速發展以及人工智能技術在社會諸多領域中的影響力日益增強，從社交網絡到醫療保健和警察政策，引起了人們對腦成像與人工智能相結合以改善對未來暴力行為的風險評估和預測的潛在用途的興趣。

在過去十年中，非侵入性解剖和功能性神經成像技術取得了重大發展，產生了大量數據。統計機器學習方法有助于以越來越高的精度分析大量神經數據和高維數據集建模。將統計機器學習方法應用于神經影像數據被稱為多體素模式分析（MVPA）。與一次僅分析一個位置的傳統單變量方法不同，這些方法允許識別數據中的空間和時間模式，區分認知任務或具有更高靈敏度的主題組，共同分析來自區域內單個體素的數據。

自MVPA方法問世以來，該方法已成為“健康和臨床人群的神經影像學”中的一種流行方法。研究表明，神經影像數據中存在的信息可用于解碼，在一定程度上意圖和感知狀態，以及區分健康和患病的大腦。MVPA已被應用于解碼視覺特征，如邊緣方向、執行一項任務而不是另一項任務的意圖、任務準備的順序階段，

和測謊。雖然傳統的功能成像研究比較了不同實驗條件下的大腦活動，以確定哪些大腦區域被特定任務激活，但MVPA在大腦閱讀中的應用使用“大腦活動模式來執行反向推理并決定受試者在看什么或在想什么”。

這些技術可以被認為是“讀腦”或“讀心”技術，它們將統計機器學習方法與神經影像數據相結合，以揭示有關大腦/心靈的信息。大腦閱讀經常在視覺感知領域進行研究，其目的是展示大腦中的體驗如何編碼。研究人員最近成功訓練了一個深度神經網絡執行來自大腦的視覺圖像重建，解碼夢境的視覺內容，并通過使用人工智能分析來自觀看視頻的受試者的fMRI掃描來解碼大腦“看到”的內容。盡管取得很多重要發現，但這些方法仍然顯示出許多局限性，這使得“通用讀心術”不太可能在不久的將來出現。盡管如此，簡單的應用已經開始出現，包括腦機接口、測謊研究和神經營銷領域的消費者決策預測方法。

除了對精神狀態的發生和性質進行推斷之外，MVPA技術的另一個應用領域是分類。例如，研究發現，MVPA技術可以通過基于大腦活動區分群體中的個體或基于識別大腦活動或結構模式的大腦數據將個體分類來預測疾病發作。通過提取活動或結構異常的模式，可以將治療反應者與無反應者區分開，這些模式或結構異?？深A測異常認知發展，與神經影像數據的臨床結果預測相關。一些模型用于區分臨床群體，如阿爾茨海默病患者和認知正常的老年人、帕金森病患者和健康對照者、精神分裂癥患者和健康對照者，或檢測大腦功能障礙，如自閉癥和注意力缺陷多動障礙

（ADHD），并區分人格特征的水平，如精神病。

關于成癮結果的預測也有相關的研究。機器學習分類器能夠使用事件相關電位（ERP）和分析fMRI數據的功能網絡連接（FNC）來預測監獄囚犯群體的藥物濫用治療完成情況。此外，使用最近開發的機器學習方法CPM可以識別“神經指紋”來預測治療期間的可卡因戒斷情況。

四、累犯的人工智能神經預測

行為特征與人類大腦的特征相關，有時甚至是顯著相關，這為開發預測算法提供了新的可能性，有助于預測個體的性格。這些方法被稱為“神經預測”，即使用結構或功能性大腦變量來預測預后、治療結果和行為預測。盡管目前聽起來像是科幻小說，但隨著非侵入性神經成像技術的不斷發展以及算法計算能力的增長，人工智能對累犯的神經預測很可能在不久的將來成為現實。

雖然仍然需要收集“犯罪”大腦的生物標志物，但神經犯罪學領域的研究普遍集中在分析主要特征為持續反社會行為的人格障礙的結構和功能神經標志物，例如反社會性人格障礙（ASPD）和精神病，因為它們似乎與高累犯率相關性最高。研究表明，這些特定的臨床人群具有許多共同特征，例如行為去抑制或缺乏同理心，這些特征應該具有共同的神經生物學基礎。

例如，在具有精神病特征的個體中觀察到邊緣和旁邊緣區域的異常；與前額葉皮層相關的損傷與去抑制、情緒不穩定和沖動有關。

盡管如此，從使用傳統方法獲得的所有關于神經犯罪學的相關研究成果中可以發現，目前尚不能預測未來的風險。然而，在人工智能預測模型中加入神經數據似乎提供了可能性。

Aharoni等人（2013）進行的一項研究邁出了使用神經影像數據進行人工智能預測模型的第一步，他們使用fMRI數據來預測累犯。研究發現，在執行/不執行任務期間，背側前扣帶皮層（dACC）是一個與沖動控制和錯誤處理相關的大腦區域，其激活似乎與重新停止有關。在保持所有其他風險因素不變的情況下，前扣帶回活動相對較低的罪犯再次被捕的概率大約是該區域活動較多的罪犯的兩倍。因此，低前扣帶回活動可能是持續犯罪行為的潛在神經認知生物標志物。

Kiehl等人（2018）的一項研究將機器學習與神經影像學相結合來測試大腦年齡是否有助于預測再逮捕。實際年齡年輕被認為是累犯的關鍵風險因素之一。年輕的被告更有可能從事危險行為。他們還提出，與實際年齡相比，大腦年齡是解釋個體差異的更好的衡量標準。研究結果表明，涉及大腦年齡神經測量的預測模型比以前僅包括心理和行為測量的模型表現得更好。

Delfifin等人（2019）的一項研究表明，通過將神經影像數據納入人工智能風險評估模型，可以改善法醫精神病學的累犯預測。作者指出，在擴展的人工智能預測模型中包含靜息狀態區域腦血流量（rCBF）測量，該模型包含來自八個大腦區域的神經測量，在法醫精神病患者的長期隨訪中，與傳統的經驗風險因素相比，預測性能有所提高。他們將“經典”風險評估與神經影像學相結合，發現在法醫精神病人群中應用這種方式比單獨使用經典因素能夠進行更好的預測。

綜上所述，人工智能神經預測研究的初步發現已經產生了一些有希望的結果。盡管如此，在法醫人群中使用人工智能和“大腦閱讀”的可能性引起了一些道德和法律問題，刑事司法領域應該對它們的未來使用保持謹慎態度。

在維護罪犯個人權利和加強公共安全之間取得平衡至關重要。

五、預測分析：技術限制和陷阱

盡管前文已討論了有關未來可能使用人工智能神經預測技術的機會，但仍應考慮一些限制。事實上，關于預測工具及其成功應用的研究仍然是一項具有挑戰性的任務。

將機器學習方法和基于神經影像學的腦疾病單學科預測相結合對患有異質性疾病的患者進行

分類的研究在計算精神病學領域眾所周知。這些研究報告了不同程度的準確性，引發了人們對該方法的擔憂。事實上，預測建模需要最佳實踐；神經預測模型存在一個問題：即使它們可以管理復雜的數據，例如腦成像掃描，也需要最佳實踐來確保具備足夠的統計能力來測試其有效性。以下是值得關注的問題。

首先，神經預測技術的應用需要從組級到個人預測的推斷。另一個挑戰涉及在新組中驗證結果——與用于訓練算法的數據集不同。預測模型的有效性通過它們的泛化能力來評估。對于大多數學習算法，標準做法是通過稱為“交叉驗證”的過程來估計泛化性能：數據集分為兩組，用于擬合模型的訓練集和測試集，并且數據的子集用于迭代地訓練和測試模型的預測性能。

值得注意的是，對小樣本使用交叉驗證會導致預測準確性的高度可變和夸大估計。訓練機器學習算法需要大量數據，使用有限的樣本量可能會導致所謂的過度擬合，其中模型完全適合用于訓練它的特定數據集，但不適用于新的和未使用過的數據。關于數據集的合適的樣本數量仍未達成一致，Luedtke等人（2019）建議對不小于數百個觀測值的樣本進行預測分析。然而，獲取大量樣本通常既困難又昂貴，特別是在涉及神經影像數據時。

六、道德和法律挑戰

使用人工智能神經預測技術預測累犯會引發倫理和法律問題，但也引發了新的可能性。在下文中，我們將討論一些核心的倫理和法律問題。

首先，面臨著偏見的問題。自算法風險評估出現以來，許多報告都記錄了它們存在“危險”偏見的事實。ProPublica于2016年5月報道了最著名的所謂人工智能偏見案例。根據ProPublica的說法，COMPAS是一種在美國廣泛使用的算法，通過預測重新犯罪的可能性來指導量刑，結果證明對黑人被告存在種族偏見，因為他們比白人被告更有可能被錯誤地歸類為高風險（“誤報”）。最近，COMPAS也被描述為“性別歧視算法”，因為它的算法結果似乎系統地將女性過度分類為高風險群體。

同樣地，Predpol是一種旨在預測犯罪發生時間和地點的算法，在對人權數據分析小組進行分析后，已于2016年在美國多個州使用，該算法被發現導致警察不公平地針對某些社區。警察被反復派往某市少數族裔人口比例較高的地區，無論這些地區的有效真實犯罪率如何。此外，越來越多的用于執法的面部識別軟件成為種族和性別偏見的另一個潛在來源。另一個例子涉及亞馬遜的“Rekognition”軟件，該軟件被一些警察部門和其他組織使用。2018年，美國公民自由聯盟發現它錯誤地將國會議員與被指控犯罪的人進行匹配，將非裔美國人和拉丁裔國會議員誤認為是照片中的

人。最近一項評估三種商業性別分類器準確性的研究表明，它們在對男性受試者進行分類方面的表現優于對女性受試者的分類，而所有這些分類器在膚色較深的女性中表現最差。此外，最近的研究表明，如果不加以控制，詞嵌入人工智能會表現出過時的性別刻板印象，例如“醫生”是男性，“接待員”是女性。

這些發現引發了關于使用人工智能進行風險評估的公平性的更廣泛的辯論。盡管算法風險評估可以被視為克服人類偏見的一種手段，但它們仍然可以反映成見和制度化的偏見。人工智能根據數據（如刑事檔案）進行訓練，這些數據本身可能反映了警察、檢察官或法官的偏見?；谶@些數據，該算法“得出”具有某些特征的群體比其他群體更危險，而實際上這是有偏見的數據的結果。這有時被稱為“偏內偏外”。換言之，人工智能預測的結果高度依賴于所用數據的質量。使用神經影像數據而不是警察檔案的一個優勢可能是神經影像不能反映人類的偏見。人工智能尋找大腦活動和累犯之間的相關性。因此，人工智能神經預測可能提供減少風險評估偏差的可能性。然而，由于神經預測可能會被納入現有的風險評估工具中，只要一般算法中的偏見沒有解決方案，偏見仍然是一個問題。

此外，風險評估有“典型的歧視性”，因為它是根據群體特征將受試者分為低風險或高風險個體群體。累犯的神經標志物無疑在某些群體中比在其他群體中更為普遍。因為一個群體“大腦”的不同而以不同方式對待他們，會引發關于什么是不合理不平等待遇的難題。然而，這個問題并不是人工智能神經預測的典型問題，而是總體上風險評估和公平性的核心問題。根據腦部掃描將人們分組，即使有助于防止可能的傷害，也很容易對那些被視為“高風險”的個人的生活的其他方面產生污名化和歧視性影響。根據大腦的形態來區分人可以成為一種現代顱相學。雖然某些制度程序可能會歧視那些被認為是“高風險”的人，但污名化可能是一個更具社會性的過程，會根據某些人的風險狀況將其排除在外，例如，污名化可能是性犯罪者登記的結果。

其次，涉及隱私。用于預測累犯的神經數據和其他數據顯然也可以用于其他目的。例如，保險公司評估客戶或公司篩選求職者時，誰以及在什么條件下有權訪問這些數據？保險公司是否可以訪問，如果不可以，他們是否能夠請求這樣的程序來評估特定候選客戶的風險？顯然，在這種情況下，數據保護以及可能的訪問是一個基本問題，在大數據時代中使用的算法已經引起了激烈的爭論。目前關于同意性質的爭論和公民對生物庫中健康信息的控制程度之間也有相似之處。未來幾年，關于遺傳/健康信息和控制權（“生物權利”）商業化的討論可能會加劇。

第三，涉及負面的“自我實現預言”的可能性。這種疑慮來自最近的研究，研究表明接收遺傳風險信息實際上可以影響接收人的行為、生理和主觀體驗，并改變他們的整體風險狀況。斯坦福大學的研究人員發現，當人們被告知有肥胖或運動能力較低的遺傳傾向時，獲取這些信息會對他們的身體產生生理影響，改變他們對用餐或運動的反應。相關研究還發現對風險的看法改變了健康結果，因此那些被告知擁有高風險基因的人比那些被告知擁有保護性基因的人的結果更差。根據這些發現，人們可能想知道，當你告知人們他們的風險信息時（無論是遺傳的還是神經的），他們的心態會受到怎樣的影響，以及這實際上如何改變他們的風險狀況。這表明提供信息可能還需要道德和法律監管。

此外，仍不清楚如何將神經數據準確分類和概念化為風險因素。例如，在Kiehl等人（2018）的一項研究中，大腦年齡（灰質）的測量值用于預測累犯。實足年齡通常被認為是一個靜態因素，但在提到大腦測量時，我們應該思考如何將它們概念化為風險因素。例如，考慮到大腦的可塑性，我們應該將大腦年齡視為動態風險變量還是靜態風險變量？如果大腦年齡和正常年齡不同，我們如何評估罪犯，這將如何改變罪犯的神經預測特征？如果我們將神經數據視為動態因素，并且可以通過干預進行修改，那么我們可以談論治療目標和其他干預類型，而不是純粹的“預測”。以這種方式使用神經預測可以通過更加個性化的懲教和社會康復措施來幫助預防犯罪，還可以使犯罪者更快地返回社區。如“個性化醫療”，它是一種使用個體的遺傳和表觀遺傳信息來定制藥物治療或預防性護理的治療方法，神經預測有助于針對個體的“需求”進行干預。

目前，人工智能用于刑事司法系統，主要用于預測累犯。人工智能風險評估通常不提供犯罪的因果模型，因此其目的不是展示干預和降低風險的機會。Barabas等人（2018）得出當風險評估主要用作預測技術時，它們會助長大規模監禁和司法系統日益不平等的有害趨勢的結論。

人工智能神經預測首先只是建立了大腦圖像和累犯風險之間的相關性。然而，如果確實有可能開發基于神經數據的干預措施，這可能會為罪犯提供避免監禁的機會。因為與無法改變的歷史數據和其他風險變量（例如一個人的種族、年齡和性別等人口特征）不同，神經數據有可能成為新的康復干預和預防計劃的目標，旨在減少接觸精神病態特征的風險因素，并防止有風險的人在以后的生活中從事犯罪行為。

這一點尤其重要，因為監獄環境可能對神經認知功能產生負面影響。事實上，研究發現監禁可能會導致自我控制能力下降。盡管如此，干預的可能性也涉及其自身的道德和法律問題：對于犯罪者來說，可能很難在剝奪自由和接受（可能有些侵入性）治療之間做出選擇，尤其是考慮到拒絕醫療的權利。然而，這又不是基于“人工智能神經預測”的干預的典型問題。

第四，涉及同意和強制。當這些技術得到充分開發并準備好使用時，可能會違反認知自由，迫使人們在未經同意的情況下進行掃描以用于量刑或懲罰。脅迫，無論是技術上的還是道德上的抑或法律上的，不僅與所使用的武力有關，因為并非所有的成像技術都允許這樣做，而且還與在無法拒絕的威脅或提議的背景下使用它們有關。解決這個問題的一種方法是嚴格規范神經預測測試的知情同意。

第五，應注意神經影像學在法庭上施加的“誘人魅力”。陪審團和法官顯然傾向于高估神經科學證據的準確性。盡管神經影像學旨在減少不確定性并提高法醫環境的客觀性，但由于證據評估中的認知偏差，在法庭上使用神經影像學存在誤導的風險。因此，引入神經預測可能會導致對神經數據的過度依賴。

此外，機器學習算法被認為是“決策黑盒”，其執行決策的方式利益相關者并不能完全理解，甚至專業數據科學家也不能完全理解。我們必須謹慎對待所謂的“控制問題”，即人類操作員傾向于對機器自滿、下放責任并過度依賴自主系統的輸出，即使它們有偏見。為了避免過度依賴，人工智能系統的透明度很重要，應向法官和陪審團解釋它們是如何產生結果的，應該使利益相關者能夠適當地信任和管理這些工具，了解其在推理中如何給出特定輸出以及基于什么理由。即使實際情況因大多數風險評估算法都是專有的這一事實而變得復雜，但對于社會來說，為了對其決策負責，人工智能算法可以被理解是非常重要的。

值得注意的是，法律制度中可能有針對法庭上科學證據的可接受性的標準。例如，在美國法律環境中，Daubert和Frye被用作標準。由于我們不關注具體的法律制度，因此未對此進行更詳細的討論，但顯然此類法律標準與法庭使用新技術有關。

決定這些技術所需的準確性非常重要。當前的風險評估工具的AUC通常約為0.70。這對于此類算法是否足夠或者閾值是否應該更高（如0.80或0.90），都是在決定允許使用這種技術來預防犯罪之前必須做出的規范性選擇。

此外，目前缺乏“真正的”預測模型。前文討論的相關研究的一個局限性是它們不是談論“純”預測而是可以歸類為后述研究，事后預測通常涉及基于事件發生后可用的信息對事件進行回顧性斷言或推斷。但是，當應用于統計模型的背景下，預測和事后預測之間的區別在于對模型成功與否的評估是使用與建立模型相同的數據還是使用建立模型時未使用的新數據。研究表明，用于預測應用的模型（如生物標志物）需要比標準統計方法更大的樣本量。此外，在之前討論的研究中，有關累犯的神經標志物的數據是在犯罪后收集的，因此我們無法確定觀察到的大腦差異何時出現。未來的挑戰是開發一個真正的預測模型，能夠識別出犯罪風險最高的人，而神經影像學與人工智能相結合的研究可能是開發這種模型的關鍵。

最后，似乎還有一個更遙遠的問題迫在眉睫。假設這些人工智能算法，無論是否有腦成像，都成為了很好的預測器，那會不會引入一種我們以前從未見過的確定性形式？人工智能系統可能被認為對將要發生的事情有一些“神圣”的預知，這可能會對人們體驗和發揮的自由產生負面影響，對自由意志的信念似乎有積極影響。

盡管如此，如今更緊迫的問題是我們并不擅長預測風險，即使是使用人工智能，我們仍然經常根據罪犯的假定危險性來實施制裁。如果人工智能在神經影像學的幫助下變得更加準確，它可以減少被錯誤歸類為高風險的人數，從而減少實際上不合法的制裁，有助于中斷所謂的“犯罪循環”。

七、結論

要在刑事司法系統中實施結合神經科學和基于人工智能的暴力風險評估工具，還需要更加深入的研究。盡管如此，人工智能已經被用于刑事司法系統。由于這類技術的深遠影響，以及近年來的快速發展，考慮道德和法律問題非常重要。除了討論預測分析的技術限制和陷阱外，我們還確定了六個值得關注的關鍵問題：處理偏見、隱私、“自我實現預言”的可能性、強制和同意、神經影像數據的吸引力以及對可解釋的人工智能系統的需求。最后，我們指出了一個更遙遠的問題，即高度準確的預測如何引入一種我們以前從未見過的確定性形式，但這仍然很遙遠。

盡管如此，我們還是要強調，出于安全和正義的原因，準確的風險預測非常有價值。因此，原則上，我們認為至少應該探索可能在這方面有所幫助的技術，并在準備充分時將其用于刑事司法和法醫精神病學領域。此外，神經預測和人工智能在某種程度上帶來了新的倫理和法律挑戰，我們應在使用這些技術之前處理好這些挑戰。更具體地說，我們必須找到解決方案來防止系統反映人類偏見，以使其能夠提供客觀和值得信賴的數據。

因此，我們認為，在刑事司法和法醫精神病學中使用基于人工智能的系統應受到實質性監管，以保護公民免受系統錯誤或濫用的影響。在此基礎上，不僅在這些技術完全可用時，而且在它們處于研究和開發階段時，我們都強調準確的危害或益處分析的重要性。

（責任編輯：何 為）

Neuroprediction and A.I. in Forensic Psychiatry and Criminal Justice： A Neurolaw Perspective

Leda Tortora1 Gerben Meynen2，3 Johannes Bijlsma2 Enrico Tronci4 Stefano Ferracuti1

Wan Huan （Translator）

1. Department of Human Neuroscience， Sapienza University of Rome， Rome;

2. Willem Pompe Institute for Criminal Law and Criminology/Utrecht Centre for Accountability and Liability Law （UCALL）， Utrecht University， Utrecht;

3. Faculty of Humanities， Vrije Universiteit Amsterdam， Amsterdam;

4. Department of Computer Science， Sapienza University of Rome， Rome

Abstract： Advances in the use of neuroimaging in combination with A.I.， and specifically the use of machine learning techniques， have led to the development of brain-reading technologies which， in the nearby future， could have many applications， such as lie detection， neuromarketing or brain-computer interfaces. Some of these could， in principle， also be used in forensic psychiatry. The application of these methods in forensic psychiatry could， for instance， be helpful to increase the accuracy of risk assessment and to identify possible interventions. This technique could be referred to as “A.I. neuroprediction” and involves identifying potential neurocognitive markers for the prediction of recidivism. However， the future implications of this technique and the role of neuroscience and A.I. in violence risk assessment remain to be established. In this paper， we review and analyze the literature concerning the use of brain-reading A.I. for neuroprediction of violence and rearrest to identify possibilities and challenges in the future use of these techniques in the fields of forensic psychiatry and criminal justice， considering legal implications and ethical issues. The analysis suggests that additional research is required on A.I. neuroprediction techniques， and there is still a great need to understand how they can be implemented in risk assessment in the field of forensic psychiatry. Besides the alluring potential of A.I. neuroprediction， we argue that its use in criminal justice and forensic psychiatry should be subjected to thorough harms/benefits analyses not only when these technologies will be fully available， but also while they are being researched and developed.

Key words： Neuroprediction; Artificiaintelligence; Recidivism; Forensicpsychiatry; Riskassessment; Neurolaw

萬歡，中南財經政法大學刑事司法學院2021級博士研究生。