我國人工智能刑法的行政前置性立法探析

熊 波

(華東政法大學 刑事法學院,上海 200042)

人工智能立法是我國新時代法治建設的重大現實課題[1],法定犯時代,人工智能犯罪屬于典型的行政犯。刑法作為后盾法,因此,相應地,這一影響應當具體體現在刑法和行政法的相互溝通、銜接的維度之上,而并非刑法閉塞體系內的立法方法探討。當前,我國人工智能刑法立法研究因側重于人工智能主體性地位研究,并未體現法學研究的務實性和現實性關切,而被諸多學者認為是在創造“學術泡沫”。國內外的理論與實踐多數不承認人工智能的主體地位[2],縱使是人工智能刑事主體地位得到部分學者的承認,國內外的頂層政策設計也明確表示反對[3]398-450。因此,人工智能刑事法治建設應當立足我國本土性的實踐真問題,并非所有的問題均屬于人工智能刑法面臨的真正挑戰。人工智能刑法立法應當做好與行政性法規范的銜接工作,這便要求塑造行政前置性立法的思維和規則。

一、人工智能刑法的行政前置性立法的理念塑造

當前,行政前置性立法規則探討存在缺失,學界較為忽視人工智能刑法的行政前置性立法的概念、特質和價值等本體問題。

(一)何為行政前置性立法

行政前置性立法的概念問題,主要是從刑法規范層面進行研討,因為“行政法與刑法銜接的問題主要體現在法律條文的規定上”[4]。由于人工智能技術屬于互聯網技術運用的高階部分,在人工智能刑法立法并未形成的現實情況下,人工智能刑法立法的行政前置性方法的概念理解,可以結合現行刑法規制的信息網絡犯罪和計算機信息系統犯罪進行。

以計算機信息系統犯罪為例,計算機信息系統作為人工智能基礎設施的主要表現形式之一,亦是新型人工智能犯罪重點關注的領域?！吨腥A人民共和國刑法》(以下簡稱《刑法》)第285至286條的非法侵入計算機信息系統罪,非法獲取計算機信息系統數據,非法控制計算機信息系統罪,提供侵入、非法控制計算機信息系統程序、工具罪,破壞計算機信息系統罪等罪名,在罪狀表達時采取了“違反國家規定”的立法技術?！缎谭ā返?6條對“違反國家規定”的含義進行了解釋:“本法所稱違反國家規定,是指違反全國人民代表大會及其常務委員會制定的法律和決定,國務院制定的行政法規、規定的行政措施、發布的決定和命令?！倍捎谌珖舜蠹捌涑Ｎ瘯贫ǖ姆芍忻鞔_包含了行政性規范要求的程序和義務,因此,計算機信息系統犯罪中的“違反國家規定”便屬于一種行政不法前置性立法。諸如此類的還有刑法規范中的“違反國家規定”“違反國家有關規定”“違反……法規”“違反……管理規定”,其屬于一種靜態層面的行為評價,違反行政法律規范就構成了“行政不法”[5]。

但不同于行政不法前置性立法,刑法規范中還存在著部分行政程序前置性立法,其本身屬于對行政程序的動態規范運行的認定和評價[6]。罪刑法定原則要求我們應當將刑法規范作為一切刑法活動的“帝王條款”。既然,刑法規范明文將行政程序作為罪名規范表述的一部分,這就表明刑法單獨對其進行強調,需要重點關注。而在運用“行政不法前置性”立法方法設置的空白罪狀中,則不存在行政程序的約束,其只要行政規范的靜態層面的符合即可,而并不需要行政機關開啟行政程序進行先行判斷。

以包含“行政程序前置性”立法的拒不履行信息網絡安全管理義務罪為例,縱使是網絡服務提供者在不履行法律、行政法規規定的信息網絡安全管理義務的情況下,造成了違法信息大量傳播、用戶信息泄露、刑事案件證據滅失等嚴重情形,但只要網絡服務提供者在相關行政監管部門責令采取改正措施時積極配合改正的,便不構成犯罪。其與前述“行政不法前置性”的立法方法不同的是,行政程序前置性立法為行為人設置了行政程序的積極配合義務,以行政程序的先行處理來實現犯罪圈的限縮目的。

值得強調的是,行政程序前置性立法中的“行政程序”并不包括行政訴訟程序。按照行政法學界的通說觀點,“所謂行政程序,是指行政主體作出行政行為的過程中所遵循的步驟、順序、方法、方式以及時限的總和”[7]315。由此可知,行政程序的“行政性”特點在于程序性事項作出的主體是“行政機關”,而依據《中華人民共和國行政訴訟法》第1條的立法目的,行政訴訟程序是一種司法程序,該種程序的主體性特點在于程序性事項作出的主體是“人民法院”。

綜上所述,人工智能刑法立法的行政前置性是刑法應對人工智能時代技術發展所應當運用的主要立法方法。其中,“行政性”是指人工智能行為等構成要件在靜態刑法規范層面中的不法行政評價和動態行政程序執行中的過程性、經歷性行政評價,而“前置性”是指前者前置于人工智能犯罪行為的刑事責任評價。

(二)人工智能刑法行政前置性的立法特質

如前所述,除了人工智能領域外,前置性立法方法在計算機信息系統犯罪和信息網絡犯罪領域中也有所體現。那么,人工智能刑法立法的行政前置性特質在哪?其能否被其他犯罪的行政前置不法規范所涵蓋?

從《刑法》第285至286條的計算機信息系統犯罪的罪狀設置來看,“違反國家規定”是對網絡技術危害行為對封閉計算機信息系統空間的控制性、攻擊性和破壞性的前置行政規范評價;而從《刑法》第253條之一、286條之一的信息網絡犯罪的罪狀設置來看,“行政性法律、法規規定的信息網絡安全管理義務”“違反國家有關規定”是對信息網絡技術危害行為本身的傳播性、無物理邊界性和傳播瞬時性的前置行政規范評價[8]。雖然《刑法》第287條是利用網絡技術實施的傳統犯罪,但是其并非純粹強調前兩者網絡技術性犯罪的特質,而是指向利用互聯網實施的傳統犯罪[9],在這種情況下,前置行政不法規范的涵蓋范圍就局限于上述信息網絡犯罪的技術特殊性。

但是,就人工智能技術利用的特性來看,人工智能產業的高速發展并不僅僅局限于上述兩類網絡犯罪的特性?？疾烊斯ぶ悄芗夹g的危害特質,我們可以從“人工智能”的基本概念入手。國家標準化管理委員會和中國電子技術標準化研究院共同編制的《人工智能標準化白皮書(2018版)》對人工智能的概念進行了精準的界定:“人工智能是利用數字計算機控制模擬、延伸和擴張人的智能,感知環境、獲取知識并使用知識獲得最佳結果的理論、方法、技術及應用系統?！盵10]5因此,人工智能最大的特性便在于:人工智能技術延伸、擴展、模擬的對象是人類。雖然在刑法規定的計算機信息系統犯罪和信息網絡犯罪中,同樣存在這種情況。但是“網絡犯罪是在網絡空間實施的犯罪,這是網絡犯罪的基本特征”[11]。這就表明人工智能與上述兩類網絡犯罪的最大差異在于算法技術延伸、擴展、模擬的對象不僅是人類的思想,還有人類行為的時空上的移動,而這在純粹的網絡空間中是無法實現的。因此,人工智能產品才能具有感知環境、與人交互、與人互補、連續擴展的特性,這是人工智能深度學習的必然效應[12]。諸如,2018年3月在美國發生的Uber無人駕駛測試車撞死行人事故以及2015年7月德國大眾汽車廠發生機器人殺人案,均屬于人工智能技術自由擴展人類思維和現實活動所導致的技術危害。

由此可見,人工智能技術危害的實踐特質是在人工智能的深度學習性和對人類活動時空的延伸性的技術差異中衍生而來的。在上述特質下,人工智能產品可以無限擴展人類的思維和活動空間?；诖?計算機信息系統犯罪的“違反國家規定”和信息網絡犯罪的“行政性法律、法規規定的信息網絡安全管理義務”“違反國家有關規定”等前置行政規范評價并不能涵蓋人工智能的技術危害。因而,計算機信息系統刑法和信息網絡刑法的行政前置性立法方法并不能完全契合人工智能刑法的行政前置性立法。諸如,《人工智能標準化白皮書(2018版)》中的人工智能標準的明細表,詳細統計了我國已發布、在研以及擬研制的人工智能相關標準共計200項,其中已發布的就有80項,占據40%[10]61-70。而這些便是出于人工智能技術危害的特質性而單獨制定的一種行政標準規范。

因此,在前述所言的信息網絡犯罪和計算機信息系統犯罪的行政前置性立法的現狀下,人工智能刑法的行政前置性立法方法并非是毫無根據或者脫離刑法體系的立法方法。但信息網絡犯罪和計算機信息系統犯罪的行政前置性立法,由于信息網絡犯罪、計算機犯罪與人工智能犯罪存在技術特質的差異性,因而,人工智能刑法的行政前置性立法并不能直接照搬信息網絡犯罪和計算機信息系統犯罪的立法模式。立法者應當將人工智能技術危害的實踐特質明確表述在行政前置性立法方法當中,以突顯人工智能刑法立法的獨立性。這種獨立性體現在兩個方面。

其一,人工智能刑法的行政前置性立法注重全面性?！叭嫘浴敝溉斯ぶ悄苄谭⒎ǖ娜婊姓爸眯粤⒎?。在信息網絡和計算機刑法立法中,雖然行政前置性立法方法也為立法者運用,但是立法者考慮到當前我國網絡技術和計算機技術的相對成熟性,司法者并不需要援引行政性法規范當中的術語定義、技術標準等,就可以直接依據危害結果進行入罪。因而,立法者并未全面地采取行政前置性立法方法,而僅是在前述部分罪名之中采取了行政前置性立法。

但是,正如前述,人工智能技術特質在于人工智能的深度學習性和對人類活動時空的延伸性,其是不斷變化的。因而,司法者僅憑非人工智能技術專業性的刑法規范認定每個變化過程中人工智能技術危害,完全是“天方夜譚”。而行政程序和行政不法規范因不同的行政管理領域,就可以直接關涉到人工智能技術的專業性規范。此時,人工智能刑法行政前置性立法注重全面性,就可以使司法者在具體運用刑法過程中,避免人工智能技術壁壘導致刑法適用的罪刑失衡。但是,在信息網絡和計算機信息系統的刑法立法中,行政前置性的全面立法完全沒有必要,其反而會導致信息網絡和計算機刑法立法的繁雜、冗余,不利于立法的簡潔性。

其二,人工智能刑法行政前置性立法注重雙重性?！半p重性”指“行政不法+行政程序”的雙重規則。在人工智能技術研發和產品運用的前期階段,人工智能技術相對于信息網絡或者計算機信息系統的技術研發和產品制造而言,不太成熟。并且,人工智能技術危害具有深度學習性和對人類活動時空的延伸性,因而,如果刑事立法者不借助行政程序防控不太成熟的人工智能技術前期階段潛在的風險,一旦人工智能技術的抽象危險轉為現實危害,那么其就具有全球性、不可估量性與蔓延性。所以,在國內外人工智能技術相關的法律法規之中,行政程序對于確保人工智能技術的研發以及人工智能產品的測試、生產、銷售和使用的安全性,發揮著舉足輕重的作用[3]398-450。諸如,人工智能技術研發的行政許可或者審批程序、人工智能產品測試的行政監管程序。

立法者考慮到當前我國網絡技術和計算機技術的相對成熟性,在現行刑法立法過程中,計算機刑法沒有采用行政程序前置性立法,信息網絡刑法中也僅有《刑法》第286條之一的拒不履行信息網絡安全管理義務罪采取了行政程序前置性立法。并且該種行政程序并非是出于網絡技術的特性考量,僅是為了行政機關責令網絡平臺及時履行管理義務而設置。因此,出于防范潛在且抽象的人工智能技術危害,人工智能刑法行政前置性立法在援引術語定義、技術標準等行政不法規范之外,還需要尤其注重行政程序性立法。相較于信息網絡和計算機信息系統的現存的行政前置性立法,人工智能刑法行政前置性立法需要注重“行政不法+行政程序”的雙重規則。

綜上所述,人工智能技術危害的實踐特質是在人工智能的深度學習性和算法對人類活動時空的延伸性的技術差異中衍生而來的?；谶@一實踐特質,行政前置性立法特質體現在,相較于信息網絡和計算機刑法而言,人工智能刑法的行政前置性立法更需要注重全面性和雙重性規則。

(三)人工智能刑法行政前置性的立法意義

毋庸置疑,人工智能刑法的行政前置性立法旨在強化刑法與行政法對人工智能法益侵害行為規制的互動銜接關系。那么人工智能刑法立法行政前置性規則的構建,是否有其必要?這需要細致剖析人工智能刑法行政前置性的立法意義。

1.行政前置性立法有助于發揮行政不法和程序的先行評價機制,防止單獨的刑罰處罰阻礙人工智能的技術創新

刑法在人工智能技術產業推動社會轉型的過程中,發揮的作用應始終保障并服務于人工智能技術競爭和社會發展。尤其是當前人工智能作為一種新型技術發展,在我國乃至國際上仍屬于智能產業初期的發展階段,塑造行政前置性立法規則,強調行政不法和程序的先行評價機制,有助于推動人工智能的技術創新。其一,行政前置的先行機制有助于契合刑法的第二次保障機制,防止刑法獨立擴充人工智能犯罪的行為概念和類型。其二,行政前置的先行機制為不被允許的人工智能刑事風險的認定,提供了具體評價標準[13]。只有在行政前置的先行評價機制明確回應了技術發展的最合理的形式和類型之后,我們才能確定超過合理技術的具體樣態和行政標準的人工智能危害行為是否屬于值得刑法評價的犯罪行為。

2.行政前置性立法契合人工智能危害行為的抽象性和分散性,有利于保障人工智能刑事歸責的專業性

人工智能作為互聯網技術產業的新生事物,其危害行為由于存在場域的虛擬性,而具有不同于傳統犯罪行為的不可直觀性、純粹技術性的抽象屬性。在行政前置性法規范的立法規則下,刑事司法者不應當承擔諸如“人工智能”“信息網絡”等純粹的專業技術性概念解釋的任務,而只需對“情節嚴重”等定罪量刑的具體標準進行界定。而由于前置不法規范的本質屬性在于抽象行政行為,其代表的是行政性規范文件對不特定人或事項的約束力。再加上,行政法規范的目的在于實現廣泛性、復雜性公共事務的管理[14]。因此,前置行政不法規范包括的行為概念和類型可以是具體的、多樣的。如此一來,在人工智能刑法中加入行政前置性立法方法,刑事司法者無疑可以將定罪量刑以外的純粹專業技術性概念的解釋性工作,交于前置行政法規范予以解決,其僅專注于人工智能犯罪中的專業化和精確化的定罪量刑工作即可。

3.行政前置性立法能夠防止人工智能刑法的重復性立法,有利于立法者重點聚焦人工智能的特質性對刑法立法的挑戰

當下,人工智能刑法學研究乃至法學研究并未如同人工智能社會轉型一樣,實現質的突破,因而被部分學者認為人工智能法學研究只是在徒增“學術泡沫”[15]。人工智能法學研究中的“學術泡沫”除了過于關注人工智能的主體性地位之外,還存在將本不屬于人工智能技術特質的行為類型作為立法建議的依據,導致人工智能刑法立法的效率低下、重復性現象大量出現[16]。而此類現象出現的根本原因在于:缺乏前置行政不法規范對人工智能刑法立法的約束性思維。但筆者認為上述觀點評價的人工智能犯罪現象,如同《刑法》第287條一樣,屬于利用人工智能技術實施的傳統犯罪,是一種傳統犯罪網絡異化的表現,并未突顯人工智能刑法立法的行政前置性法規范所涵蓋的行為特質,上述立法方案屬于一種重復性、情緒性或者間斷性立法的表現。因此,充分利用好行政前置性立法,梳理并排除人工智能與信息網絡犯罪和計算機信息系統犯罪的同質性在立法中的影響,有利于立法者重點聚焦并回應人工智能的特質性對刑法立法的挑戰,防止人工智能刑法的重復性立法。

4.行政前置性立法相較于單一化的刑法立法方法,有利于實現人工智能技術的不同危害行為的等級評價

在人工智能技術的深度學習性和對人類活動時空的延伸性的特質下,人工智能犯罪所致的危害行為的程度應當是不同的。諸如,人工智能醫療器械在銷售階段的風險,一般存在三種類型:第一,人工智能醫療器械在銷售時,被不法分子植入干擾算法系統深度學習的病毒。第二,被植入上述病毒的人工智能醫療器械,銷售者未經過行政登記或者故障排除就直接售賣給醫院。第三,被植入上述病毒的人工智能醫療器械,在未經銷售者的行政登記或者故障排除后,被醫院直接運用于手術治療中,造成多人重傷、死亡。

上述情形中,如果是第一種或者第二種類型,在未發生任何醫療事故時,刑法考慮到不法分子屬于初犯、偶犯,可以直接交由公安機關進行一般的行政處罰;銷售者也可以僅予以一般的行政處罰。但是,在第一、第二種類型下,如果不法分子為慣犯,且植入病毒的危害性較大,同樣銷售者并非僅銷售一臺醫療器械;或者是在第三種類型下進行銷售的。那么,可以肯定的是,單獨的行政處罰并不足以發揮法律體系對嚴重危害行為的完全評價機能。此時,對于銷售者而言,吊銷營業執照的行政處罰和單位犯罪的刑罰處罰則可以并科。因為,在第一、第二種類型下,不法分子的植入行為和銷售者的未經過行政登記或者故障排除的行為,僅處于人工智能醫療器械系統的靜態的深度學習過程,而并不牽涉第三類行為的“醫生治療行為的時空延伸性”風險。

由此可見,人工智能風險是否需要單獨由行政處罰進行規制,是由深度學習性和時空延伸性特質所致的不同危害行為所決定的。人工智能刑法在缺乏行政前置性立法時,單一化的刑法立法很有可能突破刑法的謙抑性原則,對人工智能的技術危害“大包大攬”。因而,行政前置性立法能夠滿足現實中不同程度的人工智能危害行為的分級評價需求。

二、立法規則Ⅰ:人工智能刑法的行政不法前置化

既然“行政前置性”對于人工智能刑法立法而言,發揮著舉足輕重的作用。那么,如何具體設計人工智能刑法立法的行政前置性規則,便是本部分需要重點解答的問題。其中,人工智能刑法的“行政不法前置化”立法是首要方法。

(一)前置行政不法對于人工智能犯罪行為基本類型的選擇

行為是犯罪概念的基礎事實或基本要素,不僅如此,其在階層論和構成要件論的犯罪認定方法中,也是各要素評價的主要對象[17]。同樣,這在行政法規范中亦是如此[7]336。因此,筆者擬首先從人工智能危害行為的行政前置化規則構建著手進行探討。而人工智能危害行為的類型化可以依據人工智能的技術、產品的發展特點,劃分為人工智能技術的研發階段,人工智能產品的生產、銷售、測試和使用階段。

第一,人工智能犯罪屬于典型的行政犯,在法定犯時代,自然犯中的利用人工智能手段殺人、放火、搶劫、盜竊、詐騙等行為類型,就不屬于行政不法前置性立法規則所需要考慮的行為范圍。因為,此類犯罪行為僅是犯罪手段或者工具的更新,其在行為要件的本質屬性和法益類型評價上,與傳統犯罪并不存在任何差異。

第二,縱使是在人工智能行政犯的類型中,也并非是所有的人工智能犯罪行為類型,均是行政不法前置性立法規則涵蓋的范圍。因為,在現行刑法的其他罪名涵蓋的行為類型中,利用人工智能犯罪的行為并未突破原有罪名的構成要件涵攝的范圍和保護法益的具體類型[18]。諸如,汽車制造商、車載操作軟件提供商如果提供瑕疵的人工智能傳感器,導致交通事故的,其本身就屬于《刑法》第146條生產、銷售不符合安全標準的產品的行為,刑法無需單獨設置人工智能交通肇事罪。

第三,在排除上述兩種情形后,能夠對行政不法前置性立法規則產生影響的行為類型是較為有限的。按照行為類型的突破點不同,筆者將其分為兩類:(1)對行為構成要件的本質屬性的突破。具體類型有自動駕駛汽車的危險駕駛行為,非法侵入、破壞人工智能系統的行為。(2)對法益類型評價的突破。具體類型有造成人工智能產品安全事故的行為、不符合行政標準的人工智能產品的銷售行為。第一種是對行為要件的本質屬性的突破,表明刑法無需再脫離原有的行政不法前置性立法規則單獨設置一個新罪名。其僅需要在相關罪名的構成要件中,添加相應的人工智能危害行為要件即可。第二種是對法益類型評價的突破,表明原有的前置行政不法規范本身保護的法益類型,已經無法評價人工智能危害行為所侵犯的法益,刑法需要單獨設置一個新罪名,以體現刑法對新類型人工智能法益的單獨保護。

綜上,結合刑法立法原理,真正能夠對刑法產生挑戰的人工智能危害行為類型僅有四類:銷售不符合行政標準的人工智能產品的行為,使用階段造成人工智能產品安全事故的行為,自動駕駛汽車的危險駕駛行為,非法侵入、破壞人工智能系統的行為。

(二)人工智能刑法前置行政不法性規則的具體建構

在確立真正能夠對刑法立法產生挑戰的人工智能危害行為類型之后,我們就需要具體構建人工智能刑法的行政不法前置性立法規則。

1.立法者需要對銷售不符合行政標準的人工智能產品行為設置抽象危險犯

人工智能產品的技術危害與傳統犯罪領域中的產品安全危害不同,雖然,本質上兩者均涉及日常生活和工作用品,且服務于經濟、校園、生活等各行各業;但是,人工智能的深度學習性和對人類活動時空的延伸性,決定了智慧經濟、智慧校園、智慧生活、智慧醫療等人工智能產品的運用,能夠較傳統產品的領域更為迅速、更為普惠。而且,人工智能產品并不需要人類的持續性操控和隨時性監管,其自身能夠通過外在環境的數據傳輸和感應,實現人類時空脫離的自主操作。因此,在人工智能產品及其相關測試平臺的銷售和使用階段,基礎設施系統的安全性、算法數據的正義性和全面性就顯得格外重要。

但是,現行刑法在規制產品銷售導致的嚴重法益侵害時,是基于傳統產品、商品能夠在人類的持續性操控和隨時性監管下的使用情況而設置的,其對法益的狀態評價更側重于銷售階段產品的現實危害和銷售金額。人工智能產品不同于人類操控指令支配下的技術服務和輸出的傳統產品,銷售不符合行政標準的傳統產品并不存在嚴重危及公共安全的潛在隱患,單個瑕疵傳統產品的法益侵害僅具有個體性、固定性,且法益侵害風險較易被發現和排除。但人工智能產品使用的危害特性恰好完全與之相反。

基于此,人工智能產品并不能簡單依附于《刑法》第140、145、146條的行政前置不法規范的評價,前文所述的《人工智能標準化白皮書(2018版)》中的200項不同的人工智能相關標準,就已經表明了兩者不可等同視之。在后續的人工智能刑法立法中,立法者應當明確依據人工智能相關產品(包括測試平臺)的國家標準和行業標準,對擱置許久的人工智能相關產品,在最后出售前未經內部環節的評測、檢驗,就隨意出售給使用者的行為,設置抽象危險犯。

2.立法者需要對人工智能產品使用階段的制造安全事故、危險駕駛、非法侵入、破壞系統等三類危害行為增設涵蓋行政不法規范的新罪名或條款

人工智能行業發展的主要動力來源于“深度學習算法”“海量計算資源”“大數據資源”?！吧疃葘W習算法”是對系統功能本身的要求,“海量計算資源”“大數據資源”是對外在數據的質量和數量的要求[19]?？梢?在人工智能產品的使用階段,可以預想的是,行政先行評價機制中,產品的使用者除了要履行確保人工智能基礎設施平臺安全的行政義務之外,還需要履行排除輸入的數據的數量和質量安全隱患的行政義務。

其一,刑法立法通過“人工智能產品使用安全的行政性法規范”評價人工智能產品安全事故的行為。人工智能產品在使用過程中,通常是用于公共服務行業。諸如,公共服務機器人、酒店服務機器人、銀行服務機器人、場館服務機器人、餐飲服務機器人在公共場所的使用。人工智能機器人作為自動化技術的重大成就,機器人和人類社會的生產、生活密不可分。有數據統計顯示:2016年全球機器人數量接近30萬,2019年增至41.4萬。當前全球機器人數量年均增長率約為15%,中國是推動機器人市場繁榮發展的最大“發動機”[20]。智能機器人完全展現了人工智能的特質性,其既可以按照人類預先編程好的算法結構運行,又可根據深度學習系統感知環境變化進行自主操作。而由于商業機密的保護需要,人工智能算法系統的數據輸入到模型輸出的學習過程均存在著不透明性[21]。因此,在這一“算法黑箱”下,一旦行為人不熟悉算法運行結構,疏忽大意或者過于自信地違反了人工智能基礎設施平臺安全和輸入的數據的數量和質量安全的國家有關規定,導致了重大傷亡事故或者其他嚴重后果的情形,刑法應當設置人工智能活動事故罪對其予以評價。而在現行刑法規定的事故類犯罪的罪名之中,《刑法》第134至139條之一均是屬于對特定生產、工作行業事故的規制,因而,上述罪名規定的前置行政不法規范均無法獨立涵蓋“違反人工智能產品使用安全的法律、法規”的行為。因此,立法者有必要比照事故類犯罪的立法模式,單獨設置“人工智能安全事故罪”。

其二,刑法立法通過“自動駕駛的相關國家規定”防范自動駕駛汽車的危險駕駛行為風險。自動駕駛汽車可以說是人工智能產品使用階段中最受歡迎的智能工具,2018年4月3日,工業和信息化部、公安部、交通運輸部聯合印發了《智能網聯汽車道路測試管理規范(試行)》,其中,第9條規定了測試主體需要確保智能網聯機動車的安全技術和自動駕駛等功能檢驗合格的行政義務要求。除此之外,根據美國高速公路安全管理局推出的《自動駕駛汽車的分級標準》(NHTSA),該標準按照智能化、自動化的程度將智能網聯汽車分為4個等級,其中L1-L3屬于駕駛支援和部分、有條件的自動化駕駛[3]78-79。這就表明,在不同程度和等級的自動化技術情況下,危險駕駛的認定方式也有所不同。我國《刑法》第133條之一危險駕駛罪的規定,采取的是四類封閉式的行為方式列舉:“追逐競駛、醉酒駕駛、超載超速行駛以及運輸危險化學品駕駛”,但其均無法包括人類駕駛員或者測試主體未確保智能傳感、攝像、雷達感知等設備的安全性能或者未履行半自動化駕駛的監控職責等危險駕駛行為。按照《中華人民共和國網絡安全法》(以下簡稱《網絡安全法》)第31條的規定,交通屬于國家在網絡安全等級保護制度的基礎上,重要保護的網絡基礎設施安全的行業和領域,保護的具體范圍和具體辦法由國務院制定。因此,《刑法》第133條之一的危險駕駛罪有必要將智能網聯汽車的危險駕駛行為納入該條之中,增設第5項“(五)違反自動駕駛的國家規定,危及公共安全的”智能網聯汽車危險駕駛罪。

其三,刑法立法通過“人工智能系統管理安全的行政性法規范”規制侵入、破壞或干擾行為。在人工智能算法編程的不透明性、不公開性的情況下,除編制基礎設施及其運行數據的研發者以及輸入的功能算法數據的使用者,能夠熟知相應階段的算法數據外,不熟悉算法運行結構的行為人,侵入甚至破壞人工智能算法系統,或者破壞人工智能基礎設施系統存儲、處理、傳輸的算法數據的,將極易誘發智能數據運行亂碼的潛在危險。以阿里云ET城市大腦為例,“2017年底,ET城市大腦被列為首批四大新一代國家人工智能開放創新平臺之一,被認為是人工智能的‘登月計劃’,將成為接下來10年機器智能最重要的研究平臺”[22]。阿里云基礎設施平臺通過匯集企業數據、公安數據、政府數據、運營商等多方的城市數據,借助ET大腦的深度算法學習,全局、實時地發現城市的問題并給出相應的優化處理方案,同時聯動城市內各項資源調度,以整體提升城市運行效率。由于ET城市大腦服務著多個城市群,并能及時提供問題的優化方案,一旦行為人侵入甚至干擾、破壞此類企業的人工智能系統及其運行的數據的,將極有可能致使城市之間的資源調動和問題化解系統出現崩潰。雖然,按照《刑法》第285條、第286條的非法侵入計算機信息系統罪和破壞計算機信息系統罪的相關規定,對于干擾國家事務、國防建設、尖端科學技術領域的人工智能系統,以及人工智能系統功能數據本身的行為,刑法的相關規定足以應對上述危害,但是卻存在如下問題:第一,雖然人工智能系統過于專業化和技術化,但是其仍需要專業的人工智能技術和產品的研發公司予以維護和操作。而此類人工智能系統也如同《刑法》第285條特定的計算機信息系統一樣,承擔著輔助公共服務的決策功能。上述的阿里云ET城市大腦和部分城市采用的企業安防系統便屬于此類情況。而囿于第285條對計算機信息系統的封閉式列舉,導致該條的“違反國家規定”的前置行政不法規范,無法將侵入阿里云ET大腦等人工智能系統的危害行為納入該條立法之中。第二,在算法數據本身不存在任何質量和數量瑕疵的情況下,行為人也有可能干擾人工智能系統中存儲、運行、處理的數據,致使系統產生運行偏差,而該偏差并非屬于人工智能系統無法正常運行的情形。此時,《刑法》第286條第1、2款的“違反國家規定”的行為類型就無法將其予以涵蓋。依據《網絡安全法》第33條的規定,對于人工智能系統的基礎設施建設,相關主體應當確保其具有支持業務穩定、持續運行的性能。這就表明一般行為人還應當承擔不干擾智能系統的業務穩定性能的行政義務,而并不應當僅局限于人工智能系統的正常運行。

基于此,筆者認為,刑法立法應當將《刑法》第285條中的“違反國家規定”的涵蓋范圍擴充至人工智能系統;在《刑法》第286條第1、2款的“違反國家規定”的涵蓋范圍中,加入干擾人工智能系統功能的數據,致使系統偏離指令運行,以及干擾存儲、處理或者傳輸的算法數據,致使人工智能無法正常運行或者偏離指令運行等行為。

綜上所述,行政不法前置性立法具體體現在人工智能產品的銷售和使用階段。具體而言:(1)立法者需要對銷售不符合行政標準的人工智能產品行為設置抽象危險犯;(2)立法者需要對人工智能產品使用階段的制造安全事故、危險駕駛、非法侵入、破壞系統的危害行為增設涵蓋行政不法規范的新罪名或相關條款。

三、立法規則Ⅱ:人工智能刑法的行政程序前置化

根據現行刑法中已有的前置行政程序規范,人工智能刑事風險規制的前置行政程序的具體表現形式包括行政責令、下達改正通知、行政機構提出相關要求、行政處罰、行政許可等程序類型。根據人工智能犯罪行為在不同階段的法益侵害特性,行政程序前置性立法方法具體體現的階段有人工智能技術的研發階段,人工智能產品的測試、生產、銷售和使用階段。

1.立法者需要設置行政許可等程序來確保人工智能技術的研發以及人工智能產品的測試階段的安全性或符合人類的道德倫理性

基于人工智能技術創新的要求,行政程序前置化方法主要是考慮人工智能刑法義務承擔的緩沖性,其能夠體現人工智能網絡技術行政監管失靈后的刑法最后手段原則。最后手段原則表明,人工智能的技術創新需要在行政程序的監管下進行。換言之,人工智能技術的研發必須以制造、生產符合人類的道德倫理和技術安全的產品為最終目標,而人工智能的產品測試能夠檢測出人工智能技術的研發是否符合上述目標。為了體現行政程序在人工智能技術研發和人工智能的產品測試階段的監管作用,確保人工智能創新能夠按照國家政策方針和產業戰略、規劃的既定目標進行,我們有必要將行政程序融入技術研發和產品測試的階段之中。

在行政法學界,行政程序本質上是一種具體行政行為。行政行為具有公務性,是出于全體國民的公共利益而進行的行為[23]?；诩夹g創新的最終目標要求和刑法介入的最后性原則,無論如何,我們可達成的共識是,在人工智能技術研發、產品測試環節之前,相關行政部門必須先對深度學習的人工智能系統提出相應的限制要求[24],以使其符合人類的基本倫理或道德。

其一,通過行政許可、登記程序來確保人工智能技術研發階段符合人類的道德倫理性和技術安全性。首先,通過行政許可程序確保技術研發的倫理性和安全性。行政機關需要先對人工智能技術研發的主要方向和使用目的進行審查,以確保人工智能技術合規。如果人工智能技術并未通過行政機關委托的獨立第三方專業機構的技術評估,那么據此研發出來的人工智能技術的可靠性便無從確保。而通過行政許可、登記程序,可以確保后續制造、生產階段依據的人工智能產品的技術來源,以明確人工智能產品使用階段法益侵害結果的責任承擔。其次,行政監管部門通過人工智能研發技術的分類管理,便于為后續開展不同程度的刑事歸責提供相應依據。由于人工智能產業涉及面廣、自動化技術運用的程序不一,而自動化程度和涉及的產業面與人工智能技術的法益侵害性程度形成正比。因此,《網絡安全法》第21、31條以及工業和信息化部等10部門在2019年7月26日聯合發布的《加強工業互聯網安全工作的指導意見》均提出:要對互聯網技術實施分類施策,分級管理,根據行業重要性、企業規模、安全風險程度等因素予以不同程度的規范保障。當前,人工智能技術研發階段的刑法規制仍呈現空白,而未經行政審批、許可或者技術登記,就直接進行技術研發而違背人類倫理等類似缺陷,在“基因編輯嬰兒”事件中就已經表現得淋漓盡致?？深A料到的是,人工智能研發技術的濫用危害在智能時代將會更加突出。因此,筆者認為刑法有必要對未經行政審批、許可而開展人工智能技術的研發行為進行規制。

其二,通過行政責令、登記程序來確保人工智能產品的測試階段的技術安全。當前,人工智能技術的產業發展還處于萌芽期,在未來一段時間內,人工智能產品的測試將愈發普遍。為了體現人工智能產品測試的環境真實性和相關產品基礎設施面臨突發危險的靈敏度,測試場域一般是在現實生活當中,而并非虛擬的空間環境。但是,現實場域中人工智能產品測試并不同于普遍推廣或者日常生活使用的人工智能產品的成熟性能,在現實場域的測試環境中,算法的深度學習隨時可能面臨不可預料的突發情況。而行政監管部門對人工智能產品測試環節提出的具體要求,可以降低此類風險。以智能網聯汽車的測試為例,上海市、北京市、重慶市、深圳等地的《智能網聯汽車道路測試管理辦法(試行)》均要求測試主體應當在公安交通管理部門指定的區域、時段進行測試。因此,對于相關測試主體不提交測試的范圍和路線直接測試,脫離行政部門監管的,或者雖然提交了測試的范圍和路線,并經行政主管部門許可,但違反行政許可、登記所指定的測試區域和時段要求,造成嚴重法益侵害后果的行為,刑法應當單獨進行規制。

2.立法者需要設置行政許可等程序來確保人工智能產品的生產、銷售和使用階段的安全性,以防范人工智能刑事風險

通過了行政管理部門對人工智能研發技術和測試產品安全性檢驗的,并不意味著人工智能產品的生產、交易流通環節就可以脫離行政部門的監管。人工智能產品的深度學習性不同于傳統互聯網產品單純的指令操控性,人工智能技術的研發、人工智能產品的測試階段的行政監管程序,只是對人工智能基礎設施平臺和算法系統功能的安全性監督,并不代表人工智能產品的生產、銷售、使用階段的數據模塊的改造和人類輸入指令數據質量的安全性。人工智能系統一旦獨立運作,其自身便會依據產品所處的客觀環境對算法數據進行編制。因此,每個環節的注冊登記,可以確保行政監管部門能夠通過聯網系統隨時知悉人工智能產品的生產、銷售和使用階段的基礎數據的算法運作狀態[25]。

在生產、銷售和使用階段,如果生產者、銷售者、使用者,在生產、銷售、購買人工智能機器人之后、交易使用之前,未及時登記造冊,網上填寫企業和個人電話、身份證號、住址等相關信息,導致網絡監管部門在人工智能系統癱瘓時,無法及時聯系相關責任主體,無法責令具體個人和企業消除隱患而造成嚴重后果的行為,刑法應當發揮后盾法的作用。

此外,由于人工智能系統運作的技術專業性和抽象性,刑法規范中的行政責令還可以使一般使用者和銷售者更好地排除人工智能系統的算法偏失。以“微軟的人工智能聊天機器人Tay事件”為例,假設機器人Tay與有偏激言論的人互動后,被引導出仇視女性和種族歧視之類的偏激算法數據之時,相關行政監管部門通過智能聯網系統及時發現,并發出責令微軟企業關閉使用賬號并下架機器人的程序,便可防止事態的進一步惡化。

“系統地看,人工智能犯罪產生侵害結果是一個行為流程鏈條”[26],人工智能產品的銷售階段是人工智能產品流向各行各業的最后環節。因此,在人工智能產業發展初期,人工智能產品的銷售行為應當實施行政許可。違反人工智能產品管理法律、法規的非法銷售的行為,應當屬于非法經營的行為。而按照《刑法》第225條非法經營罪的規定,人工智能產品不同于鹽業、煙草業等行業的特許產品;也不同于需要進出口的產品;更不同于需要國家有關主管部門批準的非法經營的證券、期貨、保險、資金支付結算業務。但為防止人工智能產品隨意銷售的普遍而導致產品質量低劣、脫離行政部門監管的現象發生,筆者認為,《刑法》第225條應當單獨增設第4項“(四)未經許可經營的人工智能相關產品的”條款,以規制不經行政許可,擾亂市場秩序,隨意銷售人工智能產品的行為。

綜上所述,人工智能刑法的行政程序前置性立法具體體現在人工智能技術的研發階段,人工智能產品的測試、生產、銷售和使用階段。行政程序前置性立法發揮著行政行為公共服務監管的本質機能,行政許可、登記、責令等程序能夠確保人工智能技術研發和產品測試、生產、銷售和使用等各階段,符合人類的道德倫理性和技術安全性。行政程序前置性立法要求刑法應當單獨設置相關罪名,將行政許可、登記、責令等程序作為人工智能技術發展初期的刑法規制緩沖手段和風險預防手段。

結合人工智能刑法的“前置行政不法+前置行政程序”這兩類立法規則,我們發現,在立法者具體設計人工智能刑法的行政前置性立法規則時,前置行政不法和前置行政程序的刑法立法始終貫穿人工智能技術的研發階段,以及人工智能產品的測試、生產、銷售和使用的各個階段。這也契合前文所述的全面性和雙重性的立法規則特性。其中,將人工智能技術危害的實踐特性明確涵蓋于“違反相關人工智能的法律、法規”之中,是行政不法前置性立法的典型表現;運用行政許可、登記、責令等程序,實現潛在性和不特定性人工智能技術危害的風險預防和緩沖,是行政程序前置性立法的典型表現。

四、結語

人工智能刑事法治建設應當立足我國本土實踐的真問題。人工智能犯罪作為典型的行政犯,人工智能刑法立法規則的探究,應當體現法學研究的務實性和現實性關切,契合法定犯時代人工智能刑法的行政前置性立法特質。在“定性+定量”的刑法規范設置和分散性、多樣性的行政法規范下,我國人工智能刑法的行政前置性立法具有鮮明的中國特色。因此,在我國人工智能技術產業發展的初期,行政前置性立法勢必有利于我國人工智能刑法引領世界潮流,助力人工智能技術的國際競爭。人工智能刑法立法在法定犯時代永遠與行政法保持著密切的溝通和銜接關系,結合現行刑法的立法現狀,行政前置性立法包括“前置行政不法+前置行政程序”立法規則。而在人工智能的深度學習性和對人類活動時空的延伸性這一實踐特質的引導下,行政前置性方法便獨立于傳統犯罪、計算機信息系統犯罪和信息網絡犯罪領域。在具體設計人工智能刑法行政前置性立法規則時,立法者應當在人工智能技術的研發階段,以及人工智能產品的測試、生產、銷售和使用階段注重全面性和雙重性的規則特性。