人文化天下

破解刑事司法人工智能應用的法理難題

時間：2021-06-17 11:09:39 發(fā)布：自動化網(wǎng) 來源：《中國社會科學》2021年第2期　作者：李訓虎第一對焦：法與自動化

我國刑事司法人工智能應用走在世界前列。目前已經(jīng)落地的刑事司法人工智能應用已經(jīng)達到數(shù)百個之多。

各級各地司法實務(wù)機關(guān)積極研發(fā)、應用刑事司法人工智能，涵蓋刑事審前程序、定罪程序及量刑程序，幾乎實現(xiàn)對刑事訴訟流程的全覆蓋，逐漸發(fā)展出四種類型的刑事司法人工智能應用：(1)智能輔助決策應用系統(tǒng);(2)智能輔助支持系統(tǒng);(3)案件管理應用系統(tǒng);(4)訴訟服務(wù)應用系統(tǒng)。迅速發(fā)展的刑事司法人工智能應用，也逐漸暴露出數(shù)據(jù)壟斷、算法黑箱以及場景設(shè)置隨意等問題。實證調(diào)研亦充分顯示，刑事案件智能輔助辦案系統(tǒng)作為刑事司法人工智能的集大成者，在推廣、試點過程中運行并不盡如人意。

刑事司法人工智能應用過程中存在的問題表明，其只是現(xiàn)代科技融入刑事司法的一種技術(shù)進步力量，應當以促進司法正義實現(xiàn)的工具或輔助手段形式存在，其背后的價值基礎(chǔ)是司法正義。為此，刑事司法人工智能應用不僅需要具備法律層面的合法性，更需要法理層面的正當性，以克服潛在的倫理風險。從刑事訴訟法律規(guī)范層面對刑事司法人工智能應用進行合法性檢驗，從刑事訴訟法理層面進行正當性評析，從刑事司法正義結(jié)構(gòu)層面進行整體性評估，方可發(fā)展出契合中國刑事司法正義目標的人工智能應用。

(一)面臨的合法性挑戰(zhàn)

首先，事實認定領(lǐng)域的刑事司法人工智能應用會侵犯事實認定者的法定權(quán)力。根據(jù)刑事訴訟法相關(guān)條文，特別是第3條、第183條、第184條、第185條、第198條、第200條及第203條的規(guī)定，審判權(quán)由人民法院行使，事實認定者只能為法官和人民陪審員。在既往刑事司法實踐中，庭審虛化現(xiàn)象嚴重，以審判為中心的刑事訴訟制度改革著力推進庭審實質(zhì)化，力圖真正實現(xiàn)“讓審理者裁判、由裁判者負責”，法官和人民陪審員作為事實認定者的身份更加凸顯。在這一背景下，應用于事實認定領(lǐng)域，特別是具備“證據(jù)標準指引、單一證據(jù)校驗、證據(jù)鏈和全案證據(jù)審查判斷”功能的刑事司法人工智能應用，是否會侵犯法律規(guī)定的事實認定者權(quán)力，是否會導致庭審空心化，阻礙庭審實質(zhì)化改革目標順利實現(xiàn)，值得深入反思。

有論者認為，刑事司法人工智能只是輔助工具，有助于準確認定事實、能夠促進法律統(tǒng)一適用?，F(xiàn)實的問題在于，通過證據(jù)數(shù)據(jù)化、法律規(guī)則代碼化對審判人員進行裁判指引，無異于通過層層嵌套的技術(shù)實現(xiàn)對司法人員裁判權(quán)力的削弱，一定程度上會產(chǎn)生決策讓渡現(xiàn)象。并且，在案件數(shù)量劇增、審理時間嚴格受限的壓力之下，加之刑事司法人工智能具備判斷效率上的比較優(yōu)勢，運用人工智能的法官難免會形成依賴慣性甚至惰性，長此以往勢必會形成過度依賴人工智能的現(xiàn)象。如此一來，司法實踐中的事實認定者將不再只有法律規(guī)定的法官，而演變?yōu)閿?shù)據(jù)分析師、人工智能工程師、軟件工程師與法官的集合體，裁判權(quán)也將異化為計算能力和裁判能力的融合運用，這無疑會侵蝕現(xiàn)行法律授予法官的事實認定權(quán)，亦會侵犯法律賦予人民法院獨享的審判權(quán)。

其次，刑事司法人工智能應用的引入可能會侵犯被追訴人的諸多法定權(quán)利。預測性警務(wù)等犯罪預測工具的引入，不僅會使得追訴活動開始于正式的刑事立案之前，而且人工智能加持下的海量信息匯總、分析產(chǎn)生的犯罪畫像，會加劇偵查人員形成有罪推定的判斷，并使得這一判斷通過互聯(lián)互通的刑事案件智能輔助辦案平臺傳遞至法官，導致法官形成未審先判的預斷，庭審實質(zhì)化流于形式，構(gòu)成對被追訴人無罪推定權(quán)利的實質(zhì)侵犯。根據(jù)刑事訴訟法規(guī)定，當事人有知悉訴訟進程、參與訴訟過程、參與舉證、質(zhì)證以及法庭辯論的一系列訴訟權(quán)利，但刑事案件智能輔助辦案系統(tǒng)的引入，使得原先當事人具有的針對審判人員或者對方當事人的訴訟權(quán)利都難以適用于人工智能裁決系統(tǒng)，導致當事人訴訟權(quán)利的實質(zhì)受損。

再次，風險評估類刑事案件智能輔助辦案系統(tǒng)可能會加劇已有的偏見。在刑事司法領(lǐng)域引入人工智能對被追訴人的社會危險性、再次犯罪的可能性進行風險評估，以準確作出是否逮捕、是否繼續(xù)羈押的決定時，看似只是所運用技術(shù)的迭代升級，但域外實踐已充分證明，風險評估工具的運用會造成對特定群體的歧視，導致其被羈押、被從重量刑的概率顯著增加。進而言之，刑事司法人工智能應用存在加劇或者強化已有偏見、歧視的副作用。刑事司法人工智能的研發(fā)需要依托司法大數(shù)據(jù)，但當?shù)讓訑?shù)據(jù)存在問題或偏見時，據(jù)此研發(fā)的刑事司法人工智能應用便會放大這一效應。

最后，刑事案件智能輔助辦案系統(tǒng)可能會對審級制度形成嚴重沖擊，損害當事人的上訴權(quán)。審級制度存在的重要價值在于賦予當事人救濟機會，通過程序吸收當事人的不滿，達到消弭糾紛的目的。但刑事案件智能輔助辦案系統(tǒng)被應用于上訴機制后，無論上下級法院對刑事司法人工智能的輔助工具屬性如何強調(diào)，只要上下級法院運用相同的刑事司法人工智能應用處理同一案件，就會出現(xiàn)完全相同的事實認定或者法律適用結(jié)論，這無疑會削弱審級制度的意義和價值。

(二)存在的正當性隱憂

在刑事司法人工智能的基本要素中，數(shù)據(jù)壟斷、黑箱算法及應用場景缺乏規(guī)制，充分表明，我們的刑事司法人工智能基礎(chǔ)薄弱。當上述不足集合于具體的刑事司法人工智能應用時，會對既有的刑事訴訟法律關(guān)系、刑事訴訟結(jié)構(gòu)、刑事訴訟原則造成沖擊。

首先，刑事案件智能輔助辦案系統(tǒng)的應用將強化公檢法三機關(guān)之間“配合有余，制約不足”的關(guān)系。憲法、刑事訴訟法確立了公檢法三機關(guān)“分工負責、互相配合、互相制約”原則，但實踐中存在“配合有余，制約不足”現(xiàn)象。如果運用相同的刑事司法人工智能系統(tǒng)辦理案件，可能會使偵控審更加流水線化。既有的刑事案件智能輔助辦案系統(tǒng)以統(tǒng)一證據(jù)標準為主軸進行建構(gòu)，力圖通過引入人工智能，實現(xiàn)對刑事證據(jù)的統(tǒng)一指引、校驗、提示、把關(guān)和監(jiān)督。這種思路無疑會提高辦案效率，但會引發(fā)刑事訴訟流程異化，強化后續(xù)刑事訴訟流程對前續(xù)階段的機械性認同，使三機關(guān)辦案思路同質(zhì)化，分工、制約關(guān)系進一步受阻。

其次，刑事案件智能輔助辦案系統(tǒng)的應用可能會加劇本已失衡的控辯關(guān)系、辯審關(guān)系。實現(xiàn)控辯平衡是訴訟現(xiàn)代化的一項重要指標，但囿于種種限制，控辯力量對比很難達致平衡。在人工智能加持下，本已處于優(yōu)勢地位的偵控機關(guān)在數(shù)據(jù)獲取方面天然優(yōu)位，如其繼續(xù)不加限制地利用數(shù)據(jù)優(yōu)勢和黑箱算法，將使得本已處于弱勢地位的辯方更難進行有效抗辯。另外，將刑事案件智能輔助辦案系統(tǒng)應用于事實認定階段和量刑階段，會導致決策權(quán)讓渡，但由于辯護方對人工智能是否參與以及發(fā)揮作用程度大小并不知曉，當對結(jié)果有異議時，會不可避免地歸因于審判人員，加劇辯審沖突。

再次，刑事案件智能輔助辦案系統(tǒng)的透明度有待提升。數(shù)據(jù)、算法是刑事司法人工智能的核心要素，但數(shù)據(jù)壟斷和算法黑箱的存在，導致刑事司法人工智能缺乏透明度，使被追訴人處于數(shù)據(jù)不對稱地位和算法信息劣勢。缺乏透明度的刑事司法人工智能應用不僅剝奪被追訴人的知情權(quán)、減損其抗辯權(quán)，還使得“研究人員和外部專家難以評估和審核算法，從而難以測試算法的準確性和偏差值”。由此會帶來對刑事司法人工智能公信力的疑慮，最終影響應用實效。

最后，難以建立針對刑事司法人工智能的監(jiān)督與問責機制。司法責任制被視為本輪司法改革的“牛鼻子”，完善司法責任制，是建立權(quán)責統(tǒng)一、權(quán)責明晰、權(quán)力制約的司法權(quán)運行機制的關(guān)鍵。“讓審理者裁判，由裁判者負責”，既是改革的共識，也是改革的努力方向。但當下，如果因刑事司法人工智能應用造成冤錯案件，監(jiān)督和問責將變得困難重重。當案件裁決者由單一化走向多元化和復數(shù)化時，審理者的角色將不再確定、明晰，導致難以有效問責，會使得正在著力推進的司法責任制改革難以獲得真正落實。

(三)潛在的倫理性風險

刑事司法人工智能是一把雙刃劍，其“有可能提高刑事司法系統(tǒng)的審判準確性，并降低人為錯誤和偏見的風險，但它們也有可能強化或加劇現(xiàn)有的偏見，并破壞基本的司法正義原則”。刑事案件智能輔助辦案系統(tǒng)在提高訴訟效率的同時，也對刑事司法領(lǐng)域的倫理范式、正義觀念造成沖擊和挑戰(zhàn)。

刑事司法人工智能應用過程中，由人工智能自動生成判決、根據(jù)大數(shù)據(jù)矯正法律決定的偏差，特別是讓人工智能參與事實認定導致決策讓渡，使得法官定位發(fā)生極大動搖，甚至造成審判系統(tǒng)乃至司法權(quán)的全面解構(gòu)，從而在事實上形成審判主體的雙重結(jié)構(gòu)。并且，隨著機器學習的迭代升級，機器正從被動工具、輔助者轉(zhuǎn)變?yōu)榫哂凶灾饕庾R、自主決策能力的能動者。就刑事案件智能輔助辦案系統(tǒng)而言，其具有的自動生成判決、裁判偏離度預警等功能，已經(jīng)具有自動化決策功能，自主性和能動性的具備使其不再只是法官的輔助工具，而成為法官事實上的代理者甚至替代者，對既有刑事司法領(lǐng)域倫理范式構(gòu)成重大挑戰(zhàn)。

刑事司法人工智能中算法決策的深度應用，還對既有的司法正義結(jié)構(gòu)形成沖擊。司法改革中，刑事司法人工智能的限度并沒有被充分考量，算法決策已經(jīng)被應用于事實認定甚至復雜案件決策中，這實質(zhì)上是對算法決策的過度迷信。既有的刑事司法人工智能設(shè)計認為利用海量數(shù)據(jù)和算法，并輔之以超強算力，就可以破解刑事訴訟中的難題，防范冤假錯案，促進司法公正。但問題在于，司法正義特別是實質(zhì)正義難以通過具體的算法實現(xiàn)，畢竟“司法人工智能不會計算情感，不能與人進行心靈互動，自然不可能有人文關(guān)懷，難以根據(jù)具體場景靈活地、創(chuàng)造性地維護正義價值”。但司法實踐中，諸如犯罪預測、風險評估工具在內(nèi)的刑事司法人工智能應用，已經(jīng)在將公平問題算法化。問題在于，刑事司法人工智能中的算法決策依據(jù)的是通過數(shù)據(jù)、算法、建模構(gòu)建的“計算正義”，而非人本、人文層面的正義。

刑事司法人工智能面臨的合法性挑戰(zhàn)、存在的正當性隱憂以及潛在的倫理性風險表明，刑事司法人工智能亟待規(guī)制。但同時，上述問題的復雜性也表明，規(guī)制難度巨大。全球刑事司法人工智能改革的代表性國家都沒有形成體系化的監(jiān)管制度，這既有刑事司法人工智能技術(shù)發(fā)展不成熟的原因，也有政策制定者無法全面認知刑事司法人工智能風險的因素。但在我國刑事司法人工智能應用已經(jīng)獲得長足發(fā)展、問題已經(jīng)充分顯現(xiàn)時，跨越技術(shù)規(guī)制的“科林格里奇困境”，已經(jīng)迫在眉睫。

對于人工智能在刑事司法領(lǐng)域的應用，歐美國家司法實務(wù)機關(guān)普遍持相對保守態(tài)度。美國將刑事司法人工智能的應用場景限定于預測性警務(wù)、人臉識別以及審前程序、量刑程序中的風險評估。英國在審前程序中的預測性警務(wù)、風險評估、移動設(shè)備信息提取、數(shù)字取證等領(lǐng)域進行刑事司法人工智能應用試點。德國警方除曾試用人臉識別、在個別地區(qū)使用預測性警務(wù)外，基本沒有引入刑事司法人工智能應用;法國禁止將基于人工智能技術(shù)的法律服務(wù)軟件應用于刑事案件，并且通過立法禁止基于法官和書記官處成員的身份進行的人工智能裁判指引?？傮w而言，歐洲主要國家只是在審前程序有個別刑事司法人工智能應用，審判階段幾乎不存在刑事司法人工智能應用。

對刑事司法人工智能的規(guī)制，各國都處于起步階段，都在探索適合本國國情的規(guī)制路徑，形成發(fā)展優(yōu)位的中國模式、嚴格監(jiān)管的歐盟模式和漸進規(guī)制的美國模式，呈現(xiàn)刑事司法人工智能規(guī)制的國際競爭格局。域外國家刑事司法人工智能監(jiān)管領(lǐng)域的嚴格規(guī)制模式和漸進規(guī)制模式對我國具有一定啟示意義，但由于我國刑事司法的獨特訴訟文化和訴訟構(gòu)造，加之我國處于全球刑事司法人工智能的無人區(qū)，要求通過自身探索，創(chuàng)制契合我國刑事司法正義體系的規(guī)制方案。未來應按照習近平總書記提出的“推動大數(shù)據(jù)、人工智能等科技創(chuàng)新成果同司法工作深度融合”“讓人民群眾在每一個司法案件中感受到公平正義”的法治思想，改進發(fā)展優(yōu)位的規(guī)制模式，構(gòu)建專門針對刑事司法人工智能的規(guī)制原則、規(guī)制框架和規(guī)制規(guī)范，防范、化解可能存在的風險和挑戰(zhàn)，通過激勵發(fā)展與合理監(jiān)管相協(xié)調(diào)實現(xiàn)包容性規(guī)制。