【ZiDongHua 之人文化天下收錄關(guān)鍵詞：法與自動(dòng)化 自動(dòng)化科技   機(jī)器人  數(shù)字司法  人工智能  維爾茨堡大學(xué)   北京大學(xué)  自然語(yǔ)言處理  chatGPT 】

法苑·動(dòng)態(tài)︱Eric Hilgendorf：數(shù)字司法：我們是否需要“機(jī)器人法官”

2023年5月9日，北京大學(xué)法學(xué)院全球教席學(xué)者、德國(guó)維爾茨堡大學(xué)刑法、刑事司法、法律理論、信息與計(jì)算科學(xué)法系系主任Eric Hilgendorf教授以“數(shù)字司法：我們是否需要機(jī)器人法官”為主題開(kāi)展了一場(chǎng)線上學(xué)術(shù)講座。講座由北京大學(xué)法學(xué)院研究員江溯主持，北京大學(xué)法學(xué)院教授梁根林擔(dān)任講座評(píng)議人。校內(nèi)外近百余名師生通過(guò)zoom會(huì)議平臺(tái)在線參與講座，反響熱烈。

本文以文字實(shí)錄的方式呈現(xiàn)講座核心要點(diǎn)。

Eric Hilgendorf：

司法活動(dòng)是否可以得到以及在多大程度上能夠得到人工智能的支持、人工智能系統(tǒng)是否可以代替法官等議題已經(jīng)引起廣泛討論。在對(duì)上述議題展開(kāi)討論前，我們首先應(yīng)當(dāng)明確法官的職責(zé)。法官必須根據(jù)法律進(jìn)行裁決，需要確定法律并通過(guò)解釋法律將之適用于具體案件，不能任意妄為。另外，法官同時(shí)代表法律和法治：一個(gè)審判是否是一場(chǎng)公平正義的審判，其衡量標(biāo)準(zhǔn)不僅僅限于判決的法律適用是否準(zhǔn)確，還包括該判決是否能被糾紛各方所接受。司法活動(dòng)的任務(wù)不僅僅是合并并提供法律信息，還包括向社會(huì)傳遞法律精神以及推動(dòng)民眾對(duì)國(guó)家權(quán)力的接受等。

人工智能系統(tǒng)可以用以輔助司法系統(tǒng)，但不應(yīng)該用以做出最終司法判決。從速度和效率的角度來(lái)看，如果現(xiàn)代技術(shù)手段能夠使得法院更快、更有效地開(kāi)展司法活動(dòng)，那么法院應(yīng)當(dāng)對(duì)數(shù)字化方式等技術(shù)的使用持開(kāi)放態(tài)度，并及時(shí)跟進(jìn)最新技術(shù)。

在司法活動(dòng)中使用人工智能，可以幫助消除導(dǎo)致法官錯(cuò)誤裁判的某些錯(cuò)誤來(lái)源。法官的決策會(huì)受到情感和認(rèn)知偏見(jiàn)的影響，但人工智能的運(yùn)用可能能夠協(xié)助避免或排除上述影響(前提是相關(guān)問(wèn)題不會(huì)發(fā)生在人工智能系統(tǒng)中，或者至少在技術(shù)上可以預(yù)防相關(guān)問(wèn)題在人工智能系統(tǒng)發(fā)生)——這意味著人類決策與人工智能的結(jié)合，可以幫助避免司法裁決中的認(rèn)知理性缺陷。未來(lái)既不完全屬于人類，也不完全屬于人工智能，而是屬于人與人工智能之間的協(xié)作。

在司法活動(dòng)中使用人工智能可以使司法機(jī)構(gòu)比以前更強(qiáng)大，人工智能不僅可以提高司法效率，還可以使民眾更加了解司法系統(tǒng)。下面將對(duì)人工智能在前述幾個(gè)方面的應(yīng)用前景進(jìn)行進(jìn)一步討論與分析。

1. 通過(guò)數(shù)據(jù)庫(kù)分析以輔助司法判決

人工智能在支持司法決策方面最突出的用途是人工智能可以儲(chǔ)存大量的判決書(shū)，并在判例法和文獻(xiàn)數(shù)據(jù)庫(kù)中快速檢索出與待審判案件相關(guān)的法律主題。因此，人工智能可以用來(lái)輔助司法判決。

2. 做出預(yù)測(cè)

人工智能不僅非常擅長(zhǎng)識(shí)別司法裁判的模式，它還可以從這些模式中總結(jié)相關(guān)規(guī)律，并根據(jù)這些規(guī)律做出預(yù)測(cè)。諸多實(shí)例表明，程序法必須改變以適應(yīng)智能化時(shí)代所出現(xiàn)的新的可能性。但應(yīng)明確的是，對(duì)基本權(quán)利的保護(hù)而言，新技術(shù)需被謹(jǐn)慎對(duì)待。在司法過(guò)程中使用任何有關(guān)人工智能的法規(guī)，都需要先對(duì)相關(guān)問(wèn)題進(jìn)行仔細(xì)分析并權(quán)衡其優(yōu)缺點(diǎn)。

3. 裁判文書(shū)寫作與在線仲裁法院

人工智能系統(tǒng)，如最近引起巨大關(guān)注的ChatGPT，可根據(jù)具體案件生成高質(zhì)量的裁判文書(shū)，因此人工智能能夠適用于法律文本書(shū)寫。此外，隨著人工智能在司法領(lǐng)域的廣泛應(yīng)用，法官和檢察官將會(huì)越來(lái)越多地處理“Chat法官”的意見(jiàn)。在德國(guó)，民事訴訟不一定要在州法院進(jìn)行，因此將來(lái)利益沖突可能不再由州法院裁決，而是由私人運(yùn)營(yíng)的在線仲裁法院根據(jù)算法生成或根據(jù)算法解釋的規(guī)則進(jìn)行裁判——這在很大程度上取決于國(guó)家能否迅速地將新技術(shù)融入到現(xiàn)有的司法文化當(dāng)中，捍衛(wèi)基本法律規(guī)則的同時(shí)，利用人工智能系統(tǒng)提高司法的效率與準(zhǔn)確性。但可以肯定的是，無(wú)論如何，我們現(xiàn)存司法體系將發(fā)生重大變化——唯一的問(wèn)題是，它是會(huì)以自主的方式向前邁進(jìn)，還是會(huì)被動(dòng)受到驅(qū)動(dòng)或被削弱。

4. 事實(shí)調(diào)查、證據(jù)收集和證據(jù)評(píng)估

人工智能在事實(shí)調(diào)查、證據(jù)收集和證據(jù)評(píng)估方面還沒(méi)有被充分重視，其可用于估算當(dāng)事人對(duì)同一案件事實(shí)進(jìn)行不同法律解釋的概率。

5. 人工智能在溝通交流領(lǐng)域的應(yīng)用

在司法領(lǐng)域使用人工智能還可協(xié)助促進(jìn)法院和當(dāng)事人之間的溝通。人工智能能夠克服法院與糾紛雙方在溝通過(guò)程中遇到的法律用語(yǔ)溝通障礙和特定的文化障礙。

6. 在虛擬空間中主持訴訟過(guò)程

人工智能在司法領(lǐng)域的另一個(gè)潛在用途是在虛擬空間中進(jìn)行取證程序、證人詢問(wèn)或整個(gè)聽(tīng)證過(guò)程。特別是對(duì)于民事訴訟而言，不但能通過(guò)網(wǎng)絡(luò)在線進(jìn)行，還可以將其轉(zhuǎn)移到一個(gè)虛擬環(huán)境中。在這個(gè)虛擬環(huán)境中，行為人以虛擬人形態(tài)出現(xiàn)，即作為自然人的化身參與訴訟。

7. 是否應(yīng)該由人工智能做出最終的司法裁決?

真正的“人工智能法官”是指一個(gè)能夠獨(dú)立解決法律糾紛且具有合法性與正當(dāng)性的系統(tǒng)。關(guān)于是否應(yīng)該由人工智能做出最終司法裁決的論題已經(jīng)被討論了相當(dāng)長(zhǎng)的時(shí)間。當(dāng)下，特別是在稅收和行政罰款過(guò)程中，行政執(zhí)法人員已使用人工智能系統(tǒng)做出行政裁決(該決定可以被上訴)。需要說(shuō)明的是，上述決定中人工智能的決策能力是有限的，而不是無(wú)限的。如果公民可以對(duì)機(jī)器所作出的裁決提出上訴，也就是說(shuō)，如果仍然能夠保證人類對(duì)司法過(guò)程的有效控制，那么“人工智能法官”的存在是極具可能性的。具有有限決策權(quán)的人工智能系統(tǒng)可以可觀地提升司法決策效率：人工智能簡(jiǎn)化了行政流程和裁決過(guò)程，使法官能夠集中精力處理需要人類參與的復(fù)雜任務(wù)。因此，從一開(kāi)始就排除司法領(lǐng)域中人工智能的使用是明顯錯(cuò)誤的。

然而，必須讓那些受到人工智能所做出決策影響的人知道做出決定的不是人，而是人工智能。因此，該程序必須是透明的。在德國(guó)，人工智能決策系統(tǒng)的引入應(yīng)該由議會(huì)在個(gè)案中進(jìn)行嚴(yán)格審查，并由法律對(duì)其適用范圍、適用情形等作出明確規(guī)定。最后，必須完善使用人工智能決策的補(bǔ)救措施，確保最終的決定是由人類做出的。

誠(chéng)然，數(shù)字化技術(shù)手段與人工智能系統(tǒng)的運(yùn)用有助于支持司法機(jī)構(gòu)完成其任務(wù)并推動(dòng)司法機(jī)構(gòu)的進(jìn)一步發(fā)展。然而，人工智能與數(shù)字化手段所帶來(lái)的風(fēng)險(xiǎn)也不應(yīng)被低估。

1.一般性問(wèn)題

第一，必須確保司法系統(tǒng)功能的準(zhǔn)確性，尤其是在法律適用領(lǐng)域。因此，我們不僅必須盡可能地避免并消除程序性錯(cuò)誤，還必須對(duì)抗相關(guān)的黑客攻擊，以確保司法系統(tǒng)安全性。

第二，司法裁判數(shù)字系統(tǒng)的性能取決于它們的數(shù)據(jù)。這意味著某些社會(huì)問(wèn)題，例如某些被認(rèn)為帶有歧視性的職業(yè)選拔方式，可能會(huì)對(duì)人工智能系統(tǒng)的決策產(chǎn)生一定影響。

第三，從單純支持型AI到自我決定型AI的轉(zhuǎn)變是由一系列非理性因素(如人類情感)所推動(dòng)的，為了盡可能地減輕這些因素所帶來(lái)的影響，人們應(yīng)認(rèn)真審視這些因素并在實(shí)踐中采取多種方式避免這些因素對(duì)決策的影響。人追求便利的心理便是影響因素之一，出于這種便利心理，人們會(huì)更傾向于直接采納機(jī)器所作出的建議。并且如果在現(xiàn)有的系統(tǒng)使用過(guò)程中只有成功的經(jīng)驗(yàn)，那么在實(shí)踐中更容易導(dǎo)致人們對(duì)機(jī)器建議的盲目信任(即“機(jī)器偏見(jiàn)”)。

另外，與司法決策權(quán)從人類轉(zhuǎn)移到機(jī)器所密切相關(guān)的是，被要求做決定的人類可能喪失決策能力和勇氣。技術(shù)的使用會(huì)對(duì)使用技術(shù)的人產(chǎn)生影響，而這些影響可能包括某些能力的喪失。例如若計(jì)算機(jī)能夠比人更快、更可靠地完成計(jì)算任務(wù)，那么人們將不再使用他們的計(jì)算能力，并且逐漸喪失這種能力。

為了避免陷入技術(shù)上的死胡同，我們不妨把目光投向世界上那些已經(jīng)在司法系統(tǒng)數(shù)字化方面取得較大進(jìn)展的國(guó)家。它們不一定是具有傳統(tǒng)技術(shù)優(yōu)勢(shì)的西方國(guó)家;相反，司法系統(tǒng)的數(shù)字化轉(zhuǎn)型有可能使那些在技術(shù)發(fā)展方面趨于落后的國(guó)家在該領(lǐng)域發(fā)揮主導(dǎo)作用。

第四，我們也不能忽視民眾對(duì)司法系統(tǒng)數(shù)字化的接受度問(wèn)題。在司法決策這樣一個(gè)敏感的領(lǐng)域使用人工智能，將會(huì)引發(fā)民眾的極大關(guān)注。法律的有效性取決于民眾的接受程度，所以在司法系統(tǒng)數(shù)字化的過(guò)程中，最重要的是通過(guò)教育和充分的論證來(lái)消除民眾對(duì)司法領(lǐng)域應(yīng)用人工智能的疑慮。但在某些情況下，人們不接受人工智能應(yīng)用于司法領(lǐng)域的理由也并非毫無(wú)道理。此時(shí)，特別是在民主國(guó)家，應(yīng)當(dāng)注意技術(shù)必須適應(yīng)人，而不是人適應(yīng)技術(shù)。

2. 法律上的具體挑戰(zhàn)

第一，如果只在原有判決基礎(chǔ)上去學(xué)習(xí)和理解算法，并只在以往案件材料的基礎(chǔ)上作出新的判決，那么就會(huì)缺失區(qū)分好法官與普通法官的重要標(biāo)準(zhǔn)，新的社會(huì)價(jià)值觀和公序良俗的變化也不會(huì)被納入到人工智能決策系統(tǒng)的考慮范圍中。雖然不排除有一天這個(gè)問(wèn)題會(huì)被解決，但只要這在實(shí)踐中還未實(shí)現(xiàn)，法官就必須檢查根據(jù)原有判例法和文獻(xiàn)所表達(dá)出的觀點(diǎn)發(fā)展而來(lái)的裁決建議是否真的可以為當(dāng)下的糾紛雙方與社會(huì)公眾所接受。這也是將最終決策權(quán)交給人而非機(jī)器的一個(gè)重要理由。

第二，人工智能系統(tǒng)得出裁決建議的方式并不明確。至少在民法體系中，人類決策者以法律規(guī)定為指導(dǎo)而得出相應(yīng)裁決，而法律規(guī)定則是根據(jù)其所使用的法律用語(yǔ)進(jìn)行解釋，并同時(shí)考慮到立法者的意圖、法律體系的整體協(xié)調(diào)性及其客觀含義。人工智能裁決規(guī)則是基于過(guò)往案例形成的，這與英美法系法官的裁決規(guī)則形成基礎(chǔ)較為相似;然而，人工智能得出裁決建議的內(nèi)部流程不太可能類似于英美法系法官根據(jù)判例做出裁決的思維過(guò)程——這是司法決策完全依賴人工智能所面臨的又一重要問(wèn)題。

第三，技術(shù)壟斷問(wèn)題。在司法領(lǐng)域的軟件使用也將出現(xiàn)于一般軟件領(lǐng)域所存在的壟斷問(wèn)題。壟斷的形成并不能促進(jìn)創(chuàng)新，反而會(huì)抑制創(chuàng)新。在司法軟件的使用方面，還需要注意的是主權(quán)國(guó)家必須能夠保障司法過(guò)程的穩(wěn)定和持續(xù)推進(jìn)，這是公民有權(quán)期望國(guó)家完成的一項(xiàng)任務(wù)。如果司法機(jī)構(gòu)廣泛依賴大型外國(guó)公司，而這些公司或多或少可以自由決定是否延長(zhǎng)或修改現(xiàn)有合同，這很難滿足國(guó)家保障司法機(jī)構(gòu)正常運(yùn)作的目標(biāo)——至少在德國(guó)是如此，因此在司法裁決過(guò)程中使用人工智能系統(tǒng)，從而導(dǎo)致技術(shù)壟斷很可能是違憲的。

結(jié)語(yǔ)：

目前來(lái)看，人工智能不可能完全取代法官和法院。法院的任務(wù)遠(yuǎn)不止創(chuàng)造法律資料和在具體案件中適用法律，法院還負(fù)責(zé)促進(jìn)民眾對(duì)個(gè)案法律判決及對(duì)國(guó)家和其整個(gè)法律體系的接受。在三權(quán)分立的國(guó)家中，獨(dú)立的司法機(jī)構(gòu)發(fā)揮著核心的政治性作用。人工智能并不能完全獨(dú)立地完成前述目標(biāo)，但是其仍然能在司法活動(dòng)中發(fā)揮重要作用，未來(lái)屬于人工智能和人類決策者之間的合作。

梁根林：

Hilgendorf教授從對(duì)法官的任務(wù)界定出發(fā)，首先明確了人工智能可以幫助法官提高工作效率，保障裁決的客觀性與公正性，減少?zèng)Q策錯(cuò)誤，同時(shí)也探討了數(shù)字化與人工智能應(yīng)用于司法領(lǐng)域可能存在的風(fēng)險(xiǎn)。對(duì)人工智能運(yùn)用于司法過(guò)程的利弊和其前景分析的基礎(chǔ)上，Hilgendorf教授得出的結(jié)論是雖然人工智能不可能完全接管司法任務(wù)，但可以支持法院作出相關(guān)決定，未來(lái)應(yīng)當(dāng)屬于人工智能和人類的合作。

較之于歐洲公眾輿論以及學(xué)者對(duì)司法中運(yùn)用人工智能的抵觸和限制，人工智能和數(shù)字化司法在中國(guó)司法實(shí)踐中的運(yùn)用是超前的。在2016年，中國(guó)發(fā)布了《國(guó)家信息化戰(zhàn)略發(fā)展綱要》，把智慧法院納入國(guó)家信息化發(fā)展戰(zhàn)略，并且致力于數(shù)字法治和智慧司法信息化體系的建設(shè)，以便辦案更加精細(xì)、司法管理更加科學(xué)、程序更加透明、過(guò)程更加高效、甚至服務(wù)更具人性。中歐之間的差異性可能在于當(dāng)歐洲同行還在爭(zhēng)論人工智能在司法活動(dòng)中的可接受度時(shí)，中國(guó)已全面推行數(shù)字化司法和智慧司法，借助于諸如大數(shù)據(jù)、云計(jì)算等手段，對(duì)司法全過(guò)程和結(jié)果進(jìn)行全面管理和運(yùn)用。當(dāng)然，中國(guó)也存在類似爭(zhēng)議，相關(guān)討論與報(bào)告的展開(kāi)也與Hilgendorf教授今天的講座內(nèi)容大體契合，比如中國(guó)同行認(rèn)為人工智能雖能提升效率，實(shí)現(xiàn)同案同判，但如果過(guò)于依賴算法技術(shù)和人工智能，可能會(huì)引發(fā)機(jī)械司法和教條司法，從而導(dǎo)致所謂的工具理性與個(gè)案爭(zhēng)議的沖突。

如Hilgendorf教授所言，司法過(guò)程不是對(duì)法律的簡(jiǎn)單理解和使用，司法過(guò)程需要法官根據(jù)對(duì)法律的理解及法律所蘊(yùn)含的價(jià)值觀、法律目的、法律條文的客觀意義，甚至需要結(jié)合社會(huì)公序良俗的變化來(lái)予以個(gè)別化認(rèn)定，以實(shí)現(xiàn)個(gè)案正義。全面數(shù)字化的司法可能伴隨著中國(guó)學(xué)者所指出的“數(shù)字鴻溝”、“技術(shù)壁壘”、“數(shù)字優(yōu)勢(shì)”、“購(gòu)買優(yōu)勢(shì)”等問(wèn)題，可能對(duì)司法公正形成威脅;同時(shí)，技術(shù)外包可能導(dǎo)致技術(shù)壟斷、算法缺陷、技術(shù)偏見(jiàn)。全面數(shù)字化甚至可能導(dǎo)致法官形成司法惰性，不少學(xué)者已經(jīng)認(rèn)識(shí)到上述威脅并開(kāi)始對(duì)其展開(kāi)針對(duì)性研究。我相信中國(guó)同行可以就今天講座的話題與Hilgendorf教授及其他歐洲同行進(jìn)行更深入的交流——在數(shù)字化時(shí)代和數(shù)字化司法進(jìn)程當(dāng)中，如何在個(gè)案中更好地實(shí)現(xiàn)正義。

開(kāi)講學(xué)者簡(jiǎn)介：

Eric Hilgendorf 教授學(xué)養(yǎng)深厚，著作等身。他擁有圖賓根大學(xué)哲學(xué)、現(xiàn)代史和法學(xué)學(xué)士學(xué)位以及圖賓根大學(xué)的雙博士學(xué)位。他于 1997 年擔(dān)任康斯坦茨大學(xué)刑法教授，后當(dāng)選該法學(xué)院院長(zhǎng)。2001年，他調(diào)任至維爾茨堡大學(xué)，后又于 2010 年?duì)款^成立了工業(yè)、交通與私人自動(dòng)化系統(tǒng)領(lǐng)域聞名遐邇的“Forschungsstelle Robotrecht” 研究中心。自2013 年起，他擔(dān)任 AdaptIVe 項(xiàng)目泛歐法律事務(wù)組組長(zhǎng)。2016年，他被德國(guó)交通運(yùn)輸部部長(zhǎng) Alexander Dobrindt 任命為德國(guó)國(guó)家自動(dòng)駕駛倫理委員會(huì)委員。自2019年起，他擔(dān)任巴伐利亞數(shù)字化轉(zhuǎn)型研究所主任。此外，他還是歐洲人工智能高級(jí)別專家組成員。

Eric Hilgendorf 教授研究領(lǐng)域廣泛，包括刑法、刑事訴訟法、法哲學(xué)、法律與自動(dòng)化交通及人工智能、醫(yī)事刑法與生物倫理等。他的代表性著作包括《德國(guó)刑法典-教學(xué)與實(shí)踐評(píng)注》《德國(guó)刑法手冊(cè)》《德國(guó)刑法學(xué)：從傳統(tǒng)到現(xiàn)代》和《刑法案例研習(xí)》等。