【ZiDongHua 之人文化天下收錄關(guān)鍵詞： 自動(dòng)化行政  人工智能  法與自動(dòng)化】

 

　　

 

 

 

　　

　　人工智能的發(fā)展給行政管理的變革帶來雙重境遇。自動(dòng)化行政強(qiáng)大的正向效應(yīng)使其風(fēng)險(xiǎn)樣態(tài)長(zhǎng)期被忽視，純粹功利主義的考量，無法掩蓋其對(duì)自動(dòng)化行政時(shí)代的沖擊。由于算法極速性、過度自動(dòng)化、主體多元化引發(fā)了正當(dāng)程序缺失的風(fēng)險(xiǎn)，加劇了弱勢(shì)群體的數(shù)字鴻溝，模糊了責(zé)任主體的認(rèn)定。故此，首先，行政機(jī)關(guān)應(yīng)當(dāng)保障當(dāng)事人陳述、申辯權(quán)，強(qiáng)化行政機(jī)關(guān)說明理由程序的履行，以此增益自動(dòng)化行政程序；其次，在制度層面建立健全弱勢(shì)群體數(shù)字權(quán)益保障規(guī)范體系，在技術(shù)層面構(gòu)建傳統(tǒng)服務(wù)與技術(shù)創(chuàng)新相融合模式，在倫理層面保證信息、資源平等分配，以此保障弱勢(shì)群體的數(shù)字利益；最后，確定行政機(jī)關(guān)為直接責(zé)任主體，完善自動(dòng)化行政的法律責(zé)任承擔(dān)機(jī)制。

 

一、問題的提出

 

人工智能是人臉識(shí)別技術(shù)、語音識(shí)別技術(shù)和學(xué)習(xí)技術(shù)的集大成者?？v觀人工智能技術(shù)的發(fā)展，經(jīng)歷了三次發(fā)展高潮時(shí)期和兩次消沉?xí)r期，并于2016年迎來了再一次的發(fā)展高潮與技術(shù)革新，隨著AlphaGo與世界圍棋冠軍李世石展開對(duì)弈，并戰(zhàn)勝了人腦，人工智能再一次引發(fā)了世界關(guān)注。以人工智能為代表的高新技術(shù)在智慧政務(wù)等領(lǐng)域頻繁運(yùn)用并蓬勃發(fā)展。

 

2021年8月2日，中共中央、國(guó)務(wù)院印發(fā)的《法治政府建設(shè)實(shí)施綱要（2021-2025）》明確提出“全面建設(shè)數(shù)字法治政府”的目標(biāo)。將人工智能嵌入行政執(zhí)法領(lǐng)域，發(fā)展自動(dòng)化行政可以針對(duì)紛繁復(fù)雜的程序快速得出結(jié)論，節(jié)省大量的人力、物力和財(cái)力等資源，并大幅提高行政管理效率。但是，風(fēng)險(xiǎn)與機(jī)遇往往相伴而生，自動(dòng)化行政如火如荼展開的勢(shì)頭下各種風(fēng)險(xiǎn)暗流涌動(dòng)。

 

自動(dòng)化行政在實(shí)際運(yùn)行中存在著算法權(quán)力異化、行政正當(dāng)程序的缺失等法律風(fēng)險(xiǎn)。人工智能技術(shù)為自動(dòng)化賦能的同時(shí)，更應(yīng)積極防范技術(shù)“負(fù)能”，規(guī)制自動(dòng)化行政在實(shí)際操作中的各種風(fēng)險(xiǎn)。近年來，我國(guó)學(xué)者對(duì)自動(dòng)化行政研究成果頗豐，主要圍繞自動(dòng)化行政的內(nèi)涵、適用范圍、等級(jí)、法律風(fēng)險(xiǎn)與規(guī)制。其中，關(guān)于自動(dòng)化行政的內(nèi)涵。馬顏昕認(rèn)為自動(dòng)化行政為人工智能技術(shù)與行政管理的有機(jī)結(jié)合，根據(jù)人工智能自動(dòng)化系統(tǒng)在行政管理領(lǐng)域發(fā)揮的不同作用，達(dá)到部分行政自動(dòng)化或全部行政自動(dòng)化程度。關(guān)于自動(dòng)化行政的適用范圍，胡敏潔認(rèn)為，人工智能可應(yīng)用于政務(wù)數(shù)據(jù)收集與處理、無需裁量或聽證而直接決策、行政活動(dòng)數(shù)據(jù)化的情形。關(guān)于自動(dòng)化行政的法律風(fēng)險(xiǎn)與規(guī)制，張恩典認(rèn)為人工智能算法權(quán)力的泛化使得自動(dòng)化行政漸有預(yù)先設(shè)定的算法程序取代法律規(guī)定的趨勢(shì)，因而導(dǎo)致依法行政原則日漸式微、相對(duì)人陳述、申辯權(quán)等程序性權(quán)利被懸置?；诖?，提出合理限制自動(dòng)化行政的適用范圍、賦予行政相對(duì)人算法解釋權(quán)等應(yīng)對(duì)思路。本文歸納了自動(dòng)化行政在實(shí)際運(yùn)行中的法律風(fēng)險(xiǎn)樣態(tài)并提出行之有效的規(guī)制路徑。

 

二、人工智能時(shí)代自動(dòng)化行政的實(shí)踐考察

 

在對(duì)人工智能時(shí)代自動(dòng)化行政進(jìn)行研究時(shí)，為確保研究結(jié)論的嚴(yán)謹(jǐn)性、科學(xué)性和準(zhǔn)確性，應(yīng)當(dāng)基于研究對(duì)象的實(shí)踐應(yīng)用場(chǎng)域，明晰研究對(duì)象的具體內(nèi)容。通過對(duì)自動(dòng)化行政的實(shí)踐考察發(fā)現(xiàn)，人工智能技術(shù)的引入容易違反正當(dāng)程序，侵犯公民個(gè)人信息以及阻礙公眾參與行政管理。

　　

　?。ㄒ唬┳詣?dòng)化行政執(zhí)法違反正當(dāng)程序案

　　

　　在“舒某強(qiáng)訴北京市交通支隊(duì)某大隊(duì)”一案中，原告舒某強(qiáng)于2018年12月30日駕駛機(jī)動(dòng)車在道路中間停車，此行為被道路交通監(jiān)控設(shè)備拍攝，后交警依據(jù)此拍攝記錄認(rèn)定舒某強(qiáng)違反道路交通安全法并做出行政處罰。本案的重要意義在于通過將自動(dòng)化行政在具體的行政執(zhí)法中缺失正當(dāng)程序引入司法審判中，進(jìn)而引發(fā)對(duì)自動(dòng)化行政法律風(fēng)險(xiǎn)進(jìn)行規(guī)制的思考。根據(jù)道路交通安全法第93條第1款、第2款之規(guī)定，對(duì)于相對(duì)人的違法行為，可以先對(duì)其口頭警告，令其立即駛離，直接進(jìn)行罰款并不是第一選擇，即比例原則的內(nèi)在要求。本案中的執(zhí)法人員僅依據(jù)監(jiān)控設(shè)備便做出罰款處罰決定顯然有違比例原則。另外，根據(jù)行政處罰法第44條的規(guī)定，行政機(jī)關(guān)在作出處罰前應(yīng)當(dāng)聽取當(dāng)事人的陳述、申辯。

　　

　?。ǘ┤四樧R(shí)別技術(shù)侵犯公民個(gè)人信息案

　　

　　作為一種個(gè)人獨(dú)有的生物信息，人臉信息因具備高度的唯一性和可識(shí)別性等特征，被廣泛運(yùn)用于交通、支付、商務(wù)等領(lǐng)域。隨著這一技術(shù)的廣泛運(yùn)用，人臉識(shí)別與行政管理密切結(jié)合，人臉抓拍交通違法行為也走進(jìn)了行政執(zhí)法的視野。然而，被廣泛運(yùn)用的同時(shí)應(yīng)當(dāng)警惕其對(duì)公民個(gè)人信息安全的潛在威脅。實(shí)踐中，各地行政執(zhí)法部門對(duì)人臉識(shí)別系統(tǒng)披露違法相對(duì)人的身份信息標(biāo)準(zhǔn)不一，對(duì)相對(duì)人的個(gè)人信息安全造成不同程度的侵犯。隨著智慧交通的不斷推進(jìn)，廣東、江蘇等地率先運(yùn)用人臉識(shí)別技術(shù)抓拍交通違法行為，通過在公共場(chǎng)合曝光違法行為人的頭像、經(jīng)處理的身份證號(hào)碼與姓名等個(gè)人信息，警示公眾依法遵守交通法規(guī)，以此起到教育、震懾的作用，此種做法的確有助于提高違法成本，促使公眾規(guī)范自己的行為。但是，這一技術(shù)在運(yùn)用過程中也出現(xiàn)了濫用的現(xiàn)象。安徽省宿州市城市管理局在微信公眾號(hào)上曝光了7位穿睡衣出行的公民個(gè)人信息，主要內(nèi)容包括姓名、身份證號(hào)碼以及未經(jīng)處理的人臉信息，該公眾號(hào)內(nèi)容一經(jīng)發(fā)布便引發(fā)社會(huì)熱議。當(dāng)輿論發(fā)酵后，相關(guān)部門于當(dāng)日便撤回該公眾號(hào)文章，并向當(dāng)事人致歉。該案中人臉識(shí)別技術(shù)的濫用不僅挑戰(zhàn)了依法行政原則與比例原則，同時(shí)也侵犯了公民的個(gè)人信息權(quán)利，并且這種侵犯所導(dǎo)致的結(jié)果是無法及時(shí)消除的，權(quán)利狀態(tài)也無法完全恢復(fù)。

　　

　?。ㄈ┧惴夹g(shù)壟斷阻礙公眾參與案

　　

　　公眾參與是縮小行政機(jī)關(guān)與公民之間的信息鴻溝、保障公民知情權(quán)與監(jiān)督權(quán)的重要制度設(shè)計(jì)。在人工智能時(shí)代自動(dòng)化行政的背景下，公私合作的行政管理模式得以普及。相對(duì)普通民眾，高新技術(shù)企業(yè)擁有天然的技術(shù)優(yōu)勢(shì)，甚至在算法程序中處于優(yōu)勢(shì)地位，進(jìn)而導(dǎo)致企業(yè)形成技術(shù)壟斷，民眾也只能被動(dòng)地接受算法技術(shù)的決策結(jié)果。高新技術(shù)企業(yè)的介入為自動(dòng)化行政的治理提供技術(shù)支持，但同時(shí)也在一定程度上降低了公眾的政治參與度。比如，浙江省在2021年實(shí)行數(shù)字化改革，開發(fā)了“浙江e行在線”“浙里民生”“浙江公平在線”等智慧應(yīng)用。浙江省數(shù)字化技術(shù)改革一路高歌猛進(jìn)的背后，離不開阿里巴巴公司提供的技術(shù)支持。算法技術(shù)作為自動(dòng)化行政中的關(guān)鍵變量，決定著行政決策的精準(zhǔn)度問題，而企業(yè)所壟斷的關(guān)鍵技術(shù)恰恰助推其通過算法開發(fā)參與日常行政管理，大大削弱了普通民眾的政治參與度。該案例也充分體現(xiàn)了行政機(jī)關(guān)普遍通過智能應(yīng)用進(jìn)行行政管理的現(xiàn)狀。誠(chéng)然，人工智能時(shí)代的自動(dòng)化行政在行政管理中的高效處理極大地滿足了政府的管理訴求，但類似上述案例的發(fā)生也在引發(fā)公眾對(duì)于人工智能充當(dāng)“裁判者”角色的擔(dān)憂。行政機(jī)關(guān)將人工智能技術(shù)運(yùn)用到行政管理時(shí)，應(yīng)高度警惕成為工具的工具。三、人工智能時(shí)代自動(dòng)化行政的實(shí)踐困境及其成因探析盡管人工智能技術(shù)給現(xiàn)代行政管理帶來巨大紅利，但是技術(shù)藩籬也同樣存在，因此必須警惕人工智能時(shí)代自動(dòng)化行政可能導(dǎo)致的實(shí)踐困境。由于算法的極速性、過度自動(dòng)化、主體多元化致使正當(dāng)程序缺失，加劇了弱勢(shì)群體“數(shù)字鴻溝”，責(zé)任主體難以界定。

　　

　?。ㄒ唬┤斯ぶ悄軙r(shí)代自動(dòng)化行政的實(shí)踐困境

　　

　　1.正當(dāng)程序的缺失

　　

　　在自動(dòng)化行政中，行政程序的開始與結(jié)束均由算法系統(tǒng)主導(dǎo)，行政機(jī)關(guān)與相對(duì)人無法參與，在此過程中并不存在行政機(jī)關(guān)與相對(duì)人面對(duì)面交互的可能性，傳統(tǒng)的行政執(zhí)法程序規(guī)定被架空。行政機(jī)關(guān)說明理由的義務(wù)以及相對(duì)人陳述、申辯權(quán)利的缺失成為糾正程序偏差的重點(diǎn)。（1）相對(duì)人陳述、申辯權(quán)利被剝奪正當(dāng)程序制度源于英國(guó)的“自然正義”原則，該原則主張任何人在受到不利決定前均有權(quán)表達(dá)意見來維護(hù)自身權(quán)益。行政相對(duì)人陳述、申辯權(quán)的充分行使是對(duì)行政機(jī)關(guān)依法行政的監(jiān)督，在一定程度上可以制約行政權(quán)力的恣意與專橫。在自動(dòng)化行政的具體應(yīng)用中，相對(duì)人陳述、申辯的權(quán)力遭到了不同程度的剝奪。以交通領(lǐng)域的非現(xiàn)場(chǎng)行政執(zhí)法為例，工作流程見圖1。圖1  交通領(lǐng)域非現(xiàn)場(chǎng)執(zhí)法流程圖從圖1可以推斷出非現(xiàn)場(chǎng)行政執(zhí)法程序的設(shè)計(jì)初衷便考慮到了人工智能的輔助作用，無論自動(dòng)化行政怎樣賦能，釋法說理之義務(wù)都不可或缺。但實(shí)踐中，自動(dòng)化行政卻以犧牲相對(duì)人陳述、申辯的權(quán)利提高行政效率，這種建立在侵犯正當(dāng)程序原則之上的“高效執(zhí)法”無疑是人工智能帶來的“負(fù)能”。2021年4月5日，一則“卡車司機(jī)因北斗掉線被處罰后服毒身亡”的新聞引發(fā)熱議。該案緣起于該司機(jī)因卡車北斗定位系統(tǒng)掉線，被行政機(jī)關(guān)處以暫扣車輛并罰款2000的行政處罰。該案當(dāng)事人因不滿處罰，遂選擇服毒自殺。該案行政機(jī)關(guān)僅依據(jù)電子技術(shù)監(jiān)控到涉案車輛北斗定位系統(tǒng)掉線便做出處罰決定明顯違反了事先告知的規(guī)定，也未聽取當(dāng)事人的陳述、申辯。人工智能時(shí)代自動(dòng)化行政表面上提高了行政執(zhí)法效率，但其是否真正提升了執(zhí)法效能仍需接受公眾檢驗(yàn)。（2）行政機(jī)關(guān)說明理由程序缺省行政機(jī)關(guān)在做出任何決定時(shí)都應(yīng)當(dāng)履行說明理由的義務(wù)，說明理由的制度設(shè)計(jì)即依法行政的體現(xiàn)，也可以破除行政機(jī)關(guān)與相對(duì)人之間存在的信息孤島。然而，在自動(dòng)化行政執(zhí)法中，行政機(jī)關(guān)的說明理由程序被擱置，使得行政相對(duì)人的程序權(quán)利受損。與自動(dòng)化行政執(zhí)法相比，傳統(tǒng)行政執(zhí)法可以與相對(duì)人面對(duì)面交流溝通，因此說明理由義務(wù)的實(shí)現(xiàn)在客觀上不存在難度。但在自動(dòng)化行政中，行政執(zhí)法人員并不在現(xiàn)場(chǎng)，而是由電子監(jiān)控等自動(dòng)化設(shè)備替代行政執(zhí)法人員收集違法事實(shí)，因此行政機(jī)關(guān)說明理由的程序被擱置。在知情權(quán)得不到落實(shí)的前提下，遑論相對(duì)人陳述、申辯權(quán)的保障。2.加劇弱勢(shì)群體“數(shù)字鴻溝”

　　

　　截至2020年12月，我國(guó)網(wǎng)民數(shù)量已達(dá)到9億之多，人工智能的迅猛發(fā)展使得公眾可以廣泛享受數(shù)字福利。但是，另一些群體也因教育、資源有限而陷入數(shù)字鴻溝，這類群體就是“數(shù)字時(shí)代的弱勢(shì)群體”。從行政機(jī)關(guān)的立場(chǎng)出發(fā)，自動(dòng)化行政可以極大地提高行政效率。但從公眾的立場(chǎng)出發(fā)，人工智能時(shí)代所賦能的行政管理與服務(wù)行政是否真正提升了公眾尤其是弱勢(shì)群體的幸福感仍需進(jìn)一步考察。隨著自動(dòng)化行政的普及，不少弱勢(shì)群體深感不便的案例引發(fā)公眾熱議，如“老人冒雨用現(xiàn)金交醫(yī)保被拒”“94歲老人被抱起做人臉識(shí)別”，兩則新聞中的兩位老人無助的處境不免令人發(fā)問，老人究竟應(yīng)該如何適應(yīng)人工智能時(shí)代下自動(dòng)化行政的特有模式？抑或該如何生存？盡管我國(guó)目前仍然是自動(dòng)化行政與傳統(tǒng)行政服務(wù)并存的模式，但自動(dòng)化行政優(yōu)勢(shì)日漸加強(qiáng)，將導(dǎo)致弱勢(shì)群體的“數(shù)字鴻溝”不斷加劇，數(shù)字弱勢(shì)群體本應(yīng)享受的公共資源難以會(huì)產(chǎn)生一定的“擠占效應(yīng)”，甚至出現(xiàn)系統(tǒng)性的社會(huì)排斥現(xiàn)象。因此，應(yīng)當(dāng)充分考慮到人口老齡化的因素，人工智能時(shí)代的自動(dòng)化行政不應(yīng)盲目追求自動(dòng)化行政執(zhí)法的建設(shè)目標(biāo)，停滯在功能層面的數(shù)字治理，而應(yīng)當(dāng)將目光聚焦在弱勢(shì)群體的幸福感上，堅(jiān)持以人為本的價(jià)值追求。3.責(zé)任主體界定不明

　　

　　近年來，人工智能被充分運(yùn)用于立法、司法、執(zhí)法等方面并取得了豐碩成果。但是，人工智能的廣泛應(yīng)用也勢(shì)必會(huì)引發(fā)法律風(fēng)險(xiǎn)，在探討人工智能法律責(zé)任這一風(fēng)險(xiǎn)時(shí)，不得不考慮其能否獨(dú)立承擔(dān)責(zé)任。關(guān)于人工智能的法律地位，有學(xué)者認(rèn)為應(yīng)當(dāng)將其與法人、非法人組織等同，認(rèn)可人工智能參照法人、非法人組織確立為民事主體的過程的可能性。也有學(xué)者認(rèn)為人工智能不具備獨(dú)立的意思表示能力，并站在法律倫理的角度主張人工智能非主體性的合理性。此問題爭(zhēng)論不休，我國(guó)尚未出臺(tái)具體的法律法規(guī)對(duì)人工智能的法律主體地位進(jìn)行界定?，F(xiàn)代社會(huì)管理模式已由傳統(tǒng)的公權(quán)力管理向公私合作治理模式轉(zhuǎn)型，行政機(jī)關(guān)不再是社會(huì)治理的唯一主體。實(shí)踐中，政府往往通過社會(huì)購(gòu)買的方式提高其行政管理的效率，但外部技術(shù)企業(yè)的介入加大了責(zé)任認(rèn)定的難度。在以往的傳統(tǒng)行政執(zhí)法中，由兩名以上執(zhí)法人員進(jìn)行執(zhí)法，對(duì)于責(zé)任的界定難度不大，但在自動(dòng)化行政中，技術(shù)企業(yè)掌握著先進(jìn)的技術(shù)設(shè)備與算法邏輯。自動(dòng)化設(shè)備的設(shè)計(jì)、安裝、測(cè)試、運(yùn)行、保養(yǎng)等環(huán)節(jié)需要技術(shù)企業(yè)提供技術(shù)支持，因此這些專業(yè)技術(shù)人員成為自動(dòng)化設(shè)備的主要控制者。主體多元化勢(shì)必導(dǎo)致責(zé)任認(rèn)定難度加大，除了行政機(jī)關(guān)作為直接責(zé)任主體外，還應(yīng)考慮自動(dòng)化設(shè)備自身是否科學(xué)以及技術(shù)人員的專業(yè)性問題。

　　

　?。ǘ┤斯ぶ悄軙r(shí)代自動(dòng)化行政實(shí)踐困境的成因探析

　　

　　1.算法的極速性侵蝕相對(duì)人陳述、申辯權(quán)

　　

　　程序正義歷來是法治國(guó)家與法治社會(huì)共同追求的法治價(jià)值，正當(dāng)程序的遵守既是對(duì)公權(quán)力的監(jiān)督，也是對(duì)私權(quán)利的保障。但在人工智能時(shí)代自動(dòng)化行政背景下，未經(jīng)相對(duì)人陳述申辯、告知理由等程序便做出行政決定明顯侵蝕了當(dāng)事人的程序權(quán)利。自動(dòng)化行政因算法技術(shù)的極速性導(dǎo)致當(dāng)事人陳述、申辯的權(quán)利被剝奪。在傳統(tǒng)的行政執(zhí)法過程中，執(zhí)法人員需要在一定的空間、時(shí)間展開執(zhí)法活動(dòng)，當(dāng)事人的陳述、申辯權(quán)相對(duì)容易行使并設(shè)置了相應(yīng)的程序性裝置加以保障。但是，在自動(dòng)化行政中，智慧應(yīng)用使得行政機(jī)關(guān)結(jié)合以往的執(zhí)法經(jīng)驗(yàn)做出某種程度的預(yù)測(cè)，將紛繁復(fù)雜的案件統(tǒng)歸為人工智能系統(tǒng)中的各種指標(biāo)、參數(shù)，然后自動(dòng)化行政系統(tǒng)在實(shí)際運(yùn)行中，以一種“自助販賣機(jī)”的方式輸出決定，行政機(jī)關(guān)便以此為依據(jù)進(jìn)行行政執(zhí)法。算法技術(shù)的極速性體現(xiàn)在其以毫秒為單位的計(jì)算速度上，在算法決策的實(shí)際應(yīng)用中，人工智能大數(shù)據(jù)處理的極速性極大地節(jié)省了傳統(tǒng)行政決策的做出時(shí)間。正是由于算法的極速性使得當(dāng)事人無法及時(shí)應(yīng)對(duì)，行政執(zhí)法工作人員也只能被動(dòng)應(yīng)對(duì)，算法技術(shù)的此種特性直接導(dǎo)致當(dāng)事人無法在第一時(shí)間實(shí)現(xiàn)自我救濟(jì)。本應(yīng)由行政執(zhí)法工作人員和當(dāng)事人面對(duì)面確認(rèn)行政決定的內(nèi)容、依據(jù)、種類等，但自動(dòng)化設(shè)備的介入使得當(dāng)事人只能被動(dòng)接受算法給予的處理結(jié)果。2.過度自動(dòng)化侵犯弱勢(shì)群體數(shù)字權(quán)益

　　

　　自動(dòng)化決策、自動(dòng)化審批、自動(dòng)化預(yù)測(cè)等高效行政管理模式的推廣使得數(shù)字弱勢(shì)群體的數(shù)字權(quán)利被侵犯，“數(shù)字鴻溝”的客觀差距導(dǎo)致信息獲取能力的不平等與信息資源獲取的差異性，形成了算法上的不平等。但是，自動(dòng)化行政的正面效應(yīng)使得政府給予其高度信任，潛在的負(fù)面效應(yīng)卻被忽視。根據(jù)《數(shù)字中國(guó)發(fā)展報(bào)告（2020年）》統(tǒng)計(jì)數(shù)據(jù)顯示，2020年我國(guó)電子社?？ü埠灠l(fā)3.6億張。此數(shù)據(jù)盡管體現(xiàn)了數(shù)字化時(shí)代為政府管理帶來了巨大便利，但也應(yīng)當(dāng)注意到仍然有很多農(nóng)村地區(qū)存在老年人使用智能手機(jī)進(jìn)行社?？ㄕJ(rèn)證存在困難的現(xiàn)狀。有些地區(qū)，不考慮老年人的文化水平強(qiáng)迫公眾必須下載政務(wù)官方應(yīng)用、加入微信群，使得這一弱勢(shì)群體無法及時(shí)獲取準(zhǔn)確信息導(dǎo)致權(quán)利受損。無法及時(shí)獲取信息、理解使用不暢、數(shù)字時(shí)代體驗(yàn)感不佳等障礙進(jìn)一步加劇了“數(shù)字鴻溝”。長(zhǎng)此以往，弱勢(shì)群體的數(shù)字權(quán)益將無法得到有效保障（見圖2）。人工智能時(shí)代的自動(dòng)化行政作為一種現(xiàn)代科技，當(dāng)其與行政管理相結(jié)合時(shí)，會(huì)融入市民生活的方方面面，由此而產(chǎn)生的社會(huì)效益與法律效益成為關(guān)注的重點(diǎn)。圖2  數(shù)字弱勢(shì)群體權(quán)益受損類型3.主體多元化阻礙責(zé)任認(rèn)定

　　

　　如前所述，理論界對(duì)于人工智能的法律主體地位爭(zhēng)議較大。在立法界定前，學(xué)界也尚未達(dá)成共識(shí)，甚至在學(xué)術(shù)界對(duì)該問題的研究呈現(xiàn)“泡沫化”傾向。在自動(dòng)化行政中，打破了以往傳統(tǒng)的“行政主體－行政相對(duì)人”在行政執(zhí)法活動(dòng)中的雙方當(dāng)事人的地位，外部技術(shù)企業(yè)的介入使行政執(zhí)法活動(dòng)中的主體數(shù)量增多，多元化主體阻礙了責(zé)任主體的認(rèn)定。自動(dòng)化行政執(zhí)法所需要的人工智能系統(tǒng)的設(shè)計(jì)、安裝、運(yùn)行等方面均需要高新技術(shù)企業(yè)的介入，這些企業(yè)的介入使得傳統(tǒng)的二元主體轉(zhuǎn)型為多元主體（見圖3）。而多元主體模式勢(shì)必導(dǎo)致責(zé)任主體的認(rèn)定變得模糊。圖3  傳統(tǒng)行政行為與自動(dòng)化行政主體對(duì)比在公私合作治理的新型行政管理模式下，政府高效管理服務(wù)行政均需要借助社會(huì)力量。在人工智能時(shí)代的自動(dòng)化行政中，表現(xiàn)為政府通過向社會(huì)購(gòu)買高端自動(dòng)化設(shè)備、開發(fā)智慧應(yīng)用軟件為社會(huì)公眾提供高質(zhì)量公共服務(wù)產(chǎn)品。在簽訂行政協(xié)議的過程中，一些地方政府工作人員由于專業(yè)性不強(qiáng)，對(duì)PPP等公私合作模式的理解和執(zhí)行能力不足，使得協(xié)議中的權(quán)利義務(wù)分配存在重大歧義。此外，自動(dòng)化行政中存在執(zhí)法人員過度依賴算法技術(shù)進(jìn)行行政決定的可能，當(dāng)行政機(jī)關(guān)過于依賴外部技術(shù)企業(yè)的先進(jìn)技術(shù)時(shí)，一些企業(yè)很容易通過技術(shù)壟斷干預(yù)算法運(yùn)行。當(dāng)自動(dòng)化行政執(zhí)法中算法決策出現(xiàn)技術(shù)故障時(shí)，行政相對(duì)人難以進(jìn)行權(quán)利救濟(jì)，權(quán)責(zé)不清導(dǎo)致責(zé)任主體認(rèn)定模糊。四、人工智能時(shí)代自動(dòng)化行政的優(yōu)化路徑人工智能時(shí)代的自動(dòng)化行政依靠其技術(shù)優(yōu)越性進(jìn)入現(xiàn)代行政管理視野，發(fā)展速度與規(guī)模遠(yuǎn)超傳統(tǒng)行政管理，并呈現(xiàn)出應(yīng)用范圍廣泛和技術(shù)構(gòu)成復(fù)雜的獨(dú)有優(yōu)勢(shì)。但是，如前文所述行政方式的革新意味著風(fēng)險(xiǎn)與收益是相伴而生的，人工智能設(shè)備在應(yīng)用實(shí)踐中應(yīng)當(dāng)不斷優(yōu)化。在正當(dāng)程序方面，通過保障當(dāng)事人陳述、申辯權(quán)，強(qiáng)化行政機(jī)關(guān)說明理由程序的履行以增益自動(dòng)化行政程序；在制度層面、技術(shù)層面和倫理層面保障弱勢(shì)群體數(shù)字權(quán)益；在責(zé)任認(rèn)定方面，確定行政機(jī)關(guān)為直接責(zé)任主體。

　　

　?。ㄒ唬┰鲆孀詣?dòng)化行政程序

　　

　　1.保障當(dāng)事人陳述、申辯權(quán)

　　

　　與傳統(tǒng)行政行為的做出相比，自動(dòng)化行政行為的做出是一個(gè)封閉的過程，當(dāng)事人對(duì)自動(dòng)化行政的內(nèi)部操作系統(tǒng)是如何運(yùn)行的完全不了解，以至于當(dāng)事人陳述、申辯的程序性權(quán)利被擱置。如前所述，算法的極速性侵蝕了當(dāng)事人的陳述、申辯權(quán)，使當(dāng)事人無法及時(shí)獲知自己的違法行為，也無法及時(shí)糾正。為保證自動(dòng)化行政的公信力與行政機(jī)關(guān)的權(quán)威性，應(yīng)當(dāng)為當(dāng)事人預(yù)留充分的事后救濟(jì)時(shí)間，應(yīng)將當(dāng)事人簽收行政決定通知作為行政行為生效的依據(jù)。由于傳統(tǒng)行政與自動(dòng)化行政在執(zhí)法空間上表現(xiàn)出明顯差異，行政機(jī)關(guān)難以及時(shí)到達(dá)執(zhí)法現(xiàn)場(chǎng)聽取當(dāng)事人的陳述、申辯，因此行政機(jī)關(guān)可以探索為當(dāng)事人提供新型陳述、申辯的方式，告知當(dāng)事人可以通過政府部門的官方網(wǎng)站、智慧應(yīng)用等方式在線提出自己的意見，提出對(duì)行政決定的異議，如果異議成立，則消除違法記錄。2.強(qiáng)化行政機(jī)關(guān)說明理由程序的履行

　　

　　關(guān)于算法解釋的內(nèi)涵，我國(guó)學(xué)者認(rèn)為，當(dāng)事人認(rèn)為其自身基于算法決策可能或已經(jīng)遭到損害的，有權(quán)知曉任何個(gè)人數(shù)據(jù)自動(dòng)處理的邏輯，并對(duì)結(jié)果提出異議或要求更正錯(cuò)誤。行政機(jī)關(guān)算法解釋的內(nèi)容包括對(duì)數(shù)據(jù)準(zhǔn)確性的解釋和算法決策結(jié)果的解釋。第一，對(duì)數(shù)據(jù)準(zhǔn)確性的解釋。隨著高新技術(shù)的迅猛發(fā)展，數(shù)據(jù)資源呈井噴式增長(zhǎng)，為政府決策的作出提供了技術(shù)支持。但應(yīng)當(dāng)注意的是，數(shù)據(jù)信息的劇增同樣存在信息資源良莠不齊的問題，盡管自動(dòng)化設(shè)備作出決策的前提是預(yù)先攝入大量的數(shù)據(jù)信息，但如果數(shù)據(jù)信息自身有瑕疵時(shí)，那么由此得出的結(jié)果的準(zhǔn)確性難以讓人信服。故此，行政機(jī)關(guān)應(yīng)當(dāng)就數(shù)據(jù)的準(zhǔn)確性進(jìn)行充分合理地解釋。第二，對(duì)算法決策結(jié)果解釋。當(dāng)事人或其他利害關(guān)系人對(duì)自動(dòng)化決策結(jié)果存疑時(shí)，為確保行政機(jī)關(guān)的權(quán)威性與公信力，行政機(jī)關(guān)有必要對(duì)自動(dòng)化系統(tǒng)的程序、邏輯等問題作出解釋。由于自動(dòng)化系統(tǒng)屬于高端科技產(chǎn)品，可以考慮政府與技術(shù)企業(yè)合作的方式，由相關(guān)技術(shù)企業(yè)做出解釋，并由第三方專家進(jìn)行評(píng)估。

　　

　　（二）保障弱勢(shì)群體數(shù)字權(quán)益

　　

　　人工智能時(shí)代自動(dòng)化行政的廣泛推行使得其正面效應(yīng)深入人心，但是，由于資源占有的差異性等因素使得自動(dòng)化行政的負(fù)面效應(yīng)也日漸暴露。只有當(dāng)數(shù)字政府使所有群眾受益時(shí)，才能降低數(shù)字鴻溝所造成的不平等風(fēng)險(xiǎn)。我國(guó)數(shù)字科技高速發(fā)展的同時(shí)，數(shù)字弱勢(shì)群體也在不斷擴(kuò)大，應(yīng)當(dāng)從制度層面、技術(shù)層面、倫理層面保障弱勢(shì)群體的數(shù)字權(quán)益。1.制度層面：建立健全弱勢(shì)群體數(shù)字權(quán)益保障規(guī)范體系

　　

　　目前，我國(guó)關(guān)于數(shù)字科技的立法仍然停留在宏觀指導(dǎo)層面，缺乏細(xì)化的、操作性強(qiáng)的具體規(guī)定。在人工智能時(shí)代自動(dòng)行政的背景下，數(shù)字弱勢(shì)群體不僅包括不善于使用智能設(shè)備的老年人，還包括未成年人、殘障人士以及行政機(jī)關(guān)中需要運(yùn)用數(shù)字技術(shù)辦公的工作人員。面對(duì)立法滯后的現(xiàn)狀，立法亟須回應(yīng)民眾訴求，基于平等享受數(shù)字福利的立場(chǎng)，應(yīng)充分保障數(shù)字弱勢(shì)群體的“數(shù)字人權(quán)”。2.技術(shù)層面：構(gòu)建傳統(tǒng)服務(wù)與技術(shù)創(chuàng)新相融合模式

　　

　　傳統(tǒng)服務(wù)與數(shù)字技術(shù)并非對(duì)立排斥的關(guān)系，社會(huì)治理與公共服務(wù)如果走向完全自動(dòng)化的模式，無疑是對(duì)數(shù)字弱勢(shì)群體選擇權(quán)的剝奪。自動(dòng)化行政在提高行政效率的同時(shí)，也應(yīng)強(qiáng)調(diào)對(duì)弱勢(shì)群體的關(guān)注。在技術(shù)層面，可以采用“線上服務(wù)+線下服務(wù)”相融合的方式，防止數(shù)字技術(shù)“一刀切”，為人工服務(wù)預(yù)留空間。針對(duì)弱勢(shì)群體的共性，制定普遍適用的政策，批量解決數(shù)字差異問題。還可以開通“綠色通道”，為數(shù)字弱勢(shì)群體提供針對(duì)性的服務(wù)，讓他們感受到數(shù)字化治理的人文關(guān)懷。3.倫理層面：保證信息、資源平等分配

　　

　　由于文化水平、認(rèn)知能力、資源分配等因素，不同的群體對(duì)數(shù)字技術(shù)所帶來的福利享受程度也各有不同。故此，應(yīng)當(dāng)堅(jiān)持平等保護(hù)與個(gè)別保護(hù)并行的原則。平等保護(hù)要求在給予數(shù)字弱勢(shì)群體特殊照顧的同時(shí)，避免使其產(chǎn)生“特權(quán)”意識(shí)。個(gè)別保護(hù)要求需要通過制度傾斜供給，彌補(bǔ)數(shù)字弱勢(shì)群體在信息資源占有方面的劣勢(shì)地位。比如，歐盟提出以智慧養(yǎng)老為核心的“銀發(fā)經(jīng)濟(jì)”發(fā)展戰(zhàn)略，新加坡提出“智慧國(guó)家2025”發(fā)展戰(zhàn)略。

　　

　　（三）確定行政機(jī)關(guān)為直接責(zé)任主體

　　

　　人工智能行為的不可解釋性決定了其不具備獨(dú)立承擔(dān)法律責(zé)任的資格，自動(dòng)化行政行為中應(yīng)當(dāng)厘清責(zé)任主體，明晰外部技術(shù)企業(yè)與行政機(jī)關(guān)的內(nèi)在關(guān)系?；诩夹g(shù)輔助的立場(chǎng)，本文認(rèn)為行政機(jī)關(guān)應(yīng)當(dāng)作為直接責(zé)任主體。首先，在行政法律關(guān)系中，賦予行政相對(duì)人權(quán)利與義務(wù)的主體是行政機(jī)關(guān)，即便有自動(dòng)化系統(tǒng)的介入，行政相對(duì)人也無法向自動(dòng)化系統(tǒng)尋求救濟(jì)。并且，人工智能算法的不可解釋性決定了外部技術(shù)企業(yè)不具有獨(dú)立承擔(dān)責(zé)任的資格，也無法承擔(dān)責(zé)任。故此，在行政法律關(guān)系中，當(dāng)相對(duì)人尋求救濟(jì)時(shí)，無需考慮除行政機(jī)關(guān)以外的其他主體，對(duì)行政行為不服的可直接對(duì)行政機(jī)關(guān)提起行政復(fù)議或行政訴訟。其次，由于自動(dòng)化系統(tǒng)的專業(yè)性，行政機(jī)關(guān)無法自主完成系統(tǒng)的設(shè)計(jì)、安裝、測(cè)試，需要通過政府購(gòu)買的方式實(shí)現(xiàn)對(duì)自動(dòng)化技術(shù)的應(yīng)用。在此過程中，行政機(jī)關(guān)對(duì)外部企業(yè)負(fù)有監(jiān)督義務(wù)，當(dāng)算法決策出現(xiàn)技術(shù)性故障時(shí)歸咎于外部技術(shù)企業(yè)，但行政機(jī)關(guān)需作為向社會(huì)公眾負(fù)責(zé)的直接主體，承擔(dān)責(zé)任具有一定的正當(dāng)性。最后，政府可根據(jù)行政協(xié)議對(duì)技術(shù)企業(yè)進(jìn)行事后追責(zé)。若自動(dòng)化系統(tǒng)出現(xiàn)技術(shù)故障導(dǎo)致相對(duì)人權(quán)益受損，在行政機(jī)關(guān)承擔(dān)責(zé)任后可向技術(shù)企業(yè)主體追責(zé)，關(guān)于事后追責(zé)的問題涉及雙方當(dāng)事人的法律服務(wù)協(xié)議，屬于行政協(xié)議法律關(guān)系的范疇。結(jié)語人工智能時(shí)代的自動(dòng)化行政加速了傳統(tǒng)行政向數(shù)字法治政府的轉(zhuǎn)型，有效回應(yīng)了數(shù)字社會(huì)治理的需求。自動(dòng)化行政在數(shù)字政府管理中受到行政機(jī)關(guān)的青睞，宏觀背景下也使得社會(huì)公眾享受到了數(shù)字時(shí)代所帶來的福利。但是，風(fēng)險(xiǎn)與機(jī)遇往往相伴而生，自動(dòng)化行政如火如荼展開的勢(shì)頭下也隱藏著各種風(fēng)險(xiǎn)的暗流涌動(dòng)。算法的極速性、過度自動(dòng)化、主體多元化等因素引發(fā)了正當(dāng)程序缺失，加劇了弱勢(shì)群體的數(shù)字鴻溝，模糊了責(zé)任主體的認(rèn)定。本文對(duì)自動(dòng)化行政的法律風(fēng)險(xiǎn)及其規(guī)制路徑的研究?jī)H為初步探索，是為拋磚引玉，仍存在進(jìn)一步研究空間。