胡敏潔

浙江大學(xué)光華法學(xué)院教授

伴隨著自動(dòng)化行政的廣泛利用，由于數(shù)據(jù)來(lái)源、算法以及系統(tǒng)因素而帶來(lái)具有瑕疵的行政指令，這些都會(huì)對(duì)相對(duì)人的權(quán)利產(chǎn)生影響并引發(fā)后續(xù)救濟(jì)的難題和困境。基于自動(dòng)化行政指令形成瑕疵的不同機(jī)理，甄別自動(dòng)化行政中瑕疵指令的實(shí)質(zhì)，理解算法黑箱是自動(dòng)化指令產(chǎn)生瑕疵的基礎(chǔ)，是應(yīng)當(dāng)考慮的法規(guī)范基礎(chǔ)。基于此，傳統(tǒng)的正當(dāng)程序保護(hù)、申訴以及復(fù)議和訴訟面臨著新的挑戰(zhàn)。瑕疵指令實(shí)際上對(duì)應(yīng)著幾種救濟(jì)的可能性，即針對(duì)行政程序、行政活動(dòng)與事實(shí)行為的救濟(jì)。對(duì)于有瑕疵的指令，需探尋更契合自動(dòng)化行政特點(diǎn)的救濟(jì)內(nèi)容。

引言

自動(dòng)化行政被日漸廣泛運(yùn)用于行政領(lǐng)域之中，它具有使行政決定更為精確、一致，以及節(jié)約成本并有助于成本收益，減少行政官員任意用權(quán)等優(yōu)點(diǎn)，但同時(shí)也可能帶來(lái)諸多問(wèn)題，如破壞正當(dāng)程序、產(chǎn)生算法黑箱等。例如，2018年，杭州某公民參加了小客車指標(biāo)搖號(hào)，并于2019年6月獲得了指標(biāo)，但由于未接到通知，直到2020年指標(biāo)已過(guò)期時(shí)才發(fā)現(xiàn)。根據(jù)《杭州市小客車總量調(diào)控管理規(guī)定》第46條規(guī)定，逾期未使用的，視為放棄指標(biāo)，自有效期屆滿次日起，兩年內(nèi)不得申請(qǐng)?jiān)隽恐笜?biāo)。該情形實(shí)際上是由于系統(tǒng)發(fā)送失敗，導(dǎo)致該公民未獲得相關(guān)短信。面對(duì)此種情況，該行政相對(duì)人如何才能獲得相應(yīng)救濟(jì)?再如，2014年最高人民法院發(fā)布的指導(dǎo)案例26號(hào)“李健雄訴廣東省交通運(yùn)輸廳政府信息公開(kāi)案”。原告于2011年6月1日通過(guò)廣東省人民政府網(wǎng)絡(luò)系統(tǒng)向被告廣東省交通運(yùn)輸廳提出政府信息公開(kāi)申請(qǐng)，根據(jù)《中華人民共和國(guó)政府信息公開(kāi)條例》規(guī)定，被告應(yīng)在當(dāng)月23日前答復(fù)原告，但被告未在法定期限內(nèi)答復(fù)及提供所申請(qǐng)的政府信息，故原告請(qǐng)求法院判決確認(rèn)被告未在法定期限內(nèi)答復(fù)的行為違法;而被告廣東省交通運(yùn)輸廳辯稱，由于外網(wǎng)進(jìn)入內(nèi)網(wǎng)數(shù)據(jù)處理需要一定的時(shí)間，致使被告未能收到，進(jìn)而未能及時(shí)受理申請(qǐng)。此案中公民是按照要求通過(guò)政府公眾網(wǎng)絡(luò)提交政府信息公開(kāi)申請(qǐng)，但如何界定收到政府信息公開(kāi)申請(qǐng)起算日期?再如，新冠肺炎疫情防控期間，由于某種技術(shù)故障、個(gè)人信息更新不及時(shí)，或者在高鐵途經(jīng)中高風(fēng)險(xiǎn)地區(qū)但乘客未下車的情況下，仍然可能導(dǎo)致健康碼顯示為不合格，相對(duì)人又該如何尋求救濟(jì)?可以預(yù)見(jiàn)，諸如此類具有瑕疵的指令在自動(dòng)化行政指令頻繁使用的未來(lái)，會(huì)更多地浮出水面。

參考行政行為瑕疵理論，本文所指的自動(dòng)化行政瑕疵指令主要是指基于自動(dòng)化行政中的數(shù)據(jù)來(lái)源錯(cuò)誤、算法錯(cuò)誤以及系統(tǒng)錯(cuò)誤等產(chǎn)生的瑕疵，情況嚴(yán)重的情形下也可包括違法的自動(dòng)化指令，如存在歧視、違背公平等瑕疵指令。

由于自動(dòng)化行政很多情形下為“一次性”生成，需要對(duì)自動(dòng)化行政中產(chǎn)生的瑕疵指令加以區(qū)分并依不同路徑給予救濟(jì)和保障。本文所探討的問(wèn)題正集中于此，即對(duì)于因自動(dòng)化行政中產(chǎn)生的瑕疵指令所引發(fā)的后果，行政相對(duì)人如何獲得相應(yīng)的救濟(jì)。

一、自動(dòng)化行政中瑕疵指令的來(lái)源

自動(dòng)化行政中的瑕疵指令來(lái)源于多種可能，我們不能僅從其表象來(lái)判斷法律責(zé)任或者救濟(jì)措施。這種表象背后所形成的機(jī)理，包括后續(xù)的相應(yīng)救濟(jì)手段各異。

數(shù)據(jù)來(lái)源瑕疵

任何一種自動(dòng)化行政都需要搜集數(shù)據(jù)。如果數(shù)據(jù)來(lái)源出現(xiàn)問(wèn)題，那以此得出的結(jié)論則從根本上就是錯(cuò)誤的。例如，健康碼生成過(guò)程中，因個(gè)人不慎填寫(xiě)了錯(cuò)誤數(shù)據(jù)導(dǎo)致紅碼而無(wú)法現(xiàn)場(chǎng)修正;再如，信息獲取時(shí)識(shí)別錯(cuò)誤，2018年，寧波交警執(zhí)法時(shí)曾通過(guò)自動(dòng)化人臉識(shí)別系統(tǒng)所搜集的董明珠“違法”信息，實(shí)則為相應(yīng)的車身廣告上的照片，并無(wú)真實(shí)違法事件發(fā)生;還有，電子監(jiān)控設(shè)備由于其固有的缺陷，可能會(huì)無(wú)法辨識(shí)某一時(shí)刻的特定行為所導(dǎo)致的錯(cuò)誤判斷。2020年公安部修改的《道路交通安全違法行為處理程序規(guī)定》第22條規(guī)定，“交通技術(shù)監(jiān)控設(shè)備記錄或者錄入道路交通違法信息管理系統(tǒng)的違法行為信息，有下列情形之一并經(jīng)核實(shí)的，應(yīng)予以消除：警車、消防車、救護(hù)車、工程救險(xiǎn)車執(zhí)行緊急任務(wù)的;機(jī)動(dòng)車被盜搶期間發(fā)生的;有證據(jù)證明救助危難或者緊急避險(xiǎn)造成的;現(xiàn)場(chǎng)已被交通警察處理的;因交通信號(hào)指示不一致造成的;……其他應(yīng)予消除的情形。”基于該條所規(guī)定的消除情形進(jìn)行反向思考，也可認(rèn)為，錄入道路交通違法信息管理系統(tǒng)的違法行為信息有可能會(huì)出現(xiàn)與實(shí)際情況不符合的“錯(cuò)誤”情形。

如在“高瑞麗與鄭州市公安局交警十大隊(duì)公安交通處罰案”中，原告年審核驗(yàn)時(shí)，遇到被告以原告車輛有“電子眼”違章記錄為由要求交納罰款，否則不給審車，直到2013年12月11日，原告在被迫交納“電子眼”違章罰款后，車輛才審驗(yàn)。該案原告認(rèn)為，被告所采用的電子眼均沒(méi)有依法向計(jì)量法規(guī)定的政府計(jì)量監(jiān)督管理部門申請(qǐng)安裝檢定和強(qiáng)制性年度檢驗(yàn)，該“電子眼”的信息作為處罰依據(jù)是不合法的。當(dāng)然，法院最終認(rèn)為《中華人民共和國(guó)計(jì)量法》相關(guān)規(guī)定因機(jī)動(dòng)車年檢的行政主體與交通違法處理的行政主體不同，前者為質(zhì)檢部門，后者為交通管理部門;機(jī)動(dòng)車年檢并非作為被告的交管部門的法定職責(zé)，原告所稱的被告濫用職權(quán)沒(méi)有依據(jù)。然而，這并不表明“電子眼”即使未經(jīng)年審也不存在合法性的問(wèn)題，只是在本案中因?yàn)橹黧w不適格，法院未予以認(rèn)定。再如當(dāng)下，公共治理的許多領(lǐng)域都在使用的信用評(píng)價(jià)懲戒機(jī)制，信用評(píng)價(jià)其實(shí)也是基于各種各樣的數(shù)據(jù)來(lái)源，如果這些數(shù)據(jù)本身存在問(wèn)題，結(jié)果亦然?！渡虾Ｊ嗅t(yī)療衛(wèi)生人員權(quán)益保障辦法》第37條規(guī)定：公安機(jī)關(guān)等應(yīng)當(dāng)依法及時(shí)向市公共信用信息平臺(tái)歸集相關(guān)信息;相關(guān)違法行為輕微或者主動(dòng)消除、減輕違法行為危害后果的，不予歸集;市衛(wèi)生健康主管部門應(yīng)當(dāng)匯總前款規(guī)定的失信信息，及時(shí)推送至醫(yī)療衛(wèi)生機(jī)構(gòu)及醫(yī)療保障機(jī)構(gòu)。

自動(dòng)化行政縮減了公務(wù)人員的裁量空間，將規(guī)則以電子化形式確定，這在一定程度上有助于行政主體更為理性地處理案件，但也正因?yàn)槠浞浅９潭ê蜋C(jī)械化，導(dǎo)致行政指令過(guò)于依賴數(shù)據(jù)反受其制約，從而滋生由數(shù)據(jù)錯(cuò)誤所導(dǎo)致的諸多問(wèn)題。

算法瑕疵

計(jì)算機(jī)不僅是數(shù)字計(jì)算器，還是數(shù)字和符號(hào)處理器。它需要按照一定的規(guī)則進(jìn)行計(jì)算，或者比較擅長(zhǎng)計(jì)算以及類似工作，但如果出現(xiàn)了部分指令錯(cuò)誤或者缺損，其最終也會(huì)給出一個(gè)錯(cuò)誤的結(jié)果。例如，健康碼實(shí)施以后，實(shí)際上各地就發(fā)生過(guò)很多例由于后臺(tái)信息搜集錯(cuò)誤所導(dǎo)致的非正常變碼案例，因健康碼顯示與實(shí)際不符而申請(qǐng)復(fù)核的人數(shù)僅在上線四天內(nèi)便有三萬(wàn)余人。各地在具體信息搜集程序上差異明顯，也存在統(tǒng)一規(guī)范等方面的問(wèn)題。技術(shù)后臺(tái)基于哪些數(shù)據(jù)比對(duì)分析?對(duì)各類數(shù)據(jù)如何賦值?在數(shù)據(jù)沖突時(shí)如何處理?如何具體確定風(fēng)險(xiǎn)等級(jí)的評(píng)定標(biāo)準(zhǔn)以及動(dòng)態(tài)調(diào)整的具體依據(jù)為何?這些由行政機(jī)關(guān)設(shè)定的標(biāo)準(zhǔn)并未被公開(kāi)。

再如，某個(gè)內(nèi)部系統(tǒng)指令設(shè)計(jì)可能存在問(wèn)題，因?yàn)榧词棺詈玫某绦蛟O(shè)計(jì)者，都會(huì)存在不足。由于缺乏具有個(gè)案特點(diǎn)的語(yǔ)境，同時(shí)交通違法測(cè)速中也需要一些傳統(tǒng)的警察領(lǐng)域知識(shí)，算法會(huì)出現(xiàn)一定的瑕疵，包括缺乏適當(dāng)?shù)膫鞲衅鲾?shù)據(jù)或無(wú)法處理軟件中的高級(jí)認(rèn)知功能。

系統(tǒng)瑕疵

就目前人類所處的智能時(shí)代而言，自動(dòng)化行政所依托的智能系統(tǒng)本身難免具有瑕疵，不能獨(dú)立作出行政決策，典型的如各種道路上所設(shè)置的交通電子化監(jiān)控設(shè)備?！兜缆方煌ò踩`法行為處理程序規(guī)定》第15條規(guī)定，公安機(jī)關(guān)交通管理部門可以利用交通技術(shù)監(jiān)控設(shè)備收集、固定違法行為證據(jù);交通技術(shù)監(jiān)控設(shè)備應(yīng)當(dāng)符合國(guó)家標(biāo)準(zhǔn)或者行業(yè)標(biāo)準(zhǔn)，并經(jīng)國(guó)家有關(guān)部門認(rèn)定、檢定合格后，方可用于收集違法行為證據(jù);交通技術(shù)監(jiān)控設(shè)備應(yīng)當(dāng)定期進(jìn)行維護(hù)、保養(yǎng)、檢測(cè)，保持功能完好。在“方毅與金華市公安局交通警察支隊(duì)公安行政管理、道路交通管理二審案”中，上訴人指出，交通技術(shù)監(jiān)控設(shè)備如果不符合法律規(guī)定，就等于這么多年一直在侵犯社會(huì)公眾的巨大合法經(jīng)濟(jì)利益還有安全利益……法律既然規(guī)定了需要對(duì)交通技術(shù)監(jiān)控設(shè)備定期維護(hù)、校準(zhǔn)、檢測(cè)，交警當(dāng)然必須要依法執(zhí)行。上訴人的主張雖然較為樸素，但實(shí)際上也生動(dòng)地表明了機(jī)器故障可能會(huì)引發(fā)的問(wèn)題。當(dāng)然，法院最終認(rèn)為在認(rèn)定違法行為的證據(jù)確實(shí)充分的情況下，是否達(dá)到該技術(shù)規(guī)范要求以及是否提供設(shè)備維護(hù)證據(jù)，并不影響案涉行政處罰合法性的認(rèn)定。

再如，行文之初的最高人民法院指導(dǎo)案例26號(hào)中，被告廣東省交通運(yùn)輸廳辯稱：原告申請(qǐng)政府信息公開(kāi)通過(guò)的是廣東省人民政府公眾網(wǎng)絡(luò)系統(tǒng)，即省政府政務(wù)外網(wǎng)(以下簡(jiǎn)稱省外網(wǎng))，而非被告的內(nèi)部局域網(wǎng)(以下簡(jiǎn)稱廳內(nèi)網(wǎng))。由于被告的廳內(nèi)網(wǎng)與互聯(lián)網(wǎng)、省外網(wǎng)有物理隔離，互聯(lián)網(wǎng)、省外網(wǎng)數(shù)據(jù)都無(wú)法直接進(jìn)入廳內(nèi)網(wǎng)處理，需通過(guò)網(wǎng)閘以數(shù)據(jù)“擺渡”方式接入廳內(nèi)網(wǎng)辦理，因此被告工作人員未能立即發(fā)現(xiàn)原告在廣東省人民政府公眾網(wǎng)絡(luò)系統(tǒng)中提交的申請(qǐng)，致使被告未能及時(shí)受理申請(qǐng)。從中我們可以看出，系統(tǒng)故障會(huì)影響信息公開(kāi)申請(qǐng)的時(shí)間點(diǎn)，也會(huì)對(duì)后續(xù)事實(shí)的認(rèn)定產(chǎn)生影響。

二、自動(dòng)化行政中瑕疵指令救濟(jì)的法規(guī)范基礎(chǔ)

自動(dòng)化行政指令以數(shù)據(jù)為基礎(chǔ)，依托于各種計(jì)算機(jī)系統(tǒng)，借助算法進(jìn)而形成某個(gè)規(guī)則、命令。從行政機(jī)關(guān)來(lái)看，它替代了各種行政人員的調(diào)查取證，甚至發(fā)展到現(xiàn)在，可以在自動(dòng)收集證據(jù)的基礎(chǔ)上自動(dòng)直接作出行政決定。例如，在“田志鵬訴陜西省西安市公安局站前分局行政處罰糾紛案”中，西安市公安局交通警察支隊(duì)設(shè)立了道路交通違法自助繳納系統(tǒng)。田志鵬因在交警大廳處理違章時(shí)，沒(méi)有出具簡(jiǎn)易程序《處罰決定書(shū)》，違反了《道路交通安全法》中關(guān)于處罰程序的規(guī)定，請(qǐng)求依法撤銷行政處罰決定。這種自動(dòng)化行政是否還須遵循傳統(tǒng)的行政程序法要求?相應(yīng)的后續(xù)救濟(jì)措施應(yīng)當(dāng)為何?這便是對(duì)自動(dòng)化行政帶來(lái)的瑕疵指令所應(yīng)當(dāng)考慮的法規(guī)范基礎(chǔ)。

自動(dòng)化行政中瑕疵指令的實(shí)質(zhì)

相對(duì)于傳統(tǒng)行政而言，自動(dòng)化行政最直觀的特征是，自動(dòng)化行政指令一般是電子化的，而我們傳統(tǒng)的行政活動(dòng)方式以及決定常常強(qiáng)調(diào)書(shū)面、正式等要求，即所謂的要式行政行為;僅僅對(duì)于一些緊急情況或者行為內(nèi)容較為簡(jiǎn)單的情形，可能采用非要式行政行為方式。這是形式意義上的差別，而從實(shí)質(zhì)比較來(lái)看，自動(dòng)化行政指令易出現(xiàn)瑕疵，至少有如下兩個(gè)方面：

1.縮減裁量

自動(dòng)化行政縮減了行政機(jī)關(guān)工作人員的裁量空間。依靠指令，這種裁量成為了機(jī)械化的規(guī)則制定，裁量中須考量的相關(guān)因素可以通過(guò)系統(tǒng)事先的設(shè)定輸入，不需要考量的相關(guān)因素則事先被剔除。機(jī)器將計(jì)算出數(shù)以百萬(wàn)計(jì)連接的微指令，這些指令可以實(shí)現(xiàn)法律規(guī)范的策略目標(biāo)。這個(gè)復(fù)雜的微指令目錄可以針對(duì)行為的小實(shí)例應(yīng)用于更大的行為動(dòng)作網(wǎng)絡(luò)，實(shí)現(xiàn)更廣泛的目標(biāo)。當(dāng)然，法哲學(xué)家對(duì)此頗有爭(zhēng)議，因?yàn)樵谒麄兛雌饋?lái)法律必然是模糊和不確定的，法律推理過(guò)程需要理解和支持類比推理的原則。再比如，法律往往要求實(shí)現(xiàn)公平，那這種公平可以被量化嗎?首先，公平是一個(gè)模糊的概念，法律上的公平被翻譯成算法公平可能存在困難;其次，公平被量化、被算法化可能帶來(lái)歧視問(wèn)題。美國(guó)聯(lián)邦貿(mào)易委員會(huì)(FTC)發(fā)布的《大數(shù)據(jù)：包容性工具抑或排斥性工具?》(Big Data: a Tool for Inclusion or Exclusion?)報(bào)告，特別關(guān)注大數(shù)據(jù)中的歧視和偏見(jiàn)問(wèn)題：數(shù)據(jù)集是否具有代表性?所使用的數(shù)據(jù)模型是否會(huì)導(dǎo)致偏見(jiàn)?基于大數(shù)據(jù)進(jìn)行預(yù)測(cè)的準(zhǔn)確性如何?對(duì)大數(shù)據(jù)的依賴是否會(huì)導(dǎo)致道德或者公平性問(wèn)題?這些問(wèn)題往往都伴隨著縮減裁量而產(chǎn)生。盡管我們一直為濫用裁量權(quán)所困，但基于行政的效率考量以及個(gè)案決定要求，它的存在卻是必要的。當(dāng)我們從一個(gè)需要個(gè)性化判斷的行政決定走向規(guī)程化的程序中，社會(huì)的整體利益、人性情感、地方習(xí)俗等因素都可能被忽略。

2.縮減程序

自動(dòng)化行政縮減了行政行為的程序環(huán)節(jié)。如在“田志鵬訴陜西省西安市公安局站前分局行政處罰糾紛案”中，田志鵬認(rèn)為，在交警大廳處理違章時(shí)，行政主體沒(méi)有出具簡(jiǎn)易程序《處罰決定書(shū)》，違反了《道路交通安全法》的程序規(guī)定。法院在審判中認(rèn)為，田志鵬的違法行為事實(shí)清楚，被告適用簡(jiǎn)易程序符合規(guī)定，至于未出具《處罰決定書(shū)》，那是因?yàn)樽灾U納系統(tǒng)本身可以自行打印且被告在處理大廳公示了違法處理流程，張貼有《法律文書(shū)補(bǔ)打流程告知》以及相關(guān)操作說(shuō)明;田志鵬可依據(jù)操作說(shuō)明在處理大廳自助系統(tǒng)打印出《處罰決定書(shū)》，但原告未按照上述告知內(nèi)容打印，因而其主張被告沒(méi)有明示自助繳費(fèi)，不向其出具《處罰決定書(shū)》等意見(jiàn)，法院不予采納，其訴訟請(qǐng)求被駁回。該案從形式上來(lái)看，程序被縮減，但實(shí)質(zhì)上轉(zhuǎn)移為另一種形式，即自助打印，而此時(shí)原告已繳納罰款，可視為自行放棄了相應(yīng)權(quán)利。但這里自然提出相關(guān)問(wèn)題，是不是自動(dòng)化行政所依賴的程序都是簡(jiǎn)易程序?或者可以缺省必要的程序?此時(shí)是否可以將行政主體的義務(wù)轉(zhuǎn)化為行政相對(duì)人的權(quán)利?自動(dòng)化執(zhí)法系統(tǒng)會(huì)威脅程序性權(quán)利，即相對(duì)人被通知和進(jìn)行申辯的機(jī)會(huì)。為救濟(jì)相對(duì)人的合法權(quán)益，任何自動(dòng)化執(zhí)法系統(tǒng)都應(yīng)該有大量的失效保護(hù)、冗余備份及相關(guān)機(jī)制，以確保完成適當(dāng)?shù)耐ㄖ覀€(gè)人可以有效地對(duì)自動(dòng)出具的懲戒提出上訴。

理解自動(dòng)化行政的核心：算法

算法是自動(dòng)化行政的核心內(nèi)容。理解算法，才能理解緣何自動(dòng)化行政會(huì)產(chǎn)生瑕疵并引發(fā)諸多問(wèn)題。“算法就是一系列指令，告訴計(jì)算機(jī)該做什么”。“算法的核心就是按照設(shè)定程序運(yùn)行以期獲得理想結(jié)果的一套指令”。所有的算法都包括如下共同特點(diǎn)：輸入、輸出、明確性、有限性、有效性。自動(dòng)化行政發(fā)展的趨勢(shì)便是學(xué)習(xí)型算法，這種算法會(huì)增加諸多人類所具有的判斷，具有直覺(jué)和獨(dú)創(chuàng)性，可以根據(jù)概率來(lái)權(quán)衡可能的未來(lái)。盡管當(dāng)下我們上文所討論的很多問(wèn)題還稱不上是這種學(xué)習(xí)型算法，但類似地，技術(shù)監(jiān)控也好，自動(dòng)化罰款繳納系統(tǒng)也罷，這其中都存在技術(shù)盲區(qū)，即所謂的算法黑箱。我們無(wú)法知道系統(tǒng)背后所考量的因素是什么，算法的不公開(kāi)、不透明使得自動(dòng)化行政容易出現(xiàn)漫無(wú)邊際的裸奔感。

由此，自動(dòng)化行政便會(huì)產(chǎn)生包括隱私權(quán)保護(hù)、個(gè)人信息保護(hù)在內(nèi)的與人權(quán)保護(hù)相關(guān)的核心命題?；谖覈?guó)現(xiàn)有的行政行為救濟(jì)路徑，可根據(jù)《行政訴訟法》第16條第12款規(guī)定，認(rèn)為行政機(jī)關(guān)侵犯其他人身權(quán)、財(cái)產(chǎn)權(quán)等合法權(quán)益的，可提起訴訟。然而問(wèn)題在于，“等合法權(quán)益”在自動(dòng)化行政中，常常被淹沒(méi)在算法黑箱之中。算法形成的黑箱進(jìn)一步擴(kuò)展而成為網(wǎng)絡(luò)化。我們很多人時(shí)刻生活在網(wǎng)絡(luò)化的社會(huì)中，自己的信息何時(shí)、如何以及是否被侵犯，很多時(shí)候甚至無(wú)從得知。換言之，依據(jù)黑箱中算法的自動(dòng)化行政并不能像傳統(tǒng)行政行為一樣，依賴某個(gè)決定及時(shí)知曉自己的權(quán)益保護(hù)情況，這些都增加了對(duì)瑕疵指令進(jìn)行后續(xù)救濟(jì)的難度。

瑕疵指令救濟(jì)的傳統(tǒng)行政法學(xué)基礎(chǔ)

對(duì)自動(dòng)化行政中的瑕疵指令救濟(jì)除了上述權(quán)利基礎(chǔ)之外，還需要進(jìn)一步明確其指令的相關(guān)救濟(jì)可歸入傳統(tǒng)行政法視域中的哪些范疇之內(nèi)。依數(shù)據(jù)來(lái)源瑕疵、算法瑕疵、系統(tǒng)瑕疵三種主要類型，實(shí)際上對(duì)應(yīng)著幾種救濟(jì)的可能性，即針對(duì)行政程序、行政活動(dòng)以及事實(shí)行為的救濟(jì)。如圖 1所示。

圖 1自動(dòng)化行政瑕疵指令救濟(jì)的傳統(tǒng)行政法學(xué)基礎(chǔ)

1.數(shù)據(jù)來(lái)源瑕疵

由于數(shù)據(jù)是作為基礎(chǔ)性的數(shù)據(jù)搜集和分析依據(jù)，一般來(lái)說(shuō)不會(huì)直接構(gòu)成某個(gè)決定，所以在某種意義上，它類似于一種行政程序。如“高瑞麗與鄭州市公安局交警十大隊(duì)公安交通處罰案”的一審行政判決書(shū)中，“電子眼”所搜集相關(guān)信息成為后續(xù)行政處罰的依據(jù)，在行政訴訟法中是一種證據(jù)材料。當(dāng)這作為一種程序時(shí)，單獨(dú)依賴這種程序所作出的決定確實(shí)可能存在合法性的問(wèn)題。本案中就車輛在鄭州機(jī)場(chǎng)轄區(qū)的違法信息記錄，原告如有異議，應(yīng)當(dāng)向該路段的交通管理部門提出。原告主動(dòng)到被告處接受異地違法信息處理，且對(duì)《處罰決定書(shū)》標(biāo)明的“如是異地交通違法，無(wú)異議后簽名確認(rèn)”等內(nèi)容未表示異議，原告在被處罰人簽名處簽署姓名并主動(dòng)履行罰款繳納義務(wù)，這是對(duì)自己權(quán)利的處分行為，應(yīng)當(dāng)視為對(duì)違法事實(shí)沒(méi)有異議。換言之，相對(duì)人等于自己放棄了相應(yīng)的陳述、申辯等程序性權(quán)利。本案中，電子眼所搜集的信息并未構(gòu)成最終決定，而是因?yàn)楸惶幜P人簽名、繳納罰款的實(shí)際行為認(rèn)可了該行政處罰的有效性。當(dāng)然，數(shù)據(jù)來(lái)源的瑕疵情形有很多種，如自己填寫(xiě)信息錯(cuò)誤則應(yīng)屬于歸由自己的原因，需要有充分的理由說(shuō)明才能予以更正。

2.算法瑕疵

由于絕大多數(shù)情形下，算法背后所依賴的仍然是設(shè)定算法的技術(shù)人員，且這種利用機(jī)器所作出的自動(dòng)化行政決定，其內(nèi)容也是由公務(wù)人員確定并通過(guò)輸入程序來(lái)實(shí)現(xiàn)的，因而，這種依賴算法的決定是一種行政活動(dòng)。相應(yīng)地，由于算法錯(cuò)誤所導(dǎo)致的問(wèn)題，也應(yīng)歸由行政機(jī)關(guān)及其工作人員承擔(dān)相應(yīng)的責(zé)任。然而，基于算法黑箱等因素，如果是純粹的全自動(dòng)化行政決定，如何審查算法仍需要進(jìn)一步探究。換言之，算法也是一種“法”的實(shí)質(zhì)，對(duì)于算法瑕疵的審查應(yīng)該成為自動(dòng)化行政發(fā)展后的獨(dú)立命題，并不屬于當(dāng)下行政法律體系中的既有內(nèi)容。

3.系統(tǒng)瑕疵

此時(shí)，更接近于一種事實(shí)行為，也會(huì)引起后期的賠償問(wèn)題。理論上，自動(dòng)化系統(tǒng)的問(wèn)題可能是由于不可抗力的自然因素，也可能是由于人為因素所導(dǎo)致的錯(cuò)誤。如果是前者，沒(méi)有合法性的問(wèn)題，但由此造成的損害也會(huì)產(chǎn)生賠償問(wèn)題;而如果是后者，由于這個(gè)系統(tǒng)與行政機(jī)關(guān)之間的密切關(guān)聯(lián)，也應(yīng)由行政機(jī)關(guān)及其工作人員負(fù)主要責(zé)任。

綜上所述，基于自動(dòng)化行政的過(guò)程，即數(shù)據(jù)來(lái)源、算法(黑箱)再到所形成的系統(tǒng)，這樣一個(gè)數(shù)據(jù)流向下，有些相關(guān)問(wèn)題可在現(xiàn)有的法律體系中得以部分調(diào)整。但更多的救濟(jì)則需要依賴更具有針對(duì)自動(dòng)化行政特點(diǎn)的救濟(jì)方式，對(duì)此后文仍將進(jìn)一步加以探討。

三、對(duì)瑕疵指令進(jìn)行救濟(jì)的可能路徑

基于上述基礎(chǔ)，我們可探索性地給出一個(gè)對(duì)自動(dòng)化行政中瑕疵指令進(jìn)行救濟(jì)的可能路徑。

瑕疵指令的救濟(jì)路徑之一：正當(dāng)行政程序

從廣義的角度來(lái)看，行政程序也是救濟(jì)路徑之一，如告知、聽(tīng)證等。上文已討論過(guò)自動(dòng)化行政會(huì)縮減程序，那么這種縮減程序的邊界在哪里?是否會(huì)因縮減程序產(chǎn)生后續(xù)的救濟(jì)問(wèn)題呢?這兩個(gè)問(wèn)題實(shí)際上可以歸入一種，即自動(dòng)化行政指令帶有黑箱屬性，使得很多程序都在實(shí)際上被縮減，使得行政相對(duì)人的權(quán)利、義務(wù)依然受到相應(yīng)的影響?？偨Y(jié)前文所討論的數(shù)個(gè)自動(dòng)化罰款繳納案例發(fā)現(xiàn)：一般來(lái)說(shuō)，對(duì)于自動(dòng)化行政指令而言，更適合被用在能夠采用簡(jiǎn)易程序處理的案件之中。當(dāng)然，隨著科技的發(fā)展，未來(lái)人工智能如果能夠處理復(fù)雜的編碼和個(gè)案情形，也不排除它會(huì)從根本上挑戰(zhàn)我們現(xiàn)有的行政程序法規(guī)范。對(duì)于處罰數(shù)額不大、情節(jié)認(rèn)定較容易的違法情形，自動(dòng)化執(zhí)法完全可以引入，同時(shí)為了保障相對(duì)人的程序性權(quán)利，減少或避免后續(xù)出現(xiàn)的救濟(jì)等問(wèn)題，應(yīng)要求當(dāng)事人知情、確認(rèn)并認(rèn)可，而不能單純依賴自動(dòng)化執(zhí)法機(jī)器，不然很容易使相對(duì)人陷于“無(wú)知之幕”的恐慌之中。告知環(huán)節(jié)本身也應(yīng)依行政程序法的要求，行政機(jī)關(guān)應(yīng)采取短信、網(wǎng)絡(luò)等電子化方式輔之以書(shū)面告知等形式。此外，還有一點(diǎn)需要強(qiáng)調(diào)，即依賴自動(dòng)化行政所作出的決定，在技術(shù)手段上需要確保行政相對(duì)人，即指令施加對(duì)象的可識(shí)別性。例如，在很多地方和領(lǐng)域都采取的人臉識(shí)別中，對(duì)行政主體的識(shí)別賦予優(yōu)先性是基本要求。即使在采用電子化監(jiān)控設(shè)備的道路交通執(zhí)法中，行政主體對(duì)車輛基本信息的識(shí)別也是需要被優(yōu)先考慮的。

除了上述簡(jiǎn)單程序外，復(fù)雜程序中的一些救濟(jì)程序的采用是否還有可行之處?如聽(tīng)證會(huì)。筆者認(rèn)為，在多數(shù)情況下，自動(dòng)化行政更適宜于可采用簡(jiǎn)易程序的場(chǎng)合，實(shí)際上也就排除了聽(tīng)證會(huì)的適用問(wèn)題。如果自動(dòng)化行政在獲取信息的后續(xù)過(guò)程中，出現(xiàn)了諸如隱私權(quán)的侵?jǐn)_等問(wèn)題，也就依然需要程序上的保障，尤其是正當(dāng)程序的保障。例如，在新冠肺炎疫情防控期間，有些地方要求公職人員“不得通過(guò)互聯(lián)網(wǎng)、社交軟件等途徑捏造、傳播、散布謠言，要保守工作秘密，不擅自發(fā)布、傳播、泄露非公開(kāi)發(fā)布的疫情防控工作信息”。2020年2月4日，中央網(wǎng)絡(luò)安全和信息化委員會(huì)辦公室發(fā)布的《關(guān)于做好個(gè)人信息保護(hù)利用大數(shù)據(jù)支撐聯(lián)防聯(lián)控工作的通知》明確指出：為疫情防控、疾病防治收集的個(gè)人信息，不得用于其他用途;任何單位和個(gè)人未經(jīng)被收集者同意，不得公開(kāi)姓名、年齡、身份證號(hào)碼、電話號(hào)碼、家庭住址等個(gè)人信息，因聯(lián)防聯(lián)控工作需要，且經(jīng)過(guò)脫敏處理的除外。《網(wǎng)絡(luò)安全法》第43—45條也規(guī)定了相應(yīng)的個(gè)人信息保護(hù)有關(guān)內(nèi)容。

技術(shù)性正當(dāng)程序要求告知、聽(tīng)證等必要的程序適用，尤其當(dāng)自動(dòng)化行政決定涉及到公民的人身權(quán)、自由權(quán)時(shí);同時(shí)還須在技術(shù)上采用無(wú)歧視的數(shù)據(jù)挖掘技術(shù)，避免個(gè)人被歧視;此外，還要求行政機(jī)關(guān)作出一定的理由說(shuō)明。例如，英國(guó)在2018年《數(shù)據(jù)保護(hù)法案》第14條規(guī)定，使用人工智能的公共管理部門必須在合理期限內(nèi)以書(shū)面形式就自動(dòng)化決策內(nèi)容盡快通知被執(zhí)行自動(dòng)化決策的主體，數(shù)據(jù)主體可以在收到通知后一個(gè)月內(nèi)，要求公共組織重新考慮對(duì)自己作出的自動(dòng)化決策，或由自然人對(duì)決策進(jìn)行重新評(píng)估。

瑕疵指令的救濟(jì)路徑之二：申訴

作為傳統(tǒng)的救濟(jì)方式，申訴是常用的方式。在自動(dòng)化行政中是否還能適用?其實(shí)類似于程序，在特定的情形之下，這些手段仍存在適用的必要性。然而，基于自動(dòng)化行政的特征，我們需要對(duì)現(xiàn)有的申訴、信訪制度進(jìn)行一定程度上的改革以適應(yīng)信息時(shí)代。例如，設(shè)立機(jī)器智能委員會(huì)等專業(yè)委員會(huì)來(lái)辨別判定一些涉及到自動(dòng)化行政的專業(yè)性問(wèn)題。再如，歐洲議會(huì)法律事務(wù)委員會(huì)主張建立歐洲機(jī)器人和人工智能機(jī)構(gòu);還有些學(xué)者主張建立跨國(guó)的、獨(dú)立的、多利益相關(guān)的人工智能和數(shù)據(jù)委員會(huì)。他們認(rèn)為，人工智能不僅僅是一個(gè)公用事業(yè)，一旦成熟就需要被監(jiān)管，它更是重塑生活、互動(dòng)和環(huán)境的強(qiáng)大力量，是人類棲息地向信息圈深刻轉(zhuǎn)變的一個(gè)部分。

中國(guó)實(shí)際上也有諸多類似的機(jī)構(gòu)，例如中國(guó)自動(dòng)化學(xué)會(huì)模式識(shí)別與機(jī)器智能(Pattern Recognition and Machine Intelligence, PRMI) 專業(yè)委員會(huì)成立于1981年，是國(guó)際模式識(shí)別協(xié)會(huì)(IAPR)的成員組織。此外，還有機(jī)器學(xué)習(xí)專業(yè)委員會(huì)、自然語(yǔ)言理解專業(yè)委員會(huì)、離散智能計(jì)算專業(yè)委員會(huì)、智能教育技術(shù)專業(yè)委員會(huì)、智能控制與智能管理專業(yè)委員會(huì)等。這些委員會(huì)更強(qiáng)調(diào)專業(yè)性，常常容易走向技術(shù)精深化的建構(gòu)路徑，而對(duì)于公民參與的提升作用還很有限，甚至大多數(shù)普通公民無(wú)從知曉它們的存在。人工智能專業(yè)委員會(huì)不應(yīng)僅僅是行政機(jī)關(guān)的智囊團(tuán)，也應(yīng)當(dāng)為行政機(jī)關(guān)和普通公民之間搭建橋梁，對(duì)于自動(dòng)化行政決策發(fā)揮說(shuō)明、闡釋作用。在處置申訴、信訪過(guò)程中可以借鑒這種專業(yè)委員會(huì)的設(shè)置目標(biāo)，即加入專業(yè)性的考量因素，借助第三方委托、協(xié)助等方式，更好地提升申訴、信訪處置的水平以及行政機(jī)關(guān)處理自動(dòng)化行政所涉問(wèn)題的能力。如健康碼實(shí)施至今，各地都有設(shè)立復(fù)核制度，通過(guò)網(wǎng)絡(luò)化的復(fù)核實(shí)則也是信息化時(shí)代的一種申訴方式。

下一步，司法實(shí)踐領(lǐng)域可借鑒英國(guó)法的經(jīng)驗(yàn)，設(shè)立數(shù)據(jù)保護(hù)專員(Data Protection Officer)為數(shù)據(jù)控制者提供數(shù)據(jù)方面的建議，處理申訴。實(shí)際上，我國(guó)有些地方實(shí)踐中已有類似的做法，例如《上海市公共數(shù)據(jù)和一網(wǎng)通辦管理辦法》第43條規(guī)定，公共管理和服務(wù)機(jī)構(gòu)應(yīng)當(dāng)設(shè)置或者確定專門的安全管理機(jī)構(gòu)并確定安全管理責(zé)任人。安全管理責(zé)任人與英國(guó)的數(shù)據(jù)保護(hù)專員角色多少有些類似，但是不同點(diǎn)在于，安全管理責(zé)任人多為行政機(jī)關(guān)內(nèi)部的工作人員，常以技術(shù)責(zé)任為主，并不擴(kuò)展到申訴等后續(xù)責(zé)任的處理。值得注意的是，由于自動(dòng)化行政的“即時(shí)性”更強(qiáng)，因此在有相應(yīng)系統(tǒng)的情形下不能或者不必適用傳統(tǒng)的時(shí)效制度規(guī)定。相應(yīng)地引起行政相對(duì)人權(quán)益減損的時(shí)效規(guī)定也需考慮作出調(diào)整，尤其是一些可以及時(shí)確定的救濟(jì)措施可在第一時(shí)間予以處理，如健康碼信息的復(fù)核，一旦發(fā)現(xiàn)問(wèn)題需及時(shí)予以恢復(fù)。

瑕疵指令的救濟(jì)路徑之三：行政復(fù)議和行政訴訟

針對(duì)瑕疵指令所導(dǎo)致的不同后果，行政程序、行政活動(dòng)抑或事實(shí)行為更易在復(fù)議和訴訟環(huán)節(jié)發(fā)揮作用。總體上，更多情況下，數(shù)據(jù)來(lái)源的瑕疵在自動(dòng)化行政決定中更容易構(gòu)成復(fù)議和訴訟中的證據(jù)來(lái)源。算法瑕疵在理論上是有可能構(gòu)成復(fù)議、訴訟的直接審查對(duì)象的，也就是說(shuō)，伴隨著法院審查算法能力的加強(qiáng)，未來(lái)也應(yīng)具備審查算法的能力。系統(tǒng)瑕疵，則更多被歸入事實(shí)行為，即使因此產(chǎn)生了對(duì)相對(duì)人權(quán)利義務(wù)的影響，也有復(fù)議、訴訟的可能性。在現(xiàn)有的法律體系下，審查對(duì)象實(shí)際上依然只是依據(jù)自動(dòng)化行政所作出的相應(yīng)的決定，而非自動(dòng)化行政本身。

在復(fù)議和訴訟環(huán)節(jié)，涉及到自動(dòng)化行政的案件需考量幾點(diǎn)：首先，從系統(tǒng)的設(shè)定、算法的設(shè)計(jì)等方面來(lái)看，自動(dòng)化行政在當(dāng)下更多地發(fā)揮了“輔助”和“助手”的功能，即便在直接作出決定的情形中也是如此。因此，在絕大多數(shù)情形下，相應(yīng)責(zé)任也應(yīng)歸由行政機(jī)關(guān)及其工作人員承擔(dān)，除非有相反證據(jù)可以排除其責(zé)任;其次，舉證責(zé)任的分配或者相關(guān)問(wèn)題的解釋都應(yīng)本著有利于行政相對(duì)人的角度來(lái)進(jìn)行。例如，在上述指導(dǎo)性案例26號(hào)“李健雄訴廣東省交通運(yùn)輸廳政府信息公開(kāi)案”中，一審法院認(rèn)為，由于廣東省人民政府“政府信息網(wǎng)上依申請(qǐng)公開(kāi)系統(tǒng)”作為政府信息申請(qǐng)公開(kāi)平臺(tái)所應(yīng)當(dāng)具有的整合性與權(quán)威性，如未作例外說(shuō)明，則從該平臺(tái)上遞交成功的申請(qǐng)應(yīng)視為相關(guān)行政機(jī)關(guān)已收到原告通過(guò)互聯(lián)網(wǎng)提出的政府信息公開(kāi)申請(qǐng)。至于外網(wǎng)與內(nèi)網(wǎng)、上下級(jí)行政機(jī)關(guān)之間對(duì)于該申請(qǐng)的流轉(zhuǎn)屬于行政機(jī)關(guān)內(nèi)部管理事務(wù)，不能成為行政機(jī)關(guān)延期處理的理由。從最高人民法院選擇此案例作為指導(dǎo)性案例的原因來(lái)看，也是因?yàn)楸景咐龑?duì)于網(wǎng)絡(luò)電子數(shù)據(jù)證據(jù)效力的認(rèn)定正確，充分考慮了當(dāng)事人舉證能力平衡問(wèn)題，對(duì)于規(guī)范行政機(jī)關(guān)網(wǎng)上受理政府信息公開(kāi)申請(qǐng)，保護(hù)公眾依法申請(qǐng)政府信息公開(kāi)的權(quán)利具有一定意義，本案例對(duì)于指導(dǎo)類似案件的審判具有積極作用。當(dāng)然在很多情形下，自動(dòng)化行政所涉及的電子化文件，在行政訴訟或者復(fù)議中實(shí)則轉(zhuǎn)化為證據(jù)，可適用行政訴訟證據(jù)規(guī)則等來(lái)加以認(rèn)定。實(shí)際上，隨著自動(dòng)化行政的發(fā)展，更需要加強(qiáng)對(duì)事前、事中的控制，司法機(jī)關(guān)作為最后的救濟(jì)主體，在未來(lái)會(huì)面臨著更多算法審查的挑戰(zhàn)。

結(jié)語(yǔ)

自動(dòng)化行政為我們編織了一張密密麻麻的網(wǎng)絡(luò)，使得本就涉及“從搖籃到墳?zāi)?rdquo;的行政法學(xué)內(nèi)容更加與公民生活息息相關(guān)。面對(duì)數(shù)字化，行政機(jī)關(guān)既可以利用自動(dòng)化行政，提高行政效率，但也會(huì)因自動(dòng)化行政，對(duì)正當(dāng)程序、隱私保護(hù)、意思自治等產(chǎn)生影響。這也是一種新型的技術(shù)風(fēng)險(xiǎn)，行政機(jī)關(guān)可以將規(guī)則通過(guò)機(jī)器編碼化來(lái)防范與應(yīng)對(duì)。由此，如何確定這些編碼，確定算法仍將依賴于法律與信息技術(shù)專家自身的努力。

李建良曾指出，AI發(fā)展若要有與之相應(yīng)的良好人文條件和思辨環(huán)境，認(rèn)識(shí)論與規(guī)范論二者交疊互傳的思考元素須進(jìn)入公法秩序之中。當(dāng)人類面對(duì)鋪天蓋地、無(wú)邊無(wú)際的數(shù)位入侵時(shí)，法律制度與秩序是否需要“人性保留”的規(guī)范機(jī)制和實(shí)踐構(gòu)想，還需要慎重考慮。換言之，作為可能與自動(dòng)化行政時(shí)常相伴的人類，在系統(tǒng)創(chuàng)設(shè)之時(shí)便應(yīng)考量到尊嚴(yán)、平等、公平等人性價(jià)值，即先要去盡可能避免后續(xù)所產(chǎn)生的問(wèn)題。自動(dòng)化行政瑕疵指令的處理，需要我們充分考量自動(dòng)化行政特點(diǎn)，在必要情況下仍然需要輔助于人工復(fù)核等手段。如果將自動(dòng)化行政視為行政過(guò)程，我們更需要從紛繁復(fù)雜的網(wǎng)絡(luò)化表象中，厘清各種法律關(guān)系、行為屬性，以確定后續(xù)救濟(jì)的相應(yīng)路徑。

然而實(shí)際上，基于其獨(dú)特性，仍存在諸多需要進(jìn)一步探討的問(wèn)題?？梢哉f(shuō)，技術(shù)革命將影響法律指令的結(jié)構(gòu)，以及代表公權(quán)力的行政主體與相對(duì)人之間的關(guān)系。甚至還有學(xué)者認(rèn)為，未來(lái)將更為強(qiáng)調(diào)立法者如何選擇目標(biāo)，而不是如何實(shí)施法律，學(xué)術(shù)界對(duì)司法行為等主題的興趣將逐漸消失。對(duì)此，我們不得而知。但從困在算法里的騎手們到因北斗掉線而被處罰直至自殺的司機(jī)，自動(dòng)化行政以及技術(shù)革命所帶來(lái)的挑戰(zhàn)已然無(wú)法回避。深處算法時(shí)代，行政法的“變”與“不變”仍待我們進(jìn)一步探究。

原文鏈接

胡敏潔‖論自動(dòng)化行政中的瑕疵指令及其救濟(jì)

《北京行政學(xué)院學(xué)報(bào)》簡(jiǎn)介

“文章為經(jīng)國(guó)之大業(yè)，學(xué)報(bào)為學(xué)術(shù)之園圃”?！侗本┬姓W(xué)院學(xué)報(bào)》創(chuàng)刊于1999年，為北京行政學(xué)院(中共北京市委黨校)主辦的綜合性社會(huì)科學(xué)學(xué)術(shù)理論刊物，系中文社會(huì)科學(xué)引文索引(CSSCI)來(lái)源期刊、全國(guó)中文核心期刊、中國(guó)人文社會(huì)科學(xué)核心期刊、全國(guó)百?gòu)?qiáng)社科學(xué)報(bào)、中國(guó)人文社科學(xué)報(bào)核心期刊、“復(fù)印報(bào)刊資料”重要轉(zhuǎn)載來(lái)源期刊?！秾W(xué)報(bào)》的主要欄目有“地方政府與治理”“政治·行政”“馬克思主義與當(dāng)代”“首都研究”“經(jīng)濟(jì)·管理”“法律·社會(huì)”“哲學(xué)·人文”“利瑪竇與中西文化交流""首都研究""海外學(xué)術(shù)"等，并不定期地進(jìn)行專題學(xué)術(shù)研討。