邱遙堃：法社會學(xué)視角下的算法規(guī)避及其規(guī)制 | 專論
【ZiDongHua 之人文化天下收錄關(guān)鍵詞： 邱遙堃、 法社會學(xué)、 算法規(guī)避、 算法黑箱、 人工智能、 機器學(xué)習(xí) 、 機器人法官、自動駕駛汽車】
邱遙堃：法社會學(xué)視角下的算法規(guī)避及其規(guī)制 | 專論
作者 | 邱遙堃（法學(xué)博士，首都經(jīng)濟貿(mào)易大學(xué)法學(xué)院講師）
來源 |《法學(xué)家》2023年第3期“專論”欄目。
因篇幅較長，已略去原文注釋。
目錄
一、問題的提出
二、算法規(guī)避的主要策略
三、算法規(guī)避的內(nèi)在成因
四、算法規(guī)避的后果與功能
五、算法規(guī)避的分類規(guī)制
結(jié)語
一、問題的提出
由于大數(shù)據(jù)殺熟、新就業(yè)保障、機器人法官等現(xiàn)實問題層出不窮，當(dāng)前對算法的法學(xué)研究主要著眼于權(quán)力限制的一面：或者要求算法的運行過程可監(jiān)督、可控制，以算法透明與算法解釋反對算法黑箱與算法獨裁；或者要求算法的運行結(jié)果合法且公正，杜絕算法失靈、算法歧視與算法損害；甚至未雨綢繆地進(jìn)一步思考（強）人工智能的法律地位，主張或有必要將其作為法律主體而非單純客體進(jìn)行規(guī)制，由此衍生出人工智能作品的著作權(quán)保護、自動駕駛汽車的責(zé)任分配等問題。這些研究最終在政策上凝結(jié)為《個人信息保護法》第24條、《關(guān)于落實網(wǎng)絡(luò)餐飲平臺責(zé)任切實維護外賣送餐員權(quán)益的指導(dǎo)意見》第2條和《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》等法律法規(guī)。
上述限權(quán)研究的潛在假定皆為：算法權(quán)力可能過于強大，使人無力抵抗，對個人權(quán)利與改革創(chuàng)新具有負(fù)面影響。然而經(jīng)驗觀察顯示，在特定條件下，算法權(quán)力也可能相對弱勢，被治理對象發(fā)現(xiàn)規(guī)律后加以規(guī)避，致使算法權(quán)力無法實現(xiàn)既定目標(biāo)。該規(guī)避可能借助同樣強大的反向技術(shù)手段，但大多數(shù)情況下往往沒有什么技術(shù)含量，僅僅是“上有政策，下有對策”在算法時代的新變體。于是相比之下，人工智能治理中的“智能”二字飽含反諷意味。
因此，研究算法權(quán)力具有局限性，不能僅僅關(guān)注權(quán)力失控的可能性，還必須注意其效用的邊際；不能只進(jìn)行靜態(tài)描述，將受算法權(quán)力治理者視為有待拯救的受害者，還應(yīng)注意其能動性，動態(tài)地分析權(quán)力關(guān)系雙方你來我往的博弈過程。事實上，這正是一種法社會學(xué)的研究視角：關(guān)注“書本上的法”（law in books）與“行動中的法”（law in action）之間的差距，在多元規(guī)范的語境中審視各方以法律這一特殊規(guī)范為背景的互動，甚至不急于提出對現(xiàn)狀的改進(jìn)方案，因為知曉對當(dāng)前平衡的打破會帶來難以預(yù)期的后果，而且通常認(rèn)為的有害行為往往具有意想不到的社會功能。該視角有助于全面認(rèn)識相關(guān)法律現(xiàn)象的深層原因與實際影響，進(jìn)而使據(jù)此提出的解決方案更審慎、有效，避免公共權(quán)力的行使不當(dāng)或過分?jǐn)U張，反而新增規(guī)制風(fēng)險，使權(quán)力與權(quán)利關(guān)系落入更糟糕的平衡，新秩序的好處未體現(xiàn)，而破壞舊秩序的弊病卻已先發(fā)生了。因此，本文將從法社會學(xué)的視角切入，通過剖析算法規(guī)避的主要策略、內(nèi)在成因、實際后果與功能，揭示算法權(quán)力的運行邊界，進(jìn)而審慎地提出對算法規(guī)避的規(guī)制方案，借此反思算法規(guī)制乃至法律對技術(shù)的一般規(guī)制。
值得預(yù)先說明的是，算法權(quán)力的主體包括公、私兩方面，算法所支持的規(guī)范亦包括法律與非法律的社會規(guī)范，故而存在“算法的法律”與“法律的算法”之區(qū)分。但對本文所論述的主題而言，上述區(qū)分意義有限，不論被規(guī)避算法所支持的主體及其規(guī)范性質(zhì)如何，其類型、成因與后果皆類似，何況許多社會規(guī)范是法律治理的承包者，二者目標(biāo)一致。此外，由于互聯(lián)網(wǎng)平臺作為運用算法最重要的主體，具有私人治理公共化的特點，模糊了公與私之間的邊界，更無必要進(jìn)行界分。故而，本文的論述將雜糅公、私主體的算法應(yīng)用，僅在少數(shù)情況下進(jìn)行必要的區(qū)分。也正因為如此，本文所談算法權(quán)力的“治理”，主要意指通過算法進(jìn)行治理或算法權(quán)力作為治理手段，區(qū)別于對算法權(quán)力進(jìn)行限制的治理，但本文亦會論及對算法權(quán)力與算法規(guī)避進(jìn)行限制的問題，主要以“規(guī)制”為關(guān)鍵詞，故而在此特別對用語進(jìn)行說明，以免讀者產(chǎn)生混淆。
二、算法規(guī)避的主要策略
算法規(guī)避（evasion of algorithm）是指本應(yīng)受算法權(quán)力治理者通過實施特定行為，最終免受算法權(quán)力的治理。例如，網(wǎng)站根據(jù)搜索引擎排序算法的原理，嵌套符合條件的內(nèi)含隱藏內(nèi)容的頁面，從而達(dá)到即使與搜索內(nèi)容并不相關(guān)，亦可被檢索到并排名靠前的目的。又如，用戶通過總結(jié)社交網(wǎng)絡(luò)內(nèi)容審查算法的規(guī)律，以諧音、洗稿、添加空白內(nèi)容等方式，發(fā)布本應(yīng)被屏蔽的具有政治敏感性、抄襲盜版或低俗色情的內(nèi)容。再如，“網(wǎng)絡(luò)水軍”按照與評分平臺之反刷分算法的博弈經(jīng)驗，通過賬號培育、手工刷分等方式，繼續(xù)堆砌虛假好評或差評。該行為的核心，是受算法權(quán)力治理者在違反算法要求的同時避開算法權(quán)力的后果。要實現(xiàn)這一目的，在經(jīng)驗上主要有以下三種基本策略。
?。ㄒ唬┍苊獬蔀橹卫韺ο?/div>
算法規(guī)避的首要手段是避免成為算法權(quán)力的治理對象，使自己落在算法適用范圍之外，就像在傳統(tǒng)線下場景中的違法犯罪行為人避開監(jiān)控攝像、警察巡邏及逃脫公權(quán)力的可能執(zhí)法那樣。事實上，互聯(lián)網(wǎng)興起之初的“不可規(guī)制性”問題，便是這一策略的極端典型例證。早期的互聯(lián)網(wǎng)架構(gòu)保障了網(wǎng)上行為人的充分匿名，其身份、位置與行為皆不可獲知，故無法對其進(jìn)行規(guī)制，更加不用說采取算法手段。然而，隨著網(wǎng)絡(luò)架構(gòu)從開放走向封閉，“在互聯(lián)網(wǎng)上沒有人知道你是一條狗”的故事已成為歷史，網(wǎng)絡(luò)空間已具備充分的可規(guī)制性，并且已深度向線下延伸，模糊了傳統(tǒng)的線上與線下之別。當(dāng)下，除非選擇極少數(shù)完全不涉及互聯(lián)網(wǎng)的行為乃至生活方式（例如使用現(xiàn)金、傳統(tǒng)的書信），否則，要想徹底避免成為算法權(quán)力的治理對象，極為困難。
但也并非完全不再有可能，平臺選擇即為避免成為算法權(quán)力治理對象的新型有效手段之一。由于不同平臺的發(fā)展階段有別，故而在網(wǎng)絡(luò)空間趨于封閉的整體環(huán)境下，仍然存在新興平臺“非法興起”的可能性，尤其是當(dāng)破壞性創(chuàng)新與跨界競爭發(fā)生時。即使不同平臺的法治水平相當(dāng)，平臺間的數(shù)據(jù)與信息壁壘，仍然能阻斷跨平臺的算法權(quán)力的治理行為，幫助跨平臺的違法違規(guī)行為。因此，平臺間的邊界猶如線上與線下的邊界，將統(tǒng)一的網(wǎng)絡(luò)空間再度分割，使統(tǒng)一的算法適用不再成立。算法規(guī)避者或可利用新興平臺的制度不健全，繼續(xù)發(fā)布低俗抄襲內(nèi)容、販賣假冒偽劣商品；或可利用不同平臺間的信息不對稱與數(shù)據(jù)壁壘，從事跨平臺抄襲、“山寨”行為，一如上述那種選擇拋棄互聯(lián)網(wǎng)的行為與生活方式。
類似地，不同國家法制環(huán)境的差異，同樣可以奠定算法規(guī)避者空間選擇的基礎(chǔ)。某些國家認(rèn)定的低俗色情內(nèi)容，在另一些國家可能被認(rèn)為是性自由與性解放的象征；某些國家認(rèn)定的抄襲內(nèi)容、“山寨”產(chǎn)品，在另一些國家可能被認(rèn)為是合理使用與借鑒。彼此以他國規(guī)則為不合理，對行為人而言就產(chǎn)生了狡兔三窟的可能性。事實上，國際私法上的法律規(guī)避，便是利用不同轄區(qū)法律之差異來實施不為一地法律所認(rèn)可之行為，其典型例子如同性伴侶選擇同性婚姻合法化的地區(qū)結(jié)婚。由于各個國家網(wǎng)絡(luò)主權(quán)建設(shè)的不斷推進(jìn)，區(qū)域化互聯(lián)網(wǎng)或國域網(wǎng)正在形成當(dāng)中。這意味著線上與線下的融合不僅僅是線上治理手段與治理邏輯對線下區(qū)域的整合，反之亦然，意欲規(guī)避算法者得到了又一算法權(quán)力的裂縫。
綜上，避免成為治理對象的本質(zhì)是尋求算法權(quán)力的“法外之地”，或是其他平臺，或是其他國家，從而規(guī)避當(dāng)前平臺與當(dāng)前國家的算法權(quán)力。然而，隨著國內(nèi)法制與國際法制的日趨統(tǒng)一，這一規(guī)避手段正如徹底斷絕互聯(lián)網(wǎng)的行為與生活方式那樣越發(fā)難以持續(xù)。因此，如何在既有算法權(quán)力的治理體系下繼續(xù)規(guī)避算法，就需要或者調(diào)整行為、或者迷惑主體。
?。ǘ┱{(diào)整滿足治理要求
算法規(guī)避的第二類手段是調(diào)整行為以滿足治理要求，使自己雖然在算法適用范圍之內(nèi)，但仍可以隱秘實施算法所欲禁止的行為，就像傳統(tǒng)經(jīng)濟法上的虛假納稅申報及其他虛假信息披露行為，或者傳統(tǒng)民商法上的變相借貸、變相融資、與實質(zhì)內(nèi)容不符的名義合同關(guān)系等“以合法形式掩蓋非法目的”的行為?；ヂ?lián)網(wǎng)的興起，不僅為此類行為調(diào)整提供了輔助工具，例如自動化的洗稿軟件及其他文本轉(zhuǎn)換軟件、媒介轉(zhuǎn)換軟件，而且更使得此類技術(shù)及其影響的規(guī)避行為廣泛普及，大數(shù)定律支配下的用戶生產(chǎn)豐富多樣且更新速度極快，大大提高了算法權(quán)力的治理難度與滯后性，正所謂“道高一尺，魔高一丈”。更具體而言，調(diào)整行為以滿足治理要求，可被進(jìn)一步細(xì)分為如下兩種子類型。
其一是直接改變算法輸入數(shù)據(jù)。用戶在網(wǎng)上活動需要注冊賬號，提供基本的個人信息，例如性別、年齡、位置等，為算法基于前述信息的治理提供基礎(chǔ)；如果謊報此類數(shù)據(jù)，那么就能實現(xiàn)對禁止未成年人瀏覽特定內(nèi)容、向特定性別或地域用戶進(jìn)行推薦等算法之規(guī)避。誠然，網(wǎng)絡(luò)實名制及其罰則的存在，以及通過身份證號、實名手機號與郵箱或大數(shù)據(jù)分析甄別用戶申報信息之真?zhèn)?，已在最大限度上減少了虛假數(shù)據(jù)申報量，但依舊存在前述制度與技術(shù)未能覆蓋的網(wǎng)絡(luò)空間，例如僅僅在瀏覽前要求確認(rèn)年齡或者提供退出信息收集選項的網(wǎng)站。而且，保護個人信息的法律與社會規(guī)范，要求限制前述治理者的信息收集與分析。因此，虛假信息披露仍有可能，可以通過直接改變輸入算法的數(shù)據(jù)，從而對其進(jìn)行規(guī)避。
其二是通過改變行為來間接改變算法輸入數(shù)據(jù)。此類算法規(guī)避最為常見，例如通過諧音、拼音、首字母、拆字、聯(lián)想詞等方式規(guī)避算法對敏感詞匯的篩查；通過詞語替換、語序變更、意譯等方式抄襲文字，或者通過翻轉(zhuǎn)、旋轉(zhuǎn)、裁剪、噪聲、變速和幀率變換等手段改變音視頻，又或者通過將不同類型的素材或不同來源的作品進(jìn)行拼接等方式，規(guī)避算法對版權(quán)侵權(quán)的審查；通過對其他作品尤其是小眾作品的隨意打分來培育賬號，通過手動刷分、以量取勝來控制評論，規(guī)避算法對虛假評分的審查。以上復(fù)雜的規(guī)避，皆屬于廣義的“以合法形式掩蓋非法目的”之行為，以算法的技術(shù)水平為前提，又或者正因為算法對簡單違法違規(guī)行為之禁絕而產(chǎn)生，與之持續(xù)博弈、互為因果。因此，提高技術(shù)水平，只會導(dǎo)致算法規(guī)避的繼續(xù)升級，甚至由于觸及個人自由之邊界而難以為繼，對算法規(guī)避行為的限制有限。
上述調(diào)整行為以滿足治理要求的本質(zhì)，是“以合法形式掩蓋非法目的”，或直接改變輸入數(shù)據(jù)，或通過改變行為來間接改變輸入數(shù)據(jù)。然而，并非所有數(shù)據(jù)與行為都易于改變，又或者如若改變則將使規(guī)避者的本來目的部分地或完全落空，因此需要其他手段在不直接改變核心數(shù)據(jù)與行為的同時依然規(guī)避算法權(quán)力，此即混淆迷惑治理主體這一手段。
?。ㄈ┗煜曰笾卫碇黧w
算法規(guī)避的最終手段是混淆迷惑治理主體，使自己雖然直接從事了算法所禁止的行為，但仍可以蒙混過關(guān)，落在治理主體注意范圍之外。在傳播學(xué)上，這一策略被稱為信息洪流（information flooding），意為通過大量無關(guān)、低質(zhì)或虛假的信息的堆砌，使受影響者喪失對關(guān)鍵問題的注意力?；ヂ?lián)網(wǎng)是實施信息洪流策略的完美工具。相較于過去的電報、電話、廣播、電視等媒介，互聯(lián)網(wǎng)傳播信息的數(shù)量更大、形式更多、速度更快、范圍更廣，而且傳播方式是雙向、多向而非單向、單一的，一對一、一對多與多對多傳播混合，大大降低了信息傳播的成本，增進(jìn)了不同主體間的信息流通與共享，產(chǎn)生了所謂信息爆炸。盡管算法權(quán)力有利于應(yīng)對海量內(nèi)容的治理負(fù)擔(dān)，但在具體個案中，仍然可能被信息洪流欺騙或蒙蔽。
例如，意欲傳播淫穢色情內(nèi)容者，若按法律或平臺規(guī)則要求進(jìn)行打碼、刪截或者改為軟色情創(chuàng)作，則將違背其傳播本意，因此調(diào)整空間有限。但他仍可以將少量的色情內(nèi)容與大量無害或空白的內(nèi)容組合發(fā)布，又或者對色情內(nèi)容進(jìn)行明暗、色調(diào)處理，規(guī)避算法對色情內(nèi)容的審查。又如，意欲傳播盜版抄襲內(nèi)容者，除上述內(nèi)容調(diào)整策略外，還可采用將盜版抄襲內(nèi)容與無關(guān)的內(nèi)容或自己原創(chuàng)的內(nèi)容組合發(fā)布，降低重復(fù)率，規(guī)避算法對版權(quán)侵權(quán)的審查。前述行為雖然不涉及復(fù)雜的行為調(diào)整，對人工審查而言事實上相對簡單低級，但由于算法權(quán)力的剛性與人工審查對海量內(nèi)容的應(yīng)對乏力，故而依然存在廣泛的應(yīng)用空間，并且同樣存在博弈升級現(xiàn)象，體現(xiàn)出“人工智能”治理最為不“智能”的一面。
綜上，混淆迷惑治理主體的本質(zhì)是信息洪流，通過將違法信息與合法信息加以組合來規(guī)避算法審查，相對簡單低級，體現(xiàn)出人工智能權(quán)力缺乏彈性。行文至此，算法規(guī)避的主要策略已總結(jié)完畢，更進(jìn)一步的問題便是：為什么算法規(guī)避者可以避免成為治理對象、調(diào)整行為以滿足治理要求、混淆迷惑治理主體？下一節(jié)將從技術(shù)、規(guī)范與社會這三方面入手進(jìn)行解析。
三、算法規(guī)避的內(nèi)在成因
探究算法規(guī)避的內(nèi)在成因，通?？梢詮闹骺陀^兩方面入手：主觀方面，規(guī)避者的守規(guī)意識薄弱、不積極遵守算法要求；客觀方面，算法之治存在漏洞，故而被規(guī)避者利用。但此種老生常談流于表面，未揭示所謂“算法漏洞”究竟是什么，以及所謂“守規(guī)意識薄弱”到底原因何在。更重要的是，如果有必要假定被治理者為“壞人”，那么就不應(yīng)過分關(guān)注甚至改造其主觀意識，而應(yīng)當(dāng)在客觀的制度建設(shè)與技術(shù)提高方面更多著力，借此改變其行為激勵，使之與算法要求激勵相容。因此，本部分將從技術(shù)、規(guī)范與社會三方面入手，解析算法規(guī)避的形成原因。
?。ㄒ唬┘夹g(shù)剛性的相對性與絕對性
算法規(guī)避在技術(shù)上的表面原因是，正如代碼與架構(gòu)的剛性僅是從相對意義而非絕對意義來講，算法權(quán)力的嚴(yán)格性亦僅是相對于一般人類智能而言，故而更聰明的少數(shù)人可以調(diào)整行為來滿足治理要求，或者混淆迷惑治理主體。例如，防火墻或許能夠阻礙許多人在網(wǎng)上漫游，但少數(shù)人仍能憑借虛擬專用網(wǎng)絡(luò)等技術(shù)手段予以跨越；緩沖帶也許能夠妨礙許多人在現(xiàn)實中超速行車，但少數(shù)人仍能憑借過人的車技不予理會。算法權(quán)力亦然。內(nèi)容審查、版權(quán)執(zhí)法、犯罪預(yù)測等算法對大多數(shù)人與在大多數(shù)情況下有效，并不意味著其無往不利；對別有用心且又技高一籌的“壞人”而言，它們不過是提高了其規(guī)避或者違反算法的成本，迫使其付出更多的努力、采取其他方式來達(dá)成目的，例如更為復(fù)雜的內(nèi)容生產(chǎn)（諧音、洗稿、拼圖等），有針對性地加以規(guī)劃的行動軌跡、個人形象設(shè)計，等等。
誠然，任何技術(shù)及其執(zhí)行的規(guī)范都不可能做到完全實施，能夠?qū)Υ蠖鄶?shù)人的違法違規(guī)行為進(jìn)行阻卻即已實現(xiàn)其治理目標(biāo)，并有利于避免被治理者的反彈，但完美執(zhí)法的無法實現(xiàn)也更深刻地揭示出：算法之治及更一般性技術(shù)治理的剛性，無法從事處理邊際性治理問題時所需的利益衡量。例如，將原文表達(dá)重新組裝，固然能達(dá)到不被著作權(quán)法直接禁止的地步，但根本上還是抄襲了原文思想的洗稿行為，這究竟屬于著作權(quán)的合理使用，還是對著作權(quán)的侵犯？用戶為培育賬號而發(fā)表的評論，究竟是言論自由的正當(dāng)行使，還是違反平臺規(guī)則、有意規(guī)避算法的不正當(dāng)行為？這些問題對人類治理者而言都相當(dāng)棘手，因為其觸及治理權(quán)力與個人自由的邊界，難以劃定非黑即白的行為疆域，而技術(shù)的剛性所追求的正是這樣的劃界，故而產(chǎn)生了極大的不兼容。這正是智能化的算法反而容易被智能化水平不高的手段所簡單規(guī)避的原因所在：剛性的邊界劃定太容易留下可以施展操作的灰色地帶，而裁量的存在反而有威懾的效力遺留。
技術(shù)剛性與利益衡量的不兼容，也阻斷了通過技術(shù)的進(jìn)步來克服這一局限的可能。通過機器學(xué)習(xí)使利益衡量類型化、使其中的規(guī)則明晰化，是算法權(quán)力有益的改進(jìn)方向，也是其對權(quán)力濫用之抑制的承諾所在。但這并不足以取消邊際性治理問題的存在及其對利益衡量的需求：解決舊的問題，明確現(xiàn)有規(guī)范，多阻卻一部分人的規(guī)避與違法，還會產(chǎn)生新的邊際，需要新的衡量，總有人會想方設(shè)法規(guī)避新的規(guī)范。前述洗稿與養(yǎng)號問題的產(chǎn)生，正是因為算法權(quán)力對較為初級的規(guī)避與違法行為進(jìn)行了有效治理，而對這些問題的有效回應(yīng)，也必不會是算法權(quán)力的發(fā)展終點。這正是算法之治及其規(guī)避的上述博弈所揭示的動態(tài)過程，更完美的執(zhí)法引發(fā)更完美的規(guī)避。
?。ǘ┮?guī)則規(guī)范與標(biāo)準(zhǔn)規(guī)范的鴻溝
從法學(xué)理論對“規(guī)則”與“標(biāo)準(zhǔn)”之區(qū)分的角度觀之，上述不兼容的實質(zhì)，是試圖通過算法將標(biāo)準(zhǔn)完全轉(zhuǎn)化為規(guī)則的不可能。規(guī)則具有事前明確的一項或多項具體事實及其未能實現(xiàn)時的規(guī)范后果；標(biāo)準(zhǔn)在事前則僅有諸多與立法目標(biāo)相關(guān)、需要綜合考慮的事實因素，其規(guī)范后果之確定更為復(fù)雜。由此可見，規(guī)則在事前的清晰明確，雖然充分體現(xiàn)了法治的應(yīng)有之義，但它不僅有利于行為主體守法用法，而且也有利于規(guī)避與違法；對滿足形式要件而違背實質(zhì)目的、以合法形式掩蓋非法目的之行為，受限于文義的規(guī)則是無能為力的，除非繼續(xù)通過“解釋”將規(guī)則在事實上又轉(zhuǎn)化為標(biāo)準(zhǔn)。標(biāo)準(zhǔn)的模糊性與事后確定性，雖然不能提供精確的行為指引，但能夠通過自由裁量在具體語境中平衡不同的利益，抑制上述規(guī)避行為，避免規(guī)則過寬或過窄的問題，從而成為規(guī)則治理、法治的必要補充。
算法權(quán)力的追求是更為清晰明確的規(guī)則，使違法行為無所遁形。這也就將規(guī)則的上述利弊都指數(shù)級放大，為執(zhí)法與治理者施加了更多限制，為規(guī)避與違法者提供了更多指導(dǎo)，使雙方權(quán)力關(guān)系發(fā)生轉(zhuǎn)化，大大增強被執(zhí)法與被治理一方的權(quán)力。因此，在規(guī)則力所不逮的適用范圍之外，裁量性的標(biāo)準(zhǔn)仍有其存在的必要與作用。就此而論，機器學(xué)習(xí)頗有機器裁量的色彩，并無明確的算法權(quán)力規(guī)則，而是綜合多種因素決策，似乎不易被規(guī)避，但機器學(xué)習(xí)除黑箱不透明的問題外，其實仍是可以發(fā)現(xiàn)規(guī)律并對其有意加以規(guī)避的，除非其決策完全任意，但這將取消機器學(xué)習(xí)的正當(dāng)性，使之完全無法監(jiān)管。事實上，所有基于標(biāo)準(zhǔn)的決策都是可以總結(jié)規(guī)律的，并且都傾向于使之轉(zhuǎn)化為規(guī)則，司法經(jīng)驗之歸納便是如此，算法不過是促進(jìn)并加速了這一進(jìn)程。這也就使規(guī)則與標(biāo)準(zhǔn)之間的鴻溝問題更為凸顯。
也正因為如此，為增強算法問責(zé)性而采取的算法透明與算法解釋之解決方案，具有將進(jìn)一步增強算法規(guī)避者之博弈能力的不利影響。當(dāng)前并不透明也無解釋的算法權(quán)力，已被意欲規(guī)避者總結(jié)出規(guī)律，如果治理算法完全透明并被解釋到人人都能理解的水平，那么算法規(guī)避的難度將大大降低。算法規(guī)避的現(xiàn)實存在與算法透明的負(fù)外部性，或許提示了算法黑箱并非一個亟待解決的重要問題，畢竟不論運行過程透明與否，算法權(quán)力的治理后果都是現(xiàn)實存在的，而該后果可以成為治理或規(guī)避的起點。然而，這并非等于主張算法問責(zé)毫無必要、倡導(dǎo)“法不可知，則威不可測”，僅是認(rèn)為認(rèn)清算法透明的局限性與副作用，合理定位其在算法問責(zé)中的輔助作用，乃是更為可取的算法治理之道。故而，應(yīng)當(dāng)通過有限度的算法透明來輔助算法監(jiān)管，確保權(quán)力運行的公開透明，但避免對算法規(guī)避者提供過多的信息，防止其以人工學(xué)習(xí)或機器學(xué)習(xí)方式創(chuàng)造更復(fù)雜高級的規(guī)避行為。
隨著技術(shù)的發(fā)展，個性化規(guī)則開始出現(xiàn)，標(biāo)準(zhǔn)與規(guī)則開始融合，但這一趨勢僅僅緩和了效率與公平的矛盾，甚至反倒加劇了個案公平與普遍公平的沖突。這是因為，以技術(shù)手段確定的個案區(qū)分是算法權(quán)力精細(xì)化的極致，可以使每個人在具體場景下如何行為更具指引，但更難橫向或縱向?qū)Ρ炔煌瑘鼍暗牟煌幚硎欠窈侠?、一致，?dǎo)致治理權(quán)力缺乏體系性、統(tǒng)一性。故而，從標(biāo)準(zhǔn)到規(guī)則的鴻溝仍然存在，僅僅是轉(zhuǎn)變?yōu)閭€性化規(guī)則與普遍化規(guī)則的鴻溝，而技術(shù)的精細(xì)化剛性區(qū)分，使這一鴻溝更難通過技術(shù)之外的其他方式予以彌合。這不僅是算法問題的治理所面臨的挑戰(zhàn)，更是未來社會所有問題之治理所共同面臨的挑戰(zhàn)。
（三）多元規(guī)范社會秩序根深蒂固
將技術(shù)及其所執(zhí)行的規(guī)范進(jìn)一步還原至其所源自的社會語境，可以發(fā)現(xiàn)算法規(guī)避的根本原因在于多元規(guī)范社會秩序的根深蒂固?？傆衅渌?guī)范對立于算法權(quán)力所欲實施的規(guī)范，使其影響無法充分發(fā)揮。這對于避免成為治理對象的規(guī)避手段而言尤其如此。由于社會分群與分層的現(xiàn)實存在，多元規(guī)范秩序不可避免，不同平臺、不同國家的規(guī)范分殊僅僅是個中一例。更由于互聯(lián)網(wǎng)對強關(guān)系的增強與弱關(guān)系的增加、表達(dá)渠道的空前豐富，甚至由于信息繭房的不斷加劇，社會分群、分層乃至分裂、極化愈發(fā)嚴(yán)重，統(tǒng)一的規(guī)范共識愈發(fā)稀缺。因此，即使試圖以較為剛性的算法技術(shù)實施包括正式法律在內(nèi)的特定規(guī)范，也會遭遇對立面規(guī)范的強烈沖擊，呈現(xiàn)出明顯的規(guī)范競爭格局。
也正因為如此，算法規(guī)避不必然具有非正當(dāng)性，僅僅是規(guī)避者對不同規(guī)范與不同秩序的選擇差異而已，即使被規(guī)避的算法所執(zhí)行的規(guī)范是法律時亦然。算法規(guī)避現(xiàn)象也不必然是一個有待解決的問題，或者說對此的解決方案不必然是一切向書本上的正式法律或規(guī)范看齊，承認(rèn)規(guī)范多元、允許規(guī)范競爭亦無不可。規(guī)避算法者亦不必然是壞人或法盲，他們不過是有自己的利益與價值偏好，甚至精通算法及其背后的規(guī)范。應(yīng)當(dāng)承認(rèn)，算法所支持的規(guī)范在算法規(guī)避中仍然起作用，是算法規(guī)避的背景、起點與約束條件；沒有前述規(guī)范的存在，算法規(guī)避不會采取特定的形式，正如“在法律的陰影下討價還價”。所以，算法規(guī)避不僅揭示了算法預(yù)期目的與實際效果之差距的存在，而且還體現(xiàn)了多元規(guī)范與多元秩序?qū)π袨橹黧w的多重影響。
更進(jìn)一步來說，在多元規(guī)范與多元秩序的視角下，算法只是影響法律與規(guī)范秩序的一個因素，其本身并沒有改變社會的獨立力量，此為其最關(guān)鍵的局限性。受算法支持的法律與規(guī)范固然效率更高、剛性更強，但強化治理也無法解決根本性的社會問題，無法將對立面的社會規(guī)范完全壓倒。只要社會矛盾仍然存在，規(guī)避乃至違法的行為就不會消失，而只會轉(zhuǎn)變形式、轉(zhuǎn)移陣地，甚至向更極端、更劇烈的形式轉(zhuǎn)化。創(chuàng)新與革新從來都不會停止，也不會被完美執(zhí)法所阻卻，而只會改變其出現(xiàn)的形態(tài)，要求社會付出或高或低的不同代價。
不問準(zhǔn)度、不計后果的算法權(quán)力濫用，乃至算法獨裁，因此變得不可能。試圖將規(guī)避所體現(xiàn)的灰色地帶全部歸為違法違規(guī)，納入算法權(quán)力的作用范圍，從而取消對邊際性治理問題的利益衡量，這是誘惑極大且也危害極大的治理路徑。這樣做不僅可能危害到個人的權(quán)利與自由，而且也將反作用于算法權(quán)力本身，因為過分侵犯其他社會規(guī)范的算法將喪失其正當(dāng)性，需要比日常治理更為巨大的資源投入，而治理效用的產(chǎn)出，則會因為被治理者持續(xù)的抗?fàn)幮袨槎鴤涫芟魅?。例如，為了打擊用戶賬號培育而對評論發(fā)言施加過分的限制，其最終結(jié)果是用戶出走其他平臺；又如，為了打擊洗稿而對著作權(quán)合理使用施加過分的限制，其最終結(jié)果或許不是大眾創(chuàng)造性的完全枯竭，而是整個著作權(quán)保護制度被棄之不用。算法獨裁固然令人害怕，但普遍性的失范狀態(tài)同樣令人恐懼。
綜上，算法規(guī)避之所以存在，是因為技術(shù)的剛性有限，且不匹配處理邊際性治理問題時所需的利益衡量，無法將所有的“標(biāo)準(zhǔn)”轉(zhuǎn)化為“規(guī)則”，解決不了多元規(guī)范秩序背后的根本性社會矛盾。這一規(guī)避既無法通過技術(shù)進(jìn)步予以徹底解決，更可能因為算法透明等監(jiān)管措施的出臺而愈演愈烈。因此，鑒于算法規(guī)避將長期存在，在提出某種針對上述成因的技術(shù)、規(guī)范或社會解決方案之前，就必須先分析算法規(guī)避的后果如何及應(yīng)當(dāng)如何看待這一現(xiàn)象。
四、算法規(guī)避的后果與功能
通常而言，在提出問題、分析問題之后，便應(yīng)當(dāng)進(jìn)入解決問題的階段，探索應(yīng)對算法規(guī)避的有效辦法，但法社會學(xué)的視角并非如此積極實用，毋寧說更為“無情”?；蛟S并非所有問題都存在或應(yīng)當(dāng)存在解決方案，算法規(guī)避作為與算法權(quán)力針鋒相對的一種博弈，簡單的解題思路可能收效甚微，甚至還會引起規(guī)避的繼續(xù)升級。
更重要的是，規(guī)避的后果或許并不如想象的那樣嚴(yán)重，又或者說規(guī)避本身可能也存在法社會學(xué)意義上的一種“功能”，具有現(xiàn)實的合理性，因此不必然是一個問題。算法被規(guī)避了又怎樣？何必在新的平衡尚未可知時破壞現(xiàn)有的平衡？故而，本節(jié)將嘗試更深層地理解算法規(guī)避的后果或功能，為后續(xù)的另一節(jié)中審慎地提出一些具有包容性的應(yīng)對策略奠定基礎(chǔ)。
?。ㄒ唬┧惴ㄒ?guī)避的實際負(fù)面后果
一般來說，首先，算法規(guī)避意味著算法權(quán)力所欲實現(xiàn)的目標(biāo)并未實現(xiàn)或并未全部實現(xiàn)，降低了算法實施的效率，例如內(nèi)容治理算法本欲減少各種違法違規(guī)的內(nèi)容，營造清朗的網(wǎng)絡(luò)空間，但規(guī)避者仍然發(fā)布并傳播了此類內(nèi)容，即導(dǎo)致治理的目標(biāo)落空，可能不得不回到傳統(tǒng)上效率更低的人工審查上來。其次，算法規(guī)避導(dǎo)致一部分人能夠獲得比其他人更多的收益，或者能夠更多避免算法帶來的不利影響，引發(fā)算法實施的不公平，甚至強化社會既存的不平等結(jié)構(gòu)。例如，有能力以選擇平臺或國家來規(guī)避算法者，往往具有更高的知識水平、更強的經(jīng)濟能力，而規(guī)避算法以后，其獲得的信息與資源相比于未規(guī)避者往往又有所提高，導(dǎo)致分化更加劇烈。最后，在算法規(guī)避的過程當(dāng)中，算法權(quán)力與規(guī)避者之間的持續(xù)博弈，可能造成社會資源的系統(tǒng)性浪費，導(dǎo)致社會福利的總體性下降。例如，“網(wǎng)絡(luò)水軍”與評分算法之間的持續(xù)博弈，最終并未顯著提高評分算法的合理性，反而可能因為在反刷分領(lǐng)域的巨大投入，而使得整體的“成本—收益”分析之結(jié)果為負(fù)。
但上述分析只能說明算法規(guī)避具有降低效率、引發(fā)不公、導(dǎo)致社會資源浪費的潛在可能，無法體現(xiàn)負(fù)面后果的實際影響范圍與嚴(yán)重程度。既然即使在算法等技術(shù)權(quán)力的賦能下也沒有任何法律或規(guī)范能夠得到完全執(zhí)行，“書本上的法”與“行動中的法”之間的差距始終存在，不同法律或規(guī)范之間的實效差別，僅僅在于違反的比例與后果的嚴(yán)重程度，那么，究竟有多少人規(guī)避算法、有多少人服從算法，就成為算法權(quán)力是否有效、算法規(guī)避是不是一個需要解決的問題之前提。對此，可以借助威懾曲線這一理論工具予以說明。
所謂威懾曲線，是以執(zhí)法概率或懲罰后果為橫坐標(biāo)，以威懾效果為縱坐標(biāo)，得到正向相關(guān)的一條曲線。其系曲線而非直線的這一本質(zhì)，提示著因果關(guān)系的非線性，而且作為凸曲線而非凹曲線，表明邊際效果是遞減而非遞增的。換句話說，提高執(zhí)法概率或加重懲罰后果能夠帶來的威懾效果越來越少，在達(dá)到一定數(shù)值后甚至趨近于零。該特點在經(jīng)驗上的意義在于：許多人是不受威懾影響的，其固有的偏好無法被威懾所改變，要么是極端的守法者（比如無論如何都不會想象自己殺人越貨的普通人），要么是極端的違法者（比如某些無論如何都不會被懲罰阻卻的恐怖分子、反社會分子）。其背后的原因在于社會規(guī)范、個人內(nèi)心準(zhǔn)則對法律的支持或否定。因此，對威懾問題的討論，需要集中關(guān)注可被威懾之人，通過自變量的調(diào)節(jié)，邊際地改變其行為，否則就會導(dǎo)致執(zhí)法資源的浪費。
由于算法規(guī)避所針對的是借算法權(quán)力實施的法律或規(guī)范，故而同樣可通過上述威懾曲線進(jìn)行分析。又因為不同算法規(guī)避問題對應(yīng)的威懾曲線亦有所不同，所以此處以平臺內(nèi)容治理算法為例進(jìn)行說明，然后對所得出的結(jié)論予以拓展。當(dāng)前互聯(lián)網(wǎng)平臺的內(nèi)容治理已相對完善，相關(guān)的平臺規(guī)則已較為健全，并在算法的協(xié)助下得到了有效執(zhí)行，成功治理了許多網(wǎng)絡(luò)內(nèi)容問題，維持了良好的網(wǎng)絡(luò)內(nèi)容秩序，能夠滿足法律要求與用戶需求，甚至存在平臺算法權(quán)力過于強大、可能被濫用的風(fēng)險。因此，平臺內(nèi)容治理算法相關(guān)的威懾曲線已變得相對平緩。
這一威懾曲線的平緩，在經(jīng)驗上體現(xiàn)為許多人甚至大部分人發(fā)布的網(wǎng)絡(luò)內(nèi)容都平凡無害，并不經(jīng)?？紤]如何最大限度地暢所欲言，因為社會規(guī)范或個人內(nèi)心準(zhǔn)則的約束，導(dǎo)致其不敢甚至從未想過發(fā)表過于越界的內(nèi)容。即使某些低俗內(nèi)容為其所樂見，他們在平臺規(guī)則乃至法律的威懾下，也會更多地選擇調(diào)整自身行為以滿足治理要求的策略，而非明目張膽地通過選擇平臺或采取迷惑混淆的手段來直接實施違法違規(guī)的行為，而這在較為寬松的標(biāo)準(zhǔn)審視下仍使治理目的得以實現(xiàn)，并且平衡了網(wǎng)絡(luò)治理與個人自由。只有少數(shù)別有用心且又技高一籌的“壞人”才會整日思考如何發(fā)表越界的內(nèi)容，而在算法與法律的治理水平不斷提高時，那些仍無論如何都會絞盡腦汁規(guī)避內(nèi)容治理算法者，又是其中的少數(shù)，位于威懾曲線的末端，屬于極端的無法被威懾者。如果將執(zhí)法資源集中于這一末端，那么在“成本—收益”分析視角下可能顯得并不合乎經(jīng)濟理性。故而，過分夸大算法規(guī)避的負(fù)面后果，是不切實際、沒有必要的。
統(tǒng)計數(shù)據(jù)亦能佐證算法規(guī)避在平臺內(nèi)容治理領(lǐng)域的相對少數(shù)地位。以Facebook發(fā)布的透明度報告為例。自2018年以來，違反Facebook關(guān)于成人裸露與性行為規(guī)定的內(nèi)容在平臺總內(nèi)容中的占比，最高時僅有0.14%，亦即1萬條內(nèi)容中僅有約14條違規(guī)，最低時則僅有0.02%。誠然，以Facebook的內(nèi)容總量計，再低的比例也會被放大為巨大的絕對數(shù)量，而且色情內(nèi)容僅僅只是違規(guī)內(nèi)容當(dāng)中的一種，此外還存在許多其他類型的違規(guī)內(nèi)容。但同樣不能忽視平臺的用戶總量與用戶受信息繭房所限而能夠?qū)嶋H接觸到的內(nèi)容，于是，單個用戶遭遇違規(guī)內(nèi)容的概率就很低了。故而，該數(shù)據(jù)也進(jìn)一步支持了上述理論分析與經(jīng)驗觀察。
因此，只要仍然存在相對穩(wěn)定的社會秩序，那么算法規(guī)避對效率、公平與社會資源配置的負(fù)面后果就不會像設(shè)想的那樣嚴(yán)重，大多數(shù)人仍受算法權(quán)力治理，并由于算法的持續(xù)升級而越發(fā)受到控制。更高級的算法規(guī)避產(chǎn)生的另一面，是大量較低級的算法規(guī)避與違法違規(guī)已被阻卻或懲罰，而這正是算法對規(guī)范實施效率的巨大提升。更進(jìn)一步來說，通過信息繭房、信息洪流等認(rèn)知操縱手段，大多數(shù)人不僅在“成本—收益”計算的基礎(chǔ)上選擇不去違反或規(guī)避算法，更可能從一開始就沒有違反或規(guī)避算法的意識或心理選項，而是默認(rèn)算法規(guī)定的合理性，由此實現(xiàn)執(zhí)法與守法的統(tǒng)一。因此，對算法權(quán)力的反思與批判，并不等于支持虛無主義的法律觀與技術(shù)觀。過分放大該問題，不僅沒有必要，而且更可能由于高估了人的主觀能動性而降低了對算法權(quán)力的警惕性，阻礙將防范權(quán)力失控設(shè)置為更緊迫的算法治理議題。
?。ǘ┧惴ㄒ?guī)避的隱性正面功能
更重要的是，算法規(guī)避事實上同樣發(fā)揮著限制算法權(quán)力、對抗算法濫用的功能。當(dāng)前的算法規(guī)制方案各有局限性。也就是說，算法過程的透明，既可能因為技術(shù)過程的復(fù)雜與使用主體的阻礙而缺乏可行性，也可能因為與私人利益、公共利益的沖突而缺乏可欲性；而算法結(jié)果的公平公正、算法所用數(shù)據(jù)的合規(guī)清潔，不足以打消人們對人工智能分析與決策的全部懷疑。因此，適當(dāng)?shù)母倪M(jìn)方案，除了將前述進(jìn)路予以有機結(jié)合外，利用算法規(guī)避這一被治理者在多元規(guī)范秩序視角下的第二方控制，或許亦有助益。例如，如果用戶認(rèn)為內(nèi)容治理算法過于嚴(yán)格，或者覺得自己受到大數(shù)據(jù)“殺熟”，缺乏透明性或公正性，除了選擇向更高層級的權(quán)力主體申訴外，還可以通過前述規(guī)避策略身體力行地主動抵制，發(fā)布算法所不允許的內(nèi)容，阻礙算法目的實現(xiàn)，對權(quán)利進(jìn)行自我救濟。相比于申訴進(jìn)路的結(jié)果不確定與過程緩慢，直接規(guī)避顯然更有效率，也更能引起算法權(quán)力主體的警覺，推動算法權(quán)力的不斷完善。
更一般而言，算法規(guī)避的限權(quán)作用，提示著算法權(quán)力的實施仍然存在縫隙，尚未過分限制個人自由，而這可以緩和被治理者的反彈，有利于維護社會穩(wěn)定。此為算法規(guī)避的更深層次的隱性功能。應(yīng)當(dāng)看到，即使是既有效率又合規(guī)范且滿足過程透明、結(jié)果公正的規(guī)范執(zhí)行，也是對個人自由的阻礙，可能引發(fā)個體對抗。算法權(quán)力可以大大提高規(guī)范執(zhí)行的效率，也因而必然對個人自由產(chǎn)生更大的約束，使人們無法暢所欲言、來去自如，阻礙可能的破壞性創(chuàng)新與改革。然而，算法規(guī)避的存在舒緩了這一緊張關(guān)系。規(guī)范執(zhí)行得不那么有效率（亦即規(guī)范直接效果的降低），在某些情況下反而更有利于間接社會效果的最大化：新權(quán)力的“非法興起”重獲可能，治理與自由的邊界仍然處于健康的流變與對話之中，而非被迫進(jìn)行非此即彼的激烈斗爭。例如，網(wǎng)絡(luò)用戶通過使用諧音、拼音、首字母、拆字、聯(lián)想詞等規(guī)避內(nèi)容審查，表達(dá)、呈現(xiàn)了許多法律法規(guī)未必真正意欲限制、但又因各類原因而未給出明確豁免的內(nèi)容，使原本過寬的內(nèi)容限制條款得以細(xì)化、限縮，將粗疏的法律規(guī)定落實為可操作的、決定具體場景下言說與否的網(wǎng)絡(luò)表達(dá)規(guī)則。
如果算法權(quán)力過分強大，那么甚至即使算法權(quán)力可以通過認(rèn)知操縱促使執(zhí)法與守法相統(tǒng)一，也仍然會存在少數(shù)人醒悟并反彈的可能性，并且反彈將更為劇烈。這是因為，上文所述多元規(guī)范秩序的根深蒂固，并非技術(shù)所能徹底改變。試想一下，若將內(nèi)容治理算法發(fā)展到極致，沒有任何違法違規(guī)或規(guī)避能夠逍遙法外，甚至無從發(fā)聲，則網(wǎng)絡(luò)空間是否將成為一潭死水？非也。少數(shù)人仍將尋找突破架構(gòu)控制的辦法，另起爐灶，開辟新的言論空間，甚至將言論表達(dá)從線上轉(zhuǎn)移至線下，依靠更為原始的方式發(fā)聲引眾，傳播思想。例如，由于版權(quán)制度過于嚴(yán)格，過分保護版權(quán)人利益而阻礙后來作者的創(chuàng)新，曾有人主張建立與版權(quán)（copyright）制度針鋒相對的版權(quán)開放（copyleft）制度。又如，當(dāng)下熱議的元宇宙，事實上源于Facebook試圖擺脫操作系統(tǒng)層面的掣肘，直接觸達(dá)并管理用戶，這也說明了建立一套全新的控制架構(gòu)并非不可能。而且，互聯(lián)網(wǎng)對多元規(guī)范社會秩序的增強，將提供更多替代性的社會空間與社會力量，賦權(quán)并非僅僅針對博弈中的任何一方，且更不利于試圖控制網(wǎng)絡(luò)空間的公共主體，威懾曲線的趨于平緩將更為迅速。
由此可見，包容一定比例的算法規(guī)避，有利于限制算法權(quán)力或調(diào)節(jié)算法權(quán)力的實施效率，適當(dāng)限定其適用范圍，平衡治理與自由，促進(jìn)社會穩(wěn)定與治理的綜合效率，在相對柔性地促使大多數(shù)人不選擇成本較高的突破架構(gòu)阻礙選項時，仍為少數(shù)能力超群者留下規(guī)避的空間，從而避免完美執(zhí)法后果的出現(xiàn)，為個人自由的充分舒展、法律與社會規(guī)范的良性互動，以及可能的改革與創(chuàng)新，奠定必要基礎(chǔ)。
五、算法規(guī)避的分類規(guī)制
承認(rèn)算法權(quán)力的總體有效性乃至算法規(guī)避的隱性正面功能，并不等于主張對算法規(guī)避無所作為、放任自流，否則權(quán)力關(guān)系此消彼長，負(fù)面后果就會變得嚴(yán)重。由于某些算法規(guī)避僅僅利用治理者在信息與資源方面的局限性，并未觸及技術(shù)與規(guī)則的邊界，不涉及難辦的多元規(guī)范競爭問題，對效率、公平與社會福利的損害較突出，對算法權(quán)力限制的支持相對次要，故而應(yīng)當(dāng)通過技術(shù)能力的增強與規(guī)則執(zhí)行的完善進(jìn)行治理。另一些算法規(guī)避雖然確實觸及邊際性利益衡量與多元規(guī)范競爭，其負(fù)面后果與正面功能都相對不確定，甚至收益可能大于成本，但仍然應(yīng)當(dāng)通過非法律與非技術(shù)的柔性方式進(jìn)行治理，并保持與對立面的溝通和相互諒解。這一區(qū)分可被概括為簡單案件與困難案件（或稱難辦案件、復(fù)雜案件）的經(jīng)典二分，二者的區(qū)別在于是否存在明確的規(guī)則可供適用。此外，針對困難案件的社會規(guī)范治理進(jìn)路，不僅有利于避免“困難案件制造壞的法律”，而且也符合對新興互聯(lián)網(wǎng)問題堅持包容審慎治理的原則。
?。ㄒ唬┮?guī)則執(zhí)行的技術(shù)增強
算法規(guī)避策略中的相對簡單者，包括避免成為治理對象中的平臺選擇、調(diào)整滿足治理要求中的虛假申報、簡單的行為調(diào)整、混淆迷惑治理主體。四者皆存在較為明確的規(guī)則可供適用，所需者僅僅是提高規(guī)則的執(zhí)行水平，而技術(shù)對此能夠發(fā)揮最大的作用，并且因此較少存在過于剛性或不夠透明的問題，輔助技術(shù)的人工成本并不高昂。
就平臺選擇而言，“非法興起”盡管是小型新興平臺與大型壟斷平臺競爭的重要手段，但互聯(lián)網(wǎng)早已不是法外之地，任何平臺皆不能逾越法律的底線而為違法違規(guī)行為提供庇護。例如，對于淫穢色情內(nèi)容、假冒偽劣商品，平臺應(yīng)當(dāng)通過包括算法在內(nèi)的各種手段予以阻卻與懲罰。而利用平臺間的數(shù)據(jù)與信息壁壘從事明確的跨平臺違法違規(guī)行為，同樣應(yīng)當(dāng)受到禁止，對此，應(yīng)當(dāng)通過超越平臺的國家層面執(zhí)法或行業(yè)層面自律進(jìn)行規(guī)制，例如部委聯(lián)合組織的“清朗”“凈網(wǎng)”系列行動、中國互聯(lián)網(wǎng)協(xié)會等網(wǎng)絡(luò)社會組織發(fā)起的行業(yè)評議與獎懲等。
就虛假申報而言，隱私與個人信息保護，不能作為以虛假信息披露來規(guī)避法律強制性規(guī)定的理由。一方面，法律雖然限制了個人信息處理者收集、處理、儲存、傳播個人信息的相關(guān)行為，但對此并非完全予以禁止，甚至還要求其為服務(wù)或執(zhí)法所需而收集最小必要的個人信息。另一方面，前臺匿名、后臺實名的架構(gòu)設(shè)置，能夠平衡隱私保護與網(wǎng)絡(luò)治理，而大數(shù)據(jù)分析亦可減少乃至杜絕通過虛假申報來隱瞞必要身份信息的行為。因此，法律與技術(shù)雙管齊下，要求每個人都應(yīng)當(dāng)為其在網(wǎng)絡(luò)空間中的所做所言負(fù)責(zé)。
就簡單的行為調(diào)整而言，由于其本質(zhì)的違法違規(guī)易于識別，故而應(yīng)當(dāng)在區(qū)塊鏈存取證所奠定的信息基礎(chǔ)與網(wǎng)絡(luò)架構(gòu)控制所奠定的執(zhí)行基礎(chǔ)上，不斷提高大數(shù)據(jù)分析、人工智能識別的準(zhǔn)確度，高效認(rèn)定算法規(guī)避導(dǎo)致的違法違規(guī)行為，同時輔以必要的人工審查作為補充，不能因復(fù)雜的行為調(diào)整存在就放棄對簡單者進(jìn)行規(guī)制。并且，由于此類規(guī)避并未觸及規(guī)則邊界，故而黑箱技術(shù)的治理結(jié)果更易受到人類理性的承認(rèn)，算法透明與算法信任方面的問題較輕微，能夠在最大限度發(fā)揮技術(shù)治理準(zhǔn)確高效之優(yōu)勢的同時，減輕其局限性帶來的負(fù)面影響。
就混淆迷惑治理主體而言，由于規(guī)避者從事的亦為直接的違法違規(guī)行為，僅僅利用信息洪流進(jìn)行掩飾，故而同樣不存在正當(dāng)化理由?？梢宰裱笆龅南嗨埔?guī)制方法，通過人工審查輔助與機器學(xué)習(xí)技術(shù)，提高數(shù)據(jù)分析與智能識別的精度，避免人工智能被不智能的簡單處理所蒙蔽。事實上，隨著內(nèi)容治理的不斷發(fā)展，通過與空白內(nèi)容相整合或明暗、色調(diào)變化等處理進(jìn)行迷惑混淆的技巧，已越來越為算法所熟悉，因此迷惑混淆將變得越發(fā)困難，進(jìn)而同樣轉(zhuǎn)入復(fù)雜的行為調(diào)整。而對于此類規(guī)避，技術(shù)與規(guī)則的作用有限，需要更多發(fā)揮社會規(guī)范的作用。
?。ǘ┥鐣?guī)范的治理應(yīng)用
算法規(guī)避策略中的相對困難、難辦、復(fù)雜者，主要是調(diào)整滿足治理要求中的復(fù)雜行為調(diào)整。再次強調(diào)，此處所謂“復(fù)雜”，并不是從單純技術(shù)意義上（例如跨媒介洗稿的各種變換與拼接手段）來講的，而是即使所用技術(shù)簡單或并未使用任何技術(shù)，但觸及邊際性利益衡量與多元規(guī)范競爭，法律性質(zhì)認(rèn)定極為困難，例如規(guī)避敏感詞審查的各種轉(zhuǎn)化方式、軟色情、意譯式洗稿等人類智能尚難裁量、人工智能更難判斷的問題。因此，需要保持規(guī)制寬容，并通過社會規(guī)范進(jìn)行治理，從而更有利于相關(guān)規(guī)制維護政治秩序、保持公序良俗、激勵創(chuàng)作創(chuàng)新等目的之實現(xiàn)。
具體來說，首先，平臺應(yīng)當(dāng)繼續(xù)利用用戶舉報、評分、自我組織與管理等方式，充分發(fā)揮平臺直接治理體制之外的個人與組織的自我治理作用。這不但能夠?qū)⒐姷男畔ⅰ⒅R及其支持的社會規(guī)范有機融入算法之治，有利于邊際性治理問題的利益衡量，而且還能夠強化用戶對算法的認(rèn)同，促進(jìn)其自愿守規(guī)，甚至最終將算法要求內(nèi)化為無意識行為，有利于提高算法治理的正當(dāng)性，降低算法治理的成本。這一規(guī)范執(zhí)行與規(guī)范遵守的高度統(tǒng)一，以及法律、平臺規(guī)則、社會規(guī)范的相互協(xié)調(diào)，正是所謂“網(wǎng)絡(luò)生態(tài)治理”的題中之意。
其次，行業(yè)協(xié)會應(yīng)當(dāng)繼續(xù)完善行業(yè)自律規(guī)范的制定與執(zhí)行。一方面，應(yīng)當(dāng)通過行業(yè)實踐經(jīng)驗的總結(jié)，細(xì)化法律未能明確規(guī)定的各類違規(guī)行為判斷規(guī)則，為算法權(quán)力主體的治理提供指引，減少算法規(guī)避者之自由調(diào)整行為的空間。另一方面，應(yīng)當(dāng)通過行業(yè)評議與獎懲，對違規(guī)行為及相關(guān)的直接與間接責(zé)任者進(jìn)行力度適中的激勵或抑制，從而減少確實損害社會福利的算法規(guī)避行為。但是，不論是自律規(guī)范的制定還是執(zhí)行，都應(yīng)當(dāng)始終保持開放的治理態(tài)度，及時適應(yīng)互聯(lián)網(wǎng)環(huán)境的變化，在實踐中不斷進(jìn)行調(diào)整。
最后，政府應(yīng)當(dāng)繼續(xù)推廣并完善社會信用制度，使之從經(jīng)濟領(lǐng)域向更為廣泛的社會治理領(lǐng)域延伸。就此而言，可以網(wǎng)絡(luò)實名制為基礎(chǔ)，為每個網(wǎng)絡(luò)用戶建立信用檔案，對受到其他用戶舉報、經(jīng)治理者審核確認(rèn)的違法違規(guī)者，根據(jù)其情節(jié)與后果的嚴(yán)重程度進(jìn)行扣分，并根據(jù)低分所處區(qū)間，施以相應(yīng)程度的懲罰。同時，對某些影響較為廣泛、具有公共人物性質(zhì)的用戶，可以考慮設(shè)置公開的用戶評論區(qū)，展示純粹的信用分?jǐn)?shù)無法充分體現(xiàn)的用戶意見，為其他用戶的評價提供充足的信息參考，從而形成良性的市場反饋循環(huán)。
但應(yīng)當(dāng)注意，由于某些平臺選擇、虛假申報、簡單的行為調(diào)整與混淆迷惑治理主體的策略所規(guī)避的算法執(zhí)行的規(guī)范，同樣是有爭議或有問題的法律、平臺規(guī)則或社會規(guī)范，但孰是孰非無法在短時間內(nèi)根據(jù)單方判斷決定，因此亦留有多元規(guī)范競爭、保持規(guī)制寬容的余地。例如，為規(guī)避平臺歧視消費者或盤剝勞動者的算法而選擇其他平臺，又或者為規(guī)避對老人、女性或特定地域用戶的歧視算法而謊報數(shù)據(jù)，以及其他為規(guī)避不合理的規(guī)范及其相關(guān)算法而混淆迷惑或調(diào)整行為。此時需要治理的，往往并非算法規(guī)避，而是被規(guī)避的算法本身；算法規(guī)避作為個人自由之行使，此時具有高度正當(dāng)性，發(fā)揮著上述直接限制算法權(quán)力、對抗算法濫用、促使算法向善的隱性功能。
與之類似，避免成為治理對象中的國家選擇，同樣涉及不同法律規(guī)范之爭，因此難以判斷孰是孰非。算法規(guī)避在此種情況下具有緩和被治理者反彈、維護社會穩(wěn)定的深層隱性功能，例如低俗色情治理中的性自由之爭，或者洗稿抄襲治理中的信息自由之爭。但由于不同法律選擇背后皆有各自國家強制力作為支撐，故而在治理結(jié)果上更接近對簡單低級算法規(guī)避的強化規(guī)制，只是由于爭議較大而始終存在規(guī)避與反規(guī)避的相互博弈。
結(jié)語
本文對算法規(guī)避的研究，始終堅持法社會學(xué)的視角，并非先驗地主張算法規(guī)避有害、應(yīng)當(dāng)受到規(guī)制，而是經(jīng)驗地分析算法規(guī)避的三種策略、多重原因、實際后果與隱性功能，并據(jù)此提出簡要的規(guī)制方案。事實上，這一法社會學(xué)的經(jīng)驗進(jìn)路，適用于所有法學(xué)研究與現(xiàn)實規(guī)制，但在新興領(lǐng)域，特別是互聯(lián)網(wǎng)治理領(lǐng)域，特別值得強調(diào)。新興互聯(lián)網(wǎng)治理問題往往以特殊性為理由或借口，要求另行規(guī)制或不規(guī)制，從而掩蓋其新瓶裝舊酒的本質(zhì)。但正如算法權(quán)力不過是算法對多元規(guī)范的技術(shù)賦能、算法規(guī)避只是用戶權(quán)力對算法權(quán)力的反抗一樣，從經(jīng)驗視角切入，互聯(lián)網(wǎng)新問題的本來面貌即可還原，甚至進(jìn)入法學(xué)教義舊瓶裝新酒的既定套路。因此，在這個意義上講，經(jīng)驗進(jìn)路也成為法教義學(xué)與社科法學(xué)相結(jié)合的最大公約數(shù)，使傳統(tǒng)法學(xué)與其他學(xué)科在具體的觀察與分析中得以溝通與協(xié)調(diào)，進(jìn)而共同提出全面的解決方案。而這也是本文通過算法規(guī)避這個細(xì)小的切口，所欲揭示的更為一般的研究與規(guī)制之發(fā)展道路 。
我要收藏
個贊
評論排行