當(dāng)前，自動(dòng)駕駛發(fā)展迅猛，基于L3—L4級(jí)別自動(dòng)駕駛技術(shù)的商用車及自動(dòng)駕駛開放道路已漸成規(guī)模。但與此同時(shí)，L2級(jí)別自動(dòng)駕駛汽車的事故卻時(shí)有發(fā)生，并面臨著惡劣天氣、臨時(shí)管制、交通路口、路面落物或反光等大量挑戰(zhàn)。要應(yīng)對(duì)全天候全場(chǎng)景，自動(dòng)駕駛?cè)杂休^長(zhǎng)的路要走。人工智能內(nèi)部有著不同的技術(shù)路線，總體上可分為專用人工智能與通用人工智能兩類。二者具有不同的前提假設(shè)和理論依據(jù)，對(duì)相同問題也有不同的解讀和回答，因此需要區(qū)別對(duì)待。在自動(dòng)駕駛領(lǐng)域，專用人工智能路線對(duì)應(yīng)L1—L4級(jí)別，而通用人工智能則對(duì)應(yīng)L5級(jí)別。這里將針對(duì)專用人工智能路線下自動(dòng)駕駛的倫理與責(zé)任問題進(jìn)行討論。

　　專用人工智能框架內(nèi)不存在倫理問題的“技術(shù)解”

　　對(duì)于自動(dòng)駕駛，“擁抱”還是“排斥”——這是個(gè)難題。事實(shí)上，盡管當(dāng)前人們對(duì)自動(dòng)駕駛的諸多憂慮大多“技術(shù)可解”，即能夠通過改進(jìn)技術(shù)方案或強(qiáng)制人工介入的方式進(jìn)行解決。但技術(shù)問題之外的相關(guān)領(lǐng)域卻聚訟不斷，并以倫理為最。2020年8月，國(guó)家標(biāo)準(zhǔn)化管理委員會(huì)、中央網(wǎng)信辦、國(guó)家發(fā)展改革委、科技部、工業(yè)和信息化部五部門聯(lián)合印發(fā)《國(guó)家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》，明確設(shè)立“H安全/倫理”類，意在規(guī)范人工智能服務(wù)對(duì)傳統(tǒng)道德倫理和法律秩序產(chǎn)生的沖擊。

　　關(guān)于專用人工智能路線下自動(dòng)駕駛的倫理問題，目前有關(guān)“電車難題”的討論較為廣泛。一輛疾駛的電車，前方兩條支線，每條支線上都站有數(shù)量不等的無(wú)辜平民，問司機(jī)如何抉擇。這是“電車難題”的經(jīng)典表述方式，后續(xù)又相繼出現(xiàn)了各種變體。而自動(dòng)駕駛在方向選擇矛盾的基礎(chǔ)上又疊加了另一個(gè)兩難之選：高速行駛的自動(dòng)駕駛汽車，避讓行人會(huì)導(dǎo)致主駕身亡，不避讓則會(huì)導(dǎo)致行人死亡。實(shí)際上，自動(dòng)駕駛的“電車難題”背后就是兩個(gè)倫理沖突的算法設(shè)定問題：如果相撞不可避免，犧牲自己還是他人；如果犧牲他人不可避免，犧牲多些還是少些。這二者同時(shí)也是構(gòu)筑倫理學(xué)大廈的兩大基石：主體性及客體價(jià)值。

　　專用人工智能以解決特定領(lǐng)域問題為出發(fā)點(diǎn)，通過技術(shù)迭代漸進(jìn)提升智能化程度。由于技術(shù)路線本身的局限性，專用人工智能能夠解決封閉問題，但對(duì)開放問題卻力有不及。專用人工智能其實(shí)并不能“思考”而只能“計(jì)算”，且“計(jì)算”的模式是由人工直接或間接實(shí)現(xiàn)的。前者對(duì)應(yīng)的是“人工算法”，即由相關(guān)領(lǐng)域?qū)＜抑苯哟_定規(guī)則而定的算法；后者對(duì)應(yīng)的是“數(shù)據(jù)算法”，即規(guī)則不由人工給出而從真實(shí)數(shù)據(jù)中間接提煉獲得。但無(wú)論何種，都無(wú)法確保對(duì)開放問題的涵蓋性足夠廣闊和豐盈。進(jìn)一步說，如果放松限制，使人力和數(shù)據(jù)的豐富程度得到足夠滿足，規(guī)則本身依舊有可能因證據(jù)來源差異而產(chǎn)生內(nèi)部沖突。在不同回答皆有正面與反面證據(jù)的情況下，判別的前提、出發(fā)點(diǎn)不同，結(jié)論也將各異。倫理問題屬于經(jīng)驗(yàn)問題，而經(jīng)驗(yàn)問題并不等同于計(jì)算問題。于是，“電車難題”不可能在專用人工智能框架下直接給出穩(wěn)定的最優(yōu)解。

　　那么，間接的方式是否可行？事實(shí)上，窮舉就是一種典型思路。標(biāo)準(zhǔn)做法是，采集自動(dòng)駕駛的各種環(huán)境條件、司機(jī)和行人的行為與心理特征以及汽車的各種參數(shù)，繼而對(duì)可能空間的組合進(jìn)行窮舉，并根據(jù)“合理”的先驗(yàn)知識(shí)、時(shí)間序列特征對(duì)權(quán)重網(wǎng)絡(luò)模型進(jìn)行調(diào)整。這是目前主流人工智能領(lǐng)域深度學(xué)習(xí)的核心方法。不過，即便自動(dòng)駕駛汽車的硬件設(shè)備足夠先進(jìn)，其計(jì)算能力在某一特定時(shí)刻依舊是相對(duì)不足的。如果離開規(guī)范的自動(dòng)駕駛路段而駛?cè)腴_放路段，窮舉的方式無(wú)法確保在有限時(shí)間內(nèi)總能順利地感知、運(yùn)算并返回結(jié)果。這體現(xiàn)了專用人工智能所謂“感知智能和計(jì)算智能”的根本局限之一——將智能與計(jì)算相等同。

　　退一步而言，即使窮舉總是可執(zhí)行并能夠返回結(jié)果，開放環(huán)境的內(nèi)容仍是不可窮盡的。因此，自動(dòng)駕駛系統(tǒng)對(duì)開放環(huán)境的經(jīng)驗(yàn)準(zhǔn)備也總是相對(duì)不足的。這體現(xiàn)了專用人工智能另一個(gè)根本局限——知識(shí)工程黑洞，即開放環(huán)境的可能空間無(wú)法窮盡，總會(huì)遇到意外的棘手情況。這意味著，程序員無(wú)法將倫理規(guī)范價(jià)值量化后的“道德代碼”完備地置入汽車駕駛軟件。

　　又退一步，假如處于理想世界，窮舉的方法和內(nèi)容都能逐一枚舉，此時(shí)系統(tǒng)的最終決策也會(huì)受到巨大挑戰(zhàn)。在“大算力”“大模型”“大數(shù)據(jù)”的加持下，解釋黑箱的問題仍不可避免。當(dāng)前，自動(dòng)駕駛的技術(shù)路線多基于統(tǒng)計(jì)學(xué)習(xí)，決策依據(jù)更多來自概率而非邏輯模型，決策的信度和效度并不透明，這令自動(dòng)駕駛事故判定難度變得更高。

　　再退一步，即使決策的有效性和解釋不是問題，最優(yōu)化也依舊無(wú)解。因?yàn)?，這會(huì)使系統(tǒng)不可避免地陷入“目標(biāo)悖論”。比如，摩托車騎行者若知道自動(dòng)駕駛汽車會(huì)優(yōu)先保護(hù)生存概率最低者，頭盔之類的安全措施反而會(huì)讓佩戴頭盔的騎行者成為高危的移動(dòng)犧牲者。這可能導(dǎo)致遵規(guī)守紀(jì)的人反而會(huì)面臨更高的事故風(fēng)險(xiǎn)。

　　因此，在專用人工智能的語(yǔ)境下，由于不能總是將倫理沖突轉(zhuǎn)化為合理的經(jīng)濟(jì)等價(jià)式的形式化價(jià)值計(jì)算，所有嵌入“道德律令”的做法無(wú)法永遠(yuǎn)滿足開放條件下自動(dòng)駕駛多重問題的解決。說到底，倫理本質(zhì)上是價(jià)值的“判斷”，而非價(jià)值的“估算”。專用人工智能沒有主體性，無(wú)法自主進(jìn)行價(jià)值判斷。所以，專用人工智能框架內(nèi)不存在倫理沖突“技術(shù)解”的可能性。

　　理清自動(dòng)駕駛倫理問題與責(zé)任問題

　　專用人工智能框架內(nèi)不存在倫理沖突的“技術(shù)解”，是否會(huì)對(duì)自動(dòng)駕駛宣判“死刑”？不僅不會(huì)，還恰好相反。問題的要害在于，理論層面的倫理問題與應(yīng)用層面的責(zé)任問題，這兩個(gè)相關(guān)但不同的問題之間存在隱蔽的混淆。

　　研究表明，自動(dòng)駕駛系統(tǒng)比人類駕駛員具有更高的安全性。這種安全性還體現(xiàn)為規(guī)模的指數(shù)化，即自動(dòng)駕駛越多，交通的整體通暢和安全水平越好。因此，自動(dòng)駕駛出行方式是大勢(shì)所趨，而學(xué)界的焦慮主要來自對(duì)自動(dòng)駕駛事故責(zé)任的認(rèn)定?？紤]到專用人工智能技術(shù)本身的技術(shù)特點(diǎn)，L1—L4級(jí)自動(dòng)駕駛的責(zé)任問題可分類討論。

　　其一，封閉路段。滿足自動(dòng)駕駛的封閉路段，道路服務(wù)商必須能夠提供下述基本服務(wù)：確保路面暢通、無(wú)雜物堆積、標(biāo)記線和指示牌清晰無(wú)誤，為重要地點(diǎn)設(shè)立智能樞紐，提供異常天氣、地質(zhì)災(zāi)害預(yù)警等。如果道路工況不達(dá)標(biāo)，道路服務(wù)商應(yīng)對(duì)自動(dòng)駕駛事故承擔(dān)主要責(zé)任。如果道路工況達(dá)標(biāo)，則應(yīng)檢視自動(dòng)駕駛汽車是否存在硬件或軟件故障，部件有問題則由相關(guān)廠商承擔(dān)責(zé)任，部件整合搭配問題則由整車制造商承擔(dān)責(zé)任。在車輛前行方向若出現(xiàn)橫穿馬路的行人或動(dòng)物，行人違規(guī)則由行人承擔(dān)責(zé)任，穿行者是動(dòng)物則由道路服務(wù)商承擔(dān)責(zé)任。這類似在高速公路上，汽車可以高速行駛的預(yù)設(shè)前提是道路服務(wù)商為車輛提供必要的全程封閉管制，不允許非機(jī)動(dòng)車或行人在高速公路上穿行。此時(shí)，自動(dòng)駕駛汽車駕駛員不承擔(dān)事故責(zé)任。

　　其二，開放路段。在不滿足完全自動(dòng)駕駛條件的開放路段進(jìn)行自動(dòng)駕駛，其行為本身已包含發(fā)生潛在交通危險(xiǎn)的可能性。如果發(fā)生交通事故，可分為以下幾種情況。1.我方和對(duì)方都遵守交通規(guī)則。這種情況應(yīng)進(jìn)行調(diào)查，根據(jù)事故緣由進(jìn)行責(zé)任認(rèn)定，由保險(xiǎn)公司、自動(dòng)駕駛部件或整車制造商、道路規(guī)劃與運(yùn)營(yíng)方、駕駛員等承擔(dān)相應(yīng)責(zé)任。2.我方遵守交通規(guī)則，對(duì)方違反交通規(guī)則。由對(duì)方承擔(dān)主要責(zé)任，由駕駛員承擔(dān)次要責(zé)任。3.我方違反交通規(guī)則，對(duì)方遵守交通規(guī)則。如果因破解系統(tǒng)造成與廠商版本不同，則由駕駛員承擔(dān)全部責(zé)任，否則由自動(dòng)駕駛部件或整車制造商承擔(dān)主要責(zé)任。4.我方和對(duì)方都違反交通規(guī)則。如果因破解系統(tǒng)造成與廠商版本不同，則由駕駛員和對(duì)方共同承擔(dān)責(zé)任，否則由自動(dòng)駕駛部件或整車制造商與對(duì)方共同承擔(dān)責(zé)任。

　　綜上所述，基于專用人工智能技術(shù)的自動(dòng)駕駛系統(tǒng)不存在“機(jī)器道德主體地位”問題，機(jī)器不能作為法律懲戒對(duì)象而必須由責(zé)任人來承擔(dān)責(zé)任后果。在遇到自動(dòng)駕駛事故責(zé)任認(rèn)定問題時(shí)，也并未超越現(xiàn)行法律體系的有效調(diào)控范圍。也就是說，我們可以將自動(dòng)駕駛系統(tǒng)也視為車輛專用系統(tǒng)的一個(gè)基本部分（和輪胎等其他部分不存在本質(zhì)區(qū)別）。若在正常使用情境下出了問題應(yīng)由相應(yīng)產(chǎn)品提供商負(fù)責(zé)；若在超出正常使用范圍或未遵守相關(guān)注意事項(xiàng)的情況下出現(xiàn)問題，責(zé)任則應(yīng)由使用者本人承擔(dān)。

　　最后，從計(jì)算問題、法律問題再回歸到倫理問題。在計(jì)算層面，自動(dòng)駕駛沒有技術(shù)的“倫理解”；在法律層面，自動(dòng)駕駛的實(shí)際應(yīng)用也無(wú)倫理障礙。在專用人工智能框架下，自動(dòng)駕駛的核心特征強(qiáng)調(diào)工具的自動(dòng)化（L1—L4級(jí)別）而非自主化（L5級(jí)別）。工具性意味著其只能確保在既定使用范圍內(nèi)正常工作——這是理解自動(dòng)駕駛合法性和有效性的前提。然而，在倫理層面的“電車難題”及其變種，本質(zhì)上都是在前提為一對(duì)互斥矛盾且前提必須成立的情況下尋求矛盾化解方案。換言之，這是在倫理空間中預(yù)設(shè)無(wú)法突破的矛盾沖突，卻試圖在法律空間內(nèi)用經(jīng)濟(jì)手段尋求倫理解。因此，“電車難題”中的電車司機(jī)在法律上應(yīng)為無(wú)責(zé)的，需要負(fù)責(zé)的是鐵軌上的人或是背后促使其在鐵軌上的人。

　　倫理問題未必都有合理解，有合理解也未必有最優(yōu)解，這反映了開放世界價(jià)值判斷的多元性。多元的價(jià)值判斷，導(dǎo)致很多情況下不存在最優(yōu)解而只有“可行解”甚至“無(wú)奈解”。這意味著在元倫理學(xué)范疇內(nèi)，倫理學(xué)系統(tǒng)的“公理化”理論假設(shè)本身就面臨“非公理化”現(xiàn)實(shí)的無(wú)情挑戰(zhàn)與深刻詰責(zé)。因此，盡管“電車難題”中的電車司機(jī)至今仍不知如何是好，卻并不妨礙電車、汽車、火車、飛機(jī)、輪船等各種交通工具的使用越來越普及、智能化程度越來越高。歸根到底，在專用人工智能框架下，L1—L4級(jí)的自動(dòng)駕駛倫理難題“不足為懼”：倫理難題既非自動(dòng)駕駛所專有，也無(wú)須自動(dòng)駕駛技術(shù)來終結(jié)，更不會(huì)成為其應(yīng)用推廣的阻礙。

　?。ㄗ髡邌挝唬翰澈４髮W(xué)教育科學(xué)學(xué)院、通用人工智能研究所）