當前，自動駕駛發(fā)展迅猛，基于L3—L4級別自動駕駛技術的商用車及自動駕駛開放道路已漸成規(guī)模。但與此同時，L2級別自動駕駛汽車的事故卻時有發(fā)生，并面臨著惡劣天氣、臨時管制、交通路口、路面落物或反光等大量挑戰(zhàn)。要應對全天候全場景，自動駕駛仍有較長的路要走。人工智能內部有著不同的技術路線，總體上可分為專用人工智能與通用人工智能兩類。二者具有不同的前提假設和理論依據，對相同問題也有不同的解讀和回答，因此需要區(qū)別對待。在自動駕駛領域，專用人工智能路線對應L1—L4級別，而通用人工智能則對應L5級別。這里將針對專用人工智能路線下自動駕駛的倫理與責任問題進行討論。

　　專用人工智能框架內不存在倫理問題的“技術解”

　　對于自動駕駛，“擁抱”還是“排斥”——這是個難題。事實上，盡管當前人們對自動駕駛的諸多憂慮大多“技術可解”，即能夠通過改進技術方案或強制人工介入的方式進行解決。但技術問題之外的相關領域卻聚訟不斷，并以倫理為最。2020年8月，國家標準化管理委員會、中央網信辦、國家發(fā)展改革委、科技部、工業(yè)和信息化部五部門聯合印發(fā)《國家新一代人工智能標準體系建設指南》，明確設立“H安全/倫理”類，意在規(guī)范人工智能服務對傳統(tǒng)道德倫理和法律秩序產生的沖擊。

　　關于專用人工智能路線下自動駕駛的倫理問題，目前有關“電車難題”的討論較為廣泛。一輛疾駛的電車，前方兩條支線，每條支線上都站有數量不等的無辜平民，問司機如何抉擇。這是“電車難題”的經典表述方式，后續(xù)又相繼出現了各種變體。而自動駕駛在方向選擇矛盾的基礎上又疊加了另一個兩難之選：高速行駛的自動駕駛汽車，避讓行人會導致主駕身亡，不避讓則會導致行人死亡。實際上，自動駕駛的“電車難題”背后就是兩個倫理沖突的算法設定問題：如果相撞不可避免，犧牲自己還是他人；如果犧牲他人不可避免，犧牲多些還是少些。這二者同時也是構筑倫理學大廈的兩大基石：主體性及客體價值。

　　專用人工智能以解決特定領域問題為出發(fā)點，通過技術迭代漸進提升智能化程度。由于技術路線本身的局限性，專用人工智能能夠解決封閉問題，但對開放問題卻力有不及。專用人工智能其實并不能“思考”而只能“計算”，且“計算”的模式是由人工直接或間接實現的。前者對應的是“人工算法”，即由相關領域專家直接確定規(guī)則而定的算法；后者對應的是“數據算法”，即規(guī)則不由人工給出而從真實數據中間接提煉獲得。但無論何種，都無法確保對開放問題的涵蓋性足夠廣闊和豐盈。進一步說，如果放松限制，使人力和數據的豐富程度得到足夠滿足，規(guī)則本身依舊有可能因證據來源差異而產生內部沖突。在不同回答皆有正面與反面證據的情況下，判別的前提、出發(fā)點不同，結論也將各異。倫理問題屬于經驗問題，而經驗問題并不等同于計算問題。于是，“電車難題”不可能在專用人工智能框架下直接給出穩(wěn)定的最優(yōu)解。

　　那么，間接的方式是否可行？事實上，窮舉就是一種典型思路。標準做法是，采集自動駕駛的各種環(huán)境條件、司機和行人的行為與心理特征以及汽車的各種參數，繼而對可能空間的組合進行窮舉，并根據“合理”的先驗知識、時間序列特征對權重網絡模型進行調整。這是目前主流人工智能領域深度學習的核心方法。不過，即便自動駕駛汽車的硬件設備足夠先進，其計算能力在某一特定時刻依舊是相對不足的。如果離開規(guī)范的自動駕駛路段而駛入開放路段，窮舉的方式無法確保在有限時間內總能順利地感知、運算并返回結果。這體現了專用人工智能所謂“感知智能和計算智能”的根本局限之一——將智能與計算相等同。

　　退一步而言，即使窮舉總是可執(zhí)行并能夠返回結果，開放環(huán)境的內容仍是不可窮盡的。因此，自動駕駛系統(tǒng)對開放環(huán)境的經驗準備也總是相對不足的。這體現了專用人工智能另一個根本局限——知識工程黑洞，即開放環(huán)境的可能空間無法窮盡，總會遇到意外的棘手情況。這意味著，程序員無法將倫理規(guī)范價值量化后的“道德代碼”完備地置入汽車駕駛軟件。

　　又退一步，假如處于理想世界，窮舉的方法和內容都能逐一枚舉，此時系統(tǒng)的最終決策也會受到巨大挑戰(zhàn)。在“大算力”“大模型”“大數據”的加持下，解釋黑箱的問題仍不可避免。當前，自動駕駛的技術路線多基于統(tǒng)計學習，決策依據更多來自概率而非邏輯模型，決策的信度和效度并不透明，這令自動駕駛事故判定難度變得更高。

　　再退一步，即使決策的有效性和解釋不是問題，最優(yōu)化也依舊無解。因為，這會使系統(tǒng)不可避免地陷入“目標悖論”。比如，摩托車騎行者若知道自動駕駛汽車會優(yōu)先保護生存概率最低者，頭盔之類的安全措施反而會讓佩戴頭盔的騎行者成為高危的移動犧牲者。這可能導致遵規(guī)守紀的人反而會面臨更高的事故風險。

　　因此，在專用人工智能的語境下，由于不能總是將倫理沖突轉化為合理的經濟等價式的形式化價值計算，所有嵌入“道德律令”的做法無法永遠滿足開放條件下自動駕駛多重問題的解決。說到底，倫理本質上是價值的“判斷”，而非價值的“估算”。專用人工智能沒有主體性，無法自主進行價值判斷。所以，專用人工智能框架內不存在倫理沖突“技術解”的可能性。

　　理清自動駕駛倫理問題與責任問題

　　專用人工智能框架內不存在倫理沖突的“技術解”，是否會對自動駕駛宣判“死刑”？不僅不會，還恰好相反。問題的要害在于，理論層面的倫理問題與應用層面的責任問題，這兩個相關但不同的問題之間存在隱蔽的混淆。

　　研究表明，自動駕駛系統(tǒng)比人類駕駛員具有更高的安全性。這種安全性還體現為規(guī)模的指數化，即自動駕駛越多，交通的整體通暢和安全水平越好。因此，自動駕駛出行方式是大勢所趨，而學界的焦慮主要來自對自動駕駛事故責任的認定?？紤]到專用人工智能技術本身的技術特點，L1—L4級自動駕駛的責任問題可分類討論。

　　其一，封閉路段。滿足自動駕駛的封閉路段，道路服務商必須能夠提供下述基本服務：確保路面暢通、無雜物堆積、標記線和指示牌清晰無誤，為重要地點設立智能樞紐，提供異常天氣、地質災害預警等。如果道路工況不達標，道路服務商應對自動駕駛事故承擔主要責任。如果道路工況達標，則應檢視自動駕駛汽車是否存在硬件或軟件故障，部件有問題則由相關廠商承擔責任，部件整合搭配問題則由整車制造商承擔責任。在車輛前行方向若出現橫穿馬路的行人或動物，行人違規(guī)則由行人承擔責任，穿行者是動物則由道路服務商承擔責任。這類似在高速公路上，汽車可以高速行駛的預設前提是道路服務商為車輛提供必要的全程封閉管制，不允許非機動車或行人在高速公路上穿行。此時，自動駕駛汽車駕駛員不承擔事故責任。

　　其二，開放路段。在不滿足完全自動駕駛條件的開放路段進行自動駕駛，其行為本身已包含發(fā)生潛在交通危險的可能性。如果發(fā)生交通事故，可分為以下幾種情況。1.我方和對方都遵守交通規(guī)則。這種情況應進行調查，根據事故緣由進行責任認定，由保險公司、自動駕駛部件或整車制造商、道路規(guī)劃與運營方、駕駛員等承擔相應責任。2.我方遵守交通規(guī)則，對方違反交通規(guī)則。由對方承擔主要責任，由駕駛員承擔次要責任。3.我方違反交通規(guī)則，對方遵守交通規(guī)則。如果因破解系統(tǒng)造成與廠商版本不同，則由駕駛員承擔全部責任，否則由自動駕駛部件或整車制造商承擔主要責任。4.我方和對方都違反交通規(guī)則。如果因破解系統(tǒng)造成與廠商版本不同，則由駕駛員和對方共同承擔責任，否則由自動駕駛部件或整車制造商與對方共同承擔責任。

　　綜上所述，基于專用人工智能技術的自動駕駛系統(tǒng)不存在“機器道德主體地位”問題，機器不能作為法律懲戒對象而必須由責任人來承擔責任后果。在遇到自動駕駛事故責任認定問題時，也并未超越現行法律體系的有效調控范圍。也就是說，我們可以將自動駕駛系統(tǒng)也視為車輛專用系統(tǒng)的一個基本部分（和輪胎等其他部分不存在本質區(qū)別）。若在正常使用情境下出了問題應由相應產品提供商負責；若在超出正常使用范圍或未遵守相關注意事項的情況下出現問題，責任則應由使用者本人承擔。

　　最后，從計算問題、法律問題再回歸到倫理問題。在計算層面，自動駕駛沒有技術的“倫理解”；在法律層面，自動駕駛的實際應用也無倫理障礙。在專用人工智能框架下，自動駕駛的核心特征強調工具的自動化（L1—L4級別）而非自主化（L5級別）。工具性意味著其只能確保在既定使用范圍內正常工作——這是理解自動駕駛合法性和有效性的前提。然而，在倫理層面的“電車難題”及其變種，本質上都是在前提為一對互斥矛盾且前提必須成立的情況下尋求矛盾化解方案。換言之，這是在倫理空間中預設無法突破的矛盾沖突，卻試圖在法律空間內用經濟手段尋求倫理解。因此，“電車難題”中的電車司機在法律上應為無責的，需要負責的是鐵軌上的人或是背后促使其在鐵軌上的人。

　　倫理問題未必都有合理解，有合理解也未必有最優(yōu)解，這反映了開放世界價值判斷的多元性。多元的價值判斷，導致很多情況下不存在最優(yōu)解而只有“可行解”甚至“無奈解”。這意味著在元倫理學范疇內，倫理學系統(tǒng)的“公理化”理論假設本身就面臨“非公理化”現實的無情挑戰(zhàn)與深刻詰責。因此，盡管“電車難題”中的電車司機至今仍不知如何是好，卻并不妨礙電車、汽車、火車、飛機、輪船等各種交通工具的使用越來越普及、智能化程度越來越高。歸根到底，在專用人工智能框架下，L1—L4級的自動駕駛倫理難題“不足為懼”：倫理難題既非自動駕駛所專有，也無須自動駕駛技術來終結，更不會成為其應用推廣的阻礙。

　　（作者單位：渤海大學教育科學學院、通用人工智能研究所）