【ZiDongHua之人文化天下收錄關鍵詞：浙江大學 自動化科技 人工智能 法與自動化 算法 決策  機器學習  信息處理自動化 ChatGPT】

人工智能與自動化在合同中的應用

4月28日，浙江大學國際戰(zhàn)略與法律研究院舉辦系列講座，主題為人工智能與自動化在合同中的應用(The use of artificial intelligence and automation in contracting)。該講座由浙江大學文科資深教授、國際戰(zhàn)略與法律研究院院長王貴國教授主持，演講嘉賓為University of Ferrara的Alberto De Franceschi教授，以及University of Osnabrück的Christoph Busch教授。

王貴國教授說，此講座為浙江大學國際戰(zhàn)略與法律研究院國際前沿問題系列講座的一個專題。國際前沿問題系列講座的目的是為了促進不同地區(qū)學者的交流，為學生提供更多的學習機會。

Christoph Busch教授是歐洲私法和商法教授，奧斯納布呂克大學歐洲法律研究所所長，紐黑文耶魯法學院耶魯信息社會項目的通訊研究員。Alberto De Franceschi是費拉拉大學私法和數(shù)字法教授，魯汶大學數(shù)字法全球教授，浙江大學歐盟數(shù)字法客座教授。兩位教授是歐洲法律研究所(ELI)數(shù)字法律組聯(lián)合主席。

Christoph Busch教授的講座主題為Is EU consumer law ready for the AI chatbot economy?(“歐盟消費者法是否為人工智能聊天機器人經(jīng)濟做好了準備?”)。Busch教授從社會熱議的ChatGPT引入，認為此類聊天機器的廣泛使用將會對歐盟消費者法產(chǎn)生重要的影響，然后從三個方面進行分析，一是聊天機器人經(jīng)濟，二是此類經(jīng)濟將會給歐盟消費者法帶來哪些挑戰(zhàn)，三是分析歐盟法律研究院最近啟動的關于算法合同的項目，該項目旨在分析探索歐盟消費者法需要如何做。

Busch教授將使用聊天機器的消費者分為兩類，一類稱之為增強型消費者，即AI作為決策支持系統(tǒng)，為消費者提供額外信息以幫助消費者作出決策;另一類稱為算法消費者，即消費者將決策完全委托給AI，由AI代替消費者作出決策。Busch教授認為這將給歐盟消費者法帶來相當根本性挑戰(zhàn)，因為歐盟消費者法是以“人”為基礎的，即其前提是消費決定是由人作出的。但在新場景中，隨著算法型消費者和增強型消費者的出現(xiàn)，AI占據(jù)了舞臺中心。如自動駕駛汽車技術以及搜索引擎優(yōu)化方面，AI的出現(xiàn)便為消費者法帶來的新問題。就此，Bush教授討論了其所在的ELI為解決這些新問題正在研究的算法合同項目，方式是通過測試一系列場景來驗證歐盟的立法、指令和法規(guī)在多大程度上為AI做好了準備，嘗試開發(fā)的用于自動合同的分類系統(tǒng)

最后，Busch教授對歐盟消費者法的修改提出了一些建議。首先，歐盟電子商務指令中規(guī)定，成員國應確保其法律制度允許通過電子方式訂立合同，認為若現(xiàn)在將其轉化為聊天機器經(jīng)濟，則有必要聲明成員國應確保其法律制度允許通過算法代理簽訂合同。此外，消費者有權使用人工智能系統(tǒng)簽訂合同，任何直接或間接放棄或限制此權利的合同條款對消費者不具有約束力，即算法合同的非歧視原則。同時，商戶不得以阻止消費者使用AI系統(tǒng)與其訂立合同的方式設計、組織或操作其在線界面，即設計的合規(guī)性或友好型設計，使消費者能夠使用這些新技術。同時，應以2019年加州機器人程序披露和責任法案為藍本，規(guī)定透明度要求，即若企業(yè)或消費者正在使用AI系統(tǒng)，應予以披露，以便對方清楚其在與AI系統(tǒng)進行對話。針對AI系統(tǒng)的弱點，Busch教授認為應該有保護AI系統(tǒng)免受操縱的規(guī)則;交易者不得以可能損害人工智能系統(tǒng)的方式使用其在寫界面的結構、設計、功能或操作方式，使得AI變得難以作出做出自由、自主和知情決策或選擇。最后，Busch教授提及歐盟委員會關于金融服務遠程營銷指令中的第16D.3條，該條款賦予消費者與人進行交談的權利。其認為，該條款是以人為本的，但同時可能會阻礙創(chuàng)新，使企業(yè)規(guī)模化變得更加困難，尤其是對小型初創(chuàng)企業(yè)更是如此。這表明人們有必要繼續(xù)研究自動化的局限性以及授權的限制等問題。

在討論環(huán)節(jié)中，王貴國教授、程樂教授以及同學們就消費者拒絕使用AI的權利、AI錯誤導致的糾紛解決及責任歸屬、數(shù)字化時代的隱私憂慮等問題與Busch教授進行了深入探討。

Alberto De Franceschi教授的講座題目為The use of artificial intelligence and automation in B2B contracting: Global Challenges and the UNCITRAL Draft Principles(“人工智能和自動化在B2B合同中的應用—全球挑戰(zhàn)和貿易法委員會原則草案”)Franceschi教授從自動合同訂立與合同履行間的區(qū)別、合同訂立中使用自動化的案例以及UNCITRAL關于自動化合同的原則草案等討論這一主題。

首先，F(xiàn)ranceschi教授指出，根據(jù)《貿易法委員會電子商務示范法》和《聯(lián)合國關于國際合同使用電子通信公約》(“ECC”)，自動化合同至少包含兩種情況，一是通過EDI在計算機之間發(fā)送的電子通信形成的供應合同，二是自然人在網(wǎng)站下訂單形成的銷售合同。其中，通過EDI或其他互聯(lián)網(wǎng)技術訂立的合同，可以分為由“智能”設備通過連接的在線平臺下訂單的合同，以及互聯(lián)網(wǎng)機器人與網(wǎng)站互動形成的合同。

Franceschi教授在講座中列舉了大量的美國、德國、新加坡、日本等國家法院的判例，對于涉及不同自動化合同存在的各類問題予以分析，包括通過與“智能”揚聲器互動形成的合同、互聯(lián)網(wǎng)與網(wǎng)站交互形成的合同、自然人與自動談判工具交互形成的合同、在算法交易平臺上形成的合同等等;問題包括市場運營商的責任、屏幕抓取/截屏的數(shù)據(jù)侵權、系統(tǒng)輸出的歸因問題等等。這些問題都是國際貿易法委員會制定原則所關注的內容。

Franceschi教授還指出，在實踐中自動化系統(tǒng)主要用于低風險、低變量的交易中，如機器學習和基于認知的問題解決。目前專家們正在開發(fā)在合同中使用AI來執(zhí)行更復雜的決策過程，如談判。實踐中，以確定性方式運行的自動化系統(tǒng)意味著系統(tǒng)在給定相同輸入的情況下生成相同的輸出，而非確定性的自動化系統(tǒng)則具有很大的挑戰(zhàn)。然而，無論使用何種技術，自動化系統(tǒng)或工具并沒有獨立意志或獨特的法人資格，因此歐洲正在廣泛討論自動化系統(tǒng)的輸出可歸因于操作人員。目前一些法域的現(xiàn)行合同法規(guī)則可能不足以解決與自動化系統(tǒng)不可預測性相關的新問題。另一個問題是，某些規(guī)則是否因人為干預而無法應用于自動執(zhí)行的合同。此外，智能設備的使用涉及一系列的參與者，包括個人、計算機程序、操作系統(tǒng)的人員等，因此需要分析系統(tǒng)如何運作以及各方之間存在哪些其他合同安排。例如，與更基礎的機器類比，使用平臺提供服務的框架合同，通常會影響有關責任歸屬的問題。

Franceschi教授認為，了解錯誤的歸屬問題，首先需要了解編程錯誤和第三方干預如何影響自動化訂立和執(zhí)行合同。就責任而言，編程錯誤可能會導致第三方軟件供應商對使用該系統(tǒng)訂立或履行合同的一方承擔責任。因此，確定合同條款，需要確定如何處理“動態(tài)信息”(即可能根據(jù)外部數(shù)據(jù)源定期或連續(xù)變化的信息，例如市場價格)。此外，通過確定性系統(tǒng)簽訂的合同，具有良好的可預測性;而通過非確定性系統(tǒng)訂立的合同，則可能需要額外的規(guī)則來抵消這種系統(tǒng)的不可預測性。Franceschi教授認為，在合同中可根據(jù)透明度、可解釋性和可追溯性的原則制定條款，也可從衡平原則和代理的一般原則中尋找靈感，以界定一方當事人可以拒絕使用自動化系統(tǒng)訂立合同的情形。

最后，F(xiàn)ranceschi教授簡要分析了UNCITRAL工作組關于自動訂立合同的原則草案，共七項原則，即自動化系統(tǒng)的定義、在合同中使用自動化系統(tǒng)、法律承認、責任歸屬、心態(tài)、法律后果以及法律合規(guī)。Franceschi教授指出，目前自動訂立合同中出現(xiàn)的相關問題在UNCITRAL的草案中都有相關的原則，其中討論的焦點在于責任歸屬、有效性、心態(tài)、編程錯誤及第三方干預。

討論環(huán)節(jié)，王貴國教授、程樂教授及同學們就自動化系統(tǒng)輸出的責任歸屬、AI開店中可能存在的消費者欺詐、禁止反言學說在自動化系統(tǒng)歸因中的應用等問題與Franceschi教授進行了深入的探討。

最終，王貴國教授對兩位教授及所有參與本次講座的同學表示了感謝，本次講座圓滿結束。關于本次講座的詳細內容請見附件ppt及會議錄屏。