人文化天下

E出版:《人工智能法案》草案獲得批準(zhǔn)，對出版業(yè)意味著什么？

時間：2023-06-26 10:53:36 發(fā)布：自動化網(wǎng) 來源： E出版第一對焦：人工智能

【ZiDongHua 之人文化天下收錄關(guān)鍵詞：人工智能人工智能法案機(jī)器人歐盟 ChatGPT 出版業(yè) 】

《人工智能法案》草案獲得批準(zhǔn)，對出版業(yè)意味著什么?

近年來，人工智能在為社會發(fā)展帶來強(qiáng)大驅(qū)動力的同時也帶來了諸多潛在的風(fēng)險。鑒于此，歐盟公布了相關(guān)法案《人工智能法案》(Artificial Intelligence Act)。該法案將對有潛在使用風(fēng)險的AI技術(shù)施加新的限制。它將嚴(yán)格限制面部識別軟件的使用，同時要求聊天機(jī)器人人工智能系統(tǒng)(如ChatGPT)的制造商披露更多用于創(chuàng)建程序的數(shù)據(jù)。

在 6 月 14 日的關(guān)鍵投票中，歐盟的主要立法機(jī)構(gòu)歐洲議會(European Parliament)以 499 票贊成、28 票反對、93 票棄權(quán)的結(jié)果通過了《人工智能法案》草案。該法案遠(yuǎn)未成為法律，但它可能是全球首批正式針對AI技術(shù)的規(guī)則之一。那么，出版商對該法案的態(tài)度如何?該法案對出版業(yè)又意味著什么呢?

1

草案的批準(zhǔn)受到出版商的歡迎

根據(jù) 6 月 14 日該法案的最新版本，該法案中與出版業(yè)密切相關(guān)的內(nèi)容主要有兩點(diǎn)。其一，該法案將要求人工智能聊天機(jī)器人的開發(fā)者公布所有用于訓(xùn)練它們的科學(xué)家、音樂家、插畫家、攝影師和記者的作品。他們還必須證明他們?yōu)橛?xùn)練機(jī)器所做的一切都符合法律規(guī)定。如果他們不這樣做，他們可能會被要求立即刪除應(yīng)用程序，或者被罰款其收入的 7 %。其二，生成人工智能將面臨新的透明度要求。在該法案規(guī)定的義務(wù)中，基于ChatGPT等模型的生成式人工智能系統(tǒng)必須保證其透明度(披露內(nèi)容是人工智能生成的，區(qū)分所謂的深度虛假圖像與真實(shí)圖像)，并確保防止生成非法內(nèi)容;培訓(xùn)中使用的受版權(quán)保護(hù)數(shù)據(jù)的詳細(xì)摘要也必須公開，權(quán)利持有人可根據(jù) 2019 年《數(shù)字化單一市場版權(quán)指令》(DSM Directive)選擇拒絕文本和數(shù)據(jù)挖掘的可能性。

該法案草案獲得批準(zhǔn)后，歐洲出版商聯(lián)合會在 6 月 14 日于布魯塞爾發(fā)表了一份聲明，對歐洲議會批準(zhǔn)「人工智能」法案表示歡迎。

出版商聯(lián)合會表示，「特別歡迎歐洲議會關(guān)于解決日益嚴(yán)重的生成式人工智能問題的決定，例如ChatGPT，該問題在過去幾個月獲得了極大關(guān)注?！?/p>

出版商聯(lián)合會在聲明中寫道:「雖然人工智能提供了巨大的機(jī)會，但它也引發(fā)了廣泛的擔(dān)憂，特別是在版權(quán)和透明度領(lǐng)域?！度斯ぶ悄芊ò浮返耐ㄟ^標(biāo)志著世界上首次嘗試為人工智能制定專門的規(guī)則，以確保這項(xiàng)技術(shù)的發(fā)展不會損害社會?！?/p>

2

為何出版業(yè)支持該草案的通過

生成式人工智能是一個黑箱，即使權(quán)利人行使了選擇退出的權(quán)利，他們也不能知道自己的作品是否被未經(jīng)授權(quán)使用。由于人工智能生成的內(nèi)容模仿作者的風(fēng)格，作者的權(quán)利和未來的作品也面臨著風(fēng)險。而且，消費(fèi)者可能會被誤導(dǎo)，認(rèn)為人工智能生成的內(nèi)容是真正來自人類作者的創(chuàng)造性作品?；诖?，出版商聯(lián)合會表示，「議會認(rèn)識到問題的嚴(yán)重性，規(guī)定了生成式人工智能的具體義務(wù)，并強(qiáng)調(diào)了尊重版權(quán)的要求?！?/p>

出版業(yè)對該法案草案的通過表示歡迎，概括而言是期望該法案將來能對人工智能產(chǎn)生有效的監(jiān)管效果以緩解由人工智能帶來的風(fēng)險問題。具體原因主要有兩點(diǎn)。

第一，生成式人工智能的開發(fā)者使用大量的內(nèi)容(包括受版權(quán)保護(hù)的書籍和文章)來訓(xùn)練他們的應(yīng)用程序，并允許它們生成「新」內(nèi)容。用于培訓(xùn)的受版權(quán)保護(hù)的內(nèi)容經(jīng)常在不知情或未經(jīng)其權(quán)利人同意的情況下被訪問和使用，甚至是通過非法網(wǎng)站獲取。該法案對數(shù)據(jù)透明度的要求或許首先能從數(shù)據(jù)源頭上防止人工智能生成非法內(nèi)容。這是一個積極的第一步，因?yàn)檫M(jìn)一步使訓(xùn)練數(shù)據(jù)集更加透明是非常必要的。

第二，該法案有望進(jìn)一步幫助緩解生成式人工智能的侵權(quán)問題。一方面該法案若能落實(shí)或許能促使生成人工智能系統(tǒng)的制造商制定保障措施，以防止侵權(quán)行為的發(fā)生。另一方面該法案中罰款的相關(guān)規(guī)定，或許會對侵權(quán)人或生成式人工智能的開發(fā)者起到一定的震懾作用，尤其對于科技巨頭來說，因違反規(guī)定而受到的處罰金額可能高達(dá)數(shù)億歐元。

3

法案落地道阻且長，但出版業(yè)不失希望

此次關(guān)于該法案草案的投票，只是歐盟通過該法律漫長過程中的一步。在立法之前，歐洲議會議員將與歐盟國家一起制定細(xì)節(jié)。該法案的最終版本預(yù)計(jì)要在 2023 年晚些時候才能通過。

該法案草案的通過顯示了歐盟在人工智能立法方面走在了世界的前沿。自 2021 年歐盟公布《人工智能法案》，這個由 27 個國家組成的集合體就這個話題進(jìn)行了長達(dá)兩年多的辯論，在去年ChatGPT發(fā)布后，這個問題變得更加緊迫，它加劇了人們對這項(xiàng)技術(shù)對社會的潛在影響的擔(dān)憂。

各地都在試圖對人工智能這一項(xiàng)不斷發(fā)展的技術(shù)施加控制，這項(xiàng)技術(shù)甚至讓一些最早的創(chuàng)造者感到擔(dān)憂。例如，在國內(nèi)，為促成生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，國家互聯(lián)網(wǎng)辦公室起草了《生成式人工智能服務(wù)管理辦法(征求意見稿)》，其中包括對生成式人工智能的訓(xùn)練數(shù)據(jù)、內(nèi)容等方面的規(guī)定;在美國，白宮發(fā)布了一些政策構(gòu)想，其中包括在人工智能系統(tǒng)公開之前對其進(jìn)行測試的規(guī)定，以及保護(hù)隱私權(quán)的規(guī)定。

目前還不清楚對人工智能的監(jiān)管能有多少成效。有跡象表明，這項(xiàng)技術(shù)的新能力養(yǎng)成的速度似乎快于立法者能夠解決的速度，歐盟法律的早期版本并沒有對ChatGPT等所謂的生成式人工智能系統(tǒng)給予太多關(guān)注，尤其是關(guān)于ChatGPT可以根據(jù)提示生成文本、圖像和視頻方面。

艾達(dá)·洛芙萊斯研究所(Ada Lovelace Institute，該研究所位于倫敦，致力于推動人工智能立法)的代理主任Francine Bennett說，歐盟的提議是一個「重要的里程碑」。

發(fā)展迅速、可快速再利用的技術(shù)當(dāng)然很難監(jiān)管，就連開發(fā)這種技術(shù)的公司也不完全清楚事情會如何發(fā)展。但對我們所有人來說，在完全沒有監(jiān)管的情況下繼續(xù)運(yùn)營肯定會更糟糕。對于出版業(yè)而言也是如此，因此出版業(yè)也許不會失去人工智能受到監(jiān)管的希望，正如出版商聯(lián)合會主席Ricardo Franco Levi所說:「今天，歐洲議會決定直面生成人工智能的挑戰(zhàn)，為我們指明了方向。現(xiàn)在，我們呼吁聯(lián)合議員在三方談判中展現(xiàn)雄心，以防止任何「數(shù)據(jù)清洗」的風(fēng)險。生成式人工智能的提供者必須允許訪問他們用于培訓(xùn)的書籍和文章的詳細(xì)列表及其來源。如果沒有有意義的透明度，我們的權(quán)利將變成一紙空談，這只會給大型科技公司帶來好處，同時還會損害文化多樣性和整個社會?！挂虼耍绻邢嚓P(guān)法律能夠?qū)θ斯ぶ悄苓M(jìn)行有效的監(jiān)管，例如控制人工智能對版權(quán)可能產(chǎn)生的風(fēng)險，也許更能為出版業(yè)提供良好的發(fā)展環(huán)境。

人工智能深刻而深遠(yuǎn)的變革潛力是劃時代的，其正在影響、改變每個人的生活乃至包括出版業(yè)在內(nèi)各行各業(yè)的發(fā)展，而發(fā)揮人工智能的良性作用的關(guān)鍵在于以正確的方式使用這項(xiàng)技術(shù)，并需要在人類和人工智能之間建立新的、道德的平衡。