萬字圓桌實(shí)錄:ChatGPT背后的AIGC,將生成怎樣的浪潮?
【ZiDongHua之會(huì)展賽培壇:《AIGC:AI新浪潮之下的趨勢(shì)與展望》專題論壇 、AIGC 、騰訊研究院、 ChatGPT 、人工智能 、對(duì)話機(jī)器人】整個(gè)AIGC,以及未來人工智能技術(shù),一定會(huì)給我們現(xiàn)有的生產(chǎn)工具跟生產(chǎn)力帶來一個(gè)根本性變革。這些變革一定會(huì)引起生產(chǎn)關(guān)系的變化,這可能會(huì)對(duì)人類未來以及社會(huì)產(chǎn)生比較大的影響。
AIGC可能對(duì)于未來數(shù)字原生世界而言是一個(gè)重大的機(jī)遇,同時(shí)也是一個(gè)全新挑戰(zhàn)。相對(duì)于物理世界的數(shù)字化轉(zhuǎn)型來說,未來數(shù)字原生世界很有可能就是元宇宙世界,人類可以憑空創(chuàng)造出很多新應(yīng)用、新業(yè)態(tài)、新商業(yè)模式,而AIGC是不可缺少的一環(huán)。
AIGC主要是帶來了一種內(nèi)容生產(chǎn)自動(dòng)化,那么這種自動(dòng)化實(shí)際上會(huì)徹底改變?nèi)撕蜋C(jī)器的認(rèn)知協(xié)同過程。它真正的挑戰(zhàn)是,AIGC作為一個(gè)內(nèi)容生產(chǎn)或者知識(shí)生產(chǎn)的引擎,我們有沒有在內(nèi)容本身上做好準(zhǔn)備,包括法律和倫理規(guī)則等。
萬字圓桌實(shí)錄:ChatGPT背后的AIGC,將生成怎樣的浪潮?
2022年,從引爆AI作畫領(lǐng)域的DALL-E 2、Stable Diffusion等AI模型,到以ChatGPT為代表的接近人類水平的對(duì)話機(jī)器人,AIGC不斷刷爆網(wǎng)絡(luò),其強(qiáng)大的內(nèi)容生成能力給人們帶來了巨大的震撼。
當(dāng)AIGC成為社會(huì)各界關(guān)注的熱點(diǎn)時(shí),人們不禁發(fā)問,AI會(huì)成為新的造物者嗎?AIGC為什么突然爆發(fā),是否標(biāo)志著AI正迎來下一個(gè)時(shí)代,又會(huì)如何走向?兼具大模型和多模態(tài)模型的AIGC模型是否會(huì)成為新的技術(shù)平臺(tái)?AIGC技術(shù)和應(yīng)用將給經(jīng)濟(jì)社會(huì)帶來哪些影響,不同主體應(yīng)如何看待與應(yīng)對(duì)?
2023年1月9日,騰訊研究院舉辦《AIGC:AI新浪潮之下的趨勢(shì)與展望》專題論壇,具體討論了“AIGC”這一前沿科技趨勢(shì)的技術(shù)現(xiàn)狀和產(chǎn)業(yè)實(shí)踐,發(fā)展機(jī)遇與未來挑戰(zhàn)等問題。我們將會(huì)議實(shí)錄刊發(fā)在這里,供各領(lǐng)域思想者參考。
研討嘉賓:
姚 新
南方科技大學(xué)計(jì)算機(jī)科學(xué)與工程系講席教授、系主任
段偉文
中國(guó)社會(huì)科學(xué)院哲學(xué)所科技哲學(xué)研究室主任
王蘊(yùn)韜
中國(guó)信息通信研究院云計(jì)算與大數(shù)據(jù)研究所副總工程師
吳保元
香港中文大學(xué)(深圳)數(shù)據(jù)科學(xué)學(xué)院副教授
殷 俊
騰訊游戲CROS研發(fā)效能部數(shù)字內(nèi)容技術(shù)中心總監(jiān)
史樹明
騰訊AI Lab自然語(yǔ)言處理中心總監(jiān)、文涌產(chǎn)品負(fù)責(zé)人
主持人:
楊 健
騰訊集團(tuán)副總裁、騰訊研究院總顧問
AIGC的蓄力與爆發(fā)
楊健
(主持人) 如何看待AIGC在2022年下半年這一時(shí)間節(jié)點(diǎn)突然爆發(fā)?AIGC是否代表著AI技術(shù)的下一個(gè)時(shí)代?
姚新:
AIGC的爆發(fā)實(shí)際上是一個(gè)綜合性的成功。AI雖然在內(nèi)容生成方面有很長(zhǎng)的歷史,但過去因?yàn)閿?shù)據(jù)、算力和算法技術(shù)等限制,一直沒有發(fā)展到現(xiàn)在這個(gè)程度。現(xiàn)在大家對(duì)AIGC產(chǎn)生濃厚興趣的一個(gè)重要因素是它超出了人們的預(yù)想,所以大家就覺得這東西特別有意思。但是仍需思考AIGC在技術(shù)上究竟有什么樣的突破。
第一,在技術(shù)上,達(dá)到超出人們預(yù)想的效果相對(duì)比較容易。比如在圖像、對(duì)話,甚至在音樂方面,它可以生成具有某個(gè)作曲家風(fēng)格,但又是不完全一樣的曲子。但是很多人認(rèn)為AIGC可能是一個(gè)通向AGI的有效路徑,其實(shí)是值得慎重思考的。因?yàn)楝F(xiàn)在AIGC生成內(nèi)容是靠著大量的數(shù)據(jù)和算力堆出來的。而人在生成內(nèi)容的時(shí)候,有時(shí)候是通過一個(gè)抽象的過程,比如我看了很多圖像,腦子里面是有個(gè)抽象過程,然后從抽象過程再回到圖像的空間,最后來創(chuàng)造生成一個(gè)圖像。我還不是太清楚現(xiàn)在AIGC有沒有這種抽象的層次在里面。你看了100萬幅貓和狗的圖像,機(jī)器是不會(huì)自己生成一個(gè)概念,如4條腿、有毛等。
第二,未來AIGC進(jìn)一步發(fā)展,涉及到科學(xué)技術(shù)領(lǐng)域,或者真正關(guān)系到國(guó)計(jì)民生的應(yīng)用領(lǐng)域,可能會(huì)有額外的挑戰(zhàn)。因?yàn)锳IGC生成內(nèi)容難以保證保證它生成的內(nèi)容滿足一定約束條件。打一個(gè)比喻,我們現(xiàn)在可以把很多分子送到AI系統(tǒng)里面,它或許給你生成新的分子。從生成分子到生成藥物是可以想象的,但是真正到最后落地,它的距離會(huì)在什么地方?真正要達(dá)到所謂的AGI的距離在什么地方?這是需要我們思考和探索的。
殷?。?/strong>
首先,我跟姚老師的觀點(diǎn)非常一致,無論從廣義的基于人工智能做內(nèi)容生成這件事情,還是比較狹義的做深層次大模型,其實(shí)都是厚積薄發(fā),已經(jīng)有了比較長(zhǎng)的研究歷史。AIGC到今天爆發(fā)是多方面的,一方面的確積累了非常大量的數(shù)據(jù)集,而且是公開高質(zhì)量數(shù)據(jù)集;一方面是一些理論上的突破,比如以擴(kuò)散(Diffusion)模型為代表;還有就是新的計(jì)算硬件,從2020年開始以GBT3為代表,模型堆得足夠大,效果也足夠好,以前可能并沒有這么強(qiáng)的計(jì)算設(shè)備來支持這種規(guī)模的模型訓(xùn)練,即使到現(xiàn)在這個(gè)模型訓(xùn)練成本還是非常高的。幾方面因素疊加,導(dǎo)致大家覺得以前可能比如說生成圖片或者是生成文本是一個(gè)不太現(xiàn)實(shí)的一個(gè)東西,現(xiàn)在好像離我們很近了,我覺得今年AIGC爆發(fā)是這么一個(gè)狀態(tài)。
目前AIGC的發(fā)展跟最早期的深度神經(jīng)網(wǎng)絡(luò)相比,并沒有從范式上產(chǎn)生一個(gè)根本性的變化。我們不能從ChatGPT對(duì)話生成效果好、表現(xiàn)的很智能,就得出它真的是產(chǎn)生了通用智能的結(jié)論,因?yàn)樗⒉荒苷嬲浪约涸谡f什么,只是給人們一種它已經(jīng)理解其所生成內(nèi)容的感覺而已,這跟人類智能還是有一定距離。
我認(rèn)為AI的下一個(gè)時(shí)代,需要往幾個(gè)重要的方向發(fā)展。一方面是它可以自主學(xué)習(xí),它本身的一些推理邏輯要跟我們?nèi)艘粯右山忉尰蛘呖衫斫?,真的能夠做到跨領(lǐng)域等。另一方面就是從產(chǎn)業(yè)落地的角度來看,比如用人工智能的方法去輔助做游戲里面的內(nèi)容生成,但是現(xiàn)在無論是AIGC生成圖片、文本生成3D模型、去生成游戲里面的角色動(dòng)畫,或者是我們用ChatGPT來做游戲劇本或NPC對(duì)話等,其實(shí)離現(xiàn)在游戲的專業(yè)規(guī)范性還是有一定的距離的。
楊健
(主持人)謝謝兩位老師的觀點(diǎn),總的來講就是現(xiàn)在AIGC爆發(fā)可能還是在量變到質(zhì)變的邊緣,很難說它真正的完成了質(zhì)變。它還在過去的范式基礎(chǔ)之上,只是因?yàn)槠渌募夹g(shù)條件進(jìn)步了。但是AIGC到底是不是符合人類智能或者說是將來通用人工智能的真正的內(nèi)在規(guī)律,現(xiàn)在還無法確定,可能還要根據(jù)后續(xù)的發(fā)展才能更好地判斷。
楊健
(主持人)AIGC的技術(shù)現(xiàn)狀和產(chǎn)業(yè)實(shí)踐如何,有哪些代表性的應(yīng)用和方向?
王蘊(yùn)韜:
首先從目前AIGC產(chǎn)業(yè)界的實(shí)踐來看,AIGC的技術(shù)分類按照處理的模態(tài)來看,大概可以分成是文本類、音頻類、圖像視頻類和虛擬空間類等:(1)文本類,主要包括文章生成、文本風(fēng)格轉(zhuǎn)換、問答對(duì)話等生成或者編輯文本內(nèi)容的AIGC技術(shù),典型應(yīng)用包括寫稿機(jī)器人、聊天機(jī)器人等;(2)音頻類,包括了文本轉(zhuǎn)音頻、語(yǔ)音轉(zhuǎn)換,語(yǔ)音屬性編輯等生成或者編輯語(yǔ)音內(nèi)容的,以及音樂合成、場(chǎng)景聲編輯等生成或者編輯的非語(yǔ)音內(nèi)容的,典型應(yīng)用就是智能配音主播、虛擬歌手演唱、自動(dòng)配樂、歌曲生成等;(3)圖像視頻,包括了人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等生成或者編輯圖像、視頻內(nèi)容,圖像生成、圖像增強(qiáng)、圖像修復(fù)等技術(shù)都是相關(guān)聯(lián)的,典型應(yīng)用包括美顏換臉、捏臉、復(fù)刻或者是修改圖像風(fēng)格,AI繪畫等;(4)虛擬空間類。主要包括了三維重建、數(shù)字仿真等生成或者是編輯數(shù)字人物、虛擬場(chǎng)景相關(guān)的,典型應(yīng)用包括元宇宙、數(shù)字孿生、游戲引擎、3D建模、VR等。
從AIGC應(yīng)用來看,目前在提供更加豐富多元、動(dòng)態(tài)、可交互的內(nèi)容有很大優(yōu)勢(shì),在傳媒、電商、影視、娛樂等數(shù)字文化程度比較高、內(nèi)容需求豐富的行業(yè),已經(jīng)取得了一些比較重大的創(chuàng)新發(fā)展。比較具有代表性的包括AIGC+傳媒,主要是在人機(jī)協(xié)同生產(chǎn)來推動(dòng)媒體融合,這其中寫稿機(jī)器人生成一篇深度報(bào)告的時(shí)間,已經(jīng)由最初的30秒縮短到了兩秒以內(nèi);還有AIGC+電商,比較核心的是生成商品3D模型,把它用于商品展示和虛擬試用,提升線上購(gòu)物體驗(yàn)。還有虛擬數(shù)字人打造虛擬主播,賦能直播帶貨;另外一塊就是AIGC+影視,主要是來拓展影視創(chuàng)作空間,提升作品質(zhì)量。目前已經(jīng)有產(chǎn)品在為劇本創(chuàng)作提供新的思路,比如小說選劇本的智能寫作服務(wù),其中包括《你好,李煥英》、《流浪地球》等。還有AIGC賦能影視剪輯、后期制作的升級(jí)服務(wù),包括《厲害了我的國(guó)》、《馬路天使》等多部影視劇都用到了基于AI的圖像處理服務(wù);AIGC+娛樂,主要是趣味性圖像、音視頻生成等。那么同時(shí)目前的話也是有這種開發(fā)這種C端應(yīng)用的這種數(shù)字化身來布局相關(guān)元宇宙的相關(guān)的應(yīng)用案例,這塊可能大家還是見得比較多的。此外,AIGC在醫(yī)療、工業(yè)領(lǐng)域也有一些實(shí)踐,但可能還僅僅是用在虛擬交互方面,對(duì)于深入行業(yè)、覆蓋行業(yè)業(yè)務(wù)邏輯方面,還在探索中。
史樹明:
從整體技術(shù)進(jìn)展來看,AIGC確實(shí)進(jìn)展非常大。5年前,AIGC領(lǐng)域也只有文本生成語(yǔ)音(TTS)被認(rèn)為是可用的。3年前,如果說AI根據(jù)文本來生成圖片,生成的圖片質(zhì)量過關(guān)、相關(guān)度也比較高,人們是難以想象的。但是現(xiàn)在這些都已經(jīng)變成現(xiàn)實(shí)了。此外,以前文本生成大多是基于模板,這種模式的通用性就非常差,只適用于非常狹窄的領(lǐng)域。現(xiàn)在隨著大模型的出現(xiàn),以及語(yǔ)言模型本身也在進(jìn)步,所以AIGC讓人印象深刻。不管是Stable Diffusion,還是ChatGPT,讓人很驚嘆于它們強(qiáng)大的文本理解和內(nèi)容生成能力。
當(dāng)然中國(guó)在AIGC發(fā)展中確實(shí)是還需要再努力。絕大多數(shù)工作都是美國(guó)的少數(shù)研究機(jī)構(gòu)完成的,它們引領(lǐng)了整個(gè)AI技術(shù)的發(fā)展。所以我們也要努力,也要爭(zhēng)取在AI發(fā)展史上能夠有更多的貢獻(xiàn)。
商業(yè)化應(yīng)用方面,目前主要能看到的一個(gè)顯著方向是輔助人來,如AI輔助創(chuàng)作,AIGC充當(dāng)輔助的角色。AIGC如果自己獨(dú)立生成很多圖片不一定有意義。但當(dāng)人有需要的時(shí)候,AIGC可以根據(jù)一些Prompt,也就是輸入一些提示詞及其組合,經(jīng)過不停的測(cè)試、交互之后,最終能夠產(chǎn)生精美的圖片,并應(yīng)用在具體的工作或者生活中。AIGC確實(shí)能夠輔助大多數(shù)很不擅長(zhǎng)畫圖的人去創(chuàng)作。文本生成也是一樣,比如在AIGC的輔助之下,我們進(jìn)行文本續(xù)寫、文本改寫的效率會(huì)更高,它也能夠啟發(fā)我們的思路。因此客觀上AIGC提升了我們這種勞動(dòng)生產(chǎn)效率,工作效率。從商業(yè)化應(yīng)用來看,最直接的就是AI輔助創(chuàng)作,其他方面還需要進(jìn)一步挖掘。當(dāng)然,有人問ChatGPT是不是能夠取代搜索引擎,但是現(xiàn)在看來可能性還不大,它只是可能完成搜索引擎中的一部分功能,但還不能取代。
總結(jié)一下,第一,技術(shù)進(jìn)展非??欤鲱A(yù)期;第二,商業(yè)化有很多的想象空間,但是目前我們似乎還沒有挖掘到最關(guān)鍵的東西。
楊健
(主持人)雖然AIGC還在探索階段,但是我覺得已經(jīng)很讓人心馳神往了。以前學(xué)設(shè)計(jì)、美術(shù)的都是要從素描開始學(xué)起,現(xiàn)在這些技法隨著AI技術(shù)輔助好像變得越來越?jīng)]有用武之地了,所以可能更需要人在創(chuàng)意方面的一些突破,這也是涉及到技術(shù)里面的術(shù)和道的關(guān)系問題。
AIGC價(jià)值引領(lǐng)
楊健
(主持人)我們回歸到價(jià)值層面上來看,AIGC為什么會(huì)這么重要?它到底有什么樣的價(jià)值和意義?它能夠在哪些領(lǐng)域引發(fā)變革,除了物質(zhì)層面,從精神層面價(jià)值層面能夠帶來一些什么樣的更多的沖擊和變化?
段偉文:
我主要從4個(gè)方面來談:
第一,AIGC帶來一種全新的內(nèi)容創(chuàng)作,但是其實(shí)它還應(yīng)該是一種全新的認(rèn)知方式?,F(xiàn)在讓AIGC生成內(nèi)容時(shí),個(gè)人的Idea變得更重要了。
第二,AIGC是一種全新的學(xué)習(xí)和研究工具,因?yàn)樗x予了每個(gè)個(gè)體更高層次的創(chuàng)作能力。比方說最近有爭(zhēng)議的是,很多本科生的論文已經(jīng)可以用AIGC寫出來了,大家認(rèn)為這個(gè)是作弊。其實(shí)我們仔細(xì)去看現(xiàn)在大多數(shù)的本科生論文,它確實(shí)也就是這抄一段那兒抄一段,只不過他會(huì)抄的比較好,他歸納的比較合理。但實(shí)際上如果運(yùn)用AIGC這樣一個(gè)技術(shù),它就能夠讓你比較輕松的完成文獻(xiàn)搜集和處理的工作,提升學(xué)習(xí)效率。在研究工作中,AIGC的應(yīng)用或許能夠常規(guī)化的,成為人機(jī)認(rèn)知的協(xié)同過程中的有利工具。
第三,會(huì)涉及到元宇宙,也就是可能世界的創(chuàng)造。AI繪畫實(shí)際上是把各種可能性都結(jié)合在一塊,類似于克里普克的可能世界理論。那么在以往的時(shí)候,個(gè)人大腦調(diào)用這些可能的數(shù)據(jù)資源的能力是非常有限的。而有了AIGC以后,它就可以完全是按照你的想象來進(jìn)行組合,成為一種可能世界的制造機(jī)器。所以這樣來看,元宇宙的視野就更開闊了,而是我們完全可以把人類所有的精神財(cái)富、思想創(chuàng)造,還有文化遺產(chǎn)等,經(jīng)過組合方式,再加上人的靈感選擇去進(jìn)行創(chuàng)造。
第四,AIGC有一些有意思的應(yīng)用,一個(gè)是可以用來防止孤獨(dú)癥?,F(xiàn)在有很多人社交恐懼,所以他可以搞一個(gè)自己的數(shù)字人,然后自己跟自己聊天。還有一個(gè)藝術(shù)家用她小時(shí)候的日記去訓(xùn)練AI,最后實(shí)現(xiàn)了與小時(shí)候的自己對(duì)話,她就能夠了解她在青少年時(shí)期擔(dān)心憂慮什么,達(dá)到心理治療的作用。因此,我覺得AIGC還有在精神的自我認(rèn)知、自我療愈發(fā)揮作用,甚至最后AIGC它會(huì)成為我們的好伴侶、好陪伴,能夠讓我們通過AI來自助來獲得新生,來產(chǎn)生更大的精神力量。
殷?。?/strong>
我認(rèn)為AIGC對(duì)于整個(gè)包括元宇宙的虛擬內(nèi)容生產(chǎn)來說,它可以把內(nèi)容生產(chǎn)的門檻給降得很低。比如AI生成的太空歌劇院主題的畫作拿了第一名。人們擁有AIGC之后看到一個(gè)新的可能性,是不是以后就變成了大眾創(chuàng)作,只需要有一個(gè)好的Idea就可以去創(chuàng)作了。比如用ChatGPT把一整套劇本按照我的思路演繹出來?;氐皆钪孢@個(gè)話題,以往生產(chǎn)工具跟生產(chǎn)方式可能不能滿足元宇宙的海量?jī)?nèi)容的生產(chǎn)需求。但是現(xiàn)在AIGC讓大家覺得它可能是下一代生產(chǎn)工具。
楊健
(主持人)剛才段老師、殷老師更多的是從人類怎樣去來提升自己、突破自己,利用新技術(shù)來實(shí)現(xiàn)這個(gè)目標(biāo)的過程。但是不免的可能也會(huì)有另外的一面,它有可能對(duì)我們既有的生存方式、生活方式、以及生產(chǎn)方式有比較大的沖擊,我們?cè)趺礃觼硐@些可能的變化和沖突呢?
王蘊(yùn)韜:
我們接觸產(chǎn)業(yè)界比較多一些,我第一次看到AIGC的時(shí)候,腦海中想到的第一個(gè)詞是“超算”。AIGC很有可能會(huì)對(duì)我們目前已有的計(jì)算體系,包括計(jì)算系統(tǒng),會(huì)提出新的挑戰(zhàn)。其實(shí)我們真正在用一套計(jì)算系統(tǒng),去把異構(gòu)的AI系統(tǒng)做一個(gè)很好地并行部署時(shí),會(huì)發(fā)現(xiàn)有很多的計(jì)算裝置、數(shù)據(jù)儲(chǔ)備、軟硬件協(xié)同的不足之處。對(duì)于這些不足之處,可能都是需要我們?nèi)ビ拥倪@么一個(gè)挑戰(zhàn)。
另外從應(yīng)用來看,AIGC對(duì)傳統(tǒng)行業(yè)的最大挑戰(zhàn),是內(nèi)容科技的挑戰(zhàn)。其實(shí)就是整個(gè)內(nèi)容的創(chuàng)造已經(jīng)從平臺(tái)的中心化創(chuàng)造,越來越走向分散式的用戶創(chuàng)造,那么AI技術(shù)在這個(gè)過程中也是越來越起到了一種顛覆性的作用。無論是內(nèi)容生成,還是內(nèi)容傳播、內(nèi)容審核?AI的顛覆性作用是越來越強(qiáng)。
這里其實(shí)一個(gè)最核心的就是元宇宙,它一定是充滿了各種內(nèi)容的試驗(yàn)場(chǎng)。元宇宙與傳統(tǒng)游戲不同的是,元宇宙似乎沒有一個(gè)大家需要實(shí)現(xiàn)或完成的目標(biāo),這就意味著元宇宙來說這個(gè)游戲一定要不停的持續(xù)下去。那么如何才能在元宇宙場(chǎng)景下打造一個(gè)無限持續(xù)的游戲規(guī)則呢?AIGC就會(huì)有一個(gè)非常重要的作用,輔助人類在未來元宇宙的內(nèi)容體系設(shè)計(jì)時(shí),實(shí)現(xiàn)無限的滾動(dòng)下去。
建立可信AIGC
楊健
(主持人)AIGC現(xiàn)在有哪些潛在挑戰(zhàn)?這些挑戰(zhàn)分為兩個(gè)層面,一個(gè)是技術(shù)和產(chǎn)業(yè)層面的難點(diǎn)有哪些,另一個(gè)是它可能會(huì)帶來哪些法律和倫理和社會(huì)方面的問題,我們應(yīng)該怎么樣去應(yīng)對(duì)?
吳保元:
首先,最近ChatGPT很火熱,但是人們也發(fā)現(xiàn)它會(huì)帶來很多的負(fù)面問題。最典型的就是它產(chǎn)生虛假信息、錯(cuò)誤信息,它會(huì)產(chǎn)生一堆看似正確但又是錯(cuò)的內(nèi)容。但是如果對(duì)這些挑戰(zhàn)過于關(guān)注,就會(huì)對(duì)技術(shù)的發(fā)展多多少少產(chǎn)生限制。比如學(xué)術(shù)界在研究Deepfake的時(shí)候,做生成攻擊的需要做倫理影響和技術(shù)潛在風(fēng)險(xiǎn)的聲明,而做防御檢測(cè)則不需要,導(dǎo)致大家更傾向于做防御檢測(cè)方面的研究。但是攻擊技術(shù)往往會(huì)啟發(fā)防御技術(shù)。其次,在數(shù)字經(jīng)濟(jì)中,AIGC可以作為數(shù)據(jù)產(chǎn)生的工具,可以保護(hù)隱私、大幅度降低數(shù)據(jù)采集的成本、創(chuàng)造新的數(shù)據(jù)。總結(jié)來看,AIGC帶來的社會(huì)問題以及它本身面臨挑戰(zhàn),還有它需要更多的應(yīng)用場(chǎng)景去驅(qū)動(dòng)其正面發(fā)展。
段偉文:
AIGC的法律、倫理和社會(huì)問題在很多討論里面已經(jīng)有了,比如在藝術(shù)創(chuàng)作里,已經(jīng)有藝術(shù)家提出來版權(quán)問題。過去在搜索引擎、平臺(tái)經(jīng)濟(jì)時(shí)期,我們實(shí)際上是在把世界變成數(shù)據(jù),即世界數(shù)據(jù)化,相應(yīng)的隱私、倫理法律問題也在不斷深化和治理中。那么,進(jìn)入到AIGC技術(shù)階段后,就是在世界數(shù)據(jù)化的基礎(chǔ)上進(jìn)行生成,也就是二階的世界數(shù)據(jù)化時(shí)代。那么,它的法律和倫理問題,應(yīng)該是跟以前存在不一樣的地方,因此我們需要有一些新的社會(huì)契約和共識(shí),也就是哪些行為我們是可以接受的,哪些行為是不可以接受的。
AIGC生成內(nèi)容如果從知識(shí)生產(chǎn)的一般意義上來講,它生成的內(nèi)容是在世界數(shù)據(jù)化之上,生產(chǎn)的新內(nèi)容。這就好比歐幾里得發(fā)明了歐式幾何,歐式幾何是原來世界上沒有的,世界上原來只有測(cè)量,它是在測(cè)量基礎(chǔ)上發(fā)展而來。那么現(xiàn)在AIGC也是這樣的,它是一種新的認(rèn)知或知識(shí)生產(chǎn)的新形態(tài)。所以在這種新形態(tài)下,我覺得在法律倫理治理方面,要給予AIGC一個(gè)創(chuàng)新的保護(hù)空間。為什么要講創(chuàng)新的保護(hù)空間,它不僅僅是保護(hù)你的經(jīng)濟(jì)利益,而是只有技術(shù)為社會(huì)所接受,而且技術(shù)從一開始就重視倫理法律問題,才能夠行穩(wěn)致遠(yuǎn)。所以監(jiān)管者、管理者和法律倫理的學(xué)者,以及產(chǎn)業(yè)界應(yīng)該是協(xié)同的,一起來構(gòu)建一個(gè)可預(yù)期的治理模式,通過法律和倫理上的探索,能夠讓AIGC有更好的發(fā)展。舉個(gè)例子,現(xiàn)在經(jīng)常說數(shù)據(jù)毒性,它其實(shí)就是現(xiàn)實(shí)生活中的毒性。這有兩面,第一面是通過AIGC能夠暴露出來數(shù)據(jù)毒性,社會(huì)中的一些偏見歧視等,反過來可以凈化我們的社會(huì)生活。但是這種凈化不可能是絕對(duì)的凈化,因?yàn)榻^對(duì)凈化其實(shí)又違背了我們現(xiàn)代人生活的一些最基本的初衷。因?yàn)殛P(guān)于什么東西是干凈的或不干凈的,沒有一個(gè)絕對(duì)的標(biāo)準(zhǔn)。最后還是有一個(gè)大家要共同接受的過程。所以在這種情況下,我們要認(rèn)識(shí)到事物的復(fù)雜性,只有認(rèn)識(shí)到這樣一個(gè)復(fù)雜性,才能夠開拓前進(jìn)。在開拓過程中,我們就能夠知道哪些東西是可以接受的,哪些東西是現(xiàn)在還不能接受的。
在我看來,法律、倫理和社會(huì)問題要納入到AIGC帶來新的認(rèn)知范式背景下,新的認(rèn)知方式對(duì)整個(gè)社會(huì)的法律倫理等方面的動(dòng)態(tài)沖擊,以及我們?nèi)绾蝿?dòng)態(tài)的應(yīng)對(duì)。
楊健
(主持人)很多時(shí)候技術(shù)問題確實(shí)是一個(gè)度的把握問題。AIGC作為新技術(shù),要在法律倫理上給予一定的約束,但是又不能抑制它的發(fā)展。那么,未來怎么樣能夠安全、可信、負(fù)責(zé)任地發(fā)展應(yīng)用AIGC就變得非常的重要,我們?cè)谶@些方面應(yīng)該具備什么條件才能夠把它做好?
姚新:
我覺得從內(nèi)容生成來說,安全、可信和負(fù)責(zé)任發(fā)展的確稍微落后了一點(diǎn)。第一個(gè)問題是,現(xiàn)在大部分?jǐn)?shù)據(jù)來源于互聯(lián)網(wǎng),互聯(lián)網(wǎng)中有不小比例的數(shù)據(jù)是錯(cuò)誤或者是不準(zhǔn)確的,但這些數(shù)據(jù)用于訓(xùn)練AI大模型,然后用AI大模型生成新的數(shù)據(jù),最后這些生成的數(shù)據(jù)也會(huì)被新一代的AI大模型用來訓(xùn)練。所以可以想象,就像做計(jì)算的時(shí)候誤差會(huì)疊加,有一些錯(cuò)誤在大模型中會(huì)被固化,一旦固化了以后就比較難解決。
第二個(gè)問題是,AIGC如果真正有一些工業(yè)應(yīng)用,或者應(yīng)用跟人相關(guān)的比較密切,安全性和可信性問題應(yīng)該在哪一個(gè)階段考慮?不可能是在AI生成以后,再去找辦法來判斷它是否安全、可行。肯定是在整個(gè)模型的建立和訓(xùn)練過程中都要考慮。
第三個(gè)問題是,比如有一些學(xué)生寫畢業(yè)論文也是這里抄一下,那邊抄一點(diǎn),沒準(zhǔn)他最后寫的還不如ChatGPT,那么為啥不讓他用這個(gè)工具?這里有一個(gè)比較深層次的問題。教育應(yīng)該教學(xué)生什么?應(yīng)該怎么教學(xué)生?這是挺重要的問題。因?yàn)橐蕾嚹骋粋€(gè)AI大模型去生成知識(shí),會(huì)不會(huì)損失產(chǎn)生知識(shí)的多樣性,假如失去了產(chǎn)生知識(shí)的多樣性,會(huì)對(duì)我這個(gè)社會(huì)有什么影響?這都是AIGC發(fā)展之初應(yīng)該考慮的,否則就有可能走推薦系統(tǒng)老路,好像咱們的世界視野被一個(gè)個(gè)推薦系統(tǒng)封閉了,將來會(huì)不會(huì)被一個(gè)大模型給封閉住。
楊健
(主持人)謝謝姚老師。姚老師提的三個(gè)問題都是非常重要的。首先是數(shù)據(jù)源頭污染的問題,這個(gè)問題進(jìn)入到整個(gè)內(nèi)容基因里是非??膳碌?第二是對(duì)技術(shù)的干預(yù)到底是在什么樣的階段,要以一個(gè)什么樣的度來把握;第三是AI大模型會(huì)不會(huì)從人類助手變成人類的一個(gè)桎梏,成為約束人類的牢籠。
吳保元:
我從自身研究的可信AI領(lǐng)域來探討一下。可信AI的定義已經(jīng)很明確了,魯棒性、公平性、隱私和可解釋性等。然而這些僅限于此前判別式、決策式AI,AIGC的相關(guān)研究還比較少。第一,如同姚老師所言,AIGC的安全問題更可能是在源頭上制造的,危害可能更大。所以針對(duì)AIGC的可信問題,除了以前的老問題,還應(yīng)該關(guān)注新的挑戰(zhàn),比如版權(quán)問題、責(zé)任追溯問題等。因此,需要先把它的問題定義清楚,后面技術(shù)解決方案可以進(jìn)一步探討。
第二,AIGC有個(gè)特點(diǎn)是它的危害性好像不那么直接,即AIGC的衍生問題,作為技術(shù)人員而言,他可能想不到那么清楚,所以AIGC治理需要更多的交叉學(xué)科更早的參與進(jìn)來,共同把問題定義清楚,從源頭上去管控它,這樣有助于AIGC健康發(fā)展。
AIGC 未來可期
楊健
(主持人)對(duì)AIGC和人工智能領(lǐng)域的未來發(fā)展有何期待和展望?它對(duì)人類社會(huì)的未來影響可能會(huì)是怎樣的?
殷?。?/strong>
整個(gè)AIGC,以及未來人工智能技術(shù),一定會(huì)給我們現(xiàn)有的生產(chǎn)工具跟生產(chǎn)力帶來一個(gè)根本性變革。這些變革一定會(huì)引起生產(chǎn)關(guān)系的變化,這可能會(huì)對(duì)人類未來以及社會(huì)產(chǎn)生比較大的影響。
王蘊(yùn)韜:
AIGC可能對(duì)于未來數(shù)字原生世界而言是一個(gè)重大的機(jī)遇,同時(shí)也是一個(gè)全新挑戰(zhàn)。相對(duì)于物理世界的數(shù)字化轉(zhuǎn)型來說,未來數(shù)字原生世界很有可能就是元宇宙世界,人類可以憑空創(chuàng)造出很多新應(yīng)用、新業(yè)態(tài)、新商業(yè)模式,而AIGC是不可缺少的一環(huán)。
那么它也存在著很多挑戰(zhàn),包括對(duì)傳統(tǒng)經(jīng)濟(jì)理論的挑戰(zhàn),也就是AIGC可能改變未來人類生產(chǎn)生活的成本結(jié)構(gòu),未來智慧能力的成本會(huì)下降很多,也就是對(duì)智慧使用的邊際收益會(huì)增長(zhǎng)很多,因此人類會(huì)面臨一個(gè)更加復(fù)雜、更加多元的新世界。
姚新:
第一,應(yīng)該擁抱AIGC技術(shù),這是毫無疑問的。第二,在擁抱AIGC的過程中一定要明確它潛在的挑戰(zhàn),當(dāng)然也不是一定要解決這些挑戰(zhàn)才可以推廣AIGC應(yīng)用。
史樹明:
第一,我相信AIGC和整個(gè)人工智能技術(shù)還會(huì)持續(xù)高速發(fā)展;第二,我很期待這種發(fā)展會(huì)有利于提升整個(gè)人類的生活品質(zhì),讓我們的生活更加舒適便捷。
段偉文:
AIGC主要是帶來了一種內(nèi)容生產(chǎn)自動(dòng)化,那么這種自動(dòng)化實(shí)際上會(huì)徹底改變?nèi)撕蜋C(jī)器的認(rèn)知協(xié)同過程。它真正的挑戰(zhàn)是,AIGC作為一個(gè)內(nèi)容生產(chǎn)或者知識(shí)生產(chǎn)的引擎,我們有沒有在內(nèi)容本身上做好準(zhǔn)備,包括法律和倫理規(guī)則等。
吳保元:
AIGC對(duì)于人工智能而言,應(yīng)該是又一波熱潮。這里也有一個(gè)潛在影響,就是目前人工智能教學(xué)和教材需要大幅度的更新修改。以往我們的教學(xué)重點(diǎn)是在判別式網(wǎng)絡(luò),但現(xiàn)在可能需要增加生成式AI方面的內(nèi)容。
楊健
(主持人)感謝各位嘉賓的精彩分享!可以說我們正是在經(jīng)歷著這么一場(chǎng)AIGC引領(lǐng)的生成大浪潮,它不只是科技行業(yè)的進(jìn)展,也是整個(gè)社會(huì)都要面對(duì)的一個(gè)趨勢(shì),我們要用更加開放的心態(tài)去認(rèn)知它,用樂觀而且謹(jǐn)慎的態(tài)度去接受它,可能這樣才能夠看清,并且受益于這個(gè)浪潮。
微信聯(lián)盟:騰訊研究院微信群、ChatGPT微信群、人工智能微信群、對(duì)話機(jī)器人微信群、元宇宙微信群、數(shù)字孿生微信群,各細(xì)分行業(yè)微信群:點(diǎn)擊這里進(jìn)入。
鴻達(dá)安視:水文水利在線監(jiān)測(cè)儀器、智慧農(nóng)業(yè)在線監(jiān)測(cè)儀器 金葉儀器: 氣體/顆粒物/煙塵在線監(jiān)測(cè)解決方案
西凱昂:SMC氣動(dòng)元件、力士樂液壓元件、倍加福光電產(chǎn)品等 山東諾方: 顆粒物傳感器、粉塵濃度傳感器
深圳金瑞銘:RFID射頻識(shí)別、智能傳感器等物聯(lián)網(wǎng)解決方案 北京英諾艾智: 容錯(cuò)服務(wù)器、邊緣計(jì)算解決方案
評(píng)論排行