【ZiDongHua 之人文化天下收錄關(guān)鍵詞：科技倫理  自動(dòng)化科技 人工智能  ChatGPT 元宇宙 】

美擬加強(qiáng)立法和執(zhí)法規(guī)范AI發(fā)展

OpenAI公司開發(fā)的聊天機(jī)器人ChatGPT迅速崛起，吸引大批擁躉的同時(shí)，也引來了包括谷歌公司的巴德聊天機(jī)器人在內(nèi)的多個(gè)競爭對(duì)手。圖為公共教育學(xué)校媒體服務(wù)組織召開的關(guān)于聊天機(jī)器人ChatGPT的研討會(huì)現(xiàn)場(資料照片)。

圖片來源：視覺中國

【今日視點(diǎn)】

◎本報(bào)記者 劉 霞

美國《國會(huì)山》網(wǎng)站在近日的報(bào)道中指出，ChatGPT這類生成式人工智能(AI)的爆炸式增長，以及由此帶來的一些諸如虛假信息泛濫、偏見、改變勞動(dòng)力結(jié)構(gòu)等混亂，引發(fā)了美國聯(lián)邦政府的擔(dān)憂，立法者和監(jiān)管機(jī)構(gòu)希望采取切實(shí)行動(dòng)，消弭這些擔(dān)憂。

引發(fā)兩大關(guān)鍵問題

《國會(huì)山》網(wǎng)站報(bào)道稱，AI的發(fā)展可能會(huì)引發(fā)兩大關(guān)鍵問題。

一方面，最近生成式AI工具的興起帶來了與虛假信息傳播有關(guān)的問題。另一方面，為自動(dòng)化系統(tǒng)提供動(dòng)力的AI可能會(huì)導(dǎo)致歧視。

英國《新科學(xué)家》雜志也指出，ChatGPT和其他聊天機(jī)器人經(jīng)常出現(xiàn)事實(shí)性錯(cuò)誤，引用完全虛構(gòu)的事件或文章，在案例中編造性騷擾丑聞、誣告真人等。ChatGPT的使用也導(dǎo)致了數(shù)據(jù)隱私丑聞，涉及公司機(jī)密數(shù)據(jù)的泄露。另外，AI生成的圖像、音頻甚至視頻也可能導(dǎo)致大規(guī)模的“深度造假”信息，美國前總統(tǒng)特朗普被捕和教皇方濟(jì)各穿著時(shí)尚白色羽絨服的虛假AI合成照片就證明了這一點(diǎn)。

加強(qiáng)執(zhí)法呼聲高漲

美國聯(lián)邦貿(mào)易委員會(huì)、司法部民權(quán)司、消費(fèi)者金融保護(hù)局和平等就業(yè)機(jī)會(huì)委員會(huì)(EEOC)近日發(fā)表了一份聯(lián)合聲明稱，鑒于AI越來越多地用于從住房到醫(yī)療保健在內(nèi)的一系列服務(wù)，他們承諾加強(qiáng)現(xiàn)有法律的執(zhí)行強(qiáng)度，包括旨在解決AI可能會(huì)出現(xiàn)的歧視問題，并制定關(guān)于發(fā)展規(guī)則的新法規(guī)。

EEOC主席夏洛特·伯羅斯表示，包括AI在內(nèi)的先進(jìn)技術(shù)的使用必須符合聯(lián)邦法律。

當(dāng)然，這些機(jī)構(gòu)的聯(lián)合聲明主要集中于使用AI的自動(dòng)化系統(tǒng)，而不是像ChatGPT這樣的生成式AI。

《國會(huì)山》網(wǎng)站在報(bào)道中指出，即便如此，隨著ChatGPT等聊天機(jī)器人人氣飆升，谷歌和其他公司也不斷推出與之競爭的新產(chǎn)品，此外，包括特斯拉和推特首席執(zhí)行官埃隆·馬斯克等在內(nèi)的一批企業(yè)家也競相涌入該行業(yè)，由此可能引發(fā)的喧嘩與騷動(dòng)，也凸顯了政策制定者迫切需要采取相關(guān)措施。

要應(yīng)對(duì)AI帶來的風(fēng)險(xiǎn)，美國國會(huì)將權(quán)衡制定新法規(guī)，各機(jī)構(gòu)也應(yīng)加大執(zhí)行現(xiàn)有法律的力度。因?yàn)榧词乖诂F(xiàn)有法律適用的地方，由于AI系統(tǒng)的工作方式，也可能很難執(zhí)行這些法律。例如，算法招聘工具可能會(huì)導(dǎo)致歧視，但員工很難知道自己是否受到了系統(tǒng)的歧視。因此各機(jī)構(gòu)需要解決的問題不僅在于如何應(yīng)用法律，還要考慮如何應(yīng)對(duì)執(zhí)法過程中帶來的挑戰(zhàn)，以及了解這些AI系統(tǒng)對(duì)現(xiàn)實(shí)世界將產(chǎn)生怎樣的影響等等。

負(fù)責(zé)民權(quán)事務(wù)的助理司法部部長克里斯汀·克拉克也強(qiáng)調(diào)稱，在當(dāng)今社會(huì)出現(xiàn)的各種歧視問題上，AI構(gòu)成了很大的威脅，這些問題需要政策制定者和其他人進(jìn)行更深入的研究和審查。

安全管理勢(shì)在必行

美國參議員本月早些時(shí)候公布了一項(xiàng)提案，提出將為AI監(jiān)管建立一個(gè)框架，旨在提高透明度并加強(qiáng)問責(zé)。除此之外，立法者還準(zhǔn)備采取行動(dòng)，就AI技術(shù)興起的相關(guān)風(fēng)險(xiǎn)向行業(yè)施壓。

參議院情報(bào)委員會(huì)最近致信ChatGPT的開發(fā)商OpenAI、元宇宙平臺(tái)公司、谷歌、Anthropic和微軟等科技公司首席執(zhí)行官，詢問他們?cè)陂_發(fā)大規(guī)模AI模型時(shí)如何應(yīng)對(duì)安全風(fēng)險(xiǎn)。

信中寫道，隨著AI在大部分領(lǐng)域越來越多地使用，以及大型語言模型有可能穩(wěn)步集成到從醫(yī)療保健到金融部門的一系列現(xiàn)有系統(tǒng)中，迫切需要強(qiáng)調(diào)AI使用過程中的安全性問題。

針對(duì)一些參議員提出的如何利用AI等問題，美國消費(fèi)者技術(shù)協(xié)會(huì)的一位發(fā)言人表示，該協(xié)會(huì)一直在與其成員“為AI政策、標(biāo)準(zhǔn)和框架制定作出貢獻(xiàn)”。

美國軟件聯(lián)盟負(fù)責(zé)美國政府關(guān)系的副總裁克雷格·奧爾布賴特則表示，國會(huì)可以要求公司制訂風(fēng)險(xiǎn)管理計(jì)劃，對(duì)AI的高風(fēng)險(xiǎn)使用進(jìn)行風(fēng)險(xiǎn)評(píng)估，并定義何為高風(fēng)險(xiǎn)案例，而公司則需要開展影響評(píng)估和設(shè)計(jì)評(píng)估，以確保他們做正確的事。