【ZiDongHua 之創(chuàng)新自科文收錄關(guān)鍵詞：人工智能 、新加坡 、生成式AI 、新加坡科技展、 IMDA 、AI測(cè)試技術(shù)】

新加坡成立AI Verify基金會(huì)以通過(guò)合作制定國(guó)際人工智能標(biāo)準(zhǔn)

• IMDA發(fā)表論文報(bào)告，分享新加坡采用實(shí)用且能創(chuàng)造更大價(jià)值的方式促進(jìn)生成式AI治理

在新加坡科技展Asia Tech x Singapore（ATxSG）期間舉行的ATxAI大會(huì)上，新加坡通訊及新聞部長(zhǎng)楊莉明女士宣布成立AI Verify Foundation基金會(huì)，旨在匯聚全球開(kāi)源社區(qū)的智慧和力量，共同開(kāi)發(fā)人工智能（AI）測(cè)試工具，促進(jìn)負(fù)責(zé)任地使用AI。該基金會(huì)將致力于提高AI測(cè)試能力和保證，滿足全球企業(yè)和監(jiān)管機(jī)構(gòu)的需求。七位在業(yè)內(nèi)扮演先鋒角色的首要成員 -- 新加坡資訊通信媒體發(fā)展局（IMDA）、Aicadium（淡馬錫的AI卓越中心）、IBM、微軟、Google、紅帽公司（Red Hat）和Salesforce將指導(dǎo)AI Verify路線圖的戰(zhàn)略方向和發(fā)展。該基金會(huì)成立伊始便將得到60多位普通成員的支持，包括Adobe、DBS、Meta、SenseTime和新加坡航空公司^[1]。

為可信AI奠定基礎(chǔ)

AI Verify基金會(huì)的成立將為AI Verify的開(kāi)發(fā)和使用提供支持，有效應(yīng)對(duì)AI風(fēng)險(xiǎn)。AI Verify是一個(gè)AI治理測(cè)試框架和軟件工具包，由IMDA攜手不同行業(yè)和規(guī)模的公司首次開(kāi)發(fā)。該基金會(huì)將有助于培養(yǎng)一個(gè)開(kāi)源社區(qū)，推進(jìn)AI測(cè)試框架、代碼庫(kù)、標(biāo)準(zhǔn)和最佳實(shí)踐，并創(chuàng)建一個(gè)中立的平臺(tái)，推動(dòng)測(cè)試和AI治理方面的開(kāi)放合作和交流共享。

去年，AI Verify作為國(guó)際試點(diǎn)的最低可行產(chǎn)品推出，吸引了包括IBM、戴爾、日立和瑞銀在內(nèi)的50多家當(dāng)?shù)睾涂鐕?guó)公司的關(guān)注。AI Verify現(xiàn)在可供開(kāi)源社區(qū)使用，并將向全球社區(qū)提供符合國(guó)際公認(rèn)的AI治理原則（如歐盟、經(jīng)合組織和新加坡施行的治理原則）的測(cè)試框架和工具包。AI Verify工具包提供了一個(gè)集成式接口，可生成涵蓋AI系統(tǒng)不同治理原則的測(cè)試報(bào)告，幫助企業(yè)通過(guò)與利益相關(guān)者分享這些報(bào)告來(lái)提高AI的透明度。

齊心協(xié)力在全球范圍內(nèi)推進(jìn)AI測(cè)試

IMDA建立AI Verify是為了幫助企業(yè)組織通過(guò)標(biāo)準(zhǔn)化測(cè)試客觀地展示負(fù)責(zé)任的AI。AI測(cè)試技術(shù)盡管在不斷發(fā)展，但仍處于萌芽階段，需要整個(gè)行業(yè)和研究界共同運(yùn)用最頂尖的專業(yè)知識(shí)來(lái)促進(jìn)該領(lǐng)域的加速發(fā)展。

在認(rèn)識(shí)到AI的潛在風(fēng)險(xiǎn)后，楊莉明部長(zhǎng)指出，政府僅憑一己之力無(wú)法實(shí)現(xiàn)相關(guān)目標(biāo)。她表示：“私營(yíng)部門(mén)可以將自己的專長(zhǎng)和技術(shù)投入進(jìn)來(lái)，與我們一起實(shí)現(xiàn)這些目標(biāo)，這是非常有意義的一件事。”她還認(rèn)為，AI已經(jīng)讓人們感到真正的恐懼和擔(dān)憂，我們需要積極引導(dǎo)AI朝著有益的方向發(fā)展，盡可能消除潛在風(fēng)險(xiǎn)。“這是新加坡對(duì)AI未來(lái)的期望。”