前沿產(chǎn)業(yè) | 光之魔力:光子學(xué)能否賦能下一代人工智能聊天機(jī)器人?
【ZiDongHua 之品牌自定位收錄關(guān)鍵詞: 人工智能 機(jī)器人 北京光博會(huì) AI ChatGPT 物聯(lián)網(wǎng)】
前沿產(chǎn)業(yè) | 光之魔力:光子學(xué)能否賦能下一代人工智能聊天機(jī)器人?
本文主要討論了光子學(xué)在支持下一代人工智能(AI)聊天機(jī)器人中的潛力。隨著人工智能和機(jī)器學(xué)習(xí)等應(yīng)用的快速發(fā)展,對(duì)處理算法和運(yùn)行模型的硬件提出了更高的要求。文章指出,傳統(tǒng)的銅連接已經(jīng)達(dá)到了帶寬限制,而光子集成電路(PICs)可以利用光的力量提供更高的性能和能源效率,并支持微型化。文章還討論了AI模型對(duì)硬件組件的巨大需求、數(shù)據(jù)中心能源消耗的問(wèn)題,以及使用光學(xué)互連解決數(shù)據(jù)中心帶寬需求的趨勢(shì)。此外,文章還提到了光子學(xué)在解決帶寬瓶頸和降低能源消耗方面的潛力,并介紹了一些正在開(kāi)發(fā)的光子技術(shù)和解決方案。總而言之,光子學(xué)以其光的速度提供更大的帶寬、更低的延遲和更低的功耗,有望在下一代數(shù)據(jù)中心和AI聊天機(jī)器人中發(fā)揮重要作用。
Keywords: 硅基光電子,AI,GPT,光子集成
您最近一定用過(guò)GPT。從寫(xiě)作論文和代碼到解釋復(fù)雜概念,ChatGPT的能力已經(jīng)令全世界驚嘆不已。這也是AI在我們智能一切的世界中變得更加易于接觸和普及的另一個(gè)例子。
隨著人工智能和機(jī)器學(xué)習(xí)等計(jì)算密集型應(yīng)用在我們的生活中越來(lái)越深入,考慮到支持這些創(chuàng)新的基礎(chǔ)設(shè)施是值得的。簡(jiǎn)單來(lái)說(shuō),這些應(yīng)用對(duì)處理算法、運(yùn)行模型和保持?jǐn)?shù)據(jù)流動(dòng)的硬件提出了高負(fù)荷要求。
為了應(yīng)對(duì)AI、高性能計(jì)算和大數(shù)據(jù)分析等工作負(fù)載,勢(shì)必要涌現(xiàn)出高性能計(jì)算資源的超級(jí)規(guī)模數(shù)據(jù)中心。然而,傳統(tǒng)的將這些數(shù)據(jù)中心內(nèi)不同組件聯(lián)接在一起的銅互連,由于帶寬限制已經(jīng)顯得捉襟見(jiàn)肘。這就是光子集成電路(PIC)可以發(fā)揮關(guān)鍵作用的地方。光子學(xué)不僅可以提供更高水平的性能,還可以提高能源效率,有助于最小化能源占用面積。
執(zhí)行AI模型的能源成本
ChatGPT的真實(shí)性在于其使用OpenAI的生成式預(yù)訓(xùn)練GPT-3自回歸語(yǔ)言模型,該模型使用深度學(xué)習(xí)生成文本。擁有1750億個(gè)參數(shù)的模型架構(gòu)超過(guò)了人腦的處理水平(相當(dāng)于1000億個(gè)參數(shù)的模型)。
像這樣的AI模型對(duì)處理它們的硬件組件(如內(nèi)存、GPU、CPU和加速器)提出了巨大要求。這需要具備大型GPU陣列和高帶寬光纖連接的硬件基礎(chǔ)設(shè)施來(lái)執(zhí)行AI模型,但這一切都帶來(lái)了一些嚴(yán)重的能源(和成本)考慮。
超級(jí)規(guī)模數(shù)據(jù)中心通常擁有至少5000個(gè)服務(wù)器,管理著100,000平方英尺以上的數(shù)據(jù),并在短時(shí)間內(nèi)快速處理大量數(shù)據(jù)。然而,這種容量和能力所帶來(lái)的巨大能源代價(jià)是可觀的:根據(jù)國(guó)際能源署的一份報(bào)告,2021年數(shù)據(jù)中心的能耗量在220至330太瓦時(shí)(TWh)之間,約占全球最終電力需求的0.9%至1.3%。這比一些國(guó)家一年的能源消耗量還要多。
在許多數(shù)據(jù)中心中,硬件組件通常通過(guò)銅連接器連接,而中心之間的連接通常使用光纖?,F(xiàn)在,使用光學(xué) I/O(輸入/輸出)組件實(shí)現(xiàn)核心硅光子芯片技術(shù),如交換機(jī)、CPU、GPU和芯片間互連,正迅速成為下一代數(shù)據(jù)中心不可避免的解決方案趨勢(shì)。利用光的特性,光子集成電路能夠?qū)崿F(xiàn)、擴(kuò)展和增加數(shù)據(jù)傳輸。
就物理學(xué)而言,沒(méi)有其他東西可以像光子學(xué)那樣提高帶寬和速度,同時(shí)降低延遲和能源消耗。這正是數(shù)據(jù)中心以及依賴(lài)于它們的AI聊天機(jī)器人所需要的。
QpiAI首席執(zhí)行官Nagendra Nagaraja最近表示:“在我們不斷探索各行各業(yè)最優(yōu)AI和量子系統(tǒng)的同時(shí),我們發(fā)現(xiàn)了使用光子方案為帶寬和速度大幅度提升帶來(lái)的實(shí)際好處。Synopsys的光子學(xué)解決方案使我們的技術(shù)能夠享受光的速度,幫助我們的客戶(hù)提升業(yè)務(wù)成果。”
光子鏈路為分立數(shù)據(jù)中心提供支持
我們已經(jīng)看到數(shù)據(jù)中心架構(gòu)向分立化轉(zhuǎn)變,其中存儲(chǔ)、計(jì)算和網(wǎng)絡(luò)等同質(zhì)資源分別放置在不同的盒子中,并通過(guò)光學(xué)方式連接。這種架構(gòu)不浪費(fèi)任何資源;相反,中央智能單元確定并獲取來(lái)自每個(gè)盒子所需的數(shù)據(jù),數(shù)據(jù)經(jīng)過(guò)光纖互連傳輸。剩余的資源可以用于其他工作負(fù)載。
除了在機(jī)架到機(jī)架、房間到房間和建筑到建筑的配置中使用之外,光纖互聯(lián)還可能在CPU和GPU級(jí)別上占據(jù)主導(dǎo)地位,并通過(guò)光信號(hào)處理數(shù)據(jù)I/O。
將許多并行和高速串行電氣I/O通道替換為具有光學(xué)高帶寬連接的光學(xué)級(jí)聯(lián)連接是驅(qū)動(dòng)近場(chǎng)光學(xué)技術(shù)需求的動(dòng)力,該技術(shù)使用主板上的高性能PCB基片(中間層),以及共封裝光學(xué),即電子和光子芯片的單一封裝集成。
雖然光子學(xué)在短期內(nèi)可能不會(huì)取代傳統(tǒng)的電子半導(dǎo)體元件,但它們明顯在處理帶寬和延遲要求方面發(fā)揮重要作用。同時(shí),正在進(jìn)行研究以了解光學(xué)領(lǐng)域的模擬和數(shù)字計(jì)算的價(jià)值。
解決帶寬限制
由于其高速數(shù)據(jù)傳輸和低能耗,顯然PIC能夠突破帶寬限制并減小能源影響。許多人預(yù)計(jì),光子集成電路市場(chǎng)在未來(lái)十年內(nèi)將大幅增長(zhǎng)。
像LightMatter這樣的公司,擁有光子AI計(jì)算平臺(tái),以及Ayar Labs,該公司開(kāi)發(fā)光纖互聯(lián)芯片組,都是在開(kāi)發(fā)新技術(shù)來(lái)滿(mǎn)足帶寬需求并減小環(huán)境影響的前沿企業(yè)之一。此外,還有一些公司正在研發(fā)使用光子而不是電子作為算術(shù)核心的模擬和數(shù)字計(jì)算解決方案。
然而,PIC設(shè)計(jì)并不像設(shè)計(jì)傳統(tǒng)集成電路那樣直截了當(dāng)。這些電路的性能與材料有關(guān),又與光學(xué)特性有關(guān),而這些光學(xué)特性又與幾何形狀等有關(guān)。在這一領(lǐng)域取得成功需要對(duì)最新研究、工具和技術(shù)有所了解,并對(duì)量子和物理光學(xué)有深入的理解。
比如,Synopsys提供無(wú)縫的光子器件、系統(tǒng)和集成電路設(shè)計(jì)流程,旨在幫助眾多公司成功地進(jìn)行光子設(shè)計(jì)。他們還與主要晶圓廠密切合作,開(kāi)發(fā)流程設(shè)計(jì)工具,以簡(jiǎn)化PIC的開(kāi)發(fā),并與政府部門(mén)合作進(jìn)行光子教育計(jì)劃。
從ChatGPT到物聯(lián)網(wǎng)等,未來(lái)十年,光子芯片顯然將成為數(shù)據(jù)和電信領(lǐng)域的首選。它們能夠以低熱效應(yīng)在寬帶寬上提供閃電般的速度,使其成為處理快速數(shù)字化社會(huì)日益增長(zhǎng)的數(shù)據(jù)需求的最佳解決方案。這只是光子學(xué)的開(kāi)始。不斷增長(zhǎng)的數(shù)據(jù)需求肯定會(huì)進(jìn)一步推動(dòng)它們的發(fā)展,從而導(dǎo)致新的用例和擴(kuò)大的市場(chǎng),這些市場(chǎng)可能會(huì)在未來(lái)五年內(nèi)達(dá)到新的高度。
本文僅作為行業(yè)信息和新聞分享,不代表我們支持或贊同本文觀點(diǎn)。若有任何異議或侵權(quán),敬請(qǐng)聯(lián)系,我們會(huì)及時(shí)處理,謝謝!
咨詢(xún)?cè)斍椋?/strong>如需咨詢(xún)文中涉及的相關(guān)產(chǎn)品或解決方案詳情,請(qǐng)加微信:ZiDongHuaX 。
微信聯(lián)盟:機(jī)器人微信群、北京光博會(huì)微信群、AI微信群、ChatGPT微信群、物聯(lián)網(wǎng)微信群,各細(xì)分行業(yè)微信群:點(diǎn)擊這里進(jìn)入。
鴻達(dá)安視:水文水利在線監(jiān)測(cè)儀器、智慧農(nóng)業(yè)在線監(jiān)測(cè)儀器 金葉儀器: 氣體/顆粒物/煙塵在線監(jiān)測(cè)解決方案
西凱昂:SMC氣動(dòng)元件、力士樂(lè)液壓元件、倍加福光電產(chǎn)品等 山東諾方: 顆粒物傳感器、粉塵濃度傳感器
深圳金瑞銘:RFID射頻識(shí)別、智能傳感器等物聯(lián)網(wǎng)解決方案 北京英諾艾智: 容錯(cuò)服務(wù)器、邊緣計(jì)算解決方案
微信聯(lián)盟:機(jī)器人微信群、北京光博會(huì)微信群、AI微信群、ChatGPT微信群、物聯(lián)網(wǎng)微信群,各細(xì)分行業(yè)微信群:點(diǎn)擊這里進(jìn)入。
鴻達(dá)安視:水文水利在線監(jiān)測(cè)儀器、智慧農(nóng)業(yè)在線監(jiān)測(cè)儀器 金葉儀器: 氣體/顆粒物/煙塵在線監(jiān)測(cè)解決方案
西凱昂:SMC氣動(dòng)元件、力士樂(lè)液壓元件、倍加福光電產(chǎn)品等 山東諾方: 顆粒物傳感器、粉塵濃度傳感器
深圳金瑞銘:RFID射頻識(shí)別、智能傳感器等物聯(lián)網(wǎng)解決方案 北京英諾艾智: 容錯(cuò)服務(wù)器、邊緣計(jì)算解決方案
我要收藏
個(gè)贊
評(píng)論排行