近來,具有強大學(xué)習(xí)、理解和多模態(tài)處理能力的大模型迅猛發(fā)展,正在給人類的生產(chǎn)、生活帶來革命性的變化。在這一變革浪潮中,物聯(lián)網(wǎng)成為了大模型技術(shù)發(fā)揮作用的重要陣地。

作為全球領(lǐng)先的物聯(lián)網(wǎng)整體解決方案供應(yīng)商的移遠(yuǎn)通信,于近日正式對外宣布將推出全新大模型解決方案。該方案將融合強大的算力平臺、技術(shù)和服務(wù),為眾多垂直行業(yè)提供標(biāo)準(zhǔn)化、定制化及智能化的大模型服務(wù),全面賦能產(chǎn)業(yè)升級。

大模型時代來臨
大模型時代來臨

技術(shù)融合 量身定制

當(dāng)下,大模型技術(shù)發(fā)展迅猛,但其背靠海量信息資訊,若無專業(yè)的方案設(shè)計會導(dǎo)致使用過程中面臨信息檢索精準(zhǔn)性差、可控性低等風(fēng)險。此次,移遠(yuǎn)通信推出的大模型解決方案則是基于高通QCS8550算力平臺,融合最前沿的LLM(大語言模型)、RAG(檢索增強生成)與Agent(智能體)等業(yè)界主流技術(shù),對模型進行深度優(yōu)化與增強,揚長避短,以實現(xiàn)能力的全面提升。

其中,RAG通過實時檢索整合外部最新準(zhǔn)確信息,顯著提升信息處理準(zhǔn)確性與時效性,廣泛應(yīng)用于問答、創(chuàng)作、客服、金融分析及醫(yī)療咨詢等領(lǐng)域,提供高效精準(zhǔn)服務(wù)。Agent技術(shù)則憑其自主學(xué)習(xí)、決策執(zhí)行能力,在復(fù)雜環(huán)境中靈活應(yīng)對任務(wù),提升體驗與效率,廣泛應(yīng)用于智能客服、個性化推薦、智能家居及自動駕駛輔助等,為用戶打造更智能、個性化的生活與工作環(huán)境。 

此外,大模型方案所依靠的核心技術(shù)仍離不開智能算力,此方案內(nèi)置移遠(yuǎn)通信新一代旗艦級安卓智能模組SG885G-WF,其基于高通®QCS8550處理器開發(fā)而成,具有高達48 TOPS 的綜合算力。在此基礎(chǔ)上,移遠(yuǎn)更巧妙融合NPU與CPU等多元算力優(yōu)勢,在經(jīng)過精細(xì)設(shè)計與優(yōu)化后,確保大模型方案能夠跨越不同硬件界限,展現(xiàn)卓越性能,進而拓寬其應(yīng)用邊界。大模型應(yīng)用的流暢運行還離不開高性能CPU和內(nèi)存的支撐,SG885G-WF擁有最高主頻3.2GHz的8核CPU,最大支持24GB LPDDR5X內(nèi)存,保證了大模型各種應(yīng)用場景下設(shè)備的流暢運行。同時,SG885G-WF支持Wi-Fi 7、藍牙5.3以及2×2 Wi-Fi MIMO技術(shù),帶來了更強的數(shù)據(jù)連接性能,為大模型應(yīng)用提供更加穩(wěn)定、暢快的網(wǎng)絡(luò)能力。

全棧工程化能力 助力行業(yè)升級

為進一步提高方案與客戶行業(yè)的適配程度,在前沿技術(shù)賦能后的移遠(yuǎn)通信大模型解決方案將從感知、規(guī)劃、決策、執(zhí)行四大階段提供全方位的工程化服務(wù),助力大模型方案以更快速度、更低成本、更完善的服務(wù)體驗應(yīng)用實踐。

在感知階段,移遠(yuǎn)將深入不同行業(yè)的業(yè)務(wù)場景,精準(zhǔn)把握客戶需求,繼而提供多樣化、定制化的模型選擇規(guī)劃,如移遠(yuǎn)大模型方案可以提供文本、語音和視覺三種模態(tài)支持,并根據(jù)客戶場景需求進行模型的選擇與優(yōu)化;而在規(guī)劃、決策和執(zhí)行階段,移遠(yuǎn)將進行具體的方案設(shè)計,包含模型增強、Agent框架制定、工作流搭建、應(yīng)用開發(fā)等工作,提升整體方案中模型與場景的適配性,最大程度提高模型的實用性。最后,在模型部署環(huán)節(jié),移遠(yuǎn)大模型方案支持端側(cè)/混合型等多種部署方式,并在其算力平臺上提供模型壓縮、算力優(yōu)化等服務(wù)。值得一提的是,移遠(yuǎn)采用的端側(cè)大模型方案更將從數(shù)據(jù)安全、實時響應(yīng)、無網(wǎng)運行及成本等方面為客戶提供更完善的體驗。

移遠(yuǎn)大模型方案應(yīng)用多領(lǐng)域
移遠(yuǎn)大模型方案應(yīng)用多領(lǐng)域

目前,移遠(yuǎn)大模型方案將可為智慧醫(yī)療、智慧教育、娛樂、智慧家居、智能駕駛等行業(yè),提供包含"情景理解、知識融合、智能交互、自主決策、任務(wù)執(zhí)行"等在內(nèi)的多種能力。后續(xù),移遠(yuǎn)將持續(xù)探索與創(chuàng)新,與上下游通力合作,以更加全面、成熟的技術(shù)服務(wù),推動算力與大模型產(chǎn)業(yè)蓬勃發(fā)展。

移遠(yuǎn)通信大模型方案Demo將于8月27日——【高通&移遠(yuǎn)通信邊緣智能技術(shù)進化日】首次展出,歡迎蒞臨現(xiàn)場互動體驗!