9月27-29日，2024中國(guó)算力大會(huì)在鄭州舉行。會(huì)上，浪潮信息重磅發(fā)布元腦企智EPAI一體機(jī)，通過(guò)軟硬件高度協(xié)同的一體化設(shè)計(jì)，為客戶提供多元多模、簡(jiǎn)單易用、本地部署、安全可靠的大模型開(kāi)發(fā)平臺(tái)，顯著提高企業(yè)大模型以及AI原生應(yīng)用的開(kāi)發(fā)效率，加速大模型產(chǎn)業(yè)化落地。

大模型落地挑戰(zhàn)巨大

隨著大模型和生成式技術(shù)的飛躍式發(fā)展，基于大模型的應(yīng)用創(chuàng)新正在成為新的主題，如何以大模型賦能現(xiàn)有的技術(shù)、業(yè)務(wù)，已成為企業(yè)在新一輪技術(shù)周期中保持競(jìng)爭(zhēng)力的要素之一。但企業(yè)在應(yīng)用大模型的過(guò)程中往往面臨著諸多挑戰(zhàn)，如生態(tài)離散導(dǎo)致的多元多模適配難，模型訓(xùn)練和部署復(fù)雜、數(shù)據(jù)治理難、模型"幻覺(jué)"問(wèn)題以及對(duì)專業(yè)技術(shù)人才的依賴等，導(dǎo)致大模型與行業(yè)場(chǎng)景的融合進(jìn)展緩慢。

首先，多元多模適配難度大、周期長(zhǎng)、成本高。不同場(chǎng)景、不同業(yè)務(wù)對(duì)模型能力的多樣需求，業(yè)務(wù)生產(chǎn)環(huán)境往往是多模并存的狀態(tài)，而由于芯片生態(tài)離散、特定應(yīng)用加速等原因，所使用的算力資源也是多元并用的。因此，大模型應(yīng)用開(kāi)發(fā)需考慮與多元算力、多樣大模型的選擇、適配、組合調(diào)度等問(wèn)題，難度大，周期長(zhǎng)，成本高。

其次，巨大參數(shù)量級(jí)的通用大模型，很難直接用于復(fù)雜、離散的行業(yè)場(chǎng)景，各行業(yè)知識(shí)專業(yè)化程度高，可遷移性低，通用大模型本身難以覆蓋，所以經(jīng)常出現(xiàn)大模型"幻覺(jué)"或是"胡言亂語(yǔ)"的問(wèn)題，因此必須結(jié)合行業(yè)和企業(yè)專業(yè)數(shù)據(jù)進(jìn)行再學(xué)習(xí)。

最后，要實(shí)現(xiàn)大模型與行業(yè)場(chǎng)景的深度結(jié)合，實(shí)現(xiàn)高效、高可靠、高質(zhì)量的模型應(yīng)用效果，涉及數(shù)據(jù)、微調(diào)、RAG、部署、上線和運(yùn)維等極為復(fù)雜的流程，特別是數(shù)據(jù)治理和模型微調(diào)，需要具有豐富經(jīng)驗(yàn)的實(shí)施團(tuán)隊(duì)才能勝任，技術(shù)門檻高。

元腦企智EPAI一體機(jī)，讓大模型開(kāi)發(fā)快到飛起

對(duì)于大多數(shù)企業(yè)而言，大模型應(yīng)用開(kāi)發(fā)的系統(tǒng)性、復(fù)雜性，往往讓企業(yè)對(duì)大模型開(kāi)發(fā)望而卻步。因此，實(shí)現(xiàn)大模型的深入行業(yè)應(yīng)用與廣泛落地，關(guān)鍵在于如何有效提高AI應(yīng)用創(chuàng)新的質(zhì)量和效率，卓越的大模型及應(yīng)用開(kāi)發(fā)工具成為釋放智能生產(chǎn)力的關(guān)鍵。

浪潮信息元腦企智EPAI一體機(jī)基于專為大模型應(yīng)用場(chǎng)景設(shè)計(jì)的元腦服務(wù)器，搭載了元腦企智EPAI企業(yè)大模型開(kāi)發(fā)平臺(tái)，支持多元算力、多模管理、全鏈工具以及本地部署，可一站式解決數(shù)據(jù)處理、模型微調(diào)、RAG搭建、模型部署、應(yīng)用上線和系統(tǒng)運(yùn)維等環(huán)節(jié)開(kāi)發(fā)難題，為客戶提供多元多模、簡(jiǎn)單易用、本地部署、安全可靠的大模型應(yīng)用開(kāi)發(fā)平臺(tái)，滿足企業(yè)人工智能應(yīng)用從開(kāi)發(fā)到實(shí)施的全棧需求。

多元多模：元腦企智EPAI一體機(jī)具備多元算力和多模管理能力，通過(guò)大模型計(jì)算框架TensorGlue實(shí)現(xiàn)異構(gòu)算力調(diào)度，通過(guò)算子基礎(chǔ)化技術(shù)實(shí)現(xiàn)上層模型算法和下層基礎(chǔ)設(shè)施的邏輯解耦，從而高效的屏蔽模型和芯片差異，降低企業(yè)跨算力平臺(tái)遷移、多元模型部署適配的試錯(cuò)成本。目前，元腦企智EPAI一體機(jī)可以支持10+業(yè)界主流大模型計(jì)算框架，內(nèi)置7個(gè)主流基礎(chǔ)大模型，預(yù)設(shè)了20+微調(diào)參數(shù)，用戶可以針對(duì)知識(shí)問(wèn)答、智能編碼、文檔理解、智能助手等不同應(yīng)用場(chǎng)景和任務(wù)需求，選擇最佳產(chǎn)品型號(hào)和模型算法，快速開(kāi)發(fā)模型應(yīng)用。

簡(jiǎn)單易用：元腦企智EPAI一體機(jī)提供從數(shù)據(jù)準(zhǔn)備、大模型微調(diào)、知識(shí)庫(kù)構(gòu)建、大模型部署上線運(yùn)維的全流程支持工具鏈。其中，針對(duì)數(shù)據(jù)準(zhǔn)備，預(yù)先內(nèi)置了上億條基礎(chǔ)知識(shí)數(shù)據(jù)以及自動(dòng)化數(shù)據(jù)處理工具，支持10種以上企業(yè)常見(jiàn)的數(shù)據(jù)格式，并且以超過(guò)95%的抽取準(zhǔn)確率，把這些數(shù)據(jù)轉(zhuǎn)化為知識(shí)庫(kù)以及可供模型進(jìn)行微調(diào)的數(shù)據(jù)；針對(duì)大模型微調(diào)，采用低代碼可視化界面來(lái)進(jìn)行微調(diào)，并且內(nèi)置了Lora、SFT等多種微調(diào)框架以及20多種優(yōu)化參數(shù)，用戶可依據(jù)具體業(yè)務(wù)需求和數(shù)據(jù)特性，選擇最為合適的框架與技術(shù)，快速且低成本地構(gòu)建起企業(yè)專屬大模型能力。

本地部署、安全可靠：由于大模型應(yīng)用開(kāi)發(fā)需要結(jié)合企業(yè)私有數(shù)據(jù)，要求企業(yè)數(shù)據(jù)不出域。本地部署可以確保用戶數(shù)據(jù)不被上傳至云端，避免數(shù)據(jù)泄露和濫用的風(fēng)險(xiǎn)，這在處理敏感信息或符合嚴(yán)格數(shù)據(jù)保護(hù)法規(guī)的行業(yè)中尤為重要。元腦企智EPAI一體機(jī)的本地化部署模式提供全鏈路的企業(yè)數(shù)據(jù)防護(hù)能力，設(shè)置多級(jí)過(guò)濾和審核體系，讓數(shù)據(jù)的流轉(zhuǎn)更安全，讓生成結(jié)果更可靠，構(gòu)建起一個(gè)既能充分利用數(shù)據(jù)價(jià)值，又能保護(hù)用戶隱私、符合法規(guī)要求的安全數(shù)據(jù)處理環(huán)境，做到"數(shù)據(jù)可用不可見(jiàn)"。

元腦企智EPAI一體機(jī)能顯著提升大模型應(yīng)用的開(kāi)發(fā)效率，并極大節(jié)省人力成本。浪潮信息先行先試，采用1臺(tái)元腦企智EPAI一體機(jī)標(biāo)準(zhǔn)版，低代碼完成企業(yè)知識(shí)庫(kù)構(gòu)建、模型微調(diào)、應(yīng)用開(kāi)發(fā)等工作，1人1月即簡(jiǎn)單高效、低門檻地打造出智能售前助手"元小智"，賦能日常售前業(yè)務(wù)，實(shí)現(xiàn)智慧化變革，團(tuán)隊(duì)工作效率提升3-5倍。

浪潮信息產(chǎn)品方案開(kāi)發(fā)部總經(jīng)理魏健表示，本次發(fā)布了基礎(chǔ)版、標(biāo)準(zhǔn)版、高級(jí)版、創(chuàng)新版和集群版五個(gè)版本，主要面向制造、金融等行業(yè)客戶、傳統(tǒng)ISV和SI三類用戶提供一站式大模型生產(chǎn)及應(yīng)用全流程開(kāi)發(fā)工具鏈，同時(shí)支持接入更多元腦伙伴的算法和模型能力，共同打造AI原生應(yīng)用開(kāi)發(fā)的"超級(jí)工作臺(tái)"，加速AI應(yīng)用創(chuàng)新和落地。