/美通社/ -- 大模型技術(shù)的深入應(yīng)用，正讓金融業(yè)務(wù)發(fā)生翻天覆地的變化。例如，“投顧助手”能夠?yàn)橛脩籼峁┩顿Y建議，幫助客戶在瞬息萬變的投資市場中把握市場規(guī)律，獲得更高的收益；“智能客服”能夠高效響應(yīng)用戶的服務(wù)需求，并給出精準(zhǔn)的回復(fù)……大模型高效利用海量金融數(shù)據(jù)，并切實(shí)地提升金融業(yè)務(wù)與服務(wù)的智能化水平，在實(shí)際金融場景中發(fā)揮出重要的價值。

借助浪潮信息AI服務(wù)器、AIStation智能業(yè)務(wù)生產(chǎn)創(chuàng)新平臺等領(lǐng)先的智算基礎(chǔ)設(shè)施，國內(nèi)領(lǐng)先的金融科技企業(yè)恒生電子實(shí)現(xiàn)算力高效分發(fā)、算力資源高效管理，加速了金融行業(yè)大模型LightGPT的開發(fā)和落地，模型訓(xùn)練和精調(diào)時間周期由數(shù)周縮短至數(shù)天，應(yīng)用于客服、運(yùn)營、投顧、投研等金融業(yè)務(wù)場景，助力金融行業(yè)智能化轉(zhuǎn)型。

“量身定制”金融大模型，高效訓(xùn)練是關(guān)鍵

恒生電子是一家以“讓金融變簡單”為使命的金融科技公司，致力于為證券、期貨、基金、信托、保險、銀行、交易所、私募等機(jī)構(gòu)提供整體解決方案和服務(wù)，連續(xù)16年入選FinTech100全球金融科技百強(qiáng)榜單，2023年排名第22位，位列亞洲上榜企業(yè)第一。

恒生電子高度重視大模型技術(shù)的創(chuàng)新與應(yīng)用，率先發(fā)布了領(lǐng)先的金融行業(yè)大模型LightGPT。LightGPT基于海量高質(zhì)量金融數(shù)據(jù)訓(xùn)練，使用超2000億中文tokens和80多項(xiàng)中文金融任務(wù)指令微調(diào)，涵蓋投研、投顧、智能客服、合規(guī)風(fēng)控等多領(lǐng)域金融應(yīng)用場景，實(shí)現(xiàn)金融相關(guān)任務(wù)高效、準(zhǔn)確理解，顯著超越通用大模型。在測試中，LightGPT的邏輯推理、超長文本處理、多模態(tài)交互、代碼、金融專業(yè)問答等多項(xiàng)能力都表現(xiàn)突出，表現(xiàn)出極高的準(zhǔn)確性和專業(yè)水準(zhǔn)。同時，LightGPT學(xué)習(xí)中國的金融法律法規(guī)，更符合中國金融市場的監(jiān)管要求。

就像一個“多面手”，LightGPT綜合能力突出，單個模型即可滿足金融機(jī)構(gòu)眾多應(yīng)用場景的需求，為投顧、客服、運(yùn)營、合規(guī)、投研、交易等業(yè)務(wù)系統(tǒng)注入AI能力，加速行業(yè)升級和智能化轉(zhuǎn)型。如在信批材料審計場景，LightGPT可幫助審計員將文檔的審計時間從2小時縮短到5分鐘；在投顧場景，可幫助投資顧問將客戶咨詢問題的平均回答時間由十幾分鐘縮短至幾秒，大幅提升工作效率，提升客戶體驗(yàn)。

面向不同金融機(jī)構(gòu)的個性化需求，恒生電子需要針對具體業(yè)務(wù)“量身定制”，對LightGPT進(jìn)行強(qiáng)化訓(xùn)練和精調(diào)，以提升模型的精度，或輸出符合要求的內(nèi)容。為了更好地推動大模型的開發(fā)和應(yīng)用，恒生電子希望在AI基礎(chǔ)設(shè)施方面進(jìn)行深度改造。一方面，大模型預(yù)訓(xùn)練與微調(diào)需要性能強(qiáng)大、高效易用的算力平臺，租用算力資源雖然可解燃眉之急，但在算力穩(wěn)定性、安全保障方面存在著隱患。另一方面，大模型的開發(fā)運(yùn)營涉及多團(tuán)隊(duì)、多業(yè)務(wù)與大量數(shù)據(jù)，需要有效的任務(wù)排隊(duì)和調(diào)度機(jī)制來確保資源的合理分配和高效使用。否則，將導(dǎo)致各團(tuán)隊(duì)搶占算力資源，計算任務(wù)下發(fā)后需要長時間等待才能得到結(jié)果，不僅會影響開發(fā)進(jìn)度，而且會提升成本。

創(chuàng)新智算平臺，提速大模型開發(fā)

恒生電子攜手浪潮信息，部署了大模型智算平臺，涵蓋AI服務(wù)器、AIStation智能業(yè)務(wù)生產(chǎn)創(chuàng)新平臺，大幅提升了LightGPT大模型開發(fā)和應(yīng)用效率。

在算力方面，浪潮信息為恒生電子提供了AI服務(wù)器，并通過軟硬件一體化的平臺建設(shè)模式，實(shí)現(xiàn)了上線即使用的應(yīng)用目標(biāo)。同時支持靈活擴(kuò)展，滿足恒生電子業(yè)務(wù)快速增長對算力資源的靈活需求。

浪潮信息AIStation平臺為恒生電子提供敏捷可靠的大模型開發(fā)支持和可擴(kuò)展的人工智能基礎(chǔ)設(shè)施管理能力。AIStation統(tǒng)一管理和調(diào)度算力資源，為恒生電子算法工程師提供統(tǒng)一的算法開發(fā)環(huán)境，實(shí)現(xiàn)大模型預(yù)訓(xùn)練、精調(diào)和推理測試的完整業(yè)務(wù)流程。對于千億、百億參數(shù)的模型精調(diào)，AIStation自動創(chuàng)建分布式訓(xùn)練環(huán)境，為大模型訓(xùn)練提供高效、穩(wěn)定的計算環(huán)境。AIStation推理服務(wù)與恒生的模型測試平臺實(shí)現(xiàn)對接，有效提升了模型部署和測試效率。借助AIStation平臺，恒生電子加速了面向投顧咨詢、投資合規(guī)、運(yùn)營管理、客戶服務(wù)等金融業(yè)務(wù)場景的大模型應(yīng)用的開發(fā)和交付。

此外，浪潮信息分享了源大模型項(xiàng)目的開發(fā)經(jīng)驗(yàn)，以及開源大模型的微調(diào)方案和實(shí)踐經(jīng)驗(yàn)，為恒生電子金融大模型LightGPT的預(yù)訓(xùn)練、微調(diào)提供了有力的幫助。

借助大模型智算平臺，恒生電子加速了金融行業(yè)大模型LightGPT的開發(fā)與上線，模型訓(xùn)練和精調(diào)時間周期由數(shù)周縮短至數(shù)天。目前，LightGPT已完成國家網(wǎng)信辦大模型算法備案，在客服、運(yùn)營、投顧、投研等多個金融業(yè)務(wù)場景落地應(yīng)用，助力多家頭部金融機(jī)構(gòu)實(shí)現(xiàn)了數(shù)智能力的進(jìn)化。此外，恒生電子已聯(lián)合20多家金融機(jī)構(gòu)，共建LightGPT金融大模型以及光子系列大模型應(yīng)用，并不斷提升大模型的技術(shù)能力與積淀，助力金融領(lǐng)域業(yè)務(wù)形態(tài)和邏輯范式的革新。