超高"模算效率"的源2.0-M32大模型開源開放以來,已經(jīng)在諸多伙伴企業(yè)內(nèi)進(jìn)行了內(nèi)測上崗,收獲了醫(yī)療、金融和IT等行業(yè)伙伴的一眾好評!

對于不想在開發(fā)環(huán)境中使用大模型的"源"粉們來說,如何能夠在自己的PC上更方便地獲取和使用M32大模型的智能力呢?

現(xiàn)在!AI PC大模型效率工具YuanChat全面升級!簡潔直觀的交互界面,搭配聯(lián)網(wǎng)搜索、搭建個(gè)人知識庫(RAG)、模型參數(shù)個(gè)性化定制等豐富強(qiáng)大的插件功能,讓你在個(gè)人PC上可以輕松部署和使用"源2.0-M32"大模型,完成各類各類編程、數(shù)理計(jì)算、文檔解析和公文寫作等任務(wù),激發(fā)你的創(chuàng)造力和生產(chǎn)力!

 

YuanChat一鍵下載及教程:
https://github.com/IEIT-Yuan/YuanChat/blob/main/docs/YuanChat%E5%85%A8%E9%9D%A2%E5%8D%87%E7%BA%A7%E9%80%9A%E7%94%A8%E7%89%88%E6%9C%AC.md


配置需求:
1、無需GPU,單CPU/XPU 即可運(yùn)行
2、可使用內(nèi)存:4GB 以上
3、系統(tǒng): windows10/11 64

 
  • 高敏業(yè)務(wù)無憂:在本地環(huán)境中安全、高效地使用M32完成任務(wù)

源2.0-M32具備超高的模算效率,在算力需求僅為1/19的情況下,性能全面對標(biāo)Llama 3-70B,對大模型運(yùn)行部署的硬件要求大幅降低。

現(xiàn)在,無需GPU,您在單CPU和XPU環(huán)境下即可輕松簡單地部署YuanChat以使用源2.0-M32大模型,所有交互數(shù)據(jù)均在本地處理,無需擔(dān)心數(shù)據(jù)泄露的風(fēng)險(xiǎn)。這對于涉及核心代碼、金融數(shù)據(jù)處理等敏感業(yè)務(wù)的場景來說,提供了一種既安全又私密的大模型應(yīng)用方案。

讓M32大模型在您的本地PC上完成任務(wù),無需擔(dān)心數(shù)據(jù)泄露風(fēng)險(xiǎn)
讓M32大模型在您的本地PC上完成任務(wù),無需擔(dān)心數(shù)據(jù)泄露風(fēng)險(xiǎn)

  • 構(gòu)建個(gè)人知識庫,讓M32學(xué)習(xí)和管理您的海量文檔知識

在YuanChat上,只需點(diǎn)擊鼠標(biāo)就可以將本地存儲的豐富文檔資源文件轉(zhuǎn)化為一個(gè)高度定制化的個(gè)人專屬知識庫。YuanChat內(nèi)置多種向量模型(Embedding),可以支持包括pdf、docx、pptx、txt、html、htm、md、json、jsonl、epub、mobi、xml在內(nèi)的12種文檔。

您可以與M32大模型基于特定的知識庫進(jìn)行對話,通過接入和學(xué)習(xí)專屬知識庫內(nèi)容,M32能夠更加精準(zhǔn)地理解和回應(yīng)查詢,顯著提升任務(wù)處理的準(zhǔn)確性和可靠性。

輕松搭建知識庫,讓M32大模型基于知識庫完成任務(wù)
輕松搭建知識庫,讓M32大模型基于知識庫完成任務(wù)

  • 聯(lián)網(wǎng)檢索,讓M32與世界即時(shí)同步

YuanChat支持谷歌(serper)和bing兩種方式進(jìn)行網(wǎng)絡(luò)檢索,打開網(wǎng)絡(luò)檢索插件,即可讓M32大模型訪問互聯(lián)網(wǎng),在全網(wǎng)為您檢索并總結(jié)相關(guān)信息,精準(zhǔn)獲取信息,高效完成任務(wù)。

讓M32大模型訪問互聯(lián)網(wǎng)為您檢索并總結(jié)最新信息

讓M32大模型訪問互聯(lián)網(wǎng)為您檢索并總結(jié)最新信息
讓M32大模型訪問互聯(lián)網(wǎng)為您檢索并總結(jié)最新信息

  • 個(gè)性化定制模型參數(shù),讓M32大模型更適合您的任務(wù)

YuanChat提供了豐富的參數(shù)設(shè)定功能,支持在使用M32大模型的過程中根據(jù)任務(wù)情況自定義生成文本長度、生成文本多樣性、生成下一個(gè)詞之前考慮的備選詞數(shù)量,使得用戶能夠精細(xì)調(diào)節(jié)大模型的創(chuàng)造性、可靠性、速度和成本,從而更加靈活高效地利用M32大模型的強(qiáng)大能力。

探索大模型能力的多種邊界
探索大模型能力的多種邊界

  • One More Thing

YuanChat支持API Server功能,可將模型能力以及YuanChat的功能(Rag檢索、敏感詞識別、網(wǎng)絡(luò)檢索等)接入已有的應(yīng)用平臺。模型輸出數(shù)據(jù)支持openAI格式,使開發(fā)人員更好理解,降低二次開發(fā)成本和對接工作量。

一鍵開啟/關(guān)閉API Server功能,設(shè)置API Server服務(wù)的端口號
一鍵開啟/關(guān)閉API Server功能,設(shè)置API Server服務(wù)的端口號