【ZiDongHua 之自動化學(xué)院派收錄關(guān)鍵詞： 北京大學(xué) EDA 人工智能 邊緣計算】
　　
　　新聞 | 北京大學(xué)無錫EDA研究院3篇論文入選第61屆設(shè)計自動化會議（DAC）
　　
　　6月23日至27日，第61屆設(shè)計自動化會議（DAC 2024）在美國舊金山召開。在本次大會上，來自電子設(shè)計自動化（EDA）與集成電路領(lǐng)域的高校、公司及研究機(jī)構(gòu)群英薈萃，分享了EDA技術(shù)的最新發(fā)展和廣泛應(yīng)用，討論了本領(lǐng)域進(jìn)一步發(fā)展的前景和方向。
　　
　　在本次大會上，北京大學(xué)無錫EDA研究院共有3篇論文入選。相關(guān)介紹如下：
　　
　　1. 系統(tǒng)級頂層布線
　　
　　隨著現(xiàn)代片上系統(tǒng)（SoC）規(guī)模的不斷增長，多實例化分塊技術(shù)因其可以有效降低不同部分的耦合度，顯著降低了芯片開發(fā)的時間和人力成本。然而，不同分塊之間關(guān)鍵連接的頂層布線帶來了新的挑戰(zhàn)。由于多實例化分塊內(nèi)部的路徑會在其他相同模板的分塊中復(fù)制，因此可能會產(chǎn)生布線資源的擁塞與浪費，甚至造成短路。針對這一難題，林亦波研究員團(tuán)隊提出了基于組搜索的帶布線拓?fù)涔５牟季€方法。該方法通過在雙層稀疏格點圖上的組搜索，能夠魯棒地解決由于布線路徑復(fù)制導(dǎo)致地短路問題。同時，該方法通過對線網(wǎng)拓?fù)涔５姆绞?，有效減少了布線時間和線長。結(jié)果表明，與EDA菁英挑戰(zhàn)賽賽題的獲獎?wù)呦啾?，該算法能夠在保持魯棒性的同時，減少12%，32%，10%的總線長。該工作以《Top-Level Routing for Multiply-Instantiated Blocks with Topology Hashing》為題發(fā)表（博士生王嘉睿為第一作者，林亦波研究員為通訊作者）。
　　
　　2. 可綜合模擬存內(nèi)計算
　　
　　模擬存內(nèi)計算（ACIM）是一種新興架構(gòu)，可用于執(zhí)行高效的人工智能邊緣計算。然而，目前的 ACIM 設(shè)計通常具有不可擴(kuò)展的拓?fù)浣Y(jié)構(gòu)，并且仍然嚴(yán)重依賴人工操作。這些弊端限制了 ACIM 的應(yīng)用場景，并延遲了設(shè)計者的設(shè)計時間。針對該問題，林亦波研究員-王潤聲教授團(tuán)隊提出了一種基于可合成架構(gòu)的端到端自動化 ACIM（EasyACIM）。在給定陣列尺寸和定制單元庫的情況下，EasyACIM 可以端到端自動生成具有各種設(shè)計規(guī)范的 ACIM 布局。利用基于多目標(biāo)遺傳算法（MOGA）的設(shè)計空間探索器，EasyACIM 可以基于所提出的可合成架構(gòu)獲得高質(zhì)量的 ACIM 解決方案，從而滿足各種應(yīng)用場景的需求。與最先進(jìn)的（SOTA）ACIM 相比，EasyACIM 提供的 ACIM 解決方案具有廣闊的設(shè)計空間和極具競爭力的性能。該工作以《EasyACIM: An End-to-End Automated Analog CIM with Synthesizable Architecture and Agile Design Space Exploration》為題發(fā)表（博士生張昊懿為第一作者，林亦波研究員為通訊作者）。
 
　　
　　3. 大語言模型隱私計算
　　
　　近年來，大語言模型興起并被廣泛應(yīng)用于日常生活中，這些應(yīng)用可能涉及數(shù)據(jù)的隱私信息。為了解決隱私問題，同態(tài)加密結(jié)合兩方安全計算技術(shù)(HE+MPC)作為一種有前景的解決方案但代價是用戶和模型提供方之間高額的通信量。盡管已有大量的工作嘗試降低通信開銷，我們發(fā)現(xiàn)大模型隱私推理中的詞嵌入查找的優(yōu)化被忽略了，而且實驗表明這一過程的通信量和延遲與一層transformer層相當(dāng)?；诖?，團(tuán)隊提出了FastQuery框架，通過網(wǎng)絡(luò)協(xié)議協(xié)同優(yōu)化來降低詞嵌入查找過程的通信量。在模型層面，F(xiàn)astQuery提出了通信感知的詞嵌入表量化，通過逐通道細(xì)粒度的量化保證模型能力的同時顯著降低明密文的位寬，進(jìn)而降低通信開銷。在協(xié)議層面，F(xiàn)astQuery提出了累加位寬減少以及將多個低比特元素排布進(jìn)一個高比特元素中的協(xié)議優(yōu)化，完全利用明文空間并降低通信開銷。我們在LLAMA-7B和LLAMA-13B模型中驗證了FastQuery的有效性。在模型準(zhǔn)確率上，相比于ZeroQuant，F(xiàn)astQuery用更低的位寬取得了相當(dāng)?shù)腜PL指標(biāo)。與先前最先進(jìn)的HE+MPC的框架相比，F(xiàn)astQuery取得了20-76倍的通信量降低，帶來了1.3到4.3倍的延遲降低。該工作以《FastQuery: Communication-efficient Embedding Table Query for Private LLM Inference》為題發(fā)表（博士生林辰啟、許天識、楊澤斌為共同第一作者，李萌研究員為通訊作者）。