【自動對焦：機器學(xué)習(xí)】陳怡然：在過去十年中，設(shè)計自動化最令人興奮的趨勢是在電子設(shè)計自動化（EDA）工具中廣泛采用機器學(xué)習(xí)技術(shù)。由于芯片設(shè)計質(zhì)量在很大程度上取決于芯片設(shè)計師的經(jīng)驗，因此開發(fā)智能的EDA工具是很自然的思路，它可以直接學(xué)習(xí)如何從先前已有的設(shè)計中延承半導(dǎo)體芯片的設(shè)計方法，而無需再經(jīng)歷一遍傳統(tǒng)的笨重模型。各種機器學(xué)習(xí)模型已嵌入到最新的EDA流程中，以加速計算的試驗路由和布局、功率估計、時序分析、參數(shù)調(diào)整、信號完整性等。機器學(xué)習(xí)算法也已經(jīng)在芯片的硬件模塊中實現(xiàn)，以監(jiān)測和預(yù)測芯片的運行時功耗。例如我們的APOLLO框架（獲得MICRO 2021 最佳論文獎）。

陳怡然：通用、可解釋的人工智能計算硬件設(shè)計將是電子設(shè)計自動化的下一項革命性技術(shù)

作者｜李梅

編輯｜陳彩嫻

陳怡然是清華大學(xué)電子系1994級本科生，2001年獲得清華大學(xué)碩士學(xué)位，2005年獲得普渡大學(xué)博士學(xué)位。他的研究興趣包括新的記憶和存儲系統(tǒng)、機器學(xué)習(xí)、神經(jīng)形態(tài)計算和移動計算系統(tǒng)。他曾發(fā)表500多篇論文，出版1部專著，并在各種會議上獲得幾次最佳論文獎。他獲得的榮譽包括 IEEE 計算機學(xué)會 Edward J. McCluskey技術(shù)成就獎、ACM SIGDA服務(wù)獎等，并因其對非易失性內(nèi)存技術(shù)的貢獻而被提名為ACM Fellow。他還是美國計算機學(xué)會設(shè)計自動化特別興趣小組（SIGDA）主席。

AI科技評論對采訪原文做了不改變原意的編譯。

陳怡然：我認為，在過去的15-20年里，記憶和存儲系統(tǒng)領(lǐng)域發(fā)生的最令人興奮的事情，是計算和存儲之間的界限變得模糊。

這是一個很好的例子，說明了目標(biāo)應(yīng)用程序的轉(zhuǎn)變（即從科學(xué)計算到以數(shù)據(jù)為中心的計算）如何改變了計算機架構(gòu)的設(shè)計理念。這種理念的改變激發(fā)了各種新的計算產(chǎn)品，如智能固態(tài)硬盤(SSD)、動態(tài)隨機訪問內(nèi)存(DRAM)和數(shù)據(jù)處理單元(DPU)，以及許多新興的內(nèi)存技術(shù)，如3D Xpoint內(nèi)存(Intel和Micron)。

ACM：您最近被引用最多的一篇論文是“Learning Structured Sparsity in Deep Neural Networks”，它闡述了提高深度神經(jīng)網(wǎng)絡(luò)效率的重要性。為什么提高深度神經(jīng)網(wǎng)絡(luò)的效率很重要？在這一領(lǐng)域有哪些有前景的研究方向?

陳怡然：眾所周知，現(xiàn)代深度神經(jīng)網(wǎng)絡(luò)（DNNs）的高（推理）精度伴隨著較高的計算成本，這是神經(jīng)網(wǎng)絡(luò)的深度和寬度的增加所導(dǎo)致的。然而，我們也知道，神經(jīng)網(wǎng)絡(luò)的連接權(quán)值對神經(jīng)網(wǎng)絡(luò)的精度并沒有同等的影響。當(dāng)連接權(quán)值接近于零時，連接很可能就可以被修剪（即權(quán)值設(shè)置為零），而不會以任何方式對神經(jīng)網(wǎng)絡(luò)的準(zhǔn)確性產(chǎn)生顯著的影響。我們在NeurIPS 2016上發(fā)表的這篇論文表明，學(xué)習(xí)非零權(quán)結(jié)構(gòu)化存儲在內(nèi)存中的稀疏神經(jīng)網(wǎng)絡(luò)可以保持良好的數(shù)據(jù)局部性，降低緩存失誤率。因此，神經(jīng)網(wǎng)絡(luò)的計算效率大大提高。所提出的技術(shù)，即結(jié)構(gòu)化稀疏學(xué)習(xí)（通常稱為結(jié)構(gòu)化剪接）及其變體已被廣泛應(yīng)用于現(xiàn)代高效DNN模型設(shè)計，并得到許多人工智能(AI)計算芯片的支持，如英特爾Nervana和NVIDIA安培。

ACM：最近有消息宣布，您將指導(dǎo)美國國家科學(xué)基金委的下一代網(wǎng)絡(luò)與邊緣計算人工智能研究院的雅典娜項目（Athena）。Athena項目歷時5年，耗資2000萬美元，包括杜克大學(xué)、麻省理工學(xué)院、普林斯頓大學(xué)、耶魯大學(xué)、密歇根大學(xué)、威斯康辛大學(xué)和北卡羅來納農(nóng)業(yè)技術(shù)州立大學(xué)在內(nèi)的幾家機構(gòu)將參與其中。Athena項目的目標(biāo)是什么?

Athena的研究活動分為四個核心領(lǐng)域：邊緣計算系統(tǒng)、計算機系統(tǒng)、網(wǎng)絡(luò)系統(tǒng)以及服務(wù)和應(yīng)用。我們開發(fā)的人工智能技術(shù)也將為未來移動網(wǎng)絡(luò)的功能、異構(gòu)性、可擴展性和可信賴性提供理論和技術(shù)基礎(chǔ)。

ACM：設(shè)計自動化領(lǐng)域最令人興奮的趨勢是什么？作為美國計算機學(xué)會設(shè)計自動化特別興趣小組（SIGDA）的主席，您認為該組織在這個領(lǐng)域扮演著什么樣的角色？

論文地址：https://dl.acm.org/doi/pdf/10.1145/3466752.3480064

ACM：在未來幾年里，您所在領(lǐng)域的研究途徑會特別具有影響力的一個例子是什么？

在過去的十年中，人們提出各種硬件設(shè)計來加速人工智能模型的計算。然而，設(shè)計者總是在設(shè)計的通用性和效率之間掙扎，因為為了適應(yīng)不斷變化的模型的獨特結(jié)構(gòu)，需要進行許多硬件定制。另一方面，可解釋性一直是確保AI模型的魯棒性和推廣模型設(shè)計的一個長期挑戰(zhàn)。

立芯：電子設(shè)計自動化研發(fā)項目簽約福州鼓樓區(qū)