11月6-9日，第31屆國際人工智能聯(lián)合會議-中國會議（IJCAI 2022 China）在深圳坪山燕子湖國際會展中心召開。其中大會主題論壇《人工智能模型審計與監(jiān)管》由IJCAI中國辦公室、微眾銀行、中山大學、浙江大學、復旦大學聯(lián)合舉辦，于11月7日在線上線下同步順利進行。論壇邀請十多位領域知名學者，全面探討了模型知識產權保護研究的前沿方向，展示了該領域最新的研究成果，并討論了研究中面臨的難題與挑戰(zhàn)。

人工智能模型審計與監(jiān)管論壇全面展示了人工智能模型知識產權保護的前沿學術進展。作為第31屆國際人工智能聯(lián)合會議-中國會議的重要組成部分，此次論壇為促進人工智能技術的有效治理和監(jiān)管，推動人工智能健康可持續(xù)發(fā)展，保護深度學習模型知識產權，加快模型交易和共享貢獻了重要的推動力。

IJCAI 2022 China人工智能模型審計與監(jiān)管論壇召開

聚焦模型知識產權保護

11月6-9日，第31屆國際人工智能聯(lián)合會議-中國會議（IJCAI 2022 China）在深圳坪山燕子湖國際會展中心召開。其中大會主題論壇《人工智能模型審計與監(jiān)管》由IJCAI中國辦公室、微眾銀行、中山大學、浙江大學、復旦大學聯(lián)合舉辦，于11月7日在線上線下同步順利進行。論壇邀請十多位領域知名學者，全面探討了模型知識產權保護研究的前沿方向，展示了該領域最新的研究成果，并討論了研究中面臨的難題與挑戰(zhàn)。

論壇上半場由論壇主席、微眾銀行人工智能首席科學家范力欣博士主持并作開場發(fā)言，范力欣博士對論壇議程進行了簡要介紹，并對人工智能模型審計及管理涉及的技術挑戰(zhàn)進行了詳細的講解，對未來研究的重點和學術發(fā)展方向進行了系統(tǒng)的展望。

浙江大學網絡空間安全學院任奎教授團隊的王志波教授發(fā)表了《人工智能安全驗證與評測平臺》主題演講，介紹了人工智能安全背景、深層次分析了數(shù)據(jù)驅動的人工智能安全系統(tǒng)存在的安全問題成因，并具體介紹了團隊在人工智能模型安全性檢測、人工智能算法公平性檢測和人工智能偽造音視頻檢測方向所提出的技術和搭建的平臺。

針對深度學習發(fā)展過程中不斷涌現(xiàn)的知識產權保護需求，中國科學技術大學網絡空間安全學院周文柏副研究員分享了深度學習模型及數(shù)據(jù)的版權保護的相關研究工作，包括深度學習模型魯棒水印、深度學習模型可逆水印、深度學習模型感知哈希和深度學習模型加密。

南京航空航天大學計算機科學與技術學院/人工智能學院薛明富副教授介紹了其課題組在深度學習模型版權保護方面的前沿成果，包括深度學習模型版權保護方法的分類方法學，和三類主動授權控制的深度學習模型知識產權保護方法。

武漢大學國家網絡安全學院汪潤副研究員分享了其在面向深度神經網絡的版權保護方向的最新研究，為了提高模型指紋防御算法的魯棒性，汪潤研究員提出了MetaFinger指紋保護框架，它通過使用元訓練從模型的內部決策區(qū)域中提取特征達到版權保護的目的，而非決策邊界。

鵬城實驗室博士后李少鋒介紹了關于面向智能模型保護的深度神經網絡鑒權技術的兩項工作，分別是基于UAP的智能模型鑒權技術和基于承諾機制訓練數(shù)據(jù)鑒權技術，實驗表明這兩種技術可以準確地識別出數(shù)據(jù)集和模型的侵權行為。

現(xiàn)有的模型水印方法主要面向分類網絡，圖像分類與圖像復原任務有很多差異，其模型水印方法不好直接用于圖像復原模型。針對該問題，華南理工大學計算機學院全宇暉副教授提出了面向圖像復原深度網絡的模型水印技術，實驗表明，基于該技術的模型水印有較好的保真性、唯一性和魯棒性。

論壇下半場由中山大學網絡空間安全學院助理教授楊文元主持，楊文元教授對上半場的七場精彩演講進行了簡要回顧，并介紹了下半場的論壇議程。

國家杰出青年科學基金獲得者張新鵬教授發(fā)表了《神經網絡水印》主題演講，張新鵬教授對神經網絡水印進行了概述，并介紹了基于內在機制的白盒神經網絡水印，基于觸發(fā)集的黑盒神經網絡水印，基于輸出結果的無盒神經網絡水印和神經網絡模型篡改檢測。

香港中文大學（深圳）數(shù)據(jù)科學學院吳保元副教授以《后門學習發(fā)展現(xiàn)狀及最新進展》為主題，對后門攻擊、后門防御的發(fā)展現(xiàn)狀進行了總結，并詳細介紹了后門學習的最新基準平臺BackdoorBench。

清華大學在讀博士生李一鳴介紹了其關于"基于所有權認證的模型和數(shù)據(jù)集版權保護"的一系列最新研究成果，包括通過嵌入的外部特征進行有效且無害的所有權驗證，通過后門水印保護數(shù)據(jù)集的黑盒所有權驗證，和非目標后門水印 -- 無害和隱秘的數(shù)據(jù)集版權保護。

中國科學院信息工程研究所國家重點實驗室博士生梁思源提出了模仿檢測器，可用于竊取黑盒目標檢測器的知識。模仿檢測器將目標檢測中的知識竊取視為黑盒知識蒸餾，并提出了師生框架來解決該問題，這是第一個關于目標檢測器的框架。大量實驗表明該方法實現(xiàn)了最高的模型提取精度。

上海交通大學網絡空間安全學院博士研究生李方圻介紹了神經網絡水印的新型安全威脅，其中黑盒水印的新問題包括封裝攻擊、版權勒索等，其核心矛盾在于公證性、時間戳、黑盒場景三者的不兼容；白盒水印的新問題主要有模型重構攻擊，該攻擊可以通過從中間層信息中逆重構，還原網絡信息來抵抗。

復旦大學系統(tǒng)軟件與安全實驗室18級直博生潘旭東進行了《AI模型通用指紋追溯與產權保護實踐》主題演講，介紹了一種通用的模型指紋方法，該方法可以進行下游任務無關的模型指紋提取和驗證。

針對聯(lián)邦學習中的模型版權保護和監(jiān)管這一熱點問題，中山大學網絡空間安全學院助理教授楊文元介紹了面向可信聯(lián)邦學習的模型版權監(jiān)管研究，并詳細講解了其聯(lián)邦學習模型版權驗證方案和聯(lián)邦學習模型溯源方案兩項研究工作。

微眾銀行人工智能算法研究員古瀚林博士以《聯(lián)邦學習的模型版權保護》為主題，介紹了其最新研究成果FedIPR。該項研究提出了首個聯(lián)邦學習模型版權驗證框架，在不犧牲模型可用性前提下, 準確驗證聯(lián)邦模型的所屬權。

人工智能模型審計與監(jiān)管論壇全面展示了人工智能模型知識產權保護的前沿學術進展。作為第31屆國際人工智能聯(lián)合會議-中國會議的重要組成部分，此次論壇為促進人工智能技術的有效治理和監(jiān)管，推動人工智能健康可持續(xù)發(fā)展，保護深度學習模型知識產權，加快模型交易和共享貢獻了重要的推動力。