聚焦模型知識產(chǎn)權(quán)保護
深圳2022年11月15日 /美通社/ -- 11月6-9日，第31屆國際人工智能聯(lián)合會議-中國會議（IJCAI 2022 China）在深圳坪山燕子湖國際會展中心召開。其中大會主題論壇《人工智能模型審計與監(jiān)管》由IJCAI中國辦公室、微眾銀行、中山大學(xué)、浙江大學(xué)、復(fù)旦大學(xué)聯(lián)合舉辦，于11月7日在線上線下同步順利進行。論壇邀請十多位領(lǐng)域知名學(xué)者，全面探討了模型知識產(chǎn)權(quán)保護研究的前沿方向，展示了該領(lǐng)域最新的研究成果，并討論了研究中面臨的難題與挑戰(zhàn)。
論壇上半場由論壇主席、微眾銀行人工智能首席科學(xué)家范力欣博士主持并作開場發(fā)言，范力欣博士對論壇議程進行了簡要介紹，并對人工智能模型審計及管理涉及的技術(shù)挑戰(zhàn)進行了詳細的講解，對未來研究的重點和學(xué)術(shù)發(fā)展方向進行了系統(tǒng)的展望。
論壇主席范力欣博士
浙江大學(xué)網(wǎng)絡(luò)空間安全學(xué)院任奎教授團隊的王志波教授發(fā)表了《人工智能安全驗證與評測平臺》主題演講，介紹了人工智能安全背景、深層次分析了數(shù)據(jù)驅(qū)動的人工智能安全系統(tǒng)存在的安全問題成因，并具體介紹了團隊在人工智能模型安全性檢測、人工智能算法公平性檢測和人工智能偽造音視頻檢測方向所提出的技術(shù)和搭建的平臺。
針對深度學(xué)習發(fā)展過程中不斷涌現(xiàn)的知識產(chǎn)權(quán)保護需求，中國科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院周文柏副研究員分享了深度學(xué)習模型及數(shù)據(jù)的版權(quán)保護的相關(guān)研究工作，包括深度學(xué)習模型魯棒水印、深度學(xué)習模型可逆水印、深度學(xué)習模型感知哈希和深度學(xué)習模型加密。
南京航空航天大學(xué)計算機科學(xué)與技術(shù)學(xué)院/人工智能學(xué)院薛明富副教授介紹了其課題組在深度學(xué)習模型版權(quán)保護方面的前沿成果，包括深度學(xué)習模型版權(quán)保護方法的分類方法學(xué)，和三類主動授權(quán)控制的深度學(xué)習模型知識產(chǎn)權(quán)保護方法。
武漢大學(xué)國家網(wǎng)絡(luò)安全學(xué)院汪潤副研究員分享了其在面向深度神經(jīng)網(wǎng)絡(luò)的版權(quán)保護方向的最新研究，為了提高模型指紋防御算法的魯棒性，汪潤研究員提出了MetaFinger指紋保護框架，它通過使用元訓(xùn)練從模型的內(nèi)部決策區(qū)域中提取特征達到版權(quán)保護的目的，而非決策邊界。
鵬城實驗室博士后李少鋒介紹了關(guān)于面向智能模型保護的深度神經(jīng)網(wǎng)絡(luò)鑒權(quán)技術(shù)的兩項工作，分別是基于UAP的智能模型鑒權(quán)技術(shù)和基于承諾機制訓(xùn)練數(shù)據(jù)鑒權(quán)技術(shù)，實驗表明這兩種技術(shù)可以準確地識別出數(shù)據(jù)集和模型的侵權(quán)行為。
現(xiàn)有的模型水印方法主要面向分類網(wǎng)絡(luò)，圖像分類與圖像復(fù)原任務(wù)有很多差異，其模型水印方法不好直接用于圖像復(fù)原模型。針對該問題，華南理工大學(xué)計算機學(xué)院全宇暉副教授提出了面向圖像復(fù)原深度網(wǎng)絡(luò)的模型水印技術(shù)，實驗表明，基于該技術(shù)的模型水印有較好的保真性、唯一性和魯棒性。
論壇主席楊文元教授
論壇下半場由中山大學(xué)網(wǎng)絡(luò)空間安全學(xué)院助理教授楊文元主持，楊文元教授對上半場的七場精彩演講進行了簡要回顧，并介紹了下半場的論壇議程。
國家杰出青年科學(xué)基金獲得者張新鵬教授發(fā)表了《神經(jīng)網(wǎng)絡(luò)水印》主題演講，張新鵬教授對神經(jīng)網(wǎng)絡(luò)水印進行了概述，并介紹了基于內(nèi)在機制的白盒神經(jīng)網(wǎng)絡(luò)水印，基于觸發(fā)集的黑盒神經(jīng)網(wǎng)絡(luò)水印，基于輸出結(jié)果的無盒神經(jīng)網(wǎng)絡(luò)水印和神經(jīng)網(wǎng)絡(luò)模型篡改檢測。
香港中文大學(xué)（深圳）數(shù)據(jù)科學(xué)學(xué)院吳保元副教授以《后門學(xué)習發(fā)展現(xiàn)狀及最新進展》為主題，對后門攻擊、后門防御的發(fā)展現(xiàn)狀進行了總結(jié)，并詳細介紹了后門學(xué)習的最新基準平臺BackdoorBench。
清華大學(xué)在讀博士生李一鳴介紹了其關(guān)于"基于所有權(quán)認證的模型和數(shù)據(jù)集版權(quán)保護"的一系列最新研究成果，包括通過嵌入的外部特征進行有效且無害的所有權(quán)驗證，通過后門水印保護數(shù)據(jù)集的黑盒所有權(quán)驗證，和非目標后門水印 -- 無害和隱秘的數(shù)據(jù)集版權(quán)保護。
中國科學(xué)院信息工程研究所國家重點實驗室博士生梁思源提出了模仿檢測器，可用于竊取黑盒目標檢測器的知識。模仿檢測器將目標檢測中的知識竊取視為黑盒知識蒸餾，并提出了師生框架來解決該問題，這是第一個關(guān)于目標檢測器的框架。大量實驗表明該方法實現(xiàn)了最高的模型提取精度。
上海交通大學(xué)網(wǎng)絡(luò)空間安全學(xué)院博士研究生李方圻介紹了神經(jīng)網(wǎng)絡(luò)水印的新型安全威脅，其中黑盒水印的新問題包括封裝攻擊、版權(quán)勒索等，其核心矛盾在于公證性、時間戳、黑盒場景三者的不兼容；白盒水印的新問題主要有模型重構(gòu)攻擊，該攻擊可以通過從中間層信息中逆重構(gòu)，還原網(wǎng)絡(luò)信息來抵抗。
復(fù)旦大學(xué)系統(tǒng)軟件與安全實驗室18級直博生潘旭東進行了《AI模型通用指紋追溯與產(chǎn)權(quán)保護實踐》主題演講，介紹了一種通用的模型指紋方法，該方法可以進行下游任務(wù)無關(guān)的模型指紋提取和驗證。
針對聯(lián)邦學(xué)習中的模型版權(quán)保護和監(jiān)管這一熱點問題，中山大學(xué)網(wǎng)絡(luò)空間安全學(xué)院助理教授楊文元介紹了面向可信聯(lián)邦學(xué)習的模型版權(quán)監(jiān)管研究，并詳細講解了其聯(lián)邦學(xué)習模型版權(quán)驗證方案和聯(lián)邦學(xué)習模型溯源方案兩項研究工作。
微眾銀行人工智能算法研究員古瀚林博士以《聯(lián)邦學(xué)習的模型版權(quán)保護》為主題，介紹了其最新研究成果FedIPR。該項研究提出了首個聯(lián)邦學(xué)習模型版權(quán)驗證框架，在不犧牲模型可用性前提下, 準確驗證聯(lián)邦模型的所屬權(quán)。
人工智能模型審計與監(jiān)管論壇全面展示了人工智能模型知識產(chǎn)權(quán)保護的前沿學(xué)術(shù)進展。作為第31屆國際人工智能聯(lián)合會議-中國會議的重要組成部分，此次論壇為促進人工智能技術(shù)的有效治理和監(jiān)管，推動人工智能健康可持續(xù)發(fā)展，保護深度學(xué)習模型知識產(chǎn)權(quán)，加快模型交易和共享貢獻了重要的推動力。
