前 言

隨著大數(shù)據(jù)、云計(jì)算和物聯(lián)網(wǎng)技術(shù)的蓬勃發(fā)展，人工智能已廣泛滲透到科學(xué)研究、數(shù)字經(jīng)濟(jì)、健康與醫(yī)療衛(wèi)生等各大領(lǐng)域，給人類(lèi)生產(chǎn)生活帶來(lái)了極大的便利.機(jī)器學(xué)習(xí)的模型訓(xùn)練和推理預(yù)測(cè)都依賴(lài)于大規(guī)模數(shù)據(jù)集，而這些數(shù)據(jù)中可能包含著用戶(hù)的敏感或隱私信息.針對(duì)人工智能中日益加劇的數(shù)據(jù)安全與隱私保護(hù)需求，國(guó)內(nèi)外學(xué)者獲得了一系列重要研究成果.然而，如何在保護(hù)用戶(hù)數(shù)據(jù)安全的同時(shí)，實(shí)現(xiàn)人工智能技術(shù)的高可用性和高效性仍然是學(xué)術(shù)界和工業(yè)界廣泛關(guān)注的具有挑戰(zhàn)性的研究課題.

為進(jìn)一步推動(dòng)我國(guó)學(xué)者在數(shù)據(jù)安全與智能隱私保護(hù)領(lǐng)域的研究，及時(shí)報(bào)道我國(guó)學(xué)者在數(shù)據(jù)安全與智能隱私保護(hù)方面的最新研究成果，我們組織策劃了“數(shù)據(jù)安全與智能隱私保護(hù)研究”專(zhuān)題.本專(zhuān)題通過(guò)公開(kāi)征文共收到2篇特邀投稿和78篇普通投稿，論文分別從多個(gè)方面闡述了數(shù)據(jù)安全理論基礎(chǔ)與應(yīng)用及智能隱私保護(hù)關(guān)鍵支撐技術(shù)研究領(lǐng)域具有重要意義的研究成果.本專(zhuān)題的審稿嚴(yán)格按照《計(jì)算機(jī)研究與發(fā)展》期刊的審稿要求進(jìn)行,特邀編委先后邀請(qǐng)了近百位相關(guān)領(lǐng)域的專(zhuān)家參與評(píng)審,每篇論文邀請(qǐng)至少3～4位專(zhuān)家進(jìn)行評(píng)審,歷經(jīng)初審、復(fù)審、終審等階段,整個(gè)流程歷經(jīng)一個(gè)半月,最終共錄用文章20篇(含2篇特邀稿件).這20篇文章分別涵蓋數(shù)據(jù)安全、智能隱私保護(hù)等研究?jī)?nèi)容，在一定程度上反映了當(dāng)前國(guó)內(nèi)各單位在數(shù)據(jù)安全與智能隱私保護(hù)領(lǐng)域的主要研究方向.由于刊物單期容量所限，本專(zhuān)題將刊登在2022年第10期(16篇)和第11期(4篇).

1 綜 述

本部分共收錄了4篇綜述.

在萬(wàn)物互聯(lián)的智能時(shí)代下，以深度學(xué)習(xí)為代表的人工智能技術(shù)正全方位改變?nèi)祟?lèi)的生產(chǎn)和生活方式.與此同時(shí)，云邊端計(jì)算架構(gòu)的成熟和發(fā)展使得邊緣計(jì)算正在日益走向智能時(shí)代的舞臺(tái)中央，輕量化模型在計(jì)算資源受限的嵌入式和物聯(lián)網(wǎng)設(shè)備大規(guī)模部署和運(yùn)行.雖然人工智能技術(shù)日益流行，但算法的魯棒脆弱性及易受對(duì)抗攻擊等特點(diǎn)也給人工智能系統(tǒng)的廣泛應(yīng)用帶來(lái)了極大的安全隱患.針對(duì)此問(wèn)題，國(guó)內(nèi)外學(xué)術(shù)界和工業(yè)界已經(jīng)開(kāi)展了人工智能安全的相關(guān)研究，其中針對(duì)深度學(xué)習(xí)的對(duì)抗攻御研究已成為了當(dāng)前的熱點(diǎn)研究.李前等人的綜述文章“云邊端全場(chǎng)景下深度學(xué)習(xí)模型對(duì)抗攻擊和防御”一文聚焦于云邊端全場(chǎng)景下的人工智能技術(shù)安全問(wèn)題，分別整理歸納了針對(duì)大型網(wǎng)絡(luò)和輕量化網(wǎng)絡(luò)的對(duì)抗攻防御技術(shù)，對(duì)相關(guān)理論與研究方法進(jìn)行了系統(tǒng)性的綜述研究.首先，論文介紹了幾類(lèi)主流的對(duì)抗攻擊生成方法.其次，論文從魯棒先驗(yàn)視角出發(fā)，將現(xiàn)有對(duì)抗防御工作分為基于對(duì)抗訓(xùn)練的防御、基于正則化的防御、基于對(duì)抗樣本檢測(cè)和去噪的防御以及基于模型結(jié)構(gòu)的防御四大類(lèi).論文對(duì)現(xiàn)有的研究工作進(jìn)行了系統(tǒng)總結(jié)和科學(xué)歸納，分析了當(dāng)前研究的優(yōu)勢(shì)和不足.最后，論文探討了在云邊端全場(chǎng)景下深度學(xué)習(xí)模型對(duì)抗攻擊和防御研究當(dāng)前所面臨的挑戰(zhàn)以及未來(lái)潛在的研究方向.論文旨在為后續(xù)深度學(xué)習(xí)模型對(duì)抗魯棒性領(lǐng)域的研究者提供幫助，并進(jìn)一步推動(dòng)該領(lǐng)域的研究和發(fā)展.

隨著全球數(shù)字化進(jìn)程逐漸加快，數(shù)據(jù)已經(jīng)成為當(dāng)今社會(huì)重要的生產(chǎn)要素.數(shù)據(jù)的流動(dòng)為社會(huì)創(chuàng)造了無(wú)窮的價(jià)值，但也潛藏著巨大的隱私風(fēng)險(xiǎn).隨著歐盟通用數(shù)據(jù)保護(hù)條例(GDPR)的出臺(tái)，個(gè)人數(shù)據(jù)安全成為了大數(shù)據(jù)時(shí)代下的敏感話(huà)題，也越來(lái)越受到研究人員的重視.趙景欣等人的綜述文章“基于通用數(shù)據(jù)保護(hù)條例的數(shù)據(jù)隱私安全綜述”一文對(duì)數(shù)據(jù)隱私安全發(fā)展歷程進(jìn)行了回顧，介紹了歐盟數(shù)據(jù)保護(hù)條例GDPR及其應(yīng)用領(lǐng)域和影響.歸納分析了近幾年國(guó)內(nèi)外相關(guān)研究文獻(xiàn)，將GDPR合規(guī)問(wèn)題劃分為3個(gè)方面：GDPR違規(guī)行為分析、隱私政策分析、GDPR模型框架，并分析了這3個(gè)方面的研究現(xiàn)狀.總結(jié)分析了基于GDPR的數(shù)據(jù)技術(shù)，包括數(shù)據(jù)保護(hù)影響評(píng)估、數(shù)據(jù)分類(lèi)分級(jí)和數(shù)據(jù)跨境流動(dòng)3個(gè)方面，并分別探討了GDPR在區(qū)塊鏈、物聯(lián)網(wǎng)等具體領(lǐng)域的應(yīng)用.最后，根據(jù)對(duì)現(xiàn)有研究工作存在的不足與問(wèn)題，指出了基于GDPR的數(shù)據(jù)隱私安全研究面臨的主要挑戰(zhàn)和機(jī)遇，并針對(duì)中國(guó)數(shù)據(jù)隱私保護(hù)提出了5點(diǎn)啟示.

近年來(lái)，以深度學(xué)習(xí)為代表的人工智能技術(shù)在金融安防、自動(dòng)駕駛、醫(yī)療診斷等領(lǐng)域取得了較為成功地應(yīng)用.然而，圖像分類(lèi)作為上述應(yīng)用中的一項(xiàng)基礎(chǔ)視覺(jué)任務(wù)，正接受著對(duì)抗攻擊等技術(shù)手段帶來(lái)的巨大安全隱患.提高深度學(xué)習(xí)模型抵御對(duì)抗攻擊的能力(即對(duì)抗魯棒性)成為有效緩解該問(wèn)題的可行技術(shù)途徑.為了科學(xué)、全面地提升深度學(xué)習(xí)模型的對(duì)抗魯棒性，眾多學(xué)者從基準(zhǔn)評(píng)估和指標(biāo)評(píng)估2個(gè)角度圍繞對(duì)抗魯棒性評(píng)估開(kāi)展了大量研究.李自拓等人的綜述文章“面向圖像分類(lèi)的對(duì)抗魯棒性評(píng)估綜述”一文著重對(duì)上述指標(biāo)評(píng)估相關(guān)研究進(jìn)行綜述.首先，介紹對(duì)抗樣本相關(guān)概念以及存在的原因，總結(jié)提出進(jìn)行對(duì)抗魯棒性評(píng)估時(shí)需要遵循的評(píng)估準(zhǔn)則；其次，從被攻擊模型和測(cè)試數(shù)據(jù)2個(gè)維度，重點(diǎn)梳理和對(duì)比分析現(xiàn)有的主要對(duì)抗魯棒性評(píng)估指標(biāo)；而后，分析總結(jié)現(xiàn)階段主流的圖像分類(lèi)數(shù)據(jù)集和對(duì)抗攻防集成工具，為后續(xù)開(kāi)展對(duì)抗魯棒性評(píng)估奠定基礎(chǔ)；最后，探討當(dāng)前研究的優(yōu)勢(shì)和不足，以及未來(lái)潛在的研究方向.

近年來(lái)物聯(lián)網(wǎng)安全事件頻發(fā)，物聯(lián)網(wǎng)安全得到了廣泛的關(guān)注，物聯(lián)網(wǎng)訪(fǎng)問(wèn)控制作為物聯(lián)網(wǎng)生態(tài)系統(tǒng)中重要的安全機(jī)制發(fā)揮著舉足輕重的作用.但物聯(lián)網(wǎng)架構(gòu)復(fù)雜、設(shè)備多樣且存儲(chǔ)與計(jì)算性能較低，難以建立統(tǒng)一的訪(fǎng)問(wèn)控制體系，現(xiàn)有的互聯(lián)網(wǎng)訪(fǎng)問(wèn)控制策略無(wú)法直接應(yīng)用在物聯(lián)網(wǎng)中.目前已經(jīng)有研究人員提出了諸多物聯(lián)網(wǎng)訪(fǎng)問(wèn)控制方案，但并未重視其中的安全性問(wèn)題，由于物聯(lián)網(wǎng)與人類(lèi)生產(chǎn)生活息息相關(guān)，其訪(fǎng)問(wèn)控制一旦被打破，將造成隱私數(shù)據(jù)泄露、權(quán)限濫用等嚴(yán)重后果，亟需對(duì)物聯(lián)網(wǎng)訪(fǎng)問(wèn)控制的安全性問(wèn)題與解決方案進(jìn)行綜合研究.劉奇旭等人的綜述文章“物聯(lián)網(wǎng)訪(fǎng)問(wèn)控制安全性綜述”一文根據(jù)物聯(lián)網(wǎng)的特性，梳理了物聯(lián)網(wǎng)訪(fǎng)問(wèn)控制中的信任關(guān)系，論述了信任鏈中的風(fēng)險(xiǎn)傳遞規(guī)律.并圍繞信任鏈，從感知層、網(wǎng)絡(luò)層、應(yīng)用層分別綜述了現(xiàn)有的訪(fǎng)問(wèn)控制攻擊面，分析了存在的安全風(fēng)險(xiǎn).針對(duì)這些安全風(fēng)險(xiǎn)，提出了應(yīng)有的訪(fǎng)問(wèn)控制安全性要求，并總結(jié)了現(xiàn)有的安全性解決方案.論文在最后討論了物聯(lián)網(wǎng)訪(fǎng)問(wèn)控制設(shè)計(jì)中所面臨的挑戰(zhàn)，指出了未來(lái)的研究方向.

2 數(shù)據(jù)安全

本部分共收錄了8篇論文，主要圍繞區(qū)塊鏈隱私保護(hù)、云安全審計(jì)、隱私集合求交、可搜索加密、差分隱私等研究方向展開(kāi).

在基于區(qū)塊鏈的群智感知系統(tǒng)中構(gòu)建數(shù)據(jù)真值估計(jì)機(jī)制和用戶(hù)激勵(lì)機(jī)制受到了越來(lái)越多的關(guān)注.與傳統(tǒng)的群智感知系統(tǒng)依賴(lài)一個(gè)集中平臺(tái)來(lái)承載數(shù)據(jù)感知任務(wù)不同，該系統(tǒng)利用區(qū)塊鏈分布式結(jié)構(gòu)和操作透明不可抵賴(lài)的特性，使其具有更好的安全性和交互性.但是目前的研究總是獨(dú)立分離設(shè)計(jì)數(shù)據(jù)真值估計(jì)機(jī)制和參與者激勵(lì)機(jī)制，這導(dǎo)致2類(lèi)機(jī)制在實(shí)際應(yīng)用時(shí)往往具有局限性.應(yīng)臣浩等人的文章“區(qū)塊鏈群智感知中基于隱私數(shù)據(jù)真值估計(jì)的激勵(lì)機(jī)制”一文在綜合考慮了數(shù)據(jù)真值估計(jì)精確度與用戶(hù)激勵(lì)后，提出了一類(lèi)基于隱私保護(hù)數(shù)據(jù)真值估計(jì)的用戶(hù)激勵(lì)機(jī)制.該機(jī)制由2個(gè)模塊組成，即具有隱私保護(hù)的數(shù)據(jù)真值估計(jì)模塊PATD和具有隱私保護(hù)的用戶(hù)激勵(lì)模塊PFPI，這2個(gè)模塊都是通過(guò)利用同態(tài)加密機(jī)制CKKS來(lái)構(gòu)建的.論文進(jìn)行了大量實(shí)驗(yàn)來(lái)驗(yàn)證所提的基于隱私保護(hù)數(shù)據(jù)真值估計(jì)的用戶(hù)激勵(lì)機(jī)制的各種特性.實(shí)驗(yàn)結(jié)果表明，該機(jī)制與最新方法相比具有更好的性能.

支付通道網(wǎng)絡(luò)作為區(qū)塊鏈的擴(kuò)容手段受到廣泛關(guān)注.然而，目前對(duì)支付通道網(wǎng)絡(luò)的路由研究主要集中在路徑連通性、通道利用率等方面，缺乏對(duì)節(jié)點(diǎn)信譽(yù)引起的路由安全風(fēng)險(xiǎn)及可能支付的高昂跨鏈服務(wù)中間手續(xù)費(fèi)用影響小額支付發(fā)起者擇路偏好的具體考量.張謙等人的文章“多因素反向拍賣(mài)的跨鏈支付路由方案”一文定義了節(jié)點(diǎn)質(zhì)量評(píng)價(jià)函數(shù)，包括節(jié)點(diǎn)手續(xù)費(fèi)報(bào)價(jià)、網(wǎng)絡(luò)距離和歷史信譽(yù)，設(shè)計(jì)了多因素反向Vickrey拍賣(mài)(multi-factor reverse auction, MFRA)的路由方案，以實(shí)現(xiàn)跨鏈支付路由過(guò)程中基于候選中間節(jié)點(diǎn)質(zhì)量的綜合選擇.建立了候選節(jié)點(diǎn)的等價(jià)投標(biāo)函數(shù)，用于將節(jié)點(diǎn)質(zhì)量中的非價(jià)格屬性因素轉(zhuǎn)化為價(jià)格屬性，并引入了以2為基數(shù)的指數(shù)機(jī)制實(shí)現(xiàn)對(duì)于等效投標(biāo)價(jià)格的差分隱私，保障了參與節(jié)點(diǎn)的報(bào)價(jià)不被泄露.安全性分析和性能評(píng)估表明，MFRA路由方案在降低節(jié)點(diǎn)手續(xù)費(fèi)開(kāi)銷(xiāo)的同時(shí)，可以有效保障交易參與節(jié)點(diǎn)的報(bào)價(jià)隱私，實(shí)現(xiàn)快速高效的多跳跨鏈支付.

云存儲(chǔ)提供數(shù)據(jù)托管服務(wù)，解決了本地端數(shù)據(jù)管理與分享受限問(wèn)題.但現(xiàn)有用于確保云存儲(chǔ)數(shù)據(jù)完整性的審計(jì)方案面臨一個(gè)重要的安全問(wèn)題：簽名密鑰一旦泄露，依賴(lài)于該密鑰產(chǎn)生簽名的審計(jì)方案將無(wú)法提供完整性保護(hù).此外，現(xiàn)有審計(jì)方案均默認(rèn)在整個(gè)審計(jì)期間僅有一個(gè)審計(jì)者，然而審計(jì)者可能由于被攻陷、被賄賂或資源不足不能再提供審計(jì)代理服務(wù).周磊等人的文章“支持密鑰更新與審計(jì)者更換的云安全審計(jì)方案”一文提出一個(gè)支持密鑰更新與審計(jì)者更換的審計(jì)方案AKUAR.針對(duì)密鑰暴露導(dǎo)致簽名無(wú)效的問(wèn)題，AKUAR結(jié)合雙線(xiàn)性對(duì)與代理重簽名思想設(shè)計(jì)了高效安全的密鑰與標(biāo)簽更新機(jī)制，并且由云端承擔(dān)計(jì)算復(fù)雜的標(biāo)簽更新操作，僅在本地端引入了少量的開(kāi)銷(xiāo).此外，當(dāng)充當(dāng)審計(jì)者的霧節(jié)點(diǎn)退出審計(jì)時(shí)，新的霧節(jié)點(diǎn)可以代替其繼續(xù)進(jìn)行完整性審計(jì)工作，在保證新簽名密鑰不被泄露給舊霧節(jié)點(diǎn)的同時(shí)實(shí)現(xiàn)了審計(jì)服務(wù)的可持續(xù)性.安全分析證明了AKUAR是安全的，性能評(píng)估也證實(shí)了AKUAR在標(biāo)簽生成與密鑰更新階段僅引入了少量可接受的計(jì)算開(kāi)銷(xiāo)與通信開(kāi)銷(xiāo).

本地差分隱私具有不需要可信第三方、交互少、運(yùn)行效率高等優(yōu)點(diǎn)，近年來(lái)受到了廣泛關(guān)注.然而，現(xiàn)有本地差分隱私集合數(shù)據(jù)頻率估計(jì)機(jī)制未能考慮數(shù)據(jù)的隱私敏感度差異，將所有數(shù)據(jù)同等對(duì)待，這會(huì)對(duì)非敏感數(shù)據(jù)保護(hù)過(guò)強(qiáng)，導(dǎo)致估計(jì)結(jié)果準(zhǔn)確度低.曹依然等人的文章“效用優(yōu)化的本地差分隱私集合數(shù)據(jù)頻率估計(jì)機(jī)制”一文定義了集合數(shù)據(jù)效用優(yōu)化本地差分隱私(set-valued data utility-optimized local differential privacy, SULDP)模型，考慮了原始數(shù)據(jù)域同時(shí)包含敏感值和非敏感值的情況，在不減弱對(duì)敏感值保護(hù)的前提下，允許降低對(duì)非敏感值的保護(hù).進(jìn)一步，提出了符合SULDP模型5種頻率估計(jì)機(jī)制suGRR,suGRR-Sample,suRAP,suRAP-Sample和suWheel，理論分析證實(shí)，相對(duì)于現(xiàn)有的本地差分隱私機(jī)制，所提方案能夠?qū)γ舾袛?shù)據(jù)實(shí)現(xiàn)完全相同的保護(hù)效果，并通過(guò)降低非敏感數(shù)據(jù)的保護(hù)效果，實(shí)現(xiàn)了頻率估計(jì)結(jié)果的準(zhǔn)確度提升.

整體結(jié)構(gòu)是分組密碼的重要特征,也是首要的研究對(duì)象,對(duì)于分組密碼的輪數(shù)選取、軟硬件實(shí)現(xiàn)性能都有非常大的影響.對(duì)于類(lèi)AES算法的設(shè)計(jì)，當(dāng)選用非最優(yōu)分支數(shù)的矩陣作為列混淆操作時(shí)，向量置換(即字換位操作)的選擇可有效提高整體結(jié)構(gòu)的安全性.李曉丹等人的文章“uBlock類(lèi)結(jié)構(gòu)最優(yōu)向量置換的高效搜索”一文通過(guò)研究uBlock類(lèi)結(jié)構(gòu)的特點(diǎn)及其擴(kuò)散性,給出了其全擴(kuò)散輪數(shù)的下界及等價(jià)類(lèi)劃分準(zhǔn)則,提出了一種uBlock類(lèi)結(jié)構(gòu)最優(yōu)向量置換的搜索策略.依據(jù)全擴(kuò)散輪數(shù)最優(yōu)、超級(jí)擴(kuò)散層的分支數(shù)最優(yōu)及uBlock類(lèi)結(jié)構(gòu)擴(kuò)散層的特殊性質(zhì),證明了左右向量置換都不能是恒等變換,給出了uBlock類(lèi)結(jié)構(gòu)的一系列最優(yōu)向量置換.該搜索策略大幅度減少了需要測(cè)試的置換對(duì),為后續(xù)uBlock類(lèi)算法的設(shè)計(jì)提供技術(shù)支持.

隱私集合交集(private set intersection, PSI)允許持有私有集合的參與方安全地獲得集合的交集，而不會(huì)泄露除交集之外任何元素的信息.現(xiàn)有的兩方/多方PSI協(xié)議大多基于不經(jīng)意傳輸(oblivious transfer, OT)協(xié)議，具有很高計(jì)算效率的同時(shí)，也帶來(lái)了巨大通信開(kāi)銷(xiāo).在很多場(chǎng)景中，擴(kuò)展網(wǎng)絡(luò)帶寬是非常昂貴甚至不可行的，而目前不依賴(lài)于OT設(shè)計(jì)且計(jì)算高效的多方PSI協(xié)議仍然較少.張蕾等人的文章“高效且惡意安全的三方小集合隱私交集計(jì)算協(xié)議”一文基于一輪密鑰協(xié)商構(gòu)造了三方參與的PSI計(jì)算協(xié)議，分別在半誠(chéng)實(shí)模型和惡意安全性模型下，證明了協(xié)議的安全性且允許任意兩方的合謀攻擊.通過(guò)實(shí)驗(yàn)仿真，在大集合場(chǎng)景，相比現(xiàn)有基于OT的多方PSI協(xié)議，本協(xié)議具有最優(yōu)的通信輪數(shù)且通信量降低了89%～98%；在小集合場(chǎng)景(500個(gè)元素或更少)，相比適用弱通信網(wǎng)絡(luò)的同類(lèi)PSI協(xié)議，具有最優(yōu)運(yùn)行時(shí)間和通信負(fù)載，比依賴(lài)于同態(tài)加密的PSI協(xié)議快10～25倍.

基于混合整數(shù)線(xiàn)性規(guī)劃(MILP)的自動(dòng)化搜索方法被廣泛用于搜索密碼算法的差分特征，已形成一套完整的框架.該框架采用的基本原理是用線(xiàn)性不等式來(lái)刻畫(huà)密碼算法的各個(gè)操作，該框架適用于搜索采用4-bit S盒的密碼算法的差分特征.對(duì)于采用8-bit S盒的密碼算法，基于該框架的搜索模型計(jì)算量很大，以致無(wú)法高效地找到差分特征.SM4算法是2006年由中國(guó)政府發(fā)布，于2012年成為國(guó)家密碼行業(yè)標(biāo)準(zhǔn)，于2016年成為國(guó)家標(biāo)準(zhǔn)的迭代分組密碼算法，其分組狀態(tài)為128比特，每輪包含4個(gè)8-bit的S盒.為了高效地搜索SM4算法的差分特征，潘印雪等人的文章“基于MILP尋找SM4算法的差分特征”一文研究了對(duì)8-bit S盒進(jìn)行MILP建模的問(wèn)題，對(duì)于采用8-bit S盒的密碼算法，改進(jìn)了搜索高概率差分特征的方法.對(duì)于19輪SM4算法，不僅找到了概率為2-124的差分特征，而且找到了概率為2-123的差分特征，這是目前基于MILP建模找到的SM4算法輪數(shù)最多、概率最高的差分特征.

近年來(lái)，滿(mǎn)足前后向安全的動(dòng)態(tài)對(duì)稱(chēng)可搜索加密(dynamic symmetric searchable encryption, DSSE)一直備受關(guān)注，它可以抵抗文件注入攻擊，同時(shí)限制服務(wù)器學(xué)習(xí)已刪除文檔的相關(guān)信息.不過(guò)大多數(shù)滿(mǎn)足前后向安全的DSSE方案僅支持單關(guān)鍵詞搜索，Patranabis等人在NDSS 2021會(huì)議上提出了一種支持聯(lián)合搜索且滿(mǎn)足前后向安全的動(dòng)態(tài)可搜索加密方案，但該方案在某些情況下不能得到準(zhǔn)確的查詢(xún)結(jié)果，同時(shí)不能支持多用戶(hù)查詢(xún).針對(duì)以上問(wèn)題，張藍(lán)藍(lán)等人的文章“一種支持聯(lián)合搜索的多用戶(hù)動(dòng)態(tài)對(duì)稱(chēng)可搜索加密方案”一文改進(jìn)了不經(jīng)意交叉索引(oblivious cross tags, OXT)協(xié)議，提出了一種支持聯(lián)合搜索的多用戶(hù)動(dòng)態(tài)對(duì)稱(chēng)可搜索加密方案.該方案利用有限域中元素具有乘法逆元的性質(zhì)，引入了一次性盲因子，并結(jié)合數(shù)字信封技術(shù)實(shí)現(xiàn)了多客戶(hù)端查詢(xún)的功能.方案分析與實(shí)驗(yàn)表明，論文所提方案滿(mǎn)足了前向安全與后向安全，不僅可以提供準(zhǔn)確的聯(lián)合查詢(xún)功能，而且支持多客戶(hù)端查詢(xún)，同時(shí)計(jì)算效率僅與更新次數(shù)最低的關(guān)鍵詞更新次數(shù)有關(guān).

3 智能隱私保護(hù)

本部分共收錄了8篇論文，主要圍繞隱私保護(hù)機(jī)器學(xué)習(xí)、智能網(wǎng)絡(luò)入侵檢測(cè)、聯(lián)邦學(xué)習(xí)、深度學(xué)習(xí)等研究方向展開(kāi).

開(kāi)放網(wǎng)絡(luò)下分布式深度學(xué)習(xí)的興起帶來(lái)潛在數(shù)據(jù)泄露風(fēng)險(xiǎn).作為分布式模型構(gòu)建中的重要信息載體，訓(xùn)練梯度是模型和端側(cè)數(shù)據(jù)共同計(jì)算的產(chǎn)物，包含參與計(jì)算的私密用戶(hù)數(shù)據(jù)信息.因此，近年的研究工作針對(duì)訓(xùn)練梯度提出一系列新型攻擊方法，尤以數(shù)據(jù)重建攻擊(data reconstruction attack)所造成的攻擊效果為最.然而，已有數(shù)據(jù)重建攻擊大多僅停留在攻擊方法設(shè)計(jì)和實(shí)驗(yàn)驗(yàn)證層面，對(duì)重要實(shí)驗(yàn)現(xiàn)象缺乏深層機(jī)理分析.盡管有研究發(fā)現(xiàn)，滿(mǎn)足特定神經(jīng)元激活獨(dú)占性(exclusivity)條件的任意大小訓(xùn)練數(shù)據(jù)批次能被攻擊者從訓(xùn)練梯度中像素級(jí)重建，然而，潘旭東等人的文章“基于神經(jīng)元激活模式控制的深度學(xué)習(xí)訓(xùn)練數(shù)據(jù)泄露誘導(dǎo)”一文實(shí)證研究表明在實(shí)際訓(xùn)練數(shù)據(jù)中滿(mǎn)足該條件的訓(xùn)練數(shù)據(jù)批次比例較少，難以造成實(shí)際泄露威脅，并提出基于線(xiàn)性規(guī)劃的神經(jīng)元激活模式控制算法，為給定訓(xùn)練批次生成微小擾動(dòng)，從而滿(mǎn)足神經(jīng)元激活獨(dú)占性，以增強(qiáng)后續(xù)數(shù)據(jù)重建攻擊效能.在實(shí)際中，通過(guò)在端側(cè)節(jié)點(diǎn)部署該算法，半誠(chéng)實(shí)(honest-but-curious)分布式訓(xùn)練服務(wù)能誘導(dǎo)本地訓(xùn)練批次的訓(xùn)練梯度具有理論保證的可重建性.在5個(gè)涵蓋人臉識(shí)別、智能診斷的數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果表明，提出方法在與原始攻擊算法重建效果持平的情況下，將可重建訓(xùn)練批次大小從8張?zhí)嵘翆?shí)際應(yīng)用大小，并提升攻擊效率10倍以上.

近幾年數(shù)據(jù)安全和隱私泄露事件不斷增加,使得目前的機(jī)器學(xué)習(xí)面臨著嚴(yán)重的隱私泄露問(wèn)題，結(jié)合密碼學(xué)工具設(shè)計(jì)高效的隱私保護(hù)機(jī)器學(xué)習(xí)方案成為廣受關(guān)注的研究領(lǐng)域.目前相關(guān)的Trident和Swift方案中,前者為了提高方案的在線(xiàn)階段的效率,需要額外引入一個(gè)誠(chéng)實(shí)參與方,但當(dāng)參與方中存在惡意行為時(shí)協(xié)議就會(huì)中止,用戶(hù)就會(huì)得不到任何的輸出,不適用于外包環(huán)境.后者提出的方案可以選出一個(gè)誠(chéng)實(shí)方作為可信第三方繼續(xù)進(jìn)行計(jì)算,保證協(xié)議一定有輸出結(jié)果,但是所有的參與方都會(huì)將自己的信息發(fā)送給該參與方,這樣該參與方將會(huì)擁有所有用戶(hù)的敏感數(shù)據(jù).閻允雪等人的文章“基于秘密分享的高效隱私保護(hù)四方機(jī)器學(xué)習(xí)方案”一文設(shè)計(jì)了基于秘密分享的隱私保護(hù)四方機(jī)器學(xué)習(xí)的高效協(xié)議,方案中的4個(gè)參與方基于誠(chéng)實(shí)大多數(shù)的原則,不需要額外引入一個(gè)誠(chéng)實(shí)方.在協(xié)議的執(zhí)行過(guò)程中會(huì)選擇出2個(gè)參與方作為可信的參與方,并將計(jì)算任務(wù)委托給它們來(lái)實(shí)現(xiàn)，不僅能夠更好地保護(hù)用戶(hù)隱私，而且保證協(xié)議有正確的輸出.通過(guò)實(shí)驗(yàn)分析本文提出的方案具備一定的實(shí)用性和可行性.

人工智能已被廣泛應(yīng)用于網(wǎng)絡(luò)入侵檢測(cè)系統(tǒng)，由于流量樣本存在概念漂移現(xiàn)象，系統(tǒng)模型必須頻繁更新以適應(yīng)新的特征分布，更新后模型的有效性依賴(lài)新增訓(xùn)練樣本的質(zhì)量.然而目前流量樣本的污染過(guò)濾工作仍依賴(lài)專(zhuān)家經(jīng)驗(yàn)，這導(dǎo)致在模型更新過(guò)程中存在樣本篩選工作量大、模型準(zhǔn)確率不穩(wěn)定、系統(tǒng)易受投毒攻擊等問(wèn)題.現(xiàn)有工作無(wú)法在保證模型性能的同時(shí)實(shí)現(xiàn)污染過(guò)濾或模型修復(fù)，為解決上述問(wèn)題，劉廣睿等人的文章“基于邊緣樣本的智能網(wǎng)絡(luò)入侵檢測(cè)系統(tǒng)數(shù)據(jù)污染防御方法”一文為智能網(wǎng)絡(luò)入侵檢測(cè)系統(tǒng)設(shè)計(jì)了一套支持污染數(shù)據(jù)過(guò)濾的通用模型更新方法.其中，所設(shè)計(jì)的EdgeGAN算法利用模糊測(cè)試使生成對(duì)抗網(wǎng)絡(luò)快速擬合模型邊緣樣本分布，并通過(guò)檢查新增訓(xùn)練樣本與原模型的MSE值，識(shí)別出誤差樣本子集，保證模型平穩(wěn)更新；通過(guò)檢查新模型對(duì)舊邊緣樣本的Fβ分?jǐn)?shù)，識(shí)別出中毒樣本子集，保證分類(lèi)邊界不因投毒偏斜；通過(guò)讓模型學(xué)習(xí)惡意邊緣樣本，抑制投毒樣本對(duì)模型的影響，保證模型在中毒后快速?gòu)?fù)原.在5種典型智能網(wǎng)絡(luò)入侵檢測(cè)系統(tǒng)上進(jìn)行實(shí)驗(yàn)測(cè)試，對(duì)比現(xiàn)有最先進(jìn)的算法，該方法對(duì)投毒樣本的檢測(cè)率平均提升12.50%，對(duì)中毒模型的修復(fù)效果平均提升6.38%.

完整性度量框架是可信計(jì)算平臺(tái)的重要組成部分之一，之前研究工作所提出的完整性度量框架設(shè)計(jì)在實(shí)際應(yīng)用于嵌入式設(shè)備場(chǎng)景時(shí)，往往體現(xiàn)出不同程度的局限性.賈巧雯等人的文章“一種嵌入式Linux系統(tǒng)上的新型完整性度量架構(gòu)”一文提出了DIMAK，一種針對(duì)嵌入式Linux操作系統(tǒng)的實(shí)用化完整性度量架構(gòu)，以期為基于Linux的嵌入式設(shè)備提供有效且高性能的運(yùn)行時(shí)完整性驗(yàn)證能力.該架構(gòu)支持對(duì)映射至系統(tǒng)內(nèi)核空間及用戶(hù)進(jìn)程的可執(zhí)行文本、靜態(tài)數(shù)據(jù)以及動(dòng)態(tài)鏈接信息等關(guān)鍵內(nèi)容實(shí)施即時(shí)(Just-In-Time)完整性校驗(yàn).利用Linux內(nèi)核的進(jìn)程/內(nèi)存/頁(yè)面管理機(jī)制，DIMAK實(shí)現(xiàn)了對(duì)被度量?jī)?nèi)容所駐留物理頁(yè)面的運(yùn)行時(shí)校驗(yàn)，避免了基于文件的靜態(tài)度量方法可能存在的檢查與使用時(shí)差(time-of-check to time-of-use, TOCTTOU)漏洞.通過(guò)首次引入對(duì)位置無(wú)關(guān)代碼的重定位/動(dòng)態(tài)鏈接信息的完整性基線(xiàn)預(yù)測(cè)方法，DIMAK在面對(duì)包括基于hooking的控制流劫持、惡意代碼運(yùn)行時(shí)載入等攻擊威脅時(shí)具有較之現(xiàn)存同類(lèi)技術(shù)更強(qiáng)的完備性.另外，通過(guò)引入對(duì)軟件熱補(bǔ)丁功能的可信驗(yàn)證支持，DIMAK在系統(tǒng)完整性度量問(wèn)題中將該應(yīng)用場(chǎng)景與惡意攻擊行為正確地加以區(qū)分.根據(jù)各種被度量實(shí)體的不同類(lèi)型，DIMAK在離線(xiàn)階段、系統(tǒng)啟動(dòng)時(shí)、進(jìn)程加載時(shí)和代碼動(dòng)態(tài)加載時(shí)等時(shí)機(jī)分別為生成其對(duì)應(yīng)的完整性基線(xiàn)，確保其完整性驗(yàn)證行為的正確性.真機(jī)測(cè)試顯示，DIMAK架構(gòu)所產(chǎn)生的性能開(kāi)銷(xiāo)完全可以滿(mǎn)足嵌入式設(shè)備場(chǎng)景下的實(shí)際應(yīng)用要求.

隨著企業(yè)、政府以及私人等圖像數(shù)據(jù)資產(chǎn)的不斷增加，機(jī)器學(xué)習(xí)領(lǐng)域?qū)τ趫D像等分類(lèi)應(yīng)用需求也隨之不斷增漲.為了應(yīng)對(duì)各種實(shí)際的需求，機(jī)器學(xué)習(xí)即服務(wù)(machine learning as a service, MLAAS)的云服務(wù)部署思想逐漸成為主流.然而，基于云服務(wù)實(shí)現(xiàn)的應(yīng)用往往會(huì)帶來(lái)嚴(yán)重的數(shù)據(jù)隱私安全問(wèn)題，金歌等人的文章“FPCBC：基于眾包聚合的聯(lián)邦學(xué)習(xí)隱私保護(hù)分類(lèi)系統(tǒng)”一文將分類(lèi)任務(wù)眾包給多個(gè)邊緣參與方并借助云計(jì)算來(lái)完成，不過(guò)我們不再使用聯(lián)合訓(xùn)練理想模型的方式來(lái)得到可信度高的分類(lèi)結(jié)果，而是讓參與方先根據(jù)本地有限數(shù)據(jù)訓(xùn)練出的模型進(jìn)行推理，然后我們?cè)偈褂贸墒斓乃惴▽?duì)推理結(jié)果聚合得到較高準(zhǔn)確率的分類(lèi).重要的是，我們保證了數(shù)據(jù)查詢(xún)方不會(huì)泄露任何隱私數(shù)據(jù)，很好地解決了傳統(tǒng)MLAAS的隱私安全問(wèn)題.在系統(tǒng)實(shí)現(xiàn)中，我們使用同態(tài)加密來(lái)對(duì)需要進(jìn)行機(jī)器學(xué)習(xí)推理的圖像數(shù)據(jù)進(jìn)行加密;改善了一種眾包的聯(lián)邦學(xué)習(xí)分類(lèi)算法，并通過(guò)引入雙服務(wù)器機(jī)制來(lái)實(shí)現(xiàn)整個(gè)系統(tǒng)的隱私保護(hù)計(jì)算.通過(guò)實(shí)驗(yàn)和性能分析表明了該系統(tǒng)的可行性，且隱私保護(hù)的安全程度得到了顯著提升.

深度學(xué)習(xí)技術(shù)的快速發(fā)展給我們帶來(lái)了極大的便利，但同時(shí)也導(dǎo)致大量隱私數(shù)據(jù)的泄露.聯(lián)邦學(xué)習(xí)允許客戶(hù)端在只共享梯度的情況下聯(lián)合訓(xùn)練模型，這看似解決了隱私泄露問(wèn)題，但研究表明聯(lián)邦學(xué)習(xí)框架中傳輸?shù)奶荻纫廊粫?huì)導(dǎo)致隱私信息泄露.并且，聯(lián)邦學(xué)習(xí)的高通信代價(jià)的特點(diǎn)難以適用于資源受限的環(huán)境.為此，陳律君等人的文章“基于秘密共享和壓縮感知的通信高效聯(lián)邦學(xué)習(xí)”一文提出了2個(gè)通信高效且安全的聯(lián)邦學(xué)習(xí)算法，算法使用Top-K稀疏及壓縮感知等技術(shù)以減少梯度傳輸造成的通信開(kāi)銷(xiāo)，另外利用安全多方計(jì)算中的加法秘密共享對(duì)重要的梯度測(cè)量值加密，以實(shí)現(xiàn)在減少通信開(kāi)銷(xiāo)的同時(shí)進(jìn)一步增強(qiáng)其安全性.2個(gè)算法的主要區(qū)別是客戶(hù)端與服務(wù)器通信時(shí)傳遞的分別為梯度測(cè)量值與梯度測(cè)量值的量化結(jié)果.在MNIST及Fashion-MNIST數(shù)據(jù)集上的實(shí)驗(yàn)表明，與其他算法相比，論文所提的算法在保證通信代價(jià)較低的情況下進(jìn)一步增加了安全性，同時(shí)在模型準(zhǔn)確性上也有較好的性能.

聯(lián)邦學(xué)習(xí)通過(guò)用上傳模型參數(shù)的方式取代了數(shù)據(jù)傳輸，降低了隱私泄露的風(fēng)險(xiǎn).傳統(tǒng)的聯(lián)邦學(xué)習(xí)方法通常基于客戶(hù)端模型統(tǒng)一的假設(shè)，且為單層聯(lián)邦學(xué)習(xí).然而，在云邊端框架下，存在邊緣和終端2層分布式框架，且終端節(jié)點(diǎn)因資源異構(gòu)問(wèn)題難以達(dá)成訓(xùn)練模型的統(tǒng)一.鐘正儀等人的文章“一種面向云邊端系統(tǒng)的分層異構(gòu)聯(lián)邦學(xué)習(xí)方法”一文從云邊端系統(tǒng)的隱私安全問(wèn)題出發(fā)，結(jié)合聯(lián)邦學(xué)習(xí)技術(shù)，設(shè)計(jì)了分層部署模型的聯(lián)邦學(xué)習(xí)方案，考慮到終端節(jié)點(diǎn)資源異構(gòu)性，通過(guò)在終端模型插入分支的方式，將大模型拆分為不同復(fù)雜度的小模型適配不同客戶(hù)端資源狀態(tài)，從而實(shí)現(xiàn)分層異構(gòu)聯(lián)邦學(xué)習(xí).同時(shí)，考慮到終端存在大量無(wú)標(biāo)簽數(shù)據(jù)，論文提出了針對(duì)聯(lián)邦框架的半監(jiān)督學(xué)習(xí)方法，實(shí)現(xiàn)對(duì)無(wú)標(biāo)簽數(shù)據(jù)的有效利用.以MNIST和FashionMNIST數(shù)據(jù)集為例進(jìn)行了驗(yàn)證，實(shí)驗(yàn)結(jié)果表明，在有效避免隱私泄露的前提下，相比于其他學(xué)習(xí)方法，其提出的方法最大可提升22%的模型準(zhǔn)確率；在計(jì)算、通信、存儲(chǔ)等資源開(kāi)銷(xiāo)上均有明顯降低.

聯(lián)邦學(xué)習(xí)作為一種分布式機(jī)器學(xué)習(xí)框架,可以有效保護(hù)各參與方的數(shù)據(jù)隱私.然而,傳統(tǒng)的聯(lián)邦學(xué)習(xí)依賴(lài)一個(gè)中央服務(wù)器,模型訓(xùn)練過(guò)程易受單點(diǎn)故障和節(jié)點(diǎn)惡意攻擊的影響；明文傳遞的中間參數(shù)也可能被用來(lái)推斷出數(shù)據(jù)中的隱私信息,其在加強(qiáng)用戶(hù)數(shù)據(jù)安全和隱私保護(hù)上受到越來(lái)越多的挑戰(zhàn).此外,聯(lián)邦學(xué)習(xí)沒(méi)有提供合適的激勵(lì)機(jī)制吸引更多的訓(xùn)練數(shù)據(jù)和計(jì)算資源.為解決上述挑戰(zhàn),周煒等人的文章“基于區(qū)塊鏈的隱私保護(hù)去中心化聯(lián)邦學(xué)習(xí)模型”一文提出了一種基于區(qū)塊鏈的去中心化、安全、公平的聯(lián)邦學(xué)習(xí)模型,利用同態(tài)加密技術(shù)保護(hù)協(xié)同訓(xùn)練方的中間參數(shù)隱私,通過(guò)選舉的聯(lián)邦學(xué)習(xí)委員會(huì)進(jìn)行模型聚合和協(xié)同解密.解密過(guò)程通過(guò)秘密共享方案實(shí)現(xiàn)安全的密鑰管理,并利用雙線(xiàn)性映射累加器為秘密份額提供正確性驗(yàn)證.模型還引入信譽(yù)值作為評(píng)估參與方可靠性的指標(biāo),利用主觀邏輯模型實(shí)現(xiàn)不信任增強(qiáng)的信譽(yù)計(jì)算作為聯(lián)邦學(xué)習(xí)委員會(huì)的選舉依據(jù),信譽(yù)值作為激勵(lì)機(jī)制的參考還可以保障參與公平性.模型信息和信譽(yù)值通過(guò)區(qū)塊鏈實(shí)現(xiàn)數(shù)據(jù)的防篡改和不可抵賴(lài).實(shí)驗(yàn)表明,模型在訓(xùn)練精度相比中心化學(xué)習(xí)模型略有損失的情況下,能夠保障在多方協(xié)作的環(huán)境下以去中心化的方式訓(xùn)練模型,有效實(shí)現(xiàn)了各參與方的隱私保護(hù).

承蒙各位作者、審稿專(zhuān)家和編輯部等方面的全力支持，本專(zhuān)題得以順利出版.目前數(shù)據(jù)安全與智能隱私保護(hù)研究涉及領(lǐng)域十分廣泛，這給審稿人及特邀編委的審稿、選稿工作帶來(lái)了巨大挑戰(zhàn).由于投稿數(shù)量大、主題廣泛、時(shí)間安排緊張、專(zhuān)題容量有限等原因，本專(zhuān)題僅選擇了部分有代表性的研究工作予以發(fā)表，無(wú)法全面體現(xiàn)該領(lǐng)域所有的最新研究工作.部分優(yōu)秀稿件無(wú)法列入專(zhuān)題發(fā)表,敬請(qǐng)諒解.我們要特別感謝《計(jì)算機(jī)研究與發(fā)展》編委會(huì)和編輯部，從專(zhuān)題的立項(xiàng)到征稿啟事的發(fā)布，從審稿專(zhuān)家的邀請(qǐng)到評(píng)審意見(jiàn)的匯總,以及最后的定稿、修改和出版工作，都凝聚了他們辛勤的汗水.本專(zhuān)題的出版期望能給廣大相關(guān)領(lǐng)域研究人員帶來(lái)啟發(fā)和幫助.在審稿過(guò)程中難免出現(xiàn)不盡人意之處，希望各位作者和讀者包容諒解，同時(shí)也請(qǐng)各位同行不吝批評(píng)指正.最后，再次衷心感謝各位作者、審稿專(zhuān)家、特邀編委和編輯部的辛勤工作.

曹珍富 華東師范大學(xué)

徐秋亮 山東大學(xué)

張玉清 中國(guó)科學(xué)院大學(xué)

董曉蕾 華東師范大學(xué)

2022年9月