聯盟學習在生物醫學大數據隱私保護中的原理與應用*

竇佐超 陳 峰 鄧杰仁 陳如梵 鄭 灝 孫 琪 謝 康 沈百榮 王 爽

(1四川大學華西醫學院系統遺傳研究所成都 610041 (杭州锘崴信息科技有限公司杭州 310053) (1杭州锘崴信息科技有限公司杭州 310053 2杭州锘崴信息科技有限公司 杭州 310053) 2昆士蘭大學醫學院 澳大利亞 昆士蘭州布里斯班 4006) (杭州锘崴信息科技有限公司杭州 310053) (中華人民共和國公安部第三研究所信息網絡安全國家重點實驗室 上海 200041) (四川大學華西醫學院系統遺傳研究所 成都 610041) (1四川大學華西醫學院系統遺傳研究所 成都 610041 2杭州锘崴信息科技有限公司 杭州 310053 3美國印第安納大學信息計算和工程學院 美國印第安納州伯明頓 47495 4同濟大學上海普陀區人民醫院 上海 200060)

1 引言

1.1 研究背景

在生物醫療大數據分析研究過程中數據樣本的規模對于分析結果的適用性和準確性有很大影響。近年來全球暴發了各種新型傳染病疫情，如2020年初暴發的新型冠狀病毒(COVID-19)、2012年的中東呼吸綜合征(MERS)以及2003年的重癥急性呼吸綜合征(SARS)等，這些病毒都具有非常強的傳染性和致病性。人體在感染這些病毒后會產生非常嚴重的后果，如COVID-19感染者中主要的病癥是往往伴隨著肺炎及其他并發癥[1]，如急性呼吸窘迫綜合征(呼吸困難)、敗血癥、急性心臟損傷和其他感染，嚴重者甚至會死亡。不僅如此病毒傳播和擴散會危害公共安全，同時造成不可估量的經濟損失。在新型冠狀病毒疫情初期，大量研究對其進行病毒學、病理學、藥物、流行病學分析，提出各種假說和推斷。但受限于樣本數據的規模無法得出確切結論。Chan等根據一個6口之家的聚集性發病案例推測COVID-19存在人際傳播的可能性，但需要更多研究和樣本來進一步確認[2]。De Wit 等強調目前仍不清楚COVID-19是否會像SARS一樣使免疫細胞滲透入肺部從而導致嚴重的肺部損傷。因此理解肺部微循環和免疫系統對于該病毒的反應非常重要且迫切，而這可能會為確認患者病情程度以及理清發病機理帶來突破點[3]。Huang 等以及 Chen 等同時報告COVID-19患者的臨床癥狀及流行病學特征[1，4]，且結果高度相似，其樣本量分別為41和99。值得注意的是兩份樣本都顯示呼吸衰竭為導致患者死亡的主要原因，但是目前并未有研究報告死亡患者的肺部病理情況，對于有關信息或研究的需求應引起更多重視。因此有關新型冠狀病毒的病理性和流行病學研究對遏制其傳播和暴發有重大意義。Zulma 等指出由于有關COVID-19特效藥的情況目前尚不明朗，且研制新藥可能需要幾年的時間，應將目光投向現有、已知安全的藥物或是療法上。目前全球已有多項藥物研究正在進行中，研究人員正嘗試從已有的抗病毒藥物中發現可能存在的特效藥，包括瑞德西韋(Remdesivir)在內的若干種藥物被寄予厚望，且很有可能有效抑制病毒[5-7]。此外宿主定向療法及細胞療法等放大或促進患者自身免疫系統活動的方法也被認為能有效對抗該病毒[8]。

1.2 數據共享與聯合分析必要性

除傳統的針對病毒本身和其引發疾病的研究外，還有一個方面應該引起人們的注意，且在必要時提高至最高優先級，那就是數據的共享和整合[9-10]。例如Heymann在國際著名醫學雜志《柳葉刀》(Lancet)發表的文章指出有關病毒學、病理學、藥物、流行病學等方面的研究和數據等于是拼圖的碎片[9]。只有將所有信息整合在一起才能使這些碎片拼湊起來成為完整的圖畫，而這幅完整的拼圖是成功控制此次疫情的關鍵。如何才能快速、安全、高效地將這些碎片拼起來則是即將要解決的難題。針對新型冠狀病毒疫情，將零散信息進行有效共享并聯合運用起來才能使疫情防控工作變得更加高效和準確。當新的患者被確診時相關部門可以立刻對其活動范圍進行歷史軌跡分析(手機運營商位置、交通運輸購票、購物、金融消費信息等)，以便找出密切接觸者及可能被感染的人群，從而控制傳染源，避免疫情進一步擴散。另一方面，當發現潛在感染對象但缺乏進一步診斷技術手段情況下(基層醫院基礎設施不足，缺乏有經驗的醫生)，可以根據這些整合的信息快速建立傳染模型，通過多維度的數據分析發現更簡單有效的診斷方法。同時結合后期的醫療記錄分析，以數據為基礎形成更好的治療應對方案。更進一步，通過大數據技術可以建立傳染關系，分析不同傳染路徑下病毒變異程度和病情監控，建立知識圖譜，挖掘傳染關聯關系，分析流行病學傳染特性，精細化病毒變異關聯關系以及基礎病關聯關系和治療方案，為藥物研究、未來風險防范奠定堅實的數據基礎。此外基于大數據分析可以對整個社會的傳染風險進行分析。識別病毒毒株的特性，識別出高中低不同風險等級的地區、交通路線、人員行為。各單位可以通過這些信息評估自身狀況，在決策部門統一決策的基礎上根據自身業務特點采取針對性的應對措施，盡早復工。

綜上所述，現代生物醫學研究中只有大量的多方、多源大數據才能支持研究模型預測的高適用性和高準確性。然而目前的生物醫療數據和個人隱私息息相關，各個國家和地區均對個人隱私數據的收集、傳播和使用進行嚴格立法。例如我國的《中華人民共和國網絡安全法》，《信息安全技術個人信息去標識化指南》以及《信息安全技術個人信息安全規范》，美國的《醫療電子交換法案》，歐盟的《通用數據保護條例》以及較早的《數據保護指令》等。如何合理地保護個人敏感信息，在隱私信息不被泄露前提下又能有效地進行生物醫療數據分享、聯合分析以及多元醫療數據融合，成為目前醫學信息領域重點研究課題之一。

本文將結合信息科學中的大數據處理、聯盟學習、信息分享，計算機科學中的安全計算、隱私保護算法，以及生物醫學領域的電子病例、基因和圖像數據分析處理和多中心合作的實際問題，介紹具有隱私保護的基于深度學習的多中心合作方法。其中包括利用聯盟學習通過分享中間結果(如本地數據統計值、模型參數等)而不分享原始數據的特點實現基于隱私保護的跨機構大數據分析合作；利用隱私計算進行多機構間加密統計數據的分享和分析，保證預測的準確性以及對各方數據的隱私安全保護；采用深度學習技術進行樣本測序數據特性分析。

2 聯盟學習原理

2.1 結構模式

2.1.1 概述 聯盟學習通過分享中間結果(如本地數據統計值、模型參數等)而不分享原始數據的特點實現基于隱私保護的跨機構大數據分析合作。支持大量基于隱私計算和分析的分布式算法，十分契合現代生物醫療大數據跨機構聯合分析計算的需求[11-14]，同時保證分析預測的準確性以及對患者數據的隱私安全保護。一般認為聯盟學習有兩種基本結構：客戶端/服務器和去中心化。

2.1.2 客戶端/服務器模式 用來預測全局模型參數并進行統計學檢驗。客戶端基于本地數據計算中間結果發送到服務器，服務器根據所有客戶端中間結果不斷迭代優化全局模型參數，見圖1。該模式下患者敏感數據一直保存在客戶端本地，只有中間結果被共享到服務器進行安全分析和計算。所有客戶端之間不直接通信和數據傳輸，客戶端和服務器之間只傳輸中間結果，中間結果不涉及任何原始數據信息，其傳輸可使用安全傳輸層協議進一步保護。值得注意的是聯盟學習模式下對于全局模型參數的預測準確性和傳統數據集中處理方式一致。聯盟學習支持分布式或多類別邏輯回歸，模型參數和方差-協方差矩陣可以通過迭代的中間結果推算出來。以基于最大似然估計的分布式二分邏輯回歸算法為例，每個客戶端計算并發送到服務器的中間結果為通過本地數據計算的海森矩陣(Hassian Matrix，全局水平分割數據)或核矩陣(Kernel Matrix，全局垂直分割數據)。結合模型參數和方差-協方差矩陣，聯盟學習模型可進一步預測各種邏輯回歸算法的統計學參數，如置信區間、標準誤差、Z-檢驗以及p值檢驗等。在生物醫學領域出于隱私保護考慮，患者原始數據和分析預測結果不能泄露。在聯盟學習模式下以擬合優度檢驗為例，需要交換的中間數據只包括每個客戶端的總體數據量和每10人中陽性患者數量[15]，從而有效保護患者隱私。

圖1 聯盟學習的客戶端/服務器模式

2.1.3 去中心化模式 無需中心服務器，所有客戶端只和相鄰客戶端進行通信，與客戶端/服務器模式相比節省部分通信消耗。通信分享內容同樣為中間結果，保證原始數據安全性。具體來講，每次迭代計算過程中每個客戶端根據本地原始數據和相鄰客戶端發送的中間結果計算本次中間結果，見圖2。去中心化聯盟學習模式下相鄰客戶端通過不斷交換本地模型參數進而獲得全局模型參數，避免原始數據(包含患者敏感隱私數據)泄露。去中心化模式被廣泛應用到各種分布式算法中，如稀疏線性回歸、主成分分析以及向量支持機等[16-18]。

圖2 聯盟學習的去中心化模式

2.2 數據分割模式

聯盟學習框架下多中心數據分割分為兩種模式：水平分割和垂直分割。使用患者生物基因數據的水平分割和垂直分割多中心數據模型，見圖3、圖4。在水平分割模式下每個客戶端擁有不同患者所有類型生物基因數據(SNP數據，年齡、性別等)，適用于不同地域多中心生物醫療大數據聯合分析的應用場景，每個客戶端擁有不同的患者群體，每個患者具有相同的數據類型和屬性列表。多個數據客戶端聯盟學習增大數據總量，研究結果更具有普遍性。而在垂直分割模式下每個客戶端擁有所有患者部分數據。該模式適合不同客戶端擁有相同患者不同數據的情景，聯盟學習可以融合患者各種不同數據，使得聯合分析預測的自變量域更加豐富，結果更加準確。例如聯盟計算在PCORnet臨床數據研究網絡中被廣泛采用[19]，其網絡覆蓋醫療福利部門、保險公司、健康系統以及退伍軍人事務部，各個部門擁有超過 3 100萬患者的不同類型數據。

圖3 水平分割多中心數據模型

圖4 垂直分割多中心數據模型

3 聯盟學習應用

3.1 概述

聯盟學習被廣泛應用于生物醫療大數據分析、計算和隱私保護中，基于不同數據類型如結構化與非結構化電子病歷、基因和圖像數據對各種不同算法和模型在聯盟學習框架下的應用進行介紹和分析，見表1。

表1 基于聯盟學習架構的研究應用

續表1

3.2 結構化電子病歷數據

3.2.1 概述 結構化電子病歷使用標準的數據格式對所有患者采集相同信息，將這些信息通過標準化的數據模型進行存儲，包括但不限于個人生物信息、過敏信息、藥物使用、吸煙情況、家庭健康史和化驗測試結果等。結構化電子病歷有利于患者信息的標準化收集、傳播和使用，不同醫療健康機構可以高效地進行跨機構數據聯合分析。

3.2.2 基于牛頓-拉弗森方法 現代計算中涉及大量的工程優化計算任務，這些任務往往無法直接采用常見公式進行求解。利用計算機最擅長的數字計算優勢，引入一種基于數值的方法——牛頓-拉佛森方法求解優化問題的近似解。牛頓-拉佛森方法的基本思想是利用迭代點處的一階導數(梯度)和二階導數(Hessen矩陣)對目標函數進行二次函數近似，然后將二次模型的極值點作為新迭代點，不斷重復這一過程直到滿足精度的近似極值。早期的聯盟式二元邏輯回歸模型[20]通過分享模型但不分享患者數據保護數據安全性和隱私性，通過Hosmer-Lemeshow檢驗和AUC檢驗其準確性與傳統中心化的模型相比并無差異。通過擴展研究，聯盟式多元線性回歸[21]，即使因變量是多種類別，牛頓-拉佛森方法在聯盟學習框架下可重新設計并取得良好效果，相比于傳統中心化的模型具有同樣的準確性。相對于上述兩種邏輯回歸方式是在水平分割的數據上應用，即各個分布式的數據中心提供的是不同患者同一屬性數據，垂直分割數據的聯盟式邏輯回歸[22]則是應用牛頓-拉佛森方法對各個分布式的數據中心的同一批患者不同屬性數據進行訓練。同樣，該方法通過優化表現出和傳統中心化邏輯回歸一樣的準確性。除邏輯回歸外，生物醫學上經常出現的生存分析也可以通過牛頓-拉佛森方法進行分布式應用。半參比例風險模型便是生成分析中被廣泛關注和應用的模型[14]。針對水平分割的患者數據，基于服務器-客戶端架構的WebDISCO系統通過服務器和客戶端之間交換不敏感的中間值，不僅保護患者隱私，而且和其他生存分析對比展現出等同于傳統中心化生存模型的準確性。

3.2.3 貝葉斯方法 受應用牛頓-拉佛森法的聯盟式邏輯回歸啟發，針對不同隱私保護應用場景，一系列相關擴展和提升方法被廣泛研究。期望傳播邏輯回歸模型就是其中的一項成果[13]。該模型基于統計學領域的貝葉斯方法研究并拓展，通過期望傳播去最大化一個后驗概率的預測，期望傳播邏輯回歸基于部分后驗函數不斷更新其參數。為避免中間結果信息泄露，期望傳播邏輯回歸模型的本地客戶端和全局服務器之間交換的是加密的后驗分布系數而不是模型參數預測的中間結果。因此不僅在模型訓練時過程安全可靠，敏感患者數據也不會被泄露。

3.2.4 ADMM(交替方向乘子)方法 ADMM是一種增廣拉格朗日式的變體，用來解決凸函數的優化問題。它可以應用于多種場景，包括邏輯回歸、Lasso回歸、支持向量機、線性回歸、遞歸最小二乘法、主成分分析以及循環神經網絡。在回歸模型場景中基于ADMM的分布式帶邏輯回歸[23]可分別應用于水平分割和垂直分割的患者數據。針對水平分割的數據，將通過最小化每個數據中心的數據L2正則化對數似然函數來分別更新總體的模型參數。如果數據是垂直分割在各個數據中心，基于ADMM框架的Lasso回歸將合并來自各個數據中心的中間結果，在L2正則化邏輯損失函數中衍生出一個輔助變量。通過合并所有數據中心的模型中間結果和平均化輔助變量來更新雙變量的方式，ADMM框架下的分布式邏輯回歸可以防止本地數據中心從更新的中間結果來推論模型的方式以達到高效保護隱私的效果。在分類模型場景中基于ADMM開發的分布式支持向量機分類器[18]同樣可以應用于水平分類的數據中心。通過引入輔助變量，線性支持向量機分類器在共識約束下被分解為一系列的凸函數的子函數優化問題。在ADMM框架下全局支持向量機分類器通過每個節點交換其估計的模型參數而不是其訓練參數來達到隱私保護的效果。為處理連續且異步的學習任務，線性分布式支持向量機分類器支持基于時間變化的數據線上更新，該分類器可以通過部分更新的方式來適應從訓練數據集中增加或移除的部分數據樣本。

3.2.5 基于多方安全計算方法 基于多方安全計算的邏輯回歸模型保護的是在模型迭代訓練期間傳遞的中間結果[11]。該方法通過在最大化似然估計時使用固定的海森矩陣來呈現一種安全的矩陣求和、求積和求逆的協議用于模型訓練，是一種提供在特定情況下為防止數據和中間結果泄露的解決方案，具有可靠的準確性。但是該方法在數據計算和傳輸方面成本較高，不適用于有限網絡帶寬下的大數據的大規模計算。

3.3 非結構化電子病歷數據

除結構化數據外，醫學上還有很多數據是非結構化的，如醫囑病歷的文本數據。非結構化電子病歷是指醫護人員在記錄患者信息過程中未遵循統一的數據格式和記錄標準，通常包含患者個人相關的細節和醫護人員的非疾病相關記錄。非結構化電子病歷有利于醫護人員對患者情況進行快速、準確的回顧和判斷，但是不利于數據的傳播和二次使用。具有隱私保護的聯盟學習下的文本預測模型[24]通過Word2Vec(詞轉換成向量)對來自不同數據源的數據進行上下文標記的轉換，然后匹配相對應的一系列錨點融合進入不同的向量模型。通過對比結構化和非結構化的數據來預測患者最有可能的疾病。通過聯盟學習基于多中心數據建立的全局融合模型較只基于各個中心獨立數據建立的模型具有更高的預測準確性。另外對于患者相似性的診斷也是一個重大難題。建立一名患者信息的哈希結構框架[25]，用哈希編碼的方式表示來自不同機構的患者信息，患者之間的相似性能被該框架有效地計算出來，可以避免逆向工程中的安全攻擊。此外該算法框架分別在平衡數據集和不平衡數據集中的準確性為91.56%和80.12%，兼顧隱私安全和系統效率。

3.4 基因數據

近年來隨著測序技術的發展，基因數據被有效地應用于生物醫學研究領域，其在醫學診斷和治療方面更為精準醫療奠定重要基礎[26]。然而由于基因數據包含很多敏感信息，如身份[27]、疾病[28]、面部特征[29]信息等，所以在合理利用基因數據的同時保護數據擁有者的隱私十分必要。文獻[30]基于軟件加密電路設計一套多方安全計算的基因分析框架來發現疾病與基因的相關性，但由于軟件加密電路的開銷巨大，該方法只適用于非常小尺度數據的情況。文獻[31]設計一套基于安全計算的聯邦機器學習框架來幫助人們確定自己的祖先，該方法對預篩選的SNPs數據基于EM算法進行聯合估計并最終得到每個混血個體的祖先組成。文獻[32]基于加密硬件設計一套高效的跨國基因數據聯合分析系統，該系統對來自3個不同國家的695 784條SNPs基因數據進行分析，從而找出統計學上排名前10位的SNPs來自于五段基因，為川崎病的診斷和治療提供一定依據。文獻[33]設計一套安全的基因數據比對分析系統，該系統用加密硬件來托管基因數據庫并提供比對分析服務，客戶通過安全通道和加密硬件進行通信，得到個人基因數據和數據庫基因數據的比對結果。

3.5 醫學圖像數據

在醫學影像領域，深度學習的卷積神經網絡技術可以迅速、準確地幫助醫生識別圖像中的相關信息，極大降低誤診率，節約時間成本，有助于醫生及時并準確地做出診斷，降低患者健康風險。例如CT可以作為有效的臨床依據來幫助確診COVID-19。然而卷積神經網絡依賴于準確的網絡參數，而準確的網絡參數依賴于大數據的支持。傳統方法是假定所有數據匯總到同一方統一進行計算。然而出于個人數據隱私保護和法律規章制度的考慮，這種集中式計算方式在實際應用中面臨很大困難。但是如果僅依賴個體或少數醫院的醫療影像數據計算出模型參數，可能由于樣本量不夠而降低準確率，一個沒有充分計算的卷積網絡甚至會出現大相徑庭的結果，不僅不能很好地服務于廣大醫務人員，還會提高誤診率。聯邦學習很好地解決卷積神經網絡訓練醫學圖像數據量和數據擁有者之間的隱私問題。通用的卷積神經網絡訓練方法，見圖5。假定W為模型參數，N為數據擁有者個數，K為迭代步驟，W上標表示不同的迭代步數，下標表示不同的數據擁有者，另外含有下標的參數表示局部模型參數，否則其為全局模型參數，其具體步驟如下：全局服務器初始化模型參數W0并發送給各個數據擁有者{1,...,N}；各個局部數據擁有者在得到全局模型參數Wk后初始化本地模型，并基于本地數據訓練出局部模型Wik；所有局部數據擁有者局部模型發往全局服務器進行合成；全局服務器在得到局部參數{W0k,W1k,...,WNk}后更新參數得到全局模型參數{Wk+1}，如果Wk+1達到精度要求或k+1達到最大迭代次數K則停止模型訓練并輸出模型結果，否則繼續步驟2。現有的大部分聯邦深度學習算法都是基于以上框架或者其變體。在醫學圖像方面也有一些應用。例如美國賓夕法尼亞大學和英特爾合作，基于以上框架提出聯邦深度學習網絡用于對腦部腫瘤分割的方案[34]，訓練的模型是基于U-Net[35]，為保護隱私其提出可以采用英特爾的加密芯片來輔助計算。英偉達和英國國王學院合作開發一種類似的聯邦學習下網絡用來進行腦部腫瘤分割[36]，為進一步保護數據提出基于查分隱私的方案，用過加入拉普拉斯噪聲[37]到局部參數模型的策略來提高本地數據的保護級別，但會很大程度地降低模型準確性。

圖5 通用的卷積神經網絡訓練方法

4 結語

本文結合當前新型冠狀病毒疫情，闡述生物醫療大數據基于隱私保護的數據共享和聯合分析的必要性，具體介紹聯盟學習技術特點和適用性以及當前針對各種不同數據類型基于聯盟學習框架的機器學習和深度學習的實際應用。面對疫情，積極迎戰，充分運用現代化工具，建設合規、穩定、長期、充分利用全社會資源的有效疫情監控、跟蹤和分析系統，及時把握整體情況，進行準確的預警跟蹤分析，盡早恢復正常的生產生活。

(致謝：本項研究是由杭州锘崴信息科技有限公司科研基金、華西醫院系統遺傳研究所和公安部第三研究所信息與網絡安全重點實驗室基金共同資助完成。)