多任務學習正則化模型對患者的分類研究

（長安大學，陜西 西安 710000）

0 引 言

神經成像技術已成為大腦結構和功能研究的重要工具，這一技術也被應用于研究精神分裂癥患者（SZ）的腦結構和功能。遺傳因素在精神分裂癥患者的大腦發育中具有重要作用。結合神經影像學和遺傳學研究技術，可以探索和評價與腦相關基因多態性對腦功能的影響，了解這些基因對精神分裂癥行為的影響。

近年來，精神分裂癥的組學研究也在不斷發展，包括基因組學、表觀基因組學、轉錄組學、蛋白質組學和代謝組學。然而，精神分裂癥的病因是由多種因素引起的，且多種因素之間相互作用[1-2]。單一組學研究只能對造成紊亂的因素提供部分解釋，而多組學數據的整合適合多種因素的研究。事實上，已有相當多的研究致力于通過多組數據集成來研究各種疾病。之前的工作主要集中在一種成像模式上（如靜止狀態或任務fMRI）。在神經影像學研究中，通常從相同的實驗對象中獲取多模態影像以提供補充信息。最近，人們在多任務學習框架中引入了多種模式以預測大腦認知分數，并對SZ和阿爾茨海默病（AD）的診斷進行分類[3-5]。

受文獻[6]方法的啟發，本文使用隨機森林策略計算模型中樣本之間的相似度，通過聯合學習少量的共同特征，吸收來自多種模式的互補信息；采用新的流形正則化器來保存模內和模間數據的結構信息。從機器學習的角度看，正則化項可以提取更多的判別特征，從而提高后續預測的性能。本文利用該算法結合單核苷酸多態性（SNP）、DNA甲基化和功能磁共振成像（fMRI）三種不同類型的數據，對SZ進行分類任務，展示模擬數據和真實數據分析（fMRI，SNP和Methylation）的實驗結果，并與其他現有模型進行比較，所設計分類方法的分類精度為86.07%。結果表明，在均方根誤差和相關系數的度量下，我們提出的模型與其他競爭模型相比，性能得到了改善。

1 模型的算法設計

多任務學習（MTL）的目的是通過利用多個任務之間的關系來提高其性能，特別是當這些任務具有一些相關性或共時性[7]。本文提出了一種多重正則化的多任務學習模型，用于從多個模式中聯合選擇少量的共同特征，并在分類中取得優異的性能，其中每個模式都被視為一個任務。重要的是，與經典的多任務學習模型相比，該模型加入多個正則化器，考慮了各模態內數據的結構信息。

1.1 經典多任務學習模型

假定給出M個學習任務（M組模態數據），我們表示第m個模態為：

式中：M=1, 2,...,m；代表了第i個樣本在第m個模態下的特征向量；d和N分別表示特征的個數和樣本數量。令y∈RN為樣本數據的響應向量，w(m)∈Rd為第m個模態的回歸系數向量。式（2）給出了經典多任務學習模型求解優化問題：

1.2 多任務學習正則化模型

經典的MTL模型只考慮了數據與響應值之間的關系，忽略了數據的結構信息，很可能導致較大的偏差。為了使相似的樣本具有相似的響應值，可以通過計算樣本之間的距離并轉換到相似性度量來依次描述樣本之間的相似程度。使用權值和大小為N×N鄰接矩陣L來表示樣本之間的相似度，其中，L(m)(a,b)用于表示樣本a與樣本b在第m個模態下的相似度。相似度矩陣L可以用不同的方法計算，常用的方法為利用歐幾里得距離計算一對樣本之間的距離，并對其進行規格化，形成相似度矩陣。隨機森林可以提取多種形式的相似性度量對，通過提供一致的方式組合不同類型的特征數據。基于樣本相似度矩陣，定義樣本相似度正則化如式（3）所示：

我們希望將數據的全局結構信息保存在原始特征空間中，并使用隨機森林生成的相似度矩陣來表示。在每個模態中構造一個相似矩陣來表示數據的遠近關系結構。可以定義基于樣本相似性的多模態特征選擇目標函數，如式（4）所示：

在上述模型中，使用多任務的多組數據關聯分析，不僅可以共同選擇不同類型數據中的共享信息，也可保持相似性信息漸變樣本在每個任務中的樣本相似性。現有的多模式特征選擇算法僅考慮成對樣本之間的關系或只考慮信息之間的幾個點樣本的鄰域，只使用局部信息而忽略了樣本集之間的全局相似性關系[9]。

2 模型的優化與求解

由于目標函數不可微且不光滑，沒有辦法計算某些點的梯度，所以目標函數不能直接采用梯度下降法求解。在此類問題上有很多方法可以求解目標函數式（4），如交替方向乘數法（ADMM）[10]和加速近端梯度法（APG）[11]。本文使用APG算法解決上述目標函數的優化求解問題。

首先，將目標函數劃分為兩部分，即f(w)+g(w)，分別如公式（5）和公式（6）所示：

式中，f(w)為凸可微，g(w)為凸不可微。迭代更新w，并用公式（7）近似f(w)+g(w)：

式中：表示矩陣X1TX2的跡；||·||F表示弗羅貝尼烏斯范數（Frobenius norm，F-范數）；Δf(w(t))表示f(w)在第t次迭代時在w(t)處的梯度；l表示迭代的步長。由APG算法可以得到關于系數權重矩陣w的迭代公式：

訓練得到權重矩陣w，之后得到計算結果的響應值，將其中每個元素與閾值0進行比較，如果測試響應值大于0，則樣本i的標號預測為+1；否則，預測為-1。分別在各測試子集上驗證，最后計算分類精度。

3 實驗結果與分析

3.1 模擬數據的測試

在真實集測試之前，本文在仿真數據集上對算法進行了驗證。首先按照雙螺旋模式生成單視圖數據集。每個數據集包含200個具有二元表型和二維測量的受試者。在模擬數據集中，每個螺旋的度數設置為540°，噪聲水平逐漸提高，使得纏繞的螺旋更加接近。將數據集導入本文算法中，同時將數據集導入具有徑向基核函數（RBF）的SVM中進行比較。

首先使用80%～90%的整體數據作為訓練數據來測試分類性能。當噪聲等級K≤1時，該模型和SVM的分類準確率均超95%；當K≤3時，兩者的分類準確率均超90%。針對這些情況，兩種算法的分類準確率無顯著差異（p值<0.05）。基于有限標記訓練數據的分類精度，本文的多任務學習正則化模型在所有噪聲水平上都優于SVM。隨著噪聲水平的提高，該模型與SVM的分類準確率均下降。

模擬數據實驗結果表明，多任務學習正則化模型的魯棒性優于SVM，在分類性能上效果較好，實驗結果如圖1和圖2所示，分別展示了SVM隨噪聲等級提高的誤差率和多任務學習正則化模型隨噪聲等級提高的誤差率。

圖1 SVM在仿真數據上的誤差

圖2 多任務學習正則化在仿真數據上的誤差

3.2 真實數據的測試

本文采用數據集大小為SNP：184×722 177，fMRI：184×41 236，DNA甲基化：184×27 508。首先使用隨機森林策略分別計算3組數據樣本之間的相似度，通過十折交叉驗證（CV）技術評估模型的分類性能。即首先將整組被試集隨機分為10個大小相近的不相交子集，然后依次選取每個子集作為測試集，其余9個子集用于訓練預測模型，利用訓練后的模型對測試集中的受試者進行分類，重復10次，以減少CV中抽樣偏差的影響。最后，分類精度達到86.07%。所有正則化參數模型的正則化參數γ和λ在訓練集上通過網格搜索各自范圍，即γ，λ∈{0.001，0.003，0.01，0.03，0.1，0.3，1，3，10}。

將多任務學習正則化模型與其他分類方法進行比較，結果如圖3所示。

圖3 多種方法的分類精度比較

測試的其他分類方法包括基于單個組學數據圖、多數鄰域平均融合（MMN）[12]、基于相似網絡融合的支持向量機（SSVM）[13]。在分類精度方面，本文提出的模型對SZ的分類精度高于其他集成方法。此外，與任何單一組學數據進行分類方法對比，將三種類型的數據與優化權重集成多任務學習正則化模型具有更高的準確性，這進一步驗證了該模型在數據集成方面的優越性。

4 結 語

本研究的重點是多任務學習正則化算法，利用隨機森林的策略度量樣本之間的相似性，如果用其他方法構造相似矩陣，分類性能會發生變化。例如，子空間聚類也可用于構建高維數據的相似矩陣[14-15]。相似度度量方法的選擇取決于數據集，特別是在先驗特征選擇方面[16-17]。除使用組稀疏正則化聯合選擇多個模態（任務）一組小的共同特征外，還設計了新的流形正則化以保存模態內部和模態之間的結構信息，此舉提高了后續分類的準確性，實現了對精神分裂癥患者分類的目的，為現代醫學區分慢性疾病提供了有效的解決思路。本文在模擬數據和真實數據上分別進行了測試，證明了該模型具有較強的魯棒性，并在真實數據分類的分類精度上達到了86.07%，與其他算法相比具有明顯優勢。