基于Relief-LVQ的腦功能網(wǎng)絡(luò)分類

黃 瑾，梅 雪+，王 曉，易 輝

(1.南京工業(yè)大學(xué) 電氣工程與控制科學(xué)學(xué)院，江蘇 南京 210000； 2.南京醫(yī)科大學(xué)附屬腦科醫(yī)院 放射科，江蘇 南京 210000)

0 引 言

近年來，許多研究人員將功能磁共振成像(functional magnetic resonance imaging，fMRI)與機器學(xué)習(xí)方法相結(jié)合并應(yīng)用于腦認(rèn)知研究。X.Sun and J.Park[1]利用支持向量機(support vector machine，SVM)與方差分析(analysis of variance，ANOVA)相結(jié)合，使用Haxby數(shù)據(jù)集對fMRI圖像進行分類。A.Kazeminejad等[2]調(diào)查了圖形理論分析對帕金森病自動診斷的適用性，使用Relief自動特征選擇方法從所有提取的特征中選擇5個最佳特征對患者進行分類，得出帕金森病患者的癥狀與腦網(wǎng)絡(luò)改變相關(guān)的結(jié)論，并顯示了使用圖論指標(biāo)和機器學(xué)習(xí)來診斷疾病的有效性。A.Riaz等[3]提出了一種端到端的DeepfMRI模型，該模型利用深度學(xué)習(xí)從fMRI數(shù)據(jù)中分類神經(jīng)障礙。S.B.Katwal等[4]使用基于圖形的可視化來捕獲fMRI數(shù)據(jù)特征，發(fā)現(xiàn)基于圖形自組織的可視化方法有助于fMRI數(shù)據(jù)中聚類邊界更高精度的可視化，從而能夠區(qū)分大腦響應(yīng)時間差異較小的區(qū)域。S.Sarraf和G.Tofighi[5]將著名的LeNet-5架構(gòu)與CNN相結(jié)合，成功分類了來自正常對照的阿爾茨海默氏癥患者的fMRI數(shù)據(jù)。

本文提出一種使用Relief-LVQ網(wǎng)絡(luò)改善分類結(jié)果的方法。為了減少實驗的運行時間，首先使用基于樣本學(xué)習(xí)特征權(quán)重的Relief算法提取特征，通過計算對象之間的相對距離計算權(quán)重。在計算對象之間的距離的過程中，特征彼此相互作用并不會減少奇異特征的數(shù)量，所以對分類準(zhǔn)確性的保障較大。此外，本文提出學(xué)習(xí)矢量量化(learning vector quantization，LVQ)網(wǎng)絡(luò)的競爭網(wǎng)絡(luò)結(jié)構(gòu)[6]用于結(jié)合競爭學(xué)習(xí)的特征和監(jiān)督學(xué)習(xí)算法的特征，其體系結(jié)構(gòu)包括輸入層、競爭層和線性輸出層。LVQ網(wǎng)絡(luò)的優(yōu)勢不僅在于其高效率，而且具有魯棒性，特別適用于分類問題。

1 相關(guān)方法

本研究首先使用預(yù)處理后的fMRI數(shù)據(jù)來匹配自動解剖標(biāo)記(automated anatomical labeling，AAL)模板，以獲得每個受試者的功能性網(wǎng)絡(luò)連接矩陣。其次，提取每個矩陣的上三角元素并將其轉(zhuǎn)換為行向量，并將所有向量合并成為矩陣。第三，我們使用Relief算法來提取所有被試的特征。最后，運用LVQ網(wǎng)絡(luò)提高分類準(zhǔn)確性。

1.1 腦功能連接網(wǎng)絡(luò)

大腦被分為90個區(qū)域(小腦分為26個區(qū)域)，其中fMRI數(shù)據(jù)常用AAL模板[7]進行匹配。不同腦信號之間的Pearson相關(guān)系數(shù)用于表示它們之間的功能連接的強度，從而獲得對稱的90×90相關(guān)系數(shù)矩陣。Pearson相關(guān)系數(shù)根據(jù)式(1)計算

(1)

1.2 Relief算法

Relief算法是一種特征加權(quán)算法，適用于解決二類分類問題，能夠通過計算樣本之間的距離來選擇參與權(quán)重計算的相鄰特征。由于距離計算過程中涉及的特征會影響樣本的相對距離，所以會影響相鄰特征的選擇。因此，Relief算法是一種多變量過濾特征選擇算法，并且考慮了特征的相互依賴性，對重新選擇特征有重要作用。

為了衡量特征區(qū)分的能力，Relief算法分離了同類特征和異類特征之間的特征差異。如果相似樣本之間的差異很小而異構(gòu)樣本之間的差異很大，則說明該變量具有很強的區(qū)分能力。將樣本設(shè)置為D={(xi,di),xi∈Rv,di∈{-1,1},i=1,2,…u}， 每個樣本包含v個特征，xi={xi1,xi2,…,xip}， (1≤i≤u)， 所有要素的值都是數(shù)字。在兩個樣本xi和xj(1≤i≠j≤u) 之間定義特征t(1≤t≤v) 上的D值的定義如式(2)所示

(2)

其中， maxt和mint是樣本集中要素的最大值和最小值。

從受試者的集合中隨機選擇樣本xi(1≤i≤u)， 然后從兩種不同的樣本中選擇兩個被試。我們稱與xi相同的樣本為“Hit”，相反的為“Miss”。特征t的權(quán)重如式(3)所示

wt=wt-diff(t,xi,Hit)/r+diff(t,xi,Miss)/r

(3)

其中，wt表示t的權(quán)重，r表示迭代次數(shù)。

從式(3)可以看出，在計算特征權(quán)重的迭代過程中，樣本t在xi與其相對樣本之間的D值-diff(t,xi,Miss)/r必須減去與其相同樣本之間的D值-diff(t,xi,Hit)/r。 具有較強辨別能力的特征在異構(gòu)類型之間存在較大差異，相似類型之間存在較小差異，因此區(qū)分特征權(quán)重應(yīng)為正。

重復(fù)上述過程r次，可以獲得最終每個特征的平均權(quán)重，并提取權(quán)重高于閾值的特征[8,9]。總而言之，Relief算法可以很好地提取所需的特征，并且不用擔(dān)心丟失奇異值。

1.3 LVQ神經(jīng)網(wǎng)絡(luò)

基于競爭網(wǎng)絡(luò)的LVQ網(wǎng)絡(luò)結(jié)合了競爭學(xué)習(xí)的特點和監(jiān)督學(xué)習(xí)算法。

1.3.1 LVQ神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)

LVQ網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示[10]。有m個神經(jīng)元的競爭層與有n個神經(jīng)元的輸入層完全連接。輸出層中的每個神經(jīng)元僅連接到競爭層中的一組神經(jīng)元。連接權(quán)重固定為1，輸入層和競爭層之間的權(quán)重在訓(xùn)練過程中逐漸調(diào)整到集群中心。競爭層的神經(jīng)元通過勝者為王的學(xué)習(xí)規(guī)則生成獲勝神經(jīng)元，這樣當(dāng)樣本進入LVQ網(wǎng)絡(luò)時，輸出值設(shè)置為1，其它設(shè)置為0。與獲勝神經(jīng)元相連的輸出值設(shè)置為1，而其余設(shè)置為0，這給出了當(dāng)前輸入樣本的模式類，成為競爭層學(xué)習(xí)分類的子類，通過輸出層學(xué)習(xí)獲得的類成為目標(biāo)類。

圖1 LVQ神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)

1.3.2 LVQ神經(jīng)網(wǎng)絡(luò)的工作原理

在訓(xùn)練之前，定義從競爭層到輸出層的權(quán)重來指定輸出神經(jīng)元的類別，其在訓(xùn)練期間不再改變，可以通過改變輸入層和競爭層之間的權(quán)重來訓(xùn)練網(wǎng)絡(luò)。實驗中可以根據(jù)輸入樣本類別和獲勝神經(jīng)元的類型確定當(dāng)前分類是否正確。如果分類正確，則將獲勝神經(jīng)元的權(quán)重向量向為輸入向量的方向調(diào)整，如果分類錯誤，則向其相反方向調(diào)整，如圖2所示。

圖2 LVQ神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)過程

LVQ神經(jīng)網(wǎng)絡(luò)是基于自組織網(wǎng)絡(luò)的有監(jiān)督學(xué)習(xí)，其分類結(jié)果不僅取決于輸入矢量與中間層神經(jīng)元之間的距離，還取決于權(quán)重的設(shè)置。LVQ神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)簡單，只需基于內(nèi)部神經(jīng)元的交互作用即可處理復(fù)雜的分類問題。通過自主訓(xùn)練和自動分類輸入數(shù)據(jù)，LVQ網(wǎng)絡(luò)可以有效克服訓(xùn)練樣本空間存儲量大，分類時間長的缺點，其學(xué)習(xí)速度比BP網(wǎng)絡(luò)等其它網(wǎng)絡(luò)快。LVQ網(wǎng)絡(luò)的學(xué)習(xí)過程是在競爭機制的約束下動態(tài)調(diào)整連接權(quán)重的過程，其主要目的是將中間層的分類結(jié)果映射到指定的目標(biāo)分類，而不對原始數(shù)據(jù)進行歸一化和正交化，只能通過計算輸入矢量和中間層之間的距離來實現(xiàn)分類[11]。

1.4 K-交叉驗證

在機器學(xué)習(xí)中，數(shù)據(jù)集A分為訓(xùn)練集B和測試集C。為了解決因數(shù)據(jù)集樣本不足引起的精確度降低的問題，將數(shù)據(jù)集A隨機劃分成K份，其中一份作為測試集，其余的K-1份作為訓(xùn)練集[12]。關(guān)于K的取值，通常我們選擇10[13]，本研究中多次進行測試并選擇最佳K值為5。

2 實驗及結(jié)果

2.1 數(shù)據(jù)獲取及預(yù)處理

本文使用兩組被試，包括244名抑郁癥患者和28名健康對照(heathy construct，HC)。此外，為了與文獻[14]進行比較，本文還使用了文獻[14]中的數(shù)據(jù)集，分別見表1。

表1 數(shù)據(jù)分布

fMRI數(shù)據(jù)均由Siemens Trio Tim 3T掃描儀收集。為了消除掃描開始因磁場的不穩(wěn)定而引起的數(shù)據(jù)噪音，本文去除前10個時間點的數(shù)據(jù)，僅處理和分析剩余的90個時間點。主要步驟包括時間層校正，頭動校正，空間標(biāo)準(zhǔn)化，平滑和濾波。

2.2 分類結(jié)果

圖3中所示的所有特征的權(quán)重直觀地表示了Relief算法的特征選擇過程。選擇相關(guān)閾值獲得有用特征進行分類。

圖3 權(quán)重分布

為了評估本文方法的性能，我們測試了不同精神病障礙的兩個數(shù)據(jù)集，并將其中一個與文獻[14]進行比較。計算如式(4)所示準(zhǔn)確度(ACC)衡量方法的性能

(4)

其中，TP是真陽性的數(shù)量(正確分類的患者數(shù))，TN是真陰性的數(shù)量(正確分類的HC的數(shù)量)，F(xiàn)P是假陽性的數(shù)量(被分類為患者的HC的數(shù)量)，F(xiàn)N是假陰性的數(shù)量(歸類為HC的患者數(shù)量)。

從表2中可以看出，LVQ網(wǎng)絡(luò)訓(xùn)練樣本的準(zhǔn)確性遠低于Relief-LVQ網(wǎng)絡(luò)的訓(xùn)練結(jié)果。在簡單的LVQ網(wǎng)絡(luò)訓(xùn)練中，具有大量相似度很高的特征，使得兩種類型具有大面積重疊信息，從而導(dǎo)致網(wǎng)絡(luò)收斂速度急劇下降，此外，學(xué)習(xí)速度和分類準(zhǔn)確性也受到影響。通過Relief-LVQ網(wǎng)絡(luò)訓(xùn)練樣本，當(dāng)通過Relief算法提取輸入特征后，LVQ網(wǎng)絡(luò)的分類精度大大提高。這是因為在通過Relief處理的重建樣本集中克服了信息重疊的問題，數(shù)據(jù)的特征更加明顯，可以提高LVQ網(wǎng)絡(luò)的學(xué)習(xí)效率和準(zhǔn)確性[10]。

表2 實驗結(jié)果的比較

將精神分裂癥患者(schizophrenia，SZ)和HC的分類結(jié)果與文獻[14]中的結(jié)果進行比較。LVQ網(wǎng)絡(luò)的輸入層中的神經(jīng)元數(shù)是21，因為先前通過Relief算法提取了22個特征。輸出層中的神經(jīng)元數(shù)為2，代表數(shù)據(jù)集中有兩個類別。經(jīng)過多次網(wǎng)絡(luò)訓(xùn)練后發(fā)現(xiàn)當(dāng)競爭層中的神經(jīng)元數(shù)量為10時網(wǎng)絡(luò)最穩(wěn)定，其收斂速度最快。我們可以清楚地看到，本文中使用的方法比使用相同數(shù)量和類型被試的文獻[14]中提出方法的精確度更高。

文獻[14]中的分類使用了Boosting，其子分類器是SVM，具有很強的泛化能力，可以避免過擬合問題。而LVQ神經(jīng)網(wǎng)絡(luò)是一種監(jiān)督神經(jīng)網(wǎng)絡(luò)，它可以減少訓(xùn)練期間需要調(diào)整的多個參數(shù)，因此訓(xùn)練的結(jié)果得到改善。較少數(shù)量的被試導(dǎo)致訓(xùn)練集樣本的誤差與測試集的誤差之間存在較大差異。Relief-LVQ網(wǎng)絡(luò)模型并沒有找到訓(xùn)練集中包含的規(guī)則，也沒有很好的泛化能力，所以LVQ網(wǎng)絡(luò)的優(yōu)勢并不明顯。此外，數(shù)據(jù)集樣本數(shù)量越大，其訓(xùn)練準(zhǔn)確性越高。盡管使用更多的受試者可以更加準(zhǔn)確和穩(wěn)定地訓(xùn)練分類器，但是SZ的準(zhǔn)確度僅比抑郁癥的精確度低2%，這說明了通過Relief-LVQ網(wǎng)絡(luò)訓(xùn)練樣本能提高分類精確度并且有利于日常應(yīng)用。

3 討 論

傳統(tǒng)醫(yī)學(xué)圖像分析的挑戰(zhàn)主要包括從原始數(shù)據(jù)中提取最具辨別力的特征并選擇最佳分類方法。在這項研究中，我們僅使用LVQ網(wǎng)絡(luò)和Relief-LVQ網(wǎng)絡(luò)來分類抑郁癥患者和健康被試，并與使用鏈接預(yù)測分類精神分裂癥患者和健康被試的方法進行對比，其結(jié)果表明，Relief-LVQ網(wǎng)絡(luò)具有優(yōu)勢。由表2可知通過Relief算法提取特征使得準(zhǔn)確率從83.33%迅速提高到97.561%。文獻[14]中使用的鏈路預(yù)測方法的最大優(yōu)點之一是重建和加強每兩個節(jié)點之間的連接，這固然可以增強特征，然而由于受試者數(shù)量較少，特征之間重疊信息較多，兩種算法之間的準(zhǔn)確度略有不同。然而，當(dāng)受試者數(shù)量增加時，Relief-LVQ網(wǎng)絡(luò)的分類準(zhǔn)確性也會增加，而SVM的效果不明顯。

SVM算法對丟失的數(shù)據(jù)較敏感，并且不善于處理高維數(shù)據(jù)，而Relief-LVQ網(wǎng)絡(luò)卻恰恰相反。此外，數(shù)據(jù)不平衡可能導(dǎo)致提升算法中的分類準(zhǔn)確度下降，其訓(xùn)練更耗時。LVQ網(wǎng)絡(luò)屬于前向監(jiān)督神經(jīng)網(wǎng)絡(luò)，其分類結(jié)果僅取決于輸入向量與競爭層之間的距離，并且極大地解決了由高維數(shù)據(jù)引起的問題。此外，除了對兩種被試進行分類的能力強之外，所提出的方法還能夠解決多分類問題。

本文還將Relief-LVQ網(wǎng)絡(luò)與BP網(wǎng)絡(luò)和CNN的分類結(jié)果進行了比較，見表3。

表3 Relief-LVQ網(wǎng)絡(luò)，BP網(wǎng)絡(luò)與CNN的結(jié)果比較

BP神經(jīng)網(wǎng)絡(luò)是典型的前饋神經(jīng)網(wǎng)絡(luò)，它具有很強的非線性映射能力，利用BP算法訓(xùn)練基于權(quán)重的非線性可微函數(shù)可以成功地解決各種簡單或復(fù)雜的分類問題。然而，BP神經(jīng)網(wǎng)絡(luò)中輸出層節(jié)點的數(shù)量限制在一個小的樣本范圍內(nèi)，因此基于BP神經(jīng)網(wǎng)絡(luò)分類的分類器不夠完善。LVQ神經(jīng)網(wǎng)絡(luò)可以通過競爭隱藏層傳遞函數(shù)根據(jù)其類型對輸入向量進行組合和分類，從而無需在訓(xùn)練期間調(diào)整多個參數(shù)，不僅可以對當(dāng)前輸入數(shù)據(jù)進行分類，還可以處理高維和小樣本的數(shù)據(jù)。fMRI圖像數(shù)據(jù)的高維和復(fù)雜的特征使得CNN模型參數(shù)的解空間變大，并且fMRI數(shù)據(jù)在體素連接之間具有更復(fù)雜的相關(guān)性，訓(xùn)練CNN模型時解空間有許多局部最優(yōu)解，且隨著解空間變得復(fù)雜和局部最優(yōu)解的增加，CNN模型的有效性降低。然而，Relief-LVQ算法已經(jīng)在第一步中提取了樣本數(shù)據(jù)的更好特征，并且在訓(xùn)練期間繼續(xù)減少目標(biāo)特征的數(shù)量，從而可以獲得高準(zhǔn)確率和結(jié)果，且具有良好的魯棒性。本文中使用的方法比CNN解決了快1/3的時間，而準(zhǔn)確高約12%，這明確地驗證了Relief-LVQ算法的優(yōu)勢。研究結(jié)果表明功能連接網(wǎng)絡(luò)特征在靜息狀態(tài)下會隨時間的增加而變得平緩[1]，可導(dǎo)致分類結(jié)果的下降，因此，本文采用k-交叉驗證的方法，多次訓(xùn)練被試樣本，減少了因時間變化所引起的特征不明顯問題。

實驗結(jié)果表明，由于Relief算法與LVQ網(wǎng)絡(luò)的結(jié)合對最終分類結(jié)果有很大的提升。Relief算法減小了特征維度，只是為了彌補LVQ網(wǎng)絡(luò)的重疊問題，使得有足夠的輸入信息，大大提高了分類速度和效率。

4 結(jié)束語

本文使用Relief-LVQ網(wǎng)絡(luò)試圖提高精神病學(xué)障礙的分類性能。在不同的精神疾病如抑郁癥和精神分裂癥中測試所提出的方法，結(jié)果表明，本文方法確實提高了分類的準(zhǔn)確性，比文獻[14]中介紹的方法的結(jié)果好2%。本文使用的方法易于實施，可用于改善多種精神病學(xué)障礙的分類問題，并預(yù)計它將在未來得到更廣泛的應(yīng)用。然而本方法還存在局限性，例如特征單一，不能代表一類疾病；沒有考慮年齡、性別等因素；功能性腦網(wǎng)絡(luò)的信息丟失等問題。在后續(xù)的研究中，將著重研究功能性腦網(wǎng)絡(luò)去噪與信息增強問題和多類特征分類。