基于改進神經網絡的糖尿病生化指標值預測

陳德華，洪靈濤，潘 喬

(東華大學 計算機科學與技術學院，上海 201620)

基于改進神經網絡的糖尿病生化指標值預測

陳德華，洪靈濤，潘 喬

(東華大學 計算機科學與技術學院，上海 201620)

糖尿病在治療過程中，其生化檢驗指標的變化受患者基本特征、指標等影響。文中針對預測患者糖尿病生化指標的問題，結合神經網絡等機器學習方法，構建了一個基于改進神經網絡的糖尿病生化指標預測模型。該模型考慮了糖尿病生化指標和患者的基本特征對指標的影響，同時又將患者之前的檢驗數據樣本加入到模型中。實驗證明，對于糖尿病患者的指標數據，3個主要血檢指標預測訓練集的R2值達到0.772 1、0.551 8、0.706 3，測試集的R2值達到了0.644 7、0.584 0、0.804 6，對比實驗也證明了該模型相較于常用的機器學習模型有著更好的預測效果。

糖尿病;神經網絡;指標預測

0 引言

糖尿病作為一個高發的內分泌疾病，其各項指標的預測都有很重要的意義。糖化血紅蛋白(HbA1c) 指標是人體血液中紅細胞內的血紅蛋白與血糖結合的產物, 通常可以反映患者近8～12周的血糖控制情況；空腹血糖(Glu)指標能夠代表基礎胰島素的分泌功能；而胰島素釋放試驗(Ins)反應了胰β細胞的儲備功能,這些糖尿病的主要指標預測具有調整治療方案、評估患者狀態、衡量治療結果等重要的實際意義。

以往糖尿病的指標預測僅僅停留在醫學領域或者簡單的統計分析上。隨著機器學習技術的發展，各類機器學習模型也被應用到醫療行業的各個領域。但是對于大量有不同特性的數據樣本，許多機器學習的模型過于泛用，而對于糖尿病指標數據的預測而言，以往的模型大多停留在解決指標間的相關性上，而沒有考慮到患者一直以來的指標變化。同時患者指標變化數據具有不規則時序特性，這些特性也阻礙了一些模型應用到這類特殊的數據集上。

本文提出了一個基于改進神經網絡的模型，該模型不僅充分考慮到患者指標間的相互影響，同時通過加入隱藏層來擬合患者多次檢查中不規則的時序特性，對比實驗也證明了該模型相較于常用的機器學習模型有著更好的預測效果。

1 糖尿病臨床數據建模

糖尿病臨床數據主要由兩部分組成：患者的基本信息，此維數據主要包括了患者的性別、年齡、妊娠狀態等;患者的檢驗數據，此維數據主要包括了患者歷次的各項生化指標的檢驗時間和指標值。

由以上兩類數據源可以得到一個以患者、時間和患者屬性(包括患者特征和指標等)為3個維度的三維數據模型，而這個數據模型有以下特點：

(1)不規則的時序特性

例1．表1中列舉了一個患者血液檢查中糖尿病主要指標的數據樣本。該數據的時間跨度從2011年～2012年，共有5次檢查數據，每次檢查與上一次檢查的時間間隔分別為110天、103天、128天和60天。

例1中可以看到，醫療數據的確具有時序特性，但相較于標準的或者較為正規的時序數據集，醫療數據的時序點更為殘缺和稀疏。這就使得很多數學模型并不適用于真實醫療數據的預測。

(2)指標和患者基本信息具有相關性

例2. 表2為不同性別分組A1C指標的統計描述。展示了不同年齡和性別分組的情況下患者的A1C指標分布情況。從例2中可以看出，不同性別的患者指標分布并不均勻，同時患者的年齡對指標的分布也有著影響。

顯著性P<0.001

(3)指標間具有相關性

患者的指標存在相互影響的關系，相關資料也表明，患者的疾病指標也與很多的患者特性有著諸多相關，所以指標間的相互影響不可忽略。

2 神經網絡及存在的不足

BP神經網絡[1-2]是一種按誤差逆傳播算法訓練的多層前饋網絡，是目前應用最廣泛的神經網絡模型之一。神經網絡擅長于處理內部機制復雜的問題，具有較強的非線性映射能力，因而神經網絡在處理指標間、患者基本屬性與指標預測的關系時有較強的能力[3]。但是，由于需要同時考慮到患者多次檢查對患者指標的影響，一般的神經網絡無法處理多次輸入之間的關系，不能很好地適應當前的數據模型。因而為了較好地預測糖尿病患者的幾個主要指標變化，提高預測精確度，本文利用糖尿病患者特征、治療時間和治療過程中的指標變化特性，提出了一個基于神經網絡的改進神經網絡模型，利用了BP神經網絡[2-3]中的思想，來完成糖尿病指標的預測。

3 預測模型架構

根據上節的描述，考慮到患者的各種特征對指標預測的影響，將患者性別、年齡、妊娠狀態等也作為模型的輸入。同時，如例1種所述，考慮到醫療數據所具有的時序特性，本文在改進的模型中加入了一個隱藏層，用于保存上一次隱層的輸出，并將它用于下一次的隱層計算，以此來擬合醫療數據的時序特性。為了簡化部分計算，減低模型可能的過擬合概率，模型將一些與預測結果直接相關的輸入單獨列出，作為特殊的節點輸入，直接連接到輸出節點。

3.1 模型描述

實驗中的模型是基于BP神經網絡改進的，具體包括4個層次，即輸入層、隱藏層1、隱藏層2和輸出層次。

將輸入參數x1,x2,…,xn記作x，對輸入參數先進行線性變換，對于隱層1節點j的輸入有：

(1)

隱層中激勵函數選用sigmoid函數，所以為了保證sigmoid有較好的感知效果，本文利用sigmoid在定義域為0附近較為敏感的特性，結合數據特點，將式(1)中的kj進行雙曲變換，然后再附上偏置量，由此得到隱層的激勵函數為：

(2)

其中pi表示隱層1節點i的輸出，βi為對應偏置量。

(3)

其中αi表示隱層2節點i所對應的輸出權值。

對于輸入層中包含特殊節點N，筆者認為在這樣一份時序數據中，每條數據的時間與其輸出有直接關系，則不將該節點通過隱層處理，而是直接連接到輸出層。將隱層的輸出y1,y2,…,yn記作y，在輸出層采用purelin函數，可以得到輸出層的輸出zj為：

(4)

3.2 學習過程

整個訓練過程基本采用BP算法的思想,首先，模型的整體MSE為：

(5)

訓練學習過程以最小化MSE為目的，利用梯度下降算法，以目標負梯度方向對參數進行調整，對于誤差函數(5)和給定學習率η，參數ωi→j的負梯度變化量為：

(6)

其中：

(7)

(8)

(9)

將式(7)、(8)、(9)帶入式(6)可得：

(10)

同理，根據式(10)同樣的推導方式可以得到其他參數的變化量為：

(11)

(12)

(13)

(14)

Δγj=-η·g

(15)

代次數在20次時就已過擬合。而一般的神經網絡模型擬合的效果較差，并不能達到良好的預測效果。

5 結論

本文提出了一個基于BP神經網絡，針對糖尿病醫療數據集所構建的改進神經網絡預測模型。與一般的神經網絡相比，該模型針對于特定數據集，添加了隱層用來保存上一次隱層節點的輸出，修改了隱層的激勵函數，加入了特殊節點來更好地擬合數據。在第四節的實驗中，可以看到本文所構建的模型對于糖尿病的醫療數據集的預測有良好的表現。在預測準確性上，要優于傳統的神經網絡及其他的模型。

[1] Cai Binghuang, Jiang X. A novel artificial neural network method for biomedical prediction based on matrix pseudo-inversion[J]. Journal of Biomedical Informatics, 2014, 48(3):114-121.

[2] PAPPADA S M, CAMERON B D, ROSMAN P M, et al. Neural network-based real-time prediction of glucose in patients with insulin-dependent diabetes[J]. Diabetes Technology & Therapeutics, 2011, 13(2):135-41.

[4] RODRIGUEZ P, WILES J, ELMAN J L. A recurrent neural network that learns to count[J]. Connection Science, 1999, 11(1):5-40.

陳德華(1976-) ，男，博士，副教授，主要研究方向: 數據庫，數據倉庫與智慧醫療。

洪靈濤(1992-) ，男，碩士研究生，主要研究方向: 算法，數據挖掘。

潘喬(1977-) ，男，博士，副教授，主要研究方向: 數據挖掘，網絡性能分析。

4 實驗評估

本實驗中的醫療數據源于國內某大型三甲醫院的糖尿病患者的醫療數據。共有348位患者的信息，每個患者至少包括了3條以上的檢查數據。共1 399條檢查數據。數據以7：3的比例劃分訓練集和測試集。模型的輸出為預測時間下的A1C、GLU、INS 3個指標的值。

4.1 模型評價標準和參數設定

本次實驗預測指標的數據特征如表3。

首先對模型的數值數據進行歸一化處理。本節選取均方誤差(Mean Square Error, MSE)和決定系數(coefficient of determination,R2)來作為實驗的評價指標。兩者的計算公式如下：

后續實驗均選取R2來衡量實驗結果。

圖1給出了在不同BP迭代次數的情況下模型的R2值。可以看到，當BP的迭代次數大于500次時，模型預測結果的R2值已經基本保持不變。所以本文實驗中對于每一次BP過程，每一個參數迭代500次或迭代至該參數收斂為止。

實驗時模型采用動態學習率，學習率在每一個新樣本進入模型時更新，學習率公式為:

其中，η′為上一個樣本時模型的學習率。本系列實驗中學習率的初始值為0.05。

4.2 實驗結果評估

在上述實驗條件下，經過100次隨機初值實驗獲得3個指標值預測結果的R2均值。實驗可以看出，該模型對于本數據集的預測效果較好，無論是訓練集還是測試集的決定系數R2都在0.6～0.8左右，模型的擬合程度較好。

實驗過程中進行了對比實驗，對比實驗中使用了普通的BP神經網絡、xgboost等算法對相同的數據進行了預測，在表4中可見各個算法的對指標預測的R2值。在對比實驗結果中可以看到，本文提出的模型總體的表現最好； xgboost在測試集表現與本文提出的模型相近，但是迭

Prediction of biochemical indexes of diabetes mellitus based on improved neural network

Chen Dehua, Hong Lingtao, Pan Qiao

(School of Computer Science and Technology，Donghua University，Shanghai 201620，China)

During the treatment of diabetes, the changes of biochemical indexes of diabetes are affected by the basic characteristics of the patients and other indexes. In this paper, we focused on the prediction of the diabetes indexes. Combining with the neural network and other machine learning methods, we constructed an improved neural network model to predict the biochemical indexes of diabetes. The model considered the impact of biochemical indicators, the basic characteristics of the patient and the previous indicators of the patient. Experiments show that the R2value of the training set of three main indexes of blood examination is 0.772 1, 0.551 8 and 0.706 3, and theR2value of the test set is 0.644 7, 0.584 0 and 0.804 6. Contrast experiments show the model has a better prediction performance than the commonly used machine learning models in indicator data of diabetic patients.

diabetes; neural network; indicators prediction

TP302

A

10.19358/j.issn.1674- 7720.2017.05.017

陳德華，洪靈濤，潘喬.基于改進神經網絡的糖尿病生化指標值預測[J].微型機與應用，2017,36(5)：54-56，59.

2016-11-15)