基于SE-DenseVoxNet的骨小梁模量預測方法

曹熠煒，何思淵，周平，李瀾，包倪榮

1 東南大學 生物科學與醫學工程學院，南京市，210096

2 南京大學醫學院附屬鼓樓醫院，運動醫學與成人重建外科，醫藥生物技術國家重點實驗室，南京市，210008

3 解放軍東部戰區總醫院，南京市，210002

0 引言

骨質疏松癥是一種常見的全身代謝性疾病，具有致殘率高、易發骨折等特點。隨著人口老齡化進程的加速，骨質疏松癥的發病率逐漸上升，嚴重影響老年人的健康和生活質量[1]。骨質疏松癥患者體內的骨吸收和骨形成的動態平衡被破壞，使得機體的骨質流失，骨小梁結構退化，骨的生物力學性質下降，容易引發骨質疏松性骨折[2]。因此，準確預測骨的生物力學性質對于骨質疏松性癥的早期防治與診斷具有重要的意義。

目前國內外主要通過雙能X射線法(DXA)測量骨骼的骨密度(BMD)[3]，進而評估和預測骨的生物力學性質，對骨質疏松癥進行診斷。這種方法存在兩個問題：第一，雙能X射線法測量骨密度時會受到皮質骨外殼、脂肪組織和軟組織的干擾，測量結果存在誤差；第二，骨密度是一個宏觀參數，無法完全反映骨骼的形態結構特征。研究表明，骨密度只能反映60%～70%的骨強度變化，骨的生物力學性質與骨小梁微結構密切相關[4]。Micro-CT、MRI等三維醫學成像方法可以消除骨骼外圍組織的干擾，獲取骨小梁微結構的細節，被廣泛應用于骨骼樣本的觀測與研究。ULRICH等[5]基于Micro-CT圖像對骨骼樣本的骨體積分數、各向異性程度、結構模型指數、骨小梁間隙等參數進行統計，然后使用多元線性回歸的方法對樣本的彈性模量進行預測。實驗結果表明，多元線性回歸方法的預測精度優于骨密度的預測精度；XU等[6]和HUBER等[7]分別基于Micro-CT圖像和MRI圖像統計了樣本的骨體積分數、面積體積比、骨小梁數目等參數，然后使用SVR、kNN等機器學習算法對樣本的屈服應力進行預測。實驗證明，機器學習算法的預測誤差小于多元線性回歸算法；CIUSDEL等[8]通過卷積神經網絡的方法自動提取骨小梁的形態結構特征，對樣本在指定載荷下的應變進行預測。實驗結果表明，卷積神經網絡的預測精度相比機器學習方法有所提升。

為了更準確地預測骨的生物力學性質，嘗試使用深度學習方法自動提取骨小梁微結構的形態特征，對樣本的彈性模量進行預測。對DenseVoxNet[9]的網絡結構進行改進，提出了深度回歸網絡SE-DenseVoxNet，并基于骨小梁三維圖像數據集對模型進行了訓練和評估。

1 方法

DenseVoxNet是一種三維圖像分割網絡，由特征提取和上采樣兩部分組成。我們對DenseVoxNet的特征提取部分進行改進，提出了深度回歸網絡SE-DenseVoxNet。如圖1所示，SE-DenseVoxNet首先基于卷積層Conv1對輸入圖像降維，然后通過Dense模塊[10]和SE模塊[11]提取圖像特征，最終通過全局平均池化層和全連接層對樣本真值進行預測。如圖2所示，Dense模塊由12層網絡層密集連接構成，每層網絡層的結構為歸一化層-ReLU函數-卷積層-歸一化層-ReLU函數-卷積層，其中第一層卷積層包含48個1×1×1大小的卷積核，第二層卷積層包含12個3×3×3大小的卷積核。1×1×1的卷積操作降低了特征維度，有效地減少了模型的參數數目和計算量。通過網絡層之間的密集連接，Dense模塊實現了特征復用，改善了網絡的信息流和梯度流，使得深層網絡的訓練變得更容易。

圖1 SE-DenseVoxNet網絡結構示意圖Fig.1 The illustration of proposed DenseVoxNet

圖2 Dense模塊結構示意圖Fig.2 The illustration of Dense module

SE模塊的網絡結構，如圖3所示。SE模塊分為左右兩路結構，左路結構首先通過1×1×1的卷積操作對輸入特征的通道維度進行壓縮，生成各個空間位置的權重，然后基于空間位置的權重對輸入特征進行標定；右路結構首先通過全局平均池化層對輸入特征的空間維度進行壓縮，然后通過兩層全連接層生成了各個通道的權重，最終基于各個通道的權重對輸入特征進行標定。SE模塊匯總了左右兩路結構的輸出，從空間維度和通道維度上對輸入特征進行了自適應的校準，增強了有用的特征，抑制無效的特征。

在第一個SE模塊和第二個Dense模塊之間插入了過渡層(transition layer)[10]，以減少模型的參數數目。過渡層由歸一化層、ReLU函數、卷積層Conv14和最大池化層構成，其中卷積層Conv14包含160個1×1×1大小的卷積核，用于整合特征通道之間的信息。最大池化層的步長為2，將特征維度降低為原來的一半。SEDenseVoxNet的整體網絡結構及參數如圖3和表1所示。

圖3 SE模塊結構示意圖Fig.3 The illustration of SE module

表1 SE-DenseVoxNet的網絡結構及參數Tab.1 The architecture and parameters of SE-DenseVoxNet

2 數據集

與南京市鼓樓醫院合作，收集了9個股骨頭壞死患者全髖關節置換術時取出的股骨頭樣本，然后使用Micro-CT對樣本進行掃描重建，重建分辨率為78 μm，各向同性。通過感興趣區域提取、閾值分割、圖像切割、數據增強等步驟對樣本的Micro-CT圖像進行預處理，共計得到249 864個32×32×32大小的骨小梁三維二值圖像，作為骨小梁三維圖像數據集的樣本。

得到了骨小梁三維圖像數據集的樣本后，使用有限元軟件Abaqus對樣本進行模擬壓縮試驗，計算樣本在z軸方向上的彈性模量，作為樣本的真值。在有限元仿真時，將骨骼材料視為線彈性、各向同性的均質材料[12]，定義其彈性模量為18 GPa，泊松比為0.3[13]。骨小梁有限元仿真受力云圖，如圖4所示。

圖4 骨小梁樣本的受力云圖Fig.4 Stress results of trabecular bone samples

有限元分析得到樣本真值后，以24:1的比例將數據集隨機劃分為訓練集（239 864）和測試集（10 000），隨機數種子設置為42。

3 結果

實驗平臺配置如下：CPU為Intel(R) Xeon(R)E5-2630 v4 @ 2.20 GHz(×2)；顯卡為NVIDIA Tesla P100(×3)，顯存容量16 GB；操作系統為Windows Server 2012 R2 Standard，配置了CUDA 9.0和cuDNN 7.1.4；深度學習框架為Keras 2.2.4，以TensorFlow 1.12作為后端。

3.1 模型訓練

使用HE[14]的初始化方法對模型的權重和偏差進行初始化。為了防止過擬合，采用了L2正則化方法，正則化系數定義為10-4。模型以均方差作為損失函數，使用RADAM[15]方法進行訓練，初始學習率為10-3。受限于顯卡的數量和顯存容量，設置批量大小(Batch Size)為128×3。訓練過程中，通過ModelCheckpoint、ReduceLROnPlateau、EarlyStopping等回調函數對測試誤差進行實時監測，若測試誤差比之前有所改進，則將模型參數以.h5文件的形式保存到指定路徑；若測試誤差連續5輪沒有降低，則將學習率減少為原來的一半，以改善訓練情況；若測試誤差連續15輪沒有降低，則終止訓練，防止模型過擬合。經過124輪的訓練，模型的測試誤差停止下降。模型的訓練誤差和測試誤差變化曲線，如圖5所示。觀察可知，訓練誤差和測試誤差接近，模型沒有出現過擬合。

圖5 訓練誤差和測試誤差變化曲線圖Fig.5 Curves of training error and test error

3.2 模型評估

SE-DenseVoxNet訓練結束后，通過測試集對模型進行交叉驗證。針對骨小梁模量預測這一回歸問題，使用均方根誤差(RMSE)、平均絕對誤差(MAE)、平均相對誤差(MAPE)和相關系數這4項指標評估模型的表現。為了更好地對比模型的預測結果，實現了CIUSDEL等[8]的網絡模型，并使用上述4項指標對其預測結果的準確性進行了評估，結果如表2所示。

表2 不同模型的評估結果對照表Tab.2 Comparison of evaluation results of different models

由表2可知，SE-DenseVoxNet的預測結果更準確，平均相對誤差僅為1.779%，相比于CIUSDEL等的方法有明顯的提升。為了進一步評估SE-DenseVoxNet的性能，對SEDenseVoxNet的預測結果及測試誤差進行統計分析。SE-DenseVoxNet對測試集樣本的預測結果如圖6所示。其中橫坐標為樣本真值，縱坐標為網絡預測值，直線方程為y=x。觀察可知，樣本點分布在直線y=x附近，表明樣本真值和網絡預測值基本滿足線性關系。

圖6 真值-預測值散點圖Fig.6 Scatter plot of true values and predictions

使用Bland-Altman[16]方法對樣本真值和預測結果之間的一致性進行分析。經統計，樣本真值和預測結果的差值的平均數為1.468×10-4，標準差Sd為0.024，95%一致性界限為-4.703×10-2～4.732×10-2。根據統計結果，繪制了Bland-Altman散點圖。如圖7所示，散點圖的橫坐標為樣本真值與預測結果的平均數，縱坐標為樣本真值與預測結果的差值，中間虛線表示差值的平均數，上下兩條虛線表示差值的95%一致性界限。從圖7中可以看出，5.63%的樣本點在95%一致性界限以外；在95%一致性界限內，差值的絕對值最大為0.047（白色標記點），差值的平均數接近于0，說明樣本真值和預測結果之間的偏倚很小，具有較好的一致性。

圖7 Bland-Altman散點圖Fig.7 Bland-Altman scatter plot

4 討論

提出了一種基于SE-DenseVoxNet的骨小梁模量預測方法，并通過骨小梁三維圖像數據集對網絡進行了交叉驗證。實驗證明，本方法的預測結果與樣本真值之間的誤差和偏倚很小，具有較好的一致性。相比于CIUSDEL等的方法，基于SE-DenseVoxNet的模量預測方法可以更準確地預測樣本的生物力學性質，輔助醫生診斷病人的骨骼健康狀況。在接下來的研究中，會嘗試獲取更多的骨骼樣本，擴充數據集，搭建更復雜的網絡模型，進一步提升模型的預測精度，減少模型誤差。