基于貝葉斯優化XGBoost的隧道沉降量預測①

何 軍,林廣東,申小軍,徐龍飛,裴莉莉,余 婷

1(中交隧道工程局有限公司,北京 100102)

2(中交一公局集團有限公司,北京 100020)

3(長安大學 公路學院,西安 710064)

4(長安大學 信息工程學院,西安 710064)

隧道在建設中往往伴隨著地質復雜,工程量大,建設條件惡劣等因素的影響,并且在山體結構中時常分布有裂隙發育較嚴重風化巖體,這導致隧道施工過程中不可避免地會造成地表沉降,甚至可能會導致地面沉陷、建筑物開裂及管線破壞等情況的發生[1,2]. 因此對隧道沉降的變化規律進行科學分析與處理,對最終沉降量做出準確的預測,具有十分重要理論意義與實際應用價值[3,4].

近年來,國內外學者對隧道沉降量的分析及預測進行了大量的研究并取得了一定的成果[5,6]. 曾學宏等[7]使用BP (backpropagation)神經網絡和長短時記憶網絡(long short term memory network,LSTM)兩種網絡模型獨立對實際工程中獲取到的兩組地鐵隧道數據進行了分析研究,并對兩種模型的預測精準度進行了對比.針對地表沉降的預測,趙振華等[8]采用回歸分析法,使用Peck 公式得到了較好的地表沉降預測. 他們建立的BP 神經網絡地表沉降預測模型,同樣獲得了較為理想的預測結果. 潘愷等[9]提出了動態灰色時序神經網絡組合模型. 對于南京二號線的地鐵沉降數據,利用3 種算法的組合對其進行分析預測,并對比了其與動態灰色模型和動態灰色時序模型的預測精準度. 李偉等[10]提出一種Adaboost.RT 算法集成多種不同基學習模型的隧道預測方法. 針對非線性回歸問題且研究對象是交通隧道沉降的隨機性強的小樣本數據,可以使用Adaboost算法得到強學習模型,以此得到較優的預測精度. 姚凱等[11]利用廣義回歸神經網絡參數少、使用簡單的特點,結合FOA 算法預測隧道圍巖變形. 明祖濤等[12]分別用規范雙曲線、修正雙曲線、三點法、Asaoka 法和GM(1,1)模型,結合某高速鐵路橋隧的沉降觀測數據,對各模型在鐵路橋隧的準確性、適用性進行了分析. 畢旋旋等[13]使用了小波分析理論對所得到的隧道沉降數據序列進行分解重構得到高頻分量和低頻分量,進而分別構建ARIMA 模型進行預測,最后疊加預測結果得到最終的沉降值. 莫云等[14]發現武漢市軌道交通二號線第24 標段的監測數據滿足Logistic 曲線,故運用Logistic 時間函數模型對隧道“發生”“劇變”“平穩”的過程進行描述.

基于以上研究,可以發現已有一些基于機器學習的方法對沉降進行預測,然而以上模型在時間序列規律性的考慮上還有所欠缺,同時在數據預處理方面未能結合多源數據表中的時空域信息進行修復,大多是對異常數據直接進行刪除. 因此本文首先對采集到原始沉降監測數據通過融合多源異構數據表中的時空信息對缺失及異常數據修復,然后采用貝葉斯算法優化在眾多項目表現較優的XGBoost 集成模型[15,16]對隧道拱頂沉降、地表沉降和周邊收斂數據進行演變分析及預測,最后與原始XGBoost 集成模型和常用于時序序列預測的LSTM 時間序列模型進行對比,以證明本文提出的最優沉降量預測模型的有效性,從而對隧道沉降變化進行科學的監測與預測. 整體實驗流程如圖1.

圖1 整體研究路線

1 隧道沉降監測數據集建立

1.1 原始工程數據采集

(1)工程概況

以沙嶺壕隧道、十里坡隧道、中坪隧道以及白家莊隧道的實際工程量測沉降統計數據為依托,分別對隧道拱頂沉降、地表沉降、周邊收斂進行分析,具體隧道信息如下:

1)沙嶺壕隧道: 沙嶺壕隧道為鄭西高速欒雙段在建分離式隧道,該隧道位于河南省南陽市西峽縣,隧道施工區域穿越淺埋段5 條,地質構造復雜,隧道內突水涌砂情況頻發,存在6 處溢出泉和流塑粉砂層,圍巖通常情況下基本上是Ⅳ、V 級圍巖,在實際的施工中會遇到反坡涌水、圍巖破碎、地形條件復雜等困難,施工難度大,安全風險高. 隧道左線樁號ZK102+290–ZK103+609,全長1 319 m; 右線樁號K102+228–K103+438,全長1 210 m.

2)十里坡隧道: 十里坡隧道為鄭西高速欒雙段在建分離式隧道,該隧道位于河南省南陽市西峽縣,隧道左線樁號ZK109+840–ZK110+094,全長254 m; 右線樁號K109+733–K109+994,全長261 m.

3)中坪隧道: 中坪隧道是鄭西高速欒雙段在建分離式隧道,該隧道位于河南省南陽市西峽縣,位于兩河口附近,隧道緊鄰311 國道,爆破作業安全等級要求高.隧道左線樁號ZK108+702–ZK109+159,全長457 m;右線樁號K108+612–K109+115,全長503 m.

4)白家莊隧道: 白家莊隧道為鄭西高速欒雙段在建分離式隧道,該隧道位于河南省南陽市西峽縣,隧道左線樁號ZK104+214–ZK105+526,全長1 312 m; 右線樁號K104+116–K105+416,全長1 300 m.

(2)原始數據分析

本文選擇上述4 段隧道為試驗對象. 每段隧道選取左右兩個部分,每個部分又具體的分為地表、拱頂及周邊監測位置,這里以白家莊隧道部分采集數據為樣例,見表1.

表1 白家莊隧道部分原始數據

從原始數據可知: 前15 次測量是每天不間斷測量,從第16 次之后,測量周期改為每兩天測一次. 對于不同空間信息的監測點,時間采樣信息也不一致,存在時空尺度不對齊的問題. 同時研究表中沉降監測量演變規律可以發現,監測初期,隧道每天的累計沉降量都在增加,但增加速率逐漸放緩; 在進行20 次左右的測量即25 天左右后,隧道沉降趨于收斂,僅有微小變化量;在50 天之后的沉降測量值基本不再發生變化,保持穩定. 整體符合“發生”“劇變”“平穩”的變化過程.

1.2 融合時空信息的隧道沉降監測數據修復

(1)時空尺度對齊

由于不同空間位置的沉降監測的采樣間隔不同,首先需要對時間序列數據進行尺度統一. 在這里,采用平均插值算法對原始數據中第17–21 期間隔為2 天的采樣數據進行插值,得到采樣間隔為1 天的共26 期沉降監測數據. 同時將采樣間隔時間較長的長期穩定不變化的數據去掉.

(2)數據修復

同時數據中存在一些異常和缺失的情況,需要首先對原始數據進行修復,以減少異常和缺失數據對沉降預測精度的影響,同時避免因數據異常導致程序卡頓等問題. 對于孤立點異常和數據中部缺失(即頭尾有合理數據)的監測數據,采用長短時記憶網絡對孤立點異常數據及中間的缺失數據進行修復; 對于其他異常情況和大量數據缺失(后期數據連續缺失)的情況直接對其進行刪除.

根據修復后的K106-405 樁號的監測數據,分別繪制了該樁號對應的拱頂、地表和周邊收斂的沉降量變化速率、沉降量累計變化值、沉降量累計變化回歸曲線,如圖2 所示. 總體來說,隧道3 個不同位置的變化趨勢基本一致,在25 天后就趨于平穩.

圖2 沉降量3 項參數變化

2 基于貝葉斯優化的XGBoost 隧道沉降預測模型

2.1 XGBoost 模型

XGBoost 模型基于回歸決策樹,通過固定第一顆回歸樹經過第一輪迭代已學習的數據特征,增加新的回歸樹以彌補誤差提升精度,前t個集成的模型產生的誤差數據,會被第t+1 棵樹作為建立時的參考. 即將多個回歸樹前一個輸出與后一棵樹的輸入連接起來(串聯),以此,隨著回歸樹的不斷加入,損失函數Obj小于期望閾值,如式(1).

其中,l(yi,)為原始數據中指標樣本xi的訓練誤差,?(fk)表示第k顆樹的某種范數約束,這里可取L1 范數或L2范數來實現正則化約束過程; 其中,回歸樹的每片葉子都可以產生一個預測結果,通常情況下,將該片葉子擁有的訓練集元素的輸出進行累加,然后求均值作為最終輸出; 則XGBoost 模型見式(2).

其中,k是回歸樹的總量,fk是第k棵回歸樹,也是樣本xi的最終預測值.

整個算法的過程如下: 首先進行初始化,然后把第1 棵樹加入預測模型中,接著把第2 棵樹加入預測模型中,以此類推,直至把第t棵樹加入預測模型中:

訓練模型的復雜度見式(5):

其中,q(x)是樣本x在樹中的位置,w是樹葉的得分值,T是該樹葉子結點的數目,復雜度也可以表示為式(6).

其中,γ表示葉子個數,w2j表示w的L2 模平方.

2.2 貝葉斯優化算法

機器學習算法中每種模型都具有多個超參數,超參數的設置和組合對模型最終的預測效果有很大影響.例如層數太多導致梯度消失無法訓練,或者學習率過大可能導致收斂效果差,過小又可能收斂速度過慢. 調參過程是模型優化的重要思路,由于本文初始樣本點有限,不適用于遺傳算法和PSO 這些群體優化算法,同時網格搜索算法因為要遍歷參數的所有組合因此優化效率也不高. 采用貝葉斯算法對XGBoost 的超參數進行優化可以在樣本點有限的情況下大大提升調參效率,可以根據當前已經試驗的超參數組合來預測下一個可能帶來最大收益的組合.

貝葉斯優化框架有兩個關鍵部分: ① 使用概率模型代理原始評估代價高昂的復雜目標函數; ② 利用代理模型的后驗信息構造主動選擇策略,即收益函數. 假設超參數優化的函數f(x)服從高斯過程,根據已有的N組試驗的輸入輸出{x,f(x)},計算f(x)的后驗分布p(f(x)|x)來估計f(x).

其中,p(f(x))是先驗概率;p(x|f(x))是樣本x相對于函數f(x)的條件概率;p(x)是用于歸一化的證據因子. 即利用高斯隨機過程,使用貝葉斯定義,將假設的先驗概率分布轉換為后驗分布. 后驗概率分布描述通過已觀測數據集對先驗進行修正后未知目標函數的置信度.

為了使得后驗分布接近其真實分布,就需要樣本空間進行足夠多的采樣. 但是超參數優化中每一個樣本的生成成本很高,需要用盡可能少的樣本使得p(f(x)|x)接近于真實分布. 因此需要定義一個收益函數來判斷一個樣本能否給建模提供更多的收益,收益越大,其修正的高斯過程會越接近目標函數的真實分布. 常用的收益函數有改善概率(PI)、期望改善函數(EI)、高斯過程置信上界(GP-UCB)等. 收益函數將在新的區域和局部最優解附近尋求全局最優解,優化目標則是在全集A中尋找使f(x)值達到最大或最小的x集合,如式(8)所示:

3 沉降預測結果與分析

3.1 結果評價指標

本文使用R2和MAE分別作為評價模型的精確度指標和誤差度指標,計算公式如式(9)和式(10).

其中,yi表示原始回歸值,表示原始回歸值的平均,表示預測回歸值,n為待測數據總數.

R2(R-square)決定系數用于衡量原始回歸值和預測回歸值的相關性,該值越接近1 代表模型擬合效果越好,模型越優秀.

MAE(mean absolute error)平均絕對誤差反映原始回歸值和預測回歸值的真實誤差,該值越接近0,表明預測結果與真實情況平均絕對誤差越小,模型預測結果越好.

不同類(精度類、誤差類等)評價指標之間沒有明確的精度越高誤差越小的說法,例如R2一般會隨著樣本數量的增加而增加,不能絕對意義上說明準確程度.同理,誤差類評價指標受某些異常值影響變化明顯,只能從不同角度大概定量反映預測值與真實值之間的誤差. 因此需要結合不同類指標來綜合評估模型優劣.

3.2 沉降預測結果

本文利用十里坡+沙嶺壕+中坪隧道共732 條數據來訓練模型,取200 條白家莊隧道數據用于測試模型精度,通過指標計算進行對比分析,得到基于貝葉斯優化XGBoost 最優模型的參數設置,如表2 所示. 同時最優模型的訓練集和測試集在不同監測點的真實值和預測值的對比效果如圖3 所示.

表2 最優參數組

圖3 中黑色曲線為隧道沉降監測真實值,灰色曲線為貝葉斯優化XGBoost 模型的預測結果,從圖中可以發現,兩條曲線重合度較高,這表明在不同的沉降監測點,貝葉斯優化的XGBoost 沉降預測模型的曲線趨勢能夠與隧道監測數據的周邊收斂、地表沉降和拱頂沉降真實數據高精度吻合,預測誤差較小.

圖3 最優模型訓練及測試結果

訓練時序預測較優的LSTM 模型[17,18]和原始XGBoost 模型與貝葉斯優化的XGBoost 模型進行對比驗證,預測結果由表3 可得: 總體來說基于貝葉斯優化的XGBoost 模型對隧道3 種不同位置的沉降預測效果最好,平均精度最高,達到0.979 4. 同時由圖4 可得優化的XGBoost 模型對拱頂沉降,地表沉降和周邊收斂的預測效果均要優于LSTM. LSTM 在對拱頂沉降和周邊收斂的預測中精度達到0.9 以上,對地表沉降的預測效果偏低. 綜上,在實際的隧道施工監測工程中,建立基于貝葉斯優化的XGBoost 隧道沉降模型能更好地掌握隧道沉降變化規律,服務隧道施工工程要求.

圖4 不同方法預測結果對比

表3 不同方法預測結果對比

4 結論

通過對實體工程隧道沉降監測數據進行整理,對其中的拱頂沉降、周邊收斂及地表沉降分別進行預測,主要有以下結論.

(1)采用平均插值方法對時空尺度不對齊的監測數據進行尺度對齊,對于孤立點異常和部分缺失監測數據,融合時間空間信息采用長短時記憶網絡對其進行修復,大大提高后期沉降預測的準確性和程序可執行性.

(2)以沙嶺壕隧道、十里坡隧道、中坪隧道以及白家莊隧道的監測點實測數據為樣本建立貝葉斯優化的XGBoost 模型,分析結果表明在不同位置的沉降預測中貝葉斯優化的XGBoost 模型表現均優于LSTM和原始XGBoost 模型,精度可以達到0.979 4,能夠達到工程監測要求.

在未來的研究中,可以將重點轉向隧道使用過程中的沉降變化量監測,檢測和采集更多指標數據構建隧道使用過程中各項指標的演變模型.