基于機器學習的水文系列插補延長模型研究

翁茂峰，劉瑩瑩，寇思飛，梁 曦，劉蕊蕊

(1.中國電建集團西北勘測設(shè)計研究院有限公司,西安 710065;2.陜西省水利電力勘測設(shè)計研究院,西安 710001)

0 前 言

水文計算工作常需較長系列的水文資料。隨著系列長度的增加，水文計算準確性越高。由于水文站遷移、特殊原因撤站、水利工程建設(shè)等影響因素，導致無法保證水文系列中的連續(xù)[1]，而且常規(guī)的水文分析方法在預測缺失系列數(shù)據(jù)時，存在一定的缺陷[2-3]。傳統(tǒng)的插補延長方法是基于同一流域不同水文站之間存在線性關(guān)系得以使用，但不同水文站數(shù)據(jù)受到許多因素的影響，可能存在非線性關(guān)系。因此，需要新的方法來實現(xiàn)有效的水文系列插補延長。

在過去的幾十年中，機器學習(ML)[4]技術(shù)已被證明是解決具有多參數(shù)的非線性回歸和分類問題的強大統(tǒng)計工具。它可通過學習以前的事件來制定輸入屬性和輸出目標之間的潛在相關(guān)性，而無需進行顯式編程。近年來，學者們已經(jīng)普遍認識到機器學習算法(MLA)的效率優(yōu)于線性統(tǒng)計方法。機器學習算法中能用于數(shù)據(jù)分析預測的模型包括增強回歸樹、分類、回歸樹、多元自適應回歸樣條、支持向量機、隨機森林、和混合判別分析等，并且類似的新穎算法已在其他領(lǐng)域成功實現(xiàn)[4-6]。

在這些新算法中，支持向量機回歸(SVR)、BP神經(jīng)網(wǎng)絡(luò)和XGBoot模型都具有較好的效果。其中支持向量機回歸(SVR)[4-5]遵循SVM的回歸策略，該策略已被廣泛應用于山洪和洪水階段的預測，洪水頻率，滑坡和水位。BP神經(jīng)網(wǎng)絡(luò)[6]是較為常用的人工神經(jīng)網(wǎng)絡(luò)，具有較好的預測性能。XGBoot模型[7]基于梯度提升決策樹算法，可以有效地防止過擬合現(xiàn)象，具有較為優(yōu)秀的性能。不過，這些模型尚未用于水文系列插補延長領(lǐng)域。因此有必要利用這些模型來預測水文系列，以達到有效的插補延長效果。此外，為了凸顯機器學習模型的效果，本文也利用傳統(tǒng)線性模型的方法進行水文插補延長，并對這些模型進行對比分析。以期為水文系列插補延長提供新的有效方法。

1 機器學習模型原理

1.1 支持向量機模型

支持向量機回歸(Support vector regression, SVR)[5,8-10]模型是根據(jù)內(nèi)核統(tǒng)計學習理論，以結(jié)構(gòu)風險最小化原則為基礎(chǔ)的一種新型機器學習方法，其特點是能夠解決小樣本、非線性和高維數(shù)據(jù)空間模式識別等問題(Vapnik 1995)。SVR的類型有epsilon-SVR和nu-SVR 2種，常用的核函數(shù)類型有線性linear核函數(shù)、多項式核函數(shù)、徑向基RBF核函數(shù)、sigmoid核函數(shù)等。在SVR中，核函數(shù)類型、懲罰參數(shù)Cost、核參量gamma等3個參數(shù)對建模精度有很大的影響[11-13]。本研究中，核函數(shù)類型需經(jīng)多次試算來確定，用訓練集交叉驗證和網(wǎng)格搜索法(Grid search)進行參數(shù)尋優(yōu)，按照均方差最小原則確定懲罰參數(shù)Cost和核參量gamma的值[14]。

1.2 XGBoost模型

1.3 BP神經(jīng)網(wǎng)絡(luò)模型

BNP結(jié)構(gòu)是多層感知器(MLP)，通常使用誤差反向傳播(EBP)，簡稱為反向傳播算法(BP)作為算法[17-20]。BPN的主要組件如下所示：

(1) 輸入層：代表神經(jīng)元編號的網(wǎng)絡(luò)輸入變量，用于由特定問題確定的處理。更多的輸入神經(jīng)元導致更高的BPN復雜度，并在控制訓練時間和錯誤收斂方面更加困難。

(2) 隱藏層：代表輸入單元之間的交叉影響。隱藏層的數(shù)量可以是一個或多個，通常通過故障測試方法或經(jīng)驗法則來確定，而優(yōu)化的數(shù)量則取決于測試收斂效果。

(3) 輸出層：代表具有特定問題確定的待處理神經(jīng)元數(shù)量的網(wǎng)絡(luò)輸出變量。

神經(jīng)網(wǎng)絡(luò)具有較高的準確率，因為它可以構(gòu)建非線性模型并表示變量之間的交叉。另外，神經(jīng)網(wǎng)絡(luò)具有高度的適應性，可以接受邏輯、數(shù)字、有序分類、無序分類的變體作為輸入，并且可以廣泛地應用于函數(shù)反射、數(shù)值數(shù)組預測、樣本分類、數(shù)據(jù)/圖表壓縮和圖像識別。

對于SVR、XGBoost以及BPN，使用PLS-Toolbox工具箱實現(xiàn)。

1.4 模型評價指標

通過決定系數(shù)R2和均方根誤差(Root mean squared error，RMSE)來綜合評價模型的效果。R2越接近于1，RMSE越接近于0，表征模型的預測精度越高，預測能力越強。R2和RMSE的計算公式如下：

(1)

(2)

2 應用實例

為驗證應用機器學習技術(shù)建立水文模型來解決水文系列插補延長問題的適用性，選取了位于陜西省安塞縣延河流域的安塞水文站[21](地理坐標東經(jīng)109°19′，北緯36°56′)和位于陜西省延安市上砭溝村的棗園水文站[22](地理坐標為東經(jīng)109°20′，北緯36°38′)。其中安塞水文站控制流域面積1 334 km2，有1981—2015年實測水文資料。棗園水文站控制流域面積719 km2，有1971—2015年實測水文資料。

利用1991—2015年的2個站點數(shù)據(jù)作為建模集，用以校正模型。1981—1990年的兩站數(shù)據(jù)作為驗證集來驗證及評價模型。

2.1 相關(guān)性分析

由于安塞水文站與棗園水文站在不同河流上，為了確認兩者之間是否存在相關(guān)關(guān)系。對兩者的數(shù)據(jù)進行相關(guān)性分析，發(fā)現(xiàn)兩者之間的相關(guān)系數(shù)為0.78，其顯著性水平可達P>0.001(極顯著)。由此可以發(fā)現(xiàn)，2個站點之間存在一定的相關(guān)關(guān)系，為后續(xù)的研究分析提供了基礎(chǔ)。

2.2 建模過程

利用PLS-Toolbox工具箱，進行編程，將站點數(shù)據(jù)導入。并以1991—2015年的2個站點數(shù)據(jù)建立模型，再用1981—1990年的數(shù)據(jù)來驗證模型效果。具體計算過程在計算機中進行。

2.3 線性模型結(jié)果

圖1 線性模型建模散點圖

圖2 線性模型驗證散點圖

2.4 機器學習模型結(jié)果

2.4.1支持向量機模型結(jié)果

圖3 支持向量機模型建模散點圖

圖4 支持向量機網(wǎng)格尋優(yōu)結(jié)果圖

圖5 支持向量機模型驗證散點圖

2.4.2XGBoost模型結(jié)果

圖6 XGBoot模型建模散點圖

圖7 XGBoot模型驗證散點圖

2.4.3BP神經(jīng)網(wǎng)絡(luò)模型結(jié)果

圖8 BP神經(jīng)網(wǎng)絡(luò)模型建模散點圖

圖9 BP神經(jīng)網(wǎng)絡(luò)模型驗證散點圖

圖10 不同模型的殘差分布圖

2.5 模型對比分析

為了便于直觀的對比模型，繪制以下模型殘差分布圖。圖中的散點表示，各個預測值與實測值的差距，離虛線越遠，表示其偏差越大。對比4幅子圖可以發(fā)現(xiàn)，XGBoot模型的殘差分布最廣，其范圍在-500～3 000萬m3之間。線性模型其次，其殘差范圍在-500～2 500萬m3之間。BPN模型與線性模型的效果基本接近，殘差范圍也與其基本相似。所有模型中SVR的效果最佳，其殘差范圍最窄，為-600～1 400萬m3，說明SVR模型更加適用于水文插補延長。此外，從建模效果上比較也可以發(fā)現(xiàn)，XGB模型的效果最佳，但是驗證效果較差，說明該模型過擬合，并不適合用于水文插補延長。而其余3個模型中SVR模型其建模效果和驗證效果都較好，相比較而言，模型更穩(wěn)定。

3 結(jié) 論

本文將不同類型的機器學習模型應用于水文徑流系列插補延長，并與傳統(tǒng)的水文插補延長模型進行對比。得到以下結(jié)論：

(3) SVR模型結(jié)合網(wǎng)格尋優(yōu)可以得到有效的水文插補延長模型，其驗證均方根誤差僅為271.88萬m3。