深度神經網絡在船舶自動舵中的應用

李少偉 王勝正

關鍵詞： 自動舵; 深度置信網絡; 對比散度算法; 受限波爾茲曼機; 深度神經網絡; 反向傳播算法

中圖分類號： TN830.1?34; U665 ? ? ? ? ? ? ? ? ?文獻標識碼： A ? ? ? ? ? ? ? ? ?文章編號： 1004?373X（2018）24?0039?04

Application of deep neural networks in ship autopilot rudder

LI Shaowei1， WANG Shengzheng2

（1. School of Mathematics and Computer Science， Jianghan University， Wuhan 430056， China;

2. Merchant Marine College， Shanghai Maritime University， Shanghai 201306， China）

Abstract： An autopilot rudder control algorithm based on deep belief networks （DBNs） is proposed to improve the control accuracy and self?adaptability of the existing ship autopilot rudder. Each layer of the restricted Boltzmann machine （RBM） model that constitutes the DBN is pre?trained by using the comparative divergence algorithm and combining with the data recorded in the advanced crew examination system of Shanghai Maritime University. The results are taken as initial weight values of deep neural networks. On this basis， the back propagation algorithm is used to conduct fine?tuning training of the multi?layer depth structure. The results of the simulation experiment show that the error between the proposed method and the ship operation simulation of a senior captain is only 5.2%.

Keywords： autopilot rudder; deep belief network; comparative divergence algorithm; restricted Boltzmann machine; deep neural network; back propagation algorithm

0 ?引 ?言

隨著人工智能的發展，神經網絡、模糊算法等方法也在不斷地應用于自動舵控制系統中。喬富強利用DSP強大的數字信號處理能力，提出一種基于傳統PID算法的自動舵控制方法[1]。由于作者在算法中加入了濾波函數，因此與傳統方法相比，其控制精度有了一定的提高。文獻[2]建立完整的船舶航向保持控制模型，并引入神經網絡方法獲取模型參數，以應對船舶在不同風、流條件下的運動。文獻[3?4]為了改進傳統PID算法中參數調整的難題，提出基于BP神經網絡和PID控制算法的自動舵控制方法。該方法根據船舶當前水域的風、流、浪等情況，利用神經網絡實時計算得到PID控制參數，提高了自動舵的環境適應能力。為了克服BP神經網絡在應用中的缺陷，文獻[5?6]提出采用RBF神經網絡來代替BP神經網絡，進行PID參數的計算。與傳統BP神經網絡相比，這種控制方法具有更快的訓練和學習速度，同時可以對并行數據進行高速處理;為了進一步提高自動舵的智能化程度，文獻[7?8]均提出了基于模糊神經網絡的船舶自動舵控制算法。這種算法可以利用人類的知識和經驗，將自動舵控制算法中的參數以模糊算法進行表示，同時具有在線學習以及自動調整參數等優勢，進一步提高了自動舵的實用性;除此以外，科研人員還針對船舶運動模型進行過自動舵的研究，但由于船舶運動受到環境因素影響較大，因此其實用性大大受限[9]。

綜上可知，采用人工神經網絡來實現自動舵控制算法已經成為此領域的發展趨勢與研究熱點。但是由于傳統的神經網絡并不能很好地模仿人腦的工作原理，同時存在梯度擴散、收斂于局部最小值以及不適合無標簽數據的處理等問題，使得基于神經網絡的自動舵算法存在著控制精度不高、環境適應性不強等問題。DNN模型是對于神經網絡模型的一種很好的改進與取代。這種模型可以更為精確地模擬人腦的工作過程，并且更適用于處理類似船舶自動舵控制這樣的無標簽大數據。文獻[10]提出一種訓練DNN的方法，稱為逐層貪婪算法，開啟了學術界和工業界對DNN研究新熱潮;文獻[11]對深度學習進行了較為全面的綜述，提出了貪婪逐層預訓練學習過程用于初始化深度學習模型的參數，從底層開始訓練每層神經網絡形成輸入的表示。在此之后，堆棧各層神經網絡轉換為深度監督前饋神經網絡，用梯度下降進行微調。由于深度學習在我國發展較晚，國內相關學者在引進相關算法的同時，對算法進行了更詳細的分析與解釋。當前，DNN方法已經成功應用于圖像識別、語音識別、語種識別等領域，并且已經取得了良好的效果。

至此，將DNN應用于自動舵控制算法的研究已經有了較為堅實的理論基礎，但至今為止，在國內外相關文獻中尚未發現基于DNN的船舶自動舵控制研究。本文選取DBN作為自動舵控制算法，希望能用此方法改進現有自動舵控制算法中存在的控制精度不高、環境適應性以及穩定性差等問題，是一種創新也可以說是一種挑戰。

1 ?DBN神經網絡結構

DBN由若干結構單元堆棧組成，如圖1所示，其結構單元通常為RBM[12]。

對于圖1中的任何一個RBM，其結構均是一個兩層結構模型，底層是由可見節點[v=v1，v2，…，vi]組成的可見層，頂層是由隱藏節點[h=h1，h2，…，hj]組成的隱藏層，兩層之間的節點全連接，每一個連接都有一個權值[wij]，但處于同一層的節點之間互不連接。同時，可見層與隱藏層均有自己的偏置量，記為a，b。每個神經元的輸出有兩種，分別為0或者1。圖2為RBM模型示意圖。

DBN模型由多層無監督的RBM和一層有監督的BP網絡組成，結合了無監督學習和有監督學習各自的優點。DBN的訓練過程分為預訓練和微調兩個階段[13]。

為了方便后述實驗部分的進行，在此列出基于對比散度算法的RBM模型訓練過程。對于模型訓練的詳細理論基礎及推導，可詳見文獻[13]。

1） 給定訓練周期J，學習率η、對比散度算法中的參數K（K=1）以及樣本數量[ns]。

2） 初始化權值向量[W]以及偏置量[a，b]，初始化ΔW=Δa=Δb。

3） 采用對比散度算法，通過對樣本進行循環，更新ΔW，Δa，Δb。

① 利用式（1）計算隱藏層第k個神經元為1的條件概率，即：

[P（hk=1|v）=sigmoidbk+i=1nvi*wik] （1）

[sigmoidbk+i=1nvi*wik]將式（1）中的計算結果與[0，1]之間的隨機數r進行比較，若[r<P（hk=1|v）]，則[hk]=1，否則取0。最終得到更新后的隱藏層[h0]。

② 利用式（2）計算可視層第k個神經元為1的條件概率，即：

[P（vk=1|h）=sigmoidak+i=1nhi*wik] （2）

將式（2）中的計算結果與[0，1]之間的隨機數[r]進行比較，若[r<Pvk=1|h]，則[vk]=1，否則取0。最終得到更新后的可視層[v1]。

③ 利用式（3）～式（5）更新[ΔW，Δa，Δb]。

[Δwij=Δwij+[P（hj=1v0）v0i-P（hjv1）v1i]] （3）

[Δai=Δai+（v0i-v1i）] （4）

[Δbj=Δbj+[P（hj=1v0）-P（hjv1）]] （5）

④ 利用算法第①～③步完成對RBM模型的逐層訓練。

4） 利用式（6）～式（8）更新網絡參數W，a，b。

[W=η1nsΔW] （6）

[a=η1nsΔa] （7）

[b=η1nsΔb] （8）

5） 進入算法步驟2），直到滿足訓練周期的要求，則算法停止。

按以上方法訓練出的參數需要進行反向微調才能達到DBN整體最優效果。反向微調時，DBN利用BP網絡有監督地訓練最頂層的BP網絡，對RBM網絡學習到的特征進行分類，將DBN的實際輸出與預期輸出之間的誤差逐層反向傳遞至所有RBM網絡，微調RBM網絡層間的參數，得到最優的DBN。

2 ?建模關鍵技術

2.1 ?網絡輸入參數

影響船舶運動狀態的因素很多，在此，根據航海操舵模擬器的設計原理，選取具有較大權重的影響因子，使其作為神經網絡的訓練輸入，例如風向、風力、流向、流速等。由于DBN模型僅能識別0，1兩種數據，因此，影響船舶運動的因素全部轉換為二進制數值化的形式。

2.2 ?網絡輸出參數

DBN的功能和作用就是實現舵角的改變，使船舶盡可能穩定地航行在目標航線上，因此，神經網絡的輸出參數僅有一個，就是目標舵角。對于普通商船而言，舵角的取值一般在-35°～35°之間，因此，網絡的輸出取值定位0～71，采用7位二進制表示。

3 ?模型驗證與分析

3.1 ?模型結構

圖3展示了使用最為廣泛的5層DBN模型。將圖3所示的DBN模型為核心，在此基礎上，引入DeepLearnToolbox[14]作為開發工具，適當微調隱藏層神經元的數量，以驗證不同數量的神經元對DBN模型的影響。

3.2 ?仿真數據分析與比較

仿真實驗中的船舶編號為3號，長度179.7 m，船寬27.6 m，最大吃水9.5 m，船型為集裝箱船。操船場景為長江口外錨地進港，數據記錄時間為500 s，船艏向初值為0，不涉及避碰與超船。其中人工操舵與自動舵操舵已經分別予以記錄，如圖4、圖5所示。

由圖4及圖5可知，機器操船與人工操船在精度上已經非常接近。為了進一步對誤差進行分析，選擇每秒進行一次誤差記錄，記為ei，單位為m，并采用式（9）、式（10）得到誤差指標。

[E=i=0nein] （9）

[D=i=0n（ei-E）2n] （10）

式中：E表示誤差均值;D表示誤差的方差。經過計算可知，人工操船的誤差為22.5，方差為4.6;機器操船的誤差為23.7，方差為5.3。以上數據也進一步說明基于DBN模型的自動舵具有較高的精度。

反觀現有的相關控制算法，大部分文章的作者僅僅提出了相關的理論，并沒有針對相關理論進行驗證或仿真驗證，例如參考文獻[3?4]所涉及的內容;有的文章雖然進行了仿真實驗，但實驗環境采用固定參數的形式，并且沒有相關船舶運動模型作為支撐，例如參考文獻[5?8]中的內容，因此其結果并不具備一定的實用價值。

通過仿真實驗可知，本算法在自動舵中的控制精度與人工操舵精度差距已經非常微小，平均誤差僅為5.2%，已具備了實船測驗的基本條件。本算法同時也存在一定的不足之處，例如對于圖6所示的會遇場景，本算法暫無法處理，留待后續研究。

本文針對船舶自動舵控制系統，提出一種基于DBN的船舶自動舵控制模型。該模型隱藏層確定為5層，同時以上海海事大學高級船員培訓系統所記錄的考試培訓數據作為訓練樣本，結合對比散度算法，對組成DBN模型的每一層RBM依次進行訓練，以獲得DBN的初值;然后提取出訓練樣本中實操精度較高的數據作為有標簽的數據，采用BP算法實現對DBN的微調。為提高開發效率，將DeepLearnToolbox工具引入本文，實現對DBN模型的快速訓練。

參考文獻

[1] 喬富強.基于DSP的艦船PID自動舵監控系統的研究[J].艦船科學技術，2017，39（14）：127?129.

QIAO Fuqiang. Research on PID automatic rudder monitoring system based on DSP technology [J]. Ship science and technology， 2017， 39（14）： 127?129.

[2] KULA K S. Model?based controller for ship track?keeping using neural network [C]// Proceedings of 2nd International Conference on Cybernetics. Gdynia： IEEE， 2015： 178?183.

[3] HUO Xingxing， HU Jiangqiang， YU Ting. Fuzzy PID autopilot for ship steering based on stratification and sub fuzzy controller [J]. Journal of Dalian Maritime University， 2013， 39（4）： 71?74.

[4] 常靜.基于BP神經網絡的PID在船舶自動舵中的應用與研究[J].艦船科學技術，2017，39（6）：105?107.

CHANG Jing. Application and research of the fuzzy PID autopilot based on BP neural network [J]. Ship science and technology， 2017， 39（6）： 105?107.

[5] WANG Renqiang， ZHAO Yuelin， SUN Jianming. Application of optimized RBF neural network in ship′s autopilot design [C]// Proceedings of IEEE Advanced Information Management， Communicates， Electronic and Automation Control Conference. Xian： IEEE， 2017： 1642?1646.

[6] WANG Y Y， NGUYEN H D， CHAI S， et al. Radial basis function neural network based rudder roll stabilization for ship sailing in waves [C]// Proceedings of 5th Australian Control Conference. Gold Coast： IEEE， 2015： 158?163.

[7] WANG M H， YU Y Q， ZENG B. Study of intelligent control system for ship autopilot design [C]// Proceedings of 8th IEEE/ACIS International Conference on Computer and Information Science. Shanghai： IEEE， 2009： 701?705.

[8] WU Y X， XUE M J， WU P J. Study on fuzzy neural network?based ship autopilot [C] // Proceedings of 6th International Conference on Natural Computation. Yantai： IEEE， 2010： 1393?1396.

[9] KAPITANYUK Y A， PROSKURNIKOV A V， CAO M. Optimal controllers for rudder roll damping with an autopilot in the loop [J]. IFAC?papersonline， 2016， 49（23）： 562?567.

[10] HINTON G E，OSINDERO S，TEH Y W. A fast learning algorithm for deep belief nets [J]. Neural computation， 2006， 18（7）： 1527?1554.

[11] BENGIO Y. Learning deep architectures for AI [J]. Foundations & trends in machine learning， 2009， 2（1）： 1?127.

[12] 劉建偉，劉媛，羅雄麟.深度學習研究進展[J].計算機應用研究，2014，31（7）：1921?1930.

LIU Jianwei， LIU Yuan， LUO Xionglin. Research and development on deep learning [J]. Application research of computers， 2014， 31（7）： 1921?1930.

[13] LAROCHELLE H， BENGIO Y， LOURADOUR J， et al. Exploring strategies for training deep neural networks [J]. Journal of machine learning research， 2009， 10： 1?40.

[14] PALM R B. Deep learn toolbox [EB/OL]. [2018?01?04]. http：//www.pudn.com/Download/item/id/3341483.html.