讓AI從駕駛艙里走開

吳越

2018年11月中，久負盛名的歐洲航空電子設備制造商泰雷斯公司與法國國家宇航研究中心（ONERA）簽署了一份進行空間活動研究的合作協議。在隨后的媒體采訪中，這兩大歐洲航空航天工業巨頭共同拋出了一個令人震驚的觀點——人工智能（AI）不適合用在駕駛艙中替代飛行員工作！

很顯然，這個觀點是完全有悖于近來多數人的認知的。

現代飛機上的電子設備越來越復雜，飛行員們的工作負擔也越來越重，迫切需要一種輔助的手段協助飛行員進行飛行管理。電傳操縱系統在一定程度上解決了飛機性能提高和安全性下降之間的矛盾，并通過設置邊界保護、多重冗余等手段，達成了一定的智能化自動操作水平，顯著降低了駕駛員操縱飛機的負擔。但是，除了操縱飛機之外，現代飛機的飛行員需要掌控的其他事項仍然較多。而受人類的生理限制，在多任務監控和執行、對飛行參數變化的敏感度以及進行操縱的及時性等諸多方面，仍然難以滿足現代飛機的要求，出現飛行員工作負荷增加、航空安全壓力增大、無法適應現代的空中作戰態勢環境或者飛行環境等問題。據統計，目前的航空飛行事故中，大約80%是由于各種人為因素造成的。為此，需要更進一步提高AI的能力來輔助駕駛員進行飛機操縱。

洛克希德公司在上世紀80年代曾對一個可以協助客機飛行員進行實時航線管理和規劃的AI系統進行了研究。從工作原理上來講，這一類AI主要是采用知識庫和專家系統，與實時性足夠高的并行處理系統、語音系統等結合，形成一個人工智能輔助決策系統，為飛行員提供決策依據。在此基礎上，增加此類系統的權限，使其在一定范圍內可以接管駕駛員的操縱權限，便可實現駕駛員的“無憂慮操作”，并可以在應急時實現自動化調整和控制，保證飛機的安全飛行。例如，美國空軍在上世紀90年代對具有故障重構能力的智能型飛控系統進行了驗證，實現了在出現一定氣動損傷的情況下，仍能維持戰機飛行的能力。到了今天，這一類AI的發展已經非常成熟，目前幾乎所有的先進飛機上，都已經廣泛采用了類似的AI作為駕駛員輔助系統。這類輔助系統屬于初級AI，目前也幾乎成為了現代飛機的標準配置。這些初級AI已經成為了現代飛機系統的一個有機組成部分，自然不是ONERA和泰雷斯公司反對的對象。

需要可解析的AI

目前普遍探索、并不斷深入發展的高級Al，基本上都沿襲了Deep Mind公司在“Alpha Go”上開創的道路（“Alpha Go”在2016年擊敗韓國圍棋九段李世石而一舉成名），關鍵技術為深度學習與神經網絡。深度學習，是高級AI進行自主學習的主要方式，通過人工輸入（或AI按規則自行生成、獲取）大量的數據，AI會自行建立識別模型。而由分層算法組成的神經網絡，則是模擬了生物神經網絡的工作原理，非常適合大量數據并行操作，可以有效減少計算時間，提高反應速度。

但是，目前人們對于高級AI的最大憂慮，也來自于深度學習與神經網絡。由于深度學習只是由人類進行目標指示，學習過程完全是由AI自主完成，而神經網絡算法多重并行計算的特征則導致了難以進行數據回溯。因此，完全可以將這個過程看作是AI本身的“黑箱操作”，同時，高級AI的這種算法只能保證結果符合要求，并不能保證整個過程都可以受控。因此目前已經在許多領域取得重大進展的高級AI技術，并不滿足現行航空運輸安全標準的要求，也不適合用于裝備飛機駕駛艙。ONERA信息處理和系統主管維金尼·威爾斯對此評價說：“如果我們不能解析該系統的功能，我們將很難使其通過認證。”

另外，目前的高級AI還有一個重大缺陷，即只能在限定的規則中學習，以“經驗主義”的方法來完成工作，無法應對額外的錯誤或者擾動。這對于保證飛行安全的最高要求來講，很可能是致命的威脅。去年，位于舊金山的一家人工智能公司Vicorance的專家進行了一個有趣的試驗。他們訓練了一個高級AI學習彈珠消除游戲，AI只進行了約600次學習，便達到了專業的人類玩家水平。然而，當專家們在游戲中做出改變，增加了一個不可擊破的區域之后，AI便完全抓瞎了。Vicarious的專家迪利普·喬治對此評論說“我們人類不僅僅是模型識別器，我們也不斷為看到的新東西建立新模型。”很顯然，人類玩家可以迅速適應這些變化，而高級AI則困在了原有的規則中，無法突破。人類的邏輯推理能力，使得人腦可以應對許多突發的變化事件，這也是高級AI目前無法達到的能力。

泰雷斯公司首席技術官馬爾科·艾爾曼也對高級AI出錯的可能性進行了描述：“系統會提取圖案，但我們不知道它在做什么——當識別照片上的乒乓球時，它可能會被欺騙，在一張展示另一項運動的照片上，在運動員的頭發上增加一些顏色的像素。”

然而，不可否認的是，更強大、更完善、更能滿足人類規則需求的新型AI，將會規避目前高級AI的缺陷，也是AI技術未來進一步發展的方向。事實上，泰雷斯公司和ONERA目前仍在進行新一代AI的研發工作，他們對媒體所說的駕駛艙不需要AI，僅僅是特指目前仍未成熟、無法達到航空工業標準的AI而已。艾爾曼為此說：“我們給自己兩到三年的時間來完成第一個‘可解析人工智能系統。”換句話說，泰雷斯公司希望到2021年在新一代AI項目上取得重大進展。但威爾斯認為，對這些新AI系統的研究和測試需要更長的時間，在未來10年里，不會實際應用到駕駛艙里。

問題的關鍵在于“可解析”，艾爾曼解釋說：“正在接受人工智能協助的人類飛行員必須能夠理解人工智能選擇的原因。目前的用戶還沒有解決這些問題，因為他們不需要解決這些問題。”關于新AI系統如何獲得認證的問題，艾爾曼指出，“至于認證，我們已經與歐洲航空安全局（EASA）談過，他們很清楚，認證標準必須與技術解決方案同步進行發展。”威爾斯對此補充說，“目前我們還不能進行認證，因為我們不知道該系統在每個案例中都做了什么。”

最近發生的印尼獅骯波音737客機空難，使得目前已有的人工智能與人類飛行員的矛盾暴露得更加明顯。根據事故初步調查的結果，由于仰角傳感器故障，導致防失速系統自動壓低機頭，而飛行員發現飛機狀態錯誤后及時拉起，隨后因為防失速系統具有超越權限，再次壓低機頭，二者反復多次較勁，直至飛機墜毀，造成了189人喪生的慘劇。很顯然，未來的新型AI必須能夠擺脫這種單調功能規則的局限，并與駕駛員達成良好的溝通和互動，才能真正成為駕駛艙中的好助手。

責任編輯：王鑫邦

2018年10月29日，印尼獅航JT610航班墜毀，機型為最新的波音737 MAX 8，機上189人遇難。