從統計學與心理學的視角看可解釋性人工智能*

石榮劉江

（電子信息控制重點實驗室 成都 610036）

1 引言

人工智能有多個學派，其中最具代表性的兩個分別是符號主義學派與連接主義學派［1～2］。符號主義學派主要是通過一套邏輯規則與數據結構來表示特定領域中的知識，在此基礎上進行邏輯推理與策略搜索來獲得問題的自動解決，這種知識表征與推理在各類專家系統中獲得過成功應用［3］。連接主義學派主要是通過人工神經網絡在形式上模仿人類大腦的生物組織結構，通過大量數據對網絡訓練之后來獲得知識在網絡權值中的分布式表征，在此基礎上通過并行運算來獲得問題的自動求解［4］，這種方式在近幾年得到了飛速的發展，特別是深度學習神經網絡成為近年來人工智能領域的熱點與焦點，引發了全世界的關注與應用［5～6］。但隨之而來的一個問題就是：人們雖然十分驚嘆人工神經網絡在一個問題求解過程中獲取精準答案的高超技能，甚至在個別領域對個別問題的求解能力超過了人類，這一點在圍棋等棋類對弈中表現得尤為突出［7］。但人工神經網絡在給出答案的同時不能詳盡給出其原因，這一點與人工智能的符號主義學派形成了鮮明的對比，符號主義的邏輯推理過程天生具有可解釋性，因為邏輯推理本身就是人類思考與解決問題的常用方式，所以人們對符號主義學派給出的問題解決方案與結果有很高的接受度，但對于人工神經網絡所給出的問題解決方案與結果的接受度就比較低。人們總在問為什么？請給出理由，而人工神經網絡對此往往能力甚微，有口難辯。以電子戰等對抗與博弈領域為例，在認知電子戰中應用人工神經網絡的最大挑戰就是用戶對算法的信任問題，很難判斷這些算法究竟學到了什么，將做什么決策或采取什么行動，電子戰軍方用戶不會輕易接受這種無法證明其能起作用、并且無法清楚解釋為什么能起作用的“黑盒子”系統，讓作戰人員信任這樣的認知電子戰系統也是比較困難的。于是“可解釋性人工智能”的概念也隨之被提出來，引起了學術界、工業界、商業界和軍事界的高度關注［8］。

目前很多文獻都是從計算機技術學科的視角來研究“可解釋性人工智能”問題，針對人工神經網絡去研究如何構建更具有解釋性的模型［9～10］，或者是針對性地給出一些數據的解釋方法［11～12］。而本文主要從統計學和心理學的視角出發，通過人工神經網絡可對任意函數無限逼近擬合的特性解釋其所具有的統計分析特征，即給出了人工神經網絡智能推理的統計學解釋，在此基礎上結合人類學習的心理學規律，指出了人類與人工神經網絡之間信任關系建立的方法與途徑，從而為后續在各種工程中人工神經網路應用邊界條件分析提供了重要參考。

2 DARPA可解釋性人工智能項目由來

大家從進入小學接受教育開始，老師與家長對每一個學生進行學習的一個重要告誡就是：對每一個知識點一定要學懂了，知其然并知其所以然。這幾乎是每一個人心中的一個法則，知其所以然就是對獲得的答案與結果進行解釋，一方面以便從中挖掘出更加本質性的規律而可以后續應用；另一方面這也是建立信任機制的一個重要途徑。上述思想在每一個人的頭腦中根深蒂固，于是當具有人工智能的機器向人類用戶給出一個問題的解答時，用戶自然也會要求解釋其中的原因，關于這一點在對抗與博弈等軍事人工智能方面表現尤為突出，因為戰爭是關乎參戰人員性命的活動，一個作戰決策是成功還是失敗，直接與一群士兵的生命緊密關聯在一起，大家自然要問為什么？請給出這一作戰決策的理由。

正是如此，2016年10月美軍DARPA發布了可解釋性人工智能項目，其目標是建立一套新的或改進的機器學習技術，生成可解釋的模型，結合有效的解釋技術，讓最終用戶能夠理解并在一定程度上接受人工智能系統所給出的問題解決答案［13～14］。該項目的研究工作主要集中在三個方面。

1）生成可解釋性的模型。

如前所述，人工智能中的符號主義學派的邏輯推理天生便具有可解釋性，顯然研究生成可解釋性模型的要求主要是針對人工智能中連接主義學派的人工神經網絡而言的。根據這一要求，部分研究人員針對神經網絡中不同連接層的不同權值系數的特征開展了研究，希望從中找出能夠幫助人類理解這些特征的線索，建立其與各種工程物理意義之間的對應關系，并進一步形式化，以期得到通用化的可解釋性模型與方法。

2）設計可解釋性接口。

這一點好比一個翻譯，因為在不同的領域中對知識的表征是各不相同的，就好比要建立中國國內漢族人與蒙古族人之間的理解交流，需要一個漢語與蒙古語的翻譯一樣，通過翻譯將一種語言轉換成另一種語言。同樣的道理，人工神經網絡中的知識表征與推理過程是由其特定專用“網絡化語言”來表達與承載的，而這一“網絡化語言”是人類難以理解的，于是就需要一個“翻譯”，不僅要在語言表述上做到意達言準，而且還要采用各種最新的人機交互技術，來將人工神經網絡中的“網絡化語言”所承載的信息轉換為人類容易理解的形式，從而為解釋工作提供條件。

3）理解用戶心理需求以進行有效的解釋。

因為不同用戶的專業背景與知識積累也是各不相同的，就好比一個內科醫生給一個機械工程專業的工科教授解釋心臟發病機理一樣，如果醫生直接從醫學的角度講解，這名教授可能理解一部分；如果醫生能夠以液壓水泵循環來進行比擬，那么這名教授對心臟發病機理就會理解得更加深透。顯然在后一種情況下，就更好地建立了這名醫生與這位教授之間的信任關系。同樣對于機器與人類個體之間的交流，理解其心理需求，這樣的溝通也才能夠更加順暢，所獲得的效果才會更好。

由上可見，DARPA的可解釋性人工智能項目在研究內容的布局與安排上還是比較全面與合理的。在本文后續內容中將從統計學與心理學的視角對人工智能連接主義學派中的人工神經網絡進行解釋，對DARPA設立可解釋性人工智能項目中的各方面內容進行分析，以揭示人工神經網絡的工作機理與人機應用信任的建立途徑。

3 從統計學的視角理解人工神經網絡

截止到目前為止，在人工神經網絡方面已經發表過數以萬計的學術論文，也出版過大量的技術專著，在此我們不必重復這些論文與專著中的內容，大家可在文獻數據庫中去查閱與參考。但為了后續敘述方便，首先簡要回顧一下常見神經網絡的模型與知識表征方式。

圖1 神經網絡模型與知識表征

常見的人工神經網絡如圖1所示，圖中是一個M層的前饋神經網絡，從輸入到層M的每一條帶箭頭的連線都表示加權連接的數值傳遞關系，第i層的第j個神經元的第k個與前一層神經元連接的權值系數記為wi，j，k，i∈{1，2，…，M}，j，k∈{1，2，…，N}，且每一層中的神經元都有一個帶偏置的非線性激活轉換映射，記第i層的第j個神經元的偏置為bi，j。于是第i層的第j個神經元的輸出yi，j可表示為

式（1）中g(·)表示非線性激活轉換映射函數。在神經網絡中知識的表示是由網絡中的自由參數，即網絡中每一個神經元的偏置bi，j與連接權值wi，j，k來表征的，這種分布式知識表示形式構成了人工神經網絡獨特的設計，同時也決定了人工神經網絡的性能。雖然人工神經網絡有各種各樣的類型，但它們都具有一個共同的特點：即需要大量的數據對其進行訓練。訓練的目的是獲得網絡中各個權值系數與偏置，而整個訓練的過程也被人們稱為神經網絡的學習過程。通過這個學習過程神經網絡中的自由參數在其嵌入環境的激勵之下得到調節，而且學習類型與算法由參數改變的方式來決定。人工神經網絡中有很多學習算法，其中比較典型的算法包括：基于誤差修正的學習、基于記憶的學習、Hebb學習、競爭學習和Boltzmann學習等。通過上述算法，由大量的數據來迭代求解網絡權值，求解出的結果就被稱為學到的知識。實際上這是將人工神經網絡的學習與人類的學習進行了比擬，在《現代漢語詞典》中對人類社會中“學習”一詞的解釋是：從閱讀、聽講、研究、實踐中獲得知識或技能。由此可見，學習一詞用于描述神經網絡的權值獲取過程實際上是一種擬人手法，將人工神經網絡比喻成人，將網絡權值比擬成知識。

正因如此，在很多經典的人工神經網絡教科書中都喜歡從生理學的視角來解釋上述過程，將其比喻成動物或人類大腦神經組織的一種仿生學近似。實際上從統計學的視角來看待上述過程，神經網絡的權值系數的求解本質上是一個數據統計回歸過程，只不過回歸所采用的模型是一個通用模型而已。在理論上已經證明：只要一個人工神經網絡的層數足夠多、且層節點神經元的數量足夠多，那么該人工神經網絡可以高精度地逼近任何函數F(X)，關于這一點很多文獻從不同角度很早就對此進行過分析論證［15～16］。

我們在對神經網絡進行訓練時所輸入的數據實際上就是函數F(X)的采樣觀察值，通過大量觀察值的回歸分析來無限逼近F(X)而已。由于F(X)所包含的空間非常巨大，要達到完全覆蓋全空間的采樣幾乎是不可能實現的，所以神經網絡所需要的訓練樣本要求具有代表性與獨立性，才能確保在有限的樣本空間內所擬合出的函數H(X)高概率地接近于真實函數F(X)。回到生產生活中所面臨的各種任務，例如：分類識別、遍歷搜索、下棋對弈、最值優化等，其實都可以寫成一個函數表達式，當然是高度非線性、高度復雜的函數表達式，那么用人工神經網絡來完成上述任務，本質上就是做函數擬合回歸分析而已。

在統計學中我們經常做一元線性回歸分析，但是從來不把這一過程稱為“學習”過程，因為大家覺得這一過程實在太簡單，對此有足夠的把控度。但是當回歸函數的復雜程度越來越高，回歸分析中變量與自變量的個數與維數也越來越大時，統計回歸的復雜度逐漸遞增，慢慢地超出了常人所能把控的程度。在比較復雜時如果有機器能夠自動完成此過程，人們往往覺得這臺機器的功能比較強大，于是不自覺地將機器擬人化，用“學習”一詞來進行比擬。實際上從簡單到復雜，從統計回歸思想方法上講并沒有發生本質性變化，只是人們的認知觀念發生了變化。采用人工神經網絡逼近擬合的函數越復雜，需要的訓練樣本數據就越多，也正因為如此，當前深度學習神經網絡的應用往往與大數據緊密聯系在一起，而且大多依賴于云計算等高性能計算平臺來完成回歸分析任務。

在當前的人工神經網絡應用過程中大家都遇到的一個難題，神經網絡的訓練是一個非常艱難的過程，而且具有一定的隨機性，采用同樣的數據樣本、同樣的網絡結構，不同的初始化權值，訓練出來的網絡其性能也有好有壞。所以現在應用神經網絡的一個特點就是不停地調參，即調整初始化權值，每調整一次就訓練一次，然后看是否滿足應用要求。如果不滿足，就再調參、再訓練。上述過程看上去幾乎就是一種體力活。實際上，這也從另一個角度反映了人工神經網絡的學習過程并不如大家看上去那么的“高大尚”，在人們驚嘆一個人工神經網絡近乎超人的識別能力時，大家往往沒有看到隱藏于這一個神經網絡背后的繁重艱苦的調參訓練過程，而且還帶有一定程度的隨機性。截止到目前為止，高效通用的人工神經網絡訓練方法還沒有完全找到，即針對復雜網絡的統計回歸分析問題仍沒有得到徹底地解決。

綜上所述，如果從統計學的視角來看待人工神經網絡，將其學習訓練過程看成是一個統計回歸分析過程，那么人工神經網絡也就不那么令人神秘了，它僅僅是一種對大量樣本數據的統計回歸分析。在近十年以來，人工神經網絡之所以取得一些驚人的應用效果，其實大部分都受益于機器的計算能力的提升，加快了統計計算的速度，使得過去無法在有限時間內完成的統計分析與回歸運算得以近實時完成而已。那反過來，我們對這樣一種過程還有什么更本質的原理需要解釋的呢？實際上這也在一定程度上回應了DARPA在“可解釋性人工智能”項目中的第一方面的研究內容。

4 是否接受概率統計分析結果

既然人工神經網絡的學習訓練是一個對樣本數據的統計回歸分析的過程，由于樣本空間的巨大而不可窮盡，只能選取其中的典型樣本做統計分析，其結果大多是一種概率性事件。關于這一點，在現今的神經網絡應用中得到了深刻的體現，例如一個用于分類識別的神經網絡的輸出結果一定有一個正確率指標與之關聯，這種概率統計分析結果與通過理論分析、邏輯推理所獲得的準確結果之間是有差異的。在工程應用中，特別是在具有對抗與博弈特點的活動中，這種概率結果更是不可避免，但是使用神經網絡的用戶是否接受這樣的結果呢？

曾經有這樣一個測試實驗：假設一把經典的6彈夾左輪手槍中只裝有一發子彈，讓您隨機轉動彈夾后朝自己的太陽穴扣動一次扳機，如果這一次剛好觸發了這發子彈，您將喪失生命并離開這個世界；如果這一次沒有觸發這發子彈，您將立即獲得100萬美金。請問您想參加這項實驗嗎？盡管在該項實驗中喪失生命的可能性僅僅為1/6，即只有16.67%概率立即死亡，而有83.33%的概率獲得高額收益，但是絕大多數人都會拒絕參加實驗。因為人的生命對于每一個人來講只有一次，如果將其與獲得的收益對比，不同人的心目中都有自己的一個價值比對與衡量標準。

實際上從統計學的觀點來看，在軍事應用中，特別是戰爭中，也面臨著類似問題。戰爭是以剝奪人類個體生命為代價的人類解決矛盾沖突的最激烈的形式，由于很多的不確定因素導致所提出的作戰方案的最終實施結果也是一種概率事件，獲勝的可能性是A%，失敗的可能性是B%，當然A%+B%=100%，如果人工智能從統計學的角度給出了一個只有80%成功概率的作戰方案，請問您會采用這一方案嗎？此時您可能會反問人工智能需要解釋一下這一作戰方案獲勝的概率為什么是80%？人工智能回答：這是從大量數據中統計分析得到的結果，您可能對該回答相當不滿意，對于是采納這一方案進行作戰，還是不采納，自己內心依然忐忑不安。如果將這一情況與前述的左輪手槍實驗進行對比，實際上二者的性質是相似的，都是由統計數據與統計規律得出的結論。

這也是DARPA在可解釋性人工智能項目中第三項研究內容設置成“理解用戶心理需求”的重要原因所在。因為在專業技術人員看來，人工智能中的人工神經網絡已經給出了問題的解答與理由，只不過這個答案是通過大量數據的統計分析的結果，但是這個答案并不一定會被戰場上的士兵與指揮員所認同與接受，很多情況下并不是人工神經網絡自身的問題，而是處于非專業技術狀態的用戶在認知心理上的問題，而解決這一問題還需要心理學的相關方法。實際上這與DARPA的“可解釋性人工智能”項目的第三方面的研究內容關聯緊密。

5 可解釋性與說服力的心理分析

對于一個問題，人類用戶有一個自己的解答，具有人工智能的機器也給出了一個解答，如果兩個解答基本一致，人類用戶向“人工智能機器”詢問解釋緣由的必要性就不強烈了；但是一旦兩個解答出現了不一致，甚至偏差較大時，則人類用戶向“人工智能機器”詢問解釋緣由的概率就非常高。如果此時“人工智能機器”給人類用戶的回復是：這是通過概率統計分析得到的結果，人類用戶很可能會陷入前面的使用左輪手槍射擊與生命賭博的境地。

在此再以電子戰應用中的一例來說明這一場景，一架配備有人工智能計算機的戰斗機在防空突防過程中被一枚地空導彈鎖定，該導彈正以超音速向戰斗機飛來，戰斗機飛行員所能采取的選擇有：措施1）保持戰斗機飛行狀態，讓機載自衛干擾機對該導彈的制導雷達實施干擾，使導彈偏離目標；措施2）立即實施戰斗機橫滾轉向，同時開加速，轉入機動逃逸。上述兩個選擇不能同時采取，因為在戰機做高速機動時，機載自衛干擾的效能會大大降低，甚至失效。此時戰斗機上的人工智能計算機給飛行員的建議是采取措施1），理由是經過統計分析，在此條件下戰機生存概率最大；但飛行員自身本能的反應是采取措施2），畢竟自己的生命還是掌握在自己手中為好。如此一來，在面對躲避導彈這一問題決策上，飛行員與機載人工智能計算機之間給出了不同的決策建議。此時飛行員實際上也陷入了前述的左輪手槍射擊與生命賭博的境地。人工智能計算機是從概率統計的角度分析的，目標是生存概率最大，但采取這一措施之后并不能確保一定能逃得過這枚地空導彈的追擊，因為并不能確保100%的生存概率。那么此時，飛行員是按照人工智能計算機給出的決策行動，將自己的生命交給機器計算出的概率來決定，還是不聽從機器的建議，這一場景與前面的左輪手槍射擊與生命賭博相似度極高。

假設給我們決策建議的不是一臺“人工智能機器”，而是一個同樣的人類個體，這個人給出的決策建議與我們自己思考的決策如有沖突，我們應該如何選擇，這在我們的日常生活中也是經常遇見的一種情形。實際上這是社會心理學要研究的一個問題，就如同要說服一個人，讓他接受另一種與之不同的觀點一樣，那么接下來我們自然會想到：需要采取一些說服人的技巧。如果扮演一位有經驗的長者來進行解釋與說明，則對傾聽者而言更容易接受，因為所有人潛意識中都會傾向于相信長輩或有成功經驗的人士給出的建議或忠告。所以在人工智能機器給出行動或決策建議時，向人類用戶展示自己過去的成功案例，在用戶心目中樹立人工智能機器的威望。另一方面，如果人工智能機器在長期與人共處的過程中，兩者相互之間逐漸建立起了信任關系，這樣用戶也更能接受人工智能機器所給出的結果。這一點與人類社會也具有相似性，人與人之間建立信任的方法之一就是長期相處、榮辱與共。在二者之間信任建立之后，即便人工智能機器僅僅給出結果，而不給出相關的解釋，人類用戶也會欣然接受。繼續以前述的戰斗機躲避導彈為例，如果飛行員第一次采納了人工智能計算機給出的建議，即按照措施1）實施，并獲得了成功；那么在后續的第二次再遇到類似場景時，飛行員接受人工智能計算機所給建議的概率就會更高，這也體現了他們之間信任關系的一個建立與加強的過程。

當然說服用戶還需要其他的一些技巧，例如在人與人溝通交流中說服的常用技巧就有暗示法，因為可能有些決策不便直接說服對方去做，如果直截了當地表達，常常會引起反感與對立情緒，于是通過打比方，講故事，借此說彼的暗示更能使傾聽者認同與接受。除此之外，以情動人也是一種常用的說服技巧，這實際上就是大家常提及的曉之以理、動之以情。對于曉之以理我們在前面已經簡要分析過了，關于動之以情對于機器來講的確難度很大，因為如何讓機器具有類似于人類的情感仍然是人工智能學術界正在研究的一個難題。但人類情感表達的機器模擬已經有了一些進展，例如目前語音機器合成中已經能在一定程度上從聲強、語調、語速、音色等多個方面融入一定的情感要素，這對于傾聽者來講，在獲得語句本身所具有的含義之外，還能部分體會到語句中所蘊含的情感。實際上在人與人的溝通交流藝術中還有很多說服的技巧，有關“說服技巧與溝通藝術”的書籍也十分眾多，大家可細細閱讀，在此就不再展開贅述了。實際上這也可以看出在DARPA設置的“可解釋性人工智能”項目中把人機交互和用戶心理分析也列為研究內容之一，其實也是為了通過各種形式使人工智能的用戶更好地認可并接受人工智能機器所給出的結果，這同時也是人機關系構建與鞏固的一個自然過程。

6 結語

無論是東方文化，還是西方文化，知其然并知其所以然，這是大家在學習過程中從小就受到的教育。隨著人工智能技術的發展，人工智能機器也逐漸成為我們人類社會的重要組成部分，在人與人工智能機器進行交互的過程中，希望其能夠給出可解釋性的結果是比較自然的要求。在本文中我們從統計學與心理學的視角對DARPA設立的“可解釋性人工智能”項目的幾個方面進行了概要的解讀，揭示了人工智能中人工神經網絡這一分支學科的統計學機理，展示了心理學在人機交互與人機信任建立過程中所發揮的重要作用。這對于更加理性地看待人工智能的發展、以及人工智能在電子戰等對抗與博弈領域中的應用具有重要的參考意義。