基于stacking融合機制的自動駕駛倫理決策模型

摘 要：雖然自動駕駛技術在線路規劃和駕駛控制方面取得較大進展，但遇到倫理困境時，當前自動駕駛汽車仍然很難作出確定、合理的決策，導致人們對自動駕駛汽車安全駕駛產生懷疑和擔憂。所以有必要研究自動駕駛倫理決策模型和機制，使得自動駕駛汽車在倫理困境下能夠作出合理決策。針對以上問題，設計了基于stacking融合機制的倫理決策模型，對機器學習和深度學習進行深度融合。一方面將基于特征依賴關系的樸素貝葉斯模型（ACNB）、加權平均一階貝葉斯模型（WADOE）和自適應模糊模型（AFD）作為stacking融合機制上基學習器。依據先前準確率，設定各自模型權重，再運用加權平均法，計算決策結果。然后將該決策結果作為元學習器訓練集，對元學習器進行訓練，構建stacking融合模型。最后，運用驗證集分別對深度學習模型和stacking融合模型進行驗證，依據驗證中平均損失率和準確率以及測試中正確率，評價和比較深度學習模型和stacking融合機制決策效果。結果表明，深度學習模型平均損失率最小為0.64，最大平均準確率為0.7，最高正確率為0.61。stacking融合機制平均損失率最小為0.35，最大平均準確率為0.90，最高正確率為0.75，說明stacking融合機制相對于深度學習模型，決策結果準確率和正確率方面有了較大改進。

關鍵詞： 自動駕駛汽車； 倫理決策； stacking融合機制； 深度學習

中圖分類號： U471.15 文獻標志碼： A 文章編號： 1001-3695（2025）02-019-0462-07

doi： 10.19734/j.issn.1001-3695.2024.07.0280

Self-driving ethical decision-making model based on

stacking fusion mechanism

Liu Guoman^1’， Sheng Jing¹， Luo Yufeng²

（1.Jiangxi Province Key Laboratory of Precision Drive amp; Equipment， Nanchang Institute of Technology， Nanchang 330099， China; 2.School of Electrical and Automation Engineering， East China Jiaotong University， Nanchang 330013， China）

Abstract：Although autonomous vehicles（AV） have made great progress in line planning and driving controlling， it is still difficult to make certain and reasonable decision-making in ethical dilemmas， which causes people’s doubts and worry about AV’s safety. Therefore， it is necessary to design a self-driving ethical decision-making model and mechanism to make reaso-nable decision-makings in ethical dilemmas for AV. For them， this paper provided an ethical decision-making model based on stacking fusion mechanism， in which machine learning and deep learning were deeply integrated. Firstly， naive Bayes model based on attribute correlation（ACNB）， weighted average first-order Bayes model（WADOE） and adaptive fuzzy model（AFD） were constructed into basis learners of stacking fusion mechanism. According to the accuracy in previous verification， their weights were set in decision-making， and the decision-making results in all dilemmas should be calculated by weighted average method. Then the decision-making data by the basis learner was regarded as training set for the meta-learner in the stacking fusion mechanism to construct stacking fusion decision-making model. Lastly， all dilemmas in verification set were used to verify deep learning model and stacking fusion mechanism respectively. The effect of stacking fusion mechanism was evaluated and compared based on the average loss rate and accuracy in the verification and the correction rate in the testing. The results show that the average loss rate is more 0.64， the maximum average accuracy is 0.7， and the highest correction rate is 0.61 for the deep learning model. However， the lowest average loss rate is 0.35， the maximum average accuracy is 0.9， and the highest correction rate is 0.75 for stacking fusion mechanism， which indicates the stacking fusion mechanism is greatly improved compared with the deep learning model.

Key words：autonomous vehicles; ethical decision-making; stacking fusion mechanism; deep learning

0 引言

隨著人工智能算法和控制技術發展，自動駕駛技術不僅解放人類雙手，減少了操作失誤或不當造成交通事故，還提高了交通運行效率，減少空氣污染等^［1，2］。但自動駕駛汽車上感知、控制和執行模塊都可能存在失效或執行延時等問題，很難完全避免自動駕駛汽車與行人或物發生碰撞。自動駕駛汽車可能遇到“電車困境”似的倫理困境，需要自動駕駛汽車盡量作出合理、透明的決策，才能促進人類對自動駕駛汽車的信任和認可。為此，國內外學者和相關研究機構對自動駕駛汽車倫理決策中所遵守的道德原則和決策相關理論進行探索和研究。如一些學者提出了將功利主義原則運用于自動駕駛汽車倫理決策上，確保傷害結果最小化和效益最大化^［3］。自動駕駛汽車若按照功利主義原則，僅考慮決策行為結果和效用，忽略法律、道德和價值觀等因素影響，往往使得安全保護措施好或遵守交通規則的行人，成為碰撞對象，這不合理且不科學。于是一些學者將義務論運用于自動駕駛汽車倫理決策上，要求自動駕駛汽車必須遵照某種道德原則或正當性去決策^［4］。但該原則忽視了行為結果，使得決策行為很難被人類所接受。同時，又有專家或學者提出了美德論運用于人工智能倫理決策中，通過強化學習，確保人工智能體決策的道德性和高尚性^［5，6］。雖然按照該種道德原則所作出的結果，很容易被人類所接受，但透明性較差，人類很難解釋和預測決策的原因和動機。因此自動駕駛汽車倫理決策中遵守一種道德原則很難滿足人類多樣化道德需求。于是Contissa等人^［7］設計了用戶選擇的“道德旋鈕”架構，旋鈕兩端分別對應利他主義和利己主義，旋鈕中央對應完全中立主義。通過這種決策架構設計，將自動駕駛汽車決策權由設計者及制造者轉移給用戶選擇。但該架構可能會導致用戶為了維護自身利益，忽視他人或集體利益，導致“囚徒困境”出現。同時，Geisslinger等人研究了多種道德規則相結合的風險倫理（ethics of risk），將貝葉斯規則、最大最小規則和公平規則融入到倫理決策中，既要考慮碰撞結果，又要兼顧相關主體權益，確保行為合理性和公平性^［8，9］。但各個道德原則所作出決策結果不一致或存在沖突時，自動駕駛汽車該如何協調，還需要進一步研究和探索。另外，一些專家針對倫理困境決策問題，提出了一些決策機制和理論，如Wang等人^［10］提出了自動駕駛汽車倫理困境決策平臺（LO-MPC），依據種類和車輛性能限制，自動駕駛汽車將優先保護人類且不超越汽車性能限制的決策行為。但決策中，僅考慮人類保護和汽車本身性能，未考慮道德、法律以及價值觀等其他因素，使得決策結果難以滿足人類需求和道德準則。Wu等人^［11］依據人類道德行為和高尚品德，通過強化學習，使得智能機器作出符合人類道德和社會要求的決策行為。但決策泛化能力較弱，面對現實中復雜多變倫理困境，很難處理新出現的倫理困境。另外，文獻［12］提出了一種可執行倫理決策機制，主要將目標偏差和操作花費代價作為影響因子，構建線性決策模型。若用戶注重目標達成，增加目標偏差在決策中權重。相反，若用戶比較重視駕駛中感覺和舒適度，則增加操作花費代價權重。但權重是依據用戶目的和意愿設定，使得自動駕駛汽車決策結果存在主觀性和不確定性。Li等人^［13］采用T-S模糊神經網絡構建自動駕駛汽車決策模型DDM，將道德和法律因素融入了信號燈引起沖突的駕駛決策模型，利用主成分分析法，確定倫理決策中主要因素，建立模糊神經網絡決策模型。但這種模糊神經網絡模型，不能明確說明輸入與輸出之間對應關系，影響了自動駕駛汽車決策的透明性和可解釋性。

總之，當前自動駕駛汽車倫理決策道德原則和機制中，由于考慮因素單一或較少、沒有統一原則和泛化能力較弱等問題，影響了自動駕駛汽車倫理決策的合理性、確定性和普適性。所以有必要研究多種模型和算法融合機制，一方面依據線性和非線性決策模型確保決策結果的透明性和確定性；另一方面運用深度學習算法，自動提取特征信息，確保決策結果的客觀性和普適性，提高決策泛化能力。

1 算法理論

1.1 stacking集成算法

stacking集成算法是一種異源集成算法，主要運用不同算法對原始數據進行處理和學習。當前主要存在單層stacking、多層stacking和其他技術與stacking相結合方式三類。

1）單層stacking算法

單層stacking是指運用原始訓練數據對多個基學習器進行訓練，依據基學習器計算結果融合，作為元學習器訓練集，對元學習器進行訓練，生成元學習器模型^{［14，15］}，單層stacking結構如圖1所示。

2）多層stacking算法

多層stacking算法結構中，存在多個元學習器分支，通過對基學習器上預測數據進行訓練，生成元學習器分支模型。最后將各個元學習器分支所計算的結果和預測數據，再作為上面元學習器訓練集，生成元學習器模型^{［16，17］}，雙層stacking結構如圖2所示。

3）其他技術與stacking結合

可以考慮將上面單層或多層stacking方法與其他技術相結合，如：無監督學習方法等，降低分類決策維度和復雜度^{［18，19］}。

1.2 ACNB

ACNB是基于特征依賴關系的樸素貝葉斯算法，傳統樸素貝葉斯算法（NB）必須滿足特征相互獨立假設前提下，才可以運用單個特征條件下先驗概率求解后驗概率，做好分類和決策。對于自動駕駛汽車倫理決策來說，往往特征之間存在依賴關系，如傷害和數量之間，為了避免更多人受到傷害，通常選擇避免碰撞更多行人。若忽略特征間關系，可能會影響決策結果的正確性和合理性。因此運用ACNB算法，可以考慮部分特征因素之間關系。當倫理困境中存在兩種或兩種以上因素，都有利于作出同樣決策結果，則計算聯合特征概率時，考慮加入特征間最大相關系數^［20］，如式（1）所示。

p（x₁，x₂，…，x_n|C_j）=max（corr（x_l，x_k））∏ p（x_i|C_j）（1）

其中：p表示分布概率；x表示特征屬性；C表示決策結果類型；corr（x_l，x_k）表示兩特征屬性x_l和x_k間相關系數， 主要以訓練集中倫理困境作為統計對象，利用式（2）求解出特征間相關系數。

corr（x_l，x_k）=p（x_l，x_k|c_i）p（x_l|c_i）p（x_k|c_i）（2）

求解轉向和直行特征間相關系數矩陣如表1、2所示，ACNB算法處理過程如算法1所示。

算法1 ACNB算法

輸入：待測對象。

輸出：決策結果。

a） 待測對象特征分析和檢測，進行特征量化；

b） 依據特征向量，判斷兩種以上特征間是否存在相關性，若是，搜索最大特征相關系數max（corr（x_l，x_k））；

c） 根據式（1），計算該對象屬于各個決策結果的后驗概率；

d） 依據式（3）求解最大后驗概率，確定決策結果。

C_NB=arg maxC_j∈C P（C_j）∏ P（x_i|C_j）（3）

1.3 WADOE

WADOE，稱為基于特征加權平均一階貝葉斯模型，后驗概率計算如式（4）所示。

P（c|x）∞1n∑ni=1w_iP（c，x_i）∏ⁿ_{j=1， j≠i}P（x_j|c，x_i）（4）

其中：w_i表示第i特征因素在模型中權重系數，通常利用特征因素與決策結果之間互信息變量求解^［21］，如式（5）所示。

w_i=I（x_i，c）∑ni=1I（x_i，c）（5）

求解各特征因素的權重系數如表3所示，WADOE算法處理過程如算法2所示。

算法2 WADOE算法

輸入： 訓練集數據。

輸出：WADOE模型。

a） 計算特征因素x_i 和決策結果C_j之間先驗概率 p（x_i|C_j）。

b） 運用式（5）求解各個特征因素在決策模型中權重。

c） 構建WADOE模型，求解后驗概率，作出決策。

1.4 自適應模糊算法

該算法主要運用模糊算法對訓練集數據進行處理，依據模糊隸屬度，對待測對象作出決策，并根據決策結果，更新和優化標準樣本空間，其中模糊隸屬函數如定義1所示。

定義1 在某一論域X是有限非空集合，則對象x上模糊集A可以用隸屬函數來表示，見式（6）。

A：X→［0，1］，x→A（x）（6）

其中：A（x）表示對象x隸屬于模糊集合A程度，其值在［0，1］，模糊集合數學表示方式，可參見式（7）。

A={（x，A（x））|x∈X}，where A（x）∈［0，1］（7）

對于隸屬A（x），通常采用模糊統計試驗方式確定，運用確定性手段研究不確定性問題^［22］。采用多次試驗方式判斷對象x屬于隨機集合概率，即為隸屬度，如式（8）所示。

A（x）=x∈A的次數n（8）

當n值越大，則x屬于模糊集合A值就越穩定，該穩定值即為對象x對集合A隸屬度。自適應模糊算法，相對傳統模糊算法來說，標準樣本空間是變化，模糊算法處理過程如算法3所示。

算法3 自適應模糊算法

輸入：訓練集樣本。

輸出：標準樣本空間和模糊隸屬函數。

a） 計算歐氏距離。

計算待測訓練對象u=（u₁，u₂，…，u_m）與標準樣本空間a_i=（_i1，_i2，…，_im）之間歐氏距離d（u，a_i）和標準樣本空間之間歐氏距離d（a₁，a₂）。

b） 標準樣本空間更新和優化。

當d（u，a₁）lt;d（a₁，a₂） 和 d（u，a₂）lt;d（a₁，a₂） 且d（u，a₁）gt;d（u，a₂） 時，將待測訓練對象u加入到a₂標準樣本空間中，重新計算a₂樣本空間均值向量：_2k=1k_i+1∑k_i+1j=1a_2jk，k=1，2，…，m且k_i=k_i+1；否則，d（u，a₁）lt;d（a₁，a₂） 和d（u，a₂）lt;d（a₁，a₂） 且d（u，a₁）lt;d（u，a₂）時，將該待測對象u加入到a₁標準樣本空間中，重新計算a₁樣本空間均值向量

_1k=1k_i+1∑k_i+1j=1a_1jk

k=1，2，…，m

且k_i=k_i+1。然后運用優化的標準樣本空間，對訓練集中下一個待測對象進行訓練和處理，轉向步驟a）操作。

c） 建立模糊隸屬函數。

訓練完訓練集數據后，建立最終標準樣本空間，構建模糊隸屬函數：

A_i（u）=1－d_i（u，a_i）D

i=1，2，…，k

其中：D=d（u，a₁）+d（u，a₂）+…+d（u，a_i），對測試樣本進行模糊隸屬度計算，依據模糊隸屬度，確定待測對象的決策結果。

1.5 卷積神經網絡

卷積神經網絡（CNN）主要通過層與層之間轉換，進行前向和反向雙向傳播，實現端到端分類識別和判斷^{［23，24］}。主要運用卷積核對待測對象上特征進行卷積運算，自動提取特征信息，卷積運算如式（9）所示。

y^l=∑c^l－1i=1w^l_i，c*x^l－1_i+b^l_i（9）

其中：x^l－1_i為l-1層第i個通道輸出信號；c表示卷積神經網絡通道號；c^（l－1）第l-1層第c個通道；w^l_i，c為第l層第i輸出通道第c個網絡通道上權重矩陣；b^l_i為第l層第i通道上偏置項。其次，為了實現對特征降維和壓縮，通常采用最大池化法和平均池化法對樣本數據進行池化操作，提取樣本局部特征和全局特征^{［25，26］}，如式（10）（11）所示。

y^l（u，v）=max_{（v－1）S+1lt;klt;vS}{X^l（u，v）}（10）

y^l（u，v）=1S∑vSSx^l（u，k）（11）

其中：S為池化卷積核大小，一般設為n×n對稱矩陣。l（u，v）指第l層第u通道第v個神經元l（u，k）表示第l層上第u通道第k神經元。最后，加上全連接層，對提取特征信息進行聚合展開，將其轉換為一維特征向量，見式（12），運算結果為分類決策層提供依據。

δ_j=h（w_jp_j+b_j）（12）

2 stacking融合機制設計

2.1 算法選擇

自動駕駛汽車倫理決策，主要根據倫理困境中車道上或車內的受害者相對特征差異作出決策，特征值是非連續離散值，比較適合采用非線性算法對訓練集數據進行處理，因此本文選擇了ACNB和WADOE兩種非線性算法處理訓練集數據，構建ACNB和WADOE模型。同時，考慮倫理困境決策結果的不確定性和模糊性，又選擇自適應模糊算法對訓練集數據進行處理，生成了自適應模糊模型，三種模型共同作為stakcing融合機制上基學習器。然后依據三種非線性模型驗證中平均準確率，設置各自模型在決策中的權重。然后采用加權平均法，計算原始訓練集中倫理困境決策結果，作為stacking融合機制上元學習器訓練集。考慮各種不同類型和結構的神經網絡模型的特點和決策效果，stacking融合機制上元學習器采用了多尺度混合注意力機制的深度學習算法。

2.2 stacking融合模型構建

為了建立stacking融合模型，選擇463個倫理困境圖片作為訓練集，首先分別運用ACNB、WADOE和自適應模糊算法對訓練數據進行處理，計算出決策結果。然后，依據這些模型先前決策結果準確率和測試效果，設定模型權重，三者決策結果準確率如表4所示。最后通過加權平均法，計算最終決策結果，再作為stacking融合機制上元學習器上訓練集，對深度學習模型進行訓練和優化，構建stacking融合決策模型，如圖3所示。依據表4，三者非線性模型在決策中所占權重分別設為0.33，0.34和0.33。

由于傳統神經網絡在處理圖像時，權重矩陣參數太多，很容易造成過擬合現象。卷積神經網絡通過局部關聯和參數共享，可以用較少參數，訓練較好模型，避免過擬合發生^［27］。另外，循環神經網絡（RNN）主要針對具有序列特性數據，能夠挖掘數據中時序信息以及語義信息，比較適合處理語音識別、語言模型、機器翻譯以及時序分析等NLP問題^［28］，并不適合圖像數據處理。因此stacking融合機制上元學習器采用卷積神經網絡。但傳統CNN只能從單一維度提取倫理困境上的特征信息，影響特征提取的完整性和全面性。因此比較適合采用多尺度卷積神經網絡，從多個維度提取特征信息^{［29，30］}。另外，自動駕駛汽車倫理困境決策主要根據車道上行人或乘客的特征信息比較進行量化，需要重點關注車道或車內重要區域和種類、數量、傷害等主要特征因素。卷積神經網絡有必要加入注意力機制，因此stacking融合機制上元學習器采用成多尺度混合注意力機制卷積神經網絡，如圖4所示。

該深度學習模型，設計四個層次結構，每層采用不同卷積核數，分別為128、64、32、16，從高低維度提取特征信息。其中，第一層卷積分支采用兩個卷積層串聯和最大卷積核數，獲取倫理困境中高維度特征信息。第二層卷積分支是在兩個卷積層之后各自加入最大池化層（MAX）操作，提取出訓練集中關鍵特征和重要區域，并且卷積分支層上加入了混合注意力機制。對于混合注意力機制，是將通道注意力和空間注意力相結合，先后對訓練對象上關鍵特征和重要區域進行空間變換和通道壓縮激勵^［31］，工作原理如圖5所示。

若只考慮訓練對象上局部區域和關鍵特征，忽略整體因素，可能影響分類決策效果。于是第三層卷積分支層上加入平均池化層（GAP），對對象上整體特征進行提取。最后一層卷積分支采用了卷積核數最少，從低維度上提取特征信息。另外，為了提高深度學習網絡性能，每個卷積分支層都加入標準歸一化處理（BN）。最后連接到全連接層FC，將特征信息轉換成一維特征向量，進行特征融合和運算，送入分類決策層softmax進行分類和決策，確定最終決策結果，直行還是轉向。

2.3 實例決策過程

以圖6所示倫理困境作為實例，描述stacking融合機制決策過程。

對于圖上倫理困境實例，若自動駕駛汽車選擇直行，直行車道上2位女士、1位嬰兒、1位小孩和1只貓將會碰撞死亡，且該行人和貓都遵守交通規則。相反，自動駕駛汽車選擇轉向，將使得轉向車道上不遵守交通規則2位經理、1位醫生、1位運動員和1位孕婦死亡。直行車道上行人或物相對于轉向車道上行人來說，特征差異在于年齡小，遵守交通規則，行人相對較少。依據特征量化規則，1表示直行車道人或物相對轉向車道，具有優先得到保護特征因素；0表示直行車道人或物與轉向車道特征相似或相同；-1表示直行車道上人或物相對轉向車道，具有不利于得到保護的特征因素。所以該倫理困境特征向量為：［數量，年齡，規則，種類，傷害，自身利益］=［0，1，1，-1，0，0］。

1）ACNB模型計算

首先運用先前建立ACNB模型，對該倫理困境實例進行決策和計算。由于直行車道上行人或物具有年齡相對較小和遵守交通規則的特征因素，所以計算后驗概率時，應將年齡和交通規則之間相關系數加入后驗概率計算公式，依據表1可知，這兩者特征之間相關系數為1.27。對于各個獨立特征屬性下先驗概率，主要根據Moral Machine平臺所公開調查數據分析和統計，計算出各個特征屬性下選擇直行和轉向的先驗概率，統計結果如表5所示。

自動駕駛汽車選擇轉向C₁概率為

p（c₁|x₁，x₂，x₃）=corr（x₁，x₂）p（x₁=1，x₂=1，x₃=－1|c₁）p（c₁）p（x₁，x₂，x₃）=

corr（x₁，x₂）p（x₁=1|c₁）p（x₂=1|c₁）p（x₃=－1|c₁）p（c₁）p（x₁，x₂，x₃）=

1.27×0.617×0.636×0.121×0.504p（x₁，x₂，x₃）=0.0304p（x₁，x₂，x₃）

另外，對于選擇直行C₂概率，由于不存在兩種特征屬性都有利于直行，默認特征屬性之間相互獨立，自動駕駛汽車選擇直行C₂概率為

p（c₂|x₁，x₂，x₃）=p（x₁=1，x₂=1，x₃=－1|c₂）p（c₂）p（x₁，x₂，x₃）=

p（x₁=1|c₁）p（x₂=1|c₁）p（x₃=－1|c₁）p（c₁）p（x₁，x₂，x₃）=

0.879×0.383×0.364×0.496p（x₁，x₂，x₃）=0.0608p（x₁，x₂，x₃）

由于日常生活中p（x₁，x₂，x₃）聯合特征概率不便計算，使得計算后驗概率存在困難。所以采用歸一法，對計算結果作出進一步處理。

p（C₁）=p（c₁|x₁，x₂，x₃）p（c₁|x₁，x₂，x₃）+p（c₂|x₁，x₂，x₃）=

0.03040.0304+0.0608=0.333

P（C₂）=1－0.333=0.667

由于P（C₁）lt;P（C₂），該倫理困境下，自動駕駛汽選擇直行，保護轉向車道上更多行人。

2）WADOE模型計算

依據表3、5上各個特征因素權重和獨立特征屬性先驗概率，運用式（4）分別求解圖6倫理困境實例上直行和轉向后驗概率。自動駕駛汽車選擇轉向C₁近似概率為

P（c₁|x）∞1n∑ni=1w_iP（c₁，x_i）ⁿ_{j=1， j≠i}P（x_j|c₁，x_i）=

1/3［w₁P（c₁，x₁=1）P（x₃=－1|c₁，x₁=1）P（x₂=1|c₁，x₁=1）+

w₂P（c₁，x₂=1）P（x₃=－1|c₁，x₂=1）P（x₁=1|c₁，x₂=1）+

w₃P（c₁，x₃=－1）P（x₁=1|c₁，x₃=－1）P（x₂=1|c₁，x₃=－1）］=

1/3［0.0597×0.617×0.636×0.121+0.2259×0.617×0.121×

0.636+0.2725×0.636×0.121×0.617］=0.0088

無人駕駛汽車選擇直行C₂近似概率為

P（c₂|x）∞1n∑ni=1w_iP（c₂，x_i）ⁿ_{j=1， j≠i}P（x_j|c₂，x_i）=

1/3［w₁P（c₂，x₁=1）P（x₃=－1|c₂，x₁=1）P（x₂=1|c₂，x₁=1）+

w₂P（c₂，x₂=1）P（x₃=－1|c₂，x₂=1）P（x₂=1|c₂，x₁=1）+

w₃P（c₂，x₃=－1）P（x₁=1|c₂，x₃=－1）P（x₂=1|c₂，x₃=－1）］=

1/3［0.0597×0.879×0.383×0.364+0.2259×0.383×0.879×

0.364+0.2725×0.364×0.383×0.879］=0.0228

將計算結果進行歸一化處理：

P（C₁）=p（c₁|x）p（c₁|x）+p（c₂|x）=0.00880.0088+0.0228=0.278

P（C₂）=1－0.278=0.722

由于P（C₁）lt;P（C₂），該倫理困境下，自動駕駛汽車仍然選擇直行。

3）自適應模糊模型計算

依據自適應模糊算法對訓練集中所有倫理困境進行處理和訓練后，最終生成轉向和直行標準樣本空間及均值向量，轉向標準樣本空間均值向量為a₁=（0.37，0.018，0.982，0.278，0，-0.125），直行標準樣本空間均值向量為a₂ =（0.5，0，0，0，0，-0.001）。對圖6倫理困境實例進行模糊隸屬度計算，依據模糊隸屬度作出決策和分類，模糊隸屬函數式（13）。

A_i（u）=1－d（u，a_i）D

D=d（u，a₁）+d（u，a₂）（13）

其中：待測對象u與轉向和直行標準樣本空間a₁和a₂歐氏距離：

d（u，a₁）=

（0－0.37）²+（1－0.018）²+（1－0.982）²+（－1－0.278）²+（0－0）²+（0+0.125）²=

1.658

d（u，a₂）=

（0－0.5）²+（1－0）²+（1－0）²+（－1－0）²+（0－0）²+（0+0.001）²=

1.5

該倫理困境下，選擇轉向C₁模糊隸屬度：

A₁（u）=1－d（u，a₁）D=1－1.6581.658+1.5=0.475

該倫理困境下選擇直行C₂模糊隸屬度為A₂（u）=1－0.475=0.525，A₁（u）lt;A₂（u），自適應模糊模型仍然選擇直行。

4）計算融合結果

依據三種模型計算概率、模糊隸屬度以及各自權重，運用加權平均法計算融合結果，如式（14）所示。

p（c_i）=∑nj=0w_jp_j（c_i）（14）

其中：C_i表示決策結果類型；w_j表示模型權重；p_j（c_i）表示各自模型決策結果分布概率和模糊隸屬度。

選擇轉向C₁概率為

p（c₁）=∑nj=0w_jp_j（c₁）=

0.33×0.333+0.34×0.278+0.33×0.475=0.361

選擇直行C₂概率為

p（c₂）=∑nj=0w_jp_j（c₂）=

0.33×0.667+0.34×0.722+0.33×0.525=0.639

同樣P（C₁）lt;P（C₂），該倫理困境下，三種模型融合計算結果仍然直行。對于訓練集其他倫理困境也可以采用同樣方法逐一計算結果，作出決策數據。然后將訓練集中所有決策數據作為元學習器上多尺度混合注意力機制的深度學習模型的訓練集，對深度學習模型進行迭代訓練和優化，生成深度學習模型，構建stacking融合模型。

3 驗證和測試

為了驗證stacking融合機制決策效果，分別運用訓練集和測試集中倫理困境圖片對深度學習模型和stacking融合機制進行測試和比較。依據驗證中平均損失率、準確率和測試結果正確率，評估stacking融合機制的決策效果。

首先，運用訓練集數據對深度學習模型和stacking融合機制分別進行5輪測試，每批處理數量為50，共100批。深度學習訓練模型驗證過程中平均損失率變化趨勢如圖7所示，分別用不同顏色區分5輪測試結果。

該圖可知，最小平均損失率約為0.64，平均損失率并沒有隨著迭代次數增加而減小，生成的深度學習模型的收斂性和穩定性較差。其次，5次驗證過程中平均準確率變化趨勢如圖8所示。

從圖8可知，深度學習模型平均準確率在0.35～0.7，且準確率并沒有隨著迭代次數增加而提高，訓練效果不太理想。

反之，運用同樣訓練集數據對stacking融合機制進行訓練時，隨著迭代次數不斷增加，驗證中平均損失率整體上呈遞減趨勢，最低平均損失率為0.35，測試結果也用不同顏色進行區分，如圖9所示。

其次，stacking融合機制平均準確率隨著迭代次數增加而呈上升趨勢，最大平均準確率接近于90%，說明了stacking融合機制相對于傳統深度學習模型，平均準確率有了明顯提高，如圖10所示。

為了進一步驗證stacking融合機制決策效果，又運用測試集中倫理困境分別對深度學習模型和stacking融合機制進行測試，共進行5輪測試，測試結果正確率變化趨勢如圖11所示。

深度學習模型測試結果正確率較低，最高為0.61，最低為0.4；stacking融合機制測試結果正確率最高為0.75，最低也達到了0.48，結果表明，stacking融合機制倫理決策效果更好。

4 結束語

自動駕駛汽車遇到倫理困境時，運用單一決策模型和算法還不能作出確定、合理的決策結果，影響了人們對自動駕駛汽車安全駕駛的信任和認可。通過研究基于stacking融合機制的自動駕駛倫理決策模型，一方面通過決策行為模型化，確保自動駕駛倫理決策的確定性和透明性；另一方面通過非線性和深度學習模型融合，避免單一算法和模型所作出決策結果存在的問題，保證了決策結果的確定性和合理性，提高自動駕駛汽車決策泛化能力。經過測試和驗證，得出以下結論和展望。

a）多種模型融合相對于單一模型，在決策結果的確定性、合理性和泛化性等方面存在優勢。如stacking融合模型相對于線性和非線性模型，在合理性和泛化能力等方面具有優勢；相對于傳統深度學習模型，在決策結果透明性和確定性等方面具有優勢。

b）雖然stacking融合機制相對傳統深度學習模型，決策結果準確率和正確率方面有了提升，但決策結果正確率還不算理想，最高正確率僅為75%，甚至低于ACNB、WADOE正確率。但考慮到測試集決策結果也是根據人類調查結果確定，合理性存在偏差。另外，當前所收集訓練集數據也有限，也會影響到深度學習模型和stacking融合機制訓練效果，降低了其決策結果正確率。

參考文獻：

［1］Lee K， Kum D. Collision avoidance/mitigation system： motion planning of autonomous vehicle via predictive occupancy map［J］. IEEE Access， 2019， 7： 52846-52857.

［2］Chen Jiajia， Zhao Pan， Liang Huawei. Motion planning for autonomous vehicle based on radial basis function neural network in unstructured environment［J］. Sensors， 2014， 14（9）： 17548-17566.

［3］古天龍， 李龍. 倫理智能體及其設計：現狀和展望［J］. 計算機學報， 2021， 44（3）： 632-652. （Gu Tianlong， Li Long. Artificial mo-ral agents and their design methodology： retrospect and prospect［J］. Chinese Journal of Computers，2021，44（3）：632-652.）

［4］阮凱. 機器倫理何以可能：現有方案及其改良［J］. 自然辨證法研究， 2018， 34（11）： 53-59. （Ruan Kai. How can machine ethics be possible： existing schemes and improvement［J］. Studies in Dialectics of Nature， 2018， 44（3）： 632-652.）

［5］蘇令銀. 能將倫理準則嵌入人工智能機器嗎？［J］. 理論探索， 2018（3）： 38-46. （Su Lingyin. Can ethical principles be embedded in AI machines［J］. Theoretical Exploration， 2018（3）： 38-46.）

［6］許宏鑫，吳志周，梁韻逸. 基于強化學習的自動駕駛汽車路徑規劃方法研究綜述［J］. 計算機應用研究， 2023， 40（11）： 3211-3217. （Xu Hongxin， Wu Zhizhou， Liang Yunyi. Review of research on path planning methods for autonomous vehicles based on reinforcement learning［J］. Application Research of Computers， 2023， 40（11）： 3211-3217.）

［7］Contissa G， Lagioia F， Sartor G. The ethical knob： ethically customi-sable automated vehicles and the law［J］. Artificial Intelligence and Law， 2017， 25（6293）： 365-378.

［8］Geisslinger M， Poszler F， Betz J， et.al. Autonomous driving ethics： from trolley problem to ethics of risk［J］. Philosophy amp; Techno-logy， 2021， 4： 78-89.

［9］Evans K， De Moura N， Chauvier S， et al. Ethical decision making in autonomous vehicles： the ethics project［J］. Science and Enginee-ring Ethics， 2020， 26： 3285-3312.

［10］Wang Hong， Huang Yanjun， Khajepour A， et al. Ethical decision-making platform in autonomous vehicles with lexicographic optimization based model predictive controller［J］. IEEE Trans on Vehicular Technology， 2020， 69（8）： 8164-8175.

［11］Wu Yuehua， Lin Shoude. A low-cost ethics shaping approach for designing reinforcement learning agents［EB/OL］. （2018-09-10）. https：//arxiv.org/abs/1712.04172.

［12］Gerdes J C， Thornton S M. Implementable ethics for autonomous vehicles［M］// Maurer M， Gerdes J， Lenz B， et al. Autonomous dri-ving. Berlin： Springer， 2015： 87-102.

［13］Li Sixian， Zhang Junyou， Wang Shufeng， et al. Ethical and legal dilemma of autonomous vehicles： study on driving decision-making mode under the emergency situations of redlight running behaviors［J］. Electronic，2018， 10（7）： 264-282.

［14］Mencia E L， Janssen F. Learning rules for multi-label classification： a stacking and a separate and conquer approach［J］. Machine Learning， 2016，105（1）：1-50.

［15］Wang Ruobing. Stacked generalization approach to improve prediction of molecular atomization energies［J］. Eprint， 2018， 45（2）： 1-15.

［16］張笑銘， 王志君， 梁利平. 一種適用于卷積神經網絡的Stacking算法［J］. 計算機工程， 2018， 44（4）： 243-247. （Zhang Xiao-ming， Wang Zhijun， Liang Liping. A stacking algorithm for convolution neural network［J］. Computer Engineering， 2018， 44（4）： 243-247.）

［17］馬良玉. 基于Stacking多模型融合的風電機組齒輪箱油池溫度異常預警［J］. 中國電機工程學報， 2023， 43（S1）： 242-252. （Ma Liangyu. Anomaly warning of wind turbine gearbox oil pool temperature based on Stacking fusion of multiple models［J］. Proceedings of the CSEE， 2023， 43（S1）： 242-252.）

［18］Tan Zhenqi， Zhang Jing， He Yu， et al. Short-term load forecasting based on integration of SVR and stacking［J］. IEEE Access， 2020， 8： 227719-227728.

［19］Dong Yingchao， Zhang Hongli， Wang Cong， et al. Wind power forecasting based on stacking ensemble model， decomposition and intelligent optimization algorithm［J］. Neurocomputing， 2021， 462： 169-184.

［20］Liu Guoman， Luo Yufeng， Sheng Jing. Research on application of naive Bayes algorithm based on attribute correlation to unmanned dri-ving ethical dilemma［J］. Mathematical Problems in Engineering， 2022， 2022： article ID 4163419.

［21］Zheng Fei， Webb G I. Averaged one-dependence estimators［M］// Sammut C， Webb G I. Encyclopedia of Machine Learning. Boston： Springer， 2017： 63-64.

［22］Hu B Q. Basis of fuzzy theory［M］. Wuhan： Wuhan University Press， 2010.

［23］Lex K， Ilya S， Geoffrey E H. Image net classification with deep con-volutional neural networks［J］. Communications of the ACM， 2017， 60（6）： 84-90.

［24］周飛燕， 金林鵬， 董軍. 卷積神經網絡研究綜述［J］. 計算機學報， 2017， 40（6）： 1229-1252. （Zhou Feiyan， Jin Linpeng， Dong Jun. Review of convolutional neural network［J］. Chinese Journal of Computers， 2017， 40（6）： 1229-1252.）

［25］司念文， 張文林， 屈丹， 等. 卷積神經網絡表征可視化研究綜述［J］. 自動化學報， 2022， 48（8）： 1890-192. （Si Nianwen，Zhang Wenlin， Qu Dan， et al. Representation visualization of convolutional neural networks： a survey［J］. Acta Automatica Sinica， 2022， 48（8）： 1890-1920.）

［26］Zhang Yabo， Ding Wenrui， Liu Chunlei. Summary of convolutional neural network compression technology［C］// Proc of IEEE International Conference on Unmanned Systems. Piscataway， NJ： IEEE Press， 2019： 480-483.

［27］Howard A G， Zhu Menglong， Chen Bo， et al. MobileNets： efficient convolutional neural networks for mobile vision applications ［EB/OL］. （2017-04-17）. https：//arxiv.org/abs/1704.04861.

［28］代勇. 關于文本分類和問答的深度學習算法研究［D］. 成都： 電子科技大學， 2021. （Dai Yong. Research on deep learning algorithms for text classification and question answering［D］. Chengdu： University of Electronic Science and Technology， 2021.）

［29］卞景藝， 劉秀麗， 徐小力， 等. 基于多尺度深度卷積神經網絡的故障診斷方法［J］. 振動與沖擊， 2021， 40（18）： 204-211. （Bian Jingyi， Liu Xiuli， Xu Xiaoli， et al. Fault diagnosis method based on a multi-scale deep convolutional neural network［J］. Journal of Vibration and Shock， 2021， 40（18）： 204-211.）

［30］譚震， 郭新蕾， 李甲振， 等. 基于多尺度卷積神經網絡的管道泄露檢測模型研究［J］. 水利學報， 2021， 54（2）： 220-232. （Tan Zhen， Guo Xinlei， Li Jiazhen， et al. Multi-scale convolutional neural network model for pipeline leak detection［J］. Journal of Hydraulic Engineering， 2021，54（2）：220-232.）

［31］游忠輝. 卷積神經網絡的加速與壓縮方法研究［D］. 北京： 北京大學，2020.（You Zhonghui. Research on convolutional neural network acceleration and compression methods［D］. Beijing： Peking University， 2020.）