大眾對人工智能道德擔憂的雙層結構分析

王云霄 龍帥 黃譯萱 陳華

摘 ? ? 要|人工智能的道德系統是動態的，不斷更新的，以社會共同的道德擔憂為基礎來構建道德模型是重要研究方向，本文旨在探究大眾對于人工智能的道德擔憂模型。運用扎根理論對17個訪談資料進行分析，共形成23個范疇和8個主范疇。從主范疇的結構關系可以得出大眾對人工智能道德擔憂模型由兩個層次組成，即因果層 和影響層。其中因果層由道德認知和爭議點構成的，爭議點是根本原因，道德認知是直接原因;影響層由道 德規范和爭議點構成的，通過中介和調節來影響道德擔憂。研究提供了減少大眾對人工智能道德擔憂的具體 路徑。

關鍵詞|人工智能;道德擔憂;道德規則;扎根理論

Copyright ? 2022 by author （s） and SciScan Publishing Limited

This article is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License. https：//creativecommons.org/licenses/by-nc/4.0/

1 引言

隨著人工智能系統的多領域發展，道德問題日益凸顯。在自動駕駛汽車的例子中，如何對情景作出選擇判斷，對于乘客、場景中的其他人及社會環境有著不同的影響（Bonnefon，Shariff，and Rahwan，2016）。人工智能已經產生潛在的倫理風險，因此學界強調人工智能的道德代碼與倫理嵌入的重要性。現行的道德設計包含三種理念：自上而下、自下而上及混合取向（Arkin，2009;Bringsjord and Taylor，2012）。自上而下又稱基于規則，將人類認可的道德標準編碼作為機器處理方式，使智能產品行動模式考慮到道德。自下而上的方案是提供恰當環境，使其通過經驗而學習道德意識，類似于兒童一般。混合取向則認為，需要通過自上而下的方法設定一定的道德語法，并通過自下而上的情景學習而發展進化（Allen et al.，2005）。機器倫理的最終目標是：通過賦予機器道德能力以使其像人類一樣自主地進行道德判斷與行動（陳銳、孫慶春，2020）。為此，機器倫理的研究者提出了諸多實現這一目標的方法，如康德式方法、范疇理論方法、博弈法，以及表面義務的混合方法等（Hooker and Kim，2018）。然而一個個問題隨之產生，倫理規則及學習情境從哪里來？誰的道德認識應該被應用到道德框架中？在道德設置中人們擔憂的問題是什么呢？

有研究者已經提出將我們的多人道德價值模型置于相關備選方案之上，或者使用所有人共同的道德憂慮（Brandt，Conitzer，and Endriss，2012;Brandt et al.，2016）。李楠通過對專家直覺及康德的道義論規則進行論述， 認為智能機器的道德規則應該從普通大眾的道德認識和擔憂及行為樣本中使用學習方法得出，從而得到最接近于普通人的人工智能。將多人的道德觀念（通過機器學習）聚合在一起可能產生比個人或者單個群體更完善的道德系統，因為這減少了個人經驗造成的特殊道德錯誤（Conitzer V et al.，2017），從而減少人們的道德擔憂。基于人為基礎的人工智能的決策過程可以更容易地被可視化和更新（Van Berkel et al.，2020）。但是目前對于 大眾的道德擔憂探索較少。無法為人工智能的道德模型提供充足的理論及情景材料。另外對于道德情景及憂慮點的設置不是靜態的，是通過多種方式不斷進行補充（Van Berkel et al.，2020）。因此本研究利用扎根理論研究方法基于現實材料探究大眾對于人工智能的道德擔憂及道德約束等方面，構建出大眾對于人工智能的道德擔憂模型，探究減少道德擔憂的路徑，為人工智能道德模型增加理論基礎。

2 研究設計與方法

研究方法

本文采用程序化扎根理論的質性研究方法，該方法能借助一條故事線將材料中分散的變量串連分析， 可以知道研究以實證的方式對樣本數據進行詳細且反復地編碼、歸類和分析比較。這是一個自下而上對數據資料進行不斷濃縮的過程，主要采用開放性編碼、主軸性編碼和選擇性編碼這三級編碼程序。開放式編碼將數據資料抽象形成概念或范疇;主軸式編碼是發現和建立概念類屬之間的各種聯系，挖掘主范疇、范疇及其之間的關系;選擇性編碼是在所有已發現的概念類屬中經過系統地分析以后確定核心范疇及范疇之間的網絡關系（Strauss，1987）。

數據收集

為了通過訪談獲取更深入、更有用的信息，在正式訪談開始前，研究者先后向 5 位心理咨詢方向 的碩士生進行預訪談。并根據預訪談受訪者反饋意見先后修改訪談提綱，形成最終版訪談提綱。本研究遵循理論抽樣原則使用深度訪談的方法對 17 名對象進行了數據收集，采用一對一訪談的方式，時間為

30 ～ 50 分鐘，受訪者信息如表1 所示。半結構化訪談提綱包括但不限于以下問題：（1）當智能產品普及到生活方方面面，您比較擔心哪方面？（2）您愿意從個人和社會的角度詳細談一下對于人工智能的發展擔憂嗎？（3）如果發生了您擔心的問題，您認為是什么原因呢？（4）您認為通過什么方法可以減少您的擔憂么？每次訪談結束，立即撰寫關于該訪談的備忘錄。

3 數據分析與結果

開放性編碼

開放性編碼是程序化扎根理論的第一步，是對獲得的數據進行標簽化、概念化和范疇化的處理過 程。采用編碼一致性及小組討論的方式進行，由兩名心理學研究生對于材料進行編碼與討論，一致性超過 80% 時停止，整個編碼過程通過不斷地新增、刪除、合并，除去三份原始材料做飽和度檢驗之外，將數據逐步概括為 131 個概念，23 個范疇，如表2 所示。

主軸編碼

主軸編碼是對初始范疇進行關系梳理的步驟，包括因果、脈絡結構等。對開放性編碼中 23 個范疇進行聯結、歸納和整合，最終形成 8 個主范疇，囊括在道德認知、道德擔憂、道德規范及爭議點這 4 個維度中，如表3 所示。

選擇性編碼

選擇性編碼是對核心范疇的選擇與設定過程。在對主副范疇進行完善的基礎上，將其反饋到關鍵概念的類型特征中，從而建立核心范疇與其他部分的聯系。其主要結構關系如表4 所示。

本研究以大眾對于人工智能的道德擔憂為核心范疇建立故事線：（1）人們通過各種渠道了解到人 工智能，從人機定位及其認識角度產生道德認知，這是道德擔憂產生的直接原因，而對于人工智能關于情感、自主能力等的爭議點是產生道德擔憂的根本原因。（2）人工智能的社會影響構成了道德擔憂的 外部表現層，而對于個體影響的考慮構成了道德擔憂的內部表現層。（3）規范設置可以通過規整爭議 點來對道德擔憂進行調節。（4）通過國家法律等形成外部信任，通過減少社會影響而對道德擔憂起作用， 同樣內部控制通過對個體的影響來對道德擔憂起作用。

理論飽和度檢驗

理論飽和度狀態是指在無法繼續提煉和抽取初始概念的范疇下不再產生新概念。對已構建的理論框架能夠較好地解釋，理論就是“飽和”的狀態。本文對于三份原始材料通過小組討論和專家檢驗的方法進行飽和度檢驗，發現并無可提煉的新概念范疇，表明上述理論模型是飽和的。

4 大眾對人工智能道德擔憂的雙層結構模型

根據訪談后的三級編碼過程，通過進一步的凝練概括，構建了大眾對人工智能道德擔憂的理論框架。如圖2 ?所示，該框架包含因果層和影響層兩個部分，包含因果、表現、調節和中介四種結構關系，可以從多個角度解釋人工智能的道德擔憂。

人工智能道德擔憂因果層分析

人工智能道德擔憂產生的直接原因是人機定位和認知角度，包括人機異同、人機關系、工具設定、發展態度和理性優勢 5 個范疇。涉及到智能，大眾通過比對自身產生道德認知，岡克爾對于人機定位曾提出人工智能的道德是人為規范出來的，而人工智能也被定義為“他者”（Gunkel，2012）。大眾對于人和機器的異同及關系的理解產生了價值觀影響、信息繭房和過度依賴的個體道德擔憂;對于人工智能的不同認知角度產生了安全隱患、就業沖擊和利益服務等的社會道德擔憂。而道德擔憂產生的根本原因是人們對于人工智能的爭議點，其中在情感層面對應著未知恐懼，而自主能力是構建人工智能主體的動力源，這些無法確定的爭議點造成了道德擔憂。

人工智能道德擔憂影響層分析

人工智能道德擔憂的影響因素主要包括外部信任、規范設置、內部控制和爭議點 4 個范疇。即由于道德認知產生的道德擔憂受到道德規范和爭議點的影響。其中外部信任通過國家的宏觀調控和企業的需求滿足來減少社會影響，同樣的內部控制通過使用者責任承擔和控制權的掌握來減少個體影響，從而共同影響道德擔憂，也就是說人類的各部分需要承擔起道德責任來減少道德擔憂（Johnson，2006）。規范 設置中規則難點、來源和發展性最終減少爭議點帶來的擔憂，實現調節作用。

5 討論

人工智能道德擔憂的因果關系

本研究發現，大眾對于人工智能的道德認知，即人機定位與認識角度兩個范疇是產生道德擔憂的直接原因。人機定位方面，主要描述了大眾對于人類與人工智能異同和關系的認識。大眾普遍認為，意識、思維與情感等核心特征是人類獨有的，因此在與人工智能交互時，人類應該始終處于主導地位。經典范疇觀認為，身體、心靈與世界是獨立的，正是因為這種獨立，人會將一切外在物作為獨立于“自我”的客體（Mcginn C，2015），以此保持自我的獨特。但隨著科技技術的發展，人類引以為傲的核心特征受到了挑戰，智能和自主將不再是人類獨有的特性（Luciano Floridi，2016），人工智能可以獲得更強的思維能力，甚至模仿人類的情感過程，從而引發了對于人工智能的道德擔憂。人工智能的普及及表現出的巨大力量，使得大眾產生了價值觀影響、信息繭房和過度依賴的個體道德擔憂。人工智能是人類功能與價值的延伸，在給人類全新生活體驗的同時，也可以徹底改變人類的生存形態（Kevin Kelly，2009），在這個過程中，對人類的價值觀產生影響，其所“造成的人類分裂和對立，對人的內在性、自主性、平等性、整體性的顛覆和消解可能是不可逆的”（常晉芳，2019）。同時，人工智能特有的數據分析優勢， 使得它能收集并分析用戶的各項信息，并提供個性化、針對性的內容，但在進行個性化信息精準推薦時， 會造成“信息繭房”的問題，用戶使用個性化推薦服務的時間與選擇信息的主動性成反比，技術進步的同時會造成用戶對信息的無節制滿足（Katz J E，2002;張敏，2021），并逐漸縮小用戶接受信息的范圍， 造成信息的單一化，甚至使受眾產生依賴而進一步導致價值迷失。隨著科技技術的發展，人工智能已經在人類日常生活中扮演了十分重要的角色，在提供便利的同時也產生了過度依賴方面的擔憂。在各種智能化應用場景中，人類可能有意識或無意識地依賴并服從于機器決策而行動（趙志耘，2021），從而模糊了人類與人工智能的異同與關系，造成道德上的擔憂。

在認識角度方面，從發展態度、工具設定、理性優勢三個不同層面描述了大眾對人工智能的普遍 看法。相關調查顯示，公眾對人工智能的普遍了解程度較高（李思琪，2019），前景較為看好。現目 前，人工智能作為給人類提供服務的工具，以及它處理數據而自帶的理性優勢，使得大眾認為人工智 能會在以后的社會中扮演更加重要的角色，從而引發了隱私泄露、就業沖擊以及利益服務等的社會道 德擔憂。隱私權被認為是一項基本的人格權利，而現在的人工智能技術的發展是數據“喂養”出來的（孫少晶，2019）。所以，基于對人工智能的認識，大眾難免會產生隱私方面的擔憂。特別是，人工 智能的算法對于大眾而言完全是一個黑箱，信息往往在不知情的情況下就被收集了，人們難免對隱私 信息是否會被過度收集而心存疑慮（Bryson，2018）。歷史地看，每一次技術革命都會造成失業現象， 人工智能取代人的工作崗位并不僅僅局限于勞動密集型產業（李傳軍，2021），在一些智力密集型行 業同樣如此（王前，2021）。一項調查顯示，超過 60% 的人認為人工智能將會造成勞動力過剩和大量失業（李思琪，2019）。同時，大眾對于當前人工智能發展的程度還有疑慮，擔心一些技術上的局限 會導致嚴重的安全隱患，并且如果人工智能以利益為導向被使用，那后果是嚴重的。有學者表示，一 旦人工智能系統中植入了不良代碼，或者人工智能系統被惡人控制，那么，其造成的損害將是人類所 不能承受的（李傳軍，2021）。

而爭議點方面，主要體現了大眾對于人工智能更加抽象化的思考，主要分為三個方面，即情感層面、數據獲取和自主能力。而道德擔憂產生的根本原因是人們對于人工智能的爭議點，其中情感層面對應著未知恐懼，而自主能力是構建人工智能主體的動力源，這些無法確定的爭議點造成了道德擔憂。

人工智能道德擔憂的影響因素

道德認知產生的道德擔憂受到了道德規范的影響，其中外部信任通過國家的宏觀調控和企業的需求滿足來減少由社會影響帶來的道德擔憂。新技術的發展，在帶來便利的同時，必定伴隨著陣痛，新技術的掌控者們占領了人工智能發展與應用的制高點（張正清、張成崗，2018）。使人變成更加難以掌控和保護自己的隱私與自由，并面臨失業風險的弱者（Thucydides，2013），從而引起大眾對于隱私、就業、 安全等方面的擔憂。而無論如何，在處理新技術的規制上.通過法律制度的調整顯然是必要的方式之一（Hamilton，1980）。而且，我國政府長久以來樹立的負責擔當的大國形象，也使得大眾普遍相信國家會運用法律或政策等手段，對人工智能發展可能帶來的擔憂進行管控。同時，據不完全統計，迄今為止國際上由不同國家、機構和團體公布的人工智能和機器人倫理標準文件已多達 50 余份。這表明，企業與設計者也會以產品安全和需求為基礎，與國家政府合力避免道德擔憂情境的發生，以此來減少社會影響，也就是說人類的各部分需要承擔起道德責任來減少道德擔憂（Johnson，2006）同時，內部控制通過使用者責任承擔和控制權的掌握來減少由個體影響帶來的道德擔憂。決策自主是人類實現自由的重要方面（Peterson M，2019），但是隨著人工智能的發展，機器已經具備一定的自動決策能力，自動化道德決策可能存在使用戶完全脫離道德決策循環的風險，進而可能對用戶的道德自主構成直接威脅（Millar J，2016），因此，大眾要求在人機交互中擁有控制權，并在外部規則下進行責任承擔， 以保障人工智能在可控條件下發展，從而減少人工智能帶來的個體影響方面的道德擔憂。

規范設置方面，包含了規則難點、來源和發展性三個范疇。其中，規則來源強調了制定人工智能道德規則的參考點，人工智能技術的發展不應該挑戰和改變人類固有的倫理規范，應該遵守人類長期以來遵守和執行的倫理規范（閆坤如，2021），并轉化為具體的設計要求（Poel I V D，2013），規則難點反映了大眾對于人工智能發展問題的深刻反思，而規則發展性體現了規則應該與技術一起與時俱進。這些有關規則的看法最終減少了爭議點帶來的擔憂，即大眾通過對人工智能各方面規則制定的認識，一定程度上解決了對于情感層面、自主決策及數據獲取方面的問題，從而有效緩解人工智能的道德擔憂。

6 結論

本研究通過扎根理論探索了大眾對于人工智能的道德認知，并以道德擔憂為核心，構建了大眾對人工智能道德擔憂雙層結構模型。主要結論如下：（1）大眾對人工智能道德擔憂由因果層和影響層組成;（2） 人工智能道德擔憂產生的直接原因是人機定位和認知角度。道德擔憂產生的根本原因是人們對于人工智能的爭議點;（3）人工智能道德擔憂受到道德規范和爭議點的影響。其中外部信任通過國家的宏觀調控和企業的需求滿足來減少社會影響，內部控制通過使用者責任承擔和控制權的掌握來減少個體影響;（4）在大眾對于人工智能道德擔憂中可以通過規范設置的調節來減少爭議點帶來的擔憂。通過人工智能道德擔憂模型，可以了解到大眾在接受人工智能普及過程中最關注的問題，并由此探究解決方法，另外也可以為人工智能道德模型的搭建提供現實材料。

參考文獻

[1]Arkin R.Governing lethal behavior in autonomous robots[R].Chapman and Hall/CRC，2009.

[2]Bringsjord S，Taylor J.The divine-command approach to robot ethics[C].Robot Ethics：The Ethical and Social Implications of Robotics，2012.

[3]Brandt F，Conitzer V，Endriss U.Computational social choice[J].Multiagent systems，2012（2）：213- 284.

[4]Brandt F，Conitzer V，Endriss U，et al.Handbook of computational social choice[M].Cambridge University Press，2016.

[5]Bryson J J.Patiency is not a virtue：the design of intelligent systems and systems of ethics[J].Ethics and Information Technology，2018，20（1）：15-26.

[6]Bonnefon J F，Shariff A，Rahwan I.The social dilemma of autonomous vehicles[J].Science，2016，352（6293）：1573-1576.

[7]Conitzer V，Sinnott-Armstrong W，Borg J S，et al.Moral decision making frameworks for artificial intelligence

[C]// National Conference on Artificial Intelligence.AAAI Press，2017.

[8]Johnson D G.Computer systems：Moral entities but not moral agents[J].Ethics and information technology， 2006，8（4）：195-204.

[9]Katz J E，Aarkhus M A.Perpetual contact：Mobile communication，private talk，public performance[M].New York：Cambridge University Press，2002：1-30.

[10]Kelly K.Out of control：The new biology of machines，social systems，and the economic world[M]. Hachette UK，2009.

[11]McGinn C.Prehension：The hand and the emergence of humanity[M].MIT Press，2015.

[12]Millar J.An ethics evaluation tool for automating ethical decision-making in robots and self-driving cars[J]. Applied Artificial Intelligence，2016，30（8）：787-809.

[13]Hooker J N，Kim T W N.Toward non-intuition-based machine and artificial intelligence ethics：A deontological approach based on modal logic[C].In Proceedings of the 2018 AAAI/ACM Conference on AI， Ethics，and Society，2018：130-136.

[14]Gunkel D J.The Machine Question：Critical Perspectives on AI，Robots，and Ethics[M].The MIT Press，2012.

[15]Peterson M.The value alignment problem：a geometric approach[J].Ethics and Information Technology， 2019，21（1）：19-28.

[16]Poel I V D.Translating values into design requirements[M].Philosophy and engineering：Reflections on practice，principles and process，2013：253-266.

[17]Strauss A L.Qualitative analysis for social scientists[M].Cambridge university press，1987.

[18]Thucydides.The War of the Peloponnesians and the Athenians[M].Cambridge：Cambridge University Press，2013.

[19]Berkel N，Tag B，Goncalves J，et al.Human-centred artificial intelligence：a contextual morality perspective

[J].Behaviour & Information Technology，2020，41（3）：1-17.

[20]陳銳，孫慶春.道德計算是否可能：對機器倫理的反思[J].科學技術哲學研究，2020，37（4）： 74-80.

[21]崔中良，王慧莉，郭聃，等.人工智能研究中交互性機器倫理問題的透視及應對[J].西安交通大學 學報（社會科學版），2020，40（1）：123-132.

[22]李傳軍.人工智能發展中的倫理問題探究[J].湖南行政學院學報，2021（6）：38-48.

[23]李楠.機器倫理的來源[J].倫理學研究，2021（1）：103-108.

[24]李思琪.公眾對人工智能發展的認識、擔憂與期待[J].國家治理，2019（4）：22-47.

[25]張正清，張成崗.第四次革命：現代性的終結抑或重構：信息倫理對人工智能倫理的啟示[J].武漢 大學學報（哲學社會科學版），2018，71（3）：177-184.

[26]孫少晶，陳昌鳳，李世剛，等.“算法推薦與人工智能”的發展與挑戰[J].新聞大學，2019（6）：1-8.

[27]王東，張振.人工智能倫理風險的鏡像、透視及其規避[J].倫理學研究，2021（1）：109-115.

[28]王前，曹昕怡.人工智能應用中的五種隱性倫理責任[J].自然辯證法研究，2021，37（7）：39- 45.

[29]閆坤如.人工智能設計的道德意蘊探析[J].云南社會科學，2021（5）：28-35.

[30]鄭戈.在鼓勵創新與保護人權之間：法律如何回應大數據技術革新的挑戰[J].探索與爭鳴，2016（7）：79-85.

[31]常晉芳.智能時代的人—機—人關系：基于馬克思主義哲學的思考[J].東南學術，2019（2）：75- 82.

[32]張富利.全球風險社會下人工智能的治理之道：復雜性范式與法律應對[J].學術論壇，2019，42（3）：68-80.

[33]張敏，王朋嬌，孟祥宇.智能時代大學生如何破解“信息繭房”：基于信息素養培養的視角[J].現 代教育技術，2021，31（1）：19-25.

[34]趙志耘，徐峰，高芳，等.關于人工智能倫理風險的若干認識[J].中國軟科學，2021（6）： 1-12.

A Bilevel Structure Analysis of Popular Moral Concerns about Artificial Intelligence： An Exploration Based on the Grounded Theory

Wang Yunxiao Long Shuai Huang Yixuan Chen Hua

Psychological Research and Counseling Center， Southwest Jiaotong University， Chengdu

Abstract： The moral system of artificial intelligence is dynamic and constantly updated. It is an important research direction to build a moral model based on the common moral concerns of the society. This paper aims to explore the publics moral concern model for artificial intelligence. Using grounded theory to analyze 17 interview data， 23 categories and 8 main categories were formed. From the structural relationship of the main categories， it can be concluded that the publics moral concern model for artificial intelligence consists of two layers， namely the causal layer and the influence layer. The causal layer is composed of moral cognition and controversial points， the controversial point is the root cause， and the moral cognition is the direct cause; the influence layer is composed of moral norms and controversial points， and affects moral concerns through mediation and adjustment. Research offers concrete paths to reduce public concerns about the ethics of AI.

Key words： AI; Moral concern; Ethical norms; Grounded theory