符合倫理的人工智能應用的價值敏感設計：現狀與展望

古天龍，馬露，李龍，閆茹

（1.桂林電子科技大學 廣西可信軟件重點實驗室, 廣西 桂林 541004; 2.暨南大學 信息科學技術學院/網絡空間安全學院, 廣東 廣州 510632）

近年來，隨著核心算法的突破、計算能力的大幅提高和海量數據的支撐，人工智能得以迅速發展，并推動著社會各領域朝著更智能化的方向加速躍升。然而，人工智能在應用過程中存在著“不確定性”，這種“不確定性”不僅來自于人工智能自身的技術黑箱，也來自于人們對法律和倫理道德的忽視，這引發了如隱私保護、信息安全、公平正義、人類健康、責任區分等方面的倫理問題。為解決上述問題，在研發人工智能應用設計及使用過程中，人們逐漸開始探索并使用技術方法來嵌入人類價值，如參與式設計[1]、以用戶為中心的設計[2]、通用設計[3]、包容性設計[4]、價值敏感設計[5]（value sensitive design，VSD）等。但是，前4種方法傾向于重視工具性和功能性價值，如用戶友好性和可用性，在設計符合倫理的人工智能應用方面的使用范圍有限；相比之下，價值敏感設計不僅關注工具性和功能性價值，而且著重強調設計中的倫理價值，如知情同意、信任、公平性等。同時，價值敏感設計還將人類價值放在技術人工物所處的具體環境中進行考量，并關注現有技術是如何支持或阻礙人類價值的，以便能在設計過程中系統地、徹底地考慮人類價值和社會影響。鑒于擁有以上優勢特征，價值敏感設計在人工智能應用的設計中具有獨特的優勢，受到更多研究者和設計師的青睞。

目前，價值敏感設計在如智能機器人、智能運載設備、可穿戴設備、虛擬現實等人工智能領域的倫理研究中廣受關注。此外可以預見，符合倫理的人工智能應用的價值敏感設計是未來很長一段時間的重要研究課題。因此本文擬對本領域內已有研究進行梳理，并對下一步的研究重點及存在的挑戰進行展望，以期為推動該方面的理論研究和實踐應用提供參考。

1 價值敏感設計概述

在價值敏感設計提出之前，技術研究與開發中涉及的倫理道德已經引發了學者們廣泛的討論，但并未出現一個總體的理論與方法來處理技術中的價值維度。在這樣一種情境下，Batya Friedman教授等于20世紀90年代提出了價值敏感設計的概念，通過在信息系統中考慮人類價值，為研究者提供了一種有效協調技術與倫理間關系的方法。隨著智能信息服務和應用技術在人們生活中的不斷滲透，價值敏感設計受到了更加廣泛的關注，成為研究者考量技術設計中價值維度的重要方法之一。

1.1 基本內涵

價值敏感設計被定義為“一種以價值理論為基礎的設計方法，強調在整個設計過程中以一種有原則的、全面的方式考慮人類價值”[5]。從此種意義上講，符合倫理的技術設計不僅僅是一種前瞻性行為，而且應該貫穿于設計的整個過程，以有效嵌入人類的道德價值。

價值敏感設計認為技術不是價值中立的，技術體現著開發人員的價值觀，而且技術人工物會對人類生活的環境產生影響，包括道德、政治等多個層面。也就是說，研究人員在設計過程做出的決策具有價值含義[6]。因此，在設計前充分考慮人類價值極其重要。這里的“價值”是一個廣泛的術語，指的是一個人或一群人認為在生活中重要的東西[5]。就價值敏感設計關注的具體倫理價值而言，它涵蓋了人類福利、所有權和財產、隱私、無偏見、普遍可用性、信任、自主性、知情同意和問責制等；也涉及在使用過程中側重用戶使用體驗的實用性價值（如系統操作的簡易化）、公約（如標準化協議）和個人品味（如圖形化用戶界面中的顏色偏好）等。

價值敏感設計的主要特點可以概述為3點：互動理論、考慮直接和間接利益相關者、三方方法論[7]。1) 互動理論認為價值觀產生于技術與用戶的交互中，其中技術作為塑造社會的要素，需要遵守一定的倫理規范；人的行為和社會力量會推動技術的更新迭代，與此同時，新技術也改變著人的行為與整個社會體系。2) 識別直接和間接利益相關者以及他們的價值觀是價值敏感設計的重要組成部分，其中，直接利益相關者指的是直接與計算機系統交互的個人或組織，間接利益相關者是指間接受系統影響的其他方。3) 價值敏感設計為研究者們提供了一套獨特的三方方法論，即概念調查、經驗調查和技術調查。這3個階段之間的相互作用是動態的，某一階段中進行的設計更改會影響其他兩個階段。例如，技術解決方案的變更可能會導致新的社會風險出現，或者利益相關方的新的經驗和價值輸入可能需要技術設計做出相應的調整。因此，為實現產品的優化設計，概念調查、經驗調查和技術調查的執行過程需要不斷重復和迭代，如圖1所示。

圖1 三方方法論及其迭代Fig.1 Tripartite methodology and its iterations

1.2 三方方法論

1.2.1 概念調查

概念調查是價值敏感設計中價值的概念化過程，這一階段包含對所調查的問題和結構進行分析性和哲學性的探索，主要回答以下關鍵問題：1）誰是受其影響的直接和間接利益相關者？2）利益相關者與系統的關系如何？3）所研究的問題和結構中包含哪些價值？4）哲學類文獻是如何定義某些特定的價值（如信任、知情同意、隱私）的？5）價值之間有無優劣之分？6）如何處理價值之間的沖突（如控制與自主，隱私與獲取）？其中，識別間接利益相關者的難度較大，需要設計者做好充分的調研。概念調查將可能的價值定義為適合目標環境的新概念，并納入了一系列標準的社會科學研究方法，如半結構化訪談、調查、觀察、實驗設計、探索性調查和縱向案例研究[8]。

1.2.2 經驗調查

經驗調查通常在概念調查之后進行，以概念調查的研究結果為基礎，主要考察技術產品所處的人類環境，并將其量化，為概念調查提供相應的數據支持。經驗調查需要借助社會科學研究中使用的定量和定性方法，如：觀察、訪談、調查、實驗操作、文件收集、用戶行為和人體生理特征的測量等。這一階段主要關注兩方面內容：1) 利益相關者在互動環境中對價值觀的理解和權衡；2) 設計過程中考慮的倫理價值與人們實際使用中需求的倫理價值之間是否有差距。經驗調查的結果不僅可以被用來改進新技術的設計，使之更符合利益相關者的價值觀。此外，經驗調查還可以放在概念調查之前進行，以幫助研究者在概念調查階段明確價值的具體定義。

1.2.3 技術調查

與概念調查和經驗調查將重點放在利益相關者以及他們所關注的價值上不同，技術調查更具體地指向所討論技術的設計，通過對現有技術的回顧性分析以及對新技術的前瞻性分析來權衡多個價值，以提供不同的價值適應性。技術調查主要有兩種形式，第一種形式側重于對現有的技術屬性和基本機制進行調查，關注技術是如何支持或阻礙人類價值的。例如，一些基于視頻的協同工作系統提供模糊的辦公室視圖，另一些系統則提供清晰的圖像，顯示關于誰在場以及他們在做什么的詳細信息。這兩種系統的不同源于它們對兩種價值的權衡差異：1）個人隱私；2）群體中成員的存在與活動。第二種形式的技術調查涉及系統的主動設計，以支持概念和經驗調查中所發現的價值。例如，Xu[9]通過概念調查發現采用隱私保護機制有助于保護用戶的在線隱私，因此在技術調查階段為瀏覽器設計了3種隱私增強工具，使用戶能對其個人信息進行控制。

盡管三方方法之間的迭代十分重要，但Winkler等[10]調查了1996—2016年超過219項價值敏感設計的相關研究，發現只有17篇論文使用了所有3種調查方法。其中，進行了三方方法迭代分析的只有4篇文獻，僅占研究總量的1.8%，這提醒學者們在未來的研究中需要充分加強三方方法的迭代使用。為使研究者們更清晰地了解這3種方法的任務、特征和不足，本文給出了三方方法的對比分析，如表1所示。總體來看，價值敏感設計的三方方法論為研究人員和設計者們進行人工智能倫理研究提供了針對性的指導，也降低了新手使用價值敏感設計的難度。

表1 三方方法對比分析Table 1 Contrastive analysis of tripartite methods

2 價值敏感設計研究

國外對于價值敏感設計的研究主要集中在4個方面，包括理論反思、框架補充、方法擴展以及工具增添；國內則主要以價值敏感設計理論的引進與推介為主。

2.1 理論反思

價值敏感設計作為技術倫理研究的一種新形式，促進著“技術實踐”與“倫理實踐”的統一，這個過程中需要明確的倫理理論為解決道德爭論、應對道德考慮提供支撐，學者們對此進行了針對性的研究。

Yetim[11]從話語倫理的角度出發，在價值敏感設計中納入邊界批評方法，并應用不同類型的話語、原則和話語支持方法來補充價值敏感設計。Jacobs等[12]提議將中層倫理理論與價值敏感設計相結合，以解決價值敏感設計面臨的挑戰：1）研究者的主張和價值觀不夠明確；2）過分依賴對普世價值的實證研究，存在犯自然主義謬誤的風險；3）在價值沖突產生時難以進行價值權衡。新設計的倫理理論需要滿足3個條件：1）擁有較強的解釋力；2）擁有較強的證明力；3）簡單實用。基于上述研究，Jacobs[13]將Nussbaum所提出的實質性能力理論用于支持價值敏感設計，實質性能力理論認為，每個人都應獲得10種核心能力：1）能夠正常生活；2）身體健康；3）保持身體完整；4）能夠運用感官、想象和思考；5）有情感和情感依戀；6）擁有實踐理性來形成一種善的概念；7）擁有有意義和受尊重的社會關系；8）對其他物種表示關心；9）會玩；10）控制自己的物質和政治環境。這10種核心能力可以為道德主張和考慮提供正當理由和論證來源，幫助價值敏感設計明確研究者的主張以及應對自然主義謬誤的挑戰。Umbrello[14]首次從道德想象理論的角度探討價值敏感設計，充分考慮諸如轉喻、隱喻、想象和敘事等對道德思考和發展至關重要的想象結構，并在概念調查中增加了想象工具，重新整合價值觀的概念化過程。

2.2 框架補充

在確定價值和利益相關者、將價值轉化為設計等關鍵階段中，需要更具體的框架對其進行指導，因此Van[15]提出了“價值層次”的框架，如圖2所示。其中，規范是指技術為了支持價值而應展示的屬性或能力，且規范通常不止一個。該框架能將價值轉化為具體的設計要求，明確價值判斷。基于上述研究，Aizenberg等[16]提出了人權設計框架，如圖3所示。該框架將設計過程建立在4種價值觀的基礎上，同時還強調利益相關者的參與和三方方法的迭代。其中，4種基本價值觀可以進一步細化為更詳盡的價值觀，該框架為制定設計要求提供了結構化和包容性的途徑。

圖2 價值層次Fig.2 Values hierarchies

圖3 人權設計框架Fig.3 Human rights design framework

為解決新興技術的本體不確定性問題，de Reuver[17]提出了TCRC框架，即在價值敏感設計原有的三方方法中加入反射性活動，用于反思技術開發的目標和價值。這里的反射性是通過“道德沙盒”來實現的，以識別技術中的道德因素。為檢驗人們對技術的解釋關系，并從中識別相應的價值，Grünloh[18]引入了技術框架，該框架包含3個核心部分：1）技術的本質；2）技術戰略；3）技術的使用。為支持設計師有意識地、明確地將人類價值觀嵌入設計過程，克服價值敏感設計所提供價值清單的不完整和不通用性，Kheirandish等[19]通過經驗調查收集了價值觀數據，并對價值觀進行分組和聚類，最終形成了一個全面的價值框架，該框架包含4個主題、9個價值組、42個關鍵價值和135個額外價值，有助于明確與各種設計項目相關的人類價值。

2.3 方法擴展

三方方法論為研究者們提供了一定的指導，但研究者們面臨的設計挑戰還需要更明確的實踐方法和前進道路。Friedman等[20]系統總結了2017年以前的14種主要價值敏感設計方法的原理和相關基礎研究，并闡述了各種方法的使用技巧，所提到的14種方法：1）直接和間接利益相關者分析；2）價值來源分析；3）技術與社會結構的共同演進；4）價值情景；5）價值觀的信息維度；8）面向價值的編碼手冊；9）面向價值的模型、原型或現場部署；10）關于價值觀和技術的民族志調查；11）網上知情同意模式；12）重視價值壩和價值流；13）價值敏感行為反射模型；14）設想卡片。為解決價值敏感設計方法的松散性問題，Greef等[21]將情境認知工程（the situated cognitive engineering，sCE）與價值敏感設計方法相結合，提出了sCEthics方法。為解決價值本身的動態變化問題，Poel[22]提出了價值變化分類法。為衡量不同價值的權重，Van等[23]引入了最佳最差方法。為說明倫理和社會價值如何在連續迭代中體現在具體的技術上，Cawthorne等[24]引入了基于能力的程序-審議倫理方法。上述4種方法的主要特點和應用效果如表2所示。

表2 新興方法間的對比分析Table 2 Comparative analysis of emerging methods

2.4 工具增添

有形的工具能在實踐中幫助研究者更好地調查利益相關者及其價值，充分調動參與者的積極性。為促進利益相關者和設計師的溝通，Pommeranz等[25]提出了價值獲取工具，該工具由兩個部分組成：1）由利益相關者用于數據收集和現場自我反思的移動應用程序；2）由設計者和利益相關者合作使用的用于分析和交流價值的網站。為更全面地識別利益相關者，Yoo[26]提出了利益相關令牌法，該方法包含5個步驟：1）選擇參與者；2）選擇令牌的材料；3）創建利益相關者列表和標簽；4）將標簽附加到令牌上；5）簡述利益相關者的關系。為更好地識別潛在價值，Logler等[27]提出了隱喻卡的方法，使用該工具需要4個步驟：1）深入熟悉項目領域；2）形成一套生成隱喻；3）制作隱喻卡片；4）將隱喻卡引入設計研究中。為將現有的文化模式融入價值獲取過程，以克服文化限制對價值獲取造成的障礙，Alshehri等[28]提出了情景共同創作卡的方法，使用該工具需要3個步驟：1）概念設計，即對卡片進行粗略分類；2）物理設計，即為每張卡片設計基于特定文化的圖像；3）實用設計，即在半結構化訪談中使用創作卡，通過對不同卡片的組合來創造不同的價值情景，促進參與者表達個人價值觀。為促進設計師在設計過程中考慮人類價值，Kheirandish等[29]提出了HuValue工具，該工具包括：1個價值輪、45個價值、207張圖片卡。上述5種工具的主要特點和應用效果如表3所示。

表3 新工具間的對比分析Table 3 Comparative analysis of new tools

續表3

2.5 國內價值敏感設計研究

國內對于價值敏感設計的研究起步較晚，目前主要以理論的引進與推介為主。劉瑞琳等[30]系統梳理了價值敏感設計，介紹了價值敏感設計的研究歷程、哲學意蘊以及研究方法，并討論了價值敏感設計的實踐性、先進性以及局限性。劉寶杰[31]介紹了價值敏感設計的內涵、發展歷程與特點，并以瀏覽器中的Cookies為例，展示了價值敏感設計三方方法的迭代運用，此外，還敘述了荷蘭學者對價值敏感設計應用領域的擴展以及當前價值敏感價值設計的不足之處。郭延龍等[32]梳理了智能人工物技術治理的3種路徑，包括內在關系進路、混合式系統進路和價值敏感設計進路，并對價值敏感設計的定義、方法、應用與不足進行了介紹。杜嚴勇[33]指出，目前機器人倫理設計的實踐探索主要涉及計算機科學進路、認知科學進路和價值敏感設計3個方面，并對以護理為中心的價值敏感設計進路進行了介紹。閆坤如[34]指出，價值論轉向之后的技術哲學發展更加關注技術設計中的倫理與價值，并介紹了價值敏感設計的理念與應用。孫福海等[35]認為，要開發出具有道德的人工智能，系統設計必須考慮道德因素，并介紹了三種重要方法：價值敏感設計、透明度設計及道德學習設計，梳理了價值敏感設計的內涵、原則、研究內容及研究方法。

張貴紅[36]認為，價值敏感設計體現出了當前的大數據技術所具有的倫理與價值維度，能為大數據倫理提供基礎的分析策略，而且價值敏感設計本身的發展也能推動大數據倫理學與大數據技術的研究與發展。尹文娟[37]指出，價值敏感設計提供了一種理論支持，能將利益相關者多元化的價值觀嵌入工程設計的過程中。劉培等[38]建議在解決算法倫理問題時考慮使用價值敏感設計方法，將算法的倫理設計與具體的情景分析相結合。李飛翔[39]指出，算法工程師和科研工作者群體在對待大數據技術時，需注重價值敏感設計的使用，以避免算法過于抽象化。樸毅等[40]認為，在應對人工智能的價值非中立性倫理問題與決策風險時，可以采用價值敏感設計方法，將可預見的偏見問題扼殺在算法開發階段。陳煒等[41]建議，在解決勸導性技術的倫理問題時，可以借鑒價值敏感設計方法。他們認為，這種方法能提供一個交互性視角，并能更全面地解決價值沖突。

3 人工智能應用的價值敏感設計

價值敏感設計為解決人工智能應用中可能存在的保密性、隱私性、安全性和可信度等倫理問題提供了一種有效的方式，能夠在人工智能應用的各個設計階段融入人類價值，使人工智能應用更符合人類倫理。目前，價值敏感設計在人工智能的應用主要涉及智能機器人、智能運載工具等方面。

3.1 智能機器人

隨著“機器人口爆炸”時代的到來，智能機器人在人們的生活中扮演著越來越重要的角色，如情感陪護、聊天、送藥等。但智能機器人在決策、行動方面被賦予一定的自主性，這可能會導致大量的倫理問題出現，例如：聊天機器人可能會在言語中透露種族歧視[42]、看護機器人可能會減少人與人之間的親密接觸[43]、軍事機器人可能會誤傷平民[44]等，如何設計出符合倫理的智能機器人成為了學者們的研究熱點。Cheon等[45]利用價值敏感設計方法，研究了機器人和自動化協會網站對人形機器人專家的采訪，選擇了其中27個訪談來定性分析機器人專家的價值觀。研究表明，機器人專家所關心的倫理價值包括安全、可靠、透明和人類尊嚴。基于此，該研究提出了一個將倫理價值融入人形機器人設計的議程：1）調查開發者的價值觀；2）調查在機器人的定義中應該接受的倫理價值；3）邀請非傳統利益相關者參加機器人設計研討會。但該研究僅僅是對二次數據的加工，未來還需對機器人專家進行針對性的倫理訪談。

在醫療方面，護理機器人可用于臨床診斷、病患護理、病房清理等，成為了有效緩解人工護理壓力的新手段。由于護理機器人的服務對象為患者群體，尤其是老齡人等弱勢人群，護理機器人所面臨的倫理問題具有特殊性。因此，如何設計出符合倫理的護理機器人顯得尤為重要。Wynsberghe[46]基于價值敏感設計方法，提出了一個以關懷為中心的護理機器人倫理評估框架，該框架由 5 個部分組成：1）語境；2）實踐；3）相關行動者；4）機器人類型；5）道德因素的體現。以識別在機器人設計過程中需關注的倫理價值。使用上述框架的方法被稱為以護理為導向的價值敏感設計（care centered value sensitive design，CCVSD）方法，該方法能幫助設計師和倫理學家對護理機器人進行回顧性倫理評估，并對護理機器人進行符合倫理的前瞻性設計。在后續研究中，Wynsberghe[47]指出，當服務機器人被集成到護理實踐中時，也可以使用CCVSD方法對其進行評估與設計，并提出了識別護理實踐的兩個必要條件：1）該實踐必須是對另一個實踐的需求的響應；2）通過護理者和護理接受者之間的相互作用來滿足他人的需求。此后，Wynsberghe等[48]以舉重和尿檢機器人為例，將活動本質方法用于護理機器人的研究，結果顯示，活動本質方法能推動CCVSD進一步發展：1）為CCVSD提供更堅實的哲學基礎；2）為機器人的護理活動提供更精細的描述，以擴展護理倫理；3）提供概念工具來緩解不同倫理價值之間的沖突。

Poulsen等[49]基于機器倫理和CCVSD方法，提出了運動設計中的價值(values in motion design,VMD)方法，用于設計符合倫理的護理機器人。在使用VMD方法時，首先需要進行價值敏感設計的概念調查，以建立用戶價值模型和機器人設計的初始框架；隨后進行經驗和技術調查，以區分患者的外在價值和內在價值，其中，當護理機器人尊重患者的外在價值時，即可做出符合護理倫理的決策；而當護理機器人確保為患者提供內在價值時，即可做出符合職業倫理的決策。結果顯示，使用VMD方法后，研究者們可以通過提供良好的護理倫理決策和職業倫理決策，設計出符合倫理的護理機器人。此后，Poulsen等[50]提出了一個Attento模型來補充VMD方法，該模型可以為特定的患者制定外在價值的優先級列表，并在實踐中動態地調整列表，提供定制的患者服務。基于上述研究，Poulsen等[51]提出了一種注意框架，該框架建議在護理機器人的設計過程中聯合使用CCVSD方法和有“計算意識”的信息系統，并在運行時根據外在護理價值的優先級作出設計決策。其中，信息系統包含3個關鍵的過程和元素：1）計算意識過程；2）價值優先級列表；3）價值確認過程。

從上述研究來看，近幾年智能機器人的倫理設計研究取得了不錯的成就，其中，CCVSD方法成為了護理機器人倫理研究的奠基之作，具有重大的探索價值。但目前仍存在著一些挑戰和不足。首先，護理機器人在護理過程中會采集許多患者的隱私數據，如何確保眾多隱私數據不被泄露，是否需要針對不同的弱勢群體采取不同的隱私保護強度，其他家庭成員是否有權獲取關于患者的全方位隱私數據。其次，患者在使用護理機器人的過程中，智能護理與患者的自主性之間常常產生沖突，如何對兩種價值進行權衡，如何準確評估患者的實時狀況，以決定護理機器人應在何種程度上保障患者的自主意愿。同時，我國屬于多民族國家，如何避免護理機器人在外觀設計和交互過程中暗含種族歧視和性別歧視，如何在設計中考慮各民族的風俗和宗教信仰。最后，目前對于智能機器人的研究僅限于人形和護理機器人，如何對送藥機器人、移動病人機器人、工業機器人、物流機器人等進行評估與設計，是否可以簡單套用護理機器人的設計方法。總之，解決上述問題，是當下智能機器人的進一步研究方向。

3.2 智能運載工具

自動駕駛汽車和無人機能參與組建更為高效的交通運輸系統，幫助減輕交通壓力，但在研發、應用和推廣中產生的一系列倫理問題使其發展遇到了阻力，如隱私泄露[52-53]、責任分配[54]、非法監控[55]。為解決上述問題，科研工作者們進行了一系列的研究。

Flipse等[56]基于價值敏感設計和中游調節方法，建立了一種合作創新開發方法，方法分為兩步：1）為共同參與設計過程者建立價值檔案；2）組織研討會來討論前述價值，并將它們轉化為規范和設計要求。在自動駕駛汽車的案例研究中，建立的價值檔案包括6個倫理價值和2個非倫理價值：1）道路安全；2）負責制；3）群體平等；4）自主；5）隱私和財產安全；6）平等受益；7）高交通流量；8）以不同方式打發時間。上述價值可以轉化為具體的設計規范，例如，道路安全可被轉化為減少交通事故的設計規范，高交通流量可被轉化為減少擁堵的設計規范。該方法為設計師開發符合倫理的自動駕駛汽車提供了有益的參考，但在建立價值檔案時，對于樣本中具有技術背景和受過高等教育的人，可能存在偏見，后續研究可納入更廣泛的參與者。Thornton等[57]使用價值敏感設計方法，開發了自動駕駛汽車的速度控制器，以解決人行橫道阻塞的情況。在概念調查階段，確定了利益相關者和相關倫理價值，其中，倫理價值包括關心和尊重他人、公平和互惠、尊重權威、信任和透明度、個人自主權。并將上述價值與當前算法中已考慮的價值聯系起來，包括安全性和合法性、移動性和效率、平滑性。在技術調查階段，通過構建馬爾科夫決策過程來設計速度控制器，以支持概念調查確定的倫理價值。在經驗調查階段，將確定性比例速度控制器作為基線，與價值敏感設計速度控制器進行比較，結果顯示，價值敏感設計速度控制器能有效控制車輛的縱向加速度，讓車輛安全地通過堵塞的人行橫道。但控制速度時，乘客舒適度將會受到影響，關心和尊重他人這一倫理價值未得到保障，這為下一步的研究提供了方向。

Cawthorne等[58]首次將價值敏感設計應用于無人機平臺的技術開發，在回顧性分析中，以技術調查為重點，分析了現有的貨運無人機原型是如何支持倫理價值的，并探討了當前無人機的局限性，比如：1）可能存在安全風險；2）人們擔心無人機會攜帶攝像頭以侵犯他們的隱私；3）可能會損害租船運營商的經濟利益，從而違背“有益”這一倫理原則。在前瞻性分析中，開發了一種新型倫理無人機，這種新型無人機由內燃機驅動，且采用模塊化組件，能大幅度提高醫療服務能力和安全性。同時，通過在機身上貼上未攜帶攝像機的標志，能降低人們對無人機的不信任感。此外，無人機可以為租船運營商提供設計、制造和維護等工作，保障當地居民的物質福利。研究顯示，新型無人機能更好地提升人類福利（身體、心理和物質福利）。隨后，Cawthorne等[59]等引入價值層次方法，在原有的3個層次的基礎上新增了一個倫理原則層次。并構建了無人機倫理框架，包括：1）有益；2）無害；3）自主；4）公正；5）可解釋性。以促進公共醫療保健中使用的無人機的設計、開發、實施和評估。使用該倫理框架時，倫理原則需要被轉化為具體的人類價值，比如，有益的倫理原則可轉化為人類福利（身體、心理和物質福利）、工作/人類技能和環境可持續性的價值，無害的倫理原則可轉化為隱私、安全等價值。上述倫理框架被用于Cawthorne等[60]的另一個研究中，該研究首先評估了丹麥一架商用無人機所面臨的倫理挑戰，隨后使用該倫理框架重新設計了一架“節儉無人機”，以提供價格低廉的血液運輸方式。這種新型無人機在設計中支持了5項倫理原則及其相應的價值觀和相關規范，比如：無人機使用小型固定翼，以降低成本；無人機行駛較為緩慢，而且重量輕，能盡量減少傷害等。下一步可以分析更全面的數據，以提供更完整的無人機分析。

綜上所述，價值敏感設計為智能運載工具的倫理設計提供了一套系統的指導方法，但目前仍存在以下挑戰：1) 對于自動駕駛汽車來說，由于其本身存在著諸多倫理困境，如著名的“電車難題”，那么是否可以引入價值敏感設計的方法為解決這一難題提供新的思路。為了實現車輛分流，自動駕駛汽車可能會選擇一條更遠的路（而非乘客選擇的路線），在這種情況下，如何保障乘客的自主性。為了保障車內乘客的安全，自動駕駛汽車可能會收集間接利益相關方（如其他車內的乘客、行人以及車輛）的信息，那么哪些信息是自動駕駛汽車能夠收集的，誰有權獲取這些信息，如何保護間接利益相關者的隱私。2) 對于無人機來說，由于其在飛行過程中可能會驚擾鳥類，如何保障非人類利益相關者的權益。如何避免軍用無人機誤傷平民（包括兒童、婦女）。商業航空飛機能讓乘客在登機時主動接受風險，那么無人機要如何才能保障地面人員的知情同意權。無人機在飛行過程中可能會干擾其他航班，致使其他航班備降、返航或延誤，如何避免這一問題的發生？民用無人機越來越多，如何保障人們的隱私權不受侵害。解決上述問題，是當下智能運載工具的進一步研究方向。

3.3 其他人工智能技術

除上述研究外，價值敏感設計還被應用于可穿戴技術、學習分析技術、身份識別技術等人工智能技術的設計中。Christodoulidou等[61]以谷歌眼鏡為研究對象，采用價值敏感設計和手段-目的鏈方法，探討了高等教育背景下可穿戴眼鏡的6個用戶價值：保證、自主、交流、效率、學習能力、技術功能。為可穿戴眼鏡提供了設計啟示。研究顯示，充分考慮大學生價值的谷歌眼鏡能有效提高課堂上的小組討論與互動效率。Chen等[62]展示了將價值敏感設計用于學習分析設計的兩項研究，第一項研究是對一種學習分析工具的概念調查，通過利益相關者分析和價值分析，揭示了對該工具未來的改進設計有影響的價值（包括倫理價值和非倫理價值）和價值沖突，如：1）學生自主性和工具評估效用；2）隱私；3）學生成功；4）責任；5）可用性；6）社會福祉；7）無偏見等。第二項研究涉及維基百科項目中推薦算法的設計，包含5個步驟：1）文獻分析和實證調查；2）原型開發；3）社區參與；4）迭代測試和改進；5）評估算法。以上兩個研究顯示，價值敏感設計方法可用來支持學習分析系統中的倫理考慮和人類價值觀，未來還需探索算法審計、設計優先權、道德設計批判和價值敏感設計之間的協同作用，以全面考慮學習分析中的人類價值。Briggs等[63]從包容型設計和價值敏感設計的視角出發，探討了身份識別技術在設計過程中需要考慮的價值。該研究包含兩個階段：1）收集身份管理場景，如智能手機人臉識別系統、智能紋身、指紋識別系統等；2）與6個邊緣化人群共同舉辦研討會，包括年輕人、老年人、難民、黑人少數民族婦女、殘疾人和心理健康服務使用者，以識別他們的價值。該研究呼應了赫茨伯格的雙因素理論，其中，衛生因素中包含的倫理價值：數據隔離、數據完整性、數據訪問、信任、可靠性、安全性、知情同意、多樣性和排斥性。激勵因素中包含的價值：方便、個性化、美學。未來可以納入更多邊緣化群體的價值觀，以便更細致地考慮不同群體的價值需求。

Bastian等[64]將價值敏感設計應用于新聞推薦系統算法（algorithmic news recommenders，ANRs），通過對來自荷蘭和瑞士兩家優質報紙的17名媒體從業者的半結構化采訪，探討了以組織為中心和以受眾為中心的新聞價值觀與ANRs之間的相互作用。研究表明，受訪從業者認為新聞價值觀在設計和實施ANRs過程中非常重要，這些價值觀包括透明度、多樣性、編輯自主權、廣泛的信息提供、個人相關性、可用性和驚喜。此外，受訪者對特定價值觀的評估因環境而異，需要結合特定的新聞渠道來考慮。未來可以尋找新的算法設計操作方法，對不同價值之間復雜的相互關系進行審查，并觀察價值觀在不同類型媒體(如公共服務媒體)和背景中的感知作用。Helbing等[65]指出，在智慧城市的設計和發展過程中，需要“為價值而設計”，并主張使用價值敏感設計方法，以分布式和參與式的方式來組織數字世界，設計價值敏感型智慧城市。這要求設計師們關注除效率和經濟增長之外的多種價值觀，如環境條件與健康、安全與保障、人的尊嚴、福祉與幸福、隱私與自決，并賦予公民數據主權，保證“設計民主”。未來還可以考慮智慧城市中的更多倫理問題，學習生物和生態系統的組織原則，以參與式的方式組織數字世界。Stone[66]將城市描述為開放的、不斷發展的系統，并基于夜間照明的案例提出了6項原則，以加強價值敏感設計和價值設計方法在城市技術以及智慧城市的應用。6項原則包括：技術特異性、邊界條件、歷史背景、象征意義、有價值高于價值、放棄概念上的完整性。該原則為實現價值敏感的城市技術創新提供了出發點，但其主要集中于對道德價值觀和城市技術之間關系的概念分析，未來還可以往經驗和技術層面繼續迭代、修改與擴展。

從上述研究來看，對于可穿戴眼鏡和學習分析系統這類應用于教育領域的人工智能來說，目前還存在如下挑戰：1) 在人工智能教育應用的過程中，隱私泄露所導致的網絡詐騙、惡意推送等現象頗為常見，如何保護用戶的隱私，哪些數據是用戶可以自己保有而不會被迫公開讓他人知曉的。2) 人工智能技術有利于捕捉用戶行為和偏好，能對用戶的需求進行精準推薦，這可能會使用戶在一定程度上對智能技術過度依賴，使學生的視野受到限制，使教師喪失對教學的獨特思考，如何解決這一沖突。3) 如果人工智能出現違反道德規范的行為，應該由誰來負責。如何在教育人工智能技術中體現“透明性”這一倫理原則。對于身份識別技術來說，現在人們的智能手機大多采取指紋識別技術，但指紋信息能使用膠帶等工具惡意獲取，如何提高身份識別技術的可靠性和安全性。如今人臉識別技術泛濫，大多數人未經許可即被收集人臉圖像，如何保障用戶的隱私權和知情同意。相對于有色人種和女性，目前大多數人臉識別技術對于白人男性面孔的識別準確率更高，如何在人臉識別技術中避免性別和種族歧視？

對于新聞算法來說，除了在具體的推薦算法層面考慮和整合價值觀外，還需要在組織層面對其予以考慮，但組織層面需要收集什么數據？如何使用收集的數據？如何向用戶傳達新聞機構意識到收集和處理個人數據的具體責任？此外，由于ANRs的新聞價值很難脫離某一特定新聞渠道單獨討論，那么如何識別出一般化的價值概念，從而為更一般的推薦設計提供信息？另一個挑戰是，來自不同背景的從業者往往致力于不同的概念化和客觀價值，如何處理不同從業者之間的價值沖突？對于智慧城市來說，由于城市的建設涵蓋面較廣，如何確定智慧城市先進與否的衡量標準？我國屬于多民族國家，如何在智慧城市的建設中體現出對不同民族人民的關懷？在這個經濟快速發展的時代，如何避免經濟原則主導城市倫理原則的情況出現？大多數智慧城市通常是少數幾個規劃設計人員和技術精英的事，如何真正做到讓普通民眾參與城市管理中來？未來可考慮研究上述人工智能倫理問題的解決方案。

4 挑戰與展望

人工智能在促進社會進步的同時，也帶來了諸多倫理問題，如制造過程中產生廢料造成環境污染、醫療成本昂貴拉大貧富差距、信息收集造成隱私泄露、機器人陪護造成孩童出現情感偏差和認知障礙等。然而，在符合倫理的人工智能的設計過程中，不論是采取“自上而下”方法，還是“自下而上”方法，亦或是混合方法都存在著或多或少的弊端和缺陷，無法使人工智能產品完全遵守倫理規范。價值敏感設計為解決人工智能倫理問題提供了一種新的思路，通過使用三方方法論及其迭代，能夠徹底地調查出人工智能產品設計過程中需要考慮的倫理價值，并將其嵌入到產品的設計過程中去。但目前的研究還處于起步階段，研究成果也較少，仍難以完全解決人工智能快速發展所帶來的一系列問題，還有許多問題尚待解決。現列舉未來可能的研究重點與方向，以期推動本領域研究的發展。

1)加強人工智能應用自身的基本價值研究。

進行人工智能倫理研究的一個核心環節是確定人工智能技術應遵循的倫理價值，并且使價值列表盡可能詳盡。價值敏感設計的三方方法可以對人工智能應用所涉及的倫理價值進行充分的調研，這3種調查方法調查出的價值可以分別總結為概念化價值、經驗化價值和技術化價值。從目前的研究來看，學者們對于技術化價值的調查比較缺失，也就是說，涉及人工智能技術特殊性的倫理價值尚未受到關注。同時，如何體現3種不同類型的價值之間的異同，當前的研究也甚少考慮。此外，為了使價值列表更全面，需要在調查中納入更廣泛的利益相關者，尤其是弱勢人群和邊緣人群，因為這類人群在人工智能技術的發展過程中最容易受到傷害。

2)加強人工智能應用的設計規范研究

在確定倫理價值之后，就需要將其轉化為設計規范，而這一過程的難點在于價值沖突的處理，由于價值是模糊且無法量化的，因此如何考慮不同倫理價值之間的復雜權衡至關重要。需要注意的是，倫理的構建條件是當下社會普遍接受的思想和行為，可見倫理價值沖突的解決應該跟隨時代的變化而動態地調整。在不同的人工智能應用領域，設計規范的構建可能會出現不一致的現象，這就需要對設計規范進行普適性研究，以節約時間成本和減少資源消耗。另一個重要的問題就是描述粒度，若能用更精準的術語和概念描述設計規范，則能讓設計師更容易地將倫理價值嵌入人工智能的設計中。

3)加強人工智能應用的設計實踐研究

使用價值敏感設計方法的最終目的是設計出符合倫理的人工智能應用，真正把理論轉化為實踐，而當前的大多數研究還停留在理論層面，這不僅是因為人工智能自身面臨著一些技術性難題，還因為某種倫理理論或規范本身就是計算機無法實現的，這些問題需要研究者們從技術層面上去著手解決。此外，三方方法是需要不斷迭代的，即使已經設計出“新版”的人工智能應用，依舊可以重復使用三方方法，對人工智能應用進行動態調整，以設計出更符合倫理的人工智能應用，這一點在目前的研究中還甚少考慮。同時，如何評估上述倫理價值和規范的有效性，如何評估人工智能應用的行為是否符合倫理，如何實現人工智能應用的倫理穩定性，仍是未來需要進一步考慮的研究方向。另外，在實踐過程中，還要避免掉入過度使用價值敏感設計的陷阱中。例如，在國家或集體價值與個人價值產生沖突時，如果過度強調價值敏感設計，個人價值可能會被放在首位，而這卻不符合我國國家和集體利益至上的社會主義義利觀。

5 結束語

為了使人工智能遵從人類道德主體的道德規范和價值體系，并在法律和道德的規范下充分發揮其特定的功能，學界一直致力于人工智能倫理研究，避免設計出不符合人類價值的人工智能產品。價值敏感設計作為一種考慮人類價值的前攝性方法，能夠幫助人工智能工程師將倫理道德嵌入人工智能產品中，具有廣闊的應用前景。本文對價值敏感設計進行了簡要介紹，并概述了價值敏感設計應用于人工智能倫理的研究案例和發展趨勢。雖然價值敏感設計已經對人工智能應用的倫理研究做出了一定的貢獻，推動了人工智能應用朝著符合倫理道德的方向發展，但仍然有必要繼續探索價值敏感設計為人工智能倫理研究帶來的更多發展契機。從研究現狀來看，現有的研究主要考慮理論層面人工智能應用倫理價值的構建，并沒有考慮到實踐過程中可能會遇到的難題。未來這方面的工作應該聚焦于如何將倫理價值轉化為設計規范，進而將價值和規范嵌入具體的人工智能產品設計環節，以設計出符合倫理的人工智能應用。