新興人類增強技術的設計倫理問題探析*

唐躍洺 張昌琳 王 前

隨著新興人類增強技術的發展，人類身體的存在形式將逐漸由天然的碳基有機物向人與各種人工物的嵌合體即“賽博格”轉變。心臟支架、仿生手臂、人工耳蝸等生物技術的應用，使得人體中“非人”的組織和器官不斷增多。荷蘭技術哲學家維貝克(P.P.Verbeek)[1]認為，有必要強調一種人與技術十分親密的或者說人與技術區別不太明顯的關系模式，在這里人與技術實際上融合成了一個新的實體狀態——(人/技術)。在這種新的實體狀態中，人與技術以互融、相嵌的整體形式出現，是一種復合關系，其設計的目的是讓人-技術實現合作，產生一種既不是機器也不是人類單獨獲得的積極后果[2]。這種新的實體狀態源于新興人類增強技術的作用對象是人類身體。在新興增強技術的支持下，人們甚至可以按照個人自由意愿成為各種形態的人，一些哲學家將這種本體論意義上的自由主義稱之為“形態自由”(morphological freedom)，也可稱之為“形體改變”[3]。自由主義者通常從約翰·洛克關于個人自由的平等主義觀念來理解形態自由，即我們可以自由地成為我們想成為的人。人類可以突破生命組成的固有形式，不同形態的生命形式都應該被接受并同樣享有一定的權利，這其中可以包括賽博格人、機器人、數字自我、嵌合體、移形換影人等[4]。這種新的實體狀態意味著技術主體與技術客體的融合與重疊，人類既成為自身的目的也成為實現目的的手段。這就帶來了技術設計與技術評價的糾結，引發了關于人的主體性地位的思考。新興人類增強技術的隨意應用是否會導致“人之為人”的本性被改變？是否會影響社會生活中公正平等的要求？是否會帶來人的自主性和自我意識的削弱？如何從設計倫理角度避免新興人類增強技術的應用可能帶來的負面影響？這些問題都需要及時進行深入的哲學反思。

1 新興人類增強技術引發的設計倫理問題

新興人類增強技術的應用本身需要預先設計，提前對其中的價值和倫理問題進行前瞻性思考，新興人類增強技術的整體發展更需要從設計倫理視角進行規約。“設計倫理”指的是將社會和道德價值明確轉化為與情境相關的設計要求，有效解決技術設計和應用中面臨的種種有關價值的不確定性、社會矛盾和倫理沖突等問題，其核心宗旨是實現“為價值而設計”的目標[5]。在新興人類增強技術中，“為價值而設計”指的是將設計過程植根于人類尊嚴、自由、生命健康、平等和自主的價值觀中[6]。這意味著將倫理要求前置，事先從人的生理、社會和精神屬性出發，將健康、公平、正義、自主等價值訴求由被動轉化變為主動嵌入，體現人與技術在設計過程中的良性互動。新興人類增強技術引發的設計倫理問題，主要體現在以下三個方面。

1.1 有關人的生物學身份的設計倫理問題

生物保守主義者認為，在新興人類增強技術中有關“人的本質”的探討，解決的是人之為人的“生物身份”問題。弗朗西斯·福山(Francis Fukuyama)[7]認為“人有一種普遍的生物學本質，使人基本保持了人之為人的生命特性，是人的自然權利”。然而，基于“人-技術物”結合產生的增強，使技術與人的區別愈來愈不清晰，也模糊了主、客體以及天然與人工的區別[8]。依照超人類主義者的觀點，“自然人”進化到“技術人”是對人的“有限性”的解脫，是人自身在“創造自我”[9]。如果新興人類增強技術的發展使得人體內“非人”的組織和器官占比已經超過了自然的組織和器官，還能夠稱得上是生理意義上的“人”嗎？早在1988年，英國雷丁大學教授凱文·沃里克(Kevin Warwick)就將一枚邊長為3毫米的芯片植入自己的左腕皮膚下，使神經系統和芯片緊密結合，讓神經脈沖在一條普通電線的連接下傳入電腦，從而增強了生物腦與電腦的對話[10]。隨著人類增強技術的日益發展，生物手臂、電子紋身、人造皮膚等一系列提高個體生理機能的增強技術層出不窮。雷·庫茲韋爾(Ray Kurzweil)[11]認為，2045年人類能夠上傳大腦意識至計算機，實現數字化永生，即大腦意識和個人的智力能夠數字化永久保存，這預示著人類生物肉體最終將以機械組件部分代替，形成人機復合體。他還表示，通過神經工程學可能建造人類大腦模型和研制成功復制生物功能性的技術，云端的仿生大腦將會與人類大腦“對接”，從而迎來一個全新時代。對于有行為障礙的特殊人群，不應輕易否定將其自身思想通過機器來表達或是通過機器的融合來增加其行為能力的必要性。但對于健康人，人的“生物學身份”是由人的生物學組成確定的，反映“我是誰”以及“我由什么組成”即人的“類”特性，人機混合的新人類可能突破這種“類”特性邊界，企圖造出“超人”。這是自然人的身份地位的降低還是人-機嵌合體地位的上升？未來人的生物學身份是什么？人與人體產品的區別是什么？人的完整性是否遭到了破壞？是否需要以及如何對有關于“人”的概念進行重新界定？這一系列問題都需要通過設計倫理研究加以解決。

1.2 有關社會公正和人格平等的設計倫理問題

“公平正義”具體表現為按照相同的原則分配公共權利和社會資源的機會公平，享有同等的資源、權利、能力和社會地位的人格平等。然而，人類增強技術在未被普及之前往往是非常昂貴的，并不會公平分配給每一個人，更不會首先分配給社會弱勢群體，很多時候不符合“適合受惠最少者的最大利益”的要求。從個體層次看，受教育程度高、生活環境好的富人更容易首先利用新的人類增強科技成果提高其體能或智能，而獲得越來越多的優勢，得到更多機會，更加富有。反之，那些受教育程度低、生活環境差的窮人卻很難通過人類增強技術來提高自己的各方面能力。這種“優勢累積效應”最終會導致“增強的鴻溝”(enhancement divide)，不僅會逐漸加大當代的貧富差距，同時還會帶來代際之間的“鴻溝”，能力的巨大懸殊將吞噬整個社會的機會平等信念[12]。此外，人類增強技術的不當應用也可能構成對人格平等的挑戰。通過人類增強技術改良的人，或者說“后人類”(post-human)有可能會認為“自然人”是劣等的，是適合剝削、奴役甚至滅絕的人類亞種[13]。如果說人類的靈長類近親的地位低于人類是因為它們能力較低，那么比普通人類能力高的存在物就可能自認為擁有比普通人類更高的地位[14]。弗朗西斯·福山(Francis Fukuyama)[15]曾對此表示擔憂，提出如果只是一些人而不是所有人類都得到了增強，結果將不僅僅導致已有的資源、機會和福利等方面分配不平等的惡化，還會造成一種更加意義深遠的不平等，那就是具有更高社會地位的一個群體的出現。 未來可能會形成“高級人類>普通人類>靈長類”的等級序列，那些智商和情商低于增強者的普通群體很可能會受到歧視，進而失去很多的社會機會與福利，并受到不公平的待遇，甚至被侵犯人之為人的尊嚴。因此，新興人類增強技術在設計環節中，必須將公正與平等作為重要因素慎重考慮。

1.3 有關人的自主選擇和控制的設計倫理問題

自主性(autonomy)來源于兩個古希臘詞autos和nomos，可以理解為自我支配、自我管理和自我主宰，最初指獨立城邦的自治和統治[16]?，F代意義上的“自主”更多地強調個人作為能動的主體，在自我行為、選擇和判斷中處于主導地位。生命倫理學家托馬斯·香農(Thomas Shannon)[17]將自主歸為兩種因素：一是個人自由行為的形式不以他人的意志為轉移；二是按照自己的意愿進行自我選擇與自我決策并付諸行動。按照這兩個因素，自主性在人類增強技術設計中應該表現為增強者可以按照自己的意志自愿決定和選擇是否進行增強以及進行怎樣的增強。但在人類增強技術迅速發展的世界，外部壓力與環境等因素可能導致個人甚至是群體的“被動”增強，削弱人的自由意志，對于特殊職業人群更是產生了“不得不”自愿增強的情況。還有針對于未出生的后代以及未成年人的增強，都使得自主性面臨著多種限制。人類增強技術中個體自主性的缺失還表現為自我控制能力的降低。以腦-機接口(brain-computer interface，BCI)技術的使用為例。這種技術的出現確實提高了運動機能喪失患者的自主行為能力和存在溝通障礙的人的交流和閱讀能力，實現了自我控制能力的增強，但是人與機器互聯狀態有可能在意識層面形成機→人控制的模式，降低甚至取代了人的自我控制能力[18]。這種機→人的控制首先表現為對自我選擇的限制。當人機相結合時，機器會自動接收或保存個人精神活動狀態的信息，基于相似情境的大腦活動向個人提供算法導向，將個人行為和可選擇范圍局限在機器認為合理和可接受的選項中，使人失去自我選擇的機會[19]。機→人的控制還可能使個人行為動機受制于算法處理后的數據，個人幾乎沒有洞察力或控制力，其行為結果也會受到干擾。美國華盛頓大學的沙拉·格林(Sara Goering)等[20]指出，腦-機接口的限制可能會導致對人的完全操縱，取代部分腦功能，個人的整個行為將被機器所控制。腦-機接口對個人自我控制能力的削弱還體現在對個體“隱私”的“無限”侵犯，通過對大腦神經信號進行解碼分析其中的規律，解讀和推測個體的思維活動與行為意圖，從而達到“讀心”“讀腦”的可能。為此，人類增強技術在設計中需要確保個人自主的完整性，包括自我意識和自我控制能力。

2 新興人類增強技術發展中的設計倫理原則

面對人類增強技術所帶來的一系列倫理問題，設計倫理原則的設立有助于對各種可能的設計方案進行謹慎的倫理風險評估，避免不合理應用帶來的倫理風險，保障人的基本權益不受損害。新興人類增強技術發展中應當遵循如下設計倫理原則。

2.1 “以人為本”的原則

“以人為本”原則強調人作為發展的主體，是發展目的與發展手段的統一，應時刻以滿足人的基本需求為根本[21]。這就要求人類增強技術在設計、制造和使用過程中，時刻關注其對人類主體的影響，尤其是潛在的、隱蔽的、難以把握的負面影響。在新興人類增強技術的發展中，“以人為本”的要求意味著設計活動應最大程度保證人類個體(及后代)不受任何傷害，包括“不施害”和“不增加傷害風險”[22]，避免在使用時可能發生的傷害、實際發生的傷害，以及非惡意甚至無意造成的傷害[23]。在設計環節中，應充分考慮個體生命整體與局部關系的協調，當局部傷害出現時及時控制風險的發展態勢，以確保整體的健康和安全。還應防止出現類似“基因池”污染、進化方式改變等嚴重問題。

另外，對新興人類增強技術設計中要盡可能增強個體生命的福利。朱利安·薩烏列斯庫(Julian Savulescu)等[24]從福利主義角度定義人類增強技術，認為“一個人在生理或心理上的任何變化，只要它增加了在相關環境下過上良好生活的機會，才真正達到人類增強的目的”。福利主義在本質上是規范性的，它將增強與健康、幸福、有利的價值聯系在一起，考慮的是改善個人的整體生活狀態。這項技術的設計必須滿足行善或增利的義務，要求人們在實施增強技術時得到最大可能的好處而帶來最小可能的害處，保證個體的健康并確保個體福利的增加。

2.2 維護公平正義的原則

維護公平正義的原則要求所有人都應有平等的基本自由和機會[25]。新興人類增強技術設計中的公平可以理解為“在機會公平平等的條件下向所有人開放”[26]。為了確保機會均等，有必要將“天賦”和“努力”兩個價值因素納入人類增強技術的設計之中。“天賦”是人與生俱來的優勢，機會均等的普遍原則所抗拒的是人為的社會不公，并不意味著要消滅或排除個體之間正常的天然差異，更沒有權利取消具有“天賦”的優勢[27]。對于普通人而言，超越“天才”的最好辦法就是通過自身后天的努力。脫離后天努力而單純依賴新興人類增強技術所得是危險的，更像是軍備競賽[28]。

新興人類增強技術設計中的“人格平等”是指盡管人們之間存在性別、膚色、民族、職業、經濟狀況、能力等方面差別，但應當具有相同的價值和尊嚴。正如《世界人權宣言》第一條所描述的那樣“人人生而自由，在尊嚴和權利上一律平等”。這就需要在新興人類增強技術的設計環節中納入非歧視要求，明確禁止基于種族、性別、膚色、宗教、性取向、殘疾等理由的任何歧視和偏見，并盡可能在資源分配中優先考慮弱勢群體和更加需要的人，如有生理缺陷的殘疾人和從事特殊職業的人員。

2.3 和諧共生的原則

和諧共生原則需要為“人/技術”這種新的實體形態建立規約與準則。正如斯蒂格勒[29]所說，人類“作為缺陷的起源”從一開始就需要技術(代具)作為補充，以便使技術這一“外在的東西”構成人的“存在本身”。當新興人類增強技術與人之間的關系以整體形態呈現時，和諧共生原則一方面要確保人類的基本福祉，另一方面也要保證技術發展的動態穩定性，實現人與技術的共生與共融。有必要將“協同”價值納入和諧共生的設計環節中。這里要避免兩個極端，一是對技術的盲目崇拜，使人受制于技術，失去了人所應有的主體性(主動性、目的性和自由)，成為了馬爾庫塞所說的“單向度的人”；二是對技術的過度批判，忽略人類增強技術給人類帶來的種種福利。和諧共生原則不僅能夠很好地消解人們關于人類增強技術不合理應用可能對人的主體地位造成弱化和過度取代的擔憂，還能夠使利益相關者在設計、制造、使用和管理人類增強技術時，正確看待其對生理、社會和精神的正負兩方面影響。

2.4 考慮周全的原則

考慮周全原則在技術設計中關注的是“計劃”和“徹底思考”，要求技術人員在設計的各個環節承擔深思熟慮的義務?！翱紤]周全的義務”由美國著名技術哲學家卡爾·米切姆(Carl Mitcham)[30]提出，指的是工程師在設計過程中應當承擔考慮盡可能多的相關因素的首要責任，全面地思考，局部地操作。他強調，在工程師進行設計時，往往帶來的都是全新的后果，也是一個“未知領域”，在沉浸于設計的“理想世界”時要仔細而周密地思考現實世界的相關因素[31]。在新興人類增強技術的設計中，考慮周全原則要求技術人員在設計過程中全面考慮各種相關因素，提前規避技術可能帶來的社會風險或是給個人及后代健康帶來的安全隱患，并提供對技術所帶來不良后果的合理解決方案，盡可能避免由于簡單冒進而帶來的風險和不確定性。

考慮周全原則還要求設計人員應該具有“全局意識”。這里的“全局意識”需要以一種整體、全面的眼光看待高度復雜系統中的技術干預，兼顧各方參與者不同的觀點與見解，把不同學科聯系起來，解決各種各樣相互交織的倫理問題[32]。在新興人類增強技術的設計中應從整體視野出發評價其設計和使用是否合理、操作是否合乎規范、效果是否安全可靠，綜合分析人類增強技術的風險/收益比例。

2.5 責任前置的原則

責任前置原則要求在設計過程中對風險進行提前的識別與控制，避免不良后果對使用者造成傷害。責任前置原則對風險和不確定性采取一種預防在先的態度，在實施面對不確定性的行為時應該“要安全而不要對不起”[33]。目前，新興人類增強技術的發展還不夠成熟，其技術的實施方式又是以一種人機交互相融的特殊模式，很多技術在實施過程中見效快用時短，其產生的風險就更加地難以識別和把握。例如，在基于無線射頻識別技術的開發中，只需要扎一針，不到2分鐘的時間就可以將芯片植入體內，植入芯片的民眾只需要握握手就可以交換個人信息，那么已植入芯片的人類就相當于在“信息裸奔”，被植入的芯片在劇烈運動下還存在位移的風險，這就很可能帶來包括人身安全、個人隱私泄露、被黑客入侵遠程控制等一系列風險[34]。因此，在新興人類增強技術的設計中需要納入“保護”和“預防”的考慮，提前規避可能出現的風險，這里的風險不僅包括給個人健康帶來的傷害，也包括給社會穩定帶來的影響以及給個人自主性帶來的威脅，從而保護人類主體性地位不受侵犯，預防技術風險帶來的負面結果。當新興人類增強技術的使用風險非常高、設計成本非常大時，必須預先分析、權衡實施與不實施可能會帶來的利與弊，采取行動去降低風險，時刻保持一種謹慎的、負責任的態度[35]。

3 設計倫理在新興人類增強技術中的應用途徑

怎樣將以倫理原則為導向的新興人類增強技術設計廣泛應用到現實的社會生活中？如何保證設計倫理在新興人類增強技術應用中的實踐有效性？這里有三方面的問題亟待解決。

3.1 新興人類增強技術設計的風險評估

從設計倫理出發對新興人類增強技術將會存在的風險進行評估，可以采用“價值敏感性設計”(value-sentitive design，VSD)[36]的方法。VSD由華盛頓大學信息學院的芭提雅·弗里德曼(Batya Friedman)等主導研究，主張在技術設計中通過一系列方法說明人類價值，將人類的價值理念貫穿到設計之中，以避免可能產生的風險給人類帶來的傷害。其特有的概念性、經驗性和技術性三重方法論，能夠闡明特定環境中人類價值的內涵，并輸入技術系統之中，對風險進行規避并實現“以人為本”的目標。新興人類增強技術在設計的最初階段，應首先進行概念調查，在理論層面上分析出所要納入的價值訴求。不同學科的工作者，包括工程師、設計師、倫理學家以及醫務工作者和患者等可以從各自專業領域出發，闡述價值訴求，以期在人類增強技術的價值導向上達成某種共識。經驗性調查探索的是利益相關者的需求、觀點和與技術及其所蘊含的價值相關的經驗，通過訪問、調查、文獻收集、實驗操作等方式為抽象的價值找到經驗上的支持，如機械手臂的使用感是否滿足客戶所需的生物真實，腦-機接口是否保證了使用者的隱私等。根據已有的概念分析和經驗分析，技術性調查主要與技術特征相關，集中于技術本身的設計與開發，以滿足基本的價值訴求并有足夠的技術手段支撐。

以價值敏感性設計為方法論的新興人類增強技術設計，是一種從“價值”到“規范”再到“技術功能”的過程。從事新興人類增強技術研發的科學家和工程師應該在相關產品投入生產和使用前，對其可能帶來的倫理風險同其他利益相關者對話，以更好地實現相關風險的前瞻性識別與評估，確保每個環節的安全性和穩定性。以價值敏感性設計為導向的建構模式，作為在新興人類增強技術發展的重要應用途徑，需要利益相關者之間平等對話和通力配合，將風險意識貫穿在整個設計過程中，以實現真正的“安全設計”。

3.2 新興人類增強技術設計的社會監督

2019年7月，《國家科技倫理委員會組建方案》審議通過。在科技倫理領域最受關注的問題中，人類增強技術位列前三[37]。新興人類增強技術設計的社會監督需要多方政策管理者和決策者全面考量社會需求和倫理準則，對人類增強技術進行預期倫理評估，實現新興人類增強技術的健康發展。由于新興人類增強技術的設計是多元主體共同合作的結果，有必要在設計中通過商談來確立一種被絕大多數人認可的價值標準，強調利益相關者的參與、對話和協作，以達到對相關社會實踐多維度的監督。有效的社會監督必須來自符合合理論證的真實對話，如哈貝馬斯[38]所說：“行為者通過行為語境尋求溝通，以便在相互諒解的基礎上把他們的計劃和行為協調起來?！蓖ㄟ^商談，可以明確相關行為者的社會責任，形成環環相扣的監督模式。新興人類增強技術的開發商和設計者作為技術行動者要使技術設計符合國家倡導的價值標準和道德規范，在設計階段可以運用情景化設計(contextual design)、社會影響設計(social implication design)、產品愿景設計(vision in product design)等方法，對技術設計方案進行建構性評估和道德化評價，保障受試者和使用者的合法權益；人類增強技術的使用者個人或組織作為社會行動者，可以在實際使用時對產品的設計進行反饋，以此對技術設計實施社會監督，促進人類增強技術在合理邊界內廣泛應用；倫理學家以及相關倫理評估機構更應參與到對人類增強技術的監督之中，闡釋不同類型倫理訴求的實際意義，在不同利益相關者之間搭建橋梁，保證技術行動者和社會行動者之間能夠有效對話。

此外，對新興人類增強技術設計的社會監督還需要依靠相關法律法規和規章制度。新興人類增強技術主要通過藥物、生物醫學以及基于機器、基因干預等途徑進行增強，所以需要吸收這方面政策法規文件的作用。在《涉及人的生物醫學研究倫理審查辦法》《醫療技術臨床應用管理辦法》《衛生技術評估管理辦法》《人類輔助生殖技術和人類精子庫倫理原則》等文件中的相關規定，都在不同程度上涉及新興人類增強技術的設計倫理問題。在此基礎上，有必要盡早出臺專門針對新興人類增強技術的法律和政策，以利于這方面技術應用的健康發展。

3.3 新興人類增強技術設計的倫理教育

面對新興人類增強技術所帶來的復雜倫理問題，不僅需要在基本原則和道德規范方面付諸努力，更需要從根本上加強對新興人類增強技術設計的利益相關者的倫理意識教育，將相關的倫理原則和道德規范根植于個人價值觀的深層，從而轉化為一種無須提醒的自覺行為，將社會責任牢記于心。針對新興人類增強技術設計的倫理教育可以采取通過講座、課程、實習操作等手段，使專業人員獲得道德推理、道德判斷、道德交流的能力。還可通過對相關典型案例的分析或模擬場景的直觀體驗，將其與相關的理性知識有效結合，使受教育者擁有道德想象力，可以真正地換位思考，體驗到自己在道德決策中的重要作用，進而深刻地影響其道德觀念和道德情感?？他愃雇ⅰげ嫉铝_(Kristin Boudreau)[39]在設計倫理教學中開啟了風險意識啟蒙教育，通過角色扮演游戲和互動教學來實現在復雜的社會環境中學習設計內容的目的。奧斯汀德克薩斯大學機械工程系開設的頂石課程，就是由許多公司資助設計項目，把設計師、工程師、資助公司、倫理學家和教師聯系起來，使工程專業學生在教師和工程設計師的聯合指導下，在實踐中真正體驗工程設計過程，理解工程設計中的職業責任。查爾斯·哈里斯(Charles E. Harris)等[40]整理了一份關于倫理教育目標的列表，即激發受教育者的倫理想象力，幫助受教育者識別倫理問題，幫助受教育者分析關鍵的倫理概念和原則，幫助受教育者處理模棱兩可的道德情境，鼓勵受教育者嚴肅地看待倫理問題，增進受教育者對倫理問題的敏感性，促進受教育者掌握相關的倫理標準，提高倫理判斷能力，提高倫理意志力。這些教育目標對于新興人類增強技術設計的倫理教育有著重要的啟發和指導意義。新興人類增強技術設計的倫理教育的實施有助于培養科研人員、醫務人員、管理人員和其他利益相關者的自律意識，督促其在設計、研發和應用環節慎重考慮技術可能帶來的負面影響，更好地實現“以人為本”的設計理念。