新時代高科技倫理的困境與應對(上)

新興技術發展與風險倫理規約

張成崗 清華大學社會科學學院 教授

如何駕馭快速發展的新興技術，迎接新興技術帶給人類的新變化和新愿景，應對擾動性較大的生命技術、人工智能等帶給人類社會的新挑戰，是當前亟待回應的重大課題。2018年11月世界首例基因編輯嬰兒的出生導致各界 “恐慌性熱議”， 遭到全球學術界的普遍譴責。各界的關注既有對技術發展倫理規約體系滯后的反思，更有對新技術應用后果不確定性風險的深層擔憂： “技術是不是在更深層次上與風險形成共謀” “人類是不是在玩正確的游戲” “人類是不是沿著正確的方向在走”毫無疑問，沒有人愿意接受一個人類自身不能認識、不能預測、不能控制的未來，沒有人愿意承擔在貌似的進步中喪失人類自身的風險。筆者認為，對于生命倫理的 “恐慌性熱議”可以成為理性之起點，而不能成為非理性因噎廢食之終點；推動社會發展既需客觀的科學研究之努力，又需冷靜的倫理規范之反思。

1 技術發展中的 “不均衡悖論”對現代性倫理的挑戰

技術發展具有技術、社會、文化、生態、倫理等多重維度，對技術的全面整體性認知要避免 “就技術論技術”的線性邏輯，社會愿望與需求一直是影響技術發展速度與方向的重要力量，對技術的深入理解離不開技術發展的社會語境。現代技術發展呈現指數增長，現代技術應用產生的影響與規模已經導致了新的歷史情景，表現在： “從自然在危害人類”轉化到 “人類在危害自然”；從 “技術是工具”轉換到 “技術是目的”；從 “技術活動指向外部”轉為 “指向人自身”；技術活動從 “個人行善”轉為 “集體冒險”。

技術社會的出現及其演化為人類提出了兩個共時性問題：在工具世界中如何保證人的主人地位？人類文明與新技術是否和如何兼容？ 實際上,工業社會以來的歷史發展表明，所有技術社會形態都在面對三重邏輯悖逆：① “主奴悖論”：制造者與制造物關系悖逆，如何防止技術失控？② “不均衡悖論”：技術與社會制衡力量的不均衡發展悖論；③ “工具和目的悖論”：技術作為工具角色與技術成為整體性生活方式統攝的悖逆。20世紀以來，技術的快速發展與相應社會規范體系緩慢演化之間的 “不均衡悖論”日益凸顯，技術的指數增長對社會倫理規約體系帶來巨大挑戰。正如鮑曼在 《后現代倫理學》中指出，現代技術表明人類行為可能對事物產生巨大影響,而人類的道德能力卻不能做出相匹配的拓展。在阿倫特所形容的 “無人控制的”結構平臺上，在面對指定任務和程序性規則雙重力量時，作為道德主體的行為者，變得啞口無言、不知所措。在現代性倫理學中，現代技術行為的目標是人的具體特性而非整體的人，技術行為的道德評價被相對忽略了。毫無疑問，新興技術的發展為人類社會生活提供了多種可能性，如何從倫理學上加以規范，提出 “應該如何做”的問題，是擺在倫理學面前的一個重要挑戰。現代性倫理學是理解技術的重要背景，在新的歷史情境下，應當對道德規范的 “應該”、技術行為的 “能”與現實條件下的 “是”之間的交互作用進行新的反思。

現代技術發展帶來了新的歷史情境及人類行為模式的變革，人類行為已經從近距離行為轉變為遠距離行為。由于現代技術已經在新的時空結構、新的規模上進行，傳統倫理學框架已經不能對技術行為目標和結果進行有效調控。傳統倫理學局限性表現在：很少或者幾乎沒有涉及自然本身的價值、權力與意義；未顧及遙遠的人類與世界未來，對人類作為一個種類的整體性存在缺乏關注；著眼于某個具體行為的本身的道德性，而不注重對行為后果評價。隨著技術結構和社會結構、倫理體系的不匹配問題激增，技術的增長速度過快，社會結構、倫理還不能及時做好應對技術增長的準備，就會導致社會恐慌性認知和不穩定因素的產生。

2 風險、不確定性與技術倫理規約

社會生活的穩定在很大程度上依賴于社會成員對共同約定的道德規范、倫理規則之遵守，通過對規范、規則遵守，社會共同體的存在能獲得一種安全感。當下，融合了技術力量的 “遠距離行為”越來越多地成為在 “公共領域”引起爭論的行為，轉基因食品、克隆生命、基因編輯嬰兒等無疑都在對一般的社會價值和道德規范形成挑戰，或者表明了特定的價值體系的沖突。技術進步觀念的另一極端立場是對技術進步毫無批判的接受，盡管從 “科學無禁區”的角度，科學家有進行基因編輯技術研究的權利，但是如果研究結果及其應用構成對社會秩序的威脅，涉及對人的尊嚴的侵犯，那么該研究行為就應當得到法律、社會規范及倫理價值的規約。盡管帶來人類福祉，當代科學技術同時也是巨大甚至可怕的力量，倫理學與法律是解決技術社會控制的重要手段。按照貝克的理解，在風險社會中不明確的和無法預料的后果將成為歷史和社會發展的主要力量，盡管風險只是一種發生的可能性，但是危險一次證實有可能意味著無可挽回的后果。新技術發展的未知性、新技術社會后果的不確定性，以及與新技術產物互動的無法預見的結果，導致新技術的風險問題。技術風險必然帶來相應的倫理問題，這些問題既包括我們應對可能風險所采取的措施本身的倫理問題，也包括在風險應對過程中，社會共同體內部互動中產生的倫理問題。

科技成果之應用是如何被認定為對人們健康、福利甚至人類自身構成風險的？風險社會學的研究表明：一般而言，人們依賴媒體來了解技術應用的健康風險、生命安全威脅等；醫療機構有定義風險的權力，但人們越來越對醫療機構和政策制定者提供可信賴風險解釋能力表示懷疑；在媒體信息渠道多元的情況下，最有可能消除公眾恐慌的專家意見會被采納。在此情形下，倫理學研究中的預防原則值得提倡：在即便沒有獲取確切證據的情形下，以所能設想的最糟糕情形作為預防性行動之基礎。

如果我們能找出風險問題中的確定性行為的基礎，就可以發現決定論式的決策和行為規范的問題所在。技術發展后果往往具有不可預料性，技術后果在總體上可以分為 “不可預測但在意料之中”和 “不可預測且在意料之外”，不可預測性是技術過程的顯著標志和內在特征。風險倫理的一個基本假定就是認為人類需要應對風險和不確定性，但并不是把不確定性變為確定性，而是要與不確定性共存。風險倫理規約的核心就是在保持相關主體的不確定性，并重新在不確定性情景中進行風險決策。

歷史地看，20世紀的生物技術發展包括DNA雙螺旋結構的發現、生命遺傳密碼的破譯等，翻開了從分子水平探測人類奧秘的新篇章；21世紀被稱為 “生物技術世紀”。近年來，生物技術、人工智能技術等新興技術的發展一直在動搖、沖擊著現代性倫理學的理性根基，帶給我們諸多不得不思考的問題。目前基因編輯技術在人類胚胎上的應用仍然面臨新技術發展中的不確定性難題以及倫理規約問題，除了造成不必要的個體健康風險外，基因編輯嬰兒還可能引發商業不端行為并導致人類基因池的污染，對人類社會造成尚難預測的重要影響。筆者認為，要走出技術發展中的 “工具—目的悖論”，破解技術發展的 “不均衡性難題”，倡導負責任的研究、進行有效的技術規制、發展 “為了人的技術”，應當成為科技發展的終極目標。

3 負責任的研究與科技治理能力現代化

現代性下的遠距離行為可能對遙遠地域和子孫后代產生影響，這種影響比我們能夠預想的遠為深刻和激進,甚至超越了受到時空限制的人類的倫理想象力。古典現代性的倫理學框架并沒有包括遠距離行為目標和結果，亟待重構。在重構過程中， “責任”成為新興技術倫理中的核心概念。責任并非來自他者需要，而是來自內在道德推動力對道德本身的關注，責任具有非互惠性。在宏觀上實現作為倫理學崇高目標的正義，需要在微觀上承擔起對他者的責任。倫理學需要回應風險及不確定性挑戰， “責任”作為核心原則要求我們從 “與他者共在”轉向 “為他者而在”，要求我們回到道德原初場景去構建道德空間。

在傳統社會中，對公民的要求是 “做一個好公民”，盡自己的本分，遵守與其在社會中的位置相應的約定俗成的規則。在技術社會中，對公民的要求是 “做一個負責任的公民”，個人不僅要追求自己的利益，也要承認和考慮他人的利益，技術倫理首先是一個責任倫理，倫理學正在發生轉向，即從 “角色倫理學”到 “力量倫理學”、從 “當代倫理學”到 “未來倫理學”、從 “地域倫理”到 “全球倫理”、從 “近距離倫理學”到 “遠距離倫理學”。我們需要把 “用來考慮的時間”從 “用來生產的時間”中分離出來，從 “創造財富”轉向 “不去毀滅”，負責任的研究與設計應當成為新興技術發展的核心準則。

目前新興技術發展的社會環境存在不確定性和復雜性，而不確定性語境導致未來社會構想的復雜性和不確定性。應當充分認識技術生產、擴散和使用的社會環境的復雜性和多元性,認真對待不同國家和地區社會發展階段的差異性,對各國國情給以充分考慮和尊重；同時應當加強新興技術的全球治理，促進多元主體之間的對話與協商。新技術革命浪潮正在重構人類生活，人類對于新技術革命的到來應當歡迎而非拒斥，人類對自動化技術、基因編輯技術、人工智能技術的生產、擴散和采用的可能帶來的新的社會變化和挑戰要有充分準備。在新興科技不斷引發各種社會危機的當代語境下，認識新興科技風險的特征，反思當前新興科技風險治理模式所面臨的問題，以及研究更為合理的新興科技風險治理模式，這對于引導新興科技走向 “與人善”的發展之路具有非常重要的意義。

(本文為國家社科基金 “后經驗轉向時代的技術倫理規約機制及模式研究”、北京社科基金 “風險治理中專家信任構建路徑及機制研究”的階段性成果)

基于大數據的算法殺熟現象的政策應對措施

李俠 上海交通大學科學史與科學文化研究院 教授

隨著近幾年大數據的興起，數據挖掘技術得到迅猛發展，其潛在商業前景不可限量。時至今日，我們尚無法準確研判大數據革命對于人類的存在狀態到底會造成什么樣的深遠影響，但至少在其早期應用中已顯露出一些令人擔憂的征兆，整個社會已經開始逐漸感受到大數據對國家安全與個人生活的侵入以及權利的喪失。為了便于討論，我們對最近涌現出來的基于大數據的算法殺熟現象做些簡單分析，期望通過生活中的一個常見視角，探討在新技術面前人類的處境以及可能的解決措施。

“殺熟”是一種隱喻說法，所謂的熟無非是對人和物的信息了解比較多而已，坊間所謂的殺熟是指對特定消費個體采取的不同價格而已。在小數據時代，這種殺熟現象規模較小、危害較輕，無法挑戰市場的自由競爭原則；而在大數據時代，數據的采集、加工、挖掘、分析與共享越發成熟與普遍，對消費者的熟悉程度與小數據時代不可同日而語，導致市場競爭可以被壟斷完全替代，通過所謂的動態定價，可以最大限度上實現最大范圍的歧視性定價，殺熟不再被看作是不道德現象，反而成為商家算法技術先進的代名詞和暗中炫耀的資本。超級平臺與應用程序軟件通過移動設備對消費者產生的數據進行實時跟蹤、捕獲、整理與挖掘，然后基于利潤最大化的算法實現價格歧視，這就是殺熟現象的本質所在。

在大數據時代，數據就是具有生產性的重要資源。這里存在一個困境：個人的數據信息是分散的，其孤立存在的價值并不大，但是一旦眾多個體的數據被平臺或商家收集起來，形成一定的規模，那么它的價值就會迅速變大。在數據挖掘中，消費者個體將是最大輸家。那么這個社會中是誰在收集這些數據并以此獲得收益呢？在利益分布的鏈條上，大體來看，包括三個層級的機構：個體、商家 (應用程序的使用者與提供者)與超級平臺。商家與平臺利用收集來的海量個人信息，通過特定目的的算法整理出個體的偏好與特定信息，并對消費者群體實行精準分類，然后商家與平臺充分利用這些信息，實現動態定價與定向廣告投放，只有消費者成為數據海洋中的受害者。數據的產出者在數據的交易中并沒有分享到相應的收益，反而成為眾多數據收集者任意收割的韭菜，這才是人們關注個人數據與信息安全的初始緣由。

更深層的危害在于通過數據挖掘，任何個體都是透明的 (筆者是堅定的計算主義者，認為人的性格、情緒、情感與習慣等都是可以計算的，當下只是計算工具不完備而已)，在此基礎上個體的隱私根本無法保障，整個社會有效運行賴以維系的公平原則將受到根本性的顛覆。在個體與商家/超級平臺之間力量對比如此懸殊的情況下，如何通過政策來約束商家與超級平臺對于消費者權利的剝奪呢？由于利益的分配鏈條是連續的，不存在利益的空白之處，那么約束機制也不應該留有缺口。基于分布式道德原理，我們提出針對不同主體行為規范的分段式政策約束機制。所謂的分布式道德，按照英國哲學家盧恰諾·弗洛里迪 (Luciano Floridi)的說法：它們是構成多能動者系統的各個能動者間互動的結果，這些能動者是人類成員、人工能動者或者混合型能動者，而且這些結果在其他情況下是道德上中性的，或者至少是道德上可忽略的。把盧恰諾的說法簡化一下就是：在多個行動者系統中，每一個行動者都是負載道德的，而這些道德在被孤立的行動者那里也許是道德中性的，但是一旦形成社會聯結，那么這些特殊道德之間就會出現沖突，為了維系社會的有序運行，行動者之間要在行為規范上形成有效銜接，否則社會就會出現失范現象。比如一個企業就其自身而言，追求利益最大化是符合道德規范的，但是，一旦企業與消費者之間產生實質性聯系，單純追求利潤最大化的規范就要受到約束，否則就是違背社會正義與公平原則，此時企業與個體都要調整各自的認知范式，使彼此之間保持相互匹配，即可接受性。從這個意義上說，一個多能動者系統是存在分布式道德的，為了有助于分布式道德的建立，需要相應的政策安排來引導分布式道德的運行。由于道德形成的緩慢性，為了應對迅速增加的多元能動者，需要政府的有形之手加以干預，使之最大程度上避免由于規范的滯后所帶來的社會震蕩，這就是政策設定對于道德約束機制產生干預作用的原理。在此需要指明的是，我們認為對于能動者的行為而言：法律底線最低，道德底線次之，政策底線最高。這種安排符合取乎其上得乎其中的常識。

通過政策干預道德形成與運行是否有必要呢？只要了解基于大數據的算法對于個體與市場有多大影響就不難明白政策干預的必要性。對于個體而言，個人數據被市場上的眾多能動者廣泛收集與挖掘，個體的偏好、隱私以及消費者剩余都將失去，這對于個體而言是權力與自由的喪失，其后果除了消費環節的殺熟現象之外，更嚴重一點的事例，比如購買保險，當保險公司了解你的基因信息，并通過對個體數據的精準分析可以對個體的保費實行差別定價，由此一來，保險公司將變成一本萬利的行業，而對于個體而言將失去對于未來不確定性的防范。對于市場而言，掌握大數據的大公司之間可以較為輕易地形成合謀，從而形成壟斷市場并賺取超額利潤，這就把基于競爭的市場經濟摧毀了，所有具有競爭意識的初創公司都將被大公司扼殺在初始階段。就如同阿里爾所言：超級平臺牢牢把控著獨立應用程序的流量入口，獨立應用程序必須按照超級平臺的指示與規劃小心行事，否則是很難存活的。那么誰有能力制約與監督這些超級平臺的壟斷行為呢？顯然只有政府有能力也有責任去規范其行為，遺憾的是我們現有的政策工具箱對于超級平臺與商家的算法監管存在巨大的空白，甚至都沒有相應的政策工具。這就導致數據泛濫，算法競賽橫行，消費者就是商家與平臺的待宰羔羊，毫無還手之力，只要看看百度公司近些年的表現就不難理解這些現象。在全球化背景下，這種態勢愈演愈烈，正如盧恰諾·弗洛里迪所言：在一個去當地化的環境中，社會摩擦是不可避免的，因為沒有什么資源可以用來緩解或消除能動者的決策與行動所帶來的震蕩。

當超級平臺與商家對于個體/消費者的個人數據收集、俘獲與提取能力與水平越來越強大的時候，伴隨著機器學習技術的深入發展，算法會得到不斷的試錯過程，具備自我學習能力的算法在持續的演化競爭過程中會實現自身的質變，這種變化呈現兩種表現形式：在顯性層面上進化的算法促進平臺與商家的利潤最大化；在隱性層面算法逐漸具備自我意識而又不為人所知，這才是未來最讓人擔憂的事情。雖然就目前而言，算法與機器學習技術尚處于起步階段，還顯得有些笨拙，但是沒有人會準確預見到其何時會出現突破性的質變？那種認為危機尚遠的樂觀主義是不負責任的，就如同沒有人會意識到互聯網在短短幾十年的發展給世界帶來的變化一樣，考慮到技術具有自主性這樣一種普遍趨勢，未雨綢繆還是應該的。就如同基因編輯技術看起來離改造生命還很遙遠，但是不覺間經基因編輯技術處理過的孩子已經出生。我們這個時代所遇到的大數據、人工智能、機器學習、云計算等技術帶給人類的風險是不同于以往技術帶來的全新風險。通常技術風險根據危害程度和發生概率可以分為四種，一是低可能性、低災難性；二是高可能性、低災難性；三是低可能性、高災難性；四是高可能性、高災難性。本文所論述的基于大數據的算法殺熟現象屬于典型的高可能性、低災難性風險，而且這種風險已經變為現實。更為可怕的是那種低可能性、高災難性的風險，如當人工智能出現自我意識時引發的風險就屬于此類。由于這些知識都是前沿性知識，普通民眾難以了解，更談不上有效防范。按照美國科技政策專家希拉·賈薩諾夫的觀點：風險集聚的地方通常也是知識資源較弱的地方，從而無法獲得關于物理、生物和社會情況基準的可信數據。那么針對這些基于新技術而來的風險應該如何通過政策工具來約束呢？

基于市場的多元能動者的動機與偏好的差異，規約其行為的政策工具也千差萬別。從分布式角度來看，哪些政策工具與機構可以約束不同能動者的行為呢？對于消費者而言，當他遭遇到價格歧視時只能依據 《消費者權益保護法》尋求消費者協會的幫助，這種幫助舉證煩瑣、耗時漫長，在個人與商家力量對比嚴重不對稱時，在實踐中作用甚微；對于商家而言，對其行為負有監管職能的機構有工商管理、質量監管等部門，而這些機構幾乎沒有能力了解算法造成的價格歧視與人群分類現象，反競爭法在實踐中幾乎處于失靈狀態；對于超級平臺而言，拋開工商、質量監管部門外，工信部是其行業規范的重要監管者，但就目前狀態而言，管理部門行動的滯后性，導致對于新興業態都處于監管空白狀態。換言之，當下對于新技術的監管有實際效用的政策工具寥寥無幾，政策工具箱處于極度匱乏狀態。針對實體市場設立的反壟斷法早已無力監管處于虛擬市場的線上交易。從倫理角度來說，算法并非價值中立，這就意味著算法對于大數據的處理是蘊含巨大倫理風險的。一旦倫理約束失靈，整個行業就會出現道德滑坡現象。那么如何用好大數據資源就是當下非常緊迫的治理任務，已有學者建議對大數據進行全國性立法。客觀地說，這種建議的初衷是好的，防止產業發展步入歧途，問題是法律的范疇是極其狹窄的，就如同道德與法律對行為約束產生的差異，道德的底線高于法律底線，即一些行為不道德但不違法，一旦用法律去約束日常生活，可以想見這種社會秩序是極度糟糕的。同理，僅僅基于法律底線，大數據產業會出現野蠻生長，只要不違法即可。從這個意義上說，既要保護大數據產業的發展，又不讓其走入歧途，可以先通過政策工具 (基于大數據倫理設定)劃定行業的行為邊界，在此基礎上對超邊界的行為進行道德與法律懲戒，否則的話，在政策邊界與法律邊界之間就會出現監管與約束的真空地帶，造成社會整體的行為失范現象。因此，完善與充實大數據的政策工具箱是規范與有序發展該行業的當務之急。當下，管理部門對于大數據的國家安全層面已經給予足夠重視，短板是對于個人數據 (隱私保護)的關注仍然停留在紙面上，并沒有太多具有可操作性的政策措施。如果僅有國家數據的安全，而無個人數據的保護，這種局面會阻礙社會的進步。總而言之，從政策引導、道德規訓到立法規范，是一個逐漸完善、相互支撐的規制過程，目前已經到了政策引導與道德規訓相結合的階段，在此基礎上大數據的立法才是可行的。

(本研究得到國家社科基金重大項目 “大數據環境下信息價值開發的倫理約束機制研究”的資助，課題編號：17ZDA023)

基因編輯技術倫理亟待從共識走向共律

潘建紅 北京科技大學馬克思主義學院 教授

1 基因編輯技術的倫理反思

面對基因編輯技術引發的倫理熱議，需要進行深刻反思。實際上，直接進行人胚胎改造并試圖產生嬰兒的任何嘗試都存在著很大的倫理風險。

首先，技術產生相應的倫理問題，具有一定的必然性。從技術與倫理的關系來看，基因編輯技術拓展了新的領域與空間，而相對穩定的倫理還沒有觸及這些領域與空間的時候，就會導致技術與倫理之間的巨大鴻溝，引發嚴重的社會倫理問題。其次，高科技倫理是必須面對的問題。從科技本身的發展來看，技術進步既具有人為的且又外在于人的驅動力。雖然對于某項具體的科學試驗可以通過禁令來禁止，但是，倫理問題卻不能因此而得到有效解決，而且倫理問題也是必須面對的問題。再次，我國科技倫理的規范不能滿足科技發展的形勢。西方科技在發展的過程中提出了許多倫理規范，而對于中國來講，近代科技發展不足，應對科技倫理的經驗先天缺少，而中國傳統文化中實用主義傾向非常明顯。今天，科技領域功利化的評價模式更加大了這種實用主義的傾向，人們更多關注科技產生的實際效用，過多重視科技帶來的收益，不重視科技倫理問題，相應的科技倫理規范嚴重缺失。由于倫理規范的不足，不能滿足高速發展的科技要求。最后，從現實來看，技術倫理問題會層出不窮。技術的運用帶來的收益會給科技工作者帶來很大的誘惑，加之技術的社會需求非常大，在這種動力的作用下，研究人員可能會鋌而走險進行違背倫理道德的技術活動，而由于法律和規范等監管存在著很大問題，這也會導致嚴重的科技倫理問題，而且這些問題會隨著技術的發展層出不窮。為此，應充分認識基因編輯技術的倫理風險，注重科研人員的職業操守與社會責任，為基因編輯技術研究劃定明確的倫理與法律規范的邊界，在此基礎上，制定嚴格的監管體系，保證利用基因編輯技術能可控地進行。

2 基因編輯技術的倫理邊界應成為共識

一直以來，由于技術的有限性，人類對自己的生命沒有自主權。隨著基因編輯技術的迅猛發展，人類可以通過一定的技術手段自己加工自己。正如海德格爾所預言， “人們終有一天將建造用于人力資源的人工繁殖的工廠”。然而，基因編輯技術一旦突破了治療的邊界， “定制嬰兒”必將成為一種普遍現象。為此，需要把握基因技術發展的限度與邊界，使得基因編輯技術處于倫理的規訓下，以此為開展技術創新提供根本的遵循，這應該成為一種共識。

從國內來看，政府部門頒布了一系列的規則與制度： 《人類輔助生殖技術和人類精子庫倫理原則》 (2003)、 《人胚胎干細胞研究倫理指導原則》 (2003)、 《干細胞臨床研究管理辦法 (試行)》 (2005)、 《涉及人的生物醫學研究倫理審查辦法》 (2016)、 《生物技術研究開發安全管理辦法》 (2017)等，這些制度為基因編輯技術等的應用明確了基本準則。從國際來看，國際干細胞研究學會公布的干細胞研究與轉化應用指南，提出涉及人類胚胎的研究要接受專業的監管。納菲爾德生物倫理學協會認為，應建立臨床安全標準。還有很多國家在生物醫學研究方面都制定了嚴格的規則與制度，規范生物醫學的研究。

國內外的相關制度都規定，基因編輯技術不能擴展到生殖領域的臨床應用，強調要遵循基因編輯技術的倫理道德規范，維護人類生命的基本尊嚴與人的基本安全，這是基因編輯技術研究的邊界。因為基因編輯技術本身的風險具有整體性、難預知性等特點，今天的基因編輯技術還遠遠不能安全地用于胚胎編輯。維護基因編輯技術的倫理底線實際上是要遵守的最基本規范，從一定意義看，這具有絕對性的特點，適應人性的倫理應符合社會的基本倫理規范與原則，即要以不損傷人作為倫理底線與前提，還要遵循公正、平等及保密等原則，在這個基礎上，科技發展才能實現造福于人的目的。當然，不同國家社會生產關系的變化，特別是經濟關系的變化，其 “底線”是不一樣的，并隨著時代與歷史的發展不斷提升或者降低。在科技的發展中，一定的倫理總對科學技術起到選擇、評價與推動的作用，以此來判斷、評價科技發展的合理性與最基本的要求。

3 基因編輯技術倫理走向共律的思考

基因編輯技術的發展使生命科學技術的發展到了一個新的拐點，科學倫理亟待從共識走向共律，讓規則發揮強有力的約束作用，保證基因編輯技術能在安全、可靠、可控的范圍內進行運用。

成立各層級的科技倫理委員會。應成立全國到地方的科技倫理委員會，匯集各方面專家和學者的個體智慧，并轉化為集體的智慧，制定與研究可操作的技術規范與倫理指南。科技倫理委員會要對機構或單位的倫理審查委員會進行多方面的指導，科技倫理委員會在開展工作中要保證其相對的獨立性，要有相對獨立的組成與明確的工作規范，在履職中要保持公正與公平。政府也要加強對科技倫理委員會的指導與監管，根據一定的考核指標，加大考核的力度，使科技倫理委員會能高效運轉。

建立嚴格的倫理審查機制。要做到將倫理審查作為法定的任務進行落實。政府要強化臨床應用的準入和審批的權限，相關科研與醫療單位應設立專門的倫理審查與研究機構，對技術研發活動的全過程與全方位的審查，對其倫理準入與倫理的合理性把關。通過制定嚴格的標準，保證涉及人體的科學研究能在符合一定規則的情況下順利進行。特別要加大對企業的技術行為進行高效的倫理審查，建立符合企業特點的倫理審查的指標體系，不斷提高倫理審查工作的質量和效率。在工作中，還要注意進行倫理批準后的跟蹤審查，將準入審查與過程審查結合，注重形成性的評價審查。

加強法律規制。西方國家十分強調法律法規在科技倫理建設方面的重要作用，如 《紐倫堡法典》提出了人體實驗的基本原則。面對基因編輯技術的發展，制定相應的法律規范，嚴格設定適用的范圍。在現階段，應禁止基因編輯技術的臨床試驗研究，如果違背基本原則，要通過法律進行處罰。通過加強高科技領域的立法，把倫理準則予以明確與固化，并通過將倫理準則上升為法律層面，形成高壓態勢，以法律來規制違法行為，能有效避免出現違背倫理行為的事件的產生。

強化制度約束。制度供給不足是制度滯后的重要原因，為此，要注重制度的供給，理順技術系統內各種制度關系，使之能相洽。政府主管部門和科學共同體共同擬定制度，明確基因編輯技術適用范圍和對象，并設定嚴格的研究邊界。只有讓科研人員在科研活動中有明確的約束，才能真正鼓勵科學家在相關領域的創新，規避倫理風險。具體的技術管理活動既要促進技術的發展，也注重技術的制度監控，在技術創新中注意對技術發展的制度約束。政府、科技工作者、社會公眾之間要通過一定的協商機制，并以制度的形式加以固化，形成良性互動，如丹麥的共識會議在這方面就是一個成功范例。此外，還要建立對技術倫理聽證制度。

注重行業與科學共同體的自律。要在合法合規的倫理原則下開展生物醫學的臨床探索，行業或科學共同體要形成共同的規范，并把這種規范作為共同遵守的準則，自覺地按照一定的制度準則與倫理規范開展臨床研究。特別是要做到不得擅自開展人類胚胎基因編輯的研究，在研究中要遵循劃定的規則制度與法律的紅線。

當代新興人類增強技術的倫理風險及其治理

易顯飛 長沙理工大學科技與社會發展研究所所長、教授

隨著納米科學與技術—生物技術與生物醫學 (包括基因工程)—信息技術—認知科學 (包括認知神經科學)的協同組合形成的 “NBIC 匯聚技術”時代的到來，人類增強自身的能力得到根本性提升，出現了與之前完全不同的新興 “人類增強技術” (Human Enhancement Technology，HET)。塔瑪拉·加西亞 (Tamara Garcia) 與羅納德·桑德勒 (Ronald Sandler) (2008)把這類技術界定為 “提高或增強人類的認知、生理、心理等的能力，或讓人類獲取超出基本能力之外的特殊能力的技術。”一般認為，新興HET主要包括 “物理增強技術” (Physical Enhancement Technology，PET)、 “認知增強技術” (Cognitive Enhancement Technology，CET)、 “道德增強技術” (Moral Enhancement Technology，MET)與 “情感增強技術” (Emotional Enhancement Technology，EET)等，其中后三類更受到學界的關注。從技術 “嵌入”人類的方式來看，可以將當代新興人類增強技術分為醫藥技術型、基因工程型、納米技術型、信息技術型、植入技術型、復合控制型等類型。這些技術類型隨著NBIC會聚技術的進一步發展，出現了技術 “升級”和 “反轉”的趨勢，使人類社會進入一個 “后技術時代”。可以說，新興 “人類增強技術”及其運用在不斷地建構 “新”的人類，人類本身已經進入 “深度科技化”狀態，增強技術成為人類在世的重要存在方式，卻也帶來了前所未有的倫理風險。簡要歸納起來，有以下幾個方面：

一是人的自主性問題。當代新興人類增強技術對人自身原有的價值和意義構成了直接威脅。不僅僅人的自然屬性如身高、長相、智商等隨著增強技術的發展而增強，而且人的社會屬性如道德、情感、認知等也隨著增強技術的發展而改變。以新興情感增強技術為例，它不僅改變了人的性情，甚至可以隨意造就只具有某種情緒或情感的人，這實際上對人的理性和自主是一種人為破壞或貶損。特別是基因編輯層面的情感增強干預，破壞了后代的自主選擇權，縮小了第二代生命的選擇空間，對后代進行了強制性干預，形成了某種新的代際不公。

二是技術的安全性問題。當代新興人類增強技術對 “人”的全面 “入侵”與 “改變”，也引發了對此類技術的安全性問題的擔憂。如莫達非尼與安非他明等藥物增強制品，雖然可改善人的注意力與記憶力，屬于常見的認知增強，但后續研究卻顯示，此類認知增強藥物卻有可能讓被增強者產生 “成癮”的風險。再如，經顱磁刺激 (TMS)技術，它可快速增強人的認知能力，但研究發現被增強者一旦使用該技術后，更容易癲癇發作。更可怕的是，TMS 對大腦神經的刺激，極有可能對認知之外的如情緒情感等非認知能力帶來不可預測的損傷，出現難以預料的人體安全問題。再比如基因增強技術通過對基因進行干預提高被增強者的身體、認知或道德等方面的能力，技術是否有安全風險，應該是研發人員首要考慮的問題。從長遠看，雖然實現了被增強者某方面的高能力的追求，但被增強者的基因越來越趨向單一，面對多樣性風險的應對能力會越來越弱，從而與增強目標背道而馳。

三是 “增強技術依賴”導致的認知能力退化問題。現代科技帶給人類越來越多的便利，這種便利性逐漸增大，已經逐漸成為一把雙刃劍，那就是人類已經走向對科技的深度依賴，而這種深度依賴實際上是人的各方面的另外一種形式的退化。例如，信息技術作為一種認知增強技術，已經從外置輔助性技術轉變為內部嵌入式技術，它使人的認識不再是 “容身”的，而形成了 “人機結合”的認知新模式。在這種模式下，信息的獲取、加工、處理、存儲、傳播等操作變得更高效、更準確。這樣一來，人的思維由 “以大腦處理為中心”逐漸向 “以計算機處理為中心”轉移，而這個過程卻也是人的感受力 (獲取信息)、注意力 (選擇信息)、理解力 (表達信息)、記憶力 (存儲信息)等能力逐步退化的過程。也就是說，認知增強技術讓人產生了依賴癥，雖然可能釋放了人腦超負荷工作的壓力，卻極有可能會降低人的潛能，消解人自身具有的無限潛能，甚至改變人類智力進化的趨勢。

四是人的情緒情感與人格的 “同一性”問題。情感增強類的醫藥技術強化了情感的客觀性，將情感當成了一種可以 “維修的物品”，而不是人類的特殊意識，這樣就將人的情感進行了過于機械化的處理，屬于 “制造”出來的情感。在這個意義上，增強技術對于情感的影響使技術的使用者無法以自身真實的情感面對現實世界，失去了真實自我的表達，人格同一性隨之受到嚴重威脅。除了人的先天特質與現實生活經歷結合產生的 “經驗”之外，同一性更是一個人對于這些經驗的記憶 “重構”。然而增強技術所賦予人的強大記憶認知，也極有可能使技術使用者對于以前經歷的痛苦回憶無法淡忘，從而使其活在無法逃脫的痛苦甚至恐懼之中，產生不符合自身需要的情感折磨，且使用者同時受到了同一性喪失的威脅。對于大部分人而言，在選擇情感增強時，肯定是傾向于選擇正面積極的情感。一旦在基因增強層面使用，隨著遺傳過程而傳遞且擴散，那么，原本 “喜怒哀樂”的復雜情緒世界將演變成情感單一的 “極樂世界”，出現了人類情感整體上的過度同質化。

五是 “道德增強難題”。 “道德增強”也被稱為 “非傳統道德增強”，是指道德增強技術調節人的道德情感，增強其行為動機和道德品質，從而提高道德行為水平。科研人員發現，血清素 (Serotonin)可以有效降低犯罪者的性暴力沖動，這樣，性暴力事件則側面得以降低。這種通過醫療藥物的注入，使得那些具有犯罪傾向或不道德行為者變得更有道德的一系列活動，被稱為 “道德增強”，其目的就是在于對那些不道德行為者進行 “道德修正”。道格拉斯指出，生物醫學在人的道德方面的應用，是一種道德上的提升——這種增強可以使增強的人比以前有更好的動機。但是，看上去如此美好的 “道德增強”，卻引發了系列倫理難題。例如，道德增強無法體現出對道德個體自我認同的尊重，如果道德增強是為了使不道德者在道德上變得 “更好”，那么在不明確什么是 “更好”的情況下道德增強的實施則過于強調道德的客觀性而否定了道德的主觀性。再如，道德增強技術可能并不能帶來真正的道德進步。通過技術干預而不是理性思考和自身情感的歷程實現的所謂道德，無法實現真正意義上的道德進步。又如，道德增強可能會威脅個體的自由，造成道德上的強迫與壟斷。比如能不能對被認定為道德敗壞的人實行普遍性的強制性增強？這種強制性增強會不會干擾人的自由？會不會減少人的道德選擇空間？對于未增強者而言，是否增加了他們的壓力，產生了新的不公平？

吉登斯指出， “技術進步表現為積極力量，但它并不總是如此。科學技術的發展和風險問題緊密相關。”可以說，當代新興人類增強技術在給我們帶來諸多積極價值的同時，也產生了諸多倫理風險，且其風險具有跨越時空性、不可預測性、高度隱蔽性、復雜關聯性、極端危害性等錯綜復雜的特征。高新技術本身具有的內在不確定性、技術創新主體的 “負責任創新”意識不強、技術使用主體的審慎程度不夠、增強技術發展的社會引導不力、技術監督監管不到位等，都有可能是形成其倫理風險的因素。

對于當代新興人類增強技術的態度，大體上可以分為 “增強派”與 “反增強派”。前者對增強技術持樂觀主義態度，認為可以作為一種必要的手段來解決人自身各方面的局限性；后者重視增強技術引發倫理的負面后果的評估，對增強技術產生 “技術恐懼”。我們應針對其所導致的倫理風險進行積極反思，尋求治理之策。首先，應加強增強技術研發主體的 “負責任創新”意識的培養。在新興技術不確定性狀態下，特別是對于增強技術，如何實現負責任創新，是要解決的首要問題。增強技術研發主體應本著對人類主體負責任的態度進行技術研發，應具備對增強技術倫理風險進行一定預期的能力。其次，制定切實可行的倫理規范，從社會控制層面展開倫理評估，對于不同類型的增強技術，應進行 “差異性發展”。其實，對于增強技術，采取 “無限制發展”與 “完全禁止發展”的態度都是不可取的，而是要采取 “差別對待”的原則。對于完全 “背離”人的增強技術必須禁止研發；對于 “雙刃劍”特質明顯的增強技術必須加強倫理評估、進行技術 “分級”并限制研發；對于經評估后完全有利于人類的增強技術則應允許進行自由研發。再次，提升公眾對新興人類增強技術倫理風險的認知力。無論是增強技術倫理風險本身的特殊屬性，還是公眾認知規律深層次的社會文化因素，均需培養公眾對增強技術的正確認知。媒體中傳播與宣傳在其中扮演著非常重要的角色，媒體等輿論方應通過對增強技術的全方位多維度宣傳，進而引導公眾對其形成多樣性價值評判，進而引導人們對于增強技術采取多樣性選擇。最后，應該創新政府風險治理模式。政府是現代技術風險治理主體的核心，其影響力與強制力在技術風險治理中的作用無可替代。目前，歐美各國紛紛將基于會聚技術的人類增強技術發展放在國家層面上進行戰略規劃。我們應通過增強政府科技管理部門管理技術倫理風險的能力，完善增強技術發展的 “倫理風險—收益”模式，保證增強技術發展的倫理風險最小化。就目前增強技術發展的管理現狀，除了剛性立法，重點規范增強技術研發及其產業的全鏈條安全監管機制、檢測機制、懲戒機制和風險賠償機制。總之，與傳統增強技術完全不同的包括認知增強、道德增強、情感增強、身體增強等在內的新興 “人類增強技術”，使人類增強自身的能力得到根本性提升。但鑒于其現存或潛在的各種倫理風險，我們應以一定的倫理標準作為參考系，合理引導人類增強技術朝著 “合目的性”與 “合規律性”統一的方向發展，真正造福人類。

(本文系筆者主持的國家社科基金項目:當代新興增強技術前沿與人類深度科技化問題的哲學研究階段性成果之一，課題編號:18BZX042)。

人類基因增強技術的政策規制

張君 北京理工大學人文與社會科學學院副教授

人類基因層面的編輯修飾，是一種倫理和價值敏感型的科技。特別是這種遺傳學操作，可能越過治療或預防疾病的界線，趨向于加強或放大正常人類特征和能力。這將引發關于用途、安全及功效等方面的巨大爭議，從而對既有科技和公共政策規制能力提出挑戰。再加上與生物技術相關的創新需求和產業競爭，人類基因增強技術的政策規制，將面臨一個廣泛而復雜的倫理、社會和法律情境。嘗試在利益相關者語境下尋找規制政策的均衡點，有助于落實倫理、社會或創新方面的訴求，也有助于我們對于生物技術的理解。

20世紀中期以來生物技術的飛速發展，已經使得人類基因增強發展成為一個政策議題。基因水平的遺傳干預，一直引發跨越治療邁向增強的廣泛爭議。從重組DNA到干細胞基因治療，以及基因編輯，運用遺傳學技術修改基因物質，來改變有機體的特征，為治療和預防疾病提供了福音。但是如果這些技術再往前走一步，不是修復缺陷基因，而是修飾正常基因，比如通過編輯生殖細胞和胚胎中的DNA來改變或提高外貌、體力或腦力，并且將這種提高優勢代際傳遞下去，那么這種遺傳干預將極富爭議。來自倫理上的主要爭議包括，基因增強是對自主性、尊嚴、真實性等基本價值原則的侵犯還是發揚。例如有人認為增強侵犯了當代和后代的自主性，將引發被迫競爭。而支持增強的觀點認為 “我的基因我做主”，人們有權利自由選擇擴展性征的方式，這恰恰弘揚了自主性。來自社會的議題主要是增強的安全、有效、公平和受控。例如種系基因編輯技術用于增強，因為缺少短期和長期的安全性評估，可能存在脫靶等不確定性和風險，將會給個人或社會帶來可能的危害或不利。然而，也有人認為安全性可以隨著技術進步而提高。增強引發的法律關注主要是隱私權和知情權，比如遺傳信息的隱私權，增強技術運用的知情同意等。對于技術的爭議自然會引發審視的要求，傳統上技術治理的依據主要來自上述觀點和立場，特別是對于行動者的制約。例如對于重組DNA技術出臺的監管政策，主要是基于社會倫理價值分析和風險收益前景預判。規制機制幾乎涵蓋了從個體科學家守則到專業學會指導，從委員會方案到政策法規的整個規制譜系。

然而近年來，諸如CRISPR/Cas-9等新奇基因編輯技術的發展，似乎超越了20世紀DNA重組技術時代以來的規制框架。當人們還在基于倫理和風險收益的框架來討論基因增強的監管時，當代生物技術的創新和商業環境已經發生了重大變化，過去十年來的發展跡象表明，人類基因增強領域可能會迎來一個技術創新的遠大前景。第一，生物醫藥科技的快速發展，生物醫療保健產業的突飛猛進，為未來基因增強技術的發展提供了廣闊空間。例如就目前有潛在增強應用可能的CRISPR基因編輯技術而言，有關出版物、專利和資助日益快速增長。在專利上，像包括華人科學家張峰在內的幾位CRISPR技術早期研發者，都成立了研發公司，并嘗試將研究擴展到臨床。國家層面的資助也有很多，例如2016年美國和英國都有批準CRISPR修改人體細胞或早期胚胎的研究，2015年中國科學家黃軍就也運用CRISPR修改人類植入前胚胎基因。可以預見，全球生物醫藥科技和產業的競爭態勢，將促進基因技術的迅猛發展。第二，基因工程技術更易于擴散和傳播。很多基因編輯技術易于獲得、便于操作、成本低廉并且精度更高，加上便捷的互聯網和物聯網，助長了技術擴散，但不利于技術監管，甚至會出現 “自己動手增強” (EIY，Enhance-It-Yourself)的操作。例如2018年中國科學家賀建奎進行的基因編輯嬰兒，已有信息顯示這項操作并沒有得到其所在大學醫學倫理委員會的批準。第三，新興傳媒的宣傳推廣。很多網絡媒體和商業廣告，都過分注重增強潛力的有益一面，忽略增強可能帶來的嚴肅倫理社會問題。特別是商業廣告，往往注重承諾滿足公眾意愿的技術產品，甚至用非遺傳增強如整形、除皺、植發、激素或 “偉哥”等帶來的生活質量提高的樂觀想象，來描繪基因增強的 “美麗新世界”。第四，技術修復或升級的文化氛圍。贊同和支持基因增強的觀點認為，使用技術來提高自身是人類的天賦能力和演化方向，基因增強和人工智能、人體芯片、整形手術等技術一樣，都為人類邁向后人類或超人類帶來了希望，甚至可將人類提升為更高級的創新物種。不難看出，從技術到市場，從需求到文化，這些都為基因增強技術提供了創新的動力和條件。

目前以基因編輯為代表的人類增強技術進入公共議程，將面臨一個復雜而緊迫的決策情境。一方面，治療和增強之間界線的模糊性問題仍然存在，各種增強技術的獨特性、功效和安全監測的長期性，都意味著技術評估和公共決策是審慎而緩慢的；另一方面，科學探索和醫藥產業發展，加快了技術研發和創新擴散速度，可能產生無法預測的社會后果。鑒于人們對于新技術用于增強的顧慮，無論是科學共同體或企業，還是政府部門或公眾，放任不管和袖手旁觀并不是一種負責任的態度。但是全面停止或禁止新奇技術，又是不現實的。 “一禁了之”的措施不但可能招致政策涉入阻礙產業創新的嫌疑，也許還會造成不受監管的黑市流通和地下試驗局面。因此，當前人類基因增強技術的規制取向，應該朝向一種消除決策復雜性、尋求監管透明度的動態治理選擇。這意味著未來的政策涉入，需要以增強技術發展為依據，建立一個包括技術應用對象在內的規制共同體，并且要考慮到廣泛應用后的聚集效應。

第一，加強生命科學和醫學研究，保證政策規制的針對性和有效性。當前，關于人類基因增強技術的倫理和風險爭議，很多都源于缺乏充分的科學事實，這也影響到像強制、監管、勸阻等規制類型的選擇。從當前政策應對來說，需要收集更多臨床試驗安全性和功效性的科學證據，開展健康調查來監視使用基因增強技術的不良反應。例如，雖然現有基因編輯技術，還無法對像外貌、體力或智力這樣的多基因性狀進行操作，但是也有動物研究顯示，通過剪接與脂肪或肌肉生長相關的基因，影響動物抗病毒能力或肌肉質量。這些研究的初衷是預防或治療疾病，但現實中治療和增強的界線十分模糊。 這也是很多人擔心的基因編輯技術可能會產生 “滑坡效應”，邁向優生學設計或增強。來自納米和生物技術的治理實踐顯示，分類評估是一種可行方法。例如對于體細胞和生殖細胞基因編輯的區分評價，或者是對于基因技術干預配子、胚胎、子宮胎兒或出生兒的階段性評估和限制。在有關輔助生殖、器官移植、醫藥制品臨床試驗的倫理準則和法律規范基礎上，可以嘗試針對一些假定的基因增強技術，設定相應規制方案。此外，考慮到基因遺傳，長期安全跟蹤研究也是有必要的。

第二，建立涵蓋私人研究和公共研究的監管機制，確保人類基因增強研究程序的規范性。從科技公共事務治理觀念看，規制包括一系列從私人個體到公共部門的監督管理措施。特別是在生命科學研究領域，這不僅包括具有法律約束力的條文規定，還包括諸如個人從業指南、專業協會指南、委員會決議、組織宣言等軟性法律或捆綁性法律文本。政策選擇的多樣性，主要是因為基因增強難以達成共識，相應的規制選項要從個人到公眾全覆蓋分布：科學家自我規制、專業協會指導、專門委員會指導、政府部門指導方針、政府部門監管、立法法規。

實際上無論是強制性還是自主性規制，都無法避免個人使用中的過度或越界。因此也有很多人建議設立沿著技術使用坐標軸的監管路線。例如，在規制框架中加強授權或許可的作用，包括利用基因增強技術的發明和專利體系來，來保證倫理道德和公共利益的訴求。

第三，建立各方廣泛參與的治理共同體，除了政府、企業和專家之外，還應該吸引更多的公眾，積極參與有關基因增強技術倫理、法律和社會影響的討論，這將大大提高未來規制政策的預見性和適當性。關于基因增強的用途、功效、倫理和風險等方面的廣泛分歧，使得政策議題必須由各利益相關者共同討論推進，其中不能忽視的是作為技術應用對象的公眾的參與。早在2002年，美國總統生命倫理學委員會就提出建立公開的評價機制，產業界和公眾聯手合作，尋求對超越治療的生物技術應用的監測和管理途徑。2009年歐洲議會 《人類增強研究》報告也指出要 “配備和鼓勵有關人類增強主題的社會交流對話”，促進更廣泛的公眾參與。2017年基因編輯國際峰會報告中建議，公眾應該參與到監管或決策的全部進程中，其中公眾參與程序，應該排在人類種系基因編輯跨過治療和預防的臨床試驗之前。

在生物醫藥科技創新和產業發展的背景下，對于基因增強技術政策規制上的探索，可以使得相關的倫理、社會或法律方面的考慮和影響，能夠合法地具有行動上的意義，同時規制實踐也有助于我們對于生物技術的理解。