“一體兩翼”科技倫理治理體系的構建路徑及策略

劉如　張惠娜

摘? 要：我國科技倫理治理工作起步較晚，治理體制機制不健全、治理主體責任界限不明確、治理對象不重視等問題較為突出，亟待完善科技倫理治理體系。文章從新時期科技倫理治理的主要特征出發，深入挖掘我國科技倫理治理體系存在的問題，并針對問題提出“一體兩翼”科技治理體系的構建路徑及策略，從創新體制機制建設、建好人才培養培訓體系及塑造科技倫理共同責任意識等方面構建“一體兩翼”的科技倫理治理體系。

關鍵詞：“一體兩翼”；科技倫理治理；科技倫理意識

中圖分類號：B82 文獻標識碼：A DOI：10.19881/j.cnki.1006-3676.2023.03.08

近年來，基因編輯、人工智能、輔助生殖等新興技術的快速發展引發了一系列社會不確定性和倫理風險，帶來了各類潛在的公共安全風險和社會爭議。從“黃金大米”到“基因編輯嬰兒”，此類事件引發的爭議超出了傳統的個體或單個機構的價值認知和道德判斷范圍，需要更高層面、更大范圍的行業、國家乃至國際層面的價值共識和行為規范，這敦促我國加快推進科技倫理治理的腳步。

2020年10月，我國國家科技倫理委員會正式成立。2022年3月，中共中央辦公廳、國務院辦公廳印發我國首個國家層面的科技倫理治理指導性文件《關于加強科技倫理治理的意見》（簡稱《意見》）。可見，科技倫理引發的社會問題及其治理已引起國家層面的關注。相對而言，我國科技倫理治理工作起步較晚，治理體制機制不健全、治理主體責任界限不明確、治理對象不重視等問題較為突出，科技倫理治理體系亟待完善。[1]

一、新時期科技倫理治理的主要特征

（一）時代特征：新興技術革命的不確定性加重科技倫理治理難度

歷史上任何時期都沒有像當前一樣，新興技術無論是從深度還是廣度上都表現出無與倫比的開放性和擴散性—新興技術創新速度迅猛，且大多數處于技術成熟度的前半段，尚未形成固定的發展模式，其倫理問題具有很強的不確定性和未知性。新興技術的發展不僅對科技安全帶來沖擊，也可能重構社會版圖和大國競爭格局。[2]新興技術革命的不確定性更是加重了科技倫理治理難度。例如，人工智能失控的社會風險、大數據技術對人類隱私安全的侵犯、合成生物技術引發的流行病毒、腦機接口技術或將控制人的行為等，這些新興技術所帶來的倫理影響紛繁復雜，既有倫理規范無法回應其發展帶來的潛在風險，也有給科技倫理監管部門帶來的監管難題，科技倫理治理難度空前。

（二）社會特征：科技向善的價值目標日益異化，科技逐步異化成為國際政治斗爭的手段和工具

隨著國際政治關系日趨復雜，尤其是中美科技競爭的日趨白熱化，科技不斷被工具化、利益化乃至政治異化。例如，2022年3月，新美國安全中心（CNAS）發布了兩份關于加強國際科技合作以對抗中國的報告。一份是《調整美國—以色列在科技和中國問題上的合作》，該報告對美國和以色列的技術合作進行了戰略研究，其加強美—以科技合作的戰略宗旨不是為了促進民生福祉，而是為了對抗中國的崛起；另一份是《數字盟友：深化美韓科技創新合作》報告，探討了美韓如何通過擴大技術合作來擴大和深化聯盟以對抗中國。可見，美國的科技發展乃至國際科技合作已被政治化為其開展國際斗爭的工具。日趨嚴重的科技異化趨勢呼吁出現更符合人類價值觀的國際科技倫理治理體系。

（三）國際特征：科技倫理風險是全人類共同面臨的問題，亟須加強國際對話、溝通交流形成共識

不同文化傳統、不同民族乃至不同發展階段的國家對科技倫理問題的認識存在諸多差異，這給國際科技倫理共識的形成和科技倫理治理的協作帶來了一定的難度。目前，國際上要么囿于國家界限，要么囿于行業界限，尚沒有形成科技倫理治理的統一原則。以人工智能領域為例，美國于2017年發布的《人工智能設計的倫理準則》白皮書強調，人工智能需要遵循“人類權利、福祉、問責制、透明性和慎用”原則；日本于2018年發布的《以人類為中心的人工智能社會原則》強調，人工智能需要遵循“人類中心、教育應用、保護隱私、保障安全、公平競爭、透明性和創新”原則；歐盟于2019年發布的《可信任人工智能的倫理指南》草案強調，人工智能應體現“尊重人類自主性、預防傷害、公正性、可解釋性”的原則；我國于2019年發布的《新一代人工智能治理原則—發展負責任的人工智能》提出，“和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協作、敏捷治理”等原則。可以看出，各國人工智能領域的科技倫理規范均有所不同，存在一致性也存在著諸多差異，尚未有統一的規范性綱領，亟待建立共同但又有區別的國際科技倫理治理原則，在共識基礎上發展和應用人工智能技術。

（四）治理特征：科技倫理委員會成為主要監管機構

目前，各國較為常見的科技倫理治理主體是各種層面、層次的科技倫理治理委員會，既包括國際層面、國家層面、地方層面的，也包括行業層面、機構層面的。作為主要監管機構，這些倫理委員會為科技創新周期各個階段提供系統的治理原則和監管工具，包括立法咨詢、事前審批、事中監督和事后跟蹤的全過程倫理制約。例如，成立于1993年的國際生物倫理學委員會（IBC）就是國際層面的科技倫理委員會，該委員會致力于生命科學及其應用研究，為生物倫理思考提供全球平臺，以確保對人類文明和自由的尊重。[3]我國科技倫理治理的主體也是以各種行業倫理委員會為主，如國家衛生計生委醫學倫理專家委員會、藥物臨床試驗倫理委員會、器械臨床試驗倫理委員會、器官移植倫理委員會、生殖醫學倫理委員會、動物倫理委員會等，這些機構都肩負著科技倫理治理和監管的責任。作為科技倫理治理主體，這些機構均在不斷擴大委員會成員范圍，在科學家之外，還逐步納入了倫理學家、企事業單位管理人員、科技研發人員、群眾代表等利益相關者，跨領域、專業化人才在科技倫理治理過程中的作用逐步凸顯。

二、我國科技倫理治理存在的問題

我國的科技倫理治理起步較晚。20世紀90年代，我國在醫院、科研機構層面先后引入了倫理委員會制度，但在大學、科研機構和企業成立倫理委員會的比例較低。2020年，國家科技倫理委員會成立。在這一委員會指導下，科學技術部會同相關部門，先后成立了國家科技倫理委員會人工智能、生命科學、醫學3個分委員會，推動相關部門成立科技倫理專業委員會，指導各地方建立或籌建地方科技倫理委員會。2022年，《意見》的印發標志著我國開始對科技倫理治理進行頂層設計和系統部署。但總體而言，我國科技倫理治理相對滯后，無法滿足和應對復雜的科技倫理現實問題。

（一）治理體系不健全，科技倫理治理機制尚不完善

科技倫理問題變化迅速、涉及面廣。但當前我國的科技倫理治理體制機制尚不完善，未能實施倫理敏感的敏捷治理，具體體現在以下4個方面：其一，科技倫理研究尚未跟上我國科技事業發展的步伐。例如，很多“無人區”顛覆性技術及相關應用的倫理審視與價值判斷尚未跟進發展，甚至某些重要領域的科技倫理研究才剛起步，缺乏前瞻性、儲備性研究。其二，科技倫理治理領域發展不均衡，醫學等領域已有相對較為完整的科技倫理體系，而某些新興科學技術領域亟須相應的標準和規范。其三，部分領域雖有明確的管理體系和科技倫理規范，但在倫理審查方面存在著審查和監管不到位乃至懲治力度不夠等問題，對違規行為難以起到威懾作用。另外，囿于觀念和人才不足等問題，很多科研單位并未設立科技倫理委員會，對相關工作缺乏監管和審查。其四，我國科技倫理治理還存在著法治化水平不高問題。雖然目前生命、醫學、信息等領域開展了科技倫理立法研究，頒布了如《中華人民共和國生物安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》等相關法律法規，從法律層面推動科技倫理治理，但對于應該推動哪些倫理問題上升到法律層面加以保障，以及如何推動倫理問題法治化發展等仍缺乏深入研究，缺少明確的規定，導致科技倫理治理法治化水平遠滯后于科學技術發展的法治需求。

（二）治理主體責任界限不明確，科技倫理治理人才數量和質量尚不能滿足科技倫理治理事業發展需求

科技倫理治理涉及法律、行政、學術監督等諸多領域，相關政府部門、科研院所、高校、企業以及科技類社會團體等諸多力量都應參與其中，但在《意見》出臺之前，我國并未明確規定治理主體和治理職責，政府部門、科研機構、學術期刊、學會、科研人員等在治理體系中的主體責任界限不明確。另外，科技倫理治理是一項專業性較強的工作，我國科技倫理人才隊伍的規模和水平不能滿足科技倫理治理發展需求，尚未形成強有力的審查和監管隊伍，外行管內行的問題還很明顯，具體表現在以下3個方面：其一，從學科設置來看，我國的科技倫理學科屬于倫理學的一個分支，而倫理學又屬于哲學學科門類下的特設學科，設置該專業的高校和科研院所并不多。在倫理學學科中，從事科技倫理這一細分領域的專業研究人員數量更是少之又少，且力量較為分散。其二，我國雖在醫學、生命科學等部分新興領域設置了科技倫理課程，但很多其他專業并未設置科技倫理專業課程，即使工程學、生態學等專業領域設置了相應的課程，也多處于選修課范圍。另外，我國義務教育階段以及高中階段對科技倫理知識的教育和普及較少，鮮有涉及。其三，科技倫理人才參與國際科技倫理治理能力不足，缺乏對國際相關規則、現狀及趨勢的把握，不能滿足我國從全球科技倫理治理的參與者向引領者轉變的現實需求。

（三）部分科研人員科技倫理意識淡薄，缺乏對科技倫理的敬畏之心

科技倫理治理涉及政府管理部門，高校、科研機構、企業等創新主體，學會、協會、研究會等科技社團，科研人員和社會公眾等不同主體。[4]科研人員是科技倫理治理主體重要力量之一，科研人員自身科技倫理規則意識淡薄是科技倫理治理中較為突出的問題。科研人員自身科技倫理意識淡薄，缺乏對科技倫理的敬畏之心，影響了科技倫理規則的有效實施。例如，部分科研人員對科技倫理及相關規范缺乏足夠的重視，甚至為了利益作出突破倫理底線乃至違法的行為，缺乏對科技倫理的敬畏之心；部分科研人員科技倫理意識不強，化科技倫理規范“他律”為“自律”的自覺性不夠，主動考量科技倫理風險的積極性和主動性不高，亟待提升科技倫理道德意識和水平。另外，對科技倫理治理的社會宣傳不夠，未引起公眾對科技倫理問題的足夠重視，在推動科技向善方面缺少足夠的社會輿論引導。

三、“一體兩翼”科技倫理治理格局的構建路徑及策略

新時期，為應對日益迅猛發展的科技發展現實，我國應構建科技倫理治理“一體兩翼”發展格局，補齊科技倫理治理短板，護航科技強國建設。其中，“一體兩翼”的“一體”是指加強科技倫理體制機制建設，“兩翼”分別是加快科技倫理人才培養及提高科研人員倫理意識。

（一）創新體制機制建設，完善科技倫理審查監管機制

第一，完善政府科技倫理管理體制。加強科技倫理治理頂層設計、戰略規劃和系統部署，建立和完善符合我國國情的科技倫理治理管理體系。強化科技倫理治理的法律保障和制度保障，構建能適應突發事件快速響應的應急審查機制，推動科技倫理法律、規范和標準制定的專業化、現代化和國際化。從高風險科技活動領域和高敏感倫理價值兩個角度，全面認識和加強科技倫理治理。[5]充分調動各方資源力量，逐步構建起政府主導、多方參與、協同共治的科技倫理治理管理機制，匯聚形成科技倫理治理合力。第二，充分發揮高校、科研機構、醫療衛生機構、企業等單位在科技倫理治理中的主體作用。推動科技創新主體單位設立與自身發展相符合的科技倫理委員會，督促其嚴格履行科技倫理治理主體責任。對尚不具備設立科技倫理委員會條件的單位，可委托其他科技倫理委員會開展審查監管，促進第三方科技社團等社會組織在科技倫理審查與監管方面發揮作用。第三，提高科技倫理治理法治化水平。強化科技倫理相關領域立法工作，加強法律對科技倫理的剛性約束，懲戒科技倫理違法違規行為，以法律保障守住科技倫理治理底線。

（二）建好人才培養“四張網”，提升治理專業化水平

第一，建好學校“培養網”。強化“技術+倫理”的科技倫理通識課程體系建設，打造從義務教育階段到高等教育階段全覆蓋的科技倫理人才培養體系，加大醫學、生物學、信息技術、工程學等專業課程中科技倫理相關課程的設置比重。第二，建好創新“培育網”。加大對科技倫理研究的經費和人員支持，加強對合成生物學、認知神經科學、信息通信技術、人工智能等新興技術及應用的前瞻性倫理審視和價值判斷。推進科技倫理前沿研究，促進科技倫理研究的多元化、跨學科化和國際化發展。第三，建好監管“培訓網”。加強對科技倫理管理機構和科技創新主體中相關人員的科技倫理教育和培訓，并重點在生命科學、人工智能等新興技術領域，組織編制專業培訓教材，定期開展相關培訓工作。第四，建好國際“交流網”。搭建國際交流平臺，拓展科技倫理人才國際視野，培養科技倫理人才參與國際科技倫理重大議題研討和規則制定的能力，推動我國科技倫理人才在建立“共同但又有區別的”國際科技倫理治理原則方面發揮更多作用。

（三）構建科技倫理“三道線”，提高科技倫理共同責任意識

第一，堅守“道德底線”，埋下科技倫理意識種子。為科研活動及技術應用設置道德底線，強化科研人員的主體責任和責任意識，引導科技工作者將道德和責任概念內化于心，在科學研究和技術應用中遵循“負責任的研究和創新”（RRI）理念，自覺踐行科技倫理原則。同時，加強對科技倫理的廣泛宣傳引導，提高全社會科技倫理意識。第二，拉起“倫理紅線”，明晰科技倫理邊界。將科技倫理納入科研和人才評價體系，引導科研工作者明晰科技倫理邊界，遵循倫理規范。同時，隨著科技工作者道德自覺水平的提高，化“他律”為“自律”，將技術濫用可能引發的倫理風險控制在最小范圍內。第三，恪守“規則高壓線”，豎起科技倫理防火墻。為科研活動設置“有所為和有所不為”的邊界、規范和準則，注重前瞻研判科技發展帶來的規則沖突、社會風險、倫理挑戰，建立和完善相關法律法規、倫理規范和政策，將科技倫理規范納入制度和法律之中，對科研人員和科研活動嚴格監管，通過科技倫理共同責任意識的樹立，將科研活動限定在合理、安全的防火墻內，引導科技向善發展。

參考文獻：

[1] 張惠娜，劉如.補齊科技倫理治理短板，促進科技事業穩健發展[N].科技日報，2022-04-11（08）.

[2] 袁立科，韓佳偉.新興技術發展安全風險與治理路徑分析[J].科技智囊，2023（01）：29-36.

[3] UNESCO.International Bioethics Committee[EB/OL].（2023-01-19）[2023-02-06].http：//en.unesco.org/themes/ethics-science-and-technology/ibc.

[4] 王志剛.完善科技倫理治理體系 保障科技創新健康發展[J].求是，2022（20）：43-47.

[5] 劉永謀.深刻認識科技倫理治理[N].學習時報，2022-05-16（A7）.

The Construction Path and Strategy of“One Body，Two Wings”Scientific and Technological Ethics Governance System

Liu? Ru1? ? Zhang? Huina2

（１.Chinese Academy of Science and Technology for Development，Beijing，100038；2.Beijing Academy of Science and Technology，Beijing，100089）

Abstract：The work of scientific and technological ethics governance in China started relatively late，there are serious problems such as the governance system and mechanism are not sound，the responsibility boundaries of governance subjects are not clear，scientific and technological ethics issues are not taken seriously，it is urgent to improve the scientific and technological ethics governance system. Starting from the main characteristics of scientific and technological ethical governance in the new era，the article deeply explores the problems in China's scientific and technological ethical governance system，and puts forward the construction path and strategy of building a scientific and technological governance system characterized by“One Body，Two Wings”，the scientific and technological ethics governance system by “One Body，Two Wings”should be constructed from innovative system and mechanism of scientific and technological ethics governance，the construction of personnel training system and the consciousness of joint responsibility of scientific and technological ethics.

Key words：“One Body，Two Wings”；Ethical governance of science and technology；Scientific and technological ethics consciousness

基金項目：本文系國家社科基金“從參與到共治：STS視角下的生物技術治理”（項目編號：21FZXB063）研究成果。

作者簡介：劉如，1982年生，碩士，副研究員，研究方向：科技創新政策。張惠娜（通信作者），1978年生，博士，副研究員，研究方向：區域創新與人才發展。