科技倫理治理體系對策研究
——以杭州為例

高迪，鄭崇輝，吳家章

（國科大杭州高等研究院，浙江 杭州 310024）

0 引言

近年來，以人工智能、生命健康等為代表的新興科技,一方面不斷顛覆人類的認知，拓展了人類對科技的探索疆域，另一方面也以其強大的科技生命力持續重構整個世界的格局和發展。然而，人們運用新興科技改變和重構世界發展的同時，也發現新興科技給人類和自然界的發展帶來了未曾預見的風險，沖破了人類固有的倫理秩序和科技規范，引發了前所未有的新倫理困境。比如引發全球關注的ChatGPT（Chat Generative Pre-trained Transformer）基于生成式預訓練轉換器，代表的現有人工智能語言模型基準，雖然在技術上有所突破，但是無法解決其中蘊含的大量倫理問題，因此，極有可能局部體現為“各式社會偏見與各類不當運用，從而造成不負責任的倫理風險與社會后果”[1]。盡管我國的科技倫理治理實踐業已展開，但還是面臨著一系列諸如隱私保護、基因編輯、異種移植等問題的倫理挑戰?；诖?，全球各國都高度重視新興科技帶來的倫理沖突以及科技倫理的治理問題，也在紛紛研究和出臺相關意見和制度。習近平總書記在2021 年5 月兩院院士大會、中國科協第十次全國代表大會上指出，科學技術具有世界性、時代性，是人類共同的財富，但另一方面也具有潛在的風險[2]。

我國已有學者為了應對高新科技帶來的倫理風險，提出了諸多治理原則與對策。陳雯等在《低碳科技倫理風險審視》（2012）中圍繞低碳科技倫理風險，提出建設科技倫理生態，加強科技主體倫理責任，確立前瞻性責任倫理，引入社會公眾治理；黃小茹等人在《從邊界組織視角看新興科技的治理機制——以合成生物學領域為例》（2019）一文中提出為了應對新興科技的不確定性和復雜性，需要使用“邊界組織”來調控新興科技的發展等。于雪等人撰寫的《高新科技倫理治理的問題及其對策》（2021）一文中指出傳統的科技治理中所存在問題，明確了科技倫理治理思想、對象、建設機制等內容[3]。

針對人工智能倫理風險治理,歐盟人工智能高級專家組于2019 年4 月發布《可信任的人工智能倫理指南》,提出“尊重人類自主、防止傷害、公正與可解釋性”倫理原則;美國出臺了《自動駕駛法案》《2018 年人工智能法案》等。在大數據技術倫理風險治理方面,歐洲經濟和社會委員會(EESC)啟動了大數據倫理調查,并提出5項治理舉措[4]。

為保障科學研究在符合倫理規范的條件下快速健康發展，在世界范圍，我國首次從國家層面提出科技倫理治理綱領性文件[5]。2022 年3 月20 日，中共中央辦公廳和國務院辦公廳發布了《關于加強科技倫理治理的意見》（以下簡稱《意見》）[6]，為新興科技發展的倫理治理指明了方向和規劃。

浙江也高度重視科技倫理治理問題，2023 年3 月30日，成立科技倫理委員會[7]。杭州致力于在人工智能、生命健康與科學以及環境科學等重點新興科技領域實現核心技術突破[8]，作為全國數字經濟領跑者的杭州也將跑入以上新興科技領域“無人區”，亟須進一步建設和完善科技倫理治理體系對策舉措。

1 新興科技存在的倫理風險

1.1 不確定性風險

現代社會，新興科技發展迅猛，在人們享受科技帶來的高效便捷的工作生活同時，也出現了前所未有的科技的異化現象。比如2018 年的賀建奎事件，這一事件一方面反映出當時的中國還存在倫理監管不力、沒有相應的預防機制等問題，另一方面也讓我們看到人類基因編輯技術本身是否安全和可靠的問題[9]，以及如何預防新興科技發展不確定性的問題。

國外特斯拉的Autopilot（自動駕駛儀）功能近幾年在全球范圍多個國家內引發多起事故,造成駕駛人員傷亡[10]，使得人們開始擔心這項新興技術可能帶來的不確定的技術安全問題以及相關的倫理風險。

1.2 隱私安全風險

杭州作為全國數字經濟領跑者，數字化和智能化的發展給杭州人民生產生活帶來諸多便利。但是,人類自身的個人信息，比如：個人健康醫療數據、個人肖像、家庭財務狀況、家庭住宅位置、人際交往等個人隱私也存在信息泄露、信息被濫用和破壞的風險，增加社會治安管理的成本。

比如現在比較廣泛使用的手機網約車軟件，在科技賦能為人們交通出行提供便利的同時也存在信息泄露、價格壟斷等潛在的科技倫理問題[11]。新興技術的發展一定程度上使人們更依賴技術，從而弱化了自身防御能力。

1.3 社會公平失衡風險

新興技術發展在帶來巨大好處的同時,也會帶來巨大挑戰, 新興行業對傳統行業會造成一定的沖擊，未來這個發展還會加劇，對現有勞動產業分布和就業結構產生影響[12]。在新興技術發展的過程中，還會出現一些技術發展帶來的歧視問題，面對發達國家新興技術發展迅速而發展中國家新興技術相對滯后的現狀，存在世界公平失衡的風險[13]。

1.4 生態環境風險

烏爾里?！へ惪颂岢觥坝捎诳茖W技術的飛速發展及科學技術與經濟活動相結合而導致技術經濟的飛速發展，使得工業社會的物質財富極為豐厚，這為絕大多數社會成員造就了舒適安逸的生存環境，但也帶來了核危機、生存危機等風險后果，這是一種可以毀滅整個人類的巨大風險[14]?！毙屡d科技推動人類發展的同時，也可能引起生態破壞的風險，比如核工程中產生的放射性物質可能會泄漏到環境中，造成嚴重的放射性污染，可能會對周圍的生態環境和生物鏈造成毀滅性的影響。一些新興科技發展需要大量自然資源和環境資源，對生態環境造成了破壞，應通過加強科技倫理風險治理,促進技術與自然生態環境和諧相處。

2 杭州科技倫理治理體系存在的問題

《意見》指出，科技倫理是開展科學研究、技術開發等科技活動需要遵循的價值理念和行為規范，是促進科技事業健康發展的重要保障。浙江也高度重視科技倫理治理，成立了浙江省科技倫理委員會。當前，杭州高新技術產業蓬勃發展,面臨的科技倫理挑戰也前所未有，針對存在問題，課題組瞄準杭州高新技術產業重點領域和戰略性新興產業前沿領域，主要對以人工智能為重點的“互聯網+”領域科技倫理治理、生命科學和醫學為重點的生命健康領域科技倫理治理以及環境科學領域科技倫理治理開展了問卷調研，梳理與分析以上領域科技倫理治理體系建設問題。截至2023 年9 月30 日，共收到1773 份問卷，此問卷調研對象為杭州高等院校、科研院所、醫療衛生機構和科技企業，其中高等院校和科研院所是主要調研對象，占比65%，科技企業占比27%，根據調研問卷中“您所在單位是否成立了科技倫理委員會并制定了相應的章程和審查制度？”“您所在單位是否制定了科技倫理風險監測預警機制？”“您所在單位是否會定期開展科技倫理治理教育培訓工作，培訓周期和頻次如何？”以及“您所申請的科研項目是否要先通過倫理審批？”等一系列關于科技倫理治理體系建設的現狀與問題、科研人員的倫理意識與認知等進行調研，發現杭州科技倫理體系還有進一步完善空間，主要表現在以下幾方面：

第一，科技倫理參與主體比較單一。在當前新興技術倫理風險治理過程中,政府是主要治理力量,發揮主要治理作用[15]。但是科技倫理治理主體還包括高?？蒲性核?、科技企業相關利益者、社會團體和公眾等科技發展的相關單位。從問卷反饋來看，只有55%的調研人員選擇了“其他相關主體”，還有相當一部分科技人員沒有意識到其他科技倫理治理主體的作用，并且部分調研參與者沒有看到政府主導，各治理主體之間的協同聯動作用，致使科技倫理治理效果被削弱。

NHB表現為皮膚、鞏膜及黏膜黃染，是血液中未結合膽紅素水平升高導致的[7]，未結合膽紅素可以通過血腦屏障侵入腦組織造成腦細胞核黃染，形成膽紅素腦病，對神經系統產生不可逆轉的損害，易給患兒留下神經系統后遺癥[8]。導致新生兒黃疸的原因較多，藥物、換血等都是重要的致病因素。病毒感染、細菌、肝酶活力降低以及膽紅素排泄障礙是導致NHB的重要原因[9]。

第二，當前，杭州科技倫理治理制度不夠完善，難以適應新興技術倫理風險治理的現實需求，科技倫理審查制度還存在落實不足的問題，相關法律制度建設較為薄弱。65%的問卷選擇了要“進一步加強科技倫理法治建設”，呼吁建立地方性法律法規政策以完善杭州科技倫理治理體系。

第三，科技倫理治理的前瞻性預防不力，科技倫理治理難以貫穿始終，且科技倫理宣傳教育力度也不夠。調研問卷中占比22%的人員不清楚科技倫理治理的前瞻預防政策是什么，占比29%的人員表示從未參加過科技倫理相關的宣傳教育活動。單靠政府來進行全市的科技倫理治理宣傳教育工作還不夠，要發動所有治理主體，尤其是高校和科研院所的力量來普及科技倫理宣傳教育工作。

3 杭州建設科技倫理治理體系的對策舉措創新研究

針對杭州科技倫理治理體系建設過程中存在的問題，研究并創新構建“增進杭州人民福祉，樹立正確的科技倫理價值觀，確立協同聯動的多元治理主體，融合治理前瞻研究、管理機制體制研究、全過程監督審查并厚植科學倫理文化土壤為主要構成”的科技倫理治理體系對策舉措（如圖1）。

圖1 杭州科技倫理治理體系建設對策舉措

3.1 增進杭州人民福祉，樹立正確的科技倫理治理價值觀

開展新興技術科技倫理治理工作首要前提是樹立正確科學的價值引導，在科學理念的指導下，聚力打造新興技術倫理風險的新型治理格局，切實發揮新興技術造福人類的重要作用。

從“以人民為中心”的發展理念出發，堅持科技倫理原則開展科技創新活動,新興科技發展要惠及廣大杭州人民，努力維護和提高人民的根本利益和安全感。要尊重生命權利，科技倫理治理要保護人民群眾的身心健康免遭新興科技潛在風險的傷害，同時開展科技創新活動要尊重不同社會群體,綜合考量不同群體的價值訴求,避免引發歧視和偏見問題[13]。

3.2 構建多元主體參與、協同聯動的科技倫理治理平臺

新興科技倫理治理是涉及技術和社會等多方利益主體的治理工作。政府要起到主導作用，高校、科研機構等科技創新主體要做好倫理相關的研究工作，并壓實管理主體的責任作用，對科研倫理失范行為第一時間進行阻止和處理，切實執行政府的相關政策。還要提高科研人員和公眾的倫理意識，搭建溝通平臺，多方聯動，共同治理，將各治理主體的作用最大化。

3.2.1 要以政府為主導, 加快成立建設各級科技倫理委員會

新興科技倫理治理要始終堅持政府主導，充分發揮政府在治理過程中的主導作用,要加快建設杭州各級科技倫理委員會，充分發揮杭州科技倫理委員會的指導和統籌協調作用，從而監督保障杭州科技倫理治理工作落實到位。

3.2.2 明確科技倫理治理主體并切實發揮作用

這些治理主體要明確自身肩負的倫理治理的責任與職責，還沒有成立倫理委員會的高校、科研院所、科技企業、科協等團體要積極成立倫理委員會，制定本單位的科技倫理制度，做好本單位的監督治理工作，政府要監督各單位的執行情況。做到政府主導，多元治理主體的共同參與。

3.2.3 搭建多元治理主體溝通平臺，實現協同聯動

在實現科技倫理治理的過程中，必須要保證多元主體的協同參與。政府牽頭搭建科技倫理多元治理主體溝通平臺，促進治理主體間的協同聯動，使得在科技創新一線的高校、科研機構以及科技企業行業能夠用科學準確的信息和方式將科技倫理風險傳遞給政府，根據新興科技的不斷發展，共同研討和更新科技倫理治理制度，不斷完善科技倫理治理體系。

同時建立多元主體協同合作機制，實現新興科技風險以及對應的倫理治理制度在平臺上信息共享，避免信息遺漏或者重復制定政策，實現科技倫理治理從單一分散管理向多元協同治理的轉變，提高治理效率。

平臺也要尊重科研人員和公眾的意見，科研人員要在倫理委員會的帶動下，積極參與各項倫理培訓學習活動，提升行業自律。平臺信息向所有主體開放，接受公眾的監督，拓寬主體溝通渠道。

3.3 發揮高校和科研院所優勢，加強科技倫理治理風險預測和前瞻研究

充分發揮高校、科研院所的優勢，積極組織搭建學術交流平臺，推動杭州相關機構、科技組織、學者共同深入開展科技倫理治理研究，加強科技倫理學科建設，造就一批高水平的科技倫理專業人才隊伍，深入研究科技倫理的理論內涵，探索實踐外延，探究規范制定以及可行性治理路徑。研究科技活動倫理評估的理論內涵和預測方法，做好新興科技的風險評估和風險防范工作，為杭州科技倫理治理提供前瞻性謀劃。

3.4 實現治理上的多措并舉，在科技管理層面進一步完善體制機制保障

3.4.1 加強政府監管力度，建設倫理委員會監管制度

科技倫理制度的落實需要監管部門監督落實，建設倫理委員會監管制度。充分發揮好現有倫理委員會和倫理制度監管，針對人工智能、生命健康與科學等交叉學科新興技術和科研項目申請，制定詳細的倫理審查和監督管理制度，細化責任落實制度，明確項目單位、項目負責人的責任，做好科研項目全過程監管，并制定相應的審查流程和監管制度，加大對違反科技倫理事件的查處和懲治力度等。

3.4.2 加強科技倫理治理的法律監管機制

加強政府在科技倫理治理過程中的法律監管機制層面的保障作用。在調研過程中，65%的問卷受訪者提出不但要加強科技倫理治理建設，還要進一步加強科技倫理法治建設，使得科技倫理治理制度體系的出臺有法可依，可真正保障科技倫理治理體系的全面監管和落實。

探索制定針對杭州新興科技產業快速發展的科技倫理監管法規，綜合已有的倫理治理法規政策，建設適合地區科技倫理治理的區域性專門法律法規，并細化配套政策。

3.5 高度重視科技倫理治理教育工作，進一步踐行倫理治理職責

高校和科研院所要起到正確的科技倫理價值引領的作用，并發揮學科優勢，積極研究科技倫理治理論以指導實踐，并形成有效的治理規范，建立治理機制。要向學生宣傳教育科技向善的倫理理念，嚴查倫理失范等行為，積極踐行倫理治理主體責任。

根據調研，杭州各大高校均已面向理工科學生開設《工程倫理》等科技倫理類課程，要切實提升課程教學質量，在學生剛開始接觸科研工作的時候就樹立正確的科技倫理觀，培養和提升學生的科技倫理意識。高校和科研院所還要加強教職工和技術輔助人員的科技倫理宣傳教育工作，定期做好倫理培訓工作，定期做好學生入學、新職工入職的科技倫理宣講工作，清晰傳達科技倫理規范、實驗室操作規范等內容，并制定科技倫理培訓計劃，由學校和科研機構的倫理委員會監督，定期定時做好執行工作，使得科技工作者自覺遵守科技倫理，抵制科技風險。

3.6 做好科技倫理宣傳活動，在全社會的層面厚植倫理文化土壤

社會公眾是新興技術的利益相關重要主體之一，新媒體、相關學會、協會等應搭建科技倫理宣傳平臺，加強新興科技倫理宣傳，將科技倫理社會文化融入科技發展的血脈，使良好的科技倫理治理擁有堅實的社會文化基底支撐[16]，更好地發揮社會公眾對新興技術的監督作用，促使社會公眾高度重視科技倫理治理，進而推動全社會多主體共同承擔科技倫理主體責任，攜手推進杭州乃至中國科技事業良好向善發展。