科技·倫理·治理“三位一體” 推動科技與善同向而行

劉鵬

“科技是發展的利器，也可能成為風險的源頭”。當代科技發展正日益改變著人類個體的生存狀態和人類社會整體的存在形態，這就意味著科技與倫理不再是人類知識圖譜上分屬于左右兩端的“兩種文化”，而是在現實中深刻交織的同一行動過程。科學技術的發展，不管是從其內在蘊含還是從其社會效應的角度來說，都必然會帶來倫理問題；而倫理問題一旦走出哲學的理論邊界，必然又會演變成為治理問題。因此，科技、倫理與治理實際上成了同一社會發展過程的三個界面。正是深刻認識到科技發展與倫理秩序之間的這種內在關聯，充分意識到科技倫理問題的解決是一個理論研究和現實治理雙向合力的過程，同時也準確把握到我國在科技倫理治理能力方面的欠缺，2022年3月中共中央辦公廳、國務院辦公廳聯合印發的《關于加強科技倫理治理的意見》（以下簡稱《意見》）才會強調，要“進一步完善科技倫理體系，提升科技倫理治理能力，有效防控科技倫理風險，不斷推動科技向善、造福人類，實現高水平科技自立自強”。因此，如何認識科技、倫理、治理之間的三位一體關系，進而塑造適應現代科技發展要求、倫理訴求和治理需求的高水平科技倫理治理體系，不僅是一個迫切需要解決的現實問題，也是我國在2035年“實現高水平科技自立自強，進入創新型國家前列”的一項長遠舉措。

一、科技倫理治理需以科技為基

開展科技倫理治理，必須以對科技與倫理關系的恰當理解為前提，要實現這種恰當理解，則必須以對當代科技發展本質特征深刻把握為前提。只有從理論與實踐兩個層面上厘清倫理介入科技的多重路徑，才能夠開展針對性的倫理治理工作，進而為“科技向善”的落地機制找到現實錨點。

科學技術的實踐導向必然會導致倫理的介入。傳統觀點往往將科學視為純粹知識，進而將技術視為純粹知識的現實應用，于是才有了純粹科學與應用科學的分類。如果我們回溯近代科學的發展歷程，就會發現自第二次工業革命以來，科學與技術的關系變得日益緊密，科學的應用性特征日漸增強。正是準確把握到了科學發展的這一時代特征，許多當代哲學家也才使用“技性科學”這一概念來描述當代學術研究中科學、技術、社會之間的一體化狀態。在此意義上，科學不再僅僅是“沉思”的學問，更是一種“干預”的行動，這就使得當代科學帶有了強烈的實踐導向。實踐指向意味著科學技術的強目的性特征，特定目的在科技研發階段以內嵌于科技的方式得以落地，在科技應用階段以功能落地的方式得以實現。當然，這里的強目的性并不意味著人類可以恣意而為，它能否達成及其達成的程度，一方面會受到其研發對象以及研發能力的影響，另一方面也會而且也應該受到倫理規則和倫理風險評估的約束。此外，同樣需要注意的是，不管是科技本身還是科技與人類社會關系的情境性實現方式都帶有極大的不確定性，這就使得科學技術的功能在落地時并非只有預先設計好的那一種，這就更加要求對科技及其功能開展充分的前瞻性研判，盡可能規避各類倫理風險的出現。要做到這一點，就必須對現代科技不確定性的來源形成充分的理論認知。

科技的不確定性增加了倫理介入的不確定性。確定性是科學技術有別于其他知識體系的核心特征，然而這種確定性并非絕對的確定性，它仍然是相對的。這種不確定性來自科技與自然關系的非絕對性，一方面從認識論的角度來說，科技本身是否達至對自然的終極理解，這是一個難以判斷的問題，人們只能用預測——驗證模型來確定科學技術的經驗合理性，但這種合理性并非真理意義上的合理性，而且此種檢驗的受控性也使得人們無法窮盡科技應用中所出現的可能性；另一方面從歷史的角度來說，科學技術都是在不斷的替代中前進的，這種替代關系本身就是對科學之絕對真理性的否定。從實踐層面而言，科學技術的不確定性確實導致了大量風險事件的發生。1986年，英國坎布里亞地區受到核輻射威脅，科學家們基于失當的科學模型給出了錯誤的決策，給當地牧民帶來很大損失，進而導致牧民對科學家乃至政府的質疑。當然，承認科學技術的不確定性，并不是否定科技本身，恰恰相反，這種承認基于對科學不完備性的認可，進而要求科學技術保持一種面向未來的認識論開放性，進而是倫理上的開放性。在此意義上，即便科學技術的不確定性很難提前研判，但至少要對其保持一種開放心態，并對其可能帶來的倫理風險的不確定性保持充分警醒。

科技功能的開放性放大了倫理介入的偶然性。科學技術往往會以技術制品的形式呈現，然而技術制品一旦遇到人類社會，其用途便具有了偶然性和開放性，進而設計者賦予科技產品的倫理意向并非科技產品所可能呈現出來的唯一倫理屬性，技術決定論在這里并不適用。就如同刀可以成為人類切開食物的工具，也可能成為犯罪的兇器，甚至也可能成為具有收藏價值的藝術品、具有考古意義的文物，如此等等。當然，這種功能上的偶然性并非等同于任意性，其開放性也并非等同于一種簡單的社會決定論，它們之所以會發生，是因為技術制品并非擁有一個封閉的邊界并以此邊界將其本質框定在內，邊界的開放性使得其本質向所處情境開放，于是在人與物的情境性關系中技術制品的功能得以實現。這種偶然性和開發性要求我們必須密切關注使用中的科學技術，必須要對其可能產生的后果保持倫理敏感和警醒。

二、科技倫理治理要以倫理為綱

如果說科學技術本身并非超然于價值之外，而是一直處于與倫理的糾纏之中，那么以一種倫理上可取的方式發展和使用科技，便成為一個不得不思考的問題。

以倫理上可取的方式發展科技，需要堅決貫徹倫理先行的理念。傳統觀點主張將科學技術的研發階段與使用階段區分開來，并認為前者價值中立，后者才是價值介入的切入點。這種二段式觀點一方面并未注意到倫理介入科技的第一種方式即科學技術的功能在很大程度上與其研發意圖高度相關，另一方面也未注意到倫理介入的第二種和第三種方式也與研發階段密切相關，如若不然，放任科學技術的不確定性和科技制品的開放性，會帶來無法估量的倫理風險，甚至會導致各種“黑天鵝”“灰犀牛”事件的發生。正如“科林格里奇困境”所言：“一項技術的社會后果在技術發展的早期階段是無法預期的。然而，當某些不可取的后果顯現出來時，技術已經成為作為整體的經濟和社會結構中的一個重要部分，以至于對它的控制變得非常困難。”在此意義上，技術發展的早期階段特別是在研發階段的倫理研判就顯得尤為重要。正是關注到了這一重要性，《意見》才將倫理先行作為科技倫理治理的第一要求，即“將科技倫理要求貫穿科學研究、技術開發等科技活動全過程”。同樣，2021年國家新一代人工智能治理專業委員會發布的《新一代人工智能倫理規范》，在其“總則”的第一條同樣要求“將倫理道德融入人工智能全生命周期”。貫徹倫理先行理念，一方面要對科技研發階段倫理介入的各種可能性保持清醒，另一方面要盡可能通過前置的風險研判規避后發的倫理風險。

以倫理上可取的方式發展科技，應使倫理研究與科技發展同頻共振。新一輪科技革命日新月異，新科技成就層出不窮，在此意義上科技引發倫理問題和介入倫理生活的方式與路徑也在不斷變化。因此，倫理研究人員必須密切注意科技動向，強化與科技研究人員的合作，共同展開對前沿科技的倫理研究。近段時間獲得極高關注度的ChatGPT，盡管人們對其生成的文本內容到底是創新性的突破還是一本正經的胡說各執一詞，但社會已經對其做出了迅速回應。例如，《自然》雜志明確規定，ChatGPT之類的大語言模型因為其無法承擔作者的責任，進而也就不能獲得作者的身份，但《自然》雜志并未禁止ChatGPT的使用，只不過要求文章在恰當的地方對使用情況作出說明。香港大學也明確規定，禁止學生在課堂學習和課程作業中使用ChatGPT，但這只是一項臨時政策，至于長遠政策則需要在校方慎重考慮并參考全校師生廣泛討論的意見之后再行確定。在此意義上，新技術總是和與之相適應的一套倫理規則同步而行的，這就要求倫理研究人員必須緊跟技術步伐，開展敏捷性甚至前瞻性倫理研究。同時，當代科技發展呈現出學科細化與交叉融合兩個看似矛盾的特征，這更加要求倫理研究人員必須關注到不同領域的科學技術所可能呈現出的倫理差異，從而形成適用于不同學科、領域特征的倫理規范。因此，科技倫理研究并非一個先驗領域，而是由經驗指向的，實踐的開放性決定了科技倫理研究的開放性。

以倫理上可取的方式發展科技，必須培養科研人員的倫理風險意識。科技的倫理內嵌本性與不確定性特征及其帶來的倫理敏感性，必然要求科研人員具有同樣的倫理敏感性。倫理意識和倫理敏感性的培養，首先要求科研人員必須從理論層面明確倫理先行原則的必要性，若非如此，研發階段的倫理敏感性就沒有了存在的認識論根基；其次科研人員必須以一種負責任的態度對待科技研發，強化自己的風險研判能力，開展負責任的研究與創新，只有如此，科技向善才有可能從理念落實為行動；最后科研人員需要將倫理意識貫穿科技研發與科技應用全過程，必須對使用者的倫理反饋保持高度敏感，并構建一套倫理問題應對的敏捷反應機制，強化自己應對倫理難題、化解技術風險的能力，盡量減少甚至規避負面效應的出現。倫理意識屬于道德范疇，不僅需要科研人員本身的內在自律，同樣需要全社會塑造一種良好的倫理治理氛圍，通過內外兩種途徑加以強化，最終將倫理意識內化為科研人員的道德良知，進而使得一種高度自覺、高度敏感的倫理意識和風險研判能力成為科研人員的自覺行為。

三、科技倫理治理應以治理為標

科學技術對人類生存狀態與生存方式的深層次介入，需要科技倫理學對其展開本體論的考察，這是一種哲學意義上的研究，這種介入的實踐導向同樣決定了科技倫理研究的現實指向，這是一種治理意義上的研究。就此而言，科技倫理研究的最終目標是治理，這就要求我們實現從倫理研究向倫理治理的轉化。

治理導向的科技倫理研究，應當實現倫理理念向治理規則的轉化。作為哲學的一部分，倫理學研究往往強調倫理理念的重要性。然而理念之所以能夠成為理念，其中一個重要原因就是其涵蓋范圍的普遍性，而這種抽象性和普遍性的獲得是以其可操作性的降低為代價的。因此，理念的重要性在于為科技倫理治理指明方向，但這一方向的達成卻需要將理念細化為操作規則。同時，理念的高度抽象性也降低了其可解讀性，于是同樣一件事情，不同群體、不同視角可能會產生不同甚至相反的理解，這類“執行鴻溝”現象的存在，會弱化理念的指導作用。在此雙重意義上，我們必須將理念轉化為規則，從而實現理念的落地。目前，除了相應的法律、法規之外，各級各類倫理委員會以及倫理審查制度也承擔了治理規則的職能。倫理審查是維護科技研究倫理底線的主要抓手，但需要清楚的一點是，倫理審查要根據審查對象的倫理風險程度開展差異性審查，對常規性科研工作開展快速審查以提高效率，對創新性科研工作充分研判風險以深化倫理把關。此外，要強化倫理委員會對科研項目執行過程中的監督功能，充分確保科研人員在項目執行過程中真正做到依法、依規科研，真正做到在倫理批件允許的范圍內展開合乎倫理的研究。

治理導向的科技倫理研究，必須堅持個體倫理和社會治理的并重。科研人員的倫理責任意識是微觀層面上推進科技倫理治理的重要一環。然而，作為一種個體倫理意識，它會面臨自覺性和敏感性的難題。就前者而言，不管是在理論意義上還是現實意義上，內在道德良知的達成只能是一個導向，并不能承擔起科技倫理治理的全部重擔，正如技術哲學家米切姆所言：“僅僅從技術倫理的角度來思考是不夠的……任何技術倫理本身都將趨于軟弱——如果不是無能的話。”就后者而言，科研人員個體倫理敏感性和風險研判能力的差異，也會給治理效果帶來不確定性。因此，必須構建一個多主體協同的倫理治理模式，形成一個由政府、社會、媒體、公眾等多方組成的風險研判精準、問題反饋通暢、監督機制有效、治理行動敏捷的治理共同體。由此，以內、外兩條路徑，構筑科技發展的倫理屏障。正是在此意義上，2019年國家新一代人工智能治理專業委員會發布的《新一代人工智能治理原則——發展負責任的人工智能》才強調：“推動國際組織、政府部門、科研機構、教育機構、企業、社會組織、公眾在人工智能發展與治理中的協調互動。”

治理導向的科技倫理研究，必須做到倫理治理與科技發展的統一。對科技展開倫理治理，其目的并非限制科技，而是推動科技以一種倫理上可接受的方式實現高質量發展。正如《意見》所言，科技活動要“有利于促進經濟發展、社會進步、民生改善和生態環境保護，不斷增強人民獲得感、幸福感、安全感，促進人類社會和平發展和可持續發展”。倫理原則是指在一定歷史時期內科技發展所應遵循的規則，但要注意這些規則是在特定社會歷史背景和科技發展水平的條件下形成的，不可避免地帶有時代特征，它只具有相對穩定性，特別是當上述背景和條件發生變化時，這些原則可能會有所變動。例如，國際干細胞研究學會發布的2021版《干細胞研究與臨床轉化指南》，在某種程度上松動了對人體胚胎體外研究的14天規則的要求：“如果在某一管轄范圍內得到工作廣泛支持且獲得當地政策和法規許可，出于科學上的目標，專門的科學監督和倫理監督程序可以權衡是否有必要超出14天的培養，并證明其合理性，同時要確保使用能夠達成研究目標的最小數量的胚胎。”我們對科技倫理界的此類最新變化應該保持敏感，既不能過于簡單地接受，又不能置之不理，而應采取一種審慎的態度，鼓勵“多學科、多領域專家及社會公眾共同探討，研判該原則的現實價值及未來走向”。在此意義上，倫理治理需要在穩定與動態之間保持張力，說其穩定是因為倫理原則至少在一段歷史時期內是相對固定的，說其動態是因為倫理規則要對科技最前沿保持敏感，但不管規則處于何種狀態，無可否認的是，倫理治理的目標是形成科學技術與倫理規范、自然秩序與社會秩序良性互動、協同發展的態勢，這本身就是高水平科技自立自強的內涵之一。

綜合而論，科技倫理治理必須立足科技，充分研判倫理介入科技的多種進路，由此針對性地構建治理路徑；必須緊扣倫理，準確把握倫理先行的理論可能性和現實必要性，強化科研人員倫理意識和風險研判能力；必須瞄準治理，正確理解治理的行動性和社會性特征，真正做到推動科技與善協同而行。在此意義上，科技倫理治理工作必須秉持科技、倫理、治理三者同向同行的原則，構建科技、倫理、治理“三位一體”格局，形成科技啟航、倫理導航、治理護航的良序發展態勢，既充分發揮現代科技的“力度”，又充分彰顯科學技術的“溫度”，為國家實現高水平科技自立自強構建倫理治理支撐體系。

（作者系南京大學哲學系副主任，教授、博士生導師）

責任編輯：劉景昌