給科技創(chuàng)新構(gòu)建倫理軟著陸機(jī)制

段偉文

最近，中央深改委會(huì)議審議通過了《關(guān)于加強(qiáng)科技倫理治理的指導(dǎo)意見》，該指導(dǎo)意見在很大程度上是對(duì)我國近年科技倫理治理實(shí)踐的工作經(jīng)驗(yàn)和理論研究的總結(jié)。進(jìn)入21世紀(jì)，隨著納米、生命、信息、認(rèn)知等會(huì)聚技術(shù)和大數(shù)據(jù)、人工智能、神經(jīng)科學(xué)等突破性創(chuàng)新的迅猛發(fā)展，科技創(chuàng)新的社會(huì)倫理風(fēng)險(xiǎn)日益凸顯。2017年以來，在人工智能戰(zhàn)勝人類圍棋棋手等事件的推動(dòng)下，科技倫理問題成為世界關(guān)注的焦點(diǎn)，各種科技倫理規(guī)范和倫理治理機(jī)構(gòu)紛紛建立，出現(xiàn)了人類科技發(fā)展史上的“科技倫理時(shí)刻”。

針對(duì)技術(shù)的社會(huì)影響的評(píng)估，未來學(xué)家阿馬拉（Roy Amara）曾提出著名的阿馬拉定律，即人們總是高估一項(xiàng)技術(shù)所帶來的短期效果，卻又低估它的長期影響。這一定律的啟示在于，對(duì)于突破性創(chuàng)新的弊端，應(yīng)該注意到外界的評(píng)判和社會(huì)輿論容易出現(xiàn)偏頗，特別是可能會(huì)因?yàn)閷?duì)未知風(fēng)險(xiǎn)的焦慮而將它們放大為對(duì)該技術(shù)的極度不信任，管理者要避免在政策層面高估其負(fù)面影響而過度治理和剛性監(jiān)管。

對(duì)于科技的社會(huì)倫理風(fēng)險(xiǎn)的預(yù)見，科技政策學(xué)家科林格里奇（David Collingridge）曾經(jīng)提出過著名的科林格里奇兩難，指出了人們?cè)陬A(yù)見和防范技術(shù)長遠(yuǎn)發(fā)展時(shí)所面臨的一個(gè)雙重約束困境（double-bind problem）。其一是信息困境，即人們很難在技術(shù)生命周期的早期對(duì)一項(xiàng)技術(shù)的社會(huì)后果進(jìn)行預(yù)見;其二是控制困境，即當(dāng)人們不希望出現(xiàn)的后果被發(fā)現(xiàn)時(shí)，技術(shù)卻往往已經(jīng)成為整個(gè)經(jīng)濟(jì)和社會(huì)結(jié)構(gòu)的一部分，以至于難以對(duì)其加以調(diào)控。由此可見，對(duì)科技創(chuàng)新帶來的復(fù)雜未知社會(huì)倫理風(fēng)險(xiǎn)進(jìn)行預(yù)見和認(rèn)知雖尤為困難，卻不得不為之。而正因?yàn)槿绱耍瑢?duì)這一問題的根本化解之道是將其作為科技創(chuàng)新的內(nèi)在環(huán)節(jié)，將科技倫理規(guī)范和價(jià)值觀作為從0到1的創(chuàng)新的有機(jī)目標(biāo)。具體而言，為了促進(jìn)科技創(chuàng)新的發(fā)展，應(yīng)從價(jià)值觀和倫理規(guī)范等軟約束入手，盡早在科技活動(dòng)的全過程引入倫理治理框架，以提升相關(guān)責(zé)任主體的社會(huì)倫理風(fēng)險(xiǎn)意識(shí)，促使他們?cè)诰唧w的創(chuàng)新實(shí)踐中思考行為的對(duì)錯(cuò)，做出合乎正確價(jià)值觀和倫理規(guī)范的抉擇。

依據(jù)這兩方面的認(rèn)知，不難理解指導(dǎo)意見為何強(qiáng)調(diào)科技倫理治理要堅(jiān)持促進(jìn)創(chuàng)新與防范風(fēng)險(xiǎn)相統(tǒng)一、制度規(guī)范與自我約束相結(jié)合的治理原則。基于這一原則，指導(dǎo)意見提出了軟硬兼施的制度框架。一方面，強(qiáng)調(diào)通過完善政府科技倫理管理體制和壓實(shí)創(chuàng)新主體科技倫理管理主體責(zé)任等構(gòu)建科技倫理治理體制，健全科技倫理治理制度，進(jìn)而強(qiáng)化科技倫理審查和監(jiān)管。另一方面，就是要通過倫理先行、敏捷治理等基本要求和發(fā)揮科技類社會(huì)團(tuán)體的倫理自律功能、引導(dǎo)科技人員自覺遵守科技倫理要求等制度設(shè)計(jì)，為科技創(chuàng)新構(gòu)建起必要的倫理軟著陸機(jī)制。