變“失控”為“預控”
——基于機體哲學的高新技術風險防控機制研究

王 前，景 宇

(大連理工大學 人文社會科學學部，遼寧 大連 116024)

自從德國社會學家烏爾里?！へ惪?Ulrish Beck)提出“風險社會”理論[1]之后，關于高新技術風險的研究日益引起學術界和社會各界的普遍關注。人們逐漸意識到，對增長的盲目樂觀必將被更加審慎和全面發展的觀念取代，過去的經驗已不足以成為當前行為的依據和理由，人們當前的行為選擇同時還受到對未來預期的影響[2]。當代高新技術的作用對象逐漸由傳統的自然界轉向人類自身，直接影響人類的生理健康、社會生活和精神狀況，由此帶來很多全新形態的技術風險，而人們并沒有足夠的把握加以防范。因此，本文從機體哲學的視角來探究當代高新技術所帶來的技術風險，以期開啟新的研究思路，提出更有成效的應對策略。

機體哲學是對各種機體性質、結構、功能和演化規律的哲學反思。以萊布尼茨、懷特海、漢斯·尤納斯等為代表人物的近現代西方機體哲學包含很多深刻思想成果，但具有“泛機體”傾向，懷特海就認為“只要是有一定規律的有序結構體都是有機體”[3]。中國文化背景的機體哲學研究關注機體的生機和活力，如新儒家學者熊十力、方東美等關于生命哲學的研究[4]，金吾倫、李志超、朱葆偉等學者關于生成哲學[5]、“機發論”[6]、機體模型[7]的意義和局限的研究等，為從機體的生機和活力出發開展機體哲學研究開啟了新的思路。按照這一思路，機體哲學不僅適用于考察生命機體特征，也可以用于考察具有“生機”特征的其他事物，如工具、機器等構成的人工物系統(可稱為“人工機體”)，各種社會組織、群體、機構(可稱為“社會機體”)，語言、觀念、學說構成的有機體系(可稱為“精神機體”)。后幾種類型的機體的“生機”，都是人類在實踐中將生命機體的“生機”賦予它們的。人類社會實際上是這四種類型機體的耦合物。當代高新技術的發展如果缺乏合理、有效的規約，就會打破各類機體之間相互適應的關系，使局部的沖突演化成有顯著影響的技術風險，甚至出現失控現象，造成嚴重后果。從機體哲學視角探析高新技術風險的成因、面臨的挑戰和防控機制，有助于轉變以往應對高新技術風險時出現的被動局面，使高新技術風險治理具有主動性和前瞻性。

一、高新技術風險成因的機體哲學分析

人們通常以為高新技術風險失控主要是因為相關技術人員和管理人員缺乏風險觀念，不負責任，缺少預案。基于這種思路去治理高新技術風險的對策難以解決根本問題，類似風險和事故還會不斷出現。從機體哲學角度來看，高新技術風險的形成有著更深層的原因。

(一)從人工機體的存在狀態看高新技術風險失控的原因

當代高新技術發展中出現的高度專業復雜性，體現在人工機體特性更加復雜多變，以往人工機體的整體和諧狀態變得不穩定。高新技術產品是由多個子系統構成的復雜化、集成化的大系統，其各部分之間的復雜有機聯系增強了各部分之間的相互依賴性，決定了各組成部分共生與共存的狀態。其中某一部分存在狀態的改變更容易影響相關部分的存在狀態，進而影響整個人工機體的存在狀態。貝塔朗菲強調“要把有機體當做一個整體或一個系統來分析和研究，這樣才能發現不同層次上的組織原理。”[8]“挑戰者號”航天飛機的失事就是由一個很小的O型密封圈失靈造成的[9]56。完全依靠智能化控制也可能帶來安全隱患。特別是面對突發情況，當智能控制系統無法應對時，必須依靠操作者靈活處置，否則就會導致事故發生。2011年的溫州動車組追尾事故就是這方面的典型案例[9]36。有時，復雜人工機體中的局部風險會在非線性系統中迅速蔓延，出現整體性突變[10]。2003年北美電網大面積停電整個事故的起因就是位于俄亥俄州的一處變電站由于超負荷運轉而跳閘，接著引發系統搖擺和震蕩的一系列連鎖反應[11]。以往人們習慣于從“修理”的角度看待人工機體的運行故障，只針對局部問題或零件，這顯然不適應處理復雜人工機體內技術風險通過各種有機聯系迅速擴散的情況。

(二)從社會機體的運行狀態看高新技術風險失控的原因

在技術人工物研發和使用過程中，對高新技術風險的制度性防范是由相關監管部門或環節負責的，這里涉及企業內對產品質量、生產安全和意外故障的監管；政府機構對環境、產品使用和基礎設施安全的監管；媒體和公眾對技術風險的監督等方面，各監管部門和環節之間存在密切的有機聯系，共同組成了應對技術風險的特定社會機體。如果這種社會機體的運行出現“病態”，如監管機制僵化、落后，跟不上技術創新的發展速度；或關鍵崗位的人員擅離職守、不負責任、監管失靈；或相關部門缺少應對風險的有效預案等，都會放任技術風險滋生和蔓延，出現失控狀態。換言之，此時特定社會機體的“病態”帶來了技術風險的失控。然而，高新技術發展的高度專業復雜性使得公開的社會監督日益困難，社會組織的管控往往跟不上技術創新的發展速度。2018年的賀建奎非法基因編輯事件就是高新技術領域由于監管失靈造成技術風險失控的例子，現代醫學針對艾滋病的防范已有多種成熟的辦法，而這次基因修改使兩個嬰兒面對巨大的不確定性，而且被修改的基因將通過這兩個嬰兒最終融入人類的基因池，使人類也面臨未知的風險[12]。從12306、攜程等網絡平臺造成的用戶信息泄露，到近期江蘇省公安廳爆出?？低暠O控設備安全隱患事件等，種種跡象表明，信息網絡安全的監管與保護不力導致諸多“黑洞門”的“失控”風險，尤其一些重要數據若流向他國，信息安全威脅甚至會上升至國家安全層面[13]。

(三)從精神機體的狀況看高新技術風險失控的原因

在高新技術人工物研發和使用過程中，相關人員的專業知識、經驗、判斷能力、處置能力、價值觀、道德素養等要素組成了自身的精神機體。如果精神機體出現“病態”，也會帶來技術風險的失控?，F代科學技術和生產方式的高度專業化，使得很多科技人員和工人只熟悉身邊的工作環境，對產業鏈和供應鏈上相距很遠的環節的風險和倫理問題缺乏親身體驗的可能性，很難敏銳意識到那里出現的問題。這就造成了一些科技人員對技術認知上的局限性，即“弱感知性”，缺乏風險意識和社會責任感[14]。工具理性對他們的知識結構、價值觀、評價標準的影響降低了價值敏感性和道德想象力的作用，這樣小范圍的技術風險會利用這種精神機體的缺陷迅速擴張，出現失控狀態。法蘭克福學派的哲學家馬克斯·霍克海默(Max Horkheimer)就認為，“工具理性是對人生存的價值基礎的消解，將人進行物化，使人最大的武器——思想，也變為了工具。”[15]近幾年無人駕駛技術興起，為了搶得市場先機，各大公司如特斯拉、Uber、Waymo等紛紛投入研發進程，但卻屢屢傳出無人駕駛汽車肇事的消息。有些研制和推廣無人駕駛汽車的科技人員更關注自動駕駛技術帶來的技術和經濟指標，卻很難親身體驗使用者實際的處境和心理壓力，以及由于技術尚不完全成熟而帶來的風險，這種情形下高新技術風險的失控就是精神機體的缺陷造成的[16]。

二、防控高新技術風險面臨的挑戰

由于高新技術應用后果帶有很大程度的不確定性，目前防范高新技術風險的主要措施是事后補救，即被動的“補控”。從機體哲學角度看，“補控”是局部的、分析性的、工具理性主導的途徑，往往忽略對象事物的內部和外部有機聯系。而高新技術風險“補控”的代價在于難以避免某種類型的技術事故重復發生，風險居高不下，造成資源浪費、財產損失和人身傷亡的癥結難以根治。

(一)針對高新技術的“補控”效果往往“治標不治本”

“補控”是在高新技術實踐中某一個環節發生事故之后進行的，雖然解決了當下出現的危機，有針對性地消除了隱患，但很少從根本上解決問題，帶有“亡羊補牢”的性質?！巴鲅颉闭呤且娨淮巍巴鲅颉辈叛a一次“牢”，屬于反饋控制，即用過去的情況指導現在和將來的工作，從而實現對技術風險的控制[17]。這種做法缺乏前瞻性的思維，沒有從事物內部和外部有機聯系的角度揭示造成風險的根本癥結，因而難以識別未知的技術風險。一旦技術實踐中的某環節再次發生事故時，會非常被動地再次或多次進行“補控”，甚至達不到原先的控制效果。例如，現代生物技術針對變異病毒不斷進行疫苗研制，計算機軟件運行出現漏洞不斷“打補丁”等都具有這種特點。正如普里高津所說：“事物在恢復有序狀態之后，若不進行定期的維護與保養等前瞻性預防措施，當受到內外部因素的干擾，事物就會從有序重回無序狀態，而無序狀態會帶來諸多不可控的風險。”[18]

(二)針對高新技術的“補控”可能帶來副作用

某些“補控”措施可能在彌補某些漏洞的同時帶來新的技術風險，因為只針對局部環節的“補控”可能干擾技術對象內部和外部的有機聯系，打破原有的平衡，造成新的技術風險?，F代醫學利用抗生素治療的方法雖然見效快，但可能造成人體免疫系統功能的降低，使某些細菌病毒對抗生素產生耐藥性，使人體逐漸失去對外部環境的適應性與抵抗性?！都~約時報》刊登的一篇文章曾指出，人們正在“失去抵抗細菌的陣地”，也許會很快撤回到20世紀早期的戰線[19]。另外，被稱為“魔剪”的基因編輯工具CRISPR除作為常規的科研工具，還被寄予用于疾病治療的厚望，包括治療癌癥、艾滋病、免疫缺陷病、杜氏肌營養不良癥、鐮狀細胞病等。然而，CRISPR技術的“脫靶效應”一直是阻礙其應用的關鍵障礙之一。由于編輯了“預想之外”的基因，就可能帶來各種不可控的不良后果[20]。

(三)高新技術的“補控”對可持續發展的影響

疲于奔命的“補控”還可能使技術風險的蔓延速度逐漸超出人們的控制能力的增長速度，已存在的技術風險能夠延伸至人類未來的技術實踐中，并且已經成為整個技術結構的一部分，以至于人們難以對其加以調控[21]。2011年，日本處置福島核電站事故所采取的向外釋放蒸汽和核廢水排放入海的補控措施，對周邊環境和社會的可持續發展帶來了嚴重影響。由于核電站排放蒸汽內含有碘131和銫137等大量放射性物質，造成當地不少民眾患癌。而核廢水經過濾處理后仍含有放射性元素氚，一旦進入海洋不僅損害其本國的民眾健康，還會殃及鄰國，危害整個地球的海洋生態環境[22]。LED、傳感和網絡技術的集成應用，使得當今城市照明系統能夠動態響應行人的存在和活動，在某種程度上可以降低城市能耗和光污染，也帶來了一些影響城市可持續性發展的問題。這種照明系統堅持路燈“光隨人”的設計理念，能夠帶來“可能路徑前方的可見性”“走動過程所需的可見性”以及“臨時改變方向的可見性”，但不確定性增大，可能頻繁開閉，光照環境很不穩定，給城市綠色、高效的可持續發展帶來一系列新問題[23]。這些都是“補控”影響可持續發展的突出事例。

三、基于機體哲學的高新技術風險“預控”機制

由于“補控”會付出更多的代價，因此必須對當代技術風險提前進行“預控”，以避免技術風險對人類社會可持續發展的不利影響。

(一)基于機體哲學的高新技術風險“預控”思路

1.基于機體哲學對高新技術風險“預控”要提出新的思路。對高新技術風險的“預控”意味著要事先知道技術風險可能在哪里，可能以何種方式生成和擴散，對社會有何種可能的影響，然后才能未雨綢繆，預先采取措施，及時消除隱患，降低高新技術產品應用的不確定性，并構建高新技術風險管理系統，包括高新技術風險信息的收集、整理和更新，以保證信息的及時、準確和可靠。在科技立項和成果評估中，應該對這一點提出明確要求。

2.分析高新技術應用中各類機體之間可能出現的不協調問題。高新技術的應用要充分考慮生命機體、人工機體、社會機體和精神機體的耦合性，從技術失控的問題表征深入到機體哲學的本質分析，厘清高新技術風險與各類機體之間的因果關系，以及各類機體在高新技術應用中相互之間的適應關系。

3.明確技術共同體成員各自的倫理責任，加強倫理責任主體與客體之間的有機聯系，消除以往因專業分工產生的技術人員交流障礙，在高新技術應用中共同努力防患于未然，使高新技術風險始終處于可防可控狀態。

(二)基于機體哲學的高新技術風險“預控”舉措

1.培育從事技術創新的科技人員需要具備強烈的危機意識。 對高新技術風險的“預控”首先需要科技人員觀念上的轉變，增強風險意識、價值敏感性和社會責任感。科技人員風險意識、價值敏感性和社會責任感的培養需要以多學科交叉融合的知識結構和科技倫理理念為基礎。以往立足于單一學科培養專家型人才的理念是無法滿足這種要求的，學科之間壁壘森嚴無法消除科技人員技術認知上的“弱感知性”。我國目前正在大力推進的新工科、新農科、新醫科、新文科的建設，為培養這方面的新型人才提供了重要機遇。美國的希拉姆學院曾提出將新技術與文科相結合的教育理念，注重現代人才培養的全面性，要求高新技術研發及推廣應用者不僅具有科研本領或經濟頭腦，還要具有人文素質和社會情懷[24]。這一理念對新工科、新理科、新文科的建設很有借鑒意義。我國目前大力推進將工程倫理課程納入各高校課程體系中，培育學生早期對技術風險相關理論的認知與領悟，為今后科技人員在面對高新技術風險時具備“預控”能力提供了保障。培養對高新技術風險的“預控”能力還需要結合技術實踐進行專業訓練，通過技術模擬實驗感受可能存在的風險和預控的實際過程，這有些類似企業競爭、網絡安全和軍事博弈的“沙盤推演”，事先構造出各種可能風險及對策。例如，用飛行訓練模擬器模擬可能出現的各種風險，有助于飛行員在訓練中就發現可能存在的技術隱患，為科技人員通過技術創新不斷增強“預控”能力提供寶貴的經驗與信息[25]。

2.建構風險防控的社會共同體的有機協調機制。 應對高新技術風險的特定社會機體是由各監管部門和環節共同組成的，而在這種特定社會機體中，人們對技術風險的認知受各種社會活動、文化和政治過程影響，個體參與的社會活動、文化和政治過程都會影響其對風險事件的判斷。社會學家德博拉·魯普頓(Deborah Lupton)指出：“對風險的認知是透過各種社會活動而被構建成的，同時這些對風險的認知會隨著行動者的社會位置和其所處的不同背景而有差異?！盵26]因此，高新技術風險治理中應鼓勵利益相關者形成合力，以各種方式參與“預控”，將“預控”能力作為社會治理的關鍵環節[27]。

相關監管部門或環節針對高新技術風險的“預控”，要注重各監管部門和環節之間的有機聯系。尤其在技術風險責任認定和落實中，將技術風險的責任視域拓展到與“在場的”受害者直接或間接相關的個人、部門、企業乃至政府，形成“牽一發而動全身”的模式，避免形成以技術使用者的風險遭遇沖抵風險責任的認知誤區[28]。對高新技術風險的“預控”要注重各監管部門和環節職能的互補性，即使個別部門和環節出問題也不至于整體“失靈”。在高新技術研發和使用過程中，企業要主動了解國內外相關技術風險的形態和治理狀況，加強各部門之間的溝通與協作，對了解到的產品質量問題、生產安全問題和意外故障事先提出預案；政府管理部門要在產品使用、基礎設施安全、環境保護等方面建立與時俱進的規章制度，引導企業和公共事業管理部門增強對重大技術風險的“預控”能力。公眾應主動了解新技術應用以及預防技術風險的知識，提高個人的技術風險意識，發揮在“預控”重大技術風險方面的應有作用。媒體對加強技術風險“預控”的必要性和可能性也需要加強宣傳和輿論引導。這些環節相互聯系、相互配合，才能產生系統的整體效應。

3.對技術人工物的使用壽命、功能狀態和人機關系及時預測和評估。對技術風險的“預控”最終要落實到人工機體上，這就是對技術體系中設計、制造、使用、管理各個環節進行風險預測，重點評估危機的形成機制和傳播途徑，提前采取“預控”措施。

在技術設計和制造環節，需要防止人工機體過于復雜產生“異化”而脫離人的控制。尤其在設計高新技術產品時，要強調“以人為本”，真正便于人們使用，而不是為了高附加值設計過于復雜的使用程序。德國工業設計師迪特·拉姆斯(Dieter Rams)提出的“好設計十項原則”，其中重點強調了好的設計應該是誠實的、實用的和盡可能少的設計，而不是為了炫耀技術本身而設計[29]。為了避免操作失誤導致技術風險和事故的發生，有必要增加人工機體內部結構之間相應的“容錯”能力，保證系統在出現故障的情況下仍能繼續做到自我調節、自我保護、自我延續、自我反饋，達到預期設定的目標[30]。設計師應具有良好的容錯性設計思維，盡量避免用戶錯誤操作的出現。即使用戶出現錯誤操作，也能幫助用戶識別、診斷，及時反饋問題所在，并提出有效解決方案，給用戶帶來更優質的用戶體驗。人工機體的使用過程應盡可能全面考慮到所有技術使用者本身，包括因對技術知識掌握程度參差不齊的能力障礙者[31]。人工機體的使用要具備通用性使用原則，達到“上手”的感覺。從技術管理角度看，若不顧人工機體的狀態與感受而過度使用，會導致人工機體的不穩定狀態甚至提前報廢。為了避免這種情況發生，可以借鑒中醫“治未病”的理念進行“預控”，即防病于未然，預防疾病發生[32]。具體說來有以下幾點：

第一，人工機體同人一樣需要正常的作息時間，若超時待機或過勞作業會加快其壽命的損耗。為了避免長期損耗造成技術使用的不穩定性而引發技術風險問題，需要實施一定的限時作業的保護措施。例如，產品達到安全使用上限時應自動發出警示或自動停機。好比人在沒有患病的時候，要積極預防疾病的發生。這是站在“未病先防”的管理角度提出的要求。

第二，人工機體需要進行定期“體檢”和維護，及時掌握其健康狀況。由于人工機體內部結構之間存在著相互制約、相互影響的聯系，若對某個“生病”的結構置之不理，可能會導致整個人工機體的“感染”。無論風險多大，針對問題的源頭因素都要徹底排查，從而避免造成更大的技術風險。這是站在“既病防變”的管理角度提出的要求。

第三，人工機體因“生病”而引發技術風險，應在風險被控制和穩定后對人工機體進行復盤，給予人工機體相應的“病歷本”，記錄技術風險的直接與間接原因并進行系統性總結，以便今后出現相同或相似的技術風險時能夠快速“對癥下藥”，減少付出不必要的代價，同時為應對新技術研發所面臨的風險提供了范式。好比人在病愈或病情穩定之后，要注意預防復發，時刻掌握健康的主動權。這是站在“愈后防復”的管理角度提出的要求。

雖然“預控”不能完全避免技術風險問題的發生，但是可以減輕被動“補控”所付出的巨大代價，抑制技術風險的擴散，從源頭上控制技術風險的發生，促進人類社會生活的繁榮穩定，保證生命機體、人工機體、社會機體和精神機體的協調發展。

四、結語

“預控”作為高新技術風險的重要防控機制，雖然不能完全避免高新技術風險問題的發生，但是可以減輕被動“補控”所付出的巨大代價，抑制高新技術風險的擴散，從源頭上控制高新技術風險，促進人類社會生活的繁榮穩定，保證生命機體、人工機體、社會機體和精神機體的協調發展。