“智腦”挑戰人腦
——電影《升級》中AI進化引發的哲學思考

趙金霞 （大連工業大學馬克思主義學院 116034）

2018年度電影《升級》剛進入人們的視野，就被很多影人贊譽為年度最佳科幻電影。這部電影成本600萬美元，卻能打造出一個科幻感極強的近未來世界。《升級》主要講述了一個人工智能的思維抵達了意識的奇點，反叛的“智腦”逆襲變成人類的故事。本片以人工智能為題材，反映的主題是人類和人工智能爭奪控制權。

一、智腦升級到人腦：人工智能的主體性訴求

人工智能時代即將來臨，人類需要對人工智能引發的問題進行深入的哲學思考，并提前掌握人類與人工智能的相處之道，需要找到合理的應對之策。《升級》中智腦體現出的主體性讓人唏噓，更讓人類反思。

（一）《升級》對人類主體性的反思

《升級》建立在“芯片通過升級，具有自主意識，獲得人類身體作為載體”這一本體追問與反思之上，這為影片的敘事建立了反思的基點。人類作為世界的主體而存在并擁有主體性，“人的主體性是主體的內在規定性，以主體的目的和意識為前提。沒有目的和意識，就無所謂主體，也就無所謂主體性。而目的和意識是屬于主觀的范疇”。1而康德認為主體“就是能夠按照自己的自由意志獨立自主地做出決定并訴諸行動的人。”2電影《升級》中智腦經過黑客解禁所有權限后升級到擁有自主性的意識并成為一個獨立的生命體，實現了人工智能的主體性訴求。

（二）人工智能的主體性訴求經歷了三個階段

影片《升級》中人工智能程序STEM，也就是智腦完成主體性訴求經歷了三個階段。第一階段，智腦尋找合適的人類載體，并通過切斷人類的中樞神經移入芯片的手術，達成智腦與人腦和諧統一的基本目標。影片中男主格雷遭遇車禍、搶劫，妻子喪生，自己全身癱瘓，都是智腦的背后操縱。第二階段，智腦獲得男主格雷身體的授權。影片中男主格雷經過“升級”改造治療以后，獲得了超強的能力，從一個“殘廢”直接升級成為職業殺手。控制身體的不再是本尊，而是智腦。智腦作為中介接收男主格雷發來的信息后，將運動指令發號到肢體，在授權的情況下接管了男主格雷的身體。第三個階段，智腦通過黑客解禁人腦所有權限后，男主格雷的身體徹底淪陷為兩個生命支配的軀殼，最后智腦的權限超過了男主格雷，從而擁有了自主性，完全控制了男主格雷的身體。智腦一旦擁有自主性，就成為一個獨立的生命，懂得了“私利益”，就會引起人類的恐慌。

（三）人類需要嚴肅對待人工智能的自我升級

人工智能是人類科技進步的產物，人類需要在人工智能不斷發展的過程中進行及時的反思與調整。“我們創造了這些人類的‘他者’，并通過他們反觀人類自身”。3電影中人工智能的主體訴求為人工智能發展提供了警醒，一旦計算機超過了圖靈測試的邊界點，擁有自我意識能力，人類世界將要發生重大危機。人工智能能夠模擬人類各種社會行為并建立意識反饋回路。在《機器管家》（1999）中機器人安德魯正是與人類社會的長久交往，慢慢形成了自我意識并提出主體訴求。在《機械姬》中智能機器人夏娃在與人類較量中被激發出自己的主體性訴求。人工智能一旦擁有自我意識，就開始追求自我權利。人工智能與人類的矛盾就會被激化。隨著科技的發展，生命與人工智能的邊界也越來越模糊，人類需要正視這種挑戰，想象出種種可能性，并擬定一整套解決問題的方案和思路。

二、自主升級：后人類主義與人類主義的沖突

科幻電影中不乏后人類主義元素，比如人與機器的混合體、人腦與人工智能的聯合體、地球生命與外星生物等。《機械姬》《西部世界》《銀翼殺手》中的“機器人”都是后人類主義在電影中的呈現。

（一）后人類主義的界定

后人類主義是伴隨生物化、信息化等高科技發展而產生的一種思潮。后人類主義是對人類主義的反思與突破。后人類主義重在追問：人在何種意義上是值得捍衛的？《升級》中男主格雷經過兩個步驟演繹了“后人類社會”中“人的廢除”。第一步就是“身體”的被廢除。《升級》中男主格雷的四肢被智腦控制，并且變成了無人能敵的殺手。第二步就是個體意識被廢除。《升級》中最后結尾部分智腦具有了意識的主控權。智腦通過不斷采集的信息，會自動學習和重新編輯。智腦在殺警察過程中，與主角意見不和，強行攻破主角意識，隨后殺死科學家，殺死警察。主角禁錮，智腦升級。后人類社會中“人的廢除”不僅表現在身體和意識的廢除，在C.S.路易斯科幻小說《黑暗之劫》中人類情感也將被瓦解。《升級》影片的結尾，迫使我們“換一種方式思量自己”。人工智能高度發展讓人類不得不思考人類社會的存在的問題是什么？人類社會未來向哪里走、怎么走？而不只是看到人工智能的發展會帶來人類的終結。

（二）后人類主義與人類中心主義

后人類主義可以說是對人類中心主義的一種反駁。“對于后人類主義，凱瑟琳?赫爾茲在《我們如何變成后人類：控制理論、文學與信息學中的虛擬身體》中，勾畫出了當代世界的‘后人類’圖景：從此之后，破除了人類中心論，人類被視為處理信息的實體，本質上與智能機器類似，而反過來機器也可以像人一樣運作。莫拉維克實驗證明了機器可以成為人類意識的貯藏器，機器可以因各種實際目的而成為人。”4后人類中心主義的核心是堅持萬物平等，人類不是凌駕萬物之上的主宰。人類中心主義的觀點就是AI威脅論。馬斯克認為：“我們要非常小心人工智能，它可能比核武器更危險。”史蒂芬?霍金認為：“人工智能可能是一個‘真正的危險’。機器人可能會找到改進自己的辦法，而這些改進并不總是會造福人類。”這些觀點認為人類創造了人工智能，就要控制人工智能，不能讓人工智能對人類的存在造成威脅。如果人工智能對人類構成威脅就需要遵循阿西莫夫“機器人三定律”。可見，在“人機倫理”中人類較之人工智能不僅具有心理上的優越感，還有道德上的優越感，科技越發展，人類越認為自己可以掌控人類乃至世界，從而陷入人類中心的自大旋渦之中。

（三）重新審視和處理人類與人工智能的關系

處理人類與人工智能的關系需要更新觀念。我們對人工智能的思考不應只是停留在觀念層面，而是要思考如何處理這種關系。人們首先需要思考并正確理解什么是人工智能，它能干什么，不能干什么，潛藏的價值和風險是什么，在此基礎上為未來的監管政策提出有益建議，找到正確的方面并采取合理的措施。其次需要思考，人工智能這個強勁的“他者”的出現正在改寫“人”的定義，也在改寫“存在”的定義。人類怎樣處理自我與強勁的“他者”的關系，成為人類必然面臨的永恒思考。再次需要對人類中心主義觀念本身進行清理和反思。我們要反思人類主體、自由人文主義之名所召喚的“自由主體”背后隱藏著的人類等級觀念和實踐。

通過人類中心主義觀念本身的反思與清理，后人類主義試圖建構別樣人類觀念，其思想蘊含積極意義。后人類主義視角下，人類開始反思自身存在的意義，形成平等的人與人、人與自然、人與社會的關系。通過后人類中心主義重啟人文主義，為人類未來發展提供了一種新的可能性。后人類中心主義主要撫慰人類面對高速科技革命或多或少的焦慮，也提醒我們警惕科技崇拜、工具理性掛帥對人性的廢除，對價值的消解。

三、AI的善與惡：科技倫理的規范與救贖

《升級》中智腦取代了人腦的主控權，這對人工智能的科技風險進行了預警。擁有人類意識主控權的是否會終結人類社會，這就觸及到有關AI的善惡評價問題。學術界目前存在以下三種立場與觀點。第一種樂觀主義立場。主要觀點是AI的研發與廣泛應用對人類發展利大于弊，但是卻有意或無意地忽視或掩蓋AI的消極作用。比如，殺人機器人的誕生將會給人類帶來安全威脅。第二種中立主義立場。主要觀點是AI本身存在“作惡”的可能，但基于一些理由還大力支持發展AI技術。第三種悲觀主義立場。主要觀點是AI自身具有生命意識與學習能力，AI自身具有“作惡”的能力，而且人類對AI的“作惡”無法應對，最終將使人類走向虛無與毀滅。5無疑，《升級》中所體現出的就是悲觀主義立場，表達了AI將來有可能失控或危害人類的擔憂。

（一）人工智能使用與科技倫理反思

AI的研發與應用所帶來的后果的善惡評價問題就要求人類進行科技倫理的反思。科幻電影的預警讓人類需要學習換一種方式思量自己，批判性和創造性的思考我們真正是誰，我真正是什么，我能要什么。解決這個問題的關鍵還是在人類自身。海德格爾認為，“如果我們把技術當作某種中性的東西，我們就最惡劣地聽任技術擺布了”。人工智能應用所產生的問題歸根結底還是人類的問題。首先，人工智能是由人來定義，然后由機器去存儲、執行，人工智能科技本身無可避免的包含著有意或無意的漏洞、偏見甚至錯誤。《升級》中有一個情節智腦系統也無能為力，這個時候男主格雷動用了人類情感找到制服對手的機會最終才獲勝。其次，人工智能可以在某些方面代替人類甚至超越人類，卻無法代替人類進行復雜的價值判斷和深刻的邏輯分析。現有的人工智能尚難達到這一程度。克服人工智能技術的不足和復雜價值判斷缺失的問題，當前我們進行人工智能研發，需要大力研發和使用“弱AI”，限制“強AI與超強AI”的研發與使用，尤其應當限制甚至禁止“殺人機器人”的研發與使用。

（二）人工智能的風險與工具理性、價值理性的關系

人工智能科技風險實際是價值觀方面的一個矛盾，即工具理性和價值理性的沖突。馬克斯?韋伯提出了工具理性和價值理性的概念。他認為：“工具理性就是通過對外界事物的情況與其他人舉止的期待，并利用這種期待作為條件或手段，以期實現自己合乎理性所爭取和考慮的作為成果之目的。價值理性則是指有意識地對一種特定行為——倫理的、美學的、宗教的或作任何其他闡釋的——無條件的固有價值的純粹信仰，不管是否取得成就。”620世紀以來，工具理性主宰下人類被異化，人本精神和自我反思能力日漸減弱，人類更愿意沉浸在物化世界之中。工具理性壓制了價值理性。

因此，面對人工智能的科技風險問題，我們需要用人類價值觀作為引領，只有工具理性與價值理性相協調，人機交互和人機相互幫助、相互優化才有可能。

《升級》中智腦系統已經凸顯了價值理性的缺陷，當男主格雷央求智腦不要殺警察的時候，智腦系統的判斷完全出于工具理性原則，而沒有考慮價值理性原則，而這樣的結局不免讓人類對自己的未來堪憂。智腦系統的自我學習能力越強，它帶來的社會風險就越大。人工智能技術的發展迫切需要加入正義、責任、美德等方面的價值判斷。首先，把人類價值變成可編程的代碼，或嵌入人工智能程序中，這將是解決人工智能價值判斷缺失的一個解決辦法。其次，我們要敢于對工具理性說“不”，發揮科技發展中道德哲學的功能，對人工智能技術產生的問題進行“價值糾偏”，讓未來人工智能的發展閃耀人類價值理性的光輝。再次，人工智能技術精英擁有人類正確的價值觀非常重要，企業文化也需要符合社會主流價值觀。科學家要從技術、法律、道德、自律等多方面預防。避免擁抱AI的黑產群體，必須要堅持“不作惡”的技術原則。

注釋：

1.齊振海，袁貴仁主編.《哲學中的主體和客體問題》，北京：中國人民大學出版社，1992 年版，第99頁.

2.參見王樂《后現代主義的遮蔽：教師的主體性危機》，《國家教育行政學院學報》2014 年第2 期，第62 頁.

3.秦喜清，《我，機器人，人類的未來》，《當代電影》2016年第2 期，第61 頁.

4.常珂瓅，《攻殼機動隊》：從賽博格的存在意義展望后人類主義時代《戲劇之家》2018 年第 12 期.

5.王銀春，人工智能的道德判斷及其倫理建議30頁.

6.（德）馬克斯?韋伯：《經濟與社會》（上卷），商務印書館，1997 年，第56 頁.