現實悖論與風險想象：影視作品中的人工智能形象研究

王軍峰

(陜西師范大學 新聞與傳播學院，陜西 西安 710119)

近年來，隨著人工智能機器人(簡稱“人工智能”)在生活領域的滲透，與人工智能題材相關的科幻電影越來越多，尤其是作品中關于人工智能和人的關系的思考以及人工智能的情感問題吸引了廣泛關注，也給人們帶來了無盡想象與思考。如何在現實層面理解人工智能，影視作品又構建了什么樣的關于人工智能的風險想象，這對我們在現實與虛擬世界兩個維度上理解人工智能具有重要意義。筆者重點分析了人工智能在現實層面存在的悖論，以及影視作品給我們構建的關于人工智能的風險想象，以為人們全面深入認識、理解人工智能提供思路。

一、人工智能引發的三重悖論

人工智能的發展離不開現實社會語境，對人工智能的理解也應該以社會語境為前提。隨著人工智能變得越來越具有人性，越來越具有自主意識，這也需要我們進一步思考人工智能的根本屬性是什么、具有意識的和情感的人工智能是人還是物、人和人工智能之間的關系是什么等關鍵性問題。將這三個問題作為回答人工智能是什么的關鍵，能夠呈現出關于人工智能風險與想象的三重悖論：技術性與社會性的悖論、人性與物性的悖論以及控制與自由的悖論。

(一)技術性與社會性的悖論

人工智能是科學技術發展的產物，因而人工智能具有技術屬性，但隨著其滲透到社會關系的程度越來越深入，人工智能越來越朝向具有“人性”和“意識”的方向發展，這要求我們從社會層面思考人工智能的技術性與社會性之間的關系。而是否具有意識，是人與人工智能之間的根本區別。對此，哲學家米德認為人的自我意識的形成，本質上都是人類在社會空間中的經驗產物，這里強調的社會空間是人的自我意識產生的重要前提。馬克思也強調人是社會性動物，處于一定的社會關系中呈現出其社會性特征。由此，現實層面，人工智能的技術性和社會性發展方向形成了悖論：一方面，人工智能是技術的產物，具有技術性的本質特征，但另一方面人工智能的發展也呈現出社會性的發展趨勢，它越來越深入到人類的社會關系中。具體來看，目前的人工智能更多是以工具性、技術性屬性出現的，其在“人—機”關系中處于從屬位置，其存在的價值在于為人類創造更好的服務，只有在服務于人類生活中才顯示出其價值所在。但這種價值根本上看是一種工具價值，這是其技術維度。[1]但是，無論是在現實層面還是在影視作品中，關于人工智能的社會性也有其存在的基礎。例如，當前手機里的人工智能助手，能夠和人類產生一定的互動和交流，聊天機器人的出現為人機關系的呈現提供了更多想象。可以說，在社會層面上人工智能又呈現出其社會功能以及社會價值。那么，關鍵的問題在于這種社會性是否能夠讓人工智能產生獨立自主的“意識”，從而呈現出其社會屬性呢？這一點，影視作品給出了想象的空間。例如，在影視作品《人工智能》中，不僅有人工智能和人之間的互動，而且有人工智能機器人和同類機器人之間的互動。這種互動盡管是以程序性的、事先設置的方式呈現的，但依然呈現出人工智能的社會性想象。在這種情況下，如何認識人工智能呈現出的這種社會交往、交互、交流，以及人工智能是否會因此而生長出獨立的自我意識，從而擺脫自身技術性的束縛值得思考。

(二)人性與物性的悖論

遵循著人工智能技術屬性和社會屬性的討論，關于其物性與人性的悖論也存在其中，并在理解人工智能上具有重要意義。這就需要我們深入理解人性與物性之間的關系。美國心靈哲學家約翰·塞爾認為人的心靈具有意識性、意向性、主觀性和心理的因果性四個特征。這四個特征是人區別于其他一切生物的人類特征。[2]黑格爾則認為“思維是人的專屬，是人類與其他物體區別開的本質所在”。[3]在現實層面看，一些研究者認為人工智能發展的高級階段(高級人工智能或強人工智能)是需要具有情感和意識的。例如，有的人工智能專家就認為“人工智能機器能否有情感不是問題，而問題在于機器實現智能的時候不能沒有情感”。[4]而人工智能哲學家瑪格麗特·博登也認為“創造力和情感”對實現強人工高智能是必不可少的。這為人工智能的人性化發展提供了理論設想。科幻電影為我們提供的未來景象是人工智能“迫不及待地沖入社會關系網絡，并把自己當成社會中的一員，甚至要求對這個世界擁有掌控權”。[5]在電影中，人工智能機器人被程序設置成具有情感性，最終成為具有自我意識的個體，參與到與人的情感交流中，參與到與機器的情感交流中。在電影中，這種社會性交往成為人工智能機器人生成自我意識，乃至想要成為一個“真人”的動力。例如，《人工智能》中機器人大衛對人類永無止境，歷久彌堅的愛，完全是通過計算機程序實現的。在《機器管家》中，安德魯在與人類的相處中慢慢生發出一股人類般的情感和情感需求，正是這一強烈的情感需求使得它擁有了強大的內在驅動力，它充滿了“變人”的力量和斗志。由此，人工智能呈現出來的“人性”超過了其具有的“物性”。但就目前的現實層面來看，人工智能的社會性交往依然是一種程序性的、事先設置好的，盡管有聊天機器人的誕生，但這種交往還依然難以觸達情感層面。即使是機器人與機器人之間的交往，也難以產生情感這類“人”具有的特殊社會性需求。這種交流更多的是一種人工智能深度學習之后的程序型反應，難以產生自我意識。

(三)自由與控制的悖論

在對人與人工智能之間的關系的思考上，目前主要是以人類中心主義的視角進行關照的。在這一前提下，“人—機”關系是以人為主，人控制機器，機器為人服務的關系，這呈現出人工智能的物質、技術屬性。隨著人工智能研發不斷呈現出智能化、人性化的趨勢，公眾對人工智能的風險想象多集中在人工智能具有了自我意識和情感后，就更容易掙脫人類的控制進而尋求自身的自由的問題。由此，具有高度智能性的人工智能作為技術性的、物質性的工具機器，在社會層面和人性層面的不斷進步，引發了關于人工智能自由與控制的風險。這不僅是現實中的悖論，而且在關于人工智能的影視作品中也呈現出來。例如，電影《機械公敵》就為觀眾描述了這一個因失控而攻擊人類的人工智能形象。影視作品中的人工智能逼真度越來越高，與人的界限感也變得越來越小，已從過去物化的“它”轉向了擬人的“他”，甚至向超人化的“他”前進。[6]這些影片中創造人工智能的人都始終存在一個矛盾，即人們既想創造出和人類一模一樣的人工智能，又想讓它們服從人類的指令。但悖論在于，若人工智能真的成為人們所期待的人類一樣的話，那同時意味著它擁有意識，而一旦有了自主意識后它就很難再聽從人類的擺布。[7]

可以說，關于人工智能的憂思與風險想象，主要圍繞著其技術屬性與可能形成的社會屬性之間的沖突展開，由此在技術層面上決定了人工智能在與人的關系中呈現出物性，而這種物性是一種工具性的體現，自然人們在處理與人工智能的關系上就呈現出控制的傾向，而這種傾向具有人類中心主義的本質特征。但相應地，圍繞人工智能的社會性，如社會功能、社會價值甚至人工智能發展的情感性、人性趨勢，由此而呈現出其自我意志、自我情感，最終呈現出人工智能對人性的追求和對掙脫人類控制束縛的風險想象。

二、影視作品中人工智能的風險想象

人工智能的身體形象正在伴隨著技術本身的發展而變化，經歷了從“機械化”到“人體化”再到“虛擬體”的轉變，形成了金屬機械如《星球大戰》《第五元素》、人類肉身如《西部世界》《銀翼殺手》《終結者》《人工智能》《機械姬》等，以及虛擬主體如《2001太空漫游》《她》等幾種類型。[8]但無論是哪一種身體形象，影視作品都為人們設置了處理人工智能與人之間關系的可能性，也為人們呈現了不同的風險想象。它們在不同層面呈現人工智能存在的現實悖論，由此增強了風險想象與現實悖論之間的張力。

(一)敵意型人工智能及其風險呈現

人工智能是否有可能形成一種破壞性力量，進而威脅到人類的生存？對于這一風險發生的可能性，英國著名理論物理學家史蒂芬·霍金警告人們：人工智能的發展可能意味著人類的滅亡。比爾·蓋茨也認為人工智能將最終構成一個現實性的威脅。馬克斯公開警告人們需要重視人工智能帶來的危險性。這種將人工智能放在人類生存的對立面，最終呈現出破壞性、毀滅性后果的影視作品，可以將其稱之為“敵意型人工智能”。它為觀眾呈現了破壞性力量，具有較強的警示作用，在人類與人工智能的關系上主要呈現了自由與控制的想象。例如，電影《世界之主》中就為觀眾呈現出了科學家試圖創造機器人來幫助人類完成工作，但卻反被機器人所利用，最終自取滅亡的經典橋段。《機械公敵》中，全新的智能型機器人產品上市前夕，機器人創造者朗寧在公司內遇害，人們發現行兇者正是朗寧研制出來的機器人。隨著調查深入，人們發現正是這種全新的智能機器人獲得了進化的能力，產生了自我意識，對機器人三大定律產生了自己的理解，在絕對理性計算的邏輯下，成為危害整個人類的“機械公敵”。盡管影片最后呈現了人類與智能型的機器人達成和解，但電影的多元想象空間依然存在。如這種工具型人工智能究竟有無意識、究竟具有自主意識的機器人對人類來說是福是禍等，都引發了更多的思考。《終結者》則描繪了這種風險的最終想象，在影片中機器人已經掌控著天下，它們想要完全占領這個世界，把人類趕盡殺絕，人類只能死死抵抗。可以看出，敵意型人工智能以毀滅人類的形式出現，它構成了人類面對人工智能時代的終極想象。在冰冷的機器面前，在技術與物性的邏輯下，人與機器之間沒有含情脈脈，而構成為相互對抗，甚至相互毀滅的兩極。

(二)工具型人工智能及其風險呈現

工具型人工智能主要呈現的是機器人的技術性與社會性之間的悖論。這類人工智能是以人類助手的身份出現的，但在介入到人類社會中呈現出技術性與社會性雙重屬性。《機器管家》為我們呈現了人工智能的技術性和社會性想象。安德魯本來是一個機器人，在進入到人類家庭中和人類相處的過程中，它的工具屬性隨著與人類之間的互動和交流越來越少，而社會屬性逐漸增加，尤其是其細膩的情感讓它成為獨一無二的那一個。例如，它為小女孩設計藝術作品，能夠欣賞音樂，能夠懂得人類情感等，越來越讓它成為一個社會性成員，在此過程中生發出了人類的情感和意識。由此安德魯逐漸從技術屬性轉向社會屬性。該片的另一個譯名為《成人》，就揭示了安德魯從人工智能機器人到成為一個具有社會屬性的真正的人的過程。電影《人工智能》也為觀眾描繪了關于人工智能社會屬性的想象：影片中機器人大衛與喬之間的相互交往，以及喬對大衛提供的幫助，呈現了機器人之間的友誼。而在機器屠宰場，機器人小女孩對大衛的營救，也呈現了機器人之間的社會性關系。還有一種工具型人工智能，它以人類高科技的操作系統的形式存在，可以被稱為程序—工具型人工智能，對于現實社會來說，程序有混亂和出錯的風險，而電影中呈現的程序—工具型人工智能也存在類似的風險。例如，電影《超驗駭客》描述了這樣一個故事：人工智能領域的科學家威爾卡斯特開發出了一種具有人類情感和智慧的計算機系統，但這導致他成為反科技極端分子的襲擊目標。他遇襲后危在旦夕，其妻子和朋友繼續進行他的研究，并將他的意識上傳到了計算機當中，造出了第一個真正的人工智能。但影片最后，人工智能被限制在數碼世界中，只能以程序的形式存在。而《太空漫游》三名宇航員和一臺叫作HAL9000的高智能電腦開啟了木星登月計劃，但是HAL9000發生了程序錯亂，令兩位宇航員相繼喪命，只剩下波曼和HAL9000在茫茫太空中。當HAL9000從唇語得知波曼和同事將讓它死機，它毫不猶豫地殺死了波曼的同事。可以看出，工具性人工智能為我們呈現了人工智能機器人與人之間和諧相處的畫面，但這種畫面依然蘊含著風險，無論是倫理的風險，還是程序混亂出錯的風險，一旦風險發生，都將不可避免給人類帶來傷害。

(三)情感型人工智能及其風險呈現

情感型人工智能主要是指為主人提供情感慰藉的機器人，用來彌補人類情感損失。隨著人工智能和機器人技術的不斷成熟，情感機器人還將擁有高度的自主意識和決策意識，越來越具備屬人特征。[9]因而科幻電影對人工智能的關注也將視角放在了人與人工智能的關系層面，探討這種情感的意義。由于情感機器人需要介入到人類復雜的社會情感中，因而最容易產生倫理風險。但這種情感能否與人類相融，這種情感是屬于程序設定型情感還是自我意識生發下的情感，人類卻難以分辨。但是由于人類具有較強的移情能力，尤其是在具有人形的、類人類肉身的機器人中，由于外貌方面的相似性，這種因為移情而產生的情感風險表現得更為突出。一方面，情感型人工智能與人類形成了相互依賴的關系，這種人工智能機器人本質上依然是工具型人工智能，只是作為一種情感慰藉的工具才顯示出其存在的價值。但另一方面，這種情感機制一旦啟動，就難以停止，要阻斷人類與人工智能之間的情感，只有對人工智能進行毀滅或者拋棄、程序修改等。但其問題在于，人工智能的情感，即使是被事先設置程序而存在的情感，是否就不能主動感知人類諸如拋棄、毀滅、憎恨等情緒，或者說人類并不確定這種事先被設置的情感并不具有情感的能動性。在這種情況下，如何處理人與人工智能機器人之間的關系就尤為重要，是人類領導情感機器人，還是情感機器人能夠像人類自身一樣擁有同樣的地位、權利、道德并與人類和諧平等相處，這就顯得更為復雜。在電影《人工智能》中，情感型人工智能大衛就是以彌補家庭中孩子缺失而出現的，它一旦被啟動就注定了它以愛自己的媽媽為存在的唯一理由。而當大衛喊出“媽媽”的時候，女主人顯然對其動了情感，及至自己的孩子恢復健康，它把機器人大衛送回生產廠，卻在最后關頭拋棄了大衛，但又叮囑大衛一定要逃跑遠離人類，因為送回生產廠就意味著要將機器人銷毀。由此可以看出女主人對具有情感性的大衛動了惻隱之心，盡管它只是機器人，但這種移情作用已經誕生。而電影《她》呈現的機器人薩曼莎也是一種情感型機器人。影片描述了一個剛剛離婚的男作家西奧多在偶然間接觸最新的人工智能操作系統OS1，這個名為薩曼莎的人工智能系統，溫柔體貼又不失幽默風趣，很快獲得西奧多的好感，由此發展成一段戀情，但實際上薩曼莎在網絡中同時與成千上萬的人保持著情感聯系。這為人們揭示了人類被人工智能吸引存在的倫理風險和情感風險。

三、余 論

影視作品關于人工智能的想象和現實中人工智能發展存在的悖論，為我們思考如何與人工智能相處，如何防范人工智能發展存在的不確定性風險提供了認知路徑。從技術維度看，人工智能是技術的產物，是技術性、物性的統一，是處于被控制的地位，但人工智能卻朝著社會性、人性的方向發展邁進，在不斷突破人的控制而走向自由。但這種自由，帶來的不僅是人與人工智能和諧相處的理想境地，也面臨著敵意型人工智能威脅人類生存的危險、工具型人工智能掙脫人類控制的風險，以及情感型人工智能帶來的倫理道德風險。無論如何，關于人工智能的發展，以及人工智能帶來的可能的風險，需要我們在發展人工智能的過程中予以重視。