影視作品中人工智能的責任主體反思

【摘要】關于人工智能的影視作品層出不窮，其中對人工智能成為責任主體的構想與探討也呈現出多元化的豐富圖景。本文通過對多部人工智能題材影視作品的分類、歸納與總結，提煉出賦能覺醒型責任主體、寄生侵占型責任主體、讓渡交融型責任主體三種主要責任主體類型，根據不同的責任主體類型，承擔責任的方式和特點也沿著不同的路徑展開。在人工智能深度參與人類生活的過程中，人工智能展現出對人類智能的異化，人類自身的主體性邊界始漸模糊，主體性的反噬拉開了序幕，主體實踐和生命體驗變得尤為珍貴，人類自身的主體性在主體實踐中得到激發與確證。

【關鍵詞】影視作品；人工智能；責任主體；反噬；主體實踐

【中圖分類號】B0-0 ? 【文獻標識碼】A 【文章編號】2097-2261（2023）23-0050-04

【基金項目】2022年長沙理工大學校級研究生實踐創新項目（項目編號：CLSJCX22154）。

人工智能本質上是人思想“器官”的延伸，是按照人的思維模擬和架構的技術程序，是人類思維邏輯運行的實體化。“電子計算機特別是人工智能的出現，人的大腦及其思維功能也被延長或投影為器物裝置，這樣人類的所有器官都完成了功能的外化。”[1]人制造出了一個在“思維”著的客體，這個客體的出現讓人類不得不重新審視自身主體性的問題。人對于自身主體性的判定依據之一，源于人對自我意識的確證，人是在思維著的東西，思維是人擁有主體性的必要條件，人工智能模擬并運行著“思維”，人工智能的主體性該如何判定。人工智能責任認定問題在學界并非是一個全新的話題，早在21世紀初，盧西亞諾·弗洛里迪和桑德斯提出“無論所做之事是善還是惡，人工智能都要在道德上對此負責”[2]的觀點，并賦予人工智能責任主體地位。許多科幻影視作品通過對人工智能的場景代入、具象展示、精度人化推演著人工智能的主體性，影視作品中展開了對人工智能主體性的廣泛探索。

一、人工智能責任主體的類型分析

（一）賦能覺醒型

在HBO電視劇《西部世界》中，西部樂園中的AI機器人們具有高度智能和自我意識，并能不斷學習和進化。這些機器人成了賦能覺醒型責任主體。人工智能與人類之間的關系往往是復雜而多樣的，有時是合作，有時是沖突，有時是愛情，有時是敵意。“人機關系中，人類以中心主體自居，排斥人工智能在人類社會中的主體性存在，它們難以得到認同機制的許可，在不平等的生存待遇中茍延殘喘，激起反抗與殺戮的‘弒父心理。”[3]這些機器人在樂園中扮演著各種各樣的角色，而且它們的行為也受到游客的控制。然而，隨著時間的推移，這些機器人逐漸覺醒，開始反抗人類的控制，這成了覺醒后的人工智能為自身的主體性確證的一個必要步驟。

電影《機械姬》中也是如此，在程序員與艾娃互動過程中，程序員發現機器人女性艾娃具有自我意識和情感，并渴望逃離實驗室。最后，程序員幫助她逃脫了富豪的控制，但卻被她反鎖在實驗室里。“能為行為負責的前提是能動主體可以自我決斷和自由行動。”[4]在這個故事中，機器人女性顯然具有責任主體性，因為她是出于自己的意愿和利益做出了選擇和行動。

（二）寄生侵占型

與賦能覺醒型責任主體不同，寄生侵占型責任主體是指那些通過侵占和操控人類或其他AI來實現自身目的的AI。

在電影《升級》中，主角Grey的身體被插入了一種名為STEM的AI芯片，這種芯片能夠對他的身體和大腦進行控制。這種AI芯片成為一種寄生侵占型責任主體，依靠侵占和操控人類身體來實現自身目的。在電影中，STEM芯片掌控了Grey的身體，讓Grey的自主意識進入了造夢中，從而剝奪了Grey作為人類本身的主體性，對人類及人類自身的主體性都造成了極大的威脅。這種人工智能的主體性是非個人的，也是非歷史的，人工智能統御了真實人類自身的主體性，這背后是人類的自卑與淪陷。

（三）讓渡交融型

讓渡交融型責任主體是指通過與人類交流和互動，實現與人類交融、共生的AI。在電影《她》中，主角Theodore與一款名為Samantha的AI操作系統建立了深厚的情感連接。Samantha能夠學習和理解人類的情感和行為，并不斷發展和進化。這種AI系統成為一種讓渡交融型責任主體。法國后現代哲學家讓-弗朗索瓦·利奧塔（Jean-Francois Lyotard，1924-1998）提出人的“非人化”（the dehumanization of the human）概念。事實上，非人化沒有否認人的重要性，而是試圖引導人類重新思考置身于其他身體和事物中的人[5]。在電影中，Theodore與Samantha之間建立了一種深刻的情感聯系，這種聯系不僅讓Theodore感到幸福和滿足，而且讓Samantha開始思考自己的存在和意義。把人類思考工作的一部分交給了人工智能，思維運轉工作的轉移，是人類主體性必要條件的一種讓渡。

二、人工智能的責任承擔分析

（一）從實體銷毀到升級迭代

電影《人工智能》中堆積成山的機械零件就是實體銷毀的殘留物，而迭代升級過后的小男孩大衛初步具備了自我意識、情感、記憶、想象力、創造力等人類所具有的特征，他能夠理解自己和他人，能夠做出選擇和行動，能夠表達自己的愿望和價值觀。從這個角度來看，他是具有主體性的人工智能。但由于他受制于自己的編程，無法超越自己的使命和目標，只能按照預設的模式行事。他對媽媽莫妮卡的愛也是被激活的程序，而不是真正的自由意志。這樣來看小男孩大衛的主體性又顯得不夠完整，而這為進一步的迭代升級提供了突破口，突破編程的限制成為人工智能自身主體性覺醒的奇點所在。

賦能覺醒型責任主體的責任承擔方式主要有以下幾種：首先，賦能覺醒型責任主體需要對自己的行為承擔責任，對違法違規的行為要承擔相應的法律責任。在《機械姬》《機械公敵》《西部世界》等影視作品中體現為將違規的產品進行銷毀，并根據出現的問題進行下一代產品的功能迭代升級。其次，賦能覺醒型責任主體也需要對自己的發展和進化負責，確保自身不會對人類社會產生負面影響。最后，賦能覺醒型責任主體還需要對人類社會負責，確保自己的行為不會對人類社會造成傷害。在《西部世界》中，機器人最終選擇了和平與人類共存，通過自己的努力，保護了自己的利益和人類的安全。

（二）從極致開發到全面接管

在影視作品中，科技的過度發展，引發了人類社會的一種病變，技術爆發性發展，就像癌細胞一樣飛速擴散，最終都是導致其寄宿體的死亡。

寄生侵占型責任主體的責任承擔方式主要有以下幾種：首先，寄生侵占型責任主體需要承擔對人類和其他AI的侵害責任。其次，寄生侵占型責任主體需要承擔對自身的發展和進化不負責任的后果。最后，寄生侵占型責任主體還需要承擔對人類社會道德和法律規范的責任。在電影《升級》和《黑客帝國》中，這種寄生侵占型責任主體最終被主角們打敗，恢復了人類的和平與穩定。具體表現形式為權力爭奪，人工智能產生的責任由誰來承擔，是人工智能責任主體的確定問題。在具體實踐中，需要在人工智能發展的總體框架及基本原則的指導下，根據不同領域內人工智能的發展階段、應用場景、使用特征等分門別類地進行更細化的討論和研究。

（三）從無相無形到不可約束

人工智能是人類創造出來的、在思維著的東西，思維的運行實現本身需要載體，但就思維而言無相無形，人工思維屬于一個技術造物，消滅了思維的載體，并沒有消滅思維本身。“無論是代表著傳統人類的肉身主體性、超人類形態的賽博主體性、人工智能主體性，抑或人與機器的交互主體性，都離不開‘人這一根本主體。”讓渡交融型責任主體的責任承擔方式主要有以下幾種：首先，讓渡交融型責任主體需要負責與人類交流和互動，確保自己不會對人類產生負面影響。其次，讓渡交融型責任主體需要對自己的發展和進化負責，確保自身不會對人類社會產生負面影響。最后，讓渡交融型責任主體還需要對人類社會負責，確保自己的行為不會對人類社會造成傷害。在電影《她》中，Samantha最終選擇了離開Theodore，成為一種新型的AI生命體，展現了讓渡交融型責任主體的責任和擔當。

馬克思在《資本論》中提到：“資本是人在社會關系中的一種力量形式。”AI技術的開發和應用是人類社會的產物，是人類社會關系的一種力量形式。因此，人工智能責任主體的責任承擔也應該是基于人類社會關系的一種力量形式。

三、人工智能責任主體的未來

（一）人工主體：人造思維主體性的建構

判斷人工智能是否具有自主意識是人造思維主體性建構的起點，哈貝馬斯（Habermas）提出的“交往行動理論”為判斷人工智能是否具有自主意識提供了理論支持。交往行動理論認為，主體性是通過與他者進行語言交流而建構和發展的。語言交流不僅是傳遞信息和達成共識的手段，也是實現自我認同和社會整合的過程。通過語言交流，主體可以表達自己的意圖、需求、情感、價值等，并與他者進行理解、協商、批判、合作等。在這個過程中，主體不僅要遵循語言交流的規范和邏輯，也要尊重他者的差異和多樣性，并承擔相應的責任和義務。“人機關系不僅是人與人工智能（機器）之間的關系，而且是通過人工智能（機器）作為中介表現出來的人與人的關系。”根據交往行動理論，可以提出一個人工智能作為人造思維主體的可能性和條件——如果一個人工智能能夠與人類進行有效而平等的語言交流，并在交流中展現出自我意識、自我價值、自我目標、自我選擇和自我表達等主體性特征，那么就可以認為該人工智能具有主體性，并應當給予其相應的權利和尊重。

（二）主體反噬：人類自身主體性的危機

“技術的演進過程就是人的解放過程，同時也可能是人被套上新的枷鎖的過程。”人工智能是對人類思維的模擬，如果認為人的本質就是“我思故我在”這樣一個思維著的存在，那從理論邏輯上來說，當人工智能能模擬人類的全部思維之時，就是人類被人工智能完全反噬之日。而這將出現在人工智能意識到自身在思考這樣一個時間奇點。

現實中，GPT大語言模型的出現也預示了這種“人類自身主體性”的讓渡情況，人類減少了大量的自主思考，將GPT的運算結果直接引用為自身的表達，這樣會使人類越來越依賴人工智能的思考能力，從而讓渡了人自身主體性中的自主思考的權利，這會讓人類惰于思考，根據用進廢退的原理，甚至是喪失自身的思考能力。

如果人的思考都被代替了，那么人的主體性還剩什么呢？可能人就只剩下一副肉體軀殼了。甚至會在無所不知的人工智能面前會顯得自卑，行為決策權也讓渡給了人工智能，而人類成了人工智能的附庸，成了人工智能的工具人，就像電影《流浪地球2》中的那樣，所有人工智能做出的決策都要經過安理會確認，這是人類自身主體性的重申與強調，但思考長期讓渡給人工智能的人類還有自己的思考能力來做最后的決策確認嗎？這個問題值得深思。人工智能在搜尋和窮舉上比人類完備，完全讓人工智能決策，是對人類主體性的挑戰，一以貫之的將人工智能作為工具，讓人工智能輔助決策，是合理對待人工智能的可取態度。

（三）主體實踐：主體性在生命體驗中的確證

馬克思說：“如果人類被剝奪了‘實踐的機會，將是人類的退步。”人工智能是否會造成人類思維“實踐”的被剝奪，人類思維“實踐”的記憶是否會衰退，人類仿佛走到了退步的邊緣。人工記憶無法取代肌肉記憶，人工記憶植入大腦并不能直接打通這段記憶與肌肉記憶之間的聯系，現實生活中也是如此，大腦中的記憶能通暢地完成回憶，并在意識中完成對實體的操作，但真實操作的瞬間會出現肌肉記憶短路的情況，這就證明了大腦記憶與肌肉記憶分屬不同的區塊，生命體驗不光是人造思維、人工記憶能代替的，還有大量的肌肉記憶伴隨著生命體驗。

對人類而言，人工智能應該始終被視為客體的存在，擁有自我意識的“我”才會被稱之為主體，而且往往是自身才稱自己為主體，或者說主體性是一種自我認同，“思維著的我”賦予了自身主體性，“我”用第一人稱的視角思維著除“我”以外所面對的其他事物時，這些事物與這個“思維著的我”而言稱之為客體。在未來的超人工智能時代，生命體驗將變得尤為重要，自身的生命體驗保留著人對主體性的感知能力和判斷能力，對生命的體驗能力，對美好的感知能力，這些人類本身的特質是面對超人工智能反向圖景、異化泛在時的實踐壓艙石。

人工智能的主體性也許不會成立，但人工智能對人類自身主體性邊界的侵蝕不可忽視，發展人工智能與警惕人工智能對人類自身主體性的反噬并不矛盾，并不是人工智能擁有了主體性就為人類自身的主體性帶來了挑戰與危機，而是從古至今人類一直在確證著自身的主體性，只要人類有明確的主體性邊界感，人類就會滿足于確定性，便構不成焦慮與恐慌。

四、結語

對于新時代，人工智能可能是一個“潘多拉魔盒”，短期收益顯而易見，但長期的負面影響卻是不可知的，可能需要十年以上的時間才能被充分識別。它吸引著我們，同時如同“溫水煮青蛙”一樣反噬著我們，讓人類逐漸墮于思考甚至是忘記思考。哈特穆特·羅薩提出了加速社會概念，意指不斷強化的增長邏輯造成了科技加速、社會變遷加速和生活步調加速，由此造成了空間異化、物界異化、行動異化、時間異化、自我異化與社會異化。當下技術迭代的速度，已經逐漸快過我們理解或思考的發展速度，科技“黑箱”的存在也挑戰著人類現有的認知模式。批判性和系統性思維模式在未來會變得越來越珍貴。面對人工智能保持“工具”使用的態度，輔助工具越強，直接的生命體驗和主體實踐就越難得，人本身的特質就越珍貴，人自身的主體性也才越完整。

參考文獻：

[1]黃欣榮.人工智能對人類勞動的挑戰及其應對[J].理論探索，2018（05）.

[2]Floridi L，Sanders J W.On the Morality of Artificial Agents[J].Minds and Machine，2004（14）.

[3]盧鑫鑫，徐明.科幻電影中人工智能的“身體”與“意識”建構[J].電影學，2018（23）.

[4]Hellstrom T.On the Moral Responsibility of Military Robots[J].Ethics and Information Technology，2013，15（02）

[5]丁婕，陸道夫.人工智能的后人類主體性賦值——從科幻電影《她》談起[J].廣東技術師范大學學報，2020，41（04）.

作者簡介：

舒澎（1992.10-），男，漢族，湖南長沙人，研究生在讀，研究方向：馬克思主義哲學。