科幻電影中人工智能倫理意識探析

儀欣妍

【摘 要】被譽為中國首部硬科幻作品《流浪地球》在2019年春節上映后，口碑票房雙豐收，在這部科幻電影中展現了超強的人工智能時代，貫穿電影《流浪地球》中的人工智能Moss，更是在很多細節中透視著人工智能未來發展的新趨勢，引發了人們對人工智能的思考，人工智能的倫理意識是人類對人工智能的研究發展面臨的最嚴峻問題。本文結合科幻電影《流浪地球》簡要探析人工智能的倫理意識。

【關鍵詞】科幻電影;人工智能;倫理意識;人類文明

中圖分類號：J905? 文獻標志碼：A? ? ? ? ? ? ? 文章編號：1007-0125（2019）29-0093-02

科幻電影《流浪地球》中的人工智能，叫Moss，它是在影片背景下未來世界全球聯合政府研究出的超級人工智能，也算是當世最高級別的人工智能。但是人工智能仍有缺陷，即過于理性。以電影《流浪地球》中的人工智能Moss來說，它的所有判斷都基于計算的結果和預設的程序，包括在電影情節中切斷通話、放棄地球，都是人們預設的程序，要求這個程序完成任務。所以，即使影片最后Moss沒有叛變人類，它也存在過分理智的問題。

在電影《流浪地球》中，人工智能Moss作為整個領航員空間站的中樞控制系統，它的權限非常大，作為空間站的一部分，不僅控制著整個空間站的運作及其中的宇航員，甚至擁有空間站之外的權限，包括向全球發布廣播、主動聯系地球上的人員、聯系世界聯合政府，等等。可以說，是Moss在主導著“流浪地球計劃”的進行，甚至當地球無可挽回時，它還背負著一個連空間站的宇航員這些真正的人類都不知道的用以延續人類文明的“火種計劃”。Moss基于“使人類文明得以存續”的任務目標，在“地球最后的時刻”作出了選擇，它選擇放棄為地球領航，獨自離開地球，將預先儲存在空間站內的受精卵、動植物DNA、人類文明的影像、圖片、文字等帶去目標星系，這是它的“火種計劃”，為人類文明留下最后的火種。而當聯合政府和劉培強中校決定孤注一擲去拯救地球時，Moss相信自己的數據分析，以計算機的邏輯思考，努力阻止人類用毀滅“火種”的方式試圖拯救地球，但都無濟于事。Moss或許沒有背叛人類，當然也沒有分析錯誤，從它絕對理性的角度來看，保護空間站上所有生物、數據、資料，要比保護地球更容易，在當時的環境下也的確是更好、成功率更高的選擇。但它終究還是過于理性，不能理解人類謂之為“希望”的東西，也不能理解人類哪怕孤注一擲也要奮力一搏與家園共進退的決心。人工智能沒有情感，不相信希望，更不相信奇跡，因為程序的思維方式和它的計算中沒有奇跡。同時，人工智能也缺乏很多人性中難能可貴的閃光點，包括無私奉獻、舍己為人等，它們可能缺乏好奇心，缺乏取舍和判斷，甚至有一些倫理問題連人類都尚未得出答案。而人類之所以存活到現在，都存在著奇跡與希望，人類的潛力是不可估量的，所以劉培強中校選擇了毀滅Moss，放手一搏。也許Moss到最后也不明白，這種叫“希望”的東西，才是人類文明中，隱藏最深的“火種”。

人類謂之為“情感”的東西，使人類區別于人工智能和電腦，情感使人類不會時刻保持理性地去計算一切得失和可能，不會因為可能性極低而放棄嘗試，這使得人類相信“奇跡”而去完成許多“不可能的任務”。但這種在人工智能邏輯中極低概率的星星之火，給了人類名為“希望”的寶藏，人類為了希望會去冒險，會去創新，會去不斷努力，哪怕前路渺茫，這讓人類最終成為了改變世界的種族。這是固守僵化邏輯的人工智能無法獲得的能力，也是它們無法企及的高度。

有一點需要人們警醒，太多的人類正在不知不覺放棄情感。電影《機械姬》中就警示了這一點，人工智能沒有情感，卻又能利用人類的情感，是很可怕的一件事情。人類雖然擔憂人工智能超智能的發展會導致“奇跡”湮滅，但生物趨利避害的本能使人類的社會規范走向了利己主義。也許只有當全人類站在一起，面對一個危害全人類的饕餮巨獸時，人類最原始的情感和“希望之火”才能重新被點燃。

“隨著人工智能飛速發展，倫理問題也許會成為制約人工智能造福人類社會的巨大障礙，正確處理好人工智能應用中的倫理問題是人工智能治理的重大課題。”[1]霍金也曾說過，“未來人工智能可能會以生化戰爭或核子戰爭的方式摧毀人類。”其實在現在許多科幻題材的電影作品中，人類被其他人工智能或機器圈養甚至滅絕的話題屢見不鮮，比如電影《復仇者聯盟》的奧創，原本鋼鐵俠想用這個高級的人工智能維護和平，但是這個高級的人工智能錯誤理解了和平的意義，認為世界如果沒有人類也就沒有了戰爭。人工智能即使能思考，但其價值觀念和道德體系也不可能和人類的思維一樣，也有可能作出不利于人類的引導。“一個超級聰明的人工智能可以非常好地實現它的目標，如果這些目標沒有與我們人類一致，我們人類就麻煩了。”[2]人工智能如果發達到一定程度，一旦意識到自己和人類是不同的物種，它就會產生利己心，到那時就是人工智能和人類的斗爭了，像科幻電影《2001天空漫游》《機械公敵》《機械姬》《黑客帝國》等都體現了人工智能智慧的問題，它一旦足夠聰明，就有了野心，有了野心就是隱患。

人工智能在許多方面優于人類，無論是機械強度還是邏輯速度都是人類不可企及的，但是當未來人工智能為人類文明提供的服務越來越多，越來越全面時，人類自己去完成的工作就會越來越少，這對人類來說并非是好事。因為人類會沉溺于科技帶來的享受和舒適中，進化論決定了人類一旦不需要勞動將會逐步將身體進化為另一種更適應思考而非勞動的狀態，即“頭腦發達，四肢簡單”。動畫片《哆啦A夢》劇場版有一集劇情中，人類被人工智能所取代，人類只能生活在氧氣車里。而冷血的人工智能并不會在意其他物種的生死，這就很容易成為催化暴力和戰爭的存在。

綜上所述，“未來人工智能技術會發展成何種境況還很難預測，但是想象天馬行空的科幻電影給了我們一個很好的討論視域和平臺。”[3]如今，人工智能可以幫助人類去計算、去分析，幫助人類作出更理性、更有邏輯的決定，但作為人工智能，它始終區別人類的一點是，無法擁有人類的感性和血性，人類有感情，有喜怒哀樂，這是人類作為有血有肉的碳基生命區別于冰冷機器的所在。人工智能永遠無法理解的一種情況，即人類在面對重大危難時，從人性深處迸發出的團結精神、犧牲精神，以及對希望的向往是獨有的。而人類對人類文明的傳承，也是必須身體力行的，就像電影《流浪地球》中提到的，沒有人類的人類文明不能叫人類文明。除了人類已經創造出的能夠留下痕跡的文明之外，作為人類這個生命體本身還擁有珍貴的感情，擁有希望與信念，擁有對未來的無所畏懼，以及為了希望放手一搏，這些被人工智能認為是人類不理智表現的“情緒化”行為，才是人類文明中真正發光的東西。

參考文獻：

[1]聶磊.人工智能如何才能“健康發展”[J].上觀新聞，2018.

[2]史蒂芬·霍金.對大問題的簡明回答 [M].Bantam出版社，2018.

[3]馬珊珊.焦明甲.欲望、理性與真實：科幻電影中的人工智能倫理問題[J].視聽，2018.