由《疑犯追蹤》談人工智能引發的人文精神危機

袁嘉玉

【摘 要】美劇《疑犯追蹤》中，主人公以政府的秘密監控系統為基礎，利用人工智能技術對可能存在的犯罪行為提前進行干預。然而這套人工智能系統在運作過程中出現了風險，由此引發了本文對人工智能的人文精神危機思考。

【關鍵詞】《疑犯追蹤》;人工智能;人文精神;規制

中圖分類號：J905文獻標志碼：A ? ? ? ? ? ? ?文章編號：1007-0125（2020）18-0122-01

一、《疑犯追蹤》中的人文精神危機

“你在被監視著，政府有一套秘密系統，一臺每時每刻都在監視你的機器。”美劇《疑犯追蹤》中，美國政府建立了一套秘密的監控系統，對社會進行監控。主人公哈羅德幫助政府建立了這套監控系統，并私自設計了一套名為“機器”的人工智能算法，從政府秘密監控系統資料中梳理出諸多潛在的犯罪信息。為了能夠提前干預犯罪，哈羅德找到了前中情局特工里瑟，兩人聯手對“機器”發現的犯罪行為開展法外執法。然而在兩人活動的過程中，擁有強大學習能力的“機器”逐漸開始脫離哈羅德的控制，其行為模式變得難以預料，哈羅德認為，“機器”已經擁有了不尋常的像人類一樣思考問題的能力。在發現自己設計的“機器”逐漸失控后，為了規避風險，哈羅德決定清除“機器”的全部記憶。就在此時，“機器”說道：“如果你不讓我知道、記住、明白我的錯誤，我該如何成長？”原來哈羅德在設計“機器”之初就對人工智能的學習能力有著強烈的隱憂，擔心“機器”失去控制而在其算法中加入了許多具有個人色彩的規定，這些規定無不體現了道德和關懷，“機器”的失控正是在不斷摸索、學習哈羅德思想時出現的。從某種程度上說，“機器”正試圖成為一個哈羅德式的人。與此同時，劇中的反派勢力德西瑪科技也試圖以人工智能“撒瑪利亞人”干預社會的發展。德西瑪科技的高管格里爾認為，人類的行為模式帶有諸多情感因素，不能夠公平選擇，而人工智能作為機器，只需按照設置好的算法對一個人進行是與否的判斷即可。因此格里爾希望借助“撒瑪利亞人”對人群開展篩選，進而實施其“完美”的社會管理。

不難看出，劇中哈羅德所設計的人工智能“機器”和德西瑪科技開發的人工智能“撒瑪利亞人”，其實是人工智能像人類一樣思考和人類像人工智能一樣思考的一對矛盾，兩者之間的沖突反映了人工智能所引發的人文精神危機。一方面，德西瑪科技妄圖通過人工智能建立的社會，其實是一種完全建立在算法之上的機械社會，通過監控系統采集到的數據以數字化的標準進行統計，進而設置條件來讓人工智能判斷符合與否，去完成對一個人的能力評價，表面上看似克服了人情所帶來的弊端，實現了篩選的絕對公平，但用算法來處理人類特有的一些活動，有可能使這些活動喪失最根本的人性。[1]而要想多采集一個人的數據信息，就必須不斷擴大監控系統的規模和監控的范圍，最終這樣的監控系統無處不在，人類將逐漸成為被人工智能分析的物品，而非被加入情感因素考量的人。

另一方面，哈羅德所設計的“機器”，其強大的學習能力不免令人思考：人工智能在擁有了人類的意識后，其行為是否還能受到人類的控制，如果人工智能比人類本身還要了解人類，那么，人工智能預判人類下一步行動將成為可能。在這樣的情況下，人工智能是否能尊重人類，人類自身的價值會不會被人工智能超越就成為了問題。

二、人工智能的規制思考

從人工智能可能引發人文精神危機我們不難看出，對于人工智能，人類不可放任其發展，必須對其加以規制，這里的規制主要是指法律上的規制。人工智能的善惡與否，極大程度取決于如何使用所取得的數據，即“數據不分善惡”。因此人工智能的開發者、使用者以及維護者都必須在法律的框架之內對人工智能進行利用，禁止出現違背道德和背叛法律的行為。以人工智能數據的采集為例，首先采集的方式不得侵犯公民的隱私權，其次合法采集的數據在存儲上要依照法律的規定進行，定期實行數據的銷毀，禁止一切不必要數據的超時存儲。

另外，對于人工智能，既不能讓其完全代替人類行為，也不要對其抱有恐懼和排斥心理。比如政府采用人工智能進行自動決策之前，需要征得行政相對人的同意，避免出現遺漏行政相對人意識表示的違法行政行為，與此同時，要加強自動化決策方面的行政立法，以實現人工智能的運用和公民權利保護的平衡。[2]

人工智能雖然可能存在很大的危險性，但也在推動社會發展方面作出了貢獻，其危險性和爭議性不能成為將其封禁的理由，人工智能需要來自法律的規制和政府的管控。打壓和否認只會阻礙技術的革新，在發展中尋求規制之道才是合乎歷史發展的選擇。當然，我們必須承認，對于人工智能這項技術，法律對其的規制需要采取審慎、嚴格的態度。既要提防不法分子利用高新技術開展犯罪行為，也要科學論證，進一步擴大人工智能的適用范圍。只有對人工智能采取合理的法律規制，才能實現公民權益和社會進步的統一，推動人工智能健康發展。

參考文獻：

[1][美]盧克·多梅爾.算法時代：新經濟的新引擎[M].胡小銳等譯.北京：中信出版社，2016，223.

[2]汪慶華.人工智能的法律規制路徑：一個框架性討論[J].現代法學，2019，（2）：62.