悄然擁有“自主意識”的人工智能

八由草

從《流浪地球2》中的莫斯、機器狗笨笨等，到從年前火到現在的聊天機器人ChatGPT，上線僅2個月，月活用戶便超過1 億……人工智能實在太強大啦！相信大家不禁會對人工智能產生種種好奇：以現有的科技水平，人工智能是否真的能夠擁有自主意識？它又會對人類社會產生什么影響呢？

影視劇里的“寵兒”

在《流浪地球2》中，表現搶眼的機器狗笨笨是月面工程類機器人，其帶有感知設備和工程手臂。然而，它在太陽風暴時會用“小毯子”將自己藏好；雖然怕血、怕水，但還是會跟隨主人進行救援，就像擁有了自主意識一樣。除了智能機器人，在《流浪地球2》中，另一個亮點就是“數字生命”。電影中，科學家圖恒宇曾參與“數字生命計劃”研發，他的女兒丫丫因車禍去世后，意識被上傳到量子計算機550A中，經歷了400多次迭代，達到擁有“自我意識”的程度。而在影片中出現的能夠和父親對話的丫丫“副本”，更是迭代了900 多次。我們可以簡單理解為，數字生命存在于計算機系統中，只要系統不出現故障，理論上可以永遠存活下去，并且能和現實世界同頻共振。

不過， 最讓人印象深刻的估計還要數《流浪地球2》的片尾彩蛋。片尾的彩蛋中，量子計算機莫斯讓圖恒宇不要再稱呼自己“550W”，而是叫自己“莫斯”（MOSS），或者稱呼自己“小苔蘚”，并解釋自己創造了一系列危機企圖毀滅人類。莫斯在電影中提到了一個詞——人在回路。丫丫的數字備份上傳后，莫斯說，它進行了“人在回路”學習。所謂“人在回路”概念，也是現在計算機智能的一個分支。但從這里可以看出，人工智能莫斯產生了自主意識，并且已經不再滿足于成為人類的工具，而是要鳩占鵲巢，霸占人類的文明。

現實世界的“網紅”

“人工智能”的英文全稱為“Artificial Intelligence”，縮寫為“AI”?！叭斯ぁ狈浅：美斫猓傅木褪墙涍^人類活動創造出來的成果。那么，“智能”又是什么呢？這是一個非常難以準確描述的概念。在人類智慧的范疇內，智能所涉及的意識、自我、思維等，一直都是自然科學、哲學乃至神學研究的焦點之一。對于人工智能，我們只能將其定義為研究、開發用于模擬、延伸和擴展人類智能的理論、方法、技術及應用系統的一門技術科學。

而電子計算機、軟件程序及機器人與人工智能之間的確存在著密切的關系。簡單地說，電子計算機為人工智能提供了硬件基礎，軟件程序是人工智能實現的主要方式，而機器人則是人工智能的應用成果。

相信不少同學肯定注意過，2022 年北京冬奧會期間，央視新聞數字人手語主播聆語準確播報；騰訊公司也推出了一個叫“Dream Writer”的自動化新聞寫作機器人，只要用1 分鐘就能編寫出文字流暢、數據翔實的稿子；如今火遍全球的聊天機器人ChatGPT 更是讓我們見識到了人工智能更加智能的一面。

ChatGPT 是一個原型人工智能聊天機器人，專注于可用性和對話，打開之后，只需要在對話框里輸入問題，就可以獲得答案。當然，如果只是最基礎的問答功能，那真是低估了它的本領，ChatGPT 在工具性方面展現出了驚人的能力，寫論文、寫代碼、寫神經網絡、做智能音箱……它都能一氣呵成。因此，ChatGPT 再次引發了一場熱議——ChatGPT 的功能如此強大，連馬斯克都認為“我們離強大到危險的AI 不遠了”。

AI與人類唯一的鴻溝

回到影片中，不管是丫丫“副本”還是量子計算機莫斯，它們都已經具有了自主意識，而現實中的人工智能雖然五花八門，但是似乎距離擁有自主意識還很遙遠。具備“意識”，意味著人工智能能夠發展自己的世界觀、價值觀以及作出價值判斷，并且根據這些進行自主決策。顯然，人工智能距離擁有自主意識還比較遙遠。目前，人工智能所生成的所有內容都是人類賦予的，它們并沒有自主決策能力，更沒有所謂的“自主意識”。

人工智能想要擁有自主意識的核心是“類人”水平。在未來，人工智能的最高境界是機器能自己教會自己，具有學習能力甚至語言能力，這也是目前科學家設想的“終極算法”。終極算法，也就是能從任何數據中學習的計算機程序，簡單來說，就是人工智能的學習能力，能對未知的數據進行分析。例如，給出拋物線運動的數據，終極算法就能學習牛頓力學定律；給出DNA 數據，它就能推理出雙螺旋結構；給出大量癌癥病人的生理數據，它就能準確診斷癌癥，甚至推薦藥物……終極算法的基礎是理解人類大腦運作的同時，能模擬人類進化。

學習這件事，對人工智能來說，只有依靠算法。但它可以不吃不睡，不間斷地學習，犯了錯也不會一蹶不振，唯一要擔心的，可能是瘋狂的運算會讓它“燒昏了頭”。但只要更換零部件后，它又是一條“好漢”。

未來世界的憂思

人工智能是敵是友？人們對此抱有不同的看法。

有人認為，人工智能的崛起，是人類的福音。有了人工智能，人類將更幸福。隨著人工智能在我們日常生活中越來越常見，我們有理由相信，人工智能會帶給我們更多便利，節約我們更多時間。

不過，還有人堅信“人工智能威脅論”，就連許多著名科學家也都表示，人工智能很危險。英國已故知名物理學家霍金曾說：“對于人類來說，強大AI 的出現可能是最美妙的事，也可能是最糟糕的事，我們真的不知道結局會怎樣。”在這些人看來，人工智能的出現是人類的悲哀，會讓人類的發展呈倒退趨勢……甚至有人覺得，當計算機“超越”了人類智力，它們之后肯定會做一件事兒，就是讓自己變得更加智能，最終把人類甩在身后。那么，在未來，人工智能極有可能會操控人類，引發人與機器人之間的戰爭。

牛津大學計算機學院院長、人工智能頂尖專家邁克爾·伍爾德里奇在其創作的《人工智能全傳》中表示，人工智能不會超越人類，但我們依然要迎接人機共存帶來的改變和挑戰。比如，人工智能將取代我們的一部分工作，這就需要我們思考未來的工作結構。再有，即使人工智能不會消滅人類，但致命的人工智能武器確實值得我們深思。