人工智能會是一個要命的問題嗎？

許多人（科學家除外）在討論人工智能問題的時候，往往以“擬人化”的方式去理解人工智能，就是說，把人工智能看得太像人，或者是希望人工智能的思維像人，情感也像人，外表面目也像人，甚至幻想人工智能的價值觀能夠以人為本。令人擔心的是，擬人化的人工智能很可能事與愿違。當然，想象人工智能類似于人，是很自然的想象，就像基督教徒相信上帝按照他的形象造人一樣，或者，類似于童話故事和動畫片把動物加以擬人化。也許需要想一想，為什么我們喜歡擬人化呢？是因為有了人性就能夠交流嗎？或者就會愛護人類嗎？擬人化真的有好處嗎？我在擬人化的概念里看見一種隱隱的殺機，但愿是多慮了。

就目前的情況來看，最有希望能夠做得成的人工智能估計不像人，更重要的是，人工智能沒有必要像人。也許應該說，像人的人工智能既在成本上不經濟，又在功用上可能適得其反。假如真的發展出了超級人工智能，它肯定不是人，只是一個更高級別的智能存在，不僅不像人，也不太可能迎合人，因為遠遠勝過人的超級人工智能也許更像上帝或者撒旦，總之不像人。我們沒有理由假定所有高智能的存在必定都像人，比如，劉慈欣在《三體》系列里想象的其他智慧存在就不太像人，他們對存在有著不同的理解。現代啟蒙以來，以人為中心的人文主義已經根深蒂固，成為好像理所當然的設定，其實人類沒有那么高級，也不完美。我很贊同孫周興的說法，尼采一百多年前就已經宣告了人文主義的死亡，只是慢慢在死，但一定要死的。假如出現了超級人工智能，他們對世界一定有不同看法，而我們無法猜想他們會有什么看法，因為超級人工智能的智力超過了人。這就像豬羊魚蝦不懂人類為什么吃掉他們。擬人化只是人類的一種童話想象，只是人自己想象的萬物秩序，其實并不符合萬物存在的道理。

目前人類試圖制造的機器人會有某些擬人功能，這是為了讓機器人更好地服務于人類，比如語言對話的服務、自動駕駛或者家庭服務之類，至于把機器人做成人類面目，在服務功能上并無意義，應該屬于玩具功能（人類需要玩具，這是個有趣的心理學問題）。這些擬人功能是實用性的，還不是我們質疑的那種本質上的擬人化。所謂“本質上的擬人化”指的是試圖制造具有人類情感、欲望和價值觀的人工智能。這就引出一個真正危險的問題了。

人類貴有自知之明，那么應該實事求是地承認：人類并非善良的智慧生命。人類會為此事實感到慚愧嗎？人類社會的戰爭多于和平，最先進的技術大多數來自軍工，居然還有政治學和倫理學，人類甚至試圖開發太空以便太空移民，這些有限的事實已經足以明示人類是欲壑難填的危險生物。事實上，人類苦苦宣傳善良的價值觀就已經暴露了人類實際上有多么缺少善良。那么，假如設法讓人工智能擁有人類的欲望、情感和價值觀，其合乎邏輯的結果恐怕不是人工智能愛上人類，而更可能是變得像人類一樣自私自利，變得像人類一樣壞。在這個意義上，在本質上擬人化的人工智能是一個非常可疑的努力方向。如果超級人工智能的心靈不像人，反而是一個相對安全的選擇（盡管仍然未必安全）。

（摘自趙汀陽：《人工智能會是一個要命的問題嗎？》，《開放時代》2018年第11期）