何懷宏：“人工智能是一把雙刃劍”

高霈寧

什么是人工智能？

1950年，“人工智能之父”圖靈提出了一個鑒定機器是否具有智能的方法—“圖靈測試”。他認為，讓若干測試者在與機器隔開的情況下隨意向機器提問，如果機器的所有回答中有30%讓測試者誤認為它是人，那么就可以說機器具有智能。今天，盡管偶爾有計算機程序通過了“圖靈測試”，但是以模擬人的思維為目標的通用性人工智能仍然離我們較為遙遠。2017年機器人“索菲亞”被授予沙特阿拉伯國籍，而且在接受媒體采訪時對答如流、妙語連珠。然而不久即曝光出“索菲亞”不過是在背誦事先設定好的臺詞而已。即使蘋果公司的智能語音助手Siri也不斷被全球用戶吐槽過于笨拙，像個智障。

通用型人工智能的發展不盡如人意，而美國哲學家塞爾則將矛頭直接指向了“圖靈測試”。塞爾認為，即使機器能夠與人類進行對話，也絲毫不能證明機器能夠理解人類語言的意義。他提出了一個“中文屋”的思想實驗。假設有一個完全不懂中文的人被關在一個屋子里，屋里只有一大堆中文符號和一本說明書。屋外的人頻頻遞進來一些用中文書寫的問題卡片，而屋內的人則按照說明書的指示將相應的中文符號遞出去。假設說明書記錄了所有問題的答案，那么屋內的人就能夠成功地騙過屋外的人，讓對方相信自己是懂中文的。塞爾的這個反駁有力地證明了，智能的存在與外在行為之間沒有必然的聯系。

不過，通用型人工智能的發展遭遇瓶頸并沒有阻礙人工智能的進步，反而引導它更多地向著功能型方向發展。功能型人工智能不追求“再現”人的思維，而是專注于某個特殊的領域，如自動駕駛、語音識別、人臉識別等方面。這一轉變讓人工智能脫胎換骨，不僅不再顯得“笨拙”，而且還展現出了遠超人類的“智力水平”。例如擊敗卡斯帕羅夫的計算機“深藍”和擊敗柯潔的AlphaGo就屬于功能型人工智能。在人工智能如此強大的運算和學習能力面前，人類只能望而卻步。

500年前，莎士比亞說人是“宇宙之精華，萬物之靈長”。而如今，人類在智力上卻受到了人工智能的全面碾壓。被自己的造物所超越，這究竟是幸還是不幸？

值得慶幸的是，即使人工智能在功能性上可以完勝人類，但是在通用性上卻依然“弱智”。無法與人類進行流暢的對話，意味著它僅僅能夠完成被指派的特定任務，卻無法進入意義的世界。北京大學哲學系教授何懷宏在《奇點臨近：福音還是噩耗》一文中提出，哲學、宗教、文學、藝術這些人文領域可能是人類最后可以保守的家園，因為這是獨屬于心靈的世界。

機器人會反叛人類嗎？

南風窗：通用性人工智能一直是很多人夢寐以求的目標。2017年機器人索菲亞被授予沙特阿拉伯國籍，科幻電影中還描述過未來人類撫養機器人小孩，或者和機器人談戀愛的場景。如果當有一天，人工智能和人的行為難以區分時，我們是不是可能會以人的態度來對待它們？

何懷宏：通用型機器人在某種意義上講就是超級機器人，或者說是很類似于人的智能，乃至超過人的智能的機器人。關于機器人索菲亞被授予沙特阿拉伯國籍這件事，我覺得這很可能只是一種宣傳，乃至說是媒體的噱頭，因為機器人不可能是真實的公民，也不可能實際履行公民的權利和義務。它投票嗎？它定居在哪里？目前的機器人再智能也需要有真實的人在后面管理和操縱它，所以很難說機器人具有自主性和主體性。那么在社會生活中，我們也就不可能把它當作真正的人來看待。

我不否認有些人可能會對機器人產生特殊感情，就像某種戀物癖。但這是單向的。如果機器人要普遍地被社會當作人來看待，那它就必須具有主體意識，有自我。這個時候它才具備被當作“人”的條件。但是目前，我們還看不到這種可能性。人和機器之間仍然有很大的界限。人的感情，甚至包括動物的感情都要立足于碳基生物這個前提，但機器是硅基的，它不具有感受性。如果以后機器有一個獨立的世界，那是另一個世界。其實動物比機器與人更接近，我們對能力上弱于我們的動物甚至應該負有某種“道德代理人”的責任，但它們能夠成為“公民”嗎？還是不可能。

南風窗：一提到人工智能，很多人會聯想到機器人未來可能會“統治”人類。如果我們在程序上為機器人事先設計一套倫理法則，是不是可以保證機器人在未來不會“反叛”呢？

何懷宏：人類可以為機器人的行為設定法則，但是使用“倫理法則”這個詞不一定合適。因為倫理法則首先涉及道德主體間的自我意識，而機器人不大可能有類似人的道德意識。我們可以給機器人的行為制定一些規則，比如說絕不允許它使用暴力，甚至當它有可能“造反”或者危害人類的時候，啟動自毀程序。但這并不是要先給它建立一個倫理意識，讓它自覺地遵守規則，而是人類為了自保而不得不如此。

按照海德格爾的說法，技術的本質就是一個系統、一個架構。人一旦被嵌入其中很難擺脫，甚至無法擺脫。

但即便有這樣的規則是否能確保機器不會“反叛”人類呢？最早的一個寫機器人的科幻小說就描述了這種“反叛”。我的確覺得人的規則是否能夠成功是很難說的。因為機器如果在智能上超過人，就可能會有破解的方法。即使我們事先給它設定了規則，它也可能慢慢發展出反制的手段。如果它比人類更聰明，那么它就能夠想出超過人的辦法。它們可能毀滅人，而且是不帶感情地毀滅，沒有愛，也沒有恨地毀滅。這個時候就真的沒有什么倫理道德可講。我們不可能跟沒有人類道德意識的機器講道德。

所以，對于一個擁有比我們人類更高能力的存在，我們能否成功有效地確立這些規則，我還是懷疑，但有總是比沒有好。

無用階層不一定生活就很糟糕

南風窗：就目前來看，機器人的“反叛”離我們還比較遙遠。但是在可預見的未來，你認為人工智能的普及將給予人自由還是剝奪人的自由呢？

何懷宏：我覺得既是給予也是剝奪。人工智能可以讓少部分人獲得更大的自由，但是對于更多的人來說，情況或許恰恰相反。很多人可能會因此失業，因為他們之前所學的專業技能將被人工智能取代。就像工業革命時期，很多手藝人失去了他們原來的謀生手段—那些精致的，可能需要畢生學習和傳承的手工技藝、工匠技藝，或者說失去了保留原來職業的自由。所以人工智能的影響是雙向的，它是一把雙刃劍。

我認為更可能的后果是，人工智能將越來越多地限制大多數人的自由空間。因為機器的功能越是發達，它對人的監督和控制能力也就越強。也許發展到最后，極少數人通過操縱機器就能夠牢牢控制整個社會。并非完全不存在這種危險，我對此不抱樂觀態度。

其實，這個問題的背后涉及技術的本質。技術會給人們帶來很多的便利，這個是不容否認的，但是能不能帶來更大的自由空間，或者說讓人有更多的閑暇，就要打個大大的問號了。

按照海德格爾的說法，技術的本質就是一個系統、一個架構。人一旦被嵌入其中很難擺脫，甚至無法擺脫。不只是人工智能會剝奪人的自由空間，從普遍意義上講，這就是技術給人類帶來的后果。就以汽車為例，當汽車剛剛發明出來時，人們不會覺得步行受到影響，因為那時路上的車很少。但是當汽車變得越來越多時，人們就會發現不能走在路中央了，大路就不是人走的大路了，而是車走的大路了。因為可能會被撞到，只能走在人行道上。

機器確實可以代替人做很多事情，但是這又會引發另外一個更重要的問題：當人獲得了閑暇之后會做什么？如果人把工作都交給機器人來做，那么人可能會產生“我活著還有什么意義”這樣一種疑問。機器或許可以很好地養著人類，但是無所事事會幸福嗎？

南風窗：當人工智能可以全方面替代人的時候，對人自身是不是一種矮化呢？或者說人會不會受到變相的歧視？

何懷宏：人工智能在專門的功能上肯定會超過人，甚至在一般的智能上也有可能會超過人，那么矮化是必然的。未來可能很多企業家都更愿意使用機器人來工作，因為機器人不會偷懶，不會罷工，也不用交社保，多方便。其實現在很多代工廠已經在大規模使用機器人。所以，未來至少有相當一部分人會變成無用階層。無用階層并不一定是無產階層。他們的生活可能并不糟糕，但是卻“無用”，因為好像社會并不需要他們。這樣一種狀態是比較讓人擔心甚至是可怕的。

精神領域對于人來說不可或缺

南風窗：我設想，人類在未來為了避免被歧視，可能會改造自己。其實很多科幻片也描述過這種場景，比如《鋼鐵俠》。假如有一天，我的四肢甚至大腦都可以借助于機器變得更強大，但是這樣的“身體”還是我的身體嗎？

未來的趨勢不僅是機器的人化—準確的說，是類似于人，最后超過人的智能化。另一方面，現在的肉體人也可能也會被“機器化”，被“物化”。

何懷宏：是的，未來的趨勢不僅是機器的人化—準確的說，是類似于人，最后超過人的智能化。另一方面，現在的肉體人也可能也會被“機器化”，被“物化”。我們會不斷地更換我們的器官，最后可能所有的身體器官都換了一遍，甚至記憶和情感也被“外包”了出去。這時我們可能會懷疑：這還是我自己的身體嗎？這還是我的大腦嗎？我還是我嗎？人會出現自我認同的危機，這在將來會是一個大問題。

南風窗：你曾經提出過，當人工智能在體力和智力上全面超越人之后，人的價值將只能局限在精神領域，比如文學、藝術創作等。但是當人類在物理世界輸給機器之后，在精神世界的追求還有價值嗎？

何懷宏：不能因為人的精神成就可能會最終毀滅就認為它沒有價值。哪怕沒有機器人，人類未來有一天也會毀滅，可能是由于自然災害、某種疾病，或者其他什么原因而毀滅。但那可能是很漫長的時光之后。即便這樣，也并不意味著人類前面的追求就毫無意義。在人類的文明歷程中，每一個時代的人都在欣賞和享受這些追求和創造的價值。即使它們注定會消逝，會毀滅，也仍然具有自身的意義。而且人也是注定要去追求意義，這樣才會覺得人生是值得過的。所以精神領域對于人來說不可或缺，是“人禽之別”的基本標志。

但是機器不可能理解人在精神世界的追求，也不可能理解人的創造。機器沒有人的心靈的欣賞能力，看不懂蒙娜麗莎，看不懂羅丹的雕塑，聽不懂貝多芬的交響樂。對機器來說，蒙娜麗莎可能和原始人乃至動物的幾筆涂鴉差別不大。而藝術作品對人就很珍貴。我們不僅能夠理解其中的價值，還能享受這些作品帶給我們的愉悅。

另外，如果真的如一些人所相信的那樣世界上存在上帝，那么就還存在一種永恒的記憶，永恒的觀照。人也不會白白地追求，因為人所追求的一切可能在上帝那里都已經獲得了永存。這更讓人覺得安慰了，但這沒辦法證實，也沒辦法證偽。

人是有價值追求的，包括追求超越的存在、追求上帝，包括藝術的創造、哲學的沉思，這是機器做不到的。至于它們能做到什么，它們會有什么樣的追求和創造，我們不知道。大概就是兩不相關。