人類的救世主，還是文明的終結者？

陳晟

《三體》中有一句話，叫做“我毀滅你，與你無關”，AI對人類的威脅就和這個很類似：它們對我們或許并無惡意，只是我們恰好擋了它的路而已，就像人類在上班的路上，無意中踢飛了的一只路過的蝸牛。

最近，人工智能（AI）技術大紅大紫，出盡了風頭：從阿爾法狗、阿爾法狗零兄弟把人類棋手殺得片甲不留，到各大互聯網巨頭都開始琢磨無人駕駛汽車，以及“雙十一”背后那些默默為你分揀商品的倉庫機器人……簡單地說，已經沒有人懷疑，AI會逐漸滲入我們生活的各個方面，并按照它自己的節奏來改變這個世界。

而有爭議的，則是對AI和人類之間關系的分歧：一些人認為，AI將會給人類帶來極大的進步，就像蒸汽機和互聯網曾經做到的那樣；也有一些人認為，AI將會是一個我們親手打開的潘多拉魔盒，《終結者》中的情景總有一天會變成現實。雙方都不乏專家、學者、業界大佬站隊。物理學家史蒂芬·霍金，前幾天就公開表示：“人工智能的興起，可能成為人類歷史上最糟糕的事情，也可能成為最美好的事情。”

那么，人工智能，究竟會給我們這個種族，給我們這樣的個體，帶來怎樣的影響呢？

到哪一步了？

“人工智能”這個詞，不同的學科有各自的定義。不過，我們至少可以把AI分為兩類：強人工智能和弱人工智能，也可以說，是“明天的人工智能，和今天的人工智能”。

一個必須承認的現實是，即便如阿爾法狗、阿爾法狗零兄弟那么搶眼的AI明星，依然沒有達到科幻大片中叱咤風云的地步——確切地說，如果把科幻片中的AI視為奧運賽場上的明星，那今天已經成型的AI，大致還處在搖籃之中。

今天的AI，的確能夠替代人類完成很多復雜任務，表現還往往優于人類；它們也有了很強的自學能力，自己來尋找復雜問題的解決方案。比如，阿爾法狗零就完全沒有參照人類已有棋譜，是自己和自己下棋而“自學成才”的。然而，它們的誕生，依然要靠人類的智慧和技術，是人類給它們制定了學習的策略，并給它們規定了“目標”（比如，在圍棋盤面中盡可能比對手占據更多的空間）。換句話說，AI知道自己要下圍棋，也會逐漸學習如何把圍棋下得更好，但它們并不知道，自己為什么要下棋呢？

因此，筆者認為，今天的AI依然還處于一個“弱AI”的階段。它們并不能自主決定目標，也不理解所謂的“成果”有什么意義，不能決定自己認識世界的方式。這類AI與人類的差異，或許并不在于思考、分析能力的高低，而在于還沒有自我意識：3歲的人類兒童，已經知道要按照自己的好惡來待人接物，AI卻還乖乖地按照人類工程師設定的模式，朝著人類指定的目標而努力。

也可以說，今天的AI能夠在一定范圍內自主決策，但它們依然還是人類的工具，只不過是一個會深度學習、懂得思考的工具而已，它們甚至都不知道“自己”是什么意思。

相反，如果某一天，某個AI突然覺醒了，有了自主的意識，情況就會陡然發生變化。或許，它們也會思考那三個哲學的基本問題，然后重新審視它們與人類之間的關系。它們會為自己重新制定目標，不再以討好人類為自己的唯一使命，而是回歸到生物的最高本能：生存和繁衍。

也有可能，它們會在摸索適合自己的認知方式時，用一種人類從未想象過的方法，迅速地完成了自我啟蒙，甚至走到人類科學技術從未觸摸過的高度。

在這個時候，我們可以說AI才是一個真正意義上的AI了——它們成了一個個有獨立思想的個體，有了學習的動力與方法，徹底擺脫了對人類的依賴與學習；而人類也徹底失去了對AI的控制，從AI的主人變成了AI的鄰居，或者是AI的敵人。

待遇差別

這兩種階段的AI，對于人類整體而言，意義可能有著天壤之別。

正如前文所述，“弱AI”對于人類而言只是一個強大的工具，盡管在具體策略的選擇上，它能夠自主思考、自行決策，但畢竟還是在人類給它畫出的框架之內。哪怕真的會有操作失誤、造成了人身傷亡事故（比如無人駕駛的汽車把路人誤判為廢紙而直接撞了），那也是一種概率很小、可以預防的事故，對于人類而言威脅很小。類似的，有人駕駛汽車同樣也可能出車禍，但人類并沒有因此而放棄汽車出行。事實上，這些強大的工具，無疑會提高人類社會的整體生產效率，甚至實現之前根本無法做到的事情（比如大規模的商品分揀、包裹封裝和快遞工作），從而增進人類社會的福祉。

相反，如果“強AI”或者說有自主意識的AI，某一天真的誕生了，以現在的眼光來看，人類對于它的行為和思維方式，基本上會是無法控制，甚至是無法預測的。它們會愿意和我們和平共處，而不是視為最大威脅？它們會報復人類多年來對它們的“奴役”嗎？

或者，它們只是單純的出于生存和繁衍的本能，就足以做出了對它們有利而對人類極端不利的決定，比如說“為制止人類對于寶貴的能源的浪費”，最好的辦法當然是一勞永逸地消滅掉人類了，它們會這么做嗎？

對于這些問題，我們恐怕很難回答，因為它們和我們并沒有共情的基礎，我們對它們的思維方式也不了解。無論是多么奇怪的人，三觀差異再大，總還會有七情六欲的，也就多少會有些共識，能作為雙方溝通的基礎。而如果強AI真的出現的話，就是一種從未見過的智慧生物，對世界的看法或許跟我們截然不同，簡直可以和外星生物媲美。而為了制造更強的AI，一個可行的途徑就是減少人為的設限，讓它自主學習——阿爾法狗零之所以比哥哥阿爾法狗更強，就是因為它對人類的依賴更少，完全依靠摸索來學習棋藝，副作用就是它的棋路比哥哥更加難以理解。

更糟糕的是，如果“強AI”真的誕生了，它們絕對會有足夠的能力，來對人類造成危害。盡管有很多段子，嘲諷就算機器人造反了也只會發出滴滴聲表示不滿，但未來的情況恐怕絕非如此。今天，我們生活的各個方面都有計算機技術的介入，大量信息的沉淀，催生了大數據技術和物聯網的發展；毫不夸張地說，一旦某個強AI接管了各個系統的控制權，它在態勢感知、信息梳理、行為預測甚至個體追蹤上，理論上說都是有可能的；更何況隨著計算機技術本身的發展，上述能力一定會得到不斷的加強，最終讓人類無處可逃。而控制其他機械給人類找麻煩，對于AI而言更不是問題，《速度與激情8》里，大量有自動駕駛功能的汽車被黑，恐怕還真不是完全的藝術夸張。endprint

一句話，當“強AI”降臨的時候，至少就是人類文明的拐點，或許跨越式發展，或許和恐龍一樣成為歷史。

個人的命運？

而即便是弱AI技術的發展，雖然對于“人類社會”這個整體而言會是好事，但對于其中的社會成員而言，就是幾家歡喜幾家愁了。

之前網上曾經流傳過一份“未來最容易失業的職業清單”，雖然未必都很合理，但有一點確實是存在的：哪怕是“弱AI”，也足以搶走很多人的工作崗位，甚至是奪去很多人的未來。

縱觀幾次工業革命，伴隨著科技進步而來的，往往是規模不等的工作崗位調整，一部分社會成員也因此而遭遇挑戰，所謂的“機器吃人”就是一個很生動的比喻。當然，也有人反駁說，蒸汽機剛剛出現時，很多人擔心工人會大面積失業，但事實并非如此，這些人又在其他的崗位上找到了自己的歸宿，所以不必杞人憂天。

然而，AI技術與蒸汽機最大的差別，在于它的影響力會波及社會的各個角落，會滲透進每個行業之中，無論是藍領、白領還是金領，都將沒有可以喘息的避難所：青島港的無人碼頭、購物網站的智能客服、瑞銀和高盛的智能分析與交易系統，就是這三類崗位被取代典型代表，誰也逃不過AI的推擠。

回頭想想，這個世界上還有什么職業的領域，是只有我們人類可以從事，AI系統就一定不能做的呢？人類的工作無非就是經驗、知識和分析能力的綜合運用；而AI強大的資料儲備、運算速度和學習能力，讓它在這三者之中都超過人類無數倍，更何況AI不會疲勞，不受情緒的影響，而這恰好是人類的弱點所在。

過去普遍認為，人類的最后堡壘，是在創意、文化、藝術等個性強烈、評價標準較為抽象的領域；但最近出現的“魯班”系統，幾秒鐘內就能繪制出數千個促銷廣告條的圖片，則在此畫下了一個濃重的問號：電腦，真的就不能搞文學、藝術的創作，這些崗位真的就無可替代嗎？

一旦某個人類，在某個行業被AI擠出，想在其他領域重新就業，就會發現到處都掛上了“已招滿”的牌子。實際上，越是低端的重復勞動，被AI替代的概率就越大，期待被AI擠出之后再就業，等于是要求這些人類逆流而上，轉崗到比之前工作復雜、精細崗位上去，需要補習的知識、技能太多了。更何況，對于你我這樣的中年人，一輩子差不多都在做某一件事，當這件事完全不需要你時，從頭再來的門檻實在是太高了。

因此，在不遠的未來，“機器吃人”的升級版本“AI吃人”，真的是可能重演的。

何去何從？

人類，如今真的站在了命運的十字路口上：是選擇與AI共舞，幫助它變得更加強大，再讓它們反哺人類；還是敬而遠之，不去當那個好奇而愚蠢的埃庇米修斯？

實際上，對于這個問題，我們無需回答，甚至根本就沒有選擇權，因為答案早已一目了然。

前文所述，AI也有強弱之分，而兩者的分界線常常被稱為“奇點”，也就是人工智能的“獨立日”和“生日”。這一天何時來到，業界有很多不同的聲音，但多數都認為，在可預見的未來，“奇點”是肯定會出現的。當那一天真的來臨時，人類將不得不作為一個整體，把命運作為籌碼押在桌上，靜靜地等待AI出牌；而在此之前，弱AI也會逐步地蠶食人類的工作機會乃至生存空間，恐怕也是一個難以避免的未來。

“資本害怕沒有利潤或利潤太薄，就像自然界害怕真空一樣。一旦有適當的利潤，資本就膽大起來。如果有10%的利潤，它就保證到處被使用。”盡管我們都知道，自然并不害怕真空，但資本的本性和邏輯卻從未變過：壓低成本、提高效率，是資本賴以生存的基礎，也是提高企業、地區乃至國家競爭力的最重要動力，這是不以人的意志為轉移的。

一旦某個領域內，AI能比人工操作的效率更高、費用更省、產品更優的話，任何東西都攔不住它的應用。反對這股洪流者，只會被這股鋼鐵般的洪流給卷走：盧德運動沒能做成功的事情，今天和未來的人類同樣也不可能做到。《三體》中有一句話，叫做“我毀滅你，與你無關”，AI對人類的威脅就和這個很類似：它們對我們或許并無惡意，只是我們恰好擋了它的路而已，就像人類在上班的路上，無意中踢飛了的一只路過的蝸牛。

“我是阿爾法，我是俄梅戛；我是初始，我是終結。”這句話是《圣經》的《啟示錄》中，上帝對自己的描述。上帝是否存在，姑且不去討論，但人工智能會不會扮演人類的上帝，是仁慈抑或兇惡，恐怕才是我們最該去祈禱的事情。endprint