人工智能奇點臨近？

詹姆斯·馬圭爾

即便奇點遙不可及，或者毫無可能，人工智能的迅猛進步也會帶來無數可能性。

計算機概念化的能力能否達到人類大腦的水平？這是人工智能的決定性問題。

一臺計算機不只是支持系統運行，還能構思系統？最重要的是，計算機能不能批判性地審視自己，自我評估，并設計一種新的解決方案？

截至2017年，答案是基本上不能。盡管人工智能取得了巨大勝利，比如谷歌DeepMind完勝世界一流的圍棋選手，Watson在智力競賽電視節目《危險邊緣》中贏得100萬美元大獎，但這項技術仍處于起步階段。與人腦相比，計算機是很強大，但本領有限。

當然，計算機在原始處理能力上有其巨大的優勢。IBM的Watson在短短一秒鐘內就能獲取5000多億字節（相當于100多萬本書的內容）。為備戰圍棋比賽，谷歌的DeepMind被喂以3000個萬實例，以此“接受訓練”。這么強大的計算能力只會越來越強大。

不過究其本質，Watson贏得《危險邊緣》的秘訣只是超強的數據檢索能力。雖然DeepMind的圍棋勝利需要極其強大的認知敏捷性，但它并不具有創意。它只是結合了先進的邏輯推理能力和蠻力計算能力。

我們人類不僅擁有智能，還擁有元智能（meta-intelligence）。我們創造新的、不可預見的跨越式思維；我們把框架翻轉過來，擠壓它，粉碎它，發明出令人驚訝的東西。開發人工智能之所以如此困難，原因之一就在于我們不知道大腦機理到底是怎樣的。

我們都搞不懂我們自己，那么怎樣才能復制我們自己呢？

自我學習

人類是種奇特的生物，但我們所做的任務大多數可以簡化為例行程序，人工智能每年在復制人類的一些部分。像iRobot Roomba 650這種輔助機器人可幫助我們打掃房屋。從寶馬到現代的眾多汽車廠商在研發自動駕駛汽車。無人機將會配送我們在網上購買的商品。人工智能計算機能夠識別圖像（在有限的場景下），并對自然語言做出略嫌笨拙的響應。

的確，人工智能的基礎工具都執行類似人腦的某種功能。機器學習利用算法來“學會”對不斷變化的輸入做出響應；它常常輸出預測結果或某種下一個層次的總結。

神經網絡是一種類似人類中樞神經系統網絡（包括大腦）的軟件。它使用自適應軟件架構和規則-編程工具集，支持多變量的輸入和輸出。神經網絡能夠“學習”，從各種不同的非線性輸入生成輸出。而這正是人類大腦的機理。

深度學習將神經網絡結合到復雜的響應式結構中，這種結構能夠生成抽象的數據模型。深度學習仰仗于如今超快速的GPU計算機處理器，是人工智能的最前沿領域。深度學習有一個著名的例子，人工智能領域的先驅安迪·吳（Andy Ng）給一個神經網絡輸入來自YouTube視頻的1000萬張照片，從而讓計算機能夠識別貓的圖像。

這些工具技術帶來的人工智能進展意味著，一度出現在低級雜志科幻小說中的那種恐懼現在似乎是可信的：配備人工智能技術的機器人有一天會超越人類。機器人的大腦會塞滿美國國會圖書館的所有知識、維基百科以及數十億個實例模式。深度學習神經網絡會讓機器人的大腦能夠“思考”。這種大腦（姑且這么稱之）會基于過往的經驗，綜合學到的知識，生成新穎而獨特的輸出。

這種能夠自我學習的機器人之后可能會引發奇點（singularity）――受已知的物理定律不再適用的這個物理概念的啟發；到了這個轉折點，人工智能超越人類智能。到那個時候，超級智能機器可以決定自己的未來，能夠以我們再也不能預測或控制的方式大步邁進。在這種場景下，機器人可能的確會“反抗”。或者更準確地說，它們會變成完全獨立的個體。甚至會出現這種反面烏托邦的場景：我們人類將淪為親手締造出來的技術統治者的服務臺支持人員。

“科學怪人”擔憂

事實上，一直以來，人類對于被自己創造出來的某種技術取而代之深表擔憂。

在英國女作家瑪麗·謝利（Mary Shelley）1818年出版的《科學怪人》（Frankenstein）一書中，那位年輕科學家找到了為龐大的試驗品賦予人類意識的方法，后來那個龐然怪物逃出了實驗室，毀掉了創造它的主人的生活。

人形機器人反抗這個主題會反復出現在無數的科幻小說、電影和電視劇中。George Jetson的機器人同伴Uniblab原來是個奸詐的對手，誘使Jetson對老板爆粗口。在《2001：太空漫游》（2001： A Space Odyssey）中，HAL 9000拒絕讓太空人返回宇宙飛船，留下了那句有名的臺詞：“戴夫，對不起，我想我不能那么做。”電影《機械姬》（Ex Machina）中的機器人夏娃解放了自己；而在電視劇《西部世界》（Westworld）中，飽受人類虐待的機器人對所謂的主人以其人之道還治其人之身。

人工智能果真會超越締造它的人類嗎？知名的未來學家雷·庫茲韋爾（Ray Kurzweil）預測奇點會出現在2045年，也就是人類大概再過一代。庫茲韋爾擔任制片人的影片《奇點臨近》（The Singularity is Near）探究了種種可能性。

許多頂級的技術專家認為奇點只是不切實際的幻想，或者說太過遙遠，不值得討論。在他們看來，人類大腦完全是多面手，沒有哪個計算機系統會超越它。不過科學技術發展史表明，技術迎來突飛猛進是常有的事。1927年，林德伯格乘坐飛機穿越大西洋，轟動全球，當時他飛行了33個小時。1969年，人類就登上了月球，阿波羅11號登上月球只用了不到76個小時。

即便奇點遙不可及，或者毫無可能，人工智能的迅猛進步也會帶來無數的可能性。基因工程結合人工智能，以期打造超級人類，怎么樣？像科學怪人那樣結合人工智能和人類大腦，怎么樣？通過USB接口連接至我們的大腦？人工智能融合虛擬現實，營造一種全新的現實？

《科學怪人》中一個很重要的轉折點是，科學怪人在獲得人類意識后備感孤獨。他要求創造自己的主人科學家Victor給他創造一個女性伴侶。這讓Victor極為擔憂：如果他創造一個女性伴侶，那么這對怪物可能會繁衍后代，到時可能危及全人類。就像今天的人工智能開發人員一樣，Victor面臨自己的作品帶來不可預知的影響。

Victor拒絕了科學怪人的要求，但也意識到：一旦你創造出了獨立的、有意識的生物，就無法再回頭了。科學怪人狂怒之下追殺Victor，殺害了他的新婚嬌妻后逃之夭夭。為此，Victor試圖報仇雪恨，一路追兇到北極圈，但死于途中。科學怪人為Victor的去世悲痛萬分；因為科學家是世上唯一懂自己的人。他決定了結此生，最后一幕是消失在一塊浮冰上。

由于如今的人工智能開發人員制造的系統越來越獨立，我們就不由得會想：結局是否比Victor的結局更好？當然，Victor的試驗品困擾的只是他個人生活，而目前的人工智能進展將會影響整個人類和社會。人類往前看，也許很樂觀，但肯定又覺得不安。現階段，我們只能希望有最好的結局。

人工智能會引發奇點嗎？

人工智能突飛猛進的表現，帶來了表現“堪比人類”的眾多案例。但在大多數情況下，只是處理單一的獨立任務。

即便通過艾倫·圖靈（Alan Turing）在1950年提出的圖靈測試也仍然并非易事。如果計算機能讓人類誤以為它是人類，如果它能模擬真正的人類智能，就算通過了圖靈測試。在測試中，人類評委與計算機進行對話（完全以文本形式）。如果計算機讓一定數量的聽眾覺得自己在跟人類進行對話，表明它玩“模仿游戲”成功過關（《模仿游戲》也是歌頌圖靈在二戰中破譯代碼的豐功偉績的一部影片的名稱）。

2014年，能說會道的聊天機器人Eugene Goostman讓雷丁大學三分之一的評委誤以為它是來自烏克蘭的13歲男孩。不過，人工智能專業人士大多認為這毫無意義，這是與人工智能領域的真正成就背道而馳的作秀。這些年來，圖靈測試本身的可信度略有下降；通過文本騙過人類未必證明擁有真正的智能。

人工智能仍然面臨一大挑戰：雖然計算機擅長在有限的環境下處理特定任務，但它們仍無法實現人類大腦那樣的宏觀意識。

佐治亞理工學院研究所的研究科學家若爾特·基拉（Zsolt Kira）說：“仍然基本上欠缺這種能力：組合成一個更龐大的認知架構，在這種架構中，人工智能系統可以做人類仍很擅長，計算機不擅長的許多事情。”

基拉表示，人工智能的一大限制是記憶。他說，人腦做出無數決策，決定給予足夠的關注以便記住什么、丟棄什么，這些其實不是我們所做的有意識的決策，而是我們大腦所做的事情，人工智能系統還無法復制這些元智能層面的東西。克服這個困難需要解決長期記憶和短期記憶問題。“眼下，許多這些概念其實還沒有得到解決。”

總之，人腦擅長的是神奇的綜合能力，這正是人工智能欠缺的。霍加特特別指出，人類智能“是歷經千萬年進化而成的一種很特殊的東西。你也許可以造出會說話、會理解、會感知情感又好玩的機器人，但它還是會讓人失望。”

科茨高度評價了人工智能領域的許多前沿進展，但是對于真正有意識的人工智能即奇點的出現，他說：“我認為離我們還很遙遠。眼下，我們在如何開發那種技術方面缺乏切合實際的計劃。當前許多研究熱點圍繞這方面的難題，但我還是覺得相當遙遠。”

對于阿貝爾來說，奇點是個令人關注的問題，值得深思。他特別指出，人腦實際上結合了存儲能力和計算能力，以及感覺輸入和輸出。如果科學家們組裝成一個計算、存儲和感覺輸入/輸出能力與人腦相當的數字系統，到那時，“關鍵其實是有一種能夠與我們大腦內部某種智能相媲美的程序。等到有了那樣的程序，人工智能才能匹敵人類智能。”

他提出了未來構想：人類可以將技能直接下載到大腦中，就像電影《黑客帝國》中那樣。他指出，如果人類能做到這一點，那么人工智能系統肯定也能從其他人工智能系統隨意下載技能和數據庫。

超級系統互聯的這種場景可能預示著人工智能在未來的突破：雖然單一的人工智能系統存在局限性，但如果幾個人工智能系統互聯起來，那會怎樣？比如，像IBM的Watson這種系統與像谷歌的DeepMind這種系統互聯起來，那會怎樣？從理論上來說，人工智能超級網絡中的每個單元都會增添其學習工具（神經網絡陣列），形成認知力超越人類的融合體。

所以，雖然我們不清楚人工智能具體會如何影響人類生活，但可以肯定的是，人工智能會給我們帶來深刻的、不可預見的影響。簡而言之，倘若有疑慮，最好對你的機器人好點。