福兮？禍兮？ 霍金：警惕人工智能

崔亮亮

對于大部分國人來說，能與霍金直接交流的機會還是非常有限，而在4月27日，在北京舉辦的GMIC（全球移動互聯網大會領袖峰會）上，霍金帶來了《讓人工智能造福人類及其賴以生存的家園》的視頻演講。以“天·工·開·悟”為主題的GMIC大會，除了邀請了科學巨人霍金外，30余位嘉賓與全球科學迷共同探討人工智能的未來趨勢。

人工智能的終極憂慮

霍金在演講中承認人工智能的發展必將載入人類史冊，但霍金認為人工智能的終極發展也可能會危害人類文明。霍金稱：“強大的人工智能的崛起，要么是人類歷史上最好的事，要么是最糟的。對于好壞我們仍無法確定，現在人類只能竭盡所能，確保其未來發展對人類和環境有利，人類別無選擇。”

霍金認為：“也許我們所有人都應該暫停片刻，把我們的研究從提升人工智能能力轉移到最大化人工智能的社會效益上面。”基于這樣的考慮，美國人工智能協會（AAAI）于2008至2009年，成立人工智能長期未來總籌委員會，近期在目的導向的中性技術上投入大量關注，確保人工智能系統按照人類意志工作。

人工智能的研究與開發現在正在以極快的速度推進，在短期的發展中，霍金最擔憂的就是無人駕駛、智能的致命性自主武器方面，此外還有人工智能逐漸可以解讀大量監控數據而引起的隱私擔憂和如何管理因人工智能取代工作崗位帶來的經濟影響。從長遠來看，擔憂還存在于人工智能失控的潛在風險，隨著不遵循人類意愿行事的超級智能的崛起，強大的系統是否會威脅到人類。所以霍金認為人類需要進一步研究來找到和確認一個可靠的解決辦法來掌控這些問題。

霍金甚至認為，隨著人工智能的全方位發展可能招致人類滅亡。正如核武器，人類科學發明了它們，而它們的影響比最初預想更加可怕。對于人工智能，霍金同樣覺得可能是人類文明史的終結，除非找到如何避免危險的方法。

人工智能另一面

但另一方面，霍金也同樣承認，人工智能的成功同樣也可能是人類文明史最大的事件，當人類頭腦被人工智能放大后，也許在這種輔助下，可以解決工業化對自然界的損害。

演講最后，霍金表示：“我們需要跳出‘事情應該如何這樣的理論探討。我們站在一個美麗世界的入口。這是一個令人興奮的、同時充滿不確定性的世界，而你們是先行者。我們祝福你們。”

對于霍金不斷提醒要警惕人工智能帶來的威脅，創新工場創始人及首席執行官李開復在隨后的演講中持不同態度。李開復認為，AI未來發展有很多機遇和挑戰，而毀滅人類只是其中一種，而且顯得比較遙遠。

對于人工智能目前的發展，李開復提出了四個方面的核心話題：1.人工智能將創造巨大財富，讓人類第一次有機會脫離貧困。2.今天手中擁有巨大人工智能力量和數據的公司，如何防止他們用數據作惡。3.看到人工智能要取代50%人的工作（未來10到15年之間），這些人怎么辦，更為重要的是教育怎么辦？4.科學家尤其是人工智能科學家有什么使命？有什么機會？

李開復表示，自己作為科學家創業，最核心的心得是應該做“有用的”創新，這意味著更快利用創新幫助社會進步。科學家追求科研突破，而創業者追求商業回報；科學家講究嚴謹，創業者講究速度；科學家慢工出細活，而創業者要快速迭代，這些往往背道而馳。

然而，目前人工智能大浪潮下，頂尖科學家正在發揮越來越重要的作用，特別是2010年的深度學習帶來的AI技術突破。目前全行業都在要求科學家和科學領域的創新，這會應用到AI可能發展的三個階段中。

李開復把AI發展分為三個階段：第一個階段：把已有的大數據在線化使用；第二個階段：通過感知和傳感器把沒有的數據收集、上傳起來。第三個階段：無人駕駛等為代表的全面自動化時代的到來。

對于科學家如何參與到這三個階段，李開復提出了四條建議：首先是自己擼起袖子干，像愛迪生一樣。其次是找個商業合伙人一起干。再次是把技術授權出去，讓別人來做。最后是通過開源等方式，發布數據和內容。

李開復更加看好技術授權和開源的方式。國際上尤其是中國都要好好思考，怎樣創造出讓創業者和科學家做他們擅長事情的土壤，讓兩者有機結合。應以珍惜國寶的態度支持頂尖的科學家。

霍金這樣回答了中國網友問題

創新工場CEO李開復：互聯網巨頭擁有巨量的數據，而這些數據會給他們各種以用戶隱私和利益換取暴利的機會。您認為我們應該如何約束這些巨頭？

霍金：據我了解，許多公司僅將這些數據用于統計分析，但任何涉及到私人信息的使用都應該被禁止。會有助于隱私保護的是，如果互聯網上所有的信息，均通過基于量子技術加密，這樣互聯網公司在一定時間內便無法破解。但安全服務會反對這個做法。

獵豹移動CEO傅盛：靈魂會不會是量子的一種存在形態？

霍金：近來人工智能的發展，比如電腦在國際象棋和圍棋的比賽中戰勝人腦，都顯示出人腦和電腦并沒有本質差別。這點上我和我的同事羅杰·彭羅斯正好相反。會有人認為電腦有靈魂嗎？對我而言，靈魂這個說法是一個基督教的概念，它和來世聯系在一起。我認為這是一個童話故事。

百度總裁張亞勤：人類觀察和抽象世界的方式不斷演進，從早期的觀察和估算，到牛頓定律和愛因斯坦方程式，再到今天數據驅動的計算和人工智能，下一個是什么？

霍金：我們需要一個新的量子理論，將重力和其他自然界的其他力量整合在一起。許多人聲稱這是弦理論，但我對此表示懷疑，目前唯一的推測是，時空有十個維度。

斯坦福大學物理學教授張首晟：如果讓你告訴外星人我們人類取得的最高成就，寫在一張明信片的背面，您會寫什么？

霍金：告訴外星人關于美或者任何可能代表最高藝術成就的藝術形式都是無益的，因為這是人類特有的。我會告訴他們哥德爾不完備定理和費馬大定理。這才是外星人能夠理解的事情。

長城會創始人文廚：

我們希望提倡科學精神，貫穿GMIC全球九站，請您推薦三本書，讓科技界的朋友們更好地理解科學及科學的未來。

霍金：他們應該去寫書而不是讀書。只有當一個人關于某件事能寫出一本書，才代表他完全理解了這件事。