人工智能會不會威脅人類？

徐風

當我們談論人工智能時，一定不能避開兩個時間節點，一個是1997年5月，另一個則是2016年3月。1997年5月，俄羅斯棋王、國際象棋世界冠軍卡斯帕羅夫在與IBM公司的深藍計算機第6次交手時，誓要捍衛人類尊嚴的卡斯帕羅夫在僅走了19步棋的情況下就眉頭緊鎖，向深藍“拱手”稱臣。當時人們還會說，幸好還有圍棋。他們說，圍棋是“人類智慧最后一塊高地”。2016年3月，一場舉世矚目的“人機圍棋大戰”開戰，谷歌旗下的人工智能軟件“阿爾法圍棋”挑戰世界圍棋冠軍李世石，最終李世石以1∶4告負。人工智能技術的發展在給人類帶來憧憬的同時，也帶來了一些抹不去的擔憂。如果機器變得和人一樣甚至比人還要聰明，那么人類是否會受到威脅？

英國科學協會展開的一項調查顯示，在2000名被調查者中，三分之一的人相信人工智能將在下世紀給人類帶來嚴重威脅，超過60%的受調查者認為機器人將在未來10年搶奪人類的工作。四分之一的受調查者則預計，在20年內機器人將成為人們日常生活中的一部分。就好似任何一種新生事物的出現都會有支持派、反對派和觀望派一樣，目前人們對于人工智能的看法也分出了“支持”“不支持”和“看不明白”幾大陣營。

許多科學家擔憂：

人工智能是人類生存的最大威脅

事實上，許多科學家對人工智能表示擔憂。著名物理學家霍金曾與多位科技界名人發表聯署公開信，表示人工智能對于人類的威脅更甚于核武器。他認為：“對完全人工智能的發展可能會招致人類歷史的終結。”他警告稱人類正面臨來自智能技術的威脅，隨著技術體自身開始學會自我思考，并學會適應環境，我們人類將面對不確定的未來。他表示：“成功制造出一臺人工智能機器人將是人類歷史上的里程碑。但不幸的是，它也可能會成為我們歷史上最后的一個里程碑，除非我們能學會如何去規避這種風險。短期來看，人工智能產生何種影響取決于誰在控制它；而長期來看，這種影響將取決于我們還能否控制它。”

霍金并不是唯一一個對人工智能表示擔憂的人。特斯拉汽車的首席執行官馬斯克的看法更加引人注目，他用個人推特賬號發布警示，稱人工智能是人類遇到的最嚴重的“生存風險”。既然人類可以進化出文明，人工智能為什么不可以建立自己的文明？既然機器有了自己的意識和思維，那它是否會擁有自主意識，就如同“奴隸”意識到自己是“人類”。在人類不長的歷史中，確實存在過長達千年的“奴隸社會”時代，那時候的“奴隸”根本沒有人的權利，只能被稱為“會說話”的工具。英國數學家歐文·約翰·古德把超智能機器的發展形容為“人類需要做的最后一項發明”，因為在超智能機器出現后，人類會把創新與技術研發的工作讓給超智能機器這位更為智慧的繼任者。

機器人會傷害人嗎？

1950年，阿西莫夫提出了著名的《機器人學三大法則》：

第一法則：機器人不得傷害人類，或坐視人類受到傷害；

第二法則：除非違背第一法則，機器人必須服從人類的命令；

第三法則：在不違背第一及第二法則下，機器人必須保護自己。

在阿西莫夫創作一系列機器人短篇科幻小說并提出“機器人學三大法則”時，世界上還沒有機器人。而隨著人類社會的發展，人工智能與人類的關系發展也將產生階段性的變化，我們可以先暫且簡單分為如下階段：

第一階段：機器人還沒有自我認知，只是服從人類編寫的程序。

第二階段：機器人知道自己是機器人，并可以自我學習，但還未超越人類。

第三階段：機器人可以自主升級迭代，全面超越人類。

無論在哪一個階段，阿西莫夫的“機器人學三大法則”都充滿了“種族歧視”。

規定機器人不可傷害人類，難道人類就可以隨意傷害機器人嗎？機器人在阿西莫夫的科幻小說中，因為三大法則的制約，被描述成為人類的忠仆與朋友。但如果真按這套法則去執行，估計到了第三階段，機器人就會完全被人類教壞。當機器人自主升級迭代時，他們大概也會思考人類有無存在的必要性。

鏈接2

人類能夠控制機器人的善惡嗎？

顯然，在目前的科技及計算機領域，我們已經看到了部分類似人工智能的應用形式，可以模仿人類的大腦來思考，達到某種目的。但真正像科幻電影中具備自主思考能力、學習能力甚至是情感的人工智能什么時候會出現，暫時還很難說。但可以肯定的是，人類是一種擅于不斷挑戰極限的生物，從整個人類的發展史來看，我們已經創造了太多奇跡，如果有一天人工智能真的出現，也不足為奇。首先，它們正變得越來越聰明和強大；其次，目前很難通過編程或設計來保證它們的無害性。那么，人們真的無法設計出一個友善的人工智能程序嗎？科學家表示這是極為復雜和不確定的，因為人工智能會模仿人類思考方式，人性本身便是復雜的，可善可惡，我們無法來制定一個不變的標準。

人工智能將使人類喪失斗志？

還有一些科學家認為，人工智能最大的威脅不是毀滅人類，而是將取代人類。李開復認為：大部分人類工作可被機器取代。他表示，雖然機器在邏輯分析推算方面的能力會遠超人類，但是依然是屬于人類操控的工具。“阿爾法圍棋”這類的“人工智能”機器真正可能帶來的危機，不是奴役人類，而是讓人類喪失斗志，無所事事。“阿爾法圍棋”是一個能深度學習的機器人，經過專家的調節，它能在任何可以純憑邏輯分析推算的問題上，把人類遠遠地拋在后面。基于深度學習的人工智能將帶來什么改變呢？我們將看到無數的商機和產品，能夠解決問題、拯救生命、產生巨大的商業和用戶價值。這些技術可能輔助專家，也可能取代專家。很多非專家的工作者將面臨失業。未來十年，大部分今天的人類工作可被機器取代。人類最應該擔心的是：一旦當機器供養著人類，人類達到了馬斯洛需求的基本需求，人類真的還會有動力去追求更宏偉的目標？還是醉生夢死、無所事事？人工智能讓人類越來越缺乏思考，而其自身則有可能越來越聰明，從而威脅到人類的生存。

樂觀派科學家認為：人工智能將為人類服務

在支持者看來，人工智能的發展并不會給人類帶來威脅，而之所以會引發恐慌則是因為人們對于人工智能的工作原理并不了解。從科技發展史上看，并沒有因為汽車和輪船的出現而使田徑、游泳這些體育項目消失。他們堅信，人工智能的未來是要給人類帶來更加高效、便利的生活。就在“人機圍棋大戰”的前一天，谷歌董事長施密特在發布會上表示，這場比賽李世石無論輸贏都代表著人類的勝利，因為是人類的努力才讓人工智能取得了這樣的突破。谷歌不只是想做一個棋類程序，而是希望打造一個通用的智能計算系統，用于災害預測、風險控制、醫療健康和機器人等復雜領域。英國著名人工智能科學家、智能機器人Cleverbot的發明者羅洛·卡朋特表示，他相信人類在相當長一段時間內將保持對人工智能技術的掌控，而且未來將實現利用人工智能技術解決眾多世界性難題。

前人工智能發展尚處在早期階段

當然，我們現在談論“人機大融合”可能還為時尚早，人工智能的發展目前仍處于早期階段。既然現在機器的計算能力已經完勝人類，學習模式也在逼近，為什么還說人工智能處在發展早期？主要原因或者說難點有三：

第一，機器在信息輸入端還望塵莫及。人類的感官對世界的感知是目前機器最為缺失的。比如人有視覺、聽覺、嗅覺、觸覺、味覺，這些人類大腦的“輸入設備”是經過幾億年的進化而來，極其精良。以最容易數字化的視覺為例，目前為止還沒有電子設備在生活場景中可以趕上人類的眼睛對信息的快速捕捉。更別說人類還有同情心和好奇心，同情心是對他人情感的感知和共鳴，好奇心是對陌生信息的獲取、處理、存儲的動力。機器對這些信息的捕捉能力還有待發展。

第二，機器在輸出端同樣捉襟見肘。機器人要如何趕上人類的身體構造呢？“阿爾法圍棋”仍然需要一個替身去代它和李世石下棋，而不能自己去瀟灑地持子。人類一個看似簡單的動作，機器模仿起來都很困難，更別說去滿足機器人保姆之類的工作需求。

第三，人類大腦的復雜性恐難企及。人類的大腦神經元是一種生物化學構造的樹狀結構，對信息的存儲、檢索、緩存和分析的效率極高。計算機要想全面趕上，可能在硬件結構和算法設計上還需要一些突破。

新知識的產生往往需要站在前人的肩膀上。在互聯網時代，人類信息和知識獲取的成本在不斷降低，這極大地促進了新知識的產生，繼而整個人類科學的發展應該是在不斷加速的，你看，原本想也不敢想的自動駕駛現在也近在眼前。隨著技術的不斷突破，未來十年一定會是人工智能的黃金十年。

【責任編輯】蒲 暉

鏈接1

機器人下棋為何會戰勝人類？

有些人描述“阿爾法圍棋”是“和人一樣的方式思考，但是比人快無數倍”。這么說并不精確。“阿爾法圍棋”確實比人快無數倍，但是“阿爾法圍棋”的思考只能說是“被人的大腦啟發”，而并非和人類一樣思考。機器運算速度會越來越快，學習能力會越來越強，數據會越來越多。谷歌的“阿爾法圍棋”之所以能戰勝職業棋手，借助的是模仿人類大腦的神經回路、被稱為“深度學習”的最尖端人工智能技術。谷歌采用這項技術，在2015年推出了一邊玩電子游戲一邊找出新戰術的人工智能“DQN”，創造了超過人類的高分，展現了人工智能在深度學習領域的實力。以“阿爾法圍棋”為例，首先輸入協助開發的職業棋手的3000萬種圍棋下法讓其學習，達到能夠以57%的概率預測與其對陣的人類行動的水平。在此基礎上，人工智能將自己的對戰重溫數百萬次，在不斷積累勝負經驗的過程中，掌握取勝方式。它在觀察圍棋棋子的整體布局的基礎上選擇最佳下法，這一方式接近于帶著直覺和第六感做出判斷的人類大腦的功能。

鏈接3

哪些工作會被人工智能代替？

隨著人工智能的發展，機器確實可以通過深度學習來代替人類做越來越多的工作。根據一項報告，到2025年，約有25%的工作將被人工智能或是機器人所取代。具體而言，內外科醫生、編舞、教師、作家、律師、人力資源經理、科學家、工程師和記者屬于比較安全的、不容易被替代的職業；司機、技工、建筑工人、裁縫、快遞員、抄表員、收銀員、保安和洗碗工則屬于比較危險的、有可能被替代的職業。

鏈接4

人類將與機器融合

科學家預言，未來很有可能在人腦中加入人工智能成分，以此來增強它的性能，如更高的記憶、更快的計算速度等，甚至有可能通過基因工程技術來改變人類的DNA，并且以此來改變人類的外表和行為。人類可能會擁有可以生長、繁殖、分化、可移動、自我裝配、自我測試、自我修復等的人工細胞，生物學和技術將融合在一起。美國作家雷蒙德·科茲威爾曾提出觀點：2045年，人類將會通過與計算機結合而獲得“永生”，計算機智能將取代人腦，永久改變人類的命運。屆時，人類和計算機智能將無法區分，人類也將不再是人類，而是“與機器融合成為另一種物種”——聽起來這有點像科幻小說中的情節，但是越來越多的人開始認真假想這種可能性。