人工智能發展及其影響

王瀅波(上海社會科學院信息研究所助理研究員)

人工智能發展及其影響

王瀅波(上海社會科學院信息研究所助理研究員)

1 人工智能的發展速度可能遠超我們想象

什么是人工智能？Linda Gottfredson教授把智能定義為“一種寬泛的心理能力，能夠進行思考、計劃、解決問題、抽象思維、理解復雜理念、快速學習和從經驗中學習等操作。”超級人工智能何時會到來？從弱人工智能到強人工智能再到超級人工智能需要多久？目前主要有四種觀點：

一是超級樂觀派，例如Vernor Vinge教授、科學家Ben Goertzel、SUN創始人Bill Joy、明家和未來學家Ray Kurzweil以及機器學習專家Jeremy Howard等都相信超級智能會發生在不久的將來。

二是一般樂觀派，例如微軟創始人Paul Allen、心理學家Gary Marcus、紐約大學電腦科學家Ernest Davis，以及科技創業者Mitch Kapor等認為Kurzweil等思想家低估了人工智能的難度，并且認為我們離超級人工智能還很遠。

三是悲觀派，例如哲學家Hubert Dreyfus，超人工智能是不會被實現的。

四是不可知派，例如牛津大學的哲學家Nick Bostrom的結論就是說不準。

本文認為人工智能的發展速度將遠超我們想象，因為人類固有思維存在慣性，人類的理性是有限的。不確定心理學的鼻祖——卡尼曼和特沃爾斯基在早期對啟發式思維和認知偏差的研究中發現了人類的錨定思維。大部分人總是基于現狀思考未來，無法看到變化和轉折。人類社會發展符合指數規律，回想一下最近20年的變化和最近前200年的變化，這種加速發展的趨勢非常明顯。著名未來學家凱文·凱利的連接理論認為連接點越來越多技術就會呈現爆炸式的發展，因此隨著人類的廣泛連接，未來發展應該會超出我們預期。以IBM Watson為例，來自美國北卡羅林那大學醫學院的人類專家讓Watson分析診斷了超過1000例癌癥病例。結果發現在超過99%的病例中Watson給出了和人類腫瘤科專家一樣的治療方案。不僅如此，因為能在數分鐘內就閱讀并消化數千篇文件，Watson還針對30%的病例給出了人類專家都沒想到的備選治療方案。IBM的全球副總裁陳黎明舉例說，一位患有白血病的東京女性已經被醫院判了死刑，但是Watson在10分鐘內閱讀了相關的4000米厚的醫學資料，給出治療方案救活了她。此外因為沃森能夠全球聯網，所以能夠遠程為邊遠地區、醫療資源匱乏的地區提供高水平醫療服務，也更凸顯了它的社會意義和價值。目前，IBM正在和醫學實驗室Quest Diagnostics合作，提供云端存儲的基因測序和診斷分析數據，世界各地的專科醫師都可以獲取這些信息以提高治療水平。這種技術的發展其實已經遠遠超出了我們多數人的預期，未來可能會進一步加速。

2 人工智能會導致帕累托改進但短期會引發社會問題

人工智能的發展會帶來帕累托改進，以更少的資源生產更多的產品，給社會提供更多的服務。雖然長期來看，所有人都將從中受益，但短期一定有人承受轉型的陣痛。科技的發展會導致工作崗位的轉換，短期內會導致大量的失業。競爭和平均成本的降低會創造出新的工作機會，但這中間一定存在時間差和個人適應能力的差異，并非每個人都能均等受益。例如無人駕駛短期內一定會導致大量失業，但這是經濟結構改進和強化的必要條件。市場經濟一定會導致馬太效應，一方面科技巨頭可以通過創新迅速獲得大量財富，另一方面底層勞動力喪失大量就業機會。長期來看，科技發展會解決這種問題，但短期會造成諸多社會問題。長期來看目前我們幾乎所有的工作都可以用人工智能來代替。那我們到時候干什么？資源如何分配？埃隆·馬斯克提出了一種基本工資理論，但我們每個人仍然必須通過為社會提供服務獲得相應收入，從而獲得相應產品和服務，但由于效率足夠高，滿足生活所需的勞動時間會變得非常短。比如說，我們可能每月只需要工作一個小時，就可以獲得基本生活所需，對于稀缺性資源仍然需要大量勞動才能換取，這也是技術進步的基本意義所在，通過提高生產效率更好地實現人類的價值，為人類提供更多的選擇、自由和閑暇時光。

無人駕駛也會導致倫理、法律和哲學問題。機器代替了人，以前需要人承擔的責任現在有誰來承擔？那么未來是否由機器承擔。假如說在車輛無人駕駛途中，忽然從山上掉一塊石頭，旁邊有三個行人，應該怎么權衡？撞石頭會危及車內乘客安全，撞三個行人會危及他人生命。無人駕駛如何設計這種機制，如何界定責任？什么樣的倫理才是合適的？這需要更多的哲學家、法理學家集思廣益。

3 人工智能會導致社會治理權力的轉移

技術進步和經濟發展會改變社會形態，人工智能也會改變目前的社會治理模式。社會的決定權會否會人的手中轉移到數據手中？市場經濟和個人主義其實是一個一體化的系統。資本主義生產力的發展導致宗教改革，權力從神轉移到人，對人權的保護催生了契約式政府。但在算法面前，我們會忽然發現，我們的自由意志并不可靠，我們也會做出錯誤的決策。那么算法決定是不是可以避免這種錯誤？是不是可以幫助我們做出最佳的選擇？但是這里有一個很重要的倫理問題：如果我們所有決策都依賴機器，人存在的價值是什么？個體化的差異如何體現？個人的自由意志還能得到尊重嗎？

此外，如果算法足夠強大，那么誰控制這個算法誰就能控制整個社會。諸如臉書這種公司可能會決定我們生活中的一切，本質上對我們現在的社會治理體系是一種顛覆。人們可能會重回專制和計劃經濟時代，個人選擇權怎么體現。我們能否選擇不信賴算法，還是被強制要求一定要遵守算法的結果。無差異的完美社會是否一定優于有差異和缺陷的社會？自由意志是不是應該得到尊重？這個是人工智能時代一個非常關鍵的問題。如何在人工算法和自由意識間如何進行權衡？對此，人類簡史作者、歷史學家尤瓦爾·赫拉利在《未來簡史》中提出了一種赫胥黎式的反烏托邦主義，他指出了三大方向：人類將失去他們的經濟和軍事用途，經濟系統將不再有價值；對系統來說，人類整體將具有價值，但個體將沒有價值；然而，系統將在一些個體身上發現價值，“但他們將成為一個超人的新物種，而不是普通大眾”。赫拉利這里所說的“系統”指的是生物科學和信息技術以當前極快速度發展下去產生的新的社會。

超人的新物種指的是什么呢？人工智能也可以用于改造人類，也就是所謂的Cyborg（改造人），可以把人類變得更強大，但同時也會加速人類的分層。不是所有人都可以進行改造，也不是所有的改造都是相同的。金錢可能成為最終的衡量標準，而且會進一步加大階層間的分化。比如電影《鋼鐵俠》的盔甲和他的人造心臟肯定很貴，一般人負擔不起。這種改造人已經不是正常人類，它們擁有比我們人類有更強大的能力。普通人人類在它面前就成了另外一個新物種。最終可能是改造人占據統治地位，然后是機器人，最后是普通人。普通人可能最終走向奴役或滅亡，而改造人則會永生，他們會掌握普通人的命運。所以馬斯克說，人類可能淪為人工智能的寵物，也許并不是危言聳聽。

4 對人工智能的擔憂暫不影響其發展

2016年10月13日，美國白宮科技政策辦公室（OSTP）下屬國家科學技術委員會（NSTC）發布了《為人工智能的未來做好準備》（Preparing for the Future of Artificial Intelligence）和《國家人工智能研究與發展戰略計劃》（National Artificial Intelligence Research and Development Strategic Plan）兩份重要報告。前者探討了人工智能的發展現狀、應用領域以及潛在的公共政策問題；后者提出了美國優先發展的人工智能七大戰略方向及兩方面建議。其中第一份報告的主要觀點包括：

（1）對人工智能的擔憂暫不影響當前政策；（2）政府隨時監控技術發展；（3）呼吁美國政府加大資金支持；（4）全體公民準備接受人工智能教育；（5）預防機器產生偏見；（6）致力于確保人工智能的“道德”；（7）致命性武器難以預測。霍金說AI可能成為我們人類歷史上最大的錯誤，就像潘多拉盒子一樣，一旦打開，就再也收不回去了。但政府似乎對此并不擔憂，由于無法基于預測確定公共政策，當前美國政府的態度還是支持人工智能發展，但會密切關注其中可能發生的風險。從政策的角度看，美國《世界政治》雜志刊登了一篇文章《Safety First: Entering the Age of Artificial Intelligence》，認為我們可能無法避免AI帶來的災難，原因是：首先，因為避免災難是一種全球公共產品，所以市場在此方面投入不足。其次，短期選舉周期這種壓力確保了政治家們基本上沒有什么動機為其主要受害者（今天的孩子們和未來幾代人）目前無法投票表決的各種事件而投資于預防性政策。第三，在一種更加明顯和更直接的挑戰背景下，決策者們很容易駁回該問題，而且更容易忽視它。