無人區風景：數字經濟時代的人工智能

何海鋒 張彧通 劉元興

更加廣泛的AI商業應用場景、如雨后春筍般的AI創新企業和產業落地、持續有力的投融資支持，是人工智能第三次浪潮成功的關鍵。

2018年10月31日下午，中共中央政治局就人工智能發展現狀和趨勢舉行第九次集體學習。習近平總書記在主持學習時強調，人工智能是新一輪科技革命和產業變革的重要驅動力量，加快發展新一代人工智能是事關我國能否抓住新一輪科技革命和產業變革機遇的戰略問題;要深刻認識加快發展新一代人工智能的重大意義，加強領導，做好規劃，明確任務，夯實基礎，促進其同經濟社會發展深度融合，推動我國新一代人工智能健康發展。

這意味著人工智能已經正式上升到國家戰略決策和未來布局層面，成為影響國家未來的重要課題。可以想見，未來的大國競爭都將可能進入到一個以人工智能為核心的嶄新的“無人區”。

2018年9月，美國2019財年國防授權法案就批準成立了人工智能國家安全委員會，其使命是“著眼于美國的競爭力、國家保持競爭力的方式以及需要關注的‘道德問題，審查人工智能、機器學習開發和相關技術的進展情況。”11月15日，德國政府在內閣會議上提出一項人工智能戰略，計劃在2025年前投資30億歐元推動德國人工智能發展。12月7日，歐盟委員會在布魯塞爾公布了歐盟的人工智能研發和使用計劃，旨在打造歐洲自己的數據庫，以期與中國和美國展開競爭;歐盟委員會與除了瑞士、挪威之外的各成員國一致同意，到2020年前在AI領域投入200億歐元的資金，比2014年至2017年期間的投資高70%，而未來十年將一直維持這一投資水平。

誕生于二十世紀四五十年代的人工智能，一路走來，也是磕磕絆絆，幾起幾落，直到數字經濟時代才煥發出前所未有的活力，獲得“新生”。本文將探討，這種“新生”是如何發生的？在數字經濟時代，人工智能可能會帶來哪些新問題？人類如何在“無人區”里與人工智能和平共處，共享福祉？

人工智能在數字經濟時代的“新生”

世界人工智能發展有三次浪潮。第一次浪潮是從1956到1976年，標志性事件是人工智能（AI）這一術語在20世紀50年代的達特茅斯會議被確立、第一款感知神經網絡軟件和聊天軟件被陸續發明、數學定理被證明，這個時期，“符號主義”盛行;第二次浪潮是從1976到2006年，標志性事件是20世紀80年代Hopfield神經網絡和BT訓練算法的提出、語音識別和翻譯計劃以及日本第五代計算機的提出，這個時期，“連接主義”盛行;第三次浪潮從2006年一直延續至今，其標志性事件是2006年Hinton提出的深度學習技術，以及2012年ImageNet競賽在圖像識別領域帶來的突破。

前兩次浪潮都破滅了，直到第三次浪潮才使得人工智能真正興起。第三次浪潮，在時間上，恰恰和數字經濟時代基本吻合。數字經濟給第三次浪潮提供了兩個成功條件——技術發展和商業應用。技術層面主要是人工智能三個要素——數據、算力、算法同時達到拐點，即數據呈現大數據化，計算機的算力飛速提升，算法得到極大優化;從商業層面來說，可商業化應用和落地場景遠比前兩次更為廣泛，而且創業公司層出不窮，投資者也競相追逐。可以說，在以大數據為核心的數字經濟時代，人工智能獲得了新生。

（一）以技術為基礎的人工智能

除了機器學習、神經網絡、自然語言、語言識別、圖像識別、生物識別、智能硬件等以“算法”為核心的人工智能技術本身大發展的支撐之外，數字經濟時代還為人工智能產業發展配套、加持了其他技術，如大數據、云計算、區塊鏈、物聯網等新興數字技術。其中，大數據技術為人工智能產業發展提供數據生產資料，區塊鏈技術為人工智能產業發展重構生產關系，云計算技術為人工智能產業發展提供運算能力，物聯網技術為人工智能產業發展提供物理實體世界和數字虛擬世界無縫融合的連接點。

根據數字經濟的發展趨勢，可以大膽預測，人工智能將迎來第四次浪潮，那就是人工智能與虛擬現實的結合。算法預測使得時空可以接近靜止，而與VR的結合，則使得時空虛實結合、變幻無窮，使得人們在時空自由穿梭和旅行成為可能，夢幻將最終來臨。那時，物理實體世界和數字虛擬世界可以達到完全映射，即只需在虛實時空交互的賽博空間里運行虛擬數字虛體，發送數字指令，就可以完全驅動和控制物理世界的實體。

（二）以商業應用為推動力的人工智能

在數字經濟時代，除了技術發展層面支撐以外，其在商業應用層面提供的三個得天獨厚的條件——更加廣泛的AI商業應用場景、如雨后春筍般的AI創新企業和產業落地、持續有力的投融資支持，是人工智能第三次浪潮成功的關鍵。

1.AI商業應用和落地場景日益廣泛和細分。在“AI+”概念驅動下，AI技術在各個垂直領域（醫療、金融、電商、教育、農業、安防、家居、制造等）進行賦能，并全面開花，極大推動了人工智能的發展。依據MarketsandMarkets報告顯示：全球智能教育、智能金融、智能農業、智能零售市場規模從2017到2023年左右都將有大幅度增長，在2023年左右將分別達到36.835億美元、73.06 億美元、135 億美元、385.1 億美元。

2.AI創業企業層出不窮。依據中國信息通信研究院的《2018世界人工智能產業發展深度分析報告》，截至2018年上半年，在全球范圍內共監測到4998家AI企業，從成立時間來看，AI創業潮集中在2014年至2016年。

3.AI投資熱度持續不減。依據前述報告，2013年以來，AI領域投融資規模情況持續高漲，2017年AI投融資總規模達到395億美元，其中中國投融資規模達到277億美元，占比70%，成為AI領域全球吸納資本最多的國家。

（三）人工智能的“新生”影響——生產力的釋放

進入數字經濟時代，“大數據”與人工智能的相互支撐和融合，必然繼續拓展生產力要素的范圍，導致現代生產力的公式范圍擴展為“生產力=物質要素（勞動力、勞動資料和勞動對象）×精神要素（科學技術、管理和信息、分工、協作等）×市場因素（生產要素優化配置）”。作為生產力精神要素的人工智能技術，通過對物質生產力要素的嵌入式改造和融合來發揮其第一生產力的作用，相應地也會催生出以智能科學技術為標志的“智能時代”。

人工智能對物質三要素的滲透、改造、轉化及其相應融合和拓展效應具體表現為：（1）勞動力方面，人體智能強化、智能機器人主體地位的確立和勞動力身份的重構;（2）勞動資料方面，生產工具的強化，具體表現為工具力量的提升——智能機械力，以及工具智慧的增長——算力、算法、數據、架構;（3）勞動對象方面，勞動對象或加工對象的廣度、深度、范圍因為智能科學技術而極大地突破和拓展了，具體表現為作為勞動對象或加工對象的自然界，可以將人類探索獲知或勞動所及的范圍大大擴展，比如粒子世界、外太空、多維世界、虛擬現實、時空隧道、高維體等。

此外，在數字經濟時代，金融和技術融合是一種必然趨勢，智能金融應運而生。智能金融，實現了對物質要素和精神要素之外市場因素之一的“資本”要素進行高效優化的智能配置，必然能促進數字經濟的革命性發展，對經濟產生極大的“涌現”效應。這是數字經濟時代金融市場優化配置功能的革命性表現，是生產力進化的最高階體現。

人工智能之隱憂

智能，一直是人類賴以自豪的“人之所以為人”的一大因素，所以，自人工智能誕生之日起，人類智能便是其模仿、超越的對象。這就是為什么Alpha Go戰勝圍棋國手，摘取了“人類腦力活動”的至高皇冠時會引起人類的恐慌。以“索菲亞”機器人為代表的人工智能體也始終從外形、聲音、表情、肢體動作等方面盡可能地模仿人類。人類自己創造了另一類可能成為競爭者、對立面的“生物”。人工智能和人工智能體給人類社會帶來了倫理、法律、經濟等難題。這些難題有些已經有所展現，有些正在成為未來發展的阻礙。

（一）人工智能引發哲學疑問，帶來倫理沖擊

1.人工智能體、人工智能模糊了“人”與“物”的中間地帶。一個明顯的例子是，當智能體逐漸取代理財師、交易員和客服代表，當我們把自己的財富需求理所當然地交付給人工智能的時候，我們如何看待它？作為工具的它超越了一般工具帶來的智能體驗，甚至會模糊、混淆我們對于其“工具屬性”的判斷;但作為“交易對手”的它又的確是機械、代碼所組裝起來的冷冰冰的“機器”。人工智能模糊了情感判斷，模糊了獎懲機制，將倫理帶入了一個新的領域。

2.人類智能無法解開人工智能算法黑箱。近些年發展起來的人工智能大多基于深度學習。各種復雜的算法網絡往往導致運算過程不可知、不可控，最終會形成人工智能算法的混沌自我決策機制。這種決策機制還可能導致價值判斷的“反動”，即人工智能算法的“最優解”往往與人類社會的常識與倫理相背離。比如說金融算法中經常出現的算法歧視。

3.人工智能技術的發展帶來了“工具倫理”的恐慌。人工智能正在逐漸脫離人類的認知和控制范疇，伴隨而來的是對于未來技術的恐懼。人工智能被作為技術工具使用，其危害程度超越了一般的新型技術。

（二）人工智能打破法律鏈條，制造權責難題

1.從靜態權利義務狀態來看，人工智能以及人工智能體屬于法律規范的主體還是客體，尚沒有定論。按照傳統產品責任法、物權法、知識產權法的觀點，人工智能體或者算法是產品或者服務，開發出人工智能體、人工智能的公司或者個人享有所有權或者依照合同約定辦理。難度最大的是人工智能可以“獨立自主”地創造產品或者服務。在這個過程中，并沒有凝結人類智慧和勞動。

2.從動態責任歸屬與追責的角度來看，人工智能一旦侵犯了人類的合法權益，追責難題伴隨而來。人工智能是否可以問責，對誰問責，如何問責？與人工智能開發、維護、運營相關的主體承擔什么樣的責任？現有的“合同責任+侵權責任”的法律框架勉強可以把部分“弱人工智能”產品納入。例如《資管新規》第二十三條規范了金融機構在運用人工智能技術時，“因違法違規或者管理不當造成投資者損失的，應當依法承擔損害賠償責任。”但是對出于人工智能自己的運算所形成的“意志”與“行為”如何追責尚不可知。比如，在競爭與壟斷方面，智能算法可能會形成自我合謀，可能出于中立性卻導致客觀“違法行為”等。這方面的權利義務關系需要新的法律理論支撐。

（三）人工智能間接影響多元社會，重塑社會形態

人工智能的快速發展，首先給社會帶來的是恐慌。理性思考之后，人工智能技術以及人工智能體作為數字經濟時代的重要生產力，其對社會帶來的效果中，促進多于抑制。但是與此同時，新技術的采用的確會影響財富的再分配，某些算法可能會強化“強者恒強、弱者恒弱”的二八趨勢。

此外，人工智能還影響了人類就業市場，造成從業者的“飯碗恐慌”。根據2018年《世界銀行報告》，技術的發展與使用可能會在一定程度上替代人力。畢馬威與德勤有關人工智能和就業的研究結果顯示，短期來看，中低端職業被替代的比例更高;長期來看，人工智能的使用與就業是相互促進的關系。技術的運用不僅改變財富關系和人力就業，還會給某些行業帶來徹底的影響，變革行業模式。例如傳統以經驗為基礎的金融風控被以大數據為基礎的大數據風控所替代。人工智能成倍地提升了數據處理的效果，實現了對信用風險的精準分析，解決了信息不對稱引起的逆向選擇和道德風險問題，加速了金融產品和服務創新。

在前數字經濟時代，以上問題可能還沒有那么明顯，盡管有一些已經在理論家腦海的想象之中。數字經濟時代，面對海量數據，人工智能獲得了豐富的運用場景。上述幾方面難題，人格倫理、算法黑箱、法律權責以及行業生態都已經或者正在發生。比如，卷積網絡技術的廣泛運用，黑箱算法在許多領域都成為了迫切需要解決的問題，這在資本市場尤為顯著。比如，運用神經網絡進行資本市場投資的諸多人工智能算法可能會基于不同的策略出現同質化問題，這一問題的出現是正式算法演算過程無法窺探所導致的。另一個與人格倫理難題有關的發展方向是，向善的人工智能正在逐漸被人類社會用來對抗新技術運用的倫理所帶來的張力。

在“無人區”與人工智能共舞

人工智能為人類所創造，并且為人類所廣泛使用，“無人區”的范圍將不斷擴大。例如，根據世界知名的技術咨詢公司Gartner的預測，30%的公司將在2020年前使用人工智能技術來增加至少一個主要銷售流程，在2020年左右，人工智能作為網絡工作“發動機”，將創造230萬個工作機會，同時也會消滅180萬個工作崗位;到了2021年，人工智能技術將產生29，000億美元的商業價值，并節省62億小時的人工;在2022年，五分之一從事非常規工作的工人將依靠人工智能來完成他們的工作。

隨著“無人區”的拓展，人格倫理、算法黑箱、法律權責等問題也會進一步擴散，政府、公司、個人都應當制定相應的策略，以應對變化，做到與人工智能優雅地共舞。

（一）政府應當在促進行業良性發展、人才培養、社會治理等方面有所作為

一是在思維方面轉向數字化、專業化、服務化。數字經濟會重構政府的信息收集、獲取、分析、使用，數據在各方面改變著社會形態，政府人員需要在思維上有所準備。

二是應當大力發展數字經濟產業。推進產業結構調整、拓展創新空間都是推動數字產業發展壯大的重要抓手。產業發展離不開政府的推動。例如，早在20世紀末，美國克林頓政府提出“建設信息高速公路”，使得美國在網絡發展領域占據了幾十年的領先身位。在這一輪的數字經濟競爭過程中，我國政府先知先覺，也通過《關于積極推進“互聯網+”行動的指導意見》等政策矩陣促進數字經濟行業發展。

三是積極做好數字經濟的人才培養和就業促進工作。比如，政府要創新社會保險制度，合理分配社會各類主體的責任負擔;政府還需要減少相關行政流程，提高人力資源市場配置效率。

四是在社會治理方面有效地涵蓋各類社會主體，形成覆蓋全社會的治理格局。人工智能有著極強的外溢效應，全社會都會受到該技術的影響。所以政府需要創新社會治理方式，把握向善的人工智能底線，改善社會治理。

（二）面對人工智能的變化和政府角色的變化，人工智能運用的絕對主體——社會企業始終處于數字經濟的第一線，其角色和權責分配是重中之重

首先要注重直接投資人力資本。為了在人工智能技術創新中利于領先地位，企業首先要重視直接投資人力資本，聚集人工智能行業內的高精尖人才，形成規模效應。其次要關注基礎研發。企業的基礎研發能力是此輪人工智能創新競爭的原動力和核心競爭力。沒有具自身特色和獨有的研發成果，就沒有競爭優勢。再次要積極與政府、其他社會組織以及個人形成互動。互動是企業活動的重要內容。一方面要配合政府改革，在與創新相關的事務上加強與政府的溝通;另一方面要積極與員工、消費者等個人保持互動。

（三）個人是受人工智能沖擊的最直接主體，也最應當做好數字化的準備

各類研究機構普遍認為不同層次的人才受到人工智能技術的沖擊不一。世界銀行和MIT都持這樣的觀點。還有很多人士擔心人工智能對專業崗位的沖擊，例如傳統制造業向智能制造轉型時的失業浪潮，智能大數據風控對傳統風控業態的改變同時佐證了這一觀點。人工智能對個人的沖擊是結構性的，不用過于拘泥于技術沖擊的細節。在數字經濟時代，個人應當逐漸將自己向數字人才的方向轉變。數字人才既是技能的數字化，包括掌握數字技術的人才;還是思維的數字化，是適應數字經濟時代經濟規則、社會秩序的勞動者。

參考數字人才的分析模式，我們認為，人工智能沖擊下的個人應當兼具三類特征。第一，個人應當是了解、掌握人工智能技術的通才與專才。個人應當至少對人工智能的運用有所了解，大量的工作將會依托人工智能展開。這樣才能夠有應對人工智能技術發展的信心。第二，個人需要自我提升，不僅要了解技術知識，更需要掌握倫理道德與社會科學等通用知識。技術帶來的變革是立體性的，思維、倫理、社會都處于劇烈變化中。個人了解符合數字經濟時代的倫理道德與社會科學是正確應對的標準姿勢。第三，個人要保持自身思維的獨立性和團隊協作的協調感。個人的角色在數字經濟時代反倒會更加凸顯，真正有創造力的是個人，保持思維獨立性十分重要;與此同時，團隊協作是工業經濟時代所延續下來的寶貴遺產，有效的分工將會極大地促進個人價值的體現。

未來已來：迎接各種可能性

2017年10月17日，英國議會會場來了個機器人。日本軟銀機器人公司（SoftBank Robotics）開發的一個名叫Pepper的機器人作為特別委員會的證人出現在了下議院，與議員們探討人工智能的興起對勞動力市場的影響和教育的未來等問題。據說，這是英國議會700多年歷史上第一次邀請非人類參會。這場發生在古老莊嚴的威斯敏斯特宮里的，由保守古板的英國議會發起的法律與科技、歷史與未來的碰撞自然引起了廣泛的關注，特別是在社交媒體上掀起了討論的熱潮。雖然事實遠沒有想象的那么戲劇性——這個機器人在會場上的發言都來自米德爾塞克斯大學的機器人研究人員編寫的預編程答案，而不是機器人自己的發言，而且這些研究人員也都在同一小組中作證。因此，這場議會里的機器人秀更像是軟銀機器人公司的一個新產品展示，目的是幫助立法者了解這些新產品可能對勞動力市場和教育產生的影響。從這個意義上來說，這個機器人在議會里所“扮演”的角色和其他更廣泛的“非人類”——一張照片，一盤錄影帶——并沒有多大區別。

這次議會會議之所以引起廣泛關注，主要是這個機器人背后所代表的人工智能技術，以及這一技術可能引發的直指人類本身的無限廣闊的可能性。實際上，人工智能從誕生之日起，就被寄予或者強加了“人類解放者”或“人類替代者”的功能，而作為反面角色的“人類顛覆者”或“人類終結者”的想象也始終伴隨左右。2004年，20世紀福克斯出品了改編自阿西莫夫小說的電影《機械公敵》，講述了未來機器人給人類帶來的福利和困擾。影片中描述的獲得了自覺意識后的機器人的反叛讓人刻骨銘心。我們面前的“無人區”，并不只有美好，而是充滿了各種可能性。未來已來，我們都應當有所體認和準備。

（作者單位為京東數字科技研究院法律與政策研究中心）