人工智能的爆發與隱憂

趙福帥

“移動互聯網時代已經結束，未來屬于人工智能”。在2016年11月16-18日舉行的第三屆世界互聯網大會上，百度董事長李彥宏表示。在烏鎮會場外，百度展示了18輛無人駕駛汽車，普通大眾都能在全開放城市道路上試乘，體驗一把本屆大會最熱門的話題——人工智能。

人工智能是具有類人智能甚至超越人類智能的機器，是對人類智能活動的替代、解放和強化。這種智能可以是計算，也可能是思維、意識、情感等。目前，人工智能已經應用在無人駕駛、人臉識別、定理證明、智能控制、博弈、語言識別等眾多領域。

比如，美國政府2016年10月份就制定了一個野心勃勃的目標：在30年內把美國的交通事故死亡人數降為零。2015年美國的交通事故死亡人數增長7.2%，死亡人數為35092人。美國國家高速公路交通安全管理局（簡稱“NHTSA”）表示，人為因素在交通事故中占比達94%，無人駕駛可以完全消除這項因素。

眾多學者和企業更是將其視為重新激活世界經濟的主要引擎之一。不過，在這之前還有很多技術、法律乃至倫理問題需要解決。

無人駕駛瓶頸

美國當地時間9月23日，谷歌無人車在山景市與一輛商務貨車撞在一起，這可能是谷歌汽車遭遇的最嚴重車禍。谷歌汽車的右側車門被撞出大面積的凹陷，車窗遭到一定程度的損壞。車禍沒有造成人員傷亡，氣囊已經彈開。這起事故是貨車司機的失誤造成。2016年2月14日，谷歌無人駕駛汽車與一輛公交巴士發生輕微碰擦的事故，這是谷歌首次表示無人駕駛汽車應當“承擔部分責任”，地點同樣位于加州山景市。

特斯拉公司生產的S型電動轎車則已出現數例自動駕駛模式下的交通死亡事故。2016年1月，河北省邯鄲市就曾發生特斯拉自動駕駛致人死亡事故，這應是全球首例。另有業內資深人士透露，特斯拉自動駕駛出現的事故其實多數未被報道。

這些事故都不斷引發外界對自動駕駛技術是否足夠成熟的質疑。

根據美國加州2012年通過的相關法案，允許無人駕駛汽車上路測試，但需要合法駕車人坐在駕駛座位上，在緊急情況時操縱汽車。特斯拉汽車的操作手冊也提醒駕駛者，即便在自動駕駛中，也需要把手一直放在方向盤上。但現實中，駕駛員往往喜歡冒險和刺激。

至于技術成熟后的大規模商用，NHTSA表示，沒有方向盤和油門的無人駕駛汽車在美國市場銷售之前，相關法規必須做大的調整。

在中國，無人駕駛汽車同樣面臨法律障礙，問題主要集中在牌照和事故責任認定兩方面。

無人駕駛汽車一旦在測試或商用時發生事故，就面臨責任劃分、理賠等問題。無人駕駛系統、司機、對方的責任如何劃定？由于無人駕駛汽車是由多家企業集合研制，這些企業的責任又將如何劃分？如果無人駕駛和有人駕駛可以切換，責任又將如何劃定？

“應當盡快對事故后保險公司的理賠、無人駕駛技術平臺與保險公司對于硬件、軟件供應商的責任追償開展立法工作。只有健全理賠體系時，才能夠消除無人駕駛技術的測試與研發過程中各方的后顧之憂，切實推動技術的進步與發展。”中國政法大學傳播法研究中心副主任朱巍向《鳳凰周刊》表示。

中國科學院大學公管學院副教授劉朝表示，由于無人駕駛汽車仍在測試階段，技術路線等都不確定，國家層面法律的修訂和出臺應慎重，自下而上的政策法規嘗試和探索不失為一條穩妥而高效的路徑。另外，在此過程中特別需要可靠的傳播媒體和真正中立的社會組織發揮積極的作用。

人工智能引發失業潮？

2016年1月，IBM公司開發的Jill Watson分析系統開始幫助美國佐治亞理工大學的畢業生解決畢業論文中遇到的各種問題。Watson在回復電子郵件和論壇發帖時，語氣隨意，與正常人無異，而且會使用很多口語，能在幾分鐘之內準確地回應問題。

在五個月的試驗中，沒有學生發現他們的助教是機器人。

類似的人工智能技術已經被應用在法律服務、醫療助理、金融分析等多個領域，與此相應，部分崗位正在被這些智能機器所替代，從藍領到律師，從醫生到華爾街分析師。

人工智能技術最有價值的應用可能是金融業。在金融領域，每提升1%的收益就能獲得巨大的財富。畢馬威在近期一份報告中預測，到2030年銀行及其服務可能“消失”，類似于蘋果Siri的人工助手將接管客戶的生活與金融服務。傳統銀行的多數部門或將消失，而專業的服務則將獲得更大發展。

一些評論家預測，人工智能會使得某些工人的技能多余化，那些被自動化所取代的工人不得不尋求新的就業機會。即便這部分工人能夠找到新工作，也常常是低附加值的，且工作穩定性更低。從這個角度講，人工智能不僅可能增加社會不公，更會帶來永久性的失業以及貧窮。

諾貝爾經濟學獎得主斯蒂格利茨就認為，勞動市場正因為技術變化而發生重要轉變，要保護勞動力，就必須對人工智能和自動化系統相關的監管和其他政策變化保持高度重視。

真格基金創始人徐小平近年投資了多個人工智能項目。在他看來，人工智能對人類的影響和沖擊將是全方位的。

“有人說，在美國除了卡車司機和銷售員，其他工作都在被替代。不幸的是，卡車司機也在被替代。高中學歷的美國卡車司機年薪7萬美金。所以，特朗普崛起了，支持他的多數是沒上過大學的白人，他們在全球化和高科技面前成為失意者。”徐小平告訴《鳳凰周刊》。

新近涉足人工智能的雅瑞資本聯合創始人張瑞君相對樂觀，她告訴本刊，目前投資的項目其實主要是代替人們所不愿從事的低端機械化工作，使人們騰出手來，去做更高端、更有創造性的工作，這是一個逐漸的過程。“而且人工智能產業本身也正在吸納眾多高回報的創業與從業者。”

三角獸科技聯合創始人馬宇馳就正忙于招聘多位工程師。2016年2月，他與曾效力百度度秘、微軟小冰的王卓然、亓超合伙創業，目標是打造一套智能聊天對話系統。其產品主要針對物聯網設備，讓機器聽懂人說話，并作出反饋。其公司目前已獲得兩輪共3000萬元融資，產品已經應用在錘子T3手機、Rokid機器人等。

馬宇馳向本刊介紹，根據行業預測，2020年全球物聯網設備數量將達240億部，智能終端設備將達到340億部，產業和就業空間巨大。“如何快速提升勞動者的技能，這需要社會、政府、教育等的努力，而且人工智能也可以作為培訓勞動者的工具。”徐小平說。

沖擊人類生存與倫理

2016年3月，谷歌公司創造的人工智能程序阿爾法狗以4：1戰勝世界圍棋高手李世石，這引發了全球對人工智能的再度關注和廣泛思考。有評論說，從現在起，如何管控人工智能，應該成為一個嚴肅課題。

人工智能的失控乃至危及人類并非遙不可及。美軍無人機在阿富汗等中東地區已經多次誤傷平民。

科技界的一些知名人士正呼吁禁止“殺手機器人”，他們警告稱，越過這一界限將啟動一場新的全球軍備競賽。盡管“機器人士兵”仍限于設想，但伴隨人工智能快速發展，軍隊可能在未來20年內部署這類機器人。事實上，包括中國在內的各大國都在加緊研發水、陸、空無人作戰平臺。

根據摩爾定律，計算機的運算能力每兩年就翻一倍，假以時日，尤其人工智能具備強大的自進化能力后，其威力可能超出人類想象。也許它將能讓人類永生，同樣可能的是地球上所有生命的終結。

物理學家史蒂芬·霍金是憂慮派。“人工智能的強力崛起，可能是人類歷史上最好的事情，也可能是最糟糕的。”霍金在一次演講中說，“將來，人工智能可能會發展出來它自己的意志，一個與人類相沖突的意志。”

當然，機器人也可能并不與人類沖突，而是發展出人類的意識與情感。這同樣會遭遇棘手的法律和倫理問題。

阿姆斯特丹自由大學羅伯特·哈文教授就指出，應該研究是否需要明確機器人的法律主體地位，并思考從民法、公法、隱私法、知識產權法等維度構建機器人法律框架。就像從嬰兒到成人，伴隨機器人的進化，它將被不斷賦予更多的人權與責任。

中國學界也已行動起來。北京大學知識產權學院常務副院長張平告訴《鳳凰周刊》，幾年前她就關注人工智能問題，并醞釀籌備“中國科技法學會人工智能法專業委員會”，2016年8月委員會正式設立。

張平介紹，專委會將致力于與人工智能相關的倫理、政策和法律法規研究，從近期棘手的無人駕駛，到遙遠可怖的“超級人工智能”，為中國政府和業界提供必要的預警和前瞻研究。