《人工智能時代》博弈不確定的未來

鄭渝川

享譽世界的頂尖級人工智能專家、斯坦福大學人工智能與倫理學教授杰瑞·卡普蘭曾創建過Go公司、Onsale（全球首家在線拍賣公司），設計了世界上首臺筆觸式計算機，在美國科學界、產業界和政界有著很強的影響力。他所著的《人工智能時代》一書，主要從人工智能和機器人所必然帶來的技術和社會風險入手，探討了應對這些風險的可行之策。

谷歌研發的自動駕駛汽車已經累積了數十萬英里的安全駕駛記錄，預計數年內，這種無需人類駕駛的車輛將廣泛投放市場。但隨之而來的一個倫理性問題是：如果無人駕駛汽車出了車禍，責任應該歸結于誰？如果搭乘車主的無人駕駛汽車，正要經過一座狹窄的橋，橋對面忽然開來了滿載兒童的校車，這座橋無法容載兩輛車，必須要有一輛車馬上掉下橋去，才能保障另一輛車的安全。那么，無人駕駛汽車是會毫不猶豫地沖上前去，為車主清除隱患，把校車撞下橋去呢，還是自殺性地開下橋，犧牲車主以保全更多兒童的性命安全？

類似的倫理疑問還包括：如果你或你的家人突發重病，但無人駕駛汽車卻拒絕超速趕往醫院，你該怎么辦？如果有家長讓未成年的孩子喝酒，家傭機器人是否應當馬上啟動報警程序？

人工智能時代已經到來，機器人的智能化程度大幅提升，機器人已擁有了從經驗中自我學習的能力，還能對現實問題作出快速反應。但有關人工智能、機器人的倫理性問題，卻比單純的技術問題更難得以解決。

在卡普蘭看來，相比于過去的智能化機器，機器學習已有了本質的區別，已經“發展出自己的直覺力，然后用直覺來行動”，這也將使得機器人可以更為踴躍地進入人類世界，接管過去僅能由人執行完成的形形色色的工作。在過去，投放到醫學、工業等多種領域的機器人，都存在精準性、力量性、持久性不足等問題，使得機器人適應環境的能力較差，只能在啟動之前盡可能精準地設定，但隨著機器感知領域的突破和發展，“未來的機器人可以看到、聽到、做計劃，還能根據混亂而復雜的真實世界來挑戰自己”。

卡普蘭預言，終有一天，隨著傳感器、反應器以及無線通信的不斷進步，人工智能將以合成智能的方式，與人體甚至其他物體合而為一——“未來看起來會比你想象中的更像過去”。

智能時代毫無疑問會釋放出更多的技術紅利，但風險也不可小覷。卡普蘭特意提到，隨著在金融交易中越來越多地加入人工智能，高頻交易程序一方面減少了市場震蕩，另一方面卻會將風險轉嫁給一般的交易者，讓交易者獲得的交易價格偏離于最佳價格。這種情況在商業領域中也有表現，比如全球知名電商企業亞馬遜通過復雜算法，使得不同顧客在不同時段獲得的報價各有不同，并通過智能化的購買數據分析，推出更具誘惑力的促銷方案，誘導顧客購買更多原本不需要購買的、實際上也并不那么價廉物美的商品。從目前情況來看，在合成智能方面投入最多的企業，無不熱衷于將之應用于操控用戶的注意力和購買力。

更進一步的風險在于，由于人工智能的設計僅僅服務于單一目的，因而未曾考慮是否存在副作用。比如，人工智能會搶在他人之前，（幫助主人）搶占車位，會在大蕭條之前惡意搶購超市貨架上的所有應急商品 ；與人對弈的機器人，不排除會使用“黑社會”式的手段，包括威脅對手的家人，破壞對手的交通工具。

要避免人工智能對社會體系甚至人類安全造成威脅，相關的智能設備、機器人開發和使用的倫理準則及立法，都應盡快提上議事日程；并且，在人工智能開發過程中，在增強單純的技術能力的同時，也應嘗試賦予它一種人類式的“感受同情和憐憫的能力”。

《人工智能時代》一書還探討了人工智能時代將帶來的另外兩大風險：一是智能化潮流所可能造成的持續性失業，可能會急速擴大赤貧群體，繼而引發社會震蕩；二是人工智能、機器人、大數據等新科技應用，會進一步加劇社會的貧富差距。

卡普蘭在書中指出，目前人們已經意識到，因為人工智能大幅度地提高了自動化作業的效能，從而產生了對工人的替代性，減少了工作機會；但人們大都還沒有意識到，“很多科技進步會通過讓商家重組和重建運營方式來改變游戲規則。這樣的組織進化和流程改進不僅經常會淘汰工作崗位，也會淘汰技能”——無論是藍領工作，還是律師、醫生等帶有很強專業性的技術崗位，傳統的技能都可能被智能化所替代，變得低效，這也將迫使學校和職業培訓機構改變課程體系，以確保（部分）學生、培訓對象能夠擁有強于智能設備的技能，這就意味著，無法通過這種新型教育、培訓課程檢驗的人，將被未來的職場所拋棄。