基于政企關系的人工智能時代公共治理難題

董金潔

【摘要】人工智能時代的到來，讓政府和企業之間的互動關系變得更加復雜：縱向上體現為政府對企業的監管關系，橫向上體現為政府和企業的合作關系。且這種網狀關系與公共領域中新出現的三類問題，即由于人工智能技術發展不成熟造成的問題、由于人工智能技術沖擊了傳統的社會形態而使傳統社會向新時代過渡的過程中出現的結構性問題、由于人工智能的不當利用產生的問題相互影響。

【關鍵詞】政府治理;公共治理;治理能力;人工智能

一、背景和研究框架

1950年，阿蘭·圖靈以“一臺機器是否能與人進行對話，而不被人發現其機器身份”的標準來測試機器是否智能，因此人工智能（Artificial Intelligence）可以被定義為“電子計算機模擬或實驗的技能”。尤金·古斯特曼聊天機器人于2014年6月8日成功通過圖靈測試;2016年3月15日，谷歌公司研發的阿爾法狗以4：1的成績戰勝圍棋九段高手李世石。人工智能時代，將提供社會轉型新動能，帶來社會治理新挑戰。2017年3月5日，中國《政府工作報告》中首次提到了“人工智能”，同年7月20日，國務院發布了《新一代人工智能發展規劃》，表示要大力發展人工智能產業。2017年以來，在政府的支持和企業界的努力下，人工智能向交通、金融、安防、法務等領域滲透。根據《2018-2023年中國人工智能行業市場前瞻與投資戰略規劃分析報告》顯示，人工職能產業規模也在不斷擴大。在支持和鼓勵人工智能產業發展的同時，政府也加強了與人工智能企業的合作。社會科學學界對時代背景下的政府治理進行了研究：梁芷銘強調了大數據時代國家治理主體變得更加多元;陳之常介紹了大數據運用對于社區公共服務水平的實際成效;王山認為大數據時代政府面臨的挑戰體現在治理機制和人才素養沒有符合時代要求等。

現今的公共管理理論之下，都強調了不同的主體共同治理公共領域，人工智能產業的興起，尤其改變了技術企業在公共治理領域的話語權，因此作者從個體的分析角度，聚焦于政府和技術企業在治理過程中二者的互動關系。

二、公共治理難題

（一）對政府決策的影響。1.對官僚決策本身的挑戰。首先，人工智能造成了官僚決策時對技術的惰性依賴。研究人員高登·潘尼庫克也認為：“過度依賴網絡尋找答案使得人們無法知道其實自己擁有想出答案的能力”;另一名研究人員納森尼耶·巴爾指出：“過度依賴從外部獲得信息，而非自己去學習或解決的積極思考，這種發展具備破壞性”。人類必然會在社會行為和決策中越來越依賴機器的作用，從而逐漸失去自己的決策和判斷能力。官僚過度依賴人工智能技術實際上會讓官僚在決策時潛意識讓機器替代了自我思考。其次，人工智能時代的官僚績效標準反而讓官僚的這種惰性產生難以被發現。人工智能時代電子政務水平建設是衡量官僚績效的重要標準，官僚在進行公共治理時完全可以依賴人工智能進行決策，并且讓官僚的治理行為由于這種被認可了的科學手段的運用而變得同樣科學合理。此時官僚不再需要那么多的自我決策能力就能在年度測評中達到及格甚至優秀，官僚的注意力更加傾向于購買人工智能服務而非自我決策思維的鍛煉。2.對官僚決策的認同性挑戰。一方面，從提供決策方案的角度來說，人工智能輔助政府決策的過程，實際上是基于大量數據由機器根據一定的算法進行邏輯推演而得出結論的過程。政府運用人工智能做出的決策，實際上也只是在有限的結果，即經過系列算法給出的限定方案之下做出的選擇，這似乎從前提上就限制了政府決策的自由意志;另一方面，如公民向政府的政務咨詢，由人工智能來回應的話，是否具有權威性和合法性。如果說不能簡單地將前者嚴峻化到給社會定義了一個新邏輯，即機器操縱人的話;后者至少體現了政府為了追求效率性而將與公民直接對話的機會讓渡給了機器。2017年底進行的埃森哲調研的報告中顯示，66%的受訪者表示對政府使用人工智能的道德和責任缺乏信心。

（二）對政企合作關系的影響。縱向上來說，人工智能時代的社會形態近似于網絡社會，呈現出“扁平化”的特征。人工智能時代要求政府和技術公司進行合作來共同治理公共領域事務，政府和技術公司在合作中各持有合作的籌碼或者稱之為談判的依據，政府的籌碼系權力資源，技術公司的籌碼系技術資源。從供需角度看，人工智能作為市場上的產品或服務，其供給方是企業，其需求方是政府，隨著政府的需求越來越大，人工智能的價格也越來越高，也意味著企業的籌碼在不斷加重，潛在改變了技術公司在特定領域中和政府的互動關系，沖擊了以前基于權力關系下政府對企業的強制約關系。總的來說，一方面，政府作為市場的監管者，與企業的關系是監管者和被監管者的關系，且這種關系始終會被考慮到政府和企業的互動過程中;另一方面，由于公共領域的特殊性質以及政府在公共領域中承擔的職責以及扮演的角色，企業利用談判籌碼來獲得的好處始終會限制在一個幅度范圍內：政治上，在政府放權的閾值之內;經濟上，在政府財政預算的閾值之內。

（三）對治理對象的影響。1.人工智能對就業的影響。根據日本《經濟新聞》和英國《金融時報》共同研究調查發現，在人類的820種職業、2069項業務中，約有34%可被機器人替代。根據牛津大學的統計，未來人工智能的發展會取代1000萬個工作崗位。達成共識的是，被人工智能所取代的勞動者當中，受影響程度最重的是中間技能勞動者，而對高技能行業和低技能服務業的就業崗位有所增加。因此，這部分失業的中間技能人員的結果無非是以下四種：（1）失業;（2）勝任低技能服務業;（3）沉浸在被人工智能奪走工作的憂慮中繼續原崗位;（4）經過培訓實現高技能就業。由于被取代的勞動者實際上選擇另外一種結果都意味在原崗位上的職位被“降級”，這四種選擇都蘊含著潛在的心理上的不適。2.人工智能對收入和地位的影響。人工智能的出現能產生不平等。首先，人工智能技術促使生產過程中資本要素的份額提升，而使勞動者的工資收入減少。將人工智能技術運用到非常成熟的階段時，即進入超人工智能階段的時候，社會可能會更加分層，一類人屬于無用階層，對社會毫無貢獻，這是否會造成有用階層對于無用階層的統治呢？其次，由于智慧產業以及人才的集聚，各地區的人工智能水平發展不一致，也會加大地區之間的不平等。3.人工智能產品的侵權與追責。人工智能產品具有一般產品的特征，即技術以及依托技術誕生的產品意志始終和使用者的意志保持一致，在不考慮負外部性的情況下，使用者的破壞性利用方式會使人工智能運用產生負面效果，該特性決定了人工智能可能產生的負面效果的大小。安裝了微型廣角鏡頭，配備高靈敏度的傳感器和高容量的炸藥，可以準確地瞄準目標并成功實施殺害攻擊對象的殺手機器人就會給社會帶來極大的安全風險。同時，人工智能產生的負面效果細微到難以被人察覺的入侵人類隱私上。由于人工智能一方面具有擬人格化的特性，有時會自動發出指令以及做出行為;另一方面，人工智能仍然是由人類所創造出來的。因此，這種擬人格化的由人類創造出來的行為體的行為后果承擔、責任歸屬在我國法律上還未完全給出一個解決方案。因此，受到人工智能傷害的受害人尋求法律救濟這條道路上是模糊的。

人工智能的發展不僅帶來新的失業、不平等以及侵權等問題，也在此基礎上誘發了犯罪與安全問題和一系列群體性事件。1.犯罪與安全。人工智能剝奪了中等技術勞動力的工作走向的第一個結果，即失業，與滋生犯罪有明顯的實證關系。另外，研究證明收入差距使刑事案件數量明顯增加，并集中在包括兇殺和傷害在內的暴力型案件以及盜竊財產型案件。另外，人工智能技術的運用本身便會進一步升級打擊的力度和密度，前述提及的殺人機器人，若頻繁出現在城市中，難免會遭到不法分子利用。相關統計顯示，2016年以來發生的網絡攻擊事件中，與人工智能相關的事件占到了六成。且如果該機器人自動做出行為但對象誤判時，將會給公共安全帶來極為嚴重的危害。2.群體性事件。1970年，社會學家格爾提出了“相對剝奪感”的觀念，認為當一個人在社會中的價值能力低于個人的價值期望時，人們就會產生失落、不滿足感以及相對剝奪感。人工智能剝奪了中等技術勞動力的工作，導致原本可以勝任中等技術崗位的勞動者只能選擇低技能要求的服務行業，這讓該群體容易產生心理落差而帶來不滿。同時，時刻帶著失業恐懼的勞動者自然也不會產生較高的生活滿意度，而生活滿意度與群體性事件的爆發實際上呈負相關關系。以上問題按照發生的原因可以分為三類：第一類是由于人工智能技術發展不成熟造成的問題，如文件損害、輸入設備受損、安全系統漏洞、有瑕疵的編程等;第二類是由于人工智能技術沖擊了傳統的社會形態而使傳統社會向新時代過渡的過程中難以避免地出現結構性問題，如失業問題;第三類問題是由于人工智能的不當利用產生的問題。

（四）對監管的影響。埃隆·馬斯克提出：“我們應該十分小心地看待人工智能”。正如馬斯克所說，我們應該加大對人工智能的監管。與傳統公共領域的監管難題相比較，人工智能時代公共領域治理進行監管出現的新難題主要存在于以下三個限制：1.技術限制。人工智能由于技術門檻過高，因此政府對于掌握該項技術的技術公司的監管存在著技術方面的限制。2.經驗限制。隨著人工智能時代的到來，新技術的運用使特定的公共領域治理無經驗可以參照。比如在無人駕駛領域，由于政府無相關治理經驗，導致政府監管、法律規則都還是空白的。傳統的監管方式，如產品許可制度、研究與開發監管、產品侵權責任，都不適用于管理自主智能機器所帶來的風險。3.不易偵察的限制。開發隱秘的人工智能技術、零散分布的人工智能合作都難以被準確監管，這些都帶來了風險預見的困難，從而加大了對人工智能進行事前監管的難度。

三、小結

人工智能時代挑戰了政府和企業的合作形態，作為甲方的政府給了作為乙方的企業更多的利用人工智能技術在公共領域治理合同中的定價能力，作為監管者的政府由于技術限制、經驗限制、不易偵察的限制變得更加不易于履行監管職能。政府對于人工技能的依賴，削弱了政府的治理能力，不利于通過轉變職能解決公共領域治理中出現的第二類問題;政府的監管不力，則意味著政府對企業更加難以控制，而不利于解決公共領域治理中出現的第三類問題。且政府治理能力的相對減弱以及對技術公司的監管越發困難，使政府在和企業合作治理公共領域中不利于掌握談判的籌碼。同時隨著企業技術能力的增強，雖然一定程度上解決了第一類問題，但由于公共領域治理并不屬于企業的行為領域以及目標范疇，因此可能會存在著由于技術水平的提升而導致第二類問題和第三類問題更加嚴重。

【參考文獻】

[1]〔英〕凱文·渥維克，李碧等譯.機器的征途[M].呼和浩特：內蒙古人民出版社，1998.

[2]張成崗.人工智能時代：技術發展、風險挑戰與秩序重構[J].南京社會科學，2018（05）：42-52.

[3]梁芷銘.大數據治理：國家治理能力現代化的應有之義[J].吉首大學學報（社會科學版），2015，36（02）：34-41.

[4]陳之常.應用大數據推進政府治理能力現代化——以北京市東城區為例[J].中國行政管理，2015（02）：38-42.

[5]王山.大數據時代中國政府治理能力建設與公共治理創新[J].求實，2017（01）：51-57.

[6]何哲.面向未來的公共管理體系：基于智能網絡時代的探析[J].中國行政管理，2017（11）：100-106.

[7]董立人.人工智能發展與政府治理創新研究[J].天津行政學院學報，2018，20（03）：3-10.

[8]前瞻網.埃森哲：超半數公民愿意使用政府提供的人工智能服務[EB/OL]，https：//baijiahao.baidu.com/s？id=1595630304877517527&wfr=spider&for=pc，2018-03-22.

[9]鳳凰網.一個悲傷的事實：34%的工作將會被人工智能替代[EB/OL].http：//news.ifeng.com/a/20170424/50986589_0.shtml，2017-04-24.

[10]曹靜，周亞林.人工智能對經濟的影響研究進展[J].經濟學動態，2018（01）：103-115.

[11]AUTOR D H，SALOMONS A.Robocalypse now： Does Productivity Growth Threaten Employment？[R].ECB Sintra Forum on Central Banking Papers，2017.

[12]吳漢東.人工智能時代必須關注的社會風險及四大問題[EB/OL].http：//www.sohu.com/a/212128225_455313，2017-12-22.

[13]劉小璇，張虎.論人工智能的侵權責任[J].南京社會科學，2018（09）：105-110+149.

[14]章元，劉時菁，劉亮.城鄉收入差距、民工失業與中國犯罪率的上升[J].經濟研究，2011，46（02）：59-72.

[15]顏翠芳."城市貴族"的隕落：失業與犯罪[J].學術界， 2003（06）：217-221.

[16]王君寶.人工智能急需網絡安全"背書".經濟參考報， 2016-9-30.

[17]周曉咪.群體性事件中社會心理分析研究綜述[J].改革與開放，2018（02）：84-85+89.

[18]李保臣，李德江.生活滿意感、政府滿意度與群體性事件的關系探討[J].中南民族大學學報（人文社會科學版），2013，33 （02）：90-95.

[19]馬修U.謝勒，曹建峰，李金磊.監管人工智能系統：風險、挑戰、能力和策略[J].信息安全與通信保密，2017（03）：45-71.