人工智能與未來政治的可能樣態

龐金友

(中國政法大學政治與公共管理學院,北京102249)

在人類發展史上,任何一場新技術革命都對政治的發展和變革影響深遠。到了人工智能時代,在大數據、云計算、物聯網等信息技術的加持下,無論是利益的提取和綜合還是權力的運作,抑或決策的醞釀與輸出,政治行為大多以數字形式即時呈現并精準表達。這些新變化對傳統政治理論和實踐構成重大沖擊和挑戰的同時,也在實質上推動新型政治樣態的塑造和發展,激發人們對智能政治未來變革的前瞻和預判。所謂的“智能政治”是對人工智能時代政治現象和政治關系的統稱,具體意指因人工智能不斷滲透和介入政治領域引發的一系列政治變化和革新,諸如治理體系變革、權力結構重組、民主形式更迭以及統治秩序重構等。伴隨著人工智能從弱智能到強智能再到超強智能的升級,智能政治也勢必隨之發生變化。那么,在不同的發展階段人工智能會以何種方式影響政治,人類對人工智能的理解將發生何種變化,人類與人工智能的力量對比和關系模式又將如何,政治觀念與政治樣態將呈現何種變化?這些問題都是人工智能時代無法回避的政治議題,也是本文試圖分析和探討的重點所在。

1 超級權力：后權力時代的數字威權

20世紀50年代,人工智能正式誕生。到了20世紀60年代,迎來第一個發展階段,此時的人工智能大多以語言翻譯、人機對弈等為主。自20世紀80年代始,人工智能開始應用于社會生活的各個方面,在商業領域尤其成果斐然。進入21世紀后,人工智能由側重快速計算、記憶和儲存的計算智能向側重視覺、聽覺、觸覺、人臉識別、語音識別的感知智能演進,并以此為基礎向更為復雜的側重理解、分析、思考、判斷的認知智能沖擊。目前,隨著計算能力的不斷發展,儲存技術的不斷升級,計算智能已經比較成熟。隨著移動互聯網的普及,大數據、云計算等新興技術的換代,越來越多的非結構化數據不斷被開發和挖掘,以語音、圖像、語言處理、視頻、觸點為突破點的感知智能也在飛速發展。在計算智能和感知智能的支撐下人工智能正在向認知智能延伸,在某些領域已到突破的臨界點。尤其是最近幾年,計算機視覺、無人駕駛、機器人等領域蓬勃發展,智能手機、智能穿戴設備、智能家電等智能產品隨處可見。從感知智能向認知智能的發展代表著當前人工智能發展的最新突破。感知智能的目標是模仿人類的感知能力,其核心技術是算法、機器學習、深度學習、知識圖譜等,而認知智能的目標是全方位模仿類腦能力,其核心技術是認知維度、類腦模型和萬維圖譜。與弱人工智能相比,以感知智能和認知智能為基本特征的人工智能可以輕松處理預測分析、語言處理、圖像識別、語音識別等事務,擁有更強的行動能力和更大的應用潛質,對社會生活和政治領域的影響也就越深入。

1.1 人工智能的數字本質

從本質上講,人工智能是一系列技術代碼的集合,這些代碼一方面規定人工智能的設計標準,另一方面規定人工智能的使用方法[1]。但這些技術代碼是在一定的社會情境中生成的,除了純粹的技術要素,還包括設計者的初衷、公眾的接受程度、政治生態、經濟環境和文化水平等[2]92-96。這意味著人工智能必然具有一定的價值性和目標性,并最終指向一個由技術全面賦能的數據治理模式。

首先,數據是人工智能的基石。人工智能得以運轉從根本上講源自對數據的搜索、匹配、解析、合成與解釋。從這個意義上講,數據是人工智能時代最重要的財富和資本,如同農耕時代的土地、蒸汽時代的機器和工業時代的生產線。那么,數據又從何而來呢?歸根到底是由人生產的。人類在人工智能時代的生存場景就是在不斷生產數據,然后由算法占有這些數據并規劃下一步的行動方案。人工智能在生產領域的運用意味著較高的生產率、較少的生產時間和較大的剩余價值。那么作為傳統生產要素的勞動力之重要性會隨即下降。雖然短期內人工智能并不能代替人,但人工智能正在壓縮傳統勞動力的生產空間和經濟地位,就像當年農民被迫離開土地走進工廠,馬車夫只能學習新的駕駛技術才能操縱車輛,傳統勞動力的替代只是時間的問題。“未來幾年,人工智能將成為取代許多職業和摧毀人類謀生之道的‘罪魁禍首',盡管人工智能也將創造新的、以前人類勞動者不曾想到的工作機會。”[3]255

其次,規則是人工智能的靈魂。人工智能正在從根本上改變人們的生活節奏、內容和方式。人們的衣食住行、社交娛樂、教育培訓等無不依賴人工智能的平臺和終端,從表面上看,人們的生活越來越便捷、舒適和幸福,但實際上人們正在產生對人工智能難以遏制、可能無法約束、難以回避的依賴性。這種依賴性增強的背后是人類對人工智能規則的認可和默許。換句話說,人們為了生活便利創造人工智能,但最終發現人們正在被人工智能所約束。“這是一個陌生的前沿,在人類歷史上從未發生過。正當你驚奇于現代世界不斷增加的方便度、個性化以及高效率時,新的社會制度會悄無聲息地潛入,如貓一樣前行。”[4]102-103可以設想,如果沒有人工智能提供的美食排行,人們可能就不知道應該吃什么；如果沒有人工智能提供的出行參考,人們可能就不知道去哪里；如果沒有人工智能提供的購物參考,人們可能就不知道買什么。人們不知不覺接受人工智能所設定的規則,但并未感覺到利益的受損和權利的流失,甚至還能體會到舒暢和幸福,這就是人工智能真正強大的地方。

最后,共享是人工智能的根本。對于人工智能來說,數據的生產和共享同等重要。正因為有數據共享,人們的生產生活才會如此之便利和通達；正因為有數據共享,人類社會的經濟發展、科技創新和管理水平才有提升的可能。當然,人們或許知道數據從何而來,但數據何時、何地被何人或何機構搜索和采集,基于何種目的進行分析以及如何分析,數據分析之后的結果在哪里,意味著什么,這些分析可能帶來何種后果和影響,就不是普通民眾所能了解和獲悉的了。

1.2 傳統權力的結構性重組

作為最基本的政治關系,權力一直是政治秩序的核心要素。隨著人工智能嵌入人類生活的程度越來越深,政治權力的主體構成、客體范圍、作用方式和力量對比發生了根本性的變遷,面臨著結構性的調整。

第一,行政權力日漸式微。隨著人工智能在政府各項行政事務中的應用與普及,智能系統將慢慢取代人工操作,智能機器人也可能逐漸取代行政人員,如此一來,政府機構將被大量精簡,政府規模大幅壓縮,行政效率和行政能力卻迅速提升。與傳統行政相比,人工智能最大的好處是客觀、公正、規范、精準。只要把相關的法律、法規、章程、規定、原則編制成程序和算法,人工智能將自動、精確地執行。人工智能既不會瞻前顧后,也不會循私舞弊,更不會貪贓枉法。將大多數行政權力交付程序和算法,清除了尋租可能和操縱空間,權力的影響力和神秘光環自然逐漸減弱。“伴隨著新技術帶來的競爭加劇、權力下放和再分配,政府現有的形態將不得不發生改變,其以執行政策為核心的職能將逐步弱化。政府將被看作公共服務中心,其是否以最有效、最個性化的方式提供更廣泛服務的能力要接受公眾的評估。”[5]71

第二,國家權威遭遇挑戰。人工智能時代,得數據者得天下,控算法者控天下。相比財力雄厚、職能單一、目標明確的科技巨頭公司,政府在數據采集、算法研發、人才儲備、資金投入、技術創新等方面有所滯后。“云端技術改變了數字產業；智能城市改變了城市風貌；算法改變了信息、文化和電子商務；智能自動化在加速；智能電子流取代了民選代表做出決定；個人隱私被完全顛覆。面對這一切,政府往往處于不利地位；網絡巨頭們比政府擁有更多數據和更強的打擊力量。權力關系的現實已經改變。算法組成的政體正在和國家政府相競爭。審查和監控好比數據貨幣化一樣,從政府轉移到數字跨國企業。”[6]357隨著數據治理在國家治理體系中的廣泛普及,國家治理體系的完善和國家治理能力的現代化將越來越依賴大數據、新型算法以及掌握和操縱這些技術的科技公司。這一局面將造成如下后果：一是數據治理越普及,政府對科技公司的依賴性越強；二是政府依賴性越強,授予科技公司的權限越大,科技公司的行動能力越強；三是科技公司的能力越強,獲取數據的規模越大,給政府提供的服務效率越高。此一消,彼一長,隨著越來越多的數據為科技公司所采集,政府與公司之間的權力結構就會發生實質變遷。表面上看,政府仍居于權力結構的中心,但實際上權力空心化趨勢愈加明顯,國家能力將遭遇實質性的削弱,政府權威也將面臨空前的挑戰。“我們正處于政治凋亡這一緩慢而漸進的過程……正是由于上述幾種因素——政權、地域、組織和民主,歷史時代的國家作為信息智能體的地位正在被這些因素逐漸削弱。其他多智能體系統具有數據、權力,甚至是武力、空間以及組織的靈活性來侵蝕現代國家的政治影響力。”[7]199-207如此來看,沃林當年所擔心的“國家公司化”與“公司國家化”趨勢絕非杞人憂天。

第三,國際秩序面臨重塑。人工智能時代,巨型跨國公司將在政治生活中扮演重要角色,一方面在世界范圍的民族國家疆域內大展身手,另一方面在世界政治舞臺上積極作為。憑借資本、信息和技術上的絕對優勢,跨國公司在資源獲取、商品開發、社會動員、規則制定上將擁有越來越大的影響力和話語權,甚至左右一些貧弱國家的政局和命運。它們會不斷將觸角延伸到世界更多的角落,直至與傳統發達國家相庭抗禮、平分秋色。這些跨國公司可能會與主權國家一起共同參與全球治理、共同建構國際秩序。傳統國與國之間對抗和競爭的秩序格局可能會重新洗牌：跨國公司與主權國家正面對決,公司首腦與國家領袖也許會平起平坐。“人工智能時代,這些跨國企業也將與主權國家一道,成為國際體系的重要參與者,國際關系的主體日益呈現出多元化的趨勢。”[8]

無破而不立。傳統權力功能的消散和結構的松動為權力的重組和新權力的崛起提供了前提條件,為后權力時代數字威權的形成奠定了堅實根基。“智能技術將成為重要的權力元素,無論是政府還是公司、社會組織,只要掌握了大量的數據等智能技術,其權力就會得到強化。”[9]這一權力變革將在體制內和體制外同時展開：體制外,大型科技公司通過掌控數據、壟斷技術建立相對獨立于政府權力的“科技帝國”；體制內,政府越來越依賴人工智能治理國家和社會,數字威權和技術專制的趨勢日漸成熟。如此看來,新型超級權力在人工智能時代的崛起和擴張已成必然之勢。

1.3 超級權力與“數字利維坦”

人工智能的研制與開發需要長期的技術積累、巨量的資金投入和優秀的人才儲備,這恰是少數科技巨頭公司的長項。“資本的逐利性和技術對資金的依賴性導致了在這一波熱潮中,既有的科技公司對人工智能有了明顯增加的資金投入,而獨角獸公司的快速成長也與海量的資金投入密切相關。”[10]這些科技巨頭憑借雄厚的人力、物力和財力迅速形成技術壟斷,逐漸占領科技市場,穩步形成自己無所不在的強大影響力。在此基礎上,科技公司還會尋求與公共權力的合作與共享,以提供技術支撐、公共服務和公益產品等形式慢慢滲入政府體制,進而影響公共權力的運行與效果。基于人工智能的超級權力如何作用于政治領域,或者說它何以成為一種新興超級權力呢?

首先,影響公眾的個人偏好。個人數據是21世紀的“石油”,對于能夠有效提取和采集個人數據的企業而言,這就是一種取之不盡、無法估值的資源。科技巨頭公司借助數量繁多的社交平臺和信息產品可以輕松獲取公眾的信息,系統評估公眾的偏好,然后有選擇、有計劃地將分析、篩選和處理過的數據信息推送給個人。普通大眾則生活在信息鏈條的終端,成為這些智能推送信息的被動接收者。在以“互聯網+”、大數據和智能算法為特征的數字時代,人們貌似生活在無所不知、無所不曉的信息世界,實際上被封閉在狹窄的信息繭房中,既無法選擇更無從驗證,無時不刻不被自己固有的偏好洗刷,被他人推送的信息左右,被海量不知真偽的數據裹挾。這種迷失在信息叢林中的焦慮與無助,將使人工智能推送的信息對個人偏好的塑造和影響發揮決定性作用。

其次,左右選民的政治選擇。在選舉政治框架下,民主選舉往往要進行多次大規模的民意調查,這種民意調查既是競爭各方評估民意傾向的重要方式,也是民眾了解政治領袖競爭實力的方向標,對于影響民主選舉的最終結果至關重要。但實際上,民意調查遠沒有想象中的客觀、中立：如何設置調查程序、如何選擇調查層級、如何制造競選議題、如何控制公眾輿論等都會影響結果。而最為重要的是,如何將調查結果通過數據控制和算法規定轉換成通俗易懂的數字和圖表,然后有選擇地發布,進而影響甚至左右選舉的結果,而這恰是科技公司的拿手本領。不僅如此,進入21世紀,政治傳播的格局與方式發生了革命性的變遷,視頻網站、社交平臺等新興自媒體的快速崛起正在以壓倒性優勢取代傳統媒體的地位和影響,“臉書、推特和視頻分享網站的發展已經深刻地改變了美國的政治生態,新的傳統正在形成。技術對政治作用將前所未有地凸顯”[11]295。2018年3月,美國政治咨詢公司“Cambridge Analytica”不正當地使用Facebook數據構建工具幫助特朗普2016年總統競選活動的數據丑聞被揭露,一時間全世界一片嘩然。這也從一個側面反證自媒體在總統大選中起著舉足輕重的作用。

再次,取代專家的專業決策。隨著社會分工精細化程度日益加深,為提高決策的科學性和權威性,政府公共決策將越來越依賴于各行各業專家們的專業判斷和專業決策。人工智能可以依托這些專家的知識、經驗,在大數據和智能算法的支持下建立專家評估與決策系統,模擬專家開展專業性評估、診斷和決策,只不過,“并非統計數據被專家選擇服務,而是專家為統計服務”[12]116。隨著這一系統的不斷發展和完善,以往的公民參與、政府決策甚至領袖權威都將受到實質的沖擊和影響。這一變化加速了決策數字化、信息集權化和權力技術化的趨勢,可能造成意料不到的后果：一是公民參與公共決策的機會減少,無效能感、疏離感增強；二是政治家的話語權遭遇挑戰,影響力和權威性削弱；三是技術精英逐漸取代專家的角色,躋身權力階層行列；四是科技公司填補了專家和政府退出的公共空間,作用力和影響力不斷攀升。

最后,形成政府的數字威權。隨著大數據技術的逐漸成熟以及在政府管理和社會治理各領域的應用日趨廣泛,人工智能分析現狀、評估事態、預測走勢的能力與水平也不斷提升。政府越來越傾向于依據大數據、借助智能系統管理公共事務和開展國家治理,從而使人的主體性受到挑戰。傳統政治中占據重要地位的公共精神、精英意識、公民美德、大眾參與等價值觀念遭受前所未有的冷遇,冷酷的數據、精準的算法則備受推崇,漸有“無數據不決策,無數據不治理”之勢,一種不同以往的新型數字威權或技術專制浮出水面。“一方面,人工智能對于獲取、掌握、行使政治權力提供了全新動能和技術支撐,另一方面,人工智能也為壟斷、濫用、霸占政治權力預留了作用空間和行動余地。”[13]

與傳統權力相比,基于人工智能的新型超級權力更高效、更強大、更具行動力,然而,它并非無懈可擊、完美無睱。高度依賴數據、過于倚重算法、完全仰仗智能,是這種新型超級權力的致命短板和終極缺陷。

一是因數據缺失導致“決策失靈”。人工智能的運行必須具備三大支柱性條件：互聯網、大數據和新型算法,三者互為條件,缺一不可。在相對貧窮和落后的國家和地區,大量人口蝸居在網絡邊緣地帶,或互聯網無法覆蓋,或數據無法采集。即使獲取到數據,數據樣本也只是部分樣本,而不是全樣本,也就不是“大數據”。人工智能若據此做出決策,既不能考慮到這些邊緣群體的偏好和需求,也不能確保決策的科學性、規范性和合理性,必定造成社會不公。“大數據大大地威脅到了我們的隱私和自由,這都是大數據帶來的新威脅。但是與此同時,它也加劇了一個舊威脅：過于依賴數據,而數據遠遠沒有我們所想的那么可靠。”[14]208

二是因規則限制導致“算法偏見”或“算法歧視”。從本質上講,人工智能是一系列規則約定和議程設置,最終由算法設定程序。“在看似沒有惡意的程序設計中,卻帶著設計者或開發人員的偏見,或者采用的數據是帶有偏見的,會釀成各種社會問題。”[15]也就是說,看似客觀中立的人工智能其實是在自動執行人工給定的規則而已。這些人工制定、授權的規則往往存在性別、種族、職業、收入等方面的傾向性,一些弱勢群體、邊緣群體和少數族群往往被排斥在外,而且算法歧視更為隱蔽、更不易為人們察覺,具有較強的誤導性和迷惑性。

三是因約束不足導致“數字利維坦”。技術是一把雙刃劍,它既可以帶來便捷、效率和舒適,也可以帶來許多無法預想的社會后果。當公共權力運用、推崇甚至依賴各種人工智能平臺、終端、系統和機器時,以數據至上、智能主導為特征的數字權力就被賦予實實在在的影響力和決定力,從而“賦予統治者強大的暴力能力”[16]。隨著信息技術滲入公共權力,科技巨頭聯合現行政府,若不加以合理約束和適度控制,人工智能就不再只是簡簡單單的技術存在,而將成為一個強悍無比、無所不能的“數字利維坦”。正如芒福德所擔憂的：“個人的一切,包括行為活動、往來交談甚至連夢幻、思想,都難逃這神眼跟蹤。一已生命的一切跡象都被記錄到計算機數據庫,接受通盤監控和管理。換言之,不只是侵犯了隱私權,簡直徹底破壞了個人的自治狀態,其實就等于毀滅人類靈魂。”[17]318在這只巨大的利維坦面前,那些提供基礎數據的普通民眾要么淪為無足輕重的數據奴隸,要么成為可有可無的虛擬存在。

2 算法民主：后民主時代的程序正義

人工智能既是一種技術,也是一種思維,更是一種方法[18]4-6。人工智能在政治領域的應用實際上就是將復雜政治和社會問題的分析與解決借助互聯網、大數據和智能算法的力量得以優化和實施。顯然,人工智能在多大程度上嵌入政治領域以及在多大程度上影響民主生活,取決于掌握公共權力的政府對人工智能的理解和定位、普通民眾對數字化生活的接受程度、社會各階層政治參與的數據意識,以及政治研究者對人工智能方法的應用水平等制約性因素。隨著互聯網的普及和信息技術的廣泛應用,人們越來越習慣以網絡和社交平臺為媒介提出利益訴求、表達政治意愿和參與公共事務,人工智能對民主政治的影響正在慢慢顯露,“電子民主”“數字民主”從理論構想成為現實存在。

2.1 智能時代的民主境遇

人工智能確實為現代民主政治帶來了新的變化和新的機遇。正如約翰·基恩所說：“新的數字技術是具有革命性的核心技術,對整個社會和國家產生了影響,削減了成本、拓寬了可利用的范圍,使公民用以前不可想象的方法進行溝通。他們是一種潛在的‘民主技術'。”[19]142人工智能為現代民主政治帶來的新變化主要包括快速捕捉公眾意愿、及時把握選民動向、精確回應公民訴求和全面提升決策水平。

第一,快速捕捉公眾意愿。民意是現代民主的動力之源,不了解民意就無從談及民主。在傳統政治的框架下,民眾與精英之間總是隔著這樣或那樣的阻礙,民眾的利益表達與精英的民意提取往往需要借助廣場演說、街頭抗爭、媒體辯訴、社會運動等中介形式得以實現。到了人工智能時代,互聯網的普及打破了地理與疆域的阻隔,社交平臺的流行擊穿了組織與制度的束縛,公民表達利益、維護權利,以及政府獲取民意、吸納意愿都可以借助網絡和平臺基本實現暢通無阻,“技術放大了普通公民的政治表達”[20]7。信息收集、數據處理的空前便捷,促進了政治決策和國家治理的智能和高效。例如,智能監控技術的運用大幅減少犯罪率；網絡信息平臺更加便捷地收集民眾的意見,回應民眾的需求；會議平臺可以在最短的時間內召集大規模群體同時在線參與公共話題討論。

第二,及時把握選民動向。2016年的美國總統大選,一些主流媒體和老牌民調機構“成功誤判”特朗普和希拉里的競選走勢,從而正式宣告推特、臉書等新興媒體和平臺的強勢崛起。在選舉政治的框架下,公民個體投票是個人意愿的終極表達,總統大選投票是選民群體意愿的集體呈現,這一結果充滿了太多的懸念、變數和不確定性。選舉過程中任何一個環節的紕漏都是致命的,如丑聞的披露、電視辯論中的失誤、從政期間的過激言辭等,都可能直接影響甚至決定大選的結果。大規模的民意調查成本高、難度大、周期長、時效性較差。在上一個議題的論辯中已經獲得較明顯的輿論優勢和選民基礎的候選人,在下一個議題的論辯中就可能兵敗滑鐵盧,因此及時、準確、全面了解選民的動向、各個群體的價值偏移、某一特定政治議題的效果,對于最終的選舉是極為重要的。而這一點恰恰是人工智能借助互聯網、大數據和新型算法等信息技術最為擅長的領域。

第三,精確回應公民訴求。充分了解公民的需求是有效回應的前提,精準把握信息是正確處理問題的基礎。智能化、自動化、精準化作為人工智能的突出優勢,在生產、商業和生活領域已經有了廣泛的體現,但在政治領域尚未完全顯露。如果充分運用人工智能的技術、思維和方法,諸如語言識別、自動搜索、數據采集與機器學習等,復雜的社會事務和政治議題可以獲得精準化的處理。既然人工智能可以精準分析用戶的消費需求和購物傾向,自然也就可以精準分析公民的政治訴求和價值偏好,從而為滿足公民的個性化需求提供準確無誤的回應和恰到好處的措施。在未來的民主生活中民眾的政治意愿將更多以數據化的方式表達和呈現,公共權力和國家治理也會提供更豐富、更優質的數據化產品和服務。在這樣的背景下,國家和政府只有充分利用人工智能的力量,才能夠設計、規劃和提供更精準的政策,從而獲得公民更多的政治信任和國家認同。

第四,全面提升決策水平。民主的主要功能之一就是合理決策。從古至今,民主決策的方式一直在不斷演進。城邦時代的直接民主雖然被視為現代民主的藍本之一,但它對規模和議題的限制使得直接民主進入近代巨型民族國家時代后不得不被放棄,由代議制民主取而代之。代議制民主的工作機制是由民眾選舉精英,代表其管理國家和公共事務。無論從理論層面上如何解釋,普通民眾在選舉政治精英組成決策機構后,實際上已經再也難以實質參與公共決策,更多是扮演監督的功能和角色。近些年,協商民主的理論越來越受到人們的重視實際上就是想解決代議制的這一不足。但隨著研究的深入,人們發現協商民主也不無缺陷,至少它對公民素質的要求、協商成本的控制、協商過程的監督等方面仍有較大的提升空間。進入人工智能的時代,協商民主的缺陷有望得到彌補,“在具體的議題上,依靠數據與智能運算能夠快速得出具有科學性、客觀性乃至公開性的分析結果,并便捷地為利益相關者所掌握,從而提升協商的效率。在這一方面,人工智能同樣可以發揮重要作用,有效提升智庫成果的質量,為最終的決策提供科學依據”[21]。

2.2 直接民主的幻象與算法民主的陷阱

借助互聯網、大數據和智能系統,在較為發達的國家或地區圍繞某些特定政治議題和社會事務的解決,有條件也有可能實行全民即時在線的直接民主。換句話說,以往只出現在人們想象當中的古典時代的直接民主,在人工智能時代完全有實現的可能。

那么,人工智能時代的直接民主真的值得期待嗎?不妨想象這一恢弘的政治場景：每當需要表決重大議題時人們只需打開手機,進入特定的程序或平臺,以即時投票的方式直接表決,表決結果會在第一時間呈現,贊同者、反對者或棄權者都能得知投票結果,一切變得無比簡單、透明而高效。顯然,這種民主形式讓人既熟悉又陌生。民主的基本框架還在,投票的形式被保留,多數決的規則被沿襲,但代議民主的實質已經被掏空。事實上,人們不是在選舉代表,而是直接進行政治決策；人們只需要具備執行能力的行政體系和技術官僚,即便是后者也可能慢慢被智能機器所取代。民主只是空具其形,已不具備代議和決策的功能；代議民主正在被算法民主逐漸取代。

某種程度來講,民主一直與某種形式的數量原則相伴而生。按照執政人數與政權宗旨,亞里士多德曾經將政體形式劃分為六類：一人執政的為君主政體或僭主政體,少數人執政的為貴族政體或寡頭政體,多數執政的為共和政體或平民政體。布丹也按照執政人數將政體劃分為君主政體、貴族政體和民主政體。正是因為民主暗含著數量優勢可能壓制真理與美德的價值偏好,所以自古典時代以來在精英主義者眼里一直不具備好的名聲。到了近代,普選、代議和多數原則被視為民主的基本原則。“少數服從多數”成為民主制度區別于其他政體的核心特征。究其實質,這種多數決原則本身就是一種簡單的算法原則,故而被托克維爾和密爾看作是“多數人的暴政”。“在人工智能時代,民主這種初級的大數據算法正在被更高級的大數據算法所取代：后者不再和生物性個體直接打交道,而是和他/她生產的數據打交道,并通過數據來有效‘觸動'個體,這種有效程度隨著算法迭代快速上升,最后形成控制效應。”[22]也就是說,雖然依舊是民眾在表決,但實際上是由人工智能來計算和呈現表決結果,從民眾表決到結果呈現之間,是由人工智能在管理和操控這一運算過程。從某種程度來講,民眾的權利正在慢慢被數字化、虛擬化[23]246-249。

不僅如此,在人工智能時代借助推特、臉書等社交平臺采集的大數據和不斷革新的新型算法,人工智能可以系統評估個人的政治傾向、社會需求、價值主張、文化訴求,根據選舉和決策的需要,對其施以精準的政治影響,而被影響者輕易不會發現這種影響力的存在。這一進程雖然并未實質更改選舉民主的基本框架和運行規則,但有將民主政治架空,導致民主政治空殼化的趨勢。按羅賓·漢森的預測,“民主制度至少仍有可能在仿真世界的部分地區得以延續,但卻不可能成為仿真世界治理機制中的主導制度”[24]261。在傳統民主政治實踐中,大眾的崛起代表著現代民主的進步,這種進步是以民眾的力量逐漸取代君主的、貴族的或者少數人的力量為標志。但在人工智能時代,站在民眾對立面的國王已不復存在,貴族、精英也被虛化,被數字民主虛化的民眾權力并未轉移給民眾的“對立面”。那么,在后民主時代,誰將成為政治的主角呢?不難發現是技術精英,是那些掌握大數據、智能算法技術的專業人才和科技巨頭公司,他們才是實際權力的擁有者。

在數字民主的框架下,與其說人們在選擇領袖、決策議題,不如說在選擇某種算法。在民眾進行民主決策和政治終端輸出之間神秘的開闊地帶,正是算法權力在操控著一切。算法在“本質上是解決問題一系列指令,是用系統的方法處理問題的一種策略機制”[25]。它既是一種特定的技術手段,也是一種隱形的社會權力。掌握算法的個人或企業可以利用自身的技術優勢和數據資源,影響、引導甚至左右政府的決策,從而形成一種不同于以往的新型“準公權力”。與強調垂直結構、以強制和暴力為基本特征的國家權力相比,算法權力更強調水平分布,更側重操縱和引導,具有較強的隱蔽性和泛化性,是一種隱性的“軟權力”。

值得注意的是,算法權力具有內在矛盾性：一是逐私利抑或謀公利的矛盾。算法的研發首先是一種經濟行為,追求資本的最大化為其內在沖動,但算法一旦作用于公共領域,關涉公共事務就應當具有公共性和正當性。如此一來,算法權力背后隱含的資本與權力、私利與公利的沖突是無法回避的。二是重偏好抑或重平等。在算法技術出現之前,互聯網中的信息對于每個人都是公平、對等的；算法出現后,數字世界的規則發生變化,呈現在每個人面前的信息會依據性別、年齡、民族、喜好、信用、薪酬等標準篩選、甄別,而每個普遍的信息接受者對此要么一無所知,要么無能為力。事實證明,算法權力導致的差別性、偏見性和歧視性是避無可避的。三是技術至上抑或人類主體。究其本質,算法只是一種技術形式,終極目標是服務人類主體。但算法權力框架內人的存在由數據賦值,人的意義由數據界定,作為數字系統中被提取、評估、計算、預測的客體,人已淪為算法操縱、控制的對象,其主體地位岌岌可危。算法權力的上述內在矛盾性決定了其可能的風險性。算法權力逐私利、重偏好、追求技術至上,形成一種以數據信息為中心的新型權力,一旦脫離監管或無法合理控制,勢必損害平等價值、公共利益和基本道德,引發諸多社會后果,“我們看到AI系統正在被部署為既能增強社會也可能以復雜的方式毀滅社會的這樣一種不斷增長的潛力”[26]183。

作為一種信息技術的人工智能并不會徹底改變民主政治的基本框架,更不會替代民主政治背后的權力規則,但人工智能可以通過改變經濟樣態、社會結構、大眾文化和全球秩序進而影響權力的組織和分配。人工智能的普及和應用將導致越來越多社會領域里的人類角色被智能機器所替代,其后果可想而知。按芬伯格的觀點,技術與民主之間是一個“共建”的過程,“技術政治學來自技術的調節,這些技術調節是構成社會的許多社會群體的基礎”[27]11。隨著被人工智能技術和機器所取代的人類的數量越來越多,人與人之間、人與機器之間、機器與機器之間的權力斗爭將成為新的常態。這可能是人工智能帶給民主的終極威脅。

3 機器統治：后人類時代的秩序建構

人工智能是一把雙刃劍。一方面,它為現代民主的進步打開了一扇窗,甚至讓人們看到了數字時代直接民主的可能性；另一方面,它也為現代民主關上了一扇門,技術與權力的結合、技術精英與政治領袖的聯手,究竟會更好地為民眾服務還是會在實際上架空民主,走向技術專制,一切尚未可知。目前可以斷定的是,僅僅只是由熟悉智能技術的個人或科技公司掌控數據、操作算法,就已可能破壞民主的核心精神。隨著人工智能的進一步發展,一旦錯綜復雜的民主政治淪落為簡單純粹的數據獨裁或技術專制,那么由人工智能操控政治秩序的時代可能就不那么遙遠了。

3.1 機器統治的出現

從本質來講,機器統治是技術統治的一種。狹義的技術統治是指掌握人工智能技術的專業人才通過壟斷和應用技術達到統治的目的,即“專家統治”[28]93-96；廣義的技術統治是指智能機器取代人類成為世界的主宰,擁有至高無上的統治權力,即“機器統治”。從當前發展現狀來看,全球的科技巨頭公司在人工智能領域都投入了大量的資金,大批高素質的技術精英正在參與研究與開發,這些技術精英掌握著互聯網、大數據和新型算法的高端技術,他們是未來人工智能發展的中堅力量,是人工智能研發公司和相關行業的強大支撐。只不過這些技術精英尚未參與公共生活,并未有機融入公共管理,還不具備未來學大師托夫勒筆下“技術官僚”的基本特征。而人工智能在未來相當一段時期,仍然只會是人的創造之物,“奇點”的突破還只是一種設想,但是人們并非沒有理由擔心。隨著人工智能由感知智能向認知智能的全面升級,人類對人工智能的依賴性不斷上升,社會生活各領域中人的角色與功能逐漸被人工智能代替,人類可能會成為最有閑的無用之人,與人工智能的力量對比發生了根本性的扭轉。人工智能不再僅僅是為人類提供服務和效率的工具,開始成為人類最大的競爭對手。

然而,人工智能的發展仍未止步。人工智能有可能在某一天成功突破“奇點”,開始擁有自主思維、獨立意識和個性情感,成為足可比肩人類甚至全面趕超人類的智能存在。“人工智能一旦脫離束縛,將以不斷加速的狀態重新設計自身；而人類由于受到漫長的生物進化的限制,無法與之競爭,將被取代。我們無法知道我們是將無限地得到人工智能的幫助,還是被蔑視并被邊緣化,或者很可能被它毀滅。簡而言之,人工智能的成功有可能是人類文明史上最大的事件,但是人工智能也有可能是人類文明史的終結者。”[29]368作為無能且無用的群體,人類淪為機器的純粹附屬物,面臨或被淘汰或與機器融為一體的兩難困境。一個由強人工智能或超人工智能主宰世界、掌控政治的機器統治的時代可能降臨。

3.2 技術主宰下的秩序想象

古往今來,人們一提到政治主體,無論被冠以何種稱謂或頭銜,諸如君主、貴族、平民、外邦人、公民、市民、農民……其首要條件是“人”,河流、山川、亞里士多德筆下的神詆與野獸自然都不是政治主體。但自2017年10月26日,沙特阿拉伯將公民權授予機器人索菲亞這一天開始,人們不得不面對這樣的現實：一個人與智能機器或者說自然人與智能人(機器人)并行并立的時代已經拉開序幕。雖然并不是所有人都能認可并接受這一現實,但人類的主觀意愿真會影響人工智能發展的現實進程嗎?顯然不會。“許多科學家已經感受到,未來的一個重要趨勢就是機器人和人工智能會超過人類,但沖向人工智能的勢能是如此之強大,以至于人類完全無法阻擋。換言之,很多人都知道盛宴和狂歡會產生相應的消極的結果,但人類都經受不住盛宴的誘惑,義無反顧地參與其中。”[30]249因此,問題的關鍵在于人在何種程度上稱其為人,機器與人的區別究竟在哪里?“機器人的本義是作為人類勞動的延伸產物,可隨著人類將機器人做成了人的樣子,人類與機器人之間的界限已經有了模糊的趨勢。當機器人具備人類的智慧和情感之日,也就是人類與機器人之間的鴻溝徹底彌合之時。”[31]149

隨著人工智能技術的不斷發展,一些高風險、高強度、重復性、機械性的工作被不知疲憊、任勞任怨的智能機器所取代,而人工智能在收集和分析信息、計算和儲存數據、深度學習方面擁有遠強于人類的能力。從日常生活、工作學習、商貿往來、評估預測等方面,人們將越來越多分析、判斷、評估、決策的任務交給人工智能,讓人工智能代為管理、儲存和決策。某種程度上來說,人工智能甚至比人類更了解人類,“比你更了解你”。人類將決策權交給人工智能,實際上相當于將決策權交給智能算法；隨著人類不斷賦權給算法,人類對人工智能的依賴性也會不斷增強,人工智能也會越來越強大。“谷歌也不見得永遠是對的,畢竟這一切都只是概率。但只要谷歌做出足夠多正確的決定,人類就會將更多權力交給它。隨著時間慢慢過去,數據庫規模會不斷擴大,統計數字會更準確,算法會繼續改進,決策的質量也會提高。”[32]307

在不久的未來,人類將慢慢退出大部分生產、工作、貿易、決策等領域,甚至失去了學習的必要,因為依靠人工智能技術,完全可以按照個人喜好和需要將裝有知識與技能的芯片植入人的大腦,人們立即成為無所不知、無所不能的“完人”。當然,這一變革將導致另一個結果出現,由于社會生活各個領域的工作被智能機器人所代替,人類將成為可有可無的閑人或廢人。“第一臺超級智能機器人是人類最不應該發明的東西。智能機器人會超越人類的智力活動,不管人類有多聰明。既然機器人的設計是人類智能活動的一種產物,那超級智能機器人也會設計出更好的機器人。”[33]274尤其是當人工智能成功突破“奇點”,智能人或機器人就將與人類一起共享這個世界,成為平等的存在體。

人類終將進入一個“后人類”時代。突破“奇點”的超級智能機器將與經過人工性改造和技術化重構的類人智慧體共同存在。以人為主體、由人類主宰世界命運的歷史將被終結。在這一演進過程中,人與人工智能的關系是不斷發展、不斷突破的,兩者的關系內在決定了智能政治的基調與底色。最初,人只是借助人工智能技術介入、影響和參與政治。此時人是主體,人工智能只是一種技術輔助手段。“在弱人工智能階段,機器人幾乎沒有機會反抗人類的權力統治。”[34]緊接著,隨著人類對人工智能的認可度提高,以及人工智能技術與能力的不斷提升,人工智能突破“奇點”,成為獨立的類人智慧體。此時人與“智能人”不分主輔,平等并存,和諧共處。只要想象一下你身邊的人群中站著一半左右的機器人索菲亞,就能理解這個階段意味著什么。最后,隨著人工智能技術的不斷突破、智能機器人的迅猛升級,人類相對于智能機器的短板和弱勢不斷凸顯,人類將面臨一個艱難選擇：要么自動退出歷史舞臺,拱手讓出整個世界的所有權,淪為機器的輔助工具,人類命運交由機器主宰；要么選擇接受器官移植,從而與機器融為一體,“在充滿人工智能的世界里,人類如果想維持其地位,就必須變成半人半機械的物種,以避免淪為人工智能的玩偶”[35]108。此時,人與機器已經一致無二：人是機器,機器也是人。但無論如何,人工智能終將主宰這個世界。從這個意義來說,后人類時代的秩序建構可能是人類思考的最后一個政治議題。

4 結語

從數據治理到超級權力,從算法民主再到機器統治,智能政治的進步與發展關鍵在于人工智能何時何地、以何種方式影響現代政治以及影響至何種程度。這一進程又取決于四大因素的影響：人工智能自身的發展水平、人工智能在政治領域的滲透程度、人類對人工智能的理解狀態、人類與人工智能的力量對比和關系模式。換言之,從弱人工智能到強人工智能,再到超人工智能,人工智能越發達,介入政治領域的程度越高,人類對人工智能越認可,人工智能對現代政治的影響越大；人工智能未來一旦突破“奇點”,擁有自主思維和獨立意識,與人類的力量對比發生根本扭轉,人類主宰的格局將終結,人-機共治或機器統治的時代可能到來。當人類創造出人工智能,人工智能是將人作為神一樣供奉,還是先反抗再取而代之,這取決于今天的人類對于人工智能的理解以及對人工智能所做的每一項決定。

那么,究竟該如何面對人工智能的可能發展及其對政治領域的沖擊和影響?換句話說,人工智能時代如何未雨綢繆呢?首先,必須始終貫徹以人為本的價值理念。人工智能的本質是一種現代科技手段,人的愿望、人的利益和人的訴求是人工智能發展的出發點和落腳點。人工智能必須以不斷滿足人類社會發展不同階段的社會訴求為第一宗旨。人類的生存和發展這一根本利益是人工智能進化的底線和紅線。無論是從倫理還是從技術的角度,必須確保人工智能為人類服務的根本目標。其次,高度重視頂層設計的規劃理念。人工智能是世界性大國綜合實力的重要組成內容,國家和政府必須規劃人工智能的戰略發展,強化人工智能的思維意識,從國家頂層設計的角度確定人工智能發展的合理模式和具體路徑。高度重視物聯網思維、大數據思維、新型算法思維,在國家治理現代化的現實場景內,合理規劃人工智能發展的發展目標、實施步驟和推進策略。要將人工智能放在科技繁榮和發展的優先級別,加大公共財政投入,確保人工智能領域高端人才的培育與儲備,不斷完善科技發展協同體系,構建面向未來的人工智能協同創新機制。最后,合理謀劃適度控制的風險理念。人工智能是一把雙刃劍,在不同的發展時期,會帶給人類社會各個領域的沖擊和挑戰。在大力發展人工智能的同時,必須堅持合理發展、適度控制的風險意識。在充分重視可能引發的政治風險的同時,注重前瞻預防與約束引導,最大限度降低威脅和損失,確保人工智能處于安全和可控的發展狀態。與此同時,不斷提升整個社會的人工智能倫理觀念,不斷出臺有關人工智能的法律法規,同時建立補償機制和審查機制,以保證個人隱私和數據安全。尤其要注意數字鴻溝的存在,避免人工智能加大貧富差距或引發更深層次的社會不公。可以預見,在未來人工智能的進化史中,主宰者與被主宰者、權力主體與權力客體的界定與爭奪將在控制與反抗中碰撞、交織,從而共同譜寫后人類時代智能政治的當下與未來。對此,人類可以有所期待,但要有所反思,更須有所準備。