警惕AII“操縱”社會治理

高奇琦

美國總統特朗普上臺執政已有一年多時間，但與美國大選有關的各類傳聞或“丑聞”仍不絕于耳。

特別檢察官羅伯特·米勒對13名俄羅斯人和3個俄羅斯實體涉嫌干擾2016年美國大選的起訴書提到，俄羅斯人利用假身份在社交媒體開設大量賬戶散播假新聞，僅在臉書上發布的消息就多達8萬條，覆蓋1.26億美國人。

有分析人士指出，要做到如此大范圍的信息覆蓋，僅憑人力恐難以完成，其情形可能是，AI賬戶偽裝成普通用戶出現在推特、臉書等社交平臺上，通過程序設定散布片面的或錯誤的政治信息，從而達到詆毀政治對手、影響公眾輿論的目的。據稱，在2016年美國大選中，一些AI賬戶甚至潛入到主要競爭對手的支持者隊伍中，影響選民的政治情緒。

實際上，歐洲的選戰、公投和公共輿情也曾受到AI干擾。在2015年英國脫歐公投前，支持脫歐的政治人物、時任英國獨立黨領導人奈杰爾·法拉奇就曾雇用劍橋分析公司（已申請破產）相助；2017年5月初，在法國總統大選的關鍵時點，現任法國總統馬克龍競選團隊的大量內部電子郵件被泄露到推特和臉書上，其中包含了一些捏造的馬克龍財務交易狀況信息。

大數據安全

大數據分析技術也被認為為特朗普勝選發揮了重要作用。

多家美歐媒體報道，劍橋分析公司借由一款個性測試應用程序獲取大約8700萬臉書用戶的個人信息，助力美國總統特朗普2016年競選。

據悉，借助通過“不恰當方式”獲取的用戶個人信息，劍橋分析公司幫助特朗普團隊定位選民愛好，進行心理測評和數據分析，并在此基礎上精準投放廣告，為每個選民推送為其“量身定制”的信息，實現從多個角度“美化”特朗普、“丑化”其競爭對手的目的，比如故意向高收入人群傳播“希拉里有意在上任之后調高對富人的稅收”等觀點。

“大數據安全是全球的挑戰，要站在歷史和網絡空間的維度來看待。”在2018中國國際大數據產業博覽會上，中國國家密碼管理局副局長徐漢良說，大數據安全事件危害巨大，不僅涉及大量公民隱私，而且能左右輿論導向，甚至影響政治進程。

“算法黑箱”

在現實政治生活中，AI技術對歐美政治決策和選舉實踐的影響正在不斷擴大，但目前AI技術還處于數據驅動的弱人工智能階段，幾乎完全以統計學或盲模型的方式運行，缺乏對結果的解釋性。其對各國政治發展的影響還需密切觀察。

首先，AI技術存在“算法黑箱”的問題，即一般情況下，算法能被看到、理解的，只有輸入和輸出兩個環節，其信息處理過程是一個無法看清的“黑箱”。算法黑箱的存在，使人工智能在政治領域的行為缺乏有效解釋力。圖靈獎得主、貝葉斯網絡之父朱迪亞·珀爾認為，縱使機器可以在不斷學習之后得出相對優化的結果，但由于算法黑箱的存在，科學家也無法對其結果作出令人信服的解釋。

而政治是人的藝術，政治決策往往沒有絕對的對與錯，“對錯”背后的依據通常是這個決策的解釋能否被大部分人接受，而當前的人工智能恰恰缺乏這種能力。以美蘇冷戰時期發生的古巴導彈危機為例，如果單純按照算法作決策，后果可能不堪設想。

其次，“算法黑箱”可能導致“算法操縱”，破壞選民的政治情感中立性。

隨著人工智能時代的到來，信息爆炸和信息堆積成為人們的普遍困擾之一。個性化的內容推薦越發受到青睞，而這種推薦的背后是算法在發揮作用。同時，信用評估、風險評估等各種評估信息越來越多，這使得人們的決策越來越受制于算法。

而算法和代碼的設計都依賴編程人員的判斷與選擇，因此極容易被利益集團操縱。算法推薦的閱讀內容容易使選民獲得的政治信息更加片面，影響其政治情感的中立性，導致其選擇很可能會被“無形操縱”，從而形成“算法操縱”。

“算法操縱”還存在加劇一種新的社會不平等的風險，即民眾在數字信息領域的“貧富差距”不斷拉大，進而演變為政治上的新霸權。美國著名未來學家阿爾文·托夫勒在其1990年出版的《權力的轉移》一書中說，在人工智能時代，全球性大公司對信息的壟斷，將削弱國家的政治聚合力和國家中心意識，最終可能導致少數“技術超人”和企業精英操控全球經濟和政治，普通人不僅成為失業者，甚至淪為失權者。

《終極算法》作者、人工智能領域學者、華盛頓大學教授佩德羅·多明戈斯認為，目前想要借助AI技術作出“合理合法”的政治決策，還有相當長的一段路要走。

技術前景仍可期

雖然算法對政治領域的挑戰顯而易見，但簡單地將失敗的政治行為歸咎于人工智能是武斷的，因為技術本身是無害的，關鍵在人如何使用技術。政治上的失敗大多與別有用心的利益集團或個人密切相關，因此，修正人們對AI技術的態度，可能是規避算法風險的有效途徑之一。

眼下，人類正致力于創造人工智能大腦，推動機器人多維度學習，尤其是提高機器人的情感水平。當機器主體具有超強能力、自主性及情感時，人工智能的“工具論”將不攻自破。屆時，人類對數據操縱的態度可能發生轉變，尊重數據或將變成主流趨勢，人工智能在政治領域的應用或將得到有效的規范。

（摘自《環球》）