人工智能將成就還是破壞民主？

生成式人工智能，與其說是像社交媒體平臺那樣的又一個應用程序，還不如說是一項基礎性技術，更類似于互聯網本身的出現。它將通過改變選舉和治理機制而直接影響民主，并通過改變信息生態系統的基礎、公眾信任和輿論，對民主進行間接的改變。

在直接影響方面，生成式人工智能可以通過更準確、細致地理解潛在政策結果，來徹底改變政策的制定。例如，氣候變化人工智能等組織已利用這項技術來研究“如何將越來越頻繁和嚴重的極端天氣事件影響納入道路、電網和供水總管的設計”，而執法機構也利用生成式人工智能來監控和預測警務活動。最近，律師和法官也開始利用像ChatGPT這樣的生成式人工智能，來協助完成立案乃至宣布法庭裁決這樣的事務。

與此同時，生成式人工智能如何影響選舉結果正越來越令人感到擔憂。2024年，至少有45個國家將舉行選舉，其中就包括美國。

盡管狹義人工智能已經有助于簡化選舉管理，但生成式人工智能可能會帶來新的偏見和不確定性。例如，美國高度分散的選舉體系包括1萬個司法轄區，每個州均須保留隨選民遷移、死亡或喪失資格而不斷更新的選民記錄。目前，用于維護選民名冊的算法難以匹配亞洲人的名字，并可能對少數族裔普遍存在偏見。類似的偏見，也同樣存在于使用人工智能進行簽名識別這一郵寄選票的常見操作。

但人工智能的影響力可以輕易超越單純的選舉管理；它還可以用于選舉規則和架構的協助制定，影響選舉的競爭性、政治極化程度、選民投票率等。

從黨派角度看，高達90%的美國國會選區被認為是結果可預測的“安全”選區。現在有數十個應用程序協助立法者劃定區域界限，可能讓現任政客輕易進行壓制性更強的黨派不公正劃分，從而進一步保護政黨及其候選人避開真正的選舉競爭。

除重新劃分選區外，生成式人工智能還可以推進其他結構性改革措施。例如，歐洲國家采用封閉和優先投票相結合的方式。而相比之下，美國則實行選區內單一候選人贏家通吃。試圖推動合理結果及降低政治極化的改革者，就優先選擇投票、公開初選制和比例代表制等改革的優勢展開辯論。生成式人工智能可以協助人們弄清這些復雜的動態，從而讓我們更好地預估選舉改革的長期影響。

盡管上述變化可能對民主機制造成直接影響，但間接影響或許更令人擔憂。人工智能很有可能嚴重破壞勞動力市場，并引發隨之而來的政治混亂。人工智能還可以重塑政府、候選人以及選民所共同依賴的信息生態系統，并降低制作高度個性化內容的難度。今年4月，共和黨發布了由人工智能生成的針對拜登的首條攻擊性廣告。不難想象，未來會出現某種充斥著廉價制作廣告的政治環境。它們利用來源可信的聲音或圖像，并利用個人在線史來找到和利用個人的心理弱點，同時，借助精心制作來操縱特定受眾。

生成式人工智能可以用多種語言制造有說服力的虛假信息，這也便利了此前受困于語言及文化熟練程度不足的外國對手。盡管人工智能可以生成內容，但仍然需要像臉書這樣的發布渠道才能接觸到受眾。人工智能實驗室和社交媒體平臺必須攜手合作，開發有效機制來防止虛假信息的傳播。

民眾能否相信領導人和機構代表自己的利益，是民主制度的核心內容。但信任非常脆弱，必須得到捍衛。盡管生成式人工智能可以在醫學、制造業和教育等領域帶來巨大好處，但也必須認真思考其對民主的影響。否則，它將會破壞而非強化人民執政的目標。

凱利·伯恩，美國斯坦福大學網絡政策中心前主任，現任大衛和露西爾·帕卡德基金會民主、權利和治理計劃主任。本文已獲Project Syndicate授權。