人工智能工具需適應“全球南方”對于可解釋性的需求

在新一代人工智能快速發展的進程中，“全球南方”國家由于缺乏發展前沿人工智能的相關資源，暫時處于人工智能技術創新的“接受者”位置。但是這并不意味著“全球南方”在人工智能治理中也要居于邊緣地位。本文選取了卡內基國際和平基金會的三篇文章，重點探討AI（ArtificialIntelligence）在全球南方產生的深刻影響，基于全球南方的視角提出人工智能研究和出臺相關政策具有必要性。

人工智能工具需適應“全球南方”對于可解釋性的需求

2024 年4 月30 日，卡內基國際和平基金會發布了加拿大多倫多城市大學林肯亞歷山大法學院助理教授Jake Okechukwu Effoduh 撰寫的文章《全球南方對可解釋人工智能的看法》（A Global SouthPerspective on Explainable AI）。作者基于其在非洲地區田野的考察結果，從“全球南方”視角提供了關于人工智能可解釋性所賦予的功能、目的和意義的一些多樣評估，并倡導可解釋性人工智能持包容性態度，從而使人工智能具備滿足不同群體和社區在可解釋性需求的適應能力。

首先，作者指出，非洲已經進入AI 革命，但非洲的AI 用戶不了解AI 系統運作原理，因此導致了AI 可解釋性方面的問題。比如，盡管尼日利亞首都的外匯兌換商使用AI 應用程序確定和預測黑市匯率的波動情況，但不清楚其所使用的AI 系統設計者是誰；盡管肯尼亞基安布縣的奶農使用機器視覺和圖像識別軟件來檢測牛的疾病并提出治療方案，但其無法解釋這一機制運作的原理；盡管南非威特沃特斯蘭德盆地的金礦工人使用一套傳感器系統來監測礦井的結構穩定性、利用算法標記潛在問題以提高采礦的安全性，但其并不理解所使用系統背后的機制。因而，作者認為，雖然AI 系統輸出結果的可解釋性具有重要性在過去得到了不同程度的強調，但就其所研究的非洲地區而言，AI 系統嵌入社會中的更廣泛運作，以及受影響者在更廣泛的社會背景中理解、接受和信任這些AI 系統結果的能力受到了忽視，進而導致其存在兩個方面的問題：其一，可解釋的AI 缺乏清晰的描述和普遍一致的標準。當前對于AI 可解釋性的監管格局呈碎片化特征，這或將使可解釋性的評估復雜化，并引發關于AI 系統如何滿足不同利益相關方需求的問題，比如，普遍和統一標準的缺位是否為多元主義和文化相對主義方法留下了發展的空間等。其二，鼓勵可解釋性AI 的主導政策的局限性根植于歐美視角，因此在非歐美文化的情景中的適用性有限。由于非洲國家等全球南方地區的行為體通常缺乏開發先進AI系統所需的資源，因而其在很大程度上依賴由全球北方等更發達的國家開發的AI軟件。這種供需關系將非洲國家置于消費者的地位，而其所使用的AI 工具開發背景不一定與其本土文化、倫理和社會傳統相一致。如果AI 的設計忽視了文化背景差異，那么AI系統提供的輸出解釋可能與當地的背景、實踐或需求不符，導致用戶難以理解AI 系統決策的基礎，從而削弱了AI 系統的有效性，并限制了用戶信任或有效地與其進行交互。比如肯尼亞的一些牧民養有博蘭牛和薩希瓦爾品種的牛，其經常抱怨圖像視覺機器經常誤診本地品種的牛營養不良，實際上是因為它們由于適應本地自然環境而體型嬌小、體格瘦削。用于構建這些AI模型的數據的代表性不足可能部分地解釋了為什么這些系統沒有有效地捕捉到它們預期要處理的真實場景的多樣性或復雜性，由于存在這樣的差距，輸出可能變得不夠透明，更加難以解釋。

隨后，作者提出了兩條改善AI 可解釋性問題的路徑。第一，可以采取諸如將人類解釋者作為AI 系統與用戶間的中介和引導者的非技術手段。具體而言，通過音樂、講故事、調節和倡導等手段將AI 系統的結果翻譯成與其社區文化背景相符的敘述，解釋AI 系統處理的信息的背景、相關性和倫理影響，幫助非洲用戶理解AI 系統。比如，坦桑尼亞存在著類似“格里奧（Griot）”的“AI 人類解釋者”，該地區的一個婦女健康非政府組織獲得了移動優化的AI 系統支持，來幫助那些可能無法負擔檢查費用或需要長途跋涉或長時間等待才能獲得超聲服務的貧困婦女。然而，一開始，AI 系統并不能解釋胎兒測量結果和存在潛在問題的依據，這讓一些女性感到擔憂或不信任其準確性。后來，軟件開發團隊對AI系統進行了培訓，再加上非政府組織成員對社區孕產健康問題和實踐的既有知識，部分非政府組織的成員也擔任起了AI 解釋者的角色，有時還使用本土文化敘事的故事提供了AI 系統可能的影響和錯誤的基本背景解釋，來指出女性可能需要標準后續程序的情況，改善了此前缺乏AI 可解釋性的狀況。此外，這些解釋者用斯瓦希里語描述平板電腦模擬圖并回答與AI 工具無關的孕期問題，幫助患者理解并信任AI 系統的使用，更重要的是，其修正了數據的去背景化或潛在偏見的解釋，為機器智能計算增添了人性化的解釋，填補了技術設計者未能意識到的一些解釋性空白。第二，作者建議將可解釋性建模為一種生成性練習，使用戶能夠定制解釋為自己的語言，并以母語和熟悉的語言表達方式接收交流，以解決AI治理中可解釋性倫理要求過于廣泛的問題。考慮特殊文化背景的可解釋性不僅有助于個體理解，還可以通過承認人權及相關的隱私和集體身份規范，惠及整個社區，因此，作者建議建立一個更為健全的可解釋性框架來開發AI 系統，這樣可以確保受系統決策影響的人能夠質疑或改變結果。

最后，作者呼吁，AI 工具應當充分考慮對不同人群和社區所需的透明度、可解釋性和解釋性的適應問題。非洲地區已經開展了實踐嘗試：非洲人權與人民權利委員會于2021 年通過的一項決議是第一個由超國家授權進行的關于如何在尊重非洲本地社會普遍存在的社區價值觀、文化細微差別和社會動態的情況下作出和解釋AI 決策的研究，這一舉措可能會挑戰西方中心主義AI 模型中常見的個人主義方法，因為其不僅倡導在技術上可解釋，而且在文化上共鳴并符合用戶重視的價值觀和結構的AI 系統。然而，考慮到非洲國家對全球北方AI 技術可能存在的依賴，作者還建議非洲國家和全球北方的AI 開發者之間必須進行對話，以促進對可解釋AI 構成的共同理解和共同貢獻。

應當采用基于“日常倫理”的人工智能倫理治理方法

2024 年4 月30 日， 卡內基國際和平基金會發布其數據與社會研究所高級研究員Ranjit Singh撰寫的文章《治理人工智能的普通道德規范》（Ordinary Ethics ofGoverning AI）。文章指出了全球南方和全球北方關注人工智能的側重點不同，提出了基于“日常倫理”進行人工智能治理的方法，指出了強制性數據、數據驅動的委托和后端工作這三個可能引發的問題，并從給人工智能講故事、人工智能講述的關于人的故事和人工智能治理作為日常倫理的場所三個角度進行闡發。

首先，作者強調了南北視角下AI 倫理治理的側重點具有差異性。相比于全球北方的AI 倫理學研究重視AI 的工具屬性并關注偏見、公平、問責、透明度、可解釋性和以人為本，全球南方視角下的AI 倫理治理更加關注數字化的挑戰和國家行為體建立數據管理和AI 基礎設施的問題，同時更加強調尊嚴、勞動、殖民主義、實驗、主權等AI 帶來的后果與日常倫理。這種“南北差異”使得人類代理權問題逐漸凸顯，即AI 系統通常在日常決策中扮演“代理決策”的角色，而大多數使用其進行決策的群體則發現其自身處于自動化決策的接收端。因此，作者借鑒了人類學家Veena Das 的“日常倫理（ordinary ethics）”概念指出，應當采用基于“日常倫理”的方法管理AI 的影響，關注“道德判斷（moral judgments）”的關注與日常生活的紋理和細節。具體而言，“日常倫理”路徑下的治理方法認為人們對計算機在日常生活中的角色認知創造了其代理決策的條件，而非關注人工智能的技術能力，因為對于世界上大多數不參與開發計算系統的人而言，其更需要明晰其與這類系統互動的實際體驗，以及發展應對計算系統處理日常問題的能力以熟悉這一新事物。基于“日常倫理”的管理方法，作者指出了該路徑下人工智能治理可能需要關注的三個方面。首先是強制性數據，比如在特定的國家中，日常生活中不可或缺或必備的某些類別的數據為強制性數據。其次是數據驅動的委托，即需要厘清被委派給計算機進行決策的決策類型，以及這些以數據驅動的委派在實踐中是如何實現的。最后是后端工作，即將計算系統與生活情境對齊的工作，這項工作既依賴于人們理解計算系統方面的能力，又要求人們創造出可理解的和變通的方法以利用這些系統完成工作。

隨后，作者從給人工智能講故事、人工智能講述的關于人的故事和人工智能治理作為日常倫理的場所三個角度闡述了基于“日常倫理”進行人工智能治理的挑戰與出路。第一，人們需要向AI“講故事”，每一個數據類別就是故事的某個方面，也是將復雜的生活情境翻譯成案例代表性的代理。但這將產生一系列問題：首先，計算系統中的認知越來越成為主張公民身份和國家服務的先決條件，缺乏認知通常與社區的系統性排斥相關聯，比如由于數據類別間不匹配，一些肯尼亞公民存在雙重注冊身份問題；其次，監視是計算系統提供可讀性產生的不可避免結果，而人們的身份越容易被識別和認證，其生活就越不私密。通常情況下，由數據驅動的服務能力往往受到缺乏數據的限制，而在肯尼亞的例子中，當一個民眾被打上“難民”數據標簽就不能更改其身份為公民，更難以享受公民應有的權利。在數據驅動的委托方面，由于管理公民數據充滿了處理偽造和腐敗的挑戰，國家依賴計算機系統以應對這些挑戰，而這一做法卻引發了社會保護如何組織以及證據如何使難民或公民的身份得到認證等問題，同時，存在身份認證問題的公民缺乏合適的機制進行申訴，進而構成挑戰。在后端工作方面，雙重注冊問題揭示了后端工作不僅僅是以數字的形式注冊和存儲個人數據，其還涉及努力獲取注冊身份的官方文件到參與法庭訴訟等更復雜的因素。第二，AI 系統輸出過程扎根于現有數據的收集、整理和分析基礎設施過程中，其本質為預測和復制過去的決策和行為。而在現實中，計算系統與日常實踐存在著不匹配的問題，并將引發不同的倫理挑戰。具體而言，在強制性數據方面，既有的AI 系統難以反映數據在不同時空條件下發生的變化，如在未收集涉及個人隱私數據的條件下自行發生改變的數據存在可信度的問題，但收集了個人隱私數據則又涉及公眾被AI 監視的問題。在數據驅動的委托方面，盡管當前國家的數據化和自動化已經得到推進，但對于那些被自動系統錯誤或不公正地分類的人來說，有效的錯誤檢查和救濟機制卻滯后了，而校正自動決策系統需要太長時間，這將對部分“受害者”帶來負面影響。在后端工作方面，撤銷自動決策系統做出的錯誤決策帶來了巨大的工作成本，“受害者”不僅需要應對復雜的文書工作，還需要在申訴時澄明數據決策的錯誤。第三，基于人類與人工智能進行交互時產生的種種問題，作者建議公眾的關注點轉向與人工智能共存，接受與計算系統的代理權共存的事實，同時充分關注處于人工智能優化和設計邊緣的群體。

“AI 工具應當充分考慮對不同人群和社區所需的透明度、可解釋性和解釋性的適應問題。”

對此，作者呼吁人工智能在生活中的參與應當成為一種“日常”，并提出了相關建議。第一，在強制性數據方面，作者建議應當確保計算系統代表更廣泛的群體，最小化強制性數據的要求，并最大化服務的可訪問性，這要求相關服務在網站上提供簡單易用的表格，并能夠快速加載，而且能夠在筆記本電腦和手機上表現良好。第二，在數據驅動的委托方面，實現不同參與者之間的權力平衡是治理人工智能的必要條件。作者認為，計算系統代理權和數據主體在普通數據驅動的生活中相互塑造的關鍵在于通過公眾參與、各類活動和法律活動等進行協商，以實現權力的平衡。第三，在后端工作方面，在普通民眾間共享并推廣的運作計算系統經驗的形式應當得到支持，其將成為執行基于日常倫理方法進行人工智能治理的典范。

東南亞算法管理下平臺工人的困境

2024 年4 月30 日，卡內基國際和平基金會發布馬來西亞國家財富基金研究所高級研究員Jun-ETan 和Rachel Gong 撰寫的文章《東南亞算法管理下平臺工人的困境》（The Plight of Platform WorkersUnder Algorithmic Management inSoutheast Asia）。文章指出了大型在線平臺的算法管理破壞了現有的社會關系，在勞動力的購買者和供應商之間創造了一種真空，取代了既定的職責和義務，并產生了權力的高度集中，使得已建立的勞動關系受到破壞并創造了一種不透明、剝削和無法問責的環境。這些影響反過來使得工人期望確立清晰的雇傭地位、改善勞動條件，并明確塑造影響他們獲取工作機會的自動化決策的范圍。為了做出這樣的改變，有必要超越當前在AI 治理方面的專家強調個人傷害和補救，并考慮個體之間的聯系以及技術如何改變人們相互關聯的方式。本文以東南亞應用型司機的經歷為例，探討了如何經歷這些問題。

首先，作者指出，針對平臺工作者的算法管理已經成為監管機構、民間社會監督機構和學術研究人員關注的領域。算法管理被定義為“在組織中使用計算機程序化程序來協調勞動力投入”，涵蓋計劃、人員配備、指揮、協調和控制等功能，而這些管理功能可以通過使用AI 完全或部分地由自動化決策接管。隨著數字勞動平臺興起，調節服務的供求關系，算法管理減輕了在及時協調數百萬用戶之間的勞動交易方面的后勤困難，可以大量自動化的任務包括供需雙方之間的職位匹配、動態定價以及雙方的激勵或處罰結構，以及服務提供的監控和質量控制。例如在東南亞，Grab 應用程序將司機和尋找搭車的乘客匹配起來，確定適當的車費，并監控每次行程的持續時間。算法管理使平臺能夠規模化運作，并創造更多用戶和更多用戶生成的數據的良性循環，從而推動了更精確的預測和決策。由此產生的效率通常會導致更高的客戶滿意度，并降低對工作者新收入機會的準入障礙。平臺作為勞動力供求雙方的中間商，也能夠從兩端提取經濟價值。

其次，作者呼吁關注平臺在算法設計中的責任和社會保障方面的政策制定。分離平臺業務決策的影響和算法管理的后果非常難，通過放棄短期利潤來壟斷市場的業務決策可能會導致一種偏向于優先考慮用戶供應而非最大化利潤的定價策略。這可能會轉化為算法計算出用戶的較低價格范圍。雖然用戶可能在短期內從這種安排中受益，但工作者可能沒有這么幸運。業務決策和算法管理的影響是相互交織的，即業務決策構成算法規則的基礎，成功的平臺也在實現壟斷或單一買方市場時擁有了不成比例的權力。擁有最大數量工作者的最大平臺成為受歡迎的選擇，減少了工作者在選擇合作對象和改善工作條件和結果方面的選擇，從而進一步削弱了已經處于弱勢地位的群體的權利。以2021 年東南亞領先的網約車應用Grab 進行市場整合為例，一項消費者調查顯示，Grab 是94% 的馬來西亞受訪者首選的網約車應用程序，位居第二的印度尼西亞公司Gojek成為印度尼西亞尤其受歡迎的選擇。算法管理還通過兩種方式促進了平臺權力的集中。第一是信息不對稱，即平臺以優化算法為名，收集了大量的行為和個人數據，使其對市場生態系統擁有了比工作者更多的知識，從而為自己的利益優化決策。第二，算法管理減少了人的干預和行動，因此，工作者幾乎沒有挑戰決策或提出投訴的余地。如果這種情況普遍存在，可能會降低工作者的主動性和自我決定能力，影響他們的福祉，并可能抑制職業發展。在相關政策發展方面，最初有關平臺經濟的政策制定關注點是關于客戶安全和工人享有社會保障的權利。東南亞國家已經努力監管網約車行業，以解決這些問題。例如要求司機進行注冊，并且用于網約車工作的車輛必須符合一定的最低要求。此外，像馬來西亞這樣的國家已經將網約車司機為自雇工人的國家社會保障計劃作出了義務性貢獻。然而，盡管這些規定至關重要，但它們并沒有解決算法管理對工人福利和健康的社會關系影響。與其關注管理技術和平臺的政策相比，更側重于算法管理的政策可能在解決這些問題方面發揮了更大作用。例如，特定于算法管理的規定可以在平臺經濟中提供制衡。中國于2022 年頒布的《互聯網信息服務算法推薦管理規定》主要涉及在線內容，但也包括勞動力管理推薦算法的規定。因此，根據法律的要求，平臺在中國的算法注冊處注冊了他們的算法，并報告采取措施使用算法給予司機更多的時間來配送訂單，并允許他們在需要時申請更多時間。這表示可以通過法律的規定來促使平臺改變其算法的優先級，并對其技術所作的決策負責，重新確立其在勞動關系中的作用。東南亞國家還可以學習歐盟采取的兩層次方法。大型平臺可以通過反壟斷法規或數字市場法等門戶規定受到限制。根據歐盟2022 年頒布的數字市場法，提供核心服務的大型在線平臺要遵守旨在確保公平市場的規則，并且與較小的平臺相比，具有不成比例市場影響力的大型平臺將面臨更嚴格的規定。通過這種方式，可能對算法可能影響到大量工作者的平臺進行更嚴格的監管。雙層次的監管模式可以讓大型平臺承擔責任，同時允許較小的平臺進行創新和發展。

最后，作者指出，盡管目前平臺工作者承受著算法管理效應的壓力，但隨著大數據和自動化變得更加普及，這種管理實踐預計將擴展到傳統的工作場所。世界剛剛開始看到算法管理以及其他形式的推薦算法對社會關系產生的有害影響。工人的孤立使他們難以建立聯系和找到團結，這可能阻礙他們改善集體工作條件的能力。勞動關系中角色和責任的扭曲，破壞了多年來為制定期望和發展工人權利和社會保護而努力的努力。權力集中在企業手中，加劇了社會不平等。幸運的是，人類的韌性已經在工人組織和要求改善工作條件方面發揮作用。畢竟，工人直接經歷著管理其工作的技術的關系影響。隨著他們實時應對這些技術帶來的影響，他們應該在政策事項上進行咨詢，因為他們最能強調挑戰并提出解決方案。支持工人組織和社區建設的措施可能會產生創造性的社區驅動解決方案和更具影響力的政策。勞工和技術政策也可以通過解決結構性和關系影響以及個體影響來幫助監管平臺和試圖以犧牲人民為代價的公司。現在是采取創新方法的時候，例如采取兩層次方法來監管在線平臺，以及更為人性化但利潤最大化較少的算法管理方法。