閆澤華,王天夫
1.北京工業大學 文法學部,北京 100124
2.清華大學 社會科學學院,北京 100084
當前數字技術無處不在,對社會生活的發展與變遷產生著舉足輕重的影響,社會秩序與規范也隨之悄然變化。從衣食住行到移動支付,數字技術為生活提供便利的手段;從聽覺到視覺,數字技術為認識社會提供更多樣的媒介;從扶貧、教育到醫療、養老,數字技術為追求美好生活提供更廣闊的平臺。數字技術改變著人的生活習慣、認知模式、互動方式、資源分配等,既生成了新的社會空間[1]、產生了新的社會過程,也不可避免地沖擊著業已存在的社會秩序和規范,帶來一系列的問題和風險。不論是以往令每個網民擔心的電腦病毒,還是現如今“互聯網+”時代令人談之色變的非法數據搜集和隱私泄露,都侵蝕著社會成員的安全感。較之數字技術帶來的積極改變,既有研究聚焦于由數字技術引發的負面影響,并將此總結為“技術作惡”,試圖尋找既能享受便利又能規避風險的應對之道。如此,數字技術與社會相互割裂開來,數字技術引發的后果是好是壞、是善是惡取決于數字技術持有者的選擇。
在這一路徑下,治理技術、限制“技術作惡”的關鍵就在于如何規制技術以及“技術利維坦”背后的技術壟斷精英[2]。一方面,這種規制要從防范入手,比如不斷升級風控防火墻和不斷更新認證技術和流程;另一方面,這種規制要抓住問題的根源,設計針對技術精英的管理規則,提高技術精英對技術數據的管理責任和作惡成本。例如2017年6月1日實施的《中華人民共和國網絡安全法》和2021 年11 月1 日實施的《中華人民共和國個人信息保護法》,均致力于規范技術,限制數據的使用范圍和權限,明確技術和數據使用方的主體責任。但是,數字技術引發的負面結果并非都是技術精英“作惡”的結果,更值得探討的是,預設防范“技術作惡”的規則不僅可能失靈,還可能成為作惡者的“幫兇”。2020 年9 月,身為網絡安全專業人士的主人公“老駱駝”(網名)在手機被盜后迅速對手機號碼進行掛失,并積極通過手機廠商提供的技術手段進行追蹤,采取了完備的反網絡詐騙盜竊手段,但最終還是出現電子賬戶被盜刷的情況。主人公在整個過程中都積極根據其所掌握的知識與信息,著力挽回損失,但相關的規則執行主體卻在既定的、本是維護主人公權益的制度規則框架下,難以配合主人公的“反作惡”行動,給違規者帶來更大的作惡空間。而事件中的作惡者并非以往研究中所關注到的技術精英,他們并不掌握尖端的數字技術,卻在數字技術開辟的新空間中擾亂秩序,帶來負面的影響。
可見,在數字技術日新月異的當下,數字治理的對象并非僅僅是技術本身,不能只是通過規制技術的作用效果和技術精英的行為來維護社會的秩序,更重要的也被忽視的是,數字治理面對的是數字技術所生成的新的社會生活空間,以及新空間與既有空間的銜接。于社會的發展而言,數字技術并非一個外生因素,其嵌入在社會中,改變著社會的運轉邏輯,對既有的社會秩序帶來了沖擊和挑戰,這必定會引發一系列新的問題和風險。那么,嵌入在社會中的數字技術究竟給當前的社會帶來了怎樣的治理難題?既有的以技術為中心的數字治理思路有著怎樣的盲區?本文將對此展開分析和探討。
數字技術的發展極大推動了人的工作效率和解決實踐問題的能力[3]88-91。而技術在不斷走向超越和極致的追求中,也儼然是一柄達摩克里斯之劍。技術的入侵和濫用對當下生活造成了令人畏懼的負面影響。例如,數字化時代的個人隱私泄露,以暗網為代表的信息交易黑市,不同利益群體間相互發動的技術攻擊等。在這些負面影響的背后往往活躍著技術精英者的身影,既包括“利用程序缺陷或技術優勢實施犯罪”的網絡黑客這類外部攻擊者[4],也有使用公共權力獲得技術的指揮權從而為自己謀利的“技術反治理”官僚[5]、在大數據浪潮中掌握且濫用公眾數據的市場主體[6]、持科技至上觀念而挑戰社會倫理的“馬斯克們”[7]等技術的監守自盜者。這些技術精英都具有公眾所不能及的技術優勢,都可以在自身不露面且無需公眾操作甚至知曉的情況下,侵犯私人或公共權益,正如邱澤奇的總結——其作惡行動具有物理空間的“不在場性”與行動本身的“不可識別性”[1]。在這些分析和研究的強調下,技術以及技術的持有者成為技術帶來“惡果”的始作俑者,因而,數字治理的重心在于規制技術及其持有者,一系列防范和應對數字技術所產生的負面影響的手段都是以技術為中心而設計的。
一方面,從技術本身出發,設立相應的防護方案和規則來應對技術入侵等外部攻擊。比如密碼算法、通信傳輸加密、多服務器動態認證,乃至以支付寶AlphaRisk 為例的基于人工智能的風險識別技術。這些技術手段共同組成了數字技術安全的“防火墻”,發揮著抵御外部技術入侵的作用。不過,技術以一日千里的速度不斷迭代。例如,面對量子計算機無可比擬的運算能力,曾被認為不可能被破解的2048 位RSA 加密算法一觸即潰[8]。另一方面,面向技術持有者的規則體系必不可少。這類規則體系包括兩個部分,其一是社會技術服務的提供者所制定的業務規則。通過業務規則,大眾與技術產生關聯,并使用供應商提供的技術服務。一項技術如果操作煩瑣,學習和使用成本高,便很難在社會中進行推廣。許多直接面向社會成員的技術都盡可能地簡化操作程序和降低使用門檻,強調用戶思維和用戶體驗[9]。以網絡信息安全為例,如果某一非金融服務的查詢和使用都需要用戶本人設置不同的復雜暗號口令、提供手寫簽名,甚至提供手持身份證的視頻進行驗證,那么該軟件將難以被大眾接受。即使是金融類軟件,當其驗證操作過于煩瑣時,用戶也會選擇直接前往線下網點進行辦理。因此,平衡信息和用戶打擾率,即通知用戶信息和需要用戶操作的頻率是衡量一項技術服務能否在社會中推廣的重要前提。不同技術服務的提供者都力圖根據其所提供服務對安全性的要求來設定業務規則。日常生活接觸到的人體生物識別、密碼輸入、手機驗證碼,以及提供身份證號碼等認證流程都是各技術提供者平衡風控安全和打擾率之后的業務規則。其二是設立對技術倫理的監管規則。對行動者的行為制定明確的標準和行為準則[10],對技術入侵、技術濫用,乃至技術提供的行動者進行行為約束和法律威懾[11]。比如,對網絡運營者和持有、處理信息的“技術精英”提出義務上的要求,促使其在保管和處理個人信息中的事前風險評估、事中管理流程以及事后補救措施等情況下,明確其使用或濫用技術手段的法律責任。
總結來看,以技術為中心的數字治理體系認為只要技術手段沒有被其他技術攻破,只要管理規則內各技術主體都按規章行動,就能夠克服技術帶來的“反身性”和“外部性”的實踐悖論[12],就能夠對抗技術作惡。然而,數字技術并非只是作為一個外部因素而存在,科學、技術與社會本就是相互嵌入的[13]585。數字技術發展所帶來的社會問題與風險,并非只是某個或某類主體借助其所引發的道德失范或越軌行為,而是對整個社會秩序和規范的沖擊。例如,貨幣去中心化等技術引起政府功能的削弱和社會秩序的失衡[14],因技術能力差異而導致的階層分化和固化[15],以及人工智能對人類文明帶來的巨大挑戰和對人性扭曲式的釋放[7]等。尤其是在本文關注的這一事件中,作惡的盜竊團伙沒有使用什么超乎大眾的技術手段,卻給主人公帶來了非常大的物質損失,這反映出了巨大的隱患和風險。在既有的以技術為中心的數字治理體系下,各類規則未能產生預期的風險控制作用,甚至帶來事與愿違的結果。
2020 年9 月9 日,“老駱駝”通過微信公眾號發布了一篇名為《一部手機失竊而揭露的竊取個人信息實現資金盜取的黑色產業鏈》的文章①原文章現已被發布者刪除,事件轉載見https://www.freebuf.com/articles/network/249294.html,筆者于2020年10月13日對時間進行了重新整理,見https://mp.weixin.qq.com/s/_KhdCEp4-mkqkaxf W44-FQ.,講述了他在遇到手機丟失事件后被竊取個人信息和財物的經過。在這個過程中他施展自己的專業知識,同盜竊者展開了一番爭奪個人信息的較量。
生活中,手機作為當前社會人均擁有量最高的移動設備,丟失事件并不少見。對沒有接受過專業安全訓練的普通社會成員來說,如果手機失竊,會認為盜竊者的目的只是將手機出售以牟利,因此也多選擇自認倒霉,之后再買一個新手機,隨后到相應的移動通信運營商那里補辦手機卡。如果在本文的案例中依然采取這樣的處理辦法,那么失主就會在第二天發現自己在一些網絡平臺上無故多出數千至上萬元的虛擬資產消費記錄,甚至背上網絡金融貸款。這看似匪夷所思:銀行卡始終在自己手中,所有購物和消費平臺的密碼從未告訴任何人,各種支付軟件也沒有留下被使用的痕跡。其實這樣的事件在現實中發生過不止一次,甚至有人莫名背上68 萬元的線上貸款。若非事件的主人公“老駱駝”長期從事金融行業信息系統的安全漏洞檢測工作,具有高于大眾的風險敏感性和相應安全知識,我們很難解開這類事件的作惡路徑。
“老駱駝”從2020 年9 月4 日下午發現手機被盜,到9 月6 日于派出所完成報案,并最后檢查自己是否關閉各類網銀和支付軟件的快捷支付和子賬戶為止,共與盜竊團伙展開了六輪信息安全對抗。
9月4日當晚,“老駱駝”發現手機被盜后,開啟了手機制造商提供的“查找我的手機”功能,對手機進行了追蹤定位和遠程鎖定,即盜竊者只有輸入手機制造商提供的網絡賬戶密碼時,才能對手機進行解鎖和使用,否則無法進入手機操作界面。但不到兩小時后,盜竊者已經“破解”了手機鎖定功能,并解除了他的網絡賬戶同手機的關聯。“老駱駝”失去了對手機的遠程控制權。至此第一輪對抗結束。
第二輪對抗圍繞著手機號碼的掛失進行。在發現網絡賬戶被解綁后,“老駱駝”立即致電移動通信運營商將手機號碼掛失,此時發現自己在該運營商的服務密碼已被盜竊者篡改。在提供了身份證號碼和過去一個月內發生聯系的三個電話號碼后,他才將手機號碼掛失成功。但不到半小時后,他發現手機號碼掛失被解除,再次掛失后又被解掛,當夜“老駱駝”同盜竊者進行了數十次掛失和解掛的循環。
在掛失手機號碼的過程中,“老駱駝”還需要不停兼顧金融賬戶安全。在第一次掛失后,他立即對自己綁定該手機號碼的金融賬戶采取緊急行動。回想自己所擁有的全部金融賬戶后,“老駱駝”挨個將各類支付軟件中的余額轉出,刪除關聯銀行卡,并挨個將自己擁有銀行賬戶的活期余額轉出、信用卡凍結。但后來發現,仍有信用卡被盜用消費。
9月5日一早,“老駱駝”第一時間前往通信營業廳補辦電話號碼,確認新號碼的外撥和短信接收發送功能一切正常后,以為可以放松警惕,卻意外發現補辦的號碼已經被盜竊者在很短的時間內開通了呼叫轉移業務。也就是說,手機號碼的一部分權限還在盜竊者手中。
令“老駱駝”意外的是,圍繞著金融賬戶的對抗其實一直沒有停歇。9 月5 日當晚,他在檢查自己某支付軟件是否有被后續入侵時,意外發現盜竊者使用盜用的手機號碼在該支付軟件上注冊了一個子賬戶,并且綁定了一張“老駱駝”自己的信用卡。同時,自己的銀行流水中也出現了轉入記錄。順著記錄發現,盜竊者以“老駱駝”的身份,通過一些消費平臺申請了網絡金融貸款,并將貸款以購買難以追蹤的充值類虛擬物品的方式轉出。盡管采取了各種技術和社會措施,直到手機丟失事件兩天后的晚上,“老駱駝”還是不斷發現新的漏洞。憑借信息安全的職業直覺,“老駱駝”在對這兩天發生的事件進行分析后,又檢查發現盜竊者在9 月4 日晚至9 月5 日凌晨使用被盜手機號碼,在常見的幾家網絡消費平臺進行了注冊和消費。
可見,作為一個從事網絡安全相關工作的專業人士,“老駱駝”在整個過程中保持了高度的安全敏感性,例如發現移動電話運營商密碼錯誤時,敏銳地意識到對方可能進行的信息侵犯行動。整個過程中他采用了開啟查找手機功能,挨個在從使用的銀行和金融產品中贖回理財、轉走資金、凍結信用卡,更換各支付和消費軟件的預留電話號碼,關閉手機短信業務等補救措施,并且還要對手機號碼掛失是否成功、各賬戶資產變動情況、丟失手機號碼是否被在各支付平臺上重新注冊等進行反復確認。即使這樣,他最終仍然未能完全避免被盜。
那么,在“老駱駝”與作惡團伙的對抗中,既定的規則體系發揮了怎樣的作用,為何難以避免“老駱駝”的損失?
在“老駱駝”全力“阻擊”作惡者的過程中,相關的業務或技術的規則主體,包括手機制造商、地方行政服務部門、當地移動通信運營商、各類金融支付平臺,以及公安系統,都遵守著自己的規則。然而,恰恰是這種對規則的遵守,卻導致規則難以實現預期的目標,未能維護社會成員的財物安全,給盜竊者制造了不斷作惡的空間。
第一,為了增進設備的個性化服務和增加用戶黏性,手機制造商鼓勵用戶注冊其提供的網絡賬戶。通過該賬戶,用戶可以實現云儲存備份、購買數字娛樂產品、對自己設備的遠程管理,例如鎖定和解鎖手機等。如果用戶要對該賬號的密碼進行重置,制造商會向用戶的手機號碼發送驗證碼,以驗證是用戶本人操作。盜竊者通過將盜竊的手機卡插入其他手機,順利獲取了相應的驗證碼,從而解除了失竊手機的遠程鎖定。
第二,隨著數字治理中互聯網與政府服務結合的推廣,各地各級政府部門紛紛推出網上政務、移動政務等在線服務功能。社會成員在登錄該政府部門網站或下載相應的軟件,用手機號碼進行注冊后,便可以在線查詢與自己相關的公共服務信息。同樣,用戶如果忘記其個人電子政務賬號的密碼,可以選擇手機驗證碼的形式對密碼進行修改,甚至直接快捷登錄。本文的案例中,盜竊者正是利用這一點,直接以手機驗證碼的形式進入失主所在省份某公共服務部門的移動政務軟件,并由此查到失主的身份證信息和一張銀行卡卡號。
第三,當地移動通信運營商規定,手機號碼的掛失和解掛都需要提供該手機號的服務密碼。修改服務密碼需要向運營商提供機主本人的身份證號碼。盜竊者通過前一步中獲取的失主身份證信息修改被盜手機號碼的服務密碼,并以此在失主掛失手機號碼后,重新對手機號碼進行解掛。在數十次同盜竊者就掛失和解掛進行對抗時,失主提出當前手機號碼處于被盜狀態,希望運營商停止對方的解掛行為。但運營商則強調,掛失解掛必須遵循固定的業務規則,只要能夠提供手機號碼的服務密碼,系統就會進行解掛,他們甚至提出,失主這樣反復掛失和解掛是在占用公共資源。
第四,由于涉及個人財物,各類金融支付平臺的業務規則比前述主體更加重視風險控制。除了要求用戶在注冊和使用時提供手機驗證碼和身份證號碼外,還要求提供額外的銀行卡號等個人信息,以及進行生物識別驗證或檢驗所使用設備是否是用戶本人常用設備。但由于盜竊者在以上環節中已經獲得失主的手機、手機號碼使用權,身份證號碼、一張銀行卡號碼等信息,于是能突破多家金融支付平臺的業務規則,以失主名義申請到網絡金融貸款。雖然個別金融支付平臺的風險識別技術發現了操作異常,在當時阻斷了交易,但盜竊者已經使用失主的各項信息注冊了子賬戶,若不是失主從一個意外收到的支付驗證碼開始重新檢查并發現了子賬戶,盜竊者便可以憑借該子賬戶進行小額消費。
第五,不僅業務規則,監管規則在該案例中也陷入被動。“老駱駝”報警后,警察表示以往的手機盜竊都以銷贓設備為目的,從未見過通過偷盜手機進而盜竊個人電子財物的先例。警察也不相信盜竊者能夠通過各技術和規則主體的業務規則獲取失主個人信息,認為一定是將身份證和銀行卡的照片存在了手機中,從而被盜竊者盜用。可見,若非“老駱駝”所具有的信息安全從業經驗,公安機關也難以在短時間內理清盜竊者的作案過程。普通大眾可能直到被催繳貸款時才發現財物被盜。此時大多數人可能根本無法將貸款同手機丟失聯系起來,在報警時無法描述情況。即使失主能聯想到手機被盜,也很可能因為時間跨度太久而使偵破工作難度加大。
在這個案件中,并沒有所謂的技術精英作惡,甚至也不存在規則之外的技術濫用。犯罪團伙所使用的手段只是任何民眾在了解后都能進行的流程化操作,沒有令人遐想的黑科技設備或者超級代碼,技術手段在此并未發揮作用;而網絡通信運營商、消費平臺和支付機構等技術和規則主體都遵守了自己的規則,沒有玩忽職守。但卻正是這些被遵守的規則,反倒成為“幫兇”。例如運營商的業務規則使得“老駱駝”在手機丟失當晚,在與盜竊者的掛失與解掛對抗中耗費巨大精力,否則他很可能可以避免后續的損失。又如案例中出現的政務軟件,其因本身不具有金融支付功能而并未進行嚴格的安全風險控制,盜竊團伙卻從此處獲得打開失主電子賬戶的重要信息。
治理的核心是治理體系自我良性循環發展的過程。其中,治理主體使用治理手段、增進社會福祉、完善治理方向,社會自我動員和參與、投身治理過程,形成治理動力。數字技術作為重要的效率提升工具,對社會和治理產生了巨大影響,深刻改變了社會運行模式,甚至已經超然于社會之上。本文的案例中,防范技術作惡的規則之所以成為盜竊者實施“作惡”的幫兇,其根本原因就在于社會被排除在數字治理的體系之外。
本文的案例中,作為網絡信息安全員的“老駱駝”也承認各相關機構的治理規則獨立看來都不存在大的問題。每一項規則都對個人信息有著相應的業務防護流程,包括密碼認證、手機驗證碼,甚至常用設備檢測、銀行卡檢測、生物識別等。而當這些規則在案例中相遇時,卻成為盜竊者通過“正常業務操作”就能實施不法活動、“老駱駝”想盡辦法也無法及時阻止產生損失的“幫兇”。就該事件來看,其原因主要在于兩點:
第一,各相關機構的規則之間存在驗證的錯位,即不同屬性、不同業務方向的機構業務流程不同,對個人信息的要求和保護等級也不同。例如本文案例中公共服務部門本身不是金融機構,除相關公管服務外并不具有金融支付功能,因此對個人信息保護的標準就明顯低于其他機構,盜竊者可以輕而易舉獲取失主個人信息。又如移動網絡運營商只針對手機號碼本身提供了密碼驗證的規則,卻忽略了通過手機號碼接收的驗證碼已經成為當前確認個人身份的一個重要工具。這種“錯位”使得不法分子可以利用不同機構的信息差串聯出個體的信息,給社會成員帶來損失。
第二,各規則內部存在參與和反饋的錯位。“老駱駝”作為規則的受眾,在遇到規則無法解決問題甚至起反作用的情況時,無法在規則的框架內維護自身權益。規則的執行者——相關機構的客服在獲知“老駱駝”遇到突發情況時,要么質疑該突發情況的真實性,例如某金融支付機構的客服只以盜竊者冒充失主進行的交易作為憑據,堅持失主應該承擔損失;要么也只能按照規則行事,例如移動網絡運營商客服堅持只要提供服務密碼就能操作手機號碼的掛失,沒有權限對這一規則流程做出干預。更有甚者,根據“老駱駝”的后續反饋,還有眾多相似事件的受害者并沒有意識到其利益受損是不同機構規則間錯位造成的。這種發生于規則內部,規則的受眾難以發現問題、沒有途徑反饋問題,規則的執行者不相信問題、沒有權限干預問題,從而導致規則的制定者認識不到問題的現象,造成了規則內的錯位。而規則內的錯位進一步掩蓋了規則間的錯位,使既有的規則不斷成為不法分子“作惡”的幫兇。
表面來看,相關機構組織——手機制造商、移動通信運營商、公共服務部門等只要著力應對既定規則的不合理、修補規則漏洞就能夠杜絕此類事件。但進一步分析,規則體系本身就是技術同社會連接的體現。規則的雙重錯位本質上是技術與社會的錯位和脫離,即技術本身有意或無意地脫離了社會,以及技術的脫離導致規則的脫離。
技術前進的速度遠遠超過了現有社會規則的發展節奏和社會常識的認知[16]。這種不斷加深的專業化門檻,有意無意地將社會大眾排除在技術領域之外。技術對社會“有意識地”超越與脫離一直受到關注。一方面,技術發展的進程同樣也是人的工作不斷被取代的進程。現代技術所帶來的效率提升遠遠超過了人力所及,與現代性追求效率和工具理性的取向一拍即合。另一方面,在“技術萬能”思想下,人被定義為技術中最大的風險。伴隨著人工智能和機器學習的不斷發展,大眾在技術面前的存在感越來越弱,甚至會成為技術運行的絆腳石。凱文·米特尼克在其著作《反欺騙的藝術》中提到,人是信息風控中最大的漏洞。各種影視作品也不斷向社會和大眾重復這一觀點,例如個人無意中泄露隱私或機密信息導致整個安全系統被黑客攻克的橋段在科幻和犯罪類影視作品中屢見不鮮。技術精英們,或者說是整個社會,都一直表達著大眾是技術的客體,是技術的對象而不是技術的主導,讓社會遠離技術是效率和安全的理所當然。
同時,技術也在“無意”中將社會排除于治理之外。治理較之管理,側重點在于共建、共治和共享。社會本身既是治理的對象,也是治理的主體,是參與者和行動者。但是,技術的進步卻使得治理主體的門檻越來越高,形成了治理主體同社會大眾的分隔。技術是發現和解決社會需要的手段,幫助社會治理乃至整個社會發展更加高效。隨著科學技術和信息技術的專業化發展,技術卻變得越來越不“親民”,脫離了社會大眾的日常想象,將社會的習慣遠遠甩在了后面[17]46。例如,雖然那些使用量數以億計的手機軟件正不斷改變著我們的生活方式,卻很少有人知道自己的數據和信息是如何被加密、傳遞、存儲和調用的,遑論各種充斥著機器語言的底層協議。因而,數字治理中的技術成為滿足大眾需求的黑箱子。
雖然在數字技術對社會的滲透勢不可擋的當下,如何對數字技術進行有效管理成為數字治理的重要議題,但社會大眾越來越難以參與,甚至理解技術的開發與應用。大眾不用參與到具體的“建”與“治”中,只需要享受技術帶來的福利,看著技術持有者間的“正邪之戰”。這樣的“享受”和“觀戰”讓社會忘卻了自身才是技術作為治理工具的被服務者,以及技術作為治理對象的被保護者,卻在技術的剛性面前淪為“不被需要者”[16]。掌握技術的技術精英也就理所當然地成為數字治理的關鍵。伴隨“不被需要”的角色認同,社會難以再有可循經驗參與精英們的判斷決策,也難以再有社會基礎去統合精英們的認知想象。從而限制技術精英的責任就落在了規則的身上。
與此同時,技術越發達則越分化,技術項目越來越繁雜,技術標準越來越多元,技術之間的區隔也越來越明顯。單個技術精英或組織已經遠遠無法承擔起對接所有技術的重任,從而產生了不同方向領域的技術精英和技術主體。技術方向不同,技術主體所承擔的業務也就不同。即使在同一技術范圍內,技術細化所導致的分工也在時時刻刻發生。例如,不同的互聯網精英和互聯網企業的經營方向不同,所使用的數據、對數據的敏感程度也不同。技術業務之間的相關性和協調性也變得十分復雜。面對復雜的技術關系,政府也難以制定出一個統一的規則標準。強行讓所有技術主體和精英都執行最嚴格的標準,勢必會大大削減效率。因此,規則越來越個性化,規則間的錯位、相互不兼容也就不可避免。
任何治理模式都離不開規則體系的規范協調,數字治理尤是如此[12]。但是,伴隨著從與治理有關的技術問題中被排除,大眾在與技術有關的治理問題上也失去了話語權,即不再參與到規則的制定與監督中。日常生活的社會規則在于限定社會成員的行為,通過社會大眾所認可的方式從事社會活動,從而使社會保持長期效率最優。這里暗含了社會規則的兩個重點:第一,對規則的受眾而言,社會規則對所有人都是一種約束。社會規則本身涉及內容廣、牽扯利益多、內部機制復雜,大多數個體通常都有渠道通過破壞日常社會規則獲得超額利益,例如小到買票時的排隊插隊,大到找關系走后門。這種對規則的破壞隨之會引起其他社會成員的模仿。當人人都不遵守規則時,整個社會就會失序。因此,每個社會成員都是社會規則的遵守者,潛在破壞者,同時也是監督者。第二,社會規則建立在廣泛社會認可的社會邏輯基礎上。這種認可既可以從法律規范的公平邏輯出發,例如買票時先來后到的排隊,也可以是從道德習俗邏輯出發,例如買票窗口的老弱病殘孕優先和軍人優先。一方面,所有社會成員基本理解或能夠理解社會規則的產生和運行機制,從而對各種不合理之處提出意見建議,因此規則制定者需要根據廣泛社會認可的變化來調整規則體系。我國人民民主專政制度、人民參政議政以及我國政府不斷進行的制度改革和精簡辦事流程等,都是根據社會認可的變化而不斷提升和改進各項規則的體現。但另一方面,由于社會認可的多元性和復雜性,社會規則在執行過程中也具有了充分的彈性。執行者具有一定的權限,可以根據自己對社會認可的判斷,對特定情況進行特殊處理。例如,雖然售票員所遵守的規則只是把所負責的票按既定價格賣出去,但認為“應該相互體諒”的售票員會讓聲稱有急事的人先購票,認為“照顧自己人是社會共識”的售票員則會優先把票提供給他的親朋。
但是,無論是因為無法自拔于技術所帶來的效率提升,還是因社會對技術的“懵懂無知”而不放心,技術相關的規則更多是對技術精英的要求和對技術邏輯的遵循。首先,同樣是對行為的規范,規則體系對不同角色的作用機制卻不同。技術精英可以通過打破規則獲得超額利益。對他們而言,規則是紅綠燈和限速器,把技術精英的“無所不能”壓制在可控范圍內,但是對于規則受眾的社會成員,規則更像是說明書和向導,失去了規則的大眾將寸步難行,失去了同新的社會生活空間的對接。例如,移動支付的普及反而使得不會通過移動軟件業務操作規則的人難以進行交易,國家不得不強調禁止商家拒收現金。大眾只有通過遵照規則的設定才能進入技術所開辟的新空間,獲得技術帶來的提升。本文的案例中,“老駱駝”作為一名網絡安全工程師,面對自己電話被不斷解封,也只能重復幾十次地按照規則掛失而毫無辦法。在規則面前,即便是掌握技術的個體精英也只是被動的接受者。其次,規則的建立更多基于技術邏輯而非社會共識。相比于社會認可的復雜性,技術邏輯依賴算法,具有天然的“剛性”[18]。算法一旦達成,就會被嚴格執行,且難以修改。對算法而言,只有按照預設技術邏輯的操作才能具有被系統所識別的資格,并根據既定的判定標準分配運算結果。規則的建立、修補以及最終解釋權被掌握在技術精英的手中。任何非預設的非固定因素都無法影響系統判定,即使規則體系的執行者也無法改變。如果說鮑曼提到的現代性是執行者的技術責任代替了道德責任,選擇了放棄道德而遵守技術,那么在新的社會生活空間中,規則的執行者則被技術所囚禁。本文的案例中,地方移動網絡運營商所堅持的提供服務密碼就可以解除手機號碼掛失就是技術邏輯“剛性”的體現。即使作為規則受眾的“老駱駝”向規則的執行者客服表明號碼被盜,但由于掛失和解掛的規則并沒有預設這一情況,他們都只能遵循“提供密碼—掛失—提供密碼—解掛”的剛性流程。客服本身也沒有權限改變這一邏輯。更何況,在技術邏輯下,規則執行者的行動也只是按照已經制定好的算法操作,并不屬于掌握算法的技術精英,甚至同大眾一樣被技術所隔離。
從而,規則被技術切分成了兩個部分——圍繞技術邏輯的規則建立者,被技術邏輯剛性與技術專業門檻所隔絕的規則執行者和規則受眾。規則建立者將注意力都放在對抗技術入侵和提升技術效率上,而不是在已經“被隔離”的社會。執行者與受眾共同組成這個“無認知”“無權限”“無反饋”的社會。由于并不建立在社會認可的基礎上,規則體系所存在的問題很難被缺乏技術知識的大眾所認知,遑論即使有人發現問題,規則的執行者也沒有權限在規則外解決問題,并且規則的執行者同樣也因不懂技術而無法將問題反饋給規則制定者。更可怕的是,技術所建構起來的“技術至上”話語,甚至讓社會大眾、乃至技術的執行者都篤信技術邏輯和規則不會出錯。在本文的案例中,甚至連保護人民財產安全、維護社會秩序的警察,在一開始都認為“不可能”,是失主自己把身份證和銀行卡照片放在手機里導致的信息泄露。
最終,透過這個案例可以看到,人完全沒有被當作可介入的行動元[19],專業型技術防護背后的技術門檻在客觀上讓大眾遠離技術,規則對“以人為本”的偏離在主觀上讓大眾遠離規則。規則的制定越來越脫離于社會之外,走上了以技術為目的而不是以人為目的的道路,在“技術作惡”尚未解決之余,還帶來了技術之外的作惡結果。案例中技術防護撲了空,而規則成了“幫兇”,不禁讓我們陷入了矛盾——設立防范“技術作惡”的規則為何失靈?社會在規則之外真的就手足無措嗎?
幸運的是,這個案例也同時讓我們看到了數字治理的關鍵抓手。本文案例中“老駱駝”這樣既具有技術能力又有公益熱情的個體,發揮了巨大的作用。其一,家庭仍然為個體在不斷拓展新空間、充滿不確定的社會中提供著堅定的支撐。雖然“老駱駝”的妻子才是真正的“失主”,但“老駱駝”本人在整個過程中承擔起了保護財產安全、對抗盜竊團伙的核心工作,并且其他家庭成員也或多或少地參與其中。其二,這個案例展示了社會互助和社會監督作用。“老駱駝”在弄清盜竊者的作案流程后,意識到手機是在小區門口丟失,盜竊者很有可能故地再犯,因此他在報警之前先在社區業主群中提醒大家做好為手機卡上鎖、檢查整理銀行卡等預防性工作。報警后次日,失主將此次經歷編寫成文章發布出來,提醒更多人注意防范。該文章一經發布就引起很大關注。一方面,這種鄰里互助成為數字時代社會互助的體現。另一方面,伴隨著社會影響和社會互助范圍的擴大,案例中的移動通信運營商也主動聯系“老駱駝”道歉,并調整了相關業務規則。幾家被盜竊者冒用失主名義進行盜刷、盜付和借貸的金融平臺,態度也從一開始的事不關己發生很大轉變,積極聯系失主賠付損失和消除借貸記錄。面對技術發展而催生出的機構、組織,作為個體的社會成員是如此乏力。但本文案例所體現的,正是由個體組成的社會能夠突技術束縛、參與規則體系的希望之光。
治理講求成員大眾的共同參與,是一個逐漸達成普遍共識的過程,而技術的發展則無限地追求專業化,是一個不斷實現突破革新的過程。一方面,當規則被技術邏輯支配,治理就失去內核。因此我們無法任由算法和技術掌握一切,人的決定權必須是人類社會的核心所在[18]。另一方面,如果規則的制定要等待社會共識的達成,技術就失去活力。因此,有效的數字治理需要技術手段、治理過程、社會參與相契合。要實現這一契合,就需要讓社會參與到數字治理體系中,塑造以社會為中心的數字治理體系。
第一,社會是規則的服務對象,規則要兼容社會對技術的想象。對于同社會生活直接相關的技術,社會都需要一段時間對其進行消化和接納。從被視作“異端”的解剖,到被當成“怪物”的火車,再到現代時不時被夸大的無線信號輻射,都是社會消化技術的漫長過程。與此同時,現代技術的發展則是一個不斷站在前人肩膀上的迭代過程。新技術不斷在原有技術工具的基礎上創造出新的功能,從而導致新技術已經出現并普及,社會認知卻還停留在原有技術的基礎上。例如,本文案例中的一個關鍵點就是手機號碼從社交工具變成了身份識別的工具。手機號碼誕生之初只是作為一個聯系的代號,并沒有被賦予足夠的安全功能。隨著數字科技、移動科技的發展和互聯網管制的要求,手機號碼開始跟身份證一樣成為互聯網時代的身份證明,但社會還沒有跟上這一轉型。在許多人眼中,手機仍只是移動電話,手機號碼如同固定電話號碼一樣只是一個傳話工具,離開了本人就沒有意義。因而很多人在手機丟失后,都認為對方是沖著手機作為商品的價值,造成了更多的損失而不自知。在這種情況下,規則如果只考慮技術邏輯,僅僅服務于技術的迭代,就會同社會認識脫節,從而產生問題。因此,要讓數字治理體系卓有成效,就必須不斷考慮到社會對數字技術的認知程度。
第二,社會是規則的運行環境,規則要扎根于社會話語和習俗。現代技術只有通過與社會連接才有可能裹挾社會。如果一項技術暫時無法同社會直接接軌,那么無論其多么尖端也難以影響社會的行為。技術同社會連接就意味著需要同社會話語和習俗接軌。規則就是技術和社會的連接處。規則的設置無論多么遵循技術邏輯,都要被放到社會中去運行,去把技術帶進社會中。本文案例中,盜竊者向移動通信運營商客服聲稱,反復的掛失和解掛行為是情侶之間的斗氣行為,導致客服不僅沒有注意到該事件的可疑,反而在“老駱駝”解掛時告誡他不要因為私事占用公共資源。這種對情侶斗氣等社會行為的默認,即社會話語和習俗對規則執行的影響。假如規則制定者試圖完全隔絕社會話語和習俗,不僅可能反而造成低效,違背技術發展的原則,還可能引起社會整體的不滿和政府的管制。2015 年被廣泛關注的“證明我媽是我媽”事件就是規則執行者過于執著于規則邏輯,忽視了社會的結果。
第三,社會是規則體系的優化平臺,具體的規則要不斷經歷社會的測試。現代技術也是一個不斷自我完善的過程,需要不斷尋找漏洞并進行改進。在算法語言中,這一尋找和修補漏洞的過程被稱為調試。任何一個以技術邏輯為支撐的技術產品都需要不斷處于“測試—反饋—修補”的技術優化循環中,因此很多軟件在開發者之外都要設置軟件測試師,測試師發現漏洞再反饋給開發者修補漏洞。只有不斷推出補丁、保持更新的軟件才能長期保持活躍。所有的規則也都如同一個個“社會程序”,都要被放入社會這個“操作平臺”中。技術同社會的連接越深入,相應的規則體系就越復雜,潛在的漏洞就越多。但由于社會的場域龐大、情況復雜,無論是編寫這些“程序”的規則制定者,還是被我們寄予希望來保護我們的政府,都無法獨立完成這一任務。他們所做的只能是等待漏洞導致的問題爆發后,再對漏洞進行修補。本文的案例表明,同規則全面交融的社會,是不斷發現規則漏洞、實現規則優化的重要平臺。
因此,在規則的制定和運行過程中,社會的參與并不是不切實際地構建一個“人人懂算法”的理想環境,讓社會適應算法,而是讓技術真正扎根于社會。至少本文的案例就展示了這樣一個路徑。一方面,雖然普通大眾并不懂技術,但是與社會直接相關的技術圍繞著這些普通人,相應的規則也圍繞著這些普通人。普通大眾憑借著其龐大的基數和時刻的使用扮演著漏洞測試者的角色。他們通過參與規則的運行,從生活經歷和社會互動出發,從社會話語和習俗出發,反饋遇到的不便或問題,為規則的運行提供了無間隙、高強度的測試。另一方面,社會中懂技術且有公益性的群體成為漏洞的發現者,依靠其建立起廣大漏洞測試者的“中樞”,普通大眾在遇到漏洞時,很可能會因缺乏相關的知識而無法發現漏洞的原因,亦或者由于規則的受眾太多,規則制定者難以及時發現個別人碰到的漏洞,此時就需要社會中了解技術和信息安全的個體或社會組織成為規則制定者和規則受眾之間的“中樞”。通過匯集大眾遇到的問題,總結共性,發現漏洞所在,反饋給規則的制定者,從而避免以往規則制定者只有在相當數量社會成員都遇到問題,并產生較大影響的安全事故時才能修補漏洞的情況。而且在發現漏洞到規則制定者修補漏洞的期間,“中樞”還可以成為該漏洞風險的預警者,正如“老駱駝”將他的經歷發布出來提醒大眾為手機卡上鎖一樣,提醒大眾對相應漏洞進行規避,避免風險擴散。
當我們焦慮于社會未來是否會淪為算法的奴隸[20]865,又焦慮于技術精英是否超然于社會之上時,我們不該遺忘社會本身的力量。規則體系的良性發展、數字治理的評判標準仍然是社會。正義的“無知之幕”需要的是全社會的參與,而不是技術精英們的獨角戲。要實現有效的數字治理,就必須動員、發揮社會的主體性,讓社會成員作為規則的測試員,作為漏洞的發現者,作為修補的提醒者,形成真正以人為本的數字治理參與體系。