算法善治：公共領(lǐng)域算法決策的沖突、風(fēng)險及規(guī)制

□ 文 孫 瑞

“技術(shù)中立”的算法決策模型限制了權(quán)力尋租和人情干預(yù)司法的機會和可能，為廉潔政府建設(shè)提供了技術(shù)支持。

0 引言

人工智能時代，算法擁有超強的數(shù)據(jù)運算能力，能精準(zhǔn)快速地篩選到需要的數(shù)據(jù)，在海量的數(shù)據(jù)中發(fā)現(xiàn)各變量參數(shù)之間的相關(guān)性，并可以利用數(shù)據(jù)代碼、算法程序、深度學(xué)習(xí)等方式對用戶產(chǎn)生的大數(shù)據(jù)快速處理并模擬人類思維自主地做出決策，因此常被不同主體運用到不同的場景來解決各種問題。

目前，政府部門已經(jīng)習(xí)慣于使用算法進行公共治理，為政府決策、行政治理、公共服務(wù)等領(lǐng)域提供了嶄新的技術(shù)支撐，改變了傳統(tǒng)的政府行政科層結(jié)構(gòu)。由人工決策轉(zhuǎn)為自動化決策，提高了決策效能，限制了行政執(zhí)法權(quán)的濫用，促進了數(shù)字化政府建設(shè)進程，其中健康碼的應(yīng)用與推廣是算法決策深入公共治理的典型表現(xiàn)。但介于算法本身固有的缺陷，算法決策在滲透行政系統(tǒng)時會產(chǎn)生許多沖突和風(fēng)險，必須要減少算法決策運行的沖突，化解可能出現(xiàn)的風(fēng)險，探索算法決策的善治路徑，才能真正實現(xiàn)大數(shù)據(jù)時代智慧政府公共治理體系和治理能力的現(xiàn)代化。

1 公共領(lǐng)域算法決策與算法善治

算法決策已經(jīng)被廣泛應(yīng)用到商業(yè)領(lǐng)域，隨著算法應(yīng)用的擴張以及疫情防控的影響，算法逐步深入到公共治理中，并且重要性日益凸顯。算法決策深入公共治理有兩個層面的技術(shù)優(yōu)勢。第一，算法決策改變了傳統(tǒng)的公共決策模式，由人類決策轉(zhuǎn)向自動化決策，提高了決策效率和質(zhì)量。算法通過算法植入、算法俘獲、算法支配的路徑深入政府公共治理中，對獲得的數(shù)據(jù)進行分析、運算、快速生成治理方案并落實執(zhí)行，即將算法作為行政管理中的治理術(shù)，其內(nèi)核是自發(fā)式的決策模式。而傳統(tǒng)的公共決策是行政機關(guān)主體根據(jù)治理場景的不同進行自主判斷，相較于傳統(tǒng)的決策模式，算法決策的效率更高、成本更低。政府使用算法進行行政審批、資格審核、假釋評估等，算法的技術(shù)優(yōu)勢大幅度提升行政治理的效率和決策質(zhì)量，節(jié)約公共資源，降低行政治理成本，實現(xiàn)了政府服務(wù)智能化轉(zhuǎn)型。第二，算法決策限縮了行政裁量權(quán)濫用的可能性，確保公共決策的公正性，某種程度上促進了“法律面前人人平等”。個人在算法面前只是數(shù)據(jù)對象，在代碼規(guī)則面前人人平等。“技術(shù)中立”的算法決策模型限制了權(quán)力尋租和人情干預(yù)司法的機會和可能，為廉潔政府建設(shè)提供了技術(shù)支持。同時，算法還能在公共決策中提供更精確的個性化公共服務(wù)，提升公眾的參與感和獲得感，增強公眾對政府的滿意度和信任度。

隨著人工智能不斷深入公共治理，政府部門可以基于海量數(shù)據(jù)對社會資源進行配置優(yōu)化，算法決策逐漸取代了公權(quán)力決策，形成了新興的技術(shù)權(quán)力，即所謂的算法權(quán)力。算法權(quán)力嵌入公權(quán)力運行的各個環(huán)節(jié)，不斷沖擊著權(quán)力適當(dāng)原則和正當(dāng)程序原則。

目前我國對于算法權(quán)力的研究還處于起步階段，這也對規(guī)制算法權(quán)力提出了巨大挑戰(zhàn)。算法善治也成為學(xué)科交叉領(lǐng)域研究的重點，算法善治是政府部門利用算法進行公共領(lǐng)域治理，以此提高公共治理的效率和質(zhì)量，并在算法運行中嵌入社會正義和價值元素，構(gòu)建算法正當(dāng)程序，使算法決策的結(jié)果追求與法律道德規(guī)范的終極目標(biāo)一致，即實現(xiàn)社會公平和正義。

2 公共領(lǐng)域算法決策的內(nèi)在沖突

算法決策的技術(shù)優(yōu)勢能夠保證其在公共治理中的有效性，但這并不能掩蓋算法決策屬性背后的價值偏向和沖突，算法決策的應(yīng)用不僅要追求決策的有效性，還要追求決策的正當(dāng)性。

2.1 算法決策的不透明性與可解釋性的沖突

介于算法的“黑箱性”，存在算法不透明的情況，而公共領(lǐng)域算法決策可能會影響個人基本權(quán)利，公共領(lǐng)域算法決策必須實現(xiàn)公開透明，具備可解釋性。算法透明和傳統(tǒng)意義上公共決策的透明原則有所區(qū)別，透明原則強調(diào)的是公共決策的公開性和可救濟性，而算法透明強調(diào)的是算法決策的可理解性。行政程序原則要求行政決策必須公開、透明、可解釋，而算法決策作為公共治理的手段，其決策過程也必須公開、透明，具備可解釋性。但由于算法本身的“神秘性”，算法決策過程可能出現(xiàn)算法偏差、算法黑箱、算法偏見、算法歧視、算法錯誤等問題。同時介于計算機技術(shù)的難度，普通人根本無法窺探黑箱里的秘密，算法語言有著天然的隱蔽性。實現(xiàn)算法決策透明的難點在于算法決策完全由計算機根據(jù)特定函數(shù)計算得出，過程中人力無法參與更無法更改。目前學(xué)界所持觀點大都是要求公開算法決策和自動化運行分析的過程，然而這個要求在技術(shù)上并不現(xiàn)實，因為算法的自動化決策過程不可能實現(xiàn)完全透明，對于普通人來說只不過是一行行數(shù)字和字母，這種程度的公開達不到“可解釋性”的要求。

2.2 算法決策的有效性與行政程序正當(dāng)性的沖突

算法決策和傳統(tǒng)行政決策的最大不同在于，算法決策追求技術(shù)理性和行政效率，是以結(jié)果為導(dǎo)向，傳統(tǒng)行政決策追求道德理性和程序正當(dāng)性，強調(diào)過程的公平公正。當(dāng)政府借助算法進行決策時，算法的技術(shù)理性和行政程序的正當(dāng)性可能發(fā)生沖突。算法決策在深入公共治理時自發(fā)生成了一套程序規(guī)則，即將行政程序中的行政主體、相對人、行政行為和行政規(guī)范等通過復(fù)雜的代碼進行數(shù)據(jù)化，并按照“數(shù)據(jù)輸入-算法決策-數(shù)據(jù)輸出”的程序進行。某種程度上，極大地精簡和優(yōu)化了傳統(tǒng)行政程序，但程序精簡并不意味著算法決策具備程序正義。不同于商業(yè)中的算法決策，政府機構(gòu)在進行算法決策時，其已具備公共屬性，具有準(zhǔn)公權(quán)力的性質(zhì)或公權(quán)力的性質(zhì)。在傳統(tǒng)法理中，當(dāng)公共部門所做的某項決策可能會限制個人的基本權(quán)利，那么該決策就必須經(jīng)過法律保留和法律優(yōu)先的檢視，而且也必須滿足程序正當(dāng)性的要求，需要告知行政相對人，允許其申辯陳述，為其提供參與程序的機會和具體的司法救濟途徑，這是行政機關(guān)必須履行的程序和義務(wù)。當(dāng)行政權(quán)讓渡給算法的時候，以上的過程都被算法雜糅到了一起，其決策結(jié)果的生成僅在一瞬間，無法分離出單個環(huán)節(jié)逐步進行，無法對算法決策過程進行正當(dāng)性檢驗，導(dǎo)致行政決策過程機械化、程序化，算法決策追責(zé)難，算法決策不斷沖擊著正當(dāng)程序原則。

3 公共領(lǐng)域算法決策的風(fēng)險

當(dāng)我們將傳統(tǒng)行政治理權(quán)力和公共決策交給算法，享受算法紅利帶給我們的決策便利和效率的同時，也要意識到算法決策給公共領(lǐng)域帶來的風(fēng)險和挑戰(zhàn)。算法決策的不透明使算法權(quán)利侵蝕政府的自主決策權(quán)，導(dǎo)致政府決策過程流于形式，算法背后的資本趁機斂取公共財產(chǎn)。算法決策的正當(dāng)性無法得到保障，算法權(quán)力不斷壓縮個人基本權(quán)利，從而引發(fā)公共領(lǐng)域決策信任危機。而在技術(shù)光環(huán)的加持下，這些風(fēng)險被悄然掩蓋，如果技術(shù)風(fēng)險在公共領(lǐng)域算法決策中得不到解決，那么將會嚴(yán)重損害政府的公信力。

我們需要從法律視角審視算法決策的內(nèi)在沖突，規(guī)制算法決策的正當(dāng)性，防止權(quán)力異化，實現(xiàn)公共領(lǐng)域算法善治。

3.1 侵蝕政府的自主決策權(quán)，公共決策過程形式化和資本化

算法時代，數(shù)字政府逐步推進利用算法處理行政事務(wù)，在技術(shù)理性的掩蓋下，算法治理正在異變?yōu)樗惴ㄖ洌祟愓诩铀龠~入“算法行政”時代。

首先，算法改變了傳統(tǒng)的行政決策方式，操控行政官僚無限制地擴大算法權(quán)力。表面上算法技術(shù)大大提高了行政效能，但算法將原本應(yīng)該交由政府部門公共協(xié)商的決策過程簡化為形式上的數(shù)據(jù)分析和計算處理過程，政府事務(wù)處理者逐漸喪失對問題的分辨能力和評估執(zhí)行能力，政府的行政裁量權(quán)缺位，表面上還是由行政官僚操控算法機器，可實際上政府的自主決策權(quán)逐漸喪失。其次，算法決策程序最初被用來提升行政效率這一公共價值，運行過程人工無法干預(yù)，更無法在其中注入公共精神和其他社會價值，行政正當(dāng)程序中的某些關(guān)鍵因素缺失。算法的技術(shù)中立性掩蓋了行政系統(tǒng)中的偏見與不公，公共決策中涉及的正當(dāng)性問題被忽略，導(dǎo)致公共決策過程趨于形式化。同時，算法具有巨大的商業(yè)利益，政府想要使用算法，只能通過政府購買的方式和算法公司進行交易，而算法技術(shù)的應(yīng)用是一個復(fù)雜的過程。算法公司和政府也因目的、利益取向和社會角色的不同而產(chǎn)生沖突，算法背后的資本急于逐利，在與政府合作中容易采取機會主義汲取超額公共財政資金，長此以往加劇了政府治理的空心化，引發(fā)政府公共領(lǐng)域治理危機。

3.2 算法權(quán)力異化導(dǎo)致個人權(quán)利縮減，引發(fā)政府信任危機

算法決策侵蝕政府的自主決策權(quán)，少部分人掌握算法權(quán)力，算法權(quán)力無限制擴張發(fā)生異化，算法規(guī)則統(tǒng)治下的價值選擇和社會分配正義問題浮現(xiàn)，算法權(quán)力異化最直接導(dǎo)致的便是個人權(quán)利的縮減。

首先，算法決策過程中的信息不對等剝奪了公眾個人知情權(quán)和參與權(quán)。當(dāng)政府讓渡自主決策權(quán)，正當(dāng)程序原則被架空，行政相對人對決策過程毫不知情，剝奪了行政相對人的自主能動參與的權(quán)利。其次，排除了公民的申辯權(quán)和救濟權(quán)等程序性權(quán)利。即使《個人信息保護法》第24條規(guī)定，通過自動化決策方式做出對個人權(quán)益有重大影響的決定，個人有權(quán)要求個人信息處理者予以說明，并有權(quán)拒絕個人信息處理者通過自動化決策的方式做出決定。但介于算法決策的自動化，即使個人提出異議，也很難對其進行更改，而且司法救濟目前也無法實現(xiàn),國內(nèi)并沒有明確的法規(guī)規(guī)范對算法權(quán)力進行有效規(guī)制。最后，算法決策可能會演變?yōu)榧觿∩鐣还闹破鳎斯ぶ悄茈m然具有人類無法比擬的數(shù)字計算能力和深度學(xué)習(xí)能力，但仍舊無法與人類共情。它只是準(zhǔn)確而死板地執(zhí)行系統(tǒng)中的指令，在面對涉及人性道義的抉擇時，算法不會對弱者法外開恩，無法期待它會“槍口抬高一厘米”。基于如此缺陷，所以當(dāng)算法進入公共領(lǐng)域時，應(yīng)當(dāng)對其設(shè)置禁區(qū)，對涉及個人基本權(quán)利的公共決策應(yīng)該審慎應(yīng)用算法，防止算法助推歧視風(fēng)險。

4 公共領(lǐng)域算法決策“善治”的規(guī)制路徑

算法的運行并非是一個價值無涉的絕對中立過程，早就有學(xué)者系統(tǒng)提出技術(shù)本身內(nèi)嵌價值的觀點，即在技術(shù)工程設(shè)計階段就有一些價值被有意無意地嵌入其中。作為輔助決策機制的算法背后隱藏著獨特的價值判斷，即算法設(shè)計者的設(shè)計意圖和價值取向，只不過這種價值判斷隱藏在層層技術(shù)壁壘之下。我們?nèi)魧λ惴ū澈蟮膬r值立場視而不見，就無法應(yīng)對算法帶給公共治理和倫理社會的巨大挑戰(zhàn)。我國目前法律體系尚未對算法規(guī)制問題作出具體回應(yīng)，我們需要從法律視角審視算法決策的內(nèi)在沖突，規(guī)制算法決策的正當(dāng)性，防止權(quán)力異化，實現(xiàn)公共領(lǐng)域算法善治。

算法正當(dāng)程序的構(gòu)建更多的是技術(shù)理性與法治原理的融合互助。

4.1 算法公開要以主體為中心，提升算法透明度

實施算法公開，提升算法透明度是規(guī)制算法決策和算法權(quán)力的重要手段。傳統(tǒng)上，破解算法黑箱的第一步便是算法公開，即機械地要求公開算法結(jié)構(gòu)或源代碼，但這種公開很難做到。除卻商業(yè)秘密這一“免死金牌”，這種程度的公開并沒有太大的意義，因為人們并不能打破技術(shù)壁壘，無法對算法代碼進行有效地解釋。公共決策中的算法解釋應(yīng)當(dāng)區(qū)別于一般性的算法解釋，要明確在利用算法進行公共決策時哪些相關(guān)算法數(shù)據(jù)會對主體帶來什么影響，即以主體為中心、有選擇性的算法公開。

第一，算法公司在對政府出售算法時，必須告知政府該算法決策的設(shè)計意圖和目的，必須明確向政府公開算法決策的“目標(biāo)函數(shù)”，并將該算法決策在實際運行中可能出現(xiàn)的偏差和錯誤如實告知政府部門。算法公司在對行政部門算法決策系統(tǒng)作出更新時，也要對每一版本進行公開和說明，及時改正和改進算法決策運行中出現(xiàn)的算法偏見等情況，避免算法公司利用技術(shù)優(yōu)勢在算法程序中植入不適宜代碼。第二，算法公司或算法設(shè)計者應(yīng)當(dāng)就算法決策的運行過程予以必要的解釋，增強算法決策的可理解性。尤其是當(dāng)算法決策中涉及公民的知情權(quán)、個人隱私權(quán)、平等權(quán)等基本權(quán)利時，應(yīng)當(dāng)盡量將計算機語言轉(zhuǎn)化為法律語言，或是普通人可以理解的語言。提升算法決策要素和程序的透明，增強個人的知情權(quán)，增強雙方算法信息的對稱性。時刻注意對個人信息權(quán)的保護，絕不能以徹底犧牲個人信息權(quán)來換取行政效能的提高，堅持以人為本的治理原則，絕不可過度依賴算法。

4.2 構(gòu)建算法正當(dāng)程序，完善個人權(quán)利救濟渠道

算法透明并不意味著對算法決策的有效規(guī)制，算法透明只能是有限度的透明。算法決策仍持續(xù)侵蝕行政機關(guān)的自主決策權(quán)，行政正當(dāng)程序不斷受到?jīng)_擊。程序正當(dāng)性是對算法行政所預(yù)設(shè)的正義要求，正當(dāng)程序原則應(yīng)當(dāng)合理地嵌入算法決策過程，既實現(xiàn)技術(shù)的有效性，也要強調(diào)技術(shù)的正當(dāng)性，算法正當(dāng)程序的構(gòu)建更多的是技術(shù)理性與法治原理的融合互助。

首先，建立事前算法審查機制。加強政府算法技能人才的培養(yǎng)和選拔，成立專門的機構(gòu)來研判算法決策實施風(fēng)險，為政府部門進行算法決策時提供技術(shù)參考，從技術(shù)層面規(guī)避算法公司可能利用技術(shù)優(yōu)勢帶來的潛在風(fēng)險，降低政府和算法公司之間的算法不對稱。同時借助外部力量，邀請業(yè)界專家、技術(shù)研發(fā)人員、算法公司內(nèi)部參與者等專家團隊對算法決策進行審核商討，逐步建立健全公共領(lǐng)域算法決策規(guī)則。其次，賦予個人算法解釋請求權(quán)或反算法決策權(quán)，貫徹“以人為本”的算法法治邏輯。即當(dāng)個人對算法自動化決策結(jié)果存疑時有權(quán)請求算法使用者進行解釋說明。算法只是工具，并非真正的決策者，個人在面對算法自動化決策擠壓或侵占個人權(quán)益時，有權(quán)拒絕算法自動化決策，要求專門的行政職能部門介入處理。但這并非意味著完全排斥算法決策，只是在行政相對人質(zhì)疑算法決策的正當(dāng)性時，賦予其請求行政機關(guān)介入并獲得幫助的權(quán)利。最后，疏通算法決策問責(zé)路徑，消除算法決策帶來的公共風(fēng)險。當(dāng)算法出現(xiàn)風(fēng)險時，政府往往將責(zé)任推給算法及其背后的算法公司，導(dǎo)致算法決策審查難、問責(zé)難的局面。因此，有必要建立事后責(zé)任追究機制，算法決策本質(zhì)上是行政機關(guān)“授權(quán)”產(chǎn)生，屬于行政權(quán)力的延伸，應(yīng)當(dāng)由行政機關(guān)對外承擔(dān)算法決策所帶來的風(fēng)險責(zé)任。行政相對人作為弱勢的一方，不必研判問題由誰導(dǎo)致，只要確認算法決策侵犯自己的權(quán)益，便可直接向相應(yīng)的行政機關(guān)主張責(zé)任，政府不能以技術(shù)不足為由推脫責(zé)任，算法公司不能以非決策實施主體為由推卸責(zé)任，應(yīng)當(dāng)行政機關(guān)首先承擔(dān)責(zé)任，再厘清相關(guān)算法公司的責(zé)任。

4.3 社會價值嵌入算法正義，實現(xiàn)算法善治

算法被設(shè)計出來的最初目的是服務(wù)人類，促進個人美好生活和社會福祉，是實現(xiàn)社會善治的基本工具，是人們在追求共同福祉過程中的工具。社會歧視可以通過立法進行規(guī)制，但算法決策的過程是在黑箱之中的，是不透明的，其產(chǎn)生的價值偏見和道德影響是非常隱蔽的，人們無法通過道德論辯的方式展示算法歧視的過程，但是算法決策將偏見結(jié)果加以直觀數(shù)據(jù)化，公眾可以直觀感受到算法決策產(chǎn)生的結(jié)果，這是算法決策的價值偏向和算法正義在現(xiàn)實生活中的體現(xiàn)。算法技術(shù)的中立并不妨礙算法決策作為準(zhǔn)公權(quán)力的社會價值取向，算法決策具備了一定的公共權(quán)利形態(tài)，需要借助社會正義和道德倫理對其進行價值評判和規(guī)制，而社會正義價值理念將在決策方案和實施路徑中加以呈現(xiàn)。

在具體手段上，實現(xiàn)算法善治要求積極主動地把有益于社會公共的價值融入到算法決策技術(shù)設(shè)計中去。算法設(shè)計者和決策作出者應(yīng)當(dāng)將社會正義作為基本價值追求，在算法設(shè)計中加入道德價值元素，并納入數(shù)據(jù)開發(fā)、算法設(shè)計、場景應(yīng)用的全部過程，使算法在“深度學(xué)習(xí)”時借鑒社會正義原則，為算法規(guī)制建立準(zhǔn)確有效的正義框架。同時有效吸納公眾監(jiān)督意見，利用公眾對算法決策的“有感”來調(diào)整算法決策的實施路徑和算法正義的內(nèi)容，堅持算法向上向善，以實現(xiàn)算法善治。

5 結(jié)束語

算法歸根到底只是工具，目的是為了改善我們的生活，提高治理效能，促進社會生產(chǎn)力的發(fā)展，但個人絕不可喪失主動權(quán)，被技術(shù)操控。算法行政需要考慮諸多問題，算法決策不僅僅是法律層面的問題，我們必須審慎應(yīng)對其反映出來的道德、倫理風(fēng)險，充分研判算法決策嵌入公共治理中可能出現(xiàn)的各種風(fēng)險，要在強調(diào)算法決策有效性的基礎(chǔ)上追求決策正當(dāng)性，才能在有效提升行政治理效能的同時，使算法決策在公共治理領(lǐng)域中獲得可持續(xù)的發(fā)展前景。■