［摘 要］ 隨著人工智能的發(fā)展，自動(dòng)化決策系統(tǒng)將在對(duì)象識(shí)別、數(shù)據(jù)對(duì)比和算法推薦方面革新傳統(tǒng)救助機(jī)制，預(yù)示著未來(lái)社會(huì)救助的重要發(fā)展方向。本研究嘗試?yán)迩迳鐣?huì)救助自動(dòng)化決策系統(tǒng)的技術(shù)架構(gòu)、決策過(guò)程與人機(jī)交互模式運(yùn)行機(jī)理，并揭示其在提升公共服務(wù)效率和公正性方面的巨大潛力。研究深入探討了社會(huì)救助自動(dòng)化決策中算法偏差的識(shí)別與分析，并指出主要存在的三種偏差：數(shù)據(jù)集構(gòu)建偏差、算法設(shè)計(jì)和運(yùn)行偏差、算法透明度和可解釋性偏差。這些偏差對(duì)行政決策公正性有顯著的潛在影響。為應(yīng)對(duì)這些挑戰(zhàn)，本研究提出促進(jìn)社會(huì)救助自動(dòng)化決策高質(zhì)量發(fā)展的綜合治理措施，包括數(shù)據(jù)集的多樣化、算法的公平性評(píng)估和模型的優(yōu)化開(kāi)發(fā)、決策機(jī)制的透明性和可解釋性、人類干預(yù)的強(qiáng)化和動(dòng)態(tài)監(jiān)測(cè)機(jī)制的建立、法律法規(guī)的完善。

［關(guān)鍵詞］ 社會(huì)救助；自動(dòng)化決策；算法偏差；治理路徑；透明度

一、問(wèn)題的提出

公共行政機(jī)構(gòu)的行政決策自動(dòng)化是數(shù)字政府改革的一個(gè)重要要素，在全球公共管理領(lǐng)域使用全自動(dòng)或半自動(dòng)的行政決策正在不斷地增加和擴(kuò)張中；a 中國(guó)也同樣積極地引領(lǐng)和探索數(shù)字化轉(zhuǎn)型道路，以期實(shí)現(xiàn)中國(guó)式現(xiàn)代化與特色社會(huì)保障新制度文明。b 當(dāng)前中央政府的“簡(jiǎn)政放權(quán)”改革正如火如荼地開(kāi)展中，除了在府際層面的向下授權(quán)外，部分“簡(jiǎn)政放權(quán)”工作也在“數(shù)字中國(guó)”的發(fā)展戰(zhàn)略背景下借助技術(shù)治理手段得以實(shí)現(xiàn)。人工智能（Artificial Intelligence，簡(jiǎn)稱AI）作為一種模擬人類智能的技術(shù)，涵蓋了包括機(jī)器學(xué)習(xí)在內(nèi)的多個(gè)子領(lǐng)域，而自動(dòng)化決策（Automated Decision Making，簡(jiǎn)稱ADM）作為AI 技術(shù)應(yīng)用的一個(gè)分支，主要致力于利用算法實(shí)現(xiàn)決策過(guò)程的自動(dòng)化。由自動(dòng)化決策衍生出的自動(dòng)化偏差（Automation Bias）問(wèn)題，即對(duì)自動(dòng)化系統(tǒng)的過(guò)度依賴而對(duì)社會(huì)或政府造成的負(fù)面影響，a 其中算法偏差（Algorithm Bias）就是自動(dòng)化偏差中最常見(jiàn)的一種。b 全球范圍內(nèi)的社會(huì)服務(wù)自動(dòng)化改革揭示了技術(shù)治理的雙刃劍特性，即它既有可能帶來(lái)革命性的進(jìn)步，也可能引發(fā)一系列問(wèn)題和風(fēng)險(xiǎn)，美國(guó)印第安納州的社會(huì)救助自動(dòng)化改革中，實(shí)施的自動(dòng)化系統(tǒng)（Automatic Control System，簡(jiǎn)稱ACS）便充分印證了高科技工具如何在社會(huì)福利、法律執(zhí)行等領(lǐng)域中加劇對(duì)貧困群體的歧視與合理性不平等（RationalDiscrimination），自動(dòng)化決策系統(tǒng)在設(shè)計(jì)上未能有效拆解結(jié)構(gòu)性不平等的情況下，通過(guò)其快速和大規(guī)模的應(yīng)用而強(qiáng)化了這些不平等。從既往國(guó)外的經(jīng)驗(yàn)來(lái)看，人工智能算法的確存在較大的爭(zhēng)議，一方面，支持者認(rèn)為這些算法在許多領(lǐng)域帶來(lái)了革命性的進(jìn)步，瑞典和芬蘭等國(guó)家紛紛在《行政法典》（Administrativlagboken）和《行政程序法》（Hallintomenettelylaki）中支持在公共管理過(guò)程中使用ADM，包括歐盟的《通用數(shù)據(jù)保護(hù)條例》和《人工智能法案》均提到自動(dòng)化決策的法律適用約束條件；人工智能通過(guò)機(jī)器學(xué)習(xí)和深度學(xué)習(xí)技術(shù)能夠處理大量數(shù)據(jù)并廣泛將其運(yùn)用在稅收、社會(huì)福利、醫(yī)療診斷、自動(dòng)駕駛和金融分析等領(lǐng)域，以敏捷算法模式做出更準(zhǔn)確的預(yù)測(cè)和決策，提高生產(chǎn)效率，c 減少人為錯(cuò)誤，推動(dòng)各行各業(yè)創(chuàng)新性發(fā)展；d 然而，另一方面，批評(píng)者指出人工智能算法也存在透明性和可解釋性不足等潛在風(fēng)險(xiǎn)，導(dǎo)致人們難以理解其決策過(guò)程而加劇社會(huì)不平等，例如，奧地利公共就業(yè)服務(wù)（Austrian Public EmploymentService，簡(jiǎn)稱AMS）算法的案例揭示了自動(dòng)化偏差在公共管理中的影響，該算法通過(guò)基于求職者特征的分組優(yōu)化資源分配，然而，其評(píng)分機(jī)制對(duì)女性、年長(zhǎng)者、有健康問(wèn)題者以及非歐盟求職者存在不公正現(xiàn)象，從而暴露了自動(dòng)化決策過(guò)程中潛在的歧視問(wèn)題。由于算法運(yùn)行依賴海量數(shù)據(jù)，倘若數(shù)據(jù)本身包含偏差和歧視將導(dǎo)致算法決策對(duì)某些群體不公平。e 社會(huì)各界對(duì)人工智能廣泛應(yīng)用可能引發(fā)的失業(yè)問(wèn)題廣泛關(guān)注，普遍擔(dān)憂眾多傳統(tǒng)工作崗位將面臨被自動(dòng)化技術(shù)取代的風(fēng)險(xiǎn)，盡管人工智能算法在技術(shù)層面取得了令人矚目的進(jìn)步，社會(huì)仍需以謹(jǐn)慎的態(tài)度對(duì)待其應(yīng)用，并確保其發(fā)展遵循倫理和公平原則，如何在確保技術(shù)革新的同時(shí)，充分考量弱勢(shì)群體的特殊需求，f 避免加劇社會(huì)分層，成為當(dāng)務(wù)之急。在此背景下，強(qiáng)化對(duì)ADM 應(yīng)用系統(tǒng)的監(jiān)管力度，推動(dòng)建立行業(yè)標(biāo)準(zhǔn)，保障民眾的知情權(quán)和參與權(quán)。未來(lái)救助體系的構(gòu)建，不僅需要技術(shù)層面的創(chuàng)新，更應(yīng)在政策制定、倫理審視及法律規(guī)制等多維度進(jìn)行綜合考量和平衡，這種平衡的實(shí)現(xiàn)有賴于政府、企業(yè)、學(xué)術(shù)界及社會(huì)各界的共同努力。g 我國(guó)正探索多元化的解決方案，如建立第三方評(píng)估機(jī)制，對(duì)ADM 系統(tǒng)的公平性進(jìn)行定期審核，并公開(kāi)審核結(jié)果，以提高社會(huì)信任度。通過(guò)搭建合作平臺(tái)，提升數(shù)據(jù)質(zhì)量，a 逐步消除算法中的偏差，提升社會(huì)救助的精準(zhǔn)度。確保算法決策過(guò)程中的每一步都符合倫理道德和法律規(guī)定，讓技術(shù)在服務(wù)社會(huì)、造福人民的同時(shí)，b 也能兼顧公平與正義。

隨著信息技術(shù)的持續(xù)發(fā)展，我國(guó)社會(huì)救助體系正逐步向信息化、智能化和自動(dòng)化方向演進(jìn)，一些地區(qū)已經(jīng)開(kāi)始嘗試和實(shí)施社會(huì)救助信息化的深入應(yīng)用，實(shí)施以遠(yuǎn)程申請(qǐng)、c 遠(yuǎn)程授權(quán)、d 需求評(píng)估、e 主動(dòng)識(shí)別等主要輔助救助決策手段的實(shí)踐探索，f 以促進(jìn)救助服務(wù)的智能化和自動(dòng)化。持續(xù)推動(dòng)社會(huì)救助信息化建設(shè)，實(shí)現(xiàn)信息的高效流通，減少困難群眾的奔波，不僅有助于提升政府的治理能力和效率，也是提高公共服務(wù)質(zhì)量的關(guān)鍵步驟。g 當(dāng)前學(xué)術(shù)界與民政部門(mén)在相關(guān)領(lǐng)域的研究與實(shí)踐主要集中在以下方面：第一，數(shù)字技術(shù)在社會(huì)救助領(lǐng)域的應(yīng)用價(jià)值研究。數(shù)字技術(shù)，尤其是人工智能、互聯(lián)網(wǎng)和大數(shù)據(jù)，在社會(huì)救助領(lǐng)域展現(xiàn)出巨大的應(yīng)用潛力。技術(shù)治理通過(guò)遠(yuǎn)程申請(qǐng)和授權(quán)簡(jiǎn)化了救助申請(qǐng)流程，它還能模擬評(píng)估救助需求，通過(guò)數(shù)據(jù)分析精準(zhǔn)識(shí)別需要救助的群體。算法系統(tǒng)（Welfare Eligibility Systems）的主動(dòng)發(fā)現(xiàn)功能有助于識(shí)別那些可能未被納入救助范圍的低收入人群，確保資源的公平分配。數(shù)字技術(shù)的應(yīng)用極大地推動(dòng)了社會(huì)救助的精細(xì)化管理進(jìn)程，對(duì)困難家庭信息的實(shí)時(shí)、動(dòng)態(tài)管理，能夠精準(zhǔn)捕捉家庭致困的多元因素及個(gè)性化需求。智慧算法服務(wù)救助逐漸成為社會(huì)救助制度的核心訴求之一，衡量標(biāo)準(zhǔn)也由單一的收入指標(biāo)轉(zhuǎn)向多元化的需求評(píng)估，多維化需求評(píng)估從經(jīng)濟(jì)狀況、教育水平、健康狀況、社會(huì)關(guān)系等多個(gè)維度開(kāi)展政策干預(yù)，確保幫扶措施更具針對(duì)性和差異性。第二，自動(dòng)化算法在救助信息核對(duì)中的作用。自動(dòng)化算法不僅限于簡(jiǎn)化和加速數(shù)據(jù)處理流程，分析大量歷史數(shù)據(jù)識(shí)別出潛在的欺詐行為和異常模式。部分地區(qū)以電力大數(shù)據(jù)為基礎(chǔ)，通過(guò)算法賦能的探索，識(shí)別潛在救助對(duì)象實(shí)現(xiàn)救助的主動(dòng)發(fā)現(xiàn)機(jī)制，且基于水電氣具體使用數(shù)據(jù)的混合算法也在中國(guó)的部分地區(qū)進(jìn)行試點(diǎn)，輔助識(shí)別那些可能因?yàn)榧夹g(shù)或知識(shí)限制而未能正確申報(bào)信息的個(gè)體，確保救助資源能夠更加公平地分配給真正需要幫助的人。第三，國(guó)內(nèi)外自動(dòng)化社會(huì)救助的實(shí)施效果。以美國(guó)印第安納州的福利自動(dòng)化系統(tǒng)為例，該系統(tǒng)的設(shè)計(jì)初衷是為了提高福利申請(qǐng)和審批的效率，但由于系統(tǒng)設(shè)計(jì)缺陷、項(xiàng)目管理不善以及技術(shù)問(wèn)題，數(shù)據(jù)處理錯(cuò)誤、系統(tǒng)崩潰等，導(dǎo)致食品券資格的綜合錯(cuò)誤率從5.9% 增加到19.4%，增長(zhǎng)了超過(guò)三倍，漏保率從1.5% 增加到12.2%。在自動(dòng)化社會(huì)救助實(shí)踐中，技術(shù)實(shí)施和項(xiàng)目管理中對(duì)于數(shù)據(jù)的規(guī)制、算法的設(shè)計(jì)和模型的訓(xùn)練值得關(guān)注；同時(shí)，數(shù)字濟(jì)貧院（Digital Poorhouse）研究中，學(xué)者關(guān)注到隨著數(shù)字化管理和自動(dòng)化決策系統(tǒng)的廣泛應(yīng)用，a 美國(guó)政府和相關(guān)機(jī)構(gòu)越來(lái)越多地采用算法來(lái)分配社會(huì)福利、管理社會(huì)服務(wù)項(xiàng)目、評(píng)估個(gè)人資格等，帶來(lái)的新的數(shù)字不平等問(wèn)題，主要表現(xiàn)在數(shù)字資源的分配不均、數(shù)字技能的差異以及數(shù)字設(shè)備的普及程度等方面。b國(guó)內(nèi)實(shí)踐方面，部分地區(qū)民政部門(mén)開(kāi)發(fā)了“救助通”小程序或低收入監(jiān)測(cè)系統(tǒng)平臺(tái)，廣東省民政部門(mén)開(kāi)展了AI 賦能社會(huì)救助的實(shí)踐，開(kāi)發(fā)了廣東省低收入人口動(dòng)態(tài)監(jiān)測(cè)管理系統(tǒng)，該系統(tǒng)匯集了12 個(gè)部門(mén)機(jī)構(gòu)的18 類特殊困難群眾基本信息，把405 萬(wàn)低收入人口納入監(jiān)測(cè)。系統(tǒng)根據(jù)各項(xiàng)監(jiān)測(cè)指標(biāo)綜合賦分計(jì)算結(jié)果，采用紅、橙、黃、藍(lán)、綠5 檔顏色信號(hào)劃分預(yù)警等級(jí)，實(shí)現(xiàn)了由“人找政策”到“政策找人”的轉(zhuǎn)變。c 廣東省還建立了底線民生信息化核對(duì)管理系統(tǒng)，實(shí)現(xiàn)全省異地通辦，與銀行對(duì)接，電子授權(quán)模式等創(chuàng)新，提升了社會(huì)救助的效率和便捷性。其他地區(qū)如內(nèi)蒙古自治區(qū)興安盟民政局社會(huì)救助信息化管理系統(tǒng)建設(shè)項(xiàng)目，實(shí)現(xiàn)了自助申請(qǐng)、在線核算、在線公示等功能。江蘇省常州市智慧大救助平臺(tái)構(gòu)建了“五化”智慧救助體系，提高了救助的精準(zhǔn)度。山東淄博博山區(qū)“博山e 救助”微信小程序?qū)崿F(xiàn)了一網(wǎng)通辦，主動(dòng)發(fā)現(xiàn)，打造了“物質(zhì)＋服務(wù)＋ e”新模式。

現(xiàn)有文獻(xiàn)為社會(huì)救助自動(dòng)化決策中的算法偏差與治理路徑提供了豐富的理論基礎(chǔ)和實(shí)踐案例。前人的研究明確了數(shù)字治理是一把雙刃劍，自動(dòng)化算法簡(jiǎn)化和加速了數(shù)據(jù)處理流程，在識(shí)別潛在的欺詐行為和異常模式具有較強(qiáng)的預(yù)警功能，但在數(shù)字技術(shù)賦能與嵌入政府行政決策實(shí)務(wù)過(guò)程中，也植入了值得防范的新風(fēng)險(xiǎn)。盡管現(xiàn)有文獻(xiàn)為社會(huì)救助自動(dòng)化決策提供了豐富的理論基礎(chǔ)和實(shí)踐案例，但在算法偏差與治理路徑方面亟待深入探討，例如，社會(huì)救助自動(dòng)化決策的算法偏差及影響，國(guó)內(nèi)外自動(dòng)化社會(huì)救助實(shí)踐的具體差異是什么，算法驅(qū)動(dòng)的社會(huì)救助自動(dòng)化運(yùn)行的內(nèi)在機(jī)理是什么，在此基礎(chǔ)上，本文旨在通過(guò)深入研究社會(huì)救助自動(dòng)化決策中的算法偏差與治理路徑，為推動(dòng)我國(guó)社會(huì)救助體系的數(shù)智化發(fā)展提供理論支持和實(shí)踐指導(dǎo)。

二、社會(huì)救助自動(dòng)化決策的運(yùn)行機(jī)理

社會(huì)救助自動(dòng)化決策系統(tǒng)作為一種現(xiàn)代信息技術(shù)的應(yīng)用，其核心在于通過(guò)算法驅(qū)動(dòng)的自動(dòng)化流程對(duì)社會(huì)救助申請(qǐng)進(jìn)行快速、高效的審查和評(píng)估，以決定申請(qǐng)人是否符合救助條件。該系統(tǒng)在數(shù)字化救助領(lǐng)域的迅速發(fā)展，為社會(huì)救助工作的現(xiàn)代化轉(zhuǎn)型提供了強(qiáng)有力的技術(shù)支持，其運(yùn)行機(jī)理主要體現(xiàn)在技術(shù)架構(gòu)、決策過(guò)程和人機(jī)交互模式三個(gè)核心環(huán)節(jié)。技術(shù)架構(gòu)作為系統(tǒng)的基石，通過(guò)先進(jìn)的技術(shù)手段確保數(shù)據(jù)處理的安全性、可靠性和高效性，為系統(tǒng)的穩(wěn)定運(yùn)行和高效處理提供有力保障。決策過(guò)程則通過(guò)自動(dòng)化的方式，實(shí)現(xiàn)了對(duì)申請(qǐng)人資格的快速審查和精準(zhǔn)評(píng)估，提高了決策的準(zhǔn)確性和公正性。人機(jī)交互模式則注重申請(qǐng)人的參與度和互動(dòng)性，通過(guò)用戶界面設(shè)計(jì)和交互流程優(yōu)化，提供便捷、友好的在線服務(wù)，增強(qiáng)了用戶體驗(yàn)，并確保信息的透明度和可訪問(wèn)性。通過(guò)該運(yùn)作機(jī)理，社會(huì)救助工作將實(shí)現(xiàn)由傳統(tǒng)的人工審核向自動(dòng)化決策的轉(zhuǎn)變，大大提高處理效率和準(zhǔn)確性，減少人為干預(yù)的可能性，確保救助資源的公平分配。該系統(tǒng)還將為政府和社會(huì)提供全面、精準(zhǔn)的數(shù)據(jù)支持，為制定科學(xué)合理的救助政策提供有力依據(jù)，從而在公共服務(wù)領(lǐng)域?qū)崿F(xiàn)數(shù)智技術(shù)賦能的重要發(fā)展趨勢(shì)。

（一）技術(shù)架構(gòu)：支撐高效數(shù)據(jù)處理與系統(tǒng)穩(wěn)定

在全球范圍內(nèi)，不同地區(qū)在自動(dòng)化社會(huì)救助決策的技術(shù)架構(gòu)選擇上呈現(xiàn)出多樣性。北美一些地區(qū)救助系統(tǒng)則更多采用分布式數(shù)據(jù)匯總的方式和強(qiáng)大的數(shù)據(jù)處理引擎，a 以確保數(shù)據(jù)的實(shí)時(shí)性和準(zhǔn)確性；b 歐洲福利系統(tǒng)則并沒(méi)有像美國(guó)等一些國(guó)家采納聯(lián)邦政府和州政府分化的救助服務(wù)，更多地區(qū)傾向于采用數(shù)據(jù)集成系統(tǒng)平臺(tái)和云計(jì)算技術(shù)，以強(qiáng)調(diào)數(shù)據(jù)安全性和處理效率；亞洲政府則偏好混合架構(gòu)模式，c 結(jié)合云計(jì)算和本地?cái)?shù)據(jù)中心的優(yōu)勢(shì)，若救助的自動(dòng)化資格審查未通過(guò)，人工干預(yù)則會(huì)出現(xiàn)在平臺(tái)拒絕救助后，進(jìn)一步審查并明確原因，以確保數(shù)據(jù)的可靠性和安全性。亞洲地區(qū)在社會(huì)救助自動(dòng)化決策領(lǐng)域的技術(shù)發(fā)展趨勢(shì)尤為值得關(guān)注，尤其是我國(guó)在積極推動(dòng)云計(jì)算技術(shù)在社會(huì)救助領(lǐng)域的應(yīng)用的積極探索，利用云計(jì)算、大數(shù)據(jù)、人工智能和物聯(lián)網(wǎng)等先進(jìn)數(shù)字技術(shù)，推動(dòng)了社會(huì)救助管理的現(xiàn)代化。例如，利用云計(jì)算技術(shù)建立了社會(huì)救助信息化平臺(tái)，為政府部門(mén)和社會(huì)救助組織提供了強(qiáng)大的數(shù)據(jù)支持，最大程度上破解了精準(zhǔn)識(shí)別障礙問(wèn)題。通過(guò)集成多源數(shù)據(jù)，實(shí)現(xiàn)了對(duì)救助對(duì)象財(cái)產(chǎn)狀況、經(jīng)濟(jì)條件、家庭條件等的精確核查，解決了邊緣貧困群體難識(shí)別、求助對(duì)象需求難掌握等問(wèn)題，促進(jìn)了社會(huì)救助供需的精準(zhǔn)對(duì)接，有助于推動(dòng)救助對(duì)象精準(zhǔn)化和救助項(xiàng)目的精細(xì)化實(shí)施。

社會(huì)救助自動(dòng)化決策系統(tǒng)在技術(shù)架構(gòu)方面，系統(tǒng)通常基于數(shù)字技術(shù)，涵蓋機(jī)器人流程自動(dòng)化（Robotic Process Automation， RPA）、確定性規(guī)則模型（Deterministic Rule-Based Models）、回歸分析（Regression Analysis）、大數(shù)據(jù)分析（Big Data Analytics）、機(jī)器學(xué)習(xí)（MachineLearning， ML）和神經(jīng)網(wǎng)絡(luò)（Neural Networks）等多種技術(shù)形式。其中，RPA 廣泛應(yīng)用于瑞典社會(huì)服務(wù)領(lǐng)域，特別是社會(huì)救助評(píng)估方面，能夠自動(dòng)執(zhí)行重復(fù)性任務(wù)，如數(shù)據(jù)輸入和查詢。確定性規(guī)則模型則依據(jù)預(yù)設(shè)的邏輯規(guī)則處理數(shù)據(jù)并作出決策，例如根據(jù)申請(qǐng)人的收入水平自動(dòng)決定是否批準(zhǔn)社會(huì)救助申請(qǐng)。回歸分析用于預(yù)測(cè)未來(lái)趨勢(shì)或結(jié)果，如預(yù)測(cè)特定申請(qǐng)人未來(lái)可能需要的社會(huì)救助金額。大數(shù)據(jù)分析利用大量數(shù)據(jù)進(jìn)行模式識(shí)別和預(yù)測(cè)以優(yōu)化決策過(guò)程，通過(guò)分析歷史數(shù)據(jù)識(shí)別高風(fēng)險(xiǎn)家庭，提前提供干預(yù)措施。機(jī)器學(xué)習(xí)工具利用“大數(shù)據(jù)”和統(tǒng)計(jì)模型補(bǔ)充或替代人類決策，減少?zèng)Q策過(guò)程中的人為偏見(jiàn)。神經(jīng)網(wǎng)絡(luò)作為一種復(fù)雜的機(jī)器學(xué)習(xí)方法，模仿人腦工作方式，能夠處理更復(fù)雜的數(shù)據(jù)結(jié)構(gòu)和關(guān)系。值得注意的是，自動(dòng)化決策技術(shù)并非中立的工具，需要在嵌入特定社會(huì)和文化背景中去理解和運(yùn)用，政策話語(yǔ)中常常忽視了技術(shù)的社會(huì)建構(gòu)性質(zhì)，將其視為解決已知問(wèn)題的中立手段。實(shí)際上，技術(shù)的應(yīng)用和發(fā)展受到救助需求、權(quán)力關(guān)系和利益驅(qū)動(dòng)等因素的直接影響。

（二）決策過(guò)程：從數(shù)據(jù)收集到結(jié)果反饋的自動(dòng)化流程

從全球范圍內(nèi)看，社會(huì)救助自動(dòng)化決策過(guò)程在整體上遵循了數(shù)據(jù)收集、分析處理、決策制定和結(jié)果反饋的基本流程。在歐洲地區(qū)，社會(huì)救助領(lǐng)域的自動(dòng)化決策體系一般涵蓋以下四個(gè)核心環(huán)節(jié)：數(shù)據(jù)集成、預(yù)處理、模型構(gòu)建與決策生成。在數(shù)據(jù)集成階段，該系統(tǒng)通過(guò)多元化渠道系統(tǒng)性地采集申請(qǐng)人的個(gè)人基本資料、經(jīng)濟(jì)狀況等關(guān)鍵信息；隨后，在預(yù)處理階段，對(duì)收集到的數(shù)據(jù)進(jìn)行深度清洗與標(biāo)準(zhǔn)化處理，旨在保障數(shù)據(jù)的全面性與精確性；模型構(gòu)建階段則依托先進(jìn)的機(jī)器學(xué)習(xí)算法，對(duì)歷史數(shù)據(jù)集進(jìn)行訓(xùn)練與分析，以構(gòu)建出具有預(yù)測(cè)能力的決策模型；在決策生成階段系統(tǒng)自動(dòng)形成并輸出精準(zhǔn)的社會(huì)救助決策。a 在北美地區(qū)，社會(huì)救助領(lǐng)域的自動(dòng)化決策機(jī)制通常涵蓋以下關(guān)鍵步驟：數(shù)據(jù)綜合集成、模型效能評(píng)估、決策策略制定及結(jié)果反饋優(yōu)化。數(shù)據(jù)集成階段通過(guò)多個(gè)數(shù)據(jù)源整合信息，形成全面的數(shù)據(jù)集；模型評(píng)估階段對(duì)不同的模型進(jìn)行對(duì)比和驗(yàn)證，選擇最優(yōu)模型；決策制定階段基于選定的模型生成救助決策；結(jié)果反饋階段將決策結(jié)果及時(shí)告知申請(qǐng)人，并收集反饋信息用于后續(xù)優(yōu)化。在亞洲，社會(huì)救助自動(dòng)化決策系統(tǒng)通常包括數(shù)據(jù)收集、分析處理、決策制定和結(jié)果通知等步驟。b 數(shù)據(jù)收集階段通過(guò)在專有系統(tǒng)平臺(tái)、線下核對(duì)等多種渠道明確救助信息；分析處理階段對(duì)數(shù)據(jù)進(jìn)行深入分析，識(shí)別申請(qǐng)人的具體需求；c 決策制定階段根據(jù)分析結(jié)果生成救助決策；結(jié)果通知階段通過(guò)短信、郵件等方式將決策結(jié)果通知申請(qǐng)人，并提供后續(xù)支持。上述流程反映了各地區(qū)在技術(shù)應(yīng)用、政策導(dǎo)向和社會(huì)需求方面的多樣性，同時(shí)也展示了全球范圍內(nèi)技術(shù)發(fā)展和應(yīng)用的廣泛性。

社會(huì)救助自動(dòng)化決策系統(tǒng)的決策過(guò)程是一個(gè)高度系統(tǒng)化和自動(dòng)化的流程，其設(shè)計(jì)、開(kāi)發(fā)和部署均旨在通過(guò)精確的數(shù)據(jù)收集、分析處理、決策制定和結(jié)果反饋來(lái)提升社會(huì)救助的效率和公正性。其一，系統(tǒng)通過(guò)多渠道收集申請(qǐng)人的基本信息，包括個(gè)人身份信息、家庭狀況、教育水平、經(jīng)濟(jì)狀況以及以往的社會(huì)救助申請(qǐng)記錄等。這些數(shù)據(jù)來(lái)源廣泛，涉及申請(qǐng)人自行提交的材料、政府部門(mén)數(shù)據(jù)庫(kù)、金融機(jī)構(gòu)、醫(yī)療機(jī)構(gòu)、房產(chǎn)管理機(jī)構(gòu)、車(chē)輛管理部門(mén)以及社會(huì)信用體系等。系統(tǒng)對(duì)這些信息進(jìn)行初步篩選和驗(yàn)證，確保其真實(shí)性和準(zhǔn)確性，同時(shí)保證數(shù)據(jù)的全面性和實(shí)時(shí)性。其二，系統(tǒng)運(yùn)用先進(jìn)的數(shù)據(jù)分析技術(shù)對(duì)收集到的數(shù)據(jù)進(jìn)行深入分析，以確保決策的準(zhǔn)確性和公正性。依據(jù)預(yù)先設(shè)定的救助標(biāo)準(zhǔn)和規(guī)則，系統(tǒng)對(duì)申請(qǐng)人的信息進(jìn)行自動(dòng)化評(píng)估和計(jì)算。通過(guò)機(jī)器學(xué)習(xí)算法、大數(shù)據(jù)分析、區(qū)塊鏈和人工智能技術(shù)對(duì)申請(qǐng)者的各種數(shù)據(jù)進(jìn)行綜合評(píng)估，識(shí)別潛在的風(fēng)險(xiǎn)和需求。d其三，系統(tǒng)根據(jù)多個(gè)方面的標(biāo)準(zhǔn)和規(guī)則，如收入水平、財(cái)產(chǎn)狀況、家庭成員數(shù)量等，算法和測(cè)量模型需要定期動(dòng)態(tài)更迭以適應(yīng)社會(huì)救助政策的變化和新的數(shù)據(jù)分析技術(shù)的發(fā)展，根據(jù)區(qū)域范圍內(nèi)的收入平均水平以及其他救助評(píng)估要素條件，計(jì)算出申請(qǐng)人是否符合救助條件，系統(tǒng)生成初步評(píng)估報(bào)告，詳細(xì)列出申請(qǐng)人的各項(xiàng)信息和評(píng)估結(jié)果，提交給相關(guān)部門(mén)或工作人員進(jìn)行復(fù)核。其四，復(fù)核確認(rèn)無(wú)誤后，通過(guò)數(shù)字或通訊平臺(tái)短信通知申請(qǐng)人自動(dòng)化系統(tǒng)決策的救助申請(qǐng)結(jié)果。申請(qǐng)人通過(guò)系統(tǒng)提供的詳細(xì)報(bào)告，了解自身是否符合救助資格及具體的救助金額，并按規(guī)定的程序領(lǐng)取現(xiàn)金或服務(wù)等形式的援助。針對(duì)特殊申請(qǐng)個(gè)案的排異性機(jī)器學(xué)習(xí)，系統(tǒng)可根據(jù)實(shí)際運(yùn)行數(shù)據(jù)和用戶反饋進(jìn)行迭代改進(jìn)，以不斷提升決策質(zhì)量和系統(tǒng)性能。

（三）人機(jī)交互模式：增強(qiáng)申請(qǐng)者參與度和用戶體驗(yàn)

全球范圍內(nèi)，自動(dòng)化決策系統(tǒng)的人機(jī)交互模式呈現(xiàn)出地域性的差異，各地在界面設(shè)計(jì)、功能配置及用戶體驗(yàn)方面各有側(cè)重，但普遍目標(biāo)在于增強(qiáng)申請(qǐng)者的自主性和互動(dòng)性，提供高效、友好的在線服務(wù)體驗(yàn)。在北美地區(qū)，人機(jī)交互設(shè)計(jì)尤為強(qiáng)調(diào)申請(qǐng)者的主動(dòng)參與和即時(shí)互動(dòng)。通過(guò)集成在線平臺(tái)和自助服務(wù)終端，申請(qǐng)者能夠便捷地提交資料并實(shí)時(shí)監(jiān)控處理狀態(tài)。系統(tǒng)配套提供詳盡的操作指導(dǎo)和視頻教程，確保用戶充分理解相關(guān)政策與流程。例如，美國(guó)的Benefits.gov 平臺(tái)不僅提供了全面的服務(wù)指南，還實(shí)現(xiàn)了應(yīng)用程序訪問(wèn)功能，支持用戶追蹤申請(qǐng)進(jìn)展，并設(shè)有即時(shí)反饋機(jī)制，保證用戶提交資料后即可迅速獲得確認(rèn)通知。a 歐洲地區(qū)的人機(jī)交互模式更側(cè)重于服務(wù)的便捷性和用戶體驗(yàn)的友好度。申請(qǐng)者借助在線門(mén)戶或移動(dòng)應(yīng)用完成資料提交，同時(shí)享有即時(shí)查詢進(jìn)度和結(jié)果的功能。系統(tǒng)配備了在線客服和電話咨詢服務(wù)，確保申請(qǐng)者在遇到難題時(shí)能快速獲得援助。瑞典的社會(huì)福利系統(tǒng)以其多語(yǔ)種支持和全天候在線客服著稱，用戶可通過(guò)即時(shí)聊天或電話聯(lián)系客服代表，獲取即時(shí)幫助；而丹麥的Borger.dk 平臺(tái)同樣提供了高度個(gè)性化的服務(wù)選項(xiàng)。b 亞洲區(qū)域人機(jī)交互模式的設(shè)計(jì)著重于提高申請(qǐng)者的參與度和滿意度。除了常規(guī)的在線申請(qǐng)和進(jìn)度查詢外，系統(tǒng)還提供了多語(yǔ)言版本和文化適應(yīng)性界面，以滿足多元背景申請(qǐng)者的需求，增強(qiáng)了服務(wù)的可及性和用戶對(duì)系統(tǒng)的信任感、歸屬感。

在人機(jī)交互模式下，人類工作者與自動(dòng)化程序系統(tǒng)之間存在嵌入性分工問(wèn)題，更多依托技術(shù)進(jìn)行智慧治理還是更多依靠人類智力治理的比重，決定了人機(jī)交互的幾種協(xié)同模式，通常需要人或機(jī)按比例完成管理系統(tǒng)的維護(hù)和故障排除等任務(wù)。社會(huì)救助自動(dòng)化決策中的人機(jī)交互模式大致可以分為三種類型。其一，完全自動(dòng)化系統(tǒng)。自動(dòng)化社會(huì)救助系統(tǒng)通過(guò)算法處理大量標(biāo)準(zhǔn)化申請(qǐng)，決策完全依靠算法和技術(shù)手段自動(dòng)處理和審批標(biāo)準(zhǔn)化申請(qǐng)，使決策基于預(yù)設(shè)規(guī)則運(yùn)行而非個(gè)人偏好的指令。系統(tǒng)性能高度依賴于輸入數(shù)據(jù)的質(zhì)量，錯(cuò)誤或不完整的數(shù)據(jù)可能會(huì)直接導(dǎo)致決策失誤。以美國(guó)印第安納州為例，該州曾嘗試通過(guò)自動(dòng)化系統(tǒng)決定福利申請(qǐng)資格時(shí)，暴露出對(duì)特殊情況處理不足的問(wèn)題，部分符合條件的申請(qǐng)者未能獲得應(yīng)有的救助，成為了自動(dòng)化福利決策改革失敗的典型案例。其二，混合系統(tǒng)。混合系統(tǒng)結(jié)合了自動(dòng)化工具與人工審查，旨在平衡技術(shù)和人之間的關(guān)系。印第安納州后來(lái)轉(zhuǎn)向的混合系統(tǒng)保留了電子數(shù)據(jù)處理和私有化管理的核心功能，同時(shí)允許申請(qǐng)人在必要時(shí)與公共雇員面對(duì)面交流。這種方法試圖在技術(shù)效率和人性化服務(wù)之間找到平衡，但在實(shí)踐中仍面臨諸多挑戰(zhàn)。瑞典的特雷勒堡市（Trelleborg）自2017 年起將機(jī)器人流程自動(dòng)化（Robotic Process Automation，RPA）引入社會(huì)救助申請(qǐng)管理中，RPA 在引入公共部門(mén)當(dāng)年就在個(gè)案工作者的協(xié)助下處理了大約 70% 的救助申請(qǐng)，當(dāng)年即作出了41% 的決定并處理了實(shí)際的社會(huì)援助待遇給付。隨著經(jīng)驗(yàn)的積累，截至2020 年，特雷勒堡市超過(guò)85% 的社會(huì)援助申請(qǐng)人使用了電子申請(qǐng)，其中30% 完全由RPA 處理。a 其三，輔助決策模式。輔助決策模式側(cè)重于利用人工智能進(jìn)行數(shù)據(jù)分析，輔助工作人員作出更為精準(zhǔn)的決策。當(dāng)社會(huì)救助申請(qǐng)者對(duì)系統(tǒng)裁決持有異議時(shí)，社會(huì)救助專業(yè)人員需介入實(shí)施復(fù)審與調(diào)停工作。此過(guò)程包括詳盡考察申請(qǐng)者家計(jì)情況并評(píng)估其異議的正當(dāng)性，視情況作出人工修正。輔助決策方式是行政自動(dòng)化決策探索的初始模式，也積累形成了較多有益的經(jīng)驗(yàn)探索。我國(guó)陜西省西安市探索建立“線上預(yù)警+ 線下響應(yīng)+ 資源鏈接+結(jié)果跟蹤”的數(shù)鏈合一機(jī)制、江蘇省江陰市探索的社會(huì)救助項(xiàng)目、數(shù)據(jù)、資源、監(jiān)管集成式智慧救助信息平臺(tái)建設(shè)，將大數(shù)據(jù)及人工智能技術(shù)運(yùn)用在救助申請(qǐng)過(guò)程中，除了數(shù)智賦能外，他們均采納了人工輔助決策的運(yùn)行模式，進(jìn)一步豐富了“大數(shù)據(jù)+ 鐵腳板”的審查機(jī)制。然而，未來(lái)的進(jìn)步仍依賴于數(shù)據(jù)驅(qū)動(dòng)機(jī)制的完善和自動(dòng)化救助、人工智能領(lǐng)域的進(jìn)一步發(fā)展與公共服務(wù)領(lǐng)域的深入結(jié)合運(yùn)用落地。三種RPA 模式展示了自動(dòng)化決策的人機(jī)交互不同應(yīng)用層面，從完全依賴技術(shù)的自動(dòng)化系統(tǒng)，到技術(shù)與人的混合決策模式，再到以人為主的決策系統(tǒng)，每一種模式都有其特定的應(yīng)用場(chǎng)景和優(yōu)缺點(diǎn)。選擇合適的人機(jī)交互模式，需要綜合考慮系統(tǒng)的效率、決策的公正性和透明度，以及對(duì)復(fù)雜決策和人際溝通的需求。

三、社會(huì)救助自動(dòng)化決策的算法偏差

盡管社會(huì)救助自動(dòng)化決策展現(xiàn)出廣闊的前景，人工智能和大數(shù)據(jù)技術(shù)在社會(huì)救助申請(qǐng)過(guò)程中顯著提升了效率和準(zhǔn)確性，但算法偏差問(wèn)題依然構(gòu)成了全球數(shù)字治理的重大挑戰(zhàn)并可能形成“創(chuàng)造性破壞”。b 例如，《自動(dòng)化不平等》一書(shū)中提到的美國(guó)印第安納州福利自動(dòng)化系統(tǒng)失敗案例，清晰地揭示了算法偏差可能導(dǎo)致對(duì)特定群體的不公平對(duì)待，這不僅暴露了系統(tǒng)設(shè)計(jì)缺陷、項(xiàng)目管理不善和技術(shù)問(wèn)題對(duì)系統(tǒng)效能的影響，還深刻反映了算法偏差對(duì)社會(huì)公正的損害，以及由此引發(fā)的公眾對(duì)人工智能技術(shù)信任度的下降。因此，深入探討社會(huì)救助自動(dòng)化決策中算法偏差的識(shí)別與分析，不僅是技術(shù)層面的必要之舉，更是確保社會(huì)公平與正義的迫切需求。

（一）數(shù)據(jù)質(zhì)量偏差：數(shù)據(jù)完整性和準(zhǔn)確性對(duì)算法決策的影響

算法決策依賴于數(shù)據(jù)質(zhì)量，但數(shù)據(jù)的完整性和準(zhǔn)確性常受影響，導(dǎo)致數(shù)據(jù)質(zhì)量偏差。社會(huì)救助自動(dòng)化決策系統(tǒng)面臨數(shù)據(jù)集構(gòu)建偏差、數(shù)據(jù)標(biāo)注主觀性、訓(xùn)練數(shù)據(jù)質(zhì)量問(wèn)題和目標(biāo)設(shè)定與特征選擇偏差等多方面挑戰(zhàn)。其一，數(shù)據(jù)集構(gòu)建的偏差問(wèn)題。在社會(huì)救助自動(dòng)化決策領(lǐng)域，用于訓(xùn)練模型的數(shù)據(jù)集的代表性將直接關(guān)系到模型決策的公平性。如果數(shù)據(jù)集中樣本選擇不當(dāng)或帶有偏差，訓(xùn)練出的模型可能會(huì)放大這些偏差，導(dǎo)致對(duì)特定群體的歧視性決策。例如，數(shù)據(jù)集可能偏向于某一收入水平、地區(qū)或職業(yè)群體，這不僅違背了社會(huì)救助的基本原則——公平與正義，還可能加劇社會(huì)不平等。其二，數(shù)據(jù)標(biāo)注的主觀性差異。從傳統(tǒng)救助管理出發(fā)，不同工作人員基于各自的判斷標(biāo)準(zhǔn)，可能會(huì)對(duì)申請(qǐng)人的資格和需求做出不同的評(píng)估。這種主觀性不僅會(huì)影響模型訓(xùn)練的效果，還會(huì)降低決策的透明度和可解釋性，損害公眾對(duì)社會(huì)救助系統(tǒng)的信任。不同的工作人員可能對(duì)同一申請(qǐng)人的健康、經(jīng)濟(jì)狀況有不同的理解，導(dǎo)致標(biāo)注結(jié)果的不一致，數(shù)據(jù)標(biāo)注過(guò)程中的主觀性差異是缺乏統(tǒng)一的評(píng)估標(biāo)準(zhǔn)引起的。其三，訓(xùn)練數(shù)據(jù)的質(zhì)量問(wèn)題。社會(huì)救助數(shù)據(jù)往往涉及個(gè)人隱私和敏感信息，例如，美國(guó)的緬因州（Maine）使用EBT 卡a 數(shù)據(jù)來(lái)追蹤臨時(shí)救助貧困家庭計(jì)劃受益人在煙酒商店和州外地點(diǎn)的ATM 提現(xiàn)情況，從2011 年1 月到2019 年1 月保羅·勒佩奇任職該州州長(zhǎng)期間，受助人的交易數(shù)據(jù)被嚴(yán)格審查，查驗(yàn)其是否存在福利濫用，這表明在一些地區(qū)低收入群體的數(shù)據(jù)隱私往往被視為監(jiān)控技術(shù)的目標(biāo)，引發(fā)了有關(guān)福利救助與污名化的廣泛討論。而在全球的大部分地區(qū)，社會(huì)救助的數(shù)據(jù)由于涉及隱私問(wèn)題而難以保證訓(xùn)練數(shù)據(jù)的完整性和時(shí)效性，數(shù)據(jù)更新機(jī)制的缺失和數(shù)據(jù)清洗技術(shù)的不足都可能影響數(shù)據(jù)的整體質(zhì)量。數(shù)據(jù)質(zhì)量問(wèn)題可能導(dǎo)致模型學(xué)習(xí)到錯(cuò)誤的信息，進(jìn)而影響決策結(jié)果的可靠性，類似家庭經(jīng)濟(jì)狀況數(shù)據(jù)的獲取、比對(duì)環(huán)節(jié)可能存在標(biāo)準(zhǔn)不一致的情況，b 影響了受助者救助需求的正當(dāng)滿足。其四，目標(biāo)設(shè)定與特征選擇中的潛在偏倚。分類標(biāo)簽與社會(huì)刻板印象的使用可能引發(fā)對(duì)特定群體的誤解，反向紅區(qū)劃分策略可能將弱勢(shì)群體固定于不利位置，加劇社會(huì)不平等現(xiàn)象。目標(biāo)與特征要素直接關(guān)系到預(yù)測(cè)模型（Predictive Risk Models）能否有效精準(zhǔn)識(shí)別標(biāo)的救助對(duì)象，并展現(xiàn)出優(yōu)秀的泛化能力。機(jī)器學(xué)習(xí)工具可能會(huì)根據(jù)與以往成功的申請(qǐng)者相似的特征識(shí)別候選人，從而復(fù)制了救助過(guò)程中的早期偏見(jiàn)。模型目標(biāo)的設(shè)定必須清晰界定其所針對(duì)的核心議題，確保與社會(huì)救助實(shí)踐需求緊密對(duì)接；且特征選擇應(yīng)聚焦于那些能最佳體現(xiàn)受助者需求與狀態(tài)的關(guān)鍵要素，以此增強(qiáng)預(yù)測(cè)風(fēng)險(xiǎn)模型的精確度與決策的科學(xué)依據(jù)。若模型目標(biāo)設(shè)定過(guò)窄，過(guò)分集中于經(jīng)濟(jì)指標(biāo)而忽視健康狀況、教育水平等非經(jīng)濟(jì)維度，可能會(huì)導(dǎo)致模型在特定場(chǎng)景下效能低下，產(chǎn)生偏倚。

（二）算法設(shè)計(jì)與運(yùn)行偏差：靜態(tài)算法與動(dòng)態(tài)迭代不足

算法設(shè)計(jì)中的偏差問(wèn)題是自動(dòng)化決策系統(tǒng)面臨的另一大挑戰(zhàn)。靜態(tài)算法缺乏動(dòng)態(tài)迭代能力，無(wú)法適應(yīng)復(fù)雜多變的實(shí)際應(yīng)用場(chǎng)景，這使得系統(tǒng)難以處理特殊家庭的具體情況，導(dǎo)致部分合理申請(qǐng)需求被拒絕。此外，算法設(shè)計(jì)者可能在設(shè)計(jì)階段無(wú)意識(shí)地將個(gè)人主觀傾向嵌入算法，進(jìn)而影響決策結(jié)果的客觀性。自動(dòng)化救助算法的設(shè)計(jì)開(kāi)發(fā)與執(zhí)行面臨多維度的挑戰(zhàn)，包括但不限于靜態(tài)算法偏差（Static Algorithmic Bias）、技術(shù)限制（Technical Limitations）以及設(shè)計(jì)缺陷（Design Flaws）。a 首先，靜態(tài)算法問(wèn)題顯著。在低收入對(duì)象精準(zhǔn)識(shí)別、注意力分配及自主決策等方面，特定群體可能遭受不公正待遇（Algorithmic Cruelty）。算法訓(xùn)練過(guò)程中，若采用的歷史救助決策數(shù)據(jù)未能全面反映救助對(duì)象的真實(shí)狀況，而是側(cè)重于歷史救助經(jīng)驗(yàn)的總結(jié)，那么基于此類靜態(tài)歷史結(jié)果訓(xùn)練的人工智能救助算法可能忽略反向集合因果機(jī)制的動(dòng)態(tài)迭代過(guò)程，從而加劇已有偏差，導(dǎo)致部分合理申請(qǐng)需求遭到不公拒絕。此外，算法設(shè)計(jì)者可能在設(shè)計(jì)階段無(wú)意識(shí)地將個(gè)人主觀傾向嵌入算法，進(jìn)而影響決策結(jié)果的客觀性。數(shù)據(jù)預(yù)處理與特征選擇環(huán)節(jié)的操作不當(dāng)亦可能導(dǎo)致關(guān)鍵特征被遺漏或賦予過(guò)高權(quán)重，進(jìn)一步加深偏差。算法設(shè)計(jì)與實(shí)施階段若未能充分考慮復(fù)雜多變的實(shí)際應(yīng)用場(chǎng)景，系統(tǒng)輸出可能偏離預(yù)期目標(biāo)，產(chǎn)生不公正或不準(zhǔn)確的結(jié)果。其二，技術(shù)限制。b 自動(dòng)化技術(shù)系統(tǒng)通常依賴于預(yù)設(shè)的社會(huì)救助規(guī)則和標(biāo)準(zhǔn)，當(dāng)面對(duì)特定情境時(shí)，系統(tǒng)的靈活性受限，難以準(zhǔn)確識(shí)別并處理特殊家庭的具體情況，導(dǎo)致真正需要援助的對(duì)象被排除在外。居住在偏遠(yuǎn)地區(qū)或低收入家庭的個(gè)體可能缺乏必要的設(shè)備和網(wǎng)絡(luò)連接，無(wú)法利用在線平臺(tái)提交救助申請(qǐng)，從而加劇其生活困境。算法在處理數(shù)據(jù)時(shí)主要依賴歷史數(shù)據(jù)和現(xiàn)有統(tǒng)計(jì)模型，面對(duì)新穎或罕見(jiàn)情形時(shí)，系統(tǒng)可能無(wú)法作出準(zhǔn)確判斷，進(jìn)一步限制了技術(shù)的有效性和適用范圍，例如，2006 年至2008 年間印第安納州進(jìn)行的一項(xiàng)現(xiàn)代化福利實(shí)驗(yàn)項(xiàng)目，部分群體由于地址更換等原因沒(méi)有接收到重新認(rèn)證的通知文件導(dǎo)致受助人的Medicaidc 福利資格失效，即使她試圖糾正這一錯(cuò)誤，最終不得不面臨藥物短缺的問(wèn)題，該案例展示了技術(shù)工具如何在不經(jīng)意間影響到了依賴這些服務(wù)的家庭和個(gè)人。其三，算法設(shè)計(jì)缺陷。系統(tǒng)設(shè)計(jì)階段若未能充分考量用戶群體的多樣性與復(fù)雜性，部分用戶的需求可能得不到有效滿足。系統(tǒng)用戶界面若不夠直觀易用，將影響用戶體驗(yàn)，阻礙其有效使用系統(tǒng)。系統(tǒng)的可擴(kuò)展性和可維護(hù)性不足，難以適應(yīng)未來(lái)需求的變化。系統(tǒng)安全性設(shè)計(jì)若不完善，易遭受外部攻擊，威脅用戶數(shù)據(jù)安全與隱私保護(hù)。

（三）算法透明度與可解釋性偏差：算法黑箱對(duì)公正性和可接受性的影響

算法透明度與可解釋性是確保自動(dòng)化決策系統(tǒng)公正性和可接受性的關(guān)鍵因素。然而，由于算法模型的高度復(fù)雜性，透明度的不足成為了算法偏差的一個(gè)重要來(lái)源。算法黑箱d 問(wèn)題核心在于缺乏公開(kāi)性和透明度，導(dǎo)致責(zé)任主體不明確、糾正機(jī)制缺失，決策邏輯模糊，影響決策的公正性和可接受性。其一，透明度缺失。由于算法模型的高度復(fù)雜性，透明度的不足阻礙了相關(guān)利益主體對(duì)系統(tǒng)運(yùn)行機(jī)制的有效理解和監(jiān)督，從而削弱了系統(tǒng)的可信度與穩(wěn)健性，使受益對(duì)象難以對(duì)其遭遇的算法結(jié)果發(fā)起質(zhì)疑或挑戰(zhàn)。例如，當(dāng)貧困家庭因誤判而被不當(dāng)排除在救助范圍之外時(shí)，其往往既無(wú)法理解被排除的具體原因，也缺乏有效的渠道來(lái)申訴該決策。透明度的缺乏還可能導(dǎo)致數(shù)據(jù)隱私的泄露和濫用，侵犯受益人的個(gè)人隱私權(quán)，進(jìn)而加劇公眾對(duì)社會(huì)救助系統(tǒng)的信任危機(jī)。其二，問(wèn)責(zé)機(jī)制的不完善。在自動(dòng)化社會(huì)救助系統(tǒng)中，缺乏有效的問(wèn)責(zé)機(jī)制以保障系統(tǒng)的公正性和有效性。當(dāng)系統(tǒng)發(fā)生錯(cuò)誤或作出不公正的決策時(shí)，若無(wú)明確的責(zé)任主體和問(wèn)責(zé)程序，問(wèn)題將難以得到及時(shí)地糾正，可能損害受益人的權(quán)益，還可能削弱社會(huì)救助系統(tǒng)的公信力和可靠性。一些專門(mén)機(jī)構(gòu)亦建立了獨(dú)立的監(jiān)督委員會(huì)，負(fù)責(zé)審查和評(píng)估社會(huì)救助系統(tǒng)的決策過(guò)程和結(jié)果，確保其公正性和有效性。其三，算法的可解釋性問(wèn)題。算法決策過(guò)程的不透明性使得對(duì)其決策邏輯進(jìn)行有效解釋和理解變得極為困難，這種缺乏可解釋性的狀況不僅加深了算法黑箱的問(wèn)題，也使得算法決策過(guò)程的監(jiān)管與驗(yàn)證變得極為困難。在使用算法進(jìn)行社會(huì)救助自動(dòng)化決策時(shí)，會(huì)按照系統(tǒng)的決策自動(dòng)分配救助物資與服務(wù)，如食品券、住房補(bǔ)貼等，倘若這些算法不可解釋，那么申請(qǐng)者就無(wú)法得知自己的申請(qǐng)為何被拒，也無(wú)法了解如何改進(jìn)自己的情況以滿足資格要求。此外，政策制定者和審計(jì)人員也可能難以評(píng)估這些系統(tǒng)的公正性和有效性。例如，在某些地區(qū)，自動(dòng)化的福利系統(tǒng)可能會(huì)錯(cuò)誤地拒絕合格申請(qǐng)者的請(qǐng)求，或者未能及時(shí)更新規(guī)則變化，導(dǎo)致部分人群失去應(yīng)有的支持。社會(huì)救助自動(dòng)化決策算法的可解釋性直接關(guān)系到資源再分配的公平性。缺乏可解釋性意味著即使算法存在偏差或錯(cuò)誤，a 也難以被檢測(cè)和糾正，這要求算法設(shè)計(jì)者在開(kāi)發(fā)過(guò)程中采用透明和可解釋的算法設(shè)計(jì)原則，確保算法決策過(guò)程的每一步都可以被追溯和理解，從而增強(qiáng)系統(tǒng)的可信度和公正性。

四、社會(huì)救助自動(dòng)化決策發(fā)展的治理路徑

通過(guò)法律與倫理考量、強(qiáng)化人類判斷與干預(yù)、提高算法透明度與可解釋性及動(dòng)態(tài)監(jiān)督與流程改造等多維度措施，試圖構(gòu)建多層次、多主體參與的治理體系，引領(lǐng)社會(huì)救助自動(dòng)化決策向更加公平、高效的方向發(fā)展，以彰顯數(shù)字政府、數(shù)字社會(huì)的效度、高度與溫度。

（一）法律與倫理考量：負(fù)責(zé)任創(chuàng)新的算法糾偏

政府在推進(jìn)負(fù)責(zé)任創(chuàng)新的過(guò)程中，特別注重將負(fù)責(zé)任創(chuàng)新的原則與理念融入自動(dòng)化社會(huì)救助決策體系，法律與倫理考量是自動(dòng)化社會(huì)救助決策體系構(gòu)建和應(yīng)用的核心，須在決策中融入倫理、公平和社會(huì)責(zé)任。通過(guò)這種方式，政府確保自動(dòng)化社會(huì)救助系統(tǒng)在提升效率和準(zhǔn)確性的同時(shí)，也能充分尊重和保護(hù)受助者的權(quán)益，防止?jié)撛诘钠缫暫筒还浆F(xiàn)象。其一，針對(duì)算法偏差問(wèn)題，須深入研究現(xiàn)行法律框架和倫理標(biāo)準(zhǔn)對(duì)算法偏差的影響。根據(jù)新一代人工智能治理專業(yè)委員會(huì)發(fā)布的《新一代人工智能倫理規(guī)范》，在新一代人工智能的開(kāi)發(fā)過(guò)程中，必須遵守相關(guān)法律法規(guī)和標(biāo)準(zhǔn)，提倡加強(qiáng)國(guó)家間的合作，共同推動(dòng)形成國(guó)際共識(shí)，制定全球性的算法倫理標(biāo)準(zhǔn)和監(jiān)管框架，并定期進(jìn)行算法影響評(píng)估。同時(shí)，堅(jiān)持倫理先行原則，將負(fù)責(zé)任創(chuàng)新的治理理念與倫理規(guī)范融入人工智能的開(kāi)發(fā)和運(yùn)行各個(gè)階段。其二，在算法的開(kāi)發(fā)和應(yīng)用過(guò)程中，應(yīng)秉持負(fù)責(zé)任的創(chuàng)新理念，包括關(guān)注算法的社會(huì)影響、尊重用戶隱私、保護(hù)數(shù)據(jù)安全等方面。積極尋求技術(shù)創(chuàng)新與倫理道德的平衡點(diǎn)，確保算法的應(yīng)用符合救助申請(qǐng)者的切身利益。針對(duì)隱私保護(hù)法律可能對(duì)數(shù)據(jù)訪問(wèn)的限制，需要在立法和實(shí)踐中尋求平衡之道，既尊重個(gè)人隱私，又確保數(shù)據(jù)的合理利用。此外，自動(dòng)化決策算法開(kāi)發(fā)應(yīng)用的規(guī)制應(yīng)結(jié)合我國(guó)社會(huì)保障制度新文明的規(guī)律、特點(diǎn)，a 在數(shù)字化轉(zhuǎn)型中通過(guò)技術(shù)創(chuàng)新推動(dòng)社會(huì)救助體系的現(xiàn)代化，特別在技術(shù)嵌入治理過(guò)程中充分考量創(chuàng)造性破壞的風(fēng)險(xiǎn)點(diǎn)，并強(qiáng)化技術(shù)創(chuàng)新的預(yù)期性、反身性、包容性和響應(yīng)性，以實(shí)現(xiàn)政府負(fù)責(zé)任地創(chuàng)新發(fā)展。其三，對(duì)算法偏差行為進(jìn)行必要的懲處。算法問(wèn)責(zé)法案需提上人大立法議程，針對(duì)根據(jù)情節(jié)的輕重與主觀故意與否設(shè)定懲處方式，從算法倫理失范到刑事問(wèn)責(zé)，形成政府負(fù)責(zé)任的自動(dòng)化決策規(guī)制。倘若檢測(cè)到算法在運(yùn)行過(guò)程中表現(xiàn)出偏差，從而導(dǎo)致決策結(jié)果的不公平或不合理，必須采取相應(yīng)的糾正和懲罰措施。必要時(shí)對(duì)算法設(shè)計(jì)者和使用者問(wèn)責(zé)，情節(jié)嚴(yán)重的還要對(duì)相關(guān)機(jī)構(gòu)或個(gè)人進(jìn)行法律或行政上的處罰，促使算法開(kāi)發(fā)者與運(yùn)用者在實(shí)踐過(guò)程中嚴(yán)格遵守相關(guān)法律法規(guī)及倫理準(zhǔn)則。例如，歐盟的通用數(shù)據(jù)保護(hù)條例（GDPR）強(qiáng)調(diào)數(shù)據(jù)處理的透明度、用戶權(quán)利和數(shù)據(jù)保護(hù)，GDPR 對(duì)違規(guī)行為設(shè)定了嚴(yán)厲的罰款，要求企業(yè)在設(shè)計(jì)和使用算法時(shí)遵守嚴(yán)格的倫理準(zhǔn)則。

（二）強(qiáng)化人類判斷與干預(yù)：優(yōu)化技術(shù)與算法

在自動(dòng)化環(huán)境中進(jìn)一步持續(xù)優(yōu)化技術(shù)和算法，人類的判斷和干預(yù)在處理復(fù)雜情境時(shí)仍然具有重要意義，在復(fù)雜和模糊性治理過(guò)程中救助的行政自由裁量權(quán)依然可以與技術(shù)治理形成有益的互補(bǔ)。其一，通過(guò)開(kāi)展專門(mén)的培訓(xùn)活動(dòng)，對(duì)社會(huì)救助決策者進(jìn)行系統(tǒng)的教育和指導(dǎo)，以加深他們對(duì)算法偏差的認(rèn)識(shí)和理解。培訓(xùn)內(nèi)容應(yīng)包括算法偏差的基本概念、表現(xiàn)形式及其潛在影響，并涵蓋實(shí)際案例分析，幫助決策者識(shí)別和理解社會(huì)救助領(lǐng)域中可能出現(xiàn)的算法偏差問(wèn)題。此外，培訓(xùn)還應(yīng)提供有效的應(yīng)對(duì)策略和工具，使決策者能夠采取具體措施，防范和糾正算法偏差，確保社會(huì)救助政策和措施的公平性和有效性。其二，確保利益相關(guān)方的積極參與以實(shí)現(xiàn)自動(dòng)化決策的有效治理。在自動(dòng)化決策的社會(huì)救助應(yīng)用中，政府機(jī)構(gòu)、技術(shù)供應(yīng)商、社會(huì)團(tuán)體及受益人等多方利益相關(guān)者均扮演關(guān)鍵角色。政府部門(mén)作為政策的核心制定者在自動(dòng)化決策系統(tǒng)設(shè)計(jì)和實(shí)施中起關(guān)鍵作用，包括確保算法符合國(guó)家政策導(dǎo)向，平衡技術(shù)創(chuàng)新與社會(huì)穩(wěn)定之間的關(guān)系，與技術(shù)供應(yīng)商緊密協(xié)作，共同研發(fā)并實(shí)施符合社會(huì)救助目標(biāo)和需求的技術(shù)解決方案。社會(huì)團(tuán)體與受益人作為重要的參與群體，也應(yīng)參與到算法的監(jiān)督和反饋過(guò)程中，讓更多的人能夠?qū)λ惴ǖ墓赃M(jìn)行審視，從而增強(qiáng)決策的透明度和公信力。其三，算法優(yōu)化是一個(gè)至關(guān)重要的研究領(lǐng)域，其核心目標(biāo)在于不斷提升和改進(jìn)社會(huì)救助識(shí)別與決策算法的性能和效率。b 算法優(yōu)化主要通過(guò)改進(jìn)算法結(jié)構(gòu)、優(yōu)化算法參數(shù)、引入新的算法技術(shù)等路徑，優(yōu)化算法可以增強(qiáng)系統(tǒng)面對(duì)復(fù)雜數(shù)據(jù)和任務(wù)時(shí)的適應(yīng)性和穩(wěn)健性。c 國(guó)際范圍內(nèi)，也有基于相關(guān)算法研發(fā)與優(yōu)化的成功先例。例如，IBM 公司開(kāi)發(fā)的公平性約束算法能夠在訓(xùn)練過(guò)程中自動(dòng)檢測(cè)和糾正偏差，IBM 通過(guò)算法優(yōu)化使得算法在處理各種數(shù)據(jù)時(shí)能夠更加公正和無(wú)偏差，通過(guò)技術(shù)創(chuàng)新和算法優(yōu)化提升決策系統(tǒng)的有效性。

（三）透明度與可解釋性：提升算法信任度

提高算法透明度和可解釋性是解決社會(huì)救助算法偏差問(wèn)題的關(guān)鍵措施。透明度指的是算法的設(shè)計(jì)、數(shù)據(jù)來(lái)源以及決策過(guò)程應(yīng)當(dāng)對(duì)所有救助利益相關(guān)方保持開(kāi)放和易于理解的狀態(tài)。無(wú)論是政策制定者、執(zhí)行者還是受助者，都應(yīng)該能夠清楚地了解算法是如何運(yùn)作的，數(shù)據(jù)是如何收集和處理的，以及最終的決策是如何做出的。其一，建立透明的人機(jī)混合決策系統(tǒng)登記冊(cè)。算法的救助決策過(guò)程能夠被清晰地追溯和解釋具有重要意義，以深度學(xué)習(xí)模型為主要的自動(dòng)化算法為例，其決策邏輯和機(jī)制往往不透明且難以被外界理解，其影響就是降低了民眾對(duì)于自動(dòng)化系統(tǒng)的信任度，為了提高透明度和可解釋性，可建立透明的人機(jī)混合決策系統(tǒng)登記冊(cè)，該登記冊(cè)應(yīng)詳細(xì)記錄自動(dòng)化決策系統(tǒng)的設(shè)計(jì)和操作參數(shù)，包括但不限于算法模型、數(shù)據(jù)來(lái)源、訓(xùn)練過(guò)程、評(píng)估指標(biāo)、決策邏輯等。救助決策的算法邏輯和依據(jù)能夠被相關(guān)利益方理解和審查，供政策制定者、研究人員和社會(huì)各界參考。其二，公開(kāi)算法模型的源代碼和決策邏輯。為了實(shí)現(xiàn)這一目標(biāo)，公開(kāi)算法模型的源代碼和決策邏輯是非常必要的。這不僅可以使相關(guān)利益方（如政策制定者、研究人員和公眾）更好地理解和監(jiān)督這些系統(tǒng)，還可以促進(jìn)算法的持續(xù)改進(jìn)和優(yōu)化。例如，Google 在其搜索算法方面提供了大量的透明度報(bào)告，解釋了其搜索排名的基本原理和更新情況。雖然具體的算法細(xì)節(jié)仍然保密，但這些報(bào)告幫助用戶了解算法的主要工作方式。此外，Google 還在其廣告平臺(tái)上提供了詳細(xì)的解釋性報(bào)告，說(shuō)明為什么某些廣告會(huì)出現(xiàn)在特定用戶的搜索結(jié)果中，這有助于用戶理解廣告決策的過(guò)程。其三，強(qiáng)化算法信任的驗(yàn)證機(jī)制。“雙因素認(rèn)證”（Two-factor Authentication），也稱為“四眼原則”（Four-eyes-principle），強(qiáng)調(diào)重要的操作或決策都需要兩個(gè)人獨(dú)立審查和同意，以減少救助錯(cuò)誤和欺詐的可能性。引入雙人審核機(jī)制來(lái)增強(qiáng)救助決策的準(zhǔn)確性和公正性。在社會(huì)救助算法模型的設(shè)計(jì)與實(shí)施過(guò)程中，通過(guò)兩個(gè)或更多專家的獨(dú)立審查，可以有效避免單一決策者的偏見(jiàn)或失誤，確保算法模型的合理性和公平性。同時(shí)，為了減少用戶對(duì)自動(dòng)化決策系統(tǒng)的過(guò)度依賴，應(yīng)當(dāng)透明地展示系統(tǒng)的置信區(qū)間和誤差范圍。讓用戶更清楚地認(rèn)識(shí)到系統(tǒng)決策可以提升救助效率，但并非錯(cuò)誤率為0。結(jié)合可視化技術(shù)將復(fù)雜的模型轉(zhuǎn)換為直觀易懂的形式，可以幫助利益相關(guān)方更好地理解和評(píng)估算法模型的工作原理及其潛在影響。

（四）動(dòng)態(tài)監(jiān)督與流程改造：動(dòng)態(tài)監(jiān)管下的持續(xù)進(jìn)步

通過(guò)持續(xù)監(jiān)督與改進(jìn)，確保科技的發(fā)展與社會(huì)的價(jià)值相協(xié)調(diào)，共同推動(dòng)形成一個(gè)更加公正、透明、可信賴的數(shù)字未來(lái)。其一，引入數(shù)據(jù)質(zhì)量提升機(jī)制。數(shù)據(jù)是社會(huì)救助決策的基礎(chǔ)，任何數(shù)據(jù)的偏差或錯(cuò)誤都可能導(dǎo)致不公平或不準(zhǔn)確的決策結(jié)果。應(yīng)借助先進(jìn)的數(shù)據(jù)分析工具，對(duì)數(shù)據(jù)進(jìn)行清洗和驗(yàn)證，確保用于算法模型的信息準(zhǔn)確無(wú)誤；數(shù)據(jù)的質(zhì)量監(jiān)測(cè)須對(duì)收集到的基準(zhǔn)數(shù)據(jù)進(jìn)行實(shí)時(shí)監(jiān)控和周期性評(píng)估，以識(shí)別和糾正數(shù)據(jù)中的潛在問(wèn)題，并制定明確的數(shù)據(jù)更新流程和時(shí)間表以確保在規(guī)定的時(shí)間內(nèi)完成數(shù)據(jù)的更新；針對(duì)異常數(shù)據(jù)，特別是救助數(shù)據(jù)中出現(xiàn)的數(shù)據(jù)格式不一致、缺失值和異常值，須通過(guò)復(fù)測(cè)加以確認(rèn)。其二，引入工作流管理系統(tǒng)（WorkflowManagement System，簡(jiǎn)稱WFMS），并實(shí)現(xiàn)流程再造。通過(guò)WFMS 系統(tǒng)進(jìn)行低收入群體信息的比對(duì)與采集，實(shí)現(xiàn)跨部門(mén)和跨層級(jí)的數(shù)據(jù)流動(dòng)、共享，用于管理和優(yōu)化工作流程，以改進(jìn)政府福利項(xiàng)目的管理效率。在此基礎(chǔ)上，政府部門(mén)可更加精準(zhǔn)地識(shí)別低收入群體，通過(guò)比對(duì)和分析不同部門(mén)的數(shù)據(jù)，可以發(fā)現(xiàn)潛在的社會(huì)救助需求，實(shí)現(xiàn)資源的精準(zhǔn)投放。公開(kāi)透明的數(shù)據(jù)監(jiān)控報(bào)告將有效促進(jìn)社會(huì)監(jiān)督和公眾參與，定期向社會(huì)公布審計(jì)結(jié)果和數(shù)據(jù)監(jiān)控報(bào)告，接受公眾的監(jiān)督和評(píng)議。通過(guò)定期發(fā)布，讓民眾了解到社會(huì)救助工作的實(shí)際成效和存在的問(wèn)題，從而增進(jìn)公眾的理解與支持。其三，建立多方參與的持續(xù)監(jiān)督機(jī)制，確保自動(dòng)化決策系統(tǒng)在實(shí)施過(guò)程中持續(xù)接受評(píng)估和改進(jìn)。鼓勵(lì)民眾參與到社會(huì)救助監(jiān)督中來(lái)，建立多元化的監(jiān)督體系，發(fā)揮社會(huì)的力量，共同揭露和抵制“人情保”“關(guān)系保”等救助頑疾。進(jìn)行公平性評(píng)估和優(yōu)化也是必要的步驟，通過(guò)定量分析和模型調(diào)整，確保算法在不同群體中的表現(xiàn)盡可能公平。在持續(xù)監(jiān)督方面，建立獨(dú)立的評(píng)估委員會(huì)，負(fù)責(zé)對(duì)自動(dòng)化社會(huì)救助政策的執(zhí)行情況進(jìn)行全面審查；制定詳細(xì)的評(píng)估標(biāo)準(zhǔn)和程序，內(nèi)容包括救助對(duì)象的滿意度、救助資金的使用情況以及救助效果等，將評(píng)估結(jié)果及時(shí)反饋給政策的利益相關(guān)者，以便其能夠根據(jù)評(píng)估結(jié)果進(jìn)行調(diào)整和改進(jìn)。

（責(zé)任編輯：李 瑩）

［基金項(xiàng)目］ 貴州省哲學(xué)社會(huì)科學(xué)規(guī)劃項(xiàng)目“貴州推進(jìn)分層分類社會(huì)救助體系建設(shè)路徑研究”（24GZYB55）。