我國算法治理政策法規內容及框架分析

張濤　韋曉霞

關鍵詞： 算法治理； 質性文本分析； 政策文本分析； 算法治理政策法規

ＤＯＩ：１０．３９６９ ／ ｊ．ｉｓｓｎ．１００８－０８２１．２０２３．０９．００９

〔中圖分類號〕Ｄ６３； ＴＰ１８ 〔文獻標識碼〕Ａ 〔文章編號〕１００８－０８２１ （２０２３） ０９－００９８－１３

２０２２ 年１０ 月， 習近平總書記在黨的二十大報告中強調， 提高防范化解重大風險能力， 嚴密防范系統性安全風險， 同時加快建設數字中國的決策部署， 而加強算法風險防范與治理研究符合總體國家安全發展戰略需求與戰略導向。隨著新一代人工智能正在全球范圍內蓬勃興起， 為經濟社會發展注入新動能的同時， 也在深刻改變人們的生產生活方式。作為人工智能的核心要素之一， 算法從底層影響著人類社會的發展與變遷， 并潛移默化地改寫著人類社會發展邏輯， 算法黑箱、算法共謀、算法歧視、算法偏見等風險也隨之而來， 為社會穩定及國家安全帶來了深遠的影響［１］ 。近年來， 今日頭條、快手、滴滴、美團等平臺的一系列算法安全事件將算法推向風口浪尖， 算法嚴重影響民眾的認知與判斷，ＣｈａｔＧＰＴ 一經發布也引起了社會各界對ＧＰＴ 算法運用將引發的知識產權問題、安全和隱私問題、道德和倫理問題的擔憂［２－３］ 。２０２２ 年３ 月， 《互聯網信息服務算法推薦管理規定》正式實施， 旨在對算法推薦進行規制， 確保用戶隱私和數據安全， 這意味著算法將告別野蠻生長階段， 被全面納入國家監管視野， 在未來一段時間內， 國家將在算法治理各領域各行業細化布局。我國已經在算法治理方面取得了一些成就［４］ ， 但由于起步較晚， 與歐美國家（地區）仍存在一定差距［５］ ， 因此， 準確地對我國算法治理政策法規的現狀及問題進行分析具有重要的現實意義。

近年來， 算法治理逐步成為學術研究熱點， 但通過中國知網檢索發現， 國內對算法治理政策法規文本的研究較少， 如魏俊斌［６］ 認為， 《關于加強互聯網信息服務算法綜合治理的指導意見》與《互聯網信息服務算法推薦管理規定》的出臺為思想政治教育網絡智能環境的治理奠定了法制基礎， 未來應該強化算法監管， 維護教育領域數據安全。方師師［７］ 從算法治理的政策矩陣出發， 梳理了《互聯網信息服務算法推薦管理規定》中相關聯的政策矩陣， 從管理導向、場景適用、記錄銘刻３ 個層面進行解讀。張凌寒［８－９］ 從法學視角切入， 對《中華人民共和國電子商務法》中體現平臺算法責任的條款進行分析， 對《中華人民共和國個人信息保護法》中有關平臺算法自動化決策治理基本框架展開探討， 提出建立平臺算法的多元治理體系與層次明晰的平臺算法責任體系。

當前算法治理政策法規研究主要集中于對單一算法治理政策法規的解讀， 尚缺乏從全局視角對我國算法治理政策法規現狀的分析。因此， 本文借助Ｎｖｉｖｏ１２ 質性分析軟件， 對我國１２ 部算法治理政策法規進行內容分析， 研究旨在解決以下３ 個問題：一是從內容上分析我國算法治理政策法規現狀； 二是梳理當前我國算法治理政策法規框架； 三是基于現有問題有針對性地提出我國算法治理對策建議，旨在為我國算法治理政策法規制定和優化提供參考。

１研究方法與過程

１.１數據選取

政策文本是公眾了解國家政治方針的直接路徑，也是政策研究的重要工具和載體［１０］ 。由于我國直接以“算法” 或“算法治理” 命名的政策僅有《互聯網信息服務算法推薦管理規定》（以下簡稱《規定》） 《關于加強互聯網信息服務算法綜合治理的指導意見》（以下簡稱《指導意見》）兩部， 而其他的“算法治理” 多嵌入于其他政策法規中， 如《中華人民共和國電子商務法》明確了平臺運行過程中的算法規范與責任； 《中華人民共和國個人信息保護法》確立了我國算法自動化決策治理的基本框架。本文綜合已有算法治理相關文獻［１１－１２］ ，選取當前與算法治理密切相關的１２ 份政策法規作為分析樣本， 如表１ 所示， 包括全國人民代表大會、國家互聯網信息辦公室等頒布的７ 部中央層面的政策法規， 以及全國信息安全標準化技術委員會、國家新一代人工智能治理專業委員會等發布的５ 部行業層面的政策。

１.２研究過程

本文利用質性分析工具Ｎｖｉｖｏ１２ 對我國算法治理政策法規文本進行量化研究［１３］ ， 研究重點在于對我國算法治理政策法規內容及框架進行分析， 具體研究過程如下： ①以《指導意見》和《規定》兩部政策為核心， 綜合１２ 部算法治理政策法規內容，同時， 參照張凌寒論著中所提出的基于事前、事中、事后的算法治理框架［１４］ ， 確定預編碼規則；②研究團隊對３０％的政策樣本進行預編碼， 根據預編碼結果， 進一步修正完善確定最終編碼規則；③隨后團隊兩名成員采用背對背文本分析方式對文本進行編碼， 對編碼一致的數據進行合并， 剩余不確定的數據進行討論并完成編碼［１５］ ； ④從中央和行業兩個層面對算法治理政策法規內容分析； ⑤基于既有政策法規分析結果， 形成了“概述層—規范層—流程層” 的算法治理政策法規三維框架； ⑥通過梳理總結我國算法治理政策法規現存在的問題，有針對性地從治理“力度—精度—深度—廣度” 視角提出對策建議。

１.３文本編碼

本研究采用歸納式類目構建方法， 針對政策文本直接構建分析類目［１６］ 。首先針對算法治理政策法規文本內容劃分２ 個一級類目， 然后采用１.２ 中所提出的具體編碼思路劃分為１３ 個二級類目， 最后針對算法治理各階段的觀測要點劃分為４５ 個三級類目。本研究借助Ｎｖｉｖｏ１２ 質性分析軟件形成我國算法治理政策法規文本編碼類目表， 如表２ 所示。

２我國算法治理政策法規內容分析

本文從中央和行業兩個層面對我國算法治理政策法規內容進行分析， 旨在揭示我國算法治理政策法規的現狀。

２.１中央層面

對７部中央層面算法治理政策法規進行編碼分析發現， 信息服務規范（４１３ 次）、算法監管（１５７次）、算法問責（１２４ 次）、用戶權益保護（１２２ 次）４方面詞頻較高， 合計占比約５２％， 如圖１ 所示， 氣泡大小表示單部政策法規關注某一類別內容的多少， 氣泡密集則表示多部政策法規集中關注某一類別， 政策法規內容多分散在多個二級類目中， 且分布較為均衡。總體來說， 中央層面算法治理政策法規關注是宏觀層面的頂層設計， 具有一定引領性。

１）《中華人民共和國電子商務法》首次明確了對網絡交易平臺日常運營中的算法規范， 以及網絡交易平臺因不當部署、應用算法所應承擔的法律責任。算法問責（３１ 次）和信息服務規范（２８ 次）兩個類目詞頻較高， 其中第１８ 條首次提出推薦算法應提供非個性化的一般搜索結果， 即算法個性化推薦必須尊重和平等對待每一位消費者； 第３５ 條明確規定不得利用技術手段對交易進行不合理限制，這是對濫用算法行為的規制； 第４０ 條明確表示競價排名的商品或者服務必須顯著標明廣告［１７］ 。這些條款均體現了《中華人民共和國電子商務法》在平臺算法應用規范與問責中的重要作用。

２） 《中華人民共和國個人信息保護法》確立了我國算法自動化決策治理的基本框架， 為平臺自動化決策的設計部署、運行與結果輸出劃定了合法邊界［９］ 。該法規多處提及利用個人信息進行自動化決策， 其中包括信息服務規范主題中自動化決策詞頻為１３ 次， 用戶推送管理詞頻為１０ 次， 該法規第２４ 條提到利用自動化決策方式做出可能影響個人權益的決定時， 個人有權要求做出情況說明， 并有權拒絕該決定； 算法評估詞頻為６ 次， 第５５ 條強調應當在事前進行個人信息保護的影響評估工作， 尤其針對利用個人信息進行自動化決策的行為。以上條款體現了《個人信息保護法》在算法自動化決策治理方面的立法思路。

３） 《關于加強互聯網信息服務算法綜合治理的指導意見》的出臺， 意味著對算法進行規制已經被中央層面納入議程， 《指導意見》首次明確了“算法治理” 的概念， 并針對算法治理提出系統性、全面性的規范要求， 其核心內容強調要利用３ 年左右時間， 逐步建立起治理機制健全、監管體系完善、算法生態規范的算法安全綜合治理格局。算法監管詞頻為９１ 次， 其中算法監管部分著重強調參與主體的多元性， 旨在形成政府監管、企業履責、行業自律、社會監督的算法安全多元共治局面?！吨笇б庖姟分兴惴ㄔu估（１３ 次）、算法備案（８ 次）、算法分級分類（５ 次）３ 個類目雖然詞頻較低， 但這些主題從宏觀層面提出了算法治理的具體措施， 為我國構建算法安全監管體系提供重要依據。

４） 《互聯網信息服務算法推薦管理規定》是世界第一部系統性、全面性規制算法的法律文件，為國家建立算法安全治理體系打下制度基礎。信息服務規范（９１ 次）、算法問責（６６ 次）、用戶權益保護（６０ 次）３ 個類目詞頻較高， 能夠看出《規定》主要聚焦算法推薦服務亂象問題， 有助于構建算法安全治理體系， 有效規范了互聯網信息服務算法推薦活動。同時， 算法分級分類管理、建立算法備案制度、建立算法安全評估機制， 開展算法監督檢查、建立算法法律責任認定標準等內容、均能體現出《規定》提出的貫穿算法推薦服務事前、事中、事后監管的總體思路。

５） 《互聯網信息服務深度合成管理規定》（以下簡稱《深度合成規定》）是在我國加強互聯網信息服務算法綜合治理框架下展開的， 該規定是我國開展算法治理工作的重要一環， 標志著深度合成服務已成為我國算法治理中率先專門立法的算法服務類型。《深度合成規定》的主題結構分布與《規定》相似， 信息服務規范（２２２ 次）詞頻最高， 其次為算法評估（３３ 次）、用戶權益保護（２３ 次）、算法備案（２２ 次）， 詞頻分布相對均衡， 《深度合成規定》提出了從算法備案、算法評估、算法監管再到算法問責全流程規范思路?？傮w來說， 中央層面已經明確深度合成服務范圍內的算法治理工作思路， 在此之后， 行業組織還需要在生成合成類算法服務范圍、深度合成技術具體范圍、深度合成服務業務分類、顯式標識條件與標識方式、隱式標識方法與識別等方面進一步細化配套標準規范。

６）《關于推動平臺經濟規范健康持續發展的若干意見》（以下簡稱《意見》）和《關于平臺經濟領域的反壟斷指南》（以下簡稱《指南》）均是定位于平臺經濟， 直指互聯網平臺企業面臨的社會責任問題的文件， 其目的在于促進平臺經濟規范有序創新健康持續發展。本研究只針對以上兩部政策中與平臺算法相關的內容進行編碼， 因此， 在《意見》內容結構分布中， 算法監管（２７ 次）、信息服務規范（２０ 次）、用戶權益保護（１２ 次）詞頻相對較高，《意見》針對平臺責任做出了明確的界定與要求，提出通過引入區塊鏈、人工智能等新興信息技術構建多元主體共享的監管信息平臺［１８］ 。而《指南》中突出信息服務規范（２９ 次）和算法生態規范（１０次）兩部分內容， 《指南》是平臺經濟領域經營者依法合規經營的明確指引， 是對平臺經濟領域反壟斷執法原則的深化， 在第７ 條縱向壟斷協議部分中也提到了平臺經濟領域經營者與交易相對人可能利用技術手段、數據和算法等方式， 來排除或限制市場競爭、實施差別待遇、限定交易， 同時結合《反壟斷法》確定有關行為是否構成壟斷協議或濫用市場支配地位行為。

２.２行業組織層面

對５ 部行業層面算法治理政策法規進行編碼分析發現， 算法倫理規范（４６０ 次）、算法評估（２１３次）、信息服務規范（１８７ 次）、算法監管（７８ 次）４個類目詞頻較高， 合計占比約４８％， 如圖２ 所示，氣泡大小表示單部政策關注某一類別內容的多少，氣泡密集則表示多部政策集中關注某一類別， 政策內容通常多散落在單一的二級類目中， 分布較為集中。總體來說， 行業層面算法治理政策主要從算法倫理、算法評估等方面提出微觀層面具體實施規范， 具有可操作性。

１）《網絡安全標準實踐指南—人工智能倫理安全風險防范指引》（以下簡稱《指引》）從識別、防范、管控人工智能倫理安全風險的角度出發， 提出人工智能倫理安全風險防范的基本要求， 其中，算法倫理規范詞頻為１１７ 次， 用戶權益保護詞頻為３１ 次?！吨敢穼⑷斯ぶ悄芑顒託w納為研究開發、設計制造、部署應用、用戶使用４ 類， 并就每類活動的風險防范舉措提出針對性建議。在研發與設計制造規范方面， 《指引》與《新一代人工智能倫理規范》均強調事故保障， 設置事故應急處理機制，明確事故處理流程， 設置損失補償救濟方案， 《指引》中還特別提到設置事故信息回溯機制， 便于進行事后問責。

２） 《信息安全技術機器學習算法安全評估規范》（以下簡稱《機器學習評估規范》）是由全國信息安全標準化技術委員會提出并歸口的算法評估類規范文件， 其中， 算法評估詞頻為１２９ 次。該規范規定了機器學習算法在設計開發、驗證測試、部署運行、維護升級、退役下線等階段的安全要求和證實方法， 包括機器學習算法的安全評估實施， 既適用于對機器學習系統中的算法進行安全評估， 也適用于機器學習系統開發者和運營者在算法開發運營過程中進行自評估和改進安全措施。

３） 《人工智能深度學習算法評估規范》（以下簡稱《深度學習評估規范》）作為中國首個人工智能深度學習算法標準， 結合用戶實際的應用場景提出了一套深度學習算法的可靠性評估指標體系。其中， 算法評估（８４ 次）詞頻最高， 算法分級分類（８次）也有提及， 規范根據深度學習算法的危險嚴重等級將算法劃分為災難級、嚴重級、一般級、輕微級。該規范既適用于面向深度學習算法的開發者和使用深度學習算法實現特定需求的用戶， 也適用于對深度學習算法進行可靠性評估的第三方機構?！稒C器學習評估規范》和《深度學習評估規范》為我國算法評估提出了評估思路和具體要求， 也充分發揮了行業委員會在場景化和精細化算法治理實踐中所作出的有益嘗試。

４） 《人工智能數據安全風險與治理》發布于２０１９ 世界人工智能安全高端對話， 對人工智能發展帶來的數據安全風險進行了全面分析， 內容聚焦于人工智能算法中的數據隱私、數據質量、數據保護等問題， 其中， 信息服務規范（１８７ 次）、算法監管（７８ 次）、算法生態規范（５８ 次）主題下的詞頻較高， 該報告從政策法規和技術層面對目前國內外相關應對舉措進行了梳理， 在此基礎上， 報告總結了國內外優秀實踐案例， 提出了人工智能數據安全治理的目標、框架及治理措施， 為人工智能算法安全治理提供了重要參考與借鑒。

５）《新一代人工智能倫理規范》（以下簡稱《規范》）是國內首份覆蓋人工智能全生命周期的倫理道德規范性文件， 其發布標志著人工智能政策已從推進應用逐漸轉入監管， 尤其是確保人工智能算法處于人類控制之下?！兑幏丁分兴惴▊惱硪幏叮ǎ常埃勾危?詞頻最高， 它主要由基本倫理規范（９２次）和人工智能特定活動應遵守的規范（２１７次）兩部分構成， 人工智能特定活動應遵守的規范包括管理、研發、供應、使用四部分?！兑幏丁坊趥惱淼赖聦用嫣岢隽司唧w要求， 回應了當前社會各界關于隱私、偏見、歧視等的倫理關切［１９］ ， 旨在將倫理道德融入人工智能全生命周期［２０］ 。值得關注的是，該規范吸納了“敏捷治理” 概念， 在管理規范部分明確提出“推動敏捷治理”［２１］ ， 這為我國算法監管制度的完善提供了指引， 突出了加強人工智能算法的潛在風險研判、建立有效的風險預警機制、制定應急機制和損失補償方案或措施的重要性。

３我國算法治理政策法規框架分析

政策法規框架強調現有政策法規中所包含的結構化要點。本文以《指導意見》和《規定》為基礎，借鑒張凌寒［１４］ 、鄺巖等［２２］ 論著中提出的算法治理階段和研究維度， 基于對我國１２ 部算法治理政策法規的內容分析， 形成了“概述層—規范層—流程層” 的算法治理政策法規三維框架， 如表３ 所示。

３.１概述層

概述層主要包括算法治理過程中的政策主體、政策客體、政策目標和政策范圍。①政策主體是指算法治理政策法規發布主體， 它體現了政策重要性與權威性， 一般分為中央層級與行業層級， 中央層級的政策主體包括全國人大、國家網信辦、工業和信息化部等， 行業層級的政策主體包括全國信息安全標準化技術委員會、國家新一代人工智能治理專業委員會等； ②政策客體是指當政策發揮作用時所指向的對象， 我國１２ 部算法治理政策法規作用的對象各有不同， 但均集中在從事有關算法工作的人或組織； ③政策目標是指算法治理政策法規執行預期可以達到的結果， 我國算法治理政策目標是以網絡安全為起點， 以總體國家安全為目標， 逐步建立治理機制健全、監管體系完善、算法生態規范的算法安全綜合治理格局； ④政策范圍是指政策法規的影響范圍或實施范圍， 算法治理政策法規適用于我國境內應用算法技術提供互聯網信息服務的情形。

３.２規范層

規范層主要側重算法生態規范、算法倫理規范和算法服務規范。其中， 原二級類目“信息服務規范” 和“用戶權益保護” 均側重算法應用過程中對用戶的保護， 因此， 將其合并為“算法服務規范”。

１） 算法生態規范。在１２部算法治理政策法規中共有６ 部明確提及算法生態規范， 主要涉及算法導向正確（３６.８％）、算法公開透明（９.８％）、算法創新發展（１９.０％）、算法濫用風險（３４.４％）， 關于算法生態規范的內容多出自中央層面政策法規，如《指導意見》將“促進算法生態規范的發展”作為章節主題正式提出， 具有較強的指導性作用，涉及價值取向、網民權利、知識產權保護、鼓勵創新和確保安全等諸多方面， 從根本上引導算法向上向善發展。算法生態規范與算法倫理規范有著較為密切的聯系， 本文在編碼過程中依據中央政府頒布的算法治理政策法規概括性、引導性較強的特點，從算法生態的宏觀層面提出具體要求， 而行業層面政策更側重規范算法不公開透明導致的倫理問題。

２） 算法倫理規范?！兑幏丁贰吨敢穬刹空呔苯訉⑷斯ぶ悄軅惱碜鳛檎咧黝}， 著重強調增強人工智能的安全透明， 指出在算法設計、實現、應用等環節， 提升透明性、可解釋性、可理解性、可靠性、可控性， 增強人工智能系統的韌性、自適應性和抗干擾能力。算法倫理規范的主要內容細分為５ 類， 分別是基本倫理規范（２４.６％）、研發規范（２４.６％）、管理規范（２１.２％）、供應規范（１５.１％）、使用規范（１４.５％）， 累計詞頻４６３ 次， 占１２ 部政策法規內容詞頻的１９. ５％。基本倫理規范可以細分為增進人類福祉、促進公平公正、保護隱私安全、確保可控可信、強化責任擔當、提升倫理素養六部分。此外， 研發規范、管理規范、供應規范、使用規范詞頻占比較為均衡， 其中， 研發規范包括強化算法自律意識、提升數據質量、增強安全透明、避免偏見歧視［２３］ ； 管理規范包括推動算法敏捷治理、積極實踐示范、正確行權用權、加強風險防范等；供應規范包括尊重算法市場規制、加強質量管控、保障用戶權益等； 使用規范包括提倡算法善意使用、避免誤用濫用、禁止違規惡用等。兩部政策將倫理道德融入人工智能全生命周期， 為從事人工智能相關活動的自然人、法人和其他相關機構等提供倫理指引。

３） 算法服務規范。因算法服務導致的用戶合法權益受侵害問題， 是我國目前算法治理進程中亟需關注的問題［２４］ 。算法服務規范包括信息服務規范（６００ 次）和用戶權益保護（１６０ 次）， 信息服務規范主要聚焦于算法安全主體責任（１３.７％）、數據安全與質量保障（１３.７％）、個人信息保護（９.６％）、信息內容標識（９.５％）、信息安全管理（８.４％）等方面，主要集中在中央層面發布的政策法規中， 也體現了中央層面對應用算法推薦技術提供互聯網信息服務的一切平臺、個人的規范性要求； 用戶權益保護主要聚焦于用戶權利， 要求算法推薦服務提供者保障用戶算法知情權（５.２％）、算法選擇權（５.１％）、算法申訴權（２.８％）， 并對未成年人、老年人、勞動者、消費者等特殊群體的權益保護（８.３％）作出額外規定。

３.３流程層

流程層主要包括事前算法評估、事中算法監管、事后算法問責３ 個方面。

１） 事前算法評估。算法分級分類和算法備案是事前算法評估的基礎［２５］ ?！八惴ǚ旨壏诸悺?概念在《指導意見》中被首次提出， 可以針對算法應用場景劃分算法分類或針對其所引發的風險等級劃分算法分級。其中， 算法分級詞頻為４２ 次， 占比８０.８％， 算法分類詞頻為１０ 次， 占比１９. ２％。此后《規定》中提到網信部門應建立算法分級分類制度， 對算法推薦服務提供者進行分級分類管理，但僅限于算法推薦服務。雖然《指導意見》《規定》針對算法分類分級提出了引領性要求， 但尚缺少可實施的制度細則。算法備案詞頻為６８ 次， 只在《指導意見》《規定》《深度合成規定》３ 部政策中有所提及， 其中， 算法備案要求（５５.９％） 是在《指導意見》中明確提出的， 起總攬全局的指導性作用?！渡疃群铣梢幎ā诽岬?， 具有輿論屬性或者社會動員能力的深度合成服務提供者， 應當按照《規定》履行備案和變更、注銷備案手續， 因此， 關于算法備案流程（１４.７％）、算法備案注銷（７.４％）、算法備案變更（４.４％）、算法備案公示（１７.６％）的具體要求主要依據《規定》中的相關條例執行。２０２２年， 國家網信辦公布了首批算法備案者， 這也標志著我國算法備案制度的落地。算法安全評估規范詞頻５４ 次， 占比１９.８％， 安全評估流程詞頻２１９ 次，占比８０.2％。有關算法安全評估規范的內容全部出自《指導意見》《規定》《深度合成規定》， 這３部政策法規從整體上強調開展算法安全評估的重要性， 要組建專業的評估隊伍， 評估各算法應用環節的漏洞和風險， 針對部分算法技術提出了評估要求， 概括性較強， 缺少具體的評估細則。安全評估流程絕大部分出自《機器學習評估規范》《深度學習評估規范》兩部行業組織政策， 從算法評估的流程細節入手， 分別規定了機器學習算法和深度學習算法在設計開發、測試、維護升級等階段的安全要求、證實方法、安全評估實施流程等內容?？傮w來說， 在我國當前算法治理政策法規中， 針對評估范圍的選擇、評估標準的確定以及評估結果的披露等流程細節， 仍需要進一步出臺相應規范。

２） 事中算法監管。美國著名行政學者戴維·奧斯本、特德·蓋布勒曾提出“預見性的政府： 預防而不是治療”［２６］ ， 因此， 事前算法評估和事中算法監管是算法治理過程中起決定性作用的重要環節。在算法監管部分的內容分布上， 監管模式創新（１５.３％）、多元參與主體（６７. ７％） 主題內容占比較高。從監管模式創新來看， 完善算法監管體系，創新性構建多位一體的監管體系大勢所趨； 從多元參與主體來看， 《指導意見》強調形成政府監管、企業履責、行業自律、社會監督的新局面， 鼓勵相關行業組織加強行業自律并積極接受社會監督； 算法監測（６.４％）和算法審計（７.２％）主題內容占比次之， 從算法風險監測來看， 《規定》對網信部門的權責進行了細化， 提出了以雙層次、多部門為主的聯合監管模式， 由電信部門、公安部門、市場監督部門等共同配合進行算法監管。而從算法審計來看， 當前僅在《人工智能數據安全風險治理》中提到了安全審計工具， 通過審計工具全方位監測安全事件， 及時發現并規避各種安全威脅［２７］ 。我國應該逐步將算法審計納入算法監管或問責框架中， 并對算法審計的主體、客體、范圍、實施機制、實施后果進行規定［２８］ 。

３） 事后算法問責。雖然在算法治理過程中“事前行為比事后問責更重要”， 但在欠缺統一的標準、規則和專業的人員與組織配備的情況下， 事前預防模式下各種措施的功能發揮受到諸多限制， 因此， 針對算法應用過程中出現的違法違規行為進行問責也應重視［２９］ 。算法問責的主要內容可以劃分為５ 部分， 分別是違規追究責任（５８.９％）、違規取得備案（８.１％）、依法注銷備案（８. １％）、提供針對個人特征選項（９.７％）、限制平臺交易（１５.３％）， 累計詞頻１２４ 次， 占１２ 部政策法規內容詞頻的５.２％?？傮w來看， 多部政策法規明確提到了算法問責的相關內容， 如《中華人民共和國電子商務法》第７７ 條提到， 電子商務經營者違法根據消費者個人特征提供搜索結果的， 市場監管部門可以根據情況嚴重程度進行處罰； 《規定》單獨將問責部分歸為第五章“法律責任”， 對違反《規定》行為按照法律、行政法規或由網信部門和電信、公安、市場監管等部門追究責任。針對事后算法問責的具體要求散落到多部法規中， 尚未形成系統的、完整的問責制度， 因此， 在未來我國算法治理政策法規框架中應加快《算法問責法》的立法進程。

４結論與建議

自２０２１ 年我國開啟算法治理元年起， 算法治理迅速進入國家監管視野， 而推動國家算法治理離不開政策法規的引導。因此， 本文通過Ｎｖｉｖｏ１２ 對我國１２ 部算法治理政策法規進行詞頻編碼， 經過政策文本量化分析后， 形成我國算法治理政策法規框架， 梳理發現當前我國算法治理存在“缺乏總領性法律引導、主題分布不均衡、行業標準規范不細化、尚無地方專項政策” 的問題。具體如下： 一是缺乏總領性法律引導。我國算法治理進程才剛剛開始， 雖有《指導意見》《規定》等引領性文件，但政策法規內容較為分散， 缺少總領性的法律引導， 中央層面和行業層面政策法規的內容連接性也不強； 二是主題分布不均衡。中央層面側重信息服務規范、算法監管、算法備案、算法問責等， 行業層面集中在算法倫理和算法評估， ２０２２ 年８ 月，國家網信辦公布了互聯網信息服務算法備案系統，同時公布了首批備案清單， 實現了算法備案制度在我國的落地， 但很多細節內容尚需持續優化， 以提高科學性、合理性及合法性； 三是行業標準規范不細化。雖然我國已經發布《指導意見》《規定》等引領性政策， 并且信標委等部門正在積極擬定相關算法規范與細則， 但行業配套制度仍欠缺較多， 如算法分類分級、算法備案、算法問責等提及較少，重視程度略顯不足； 四是尚無地方專項政策。部分地區多將算法治理政策法規嵌套于數據政策或人工智能政策中， 尚未有地方政府出臺專項算法治理政策法規與條例。

基于以上問題， 本文從治理“力度—精度—深度—廣度” 視角提出以下建議， 旨在逐步將較為零散的算法治理政策法規聚合成為具有中國特色的算法治理政策法規體系。

一是完善算法治理頂層設計。實現從算法政策到專門立法的過渡， 以加大治理力度。整體上， 我國算法治理仍處于探索階段， 由于當前算法問責條款散落到多部政策法規中， 因此， 應在《指導意見》《規定》等制度基礎上， 加速推進《算法安全法》《算法問責法》等法案的立法進程， 并從技術及應用的交互層面對算法風險作出全面規制。

二是全流程算法治理。實現從中央層面頂層設計到全流程的算法治理， 以提升治理精度。雖然《指導意見》《規定》的發布意味著中央層面形成了算法治理總體思路， 但算法治理相關實施細則尚不完善， 尤其應發揮行業組織的作用， 從事前評估、事中監管、事后問責等環節加強算法治理的精度，同時， 出臺算法分級分類、算法備案、算法問責等配套制度， 實現創設算法規范的“中國方案”， 進而形成全流程算法治理制度體系。

三是多領域算法治理。實現從全流程的算法治理到多領域的算法治理， 以增加治理深度。逐步深入到具體領域中的場景和應用。目前， 我國已針對推薦算法、深度合成技術出臺相關規定， 未來應基于領域特色， 以中央政府頂層設計為核心， 建立與當前法規相適配的治理策略， 尤其是科技、金融、電信、醫療等領域， 如２０２３ 年４ 月， 《生成式人工智能服務管理辦法（征求意見稿）》發布， 以Ｃｈａｔ?ＧＰＴ 為代表的生成式人工智能背后的算法風險問題也即將納入國家監管與治理范圍［３０］ ， 因此， 細化配套制度才能全面實現多領域的算法治理。

四是各區域算法治理。地方政府應該形成具有區域特色算法治理專項制度， 以拓寬治理廣度。目前， 地方政府多將算法治理政策法規嵌套于數據政策或人工智能政策中， 并且在這些政策中單獨提及算法治理的內容也較少， 隨著中央政府對算法治理進程的不斷深入， 地方政府也應逐步出臺適用于本區域的《算法條例》《算法安全條例》等。