算法審計主體論

【摘要】算法審計主體的核心問題是誰來實施算法審計， 本文以經典審計理論為基礎， 提出算法審計主體的一個理論框架。算法審計主體由算法審計需求者基于三個原則來選擇： 一是獨立性原則， 要求算法審計主體獨立于算法審計客體； 二是成本效益原則， 當算法審計主體的多種建構方案都可以保持審計主體的獨立性時， 要選擇成本最低的組織方式； 三是審計質量原則， 要求算法審計主體能夠提供滿足質量標準的算法審計， 主要通過審計主體的專業勝任能力來保障。基于上述三個原則， 不同的資源類委托代理關系中的算法審計需求者對算法審計主體會做出不同的選擇， 可能的算法審計主體包括具有算法審計勝任能力的政府審計機關、內部審計機構和社會審計機構。

【關鍵詞】算法審計；算法審計主體；算法審計獨立性；算法審計質量；算法審計成本效益

【中圖分類號】F239.44""""" 【文獻標識碼】A""""" 【文章編號】1004-0994（2024）20-0075-6

【基金項目】國家社會科學基金重大項目“百年審計理論創新研究”（項目編號：21amp;ZD027）

【作者單位】南京審計大學審計科學研究院， 南京 211815

一、 引言

人工智能正成為驅動社會變革的關鍵技術， 并在重塑我們的工作、 學習和生活方式， 將對經濟發展和社會福祉產生深遠影響。人工智能的核心是算法， 它決定了機器如何學習、 推理和做出決策。算法通過提高效率、 促進創新和提供個性化服務發揮積極作用， 但同時也可能導致偏見、 隱私侵犯和不平等加劇等負面影響， 因此， 必須建構算法治理體系。算法審計是算法治理體系的重要組成部分， 以審計固有功能在算法治理中發揮獨特作用。算法審計要真正發揮作用， 必須建構科學的算法審計制度， 而制度自信要以理論自信為基礎， 正確地認知算法審計的各個基礎性問題， 是科學地建構算法審計制度的基礎。在諸多的算法審計基礎性問題中， 本文聚焦算法審計主體即誰來實施算法審計①展開分析。

整體來說， 當前有關算法審計主體的研究還處于碎片化的起步階段， 貫通經典審計理論的系統化理論框架尚未形成。本文以經典審計理論為基礎， 以算法委托代理關系為切入點， 提出算法審計主體的一個理論框架， 以深化人們對算法審計主體的認知， 并為建構和完善算法審計主體相關制度提供理論參考。

二、 文獻綜述

當前尚未發現有文獻專門討論算法審計主體。一些討論算法審計的文獻涉及算法審計主體， 主要涉及三個方面： 算法審計主體的分類、" 算法審計主體的地位、" 算法審計主體的要求。

（一） 算法審計主體的分類

算法審計主體究竟有哪些類型， 現有文獻存在多種觀點， 本文將這些觀點概括為二主體觀、 三主體觀和多主體觀。

1. 二主體觀認為， 算法審計主體有兩種類型。不同文獻的分類方法不同， 多數文獻將算法審計主體分為外部審計和內部審計。沈艷（2022）認為， 算法審計可分為外部審計和內部審計兩種； 王玉鳳（2023）認為， 算法審計以內部審計與外部審計相結合的方式， 發揮其專業性、 獨立性優勢； Abeba Birhane等（2024）認為， 有很多可能的審計從業人員參與審計過程， 通常被稱為內部審計師和外部審計師。

也有一些文獻提出了其他的二主體觀。胡堅波（2022）指出， 近年來， 國外由司法部門進行的算法審查和由第三方機構進行的算法審計在算法治理中逐漸發揮重要作用； 王兆毓（2023）認為， 算法審計應當是多元主體的協同共治審計體系， 包括企業內部審計與獨立的外部審計； 劉建業（2023）認為， 算法審計主體包括算法審計行政機構和企業內部算法審計。

2. 三主體觀就是將算法審計主體分為三種類型。不少文獻將算法審計主體分為政府審計機關審計、 內部審計和社會審計。付冉冉（2023）認為， 在公共領域， 算法審計可以由審計部門及相關內部審計部門組織實施， 在其他商業領域， 國家可進行社會審計指導， 推動有資質的社會第三方機構參與商業領域的算法審計。王玉鳳（2023）提出： 以政府部門為主要審計對象的國家審計是模型算法審計的重要審計主體； 內部審計是模型算法風險防控非常重要的一道防線； 社會審計更具靈活性， 是前兩者的有益補充， 能夠有效約束模型算法權力， 形成審計合力。

也有一些文獻將算法審計主體分為算法監管機構審計、 內部審計和民間組織審計。張欣和宋雨鑫（2022）認為， 算法審計制度可劃分為科技企業開展的內部審計以及由監管機關和第三方開展的外部審計。DRCF（2022）提出， 審計可以由組織內的團隊實施， 也可以由獨立審計提供商等外部機構實施， 或者由監管機構實施。劉建業（2023）提出， 算法審計主要存在三種實踐樣態， 即算法自審計（內部審計）、 算法監管審計、 第三方算法審計。張濤（2024）認為， 算法審計背景下， 既可以由自動化決策的實施主體開展內部審計， "也可以由政府監管機構和其他組織實施外部審計。

此外， 還有文獻提出了其他的三主體觀。張永忠和張寶山（2022）提出， 未來可能的制度選擇有三種： 一是將算法審計納入財務審計的業務之中， 由會計師事務所審計； 二是由公共審計機構審計； 三是將算法審計作為一種全新的民間審計。

3. 多主體觀主要是在三主體觀的基礎上， 將一些參加算法影響評估的機構作為算法審計主體。例如： DRCF（2022）認為， 研究人員對公司的系統進行了各種形式的算法審計， 其中許多側重于算法偏見、 歧視以及內容或信息的放大。陳雄燊（2023）認為， 算法審計主體分為政府、 企業內部以及民間三方審計組織， 此外， 算法倫理審計的主體還應當包括倫理學教授等倫理專家、 律師等法律工作者以及技術工程師。Abeba Birhane等（2024）發現， 律師事務所、 咨詢機構、 公司審計、 新聞業、 民間社會和政府都參與算法影響評估， 因此， 它們都已經成為算法審計主體。

（二） 算法審計主體的地位

算法審計主體有多種， 少量文獻涉及不同算法審計主體的地位。莊尚文和陳王薏（2021）提出， 可以建立政府主導的大數據審計監管平臺， 對企業進行實時的動態監管。劉建業（2023）認為， 采用完全市場化的算法審計模式恐怕為時尚早， 政府主導的算法審計模式或許是更為合適的選擇， 隨著算法社會治理的法治化， 政府主導的算法審計模式將逐步讓位于市場主導的算法審計模式。

（三） 算法審計主體的要求

關于算法審計主體的要求， 現有文獻主要強調其專業性和獨立性。張凌寒（2019）提出， 對于算法透明度的評估、 是否有歧視可能以及對可疑結果的回溯， 都需要專業委員會提供咨詢意見或者直接執行， 方可保證規制有效性。Beckstrom（2022）提出， 機器學習審計以專門的審計知識和技能為基礎， 最高審計機關應培養其審計師的能力。 張永忠和張寶山（2022）提出， 必須考慮算法審計主體從事技術、 合規和風險審查上的主體適格性。馬騰飛（2023）提出， 算法合規性判斷需要由權威、 獨立和專業的第三方審計機構作出。王玉鳳（2023）提出， 算法審計機構要發揮其專業性、 獨立性優勢。張濤（2024）提出， 實施算法審計的主體應當獨立于算法系統的設計者、 使用者、 運營者等主體，" 同時具備完成審計工作的專業知識。

（四） 簡要評述

上述文獻表明， 現有文獻對算法審計主體的一些問題已經有一定程度的涉及， 為人們建構算法審計制度奠定了基礎。但是， 仍存在以下三方面的問題： 一是脫離算法審計客體來討論算法審計主體， 很難得出一般性的結論； 二是未區分算法監管和算法審計， 將算法監管機構也作為算法審計主體， 混淆了審計監督和行政監管； 三是未能貫通審計邏輯， 現有文獻所提出的算法審計主體并不是基于經典審計理論的學理分析得出的結論。整體來說， 算法審計主體研究還處于碎片化的起步階段， 貫通經典審計理論的系統化的理論框架尚未形成。

三、 理論框架

本文的研究目的是以經典審計理論為基礎， 提出算法審計主體的一個理論框架， 為此， 將依次闡釋以下問題： 算法委托代理關系、" 關系1中的算法審計主體、" 關系8中的算法審計主體、" 算法審計主體的幾個相關問題的討論。

（一） 算法委托代理關系

算法的技術復雜性及其解決現實問題的復雜性， 導致算法涉及多種關系主體， 這些關系主體之間都存在一定程度的信息不對稱。因此， 根據信息經濟學， 這些關系都屬于委托代理關系， 基本情況如圖1所示。

圖1中的關系1是經典意義上的資源類委托代理關系， 委托人將一定的資源交付代理人， 并明確代理人要履行的職責， 代理人對委托人承擔了最大善意使用所接受資源來履行所要求職責的責任， 這種責任通常稱為“經管責任”。但是， 在人工智能時代， 代理人在履行其承擔的經管責任時使用了算法， 履行經管責任過程中涉及的財務活動和業務活動大量依賴算法， 在這種背景下， 算法對代理人經管責任履行情況有決定性影響。因此， 算法責任是經管責任的重要內容， 針對經管責任的審計必須包括對算法責任的審計。

圖1中的關系2是代理人在履行經管責任過程中所涉及的經濟活動的交易對方， 由于代理人在開展這些活動時使用了算法， 因此代理人就成為算法使用者， 而交易對方就成為算法相對人。代理人作為算法使用者與算法相對人的關系是合約類委托代理關系， 算法相對人如果不同意代理人使用的算法， 可以拒絕交易； 如果實施了交易， 則就視同同意雙方對算法的約定； 如果代理人提供的算法與約定的算法不同， 則算法相對人可以通過司法訴訟來解決代理人違約問題。整體來說， 這種關系中的合約是完備的， 并不存在算法審計需求。

圖1中的關系3是代理人作為算法使用者與算法開發者的關系。通常來說， 算法使用者可能不具備自行開發算法的技術能力， 因此， 會委托具有專業能力的機構來開發算法（如果具備這種能力，則算法開發者與算法使用者合而為一，關系3消失）， 在雙方的合約中對算法會提出一些具體要求。可見， 二者的關系仍然存在完備的合約， 并不存在算法審計需求。但是， 代理人作為算法所有者和使用者有權力對算法開發者開發的算法進行驗收。由于這種驗收也需要專業能力， 代理人作為算法使用者可能并不具備這種能力， 因此通常是通過算法使用過程中是否出現約定的算法不能出現的問題來進行驗收。在這種背景下， 關系1中針對代理人的算法責任審計就延伸到關系3， 算法開發者與算法使用者共同承擔算法責任。

圖1中的關系4是代理人作為算法使用者與算法營運者的關系。這種關系存在是由于代理人作為算法使用者并不具備營運算法的技術能力（如果具備這種能力， 則算法使用者與算法營運者合而為一，關系4消失）， 因此， 委托專業機構負責營運。雙方應該簽訂完備合約， 對算法營運狀況提出具體要求， 約定不能出現的狀況， 如果出現， 就視同算法營運者違約。正是由于這種原因， 關系4中并不存在算法審計需求。但是， 由于算法營運者承擔了算法營運責任， 因此， 針對關系1中代理人作為算法使用者的算法責任審計也會延伸到算法營運者， 算法營運者也成為算法責任主體之一。

圖1中關系5、 關系6和關系7是本級政府設立的算法監管部門對算法開發者、 算法使用者和算法營運者的監督。這種關系是監管類委托代理關系， 算法監管部門要按算法相關法律法規進行監管， 對于其違背法律法規的行為可以通過行政申訴、 行政訴訟等方式來處理。而算法開發者、 算法使用者和算法營運者則必須按算法相關法律法規的要求接受監管， 其違背法律法規的行為可以通過行政制裁來解決。整體來說， 算法相關法律法規發揮了類似完備合約的作用， 并不存在算法審計需求。當然， 并不排除算法監管部門會借助算法審計的技術功能來為其算法監管服務。

圖1中關系8是本級政府與其設立的算法監管部門的關系。很顯然， 這是典型的資源類委托代理關系， 只是這個政府部門的職責是算法監管， 因此， 算法監管部門對本級政府承擔的經管責任包括財務責任與業務責任兩部分。財務責任與其他政府部門并無實質性區別， 而業務責任其實就是算法監管責任。本級政府的審計機構在審計算法監管部門時， 算法監管責任履行情況的審計是重要內容。

基于以上分析， 圖1中關系1、 關系8中存在算法審計需求， 同時， 圖1中關系1針對代理人作為算法使用者的審計會延伸到關系3中的算法開發者和關系4中的算法營運者（鄭石橋，2024a、2024b）。本文的研究主題是算法審計主體， 接下來將以上述分析為基礎， 闡釋不同委托代理關系中的算法審計主體。

（二） 關系1中的算法審計主體

根據經典審計理論， 審計主體是由審計需求者建構的， 建構的原則有三個： 一是獨立性原則， 這就要求算法審計主體要獨立于算法審計客體； 二是成本效益原則， 當算法審計主體的多種建構方案都可以保持審計主體的獨立性時， 要選擇成本最低的組織方式； 三是審計質量原則， 要求算法審計主體能夠提供能保障質量的算法審計， 這主要通過審計主體的專業勝任能力來保障（鄭石橋，2021）。算法審計主體的建構也不例外， 同樣需要遵守上述三個原則。接下來， 本文先討論圖1中關系1的算法審計主體。

圖1中的關系1是經典意義上的資源類委托代理關系， 代理人在履行其經管責任時使用了算法， 因此在對經管責任的審計中包含著算法責任審計。由于這種關系中存在信息不對稱、 激勵不相容、 合約不完備和環境不確定， 委托人存在對其代理人經管責任審計的需求。在特殊情形下， 代理人也存在對其自身經管責任進行審計的需求。這兩種審計需求中都包括對算法責任履行情況的審計需求。問題的關鍵是， 由誰來實施算法審計？就委托人的算法審計需求來說， 其可以選擇的組織方式有兩種： 一是自行建構一個具有算法審計能力的審計機構； 二是從市場上購買算法審計服務。對二者如何選擇呢？

自行建構具有算法審計能力的審計機構， 通常是對現有的自建審計機構進行改造， 增加具有算法審計能力的審計人員。此時， 如果審計體制恰當， 也就是不讓審計機構受代理人約束， 則能夠保障審計獨立性。如果這個審計機構真的配備了具有算法審計專業勝任能力的人員， 則審計質量也有保障。所以， 問題的關鍵在于能否滿足成本效益原則的要求。影響審計成本效益的因素較多， 主要的影響因素是審計業務常態化程度和審計業務量大小。越是具有常態化的審計業務， 自行建構審計機構的審計成本越低； 審計業務量越大， 自行建構審計機構的審計成本越低。所以， 當代理人作為一個組織單位規模較大、 使用算法較多時， 算法審計業務就會具有常態化和規模化， 此時， 通常適宜自行建構一個具有算法審計能力的審計機構。

從市場上購買算法審計服務， 就是委托人從市場上具有算法審計能力的專業機構中選擇特定的機構來購買算法審計服務。如果代理人不能掌控對這個專業機構的聘用， 這個專業機構的審計獨立性就能得到保障； 如果聘用的專業機構具有專業勝任能力， 則算法審計質量也能得到保障。所以， 問題的關鍵在于能否滿足成本效益原則的要求。通常來說， 當代理人作為一個組織單位的規模較小、 使用算法較少時， 算法審計業務就會具有偶然性， 此時， 通常適宜從市場上購買算法審計服務。當然， 即使是委托人自行建構算法審計機構， 如果某些方面的算法審計責任由市場上的專業機構來履行更加具有成本效益性， 則此種算法審計業務也可以外包給市場上的專業機構。

關系1中的代理人在以下特殊情形下也可能有算法審計需求（這里的代理人包括從關系1中延伸而來的算法開發者和算法營運者）， 因此， 也需要選擇一定的算法審計主體來實施。

情形之一是代理人及其延伸者與委托人不存在激勵不相容， 因此， 算法責任履行中也就不存在代理問題。但是， 代理人及其延伸者仍然是有限理性的， 在算法責任履行中可能出現次優問題， 這也會對代理人及其延伸者的算法責任的履行產生負面影響。為此， 代理人及其延伸者有可能希望通過算法審計來發現算法存在的問題， 便于對這些問題進行整改， 以優化算法責任的履行機制， 此時算法審計的主要作用在于揭示算法次優問題。問題的關鍵是， 由何種算法審計機構來履行這些審計責任？通常來說， 由于代理人及其延伸者與委托人不存在激勵不相容， 代理人會選擇委托人所選擇的算法審計機構來履行審計責任。如果代理人及其延伸者的算法審計業務規模較大且具有穩定性， 則從成本效益原則來說， 代理人及其延伸者也可以自行建構專門的算法內部審計機構。這種內部審計機構審計的是具體履行算法責任的內部單位： 如果內部審計體制恰當， 則能夠保障審計獨立性； 同時， 如果配備了恰當的審計人員， 也能保障審計質量。所以， 代理人及其延伸者自行建構具有算法審計能力的內部審計機構是可行的。在現實生活中， 不少的算法使用者、 算法開發者和算法營運者設立的內部審計機構都開展算法內部審計。

情形之二是代理人將算法審計作為信號傳遞機制， 向有關方面傳遞算法質量的信號， 讓信號接受者相信代理人所使用的算法質量很好， 此時， 算法審計機構的選擇要考慮算法信號的接受者。如果是向委托人傳遞算法信號， 則通常可以選擇委托人所選擇的算法審計機構； 如果是向委托人之外的利益相關者（例如政府監管部門、 算法相對人）傳遞算法信號， 基于獨立性的考慮， 通常選擇從市場上購買算法審計服務， 也就是由社會上的專業機構來實施算法審計并發布算法審計結果， 現實生活中的算法鑒證基本上都是這種情形。

以上所分析的關系1中的算法審計主體選擇， 歸納起來如表1所示。

（三） 關系8中的算法審計主體

圖1中關系8是本級政府與其設立的算法監管部門的關系。本級政府作為委托人存在對算法監管部門算法監管責任履行情況的審計需求， 特殊情形下， 算法監管部門也存在對其自身算法監管責任履行情況進行審計的需求， 二者都需要選擇算法審計主體。

通常來說， 本級政府會設立許多部門， 算法監管部門只是其設立的政府部門之一。為了促使本級政府各部門更好地履行各自的經管責任， 會有專門的審計機關對這些部門進行審計。這種專門的審計機關通常稱為政府審計機關， 其審計體制具有多種類型， 例如， 通常所說的立法型審計、 司法型審計、 獨立型審計、 行政型審計、 中國特色的審計體制等都屬于政府審計機關的審計體制。政府審計機關獨立于算法監管部門， 因此， 其對算法監管部門的算法監管責任履行情況進行審計， 能夠保持獨立性。如果政府審計機關配備了具有算法審計能力的審計人員， 則能夠保障算法監管責任審計的審計質量。從成本效益原則來說， 政府審計機關并不只是審計算法監管部門， 其還對本級政府設立的各個部門都進行審計。所以， 審計任務中增加對算法監管部門的審計， 會更加具有成本效益性。整體來說， 本級政府通常會選擇本級政府審計機關來審計本級算法監管部門。但是， 在符合成本效益原則的前提下， 本級政府審計機關也可能將算法監管責任審計的某些內容外包給社會上的專業機構， 由其實施算法審計并發布算法審計結果。

關系8中的政府算法監管部門作為本級政府的代理人， 也可能存在對自身算法監管責任履行情況的審計需求。為了滿足其審計需求， 也需要選擇算法審計主體。關系8中， 存在以下兩種情形。

情形之一是算法監管部門與本級政府之間不存在激勵不相容時， 算法監管部門將算法監管責任審計作為其算法監管責任履行中次優問題的揭示機制， 此時的審計主體選擇有兩種具體情況。第一， 選擇本級政府審計機關， 因為這是本級政府建構的審計機構， 符合獨立性、 成本效益性和審計質量保障原則。第二， 算法監管部門自行設立具有算法監管責任審計能力的內部審計機構。從獨立性來說， 這種內部審計機構審計的是算法監管部門具體負責履行算法監管責任的內部單位， 如果內部審計體制恰當， 則能夠保障審計獨立性； 從審計質量來說， 如果內部審計機構配備了具有算法監管責任審計能力的審計人員， 則也能保障審計質量。關鍵之處在于算法監管部門內部具體履行算法監管責任的內部單位要達到一定的數量， 這樣才能做到算法監管責任內部審計需求具有一定的規模和穩定性， 從而符合成本效益原則。

情形之二是算法監管部門將算法監管責任審計作為信號傳遞機制。如果是向本級政府傳遞算法監管責任得到良好履行的信號， 則可能選擇本級政府審計機關； 如果是向社會公眾傳遞算法監管責任得到良好履行的信號， 則通常會選擇社會上具有算法監管責任審計能力的專業機構。

以上所分析的關系8中的算法審計主體選擇， 歸納起來如表2所示。

（四） 算法審計主體的幾個相關問題討論

以上基于算法委托代理關系， 闡釋了算法審計主體選擇的主要問題。為了深化對算法審計主體的認知， 還有兩個相關問題要討論： 一是算法相對人的權益由誰來保護； 二是算法審計和算法監管部門的算法監管職能是否存在重復。

1. 算法相對人的權益由誰來保護。算法相對人與算法使用者之間存在經濟交易， 這種交易中要使用算法， 算法使用者有責任做到恰當的算法透明。如果算法相對人不同意算法者所使用的算法， 則可以終止交易； 如果同意交易， 就意味著同意使用算法使用者提供的算法。所以， 算法相對人不能對算法使用者提出算法審計需求。但是， 如果算法使用者未能做到相關法律法規所要求的算法透明， 則算法使用者存在違規行為， 由算法監管部門來懲罰。同時， 如果算法使用者所使用的算法違反了算法相關法律法規， 則由算法監管部門來懲罰。另外， 如果算法使用者實際使用的算法與其向算法相對人承諾的算法存在差異， 屬于算法使用者的違約行為， 算法相對人可以通過司法訴訟來解決。整體來說， 算法監管和司法訴訟是算法相對人的權益保護機制。

2. 算法審計和算法監管部門的算法監管職能是否存在重復。基于以上分析， 現實中存在的一個現象是： 算法使用者、 算法開發者和算法營運者既是算法審計的客體， 也是算法監管的客體。那么， 算法監管部門的算法監管與算法審計是否會存在重復監督？如果是， 為什么要重復監督？很顯然， 算法使用者、 算法開發者和算法營運者既要接受算法審計， 也要接受算法監管， 二者存在監督重復。但是， 這種重復是有道理的， 主要有兩個方面的原因。

第一， 算法審計是所有權監督， 算法監管是行政權監督， 這兩種監督的權力來源不同。從算法審計權來說， 針對關系1中的代理人作為算法使用者的算法審計權是源于委托人為其提供了資源， 而針對關系3中的算法開發者、 關系4中的算法營運者的算法審計權是源于算法開發者和算法營運者與代理人作為算法使用者的關系之延伸。從算法監管權來說， 是源于國家立法機關的明文授權， 這種監管并不以是否提供資源為前提， 其目的是保障社會公眾的合法權益不受侵害， 確保算法向善。

第二， 算法監管是由政府部門來實施的， 其遵循謙抑性原則， 也就是最低程度干預， 只有在必不可少的情形下才干預。并且， 法無明文不可為， 對于要干預的事項， 必須事先通過法律法規做出明文規定， 所以， 算法監管強調的是算法的合法性。算法審計是為了保障算法責任者更好地履行算法責任， 因此， 也會關注算法的合法性。但是， 作為所有權監督， 站在資源提供者的角度， 通常會提出更高的要求， 例如， 要求算法具有倫理性、 效率效果性和營運便利性（鄭石橋，2024c）。這些維度的算法審計目標就超出了對算法的最低要求， 而推動算法向更高的水平發展， 從而促使代理人更好地基于算法來履行其承擔的經管責任。

四、 結論

算法審計真正發揮作用的前提是建構科學的算法審計制度， 而制度自信要以理論自信為基礎。本文聚焦算法審計主體， 以經典審計理論為基礎， 提出算法審計主體的一個理論框架。由于算法的技術復雜性及其解決現實問題的復雜性， 導致算法委托代理關系有多種類型， 其中存在審計算法需求的是資源類委托代理關系， 合約類及監管類委托代理關系中并不存在算法審計需求。算法審計主體的核心問題是誰來審計， 通常由算法審計需求者根據三個原則來選擇： 一是獨立性原則， 這就要求算法審計主體獨立于算法審計客體； 二是成本效益原則， 當算法審計主體的多種建構方案都可以保持審計主體的獨立性時， 要選擇成本最低的審計機構； 三是審計質量原則， 要求算法審計主體能夠提供所滿足質量標準的算法審計， 這主要通過審計主體的專業勝任能力來保障。基于上述三個原則， 不同的資源類委托代理關系中的算法審計需求者對算法審計主體會做出不同的選擇。

經典意義上的資源類委托代理關系中（關系1并延伸到關系3和關系4）， 代理人作為算法使用者在履行其經管責任時使用了算法。委托人作為算法審計需求者時： 如果算法審計業務呈現常態化、 規模化， 則會自行構建具有算法審計能力的審計機構； 如果算法審計業務具有偶然性， 則會從市場上購買算法審計服務。代理人在特殊情形下也可能存在算法審計需求： 如果將算法審計作為算法次優問題的揭示機制， 則會選擇委托人所選擇的算法審計機構或自行建構專門的算法內部審計機構； 如果向委托人傳遞算法信號， 則會選擇委托人所選擇的算法審計機構； 如果向社會傳遞算法信號， 則會從市場上購買算法審計服務。

本級政府與其設立的算法監管部門的關系中（關系8）： 本級政府作為算法監管責任審計需求者時， 會選擇本級政府審計機關； 社會上的專業機構更具成本效益性時， 會選擇審計業務外包。算法監管部門在特殊情形下也可能存在算法審計需求： 如果將算法審計作為算法次優問題的揭示機制， 則會選擇本級政府審計機關或自行建構具有算法監管責任審計能力的內部審計機構； 如果向本級政府傳遞算法監管責任履行信號， 則會選擇本級政府審計機關； 如果向社會傳遞算法監管責任履行信號， 則會選擇從市場上購買算法審計服務。

DOI：10．19641/j．cnki．42-1290/f．2024．20．012

【 主 要 參 考 文 獻 】

陳雄燊．人工智能倫理風險及其治理——基于算法審計制度的路徑［ J］．自然辯證法研究，2023（10）：138 ～ 141．

付冉冉．大數據時代算法審計構想［ J］．網絡安全與數據治理，2023（2）：48" ～ 52．

胡堅波．多措并舉推進我國算法治理［ J］．人民論壇·學術前沿，2022（10）：20 ～ 28．

劉建業．論我國算法審計的法治化建構［ J］．河南財經政法大學學報，2023（3）：14 ～ 23．

馬騰飛．基于數據主權視角的算法治理：進展、困境與路徑［ J］．信息資源管理學報，2023（6）：48 ～ 61．

沈艷．推行算法審計大有可為［EB/OL］．https：//m.thepaper.cn/baijiahao_19396823，2022-08-10．

王玉鳳．模型算法審計：理論內涵、國際經驗與審計框架［ J］．審計研究，2023（3）：11 ～ 18．

王兆毓．生成式人工智能視閾下算法審計的制度構建與路徑創新［ J］．網絡安全與數據治理，2023（8）：6 ～ 12．

張凌寒．算法規制的迭代與革新［ J］．法學論壇，2019（2）：16 ～ 26．

張濤．通過算法審計規制自動化決策——以社會技術系統理論為視角［ J］．中外法學，2024（1）：261 ～ 279．

張欣，宋雨鑫．算法審計的制度邏輯和本土化構建［ J］．鄭州大學學報：哲學社會科學版，2022（6）：33 ～ 42．

張永忠，張寶山．算法規制的路徑創新：論我國算法審計制度的構建［ J］．電子政務，2022（10）：48 ～ 61．

鄭石橋．審計基礎理論［M］．北京：中國人民大學出版社，2021．

鄭石橋．算法審計需求論［ J］．財會月刊，2024a（16）：77 ～ 82．

鄭石橋．算法審計客體論［ J］．財會月刊，2024b（17）：81 ～ 85．

鄭石橋.算法審計目標論［ J/OL］．財會月刊，1-5［2024c-09-24］．http：//kns.cnki.net/kcms/detail/42.1290.F.20240724.0900.014.html．

莊尚文，陳王薏．數字經濟時代算法權力問題及其審計規制探討［ J］．吉林工商學院學報，2021（4）：75 ～ 79．

Beckstrom J. R.. Auditing machine learning algorithms：A white paper for public auditors［EB/OL］．http：//intosaijournal.org/auditing-machine-learning-algorithms/，2022-06-20．

DRCF. Auditing algorithms： The existing role of regulators and future outlook［EB/OL］．https：//www.gov.uk/government/publications/findings-from-the-drcf-algorithmic-processing-workstream-spring-2022，2022-09-23．

【 注 釋 】

① 從邏輯上來說，算法審計主體包括算法審計機構和算法審計人員，本文只關注算法審計機構。

（責任編輯·校對： 李小艷" 黃艷晶）