算法審計本質(zhì)論

【摘要】以經(jīng)典審計理論為基礎(chǔ)， 提出算法審計本質(zhì)的一個理論框架。從內(nèi)涵來說， 算法審計是以系統(tǒng)方法對經(jīng)管責(zé)任履行中的算法進(jìn)行獨(dú)立檢查并將結(jié)果傳達(dá)給利益相關(guān)者的算法治理制度安排。從外延來說， 算法審計有多種分類方法， 可分為基于規(guī)則和基于機(jī)器學(xué)習(xí)的算法審計， 也可分為不同審計主體實(shí)施的算法審計， 還可以根據(jù)人工智能系統(tǒng)的生命周期進(jìn)行分類。從相關(guān)概念的關(guān)系來說， 算法審計是人工智能系統(tǒng)審計的組成部分。

【關(guān)鍵詞】人工智能系統(tǒng)；算法審計；審計本質(zhì)；經(jīng)典審計理論

【中圖分類號】 F239.44 【文獻(xiàn)標(biāo)識碼】A 【文章編號】1004-0994（2024）15-0073-5

一、 引言

隨著人工智能（AI）的快速發(fā)展， 算法正以前所未有的速度嵌入人們的經(jīng)濟(jì)社會生活中， 公共部門和私營部門業(yè)務(wù)營運(yùn)中使用算法的場景已經(jīng)非常廣泛。算法的廣泛運(yùn)用有效地提高了工作的效率效果， 為人們生活帶來了極大的便利。但與此同時也帶來了一系列的問題， 如算法黑箱、 算法偏見、 算法歧視等， 引起了社會的廣泛關(guān)注。為了應(yīng)對這些問題， 各國都在推動建構(gòu)算法治理體系， 算法問責(zé)、 算法公開、 算法賦權(quán)、 算法監(jiān)管都是算法治理體系的組成部分（湯志偉等，2023）， 算法審計也是其中的重要組成部分。然而， 算法審計要真正在算法治理中發(fā)揮作用， 就必須建構(gòu)科學(xué)的算法審計制度， 而理論自信是制度自信的基礎(chǔ)， 正確地認(rèn)知算法審計的各個基礎(chǔ)性問題是科學(xué)建構(gòu)算法審計制度的基礎(chǔ)， 本文聚焦算法審計的基礎(chǔ)性問題之一——算法審計本質(zhì)。

現(xiàn)有文獻(xiàn)中， 對于算法審計本質(zhì)的認(rèn)知主要有三種觀點(diǎn)， 其中技術(shù)審查觀、 影響評估觀與經(jīng)典審計沒有直接關(guān)聯(lián)， 但在技術(shù)方法上與經(jīng)典審計有相互借鑒之處， 而經(jīng)濟(jì)監(jiān)督觀試圖將算法審計作為經(jīng)典審計的成員， 但并未從學(xué)理上貫通審計邏輯。本文以經(jīng)典審計理論為基礎(chǔ)， 提出算法審計本質(zhì)的一個理論框架， 以深化人們對算法審計本質(zhì)的認(rèn)知， 并為建構(gòu)和優(yōu)化算法審計制度提供理論參考。

二、 文獻(xiàn)綜述

“審計”具有多種含義， 能夠表示多類事項(xiàng)的集合， 因此它是一個具有概括性的詞（umbrella term）， 也正是因此， 學(xué)者們對算法審計本質(zhì)存在不同的認(rèn)知， 主要有三種觀點(diǎn)， 本文分別稱之為技術(shù)審查觀、 影響評估觀和經(jīng)濟(jì)監(jiān)督觀。

（一） 技術(shù)審查觀

技術(shù)審查觀是從技術(shù)角度來認(rèn)知算法審計， 認(rèn)為算法審計是檢查算法系統(tǒng)與規(guī)范標(biāo)準(zhǔn)之間的差異（張濤，2024）。由于這些規(guī)范標(biāo)準(zhǔn)通常是政府或行業(yè)組織頒布的算法要求， 技術(shù)審查觀強(qiáng)調(diào)對算法是否符合這些規(guī)范標(biāo)準(zhǔn)進(jìn)行檢查， 從這個意義上來說， 算法審計也就是算法合規(guī)審計。上述對于算法審計本質(zhì)的認(rèn)知， 在不同文獻(xiàn)中有不同的表述方法。Raji等（2020）認(rèn)為， 算法審計是審查復(fù)雜流程的工具， 通常用于確定這些流程是否符合公司政策、 行業(yè)標(biāo)準(zhǔn)或法規(guī)。國際標(biāo)準(zhǔn)化組織制定的管理體系標(biāo)準(zhǔn)將“審計”（audit）界定為一種系統(tǒng)的、 獨(dú)立的、 有文件記錄的獲取證據(jù)并對證據(jù)進(jìn)行客觀評價的過程（Aragona，2021）。張旭（2022）認(rèn)為， 算法審計是由監(jiān)管部門、 第三方機(jī)構(gòu)或企業(yè)自身對算法的流程、 要素進(jìn)行合規(guī)性審查。張永忠和張寶山（2022）認(rèn)為， 算法審計是針對被審計單位的算法模型、 數(shù)據(jù)及有關(guān)技術(shù)活動的合規(guī)性、 風(fēng)險性進(jìn)行的審計。英國數(shù)字監(jiān)管合作論壇提出， 算法審計是審查算法處理系統(tǒng)（從簡單的統(tǒng)計模型到更先進(jìn)的機(jī)器學(xué)習(xí)）的一系列方法（DRCF，2022）。王兆毓（2023）認(rèn)為， 算法審計是對算法設(shè)計、 訓(xùn)練、 驗(yàn)證過程的合法性評估。Khoa Lam等（2023）認(rèn)為： 審計標(biāo)準(zhǔn)是一組可驗(yàn)證或可觀察的條件， 必須同時滿足這些條件， 算法系統(tǒng)才能被視為符合給定的標(biāo)準(zhǔn)或法律； 算法審計為審計對象遵守法律或其他標(biāo)準(zhǔn)提供保證， 有時也被稱為合規(guī)審計。

（二） 影響評估觀

影響評估觀認(rèn)為， 算法審計是指評估算法系統(tǒng)對個人、 組織及社會可能產(chǎn)生的負(fù)面影響（張濤，2024）， 對此不同的文獻(xiàn)有不同的表述方法。Sandvig等（2014）認(rèn)為， 算法審計是一種審查算法的種族、 階級、 性別歧視以及與社會規(guī)范交互關(guān)系的方法； 師文和陳昌鳳（2022）認(rèn)為， 算法審計是一種系統(tǒng)性審查算法結(jié)果偏向的方法， 常被用于檢測算法的階級、 種族、 性別歧視； 沈艷（2022）認(rèn)為， 算法審計指收集有關(guān)算法在特定應(yīng)用場景中使用時的表現(xiàn)數(shù)據(jù)， 然后使用這些數(shù)據(jù)來評估算法是否對人們的某些利益（或權(quán)利）產(chǎn)生了負(fù)面影響， 從而評估算法本身好壞的過程； 師文和陳昌鳳（2023）認(rèn)為， 算法審計是對算法的運(yùn)行邏輯進(jìn)行檢查， 常被用于測量黑箱算法中存在的系統(tǒng)性偏向； 徐明華和魏子瑤（2023）認(rèn)為， 算法審計是從倫理視角出發(fā)， 測試機(jī)器算法是否存在盲點(diǎn)或偏見的操作流程； Abeba Birhane等（2024）將人工智能審計定義為對這些人工智能系統(tǒng)的任何評估， 其獨(dú)立于人工智能開發(fā)過程， 以問責(zé)為目的而實(shí)施。

（三） 經(jīng)濟(jì)監(jiān)督觀

技術(shù)審查觀、 影響評估觀是現(xiàn)有文獻(xiàn)關(guān)于算法審計本質(zhì)的主流觀點(diǎn)， 也有個別文獻(xiàn)認(rèn)為， 算法審計是“審計機(jī)構(gòu)依據(jù)法律、 法規(guī)和政策規(guī)定， 對政府部門、 企事業(yè)單位等模型算法的管理運(yùn)用情況、 產(chǎn)生的影響、 存在的風(fēng)險等進(jìn)行的審計監(jiān)督”， 算法審計“更偏重于經(jīng)濟(jì)監(jiān)督以及模型算法帶來的風(fēng)險， 與行政監(jiān)督和司法監(jiān)督等監(jiān)督形式有所區(qū)別” （王玉鳳，2023）。算法審計是一種具體的審計類型， 其制度內(nèi)涵受到審計一般理論的影響（張濤，2024）。本文將算法審計本質(zhì)的這種認(rèn)知稱為經(jīng)濟(jì)監(jiān)督觀。

（四） 簡要評述

上述三類觀點(diǎn)中， 技術(shù)審查觀下的算法審計是站在政府角度對算法進(jìn)行的檢查， 目的是保障算法相對人的合法利益不受侵害， 遵守的基本原則是謙抑原則， 也就是最低程度干預(yù)， 只有在必不可少的情形下才干預(yù)。在這種觀點(diǎn)中， 算法審計的實(shí)質(zhì)是政府以法規(guī)為基礎(chǔ)的算法規(guī)制工具， 食品安全審計、 藥品安全審計、 航空安全審計等都是類似的技術(shù)性規(guī)制工具（Raji等，2020；Khoa Lam等，2023）。因此， 技術(shù)審查觀中的審計與經(jīng)典審計沒有直接關(guān)聯(lián)， 只是借用了“audit”的審核、 審查的含義， 但其在技術(shù)方法上與經(jīng)典審計有相互借鑒之處。

影響評估觀源于針對算法影響的社會科學(xué)研究， 主要是借鑒審計研究（audit studies）方法， 這里的“audit”與經(jīng)典意義上的審計有很大區(qū)別， 是在“審核、 審查”的意義上使用“audit”。“審計研究”（audit studies）就是審核、 審查性研究， 最早興起于20世紀(jì)60年代， 主要用于審查人員招聘、 房屋申請等不透明決策過程中潛在的種族偏見、 性別偏見等問題（Gaddis，2018；張超，2021；徐明華和魏子瑤，2023）。在算法審計方面， 最早是Sandvig等（2014）將這種審核、 審查性研究方法用于谷歌廣告推送算法的偏見檢測， 結(jié)果發(fā)現(xiàn)廣告推送算法的決策邏輯可能存在種族偏見。后來， 不少研究文獻(xiàn)將這種方法用于算法偏見檢測， 發(fā)現(xiàn)許多算法中存在偏向（Lambrecht和Tucker，2019）。因此， 嚴(yán)格意義上來說， 影響評估觀中的算法審計只是一種社會科學(xué)的研究方法， 與經(jīng)典意義上的審計并無直接關(guān)聯(lián)， 但其在技術(shù)方法上也與經(jīng)典審計有相互借鑒之處。

經(jīng)濟(jì)監(jiān)督觀將算法審計作為經(jīng)濟(jì)監(jiān)督的一種手段， 區(qū)別于針對算法的行政監(jiān)督和司法監(jiān)督等， 試圖將算法審計作為經(jīng)典審計的成員， 但是現(xiàn)有文獻(xiàn)的闡述中并未從學(xué)理上貫通審計邏輯。

三、 理論框架

本文的目的是以經(jīng)典審計理論為基礎(chǔ)， 提出算法審計本質(zhì)的一個理論框架， 為此需要按順序闡釋以下問題： 算法審計的內(nèi)涵、 算法審計的外延以及算法審計與相關(guān)概念的辨析。

（一） 算法審計的內(nèi)涵

在經(jīng)典審計理論看來， 算法審計也是審計， 因此必須以審計一般的本質(zhì)為基礎(chǔ)來認(rèn)知算法審計本質(zhì)。當(dāng)然， 學(xué)者們對審計一般的本質(zhì)有不同的觀點(diǎn)， 本文認(rèn)同的觀點(diǎn)是， “審計是以系統(tǒng)方法從行為、 信息和制度三個角度獨(dú)立鑒證經(jīng)管責(zé)任履行情況并將結(jié)果傳達(dá)給利益相關(guān)者的制度安排”（鄭石橋，2021）。據(jù)此， 本文提出算法審計的本質(zhì)： 算法審計是以系統(tǒng)方法對經(jīng)管責(zé)任履行中的算法進(jìn)行獨(dú)立檢查并將結(jié)果傳達(dá)給利益相關(guān)者的算法治理制度安排。這一表述有五個方面的核心內(nèi)涵： 算法審計是對經(jīng)管責(zé)任履行情況的審計； 算法審計從算法維度來開展對經(jīng)管責(zé)任履行情況的審計； 算法審計需要采用系統(tǒng)方法獨(dú)立地進(jìn)行檢查； 算法審計需要將審計結(jié)果傳遞給利益相關(guān)者； 算法審計是算法治理體系的組成部分。下文分別闡述這五個核心內(nèi)涵。

1. 算法審計是對經(jīng)管責(zé)任履行情況的審計。經(jīng)典審計理論認(rèn)為： 在資源類委托代理關(guān)系中， 代理人對委托人承擔(dān)了最大善意使用所接受的資源來履行所要求職責(zé)的責(zé)任（這種責(zé)任通常被稱為經(jīng)管責(zé)任或受托責(zé)任）， 但是由于信息不對稱、 合約不完備、 激勵不相容和環(huán)境不確定等因素， 代理人可能出現(xiàn)代理問題和次優(yōu)問題， 因此需要建立針對代理問題和次優(yōu)問題的治理機(jī)制， 而審計是治理機(jī)制的組成部分之一， 其主要的工作方式是基于審計固有功能， 以系統(tǒng)方法從特定的維度來檢查代理人的經(jīng)管責(zé)任履行情況。在廣泛使用人工智能的時代（由于算法是核心要素， 也可稱之為算法時代）， 上述基本態(tài)勢并未改變， 算法相關(guān)的委托代理關(guān)系基本情況如圖1所示。

圖1中基本的關(guān)系仍然是委托人和代理人的關(guān)系（關(guān)系1）， 其他關(guān)系都是在此基礎(chǔ)上產(chǎn)生的。在關(guān)系1中， 委托人提供資源給代理人， 并確定代理人使用這些資源需要履行的職責(zé)， 代理人對委托人承擔(dān)了經(jīng)管責(zé)任， 這種關(guān)系中同樣存在信息不對稱、 合約不完備、 激勵不相容和環(huán)境不確定等因素， 因此同樣需要審計來檢查代理人的經(jīng)管責(zé)任履行情況。但是， 在算法時代， 代理人在履行其經(jīng)管責(zé)任時廣泛使用了算法， 導(dǎo)致對代理人的經(jīng)管責(zé)任履行情況進(jìn)行檢查無法回避算法， 算法的狀況對代理人經(jīng)管責(zé)任履行情況有著重要影響。因此， 必須對算法本身進(jìn)行審計， 但是審計算法是服務(wù)于檢查代理人經(jīng)管責(zé)任履行情況的， 從終極意義來說， 即使是算法時代的算法審計， 也屬于經(jīng)管責(zé)任履行情況審計。

圖1中關(guān)系8是本級政府將算法監(jiān)管的職責(zé)交付特定的政府部門， 形成本級政府與算法監(jiān)管部門的委托代理關(guān)系。這種關(guān)系中存在信息不對稱、 合約不完備、 激勵不相容和環(huán)境不確定等因素， 其性質(zhì)是資源類委托代理關(guān)系， 其特殊之處在于， 這個政府部門的法定職責(zé)是算法監(jiān)管， 如果本級政府審計機(jī)關(guān)對算法監(jiān)管部門進(jìn)行審計， 其審計內(nèi)容同樣是該部門經(jīng)管責(zé)任履行情況， 只是經(jīng)管責(zé)任的內(nèi)容中包括算法監(jiān)管責(zé)任。

2. 算法審計從算法維度來開展對經(jīng)管責(zé)任履行情況的審計。根據(jù)經(jīng)典審計理論， 對經(jīng)管責(zé)任履行情況的審計可以從履行經(jīng)管責(zé)任的經(jīng)濟(jì)信息、 經(jīng)濟(jì)行為和經(jīng)濟(jì)制度三個角度展開， 也就是說， 經(jīng)濟(jì)責(zé)任履行情況可以落實(shí)到三類審計主題， 可以審計履行經(jīng)管責(zé)任的經(jīng)濟(jì)信息， 也可以審計履行經(jīng)管責(zé)任的經(jīng)濟(jì)行為， 還可以審計履行經(jīng)管責(zé)任的經(jīng)濟(jì)制度（鄭石橋和鄭卓如，2015）。圖1的關(guān)系1中代理人在經(jīng)管責(zé)任履行過程中采用的算法規(guī)定了代理人履行經(jīng)管責(zé)任時對有關(guān)事項(xiàng)的處理邏輯過程和方法， 因此屬于經(jīng)濟(jì)制度類審計主題。具體來說， 若代理人依據(jù)人工智能系統(tǒng)履行經(jīng)管責(zé)任， 審計代理人履行經(jīng)管責(zé)任的情況就無法回避對人工智能系統(tǒng)的審計， 而算法是人工智能系統(tǒng)的靈魂， 因此人工智能系統(tǒng)審計的核心內(nèi)容是算法審計。圖1的關(guān)系8中算法監(jiān)管是政府監(jiān)管部門的法定職責(zé)， 對該部門進(jìn)行審計時， 既可以審計其履行算法職責(zé)的相關(guān)法規(guī)制度， 也可以審計其算法監(jiān)管的相關(guān)行為， 還可以審計其算法監(jiān)管相關(guān)信息， 但是， 無論如何， 三者都是圍繞算法展開的。

3. 算法審計需要采用系統(tǒng)方法獨(dú)立地進(jìn)行檢查。算法審計是審計人員對代理人履行經(jīng)管責(zé)任中運(yùn)用的算法進(jìn)行檢查， 這種檢查具有兩個特點(diǎn)： 一是獨(dú)立性。審計人員不能是算法開發(fā)者、 算法營運(yùn)者， 也不能是算法使用者， 并且在經(jīng)濟(jì)上、 組織上、 人際關(guān)系上與算法開發(fā)者、 算法營運(yùn)者和算法使用者不存在會影響其不偏不倚的因素。若失去獨(dú)立性， 審計人員做出的算法審計結(jié)論就會失去價值。二是采用系統(tǒng)方法。算法審計要核實(shí)算法的真實(shí)情況， 在此基礎(chǔ)上， 將算法的真實(shí)情況與既定標(biāo)準(zhǔn)相比較， 確定二者的相符程度， 因此需要基于系統(tǒng)方法才能得出正確的審計結(jié)論， 這種系統(tǒng)方法主要體現(xiàn)在算法審計準(zhǔn)則中。由于算法審計準(zhǔn)則是最佳審計實(shí)務(wù)與審計邏輯相結(jié)合的產(chǎn)物， 算法審計采用的系統(tǒng)方法也就是當(dāng)下最科學(xué)的方法。

4. 算法審計需要將審計結(jié)果傳遞給利益相關(guān)者。根據(jù)經(jīng)典審計理論， 審計作為一種人類社會的制度創(chuàng)造， 其價值在于能夠促進(jìn)代理人更好地履行其承擔(dān)的經(jīng)管責(zé)任， 而實(shí)現(xiàn)這種價值的路徑是發(fā)現(xiàn)代理人履行經(jīng)管責(zé)任中的代理問題和次優(yōu)問題， 并推動這些審計結(jié)果得到應(yīng)用， 因此， 審計結(jié)果應(yīng)用是審計價值創(chuàng)造的關(guān)鍵環(huán)節(jié)之一（鄭石橋，2021）。算法審計也是如此， 其價值在于讓算法賦能代理人更好地履行經(jīng)管責(zé)任， 為此， 也需要尋找算法中存在的代理問題和次優(yōu)問題， 其審計結(jié)果就是所發(fā)現(xiàn)的算法中存在的各類代理問題和次優(yōu)問題。但是， 如果這些審計結(jié)果不能得到有效的運(yùn)用， 算法審計的價值就無從實(shí)現(xiàn)。因此， 審計人員必須通過一定的方式將算法審計結(jié)果傳遞給委托人、 代理人及其他利益相關(guān)者， 讓這些利益相關(guān)者在各自的決策中運(yùn)用審計結(jié)果， 從而使算法越來越完善， 進(jìn)而為代理人更好地履行其承擔(dān)的經(jīng)管責(zé)任奠定基礎(chǔ)。

5. 算法審計是算法治理體系的組成部分。算法能夠賦能代理人更好地履行其承擔(dān)的經(jīng)管責(zé)任， 但也可能出現(xiàn)一些負(fù)面的問題， 算法黑箱、 算法歧視、 算法霸權(quán)、 算法合謀、 信息繭房等都是可能出現(xiàn)的倫理性問題， 此外， 也有可能出現(xiàn)違反國家有關(guān)規(guī)定的合法性問題， 還有可能出現(xiàn)不能有效解決問題的效率效果性問題。這些問題的出現(xiàn)都會對代理人良好地履行其承擔(dān)的經(jīng)管責(zé)任產(chǎn)生負(fù)面影響， 因此， 委托人及代理人和政府監(jiān)管部門會推動建構(gòu)針對算法代理問題和次優(yōu)問題的治理體系， 這個體系通常被稱為算法治理體系。這一體系中的算法治理機(jī)制有多種， 算法審計以審計固有功能在算法治理中發(fā)揮作用， 成為算法治理體系的重要組成部分（付冉冉，2023；劉建業(yè)，2023；陳雄燊，2023）。既然如此， 算法審計就必須與其他算法治理機(jī)制相協(xié)調(diào)， 以算法治理體系為背景來建構(gòu)算法審計制度， 而不是特立獨(dú)行， 其既要與其他算法治理機(jī)制協(xié)同， 又要明確自己的獨(dú)特定位， 避免與其他算法治理機(jī)制重復(fù)。

上文闡述了算法審計本質(zhì)的核心內(nèi)涵， 由于這些核心內(nèi)涵貫通了經(jīng)典審計理論中的審計本質(zhì)理論， 本文將這種算法審計本質(zhì)觀點(diǎn)稱為經(jīng)典審計觀。那么， 這種觀點(diǎn)與現(xiàn)有文獻(xiàn)中的三種觀點(diǎn)是什么關(guān)系呢？

在技術(shù)審查觀中， 算法審計是政府以法規(guī)為基礎(chǔ)的算法規(guī)制工具， 主要檢查算法是否符合政府及行業(yè)組織頒布的算法法律法規(guī)， 與經(jīng)典審計沒有直接關(guān)聯(lián)， 但其在技術(shù)方法上也要求核實(shí)算法的真實(shí)情況， 在此基礎(chǔ)上判斷該算法與相關(guān)算法法律法規(guī)是否相符， 這種方法類似于算法審計中的系統(tǒng)方法。因此， 從方法論的角度來看， 技術(shù)審查觀與經(jīng)典審計觀具有一致性。但是， 技術(shù)審查觀并不強(qiáng)調(diào)其審核的算法一定是代理人履行其經(jīng)管責(zé)任中的算法， 只要影響公眾利益的算法， 政府有關(guān)部門都可以對其進(jìn)行監(jiān)管， 所以經(jīng)典審計觀認(rèn)知的算法審計是對算法的所有權(quán)監(jiān)督， 而技術(shù)審查觀認(rèn)知的算法審計是對算法的行政權(quán)監(jiān)督， 二者在監(jiān)督需求、 監(jiān)督主體、 監(jiān)督客體和監(jiān)督內(nèi)容方面存在差異（這些差異將在算法審計基本理論研究系列論文的其他相關(guān)文章中闡述， 這里不展開討論）。為了區(qū)分兩種不同性質(zhì)的算法監(jiān)督， 本文建議將基于技術(shù)審查觀的算法審計稱為算法合法性檢查。

在影響評估觀中， 算法審計就是對算法中各種偏向的檢測， 關(guān)注算法中存在的倫理性問題， 既不是所有權(quán)監(jiān)督， 也不是行政權(quán)監(jiān)督， 是一種社會科學(xué)的研究方法， 與經(jīng)典審計并無直接關(guān)聯(lián)。但是， 如果代理人履行其經(jīng)管責(zé)任的算法中存在倫理性問題， 對代理人良好地履行其經(jīng)管責(zé)任形成負(fù)面影響， 通常也會將這些內(nèi)容包括在經(jīng)典意義的算法審計中， 并且在方法上也借鑒社會科學(xué)的審核性研究方法。

經(jīng)濟(jì)監(jiān)督觀試圖將算法審計作為經(jīng)典審計的成員， 但是， 現(xiàn)有文獻(xiàn)的闡述中并未從學(xué)理上貫通審計邏輯。本文提出的算法審計本質(zhì)強(qiáng)調(diào)的是對代理人履行其經(jīng)管責(zé)任中所采用的算法進(jìn)行獨(dú)立檢查， 其實(shí)質(zhì)就是經(jīng)濟(jì)監(jiān)督觀， 但本文是根據(jù)經(jīng)典審計理論來解釋算法審計本質(zhì)的， 從學(xué)理上較為系統(tǒng)地闡釋了算法審計本質(zhì)， 所以稱為經(jīng)典審計觀。

總體來說， 技術(shù)審查觀、 影響評估觀、 經(jīng)濟(jì)監(jiān)督觀和經(jīng)典審計觀的關(guān)系如圖2所示。

圖2中， 方框A是技術(shù)審查觀， 一些不存在資源類委托代理關(guān)系但使用算法的情景仍然需要開展算法合法性檢查， 但其不屬于經(jīng)濟(jì)監(jiān)督觀/經(jīng)典審計觀的算法審計范圍（方框B）， 因此方框A大于方框B。但是， 經(jīng)典審計觀的要求高于技術(shù)審查觀， 因此方框B也可能在方框A之外。方框C是影響評估觀的算法審計范圍， 它與經(jīng)濟(jì)監(jiān)督觀/經(jīng)典審計觀的算法審計范圍有交叉， 對于一些不存在資源類委托代理關(guān)系但使用算法的情景也可能開展倫理性審查， 此時就可能超出了經(jīng)濟(jì)監(jiān)督觀/經(jīng)典審計觀的算法審計范圍。

（二） 算法審計的外延

下文對算法審計的外延進(jìn)行分析， 以深化對算法審計本質(zhì)的認(rèn)知。

首先， 算法審計可以分為基于規(guī)則的算法審計和基于機(jī)器學(xué)習(xí)的算法審計。算法是解決問題的一系列步驟或規(guī)則， 它可以被計算機(jī)執(zhí)行以達(dá)到預(yù)期的結(jié)果， 在人工智能中， 算法扮演著核心角色（丁曉東，2020）。但是， 算法有不同的類型， 其復(fù)雜性存在較大的差異。基于規(guī)則的算法是按軟件程序中設(shè)定的規(guī)則來完成任務(wù)， 并且永遠(yuǎn)保持不變， 而基于機(jī)器學(xué)習(xí)的算法側(cè)重于模擬和模仿人類的認(rèn)知過程（Lambauer，2021；Aragona，2021；Beckstrom，2022）。正是因?yàn)檫@兩類算法的上述差異， 針對它們的審計內(nèi)容及方法也存在差異， 進(jìn)而形成兩個相對獨(dú)立的算法審計領(lǐng)域。

其次， 從審計主體來說， 政府審計機(jī)關(guān)、 內(nèi)部審計機(jī)構(gòu)和中介機(jī)構(gòu)都可以開展基于規(guī)則的算法審計和基于機(jī)器學(xué)習(xí)的算法審計， 其基本狀況如表1所示。不同審計主體的審計范圍各有不同， 政府審計機(jī)關(guān)主要對公共資源委托代理關(guān)系中的代理人履行其經(jīng)管責(zé)任中的算法進(jìn)行審計， 內(nèi)部審計機(jī)構(gòu)主要對內(nèi)部資源委托代理關(guān)系中的代理人履行其經(jīng)管責(zé)任中的算法進(jìn)行審計， 而中介機(jī)構(gòu)則是接受委托， 對特定的資源類委托代理關(guān)系中的代理人履行其經(jīng)管責(zé)任中的算法進(jìn)行審計。

最后， 人工智能系統(tǒng)有自己的生命周期， 通常來說， 人工智能系統(tǒng)的生命周期包括模型開發(fā)、 模型訓(xùn)練、 模型部署和模型評估， 這些階段都需要對人工智能中的算法進(jìn)行審計。

（三） 算法審計與相關(guān)概念的辨析

為了進(jìn)一步深化對算法審計本質(zhì)的認(rèn)知， 下文辨析了人工智能系統(tǒng)審計、 智能審計與算法審計的關(guān)系。

人工智能系統(tǒng)是指利用計算機(jī)和機(jī)器來模仿、 延伸和擴(kuò)展人的智能， 以實(shí)現(xiàn)自動化、 自適應(yīng)、 自學(xué)習(xí)等能力的技術(shù)或系統(tǒng)， 從某種意義上來說， 人工智能系統(tǒng)是高級的信息系統(tǒng)。資源類委托代理關(guān)系中的代理人在履行其經(jīng)管責(zé)任時如果使用了人工智能系統(tǒng)， 則這個系統(tǒng)會決定其責(zé)任履行情況， 因此也需要對這個人工智能系統(tǒng)進(jìn)行審計。這一項(xiàng)審計側(cè)重于評估人工智能系統(tǒng)本身， 以確保它們按預(yù)期工作， 沒有偏見或歧視， 并符合道德和法律標(biāo)準(zhǔn)（葛典怡，2023）。算法是人工智能系統(tǒng)的靈魂， 算法審計是人工智能系統(tǒng)審計的核心內(nèi)容， 由于算法不同于人工智能系統(tǒng)中的其他要素， 算法審計成為相對獨(dú)立的模塊， 需要形成自己的審計理論與方法， 也就是算法審計理論與方法。

智能審計不是對智能的審計， 而是一種利用人工智能技術(shù)， 結(jié)合機(jī)器學(xué)習(xí)和自然語言處理等技術(shù)， 為審計取證提供支持的新型審計技術(shù)， 它能夠有效識別潛在的審計風(fēng)險、 及時發(fā)現(xiàn)異常狀況， 并提供相應(yīng)的解決方案。智能審計發(fā)展到一定水平就可以稱為智慧審計。很顯然， 智能審計強(qiáng)調(diào)的是審計本身的智能化， 并不是對智能系統(tǒng)的審計， 也不一定涉及所審計財務(wù)及業(yè)務(wù)活動中的算法。當(dāng)然， 智能審計本身需要有算法， 這是在實(shí)施審計的過程中所使用的算法， 并不是對算法是否存在缺陷的審計。

四、 結(jié)論

算法在提高工作效率效果， 并為人們生活帶來極大便利的同時， 也帶來了一系列的問題， 為此， 需要建構(gòu)算法治理體系， 而算法審計是其重要組成部分。要科學(xué)地建構(gòu)算法審計制度， 就必須正確地認(rèn)知算法審計的各個基礎(chǔ)性問題。本文聚焦算法審計本質(zhì)， 以經(jīng)典審計理論為基礎(chǔ)， 提出算法審計本質(zhì)的一個理論框架。

從內(nèi)涵來說， 算法審計是以系統(tǒng)方法對經(jīng)管責(zé)任履行中的算法進(jìn)行獨(dú)立檢查并將結(jié)果傳達(dá)給利益相關(guān)者的算法治理制度安排， 有五個方面的核心內(nèi)涵： 算法審計是對經(jīng)管責(zé)任履行情況的審計； 算法審計從算法維度來開展對經(jīng)管責(zé)任履行情況的審計； 算法審計需要采用系統(tǒng)方法獨(dú)立地進(jìn)行檢查； 算法審計需要將審計結(jié)果傳遞給利益相關(guān)者； 算法審計是算法治理體系的組成部分。從外延來說， 算法有多種分類方法。根據(jù)所審計的算法不同， 算法審計分為基于規(guī)則的算法審計和基于機(jī)器學(xué)習(xí)的算法審計； 政府審計機(jī)關(guān)、 內(nèi)部審計機(jī)構(gòu)和中介機(jī)構(gòu)都可以開展基于規(guī)則的算法審計和基于機(jī)器學(xué)習(xí)的算法審計； 人工智能系統(tǒng)有自己的生命周期， 在其生命周期的各個階段都有可能開展算法審計。從相關(guān)概念的關(guān)系來說， 算法審計是人工智能系統(tǒng)審計的組成部分， 不同于智能審計。

【 主 要 參 考 文 獻(xiàn) 】

陳雄燊．人工智能倫理風(fēng)險及其治理——基于算法審計制度的路徑［ J］．自然辯證法研究，2023（10）：138 ～ 141．

丁曉東．論算法的法律規(guī)制［ J］．中國社會科學(xué)，2020（12）：138 ～ 159．

付冉冉．大數(shù)據(jù)時代算法審計構(gòu)想［ J］．網(wǎng)絡(luò)安全與數(shù)據(jù)治理，2023（2）：48 ～ 52．

葛典怡．人工智能審計的研究熱點(diǎn)與發(fā)展趨勢——基于CiteSpace的知識圖譜分析［ J］．運(yùn)籌與模糊學(xué)，2023（6）：6112 ～ 6118．

劉建業(yè)．論我國算法審計的法治化建構(gòu)［ J］．河南財經(jīng)政法大學(xué)學(xué)報，2023（3）：14 ～ 23．

師文，陳昌鳳．國內(nèi)主流搜索引擎的算法審計研究［ J］．新聞大學(xué)，2022（10）：84 ～ 100+122 ～ 123．

師文，陳昌鳳．平臺算法的“主流化”偏向與“個性化”特質(zhì)研究——基于計算實(shí)驗(yàn)的算法審計［ J］．新聞記者，2023（11）：3 ～ 14．

湯志偉，方錄，韓嘯等．基于委托代理視角的算法治理問題研究［ J］．情報雜志，2023（7）：170 ～ 177．

王玉鳳．模型算法審計：理論內(nèi)涵、國際經(jīng)驗(yàn)與審計框架［ J］．審計研究，2023（3）：11 ～ 18．

王兆毓．生成式人工智能視閾下算法審計的制度構(gòu)建與路徑創(chuàng)新［ J］．網(wǎng)絡(luò)安全與數(shù)據(jù)治理，2023（8）：6 ～ 12．

徐明華，魏子瑤．算法倫理的治理新范式：算法審計的興起、發(fā)展與未來［ J］．當(dāng)代傳播，2023（1）：80 ～ 86．

張超．資訊類推薦算法的算法審計路徑、倫理與可審計機(jī)制［ J］．中國出版，2021（7）：31 ～ 35．

張濤．通過算法審計規(guī)制自動化決策［ J］．中外法學(xué)，2024（1）：261 ～ 279．

張旭．基于人權(quán)標(biāo)準(zhǔn)的算法治理新思路：企業(yè)算法合規(guī)義務(wù)［ J］．人權(quán)研究，2022（2）：88 ～ 104．

張永忠，張寶山．算法規(guī)制的路徑創(chuàng)新：論我國算法審計制度的構(gòu)建［ J］．電子政務(wù)，2022（10）：48 ～ 61．

鄭石橋．審計基礎(chǔ)理論［M］．北京：中國人民大學(xué)出版社，2021．

鄭石橋，鄭卓如．基于審計主題的審計學(xué)科體系創(chuàng)新研究［ J］．會計研究，2015（9）：81 ～ 87．

Abeba Birhane， Ryan Steed， Victor Ojewale， et al.. AI auditing：The broken bus on the road to AI accountability［EB/OL］． https：//arxiv.org/pdf/2401. 14462.pdf，2024-01-25．

Aragona B.. Algorithm audit： Why， what， and how？［EB/OL］． https：/doi.org/10.4324/9781003080381，2021-08-02．

Beckstrom J. R.. Auditing machine learning algorithms：A white paper for public auditors［EB/OL］． http：//intosaijournal.org/auditing-machine-learning-algorithms/，2022-06-20．

DRCF. Auditing algorithms： The existing role of regulators and future outlook［EB/OL］． https//www.gov.uk/government/publications/findings-from-the-drcf-algorithmic-processing-workstream-spring-2022，2022-09-23．

Gaddis S.. Audit studies：Behind the scenes with theory，method，and nuance［M］． Los Angeles：Springer，2018．

Khoa Lam， Benjamin Lange， Borhane B. H.， et al.. A framework for assurance audits of algorithmic systems［EB/OL］． https：//arxiv.org/pdf/2401.14908.pdf，2023-01-26．

Lambauer D.. How to audit artificial intelligence models［EB/OL］． https：//www.nao.org.uk/insights/how-to-audit-artificial-intelligence-models/，2021-06-01．

Lambrecht A.， Tucker C.. Algorithmic bias？ An empirical study of apparent gender-based discrimination in the display of STEM career ads［ J］． Management Science，2019（7）：2966 ～ 2981．

Raji I. D.， Smart A.， White R. N.， et al.. Closing the AI accountability gap： Defining an end-to-end framework for internal algorithmic auditing［EB/OL］． https：//arxiv.org/abs/2001.00973，2020-01-03．

Sandvig C.， Hamilton K.， Karahalios K.， et al.. Auditing algorithms： Research methods for detecting discrimination on internet platforms［A］． The International Communication Assciation，2014．