算法應(yīng)用爭議及其治理路徑研究

秦文艷 趙澤旭

摘要：隨著智能時(shí)代的逐漸到來，算法技術(shù)幾乎開始浸潤到互聯(lián)網(wǎng)場景的每一個(gè)角落，與此同時(shí)，算法的全面性、系統(tǒng)性規(guī)制卻一直是世界數(shù)字制度建設(shè)的空白。目前，我國已在算法治理領(lǐng)域建立了初步的立法體系，但對(duì)于算法在新應(yīng)用領(lǐng)域出現(xiàn)的爭議事件，尚且需要在理論和實(shí)踐中展開進(jìn)一步探索。“首例算法風(fēng)控系統(tǒng)侵權(quán)案”中法院指出涉案平臺(tái)在提供算法服務(wù)的同時(shí)履行了與之相匹配的注意義務(wù)，在算法應(yīng)用侵權(quán)責(zé)任認(rèn)定上具有一定指導(dǎo)意義。其中涉及的媒體、平臺(tái)、相關(guān)部門等多類行為主體也展現(xiàn)出算法協(xié)同治理的大趨勢。本文嘗試從媒體、平臺(tái)、法治等多個(gè)角度對(duì)算法治理路徑展開分析，為實(shí)現(xiàn)算法多元共治提供有效實(shí)踐經(jīng)驗(yàn)。

關(guān)鍵詞：算法；框架理論；風(fēng)控系統(tǒng)；注意義務(wù)

一、案例引入

隨著智能時(shí)代悄然到來，算法技術(shù)幾乎開始浸潤到互聯(lián)網(wǎng)場景的每一個(gè)角落，逐漸發(fā)揮出驚人的作用。但在算法在各領(lǐng)域得到廣泛應(yīng)用的過程中，諸如“算法黑箱”“注意義務(wù)”“過錯(cuò)認(rèn)定” 等一系列問題同樣引人深思。截至目前，我國已初步建立起算法治理的立法體系。頂層設(shè)計(jì)上，《“十四五” 數(shù)字經(jīng)濟(jì)發(fā)展規(guī)劃》指出加快構(gòu)建算力、算法、數(shù)據(jù)、應(yīng)用資源協(xié)同的全國一體化大數(shù)據(jù)中心體系。各類具體的算法活動(dòng)也有相應(yīng)的規(guī)范，如算法在風(fēng)控領(lǐng)域的應(yīng)用：《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第九條中明確算法推薦服務(wù)提供者需按照網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理有關(guān)規(guī)定對(duì)不良信息乃至違法信息做出有效處置。但對(duì)于平臺(tái)算法應(yīng)用等行為的注意義務(wù)以及平臺(tái)參與社會(huì)治理的合理邊界等，相關(guān)政策與法律法規(guī)尚未有明確的適用標(biāo)準(zhǔn)和規(guī)范，還需在實(shí)踐中進(jìn)一步展開探索。

2022年8月29日，北京互聯(lián)網(wǎng)法院就李某訴某公司網(wǎng)絡(luò)侵權(quán)責(zé)任糾紛案作出一審判決。此案主要圍繞被告運(yùn)營的某征婚交友平臺(tái)展開，爭議焦點(diǎn)在于該平臺(tái)所采取的涉案算法風(fēng)控行為是否存在主觀過錯(cuò)。審理中法院基于被告算法風(fēng)控行為的相關(guān)法律依據(jù)并參考其算法邏輯機(jī)理、技術(shù)水平等情況認(rèn)定被告設(shè)置“預(yù)防性風(fēng)控系統(tǒng)” 算法應(yīng)用的同時(shí)盡到了與之相匹配的注意義務(wù)，其系統(tǒng)誤判系技術(shù)水平所限而非主觀過錯(cuò)。本案為全國首例涉及算法風(fēng)控系統(tǒng)引發(fā)人格權(quán)侵權(quán)糾紛的案件，具有廣泛社會(huì)影響力和關(guān)注度。學(xué)界肯定了“首例算法風(fēng)控系統(tǒng)侵權(quán)案” 在算法應(yīng)用于“風(fēng)險(xiǎn)控制” 領(lǐng)域引發(fā)的侵權(quán)責(zé)任認(rèn)定上的指導(dǎo)意義，認(rèn)為其在算法風(fēng)控方面明確了合理的注意義務(wù)標(biāo)準(zhǔn)以及具體認(rèn)定因素，是平臺(tái)治理領(lǐng)域的典范。另外，媒體、平臺(tái)以及相關(guān)部門等多類主體在此次案件中的參與無疑也為算法治理路徑提供了新思路。筆者認(rèn)為可以嘗試從媒體、平臺(tái)、法治等多個(gè)角度入手，在理論和實(shí)踐的探索中逐步建立起算法協(xié)同治理的良好秩序。

二、理論梳理與文獻(xiàn)回顧

（一）新應(yīng)用領(lǐng)域下的算法爭議

相對(duì)于以往對(duì)表層信息流轉(zhuǎn)的控制，新應(yīng)用領(lǐng)域中的算法爭議進(jìn)一步地深入到對(duì)公眾社會(huì)生活的規(guī)訓(xùn)。對(duì)于算法爭議，傳統(tǒng)研究多圍繞算法技術(shù)舊有應(yīng)用中存在的一些問題展開，如算法推薦、信息繭房等。具體到新聞傳播領(lǐng)域，相關(guān)研究大多集中于算法新聞倫理、算法新聞推薦等方面；對(duì)于算法在新興應(yīng)用領(lǐng)域所引發(fā)的相關(guān)爭議如算法風(fēng)控運(yùn)用誤傷用戶權(quán)益等，還大多停留在對(duì)算法內(nèi)在局限與社會(huì)影響的分析上。另外，對(duì)于算法爭議背后的實(shí)質(zhì)核心，不同學(xué)者給出了不同見解：包括算法權(quán)力擴(kuò)張導(dǎo)致媒介倫理困境；[1]傳播權(quán)力再分配；[2]對(duì)工具理性的推崇、信息體驗(yàn)的追逐以及算法技術(shù)本身不完善[3]等。

（二）框架選擇與把關(guān)差異

1974年戈夫曼（Goffman）在《框架分析》中首次將框架（Farming）這個(gè)概念引入文化社會(huì)學(xué)的范疇，將其定義為“一種認(rèn)知、呈現(xiàn)事物、反映思想的架構(gòu)”。1980年托德·吉特林（T·Gitlin）在《新左派運(yùn)動(dòng)的媒介鏡像》中將框架解釋為選擇、強(qiáng)調(diào)和排除。傳入我國后，框架理論多被用來對(duì)媒體報(bào)道內(nèi)容進(jìn)行質(zhì)化和量化分析，借以闡述媒體報(bào)道所傳播和呈現(xiàn)的意義。其中有部分研究關(guān)注到了媒體報(bào)道框架之間存在的差異對(duì)公眾乃至相關(guān)公共政策的影響。[4]

媒體的報(bào)道框架多體現(xiàn)在新聞報(bào)道的標(biāo)題、導(dǎo)語、引文、重要段落的組織和事實(shí)提供的先后順序上，從而為受眾提供不同的視角、思路和評(píng)判標(biāo)準(zhǔn)。甘姆森（Gamson）等人認(rèn)為，媒體框架（mediaframe）意味著媒體對(duì)人和事物的意義范圍的限制，是人們用以解釋社會(huì)現(xiàn)象的一套內(nèi)在結(jié)構(gòu)。媒體對(duì)社會(huì)事件在報(bào)道上的取舍，易受到個(gè)體、行業(yè)規(guī)范、組織、其他社會(huì)組織、社會(huì)意識(shí)形態(tài)等因素的影響，最終的把關(guān)結(jié)果將直接體現(xiàn)在報(bào)道框架上的差異。

（三）算法協(xié)同治理

算法在新興應(yīng)用領(lǐng)域中的諸多爭議更多還是技術(shù)與社會(huì)、政治關(guān)系之間的問題，而技術(shù)與人文的調(diào)和必然要涉及多種行為主體，算法的協(xié)同治理已是大勢所趨。對(duì)此，越來越多學(xué)者意識(shí)到算法廣泛應(yīng)用背后的系列問題并基于不同角度給出治理路徑。袁映雪、陳虹認(rèn)為可以通過技術(shù)路徑和傳播機(jī)制的雙重約束，形成多元把關(guān)防范和信息互動(dòng)相輔的算法協(xié)同治理趨勢；[5]曾白凌認(rèn)為平臺(tái)責(zé)任在技術(shù)“切近性” 到來與面對(duì)“信息繭房” 時(shí)顯得更為迫切與必要；[6]彭桂兵、丁奕雯指出可從法治層面系統(tǒng)性明確平臺(tái)的法律責(zé)任界限。[7]綜上所述，當(dāng)前就算法多角度協(xié)同治理展開研究，已具備一定社會(huì)背景與理論基礎(chǔ)。

三、案例分析及其治理路徑

（一）媒體報(bào)道

1.框架分析

本文以“算法” 等為關(guān)鍵詞對(duì)各類媒體報(bào)道進(jìn)行全文搜索，獲得樣本70篇，多集中于2022年11月到12月，剔除關(guān)聯(lián)度相對(duì)較低的文本29篇，有效樣本共計(jì)41篇。本文對(duì)這41篇文本進(jìn)行框架分析，報(bào)道框架涉及三個(gè)方面：發(fā)布來源、新聞文體以及文本的價(jià)值取向。

其中黨政媒體關(guān)于此案的報(bào)道共5篇。作為權(quán)威話語主體，黨政媒體重點(diǎn)從宏觀角度切入，通過對(duì)案件意義、政策、相關(guān)法律法規(guī)的解讀以及進(jìn)一步的指導(dǎo)性建議傳達(dá)對(duì)民眾算法相關(guān)合理權(quán)益的重視與關(guān)注，充分體現(xiàn)了其表達(dá)國家立場、引導(dǎo)主流價(jià)值的官方發(fā)言者身份。

政務(wù)媒體關(guān)于此案的報(bào)道共25篇。關(guān)注于我國相關(guān)法律制定和案件審理的具體過程以及結(jié)果，以事實(shí)情況為主要報(bào)道點(diǎn)。其文本內(nèi)容與黨政媒體有一定的重復(fù)內(nèi)容。相似度較高的部分主要集中于兩方面：一是在報(bào)道內(nèi)容中中性詞匯的大量使用；二是對(duì)與此案相關(guān)的法律政策和案件審理結(jié)果的著重解讀，以此響應(yīng)黨政媒體的權(quán)威性解讀，達(dá)到傳播效應(yīng)上的擴(kuò)散。與黨政媒體不同的是政務(wù)媒體增加了法官乃至相關(guān)行業(yè)專家的針對(duì)性分析，在事實(shí)情況外又增添了新的解讀視角；此外作為政務(wù)媒體，其文本內(nèi)容在體量上要更為簡短精練，主題表達(dá)上也更直接集中。

市場化媒體關(guān)于此案的報(bào)道共7篇。注重從多個(gè)角度解讀案例內(nèi)容和審理過程，并增加了對(duì)案件公正處理以及其意義的評(píng)論，如對(duì)后續(xù)類似案例的樣本價(jià)值等。

專業(yè)媒體關(guān)于此案的報(bào)道共1篇。主要從算法技術(shù)、規(guī)則和法律專業(yè)的角度深度分析案件審理方向，總結(jié)算法治理的相關(guān)策略。

自媒體發(fā)布的有關(guān)文本共3篇。聚焦點(diǎn)更細(xì)化，表達(dá)形式更多元（包括短視頻的使用），主要通過兩個(gè)方面來表達(dá)觀點(diǎn)：一是進(jìn)行信息陳述，對(duì)官方傳達(dá)的案件信息進(jìn)行復(fù)述轉(zhuǎn)發(fā)，引導(dǎo)公眾關(guān)注轉(zhuǎn)向上述媒體的具體報(bào)道；二是通過提問的形式，對(duì)生活中“算法烏龍”“算法誤傷” 的具體現(xiàn)象展開討論，以期引發(fā)公眾對(duì)算法應(yīng)用及其爭議現(xiàn)象的新一輪熱議。

2.問題所在

對(duì)于算法在新興領(lǐng)域的應(yīng)用乃至因此產(chǎn)生的新型算法爭議，媒體的關(guān)注度有所欠缺。在僅有的一些相關(guān)報(bào)道中也存在著報(bào)道內(nèi)容同質(zhì)化的現(xiàn)象，即使在市場化媒體這一類中也缺乏對(duì)于事件本身的觀點(diǎn)輸出，整體比較保守。對(duì)此，媒體應(yīng)更有的放矢地進(jìn)行主流價(jià)值的認(rèn)知引導(dǎo)，提高社會(huì)整體的算法認(rèn)知維度，積極參與到算法協(xié)同治理的過程中來。

（二）平臺(tái)

1.自治前提

平臺(tái)對(duì)算法的應(yīng)用過程具有披露義務(wù)。一方面是“算法黑箱” 的問題。算法應(yīng)用過程本身就存在技術(shù)隱蔽性，其運(yùn)行決策原理大多隱藏在數(shù)據(jù)模式的迭代演變與復(fù)雜代碼之中，而算法設(shè)計(jì)規(guī)則、主體利益和意志導(dǎo)向偏差、使用者隱私權(quán)和社會(huì)公共利益保護(hù)也使得算法在主觀和客觀上必然會(huì)有一定的不透明性。另一方面對(duì)算法應(yīng)用侵權(quán)責(zé)任認(rèn)定的重要因素就是判斷涉案平臺(tái)是否有盡到與涉案算法風(fēng)險(xiǎn)相匹配的注意義務(wù)，其依據(jù)之一就是涉案算法運(yùn)行的機(jī)制機(jī)理。本案中，涉案平臺(tái)積極履行披露義務(wù)，針對(duì)其算法運(yùn)用的具體機(jī)理予以充分說明，證實(shí)涉案侵權(quán)行為系算法技術(shù)不足所致。但需要注意的是此目的并不在于消除算法本身的不透明性，更多是借此來規(guī)范平臺(tái)的主體行為，使平臺(tái)的不透明性合理合法合規(guī)。

平臺(tái)需要提高自我監(jiān)督的責(zé)任意識(shí)。算法治理的本質(zhì)在于信息的合理利用，這一點(diǎn)離不開平臺(tái)的自我監(jiān)督與責(zé)任意識(shí)。基于平臺(tái)的多重屬性以及其參與社會(huì)治理過程中國家的行政賦權(quán)，平臺(tái)行為混雜著公權(quán)和私權(quán)的錯(cuò)位與模糊。對(duì)此，平臺(tái)需要提高自我監(jiān)督的責(zé)任意識(shí)，保障運(yùn)營過程的合理合法。而自身行為目的和主觀意圖、行為手段和性質(zhì)以及身份特點(diǎn)所附注意義務(wù)正是其自我監(jiān)督所需要關(guān)注的重點(diǎn)。

2.自治手段

在本文案例中平臺(tái)盡到了與涉案算法行為相匹配的注意義務(wù)，但平臺(tái)自治還要求平臺(tái)及其背后的相關(guān)企業(yè)以謹(jǐn)慎、專業(yè)的態(tài)度正確審視算法應(yīng)用，注重技術(shù)可靠性和可控性，在算法開發(fā)和設(shè)計(jì)過程中通過多種手段充分保證算法決策的規(guī)范性和有效性；建立算法中的驗(yàn)證糾錯(cuò)機(jī)制，不斷完善和優(yōu)化算法設(shè)計(jì)；及時(shí)采取預(yù)防侵權(quán)的合理措施，在糾紛發(fā)生后更要及時(shí)處理，對(duì)受到權(quán)益損害的個(gè)體予以相應(yīng)補(bǔ)償。

（三）法治：算法多元共治的基礎(chǔ)

1.規(guī)制前提

雖然我國已經(jīng)在算法治理領(lǐng)域建立了初步的立法體系，但對(duì)于平臺(tái)算法應(yīng)用等行為的注意義務(wù)以及平臺(tái)參與社會(huì)治理的合理邊界等具體方面，相關(guān)政策與法律法規(guī)尚未完善。對(duì)此，本文案例就上述內(nèi)容做出了一定探索。一是明確標(biāo)準(zhǔn)：包括算法在不同應(yīng)用情境下的合理注意義務(wù)標(biāo)準(zhǔn)及具體認(rèn)定因素；二是平衡利益：本案中的要點(diǎn)之一在于用戶權(quán)益的充分保護(hù)與網(wǎng)絡(luò)平臺(tái)依據(jù)法律要求履行打擊電信詐騙等治理義務(wù)的行為之間的矛盾，法院從兩者平衡角度出發(fā)做出判決，在保障平臺(tái)可以繼續(xù)采取有效措施防范電信詐騙風(fēng)險(xiǎn)的同時(shí)又補(bǔ)充了被算法“誤傷” 后的救濟(jì)途徑，對(duì)于構(gòu)建共治共享的算法安全秩序具有借鑒價(jià)值。

2.法治保障

一方面由于算法的不可預(yù)判性，即便當(dāng)下算法規(guī)則審查合理，但隨著算法本身外延式的延伸，算法結(jié)果依舊不可確定；另一方面算法應(yīng)用將平臺(tái)多重屬性的對(duì)立進(jìn)一步放大，其公權(quán)與私權(quán)之間的矛盾與沖突不可避免。因此，在平臺(tái)自我監(jiān)督的同時(shí)也需要法律角度的調(diào)節(jié)與規(guī)范：在立法上明確平臺(tái)責(zé)任，規(guī)范其參與社會(huì)治理的過程；強(qiáng)化對(duì)平臺(tái)問責(zé)權(quán)力的獨(dú)立性，嘗試由有關(guān)部門聯(lián)合相關(guān)領(lǐng)域?qū)＜乙约暗谌叫袠I(yè)代表共同對(duì)平臺(tái)算法應(yīng)用情況展開定期審核評(píng)估；從法律層面保障算法技術(shù)的積極發(fā)展與運(yùn)用，鼓勵(lì)其正向價(jià)值傳播，讓網(wǎng)絡(luò)發(fā)展成果惠及廣大人民群眾。

四、結(jié)束語

“首例算法風(fēng)控系統(tǒng)侵權(quán)案” 深入分析了算法應(yīng)用于“風(fēng)險(xiǎn)控制” 領(lǐng)域構(gòu)成侵權(quán)的責(zé)任認(rèn)定因素以及注意義務(wù)標(biāo)準(zhǔn)，也展現(xiàn)出算法協(xié)同治理的大趨勢。應(yīng)當(dāng)看到，雖然我國已經(jīng)在算法治理領(lǐng)域建立了初步的法律體系，但對(duì)于算法在新應(yīng)用領(lǐng)域出現(xiàn)的各類糾紛，尚且需要展開進(jìn)一步探索補(bǔ)充。對(duì)此，媒體應(yīng)增加對(duì)新興領(lǐng)域算法應(yīng)用的關(guān)注，做好主流價(jià)值的認(rèn)知引導(dǎo)，提高社會(huì)整體的算法認(rèn)知維度；平臺(tái)應(yīng)重視自身義務(wù)，不斷發(fā)展技術(shù)減少誤差、做好自我糾偏和侵權(quán)預(yù)防；在法治層面明確適用標(biāo)準(zhǔn)，對(duì)平臺(tái)算法應(yīng)用做出規(guī)制與監(jiān)督的同時(shí)平衡好各行為主體的利益。通過多途徑、多角度的算法協(xié)同治理，實(shí)現(xiàn)算法技術(shù)正向發(fā)展與應(yīng)用。

參考文獻(xiàn)：

[1] 吳飛，李含含.算法權(quán)力的獲得、運(yùn)行隱患與規(guī)制[J].未來傳播，2021，28（5）：2-9+128.

[2] 尤紅.媒體融合智能化演進(jìn)中的算法權(quán)力與風(fēng)險(xiǎn)防范[J].南京社會(huì)科學(xué)，2019（7）：120-125+134.

[3] 尹凱民，梁懿.算法新聞的倫理爭議及審視[J].現(xiàn)代傳播（中國傳媒大學(xué)學(xué)報(bào)），2021，43（9）：64.

[4] 常健，郝雅立.新聞議題框架對(duì)公共沖突治理的作用機(jī)制及其管理[J].國家行政學(xué)院學(xué)報(bào)，2018，115（04）：63-68+149.

[5] 袁映雪，陳虹.把關(guān)人視角下的算法技術(shù)認(rèn)知與治理出路研究[J].新媒體與社會(huì)，2022（01）：220–233.

[6] 曾白凌.媒介權(quán)力：論平臺(tái)在算法中的媒體責(zé)任[J].現(xiàn)代傳播（中國傳媒大學(xué)學(xué)報(bào)），2021，43（10）：31–38.

[7] 彭桂兵，丁奕雯.智能傳播中短視頻平臺(tái)版權(quán)爭議及其治理路徑：兼評(píng)“首例算法推薦案”[J].新聞?dòng)浾撸?022（9）：86–96.