智能情報分析算法風險治理可持續策略建模與仿真

孫欽瑩 汪穎 姜磊 王輝 張濤

摘? ?要：近年來，隨著智能算法的不斷興起，將智能情報分析應用于情報決策與服務逐漸成為趨勢，與此同時如果在情報工作中智能算法出現安全風險將會嚴重影響社會穩定乃至國家安全，因此針對其系統化、可持續的治理是防范與化解智能情報分析算法風險的主要手段，具有重要的現實意義。文章通過區塊鏈技術構建“聯盟鏈+私有鏈”的雙鏈治理模式，并從“開發者-第三方-監管者”三方動態博弈的角度對智能情報分析算法風險治理可持續性進行建模與仿真。研究發現：提升開發者研發質量是智能情報分析算法風險治理的根源、弱化第三方角色逐漸加強其對開發者的威懾作用、監管者建立合理的激勵規則能使治理達到最優策略。旨在尋求最佳的算法風險治理策略，進而達到治理成本與收益最大化的目標。

關鍵詞：區塊鏈；智能情報分析；算法風險；算法治理；動態博弈

中圖分類號：G353? ?文獻標識碼：Ａ? ?DOI：10.11968/tsyqb.1003-6938.2023007

Abstract In recent years， with the continuous rise of intelligent algorithms， the application of intelligent intelligence analysis to intelligence decision-making and services has gradually become a trend. At the same time， if there are security risks in intelligent algorithms in intelligence work， it will seriously affect social stability and even national security. Therefore， systematic and sustainable governance is the main means to prevent and resolve the risks of intelligent intelligence analysis algorithms， and has important practical significance. This paper constructs a dual-chain governance model of "alliance chain + private chain" through blockchain technology， and models and simulates the sustainability of risk governance of intelligent intelligence analysis algorithm from the perspective of dynamic game of "developer， third party and supervisor". The study found that improving the quality of developers' research and development is the root of risk governance of intelligent intelligence analysis algorithms， weakening the role of the third party and gradually strengthening its deterrent effect on developers， and regulators establishing reasonable incentive rules can make governance reach the optimal strategy. It aims to seek the best algorithmic risk governance strategy， and then achieve the goal of maximizing governance costs and benefits.

Key words blockchain; intelligent intelligence analysis; algorithmic risk; algorithmic governance; dynamic game

隨著新一代人工智能技術在全球范圍內蓬勃興起，智能算法廣泛應用于情報分析中，在做出精準情報識別、預測、評估、預警的同時，算法黑箱、算法操控、算法共謀、算法偏見、算法歧視等安全風險會嚴重影響情報分析結果，甚至會危及社會穩定乃至國家安全。因此系統化、可持續的治理是防范與化解智能情報分析算法風險的主要手段，并具有重要的現實意義。2022年3月，《互聯網信息服務算法推薦管理規定》的出臺意味我國政府已經意識到算法風險所帶來的嚴重后果，并逐步在各行業各領域完善和健全算法治理相關制度，而智能情報分析是服務國家重大決策、支撐科技創新的重要基礎性工作，更是情報機構主動適應國家安全與發展，實現情報工作創新的必要舉措，因此針對情報工作領域的算法風險治理符合總體國家安全發展戰略。而為實現在該領域算法風險治理的可持續性，借鑒2022年5月清華大學薛瀾教授在伏羲智庫學術沙龍研討會上提出的觀點，需要仔細考慮智能情報分析算法風險治理成本和收益的問題，智能情報分析項目運行與算法風險治理應該是并行不悖的關系，如果治理成本過高，可能會直接對智能情報分析項目的運行造成重大不利影響［1］。因此設計智能情報分析算法、風險治理模式的同時，需要動態尋求最佳的算法風險治理策略，通過探尋平衡點來確保不同利益相關者主體的訴求得到滿足，以達到治理效果最佳的目標。

1? ?研究綜述

國內外學者在算法風險治理方面已形成一系列研究成果。如Lysaght等采用了健康大數據倫理框架的審慎平衡方法確定相關價值，以確保更高效的醫療保健與人工智能倫理相平衡［2］；李安從制度淵源和理論基礎兩個方面，對算法影響評價制度進行深刻剖析；并從分類管理、評價范圍、程序環節、報告書等方面，對算法影響評價制度的具體構建進行系統討論［3］；于英香和李雨欣認為要應對算法技術、算法偏好給檔案價值帶來的安全風險，應從算法應用回歸價值理性、制定防范算法風險管控策略、依據法律法規來規范算法應用行為等方面進行算法治理［4］；Vassilopoulou等基于敘述性審查，提出了檢查算法偏見的框架［5］；宋亞輝和陳榮昌提出以防范、抵御、消解算法風險為統一目標，建立“法律規則-素能提升-機制改進-制度創新”的整體治理邏輯的算法風險治理優化路徑［6］；鄭婷一等從體系架構構建、監管體系完善、核心技術突破、平臺模式創新四個方面給出了促進平臺經濟中數據和算法安全治理的建議［7］；張濤和馬海群基于風險社會理論、監管沙盒理論構建“數據-算法-流程”的智能情報分析風險識別模型，以實現數據與算法風險治理［8］。

綜上所述，當前算法風險治理框架、治理制度、治理機制、治理路徑、治理體系的研究成果較多，并涉及到健康、醫療、法律、檔案等領域，但缺乏從動態博弈角度對算法風險治理可持續性的研究成果，尤其是情報分析領域成果較少。因此，本文提出以區塊鏈為技術核心構建“聯盟鏈+私有鏈”的雙鏈治理模式，并從平衡智能情報分析算法風險治理成本與收益角度，針對“開發者-第三方-監管者”進行三方動態博弈仿真，實證治理模式的可持續性，旨在動態尋求最佳的治理策略。

2? ?治理模式

2.1? ? 利益相關者

明確利益相關者是構建智能情報分析算法風險治理模式的前提條件。借鑒利益相關者理論［9］，可將智能情報分析中利益相關者的概念界定為：能夠影響智能情報分析的目標實現、參與智能情報分析過程或受到智能情報分析影響的所有組織和個體。根據概念界定，智能情報分析中利益相關者包括兩方面內涵：一是指參與智能情報分析過程的組織和個人，他們為智能情報分析的可靠性、及時性、準確性提供支持；二是指受智能情報分析影響的組織和個體，他們在智能情報分析過程中獲得準確的情報，并通過智能情報分析結果創造經濟價值、社會價值。結合以上論述，智能情報分析中利益相關者就較為明確，包括發起者、開發者、監管者、第三方、使用者。其中，發起者是智能情報分析需求設計、策略制定者；開發者是智能情報分析項目的開發組織或個體；監管者是政府監管機構、行業監管組織、情報機構監管部門等；第三方是對智能情報分析項目中存在的算法安全風險進行評估與測試的機構；使用者是當產品投入使用后，使用這些產品的情報機構、研究所等組織或個體。

2.2? ? “聯盟鏈+私有鏈”治理模式

區塊鏈是智能情報分析算法風險治理模式創新的重要手段。區塊鏈技術分為公有鏈、私有鏈和聯盟鏈，三者除了網絡中心化程度不同以外，在參與者、記賬人、共識協議和激勵規則上各有特點［10］。公有鏈是完全無中心化的區塊鏈模式，該模式下所有人都可以自由進入區塊鏈，在共識協議下都可以作為記賬人進行記賬，公有鏈適用于以比特幣為主的公開交易；聯盟鏈是多中心化的區塊鏈模式，該模式的區塊鏈只對聯盟成員開放，只有聯盟成員可以記賬，其被攻擊性要小于公有鏈，因此安全性相對較高，在區塊鏈3.0階段，應用于各行業的治理；私有鏈是一種中心化的結構，主要用于機構內部，如政府、企業內部監管系統。

依據智能情報分析算法所面臨的風險及區塊鏈的特點［11］，本文選取聯盟鏈和私有鏈相結合的模式形成算法風險雙鏈治理模式，這種雙鏈模式不但能夠兼顧智能算法運用的公平和高效，還能極大增強基于區塊鏈的治理能力［12］。在雙鏈模式下，需求者、開發者、第三方、使用者是聯盟鏈上的權威中心，確定上鏈數據的記賬，其數據與私有鏈進行共享；而監管者是私有鏈群體，由不同組織和機構組成，這些組織機構構成了監管者聯盟，治理規則、權限分配、獎懲變化則均由鏈上用戶達成共識，并由監管者聯盟構成的私有鏈記賬后生效。雙鏈模式包括四部分（見圖1）：（1）CA認證。CA（Certificate Authority）認證是用戶上鏈的必備條件，而上鏈用戶需要得到多數用戶許可后觸發合約完成上鏈，上鏈用戶會得到用戶注冊證書，在區塊鏈上的任何操作都需要使用與用戶關聯的證書進行簽名，消息接受方在得到請求消息時，先要對簽名進行認證，確保交易合法性后，才進行后續處理；（2）聯盟鏈。聯盟鏈中的成員包括了發起者、開發者、第三方、使用者，他們共同確定鏈上數據記賬，這些數據無法篡改并受到全網用戶及監管者的監管；（3）私有鏈。由于盡量避免中心化的存在，各監管者組成私有鏈以實現對聯盟鏈上的用戶行為進行監管，從而發現智能情報分析項目運行過程中算法風險并動態調整權限及獎懲規則；（4）時間戳溯源。主要用于回溯智能情報分析項目中“數據-算法-流程”中存在的風險問題，以便事后風險問責。雙鏈治理模式能夠從算法事前風險預警、事中風險監管、事后風險回溯環節實現對智能情報分析項目算法風險全方位的治理。

3? ?可持續策略建模與仿真

基于對智能情報分析算法風險治理雙鏈模式的構建，我們發現，構建這種治理模式需要顛覆現有監管者的治理思路，并需要付出一定的治理成本來構建區塊鏈平臺，如果治理成本過高，治理過程中的利益相關者沒有積極性，則治理不可持續，同時可能會對治理過程產生重大不利影響，最終不但無法實現治理目標，還會造成人財物的損失［13］，因此為實現這種治理機制的可持續性，要從治理成本與收益中動態探尋平衡點來獲取最佳的治理策略，同時確保不同利益相關者主體的訴求能夠得到滿足，驗證這種治理模式的可持續性就變得尤為重要了。本文從風險治理角度選取“開發者-第三方-監管者”進行演化博弈，對現有治理機制的可持續性進行條件假設并進行仿真，在保障智能情報分析安全性、準確性、及時性的前提下，以實現達到治理成本與收益最大化為最終目標（三方演化博弈關系見圖2）。

3.1? ? 模型假設

在智能情報分析項目需求確認后，開發者、第三方、監管者會采取一系列的措施使項目中算法風險降至最低，以達到相關標準和規范的具體要求，如要求開發者開發高安全性項目，第三方對項目中的算法風險進行嚴格檢測，監管者對整個過程進行嚴格監管等。由于需求者和使用者不屬于風險治理直接參與者，因此在本文所設計的演化博弈模型中將開發者、第三方、監管者作為參與主體?；谝陨险撌?，智能情報分析算法風險治理有關的行為策略有三個：開發者的策略空間（開發高安全性項目，開發低安全性項目），所謂高安全性項目是指智能情報分析項目中不存在或者存在極少的數據與算法安全問題，反之則是指存在較多此類安全問題；第三方的策略空間（嚴格檢測，寬松檢測），所謂嚴格檢測即對智能情報分析項目中所有數據與算法安全問題（包括算法優化、算法應用合理性）進行逐一篩查，反之則是僅檢測算法是否存在常規性錯誤；監管者的策略空間（嚴格監管，寬松監管），所謂嚴格監管是指監管者引入區塊鏈模式進行監管，未引入為寬松監管，在此過程中監管者對開發者和第三方僅有處罰權力，后續所涉及的獎勵主要出自政府基金、社會公益基金。

在查找相關文獻和詢問有關專家的基礎之上，對開發者項目開發質量、第三方檢測及監管者監管尺度的具體影響進行分析，發現主要可以從成本和收益的角度對博弈過程進行研究，參與主體均為有限理性個體，并且策略選擇隨時間變化逐漸趨于平衡，具體假設如下：

假設1：開發者（開發高安全性項目）、第三方（嚴格檢測）、監管者（嚴格監管）的策略選擇概率分別為x，y，z且x，y，z∈[0，1]。x，y，z的策略選擇概率會隨著時間推移和博弈平衡點不斷被打破而變化。

3.5? ? 研究發現

基于雙鏈模式的智能情報分析算法風險治理的建模與仿真，在滿足推論2約束條件的情況下主要結果分析如下：

（1）提升開發者研發質量是智能情報分析算法風險治理的根源。加大對開發者開發低風險項目的獎勵有助于實現治理最優策略，其中雙鏈模式的去中心化、開放性、自治性、不可篡改性、匿名性是監管者實施嚴格監管的工具，也是保障博弈系統均衡穩定的手段，由于算法風險具有較強隱匿性的特點，通過合理設置基于區塊鏈的激勵規則并建立定期溯源與查詢機制，有助于識別并窺探隱藏在智能情報分析中的算法風險細節，并不斷優化治理規則。治理的最終目標是通過設置合理的策略，即滿足推論2的約束條件，系統能夠朝向開發者開發高質量項目、監管者嚴格監管的趨勢演化，進而實現鏈上的各方利益最大化且平衡穩定。

（2）弱化第三方角色逐漸加強其對開發者的威懾作用。從推論2的演化趨勢上看，弱化第三方（嚴格檢測）的角色使演化趨于穩定的趨勢，但是正是因為以區塊鏈為治理手段的嚴格監管才能使第三方的角色得以弱化，這也突出了雙鏈模式為治理手段的重要性。初始階段以區塊鏈規制作為約束條件鼓勵第三方（嚴格檢測）來發現智能情報分析項目中的算法風險，但隨著治理不斷的深入，第三方檢測將為常態化，并形成與監管者深度融入的趨勢，因此要逐漸發揮第三方對開發者的威懾作用，這樣在一定程度上也能減少治理成本。

（3）監管者建立合理的激勵規則能使治理達到最優策略?；陔p鏈模式的智能情報分析算法風險治理中設置合理的激勵規則在博弈演化中起到決定作用。監管者設定合理的獎懲機制必須符合對各方的獎懲之和大于其收益的條件，才能保障演化穩定，并非單純加大懲罰力度就能實現算法風險治理的最優策略，因此，監管者不斷調整并完善基于智能情報分析項目的獎勵、懲罰規則有助于提升智能情報分析算法風險治理效果。

4? ?結語

本文以聯盟鏈和私有鏈形成的雙鏈模式為技術核心，從風險治理角度選取“開發者-第三方-監管者”對智能情報分析算法風險治理博弈主體成本與收益進行分析，找出三方博弈的均衡點及均衡點穩定性條件，并對基于雙鏈模式的智能情報分析算法風險治理可持續性進行分析，以尋求最佳的算法風險治理策略，進而達到治理成本與收益的最大化目標。本文還有待于從以下方面進行加強：（1）在數據仿真方面，缺少基于實際數據進行仿真。下一步團隊將按照該框架構建這種雙鏈治理模式，建立在部分事實數據的基礎上進行模擬仿真，使得研究結論更具針對性；（2）本文變量設計建立在假設的基礎上，現實中難免有其他變量的存在而未納入考慮，今后將在研究中納入更多變量。本文在計算收益矩陣時，各方主體的收益情況是基于本文提出治理方案設計的，各方收益的增減項決定了最后演化趨勢和策略平衡點。因此，未來將探究更多收益情況的平衡點和穩定條件，并以此為基礎找出更多的最優演化路徑。

參考文獻：

［1］? 數據、算法的倫理問題和治理問題應當區別對待［EB/OL］.［2023-01-01］. https：//www.tsinghua.edu.cn/info/1662/95578.htm.

［2］? Lysaght T，Lim H Y，Xafis V，et al.AI-Assisted Decision-making in Healthcare：The Application of an Ethics Framework for Big Data in Health and Research［J］.Asian Bioeth Rev，2019，11（3）：299-314.

［3］? 李安.算法影響評價：算法規制的制度創新［J］.情報雜志，2021，40（3）：146-152，161.

［4］? 于英香，李雨欣.“AI+檔案”應用的算法風險與治理路徑探析［J］.北京檔案，2021（10）：5-9.

［5］? Vassilopoulou J，Kyriakidou O，zbilgin M F，et al.Scientism as illusio in HR algorithms： Towards a framework for algorithmic hygiene for bias proofing［J］.Human Resource Management Journal，2022.

［6］? 宋亞輝，陳榮昌.整體治理：算法風險治理的優化路徑［J］.學習與實踐，2022，461（7）：35-45.

［7］? 鄭婷一，龐亮，靳小龍.平臺經濟中的數據與算法安全［J］.大數據，2022，8（4）：56-66.

［8］? 張濤，馬海群.智能情報分析中數據與算法風險識別模型構建研究［J］.情報學報，2022.41（8）：832-844.

［9］? 付俊文，趙紅.利益相關者理論綜述［J］.首都經濟貿易大學學報，2006（2）：16-21.

［10］? Rikken O，Janssen M，Kwee Z.Governance challenges of blockchain and decentralized autonomous organizations［J］.Information Polity，2019，24（4）：397-417.

［11］? 張超.區塊鏈的治理機制和方法研究［J］.信息安全研究，2020，6（11）：972-981.

［12］? 杜宇，王宏業，胡至洵.基于區塊鏈激勵機制下區域性高校文獻信息資源共建共享研究［J］.農業圖書情報學報，2022，

34（4）：74-83.

［13］? 賈開，薛瀾.第四次工業革命與算法治理的新挑戰［J］.清華管理評論，2021（4）：68-73.

［14］? 鄒凱，萬震，曹丹，等.智慧城市信息安全監管策略的演化博弈分析［J］.現代情報，2021，41（3）：3-14.

［15］? 朱立龍，榮俊美，張思意.政府獎懲機制下藥品安全質量監管三方演化博弈及仿真分析［J］.中國管理科學，2021，29（11）：55-67.

作者簡介：孫欽瑩，女，黑龍江大學信息管理學院講師；汪穎，女，黑龍江大學信息管理學院碩士研究生；姜磊，男，黑龍江大學信息與網絡中心工程師；王輝，女，哈爾濱醫科大學圖書館副研究員，張濤，男，黑龍江大學信息管理學院副教授。