國家治理視野下的算法治理模式探析

王志勇，呂桐弢

（1.廣西師范大學法學院，廣西桂林 541006；2.西安交通大學法學院，陜西西安 710000）

目前，關于算法治理的問題，大家傾向于留給算法和人工智能系統。算法治理主要強調的是算法模型這一層面的治理，是將整個算法模型精準地應用落地，以避免產生偏見，危害社會各層次間的相互關系。通常來看，算法基于數據產生模型，具有一定的用戶信息，甚至反映一定的意識形態。在機器學習中學得的模型適用于新樣本的能力，稱為“泛化能力”（generalization），具有強泛化能力的模型能很好的適用于整個樣本空間，反映整個樣本空間的特性，以此提高數據分析和數據預測的準確性［1］。基于機器學習的算法因數據的多元性和復雜性，不可避免地具有了“黑箱”（black box）的特征，機器無法回溯作出決定的具體機制。因此，國家治理視野之下，對算法治理的核心問題在于如何實現善治，即引導其健康發展。

1 國家治理視野下的算法治理的難點

宏觀看來，不同于美國的央地關系和市場監管體制，也不同于歐洲分散的數據市場，我國的算法治理面對著與歐美不完全相同的處境，在治理模式上同樣不能簡單照搬或者全盤否決。

首先，認定標準的缺位導致公眾難以有效的參與。算法、數據以及最終所形成的算法模型往往是一家企業的核心競爭力，部分可能涉及商業秘密。然而，在我國算法是否構成商業秘密尚未有明確的法律界定或相關的司法解釋。我國當前對于侵犯商業秘密行為的認定標準主要依據現行《反不正當競爭法》第九條中的四項規定，總結來看分別是：秘密性、商業價值性、保密管理性。如果依照上述認定標準，那么任何算法、數據以及數據模型都大概率構成一個企業的商業秘密。如果一旦認定算法可能涉及商業秘密，依照《網絡安全法》第四十五條規定：依法負有網絡安全監督管理職責的部門及其工作人員，必須對在履行職責中知悉的個人信息、隱私和商業秘密嚴格保密，不得泄露、出售或者非法向他人提供。同時，根據《電子商務法》第二十五條規定：有關主管部門應當采取必要措施保護電子商務經營者提供的數據信息的安全，并對其中的個人信息、隱私和商業秘密嚴格保守，不得泄露、出售或者非法向他人提供。通過以上兩部法律的規定都會對算法治理的具體落實產生阻力。顯然，認定標準的缺位導致現行法律規定在一定程度上將商業秘密變成了算法的保護傘［2］，公眾將難以對算法進行實質性的監督。缺乏了公眾的有效參與，算法治理的民主合法性就如同無本之木，政策的精準性也難以保證。

其次，算法極強的專業性導致政府在治理環節中難以起到引導作用。通常來看，政府治理是國家職權的運行一種形式，也是國家治理的具體實施和行政實現［3］。人工智能時代，公權力在橫向維度正逐步被分散，在某些領域即便是公權力也難以改變技術性規則。缺乏專業性的政府職能部門亦是對在技術上復雜的算法難以規模化的審查和治理，在一定程度上弱化了政府在糾正市場失靈方面的作用。例如亞馬遜的“A9 算法”通過數據分析并最終執行買家最大化收益（revenue per customer），以此影響著賣家的產品在亞馬遜搜索結果中的排名。2019 年，伴隨著對A9 算法公平性的質疑聲中，日本政府試圖要求亞馬遜將A9 算法透明化。但考慮到不合理的公開方式可能會導致部分的不良商家利用A9 算法漏洞，調整策略，提升產品排名從而侵害消費者利益，這一決策至今懸而未決。

最后，各大互聯網平臺沒有形成良好的行業自律。互聯網模式下，站在食物鏈頂端的超級平臺已經成為游戲規則的制定者［4］。如中國科學院曾毅［5］擔憂，“雖然人工智能技術發展迅速，但目前其主要貢獻于有明顯商業利益的領域，如健康、產業創新等，而對商業利益相對不明顯的議題，其關注度明顯不足。”諸如阿里、騰訊、字節跳動、美團這樣的國內超級互聯網平臺正逐步蠶食屬于公權力領域的法律制定與適用權，將行業規范潛移默化地上升為法律規范，一定程度上出現了兼具公共性特征和私主體的特征的特性［6］。對于此類主體，應當對其有一定的公共屬性要求，至少應對應地承擔更多的社會應盡責任。例如有學者指出，對于算法的規制和治理可以提前到算法設計的階段，在算法設計當中融入善的因素，使算法符合善的要求［7］。但算法中的程序幾乎是算法控制者單方設定的，諸如此類的想法要得以落地實現需依靠算法設計者及其所在的互聯網平臺。此外，互聯網平臺掌握著大量用戶的個人數據，以此形成的算法模型歧視和相關的數據保護同樣需要互聯網平臺承擔責任才能有效治理。現在，部分大型互聯網平臺沒有形成良好的行業自律，非但沒有承擔到應盡的社會責任，反而通過算法黑箱和各種“一攬子”的用戶協議大幅度降低平臺的自身責任。

2 算法治理的模式建構

通過對當前我國算法治理的難點分析，不難發現算法并非一種相對孤立的規制對象。當前，對算法進行治理的方式主要集中在算法公開、個人數據賦權和反算法歧視上，事實上，機械地采用任一方式對其進行規制并不符合算法治理的原理［8］。針對算法的特性及規律，已有研究認識到基于傳統“命令—控制”型監管模式的不適用。當前缺少統一的理論框架以指導算法治理［9］。因此，在算法治理的模式建構上需要消解現行治理模式的負面影響，走出路徑依賴，從而符合國家治理的整體框架。

算法治理要符合現行國家治理框架。通常來看，國家治理主要是要處理好政府、市場和社會三方面的互動，將三者在資源配置中的作用相結合，以此推進治理方式的創新［10］。同時，政府、市場與社會多方參與、互動治理也是正當程序的必然要求，在算法的“黑箱”特性之下，基數大且分散的算法相對方容易丟失話語權，單一治理主體難以對其進行有效的干預。同時，算法作為一種動態且嵌入社會的人機交互決策，依據所適用的場景不同，算法所帶來的社會現象亦會產生變化。正是因為算法技術的動態性和不確定性，在一定程度上造成了當下算法治理的理論與實踐相脫節。為了讓算法和人工智能高速且健康地發展，針對算法技術的動態性和不確定性，實務界亟待一套更為靈活且具有穩定性的算法治理模式。

2.1 算法治理的理論重構

在利用算法治理的政府、市場和社會三方面中，市場掌握著較強的話語權，平臺能夠將符合市場需求的算法設計出來，并由此制定與其利益相契合的行業的規制，乃至上升為法律制度。這雖然充分發揮了市場在資源配置中的決定性作用，但算法極強的專業性極可能導致算法在政府治理和社會治理層面很難有強有力的支撐點，市場成為牽引算法技術發展的唯一有效動力。歷史的經驗表明，讓市場去決定資源的配置，這種模式效率最高，但公平性難以得到保障。過度市場化過于追求效率和利潤增長，容易讓算法的發展脫離法治的軌道，進而放棄社會效益，突破道德底線。

通常而言，打通算法治理層面市場、政府和社會三者間的阻隔，需要提升科研組織在算法治理環節之中的重要性。科研治理作為治理的重要內容，是以科學研究作為治理的對象,探討如何通過有效治理，促進科研創新，使作為科技知識產品的科技成果更好地服務于人類社會［11］。通常看來，科研組織在治理之中的功能相當多樣化，但集中在提供政策建議、進行科學分析、參與政策和決策過程，并非直接參與治理［12］。但伴隨著應用科學在國家治理體系之中扮演的角色愈發重要，尤其是面對算法這一類技術性很強的治理對象，科研組織的需要在政府、市場和社會三者之間起到至少兩個層面的作用。一方面科研有溢出帶動性很強的頭雁效應，能夠引領算法和人工智能技術的健康發展。另一方面，科研組織能夠在市場化中保證相對中立客觀，在不偏袒市場的情況下協助政府和社會對算法進行治理。此外，讓科研組織成為算法治理環節中的一部分，也能加強科研與實際需要之間的聯系，為科技成果轉化提供現實保障和動力支持，設計出合法且更符合市場和社會需要的算法。

事實上，算法在特定環境下的應用結果并不完全取決于算法設計者，在很大程度上也是市場的選擇。例如，外賣騎手被算法催促著在更短的時間內完成訂單的送達，正是市場對于縮短外賣送抵時間的需要所推動的，算法沒有自己的好惡，只是提高效率的工具。在算法治理之中，市場依然應當在資源配置領域起到決定作用。一方面，市場扎根在現實的社會之中，算法技術的發展需要資本的注入，算法技術真正造福人類社會，同樣需要走向市場。市場能最大程度地做到合理地配置有限的資源，敏銳地把握經濟結構的轉型和發展方式的轉變，通過利益關系的調整，讓市場主體在產業鏈的不同環節想方設法轉換結構，通過推進人工智能領域的產業鏈升級來實現算法治理經濟效益和社會效益的有機統一。另一方面，中國經濟市場自重建以來，作為市場的主體，各大企業長期沒有建立起同社會所協調的承擔責任的方式。在算法治理之中，市場的主體，是各大互聯網平臺需要建立企業與社會的協調、互動關系，擔負起必要的社會責任，化解一定的算法治理危機［13］。

同時，算法治理需要在政府通過構建科學的理論體系、制度體系和政策體系來發揮政策在算法治理之中的引導功能。對于算法缺陷所導致的社會問題不能簡單地采取叫停、整治和處罰等臨時性措施，應更多地通過產業結構和治理布局的調整來完善算法的法律監管和道德約束機制。此外，政府推進職能轉變的同時，要合理地強化對于算法的規制和監管職能。算法所涉及的技術、理論紛繁復雜，由數據通過訓練產生模型的過程之中，每個環節都無法脫離人類參與而自主進行，可以說，算法的每個環節無一不存在著倫理風險。面對算法治理，我們需要政府合理地強化監管，并通過監管來發現算法治理形勢的發展變化和需求，進而提出更具指導性的意見和方案。

當然，社會治理是算法治理的基石。美國喬治敦大學教授查爾斯·庫普錢（Charles A.Kupchan）［14］認為，目前西方世界出現了極為嚴重治理危機，其中一大原因就是社會公眾情緒低落并且分裂嚴重，無法形成有效的公眾參與、社會競爭以及制度制衡。進入到智慧互聯的時代，“信息繭房”裹挾社會中的個體，使其失去自主性，從而間接地增加著社會治理的難度。在大量被曝光的“大數據殺熟”和“算法歧視”現象之下，算法治理問題目前已經引起了社會公眾的廣泛關注。根據《2018 中國大數據“殺熟”網民態度行為調查報告》，51.3%的受訪者表示遇到過大數據“殺熟”的情況，59.1%的受訪者希望互聯網企業的價格歧視行為能得到法律的進一步規范［15］。此類數據表明，算法治理需要在社會層面，鼓勵和引導公眾積極、有序地參與到治理之中，實現多元化的社會共治。

2.2 算法治理的雁陣模型

“雁陣模型”是兼具靈活且穩定的一種形態。依據雁陣模型而誕生的雁行形態論 “（flying -geese paradigm）最早由日本學者赤松要(Kaname Akamatsu）所提出，是一種產業區域轉移的理論，后被用于解釋和理解東亞經濟的發展模式。這一理論經過不斷的完善，不但保存了各版塊間比較優勢的相對變化，互相轉移的本意，更是很好的解釋了比較優勢動態變化的相關性以及相互繼起的關鍵［16］。

雁陣模型對于算法治理有著較強的借鑒意義，是算法治理模式的一種可能性。應當意識到，對算法進行治理不是一方之力就能單獨完成實現的，很大程度上需要科研、市場、政府和社會的通力合作。而科研、政府、市場和社會的協同與互動也將會是算法治理的核心問題。在算法治理的四個子系統之中，科研確保了算法技術的不斷更新迭代，在整個治理環節之中保證了算法技術的升級與活力，是推動新一代人工智能及算法健康發展的最為關鍵的一環，具有雁陣模型之中頭雁的溢出帶動性作用。

然而，一個成熟的雁陣模型僅是具備頭雁是遠遠不夠的，算法治理同樣需要市場負責承接科研的成果轉化。市場能夠最大程度地配置資源，在經濟利益的驅動下，確保算法發展走向高回報的產業和領域之中。從這一視角看來，市場位于算法治理雁陣模型之中的雁身部分，雁身處于雁陣的中部位置，對整個算法治理起到承前啟后的作用。不僅要將頭部科研的成果進行市場化的轉化，而且也要擔起雁陣的主要結構，為雁尾提供更強的帶動氣流，減少阻力。

科學研究的效能性，決定其在雁陣模型中的重要地位性。一方面，以科學性的研究對算法進行科學、全面的監督和評估，以保證其在實際應用中的合理性和有效性。同時，也可以通過研究算法的內部機制，分析其對不同群體和個體的影響，評估算法的公平性和潛在風險，進而發現和糾正算法中的偏見、歧視等問題，提高算法的質量和公正性。另一方面，通過對算法的社會影響評估的科學性研究，了解算法應用對社會、經濟和環境等方面的潛在影響。通過評估算法應用的社會效果，發現和解決可能帶來的問題，確保算法對應用于國家治理的貢獻最大化，并盡量減少負面影響。

相較頭雁和雁身，雁尾雖然不具備帶動整個雁陣飛行的能力，但是它能夠起到穩定雁陣的效果，保障雁陣飛行的可持續性。這一突出特點則偏像于政府和社會在算法治理之中的作用。二者共同成為算法治理雁陣的兜底部分，平衡雁陣并對雁陣的整體起到穩定的作用。

雁陣模型是一種組織形式，即一群個體通過協作和合作來實現共同的目標。使得算法治理的科研、市場、政府和社會密切聯系在一起，形成一個高效且具有穩定性的整體，如圖1 所示。其中，市場在算法治理中的角色主要是推動市場競爭，科研在算法治理中的角色主要是為算法治理提供技術支持和科學方法，政府在算法治理中的角色主要是規范和監督算法的使用和實施，社會在算法治理中的角色主要是推動算法治理的公正和透明。當這四方面任一方出現了一定程度的治理危機時，可以通過另外三方的側面修正對整個算法治理進行校正，例如算法的科研部分走入歧途時，不僅能通過政府來進行職能監管，同樣可以通過市場化配置和社會公眾監督來引導更健康的算法科研。

圖1 算法治理的雁陣模型

雁陣模型在具體的實施上，可分為五大層次，即一是，社會導向的頂層設計層，該層是整個模型的最高層，主要負責設定整體的算法治理目標和政策框架。二是，社會發展的標準和法規層，這一層負責制定算法治理的標準和法規，以確保算法的合規性和道德性。標準和法規可以包括數據隱私保護、公平性、透明度和責任追究等方面。三是，科學研究的技術規范與算法開發層，這一層以立足科學研究的科學性，通過技術性規范和具體的開發實現治理的現代性。其中，技術規范層，主要關注技術規范和標準，確保算法的可解釋性和可驗證性，包括算法驗證、模型解釋、數據可追溯性等技術要求；算法開發層，涉及算法的開發和訓練過程，包括數據收集、特征工程、模型選擇、訓練和評估等步驟，這要求算法開發人員要遵循社會標準、法規和技術的有效銜接。四是，社會實踐的監控與評估層，這一層負責對算法進行持續的監控和評估，包括實時數據監控、模型性能評估、用戶反饋等，監控與評估的結果可以用于改進算法和修正違規行為。五是，實踐檢驗的權益保護層，這一層以實踐的具體檢驗性來有效的檢驗算法治理的科學性，進而確保各權益得到保護，使得國家內部治理有效、決策科學、運行公正等。雁陣模型以國家治理為根本，以市場為導向，以科研為基礎，以社會為指引，為算法治理的具體運行提供了方向性，使各層次間分工密切，相互嵌入，高效運行，如圖2 所示。

圖2 雁陣模型層次運行

3 雁陣模型下的算法治理體系創新

伴隨著數字轉型進程的深入，算法逐漸滲透在人類生活的各個領域，算法技術健康發展的具體表現也呈現出多維度的特性，管理者和社會公眾對算法治理的期望目標總是在發生著動態的變化。簡言之，算法治理并不是一味地簡單追求和促成技術迭代和更新。例如在算法技術的具體應用時，用戶期望它能夠更合理地市場化，以便于將深奧的算法接地氣地改善我們的日常生活。在算法可能沖擊人類倫理道德時，社會公眾期望能有足夠的監管防止算法技術的盲目擴張，消解算法對人類倫理的破壞，使其退守回人類道德底線之內。

多維度的動態需求意味著傳統的固定模式與算法治理的不相兼容，事實上，傳統的固定模式在面對高速發展的科學技術性很強的事物治理上存在著極為顯著的短板，對于某一重大技術迭代的治理往往具有一定的滯后性。例如，移動通信設備智能化所帶來的電子商務產業的蓬勃發展，在相當長的一段時間是處于治理乏力甚至空白的階段。而這一短板在算法治理之上同樣被放大暴露了出來，根據OpenAI 在2020 年的分析報告顯示，自2012 年以來，要訓練一個人工智能模型在基準測試ImageNet 圖像分類任務中達到同等的分類效果，所需的算力每16個月就會減少1/2，算法演進速度遠超摩爾定律的速度［17-18］。這意味著人工智能算法效率呈指數級倍增，迭代速度將不斷加快，帶來新的監管挑戰，局限于固定模式的治理方式將難以完全適應。

國家治理需要堅持頂層設計與摸著石頭過河相結合，推進治理制度創新［19］。國家治理視野下的算法治理同樣需要在制度上根據實際需求，結合客觀情況來進行一定的制度創新，推進算法治理的可持續運行性，見圖3［20］。陣模型下的算法治理體系創新，在市場方面，使不同的算法模型能夠相互配合和交互，促進算法模型的技術進步和創新。在科研方面，推動算法模型的不斷創新和改進，以提高模型的性能和效果。在政府作用方面，扮演著監管和規范的角色，制定相關法律法規和政策，確保算法模型的合規性和公平性，推動公共領域中的算法透明度、公正性和可解釋性。在社會參方面，通過參與公眾討論、輿論監督、投訴機制等方式，對算法模型的決策進行監督和反饋。此外，社會還通過開展算法教育和提升算法素養，增強公眾對算法模型的理解和參與能力，以更好地參與到算法治理中。

圖3 多維的算法治理創新

這些創新可以促進算法治理的多元化和協同發展，平衡不同利益方的需求，提高算法模型的質量和社會效益。這一創新使治理理念不再局限于固定的模式，而是以效率、效能、公正、公平、回應性和責任性等為導向和選擇準則［21］。大雁飛行的過程中，雁陣一直處于變動不居的形態。頭雁消耗的體力龐大，會在合適的時間與后面的大雁交換位置，從而有效的提升了整個雁群的飛行效率和續航能力，雁陣模型下的算法治理體系需要從靈活的雁陣之中汲取靈感。對算法進行治理同樣需要結合實際、動態演化，在結構上形成相應的變化以此應對各種多變的需求。質言之，在保證治理模式穩定的前提下，算法治理的雁陣模型并非一成不變的。例如，外賣App 的算法對騎手的剝削或許可以通過算法自我迭代使得算法設計在數理邏輯上做到精確和完美，但缺乏人性和社會環境的綜合考慮，從“真空”環境中誕生的算法本身就帶有一定的機械性［22］。對諸如此類的算法治理危機，僅依靠算法的迭代和更新難以有效的化解問題，此時再由科研領銜算法治理就不再那么合適了，應當依據實際需要在結構上形成相應的重新配置，從科研帶動為主轉向政府治理或者社會治理為主，以此消解算法技術在融入社會后的機械性。

結構上的靈活配置使得雁陣模型下的算法治理擺脫了傳統算法治理模式“頭疼醫頭腳疼醫腳”的割裂感，促進了算法治理板塊間的交融與互補。與此同時，在這一梯隊和鏈條中，一個環節出現故障也會使整個增長梯隊受到影響，這也在側面提醒我們時刻注意算法治理的各方面均衡受力，形成科研、政府、市場和社會四方面的良性互動、協調協同，讓相關制度成熟定型，組成系統、完備的制度體系。

4 結論

作為一種融入社會的自動化決策方式，算法給人類社會帶來的風險不亞于其所帶來的便捷。在輿論上，伴隨著“滴滴出行”App 被依法進行網絡安全審查，數據和算法的治理再次被推上風口浪尖，并且迅速上升到國家安全層面。不難看出，當前我國算法治理的各個主體之間并沒有形成應有的合力，甚至在一些基本問題上沒有達成共識。技術發展帶來廣闊的市場前景，但也必然會與之帶來新的治理挑戰。

制度化與法律化作為社會風險防控的主要方式，應當積極探索符合實際需要的算法治理制度。形成合理的算法治理模式，真正讓國家治理和相關的配套法律為人工智能和算法技術的健康發展保駕護航。