人工智能司法安全風險的算法中心治理模式

關鍵詞：形式理性算法司法人工智能司法風險治理生成式人工智能以算法為中心

人工智能時代的技術革命引發第三次產業革命， 深刻改變著生產要素配置和社會結構秩序，對國家治理體系和治理能力現代化轉型提出緊迫需求。黨的十八大以來，司法領域信息化和數智化建設成效顯著，通過大數據、云計算、區塊鏈、人工智能等現代技術手段的科技賦能，智慧司法的車輪滾滾向前，不僅帶來司法程序和訴訟參與方式的變革，還更深層地影響著司法邏輯和法治理念。總體而言，人工智能司法應用場景主要包括訴訟服務、在線訴訟、事務輔助、決策輔助、司法管理等方面，呈現應用廣度和深度逐步加強的趨勢，司法全流程中人工相對于智能的權重配比逐漸下調。例如，司法系統信息化初期建設成果是以立案繳費、案卷調閱、公文傳遞、簽章送達等特定行為的電子化為核心，本質上是運用互聯網技術擺脫物理空間尤其是紙質媒介的束縛。在此過程中，訴訟便利和司法效率雖然有所加強，但智能化程度普遍較低，未對訴訟規則和司法模式產生實質影響，而我國既有的司法模式的低效問題亟待改善，在杜絕司法腐敗、司法濫權方面也存在不足，〕所以增強人工智能來提升司法效率的需求已經迫在眉睫。鑒于此，進入智慧司法4.0時代，人工智能實際應用場景擴展至偵查、起訴、審判、執行等司法全流程、全場景，尤其是類案推送、量刑預測、偏離預警、文書生成、自動查控等系統的投入使用，標志著人工智能技術已經深度參與程序控制、實體決策、監督檢查等司法運行的核心領域。

整體來看，以智慧司法大腦和司法數據中臺為驅動，分析式和生成式人工智能技術得到大規模應用，新時代人工智能司法使數字法院、云端法庭、機器人法官成為現實，“代碼即法律”和“算法即正義”的論斷不再是天方夜譚，而是在可預期時間內必將呈現的智慧法治圖景。習近平總書記指出，安全是發展的基礎，要更好統籌發展和安全，以新安全格局保障新發展格局。隨著人工智能司法技術裝備發展和應用場景深化，相應的人工智能司法安全風險也將成為司法實踐所必須直面回應的現實問題，最高人民法院2022年印發《關于規范和加強人工智能司法應用的意見》（以下簡稱《人工智能司法意見》），將安全合法原則作為首要基本原則，規定“堅持總體國家安全觀，禁止使用不符合法律法規的人工智能技術和產品，司法人工智能產品和服務必須依法研發、部署和運行，不得損害國家安全，不得侵犯合法權益，確保國家秘密、網絡安全、數據安全和個人信息不受侵害，保護個人隱私，促進人機和諧友好，努力提供安全、合法、高效的智能化司法服務”。有效安全治理的本質是有效風險治理，“以風險為導向”是其核心要求，人工智能司法安全治理需要在解構風險內核和風險成因的基礎上確立類型化、結構化、體系化的治理方略。由此，對人工智能司法安全風險的防范需要首先厘清人工智能司法的本質，并在此基礎上揭示出人工智能司法的實質風險，然后才能提出與之對應的治理之策。

一、人工智能司法的本質：法官后撤與算法司法

公正與效率是司法審判工作永恒的主題，也是人工智能司法應用的基本價值遵循。在公正和效率之間，后者是人工智能司法發展的原始動力。伴隨著人工智能技術的進步，人工智能司法應用逐漸從自動化辦公走向自動化決策，類案同判、量刑預測、文書生成等高智能應用場景開始對定罪權、量刑權、程序控制權、審判監督權等司法權力的行使產生介入式影響，由此，算法將穿透效率的面紗，浮出水面，以法官后撤為特征的算法司法構成了人工智能司法的本質。

（一）司法效率與算法前置

一直以來，我國“司法的職能構造和角色安排很大程度上取決于制度設計者的現實需求與選擇而非司法的自我定位”。這種制度設計所導致的問題是，司法審判人員的配置可能會脫離司法的現實需求，并致使同一法院內的審判人員“閑忙不均”，進而影響司法效率的提升。更為重要的是，面對“訴訟爆炸”時代的到來以及數字智能技術的進步所賦能效率提升的全新可能，如何借助數字智能技術提升司法效率，進而推進司法體制改革就成為當前所必須予以回應的時代課題。也正因如此，黨的十八大以來，最高人民法院就將司法改革與司法信息化建設作為推動人民法院工作發展的“車之兩輪、鳥之兩翼”。在此基礎上，借助數字智能技術優化審判人員配置，提升司法效率就成為數字智能技術賦能司法改革的邏輯起點與實踐終點。事實也證明，“立體的訴訟服務體系和法院辦公體系實現人民法院文書自動生成、類案智能推送、電子卷宗自動歸檔，將辦案法官從瑣碎、重復性的事務中解放出來”。借助計算機、互聯網等數字化技術實現對審判設備的更新不僅有助于實現對審判人員的管理優化，還能促使辦案人員在整個二審、再審案件中依靠電子案卷直接查閱、了解案情，對審判效率的改善具有顯著作用。

當前，伴隨著生成式人工智能的進步，以大語言模型為代表的先進算法在促進司法效率提升的同時，也逐漸從“幕后”走向“臺前”，客觀上已經涉及定罪量刑、法律適用以及文書撰寫等司法核心業務。例如，法律邏輯推理一直被認為是司法業務的核心，是推進案件事實認定與法律適用的關鍵內容。然而，生成式人工智能借助思維鏈算法使得智能技術已經掌握了一定的邏輯推理能力。以Chat-GPT為例，研發人員通過思維鏈這一算法的調用，不僅在基準測試中達到了高度的準確性，甚至還超過了使用驗證器微調的GPT-3模型，顯著提高大型語言模型執行復雜推理的能力。具體而言，在思維鏈的加持下，模型將問題分解為一系列的分步推理，根據前一步驟結果與當前問題要求共同推斷下一步驟。通過這種逐步推理的方式，模型可以逐漸獲得更多信息，并在整個推理過程中累積正確的推斷，從而大幅度提升模型在復雜推理時的準確率。這也就意味著，以生成式人工智能為主要形式的先進算法已經突破了基于數據之間相關性的能力局限，可以做出超出算法預設的可期結果，具備了推理能力等意思表示特征。事實上，憑借著算法在邏輯推理能力上的顯著提升，生成式人工智能在人機問答、文本摘要、建議輔助等方面已經達到甚至超過了人類水平，具備了案件研究與復雜法律事實模式下的分析能力。再例如，“裁判文書撰寫是案件審理的最后一個重要環節，也是最耗費時間的一項工作。裁判文書的質量與當事人對裁判結果的接受度呈正相關關系，因此，在決定案件的裁判結論后，法官的主要任務便是撰寫一份高質量的裁判文書”。因而，能否流暢、準確以及高質量地撰寫一份裁判文書也成為衡量法官能力強弱的一項重要標志。實踐中，以大語言模型為代表的算法在文字處理能力上的躍升不僅能夠實現具體內容的法律文書起草，而且還能實現對簡單案件事實的理解，并正確援引訴訟請求的相關法律條文。再如，面對司法裁判中的價值判斷這一核心領域，通過循環式地強化學習算法，將反饋模型和原始模型相鏈接，能夠不斷地促使原始模型逐漸迭代升級，直至“脫胎換骨”徹底掌握人類偏好，進而實現算法模型的表述、內在價值與人類常識、價值觀的“對齊”。

總之，雖然有觀點提出批評，認為現階段智慧系統的運用受制于司法人員主觀認識、技術成熟度以及可適用面狹窄等因素而不夠完善，但這些批評并不會從價值論上否定人工智能司法的效率功能。相反，伴隨著智能技術的進步，算法正在通過對司法效率的賦能而前置，并進入司法的核心領域，具備了一定的司法決策能力。

（二）法官后撤與算法司法

伴隨著算法前置的日益顯著， 法官作為司法主體的角色后撤將成為人工智能司法的基本特征，因而，人工智能司法的本質就是因法官后撤而引起的算法司法。

算法是指實現最優模型的解法，算法司法完全可以復制人類法官司法的“外觀”，一定程度上輔助或代替人類進行司法判斷，尤其是，在權力行使規則清晰和可預測性結果明確的司法領域，采用算法解決司法問題，通過算法連通條件輸入端和結論輸出端，實現算法增強的自動化司法，完全具有技術上的可行性。盡管不同類型的人工智能司法有著差異化的輸入端內容和輸出端內容，但根本的區別不在于輸入與輸出的不同，而是算法解法的不同，在人工智能司法裁判領域，機器裁判模型構造的過程就是將算法知識和法律數據相結合的過程。其中，通過數據反映司法裁判規律、通過算法挖掘數據相關性、在測試集內測試模型性能是機器裁判的三個主要環節。在此環節中，雖然算法司法的知識來源是傳統司法，但在機器習得司法裁判的基本規律之后，就能實現“像法官一樣行為”，至于能否最終實現“像法官一樣裁判”，則取決于算法水平是否足以支撐其“像法官一樣思考”。換言之，算法的司法應用將不可避免地導致法官后撤。也即，相較于完全由法官獨占的裁判活動，算法的介入將導致法官不可避免地面臨職權的分解，而這種分解的過程也正是法官后撤的過程。

當然，也有學者指出，人工智能有助于實現司法的形式正義，但對需要法官裁判智慧的實質正義卻仍是望塵莫及。但問題在于，這一論斷并不是對法官后撤的否定，而是對法官后撤程度的質疑。換言之，算法在司法中的應用只會在一定程度上分解人類法官的裁判職能，但并不會完全替代，法官后撤不是法官離場。法官后撤的本質是算法對司法裁判權的部分替代。例如，司法實踐中大多數裁判都是對于“法律規范→案件事實→裁判結論”這一單調推理邏輯的運用。在此基礎上，司法裁判的首要步驟是，準確找尋與案件事實相對應的法律規范，并將其準確應用于案件事實中去。在此過程中，將法律規范適用于案件事實中去既是完成司法裁判活動的關鍵步驟，也是推進司法裁判順利進行的先決條件。而保證法律規范適用的準確性正是算法的優勢所在，相較于完全由人類法官進行的司法裁判，算法對于法律規范檢索程度的高低只會影響法官后撤的程度，而不是對人類法官裁判職能分解的絕對否定。再例如，智慧量刑系統作為能夠完成刑罰裁量的人工智能機器，通過算法產生量刑結論，在占據司法主導地位時成為量刑法官，在處于司法輔助地位時可以提供量刑參考，從而在量刑時實現犯罪圈均衡化與刑罰輕緩化的目標，避免量刑結果苛重，在承擔司法監督任務時則表現為同案不同判預警機制。

總之，無論出于何種地位，人工智能司法中的算法未發生根本改變，始終發揮著“像法官一樣量刑”的替代性功能，法官后撤是人工智能司法的基本特征，算法司法是人工智能司法的本質所在。

（三）算法正義與形式理性

算法一旦進入司法領域，人工智能司法的正當性就必然受到質疑和批判，這些質疑和批判觸及人工智能司法的價值根基，直指司法正義本身，也就是算法司法的正義風險。

司法的價值根基在于正義，人工智能司法經受的價值批判也來源于司法正義，當訴訟程序經過數字化改造之后，學界普遍認為算法決策能夠通過程序性、公式化計算來優化訴訟程序和處理簡單案件，卻難以處理重大的復雜疑難案件；它能夠促進形式正義，卻很難實現實質正義。人工智能司法雖然具有人類法官不可比擬的優勢，但也具有不可克服的缺陷，無法應對不確定性，不具有人類常識常情，以及無法進行價值判斷。張軍大法官也曾對計算機量刑作出精辟分析，認為“每一個案件都不同，把各種情形的因素用軟件輸入，最后得出一個量刑的情形，這個很難符合具體的現實的案件”。人工智能司法確實存在語料和數據的獲取能力有限，無法窮盡司法場景及其考量因素的問題，法官在司法裁判中依據的案件事實、法律規則、個體經驗、自由心證、情理考量等內容很難通過結構化數據表達使機器算法習得。例如，在刑事審判參考指導案例王某旺非法經營案中，被告人王某旺銷售假冒注冊商標的偽劣卷煙的事實清楚，已經構成非法經營罪，依法應在五年以上有期徒刑的法定刑幅度量刑，但考慮其女兒急需進行骨髓移植手術，王某旺為優選供髓者，且為家庭經濟收入的唯一來源，最高人民法院核準對王某旺在法定刑以下判處刑罰并宣告緩刑。很顯然，人工智能司法不可能作出此類“法外開恩”的決策，由于無法實現情理法的融合與平衡，因而人工智能司法被認為有損實質正義。

問題在于，這種質疑并未觸及算法正義的本質，也未對形式正義與實質正義的關系作出正確理解。事實上，司法正義包括形式正義、實質正義和程序正義這三個邏輯結構，而算法正義不僅未對司法正義造成沖擊，而且契合傳統司法正義一以貫之的形式理性價值根基，人工智能司法并非只能實現形式正義而無法滿足實質正義要求， 因為形式理性與形式正義的概念內涵存在根本區別而不能加以混同。形式正義又稱為分配的正義，也就是同等情況同等對待、不同情況不同對待，形式正義導向同案同判，但對裁判結果是否符合罰當其罪的實質要求則在所不問；實質正義則融入結果公正的實質判斷，要求作出符合罪責刑相適應原則和比例原則的處罰裁斷。算法正義絕不是簡單的形式正義，算法主導的自動化決策機制能夠有效排除外界因素干擾以嚴格達成規范符合，實現形式正義和可預測的正義的同時，也可以將實質正義需要的社會危害性和處罰結果的比例考量通過要素化和結構化數據標注融入算法之中，進而實現對實質正義的追求。例如，具有深度學習能力的人工智能系統甚至可以不受限于既往裁判經驗而自動生成新的要素標注。前文也已提及，受益于大語言模式算法的助力，生成式人工智能已經能夠實現邏輯推理與價值對齊，體現出對實質正義的內在要求。因而，算法正義的真正內涵是一種形式理性主導的實質正義。原因在于，在形式理性與實質理性之間，形式理性具有優位原則，是第一位的，實質理性是第二位的，只能在堅持形式理性的前提下追求實質理性。在此基礎上，將法律規范遵守作為首要價值追求并基于價值規范進行實質矯正的形式理性顯然能夠囊括形式正義與實質正義， 能夠實現對算法正義實質內涵的準確概括。

總體而言，人工智能司法的本質是算法司法，當算法能夠實現對權利義務以及責任的分配時，對于算法的質疑與批判也就隨之而來。但問題在于，基于形式正義與實質正義的區分否定算法并未觸及算法正義的關鍵。事實上，鑒于公正司法是維護社會公平正義的最后一道防線，所以必須繼續深化司法體制綜合配套改革，借助算法實現對法律規范遵循的形式理性才是算法正義的核心所在。

二、人工智能司法的風險：算法正義的三重危機

算法正義包含了形式正義和實質正義的內涵，具有傳統司法正義的形式理性特征，但是，人工智能司法與傳統司法模式畢竟存在諸多區別，正是這些差異使算法正義出現了危機，成為發生人工智能司法安全風險的根源，因此要基于應用場景分析安全風險。在學界以往的研究中，人工智能司法安全風險的畫像已經初步成型，如在技術維度存在個人信息深度卷入、場景影響高度不確定、既有秩序面臨高烈度沖擊、公眾遭遇泛在威脅等風險，給司法體系帶來司法固有屬性被消解、法官主體地位被削弱、司法改革目標被替代、司法改革結果失控等沖擊，但真正考察算法正義的實質危機，還需要從司法正義的基本維度出發進行研究。

（一）算法正義的程序風險

一般認為，審判程序的參與性、中立性、對等性等是程序內在價值的基本構成要素。然而，遵循法律規范的算法正義則在一定程度上對程序正義的內在要素構成了挑戰，進而引發算法正義的程序風險。

一是，算法正義可能消解了司法程序的參與性。程序的參與性體現在兩個方面：一方面，訴訟雙方能夠在時間與空間維度有充分的機會參與到司法裁判的制作過程中去， 可以自由地表達觀點、呈現證據。另一方面，能夠實現對司法裁判結果的實質性反饋，通過辯論實現對司法裁判結果制作的參與。例如，我國現行的刑事訴訟法第182條第3款關于向人民檢察院、當事人、辯護人、訴訟代理人、證人、鑒定人和翻譯人員等告知案由、開庭時間、地點的規定是對訴訟雙方參與時間與空間的保障。刑事訴訟法第186條關于公訴人宣讀起訴書，辯護人、訴訟代理人發問的規定是對程序參與實質性的保障。然而，人工智能司法對效率的極致追求則在一定程度上壓縮了正當程序的環節，忽略了民眾與司法溝通的橋梁紐帶，基于算法的自動化裁判當相關信息輸入的那一刻，就實現了對應結果的輸出，自動化決策程序使得司法的過程成為自動“販賣機”，兩造面對冰冷的機器展開對抗，很可能會產生主觀上的不信任感，“讓人民群眾在每一個司法案件中感受到公平正義”的主觀的程序正義價值難以實現。

二是，算法正義消解了司法程序的中立性。比較而言，人工智能由于不存在回避、疲勞、情感等問題的干擾，因而在結果上更具中立性。但這并不意味著算法正義對司法程序的中立性并不存在著任何維度的影響。與之相反，盡管算法模型一直在不斷地進步與優化，但算法偏見、算法歧視等現象仍然存在，并進而在一定程度上消解了司法程序的中立性。事實上，“偏見進，偏見出”似乎自算法誕生的那一刻就已經存在，算法的訓練數據、算法的訓練模型以及算法的輸出結果都可能是導致算法偏見的現象出現。實踐中，即使是最先進的生成式人工智能，也無法實現對算法偏見的絕對擺脫。大語言模型在提升ChatGPT的智能化程度和準確性水平的同時，也會導致算法偏見的法律風險成倍提升，基于GPT-3的輸出結果已經存在大量基于性別、種族以及宗教的偏見。由此可見，算法在強化司法中立的同時，也會因算法偏見影響消解司法程序的中立性，進而造成算法正義的程序風險。

三是，算法正義消解了司法程度的對等性。程序的對等性要求，訴訟雙方勢均力敵，也即控辯平等，旨在防止“以大欺小”的情形出現，進而對案件糾紛的最終裁決產生不利影響。制度上，沉默權、質證權等權利設置都是程序對等性的具體體現。然而，算法正義的實踐邏輯則有可能對程序的對等性帶來一定的負面影響。以質證權的保障為例，不論是當前的證據智能指引系統還是證據智能分析系統，其司法實踐的過程中事實上都是基于海量的數據與智能化算法自動完成的。例如，杭州互聯網法院上線的智能證據分析系統可以實現對文字作品、圖片、視頻等證據進行對比，找出相似度，實現對證據的審查。在此過程中，智能化技術在證據領域的應用事實上是通過算法實現了對證據的比對、校驗，算法化的比對與校驗實質上就是對質證原則中的詢問與對質的代替。

總之，雖然算法能夠保障訴訟程序的效率，提高訴訟的便捷性，但自動化的程序設置也會對程序的參與性、中立性、對等性造成影響，引發算法正義的程序風險。

（二）算法正義的實體風險

已經有較為扎實的研究證實人工智能司法在結果上更有助于準確公正，具有更高的可接受性、能夠提供更為整全性的信息、在社會效果評估方面更為有效，體現了形式理性指導下算法正義的普遍正義功能。至于法定刑以下判處刑罰等特殊個案的正義實現，則完全可以通過人工校準，而不會影響算法正義的基本價值。但是，算法正義需要以科學的裁判規則代碼化過程為前提，一旦算法和有關參數未得到合理設計，就可能產生系統性偏差，使普遍正義淪為普遍非正義，對司法公正產生巨大沖擊。

不論是大數據、云計算、區塊鏈等分析式人工智能，還是生成式人工智能，人工智能司法都是借助算法實現案件事實的認定與法律規范的適用，在此過程中，需要將證據數據化、對數據進行運算整合、輸出人可以理解的結論。換言之，法律事實認定與法律條文適用的數字化轉換，并進而借助算法運算輸出是算法司法的基本過程。例如，在法律事實的認定上，大數據證據和大數據偵查方法運用也日趨成熟，不同于傳統實物證據，面對不具有可感知的數字屬性證據，人類感官在事實認定中的重要性已經開始下降，法律事實的認定開始由感官經驗向數據之間的相關性轉變。在此情形下，案件事實的認定正在從以人為中心向以數字為中心漸變，呈現出法律事實認定的數字化趨勢。與之類似，法律適用在數字技術的嵌入下也呈現出顯著的數字化趨勢。法律條文概念的模糊性使得法律必須經過解釋才能實現準確適用。但在具體法律規則的適用過程中，不僅存在法律解釋，而且還存在一種獨立于法律方法的事實解釋，因而，審判過程中的法律適用往往是一個耗時費力的過程。當前人工智能正逐漸發展為可解釋的人工智能，以數字為驅動的法律適用能夠實現對這一過程的簡化。例如，以“智慧案管”為代表的管理系統通過對類案檢索、量刑規范等功能的融入能夠實現法律適用偏離度自動分析預警，確保類案同判。重要的是，事實認定與法律適用的數字化在為事實認定與法律適用提供代碼化、自動化的可能性同時，也促使審判結果能夠以更為精確、更為客觀的數字化形式呈現，體現了形式理性指導下算法正義的普遍正義。

但問題在于，基于算法的事實認定與法律適用是通過算法模型在法律樣本數據中找尋數字之間的相關性而完成的。本質上，這種相關性模型只是一種概率性、計算性的數學統計與擬合。哪怕是最先進的生成式人工智能，也只是更多地應用了概率論，通過對大量數據的訓練，以巨大的計算量計算詞與詞之間搭配分布的概率。因而，數據的準確性、模型的設置的科學性都將對最終的輸出結果造成影響。例如，人工智能犯罪風險評估由于對歷史數據的高度依賴，就不可避免地導致系統會重現數據中的歧視模式與歷史偏見模式。事實上，“當我們質疑人類恣意時，也更有理由懷疑這些系統研發者會借著算法黑箱寫入法學家的偏見、科學家的武斷、企業的經濟利益等，它們仍無法擺脫商業、政治、強勢價值觀等力量操控”。換言之，只要對用于訓練的數據進行一定的清洗，對運行算法的模型進行科學的設置，基于算法的事實認定與法律適用能夠實現對個案的關注，算法正義的實體風險并不在于只能實現對形式正義的關注，忽視裁判結果的“法外開恩”，而在于算法自身的數據、模型的合理性、科學性。

總之，算法在體現形式理性指導下實質正義的同時，也會因來源數據、相關參數等因素影響算法的功能發揮，進而影響到實體結果的準確性，引發算法正義下的實體風險。

（三）算法正義的技術風險

人工智能司法安全風險還要面臨算法正義的固有安全風險。人工智能司法的數智化特征決定了實現算法正義面臨著與實現傳統司法正義不同的固有安全風險，其主要是人工智能系統的運維安全風險，具體涉及人工智能程序對數據進行收集、存儲、傳輸、交換、處理的各個流程。〕依據《人工智能司法意見》的相關表述，數據安全、個人信息安全以及人工智能系統安全是算法固有安全風險的兩個重要組成，而對安全的保護強度則影響公眾對司法規范體系的信賴程度。

人工智能司法的良好運行離不開高質量的數據支撐一定程度上，領域內的數據量越大、質量越高，就越能取得更好的效果。例如，以ChatGPT為代表的生成式人工智能之所以能夠取得如此顯著的成果，其關鍵的原因就在于借助了海量參數的大語言模型的訓練。但就目前而言，大語言模型的主要技術框架來源于域外國家，基于西方價值觀和思維導向建立，因此其中的回答也通常迎合西方立場和喜好，可能導致意識形態滲透。司法不僅關系到個人的權利義務分配、社會矛盾的化解，更與國家的核心價值、意識形態密切相關。因而，一方面要規范人工智能司法的數據處理，強化數據應用監管，另一方面也要強化司法數據跨境流動的管理，防范危害國家安全的數據被境外利用。為此，我國數據安全法專門就數據安全予以規定。個人信息安全是算法風險的另一個表現。數字時代，依據個體信息數據所有行為都將變得“有跡可循”。為獲得更為適配、更為精準的算法服務就不可避免地涉及對個人信息的收集、處理。實踐中，德國、英國、加拿大等諸多國家都紛紛表示將以個人信息權益保護與數據安全為由對OpenAI展開調查。因此，個人信息安全也成為人工智能技術固有風險之一。除此之外，受現有技術的瓶頸影響，人工智能系統自身也具有不可回避的安全風險。例如，各國政府部門以及相關組織已經意識到，人工智能技術的發展需要制定一個規范和可信賴的框架來保障人類免受傷害。但就目前的技術而言，實現完全意義上的算法透明、算法可解釋仍然具有一定差距。

總之，以算法司法為本質的人工智能司法在體現形式理性特征的基礎上，也面臨著程序風險、實體風險以及技術固有風險三重危機。但歸根結底，引發上述危機的實質原因是算法訓練的數據、算法運算的模型、算法輸出的結果等因素，算法是造成危機的根源。

三、人工智能司法的完善：算法中心的治理模式

圍繞算法司法、算法正義以及算法所引發的風險，人工智能司法的完善應當以算法為中心展開，通過對算法中心治理模式的構建，實現人工智能司法的深入推進。當前，前置性學習訓練及人工標注輔助算法升級的準備階段，進行自身算法處理輸入數據及得出處理后數據產出物的運算階段，數據產出物流入社會并對社會中的各行各業造成影響的生成階段是人工智能運行的三個基本階段。因此，訓練數據、運算模型以及輸出結果是算法中心治理模式的三個重要組成。

（一）強化算法訓練的數據

數據是知識形成和文明進步的重要象征，是人類認識客觀世界的產物。數據不僅關涉到國家、社會、公眾的數字權益保護，同時也與算法輸出結果的客觀、中立密切相關。因此，對于算法訓練數據的增強應當分別從數字權益與數字來源兩個方面展開。

具體而言，在數字權益方面，算法訓練數據的增強應當嚴格依照知情同意的法律框架展開，增強數據使用的合法性。法律層面，我國相繼制定的數據安全法、個人信息保護法等系列法律分別對數據的收集、處理予以了規定。與此同時，2022年11月，國家互聯網信息辦公室、工業和信息化部、公安部聯合發布的《互聯網信息服務深度合成管理規定》規定，深度合成服務提供者和技術支持者應當采取必要措施保障訓練數據安全、遵守個人信息保護的有關規定，提供人臉、人聲等生物識別信息編輯功能的，應當提示深度合成服務使用者依法告知被編輯的個人，并取得其單獨同意。2023年8月15日施行的《生成式人工智能服務管理暫行辦法》也再次明確，生成式人工智能服務提供者應當使用具有合法來源的數據和基礎模型、取得個人同意的信息等依法開展預訓練、優化訓練等訓練數據處理活動。由此可見，盡管在體系上比較分散，但根據相關的法律規定，個人數據處理者在處理個人數據之前，必須具有法律根據。在此基礎上，對于算法訓練數據的強化可通過個人信息收集、提供和共享三個層面的規則構建，來防范智能技術應用造成的安全風險。在數字來源方面，算法訓練數據的增強關鍵在于構建統一的司法數字資源庫。依據《人工智能司法意見》的規劃，未來，推進人工智能司法應用需要加快推進司法數據庫、數據服務平臺、司法知識庫、人工智能引擎等系統的建設和集成，打造實體化司法數據中臺和智慧法院大腦，為面向各類業務的人工智能司法應用提供核心驅動。在此基礎上，數字資源庫將是人工智能司法建設的重要內容，是人工智能司法的基礎性建設。為此，構建司法數字資源庫需要分別從如下兩個方面展開：一是，通過司法數字庫的構建，實現對現有司法資源的統一，形成包括法律法規、司法文書、法律期刊、法律專著等文本數字，庭審直播、庭審錄像等視頻數字，訴訟流程、司法管理等信息數字的多模態數字資源庫，為智能化算法訓練提供充足的數字資源。二是，通過司法數字庫的構建，實現對關鍵數字的清洗、篩選，促使算法訓練的數據已經實現個人信息匿名、敏感信息清洗、失真信息篩選，進而增強數據的高質量。

總之，數據作為算法治理的基礎與前提，既要推進司法數據收集、處理的合規合法，強化數據保護，也要通過司法數據資源庫的構建提高數量與質量，為算法訓練提供充足燃料。

（二）優化算法運行的模型

通過對模型的優化能夠顯著提升算法的理解、交互等能力的提升， 進而促進人工智能司法的完善。面向生成式人工智能的未來實踐， 新一代法律智能系統呈現出基于大語言模型與法律專家知識相融合的趨勢，因此，對算法模型的優化可以分別從如下兩個方面展開。

一方面，借助大語言模型中的微調指令，實現對算法模型的優化，促進人工智能司法的完善。實踐已經證明，在微調指令的助力下，以ChatGPT為代表的生成式人工智能不僅能夠處理文本分類、語義分析、信息提取、文本生成、自動文摘、機器翻譯、對話系統、信息檢索等自然語言核心任務，同時還能夠實現指令表達由“人類適配機器”向“機器適配人類”的轉變，只要人類開口表達訴求，人工智能就能夠理解并幫助人類進行解答。因而，對算法模型優化的一個可能的路徑是強化對司法領域內的微調指令。面向司法領域內微調指令主要集中在如下三點：一是，構建以法言法語為主要應用場景的交互微調指令，提升人工智能技術在司法場景內的交互能力，進而提升算法決策過程中當事人的參與性。二是，強化價值對齊的微調指令，實現對算法偏見的矯正，進而促進算法結果的客觀性。三是，在技術維度探索算法的可解釋性，推進算法模型的透明，消解算法的固有技術風險。另一方面，構建法律專家參與的算法模型，通過法律知識在算法中的運行強化人工智能司法的可解釋性。算法正義并非天然隔絕程序正義與實體正義，相反，程序的參與性、中立性、對等性等程序正義要素完全可以通過人機交互設計予以保障。例如，數字智能時代下的法官親歷性不僅要求法官對決策過程的物理在場，還需要法官對訴訟智能化過程的數字在場，可以通過訴訟智能化系統相關系數的調節實現對待決案件關鍵要素的輸入把關與結果檢驗，進而完成裁判的最終作出。與之類似，借助法律專家的法律知識體系實現對法律知識圖譜的構建，進而完善人工智能司法的算法模型。

總之，伴隨著人工智能的技術發展，針對智能技術的微調指令、優化算法也在取得顯著進步，“法律知識圖譜+大語言模型”的復合性算法也成為可能，在此背景下，面對算法所引發的安全風險一定程度上可以通過對算法模型的優化予以解決。

（三）糾偏算法輸出的結果

不論是程序風險、實體風險還是技術固有風險，風險總是會以算法輸出結果的形式表現出來。盡管人工智能司法的本質是算法司法，呈現出法官后撤的實踐特征，但正如前文已經提及的那樣，法官后撤并不是法官離場，而是由“幕前主導”轉變為“幕后監管”。形式理性主導下的實質正義仍然需要數據的標注實現算法價值的對齊。因此，在算法司法的場域里，司法人員仍然需要對算法輸出的結果糾偏。實踐中，基于人類反饋的強化學習機制，以ChatGPT為代表的生成式人工智能已經能夠以符合人類意圖、知識觀與價值觀的方式回答問題，實現價值對齊。在此基礎上，可以通過反饋機制的構建實現對算法輸出結果的糾偏，進而實現對人工智能司法的完善。

對算法輸出結果的糾偏可以從如下三點展開。一是，從制度層面構建人工智能司法的反饋機制，實現對算法輸出結果的糾偏。按照《人工智能司法意見》的規劃，未來階段要通過司法人工智能倫理委員會等機制，綜合采用倫理審核、合規審查、安全評估等方式，防范化解人工智能應用過程中的安全風險。2022年，中共中央辦公廳、國務院辦公廳印發的《關于加強科技倫理治理的意見》也為加強科技倫理（審查）委員會建設提供了指導意見。2023年10月，科技部、教育部、工業和信息化部等部委聯合印發的《科技倫理審查辦法（試行）》更是對科技倫理審查的主體、內容以及程序進行了具體規定。由此，可以在制度層面構建司法人工智能倫理委員會，通過委員會實現對算法輸出結果的審查與反饋，相關技術部門基于委員會反饋的意見對算法進行糾偏，形成“算法結果輸出—審查委員會審查反饋—算法優化再輸出”的閉環機制，進而推進人工智能司法的完善。二是，從技術層面構建可反饋、可報錯的開放性糾偏接口，引導、鼓勵司法人員對算法輸出結果的監督。事實證明，基于人類反饋的算法訓練能夠大幅提高智能技術的準確性，例如，通過對人類反饋的強化學習技術的調用，ChatGPT前所未有地實現了對人類認知機制的深度模擬，能夠更好地實現細化關系連接、個性要素的識別與內容生成。在此基礎上，人工智能司法的相關算法開發應當預留開放式的反饋接口，讓廣大的司法人員能夠及時、便捷地實現對算法輸出結果的反饋，并形成結果反饋數據庫。技術開發部門基于反饋的數據庫再對算法進行調整訓練，從而實現對人工智能司法的完善。三是，從個體層面提升司法人員的數字校驗能力，構筑算法輸出結果糾偏的個體機制。面對人工智能司法滾滾向前的時代潮流，作為司法的主體，廣大的司法工作者不可能完全脫離智能技術。事實上，進入數字時代，數字技術對勞動內容的重構迫使勞動者需要獲得新技能以適應新崗位，掌握并熟練應用數字技術已經成為數字時代的必備技能。具體到人工智能司法領域，是否能夠識別、校驗算法的輸出結果就是司法人員數字技能的一個重要方面。在此基礎上，實現對算法輸出結果的糾偏還需要從個體維度提升司法人員的數字技能。

總而言之，人工智能司法完善的中心在于算法，應當圍繞算法訓練的數據、算法運算的模型以及算法輸出的結果三個維度展開與之對應的治理。構建“數據—模型—結果”三維一體的治理模式。在此模式下，數據作為人工智能司法的前提與基礎，應當嚴格遵循我國既有的規定，在知情同意與數據安全的框架下推進司法數據的收集、處理。作為人工智能司法的中樞，算法模型可以借助微調指令、法律知識圖譜等最新的技術成果，實現對模型的優化，進而推進算法模型所可能存在的系統性偏差。作為人工智能司法的終端，算法輸出的結果需要通過制度層面的倫理審查委員會的構建、技術層面的反饋機制接口以及個體層面的數字技能三個方面展開，實現對算法輸出結果的糾偏。

結語

當前，伴隨著生成式人工智能的進步，人類正在邁入通用智能時代，智能技術將不可避免地為人類社會生活帶來前所未有的機遇與挑戰。作為社會生活的重要組成，司法生活也不可能置身事外，堅持“碎步前進”式的司法回應雖然恪守了“司法穩定”這一古老原則，但也與智能時代所要求的“敏捷治理”相抵觸。為此，我們必須直面智能技術所帶來的全新可能以及潛在的風險，穿透人工智能司法的面紗直指本質。唯有如此，才能夠統籌好智能時代的司法發展和司法安全，以新安全格局保障新發展格局。在此基礎上，人工智能司法的本質就是以法官后撤為實踐特征的算法司法，也即，用算法決策盡可能地代替法官決策，盡管最高人民法院反復強調人工智能司法的輔助性，但實踐的使然與技術發展的必然都將導致算法司法的本質無法改變，算法風險是人工智能司法風險的核心所在。所以，人工智能司法風險的治理核心是算法治理，而不是司法管理治理和合規風險治理，只有以算法為核心配合具體的治理方案才能有效防范人工智能司法的安全風險。