智能裁判風險的技術正當程序控制

王玉薇

當下，智能裁判凸顯三個方面的重要轉型：一是在技術維度上，司法裁判運作全過程都是在智能系統(tǒng)的技術邏輯操作下自動封閉完成的，這促使了人腦智能向機器智能的全面升級。二是在主體性維度上，人工智能算法的進步帶來的更深層原因是人的主體性危機。由于智能裁判運作全過程都是在算法的暗箱操控下自動進行，因而形成了“算法裁判的量化規(guī)范邏輯和經驗規(guī)范邏輯”，這就促進了自然人裁判向算法裁判的演進。三是在機制維度上，要素化裁判成為智能裁判運作的主要機制，實現了有紙化辦案向智能化輔助變革。這些轉型在有效推進數字法治建設的同時，也產生了一定的智能裁判風險后果，如何對這些風險后果進行有效控制，就成為智能裁判技術深度應用所必須解決的時代課題。

一、智能裁判的風險升級

從字面看，智能裁判主要指人工智能模仿人類智能所進行的裁判。但是，究竟能模仿或表示到什么程度，如輔助抑或替代法官裁判，最終需取決于人工智能的“智能”程度。這樣的“智能”程度顯然取決于算法技術的發(fā)展，如封閉算法和機器學習算法，兩者的迭代演進與交織并行，促使智能裁判的風險問題不斷凸顯。需要明確的是，無論算法技術如何升級，智能裁判終將只能由人類作出，機器只不過在特定事項上獨立替代法官作出裁判決策而已。

（一）從技術依賴到技術主導

眾所周知，智能裁判運作的核心在于人工智能技術的應用。人工智能技術介入裁判的根本目的應該是輔助法官進行裁判，只不過技術在其中發(fā)揮的作用不一。早期的智能裁判技術主要運用封閉規(guī)則的算法，即“基于自然語言處理、深度學習的計算機語義檢索和法律問答，幫助司法人員進行法律檢索或者關鍵信息檢索”。譬如借助電腦量刑技術，刑事法官僅僅在軟件系統(tǒng)中鍵入案件參數情況，就能夠自動生成精確的量刑結果。再如裁判文書自動生成技術，河北法院應用智能系統(tǒng)輔助法官制作255.49萬份裁判文書，能夠減輕法官30%以上的案頭事務性工作。可見，人工智能一旦介入司法裁判領域，人類勢必對技術產生極大依賴，并可能開始學習如何向機器一樣思維。

隨著算法的迭代、算力的飛速提升，特別是機器深度學習算法技術的飛速發(fā)展又給人類帶來了新的美好期待。那就是，讓機器在大數據中自主學習怎樣才能“像法官那樣”思維并作出裁判。譬如，過去只能由法官做出的事情，如撰寫裁判文書、整理卷宗材料、預測量刑等，通過機器深度學習算法，現在已經部分可以由機器獨立完成了。由此，計算機成功實現了從對案件的“處理”向“審理”的華麗轉身，并獨立作出司法決策。實踐中，廣州互聯(lián)網法院部署“數字法官助理”——第二代RPA 流程機器人，基于知識圖譜技術定向研發(fā)ZHI 系統(tǒng)，實現知識產權糾紛全要素智能審判。一旦這樣，“人類實質上就以服從歷史模型的方式臣服于機器，機器便以尊重歷史經驗的表象實際統(tǒng)治了人類，而裁判機器便成為這種統(tǒng)治模式最核心的一個‘部件’”。

（二）從輔助辦案向輔助裁判

眾所周知，智能裁判應用的主要目的在于輔助法官制作裁判文書，減輕法官案頭事務性工作并大大提升審判的智能化水平，進而成為法官辦案的重要輔助。這里的辦案輔助主要指法官辦案流程的智能輔助。在我國，很多法院推出了不同功能的智能輔助辦案系統(tǒng)。如，上海“206”刑事案件智能輔助辦案系統(tǒng)、北京“睿法官”智能研判系統(tǒng)，以及最高人民法院的“類案智能推送系統(tǒng)”等。這些產品以其強大的技術內核成為法官辦案的得力幫手。

隨著深度學習算法技術的進一步發(fā)展，我們可以實現網上立案、電子送達、電子簽章、在線遠程庭審，智慧執(zhí)行和智慧監(jiān)督等為內容的全流程網上辦案。根據有關數據統(tǒng)計，截至2020 年底，全國已有3256 家法院建成了電子卷宗隨案同步生成系統(tǒng)，73%以上的案件已經實現隨案同步生成電子卷宗，審判智能化水平實現跨越式發(fā)展。于是，人們開始幸福地憧憬著深度學習算法所勾勒出來的未來圖譜。如前面提到的廣州互聯(lián)網法院部署“數字法官助理”——第二代RPA 流程機器人可以實現知識產權糾紛全要素智能審判。如此一來，“機器能代替法官獨立完成某些司法決策”，甚至“可以代替法官直接做出裁判”。

從表層看，不管是制作電子文書和一鍵生成卷宗材料，還是強化類案檢索和同案同判；無論是量刑評估和偏離預警，還是通過深度學習不斷實現裁判全程數字化，盡管人工智能表現出明顯超越人類裁判的計算能力和精準預測性，但此時的智能裁判仍然只是傳統(tǒng)裁判的網絡化、技術化和工具化，并未對司法的本質、架構及規(guī)律造成實質性威脅，沖擊的只是司法職業(yè)，并未撼動法官裁判的最終決策權。與輔助辦案不同的是，輔助裁判可能對法官決策造成重大影響。但從深處看，無論是輔助辦案還是輔助裁判，此時智能裁判風險還相對可控，其智能量刑的參考意見、風險評估報告、類案推送結果等是否最后被采用，最終仍由人類法官自主決定。但從長遠看，工具主義無限擴張對司法裁判的最大威脅在于，法院的裁決將貶值為廉價易用的應用軟件，法官職業(yè)就不可避免地趨向消亡。

（三）從改變機制到觸及屬性

誠然，要素式審判是智能裁判運作的重要機制。其基本原理主要借助智能機器和機器深度學習技術，圍繞爭議要素從已有司法大數據里的案例和判決中進行自動抓取，然后自動生成裁判文書，為法官判決提供參考。這樣做的好處是，客觀上簡化了審判流程，實質上讓案件裁判提質、增速、看得見。據統(tǒng)計，2020 年，人民法院建成以全國法院“一張網”為代表的全要素一體化的人民法院信息基礎設施。然而，要素式裁判機制對爭議要素的自動抓取不僅會引發(fā)司法行政權的擴張和個人程序參與權的縮小，而且會阻礙數字人權的實現，如裁判文書公開及自動生成，數據挖掘及數據鴻溝等會對個人的信息權、隱私權等基本人權構成較大威脅，這將大大動搖司法裁判保障人權的基本屬性。理由是，“無論個人信息處理行為是否基于個人的同意，處理者原則上都負有告知的義務，除非法律規(guī)定了可以免于告知”。

須知，智能裁判本質上呼喚的是數據多跑路、人少跑路，實現數字正義。但在算法黑箱、算法進一步本體化的指引下，算法實則替代法官成為裁判者。這樣一來，依法裁判將變?yōu)橐罃祿门校酪?guī)則裁判也將變?yōu)橐酪?guī)律裁判，法官裁判將變成算法裁判，司法自治的理想將成為泡影。這必然會顛覆司法正義，以及法治的諸多假設，甚至機器替代法官成為決策主體作出的判決是否具有可接受性，均存在疑問。

申言之，“由于大數據與深度學習技術，算法進一步演化為本體化的算法”，這直接產生兩方面的后果：一方面，如果智能裁判算法使用了大數據和深度學習技術，則會陷入“技術黑箱”困境，一定程度上還會削減公民個體的程序權利，也必然影響著公民個體實體權利的行使。另一方面，算法一旦實現本體化，機器替代法官成為決策主體，消解人的自主權，則違背了人類發(fā)明人工智能的初衷，進而觸及司法的本質和精神。

二、智能裁判風險升級的法律后果

在當今智慧司法的實踐中，智能裁判的發(fā)展已經勢不可當，但我們不應盲目樂觀而應理性和審慎對待。更要深刻地認識到，智能裁判在提高司法質效和促進可視正義實現的同時，也因其對技術的過度依賴、算法決策的應用和要素式審判的實踐而促使其風險不斷升級。因此，我們需要對智能裁律風險升級的法律后果進行類型化研究，以利于智能裁判改革的有序推進。

（一）技術依賴減損正當程序價值

智能裁判是指“利用好現有大數據資源、已有的法學理論研究成果和日趨完善的AI 模型算法，通過橫向對案件標準化要件提取與標注、縱向對裁判思維的梳理與整合等進行多重維度的深挖以構建民商事案件智能辦案系統(tǒng)”。如此操作可以大大提高司法裁判質效，促進類案裁判標準統(tǒng)一。但其對人工智能技術的過分依賴，不可避免地會對正當程序價值有所影響和沖擊。

其一，技術程序標準有局限。在智能裁判問題上，智能互聯(lián)網的優(yōu)勢在于場景定制和程序建模，從而形成一套算法來提供智能化的產品和服務。其運作機理主要是通過計算機編程程序模擬、歸納和回答計算機系統(tǒng)能夠識別的法律規(guī)范和法律事實，從而使法庭所使用的推理標準化和趨同化。如此，“‘簡化裁判過程’和‘消解價值判斷’的雙重策略均與司法的一般性質相悖”。更為嚴重的是，計算機編程的智能性、高效性和便宜性將大大改變原有程序規(guī)則生成的本源環(huán)境，迫使司法正義被解構重組，進而對法官獨立行使審判權原則和公民訴訟權利平等原則等造成重大影響和干擾，這與正當程序所追求的獨立性、中立性和人權性等價值正好背道而馳。一方面，計算機編程程序限制了法官、當事人和其他訴訟主體間的互動與溝通；另一方面，計算機編程程序還限制了案件結果的互動、辯論和說明理由等正當程序價值的實現。

其二，技術封閉影響訴權平等。如前所述，智能裁判是通過計算機編程提前將現實世界的法律規(guī)范和法律事實遵循“0”和“1”編譯方式提前植入機器程序中，從而促進類案裁判標準統(tǒng)一。而這些算法及程序的設計和運行過程往往都由計算機程序員或機器來操作的，無論是法官，或是案件當事人，還是其他訴訟主體都無從知曉。相反，現實世界的司法裁判則是在法律規(guī)范和案件事實之間不斷溝通、來回穿梭、綜合選擇的結果。如果一味地過度依賴人工智能技術在智能裁判中的功效，雖然短期內裁判質效可能會大幅度提升，例如類案智能檢索系統(tǒng)檢索的結果更加客觀公正，但是隨著智能技術的深入推廣，這會使司法裁判活動的程序內核可能存在被智能技術的低成本部分所替代的風險。例如送達的電子化、庭審的網絡化使得原有的送達本人有效原則、庭審的對席原則和直接審理原則等均受到重大挑戰(zhàn)。

此外，被送達人的知情權、法院與當事人面對面直接溝通，以及直觀獲取訴訟信息的權利也將面臨重大挑戰(zhàn)。在國外著名的盧米斯案件中，盧米斯認為“按照美國憲法第六修正案，被告人有權知道被控告的理由，法院依據COMPAS 的評估對其加以判決侵犯了其正當程序權利”，但這樣的判決及操作仍無法預防和提醒法官算法評估的危險性、危害性和偏見性。從表面看，上述判決前調查報告制度和算法評估似乎已經為當事人正當權利的行使提供了可靠的程序保障，但深入分析和觀察后我們不難發(fā)現，上述做法過分自信地夸大了法官對算法評估的控制能力，加劇智能技術的工具性對程序中立性和獨立性價值的沖擊。

其三，技術失誤產生不公。一般來看，傳統(tǒng)司法訴訟過程的實現是由作為裁判者的法官、當事人，以及訴訟參與人共同辯論、協(xié)商、互動的結果。然而，隨著司法大數據在裁判領域的推廣應用，人工智能技術的工具價值日漸凸顯并慢慢地滲透甚至操控了司法裁判的全過程。與此同時，法官等司法人員由于對人工智能技術產生了強烈依賴和迷戀，如若過度依賴則不僅容易形成不公正判決或誤判，還可能增加新的訴訟發(fā)生的風險，這將整體上大大增加了訴訟時間和司法成本。從根源上看，智能裁判結論形成的主要依據是司法大數據中隱藏的規(guī)律性、預測性和數據間的相關性，這就很容易忽視司法裁判的論辯性、價值性和因果性，進而產生裁判的錯誤或不公正。如學者指出的，“運用此種模式化程序大大加快案件審理進程的同時導致對實體公正的損害、甚至導致錯誤裁判”。

（二）算法決策妨害數字人權實現

如前所述，智能裁判主要指機器替代法官進行的裁判。換言之，在某些事項上，機器或算法可以代替法官直接作出裁判或獨立完成某些司法決策。這樣一來，“糾紛中的人文關懷、法官與當事人等主體的主體性則會逐漸被吞噬”，數字人權受到極大侵犯。

首先，威脅法官審判主體地位。誠然，智能裁判是通過計算機算法依據司法大數據模擬法官裁判思維進行經驗式和規(guī)律性推理的。那么，智能裁判首先面臨的問題便是機器是否擁有審判權以及這種審判權的正當性及合法性問題。無論智慧司法建設如何推進，當下審判權的形成以及審判機構的組成和功能都是基于人類社會自身發(fā)展和進步的客觀需要，其目的在于實現人類自身的秩序、安全、法治、權利、平等、正義等法律價值的需要。換言之，無論社會發(fā)展如何進步，司法制度如何演進，司法文明如何體現，所有這些都應以人類自身的客觀需要與美好生活愿景為根本前提，任何除了人本身的物種來審判人類必將遭受裁判正當性和合法性的質疑。

進一步說，智能裁判結論是由機器基于深度學習而自主作出的，顯然機器在某種程度上實現并完成了對人類的審判，其替代人類作出裁判的結果必將遭受裁判正當性和合法性的懷疑。比如在刑事司法領域，故意殺人罪的定罪與量刑是刑法規(guī)范與非刑法規(guī)范綜合作用而形成的復雜結果。首先刑法規(guī)范必須明確。其次刑事政策、文化傳統(tǒng)、道德習慣、公眾輿論、司法經驗等非刑法規(guī)范因素也是該類案件定罪與量刑必須要考量的因素。在民事司法領域，經常存在適用法律原則（公序良俗、情勢變更等）、價值評價性規(guī)定（顯失公平、惡意串通等）、程序性規(guī)定（重大誤解、顯失公平等）等情形。由于人工智能畢竟是機器，很難具有自由意志和人類情感，尤其是“當事人提出的情感訴求和非理性訴求，并不能靠數學模型和高速計算得出的‘正確結果’去化解”。因此，智能裁判無法對法律案件中紛繁復雜的規(guī)范性與非法規(guī)范性因素進行綜合權衡和理性回應，于是很容易使案件中當事人的基本訴權受到重大侵犯和嚴重影響。

其次，阻礙數字正義實現。誠然，智能裁判的運行實踐與設計初衷就是要讓數據多跑路，讓群眾少跑路，最終實現司法親民化和數字正義。實踐中，浙江通過“全域數字法院”建設，實現全流程智能輔助，推動整體智治與數字正義的全面實現。而上述“全域數字法院”實踐有效推進的重要前提恰恰是必須保證智能司法資源人人享有并平等參與，特別是話語權較弱的數字弱勢群體（如不熟悉數字產品、不會使用數字產品等）也能通過智能裁判尋求更快捷、便利的權利救濟。如若不然則會形成三道“智能裁判鴻溝”，即無法接觸到智能裁判而產生的“接入溝”、無法使用智能司法技術而產生的“使用溝”、無法平等獲得參與和熟知智能裁判操作與運行的“知識溝”。這三道“智能裁判鴻溝”在很大程度上使得數字弱勢群體的數字人權面臨極大威脅。

從智能裁判的“接入溝”看，公眾對智能裁判算法的設定過程及基本原則等細節(jié)一般都無從知曉。由此，智能裁判根據智能算法所得出的有關案件預測結果、量刑適用參考結論、權利義務配置等具體內容，可能在形式上或外觀上并不違法，但在合理性和正當性方面卻存在諸多爭議，更不符合實質正義的價值追求。如有學者認為的，“出自技術人員之手的算法用在審判的過程中，扮演了決策者的角色，其正當性首先在理論層面引起了懷疑”。從智能裁判的“使用溝”看，很多公眾對智能裁判技術、業(yè)務平臺，以及流程并不太熟悉，這容易引發(fā)公眾對智能裁判結論正當性和合法性的雙重拷問，嚴重的將阻礙智能裁判本身的正義性和公平性。從智能裁判的“知識溝”看，很多公眾對智能裁判的運行原理和知識并不通曉。如前所述，智能裁判運作的本心是想用機器替代人類進行司法裁判或作出司法決策，“而一旦人腦決策過度依賴算法決策，甚至算法決策替代了人腦決策的話，人權遭遇侵犯以及人權保護的樣態(tài)也將會發(fā)生重大改變”。

再次，阻礙公民知情權實現。誠然，智能裁判憑借其背后強大的算法技術和大數據支持，順利依據群體數據對待決案件作出司法決策，從而使司法裁判提速增效。然而，群體數據獲取過程中很容易侵犯個人信息的平等權。它常常以侵犯、抓取、泄露個人信息隱私等為代價建立司法大數據，勢必對公民數字知情權和數字參與權構成較大阻礙。譬如，智能算法黑箱的存在使得庭審控辯的三角結構發(fā)生嚴重失衡，被告人的一系列訴訟權利，特別是辯方的質證權、辯護權和提出回避權等都將受到重大影響。由此，智能裁判使得機器法官成了一個霸道的裁判者，就連法官自己都無從知曉智能算法是什么以及如何運行的情形下，何談對公民數字知情權和數字參與權的保障呢？在刑法領域，人工智能常常被用來輔助量刑，然而輔助量刑技術背后的算法黑箱、數據不全面、唯公權力化等因素，都可能會影響個案的實質公正性。這樣一來，技術可能不當干預或操控法院的審判信息和當事人的證據信息，甚至替代國家權力進行干預審判過程，這是極為嚴重的。實踐中，杭州互聯(lián)網法院依托阿里巴巴技術公司建立訴訟平臺，深圳法院依托騰訊公司的人工智能技術進行類似審判。可以說，在一定程度上技術可能成功俘虜了法院判決的公正性，這也是大型網絡公司商業(yè)利益驅動的必然結果。

（三）要素式裁判解構實質正義

要素式裁判是智能裁判運作的重要機制。其基本原理主要借助人工智能、法律知識圖譜、法律大數據自動識別并抓取案件裁判中必備的法律要素和事實要素，重點圍繞爭議要素進行自動整理、歸納，并抓取數據庫已有案例和判決的共性規(guī)律后批量自動生成裁判文書并予以判決，客觀上簡化了審理流程，實質上讓案件裁判提質增速看得見，摸得著，但卻因智能裁判要素不完備和提前設定而引發(fā)如下三個問題：

一是“要素”不完備阻礙個案可視正義。實踐發(fā)展表明，“要素”索引系統(tǒng)越完備，依據其作出的預測結果才會越準確。令人遺憾的是，“要素”索引系統(tǒng)可能永遠是“不夠完備的”，因此依其作出的審查意見和量刑參考就會出錯。理由恰是，“要素”索引系統(tǒng)既無法應對千變萬化的法律事實和頻繁出臺的法律規(guī)范，也無法應對法律實踐中的新型案件和復雜案件，因而會阻礙待決案件的實際匹配質量和實質正義。其根源可追溯到“要素”索引系統(tǒng)的預先設定性。“要素”索引系統(tǒng)的提前設定并不能滿足一些新型案件和復雜案件的個案需求，根據過往案件而建立的預測模型所得出的審查意見和量刑參考只能是概率性的預測判斷。相較于基于質量較差、參差不齊的類案歸納出來的“普遍正義”，當事人毋寧寄希望于法官通過充分說理所得出的“個別正義”。這樣一來，“要素”索引系統(tǒng)的預先設定很可能就會出錯或遺漏，從而導致不相似案件“成功”匹配、相似案件失之交臂的雙重嚴重后果。山東省高級人民法院印發(fā)《要素式審判方式指引（試行）》的通知，規(guī)定要素式智能優(yōu)先選擇案由為金融借款合同糾紛、物業(yè)服務合同糾紛、離婚糾紛等類型案件。這就意味著沒有被要素式智能裁判優(yōu)先選擇的案件可能不能或較少適用智能裁判，影響智能裁判效果的全覆蓋和全面可視正義價值的最終實現。

二是“要素”僵硬影響個案結果互動。眾所周知，司法裁判需要憑借法官高度理性和豐富經驗反復比較、衡量，以及博弈后作出最佳選擇，而這顯然是智能機器依靠的僵硬算法邏輯所不能企及的。此外，更為重要的是，“大數據預測在簡單案件中或許能夠實現同案同判的目標，但是在大多數情形下同案同判仍然要依賴人類自己的理性判斷”。這就意味著智能裁判無法做到對案件的全樣本進行采集，也無法實現待決案件和已決案件的即時性和同步性。實踐中，智能技術并不能對復雜案件、疑難案件的全部信息和全部過程進行抓取，其只能提供一種相對標準化、選擇化的要素供智能裁判系統(tǒng)深度學習。而這樣的相對標準化要素恰恰無法滿足法官個案裁判時的個性化、特殊化、場景化和語境化需求。即便是上述需求能夠實現，“要素”事實語言的轉換也面臨重大難題。譬如當下的智能裁判系統(tǒng)無法根據“事實-規(guī)范”的契合性程度以及法律術語的動態(tài)語義，合理、恰當地幫助法官在紛繁復雜的“法律-事實-價值”沖突間作出最佳取舍。

三是評價個案法律意義能力弱。按照常理，評價待決案件法律意義是一個非常復雜的過程，需要法官在法律規(guī)范與案件事實間不斷推理和反復論證方能做出最終結論。這不僅取決于單獨個案的法律意義和社會意義，更重要的是要看這個個案在法律體系中的整體性評價，而非“要素”索引系統(tǒng)儲備的共同要素數量。理由恰是即使兩個案件的共同要素很多，也不能斷定二者一定是類案。換言之，案件相似性的辨析任務主要還是由人類來完成，而理解和評價案件的關聯(lián)性、整體性和動態(tài)性正是智能機器思維和認知的短板，嚴重的將導致智能裁判淪為機械裁判，最終可能會走向數字正義的對立面。

三、基于技術正當程序的風險控制

隨著法院信息化發(fā)展的不斷推進，智能裁判風險升級后的法律后果也愈加嚴重。因此，需要構建以技術規(guī)制技術的正當性程序，實現對技術應用的緊急處理、監(jiān)督、歸責和有限公開，并“借助于技術程序的正當性來強化智能決策系統(tǒng)的透明性、可審查性和可解釋性”，持續(xù)通過對算法的監(jiān)督、修正程序保障數字人權，不斷完善要素式裁判的人機協(xié)同策略，從整體上促進智能裁判的健康發(fā)展。

（一）以技術規(guī)制技術的正當性程序

如前所述，我國目前的智能裁判主要是在國家公權力主導下進行推動的，并呈現一定的擴張性，因其對智能技術的過分依賴從而導致正當程序價值的減損，進而使得公民訴權實現受到技術的限制，智能裁判的結果也相應出現了錯誤或不公正，因此，需要構建以技術規(guī)制技術的正當性程序，即通過程序的代碼化實現對智能裁判技術的合理規(guī)制。這就需要做到：

1.合理構建技術緊急處理和監(jiān)督程序

智能裁判的核心就是將現實社會的法律規(guī)則轉化為計算機的代碼規(guī)則，因此，從法律角度理解，首先要解決的問題便是如何保證計算機技術編程人員能夠將確定的法律規(guī)范、法律原則以及案件事實完整地輸入計算機程序中。在宏觀規(guī)劃方面，建議可從以下兩方面著手：其一，建構智能裁判標準化的數字緊急處理程序，建議在原有的程序架構中，嵌入人工智能產品或技術的設計者和開發(fā)者編寫代碼的程序規(guī)則并附帶詳細的操作流程；其二，對上述程序規(guī)則的實施情況進行監(jiān)督，并設計應急處理措施，使計算機編程過程盡可能多地設置案件結果、辯論、說明理由等互動程序，防止智能裁判技術對自然人審判主體地位以及智能裁判正當性及合法性的侵蝕，進而修正計算機編程所促成的裁判程序標準化局限。

在微觀操作方面，首先，需要對智能裁判設計本身的潛在缺陷進行事前審查，如是否對數字人權、個人信息保護和正當程序等價值構成重大影響。這就要求智能裁判設計，特別是算法設計者應當審查智能裁判的設計及相應的算法規(guī)則是否符合一定的倫理準則，如果因此缺陷導致個人權利遭受侵犯，相應的程序員、軟件工程師、數據處理商、信息技術公司應當承擔一定的設計責任。其次，智能裁判的設計應由多人分工協(xié)作來完成，每個人只知道到自己設計的任務，并不知道算法設計的全部。因此他們既無法操控算法運行的最后結果，也無法通過算法實現操控司法的目的，更無法植入算法偏見影響司法裁判。再次，建議算法部署者承擔強制性信息披露義務。算法部署者應主動向相關司法部門解釋算法及使用算法所作出的自動化裁判決策是如何產生的，并提供決策的本質性信息和論證邏輯，否則應該承當相應的不利后果。最后，明確法官與技術間的“主體-工具”關系。如前所述，智能裁判的自動化決策可能是程序員、軟件工程師、數據處理商、信息技術公司與法官共同作出的決定，這就直接沖擊了法官獨立審判的主體地位。為了遏制這種局面的持續(xù)，防止發(fā)生錯案時可以被追責，建議明確案件裁判法官和人工智能技術之間的關系，即主體與工具的關系，從而捍衛(wèi)人類法官裁判的主體地位。

2.秉持有限的技術公開原則

如前所述，智能裁判受爭議和懷疑較多的地方就是智能裁判的技術封閉性導致算法的不公開。此種不公開既包括不向法官公開，也包括不向辯護方公開，理由恰是商業(yè)秘密等商業(yè)利益保護的特殊需要。但此般操作卻忽略了技術不公開在很多情況下還涉及更基本、更重要的法益，如公民生命權、自由、平等、正義、財產等。從法理上看，這些法益往往比商業(yè)利益更具有法律價值位階上的優(yōu)先保護性，這就使得智能裁判系統(tǒng)開發(fā)商和運營商的抗辯理由顯得很不充分，且缺乏法理基礎。對此，建議推行有限的技術公開原則。其內涵主要指算法在一定范圍內可以有限度地向辯方、法官和社會公開。此外，還應當恰當保護當事人的個人信息權和隱私權，尤其是被遺忘權。因此，應該“強化訴訟中的信息開示制度，將刑事訴訟中的閱卷權改造為‘數據訪問權’”，確保被收集的個人信息僅用于智能裁判之目的。

詳細來說，需要做到以下幾點：其一，列舉智能裁判技術程序公開原則的例外情況，主要指涉及商業(yè)秘密（需要具有更強理由并進行充分的說明和論證）、公共安全、國家安全等重要法益的情形。其二，明確智能裁判技術程序公開原則的內容。除了上述例外情況，一般需要讓智能裁判所影響的相關主體參與到智能裁判決策中，以保證“數字公民”數字訴權的實現。筆者建議賦予“數字公民”對于神經網絡學習、機器自主學習、知識圖譜學習作出決策前的司法決策行為享有知情權、被通知權，以及在可能的條件下進行適當的說明理由或解釋權。其三，在極為必要的情況下，法院有強制披露智能裁判算法代碼的義務。如果認為有必要，如侵犯當事人的數字知情權、數字隱私權、數字平等權等“數字公民”基本權利的情況下，法院應該有強制披露相關智能裁判算法代碼的權力。理由恰是，算法公司的商業(yè)秘密固然重要，但與“數字公民”的基本人權相比，其位階還是要低一階，因為商業(yè)秘密只是法律關系所保護的客體，法律的終極目的在于保障基本人權，因此算法公司的商業(yè)秘密不能凌駕于數字人權之上。其四，為上述操作建構必要的程序保障。如智能裁判技術的司法監(jiān)督程序、司法聽證程序、司法責任追究程序等，其目的是保障智能裁判系統(tǒng)能夠按照事前設計好的程序規(guī)范良好運作。

3.構建技術工作失誤后的歸責路徑

由于智能裁判的運作對技術有較高依賴，因此智能技術的研發(fā)者及司法工作人員應成為歸責的主要主體。那么，如何追究上述主體的法律責任呢，合理的建議是可以考慮把“過錯推定原則”作為責任追究的主要原則之一。學者程凡卿也認為，人工智能工作失誤的歸責制度“適用過錯推定原則，由司法工作者優(yōu)先承擔失誤責任可以有效督促司法工作者認真審核、監(jiān)督人工智能的工作狀況，及時發(fā)現問題、及時改正失誤，有效防止因司法工作失誤危害社會公眾利益。同時又能防止人工智能的關聯(lián)主體之間相互推卸責任”。這樣做的好處是：其一，確保原始數據的客觀、全面、公正采集和輸入，防止原始數據偏見對程序正義和公眾利益的危害。其二，司法工作人員和技術工作人員分工明確，各司其職，保證司法活動的正常運轉。司法工作人員依法將法律規(guī)范依據合理比例編輯到人工智能系統(tǒng)程序中，而技術人員的工作應限定于智能系統(tǒng)的研發(fā)、維護和修繕，不得介入特定案件的審理和量刑。只有在例外的情況下，法官需要按特定的程序申請求助技術人員處理純粹技術問題，防止技術對司法的直接干預和操作。

（二）確立數字人權的算法矯正程序

智能裁判應具有廣泛內涵，既指輔助法官進行辦案，也指替代法官直接作出司法決策。但這兩種內涵都潛藏著威脅法官裁判主體地位、阻礙數字正義和數字公民知情權實現等風險后果。為了應對其風險后果，一個有效的路徑應是將數字人權價值設定成算法程式，通過不斷對算法的矯正和參與程序增強數字人權保障。建議做到：

一是建立算法正當性的矯正程序。如前所述，智能裁判面臨的首要問題便是智能機器通過算法的運作在某種程度上實現并完成了對人類的審判，其替代人類做出裁判的結果必將面臨裁判正當性和合法性的質疑。因此，需要通過計算機程序矯正智能裁判算法的偏見，盡可能使智能裁判系統(tǒng)“通過深度學習吸收經驗知識，形成更細微的屬性特征描述公平正義”；“通過訓練樣本數據使機器自動歸納偏見，并產出自我矯正的決策模型”，從而克服智能裁判算法在訴訟擴張使用以及外包過程中對“數字公民”數字程序參與權與數字抗辯權的阻礙。此外，還可以借鑒《歐盟數據保護條例》（GDPR）序言部分及第13 條的相關規(guī)定，賦予“數字公民”擁有對智能裁判算法自動化決策的解釋權并對其決策質疑。因此，建議訴訟平臺應該由政府主導的相對中立的企事業(yè)單位接管。在第三方算法審計機構的協(xié)助下對智能裁判算法進行定期檢測和臨時檢測，及時糾錯并改正。

二是個案實質公正實現的算法程序選擇權和參與權。這就要求做到：其一，賦予“數字公民”算法程序選擇權。誠然，智能裁判在提高裁判質效，助力類案裁判適法統(tǒng)一的過程中也對傳統(tǒng)自然人的審判主體地位、數字正義理念，以及“數字公民”的數字知情權和參與權的實現構成較大阻礙。因此，建議采取將數字人權價值設定為算法程式，通過對算法的矯正機制保障數字公民的程序選擇權、程序拒絕權和程序參與權。當智能裁判結果明顯有損個案公正時，可以賦予“數字公民”程序選擇權，即案件當事人在對智能裁判算法決策不信任的情況下，有申請啟動對算法進行解釋的權利和程序。如若相關司法機關不啟動上述程序，則應該將不啟動算法解釋程序的決定書和詳細理由一起告知當事人。其二，賦予“數字公民”享有拒絕智能裁判算法決策的權利和數字程序參與權。前一種權利主要指當事人可以自由選擇是否交由智慧法院解決糾紛，如若擔心遭遇數字鴻溝、算法偏見、算法歧視等不公正待遇，則可以拒絕算法裁判。詳細操作為：案件裁判結果出來后，法官告知案件雙方當事人有是否接受智能裁判算法結果的權利，若是不接受，雙方當事人可以在規(guī)定的時間內向法院提出，法官不得主動干預、影響智能算法裁判結果以及案件雙方事人的最后決定。后一種權利主要是指在數字程序的建設和適用過程中，當事人可通過可視化和便捷化的操作流程，以及各個節(jié)點和時段的程序推進信息，時時跟蹤案件的最近進展情況，以便更好地保障自身利益和合法權利。這兩種權利相互配合、相互補充，共同促進了數字公民司法權利保障體系的發(fā)展和完善。

三是同步搭配彌補數字鴻溝的司法輔助性資源。如前所述，智能裁判的設計初衷和美好愿景是讓普通民眾足不出戶或更便利地感受到公平正義。然而，很多普通民眾，特別是話語權較弱的數字弱勢群體卻很難參與其中。因此，需要法院為數字弱勢群體提供彌補數字鴻溝的輔助性數字資源。實踐中，奉化法院采用“共享法庭”僅用3天時間“一攬子”解決了24家商戶的群體性糾紛。浙江麗水景寧通過在郵政網點建立的“共享法庭”，為當事人提供穩(wěn)定的信息化環(huán)境、貼心的信息化指導、便捷的信息化服務，順利解決債務糾紛。此外，為了更好地保障數字人權和實現個案實質公正，司法機關應“兼顧少數群體價值觀、風俗習慣以及經濟水平等方面的殊異性，并在尊重被告人算法選擇權的基礎上，開展主審法官的伴隨性審查程序”。

（三）修正要素式裁判的人機協(xié)同

要素式裁判是智能裁判運作的重要機制，其主要通過要素的設定、篩選、模型建構等程序最終實現對案件結果的預測和評估的。然而其設定的不完備性、僵硬性和評價個案法律意義能力弱等不足，阻礙了個案可視正義的實現和個案結果的互動。因此，需要通過人機協(xié)同策略來規(guī)制要素式裁判機制的風險，促進其有序運作。

首先，強化“人機合作”要素清單管理和歸責。如前所述，智能裁判主要是運用機器深度學習算法技術讓機器在大數據中自主學習如何像“法官”“一樣判案，其運作形式也是多種多樣的，如自動歸納案件情節(jié)和爭議焦點、自動生成裁判提綱等，進而為法官裁判提供智能輔助。如“智慧審判蘇州模式”和“睿法官”智能研判系統(tǒng)等。從上可知，要素式裁判正常運作的首要前提是需要有法律規(guī)定和已裁判案件的公訴意見書、起訴書、答辯狀等材料，在此經驗基礎上才能自動生成庭審提綱或庭審要點，進而為法官裁判提供智能輔助。隨之而來的問題是，如何用已有法律規(guī)定和案件事實來裁判法律實踐中的新型案件和復雜案件，其正當性和合理性何在？這就需要通過“負面清單+責任”制度的雙層構建來增強要素式裁判的有效性。其一，強化“人機合作”要素清單管理。具體操作方法是，“凡是與裁量性判斷有關的數據，特別是既有智能系統(tǒng)的數據更新，提供主體必須保持唯一性——司法官和司法機關”，而對法律及如何適用問題則由機器進行。同時，要求智能裁判要素所遇到的問題必須細化、量化并生成要素清單，確保件件有落實、事事有回應，實現“發(fā)現—反饋—整改—共享”。其二，嚴格落實“誰決定誰負責”的責任制度，合理劃定人工智能輔助裁判的范圍與限度。一般而言，新型、復雜等重要案件事實和價值判斷等問題一般由法官承擔主要責任，而數據統(tǒng)計、程序推進一般由智能裁判輔助系統(tǒng)來承擔。

其次，通過知識圖譜助推事實語言轉換。眾所周知，智能裁判的一個難題在于事實語言的轉換，這直接影響到個案裁判結果是否公正。建議通過基于多種語義自動抽取與人工標注模型的“人機合作”路徑完善人工智能事實語言的轉化。通過智能機器對已有案件要素進行自動抽取、識別、檢驗和審查，然后再把以上評價結果交由人工按照多種語義把相關要素內涵標注出來，隨后分別建立案情要素標簽數據庫和相關模型系統(tǒng)以供機器自我學習并更準確地識別案件事實，確保普通民眾在智能裁判個案中感受到公平正義和獲得感。此外，還建議“有關方面對通用智能系統(tǒng)的研發(fā)依據、應用影響等，做審慎判斷”。

再次，構建科學合理標準，增強案件評價的說理性。如前所述，要素式裁判機制是智慧法院建設實現全流程網上辦案、完善信息化辦案“最后一公里”、助力類案適法統(tǒng)一，以及破解“案多人少”結構性矛盾的現實需求。但在實踐中，卻存在不能理解待決案件法律意義的問題。因此，需要依照“機器智能與人腦智能的模仿度、算法裁判與自然人裁判的吻合度、要素抓取與個人隱私的保護度”三個標準校驗智能裁判結果的合法性、合理性、正當性，并需要將修改的理由和論證材料以備注形式呈現在智能裁判的評估結論中。此外，需要增強待決案件法律意義評價的說理性。其目的在于促進可視正義向說得出的正義邁進，進而提高智能裁判結論的可接受性。待決案件法律意義評價說理要做到四個層面，即法理、情理、事理、文理的統(tǒng)一，進而增強案件評價的可論證性和可辯駁性。

結語

智能裁判的經驗表明：智能裁判已是新興科技賦能智慧司法的大勢所趨。基于人工智能正加速應用于司法裁判中，智能裁判的風險正處于從技術依賴到技術主導、從辦案輔助向輔助裁判、從改變機制到觸及屬性的不斷升級中。其所引發(fā)的正當程序價值減損、數字人權保障危機和解構司法正義等法律后果也愈加嚴重，并使得傳統(tǒng)司法正當程序面臨自動化決策的挑戰(zhàn)。這些都是新時代智能裁判深入推進所必須解決的時代課題。

誠然，智能裁判涉及以下三個重要問題：一是，為何要推進智能裁判；二是，如何推進智能裁判；三是，推進智能裁判后的實際效果如何。先來看第一個問題，建設智能裁判的初衷一般可以歸納為提升司法審判質效、解決司法機關案多人少難題、提高裁判結果精準化，以及促進可視正義實現等。再來看第二個問題，如何推進智能裁判，主要運用要素化裁判機制，通過人工智能技術自動歸納案件情節(jié)和爭議焦點，自動生成庭審提綱，為法官提供庭審智能輔助。最后看智能裁判運作的效果，其在促進司法現代化、智能化、信息化的同時，也侵犯了“數字公民”的信息平等權和信息知情權等基本權利。這樣看來，智能裁判的運作就遠遠偏離了智能裁判建設的初衷。筆者認為，問題的根源在于智能裁判的功能發(fā)生了異化，從智能裁判的外部觀察看，智能裁判的功能不僅包括大大提升司法質效，更重要的是要保障“數字公民”的基本權利，只有二者同時實現，智能裁判的操作才有意義，亦才有未來。