人工智能輔助量刑系統的現實風險及其治理路徑研究

郭若宇

（山東大學 法學院，山東 青島 266200）

在信息技術飛速發展的今天，大數據、人工智能、云計算為司法實務助力賦能，人工智能輔助量刑逐步成為我國司法量刑的重要輔助手段。特別是隨著認罪認罰從寬制度從部分試點到正式入法，人民法院作出判決時既要同意檢察機關指控的罪名，又要同意檢察機關的量刑建議[1]1-12，由此科學而準確的量刑建議既是當前辦案質量的核心考核指標，也是創新辦案機制的新要求，在此背景下人工智能輔助量刑系統的風險與治理成為亟需探討的重要課題。

需要注意的是，“人工智能輔助量刑”與 “電腦量刑”有著根本差異。“電腦量刑系統”以2004 年3 月山東省淄博市淄川區人民法院研制的“規范量刑軟件管理系統”為代表，該軟件以《量刑規范化實施細則》作為“規范量刑軟件管理系統”數據資料庫，將1300 余件已審結的刑事案件歸納為財產犯罪、職務犯罪和暴力犯罪等十一種犯罪類型，再將每一類案件審理過程、量刑情況和裁判結果等分類統計并輸入電腦，在法官的操作和監督下，電腦根據儲存的法律條文和有關細則進行信息檢索和公式計算輸出量刑結果[2]。所謂的“電腦量刑”本質上為關聯要素檢索系統[3]271-279，即根據量刑細則進行檢索，或根據關鍵詞相關聯的程度搜尋法規或判決。此系統的工作原理是通過統計數據來計算相似度，如果邏輯上相似就會以關聯比率計算歸類為有關聯的法規或判決。而人工智能是以人工方式創作出來、擁有智能的實體，或指為了創造出這類產物的智慧本身，系通過機器學習習得人類思考能力的技術[4]1015-1042，以計算機程序模仿人類思考模式的結果，進行數據搜集、分析，以更為準確高效的程式進行運算，其數據抓取與運算能力遠勝于電腦量刑系統。目前人工智能輔助量刑系統在司法審判中可用作法律檢索分析、風險評估工具、計算量刑基準、鑒識輔助系統、預測犯罪熱點執法，應用范圍亦遠大于電腦量刑系統。因此，人工智能輔助量刑并不等同于“電腦量刑”，本文的研究對象為人工智能輔助量刑系統。

人工智能輔助量刑存在系統上的風險，且量刑系統的透明性與可受監督性也存有疑問。另外，人工智能輔助量刑系統研發的重要原因是為了量刑規范化和高效化，但是在弱人工智能時代，智能輔助量刑工具的應用可能導致量刑結果不準確、量刑過程侵害當事人權益的現象，甚至存在引發新一輪訴訟的風險，反而有損于司法公信力與訴訟效率。本文對人工智能技術應用于刑事司法領域進行研究，分析人工智能量刑系統司法實踐層面的風險及成因，并探究現實風險治理的具體路徑。

一、人工智能輔助量刑系統的實踐樣態

人工智能輔助量刑系統已經有了豐富的實踐。在我國，2017 年貴州省高級人民法院采用的“大數據分析平臺”、2018 年蘇州市中級人民法院上線的“智慧審判系統”、2019 年廣東博維創遠科技有限公司研發并推廣的“小包公”智能定罪與量刑系統等都包含了人工智能輔助量刑這一核心功能。在域外，美國的風險評估系統（Riskneed Assessment Tool）、英國的HART 風險評估系統（Harm Assessment Risk Tool）都是運用比較廣泛的人工智能量刑輔助系統。

2017 年貴州省高級人民法院采用的“大數據分析平臺”，對具體案件評查“案件偏離程度”，如果程度過高則會提醒法官及案管部門來保證量刑精準、同案同判。2018 年蘇州法院上線的“同案同判數據監測系統”結合江蘇省有關危險駕駛罪的量刑指導意見，通過大數據分析近五年來全省各地法院審結的相似案件，自動生成刑事案件量刑預判結果。2019 年推廣的“小包公”智能定罪與量刑系統提供200 多個罪名的精準量刑預測及說理過程，通過大數據類案查詢提供類案判決，生成全案的定罪量刑分析報告，通過理論量刑預測和實際量刑分析“雙系統”幫助法官準確定罪量刑。2020 年上海市虹口區檢察院上線的“智能量刑小程序”，為弱化地域差異對量刑的影響，僅選取上海本地近10 年的刑事判決書填充數據資料庫，在小程序中輸入 “核心量刑情節”和“罪名”后生成“量刑可視化圖表”。

在美國，人工智能輔助量刑系統早已在司法實踐中得到應用。在該系統中計算機通過機器學習習得人類思考技術，而后根據具體案件的犯罪事實和犯罪嫌疑人或被告人的犯罪動機、反社會同伴、認知、教育、家庭、財務、醫療、心理健康、興趣愛好、藥物濫用、創傷和工作等不同因素所形成的加權值進行機器運算，通過習得的人類思考技術計算、整理與分析數值，從而預測被告人或犯罪嫌疑人的再犯率[5]39-47。

然而，該系統技術上仍然存在障礙與局限性，實踐中引發諸多爭議，甚至導致新一輪爭訟現象的出現。是繼續推進該技術的前進還是在落實有意義審查后再禁止不透明的人工智能應用于刑事司法程序中，仍然是一個值得討論的問題。當前，檢察官、法官和當事人對這種工具的應用帶來的負面影響聚訟紛紜。首先，人工智能量刑輔助系統的研發公司如果以保護商業秘密為由不公開評估過程記錄，則系統的“算法黑箱”特性使被告沒有辦法了解與檢驗評估結果的正確性和精準性。其次，該系統減損了在司法審判中法官基于事實懷疑主義和規則懷疑主義對被告人的個性關注。再者，人工智能量刑輔助系統評估出男性的再犯率普遍高于女性，司法實踐中采用一個存在性別歧視的系統輔助量刑違反憲法原則。

二、人工智能輔助量刑系統的現實風險

從算法自動化決策在刑事司法實踐中的爭議中可以窺測人工智能法律輔助量刑系統的一系列現實風險。

（一）量刑機械主義傾向

量刑的權衡沒有公認的統一標準，而是多元化的。所以在現代法治社會的量刑具有豐富性和靈活性，遠非機械式計算。檢察官在行使量刑建議權或法官在行使量刑權的過程是一個價值判斷的過程，包含著檢察官和法官在長期審判工作中形成的法律思維、對世態人情的認知等理性關懷，在具體案件中也會考量被告人或犯罪嫌疑人認罪認罰的態度以及被害人是否諒解等具體情況，并結合實時政策和社會影響進行量刑判斷。故而判斷過程并非是尋找最優解的命題，而是對量刑結果符合“國法、天理、人情”的追求過程。

然而，人工智能輔助量刑系統僅針對確定的目標計算成本和收益，找到最優化的解決方案。人工智能輔助量刑系統不關心目的，只關心達成目的的手段是否為最優。在推廣適用的過程中，可能導致工具理性的單方面擴張，工具理性壓倒價值理性，社會理性化發展異化為不平衡的“片面的理性化”，具體表現為如下三個方面：

（1）法律程式化風險。構建人工智能輔助量刑系統時設計重心在標準化程式，程式最終任務僅是找尋最優解。法官在行使量刑權或檢察官在行使量刑建議權時，包含了對法律的敬畏和對正義的追求。而弱人工智能不具備人的法正義和法感情，可能無法對個案的具體情況和特別狀態進行判斷和思考，在識別信息、分析案情、評判證據、作出裁判等方面傾向于標準程式化的判斷，故而無法考慮效率代價等復雜性問題。另一方面，在具體案件當中，案件特殊情形具備不易描述的屬性，對于人權保障的追求也無法量化，人工智能輔助量刑系統趨向將法律程式化，將個案的參數和信息置于系統考量范疇之外，無法進行分析并作出具體判斷。

（2）司法數據化風險。人工智能輔助量刑系統本身只有習得的固定思考模式與可調整的參數，無法像人一樣通過聯結的神經元同時進行創造性思維活動，故司法實務中運用該系統將無法針對特殊化的個案情形進行靈活的創造性考量。然而檢察官量刑建議或法官量刑的過程恰恰是開放的、辯證的，排斥固化單一的邏輯模型。法律的生命不是邏輯而是經驗(He life of law doesn’t lie in logic, but in experience)[6]233-234，經驗是結合社會生活、習俗、公眾認知，如對時代需要的感知、形勢政策的理解、對公共政策的直覺，再如社會族群的習慣、一個民族的發展歷史、法官和他的同胞所共有的偏見或基于某種有關共同體或某一階層的習慣和信仰，并經過專業的學習、思考與長期的實踐形成的。司法實踐中若用簡單粗略的數據去推斷極端復雜的人性，將導致司法數據化風險沖擊破壞衡平正義。

（3）資料滯后性風險。人工智能輔助量刑系統本身的資料庫有限，無法實時性地反映社會發展進步對法律提出的新要求，因此人工智能輔助量刑系統本身具有無法預測和判斷新興的法律事實樣態的滯后性。面對社會的發展或形勢的變更，法官在量刑判斷時并不會機械地局限于嚴格的法規正義，而現階段的人工智能輔助量刑系統卻無法本著公平原則進行利益權衡，其所進行的機器學習乃是過往的人類裁判所形成的經驗，如果某個時點發生突然性的政策變化、劇烈的價值觀變動或某個具體問題的法律見解變更，將對本身學習資料的完善和人工智能系統設計的更新提出較高的要求，這將是在弱人工智能時代技術上所不得不面臨的重大問題。

（二）算法歧視的產生

前文所述的COMPAS 系統男性被評估出的再犯率高于女性。雖然在美國的憲法修正案乃至各國憲法中都對禁止司法歧視做出了規定，但是人工智能輔助量刑的過程中算法以一種不輕易為人察覺的隱性方式歧視社會特定群體。以下為導致人工智能輔助量刑系統算法歧視的三個因素：

（1）數據資料的偏見。《自然》雜志在2016 年提出“BIBO”定律（bias in, bias out）[7]537-549，意即輸入的數據隱含偏見，那么輸出的數據也必定含有偏見，這是數據的原教旨主義（Data Fundamentalism）特性使然[8]55-66。在運用復合控制結構而設置的規則依賴深度學習進行計算的過程中，大數據所做的決定系用過去的數據對未來的事項進行評估，極易產生系統偏見而致歧視后果。即便在機器學習的數據中清除性別、種族等特征，并保證在訓練數據集中每一個特定群體都有相當的數據，然而司法判例中既有的偏見仍然無法消除。

（2）系統開發者的偏見。人工智能系統開發者趨向藉由操縱程式將個人的成見或偏見反映在算法之中，或是潛意識的歧視被反映于人工智能系統的程式之中[9]1027。在人工智能輔助量刑系統的程式設計中，一個問題將被分成擬解決問題的轉化、數據的收集、模型的完善與評估等多個子問題交由不同的神經元進行運算。輸出的算法結果都要經過開發者的主觀驗證，由此開發者的評斷決定著輸入變量、結果變量、數據的收集范圍、數據特征的選擇，故而系統設計者趨向于將自認為正確的解決問題的步驟與參數置入人工智能輔助量刑系統的程式中，因此系統中往往不可避免地富集系統開發者個人認知或潛意識中的偏見。

（3）人工智能技術的偏見。算法作為人工智能系統的主要實現形式，在其運算系統中，人類在某種程度上被視為“數據主體”，擁有了“數據身份”，而后基于算法分類進行的優先化排序、關聯性選擇和過濾性排除等運算，其中不可避免地都帶有顯性或隱性的偏見。另外，如前所述，人工智能系通過機器學習（machine leaning）習得人類思考技術，而人腦必須在分類（category）的幫助下才能思考，分類形成的“類別”會成為平常預先判斷的基礎[10]22，由此人類認知和解釋世界時離不開“類別”，人工智能機器學習人類心智也習得了這一認知方式以及“類別”，于是預先判斷成為無法避免的過程。

三、人工智能輔助量刑系統現實風險的治理路徑

（一）系統定位：突出“輔助”量刑功能

首先，將人工智能輔助量刑系統定位為輔助工具，是憲法理念的實踐要求。量刑權本質上屬于司法權能。法官和檢察官行使量刑裁判權或量刑建議權時，應根據自己的獨立判斷，故人工智能不具備取代法官的合憲性。因此，人工智能輔助量刑系統理論定位應當是輔助性的。

其次，將人工智能輔助量刑系統定位為輔助手段，是尊重人類自主性的倫理要求。2019 年 4 月，歐盟公布了《可信 AI 倫理指南（Ethics Guidelines for Trustworthy AI）》[11]1，提出四項基本原則作為人工智能是否可信的判斷準則，其中第一條是尊重人類自主性原則。該原則要求確保檢察官與法官擁有針對個案情況具體分析的自主性，使法官有相當的權限空間（discretion）作出符合個案正義的量刑判斷，從而盡可能地保證衡平正義的實現，維護法律的權威和法律體系的先進性。

然而在實踐當中，司法人員主觀上對現代科技前沿的人工智能過分信任加之人類思維惰性，以及對錯案追責的擔憂，導致司法人員不會對人工智能輔助量刑系統評估結果作出輕易修改。

對此，司法人員需扭轉對輔助量刑評估結果的看待方式，消除輔助量刑評估結果的“隱性強制力”。輔助量刑系統所給出的結論并不是“標準答案”，而是矯正量刑誤差的一種“驗算”方式，僅對司法人員量刑判斷是否存在遺漏某個量刑情節等謬誤具有提示作用。客觀上，人工智能的輸出結果采納與否并不能與追究錯案責任直接掛鉤[12]163-174。

（二）具體方法：完善人工智能模型

人工智能量刑輔助系統運用于司法實踐，選擇算法和設計程序的目標是人工智能習得法律推理能力并將之應用于量刑過程，而運用法律推理包括案例推理、規則推理和原則推理等多種模式，并沒有明確或唯一的標準答案，僅存在某個合理的區間，量刑結果是一個程度的問題，并且會隨著社會發展而改變。因為在量刑論證過程中所需的知識會隨著時間推移而改變，這些常識或知識是豐富多元的，生活常識到專業知識都可能涉及，其中專業知識在學界可能存在不同觀點的爭議。

由于法律推理的上述特性，構建輔助量刑系統模型不能用純粹的演繹方法建模，而應當增加系統輸出結果的豐富性和靈活性，構建模型時可以從如下幾個方面進行完善。首先，把握法學邏輯的數字化表達，明確法律推理對資料和方法的要求。在構建系統模型時不僅需要計算機科學的思想和方法，也需要法學者提供的關于法律推理的見解。其次，不斷補充、完善和更新人工智能的學習資料，對于過時認知、錯誤數據及知識上的例外沖突進行去噪，對于新興的人類生活共識和學術觀點進行補充和更新。再次，對于人工智能輔助量刑系統中的各種法律推理模式進行分析與探索，完善案例推理，推廣規則推理，同時探索多范式推理。最后，探索人工智能對自然語言理解的實現路徑，這將是弱人工智能時代人工智能系統構建最困難的挑戰之一。在人工智能輔助量刑系統的復雜邏輯架構下，探索如何讓機器學習快速適應法律的漸進變化，讓機器理解法律常識、辯護意見等自然語言，深度學習數據豐富的內在信息，從而提升量刑預測的準確性。

（三）制度保障：建立監督和評估機制

透明化和監督是現代民主法治社會對公權力的基本要求，遑論量刑權與量刑建議權等重要司法權力，因此人工智能輔助量刑系統的透明化和可評估化是法治的必然要求。在弱人工智能時代，人工智能輔助量刑系統的機械主義傾向短期內無法實現有效改善；決策標準被隱藏在我們無法輕易閱讀和理解的代碼之下，算法根據不同的數據模式而發展變化，這進一步增加了實現公開透明的難度[13]5；此外，在線活動的算法大多是由追求利潤最大化的私人商業實體執行的，他們僅需在最低限度的透明度義務下即可運營。人工智能產生的歧視與偏見短期內無法消除，亦要求我們必須尋求司法公平與技術局限的平衡，制定人工智能輔助量刑系統的評估機制為暫時解決算法歧視問題提供一種可能路徑。

首先，在人工智能輔助量刑系統設計周期內，應當建立輔助量刑對基本權利影響評估機制。在系統研發過程中就其對基本權利造成的可能影響進行詳細評估，如果出現輔助量刑系統對人格尊嚴、人身自由、平等無歧視等公民基本權利的侵害和對民主、正義等法治基礎的破壞，那么將喪失合法性基礎，輕則及時修正，重則直接停用，從而有效防止開發者夾帶個人偏見或將潛意識中的歧視因子輸入量刑系統。

其次，應當建立輔助量刑系統的全過程監督機制，保障在輔助量刑系統的每個決策周期都可人為干預，并賦予司法人員根據人工智能輔助量刑系統的整體活動及影響而決定是否使用的權力。全過程的監督機制是在使用人工智能輔助量刑的司法人員充分且有效的量刑決定能力的必要條件，也是人工智能輔助量刑系統遵循用于服務人類、增強人類認知和提升人類技能基本理念的重要保障。

再次，應當建立算法與學習資料透明度評估機制。IEEE（Institute of Electrical and Electronics Engineers）在2017 年12 月14 日發布的《合乎倫理設計：利用人工智能和自主系統優化人類福祉的愿景》[14]197-201中指出，算法的設計應當透明化，應適當地提供系統執行行為的原因解釋，并且設置算法設計的透明度評估機制。人工智能輔助量刑系統中，除構建算法的透明度評估機制以外，還應構建學習資料的透明度評估機制。人工智能輔助量刑系統機器學習的樣本資料庫是歧視問題的始作俑者，只有公開監督才能從根源上化解歧視問題。合規評估機制和透明度評估機制的建立也將進一步促進“技術黑箱”難題的破解。