人工智能介入司法審判的風險防范

摘 要：近年來隨著人們法律意識的增強，出現了“案多人少”的司法治理窘境，而人工智能的快速發展為這一難題帶來了新的解決思路，大數據背景下司法智能化是一種必然的趨勢，人工智能的引入必會給司法審判活動帶來新的面貌和影響，成為司法治理的良好動力。但任何新事物都有兩面性，人工智能的引入在解決原有問題的基礎上，還會帶來新的挑戰和問題，因此將人工智能運用于司法審判必須審慎進行。

關鍵詞：人工智能;司法實踐;風險;防范

中圖分類號：TP18 文獻標識碼：A 文章編號：1004-9436（2020）06-00-05

人工智能，即Artificial Intelligence，從概念的提出到發展應用，已經有60多年的歷史。近年來隨著人工智能技術的飛速發展，其不僅在日常生活中有廣泛的應用，更開始逐步應用于司法實踐，比如域外如美國的人工智能律師ROSS、英國的人工智能審判預測程序等，而我國在最高人民法院的推動下，人工智能技術運用于司法實踐領域已經取得了傲人的成果：北京的“睿法官”軟件和“檢立方”系統、江蘇的“案管機器人”等。司法智能化在帶來效率與便捷的同時，也帶來了一系列的風險問題，例如個人信息和隱私權如何保護、人工智能導致的問題如何歸責等。因此我們必須正視司法人工智能帶來的司法審判風險，完善應對措施和制度。

1 人工智能介入司法審判的基本脈絡

1983 年龔祥瑞與李克強在《法學雜志》上發表了一篇名為《法律工作的計算化》的文章，這是我國最早關于計算機技術運用于法律實踐研究的文章。文章中提出了將計算機技術運用于司法實踐的構想。[1]之后法學專家開始了對司法人工智能的系統性研究，例如1993年中山大學開發的LOA 律師辦公自動化系統，[2]以及武漢大學法學院研制的實用刑法專家系統等。

人工智能應用于審判實踐的首次嘗試在 2006 年，2006年山東淄川區法院研制出了一套自主量刑軟件系統，該系統可以根據所輸入的案件情節以及相關法律條文，作出相應量刑判斷。但由于當時人工智能技術水平的限制以及輿論的爭議，該量刑軟件未能繼續使用發展下去。2006年以后，隨著人工智能的快速發展，在最高人民法院的推動下，各地都開展了關于人工智能應用于司法審判的嘗試，自2013 年起，我國法院開始進入了以智能化為核心、建設智慧法院的發展時期。[3]例如2016年貴州省高級人民法院研發的“法院云”技術，2017年上海市高級人民法院與各部門聯合開發的“206”工程，以及2017年杭州互聯網法院的正式掛牌運營等。

從2016年開始，最高人民法院陸續出臺了《最高人民法院關于加快建設智慧法院的意見》《人民法院信息化標準制定工作管理辦法》《關于加快建設智慧法院的意見》等。[4]在最高人民法院的推動下，我國人民法院審判執行方式的全局性變革不斷深化，智慧法院的建設不斷加快，有力地促進了審判體系和審判能力的智慧化。雖然我國人工智能在司法實踐領域應用的時間較短，但是隨著人工智能技術的不斷發展完善，同時也是為了適應司法改革與智慧法院的建設需要、適應新時代的要求，未來我國人工智能在司法領域的實踐應用將會得到進一步深化。

2 人工智能介入司法審判的風險分析

德國社會學家烏爾里?！へ惪嗽赋觥叭魏涡屡d技術的誕生與運用在給人們帶來機遇與便利的同時，也可能產生風險與制造挑戰”。[5]在將人工智能積極應用于我國司法實踐，發揮其輔助審判的重要作用的同時，也必須正視其帶來的各種社會風險。

2.1 侵犯個人信息和隱私權的風險

在互聯網大數據時代，人們的行為時刻受到“監視”，各種APP搜集了用戶大量的指紋信息、人臉識別信息，甚至有的智能產品能將我們的位置信息隨時隨地上傳至網絡云端。人工智能以大數據為基礎，在開發和使用的過程中必然會使用數據庫中海量的個人信息，不僅包括姓名、年齡、性別等個人基礎信息，甚至還包括一些敏感隱私信息，基于人工智能數據庫數據規模之大、范圍之廣、私密性之高，一旦數據庫中的這些數據遭到泄露、竊取或不當使用，用戶的個人信息和隱私安全就會面臨極大的風險。

利用人工智能輔助司法審判的過程，同時也是一個收集當事人個人信息、生成新信息的過程，在這一過程中必須考慮個人信息以及隱私安全的問題。就大數據發展的現狀而言，企業依然是掌握用戶數據的主體。在大數據背景下，企業搜集大量用戶信息和數據已經成為一種慣例，比如作為搜索引擎巨頭的百度，在其網站首頁就沒有相關隱私聲明的內容，這可能會導致一種被隱藏在合理化外衣下的錯誤：即對公民個人相關信息的收集與處理似乎是其自愿接受的，人們無從得知自己的信息由誰搜集，不清楚自己的信息如何使用流轉，對最終的信息使用者更是無從得知。

個人信息和隱私的泄露不僅會對法院的公信力造成消極影響，更甚者還會威脅公民的人身和財產安全，因此在大力建設智慧法院，推行網上辦理業務、流程公開的同時，如何保護這些數據和信息是一個十分重要的問題。

2.2 人工智能的技術風險

盡管人工智能技術相較于傳統的審判模式有一定的優勢，但是我們必須認識到當前我國司法智慧化建設尚處于起步階段，一些人工智能技術的應用才剛剛開始，人工智能系統自身的技術風險尚未得到控制。

一方面，與審判工作者的工作方式不同，審判人工智能需要龐大的法律數據作為支撐，如果法律數據自身的客觀性和真實性難以保證，那么審判人工智能所得出的裁判結果也會失去真實性和客觀性。另外，數據的全面性也會影響審判人工智能的裁判結果，人工智能系統在審判實踐中的運用依賴于大量優質法律數據的收集，然而現有法律數據數量有限，根據對中國裁判文書網上所公開的文書數據的統計，線上公開的裁判文書總量僅占線下已審結案件數總量的50%左右，這意味著有近一半的裁判文書未被錄人工智能系統，未得到有效利用。[6]并且法律數據的質量也不容樂觀，就目前所公開的情況來看，各地法院上傳的裁判文書質量不一。同時，數據分散在不同部門、不同層級、不同地域，數據整合存在壁壘，導致了一個個“信息孤島”的形成，無法發揮法律數據的真正價值。

另一方面，人工智能系統自身固有的機械性、滯后性難以克服。人工智能系統基于以大數據為驅動的特點，在運行中“重相關而輕因果”，審判人工智能依靠明確的法律規則和法律概念來完成對案件的分析處理，但其技術難以準確理解自然語言在具體案件中的具體含義，僅能通過機器語言表達法律規則及案件事實，這一過程的基石是存儲在數據庫中的各類案件和數據，這些案件和數據在統計、整合和錄入時就具有了一定的滯后性，必然會導致審判人工智能系統分析處理結論的滯后性。

2.3 法官自由裁量缺失的風險

正如霍姆斯所說：“法律的生命不在于邏輯而在于經驗?！迸c審判人工智能相比，法官審理案件的過程并不僅僅是硬性地適用法律法規，而是通過裁判經驗和思維方式發揮主觀能動性，選擇、適用法律和司法解釋對具體案件作出評價判斷，以人性來彌補法律剛性的不足，實現“情、理、法”三者有機統一。[7]然而，人工智能歸根結底是一種算法和程序，法官在具體審判實踐中所積累的判斷力和裁決力是人工智能無法比擬，其缺乏法官獨有的裁判經驗、思維方式以及情感，也就無法考慮具體案件背后復雜的社會關系和政策因素。審判人工智能分析處理案件是一種機械化的過程，所得出的結果往往也是機械化的“標準答案”，帶有濃厚的剛性色彩。但是司法活動是一個綜合性的社會活動，其中可能會涉及對道德、習慣、民意等各種實質性內容的判斷和處理。而人工智能無法模擬法官的自由裁量、邏輯推理等思維方式，無法彌補立法者認識能力不足所導致的法律適用空缺，因此無法形成有溫度的公正的裁判。

2.4 人工智能責任認定風險

隨著審判人工智能在司法領域的廣泛應用，如果其在輔助司法審判的過程中出現了錯誤，責任應該由誰承擔？能否向審判人工智能追責？這是司法機關在應用人工智能的過程中必然會遇到的重要問題。

人工智能是一種科技產品，若按照一般的產品責任，則應由產品的制造商負責，但是人工智能與傳統的產品又有本質上的區別，它并不僅僅是一般的生活用產品，作為一種產品，其還具有與人交互的功能，如果人工智能在和人的交互過程中發生錯誤，應該由誰來負責？在這一問題的解決上，一些國家和地區使用的方式值得參考，例如2016年歐洲議會向歐盟委員會提出的要求制定民事規范來限制機器人的生產和市場流通，2017年沙特阿拉伯通過授予機器人索菲亞公民身份來明確其法律地位。雖然有些國家對人工智能承擔法律責任問題態度明確，但是多數國家仍然采用保守的態度。[8]

我國目前沒有出臺專門針對人工智能責任承擔問題的法律或解釋，隨著審判人工智能在司法領域的廣泛應用，必須盡快出臺法律或解釋來彌補人工智能責任承擔問題相關規定的缺失。

3 人工智能介入司法審判的風險防范

基于審判人工智能在司法實踐中產生的積極作用與負面影響，為了使審判工智能在司法實踐中的應用產生良性的效果，應從以下幾個方面關注人工智能的發展與應用：

3.1 加強對個人信息和隱私權的保護

首先，要明確法院收集信息的范圍，法院不能沒有限度、肆意地收集個人信息，應當基于案件審理的實際需要有限度地收集個人信息，并且保證對所收集信息的妥善保管，確保所收集信息的安全。其次，法院應當保證對所收集信息的合理使用，并保證當事人知悉其信息的使用方式和范圍。個人信息和隱私的保護不僅需要法院引起重視，相關企業也必須重視對個人信息和隱私的保護。企業作為掌握個人信息和隱私數據的主體，必須承擔保護個人信息的重要責任，嚴格遵守國家法律法規，嚴禁利用企業科學技術優勢侵害社會公眾的個人隱私和信息安全。

其次，要加強對人工智能系統數據使用程序和方式的監管。隨著審判人工智能的應用和普及，必須采取相應的措施，對人工智能系統對數據信息的采集和應用全過程及各個環節進行監管，防止人工智能系統在應用中出現紕漏、危害公民的個人信息和隱私安全。事前的監管方面，可以通過設立專門的行政監管機構，在事前對人工智能企業所提供的數據服務實行準入制，將一些“不良”企業排除在錄用門檻以外;事中，由專門的監督機構定期對企業進行監督檢查，檢查記錄存檔封存以便隨時查驗;在事后監管方面，行政監管機構對于發現的存在侵害個人信息和隱私權行為的企業，應強制令其采取有效的補救措施，在對企業給予行政處罰的同時，政府部門要積極采取行動，加大對侵害個人信息及隱私的違法行為的打擊力度。

人工智能技術的發展和普及，必然會涉及公民個人信息和隱私安全保護的問題，我們要做的是在保證公民個人信息和隱私安全的前提下，更好地應用人工智能技術、服務司法實踐。

3.2 完善人工智能技術的算法與數據

一方面，為了保證人工智能系統算法程序的公平正義，在算法程序編寫設計過程中就應保證其公開性、透明性，明確人工智能系統使用了哪些算法、參數和數據，這些算法、參數和數據按照何種程序運行，程序的運行實現了什么目的，以避免基礎算法程序出現問題所導致的風險。另一方面，打破技術人員對司法人工智能的壟斷，需要推動法學理論知識人才同人工智能科技人才的交流，法學理論人才在深度學習人工智能科技知識后，可以介入對算法程序的設計，與人工智能技術人員合作設計出符合司法實踐要求的人工智能法律系統。

“很多數據開始出現交叉，各個維度的數據從點和線漸漸連成了網，或者說，數據之間的關聯性極大地增強，在這樣的背景下，就出現了大數據?！盵9]完善的司法數據庫是防范人工智能審判應用風險的要求，基于此提出了新的要求：建設與傳統數據庫相區別的，能夠跨區域、跨部門的，統一的司法數據庫。統一司法數據庫的建設不僅能滿足我國司法機關人工智能發展的需要，還能及時、準確、有效地向社會公眾公開司法運行情況、司法信息，跨部門、跨區域數據庫的建設也是解決司法機關數據庫信息數量不足問題的有效途徑之一。

在解決了數據庫信息數量的問題之后，就需要接著解決數據庫信息質量的問題，數據的準確性和代表性決定人工智能的智能化程度。維克托·邁爾·舍恩伯格認為：“數據量的大幅度增加會造成結果的不準確，一些錯誤的數據可能會混進數據庫?！盵10]對此，可以通過對數據的分析，提取案件關鍵因素，可以刪除裁判文書網所公開的參考價值較低的文件、數據、信息;對司法領域的各類數據進行分析整合，努力提高司法數據庫中數據信息的準確性和代表性。

3.3 明確司法實踐中人工智能的責任承擔

2017年國務院頒布的《新一代人工智能發展規劃》指出研究人工智能問責問題的必要性，從自動駕駛到機器人管家再到電腦量刑，人工智能已經逐漸滲透到社會、經濟的方方面面，但是對人工智能產生的責任問題仍然缺乏足夠的認識和研究，人工智能廣泛應用的現狀亟須法律對這一問題作出明確的規定。

人工智能并不具有獨立的思維和意識，其行為只是按照人類預設的程序進行，在一般情況下不具有責任承擔能力，對此可以通過區分人工智能制造者和操作者在審判實踐中的不同應用情況，來區分不同的責任承擔情況。一種情況是制造者或操作者故意導致的責任承擔問題，在這種情況下，制造者或操作者在主觀上故意利用人工智能不具有獨立的自我意識這一特性，使人工智能按照自己的想法進行某種特定的行為，人工智能在這一過程中扮演的是制造者或操作者的犯罪工具的角色，在這種情況下，應由人工智能的制造者或操作者承擔相應的損害賠償責任。另一種情況是制作者或操作者的過失導致的責任承擔問題，人工智能的制造者或操作者由于疏忽大意或者過于自信而未能預見損害的發生，則應由制造者或操作者承擔過失責任。

綜上，人工智能在司法活動中出現工作失誤所導致的損害結果，司法工作人員如果不能在第一時間證明這一損害結果是由人工智能制造者或操作者造成的，就應當先對人工智能失誤造成的損害承擔責任，之后可根據實際情況，由司法機關向人工智能技術的制造者或實際操作者追償。

3.4 明確人工智能在審判中的輔助性地位

雖然人工智能系統能夠提高司法信息化和智能化水平，但是無論從技術水平層面還是從倫理道德層面，其只能是人的工具，在審判中處于輔助性地位。

從技術水平方面來看，目前人工智能技術的發展仍處于“弱人工智能”階段，其在司法審判實踐中發揮的主要是法律文書的審閱、法律問題的在線咨詢以及輔助司法審判工作人員辦案等基礎性功能，人工智能當前的技術水平決定了其在審判實踐中的輔助地位。

從倫理道德層面看，法官的自由裁量權在案件審判中發揮著重要作用，人工智能系統只是一種機器產品，不具備人類的道德情感，無法與人類共情，在案件事實復雜，涉及人性、道德和情感等因素時，難以根據法律和常識作出分析判斷并進行妥善處理。

因此，即使人工智能系統如何智能化，其也只能作為人類認識和改造世界的輔助性工具，在法官辦案過程中，僅能提供輔助性的幫助而非實質性的幫助。

4 結語

將人工智能技術應用到實踐中是社會發展的必然趨勢，尤其是運用到司法審判實踐中。審判人工智能的應用雖然存在顯著的優勢，但是也會帶來一定的風險和問題。對人工智能在司法實踐中的應用，我們要辯證地看待，正視其存在的困境和風險，及時發現司法人工智能建設中存在的問題，規避人工智能的弊端，充分發揮司法工作人員的主觀能動性，不斷改進、完善司法人工智能系統，研究設計符合司法實踐需要的審判人工智能。

參考文獻：

[1] 黃琪.司法實踐中人工智能應用的現狀與定位思考[J].邊緣法學論壇，2019（02）：8-14.

[2] 楊建廣，駱梅芬.法治系統工程[M].中山大學出版社，1996：344-349.

[3] 王祿生.司法大數據與人工智能開發的技術障礙[J].中國法律評論，2018（02）：46-53.

[4] 高魯嘉.人工智能時代我國司法智慧化的機遇、挑戰及發展路徑[J].山東大學學報（哲學社會科學版），2019（03）：115-123.

[5] 烏爾里希·貝克（德）.風險社會[M].何博聞，譯.南京：譯林出版社，2004：39.

[6] 左衛民.關于法律人工智能在中國運用前景的若干思考[J].清華法學，2018，12（02）：108-124.

[7] 武樹臣.法律涵量、法官裁量和裁判自律，判例制度研究（下）[M].北京：人民出版社，2004：789.

[8] 潘庸魯.人工智能介入司法領域的價值與定位[J].探索與爭鳴，2017（10）：101-106.

[9] 吳軍.智能時代[M].北京：中信出版集團，2016：62.

[10] 維克托·邁爾·舍恩伯格（英）.大數據時代[M].盛楊燕，周濤，譯.浙江人民出版社，2012：132.

作者簡介：楊巧雨（1996—），女，江蘇淮安人，碩士研究生，通訊作者，研究方向：法學理論。