人工智能在司法實務中的技術風險與負面清單探析

梁成意，焦 陽

（華東交通大學人文社會科學學院，江西南昌，330013）

人工智能（Arifital Intelligence，簡稱AI）是指使計算機交互程序遵從人的編程設計去完成某項任務的技術。人工智能是人類的工具，是人類智慧的衍生物。人工智能隨著科技的進步、互聯網及大數據的發展，其發展方向、運用方向以及對于其的限制等問題引起了諸多討論，同時隨著司法實務活動的案件壓力和司法效率等需求，人工智能逐漸成為司法實務工作的工具，且法律人工智能的初步成果在司法實務應用中也取得了良好效果。各地法院開始嘗試運用人工智能技術建立“智慧法院”。

一、司法實務活動的現狀分析

（一）案件總量上升，人均案件量急劇上升

2019—2020年，最高人民法院共受理案件35 994件，審結31 443件，同比分別上升22.1%和23.5%。地方各級人民法院受理案件數量也出現了激增的情況，各級法院審結的一審刑事案件多達119.8萬件，受理并審結的一審知識產權案件也達到了28.8萬件，同比上升41.8%。審結一審民事案件901.7萬件，同比上升8.7%。在以上數據中可以發現，近年來案件數量上升，但是在職司法工作人員變化不大，人均案件壓力上升。

（二）人工智能技術應用于司法實務日趨普遍

隨著國家戰略的部署和國家機關政策的落實，人工智能技術應用于司法實務得以迅速發展，各地法院紛紛開始以人工智能系統為依托建立起“智慧法院”。

河北高院研發的“智審系統”是通過對紙質卷宗掃描形成電子卷宗后，再以該系統對與當事人相關的案件自動關聯后進行分類。大多數裁判文書能夠通過系統一鍵生成。該人工智能系統的應用成果較好，極大地提高了司法工作的效率，因此在全國多個法院得到廣泛應用。

北京法院的“睿法官”智能輔助系統，以法律數據、司法審判數據為依托，通過對審判行為的分析和智能化的學習，最后形成自己的法律邏輯知識圖譜來輔助法官辦理案件，例如根據司法人員的需要方向，精準列出辦案所涉及的法律法規、相類似的已裁判案例等信息，并且還會梳理與案件有關的法律關系，歸納案件的爭議點，系統生成裁判建議、裁判文書等。北京西城區人民法院的刑事審判團隊運用“睿法官”系統在確保司法裁判尺度統一的前提下，高效地審理了1 000多件案件。上海法院也通過人工智能技術研發了裁判文書大數據智能分析系統，該系統能通過分析證據之間的印證關系、證據之間的邏輯符合性、尋找證據之間是否存在矛盾和沖突等關系來判斷證據鏈是否充分達到法律對證據完整性的要求［1］。

從以上司法實務中，可以歸納總結出現階段我國人工智能技術在司法實務中的應用為弱人工智能技術，起到了對司法實務活動的輔助作用。一是以標準化的辦案模式、文書模式以及流程化的操作起到了規范化作用；二是在繁雜的司法實務活動中起到提示性的作用，提示司法工作人員辦案注意重點把握部分案件事實和問題；三是提高了司法實務活動的效率，這也是人工智能應用在司法實務中最具有成果性的部分，從各個法院實施情況來看，辦案效率均得到一定的提升，極大減少了司法工作人員的辦案壓力；四是人工智能技術偏向預測性手段發展，例如江蘇法院的人工智能系統針對上傳有關法律數據后自動作出預測性判決結果，為法官提供量刑參考的這一功能就帶有對判決結果的人工智能預測性的傾向。但是，從以上各個法院對人工智能的不同應用也可以看出各個地區之間存在著差異性，也就是人工智能技術應用中的地域性，這也意味著地方之間的人工智能系統的標準有所差異。因此本文將從人工智能在司法實務中扮演的角色入手，對人工智能應用于司法實務進行利弊分析，重點討論人工智能的技術風險與在司法實務應用中設立的負面清單。

二、人工智能的應用在司法工作中的角色

（一）人工智能是將要替代司法工作人員的司法人工智能

在純技術界看來，人工智能是通過模仿人的思維方式從而以“智使化”手段來代替人類做出獲取、分類、歸納、分析和決策等，人工智能是一種技術手段。雖然部分人認為人工智能不能代人在司法實務中實現自由較量，但是相信其終會解決該問題，實現替代司法工作人員完全做出司法判斷，由此技術界對人工智能在司法實務的應用處于十分積極的態度，并且認為計算法律（Computational Law）和算法裁判會成為法律的終極形態，甚至代替法官直接作出裁判。此種觀點在西方尤為凸顯，英國廣播公司曾報道，法律人工智能Case Cruncher Alpha與律師就保險合同糾紛展開法律問題競賽，結果人工智能的準確率為86.6%，明顯領先于律師66.3%的正確率［2］?；诖?，美國弗吉尼亞大學的相關學者進一步認為人工智能預測裁判結果的準確率可以達到79.46%。

（二）人工智能是法律運用過程中的輔助手段

司法實務界則認為人工智能只能作為法律運用及司法裁判過程中的輔助手段，目的在于使法官、檢察官從繁雜的文件材料、數據分析、案例檢索等事項中解脫出來，以更有效率和精確的手段幫助司法工作人員做出最公正的司法決定。因此其目的不是使人工智能替代司法裁決，或者淘汰辦案的司法工作人員，并且認為因為人性的復雜化和社會環境的多變化，很難將對人性、情感以及價值的衡量進行量化或者數據化［3］。

人的情感具有兩面性，一面是同理性和衡量社會的價值觀念，一面是難以避免社會誘惑的動搖之心。人性的復雜，難以保證每個司法人員在司法活動中不會被腐蝕，為了保證司法活動的公正性，人工智能作為“無人性、無情感”的機器可以在此意義上限制司法活動，彌補人的局限性。

（三）人工智能最高可視為司法案件的初審“檢察官、法官”

筆者認為，可以綜合前兩種觀點，一方面不刻意強調人工智能在司法活動的主導地位和對司法活動的替代性角色，另一方面不可迷信人工智能給司法活動方式帶來的變革，因此可以將其視為司法案件的初審“檢察官、法官”。

司法人員的時間和精力是有限的，每個司法人員從頭至尾都將面臨著繁雜的工作任務，而且人腦的知識儲備、記憶能力是有限的，司法工作人員不能記住全部的案例和法律條文，因此在審辦案件時，為了防止遺漏有關問題，影響案件的審理進程，司法人員必然會花費更多的時間和精力在檢索和信息整合上，便會導致工作效率難以提升。

在上文中論述了人性帶來的積極影響，人類主體會考慮到社會各個層次、情況、社會道德等多個方面，但“機器”卻難以做到，這也是人工智能的局限性。即使人工智能能夠完全模擬人的思維模式和辦案模式，但機器始終是沒有情感，無法做出價值判斷，這是因為司法活動始終是人類的活動，面對的群眾是人類，具有社會性，將案件完全托付“機器”雖說可以做到判斷上的完全理性，但是選擇此方式卻是不理性的［4］。人工智能很難像法官一樣理清復雜的法律關系，人工智能更多的是機械地按照法律條文規定來做出判斷，很難針對訴訟參與人的訴求做出相應的回應。因此，人工智能應用于司法領域中，可以使其成為在案件前期辦理進程中的一環，成為初審“檢察官、法官”，但是不能夠成為完全意義上的“檢察官、法官”。

三、人工智能的技術風險

（一）司法數據不充分導致的人工智能的技術風險

以人工智能做出信息檢索和初步的裁判預測的前提是可以提供和采集海量的、有效的司法數據以供分析。但是實踐當中可能會存在部分特殊的案件，因各種原因未能將案件的審理過程和放判結果完全數據化。另一方面司法數據存在著片面化、不完全透明化的特點，在組織合議庭和審委會討論中，其內部討論均不公開。英美法系的法官、陪審團討論也是內部性、不公開的，“庭審筆錄不是一種公開的法律證明文書”，缺少審判過程和討論過程的數據難說是完整和充分的，審判過程的不公開性也造成了該部分數據的缺少甚至是缺失［5］。

只有以十分充實的數據為基礎，并通過這些數據得出總結，將類型化案件進行分析，歸納司法實務中的裁判規則，改進算法，進而總結出技術實務經驗，使類型化案件實現以裁判規則、司法經驗歸納為基礎的有限智能化。“可以預見的是，在類型化案件中，有可能形成統一的智能化算法：在不那么規格化的案件中，至少可以做到法律依據提醒、政策比較和類案參考?！睌祿牟煌陚?，很可能會影響到案件的裁判，也難以發揮人工智能的功能［6］。司法數據也會存在不客觀性和不真實性，司法數據具有可修改性，司法數據的不一致性也是人工智能運用過程中將要面臨的風險。人工智能作為技術手段，技術上數據的偽造和虛構是存在較大可能性的，并且是一種較低成本的偽造模式，司法數據的不真實性必然會影響到分析案件時的客觀性，這就難以保證司法活動的公正性。完全依賴人工智能所帶來的裁判預測容易造成利用技術上的不完整性，這也是人工智能技術風險的一種。

（二）人工智能容易變成犯罪分子利用的工具

人工智能時代的到來也會逐漸對法律的走向和發展產生重要影響。一方面人工智能可以更好地服務社會，對法律的發展帶來積極的影響，同時也可以成為司法實踐中的重要輔助手段。但是另一方面，人工智能的運用也會成為實現犯罪目的的工具。犯罪分子獲得程序源代碼后，便可控制用于司法活動的人工智能系統，并可通過此種人工智能系統控制結果的導向，甚至造成嚴重后果。這是因為數據本身是一種信息的載體，數據的集中意味著信息的集中，不法者就能用極小的成本利用或者攻擊數據庫以此獲利，具有極大的社會危害性。

人工智能與互聯網以及大數據密切相關，這些使得犯罪分子侵入系統變得更加隱秘，其侵入所造成的后果以及擴散化影響也變得更加嚴重。

1.算法獨裁

算法是人工智能運行的基本要素，算法是以大數據為基礎，進行一系列特定的運算并得出結果。對于算法的內容，因其專業性較強，不僅被控告人不知曉，甚至連主辦案件的司法人員也無從得知，且有關結論的得出過程并未告知相關訴訟參與人，某種程度上侵害了司法活動的公正性［7］。如果司法裁判受到算法的支配，那么就會因為算法獨裁而出現司法獨裁，司法活動將成為算法創制人的私人行為。這種不透明性與司法活動公平正義的價值判斷相抵觸。盲目相信法律人工智能會產生如隱性歧視等新問題和新沖突，這將偏離基于公眾判斷而得來的公平正義。

2.信息利用

信息的利用是人工智能的關鍵，人工智能通過對信息的搜集、整合、歸納和推理等方式將信息通過計算機算法模式得出結論。但正是因為現如今網絡信息龐雜，信息傳遞的簡單、迅速的特點使得信息過濾難度加大，信息過量、無法分辨信息的有用性，甚至難以篩選客觀真實的信息。

信息利用于私人利益，快速流轉的信息在人工智能的數據庫中就相當于一種資源財富，因此對于資源的掌握就成了一種強大的利益誘惑，信息由個人信息、集體信息、社會信息等基本單位組成，對于信息的利用容易陷入到對于基本單位信息安全與隱私的侵犯［8］。廣泛應用的智能物會收集、共享并向智能信息中心傳輸、利用包括個人信息在內的各種信息，這是因為人工智能和單純的信息處理采集系統不同［9］，人工智能具有自主性和自動性，是能夠以智能程序自主進行事務處理的系統。這也使得人工智能與其應用主體的利益直接相關，二者關系的緊密性超出一般的信息處理系統，若對人工智能進行攻擊就極可能會直接給信息主體帶來巨大的危險。

另一方面，人工智能對數據的完整性和信息的充分性的要求恰恰成為私人信息容易受到侵犯的原因。人工智能的普及化應用，使得人工智能收集數據信息的設備發揮了極大的效用，信息將在各個領域和環境中暴露以供人工智能系統隨時調取、使用和分析。當人工智能系統遭到攻擊時，信息便爆炸般散落在非法利用者面前供其隨意揀取。

四、人工智能的負面清單

（一）設立負面清單的理論基礎

1.法律監管理論

人工智能在司法實務中運用時應當設立禁區，例如通過政策性立法對人工智能的運用范圍和運用方式進行監管，以法律方式進行監管是最為有效的方式。通過法律監管可以極大地降低人工智能在司法實務運用過程中所帶來的各種風險，法律的穩定性也可以與因人工智能運用的不穩定所帶來的技術風險進行對沖，緩解一定不利后果的產生。對人工智能的監管是必然的，美國為了解決人工智能技術應用對社會帶來的影響，將人工智能的相關立法措施納入到立法機構的考慮范圍之內。

2.法律與倫理關系論

對于一個案件的分析、裁判的過程和思維方式分析，應當考慮法律與倫理的關系。例如因電影《我不是藥神》而廣為人知的“陸勇案”，最后的司法裁判充分體現出“情理法”的平衡。假設以人工智能為依托來審理該案，極大可能單一機械地以對案情與法條的一一對應作為案件的審理標準，即當然地判定陸勇為生產銷售假藥罪。

這一部分以剖析人工智能與人類的差別為出發點，該思考邏輯認為人工智能無意識，人工智能的智慧只是人智慧的產物，沒有判斷人類社會復雜關系的能力。人的智慧不僅包含知識、能力，還包含著人情感的認知、價值觀念和社會倫理，而這些要素都是司法判斷中必不可少的，正是這些要素才使得司法變得有溫度。但是，人工智能沒有人的感知，也沒有人的感情和情緒，因此不具有根據人的價值判斷做出司法裁判的潛質。因此結果的“無溫度化”可以選入為司法裁判的負面清單。

3.法律解釋的多樣性

法律解釋一直是司法實務中的重點和難點，對于不同法律術語的解釋往往會產生不一樣的法律結果。同樣以“陸勇案”為例，該案件的關鍵點是對“銷售”行為的認定，但是對這個“銷售”行為的解釋卻有不同意見。再如“天津老太擺地攤打氣球案”中，對于“槍支”的解釋也成為了案件的關鍵，這些往往向公眾展示的是關于認知的不同與矛盾。但是如果將這一系列案件的關鍵點的解釋用一連串的字符、公式算法來判斷則會造成民眾的不解，并且人工智能的算法存在非透明性和不可解釋性的缺陷?！八痉ú门械倪^程不僅僅是給出結論的過程，更是以一系列合乎邏輯的聲明或通過引用相關的法源得出結論的過程”，在司法實務中如果沒有對有關問題進行解釋和分析，結果只會激發人民的不滿與對司法活動的不信任感。

（二）設立負面清單的實踐要求和調整范圍

1.實踐要求

結合現有的司法實踐之發展，必須從司法實務的視闕考量人工智能在實踐中的介入程度，并且能夠“維護秩序與變革、守護與創新、價值與事實之間的動態平衡，就是所面臨的緊迫的問題”［10］。

雖然人工智能系統通常有技術防護措施，但是，保護人工智能系統安全應以預設的法律規制為基礎，否則將陷入人工智能技術攻防對抗、此消彼長的惡性循環，出現人和人工智能系統以及人工智能系統之間的技術“戰爭”，影響相關技術的發展前景，危及社會秩序，甚至顛覆現有的法律價值體系［11］。因此，在實踐中要建立源代碼及運行機制披露等事前監管機制化，預防出現干預代碼化規則的系統性歧視。

利用人工智能化司法系統實施犯罪行為將是對諸多法益的全面侵犯，因為信息是人工智能化司法系統發展和運轉的重要基礎。人工智能在司法實務中的不恰當應用可能會在一定范圍內激起各類信息主體即信息掌控者之間的對抗，甚至會會阻礙我國智慧社會的正常發展。為避免出現此種法治化危機，人工智能的應用必須在保障公民基本權利的基礎上展開，依法利用包括個人信息在內的各種信息資源。在我國司法實務的智慧法院建設中，如何保證各類信息的合法合理取得或者是收集也需要訴諸負面清單的設立，即部分學者認為“工具理性對司法意義的消解，智慧管理對司法自主的削弱，智慧應用對司法平等的分化以及服務外包對司法公信的威脅”［12］。如何處置公民個人信息的決定權在工具的手上，工具的運轉效果又與公民個人信息掛鉤，在這樣的對應關系中，人們對理性工具自然會產生懷疑。

2.調整范圍

從司法實務要求來看，現階段的人工智能雖尚存在技術缺陷，但是為避免可能出現的法治化危機，也需要給人工智能設立負面清單，盡可能規避人工智能給司法實務所帶來的技術風險。設立負面清單調整人工智能技術規范的關鍵在于規范人工智能算法。通常人工智能算法遁于技術“黑箱”的保護，不具有公開性，而算法運行過程的私密性則與司法公開的原則相違背，如此一來，在人工智能應用于司法實踐的過程中就必然要設立負面清單以規范人工智能算法。負面清單不僅要防止算法因“非因果性和不確定性”導致的安全風險［13］，規范人工智能算法，還要規范“算法與數據之間復雜動態關系”［14］。以邏輯演算方式確定司法邏輯，將統一司法邏輯標準賦予人工智能，增加其因果性和確定性是解決算法的“非因果性和不確定性”之必由途徑。同時要保障算法運行中數據輸入的充分性和客觀真實性，以可預見性司法邏輯推導的司法決定規制算法與數據間的不確定關系，降低或者減少因為算法不確定或不公開、數據輸入不真實或不完整帶來的法律風險。在此基礎上依然要強調法律數據的充分結構化與類型化，法律數據不同于其他數據，由于其專業性通常會涉及到諸多的法律術語，規范法律術語的解釋，建立統一法律術語解釋的數據庫，也是促進建立標準化算法的前提。

建立起基本的地方統一數據標準，適當保留地方特色規范。地方規范是非正式制度的主體，在地方司法實務中也起著關鍵作用，人工智能在司法實務中的應用多以各個地方的司法機關為單位進行開展，不同主體的應用內容或者范圍也有所不同，例如前文所述的河北高院研發的“智審系統”等。但正是由于每個地區應用的范圍不同，所開發的人工智能系統也不一樣，因此在人工智能內部的算法操作也各不相同，基礎算法不一樣再加上地區本身針對不同問題的地方規范不同，最后的結果也有所出入。因此探討人工智能的應用范圍，要高度關注涉及地方規范的人工智能，對屬于地方規范的，應當在規范其統一標準的大前提下細化地方規則。

刑法應規制人工智能以防止其濫用，人工智能的濫用會使社會公眾陷入“塔西佗陷阱”，也會使犯罪分子有更多攻擊對象和攻擊目標。一方面要建立起對于人工智能系統的“防護罩”，以技術手段保護人工智能系統不受侵犯，保障人工智能數據庫，但是最主要的是要以刑法法律規制有關的侵犯、偽造數據庫和算法程序的行為來充分保障人工智能的基本數據和算法不受污染，從而保障人工智能系統所做出結果的客觀性和公正性［15］。另一方面，以刑法這一嚴厲的手段來規制有關濫用人工智能的犯罪，可以極大程度地平衡公眾、集體以及社會對于人工智能獲取其信息數據及將人工智能應用于司法實務對他們所帶來的影響之間的矛盾和沖突。

五、結語

現如今網絡技術進步，大數據及人工智能以極快的速度發展，針對司法實務的需求，人工智能應用于司法實務的趨勢不可阻擋。我國現階段的人工智能技術還不成熟，尚處于弱人工智能階段，“法律人工智能仍屬一種統計型、經驗型、材料準備型、文字模板型的弱人工智能，低效且適用范圍窄”，如今雖然未面臨著是否淘汰法官、檢察官的選擇，但是也面臨著人工智能所帶來的技術風險。隨著技術水平的不斷提高，當強人工智能時代來臨時，現有框架內的司法活動也將面對全新的風險和挑戰，屆時也必將面臨著新的選擇。

維克托說：“法律大數據以一種前所未有的方式，通過對海量法律數據進行分析，對法律問題進行預判，獲得巨大價值的產品和服務，或得出新的認知、深刻的觀點和主張?！保?6］不可否認的是，人工智能帶來的變革性方式在很大程度上給人類活動帶來了技術上的便利，在司法實務中可以緩解案多人少、司法實務繁重等現狀。但是人工智能的風險是不可輕視的，網絡惡意的隱蔽性就像利維坦般，若不為其設置禁區則會像洪水猛獸般侵犯著公眾利益，挑戰司法的權威性以及公正性，甚至會威脅到社會秩序和國家安全。

在弱人工智能時代，需要推動人工智能技術的發展，優化算法結構，提高算法的科學性和準確性。完善數據庫，保證數據充足和數據客觀真實，深入挖掘數據，并且探究建造數據與算法程序背后所對應的司法活動規律，提高人工智能的智能化，減少人工智能帶來的技術性風險，更好地推動司法實務工作的發展。

不論是現在還是未來，人工智能技術在司法實務中的應用應當是有所節制的，應當根據案件的復雜程度以及案件的社會影響，并且考慮原被告雙方的爭議焦點等，以此來確定人工智能的介入深度。針對人工智能在司法實務中的整個發展態勢，筆者的觀點是，不論人工智能技術的發展如何，即使是到達強人工智能時代，人工智能技術還是應當多應用于非裁判性實務當中，人工智能依然只能充當司法實務中起輔助和參謀作用的初審“檢察官、法官”，人工智能不能完全取代人類做出決定性的決定和裁判。人工智能與司法實務的融合是長期的必然趨勢，在運用人工智能時一定要充分結合我國司法實務的情況，考慮我國司法和法治改革。將人工智能技術運用于司法實務中不應操之過快，需要不斷探索和各方努力來共同促進中國法治的現代化，共同實現司法的公平正義。