人工智能時代司法商業化風險與應對

楊通新,肖 靜

(1.廣西大學行健文理學院，廣西 南寧 530005；2.廣西財經學院，廣西 南寧 530007)

“人工智能與法律的結合已有30多年的歷史，積累了豐富的經驗……人工智能對法律尤其是司法實踐的影響日益深入。”[1]2017年4月最高人民法院頒布了《關于加快建設智慧法院的意見》，同年7月國務院印發了《新一代人工智能發展規劃》，2018年7月最高人民檢察院發布了《全國檢察機關智慧檢務行動指南》……關于人工智能與司法的實踐與研究開展的如火如荼。本文基于人工智能時代司法商業化的可能性警示，對相應的風險樣態及規制方式進行初步探究。

一、越界：司法商業化風險之集體顯現

司法商業化屬于商業化的子概念，是指受市場化因素影響，出現以營利為目的的運作司法的行為。在諸多因素的影響之下，并不排除存在越界的風險，即出現司法商業化的非正常現象。

1.片面競爭影響司法統一運行，造成司法資源浪費。為了助力司法改革，提升司法業務效率，全國各地司法機關紛紛引入人工智能，通過內外合作或者是購買的方式，實現部分業務的智能化處置。然而從實踐可知，一方面人工智能技術與司法的默契并未達到無縫對接的程度；另一方面司法領域尚不具備完全自主人工智能化的條件，需通過內外合作的方式來實現。這兩方面，實際上從側面導致了司法系統內部的片面競爭，浪費司法資源，不利于統一規劃管理、運行。

2.利益驅動影響司法獨立自主，造成司法信任危機。大數據、人工智能和區塊鏈都不是專門為公共服務(包括司法工作)而設計出的技術，而主要是受商業利益驅動的技術，[2]這說明人工智能自帶商業利益驅動的屬性。進入司法領域之后，如果不能有效控制，將會嚴重影響司法獨立自主，從而造成司法信任危機。首先，司法商業化風險源于外部利益驅動，欲搭乘司法改革之便車，提升人工智能的影響力及話語權。在人工智能嵌入司法的過程中，可能造成將司法的公開、透明、陽光等同于商業化與市場化誤判。其次，司法商業化完全背離憲法精神，若私主體對公權力“指手畫腳”、隨意操弄，將造成司法權力異化。

3.刻板路徑影響司法途徑多元化，造成機械應對糾紛。人工智能司法具有確定性、標準化、模式化等特點，從某種意義而言，與司法場域的相對穩定性是相契合的。但是，過于確定性、標準化、模式化，會形成刻板路徑，造成諸多“優勢即劣勢”的尷尬與缺陷。首先，柔性糾紛解決方式受限甚至被取代。司法領域非常重視通過和解、調解等柔性方式來解決糾紛，比如一個簡單的民商事案件，可以通過協商和解或者調解的方式來柔性完結，如果通過人工智能的方式將會強制性帶入預先設定的場域之中，通過剛性的決斷方式解決。因此，人工智能解決糾紛的刻板路徑，會影響司法途徑的多元化，造成機械應對糾紛。其次，司法人員自由裁量權受縛甚至被剝奪。人工智能能夠突破人為情感對司法的左右，嚴格限制司法人員的不規范行為。然而，人工智能同時還可能陷入將司法人員自由裁量權一網打盡的尷尬局面，從而使得人工智能司法趨于僵化。最后，理論研究深入與司法制度創新受限。眾所周知，法學理論研究成果作為司法實踐開展的重要支撐，會隨著司法實踐的環境不斷變化。以正當防衛為例，雖然刑法學界經過多年的理論探索與實踐檢驗，但始終未能形成一個固定統一的認定模式，此時人工智能的機械化判斷與刻板性識別，將導致防衛場景諸多因素被忽視。因為行為實施的場景并非預先設定，人工智能無法依據預設程序來認定復雜問題，算法規則的引入導致對理論研究的束縛，從而也影響了司法實踐路徑的多元化。

4.替代論設影響司法人員能動性，造成主體懈怠應付。人工智能領域基于技術的未來發展方向提出了“無所不能”的設想，這是基于“技術權力主導一切”的思維而作的想象。司法領域的替代論設，即未來人工智能將會取代司法人員，從而導致司法人員的地位被削弱，形成人工智能機器人“非人亦人”的局面。這種“取而代之”的想象將給司法人員帶來極大困擾：未來的司法由誰主導？司法人員還有存在的必要么？……進而更多的人將失去能動性，選擇消極懈怠，應付了事。

5.技術藩籬阻斷司法經驗傳承，造成司法特質缺失。人工智能與司法并非“天生一對”，在人工智能話語權、影響力不斷擴大的背景下，司法人員積累的豐富經驗正在接受前所未有的挑戰。我們不否認人工智能技術所取得的巨大成就，但是，過度渲染甚至夸大人工智能的作用是不明智的。在極力推崇人工智能的同時，亦在直接或間接否定傳統優秀的司法經驗。這一風險，根源于技術權力與司法權力的不平衡，司法與人工智能技術之間的隔閡，將阻斷司法經驗傳承，造成司法特質缺失。

6.技術鐘擺影響司法場域穩定，造成司法變數多發。技術鐘擺，即人工智能技術的不穩定、不確定性，從而影響司法的正常運行。司法講究動態穩定性，但并不意味著停滯不前，司法領域同樣需要不斷改革創新。眾所周知，人工智能可以為司法帶來諸多便利，但是其自身的缺陷不容忽視，過度依賴人工智能將造成司法的本真缺失。

7.算法歧視影響司法公平正義，造成司法話語削弱。算法歧視與偏見，源于人工智能開發主體的固有認知，往往由于缺乏對司法領域的準確判斷而偏離司法目的范圍，形成對特定范圍主體的歧視與偏見。而司法公平正義理念的要求是，不能先入為主，在裁判者未得出結論前，不能預先決斷。因此，算法歧視嚴重影響司法公平正義，造成司法話語權削弱。例如，通過算法判定出生于A縣的公民甲和乙成立盜竊罪，那么按照算法的邏輯偏見，會認為是A縣的公民都熱衷于盜竊，如此便形成了嚴重的地域歧視，對守法公民實失公允。

8.算法黑箱影響司法程序正義，權利救濟受限。算法黑箱，即算法的不可知性，如同黑洞一般無法予以釋明。算法黑箱導致司法程序缺失或變質，影響司法程序正義，從而導致包括司法人員、司法受眾在內的多方主體的權利救濟受到限制甚至剝奪。首先，以當事人為主的司法受眾權利救濟受到嚴重影響。由于算法黑箱，算法司法結論理由的不可闡釋屬性，嚴重阻礙了異議主體的權利救濟。其次，司法人員的權力救濟受限。比如，當人工智能過多介入司法各個環節后，司法人員是否還有自由裁量權限？如果有，受到人工智能不合理干涉之時如何進行救濟？顯然，這些都是不可忽視的風險。

二、應對：司法商業化風險之有效防治

雖然人工智能時代司法商業化風險重重，仍應當尋求恰當的應對策略，有效遏止風險，筑就司法之應有形態。

1.強調黨對司法的絕對領導，保障司法與人工智能深度融合。習近平總書記曾指出，中國特色社會主義最本質的特征是中國共產黨的領導，中國特色社會主義制度的最大優勢是中國共產黨領導。堅持和完善黨的領導，是黨和國家的根本所在、命脈所在，是全國各族人民的利益所在、幸福所在。司法的目的是為了定分止爭，實現公平正義，而要使目的得以實現，必須強調黨對司法的絕對領導，同時保障司法與人工智能深度融合，推進司法體系和司法能力的現代化。[3]

2.強化人工智能司法意識形態引領，防止域外意識形態破壞。科學無國界，但是人工智能融入司法領域已經遠遠超出了前一范疇，關涉到國家司法主權的問題。因此，需要加強人工智能司法的意識形態教育與監督，同時建立嚴格的懲治制度。正如有學者提醒，任何司法個案絕不僅僅是單純的法律問題，案件的背后會涉及價值判斷、利益衡量、情理人心，裁判的邏輯除了法律邏輯，還會有政治的、經濟的、歷史的、道德的判斷。[4]人工智能作為技術本身在研究開發過程中或許并未施以區域或國別的偏見，但是受商業盈利與政治意識形態的驅使，會在運用過程中被當作干涉甚至操縱別國司法權的工具。因此，應當綜合考量我國國情，以司法主權為核心，在嚴格遵循中國特色人文倫理與司法倫理的前提下借鑒國際通行技術安全標準。

3.明確人工智能輔助司法理念，正視人工智能司法工具屬性。在人們暢想著人工智能“萬能論”時，法律人工智能研究先驅凱文·阿什利認為，人工智能(如機器學習的法律文本分析技術)其實并不能真正閱讀或者理解；[5]人工智能對法律語言的學習和使用，并不意味著它能夠像人類一樣理解法律語言，而只是對其進行逐層分析。[6](P272)無論在未來的發展中能夠達到何種程度，都屬于人類智慧所創造的成果，而并非與人等同的“非人可人”主體。人工智能運用于司法，不是人工智能與司法的簡單物理銜接，涉及到技術的實用性與司法的接受度。人工智能可以輔助完成司法中較為復雜的業務，甚至是參與核心業務的過程決策，為司法人員最終決策提供參考。但要避免司法大數據應用給法官帶來的不當影響，必須明確司法大數據應用的非約束性適用原則。[7]比如，可以在員額制改革成果基礎上，設置由審判委員會與人工智能機器人共同組成的智囊庫，其職責是負責根據案件情況提出解決方案，是否采納取決于案件的承辦法官。這樣，既符合了“讓審理者裁判，讓裁判者負責”的要求，又很好的將人工智能融入了司法當中。

4.應對司法商業化風險，必須建立、細化人工智能與司法的融合機制，主要從人工智能司法供需銜接、監管制度著手。為了避免人工智能嵌入司法影響司法獨立自主與造成司法信任危機，必須樹立司法權威，回溯司法權威的來源。筆者認為，人工智能進入司法領域的途徑主要表現為三種形式：首先，完全外購人工智能產品。此種方式完全依賴于人工智能技術研發、銷售主體的供給情況，可以稱之為人工智能融入司法的初級形式。技術與司法領域的疏離，需要通過多方面進行克服。把握司法的主動性與人工智能的適應性，即堅持人工智能適應司法的思路，基于司法領域的需求輔以人工智能，而不是司法被人工智能“牽著鼻子走”。其次，通過內外合作研發，促進司法人工智能化。在這一階段，司法領域對人工智能有了更多了解，已經能夠參與到人工智能的研發過程之中，逐漸脫掉了“門外漢”的身份。對司法領域與人工智能領域銜接的橋梁機制、監管機制等方面，仍然是以司法需求為核心，避免供給主體的商業化運作而導致司法的商業化，實現司法與人工智能之間的深度融合。最后，司法領域全域自主研發人工智能產品，實現對外“零依賴”。這一階段，司法人工智能的供需主體已經合二為一，司法領域積累了豐富的人工智能研發經驗，打破了人才壁壘，培養了大量既懂司法又精人工智能的司法從業人才，從而去除了內外銜接的復雜環節。當然，沒有了對外的依賴，并不意味著人工智能司法就毫無風險存在，司法內部的銜接、監管風險依然需要通過制度構建與完善來進行規制。

5.應對司法商業化風險，必須加大復合型研究人才與應用人才的培養，多途徑培養高素質的“法律+人工智能”復合型人才。第一，在培養途徑方面，堅持多元并行、互通有無原則。首先，豐富高校本科教育課程內容。比如，通過在高校法學教育中分流增設人工智能課程，讓有意向、有特長的學生盡早接觸人工智能，系統學習積累基礎知識；其次，通過設置“法學+人工智能”實驗室，招收學科交叉研究人才，增加復合型人才培養的深度。再次，實踐基地設在具備條件的高校、科研機構以及企業設立人工智能法學實踐基地，拓寬復合型人才培養的廣度。最后，針對司法人員進行專門的人工智能技術培訓，從理論研究與實踐應用兩方面進行分類培訓。第二，在培養時間方面，堅持科學規劃、分類推進原則。對于“法學+人工智能”人才的培養，應著眼于長遠發展，做好短期、中期與長期規劃，不能急功近利。比如，針對高校本科層次的復合型人才培養，可以進行二次分流的規劃等。

6.人工智能司法領域，應當明確控制主體的權利與義務，確保人工智能司法實踐中責任承擔的合理與明晰。控制主體，應當作廣義理解，包括人工智能的研發者、制造者、使用者、保管者、監管者等多方主體。在人工智能的司法應用領域，應當制定具有體系性和前瞻性的基本原則，明確人工智能介入司法的限度。[8]在人工智能輔助司法的明確定位之下，建立人工智能研發、合作應用等方面的負面清單，將人工智能置于有效可控的范圍之內。向社會公布涉及惡意干擾司法、影響司法活動等行為，實時更新，區分嚴重程度進行處罰，即建立行政處罰、刑事處罰、經濟賠償等機制以及銜接機制。

綜上，人工智能在司法領域必須遵循明確界限，遵循司法的發展規律。人工智能與司法都應當坦誠面對彼此，積極應對挑戰，有效防止潛在、未知風險。雙方不能基于各自的“傲慢與偏見”而將對方拒之門外，將人工智能發展納入法治軌道，才能從根本上實現其發展的安全性、可靠性與可控性。