人工智能進(jìn)法院的可能風(fēng)險(xiǎn)探討

姜萌萌

摘要：人工智能技術(shù)在法院的應(yīng)用可以提升司法效率，緩解當(dāng)前法院案多人少的局面，提高司法過(guò)程的標(biāo)準(zhǔn)化，促進(jìn)司法公正。同時(shí)人工智能技術(shù)也是一把“雙刃劍”，在為我們帶來(lái)便利的同時(shí)也可能帶來(lái)一系列風(fēng)險(xiǎn)。本文探討了人工智能進(jìn)法院的現(xiàn)實(shí)需求，分析研究了未來(lái)人工智能可能給法院帶來(lái)的風(fēng)險(xiǎn)。

關(guān)鍵詞：人工智能;智慧法院;算法;風(fēng)險(xiǎn)

中圖分類號(hào)：TP18 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1007-9416（2020）03-0222-02

0 引言

近年來(lái)通過(guò)發(fā)展高效的人工智能技術(shù)將迅速普及，同時(shí)人工智能技術(shù)具有網(wǎng)絡(luò)化效應(yīng)，一旦系統(tǒng)出現(xiàn)漏洞，則可能出現(xiàn)系統(tǒng)性的風(fēng)險(xiǎn)。由于人工智能技術(shù)準(zhǔn)確性遠(yuǎn)超人類法官，法官可能在辦案過(guò)程中形成路徑依賴，同時(shí)由于司法責(zé)任制，法官要對(duì)案件結(jié)果負(fù)責(zé)，再加上在互聯(lián)網(wǎng)發(fā)達(dá)的今天，任何案件都可能在網(wǎng)絡(luò)發(fā)酵，引發(fā)輿論危機(jī)，法官為了規(guī)避風(fēng)險(xiǎn)，更有采納人工智能給出的答案的沖動(dòng)，這可能使法官失去辦案主動(dòng)權(quán)，淪為系統(tǒng)的助手。人工智能系統(tǒng)的標(biāo)準(zhǔn)化結(jié)果，會(huì)使兩審終審制以及公檢法的相互制約關(guān)系變得形同虛設(shè)。人工智能辦案結(jié)果更正確、更標(biāo)準(zhǔn)，但是對(duì)標(biāo)準(zhǔn)的追求可能導(dǎo)致社會(huì)多樣性的缺失，導(dǎo)致社會(huì)價(jià)值觀的一元化，從而影響社會(huì)的發(fā)展，甚至造成社會(huì)風(fēng)險(xiǎn)，多樣性是社會(huì)發(fā)展的保證，因此應(yīng)允許法官有不同意見，允許法官犯錯(cuò)，使司法活動(dòng)有人味兒。

1 人工智能進(jìn)法院的現(xiàn)實(shí)需求

2016年3月到2017年5月，谷歌旗下人工智能系統(tǒng)阿爾法狗Alpha Go及其升級(jí)版Master對(duì)決人類頂尖棋手并取得完勝后，人工智能開始被普通大眾所熟知，一時(shí)間全社會(huì)掀起了一場(chǎng)對(duì)人工智能思考及討論的熱潮。目前人工智能已經(jīng)在醫(yī)療、自動(dòng)駕駛、金融等多個(gè)領(lǐng)域得到廣泛應(yīng)用，并且在某些方面已經(jīng)有了比肩甚至超越人類頂尖專家的能力。與此同時(shí)，“法律+人工智能”的模式在法律界也已經(jīng)成為一個(gè)新的發(fā)展方向，美國(guó)一些州法院已經(jīng)開始將人工智能技術(shù)普遍用于審前保釋或判決后的假釋風(fēng)險(xiǎn)評(píng)估中，加拿大科技公司開發(fā)的ROSS法律人工智能項(xiàng)目利用IBM Watson的平臺(tái)進(jìn)行技術(shù)開發(fā)與升級(jí)，能夠識(shí)別用戶自然語(yǔ)言問(wèn)題，并給予精確、快速的回答，目前ROSS已經(jīng)在國(guó)際上獲得多家知名律師事務(wù)所客戶[1]。案多人少、錯(cuò)案頻出一直是困擾我國(guó)司法審判工作的難題，近年來(lái)人工智能技術(shù)的飛速發(fā)展似為我們解決這一難題指出了一條道路，2016年7月由中辦國(guó)辦印發(fā)的《國(guó)家信息化發(fā)展戰(zhàn)略綱要》中提出“建設(shè)智慧法院，提高案件受理、審判、執(zhí)行、監(jiān)督等各環(huán)節(jié)信息化水平，推動(dòng)執(zhí)法司法信息公開，促進(jìn)司法公平正義。”將“智慧法院”建設(shè)作為我國(guó)信息化發(fā)展戰(zhàn)略的重要組成部分，拉開了我國(guó)法院人工智能審判系統(tǒng)建設(shè)的序幕，于是各地法院紛紛上馬了自己的人工智能項(xiàng)目，目前上海、北京、浙江、江蘇、廣東、貴州等地法院均已推出了自己的人工智能辦案系統(tǒng)，其中比較成功的有上海法院的“206”刑事案件智能輔助辦案系統(tǒng)，北京法院的“睿法官”智能研判系統(tǒng)及江蘇法院的智能辦案工具。在審判方面，人工智能可以以現(xiàn)有的大量司法案例數(shù)據(jù)為基礎(chǔ)，通過(guò)深度學(xué)習(xí)，基于智能算法，對(duì)海量案件進(jìn)行分析，做出相應(yīng)的法律判斷，實(shí)現(xiàn)“大數(shù)據(jù)”與“專家經(jīng)驗(yàn)”完美結(jié)合[2]，當(dāng)前智能審判已經(jīng)能夠?qū)Ψ申P(guān)系簡(jiǎn)單的案件做出相對(duì)準(zhǔn)確的判斷，可以想見，隨著技術(shù)的進(jìn)步，人工智能在法院必將更有用武之地。

2 未來(lái)人工智能可能給法院帶來(lái)的風(fēng)險(xiǎn)

與其他學(xué)科不同，信息技術(shù)的發(fā)展具有發(fā)展速度迅猛，更新迭代快速的特點(diǎn)，人工智能亦處于高速的發(fā)展之中，與此同時(shí)，近年來(lái)人越來(lái)越多的人開始對(duì)工智能的迅猛發(fā)展表示擔(dān)憂，特斯拉汽車創(chuàng)始人艾倫·馬斯克及著名科學(xué)家霍金都曾公開表達(dá)過(guò)對(duì)人工智能的發(fā)展可能對(duì)人類社會(huì)帶來(lái)威脅的擔(dān)憂，雖然能夠完全取代人類的所謂強(qiáng)人工智能目前還遙遙無(wú)期，但是任何一項(xiàng)新技術(shù)的廣泛應(yīng)用都會(huì)改變?nèi)祟惉F(xiàn)有的生產(chǎn)工作及交往方式[3]，技術(shù)是一把雙刃劍，司法作為正義的最后一道防線，所以在司法人工智能的應(yīng)用中更應(yīng)對(duì)其所能帶來(lái)的相應(yīng)影響保有充分警覺(jué)并盡力規(guī)避，總體來(lái)說(shuō)，以下問(wèn)題需要注意：

2.1 系統(tǒng)性錯(cuò)誤風(fēng)險(xiǎn)

2018年前文提到的智能醫(yī)生Watson就被爆出給多名癌癥患者開錯(cuò)了藥，給有出血癥狀的癌癥病人開出了易出血的藥物，無(wú)獨(dú)有偶，美國(guó)亞馬遜公司的人臉識(shí)別軟件也曾鬧出過(guò)將多名國(guó)會(huì)議員識(shí)別成罪犯的笑話，上述例子在人工智能領(lǐng)域并不罕見，通常情況下，人工智能的效率及準(zhǔn)確率是遠(yuǎn)超人類的，但是是系統(tǒng)就難免出現(xiàn)漏洞，一旦出現(xiàn)漏洞，人工智能則可能出現(xiàn)錯(cuò)誤。人工智能出錯(cuò)和人類出錯(cuò)有一個(gè)區(qū)別，就是人類出現(xiàn)差錯(cuò)往往體現(xiàn)在個(gè)案上，比如醫(yī)生可能因?yàn)橐粫r(shí)疏忽等原因?yàn)槟硞€(gè)病人開錯(cuò)藥，但其結(jié)果往往只影響到具體的患者，但人工智能如果存在漏洞，其出錯(cuò)則是成批出錯(cuò)，最后可能造成大錯(cuò)。另外，所有的人工智能系統(tǒng)都是網(wǎng)絡(luò)化的，每一個(gè)終端都與系統(tǒng)相連并相互影響，而計(jì)算機(jī)的思維是不會(huì)變通，不會(huì)反思，它只會(huì)以設(shè)定好的目標(biāo)為方向繼續(xù)執(zhí)行指令，美國(guó)股市曾經(jīng)多次出現(xiàn)過(guò)因?yàn)橛?jì)算機(jī)系統(tǒng)而引發(fā)的股災(zāi)，因?yàn)槿嗽谠O(shè)計(jì)計(jì)算機(jī)操作股票時(shí)，為了確保在暴跌時(shí)他們的委托人能夠立即止損，會(huì)瞬間拋售掉手中的股票，而這種操作會(huì)觸發(fā)另一臺(tái)計(jì)算機(jī)的止損條件，于是形成雪崩式的鏈?zhǔn)椒磻?yīng)，造成股災(zāi)。司法人工智能領(lǐng)域當(dāng)然也存在上述的風(fēng)險(xiǎn)，更為嚴(yán)重的是，隨著司法人工智能的發(fā)展，在信息交流極度通暢的今天，最有效的智能算法會(huì)迅速的被各地法院運(yùn)用，此時(shí)一旦算法出現(xiàn)漏洞，則可能出現(xiàn)大面積的錯(cuò)誤，而此時(shí)的錯(cuò)誤就并非個(gè)案錯(cuò)誤，而是系統(tǒng)性的類案錯(cuò)誤。司法活動(dòng)對(duì)當(dāng)事人乃至對(duì)社會(huì)都有著巨大的影響，鑒于此，人工智能與法院工作的結(jié)合更應(yīng)采取保守的態(tài)度，穩(wěn)扎穩(wěn)打，不宜冒進(jìn)，確保引進(jìn)的是經(jīng)過(guò)市場(chǎng)考驗(yàn)的成熟且可靠的技術(shù)，同時(shí)應(yīng)密切監(jiān)視系統(tǒng)的運(yùn)行狀態(tài)，建立高效的系統(tǒng)故障響應(yīng)機(jī)制，確保將風(fēng)險(xiǎn)降到最低。

2.2 法官主體性喪失風(fēng)險(xiǎn)

雖然當(dāng)前司法人工智能系統(tǒng)還很不成熟，但是隨著技術(shù)的不斷發(fā)展，智能閱卷、智能證據(jù)審查、智能庭審系統(tǒng)、智能文書起草、智能案例及法條推送甚至智能裁判結(jié)果建議等人工智能功能將逐漸完善，法官收到案子后拿到的是經(jīng)過(guò)系統(tǒng)提煉過(guò)的案件報(bào)告，證據(jù)亦經(jīng)過(guò)系統(tǒng)的智能篩查及認(rèn)證，系統(tǒng)再向法官智能推送類案案例及相應(yīng)法條，法官需要做的工作似乎就是依據(jù)人工智能給出的上述材料順理成章的作出裁判，如此一來(lái)就會(huì)產(chǎn)生一個(gè)疑問(wèn)，這樣形成的裁判結(jié)果究竟是法官作出的還是人工智能系統(tǒng)作出的？當(dāng)系統(tǒng)作出的判斷正確率遠(yuǎn)高于人類時(shí)，人類法官面對(duì)系統(tǒng)給出的判斷時(shí)將很難有產(chǎn)生不同意見的自信，由此產(chǎn)生的風(fēng)險(xiǎn)就是法官可能在辦案過(guò)程中形成路徑依賴，過(guò)于信賴系統(tǒng)給出的判斷從而怠于自主積極的思考，以致業(yè)務(wù)能力生疏，甚至淪為系統(tǒng)的助手。另一方面，在司法改革的今天，司法責(zé)任制要求法官對(duì)案件的結(jié)果負(fù)責(zé)，而互聯(lián)網(wǎng)的發(fā)展使任何一個(gè)判決都可能在互聯(lián)網(wǎng)上迅速發(fā)酵，最后形成輿論危機(jī)，在這種情形下，法官具有天然的風(fēng)險(xiǎn)規(guī)避傾向，此時(shí)，人工智能系統(tǒng)給出的標(biāo)準(zhǔn)化答案無(wú)疑將成為其最穩(wěn)妥的方案。因此，如何厘定法官與人工智能系統(tǒng)的關(guān)系，保證法官的辦案主導(dǎo)權(quán)，這也將是我們今后將要面對(duì)并不斷探索的課題。筆者認(rèn)為，在法院人工智能系統(tǒng)的建設(shè)過(guò)程中，我們要明確人工智能系統(tǒng)“為法官節(jié)省體力而非腦力”的原則，確立人工智能的輔助性地位，防止系統(tǒng)的越俎代庖。