人工智能犯罪之刑法應(yīng)對

尹國 金梅娟

摘要：

大數(shù)據(jù)時代的到來，人工智能參與人類生活方方面面，并扮演者不可或缺的角色。當(dāng)前處于人工智能從低級向高級發(fā)展的過渡階段，人工智能引發(fā)的犯罪案件頻現(xiàn)，如何通過法律對人工智能犯罪的規(guī)制是法學(xué)學(xué)者們激烈討論的話題。在案件中，人工智能所涉及的主體、各主體之間的責(zé)任劃分以及是否將人工智能作為刑事責(zé)任主體是我們亟需解決的問題，目前我國民法總則、刑法中均未賦予人工智能法律人格，需要借鑒國外各國對人工智能的規(guī)定以迎接強人工智能對法律的挑戰(zhàn)。

關(guān)鍵詞：人工智能犯罪;法律人格;刑事主體;應(yīng)對策略

一、人工智能犯罪研究現(xiàn)狀

1950年，圖靈提出：“Can a machine think ？”[1]揭開人工智能發(fā)展序幕。經(jīng)過幾十年的研究與發(fā)展，人工智能步入低級向高級過渡期。眾多企業(yè)研發(fā)與引進人工智能機器人從事流水線工作;達芬奇手術(shù)機器人在全球醫(yī)院中廣泛應(yīng)用;谷歌無人駕駛汽車頻在公路現(xiàn)身;大規(guī)模人工智能武器的應(yīng)用等。人工智能技術(shù)給人類帶來便捷的同時也帶來諸多風(fēng)險。日本自1981年至今，發(fā)生多起機器人傷人殺人事件;2015年美國一臺機器人揮舞手臂殺死一名汽車廠裝配工;同年在德國大眾汽車廠機器人將技術(shù)工人碾壓在金屬板致死;2017年浙江警方破獲首起利用人工智能犯罪案件;2018年安徽蕪湖發(fā)生一起機器人傷害工人致死案件……人工智能的危險程度與犯罪風(fēng)險逐漸提升，對人工智能的法律規(guī)制需提上日程。

2010年開始，Hallevy教授發(fā)布多篇關(guān)于人工智能犯罪的論文并出版《When robots kill ：artificial intelligence under criminal law》對人工智能犯罪進行研究。[2]劉憲權(quán)教授分別對弱人工智能與強人工智能犯罪進行分析，對人工智能、人工智能研發(fā)者、使用者三者在某一犯罪中的主體責(zé)任的劃分研究，并認為人工智能超越人類編程之外的行為可能成為刑事主體。[3]而樸宗根教授認為人工智能犯罪缺乏罪責(zé)能力、缺乏違法認識可能性與期待可能性，不能通過法律成為犯罪主體。[4]王肅之教授站在現(xiàn)有的法律角度，利用現(xiàn)有刑法犯罪理論去規(guī)制與人工智能有關(guān)的自然人與法人。[5]張成東教授認為強人工智能時代刑事立法缺乏必要性，強人工智能不具備獨立意志、規(guī)范意識等因素，不能成為刑事主體。[6]人工智能是否能成為刑事主體涉及人工智能犯罪問題中主體認定與責(zé)任承擔(dān)，正確認識這個問題是規(guī)制人工智能犯罪的重要前提。

二、人工智能能否成為刑事主體？

犯罪是否成立，無論是侵害行為還是侵害結(jié)果都必須有一個具體的行為者與結(jié)果制造者。而這個侵害行為的行為者與結(jié)果者就是我們要研究的犯罪主體。人工智能犯罪案件中，判斷人工智能是否為刑事主體是公平劃分刑事責(zé)任的前提。當(dāng)前各國的刑法都沒有關(guān)于犯罪主體的法定定義，只有對犯罪主體的具體內(nèi)容以及刑事責(zé)任年齡、刑事責(zé)任能力等問題的相關(guān)規(guī)定，刑法理論上有關(guān)犯罪主體的定義沒有統(tǒng)一表述。

（一）人工智能刑事主體之否定論

日本學(xué)者山口厚認為：“犯罪的主體在法律條文上是用‘…者來表現(xiàn)的，自然人屬于此。法人不屬于‘…者，僅在具備將法人作為處罰對象的特別規(guī)定的場合，方才處罰法人?！盵7]刑法尚未對AI規(guī)定，AI亦不屬于‘…者表現(xiàn)。日本學(xué)者團藤博士從人格行為論出發(fā)，認為犯罪行為是“行為人人格的主體性現(xiàn)實化的身體動靜”這種行為是具有生物學(xué)的基礎(chǔ)與社會的基礎(chǔ)，是在人格與環(huán)境的相互作用中由行為人的主體性態(tài)度所實施的。[8]人工智能由一串串代碼組成，人工智能的行為是根據(jù)編碼指令抑或深度學(xué)習(xí)后自身發(fā)出的行為指令，難以脫離“人造載體”的局限，不具備生物學(xué)的基礎(chǔ)?？档掳逊缸锟醋魇且粋€有理性的人之所為，只有這樣才能加刑于他，犯罪人首先是一個具有刑事責(zé)任能力的人。在責(zé)任行為中，行為者據(jù)此被視為行為結(jié)果的作者。[9]人工智能犯罪的情形中，其是都具備責(zé)任能力值得考量。張成東教授認為人工智能超越編程外的意志極大可能是程序中的遺漏而非產(chǎn)生的獨立意志，加之其實施行為是在既定程序下進行，且缺乏自主意識有選擇的實施，實然與應(yīng)然分析出強人工智能無法成為刑事主體。

（二）人工智能刑事主體之肯定論

目前，大多數(shù)學(xué)者認同人工智能具備刑事主體資格。周詳教授從“權(quán)利主體論”角度出發(fā)，他認為將智能機器人“人格化”不存在法律上的障礙。[10]其實早在2017年，機器人Sophia 就被沙特阿拉伯授予公民身份。劉憲權(quán)教授從賦予人工智能道德與倫理屬性出發(fā)，肯定智能機器人的犯罪主體地位，從《刑法》17條入手承認人工智能的主體地位。[11]國外Hallevy教授認為犯罪主體可以從自然人、法人中增加人工智能。彭文華教授研究Hallevy教授有關(guān)人工智能犯罪理論，并認為并非所有人工智能都可以賦予法律人格成為犯罪主體。[12]肯定論學(xué)者站在科技前沿探索人工智能犯罪的相關(guān)問題，但值得注意的是當(dāng)前人工智能入刑處于萌芽階段，需要究其本源進行研究。人工智能與法律的結(jié)合涉及多個學(xué)科領(lǐng)域知識，“法律人”的生物學(xué)屬性與意識表現(xiàn)是什么？自然人與人工智能的思考方式、思維誕生產(chǎn)生的來源是什么？法律意義上的人格具備哪些要素等…這個問題是需要綜合多學(xué)科領(lǐng)域知識，學(xué)者們共同的努力才能準確回答。

（三）人工智能刑事主體之我見

2015年開啟人工智能新革命，現(xiàn)在仍處于人工智能過渡期。目前人工智能不具備生物學(xué)的特征，其獨立實施的行為也區(qū)別于自然人和法人行為的特征。加之人工智能最開始是基于人類的代碼產(chǎn)生，其存在與工作都是根據(jù)人類的指令進行，這與能獨立思考，具有自己意志的人截然不同。人工智能的深度學(xué)習(xí)是基于人類的只是數(shù)據(jù)庫，暫時不能脫離人類的經(jīng)驗而行，并且所有的代碼是人類輸入編程。人工智能在一定程度上具有智并不代表它具有人類特有的感情，在過渡期，人工智能尚不能賦予其刑事主體資格。

在未來的強人工智能時代，或許世界上會存在諸多“類人”智能體，而在那時，人工智能在某些方面還是達不到意志自由。以Alpha Go為例，Alpha Go在2016年戰(zhàn)勝圍棋冠軍李世石，與柯潔對戰(zhàn)。Alpha Go之所以贏是研究團隊將目前所能搜集的圍棋路數(shù)、棋譜等輸入Alpha Go，使得Alpha Go掌握比棋手更多的路數(shù)，且能預(yù)先判定對手的下一步，其勝利是編程快速計算的結(jié)果?，F(xiàn)階段賦予人工智能刑事主體資格還為時過早。在民法領(lǐng)域，楊清望教授認為可以從人類的權(quán)利優(yōu)先為主角度，運用法律擬制技術(shù)，賦予人工智能獨立法律人格。[13]朱程斌從倫理角度入手，認為不能賦予人工智能生物人的法律人格，但是可以賦予其法人人格。[14]也有學(xué)者根據(jù)洛克勞動理論與弗魯姆等期望理論，認為人工智能在民商法中極有可能被賦予擬制法律人格。

近現(xiàn)代的刑法理論是以自然人與自然人行為為中心建立起來的，無論是以行為為中心的刑事古典學(xué)派還是以行為人為中心的刑事實證學(xué)派，皆倡導(dǎo)個人責(zé)任原則、罪責(zé)自負等法律適用基本原則。人工智能犯罪行為足以侵害個人、社會、國家的法益，必須進行歸責(zé)。 結(jié)合民法、公司法以及刑法第17條之規(guī)定，人工智能作為一個編碼組成的智能體，其不具備生物人的特征，但具備法律人所需的要素，可以賦予其擬制法律人格，從而追究其犯罪責(zé)任。

三、AI時代下刑法之應(yīng)對

習(xí)總書記在十九大報告中提到：“要推動互聯(lián)網(wǎng)、大數(shù)據(jù)和實體經(jīng)濟的深度融合。”且2017年國務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》中提到：“制定促進人工智能發(fā)展的法律法規(guī)和倫理規(guī)范”。人工智能時代下，刑法予以規(guī)定必不可少，需盡快制定刑法規(guī)定迎接新一輪人工智能革命的挑戰(zhàn)。

（一）人工智能犯罪的主體

在弱人工智能階段，軟件研發(fā)者往往基于某種目的研發(fā)人工智能。科研項目的需要抑或軟件使用者的委托更或是為了謀取非法利益。出于謀求不正當(dāng)利益，軟件開發(fā)者與軟件使用者往往根據(jù)自己的意志向人工智能下達某種違法指令來達到某種非法目的，人工智能根據(jù)指令實施違法行為，這一過程中，人工智能僅作為犯罪的工具，軟件開發(fā)者與軟件使用者是犯罪的主體。

在人工智能犯罪案件中可能會存在這幾種情況：一、軟件開發(fā)者編程的人工智能符合法律規(guī)定，使用者取巧利用人工智能進行犯罪活動，此時使用者負刑事責(zé)任。二、軟件開發(fā)者受使用者的委托編程設(shè)計用于犯罪的人工智能，若人工智能實施犯罪活動。此時軟件開發(fā)者與使用者均是故意，共同承擔(dān)刑事責(zé)任。三、軟件開發(fā)者向使用者隱瞞人工智能會犯罪的部分功能，在使用者未能掌控人工智能下，人工智能的犯罪結(jié)果只能由軟件開發(fā)者承擔(dān)。四、軟件開發(fā)者履行其提醒義務(wù)與維修義務(wù)，使用者疏忽大意或者過于自信所造成的案件責(zé)任由使用者承擔(dān);軟件使用者根據(jù)使用說明進行操作，軟件開發(fā)者未履行提醒義務(wù)，人工智能在使用者支配下導(dǎo)致的損失由軟件研發(fā)者承擔(dān)。

在強人工智能階段，人工智能能夠通過深度學(xué)習(xí)，突破程序的固定模式，具有自己的“價值觀”，人工智能可以自主的實施具有社會危害性的行為。人工智能在沒有軟件研發(fā)者與使用者下達指令的情況下所實施的犯罪結(jié)果應(yīng)根據(jù)人工智能、軟件使用者、開發(fā)者各自的過錯承擔(dān)刑事責(zé)任。

（二）應(yīng)對之策略

人工智能的產(chǎn)生可以參考法人制度，采用備案登記制度，一定的資金作為保障，更需要特別的管理人員。備案登記是為了更快的查找到人工智能的身份與相關(guān)責(zé)任人;資金是人工智能犯罪或違法后用于補償或賠償受害人損失的保障;管理員對人工智能負有監(jiān)督和維護義務(wù)，在人工智能犯罪時，管理員未盡到相應(yīng)的義務(wù)，同承擔(dān)對應(yīng)的刑事責(zé)任。

現(xiàn)有的刑罰主刑包括管制、拘役、有期徒刑、無期徒刑、死刑。針對自然人犯罪與單位犯罪的刑罰很難對人工智能施行，以使其敬畏刑法?？舍槍θ斯ぶ悄茉鲈O(shè)新的刑罰措施，例如：刪除其帶有攻擊性的程序，刪除其主要功能或直接摧毀人工智能程序。更或者參考科技電影中給機器人植入特殊程序，一旦人工智能有攻擊人類或危害社會的思維編碼產(chǎn)生，立即啟動自毀程序。且特殊程序必須根植于人工智能的核心程序中，以至于人工智能不能夠屏蔽。

完善相應(yīng)的人工智能保險制度，鼓勵人工智能保險行業(yè)的發(fā)展。人工智能的軟件開發(fā)者與使用者需要為人工智能購買一定數(shù)額的法定保險，類似于“交強險”，一旦人工智能犯罪出現(xiàn)，保險公司會盡快對受害方賠付損失。

四、結(jié)語

技術(shù)的進步催發(fā)新事物的產(chǎn)生，對于人工智能的犯罪研究需提上日程。立足于實際，結(jié)合新的技術(shù)，刑法學(xué)者們應(yīng)全面的探索人工智能犯罪問題。讓刑法的達摩克利斯之劍懸掛人工智能頭頂，構(gòu)建起人工智能刑法體系，以維護社會穩(wěn)定。

[參考文獻]

[1]Alan Turing，Computing Machinery and Intelligence 1950.49（236）mind.433-460.

[2]彭文華.哈利維的人工智能犯罪觀及其啟示[J].上海政法學(xué)院學(xué)報（法治論叢），2019，34（04）：70-88.

[3]劉憲權(quán).涉人工智能犯罪刑法規(guī)制的路徑[J].現(xiàn)代法學(xué)，2019，41（01）：75-83.

[4]樸宗根，楊玥.人工智能法律主體資格之刑法評判[J].南寧師范大學(xué)學(xué)報（哲學(xué)社會版），2019，40（05）：168-173.

[5]王肅之.人工智能犯罪的理論與立法問題初探[J].大連理工大學(xué)學(xué)報（社會科學(xué)版），2018，39（04）：53-63.

[6]張成東.強人工智能體刑事主體地位之否定[J].時代法學(xué)，2019，17（05）：54-62.

[7][日]山口厚著，付立慶譯.刑法總論（第三版）[M].北京.中國人民大學(xué)出版社，2018：35.

[8][日]大塚仁著，馮軍譯.刑法概說（總論）第三版[M].北京.中國人民大學(xué)出版社，2002：114.

[9]陳興良.刑法的啟蒙[M].北京.北京大學(xué)出版社.2018：166.

[10]周詳.智能機器人“權(quán)利主體論”之提倡[J].法學(xué)，2019（10）：3-17.

[11]劉憲權(quán).人工智能時代機器人行為道德倫理與刑法規(guī)制[J].比較法究，2018（04）：40-54.

[12]同[2].

[13]楊清望，張磊.論人工智能的擬制法律人格[J].湖南科技大學(xué)學(xué)報（社會科學(xué)版），2018，21（06）：91-97.

[14]朱程斌.論人工智能法人人格[J].電子知識產(chǎn)權(quán)，2018（09）：12-21.

[基金項目]本文系四川省高等學(xué)校人文社會科學(xué)重點研究基地基層司法能力研究中心項目：人工智能創(chuàng)作物的知識產(chǎn)權(quán)問題研究（項目編號JCSF2018-08）研究成果之一。四川輕化工大學(xué)2019年大學(xué)生創(chuàng)新創(chuàng)業(yè)訓(xùn)練計劃項目：人工智能法律人格問題研究（項目編號CX2019078）研究成果。

（作者單位：四川輕化工大學(xué)? 法學(xué)院，四川 宜賓 644000）