人工智能時代面臨的刑事風險及其應對

摘 要 人工智能技術為人類的生產生活帶來了諸多便利，客觀上推動了社會經濟的發展進步，但同時也帶來了各種不容忽視的刑事風險。本文首先對人工智能產品做出類型上的劃分，對弱人工智能時代中人工智能產品可能涉及的刑事犯罪類型進行列舉，這一階段中弱人工智能產品會為犯罪人提供更高級的犯罪手段，從而造成信息泄露風險增大、犯罪的社會危害性大大增強、技術發展不成熟存在安全隱患等刑事風險;強人工智能時代的到來則會對現行刑法內容解釋、體系結構產生沖擊，使刑法面臨犯罪主體構造基礎動搖、刑事責任承擔以及刑罰適用困難等難題。其次，本文針對人工智能時代的刑事風險，從應當遵循的基本原則以及技術發展的兩個階段分別提出刑法上的應對建議，即在基本原則上堅持科學發展與人類利益優先;弱人工智能產品涉及的刑事責任承擔問題的解決以及強人工智能時代下對于刑法內容補充和刑法體系建構的建議。

關鍵詞 人工智能 刑事風險 刑法應對 刑事責任承擔

作者簡介：王鐘儀，東北農業大學，本科。

中圖分類號：D920.4 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?文獻標識碼：A ? ? ? ? ? ? ? ? ? ? ? ?DOI：10.19387/j.cnki.1009-0592.2019.07.003

一、時代背景與問題描述

人工智能這一概念早在20世紀50年代就已被提出過，但由于當時的互聯網、大數據、云計算等科技水平的發展尚顯不足且不夠成熟，實現人工機器的智能化即能夠自我學習、自我意識，在很長一段時間中都超出了人們的預想，對于人工智能的研究曾長期處于基本停滯狀態，并未得到人們的廣泛關注。2016年Google公司的Alpha Go Tools在韓國首爾舉辦的人機圍棋大賽中，以4：1的絕對優勢戰勝了世界圍棋第一人李世石，這使全世界的目光再一次聚焦到了人工智能這一前沿科技上，人工智能技術崛起，成為了國際競爭的新焦點。美國白宮于2016年10月發布了《為人工智能的未來做好準備》和《國家人工智能研究和發展策略規劃》兩份重要報告，谷歌公司和蘋果公司競相收購了最有潛力的人工智能初創公司，微軟在地球人工智能計劃中宣布投資500萬美元，各國政府、高校、大型的互聯網相關企業都紛紛加大人工智能領域的人力與財力投入，努力搶占人工智能技術全球制高點。

世界各國都把人工智能的研發作為提升國家競爭力的重大戰略，中國當然也不例外。我國政府于2017年7月引發了《新一代人工智能發展規劃》，對我國人工智能技術的未來發展進行戰略部署，中國科技巨頭阿里巴巴集團、百度、騰訊科技分別在新加坡、美國斥巨資建立了人工智能應用聯合研究機構與實驗室，人工智能創新產品正以日新月異的速度發展。我們無法預想卻又不得不承認，人工智能新時代已經來臨。

《新一代人工智能發展規劃》中指出，人工智能在互聯網“網絡化”“數字化”的不斷成熟中，日益向“智能化”邁進。它作為影響面廣的顛覆性技術，可能會帶來沖擊法律和社會倫理、侵犯個人隱私、挑戰國際關系準則等各種問題，其發展的不確定性可能會為人類社會帶來安全風險與挑戰。偉大的物理學家、宇宙學家史蒂芬·霍金曾表示：“人工智能的崛起是人類歷史上最好的事情，憑借這場新的科技革命，我們或許可以挽回上一場工業革命給自然界和人類社會帶來的破壞，然而人工智能在未來可能對人類生存帶來毀滅性的威脅，除非我們學會如何規避、控制風險?！?/p>

一個全新時代的到來，必然會產生很多超出傳統法律理念與已有法律法規范圍的新問題，人工智能時代的到來要求我們從法律層面對其各個領域需要解決和完善的問題進行規制。目前法學界已有學者對知識產權、民事等領域展開研究，而對于刑事風險與責任方面的研究卻比較少?，F今生活中人工智能使用者與研發者利用機器人實施的，以及機器人在人類智慧范圍內外實施的危害社會的犯罪行為日益增多，社會危害性不斷加大，這些都足以使人工智能在刑法層面得到強烈重視。基于此，筆者將著眼于人工智能時代可能帶來的刑事風險，以及如何對這些刑事風險進行有效地應對展開分析與討論。

二、人工智能時代的刑事風險

（一）人工智能產品類型的劃分

人工智能產品的本質是依托算法，從而實現自我意識并獲得獨立思考與解決問題的能力，根據內部算法的復雜程度，可以分為弱人工智能產品和強人工智能產品。但算法屬于技術范疇，在法律上按照人工智能產品精密復雜的內部運作原理對其進行分類，這很難做到精確，可操作性也不強。因此我們從法律層面對劃分人工智能產品規定一個標準，即以是否具有辨認能力與控制能力來區分弱人工智能產品和強人工智能產品。

目前人工智能的發展整體上仍處在弱人工智能時代，弱人工智能產品雖然能夠實現自我意識、進行獨立思考和解決問題，但這些都被限制在設計者編制的程序范圍內，也就是說，人工智能產品的自我意識、判斷與決策實際上仍是其創造者意識的體現。例如AlphaGo在圍棋大賽中戰勝了李世石九段，這雖然是它自我判斷與決策的結果，但這都是在設計者預先設計和編制的程序范圍內進行的，體現的是設計者或使用者的意志。也就是說如果讓AlphaGo去駕駛汽車，它必然無法出色完成任務。

強人工智能產品則是具有辨認能力與控制能力，可以超出設計者設計與編制的程序范圍進行自我意識、判斷與決策的人工智能產品。這一概念最初由約翰·羅杰斯·希爾勒創造：“計算機不僅是用來研究人的思維的一種工具;相反，只要運行適當的程序，計算機本身就是有思維的?！蹦壳叭祟愐呀浾莆樟巳跞斯ぶ悄芗夹g，并向強人工智能時代邁進。

（二）弱人工智能時代可能面臨的刑事風險

由于弱人工智能產品不具有辨認能力與控制能力，其自我意識、判斷與決策都是按照設計者或使用者的意志在編制程序范圍內進行，因此可以將弱人工智能產品定義為一種“工具”。工具范疇內的人工智能產品目前已經較為廣泛地應用于醫療衛生、家庭生活、會計金融、運輸交通等各個社會生活領域，在這里，筆者將弱人工智能可能涉及的刑事犯罪類型進行列舉，并針對不同的犯罪類型，對弱人工智能時代可能存在的刑事風險進行分析。

第一，行為人對人工智能產品本身進行破壞，實施犯罪。人工智能產品發展的第二階段是信息化，它在現階段的運算推理以及決策實施等能力都是以計算機信息系統為基礎，它的智能系統中儲存了大量的數據與信息，這其中不僅包括涉及公民身份信息、個人隱私、財產安全的內容，甚至還包括關乎國家安全與軍事利益等重大數據信息。犯罪分子對人工智能產品實施犯罪，可能會產生嚴重危害社會的后果，例如犯罪分子破壞和侵入證券交易市場的人工智能機器程序，從而操控證券交易市場，導致經濟秩序的混亂與崩潰。

第二，行為人利用人工智能產品實施犯罪行為，達到犯罪目的。這種犯罪是典型的“工具型犯罪”，人工智能技術飛速發展，將其作為犯罪工具的犯罪行為也隨之一同進化，變得越來越高級。從國家利益、公共安全、社會管理和軍事領域等層面來說，恐怖分子可以通過人工智能產品實施在公共場所安裝與控制爆炸物等恐怖活動，無需親歷親為就可以達到危害社會的犯罪目的;犯罪分子可以利用人工智能產品非法獲得國家機密與其他保密信息并加以利用，從而擾亂社會秩序;又比如美國、俄羅斯、以色列、烏克蘭等國家對“殺人機器人”的研發，人工智能技術在生化與軍事領域的應用可能會為人類帶來毀滅性的傷害。

從公民個人財產安全與人身安全的角度來看，現今互聯網大數據收集了包括個人身體健康狀況、行動軌跡、生活習慣等各種信息，犯罪分子利用人工智能產品輕松竊取公民的個人信息，人工智能的語言偽裝技術極大程度地縮小了機器與人類語言的差異，這些都為網絡詐騙等犯罪的實施提供了極大的便利;用人工智能技術制造殺人機器，借刀殺人，或用以銷毀罪證從而使自己全身而退的行為也不可忽視。

人工智能技術作為高級的犯罪工具，在一定程度上消除了犯罪的障礙，為犯罪提供便利，降低了犯罪的難度，極大增強了傳統犯罪的社會危害性。

第三，人工智能產品生產質量及運行安全問題造成的危害。當前工業生產、醫療臨床、汽車制造、教育培訓等都廣泛應用人工智能技術，美國職業安全健康管理局曾進行了相關統計，在過去的30年大約發生了30多起與機器人相關的死亡事件。人工智能產品由于技術的不成熟或者系統內部的不穩定性，在運行時可能會自發地對社會和公民造成社會危害。

（三）強人工智能時代可能面臨的刑事風險

隨著各國對人工智能技術的研究不斷深入，人工智能產品超出設計程序的自我意識范圍，產生辨認能力與控制能力，已逐漸變為可能。對于強人工智能產品可能造成的刑事風險和其刑事責承擔問題的探討勢在必行。

強人工智能產品在程序設置范圍內造成的社會危害;以及其作為工具，在沒有自我意識影響的情況下被利用于犯罪行為從而造成的社會危害，與弱人工智能時代可能產生的刑事風險大致相同，因此在這里重點對具有辨認能力和控制能力的強人工智能產品在超出程序設置范圍的情況下，依靠獨立的自我意識實施對社會造成嚴重危害的行為，從而可能產生的刑事風險予以論述分析。

第一，強人工智能產品在自我意識控制下實施損害社會的行為，可能由于刑法對其解釋空間不足而得不到規制。例如，刑法規定：危害行為是在人的意志或者意識支配下實施的危害社會的身體動靜。那么強人工智能產品實施的損害行為是否能夠被認為是刑法上的危害行為呢？又如，刑法中規定犯罪主體是指實施危害社會行為并依法應負刑事責任的自然人和單位，傳統刑法中并未將人工智能產品規定為刑法上的行為主體，那么強人工智能產品能否作為“人”而受到法律的規制呢？由于刑法及其解釋對相關方面的規定不足，在強人工智能產品依靠自我意識實施損害行為時，可能難以在刑事法律中找到合理的法律依據與解釋，從而無法規制。

第二，可能會對我國刑法現有體系結構產生沖擊。刑法是規定犯罪、刑事責任和刑罰的法律，強人工智能時代的到來可能使我國犯罪主體體系、刑事責任體系、刑罰體系均面臨重塑的風險。

首先是在犯罪主體體系上，關于人工智能產品能否作為刑法上的法律主體，學者們的觀點大致分為兩種：一是認為其辨認能力與控制能力是自然人賦予的，依附自然人而存在，不應被視為犯罪主體;相反觀點則認為未來的人工智能產品能夠超出程序范圍擁有不受人類控制的自我意識，應當被視為是獨立的犯罪主體。在這里筆者贊同后者。法律主體理論已經歷了從自然人到法律擬制人的發展，這里的“人”是抽象的，隨著社會發展的日趨復雜性，法人、非法人組織、甚至是動物都逐漸被納入法律主體范圍，這在過去的很長一段時間也是超出人們認知范圍，遭到人們廣泛爭議的。這在一定程度上可以說明，隨著社會發展的需要，不排除在未來將具有自我意識的人工智能產品列為刑法中的犯罪主體的可能性。在那個時候就會對現有刑法體系中關于犯罪主體的構造基礎造成顛覆性的沖擊，形成自然人、單位、人工智能機器人為基礎的犯罪主體體系。

其次是在刑事責任體系層面，人工智能產品能否具有刑事責任能力呢？刑事責任能力是指行為人構成犯罪和承擔刑事責任所必需的，行為人具備的刑法意義上的辨認和控制自己行為的能力。當人工智能產品被承認為刑事上的法律主體，并且具有了獨立于編制程序的辨認能力與控制能力時，就具有了刑事責任能力。這時便會出現一系列難以解決的問題，例如：人工智能產品既不像自然人一樣擁有生命、自由，也不像單位擁有財產、資格等，那么它如何實現其對刑事責任的承擔呢？既然很難由其自身承擔刑事責任，那就其犯罪行為向設計者與使用者等相關人追責是否違背了刑法中的罪責自負原則呢？人工智能產品具有刑事責任，卻對其刑事責任承擔困難，這必然會動搖現行的刑事責任體系。

最后從刑罰體系的角度來分析，我國目前將刑罰的對象限制在自然人和單位，因此主要是依據自然人的自然屬性及本質特征對刑罰進行設置。例如：有期徒刑、無期徒刑是對于自然人自由的剝奪，自然人的生命是有限的，這兩種刑罰對于自然人來講是嚴酷的;死刑是對自然人有限生命的剝奪，生命權是自然人最為寶貴的一項人身權利。而對于人工智能產品來說，它的生命是無限的，且時間與自由對其產生的意義不大，傳統刑罰對于人工智能產品來說無法發揮剝奪、威懾、改造、教育等功能，基本失去了其固有的價值。這會在根本上動搖當前刑罰體系確立的根據，即刑罰體系應有利于刑罰功能的發揮和刑罰目的的實現。因此，在未來可能會出現一套不同于自然人和單位的，適用于人工智能產品的刑罰體系，從而導致現有刑罰體系的結構與重塑。

三、人工智能時代的刑事風險應對

（一）在基本原則上堅持科學發展與人類利益優先

綜上所述，人工智能技術的發展必然會給人類社會帶來很多已知或未知的難題，但不可否認的是人工智能時代的到來是科學技術進步的必然結果，回顧人類歷史可見，科學技術會給社會各個方面造成風險與災難，但同樣也會為人類帶來福利。我們不能為了規避風險而阻礙人工智能技術的發展，相反，我們應該對該項技術的研究予以支持和鼓勵，并對發展中產生的問題積極加以應對與解決。

艾薩克·阿西莫夫曾提出了機器人三大定律，第一定律是不能傷害人類;第二定律是恪守人的命令，除非與第一定律相沖突;第三定律是保護自己，除非與第一、第二定律相沖突。這可以為我們應對人工智能時代的刑事風險提供理論依據。在弱人工智能時代，人工智能產品的自我意識尚限制在人類的規制程序范圍內，也許不會主動做出危害人類安全的行為，到了強人工智能時代，人工智能產品可能脫離人類的控制，憑超出規制程序范圍之外的自我意識實施危害人類的行為。這就要求我們對這些危害人類利益的情況，盡早確立人類利益優先原則，并從立法、司法、執法等各個方面對這些情況做出預防，同時正確面對人工智能技術發展過程中出現的新的法律問題，積極地做進一步規制。

（二）弱人工智能時代下的刑事風險應對

在弱人工智能時代，人工智能產品受自身編制程序的控制，其行為實現的是設計者或其使用者的意志。對于這一階段的人工智能產品，筆者認為可以將其劃為“產品”的范疇，依照《產品質量法》第十三條規定：“對可能危及人體健康和人身、財產安全的工業產品，必須符合保障人體健康和人身、財產安全的要求?！逼湓O計研發者、生產制造者對人工智能產品負有安全生產義務。因此當人工智能產品不符合國家、行業標準，由于自身缺陷或運行錯誤造成嚴重損害后果時，可以比照《刑法》第一百四十六條生產、銷售不符合安全標準的產品罪，對其設計者、生產者和銷售者追究責任。與此同時，如果產品的使用者、管理者未對人工智能產品進行安全操作或盡安全管理義務，也可以被要求承擔責任。

另外，對于犯罪人將人工智能產品作為工具實施犯罪，以及犯罪人對人工智能產品進行破壞和利用進行犯罪的行為，可以比照《刑法》第二百八十五條、二百八十六條和二百八十七條，依法對行為人追究刑事責任。

（三）強人工智能時代的刑事風險應對

筆者在這里將強人工智能時代的刑事風險，以機器人實施的損害行為是否由編制程序范圍之內的自我意識支配為標準分為兩類。機器人未超出編制程序，實施具有嚴重社會危害性的行為;或者被行為人作為工具利用實施犯罪行為從而造成的刑事風險，可以參照弱人工智能進行應對，二者基本一致，這里不多做論述。當機器人通過深度學習具有了辨認能力和控制能力，超出設計編制程序范圍，以獨立的不受人類控制的自我意志實施危害社會行為時，其造成的刑事風險應如何應對是在這里要重點論述的部分。

1.先以其他法律對人工智能風險進行初步應對，最后再從刑法上進行規制。筆者認為現今社會總體上仍處在弱人工智能時代，對于強人工智能時代可能面對的刑事風險主要限于設想和預測層面，社會中涉及的強人工智能產品超出程序范圍以自我意志獨立實施犯罪的情況較少，直接從刑法層面對其做出完整的規定的現實性較小。因此可以以其他法律先行，在民事、行政領域出臺相關的法律法規，例如前文應對措施中提出的，比照《產品質量法》對人工智能產品涉及的犯罪責任承擔問題進行解決時，可以在民事、行政法等角度增加一些有關設計者、生產者、管理者注意義務的內容，并不斷對技術發展過程中產生的風險做進一步規制。刑法層面則可以首先在現有罪名與解釋的基礎上做一些補充，待人工智能技術進一步取得突破性進展之后，明確是否確實產生了將強人工智能機器人確定為犯罪主體、刑事責任承擔主體，以及設置新的刑罰罪名并調整刑罰體系的需要，然后再將刑法作為最終也是最嚴厲的法律保障，針對產生的刑事風險，在發展成熟的對應的倫理制度、其他法律制度、社會規則基礎上，對人工智能產品進行最后的全面規制。

2.從立法上對刑法的體系和內容進行補充與改進，可以從犯罪主體體系、刑事責任體系、刑罰體系三個層面進行。

在犯罪主體基本構成上，筆者認為應將擁有自我辨認能力與控制能力的強人工智能產品作為與自然人、單位相并列的擬制的刑事法律主體。

在刑事責任承擔上，設計者或使用者與人工智能機器人就其實施的嚴重危害社會安全的行為應承擔連帶責任，因為即便人工智能機器人是以脫離編制程序的獨立意識實施的犯罪行為，但其辨認能力與控制能力是源于設計者賦予其的基本程序，其危害行為也可能是由于使用者在使用過程中觸發了某項程序而產生，在這里筆者認為設計者或使用者對智能機器人的犯罪行為承擔無過錯責任。

在刑罰體系角度，筆者認為應逐步建立專屬于人工智能機器人的，即針對人工智能產品的本質屬性及內在需求的有效的刑罰體系。劉憲權教授在《人工智能時代的“內憂”“外患”與刑事責任》一文中，對強人工智能機器人時代具體的刑罰體系做了大膽的構想，將適用機器人的刑罰分為刪除數據、修改程序、永久銷毀三種。筆者認為這些刑罰方式可以對機器人發揮教育、威懾等功能，且體現了刑罰的層次性，寬嚴相濟、銜接緊湊，能夠對人工智能機器人造成“痛苦”且不具有殘虐行，同時也是對刑法罪責自負、罪責刑罰相適應原則的貫徹，是可取并值得借鑒與思考的。

四、結語

人工智能技術帶來的一系列刑事問題與風險是我們不可逃避，且必須積極應對的。當前大多數人們仍認為人工智能產品僅是受我們控制與使用的工具而已，無需未雨綢繆地考慮如何處理機器人刑事犯罪的問題。筆者則認為，將科學發展和人類利益優先原則確立為人工智能相關刑事立法的基本原則，將人工智能產品的嚴重危害社會行為盡快納入刑法規制范圍之內，在依照現實需要彌補刑法內容與解釋之缺漏的同時，對未來可能出現的強人工智能產品實施的危害行為進行預見與探討，盡早對倫理、法律、經濟等各個社會領域可能產生的新情況與新問題進行預想、規制，才能減少未來這項新事物對于社會的沖擊，并且為人工智能技術的發展提供法律上的引導與保護，使其向著對人類社會有益的方向進一步發展。

參考文獻：

[1]高銘暄，馬克昌.刑法學[M].北京：北京大學出版社、高等教育出版社，2017.

[2]劉憲權.人工智能時代的刑事風險與刑法應對[J].法商研究，2018（1） ：134-142.

[3]劉憲權，胡荷佳.論人工智能時代智能機器人的刑事責任能力[J].國家社科基金項目成果專欄，2018（1）.

[4]張全印.機遇與挑戰：人工智能帶來的刑事風險與刑法應對[J].中國刑警學院學報，2018（6）.

[5]蔡映潔.人工智能，以法律和倫理為界[N].人民日報，2017-08-23（5）.

[6]馬克思，恩格斯.馬克思恩格斯全集：第1卷[M].北京：人民出版社，1956：16-17.

[7]王勇.人工智能時代的法律主體理論構造——以智能機器人為切入點[J].理論導刊，2018（2）：63-70.

[8]黃京平，高艷東，鐘福.人工智能與刑事法治的未來[J].人民檢察，2018（1）：41-48.