“人工智能AI）”犯罪主體預想

柳貝蒂

摘要：近年來人工智能發展迅猛，給人們的生活帶來便利，但是“人工智能（AI）”是否能成為刑法主體，一旦“人工智能（AI）”犯罪，處罰的主體如何確定就成為“人工智能（AI）”發展道路上的一顆“隱形炸彈”。本文針對“人工智能”成為刑法主體的可能性進行了分析論證。

關鍵詞：人工智能；犯罪主體；刑法

1 人工智能的發展現狀

近年來，人工智能（AI）技術對人們的生活產生了重大的影響。美國白宮曾在《國家人工智能研發戰略規劃》中指出，人工智能技術正在為農業、醫療、教育、能源、國防等諸多領域提供大量機遇。人工智能的發展給社會帶來了諸多變化。人們在日常生活中開始自我解放，從過去的生活方式中轉變，比如人工智能管家可以通過深度學習、語音合成、圖像識別、數據錄入、計算算法、程序、芯片七大智能錄入系統，為家庭、城市以及各行業提供智能管家機器人解決方案，為用戶提供智能、舒心的生活體驗。面對人工智能的迅速發展，一些傳統行業也采取相應措施，根據自身狀況進行調整轉型以應對這種沖擊。

人工智能作為科技的一表現形態，秉承科技的兩面性特征，這把雙刃劍一旦揮舞起來，驚喜與意外將會同在。

2 人工智能系統的設計風險

人工智能為量刑規范化注入力量，“智能化”甚至可能會成為量刑公正的新評價標準。但問題在于，作為一個人工設計的程序，人工智能系統在設計時就受到設計者思維的影響，雖然程序本身沒有價值取向，但是作為程序的設計者是存在著自己的價值取向和判斷的。想要剔除程序設計者對程序的影響，保持人工智能司法的公正性不僅是一個技術問題，也是一個價值判斷問題。

計算機語言與人類語言是不同的，術業有專攻，熟悉計算機語言的人未必對法律精通，未必持有公平正義的理念，倘若設計者只是本身對于法治理念的理解有所偏差，導致設計的人工智能量刑程序也帶有偏向性或者在數據分析過程中出現問題，勢必會造成冤假錯案。對于這種情況如何去定罪處罰，如果將人工智能系統作為工具，將程序的設計者當做制造冤假錯案的犯罪主體實際上是對主體的擴大解釋。但是如果設計者本身就將人工智能技術作為實施犯罪的一種工具，或者其他人故意篡改了系統進行犯罪，那么犯罪主體就可以確定，人工智能系統不具有可罰性也無爭議。

3 人工智能的技術失誤

當前人工智能最成熟的應用是無人駕駛汽車，2017年12月2日深圳的無人駕駛公交車正式上路，2輛試推出的無人駕駛公交車從深圳福田穿梭而出，公交車會自己提醒乘客：已進入自動駕駛模式，請乘客坐穩扶好。這是中國首次也是全球首例在公共開放的道路上進行無人駕駛。支持這次無人駕駛的是中國企業自主研發的“阿爾法巴-智能駕駛公交系統”。所有人都知道這一天會到來，但是誰都沒想到，這一天會來得這么快。大家在驚訝之余不禁會思考，如果這輛無人駕駛汽車在行駛途中發生交通事故應當如何處理。在無人駕駛技術中，人已經不是駕駛的主體，不具有實質的駕駛行為，這就使得責任主體無從可尋。如果將不具備危害行為的智能服務提供者定罪就沖擊了刑法上“無行為則無犯罪”的原則。任何一種技術都不可能零失誤，基于允許的風險而做出的責任分配體系實際上使得追究無人駕駛汽車服務的提供者的責任變成一種風險的轉移。但是無人駕駛汽車本身不是適格的刑法主體，追求其刑事責任又會導致刑法價值判斷的偏離。

另一個典型例子是醫療事故罪。作為典型的過失犯罪，醫療事故罪追究的主體是嚴重不負責任的醫療主體。但是在智能醫療的背景下，人工智能操刀進行手術的現象將會越來越普遍，在這種情形下發生醫療事故，單獨追究醫護人員的責任顯得并不公平，追究智能機械或者制造者的責任又不符合本罪主體的要求，這就陷入了責任主體的怪圈。

4 “人工智能（AI）”犯罪的主體分析

犯罪主體是犯罪構成的必備要件，“人工智能（AI）”犯罪在分析主體時出現了三類“主體”，而這三類主體是否可以成為真正的犯罪主體需要經過具體的判斷。

4.1 現階段人工智能犯罪主體的初步判斷

人工智能犯罪大致可以分為兩種情況，一種是被有犯意的人當作工具使用來進行犯罪，這種情形可以根據行為人的行為進行相應的判斷和處罰，主體可以確定；另一種就是人工智能脫離了設計者的設想而造成危害結果，這種情況相對來說就更為復雜。

以上文中提到的無人汽車發生交通事故為例進行分析，對這種情況是否可以定為交通肇事罪，犯罪主體是誰進行討論。

首先，交通肇事罪作為過失犯罪，要求犯罪主體必須存在過失，在人工智能系統獲得獨立的思考能力之前，無人駕駛汽車是不存故意或過失的主觀意志的，它只是根據數據和代碼的編輯程序執行命令。即使是行為本身造成了危害結果，最終也不具備有責性，因此它就不是刑罰適格的主體。

其次，無人駕駛汽車的設計制造者在設計之初應當考慮到無人駕駛汽車上路后可能會發生的情況并且針對這些情況來設計相應的預防措施，如果這些本可以預見的情形并沒有被良好的規避，那么設計制造者是存在過失的，但這種過失不同于駕駛者在實際駕駛中造成交通事故的過失，兩者是存在區別的，那么設計制造者能否成為交通肇事罪的主體也是存在爭議的。

再者，對于無人駕駛汽車的使用者也就是實際獲利者對結果的發生是否應當承擔責任，在我看來也應當分情況討論，使用者選擇無人駕駛汽車就意味著接受無人駕駛帶來的后果，但是這種后果并非一概而論的，而應當是建立在使用者清楚明知的基礎上。使用者在購買使用之初既不知道也無法預判，但在無人駕駛過程中出現的緊急情況應當視為意外事件。因為使用者基于對科學技術的信任而選擇購買，他必然是在確信該項人工智能技術已經可以安全上路之后才會選擇購買使用，基于此種情形，使用者不具有有責性。但是如果使用者明知在高危路段采用無人駕駛模式會發生不確定的危害結果，依舊選擇無人駕駛，那么使用者應當對于危害結果的發生承擔相應的責任。

這僅僅是以具體的無人駕駛汽車為例進行責任主體的分析，人工智能存在著諸多應用領域，由此可見，判斷人工智能犯罪的責任主體要根據具體情況進行分析。

4.2 “人工智能（AI）”與刑法主體的差異性

法律調整的是社會關系，而人是社會關系的主體，所以法律規則調整和規范的是人的行為。我國刑法中規定的犯罪主體包括自然人和單位。拉倫茨曾說：“人依其本質屬性，有能力在給定的的各種可能性的范圍內，自主地和負責任的決定他的存在和關系，為自己設定目標并對自己的行為加以限制。”人既然是有理性的，那么他便是可以追責的，他的意識的不良狀態就可以變成責任由他承擔。刑法中另一個主體是單位。單位犯罪的實質是法人犯罪，即人格化的社會有機體的犯罪。法人承擔的刑事責任的本質是一種整體性的責任，法人可以根據自己的整體意志行事，應此也就具有了犯罪能力和刑事責任能力。

反觀人工智能，它既不是自然人也不是單位，現階段它不具有獨立思考的理性思維，也無法憑借自己的意志實施相應的行為。既然無法獨立實施行為，那么也就無法獨立承擔責任。因此在現階段的刑法中無法將其作為犯罪主體來進行定罪量刑。

不少學者針對這一問題主張要對刑法進行修改，增加刑法主體，將人工智能（AI）單獨作為刑法的一類主體與自然人和單位并列，或者出臺一部專門的“人工智能（AI）犯罪”單行法。但是刑法的主體必定是要享有權利且承擔責任的，現階段人工智能在這兩方面均不能做到。社會的變遷勢必會對法律的發展提出新的要求；反過來， 法律層面的變化也必然直接或間接反映的是社會変遷所帶來的影響。法律作為上層建筑，相比社會生活具有一定的滯后性，刑法也是如此。現階段，人工智能還停留在人工設計的程序層面上，過分強調預判和修改其實不利于刑法的穩定。但是隨著社會的發展和人工智能技術的普及，人工智能犯罪問題將會呈現普遍化，那時對于刑罰主體的討論將更具有合理性。

參考文獻：

[1] 閆志明，唐夏夏，秦旋，張飛，段元美.教育人工智能（EAI）的內涵、關鍵技術與應用趨勢[J].遠程教育雜志，2017（01）.

[2] 孫道萃.人工智能對傳統刑法的挑戰[N].檢察日報，2017-10-22（3）.

[3] 張智輝.刑法理論性[M].北京大學出版社，2006.

（作者單位：西北政法大學）