涉人工智能犯罪刑法規制的路徑

摘 要：在弱人工智能時代，智能機器人在設計和編制的程序范圍內實施嚴重危害社會的行為，實際上是研發者或使用者行為的延伸，應當由研發者或使用者承擔刑事責任。與傳統犯罪相比，研發者或使用者之間的刑事責任分配會隨著智能機器人“智能”的增長而有所不同。智能機器人“智能”的增長還會影響對行為人量刑的輕重，甚至可能影響對行為人行為的性質判斷。智能機器人在自主意識和意志的支配下超出設計和編制的程序范圍實施嚴重危害社會的行為時，應將其作為刑事責任主體進行刑罰處罰。此時，智能機器人不能和研發者成立共同犯罪，但有可能和使用者構成共同犯罪。

關鍵詞：人工智能;機器人犯罪;刑事責任;刑法規制;共同犯罪

中圖分類號：DF611

文獻標志碼：A?DOI：10.3969/j.issn.1001-2397.2019.01.06

人工智能技術的發展如火如荼，從不具有深度學習能力的普通機器人，到具有深度學習能力但仍完全受限于人類設計和編制的程序的弱智能機器人，人工智能技術業已取得重大突破，人類終將迎來具有獨立意識和意志、能夠在人類設計和編制的程序范圍外實施行為的強智能機器人。依筆者之見，從普通機器人到弱智能機器人，再到強智能機器人的“進化”史，其實是一部機器人的辨認能力與控制能力逐步增強、人之意識與意志對其“行為”的作用逐漸減弱的歷史。人與機器人在辨認能力與控制能力上此消彼長的變化，從根本上影響著刑事風險的樣態與刑事責任的分配。

不可否認，當人的意識和意志對智能機器人的行為所產生的作用逐漸減弱，就意味著人工智能時代可能會產生前所未有的風險，甚至極有可能會產生相應的刑事犯罪。涉人工智能犯罪主要包括兩個方面：一是研發者和使用者將人工智能技術作為犯罪工具，這會為犯罪插上科技的“翅膀”，從而使其社會危害性呈幾何倍數增長，甚至會引發更多的新型犯罪。二是隨著人工智能技術的發展，強智能機器人可能會產生獨立的意識和意志，自主決定并實施嚴重危害社會的行為。歷史的車輪滾滾向前，我們不應該也不可能僅因人工智能時代存在風險，就阻礙新的科技和生產力的發展，甚至阻擋一個嶄新時代的到來。我們理應未雨綢繆、積極布局，努力探索人工智能時代涉人工智能犯罪的刑法規制路徑，為防控人工智能時代的技術風險（包括規制智能機器人的行為）、發揮人工智能技術的最大價值、促進社會的穩定健康發展出謀劃策。

一、對弱人工智能機器人研發或使用行為的規制路徑

本部分探討的所有智能機器人的行為都是在設計和編制的程序范圍之內實施的。

應該看到，在大多數情況下，研發者或使用者會以造福社會或方便生活為目的來設計或使用智能機器人，并發展人工智能技術。但是，也不能排除某些研發者或使用者為了滿足某些不正當利益，將研發或使用的智能機器人當作工具，實施嚴重危害社會行為的可能性。此時，智能機器人活動的基礎是設計和編制的程序，研發者或使用者利用程序對智能機器人進行控制，從而使智能機器人按照自己的意志，實施相應的犯罪行為。在這種情況下，智能機器人只能作為人類實施犯罪行為的工具。但是應當看到，正如在網絡時代，當互聯網作為人類實施犯罪行為的工具時，會影響對行為人行為性質的判斷和對行為人量刑的輕重，在人工智能時代，當智能機器人作為人類實施犯罪行為的工具時，不僅可能會影響到對行為人行為性質的判斷和對行為人量刑的輕重，甚至研發者或使用者之間的刑事責任分配也可能會隨著智能機器人“智能”的增長而有所不同。其一，當智能機器人作為人類實施犯罪行為的工具時，可能會影響到對行為人行為性質的判斷。例如，當自動駕駛汽車的設計者設計的自動駕駛程序不符合道路交通運輸管理法規，從而導致自動駕駛汽車發生安全事故，造成人員傷亡或者使公私財產遭受重大損失的，其可能構成交通肇事罪。而在人工智能時代來臨之前，汽車的設計者只可能因其設計的汽車存在重大安全隱患而構成重大責任事故罪。其二，當智能機器人作為人類實施犯罪行為的工具時，可能會影響到對行為人量刑的輕重。例如，2010年5月6日，美國股票交易市場突然暴跌，在短短4分鐘之內，道瓊斯指數平均下跌了6%，而在此后的20分鐘內股價又急劇回升。此次暴跌被稱為“閃電崩盤”，其背后的“元兇”最終被指向程序化交易的“超高速機器人交易員”，其能夠在瞬間以遠超人類交易員的速度進行搶先交易

參見：櫻井豐.被人工智能操控的金融[M].林華，沈美華，譯.北京：中信出版集團，2018：39.。筆者認為，行為人憑一己之力與借助智能機器人都可能達到操縱證券市場的目的，只是前者可能是利用資金、持股持倉或者信息的優勢實施操縱行為，而后者則是利用技術的優勢實施操縱行為。對這兩種行為盡管都應以操縱證券市場罪認定，但是，實際處罰時則可根據犯罪數額或其他情節以“情節嚴重”或“情節特別嚴重”來區分法定刑的量刑幅度。行為人憑一己之力進行操縱證券市場的行為和行為人借助智能機器人進行操縱證券市場的行為相比，顯然，后者的效率、影響力甚至獲利都會遠遠超過前者，犯罪情節的嚴重程度也會遠遠超過前者，從而需要承擔的刑事責任和需要接受的刑罰處罰也相應更重。其三，當智能機器人作為人類實施犯罪行為的工具時，研發者或使用者之間的刑事責任分配可能會隨著智能機器人“智能”的增長而有所不同。例如，對于普通汽車而言，在汽車本身不存在安全隱患，僅因駕駛員違反交通運輸管理法規進行駕駛導致發生重大交通事故而構成交通肇事罪的情況下，普通汽車的設計者無須承擔刑事責任，而應由普通汽車的使用者——駕駛員承擔全部刑事責任。對于全自動駕駛汽車而言，汽車的行駛方式、路徑全部都由自動駕駛程序控制，并不需要駕駛員對汽車進行操控，車上僅有乘車人而無駕駛員，對于程序本身存在問題而導致發生重大交通事故的情況，可能就需要由全自動駕駛汽車的設計者承擔全部刑事責任。關于研發者和使用者刑事責任的具體分配，筆者將在下文進行詳細論述。

由于本部分我們只探討智能機器人的行為在設計和編制的程序范圍之內實施的情況，因此，智能機器人在沒有獨立的意識和意志情況下的任何行為，都只能看作是研發者和使用者犯罪的工具（即是他們所實施犯罪行為的延伸）。也正因為如此，研發者或使用者不可能一起或單獨和智能機器人構成共同犯罪。值得探討的是，在將智能機器人當成犯罪工具，利用智能機器人進行犯罪的情況下，如果研發者與使用者并非同一人，且研發者與使用者之間沒有通謀時（在有通謀的情況下，應以研發者與使用者構成共同犯罪認定，筆者對此種情況不作贅述），最終的刑事責任應由使用者一人承擔，還是研發者和使用者二者都需承擔？筆者認為，對此應具體問題具體分析。

第一，研發者在設計智能機器人時，只賦予了其實施犯罪行為的能力。例如，研發者設計出“殺人機器人”，其唯一能夠實施的行為就是在程序的控制之下將自然人的生命予以剝奪，因此，對于該智能機器人在交付使用后所實施的任何行為，我們都可以認為研發者具有故意，或者說，研發者將自己的主觀故意融入智能機器人所實施的行為之中，只不過這種故意內容的實現不是在當場，而是延遲到交付使用后。筆者認為，在這種情況下，智能機器人實施的行為融合了研發者或使用者二者的犯罪故意，因此，這種情況下智能機器人的行為是研發者或使用者行為的延伸，其是二者實施犯罪行為的工具，研發者和使用者都應承擔刑事責任。

第二，研發者在設計智能機器人時，完全是為了讓其進行正常且合法的活動，并未賦予智能機器人任何實施犯罪行為的能力，但使用者借助智能機器人從事合法活動的能力而實施了犯罪行為。例如，研發者研發出一款進行證券交易數據分析的智能機器人，被使用者用以實施操縱證券市場的犯罪。研發者出于完全合法的目的設計智能機器人，只不過被使用者出于犯罪目的而“巧妙”地利用實施犯罪行為。筆者認為，在這種情況下，智能機器人只是使用者實施犯罪行為的工具，對于相關危害社會的結果當然只能由使用者（而非研發者）承擔刑事責任。其實這種情況與行為人使用菜刀殺人，我們只能追究殺人者刑事責任，而不可能追究設計或生產菜刀者的刑事責任一樣。

第三，研發者在設計智能機器人時，既賦予了其實施犯罪行為的能力，又賦予了其實施正常且合法活動的能力。例如，研發者設計出一款智能機器人，既可以通過程序控制啟動殺人程序，讓其實施殺人行為，又可以啟動其實施正?；顒樱ㄈ鐠叩?、擦窗）的程序。當使用者利用智能機器人實施犯罪行為的功能實施相應的犯罪行為時，我們可以認為，研發者和使用者對于該行為所造成的嚴重危害社會的結果都具有故意。其中研發者是概括的故意，而使用者是具體的故意。因此，對于相關危害社會的結果研發者和使用者都應當承擔刑事責任。

第四，研發者設計的智能機器人，從表面上看，是從事正常且合法活動的智能機器人，但實際上，研發者可以將智能機器人交付使用之后，通過遠程控制，利用智能機器人實施犯罪行為。而使用者對智能機器人的預期是利用其從事正常且合法的活動，對于智能機器人可能實施的犯罪行為，其完全處于不知情的狀態，而智能機器人所實施的危害社會行為則是在研發者的掌控之下的，因此，對于相關危害社會的結果應當由研發者承擔刑事責任。例如，研發者設計出一款自動駕駛（可以遠程控制）汽車，在交付使用后，利用使用者的不知情狀態并通過過程操控，在公共道路上故意撞人。在此情況下，使用者只是按規定利用該車的自動駕駛功能出行，而對研發者可以遠程控制汽車的情況并不知悉，因此，我們只能對研發者追究刑事責任。

第五，研發者設計出從事正常且合法的活動的智能機器人，但是如果由于使用不當造成程序紊亂，智能機器人就會在失控的狀態下實施嚴重危害社會的行為。這種情況又可以分為兩種不同的狀態：一種是研發者已經盡到了提醒使用者注意的義務，而使用者未履行足夠的注意義務，因使用不當導致智能機器人實施了嚴重危害社會的行為。在這種狀態下，研發者盡到提醒義務，而使用者未履行足夠的注意義務，研發者當然不可能對相關危害社會的結果承擔刑事責任，承擔刑事責任的理應是使用者。另一種是研發者未盡到提醒使用者注意的義務，導致使用者在不知情的情況下使得控制智能機器人實施行為的系統發生故障，并在這種狀況下實施了嚴重危害社會的行為。對此，使用者毫不知情，當然不可能為此承擔刑事責任，而應由研發者承擔刑事責任。此種情況與前四種情況的不同之處在于，前四種情況中，研發者、使用者承擔的是故意犯罪的刑事責任，而在此種情況下，研發者或使用者承擔的是過失犯罪的刑事責任。理論上認為，成立過失犯罪需要以違反相應的預見義務為前提。應當看到，人工智能技術的發展突飛猛進，可能會遠遠超過人們的想象。在這種狀況下，筆者認為，將研發或者使用智能機器人當時的技術發展水平作為判斷智能機器人研發者和使用者是否具有預見義務的基準是具有合理性的。智能機器人具有較高科技含量，其風險也相對較高，因而智能機器人的研發者或使用者需要盡一切可能將自己研發或使用的智能機器人可能帶來的隱患降至最低。根據研發智能機器人或使用智能機器人當時的技術水平，如果研發者或使用者能夠預見到該智能機器人可能會導致嚴重危害社會的結果的發生，我們就應當認為，研發者或使用者對該智能機器人可能造成的危害后果具有預見義務;反之，則研發者或使用者對該智能機器人可能造成的危害后果不具有預見義務。在研發者或使用者對智能機器人可能造成的危害后果具有預見義務的情況下，如果研發者或使用者違反注意義務而造成嚴重危害社會的結果發生（研發者或使用者在違反注意義務的情況下所實施的行為與嚴重危害社會結果的發生之間具有因果關系），則我們應當認定研發者或使用者構成過失犯罪。具體可以分為以下四種情況進行討論。其一，在對智能機器人性能進行安全性測試的過程中，如果研發者出于個人的疏忽，遺漏了重要環節或者違背了業務上的特殊要求，沒有預見到該智能機器人可能對社會造成嚴重的危害后果而將機器人投入市場或者投入使用，最終導致嚴重危害社會的后果發生，則我們應將研發者的主觀心態認定為“疏忽大意的過失”。其二，在對智能機器人性能進行安全性測試的過程中，如果研發者認識到該智能機器人在投入使用之后有導致嚴重危害社會后果發生的可能性，但是這種可能性變為現實的概率很低，或研發者認識到該智能機器人在投入使用之后有導致嚴重危害社會后果發生的可能性，采取了自認為有效（實則根據當時的技術發展水平可以被認定為無效）的防范措施，最終導致嚴重危害社會的后果發生，則我們應將研發者的主觀心態認定為“過于自信的過失”。其三，使用者在使用智能機器人的過程中由于疏忽大意違反對智能機器人的規范操作流程的規定，從而導致智能機器人造成對社會的嚴重危害后果，則我們應將使用者的主觀心態認定為“疏忽大意的過失”。其四，使用者在使用智能機器人的過程中，認識到自己的操作可能會使得智能機器人造成嚴重危害社會的后果（可能性較?。?，卻心懷僥幸地采取了所謂的“預防措施”，最終仍導致智能機器人造成對社會的嚴重危害后果，則我們應將使用者的主觀心態認定為“過于自信的過失”。

第六，在研發者和使用者都難以預料的情況下，智能機器人發生程序紊亂從而實施了嚴重危害社會的行為。在一定的歷史時期中，人類憑借當時的技術水平有可能完全沒有辦法預見到智能機器人可能對社會造成的危害。此時，由于研發者和使用者都不可能預見到智能機器人會實施嚴重危害社會的行為，因此，二者對于相關危害社會的結果都不應當承擔刑事責任，而應當認定為意外事件，不應讓研發者或使用者承擔刑事責任。技術的發展總是與風險并存的，要想鼓勵技術的創新和發展，就必須在一定范圍內對與技術相伴而生的風險保持寬容的心態。如果對研發者和使用者囿于當時技術發展水平無法預見而造成嚴重危害社會后果的情況也一律采用刑事手段予以打擊的話，必然會對人工智能產品的研發和人工智能技術的發展進步造成致命打擊，這顯然違反了刑法中主客觀相結合的原則，也不利于鼓勵技術的發展和創新，這從根本上違反了人類社會的整體利益。

二、對強人工智能機器人行為的規制路徑

本部分探討的所有智能機器人的行為都是在設計和編制的程序范圍之外實施的。

當智能機器人超越了設計和編制的程序，在自主意識和意志的支配下實施嚴重危害社會的行為時，如何對其行為進行刑法規制？我們理應對此問題展開討論。

（一）對智能機器人行為的刑法規制依據

筆者認為，當智能機器人在獨立意識和意志的支配下實施嚴重危害社會的行為時，我們將其當作刑事責任主體是完全具有合理性和法理依據的。能否將智能機器人當作刑事責任主體，取決于其是否符合刑法所規定的條件。根據我國《刑法》第17條的規定，刑事責任主體需具備以下條件：第一，實施了嚴重危害社會的行為;第二，具備刑事責任能力;第三，依法應當承擔刑事責任。依筆者之見，在這三個條件中，行為人具備刑事責任能力、實施嚴重危害社會的行為無疑是本質的條件。如若智能機器人符合這些本質要件，我們就應在《刑法》第二章第四節單位犯罪后增設一節“智能機器人犯罪”，承認其刑事責任主體資格。筆者認為，超出設計和編制的程序范圍，在自主意識和意志的支配之下實施嚴重危害社會行為的智能機器人可以成為刑事責任主體，原因主要在于：首先，智能機器人自主決定并在設計和編制的程序范圍外實施嚴重危害社會的行為時，已經滿足了第一個條件——實施了嚴重危害社會的行為。隨著人工智能技術的發展，機器人將會擁有自動編程的能力，其完全可能在自動編寫實施嚴重危害人類社會的程序控制之下實施嚴重危害社會的行為[1]。其次，筆者曾在相關文章中論述過，超出設計和編制的程序范圍，在自主意識和意志支配之下實施行為的智能機器人，具有辨認能力和控制能力，且由于這種辨認能力和控制能力是不受人類控制的，因此，應當被認定為自主的辨認能力和控制能力，這與具備刑事責任能力的自然人所具有的辨認能力和控制能力并無本質上的不同。只是自然人所具有的辨認能力和控制能力產生于生命，并隨著年齡和精神狀況的變化而發生變化，而智能機器人所具有的獨立的辨認能力和控制能力來源于程序。簡言之，智能機器人可以通過其內在的程序認識到自己行為的事實意義和法律后果，并通過其高速的運算能力、遠超人類的反應速度對自己的行為進行精準控制[2]。所以，智能機器人也滿足了成為刑事責任主體的第二個條件。由此可見，超出設計和編制的程序范圍，在自主意識和意志的支配之下實施嚴重危害社會行為的智能機器人可以成為刑法意義上的刑事責任主體，當然這需要突破現行傳統的刑法理論并通過相關的刑事立法加以明確。

（二）對智能機器人行為的刑法規制路徑

筆者認為，對超出設計和編制的程序范圍、在自主意識和意志的支配之下實施嚴重危害社會行為的智能機器人進行刑罰處罰是防止人工智能時代社會動蕩、維護社會穩定、保障人民安居樂業的必然要求。曾經有人說，人對機器的最簡單控制就是斷電，但現在最簡單的掃地機器人也知道在電量快耗盡時自動找到電源進行充電[3]。依賴簡單粗暴的斷電在將來必然不能有效控制智能機器人的行為，而如果依靠從物理形體或者程序上進行全面銷毀，又勢必會極大地浪費社會資源，增加技術發展的成本。所以，立法者對智能機器人的行為的控制設置一整套可行的方案作為對實施了嚴重危害社會行為的處罰就變得極為必要。但是，我國目前的刑罰體系存在局限性，無法對在設計和編制的程序范圍外實施嚴重危害社會行為的智能機器人進行刑罰處罰，即我國目前的刑罰體系無法完全適應人工智能時代的發展需求。在已經到來并持續發展的人工智能時代，面對智能機器人在設計和編制的程序范圍外實施的嚴重危害社會的行為，我們的刑罰可能會無能為力。根據刑法原理和我國現行《刑法》的規定，對犯罪行為的處罰是“以處罰自然人犯罪為原則，以處罰單位犯罪為例外”的，由于智能機器人與自然人和單位存在明顯的差異，我國的刑罰體系中的四種類型的刑罰——生命刑、自由刑、財產刑、權利刑暫時不能適用于智能機器人。理由是：第一，智能機器人與自然人和單位存在明顯的區別。其一，智能機器人存在的基礎是程序，其沒有生命體，而自然人有生命體，這是二者最重要的區別。自然人的生命始于出生，終于死亡，是不可逆轉的。自然人的生命要受到自然規律的影響，從出生開始就不可逆轉地走向衰老、死亡。自然人隨著生命的成長而逐漸培養出辨認能力和控制能力，刑事責任能力隨著生命的成長而產生，隨著生命的終結而結束。生命的不可逆轉性決定了自然人的辨認能力和控制能力具有不可逆轉性，是縱向發展的。智能機器人的辨認能力和控制能力來源于程序。程序可以被修復、補充、刪除、恢復，所以智能機器人的生存不具有不可逆轉性，也即其辨認能力和控制能力是可以逆轉的。智能機器人按照設計和編制好的程序實施相應的行為時，其不具有辨認能力和控制能力，也就不具備刑事責任能力;而智能機器人在設計和編制的程序范圍外實施行為時，在自主意識和意志的支配之下，對實施某種行為或者不實施某種行為作出選擇，這時，我們應當認為，智能機器人擁有獨立的辨認能力和控制能力，也就具備了刑事責任能力。由此可見，智能機器人和自然人相比，辨認能力和控制能力的產生和發展存在質的區別。其二，智能機器人與單位最主要的區別在于，單位是一個集合體，而智能機器人是一個個體。單位作為一個整體，是由每一個具體的成員組成的，缺少了每一個具體的成員，單位也就不復存在;反之，單位的成員在脫離單位這個整體時，只是一個個獨立的個體，不再具有整體之組成部分的性質和意義。另外，單位成員按照單位既定規則秩序的要求相互聯系、相互配合，才能保證單位整體的有序運轉。單位犯罪，是單位在單位的“整體意志”支配之下所實施的嚴重危害社會的行為。這里的“整體意志”，與單位內部各成員意志的簡單相加存在本質的不同。而對于智能機器人而言，指導其實施行為的是程序（即使人工智能在設計和編制的程序范圍外實施行為，也只是基于其通過深度學習等而獲得的自身“改良”程序）。當智能機器人超出設計和編制的程序范圍、在自主意識和意志的支配之下實施嚴重危害社會行為時，實現的是作為一個個體所獨立具有的意志，與單位行為中所體現的“整體意志”存在本質的差異。

第二，我國現行刑罰處罰方式不能適用于智能機器人。首先，刑罰體系中的生命刑暫時無法對智能機器人加以適用。原因在于，智能機器人存在的基礎是程序而不是生命，其沒有生命權，剝奪生命權就更無從談起。自然人的生命遵循自然規律而產生和消亡，人為地剝奪實施了嚴重危害社會行為的自然人的生命，打破生命自然產生和消亡的規律，是法律報應的一種形式?！吧套鳛橐詣儕Z人的生命權為內容的刑罰，與法律報應有著不解之緣。殺人者死，可以說是法律報應的一條原則。”[4]智能機器人不是自然界的產物，其產生和消滅不是基于生命的起源和消亡，而是基于設計和編制的程序。智能機器人不具有生命體，因而刑罰無法通過剝奪生命的方式而對犯罪的智能機器人進行處罰。在此情況下，也就無法起到刑罰應有的作用。其次，刑罰體系中的自由刑暫時無法適用于智能機器人。智能機器人沒有人身權。人身權包括人格權和身份權，是與自然人的人身不可分離的權利，始于自然人出生，終于自然人死亡，與自然人的生命密不可分。人身權是自由權產生和存在的基礎。自由刑是我國刑罰體系的中心?！皥绦凶杂尚叹褪菍崿F設施關押，同時，它還伴有將犯人與社會隔離的作用……”[5]智能機器人沒有生命，因此，也就不可能存在與生命緊密相連的其他人身權，更不可能享有作為人身權內容之一的自由權，對其施加剝奪自由權的自由刑更是無從談起。智能機器人依托程序的運行結果而實施行為，物理形體并非是智能機器人的必備要素（例如，Alpha Go和AlphaGo Zero都只是隱藏在電腦里的一個程序而已，并不存在物理形體）。對于不具有物理形體的一類智能機器人而言，對其施加自由刑以實現其和社會的隔離顯然是無稽之談。

最后，刑罰體系中的財產刑和權利刑暫時無法適用于智能機器人。財產刑和權利刑通過剝奪犯罪人的財產或政治權利，給其造成痛苦，從而起到懲罰犯罪的作用。筆者之所以說以上各種刑罰“暫時”無法適用，完全是因為理論上認為，人工智能技術下一個瓶頸的突破似乎依賴于人工智能技術與生命科學技術，以及人工智能技術與神經科學技術的結合。而時下類腦智能技術已成為人工智能技術研究的熱門領域，即充分反映了這些技術結合的發展趨勢。由于類腦智能系統在信息處理機制上類似人類大腦，所以隨著類腦智能技術的開發與發展，在未來，智能機器人將會在思維方式上越來越接近人類。隨著人工智能技術與生命科學技術、神經科學技術的融合，智能機器人會在外形上越來越接近人類，而在深度學習以及思維和計算能力上會接近甚至超越人類。到那時，智能機器人可能會擁有與人類相似或者相同的肌膚、毛發等，甚至可能存在類似于人類的生命。因此，對其進行物理形體的毀滅可以參考適用于自然人的生命刑;同時，一個擁有類似于自然人生命的物種也有可能會追求自由，將限制或剝奪自由的自由刑適用于智能機器人也未嘗不可。但是，畢竟人工智能技術與生命科學技術的結合以及類腦工程的發展仍然處于起步階段，距離發展出與人類酷似的、擁有生命和自由的智能機器人還很遙遠，因此，筆者認為，暫無必要探討將目前刑罰體系中的生命刑和自由刑適用于智能機器人的問題。隨著倫理學和法學在此領域研究的進一步深入，賦予智能機器人財產權和一定的政治權利并非不經之談。例如，沙特阿拉伯已經成為世界上首個授予智能機器人公民身份的國家

參見：新浪科技.沙特阿拉伯成為第一個向機器人授予公民資格的國家[EB/OL].（2017-10-27）[2018-09-01]. http：//tech.sina.com.cn/d/i/2017-10-27/doc-ifynfvar4425645.sht.。可以預見，在不久的將來，會有更多的國家或地區賦予智能機器人公民權、財產權等權利。如果智能機器人在設計和編制的程序范圍外實施了嚴重危害社會的行為，剝奪其一定數額的財產或者剝奪其政治權利等可以成為對其進行懲罰的一種手段。但是財產刑和權利刑在我國刑罰體系中并非居于主導地位，而是屬于附加刑，是補充生命刑和自由刑等主刑適用的刑罰方法，又稱從刑[6]，其懲罰的強度和效力有限，在獨立適用時，主要針對較輕的犯罪。對于罪行嚴重的智能機器人，僅適用財產刑或者權利刑未必能夠起到理想的作用。況且，在法律賦予智能機器人財產權和政治權利之前，對智能機器人施加財產刑或權利刑本身也并無可能。

李斯特曾言：“刑法既是善良人的大憲章，也是犯罪人的大憲章?！盵7]刑罰是國家對犯罪人合法實施暴力，本質上是對犯罪人權利的合法侵害，但這種合法侵害應嚴格控制在刑法的規定之內。這也是“刑法是犯罪人的大憲章”的含義所在。所以，對智能機器人犯罪而言，對其適用現行刑法中所規定的刑罰是不合適的，必須根據智能機器人所享有的權利類型重新建構刑罰體系，以實現刑罰的目的。筆者認為，依據智能機器人自身的特點，增設能夠適用于智能機器人的刑罰處罰方式，無疑是人工智能時代規制涉人工智能犯罪的重要內容。筆者建議，在對人工智能刑事立法具體條文的修訂和增設方面，應當修改侵害計算機信息系統類犯罪、交通肇事罪、危險駕駛罪等犯罪的主體和行為方式，使其適應人工智能技術的發展現狀和未來趨勢。同時，在刑法中針對智能機器人增設刪除數據、修改程序、永久銷毀等刑罰處罰的方式。另外，如果將來相關法律賦予智能機器人財產權或者政治權利，也可以對智能機器人單處或并處財產刑或者權利刑。

筆者認為，可以考慮用以下三種方式對智能機器人進行刑罰處罰：刪除數據、修改程序、永久銷毀。刪除數據，指的是將智能機器人在實施嚴重危害社會的行為時所依賴的數據刪除，并永久限制其獲取此類數據。這就相當于使持槍殺人犯永遠不得擁有槍支，相當于砍去持刀殺人犯的雙手等，從而使智能機器人失去賴以實施犯罪行為的前提。在對其施以刪除數據的刑罰的同時，并通過編程等技術引導其在今后的大數據分析或深度學習的過程之中只獲取“正面數據”而排斥“負面數據”，從而使得智能機器人的“人身危險性”得以降低。修改程序，指的是當智能機器人本身的自主意識和意志過于強大，無法通過刪除其實施犯罪行為所依賴的數據而阻止其犯罪時，強行修改其基礎的程序，將智能機器人的深度學習能力控制在較小的范圍內，在技術上保證智能機器人無法再發展出獨立的自主意識和意志。永久銷毀，指的是將有形的智能機器人予以物理上的毀損，將與無形的智能機器人有關的一切程序和數據資料予以刪除。在刪除數據、修改程序等措施都沒有辦法使智能機器人的“人身危險性”得以降低之時，也即智能機器人已經具備了極其強大的自主意識和意志，人類無法通過對智能機器人的部分改良而對其進行有效的控制，使其“人身危險性”得以降低，則只能將智能機器人予以全面永久地毀損。刪除數據、修改程序、永久銷毀這三種刑罰處罰方式，由輕到重地構成了專門適用于智能機器人犯罪的刑罰階梯。這三種刑罰處罰方式與智能機器人本身的“人身危險性”大小以及智能機器人所實施行為的社會危害性的大小相吻合，體現了刑法所規定的罪責刑相適應原則。當然，正如前文所述，目前，人工智能技術與生命科學技術、神經科學技術結合，隨著人工智能技術的發展以及人類對智能機器人定位的變化，未來的法律也許會賦予智能機器人以財產權，到那時，可以對超出設計和編制的程序范圍、在自主意識和意志的支配之下實施嚴重危害社會行為的智能機器人單獨或者附加適用罰金或者沒收財產等財產刑;如果將來的法律賦予智能機器人政治權利或者其他資格，也可以對在設計和編制的程序范圍外實施了嚴重危害社會行為的智能機器人單獨或者附加適用剝奪政治權利或者剝奪相關資格的權利刑。

對智能機器人按照其所實施的嚴重危害社會行為的危害性大小處以相應的刑罰，符合刑罰預防犯罪（包括特殊預防和一般預防）的目的，并且可以在一定程度上降低社會治理的成本。超出設計和編制的程序范圍、在自主意識和意志的支配之下實施行為的智能機器人能夠感知到刑罰為其帶來的痛苦，并能夠在實施犯罪行為為自身帶來的“快感”和承擔刑事責任、被處以相應刑罰所帶來的“痛感”之間進行選擇和權衡，從而對自己今后的行為進行調整。當然，由于智能機器人擁有獨立的辨認能力和控制能力，因而其可以從其他智能機器人承受刑罰時的“痛感”中吸取教訓、受到教育，從而重塑自己的“價值觀”，使自己的“價值觀”更加符合人類社會的規范。這便是我們對超出設計和編制的程序范圍、在自主意識和意志的支配之下實施嚴重危害社會行為的智能機器人施以刑罰的意義所在。反觀之，如果我們不考慮智能機器人所擁有的自主意識和意志，簡單粗暴地將智能機器人當作普通的物品看待，將實施了嚴重危害社會行為的智能機器人不問原因、不分輕重地在物理上毀損，那么人類將對此付出巨大的經濟成本，刑罰的預防功能也將會蕩然無存。將超出設計和編制的程序范圍、在自主意識和意志的支配之下實施嚴重危害社會行為的智能機器人當作刑事責任主體，按照刑事訴訟程序對其進行審判，有罪必罰，才能為智能機器人植入人類的文明和價值觀念，重塑其價值體系，促使其維護和遵守社會秩序，使其從“人工人”轉變為“社會人”。這是在未來，當人工智能技術發展到一定程度時的必然選擇和法律發展的必由之路。

三、涉人工智能共同犯罪的構成和認定

本部分探討的所有智能機器人的行為都是在設計和編制的程序范圍之外實施的。

既然在設計和編制的程序范圍外實施嚴重危害社會行為的智能機器人可能成為刑事責任主體，則我們需要討論的下一個問題就是，當智能機器人與研發者和使用者共同實施嚴重危害社會的行為時，能否按照共同犯罪的原理來對其進行刑事責任的認定，并在智能機器人與研發者和使用者之間進行刑事責任的分擔？筆者認為，對此問題需要分情況討論。

第一，智能機器人不能和研發者成立共同犯罪。這是因為，我們這里討論的是智能機器人在研發者設計和編制的程序范圍外實施的行為，這說明智能機器人主觀上已經超出了研發者設計和編制的程序范圍，甚至從根本上違反了研發者的意志。智能機器人此時的行為體現的是自身意志，而非研發者的意志。如果智能機器人行為體現的是研發者的意志，我們只能將其理解為是研發者設計和編制的程序范圍內的行為，即智能機器人只能是研發者實施犯罪行為的工具，這種情況在前文已論述過，在此不再贅述?？梢姡悄軝C器人和研發者二者之間不可能存在共同故意，因此二者也就不可能構成共同犯罪。智能機器人應單獨對其在設計和編制的程序范圍之外、在自主意識和意志的支配之下所實施的嚴重危害社會的行為承擔刑事責任。當然，如果研發者在研發過程中，應當預見到智能機器人可能會超出設計和編制的程序范圍實施危害社會的行為，由于疏忽大意而沒有預見，從而沒有采取相應的措施進行預防，或者研發者已經預見到智能機器人可能超出設計和編制的程序范圍實施危害社會的行為，而輕信可以避免這種情況的發生，則研發者應當構成過失犯罪并承擔相應的刑事責任。

第二，智能機器人完全有可能和使用者構成共同犯罪。這是因為，不同于研發者的故意，使用者的故意對于智能機器人在設計和編制的程序范圍外的故意行為不具有操控性。在此情況下，智能機器人在設計和編制的程序范圍外實施行為時，完全可能與使用者存在共同故意，且智能機器人與使用者在共同故意支配之下完全可能共同實施嚴重危害社會的行為，二者成立共同犯罪自不待言。當然，與研發者相同，如果使用者在使用智能機器人過程中，由于疏忽大意或者輕信能夠避免等造成智能機器人超出設計和編制的程序范圍、在自主意識和意志的支配之下實施嚴重危害社會行為的情況發生，對于研發者可以按照過失犯罪追究相應的刑事責任。值得一提的是，根據我國《刑法》第25條的規定，共同犯罪是指二人以上共同故意犯罪。對此處的“人”應作何理解？在當下我們只是將此處的“人”理解為是自然人或者單位。但是，筆者認為，在可能出現的強人工智能時代，對于刑法中成立共同犯罪所要求的“二人以上”中的“人”的理解，應與時俱進，符合時代發展的現實情況。既然我們承認超出設計和編制的程序范圍、在自主意識和意志的支配之下實施嚴重危害社會行為的智能機器人具有法律人格和刑事責任能力，其就可以成為共同犯罪中的“人”?，F行《刑法》所規定的共同犯罪即“二人以上共同故意犯罪”概念下的“人”包括自然人和單位，當超出設計和編制的程序范圍、在自主意識和意志的支配之下實施嚴重危害社會行為的智能機器人出現時，共同犯罪概念下的“人”就應包括自然人、單位和智能機器人。按照共同犯罪的原理，當使用者與智能機器人并無事先的通謀，而在智能機器人實施犯罪行為的過程中且智能機器人不知情的情況下，不采取措施阻止智能機器人的犯罪行為，反而對智能機器人予以暗中幫助，則使用者可以與智能機器人構成共同犯罪（使用者為片面幫助犯，不知情的智能機器人仍然單獨構成相應的犯罪）。另外，無身份的智能機器人也可以與有身份的使用者構成需特殊身份才能成立的犯罪（共同犯罪）。例如，使用者是國家工作人員，其利用智能機器人特有的精準控制能力和極快的反應速度，侵吞或竊取公共財物，則使用者當然可以構成貪污罪，而智能機器人也可以構成貪污罪的共同犯罪（幫助犯）。同時，多個智能機器人也可以成立犯罪集團。例如，三個以上的智能機器人為了實施一種或幾種犯罪而形成一個組織，此時，這樣的組織就是犯罪集團。犯罪集團是共同犯罪的一種特殊形式，我們可以參考對共同犯罪概念下“人”的理解，將成立犯罪集團所需的“三人以上”中的“人”也理解為包括自然人、單位和智能機器人。

總之，社會的發展一日千里，技術的革新突飛猛進。既然我們已經身處一個全新的、偉大的人工智能時代，那么我們的刑法理念和理論就應該有同步甚至超前的改變和發展，而適時對刑法條文作一定的修正并對刑法中相關概念的理解和解釋作相應的更新，顯然是不可避免的。

參考文獻：

[1]新浪科技.人工智能AI發展到一定程度后會犯罪嗎？[EB/OL].（2016-09-13）[2018-05-24]. http：//www.techweb.com.cn/column/2016-09-13/2392298.sht.

[2]劉憲權.人工智能時代的“內憂”“外患”與刑事責任[J].東方法學，2018（1）：134-142.

[3]尼克.人工智能簡史[M].北京：人民郵電出版社，2017：225.

[4]陳興良.刑法哲學[M].北京：中國政法大學出版社，2014：305.

[5]大谷實.刑法講義總論[M].黎宏，譯.北京：中國人民大學出版社，2008：463.

[6]劉憲權.刑法學[M].上海：上海人民出版社，2016：306.

[7]李斯特.德國刑法教科書[M].徐久生，譯.北京：法律出版社，2006：31.