人工智能刑法“主體性”否定：緣起、解構、反思

摘要：

人工智能是否能與人類一樣具有刑法“主體性”地位無法在刑法理論內部找到答案，而需要以相關的認知科學為基礎，否則就會陷入循環論證的困境。根據認知科學的五個層級理論，人工智能在神經層級、心理層級的低階認知層面，僅是對人類認知的簡單模擬；在作為高階認知與低階認知中間環節的語言層級認知層面，人工智能的人工語言與人類自然語言之間具有本質的區別；在思維層級、文化層級的高階認知層面，當前的人工智能并沒有顯現出其具有思維或產生文化的能力。結合塞爾“中文房間模型”研判，人工智能并不具備刑法意義的“辨認能力”與“控制能力”。在辨認能力方面，人工智能傳感器對客觀世界的識別雖然能在一定程度上對人類認知進行形式模擬，但其并不能將識別到的信息與自身“行為”結合進行加工處理從而得出該“行為”的社會意義；在控制能力方面，人工智能所展示出的“控制能力”實質上是一種執行算法的能力，其本質上仍然是一種人類控制，而非人工智能的“自我控制”。因此，在當下及可預見的未來，人工智能并不具有刑法“主體性”，進而承擔刑事責任，當前的刑法理論也不必對所謂的“強人工智能”過度反應。將“類人”的人工智能提升到人類同等高度，有損人之所以為人的尊嚴。將“刪除數據、修改程序、永久銷毀”等與刑罰異質的要素納入刑法會讓其有適用于人類的危險。故在當下及可預見的未來，人工智能對刑法理論的影響主要在于其導致傳統社會風險加劇，刑法理論的應對模式仍應當在現有刑法理論體系內，結合風險刑法理論將其作為“犯罪對象”和“犯罪工具”對待。當人工智能作為犯罪對象時，其是以財物、作品等形式存在，在司法認定過程中要注意界分人工智能本身與人工智能的載體；當其作為犯罪工具時，會導致犯罪后果擴大，查證難度增大等結果。

關鍵詞：人工智能；認知層級；強人工智能；中文房間模型

中圖分類號：D924.13；TP18 "文獻標志碼：A "文章編號：1008-5831（2024）03-0242-11

一、問題的提出

互聯網時代之后，就有人斷言人工智能（Artificial Intelligence，AI）時代已經來臨。“無論人們歡欣抑或踟躕，人工智能時代正悄悄向我們走來，人類即將甚至已經開始進入一個全新的時代”［1］。近年來，在移動互聯網、超級計算、大數據、傳感網、腦科學等新理論的驅動下，具有深度學習、跨界融合等特征的人工智能技術呈指數爆炸式發展。2017年7月8日，國務院印發《新一代人工智能規劃》（以下簡稱《規劃》），標志著我國將發展人工智能技術提升至國家戰略層面。與此同時，人工智能技術也將面臨倫理與法律的困境。《規劃》指出，我國人工智能技術關于倫理與法律發展的戰略目標分三步走：第一步，部分領域的人工智能倫理規范和政策法規初步建立；第二步，初步建立人工智能法律法規、倫理規范和政策體系，形成人工智能安全評估和管控能力；第三步，建成更加完善的人工智能法律法規、倫理規范和政策體系【參見：2017年7月8日國務院印發的《新一代人工智能規劃》。 】。

（一）人工智能的刑法研究突破口——刑法“主體性”

《規劃》印發后，關于人工智能的各法學領域研究層出不窮，如關于人工智能創作作品的知識產權問題研究、人工智能侵權責任問題研究、人工智能具體技術規范問題研究等。此外，刑法學者也試圖在刑法領域尋求關于人工智能研究的突破口——人工智能的刑法“主體性”問題，即人工智能能否和自然人一樣作為刑法主體，承擔刑事責任。劉憲權教授主張以是否具有辨認能力和控制能力為標準將人工智能區分為弱人工智能和強人工智能，其中強人工智能應承擔刑事責任，承擔刑事責任的方式是刪除數據、修改程序、永久銷毀【參見：劉憲權《涉人工智能犯罪刑法規制的路徑》（《現代法學》，2019年第1期75-83頁）、《論人工智能時代智能機器人的刑事責任能力》（《法學》，2018年第1期40-47頁）、《人工智能的刑事風險與刑法應對》（《法商研究》，2018年第1期3-11頁）、《人工智能時代的“內憂”“外患”與刑事責任》（《東方法學》，2018年第1期134-142頁）、《人工智能時代機器人行為道德倫理與刑法規制》（《比較法研究》，2018年第4期40-54頁）。】。無可否認，人工智能技術的指數爆炸式增長必將沖擊現有法律體系和社會倫理體系，并帶來巨大的法律風險，但是否會在每一法學領域形成深刻變革還有待考證。具體而言，人工智能技術的飛速發展是否會對傳統刑法理論造成底層結構性沖擊，引起刑法領域的深刻變革以至于需要將人工智能像自然人一樣作為刑法主體仍有待更為嚴謹的論證。

（二）現有研究及其困境

當前主張人工智能應具備刑法主體地位的主要論證路徑為：第一步，以是否具有辨認能力與控制能力為標準將人工智能區分為強人工智能與弱人工智能，強人工智能是具有辨認能力與控制能力的人工智能，弱人工智能反之。第二步，以強人工智能具有辨認能力與控制能力為由主張強人工智能應當作為刑罰主體承擔刑事責任【此處的“刑事責任”概念在犯罪法律后果層面使用。】，承擔刑事責任的方式包括“刪除數據、修改程序、永久銷毀”［2］。這種在閉環內循環論證的論證邏輯存在諸多問題。（1）將人工智能提升到與人類同等地位，是否有損人之所以為人的尊嚴？是否會嚴重沖擊“人類中心主義”的價值立場？是否會使得幾千年以來以人類為主體所構建的主客體格局的哲學關系崩塌？這一系列較為深遠的哲學論題亟待解決。（2）在可預見的未來是否可能存在具有辨認能力與控制能力的所謂“強人工智能”缺乏足夠的論證，以對強人工智能的“設想”為基礎的法學研究缺乏嚴謹性。人工智能技術的發展程度、階段的劃分以及劃分的標準首先是一個技術問題，如果法學研究先于“自動化”相關學科研究，則會使嚴肅的法學研究落入研究對象模糊不清、研究結論無法落地的窘境。（3）在形式上，人工智能在某種程度上具有一定的辨認能力與控制能力【例如國際自動化機械工程師學會（SAE）的分級標準中的5級無人駕駛汽車（完全自動化汽車）可以對汽車周圍環境進行識別，并以此識別信息為基礎控制汽車的方向與速度。】，但這是否是刑法意義上的辨認能力與控制能力缺乏足夠的論證。（4）“刪除數據、修改程序、永久銷毀”等所謂針對人工智能的“刑罰”能否進入刑罰體系是一個更為深遠的論題，該種“刑罰”一旦進入刑法，人類也有了被適用該種“刑罰”的危險，其是否人道缺乏足夠的論證。在這一系列問題都沒有解決的情況下，僅僅在對人工智能進行樸素假想的基礎上得出需要將人工智能作為刑法主體的結論無法立足。

（三）研究路徑闡釋

在刑法理論內部通過邏輯推理的方式進行“黑格爾式”思維論證研究人工智能的刑法主體地位問題無法尋求出路，故本文以相關認知科學（Cognitive Science）為基礎【從腦和神經系統產生心智（mind）的過程叫認知（cognition）。認知科學（cognitive science）就是研究心智和認知原理的科學，參見：蔡曙山《認知科學框架下心理學、邏輯學的交叉融合與發展》（《中國社會科學》，2009年第2期25-38頁）。】，以清華大學心理學系蔡曙山教授提出的人類認知的五個層級為理論支撐，分析人類智能與人工智能的認知路徑，以此剖析人工智能的“辨認能力”與“控制能力”，進而論證人工智能在可預見的未來是否應被作為刑法主體承擔刑事責任，并以此為基礎反思人工智能技術的發展對刑法理論造成的沖擊程度以及應對策略。

二、緣起：人工智能與人類智能

之所以會有人工智能能否作為刑法主體進而承擔刑事責任的論題，是因為人工智能的“類人”屬性。該“類人”屬性并非表現在外在形式上，而是人工智能的“認知能力”具有“類人”屬性。例如2016年3月9日至15日，阿爾法圍棋（AlphaGo）與世界圍棋冠軍李世石進行人機大戰，最終阿爾法圍棋以4比1獲得勝利；再如“美國人工智能公司 OpenAI 推出的跨時代新產品ChatGPT更是顛覆了傳統分析式人工智能的技術路徑，使人工智能進入生成式人工智能時代”［3］。人工智能阿爾法圍棋與ChatGPT不具有“類人”的外在形式，而僅僅是具有“類人”的“認知能力”。故“人類智能，就是神經、心理、語言、思維、文化五個層級上所體現的人類的認知能力。人工智能，就是讓機器或人創造的其他人工方法或系統來模擬人類智能”［4］。人工智能是對人類認知能力的模擬【但對于何種自動化程度的機器可以被稱之為“人工智能”，至今仍然沒有一個明確的界定。】，故在明晰人類認知的基礎上，對比分析人工智能與人類智能的“認知”，考察其能在何種程度上對人類智能進行模擬，并以此為基礎剖析其刑法主體地位是本文的論證路徑。

（一）人類認知的五個層級

人類認知的五個層級理論（以下簡稱“人類認知五層級理論”）是清華大學心理學系蔡曙山教授按照人類大腦里的認知過程的層次將人類認知劃分為五個層級：神經層級的認知；心理層級的認知；語言層級的認知；思維層級的認知；文化層級的認知（以下簡稱“神經認知；心理認知；語言認知；思維認知；文化認知”）。其中，神經認知與心理認知屬于低階認知，是人與動物共有的認知，而語言認知、思維認知與文化認知屬于高階認知，是人類特有的認知。低階認知是高階認知的基礎，高階認知包含并影響低階認知［5］。人類認知五層級理論如圖1所示。

神經認知是人類與動物共有的認知。人類的神經認知活動包括視覺認知、聽覺認知、嗅覺認知、味覺認知、觸覺認知。因而在某些神經認知上，一些動物的認知能力比人類更強，如鷹的視覺認知能力、犬的嗅覺認知能力比人類更強。心理認知也是人類與動物共有的認知形式。心理認知活動包括感知覺和注意、表象和記憶等基本的心理現象。“感覺（sense）是通過單一感官直接獲得的認識，包括視覺、聽覺、味覺、嗅覺，以及多感官或跨通道獲得的認知，即聯覺（synesthesia）……知覺（consciousness/perception）是腦和神經系統對感覺信息的再加工，以獲得對事物的整體性認識的心理過程。注意是在知覺和意識這個層面上認知加工的一種重要方式，它是一種導致局部刺激的意識水平提高的知覺選擇性集中的形式……表象（image/presentation）是在感知覺基礎上，經大腦進一步加工而成的經驗的認識形式……記憶（memory）是表象的特使形式，表象通常體現為記憶效果”［5］。語言認知是人類所特有的認知形式，其具有特殊的地位和意義：它是五個層級的中間環節，是低階認知和高階認知的聯結點，也是高階認知的基礎。思維認知也是人類特有的認知形式。思維形式和規律是邏輯學研究的領域，思維形式包括概念、判斷、推理和論證。文化認知也是人類特有的認知形式，是五個層級中最高的認知形式。在文化層級上，人類認知由初級到高級的三個層次分別是：科學、哲學和宗教［5］。

（二）人工智能超越人類智能的理性缺失

在明晰人類認知的五個層級后，對比人工智能認知能力的“類人”程度，會發現，人工智能在可預見的未來超越人類智能的論斷存在理性的缺失。

在神經層級與心理層級的低價認知層面，人工智能在當下及可預見的未來所做的僅僅是在形式上模擬人類神經認知與心理認知的某些片段性活動，其與人類神經認知、心理認知活動具有本質的區別。如攝像頭模擬人的眼睛，麥克風模擬人的耳朵。但攝像頭、麥克風的運作原理與人類眼睛、耳朵的神經認知活動具有本質的不同，人工智能通過傳感器“輸入—存儲—計算”的工作原理與人類認知活動無法比擬。即使不與人類作比較，在此方面，作為“硅基”的人工智能甚至與“碳基”的低級動物都相去甚遠。“人類的神經認知活動，如視覺認知、聽覺認知、嗅覺認知、觸覺認知，計算機和人工智能遠沒有達到人類認知能力和水平；而對幸福、痛苦和各種情緒的感受，目前的人工智能恐怕連一些低級的動物如蟲魚鳥獸的認知水平都比不上”［4］。

在語言層級、思維層級與文化層級的高階認知層面，人工智能更是無法與人類相比擬。在語言層級的認知上。由于語音識別技術、輸入技術等，人工智能在形式上看似具有語言能力，但人工智能的語言系統與人類的語言系統具有本質的區別。語言分類系統和分支如圖2所示。現階段人工智能所使用的形式的人工語言是單調的、無歧義的，其與抽象的、可產生性、歧義性的人類自然語言有著不可逾越的鴻溝。“不論是采用符號計算主義還是聯結主義的系統，當前的人工智能技術都不能解決語義的理解和生成問題”［7］。如前所述，語言層級的認知具有中間環節的特殊地位，人工智能與人類智能在語言層級認知層級的分野使其在思維層級、文化層級的認知愈加方枘圓鑿。在思維層級的認知上，由于人工智能在需要思維的國際象棋、圍棋領域都戰勝了人類智能，就有人認為人工智能某些方面的思維層級認知已經超越了人類智能，但事實并非如此。人工智能在國際象棋、圍棋領域的勝利與計算機的數字計算力超越人類沒有本質的區別。人們覺得現階段人工智能具有的思維僅僅是由于近年來科技的發展使人工智能“計算力”急劇提升而產生的假象。而在文化層級的認知上，人類文化的形成經歷了幾千年的沉淀，而在當下及可預見的將來，人工智能還沒有形成其自身文化的跡象。

以認知科學的五個層級理論為基礎，對比人工智能與人類智能在神經認知、心理認知、語言認知、思維認知、文化認知層面的差異可以得出結論：在當下及可預見的未來，人工智能在認知科學的每一個層級上都僅僅是對人類認知形式上的簡單模擬，與人類認知具有本質的區別，故人工智能的“智能”在當下和可預見的未來無法超越人類，甚至很難接近人類。

（三）圖靈測試與塞爾“中文房間模型”

關于機器的智能標準，歷史上曾以圖靈測試作為判斷計算機是否智能的標準。1950年10月，英國數學家、邏輯學家艾倫·麥席森·圖靈（A. M. Turing）發表了題為《機器能思考嗎》的論文，在該論文中，圖靈提出了著名的“圖靈測試”（Turing Test）。圖靈測試的路徑：使一臺機器與人類進行對話（該對話通過電傳設備進行），如果人類無法辨別與其對話的是否是機器，那么該機器就是智能的。有學者認為以圖靈測試為標準判斷機器是否智能已經過時，“我們認為，這（圖靈測試——引者注）僅僅是計算機科學家所理解的人工智能，現在看來，圖靈的標準似乎太弱了”［8］。但由于至今對什么樣的機器屬于人工智能仍然沒有準確的界定，以圖靈測試為標準并非謬誤。

1980年，美國語言哲學家約翰·塞爾（John Rogers Searle）提出“中文房間模型”。有學者在區分強人工智能與弱人工智能時撰文指出，“‘強人工智能’一詞最初是約翰·羅杰斯·希爾勒針對計算機和其他信息處理機器創造的”［9］。并引用約翰·羅杰斯·希爾勒的話論證其觀點，“計算機不僅是用來研究人的思維的一種工具；相反，只要運行適當的程序，計算機本身就是有思維的”［10］。實際上，約翰·塞爾雖然提出了“強人工智能”（strong AI）的概念，但其本身是反對“強人工智能”存在可能的。約翰·塞爾所提出“中文房間模型”就是為了反駁“強人工智能”的存在可能而設計的。“中文房間模型”是指，一個不懂中文的人身處圖靈測試所描述的房間中，并擁有一本操作規程，依據該中文操作規程，他可以對中文字符進行回應。此時，如果將一些中文字符遞進圖靈測試房間，房間里不懂中文的人依據中文操作規程予以回應，圖靈測試房間外的人與一個不懂中文的人進行對話，且并不能識別其不懂中文。“中文房間模型”旨在讓人類模擬人工智能的運行方式，從而反駁強人工智能的存在。通過該模型，可以看出，“這樣塞爾就構造了一部不可能有任何一點智力的機器，但它卻能完成類似人的智力行為……計算機能夠完成某種智能行為，僅僅是因為它執行了人們按照一定目的事先編制的‘操作規程’，或者說，是人類智能決定了機器智能而不是相反”［8］。

通過圖靈測試到塞爾“中文房間模型”，我們可以看出，即使通過圖靈測試的機器，也并非具有人類所特有的語言、思維、文化層級的認知；“塞爾標準的意義在于：機器智能是有限度的，它永遠不可能超過人類智能；同時，機器智能向人類智能的接近卻是無限度的，機器智能總可以無限逼近人類智能”［8］。

三、解構：人工智能刑法“主體性”之否定

（一）解構對象之明晰——辨認能力與控制能力

我國傳統刑法理論是以自然人為主體進行構建的（即使是單位犯罪，也是以自然人為基礎構建起來的）。既然有論點以人工智能可以像自然人一樣具有思維為由主張將人工智能作為刑法主體進行刑罰處罰，那么就需要把人工智能套入現有刑法理論，考察其能否契合。當然，該論點還主張刑法需要作出調整以適應人工智能對刑法提出的新挑戰（如刑罰內容增加刪除數據、修改程序、永久銷毀等）。但是，即使刑法作出調整，也必須保留其最本質的要素，如承擔刑事責任需要具有責任能力【本文區分使用“刑事責任”與“責任能力”概念，“刑事責任”在刑事法律后果層面使用，“責任能力”在“辨認能力”與“控制能力”意義上使用。】。支持人工智能作為刑法主體的觀點也以人工智能具有辨認能力與控制能力為其主要論據。“強人工智能產品與弱人工智能產品的本質區別在于是否具有辨認能力和控制能力”［9］。故本文將人工智能的責任能力，即控制能力與辨認能力作為解構對象，進而對人工智能作為刑法主體的論點進行否定。

以人工智能的責任能力欠缺作為反駁人工智能作為刑法主體的方式表面上會存在一種質疑：責任是確認違法性之后所進行的判斷，該方式雖然反駁了人工智能的責任能力，但并不能否定其“行為”的違法性，也即不能否認人工智能的“行為”是刑法意義上的行為，從而沒有將人工智能從刑法主體中完全剔除。該種質疑仍然無法成立，傳統刑法理論的行為理論都是以自然人為基礎構建起來的，因果行為論、社會行為論、目的行為論、人格行為論都無法適用于人工智能，但責任能力的本質是意思能力【關于責任能力的性質，有舊派與新派兩種立場，舊派基于非決定論的立場認為，責任能力的本質是有責行為能力、意思能力或犯罪能力；新派基于決定論的立場認為，責任能力是刑罰適應能力。本文采取非決定論的舊派觀點，主張責任能力是犯罪能力。】，有無責任能力的實質是有無意志自由問題，故否認責任能力就可以否定人工智能具有意志自由。自然人生來就具有作為“人”的生物特征，我們不需要對其是否是“人”進行證成。人工智能正好相反，其并不具有“人”的生物特征，在證明其也不具有思維、意志自由等要素時，就可以將其從刑法主體中完全排除。

（二）人工智能辨認能力之否定

“刑事責任能力中的辨認能力，是指行為人具備的對自己的行為在刑法上的意義、性質、后果的分辨認識能力”［11］。人工智能作為刑法主體論點的支持者以傳感器技術的急速發展為由，認為人工智能所具有的對外界感知的能力已經超越人類，進而認為人工智能的辨認能力已經超越人類。其實并非如此。辨認能力在事實上存在兩步：第一步，對外界進行感知與識別；第二步，將感知到的信息與自身“行為”聯系進行加工處理從而得出該“行為”的社會意義【由于刑法中的行為理論是針對自然人而言的，而人工智能的對外交互方式無法對應刑法理論中的行為，故本文關于人工智能的“行為”的表述與刑法中行為理論中的行為不在同一意義上使用，僅指人工智能的對外交互方式。】。該加工處理過程不只是簡單的比對過程，而是需要經驗層面的判斷。

第一，關于對外界的感知與識別層面，當前人工智能不具有人類的神經認知與心理認知。本文第二部分對人工智能與人類智能神經層級的認知與心理層級的認知進行了對比，可以看出，人工智能在這兩個層級的認知上都無法超越人類，而只是對人類智能形式上的模擬。在神經層級認知上，某些人工智能可以通過傳感器精確地探知物體的材料性質或所含元素的類型與比例，而人類的觸覺無法做到，但并不能以此來論證人工智能在神經層級的認知上或在辨認能力上超越人類。對物質性質與元素比例的精確測量恰好反映了其“機器”屬性，因為該測量并不屬于神經層級認知的范圍，該種測量是通過一系列物理和化學作用得出的結論，與人類神經認知中外界對神經的刺激有本質的區別。如前所述，如果人工智能在神經認知層面上對人類智能的模擬有以假亂真的現象，那么在心理認知層面，其連外在形式上的模擬都沒有做到。

第二，關于將“感知”到的信息與自身“行為”聯系進行加工處理從而得出該“行為”的社會意義，人工智能完全沒有這樣的能力。人類處理信息的方式是將神經認知得到的信息結合自己心理層級的認知、語言層級的認知、思維層級的認知與文化層級的認知，進行整合而產生的心智層面的內容。而人工智能的處理方式是：第一步，通過各種傳感器將外部環境的特征進行輸入，并轉換成人工智能可以識別的人工語言。第二步，通過人工智能的“計算力”對得到的信息按照提前輸入的算法進行處理。通過上述區分可以看出，人類所具有的辨認能力是經驗的，而不是原生的，是在低階認知（神經層級的認知、心理層級的認知）的基礎上，通過語言，進行思維和文化上的考量。而人工智能具有的所謂“辨認能力”是通過“輸入—存儲—計算”的模型進行的，計算的依據就是人類設置的算法，也即塞爾“中文房間模型”中的“操作規程”。故人工智能具有的所謂的“辨認能力”僅僅是其具有的“計算力”而已，其并沒有思維和文化上的考量。近年來所發生的所謂的人工智能戰勝人類智能的事件，僅僅是由于科學技術的發展，使得人工智能計算力急劇提升而出現的假象。綜上，當下及可預見的未來的人工智能并不具有刑法意義上的“辨認能力”。

（三）人工智能控制能力之否定

“刑事責任能力中的控制能力，是指行為人具備決定自己是否以行為觸犯刑法的能力”［12］。傳統的刑法理論認為，在責任能力層面，控制能力以具有辨認能力為前提，也即沒有辨認能力就一定沒有控制能力。前文論證了人工智能不具有辨認能力，邏輯上就不用探討其控制能力的問題，但前述無辨認能力就無控制能力的邏輯是以自然人為基礎構建的。自人工智能能否作為刑法主體的討論伊始，其就具有一定的特殊性。人類的心智會隨著時間延續而遞增，并伴隨著經驗的痕跡，這也是自然人會有刑事責任年齡等理論問題的事實支撐，而人工智能所謂的“心智”不是經驗的，而是原生的，并不是一個逐漸發展的過程，這就使得人工智能即使被證明沒有辨認能力，但在形式上仍然存在看似具有控制能力的假象，如運用人工智能技術的無人駕駛汽車［11］。雖然無人駕駛汽車不具備人類所具有的辨認能力，但是在表面上，其具有控制自己在道路上規范行駛的能力，故仍然有必要對人工智能的“控制能力”進行證偽。

同人工智能“辨認能力”證偽路徑相同，其形式上所具有的控制能力與人類所具有的控制能力具有本質的區別。人工智能所具有的形式上的“控制能力”其實是在算法內運行的能力，其仍然是機械的、固化的，其機械與固化的依據仍然是人類設置的算法。例如作為人工智能的無人駕駛汽車，在形式上是經過傳感器識別后作出看似有控制能力的行為，但在實質上其仍然是機械行為，只是由于其計算力的提升而在形式上更加的“智能”。人類智能的控制能力是先進行神經層級、心理層級的感知，再結合語言層級的認知、思維層級的認知、文化層級的認知進行判斷所形成的控制能力。人工智能“控制”的過程是先通過傳感器對外部環境進行識別，再將識別到的信息轉換成人工語言，然后在算法內進行判斷。故人工智能的“控制”并不是其自主的控制，而仍然是在“操作規程”之內進行判斷，也即其是在人類控制之下進行的控制，其本質仍然是人類控制。

（四）人工智能刑法主體地位的再詰問

人工智能刑法“主體性”不僅能從辨認能力與控制能力層面予以否定，其也無法面對來自刑罰、哲學理論的詰問。

第一，針對人工智能的“刑罰”的合理性缺乏足夠的論證。現階段，針對人工智能的“刑罰”——“刪除數據、修改程序、永久銷毀”看似是一個形式上較為合理的選擇，也是人工智能具有刑法主體性支持論者所構想的藍圖，但“刪除數據、修改程序、永久銷毀”是否是刑罰并沒有得到有力的論證。如果認為其是刑罰被規定在刑法中，會出現一系列無法解釋的悖論：（1）這些適用于人工智能的“刑罰”和適用于人類的刑罰規定于同一部法律都被作為刑罰，那么刪除數據、修改程序等有沒有適用于人類的風險（如果技術可以使這些措施適用于人類），如果這些“刑罰”被適用于人類，是否人道？（2）將這些措施規定于刑法中，這樣的刑法還符合刑法的本質嗎？（3）與其將“刪除數據、修改程序、永久銷毀”作為“刑罰”措施規定在刑法中，為什么不單獨制定一部關于人工智能行為規范的法律呢？

第二，將人工智能作為刑法主體有損人類尊嚴。世界范圍而言，人類意識的覺醒并不是很久遠的事。文藝復興之前，經歷了原始社會、奴隸社會與封建社會，在文藝復興之前，即使存在人類意識的覺醒也只在極小范圍內片段性地發生，文藝復興之后，人本意識才在全世界范圍內傳播開來。當前由于大數據、傳感器科技、芯片技術的急速發展，而使機器在形式上具有人類智能的假象。由于這些“類人”的假象而將人工智能提升到人的高度有損人之所以為人的尊嚴。現代人類所擁有的哲學財富都是以人為主體構建起來的主客體關系，如果將人工智能提升到與人類同樣的高度而將其作為構建世界哲學主客體關系的主體，不僅人類的主體地位會遭受結構性挑戰，人類積淀起來的哲學財富也將會受到巨大的沖擊。從歷史唯物主義的視角看，人類的主體地位是由“全部人類與自然世界以及與自身不懈斗爭，不斷進取，對自然界取得日益強大的實踐與改造能力，通過文明發展的歷史事實自證的”［13］。即使在不可預見的未來出現具有思維的強人工智能，我們仍然可以對其單獨立法，而不是與人類共用刑法。在知識產權法領域，就有學者以此路徑保護人工智能的創作物。“對人工智能創作物，一方面法律應當給予一定的保護；另一方面，這種保護又應當考慮其特有的品性，體現與對人類作品保護的區別。人工智能創作物保護路徑的選擇應當秉持這一基本的理念”［14］。

四、反思：人工智能的刑法地位

（一）人工智能“風險”的刑法立場

人工智能雖然不具有刑法主體地位，不能對其適用刑罰，但人工智能相關科學的指數爆炸式增長的確極大地增加了社會風險，對現有的法律體系提出巨大的挑戰，刑法也不例外。在此背景下，刑法需要表明自身立場，作出回應，以應對社會風險的加劇。

1986年，德國社會學家烏爾里希·貝克（Ulrich Beck）提出了“風險社會”概念。我國刑法學界也針對“風險刑法理論”進行了大討論，但正如有學者所言，“由于支持者和批評者都沒有充分了解風險社會理論的真面目，這場看似激烈的爭論其實并未深入本質”［15］。風險刑法理論曲解了貝克所提出的風險社會之風險，貝克所提出的風險社會之風險是“可以被界定為系統地處理現代化自身導致的危險和不安全感的方式。風險，與早期的危險相對，是與現代化的威脅力量以及現代化引致的懷疑的全球化相關的一些后果”［16］。由此可以看出，風險社會理論之風險與風險刑法理論之風險并不一致，風險刑法理論之風險仍然是古典工業社會之風險，僅僅在程度上（量）有所上升，并沒有質的區別。而風險社會之風險是具有毀滅性的全球性風險，具有異質性，其一旦發生就沒有救濟的余地。而這種全球性的風險在古典工業社會“發展”思想指導下的治理邏輯中是合法、合理的，正如貝克所言，“（風險）由工業制造出來，被經濟外部化，被法律制度個體化，被自然科學合法化，且被政治變得表面上無害”［17］。故風險社會之風險是古典工業社會的治理邏輯（包括法律）所不能解決的。

風險刑法理論與風險社會理論所指風險并不同一，但這并不代表風險刑法理論沒有存在的根基，風險刑法理論仍然可以以傳統的古典工業社會之風險為基礎。畢竟隨著科技的發展，傳統風險正在急劇增多是個不爭的事實。在此背景下，風險刑法理論仍然有生存發展的土壤，其提出的刑法規范提前介入在某些情況下仍然可行。總之，筆者并不否認當下正處于風險社會，但風險社會與古典工業社會并不相悖，可以同時存在，也即當下是兩種風險并存的時代，而風險社會之風險是刑法無法應對的，刑法只能針對傳統風險。眾所周知，當下傳統風險正在加劇，如人工智能技術的發展增強了潛在犯罪人的犯罪方式，擴大了犯罪后果，加大了偵查機關的偵查難度（在一定程度上擴大了犯罪暗域，增大了社會的不穩定性），刑法對此應采取積極態度。

雖然人工智能并非一個新的概念，1956年達特茅斯（Dartmouth）會議首先使用“人工智能”術語，但人工智能在當時由于科技的時代局限性而未對生活產生深刻的影響，近年來才因相關科技的發展對社會生活產生了較為深遠的影響，也是近年來才致使社會風險增多。人工智能“風險”仍然屬于古典工業社會之風險，其并不具有異質性，所帶來的可能也并非毀滅性的全球性災難。故人工智能“風險”是社會治理的新課題，也是刑法所面臨的新課題。對此，刑法并非像對待風險社會之風險那樣束手無策，而應在不違反罪刑法定原則、刑法謙抑性原則的基礎上，積極應對涉人工智能犯罪。

（二）人工智能的刑法地位——刑法客體

人工智能的刑法主體地位前文已經證偽，其在刑法中只能作為客體存在【此處“客體”并非犯罪論中犯罪客體，而是哲學關系中主體以外的客觀對象，是主體認識和實踐的對象。】。具體而言，行為人可能利用人工智能實施犯罪行為，或行為人可能針對人工智能實施犯罪，此即人工智能的犯罪工具屬性和犯罪對象屬性。第一，人工智能的犯罪對象屬性。傳統觀點認為，“行為對象也叫犯罪對象（行為客體），一般是指實行行為所作用的物、人、組織（機構）、制度等客觀存在的現象”［18］。以人工智能為對象的犯罪行為與以其他物或知識產權等為對象的犯罪并無本質區別。例如行為人盜竊、毀壞人工智能會構成相應的侵犯財產類犯罪；再如人工智能作為“作品”（知識產權）形式存在，行為人侵犯該知識產權就構成相應的侵犯知識產權犯罪。第二，人工智能的犯罪工具屬性。現實中確實存在一類看似人工智能“犯罪”的案件，諸如完全自動化的無人駕駛汽車交通肇事案件、智能程序在算法之外錯誤運行造成極大財產損失的案件等。人工智能“犯罪”事件，其實是人類犯罪的表現方式，本文將其分為兩類：第一類為人類故意犯罪；第二類為人類過失犯罪。故意犯罪是指人類制造人工智能的目的就是為了犯罪或者人工智能最初的制造目的是為了服務于人類，但是人類故意破壞其原本的算法或程序以達到犯罪的目的，如行為人惡意更改他人完全自動化無人駕駛汽車而發生車禍。此種類型的故意犯罪中，人工智能就是“犯罪工具”，和殺人犯手中的刀沒有本質的區別。而人工智能作為刑法主體的支持論者認為有自動更改自身算法或程序的完全自動化無人駕駛汽車的存在，其通過更改自身程序進行“殺人”。但通過前文認知科學的五個層級理論及塞爾的“中文房間模型”可以看出，在當下及可預見的未來，不存在這種所謂的具有自我意識的“強人工智能”。

涉及人工智能的過失犯罪有兩種：（1）人工智能自身運行錯誤而造成的“事故”；（2）產品自身缺陷而引發的“事故”。第一種情況，如果人工智能所有者具有監督責任而沒有履行，其就構成相關的過失犯罪。例如行為人有定期對完全自動化無人駕駛汽車進行檢查的監督責任，而行為人沒有履行監督義務，就需要對無人駕駛汽車程序運行錯誤造成的“事故”承擔過失責任；再如對于非完全自動化無人駕駛汽車，駕駛人需要在汽車行駛過程中對汽車進行監管，因駕駛人的監管失誤而發生交通事故的，駕駛人需要承擔過失責任。對于第二種情況，則適用產品責任的相關規定。值得注意的是，在當今技術細分精細化的背景下，人工智能產品責任事故可能不止一位責任者，要區分人工智能產品“系統”與“實體”。例如采用人工智能技術的無人駕駛汽車會有人工智能“系統”的制造者和汽車實體部分的制造者，在一起案件中要區分是系統產品責任還是實體產品責任。

結語

近年來關于人工智能刑法的主體性問題似乎在一瞬間成為刑法學者討論的熱門問題，但該問題在現階段是否是一個嚴肅的法學問題仍值得商榷。筆者認為，人工智能當下仍然處于萌芽階段，所謂的強人工智能在當下和可預見的未來并沒有出現的跡象，故在現階段，在刑法層面討論其主體性問題并非嚴肅的法學問題，當前刑法理論應該把更多的注意力著眼于人類利用人工智能犯罪問題、人工智能輔助量刑等問題上。人工智能被用來實施犯罪行為會使得犯罪后果擴大，偵查難度增大（犯罪暗域增大），例如證券公司利用人工智能買賣證券，行為人篡改該人工智能程序實施操縱市場行為等。在司法領域，人工智能無法替代法官審判案件，但其輔助法官辦案將成為新的趨勢。例如在量刑時，“量刑人工智能以大數據分析為基礎”［19］獲取同類案件的常態量刑，作為法官的量刑參考。一直以來，我國量刑理論在精致的犯罪論的反襯下顯得無比簡陋，正如王利榮教授所言，“在規范刑法學中找不到令人信服的量刑規則和量刑步驟，不能斷言是研究者對其不重視，可能這一研究范式一開始就命定了結局”［20］。故人工智能在量刑領域的應用將極大地促進司法公正。

參考文獻：

［1］ 劉憲權，胡荷佳.論人工智能時代智能機器人的刑事責任能力［J］.法學，2018（1）：40-47.

［2］ 劉憲權.涉人工智能犯罪刑法規制的路徑［J］.現代法學，2019，41（1）：75-83.

［3］ 徐小奔.論人工智能生成內容的著作權法平等保護［J］.中國法學，2024（1）：166-185.

［4］ 蔡曙山，薛小迪.人工智能與人類智能：從認知科學五個層級的理論看人機大戰［J］.北京大學學報（哲學社會科學版），2016，53（4）：145-154.

［5］ 蔡曙山.論人類認知的五個層級［J］.學術界，2015（12）：5-20.

［6］ 蔡曙山.自然語言的形式理論［M］.北京：人民出版社，2010：6.

［7］ 王鋼.人工智能刑事責任主體否定論： 基于規范與語義的考察［J］.蘇州大學學報（法學版），2022（4）：63-79.

［8］ 蔡曙山.哲學家如何理解人工智能：塞爾的“中文房間爭論”及其意義［J］.自然辯證法研究，2001，17（11）：18-22.

［9］ 劉憲權.人工智能時代的“內憂”“外患”與刑事責任［J］.東方法學，2018（1）：134-142.

［10］ SEARLE J R.Minds，brains，and programs［J］.Behavioral and Brain Sciences，1980，3（3）：417-424.

［11］ 賈宇.刑法學（上冊·總論）［M］.北京：高等教育出版社，2016：302.

［12］ 高銘暄，馬克昌.刑法學［M］.北京：北京大學出版社，2016：85.

［13］ 張力，陳鵬.機器人“人格”理論批判與人工智能物的法律規制［J］.學術界，2018（12）：53-75.

［14］ 許明月，譚玲.論人工智能創作物的鄰接權保護：理論證成與制度安排［J］.比較法研究，2018（6）：42-54.

［15］ 南連偉.風險刑法理論的批判與反思［J］.法學研究2012，34（4）：138-153.

［16］ 烏爾里希·貝克.風險社會［M］.何博聞，譯.江蘇：譯林出版社，2004：19.

［17］ 烏爾里希·貝克.世界風險社會［M］，吳英姿，孫淑敏，譯.南京：南京大學出版社，2004：49.

［18］ 張明楷.刑法學［M］.北京：法律出版社，2016：163.

［19］ 甄航.人工智能介入量刑機制：困境、定位與解構［J］.重慶大學學報（社會科學版），2023（4）：191-202.

［20］ 王利榮.量刑說理機制［M］.北京：中國人民公安大學出版社，2012：14.

The negation of the “subjectivity” of artificial intelligence in criminal law： Origins， deconstruction and reflection：

based on the five-level theory of cognitive science

ZHEN Hang

（Law School， Southwest University of Political Science and Law， Chongqing 401120，P. R.China）

Abstract：

Whether artificial intelligence can have the same “subjectivity” status as human beings in criminal law cannot be found in the criminal law theory， and it needs to be based on relevant cognitive science， otherwise it will fall into the dilemma of circular argument. According to the five-level theory of cognitive science， AI is only a simple simulation of human cognition at the lower-order cognitive levels of the neural and mental hierarchies; At the level of language-level cognition， which is the intermediate link between higher-order and lower-order cognition， there is an essential difference between the artificial language of AI and natural language; At the higher-order cognitive levels of the thinking and cultural hierarchies， current AI has not shown itself to be capable of thinking or generating culture. Combined with the “the Chinese room argument”， the AI does not have the “recognition ability” and “control ability” in criminal law theory. In terms of recognition ability， although the recognition of the objective world by AI sensors can mimic human cognition， they are not able to process the recognized information in conjunction with their own “behaviors” to derive the social significance of those “behaviors”. In terms of control capability， the “control capability” demonstrated by AI is essentially the ability to execute algorithms， which is still essentially a form of human control rather than AI “self-control”. Therefore， in the present and foreseeable future， AI does not have a “subjectivity” of criminal law， and current criminal law theory need not overreact to so-called “strong artificial intelligence”. Elevating AI to human heights undermines human dignity. “Delete data， modify procedures， permanent destruction” is not a penalty. If it is written into the criminal law also has the possibility of human application. Therefore， in the present and foreseeable future， the impact of AI on the theory of criminal law is mainly due to the fact that it leads to the exacerbation of traditional societal risks. Criminal law theory should treat them as “objects” and “instruments” of crime in conjunction with the theory of risk criminal law. When AI is used as an object of crime， it exists in the form of property， works， etc.， and care should be taken to distinguish between the AI itself and the carrier of the AI in the process of judicial determination; When it is used as an instrument of crime， it can lead to results such as widening the consequences of the crime and making it more difficult to investigate.

Key words：

artificial intelligence; the Five-Level Theory of Cognitive Science; strong artificial intelligence; the Chinese room argument

（責任編輯 胡志平）