封閉性準則視角下強人工智能體刑事主體地位之否定

柳若儀?鄭茜尹

摘要：強人工智能體的程序運作邏輯嚴格遵循封閉性準則，只有在封閉性準則下其才能發(fā)揮人工智能為人類服務(wù)的效用。強人工智能體在本質(zhì)屬性層面與法律依據(jù)層面都不具備成為刑事責(zé)任主體的技術(shù)基礎(chǔ)與理論基礎(chǔ)，不具有成為刑事責(zé)任主體的必要性與可行性，人類對于強人工智能體的法律規(guī)制不能脫離于科學(xué)技術(shù)。若強人工智能體實施了犯罪行為，則應(yīng)當在封閉性準則框架內(nèi)進行歸責(zé)。強人工智能體侵害法益的行為可分為技術(shù)失控與技術(shù)誤用，應(yīng)分別區(qū)分責(zé)任。

關(guān)鍵詞：封閉性準則；強人工智能體；刑事責(zé)任主體

隨著科技的爆炸式發(fā)展，我們由弱人工智能時代走向強人工智能時代的趨勢不可逆轉(zhuǎn)，這一趨勢引發(fā)一系列的法律、哲學(xué)、倫理問題，其中不乏可能產(chǎn)生刑事犯罪問題。在刑法領(lǐng)域，探討的焦點多集中于人工智能是否具有刑事主體地位、是否能夠承擔(dān)刑事責(zé)任以及是否能夠被施以刑罰等問題。其中，代表性觀點指出，智能機器人完全可能具有與人一樣的辨認能力和控制能力，可以在自主意識和意志的支配下實施行為，因此完全可能成為行為主體而承擔(dān)刑事責(zé)任[1]，可以將其實施的嚴重危害社會的行為認定為犯罪行為并給予刑罰處罰[2]。本文對該觀點持懷疑態(tài)度，強人工智能體是否具有刑事主體地位承擔(dān)刑事責(zé)任需要從其本質(zhì)屬性和法律依據(jù)層面進行判斷，并結(jié)合刑罰本質(zhì)與目的全面考察。

一、究本：何為強人工智能體之本

1956年麥卡賽、明斯基、羅切斯特和申農(nóng)等年輕科學(xué)家在達特茅斯會議首次提出“人工智能”（Artificial Intelligence，簡稱AI）概念。人工智能概念由“人工的”（artificial）與“智能”（intelligence）兩個概念組合而來，意為使機器像人一樣去完成某項任務(wù)的軟硬件技術(shù)[3]。人們對于人工智能的原始認知即為機器像人一樣理性地思考和活動，但這并不意味著人工智能的智力水平與人類相一致，而是意味著人工智能擁有思考的自主性與獨立性。但人工智能擁有思考的自主性與獨立性是否就意味著人工智能將會擁有超越人類智力的風(fēng)險呢？

無論是強人工智能體還是弱人工智能體，都依賴于人工智能技術(shù)作為支撐。因此都不免地呈現(xiàn)出“人工”的特征。早在20世紀60年代人類便開始了對于人工智能技術(shù)的研究，至今出現(xiàn)了三次浪潮，每次浪潮經(jīng)歷大約20年。縱觀人工智能技術(shù)的發(fā)展歷史，人工智能研究已形成了至少幾千種不同的技術(shù)路線，其中最成功、影響最大的有兩種，被稱為人工智能的兩種經(jīng)典思維：“基于模型的暴力法”與“基于元模型的訓(xùn)練法”[4]。它們在人工智能技術(shù)的研究中發(fā)揮著關(guān)鍵作用，因而最值得關(guān)注。

首先，“基于模型的暴力法”是在構(gòu)建精確模型的前提下，建立一個表達該模型的知識表示或狀態(tài)空間，通過推理法或搜索法窮舉所有選項，找出問題的一個解。“基于元模型的訓(xùn)練法”是在建立問題的元模型的前提下，參照元模型，收集訓(xùn)練數(shù)據(jù)并進行人工標注，選擇一種合適的人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和一個監(jiān)督學(xué)習(xí)算法，依據(jù)數(shù)據(jù)擬合原理，以帶標注的數(shù)據(jù)，用上述監(jiān)督學(xué)習(xí)算法訓(xùn)練上述人工智能體，減少人工智能技術(shù)之誤差[5]。以上兩種經(jīng)典思維以構(gòu)建模型為發(fā)展人工智能技術(shù)的基本前提，只有符合該模型所賦予的人工智能算法，其技術(shù)才能無誤差地發(fā)生效用。再者，基于以上兩種人工智能的經(jīng)典思維，符合該模型的應(yīng)用場景之內(nèi)是人工智能技術(shù)的能力邊界。只有存在一個可計算的和語義完全相同的模型，并且所有提問在該模型的可解范圍內(nèi)或是存在有限確定的元模型，并且代表性數(shù)據(jù)集也是有限確定的場景下，暴力法或訓(xùn)練法才能被準確運用得到有效解決，此即人工智能技術(shù)之封閉性準則[6]。例如，自動駕駛汽車發(fā)揮其自動駕駛功能的前提為存在封閉的駕駛環(huán)境，模擬該駕駛環(huán)境時即需要考慮應(yīng)用需求、應(yīng)用場合與應(yīng)用條件三個因素，即該汽車只有在正確的交通道路行駛環(huán)境中遵守交通規(guī)則，并滿足駕駛者的駕駛需求時，該自動駕駛汽車背后的人工智能技術(shù)才能準確運用。若不存在如以上所述之場景，就不能保證智能系統(tǒng)對這些提問的回答都是正確的，人工智能體便喪失了其智能性。因此，封閉性是一個場景中的應(yīng)用能夠被暴力法或訓(xùn)練法解決的理論上的必要條件。

有學(xué)者提出，隨著深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)、蒙特卡洛樹搜索等技術(shù)的不斷發(fā)展，當技術(shù)突破下一個瓶頸時，出現(xiàn)具有辨別能力和控制能力、能夠作出自主決策并實施相應(yīng)行為、實現(xiàn)自身意志的人工智能產(chǎn)品，其實并非鏡花水月[7]。該觀點實則為主觀臆斷，缺乏科學(xué)依據(jù)。深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)、蒙特卡洛樹搜索、云計算等技術(shù)為現(xiàn)代支撐人工智能體發(fā)展之技術(shù)，都可將其涵蓋于以上兩種經(jīng)典思維之內(nèi)，例如蒙卡特洛樹搜索屬于典型的“基于模型的暴力法”。以阿爾法狗零以100-0戰(zhàn)勝阿爾法狗[8]為例，看似阿爾法狗零完全通過自學(xué)掌握了遠超人類甚至其初代的圍棋能力，實則其成功僅是其通過算法不斷自我博弈，并根據(jù)自博數(shù)據(jù)用強化學(xué)習(xí)算法自動反推所有落子的勝率估計并作出落子決策[9]。其本質(zhì)仍然為人工智能的經(jīng)典思維，不具有自主決策并實施相應(yīng)行為、實現(xiàn)自身意志的能力。

因此，人工智能技術(shù)本質(zhì)仍舊為人工智能的設(shè)計者之算法設(shè)計，人工智能體僅是自主地完成了設(shè)計者設(shè)計的具體執(zhí)行，人工智能技術(shù)不會自主地形成“價值判斷”，更不會基于這種價值判斷做出決策，強人工智能體也不例外，強人工智能體的特性即為封閉性、被動性、中立性。

二、定性：何定強人工智能體之性

刑法學(xué)界對強人工智能體系是否具有刑事主體地位展開了激烈的討論，大致形成了“肯定論”與“否定論”兩種學(xué)說。本文認為持否定論觀點更具合理性。

第一，否定論否認強人工智能體的刑事主體地位，具有科學(xué)性。根據(jù)目前的科技發(fā)展水平，支撐人工智能體發(fā)展的技術(shù)完全滿足封閉性準則的要求。基于封閉性準則，人工智能技術(shù)的存在目的即為人類提供幫助，若該目的落空，人工智能即不屬于如今所謂“人工智能”之概念。第二，否定論否定賦予人工智能體刑罰之必要性，該觀點具有哲學(xué)體系作為支撐。刑罰的本質(zhì)是對犯罪的懲罰性亦即對犯罪的懲罰，刑罰應(yīng)包含的懲治、安撫、預(yù)防、矯正等基本功能，才能實現(xiàn)現(xiàn)代刑法的基本任務(wù)。但人工智能不符合生命的構(gòu)成要件，不能感受到人身與精神上的痛苦，對其實施刑罰與刑罰屬性相背離。第三，在封閉性準則下，即便強人工智能體在其執(zhí)行行為上具有很強的自主性，但難以跳脫出程序設(shè)計者的算法設(shè)計。人工智能體無價值判斷之中立性，刑罰功能便難以實現(xiàn)。因此，現(xiàn)有的刑罰體系中所規(guī)定的刑罰對人工智能適用不具有可行性。

三、尋據(jù)：何存強人工智能體之據(jù)

前文從強人工智能體的本質(zhì)屬性與運行機制層面否定了其作為刑事主體的物質(zhì)基礎(chǔ)，但從法律法規(guī)層面若可以找到認定強人工智能體刑事主體地位的依據(jù)，認定其為刑事主體在一定程度上可能具有可行性。同時，只有確定強人工智能體在法律層面的性質(zhì)，才能為法律更好地規(guī)制其犯罪行為提供法理與法律依據(jù)。

從法理層面來看，刑法之謙抑性要求凡是適用其他法律足以抑制某種違法行為、足以保護合法權(quán)益時，就不要將其規(guī)定為犯罪；凡是適用較輕的制裁方法足以抑制某種犯罪行為、足以保護合法權(quán)益時，就不要規(guī)定較重的制裁方法。刑法作為規(guī)制違法行為的最后一道屏障，只有在不得已時才能動用刑罰。謙抑性要求根據(jù)一定規(guī)則控制處罰范圍，當刑罰無效果、可替代或太昂貴之時，該刑罰就不具有無可避免性了[10]。人工智能體區(qū)別于人類，對強人工智能體的犯罪行為通過刪除數(shù)據(jù)、修改程序和永久銷毀等契合強人工智能機器人特征的刑罰處罰[11]則可以用其他物理手段或部門法設(shè)定侵權(quán)責(zé)任之賠償，在實際上具有可替代性，不必動用刑法進行規(guī)制。

從法規(guī)層面來看，在刑法領(lǐng)域，沒有犯罪主體，就沒有危害社會的行為，也就沒有刑事責(zé)任可言[12]。由于某個具體的犯罪行為的引起可以歸屬于某個特定主體，犯罪主體是表明行為必須由什么人實施才能構(gòu)成犯罪的要件。犯罪主體是指達到法定刑事責(zé)任年齡、具有刑事責(zé)任能力、實施危害行為的自然人與單位[13]。因此，從法律規(guī)定之文義出發(fā)，無論怎么解釋，都難以將強人工智能體解釋為符合以上條件的自然人或單位。

首先，強人工智能體不能當然成為自然人。人類作為人類社會的主體，其存在的本身就是社會的目的。社會中的一切被利用了的資源歸根到底都是為了廣義上的人類整體服務(wù)。而人工智能則不然，它之所以能夠在社會中存在，都是為了能夠?qū)θ祟愑兴鶐椭Ｔ谧匀蝗伺c強人工智能體存在目的的本質(zhì)角度上，人工智能體與人類有本質(zhì)差異，且自然人所享有的生命權(quán)、自由權(quán)等基本權(quán)利，強人工智能體也不具有、享有的生理基礎(chǔ)，不能將人工智能體歸于自然人之列。機器學(xué)習(xí)是強人工智能體自由意志之體現(xiàn)，機器學(xué)習(xí)能否實現(xiàn)，很大程度上依賴于人工智能技術(shù)。然而人工智能技術(shù)即人工智能的經(jīng)典思維，在嚴格遵守封閉性準則的運行機制下，在其適用場景范圍外，該經(jīng)典思維的條件性使得人工智能體根本不具有自主決策并實施相應(yīng)行為、實現(xiàn)自身意志的能力，故難以將其與類似于自然人的理性主體相等同。

其次，強人工智能體也難以成為單位。根據(jù)我國刑法的規(guī)定，單位是法律上人格化的組織，其人格化本質(zhì)是因為單位運作的核心為其內(nèi)部自然人組織的統(tǒng)一意志。人工智能體的運作機制為人工智能技術(shù)，人工智能技術(shù)在現(xiàn)在甚至將來很長一段時間內(nèi)都是在固定模型內(nèi)的算法推理演繹，因此不能將基于算法的演繹推理等同于單位的統(tǒng)一意志。因此，強人工智能體不具有符合刑法法理和法律層面上刑事責(zé)任主體之構(gòu)成要件。

四、歸責(zé)：何歸強人工智能體之責(zé)

如何對人工智能帶來的風(fēng)險挑戰(zhàn)進行歸責(zé)？本文的觀點為，在封閉性準則框架內(nèi)，強人工智能體侵害法益的行為可以分為技術(shù)失控與技術(shù)誤用，針對技術(shù)失控，則應(yīng)當由強人工智能體的設(shè)計者承擔(dān)相關(guān)刑事責(zé)任；針對技術(shù)誤用，則結(jié)合個案情況，應(yīng)當由強人工智能體的使用者或設(shè)計者承擔(dān)相關(guān)刑事責(zé)任。以發(fā)展至完全自動化的自動駕駛汽車為例，假設(shè)自動駕駛汽車交通肇事并導(dǎo)致相關(guān)法益受到侵害，應(yīng)當按照以下思路尋找歸責(zé)主體：第一，明確事故原因；第二，確定歸責(zé)范圍。

首先，明確事故原因，即明確事故是由于自動駕駛汽車的技術(shù)失控還是技術(shù)誤用所導(dǎo)致的。若為前者，則可以將該事故歸因于自動駕駛汽車所依賴的人工智能技術(shù)；若為后者，則可以將該事故歸因于自動駕駛汽車的駕駛者的過失行為。但往往可能存在前后者相結(jié)合的情況，則對于該事故需根據(jù)兩者在事故中所占比例進行歸責(zé)。其次，確定歸責(zé)范圍，即確定承擔(dān)刑事責(zé)任的主體。在技術(shù)失控的情況下，自動駕駛汽車發(fā)生事故，原因之一就是駕駛程序模型出現(xiàn)問題，因此其設(shè)計者由于脫離了對技術(shù)風(fēng)險的預(yù)測將其投放市場應(yīng)對該事故承擔(dān)刑事責(zé)任。同時，由于完全駕駛階段的自動駕駛汽車本身已經(jīng)能夠代替人類駕駛者承擔(dān)駕駛?cè)蝿?wù)，原本的人類駕駛者就等同于汽車的乘客，駕駛者不需要對其承擔(dān)法律責(zé)任，除非存在故意或者重大過失。所謂故意或重大過失，即為“技術(shù)誤用”。例如，行為人將自動駕駛汽車作為工具意圖殺害被害人，行為人的行為違背了自動駕駛汽車的正常使用邏輯，且在該使用模式下自動駕駛汽車由于違背了封閉性準則，成為行為人殺人的工具，行為人的行為構(gòu)成故意殺人罪。又例如，由于行為人未定期檢修自動駕駛汽車，導(dǎo)致他人法益受到損害，在該情況下，駕駛者的行為可能構(gòu)成過失犯罪。但若駕駛者已盡客觀注意義務(wù)卻仍發(fā)生法益損害結(jié)果，其過失罪責(zé)任欠缺客觀歸責(zé)性而不成立。若行為人未盡到注意義務(wù)且自動駕駛汽車算法發(fā)生錯誤發(fā)生交通事故，該情況下則應(yīng)尋找事故的本質(zhì)原因，嚴格按照比例確定刑事責(zé)任。因此，可以按照前文的歸責(zé)邏輯將歸責(zé)主體進行明確界定，且該邏輯可以類推適用于一般的強人工智能體，以應(yīng)對人工智能技術(shù)發(fā)展過程中引發(fā)的諸多問題，具有實體上的歸責(zé)意義。

綜上，強人工智能體不具備刑事主體資格的科技屬性與法律依據(jù)，其不具有成為刑事責(zé)任主體的必要性與可行性。

五、結(jié)束語

強人工智能體之運行有其內(nèi)在算法邏輯，嚴格遵循封閉性準則，從而發(fā)揮服務(wù)于人類的最大效用。人類對于強人工智能體的法律規(guī)制不能脫離于科學(xué)技術(shù)而主觀臆測，否則會使得法律體系的穩(wěn)定性受到?jīng)_擊。在現(xiàn)有的封閉性理論的技術(shù)框架和法律框架內(nèi)，強人工智能體不具備刑事主體資格的科技屬性與法律依據(jù)，其不具有成為刑事責(zé)任主體的必要性與可行性。若強人工智能體實施了侵害法益的行為，則應(yīng)當在封閉性準則框架內(nèi)進行歸責(zé)，分別針對技術(shù)失控與技術(shù)誤用的情況，由強人工智能體的設(shè)計者或使用者承擔(dān)刑事責(zé)任，嚴格明確責(zé)任邊界。但是，我們不能停止法律對于強人工智能體法律主體地位的探索與研究，未來強人工智能體的發(fā)展若以一種超越封閉性準則的全新的技術(shù)樣貌出現(xiàn)時，我們應(yīng)依據(jù)新的技術(shù)條件判斷風(fēng)險，在法律框架下對強人工智能體的風(fēng)險予以評估，并以法律加以規(guī)制。

作者單位：柳若儀 鄭茜尹 福建師范大學(xué)

參? 考? 文? 獻

[1]劉憲權(quán)，胡荷佳. 論人工智能時代智能機器人的刑事責(zé)任能力[J]. 法學(xué)，2018（1）：40-47.

[2]劉憲權(quán). 人工智能時代的刑事風(fēng)險與刑法應(yīng)對[J]. 法商研究，2018，35（1）：3-11.

[3]Andrew Arruda， “An Ethical Obligation to Use Artificial Intelligence？ An Examination of the Use of Artificial Intelligence in Law and the Model Rules of Professional Responsibility” 40 American Journal of Trial Advocacy 443（2016）.

[4]陳小平. 人工智能的歷史進步、目標定位和思維演化[J]. 開放時代，2018（6）：31-48.

[5]陳小平.封閉性場景：人工智能的產(chǎn)業(yè)化路徑[J].文化縱橫，2020（01）：34-42.

[6]陳小平. 人工智能中的封閉性和強封閉性——現(xiàn)有成果的能力邊界、應(yīng)用條件和倫理風(fēng)險[J]. 智能系統(tǒng)學(xué)報，2020，15（01）：114-120.

[7]劉憲權(quán).人工智能時代的“內(nèi)憂”“外患”與刑事責(zé)任[J]. 東方法學(xué)，2018（01）：134-142.

[8]參見https：//baijiahao.baidu.com/s？id=1581648107440205265&wfr=spider&for=pc，最后訪問時間：2021-12-14.

[9]David Silver， Julian Schrittwieser， et. al. Mastering the game of Go without human knowledge. Nature， 2017-10-18.

[10]張明楷.論刑法的謙抑性[J].法商研究（中南政法學(xué)院學(xué)報），1995（04）.

[11]盧勤忠，何鑫. 強人工智能時代的刑事責(zé)任與刑罰理論[J]. 華南師范大學(xué)學(xué)報（社會科學(xué)版），2018（6）：116-124.

[12]劉憲權(quán).刑法學(xué)（第五版）[M].上海市人民出版社，2020.

[13]陳興良. 犯罪構(gòu)成的體系性思考[J]. 法制與社會發(fā)展，2000（3）：46-66.