ChatGPT 類(lèi)生成式人工智能產(chǎn)品提供者之刑事責(zé)任

摘 要：ChatGPT 類(lèi)生成式人工智能產(chǎn)品數(shù)據(jù)處理不可控，提供者刑事責(zé)任不明確，將會(huì)引發(fā)刑事治理難題。在產(chǎn)品投入流通時(shí)，如果ChatGPT 類(lèi)生成式人工智能產(chǎn)品符合國(guó)家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)，并不存在當(dāng)前科學(xué)技術(shù)水平能夠發(fā)現(xiàn)的缺陷，一般不宜追究產(chǎn)品提供者的刑事責(zé)任；在產(chǎn)品投入流通后，產(chǎn)品提供者應(yīng)承擔(dān)適度的安全管理義務(wù)。違反安全管理義務(wù)，有可能承擔(dān)刑事責(zé)任。有限度追究產(chǎn)品提供者的刑事責(zé)任，既符合網(wǎng)絡(luò)領(lǐng)域積極主義刑法觀的趨勢(shì)，也有利于實(shí)現(xiàn)鼓勵(lì)科技創(chuàng)新和防范產(chǎn)品風(fēng)險(xiǎn)之間的平衡，還符合社會(huì)公眾的期待。提倡“全面性考察”方案，用以限制產(chǎn)品提供者成立幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪的范圍。在具體貫徹“全面性考察”方案時(shí)，可以“超過(guò)半數(shù)規(guī)則”作為產(chǎn)品提供者主觀“明知”的認(rèn)定標(biāo)準(zhǔn)。

關(guān)鍵詞：ChatGPT 生成式人工智能 數(shù)據(jù)安全 安全管理義務(wù) 刑事責(zé)任

一、問(wèn)題緣起：ChatGPT 類(lèi)生成式人工智能產(chǎn)品引發(fā)的刑事治理挑戰(zhàn)

憑借高度“擬人化”“智能化”的表現(xiàn)，由美國(guó)OpenAI 公司研發(fā)的生成式人工智能模型ChatGPT 一經(jīng)面世，便迅速引發(fā)社會(huì)廣泛關(guān)注。與此同時(shí)，我國(guó)諸多科技公司也相繼確認(rèn)正在研發(fā)ChatGPT 類(lèi)生成式人工智能產(chǎn)品。該類(lèi)人工智能技術(shù)的突飛猛進(jìn)，將會(huì)給各個(gè)行業(yè)、領(lǐng)域帶來(lái)深刻變革。但利之所在弊亦隨之，人工智能產(chǎn)品也存在安全性和可靠性等問(wèn)題。①例如，意大利便曾因發(fā)生一起數(shù)據(jù)泄露事件，宣布暫時(shí)禁用ChatGPT。②隨后，馬斯克及全球千名科技人士聯(lián)名呼吁至少暫停半年對(duì)更強(qiáng)大人工智能系統(tǒng)的開(kāi)發(fā)和訓(xùn)練。③ ChatGPT 類(lèi)生成式人工智能模型的出現(xiàn)，將會(huì)引發(fā)一系列新的刑事法律風(fēng)險(xiǎn)。

（一）數(shù)據(jù)處理不可控，易造成數(shù)據(jù)安全隱患

其一，數(shù)據(jù)來(lái)源問(wèn)題。在產(chǎn)品研發(fā)階段，ChatGPT 類(lèi)生成式人工智能產(chǎn)品的整體架構(gòu)分為語(yǔ)料體系、預(yù)訓(xùn)練算法與模型、微調(diào)算法與模型。④其中，語(yǔ)料體系的參數(shù)量，是決定產(chǎn)品最終輸出“答案”的重要因素之一。以ChatGPT 各代模型為例，OpenAI 于2018 年6 月推出的初代GPT 參數(shù)量為1.17 億；2019 年2月推出的GPT-2 參數(shù)量為15 億；而2020 年5 月升級(jí)的GPT-3 參數(shù)量則為1750 億；此后，OpenAI 未再公布后續(xù)版本的參數(shù)量。⑤相較之下，國(guó)內(nèi)如阿里公司的“通義M6”、騰訊公司的“混云”參數(shù)量均達(dá)到萬(wàn)億級(jí)別。⑥在監(jiān)管尚不完備的情況下，ChatGPT 類(lèi)生成式人工智能產(chǎn)品語(yǔ)料體系的參數(shù)可能存在違規(guī)問(wèn)題。例如，語(yǔ)料體系中的參數(shù)是否均來(lái)源于公開(kāi)渠道？是否侵犯他人的隱私、商業(yè)秘密？是否涉及國(guó)家秘密或者情報(bào)？即使來(lái)源于公開(kāi)渠道，是否又可能存在虛假信息的問(wèn)題？

而在產(chǎn)品應(yīng)用階段，也可能存在數(shù)據(jù)來(lái)源不合規(guī)的現(xiàn)象。根據(jù)OpenAI 公司官網(wǎng)公開(kāi)的《隱私政策》，ChatGPT 類(lèi)生成式人工智能產(chǎn)品除了從書(shū)籍、雜志、論壇、網(wǎng)站等渠道收集的語(yǔ)料參數(shù)之外，當(dāng)用戶(hù)使用該公司的服務(wù)或者與他們溝通時(shí)，用戶(hù)創(chuàng)建的賬戶(hù)信息、通信信息以及技術(shù)信息等數(shù)據(jù)均可能被該公司所收集。⑦倘若用戶(hù)使用的是包含虛假信息、個(gè)人隱私、商業(yè)秘密、國(guó)家秘密或者情報(bào)等的各種數(shù)據(jù)與ChatGPT類(lèi)生成式人工智能產(chǎn)品進(jìn)行交互，這些數(shù)據(jù)均會(huì)被產(chǎn)品所收集作為語(yǔ)料體系的參數(shù)量。

其二，數(shù)據(jù)提供問(wèn)題。ChatGPT 類(lèi)生成式人工智能產(chǎn)品的“答案”輸出，主要依靠預(yù)訓(xùn)練算法模型和微調(diào)算法模型。區(qū)別于搜索引擎的檢索功能，ChatGPT 類(lèi)生成式人工智能產(chǎn)品的特點(diǎn)在于，能夠更好理解自然語(yǔ)言，并且生成更加全面、合理和準(zhǔn)確的結(jié)果。一方面，獲取而來(lái)的他人隱私、商業(yè)秘密、國(guó)家秘密或者情報(bào)，有可能被產(chǎn)品提供給用戶(hù)；另一方面，原本語(yǔ)料體系中互相獨(dú)立的參數(shù)有可能會(huì)發(fā)生“化學(xué)反應(yīng)”，生成包含公民個(gè)人隱私、商業(yè)秘密、國(guó)家秘密或者情報(bào)的數(shù)據(jù)，進(jìn)而提供給用戶(hù)。除此之外，還可能存在輸出“虛假信息”的問(wèn)題。正如有學(xué)者所言：“雖然人類(lèi)設(shè)計(jì)、制造了它們，但它們的行為卻不受人類(lèi)的直接指令約束，而是基于對(duì)其所獲取的信息的分析和判斷，而且，它們?cè)诓煌榫持械姆磻?yīng)和決策可能不是其創(chuàng)造者可以預(yù)料到或者事先控制的。”⑧概而言之，在數(shù)據(jù)提供階段，可能存在數(shù)據(jù)內(nèi)容違法、信息虛假等問(wèn)題。退一步說(shuō)，即使ChatGPT 類(lèi)生成式人工智能產(chǎn)品獲取和提供的數(shù)據(jù)均系合規(guī)，也仍然存在被他人用于實(shí)施違法犯罪活動(dòng)的可能。例如，黑客使用ChatGPT 類(lèi)生成式人工智能產(chǎn)品輔助編寫(xiě)代碼破壞他人網(wǎng)站，等等。

（二）法律監(jiān)管不完備，提供者刑事責(zé)任不明

黨的二十大深刻指出“加快建設(shè)數(shù)字中國(guó)”。習(xí)近平總書(shū)記提到：“數(shù)字經(jīng)濟(jì)事關(guān)國(guó)家發(fā)展大局。”中共中央、國(guó)務(wù)院印發(fā)《數(shù)字中國(guó)建設(shè)整體布局規(guī)劃》明確要求：“強(qiáng)化數(shù)字技術(shù)創(chuàng)新體系和數(shù)字安全屏障‘兩大能力’，優(yōu)化數(shù)字化發(fā)展國(guó)內(nèi)國(guó)際‘兩個(gè)環(huán)境’。”《新一代人工智能發(fā)展規(guī)劃》也指出：“在大力發(fā)展人工智能的同時(shí)，必須高度重視可能帶來(lái)的安全風(fēng)險(xiǎn)挑戰(zhàn)。加強(qiáng)前瞻預(yù)防與約束引導(dǎo)，最大限度降低風(fēng)險(xiǎn)，確保人工智能安全、可靠、可控發(fā)展。”2023 年7 月10 日，《生成式人工智能服務(wù)管理暫行辦法》正式頒布。該法第21 條規(guī)定：“提供者違反本法規(guī)定……構(gòu)成犯罪的，依法追究刑事責(zé)任。”然而，關(guān)于ChatGPT 類(lèi)生成式人工智能產(chǎn)品提供者的具體刑事責(zé)任尚不非常明確。

作為新型人工智能技術(shù)，ChatGPT 類(lèi)生成式人工智能產(chǎn)品將使得個(gè)人、公共及國(guó)家安全面臨嚴(yán)峻風(fēng)險(xiǎn)，刑法不能坐視不理。“解鈴還須系鈴人”。對(duì)ChatGPT 類(lèi)生成式人工智能產(chǎn)品引發(fā)的刑事風(fēng)險(xiǎn)須從源頭治理。產(chǎn)品風(fēng)險(xiǎn)的源頭在于提供行為，因此，防范產(chǎn)品帶來(lái)的風(fēng)險(xiǎn)離不開(kāi)對(duì)研發(fā)、提供行為的合理監(jiān)管，以及提供者刑事責(zé)任的合理設(shè)置。具體而言，若賦予產(chǎn)品提供者過(guò)多“條條框框”，則會(huì)加重企業(yè)負(fù)擔(dān)，限制人工智能技術(shù)的發(fā)展，不利于我國(guó)公司在國(guó)際社會(huì)的競(jìng)爭(zhēng)，從而可能發(fā)展成新的“卡脖子”問(wèn)題；反之，若對(duì)產(chǎn)品提供者不加任何限制，監(jiān)管始終處于缺位狀態(tài)，那么，將會(huì)使得ChatGPT 類(lèi)生成式人工智能產(chǎn)品淪為違法犯罪行為肆虐的重災(zāi)區(qū)，不僅可能危害個(gè)人的合法權(quán)益，還有可能危害國(guó)家安全。而ChatGPT 類(lèi)生成式人工智能產(chǎn)品深度學(xué)習(xí)以及“一對(duì)多”服務(wù)對(duì)象不特定的性質(zhì)，既會(huì)影響對(duì)產(chǎn)品提供者預(yù)見(jiàn)可能性等問(wèn)題的判斷，⑨也可能會(huì)沖擊共犯從屬性等基礎(chǔ)理論，⑩進(jìn)而影響產(chǎn)品提供者承擔(dān)刑事責(zé)任的范圍。本文基于ChatGPT 類(lèi)生成式人工智能產(chǎn)品可能引發(fā)的刑事治理難題，力圖為合理設(shè)置產(chǎn)品提供者的刑事責(zé)任范圍提供一定思路。

二、ChatGPT 類(lèi)生成式人工智能產(chǎn)品提供者刑事追責(zé)的必要性

在大多數(shù)情況下，商業(yè)主體研發(fā)ChatGPT 類(lèi)生成式人工智能產(chǎn)品，將會(huì)改進(jìn)人類(lèi)生活、提升科技水平。然而，科技產(chǎn)品因其本身所具有的便利性，同樣有可能被他人作為犯罪工具而使用。當(dāng)產(chǎn)品提供者的行為符合刑法規(guī)定的具體構(gòu)成要件時(shí)，就有可能承擔(dān)相應(yīng)的刑事責(zé)任。對(duì)ChatGPT 類(lèi)生成式人工智能產(chǎn)品提供者的刑事責(zé)任，需進(jìn)行類(lèi)型化分析。主要可以劃分為三種行為類(lèi)型：一是為自己實(shí)施犯罪而研發(fā)ChatGPT 類(lèi)生成式人工智能產(chǎn)品；二是產(chǎn)品提供者與他人“通謀”，由產(chǎn)品提供者研發(fā)ChatGPT 類(lèi)生成式人工智能產(chǎn)品，并提供給使用者用以實(shí)施犯罪；三是產(chǎn)品提供者與他人沒(méi)有“通謀”，研發(fā)的ChatGPT 類(lèi)生成式人工智能產(chǎn)品既可以被用戶(hù)合法使用，也可以被非法使用。

其中，為自己犯罪準(zhǔn)備“工具”以及與他人“通謀”實(shí)施共同犯罪，此兩種情形，刑事責(zé)任分析較為簡(jiǎn)單，前者按照其所犯之罪追究刑事責(zé)任，后者按照共同犯罪追究刑事責(zé)任即可。?例如，產(chǎn)品提供者以營(yíng)利為目的，研發(fā)ChatGPT 類(lèi)生成式人工智能產(chǎn)品，并利用其制作、出售假冒他人的美術(shù)作品，應(yīng)當(dāng)追究其侵犯著作權(quán)的刑事責(zé)任。?此時(shí)，ChatGPT 類(lèi)生成式人工智能產(chǎn)品屬于行為人實(shí)施犯罪的工具，并非用于銷(xiāo)售，不屬于產(chǎn)品范疇，無(wú)須按照生產(chǎn)、銷(xiāo)售產(chǎn)品類(lèi)犯罪追究刑事責(zé)任，其行為充其量屬于侵犯著作權(quán)犯罪的預(yù)備行為。再如，產(chǎn)品提供者與使用者“通謀”，由其研發(fā)能夠生成“釣魚(yú)”郵件、詐騙“腳本”的ChatGPT 類(lèi)生成式人工智能產(chǎn)品，再提供給使用者，由使用者利用該產(chǎn)品實(shí)施詐騙行為。在這種情況下，產(chǎn)品提供者和使用者成立共同犯罪，提供ChatGPT 類(lèi)生成式人工智能產(chǎn)品的行為屬于詐騙罪正犯的幫助行為；當(dāng)然，如果提供ChatGPT 類(lèi)生成式人工智能產(chǎn)品的行為對(duì)詐騙結(jié)果的發(fā)生起重要作用，按照實(shí)質(zhì)客觀說(shuō)中的“重要作用說(shuō)”，?產(chǎn)品提供者也可能屬于共同犯罪中的正犯范疇。

需要討論的問(wèn)題是，如果產(chǎn)品提供者與使用者之間沒(méi)有“通謀”，研發(fā)并提供的ChatGPT 類(lèi)生成式人工智能產(chǎn)品既可以被合法使用，也可以被非法使用，使用者利用產(chǎn)品實(shí)施違法犯罪行為，能否追究產(chǎn)品提供者的刑事責(zé)任？例如，產(chǎn)品提供者研發(fā)的ChatGPT 類(lèi)生成式人工智能產(chǎn)品既可以向用戶(hù)推薦合法視頻的觀看網(wǎng)站，也可以向用戶(hù)推薦淫穢色情網(wǎng)站。此時(shí)，雖然ChatGPT 類(lèi)生成式人工智能產(chǎn)品并非專(zhuān)門(mén)用于違法犯罪活動(dòng)，但是在客觀上確實(shí)為他人實(shí)施違法犯罪行為提供了幫助。

有觀點(diǎn)認(rèn)為，如果產(chǎn)品提供者是出于合法目的，并未賦予產(chǎn)品實(shí)施任何犯罪行為的能力，但使用者借助人工智能產(chǎn)品實(shí)施犯罪行為，不能追究提供者的刑事責(zé)任。在這種觀點(diǎn)的內(nèi)部，又存在不同論證方向。例如，劉憲權(quán)教授認(rèn)為，在這種情況下，人工智能產(chǎn)品僅是被作為犯罪使用的工具，只能追究使用者的刑事責(zé)任。?江溯教授則認(rèn)為，人工智能產(chǎn)品對(duì)社會(huì)造成的危險(xiǎn)屬于“允許的風(fēng)險(xiǎn)”，不宜通過(guò)刑法進(jìn)行規(guī)制。?上述觀點(diǎn)立足于限制幫助行為的處罰范圍角度，避免刑法過(guò)度干預(yù)，這種立場(chǎng)值得肯定。但可能存在疑問(wèn)的地方在于，幫助犯本就不存在定型性，而在提供產(chǎn)品的行為確實(shí)使得法益風(fēng)險(xiǎn)升高的情況下，如何界定其屬于“允許的風(fēng)險(xiǎn)”？例如，汽車(chē)在道路上行駛的風(fēng)險(xiǎn)屬于“允許的風(fēng)險(xiǎn)”，如果汽車(chē)提供者明知他人利用汽車(chē)實(shí)施故意殺人行為，仍然提供汽車(chē)，是否也可按照“允許的風(fēng)險(xiǎn)”排除客觀歸責(zé)？如果得出肯定結(jié)論，那么一個(gè)有意支配因果進(jìn)程實(shí)現(xiàn)法益侵害的罪犯，只要他足夠狡猾，將自己的行為隱藏在“允許的危險(xiǎn)”的外衣之下，就可以輕易逃避刑罰的制裁。?這種全面不可罰的結(jié)論，顯然是不能被廣泛接受的。更何況，利用網(wǎng)絡(luò)實(shí)施犯罪的社會(huì)危害性通常高于一般犯罪行為的社會(huì)危害性。?隨著人工智能技術(shù)的快速發(fā)展，智能網(wǎng)絡(luò)對(duì)犯罪的協(xié)助作用將越發(fā)突出，全面不可罰的觀點(diǎn)可能放縱犯罪。?

事實(shí)上，如果按照傳統(tǒng)的幫助犯理論，只要能夠證明產(chǎn)品提供者主觀上存在明知，客觀上具有幫助性，且對(duì)犯罪結(jié)果的發(fā)生具有因果性，就可以追究行為人的刑事責(zé)任。?但是，這種“全面可罰性”的方案，必然擴(kuò)大刑罰的處罰范圍，侵犯公民的個(gè)人自由空間，干預(yù)國(guó)民的正常生活。?尤其是在網(wǎng)絡(luò)時(shí)代，智能產(chǎn)品服務(wù)的對(duì)象數(shù)以萬(wàn)計(jì)，因此，當(dāng)下的理論主要是從限制處罰的角度，力圖限縮幫助犯的成立范圍。21對(duì)于智能產(chǎn)品，有觀點(diǎn)認(rèn)為，智能產(chǎn)品提供者具有安全管理義務(wù)，對(duì)于提供者在人工智能產(chǎn)品的設(shè)計(jì)、生產(chǎn)、銷(xiāo)售階段未預(yù)見(jiàn)到、上市后才發(fā)現(xiàn)產(chǎn)品有缺陷，但發(fā)現(xiàn)之后又未及時(shí)通過(guò)系統(tǒng)升級(jí)、更新等手段解決產(chǎn)品缺陷的，可以對(duì)其追究刑事責(zé)任。22此觀點(diǎn)認(rèn)為賦予產(chǎn)品提供者一定的安全管理義務(wù)，對(duì)保護(hù)法益具有重要作用。

本文認(rèn)為，對(duì)ChatGPT 類(lèi)生成式人工智能產(chǎn)品提供者的刑事規(guī)制，既不能失之于寬，也不能失之于嚴(yán)，可以借鑒“避風(fēng)港”原則，23將產(chǎn)品提供者的刑事責(zé)任限制在一個(gè)合理的范圍內(nèi)，在保護(hù)法益的同時(shí)，不至于妨礙技術(shù)的進(jìn)步。亦即，有限度地追究ChatGPT 類(lèi)生成式人工智能產(chǎn)品提供者的刑事責(zé)任。具體而言，在產(chǎn)品投入流通時(shí)，只要研發(fā)的ChatGPT 類(lèi)生成式人工智能產(chǎn)品符合國(guó)家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)，并不存在當(dāng)前科學(xué)技術(shù)水平能夠發(fā)現(xiàn)的缺陷，一般不宜追究產(chǎn)品提供者的刑事責(zé)任；而在產(chǎn)品投入流通后，產(chǎn)品提供者應(yīng)承擔(dān)適度的安全管理義務(wù)。若其違反安全管理義務(wù)，則將承擔(dān)相應(yīng)的刑事責(zé)任。例如，產(chǎn)品參數(shù)中存在國(guó)家秘密或情報(bào)，監(jiān)管部門(mén)責(zé)令產(chǎn)品提供者采取刪除數(shù)據(jù)、優(yōu)化算法等改正措施而其拒不改正，致使國(guó)家秘密或情報(bào)被境外的機(jī)構(gòu)、組織、人員獲取，應(yīng)當(dāng)追究其刑事責(zé)任。24

其一，有限度追究ChatGPT 類(lèi)生成式人工智能產(chǎn)品提供者的刑事責(zé)任，符合我國(guó)網(wǎng)絡(luò)領(lǐng)域積極主義刑法觀的趨勢(shì)。“鑒于數(shù)字經(jīng)濟(jì)的戰(zhàn)略性地位，以及網(wǎng)絡(luò)犯罪在數(shù)字技術(shù)加持下的異化，刑法的擴(kuò)張具有必要性。”25在司法層面，例如“快播案”。26“快播”既可以作為合法視頻的播放軟件，也可以被用戶(hù)用于下載、觀看淫穢色情視頻。雖然軟件商作無(wú)罪抗辯，但是法院最終駁回辯方關(guān)于“技術(shù)中立”責(zé)任豁免以及“中立的幫助行為”等觀點(diǎn)，認(rèn)定“快播公司”構(gòu)成傳播淫穢物品牟利罪。27而在立法層面，我國(guó)從《刑法修正案（七）》開(kāi)始便呈現(xiàn)預(yù)防性立法的跡象，在隨后的幾次修正案中，這種積極主義的刑法觀逐漸得以正式確立。28以《刑法修正案（九）》為例，在該修正案中相繼增設(shè)了拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪、非法利用信息網(wǎng)絡(luò)罪以及幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪等犯罪，反映了網(wǎng)絡(luò)領(lǐng)域積極主義刑法觀的趨勢(shì)。29若刑法對(duì)ChatGPT 類(lèi)生成式人工智能產(chǎn)品提供者的規(guī)制處于觀望立場(chǎng)，既不利于智能產(chǎn)品的高質(zhì)量發(fā)展，也不符合網(wǎng)絡(luò)領(lǐng)域積極主義刑法觀的發(fā)展趨勢(shì)。30

其二，有限度追究ChatGPT 類(lèi)生成式人工智能產(chǎn)品提供者的刑事責(zé)任，有利于網(wǎng)絡(luò)領(lǐng)域的法益保護(hù)。ChatGPT 類(lèi)生成式人工智能產(chǎn)品的應(yīng)用風(fēng)險(xiǎn)不可控，忽視產(chǎn)品提供者對(duì)產(chǎn)品的安全管理義務(wù)，勢(shì)必造成嚴(yán)重的法益侵害或危險(xiǎn)。31如果對(duì)研發(fā)及提供行為不加以限制，讓人工智能技術(shù)超出人類(lèi)的可控范圍，一旦該類(lèi)產(chǎn)品被利用作犯罪工具，產(chǎn)生的危害結(jié)果可能數(shù)倍嚴(yán)重于傳統(tǒng)犯罪，甚至可能給人類(lèi)社會(huì)帶來(lái)毀滅性的打擊。32 ChatGPT 類(lèi)生成式人工智能產(chǎn)品的提供者掌握著技術(shù)、數(shù)據(jù)的優(yōu)勢(shì)，對(duì)其產(chǎn)品和服務(wù)保持著事實(shí)上的掌控關(guān)系，而國(guó)家監(jiān)管部門(mén)缺乏足夠的技術(shù)能力和管理資源，只能對(duì)產(chǎn)品進(jìn)行間接管理。此外，從法律經(jīng)濟(jì)學(xué)的視角來(lái)看，倘若業(yè)務(wù)性中立幫助行為發(fā)揮了不可替代的作用，刑罰處罰業(yè)務(wù)性的中立幫助行為的收益就會(huì)大于成本。33因此，為了能夠保護(hù)法益、維護(hù)社會(huì)秩序，應(yīng)當(dāng)對(duì)產(chǎn)品提供者賦予適度的安全管理義務(wù)，而且有必要將其上升為刑法義務(wù)。34

其三，有限度追究ChatGPT 類(lèi)生成式人工智能產(chǎn)品提供者的刑事責(zé)任，有利于實(shí)現(xiàn)鼓勵(lì)科技創(chuàng)新和防范產(chǎn)品風(fēng)險(xiǎn)之間的平衡。ChatGPT 類(lèi)生成式人工智能領(lǐng)域的安全與發(fā)展不可偏廢。35為了鼓勵(lì)科技創(chuàng)新，我國(guó)法律明確規(guī)定了產(chǎn)品提供者責(zé)任的免除條款。例如，《中華人民共和國(guó)產(chǎn)品質(zhì)量法》（下文簡(jiǎn)稱(chēng)《產(chǎn)品質(zhì)量法》）第41 條第2 款規(guī)定了生產(chǎn)者的三種免責(zé)事由，亦即，“未將產(chǎn)品投入流通的；產(chǎn)品投入流通時(shí)，引起損害的缺陷尚不存在的；將產(chǎn)品投入流通時(shí)的科學(xué)技術(shù)水平尚不能發(fā)現(xiàn)缺陷的存在的”。該條第2 款第3 項(xiàng)表明，只要在ChatGPT 類(lèi)生成式人工智能產(chǎn)品投入流通時(shí)，科學(xué)技術(shù)水平尚不能發(fā)現(xiàn)缺陷的存在，提供者就不用承擔(dān)賠償責(zé)任。與之類(lèi)似，在《民法典》以及《信息網(wǎng)絡(luò)傳播權(quán)保護(hù)條例》中均存在“通知”后“移除”排除侵權(quán)責(zé)任的規(guī)則。36根據(jù)法秩序統(tǒng)一性原理，在規(guī)范保護(hù)目的相同的場(chǎng)合下，刑法絕對(duì)從屬于前置法。37既然前置法都免除了產(chǎn)品提供者的民事賠償責(zé)任，那么，也不能按照《刑法》第146 條生產(chǎn)、銷(xiāo)售不符合安全標(biāo)準(zhǔn)的產(chǎn)品罪和第140 條生產(chǎn)、銷(xiāo)售偽劣產(chǎn)品罪追究其刑事責(zé)任。

然而，倘若完全免除產(chǎn)品提供者的責(zé)任，不賦予其適度的安全管理義務(wù)，則可能會(huì)使ChatGPT 類(lèi)生成式人工智能產(chǎn)品的使用處于混亂、無(wú)序狀態(tài)，間接造成利用ChatGPT 類(lèi)生成式人工智能產(chǎn)品實(shí)施違法犯罪行為的泛濫。鑒于產(chǎn)品投入流通后，提供者仍然可以通過(guò)程序更新、系統(tǒng)升級(jí)等手段填補(bǔ)漏洞，并且由于ChatGPT 類(lèi)生成式人工智能產(chǎn)品屬于高端智能科學(xué)技術(shù)，只有提供者掌握其程序算法，因此，在產(chǎn)品投入流通之后賦予提供者更多義務(wù)，實(shí)屬必要。例如，《生成式人工智能服務(wù)管理暫行辦法》第14 條便規(guī)定：“提供者發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當(dāng)及時(shí)采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改，并向有關(guān)主管部門(mén)報(bào)告。提供者發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動(dòng)的，應(yīng)當(dāng)依法依約采取警示、限制功能、暫停或者終止向其提供服務(wù)等處置措施，保存有關(guān)記錄，并向有關(guān)主管部門(mén)報(bào)告。”另外，第21 條同時(shí)規(guī)定：“構(gòu)成犯罪的，依法追究刑事責(zé)任。”由此可見(jiàn)，對(duì)于ChatGPT 類(lèi)生成式人工智能產(chǎn)品的提供者，刑法既要體現(xiàn)包容，也需要將其納入刑法規(guī)制范圍。有限度地追究生成式人工智能產(chǎn)品提供者的刑事責(zé)任，有利于平衡二者之間的關(guān)系。

其四，有限度追究ChatGPT 類(lèi)生成式人工智能產(chǎn)品提供者的刑事責(zé)任，源于智能產(chǎn)品與普通產(chǎn)品之間的差異性。ChatGPT 類(lèi)生成式人工智能產(chǎn)品的價(jià)值包含產(chǎn)品的使用及后續(xù)服務(wù)。根據(jù)《產(chǎn)品質(zhì)量法》第2 條第2 款：“本法所稱(chēng)產(chǎn)品是指經(jīng)過(guò)加工、制作，用于銷(xiāo)售的產(chǎn)品。”在大眾的傳統(tǒng)觀念里，研發(fā)行為處于銷(xiāo)售之前。既然產(chǎn)品投入流通時(shí)可以“發(fā)展風(fēng)險(xiǎn)”進(jìn)行免責(zé)抗辯，那么，在此之后為何能夠追究產(chǎn)品提供者的刑事責(zé)任？這主要是因?yàn)橹悄墚a(chǎn)品的特殊性。與普通產(chǎn)品相比，ChatGPT 類(lèi)生成式人工智能產(chǎn)品更為復(fù)雜與特殊，當(dāng)下并非完全安全、可靠。38在不限制其發(fā)展的同時(shí)，只有明確其流通后產(chǎn)品提供者的安全管理義務(wù)，并予以刑法規(guī)制，才能有效防范風(fēng)險(xiǎn)。例如，《生成式人工智能服務(wù)管理暫行辦法》第13 條明確規(guī)定ChatGPT 類(lèi)生成式人工智能產(chǎn)品提供者的安全管理義務(wù)貫穿于服務(wù)過(guò)程中。產(chǎn)品提供者的安全管理義務(wù)不僅存在于研發(fā)階段，也存在于產(chǎn)品投入流通后，亦即生命周期內(nèi)的靜態(tài)維護(hù)中。39

其五，有限度追究ChatGPT 類(lèi)生成式人工智能產(chǎn)品提供者的刑事責(zé)任符合公平正義的理念。一方面，對(duì)產(chǎn)品提供者不宜輕易追究刑事責(zé)任。例如，如果是在ChatGPT 類(lèi)生成式人工智能產(chǎn)品投入流通后發(fā)現(xiàn)漏洞，且該漏洞不能被現(xiàn)有技術(shù)所解決，則因不具備“期待可能性”，不能追究產(chǎn)品提供者的刑事責(zé)任。再如，“毒販”利用某些社交軟件的通訊功能幫助其實(shí)施販毒行為，即使社交軟件的提供者預(yù)想到有用戶(hù)會(huì)這么做，也不應(yīng)動(dòng)輒追究社交軟件服務(wù)商的刑事責(zé)任。否則，企業(yè)為了規(guī)避風(fēng)險(xiǎn)，通過(guò)尋求自我管理的方式控制風(fēng)險(xiǎn)，不利于科學(xué)技術(shù)的發(fā)展。40另一方面，完全免除產(chǎn)品提供者的刑事責(zé)任也不符合民眾對(duì)法規(guī)范的合理期待。例如，如果在產(chǎn)品流通之后發(fā)現(xiàn)安全漏洞，可以通過(guò)及時(shí)采取停止生成、停止傳輸、消除等處置措施填補(bǔ)漏洞，而產(chǎn)品提供者經(jīng)監(jiān)管部門(mén)責(zé)令采取改正措施，卻在合理期限內(nèi)拒不作為，致使產(chǎn)品被使用者用于違法犯罪，造成嚴(yán)重后果，此時(shí)，若仍然不追究產(chǎn)品提供者的刑事責(zé)任，顯然不符合預(yù)防犯罪的刑罰目的，不利于公平正義理念的實(shí)現(xiàn)。41

三、ChatGPT 類(lèi)生成式人工智能產(chǎn)品提供者刑事追責(zé)的限制方案

在事前無(wú)通謀的前提下，ChatGPT 類(lèi)生成式人工智能產(chǎn)品只是作為使用者的犯罪工具。對(duì)于產(chǎn)品使用者，可以直接按照現(xiàn)行刑法中的有關(guān)條文加以規(guī)制。42此時(shí)，對(duì)于產(chǎn)品提供者的刑事責(zé)任問(wèn)題，在理論上可能存在兩種論證邏輯路徑，一種是從中立幫助行為理論的角度分析；43另一種是從正犯成立的角度來(lái)分析。44《刑法修正案（九）》以立法形式增加了拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪、非法利用信息網(wǎng)絡(luò)罪以及幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪等多個(gè)規(guī)制“網(wǎng)絡(luò)服務(wù)提供者”的犯罪，ChatGPT 類(lèi)生成式人工智能產(chǎn)品提供者的提供行為可以劃分為兩類(lèi)，分別對(duì)應(yīng)其中兩種犯罪：其一，產(chǎn)品提供者明知他人利用信息網(wǎng)絡(luò)實(shí)施犯罪，向使用者提供ChatGPT 類(lèi)生成式人工智能產(chǎn)品，涉及幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪的適用；其二，產(chǎn)品提供者經(jīng)監(jiān)管部門(mén)責(zé)令采取改正措施而拒不改正，違反安全管理義務(wù)，涉及拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪的適用。其中，拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪的適用相對(duì)較為容易判斷，需要討論的問(wèn)題是，產(chǎn)品提供者是否可能構(gòu)成幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪？正如前文已述，對(duì)產(chǎn)品提供者進(jìn)行刑事追責(zé)具有必要性，應(yīng)當(dāng)將其刑事責(zé)任限定在合理的范圍內(nèi)，特別是應(yīng)當(dāng)將部分中立性質(zhì)的行為排除在規(guī)制范圍以外。雖然關(guān)于幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪的性質(zhì)，存在幫助犯的量刑規(guī)則以及幫助行為正犯化等多種不同觀點(diǎn)，45但是不可否認(rèn)，該罪在某種程度上屬于“幫助行為”。因此，可以嘗試借鑒中立幫助行為理論對(duì)提供者的刑事追責(zé)進(jìn)行限制。

（一）中立幫助行為理論之梳理

所謂中立幫助行為，主要是指“外觀上無(wú)害，客觀上對(duì)正犯行為、結(jié)果起到促進(jìn)作用的行為”。46與德日刑法對(duì)中立幫助行為的司法態(tài)度由主張入罪向主張限縮可罰范圍的轉(zhuǎn)變不同，我國(guó)則有不斷擴(kuò)張網(wǎng)絡(luò)中立幫助行為可罰性的趨勢(shì)。47刑法理論中，中立幫助行為理論作為限制處罰的方案，大體存在主觀說(shuō)、客觀說(shuō)以及折中說(shuō)三大立場(chǎng)。48

1. 主觀說(shuō)及其反思

主觀說(shuō)認(rèn)為，應(yīng)當(dāng)立足于行為人的主觀內(nèi)容劃定中立幫助行為可罰性的范圍。在主觀說(shuō)內(nèi)部，主要存在確定故意與否說(shuō)與促進(jìn)意思有無(wú)說(shuō)。其中，前者認(rèn)為，基于不確定的故意而幫助的行為不可罰，只有在確定故意下的幫助行為才具有可罰性；后者則認(rèn)為，僅是知道他人實(shí)施犯罪而提供幫助行為并不具有可罰性，還必須具有通過(guò)幫助行為促進(jìn)他人犯罪的意思。49例如，便利店銷(xiāo)售人員明知他人將去實(shí)施犯罪而仍售賣(mài)商品，該行為是否構(gòu)成犯罪，主觀說(shuō)可能得出不同結(jié)論。確定故意與否說(shuō)關(guān)注的是銷(xiāo)售人員是否具備確定的故意；而促進(jìn)意思有無(wú)說(shuō)則更關(guān)注的是銷(xiāo)售人員的售賣(mài)行為是否存在促進(jìn)他人犯罪的意思。主觀說(shuō)在德國(guó)刑事司法中一直占據(jù)著重要地位，其所具有的價(jià)值可見(jiàn)一斑。我國(guó)的刑事立法與司法解釋主要采取主觀說(shuō)的立場(chǎng)，50主觀說(shuō)在國(guó)內(nèi)理論界也不乏支持者。例如，有觀點(diǎn)認(rèn)為日常生活行為轉(zhuǎn)化為幫助犯，行為人須滿(mǎn)足認(rèn)識(shí)到“促進(jìn)制造違法事實(shí)”的社會(huì)意義。51再如，有觀點(diǎn)認(rèn)為，可以采取“犯罪意思聯(lián)絡(luò)說(shuō)”作為限制中立幫助行為處罰范圍的方案。52

主觀說(shuō)立場(chǎng)遭到不少批評(píng)。其一，如果持確定故意與否說(shuō)，沒(méi)有充分的依據(jù)。區(qū)別對(duì)待未必的故意，也與犯罪故意的法律規(guī)定相矛盾。事實(shí)上，在客觀上存在高度蓋然性、行為人主觀上也存在認(rèn)識(shí)的場(chǎng)合，不處罰幫助行為的結(jié)論并非十分合理。53其二，如果持促進(jìn)意思有無(wú)說(shuō)，缺乏操作可行性。一方面，促進(jìn)意思有無(wú)的判斷標(biāo)準(zhǔn)模糊不清，什么樣的意思屬于促進(jìn)犯罪意思沒(méi)有具體標(biāo)準(zhǔn)；另一方面，無(wú)促進(jìn)意思的行為與有促進(jìn)意思的行為可能客觀行為基本相同，根據(jù)口供認(rèn)定要么放縱犯罪，要么容易產(chǎn)生冤假錯(cuò)案。54其三，無(wú)論是采取哪一種主觀說(shuō)，均面臨方法論的質(zhì)疑。刑法懲罰的是行為，而不是行為人的主觀故意。故意是客觀構(gòu)成要件所反映的主觀要件，不考量客觀構(gòu)成要件而直接對(duì)主觀要件進(jìn)行否定，與行為刑法的基本立場(chǎng)相沖突。并且，這種觀點(diǎn)在證據(jù)認(rèn)定上面臨巨大困難，也容易陷入“心情刑法”的困境。何況，中立幫助行為之所以被作為單獨(dú)問(wèn)題進(jìn)行探討，就是因?yàn)槟承椭袨榧词勾嬖谥饔^惡意，也不宜認(rèn)定為幫助犯。55進(jìn)一步說(shuō)，過(guò)度重視主觀要素的做法，也極易侵犯正當(dāng)法益，存在過(guò)度限制公民自由的嫌疑。56

2. 客觀說(shuō)及其反思

與從行為人主觀內(nèi)容中尋找可罰性標(biāo)準(zhǔn)的主觀說(shuō)不同，客觀說(shuō)則是從幫助犯的客觀構(gòu)成要件的角度確定限制刑事處罰的標(biāo)準(zhǔn)。然而，客觀說(shuō)內(nèi)部存在社會(huì)（職業(yè)）相當(dāng)性說(shuō)、客觀歸責(zé)論、溯及禁止論以及利益衡量說(shuō)等多種不同觀點(diǎn)。其中，社會(huì)相當(dāng)性說(shuō)認(rèn)為，如果系歷史的社會(huì)生活形成的秩序范圍內(nèi)具有相當(dāng)性的行為，即使造成了構(gòu)成要件的結(jié)果，也不具有構(gòu)成要件符合性。57職業(yè)相當(dāng)性說(shuō)，則將職業(yè)規(guī)范作為相當(dāng)性的判斷標(biāo)準(zhǔn)。例如，有觀點(diǎn)認(rèn)為，當(dāng)網(wǎng)絡(luò)幫助行為被行業(yè)規(guī)范所容許時(shí)，不能進(jìn)行歸責(zé)。58客觀歸責(zé)論認(rèn)為，應(yīng)當(dāng)通過(guò)演繹客觀歸責(zé)理論，確定中立幫助行為的可罰性邊界。具體來(lái)說(shuō)，要判斷幫助行為是否升高正犯行為的風(fēng)險(xiǎn)、是否違反行為準(zhǔn)則導(dǎo)致風(fēng)險(xiǎn)升高以及升高的風(fēng)險(xiǎn)是否處于規(guī)范保護(hù)目的之內(nèi)。59溯及禁止論提出，在社會(huì)的相互交往過(guò)程中，存在相互的預(yù)期，個(gè)體只有超越了規(guī)范設(shè)置的角色預(yù)期，規(guī)范才能予以制裁。60而近來(lái)，由于網(wǎng)絡(luò)中立幫助行為的爭(zhēng)議較大，有諸多學(xué)者提出應(yīng)當(dāng)基于利益衡量原則，明確處罰邊界。61例如，儲(chǔ)陳城副教授主張通過(guò)利益衡量原則劃分刑法規(guī)制網(wǎng)絡(luò)技術(shù)領(lǐng)域的界限。62

客觀說(shuō)分別承受不同方面的質(zhì)疑。首先，社會(huì)相當(dāng)性的判斷標(biāo)準(zhǔn)并不明確，以此作為中立幫助行為可罰性的標(biāo)準(zhǔn)，將會(huì)喪失法的安定性。63而在社會(huì)相當(dāng)性理論基礎(chǔ)上提出的職業(yè)相當(dāng)性說(shuō)，雖然相當(dāng)性的判斷標(biāo)準(zhǔn)較為明確，但為何因是否違反職業(yè)規(guī)范而得出不同的入罪標(biāo)準(zhǔn)，顯然缺乏充分的論證。64其次，客觀歸責(zé)論過(guò)于抽象，缺乏具體的操作標(biāo)準(zhǔn)，容易導(dǎo)致行為出入罪的隨意性。事實(shí)上，先前主張以行為是否制造法所不允許的危險(xiǎn)來(lái)判斷中立幫助行為處罰界限的陳洪兵教授，也轉(zhuǎn)向從利益衡量原則的角度判斷幫助行為的構(gòu)成要件符合性。65再次，溯及禁止論在限制處罰方面具有重要價(jià)值，但是就中立幫助行為理論適用的場(chǎng)景而言，一般都具有獨(dú)立價(jià)值，按照該理論可能導(dǎo)致全面不可罰的結(jié)果。66最后，利益衡量原則在具體案件中缺乏明確的利益衡量標(biāo)準(zhǔn)，反而有可能得出全面處罰的結(jié)論。67例如，面包店的營(yíng)業(yè)員明知他人購(gòu)買(mǎi)面包是為了投毒殺人，仍然出售面包。一方面是面包店的出售自由，而另一方面是他人的生命法益。以生命法益大于自由法益為根據(jù)，認(rèn)定營(yíng)業(yè)員構(gòu)成犯罪顯然是存在疑問(wèn)的。

3. 折中說(shuō)及其反思

折中說(shuō)是在主觀說(shuō)和客觀說(shuō)的基礎(chǔ)上提出來(lái)的，既重視行為人的主觀要素，同時(shí)也采納了客觀說(shuō)中的積極部分。其中，典型的代表是德國(guó)的羅克辛教授。一方面，羅克辛教授認(rèn)為應(yīng)當(dāng)重視行為人的主觀要素；另一方面，羅克辛教授也積極提倡客觀歸責(zé)論。68可以說(shuō)，羅克辛教授的折中說(shuō)與主觀說(shuō)的立場(chǎng)更加親近，我國(guó)也有學(xué)者提出以客觀說(shuō)為基礎(chǔ)的折中說(shuō)。根據(jù)該觀點(diǎn)，主觀要素僅具有限制處罰范圍的作用，而不能作為獨(dú)立的犯罪化事由，這也是其與側(cè)重主觀說(shuō)的折中說(shuō)的根本性區(qū)別。69此外，陳興良教授贊同以“客觀關(guān)聯(lián)性+ 目的關(guān)聯(lián)性”雙層次標(biāo)準(zhǔn)說(shuō)來(lái)限定中立幫助行為的處罰范圍。70

折中說(shuō)的立場(chǎng)同樣面臨詰難。第一，雖然折中說(shuō)力圖吸納主觀說(shuō)與客觀說(shuō)的優(yōu)點(diǎn)，但似乎并沒(méi)有克服主觀說(shuō)與客觀說(shuō)各自存在的問(wèn)題。例如，羅克辛教授一再?gòu)?qiáng)調(diào)自己是基于客觀歸責(zé)的立場(chǎng)，但是在具體解決方案中，強(qiáng)調(diào)的又是犯罪意思關(guān)聯(lián)等主觀內(nèi)容。這顯然是依據(jù)主觀內(nèi)容解決歸責(zé)問(wèn)題，與客觀歸責(zé)論的要求并不相符。71第二，無(wú)論是親近主觀說(shuō)的折中說(shuō)，還是以客觀說(shuō)為基礎(chǔ)的主觀說(shuō)，均將行為人的主觀內(nèi)容作為限制處罰的標(biāo)準(zhǔn)。然而，刑法關(guān)于故意的規(guī)定并沒(méi)有作出具體區(qū)分，將此標(biāo)準(zhǔn)用于界定中立幫助行為的可罰性范圍，缺乏實(shí)定法根據(jù)。72

（二）“全面性考察”方案之提倡

根據(jù)《刑法》第287 條之二規(guī)定的幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪，客觀方面要求行為人為他人犯罪提供技術(shù)支持或者提供其他幫助，而主觀方面則是要求行為人“明知他人利用信息網(wǎng)絡(luò)實(shí)施犯罪”。顯然，依據(jù)客觀說(shuō)限制產(chǎn)品提供者構(gòu)成該罪的可行性較低。只能考慮借助主觀說(shuō)或者折中說(shuō)。在主觀方面，需要探討的問(wèn)題是，如何證明產(chǎn)品提供者“明知”他人利用信息網(wǎng)絡(luò)實(shí)施犯罪？對(duì)于該罪的“明知”，可以采用推定的方法。73最高人民法院、最高人民檢察院《關(guān)于辦理非法利用信息網(wǎng)絡(luò)、幫助信息網(wǎng)絡(luò)犯罪活動(dòng)等刑事案件適用法律若干問(wèn)題的解釋》（以下簡(jiǎn)稱(chēng)《網(wǎng)絡(luò)犯罪解釋》）第11 條列舉了可以認(rèn)定行為人“明知”他人利用信息網(wǎng)絡(luò)實(shí)施犯罪的七種情形。其中，第7 項(xiàng)“其他足以認(rèn)定行為人明知的情形”作為認(rèn)定“明知”的兜底性條款。如何限制該兜底性條款的適用，是司法需要面對(duì)的問(wèn)題。

主觀說(shuō)中的確定故意與否說(shuō)與促進(jìn)意思有無(wú)說(shuō)，均無(wú)法解決缺乏實(shí)定法根據(jù)的問(wèn)題。基于ChatGPT類(lèi)生成式人工智能產(chǎn)品“一對(duì)多”服務(wù)對(duì)象不特定的性質(zhì)，本文提倡親近于主觀說(shuō)的“全面性考察”方案，用以限制產(chǎn)品提供者構(gòu)成幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪的范圍。所謂“全面性考察”方案，是指對(duì)于中立幫助行為應(yīng)當(dāng)進(jìn)行全面性評(píng)價(jià)，進(jìn)而決定是否追究行為人刑事責(zé)任。根據(jù)這種方案，能否追究產(chǎn)品提供者的刑事責(zé)任，取決于：其一，產(chǎn)品提供者對(duì)自己的行為被利用實(shí)施具體犯罪是否存在認(rèn)識(shí)和容許，并且實(shí)際上發(fā)生了具體犯罪。其二，是否存在非例外范圍的人利用中立幫助行為具有高度的蓋然性，產(chǎn)品提供者對(duì)此具有認(rèn)識(shí)和容許。74簡(jiǎn)言之，“全面性考察”要求行為人對(duì)他人利用信息網(wǎng)絡(luò)實(shí)施犯罪的認(rèn)識(shí)具有“例外性”。在日本的“Winny 案”中，二審法院及最高法院改判被告人無(wú)罪。其中，最高法院的裁判理由就是，以違法犯罪的數(shù)量作為認(rèn)定標(biāo)準(zhǔn)，將會(huì)因?yàn)榻y(tǒng)計(jì)時(shí)期、方法的不同，造成結(jié)果的差異。幫助犯的成立，不僅需要產(chǎn)品只用于或主要用于違法用途，還需要提供者對(duì)產(chǎn)品被利用實(shí)施違法犯罪超越一般可能性具有認(rèn)識(shí)和容許。75亦即，行為人能夠認(rèn)識(shí)和容忍這種行為擴(kuò)張到“非例外”范圍。

“全面性考察”方案非常契合對(duì)網(wǎng)絡(luò)智能產(chǎn)品提供者刑事責(zé)任的考量。在傳統(tǒng)的中立幫助行為案件中，幫助行為所針對(duì)的通常是特定的主體，即幫助行為人和正犯是“一對(duì)一”的關(guān)系。而在ChatGPT 類(lèi)生成式人工智能產(chǎn)品涉及犯罪的案件中，通常突破了“一對(duì)一”的關(guān)系，其所提供的服務(wù)，既可以作為合法用途，也可以作為犯罪使用，存在“一對(duì)多”服務(wù)對(duì)象不特定的問(wèn)題。按照傳統(tǒng)幫助犯的認(rèn)定規(guī)則，只要提供者主觀存在故意（放任），客觀上提供了幫助，且與犯罪結(jié)果之間具有因果關(guān)系，就可以認(rèn)定ChatGPT類(lèi)生成式人工智能產(chǎn)品提供者幫助犯的刑事責(zé)任。顯然，這種認(rèn)定結(jié)論對(duì)產(chǎn)品提供者過(guò)于苛刻，不利于科學(xué)技術(shù)的發(fā)展。而“全面性考察”方案，能夠?yàn)楫a(chǎn)品提供者“松綁”，避免產(chǎn)品提供者動(dòng)輒被追究刑事責(zé)任，有利于維持公民日常生活的穩(wěn)定性。

（三）“全面性考察”方案之貫徹

在具體認(rèn)定犯罪的過(guò)程中，“全面性考察”方案該如何貫徹，存在疑問(wèn)。亦即，如何界定行為人主觀認(rèn)知中的“非例外性”？有觀點(diǎn)提出：“只能結(jié)合案件的具體情況，從社會(huì)通念的角度，進(jìn)行綜合的考量。”76這種由法庭進(jìn)行自由裁量的方法，不具有明確的判斷規(guī)則，可能導(dǎo)致“類(lèi)案不同判”的現(xiàn)象頻繁發(fā)生，也不利于裁判文書(shū)的說(shuō)理。因此，貫徹“全面性考察”方案需要為其找到合適的判斷標(biāo)準(zhǔn)。

本文嘗試以“超過(guò)半數(shù)規(guī)則”來(lái)認(rèn)定幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪中的主觀明知。如果產(chǎn)品服務(wù)的對(duì)象中，實(shí)施違法犯罪活動(dòng)的數(shù)量超過(guò)全部用戶(hù)的半數(shù)以上，便可認(rèn)定產(chǎn)品提供者具有幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪中的主觀明知；反之，則不能追究產(chǎn)品提供者構(gòu)成幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪的刑事責(zé)任。77采用“超過(guò)半數(shù)規(guī)則”的具體理由在于：

其一，“超過(guò)半數(shù)規(guī)則”具有明確的區(qū)分標(biāo)準(zhǔn)，易于司法實(shí)踐的操作。沒(méi)有明確標(biāo)準(zhǔn)的“例外性”作為判斷標(biāo)準(zhǔn)，容易導(dǎo)致司法認(rèn)定的隨意化。ChatGPT 類(lèi)生成式人工智能產(chǎn)品服務(wù)內(nèi)容是向用戶(hù)提供其所輸出的數(shù)據(jù)，倘若讓產(chǎn)品提供者監(jiān)督其與每個(gè)用戶(hù)之間交互的內(nèi)容，既不現(xiàn)實(shí)，也無(wú)必要。正如車(chē)浩教授所言：“要求企業(yè)履行網(wǎng)絡(luò)警察的義務(wù)，最終可能會(huì)阻礙甚至窒息整個(gè)互聯(lián)網(wǎng)行業(yè)的發(fā)展。”78如果用戶(hù)中涉及違法犯罪的數(shù)量超過(guò)半數(shù)以上，便很難認(rèn)定產(chǎn)品提供者沒(méi)有超越一般可能性的認(rèn)識(shí)和容許，顯然，此時(shí)認(rèn)定“非例外性”也無(wú)太大爭(zhēng)議。因此，以“超過(guò)半數(shù)規(guī)則”作為認(rèn)定產(chǎn)品提供者具有幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪主觀明知的標(biāo)準(zhǔn)，具有明確性，在司法認(rèn)定時(shí)也存在可操作性。

其二，“超過(guò)半數(shù)規(guī)則”與“紅旗規(guī)則”具有天然的統(tǒng)一性，能夠防止“鴕鳥(niǎo)政策”實(shí)施者逃避責(zé)任。79“紅旗規(guī)則”源于知識(shí)產(chǎn)權(quán)法。所謂“紅旗規(guī)則”，是指“當(dāng)侵犯著作權(quán)的事實(shí)顯而易見(jiàn)，就像紅旗一樣飄揚(yáng)，網(wǎng)絡(luò)服務(wù)提供者就不能裝作看不見(jiàn)，或以不知道侵權(quán)的說(shuō)辭來(lái)推脫責(zé)任”。80與此相對(duì)應(yīng)，在司法層面應(yīng)當(dāng)存在類(lèi)似“紅旗規(guī)則”的例外情形，避免產(chǎn)品提供者規(guī)避安全管理義務(wù)，推卸自己的責(zé)任。“超過(guò)半數(shù)規(guī)則”與“紅旗規(guī)則”具有相似性，以此作為認(rèn)定主觀明知的標(biāo)準(zhǔn)較為合理。具體來(lái)說(shuō)，如果ChatGPT 類(lèi)生成式人工智能產(chǎn)品所服務(wù)的用戶(hù)，超過(guò)半數(shù)均利用產(chǎn)品實(shí)施違法犯罪行為，產(chǎn)品提供者不能裝作看不見(jiàn)，或以不知道為由進(jìn)行有效抗辯。“超過(guò)半數(shù)規(guī)則”有利于讓產(chǎn)品提供者主動(dòng)采取措施防范產(chǎn)品風(fēng)險(xiǎn)，避免產(chǎn)品提供者事不關(guān)己、高高掛起的“看客心態(tài)”。

其三，“超過(guò)半數(shù)規(guī)則”有利于區(qū)分行為人主觀的“明知”與“通謀”，合理劃定共犯責(zé)任與幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪的成立范圍。對(duì)于事前已經(jīng)“通謀”實(shí)施共同犯罪的行為人，產(chǎn)品提供者提供ChatGPT 類(lèi)生成式人工智能產(chǎn)品的行為既可能是幫助行為，也可能起到重要作用。需要注意的是，刑事立法設(shè)立幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪，其法定刑標(biāo)準(zhǔn)較低，為“三年以下有期徒刑或者拘役，并處或者單處罰金”。而如果成立詐騙罪的共犯，法定刑則可能為“十年以上有期徒刑或者無(wú)期徒刑，并處罰金或者沒(méi)收財(cái)產(chǎn)”。對(duì)于犯罪主體“明知”的要求與共犯中的“通謀”應(yīng)當(dāng)有所區(qū)別，方可體現(xiàn)立法意圖。“超過(guò)半數(shù)規(guī)則”也能避免刑事司法動(dòng)輒懲罰網(wǎng)絡(luò)中立幫助行為，以及因認(rèn)定標(biāo)準(zhǔn)過(guò)低導(dǎo)致人工智能技術(shù)的研發(fā)停滯不前、缺乏動(dòng)力。

四、結(jié)語(yǔ)

曾幾何時(shí)，人工智能還只是存在于科幻電影、小說(shuō)中。然而，伴隨著AI 研究熱潮的興起，ChatGPT 類(lèi)生成式人工智能產(chǎn)品讓我們深切感受到“科幻正在照進(jìn)現(xiàn)實(shí)”。當(dāng)下，雖然仍處于弱人工智能發(fā)展階段，智能產(chǎn)品只具備工具屬性，還不具備刑事責(zé)任主體資格，但是可以預(yù)見(jiàn)，隨著各種ChatGPT 類(lèi)生成式人工智能產(chǎn)品的推出以及不斷升級(jí)，犯罪手段也將日益進(jìn)化，利用人工智能產(chǎn)品實(shí)施違法犯罪行為，進(jìn)而造成法益侵害或者危險(xiǎn)的數(shù)量將會(huì)呈指數(shù)級(jí)增長(zhǎng)。正如“每一枚硬幣總有兩面，每一朵美麗的玫瑰花都會(huì)帶刺”，人工智能產(chǎn)品在給人類(lèi)生活帶來(lái)極大便捷的同時(shí)，隱含著巨大的法益侵害風(fēng)險(xiǎn)，對(duì)其進(jìn)行刑事治理面臨嚴(yán)峻挑戰(zhàn)。事實(shí)上，之前幾次工業(yè)革命中科學(xué)技術(shù)的革新都會(huì)讓法律的滯后性無(wú)限放大，立法修改高度頻繁，甚至可以說(shuō)是“疲于奔命”。過(guò)去幾千年的人類(lèi)社會(huì)，從來(lái)沒(méi)有哪個(gè)時(shí)代如今天這般“日新月異”。人工智能技術(shù)對(duì)于人類(lèi)社會(huì)具有劃時(shí)代的意義。刑法治理應(yīng)當(dāng)在鼓勵(lì)技術(shù)創(chuàng)新的前提下，盡可能規(guī)避新型技術(shù)引發(fā)的法律風(fēng)險(xiǎn)，平衡好鼓勵(lì)科技創(chuàng)新與防范產(chǎn)品風(fēng)險(xiǎn)二者之間的關(guān)系，為ChatGPT 類(lèi)生成式人工智能產(chǎn)品安全發(fā)展提供充分的刑法保障。

本文系上海市哲學(xué)社會(huì)科學(xué)規(guī)劃課題“輕罪立法研究”（項(xiàng)目編號(hào)：2022ZFX004）、華東政法大學(xué)優(yōu)秀博士學(xué)位論文培育項(xiàng)目“漏罪的刑罰問(wèn)題研究”（項(xiàng)目編號(hào)：2023-1-018）階段性成果。