人工智能產(chǎn)品缺陷司法認(rèn)定標(biāo)準(zhǔn)之研究

摘要：人工智能產(chǎn)品相較于普通產(chǎn)品最大區(qū)別在于其自主性，一方面體現(xiàn)在人工智能產(chǎn)品運(yùn)作方式更具復(fù)雜性，它們能夠自主決策與自主行為，處于“感知—分析—行動”模式，其運(yùn)行過程為“黑箱”操作，難以為人類所探究;另一方面體現(xiàn)在產(chǎn)品侵權(quán)的致害主體更具多元性，除了作為傳統(tǒng)產(chǎn)品侵權(quán)主體的生產(chǎn)者與銷售者外，還包括研發(fā)者，甚至人工智能產(chǎn)品本身。基于此，當(dāng)前產(chǎn)品缺陷的司法認(rèn)定存在困境。一是現(xiàn)有判斷標(biāo)準(zhǔn)在人工智能產(chǎn)品視域下缺乏適應(yīng)性，由于《產(chǎn)品質(zhì)量法》中“不合理標(biāo)準(zhǔn)”的抽象性、復(fù)雜性與《人工智能標(biāo)準(zhǔn)化白皮書（2018版）》中“技術(shù)標(biāo)準(zhǔn)”的應(yīng)急性、不確定性，現(xiàn)有標(biāo)準(zhǔn)的使用難以解決人工智能產(chǎn)品缺陷的司法認(rèn)定問題;二是我國現(xiàn)有立法未將產(chǎn)品缺陷進(jìn)行類型化認(rèn)定，而僅對產(chǎn)品進(jìn)行籠統(tǒng)的缺陷判斷，在人工智能這一多元責(zé)任主體與多樣未知風(fēng)險(xiǎn)的領(lǐng)域，該種產(chǎn)品缺陷的司法認(rèn)定模式在適用時(shí)更為捉襟見肘。為將人工智能產(chǎn)品缺陷的司法實(shí)踐規(guī)范化，在產(chǎn)品責(zé)任框架下應(yīng)將缺陷劃分為設(shè)計(jì)缺陷、制造缺陷、警示缺陷及跟蹤觀察缺陷，這不僅有利于契合人工智能產(chǎn)品的歸責(zé)原則，也與產(chǎn)品侵權(quán)責(zé)任各要素相對應(yīng)。人工智能產(chǎn)品缺陷司法認(rèn)定標(biāo)準(zhǔn)應(yīng)與有關(guān)主體應(yīng)履行的義務(wù)相結(jié)合。具體而言，人工智能產(chǎn)品設(shè)計(jì)缺陷的責(zé)任主體為設(shè)計(jì)研發(fā)者，其應(yīng)當(dāng)履行安全保障、性能平衡、全面測試等義務(wù)，該缺陷采用“風(fēng)險(xiǎn)—效用”的司法認(rèn)定規(guī)則。制造缺陷的責(zé)任主體為制造者，其應(yīng)當(dāng)履行配合設(shè)計(jì)預(yù)期效果與按照設(shè)計(jì)方案進(jìn)行制造的義務(wù)，該缺陷采用“對預(yù)期設(shè)計(jì)偏離”的司法認(rèn)定標(biāo)準(zhǔn)。警示缺陷的責(zé)任主體為制造者、銷售者，警示義務(wù)應(yīng)當(dāng)達(dá)到警示內(nèi)容的充分性、警示時(shí)間的更迭性與警示語言的簡明醒目性等要求，該缺陷采用“合理充分”的司法認(rèn)定標(biāo)準(zhǔn)。跟蹤觀察缺陷的責(zé)任主體為設(shè)計(jì)研發(fā)者、制造者與銷售者，跟蹤觀察不僅要求暢通產(chǎn)品的反饋渠道，也要積極定期對產(chǎn)品進(jìn)行監(jiān)察，更要及時(shí)對問題產(chǎn)品作出反應(yīng)，該缺陷采用“個(gè)案認(rèn)定，綜合判斷”的司法認(rèn)定原則。

關(guān)鍵詞：人工智能;產(chǎn)品缺陷;司法認(rèn)定標(biāo)準(zhǔn);規(guī)則表達(dá);產(chǎn)品侵權(quán)

中圖分類號：D922.294;TP18 文獻(xiàn)標(biāo)志碼：A 文章編號：1008-5831（2022）01-0257-13

2015年2月，英國首例機(jī)器人“達(dá)芬奇”心瓣修復(fù)手術(shù)進(jìn)行中，不僅把病人的心臟“放錯(cuò)位置”，還戳穿大動脈血濺攝像頭，致使該患者在術(shù)后一周去世。美國2000年至2013年間，在“達(dá)芬奇”機(jī)器人手術(shù)中致死的患者已達(dá)144人，其中不乏“機(jī)器人短路走火”“零件掉入體內(nèi)”等原因[1]。國內(nèi)近年來也多次出現(xiàn)“達(dá)芬奇”手術(shù)機(jī)器人相關(guān)醫(yī)療事故筆者在北大法寶查詢到12份因“達(dá)芬奇”手術(shù)機(jī)器人致?lián)p的醫(yī)療侵權(quán)相關(guān)判決書，北大法寶網(wǎng)，http：//www.pkulaw.cn/Case/，2020年6月7日訪問。。2016年1月20日，河北邯鄲發(fā)生了一起裝有自動駕駛設(shè)備的特斯拉汽車未能有效識別突然進(jìn)入車道的白色車輛，而致駕駛員死亡的交通事故[2]。該案也是全球第一例因自動駕駛汽車致人死亡而導(dǎo)致的產(chǎn)品責(zé)任訴訟案件[3]。而后，美國加利福尼亞州、亞利桑那州、賓夕法尼亞州，以及中國北京[4]陸續(xù)出現(xiàn)了不同損害程度的交通事故。以醫(yī)療機(jī)器人、自動駕駛汽車為代表的人工智能產(chǎn)品責(zé)任問題至今沒有“標(biāo)準(zhǔn)答案”[5-6]。產(chǎn)品缺陷的司法認(rèn)定是人工智能相應(yīng)主體責(zé)任承擔(dān)的基礎(chǔ)，也是規(guī)制人工智能發(fā)展以及維護(hù)社會和諧運(yùn)作的關(guān)鍵一環(huán)，具有決定性意義[7]。但由于人工智能產(chǎn)品的自主性，使其在司法環(huán)節(jié)認(rèn)定缺陷時(shí)比普通產(chǎn)品更為復(fù)雜，也即，“舊的認(rèn)定規(guī)則與表達(dá)方式不能夠適應(yīng)新問題的出現(xiàn)”。但我們依然可以試圖從產(chǎn)品責(zé)任框架內(nèi)去尋求解釋的空間，在原有的基礎(chǔ)上更新表達(dá)方式，清晰界定人工智能產(chǎn)品缺陷的司法認(rèn)定標(biāo)準(zhǔn)。這對于人工智能產(chǎn)品責(zé)任制度的完善具有重要意義。

一、現(xiàn)有規(guī)則表達(dá)在人工智能產(chǎn)品缺陷的司法認(rèn)定上存在困境

（一）人工智能產(chǎn)品與普通產(chǎn)品的區(qū)別

人工智能是指能夠感知其所處環(huán)境，從環(huán)境中獲取數(shù)據(jù)，并對這些數(shù)據(jù)推理從而進(jìn)行自主決策和動作的程序或者設(shè)備系統(tǒng)[8]，并具有以下特征：（1）通過搜索數(shù)據(jù)解決問題，人工智能在遇到問題時(shí)，通常是根據(jù)設(shè)計(jì)研發(fā)者事先向其輸入的數(shù)據(jù)進(jìn)行分析和判斷來確定解決方案;（2）能夠獨(dú)立從數(shù)據(jù)中學(xué)習(xí)新的規(guī)則與知識，并將學(xué)習(xí)的內(nèi)容轉(zhuǎn)化為下一步行動的規(guī)則;（3）能夠理解自然語言，通過對人類語言的理解和學(xué)習(xí)進(jìn)行人機(jī)交互，完成人工智能與人類的實(shí)時(shí)對話;（4）可以根據(jù)外界環(huán)境、信息的變化而作出相應(yīng)的反應(yīng)，不需要人類對每一個(gè)判斷和每一個(gè)行為下達(dá)指令[9]。采用了人工智能技術(shù)為主要性能支持的產(chǎn)品即為人工智能產(chǎn)品。人工智能產(chǎn)品與普通產(chǎn)品的最大區(qū)別在于其自主性，具體體現(xiàn)在以下幾個(gè)方面。

1.人工智能產(chǎn)品的運(yùn)作方式更具復(fù)雜性

基于連接主義的人工智能通過復(fù)雜的模型構(gòu)建，關(guān)注于擬合已有數(shù)據(jù)輸入與輸出的統(tǒng)計(jì)意義上的相關(guān)性，而對輸入和輸出的因果性缺乏理解與分析，故而其運(yùn)行過程是一個(gè)“黑箱”操作。質(zhì)言之，人工智能產(chǎn)品具有一定的自主性，能夠自適應(yīng)學(xué)習(xí)，其作出決策和行為的思維路徑很難為人類所探究，它們通過自我學(xué)習(xí)和判斷并根據(jù)環(huán)境變化調(diào)整行為，處于“感知—分析—行動”模式，因此，不能簡單地將它們看作是人類使用的工具。人類對人工智能行為的預(yù)判是有限的。例如英格蘭麥格納科學(xué)中心設(shè)計(jì)研發(fā)的機(jī)器人，其功能設(shè)定為“捕食”，但卻在無人看管的情況下，偷偷逃離研究所并去到高速公路上[10]。即使當(dāng)初設(shè)計(jì)研發(fā)者并沒有給其設(shè)計(jì)這一技能，它也能通過自主學(xué)習(xí)獲得。在用戶使用人工智能的過程中，人工智能能夠自主地進(jìn)行學(xué)習(xí)和思考，隨著其數(shù)據(jù)的累積，人工智能的行為會越來越難以判斷。在2016年3月，微軟設(shè)計(jì)的聊天機(jī)器人Tay與不同的人聊天并保存聊天數(shù)據(jù)，不到24小時(shí)就被“教壞”并開始散布各種不良言論[11]; 2016年6月，視頻游戲“Elite Dangerous”配備了人工智能系統(tǒng)，該系統(tǒng)居然創(chuàng)造出了游戲設(shè)定之外的超級武器，破壞了游戲的平衡與規(guī)則[9]。雖然人類設(shè)計(jì)、制造并部署了人工智能[12]，但它們的行為卻不受人類的直接指令約束，而是基于其所獲取的信息作出的分析和判斷，也即“算法與行為的分離”[13]。故而，設(shè)計(jì)研發(fā)者在開發(fā)人工智能產(chǎn)品的過程中可能并不能準(zhǔn)確預(yù)知某一產(chǎn)品可能存在的風(fēng)險(xiǎn)參見《人工智能標(biāo)準(zhǔn)化白皮書（2018版）》3.3.1人工智能的安全問題。，他們只能保證產(chǎn)品的首次運(yùn)算規(guī)則按照他們的設(shè)定進(jìn)行，同時(shí)在之后的過程中不斷進(jìn)行監(jiān)控和調(diào)試，以降低人工智能產(chǎn)品“出軌”的可能性。而普通產(chǎn)品相對來說較為簡單，從被設(shè)計(jì)出來至使用期內(nèi)，除了正常損耗降低性能及不正常操作等人為因素外，理論上不會出現(xiàn)與其設(shè)計(jì)偏離的情況，也不需要對其進(jìn)行跟蹤觀察。從這一角度看，人工智能產(chǎn)品的運(yùn)作方式相較于普通產(chǎn)品更具復(fù)雜性。

2.人工智能產(chǎn)品的致害主體更具多元性

人工智能產(chǎn)品致害涉及的主體包括設(shè)計(jì)研發(fā)者、生產(chǎn)者、銷售者，甚至人工智能產(chǎn)品本身。這就突破了普通產(chǎn)品僅包括生產(chǎn)者和銷售者的責(zé)任維度。全球上千臺“達(dá)芬奇”手術(shù)系統(tǒng)投入使用，而其存在明顯缺陷——該手術(shù)機(jī)器人沒有“觸覺反饋”，使醫(yī)生無法感知[14]。2016年5月，美國一輛自動駕駛汽車在公路上行駛時(shí)發(fā)生車禍，車主當(dāng)場死亡。從調(diào)查中可知，事故是由于該車的自動駕駛系統(tǒng)Autopilot對相近顏色的分辨能力低下。這對于駕駛避障系統(tǒng)來說是一個(gè)巨大的缺陷，設(shè)計(jì)研發(fā)者卻沒有對此進(jìn)行改進(jìn)再投入市場，甚至沒有做出警示，間接導(dǎo)致了悲劇的發(fā)生。設(shè)計(jì)研發(fā)環(huán)節(jié)是人工智能產(chǎn)品產(chǎn)生的首要環(huán)節(jié)，產(chǎn)品安全的第一道保障即來源于設(shè)計(jì)研發(fā)者，若設(shè)計(jì)研發(fā)環(huán)節(jié)出現(xiàn)問題，則后面的各個(gè)環(huán)節(jié)也將偏離正確軌道。

對于人工智能產(chǎn)品本身，學(xué)術(shù)界關(guān)于其是否具有法律主體地位的探討如火如荼。筆者認(rèn)為，不論其是否應(yīng)當(dāng)具有法律主體地位，基于其自主性特質(zhì)[15]，往往會出現(xiàn)無法辨認(rèn)產(chǎn)品缺陷的成因或產(chǎn)品不存在缺陷但產(chǎn)生了損害結(jié)果的情況，若僅按照當(dāng)前法律規(guī)定追究生產(chǎn)者及銷售者責(zé)任有失公允，會出現(xiàn)“行為—評價(jià)”不一致的情況，也將大大阻礙人工智能產(chǎn)業(yè)的發(fā)展。對于普通產(chǎn)品來說，產(chǎn)品從設(shè)計(jì)到制造再到檢驗(yàn)始終掌握在生產(chǎn)者手里[16]，產(chǎn)品本身不會對產(chǎn)品是否致害有任何影響，理論上普通產(chǎn)品將按照設(shè)計(jì)路徑進(jìn)行運(yùn)作。因此，在產(chǎn)品本身是否有可能成為致害主體的問題上，二者也有很大的不同。從致害主體角度看，人工智能產(chǎn)品相較于普通產(chǎn)品的生產(chǎn)者與銷售者來說，更突出了設(shè)計(jì)研發(fā)者與產(chǎn)品本身對產(chǎn)品致害的影響。

（二）人工智能產(chǎn)品缺陷司法認(rèn)定的困境

1.現(xiàn)有判斷標(biāo)準(zhǔn)在人工智能產(chǎn)品視域下缺乏適應(yīng)性

其一，“不合理危險(xiǎn)”具有抽象性、復(fù)雜性，“標(biāo)準(zhǔn)”具有應(yīng)急性、不確定性，使得對人工智能產(chǎn)品缺陷的司法認(rèn)定陷入困境。

司法實(shí)踐中，往往以《產(chǎn)品質(zhì)量法》第46條的“不合理危險(xiǎn)”與國家標(biāo)準(zhǔn)及行業(yè)標(biāo)準(zhǔn)相結(jié)合的方式來判斷普通產(chǎn)品是否存在缺陷[17]，即“不合理標(biāo)準(zhǔn)”與“技術(shù)標(biāo)準(zhǔn)”相結(jié)合。但我國現(xiàn)有法律對“不合理危險(xiǎn)”沒有制定統(tǒng)一的認(rèn)定標(biāo)準(zhǔn)，在普通產(chǎn)品缺陷認(rèn)定時(shí)，主要依據(jù)大眾對產(chǎn)品的基本認(rèn)知和了解來進(jìn)行分析判斷，如產(chǎn)品的性能、使用方式、使用領(lǐng)域、使用年限事故發(fā)生的可能性參見臨海市美尼特電動車輛制造有限公司與盧全奇產(chǎn)品責(zé)任糾紛上訴案，浙江省寧波市中級人民法院（2013）浙甬民一終字第628號。。人工智能的出現(xiàn)是一種嘗試和突破，是人類向另一個(gè)新時(shí)代邁進(jìn)的探索，大眾對人工智能產(chǎn)品的理解和認(rèn)知都極其有限，更遑論判斷其危險(xiǎn)是否合理。事實(shí)上，對人工智能產(chǎn)品存在的“危險(xiǎn)是否合理”的思考涉及計(jì)算機(jī)學(xué)、腦科學(xué)、仿生學(xué)、控制學(xué)、數(shù)學(xué)、哲學(xué)，相關(guān)領(lǐng)域的專家都很難對此作出相對完善的結(jié)論。該標(biāo)準(zhǔn)在司法實(shí)踐中的難度可想而知。

對于普通產(chǎn)品缺陷判斷具有重要作用的“技術(shù)標(biāo)準(zhǔn)”，在人工智能產(chǎn)品領(lǐng)域存在應(yīng)急性與不確定性。技術(shù)標(biāo)準(zhǔn)是一種必須遵循的技術(shù)依據(jù)，包括基礎(chǔ)技術(shù)標(biāo)準(zhǔn)、安全標(biāo)準(zhǔn)、環(huán)保標(biāo)準(zhǔn)、工藝標(biāo)準(zhǔn)、檢測標(biāo)準(zhǔn)等，需要經(jīng)過各級政府部門的層層審批，耗時(shí)較長。而人工智能產(chǎn)品的發(fā)展與更新速度遠(yuǎn)超于普通產(chǎn)品，傳統(tǒng)技術(shù)標(biāo)準(zhǔn)的制定方式顯然不合適，《人工智能標(biāo)準(zhǔn)化白皮書（2018版）》（以下簡稱“白皮書”）應(yīng)運(yùn)而生。根據(jù)《白皮書》規(guī)定，圍繞人工智能標(biāo)準(zhǔn)化需求，按照“急用先行、成熟先上”的原則，展開重點(diǎn)急需標(biāo)準(zhǔn)的研制。這一規(guī)定能夠解決傳統(tǒng)技術(shù)標(biāo)準(zhǔn)的短板，但也增加了新標(biāo)準(zhǔn)的“不確定性”與“應(yīng)急性”。《白皮書》中數(shù)據(jù)表明，已發(fā)布的標(biāo)準(zhǔn)不足一半根據(jù)《人工智能標(biāo)準(zhǔn)化白皮書（2018版）》，目前共有200項(xiàng)國家/行業(yè)標(biāo)準(zhǔn)計(jì)劃號，包括已發(fā)布、在研及擬研制三種狀態(tài)。其中，已發(fā)布82項(xiàng)，擬研制31項(xiàng)，在研87項(xiàng)。，其中有不少標(biāo)準(zhǔn)是遵循“急用先行”的原則而發(fā)布，應(yīng)急性特征明顯，這些標(biāo)準(zhǔn)的成熟度和完善度有待考證。而剩下過半的標(biāo)準(zhǔn)還未發(fā)布，這對于人工智能產(chǎn)品缺陷的司法認(rèn)定又是一大掣肘。在遇到未制定標(biāo)準(zhǔn)的情況時(shí)，只能依據(jù)沒有統(tǒng)一標(biāo)準(zhǔn)且抽象復(fù)雜的“不合理危險(xiǎn)”來進(jìn)行判斷，無疑會使人工智能產(chǎn)品缺陷的司法認(rèn)定陷入困境。

其二，除標(biāo)準(zhǔn)自身存在的不足外，將兩個(gè)標(biāo)準(zhǔn)相結(jié)合的判斷方式在邏輯上存在矛盾。按照《產(chǎn)品質(zhì)量法》第46條規(guī)定，當(dāng)產(chǎn)品不符合國家或行業(yè)標(biāo)準(zhǔn)時(shí)，即可認(rèn)為該產(chǎn)品存在缺陷。反之，若該產(chǎn)品符合國家或行業(yè)標(biāo)準(zhǔn)時(shí)，是否說明該產(chǎn)品不存在缺陷？若產(chǎn)品符合國家或行業(yè)標(biāo)準(zhǔn)但存在不合理危險(xiǎn)時(shí)，應(yīng)當(dāng)如何認(rèn)定？事實(shí)上，在司法實(shí)踐中，由于這兩個(gè)標(biāo)準(zhǔn)同時(shí)存在并適用，使得不同的法官對類似案件作出不同判決參見馬水法訴陜西重型汽車有限公司等因產(chǎn)品缺陷致人身損害賠償糾紛案，江蘇省南京市中級人民法院（2014）寧民終字第613號;靳蕾訴北京德奧達(dá)汽車進(jìn)出口有限公司等公司產(chǎn)品責(zé)任糾紛案，北京大興區(qū)人民法院（2017）京0115民初12674號。，致使法律的嚴(yán)肅性與規(guī)范性受到質(zhì)疑，不利于保護(hù)消費(fèi)者權(quán)益，也不利于人工智能產(chǎn)業(yè)的良性發(fā)展。在人工智能產(chǎn)品中，由于標(biāo)準(zhǔn)的應(yīng)急性與技術(shù)認(rèn)識的邊界性，更有可能出現(xiàn)符合國家、行業(yè)標(biāo)準(zhǔn)但依然會危及人身、他人財(cái)產(chǎn)安全的產(chǎn)品，此時(shí)是否應(yīng)當(dāng)認(rèn)定為缺陷產(chǎn)品？從以上分析可得出，現(xiàn)有的判斷標(biāo)準(zhǔn)無法解決人工智能產(chǎn)品缺陷的司法認(rèn)定問題。

2.未將缺陷類型化是我國人工智能產(chǎn)品缺陷認(rèn)定困境的根源

現(xiàn)有產(chǎn)品缺陷認(rèn)定模式之所以難以適用于人工智能產(chǎn)品，根源在于我國《侵權(quán)責(zé)任法》和《產(chǎn)品質(zhì)量法》并未直接對產(chǎn)品缺陷進(jìn)行分類，而是采用籠統(tǒng)的標(biāo)準(zhǔn)來判斷產(chǎn)品缺陷。在復(fù)雜的人工智能產(chǎn)品視域下，未將缺陷類型化的判斷模式顯然無法解決人工智能產(chǎn)品缺陷的認(rèn)定問題。盡管侵權(quán)法理論通常將產(chǎn)品缺陷分為設(shè)計(jì)缺陷、制造缺陷及警示缺陷[18]，有關(guān)產(chǎn)品缺陷的部分規(guī)章也提及了缺陷的類型化如2007年《兒童玩具召回管理規(guī)定》第3條第2款規(guī)定、2012年《缺陷汽車產(chǎn)品召回管理?xiàng)l例》第2條第1款規(guī)定。，但在法律層面仍未對產(chǎn)品缺陷類型作出明確規(guī)定，主要原因是部分學(xué)者認(rèn)為對某些概念作過細(xì)、過于具體的規(guī)定，有可能會限制產(chǎn)品的更新與發(fā)展[19]。但筆者認(rèn)為，若不將產(chǎn)品缺陷進(jìn)行類型化分析，則在人工智能產(chǎn)品缺陷認(rèn)定問題上會陷入桎梏，導(dǎo)致產(chǎn)品侵權(quán)制度不完善，也無法發(fā)展。

鑒于人工智能的復(fù)雜性與特異性，設(shè)計(jì)研發(fā)者在產(chǎn)品質(zhì)量中具有舉足輕重的作用，其不同于傳統(tǒng)產(chǎn)品，設(shè)計(jì)研發(fā)者與生產(chǎn)者的責(zé)任不可混為一談。在人工智能產(chǎn)品視域下，生產(chǎn)者僅是既有設(shè)計(jì)的執(zhí)行者，其難以理解或辨認(rèn)設(shè)計(jì)的正確與否，對產(chǎn)品設(shè)計(jì)上的缺陷也不具有控制力。若按照我國目前法律規(guī)定，生產(chǎn)者則需要承擔(dān)產(chǎn)品設(shè)計(jì)環(huán)節(jié)產(chǎn)生的缺陷所帶來的產(chǎn)品責(zé)任，但“對自己無法控制的事情需要承擔(dān)責(zé)任”是否缺少法理基礎(chǔ)？事實(shí)上，除了設(shè)計(jì)研發(fā)者，生產(chǎn)者與銷售者等責(zé)任主體對于產(chǎn)品缺陷的控制力也是不同的，不同環(huán)節(jié)所造成的缺陷從歸責(zé)原則、判斷方法乃至認(rèn)定標(biāo)準(zhǔn)都應(yīng)有不同。若不區(qū)分缺陷類型，單以某一缺陷為標(biāo)準(zhǔn)進(jìn)行規(guī)制都顯得捉襟見肘，在責(zé)任承擔(dān)時(shí)也有失公允。因此，結(jié)合人工智能產(chǎn)品的特性，對人工智能產(chǎn)品缺陷進(jìn)行類型化分析實(shí)為必要。

二、人工智能產(chǎn)品缺陷類型及相關(guān)主體義務(wù)分析

（一）人工智能產(chǎn)品缺陷類型的劃分

產(chǎn)品缺陷的分類始于美國，《侵權(quán)法重述之產(chǎn)品責(zé)任（第三版）》明確將產(chǎn)品缺陷分為設(shè)計(jì)缺陷、制造缺陷和警示缺陷三種，德國在此基礎(chǔ)上增加了一種新的缺陷類型，即“觀察缺陷”。雖然我國沒有對產(chǎn)品缺陷進(jìn)行明確的劃分，但從《產(chǎn)品質(zhì)量法》和司法實(shí)踐上看，我國傾向于德國的缺陷類型。對于我國是否應(yīng)當(dāng)明確摒棄“不合理危險(xiǎn)”與“技術(shù)標(biāo)準(zhǔn)”相結(jié)合的二元缺陷判斷模式有諸多爭議，但如何借鑒缺陷類型化判斷模式還需要在特定的語境中進(jìn)行考量，人工智能產(chǎn)品的發(fā)展和應(yīng)用為這個(gè)問題提供了一個(gè)絕佳的思考視角和嘗試契機(jī)[3]。筆者認(rèn)為可參照當(dāng)前司法實(shí)踐對缺陷類型的劃分，在現(xiàn)有規(guī)則框架中結(jié)合人工智能產(chǎn)品的特性，在人工智能產(chǎn)品缺陷領(lǐng)域形成設(shè)計(jì)缺陷、制造缺陷、警示缺陷和跟蹤觀察缺陷四種缺陷類型。該分類與產(chǎn)品從設(shè)計(jì)至使用的主要環(huán)節(jié)相對應(yīng)，也與各個(gè)主體的義務(wù)相關(guān)。通過對各個(gè)環(huán)節(jié)主體義務(wù)的分析，界定出相對合理且可操作的判斷標(biāo)準(zhǔn)，以期采用“切割分解”的方式降低人工智能產(chǎn)品缺陷司法認(rèn)定的復(fù)雜性，提高人工智能產(chǎn)品責(zé)任認(rèn)定的可能性與合理性。

其一，該分類有利于人工智能產(chǎn)品歸責(zé)原則的重構(gòu)。從對法條和實(shí)踐經(jīng)驗(yàn)的理解來看，我國產(chǎn)品責(zé)任采用嚴(yán)格責(zé)任的歸責(zé)原則《產(chǎn)品質(zhì)量法》第41條規(guī)定：因產(chǎn)品存在缺陷造成人身、缺陷產(chǎn)品以外的其他財(cái)產(chǎn)損害的，生產(chǎn)者應(yīng)當(dāng)承擔(dān)賠償責(zé)任。。但我國并沒有對產(chǎn)品缺陷類型進(jìn)行分類，也即，無論什么缺陷導(dǎo)致的產(chǎn)品責(zé)任，都采用嚴(yán)格責(zé)任的歸責(zé)原則。制造缺陷里適用嚴(yán)格責(zé)任并無不妥，但在設(shè)計(jì)缺陷或警示缺陷的情況下，一味追究嚴(yán)格責(zé)任缺乏正當(dāng)性[20]，事實(shí)上，嚴(yán)格責(zé)任的衰弱與過錯(cuò)責(zé)任的回歸，已經(jīng)是公開的秘密[21]。我國統(tǒng)一適用嚴(yán)格責(zé)任的歸責(zé)原則主要是將設(shè)計(jì)研發(fā)者與生產(chǎn)者混同，并以保護(hù)消費(fèi)者權(quán)益為出發(fā)點(diǎn)而制定的，但忽略了導(dǎo)致產(chǎn)品存在缺陷的多個(gè)環(huán)節(jié)，也忽略了人工智能產(chǎn)品生產(chǎn)者對于非制造缺陷的不可控力。首先，在人工智能語境下，生產(chǎn)者能力有限，但卻面臨過于苛刻的嚴(yán)格責(zé)任，是否會使權(quán)利的天秤過于傾斜導(dǎo)致不公？若按照我國僅把生產(chǎn)者與銷售者納入產(chǎn)品責(zé)任主體的法律現(xiàn)狀來假設(shè)，人工智能產(chǎn)品的設(shè)計(jì)研發(fā)環(huán)節(jié)出現(xiàn)問題，生產(chǎn)者需要承擔(dān)嚴(yán)格責(zé)任，豈不荒謬[22]？再者，對于警示環(huán)節(jié)出現(xiàn)問題而導(dǎo)致的產(chǎn)品缺陷也承擔(dān)嚴(yán)格責(zé)任未免有適用標(biāo)準(zhǔn)錯(cuò)位的嫌疑。警示行為主要關(guān)注的是生產(chǎn)者、銷售者警告的內(nèi)容是否充分合理，實(shí)際上是針對人的行為，不是針對產(chǎn)品本身，而嚴(yán)格責(zé)任作為一種剛性的產(chǎn)品責(zé)任，關(guān)注的是產(chǎn)品本身存在的缺陷，按此邏輯，采用嚴(yán)格責(zé)任也實(shí)為不妥。最后，統(tǒng)一適用嚴(yán)格責(zé)任原則容易導(dǎo)致消費(fèi)者道德偏差。在嚴(yán)格責(zé)任的保護(hù)下，消費(fèi)者的舉證負(fù)擔(dān)大大減輕，這很可能導(dǎo)致消費(fèi)者在使用產(chǎn)品時(shí)存在僥幸或放任的心理，在未盡注意義務(wù)受到損害時(shí)依然可以獲得賠償，這一原則會間接促使更多消費(fèi)者肆意對產(chǎn)品進(jìn)行不合理的使用，這樣打擊了生產(chǎn)者的生產(chǎn)積極性，最終將不利于人工智能產(chǎn)業(yè)的發(fā)展。綜上，對人工智能產(chǎn)品責(zé)任的歸責(zé)原則進(jìn)行重構(gòu)以適應(yīng)其特異性勢在必行。

按照設(shè)計(jì)缺陷、制造缺陷、警示缺陷和跟蹤觀察缺陷這幾種缺陷類型來劃分，與產(chǎn)品從設(shè)計(jì)至使用的幾個(gè)主要環(huán)節(jié)相對應(yīng)，不同環(huán)節(jié)對產(chǎn)品質(zhì)量的影響與控制力不同。如設(shè)計(jì)研發(fā)環(huán)節(jié)是決定人工智能產(chǎn)品質(zhì)量的關(guān)鍵與基礎(chǔ)，對產(chǎn)品的安全與性能有著根源性的影響，但基于人工智能產(chǎn)品的特異性，設(shè)計(jì)環(huán)節(jié)對產(chǎn)品依然沒有完全的控制能力;制造環(huán)節(jié)是設(shè)計(jì)環(huán)節(jié)的執(zhí)行步驟，與普通產(chǎn)品無異，不存在過多困難[23];警示缺陷與跟蹤觀察缺陷主要是在產(chǎn)品生產(chǎn)完成后，對人的行為進(jìn)行評價(jià)，而不過多關(guān)注產(chǎn)品本身的質(zhì)量問題。不同缺陷類型所對應(yīng)的各個(gè)環(huán)節(jié)對產(chǎn)品的控制力不同，根據(jù)控制能力與責(zé)任相匹配的基本原理，此時(shí)按照不同的缺陷類型采取不同的歸責(zé)原則更為恰當(dāng)。

其二，該分類使責(zé)任認(rèn)定要素相互對應(yīng)形成邏輯閉環(huán)，有利于人工智能產(chǎn)品責(zé)任的認(rèn)定。在認(rèn)定產(chǎn)品侵權(quán)時(shí)，除了產(chǎn)品缺陷，還需要著重關(guān)注歸責(zé)原則與責(zé)任主體。該缺陷分類不僅利于歸責(zé)原則的重構(gòu)以適應(yīng)人工智能產(chǎn)品特性，還與責(zé)任主體相對應(yīng)，形成“產(chǎn)品缺陷—?dú)w責(zé)原則—致害主體”產(chǎn)品責(zé)任的認(rèn)定邏輯因“損害結(jié)果”與“因果關(guān)系”在人工智能產(chǎn)品與普通產(chǎn)品中無太大區(qū)別，文章不作過多探討，故而在此閉環(huán)中也未體現(xiàn)。。每個(gè)環(huán)節(jié)與產(chǎn)品缺陷、歸責(zé)原則、致害主體相對應(yīng)，環(huán)環(huán)相扣，即，以上文提及的“分解切割”方式來增強(qiáng)產(chǎn)品責(zé)任認(rèn)定的可操作性與合理性。在實(shí)際操作中可以按照如下步驟進(jìn)行切分：首先，利用設(shè)計(jì)方案、制造技術(shù)、工藝報(bào)告、各項(xiàng)數(shù)據(jù)監(jiān)控，以及流轉(zhuǎn)憑證等信息判斷產(chǎn)品在什么環(huán)節(jié)出現(xiàn)問題，若是設(shè)計(jì)環(huán)節(jié)則考慮是否存在設(shè)計(jì)缺陷，制造環(huán)節(jié)則考慮是否存在制造缺陷，以此類推;其次，在鎖定某一可能缺陷類型的情況下，根據(jù)該缺陷類型的認(rèn)定標(biāo)準(zhǔn)判斷是否存在產(chǎn)品缺陷;再次，確定存在產(chǎn)品缺陷后對不同缺陷類型采用不同的歸責(zé)原則，如設(shè)計(jì)缺陷采用過錯(cuò)責(zé)任原則，制造缺陷采用嚴(yán)格責(zé)任原則進(jìn)行責(zé)任的確定該原則為根據(jù)不同缺陷下主體對產(chǎn)品質(zhì)量的可控制力為基礎(chǔ)大致擬定，主要作用為舉例說明，不作為筆者的探討結(jié)論。;最后，結(jié)合各個(gè)缺陷類型下對應(yīng)的歸責(zé)原則和致害主體，如“設(shè)計(jì)缺陷—過錯(cuò)責(zé)任—設(shè)計(jì)研發(fā)者”，以明確承擔(dān)人工智能產(chǎn)品責(zé)任的主體由于文章主題與篇幅的限制，在此沒有考慮免責(zé)事由以及其他承擔(dān)責(zé)任的方式和機(jī)制。。在此種分類下，人工智能產(chǎn)品責(zé)任的判斷邏輯清晰、有據(jù)可循，而不是按照現(xiàn)有法律規(guī)定的“不合理危險(xiǎn)”與嚴(yán)格責(zé)任這樣籠統(tǒng)劃一的方式來進(jìn)行產(chǎn)品責(zé)任認(rèn)定，這樣的判定路徑將復(fù)雜的人工智能產(chǎn)品責(zé)任進(jìn)行拆分，提高了產(chǎn)品缺陷司法認(rèn)定的可操作性與合理性，也是我國《產(chǎn)品質(zhì)量法》相關(guān)規(guī)則修改的一種更現(xiàn)實(shí)可行的路徑。

（二）缺陷類型化下有關(guān)主體的義務(wù)分析

在對人工智能產(chǎn)品缺陷類型進(jìn)行分類后，為了更好地判斷產(chǎn)品缺陷，應(yīng)當(dāng)分析各個(gè)缺陷類型對應(yīng)主體的義務(wù)，以作為產(chǎn)品缺陷認(rèn)定的參考因素。

1.設(shè)計(jì)缺陷：設(shè)計(jì)研發(fā)者

在產(chǎn)品責(zé)任法上，設(shè)計(jì)缺陷是指在設(shè)計(jì)環(huán)節(jié)出現(xiàn)問題，使得產(chǎn)品具有給使用者造成不合理危險(xiǎn)的內(nèi)在缺陷[24]。設(shè)計(jì)缺陷的責(zé)任主體是設(shè)計(jì)研發(fā)者，其應(yīng)當(dāng)履行如下義務(wù)：（1）安全保障[25]。程序及算法應(yīng)當(dāng)遵循歐盟“可信賴人工智能倫理準(zhǔn)則”（Ethics Guidelines For Trustworthy AI）的設(shè)定規(guī)制，在產(chǎn)品正常使用情況下不會對使用者或者他人的生命健康權(quán)、財(cái)產(chǎn)權(quán)造成損害。在存有已知風(fēng)險(xiǎn)情況下，應(yīng)當(dāng)對該產(chǎn)品設(shè)計(jì)保護(hù)、防范措施，使風(fēng)險(xiǎn)發(fā)生概率降到最低。（2）性能平衡。人工智能產(chǎn)品的安全性、穩(wěn)定性與智能性、功能性是相互牽制的。設(shè)計(jì)研發(fā)者在進(jìn)行系統(tǒng)和程序設(shè)計(jì)時(shí)，應(yīng)當(dāng)注重上述特性的平衡[26]，在保障相對安全穩(wěn)定的基礎(chǔ)上再追求功能性，這也是侵權(quán)責(zé)任體系公平有效的客觀要求。（3）全面測試。人工智能應(yīng)用程序具有不確定性和概率性、對大數(shù)據(jù)的依賴性，以及難以預(yù)測所有應(yīng)用場景及需要從過去的行為不斷進(jìn)行學(xué)習(xí)等特性。因此，在產(chǎn)品設(shè)計(jì)研發(fā)過程直至進(jìn)入市場前，應(yīng)當(dāng)多次進(jìn)行算法、程序和產(chǎn)品的測試。通過對數(shù)據(jù)的采集、加工、處理、分析和挖掘，形成符合設(shè)計(jì)要求的信息流和認(rèn)識模型參見《人工智能標(biāo)準(zhǔn)化白皮書（2018）》2.2 人工智能的特征。。同樣，對于產(chǎn)品入市前也應(yīng)當(dāng)進(jìn)行全面的功能性測試。

2.制造缺陷：制造者

在人工智能產(chǎn)品視角下，制造缺陷理應(yīng)排除設(shè)計(jì)環(huán)節(jié)。生產(chǎn)者的主要義務(wù)是將設(shè)計(jì)研發(fā)者的構(gòu)思、程序、方案、圖樣等設(shè)計(jì)變成產(chǎn)品。（1）配合設(shè)計(jì)預(yù)期效果進(jìn)行制造。如保障人工智能產(chǎn)品能夠提供清楚易懂的語言，在遇到自動系統(tǒng)難以應(yīng)對的情況時(shí)能清晰地提示使用者，以采取相應(yīng)手動控制措施;保證簡易按鈕的靈敏性與抗干擾性，在復(fù)雜環(huán)境下，能夠瞬間停止“自動化模式”而恢復(fù)人類對產(chǎn)品的控制權(quán)[27]。（2）嚴(yán)格按照設(shè)計(jì)方案進(jìn)行制造。制造需達(dá)到設(shè)計(jì)對原材料、零部件加工，裝配和工藝的精密要求。例如，對于特種極限機(jī)器人，無人機(jī)、無人潛水艇等人工智能產(chǎn)品，主要在極端氣候或高空、深海等環(huán)境下工作，其制作原材料、零部件和制造工藝都是產(chǎn)品安全和性能的重要保障之一。若不按照原設(shè)計(jì)的材料及工藝進(jìn)行制造，必然導(dǎo)致產(chǎn)品安全和性能的減損。

3.警示缺陷：制造者、銷售者

我國《產(chǎn)品質(zhì)量法》雖然涉及警示缺陷的內(nèi)容，但僅對產(chǎn)品標(biāo)識和外包裝進(jìn)行規(guī)定[28]。針對我國司法實(shí)踐中出現(xiàn)的警示缺陷糾紛，有學(xué)者將產(chǎn)品警示缺陷定義為：由于未對產(chǎn)品的正確使用方式和使用危險(xiǎn)進(jìn)行適當(dāng)?shù)木婧驼f明造成的不合理危險(xiǎn)[29]。結(jié)合現(xiàn)有法律規(guī)定、司法實(shí)踐情況及人工智能產(chǎn)品特性，筆者認(rèn)為人工智能產(chǎn)品警示義務(wù)應(yīng)當(dāng)包含以下幾個(gè)要素：（1）警示內(nèi)容的充分性。其一，警示應(yīng)當(dāng)對合理可預(yù)見的危險(xiǎn)進(jìn)行說明，“威脅和危險(xiǎn)均指造成這種現(xiàn)實(shí)損害的可能性，它必須是即將來臨的或真實(shí)的，而不是臆想的，也不是沒有任何實(shí)際根據(jù)的猜測和擔(dān)憂”[30];其二，警示應(yīng)當(dāng)著重于對其決策的原理、路徑和安全使用方式，如前文的“河北邯鄲案”發(fā)生后，特斯拉車載系統(tǒng)將“Autopilot”的中文翻譯從“自動駕駛”改為“自動輔助駕駛”，并要求銷售人員嚴(yán)格將這一系統(tǒng)表述為駕駛輔助系統(tǒng)，從而對該系統(tǒng)的功能與使用方式進(jìn)行重新定位說明。（2）警示時(shí)間的更迭性。人工智能產(chǎn)品的更新迭代飛速，故而需標(biāo)明警示時(shí)間。這樣不僅可以令使用者有計(jì)劃地自查產(chǎn)品的最新狀況，也可以在出現(xiàn)產(chǎn)品侵權(quán)糾紛時(shí)作為有效證據(jù)，有助于裁判者定紛止?fàn)帯Ｈ粢蚩萍及l(fā)展可預(yù)見新的風(fēng)險(xiǎn)，則生產(chǎn)者、銷售者需及時(shí)通知消費(fèi)者并更新警示說明書等附隨產(chǎn)品。（3）警示語言的簡明醒目性。警示語言必須簡潔明了、通俗易懂，要使普通人能夠理解該產(chǎn)品的使用方式和風(fēng)險(xiǎn)。警示圖示和字體應(yīng)當(dāng)采用鮮明的設(shè)計(jì)，使用戶在第一時(shí)間注意到警示所要傳達(dá)的信息。

4.跟蹤觀察缺陷：設(shè)計(jì)研發(fā)者、制造者、銷售者

產(chǎn)品跟蹤觀察缺陷是指在產(chǎn)品投入流通以后，生產(chǎn)者、銷售者沒有對產(chǎn)品進(jìn)行持續(xù)性觀察并了解是否存在未知的危險(xiǎn)，或已知存在危險(xiǎn)未采取警示、召回等措施。在人工智能視域下的產(chǎn)品跟蹤觀察義務(wù)應(yīng)當(dāng)在原有基礎(chǔ)上相應(yīng)變更及細(xì)化以適應(yīng)新情況。（1）應(yīng)當(dāng)增加設(shè)計(jì)研發(fā)者為跟蹤觀察義務(wù)的主體。設(shè)計(jì)研發(fā)者對人工智能產(chǎn)品的理解力和控制力強(qiáng)于其他主體，是人工智能產(chǎn)品生產(chǎn)的源頭，理應(yīng)成為義務(wù)主體。（2）明確跟蹤觀察義務(wù)包括消極義務(wù)與積極義務(wù)[31]。消極義務(wù)是指生產(chǎn)者及銷售者應(yīng)當(dāng)接受消費(fèi)者對產(chǎn)品致?lián)p與風(fēng)險(xiǎn)的投訴，并將信息傳遞至設(shè)計(jì)研發(fā)者，由其對人工智能產(chǎn)品進(jìn)行檢查與測驗(yàn)，確認(rèn)是否存在風(fēng)險(xiǎn)。積極義務(wù)是指設(shè)計(jì)研發(fā)者應(yīng)當(dāng)定期對自己研發(fā)出的產(chǎn)品進(jìn)行數(shù)據(jù)監(jiān)控和檢查，防止出現(xiàn)人工智能異變的情況，并對本領(lǐng)域的最新科技高度關(guān)注，以便及時(shí)更新技術(shù)降低產(chǎn)品使用風(fēng)險(xiǎn)。（3）完成跟蹤觀察后的反應(yīng)義務(wù)。從實(shí)踐中看，警示和召回是最重要的反應(yīng)行為，警示反應(yīng)要求義務(wù)主體對消費(fèi)者、使用者發(fā)出警示消息，可以通過發(fā)送郵件、撥打電話及借助大眾媒體等方式發(fā)出警示;召回反應(yīng)要求責(zé)任主體通過免費(fèi)維修、更換、回購等方式來排除產(chǎn)品的危險(xiǎn)。（4）確定跟蹤觀察義務(wù)的存續(xù)期間。實(shí)踐中，普通產(chǎn)品的跟蹤觀察義務(wù)存在1～5年的保修期。對于人工智能產(chǎn)品而言，生產(chǎn)者因?qū)a(chǎn)品投入流通而開啟了潛在危險(xiǎn)，且該危險(xiǎn)較難預(yù)測。因此，跟蹤觀察期應(yīng)當(dāng)擴(kuò)張至產(chǎn)品的應(yīng)然使用壽命年限。

三、人工智能產(chǎn)品缺陷司法認(rèn)定標(biāo)準(zhǔn)的規(guī)則表達(dá)

任何規(guī)則的表達(dá)都是在給定條件下進(jìn)行的，在人工智能視域下，產(chǎn)品缺陷的司法認(rèn)定在原有框架下也應(yīng)當(dāng)有新的規(guī)則表達(dá)。

（一）設(shè)計(jì)缺陷：“風(fēng)險(xiǎn)—效用”規(guī)則

在美國法上，法院最早以“消費(fèi)者預(yù)期”作為設(shè)計(jì)缺陷的判斷標(biāo)準(zhǔn)。根據(jù)該標(biāo)準(zhǔn)，產(chǎn)品設(shè)計(jì)缺陷是否存在不合理的危險(xiǎn)，取決于該產(chǎn)品能否符合普通消費(fèi)者對于此種產(chǎn)品特性的正當(dāng)預(yù)期。也就是說，造成損害的產(chǎn)品缺陷必須具有普通消費(fèi)者可以預(yù)見的不合理危險(xiǎn)。但在現(xiàn)代社會，隨著科技的發(fā)展，產(chǎn)品類型逐漸豐富，結(jié)構(gòu)也日益復(fù)雜，有學(xué)者認(rèn)為在涉及具體產(chǎn)品設(shè)計(jì)方案上，消費(fèi)者所期待的安全性程度無法定義[32]1236-1237，難以形成合理正當(dāng)?shù)钠诖灿袑W(xué)者與法官開始對該標(biāo)準(zhǔn)的模糊性與不確定性進(jìn)行質(zhì)疑[32]1217，該標(biāo)準(zhǔn)適用困難。

為了彌補(bǔ)消費(fèi)者預(yù)期標(biāo)準(zhǔn)的不足，美國法院開始嘗試采用“風(fēng)險(xiǎn)—效用”標(biāo)準(zhǔn)對設(shè)計(jì)缺陷進(jìn)行判斷[33]。所謂“風(fēng)險(xiǎn)—效用”標(biāo)準(zhǔn)，也被稱為“成本效益標(biāo)準(zhǔn)”，就是通過產(chǎn)品有用性與危險(xiǎn)性的比較，檢查設(shè)計(jì)研發(fā)者是否采取了適當(dāng)?shù)陌踩Ｕ洗胧耘卸óa(chǎn)品是否存在設(shè)計(jì)缺陷[34]。在產(chǎn)品設(shè)計(jì)缺陷中的判斷可以描述為：若改進(jìn)該產(chǎn)品的成本低于維持現(xiàn)有狀態(tài)的效益及現(xiàn)有風(fēng)險(xiǎn)或危險(xiǎn)，則存在設(shè)計(jì)缺陷;若改進(jìn)該產(chǎn)品的成本高于維持現(xiàn)有狀態(tài)存在的效益及現(xiàn)有風(fēng)險(xiǎn)或危險(xiǎn)，則不存在設(shè)計(jì)缺陷。到目前為止，“風(fēng)險(xiǎn)—效用”規(guī)則已經(jīng)成為美國、德國等許多國家采用判斷產(chǎn)品設(shè)計(jì)缺陷的重要標(biāo)準(zhǔn)。

對于普通產(chǎn)品而言，“消費(fèi)者預(yù)期”標(biāo)準(zhǔn)或許能夠立足于“以消費(fèi)者為本”這一理念而得以運(yùn)行，而在人工智能視域下，普通消費(fèi)者對人工智能的理解極其有限，高于平均產(chǎn)品使用人對該產(chǎn)品的認(rèn)識水平的，不在“消費(fèi)者預(yù)期”標(biāo)準(zhǔn)考慮之列[35]。如前所述，人工智能是一項(xiàng)新興科技，人類對該技術(shù)的探索在不斷突破我們的認(rèn)知邊界，試問采用這樣一種技術(shù)的產(chǎn)品，我們普通大眾如何對其形成合理的消費(fèi)者預(yù)期？如Doctor AI可以通過利用遞歸神經(jīng)網(wǎng)絡(luò)建立預(yù)測模型以輔助診斷[36]，“嬉戲式監(jiān)督智能空間”游戲行為療法能夠輔助特殊兒童的治療包括自閉癥譜系障礙（ASD）、注意力缺陷多動障礙（ADHD）、唐氏綜合征或精神分裂癥等特殊兒童。，[37]，普通消費(fèi)者應(yīng)對醫(yī)療AI抱以何種期待？也即，采用消費(fèi)者預(yù)期標(biāo)準(zhǔn)的前提不存在，不具有可操作性。再者，消費(fèi)者預(yù)期標(biāo)準(zhǔn)為一種整體性分析，屬于定性分析，只有存在“符合預(yù)期”或者“不符合預(yù)期”這兩種結(jié)果。而受到人工智能產(chǎn)品特異性的限制，我們很難對其作出定性結(jié)論，只能是在各個(gè)功能價(jià)值之間尋求平衡。

反觀“風(fēng)險(xiǎn)—效用”標(biāo)準(zhǔn)，雖然存在著操作較為繁瑣，價(jià)值單一等弊端，普通產(chǎn)品不具有自主決策與交互協(xié)同的特性，對普通產(chǎn)品使用該標(biāo)準(zhǔn)有“損益比失衡”之嫌，但在人工智能產(chǎn)品中，卻更加符合其集合風(fēng)險(xiǎn)（自主性）與效用（智能性）于一身的特質(zhì)。人工智能產(chǎn)品設(shè)計(jì)綜合了計(jì)算機(jī)學(xué)、數(shù)學(xué)、腦科學(xué)、經(jīng)濟(jì)學(xué)、哲學(xué)、倫理學(xué)、美學(xué)、心理學(xué)等學(xué)科，不僅要滿足消費(fèi)者對產(chǎn)品安全、功能的剛性需求，更要滿足消費(fèi)者心理上和情感上的精神需求，由于人工智能產(chǎn)品的自主性會導(dǎo)致用戶較高的情感反應(yīng)，人與自主系統(tǒng)的交互中需要更多地考慮社交和心理因素[38]。上述幾種需求之間往往是相互牽制的，任何一種功能的改變都有可能影響到其他功能的實(shí)現(xiàn)，從而引起整個(gè)產(chǎn)品的變化。以“風(fēng)險(xiǎn)—效用”規(guī)則作為判斷設(shè)計(jì)缺陷的綜合標(biāo)準(zhǔn)，不僅映襯了人工智能的發(fā)展是人類社會在進(jìn)步過程中的一步“險(xiǎn)棋”，還是提高人類工作生活效率的一種嘗試，更是與人工智能產(chǎn)品設(shè)計(jì)“多元化”、產(chǎn)品運(yùn)行“自主化”特征緊密相連。“風(fēng)險(xiǎn)—效用”規(guī)則屬于一種定量分析，不是非此即彼，而是對人工智能產(chǎn)品設(shè)計(jì)方案的綜合考察，相較于定性分析更具有可操作性，更適合對人工智能產(chǎn)品缺陷的判斷。

我國在處理人工智能產(chǎn)品設(shè)計(jì)缺陷案件時(shí)，可以采用“風(fēng)險(xiǎn)—效用”標(biāo)準(zhǔn)。從美國的司法實(shí)踐看，絕大多數(shù)州法律及判例在面對產(chǎn)品設(shè)計(jì)缺陷案件時(shí)都要求原告提供合理的替代設(shè)計(jì)，并通過“風(fēng)險(xiǎn)—效用”標(biāo)準(zhǔn)予以分析和判斷。對于該規(guī)則而言，重點(diǎn)在于如何平衡產(chǎn)品的風(fēng)險(xiǎn)與效用，合理的替代設(shè)計(jì)就是該標(biāo)準(zhǔn)的內(nèi)在要求[39]。人工智能產(chǎn)品的設(shè)計(jì)缺陷有別于傳統(tǒng)產(chǎn)品，主要有以下幾類缺陷：算法設(shè)計(jì)缺陷、樣本標(biāo)記缺陷、樣本不平衡缺陷、軟件設(shè)計(jì)缺陷、硬件設(shè)計(jì)缺陷[40]。在判斷是否存在設(shè)計(jì)缺陷時(shí)可以上述類別為參考。但由于人工智能產(chǎn)品的復(fù)雜性，原告只需提出初步的設(shè)計(jì)不合理證據(jù)，由設(shè)計(jì)研發(fā)者對設(shè)計(jì)合理進(jìn)行證明，必要時(shí)可由法院邀請專家來說明是否存在“合理的可替代設(shè)計(jì)”，具體表述為“該產(chǎn)品的設(shè)計(jì)是否已經(jīng)采用了業(yè)內(nèi)最安全、最先進(jìn)的技術(shù)，或以現(xiàn)有技術(shù)標(biāo)準(zhǔn)，是否可以提出更高的設(shè)計(jì)要求”[41]，并對替代設(shè)計(jì)的邊際收益與邊際成本予以分析，以證明產(chǎn)品是否存在設(shè)計(jì)缺陷。

（二）制造缺陷：“對預(yù)期設(shè)計(jì)的偏離”標(biāo)準(zhǔn)

1973年，James Henderson教授首次將產(chǎn)品的制造缺陷定義為“對預(yù)期設(shè)計(jì)的偏離” [42]。目前，該標(biāo)準(zhǔn)已經(jīng)成為美國等國家判斷產(chǎn)品制造缺陷的主流標(biāo)準(zhǔn)，即產(chǎn)品在生產(chǎn)者投入流通時(shí)，在某些重要方面存在不符合設(shè)計(jì)的性能標(biāo)準(zhǔn)或設(shè)計(jì)說明的問題，或者同一生產(chǎn)線上的同類產(chǎn)品存在差異則為制造缺陷。在人工智能產(chǎn)品中，主要由設(shè)計(jì)研發(fā)者把控產(chǎn)品的安全與功能，而制造者只是產(chǎn)品設(shè)計(jì)的執(zhí)行者，結(jié)合制造者在制造環(huán)節(jié)需要承擔(dān)“將設(shè)計(jì)轉(zhuǎn)化為產(chǎn)品”的這一核心義務(wù)，采用“對預(yù)期設(shè)計(jì)偏離”標(biāo)準(zhǔn)，能夠體現(xiàn)出認(rèn)定制造缺陷的邏輯性與嚴(yán)謹(jǐn)性，在實(shí)踐中也更具可操作性。

由于人工智能產(chǎn)品與普通產(chǎn)品在制造環(huán)節(jié)差異不大，故而該標(biāo)準(zhǔn)在二者的制造缺陷中都可適用本文闡述該標(biāo)準(zhǔn)意圖有二：一是邏輯嚴(yán)密性，文章通過“分解切割”方式將產(chǎn)品缺陷分為四大類，在論述體系中應(yīng)當(dāng)全面體現(xiàn);二是表述的確定性，我國目前依然采取“不合理危險(xiǎn)”與“標(biāo)準(zhǔn)”相結(jié)合的判斷方式，若因理論上可采用一致標(biāo)準(zhǔn)而不加以闡述，則容易導(dǎo)致筆者思想傳遞的混亂。。從產(chǎn)品侵權(quán)缺陷認(rèn)定的體系看，盡管“對預(yù)期設(shè)計(jì)偏離”為認(rèn)定制造缺陷提供了一個(gè)直觀的標(biāo)準(zhǔn)，但在產(chǎn)品出故障損毀時(shí)，仍存在認(rèn)定缺陷的問題。此時(shí)需要借助另一個(gè)標(biāo)準(zhǔn)——故障理論來進(jìn)行產(chǎn)品制造缺陷的認(rèn)定。在產(chǎn)品因事故損毀、滅失的情況下，原告可以通過間接證據(jù)來證明產(chǎn)品缺陷[43]。結(jié)合《美國統(tǒng)一產(chǎn)品責(zé)任示范法》與人工智能產(chǎn)品特性，在產(chǎn)生糾紛時(shí)可按照以下思路對制造缺陷進(jìn)行認(rèn)定：原告申請法院調(diào)取該人工智能產(chǎn)品的設(shè)計(jì)方案或報(bào)告，將致害人工智能產(chǎn)品與設(shè)計(jì)方案進(jìn)行比較，查明是否有不符合原有設(shè)計(jì)的情況。若存在不符合原有設(shè)計(jì)的情況，則屬于制造缺陷，若該產(chǎn)品符合原有設(shè)計(jì)，則不屬于制造缺陷，需要考慮是否存在設(shè)計(jì)缺陷等其他缺陷。在人工智能產(chǎn)品出現(xiàn)損毀、滅失的情況下，原告首先需要證明該產(chǎn)品確實(shí)發(fā)生了故障或事故，并且導(dǎo)致了人工智能產(chǎn)品的損毀、滅失;其次證明該故障或事故的發(fā)生不是由于非正常使用造成的，也沒有被其他人進(jìn)行過改動。上述兩項(xiàng)若都符合，則可以推定該人工智能產(chǎn)品存在缺陷。但是這種缺陷有可能是設(shè)計(jì)缺陷、制造缺陷、警示缺陷或跟蹤觀察缺陷，要進(jìn)一步對比產(chǎn)品設(shè)計(jì)方案、警示語標(biāo)識及跟蹤觀察記錄來判斷是否屬于其他三種缺陷，若不屬于，則可判斷為是制造缺陷。

（三）警示缺陷：“合理充分”標(biāo)準(zhǔn)

美國和歐盟在判斷警示缺陷時(shí)，主要采用的是消費(fèi)者預(yù)期標(biāo)準(zhǔn)[44];日本的警示缺陷訴訟主要在醫(yī)藥品方面，一般也是以消費(fèi)者預(yù)期為標(biāo)準(zhǔn)[45]，然而，消費(fèi)者預(yù)期主觀性過強(qiáng)，不同的消費(fèi)者預(yù)期不同，在司法實(shí)踐中具有偏差性，且人工智能產(chǎn)品屬于新興科技，消費(fèi)者對其理解不足，更遑論產(chǎn)生合理預(yù)期。如前所述，警示義務(wù)要求警示在內(nèi)容、形式與時(shí)間上都應(yīng)當(dāng)“充分合理”，對人工智能產(chǎn)品的警示缺陷判斷采用“充分合理”標(biāo)準(zhǔn)，一方面符合正常理性人的思維，另一方面也更具可操作性與統(tǒng)一性。

在人工智能語境下，判斷是否“充分合理”應(yīng)當(dāng)以前文所述警示義務(wù)的具體要求為基礎(chǔ)，但更應(yīng)該考慮如何界定不可預(yù)見的危險(xiǎn)。與普通產(chǎn)品不同，人工智能產(chǎn)品的自主性與主動交互性，使人類很難控制與預(yù)測其行為，不能排除人工智能產(chǎn)品自身成為致害主體的可能性，如何增強(qiáng)人工智能產(chǎn)品的可解釋性，是當(dāng)下人工智能學(xué)科研究的重大挑戰(zhàn)之一[36]。在這種情況下，警示語不可能出現(xiàn)設(shè)計(jì)研發(fā)者、生產(chǎn)者等無法預(yù)知的情況，而這又與人工智能產(chǎn)品頻頻侵權(quán)的根源也是其本質(zhì)——人工智能的自主性相沖突，是無法克服的。因而，在判斷是否為可預(yù)見的危險(xiǎn)時(shí)，以標(biāo)明警示語的時(shí)間為節(jié)點(diǎn)來進(jìn)行判斷似乎是當(dāng)下較合理的可行之法。在警示時(shí)間點(diǎn)前的科學(xué)水平能夠預(yù)見還未投入市場的人工智能產(chǎn)品存在何種可預(yù)知危險(xiǎn)，并將其充分寫為警示語，投入市場后的產(chǎn)品在技術(shù)發(fā)展或系統(tǒng)升級后，能夠預(yù)見其他風(fēng)險(xiǎn)或解決先前的潛在危險(xiǎn)時(shí)，應(yīng)當(dāng)及時(shí)更新警示標(biāo)語，這也是與普通產(chǎn)品在警示方面的最大區(qū)別。如此，則盡到了充分合理的警示義務(wù)。反之，則沒有盡到充分合理的警示義務(wù)。另外，不需要對眾所周知的危險(xiǎn)作出警示，也即對于任何荒誕或顯而易見的危險(xiǎn)與不當(dāng)使用方式，生產(chǎn)者和銷售者并不承擔(dān)預(yù)見或提出警示的義務(wù)，否則會導(dǎo)致消費(fèi)者受到過度無意義警示的轟炸后很可能會放棄閱讀產(chǎn)品的全部警示，以至于忽略了其中的重要警示，而出現(xiàn)產(chǎn)品致害事件。

（四）跟蹤觀察缺陷：“個(gè)案認(rèn)定，綜合判斷”原則

雖然我國《侵權(quán)責(zé)任法》肯定了跟蹤觀察義務(wù)，但沒有明確規(guī)定具體如何判斷責(zé)任主體是否履行了跟蹤觀察義務(wù)。在人工智能產(chǎn)品的跟蹤觀察義務(wù)中涉及的主體包括設(shè)計(jì)研發(fā)者、制造者與銷售者，中間也可能產(chǎn)生很多阻斷因素，歸納出一個(gè)具體的判斷標(biāo)準(zhǔn)較為困難。因此，筆者認(rèn)為，在判斷是否履行了跟蹤觀察義務(wù)，應(yīng)當(dāng)依據(jù)個(gè)案的情況，綜合考慮前述義務(wù)是否妥善履行來予以認(rèn)定，但需特別注意的是，由于人工智能產(chǎn)品的交互性與自主性特征，對其的跟蹤觀察期限與時(shí)間點(diǎn)應(yīng)有別于普通產(chǎn)品，應(yīng)當(dāng)在人工智能產(chǎn)品的整個(gè)使用期限內(nèi)進(jìn)行跟蹤觀察，并設(shè)置固定的檢測時(shí)間點(diǎn)，以防止其多次采集數(shù)據(jù)后自我學(xué)習(xí)而導(dǎo)致異化，這是“綜合判斷”標(biāo)準(zhǔn)的重要內(nèi)容。

在具體操作中，可以參考以下判斷標(biāo)準(zhǔn)：首先，設(shè)計(jì)研發(fā)者對產(chǎn)生的風(fēng)險(xiǎn)是否預(yù)見或應(yīng)當(dāng)預(yù)見，一方面可以從人工智能技術(shù)當(dāng)前成果判斷能否預(yù)見該風(fēng)險(xiǎn)，應(yīng)當(dāng)以上一次檢測產(chǎn)品的時(shí)間為準(zhǔn)。若同類產(chǎn)品已經(jīng)發(fā)生類似的缺陷問題，該產(chǎn)品的設(shè)計(jì)研發(fā)者依然沒有任何反應(yīng)，則可以判斷設(shè)計(jì)研發(fā)者應(yīng)當(dāng)預(yù)見風(fēng)險(xiǎn)而沒有預(yù)見。另一方面從設(shè)計(jì)研發(fā)者是否履行了關(guān)注和定時(shí)檢測義務(wù)來進(jìn)行判斷，每次檢測都應(yīng)當(dāng)有檢測記錄并進(jìn)行上傳至數(shù)據(jù)庫。其次，生產(chǎn)者和銷售者是否開通了產(chǎn)品反饋管道并完成信息搜集傳遞工作。生產(chǎn)者與銷售者需建立和完善產(chǎn)品使用意見反饋機(jī)制，及時(shí)接受用戶的反饋，繼而將問題反饋給設(shè)計(jì)研發(fā)者，在這兩個(gè)中轉(zhuǎn)環(huán)節(jié)都應(yīng)當(dāng)做好書面記錄并簽字存檔，以起到完整程序、保留證據(jù)及責(zé)任轉(zhuǎn)移的作用。最后，是否有警示或召回等反應(yīng)行為。如前所述，當(dāng)發(fā)現(xiàn)產(chǎn)品存在缺陷時(shí)，視情況嚴(yán)重程度采取警示或召回等行為是跟蹤觀察義務(wù)的最重要內(nèi)容，也是判斷是否存在跟蹤觀察缺陷的重要標(biāo)準(zhǔn)之一。應(yīng)當(dāng)對人工智能產(chǎn)品按照類別制定不同的“合理反應(yīng)期限”，若在此期限內(nèi)未對缺陷作出反應(yīng)，即為跟蹤觀察缺陷。具體來說有兩個(gè)方面：一是產(chǎn)品發(fā)展缺陷產(chǎn)品發(fā)展缺陷指產(chǎn)品投入流通前的科技水平不認(rèn)為是缺陷或不存在風(fēng)險(xiǎn)，而在產(chǎn)品投入流通以后，隨著科技的發(fā)展而認(rèn)為是缺陷或者是認(rèn)為存在風(fēng)險(xiǎn)。，主要是由設(shè)計(jì)研發(fā)者對科技的發(fā)展以及產(chǎn)品檢測監(jiān)控來判斷是否存在可修復(fù)缺陷，并對存在可修復(fù)缺陷的產(chǎn)品進(jìn)行程序修繕和更新;若存在不可修復(fù)缺陷，則制造者需在產(chǎn)品說明中增加新的風(fēng)險(xiǎn)警示，銷售者在銷售產(chǎn)品時(shí)也應(yīng)及時(shí)說明新增風(fēng)險(xiǎn)，并警示已購買用戶。二是針對產(chǎn)品使用過程中產(chǎn)生的老化、折損問題，制造者與銷售者通過反饋管道可召回該類產(chǎn)品，并對其進(jìn)行維修或更換，保障產(chǎn)品的安全。

四、結(jié)語

產(chǎn)品缺陷的司法認(rèn)定是產(chǎn)品責(zé)任存在的基礎(chǔ)，由于人工智能產(chǎn)品相較于普通產(chǎn)品具有一定的自主性、交互性、難預(yù)測性與不可控性，致使人工智能產(chǎn)品缺陷認(rèn)定更加復(fù)雜困難，加之未將產(chǎn)品缺陷類型化，現(xiàn)有的規(guī)則表達(dá)難以適用。基于法解釋學(xué)的張力，在人工智能視域下對產(chǎn)品缺陷認(rèn)定進(jìn)行基本原理的探究與具體規(guī)則的新表達(dá)，結(jié)合學(xué)術(shù)界前沿理論、我國司法實(shí)踐經(jīng)驗(yàn)與人工智能產(chǎn)品特性，將產(chǎn)品缺陷劃分為設(shè)計(jì)缺陷、制造缺陷、警示缺陷與跟蹤觀察缺陷，通過“切割分解”的方式將復(fù)雜的人工智能產(chǎn)品缺陷分解成不同類型。分析不同缺陷類型下各主體的義務(wù)，再結(jié)合不同缺陷的性質(zhì)與特征，表達(dá)出不同的判斷規(guī)則，為我國人工智能產(chǎn)品侵權(quán)責(zé)任構(gòu)建提供一個(gè)可參考的思路。智能革命引發(fā)的各種思考才剛剛開始，科學(xué)技術(shù)的發(fā)展會不斷拓寬人類認(rèn)識的邊緣[46]，我們需要在法律基本原理的基礎(chǔ)上進(jìn)行審慎創(chuàng)新，在面對舊規(guī)則無法解決新問題這一局面時(shí)，應(yīng)當(dāng)還原舊表達(dá)的核心思想，結(jié)合新語境得出新的規(guī)則表達(dá)。本文提出的判斷規(guī)則并非蓋棺之言，僅是現(xiàn)階段對人工智能產(chǎn)品視域下缺陷司法認(rèn)定的初步探索，將來還會出現(xiàn)諸多問題需要我們共同關(guān)注和探討，尋找并論證更加恰當(dāng)?shù)囊?guī)則表達(dá)，希望我們在促進(jìn)新技術(shù)發(fā)展的同時(shí)，為其產(chǎn)生的風(fēng)險(xiǎn)做好充足的法律準(zhǔn)備。

參考文獻(xiàn)：

[1]搜狐新聞.紀(jì)錄片|駭人聽聞的手術(shù)機(jī)器人致死案...兇手居然是他們！ [EB/OL].（2018-12-03）[2020-06-07].https：//www.sohu.com/a/278842713_562020.

[2]觀察者.邯鄲特斯拉事故致死案：公司承認(rèn)案發(fā)時(shí)處“自動駕駛”狀態(tài)[EB/OL].（2018-02-27）[2020-06-07].https：//www.guancha.cn/society/2018_02_27_448303_1.shtml.

[3]王樂兵.自動駕駛汽車的缺陷及其產(chǎn)品責(zé)任[J].清華法學(xué).2020，14（2）：93-112.

[4]騰訊大粵網(wǎng).回顧全球12起自動駕駛車禍 還有這“幺蛾子”？[EB/OL].（2018-03-21）[2020-04-25].https：//gd.qq.com/a/20180321/029095.htm.

[5]民主與法制網(wǎng).“手術(shù)機(jī)器人”醫(yī)療事故責(zé)任問診[EB/OL].（2019-09-27）[2020-06-07].http：//www.mzyfz.com/cms/benwangzhuanfang/xinwenzhongxin/zuixinbaodao/html/1040/2019-09-27/content-1406397.html.

[6]搜狐新聞網(wǎng).自動駕駛汽車出事故，誰來承擔(dān)責(zé)任？[EB/OL].（2019-04-30）[2020-06-07].https：//www.sohu.com/a/311110470_100098859.

[7]OWEN D G.Products liability： Principles of justice for the 21st century[J].Pace Law Review，1990，11（1）：63-86.

[8]CALLAN R.人工智能[M].黃厚寬，田盛豐，譯.北京：電子工業(yè)出版社，2004：5.

[9]詹可.人工智能法律人格問題研究[J].信息安全研究，2018，4（3）：224-232.

[10]AustenK.Robot-assisted plants find their place in the sun[J].New Scientist，2011，211（2830）：26.

[11]莫宏偉.強(qiáng)人工智能與弱人工智能的倫理問題思考[J].科學(xué)與社會，2018，8（1）：14-24.

[12]鐘義信.人工智能：“熱鬧”背后的“門道”[J].科技導(dǎo)報(bào)，2016，34（7）：14-19.

[13]司曉，曹建峰.論人工智能的民事責(zé)任：以自動駕駛汽車和智能機(jī)器人為切入點(diǎn)[J].法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2017，35（5）：166-173.

[14]觀察者.英國首例機(jī)器人心瓣手術(shù)：“機(jī)器暴走”，病人不治身亡[EB/OL].（2018-11-08）[2020-06-07].https：//www.guancha.cn/internation/2018_11_08_478891_2.shtml.

[15]SEARLE J R.Minds，brains and programs[J].Behavioral and Brain Sciences，1980，3（3）：417-457.

[16]潘維大.英美侵權(quán)行為法案例解析[M].北京：高等教育出版社，2005：353-355.

[17]全國人大常委會法制工作委員會民法室.中華人民共和國侵權(quán)責(zé)任法解讀[M].北京：中國法制出版社，2010：214-215.

[18]楊立新.侵權(quán)責(zé)任法[M].上海：復(fù)旦大學(xué)出版社，2010：386-394.

[19]張新寶，任鴻雁.我國產(chǎn)品責(zé)任制度：守成與創(chuàng)新[J].北方法學(xué)，2012，6（3）：5-19.

[20]梁亞，王嶂，趙存耀.論產(chǎn)品缺陷類型對產(chǎn)品責(zé)任歸責(zé)原則的影響：《侵權(quán)責(zé)任法》第41條生產(chǎn)者責(zé)任之解釋與批判[J].法律適用，2012（1）：37-41.

[21]DOBBS D B.The Law of Torts[M].West Group，2000：997.

[22]梁亞.美國產(chǎn)品責(zé)任法中歸責(zé)原則變遷之解析[J].環(huán)球法律評論，2008（1）：104-109.

[23]董春華.對嚴(yán)格產(chǎn)品責(zé)任正當(dāng)性的質(zhì)疑與反思[J].法學(xué)，2014（12）：127-137.

[24]POLLOCK F. The law of torts： A treatise on the principles of obligations arising from civil wrongs in the common law[J]. Harvard Law Review，1887.

[25]MCCRACKEN R.I，Robot[J].Energy Economist，2011（356）：6-8.

[26]美國法律研究院.侵權(quán)法重述：產(chǎn)品責(zé)任[M].第3版.肖永平，龔樂凡，譯.北京：法律出版社，2006：18.

[27]許中緣.論智能汽車侵權(quán)責(zé)任立法：以工具性人格為中心[J].法學(xué)，2019（4）：67-81.

[28]董春華.中美產(chǎn)品缺陷法律制度比較研究[M].北京：法律出版社，2010：119.

[29]楊立新.《中華人民共和國侵權(quán)責(zé)任法》條文解釋與司法適用[M].北京：人民法院出版社，2010：267.

[30]王利明.論產(chǎn)品責(zé)任中的損害概念[J].法學(xué)，2011（2）：45-54.

[31]周友軍.論侵權(quán)法上的產(chǎn)品跟蹤觀察義務(wù)[J].法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2014（4）：127-132.

[32]DAVIS M J.Design Defect Liability：In Search of a Standard of Responsibility[M].Faculty Publications，1993.

[33]冉克平.論產(chǎn)品設(shè)計(jì)缺陷及其判定[J].東方法學(xué)，2016（2）：12-22.

[34]KYSAR D A.The expectations of consumers[J].Columbia Law Review，2003，103（7）：1700-1790.

[35]海因茨·雷伊.瑞士侵權(quán)責(zé)任法[M].賀栩栩，譯.北京：中國政法大學(xué)出版社，2015：325.

[36]孫效華，張義文，侯璐，等.人工智能產(chǎn)品與服務(wù)體系研究綜述[J].包裝工程，2020，41（10）：49-61.

[37]AGOSTA G，BORGHESE L，BRANDOLESE C，et al.Playful supervised smart spaces （P3S）：A framework for designing，implementing and deploying multisensory play experiences for children with special needs[J].Euromicro Conference on Digital System Design，2015：158-164.

[38]ENDSLEY M R .From here to autonomy： Lessons learned from human-automation research[J].Human Factors：The Journal of the Human Factors and Ergonomics Society，2016，59（1）：5-27.

[39]HENDERSON J A，TWERSKI A D. Achieving consensus on defective product design[J].Cornell Law Review，1998，83（4）：867-920.

[40]朱敏，劉衛(wèi)東.基于粗糙集貝葉斯網(wǎng)絡(luò)的電子產(chǎn)品設(shè)計(jì)缺陷評估模型[J].計(jì)算機(jī)應(yīng)用研究，2013，30（3）：706-711.

[41]王利明.侵權(quán)責(zé)任法研究（下卷）[M].北京：中國人民大學(xué)出版社，2011：250.

[42]梁亞.論產(chǎn)品制造缺陷的認(rèn)定和證明[J].法律適用，2007（7）：42-45.

[43]美國法律研究院.侵權(quán)法重述：產(chǎn)品責(zé)任[M].第3版.肖永平，龔樂凡，譯.北京：法律出版社，2006：160.

[44]冉克平.產(chǎn)品責(zé)任理論與判例研究[M].北京：北京大學(xué)出版社，2014：95.

[45]李煥珍.日本的產(chǎn)品責(zé)任法[J].日用化學(xué)品科學(xué)，1996（1）：24-26.

[46]吳漢東.人工智能時(shí)代的制度安排與法律規(guī)制[J].法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2017，35（5）：128-136.

（責(zé)任編輯 胡志平）