論人工智能致人損害的侵權(quán)責(zé)任問題

劉佳

中圖分類號：D923.7? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 文獻(xiàn)標(biāo)識碼：A ? ? ? ? ? ? ? ? ? ? ? ? ? DOI：10.19387/j.cnki.1009-0592.2019.12.254

近年來，人工智能技術(shù)被廣泛應(yīng)用于日常生產(chǎn)生活，大大提高了生產(chǎn)效率，為我們的生活提供了便利，但是另一方面人工智能致人損害的事故頻發(fā)，例如無人駕駛汽車發(fā)生事故、機(jī)器人失控致人傷亡，由此引發(fā)了侵權(quán)責(zé)任的承擔(dān)主體、責(zé)任認(rèn)定以及責(zé)任分配等法律問題。在現(xiàn)行民事侵權(quán)責(zé)任制度下，目前還沒有服務(wù)于人工智能損害自然人權(quán)益的相關(guān)規(guī)制。人工智能的行為有的高度的自主性與獨立性，特別是有自我學(xué)習(xí)與調(diào)整的能力，人類對其控制力不強(qiáng)，人工智能所表現(xiàn)出的侵害性較為復(fù)雜且具有擬人特征，這直接引起現(xiàn)行民事責(zé)任制度無法與之相適應(yīng)。對此，本文主要研究人工智能的民事侵權(quán)責(zé)任，為構(gòu)建人工智能民事責(zé)任制度提出建議，使人工智能技術(shù)在法律的框架下良性發(fā)展。

一、人工智能對傳統(tǒng)民事侵權(quán)責(zé)任制度的沖擊

隨著我國人工智能的研發(fā)和廣泛應(yīng)用，為了最大限度的降低人工智能給人類社會帶來的風(fēng)險，必須構(gòu)建與人工智能有關(guān)的法律和法規(guī)對人工智能的行為予以相應(yīng)的約束和調(diào)整，而人工智能民事侵權(quán)責(zé)任問題能否有效解決非常關(guān)鍵。

人工智能的民事侵權(quán)責(zé)任主要體現(xiàn)為人工智能由于自身行為對他人或社會造成了嚴(yán)重的傷害所必須承擔(dān)的責(zé)任。①具體細(xì)分又有兩種類型，一種是人控制人工智能實施的侵害，這種侵權(quán)方式下，侵權(quán)責(zé)任的承擔(dān)沒有爭議，完全符合傳統(tǒng)侵權(quán)法的一般侵權(quán)責(zé)任，人工智能僅為侵權(quán)手段，應(yīng)當(dāng)由人工智能的控制者承擔(dān)侵權(quán)責(zé)任;而另一種侵權(quán)責(zé)任就存在爭議，即人工智能脫離了人的控制時，因其自身原因而造成損害。這種情況下人工智能造成的損害有很強(qiáng)的自主性，傳統(tǒng)侵權(quán)法就無法進(jìn)行有效規(guī)制。

（一）責(zé)任主體難以界定

與傳統(tǒng)意義上的產(chǎn)品有所不同，人工智能產(chǎn)品是依托高科技發(fā)展起來的，具有高度自主性特征。人工智能產(chǎn)品不再是經(jīng)過簡單編程的機(jī)器人，而是應(yīng)用深度學(xué)習(xí)算法是讓系統(tǒng)從大量的數(shù)據(jù)中學(xué)習(xí)，人工智能產(chǎn)品正是基于學(xué)習(xí)算法擁有非常強(qiáng)大的獨立決策能力，能夠完成復(fù)雜的認(rèn)知任務(wù)。因此，人工智能的行為不是程序員控制的結(jié)果，而是學(xué)習(xí)算法做出的決策。換而言之，人工智能產(chǎn)品的行為由其獨立實施的行為。由此產(chǎn)生一個問題就是，是否要從法律層面賦予人工智能產(chǎn)品以獨立法律人格從而讓其直接作為侵權(quán)責(zé)任主體？這對傳統(tǒng)法學(xué)理念提出了重大挑戰(zhàn)。

（二）侵權(quán)行為難認(rèn)定

根據(jù)傳統(tǒng)民法侵權(quán)責(zé)任理論，侵權(quán)行為的認(rèn)定是一個推理過程，通常情況下，侵權(quán)行為主要由加害行為、損害事實的存在、行為人主觀過錯等要素構(gòu)成。②但是因為人工智能產(chǎn)品具有高度智能化，能獨立自主作出行為的特點，人工智能對社會造成的危害原因極其復(fù)雜，很難對其進(jìn)行全面論證。人工智能產(chǎn)品的算法極其復(fù)雜，且有從數(shù)據(jù)中自我學(xué)習(xí)的能力，所以就算產(chǎn)品的算法公開，其學(xué)習(xí)、分析、最后決策的過程也難以解釋，這就使得在認(rèn)定侵權(quán)行為時，查明侵害原由有技術(shù)障礙。另外，證明因果關(guān)系也存在障礙，因為產(chǎn)品的開發(fā)者、管理者對人工智能產(chǎn)品的控制力不強(qiáng)，無法有效判斷人工智能做出的行為究竟是其獨立決策的還是在人類的影響作用下實現(xiàn)的。因此，當(dāng)發(fā)生人工智能產(chǎn)品致人損害的事故時，在無法查明致害原因或者無法歸因于產(chǎn)品缺陷的情況下，侵權(quán)責(zé)任不能明確，結(jié)果最后賠償無法落實。再者，人工智能在現(xiàn)有的法律框架中沒有法律主體地位，而過錯是主觀的心理狀態(tài)，這也是在認(rèn)定侵權(quán)責(zé)任時要解決的難題。

（三）過錯責(zé)任原則難適用

過錯責(zé)任原則是以侵權(quán)人主觀存在過錯為前提條件的。③人工智能產(chǎn)品的侵害行為是由其獨立、自主做出的，傳統(tǒng)侵權(quán)理論中的主觀過錯要件在適用時難以詮釋。在現(xiàn)行的法律框架中沒有規(guī)定人工智能的民事權(quán)利能力的情況下，要求人工智能產(chǎn)品的行為負(fù)有注意義務(wù)準(zhǔn)則似乎欠妥。另外，因為人工智能產(chǎn)品的高度自動化、智能化，人工智能實現(xiàn)了無人化的操作。如果人工智能產(chǎn)品造成人身或者財產(chǎn)受損，使用者不存在主觀過錯，更是與受損結(jié)果間不具有直接的因果關(guān)系，依照傳統(tǒng)侵權(quán)責(zé)任理論，人工只能產(chǎn)品的使用者也就不用承擔(dān)責(zé)任。此外，當(dāng)前人工智能產(chǎn)品是否擁有獨立人格仍然存在較大爭議，因此，對人工智能產(chǎn)品是否存在主觀過錯進(jìn)行研究不具有現(xiàn)實意義，就算人工智能產(chǎn)品具有獨立人格，對產(chǎn)品本身所承擔(dān)的侵權(quán)責(zé)任進(jìn)行認(rèn)定、后續(xù)的賠償或其他救濟(jì)手段也難以實現(xiàn)。因此，過錯歸責(zé)原則在適用于人工智能致人損害的案件時存在難度。

二、人工智能的侵權(quán)責(zé)任主體

要明確人工智能侵權(quán)歸責(zé)，就必須先明確人工智能的法律屬性，是否要賦予其法律主體的地位。筆者認(rèn)為，在現(xiàn)有技術(shù)條件下，人工智能產(chǎn)品的法律屬性應(yīng)該定位為“物”。目前，人工智能產(chǎn)品高度自主性、智能化，能夠自我學(xué)習(xí)，甚至比人類有更強(qiáng)的科研計算能力，但是人工智能產(chǎn)品始終是人類創(chuàng)造出來的，其能力是基于人類編寫的算法和輸入的數(shù)據(jù)，人工智能不具備像人類一樣的理性的判斷能力，也沒有意思表示的能力，只是一種為人類提供便利的“工具”。

筆者認(rèn)為，具體界定人工智能產(chǎn)品侵權(quán)責(zé)任主體要分情況討論，即由人工智能產(chǎn)品自身存在缺陷造成損害還是人工智能由于自我判斷有誤而對社會或個人造成傷害。

（一）產(chǎn)品責(zé)任

通過前文研究，人工智能產(chǎn)品屬于“物”的范疇，那么當(dāng)人工智能產(chǎn)品因存在質(zhì)量問題發(fā)生侵權(quán)時，可以適用產(chǎn)品責(zé)任理論進(jìn)行歸責(zé)。我國規(guī)定的產(chǎn)品責(zé)任的主體為生產(chǎn)者和銷售者，且不以生產(chǎn)者和銷售者存在過錯為前提，被侵權(quán)人可以選擇其中一個責(zé)任主體。而對于人工智能產(chǎn)品而言，產(chǎn)品的設(shè)計研發(fā)是人工智能產(chǎn)品生產(chǎn)的核心環(huán)節(jié)，設(shè)計研發(fā)中編寫的算法或者輸入的數(shù)據(jù)存在問題也可能會導(dǎo)致產(chǎn)品存在安全隱患，這也屬于產(chǎn)品質(zhì)量問題。因此對于生產(chǎn)者的定義，應(yīng)該包括設(shè)計者。

（二）替代責(zé)任

替代責(zé)任指的是通常來講，責(zé)任人和行為人之間存在的某種特定聯(lián)系，由于行為人的侵權(quán)行為對社會或他人造成了傷害，由責(zé)任人來代替行為人承擔(dān)相應(yīng)侵權(quán)責(zé)任的責(zé)任類型。④當(dāng)人工智能涉及不能合理推斷出事故是產(chǎn)品缺陷造成的情況，或者說是因人工智能自己 “犯錯”造成侵權(quán)，讓生產(chǎn)者承擔(dān)責(zé)任有違公平，被侵權(quán)人也會面臨無法得到賠償?shù)木置妗Ｔ谶@種情況下，適用替代責(zé)任較為適宜。

三、人工智能致人損害侵權(quán)責(zé)任的認(rèn)定

產(chǎn)品責(zé)任，產(chǎn)品存在的缺陷造成了被侵權(quán)人的損害所應(yīng)承擔(dān)的侵權(quán)責(zé)任。當(dāng)人工智能產(chǎn)品造成損害時，要認(rèn)定產(chǎn)品責(zé)任是否成立，核心在于對人工智能產(chǎn)品的缺陷的理解。《產(chǎn)品質(zhì)量法》指出產(chǎn)品缺陷包含兩種類型，分別為合理范圍以外的危險以及不符合標(biāo)準(zhǔn)的危險。其中，合理范圍以外的危險是指人工智能產(chǎn)品在制造過程中存在不符合規(guī)定的安全隱患;在設(shè)計過程中存在不合理性;產(chǎn)品上未標(biāo)明相關(guān)指示和警告，導(dǎo)致使用者無法了解產(chǎn)品存在的安全隱患。對于人工智能產(chǎn)品來說，合理范圍以外的危險是批量制造的人工智能產(chǎn)品的部件失靈、產(chǎn)品設(shè)計方案錯誤、系統(tǒng)自身存在bug、沒有對消費者盡到合理的告知義務(wù)等，當(dāng)人工智能產(chǎn)品存在上述不合理的危險并因此造成損害時，就需要承擔(dān)產(chǎn)品責(zé)任。但是在實踐中，要適用產(chǎn)品責(zé)任，被侵權(quán)人在舉證方面存在困難。人工智能作為新型高科技術(shù)，其工作原理和內(nèi)部算法是復(fù)雜的且不公開的，被侵權(quán)人很難真正有效說明產(chǎn)品是否存在合理范圍以外的危險，但是對產(chǎn)品生產(chǎn)者和銷售者來說，他們了解人工智能技術(shù)，容易證明技術(shù)存在局限，從而可以依據(jù)《產(chǎn)品質(zhì)量法》的免責(zé)條款實現(xiàn)免責(zé)。如此一來，不利于維護(hù)被侵權(quán)者的合法權(quán)益。基于此，人工智能產(chǎn)品是否符合安全標(biāo)準(zhǔn)是產(chǎn)品責(zé)任認(rèn)定與否的關(guān)鍵。以自動駕駛汽車為例，假如安全標(biāo)準(zhǔn)規(guī)定“自動駕駛汽車最小反應(yīng)距離為20米”（即自動駕駛汽車檢測到距離其20米處的障礙物并采取避險措施）。當(dāng)自動駕駛汽車發(fā)生交通事故在任損傷時，如果受害人與汽車的距離大于20米，那么就可以證明汽車的自動駕駛系統(tǒng)存在缺陷，從而要求責(zé)任人必須承擔(dān)相應(yīng)的責(zé)任。所以，構(gòu)建人工智能產(chǎn)品的完整安全標(biāo)準(zhǔn)是必須的，在證明人工智能產(chǎn)品存在瑕疵，認(rèn)定產(chǎn)品責(zé)任時也很重要。

四、對我國人工智能侵權(quán)責(zé)任制度的建議

（一）就人工智能民事侵權(quán)責(zé)任進(jìn)行立法

當(dāng)前，人工智能產(chǎn)品越來越多深入我們的生產(chǎn)生活，界定人工智能的民事侵權(quán)責(zé)任和制定專門的法律法規(guī)是勢在必行的。歐美等國都對規(guī)制人工智能構(gòu)建了相應(yīng)的法律法規(guī)，我國可以充分學(xué)習(xí)并借鑒他們的優(yōu)秀經(jīng)驗，對人工智能的產(chǎn)品生產(chǎn)標(biāo)準(zhǔn)、侵權(quán)責(zé)任制度進(jìn)行規(guī)范。在立法過程中，要特別注意人工智能責(zé)任承擔(dān)和新興技術(shù)發(fā)展之間的利益平衡，不能因為新技術(shù)的不確定性而阻礙人工智能相關(guān)技術(shù)的進(jìn)步與發(fā)展。人工智能侵權(quán)責(zé)任的承擔(dān)者是人工智能產(chǎn)品的直接管理者，如果管理人確實盡到了注意義務(wù)并且證明人工智能產(chǎn)品存在缺陷，就依據(jù)產(chǎn)品責(zé)任來認(rèn)定產(chǎn)品生產(chǎn)者的侵權(quán)責(zé)任。通過強(qiáng)制保險、設(shè)立基金等方式，保障賠償責(zé)任的承擔(dān)。

（二）在現(xiàn)有民事侵權(quán)責(zé)任制度的基礎(chǔ)上探索制度創(chuàng)新

目前大多數(shù)人工智能產(chǎn)品的智能化程度不高，人工智能產(chǎn)品致人損害以產(chǎn)品缺陷為主因，以產(chǎn)品責(zé)任制度可以解決部分侵權(quán)責(zé)任。自動駕駛汽車發(fā)生交通事故可以依據(jù)交通事故責(zé)任認(rèn)定責(zé)任問題。但是，隨著人工智能的發(fā)展，產(chǎn)品實現(xiàn)高度智能化，其行為的可預(yù)測性越低，被侵權(quán)人完成舉證的難度增加，這顯然不利于保障被侵權(quán)人的利益。應(yīng)對人工智能高度自主化的發(fā)展趨勢，必須進(jìn)行制度創(chuàng)新，可以構(gòu)建差別化責(zé)任規(guī)則。通過對人工智能產(chǎn)品實行審批制度，人工智能產(chǎn)品在流入市場前記錄產(chǎn)品信息，作為判斷人工智能系統(tǒng)是否存在缺陷的標(biāo)準(zhǔn)，從而解決責(zé)任認(rèn)定問題。如果達(dá)到安全標(biāo)準(zhǔn)的人工智能產(chǎn)品流入市場后造成損害結(jié)果，由生產(chǎn)者承擔(dān)責(zé)任存在不合理。那么為充分保障被侵權(quán)人可以得到救濟(jì)，可以建立由生產(chǎn)者、銷售者和管理人共同負(fù)擔(dān)的強(qiáng)制性的保險機(jī)制。

注釋：

①張聰.人工智能致人損害的侵權(quán)責(zé)任制度研究[D]. 河北經(jīng)貿(mào)大學(xué)，2019.

②楊立新.侵權(quán)責(zé)任法（第3版）. [M] .北京：法律出版社，2018.

③張童.人工智能產(chǎn)品致人損害民事責(zé)任研究[J].社會科學(xué)，2018 （4） ：103-112.

④楊立新.侵權(quán)責(zé)任法（第3版）[M] . 北京：法律出版社，2018.

參考文獻(xiàn)：

[1]楊立新. 人工類人格：智能機(jī)器人的民法地位——兼論智能機(jī)器人致人損害的民事責(zé)任[J].求是學(xué)刊，2018（4）：88-96.

[2]周遷鳳. 論人工智能致害的民事責(zé)任問題[D]. 西南政法大學(xué)，2018.

[3]張玉潔.論人工智能時代的機(jī)器人權(quán)利及其風(fēng)險規(guī)制[J].東方法學(xué)，2017 （6） ： 56-66.