人工智能時代對民法學的新挑戰

王利明

內容摘要：我們已經進入了人工智能時代，人工智能技術的發展深刻地改變了我們的生產和生活方式，也對我國民事法律制度提出了新的挑戰。人格權制度、數據財產保護、知識產權保護、侵權責任認定和承擔等，都需要隨著人工智能技術的發展而作出必要的調整。我國正在制定的民法典也需要與時俱進，積極回應人工智能時代的各種挑戰，妥當設置相關規則、制度，在有效規范人工智能技術的同時，也為新興技術的發育預留必要的制度空間。

關鍵詞：人工智能智能人隱私權個人信息民法典

1956年夏，在一場關于機器模擬智能的研討會上，首次提出了“人工智能”這一概念。人工智能作為一門新興學科，其與基因工程、納米科學共同被稱為21世紀的三大尖端技術。作為引領新一輪科技革命的技術，人工智能系統在替代人類從事簡單性、重復性以及危險性工作方面存在廣泛的應用價值，目前在金融、安防、客服等行業領域已實現應用，并且在精確度和效率上確實已遠超人工。〔1 〕半個世紀以來，伴隨著現代科技的發展，特別是移動互聯網、大數據、腦科學等新理論、新技術的發展，人工智能近些年的發展極為迅速，已經成為國際競爭的新焦點和經濟發展的新引擎。〔2 〕從某種程度上而言，人工智能以信息技術為核心，“信息主權”話題 〔3 〕的探討一定程度上也決定了人工智能未來在國際競爭中的地位。人工智能技術以信息技術為核心，直接造就了信息主權話題的探討。〔4 〕

我們已經進入人工智能時代，機遇與危險并存。美國電影《終結者》曾預測人工智能機器人超級戰士擊敗人類的結果；科學家霍金生前始終認為，人工智能的發明可能是人類歷史上最大的災難。如果管理不善，人工智能確實可能成為霍金所預言的“最糟糕的發明”，會思考的機器人可能會為人類文明畫上句號，這樣的論斷絕非危言聳聽。“問題就是時代的口號”，借助于大數據的人工智能，在改變我們生產與生活方式的同時，也給我們帶來了諸多法律上的新問題、新挑戰。正如國務院《新一代人工智能發展規劃》所言：“人工智能是影響面廣的顛覆性技術，可能帶來改變就業結構、沖擊法律與社會倫理、侵犯個人隱私、挑戰國際關系準則等問題，將對政府管理、經濟安全和社會穩定乃至全球治理產生深遠影響。”這些問題亟待我們予以回應并加以解決。目前對于人工智能的研究有從倫理學層面、〔5 〕認知哲學層面 〔6 〕展開的，筆者擬就人工智能對傳統民法學理論及司法實務造成的如下挑戰談下自己的看法，以期能對人工智能法律規范體系的形成有所裨益。

一、人工智能對民事主體制度的挑戰

人工智能的發展催生了各種類型的機器人，這也帶來了一個非常重大的法律問題，即是否應當將機器人視為法律上的人？換言之，機器人究竟應當作為法律關系的主體還是客體出現？應當將其等同于普通的機器或者動物對待，抑或將其作為“人”來看待？

人工智能研究的創始人之一明斯基指出，人工智能是“讓機器從事需要人的智能的工作的科學”。2016年，世界機器人大會在北京召開，一些機器人公司展示出了各種智能機器人，智能機器人能夠識別人的面孔、表情、年齡、性別，并且能夠表達與人類相似的情緒和面部表情。智能機器人的智力目前雖然還不能和人類相比，但也具備了獨立處理相關信息的能力和智力，有的機器人甚至已經基本達到了人類智慧的水準。2017年，沙特阿拉伯宣布授予機器人索菲亞以公民資格，由此也進一步推動了法學界對于人工智能主體地位的思考。

從智能機器人的發展現狀來看，人工智能機器人已經逐步具有一定程度的自我意識和自我表達能力，可以與人類進行一定的情感交流。有人估計，未來若干年，機器人可以達到人類50%的智力。從實踐來看，機器人可以為我們接聽電話，從事語音客服、身份識別、翻譯、語音轉換、智能交通等工作，甚至可以進行案件分析。有人統計，現階段23%的律師業務已可由人工智能完成。機器人本身能夠形成自學能力，能夠對既有的信息進行分析和研究，從而提供司法警示和建議。甚至有人認為，機器人未來可以直接當法官，〔7 〕可見人工智能機器人已經不完全是一種工具，而在一定程度上具有了自己的意識，并能作出簡單的意思表示。有觀點甚至主張，應當承認人工智能具有法律人格。〔8 〕這就提出了一個新的法律問題，即我們將來是否有必要在法律上承認人工智能機器人的法律主體地位？

筆者認為，從目前人工智能的發展來看，其尚未對傳統民事法律主體理論提出顛覆性的挑戰，我們在短時期內仍然應當堅守傳統民事主體理論，而不宜將智能機器人規定為民事主體，主要理由在于：一方面，智能機器人是人類創造出來的，其產生之初即作為民事法律關系的客體而出現，其雖然可能代替人類從事相關的活動，但本質上是受其自身的算法而決定的，尚不具備人類所具有的自主思考的意識和能力。另一方面，智能機器人尚不能獨立享有權利、承擔義務。在智能機器人造成他人損害時，仍然應當依據《產品質量法》《侵權責任法》確定相關法律責任的承擔者，即應當由其創造者或管理者承擔責任。也就是說，在一定時期內，既有的法律制度和規則體系仍可有效解決智能機器人所帶來的挑戰，〔9 〕而不需要承認機器人的民事地位。智能機器人進入民事主體的范疇在未來或許是可行的，因為隨著未來科技的發展，智能機器人可能也會不斷“進化”，不排除將來智能機器人的思維能力會進一步發展，具備與人類相當甚至超越人類的意識和思考能力，并可以在一定范圍內獨立地享有權利、承擔義務，但在目前人工智能機器人還不能也沒有必要成為民事主體。

二、人工智能對人格權保護的新挑戰

人工智能的發展還涉及人格權保護的一系列問題，至少包括如下幾個方面：

第一，人工智能對隱私的保護提出了新挑戰。例如，伴隨著人工智能技術的發展，無人機技術也蓬勃發展，無人機被形象地描述為“冰冷的觀測技術產品”，可以以各種方式“進入”人們想要到達的區域。童話小說中描述的在蒼蠅身上綁上攝像機去他人房間窺探他人隱私的設想，目前已經由無人機技術得以實現，這就對隱私權的保護提出了新的挑戰。美國已經發生了多起無人機侵犯他人隱私的糾紛。在無人機窺探他人隱私的情形下，受害人往往難以進行舉證，甚至難以確定具體的行為人，〔10 〕這就需要法律進一步強化隱私權的保護，以更好地應對人工智能技術的發展。

第二，人工智能對個人信息的保護提出了新挑戰。已經身處大數據時代，大數據記載了我們過去發生的一切和現在發生的一切，并能準確地預測我們的未來。現代社會的人就好像“裸奔”一樣，我們的一切都有可能被他人“監視”，都時刻可能暴露在“第三只眼”之下，“亞馬遜監視著我們的購物習慣，谷歌監視著我們的網頁瀏覽習慣，而微博似乎什么都知道，不僅竊聽到了我們心中的‘TA，還有我們的社交關系網”。〔11 〕無論我們走到哪里，只要攜帶手機，相關軟件借助于Cookie技術，就可以時刻知道我們的準確定位。借助于大數據分析技術，人工智能也會對個人信息權利的保護帶來威脅，一些智能機器人大規模地收集個人信息，并將其植入程序之中，也會對隱私等個人信息構成重大威脅。如何從技術層面、法律層面規范智能機器人搜集個人信息的合法性問題，將是人工智能時代的一項新挑戰。例如，在全國首例利用人工智能技術侵犯公民個人信息案中，行為人即利用人工智能技術識別驗證碼，破解了相關的技術防范措施，并獲取受害人個人信息，人工智能技術對相關技術防范措施的破解速度快至毫秒級，令人極為震驚。〔12 〕除收集個人信息外，人工智能技術還可能被用來研究和開發以大數據為基礎的各種產品，并憑借大數據無窮的潛力獲取利益，從而刺激人們進一步采集、分析人們的大數據信息。隨著個人信息收集和分析方式越來越先進，成本也越來越低廉，大規模的數據收集已成為常態，并會越來越普遍，這就進一步加劇了對個人信息和隱私的威脅。〔13 〕我國《民法總則》對個人信息權利的保護作出了規定，但并沒有專門規范利用人工智能收集、利用個人信息的行為，未來立法有必要專門設置相關的法律規則，防止人工智能應用過程中的數據非法收集、泄露、販賣等問題，以有效保護個人信息的安全。〔14 〕

第三，人工智能對肖像權的保護提出了新的挑戰。人工智能技術可能借助光學技術、聲音控制、人臉識別技術等新型技術，收集他人肖像，并傳播、模仿他人的肖像。例如，借助于光學技術和攝像技術，人工智能可以拍攝高分辨率的照片，使得夜拍圖片具有與日拍圖片同等的效果，這樣就使得對肖像權的獲取與利用更為簡便，這也對肖像權的保護提出了新的挑戰。近年來，利用大數據的人工智能人臉識別技術在各領域都開始了實質性運用，從刷臉支付、整治闖紅燈到抓捕逃犯，甚至公共領域的發廁紙管理之中，該技術都得到了實質利用。〔15 〕

第四，人工智能對自然人聲音、表情、肢體動作等人格利益的保護提出了新挑戰。現在很多人工智能系統把一些人的聲音、表情、肢體動作等植入其中，使得所開發的人工智能產品可以模仿他人的聲音、形體動作等，甚至能夠像人一樣表達，并與人進行交流。但如果未經他人同意而擅自進行上述模仿活動，就有可能構成對他人人格權的侵害。

此外，需要指出的是，如果將來承認了人工智能機器人的主體資格，還會產生人工智能機器人人格權的保護問題。目前，刑法學理論已經開始探討毀壞他人機器人是構成故意殺人罪還是故意毀壞財物罪。近來媒體報道，機器人伴侶已經出現，如果機器人伴侶受到虐待，其能否主張人格權受到侵害等，也需要進一步探討。

三、人工智能對數據財產保護的新挑戰

產權清晰是市場經濟的基本要求之一，然而大數據和人工智能使得這一傳統命題迎來新的挑戰。“數據+算法”被視為人工智能技術開發的核心，數據的收集和分析技術的發展成為人工智能進行機器學習和開發的基本方法。目前，大數據已經是人工智能的一種重要分析工具，其得力于傳感器與微處理器的硬件支撐。〔16 〕借助于大數據分析技術，人工智能可以進行相關的演練和操作。從人工智能的技術原理來看，其也有賴于大數據分析系統的支持，人工智能功能的強弱在很大程度也取決于其所包含數據庫的多少，人工智能需要依賴大量來自不同主體的數據，數據的抓取和利用在人工智能行業無處不在。數據在人工智能技術開發中的應用價值越來越高，但數據的開發和利用都需要明晰數據的產權主體和內容，規范數據的移轉和利用。因此，人工智能的發展需要解決財產法面臨的新問題。

人工智能利用的數據主要有三類，分別是個人所有的數據、私人企業和組織所有的數據和公共機構管理的數據。有觀點認為：數據財產權的基本原則是誰的數據歸誰所有，沒有任何主體指向的數據是公共資源。〔17 〕但是人工智能不僅會儲存收集的原始數據，而且可以對收集的各種數據進行加工，產生衍生數據。與此同時，數據的占有和轉移占有是無形的，同時也是沒有有效的權屬證明。所以，在大數據時代，法律所遇到的一個嚴峻挑戰即應當如何確認數據的權利歸屬，既要保護被搜集人的個人信息權，又要保護數據開發者、合法利用者的數據財產權，迄今為止，如何對數據進行確權并且構建起權利內容和權利轉移制度尚未解決，需要法律予以盡快完善。

現行《物權法》把物權分為動產和不動產，而數據難以按照此種方法進行分類，故而學界一直爭議數據屬于物權還是債權。我國《民法總則》第127條對數據的保護規則作出了規定，一方面，數據在性質上屬于新型財產權，但數據保護問題并不限于財產權的歸屬和分配問題，還涉及這一類財產權的轉移、利用、保管等法律問題。在利用人工智能時如何規范數據的收集、儲存、利用行為，避免數據的泄露和濫用，并確保國家數據的安全，也是亟需解決的重大現實問題。〔18 〕另一方面，人工智能的應用方式和應用范圍在很大程度上取決于其算法，如何有效規范這一算法，避免侵害他人權利，也需要法律制度予以應對。例如，人工智能通過分析在網絡交易中取消訂單的頻繁程度，可以得出關于一個人社會信用狀況和交易能力的評價結果，此種評價結果可能對個人的經濟生活產生重大影響。目前，人工智能算法本身的公開性、透明性和公正性的問題，是人工智能技術發展的核心問題，但目前并未受到充分關注。

四、人工智能對知識產權保護的新挑戰

人工智能的發展也涉及知識產權保護的問題。一方面，機器人已經能夠自己創作音樂、繪畫，機器人寫作的詩歌集也已經出版，這也對現行知識產權法提出了新的挑戰。例如，百度已經研發出可以創作詩歌的機器人，微軟公司的人工智能產品“小冰”已于2017年5月出版人工智能詩集《陽光失了玻璃窗》，在日本，機器人創作的小說甚至還通過了日本文學獎的初審，有的機器人甚至會譜曲、作畫，這些作品已經可以在市面上銷售，這就提出了一個問題，即這些機器人創作作品的著作權究竟歸屬于誰，是歸屬于機器人軟件的發明者，還是機器的所有權人，還是賦予機器人一定程度的法律主體地位從而由其自身享有相關權利？正如前文已經論述，現階段的人工智能技術的發展尚不足以被承認為民事主體，故而現階段也不適合承認機器人完成的作品可以歸一個實踐工具所有，只能承認由機器人的所有者享有知識產權。當然，在未來人工智能在創作領域可能技術更加成熟，已經達到了類似人類或者超越人類的能力，那么可否在創作領域承認人工智能的民事主體地位和權利能力，這也是可以進一步討論的。

另一方面，智能機器人要通過一定的程序進行“深度學習”“深度思維”，在這個過程中有可能收集、儲存大量的他人已享有著作權的信息，這就有可能構成非法復制他人的作品，從而構成對他人著作權的侵害。人工智能機器人能夠存儲大量的信息，而按照一些國家的規定，存儲他人享有著作權的信息本身，就構成對他人著作權的侵害。人工智能實際上就是一種機器模仿人的智力活動的技術，但如果人工智能機器人利用獲取的他人享有著作權的知識和信息創作作品，如創作的歌曲中包含他人歌曲的音節、曲調等，也可能構成剽竊。

在人工智能侵害他人知識產權的情形下，究竟應當由誰承擔責任、如何承擔責任，本身也是一個問題。如果認為機器人具有主體資格，那么其承擔責任的財產又來自何處？如果認為機器人不具有主體資格，究竟應當按照產品責任追究生產者、銷售者的侵權責任，還是應當由機器人的主人來承擔相應責任？這些問題均值得進一步研究。

五、人工智能對侵權責任認定的新挑戰

人工智能的發展還涉及侵權責任的認定問題。人工智能引發的侵權責任問題很早就受到了學者的關注，隨著人工智能應用范圍的日益普及，其所引發的侵權責任認定和承擔問題將對現行侵權法律制度提出越來越多的挑戰。〔19 〕無論是機器人致人損害，還是人類侵害機器人，都是新的法律責任。

在實踐中，機器人致人損害的案例已經發生，2015年7月，德國大眾汽車制造廠一名21歲的工人在安裝和調制機器人時，被機器人“出手”擊中胸部，并被碾壓在金屬板上。無獨有偶，2016年，Google無人駕駛汽車在美國加州山景城測試時，與一輛公交大巴相撞，后經法院認定，Google公司在此次事故中負有責任。我國也出現了人工智能機器人傷人的事件，據報載，2016年11月，在深圳舉辦的第十八屆中國國際高新技術成果交易會上，一臺名為小胖的機器人突然發生故障，在沒有指令的前提下自行打砸展臺玻璃，砸壞了部分展臺，并導致一人受傷。〔20 〕表面上看，機器人是人制造的產品，在造成他人損害時，應當由機器人的研發者負責，似乎在法律上沒有爭議。但機器人又不同于普通的產品，對普通的產品而言，追蹤產品的生產者較為容易，而對人工智能機器人而言，其是依靠自身的算法在運作，有其自身獨特的運作程序。因此，在人工智能機器人造成他人損害時，不能簡單地認定由該機器人的生產者承擔責任，而應當由該程序的發明者承擔責任，而人工智能機器人的運作程序可能是由多個主體共同開發的，很難確定具體的程序研發個人或者組織，這就給確定人工智能機器人的責任帶來了困難。

人工智能的發展催生了無人駕駛技術，這也對道路交通事故責任提出了新的挑戰。〔21 〕伴隨著無人駕駛技術在各國的運用，這一問題已經顯現。前不久，深圳已經測試無人駕駛公交線路，引發了全球關注。浙江省擬于2022年建成支持自動駕駛的首條超級高速公路 。但值得我們考慮的問題是，一旦無人駕駛汽車發生交通事故，應當由誰承擔責任？能否適用現行機動車交通事故責任認定相關主體的責任？法律上是否有必要為無人駕駛機動車制定專門的責任規則？這確實是一個新問題，但已經現實發生，美國時間2018年3月20日，UBER無人駕駛汽車在美國亞利桑那州發生了全球首例無人駕駛撞死行人的案件，案發地州政府緊接著宣布該州范圍內永久性停止UBER無人駕駛測試，該案最終以和解方式結案，并未形成相應的裁判規則。 筆者認為，對此應當區分不同情況，分別認定相關主體的責任：如果無人駕駛的汽車是因為汽車本身的技術故障引發交通事故，此時，受害人應有權根據《侵權責任法》《道路交通安全法》的規定要求駕駛者承擔侵權損害賠償責任。如果交通事故是因駕駛操作系統程序出現問題，發生交通事故，此時完全由駕駛者承擔責，可能有違公平，也過于苛責。究竟如何分配責任，值得進一步探討。在無人駕駛技術日益普及的情形下，還有必要引入保險制度，即規定新類型的“無人駕駛強制責任保險制度”，為受害人提供必要的權利救濟。

此外，有一個問題值得考慮，就是未來可能出現的飛行汽車所帶來的道路事故責任，應當如何加以認定？根據媒體的相關報道，有谷歌飛行之父之稱的塞巴斯蒂安-特倫宣布，谷歌有望在五年之內讓飛行汽車飛行于天空的計劃得以實現。〔24 〕一旦飛行汽車的計劃真的實現，可以預計汽車的飛行可能將顛覆道路交通規則，其在法律定位上究竟是作為一類新型航空器得以出現，從而根據航空事故責任來進行責任界定，還是仍然按照機動車交通事故責任來加以確定，這一問題非常值得探討。

結語

人工智能時代已經來臨，其不僅改變人類生產和生活方式，也會對人類的法律制度產生深刻的影響。21世紀初，華裔著名經濟學家楊小凱就提出：如果中國僅僅重視技術模仿，而忽視制度建設，后發優勢就可能轉化為后發劣勢。〔25 〕因此，我們不能僅注重技術的引用，而忽視其可能帶來的負面效果。我們的法學理論研究應當密切關注社會現實，積極回應大數據、人工智能等新興科學技術所帶來的一系列法律挑戰，從而為我們立法的進一步完善提供有力的理論支撐。“不謀萬世者，不足以謀一時”，法治不僅僅是要考慮當下，也要考慮未來。法治要提供制度環境安排，為新興科技等的發育預留法律空間。特別是要充分認識和擁抱科學技術對社會生產和生活帶來的結構性、革命性的影響，盡早觀察和預測未來法律發展的方向，促進良法制定，以良法保障和促進人工智能技術的健康發展，消除其對人類社會可能產生的副作用。因此，我國現行正在編纂的民法典應當考慮到人工智能可能帶來的各種新挑戰，并制定相應的法律規則，以體現出民法典與時俱進的品格，并真正地應對未來的技術發展，成為一部21世紀的民法典。