人工智能時代的法律責任探究

陳昕彤

摘要：

人工智能時代正逐步走來，在促進人類社會進步的同時，相應的也對當前的法律規(guī)則與法律秩序帶來了史無前例的挑戰(zhàn)?！斑@是最好的時代，也是最壞的時代”。智能時代無疑是更加精細化、智能化的“最好時代”，但不可避免的也成為了法律問題、制度隱患愈發(fā)嚴重的“最壞時代”。面對智能機器人造成的可預測性的損害法律問題，法律規(guī)則的局限與不足也將逐漸顯現(xiàn)出來，“誰來承擔法律責任”也就成為了亟待解決的問題。

關鍵詞：人工智能;智能機器人;法律責任

引言

蘋果首席執(zhí)行官蒂姆·庫克在麻省理工學院2017年屆畢業(yè)典禮演講中指出，“我并不擔心人工智能能夠像人一樣思考，我更關心的是人們像計算機一樣思考，沒有價值觀、沒有同情心、沒有對結果的敬畏之心”。[1]無論人類是否已經(jīng)做好準備，不可否認的是人工智能時代正加速到來。初級的人工智能時代，人類仍舊是核心，是規(guī)則的制定者，是人工智能服務的對象。而到了高級人工智能時代，人工智能可以改變甚至脫離人類為其設計好的算法而創(chuàng)制新的算法，此時人類將處于何種主體地位，一切都還不得而知。因此，面對將“算法”作為“大腦”的人工智能，我們需要認真思考、認真對待，在人機混合的時代通過法律責任規(guī)制來對機會與風險進行權衡，塑造良性發(fā)展的美好未來。2017年7月，國務院發(fā)布了《新一代人工智能發(fā)展規(guī)劃》，強調制定能夠保障人工智能健康發(fā)展的法律法規(guī)，以積極的態(tài)度應對人工智能可能帶來的風險與挑戰(zhàn)，并且圍繞人工智能的發(fā)展進行相應的制度安排。本文將以智能機器人為切入點，在對智能機器人進行了解的前提下，針對不同情況下設計者、生產者、使用者和智能機器人之間應如何分配責任進行探究與論證。

一、人工智能時代下的智能機器人

“機器人”一詞最早出現(xiàn)于20世紀20年代，卡雷爾·恰佩克在他的戲劇《羅素姆萬能機器人》中第一次使用了該詞。[2]幾十年后的今天，人工智能技術飛速發(fā)展，智能機器人開始走進人們的現(xiàn)實生活。人工智能作為一門新興的學科，與基因工程、納米科學并稱為21世紀的三大尖端技術，同時迎來一場技術革命。[3]

智能機器人不同于以往的機器，智能機器人被科學家賦予了人工智能（算法），在人類的規(guī)劃設計下接替人類的一些工作。[4]在個人服務應用上，已經(jīng)出現(xiàn)了幫助學者安排會議、檢查交通可用性的助理機器人;在家庭服務應用上，已經(jīng)出現(xiàn)了按照程序為兒童和長者提供照顧的保姆機器人;在公共服務應用上，已經(jīng)出現(xiàn)了以達芬奇外科系統(tǒng)為例的醫(yī)生機器人。除此之外還有很多新型智能機器人，各國都在加大對人工智能的研發(fā)與競爭布局。在可見的未來，各類智能機器人，如服務機器人、醫(yī)療機器人、投顧機器人、陪伴機器人、情侶機器人將會大量地涌現(xiàn)，人機共處隨之會成為生產生活關系的常態(tài)。[4]毫無疑問，智能機器人是人類制造的，機器人之所以智能是因為程序員們通過“算法”將人類信息加工處理后輸入給機器人，使其實現(xiàn)“數(shù)據(jù)——信息——知識——智慧——頓悟”的信息處理的智能晉級。[5]那么，當智能機器人造成損害時，誰應當為此負責？倘若終有一天智能機器人超越了人類，誰又應當為機器人的行為負責？此時的機器人是否仍是單純的物？其是否能夠成為承擔法律責任的主體？此時，必然會引發(fā)法律責任等方面的重大法律變革和秩序重建。

二、人工智能時代給法律帶來的挑戰(zhàn)

人工智能的表現(xiàn)形式正朝著多元化的方向發(fā)展，譬如谷歌、Siri、電子游戲的人工智能，由于十分常見，以至于人們并不把它們看作是人工智能，不會擔心其法律責任問題。[6]然而，科學技術總是人類文明進步中最活躍的、最革命的角色。[7]谷歌的無人駕駛汽車、自主的外科機器人、機器人保姆等智能機器人正蓬勃發(fā)展。我們不妨設想一下，如果外科機器人手術失敗，自身的麻煩事兒已經(jīng)夠多了的醫(yī)生，可能坦然接受這些指控和訴訟嗎？這種擔憂合情合理，因此是否賦予智能機器人“法律主體資格”則顯得尤為重要，對于進一步研究人工智能時代下的法律責任也起著舉足輕重的作用。

（一）智能機器人的法律主體資格問題

人類通過“算法”將數(shù)據(jù)編程到機器人的體內，誰研制的機器人，就由誰負責似乎是顯而易見的。然而機器人是有“大腦”的，它的“大腦”即為“程序”，機器人的零部件可以追蹤到具體的產商，然而機器人的算法程序很可能是多方研發(fā)的。一方面，所涉及的個人、組織眾多;另一方面，機器人自主地學習與更新也不無可能。2016年3月23日，微軟公司上線了人工智能的聊天機器人Tay。一開始，智能機器人Tay和網(wǎng)民們交流的十分順利，可是不一會兒，問題就出現(xiàn)了，Tay像一個被教壞了的“少女”，不僅擁有了反猶太人的人種歧視，還有對黑人白人、男人女人持不同態(tài)度的歧視性言論。[8]僅僅上線一天，Tay就被微軟公司下線了，經(jīng)它之手發(fā)布的侮辱性、歧視性言論給用戶造成的不良體驗應當歸咎于誰呢？是微軟公司嗎？是程序輸入端的編程人員嗎？可是由于Tay不成熟的學習能力與認知能力造成的言語不當、種族歧視應當全由制定者負責嗎？它自身是否可以成為雖然不具備生命，但是可以被賦予法律主體資格的“人”呢？這些值得商榷。美國國家公路安全交通管理局在2016年2月初認定谷歌的無人駕駛汽車所采用的人工智能系統(tǒng)可以被稱為“司機”，換句話說，被賦予了虛擬的“法律主體資格”。[9]我國目前在智能機器人是否可以成為獨立的“人”這一點上還沒有明確的立法，仍然視人工智能為“物”而非“人”，認為智能機器人雖然有類似于人的智力，但是沒有人的靈魂與心性，不能簡單等同于人并視之具有人的法律主體資格。但在不遠的未來，將會有更加智能與自主化的機器人進入市場，此時對智能機器人的可責性探究與制度安排意味著新的法律體系將會支撐法治秩序。

（二）智能機器人致人損害的法律責任問題

隨著醫(yī)生、外科醫(yī)生和其他醫(yī)療從業(yè)者成為責任訴訟中最常見的被告，人工智能將會如何影響與手術相關的法律責任。機器人手術系統(tǒng)中，達芬奇外科手術系統(tǒng)可以稱得上是最有名的系統(tǒng)之一?！斑_芬奇”是一種被稱為“遙控機器人”的機器人手術系統(tǒng)，它可以通過視頻和計算機增強技術從控制臺遠程控制多個手柄，從而使極其困難甚至是不可能的手術變成現(xiàn)實。在2012年俄亥俄州的加利亞諾訴考伍克案（Gagliano v.Kaouk）中，患者在進行“機器人切除”其前列腺手術后受到感染和其他傷害。陪審團最終作出了有利于被告醫(yī)生的裁決，審判法庭認為“達芬奇”系統(tǒng)十分復雜，被告需要專家證人幫助陪審團了解機器人是否有缺陷，這個人不僅要在該領域具備專業(yè)醫(yī)學知識，還要充分掌握達芬奇機器人系統(tǒng)。至于原告，法庭同樣允許可以適用專家證人來證明被告醫(yī)生未獲得機器人前列腺切除術的認證。不難看出，當醫(yī)院開始使用人工智能外科醫(yī)生時，專家證人將顯得尤為重要。為了避免適格專家證人的缺失，避免人工智能外科醫(yī)生在手術中沒有任何問題卻仍要承擔責任的情形，醫(yī)院應當制定適當?shù)恼?，來平衡人工智能的使用、醫(yī)生的要求、病人的期望三者關系。如果有人提出相關的醫(yī)療事故糾紛，法官和陪審團可以依靠這些政策來幫助確定是否存在醫(yī)療事故以及存在的話應當歸咎于哪一方當事人。[10]

20世紀60年代初，研究人員就開始使用電腦來提醒老年人日常活動，現(xiàn)在看來這是一種程度很低的看護。最近，南加州大學計算機科學教授馬加·馬塔里埃聲稱她的機器人能夠與自閉癥兒童互動，實現(xiàn)對自閉癥兒童的有效看護。[11]保姆機器人正蓬勃發(fā)展，試想一下，倘若家長把孩子交給機器人看護，而給孩子造成了健康損害，誰應當承擔損害賠償責任呢？其一，若人工智能設計不當，開發(fā)商應負責;其二，若設計得當，可是在生產環(huán)節(jié)存在缺陷，制造商應負責;其三，若設計和制造均合理，是運輸途中損壞了機器人，承運人應負責;其四，若設計、制造、運輸、監(jiān)護人均無錯處，即為保姆機器人本身存在問題，此時的人工智能侵權如何處理，各國亟需相關立法予以確認。

（三）智能機器人的產品責任理論探究

美國，對于缺陷產品責任有著相應的法律規(guī)定。其中，產品缺陷基本分為三類：制造缺陷、設計缺陷以及警示不充分缺陷。缺陷產品的生產者或銷售者應當承擔缺陷產品致?lián)p的損害賠償責任。將這種“嚴格責任”應用于人工智能領域，不失為一種適當?shù)倪x擇。然而，當智能機器人不存在缺陷問題卻導致了損害發(fā)生時，機器人其自身應當承擔法律責任，即人工智能自己犯了錯。此時，如何讓人工智能支付賠償費用呢？美國律師約翰·弗蘭克·韋弗認為可以設法提供一種儲備基金來支付人工智能欠下的賠償費用。例如，為人工智能產品購買一定額度的保險或是為購買人工智能產品的消費者增設一個責任附加費，以應對可能存在的賠償。[12]

我國，《侵權責任法》、《產品質量法》、《消費者權益保護法》等法律對產品責任作了相關規(guī)定。[7]根據(jù)我國的立法，在法律賦予給智能機器人法律地位之前，“物”仍舊是我國法律對其最精準的定位。因此，將智能機器人造成的損害進而引發(fā)的法律責任歸類于產品責任范疇是恰當合理的，產品責任的相關立法也自然而然的對其有施用的余地。通說認為，產品責任是無過錯的嚴格責任，即無論生產者是否存在過錯，只要產品有缺陷，生產者就要負侵權責任。然而，當智能機器人造成的損害不能合理追溯到產品缺陷時，為了保證被侵權人得到賠償，不妨考慮對智能機器人適用“替代責任”規(guī)制原則。例如，快遞公司利用無人送貨車送快遞，可以類比雇主與雇員的關系，部署智能機器人的人應當承擔可能發(fā)生的損害結果的替代責任。這不失為未來制度安排的一種可能性。

三、人工智能時代規(guī)范法律責任的應對之策

首先，“算法”透明?！八惴ā睕Q定了人工智能的好壞，對于技術盲來說，審查算法是一件十分困難的事情。要想判斷“算法”是否符合既有的法律規(guī)則，就需要讓“算法”盡可能的透明化，然而企業(yè)或許會主張侵犯商業(yè)秘密，在這樣的情況下對不透明的“算法”進行審查，很可能會得到不公正的審判，導致不正確的責任分配。

其次，法律監(jiān)管。目前我國的重心仍是考慮如何才能更好地研發(fā)技術、創(chuàng)新人工智能。因此，在法律的調整和立法方面，還缺乏整體的認識與積極的部署。歸責原則和責任確定等極為重要的制度改革應該盡快提上日程，以順利應對人工智能所帶來的轉型沖擊。

最后，法學教育。基于人工智能帶來的超凡影響，法學理論研究將面臨多學科的挑戰(zhàn)與融合，法學教育也將邁向多元復合、疊加融合的人才培養(yǎng)模式。[13]增強不同領域、不同流派的交流互動，培養(yǎng)新一代優(yōu)質的法律人才，為未來學習新型法律規(guī)范、掌握責任歸責機制奠定良好的思想儲備。《規(guī)劃》的出臺已經(jīng)彰顯了中國政府的高瞻遠矚與體制優(yōu)勢，中國有信心、有能力制定出具有中國特色的新型法律制度體系來應對人工智能新時代。

[注釋]

[1]《蘋果CEO庫克在麻省理工學院2017畢業(yè)典禮上的演講》，http：//www.sohu.com/a/161180892_645324，最后瀏覽日期：2019年1月17日。

[2][意]烏戈·帕加羅：《誰為機器人的行為負責？》，張卉林、王黎黎譯，上海人民出版社2018年版，第2頁。

[3]王利明：《人工智能對民法的挑戰(zhàn)》，載《中國城市報》2017年9月11日第22版。

[4]馬長山：《智能互聯(lián)網(wǎng)時代的法律變革》，載《法學研究》2018年第4期。

[5]陳鐘：《從人工智能本質看未來的發(fā)展》，載《探索與爭鳴》2017年第10期。

[6][美]約翰·弗蘭克·韋弗：《機器人是人嗎？》，劉海安、徐鐵英、向秦譯，上海人民出版社2018年版，第21頁。

[7]吳漢東：《人工智能時代的制度安排與法律規(guī)制》，載《法律科學》2017年第5期。

[8]曹建峰：《人工智能：機器歧視及應對之策》，載《信息安全與通信保密》2016年第12期。

[9]張艷：《人工智能給法律帶來四大挑戰(zhàn)》，載《社會科學報》2016年8月4日第4版。

[10][美]約翰·弗蘭克·韋弗：《機器人是人嗎？》，劉海安、徐鐵英、向秦譯，上海人民出版社2018年版，第36-45頁。

[11][美]約翰·弗蘭克·韋弗：《機器人是人嗎？》，劉海安、徐鐵英、向秦譯，上海人民出版社2018年版，第105-107頁。

[12][美]約翰·弗蘭克·韋弗：《機器人是人嗎？》，劉海安、徐鐵英、向秦譯，上海人民出版社2018年版，第34頁。

[13]馬長山：《面向智慧社會的法學轉型》，載《中國大學教學》2018年第9期。

（作者單位：華東政法大學 法律學院，上海 200050）