人工智能時(shí)代法律實(shí)務(wù)的變革與展望

肖薇（騰訊網(wǎng)絡(luò)安全與犯罪研究基地高級(jí)研究員）

2018年3月18日晚10點(diǎn)左右，美國亞利桑那州一名女子被Uber自動(dòng)駕駛汽車撞傷后不幸身亡。事發(fā)時(shí)，盡管有一名司機(jī)坐在方向盤后面，但是這輛車當(dāng)時(shí)正處于自動(dòng)控制模式。當(dāng)時(shí)警方聲明稱，該車當(dāng)時(shí)正朝北行駛，而該女子正在人行橫道外從西往東走。警方初步調(diào)查顯示Uber的無人駕駛汽車并無過錯(cuò)。

這是全球首例自動(dòng)駕駛車輛致行人死亡的事故。案件調(diào)查結(jié)果表明，車輛的自動(dòng)駕駛模式設(shè)計(jì)無明顯缺陷，行人系突然之間推車經(jīng)過，但具體事故責(zé)任難以界定。但事故畢竟發(fā)生了，需要有人來承擔(dān)責(zé)任。傳統(tǒng)責(zé)任理論中，法律責(zé)任分為“過錯(cuò)責(zé)任”和“無過錯(cuò)責(zé)任”，其中“過錯(cuò)責(zé)任”是最為普遍也是占主導(dǎo)地位的法律責(zé)任形式。但進(jìn)入人工智能（Artificial Intelligence，AI）時(shí)代后，AI系統(tǒng)已經(jīng)可以在人類的操作和監(jiān)督之外獨(dú)立完成部分工作，而機(jī)器自主性操作造成的損害該如何來判斷并劃分責(zé)任呢？是程序設(shè)計(jì)者、制造商、權(quán)利人、使用者，還是機(jī)器本身？這種情況下，傳統(tǒng)的責(zé)任界定理論似乎陷入了困境。

當(dāng)我們還在為“是應(yīng)該鼓勵(lì)還是扼制數(shù)字智能的發(fā)展”爭論不止的時(shí)候，數(shù)字時(shí)代所產(chǎn)生的更高階、更深層的種種問題已猝不及防地?fù)涿娑鴣怼?/p>

我們?cè)撊绾蚊鎸?duì)？

經(jīng)濟(jì)基礎(chǔ)決定上層建筑。新型經(jīng)濟(jì)關(guān)系和社會(huì)關(guān)系給傳統(tǒng)法學(xué)理論、法律制度和司法體系帶來極大沖擊和挑戰(zhàn)。

既有法律規(guī)則難以有效涵蓋和調(diào)整新的法益

以數(shù)字經(jīng)濟(jì)為基礎(chǔ)的人工智能時(shí)代，從生產(chǎn)生活方式到商業(yè)運(yùn)營模式，經(jīng)濟(jì)發(fā)展業(yè)態(tài)開始全面邁向去中心化的分布式升級(jí)，從自動(dòng)駕駛到股權(quán)分配，再到人力資源配置等一系列重大決策權(quán)，正從人手中轉(zhuǎn)移到算法手中。同時(shí)出現(xiàn)的還有虛擬財(cái)產(chǎn)、智能合約（區(qū)塊鏈底層）、數(shù)據(jù)權(quán)利、網(wǎng)絡(luò)生態(tài)安全、智能機(jī)器人行為等新的法律關(guān)系和法益，再通過現(xiàn)有法律概念和規(guī)則來調(diào)整，難免出現(xiàn)捉襟見肘的尷尬。

比如，法律主體作為法學(xué)上的一個(gè)重要范疇，不僅指現(xiàn)實(shí)的人，更是對(duì)人的本質(zhì)的一種法律抽象，目前主要包括自然人、法人和其他組織三類。然而在人工智能的擬人化或者說智能化程度不斷提高的同時(shí)，新的問題出現(xiàn)了：其一是人工智能實(shí)體的法律主體資格問題，它究竟是法律關(guān)系中的主體還是客體？二是主體類型化問題。若是將人工智能納入法律主體的范疇，應(yīng)如何歸類？行為能力、責(zé)任能力又如何分級(jí)？從世界范圍來看，未來賦予強(qiáng)智能機(jī)器人一定的主體地位是大勢(shì)所趨，目前各國都在機(jī)器人立法方面進(jìn)行積極嘗試。例如，2017年10月25日，沙特阿拉伯正式授予機(jī)器人Sophia以公民資格。

既有法律邏輯難以順利適用

當(dāng)今主流法律體系來源于工商業(yè)革命進(jìn)程，在新場(chǎng)景下必然會(huì)出現(xiàn)難以適應(yīng)的困境。

民商法領(lǐng)域

首先是數(shù)據(jù)權(quán)的屬性問題。數(shù)據(jù)資源日益成為重要生產(chǎn)要素和社會(huì)財(cái)富，各大互聯(lián)網(wǎng)公司之間的數(shù)據(jù)之戰(zhàn)從未停止過。但數(shù)據(jù)和信息的性質(zhì)、分類、權(quán)屬、使用規(guī)則和法律責(zé)任等，在現(xiàn)有的民商法規(guī)則中難以獲得有效說明，司法實(shí)務(wù)中更多采取行為保護(hù)（不正當(dāng)競(jìng)爭）或法益保護(hù)（商業(yè)秘密），而非直接的數(shù)據(jù)財(cái)產(chǎn)（權(quán)利）保護(hù)。

其次是隱私保護(hù)問題。此時(shí)，個(gè)人隱私數(shù)據(jù)保護(hù)將面臨互聯(lián)網(wǎng)、大數(shù)據(jù)與人工智能三者疊加的風(fēng)險(xiǎn)，未來也許不再會(huì)有絕對(duì)意義上的隱私存在。用戶在使用人工智能產(chǎn)品的同時(shí)極可能成為個(gè)人信息及隱私的直接“泄密者”，而對(duì)數(shù)據(jù)處理者和使用者又缺乏制約與監(jiān)管，導(dǎo)致大量的隱私數(shù)據(jù)處于無法律保護(hù)的“裸奔”地帶。因此，人工智能產(chǎn)品使用過程中產(chǎn)生數(shù)據(jù)的性質(zhì)和權(quán)利歸屬，人工智能產(chǎn)品數(shù)據(jù)收集和使用行為，智能產(chǎn)品生產(chǎn)商、網(wǎng)絡(luò)運(yùn)營商的權(quán)利義務(wù)等，都亟需立法來予以明確。

再就是人工智能作品的權(quán)屬問題。美聯(lián)社與AI公司合作研發(fā)的人工智能新聞寫作平臺(tái)Wordsmith，如今已可以達(dá)到每季度幾千篇新聞稿件的產(chǎn)量；騰訊公司開發(fā)的新聞寫作機(jī)器人不僅能批量撰寫財(cái)經(jīng)類新聞報(bào)道，還能根據(jù)不同受眾群體生成差異化的風(fēng)格和版本。微軟小冰也推出了詩集《陽光失了玻璃窗》。隨著人工智能在新聞、音樂、美術(shù)等領(lǐng)域的應(yīng)用日漸廣泛，其創(chuàng)作作品的知識(shí)產(chǎn)權(quán)歸屬問題也逐漸進(jìn)入公眾視野。傳統(tǒng)著作權(quán)法理論認(rèn)為，作品是作者人格的體現(xiàn)，只有自然人才能創(chuàng)作作品。而現(xiàn)在，人工智能創(chuàng)作作品向這一理論發(fā)起了挑戰(zhàn)。

此外，歐盟在2018年出臺(tái)的《通用數(shù)據(jù)保護(hù)條例》（GDPR）中設(shè)置了刪除權(quán)（被遺忘權(quán)）、可攜帶權(quán)、免受自動(dòng)化決策權(quán)（數(shù)據(jù)畫像）、訪問權(quán)等新型權(quán)利。可以預(yù)見，未來很可能會(huì)有包括但不限于上述的種種新型權(quán)利，將被更多的法律體系所明確。

刑法領(lǐng)域

一是虛擬財(cái)產(chǎn)的認(rèn)定問題。虛擬財(cái)產(chǎn)長期以來處于物權(quán)、債權(quán)還是知識(shí)產(chǎn)權(quán)的屬性之爭，針對(duì)虛擬財(cái)產(chǎn)（如稀缺賬號(hào)、電子貨幣）的侵財(cái)行為多被認(rèn)定為計(jì)算機(jī)領(lǐng)域的犯罪，并且處罰相對(duì)較輕，這就難以對(duì)竊取數(shù)據(jù)信息、侵犯虛擬財(cái)產(chǎn)、刷單炒信等行為實(shí)施有效規(guī)制。2017年民法總則將計(jì)算機(jī)數(shù)據(jù)、網(wǎng)絡(luò)虛擬財(cái)產(chǎn)納入保護(hù)范圍，網(wǎng)絡(luò)虛擬財(cái)產(chǎn)終于有了認(rèn)定依據(jù)。但虛擬財(cái)產(chǎn)的“數(shù)額”“情節(jié)嚴(yán)重”又當(dāng)如何認(rèn)定，至今仍沒有明文規(guī)范。在人工智能時(shí)代，數(shù)據(jù)信息成為社會(huì)生活基本要素，數(shù)字貨幣的流通使用只是時(shí)間問題。對(duì)虛擬財(cái)產(chǎn)的全面法律認(rèn)定問題，迫切需要得以解決。

二是傳統(tǒng)法律邏輯理論的障礙問題。最典型的是“人工智能是否存在過失犯罪”，過失犯罪的理論在人工智能主體身上還能否適用？比如，本文一開始描述的自動(dòng)駕駛場(chǎng)景還能否適用交通肇事罪？如果不適用，那可能會(huì)出現(xiàn)在相同傷害結(jié)果前提下，“人駕駛車有過失就是交通肇事罪，機(jī)器駕駛有過失反而無罪”的邏輯悖論。同樣的問題還有可能發(fā)生在智能醫(yī)療背景下的醫(yī)療事故責(zé)任認(rèn)定上。

三是涉互聯(lián)網(wǎng)和新技術(shù)犯罪的刑事規(guī)制滯后。我國現(xiàn)行刑法是1997年修訂的，到2015年共有過九次修正，但總體框架變化不大。在全部的451條罪名中，除去借助網(wǎng)絡(luò)施行的傳統(tǒng)犯罪，專門針對(duì)計(jì)算機(jī)犯罪的僅有第285條、第286條，并且還是按照物理空間思維來“外在化”地設(shè)定犯罪構(gòu)成，未能客觀反映數(shù)據(jù)信息屬性和智能互聯(lián)的運(yùn)行邏輯。還有，隨著高度自主性人工智能產(chǎn)品的日益普及，給國家安全、公共安全和個(gè)人安全都可能帶來嚴(yán)重威脅，也需要相關(guān)的法律規(guī)制。

在人工智能時(shí)代，借助新技術(shù)的網(wǎng)絡(luò)犯罪會(huì)加速發(fā)展，造成的損害和影響也會(huì)越來越大。但現(xiàn)有刑法框架下，連一些較為常見的網(wǎng)絡(luò)犯罪都普遍存在法律適用難的問題，遑論更新型、更隱蔽、更智能化的犯罪。例如，破壞計(jì)算機(jī)信息系統(tǒng)的入罪還停留在“造成十臺(tái)以上系統(tǒng)主要軟硬件不能正常運(yùn)行”此類的認(rèn)定標(biāo)準(zhǔn)上，而實(shí)踐中，對(duì)于目前全球最為普遍的DDoS網(wǎng)絡(luò)攻擊，卻由于損害結(jié)果難以認(rèn)定等原因，打擊起來困難重重。隨著AI設(shè)備與物聯(lián)網(wǎng)的高速發(fā)展，DDoS的新宿主平臺(tái)不斷出現(xiàn)，自動(dòng)化程度也越來越高，在巨大利益的誘惑下，來自網(wǎng)絡(luò)安全的威脅也將與日俱增。

行政法領(lǐng)域

在人工智能發(fā)展前期，對(duì)于人工智能的基礎(chǔ)開發(fā)利用，基本是由各互聯(lián)網(wǎng)企業(yè)、研究機(jī)構(gòu)進(jìn)行自行探索研究和開發(fā)，相關(guān)的行政管理介入較少。隨著產(chǎn)業(yè)的逐步深入發(fā)展，對(duì)行政管理的需求也日益增加，需要通過行政許可、行政監(jiān)督和行政處罰等手段來規(guī)范人工智能領(lǐng)域的無序發(fā)展和競(jìng)爭。

同時(shí)，數(shù)字信息經(jīng)濟(jì)的發(fā)展也給傳統(tǒng)行政法理念、規(guī)則帶來沖擊。新經(jīng)濟(jì)社會(huì)結(jié)構(gòu)中處處滲透著參與性、分享性和普惠性，它既有扁平化和去中心化的需求，反過來又造就了以各大平臺(tái)生態(tài)圈的“再中心化”。它們基于自身運(yùn)營發(fā)展需要會(huì)進(jìn)行自主管理和秩序維護(hù)，反而國家由于無暇也無力監(jiān)管，將部分規(guī)則制定權(quán)、審查管理權(quán)讓渡給了各個(gè)網(wǎng)絡(luò)平臺(tái)。比如網(wǎng)絡(luò)安全法、反恐法、《電信和互聯(lián)網(wǎng)用戶個(gè)人信息保護(hù)規(guī)定》等法律規(guī)章所要求的“實(shí)名認(rèn)證”“信息審查”等監(jiān)管權(quán)，就包括制定平臺(tái)規(guī)則、處罰違規(guī)行為、解決平臺(tái)糾紛等“準(zhǔn)立法”“準(zhǔn)執(zhí)法”權(quán)力，這些行政管理職能的實(shí)際行使，多半得依賴于平臺(tái)本身。

此外，“淘寶小二叫板工商總局”等事件中暴露出的，關(guān)于售假是線上問題還是線下問題，是政府監(jiān)管責(zé)任還是電商平臺(tái)責(zé)任的爭論，也凸顯出行政法理論與規(guī)制邏輯遇到的全新難題。

司法實(shí)務(wù)面臨的困擾

一是傳統(tǒng)管轄原則的失靈。由于互聯(lián)網(wǎng)技術(shù)所筑起的網(wǎng)絡(luò)空間具有超越現(xiàn)實(shí)領(lǐng)土與自然國界的虛擬性，使得傳統(tǒng)的級(jí)別管轄和地域管轄出現(xiàn)盲區(qū)，迫使我們不得不重新思考網(wǎng)絡(luò)空間的法律效力。

二是新型犯罪的隱蔽化、智能化和跨境化，使得建立在地域和級(jí)別管轄基礎(chǔ)上的司法體系難以應(yīng)對(duì)，打擊成本高，效率低。實(shí)踐中，GDPR通過其屬人化的數(shù)據(jù)保護(hù)設(shè)定，突破了以往的主權(quán)管轄范圍，有一定可取之處，但同時(shí)也無法避免與現(xiàn)有國際司法制度間的沖突。

三是日益復(fù)雜的法律關(guān)系以及社會(huì)進(jìn)步的需要，給司法水平和司法效能帶來全新的挑戰(zhàn)。法官往往會(huì)因?yàn)閷I(yè)知識(shí)的欠缺，難以就復(fù)雜的事實(shí)問題進(jìn)行認(rèn)定，只能在審判過程中依賴專家證人或擁有專業(yè)知識(shí)的一方當(dāng)事人，這無形中可能會(huì)導(dǎo)致法官偏離了傳統(tǒng)的法律問題，陷入陌生的領(lǐng)域，難以作出準(zhǔn)確裁判。