人工智能立法的海外狀況及難點分析

武雪健

迅猛發展的人工智能技術亟待相關法律的設立，以對其進行規制和引導，相關技術領先國家也在近些年進行了有益的探索與實踐，但人工智能技術的特殊性也為法律的細化和落地帶來諸多挑戰。

人工智能立法的國外狀況

近年來，人工智能技術發展迅猛并日益滲透到人類生活的多個方面，也正因此，人工智能愈發引起全世界的廣泛關注。人工智能是一種正在給人類社會帶來全方位深刻變革的技術，與以往技術進步相同的是，人工智能同樣由人類開發并以服務人類為目的，但其特殊性在于人工智能的技術核心依賴于機器學習（尤其是無監督學習），這當中就存在著很大的風險和不確定性，還很有可能引發諸多法律監管和倫理道德問題。因而，如何在確保人工智能技術不至于觸及法律底線和引發倫理道德問題的前提下，最大程度地發揮其促進生產力發展、促進社會進步的功能，就必然成為亟待解答的時代課題。例如，聯合國下屬的科學知識和科技倫理世界委員會就在2016年8月發布了《機器人倫理初步報告草案》，認為機器人不僅需要尊重人類社會的倫理規范，還需要將特定倫理準則編寫進機器人程序中。電氣和電子工程師協會則在2016年12月發布《合倫理設計：利用人工智能和自主系統最大化人類福祉的愿景》，就一般原則、倫理、方法論、通用人工智能和超級人工智能的安全與福祉、個人數據、自主武器系統、經濟/人道主義問題、法律等八大主題給出具體建議。與國際組織和社會機構不同的是，超國家組織與各國政府對于人工智能的發展事項具有一定實操性的權能，進行立法引導和規制也就成為人工智能技術領先國家的普遍做法，下文分別就歐盟和美國的立法進行介紹。

1.歐盟：率先提出人工智能立法動議

歐盟是最早進行人工智能立法探討的超國家組織。最早在2015年1月，歐盟議會的法律事務委員會（下稱“委員會”）決定成立一個工作小組來負責研究機器人、人工智能發展等相關法律問題。2016年5月，委員會發布了《就機器人民事法律規則向歐盟委員會提出立法建議的報告草案》；同年10月，又發布研究成果《歐盟機器人民事法律規則》。在這些報告和研究的基礎上，2017年1月12日，委員會以12票贊成、2票反對、2票棄權的結果通過一份決議，在其中提出了一些具體的立法建議，要求歐盟委員會就機器人和人工智能提出立法提案。2017年2月16日，歐盟議會以396票贊成、123票反對、85票棄權的結果通過這份決議。委員會的主要考慮是針對機器人和人工智能出臺民事法律規則，為人工智能研發和審查人員制定倫理守則，從而保證在整個研發和審查環節中都充分考慮到人類價值，最終確保面向消費者和社會的機器人能夠符合人類利益。其中具體的立法建議主要包括以下四個方面。

確定人工智能的倫理準則。在機器人和人工智能的設計、研發、生產和利用過程中，需要一個指導性的倫理框架，確保以符合法律、倫理等標準的方式運作。比如，設計者應當設置一個“一鍵關閉”的功能，從而能夠在緊急情況下將機器人關閉。委員會還提出了“機器人憲章”，這一憲章針對人工智能科研人員和研究倫理委員會，構想了在機器人設計和研發階段需要遵守的基本倫理原則。對于機器人科研人員而言，諸如不作惡、正義、基本權利、可責性、安全性、隱私等都是需要認真對待的事項。此外，還需要倫理審查委員會對人工智能設計和研發進行把關，確保機器人符合人類社會的倫理、法律等規范。

考慮賦予復雜的自主機器人以法律地位的可能性。將人工智能寫入法律，至少要回答關于法律主體地位的兩個問題：其一，機器人應當被界定為自然人、法人、動物還是物體；其二，是否需要創造新的法律主體類型，以便復雜的高級機器人可以享有權利和承擔義務，并對其造成的損害承擔責任。因為界定監管對象是人工智能立法的起點，委員會的觀點是智能自主機器人應屬監管對象，并提出了四大特征加以辨析：（1）通過傳感器和/或借助與其環境交換數據（互聯性）獲得自主性的能力，并能夠分析相應數據；（2）從交互中學習的能力；（3）機器人的物質支撐形式；（4）因環境而調整行為和行動的能力。此外，委員會認為還應當提出機器人的分類標準，建立高級機器人登記制度，從而實現可追溯性，并促進推薦性規范的落實。

實施強制保險機制和賠償基金。自動駕駛汽車、工業機器人、護理機器人等類型的人工智能產品可能完全或者部分脫離人類的控制，一旦對人類和財產造成損害，其設計者和開發者是否應當承擔嚴格責任，抑或承擔有限責任。對此，委員會提出兩個建議：一是對機器人適用強制保險機制，由機器人的生產者或者所有者負責購買，以便對機器人造成的損害進行責任分配；二是設立賠償基金，對強制險未予覆蓋的損害進行賠償，并讓投資人、生產者、消費者等多方主體參與這一機制，從而形成賠償基金。

明確人工智能的“獨立智力創造”。第一，委員會建議歐盟委員會就與軟硬件標準、代碼有關的知識產權提出一個更平衡的路徑，以便在保護創新的同時也促進創新；第二，對于計算機或者機器人創作的可確認版權的作品，需要提出界定人工智能的“獨立智力創造”的標準，以便明確版權歸屬。

2.美國：提出“人工智能未來法案”搶抓發展機遇

雖然特朗普政府對人工智能的反應相對消極，但美國國會認為人工智能可以極大地促進經濟增長，理解人工智能并為其發展和應用做好準備對美國的經濟繁榮與社會穩定至關重要，所以在2017年12月12日提出了“人工智能未來法案”。這一法案的目的在于大力發展人工智能，主要內容是要求商務部設立聯邦人工智能發展與應用咨詢委員會（下稱“人工智能委員會”），并明確了人工智能咨詢委員會的職責、權力、人員構成等內容。

明確發展人工智能的必要性。法案認為，理解人工智能并為其發展做好準備，對美國經濟發展和社會穩定至關重要。因而根據此法案成立的人工智能咨詢委員會有必要就以下議題優先出具指南或建議：其一，建立一個有利的投資和創新環境，以保持美國在人工智能領域的全球競爭力；其二，優化人工智能發展，以處理人工智能發展給勞動力帶來的潛在增長、重塑或改變；其三，推動和支持人工智能的發展和應用；其四，保護個人隱私。

厘清人工智能相關概念。法案對人工智能相關概念作出了一般性解釋，并要求人工智能咨詢委員會根據其解釋修訂并明確人工智能相關概念。法案指出，圍繞人工智能存在不同的定義，總體來看，通用人工智能是未來人工智能概念，即在眾多認知領域上像人類智能那樣靈活和全面的系統，能夠做出智能行為，包括認知、學習、語言、感知、推理和社會化行為等。狹義的人工智能則強調特定應用領域，能夠執行專門的、定義明確的任務，如玩策略游戲、智能翻譯、自動駕駛汽車和圖像識別等。

成立聯邦人工智能發展與應用咨詢委員會，并明確其職責、組成與權力。人工智能咨詢委員會的職責有三點：提建議、從事研究、出具報告和建議。具體而言，提建議的事項包括促進投資和創新、勞動力、教育、倫理研究和培訓、數據開放、國際合作和競爭、法律責任和權利、算法歧視、人工智能與鄉村社區、行政效率十個方面。從事研究的事項包括：（1）創造有利于公共和個人投資的環境；（2）發展人工智能可能對經濟、勞動力市場和美國競爭力的正負面影響；（3）人工智能的應用將如何取代就業機會或者創造新的就業崗位；（4）如何在人工智能開發和相關聯的算法中識別并消除歧視；（5）是否需要以及如何在人工智能開發和應用中融入倫理標準，（6）如何激勵開發可以惠及各社會階層和經濟團體的人工智能技術；（7）人工智能如何影響個人隱私權；（8）人工智能的發展是否會影響消費者保護相關的法律和管理體制；（9）是否需要更新現有的關于數據獲取和隱私保護的法律；（10）聯邦政府如何利用人工智能處理重大且復雜的數據集；（11）多方利益相關者之間的持續對話和談判如何實現將人工智能的潛力最大化；（12）人工智能如何促進政府各個職能領域節約成本和簡化運營。出具報告和建議為人工智能咨詢委員會應于該法案頒布后540天內向商務部長和國會提交人工智能相關事項的研究報告，并對出臺相關立法或行政措施提出建議。人工智能咨詢委員會由19名經商務部任命的投票委員（含1名主席）和眾多非投票委員組成，每年至少召開兩次全體會議，每兩個月召開一次電話會議。其權力包括為行使該法案規定的職責而舉行聽證會、采取行動，收集證據等；必要時向國會、聯邦政府機構提交建議；出具報告、指南和備忘錄；舉行會議和研討；與第三方專家合作并監督員工；建立分會和議會規則等。

人工智能立法的難點分析

從前述梳理可知，雖然人工智能的立法在近幾年得到了相關國家的關注和發展，但相關立法的規定內容實際上多數仍停留在初步構想階段，將人工智能賦予法律主體地位，從而進行立法，這一本應是核心的內容卻少有涉及。究其原因，除卻人工智能技術的發展時間較短，因而相關法律并未及時跟進制定外，人工智能技術本身的特殊性也為立法帶來一些難題。參照刑法學者王素之對于人工智能犯罪的三方面刑法難題的分析——人工智能的刑法地位、人工智能犯罪的主觀方面、人工智能犯罪的客觀方面，下文對其進行法律難點的擴展。

主體難題：人工智能的法律地位。隨著人工智能的發展，其智能化的發展程度和獨立性也愈發突顯。雖然人工智能主要受預設程序的控制，但這并不意味著人工智能不具有獨立性。例如發表特定言論可以構成犯罪，如果他人誘導人工智能散布相關言論該如何認定，特別是該人工智能是基于自身的“學習”并“發表”以上言論時又該如何認定和處理。在傳統的法律認知中，人（法人也是法律主體的人格化）才是法律規制的主要主體。當法律的規制主體變為機器人，就將面臨至少兩個問題：其一，法律需要保證道德主體的權利；其二，機器人也需要遵守法律上的義務。但是現階段人工智能顯然不具備自然人的特征，這會導致在認定其法律行為的認定上存在障礙，在處罰層面也容易存在難以起到有效地震懾犯罪的問題。就此而言，人工智能作為傳統體系的適格主體進入法律范疇存在問題。

罪過難題：人工智能的主觀“認識”方面。隨著人工智能的發展，機器人逐漸能夠從周圍環境的刺激中學習，并從自己的行為中獲得知識和技能，進而可能越來越難以被它們的用戶和設計師預測。一直以來，人的主觀罪過是法律考量的重要元素，獨立意志成為權利、義務、責任包括處罰的前提基礎，構成這一思想的核心是主張尊重理性的觀點。然而我們也了解到，BBC地平線系列紀錄片《尋找人工智能》曾經報道過針刺機器人會根據自己的判斷是否會刺傷人的手指，那么對于其行為的主觀方面該如何認定呢？更何況人工智能領域本就存在強人工智能和弱人工智能的爭論，其中強人工智能的觀點認為未來能夠真正制造出能進行推理和解決問題的智能機器，這種智能機器像人一樣有知覺和意識；弱人工智能的觀點認為，智能機器只是看起來像是智能的，它的智能只是表面的、非實質性的，不會像人類一樣真正擁有智能和意識。這更加使得對人工智能主觀“認識”的判斷成為難題。

行為難題：人工智能的客觀方面。從行為層面，人工智能可能涉及以下兩種類型：第一種類型是本就應用于社會之中，由于人工智能出現問題或其他原因導致不良后果，如特斯拉自動駕駛導致交通事故等嚴重后果的情形。在這種情形中，人工智能本身用途無害，但是客觀上造成了侵害。第二種類型是人工智能被直接用于犯罪。如“全國首例利用人工智能犯罪案”中，人工智能將文本識別技術用于非法獲取個人信息，人工智能被直接用于犯罪目的。在傳統意義上，法律中的行為主要是人的行為。即行為是人的身體活動，犯罪行為必須是在客觀上侵犯了法益，這是行為的實質要素。然而人工智能犯罪中的行為卻處在兩者之間：第一，人工智能的“行為”并非人們所直接發出的，有些甚至并非人們所直接指令其發出的，人工智能的“行為”在歸因于人的過程中存在一定障礙。第二，人工智能的“行為”又與人的行為有一定的關聯，即使未曾直接指令人工智能實施一定的“行為”，但是至少會對人工智能的模式和范式做出設定。由此，如何認定人的行為與人工智能“行為”的性質與界限也是一個需解答的難題。

從海外人工智能立法情況和出現的難點來看，人工智能立法問題必須要加強研究，積極學習海外的經驗。我國對于人工智能產業發展當中出現的社會影響，需要提前加強社會研究，尋找社會共識。在立法上也需要結合經濟學等學科的研究成果，使人工智能的發展能促進社會更美好