人工智能法律主體資格辨思

（華東政法大學,上海 201620）

1 人工智能的概念與分類

人工智能涉及的領域非常之廣泛，有關于人工智能的研究方興未艾。然而，人工智能目前尚沒有受學界統一認可的定義，難以概括出何種計算機程序可以被稱作人工智能。

1.1 人工智能的紛繁定義

擁有“人工智能之父”之譽的約翰·麥卡錫（John McCarthy）在1956年時第一次提到人工智能這個概念。不同于普通計算機程序，人工智能可以獨立分析問題，自主學習并汲取經驗，“量體裁衣”給出解決方案，而非僅僅是被動地接受程序員的操作。羅素（Stuart J.Russell）和諾維格（Peter Norvig）在《人工智能：一種現代方法》一書中提到四種人工智能的定義：像人一樣行動、像人一樣思考、理性思考及理性行動。[1]但這僅僅是基于技術層面提出的人工智能的目標，現實中并不能以機器的外觀與行為表現來斷定其是否達到了人工智能的標準，以防產生在科技與法律層面上理解不一致的歧義。[2]

雖然在現代社會的各領域中均可見人工智能的影子，人工智能已經悄然滲透進人類的生活，但是如若要對人工智能做出一個準確統一的定義仍不是一件易事。許多學者認為人工智能是運用人工手段在計算機上實現的智能，從而構建出一套能夠模仿人類思維方式的智能系統，運用于智能家電與自動駕駛汽車中的軟件系統均在此列。而《人工智能辭典》則將人工智能定義為一種與快速發展的技術有關的系統，這些技術使計算機能夠像人類那樣以智能的方式行動。[3]筆者認為，關于人工智能的眾多定義大體上均認同一個觀點，即人工智能是依托人類意志開發的，根據人類的設計與需求，通過計算機程序實現一系列智能化行動的系統。

1.2 圖靈測試與人工智能

著名計算機科學之父艾倫·麥席森·圖靈為揭示計算機的智能水平而開發的“圖靈測試”則很好地證明了何為人工智能。該測試是通過問一個人類和一臺機器同樣的問題來進行的，如果超過三成的詢問者不能分辨出問題回答者是人還是機器，那么這臺機器就被認為通過了圖靈測試，被認可為人工智能。[4]但有另一種觀點表明，圖靈測試是一項綜合測試而非單域測試，機器在單一領域中的水平再高，只要其不具備綜合決策的能力，就不能斷言其通過了圖靈測試。基于此，學界中有學者認為應將“圖靈測試”定義為一種判定強人工智能的測試。

1.3 強人工智能與弱人工智能

在人工智能的語境中，人工智能又被分為強人工智能與弱人工智能。這二者最本質的區別在于其處理邏輯的形成，前者是主動獲取，而后者是被動接受。弱人工智能只擅長某一領域，如語音識別、人臉識別、計算機圍棋等，但其依賴程序的編寫，僅解決程序設定好的特定問題，也不具有自主意識。弱人工智能的行為嚴格受到程序的規制，以至于當出現程序外的特殊情況時，其將難以進行判定與執行。而強人工智能的智能水平在各個方面的能力都可以與人類相媲美甚至超越人類，擁有自己的思維，能夠同人類一樣學習、認知和解決問題，具有理解事物及自主決策的能力，但也可能因此做出最符合用戶利益卻與用戶意愿相悖的行為。

2 人工智能的現狀與風險

2016年，由谷歌公司研發的人工智能機器人AlphaGo在圍棋挑戰賽中戰勝著名選手李世石，成為第一個戰勝圍棋世界冠軍的機器人。由此引發的人工智能效應掀起了一股關于人工智能的學術熱潮，引發了大量衍生性的研究，也帶來各種關于倫理綱常以及道德標準的探討，使得人們對于人工智能的焦慮日益增長。

2.1 人工智能的現實利弊

如今，在日常現實生活中也不乏諸如無人駕駛汽車、小愛同學和天貓精靈等生活助理、Siri和Cortana等數字助理以及政務服務機器人等人工智能的產物。各類方便快捷的智能設備在人們的生活中隨處可見，人工智能系統在越來越多的領域開始達到甚至超過人類的認知水平，讓其輔助乃至代替人類進行決策已不再是空中樓閣。

隨著人工智能技術的廣泛使用，相關的侵權事件數量也在增加。例如1978年，日本廣島摩托車廠的機器人誤將廠內的工人當作鋼板進行切割導致其死亡，這是世界上第一例“機器人殺人”事件。[5]2015年英國曾報道過大眾機器人“殺人事件”，機器人在安裝過程中將工人扔向一塊金屬板，最終導致其傷勢過重身亡。近年來，無人駕駛汽車也曾發生多起事故，造成人員傷亡。[6]人工智能發展至今，為人類生活帶來了極大便利，但不可否認它的確不完美，在服務人類的同時也有侵犯人類財產甚至人身安全的可能。新技術總會帶來恐慌，但人工智能引起的焦慮卻尤為明顯。

2.2 人工智能的潛在威脅

具有獨立學習和決策能力的強人工智能是能夠自主推理和解決問題的智能機器，可以讓人類生活更加便利，但如果不對其加以有效管理則會對人類造成巨大的生存威脅。2015年霍金發表了一封關于人工智能風險的公開信，警告人們為避免強人工智能的潛在危害，必須在研究其的同時配套相應的預防措施。如信中所述，短期而言，人工智能技術將導致數百萬人失業；長期而言，人工智能的本質是智能機器，遠比人類聰明高效，可能會對計算機代碼與編定程序帶來不利后果；社會層面，如何從法律的角度規范和應對上述風險則值得人類深思熟慮。

這些具體的例證均可見人工智能不是僅僅存在于科幻小說中，其已可像實體一般行事。關于未來是否有可能賦予人工智能以法律主體資格、人工智能的法律地位是否會隨著時間而改變以及人工智能的自主行為造成侵害后果應由誰負責等問題，直到近些年才引起學者的廣泛關注。

3 人工智能法律責任承擔之辯

近年來，人工智能在人類日常生活領域內得到了愈加廣泛的重視，由此引發的人工智能侵權事件也日益增多。面對人工智能的侵權行為造成的損害后果，如何確定責任承擔與損害賠償的主體，學界內主要存在著以下三種觀點。

3.1 第三人替代責任論

有學者認為，在人工智能對他人造成損害時，應當將其界定為該人工智能的開發者、生產者或是經營者的責任，令如上第三人作為人工智能的替代責任人進行賠償。持此種觀點的學者否認人工智能的法律主體地位，僅將人工智能作為產品看待，故其無法對自身的損害行為獨立承擔侵權責任。以開發者或生產者作為責任人的觀點溯及責任源頭，將人工智能生產過程中制造者的不當設計視為引起損害的原因，以此來承擔責任；以經營者作為責任人亦是對買受人及相對人的保障，要求經營者必須對售賣出的產品質量及其導致的損害結果負責。誠然，這一觀點確有其合理之處，但其局限性在于未對人工智能的技術能力進行區分。在不具有自主意識的弱人工智能造成損害時，這些方法或許奏效；但具有自主決策能力的強人工智能是獨立于其開發者、生產者和經營者存在的，斷然懲罰第三人必將傷及無辜。

3.2 程序關閉重置論

程序關閉重置論是指對于釀成過錯的人工智能，只要將其重新編程或關閉系統就足以懲罰并止損，重置后的新程序將避免人工智能再次實施同樣的行為。然而，這只是一個臨時且簡單的解決方案，或許這對原始初級的弱人工智能有效，在將程序重置后，弱人工智能的錯誤會被修正，從而依照新設定的正確程序運行。但這絕對不適用于能獨立自主做出決定的強人工智能，因其具備主動學習、積累經驗并做出自主而非被動決定的特質，強人工智能的錯誤絕不僅僅是程序關閉或重置能夠解決的，這一方法不能確保重新編程后的強人工智能在未來會做出與重新編程之前全然不同的決定。

3.3 強人工智能獨立責任論

與一般的計算機程序不同，在由能做出獨立決策的強人工智能造成損害的案件中，我們很難確定強人工智能的不當決策與其開發者、生產者或經營者行為之間存在何種因果關系，又應當如何分配責任比例。因此，若只是簡單地采取第三人替代責任制，讓人工智能的開發者、生產者或經營者，甚至是操作者或使用者對強人工智能的獨立決策結果承擔責任，將造成責任的轉移，結果必定帶來爭議與不公。

筆者認為，要明確責任承擔者，首先必須區分人工智能的侵害是否是基于獨立決定造成的，即造成損害的是強人工智能還是弱人工智能。若是弱人工智能既定編程的結果或是編程紕漏造成的損失，毫無疑問應當由真正的責任人即錯誤程序的編撰者承擔責任；但若是強人工智能的自主決定造成的他人人身財產受損，此時便應將該強人工智能擬制為一個法律主體，獨立承擔責任。鑒于此，采取強人工智能的獨立責任論是較為明智的決定。

4 人工智能的法律主體資格

不可否認的是，把強人工智能視為獨立承擔責任的個體將大大促進其在民事活動中的參與及權利義務的履行。但與此同時，強人工智能本身是否能在法律術語中被承認為法律主體也是我們需要考慮的問題。

4.1 法律主體的類別

一般來說，法律主體是指活躍在法律活動之中享有權利、負有義務并承擔責任的自然人，但這并不一定意味著只有真實存在的人類才能被當作法律的主體。在我國，法律主體主要包括自然人、法人和非法人組織三類，而現行大陸法系與普通法系國家普遍都承認自然人和法人這兩類法律主體。

自然人是最基本的法律主體，通常被定義為具有自然生物屬性的人。傳統生物學意義上的自然人是基于出生而取得民事主體資格的人。但是根據漢斯·凱爾森（Hans Kelsen）的觀點，把自然人與人的生物學地位等同起來的做法是錯誤的，因為自然人僅僅是賦予人的權利和強加人的義務的法律規范的個體化。[7]然而無論自然人的定義是否與生物屬性直接掛鉤，都不可否認其作為法律主體是毫無爭議的事實，并因此享有權利、承擔義務。除自然人外，法人也是一類典型的法律主體。作為非自然人的法律主體，其當然不享有法律賦予自然人的權利，也無法履行由權利所產生的義務，而僅能在章程的范圍內行事，受到嚴格規制。以公司法中的越權行為原則為例，公司作為一種營利性法人，必須在章程規定的范圍內開展活動，超越章程實施的越權行為，法律將賦予其無效的結果。

4.2 擬制的法律主體：人工智能

如今的人工智能在世界范圍內尚未被承認為法律主體，在現有的法律規定下，人工智能的侵害行為造成的損害賠償責任問題仍未有明確的答案。雖然在2017年機器人索菲亞被沙特阿拉伯王國授予了國籍，成為歷史上首個獲得公民身份的機器人，但沙特王國并未就索菲亞是否可以依公民身份享有與普通公民相同的法律權利并承擔相應的法律義務作出相關規定。[8]可以確定的是，目前人工智能法律地位的缺失只是一個暫時性的問題，其必定會隨著時間的推移與科技的進步而改變。

運用法律擬制的立法技術賦予人工智能獨立的法律人格是處理人類與人工智能之間關系的前提。[9]以胎兒利益保護為例，在涉及胎兒利益的情形下，將胎兒擬制為法律主體從而受到保護是法律進步的大勢所趨。同理，在強人工智能獨立決策致人損害等特定情形下，也應當將其擬制為法律主體，對造成的損害負獨立責任。

4.3 人工智能法律主體的限定要件

自然人或法人要成為法律關系的主體，必須具備兩個結構要素，即權利能力和行為能力。在此背景下，一個自然產生的問題便是：是否可能將上述兩樣法律人格要素應用于人工智能系統。由于強人工智能的自主決策能力、學習能力、記憶能力及其操作的復雜性，其能夠行使特定權利或履行特定義務，并確定其行動的方向及意欲達成的效果。但也基于強人工智能算法操作的特殊性，假如其被認定為法律主體，它的權利和義務的范圍與其他法律主體并不全然相同。

由于人工智能技術的發展階段與內容存在差異，其法律主體資格無法一概而論。將人工智能分為強人工智能和弱人工智能來區別法律地位是更為科學的。這一方法否定了弱人工智能的法律主體資格，確定了強人工智能的法律人格，從而能更好地探討強人工智能規制的必要性。因此，筆者認為弱人工智能當然不具有法律主體資格，但強人工智能也只能在法律嚴格規定的權利義務范圍內行事，這些權利義務的定性將制約強人工智能的行為模式，劃清行為邊界，在可為的情境下為人類創造價值，在不可為而為之的狀態下依其法律主體資格獨立承擔相應責任。與此同時，還應對強人工智能采取注冊制，引入認證證書，在操作實例中進行身份識別，記錄每個環節的對應行為者，從而進行嚴格的管理與規制。

5 結語

在依照程序設定運行的弱人工智能損害他人利益之時，由制造其的相關責任人承擔責任是普遍通行的處理方式。而當能夠獨立決策的強人工智能廣泛參與到人類的生活中時，其做出的決定和采取的行動將或多或少影響用戶個人的生活方式，甚至會做出與個人自由意志相悖的舉動。為防止強人工智能的自主行為侵犯他人權利，并在造成損害的情況下確定其應承擔的法律責任，便需要賦予強人工智能以法律主體資格。如此可將強人工智能與弱人工智能相區別，并將其與開發者、生產者及經營者的意愿分離開來，使其被視為獨立于人類的主體，令人工智能與人類之間的法律關系簡單明確化，對其的法律監管亦更為行之有效，有利于推動相關法律法規的完善和社會制度的變遷。