電子商務中人工智能體的民事責任研究
——以“電子代理人”為例

張沁芊

(蘇州大學 王健法學院，江蘇 蘇州 215006)

二十一世紀以來，計算機技術和通信技術的結合與發展引發了商業運行模式的深刻變革，電子商務飛速崛起。與此同時，隨著深度學習技術的發展和大數據的應用，人工智能得到了極大程度的發展。基于商事交易的電子化發展趨勢，以電子代理人為代表的人工智能體逐漸應用于電子商務領域。一些商家開始使用電子代理人開展商事活動，這種智能化的交易系統能夠獨立完成特定任務，自動處理數據電文，訂立甚至履行合同。[1]人工智能體能夠減少人力投入，降低交易成本，提升交易效率，推動電子商務的發展，但也引發了一系列民事法律后果歸屬問題。由于電子商務有著異于傳統商務的特性，人工智能的發展更是具有極大的不確定性，傳統民法制度有時會左支右絀。一旦人工智能發展至強人工智能階段，現行民法體系可能會面臨不可小視的理論沖擊。對于電子商務中人工智能體帶來的民法挑戰，應在合理著眼未來的基礎上注重責任歸屬的理論設計。

一、人工智能與電子商務的融合發展

人工智能是一門新技術科學，其目的是模擬、延伸和擴展人的智能，以實現某些腦力勞動的自動化。人工智能自上個世紀五十年代誕生以來經歷了兩次繁榮和兩次低谷，進入低谷的原因主要是由于計算機硬件的落后。[2]目前我們正處于第三個繁榮時期，計算機的性能已經足以支撐更大程度、更多領域的人工智能的發展，而且由于網絡的高速和便捷，“大數據”變得易于獲取，分布式系統也逐漸普及。人工智能將逐漸與互聯網相結合，不局限于單一領域和單一主機，采用分布式計算的人工智能和互聯網領域的人工智能將逐漸成為其發展方向。

人工智能主要包括為完成某項特定功能而設計的弱人工智能和具有類似人類思想的強人工智能，前者的例子有蘋果私人助手Siri、淘寶等交易平臺的機器人客服以及前不久在圍棋上戰勝人類的AlphaGo等等。弱人工智能普遍具有局限性，不具有自我意識并且應用領域較為單一，但隨著技術的進步，其呈現出一種融合發展的態勢，未來的弱人工智能將是多領域人工智能的結合，可以更加自然地與人交互并能夠處理多領域實務。強人工智能則具有比較鮮明的自我意識，具有主動性并且不受某個領域的約束，具有一定的不可控性。目前計算機行業中還沒有公開普及型的強人工智能產品，但IBM、微軟、谷歌等行業巨頭都投入了巨大的人力物力，完成強人工智能的研發只是時間問題，當這種具有情感的“機器”應用于具體行業時，勢必會引起新的法律變革。

上世紀九十年代，計算機網絡技術發展迅速，人們開始使用電子通信手段進行交易，電子商務這一新興交易模式開始起步。[3]隨著技術的革新和互聯網的應用，電子商務在二十一世紀飛速發展。對于電子商務的概念，理論界目前沒有普遍接受的確切定義，可從廣義和狹義兩個層面理解。廣義的電子商務是指一切以電子技術手段進行的、一切與商業有關的活動。其中的“電子技術”包括但不限于電子通信與電子計算技術，其中的“商務”包括不論是契約型或非契約型的一切商務性質的關系所引起的種種事項。[4]狹義的電子商務是指以互聯網為運行平臺的交易活動，其將“電子”限定為計算機網絡技術，將“商務”限定為需要訂立合同或契約的交易活動，而非單純的信息傳遞。

隨著電子商務的持續發展，商業模式不斷創新，其應用范圍和市場規模不斷擴展，人們開始尋求各種自動化的商事工具，來應對持續增長的商事規模。由此，人工智能逐漸應用于電子商務領域，這些人工智能體能夠有效地降低商事成本，增加交易方便度，極大地推動了電子商務的發展。但由于電子商務和人工智能所依托的網絡環境的自由化和計算機技術的復雜化，人工智能體的應用引發了一系列民事責任的承擔問題，并可能在人工智能快速發展的同時愈演愈烈。

二、人工智能體的民法挑戰：以“電子代理人”為例

人工智能體在電子商務活動中的功能主要包括智能消費客服、推薦與個性化預測、營銷效果預測等等。其中，作為人工智能體之一的電子代理人，是人工智能在電子商務中最具代表性的應用，基本涵蓋了電子商務中人工智能體的共性功能與特征，從電子代理人入手能夠更加全面地剖析人工智能體潛在的民事責任歸屬問題。

1.電子代理人的應用現狀與發展前景。“電子代理人”(Electronic Agent)一詞最初源于美國法學會發布的《統一計算機信息交易法》(UCITA，1999)，該法第102條將電子代理人定義為：“電子代理人是一種計算機程序、電子化手段或其他自動化手段，其能獨立地做出行為、對電子信息和履行做出回應，在此過程中無需人工介入。”之后，美國《統一電子交易法》(UETA，1999)在該條款的基礎上稍加改動，對其定義為：“電子代理人是指一種計算機程序、電子化手段或其他自動化手段，其能獨立地做出行為、全部或部分地對電子記錄和履行做出回應，無需人工檢查或操作。”此后的美國《全球和全國商務電子簽名法》(E-SIGN，2000)和《統一商法典》(UCC)買賣篇(2003年修改)都沿用了《統一電子交易法》的定義。此外，加拿大《統一電子商務法》(UECA，1999)對電子代理人作出的定義為：“電子代理人是一種計算機程序，或任何電子化手段，其被用來做出行為、全部或部分地對電子文件和履行做出回應，在此過程中不需要自然人的檢查。”聯合國貿法會在其發布的《電子簽名統一規則(草案)》(DURES,1999)中提出了“電子代理人”(Electronic Agent)一詞，從而在世界范圍內確定了此概念。

由此可見，電子代理人在電子商務中得到了廣泛的應用和認可，在理論界已被逐漸推廣為通用的術語，雖然各國法律對電子代理人概念的表述不盡相同，但這些定義的實質相同。通過這些定義可發現，電子代理人是一種能夠獨立回應、處理電子數據的自動化工具，具有智能性、交互性等特征。[5]智能性是指電子代理人能夠主動做出某些行為，或對接收到的電子數據做出判斷和回應。在實際應用中，根據不同的預設程序，低智能的電子代理人可為“被代理人”提供選擇性建議，高智能的電子代理人可為“被代理人”直接做出決定。交互性是指電子代理人在運作過程中能依特定語言與不同對象進行通信，完成既定任務，其交互對象主要包括自然人和其他電子代理人。

目前，電子商務中的人工智能體仍然停留在弱人工智能的初級階段。以電子代理人為例，它們雖然能夠在運作過程中做出主動性表達和被動性回應，代替人工管理交易、解決問題，并在一定程度上學習現有規律，但仍需要設計者預設程序，需要使用者的不斷指示，不能完全獨立地應對新情況。電子代理人沒有獨立的意思表達能力，只能在被代理人提前設定的意思范圍內做出表達，在很多非程序化的具體交易過程中，電子代理人尚無法替代人類的高度智能進行綜合性判斷。

在人工智能深入研究的趨勢下，強人工智能是人工智能發展的最終目標，電子商務終將邁入認知商務時代，人工智能體在電子商務領域中的應用將有進一步的突破。[6]在大數據時代，人工智能體將接觸和處理更多數據，一個強人工智能電子代理人將具有類似人的情感，具有主動性和相當強大的推理能力。基于強大的實時洞察和認知能力，強人工智能電子代理人能夠預測未來，實時同步地開展行動，甚至完全不需要人工參與。

與目前的電子代理人相比，強人工智能電子代理人將更加智能化、個性化與精確化。首先，強人工智能電子代理人可以開展分析，幫助商家進行客戶分析和商品銷售規劃，優化營銷、銷售和價值鏈服務。其次，強人工智能電子代理人可以提前為客戶著想，了解他們的需求，以人性化方式與客戶深入互動。再次，強人工智能電子代理人可以精確推斷出交易雙方的需求和能力，結合習慣喜好等因素自主選擇交易目標，從交易的預測到交易的開始，再到交易的結束，強人工智能電子代理人可通過人工智能選取最高效的、最令交易雙方滿意的解決方案，實現效益的最大化。最后，強人工智能電子代理人交易的安全性和及時性也可通過其人工智能得到保障，強人工智能電子代理人通過對海量數據的分析和學習，將學習規避風險和注重實效，而不再是被動應對。

2.電子代理人的民事責任歸屬問題。電子商務中的人工智能體以計算機網絡為依托，開展大量的商事活動，以電子代理人為代表的人工智能體作為電子商務活動中的重要角色，其運行涉及多方主體，包括設計者、服務提供商和使用者，這些主體對電子代理人均擁有不同程度的控制權。在一般情況下，電子代理人的行為效力歸屬較為明晰，但由于網絡的虛擬化和自由化程度較高，且人工智能技術正處于急速發展的狀態，在特殊情況下，電子代理人行為后果的責任承擔相對復雜，下面予以分述。

(1)正常情況下的民事責任歸屬。對于正常情況下電子代理人活動的效力歸屬，在目前涉及電子代理人的法律中，已作出了較為明確的規定。如我國《電子商務法》第48條第1款規定，電子商務當事人使用自動信息系統訂立或者履行合同的行為對使用該系統的當事人具有法律效力；聯合國貿法會《電子商務示范法》第13條第2款指出，對于數據電文的歸屬，就發端方與接收方之間而言，數據電文由發端方的自動信息系統發送時，視為發端方的數據電文；美國《統一計算機信息交易法》第107條第4款規定，任何人如使用其選擇的電子代理人進行簽章、履行或訂立協議，包括意為同意的表示，應受該電子代理人操作的約束，即使個人對電子代理人的操作或操作的結果不知道或沒有審查。

電子代理人是按照一定范式運作的自動化交易系統，電子代理人在其編程技術結構的范圍內接受使用者的授權，按照設計者預設的運行模式，從事網上交易行為。一般情況下，電子代理人通常按部就班地進行締約、履約等日常工作，不出現任何差錯，不會超過預定范圍自主作出意思表示。在傳統代理制度中，代理人在代理權限內所做行為的后果歸屬于被代理人。電子代理人正常運行時，可以正確執行使用者的真實意志，屬于在代理權限范圍內做出“代理行為”，因而此類活動的行為效力應歸屬于使用者。[7]

(2)異常情況下的民事責任歸屬。電子代理人的運作涉及多方主體，各方主體對電子代理人的活動均有一定的影響力，一旦電子代理人活動異常，其法律后果歸屬往往難以確定，現行民法對此尚無具體詳盡的規定。

一方面，電子代理人可能會導致交易行為錯誤。電子代理人是一個虛擬程序，交易主體無法采用傳統的當面交流方式，而需使用電子產品的終端進行交流。由于電子環境具有較強的不可控性，電子代理人的活動極易受影響。因此，電子代理人時常出現錯誤的交易行為，主要包括兩種情況。第一，電子代理人會出現締約錯誤，原因可能來自使用者、程序設計者或黑客。例如，在委托授權階段，若使用者對交易的對象、數量、質量等產生了認識錯誤，或在鍵入交易數據時出現了輸入錯誤，則會對電子代理人進行錯誤授權，做出不真實的意思表示，導致電子代理人締約錯誤。在此種情形下，對于使用者的認識錯誤，可按照傳統合同法的相關規則解決。而對于輸入性錯誤，使用者是否能夠主張變更或撤銷合同，考慮到電子商務的便捷性和舉證的困難性，學界對此并無通說。若合同被判定為不成立、無效或被變更、撤銷，對于交易相對人的信賴利益的損失，使用者理應承擔締約過失責任。但若使用者的過失是由于電子代理人未設置合理的提醒程序，那么使用者能否提出抗辯，并要求由程序設計者來承擔交易相對人的損失，法律并未作出規定，此時締約錯誤的責任歸屬難以確定。第二，電子代理人會出現履約錯誤，原因可能是其自身存在程序漏洞或遭到黑客入侵。在電子代理人自身存在程序漏洞的情況下，根據合同相對性原理，電子代理人引起的違約責任應由其使用者承擔，再由使用者向設計者追責。但在電子代理人遭到黑客入侵的情況下，由于黑客具有極強的隱蔽性，難以追責，是否應將黑客入侵視為不可抗力而對使用者部分或全部免責，此時不同的理論選擇會使電子代理人違約責任的最終承擔者有所差異。

另一方面，電子代理人在運行異常的情況下，除了會因交易錯誤損害交易主體的財產權等權利外，還存在其他侵權可能性。電子代理人承載著相當龐大的信息數據，這些信息數據可能涉及交易主體的人身權和財產權。而電子代理人的系統安全漏洞、數據加密程度、病毒或黑客入侵等因素都可能導致這些信息丟失，或被篡改、破壞，從而產生侵權后果。由于電子代理人涉及的主體較多，對于此類侵權后果的責任歸屬問題，應該如何確定責任主體，如何適用歸責原則，傳統的歸責原則能否同樣適用于電子代理人，學者的觀點多有不同，各國法律對此也未作出明確規定。

三、電子商務中人工智能體的民事責任承擔

根據前文關于電子代理人民事責任歸屬問題的論述可知，目前人工智能體在電子商務中的應用帶來了大量的民事責任承擔問題，對于此類民事責任應如何歸責，現行民法尚無具體規定，隨著人工智能技術的發展，這些問題會進一步凸顯。除了在計算機領域進行技術完善外，現行民法也必須正視和解決此類問題，明確不同情況下的民事責任承擔。如前所述，人工智能體依據其是否擁有思維而被分為弱人工智能體與強人工智能體，對于不同類型的人工智能體導致的法律后果，應分別規定不同的民事責任承擔方式。

1.弱人工智能體應用中的民事責任。弱人工智能體的智能化程度具有局限性，只能在設計者的編程范圍內以及使用者的指令范圍內開展活動，其活動能力是基于計算機程序或自動化手段的本質而存在的，并沒有獨立的意思表達能力，本質上只是一種交易工具。對于弱人工智能體正常的締約、履約等行為，應將其效力歸屬于弱人工智能體的使用者，對于弱人工智能體運行異常時的錯誤交易行為和侵權行為，其責任歸屬情況較為復雜，現有法律并未作出具體規定。由于弱人工智能體活動異常的成因較多，不同成因必然導致不同的法律后果和法律救濟，本文擬從異常原因角度進行責任歸屬的理論設計。

(1)使用者行為錯誤。使用者的行為錯誤主要表現為輸入性錯誤，對弱人工智能體做出了不正確的授權，致使弱人工智能體錯誤締約，由此訂立的合同存在意思表示瑕疵。對此情形下的責任歸屬判定，應更深入地分析使用者出現行為錯誤的原因，考慮使用者做出該錯誤行為時弱人工智能體是否給出了提醒程序。若弱人工智能體提供了醒目的提醒界面，使用者完全是由于自身的失誤致使行為出錯，則締約錯誤的責任應歸屬于使用者；[8]若弱人工智能體未設置提醒程序，或提醒程序設置不合理，無法對使用者作出醒目提示以使其避免或更改錯誤，此時該締約錯誤可能涉及程序設計者的過錯，屬于程序技術缺陷的討論范疇。

(2)程序技術缺陷。弱人工智能體若自身存在程序缺陷，極易使其承載的信息數據在存儲或傳輸的過程中丟失或出錯，這不僅會導致上文提到的締約錯誤，還會導致履約錯誤以及信息數據的泄露，影響電子交易和信息安全，引發締約過失責任、違約責任和侵權責任的承擔問題。

對于弱人工智能體因自身技術缺陷產生的締約過失責任，應由使用者承擔。締約過失責任是指在合同訂立過程中，一方因違背其依據誠實信用原則所產生的義務，而致另一方的信賴利益的損失，對此應承擔損害賠償責任。[9]在弱人工智能體存在程序缺陷的情況下(如缺少合理的提醒程序)，若使用者也存在一定過錯，在操作系統時未盡注意義務，做出了錯誤的意思表示，導致合同不成立、無效、被撤銷等等而損害交易相對人的信賴利益，使用者應承擔締約過失責任。由于弱人工智能體存在程序缺陷，未合理規避使用者可能出現的操作錯誤，使用者對其自身的損失，可向負責弱人工智能體程序技術的第三人追責。

對于弱人工智能體因自身技術缺陷產生的違約責任，按照合同相對性規則，使用者需承擔直接責任。但此時使用者的違約是由弱人工智能體的程序技術缺陷引起的，因此，使用者可向第三人追責。需要說明的是，此處的第三人在理論上包括人工智能體的程序設計者和程序運營商，但在實際情況中，運營商通常自行研發人工智能體，設計者與運營商合二為一，且即使運營商選擇弱人工智能體外包，其技術更新與日常維護也是由外包的程序設計者負責。因此本文只將設計者作為責任歸屬的討論對象，若二者出現分離，具體的追責方式可根據產品質量的相關規定解決。

對于弱人工智能體因自身技術缺陷產生的侵權責任，應推定弱人工智能體的程序設計者存在過錯，若設計者無法證明自己沒有過錯，應當承擔侵權責任。此處選擇適用過錯推定原則來確定責任承擔者的理由是，弱人工智能體的活動具有自動性且涉及較多技術問題，被侵權人難以證明設計者在程序設計中存在的過錯，容易出現無人擔責的情況，而過錯推定原則在一定程度上可以保障被侵權人的權利救濟。[10]此外，若設計者能夠證明被侵權人對損害的發生也有過錯，例如被侵權人未及時下載安裝弱人工智能體的更新補丁，未盡必要注意義務，存在一定過錯，則可減輕設計者的責任。

(3)黑客惡意入侵。弱人工智能體活動異常的另一可能原因是黑客入侵，黑客會惡意攻擊或利用病毒侵害弱人工智能體，破壞信息數據的完整性和正確性，使弱人工智能體出現系統運行混亂、信息數據被篡改等情況，對交易秩序和信息安全造成重大破壞，導致締約過失責任、違約責任和侵權責任的產生。

對于弱人工智能體因黑客入侵而產生的締約過失責任，應由使用者承擔責任。在黑客入侵的情況下，若由于使用者未及時更新弱人工智能體的安全補丁，導致弱人工智能體無法抵御黑客入侵，則使用者存在過錯，需要對由此產生的交易相對人的信賴利益損失承擔賠償責任。使用者對其自身的損失，可按照侵權責任規則向黑客追責。

對于弱人工智能體因黑客入侵而產生的違約責任，按照合同相對性原則，使用者需承擔直接責任。但使用者是因黑客的入侵而違約，對于自身的損失，其可按照相關規則向黑客追責。但若該黑客的攻擊活動屬于無法預見、無法避免、無法克服的客觀情況，則使用者應按照傳統合同法的規定，根據不可抗力的影響，部分或全部地免除責任。

對于弱人工智能體因遭到黑客入侵而產生的侵權責任，由于黑客具有極強的隱蔽性，應根據黑客的追蹤情況考慮不同的責任歸屬。在成功追蹤黑客并確定其身份的情況下，應按照過錯責任原則判定其承擔侵權責任。同時，就弱人工智能體的設計者而言，若其知曉黑客的入侵活動卻無合理舉措的，應承擔相應的民事責任；若其在接到被侵權人通知后未及時采取必要措施的，應對損失的擴大部分與黑客承擔連帶責任。[11]在黑客難以追蹤、無法確定身份的情況下，被侵權人的權利得不到救濟，此時應推定弱人工智能體的程序存在安全漏洞，推定其設計者存在過錯。若設計者無法證明自己沒有過錯，就應承擔侵權責任；若設計者證明自己已履行防范義務，該黑客的入侵活動屬于無法預見、無法避免、無法克服的情況，則其不承擔責任，此時可考慮按照公平責任原則由雙方分擔損失。

2.強人工智能體應用中的民事責任。強人工智能體的智能化程度較高，一旦人工智能體發展到強人工智能的階段，其信息搜集能力和交易快捷度將會有質的提升，具有主動性和一定的不可控性。一方面，強人工智能體能夠在預設的程序范圍內進行活動，此時的民事責任承擔與弱人工智能體的民事責任承擔方式無異。另一方面，強人工智能體能夠在預設程序范圍外根據自我分析作出即時自動決策，此時強人工智能體具備獨立的意思表示，不宜將其引發的責任歸結于使用者、設計者等相關主體，應考慮由強人工智能體自身承擔相應的民事責任。

強人工智能體具有強大的判斷分析能力，能夠積極主動地進行認知和預測，自行處理委托事務，強人工智能體的行為具有獨立性，應承擔自己行為引發的法律后果。部分學者提出將其認定為有行為能力但無權利能力的主體，[12]這實際上仍然是工具論的延伸，并沒有解決強人工智能體的責任承擔問題。一方面，強人工智能體可以根據自我判斷為使用者衡量利弊，可獨立做出意思表示，進行商事活動，該行為本質與自然人一致。另一方面，當強人工智能體并不按照設計者預設的程序進行活動時，其在運行過程中的行為是使用者和設計者都無法預測的。若仍適用現有理論否認法律主體資格，認為強人工智能體是沒有權利能力和行為能力的交易工具，那么相關主體可能會承擔過多不可測的風險，不利于糾紛的解決和強人工智能體的應用。因此，應考慮法律擬制賦予其法律主體資格，將其視為一般自然人，則其從事的民事行為，就能夠適用民事制度的相關規定，在行為的方式、效力、后果歸屬上都將有完備的理論解釋。強人工智能體在具備法律主體資格的情況下，若由于缺少財產而無法擔責，將不利于糾紛的解決。此時可以考慮設立強人工智能體注冊機構，由設計者或運營商向注冊機構交付一定財產，使強人工智能體擁有一定的獨立財產以承擔相應的民事責任，強人工智能體日后運行所獲的利潤也可相應納入其獨立資本中。

此外，人工智能體的應用審查機制也應得到嚴格規范。在認知商務時代，強人工智能體具有極高的數據搜集分析能力，自由化程度高，如果不對其研發加以控制，極可能有被惡意利用的強人工智能體，出現由于強人工智能體因其行為的獨立性而需自行承擔相關后果，其設計者或操控者可能會以此逃避法律責任。因此，必須建立人工智能體的程序審查機制，加強對人工智能體研發環節、驗收試用環節、市場運營環節的監督與管理工作，防止存在安全性問題的人工智能體投入應用于電子商務領域。與此同時，還應設定合理的人工智能體智能化程度劃分標準，用以判定某具體人工智能體是否能夠成為法律關系主體，從而適用不同的民事責任承擔方式。

四、結 語

我國電子商務領域目前應用的人工智能體為弱人工智能體，雖然尚不足以對民事法律帶來顛覆性的挑戰，但相較于傳統交易活動，已經出現了許多難以解決的民事糾紛。隨著人工智能技術的進一步發展，人工智能體的智能化程度必將進一步提高，雖然強人工智能體目前尚未問世，但面對日新月異的科學技術，我們必須著眼于可能出現的民事法律問題，思考相應的制度規范。由于電子商務領域是人工智能技術應用的典型領域，本文只對人工智能體在電子商務領域可能引發的民事責任歸屬問題進行探討。但人工智能體的應用范圍極其廣泛，人工智能體在其他領域內的應用所產生的民事責任應如何歸結，仍有待進一步研究。