陪伴型人工智能侵權問題研究

摘要：以算法為核心以情感識別功能為特色的陪伴型人工智能在社會生活中給人們帶來便利、填補精神需求的同時，其也引發了一系列侵權問題亟待解決。目前陪伴型人工智能所存在的侵權問題主要包括立法滯后性、泄露個人數據等隱私權侵權、侵權責任歸屬模糊問題以及其生成物著作權侵權問題。陪伴型人工智能直接與人類交互，發生侵權的危害大于一般人工智能，對此應當注意事前的預防和相關立法規則的完善、建立全面監管機制減少算法黑箱和數據泄露、建立特殊登記制度明確責任主體、明確版權歸屬和侵權責任追究問題。只有技術發展與法律治理同時推進才能推動我國陪伴型人工智能的安全快速發展和法律體系的逐步完善。

關鍵詞：陪伴型人工智能；侵權；法律責任

中圖分類號：D9"""""""文獻標識碼：A""""""doi：10.19311/j.cnki.1672-3198.2025.06.060

1"問題的提出

陪伴型人工智能是以算法為核心技術，能夠通過語音識別、自然語言處理、視覺識別、人臉識別、情感分析等多項技術投其所好，根據人類的喜好和需求為人類提供多樣化、個性化的服務。它有著超出一般人工智能的算法能力，可以通過不斷地自我學習、自我更新來改進自己的理解能力、表達能力，為人們提供更加完美的交互體驗。陪伴型人工智能目前主要涉及家庭陪伴、教育陪伴、醫療陪伴、商務陪伴、娛樂陪伴等多個領域。

當前全球人工智能技術發展迅速，人工智能也是我國國家戰略布局的重要組成部分。2017年7月8日，國務院印發《新一代人工智能發展規劃》，對人工智能及機器人產業的發展作出規劃部署，這也是我國目前為止對機器人產業最高層級的規劃。《規劃》分析了人工智能的發展態勢，確立了指導思想基本原則，制定了三步走戰略，并對行業具體發展作出規劃。2024年全國兩會政府工作報告中強調了人工智能在推動經濟社會發展中的重要作用，提出加大支持力度、推動技術發展、優化產業布局等發展策略。隨著計算機在自然語言處理、語言識別和數據統計等方面能力的提高，目前國內人工智能技術已經廣泛運用到多個領域。在當前的社會經濟環境中，人們生活節奏逐漸加快，時間變得寶貴，上班族青年人、空巢老年人等追求精神層面的情感陪伴的心理需求日益強烈，而陪伴型人工智能的出現恰好可以填補這一心理需求。陪伴型人工智能可以利用自然語言處理技術、情感交流技術與兒童或者孤獨老人對話、提供學習輔導、照顧病人監測病人狀態、陪伴人們娛樂、提供情感支持和心理安慰，為人們的生活學習和工作都帶來了便利和樂趣。

然而，陪伴型人工智能技術的出現給人們帶來便利的同時，如此強大的功能會讓用戶在交互過程中對其專屬的陪伴型人工智能產生情感依賴，沖擊著傳統社會秩序和法律制度，其也引發了一系列法律問題，涉及隱私泄露、數據安全、法律地位、責任認定、知識產權等多個領域。特別是陪伴型人工智能引發的法律問題和一般人工智能引發的法律問題存在一定差異，這是因為情感依賴不同于通常的物質或者心理依賴，它是陪伴型人工智能“精心設計”的運行規則下的風險產物[1]，其法律風險也高于一般人工智能。在發生侵權事件時，陪伴型人工智能不僅可能對用戶造成財產、隱私等實體損害，還可能造成精神損害[2]。由此可見，陪伴型人工智能的侵權法律問題具有一定的獨特性，需要進行專門的研究探討。陪伴型人工智能是人工智能的特殊類型，其與大類人工智能存在共通之處，但又具備自己的獨特之處需要我們單獨關注并深入研究。

2"陪伴型人工智能存在的侵權問題

2.1"陪伴型人工智能侵權法律規則存在滯后性

由于陪伴型人工智能的直接服務對象是人的情感，一旦發生侵權事件，陪伴型人工智能平臺失控的危害遠超一般人工智能，與之相關的人可能不僅會遭到財產方面的損失，更為重要的是可能在精神層面造成難以磨滅的傷害，即從社會事故成本角度來看，陪伴型人工智能的侵權結果成本過于龐大。正因此，比起事后追責，更應當關注事前的預防。人工智能發展迅速，目前我國針對陪伴型人工智能仍欠缺完善的侵權法律規則體系，相關立法存在滯后性。

2.2"算法的不透明性泄露個人數據

在關于人工智能的虛假信息等法律侵權研究方面，陪伴型人工智能作為用于為用戶提供情感支持、社交陪伴、教育輔助等方面的服務，與用戶建立親密聯系和情感聯系的特殊型人工智能，其對人們隱私信息、日常生活動態等內容的捕獲比其他人工智能更為深入、頻繁。

“AI陪伴”軟件侵害人格權案件，該軟件允許用戶創建虛擬人物，并使用公眾人物的姓名和肖像。在未經當事人同意的情況下，軟件中出現了以某公眾人物姓名和肖像為標識的“AI陪伴者”，允許用戶上傳大量該公眾人物的“表情包”，制作圖文互動內容。北京互聯網法院判決該軟件與用戶共同侵犯了原告的肖像權，并要求賠償損失。2017"年國家質監局通過采樣檢查法學發現"80%的批次存在安全隱患，有安全隱患的攝像頭中存在"87.5%的批次樣品存在數據傳輸未加密的問題[3]，這極大地增加了個人隱私泄露、個人數據被不法分子竊取盜用或販賣的風險。以上案例體現了數據的收集與處理技術引發的隱私權侵權問題。陪伴型人工智能的獨特之處是人工智能系統可以與用戶直接交互，這可能導致個人隱私被泄露的概率上升。因為陪伴型人工智能對用戶的反饋機制背后涉及收集、訪問、存儲和處理大量用戶個人數據，如人臉、聲音、圖像和行為數據，算法的不透明性使得個人信息遭受不當使用的風險大大提高。軟件未經用戶同意便交由第三方分析數據或者數據存儲與傳輸過程中未采取數據加密，會導致個人數據泄露或被非法利用，侵犯隱私權、財產權。

2.3"陪伴型人工智能致人損害責任歸屬不清晰

與其他人工智能不同，在處理陪伴型人工智能法律問題時需要考慮其與用戶之間聯系的特殊性，因此對陪伴型人工智能致人損害的責任歸屬問題展開研究非常必要。

人工智能技術已經出現由于自身系統故障、缺陷或者操作失誤致人損害的情況，例如“全國首例機器人傷人事件”，工作人員操縱失誤使機器人“小胖”撞碎玻璃劃傷路人。基于此，陪伴型人工智能一直與人類直接交互且技術更加復雜、自主性逐漸增強，在未來極大概率也會發生系統故障或缺陷等問題而致人損害。其發生故障致人損害具有不可預測性、侵權主客體多樣性、因果關系認定復雜，傳統民事責任的認定已經不適合運用到陪伴型人工智能侵權的責任歸屬[4]。因此，應當提前關注陪伴型人工智能發生致人損害侵權時的責任歸屬問題。討論致人損害侵權責任歸屬問題首先要明確責任主體，陪伴型人工智能是否可以作為責任主體即陪伴型人工智能能否擁有和人類同等地位的法律主體。

陪伴型人工智能與傳統的可以由人類任意支配并可預知結果的機器不同，它具有一定的思考能力和自主能力，有些結果不能被人類所預知，甚至在某些方面可以指導人類或者超越人類，人類對于人工智能的掌控能力逐漸變弱。在這種情況下，就產生了陪伴型人工智能是否能進行主體的邏輯同構對比疑問[5]。人之所以具有權利主體成為法律主體，是因為人具有權利能力，具有理性、自由意志和獨立思考的能力。陪伴型人工智能是否能夠成為法律主體的焦點其是否像人類一樣具有理性、自由意志和獨立思考的能力。若賦予陪伴型人工智能法律主體地位，將對傳統法律中的主體制度產生極大沖擊；若只是將其作為工具體，陪伴型人工智能可能面臨的侵權責任分配問題，包括自我故障或操作不當，致使用戶遭受人身、財產損害或者對個人隱私造成損害，此責任主體包括發明者、生產者、經營者、使用者、所有者，應當如何確定責任主體、具體責任應當如何承擔，目前我國的法律體系中缺乏明確規定。

2.4"陪伴型人工智能生成物侵犯原作者著作權

陪伴型人工智能能夠創作出詩詞、音樂、文章等作品，因為陪伴型人工智能在數據收集階段積累和學習了大量相關素材。在創作輸出時通過對既存數據的檢索與重新整合可以創作出看似沒有任何抄襲的作品。它輸出的作品不是對既存數據的簡單地復制粘貼，這種作品是否可以被定義為原創性作品，這就涉及陪伴型人工智能生成物是否侵犯原作者著作權的問題。

陪伴型人工智能根據主人要求輸出的作品沒有標注參考文獻，沒有標注出處，人們很難判斷它是對他人未經授權的作品的直接使用還是對既存數據中經過授權的他人作品的模仿[6]。究其根源是因為算法的不公開不透明性導致外界不能得知它儲存的數據作品以及輸出作品依據的內容，因此要判斷其生成物是否存在著作權侵權是非常困難的。侵犯原作者著作權的責任應當由技術開發者還是使用陪伴型人工智能的用戶承擔也是一個存在爭議的問題。從技術開發者角度來說，沒有輸入原作者作品的數據積累和訓練，陪伴型人工智能不可能創作出作品，故而應當由數據提供者承擔責任；從用戶角度來說，陪伴型人工智能創作的作品并非事先就在數據庫，若用戶沒有輸入關鍵詞要求它輸出作品，它就不會出現著作權侵權問題，故而應由用戶承擔責任。

3"應對陪伴型人工智能侵權問題的建議

學者們對人工智能侵權問題的研究大多集中于宏觀制度規制方面，很少對某一特定類型的人工智能進行深入的研究，尤其是對陪伴型人工智能基于現代社會發展人們精神情感追求的激增，以及人工智能的發展而衍生的極具特殊性的人工智能，學界對其侵權問題的研究存在空白。

3.1"完善侵權法律規則并設立立法先行試驗區

立法者應當將立法理念轉變為前瞻性立法，深入考察陪伴型專門領域的人工智能發展現狀并把握社會的現實及潛在的需求，結合陪伴型人工智能潛在的侵權法律問題，作出利于我國陪伴型人工智能健康長遠發展的立法規則。盡管前瞻性立法是必要的，在沒有充分把握陪伴型人工智能技術的發展規律和準確預測對未來人類社會的影響前匆匆立法是不合理的，可以選擇重點城市設立立法先行試驗區[7]，之后在全國適用。

3.2"建立監管和審查機制嚴格把控數據安全

建立全面監管機制，包括對陪伴型人工智能設計、算法決策、數據收集、模型訓練等的全方位監管，監管其是否符合我國法律和國家、公共利益的需要，減少陪伴型人工智能出現不可預測的自主性行為。與此同時，相關監管機構建立事后審查制度定期審查前期監管行為是否得到有效實施并審查算法歧視問題，確保算法公正合理運行，減少暗箱操控數據的行為和其他不利于消費者的違法行為的出現。賦予消費者數據限制處理權、拒絕權、自主決定權[8]，數據管理局在各企業內設立數據審核監管員加強個人數據加密，并確保數據處理過程符合相關的數據保護法律規定，發現問題及時修正。

3.3"建立獨特登記制度明確侵權責任歸屬

針對陪伴型人工智能能否作為法律主體并承擔法律責任的問題，筆者認為，陪伴型人工智能仍是以算法為核心，其輸出的內容仍是由大量訓練數據驅動所導致。其次雖然它在某些領域可以自己創作、可以超越人類，但是這種能力不是由其本身所創造的，無論它的神經網絡多么發達，只要脫離人類的訓練和決策、脫離數據則無法得出想要的答案即陪伴型人工智能仍然需要人的干預，不具有完全的獨立性、自主性和靈活性。另外，雖然陪伴型人工智能可以與人類進行情感交互，但存在道德缺陷、情感理解不充分的情況，不具備完全的主觀能動性，因此不應當賦予陪伴型人工智能獨立的法律地位，應當將其作為人類的工具。可以制定特別的法律規則，在法律體系中明確陪伴型人工智能的工具體地位，并建立設計生產者、經營者、所有者、使用者、維修者等人的登記制度，明確責任歸屬。這不僅有利于陪伴型人工智能技術的不斷創新，同時也可以作為受到損害的消費者請求損害賠償的依據。

3.4"采用“通知—消除”規則救濟著作權侵權

陪伴型人工智能創作作品并非依據數據庫進行簡單的摘抄和重新組合，而是根據其強大的神經網絡對數據庫的內容進行檢索篩選后系統地分析學習，最后生成作品。它的自主性讓技術開發者也難以控制其創作的作品是否存在著作權侵權，因此技術開發者不存在直接過錯。而用戶想要讓它生成作品更不會預料到它的作品存在侵權問題，將責任歸結于用戶身上也是無稽之談。既然二者都無法追究責任，如何解決著作權侵權問題呢？筆者認為，服務運營者具有對輸出內容監管的責任和義務，若服務運營者沒有盡到此義務，應當對著作權侵權給原作者造成的實質性損害承擔責任。對于僅供個人學習、生活使用或者欣賞應當認定為合理利用，沒有對他人著作權的合法權益造成損害的不應當追究侵權責任。其次，用戶若在不知情的情況下將陪伴型人工智能存在侵權的生成物對原作者的合法權益造成損害，應當通過“通知—消除”規則，要求陪伴型人工智能服務運營者消除侵權的影響，防止系統再次出現此類侵權作品，服務運營者對未及時采取消除措施造成的損害，擴大部分承擔賠償責任。

4"結論

自20世紀末以來，隨著人工智能技術不斷發展，人們對物質精神的高質量追求，以及老齡化問題的發展，人們對陪伴型人工智能的需求也日益增長。雖然陪伴型人工智能可以給人們帶來情感陪伴、娛樂、護理老人、監測狀態等強大功能，但是由于其技術的復雜性和因果關系認定復雜、法律理論和制度滯后于實際發展情況等原因，出現了包括由算法的不透明性引發的泄露隱私和個人數據等隱私權侵權、由于技術復雜性引發侵權責任歸屬模糊問題以及其生成物的著作權侵權等侵權問題。陪伴型人工智能技術迅猛發展，未來的發展道路仍面臨很多亟待解決的法律問題，只有完善陪伴型人工智能法律規則，加強對陪伴型人工智能的全方位監管，數據管理、控制與保護技術不斷提升，擺正陪伴型人工智能在當今社會所處的位置，明確責任歸屬，才能有效促進陪伴型人工智能的安全快速發展，促進社會不斷進步。

參考文獻

［1］唐婧.注意力經濟下陪伴式人工智能平臺的侵權責任[J].網絡安全與數據治理，2023，42（10）：60-65.

[2]張健明，劉晴.智慧養老視域下老人隱私權保護的特殊性和復雜性研究[J].黑龍江社會科學，2019，（06）：71-76+160.

[3]朱靜潔.智能機器人致人損害民事責任的困境及其破解[J].理論月刊，2020，（01）：130-137.

[4]凌晨.有限理性存在者：智能機器人成為權利主體的理論基石[J].法學論壇，2024，39（01）：82-92.

[5]汪慶華，胡臨天.生成式人工智能責任機制的技術與法律建構[J].中國法律評論，2024，（04）：114-130.

[6]方芳.論人工智能技術應用下的公民權利保障原則及其實現[J].人權研究（輯刊），2021，25（02）：213-235+525.

[7]卓加鵬，仲勇，陸婉清，等.人工智能時代的法律問題探討[J].中國科技資源導刊，2024，56（01）：31-38.

[8]楊顯濱.生成式人工智能服務提供者間接侵權責任的承擔與限制[J].法學家，2024，（03）：46-60+191-192.