醫療人工智能的法律思考

于 強，趙 飛

(昆明醫科大學，云南 昆明 650500)

現階段人工智能在醫療領域的發展與應用還處在初級階段，在暢想未來精準、高效的基于人工智能技術的醫療服務時，也應深刻地思考醫療人工智能所面臨的技術、隱私和法律問題[1]。人工智能在醫療健康領域的應用主要包括虛擬助理、病歷與文獻分析、醫療影像、輔助診斷、診療結果預測、藥物研發、健康管理、疾病預測等方面。醫療人工智能應用前景廣闊，不僅會帶來技術方面的重大革命，也存在法律關系、道德倫理、社會治理等方面的新問題和新挑戰。正如習近平總書記指出的“要整合多學科力量，加強人工智能相關法律、倫理、社會問題研究，建立健全保障人工智能健康發展的法律法規、制度體系、倫理道德”[2]。因此，必須未雨綢繆，做好科學理論和認識方法論上的準備和應對。本文將從法律的角度，分析和探討醫療人工智能的法律地位，以及醫療人工智能應用中的隱私權保護和相關法律責任問題。

1 醫療人工智能的定位

2016 年，歐盟委員會的法律事務委員提交了一項動議，建議將最先進的人工智能機器人的身份定位為‘電子人’，由此引發了經久不息的爭論，至今尚未停息[3]。對醫療人工智能法律地位的界定非常重要，只有找到科學的認知方法論，從理論上厘清這個問題，才能解釋和應對隨著醫療人工智能的發展和運用，必然出現的各種復雜、具體的問題，包括高級醫療人工智能中的機器人能否獨立對其醫療行為承擔責任，發生醫患糾紛或侵權行為時追責主體和責任主體如何認定，醫生、患者和醫療人工智能之間的關系是什么等。

從法律領域講，醫療行為屬民事法律關系調整范疇，民事法律關系中的主體包括自然人和法人。賦予人工智能以法律主體資格，有諸多難以逾越的障礙。如果在傳統法律主體觀念下，機器人首先需要具有自我意識才能成為法律主體。但證明機器人具有自我意識而不受人類控制，極具挑戰[4]。法學學科屬社會科學領域，人是目的、而不是工具，這是法哲學的一個基本命題。民法理論中對自然人界定的理論基礎和基本邏輯是超出了自然科學領域生物學范疇的，其中的關鍵在于尊重人的自我意識、主觀能動性、社會性和人格。因此，考察醫療人工智能尤其是高級人工智能中的機器人是否具有民事法律關系中的法律主體地位，關鍵也在于考察其自我意識、主觀能動性、社會性和人格權。之所以要討論這個問題，出發點在于醫療高級人工智能中的機器人似乎已經超出了傳統醫療輔助設備、工具的范疇，其基于人工的智能創造而具備了“智慧”。但事實上，醫療人工智能本質是基于計算機運算、大數據以及移動互聯網技術的綜合運用，完成系統、復雜的計算和集成，并據此作出在速度上遠超醫生這個自然人的判斷和決策。從這個基本原理出發，醫療人工智能并非真正的自我意識基礎上的主觀能動性創造和“智慧”形成。缺乏了這點，醫療人工智能也就不可能存在醫生與患者相互的思想和行為中的社會關系。總之，醫療人工智能無論發展到哪一步，無論多么“高明”，都屬于人類創造的自然物，永遠不能超出人類所創造的工具這一本質屬性。因此，醫療人工智能無法歸入民事法律關系中的自然人主體范疇。當然，有學者認為，如同最初法人獲得法律主體地位一樣，現行法律同樣不需要局限于現有民事主體分類，完全可以新創設一個特殊的人工智能法律主體”[5]。筆者認為，這種設想和設計其實已經超出了本文基于人格權對法律關系主體的探討范圍，如果從功利主義出發，要賦予人工智能一個法律關系的適格主體資格，則另當別論。因此，文中涉及的醫療人工智能是法律關系中的客體，也就是醫生或者患者權利義務所指向的對象，可以具體表現為一種物化的工具、非物質財富即智力成果和行為結果三類。

2 隱私的有效保護

隱私權是一項重要和基本的人權。基本要義包括自然人的私人信息秘密依法受到保護，不被他人非法侵擾、知悉、收集、利用和公開。醫生對患者隱私權的保護有法律上的明確規制，包括醫師在執業活動中履行保護患者隱私的義務；尊重患者的知情同意權和隱私權，為患者保守醫療秘密和健康隱私；泄露患者隱私，造成嚴重后果的，須承擔相應的行政責任或刑事責任。

醫療人工智能的“智慧”來源于生理、病理、病例、藥理等方面信息的集成，從某種程度上講，這些健康醫療大數據量的積累決定了醫療人工智能“智慧”程度的高低，而這些健康醫療大數據又來源于具體的患者，屬患者的私人信息秘密。但目前的基本現實是，人們的隱私數據在信息時代被記錄得越來越多，被侵擾、收集和利用也越演越烈。醫療人工智能中對健康醫療大數據的收集、集成和運用，面臨著科技進步與信息安全、隱私保護之間的突出矛盾。無論是健康醫療大數據生廠商或醫療人工智能制造商，數據信息從何而來？如果沒有法律上的明確授權，或是基于醫學研究或健康促進為目的的隱私侵權的責任排除，這將是一個無法回避也無法解釋的法律問題。

2017年6月1日起施行的《中華人民共和國網絡安全法》，對隱私保護以及信息和數據收集、使用等作出了相關規定：明確任何個人和組織不得利用網絡侵害他人名譽、隱私、知識產權和其他合法權益；網絡產品、服務具有收集用戶信息功能的，其提供者應當向用戶明示并取得同意；任何個人和組織不得從事竊取網絡數據等活動；任何個人和組織不得竊取或者以其他非法方式獲取個人信息，不得非法出售或者非法向他人提供個人信息；網絡運營者應當對其收集的用戶信息嚴格保密，并建立健全用戶信息保護制度；網絡運營者收集、使用個人信息，應當遵循合法、正當、必要的原則，公開收集、使用規則，明示收集、使用信息的目的、方式和范圍，并經被收集者同意等。

總體而言，目前我國對隱私權保護方面的規定散見在不同的法律規定中，且多為一些原則性的、排除性的規定，在侵權發生后的救濟過程中具有操作性的規定不足。同時個人作為侵權控方主體，在取證、舉證環節明顯處于弱勢，救濟很難達成。因此，建立和完善隱私保護方面的立法非常迫切，應明確醫療人工智能發展和技術開發的根本目的，信息采集與隱私保護的平衡關系，授權與信賴保護的關系，信息采集和集成的主體、來源以及責權利，信息采集、集成和使用的界限，相關法律責任及救濟程序等。

3 法律責任的相關問題

醫療人工智能的運用中，必然存在相關責任的明確和追責問題。比如暫且排除醫療人工智能存在的“主觀上”過錯不談，而由于醫療人工智能數據分析和應用的失誤或錯誤，導致輔助診療的失誤或錯誤從而造成醫患糾紛，追責主體是醫生還是患者。責任主體是作為醫療人工智能直接使用的醫生，還是作為醫療人工智能所有者的醫院，或是作為醫療人工智能開發者的生廠商，抑或是作為醫療人工智能提供者的經營者，或者是多種責任主體的共同責任或連帶責任？有學者認為，可以考慮為人工智能設立類似公司注冊資本的基金，施行強制保險制度，在兩個維度上設立人工智能的責任承擔制度[6]。總之，追責的問題需要得到明確的法律解釋和法律明確。另一種情況是，如果醫生和醫療人工智能在診療過程中，在人機對話、交流甚至是“會診”中存在診療的意見分歧，一旦最終的事實是醫療人工智能的“智慧”超越了醫生的“智慧”，是正確的診療結論或方案而醫生未予采用從而導致誤診誤治造成醫患糾紛，醫療人工智能是否能夠作為控方患者的證據提供者指證醫生的診療過錯呢？更深層次的問題是，如若這種情況發生，可能導致醫生威信、聲譽的影響，甚至患者或社會可能對醫生高智力勞動價值的可信度和認可度大打折扣。還有一種情況，高級醫療人工智能有“情緒”和“情感”的感性認知，甚至有“思考”和“判斷”的理性思維。如若患者和醫療人工智能在診療過程中，在人機對話、交流、溝通中，由于患者的言語、行為刺激和侵犯，“惹怒”了醫療人工智能，從而引起醫療人工智能防衛、反擊、攻擊導致侵害的責任追究，也是必須預見和思考的問題。

因此，在將來的相關法律中，應該建立一個完整的醫療人工智能法律責任體系，在明確相關法律關系主體享有的權利、承擔的義務的同時，具體明確追責主體、責任主體、歸責原則、責任情形和法律責任等。

4 結語

習近平總書記在中共中央政治局第九次集體學習時強調指出，“要加強人工智能同保障和改善民生的結合，抓住民生領域的突出矛盾和難點，加強人工智能在教育、醫療衛生、體育、住房、交通、助殘養老、家政服務等領域的深度應用”[7]。人工智能已被廣泛應用在各行各業，醫療健康領域更是重要應用場景之一。據有關方面預測，到 2025 年醫療行業將占世界人工智能市場規模的 1/5。正如有專家指出，“人工智能將給未來醫療技術帶來深刻的變化，是未來醫學創新和改革的強大動力”[8]。醫療人工智能應用，必將助推醫療健康產業發展和衛生健康事業發展，尤其能有效解決優質醫療健康資源配置共享、衛生健康大數據運用、提高預測和診療的精準度，釋放醫生高智力勞動壓力，提高醫用數據精準度和計算效率等問題。

同時，技術革新帶來的社會問題是無法回避的。人工智能時代已經來臨，它不僅改變人類世界，也會深刻改變人類的法律制度[10]。人工智能的發展將對法律形成巨大沖擊，這不僅體現在其對律師行業未來就業率所產生的壓力上，還體現在其對民法、刑法、侵權法、知識產權法等法律條文和判例體系的深遠影響[9]。自然科學與社會科學和人文科學從來都不是背道而馳，科技發展和社會進步的終極目標都在于服務人類這個最高的價值主體。法治要提供制度環境安排，這一安排的質量將直接決定新興科技等的發育狀況[7]。法律作為社會控制的最有效手段、社會穩定的最重要調節器和定紛止爭的評判規則，應有效預見和應對醫療人工智能時代的新挑戰和新問題。據有關報道，全國人大常委會已將數字安全法、個人信息保護法和修改科學技術進步法等人工智能方面立法列入規劃抓緊推進。法律理論、實踐和制度上的進步，必將為醫療人工智能促進人類生命健康發揮重要作用。