人工智能診療的倫理挑戰

楊 放，劉 開，常運立

(海軍軍醫大學基礎醫學院，上海 200433，qqyxllxh@163.com)

人工智能(Artificial Intelligence，AI)作為新興的最前沿的熱門研究應用課題，在各大領域都已經得到了廣泛的應用或有了明確的應用前景。其所具有的學習能力使得它在各個實踐領域發揮了巨大的作用。而醫學作為一門需要扎實理論基礎和大量臨床經驗的實踐性學科，培養一名合格的醫生需要較長的周期，與之相對的社會對于醫療服務的需求又日漸增長。人工智能的出現提供了良好的、可以彌補這一供需缺口的可行性思路。然而，作為一種還尚未成熟的與“人”相關的科學技術，其本身具有的主客體倫理問題的不成熟性，加之與醫學的結合，使得其在有關倫理問題方面面臨了許多挑戰。

1 人工智能倫理現狀

1.1 國際人工智能倫理共識

隨著人工智能的發展，其所對應產生的倫理問題也逐步浮現。國際上目前有兩套被普遍認可的人工智能倫理共識：一個是“阿西洛馬人工智能原則”(Asilomar AI Principles)，另一個則是國際電氣電子工程師學會(IEEE)組織提出的“人工智能設計的倫理準則”[1]。

以2017年1月初舉行的“Beneficial AI”會議為基礎建立起來的“阿西洛馬人工智能原則”，其名稱來自此次會議的地點—美國加州的阿西洛馬(Asilomar)市，旨在確保AI為人類利益服務。“阿西洛馬人工智能原則”是對于阿西莫夫機器人學三定律的智能化擴展。“阿西洛馬人工智能原則”分為三大類，分別為科研項目(Research Issues)、倫理價值(Ethics and Values)、長期問題(Longer-term Issues)，共計二十三項。其中與倫理相關的有十三項：安全性、透明性、司法制度性、責任性、價值歸屬、人類價值觀、隱私性、隱私與自由的沖突性、利益分配、進步性、人類控制、非顛覆、人工智能軍備競賽[1]。“阿西洛馬人工智能原則”表明了“若無必要，勿增實體”的原則。人工智能的發展應在保證人類不被替代的前提下展開，而并非單純的為經濟利益所驅使。最終一切都應當以人類的健康發展為最終目的。與此同時，維護一個尊重隱私進步創新的研究環境也是其發展進步的前提。在這個前提下才能確保研究人員和政策的制定者在發展人工智能的同時，不使用違反倫理、法律的手段進行惡性競爭。

國際電氣電子工程師學會(IEEE)于2016年12月和2017年12月先后發布兩版《人工智能設計的倫理準則》白皮書(EthicallyAlignedDesign)。在第二版的《人工智能設計的倫理準則》白皮書中，他們提出只有通過教育、培訓和授權，才能保證參與研究設計人工智能的各方擯棄利益最優的原則，而優先考慮倫理問題。這項準則有五個核心的原則：人權、問責、福祉、透明、不濫用。白皮書認為人工智能系統“造福人類”的目的優先級應該高于“進步與發展”。這也是這項科技能夠推廣使用的普遍前提[2]。

以上兩項作為目前國際社會相關領域比較公認的倫理共識，初步滿足了人工智能在產業發展過程中迫切需要的倫理學準則認定，為相關產業提供風險把控、評估和應對的系統性指導。

同樣面對人工智能的迅猛發展，歐盟委員會在2019年4月8日以“建立對以人為本AI的信任”為題，發布了歐洲版的AI倫理準則。歐盟AI高級專家組為了實現“可信任AI”，確立了三項基本原則：AI應當符合法律規定、AI應當滿足倫理原則、AI應當具有可靠性。根據這三項基本原則和歐洲社會價值觀，該準則提出，“可信任的AI”應當滿足七項關鍵要點，具體包括：人類監督、安全可靠、數據隱私、透明度、多樣性、非歧視性和公平性、福祉、問責。信任的前提條件是堅定以人為本的準則不動搖，AI應當是賦能于人類而非取代人類。因此，AI必須獲得人們的信任。雖然這些關鍵要求是所有AI使用的前提要素，但是實際應用中還是應當根據實際情況制定實施標準。

1.2 國內人工智能倫理發展現狀

我國目前也將人工智能的發展上升到了國家戰略的高度，相關的法律法規也已經開始了具體的制定和出臺。2017年7月20日，國務院印發了關于《新一代人工智能發展規劃》(以下簡稱《規劃》)的文件，提出了對于人工智能管理的法律政策體系的三步走戰略：第一步到2020年，初步建立人工智能相關的倫理法規；第二步到2025年，初步建立新一代人工智能技術體系，形成對于人工智能的安全評估和規范化管控；第三步到2030年，建成關于人工智能完善的法律法規和政策體系。《規劃》強調，要從法律法規、倫理規范、重點政策、知識產權與標準、安全監管與評估、勞動力培訓、科學普及等方面做好人工智能發展的重要保障。2018年1月，國家人工智能標準化總體組成立，發布了《人工智能標準化白皮書(2018 版)》，提出要建立一個令人工智能造福于社會，保護公眾利益的政策、法律和標準化環境[3]。白皮書討論了有關人工智能安全、倫理、隱私的政策和法律問題。其中，重點強調了兩大原則：人類利益原則與責任原則。兩項原則提出，一切人工智能的發展和使用都應以保障和實現人類利益為最終目的。在發展技術和應用實踐中要明確責任體系，落實問責和賠償體系，保證人類福祉的同時降低技術風險和對社會的負面影響。人工智能的開發方應該平衡隱私與公開透明，擔負起與權力相匹配的責任。2019年4月，國家人工智能標準化總體組發布《人工智能倫理風險分析報告》，更進一步闡述了人工智能的利益問題要從算法、數據安全和社會影響三方面進行多角度考慮。

2 醫療人工智能與其應用

2.1 醫療人工智能概述

醫療人工智能是一門通過發展研究人工智能在醫學領域的應用，以達到用人工智能幫助甚至于代替醫療工作者進行診斷與治療的新興醫療科學技術。早在20世紀，醫學就被認為是人工智能最有前途的應用領域之一。自20世紀中葉以來，研究人員提出并開發了許多臨床決策支持系統。基于基本規則建立的智能診斷系統在20世紀70年代取得了許多成功，并已被證明可以診斷疾病、選擇適當的治療方法、提供對臨床推理的解釋，并協助醫生在復雜的患者病例中進行假設診斷[4]。像任何教科書一樣，這種智能系統需要人工的編撰和更新。這使其構建成本十分高昂，且在使用上并不十分穩定與可靠，難以在需要決策時進行明確的表達。此外，設計者很難對于系統中不同專家撰寫的不同知識之間的高階交互進行編碼，使得系統的性能受到現有醫學知識和人工智能編碼能力的雙重限制。

近年來，隨著人工智能的快速發展，其已經開始被大規模應用于醫療相關行業中，在輔助診斷、醫學影像識別以及疾病的預防檢測等方面取得長足進展。通過對大數據的采集、分析以及應用，醫療工作者可以通過讓智能系統完成一些檢測類的重復勞動，并且輔助診斷和治療方法的決策，從而更加高效、精準的為患者提供診療服務。人工智能醫療的時代已經來臨。在歐美發達地區，人工智能在醫療體系中早已廣泛應用。 而我國的醫療人工智能作為一項重要提議也已被提上了日程。通過大力發展醫療領域人工智能，推廣其應用成了建立精準高效醫療體系的重要手段。然而，人工智能雖然能夠改善醫療服務的質量、提高診療的效率，但是人工智能這項技術伴隨而來的倫理問題是不容忽視的。

2.2 人工智能醫療應用情況

人工智能在醫療領域最為突出的應用形式便是智能診斷。隨著醫療數據的積累和數據庫的建立，樣本量的增大對于人工智能的學習分析起到了極大的促進作用。目前而言，進行疾病診斷和治療的主體依然是醫生，但是相對傳統的問診、觸診、檢測、診斷的流程而言，新的人工智能技術在判斷診療依據和技術手段上帶來了巨大的變革。從醫院技術層面上說，智能診斷是由機器通過智能化的學習、分析，發掘出的對醫療機構或醫療人員收集的大量病例的數據依托和處理辦法，從而作出高度準確的診斷決策。智能診斷可以為醫療機構或人員提高對應服務的效率，從而實現更為可靠有效的醫療服務管理。隨著人工智能不斷進入醫療領域的各方面，醫生對于機器診斷的使用正在不斷增多，某些領域諸如放射科、影像科對于機器，尤其是能夠輔助分析的人工智能系統的依賴正在逐步加強，人工智能給整個醫療體系帶來了巨大的沖擊，甚至于在某些領域有極大可能完全替代人類醫生的作用。

在輔助智能診斷這一方面，人工智能也正在被應用于一線臨床診斷與治療，其中最重要也是目前應用最多、最廣為人知的應用形式便是手術機器人。20世紀80年代以來，對于手術機器人的理論和使用可行性的探索就已經開始，但是高昂的成本成為阻止其發展與普及的最大阻礙。而現在，伴隨著人工智能技術的成熟和智能設備的發展與普及，成本的下降是必然的。當下，手術機器人在一線臨床的使用上已經逐漸普及，尤其在微創手術領域，因其所具有的精準性和高效性，備受醫患雙方的青睞。手術機器人分為兩個層級：一是由醫生遠程操控機器人進行手術治療；二是具有學習能力的智能化全自動的手術機器人。

人工智能已經逐步成了醫療機構診療過程中重要的一環，其滲透的領域包括了在線預約、醫療中心在線簽到、醫療記錄數字化、隨訪提醒以及藥物處方多種藥物組合時的劑量算法和不良反應警告。影像學是人工智能最前沿的使用學科。人工智能最初用于臨床成像中諸如圖像獲取和存儲之類的管理工作，如今隨著數據分析和通信技術的發展，計算機的輔助功能已成為工作環境中不可或缺的組成部分，比如CAD(計算機輔助診斷技術)已成乳腺鉬靶篩查中成了必需的環節[5]。人工智能輔助識別動態和靜態醫學影像的能力因為其具有檢測速度快、檢測精度高、持續高效性等諸多優點，能夠持續快速、精準高效的識別檢測出對應病灶，已經得到了廣泛的認可和應用。同時對于基層醫院診療來說，人工智能的應用可以拉低級別醫院之間的診療水平差距，實現一線高層次醫院和基層醫院診療能力的同質化，有效提升社區級別的基層醫療服務能力，使基層醫生通過輔助也能有效的識別病灶，進行分診或醫治的決策[6]。

3 倫理問題與挑戰

人工智能在醫學領域的興起并廣泛應用，直接沖擊了傳統的醫學倫理規范，提出了醫療人工智能倫理治理的新需求；同時，也挑戰了現有的倫理道德范式，將道德的人類專屬性這一既定命題，再次置于了元倫理學的考量之中。

3.1 隱私和保密問題

人工智能的基礎是獲取大量健康數據，而大部分數據屬于患者的個人隱私，若管理、處置和使用不當必然產生隱私侵權的行為風險，包括：①患者數據被二次使用；②患者數據的部分性流失；③患者數據的訪問權限；④數據匿名化的有效性和完整性；⑤數據是否可能被不正當的使用；⑥數據是否被他人用于牟取利益[7]。對患者數據的使用必須遵從知情同意的要求，若沒有經過患者授權，任何組織或個人不得將患者數據挪于他用，更不得利用患者數據牟取個人私利，這是對患者數據保護最基本的道德要求。另外，患者數據還涉及個體或群體的安全風險，人工智能通過對個體看似不相關片段數據的分析，可識別出個體的智力水平、性格特征、性別取向等，從而將個體的健康弱項暴露于他者之前；人工智能通過對某一民族、國家的群體性基因信息的分析與挖掘，可能會誘發基因或種族歧視，甚至基因攻擊。對此，現有的政策法規對于人工智能數據隱私的保護缺乏明確的限定和操作性規范，且難以靈活適用。而對于必須在現有監管制度下進行操作的臨床醫生而言也造成了一定的挑戰，這可能會導致如何合理處置健康數據的不確定性，并引起對潛在法律后果的恐懼。

3.2 醫療損害中的責任認定問題

目前，《中華人民共和國侵權責任法》中對于醫療事故責任認定和醫療器械損害賠償本身便存在概念相對模糊的問題。患者在遭受醫療損害時，有權利向醫療機構索賠，也有權利向相關醫療器械生產單位進行索賠，醫療器械開發單位也應承擔相應責任。而在一線臨床實踐中，人工智能的自我判斷能力以及它的自主性，使得侵害主體、歸責對象的認定變得更為復雜。例如由于算法錯誤發生誤診時，患者若產生嚴重的預后不良現象，責任究竟如何劃分，責任到底是在當值醫師、對應醫院還是診斷系統的開發單位身上的問題，目前并沒有合適的法律法規予以具體認定和解讀[8]。如果說對于基于模擬算法而作出判斷失誤的人工智能我們還可以找到其道德主體，那么，對于未來具有自主意識、情感取向，甚至道德觀念的強人工智能，相關醫療責任的追究將更加復雜，這涉及強人工智能是否具有道德主體資格這一現實命題，還涉及強人工智能在與患者交流時患者的相互責任，更涉及是否可以像處置發生醫療事故的醫生那樣(對其進行調查、停職，甚至取消行醫資格)，處置強人工智能主體——醫療機器人。

3.3 偏見和公平受益

在醫療保健中使用人工智能相關的另一倫理問題是偏見的風險。尤其是，偏見會滲透機器學習的設計、數據和實現中。例如，如果系統的訓練數據中包含的部分群體數量不足，無法計入統計，則該算法可能從一開始就存在偏差，這可能會導致或加劇健康不平等現象。例如，對于少數受過外部創傷或者殘障人士來說，智能識別可能并不能給他們帶來正確、高效的診療體驗。這也會讓醫生和患者失去對于人工智能的信任，導致臨床醫生不愿意信任并將其實施到他們的臨床決策中，患者也不愿意接受人工智能診療的結果。如果是在處于或更有可能處于不利地位或處于邊緣地位的患者群體中使用，道德規范實踐應格外小心[9]。

3.4 醫患關系異化

常規的就診流程在于患者與醫生面對面的交流，通過問詢、檢測、觸診等方式多角度考量，給予患者一個合適的診療方案。而將人工智能技術應用于診斷，目的在于提高診斷治療的效率和準確率，提高醫療服務的質量。但是對于機器的依賴，會使醫療人員忽略對于諸如流行病學史或多并發癥疾病的敏感性。問診和醫生主體的功能被弱化，而輔助檢查手段被過于強調，無益于醫患之間的正常交流，甚至會讓患者對人類醫生的作用產生懷疑，繼而發生“寧信百度，不信醫生”的荒誕事件。在治療過程中，尤其是手術治療過程中，手術刀喪失了用武之地，外科醫生被剝離于手術之外，手術成功與否的喜悅和悲傷將不復存在，醫患之間的情感交流由此產生了根本性的斷裂。人工智能醫療機器人與患者之間能否構成新的“醫患關系”，成為直接面臨的新問題。

4 問題解決與展望

人工智能是人類智慧的杰作，醫學的目的是救死扶傷，將人工智能用于醫學領域，對于提升醫療質量，增進醫療效能，具有無以估量的價值。然而，人工智能并不是人本身，必須思索人工智能在醫療發展和應用方面的道德向度；另外，對人工智能的趨人性也必須給予深度的道德思考，方能迎接未來醫療人工智能的“潘多拉之匣”。

4.1 加強監管

人工智能的決策，尤其是那些與公共安全和人民福祉緊密相關的決策，必須是有據可循的。 國際互聯網協會(Internet Society，ISOC)指出：“人工智能系統的設計必須滿足設計人員能夠說明人工智能代理行為的最低要求。一些對公共安全有潛在嚴重影響的系統也應該具有在發生事故時提供能夠相關信息的功能。”防止人工智能系統發生意外和不可預見的動作應該是開發人員和設計人員的著重的關注點。建立醫療人工智能專業委員會以專業權威的力量介入來審查資源和評估項目，并進行專業化、規范化的監管對于確保安全至關重要。醫療領域的安全約束和法規本質上旨在確保醫療程序完全有益和安全。根據現有的道德原則和道德價值觀，需加強對于醫療人工智能的監管體系。缺乏對于醫療人工智能的監管，可能導致災難性的后果，對患者和社會造成不良的影響。但是煩瑣的法規有時也會阻礙我們充分利用醫療人工智能可以提供的所有潛在利益，因此，如何平衡法律監管的力度是保證醫療人工智能為患者或社會服務的重要議題。

4.2 明確醫師主體地位

人工智能在醫療領域中應用的初衷是為了提高醫療服務效率，減少人工重復勞動帶來的疲勞，輔助醫生進行診斷和治療，提高醫師的能力。然而在臨床實踐中，人工智能的使用可能會導致人類醫生過于依賴機器而疏忽自身醫療知識的學習和臨床診斷經驗的積累。但是人工智能的本質是對于已有知識、經驗的深度學習，需要根據醫學知識的發展而由人類醫生進行更新，人類醫生必須走在人工智能的前面。人工智能給醫生“減負”但并不是使醫生 “閑下來”。要明確真正的醫療主體依然是人類醫生，通過對于智能設備的應用，將人類醫師從簡單病癥的診療工作中解放出來，使其有更多精力投入科研和前沿領域的研究，以增強醫生的臨床診療能力，由此又能用先進的知識和方法對人工智能進行更新，形成“人工智能代行簡單診治—醫生進行前沿研究—研究成果反饋更新人工智能”的醫生和人工智能共同提升，最終大幅度提高醫療服務質量和效率的良性循環。顯而易見的，在這個循環中，“人”始終處于核心地位。

4.3 使用和設計中進行倫理考量

醫療人工智能系統的設計者和建造者需要明確，其產品的應用是以用戶為中心。他們的首要原則是構建不會給患者帶來安全風險的人工智能系統，并考慮其集體道德責任。設計者應當開發出相應的自治系統，并在運行時進行監視，根據臨床實際需要進行更新或更正。對于系統設計發展的創新也應遵守道德標準。醫療人工智能系統設計和研究人員應負責發布與安全漏洞和缺陷有關的任何發現，以便改進和修復系統，以免造成進一步的損害[10]。在醫療人工智能系統對數據的保存和使用中，醫療機構必須負主體責任，應該只使用所需的內容，并篩選和及時刪除不必要的冗雜數據。系統應對傳輸中和存儲的數據進行加密，并對無論是授權人員還是其他人員的訪問設定限制。醫療人工智能系統僅應根據隱私和需要對數據進行最優收集、使用、共享和存儲。

5 結語

人工智能在醫學領域的應用具有廣闊的前景，能夠提升醫療效率，削減醫療成本，關乎萬千人民福祉。精準快速智能的手術機器人隨著高新醫療技術的發展可能輕易完成人類醫生難以操作的高難度手術；人工智能由于需要背后數據的支撐，其診療過程的記錄均是公開透明且可被查詢的，有助于診療記錄的智能管理，也能有效地減少醫患糾紛中由于對于診療過程的異議而發生的沖突。人工智能的最終目的是提高醫療服務效率，在當前的醫療體系中挖掘醫療資源的增量，通過對于頂尖專家診療方法的大數據分析和學習記憶，訓練出具有類似思路和能力的“智能專家”，從而改善公共衛生服務的效率和能力。然而人工智能的發展也帶來了諸多的現實和倫理問題，諸如，當人工智能的診斷準確率接近甚至超過人類醫生的時候，低成本、快速、精準的人工智能必定取代傳統的醫生診療，此時，如何界定醫患關系，如何堅守尊重、自主和公正等倫理原則，如何體察患者及其家屬的道德情感等，都是我們需要迫切回應的現實問題。醫療人工智能越是有美好的應用前景，就越突顯了倫理道德的重要性和倫理問題的復雜性，在使用人工智能之前，任何可能產生的倫理問題都應該得到相應的闡釋和解決，消解負面影響，化解道德風險，這是倫理學者理應擔負起來的責任與任命。