醫(yī)療人工智能應(yīng)用中的倫理問(wèn)題及應(yīng)對(duì)*

劉伶俐 王 端 王力鋼

據(jù)《2018世界人工智能產(chǎn)業(yè)發(fā)展藍(lán)皮書》顯示，截至2018年上半年，在全球范圍內(nèi)共監(jiān)測(cè)到人工智能(artificial intelligence，AI)企業(yè)4 998家。其中，美國(guó)AI企業(yè)有2 039家，位列第一，其次是中國(guó)(不含港澳臺(tái)地區(qū))，數(shù)量達(dá)1 040家。在中國(guó)AI滲透的領(lǐng)域中，醫(yī)療健康領(lǐng)域占比最大，達(dá)到22%[1]。AI已深入醫(yī)療健康領(lǐng)域的方方面面，在疾病預(yù)防、診斷、治療、護(hù)理、康復(fù)等方面作用凸顯。這對(duì)于提升我國(guó)醫(yī)療行業(yè)的診療效率和服務(wù)質(zhì)量，更好地解決醫(yī)療資源短缺、基層醫(yī)生技術(shù)不足等問(wèn)題有著重要意義，但同時(shí)也必將面臨諸多倫理問(wèn)題和全新挑戰(zhàn)，需要引起重視和研究。

1 醫(yī)療AI應(yīng)用概述

AI是研究計(jì)算機(jī)模擬人的某些思維過(guò)程和智能行為的一門新興學(xué)科，涉及計(jì)算機(jī)科學(xué)、統(tǒng)計(jì)學(xué)、心理學(xué)、哲學(xué)、語(yǔ)言學(xué)等諸多領(lǐng)域。它包含了很多技術(shù)，按產(chǎn)業(yè)鏈大致可分為三個(gè)層次：(1)基礎(chǔ)層，包括大數(shù)據(jù)、算法和算力，這三者是相互聯(lián)系、不可分割的。正是由于基礎(chǔ)層的發(fā)展才使AI技術(shù)層的各項(xiàng)技術(shù)得以開(kāi)發(fā)。(2)技術(shù)層，包括語(yǔ)音識(shí)別、計(jì)算機(jī)視覺(jué)(如人臉識(shí)別、圖像文字識(shí)別等)、自然語(yǔ)言處理(如翻譯軟件、搜索引擎、問(wèn)答系統(tǒng)等)通用技術(shù)，這些技術(shù)是AI聽(tīng)懂、看懂人類世界，用人類的語(yǔ)言與人類交流的關(guān)鍵。(3)應(yīng)用層，是指上述AI技術(shù)與各個(gè)行業(yè)的結(jié)合與應(yīng)用。

醫(yī)療AI是AI技術(shù)在醫(yī)療領(lǐng)域的應(yīng)用與發(fā)展。其應(yīng)用場(chǎng)景非常廣，目前主要集中在虛擬助手、醫(yī)學(xué)影像、疾病篩查和預(yù)測(cè)、輔助診療、醫(yī)療機(jī)器人、健康管理、藥物研發(fā)、基因測(cè)試等多個(gè)細(xì)分領(lǐng)域。其中，臨床應(yīng)用最為成熟的產(chǎn)品均來(lái)自美國(guó)。達(dá)芬奇手術(shù)系統(tǒng)幾乎壟斷了全球外科機(jī)器人市場(chǎng)，截至2019年10月，全球總手術(shù)量已超過(guò)600萬(wàn)例，我國(guó)大陸和香港地區(qū)共裝機(jī)110臺(tái)，完成手術(shù)量達(dá)12萬(wàn)例[2]。IBM的沃森腫瘤系統(tǒng)，被認(rèn)為是目前世界上癌癥治療領(lǐng)域最先進(jìn)的智能診療系統(tǒng)，憑借從各種渠道搜集的海量數(shù)據(jù)，能在17秒內(nèi)給出診療建議供醫(yī)生參考。截至2018年11月，沃森已在中國(guó)261家醫(yī)療機(jī)構(gòu)使用，其中已經(jīng)簽約落地的有81家醫(yī)療機(jī)構(gòu)[3]。

我國(guó)的醫(yī)療AI起步較晚，但發(fā)展迅猛。2016年以來(lái)，在國(guó)家政策的大力支持下，國(guó)內(nèi)互聯(lián)網(wǎng)巨頭和AI創(chuàng)業(yè)公司紛紛進(jìn)軍醫(yī)療AI領(lǐng)域，眾多產(chǎn)品相繼問(wèn)世。2017年7月，阿里健康發(fā)布“Doctor You”醫(yī)療AI系統(tǒng)，包括臨床醫(yī)學(xué)科研診斷平臺(tái)、醫(yī)療輔助檢測(cè)引擎、醫(yī)師能力培訓(xùn)系統(tǒng)等，其CT肺結(jié)節(jié)智能檢測(cè)引擎識(shí)別肺結(jié)節(jié)的準(zhǔn)確度達(dá)到90%以上[4]。2017年11月,騰訊自建的首款A(yù)I醫(yī)學(xué)影像產(chǎn)品“騰訊覓影”入選國(guó)家首批人工智能開(kāi)放創(chuàng)新平臺(tái)。通過(guò)圖像識(shí)別和深度學(xué)習(xí),“騰訊覓影”對(duì)各類醫(yī)學(xué)影像進(jìn)行訓(xùn)練學(xué)習(xí),最終達(dá)到對(duì)病灶的智能識(shí)別,用于輔助醫(yī)生臨床診斷以及食管癌、肺癌、糖尿病視網(wǎng)膜病變等疾病的早期篩查。2018年11月,百度發(fā)布AI醫(yī)療品牌“百度靈醫(yī)”,目前已有“智能分導(dǎo)診”“AI眼底篩查一體機(jī)”“臨床輔助決策支持系統(tǒng)”三個(gè)產(chǎn)品問(wèn)世[5]。此外，科大訊飛的語(yǔ)音電子病歷系統(tǒng)、影像輔助診斷系統(tǒng)、導(dǎo)診機(jī)器人等產(chǎn)品也已落地多家醫(yī)院試用。其他的創(chuàng)業(yè)公司大多以單個(gè)產(chǎn)品切入醫(yī)院的具體科室。2020年1月，科亞醫(yī)療的創(chuàng)新產(chǎn)品“冠脈血流儲(chǔ)備分?jǐn)?shù)計(jì)算軟件”獲國(guó)家藥品監(jiān)督管理局批準(zhǔn)注冊(cè)，成為首個(gè)獲得AI影像Ⅲ類證的產(chǎn)品[6]。

2 醫(yī)療AI應(yīng)用中的倫理問(wèn)題

AI在醫(yī)療應(yīng)用中的倫理問(wèn)題，既有AI應(yīng)用的常規(guī)問(wèn)題，也有與醫(yī)療相關(guān)的特殊倫理問(wèn)題。

2.1 數(shù)據(jù)泄露問(wèn)題

醫(yī)療數(shù)據(jù)包括患者的身份信息、健康狀況、疾病診療情況、生物基因信息等，不僅涉及患者隱私，還具有特殊的敏感性和重要價(jià)值，一旦泄露，可能給患者帶來(lái)身心困擾和財(cái)產(chǎn)損失，甚至對(duì)社會(huì)穩(wěn)定和國(guó)家安全造成負(fù)面影響。然而，醫(yī)療AI的研發(fā)與應(yīng)用，必須依賴大量的醫(yī)療數(shù)據(jù)用于算法訓(xùn)練，數(shù)據(jù)量越大、越多樣，其分析和預(yù)測(cè)的結(jié)果將越精準(zhǔn)。但數(shù)據(jù)收集、分析處理、云端存儲(chǔ)和信息共享等大數(shù)據(jù)技術(shù)的應(yīng)用，加大了數(shù)據(jù)泄露的風(fēng)險(xiǎn)。

事實(shí)上，近年來(lái)醫(yī)療行業(yè)已經(jīng)成為數(shù)據(jù)泄露的重災(zāi)區(qū)。2017年全球15%的數(shù)據(jù)泄露事件來(lái)自醫(yī)療保健行業(yè)，僅次于金融業(yè)[7]。我國(guó)醫(yī)療數(shù)據(jù)泄露事件也不鮮見(jiàn)。據(jù)《法制日?qǐng)?bào)》2017年9月報(bào)道，某部委醫(yī)療信息系統(tǒng)遭到黑客入侵，被泄露的公民信息多達(dá)7億多條，8 000多萬(wàn)條公民信息被販賣[8]。2018年多家醫(yī)療機(jī)構(gòu)計(jì)算機(jī)系統(tǒng)被勒索病毒攻擊。2020年4月，某AI醫(yī)學(xué)影像公司遭黑客入侵，其AI輔助系統(tǒng)和訓(xùn)練數(shù)據(jù)被竊取，并以4比特幣(約合18萬(wàn)人民幣)的價(jià)格在暗網(wǎng)上公開(kāi)出售。這也是國(guó)內(nèi)首家被曝?cái)?shù)據(jù)泄露的醫(yī)療AI公司案例[9]。

醫(yī)療數(shù)據(jù)泄露的途徑，主要包括黑客滲透入侵、未授權(quán)訪問(wèn)等網(wǎng)絡(luò)攻擊，以及掌握數(shù)據(jù)的內(nèi)部人員竊取、丟失數(shù)據(jù)。分析其原因，主要有四個(gè)方面：一是醫(yī)療數(shù)據(jù)具有較高的研究和商業(yè)價(jià)值，一旦獲取并販賣，將意味著可觀的收益，因而容易引起黑客關(guān)注，一些掌握數(shù)據(jù)的醫(yī)療機(jī)構(gòu)或AI公司“內(nèi)部人”也可能鋌而走險(xiǎn)出賣數(shù)據(jù)。二是醫(yī)療機(jī)構(gòu)技術(shù)力量有限難以保證數(shù)據(jù)安全。目前，國(guó)內(nèi)大醫(yī)院普遍實(shí)現(xiàn)了醫(yī)療數(shù)據(jù)信息化，并通過(guò)手機(jī)應(yīng)用程序、網(wǎng)站、第三方醫(yī)療服務(wù)平臺(tái)等形式提供線上醫(yī)療服務(wù)，越來(lái)越多的醫(yī)療數(shù)據(jù)被存儲(chǔ)于云端或第三方服務(wù)器。但由于醫(yī)療機(jī)構(gòu)屬于傳統(tǒng)行業(yè)，在信息技術(shù)、人才等方面相對(duì)薄弱，大部分醫(yī)療機(jī)構(gòu)的信息化系統(tǒng)安全性較低，且有的數(shù)據(jù)未進(jìn)行脫敏、加密處理，第三方平臺(tái)也存在漏洞多、敏感端口開(kāi)放多等問(wèn)題，給黑客入侵和未授權(quán)訪問(wèn)帶來(lái)了極大便利。三是一些醫(yī)療機(jī)構(gòu)工作人員隱私保護(hù)意識(shí)不強(qiáng)，未按規(guī)定傳輸、共享數(shù)據(jù)，存在泄密隱患。如2020年4月某醫(yī)院將出入該院人員名單信息發(fā)到微信群，導(dǎo)致6 000余人的個(gè)人身份信息外泄，造成了不良社會(huì)影響[10]。四是相應(yīng)法律制度尚未健全，致使醫(yī)療數(shù)據(jù)在采集、使用、隱私保護(hù)等方面缺乏有效監(jiān)管和約束。因此，在醫(yī)療數(shù)據(jù)共享與患者隱私保護(hù)之間尋求平衡點(diǎn)，將是醫(yī)療AI應(yīng)用中面臨的最大倫理風(fēng)險(xiǎn)。

2.2 醫(yī)療安全問(wèn)題

盡管醫(yī)療AI被賦予了準(zhǔn)確、高效、安全等優(yōu)點(diǎn)，但醫(yī)療活動(dòng)本身具有一定的風(fēng)險(xiǎn)性和不確定性，加上手術(shù)機(jī)器人等醫(yī)療AI在應(yīng)用中需要密切接觸患者身體或直接作用于人體某些器官，不可避免地面臨潛在風(fēng)險(xiǎn)。主要包括技術(shù)和人為兩方面的因素。

從技術(shù)來(lái)看，國(guó)內(nèi)醫(yī)療AI的發(fā)展在當(dāng)前還處于起步階段，產(chǎn)品性能還不穩(wěn)定，也缺乏相應(yīng)的標(biāo)準(zhǔn)和規(guī)范，安全性還有待考證，需要在實(shí)踐中不斷調(diào)試改進(jìn)。即使是較為成熟的進(jìn)口產(chǎn)品，也存在諸多問(wèn)題。據(jù)美國(guó)媒體報(bào)道，使用沃森腫瘤解決方案的醫(yī)生發(fā)現(xiàn)，沃森經(jīng)常會(huì)推薦不準(zhǔn)確甚至錯(cuò)誤的治療建議[3]。如果醫(yī)生據(jù)此決策，后果難以設(shè)想。

據(jù)披露，沃森“出錯(cuò)”的根源在于訓(xùn)練數(shù)據(jù)有問(wèn)題。用于沃森算法訓(xùn)練的并非真實(shí)患者數(shù)據(jù)，而是虛擬患者的假想數(shù)據(jù)，且訓(xùn)練數(shù)據(jù)不足，8種癌癥中，訓(xùn)練數(shù)據(jù)量最高的肺癌只有635例，最低的卵巢癌僅有106例。同時(shí)，沃森向虛擬患者推薦的治療方案，都是基于紀(jì)念斯隆-凱特琳癌癥中心專家的方案，并非醫(yī)療指南或真實(shí)證據(jù)[3]。這些數(shù)據(jù)不能反映真實(shí)的、復(fù)雜的臨床環(huán)境，勢(shì)必會(huì)影響機(jī)器學(xué)習(xí)的準(zhǔn)確性和普適性。而數(shù)據(jù)質(zhì)量不佳、數(shù)據(jù)量過(guò)小、標(biāo)注不規(guī)范等問(wèn)題，也是國(guó)內(nèi)醫(yī)療AI應(yīng)用中普遍面臨的問(wèn)題。

人為因素主要是醫(yī)生操作不當(dāng)。在現(xiàn)階段，醫(yī)療AI還只是機(jī)器或程序，它不能根據(jù)實(shí)際情況調(diào)整自己的行為，必須依賴醫(yī)生對(duì)機(jī)械進(jìn)行操控或做最終決策。在應(yīng)用之初，醫(yī)生可能因經(jīng)驗(yàn)不足、操作不熟練而引發(fā)機(jī)器故障，有的甚至?xí)斐蓢?yán)重后果。如2015年2月，英國(guó)首例機(jī)器人心臟手術(shù)過(guò)程中出現(xiàn)“機(jī)器失控”，主刀醫(yī)生在慌亂中應(yīng)對(duì)失當(dāng)，最終導(dǎo)致手術(shù)失敗，患者一周后死亡[11]。這起事故的原因，除機(jī)器故障外，與主刀醫(yī)生操作經(jīng)驗(yàn)不足、未充分估計(jì)手術(shù)風(fēng)險(xiǎn)有很大關(guān)系。

2.3 責(zé)任界定問(wèn)題

傳統(tǒng)醫(yī)療模式下，醫(yī)療機(jī)構(gòu)和醫(yī)生是醫(yī)療服務(wù)的責(zé)任主體。引入AI后，改變了傳統(tǒng)的醫(yī)患關(guān)系格局，醫(yī)生與患者之間增加了“AI醫(yī)生”及其設(shè)計(jì)制造商，這就使得醫(yī)療責(zé)任認(rèn)定問(wèn)題變得復(fù)雜起來(lái)。一方面，在當(dāng)前技術(shù)條件下，無(wú)論是人類醫(yī)生，還是醫(yī)療AI，都不能達(dá)到100%的準(zhǔn)確率，出現(xiàn)誤診和漏診在所難免。如果在診治過(guò)程中，醫(yī)生依賴AI出具的報(bào)告做出錯(cuò)誤的判斷，給患者的疾病診治和身心健康帶來(lái)傷害時(shí)，其責(zé)任到底該由誰(shuí)來(lái)承擔(dān)?另一方面，隨著AI技術(shù)的發(fā)展，今后的AI將擁有越來(lái)越強(qiáng)大的自主能力，在醫(yī)療活動(dòng)中將扮演越來(lái)越重要的角色，甚至可能獨(dú)立做出診斷結(jié)果，醫(yī)療責(zé)任界定問(wèn)題將更加突出。當(dāng)醫(yī)療AI作為直接“參與者”，在手術(shù)、康復(fù)訓(xùn)練和護(hù)理中出現(xiàn)傷害患者的異常行為，或間接性地對(duì)患者造成欺騙性、虛幻性消極影響時(shí)，是否可以追究它們的倫理責(zé)任和道德義務(wù)?它們是否具有或在多大程度上具有承擔(dān)醫(yī)療責(zé)任的能力?因此，有必要加強(qiáng)醫(yī)療AI背景下的風(fēng)險(xiǎn)責(zé)任規(guī)制，以確保患者和公眾的健康權(quán)益。

2.4 公平受益問(wèn)題

AI應(yīng)用于醫(yī)療領(lǐng)域，大大提高了診療效率和精準(zhǔn)度，無(wú)疑會(huì)給患者帶來(lái)巨大福音，但也存在不能公平受益的問(wèn)題。一方面，由于醫(yī)療AI是新興的醫(yī)學(xué)高新技術(shù)，在目前階段還屬于稀缺資源，加上醫(yī)療AI的研發(fā)成本高昂，因而在臨床應(yīng)用中收取費(fèi)用較高，且一般不在醫(yī)療保險(xiǎn)報(bào)銷范疇。這就使得醫(yī)療AI成為少部分人群能夠享用的技術(shù)，大多數(shù)患者由于經(jīng)濟(jì)能力有限，只能望機(jī)興嘆。另一方面，基于算法和大數(shù)據(jù)的AI程序并非完全客觀公正，其中可能隱含著某些偏差或歧視。這些偏差或歧視可能來(lái)自算法設(shè)計(jì)者的價(jià)值偏好，也可能來(lái)自有偏見(jiàn)的訓(xùn)練數(shù)據(jù)，還可能來(lái)自輸入數(shù)據(jù)的抽樣偏差。由于深度學(xué)習(xí)是一個(gè)典型的“黑箱”算法，具有不透明性和不可解釋性，從而使這些偏見(jiàn)難以被覺(jué)察，并在深度學(xué)習(xí)中被不斷復(fù)制和放大，最終導(dǎo)致預(yù)測(cè)結(jié)果的偏差，可能使某些人群在醫(yī)療評(píng)估中受到歧視性對(duì)待，甚至可能引發(fā)醫(yī)療安全事故。

2.5 醫(yī)務(wù)人員的未來(lái)定位問(wèn)題

AI有著遠(yuǎn)超人類的學(xué)習(xí)能力和計(jì)算能力，其準(zhǔn)確、高效和不知疲倦等優(yōu)勢(shì)，將極大提高工作效率，降低勞動(dòng)成本，并逐步取代越來(lái)越多的人工勞動(dòng)。2017年，英國(guó)一家名為“改革”的智庫(kù)發(fā)布報(bào)告稱，機(jī)器人未來(lái)將有可能取代英國(guó)公共部門近25萬(wàn)個(gè)崗位[12]。在醫(yī)療領(lǐng)域，AI正逐漸取代人類從事一些簡(jiǎn)單的醫(yī)療后勤和技術(shù)工作，如智能導(dǎo)診、微信掛號(hào)繳費(fèi)、機(jī)器人發(fā)藥等，并在醫(yī)學(xué)影像、輔助診療等核心醫(yī)療環(huán)節(jié)發(fā)揮著越來(lái)越重要的作用，醫(yī)師的主體性地位日益受到挑戰(zhàn)。由此引發(fā)了人們對(duì)醫(yī)務(wù)人員是否能被AI取代的爭(zhēng)論。

醫(yī)療行業(yè)有其特殊性，涉及人與人之間的溝通和交流，需要醫(yī)生的個(gè)人經(jīng)驗(yàn)和情感投入，這是AI無(wú)法取代的。我國(guó)醫(yī)療資源短缺，基層醫(yī)生經(jīng)驗(yàn)不足，有了AI的輔助，醫(yī)務(wù)人員不僅可以更好地診治患者，還可把更多的精力用于與患者溝通，給予患者更多的人文關(guān)懷。從這一點(diǎn)來(lái)看，AI不僅無(wú)法取代醫(yī)務(wù)人員，還會(huì)使他們的工作更有價(jià)值，更有人情味，更能回歸醫(yī)學(xué)是人學(xué)的本質(zhì)。但是，醫(yī)療AI的應(yīng)用，必將推動(dòng)現(xiàn)有醫(yī)療模式發(fā)生變革，也必將對(duì)醫(yī)務(wù)人員提出更高的要求，如果醫(yī)務(wù)人員不能及時(shí)完善知識(shí)結(jié)構(gòu)，提升溝通技巧和人文素養(yǎng)，是難以勝任AI時(shí)代的醫(yī)療工作的。

2.6 患者信任問(wèn)題

醫(yī)療技術(shù)的發(fā)展最終是為患者服務(wù)的，必須關(guān)注患者對(duì)醫(yī)療AI的信任問(wèn)題。據(jù)筆者[13]的一項(xiàng)調(diào)查顯示：雖然大多數(shù)患者對(duì)醫(yī)療AI持樂(lè)觀、期待態(tài)度，表示對(duì)擁有智能醫(yī)療設(shè)備的醫(yī)院會(huì)更加信任，但對(duì)AI應(yīng)用于臨床診斷和治療，患者的接受度和信任度并不高，且AI介入的工作越多，占據(jù)的角色越重，患者的接受度和信任度反而越低。

分析其發(fā)因，主要有兩個(gè)方面：一是當(dāng)前的醫(yī)療AI還處于初級(jí)階段，患者對(duì)其缺乏深層次了解，加上很多技術(shù)尚未成熟，患者對(duì)其安全性、易用性等心存擔(dān)憂，因而對(duì)其在醫(yī)療活動(dòng)中的深度介入持戒備心理。二是醫(yī)療AI改變了傳統(tǒng)的就醫(yī)模式和醫(yī)患關(guān)系，“醫(yī)”不再只是有情感的人，也可以是智能機(jī)器或程序，傳統(tǒng)的醫(yī)患交流可能更多地變成“人機(jī)對(duì)話”。因此，面對(duì)不會(huì)說(shuō)話、冷冰冰的機(jī)器，患者對(duì)其溝通能力、理解能力以及應(yīng)變能力等存在懷疑態(tài)度，進(jìn)而影響到他們對(duì)醫(yī)療AI的信任度。可見(jiàn)，AI能否在醫(yī)療領(lǐng)域順利應(yīng)用，還需過(guò)患者信任這一關(guān)。

3 應(yīng)對(duì)建議

作為一項(xiàng)新興的技術(shù)，醫(yī)療AI在應(yīng)用中帶來(lái)的倫理問(wèn)題，與當(dāng)前的技術(shù)水平、人員意識(shí)、公眾認(rèn)知以及相應(yīng)的法律和管理等均有關(guān)系。針對(duì)上述倫理問(wèn)題及形成原因，可從以下幾方面著手應(yīng)對(duì)。

3.1 遵循倫理原則，細(xì)化倫理規(guī)范

近年來(lái)，為解決AI帶來(lái)的倫理問(wèn)題，各國(guó)政府、世界行業(yè)組織以及互聯(lián)網(wǎng)巨頭紛紛發(fā)布倫理原則，鼓勵(lì)科研人員將倫理問(wèn)題置于AI設(shè)計(jì)和研發(fā)的優(yōu)先位置，強(qiáng)調(diào)AI應(yīng)當(dāng)符合人類價(jià)值觀，服務(wù)于人類社會(huì)。其中，最為著名的當(dāng)屬2016年12月美國(guó)電氣和電子工程師協(xié)會(huì)發(fā)布的《合倫理設(shè)計(jì)：利用人工智能和自主系統(tǒng)(AI/AS)最大化人類福祉的愿景》，以及2017年1月，來(lái)自全球近千名AI領(lǐng)域?qū)＜以?Beneficial AI 會(huì)議上聯(lián)合簽署的《阿西洛馬人工智能原則》[14]。從國(guó)家層面來(lái)看，2018年以來(lái)，英國(guó)、歐盟相繼發(fā)布了“人工智能準(zhǔn)則”[15]和“人工智能道德準(zhǔn)則”[16]，我國(guó)于2019年6月發(fā)布了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出“和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開(kāi)放協(xié)作、敏捷治理”八條原則[17]。這些倫理原則的共同點(diǎn)，就是將人類利益置于最重要的位置，確保AI安全、透明、可靠、可控。

關(guān)于醫(yī)療AI的倫理規(guī)范，目前美國(guó)醫(yī)學(xué)會(huì)已提出了明確的規(guī)范，特別強(qiáng)調(diào)促進(jìn)精心設(shè)計(jì)、高質(zhì)量、經(jīng)臨床驗(yàn)證的醫(yī)療保健AI的發(fā)展[18]。國(guó)內(nèi)相關(guān)研究還處于探索階段。因此，政府部門和相關(guān)行業(yè)應(yīng)在遵循上述倫理原則的基礎(chǔ)上，進(jìn)一步細(xì)化醫(yī)療AI應(yīng)用中的倫理規(guī)范，以更好地協(xié)調(diào)醫(yī)療AI發(fā)展與治理的關(guān)系，保障人類利益和安全。

3.2 制定法律法規(guī)，厘清責(zé)任權(quán)屬

AI應(yīng)用中的倫理問(wèn)題，往往直接轉(zhuǎn)化為具體的法律挑戰(zhàn)，或是引發(fā)復(fù)雜的連帶法律問(wèn)題。如AI醫(yī)療應(yīng)用中的責(zé)任界定問(wèn)題、醫(yī)療安全問(wèn)題、隱私泄露問(wèn)題等，都涉及相關(guān)的法律問(wèn)題。但由于AI的復(fù)雜性和法律固有的滯后性，我國(guó)現(xiàn)有的相關(guān)法律已不能完全解決醫(yī)療AI衍生的各種問(wèn)題，迫切需要從國(guó)家層面制定與之相適應(yīng)的法律法規(guī)，以厘清AI設(shè)計(jì)者、研發(fā)者、生產(chǎn)者和使用者的責(zé)任權(quán)屬，明確相關(guān)各方的行為邊界，懲處AI研究和使用中的違法行為，使醫(yī)療AI在法律的框架下健康有序發(fā)展。目前國(guó)內(nèi)外關(guān)于AI的立法研究都還處于起步階段，相關(guān)的法律法規(guī)和標(biāo)準(zhǔn)體系正在制定當(dāng)中。我國(guó)國(guó)家藥品監(jiān)督管理局出臺(tái)了對(duì)醫(yī)療AI的相關(guān)指導(dǎo)規(guī)范，并已啟動(dòng)了認(rèn)證流程，從范圍、風(fēng)險(xiǎn)、臨床試驗(yàn)上進(jìn)行了規(guī)定[18]。國(guó)家衛(wèi)生健康委員會(huì)于2017年修訂了《人工智能輔助診斷技術(shù)管理規(guī)范》和《人工智能輔助治療技術(shù)管理規(guī)范》，對(duì)開(kāi)展AI輔助診斷和治療的醫(yī)療機(jī)構(gòu)和人員、管理和培訓(xùn)等提出了基本要求；2018年正式印發(fā)了《國(guó)家健康醫(yī)療大數(shù)據(jù)標(biāo)準(zhǔn)、安全和服務(wù)管理辦法(試行)》[19]，對(duì)健康醫(yī)療大數(shù)據(jù)的標(biāo)準(zhǔn)管理、安全管理、服務(wù)管理和監(jiān)督管理等進(jìn)行了規(guī)范，明確了各級(jí)衛(wèi)生健康行政部門、各級(jí)各類醫(yī)療衛(wèi)生機(jī)構(gòu)及相關(guān)應(yīng)用單位的責(zé)任權(quán)利。但是，對(duì)于醫(yī)療AI的法律地位、侵權(quán)責(zé)任劃分、隱私和產(chǎn)權(quán)保護(hù)等，尚無(wú)明確規(guī)定，很多細(xì)化標(biāo)準(zhǔn)尚未制定。下一步還需根據(jù)醫(yī)療AI應(yīng)用中出現(xiàn)的新問(wèn)題，加強(qiáng)法律法規(guī)和相關(guān)政策的制定和完善，盡快形成適應(yīng)智能時(shí)代的法律法規(guī)和監(jiān)管體系。

3.3 嚴(yán)格技術(shù)標(biāo)準(zhǔn)，確保醫(yī)療安全

醫(yī)療AI的技術(shù)標(biāo)準(zhǔn)關(guān)系到每位患者或使用者的人身安全，保障人身安全和符合技術(shù)規(guī)范也是AI投入市場(chǎng)應(yīng)用的前提。因此，政府部門、AI行業(yè)要盡快制定嚴(yán)格的醫(yī)療AI技術(shù)標(biāo)準(zhǔn)、安全標(biāo)準(zhǔn)和應(yīng)用規(guī)范，構(gòu)建動(dòng)態(tài)的評(píng)估評(píng)價(jià)機(jī)制，以便對(duì)醫(yī)療AI的基礎(chǔ)平臺(tái)、技術(shù)研發(fā)、產(chǎn)品與服務(wù)、臨床應(yīng)用、安全與倫理等方面加以指導(dǎo)和監(jiān)管。在此基礎(chǔ)上，AI研發(fā)單位要加強(qiáng)理論攻關(guān)和國(guó)際交流合作，加大對(duì)AI算法、數(shù)據(jù)安全、隱私保護(hù)等關(guān)鍵技術(shù)的研發(fā)力度，不斷提升醫(yī)療AI的透明性和可解釋性，盡可能地減少?zèng)Q策偏差和技術(shù)漏洞，增強(qiáng)AI產(chǎn)品的準(zhǔn)確性、安全性和易用性。同時(shí)，要加強(qiáng)與醫(yī)學(xué)專家和臨床科室聯(lián)合攻關(guān)，使醫(yī)療AI更契合臨床需求，更容易被臨床醫(yī)生所理解，并在臨床實(shí)踐中推動(dòng)AI技術(shù)不斷走向成熟和完善，從而降低由技術(shù)原因引發(fā)的醫(yī)療安全、隱私泄露及其他風(fēng)險(xiǎn)，提升公眾信任度。醫(yī)療機(jī)構(gòu)要嚴(yán)格遵守AI輔助診療相關(guān)技術(shù)管理規(guī)范，選拔符合準(zhǔn)入條件的醫(yī)務(wù)人員開(kāi)展AI輔助診斷和治療技術(shù)，并加強(qiáng)對(duì)醫(yī)務(wù)人員的管理和技術(shù)培訓(xùn)。醫(yī)務(wù)人員在技術(shù)運(yùn)用中，要嚴(yán)格遵守安全標(biāo)準(zhǔn)和操作規(guī)程，嚴(yán)格把握適應(yīng)證，妥善應(yīng)對(duì)技術(shù)應(yīng)用中的突發(fā)事件，避免人為的醫(yī)療傷害。

3.4 加強(qiáng)數(shù)據(jù)管理，保護(hù)患者隱私

在大數(shù)據(jù)背景下，要兼顧醫(yī)療數(shù)據(jù)共享與患者隱私安全，除在技術(shù)上對(duì)數(shù)據(jù)采取“匿名化”、加密存儲(chǔ)等措施外，加強(qiáng)數(shù)據(jù)管理是重中之重。醫(yī)療數(shù)據(jù)的安全管理包括數(shù)據(jù)采集、存儲(chǔ)、挖掘、應(yīng)用、運(yùn)營(yíng)、傳輸?shù)榷鄠€(gè)環(huán)節(jié)，涉及醫(yī)療機(jī)構(gòu)、AI生產(chǎn)和服務(wù)商、醫(yī)療信息管理部門等相關(guān)單位及其所屬人員。因此，責(zé)任單位應(yīng)建立健全相關(guān)安全管理制度、操作規(guī)程和技術(shù)規(guī)范，加強(qiáng)統(tǒng)籌管理和協(xié)調(diào)監(jiān)督，使所屬人員有章可循、按章辦事；要按照國(guó)家網(wǎng)絡(luò)安全等級(jí)保護(hù)制度要求，構(gòu)建可信的網(wǎng)絡(luò)安全環(huán)境，提升關(guān)鍵信息基礎(chǔ)設(shè)施和重要信息系統(tǒng)的安全防護(hù)能力，使“黑客”等盜取信息者無(wú)處下手；要依法依規(guī)使用醫(yī)療大數(shù)據(jù)有關(guān)信息，嚴(yán)格規(guī)范不同等級(jí)用戶的數(shù)據(jù)接入和使用權(quán)限，并建立嚴(yán)格的電子實(shí)名認(rèn)證和數(shù)據(jù)訪問(wèn)控制，確保數(shù)據(jù)訪問(wèn)行為可管可控及服務(wù)管理全程留痕，對(duì)任何數(shù)據(jù)泄露事故及風(fēng)險(xiǎn)都可查詢、追溯到相關(guān)責(zé)任單位和責(zé)任人。同時(shí)，對(duì)擅自利用醫(yī)療數(shù)據(jù)或非法獲取患者隱私等違法行為，要加大打擊力度。如此，方能最大限度保護(hù)患者隱私和數(shù)據(jù)安全。

3.5 堅(jiān)持醫(yī)為主體，注重人文關(guān)懷

當(dāng)前的醫(yī)療AI仍處于“弱AI”階段，還不具備獨(dú)立思考和決策的能力，更不可能脫離醫(yī)師自主完成診療工作。因此，在醫(yī)療活動(dòng)中必須堅(jiān)持醫(yī)務(wù)人員的主體地位，不宜過(guò)于依賴AI或?qū)ζ浼挠柽^(guò)高期望。醫(yī)學(xué)并非單純的自然科學(xué)，它既是科學(xué)的醫(yī)學(xué)、技術(shù)的醫(yī)學(xué)，也是人的醫(yī)學(xué)。醫(yī)護(hù)人員所面對(duì)的患者，是有思想、有情感、有心理需求的病情各異的人。而AI只是利用機(jī)器模擬人類智能的技術(shù)，它可以替代醫(yī)務(wù)人員完成部分簡(jiǎn)單、重復(fù)的醫(yī)療工作，但它無(wú)法理解患者的喜怒哀樂(lè)，不能與患者產(chǎn)生情感共鳴，更不會(huì)給予患者人性的關(guān)懷。而這一切，都需要醫(yī)務(wù)人員來(lái)彌補(bǔ)。因此，面對(duì)飛速發(fā)展的醫(yī)療AI技術(shù)，醫(yī)務(wù)人員除了主動(dòng)接納、學(xué)習(xí)新技術(shù)，積極適應(yīng)新變革外，還要牢牢抓住“人”的優(yōu)勢(shì)，努力提升人文素養(yǎng)，學(xué)習(xí)溝通技巧，在醫(yī)療行為中盡可能地給予患者尊重、理解和人文關(guān)懷，減少患者因?yàn)椴⊥磶?lái)的身心不適，使患者在診療和康復(fù)過(guò)程中有更多的獲得感。同時(shí)，醫(yī)務(wù)人員在選擇和使用醫(yī)療AI時(shí)，要與患者多解釋、多溝通，在綜合考慮其接受程度、病情復(fù)雜程度、家庭經(jīng)濟(jì)狀況以及醫(yī)院的醫(yī)療條件、技術(shù)水平等基礎(chǔ)上，合理選用恰當(dāng)?shù)募夹g(shù)為患者服務(wù)，并做好指導(dǎo)和服務(wù)工作，以獲得患者的理解和認(rèn)可，增強(qiáng)對(duì)醫(yī)生和醫(yī)療AI的信任感。

3.6 加強(qiáng)宣傳教育，提升患者信任

針對(duì)患者對(duì)醫(yī)療AI了解不多、認(rèn)知不足的現(xiàn)狀，政府部門、科研單位、高等院校、醫(yī)療機(jī)構(gòu)等應(yīng)形成教育合力，充分利用各種傳統(tǒng)媒體和新興媒體，普及AI相關(guān)知識(shí)和內(nèi)容，宣傳AI在各領(lǐng)域的新進(jìn)展、新成就，特別是醫(yī)療AI的研究現(xiàn)狀、發(fā)展趨勢(shì)、用戶體驗(yàn)及使用效果等，以提高社會(huì)公眾對(duì)AI的整體認(rèn)知水平。如由中央廣播電視總臺(tái)和中國(guó)科學(xué)院共同主辦的大型科學(xué)挑戰(zhàn)節(jié)目《機(jī)智過(guò)人》，以“人機(jī)大戰(zhàn)”的模式，介紹AI知識(shí)和我國(guó)AI發(fā)展現(xiàn)狀，從不同視角展現(xiàn)AI發(fā)展給人類生活帶來(lái)的改變。這種兼具科學(xué)性與趣味性的挑戰(zhàn)節(jié)目，對(duì)于增進(jìn)公眾對(duì)AI的了解、增強(qiáng)對(duì)醫(yī)療AI的信任度，有著良好的促進(jìn)作用。

4 結(jié)語(yǔ)

當(dāng)前，醫(yī)療AI的研究正呈現(xiàn)出爆發(fā)之勢(shì)。各種新技術(shù)、新產(chǎn)品紛紛落地應(yīng)用，無(wú)疑會(huì)給醫(yī)療行業(yè)帶來(lái)巨大變革，也必將給患者帶來(lái)更優(yōu)質(zhì)便捷的醫(yī)療服務(wù)。但任何新技術(shù)都具有雙刃性，在看到其優(yōu)勢(shì)的同時(shí)，也必須密切關(guān)注其可能帶來(lái)的倫理問(wèn)題和安全風(fēng)險(xiǎn)，積極采取措施加以應(yīng)對(duì)和防范，使醫(yī)療AI始終朝著有利于人類健康的方向發(fā)展。