醫療人工智能前沿研究：特征、趨勢以及規制*

周文康 費艷穎

由于醫療行為本身為社會所必需，人工智能(artificial intelligence,AI)作為引領世界科技前沿的戰略性技術，將AI嵌入醫療領域，以AI技術創新驅動、AI高質量供給引領和創造醫療新需求，醫療AI將不斷呈現創新發展及高速增長的態勢，有利于從更高層次、更廣范圍保護患者的生命健康安全。進一步說，人體本身就是一座大數據庫，AI要補足最后一里路，醫療AI已經推動了數字化健康革命，促使醫學領域產生了巨大的改變。AI的介入使得深度學習、智能機器人、大數據等在醫療領域的應用成為可能，也使得精準醫療與AI深度整合，連接醫患雙方、醫療器械等醫療行動主體和介質，以技術創新為依托，結合制度轉型，促進醫療AI創新研發。

新冠疫情的防控，更是彰顯了醫療AI誕生的初衷：幫助醫生從重復性勞動解救出來，促進解決優質醫療資源稀缺的問題。但是，醫療行為本身具有高度的復雜性、不確定性和風險性。據此，科技風險與醫療需求將推動AI規制的政策倫理在本體、價值、運行和實施等方面創新變革，尤其亟需在醫療大數據的規范、智能機器人的調適、算法倫理的治理以及準入機制的完善四個方面打好制度基礎，形成一個向外AI臨床運用、向內數據反饋與底層AI反向驅動的圈層式創新聯盟。

1 醫療AI創新發展的現狀特征

醫療AI通過深度學習、智能機器人、醫療大數據等應用，打通了“院前預防”“院內臨床”與“康復路徑”，打造了全新的智慧診療模式。以日本最新的JOIN模式為例，該架構能夠提前獲得患者信息，通過AI分析結果就能夠預先制定急救計劃，并同時告知手術室、急救室等數個醫療關系者，縮短抵達后傷檢判斷時間，以達到提升急救成功機率與減輕后遺癥的目標，推動實現急救醫療模式的架構創新。

1.1 深度學習是醫療AI技術創新的基礎領域

機器學習是指在數據模型與參數調校的協助下，通過分析數據從而達到預測目的。深度學習則是在機器學習的基礎上，通過解釋數據以獲得內在的規律和理論。在深度學習中，“如果是A，就會演化為B”的單純對應關系，逐漸發展到“A為前提，如果是B，可能會演化為C”的多層判斷。此時便不再需要依賴人工來完成初步對比和信息輸入，而是通過其不斷的自我運算完成對醫療數據的自動識別。在醫療實踐中，深度學習常見的兩種模型架構主要為卷積類神經網絡和遞回類神經網絡。前者較常用于與圖像分類、語音辨識或特征萃取的相關研究，而后者屬于一種有記憶性的類神經網絡架構，可使用于與時間序列或易受時間影響的相關研究[1]。例如，從當前數據庫中搜集青光眼的癥狀圖像，將圖像進行RGB通道及灰階的圖像進行特征萃取并用于卷積類神經網絡進行訓練，其結果能達到100%的辨識準確率。基于深度學習在圖像辨識的成效顯著，醫療AI可以大幅降低醫生負擔，并減少醫療錯誤，這也使得AI在醫療影像診斷領域被廣泛使用?；谒惴ㄟ壿嫷能浖绦蚝痛髷祿治黾夹g提供創新支持，研究人員還可以系統建立全程全周期的觀察網，從個性化功能需求出發，突出細分化領域應用，尋找基因、生長環境、生活形態等危險因子與疾病間的關系，并以醫院為媒介利用基因、影像來定量計算危險因子以實現綜合防控。另外，具有算法存儲與集成特征的AI為數據集成式創新提供了可能性，增強了醫療AI前沿研究在更多條件集下的方案測試[2]，完成了對疾病的重新分類，實現了診療模式的創新重構。

1.2 智能機器人是醫療AI創新應用的重要形式

基于AI可能會改變醫務人員雇傭方式及配置方式，創新醫護服務模式，加快醫生的能力分流，并最終落腳在醫療任務、醫療技能和醫務人員/AI勞動力成本的創新匹配上。因此，“AI+機器人”被視為醫療AI的下一個創新與投資風口，日漸成為整個社會關注的焦點。目前，醫療機器人大致可以分為四類：手術機器人、檢查機器人、護理機器人以及導診機器人。手術機器人可以監測手術環境、結合患者的術前信息和及時高解析的成像，建構更完整的智能微創手術系統以補足外科醫生技能，例如，達芬奇機器人手術系統涵蓋擴大15倍～30倍的空間三維視覺以及過濾手的微顫等諸多優勢，適宜在狹窄的手術空間里開展精細的操作[3]。對于檢查機器人來說，放射科的報告清單將不再只是依照檢查時間先后排序，而是根據AI懷疑病灶的急性或重要程度來排序。護理機器人是將護理工作與機器人深度融合，以滿足身體障礙人士的特定需求。導診機器人主要通過人機交互以達到科室導航、就醫流程引導等功能[4]。由此可見，智能機器人不僅為醫院及患者提供了工具支持，更創造了一個有著全新參與方式、全新互動模式及全新相互關系的嶄新的醫療生態[5]。近期，美國首度開發了全自動手術機器人——STAR(smart tissue autonomous robot)， STAR自主手術機器人正在逐步向臨床階段邁進。由此，強AI狀態下智能機器人對醫療過程和結果的影響大大加深，“AI”醫生有望真正在臨床得以實現。我國近年來也致力于普及AI輔助診療、機器人智能護理等新應用，全面提升醫療機器人的智能化水平。最新的例證是，上海中醫藥大學和復旦大學聯合創新研發了中醫機器人，不僅提高了面診、舌診和脈診的精準度，還通過深度學習整合豐富的中醫經驗，被視為“中醫+AI”領域創新的成功實踐。

1.3 醫療大數據是醫療AI創新發展的關鍵要素

隨著醫療數據庫的不斷壯大，醫療AI也逐漸從早期的“數據整合”階段過渡到“數據共享+感知智能”階段[6]。例如，IBM的Watson系統允許將患者與臨床試驗者的數據進行匹配，協助腫瘤科醫生制定個性化治療方案。醫療AI可以依據醫療數據對患者進行病況預測，包括并發癥的發生率、致死率、回診率等，以促進醫療資源公平分配。例如，谷歌于2008年便針對棘手的流感展開了建模趨勢研究，基于內部搜索引擎中用戶的瀏覽數據量化預測流感的發展軌跡[7]。目前已經進入認知智能+健康大數據階段，極大創新了醫療服務提供方式，患者和公眾可以更多參與并突破時空限制，例如，借由穿戴裝置掌握病況和搜集數據，以獲得健身建議與疾病警告。AI診療方式的精準化，促使醫療AI體系進行科學布局，為醫療體系協同創新構建奠定信息化基礎。但是，高度不透明的數字化醫療設備卻逐漸使得數據安全成為疑慮[8]，長此以往無疑會降低公眾對醫療AI的信任，對AI的創新研發極為不利。值得注意的是，就連醫療影像本身都有機會對患者進行再識別，如使用大腦影像將臉部構造進行重組后，便可以成功地再識別患者。

2 醫療AI的發展方向與風險識別

基于醫療AI創新發展的現狀特征，對于醫療AI的趨勢研判應當在整體觀察的基礎上辯證分析：一方面，醫療AI的技術創新正處于強力突破階段并持續不斷進行中，對醫療生態圈或者診療模式會產生顛覆性影響，未來會快速成長、變動性高、可能將于幾年內到達極峰等趨勢。另一方面，鑒于醫療AI的自主性、應急性與不確定性，其自身發展的各類風險尤其是倫理問題已經日益凸顯，再加上現行的法律法規以及規則指南已無法涵蓋涉及醫學AI研究所提出的倫理和法律要求。因此，對于醫療AI的風險識別也是趨勢研判的關鍵環節。

2.1 關于醫療AI創新的發展方向

2.1.1 建構深度學習的全新模式

一方面，深度學習架構與電腦輔助算法最大的差別在于如何定義“特征”?！安≡睢钡妮喞怯膳R床醫生手動進行圈選標注，通過分析“病灶”與“正常組織”之間的差異進而制定出最合適的閾值。而深度學習在“特征”的決定上都是由深度卷積神經網絡通過多次學習后才逐漸定型，有限的數據資源是限制深度學習發展上的主要原因。隨著醫療AI與精準醫療的深度融合，精準醫療又為AI的發展提供了大量帶標簽的理想數據樣本，醫療AI在診療過程中產生的醫療數據又成為新的大數據內容，并且持續不斷地良性循環。研發人員據此可圍繞實際應用場景對圖像識別、傳感器聯結、深度學習、神經網絡等領域繼續深耕，提升診療的規范度和創新度。另一方面，醫療AI架構的形成，不僅是病灶外圍輪廓的圈選，更重要的是合乎病灶特征的“語意描述”?，F階段的醫療AI都是仰賴電腦自動產生的“特征集”作為分類依據，其運算速度雖然快速卻明顯缺乏具有臨床意義的描述信息，這在證據為主的傳統醫療領域難以被真正接受[9]。對此，可以預見的是未來應當以深度學習為基礎，以臨床經驗為補充，致力于將其轉化為國際醫療影像標注標準(annotation and image markup，AIM)數據格式，并在訓練樣本充足的前提下作為深度學習模型的訓練依據[10]。

2.1.2 創新人機協同的診療體系

未來，從問診、配藥、消毒、運輸乃至手術等各個環節都存在真實的自動化需求。此次應對新冠疫情的成功經驗表明，人類面對重大疾病和突發公共衛生事件的防控迫切需要發揮智能機器人的替代性作用?？梢灶A見的是，一旦AI的技術應用獲得突破，便可以依托科學培訓體系迅速“量產”出一定數量的AI醫生，以擴大醫療服務隊伍。隨著強AI的誕生，智能機器人完全有可能獨立于醫生而具有自行運作、推理、決策、行動與反思的能力，智能機器人作為“人造醫生”是可以預見的必然趨勢，其診斷結論基本等同于醫生的診斷結論，也同醫生一樣會出現誤診，甚至賦予其主體資格使其承擔責任也是醫療AI創新到特定階段的現實需求。如此一來，勢必會加快實現醫生的能力分流，以后的情景可能是：醫術高超的醫生讓AI做助理，而水準不濟的醫生則要做AI的助理[11]，并適時調適醫生和AI的綜合水準作為注意義務的標準，以患者利益為導向，鼓勵公平競爭。當醫療AI的創新度達到技術標準、普及度達到固定指標時，還可以對現有的分級診療模式進行創新優化，形成以患者為中心的智慧醫療分級診療新模式，實現機器人與醫生的優勢互補。此外，由于復數決策的創新機制可以在很大程度上避免錯誤，“AI決策—醫生復查”可能成為醫療創新的常態[12]。

2.1.3 依托“認知智能+健康大數據”助力精準醫療

目前，醫學數據的碎片化、數據利用的低效性及不連貫性等問題阻礙了醫療數據的開發與應用。未來在醫療AI的應用基礎上，依托認知“智能+健康大數據”的模式，精準醫療和AI真正實現了交集整合、相生相進、系統生發。具體來說，醫療AI可以對醫療數據進行綜合提取與交叉分析，通過高效計算和精準匹配使得個性化健康管理成為可能。由于個人肯定會受整個群體及地域的影響，現在更要將精準醫療自然延伸到公共衛生領域，整合基礎研究與臨床實踐，打造以數據為基礎的醫療模式，聚焦人體基因、環境因素與復雜疾病的相互關聯，準確計算危險因子以及致病概率，對傳統醫療領域進行了顛覆性地創新改造，見圖1[13]。此次新冠病毒傳播路徑復雜，疫情防控多次出現技術瓶頸。也正因為如此，新藥研發面臨研發周期長、研發成功率低和研發費用高三大痛點問題。憑借算法和算力優勢，醫療AI不僅可以壓縮新藥測試周期，降低防控成本[14]，還可以通過深度學習等方法對疫情發展進行精準預測，以實現加速研究、設計及制造新藥物、預測藥物脫靶效應及毒性等。

圖1 精準醫療與AI模式

2.2 關于醫療AI發展的風險識別

2.2.1 醫療AI的數據倫理問題

規范層面，2018年原國家衛生和計劃生育委員會研究制定了《國家健康醫療大數據標準、安全和服務管理辦法(試行)》，國家立法開始著重優化醫療大數據保護和利用的法治環境。但是，目前我國對醫療大數據“保護”與“發展”兩方面的規則均缺位，醫療AI作為關鍵技術優勢的特定應用領域更沒有對應的專項制度設計。實踐層面，醫學AI通過用戶提供、自動采集、間接獲取等方式采集大量訓練數據和應用數據，用于訓練模型或推斷預測，一旦存在數據造假、偏倚以及不完整等問題，將直接影響醫療AI的有效性和安全性，甚至可能通過數據鴻溝造成算法歧視/偏見，擾亂社會倫理秩序。具體而言，數據倫理問題主要表現在以下幾個方面：(1)數據源頭管理中的權屬爭議始終存在。從本質上講，個人數據主體(如用戶、消費者、數據生產者)和數據處理者(如商業實體、數據開發利用者、數據創新者)的利益沖突短時間內無法得到根本解決，嚴重阻礙了醫療大數據應用效益最大化。(2)由于數據控制權不在受試者或者患者方面，醫院和研究者可以單方面對醫療健康數據進行處理，往往也沒有向受試者履行知情同意。進一步說，采集數據時是否履行知情同意、如何保障知情同意順利進行、在研究過程中誰來監督知情同意實施情況等都是亟待明確的議題。(3)數據采集和共享過程中要長期持續地收集有關遺傳密碼、性格特征等敏感數據。個人數據的易獲取性導致隱私數據的潛在價值被深度挖掘且更難控制[15]。(4)AI的出現使得學術研究與臨床使用的隱私界線產生了模糊地帶，臨床產生的醫療數據被AI統合分析應用于研究上，或者研究/臨床的數據經過由醫療AI轉換為研發數據，此種非商業與商業的目的轉換值得警惕[16]。其中，人體基因組數據的泄露使潛在的生物危害和商業利益沖突更為突出。有數據表明，59.72%的公眾顧慮個人隱私泄露問題[17]。

2.2.2 醫療AI的責任倫理問題

在不同的技術發展階段，AI有著不同的功能定位，其倫理的供給需求也不一樣。而且，人工智能倫理風險的產生取決于研發和應用主體的風險決策，而風險后果則與人工智能全生命周期內的多個利益主體相關，因此人工智能倫理風險分析需要著眼于多利益相關主體[18]。在弱AI階段，AI在醫療活動中不能脫離人類，也不能做出獨立診斷行為，醫療AI中責任主體仍是研發者、生產者以及使用者。一方面，AI時代醫療服務和產品的地位及醫療決策過程正發生微妙變化。雖然各國均強調在醫療領域應確保醫生的最終決策權，但醫療的實際決策過程很可能轉變為“人工智能決策-醫生驗證復查”的模式，這種“先入為主”的影響恐怕是巨大而難以阻擋的[19]。另一方面，自助型的看病體驗可能會使醫生的專業權威甚至職業受到威脅，診療過程中醫生的主體功能明顯被弱化，醫患之間的情感交流可能產生根本性斷裂，從而引發醫患之間的信任危機。現實層面，醫生對于醫療AI的全面接受需要明顯的過渡期。甚至，智能機器人手術的自身缺陷與算法的倫理疑慮，傳統的“醫患問題”有可能發展出新的“信任危機”。

2.2.3 醫療AI的算法倫理問題

(1)算法的黑箱屬性。通過機器學習過程形成的決策越來越難以解釋AI內部的代碼、算法存在的“黑箱”，再加上設計者通常以商業秘密為理由拒絕公開算法，導致其決策過程是不透明的且難以理解。(2)算法的歧視隱患。算法并非價值中立，也可能帶有人為歧視。盡管這種歧視可能并非有意為之，不同人群的倫理判斷標準可能不盡相同，可能出現超預期的道德成本。(3)算法的安全問題。誠前所述，深度學習神經網絡算法多為動態學習算法。如果數據不全或本身偏見都將會導致綜合分析的結果偏離預期，部分干擾數據可能會被無限放大，一旦相關干擾數據流入預測模型，將會使系統產生偏差。

2.2.4 醫療AI的法律監管問題

目前，醫療AI應屬最高等級的“物”，屬于醫療器械。但是，傳統監管方式已經明顯滯后，顯然不能因應醫療AI的創新發展，其主要表現在以下幾個方面：(1)傳統的監管方式要求大多數醫療AI執行嚴格的、耗時的資料審查、臨床試驗等過程。但是，醫療大數據可能會隨時更新，再加上審查時長過長，這些都將會在一定程度上扼殺醫療創新。(2)傳統的監管方式還容易導致過度監管或監管不足雙重疑慮。過度監管包含將所有黑箱屬性的醫療AI全部歸類為風險最高的第三級醫療器械，這無疑在一定程度上扼殺醫療創新。監管不足的問題則是當監管單位未經嚴格監督時，制造商有更多的空間來生產低質量的AI產品，這些AI產品供應可能導致消費者受損并降低消費者對AI的信任度。(3)2018年新修訂的《創新醫療器械特別審批程序》明確規定了對創新醫療器械實行優先審評程序。由于我國之前便存在審批隊伍能力差異較大且基層審批人員專業性缺乏的困境，該條文的出臺必然會導致醫療AI申報增多，加重了審批隊伍人員的工作負擔[20]。

3 醫療AI創新發展的優化路徑

3.1 構建開放安全的健康醫療信息環境

3.1.1 建構數據開放的誘因機制

我國應當建立數據流通的激勵機制，其運行邏輯大致可借鑒日本的醫療AI數據管理系統[21]，見圖2。在實施方面，第一，建立國家級的健康醫療大數據云平臺。建立面向醫療AI的公共資源數據庫、標準測試數據集和對抗數據集，健全共享共通的數據標準規范，促進信息化平臺協同運作。第二，加強匿名化數據供給以加快科研機構醫療研究，建構廠商配合且授權第三方的價值再利用機制，將開放數據提供給潛力廠商進行強化信息的創新應用加值，并確立數據庫的鎖定、備份與恢復等應急預案機制。第三，鼓勵公眾提供去識別化數據，通過一定程序的加工處理使個人數據不再具有私人屬性。其中，去識別化的方式包含以編碼、加密、去連結或其他無法辨識當事人等方式，不以去連結作為去識別化的唯一方法。此外，特定機構管控去識別化程度時不宜單一因素檢驗，全面衡量數據類型、敏感程度、數據提供方式等指標進行綜合判斷。在符合數據標準化與安全規范的基礎下，建構數據開放授權的誘因機制，提高健康醫療數據的市場化程度。

圖2 醫療AI數據管理系統

3.1.2 多維協同保護醫療大數據

(1)加強醫療大數據保護的頂層設計：其一，堅持“最少必要”原則與“必須知道”原則，前者為達到目的而使用最少且必要的數據，后者為獲取醫療數據的范圍僅以業務相關為限。必要時可借鑒英國設立專門的醫療AI控管中心以維護患者利益。開創以患者為中心的信息系統以促進患者的信息賦權。其二，完善知情同意的制度設計，尤其是對于弱勢群體商業使用的立法選擇或者臨床試驗階段受試者的知情同意權都必須更為謹慎。需要注意的是，醫療大數據的倫理審查在借鑒發達國家成功經驗的同時，還應當根植于我國的現實國情，注重中西方數據保護觀的層級差異性。而且，醫療大數據背景下的知情同意原則與實現方式發生著重大改變，往往無法像傳統方式一樣在完成必要告知后才簽署知情同意書。假設健康醫療大數據信息采集前過度尋求患者的知情同意，不僅成本過大反而會增加患者額外的心理壓力，損害了患者的最佳利益甚至是公眾利益。因此，醫療大數據知情同意授權應從公民的基本權利與義務切入，始終秉承“鼓勵創新，包容審慎”的原則，規范醫療數據公益與私益的重疊使用。相關的例證是，傳染病防控視域下個人權利應當讓渡給公眾健康等公共利益，具體可考慮在事先進行授權，通過倫理審查后向社會公眾公開[22]。(2)企業、高校以及科研機構應當加大隱私保護的技術開發，保證數據使用“適度”。一方面，平衡好精準醫療訓練樣本的擬合度，有效遏制過擬合現象對預測結果的負面干擾；另一方面，把控訓練樣本的擬合精度，只提取與預報量相關度高且它們之間相關為零、沒有復共線性關系的主分量[23]。最終，通過數據收集、數據清洗、倫理批件確認、脫敏確認等操作形成標準作業程序有效緩解抽樣偏倚問題[24]。

3.2 調適智能機器人的責任倫理

3.2.1 盡快構建明確的倫理規范和歸責制度

基于智能機器人的自身特點，一方面，智能機器人的擬人性。尤其是在強AI狀態下，智能機器人已經完全具備了因應不同醫療情景的“思考力”和“決策力”；另一方面，所有智能機器人演算的基礎資料、演算方法、價值判斷都是由人類預設立場提供的[25]。事實上，醫療AI在本質上并沒有擺脫其作為一種技術的本質屬性，它的自主性實質上最終轉換為技術自主性問題。對技術倫理問題的討論歸根到底是對人的問題的探討，機器只能被設計成遵守規則，卻不能理解規則，應站在“人”的立場上對現實存在的責任倫理進行理性審度[26]。在規制智能機器人所衍生的風險責任時，既要塑造優質的創新環境，又要防止嚴苛標準對積極性的負面打擊?？紤]到醫療AI在不斷地學習和進化，嚴格的產品責任顯然不利于技術的創新和發展。因此，應遵循最小化原則和程序化原則，制造缺陷與設計缺陷應統一適用無過錯責任原則。同時，現階段的醫療AI產品責任應當適當軟化，以合理替代設計原則代替消費者合理期待原則。此外，為覆蓋強制責任保險無法控制的侵權風險，還應當組建補償醫療基金進行管理與執行賠償，并以此作為強制責任險的補充。

3.2.2 全面提高醫生的醫療水準和道德標準

(1)醫療AI的選擇是首要前提?；卺t療實踐進行反向思考，對于醫療AI的不當選擇主要包括作為和不作為兩種情形。作為情形主要是指使用前醫生需要充分了解醫療風險或者按照安全說明運作設備，否則推定為過失。不作為情形主要是指醫療AI的使用符合“醫療常規”的標準，并達到診療規范的要求卻未使用。例如，使用醫療AI的手術并發癥發生率為0.5%，但醫療文獻上記載某傳統醫生的手術并發率為5%，在術后并發癥患者中有90%系因沒有使用醫療AI所致，患者能以高達90%的蓋然性證明對方存在過失[26]。需要注意的是，醫療AI的選擇需要結合患者病情、治療風險、應使用而未使用醫療AI所生損害的大小、損害發生的機率、可能的治療成本以及患者的經濟負擔等予以綜合判斷。(2)醫療水準的提升是關鍵要素。醫生熟練掌握機器人的執行技術并且能夠及時對手術導致的并發癥進行妥善處理。以手術階段為例，醫生的注意義務主要包括：嚴格遵循操作規范的義務、按照事前預案合理應對突發情況的義務、需改變手術方案時告知患者及其家屬的義務等。(3)道德倫理的培育是重要條件。在人機協同的新型診療體系中，醫生是唯一的道德主體。必須堅定以醫生為主導，AI為輔助，從而更好地服務患者。醫學側重于對以人為主體的情感關懷，患者需要的也是有真實情感和知覺的“人”[27]。醫生應當秉持保密性、中立性、不偏性等價值追求，促進“情感培育”式創新，由單向診療思維向關懷互動模式轉變，注重溝通方法的多樣性，把握溝通技巧的有效性，疏導不良情緒，規避不利因素[28]，以有效預防和修補醫患雙方的內在情緒與外在關系。

3.3 構建協同管控的算法倫理風險防范路徑

3.3.1 建立健全倫理審查委員會以嵌入價值導向

倫理審查委員會的職能在于制定醫療AI的倫理標準并對倫理問題進行專門審查，將醫學倫理學原則和法律準則嵌入到算法中，發揮AI專家、醫學專家、倫理專家、法律專家的協同作用，并在尊重民族文化差異、宗教信仰不同的基礎上探討和建構一個多層次多角度的倫理風險應對系統。具體而言，倫理審查內容主要包括兩個方面：一方面，對研發人員進行倫理審察。審查研發人員的道德倫理也成為防范AI道德倫理風險中至關重要的前置環節。算法決策程序滲透著研發者的道德素養，因此，規范倫理教育、增進算法設計者和開發者的倫理自覺，并在自主和智能系統的設計和開發中優先考慮倫理問題[29]。另一方面，對醫療AI本身進行倫理審查。尤其是在強AI時代，AI的自主選擇甚或超出研發人員的預制，對醫療AI本身的道德倫理約束就顯得尤為必要。在審查過程中以患者的需求為出發點，運用倫理規范捍衛個體尊嚴，充分尊重患者的各項權利和意愿。尤其是，缺乏倫理上可接受的代價產生時必須堅守某些特定、絕對的基本權利，如尊重患者、服務社會的倫理意識應貫徹始終，患者利益至上的安全原則不容撼動。

3.3.2 創新監管模式以保證算法決策科學可信

(1)規范道德倫理技術預制。所謂技術預制，主要是對醫療AI預先設置具有道德和倫理傾向性的處置機制，使醫療AI具備危險鑒別能力和道德傾向性，力求通過對醫療AI所包含的程序進行事先審查與前置管理，以最大程度地避免算法歧視。(2)完善多方共治的良性機制，企業、研發機構、政府和社會公眾等主體應當相互配合、聯防聯控，確保利益與成本之間的平等分配、個體和群體不被歧視或受偏見。為保證信息公開透明，研發機構要定期向公眾和監管機構報告其研發的進程。針對算法本身過多強調數據相關性而暴露出的分析偏差缺陷，引入因果推理概念補償這些偏差[30]，避免出現因算法缺陷而產生產品缺陷。(3)建構事前與事后雙重監管機制，上市前要求持有人負起舉證責任以確保醫療AI的有效性及安全性，尤其是算法設計者首先應該對訓練數據的來源及可靠性加以說明；上市后則持續追蹤關于醫療AI的市面使用，監控算法的運行狀態和運行結果，防止數據庫或算法模型被篡改以保障算法安全。此外，可考慮建立專門的算法監管機構，對算法進行風險評估、調查算法系統涉嫌侵權等情況、為其他監管機構提供關于算法系統的建議[29]。

3.4 完善AI在醫療領域的準入管理

3.4.1 制定注冊技術指導原則并科學調整監管范圍

我國應當加快制定醫療AI注冊技術指導原則的步伐，細化相關產品申報審批的具體程序與實體要求。美國食品藥品監督管理局(Food and Drug Administration,FDA)對于醫療AI的監管抱持開放且積極的態度，尤其對于低中度風險的AI器械逐漸采取放寬審查，促進技術創新與醫療進行更密切的互動。具體來講，第一，只有涉及核心醫療領域的醫療AI才有必要納入監管框架。第二，醫療AI生命周期短暫，不像生命周期長的藥品可以歷經漫長的臨床試驗。因此，即使屬于核心醫療領域的醫療AI，在確保安全性和有效性的同時也應當強化審批流程彈性以提升審查能力，簡化醫療AI的應用認證機制。第三，借鑒美國的“突破性醫療器械計劃”，對于可以有效診斷或治療危及生命或不可逆轉的使人衰弱的疾病，FDA可以在AI器械開發期間以及上市審核過程中與企業進行密集互動與實時溝通指導，加快醫療AI的實質創新速度。

3.4.2 創新注冊審批隊伍建設的支持機制和培訓體系

我國應當盡快完善注冊審批隊伍建設機制，增加監管機構的資金投入。在物理設施上，加大對醫療AI有關的大型科研設施和圖書館的建設，為科學研究提供基礎研發設施。在信息化設施上，拓展更新醫療AI信息數據庫，開放共享的醫療技術創新平臺。具體而言，第一，完善AI領域醫療平臺模式。推動創新系統、專家體系、用戶群體在AI平臺中實現多元互動，以開放式協作模式建立“每個人都使用的AI判讀系統”，鼓勵公眾理解和參與醫療AI研究。第二，加大人才引進力度。建立醫療AI審批人才精準引進機制，通過產學研醫生態環境整合的誘因機制，加快科研成果轉化行業應用，建構完善的跨域應用人才培育環境，保障審批隊伍的專業化程度。第三，建立醫療AI審批培訓體系。明確醫療AI審批的業務流程、管理標準與產品規范，逐漸完善技術審評制度，統一審批標準尺度，以提高審批人員積極性和執行力。