醫療人工智能安全監管主體責任調查研究*

茅鴦對，沈 茜，王維標，丁 靜

（浙江醫藥高等專科學校，浙江 寧波315000）

《新一代人工智能發展規劃的通知》（國發〔2017〕35號）指出，到2025年新一代人工智能（AI）會在智能醫療領域得到廣泛應用。AI正成功地應用于放射學、病理學和皮膚病學的圖像分析，其診斷速度可超過醫學專家，且準確性與之相當［1］，在提高診療效率的同時能降低醫療成本。醫療AI對醫師的診斷和決策具有重要的導向作用，一旦失誤，可能危及患者的生命安全。北京智源人工智能研究院聯合北京大學、清華大學、中國科學院自動化研究所等發布的《人工智能北京共識》指出，要為未來打造“負責任的、有益的”AI，實現這一目標的前提是確立醫療AI診斷主體，明確侵權責任歸屬，但我國尚未出臺相關法律規范、評價標準與方法規范［2］。本研究中通過實證調研分析，探討醫療AI診斷器械的主體責任相關焦點問題，以期為監管部門完善法律規范提供參考。

1 對象與方法

1.1 調查對象

藥械監管系統人員、醫療機構醫務人員、藥械企業人員（含AI企業人員）、醫藥類高校教師、醫療器械專業（精密醫療器械、醫療器械檢驗與注冊、醫療器械經營與管理）學生。

1.2 調查方法

采用文獻分析法、專家訪談法進行醫療AI診斷主體責任相關焦點問題摸底，結合專家意見進行問卷設計，最終通過問卷調查法開展調研工作。

1.3 統計學處理

采用SPSS 22.0統計學軟件分析。對醫療人工智能診斷法律主體資格、責任主體、侵權責任歸屬等問題進行描述性統計，對不同職業、學歷、職稱與主體責任相關問題的關系采用χ2檢驗，以P＜0.05為差異有統計學意義。對醫療AI診斷主體責任評價指標體系采用探索因子分析法。

2 結果

2.1 問卷基本情況

本次調查共發放問卷155份，回收有效問卷150份，有效回收率96.77%。調查對象的職業分布情況，藥械監管系統人員25人（16.67%）、醫療機構醫務人員27人（18.00%）、藥械企業人員45人（30.00%）、醫藥類高校教師23人（15.33%）、醫療器械專業學生30人（20.00%）。職 稱 分 布 情 況，初 級 職 稱20人（13.33%）、中級職稱37人（24.67%）、高級職稱21人（14.00%）、無職稱72人（48.00%）。學歷分布情況，大學專科12人（8.00%）、大學本科61人（40.67%）、碩士研究生64人（42.67%）、博士研究生13人（8.66%）。

分析問卷Cronbach信度，統計可得Cronbach′sα=0.748（＞0.7），表明研究數據信度良好；采用KMO抽樣適當性檢查和Bartlett′s球形檢驗進行數據效度分析，KMO=0.757（＞0.5），說明研究數據結構效度良好。

2.2 主體責任相關問題

產品應用潛在風險多：受訪者認為，AI在應用中會出現諸多問題，包括誤診、漏診風險（89.33%），與醫院使用需求不配套（46.00%），應變能力差（79.33%），診斷效率提升不明顯（36.67%），造成院方數據泄露（52.00%），倫理風險（3.33%）。

法律主體資格存在爭議：對于可否賦予醫療AI法律主體資格，57人（38.00%）認為可以，57人（38.00%）認為弱AI時代不可以，強AI時代可以，36人（24.00%）認為不可以。交叉分析結果顯示，不同職業（χ2=12.919，P=0.040）和不同學歷（χ2=15.791，P=0.045）人群對醫療AI法律主體資格認定結果有顯著差異，而不同職稱者（χ2=9.744，P=0.136）的認定結果無顯著差異。

責任主體不單一：123人（82.00%）認為雖然AI技術革新，仍不能完全替代醫師進行診斷，27人（18.00%）則認為可以。不同職業、學歷、職稱人群對于醫療AI能否替代醫師的判斷結果均無顯著差異（χ2=3.563，4.220，0.580，P=0.313，0.377，0.901）。表明大部分被訪者堅定支持醫師在診斷中的核心地位，小部分被訪者信任醫療AI的診斷。選擇設計者、生產者、醫療機構、醫師作為醫療AI診斷責任主體的分別有80人（53.33%）、63人（42.00%）、91人（60.67%）、86人（57.33%）。

侵權責任需由多方承擔：對于醫療AI診斷失誤造成醫療損害的侵權責任，104位被訪者（69.33%）認為應厘清設計者、生產者、醫療機構等各方職責，合理分配各自責任，24位被訪者（16.00%）認為應由生產者、醫療機構承擔連帶賠償責任，13位被訪者（8.67%）認為應由設計者、生產者承擔連帶賠償責任，9位被訪者（6.00%）認為應由醫院或醫師承擔責任。不同學歷人群對于侵權歸責的判定有顯著差異（χ2=30.607，P=0.002），不同職業人群與不同職稱人群的判定無顯著差異（χ2=13.231，6.867，P=0.152，0.651）。

2.3 主體責任評價指標的構建

以國家藥品監督管理局醫療器械技術審評中心《深度學習輔助決策醫療器械軟件審評要點》、國家衛生健康委員會《人工智能輔助診斷技術臨床應用質量控制指標（2017年版）》等為依據，結合專家調研，梳理出13個醫療AI診斷主體責任評價指標，進行探索性因子分析。

信度、效度檢驗：信度檢驗處理數據后得Cronbach′s α=0.892（＞0.8），說明信度高；對有效樣本數據進行KMO抽樣適當性檢驗和Bartlett′s球形檢驗，檢驗結果顯示，KMO=0.859（＞0.5），Bartlett′s球形檢驗的χ2值為977.798（自由度為78），達到顯著水平（P=0.000＜0.01）。數據顯示，樣本數據結構效度良好，可進行因子分析。

因子分析結果：采用主成分分析法提取公因子，對13個指標進行Varimax方差正交旋轉，最終提取特征值大于1，得出3個公因子累計方差貢獻率為66.276%，旋轉后成分矩陣各因子解釋度差。故將提取公因子設定為4個，累計方差貢獻率為72.923%。根據因子分析解釋的總方差（見表1），計算評估總指標公式如下。

F=（21.955F1+19.819F2+17.557F3+13.591F4）/72.923

正交旋轉后得到的因子負荷矩陣見表2。某個公因子下的變量旋轉成分值大于0.5時，此變量應歸屬于此公因子。梳理13項指標，可得醫療AI診斷主體責任評價指標體系（見表3），通過旋轉后因子得分系數矩陣可得出如下各公因子的得分公式。

表1總方差解釋

表2旋轉后的因子矩陣

3 討論與建議

3.1 按AI強弱確立產品法律主體資格及責任主體

醫療AI診斷產品隱患較多，成為其大規模實施的障礙，亟須明確主體責任邊界。不同醫療AI診斷產品獨立診斷與決策能力不同，對醫師工作幫助程度有所區別。考慮到應用場景的特殊性，其責任主體并不單一。國家衛生健康委員會醫院管理研究所人工智能藍皮書《中國醫療人工智能發展報告（2019年）》指出，現階段的弱AI醫療診斷器械在不同程度上需借助人類智慧，受人類的操作與監管，其地位等同于普通醫療器械，不能賦予其法律主體資格。鑒于存在大量混合責任的情況［3］，設計者、生產者、醫療機構、醫師等均是相關責任主體。強AI擁有獨立思考及決策能力，具備自我感知和行為能力，可賦予其享有同人類平等的權利并承擔相應責任義務［4］，但考慮到其能承擔的法律后果有限，建議將其確立為具有特殊性質的法律主體［5］，即具有有限法律人格。

表3醫療人工智能診斷主體責任評價指標體系

3.2 醫療AI應用需遵循權責一致原則

醫療AI存在算法泛化能力弱、重復性和再現性差、魯棒性設計缺乏等問題［6］，診斷結果容易出現漏診、誤診、錯診，給患者帶來生理傷害和精神傷害，構成額外的經濟負擔。醫療AI技術應用方面應遵循權責一致原則［7］，設計者、生產者、經營者、使用者等責任主體應嚴格遵守倫理道德與法律規范，切實履行自身權利和責任。AI診斷產品致損后要追溯原因，判定后按《產品質量法》和《產品侵權法》進行追責。侵權責任歸責前，首先要明確AI診斷產品對診斷結果的影響程度及其自身定位。若注冊時在適用范圍項明確寫明其能進行有效決策，則加重制造商的責任；若表明其僅起輔助篩查作用，醫師仍需結合患者病史、基礎病癥、身體狀況進行綜合判斷，則應以醫師為重要歸責對象。為合理分散舉證負擔，受害者向主要責任者索要賠償，主要承擔者可向其他方追償。同時，建議建立以責任保險制度為核心的綜合救濟體系［8］，提高社會救濟能力。

3.3 主體責任評價體系的應用

醫療AI診斷主體責任評價指標體系的構建有利于企業“內部監管+外部監管”并行，充分激發企業活力，釋放技術紅利。企業每年結合指標體系開展內部自查，及時糾正問題，向監管部門提交年度報告。建議開啟多元共治新篇章［9］，監管部門邀請行業專家、行業協會、媒體、公眾代表等多方共同開展評價工作，結合評價結果對企業開展分級分類監管，制訂《醫療人工智能診斷產品重點監管目錄》，對主營品種在目錄范圍內且主體履責嚴重不到位的企業予以重點監管，對主體履責到位的企業予以寬松監管，合理分配有限的監管資源，提高監管效能。對主體責任評價結果進行年度公告，對表現極差的企業予以警示，并加強日常監管；對表現優異的企業予以表揚。醫療AI安全監管正面臨平衡創新與風險的難題，公眾對AI主體的信任是至關重要，而可信任AI唯有具備誠實、一致性、可靠性、透明度、公平性五大特性，才能真正提高公眾滿意度，提升健康服務質量。