人工智能醫(yī)療器械企業(yè)質(zhì)量管理現(xiàn)狀調(diào)研

劉毅 ，王浩，李澍，張威，樊瑜波

1 北京航空航天大學(xué) 生物與醫(yī)學(xué)工程學(xué)院，北京市，100191

2 北京北鈴專(zhuān)用汽車(chē)有限公司，北京市，101500

3 中國(guó)食品藥品檢定研究院 醫(yī)療器械檢定所，北京市，102629

4 中國(guó)醫(yī)療器械有限公司，北京市，100028

5 北京航空航天大學(xué) 生物醫(yī)學(xué)工程高精尖創(chuàng)新中心 生物力學(xué)與力學(xué)生物學(xué)教育部重點(diǎn)實(shí)驗(yàn)室，北京市，100191

6 北京航空航天大學(xué) 醫(yī)學(xué)科學(xué)與工程學(xué)院，北京市，100191

0 引言

人工智能（artificial intelligence，AI）自1956年在達(dá)特茅斯會(huì)議上被首次提出[1]。隨著深度神經(jīng)網(wǎng)絡(luò)的出現(xiàn)，AI在多個(gè)不同領(lǐng)域展現(xiàn)出了超越人類(lèi)的表現(xiàn)[2]。以獨(dú)立的醫(yī)療軟件、軟件組件、醫(yī)療信息化系統(tǒng)（云醫(yī)療）、AI賦能醫(yī)療設(shè)備等狀態(tài)存在的人工智能醫(yī)療器械（artificial intelligence medical device，AIMD），為傳統(tǒng)醫(yī)療活動(dòng)插上了一對(duì)強(qiáng)有力的翅膀。自2016年以來(lái)，隨著相關(guān)技術(shù)的發(fā)展，AI技術(shù)的發(fā)展開(kāi)始突飛猛進(jìn)，世界各國(guó)各地區(qū)紛紛出臺(tái)AI國(guó)家戰(zhàn)略，并紛紛在本國(guó)本地區(qū)進(jìn)行AIMD的布局[3]。經(jīng)過(guò)不斷的技術(shù)突破和產(chǎn)品迭代，AIMD已經(jīng)在語(yǔ)音識(shí)別[4]、緊急救援[5]、輔助診斷[6]、輔助治療[7]、健康管理[8]等方面對(duì)人類(lèi)的生活帶來(lái)了巨大的影響。

目前，人工智能的發(fā)展已經(jīng)上升到國(guó)家戰(zhàn)略，醫(yī)療健康從信息化走向智能化也將是必然趨勢(shì)[9]。政策紅利與科研創(chuàng)新加速的雙重驅(qū)動(dòng)下，我國(guó)AIMD產(chǎn)品的審批上市迎來(lái)重大突破，截至2020年底，隨著“肺結(jié)節(jié)CT影像輔助檢測(cè)軟件”的注冊(cè)，我國(guó)獲批上市的AIMD企業(yè)已達(dá)9家[10]。醫(yī)療器械產(chǎn)品的質(zhì)量可靠是確保產(chǎn)品真正服務(wù)于臨床的重要保證，Xavier于2018年發(fā)布了《Xavier GMLP報(bào)告》，積極推動(dòng)AIMD產(chǎn)品質(zhì)量管理體系的構(gòu)建[11]；美國(guó)FDA在2019年發(fā)布了有關(guān)機(jī)器學(xué)習(xí)/人工智能醫(yī)療器械軟件的產(chǎn)品變更監(jiān)管框架討論文件，聚焦產(chǎn)品迭代后的快速評(píng)價(jià)路徑。2018年12月，由中國(guó)食品藥品檢定研究院牽頭的電氣和電子工程師協(xié)會(huì)（IEEE）人工智能工作組成立，率先推動(dòng)AIMD性能與安全評(píng)價(jià)術(shù)語(yǔ)、數(shù)據(jù)集質(zhì)量管理與評(píng)價(jià)兩個(gè)方面國(guó)際標(biāo)準(zhǔn)的制訂[12]，《人工智能醫(yī)療器械質(zhì)量要求與評(píng)價(jià) 第1部分：術(shù)語(yǔ)》和《人工智能醫(yī)療器械質(zhì)量要求與評(píng)價(jià) 第2部分：數(shù)據(jù)集通用要求》兩個(gè)醫(yī)療器械行業(yè)標(biāo)準(zhǔn)日前已進(jìn)入報(bào)批階段[13]。但是，我國(guó)AIMD產(chǎn)品應(yīng)用評(píng)估和質(zhì)量控制體系總體處于起步與探索階段，AIMD產(chǎn)品的質(zhì)量管理體系尚不夠完備。在YY/T 0287—2017《醫(yī)療器械質(zhì)量管理體系用于法規(guī)的要求》[14]的醫(yī)療器械通用法規(guī)的基礎(chǔ)上，2019年7月，國(guó)家藥品監(jiān)督管理局醫(yī)療器械技術(shù)審評(píng)中心發(fā)布《深度學(xué)習(xí)輔助決策軟件審評(píng)要點(diǎn)》[15]，同時(shí)主持完成《醫(yī)療器械生產(chǎn)質(zhì)量管理規(guī)范獨(dú)立軟件附錄》[16]（以下簡(jiǎn)稱軟件附錄）。

本研究主要參考上述文件，針對(duì)我國(guó)的代表性AIMD企業(yè)，對(duì)其產(chǎn)品設(shè)計(jì)研發(fā)過(guò)程中的質(zhì)量管理情況進(jìn)行問(wèn)卷調(diào)研，并對(duì)調(diào)研結(jié)果進(jìn)行深度分析，旨在為AIMD企業(yè)內(nèi)部質(zhì)量管理體系的構(gòu)建和完善提供參考依據(jù)。

1 對(duì)象方法

（1）研究對(duì)象：據(jù)不完全統(tǒng)計(jì)，目前我國(guó)AIMD各個(gè)方向主要生產(chǎn)研發(fā)企業(yè)共有40家左右，此次調(diào)研受訪的企業(yè)一共為32家，覆蓋了絕大多數(shù)主要 AIMD產(chǎn)品生產(chǎn)研發(fā)企業(yè)。32家企業(yè)產(chǎn)品應(yīng)用情況，如圖1所示。

（2）問(wèn)卷的設(shè)立和確定：將YY/T 0287—2017《醫(yī)療器械質(zhì)量管理體系用于法規(guī)的要求》中的5個(gè)一級(jí)指標(biāo)、22個(gè)二級(jí)指標(biāo)、60個(gè)三級(jí)指標(biāo)經(jīng)過(guò)兩輪專(zhuān)家咨詢和頭腦風(fēng)暴之后，篩選得到與AIMD企業(yè)質(zhì)量管理體系相關(guān)的5個(gè)一級(jí)指標(biāo)、12個(gè)二級(jí)指標(biāo)，36個(gè)三級(jí)指標(biāo)（權(quán)重打分≥3分），這些指標(biāo)是專(zhuān)家認(rèn)為AIMD產(chǎn)品具有一定特殊性，在生產(chǎn)過(guò)程中應(yīng)當(dāng)重點(diǎn)關(guān)注的。將篩選得到的36個(gè)三級(jí)指標(biāo)與軟件附錄以及《獨(dú)立軟件檢查指導(dǎo)原則》的各項(xiàng)條款進(jìn)行一一對(duì)應(yīng)，結(jié)合《Xavier GMLP報(bào)告》中的AI_GmLPChecklist，并根據(jù)AIMD的實(shí)際生產(chǎn)研發(fā)過(guò)程質(zhì)量管理體系可能存在的問(wèn)題，系統(tǒng)化設(shè)計(jì)相關(guān)的問(wèn)題，形成調(diào)研問(wèn)卷。問(wèn)卷一共55道題，題型分為單選、多選和簡(jiǎn)答題。

圖1 受訪企業(yè)產(chǎn)品應(yīng)用情況Fig.1 The application of the interviewed enterprises’ products

（3）問(wèn)卷的填寫(xiě)：將問(wèn)卷錄入問(wèn)卷星系統(tǒng)，通過(guò)微信消息的形式召集具有代表性的生產(chǎn)研發(fā)企業(yè)，在手機(jī)端進(jìn)行問(wèn)卷的填寫(xiě)。

（4）數(shù)據(jù)分析方法：調(diào)研結(jié)束之后，從問(wèn)卷星后臺(tái)導(dǎo)出原始數(shù)據(jù)，利用Excel 2016對(duì)問(wèn)卷結(jié)果進(jìn)行分析，主要進(jìn)行描述性統(tǒng)計(jì)分析。

2 結(jié)果分析

此次調(diào)研，主要針對(duì)AIMD企業(yè)設(shè)計(jì)研發(fā)生產(chǎn)過(guò)程中的關(guān)鍵問(wèn)題進(jìn)行調(diào)研，主要分為4個(gè)大的模塊：產(chǎn)品的策劃和設(shè)計(jì)、產(chǎn)品的質(zhì)控、結(jié)果輸出和產(chǎn)品的變更，具體的調(diào)研結(jié)果如下。問(wèn)卷一共發(fā)出32份，回收32份，回收率為100%。

2.1 產(chǎn)品的策劃和設(shè)計(jì)

2.1.1 訓(xùn)練集來(lái)源

AIMD產(chǎn)品訓(xùn)練集的來(lái)源情況為：32家（100%）受訪企業(yè)均從醫(yī)院獲得訓(xùn)練集，另有部分受訪企業(yè)會(huì)從體檢機(jī)構(gòu)（7家，21.88%）、第三方影像中心（7家，21.88%）或者社區(qū)診所（4家，12.50%）獲得相關(guān)的訓(xùn)練集數(shù)據(jù)。針對(duì)是否根據(jù)醫(yī)院的實(shí)際情況進(jìn)行定制化訓(xùn)練的問(wèn)題，15家（46.88%）表示肯定，其中9家（60.00%）表示進(jìn)行參數(shù)調(diào)整，3家（20.00%）表示進(jìn)行網(wǎng)絡(luò)結(jié)構(gòu)的調(diào)整，3家（20.00%）表示進(jìn)行其他的調(diào)整；17家（53.12%）受訪單位表示并未根據(jù)醫(yī)院的實(shí)際情況進(jìn)行定制化訓(xùn)練。

2.1.2 算法來(lái)源及文件記錄情況

在AIMD產(chǎn)品設(shè)計(jì)過(guò)程中，23家（71.88%）受訪企業(yè)表示使用開(kāi)源的算法或者工具包，這23家中的22家表示在使用開(kāi)源算法或者工具包前，會(huì)對(duì)其進(jìn)行驗(yàn)證。關(guān)于算法的名稱、算法訓(xùn)練，算法性能評(píng)估以及網(wǎng)絡(luò)安全防護(hù)（內(nèi)在要求）等的記錄完備程度，見(jiàn)表1。由表1可以看出，受訪企業(yè)在網(wǎng)絡(luò)安全防護(hù)方面需要引起足夠的重視，文件記錄完備程度尚需加強(qiáng)。

表1 產(chǎn)品設(shè)計(jì)環(huán)節(jié)，各要素的記錄完備程度 [n(%)]Tab.1 The complete degree of records of various elements in the process of product design

可追溯性分為數(shù)據(jù)的可追溯性和算法模型的可追溯性：數(shù)據(jù)的可追溯性，制造商應(yīng)該具有的記錄，見(jiàn)圖2；對(duì)于算法模型的可追溯性，制造商具有的記錄，見(jiàn)表2。

圖2 對(duì)于數(shù)據(jù)可追溯性，制造商應(yīng)該具有的記錄Fig.2 The records that manufacturers should have for data traceability

表2 對(duì)于算法模型的可追溯性，制造商應(yīng)該具有的記錄[n(%)]Tab.2 The records that manufacturer should have for the traceability of the algorithmic model

2.1.3 產(chǎn)品性能驗(yàn)證

14家（43.75%）受訪企業(yè)表示AIMD產(chǎn)品進(jìn)行臨床部署后，使用新的數(shù)據(jù)再訓(xùn)練，其中12家在此基礎(chǔ)上，實(shí)時(shí)復(fù)制/備份該系統(tǒng)，并對(duì)再訓(xùn)練前后的產(chǎn)品性能進(jìn)行對(duì)照分析；18家（56.25%）表示AIMD產(chǎn)品進(jìn)行臨床部署后，并不使用新的數(shù)據(jù)再訓(xùn)練。通過(guò)對(duì)AIMD產(chǎn)品的性能驗(yàn)證方案的結(jié)果進(jìn)行分析可知：大多數(shù)企業(yè)選擇多中心臨床研究進(jìn)行產(chǎn)品的性能驗(yàn)證（30家，93.75%），同時(shí)有些企業(yè)會(huì)輔佐一些其他的方式，比如在自有封閉測(cè)試集上進(jìn)行測(cè)試、在第三方封閉測(cè)試集上進(jìn)行測(cè)試，等等。

2.2 結(jié)果輸出

32家受訪企業(yè)中，13家（40.63%）表示AIMD產(chǎn)品的臨床結(jié)論是獨(dú)立輸出的，19家（59.37%）表示AIMD產(chǎn)品的臨床結(jié)論需要人為干預(yù)；32家（100.00%）表示AIMD產(chǎn)品的輸出結(jié)果需要醫(yī)生審核。25家（78.13%）表示最終用戶有權(quán)修改AIMD產(chǎn)品的輸出結(jié)果，余下的7家（21.87%）表示最終用戶不能修改AIMD產(chǎn)品的輸出結(jié)果。

15家（46.88%）受訪企業(yè)表示能根據(jù)輸入的數(shù)據(jù)，列出下一步可選的動(dòng)作（例如急救場(chǎng)景下，給出轉(zhuǎn)診、報(bào)警、用藥等選項(xiàng)），這15家中，有10家表示能自動(dòng)判斷下一步應(yīng)如何動(dòng)作（例如向急診科發(fā)出警報(bào)），有9家表示其AIMD產(chǎn)品能自動(dòng)執(zhí)行下一步動(dòng)作（例如向醫(yī)生發(fā)出報(bào)警）；尚有17家（53.12%）表示不能根據(jù)輸入的數(shù)據(jù)，列出下一步可選的動(dòng)作。

15家（46.88%）表示AIMD產(chǎn)品的輸出結(jié)果可以作為其他軟硬件的輸入（例如應(yīng)用于放療計(jì)劃的AIMD產(chǎn)品，其輸出結(jié)果是否可以作為放療靶區(qū)規(guī)劃的數(shù)據(jù)輸入），17家（53.12%）表示AIMD產(chǎn)品的輸出結(jié)果不能作為其他軟件的輸入。9家（28.13%）表示AIMD產(chǎn)品的輸出結(jié)果可以操控其他軟硬件進(jìn)行治療，23家（71.87%）表示AIMD產(chǎn)品的輸出結(jié)果不能操控其他軟硬件進(jìn)行治療。

2.3 產(chǎn)品質(zhì)控

對(duì)于算法安全和數(shù)據(jù)安全，大部分受訪企業(yè)表示會(huì)對(duì)19項(xiàng)網(wǎng)絡(luò)安全能力進(jìn)行驗(yàn)證（25家，78.12%），同時(shí)建立網(wǎng)絡(luò)安全設(shè)施（24家，75.00%）；有1家（3.12%）表示會(huì)開(kāi)啟密碼驗(yàn)證從而保證算法和數(shù)據(jù)的安全。

產(chǎn)品在長(zhǎng)期使用過(guò)程中，17家（53.12%）表示設(shè)有質(zhì)控環(huán)節(jié)，用以檢測(cè)產(chǎn)品自身性能的變化；15家（46.88%）表示沒(méi)有質(zhì)控環(huán)節(jié)；17家（53.12%）表示醫(yī)生在臨床使用AIMD產(chǎn)品的過(guò)程中，周期性地開(kāi)展性能驗(yàn)證（類(lèi)似利用體模進(jìn)行周期性質(zhì)控），15家（46.88%）表示醫(yī)生在臨床使用AIMD產(chǎn)品的過(guò)程中，未能周期性地開(kāi)展性能驗(yàn)證。

對(duì)于如何開(kāi)展AIMD產(chǎn)品的風(fēng)險(xiǎn)分析和控制：25家（78.13%）選擇根據(jù)YY/T 0316，建立風(fēng)險(xiǎn)管理文檔；23家（71.88%）選擇在實(shí)際的臨床環(huán)境下，搜集疑難病例，開(kāi)展壓力測(cè)試；16家（50.00%）選擇針對(duì)產(chǎn)品可能出現(xiàn)的風(fēng)險(xiǎn)，通過(guò)模擬仿真、GAN等方式，生成對(duì)抗性樣本，開(kāi)展對(duì)抗測(cè)試；有1家（3.13%）企業(yè)選擇其他，但是未注明具體內(nèi)容。

2.4 產(chǎn)品的變更

AIMD產(chǎn)品性能退化的發(fā)現(xiàn)方式，大部分受訪企業(yè)通過(guò)定期對(duì)產(chǎn)品的維護(hù)與校準(zhǔn)（20家，62.50%）或者通過(guò)實(shí)際使用AIMD產(chǎn)品的醫(yī)生反饋（20家，62.50%）來(lái)發(fā)現(xiàn)，也有部分通過(guò)醫(yī)院的日常質(zhì)控（16家，50.00%）和實(shí)驗(yàn)室間的對(duì)比（6家，18.75%）來(lái)發(fā)現(xiàn)。對(duì)于持續(xù)學(xué)習(xí)的AIMD產(chǎn)品，性能退化嚴(yán)重處置方式，絕大多數(shù)企業(yè)選擇停用、算法更改或者版本迭代。同時(shí)，受訪企業(yè)表示算法性能顯著下降（28家，87.50%）或者軟件效率顯著下降（21家，65.63%）時(shí)，將對(duì)產(chǎn)品進(jìn)行停用。

針對(duì)AIMD產(chǎn)品在何種情形下啟動(dòng)變更程序以及變更程序的流程，各個(gè)企業(yè)說(shuō)法不一：有的表示應(yīng)該按照“設(shè)計(jì)變更申請(qǐng)?zhí)峤弧O(shè)計(jì)變更設(shè)計(jì)與定義——設(shè)計(jì)變更評(píng)審——設(shè)計(jì)變更規(guī)劃與執(zhí)行——設(shè)計(jì)變更驗(yàn)證”，有的表示應(yīng)該按照“產(chǎn)品需求確定——產(chǎn)品開(kāi)發(fā)——性能測(cè)試——第三方性能測(cè)試——真實(shí)世界臨床數(shù)據(jù)庫(kù)性能測(cè)試”，還有的表示應(yīng)該按照“市場(chǎng)調(diào)研——可行性分析——立項(xiàng)討論——風(fēng)險(xiǎn)分析”進(jìn)行變更。這也從側(cè)面反映出來(lái)在AIMD產(chǎn)品變更程序方面，目前尚缺乏統(tǒng)一的參考依據(jù)。

3 討論與結(jié)論

本研究針對(duì)AIMD企業(yè)的產(chǎn)品質(zhì)量管理體系現(xiàn)狀進(jìn)行調(diào)研，從調(diào)研結(jié)果可以看出，目前各AIMD企業(yè)對(duì)于醫(yī)療器械質(zhì)量管理體系基本要求已有初步的認(rèn)識(shí)，信息領(lǐng)域從業(yè)人員逐步意識(shí)到除了一般的軟件工程質(zhì)量管理要求，還需考慮醫(yī)療器械的特殊性。但是，從業(yè)人員針對(duì)國(guó)家出臺(tái)的醫(yī)療器械生產(chǎn)質(zhì)量管理規(guī)范獨(dú)立軟件附錄的認(rèn)識(shí)還不夠深入。在實(shí)際執(zhí)行中，還存在一些理解不到位、處理不完善的情況，尤其對(duì)產(chǎn)品的設(shè)計(jì)開(kāi)發(fā)、設(shè)計(jì)變更、風(fēng)險(xiǎn)管理、預(yù)防和糾正措施等方面，并沒(méi)有深入貫徹實(shí)施相應(yīng)的要求。同時(shí)，缺乏針對(duì)AIMD產(chǎn)品質(zhì)量的數(shù)據(jù)集的相關(guān)要求，也沒(méi)有深入地研究如何保證數(shù)據(jù)集的可靠性和有效性，而這些恰恰是AIMD企業(yè)最值得關(guān)注的幾個(gè)方面。

第一，數(shù)據(jù)集在生產(chǎn)研發(fā)中的角色日益豐富，在算法的訓(xùn)練、調(diào)優(yōu)、驗(yàn)證、臨床試驗(yàn)、再訓(xùn)練、真實(shí)世界監(jiān)控等環(huán)節(jié)都有涉及。數(shù)據(jù)集的質(zhì)量管理是AIMD企業(yè)質(zhì)量管理的痛點(diǎn)之一[17]。目前，雖然我國(guó)醫(yī)療數(shù)據(jù)量特別龐大，但是80%的數(shù)據(jù)屬于非結(jié)構(gòu)化數(shù)據(jù)，需要處理和質(zhì)控，否則難以直接用于AIMD的生產(chǎn)研發(fā)[18]。企業(yè)在產(chǎn)品研發(fā)階段，一般需要投入資源開(kāi)展數(shù)據(jù)采集、標(biāo)注、質(zhì)控等活動(dòng)，以建立自有的數(shù)據(jù)集，而不同模態(tài)、場(chǎng)景的醫(yī)學(xué)數(shù)據(jù)集差異較大，如何建立適宜的操作規(guī)程與記錄，是質(zhì)量管理的重要問(wèn)題。社會(huì)各界也在積極建設(shè)公開(kāi)數(shù)據(jù)集、第三方數(shù)據(jù)集，但數(shù)據(jù)提供能力有待提升，且如何建立合適的對(duì)供應(yīng)商考核機(jī)制，同樣有待研究。AIMD企業(yè)有必要從技術(shù)層面、管理層面提高對(duì)標(biāo)準(zhǔn)規(guī)范和法規(guī)的認(rèn)識(shí)，加強(qiáng)數(shù)據(jù)集質(zhì)量控制的技術(shù)能力、基礎(chǔ)設(shè)施和管理體系[19]。

第二，針對(duì)AIMD產(chǎn)品或者生產(chǎn)過(guò)程的變更控制是AIMD質(zhì)量體系的另一個(gè)重點(diǎn)和難點(diǎn)。未經(jīng)充分驗(yàn)證和確認(rèn)的變更可能導(dǎo)致產(chǎn)品失效或者返工。因此，AIMD企業(yè)需要建立詳細(xì)的質(zhì)量變更控制文件，并對(duì)這些變更進(jìn)行充分的驗(yàn)證，確保變更糾正了問(wèn)題。同時(shí)，AIMD企業(yè)還要確保設(shè)計(jì)變更和相應(yīng)的版本控制得到了充分驗(yàn)證。如果相應(yīng)的設(shè)計(jì)變更在已經(jīng)建立的版本體系中屬于次要升級(jí)，則不需要進(jìn)行主版本變更，如果相應(yīng)的設(shè)計(jì)變更屬于重大變更，則應(yīng)該升級(jí)版本，并進(jìn)行相應(yīng)的申報(bào)并持續(xù)滿足法規(guī)的要求。

第三，網(wǎng)絡(luò)安全記錄方面未得到充分重視，僅有7家（21.88%）受訪企業(yè)表示記錄非常完備，甚至有受訪企業(yè)表示記錄非常不完備甚至沒(méi)有相關(guān)記錄的情況。AIMD產(chǎn)品在研發(fā)階段的網(wǎng)絡(luò)安全管理，一方面應(yīng)遵循原國(guó)家食品藥品管理總局頒發(fā)《醫(yī)療器械網(wǎng)絡(luò)安全的注冊(cè)技術(shù)審查指導(dǎo)原則》[20]，另一方面應(yīng)考慮AI產(chǎn)品的技術(shù)特色，包括：①AIMD產(chǎn)品算法性能的可靠性、模型健壯性等要素；② 產(chǎn)品全生命周期的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)防御策略[21]。但是，目前針對(duì)AIMD產(chǎn)品的網(wǎng)絡(luò)安全標(biāo)準(zhǔn)尚屬空白，并且對(duì)于網(wǎng)絡(luò)安全的質(zhì)量評(píng)價(jià)方法和措施也尚無(wú)定論，這也有待于產(chǎn)業(yè)進(jìn)一步聯(lián)合，共筑AIMD產(chǎn)品的網(wǎng)絡(luò)安全質(zhì)量評(píng)價(jià)方法和相關(guān)的行業(yè)標(biāo)準(zhǔn)，共建AIMD產(chǎn)品運(yùn)行的安全綠色環(huán)境。

第四，對(duì)AIMD產(chǎn)品上市后的質(zhì)量控制環(huán)節(jié)未加以關(guān)注。15家（46.88%）受訪企業(yè)表示未針對(duì)未來(lái)臨床使用AIMD產(chǎn)品的過(guò)程中設(shè)計(jì)質(zhì)控環(huán)節(jié)，未考慮進(jìn)行周期性性能驗(yàn)證。這也可能因?yàn)榇蟛糠质茉L企業(yè)的AIMD產(chǎn)品尚處于上市前的研發(fā)和臨床試驗(yàn)階段，還未能很好地考慮到產(chǎn)品上市后的質(zhì)控環(huán)節(jié)。由于AIMD的“機(jī)器學(xué)習(xí)”特性，AI算法模型具有快速演化、黑盒、對(duì)數(shù)據(jù)質(zhì)量高度依賴等特性，AIMD的安全性和有效性可能在臨床使用條件下出現(xiàn)不同程度、不同方式的波動(dòng)[22]。不管是正向還是負(fù)向的波動(dòng)，對(duì)AIMD產(chǎn)品的趨勢(shì)監(jiān)測(cè)和質(zhì)量控制是非常必要的，尤其是對(duì)于具有持續(xù)自學(xué)習(xí)功能的產(chǎn)品，這一點(diǎn)顯得尤其重要。AIMD真實(shí)性能如何監(jiān)測(cè)、由誰(shuí)監(jiān)測(cè)，是AIMD質(zhì)量研究應(yīng)關(guān)注的重要問(wèn)題，具體應(yīng)考慮企業(yè)與醫(yī)院之間的溝通反饋如何實(shí)施、企業(yè)的預(yù)防與糾正措施如何設(shè)計(jì)。

綜上，隨著AI技術(shù)的不斷突破和升級(jí)，作為我國(guó)醫(yī)療器械產(chǎn)業(yè)異軍突起的新方向，AIMD產(chǎn)業(yè)的發(fā)展機(jī)遇和挑戰(zhàn)并重。一方面，國(guó)家在政策方面給予了大力的扶持，隨著公眾關(guān)注度的提高，學(xué)術(shù)研究水平也在不斷提升，大量的社會(huì)資本進(jìn)入將推動(dòng)產(chǎn)業(yè)快速升級(jí)；另一方面，持續(xù)的產(chǎn)品質(zhì)量管控，方能確保產(chǎn)品在市場(chǎng)上的生命力，期待行業(yè)內(nèi)協(xié)同起來(lái)，推動(dòng)產(chǎn)品質(zhì)量管理體系的深入研究，共同建立標(biāo)準(zhǔn)規(guī)范，與法規(guī)形成良好的銜接，有效確保AIMD產(chǎn)品安全有效，更好地服務(wù)于臨床。