999精品在线视频,手机成人午夜在线视频,久久不卡国产精品无码,中日无码在线观看,成人av手机在线观看,日韩精品亚洲一区中文字幕,亚洲av无码人妻,四虎国产在线观看 ?

融合醫(yī)療知識(shí)圖譜的推薦系統(tǒng)研究進(jìn)展

2023-10-10 10:38:14沈希宇蔡肖紅
關(guān)鍵詞:用戶信息方法

沈希宇,蔡肖紅,曹 慧

山東中醫(yī)藥大學(xué) 智能與信息工程學(xué)院,濟(jì)南 250355

個(gè)性化推薦系統(tǒng)能夠通過對(duì)大量的數(shù)據(jù)進(jìn)行匯總分析,找尋用戶特征,建立匹配機(jī)制,為用戶推薦其可能感興趣的信息。隨著信息社會(huì)的建設(shè)逐步完善,推薦系統(tǒng)已經(jīng)根植于社會(huì)的各行各業(yè),其中適配于醫(yī)療健康領(lǐng)域的推薦系統(tǒng)正在蓬勃發(fā)展。如推薦用藥、輔助診斷、精準(zhǔn)醫(yī)療、預(yù)測藥物相互作用等[1],傳統(tǒng)的推薦算法可以分為基于內(nèi)容的推薦算法、基于協(xié)同過濾的推薦算法和混合的推薦算法[2],但數(shù)據(jù)稀疏性和冷啟動(dòng)問題一直是傳統(tǒng)推薦算法性能的桎梏。以協(xié)同過濾算法為例,所謂數(shù)據(jù)稀疏性是指在數(shù)據(jù)總量中有效數(shù)據(jù)所占比例極小,導(dǎo)致構(gòu)建的用戶(user)-物品(item)矩陣變得稀疏,在進(jìn)行相關(guān)計(jì)算時(shí),對(duì)結(jié)果的準(zhǔn)確性將產(chǎn)生極大的負(fù)面影響。針對(duì)此類問題常用的解決方案為:一是通過引入上下文聯(lián)系,聯(lián)合評(píng)論信息等多方位的關(guān)聯(lián)數(shù)據(jù),間接降低矩陣的稀疏程度,從而提高推薦準(zhǔn)確度。二是通過對(duì)數(shù)據(jù)進(jìn)行聚類分析,將數(shù)據(jù)聚成高相似度的幾類,降低數(shù)據(jù)的維度,進(jìn)而提升推薦效果。三是通過結(jié)合深度學(xué)習(xí)挖掘數(shù)據(jù)的隱含特征,從而解決數(shù)據(jù)稀疏性問題。目前學(xué)術(shù)界廣泛運(yùn)用的是結(jié)合深度學(xué)習(xí)的推薦算法,雖然深度學(xué)習(xí)算法可以有效解決數(shù)據(jù)稀疏性的問題,但對(duì)于冷啟動(dòng)問題仍然缺乏有效的應(yīng)對(duì)手段。而且深度學(xué)習(xí)算法通過卷積計(jì)算挖掘數(shù)據(jù)隱含特征,對(duì)于問題本身缺乏有效的可解釋性。醫(yī)療知識(shí)圖譜作為數(shù)據(jù)關(guān)聯(lián)度高且可解釋性良好的技術(shù)手段與推薦系統(tǒng)有著很高的契合度,可以有效解決目前推薦系統(tǒng)所面臨的困難。

本文在將近年來推薦系統(tǒng)的相關(guān)研究進(jìn)行整理歸納的基礎(chǔ)上,對(duì)基于知識(shí)圖譜的推薦系統(tǒng)進(jìn)行深入的研究,主要對(duì)結(jié)合醫(yī)療實(shí)踐的研究成果進(jìn)行梳理分析,最后對(duì)具可行性的未來研究方向進(jìn)行了展望。

1 醫(yī)療知識(shí)圖譜的構(gòu)建

1.1 知識(shí)圖譜的基本定義

知識(shí)圖譜是通過符號(hào)形式構(gòu)建圖模型用來描述物理世界中概念以及其相互關(guān)系的技術(shù)方法,是人工智能領(lǐng)域的下游技術(shù),本質(zhì)上是異構(gòu)圖。知識(shí)圖譜的概念由谷歌于2012年提出,其前身是語義網(wǎng),經(jīng)過長時(shí)間的發(fā)展形成了結(jié)構(gòu)化的語義知識(shí)庫,基本組成單位是節(jié)點(diǎn)和邊。節(jié)點(diǎn)可以是實(shí)體,邊可以是實(shí)體的屬性關(guān)系,通常的表現(xiàn)形式沿用了語義網(wǎng)絡(luò)中“頭實(shí)體-關(guān)系-尾實(shí)體”三元組的經(jīng)典設(shè)定,實(shí)體以邊為橋梁相互聯(lián)結(jié),構(gòu)成的結(jié)構(gòu)知識(shí)呈現(xiàn)網(wǎng)狀,因此也被稱為異構(gòu)信息網(wǎng)絡(luò),如圖1所示。

圖1 知識(shí)圖譜示例Fig.1 Example of knowledge graphs

按照知識(shí)涵蓋范圍可以將知識(shí)圖譜劃分為通用知識(shí)圖譜和領(lǐng)域知識(shí)圖譜。通用知識(shí)圖譜旨在納入更多實(shí)體類型,內(nèi)容多而雜,且準(zhǔn)確性不足,很難將其實(shí)體和關(guān)系標(biāo)準(zhǔn)化;領(lǐng)域知識(shí)圖譜則是依托于專業(yè)性領(lǐng)域的特定知識(shí)構(gòu)建而成,構(gòu)建三元組的實(shí)體和關(guān)系時(shí)需要統(tǒng)籌兼顧領(lǐng)域內(nèi)獨(dú)特的知識(shí)體系,醫(yī)療知識(shí)圖譜從屬于領(lǐng)域知識(shí)圖譜。

1.2 醫(yī)療知識(shí)圖譜的體系架構(gòu)

醫(yī)療知識(shí)圖譜目前主要的構(gòu)建模式有兩種,即自頂向下與自底向上的構(gòu)建模式。自頂向下的構(gòu)建模式首先構(gòu)建頂部本體層,然后將關(guān)系和概念梳理細(xì)化,再將抽取到的實(shí)體填充到所構(gòu)建的頂層本體中;自底向上的構(gòu)建模式則是先從數(shù)據(jù)源中提取實(shí)體、屬性、類別和關(guān)系,直接合并到知識(shí)圖譜的數(shù)據(jù)層,最后形成頂部模式層。現(xiàn)階段大部分知識(shí)圖譜的構(gòu)建都采用了自底向上的方法。

構(gòu)建醫(yī)療知識(shí)圖譜有利于整合現(xiàn)有知識(shí),將存在于各處的醫(yī)療學(xué)知識(shí)轉(zhuǎn)變成計(jì)算機(jī)可讀的程序語言。當(dāng)今正處醫(yī)療數(shù)據(jù)飛速積累的時(shí)代,醫(yī)療知識(shí)不僅存儲(chǔ)于病例文本、住院表格等非結(jié)構(gòu)化文本中,還在期刊文獻(xiàn)、互聯(lián)網(wǎng)資源等結(jié)構(gòu)化數(shù)據(jù)中大量存在。醫(yī)療知識(shí)圖譜構(gòu)建的關(guān)鍵技術(shù)流程如圖2所示。

圖2 醫(yī)療知識(shí)圖譜架構(gòu)流程圖Fig.2 Flow chart of medical knowledge graph architecture

醫(yī)療知識(shí)圖譜的構(gòu)建流程由醫(yī)療知識(shí)抽取、醫(yī)療知識(shí)融合和醫(yī)療知識(shí)加工三個(gè)主要模塊組成。醫(yī)療知識(shí)抽取包含實(shí)體抽取、關(guān)系抽取和屬性抽取,通過從海量的結(jié)構(gòu)化、半結(jié)構(gòu)化和無結(jié)構(gòu)化的醫(yī)療數(shù)據(jù)源中提煉出實(shí)體、關(guān)系和屬性等要素存儲(chǔ)在醫(yī)療知識(shí)圖譜中。醫(yī)療知識(shí)融合可消除實(shí)體、關(guān)系、屬性等概念項(xiàng)與事實(shí)對(duì)象之間的歧義,使不同來源的知識(shí)能夠得到規(guī)范化整合、消歧和加工,并可以保證醫(yī)療知識(shí)圖譜能夠循環(huán)更新和補(bǔ)足缺失的知識(shí)。醫(yī)療知識(shí)加工包括本體構(gòu)建、知識(shí)推理和質(zhì)量評(píng)估。本體構(gòu)建是對(duì)已構(gòu)建好的數(shù)據(jù)層進(jìn)行概念抽象,即構(gòu)建知識(shí)圖譜的頂層關(guān)系本體;知識(shí)推理是推斷出尚未明確的實(shí)體關(guān)系,自動(dòng)完成疾病診斷與治療;質(zhì)量評(píng)估是通過對(duì)已有知識(shí)的可信度進(jìn)行量化評(píng)估,篩選出置信度高的知識(shí),保持知識(shí)圖譜的精準(zhǔn)性。

2 推薦系統(tǒng)的發(fā)展

自互聯(lián)網(wǎng)興起以來,網(wǎng)絡(luò)上積累的數(shù)據(jù)信息極速增長。冗余的數(shù)據(jù)中蘊(yùn)含著寶貴的價(jià)值,但卻很難被開發(fā)出來其應(yīng)有的價(jià)值。推薦系統(tǒng)作為幫助人們利用冗余數(shù)據(jù),開發(fā)數(shù)據(jù)價(jià)值的有效手段,是推動(dòng)整個(gè)互聯(lián)網(wǎng)發(fā)展的核心動(dòng)力。對(duì)于用戶來說推薦系統(tǒng)所面臨的問題可以簡化為如何針對(duì)特定場景下的用戶在眾多候選可能中為其預(yù)測并推薦可能感興趣的事物,在需要應(yīng)用到推薦的場景中多數(shù)用戶都存在需求不明確的情況。與傳統(tǒng)的搜索引擎不同,推薦系統(tǒng)通常會(huì)結(jié)合用戶歷史信息和標(biāo)簽預(yù)測用戶的需求,當(dāng)用戶歷史信息缺失時(shí)則需要利用其他相似用戶的信息來交替比較。

2.1 推薦系統(tǒng)的架構(gòu)

作為介紹推薦系統(tǒng)的前提,如下概念在推薦系統(tǒng)中起著基石作用:用戶信息是與用戶相關(guān)的各種信息,例如歷史瀏覽行為、用戶關(guān)系網(wǎng)絡(luò)等;物品信息是各個(gè)推薦場景中所涉及到的不同推薦客體,例如醫(yī)藥、疾病、新聞、電影等;場景信息是在具體的推薦場景中,對(duì)用戶決定起到輔助作用的信息,例如時(shí)間、地點(diǎn)、用戶所處狀態(tài)等。推薦系統(tǒng)的主體是由用戶信息、物品信息、場景信息共同構(gòu)建的預(yù)測函數(shù)模型。

推薦系統(tǒng)的邏輯架構(gòu)可以簡單地理解為在用戶和龐雜的選擇之間樹立起的過濾網(wǎng),如圖3所示。

圖3 推薦系統(tǒng)邏輯架構(gòu)流程圖Fig.3 Flow chart of Recommended system logic architecture

在實(shí)際的推薦系統(tǒng)中,數(shù)據(jù)處理和構(gòu)建算法模型尤為重要。數(shù)據(jù)處理需要對(duì)冗余的數(shù)據(jù)進(jìn)行過濾,包括數(shù)據(jù)的收集、存儲(chǔ)、加工、分類、歸并、計(jì)算、排序、轉(zhuǎn)換、檢索和傳播,以此獲取推薦系統(tǒng)所需要的用戶、物品、場景信息。

獲得的信息送往預(yù)測模型之前還需要對(duì)信息進(jìn)行特征工程的處理,提取出可以表達(dá)問題本質(zhì)的特征,有助于提高模型的精準(zhǔn)度;構(gòu)建預(yù)測模型的過程一般包括召回層,排序?qū)雍脱a(bǔ)充排序?qū)印U倩貙拥淖饔檬抢酶咝У恼倩厮惴P涂焖賹?duì)海量候選物品進(jìn)行初篩,過濾掉無用的候選物品,召回用戶可能感興趣的物品;排序?qū)幼鳛橥扑]算法的主體是最為重要的部分,推薦結(jié)果的精確性主要由排序算法對(duì)初篩的候選物品進(jìn)行精確排序來體現(xiàn);補(bǔ)充排序?qū)邮菍?duì)用戶返回推薦結(jié)果之前的查漏補(bǔ)缺,結(jié)合環(huán)境信息對(duì)用戶的推薦結(jié)果進(jìn)行的微調(diào),為用戶呈現(xiàn)最終的推薦結(jié)果。

2.2 推薦模型的演化

自推薦系統(tǒng)應(yīng)用于商業(yè)以來,推薦系統(tǒng)出現(xiàn)了井噴式的發(fā)展,從開始的協(xié)同過濾模型(collaborative filtering,CF)[3]、邏輯回歸模型(logistics regression,LR)[4],逐步進(jìn)化完善到了因子分解機(jī)模型(factorization machine,F(xiàn)M)[5]、梯度提升決策樹的組合模型(gradient boosting decision tree,GBDT)[6-7]。直到2012年AlexNet[8]的提出,深度學(xué)習(xí)憑借其強(qiáng)大的表達(dá)能力和靈活性的浪潮席卷學(xué)術(shù)界,基于深度學(xué)習(xí)的模型架構(gòu)百家爭鳴,推薦模型步入了組合模型的階段,基本拋棄了單一模型的框架。

雖然基于深度學(xué)習(xí)的模型對(duì)冷啟動(dòng)和數(shù)據(jù)稀疏性問題做出了很大改善,但是其對(duì)特征處理的弱解釋性仍是推薦系統(tǒng)的短板之一。

2.3 小結(jié)

在推薦系統(tǒng)的早期發(fā)展階段,研究者專注于僅憑借用戶歷史交互信息向目標(biāo)用戶推薦相似的用戶或物品,例如協(xié)同過濾、邏輯回歸模型、因式分解機(jī)、矩陣分解技術(shù)等。該類方法的關(guān)鍵問題在于如何提取用戶和物品的特征來計(jì)算它們的相似性。

隨著神經(jīng)網(wǎng)絡(luò)模型的出現(xiàn),許多方法將基于相似性的方法擴(kuò)展到神經(jīng)網(wǎng)絡(luò),為自動(dòng)提取用戶和推薦物品的潛在特征提供了一種更有效的機(jī)制。然而,該類方法仍然受到數(shù)據(jù)稀疏問題和冷啟動(dòng)問題的困擾。傳統(tǒng)推薦模型的優(yōu)勢及局限性總結(jié)見表1[3-10]。基于內(nèi)容的方法通過引入各種輔助信息來處理問題,例如上下文評(píng)論、場景信息和知識(shí)圖譜。引入輔助信息的優(yōu)點(diǎn)是提高了推薦結(jié)果的可解釋性。在輔助信息中,知識(shí)圖譜由于其良好定義的結(jié)構(gòu)和充足的資源,在推薦方面顯示出巨大的潛力。

表1 傳統(tǒng)推薦模型的主要優(yōu)勢及局限性Table 1 Main advantages and limitations of traditional recommendation models

3 融合醫(yī)療知識(shí)圖譜的推薦系統(tǒng)

知識(shí)圖譜作為數(shù)據(jù)關(guān)聯(lián)度高且可解釋性良好的技術(shù)方法與推薦系統(tǒng)有著很高的契合度,可以有效解決目前推薦系統(tǒng)在醫(yī)療領(lǐng)域所面臨的困難。醫(yī)療知識(shí)圖譜為item(疾病、藥品等)引入了更多的語義特征,可以更深層次的挖掘患者需求。隨著輔助信息的加入,數(shù)據(jù)稀疏和冷啟動(dòng)的問題可以得到有效的緩解,進(jìn)而提高模型效能。而且融合醫(yī)療知識(shí)圖譜的推薦系統(tǒng)可解釋性強(qiáng),連接患者的病歷記錄和推薦結(jié)果,從而提高患者對(duì)推薦結(jié)果的滿意度和接受度,能按照符合人類認(rèn)知的推薦路徑進(jìn)行精準(zhǔn)推送,增強(qiáng)患者對(duì)推薦系統(tǒng)的信任。此外,還可以將患者信息和外部信息集成到醫(yī)療知識(shí)圖譜中,更為精準(zhǔn)地捕捉患者和疾病之間的關(guān)系以及患者的偏好。

目前大多數(shù)基于知識(shí)圖譜的推薦模型都基于三種模式:依次學(xué)習(xí)、聯(lián)合學(xué)習(xí)和交替學(xué)習(xí),如圖4所示。

圖4 知識(shí)圖譜應(yīng)用于推薦系統(tǒng)的三種模式Fig.4 Three modes of knowledge graph application in recommendation system

依次學(xué)習(xí)是指先使用知識(shí)圖譜進(jìn)行特征學(xué)習(xí),從而得到實(shí)體和關(guān)系的低維向量,然后將這些低維向量引入推薦系統(tǒng)再做后面的處理。也就是只把知識(shí)圖譜作為一個(gè)特征的處理方式,兩個(gè)模塊依次進(jìn)行學(xué)習(xí)。聯(lián)合學(xué)習(xí)是指知識(shí)圖譜特征學(xué)習(xí)模塊和推薦算法模塊的目標(biāo)函數(shù),然后再使用端到端的方法進(jìn)行聯(lián)合學(xué)習(xí)。將因?yàn)檫M(jìn)行知識(shí)圖譜嵌入而降維的損失也納入到最后的損失函數(shù)中進(jìn)行聯(lián)合訓(xùn)練。交替學(xué)習(xí)是將知識(shí)圖譜特征學(xué)習(xí)模塊和推薦算法模塊視為兩個(gè)分離但關(guān)聯(lián)的模塊,使用多任務(wù)學(xué)習(xí)的框架進(jìn)行交替學(xué)習(xí)。這樣的做法兼顧了兩者的優(yōu)點(diǎn),使得知識(shí)圖譜和推薦系統(tǒng)兩個(gè)模塊可以更深入地進(jìn)行結(jié)合。

現(xiàn)階段基于醫(yī)療知識(shí)圖譜的推薦模型大多都是以傳統(tǒng)推薦模型為根基,將醫(yī)療知識(shí)圖譜中關(guān)于患者和疾病等實(shí)體的結(jié)構(gòu)化知識(shí)引入到推薦模型中充當(dāng)輔助信息,用來改善傳統(tǒng)推薦模型中數(shù)據(jù)稀疏和冷啟動(dòng)的問題,除此之外也存在利用醫(yī)療知識(shí)圖譜本身結(jié)構(gòu)特點(diǎn)來優(yōu)化結(jié)果的推薦模型。根據(jù)算法實(shí)現(xiàn)原理以及利用醫(yī)療知識(shí)圖譜信息結(jié)構(gòu)的不同,可以將現(xiàn)有基于醫(yī)療知識(shí)圖譜的推薦模型分為三種:基于嵌入的方法Emb(embedding-based)、基于路徑的方法Path(path-based)和融合的方法Uni(unified-based)。

融合知識(shí)圖譜的推薦系統(tǒng)是一個(gè)研究較為成熟、快速發(fā)展的領(lǐng)域,擁有廣泛的應(yīng)用前景,不僅限于醫(yī)療領(lǐng)域,在影視、書籍、音樂、電子商務(wù)等領(lǐng)域也大放光彩。通過整理經(jīng)典綜述文獻(xiàn)和代表性的工作,將基于知識(shí)圖譜的多領(lǐng)域經(jīng)典推薦模型匯總見表2[11-36]。

表2 基于知識(shí)圖譜的多領(lǐng)域經(jīng)典推薦模型匯總Table 2 Summary of multi-domain classic recommendation models based on knowledge graph

3.1 基于路徑的方法(path-based)

基于路徑的方法通過構(gòu)建用戶和物品的異構(gòu)信息網(wǎng)絡(luò),計(jì)算實(shí)體連接路徑之間的連通性和相似性,從而實(shí)現(xiàn)不同語義角度的推薦。該方法充分且直觀地利用了知識(shí)圖譜的網(wǎng)絡(luò)結(jié)構(gòu),引入了基于元路徑相似性的概念,不僅使用戶和物品間的多元關(guān)系被高效利用,而且還增強(qiáng)了推薦算法的可解釋性。基于路徑的方法最早被稱為異構(gòu)信息網(wǎng)絡(luò)(hetegeneous information network,HⅠN)中的推薦方法。異構(gòu)信息網(wǎng)絡(luò)由于包含多類實(shí)體和連接關(guān)系,在復(fù)雜多元異構(gòu)的數(shù)據(jù)環(huán)境下的建模能力出眾,因此被廣泛應(yīng)用于推薦系統(tǒng)中。

基于路徑的方法早期通過與傳統(tǒng)的推薦算法相結(jié)合顯著提高了推薦效果的準(zhǔn)確性。Yu等人[11]在2013年提出的Hete-MF模型采用基于矩陣分解的推薦框架,使用異構(gòu)信息網(wǎng)絡(luò)將用戶評(píng)級(jí)與實(shí)體相似性矩陣結(jié)合起來,通過提取不同的元路徑并計(jì)算每個(gè)路徑中的物品相似度進(jìn)行推薦。由于該模型缺乏對(duì)用戶的動(dòng)機(jī)、興趣等外部信息的利用,存在推薦不精準(zhǔn)的明顯弊端,該團(tuán)隊(duì)于2013 年提出的Hete-Rec 模型[37]利用元路徑的相似性完善用戶-物品交互矩陣,從而可以提取用戶和物品更為全面的特征信息。該團(tuán)隊(duì)在后續(xù)推出的HeteRec-p模型[12]中進(jìn)一步考慮了不同元路徑對(duì)于不同用戶的重要性,該模型通過基于元路徑的遍歷方法進(jìn)行特征提取,充分利用了用戶與物品以及物品與物品之間的關(guān)系,首先根據(jù)用戶過去的行為將用戶分組,并利用聚類信息生成個(gè)性化推薦,然后根據(jù)用戶的不同提供基于用戶-物品隱式交互的高質(zhì)量推薦。但其對(duì)于隱式反饋沒有細(xì)致的區(qū)分,只是籠統(tǒng)地劃分為正反饋和負(fù)反饋,這將會(huì)導(dǎo)致模型的性能下降。在經(jīng)典的協(xié)同過濾算法基礎(chǔ)上,Luo等人[38]提出的Hete-CF模型通過將用戶-用戶、物品-物品和用戶-物品的相似度作為正則化項(xiàng),查找用戶對(duì)未分級(jí)物品的相似度,對(duì)于解決異構(gòu)社交網(wǎng)絡(luò)上的推薦問題起到了良好的效果。

3.1.1 結(jié)合醫(yī)療實(shí)踐的基于路徑的方法

在與醫(yī)療實(shí)踐結(jié)合后,推薦系統(tǒng)不僅包含簡單的用戶-物品的關(guān)系問題,還需要遵循生物學(xué)合理假設(shè)的研究方向。傳統(tǒng)用藥推薦是由醫(yī)生根據(jù)豐富的經(jīng)驗(yàn)配合臨床指南定義的基于規(guī)則模板匹配的推薦,對(duì)于特定診斷的非特異化醫(yī)學(xué)推薦可能是有效的,但是對(duì)于復(fù)雜患者的私人訂制推薦作用有限。Wang等人[39]提出的SⅠET(star interactive enhanced-based transformer)模型利用基于元路徑的方法從基于電子病歷和醫(yī)學(xué)知識(shí)圖的大型異構(gòu)網(wǎng)絡(luò)中構(gòu)造出疾病同質(zhì)圖,藥物同質(zhì)圖和副作用同質(zhì)圖,然后將疾病、藥物、副作用三個(gè)實(shí)體序列向量投射到低維稠密向量空間中,最后通過計(jì)算疾病表征和藥物表征向量之間的余弦相似度得到推薦藥物列表。其優(yōu)點(diǎn)是利用了注意力機(jī)制增強(qiáng)了嵌入向量的表示,提高了推薦的精準(zhǔn)性,缺點(diǎn)則是增加的參數(shù)需要更多的計(jì)算資源,推薦效率有所下降。

藥物重定位是一種將現(xiàn)有藥物用于治療新的適應(yīng)癥的藥物發(fā)現(xiàn)方式。相較于傳統(tǒng)的新藥開發(fā),可以有效縮短藥物研發(fā)周期,降低成本,規(guī)避風(fēng)險(xiǎn)。Nam 等人[40]針對(duì)藥物重定位問題提出KGE-CLASH模型,引入額外的知識(shí)充當(dāng)輔助信息,改善數(shù)據(jù)稀疏性問題,同時(shí)利用調(diào)和函數(shù)進(jìn)行標(biāo)簽傳播,所得藥物評(píng)分用來推薦。該模型的不足之處是需要專業(yè)人員結(jié)合領(lǐng)域知識(shí)來定義元路徑的類型和數(shù)量。Zhao 等人[41]提出的通用臨床決策支持方法使用醫(yī)學(xué)知識(shí)網(wǎng)絡(luò)(EMR-based medical knowledge network,EMKN)將問題描述為一個(gè)馬爾可夫決策過程(Markov random field,MRF),可以來推理癥狀-疾病之間的合理路徑,通過為實(shí)體關(guān)系匹配相應(yīng)的能量函數(shù),一定程度上解決了先前方法需要手動(dòng)定義元路徑的問題。

與推薦系統(tǒng)中的數(shù)據(jù)稀疏性類似,醫(yī)學(xué)異構(gòu)圖遵循長尾分布,長尾實(shí)體只和某些實(shí)體交互,因此推薦系統(tǒng)無法統(tǒng)籌全局信息。Lan等人[42]針對(duì)醫(yī)學(xué)知識(shí)圖譜實(shí)體和路徑的稀疏性問題,通過BERT(bidirectional encoder representation from transformers)的預(yù)訓(xùn)練模型對(duì)實(shí)體和路徑文本語句進(jìn)行編碼,以增強(qiáng)實(shí)體和路徑的嵌入,同時(shí)加入了注意機(jī)制用于組合多條路徑的語義特征,在解決了數(shù)據(jù)稀疏性問題的同時(shí),大量的BERT參數(shù)會(huì)減慢模型訓(xùn)練和收斂的速度,導(dǎo)致模型需要更多的時(shí)間成本。

3.1.2 小結(jié)

基于路徑的方法通常將協(xié)同過濾、矩陣分解等傳統(tǒng)推薦算法與異構(gòu)信息網(wǎng)絡(luò)中提取的元路徑相結(jié)合。該類方法利用路徑連通性規(guī)范和豐富用戶-物品表示,缺點(diǎn)是通常需要領(lǐng)域知識(shí)來定義元路徑的類型和數(shù)量,導(dǎo)致信息浪費(fèi)和增加非必要的計(jì)算開銷。隨著深度學(xué)習(xí)技術(shù)與醫(yī)療實(shí)踐的深入結(jié)合,該類方法將路徑嵌入進(jìn)行顯式編碼,可以通過連接癥狀-藥物的最顯著路徑生成推薦結(jié)果。基于路徑的方法自然地將可解釋性引入到推薦過程中,推薦結(jié)果可以從預(yù)定義的元路徑中找到參考。實(shí)現(xiàn)元路徑選擇的自動(dòng)化是未來的發(fā)展方向,例如利用深度學(xué)習(xí)模型自動(dòng)挖掘疾病-藥物的顯著路徑,從而在圖中反映推薦過程。基于路徑的推薦算法特點(diǎn)及其局限性總結(jié)見表3。

表3 基于路徑的推薦算法特點(diǎn)及其局限性Table 3 Characteristics and limitations of path-based recommendation algorithm

3.2 基于嵌入的方法(embedding-based)

與基于路徑的方法不同,基于嵌入的方法用知識(shí)圖譜作為輔助信息,豐富item或user的表示。為了充分利用知識(shí)圖譜的信息,該類方法需要采用知識(shí)圖譜嵌入(knowledge graph embedding,KGE)算法將知識(shí)圖譜中包括實(shí)體和關(guān)系的三元組映射到低維連續(xù)的向量空間,保留知識(shí)圖譜結(jié)構(gòu)的同時(shí),使其蘊(yùn)含更多的潛在語義信息,更容易被計(jì)算機(jī)理解和操作。知識(shí)圖譜嵌入的方法主要可以分為轉(zhuǎn)移距離模型(translational distance)方法和語義匹配模型(semantic matching)方法兩種,前者是利用基于距離的評(píng)分函數(shù),學(xué)習(xí)從頭實(shí)體到尾實(shí)體的空間關(guān)系變換(TransE[43]、TransR[44]等系列模型),后者則是通過基于相似性的評(píng)分函數(shù),直接運(yùn)用神經(jīng)網(wǎng)絡(luò)對(duì)語義相似度進(jìn)行計(jì)算(RESCAL[45]、DistMult[46]等模型)。

基于嵌入的方法早期通過利用KGE算法處理過的原始嵌入向量進(jìn)行推薦。Zhang等人[20]提出CKE(collaborative knowledge base embedding)模型,針對(duì)之前方法只利用知識(shí)圖譜的單一結(jié)構(gòu)信息而忽略了其他重要信息的缺陷,整合了包括外部知識(shí)圖譜、文本、圖像等外部信息,完善了實(shí)體的結(jié)構(gòu)化信息向量,形成了物品的潛在向量表示。該模型的不足之處在于忽略了知識(shí)圖譜內(nèi)的實(shí)體之間的關(guān)系信息;用戶嵌入向量無法得到及時(shí)更新;增加的輔助信息涵蓋多個(gè)方面,但卻缺少權(quán)重的劃分,這將會(huì)對(duì)實(shí)際推薦結(jié)果產(chǎn)生不利影響。

Wang 等人[21]提出的DKN(deep knowledge-aware network)模型針對(duì)上述方法的不足之處,使用結(jié)合了知識(shí)圖譜的卷積網(wǎng)絡(luò)KCNN(knowledge-aware convolutional neural network)[47]將新聞的語義信息與知識(shí)圖譜融合起來形成全新的嵌入向量。為了捕捉用戶對(duì)新聞的動(dòng)態(tài)興趣,該模型通過加入注意力機(jī)制,對(duì)候選推薦的權(quán)重進(jìn)行了分配。雖然DKN模型在用戶歷史交互的信息基礎(chǔ)上,將知識(shí)圖譜作為衡量用戶偏好的尺度,但卻只選取了相鄰用戶的聯(lián)系作為上下文信息,完全沒有利用到知識(shí)圖譜內(nèi)的關(guān)系信息。在此基礎(chǔ)上該團(tuán)隊(duì)提出了MKR(multi-task feature learning approach for knowledge graph enhanced recommendation)模型[23]將推薦問題精確地建模為多任務(wù)學(xué)習(xí)(multi-task learning)。該模型由推薦模塊和KGE 模塊組成,通過前者學(xué)習(xí)獲得用戶和物品的潛在表示,而后者利用語義匹配的KGE模型學(xué)習(xí)獲得物品關(guān)聯(lián)實(shí)體的向量表示,如圖5 所示。這兩個(gè)部分通過一個(gè)交叉壓縮單元連接起來相互傳遞知識(shí),共享推薦模塊中物品和知識(shí)圖譜中實(shí)體的規(guī)則化,進(jìn)一步避免了出現(xiàn)擬合噪聲和提高了模型泛化能力。

圖5 MKR模型結(jié)構(gòu)示意圖Fig.5 Schematic diagram of MKR model structure

3.2.1 結(jié)合醫(yī)療實(shí)踐的基于嵌入的方法

藥物-靶標(biāo)相互作用(drug-target interaction,DTⅠ)在藥物開發(fā)中起著至關(guān)重要的作用,例如藥物重定位和預(yù)測藥物副作用。除此之外,當(dāng)針對(duì)復(fù)雜疾病識(shí)別出新的蛋白質(zhì)靶標(biāo)時(shí),也需要進(jìn)行DTⅠ預(yù)測,同時(shí)需要闡明具有已知治療效果的藥物分子機(jī)制。這個(gè)問題類似于推薦系統(tǒng)的冷啟動(dòng)問題,是DTⅠ預(yù)測在實(shí)際應(yīng)用中的嚴(yán)重限制因素。Ye 等人[48]提出的KGE-NFM(knowledge graph embedding-neural factorization machine)模型在DTⅠ領(lǐng)域通過語義匹配KGE進(jìn)行實(shí)體和關(guān)系嵌入,將所得的低維向量作為輔助信息結(jié)合神經(jīng)因子分解機(jī)NFM(neural factorization machines)得到最終的推薦結(jié)果,雖然該方法緩解了DTⅠ中的冷啟動(dòng)問題,但其框架結(jié)構(gòu)相對(duì)簡單,且對(duì)參數(shù)的調(diào)整很敏感,因此不便于部署在實(shí)際應(yīng)用中。而Shang 等人[49]提出的GAMENet(graph augmented memory network)模型則將藥物建模為實(shí)體節(jié)點(diǎn),將藥物相互作用建模為關(guān)系鏈接,通過結(jié)合外部記憶組件,不僅提高了推薦的精準(zhǔn)度還便于部署,增強(qiáng)了其在臨床實(shí)踐中的實(shí)用性。

自新冠病毒肺炎疫情發(fā)生以來,由于傳統(tǒng)藥物研發(fā)周期長,藥物重定位成為新冠肺炎藥物研發(fā)的主要策略。藥物重定位具有高效、低成本的特點(diǎn),尤其是在突發(fā)性疾病和罕見病方面優(yōu)勢更加突出。Zeng 等人[50]提出的CoV-KGE(coronavirus-knowledge graph embedding)模型通過利用亞馬遜開源知識(shí)圖譜進(jìn)行KGE從而獲得低維向量表示。CoV-KGE根據(jù)候選藥物的推薦預(yù)測得分進(jìn)行藥物重定位,快速識(shí)別可重新用于新冠肺炎潛在治療的藥物。然而該模型因?yàn)榇嬖跀?shù)據(jù)噪聲較大以及忽略權(quán)重分配等問題,所以模型的性能欠佳,推薦準(zhǔn)確率較低。Jin 等人[51]提出的KG-ASMGNN(KGenhanced attentive multi graph neural network)模型針對(duì)之前方法的不足,將草藥推薦問題類比推理為一個(gè)多標(biāo)簽分類任務(wù),除了利用中醫(yī)藥知識(shí)圖譜進(jìn)行KGE 嵌入生成癥狀和草藥的向量表示,還加入了基于注意力的多層感知機(jī)(multilayer perceptron,MLP)對(duì)癥狀-草藥的映射進(jìn)行了細(xì)顆粒度的劃分,確定了不同癥狀的權(quán)重,提高了推薦系統(tǒng)的可靠性。但由于中醫(yī)實(shí)體之間有著復(fù)雜相關(guān)性,推薦效率仍有待提高。

耐藥性是一種復(fù)雜的生物學(xué)現(xiàn)象,阻礙了癌癥治療的可持續(xù)發(fā)展。尋找耐藥性關(guān)鍵基因的常見策略是全基因組篩選。Gogleva等人[52]提出的Skywalk-R模型,將全基因組篩選問題適配為推薦領(lǐng)域的多目標(biāo)優(yōu)化問題用于尋找耐藥性的關(guān)鍵基因,其中KGE 學(xué)習(xí)獲得的向量作為圖形衍生特征被納入推薦系統(tǒng),提高了推薦結(jié)果的準(zhǔn)確性。但與傳統(tǒng)的推薦系統(tǒng)不同,Skywalk-R 無法依靠用戶反饋來逐步評(píng)估和改進(jìn)預(yù)測,因此驗(yàn)證實(shí)驗(yàn)成本高且耗時(shí)長。

基于電子病歷(electronic medical record system,EMRs)的藥物推薦系統(tǒng)在很大程度上可以幫助醫(yī)生做出更好的臨床決策,但是由于電子病歷中缺乏醫(yī)學(xué)專家的知識(shí),推薦系統(tǒng)很難將準(zhǔn)確的醫(yī)療事實(shí)與合適的處方相關(guān)聯(lián),降低了最終的推薦結(jié)果對(duì)于病情復(fù)雜的患者可信度。在基于電子病歷的藥物推薦系統(tǒng)中使用醫(yī)學(xué)知識(shí)圖譜,可使推薦系統(tǒng)能夠?yàn)樘厥饣颊咛峁┻m當(dāng)?shù)奶幏健ong 等人[53]提出的SMR(safe medicine recommendation)模型把推薦用藥問題轉(zhuǎn)換為預(yù)測患者與藥物之間連接的問題,通過從電子病歷和醫(yī)學(xué)知識(shí)圖中構(gòu)建大型異構(gòu)圖,利用TransR方法構(gòu)建特定關(guān)系矩陣,橋接的不同向量空間中的實(shí)體和關(guān)系對(duì)患者進(jìn)行建模,并最小化潛在的藥物不良反應(yīng)做出安全用藥的建議。但由于模型結(jié)構(gòu)過于復(fù)雜,很難在臨床實(shí)踐中部署。

現(xiàn)有的方法多數(shù)都是假設(shè)知識(shí)圖譜是完整的,因?yàn)椴煌暾挠?xùn)練數(shù)據(jù)集會(huì)對(duì)推薦系統(tǒng)的性能產(chǎn)生不利影響。Cao 等人[24]提出的K-TUP(knowledge-enhanced translation-based user preference)模型針對(duì)知識(shí)圖譜不完整的問題,通過利用轉(zhuǎn)移距離模型TransH[44]將知識(shí)圖譜補(bǔ)全任務(wù)和推薦任務(wù)聯(lián)合部署在同一模型中,實(shí)現(xiàn)了兩任務(wù)的相互增強(qiáng)。在此基礎(chǔ)上Sousa等人[54]通過把知識(shí)圖譜作為BiOnt模型[55]的外部實(shí)體信息進(jìn)行生物醫(yī)學(xué)關(guān)系提取,再結(jié)合K-TUP[24]補(bǔ)全了生物醫(yī)學(xué)實(shí)體之間的關(guān)系,提高了推薦的準(zhǔn)確度。

3.2.2 小結(jié)

基于嵌入的方法不僅將知識(shí)圖譜中的實(shí)體和關(guān)系映射到低維向量,還保留了原有的結(jié)構(gòu)或語義信息,對(duì)解決基于路徑的方法中依賴元路徑設(shè)計(jì)、忽視語義關(guān)系的問題起到了重要的作用。但是該類方法對(duì)于知識(shí)圖譜中的多跳關(guān)系缺乏合理的運(yùn)用,致使部分推薦結(jié)果的可解釋性降低。在與醫(yī)療實(shí)踐結(jié)合后,基于嵌入的方法構(gòu)建醫(yī)療知識(shí)圖譜時(shí)常使用多種類型的邊信息豐富醫(yī)療實(shí)體的表示,并且采用邊信息可以更精確地對(duì)患者的表示進(jìn)行建模。另外,采用多任務(wù)學(xué)習(xí)策略將推薦模塊與醫(yī)療異構(gòu)圖相關(guān)任務(wù)進(jìn)行聯(lián)合訓(xùn)練,也可以進(jìn)一步提高推薦的質(zhì)量。基于嵌入的推薦算法的優(yōu)勢及局限性總結(jié)見表4。

表4 基于嵌入的推薦算法特點(diǎn)及其局限性Table4 Characteristics and limitations of recommendation algorithm based on embedding

3.3 基于融合的方法(unified-based)

基于路徑的方法使用預(yù)定義的元路徑作為連通性信息進(jìn)行推薦,基于嵌入的方法利用知識(shí)圖譜中用戶-物品的嵌入向量表示進(jìn)行推薦,這兩種方法只利用了知識(shí)圖譜的部分信息。為了充分挖掘知識(shí)圖譜中蘊(yùn)含的信息,基于融合的方法被提出。該方法采用嵌入傳播的思想,將實(shí)體和關(guān)系的嵌入向量表示和連通性信息結(jié)合起來,以知識(shí)圖譜中的連接結(jié)構(gòu)為指導(dǎo),能夠?qū)W習(xí)獲得到更為全面的信息表示。

Wang等人[29]提出的RippleNet模型首次將基于嵌入和基于路徑的方法結(jié)合起來,通過引入偏好傳播思想克服了現(xiàn)有推薦方法的局限性。RippleNet借鑒水波紋的傳播原理,以用戶感興趣的物品為原點(diǎn),在知識(shí)圖譜上逐層向外擴(kuò)散,實(shí)現(xiàn)消息的傳遞。雖然RippleNet 開創(chuàng)性地提出了基于融合的方法,通過偏好傳播方法自然地將KGE 方法融入到推薦系統(tǒng)中,并且不需要人工設(shè)計(jì)元路徑,但仍存在著計(jì)算量冗余,忽視關(guān)系側(cè)重點(diǎn)等缺點(diǎn)。該團(tuán)隊(duì)后續(xù)提出的KGCN(knowledge graph convolutional network)模型[33]和KGCN-LS(KGCN-label smoothness)模型[56]改善了這些問題。KGCN 通過將候選項(xiàng)的鄰居項(xiàng)到其本身的路徑嵌入到知識(shí)圖譜中,利用鄰居向量來擴(kuò)充當(dāng)前實(shí)體的向量表示,更好地捕捉局部鄰域信息和考慮鄰居節(jié)點(diǎn)權(quán)重實(shí)現(xiàn)推薦結(jié)果的優(yōu)化。KGCN-LS則是在KGCN模型上進(jìn)一步增加了標(biāo)簽平滑機(jī)制(label smoothness,LS)。LS 通過提取用戶交互信息,在知識(shí)圖譜上傳播用戶交互標(biāo)簽,從而指導(dǎo)學(xué)習(xí)過程,可以獲得候選項(xiàng)的綜合表示。除此之外,Wang 等人[57]在RippleNet 模型的基礎(chǔ)上進(jìn)行改進(jìn),提出了Ripp-MKR模型,結(jié)合了RippleNet[29]的偏好傳播思想和MKR模型[23]的交叉訓(xùn)練思想,解決了之前方法因更關(guān)注用戶-物品交互矩陣而忽略了知識(shí)圖譜中關(guān)鍵結(jié)構(gòu)信息的問題。

3.3.1 結(jié)合醫(yī)療實(shí)踐的基于融合的方法

圖卷積網(wǎng)絡(luò)(graph convolutional network,GCN)不僅可以在圖中歸納節(jié)點(diǎn)和邊的信息表示,還能夠高效處理不同實(shí)體之間具有豐富關(guān)系信息的任務(wù),因此受到學(xué)術(shù)界廣泛的關(guān)注。然而將原始GCN擴(kuò)展到醫(yī)學(xué)知識(shí)圖譜的過程中存在著如下問題:(1)最初的GCN是為同構(gòu)圖設(shè)計(jì)的,在同構(gòu)圖中,所有節(jié)點(diǎn)都是相同的類型,并且具有相同的功能名稱,而醫(yī)學(xué)知識(shí)圖譜多為異構(gòu)圖且具有多種類型的節(jié)點(diǎn),無法直接適配GNN。(2)在醫(yī)療場景中的特征矩陣中通常有許多缺失值,而原始GCN無法處理節(jié)點(diǎn)特征中存在缺失值的情況。

在與醫(yī)療實(shí)踐結(jié)合后,為了解決上述問題Mao 等人[58]提出的MedGCN(Medicine GCN)模型,創(chuàng)新性地將多個(gè)醫(yī)療實(shí)體之間復(fù)雜的關(guān)聯(lián)融入到異構(gòu)醫(yī)療圖中,通過引入交叉正則化策略,加強(qiáng)了多任務(wù)之間的交互,減少了多任務(wù)訓(xùn)練的過擬合。因?yàn)樵撃P透觽?cè)重于普適性的應(yīng)用場景,因此針對(duì)特定的推薦場合性能較為普通。Yang 等人[59]提出的KDHR(knowledge-driven herb recommendation)模型將中醫(yī)藥知識(shí)圖譜作為附加的輔助信息,通過GCN 對(duì)癥狀和草藥之間的潛在關(guān)系進(jìn)行建模,并使用多層感知器(MLP)集成從GCN 的每一層獲得的不同層次的信息,以此獲得信息豐富且噪聲較小的節(jié)點(diǎn)特征表示。但因?yàn)橹嗅t(yī)藥知識(shí)圖譜中的草藥類別不平衡導(dǎo)致模型性能無法達(dá)到最優(yōu)。

3.3.2 小結(jié)

基于融合的方法利用嵌入傳播的思想改進(jìn)知識(shí)圖譜中具有多跳鄰居的實(shí)體表示,嵌入傳播是在知識(shí)圖譜中發(fā)現(xiàn)用戶偏好的方法,類似于在基于路徑的方法中發(fā)現(xiàn)元路徑的模式,繼承了基于路徑方法的可解釋性。該類方法一般采用融合GNN 的架構(gòu),可以自然地將KEG方法融入到推薦系統(tǒng)中。針對(duì)原始GCN適配到醫(yī)學(xué)知識(shí)圖譜領(lǐng)域中存在著的問題,將異構(gòu)圖分解為多個(gè)二部圖或同構(gòu)圖是較為可行的方法。基于融合的推薦算法的優(yōu)勢及局限性總結(jié)見表5。

表5 基于融合的推薦算法特點(diǎn)及其局限性Table 5 Features and limitations of fusion-based recommendation algorithm

4 未來展望

推薦系統(tǒng)的發(fā)展已經(jīng)有三十多年歷史,但是基于知識(shí)圖譜的推薦系統(tǒng)才發(fā)展起步十年左右。隨著深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)等技術(shù)的快速涌現(xiàn),融合醫(yī)療知識(shí)圖譜的推薦系統(tǒng)得到了推動(dòng)發(fā)展的動(dòng)力,且有著廣闊的研究空間。本文提出的未來展望方向如下:

多任務(wù)學(xué)習(xí):知識(shí)圖譜的質(zhì)量決定推薦系統(tǒng)的性能,因此對(duì)于融合醫(yī)療知識(shí)圖譜的推薦系統(tǒng)來說醫(yī)療知識(shí)圖譜的鏈路預(yù)測問題是不可忽視的。例如,醫(yī)療知識(shí)圖譜中的實(shí)體關(guān)系若是存在缺失則會(huì)導(dǎo)致患者的偏好可能會(huì)被忽略,并且因?yàn)槿鄙偈聦?shí)關(guān)系,推薦的質(zhì)量可能會(huì)下降。因此將知識(shí)圖譜推理和推薦任務(wù)聯(lián)合部署在同一個(gè)模型中是獲得增強(qiáng)推薦質(zhì)量的有效途徑。另外,多任務(wù)醫(yī)療推薦系統(tǒng)也是智能的、有發(fā)展前景的,可以釋放和減輕醫(yī)療資源緊缺的壓力,使醫(yī)療推薦任務(wù)更加方便和效率。例如,Liu 等人[60]提出的多任務(wù)健康管理推薦系統(tǒng),不僅通過利用Word2Vec+TransD獲得文本特征向量,同時(shí)還用ResNet(deep residual network)[61]提取醫(yī)學(xué)圖像的特征向量,通過稠密層將提取的特征向量發(fā)生非線性變化得到特征之間的相關(guān)性,然后映射到輸出空間得到稠密向量,提高了推薦系統(tǒng)的穩(wěn)定性。

知識(shí)圖譜嵌入方法(KGE):根據(jù)評(píng)分函數(shù)的不同,KGE分為翻譯距離模型和語義匹配模型。這兩種類型的KGE 方法被廣泛用于基于知識(shí)圖譜的推薦系統(tǒng)中。然而,在數(shù)據(jù)源、推薦場景和模型架構(gòu)不同的情況下,并沒有研究者系統(tǒng)地梳理應(yīng)該采用哪種特定的KGE 方法。因此,該研究方向需要比較不同KGE 方法在不同條件下的優(yōu)劣勢。

跨領(lǐng)域推薦:近年來關(guān)于跨領(lǐng)域推薦的研究成果層出不窮。例如,通過遷移學(xué)習(xí)技術(shù),可以將共享資源中相對(duì)豐富的交互數(shù)據(jù)應(yīng)用在目標(biāo)領(lǐng)域中,能夠獲得更優(yōu)質(zhì)的推薦結(jié)果。Zeng 等人[50]先通過利用亞馬遜開源知識(shí)圖譜進(jìn)行KGE 學(xué)習(xí),然后將獲得低維向量用于藥物重定位中,根據(jù)候選藥物的推薦預(yù)測得分快速識(shí)別可重新用于新冠肺炎潛在治療的藥物。另外,通過在疾病-藥品交互矩陣中加入不同類型的邊信息,可以獲得更好的跨域推薦性能。

5 結(jié)束語

醫(yī)療知識(shí)圖譜本質(zhì)上是一種多源異構(gòu)信息網(wǎng)絡(luò),作為輔助信息豐富推薦系統(tǒng)的表示,有效解決了傳統(tǒng)推薦系統(tǒng)的數(shù)據(jù)稀疏、可解釋性低和冷啟動(dòng)等問題。本文系統(tǒng)地梳理了國內(nèi)外現(xiàn)有融合醫(yī)療知識(shí)圖譜的推薦系統(tǒng)的相關(guān)文獻(xiàn),回顧整理了知識(shí)圖譜構(gòu)建和傳統(tǒng)推薦系統(tǒng)的基礎(chǔ)知識(shí),總結(jié)了基于知識(shí)圖譜的推薦系統(tǒng)的三種方法,重點(diǎn)對(duì)結(jié)合醫(yī)療實(shí)踐的研究成果及其優(yōu)缺點(diǎn)進(jìn)行歸納總結(jié),最后對(duì)具可行性的未來研究方向進(jìn)行了展望。

猜你喜歡
用戶信息方法
訂閱信息
中華手工(2017年2期)2017-06-06 23:00:31
關(guān)注用戶
商用汽車(2016年11期)2016-12-19 01:20:16
關(guān)注用戶
商用汽車(2016年6期)2016-06-29 09:18:54
關(guān)注用戶
商用汽車(2016年4期)2016-05-09 01:23:12
用對(duì)方法才能瘦
Coco薇(2016年2期)2016-03-22 02:42:52
四大方法 教你不再“坐以待病”!
Coco薇(2015年1期)2015-08-13 02:47:34
捕魚
如何獲取一億海外用戶
展會(huì)信息
健康信息
祝您健康(1987年3期)1987-12-30 09:52:32
主站蜘蛛池模板: 国产真实二区一区在线亚洲| 日韩欧美国产三级| 午夜限制老子影院888| 精品国产电影久久九九| 日韩免费毛片视频| av一区二区三区高清久久| 国产亚洲精品精品精品| 国产亚洲精品91| 国产精品久久久免费视频| 日韩精品一区二区三区swag| 国产门事件在线| 中国特黄美女一级视频| 国产精品福利导航| 97超级碰碰碰碰精品| 国产精品永久不卡免费视频| 亚洲精品中文字幕午夜| 91精品啪在线观看国产91九色| 国产又大又粗又猛又爽的视频| 91精品啪在线观看国产91九色| 免费人成网站在线观看欧美| 毛片免费在线| 免费AV在线播放观看18禁强制 | 激情综合激情| 在线欧美日韩| 九九热免费在线视频| 亚洲成a人片77777在线播放| 国产香蕉97碰碰视频VA碰碰看| 久久一本精品久久久ー99| 亚洲制服丝袜第一页| 草草影院国产第一页| 九九热精品免费视频| 国产AV无码专区亚洲A∨毛片| 亚洲精品制服丝袜二区| 午夜日本永久乱码免费播放片| 日韩无码白| 在线观看欧美国产| 日韩精品亚洲人旧成在线| 亚洲Av综合日韩精品久久久| 在线观看国产黄色| 一本大道香蕉久中文在线播放 | 97视频免费在线观看| 狠狠色噜噜狠狠狠狠奇米777| 亚洲浓毛av| 久久免费精品琪琪| 国内熟女少妇一线天| 国产嫖妓91东北老熟女久久一| 国产人成网线在线播放va| 91成人免费观看在线观看| 欧美激情视频一区| 91在线高清视频| 午夜国产小视频| 亚洲视频欧美不卡| 91精品国产91欠久久久久| 亚洲国产成人超福利久久精品| 亚洲综合精品第一页| 欧美在线观看不卡| 午夜老司机永久免费看片| 国产91小视频| 中文无码精品A∨在线观看不卡 | 成人午夜网址| 色婷婷亚洲综合五月| 亚洲日本韩在线观看| 全部免费毛片免费播放 | 高清大学生毛片一级| 国产午夜无码片在线观看网站| 欧美全免费aaaaaa特黄在线| 看国产一级毛片| 美女无遮挡拍拍拍免费视频| 国产香蕉国产精品偷在线观看| 精品伊人久久久大香线蕉欧美| 成人在线天堂| 一本色道久久88| 欧美在线中文字幕| 国产精品亚欧美一区二区三区 | 亚洲一区毛片| 高清不卡一区二区三区香蕉| 国产国产人成免费视频77777| 又污又黄又无遮挡网站| 婷婷午夜天| 88av在线| 国产免费观看av大片的网站| 亚洲欧洲日产无码AV|