量子SVM算法在小樣本學(xué)習(xí)智能風(fēng)控領(lǐng)域的應(yīng)用

吳永飛 王彥博 楊璇 徐奇

2022年可謂是“量子金融科技的元年”。2022年10月16日，黨的二十大報(bào)告中提到了在量子信息領(lǐng)域取得重大成果，2022年10月4日，三位量子信息領(lǐng)域科學(xué)家獲得了諾貝爾物理學(xué)獎(jiǎng)，標(biāo)志著量子科技新時(shí)代已經(jīng)來(lái)臨。

量子金融科技時(shí)代的開(kāi)啟

我國(guó)金融行業(yè)積極響應(yīng)黨和國(guó)家發(fā)展量子科技的戰(zhàn)略部署，在量子金融科技領(lǐng)域積極開(kāi)展了一系列相關(guān)工作。2022年1月，中國(guó)人民銀行正式公布了2020年度金融科技發(fā)展獎(jiǎng)獲獎(jiǎng)項(xiàng)目名單，其中由華夏銀行申報(bào)的《量子計(jì)算機(jī)及量子AI算法在銀行業(yè)務(wù)領(lǐng)域的應(yīng)用研究與實(shí)踐》，榮獲了一等獎(jiǎng)。2022年2月，中國(guó)銀行保險(xiǎn)業(yè)監(jiān)督管理委員會(huì)數(shù)據(jù)治理高層專家指導(dǎo)協(xié)調(diào)委員會(huì)通過(guò)了由華夏銀行申報(bào)的《量子算法在資產(chǎn)管理領(lǐng)域的應(yīng)用研究》（2022年度）研究課題立項(xiàng)。2022年7月，中國(guó)人民銀行主管的中國(guó)金融學(xué)會(huì)金融科技專業(yè)委員會(huì)開(kāi)始開(kāi)展量子計(jì)算金融行業(yè)應(yīng)用研究專項(xiàng)工作，國(guó)內(nèi)多家商業(yè)銀行和量子科技相關(guān)機(jī)構(gòu)形成了專項(xiàng)工作組推進(jìn)相關(guān)研究工作。當(dāng)月，由北京玻色量子科技有限公司與北京朝陽(yáng)國(guó)際科技創(chuàng)新服務(wù)有限公司主辦的“2022首屆量子計(jì)算+金融科技應(yīng)用研討會(huì)”在北京舉行。2022年8月，中國(guó)人民銀行主管期刊策劃了技術(shù)應(yīng)用欄目的量子科技專題，工商銀行、華夏銀行、建信金科、光大科技等機(jī)構(gòu)就量子金融科技應(yīng)用發(fā)展情況發(fā)表專業(yè)文章。2022年8月，北京金融科技產(chǎn)業(yè)聯(lián)盟成立了量子技術(shù)專委會(huì)，針對(duì)量子算法在金融風(fēng)控與定價(jià)管理領(lǐng)域的應(yīng)用、量子最優(yōu)化算法在金融業(yè)的應(yīng)用、量子安全威脅及其對(duì)國(guó)內(nèi)金融行業(yè)的影響、量子通信技術(shù)在金融領(lǐng)域的應(yīng)用等一系列重要課題開(kāi)展專題研究。2022年11月，《銀行家》期刊策劃了“量子金融科技”專題，英國(guó)皇家工程院、歐洲科學(xué)院、香港工程科學(xué)院郭毅可院士，以及多家金融機(jī)構(gòu)的專家領(lǐng)導(dǎo)分別發(fā)表專業(yè)文章，回顧了量子金融科技發(fā)展取得的關(guān)鍵成果。2022年12月，“2022國(guó)際產(chǎn)學(xué)研用合作會(huì)議（北京）量子計(jì)算與量子信息技術(shù)分論壇”在清華大學(xué)成功舉辦。2022年末，中國(guó)人民銀行主管期刊將華夏銀行、北京量子信息科學(xué)研究院、清華大學(xué)、龍盈智達(dá)（北京）科技有限公司合作的量子直接通信在銀行領(lǐng)域全球首次應(yīng)用評(píng)為“2022金融信息化10件大事”。此外，相關(guān)項(xiàng)目還榮獲了多項(xiàng)榮譽(yù)。尤其是2023年1月，中國(guó)人民銀行公布了2021年度金融科技發(fā)展獎(jiǎng)獲獎(jiǎng)項(xiàng)目名單，其中《量子直接通信技術(shù)創(chuàng)新及其在銀行業(yè)務(wù)領(lǐng)域中的應(yīng)用》項(xiàng)目榮獲了二等獎(jiǎng)，這是量子通信類項(xiàng)目在該獎(jiǎng)項(xiàng)歷史上榮獲的最高獎(jiǎng)勵(lì)等級(jí)。

回首2022年，量子金融科技如星星之火，在以商業(yè)銀行為代表的我國(guó)金融行業(yè)逐漸形成了燎原之勢(shì)。量子金融科技不僅在銀行業(yè)務(wù)場(chǎng)景應(yīng)用方面不斷開(kāi)拓，還在基于量子算法的小樣本學(xué)習(xí)等關(guān)鍵技術(shù)方面實(shí)現(xiàn)了一系列重要突破。本文將量子SVM算法創(chuàng)新應(yīng)用于商業(yè)銀行小樣本學(xué)習(xí)智能風(fēng)控領(lǐng)域，旨在為量子小樣本學(xué)習(xí)研究與應(yīng)用提供新的解決方案，以期助力商業(yè)銀行量子金融科技創(chuàng)新發(fā)展。

基于量子SVM算法的小樣本學(xué)習(xí)技術(shù)方案

小樣本學(xué)習(xí)

小樣本學(xué)習(xí)是充分利用較少的數(shù)據(jù)樣本進(jìn)行機(jī)器學(xué)習(xí)智能建模，并將智能模型加以有效應(yīng)用來(lái)解決實(shí)際問(wèn)題。它可以解決由于樣本量不足導(dǎo)致的傳統(tǒng)模型效果不佳等問(wèn)題，因此在推動(dòng)“通用型AI”的發(fā)展方面意義非凡（陳良臣、傅德印，2022）。以商業(yè)銀行智能風(fēng)控場(chǎng)景為例，“冷啟動(dòng)”是銀行開(kāi)展新業(yè)務(wù)時(shí)不可逾越的一個(gè)階段，此階段，由于業(yè)務(wù)數(shù)據(jù)樣本正處在逐漸累積的過(guò)程中，因此需要構(gòu)建小樣本學(xué)習(xí)模型。如何面向少量數(shù)據(jù)樣本來(lái)為各類客群構(gòu)建有應(yīng)用價(jià)值的智能風(fēng)控模型，已經(jīng)成為商業(yè)銀行智能風(fēng)控領(lǐng)域亟待解決的痛點(diǎn)問(wèn)題。

近年來(lái)，國(guó)內(nèi)外學(xué)者已對(duì)小樣本學(xué)習(xí)開(kāi)展了相關(guān)研究。2022年10月，吳永飛等人面向銀行智能風(fēng)控領(lǐng)域開(kāi)展了量子小樣本學(xué)習(xí)技術(shù)研究與應(yīng)用，創(chuàng)新提出了小樣本學(xué)習(xí)技術(shù)發(fā)展的“6M”框架方法論，從“人—機(jī)—料—法—環(huán)—測(cè)”六個(gè)方面闡述了發(fā)展小樣本學(xué)習(xí)的方法論，具體涵蓋基于人類專家經(jīng)驗(yàn)的小樣本學(xué)習(xí)（Man-based Few-shot Learning）、基于計(jì)算機(jī)發(fā)展的小樣本學(xué)習(xí)（Machine-based Few-shot Learning）、基于數(shù)據(jù)資料增強(qiáng)的小樣本學(xué)習(xí)（Material-based Fewshot Learning）、基于算法改進(jìn)的小樣本學(xué)習(xí)（Methodbased Few-shot Learning）、基于仿真環(huán)境的小樣本學(xué)習(xí)（Environment-based Few-shot Learning）、基于預(yù)測(cè)模型調(diào)整的小樣本學(xué)習(xí)（Model-based Few-shot Learning）等內(nèi)容；實(shí)證表明，運(yùn)用量子計(jì)算機(jī)和量子算法對(duì)于解決小樣本學(xué)習(xí)問(wèn)題具有明顯優(yōu)勢(shì)。2022年10月，王琛等人驗(yàn)證了小樣本學(xué)習(xí)算法的有效性，并將其應(yīng)用于結(jié)構(gòu)鋼材精細(xì)彈塑性的研究中，實(shí)證表明，模型在小樣本環(huán)境下具有一定的泛化能力。2022年11月，蔣博等人通過(guò)卷積操作，實(shí)現(xiàn)了數(shù)據(jù)特征提取，并通過(guò)小樣本學(xué)習(xí)建模方法實(shí)現(xiàn)配電網(wǎng)亞健康工況的識(shí)別。

量子SVM算法

1995年，克里娜·柯?tīng)柼厮梗–orinna Cortes）和弗拉基米爾·萬(wàn)普尼克（Vladimir Naumovich Vapnik）改進(jìn)了支持向量機(jī)（Support Vector Machine，SVM）的概念和算法。該算法在解決高維、非線性的小樣本學(xué)習(xí)問(wèn)題上有一定的優(yōu)勢(shì)。但是在模型的求解過(guò)程中，需要消耗較高的算力資源，時(shí)間復(fù)雜度為樣本數(shù)量和特征數(shù)目的多項(xiàng)式級(jí)別。量子科技時(shí)代，多種量子算法已經(jīng)在理論和實(shí)踐層面實(shí)現(xiàn)了不同級(jí)別的運(yùn)算加速，量子支持向量機(jī)則是被認(rèn)為能夠?qū)崿F(xiàn)指數(shù)加速的重要量子機(jī)器學(xué)習(xí)算法之一。

量子支持向量機(jī)（Quantum Support Vector Machine，QSVM）于2003年由Anguita等人提出。隨后，Rebentrost等人在2014年提出的QSVM，其本質(zhì)是利用量子優(yōu)化算法加速SVM中的內(nèi)積計(jì)算問(wèn)題。Li等人（2015）利用核磁共振量子計(jì)算機(jī)，在真實(shí)的環(huán)境下實(shí)現(xiàn)了4個(gè)量子比特的QSVM，基于該算法可以實(shí)現(xiàn)對(duì)手寫數(shù)字的識(shí)別，且精度可達(dá)99%。2019年，Havl ek等人提出瞬時(shí)量子多項(xiàng)式嵌入法（Instantaneous Quantum Polynomial，IQP），目前在量子核函數(shù)上有著廣泛的應(yīng)用，可以應(yīng)用于量子SVM算法模型的構(gòu)建。2020年，Park等人探索了量子支持向量機(jī)算法在葡萄酒、乳腺癌和手寫數(shù)字等數(shù)據(jù)集上的應(yīng)用；實(shí)證表明，在上述數(shù)據(jù)集上，使用量子SVM算法構(gòu)建的模型效果優(yōu)于傳統(tǒng)SVM算法模型。

本文創(chuàng)新使用量子SVM算法模型，面向商業(yè)銀行智能風(fēng)控領(lǐng)域小樣本學(xué)習(xí)場(chǎng)景，開(kāi)展數(shù)據(jù)挖掘與機(jī)器學(xué)習(xí)建模。由于建模的數(shù)據(jù)樣本量極小，且存在正負(fù)樣本比例極度不均衡的情況，故本文綜合運(yùn)用前文提到的6M框架方法論中基于數(shù)據(jù)資料增強(qiáng)的小樣本學(xué)習(xí)、基于計(jì)算機(jī)發(fā)展的小樣本學(xué)習(xí)和基于算法改進(jìn)的小樣本學(xué)習(xí)，通過(guò)運(yùn)用SMOTE技術(shù)實(shí)現(xiàn)數(shù)據(jù)樣本增強(qiáng)，并在量子計(jì)算機(jī)上構(gòu)建基于量子SVM算法的小樣本學(xué)習(xí)模型。

量子SVM算法在小樣本學(xué)習(xí)智能風(fēng)控領(lǐng)域的實(shí)證分析

業(yè)務(wù)與數(shù)據(jù)理解

本文實(shí)證分析部分所使用的業(yè)務(wù)數(shù)據(jù)主要參考《銀行家》2022年第10期《量子小樣本學(xué)習(xí)技術(shù)應(yīng)用——基于銀行智能風(fēng)控領(lǐng)域》文章中的數(shù)據(jù)，其特征范圍如表1所示。

表1 業(yè)務(wù)數(shù)據(jù)變量范圍表

通過(guò)以上貸款業(yè)務(wù)篩選條件形成的數(shù)據(jù)集中，當(dāng)客戶逾期時(shí)間大于10天時(shí)，將其認(rèn)定為“壞”客戶。經(jīng)數(shù)據(jù)加工處理后，共形成10個(gè)用于違約風(fēng)險(xiǎn)預(yù)測(cè)的特征變量。

模型構(gòu)建

基于SMOTE算法的數(shù)據(jù)樣本增強(qiáng)。因數(shù)據(jù)中“壞”樣本占比僅約為5%，屬于正負(fù)樣本比例極度不均衡的情況，故本文使用SMOTE（Synthetic Minority Over-sampling Technique）算法對(duì)“壞”客戶樣本進(jìn)行數(shù)據(jù)增強(qiáng)，使得少數(shù)類樣本數(shù)量增加，從而產(chǎn)生新的訓(xùn)練集。

量子SVM模型構(gòu)建。本文基于IBM平臺(tái)的數(shù)據(jù)嵌入方法ZfeatureMap將經(jīng)典數(shù)據(jù)進(jìn)行量子態(tài)嵌入，而后使用量子SVM算法對(duì)量子態(tài)數(shù)據(jù)進(jìn)行模型構(gòu)建；模型主要運(yùn)行在IBM Quantum Experience模擬量子計(jì)算機(jī)環(huán)境。為進(jìn)一步拓寬模型驗(yàn)證的維度及其有效性，本文使用相同的數(shù)據(jù)在量子支持向量機(jī)模型（Quantum SVM）、量子神經(jīng)網(wǎng)絡(luò)模型（Quantum Neural Network）、邏輯回歸模型（Logistic Regression）、隨機(jī)森林模型（Random Forest）、決策樹(shù)模型（Decision Tree）、極限梯度提升模型（X G B o o s t）、分類關(guān)聯(lián)規(guī)則挖掘模型（Classification Association Rule Mining）和傳統(tǒng)神經(jīng)網(wǎng)絡(luò)模型（Traditional Neural Network）上進(jìn)行實(shí)證分析。研究按照等比例將數(shù)據(jù)進(jìn)行訓(xùn)練集和測(cè)試集的劃分，其中訓(xùn)練集樣本量為40—70（相應(yīng)的測(cè)試樣本量為40—70），以5個(gè)樣本作為模型構(gòu)建的樣本量增長(zhǎng)步長(zhǎng)。在實(shí)證分析過(guò)程中，針對(duì)每個(gè)建模樣本量進(jìn)行了50次抽樣，并求得50次抽樣下模型評(píng)估指標(biāo)的平均值，以支持模型對(duì)比分析。

模型評(píng)估

本文采用業(yè)界通用的模型評(píng)估指標(biāo)AUC（Area Under Curve，受試者工作特性曲線下的面積）、KS（Kolmogorov-Smirnov，洛倫茲曲線中兩條曲線間的最大間隔距離）和Recall（查全率，亦稱為“召回率”）開(kāi)展模型對(duì)比分析，實(shí)驗(yàn)結(jié)果如表2所示。

表2 不同算法模型在銀行小樣本學(xué)習(xí)智能風(fēng)控場(chǎng)景下的評(píng)估指標(biāo)情況

實(shí)證分析結(jié)果表明，在訓(xùn)練集樣本量從40增加到70的過(guò)程中，量子S V M模型的效果在三個(gè)指標(biāo)上不僅均優(yōu)于經(jīng)典的Logistic Regression、Random Forest、Decision Tree、XGBoost、Classification Association Rule Mining、Traditional Neural Network等模型，而且優(yōu)于量子神經(jīng)網(wǎng)絡(luò)（Quantum Neural Network）模型，這說(shuō)明量子SVM算法模型在解決小樣本學(xué)習(xí)問(wèn)題方面具有顯著優(yōu)勢(shì)。面向本文的商業(yè)銀行智能風(fēng)控業(yè)務(wù)場(chǎng)景，在訓(xùn)練集樣本數(shù)量從40增加到70的過(guò)程中，量子SVM算法模型的AUC值在不同樣本量下均達(dá)到0.75及以上且KS值均達(dá)到0.59及以上，能夠滿足相關(guān)銀行對(duì)模型效果評(píng)估指標(biāo)的基本要求（見(jiàn)圖1、圖2、圖3）。

圖1 不同算法模型在不同樣本量下的AUC值變化曲線圖

圖2 不同算法模型在不同樣本量下的KS值變化曲線圖

圖3 不同算法模型在不同樣本量下的Recall值變化曲線圖

結(jié)語(yǔ)

展望2023年，量子金融科技有望進(jìn)一步蓬勃發(fā)展。本文立足于商業(yè)銀行智能風(fēng)控業(yè)務(wù)場(chǎng)景，通過(guò)相關(guān)實(shí)證研究分析，驗(yàn)證了基于SMOTE樣本增強(qiáng)的量子SVM算法模型在面對(duì)商業(yè)銀行風(fēng)控業(yè)務(wù)小樣本學(xué)習(xí)時(shí)應(yīng)用效果明顯，且在相應(yīng)的評(píng)估指標(biāo)上優(yōu)于其他機(jī)器學(xué)習(xí)算法模型。未來(lái)，我們將進(jìn)一步聚焦其他量子計(jì)算技術(shù)應(yīng)用研究，以期為銀行業(yè)的量子金融科技發(fā)展提供新思路，助力銀行業(yè)向數(shù)字經(jīng)濟(jì)時(shí)代邁進(jìn)。