混合量子神經網絡及其數字識別應用

郭為多，莫思特，李碧雄

1.四川大學 電氣工程學院，成都610065

2.四川大學 建筑與環境學院，成都610065

深度學習高速發展，其提取圖像深層信息的特點使數字識別準確度大幅提升，從而在智能交通、郵政通信、金融經濟等方面得到廣泛的工程應用[1]。模型泛化性能的進一步增強，將有助于削減訓練成本開銷，推動數字識別應用的發展[2]。

深度學習的良好表現與充足的訓練數據密不可分，由于樣本缺乏或標注困難，在小樣本環境下得到高精度與高泛化性能的模型具有挑戰性。與此同時，摩爾定律的失效使得經典計算機存儲能力和功率消耗或將成為機器學習的發展瓶頸。另一方面，量子計算作為新的計算模式，被證明從效率上相比于經典信息處理具有更大潛力[3]。從20世紀80年代首次提出量子計算的概念起，諸如Shor大數質因子分解、Grover無序數據庫搜索量子等算法[4-5]，多次證明了量子算法的強大能力。探究結合經典機器學習和量子計算的混合方法被認為有助于發展新的機器學習技術[6-7]。

專家學者對如何將傳統神經網絡與量子計算結合投入大量時間精力進行研究，并在數字識別領域做了建設性嘗試：Farhi等人[8]提出一種通用的量子神經網絡框架，對包含1位輔助量子比特的17位量子系統施加系列參數化酉正變換，并在降采樣為4×4 大小的MNSIT 圖片上進行了3 和6 二分類實驗；Grant 等人[9]使用基于多尺度糾纏重整化的Ansatz 的分層量子神經網絡分類器模型對MNIST 數據集執行0 和1、2 和7、是否大于4 以及奇偶判斷的系列二元分類任務；Henderson 等人[10]利用隨機量子電路替換卷積層構造量子混合結構，實現對手寫體數字的輸入特征提取。他們利用量子計算特性輔助特征提取，取得了良好效果。是否能夠利用量子計算的疊加和糾纏性質，緩解訓練數據不足造成的特征處理中的過擬合現象具有研究意義。

本文將量子計算疊加和糾纏性質與卷積網絡進行有益結合，提出一種保留神經網絡非線性和可擴展性的混合量子神經網絡模型（hybrid quantum neural network，HQNN）。該模型根據量子層混合方式的不同，對傳統卷積模型進行嵌入與直接輸出混合，將卷積全連接層信息作為量子酉門參數，經過系列幺正變換進行特征處理，最后對量子比特進行測量并仿照梯度下降思想更新量子參數以得到期望輸出。通過對MNIST數據集進行二分類和十分類識別，證明了混合結構的可行性。針對單一卷積神經網絡識別極小規模彩色數字數據集精度不高的問題，結合遷移學習，利用混合網絡與經典網絡的特征融合提取圖像深層特征，得到相比傳統模型更高的識別率，證明了混合量子神經網絡不同于高度依賴訓練數據的傳統機器深度學習方法，在小樣本環境下也能夠兼顧良好的泛化能力與識別精度，為量子計算與神經網絡交叉融合應用于數字識別提供一種新的思路。

1 量子計算

量子計算的基本信息單位是量子比特，通過量子邏輯門改變狀態。量子位的疊加和糾纏是量子計算機提高計算能力的關鍵[11]。

1.1 量子比特

其中，復數α、β為量子比特概率幅。單個概率幅的平方為測量得到對應狀態的概率，且滿足相加歸一性。

當n個量子比特構成多體量子系統時，按張量積的形式得到2n維空間矩陣。以兩個量子位為例有如下結果：

1.2 量子旋轉門

量子門包含量子計算特點，通過幺正酉變換改變量子狀態，是實現量子計算的基礎。單比特量子旋轉門定義式為：

1.3 受控非門

2 混合量子神經網絡數字識別

2.1 混合量子神經網絡

神經網絡模仿腦部結構和思維過程，以人工神經元為基本單位來接收和處理信息，因其具有并行處理數據、非線性映射和模式分類等能力，受到各領域研究者歡迎。混合量子神經網絡作為一種受經典神經網絡啟發的量子機器學習算法，保留傳統神經網絡的非線性，以及對深層結構的可擴展性等特點。

在混合量子神經網絡結構中，“混合”體現為對經典神經網絡模型的部分量子化，即保留經典神經網絡中大部分原始結構，利用量子電路對某層網絡進行增加或直接替換。根據具體要求和實際方案，可將量子層作為提取特征（features extraction）、嵌入隱藏（embedded）或者識別輸出（classification）的一部分來滿足任務需求。如圖2 所示，將量子電路層概括為酉變換U，下標即為所對應功能：UF對網絡輸入進行特征映射；通過UE嵌入兩個經典層之間，使得網絡更加靈活；測量UC層的量子比特狀態概率可以直接作為預測概率輸出。本文選取后兩種混合方式展開后續實驗研究。

2.2 混合網絡實現

參數化量子電路通常將分層結構作為經典網絡與量子混合的接口[12]，其廣義特征映射能夠探索指數大的線性空間中相鄰數據點的相關性，允許混合算法更有效地捕獲數據集模式特征。

經典輸入矢量以量子旋轉門參數形式進行數據嵌入，即每個輸入矢量控制對應線路上量子的旋轉角度。

損失函數因此可以定義為真實標簽和得到的期望值的距離，即：

圖3 展示了一個簡單的混合量子神經模型結構。其中xi是經典神經層的輸入向量；hi是隱藏層中第i個神經元的輸出；R(hi)是旋轉角度為hi的任一旋轉門；而y是從混合網絡生成的最終預測值。

參數優化更新是決定網絡效果好壞的重要因素。混合網絡訓練優化過程形同經典網絡，不斷調整參數化量子電路參數，使得損失函數收斂至最小值。類似經典網絡基于梯度下降，通過反向誤差傳輸更新神經網絡權重參數。當優化量子參數時，同樣可以使用基于梯度的優化技術達到更新目的。

量子電路層在實施反向誤差傳播過程中計算梯度時，通常采用“參數位移規則（parameter shift）”[13]：對量子電路進行梯度計算，再將結果帶入經典網絡的反向傳播過程中。由于反向過程中唯一的“量子化”過程為應用參數化電路實現的特征映射，當參數化酉門有兩個唯一的特征值時，量子梯度計算可考慮為對式（7）的偏導求解[14-15]，如式（9）所示：

其中，r表示由酉門特征值推導得到的位移常數，表示對θ中第j個參數進行的運算。對于單比特旋轉門，取r=1/2，將目標參數分別帶入θ+π/2 和θ-π/2的兩次測量結果相減，得到損失函數關于目標參數的梯度值作為更新權重的依據。

2.3 混合卷積網絡實現

混合量子卷積神經網絡延續了經典卷積網絡的大部分結構，由卷積層（Conv）、最大池化層（Max Pooling）、完全連接（FC）層和量子電路組成，如圖4所示。在網絡的后半部分，量子參數化電路可作為全連接層間的嵌入部分參與網絡計算，或直接測量量子層狀態概率作為預測結果。

圖6所示量子線路為本文實驗的混合部分，并定義QC-C 為10 條QC-A 的線路組合。在MNIST 二分類中使用QC-A 實現卷積網絡的混合，直接得到輸出；在MNIST 十分類中，分別使用QC-B 和QC-C 實現嵌入和直接輸出混合。

2.4 混合網絡的遷移學習

特征融合通過串、并聯或加權平均等途徑對多種方法提取的圖像特征矢量進行融合，保留強代表性的圖像特征信息[16]。

本文結合遷移學習，載入CNN（convolutional neural networks）權重，將優化后得到的微調網絡與混合網絡特征進行串聯融合，作為識別小樣本數據集的最終特征，提高網絡表示能力。本文設計的混合遷移量子特征融合模型（hybrid transfer quantum feature fusion model，TQFF）識別過程如圖7所示。

3 實驗

3.1 實驗環境

為了驗證混合模型的可行性，本文進行了MNSIT和小樣本數據集對比實驗，所涉及量子線路搭建與測量均利用Qiskit，模型的訓練與測試在Pytorch深度學習框架下完成。系統硬件環境為Intel?CoreTMi7-8700k CPU@3.70 GHz 處理器，NVIDIA GeForce RTX 3060 GPU。軟件環境為Python 3.7，Pytorch 1.80+cu111，Qiskit0.32。

3.2 實驗數據集與預處理

實驗所用數據集包括MNIST手寫體數字數據集和自制小樣本數據集：MNIST 數據集總共包含70 000 張標簽分別為0到9共10類數字的黑白樣本，每一個樣本是大小統一為28×28像素的灰度圖像，其中有訓練圖片60 000 張和測試圖片10 000 張；自制數據集截取書本、信封、門牌、郵箱等復雜背景彩色照片中的數字，共獲得每類數字60張，總共600張不同尺寸的三通道JPG格式數字圖像，按照5∶1劃分為10類數字均衡分布的訓練集和測試集。數據集中部分樣本圖像如圖8所示。

本文將自制數據集中不同尺寸圖片按MNSIT樣本格式統一大小為28×28×3。為保證遷移學習預訓練網絡在彩圖上的模型適用性和泛化能力，對MNIST 數據集圖片進行通道擴展，以匹配三通道樣本訓練過程。

3.3 結果與分析

3.3.1 MNIST二分類識別

在相同條件下，對采用QC-A線路的混合網絡（hybrid QC-A，HQC-A）與卷積神經網絡模型進行比較，分別對0和1、0和2……7和8、7和9以及8和9共45組數字進行二分類識別。以測試集準確率（accuracy）為網絡性能的評估指標。設置訓練學習率為0.001，實驗輪次為20。

為了對比混合網絡與經典網絡在識別效果上的差異，實驗中混合網絡與作為對比的卷積神經網絡除最后一層量子層外，保持相同的網絡結構、超參數與輸出維數。

圖9為兩種網絡的二分類準確率對比。可以看出，混合量子經典神經網絡總體上顯示出更好的識別能力，能夠完成簡單的二分類任務。其在45組數字識別實驗中保持98%以上的準確率，并在某些傳統卷積網絡表現稍弱的組別上得到了更好的結果。

3.3.2 MNIST十分類識別

在十分類數字識別中，采用QC-B 線路的嵌入混合網絡（hybrid QC-B，HQC-B）和采用QC-C 線路的直接預測輸出混合（hybrid QC-C，HQC-C）結構與CNN做性能對比。選擇準確率（accuracy）、精確率（precision）、召回率（recall）、F 值（F1-score）衡量十分類中不同模型表現的好壞。模型均迭代2 000次。

兩種混合網絡隨訓練迭代次數的準確率變化如圖10（a）所示，在兩種結構都能得到較高準確率的前提下，HQC-C 比HQC-B 結構更快接近100%的精度，并具有更小的波動。圖10（b）、（c）、（d）分別代表三種網絡在測試集上對每個數字的精確率、召回率以及F值。訓練完成后的模型對測試集的分類正確率如表1所示。

表1 十分類測試集結果Table 1 Ten classification test set results

圖1 受控非門示意圖Fig.1 Schematic diagram of controlled-NOT

圖2 混合量子神經網絡模式示意圖Fig.2 Schematic diagram of hybrid quantum neural network mode

圖3 混合量子神經網絡框架Fig.3 Framework of hybrid quantum neural network

圖4 混合量子卷積神經網絡結構示意圖Fig.4 Structure diagram of hybrid quantum convolution neural network

圖5 量子狀態演化圖Fig.5 Changing diagram of quantum state

圖6 量子電路示意圖Fig.6 Schematic diagram of quantum circuit

圖9 二分類實驗結果圖Fig.9 Experimental results of binary classification

圖10 十分類實驗結果圖Fig.10 Experimental results of ten classification

結合圖表可知，兩種結構的混合經典量子網絡總體都表現出接近甚至超過傳統卷積網絡的性能：HQC-B相較于卷積神經網絡，在每個分類精確率、召回率和F值基本持平的情況下，準確率提升了0.021 1；HQC-C量子混合網絡在各項指標上都優于傳統卷積網絡，以卷積網絡的最后識別準確率為參考，該結構的混合網絡的準確率提升了0.039 8。

3.3.3 結合遷移學習的小樣本數字數據集十分類識別

在遷移學習思想下，使用與小樣本數據集有較大相關度的MNIST數據集對網絡進行預訓練。凍結預訓練網絡前端參數，有助于提高模型泛化能力，解決訓練樣本不足可能帶來的問題。

選取MNIST十分類實驗中表現能力更好的量子線路QC-C作為該部分實驗的混合結構。在同等條件下，未加遷移學習的CNN 與結合遷移學習的CNN（transfer CNN，TCNN）、結合遷移學習的HQNN（transfer hybrid quantum neural network，THQNN）模型以及遷移量子特征融合模型（TQFF）對小樣本數據集的識別結果混淆矩陣與識別準確率如圖11和表2所示。

表2 不同方法的識別率Table 2 Recognition rate of different methods

圖11 混淆矩陣結果圖Fig.11 Confusion matrix result diagram

從實驗結果可以看出，單一卷積網絡對小樣本數據集識別準確率低，量子層的加入將原有模型的識別準確率提升了0.08；遷移學習有效改善了樣本不足問題，使用遷移學習的CNN與HQNN模型較直接訓練模型準確率分別提升了0.24和0.30；特征融合模型綜合了較強代表性特征，最大可能地保留有用信息，TQFF在實驗中展示出最好的識別能力，相比于CNN網絡，識別準確率提高0.45，并在THQNN基礎上將精度提高了0.07。

4 結束語

為探索量子計算與機器學習結合的可能性，本文對經典卷積網絡進行量子電路層嵌入混合與直接輸出混合，在MNIST 數據集上驗證了混合量子神經網絡模型的實施可行性。與卷積網絡對比表明，該模型能夠應用于簡單圖像的分類任務，在提升深度學習算法性能上存在潛力，是一種處理深度學習任務的新思路。在自建的復雜背景彩色數字數據集上，結合遷移學習與特征融合的混合模型對不同數字的分類準確率達到了83%，比同等實驗條件下未使用與使用遷移學習的CNN和HQNN模型效果更好，能夠有效緩解小樣本數據集造成的訓練過擬合現象，對數字識別模型性能有明顯的提升。