聯(lián)合圖像稀疏和低秩先驗(yàn)的壓縮感知重建算法

陳逸野 王維東

(浙江大學(xué)信息與電子工程學(xué)院 浙江 杭州 310000)

0 引 言

壓縮感知理論指出，如果一個(gè)信號(hào)在某個(gè)變換域下是稀疏的，且觀測(cè)矩陣和變換基是不相關(guān)，即滿足限制等距性(Restricted Isometry Property，RIP)條件下，其可以由低于傳統(tǒng)奈奎斯特采樣定理要求的采樣頻率進(jìn)行采樣，并通過(guò)重建算法高概率地重建出原始信號(hào)[1-2]。在該理論框架下，信號(hào)的采樣頻率不再完全取決于信號(hào)帶寬，而由信號(hào)的結(jié)構(gòu)和內(nèi)容所決定，這為信息的采集和處理提供了新的方向和思路，在信息論、醫(yī)學(xué)成像、雷達(dá)成像、無(wú)線通信、圖像處理[3-4]等眾多領(lǐng)域引起了廣泛關(guān)注和應(yīng)用。

重建算法是壓縮感知理論的關(guān)鍵，決定了重建圖像的質(zhì)量。壓縮感知重構(gòu)問(wèn)題最早通過(guò)求解稀疏域系數(shù)l0/l1范數(shù)最小化問(wèn)題進(jìn)行求解。

(1)

s.t.y=Φx

式中：y為輸入信號(hào)x經(jīng)過(guò)觀測(cè)矩陣Φ的觀測(cè)值，且原信號(hào)x在變換Ψ下是稀疏的。式(1)有許多經(jīng)典的求解方法，包括匹配追蹤法[5-6]、基追蹤法[7]、迭代閾值收縮法[8]等。

隨著研究人員對(duì)圖像性質(zhì)和壓縮感知的不斷深入研究，一些新的圖像壓縮感知重構(gòu)算法被學(xué)者們提出。Candes等最早基于自然圖像的局部光滑特性，采用全變分作為正則項(xiàng)，提出全變分重構(gòu)算法，在此之后，還發(fā)展了TwIST[9]、TVAL3[10]、ReTV[11]等改進(jìn)的全變分重構(gòu)算法。圖像塊的稀疏表示模型也被用于壓縮感知重建中[12]。圖像的非局部自相似性也是最為廣泛應(yīng)用的圖像先驗(yàn)之一，其在許多圖像恢復(fù)任務(wù)中有效提高了重建圖像質(zhì)量，也有部分學(xué)者將非局部特性應(yīng)用于圖像壓縮感知中，提出GSR[13]、TVNLR[14]模型。Metzler等[15]團(tuán)隊(duì)將圖像降噪算法應(yīng)用于壓縮感知重構(gòu)中，提出了統(tǒng)一的基于降噪算法的壓縮感知重構(gòu)算法(Denoising AMP，D-AMP)，將降噪算法中采用的圖像先驗(yàn)和捕捉到的內(nèi)容結(jié)構(gòu)在D-AMP框架下被壓縮感知重構(gòu)問(wèn)題所應(yīng)用。近年來(lái)也涌現(xiàn)了一批基于深度學(xué)習(xí)的壓縮感知重建算法，如CSNet[16]、ADMM-CSNet[17]、ISTA-Net[18]等，其通過(guò)學(xué)習(xí)的方法找到測(cè)量值與原信號(hào)之間的映射關(guān)系。

自然圖像中通常存在大量的相似結(jié)構(gòu)，這些相似塊列向量化堆疊構(gòu)成的數(shù)據(jù)矩陣通常是低秩的。基于非局部低秩特性的加權(quán)核范數(shù)最小化模型(Weighted Nuclear Norm Minimization，WNNM[19-20])在圖像降噪中達(dá)到了state-of-the-art的水平。本文將基于非局部低秩先驗(yàn)的加權(quán)核范數(shù)模型引入壓縮感知的稀疏表示模型中，聯(lián)合圖像的局部稀疏性質(zhì)和非局部低秩性質(zhì)，提出聯(lián)合先驗(yàn)的圖像壓縮感知重建數(shù)學(xué)模型，利用ADMM算法將原求解問(wèn)題劃分為多個(gè)子問(wèn)題進(jìn)行求解。實(shí)驗(yàn)結(jié)果表明，該算法在圖像質(zhì)量客觀評(píng)價(jià)指標(biāo)上有一定提升。

1 圖像稀疏表示和非局部低秩特性

1.1 基于稀疏表示的壓縮感知重建模型

自然圖像具有一定的結(jié)構(gòu)模式，使用過(guò)完備的冗余函數(shù)字典代替?zhèn)鹘y(tǒng)的正交基函數(shù)，當(dāng)字典的選擇盡可能地符合被逼近的圖像信號(hào)結(jié)構(gòu)時(shí)，圖像信號(hào)能夠從字典中找到具有最佳線性組合的很少的幾項(xiàng)原子來(lái)表示。圖像的自適應(yīng)字典學(xué)習(xí)稀疏表示可以描述如下：

(2)

s.t.x=Dα

式中:D為過(guò)完備字典;α為該字典下圖像的稀疏系數(shù)。實(shí)際處理過(guò)程中，往往是針對(duì)圖像塊進(jìn)行操作，基于圖像塊的稀疏表示無(wú)約束優(yōu)化方程可描述如下：

(3)

式中：λ為常量調(diào)控參數(shù)。

稀疏表示模型的三個(gè)關(guān)鍵問(wèn)題包括：(1) 如何構(gòu)建有效的字典D；(2) 如何獲取給定字典下的稀疏分解系數(shù)α；(3) 如何將稀疏表示模型用于具體的圖像任務(wù)中以及模型求解。通常地，在給定字典情況下通常可以采用貪婪算法計(jì)算稀疏系數(shù)，對(duì)于自適應(yīng)字典，可以利用K-SVD算法學(xué)習(xí)過(guò)完備字典，并交替更新字典和稀疏系數(shù)。壓縮感知建立在圖像信號(hào)在變換域下表示是稀疏的，早期的求解是建立在式(1)即稀疏域系數(shù)l0/l1范數(shù)最小化問(wèn)題下的。在自適應(yīng)字典表示下，可以對(duì)其進(jìn)行改進(jìn)，建立基于自適應(yīng)稀疏表示的壓縮感知重建模型如下：

(4)

s.t.x=Dα

1.2 圖像的非局部低秩特性

在自然圖像中，一個(gè)圖像塊往往可以在圖像中找到與之相似的其他塊。這些相似塊列向量化堆疊后構(gòu)成的數(shù)據(jù)矩陣應(yīng)該是近似低秩的。記Xi為圖像塊xi通過(guò)塊匹配得到的p個(gè)相似塊構(gòu)成的數(shù)據(jù)矩陣。

Xi=[xi1,xi2,…,xip]Xi∈Rn×p

(5)

將Xi分解為低秩矩陣Li和噪聲矩陣Wi，Xi=Li+Wi，則可以通過(guò)對(duì)Li的秩rank(Li)進(jìn)行約束求解低秩矩陣Li：

(6)

絕大多數(shù)低秩矩陣都能通過(guò)求解核范數(shù)最小化(Nuclear Norm Minimization，NNM)問(wèn)題來(lái)復(fù)原。對(duì)矩陣L進(jìn)行奇異值分解：

L=UΣσVT

(7)

Σσ=diag(σ1(L),σ2(L),…,σr(L))

(8)

式中：σq(L)表示矩陣的第q個(gè)奇異值；U和V為奇異值分解的正交矩陣。則矩陣的核范數(shù)表示為：

(9)

低秩特性對(duì)于圖像重建有很好的性能，以圖像降噪為例，無(wú)周期且隨機(jī)的噪聲會(huì)影響圖像的低秩特性，圖1表示不同程度高斯噪聲下(標(biāo)準(zhǔn)差為0～50)，圖像相似塊數(shù)據(jù)矩陣奇異值大小。可以看出，當(dāng)圖像不含噪聲時(shí)，相似塊組成的圖像塊組數(shù)據(jù)矩陣進(jìn)行奇異值分解之后，大多數(shù)奇異值接近于0，只有少數(shù)奇異值較大，其對(duì)應(yīng)著圖像塊的主要結(jié)構(gòu)；而隨著噪聲水平增加，奇異值不斷增大。通過(guò)該先驗(yàn)信息對(duì)噪聲圖像進(jìn)行降噪，可有效地恢復(fù)無(wú)噪圖像，經(jīng)典的WNNM[19]、MCWNNM[20]圖像降噪算法就利用了圖像的非局部低秩性質(zhì)，是目前優(yōu)秀的圖像降噪算法之一。

圖1 不同噪聲水平下圖像相似塊數(shù)據(jù)矩陣奇異值

壓縮感知重建同樣可以看作降質(zhì)圖像的恢復(fù)過(guò)程，通常可用ΦT(Φx)表示壓縮感知初始降質(zhì)圖像。圖2表示壓縮感知在不同采樣率下(采樣率為0.1～0.5)初始降質(zhì)圖像，可以看出，隨著采樣率的降低其奇異值不斷升高，并且該現(xiàn)象相比噪聲圖像更為明顯。由此可見(jiàn)，圖像的非局部低秩信息同樣能夠被用于對(duì)壓縮感知圖像進(jìn)行重建。

圖2 壓縮感知不同采樣率下圖像相似塊數(shù)據(jù)矩陣奇異值

加權(quán)核范數(shù)最小化模型(Weighted Nuclear Norm Minimization，WNNM)在NNM的基礎(chǔ)上，對(duì)不同的奇異值進(jìn)行區(qū)分賦予不同的權(quán)重，大奇異值對(duì)應(yīng)圖像的主要結(jié)構(gòu)，權(quán)重wq應(yīng)該更大一些，而奇異值小的對(duì)應(yīng)噪聲或降質(zhì)紋理，權(quán)重應(yīng)該更小些。加權(quán)核范數(shù)和加權(quán)核范數(shù)最小化模型可表示為：

(10)

(11)

2 聯(lián)合先驗(yàn)的壓縮感知重構(gòu)模型

2.1 聯(lián)合先驗(yàn)?zāi)Ｐ?/h3>

圖像的稀疏特性是壓縮感知中最為廣泛應(yīng)用的先驗(yàn)，1.1節(jié)中基于圖像塊的稀疏先驗(yàn)考慮了圖像的局部特性，而1.2節(jié)中的低秩先驗(yàn)則利用了圖像的非局部特性。本節(jié)將基于圖像塊的局部稀疏特性和非局部低秩特性相結(jié)合，提出聯(lián)合稀疏和低秩先驗(yàn)的壓縮感知重構(gòu)模型。為避免混淆非局部低秩模型中的塊標(biāo)記符號(hào)，式(12)中的稀疏部分簡(jiǎn)化為式(2)的形式進(jìn)行描述，而實(shí)際處理過(guò)程中通常是以式(3)基于圖像塊的形式進(jìn)行描述。

(12)

s.t.x=Dα

式中：M為選取的塊數(shù)量；η、φ為常量調(diào)控參數(shù)。聯(lián)合先驗(yàn)?zāi)Ｐ筒淮嬖陂]式解，采用分離變量的方法進(jìn)行求解，引入增廣拉格朗日函數(shù)：

(13)

式中：u為常量調(diào)控參數(shù)。

采用交替方向乘子法(Alternating Direction Method of Multipliers，ADMM)對(duì)其進(jìn)行求解，分別將式(13)對(duì)變量x、Li、a、v進(jìn)行求導(dǎo)，并令導(dǎo)數(shù)為0，通過(guò)交替更新變量的方法來(lái)逐步優(yōu)化，將原優(yōu)化問(wèn)題轉(zhuǎn)化為下述4個(gè)子問(wèn)題：

(1) 固定x、α、v，更新Li：

(14)

(2) 固定x、Li、v，更新α：

(15)

(3) 固定Li、α，v，更新x：

(16)

(4) 固定x、Li、α，更新v：

νk+1=νk-u(xk+1-Dαk+1)

(17)

2.2 低秩子問(wèn)題求解

低秩矩陣Li的奇異值σq(Li)可以通過(guò)矩陣Xi的奇異值σq(Xi)進(jìn)行閾值收縮計(jì)算得到。該過(guò)程可以表示如下：

[U,Σσ,V]=SVD(Xi)

(18)

(19)

Li=US(Σσ)VT

(20)

式中：SVD()表示奇異值分解過(guò)程；w為奇異值對(duì)應(yīng)的權(quán)重系數(shù)構(gòu)成的對(duì)角矩陣。具體地，各權(quán)重系數(shù)wq為：

(21)

式中：p為相似塊個(gè)數(shù)；c和ε為常數(shù)。

WNNM在進(jìn)行閾值收縮時(shí)考慮了不同奇異值的重要性，認(rèn)為大奇異值對(duì)應(yīng)于圖像的主要結(jié)構(gòu)，即低秩矩陣Li，其權(quán)重應(yīng)該更大，收縮少一些。而小奇異值對(duì)應(yīng)于圖像的其余部分，可以看作額外噪聲，為得到低秩矩陣Li，這部分權(quán)重應(yīng)該小一些，收縮得更多一些，以盡可能獲得圖像的主要結(jié)構(gòu)。在實(shí)際迭代過(guò)程中，由于未知真實(shí)圖像，采用迭代過(guò)程中的恢復(fù)的近似數(shù)據(jù)矩陣來(lái)代替。

非局部低秩先驗(yàn)部分能夠充分挖掘圖像相似塊中的信息，因而對(duì)于重復(fù)紋理和結(jié)構(gòu)圖像，非局部低秩先驗(yàn)往往能夠有非常優(yōu)越的重建性能，彌補(bǔ)基于塊的局部稀疏先驗(yàn)中未挖掘的信息。

2.3 自適應(yīng)稀疏子問(wèn)題求解

式(15)的稀疏子問(wèn)題在給定字典的情況下進(jìn)行優(yōu)化求解，文獻(xiàn)[21-22]提出通過(guò)訓(xùn)練進(jìn)行字典學(xué)習(xí)獲得冗余字典具有自適應(yīng)性，能夠更好地表示信號(hào)結(jié)構(gòu)。在此情況下基于自適應(yīng)字典學(xué)習(xí)的稀疏表示表達(dá)如下：

(22)

式中：r=x-v/u。

該過(guò)程可以通過(guò)字典學(xué)習(xí)與稀疏系數(shù)的分解優(yōu)化交替進(jìn)行。選用DCT過(guò)完備變換基作為初始字典，通過(guò)不同的追蹤算法，如匹配追蹤、正交匹配追蹤和基追蹤等，可以求解出字典系數(shù)α。

字典學(xué)習(xí)過(guò)程一般用K-SVD算法進(jìn)行求解，在更新字典D時(shí)固定字典系數(shù)α，逐列更新字典，即保持其余列不變。將涉及列原子的圖像塊矩陣對(duì)應(yīng)的殘差矩陣進(jìn)行奇異值分解，通過(guò)左矩陣中最大奇異值對(duì)應(yīng)列替換該列實(shí)現(xiàn)更新。具體求解過(guò)程可以參考K-SVD算法[20]。

2.4 重建子問(wèn)題求解

將塊匹配過(guò)程定義為式(23)，則重建過(guò)程可重寫(xiě)為式(24)。

(23)

(24)

式(24)存在閉式解：

(25)

雖然重建子問(wèn)題存在閉式解，但其中存在大型矩陣求逆過(guò)程，編程運(yùn)算量大，在實(shí)際處理過(guò)程中通過(guò)梯度下降法進(jìn)行計(jì)算更新。聯(lián)合先驗(yàn)?zāi)Ｐ偷恼w求解過(guò)程如算法1所示。

算法1聯(lián)合先驗(yàn)?zāi)Ｐ颓蠼膺^(guò)程

輸入：觀測(cè)值y，觀測(cè)矩陣Φ，參數(shù)η、λ、u、φ。

輸出：重建圖像x。

fork1=1:K1

fork2=1 ∶K2

4.利用匹配追蹤法求解圖像塊稀疏系數(shù)αk;

6.利用式(17)更新υ;

7.k=k1×K2+k2;

end

end

3 實(shí) 驗(yàn)

為驗(yàn)證模型的有效性，本節(jié)應(yīng)用聯(lián)合先驗(yàn)?zāi)Ｐ屯ㄟ^(guò)對(duì)測(cè)試圖像進(jìn)行壓縮感知重建，并與該領(lǐng)域優(yōu)秀的算法進(jìn)行對(duì)比，包括經(jīng)典的ALSB[12]、BM3D-AMP[15]、NLRCS[23]、LDAMP[24]重建算法，以壓縮感知重建中常用的隨機(jī)觀測(cè)矩陣[25]作為統(tǒng)一的觀測(cè)矩陣，分別在0.05、0.10、0.15、0.20、0.25、0.30六種不同采樣率下進(jìn)行壓縮感知重建。此外還與基于深度學(xué)習(xí)的CSNet[16]和ADMM-CSNet[17]進(jìn)行對(duì)比，其中ADMM-CSNet采用上述統(tǒng)一觀測(cè)矩陣，而CSNet由于同時(shí)對(duì)采樣過(guò)程和重建過(guò)程進(jìn)行訓(xùn)練，其觀測(cè)矩陣學(xué)習(xí)得到的，與上述方法中采用的觀測(cè)矩陣有所差異。ADMM-CSNet和CSNet采用作者提供的各采樣率下模型進(jìn)行預(yù)測(cè)重建。使用文獻(xiàn)[24]中的標(biāo)準(zhǔn)測(cè)試圖像，以PSNR和SSIM兩種圖像客觀評(píng)價(jià)指標(biāo)進(jìn)行評(píng)價(jià)。其最終平均結(jié)果如表1和表2所示，折線圖如圖3和圖4所示。

表1 實(shí)驗(yàn)平均PSNR結(jié)果 單位：dB

表2 實(shí)驗(yàn)平均SSIM結(jié)果

圖3 不同采樣率下PSNR折線圖

圖4 不同采樣率下SSIM折線圖

整體結(jié)果上來(lái)看，本文算法在各采樣率上均能得到比較好的結(jié)果，尤其在低采樣率下有較大提升，在0.15采樣率下平均結(jié)果相比BM3D-AMP、LDAMP和NLRCS在PSNR上分別提高了3.32 dB、1.63 dB和0.55 dB，在SSIM上提高了0.026 2、0.014 9、0.004，而深度學(xué)習(xí)在壓縮感知重建上表現(xiàn)并不如意。

圖5為Barbara圖片在0.05采樣率下各算法的重建圖和經(jīng)過(guò)對(duì)比度拉伸的殘差圖。觀察頭巾紋理部分，尤其是殘差圖上，傳統(tǒng)的優(yōu)化求解算法ALSB、BM3D-AMP、NLRCS和本文算法一定程度上保持了頭巾的條紋紋理結(jié)構(gòu)，而基于深度卷積神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練的ADMM-CSNet、CSNet、用DnCNN]26]作降噪器的LDAMP對(duì)于Barbara圖片的恢復(fù)效果不理想。Barbara圖片是具有代表性的圖片，其有非常明顯的紋理特征，這種有明顯特性的圖片在傳統(tǒng)優(yōu)化求解模型下都能得到不錯(cuò)的恢復(fù)結(jié)果。而從大量圖像數(shù)據(jù)中訓(xùn)練的算法并不能很好地學(xué)習(xí)到這種特征進(jìn)行表示。

(a) 原圖 (b) ALSB (c) BM3D-AMP (d) NLRCS

(e) LDAMP (f) ADMM-CSNet (g) CSNet (h) Proposed圖5 Barbara圖片在0.05采樣率下的重建圖和殘差圖

圖6為Boat圖片在0.1采樣率下的局部放大圖和其局部放大的殘差圖。Boat圖片中有許多細(xì)小的邊緣結(jié)構(gòu)。可以看出，ALSB重構(gòu)圖在繩索邊緣產(chǎn)生了偽紋理，BM3D-AMP、ADMM-CSNet和LDAMP明顯右側(cè)兩條細(xì)繩索結(jié)構(gòu)幾乎不可見(jiàn)；CSNet雖然能夠觀察到細(xì)繩索結(jié)構(gòu)，但其明顯模糊并擴(kuò)散開(kāi)來(lái)；NLRCS在十字交叉處左上部分的小段部分被抹去；而本文算法在兩條細(xì)繩索結(jié)構(gòu)上更為清晰，對(duì)細(xì)繩索結(jié)構(gòu)的保留更好。實(shí)驗(yàn)結(jié)果表明，聯(lián)合圖像先驗(yàn)的壓縮感知重構(gòu)算法能更充分利用圖像內(nèi)容結(jié)構(gòu)信息，進(jìn)一步提升壓縮感知的重建效果。

(a) 原圖 (b) ALSB (c) BM3D-AMP (d) NLRCS

(e) LDAMP (f) ADMM-CSNet (g) CSNet (h) Proposed圖6 Boat圖片在0.1采樣率下的重建圖和殘差圖(局部放大)

4 結(jié) 語(yǔ)

本文將基于非局部低秩的帶權(quán)核范數(shù)最小化模型引入到經(jīng)典的稀疏表示壓縮感知重建模型中，提出聯(lián)合圖像先驗(yàn)的壓縮感知重建算法，借助于圖像塊的局部稀疏性質(zhì)和非局部低秩先驗(yàn)，建立了聯(lián)合求解模型，通過(guò)ADMM算法將聯(lián)合先驗(yàn)重構(gòu)模型分為多個(gè)子問(wèn)題進(jìn)行求解。實(shí)驗(yàn)驗(yàn)證了本文算法的有效性，聯(lián)合先驗(yàn)?zāi)Ｐ透浞值乩昧藞D像先驗(yàn)性質(zhì)，取得了更好的重建效果。然而基于優(yōu)化求解的壓縮感知重建算法計(jì)算量較大，這也是壓縮感知在實(shí)際應(yīng)用中需要解決的問(wèn)題，如何設(shè)計(jì)計(jì)算復(fù)雜度更低的重建算法應(yīng)用于實(shí)際應(yīng)用中是需要繼續(xù)研究的方向。