基于奇異值分解的可分離壓縮成像方法

張 成 汪 東 沈 川 程 鴻 陳 嵐 韋 穗

1(計算智能與信號處理教育部重點實驗室(安徽大學) 合肥 230039)2(安徽省現代成像與顯示技術重點實驗室(安徽大學) 合肥 230039)(question1996@163.com)

?

基于奇異值分解的可分離壓縮成像方法

張 成1,2汪 東1沈 川1程 鴻1陳 嵐1韋 穗1

1(計算智能與信號處理教育部重點實驗室(安徽大學) 合肥 230039)2(安徽省現代成像與顯示技術重點實驗室(安徽大學) 合肥 230039)(question1996@163.com)

可分離壓縮傳感可以通過一定比例的額外測量有效地解決壓縮成像問題中面臨的測量矩陣維數過大的瓶頸. 但是現有可分離壓縮傳感(separable compressive sensing, SCS)方法需要2個可分離的測量矩陣都必須是行歸一化后的正交隨機矩陣，其顯著地限制了該方法的應用范圍. 將奇異值分解(singular value decomposition, SVD)方法引入可分離可壓縮傳感測量過程，可以有效地實現測量矩陣和重建矩陣的分離：在感知階段可以更多地考慮測量矩陣物理易于實現的性質，如Toeplitz或Circulant等確定性結構的矩陣；在重建階段，更多地考慮測量矩陣的優化.通過引入奇異值分解對重建階段的測量矩陣進行優化，可以有效地改善重建性能，尤其是Toeplitz或Circulant矩陣在大尺度圖像的壓縮重建情形.數值實驗結果驗證了該方法的有效性.

壓縮成像；可分離壓縮傳感；可分離感知矩陣；奇異值分解；確定性矩陣

壓縮成像(compressive imaging, CI)[1-2]是可壓縮傳感(compressive sensing, CS)[3]理論的一個天然分支.盡管目前已有許多CI的實現方案，但是設計一個有效的CI系統仍然是一個極具挑戰性的問題.其主要困難之一是CI的實現過程中涉及到巨大的數據量，這對成像系統的光學設計、校正，數據存儲與計算壓力等方面都存在深遠的影響.

為此，Rivenson等人[4-6]提出將可分離矩陣用于測量系統的設計，提出可分離壓縮傳感(separable compressive sensing, SCS)方法，該方法可以顯著地降低大尺度圖像壓縮成像時面臨的測量矩陣維數問題.但是，Rivenson方法中的可分離矩陣都必須是行歸一化后的正交隨機矩陣(row-normalized orthogonal random matrix, RNORM)[4]，從而導致其在實際成像過程中實現的高難度與高成本.RNORM的獨立元素過多，通過硬件實現難度大.

為解決此問題，可以通過引入結構化分離矩陣構造分離矩陣，這樣可以降低隨機性，但是結構化矩陣的引入同時也會對重建性能造成一定的負面影響.進一步地，本文引入奇異值分解(singular value decomposition, SVD)方法，將測量矩陣和重建矩陣的設計分離：測量矩陣的設計方面更多地考慮其物理可實現的性質；在圖像重建階段，更多地考慮優化重建矩陣的性能，通過對測量矩陣與測量數據的預處理，可以有效地改進重建性能.

1 可壓縮傳感基本理論

2006年推出的CS理論吸引了理論家的興趣和從業者的一致好評，成為了一個迅速崛起研究領域.CS提出了一個同步進行信號采樣和壓縮的新框架.相比經典框架先收集盡可能多的數據然后通過數字壓縮丟棄冗余數據技術，CS務求在獲取步驟中盡量降低多余的數據集合.

CS的主要研究內容包括稀疏表示、隨機投影矩陣和重建算法.

在CS理論中，隨機投影矩陣的性質已被廣泛研究[7-8].隨機投影矩陣Φ的一個特別令人感興趣的性質是它幾乎對所有可能的稀疏基Ψ的選擇都是非相干的(incoherent).在CS理論中，信號(圖像)可以通過求解下面的1范數最小化的凸優化問題：

s.t.g=Φf=ΦΨα,

(1)

成像矩陣Φ實際實現時必須考慮3方面的挑戰[3-4]：1)可計算性(computational).當測量矩陣的維數較大時的存儲與計算問題.2)光學實現(optical implementation).和成像矩陣Φ對應的實際物理實現需要的獨立元素數目過大，導致實現難度太大或成本太高.3)標定(calibration).復雜度高的與成像系統的標定工作所需要的工作量較大，標定過程十分繁重與耗時.

2 基于奇異值分解的可分離壓縮傳感

2.1 可分離壓縮傳感

假定一個可分離矩陣ΦLR可以表示成ΦL?ΦR，其中?符號表示Kronecker積，可以是直接乘積(direct product)或張量積(tensor product).如果ΦL是一個mL×nL矩陣，ΦR是一個mR×nR矩陣，那么ΦL和ΦR之間的Kronecker積ΦLR∈M×N(M=mLmR，N=nLnR)可以具體表示為

(2)

對于一個nL×nR維矩陣F=[f1f2…fnR]，fi∈nL×1(i=1,2,…,nR)，可以通過向量化操作將其變成N維列向量，這里向量化采用符號vec(·)來表示，其具體方式是通過堆積多維向量的列來生成：

(3)

考慮二維信號F=[f1f2…fnR]和測量向量G=[g1g2…gmR]，gi∈mL×1 (i=1,2,…,mR).F和G是f和g的矩陣表示形式.在這種情形下，式(1)可以寫成：

G=ΦLR(F)

①

vec(G)=ΦLRvec(F)=(ΦR?ΦL)vec(F)

② Kronecker product

(4)

其中，②是根據Kronecker積的性質得到的.于是，式(1)可以重寫成：

(5)

2.2 奇異值分解方法

奇異值分解SVD是譜分解理論在任意矩陣上的推廣.考慮一個M×N階矩陣Φ，則其SVD分解可以表示為

(6)

其中,U是M×M階正交(酉)矩陣，V是N×N階正交(酉)矩陣，D是半正定M×N階對角矩陣.

2.3 基于SVD的可分離壓縮傳感

結合2.1節中的SCS和2.2節中的SVD，提出了基于SVD的可分離壓縮傳感方法.首先通過引入結構化分離矩陣(如Toeplitz矩陣和Circulant矩陣等[10])構造分離矩陣，這樣可以降低分離測量矩陣的隨機性；進一步，引入SVD方法，將測量矩陣和重建矩陣的設計分離：測量矩陣的設計方面更多地考慮其物理可實現的性質，如Toeplitz或Circulant結構等；在圖像重建階段，更多地考慮優化重建矩陣的性能，通過對測量矩陣與測量數據的預處理，可以改進重建性能.

將SVD分別應用于下面的測量模型中的左、右測量矩陣:

(7)

可以得到:

(8)

(9)

其中，UL∈mL×mL，DL∈mL×nL,VL∈nL×nL，D1L∈mL×mL，V1L∈nL×mL，V2L∈nL×(nL-mL)，UR∈mR×mR，DL∈mR×nR,VR∈nR×nR，D1R∈mR×mR，V1R∈nR×mR，V2R∈nR×(nR-mR).注意，其中0表示的是由若干個0組成的矩陣.

根據2.2節中的SVD分解，得到的前向測量過程如下：

(10)

經過SVD分解處理后的前向測量過程變為

(11)

由于V1L和V1R都是列正交矩陣.

3 數值實驗

為驗證本文提出方法的有效性，本文設計了4組實驗進行了測試.分別是：實驗1為測試單次重建實驗結果；實驗2為不同下采樣率重建實驗；實驗3為不同尺度的重建實驗；實驗4為魯棒性測試實驗.

測試環境是64 b Win7操作系統, 處理器是Intel?CoreTMi5-2320,4核、主頻3.00 GHz, 有效內存8 GB, 測試軟件是Matlab2010a.

3.1 實驗1：單次重建實驗

實驗1的目的是通過單次重建實驗的結果以驗證本文提出方法的有效性.測試圖像選用標準Lena圖像進行插值放大，最終的測試大小是1792×1792像素.測試Lena圖像在ΦL和ΦR分別是行歸一化的正交隨機矩陣(RNORM)，行歸一化的隨機高斯矩陣(row-normalized random Gaussian matrix, RNRGM)和隨機高斯矩陣獲得的測量值經過SVD分解(random Gaussian matrix with singular value decomposition, RGM+SVD)處理過后的對比重建結果如圖1所示：

Fig. 1 Comparison results of single image reconstruction experiment using different separable measurement matrices.圖1 不同可分離測量矩陣單次圖像重建實驗對比結果

稀疏基Ψ選用Rice大學提供的Daubechies 10的小波基RWT (rice wavelet toolbox)[11]，小波尺度為3，本文后續的實驗也采用相同的稀疏基設置.單個分離矩陣ΦL和ΦR的下采樣率分別為srL=srR=0.6，也就是說mL×nL=1075×1792，mR×nR=1075×1792.重建算法選用Van Den Berg 等人[12-13]提出來的SPGL1軟件包，其可以用于求解大尺度圖像的重建問題.

在圖1中，圖1(a)是原標準Lena測試圖像，圖1(b)是2個分離矩陣矩陣ΦL和ΦR皆是RNORM時對應的測量值，圖1(c)是圖1(b)出發使用重建算法恢復的估計圖像.圖1(d)是對應于RNRGM的測量值，圖1(e)是RNRGM相應的重建結果.圖1(f)是隨機高斯矩陣(未歸一化)對應的測量值，圖1(g)是圖1(f)中的測量值經過SVD處理后得到的新的測量值，圖1(h)是從圖1(g)出發得到的重建結果.注意，在最后一個RGM+SVD的重建實驗中，經過SVD處理后，相應的測量矩陣和測量值都發生了變化，此處僅給出變化后的測量值.各重建圖像的信噪比(signal-to-noise ratio, SNR)以及重建時間(time)如表1所示:

Table 1 The Comparison Results of SNR and Time of Image Reconstruction Using Different Separable Measurement Matrices

表1 不同可分離測量矩陣圖像的重建信噪比和重建時間

從表1中的數據可以看出，3種矩陣的重建質量度量基本上是一樣的，彼此差距很小.重建時間指標也類似.從理論上來說，RNORM應該具有最優的結果，重建結果的穩定性最有保證.這是因為正交矩陣具有最小的互相干因子，從而可以優化重建的性能.在最小的測量數目情形下，可以得到同樣質量的重建圖像.由于重建時間不是本文關注的重點，因此后續實驗僅關注重建結果的SNR值.

3.2 實驗2：不同下采樣率重建實驗

為進一步測試本文方法的有效性，實驗2的目的是測試本文的方法在不同采樣率下的重建性能表現.實驗中選用3種不同的原型矩陣，即隨機高斯矩陣(Gauss)、隨機托普利茲矩陣(Toep)和隨機循環矩陣(Circ)，后2種矩陣的隨機獨立元素相比Gauss矩陣要少得多，可以顯著降低測量矩陣的實現難度，是實際物理實現時必須考慮的一點，因此這里也拿來作為一種對比測試.

實驗2中，單個分離測量矩陣的下采樣率作為實驗中的可變參數(左右保持相同的下采樣率)，其下采樣率分別為srL=srR∈{0.5,0.6,0.7,0.8,0.9}，總的下采樣比率(sample rate, SR)β=srLsrR.每組相同參數重建實驗分別運行100次，取其重建SNR的均值.測試圖像選用標準Lena圖像和Cameraman圖像，圖像尺寸一組為256×256，另一組為768×768，實驗結果如圖2所示：

Fig. 2 Comparison of reconstruction experiments under different sampling rate.圖2 不同下采樣率下的對比重建實驗

從圖2可以看出，隨著總采樣率β的變大，所有矩陣的平均重建SNR都逐漸提高.該趨勢也符合CS理論中的測量越多，測量值中所包含原圖像信息越多的原則.另一方面，對于隨機Gauss矩陣而言，在不同下采樣因子的情形下，RNRGM和采用SVD之間的差別不大.

但是對隨機托普利茲矩陣(Toep)和隨機循環矩陣(Circ)矩陣而言，在較低分辨率(256×256)時，從圖2(a)和圖2(b)可以看到，加上SVD預處理步驟略優于未加的SVD的結果，實際差距非常小.這是因為在低分辨率情形下，SVD提供的優化性能有限，差別并不明顯.但是，當分辨率變大(768×768)時，二者之間的差距開始非常顯著，本文的方法對于確定性矩陣(Toep和Circ矩陣)而言，要遠優于未加上SVD步驟的方法，其平均信噪比有顯著的提高，表現出非常有吸引力的穩定性.

3.3 實驗3：不同尺度的重建實驗

設計第3組實驗的目的是測試本文提出的方法在不同圖像尺度情形下的重建結果.圖像的基本尺寸是256×256，然后分別放大×1，×2，×3，×4，×5，×6，×7共7個級別.×4的意思就是圖像的水平和垂直方向都被放大4倍，即1024×1024，其余以此類推.左右分離矩陣的下采樣率分別為srL=srR=0.7，總下采樣比率β=0.49.實驗同樣選取隨機高斯矩陣(Gauss)、隨機托普利茲矩陣(Toep)和隨機循環矩陣(Circ)來作對比測試.測試圖像選用標準Lena圖像和Cameraman圖像，每組實驗獨立運行100次，計算其平均SNR，測試曲線如圖3所示：

Fig. 3 Comparison of reconstruction experiments under different scale factors.圖3 不同尺度下的對比重建實驗

從圖3可以看出，對隨機高斯矩陣(Gauss)而言，不同圖像尺寸下仍然保持了較好的平均重建SNR，總體趨勢符合測量數目越多，包含信息越多的特點；但是隨機托普利茲矩陣(Toep)和隨機循環矩陣(Circ)無論是在Lena圖像還是Cameraman圖像上的測試結果都表現出非常明顯的不穩定性.

這是由于這2類矩陣(Toep和Circ)獨立元素的數目要遠少于隨機高斯矩陣：一方面，這帶來了有利的一面是降低了測量矩陣的隨機性，從而可以降低前端測量物理實現的難度與成本；但是另一方面，隨機性的降低也導致有部分信息不能進一步地被成功提取出來以提高重建圖像的細節信息，因此導致在大尺度情形下平均重建SNR的波動.圖像尺寸越大，這一點也表現得越明顯.隨著圖像尺寸的增大，采用本文的方法可以非常顯著地提高重建信噪比，表現出非常優越的穩定性.

3.4 實驗4：魯棒性測試

實驗4是用于魯棒性測試的.其具體步驟是給原圖像附加一定信噪比的噪聲，然后按照SCS的方法進行測量與重建，統計其平均信噪比.測試圖像選用Lena圖像和Cameraman圖像.圖像的大小都是256×256像素，左右分離矩陣的下采樣率分別為srL=srR=0.7.測試矩陣仍采用隨機高斯矩陣(Gauss)、隨機托普利茲矩陣(Toep)和隨機循環矩陣(Circ).

輸入圖像的SNR(Input SNR)分別為10 dB，15 dB，20 dB，25 dB，30 dB，35 dB，40 dB.該噪聲是通過Matlab中的Fn=awgn(F,snr,“measured”)命令附加上相應的隨機高斯噪聲.其中F表示原圖像，snr表示給定的輸入信噪比.由于隨機噪聲的不確定性，本實驗中重新統計加噪聲和未加噪聲測量值之間的信噪比作為最終的輸入信噪比.每組實驗獨立運行100次，計算其平均SNR，實驗曲線如圖4所示.

Fig. 4 Robustness testing experiment.圖4 魯棒性測試實驗

從圖4可以看出，隨著輸入SNR的提高，各測試矩陣的平均重建SNR也逐漸提高；但是，可以很明顯地看出來，本文提出的方法有非常優越的穩定性，尤其是在較高輸入SNR的情形下，可以非常充分地提取原圖像的細節信息得到更高的重建信噪比.

4 結 論

本文提出一種基于SVD的可分離、可壓縮傳感方法，可以用于圖像的分離可壓縮傳感與重建.其基本思想是采用SVD分解方法對左、右分離測量矩陣分別進行預處理，從而得到優化后的測量矩陣與測量值，其中改進后的測量矩陣是行正交的(行數小于列數).使用該方法可以有效地實現測量矩陣和重建矩陣的有效分離：在采集階段，測量矩陣的設計方面更多地考慮其物理可實現的性質，如托普利茲矩陣或循環矩陣等；在圖像重建階段，更多地考慮優化重建矩陣的性能.一系列的數值測試結果表明本文方法的有效性，尤其是在獨立元素較少的確定性測量矩陣(托普利茲和循環)的大尺度圖像重建重建結果上更具有突出優勢，表現出卓越的穩定性.

[1]Romberg J. Compressive sensing by random convolution[J]. SIAM Journal on Imaging Sciences, 2009, 2(4): 1098-1128

[2]Zhang Cheng, Zhang Fen, Shen Chuan, et al. Binary pure phase encoding compressive imaging in frequency domain [J]. Journal of Computer Research and Development, 2014, 51(9): 2070-2080 (in Chinese)(張成, 張芬, 沈川, 等. 頻域二元純相位編碼壓縮成像[J]. 計算機研究與發展, 2014, 51(9): 2070-2080)

[3]Candès E J, Wakin M B. An introduction to compressive sampling[J]. IEEE Trans on Signal Processing Magazine, 2008, 25(2): 21-30

[4]Rivenson Y, Stern A. Compressed imaging with a separable sensing operator[J]. IEEE Trans on Signal Processing Letters, 2009, 16(6): 449-452

[5]Rivenson Y, Stern A. Practical compressive sensing of large images[C/OL] //Proc of the 16th Int Conf on Digital Signal Processing. 2009: 1-8 [2013-10-21]. http://ieeexplore.ieee.org/xpls/abs_all.jsp?arnu mber=5201205

[6]August Y, Vachman C, Rivenson Y, et al. Compressive hyperspectral imaging by random separable projections in both the spatial and the spectral domains[J]. Applied Optics, 2013, 52(10): D46-D54

[7]Donoho D. Compressed sensing[J]. IEEE Trans on Information Theory, 2006, 52(4), 1289-1306

[8]Candès E, Romberg J, Tao T. Robust uncertainty principles: Exact signal reconstruction from highly incomplete frequency information[J]. IEEE Trans on Information Theory, 2006, 52(2): 489-509

[9]Goodman J W. Introduction to Fourier Optics[M]. Chicago: Roberts and Company Publishers, 2005

[10]Zhang Cheng, Yang Hairong, Wei Sui. Compressive double-lens imaging using circulant-toeplitz-block phase mask[J]. Acta Optica Sinica, 2011, 31(8): 0811001 (in Chinese)(張成, 楊海蓉, 韋穗. 循環-托普利茲塊相位掩模可壓縮雙透鏡成像[J]. 光學學報, 2011, 31(8): 0811001)

[11]Baraniuk R, Choi H, Neelamani R, et al. Rice wavelet toolbox[OL]. [2012-10-21]. http://dsp.rice.edu/software/rice-wavelet-toolbox

[12]van den Berg E, Friedlander M P. Probing the Pareto frontier for basis pursuit solutions[J]. SIAM Journal on Scientific Computing, 2008, 31(2): 890-912

[13]van den Berg E, Friedlander M P. Sparse optimization with least-squares constraints[J]. SIAM Journal on Optimization, 2011, 21(4): 1201-1229Zhang Cheng, born in 1984. Received his PhD degree in the School of Electronics and Information Engineering from Anhui University in 2012. Lecturer in the School of Electronics and Information Engineering, Anhui University. His main research interests include compressed sensing, matrix completion, optical imaging and phase retrieval.

Wang Dong, born in 1993. Master candidate in the School of Electronics and Information Engineering, Anhui University. His main research interests include compressive holography and 3D imaging (729989855@qq.com).

Shen Chuan, born in 1986. Received his PhD degree in the School of Electronics and Information Engineering from Anhui University in 2015. Lecturer in the School of Electronics and Information Engineering, Anhui University. His main research interests include holographic imaging and signal processing (shenchuan2502@163.com).

Cheng Hong, born in 1981. Received her PhD degree in the School of Electronics and Information Engineering from Anhui University in 2012. Associate professor in the School of Electronics and Information Engineering, Anhui University. Her main research interests include transport of intensity equation(TIE).

Chen Lan, born in 1976. PhD candidate in the School of Electronic and Optical Engineering, Nanjing University of Science and Technology. Lecturer in the School of Electronics and Information Engineering, Anhui University. Her main research interests include compressive sensing.

Wei Sui, born in 1946. Graduated from Nanjing Industrial College (now South-east University) in 1970. Professor in Anhui University and member of doctoral faculty. Her main research interests include computer vision and imaging & display.

Separable Compressive Imaging Method Based on Singular Value Decomposition

Zhang Cheng1,2, Wang Dong1, Shen Chuan1, Cheng Hong1, Chen Lan1, and Wei Sui1

1(Key Laboratory of Intelligent Computing & Signal Processing (Anhui University), Ministry of Education, Hefei 230039)2(KeyLaboratoryofModernImagingandDisplayingTechnologyofAnhuiProvince(AnhuiUniversity),Hefei230039)

When facing the compressive imaging problem that the measurement matrix has too large dimension, separable compressive sensing (SCS) can effectively achieve this problem at a cost of a certain percentage of additional measurements. However, the both separable measurement matrices in existing separable compressive sensing method should be row-normalized orthogonal random matrix, which limits its application significantly. In this paper, the method of singular value decomposition (SVD) is introduced into separable compressive sensing measurement process, which can effectively achieve the separation of measurement matrix and reconstruction matrix: the design of the measurement matrix in sensing stage is more to consider the physical properties for easy implementations, such as the deterministic structure of Toeplitz or Circulant matrices and etc; in the reconstruction stage, it is more to consider the optimization of reconstruction matrix. Through the introduction of singular value decomposition method to optimize the measurement matrix in reconstruction stage, the reconstruction performance can be effectively facilitated, especially for Toeplitz and Circulant matrix in large-scale image compressive reconstruction. Numerical results demonstrate the validity of our proposed method.

compressive imaging (CI); separable compressive sensing (SCS); separable sensing matrix; singular value decomposition (SVD); deterministic matrices

2015-06-01；

2015-12-16

國家自然科學基金項目(U1201255,61301296,61377006,61501001,61605002)；安徽省自然科學基金項目(1608085QF161)；安徽省高等學校自然科學研究項目(KJ2015A114,KJ2016A029) The work was supported by the National Natural Science Foundation of China (U1201255, 61301296, 61377006，61501001, 61605002), the Natural Science Foundation of Anhui Province (1608085QF161), and the Natural Science Research Project of the Colleges and Universities of Anhui Province (KJ2015A114, KJ2016A029).

韋穗(swei@ahu.edu.cn)

TP391; TN911.7