蘭明然,王友國
(南京郵電大學 理學院,江蘇 南京 210046)
基于壓縮感知中矩陣分解的觀測矩陣改進
蘭明然,王友國
(南京郵電大學 理學院,江蘇 南京 210046)
觀測矩陣構造是壓縮感知(CS)理論中的重點。在構造觀測矩陣中,應盡可能地降低觀測矩陣與稀疏變換基之間的相關性,同時增大觀測矩陣列的獨立性。為此,提出了一種新的改進方法。該方法采用梯度下降法處理Gram矩陣以降低其非對角線元素,在對所得到的觀測矩陣進行QR分解的基礎上,再對QR分解后的矩陣進行奇異值(SVD)分解,以進一步增大觀測矩陣的列獨立性。為了驗證所提出算法的有效性,將所得觀測矩陣分別與未優化的高斯矩陣、經SVD分解優化的高斯矩陣和梯度下降法優化的高斯矩陣在同等壓縮比下進行了對比仿真實驗。對比仿真實驗結果表明,應用所提出算法而得到的矩陣具有較好的重構性能,特別當壓縮比小于0.3時,對應于未經優化的觀測矩陣,峰值信噪比提高約2至3倍。
壓縮感知;觀測矩陣;QR分解;SVD分解
傳統的奈奎斯特采樣定理要求信號采樣頻率不低于信號帶寬的兩倍,這樣才可不失真地實現重構。近年來,Donoho等在信號分解以及逼近理論的基礎上,提出一種全新的信號采樣理論—壓縮感知(Compressive Sensing,CS)[1-2]。該理論指出:利用信號的稀疏性(或可壓縮性)先驗條件,通過一定的線性或非線性的解碼模型可以以高概率恢復原始信號[3]。其中測量矩陣的研究對信號重構精度有直接影響,其性能越好,信號恢復越好。因此,測量矩陣的構造至關重要。
CS理論研究表明,信號的精確重構要求觀測矩陣滿足RIP[4-5],該性質同觀測矩陣與稀疏基不相關[6]等價。文獻[7]引用相關系數概念,其指觀測矩陣與稀疏矩陣之間列向量內積的最大值。由已有的理論可知,若觀測矩陣與稀疏矩陣的相關性特別小,測量值的數量就能逼近理論值,且能重構出信號的稀疏范圍是比較大的[8]。目前,關于降低兩者互相關性的研究有:趙瑞珍等[9]采用特征值分解法來減小相關系數,并研究了基于Gram矩陣的整體互相關系數的方法;Nhat V D M等提出一種有效投影法[10],該方法提取稀疏變換基中奇異值向量的部分列向量,并用這些列向量組成觀測矩陣,進而使得提取出的矩陣與稀疏矩陣間的非相關性增大;Elad等[11]為了減小非對角線上的元素,在閾值上進行一些處理,并提出以Gram陣為基礎的t平均互相關的性質; Abolghasemin等[12]研究了梯度下降法在Gram矩陣中的影響與作用,并與特殊矩陣進行比較。
為此,將梯度下降法和矩陣分解相結合,對壓縮感知矩陣進行優化,以降低觀測矩陣與稀疏矩陣間的互相關性并增大觀測矩陣列獨立性,進一步優化后得到一個新矩陣,并將提出方法與未優化的高斯矩陣、SVD分解優化的高斯矩陣和梯度下降法優化的高斯矩陣在同等壓縮比下的性能進行了對比分析。仿真結果表明,應用提出方法所獲得的矩陣有較好的重構性能,特別是在壓縮比較小時的優勢更加明顯。
壓縮感知,是給定一個可稀疏或壓縮的原始信號,通過某個特定的矩陣將其投影到一個低維空間,再利用一定的重構算法重構出原始信號[1]。具體如下:
(1)設x是一維離散信號,長度為N,可表示為x(n),n=1,2,…,N。根據信號稀疏分解理論,N維離散信號x=(x1,x2,…,xN)T可表示一組標準正交基的線性組合。
(1)

常見的稀疏基有DCT基、小波基及傅里葉基等等,文中采用小波基。

y=Φx
(2)
結合式(1)與式(2)得:
y=Φx=ΦΨs=Θs
(3)
其中,Φ和Θ=ΦΨ均是M×N矩陣,分別稱為測量矩陣和感知矩陣。

常用的測量矩陣包括:高斯隨機測量矩陣、貝努利隨機測量矩陣、部分正交測量矩陣、循環測量矩陣、托普利茲測量矩陣、稀疏隨機測量矩陣?,F有的這些測量矩陣對信號的重構精度都很高,但也有其自身固有的不足,如隨機測量矩陣元素的不確定性及硬件難以實現性;確定性矩陣雖然穩定性較好,但測量數上卻差強人意。針對這些缺點,提出了一種基于梯度下降法與矩陣分解結合的改進方法,進而得到性能優越的觀測矩陣。
2.1 基于梯度下降法增大非相干性方法

(4)


針對Gram矩陣的所有非對角線元素,利用梯度下降法讓Gram矩陣逐漸逼近單位矩陣,以減小Gram矩陣非對角線元素。因單位矩陣中非對角線元素都為0,則相干系數為0,這是一種理想情況??梢詢灮疓ram矩陣,使得它與單位矩陣很接近,即求解以下優化模型:
(5)

(6)
由上述分析可知,滿足式(6)時測量矩陣與稀疏基間互相干系數最小。
定義誤差函數:
(7)
根據文獻[14]:
(8)

(9)

2.2 矩陣分解增大列獨立性
由Donoho給出的測量矩陣特性[1]和矩陣分解理論可知,測量矩陣Φ的最小奇異值必須大于某一個非負常數η1。矩陣的最小奇異值與矩陣線性相關性具有緊密聯系[15],矩陣最小奇異值越大,其列相關性越弱,獨立性越強。因此測量矩陣的最小奇異值對重構圖像質量起著致關重要的作用。
2.2.1 矩陣QR分解

2.2.2 矩陣奇異值分解

(10)
其中,Σ=diag(δ1,δ2,…,δr),且δ1≥δ2≥…≥δr>0,δi(i=1,2,…,r)是A的正奇異值。式(10)稱為矩陣A的奇異值分解。
定義2:任意復矩陣A∈Cm×n,若存在G∈Cn×m,滿足四個Penrose方程(AGA=A;GAG=G;(AG)H=AG;(GA)H=GA)中的某幾個或全部,則稱G為A的一個廣義逆矩陣。若滿足全部四個方程的廣義逆矩陣稱為A的Moore-Penrose逆,記為A+。
引理1:若向量x1,x2分別滿足Ax1=y1,Ax2=y2,令d1=‖x1-x2‖p/‖x1‖p,d2=‖y1-y2‖p/ ‖y1‖p,則有d1≤k(A)d2,其中k(A)=‖A‖p*‖A+‖p。

2.3 矩陣優化
根據以上分析,該優化方法思路是以高斯矩陣為初始觀測矩陣,通過它構造Gram矩陣,利用梯度下降法對Gram矩陣逐步逼近于單位矩陣,通過迭代優化后的矩陣反向求出觀測矩陣,且對得到的矩陣進行QR分解優化,并對分解后矩陣再進行SVD分解;繼續用優化后的觀測矩陣求解Gram矩陣,在不斷進行Gram矩陣和觀測矩陣反復作用的過程中,當迭代次數達到一定值時,輸出此時的觀測矩陣。通過上述優化后,觀測矩陣不但與稀疏基間的互相關性減小,而且其列獨立性得到增強。另外,由于每次迭代中QR分解優化時R只保存主對角線元素,觀測矩陣保留著重要信息,同時通過均值算法修改奇異值得到的觀測矩陣具有更好性能。新矩陣優化如下:
輸入:稀疏矩陣Ψ,迭代步長η,最大迭代次數K。
初始化:Φ為一個任意的隨機矩陣,Θ=ΦΨ。
循環:k=1:K。
對Θ做列單位化,Θ←Θ-ηΘ(ΘTΘ-I),得到:Φ1←ΘΨ-1。
對Φ1進行近似QR分解優化:即先對Φ1進行QR分解,得到Φ1=QR,其中Q為正交陣,R為上三角矩陣;然后將R中的非對角線元素設置為零,得到R1;最后根據Φ2=QR1求得進一步更新的矩陣Φ2。

再根據Θ=Φ3Ψ,依次循環。

為證實新矩陣優化算法相關理論的優越性,采用Matlab標準圖像庫中256*256的Lena圖像進行仿真實驗。對比算法的觀測矩陣分別是初始高斯矩陣、經SVD分解優化的高斯矩陣[15]、梯度下降法優化的高斯矩陣[13]。在整個壓縮感知過程中,原始矩陣采用高斯矩陣,稀疏基選取小波基,以OMP(正交匹配追蹤)算法作為重構算法。在M/N<0.5時,新矩陣方法采用50次平均統計的結果為最后結果。4種觀測矩陣在不同壓縮比時的峰值信噪比見表1。
表1 不同壓縮比下的PSNR

壓縮比未優化/dB梯度下降法優化/dBSVD優化/dB所提優化/dB0.103.765.023.749.170.204.955.155.3214.900.3012.8318.9418.5827.120.4023.5425.6325.5929.300.5026.8228.2727.2831.51
由表1可知,梯度下降優化和SVD優化方法的峰值信噪比相差不大,而新矩陣優化方法相比其兩種矩陣優化的峰值信噪比有顯著提升,當壓縮比為0.10、0.20、0.30、0.40、0.50時,Lena的PSNR比未優化方法的PSNR分別提高5.41 dB、9.95 dB、14.29 dB、5.76 dB和4.69 dB。通過比較可知,峰值信噪比的提高驗證了新矩陣改進方法的可行性;而且當壓縮比趨于0.30時,新矩陣優化的峰值信噪比提升最佳。圖1為4種觀測矩陣的峰值信噪比隨壓縮比變化趨勢圖。

圖1 觀測矩陣的峰值信噪比隨壓縮比變化趨勢圖
從圖1可看出,SVD優化和梯度下降優化效果很相近,其PSNR值比未優化的信噪比稍微增大;而新矩陣優化后的測量矩陣用于圖像重構,所得PSNR值比SVD優化和梯度下降優化得到的PSNR值有顯著提高,更優于未經優化的測量矩陣圖像重構的效果。PSNR值的提高表明,新矩陣優化方法可提高重構精度,改善重構質量。圖2給出了Lena和部分Lena在壓縮比為0.5時4種算法的重構效果。
其中,圖2(a)是未優化恢復的圖像;圖2(b)是梯度下降法優化恢復的圖像;圖2(c)是SVD優化恢復的圖像;圖2(d)是新矩陣優化恢復的圖像。由對比可知,新矩陣優化方法重構圖像質量優于SVD優化和梯度下降優化方法重建圖像的質量;再則,圖(a)和圖(b)比較模糊,圖(d)相對圖(c)在下巴和嘴巴這些細節上重構效果更好,圖(d)清晰度更接近原始圖像。綜上,提出算法在相同的壓縮比下重構性能更高。
針對觀測矩陣與稀疏變換基之間的相關性以及觀測矩陣列的獨立性,提出了一種基于梯度下降法的矩陣分解優化方法,得到了較優的觀測矩陣。由仿真結果分析可知,提出的優化方法用于圖像重構,在壓縮比0.5時,重構圖像的PSNR值比SVD優化和梯度下降優化的PSNR值提高約3.2 dB,優于未優化的PSNR值,尤其在壓縮較少時,優勢更明顯。可見,提出的方法具有較好的適用性和較為顯著的優越性能。
[1] Donoho D L.Compressed sensing[J].IEEE Transactions on Information Theory,2006,52(4):1289-1306.
[2] Candes E.Compressive sampling[C]//Proceeding of the international congress of mathematicians.[s.l.]:[s.n.],2006:1433-1452.
[3] 方 紅,章權兵,韋 穗.基于非常稀疏隨機投影的圖像重建方法[J].計算機工程與應用,2007,43(22):25-27.
[4] Candes E, Tao T.Near optimal signal recovery form random projections:universal encoding strategies?[J].IEEE Transactions on Information Theory,2007,52(12):5406-5425.
[5] 馬慶濤,唐加山.基于壓縮感知的測量矩陣研究[J].微型機與應用,2013,32(8):64-67.
[6] Baraniuk R.A lecture on compressive sensing[J].IEEE Signal Processing Magazine,2007,24(4):118-121.
[7] Donoho D L,Stark P B.Uncertainty principles and signal recovery[J].SIAM Journal on Applied Mathematics,1989,49(3):906-931.
[8] 徐 靜,王彩云.壓縮感知測量矩陣優化混合方法[J].深圳大學學報:理工版,2014,31(1):58-62.
[9] Zhao Ruizhen,Qin Zhou,Hu Shaohai,et al.An optimization method for measurement matrix based on eigenvalue decomposition[J].Signal Processing,2012,28(5):654-656.
[10] Nhat V D M,Vo D,Halla S,et al.Efficient projection for compressed sensing[C]//Proceedings of the computer and information science.[s.l.]:[s.n.],2008:322-327.
[11] Elad M. Optimized projections for compressed sensing[J].IEEE Transactions on Signal Processing,2007,55(12):5695-5702.
[12] Abolghasemin V,Ferdowsi S,Makkiabadi B,et al.A robust approach for optimization of the measurement matrix in compressed sensing[C]//International workshop on cognitive information processing.Elba Island:IEEE Press,2010:388-392.
[13] Abolghasemin V,Ferdowsi S,Sanei S.A gradient-based alternating minimization approach for optimization of the measurement matrix in compressed sensing[J].Signal Processing,2012,92(3):999-1009.
[14] Abolghasemi V,Ferdowsi S,Makkiabadi B,et al.On optimization of the measurement matrix for compressive sensing[C]//18th European signal processing conference.[s.l.]:IEEE,2010:427-431.
[15] 彭玉樓,何怡剛,林 斌.基于奇異值分解的壓縮感知噪聲信號重構算法[J].儀器儀表學報,2012,33(12):2655-2660.
[16] 傅迎華.可壓縮傳感重構算法與近似QR分解[J].計算機應用,2008,28(9):2300-2302.
Improvement of Measurement Matrix with Matrix Decomposition in Compressive Sensing
LAN Ming-ran,WANG You-guo
(College of Science,Nanjing University of Posts and Telecommunications,Nanjing 210046,China)
The structure of measurement matrix is the key point in the theory of Compressive Sensing (CS).In the measurement matrix constructing,it is possible to reduce the correlation between the measurement matrix and the sparse transformation matrix,and to increase the independence of the measurement matrix.A new improved method has been proposed for this purpose,which uses gradient Gram matrix to reduce its non-diagonal elements with descent method of measurement matrix obtained by QR decomposition.After decomposition of the QR matrix,Singular Value Decomposition (SVD) has been implemented to further increase the independence among the measurement matrix.In order to verify the effectiveness of the proposed algorithm,contrast experiments of matrix acquired by the proposed method with three types of Gauss matrices,such as these without optimization,optimized by SVD decomposition and optimized by gradient descent method,have been carried out at the same compression.The experimental simulation results show that the proposed algorithm and thus the reconstruction matrix have displayed better performance,especially when the compression ratio is less than 0.3,the peak signal-to-noise ratio has increased about 2 to 3 times comparing with the measurement matrix without optimization.
compressive sensing;measurement matrix;QR decomposition;singular value decomposition
2016-07-05
2016-11-04 網絡出版時間:2017-04-28
國家自然科學基金資助項目(61179027)
蘭明然(1992-),女,碩士研究生,研究方向為信號處理理論與應用;王友國,教授,博士生導師,研究方向為信息理論及應用、編碼理論及應用、隨機共振理論與研究。
http://kns.cnki.net/kcms/detail/61.1450.TP.20170428.1703.048.html
TP31
A
1673-629X(2017)06-0056-04
10.3969/j.issn.1673-629X.2017.06.012