基于GAN的視頻隱寫算法

林洋平 ， 張明書,2* ， 陳培 ， 劉佳 ， 楊曉元,2

(1.武警工程大學密碼工程學院， 西安 710086； 2.網絡與信息安全武警部隊重點實驗室， 西安 710086)

隱寫術是一種將秘密消息隱藏在載體信息中，使得攻擊方無法知曉載體中是否含有秘密消息，從而達到隱蔽傳輸目的的秘密通信技術。它在公共服務、網絡傳輸、軍事通信等方面的應用非常廣泛，相較于加密技術而言，因其具有的不可感知性，不易受到惡意攻擊方的分析檢測，是目前研究秘密通信領域的熱門課題，在信息化條件下的軍事通信擁有很高的應用價值[1]。

視頻隱寫術是應用于視頻媒介的信息隱藏技術，視頻中擁有比圖像更多的冗余信息，它的嵌入容量和安全性有著更好的表現，隨著5G高速網絡的發展，大量視頻媒介信息在互聯網中迅速傳播，載密視頻很容易隱藏其中，因此視頻隱寫術在載體數量與傳播安全性方面的優點日益突顯。

原始載體在嵌入秘密消息后，會對載體原有的統計信息進行一定程度上的修改。因此在設計隱寫算法時，通過某種修改策略使得嵌入后造成的失真減小，失真越小受到攻擊者的惡意攻擊概率越低[2]。

許多學者提出諸如預測模式[3]、DCT(discrete cosine transformation)系數[4]、運動矢量[5]等一系列基于壓縮域的視頻隱寫算法。而人工構建最優修改策略在設計上是困難的，這需要對視頻格式特點與統計信息進行詳盡地分析，這也會加大隱寫算法的設計難度。深度學習技術為隱寫術的發展提供了一個新的思路，它無需人工對視頻數據進行預先的特殊處理，只要合理地設計出網絡的基本結構和相應損失函數，通過優化算法就可達到修改策略的最優化，理論上只要利用大量數據進行合理的訓練便可達成此目標。基于卷積神經網絡與生成式對抗網絡的深度學習技術[6-7]的出現，為人們提供了一種新的方法。它在計算機視覺的傳統領域諸如分類、超分、去模糊等的應用十分廣泛，正是由于其優異表現，吸引許多研究學者的注意，通過結合目前已有隱寫算法構架，將其作為隱寫特征提取模塊，減少隱寫算法的人工設計難度。神經網絡在圖像與文本隱寫領域中的應用十分廣泛，已擁有許多重要的研究成果，但在視頻隱寫術中的應用目前還處于探索階段，因而如何將神經網絡與視頻隱寫術進行結合成為研究該領域的重要內容。

采用生成修改概率矩陣進行消息嵌入的方法，提出一種基于生成對抗網絡的視頻隱寫算法。在視頻生成對抗網絡的基礎上，設計一個隱寫生成對抗網絡，其包含一組隱寫生成器與判別器，以生成最優修改概率矩陣。同時為了提高隱寫生成器的性能，將視頻生成網絡生成的前景信息作為隱寫生成器的輸入，以便生成修改概率矩陣，而后將其傳遞給嵌入函數得到最優修改映射，進行秘密信息的嵌入。隱寫判別器以載密與原始樣本作為輸入，將樣本三個通道分別通過高通濾波器進行預處理，再利用三維卷積網絡對載密和原始樣本進行區分。經過隱寫生成器與判別器之間的博弈對抗，以期于載密樣本能誤導判別器的正確判斷。

1 隱寫架構

1.1 隱寫算法設計

在載體修改式隱寫術的思想下，提出視頻隱寫算法(steganographic generative adversarial network, SGAN)，其架構由兩部分組成：視頻生成對抗網絡(SGAN-videonet, SGAN-VN)、隱寫對抗網絡(SGAN-stegonet, SGAN-SN)，算法架構細節如圖1所示。

隱藏算法的主要步驟如下：發送方在嵌入消息之前，將噪聲Z作為視頻生成對抗網絡的輸入，以生成載體視頻G(z)，載體視頻由前景f(z)、后景b(z)

圖1 隱寫算法架構Fig.1 Steganographic structure of the proposed algorithm

與掩模m(z)組成。隱寫對抗網絡將前景作為輸入，利用隱寫生成器生成修改概率矩陣，通過最優二元嵌入函數自適應生成最優嵌入修改位置圖，將秘密消息m嵌入到載體視頻像素最低位中，得到含密視頻。

接收方收到含密視頻后，將視頻發送方經過秘密信道傳輸的修改位置圖作為提取參考，提取出載密視頻中的秘密信息。

1.2 基于失真代價的隱寫

基于修改載體的隱寫算法中，設計架構的目標是使得隱寫代價函數最小，以抵抗基于特征學習的隱寫分析算法的攻擊[8]。代價函數通常定義為

(1)

式(1)中：X=(xi,j)H×W與Y=(yL,j)H×W分別為原始載體樣本與嵌入修改樣本；ρi,j為修改i與j的所需代價。在這種思想的指導下，許多學者提出了相應的圖像隱寫算法，如S-UNIWARD(spatial universal wavelet relative distortion)[9]、HILL(high-pass, low-pass, low-pass)[10]等。針對將信息嵌入載體后會導致不同的樣本屬性改變，隱寫算法通過設計的相應隱寫代價函數，優化嵌入方式減少修改原始樣本帶來的隱性失真。然而，鑒于嵌入消息后帶來的不同失真而設計相應代價函數難以實現，目前許多算法如ADSL-GAN(automatic steganographic distortion learning framework with GAN)[11]、UT-SCA-GAN(U-net, tanh-simulator, selection channel awareness, GAN)[12]等，利用CNN(convolutional neural networks)作為擬合代價函數的工具，引入基于神經網絡的隱寫分析算法，利用對抗模型中的博弈對抗策略，構成生成式對抗網絡，通過二者之間博弈訓練，使得嵌入消息帶來的失真最小化。

1.3 雙流視頻生成模型

視頻隱寫術相對于圖像隱寫術來講，直接將原始載體輸入網絡中，將會使得參數繁多并且數據復雜難以訓練。因此在設計架構時，利用了雙流生成視頻模型能夠生成視頻運動信息的特點，本文提出通過將視頻中的時空特征信息，作為隱寫生成器的輸入，以減輕生成器的訓練成本。該視頻生成模型不會直接生成偽樣本，首先會利用噪聲Z作為輸入，生成代表視頻信息中動態與靜態的不同部分：前景f(z)、后景b(z)，這兩個部分分別對應現實世界中外界環境中的靜止信息與動作信息，通過與掩模m(z)的組合控制來得到生成的偽視頻，表達式為

G(z)=m(z)⊙f(z)+[1-m(z)]⊙b(z)

(2)

式(2)中：生成視頻G(z)為利用噪聲Z驅動合成的；m(z)為視頻中的時空掩模，為不同的像素位置以及時間選擇前景模型與后景模型進行匹配控制，⊙為Hadamard乘積。

而對于生成的視頻任務，采用了基于DCGAN(deep convolutional generative adversarial net)的視頻生成架構[13]。為了提高生成視頻的清晰度與嵌入容量，將生成視頻的分辨率從原始模型的64×64提高到128×128。

2 隱寫對抗網絡

2.1 生成器結構

本文設計的雙生成對抗網絡隱寫架構中包含兩個生成器：一個負責視頻生成任務，基于DCGAN的視頻生成網絡；另一個負責嵌入修改概率矩陣的生成，稱為隱寫生成器。與圖像隱寫網絡不同，視頻信息流中主要包含兩種類型的信息，除了空域信息以外，還包括時域信息。在圖像空域隱寫術中，較多采用分析單張載體圖像的空域信息，進而生成修改概率進行隱寫。視頻信息往往是連續不斷的序列信息，在靜止空間與運動空間中都含有大量的冗余信息，可供進行信息的嵌入，但視頻數據較圖像而言，數據量更大且其特征提取網絡更不易訓練。

因此本文提出的架構中，直接將DCGAN所生成前景作為生成器的輸入，利用卷積網絡來提取前景的特征信息。在文獻[12]中生成器的基礎上，將二維卷積改為三維卷積網絡，實現在時間維度中的采樣，通過更深層的網絡結構與大量對抗訓練，得到一個針對視頻時空冗余的概率修改矩陣。在這種架構中一共包含16層三維卷積層，前8層每一層包含一個1×5×5卷積核的三維卷積層，后接一個BN層，前8組采用的是LeakyReLU激活函數，后8組是ReLU激活函數與轉置三維卷積層，最后一組的輸出用sigmoid激活函數，使用sigmoid函數將卷積網絡提取的特征映射，將其轉換成數值在0～1的概率，為了防止修改概率過大而造成嵌入消息的安全性降低，對每個概率減去0.5，將區間控制在0～0.5。隱寫生成器的具體結構，如表1所示。

表1 隱寫生成器結構Table 1 The structure of steganography generator

2.2 判別器結構

生成對抗網絡中判別器主要用于判別生成樣本的真假性，判別器的性能會直接影響到生成器所生成樣本的質量，第一個GAN使用一個5層三維卷積網絡，卷積核為3×3×3，步長為2，除了第五層卷積層后使用sidmiod函數以外，每一層卷積操作后都使用LeakyReLU作為激活函數。這樣卷積層既可以學習視頻背景中的統計信息，也可以學習物體運動的時空關系。第二個GAN中判別器是作為一個隱寫分析器，經過博弈對抗訓練過后，生成器生成的修改概率矩陣所對應的載密樣本，強化抵抗隱寫分析檢測的能力。在Xu-Net的基礎上，設計一個基于三維卷積的視頻隱寫分析器，將其作為視頻隱寫對抗網絡的判別器。Xu-Net是文獻[14]中提出的灰度圖像隱寫分析模型，考慮到視頻信號的時空維度與通道數目，為了將其用于彩色三通道載密視頻幀的分析檢測，將高通濾波器在時間維度與通道維度中進行拓展，分別對每一幀的圖像三個通道進行處理，最后合并為一個通道數目為18、時間維度為32的特征圖，以便于處理連續的視頻信號，而后將其所得殘差特征輸入一個6層三維卷積網絡中分析其時空特征，根據激活函數把時空特征映射為識別概率值，通道間的處理過程如圖2所示。

2.3 損失函數

在訓練過程的兩個階段中分別訓練兩個對抗網絡，二者的判別器在結構設計上存在著差異，但共同將網絡輸出的標簽信息作為衡量判別器性能的

圖2 通道的分離與合并Fig.2 Channels separation and merge

關鍵參考信息，對此將兩個判別器的損失定義為

(3)

式(3)中：y′為判別器中激活函數輸出；y′i則為判別器對載體樣本與嵌密樣本的分類標簽。對于生成器的損失函數，將其定義為

lG=-αlD+β(C-3NHWQ)2

(4)

C=C1+C2+C3

(5)

式中：NHWQ為訓練之前設定的期望載荷。在兩個階段的訓練中，第一階段將參數β設定為0，參數α設定為常數1；而在下一階段中，會對實際訓練需求進行參β的合理設定，以保證目標函數的最優化，本文中參數β設置為10-71。Ck為嵌密樣本三個通道中的秘密消息載荷，將其定義為

(6)

(7)

(8)

2.4 最優嵌入函數

視頻隱寫算法在得到修改概率矩陣之后，需要得到相應的嵌入修改位置圖來進行秘密消息的嵌入，而這里的嵌入修改位置圖是通過式(9)所示最優嵌入模擬器生成的[15]：

(9)

式(9)中：pi,j為嵌入變化概率;ni,j為0～1均勻分布產生的隨機數;mi,jmi,j為嵌入值。但該函數不能在實際訓練中生成網絡的梯度反向傳播傳遞梯度，導致訓練時間過長。為了解決上述嵌入函數不連續的問題，引入了一個基于tanh函數的最優嵌入激活函數[12]，即

m′i,j=-0.5tanh[λ(pi,j-2ni,j)]+

0.5tanh{λ[pi,j-2(1-ni,j)]}

(10)

(11)

式中：λ為縮放因子，控制函數在階梯狀態中變化的坡度，不同縮放因子對應函數的變化，如圖3所示。

圖3 不同縮放因子下的嵌入函數Fig.3 Embedding functions with different scaling factors

3 實驗結果與分析

3.1 數據集與實驗設置

實驗環境為window10操作系統下的tensorflow1.15深度學習構架，所用實驗儀器的顯卡型號為英偉達GTX TITAN XP，CPU型號為INTEL Xeon E5-1603，內存為16 GB。所有的實驗都是在UCF101數據集上進行的，UCF101是一個現實動作視頻的動作識別數據集，收集自YouTube，提供了來自101個動作類別的13 320個視頻，其大小為320×240，在深度學習領域用于視頻的動作識別數據集。從UCF101數據集中隨機抽取500段視頻，作為視頻生成網絡的訓練視頻。為了匹配實驗所需的視頻大小，利用基于python的skimage工具包將其轉化為大小為128×128的視頻。

實驗中生成對抗網絡的訓練分為兩個階段，首先訓練第一個生成網絡使其可以生成符合自然語義的偽視頻，經過3 000輪的迭代訓練后，再訓練第二個生成網絡負責嵌入修改矩陣的生成，對其訓練共800次。對于第一個網絡中的訓練采用的是，訓練一次生成器后，進行一次判別器的訓練。訓練中使用學習率為0.000 2的Adam優化器來訓練模型，對每個批次視頻樣本訓練3 800次，共500次迭代。

3.2 實驗結果

3.2.1 視頻生成對抗網絡性能

當經過3 000輪的訓練后，視頻生成網絡的訓練結束，參數在此時及以后不發生改變，進而進行下一部分的第二個生成網絡的訓練，使其生成最優嵌入修改矩陣。對第二個網絡的訓練采用的是，每訓練兩次生成器，訓練一次隱寫判別器的方式，兩種模塊的對抗性訓練交替進行。

如圖4所示，經過前一輪次的訓練后，第一個生成網絡已然可以生成擁有逼真效果的偽視頻，相較于原始視頻來說，其噪點較多，并且在紋理復雜的區域較為模糊。但是這些缺點正好為本文消息的嵌入，提供合理的冗余空間。因為在實際網絡環境中充斥著大量因壓縮算法或者傳輸帶寬不足導致的視頻缺失與模糊，因此在真實環境中這樣的視頻是存在的。

圖4 生成視頻幀Fig.4 Generate videos

雙流視頻生成網絡的特點是能夠同時生成視頻的靜止與運動信息：動態前景與靜態后景，如圖5所示。考慮到視頻隱寫術的關鍵是利用其中的時空冗余信息，因此在設計第二個網絡中本文使用基于三維卷積的特征提取網絡，并利用動態前景作為載體視頻的時空特征信息，提高隱寫生成器生成修改概率矩陣的能力，構成雙生成對抗網絡視頻隱寫算法。

圖5 前景、后景與掩模Fig.5 Foreground, background and mask

3.2.2 抵抗彩色隱寫分析器

通過對比實驗來驗證本文提出的隱寫算法架構的抗隱寫分析算法攻擊的能力，實驗選取了基于空域的S-UNIWARD算法進行對比，由于S-UNIWARD是灰度圖像隱寫算法，對其進行訓練時，將一張數據集中的圖像拆分為三張灰度圖像，作為該算法的輸入，訓練后的隱寫模型分別對三個彩色通道進行嵌密，為了進一步驗證雙生成對抗網絡隱寫算法的有效性，增加一組消融性實驗作為對比，將載體視頻作為隱寫生成器的輸入，基于時空信息與原始載體樣本的兩種隱寫對抗網絡在三個模塊的結構、參數上相一致，不同點在于如何設置隱寫網絡的輸入，分別用GAN與SGAN表示。為了檢驗二者的差異性，從以下隱寫安全性方面進行評估。

目前針對序列視頻信息的空域隱寫分析算法較少，且無法應用于基于圖像的S-UNIWARD算法，本文通過將算法所生成的視頻隨機抽取幀圖像作為數據，引入彩色圖像隱寫分析算法SCRM[16]作為隱寫分析工具，結合集成分類器[17]對其進行檢測。

分別對通道嵌入率為0.05、0.1、0.2、0.3、0.4 bpc (bit per channel, bpc)的載密樣本進行分析，共使用了10 500組樣本作為數據集，其中9 000組樣本為訓練集，1 500組樣本用于測試分類準確度，實驗中得到的平均嵌入率分別為0.050、0.099、0.198、0.300、0.401 bpc。

從表2可以看出，本文提出的SGAN架構與S-UNIWARD算法相比，在嵌入率為0.05、0.1、0.3 bpc在SCRM檢測中都取得了較好的表現，在檢測錯誤率上分別有0.65%、1.33%、3.26%的提升，在0.1、0.2、0.3 bpc的嵌入率下GAN也要優于S-UNIWARD算法，檢測錯誤率的變化曲線如圖6所示。總體上SGAN架構與GAN架構之間，前者要綜合上優于單純地只對視頻進行特征提取的后者，從實驗中證明了前者的抗隱寫分析能力要更強。在與S-UNIWARD算法比較時，其只在部分嵌入率下優于該算法，整體上并沒有顯著的提高，但本文算法的嵌入對象是時空冗余信息，因此基于空域的圖像隱寫分析算法的結果作為參考，抗隱寫分析的能力在部分嵌入率下有所下降是正常的。

表2 SCRM檢測錯誤率Table 2 Error rates of SCRM detection

圖6 SCRM檢測錯誤率Fig.6 Error rates of SCRM detection

3.2.3 時空內容自適應性

圖7為本文方案SGAN架構在五種通道嵌入率下在紅色通道中修改位置圖，可以看出嵌入位置的選擇多在像素變化較為頻繁的運動部分，這里時空冗余較多對于視頻信息更為適合隱藏秘密消息，并且隨著嵌入率的提高這部分選擇的機率越來越高，這表明所提出的方案具有時空內容自適應性。

圖7 各嵌入率下的修改位置圖Fig.7 Modification maps under different embedding rates

4 總結與展望

為了提高視頻隱寫術在公共信道中的安全性，使得其能夠抵抗來自隱寫分析算法的攻擊，提出了基于生成式對抗網絡的視頻隱寫算法。該算法生成的視頻在質量上滿足真實視頻中的語義信息，利用隱寫生成器與判別器之間的博弈學習，優化生成器的性能，減小嵌入帶來的失真，自適應嵌入秘密消息比特。從實驗結果上來看，算法生成的載密視頻在空域隱寫分析算法SCRM的檢測下，能在低嵌入率時較同類算法S-UNIWARD的抗檢測率有一定提升。