信息論與編碼本科教學探討

林青

摘要：信息論與編碼是信息類專業的一門重要的專業基礎課程。由于理論性強、概念抽象，導致學生難學，老師難教。本文分析了信息論與編碼教學過程中存在的問題，從教材、教學內容和教學方法上進行了探討，并提出一些有益的建議，取得了良好的教學效果。

關鍵詞：信息論與編碼;教學方法;實驗教學

中圖分類號：G642.41 ? ? 文獻標志碼：A ? ? 文章編號：1674-9324（2015）47-0235-02

信息論與編碼是信息類專業一門重要的專業基礎課程，它運用概率論與數理統計的方法研究通信系統的有效性、可靠性以及安全性，以便達到系統的最優化。

由于這門課程理論性強、概念抽象，國內很多高校最初只向研究生開設此課程。隨著信息技術的發展，編碼技術在移動通信、數字多媒體以及信息安全等領域得到廣泛的應用，國內許多高校將信息論與編碼作為本科教學中的主干課程，但在本課教學過程中，存在下列問題：（1）本課程要求學生掌握的基礎知識較多，包括概率論、數理統計、線性代數、隨機過程以及通信原理等，而國內大部分高校是把隨機過程作為研究生課程來開設的，這就導致本科學生先修知識不足，對某些公式的證明理解起來較困難;（2）學生在學習的過程中，會與其他專業基礎課（如信號與系統、數字信號處理等）進行比較，誤認為本課程對其所學專業影響不大，以后的工作中用不到，再加上研究生考試不需要，所以大部分學生普遍存在不重視的心理;（3）本課程涉及到的概念比較抽象，公式推導比較復雜，對于數學基礎薄弱的學生來說，學習起來比較困難，從而產生畏學厭學的心理。

為了解決上述問題，提高教學效果，本文將從教材、教學內容、教學方法三方面進行探討。

一、教材

目前，國內外有關信息論與編碼課程的教材很多，有的偏重于理論的介紹，涵蓋的學科范圍較廣，這種教材以國外教材為主，像Thomas M.Cover Joy A.Thomas的《信息論基礎》，適合于研究生階段來學習;有的是以通信為背景突出理論的物理含義，這類教材國內較多，用的較多的是姜丹的《信息論與編碼》、李亦農和李梅的《信息論基礎教程》、陳運的《信息論與編碼》。我們根據自己專業的特點及學生先修課程的情況，選用陳運的《信息論與編碼》，該書最大特點是把信息論涉及的數學知識限制在通信系統的范疇內，避免了復雜的公式推導過程，使本科學生易懂易學。

二、教學內容的選取及組織

信息論與編碼這門課程的內容分為基礎理論與編碼兩部分，其涉及的主要內容為：信源熵、信道容量、率失真函數、信源編碼以及信道編碼五個基本內容。我們專業共安排了48個學時，其中有44個學時的理論教學，4個學時的實驗教學。此外，我們在五個基本內容的基礎上，又安排了密碼學的內容。

信源熵解決了無失真信源編碼的極限問題，在信息論中占的比重較大，這部分內容的講解過程如圖1所示。我們首先由單符號離散信源入手講解信息量、熵的基本概念，從消息的發送、傳輸及存儲三個角度分析它們的物理含義，再由單符號離散信源推廣到多符號離散平穩信源。由于多符號離散平穩信源存在缺陷：只考慮每個消息（組）中符號間的約束關系，沒有考慮各個消息（組）間的相關性，引出馬爾科夫信源的概念。實際信源都可以近似成馬爾科夫信源，如數字電視信號可以看成二維的一階馬爾科夫信源，傳輸過程中采用隔行隔列掃描傳輸。對于連續信源，由于現在通信基本上是數字通信，連續信號都經模數轉換成數字信號，這部分內容，我們只講解服從高斯分布、均勻分布以及指數分布信源的熵。

信道容量解決了信道信息傳輸的問題，即信道傳輸一個符號所能傳輸的最大平均信息量，實質上就是求解平均互信息量的最大值。在一般教材中，互信息量及平均互信息量是放在信源熵這一章講解的，為了讓學生更好地理解平均信息量，我們的做法就是打亂次序，把其放在信道容量這一章講解，這樣可以做到主次分明，讓學生認識到平均互信息量主要解決的問題。信道容量的講解過程相對于熵的講解過程較容易，只要詳細講述其概念及物理意義，剩下的任務就是信道容量及最佳輸入的求解過程。這里我們重點講解單符號離散信道、并聯信道、組合信道及加性連續信道的信道容量。

信源編碼部分，我們講解次序是緊隨信源熵內容之后。首先簡單介紹變長編碼及無失真編碼定理，再引入無失真編碼方法——熵編碼（統計編碼）。內容上，一般教材只是簡單介紹統計壓縮編碼方法，其缺點是沒有消除像素間的冗余度，由此提出變換編碼的概念，將相關冗余變為變換后的統計冗余，由于人類存在心理視覺冗余，采用量化手段可以消除。此處，引入靜態圖像壓縮標準JPEG，重點講解其壓縮及解壓縮過程，讓學生了解數碼相機的壓縮機理。

信道編碼部分，由于跟通信原理課程內容重合，我們專業放在通信原理中，這里不再表述。

信息率失真函數的求解過程涉及到變分方程，較復雜，這部分重點講解其基本概念、物理含義，簡單介紹離散信源和連續信源率失真函數的求解思路，簡化其推導。

密碼學的內容主要介紹古典密碼學、現代密碼學較經典的DES算法和RSA公鑰密碼算法。這里為了激發學生的學習興趣，我們引入了密碼學在戰爭中和網絡安全等方面的應用例子。

講解內容經過上面的選取和組織，避免了大量公式的推導過程，解決了學生先修課不足的情況，達到了良好的教學效果。

三、教學方法探討

（一）培養學生學習興趣

信息論與編碼理論課程理論性強，一般的教學都是基于數學層面講解其定理的推導過程，學生學習起來抽象、乏味，從而容易失去興趣。

為了避免這種現象的產生，授課過程中，我們引入信息論在專業學科中的應用。如講述注水定理時，可以結合數字電視、第四代移動通信中OFDM調制方法的最佳功率分配。在講述密碼學時，引入數字水印技術，指出其在版權中的應用，并以實際的水印例子展示給大家看。

另外，概念講解時，可以舉幾個學生比較熟悉的例子。如平穩信源的概念，理解起來較困難，可以以拋硬幣的例子來講解，任意時刻拋一枚均勻的硬幣其概率分布都是一樣的，所以是平穩信源。又如數字通信過程中，發送端輸出的消息是隨機的（0或1），但其任意時刻的概率分布都相同，一般情況下服從等概分布，所以通信系統的信源也可以看成平穩信源。

這樣的方法可以使學生認識到，信息論在工程上的應用，加深對概念的理解，提高他們對知識的興趣，從而易于接受和掌握相關的思考方法。

（二）加強師生互動

傳統的教學方式是以老師為中心，而學生是被動參與的。這樣很容易造成課堂氣氛沉悶，學生產生消極心理，教學效果差。

為了讓學生很好地理解本課程內容，我們的做法是：（1）課前精心設計幾個問題，課堂上讓學生積極參與討論。（2）針對我們專業及學生后續課程的學習，我們設計了信源編碼方法研究、JPEG壓縮、注水定理以及數字水印技術四個研究課題。課下，學生分成四組討論，并用MATLAB工具實現這幾個課題的仿真結果，最后每組提交一個討論報告，報告占考試成績的20%。這樣，學生從被動轉為主動，從“要我學”變成“我要學”，提高了他們獨立思考問題、解決問題的能力。

（三）引入實驗教學

我們實驗教學共有4個學時，安排了兩個實驗項目。

我們采用MATLAB軟件作為實驗平臺。MATLAB軟件簡單易用，可以利用其Simulink環境進行通信系統仿真。實驗內容分別是信道容量迭代算法及離散熵曲線實驗，前者占3個學時，后者占1個學時。要求是學生上課之前寫好預習報告，編寫好程序，上機調試修改，實驗老師檢查學生的預習報告，學生在實驗后交實驗報告，占成績的10%。

這樣避免了空洞的理論講解，讓學生從實踐過程中理解概念的物理意義，達到一定的教學效果。

（四）采用多樣的教學形式

傳統的教學形式是習慣采用板書教學，隨著多媒體技術的發展，多媒體教學已成為一種被普遍認可的教學形式，也是現在大部分高校教師采用的教學形式。這兩種教學形式各有利弊，前者更有利于學生的理解，后者更直觀，信息量更大，我們在教學過程中，進行兩者結合。由于信源熵和信道容量這部分理論性強、難度大，對于某些定理可以板書，對其復雜的推導過程，采用課件傳授，這樣可以加深學生對定理的理解。

四、結束語

本文分析了信息論與編碼本科教學過程中所面臨的問題，從教學內容與教學方法兩方面進行了探討，教學實踐表明這樣做能取得更好的教學效果，激發學生的積極性和創造性。對于本課程的教學探索還要在今后的教學工作和教學實踐中深入研究，不斷完善。

參考文獻：

[1]陳運.信息論與編碼[M].第2版.北京：電子工業出版社，2007.

[2]孫龍杰，劉立康.移動通信技術[M].北京：科學出版社，2008.

[3]趙生妹，盛利，等.《信息論與編碼》課程教學改革探討[J].江蘇廣播電視大學學報，2008，（3）：80-83.