信息論與編碼的教學改革探討

　　摘要：針對信息論與編碼課程在授課過程中存在的問題，探討該課程教學理念與教學方法的改革思路，嘗試以培養學生自主學習能力為主的教學模式，提出切實可行的實施方案。這種方案在教學過程中的實踐取得了較好的效果。
　　關鍵詞：信息論與編碼；教學理念；教學改革；自主學習
　　
　　為滿足信息時代發展的需求，1998年以來，許多高校增設了信息工程、信息與計算科學等專業，這些專業按照教育部2005年下發的“信息與計算科學專業”的教學規范，其目標是培養具有良好的數學基礎和數學思維能力，掌握信息或計算科學的基本理論、方法和技能，能解決信息科學技術和信息工程計算中實際問題的高級理論研究型人才和技術型人才。毋庸置疑，作為數據壓縮、數據通信等方向的基礎課程，信息論與編碼同樣是此類專業的專業基礎課程。同時，伴隨著信息時代的發展，該課程也成為計算機科學與技術、網絡工程等專業的重要基礎課程。然而，該課程內容中需要一定的數學基礎，存在大量的理論證明和推導，對學生的數學基礎要求較高，因此迫切需要改革傳統的教學模式，以利于學生對這門課程的理解和應用，這也對教學團隊提出更高的要求。
　　配合我校“信息工程本科專業學生實踐與創新能力培養的研究”教改項目的進行，我們課程教學團隊在信息論與編碼的教學中進行了以培養學生實踐與創新能力為目的的教學改革。通過對近幾屆學生的跟蹤調查，我們發現：畢業后從事相近專業的學生中，90%的同學認為這門課重要；但約50%的同學認為自己對該課程學得不好，對于課程內容較難掌握，甚至有的同學反映上課能聽懂，例題能看懂，但布置的作業不會做。因此，為在授課過程中激發學生的學習興趣和動力，調動學生學習的積極性，更好地培養信息工程專業學生的主動學習能力，課程教學團隊從教學理念和教學方法兩方面進行教學改革，努力提高教學效果，并取得了初步成效。
　　1教學理念的改革
　　現代教學理念中的功能教學理念認為：動機是引發人行為的原因或機理。動機發生的第一位因素是需要。因此，為了讓學生主動學習本課程，就必須首先讓同學們認識到學習信息論與編碼能夠學有所用，這樣才能激發他們學習的興趣和動力。
　　首先，信息論來自社會生活，它具有一定的現實意義，并不是單純的理論課程。理解了這一點，在授課中可以從社會生活中理解信息論中涉及的信息量之間的關系。例如，對于信息量的關系式 就可以按照如下方式理解[1]：將事件 看成是一個盒子里有幾個球，事件 和 代表兩個人分別向盒子里放球，假設盒子最初是空的，則兩個人放的球的數量等于一個人放的球的數量 ，加上第二個人放的球的數量，而后者準精確的描述應是“在第一個人放球的基礎上第二個人放的球的數量”，可用 描述，從這個角度上看，公式的含義顯而易見。在講信道編碼時，一個重要的方法是重復碼[2]，如何在授課中引出重復碼，令許多教師頭疼。事實上，可以以生活中的典型例子來引出重復碼。當兩個人距離在嘈雜的環境中對話時，由于噪聲的存在，可能會聽不清楚，這時聽者可能會有兩個本能的反應：一是讓喊話者聲音大點，二是讓喊話者再重復一遍。而這兩種情況恰好對應計算機通信的兩種情況：提高發送信號的功率以及重復編碼。為提高發送信號的功率，需要額外的設備，但重復編碼則很容易實現。此外，在講解信道編碼時，可以以CD唱片中差錯控制來說明RS碼作用；在講解信源編碼時，可以以傳真中的數據壓縮來說明MH編碼的作用。
　　其次，教師的作用不單是講授知識，更重要的是教會學生思維，“授之以漁而非授之以魚”，讓學生在教師的指導下自主學習。有了這種自主學習的能力，學生不僅可以學會教師講授的知識，還可以在自己的思維實踐中學到教師沒有講授的知識。在信息論與編碼的諸多公式中，許多概念和公式之間存在著許多共性，例如平均互信息和平均條件互信息，它們從本質上來講都是互信息這個概念所涵蓋的。如果教師能夠在授課過程中讓學生認識到這一點，那么學生可以通過自主學習，可以由一個公式過渡到另一個計算公式。例如，由互信息的計算公式 得出條件互信息 ，其原因就是抓住二者都是互信息這個共性。同樣，可以將平均互信息 移植到平均條件互信息 ；可以從信息熵 得到條件信息熵 ，等等。
　　最后，教學內容需與日新月異的新技術相結合，激發學生的學習熱情。例如，物理學與信息論交叉融合產生的新興領域——量子信息論，其研究涉及物理、計算機、通信、數學等多個學科。量子信息論的能力來源于量子的屬性，如不確定性、干涉和糾纏。經典信息論中的概念，如信源信道編碼和信道容量被擴展以包括多種信道的最佳使用，不僅用于經典信息的通信，也用于完整量子態的通信和在分離的觀察者之間分享糾纏。同時，以量子力學的基本原理為基礎的量子信息論，為信息科學的發展提供新的原理和方法，有望在運算速度、信息安全、信道容量等方面突破傳統信息系統的極限。如果量子信息處理成為可能，量子信息論將不可避免地替代或部分替代現有的信息理論。因此，作為信息論的一個新型分支，我們在信息論與編碼課堂教學中，需要將這些新概念、新技術加以介紹。
　　2教學方法的改革與教學組織
　　課堂教學方法的改革，是教學研究永恒的課題，是提高教育教學質量的關鍵[3]。信息論與編碼內容多，教學難度大，課時有限，如何在計劃學時內有效完成相應的教學內容，對教學改革取得成功有著重要影響。
　　2.1教學方法的改革
　　以培養學生自主學習能力為目的的教學改革，要求任課教師在教學中堅持以學生為本，以培養學生的自主學習能力為導向，改革傳統授課以灌輸式為主的教學方式，通過教師的指導，讓學生參與教學的整個過程，調動學習的主動性與積極性。
　　信息論與編碼是通信的數學理論，它對通信的工程實踐、科學研究有著廣泛而深入的影響。該課程的主要特點是數學的概念與應用較多，像高等數學中的極限、導數、積分、偏微分、線性代數中的雅可比行列式、概率論中的大數定理等，幾乎涵蓋了工科專業學習的所有數學知識。常規教學過程中，會直接從數學的角度去授課，很少告訴同學們為什么要采用這樣的方法，造成同學們所要學的和已經學過的數學知識嚴重脫節，以熵的極值性為例進行說明。熵的極值性是指，給定信源空間 后，熵 具有最大值 。在目前國內用于本科教學的信息論課本中，幾乎全部采用凸函數的
　　性質 (詹森不等式)來證明。而同學們所掌握高等數學知識中更多的是函數的凹凸性，對凸函數的性質并不了解。我們在授課中從另一個角度對學生進行指導，讓學生利用已經學過的知識對熵的極值性加以證明。教師只需講明熵的極值性實質上是求多元函數在約束條件下的極值問題即可，其余的工作完全交給學生去做。這樣不僅讓學生真正理解了課程中求信息量 極值的基本方法，也讓他們真正參與了教學的整個過程。同樣，可以對學生進行進一步引導，以信息論的極值為基礎，計算在附加條件下(例如，均值 受限)，熵的極值求取問題，進一步鞏固和強化這個知識點。同樣的方法還可以用于信道容量的求解等。
　　通過這樣的教學方法，可以更好地實現教學方法的四個結合[4]，即課堂教學與實驗教學相結合、理論性學習與研究性學習相結合、課堂講授與師生討論相結合、文獻閱讀與學習討論相結合。
　　2.2教學組織與過程設計
　　在信息論與編碼的教學中，所采用的教材是按照“信息量的度量—信道容量—無失信源編碼定理—有噪信道編碼定理—限失真信源編碼定理—無失真信源編碼方法—信道的糾錯碼編碼方法”進行。我們在授課過程中，采取模塊化教學，按照信源、信道和編碼三部分進行組織教學，其中信源部分主要講信息量的度量與連續信源，信道部分以離散信道、連續信道與離散信道的信道容量為主，編碼部分包括無失真與限失真的編碼定理、信源編碼以及信道編碼。在每一模塊中，按照“基礎內容—提高內容—拓寬內容”的思路進行授課，注重對學生思維的培養。在對課程內容進行介紹時，讓同學們把握課程的總體體系。這樣可以讓同學們進一步了解通信系統中各部分的主要作用，并在離散隨機變量與連續隨機變量之間進行充分的比較，加深對知識的理解。
　　
　　同時，在進行教學過程的設計時要注意知識的過渡，讓同學們對知識體系有大概的了解。例如在講信道編碼時，可以按如下思路從信源編碼設計。典型的信源編碼方法包括Huffman編碼、字典編碼、算術編碼、MH編碼等，其主要目的是解決通信的有效性問題，這里可以用嫦娥一號衛星向地面傳送數據為例對通信的有效性進行進一步的解釋。但壓縮不能無限進行，例如無法將一幅大小為3M的圖片壓縮至無限小，而香農第一定理恰好解決了這個問題[3]。進行無失真壓縮，它給出了平均碼長的下限：
　　從信道傳輸的角度上看，編碼后信道的信息傳輸率 就有一個上限 ，而 恰是理想信道的信道容量。從這個角度來描述香農第一定理，可得：如果在理想信道中，如果信道的信息傳輸率小于信道容量 ，那么一定可以找到編碼方法實現無失真編碼。但實際中的信道都是有噪聲的，因此必然會有損失和錯誤，如何使錯誤率最少呢？這就是信道編碼所要解決的問題，它用來解決通信系統的另一個指標——可靠性問題。通過這樣的過程設計，既可以使學生對信源編碼的理論和實際編碼方法有更深的理解，還可以順利地過渡到所要講的內容，使同學們對所要講的內容有個具體的知識架構。
　　2.3難點的處理方法
　　由于本課程的性質，課程內容中涉及大量的數學運算和公式推導。由于概念抽象，學生一般難以理解。此時，可以通過一些更為直觀的方法，來保證學生對知識的理解。同時，對于同學們以前未涉及或理解不夠透徹的知識點，應進一步加以強化，以凸函數為例進行說明。目前國內用于本科教學的課本對于不等式的證明大多直接采用凸函數性質，而本科生在此以前根本沒接觸過這類函數。此時可以以同學們最為熟悉的兩個函數 和 為例讓同學們對凸函數有一個初步的印象。而對于如何判斷函數是凸函數，可以有兩種方法：
　　1)由 的正負來判斷函數的上凸性與下凸性： 時， 為上凸函數(∩ 型凸函數)；而當 ， 為下凸函數(∪型凸函數)。
　　2)由 和 的大小關系(或者是 和 的大小關系)來判斷函數的上凸性與下凸性。
　　此外，對于層次較高的學生，還可以在上述基礎上，進一步運用泰勒公式在上述兩個思路之間建立等價關系。通過對學生進一步啟發，可以通過判斷熵函數二階導數的正負號來求熵函數的最大值。
　　如果同學們在利用凸函數證明不等式有困難時，可以采用另一種思路，繞過凸函數，采取如下兩個不等式進行相關不等式的證明工作，也可以達到較好的教學效果。
　　3結語
　　我們從信息論與編碼的課程特點出發，在教學理念、教學方法以及學生自主學習能力培養方面，克服了課程教學中的難點，取得更好的教學效果。這是教學工作中的經驗總結，實踐表明，這樣的教學改革可以激發學生的學習熱情和興趣，有效地提高課程的教學效果。
　　
　　參考文獻：
　　[1]