信息論與編碼教學改革探索與實踐

摘要：介紹了信息論與編碼的基本理論體系，通過分析信息論與編碼課程的教學特點，結合實際教學經驗，提出了提高教學質量的幾點體會。

關鍵詞：信息論；編碼理論；教學實踐

中圖分類號：G642文獻標識碼：A文章編號：1009-3044(2008)33-1442-02

Exploration and Practice of Information Theory and Coding Teaching Reform

LI Tao

(Nanjing University of Information Science and Technology， Nanjing 210044， China)

Abstract: This paper introduces the basic framework of information theory and coding， and analyzes the teaching features of the course. Combined with the real teaching experience， several experiences to improve the quality of teaching are presented.

Key words: information theory; coding theory; teaching practice

1 引言

眾所周知，人類社會目前處于信息時代，以計算機技術、微電子技術以及通信技術為基礎的信息技術在各個領域都有廣泛的應用，并積極推動了社會的進步和經濟的發展。為此，人們加大了對信息的表示、存儲、處理等相關方面的研究力度，并進一步促進了相關專業的發展和應用。同時，世界各國大學在本科階段普遍開設或增設與信息有關的課程，培養適合信息時代發展需要的人才。我國高等院校的發展與時俱進，也紛紛開設與信息相關課程。特別是與信息技術相關的學科專業，如通信工程專業、信息工程專業、信息與計算科學專業等，信息論已經成為一門重要的專業基礎課程。因而如何有效、合理地進行信息論與編碼教學成為各高校信息論教師所面臨的現實問題。

2 信息論與編碼的基本理論體系

1948年，美國科學家克勞德·香農（C.E. Shannon）在《Bell System Technical Journal》上發表了《A Mathematical Theory of Communication》一文。在文中，他用概率測度和數理統計的方法系統地討論了通信的基本問題，進而得出了幾個重要而帶有普遍意義的結論，并由此奠定了現代信息論的基礎。香農理論的核心是：揭示了在通信系統中采用適當的編碼后能夠實現高效率和高可靠地傳輸信息，并得出了信源編碼定理和信道編碼定理。從數學觀點看，這些定理是最優編碼的存在定理。但從工程觀點看，這些定理不是結構性的，不能從定理的結果直接得出實現最優編碼的具體方法。然而，它們給出了編碼的性能極限，在理論上闡明了通信系統中各種因素的相互關系，為尋找最佳通信系統提供了重要的理論依據。

一般認為，信息論的研究內容和范圍三種：

1) 狹義信息論，也稱經典信息論。它主要研究信息的測度、信道容量以及信源和信道編碼理論等問題。這部分內容是信息論的基礎理論，又稱香農基本理論。

2) 一般信息論，主要是研究信息傳輸和處理問題。除了香農理論以外，還包括噪聲理論、信號濾波和預測、統計檢測與估計理論、調制理論、信息處理理論以及保密理論等。后一部分內容以美國科學家維納（N.Wiener）為代表，其中最有貢獻的是維納和蘇聯科學家柯爾莫哥洛夫。

3) 廣義信息論。廣義信息論不僅包括上述兩方面的內容，而且包括所有與信息有關的自然和社會領域，如模式識別、計算機翻譯、心理學、遺傳學、神經生理學、語言學、語義學甚至包括社會學中有關信息的問題，是新興的信息科學理論。

3 信息論與編碼課程的教學特點

學習和掌握信息論越來越受到人們的重視，了解相關理論與知識成為一種必需。為此，很多高校都在相關專業中開設了信息論與編碼課程，作為本科生、研究生的必修或選修的課程。通過上面的分析可以看出，信息論為編碼提供理論基礎，編碼在信息論的基礎上指導工程實踐，二者聯系非常緊密，理論上前后相承。因而在課程開設上，一般可以將二者放在前后相鄰的兩個學期，安裝在本科第四學期和第五學期；也有部分院校將二者合在一起在一個學期講授，安排在本科第五學期完成。我校結合相關信息專業的具體特點和要求，采用了第二種教學計劃。

信息論課程中運用了大量的數學知識，覆蓋了理工科學生所學的大部分數學知識，主要包括高等數學、線性代數、離散數學、概率論與數理統計、隨機過程以及數值分析等。這些知識本身就比較復雜、抽象，同時還涉及到通信方面一些基礎專業知識，而學生一般在這些方面恰恰是薄弱環節，因此在學習的過程中顯得非常抽象、枯燥，接受起來比較困難。容易使學生形成畏難情緒，導致學生失去學習興趣。此外，由于信息論與編碼所闡述的內容基本都是基礎理論，學生在學習的過程中，會下意識地將信息論與編碼同其它專業課進行橫向比較，發現信息論學習好壞對別的專業課似乎影響不大；也有學生認為信息論不像有些專業課那樣對他們找工作起到很重要的作用。在學生眼里信息論純粹是理論，是搞科學研究人員學習的內容，沒能認識到信息論的重要價值。這勢必會影響到學生正常的學習態度，從而影響整個課程的教學效果。

根據我校確立的“厚基礎、寬口徑、強能力、高素質”培養模式及原則，結合復合型人才培養的要求，我們在信息論與編碼課程教學中，確立了如下總體原則：全面統籌考慮，優化合理安排；重視基本知識和基礎理論，淡化繁瑣的數學證明；突出概念和定理的理解，強化習題舉例，建立相應的實踐環節，力求書本理論與實際應用緊密聯系。

4 提高教學質量的幾點體會

提高教學質量是教學活動的永恒主題，也是培養高素質學生的必然要求，根據上面提到的信息論與編碼課程特點，結合我們的教學實踐，總結出以下幾點體會。

首先，端正學生的學習態度，培養學生建立必要的知識框架。在教學環節中，強調該課程的學科背景，引導學生建立必要的學科體系思想。20世紀80年代以來，隨著網絡、通信和信息技術的突破性進展，因特網在全球迅速增長并廣泛普及。由于信息技術的推動，人類社會與經濟飛速發展，人類已進入了信息化時代。因而，信息觀念和信息處理能力已經成為21世紀新型人才所必備的基本素養。信息論與編碼理論正是信息技術發展的基本理論。因此，學好這門課程就顯得尤為必要和重要。通過類似的強調，使得學生端正學習態度，建立對課程的正確認識，讓學好這門課程成為學生自覺的愿望。

其次，理論聯系實際，激發學生的學習熱情。根據課程的理論體系，著重強調課程中基本概念和定理的物理意義，結合信息論與編碼對實際工作的指導作用進行講解。同時，我們增加必要的實踐環節，編寫了相關實驗，如信道容量的迭代算法、Huffman編碼、LZW編碼、線性分組碼等。每個實驗給出具體的算法和實驗要求，學生可以采用自己熟悉的編程語言實現。根據我校課程的設置，結合目前工程研究與應用的實際發展，我們一般推薦學生采用MATLAB進行實驗。通過實驗，彌補了課程內容概念抽象、難以理解的不足，同時培養了學生嚴格、有序、科學的工作作風，提高了學生的分析問題、解決問題和實際動手能力。實踐表明，通過這種教學手段，能夠普遍提高學生對課程的理解和認識，為提高教學質量奠定了基礎。

再次，培養學生的自學能力，指導學生擴展必要的知識面。信息學科是一個新興的學科，而且是一個不斷向前發展、不斷深入的學科，所以學生要具備相當的自學能力，這是非常重要的。培養學生的自學能力，不僅僅是著眼于在校期間，更重要的是放眼未來，使學生畢業后走上工作崗位具備不斷獲取新知識的能力。因而在本課程的教學過程中，我們結合課程實際內容，有意識地引導學生拓展知識結構。如在講解有損信源編碼的過程中，結合目前實際廣泛應用音視頻編碼、圖像編碼等，讓學生收集相關的文件格式和壓縮方案等相關內容。不僅使學生能夠理論聯系實際，加深了學生對課堂內容的認識，而且提高了學生的學生熱情，同時擴展了一定的知識面，從而使教學效果得到提高。

5 總結

總之，由于信息論與編碼課程自身特點，其課程開設與教學是一個系統而又復雜的工作，這里我們只是將多年來的教學經驗加以總結，跟各位同行交流，也請各位專家學者指正。我們堅信，只要所有的教師同行重視正確地引導學生，采用形式多樣的教學方法和手段，開設緊密聯系現實生活的實驗和實踐環節；相關專家學者編寫出更多有針對性的教材；學校加大基礎設施的投入，努力改善實驗環境。信息論與編碼這門課程一定能發展出具體的專業特色，培養出更多的適合信息時代的專業人才。

參考文獻：

[1] 傅祖蕓. 信息論——基礎理論與應用[M]. 2版. 北京：電子工業出版社，2007.

[2] 陳運. 信息論與編碼（第二版）[M]. 2版. 北京：電子工業出版社，2007.

[3] 周川. 簡明高等教育學[M]. 南京：河海大學出版社，2002.

[4] 譚頂良. 高等教育心理學[M]. 南京：河海大學出版社，2002.