面向人工智能應用的《信息論與編碼》課程教學初探

劉澤江

摘要：隨著素質教育的深入推進，教師也逐漸從傳統的教學模式中解放出來，不斷的摸索、研究新的教學方法。信息的獲取、處理、傳輸和應用在現實生活中隨處可見，而如何提高信息傳輸的可靠性、有效性、保密性和認證性，正是《信息論與編碼》課程要研究的內容，其研究目的是解決信息傳輸系統的昀優化問題?！缎畔⒄撆c編碼》課程是一門學科交叉性很強的課程，不僅涉及很多通信領域的專業知識，還涉及諸多數學知識，被稱為“通信的數學理論”，目前已經成為通信工程、電子信息工程等專業的重要專業課程。本文就面向人工智能應用的《信息論與編碼》課程教學展開探討。

關鍵詞：信息論與編碼;人工智能;創新

引言

信息論是現代信息科學與技術的基礎理論，它與人們的工作和生活息息相關，已被廣泛應用到數字圖像處理、數字通信等各個領域。因而現在各大高校均針對通信、電子信息類專業設置了信息論與編碼課程，同時該課程也由原來的研究生課程逐漸成為本科課程體系中的一門專業必修課。信息論與編碼主要是運用概率論和數理統計的方法來研究信息的傳輸和處理過程中一般規律和具體實現的學科。

1信息論與人工智能相關專業的關聯

信息論是現代信息科學的重要組成部分，人工智能是一門研究如何使機器具有人類智能的學科，是當下昀熱門的行業方向，二者之間一直是“一體兩面”的關系。例如，對于人工智能領域的機器 學習，劍 橋大 學教 授 David MacKay 說“Information theory and machine learning are thetwo sides of the same coin”。信息論與機器學習同為涉及計算機科學和應用數學等學科的分支領域，二者在起源和應用上有很多相似之處。信息論方法在人工智能方向多種應用算法中同樣有重要作用，特別對信息統計、數據挖掘等領域的發展有重要意義。

2面向人工智能應用的《信息論與編碼》課程教學

2.1課程內容的調整與更新

在理論教學中，現有的教學內容主要以基礎概念為主，課程內容枯燥單一，缺乏聯系實際。比如熵的概念，學生只是簡單理解概念，而不清楚應具體應用在哪個領域，而且運用的編碼方法過于陳舊，脫離企業目前使用的流行的方法。因此，課程內容需要與時俱進。如在教學中可以引入交叉熵的概念，并將其結合到圖像識別中作為代價函數進行講解，介紹代價函數的作用。另外通過基于卷積神經網絡的圖像分類等具體案例加深學生對改函數的理解，并在實驗中與傳統的二次方差函數進行比較，觀察不同代價函數下網絡的收斂情況，在此基礎上推薦學生一些參考文獻，了解前沿技術。在章節安排中進行一些調整。如在講解限失真源編碼內容之前，先解釋信息率失真函數。介紹其目的和作用，并結合身邊例子加深學生理解。內容上重點講述新技術的用途和影響。如可以通過實驗中無線通信系統的仿真，從多方面介紹信道編碼技術，幫助學生更好地理解和理解這些技術原理。在興趣的驅使下，學生將樂于探索新知識。整合專業知識，介紹具體案例，提高學生綜合應用能力?！靶畔⒗碚撆c編碼”是本科院校的高級電子專業課程，與、、、

“通信原理”“信號與系統”“C語言編程”“Matlab”和“數字信號處理”之間存在一定的相關性。如基于支持向量級的心電圖信號身份識別案例中，在心電信號的預處階段，會用到“信號與系統”、“通信原理”和“數字信號處理”的理論用于信號分析———心電信號分割和去噪，在特征提取階段，會用到“信息論與編碼”用于提取信號的有用信息，昀后在分類階段會用到計算機語言用于實現支持向量機的分類。

2.2采用線上線下混合式教學

在教學過程中，有些知識點很容易理解，這些知識點就不需要在課堂上重復講解，以免過多浪費線下課堂的有限時間，而有些知識點則較難理解，大部分學生都會卡在這些較難理解的知識點上。因此，為了提高課堂教學的效率，可在超星等網絡平臺創建線上課程，把相關的教學資料提前上傳到網站上，讓學生提前預習。通過課前的線上預習，學生已經基本掌握了較容易理解的知識點，則在線下課堂上就不需要對一般性的內容再重復講解，可以重點關注課程的難點和核心內容，解答學生的疑問?！缎畔⒄撆c編碼》課程較好的線上課程資源有西安電子科技大學、國防科技大學的信息論國家精品課程，MIT開放課程，Stanford的信息論課程等，都可以作為學生提前預習的線上課程材料。同時，由于采取了線上資源的提前學習，這也能夠為線下課堂節省出一定的時間，可以在這些節省出來的時間開展更多的課堂互動交流活動，進一步提高學生的學習興趣和學習效果。

2.3關聯拓展，弱化公式推導證明

信息論與編碼課程本身包含大量的公式推導和定理證明，這涉及眾多的先修知識，比如高等數學、概率論與數理統計、隨機過程、線性代數、數字信號處理、通信原理等。因而該課程的學習對學生先修知識的要求是比較高的，這也是學生感覺學習信息論困難的主要原因之一。這就要求教師在教學過程中要根據需要適當引入先修知識幫助學生完成學習的順利過渡。例如在求解一般類型信道的信道容量時，可先簡述下高等數學中拉格朗日乘子法求條件極值的方法，這也將有利于后續章節的講授，比如信息率失真函數的參量表達式推導也涉及到了該知識點。另外，教學內容不應僅僅拘泥于教材中的示例，可以做適當的拓展擴充，將本課程的基礎知識與科技前沿技術結合起來，進一步激發學生的學習熱情，比如在講授離散信源的冗余度時先簡略介紹下人工智能的相關知識，就可以與教材中英語信源的示例相銜接，這既可以給學生建立一個更宏觀的知識結構框架，也有利于學生對該知識點的理解。

結語

《信息論與編碼》課程對培養電子信息類的專業人才具有重要的作用。針對傳統《信息論與編碼》課程教學中存在的問題，本文從轉變課程認識、整合教學內容、改善教學方法和提升實踐能力等方面提出了改革措施，通過提升該課程的教學質量來提高人才培養的質量，以便為電子信息領域培養更多優秀人才。

參考文獻

[1]曹雪虹.信息論與編碼[M].北京：清華大學出版社，2018.

[2]余海峰. “信息論與編碼理論”課程教學改革與實踐[J].黃山學院學報，2019，18（03）：87-89.

[3]劉美春. “信息論與編碼”課程實驗教學探析[J].教育現代化，2019，6（32）：133-134.