機器學習科研實踐課程建設(shè)

中國石油大學（華東）計算機與通信工程學院 王雷全 吳春雷 郭曉菲

機器學習科研實踐課程建設(shè)

中國石油大學（華東）計算機與通信工程學院 王雷全 吳春雷 郭曉菲

針對本科機器學習課程中的教學實際，分析在教學過程中遇到的問題，結(jié)合目前機器學習領(lǐng)域的研究熱點，提出在本科機器學習教學中以深度學習作為課程體系的主導，引入Tensorflow框架，重新整合教學資源、建設(shè)相關(guān)實驗內(nèi)容，構(gòu)建以深度學習為教學內(nèi)容核心、以Tensorflow為實踐平臺的機器學習科研實踐課程體系。

機器學習；深度學習；Tensorflow；課程建設(shè)

機器學習是當前的標志性技術(shù)，且已成為電子信息類課程中最為重要的一個專業(yè)方向[1]。近年來，深度學習作為機器學習的一個分支，在圖像和語音識別等領(lǐng)域取得了重要突破，是當前計算機領(lǐng)域最具影響力的熱點研究方向。掌握“深度學習”的基本知識與實踐技術(shù)是當前對本科生機器學習課程的基本要求。

1. 傳統(tǒng)機器學習課程面臨挑戰(zhàn)

傳統(tǒng)機器學習課程的授課內(nèi)容主要以經(jīng)典機器學習算法為主[2]，包括支持向量機、邏輯斯諦回歸和隱馬爾可夫模型等經(jīng)典算法。隨著深度學習的迅速發(fā)展，傳統(tǒng)機器學習的教學內(nèi)容受到了挑戰(zhàn)，在本科機器學習教學過程中增加“深度學習”的相關(guān)內(nèi)容，已是大勢所趨。然而，將深度學習融入到機器學習課程中卻面臨兩個問題。一方面，在大學本科階段涉及深度學習知識的課程還比較少，教學案例嚴重缺乏，尤其是針對深度學習的實踐類指導資源更為稀少。另一方面，目前主流的深度學習框架較多，在實際科研與開發(fā)中，Caffe、Theano、Torch等不同開源深度學習框架種類繁雜。然而，對于課程內(nèi)容設(shè)置來說，很難面面俱到地涉及到所有框架，需要選擇一種主流開源框架為核心，作為課程的主要線索加以展開。為了解決上述問題，機器學習科研實踐課程將機器學習課程與科研實踐課程相結(jié)合，并將深度學習框架Tensorf l ow納入到課程體系中。

2. 機器學習科研實踐課程

《科研實踐》課程是針對我校計算機與通信工程學院本科專業(yè)第7學期開設(shè)的一門科研實踐類課程，共6周，合96學時。該課程是一門以科研實踐為主導，采取小班研討、啟發(fā)式教學、結(jié)合實際科研案例的綜合性實踐類課程。

《科研實踐》課程的教學過程劃分為理論講解、主題研討和實踐驗證三個部分。該教學方式的要點包括三個方面：

①案例引導的理論知識鋪墊。把深度學習的基礎(chǔ)理論融入到項目案例的細節(jié)中，以技術(shù)發(fā)展的過程重新組織并介紹理論，增強教學效果；

②面向科研主題的研討交流活動。為了充分調(diào)動學生學習的積極性和主動性，并培養(yǎng)學生總結(jié)科研進展的能力，該課程增設(shè)了基于主題的研討式教學環(huán)節(jié)，通過啟發(fā)式教育激發(fā)學生的科研創(chuàng)新能力。

③科研項目驅(qū)動的完整實踐過程。建立了以科研創(chuàng)新為主線的實踐流程，目標是使學生能夠以行業(yè)先進的技術(shù)與平臺進行科研訓練，驗證科學想法，規(guī)范化、系統(tǒng)化地培養(yǎng)學生科研實踐能力。

根據(jù)目前的科研與應(yīng)用熱點，結(jié)合機器學習課程的現(xiàn)狀，課程組將機器學習方向引入到科研實踐課程中，并將深度學習作為機器學習科研實踐課程的主導項目。通過機器學習與科研實踐課程相結(jié)合，課程組在課程目標與培養(yǎng)標準、知識體系域教學內(nèi)容、開發(fā)平臺與實踐流程、案例建設(shè)與共享交流等方面進行改革，進一步提升機器學習課程的教學質(zhì)量與本科生的科研實踐能力。

3. 課程改革實施方案

針對本科生科研能力薄弱的特點[3]，課程組認為科研案例與實踐指導資源的缺乏，嚴重制約了本科生機器學習實踐層次的提升。目前面向人工智能方向課程主要集中在研究生階段、企業(yè)內(nèi)部以及各類IT培訓機構(gòu)。在大學本科階段開設(shè)該類專門實踐課程的還非常少，尤其是深度學習方向的科研實踐類課程更不多見。因此，一方面，課程組重新審視課程定位，完善知識體系和教學內(nèi)容；另一方面建設(shè)以Tensorf l ow為核心的科研創(chuàng)新與應(yīng)用平臺，從而提升科研實踐教學水平。

（1）重新定位課程目標與培養(yǎng)標準

根據(jù)工業(yè)界與學術(shù)界對于人才的實際需求，從知識、能力、素質(zhì)和長期發(fā)展規(guī)劃等多個角度對培養(yǎng)目標進行分解，形成具有高度可操作性的細化培養(yǎng)標準。修訂科研實踐課程教學大綱，深化深度學習的教學內(nèi)容，并將Tensorf l ow基礎(chǔ)納入教學大綱，貫穿整個課程教學與實踐體系。課程組借鑒國內(nèi)外相關(guān)優(yōu)秀課程，走訪國內(nèi)相關(guān)高校與知名企業(yè)，調(diào)研深度學習的現(xiàn)狀與前景，完善課程的培養(yǎng)目標、知識體系和教學內(nèi)容。目前機器學習科研實踐課程教學大綱分為四部分內(nèi)容：

機器學習基礎(chǔ)與深度學習（24學時）

Tensorf l ow基礎(chǔ)與實踐（16學時）

深度學習經(jīng)典案例研討與Tensorf l ow實踐（24學時）

以Tensorf l ow為平臺的科研實踐課程設(shè)計（32學時）

（2）優(yōu)化課程知識體系與授課內(nèi)容

借鑒國內(nèi)外著名大學的課程資料如CS231n、CS224d等，優(yōu)化當前教學大綱中的知識體系，使知識體系更完整和更具時效性。目前，傳統(tǒng)機器算法已經(jīng)不能滿足本科生掌握最新機器學習知識的需要，在機器學習科研實踐課程中明確以深度學習為核心教學內(nèi)容，重新分配教學內(nèi)容和學時，并編寫配套的參考案例和課件。

根據(jù)行業(yè)的最新應(yīng)用需求與科研方向，科研實踐課程將深度學習作為教學的核心內(nèi)容。基礎(chǔ)理論部分包括梯度下降、BP算法、CNN與LSTM等。在此基礎(chǔ)上，課程為學生提供若干個熱點科研主題供學生自主選擇，如物體檢測、機器翻譯，語音識別等，然后圍繞最新科研項目組織教學，將學生的綜合能力融入到一個完整的科研實踐過程中，在該過程中從不同的側(cè)面介紹理論體系、指導科研實踐，重點培養(yǎng)以升學為發(fā)展方向的學生科研實踐能力。

（3）規(guī)范實踐平臺、完善實踐流程

目前深度學習框架較為混雜，包含了caffe2、mxnet、theano等許多平臺。新的機器學習實踐教學中確定以Tensorflow框架為核心實踐平臺，在課程理論環(huán)節(jié)的案例教學、實踐環(huán)節(jié)的實驗教學與科研實踐中均統(tǒng)一應(yīng)用，對照新的課程開發(fā)計劃，增加Tensorflow平臺操作練習題，設(shè)置深度學習關(guān)鍵技術(shù)練習題（如BP、Dropout、Batch Normalization等），建立以Tensorf l ow為核心的實踐平臺，增加Tensorflow基礎(chǔ)的實踐流程，在此基礎(chǔ)上指導學生完成科研項目驅(qū)動的完整實踐過程，以提高學生的科研實踐能力。

此外，我校最新一版的電子信息類本科生培養(yǎng)方案加大了人工智能課程群的課時，尤其是實驗課時。例如，《智能計算基礎(chǔ)》的實驗課時設(shè)置為8學時；《機器學習》的實驗課時設(shè)置為16課時。我們希望通過本項目的實施，能夠指導其它人工智能方向（包含研究生課程）的教學內(nèi)容與實踐項目的改革，最終實現(xiàn)以Tensorflow為核心的人工智能課程群的實驗與實踐創(chuàng)新平臺。

（4）加強典型教學案例建設(shè)

深度學習教學案例的缺乏是當前深度學習方面課程建設(shè)的主要問題。課程組成員跟蹤最新深度學習內(nèi)容，充分利用CVPR、ICLR等知名國際會的最新進展，搜集適于本科生教育的具有縱向發(fā)展的主流科研方向作為面向機器學習科研實踐的深度學習教學案例，主要案例包括：卷積神經(jīng)網(wǎng)絡(luò)、物體檢測、CNN-LSTM以及對抗生成網(wǎng)絡(luò)等。

在學生科研項目選題時，課程組結(jié)合實際科研動向提供科研案例以供選擇或啟發(fā)學生自行立意。同時，將優(yōu)秀的學生科研實踐成果加入教學案例庫。此外，課程組在課程建設(shè)中探索了具有石油特色的機器學習教學案例。石油是中國石油大學的辦學核心，近年來我校多個相關(guān)專業(yè)不斷嘗試如何將石油技術(shù)與最新的機器學習方法相結(jié)合（比如，深度學習與地質(zhì)勘探的結(jié)合、深度學習與海上溢油區(qū)發(fā)現(xiàn)的結(jié)合）。課程組將該類成果通過Tensorflow平臺轉(zhuǎn)化出來，豐富具有石油特色的深度學習教學案例，服務(wù)于石油石化行業(yè)。

4. 課程特色與亮點

目前面向機器學習的課程主要集中在研究生階段[4]、企業(yè)內(nèi)部以及各類IT培訓機構(gòu)。在大學本科階段開設(shè)該類專門實踐課程的還非常少，尤其是深度學習方向的科研實踐類課程更不多見。本課程具備以下特色：

（1）夯實數(shù)學理論基礎(chǔ)，培養(yǎng)數(shù)學應(yīng)用能力

考慮到電子信息類專業(yè)的特點，絕大多數(shù)實踐類課程以工程鍛煉為主，缺少理論應(yīng)用的訓練[5]，導致大多數(shù)學生難以理解前期設(shè)置的數(shù)學類公共基礎(chǔ)課程的作用。因此，課程組認為需要著眼于學生職業(yè)生涯的長遠發(fā)展，在科研實踐中強調(diào)基礎(chǔ)理論的作用，提升學生的理論水平和科研實踐能力。

（2）實時結(jié)合業(yè)界熱點，彌補教學科研鴻溝

近年來，機器學習與模式識別發(fā)展迅速，尤其以深度學習為代表，在工業(yè)界與學術(shù)界取得了里程碑式的發(fā)展。機器學習與模式識別方向，無論在在工業(yè)界或是學術(shù)界都是熱點，且新的成果不斷涌現(xiàn)。在目前的國內(nèi)本科生培養(yǎng)方案中，學生難以接觸到學科的最新科研成果，使得教學與科研嚴重脫節(jié)。因此，需要在授課過程中，實時地將該方向的最新研究成果引入到機器學習科研實踐課程中，培養(yǎng)本科生掌握人工智能的相關(guān)思維方法和技術(shù)手段，并將之應(yīng)用于以后的科研工作之中。

（3）借鑒國外名校課程，編寫深度學習實踐指導

經(jīng)典的深度學習課程，如美國斯坦福大學的CS231n、CS224d等，為深度學習的發(fā)展起到了尤為關(guān)鍵的作用。然而，目前國內(nèi)深度學習課程并不多見，大多數(shù)學校仍然以經(jīng)典機器學習算法為主要教學內(nèi)容，尤其缺少適于本科教學使用的深度學習實踐指導。Tensorf l ow在圖像分類、音頻處理、推薦系統(tǒng)和自然語言處理等多種場景下都有豐富的應(yīng)用，是目前業(yè)界最為流行的深度學習框架。因此，建立以Tensorflow為核心的深度學習實踐指導也是本項目的一個特色與亮點。

（4）實施本科生創(chuàng)新教育，鼓勵學生將成果轉(zhuǎn)化為科研論文與專利

年輕人思維活躍，是人工智能社區(qū)的生力軍，在人工智能的科研論文中占有一定優(yōu)勢。受益于當前中國的教育體制，我國高校本科生具備深厚的數(shù)學功底，這對于從事機器學習領(lǐng)域尤為重要。課程組希望通過機器學習科研實踐課程的實施，為學生創(chuàng)造條件，鼓勵他們將學習成果轉(zhuǎn)化成科研成果，實施本科生創(chuàng)新教育。

5. 總結(jié)

通過機器學習科研實踐課程體系改革，為深度學習的教學積累了豐富經(jīng)驗與經(jīng)典案例。機器學習科研實踐課程對知識體系的先進性、實踐平臺的規(guī)范完整性、項目案例的示范性、交流共享平臺的實用和開放性等方面進行了深化改革，為機器學習實踐教育提供了借鑒和示范作用。

[1]閔鋒,魯統(tǒng)偉.“機器學習”課程教學探索與實踐[J].教育教學論壇,2014(53):158-159.

[2]李勇.本科機器學習課程教改實踐與探索[J].計算機教育,2015(13): 63-66.

[3]胡雪蕾,孫明明,孫廷凱,等.研究生“機器學習”課程教學改革實踐與探討[J].煤炭高等教育,2012(1):118-121.

[4]曲衍鵬,鄧安生,王春立,等.面向機器學習課程的教學改革實踐[J].計算機教育,2014(19):88-91.

[5]曾憲華,李偉生,于洪.智能信息處理課程群下的機器學習課程教學改革[J].計算機教育,2014(19):60-62.

王雷全（1981-），男，遼寧丹東人，博士，計算機與通信工程學院，實驗師，研究方向：計算機視覺。

教育部高等學校計算機類專業(yè)教學指導委員會專業(yè)課程改革項目（編號：MXF2016-2-1）；中國石油大學研究性教學方法改革項目（編號：YK201612）。中央高校基本科研業(yè)務(wù)費專項資金資助（17CX02041A）。

吳春雷（1980-），男，河南臺前人，博士，計算機與通信工程學院，副教授，研究方向：軟件工程。

郭曉菲（1980-），女，山東平度人，碩士，計算機與通信工程學院，實驗師，研究方向：通信工程。