網絡安全課程教學改革
——人工智能技術在網絡安全防護中的利與弊辯論

李慧，帥小應，錢進，季寧依

（泰州學院計算機科學與技術學院，江蘇泰州 225300）

網絡安全課程是信息類專業學生的必修課程之一。由于它的技術更新周期短、覆蓋的知識面融合了大量前期課程的專業知識、實驗設備更新不及時等問題，一直是令學生望而生畏的課程之一，導致教學效果也不明顯[1]。為了改善教學現狀，泰州學院計算機科學與技術學院在網絡安全課程中引入辯論的模式，以激發學生的興趣、開拓學生的思維[2-3]。人工智能技術可以加快數據流動、提高數據賦能，是促進我國社會經濟增長、開拓市場、提高國家競爭力的核心驅動之一。尤其是受人類大腦結構和功能啟發而誕生的深度學習，極大地促進了網絡安全防護技術的發展，同時在網絡安全防護中帶來的威脅也越來越受到關注[4]。本次網絡安全課程的辯論賽以“人工智能在網絡安全防護中的利與弊”為主題，結合了網絡安全和人工智能兩門課程的專業內容，同時人工智能技術也是網絡安全防護實踐中的支撐技術之一。

1 人工智能在網絡安全防護中的適用性

人工智能技術在網絡安全防護領域實現了很大的突破，它能夠在網絡安全防護領域實現數據賦能、產生價值的理由主要包括以下幾個方面：

1）處理大數據的能力

網絡安全分析對象包含整個系統的日常安全日志數據、網絡流量等，人工從這海量的數據中提取有效信息的效率極低。而人工智能中的機器學習、深度學習等方法有海量的訓練容量，可以多視角、全方面對數據資源進行清洗、分析，篩選有用的信息，并且訓練樣本越大數據分析得到的結果越接近真實結果。

2）區別“普遍和特殊”的能力

網絡安全防護的前提是合理界定普遍行為和特殊行為。一方面是通過大量的普遍行為提取出相應的規則，用這些規則來區別特殊行為，從而識別出攻擊行為；另一方面是通過對特殊行為進行分析總結一定的規律，從而在大量資源中甄別攻擊行為，這也被稱為基于簽名的判斷機制。人工智能中的學習模型的構建就是要實現通過基準數據集完成特征的提取，這與上述網絡安全中的普遍和特殊基準不謀而合。異常行為檢測、垃圾郵件過濾、惡意軟件檢測都是人工智能技術在上述基準上在網絡安全防護實現的產物。

3）處理模糊信息的能力

人工智能作為順應時代的產物，不僅可以快速對已有的數據進行總結，還具有預測未來趨勢的功能。雖然這個預測函數是從模糊邏輯推導出結果的，但一般不需要特別準確的數據支持。因為在現實的網絡安全環境中存在大量不確定甚至不準確的模糊信息，將不同設備、層次的模糊信息進行關聯性分析，推導出可擴展的處理規則，并應用到網絡安全防護水平的提高。

4）學習能力和處理非線性的能力

隨著用戶的不斷增加、網絡結構的不斷擴展，當前網絡安全背后的復雜程度是不可估量的，目前掌握的信息都較為簡單、淺顯的。高層次的內容往往是通過對低層次內容的深入學習、研究、解讀和推理獲得的[5]。而人工智能在當前的環境中不斷學習，可以進一步深入掌握網絡安全的高層次信息、提高網絡安全防護的能力。

網絡自身的拓撲結構導致了它是非線性控制的對象。人工智能的非線性能力主要是通過人類對非線性函數的正確處理獲得的。人工智能技術的發展使機器不僅能有傳統的技術操作能力，也有人類可以解決非線性問題的優勢，從而改善了網絡的安全防護現狀。

5）自適應能力

人工智能技術在網絡安全的實現過程是一個雙方互相博弈、共同進步的結果。在安全檢測過程中應用了支持向量機(SVM)的技術并調整了SVM技術來檢測一些攻擊。很快通過學習了解防御者的模型并相應調整自身行為來阻止檢測。隨后通過對抗性支持向量機技術能夠了解攻擊者正在做哪些行為并進行自我調整，以便它可以檢測到攻擊。隨著時間的推移，就變成了攻擊者和防御者之間博弈，并且促進技術的不斷發展。

2 人工智能給網絡安全防護帶來的利與弊

本次針對網絡安全中人工智能的利與弊組織了一場別開生面的辯論會，圍繞人工智能技術給網絡安全防護帶來的作用，兩方隊伍的學生針對自己的觀點做了大量的前期文獻調研，展開了激烈的角逐提供了大量的精彩論點。他們用直白的、口語化的語言展示了這兩門最新的科學技術的思辨關系。這里對其中的主要觀點進行了總結。

正方：人工智能給網絡安全防護帶來了更有效的作用

1）自動惡意軟件防御；

2）代碼檢測與安全運維；

3）感知上下文的行為分析；

4）安全態勢在線監控及預測；

5）漏洞識別及修復；

6）實時流數據分析以檢測惡意內部人員。

總體來說，人工智能技術充分發揮了自身的特點，在網絡安全防護領域將以往的防護經驗、現有的防護技術和大數據學習到的防護知識充分整合，實現一個自動檢測、快速響應、實時監控、提前預測的智能化安全防護系統。在數字安全、物理安全和政治安全等各個網絡安全領域都帶來了有效的安全防護措施。數字安全領域包括上述利用人工智能系統實施各種檢測和防御措施；物理安全領域包括人工智能技術帶來的自動駕駛和無人機被用來對路況、實時環境的檢測和控制；政治安全領域包括剖析當前的安全態勢并有針對性地進行宣傳活動，為國家安全、社會秩序、市場有序競爭、社會公眾的個人利益都帶來了極大的便利和保障。

反方：人工智能給網絡安全防護帶來了更多的安全威脅

1）隱私數據泄露；

2）數據偽造與篡改；

3）定制化網絡釣魚（金融欺詐、網絡恐怖主義、網絡勒索等）；

4）智能化漏洞搜索、基于漏洞的定制攻擊；

5）自主化、規模化地拒絕服務攻擊；

6）未來人工智能將脫離人類控制。

綜上所述，可以將人工智能給網絡安全領域帶來的威脅總結為威脅格局的三個變化：現有威脅的擴大、新威脅的出現和威脅的典型特征的改變[6]。通過人工智能系統的可擴展使用，任務中涉及人工的成本極大地降低了。然后，犯罪者可以使用低成本技術（例如大規模魚叉式網絡釣魚）廣泛攻擊更多目標，這是現有威脅的擴大。新的威脅也可能出現以完成人們以往無法完成的任務。例如，當黑客試圖進行網絡釣魚時，黑客可以通過使用受害者家人或朋友的真實模仿聲音來欺騙受害者。當人工智能的高效攻擊變得更加普遍時，威脅的典型特征將被破壞。例如，為了有效應對釣魚攻擊，未來強人工智能可能訓練出攻擊性強、目標不清晰的攻擊技術。

3 沉浸式互動，促進多維度應用能力培養

1）開展交互式學習

以往的課程由于大多是老師的單方面授課，課堂的交互有限，無法充分展示學生的積極性。這次以辯論為主題的課程安排充分調動了學生的積極性，學生從接到通知后就非常激動，并且主動地參與進來。他們在分組完成后就大量查閱文獻，并且尋找相關實際案例作為論據。學生在做課后總結時表示通過這種交互式學習的過程大大拓寬了自己的視野，發散了思維。

2）開拓辯證思維

以往無論是網絡安全還是人工智能技術課程都是用非黑即白的絕對對立的思維方式看待兩者之間的關系，通過本次辯論實驗，學生學會了用辯證的立體視角看待網絡安全與人工智能。在網絡安全防護實踐中可以使用人工智能技術加以強化，在應用人工智能技術的相關實訓案例中又對于安全邊界的設置有更深的理解和掌握，建立了更加全面、完善的知識體系。

3）增強法律意識

同時，辯論過程中反方小組列舉了若干違反了《中華人民共和國網絡安全法》《網絡產品安全漏洞管理規定》的網絡安全案例，幫助學生對網絡安全的法規條例有了更清晰的理解。學生理解了“沒有買賣就沒有傷害”，通過制定和完善大數據安全和隱私保護的配套法律法規，從源頭阻止利用人工智能的漏洞來獲取利益的行為。

4）提高安全素養

本信息類專業學生在培養過程中以往只重視技術能力的掌握，網絡安全相關的課程大多開設在高年級（第七學期），并且在學科專業知識體系中缺乏網絡安全意識的培養和網絡安全基礎知識的鍛煉。通過本課程實驗的安排，在人工智能等專業技能課程中增加了安全知識的滲透，加強了安全素養的培養，學生表示今后無論是在生活中使用網絡還是利用人工智能解決問題的時候都會加強安全意識并將本次辯論收集信息時掌握的安全知識加以應用。

5）培養全面應用型人才

正反雙方學生在辯論過程中將抽象的信息轉化為語言后流暢、清晰地進行表達，面對對方問題隨機應變、靈活應對，幫助學生在辯論過程中“越辯越清晰”，對網絡安全與人工智能課程的理論知識進行了邏輯的、合理的總結。并且提高了臨場應變的能力，鍛煉了表達能力，邏輯思維能力，幫助學生成長為更全面、更具思想深度的應用型人才。

4 守住底線、保持清醒、理解技術

網絡安全和人工智能都是當前信息科技中極為重要的部分，學生通過理論和實踐教學掌握了這兩門課程中的核心技術。然而在實際使用過程中，很有可能會出于好奇心甚至在自己不經意的情況下利用其中的技術做出侵害他人權益或者違反相關法律規定的事情，例如獲取他人的隱私、違規獲取第三方未授權的信息。通過這次人工智能與網絡安全主題的辯論，學生經過廣泛查閱文獻、研讀網絡安全相關法律法規政策、調查實際生活中使用人工智能技術中違反法規的案例等自主學習，充分了解了人工智能技術在使用過程中也是有明顯行為邊界的，跨過這些邊界的行為會違反《中華人民共和國網絡安全法》中的法律規范。例如利用機器學習的方法獲取網絡中的信息時，其中抓獲的數據中包含一些未被處理掉的個人隱私信息。如果肆意散播這類數據，或者利用這些數據獲取利用或做出傷害當事人的行為，都是違法并需要承擔相應的法律責任的。通過這次辯論，學生一方面產生了使用人工智能技術的底線意識，以后無論是在學習、科研還是工作場合都要保持清醒，合理地規范自己的行為。另一方面也提高了自己的網絡安全防護意識，并在過程中掌握了防范手段，在日后的網絡活動中可以更好地保護自身的利益。

5 結束語

本次網絡安全課程中針對網絡安全防護中人工智能帶來的利與弊的問題采用了辯論的方式，為教學實驗改革提供了新思路，展開了新模式。辯論賽得到了學生的積極反饋，為當前以理論和技術為核心的課程的教學實驗改革提供了一種可行的交互式、沉浸式學習模式。和人工智能一樣，任何科學技術的發展都像是一把雙刃劍，會促進社會一部分的進步也會在另一方面產生對應的副作用，這些最新的技術是在被不斷權衡、評估、調整的過程中動態、有序地發展的。在課程教育過程，通過辯論的形式幫助學生學會辯證思考學到的技術在社會中的作用，讓他們意識到科學技術是為了給人們帶來便利而產生的，但也會被用于傷害他人的利益，有助于學生畢業后在從事相關領域的職業時謹記恪守嚴格的職業道德、遵守明確的法律底線，期望為社會培養出守底線、講道德、有技術的優秀專業人才。