人工智能教育應用的倫理風險研究

（ 揚州大學新聞與傳媒學院 225000）

新一代人工智能技術的飛速發展正在引領新一輪科技革命和產業變革，引發和重構新的行業結構和行業形態。教育是促進人類文明發展的重要領域，人工智能技術在教育中的應用正在推動互聯網教育進入“人工智能+教育”的高級階段。然而，利用人工智能技術推動教育發展的同時，也產生了一系列倫理問題，如削弱教師地位、侵犯學生自由、加大教育不平等、對教育正向價值的壓制、對教育育人價值的僭越。華東師范大學唐漢衛教授認為，人工智能的深入運用將在本體意義上動搖我們原有的對教育的理解、批判和追求，從而產生前所未有的困惑和焦慮。本文圍繞人工智能與教育的深度融合，從倫理學的視角下審視人工智能對教育的影響，讓人工智能的應用回歸教育本質，讓技術運行在符合教育規律和人認知規律的軌道上。

一、人工智能教育應用的含義及合理性

張坤穎等認為只有當人工智能輔助于教育應用、建構教育場景、重組教育中的要素或者重構教育過程時，才屬于人工智能的教育應用。從目標來看，人工智能教育應用以“育人”為最終目標；從過程來看，人工智能教育應用于課堂教學、學校管理、家校合作等方面；從結果來看，人工智能教育應用實現了教育教學、學校管理方面的最優化。由此可見，人工智能的教育應用是人工智能與教育深度融合的產物。

在對人工智能教育應用進行倫理反思之前，需要先確認人工智能在教育中的應用是否具有合理性，其依據是：合乎教育自身的發展規律。首先，了解學生的真實發展水平是教育活動開展的前提，人工智能可以捕捉到學習者不同時間、不同地點的各種數據，包括面部表情、動作、情緒等。與傳統教師依靠自身觀察、他人評價、傳統紙筆測驗等方式相比，人工智能更能了解學生的真實發展水平；其次，尊重個性是教育的內在要求。傳統教學很難為學生提供個性化服務，而人工智能的精準預測使得學生的個性化發展成為可能；最后，人工智能應用于教育使得學習打破了時空的限制，教師也可以隨時查看學生發展狀態并及時做出干預。與此同時，家庭、學校和社會的聯系也更加緊密、教育合力不斷增強。

二、人工智能教育應用產生倫理風險的原因分析

（一）人工智能自身的因素

人工智能教育應用依賴于教育大數據、算法和機器學習，人們通常認為人工智能因為沒有人為因素的介入而趨向公平。但在實踐過程中，人工智能的偏見或歧視卻屢見不鮮，如微軟公司的聊天機器人Tay在發布24小時以后就開始變得具有種族歧視和厭惡女性。

人工智能存在偏見的主要原因在于算法和數據。算法是人工智能的核心要素，雖數字符號是中立的，但如果算法設計者自身抱有偏見，就有可能將這些偏見嵌入算法系統。另外，算法決策的基本原理是“以過去的數據預測未來的趨勢”。而教育數據存在兩個方面的問題：一是教育數據的全面性，二是教育數據的真實性。然而，要獲取教育領域的全部數據卻是一大妄想。教育是培養人的社會活動，我們可以利用技術收集人的行為、語言的變化卻無法對人的價值觀念、思維方式的變化進行數據化處理。教育的社會性使得教育數據與其他領域的數據總有著千絲萬縷的聯系，我們無法清晰的界定哪些是教育領域的數據。教育數據來源的多元化，也使得教育數據承載的價值既包含正向也包含負向。

（二）人工智能使用者的因素

人工智能應用于教育，其使用者為教師和學生，本文主要從教師和學生對人工智能的認可度以及能力素養兩個方面進行分析。

教師和學生對人工智能的認可度直接影響了人工智能在教育中的使用情況。當前，人們對人工智能的認識存在兩種極化：既有對人工智能的全盤肯定，也有對人工智能的全盤否定。這種理性認識的不足在一定程度上滋生了人工智能教育應用的倫理問題。此外，教師和學生倫理意識不足也是導致人工智能教育倫理的原因之一，如缺乏隱私的保護意識。

人工智能教育應用對教師的專業水平提出了更高的要求，不僅需要教師具備傳統的教育教學知識，還不要具備人工智能方面的知識以及掌握設計開發數字化學習資源的技能。但目前的師范類教育以及教師在職培訓，不管是理論層面還是操作層面都很少涉及有關人工智能方面的知識，教師職業素養與人工智能的沖突，也成為人工智能教育應用倫理問題出現的一個原因。

（三）法律制度的因素

人工智能在教育中應用必然會出現一些在傳統教育中從未出現的問題，為了維護人類的基本權利以及規范人工智能在教育中的應用，需要制定相關的法律法規、建立各類管理機構，以引導和監督人工智能在教育教學、教育管理等各環節的規范運行。在制度方面，我國尚未建立一套完善的與人工智能教育相關的制度。制度的建設也是一個長期而復雜的過程，且需要國家相關部門、教育行業及相關領域與相關單位三層共同制定，而這期間又會不斷出現新的問題，制度建設的滯后性導致了對人工智能教育應用約束力不足。

三、人工智能教育應用倫理風險的具體表現

（一）人工智能教育應用對使用者主體性的削弱

1.削弱教師地位

目前，國內外學者在機器人替代勞動力研究方面都得出了比較一致的結論，即機器人的出現會替代某些職業或者某些任務。教師這一職業是否會消失眾說紛紜，有學者認為，傳統意義上的教師已無存在的必要。也有學者認為，無論人工智能發展到何種程度，教師始終“在場”。可以確定的是：將人工智能應用于教育領域，教師已不再高枕無憂。

當前的教育人工智能可以幫助教師完成一些重復或輔助性的工作，未來教育人工智能還可能承擔更多的工作。因此，教育人工智能投入使用量增加的同時教師的失業率也隨之增加。楊緒輝等認為大腦的生理局限使得信息化時代的老師是一種“缺陷”的存在，必需要借助外在代具來構建自身的完整。教師在借助人工智能的過程中稍有不慎就會變相成為人工智能的附庸，從而導致教師地位下降。

2.侵犯學生自由

人工智能教育應用需要對學生的學習過程進行全面跟蹤、記錄，學生如同進入一座“全景式監獄”。在此不難發現，學生之所以能享受人工智能提供的便利是以隱私泄露為代價的。也許收集學生生活和學習數據的初衷是為了提供更好的精準化服務，但數據不會遺忘，將那些在學生未成熟的情況下作出的欠妥的行為全盤記錄下來，很可能會給學生貼上某種具有暗示意味的“標簽”從而影響學生的入學或求職。這不可避免的損失了學生的人格尊嚴，限制了學生的自由。

人工智能能夠對學生的后續發展進行趨勢預測，教師可以根據預測的結果進行及時干預，從而保證更好的教育效果。但這種預測會剝奪學生自由選擇的權利，尤其隨著預測精準度的不斷提高，人們對預測信任感的不斷增強，學生可能再也無法根據自己的意愿作出選擇，這種預測對學生的學業反而成了一種禁錮。

（二）人工智能教育應用對教育的沖擊

1.加大教育不平等

人工智能應用于教育旨在實現更高效的資源配置，有效提升教育質量并促進教育公平。如慕課（MOOC）被看作是全球課堂的雛形，但是這種教育資源并非均勻的在不同地區中“擴散”，特別是在教育數據的獲取方面，不同教育系統、平臺間的數據沒有開放和共享，國家和地區之間的“數據鴻溝”更加凸顯。數據獲取的不平等也就決定了數據使用的不平等，最終會擴大教育地區間的差距。

人工智能對學生未來學習軌道的預測在一定程度上與美國、英國等國家的“分軌制”教育有異曲同工之處，它們都是在分析學生的心里特征及學習能力的基礎之上，結合社會發展需要，制定不同的學習路線。區別在于，人工智能提供的分流標準更加細致、分流手段更加多元。傳統分軌制的公平性已備受爭議，人工智能的預測也存在加大教育不公平的風險。

2.對教育正向價值的壓制

從人工智能教育應用倫理產生的原因分析中可知，人工智能是存在偏見的，人工智能的使用者之間也存在不同的價值追求。因此，人工智能是負載價值的，既有正向價值也有負向價值。

教育離不開價值的判斷和選擇，任何教育資料在呈現給學生之前都需經過必要的價值審視。但因為人工智能自身的特性，使其無法對所有的數據進行價值審查。人工智能教育應用不可避免地對學生的行為方式、思維習慣、價值觀念產生影響，其負向價值就會對教育產生干擾，與教育應然的正向價值產生沖突。因此，在人工智能教育應用中，必須始終堅持教育的正向價值取向，仔細審視并正確處理人工智能背后的負面價值。

3.對教育育人價值的僭越

提供精準的個性化服務以及將難以理解的知識精準清晰的表示出來是人工智能教育應用的目標。也就是說人工智能在具有育人價值的教育面前，只是一種工具的存在。

將人工智能應用于教育不僅為教育變革帶來契機，應當永遠注意技術是服務于教育的、是為人類更好的生存和發展的，技術本位的思想尤其值得審視與反省。事實上，在教育領域對人工智能的頂禮膜拜、盲目樂觀這種苗頭已經顯現，人工智能甚至正成為教育中的一種新的“意識形態”。人工智能的“意識形態”地位一旦確立，其工具價值也就僭越了教育的育人價值。所以，必須將教育的育人價值作為價值判斷的標準和最終目標。

四、結語

人工智能與教育的深度融合不僅要符合技術倫理、教育倫理的規范，更要符合教育的發展規律和學生的認知規律。本文首先闡述了人工智能教育應用的內涵，然后對人工智能在教育領域應用的合理性進行了論證，最后探討了人工智能教育應用可能產生的倫理風險以及對產生的原因進行了分析。雖然本文僅在技術、教育、倫理三個方面進行了研究，沒有設計到其他學科，分析不夠深入。其意義在于呼吁廣大的教育工作者以及技術開發人員，在教育領域推進人工智能的過程中應當時刻保持必要的反思，警惕人工智能在使用過程中潛在的倫理風險，避免教育技術史上由技術至上導致錯誤的歷史重演。