生成式人工智能教育應用的價值與潛在風險

李艷燕

過去幾個月，以ChatGPT為代表的生成式人工智能熱潮席卷全球，引發了各級各類教育工作者的高度關注，也再次激發了人們對于智能技術賦能教育變革的新思考。

生成式人工智能是指一類基于深度學習的人工智能技術，能夠自動生成新的文本、視頻、音頻、圖像等多模態內容。與傳統人工智能專注于解決特定任務或問題不同，生成式人工智能著重在海量數據的基礎上生成新的信息。它具有四大功能特性：一是自然語言和代碼生成?；诖笠幠Ｉ疃葘W習模型，它能以自然、流暢和結構化的方式，完成文章創作、連續對話、機器翻譯和代碼生成等各種文本生成任務。二是個性化生成。根據用戶的偏好和需求，它可以生成符合用戶興趣和認知特點的定制化內容，實現個性化的智能服務。三是上下文理解。它能基于對話內容和情境，進行語義理解與推理，生成符合上下文邏輯的連貫性回復。四是多模態的理解和生成。它可以識別文本、圖像、音頻、視頻等多模態的信息輸入，加以分析、集成后生成相應的多模態內容。

生成式人工智能融入教育教學將催生人機協同的教育新樣態。一是助力個性化學習。它可以根據學生的需求和學習風格生成定制化的教育內容與學習資源，并針對學生的回答或提問，提供適應性的教學支架與反饋，實現個性化的學習服務。二是支持自主學習。它能夠回答問題、給出反饋，幫助學生管理學習時間、完成學習任務等，如學生可通過與ChatGPT的多輪對話開展自主學習，獲得更好的學習體驗。三是提供學習資料。它能夠生成豐富的學習材料，如英語寫作范文示例或數學解題思路指導等，幫助學生快速學習和掌握課程內容，提高學習效率。四是輔助教學設計。它還能為教師提供多樣化的教學服務，如基于教學目標生成創新性的教學設計與教學活動，在教學過程中為教師提供交互式的教學支持，以及生成適應性的教學方案與個性化的隨堂練習等。五是賦能教學評價。通過與學生對話，它能夠了解學生的學習水平以及是否真正理解了所學內容，識別學生的長處、弱點和學習偏好等特征，實現對學生的個性化診斷，幫助教師實施精準教學與評估，使教學更具吸引力、參與性和有效性。

但是，以ChatGPT為代表的生成式人工智能在教育領域應用時也存在一些潛在風險。一是隱私和數據安全問題。目前我們并不清楚ChatGPT究竟是如何存儲、處理其與用戶交互的信息的，這導致我們在使用這項技術時對隱私、安全、倫理等問題存在一定的擔憂。二是人工智能技術的偏見與歧視。ChatGPT等智能技術無法像人類一樣進行復雜思考，所提供的信息是通過大量的訓練數據自動生成的，這些由人工智能自動生成的信息可能存在一定的偏見性與攻擊性。三是產生過度依賴。ChatGPT能夠幫助學生撰寫論文、完成作業、通過考試，這些多樣化的學習服務可能導致學生產生過分的依賴心理，限制了自主學習和獨立思考能力的發展。四是提供不準確或誤導性的信息。盡管ChatGPT能夠為師生提供大量的學習信息，但是這些信息的準確性仍無法得到充分保證。

因此，為應對這些風險，對于生成式人工智能在教育場景的應用，我們應該采取適當的措施，包括加強數據隱私保護、對模型進行審查和驗證、提供準確的用戶指導和解釋、注重引導學生發展批判性思維和自主學習能力等，通過有效治理確保教育中的人機協同沿著規范有序的方向發展。

（作者系北京師范大學智慧學習研究院教授、博士生導師）