生成式人工智能對教育行業的挑戰與回應

【摘 要】 以ChatGPT為代表的生成式人工智能已然對當前社會各領域造成了巨大的影響和沖擊。通過回溯ChatGPT的發展歷程及其運作原理可以發現，以ChatGPT為代表的生成式人工智能相比于傳統的人工智能具有擴展性、復合性以及涌現性等特征，將其運用于教育行業的過程中將帶來諸多機遇，包括個性化輔導、作文自動評分、語言翻譯、互動學習以及適應性學習等。但其在嵌入教育系統的過程中也容易產生缺少人際互動、理解能力有限、訓練數據導致的偏見、缺少創造性、對數據的依賴性、缺乏對背景的理解、個人化教學的能力有限以及學生喪失獨立思考能力等風險，因此需要構建包括隱私保護原則、公平原則、透明性原則以及信息準確性原則在內的風險規制原則，并明確當前的生成式人工智能仍然會因其無法全面理解具體的語境背景、缺乏獨立的思考能力、存在算法歧視風險等特點而具有很大的局限性，教育行業的相關使用者在使用過程中需要予以充分重視，并合理協調生成式人工智能與人類教師間的關系。

【關鍵詞】 生成式人工智能；教育行業；ChatGPT；風險治理

【中圖分類號】 G647 【文章編號】 1003-8418（2023）08-0013-10

【文獻標識碼】 A 【DOI】 10.13236/j.cnki.jshe.2023.08.002

【作者簡介】 畢文軒（1992—），男，陜西西安人，東南大學法學院講師，人權研究院助理研究員、法學博士。

一、 引言

當下，機器學習的進展和擴展導致了更復雜的創新技術數字內容生成，如生成式人工智能（Generative AI）［1］。生成式人工智能是一個無監督或部分監督的機器學習框架，它通過使用統計學、概率等生成人工遺跡［2］。不同于以往的人工智能，其不僅能夠提煉信息，還可以針對不同場景語境生成不同的文本內容。隨著深度學習技術的進展，生成式人工智能可以利用現有的數字內容（如視頻、圖像、文本、音頻）通過檢查訓練實例創建人工遺跡并學習其模式和分布［3］。作為生成式人工智能的典型，ChatGPT近來在全球范圍內的熱度迅速攀升并引起包括新聞、教育、工程、金融、法律、醫學等各個領域的廣泛關注。其中，有關ChatGPT在教育領域的應用及其風險受到了更加廣泛的關注。例如，許多學校已經明確表示不接受學生在其考試或日常作業中使用ChatGPT作答，否則將會以作弊論處［4］。對于在教育工作中使用ChatGPT及其前景的討論已然成一個爭議性話題：一些人認為ChatGPT和相關的生成式人工智能是教學和學習以及教育研究的未來，而另一些人則持懷疑態度并認為其會使教師和學生變得懶惰并逐漸喪失分析能力［5］。因此，本文希望借此機會就ChatGPT和相關生成式人工智能在推動教學方面的優點與可能存在的缺點進行逐一分析，并就其應如何促進教學工作以及如何改進做出逐一闡述。

二、 生成式人工智能的技術背景與發展現狀

（一）ChatGPT的發展歷程

ChatGPT語言模型由OpenAI開發，OpenAI被公認為是人工智能研究領域最有影響力的組織之一。OpenAI是一個人工智能研究實驗室，成立于舊金山，旨在促進和創造“友好的人工智能”以造福人類。OpenAI的使命宣言表明，該組織的最終目標是創造“人工通用智能”。人工智能有可能大大改善許多不同的行業，OpenAI的創始人認為，應該安全和有益地開發人工智能，開放源碼軟件和先進的人工智能工具可以不受基于知識產權的限制。OpenAI在2019年之前曾以非營利性組織的形式運作，但目前已經成為一家營利性公司。由于在2018年，微軟向OpenAI投資了10億美元，OpenAI則將其最新的語言模型GPT3完全授權給微軟。此后，微軟又對OpenAI追加了20億美元的投資并且還在討論將之后的投資數額再次追加到100億美元。

作為OpenAI研發核心的GPT架構最初在2018年推出并作為該系統的基礎。GPT模型的第一個版本是通過利用被稱為變壓器的深度學習技術，對從互聯網上獲得的大量文本數據進行訓練，它能夠生成與人類書寫幾乎沒有區別的文本。因為第一版GPT模型取得了巨大的成功，OpenAI決定創建GPT2，并對GPT模型進行了大幅改進和更有彈性的迭代。盡管如此，OpenAI還是決定不向公眾提供GPT2的完整版本，因為人們擔心該模型可能會被不當使用。在2020年，OpenAI提供了GPT3語言模型供公眾使用，其也被認為是有史以來最先進的語言模型，可以執行各種涉及自然語言處理的任務。自此，GPT家族已經先后擁有GPT1、GPT2、GPT3以及圖像預訓練iGPT等模型。具體到ChatGPT，其最初的測試是基于GPT3協議的一個變體，并針對對話任務進行了優化，故而當前的ChatGPT運行的模型本質就是GPT3.5，其具有更加強大的運算參數并且更加智能。

（二） 生成式人工智能的工作原理與特征

根據現有文獻表明，主要的生成式人工智能包含兩種類型：生成式對抗網絡（Generative Adversarial Network，簡稱GAN）和生成式預訓練轉化器（Generative Pre-trained Transformer，簡稱GPT）［6］。目前，GAN是常用的生成建模人工智能技術，其使用生成器和判別器兩個神經網絡。其具體操作原理為：生成器網絡生成合成數據（例如生成某人的面部圖像），然后判別器網絡檢查內容的真實性以確定內容是真實的還是虛假的（例如判斷人的圖像是真的還是假的）。這個驗證過程一直持續到判別器網絡無法對合成內容和真實內容進行進一步破譯為止，換言之，此時的合成內容也即被識別為真實內容［7］。通常在實踐中，GAN主要被用于語音、圖形和視頻生成［8］。另一方面，生成性預訓練轉化器（GPT）模型使用大量公開的數字內容數據來生成若干種語言的類人化文本，并能在幾乎任何主題上通過一段話或完整研究文章的方式表現出令人信服的創造力。這些模型甚至能夠讓客戶參與到類似人類的對話中，如客服聊天機器人或視頻游戲中的虛構人物［9］。本文所研究的ChatGPT便是后者，其自2022年11月30日首次發布以來，在一周內便獲得了超過一百萬的用戶［10］。ChatGPT以其復雜的能力讓世界大吃一驚，并成為社交媒體和新聞機構的最熱門話題。ChatGPT具有前所未有的能力，能夠完成非常復雜的任務，如撰寫文章、故事、詩歌、論文，能夠對文本進行總結或擴展，調整文本以反映不同的觀點，甚至能夠撰寫和調試原始計算機代碼［11］。下文也將就ChatGPT的基本工作原理作出剖析。

1.ChatGPT的工作原理

ChatGPT是一個由OpenAI訓練的大型語言模型LLM（Large Language Model），是大模型在NLP（Natunal Language Processing）領域不斷發展的一種結果。所謂GPT即通過轉化器為基礎模型，使用預訓練技術得到通用的文本模型。ChatGPT被設計用來根據給定的提示或上下文語境生成類似人類的文本。它可以用于各種自然語言處理任務，如文本完成、對話生成和語言翻譯。根據OpenAI官方的原理介紹［12］，ChatGPT的生成機制主要分為四個階段，具體如圖1所示。

首先，通過對人工智能進行數據喂養來鍛煉其自動生成后續文本的能力。在這一階段，主要是通過讓人工智能在通用的、海量的數據上學習文字接龍，即掌握基于前文內容生成后續文本的能力。這樣的訓練不需要人類標注數據，只需要給一段話的上文同時把下文遮住，將人工智能的回答與語料中下文的內容做對比，就可以訓練人工智能。ChatGPT正是在GPT3.5模型上所做的優化，而作為GPT系列的第三代，GPT3.5在萬億詞匯量的通用文字數據集上訓練完成，幾乎可以完成自然語言處理的絕大部分任務，例如日常生活中常見的完形填空、閱讀理解、語義推斷、機器翻譯等均是其體現。

其次，收集人類數據并進行有監督的策略。單純依靠人工智能根據網絡數據進行自我學習的文字接龍會產生一個問題，即其仍不知道該如何給出對人更有用的回答。此時，為了解決這一問題，研究人員讓人類就一些問題寫出人工答案，這些問題和答案會交給GPT學習并優化其模型。這便是有監督訓練，即對于特定問題告訴人工智能人類認可的答案。這種方法可以引導人工智能往人類期望的方向去做文字接龍，也就是給出正確且有用的回答。通過這種有監督訓練的方法，我們可以得到一個簡易版的ChatGPT模型。當然需要注意的是，這里并不需要人類窮舉出所有可能的問題和答案，實際上研究人員只提供了數萬條數據讓人工智能自己學習，因為GPT本來就有能力產生正確答案，只是尚不知道哪些是人類所需的。通過幾萬條數據的提供主要是為了告訴人工智能人類的喜好，并給其提供文字接龍方向上的引導。

再次，收集對比數據并訓練獎勵模型。由人來對其進行監督固然有效，但考慮到人工智能的算力和人的精力相差太大，在客觀環境中無法永遠保障足夠的人為監督。因此，找到合適的替代監督機制便成為此階段重要的功能。在這一階段，研究人員讓GPT對特定問題給出多個答案，并由人類來對這些答案的好壞排序。因為相比直接給出答案，讓人類排序要簡單的多。基于這些評價數據，研究人員訓練了一個符合人類評價標準的獎勵模型。

最后，強化學習算法，針對獎勵模型優化策略。這一階段人工智能在進行自我學習的過程中，不斷地根據獎勵模型的反饋來優化自身的產出結果，以實現通過GPT的自我學習與優化。具體而言，ChatGPT在得到一個問題后會產生一個回答，然后讓獎勵模型給這個回答一個評分，ChatGPT會基于評分去調整參數以便在下次問答中獲得更高分，再不斷重復這個過程，ChatGPT的交流能力就得到了極大的提高和改進。

綜上，ChatGPT具有很強的互動性，不僅能夠就廣泛的話題進行類人化的真實對話，而且還能產生令人信服的創意內容。正是ChatGPT在教育領域執行復雜任務的非凡能力，使其在教育工作者中引起了不同的感受，因為人工智能的這一進步似乎會徹底改變現有的教育實踐。

2.以ChatGPT為代表的生成式人工智能之特征分析

相比于傳統的弱人工智能，以ChatGPT等大模型為代表的生成式人工智能正在向強人工智能邁出堅實的一步。生成式人工智能通常具有擴展性、復合性以及涌現性等三個顯著特點，這也正是生成式人工智能所體現出的技術革新。

（1） 擴展性。對于生成式人工智能而言，其通常可以有效支撐智能終端、平臺、系統等產品應用落地，此舉有利于解決壁壘多、部署難等問題。這一點正是傳統的人工智能所欠缺的，因為傳統的弱人工智能運行通常需要建立在一個相對穩定且單一的環境中，如果擅自更換環境背景，那么將會對它的正常運行及其效果造成極大的影響。

（2） 復合性。對于生成式人工智能而言，其通常會在海量通用數據上預訓練以具備多種基礎能力，此舉有助于擺脫傳統人工智能碎片化、作坊式開發的局限。因為對于傳統人工智能的訓練，通常是研究者對其進行特定數量的數據輸入或者為其訓練的數據抓取范圍作出限定（也即“小模型”）。相比于更加復雜不易控制的大模型，由于小模型具有相對較高的可解釋性與穩健性，故而在之前很長一段時間內受到廣泛追捧。訓練的規模有限導致了人工智能在自我學習的過程中雖然可以通過數據的不斷積累而獲得一定程度的迭代升級，但始終難以擺脫人類的控制和引導，這會影響其向更高級別的智能化進行迭代，不利于增強人工智能的能力。

（3） 涌現性。在新的模型結構涌現與算力提升的背景下，生成式人工智能可以通過有效集成自然語言處理等多個人工智能核心研究領域的多項技術，實現融合式涌現的效果。生成式人工智能可以通過從海量的、多類型的場景數據中學習，并總結不同場景和業務下的通用能力，學習出一種特征和規則，使其成為具有泛化能力的模型底座。基于大模型進行應用開發或面對新的業務場景時，將大模型進行微調，或不進行微調，就可以完成多個應用場景的任務，實現通用的智能。由此利用大模型的通用能力可以有效地應對多樣化、碎片化的人工智能應用需求，為實現大規模推廣人工智能落地應用提供可能［13］。

（三） 生成式人工智能的發展現狀與趨勢

目前有關生成式人工智能的發展可謂如火如荼，眾多科技企業爭相在此投資并取得了一定的成果。除了OpenAI推出的ChatGPT以外，DeepMind、谷歌、Meta和其他主體也都開發了自己的語言模型并在大模型上進行了進一步的布局與投資。在國內，超大模型研發異常迅速，2021 年，商湯、華為云、阿里達摩院、百度、浪潮信息等公司相繼發布大規模預訓練模型，而阿里達摩院的M6模型參數達到10萬億，將大模型參數直接提升了一個量級。2022年，基于清華大學、阿里達摩院等研究成果以及超算基礎實現的“腦級人工智能模型”八卦爐（BAGUALU）完成建立，其參數模型突破了 174 萬億個，完全可以與人腦中的突觸數量相媲美。

隨著ChatGPT取得的巨大成功，生成式人工智能將迎來新一輪的發展并可以在多個領域實現新的價值。例如在搜索引擎領域，ChatGPT與搜索引擎的結合似乎已經不可避免，基于搜索引擎為ChatGPT提供生成結果證據展示以及利用檢索的新知識擴展ChatGPT的回答邊界已經是可以預見并正在進行的結合方向。換言之，ChatGPT有很大可能會在將來實現對搜索引擎的替代，并成為人們日常上網搜索的重要工具。也正因如此，ChatGPT一經推出便有報道稱，Google擔心ChatGPT可能會打破其搜索引擎的使用方式和市場格局而拉響了紅色警報，并加快內測自己的類ChatGPT產品Bard。同樣地，在泛娛樂行業中ChatGPT也發揮著越來越大的作用。無論是其創建更智能的游戲虛擬人物與玩家進行交流提升體驗，抑或是利用虛擬數字人進行虛擬主播直播互動，ChatGPT都為機器提供了更加智能且更趨同于人類的“大腦”，使得整個行業的發展潛力更加巨大。類似的也發生在教育行業，許多學生開始利用ChatGPT完成老師布置的論文和作業，甚至有些還獲得了不錯的分數［14］。這也使得許多學校和機構明文規定禁止使用ChatGPT完成作業、考試或者論文等［15］，否則即按照作弊論處。當然，ChatGPT未來可以運用的場景非常多元，既包括其獨立使用又包括與其他的應用結合后的再次運用，這些都會進一步加速人工智能的社會化發展進程。

三、 生成式人工智能為教育行業帶來的機遇與風險

（一） 生成式人工智能為教育帶來的機遇

ChatGPT能夠寫作文的事實為在教育環境中使用新鮮和創新的方法鋪平了道路。該領域的許多專家學者認為，人工智能技術將很快成為教育的一個重要組成部分，他們建議利用技術來加強學習［16］。改善評估程序的一個方法是為教師提供他們所需的工具，使他們既把測試作為學習的工具，又把它作為學習本身的一種手段。此外，ChatGPT可以被用來建立教學方法，促進學生的參與和團隊合作，并促進實踐、體驗式學習。ChatGPT有可能成為教育領域的一個強大工具，并為教育系統的現代化提供巨大的機會，其具體可能帶來的機遇如下所述。

1.個性化輔導。ChatGPT可以用來根據學生的個人學習需求和進展，為他們提供個性化的輔導和反饋。一項研究表明，基于生成模型（ChatGPT）的對話代理可以為學生提供個性化的數學輔導，從而提高學習效果［17］，對話代理能夠提供針對學生錯誤觀念的解釋，并能夠適應他們的理解水平。

2.作文自動評分。ChatGPT可以被訓練成對學生作文進行評分，為教師提供更多時間來關注教學的其他方面。Kim等學者通過一項研究表明，在人類評分的論文數據集上訓練的生成模型（ChatGPT）可以準確地為高中生寫的論文評分，與人類評分的相關度為0.86［18］，該模型能夠識別寫得好的文章的關鍵特征，并能夠提供與人類評分員類似的反饋。

3.語言翻譯。ChatGPT可用于將教育材料翻譯成不同的語言，使其更容易被更多人接受。Johnson等學者通過一項研究表明，在雙語句子對數據集上訓練的ChatGPT可以準確地進行語言間的翻譯，在幾個翻譯基準上取得了最先進的結果［19］，該模型能夠理解一種語言的句子的含義，并能生成另一種語言的準確翻譯。

4.互動學習。ChatGPT可用于創建互動學習體驗，學生可以以對話方式與虛擬導師進行互動。Peng等學者通過一項研究表明，基于生成模型的對話代理可以為學習英語作為第二語言的學生提供有效支持，從而提高語言能力，該代理能夠理解學生的問題，并提供適當和相關的回應［20］。

5.適應性學習。ChatGPT可以用來創建自適應學習系統，根據學生的進度和表現來調整其教學方法。Chiang等學者通過一項研究表明，基于ChatGPT的自適應學習系統可以為學生學習編程提供更有效的支持，從而提高編程評估的成績。該模型能夠理解學生的知識，并相應地調整其生成的問題的難度［21］。此外，一些教育工作者已經開始測試ChatGPT的效率，將其整合到他們的教育活動中（如研究、教學、評估），并發現通過某些任務和流程的自動化，ChatGPT能夠為其他重要活動節省時間，例如花更多的時間與學生相處［22］。

綜上不難看出，ChatGPT有可能成為一個強大的工具，通過提供個性化輔導、論文自動評分、語言翻譯、互動學習和自適應學習來提高教學水平。使用ChatGPT可以提高教師的評價能力，激發學生之間的合作和團隊精神，讓學生有更多機會通過試驗和經驗來學習。具體而言，ChatGPT是一項被認為在教育領域具有顛覆性的技術，它有可能通過創新改變教育。

（二） 生成式人工智能為教育帶來的風險

當然，ChatGPT也被認為是一種破壞性的技術，對其不當的使用有可能會為當前的教育系統帶來一定的風險。

1. 缺少人際互動。ChatGPT和其他生成模型無法提供與真正的教師相同水平的人際互動，這對于那些可能從與教師的個人聯系中獲益更多的學生來說是一個不利因素。研究發現，與模仿人類情感行為的虛擬導師互動的學生，比與缺乏這種行為的虛擬導師互動的學生有更好的學習效果［23］。

2. 理解能力有限。生成模型是基于它們所訓練的數據中的統計模式，對幫助學生學習的概念并沒有真正的理解。在提供針對學生個人需求和錯誤概念的解釋或反饋時，其可能會提供一個不相干或者完全錯誤的答案。

3. 因訓練數據存在缺陷而導致偏見。生成模型的好壞取決于其所訓練的數據，如果數據包含偏見，模型自然也會有偏見。例如，如果一個模型是在主要由某一類群體學生撰寫的論文數據集上訓練所得，那么它可能無法準確地對其他類群體學生撰寫的論文進行評分。如果訓練生成式人工智能的數據存在偏見或歧視，那么在互聯網上的大型文本語料庫上訓練的生成模型在其語言生成中會表現出性別、種族、宗教等方面的偏見。

4. 缺少創造性。生成式模型只能根據它們在訓練期間看到的數據模式來生成反應，這可能會限制其反應的創造性和原創性。例如，基于生成模型的音樂創作系統產生原創和多樣化旋律的能力有限。

5. 對數據的高度依賴性。生成式模型是在大量的數據上訓練的，模型的質量高度依賴數據的質量和數量。如果數據不充分或不相關，模型的表現就不會很好。當訓練數據與當前的任務不相關時，基于生成模型的問題回答系統表現不佳。

6. 缺乏對具體場景語境下的恰當理解。生成式模型缺乏理解語境和情況的能力，這可能導致不適當或不相關的反應，因為基于生成式模型的對話系統在對話中理解和產生符合語境的反應能力有限。

7. 個性化教學的能力有限。雖然ChatGPT和其他生成式人工智能模型可以提供一般的信息和幫助，但它們可能無法實現個性化教學以滿足特定學生的個人需求。

8. 易導致學生喪失獨立思考的能力。由于ChatGPT具有強大的語言生成能力，一些教育工作者擔心如果不對其使用加以限制，學生們將他們的作業外包給ChatGPT的現象將越發嚴重。同時，由于ChatGPT本身擁有的海量數據庫訓練，也使得識別抄襲的過程變得更加困難，并引起了一些教育工作者的擔憂［24］。

需要注意的是，ChatGPT和其他生成式人工智能模型是強大的工具，但它們不能取代人類教師。重要的是要負責任地使用這些工具，并與人類指導和支持相結合。總的來說，雖然像ChatGPT這樣的生成式人工智能模型可以成為加強教學和學習的有力工具，但重要的是要意識到它們的局限性，并與其他強調人際互動和理解的教學方法一起使用。綜上，ChatGPT實際上只是一個文本生成器，它既不掌握生成的信息，又不判斷是否準確或相關。故而在未來相關的教育主管部門和立法機構很可能會有許多專門性的法律法規對ChatGPT等生成式人工智能的使用加以限制，只是任何規范的制定都需要通盤考慮被規制客體的優勢和風險（如圖2），以便最大限度地降低風險帶來的負面效應。

四、 生成式人工智能的風險回應

為了確保ChatGPT的使用方式對學生、教師和所有其他利益相關者的安全和公平，在教育環境中實施該技術時，有必要構建相應的風險規制原則，并具體制定相應的規范來重塑行為的責任性和道德取向。

（一）生成式人工智能的風險回應之基本原則構建

對于生成式人工智能可能產生的風險進行規制，要建立在隱私保護原則、公平原則、透明性原則以及信息準確性原則等四項原則基礎之上。

1.隱私保護原則

保護用戶的數據隱私是合理使用ChatGPT的前提。因為ChatGPT是通過從互聯網上獲得的大量數據進行訓練的，所以必須確保學生的個人數據得到保護且不得被用于不合法的用途。此外，學生應該了解為保護個人數據所采取的安全措施。當涉及ChatGPT在教育領域的應用時，必須始終保護所有參與教育過程的個人（包括學生、教師和其他任何人）的隱私。我國《民法典》第111條以及《個人信息保護法》第2條均規定了自然人的個人信息應當受法律保護。歐洲的《一般數據保護條例》（GDPR）和美國的《兒童在線隱私保護法》（COPPA）也都要求各組織保護個人的數據［25］。這些法律的相似之處在于，它們要求各組織盡其所能保護個人數據，這就包括了通過在教育環境中使用ChatGPT收集的學生信息、成績和評估結果。

為了維護相關個人的隱私，有必要明確生成式人工智能的制造者需要采取必要措施，以防止未經授權訪問、使用或披露有關信息。這也就要求在教育環境中使用ChatGPT等生成式人工智能時，應以符合道德原則的方式進行構思和實施，有必要采取適當的保障措施，以保護參與教育過程的個人信息安全并確保ChatGPT的使用符合道德原則，例如構建知情同意、透明度和問責制等具體規則。

2.公平原則

由于訓練ChatGPT時所使用的數據來自研究人員的輸入，如果被選擇用來訓練的數據具有一定偏見，那么極可能會造成使用ChatGPT的主體受到歧視。同時，類似ChatGPT這樣的生成式人工智能算法還會進一步延續和放大現有的偏見和歧視［26］，所以只要在教育環境中使用ChatGPT，就必須嚴格遵守公平和非歧視的原則，確保ChatGPT和其他人工智能系統在整個過程的每個階段都以公平和非歧視性的方式進行構思、開發和使用，以避免學生可能會受到不平等的待遇。例如，考慮到使用ChatGPT給學生作文分配分數的可能性，來自代表性不足群體的學生可能會因為用于訓練ChatGPT的數據偏向于某類人群而使他們的論文得到不公正的評分。這可能導致這些在教育方面已經處于劣勢的人群更加邊緣化，并可能進一步加劇現有的教育差距。此外，ChatGPT等語言模式還可能會傳播和放大歧視和偏見，這也是使用生成式人工智能所帶來的又一風險。例如，如果用來訓練它的數據對特定群體存在不利的偏見，在ChatGPT不斷自我學習的過程中此種偏見會被不斷強化，導致相關的學生所遭受到的歧視可能會愈發嚴重。因此，應為ChatGPT等生成式人工智能提供一個合適公平的使用環境，并應提示相關的教育工作者注意當ChatGPT被用作學生的評分或評價工具時可能導致潛在的歧視傷害。具體而言，無論學生的膚色、性別或社會經濟背景等有何不同，都不應因為使用ChatGPT而受到偏見、歧視或不公平的待遇。

3.透明性原則

在教育環境中使用ChatGPT時，需要遵守透明性原則的要求。因為它不僅有助于培養使用者對技術負有道德和責任意識，還能讓學生更好地理解ChatGPT能力和限制。這會使學生有能力以知情的方式使用ChatGPT，同時也確保該技術的使用方式是符合他們所在教育機構的核心價值和指導原則。在教育過程中實施生成式人工智能技術之前，使用主體必須了解ChatGPT等人工智能技術是如何處理信息和創造反饋的，這有助于消除可能出現的誤解或分歧并確保該技術的使用符合道德和責任方面的要求［27］。具體而言，透明性原則要求技術開發者告知使用者該技術使用的算法和數據來源，以及描述它是如何處理和制造反饋機制，例如為學術機構及相關學生和教師提供指導材料或指南。此外，教育機構還需要把利用開源或透明的生成式人工智能技術作為優先事項，以確保學生和教師能夠獲得源代碼和基礎數據。這可以通過將采用開源或透明的人工智能技術作為優先事項來實現，向學生明確解釋關于課堂上使用技術的潛在偏見和局限性。例如，必須讓學生意識到生成式人工智能算法只有在它們被訓練的數據是客觀中立時才是客觀的，否則該技術產生的反饋很容易反映出訓練數據中可能帶有的偏見。如果學生了解了ChatGPT中的限制條件及其適用情況，他們便可以更好地對其產生的反饋機制進行批判性分析和理解。當然，為確保在教育過程中實施ChatGPT具有的持續開放性和透明性，可以通過搭建交流平臺的方式以使師生就生成式人工智能的合道德性與責任邊界展開討論。但核心仍在于，在教育中使用ChatGPT時需要使用者了解其潛在的偏見和局限性，例如學生數據的安全性、使用的透明度并就其對教學過程的影響進行批判性評估。教育者的作用是幫助學生了解生成式人工智能并對其產生的觀點進行批判性思考，而并非通過生成式人工智能技術來取代教育工作者的作用。

4.信息準確性原則

信息準確性原則是規范ChatGPT等生成式人工智能在教育領域適用的重要原則，其作用在于可以保證教育環節中所教和所學的材料是準確的、值得信賴的和可信的。因為當涉及科學原理的教學時，提供準確的信息是相當必要的，如果提供不準確的材料可能會導致誤解和錯誤的認識。如果在訓練ChatGPT時對其喂養的數據缺乏必要的準確性，那么通過其向學生展示的內容將可能嚴重失實，這對于判斷能力尚且有限的學生而言將會產生極大的影響。例如，如果ChatGPT在訓練時使用的數據忽略或者歪曲了某些重要的歷史事實，那么將可能會影響學生世界觀、價值觀和歷史觀的形成。因此，必須確保ChatGPT以及教育過程中使用的任何其他工具所提供的信息是準確的。當涉及他們所獲得的信息時，教師和學生不能盲目跟從，而需要進行批判性思考并與可靠的來源進行核對。

（二） 生成式人工智能在教育中的作用反思

當前的生成式人工智能仍不能代替人類教師的作用。近來，關于生成式人工智能在課堂環境中的應用已經有很多討論。但需要注意的是，盡管ChatGPT等生成式人工智能可以為教育環境的改善提供許多機會，但其本身并不能取代實際生活中的教師角色。由于教師和學生之間的關系是教育過程中最重要的組成部分，一方面，教師可以與學生建立聯系，了解學生的特殊要求以及他們的優勢和劣勢［28］；另一方面，生成式人工智能本質上是一個人工智能語言模型，并不具備人類教師的情商、同理心以及人際交往能力，故而也就無法與學生建立起有意義的聯系。教育的目標不應局限于信息的傳播，還應該包括培養人際關系的紐帶，發展學生的創造性和批判性思維能力，并提供個性化的支持和指導［29］。同時，教師也可以通過在課堂上建立一種鼓勵和包容學生的氛圍，并為學生提供創造性或批判性的思考方式。這些作為人類教師最重要的品質，恰恰是受到編程和算法限制的生成式人工智能所無法實現的。

當前的生成式人工智能還無法完全理解不同學生的教育背景并提供最適宜的教育模式。由于ChatGPT等生成式人工智能只是一個模型，其是按照預先編程的算法運作，不具備人類導師所具有的創造力。但在教育領域，對學生所處的環境有一個扎實的了解，以提供最相關的幫助和指導往往是至關重要的［30］。這種背景往往需要考慮到學生的文化背景和人生經歷。很顯然，當前如ChatGPT等生成式人工智能還只能被作為一臺機器，因為它并不能像教師那樣理解或欣賞個體因素與條件。具體而言，其既無法給學生提供實踐培訓，又不能提供體驗式教育的機會。此外，當前的生成式人工智能還缺乏引導學生創意和構想的能力。換言之，創意和發明都是人類智慧的最重要體現，生成式人工智能雖然看起來很智慧，但其都是因為建立在人類為其輸入大量數據的基礎之上。因此，當前的生成式人工智能暫時還無法形成自我的創意、構想或發明，但人類教師卻可以通過開發有趣的課程、采用獨特的教學方法、鼓勵學生跳出既有思維框架進行批判性和創造性的思考等方式來促進學生創意的萌發。僅就這一點而言，當前的生成式人工智能仍然無法獨立于人類教師而存在。

生成式人工智能的使用者應當認識到它的局限性而不能對其盲從。由于ChatGPT等生成式人工智能是基于大量來自互聯網的數據而訓練產生的，其中勢必可能包含許多不可靠的、有偏見的或欺騙性的信息，這些將會嚴重影響其結果產生的真實性和可靠性。因此，生成式人工智能的使用者需要對其產生的數據進行深入辯證分析和批判性思考，理解如何區分真實和不可靠的信息來源。此外，作為生成式人工智能使用者的學生需要了解其可能帶來的潛在道德風險和社會影響。例如，如果生成式人工智能存在算法歧視，那么通過其評估不同身份背景學生的作業并向他們提供的反饋，就很可能存在極大的不公平，且這種歧視現象又因為隱蔽而難以被發現，故而可能會給學生帶來長期的影響。當然，教育工作者可以通過向學生講授生成式人工智能的局限性和風險，讓學生了解人工智能的局限性，對于發展其批判性思維、促進人工智能更符合道德規范和責任要求，以及使學生具備駕馭快速變化的技術環境所需的技能和知識而言具有重要的作用。

五、 結語

當前，我們已經無法對以ChatGPT為代表的生成式人工智能時代的到來視而不見，雖然有很多人仍在奮力疾呼要求學校全面禁止學生使用ChatGPT，但從長期的發展來看這并非是一條行之有效的方法，因為學生總是會有辦法接觸并使用這些人工智能產品［31］。因此，我們當下需要做的便是積極擁抱因新技術產生而帶來的變化，并將其在教育實踐中所可能產生的副作用盡可能降低，以更好地服務于教育工作者。具體而言，這其中就會涉及如何協調生成式人工智能與人類教師之間的關系，采取必要的措施以減少其運作過程中可能產生的算法偏見或算法歧視風險，以便更好地促進學生批判性思考和獨立尋找問題解決方案的能力，而這些應當如何落地踐行仍有待持續深入的研究。

【參考文獻】

［1］［7］Luhui Hu. Generative AI and Future［EB/OL］.（2022-07-17）［2023-02-11］. https：//pub.towardsai.net/generative-ai-and-future-c3b1695876f2.

［2］Mlaan Jovanovió， Mark Campbell. Generative Artificial Intelligence： Trends and Prospects［J］.Computer，2022，55（10）：107-112.

［3］Mohanad Abukmeil， Stefano Ferrari， Angelo Genovese， et al. A Survey of Unsupervised Generative Models for Exploratory Data Analysis and Representation Learning［J］.ACM Computing Surveys，2021，54（05）：1-40.

［4］香港大學宣布禁用！ChatGPT是否應被視為“教學公敵”？［EB/OL］.（2023-02-20）［2023-02-16］. https：//www.baidu.com/link？url=oGHPLj5gIrAv4Zu2l-Bu0gBHPwhFDnM7ajuivsUYJB1Petxc-Slu1XV6rCSlqzmHPc3_7FntwUI6ozKNDkcd5wnwMxx7v4AreOjwKDkIALOamp;wd=amp;eqid=8569819a000421fd0000000664126b97.

［5］狼來了？ChatGPT 引教育界“封殺”［EB/OL］.（2023-02-12）［2023-02-01］. https：//china.huanqiu.com/article/4Bfudc87V16.

［6］Jie Gui， Zhenan Sun， Yonggang Wen， A Review on Generative Adversarial Networks：Algorithms， Theory， and Applications［J］. IEEE Transactions on Knowledge and Data Engineering，2023，35（04）：3313-3332.

［8］人工智能生成內容（AIGC）白皮書（2022年）［EB/OL］.（2022-07-17）［2023-02-17］.http：//www.caict.ac.cn/sytj/202209/P020220913580752910299.pdf.

［9］Aydln， mer.， Karaarslan， Enis. OpenAI ChatGPT Generated Literature Review： Digital Twin in Healthcare［EB/OL］.（2022-12-28）［2023-02-17］.https：//ssrn.com/abstract=4308687.

［10］Steve Mollman. ChatGPT Gained 1 Million Users in Under a Week. Here’s Why the AI Chatbot is Primed to Disrupt Search as We Know It［EB/OL］.（2022-12-09）［2023-02-17］.https：//finance.yahoo.com/news/chatgpt-gained-1-million-followers-224523258.html.

［11］Tate， Tamara P.， Shayan Doroudi， Daniel Ritchie， et al. Educational Research and AI-Generated Writing： Confronting the Coming Tsunami［EB/OL］.（2023-01-31）［2023-03-01］.https：//doi.org/10.35542/osf.io/4mec3.

［12］OpenAI. Introducing ChatGPT［EB/OL］.（2022-12-30）［2023-02-21］. https：//openai.com/blog/chatgpt.

［13］2023年人工智能行業專題報告 大模型是人工智能的發展趨勢和未來［EB/OL］.（2023-02-08）［2023-03-06］.https：//www.vzkoo.com/read/20230208ffa2ea195f3e341a1793c69e.html.

［14］AI作弊寫出全班最佳論文！老師被迫改線下手寫筆試！AI這是要瘋啊！［EB/OL］.（2023-03-07）［2023-03-08］.https：//www.sohu.com/a/650990881_121124406.

［15］NYC Education Department Blocks ChatGPT on School Devices， Networks.［EB/OL］.（2023-01-06）［2023-03-09］.https：//www.nbcnews.com/tech/tech-news/new-york-city-public-schools-ban-chatgpt-devices-networks-rcna64446.

［16］Mhlanga， David. Human-centered Artificial Intelligence： The Superlative Approach to Achieve Sustainable Development Goals in the Fourth Industrial Revolution［J］. Sustainability，2022，14（13）： 7804.

［17］Cai， William， Hao Sheng，Sharad Goel. MathBot： A Personalized Conversational Agent for Learning Math［EB/OL］.［2023-03-08］.https：//www.semanticscholar.org/paper/MathBot%3A-A-Personalized-Conversational-Agent-for-Cai-Sheng/ff7cbcbd1c874cbc48ad06e0938612d3ea46fdd4.

［18］Kim， S.， Park， J.， Lee， H. Automated Essay Scoring Using a Deep Learning Model［J］. Journal of Educational Technology Development and Exchange， 2019，2（01）：1-17.

［19］Yonghui Wu， Mike Schuster， Zhifeng Chen，et al. Google's Neural Machine Translation System： Bridging the Gap Between Human and Machine Translation［EB/OL］.（2016-10-08）［2023-03-08］. https：//arxiv.org/abs/1609.08144.

［20］Zhou Guangyou， Peng Yehong， Fang Yizhen， et al. Neural Conversation Generation with Auxiliary Emotional Supervised Models［J］. ACM Transactions on Asian and Low-Resource Language Information Processing，2019，19（02）： 1-17.

［21］Sehwag Vikash， Chiang Mung， Mahloujifar Saeed， et al. Robust Learning Meets Generative Models： Can Proxy Distributions Improve Adversarial Robustness？［J］. arXiv preprint arXiv， 2021.

［22］Christian Terwiesch. Would Chat GPT3 Get a Wharton MBA？ A Prediction Based on Its Performance in the Operations Management Course. Mack Institute for Innovation Management at the Wharton School： University of Pennsylvania［EB/OL］.（2023-01-17）［2023-03-12］. https：//mackinstitute.wharton.upenn.edu/wp-content/uploads/2023/01/Christian-Terwiesch-Chat-GTP.pdf.

［23］D'Mello， S.， Craig， S.， Witherspoon， A.， et al. Affective and Learning-related Dynamics During Interactions with an Intelligent Tutoring System［J］. International Journal of Human-Computer Studies， 2023，72（06）：415-435.

［24］Jürgen Rudolph， Samson Tan， Shannon Tan.ChatGPT： Bullshit Spewer or the End of Traditional Assessments in Higher Education？［J］. Journal of Applied Learning and Teaching，2023， 6（01）：14-17.

［25］Da Veiga， A.， Vorster， R.， Li， F.， et al. Comparing the Protection and Use of Online Personal Information in South Africa and the United Kingdom in Line with Data Protection Requirements［J］. Information and Computer Security， 2019， 28（03）：399-422.

［26］張恩典.超越算法知情權：算法解釋權理論模式的反思與建構［J］.東南法學，2022（01）：1-17.

［27］Waymond Rodgers， James M. Murray， Abraham Stefanidis， et al. Tarba. An Artificial Intelligence Algorithmic Approach to Ethical Decision-making in Human Resource Management Processes［J］. Human Resource Management Review， 2023， 33（01）：1-19.

［28］Attard C， Holmes K. An Exploration of Teacher and Student Perceptions of Blended Learning in four Secondary Mathematics Classrooms［J］. Mathematics Education Research Journal， 2022， 34（04）： 719-740.

［29］Kim， Jinyoung. Learning and Teaching Online During Covid-19： Experiences of Student Teachers in an Early Childhood Education Practicum［J］. International Journal of Early Childhood， 2020， 52（02）： 145-158.

［30］Mahoney， Joseph L.， Weissberg， Roger P.， et al.Systemic Social and Emotional Learning： Promoting Educational Success for all Preschool to High School Students［J］. American Psychologist， 2021， 76（07）： 1128-1142.

［31］儲舒婷. ChatGPT 火熱“出圈”，我們如何應對新挑戰［N］. 文匯報， 2023-02-05.

基金項目：國家社科基金重大項目“數字網絡空間的知識產權治理體系研究”（19ZDA164）。

Challenges and Responses of Generative Artificial Intelligence to theEducation Industry： Taking ChatGPT as the Object of Analysis

Bi Wenxuan

Abstract： Generative AI， represented by ChatGPT， has already caused a huge impact on various fields. By looking back at the development of ChatGPT and its operation principle， we can see that the generative AI represented by ChatGPT is scalable， composite and emergent compared with traditional AI， and its application in the education industry may bring many opportunities， including personalized tutoring， automatic essay scoring， language translation， interactive learning and adaptive learning. However， there are also risks associated with its embedding in education systems， such as lack of human interaction， limited understanding， bias due to training data， lack of creativity， dependence on data， lack of contextual understanding， limited ability to personalize instruction， and loss of independent thinking. Therefore， it is necessary to construct risk regulation principles including privacy protection principle， fairness principle， transparency principle， and information accuracy principle， and to clarify that the current generative AI still has great limitations due to its inability to fully understand specific contextual background， lack of independent thinking ability， and risk of algorithmic discrimination， etc.， and relevant users in the education industry need to pay full attention to it in the process of use. The relationship between generative AI and human teachers also needs to be coordinated.

Key words： generative artificial intelligence; education industry; ChatGPT; risk governance

（責任編輯 楊國興）