從生成到創造：ChatGPT人工智能內容生產在高校的應用風險＊

內蒙古大學 周雨霆 張潔雅 盧艷芹

ChatGPT 自問世以來就在全球范圍內引發熱議，隨之關于AI 可實施性的考量與憂慮在各行業引發廣泛關注。在數字時代背景下，人類享受AI 帶來技術紅利的同時，其自帶的風險也將乘勢而入，比如，學習異化風險、教學異化風險、價值觀轉向風險等。為有效應對這些風險和挑戰，我們應加強自主性學習引導，做技術的“主人”；強化學術倫理認知，做有“德性”的人；加快技術換代革新，更新識別、監督技術。在技術時代中，適應新型技術介入教育生態已成為教育發展的必然趨勢，既要以積極樂觀的態度面對AI 的發展，也要警惕技術發展對教學育人帶來的不良影響，以此引領未來高校教育的發展方向，促進新型高校教育生態的良性循環。

隨著AI 的不斷發展，全球各地的學校教育正在努力將數據分析、機器學習和人工智能等新興技術應用于課程內容、教學方式和評價體系中。ChatGPT 進入高校的趨勢已經避無可避，生成型強人工智能等新型技術介入教育生態，對目前高校教育發展帶來了極大的不確定性，因此，需要審慎地思考其中的利弊，在享受技術給教育帶來紅利的同時，警惕其潛在風險。在我國實現科技強國的征程中，要謹慎預防AI 對我國教育的不良影響，提前進行風險預測并給出相應措施，這對加快我國教育現代化進程具有重要的現實意義和時代價值。

1 ChatGPT 的時代之用

OpenAI 公司推出了一款AI 聊天機器人ChatGPT，即Chat Generative Pre-trained Transformer（預訓練的聊天生成轉換器）[1]。在其本質上，ChatGPT 是一個大型語言模型（LLM），采用“從人類反饋中強化學習”（RLHF）的訓練方式，對人類的文字語言和自然語言進行理解和處理，進而達到聊天的效果。因此，也可以將其理解為是一種基于GPT 模型的對話生成模型，它可以從輸入的文本中理解語義信息，自主地生成回復。ChatGPT 通過自我式、無監督的學習方式不斷提高自身的對話能力，減少依賴于人工標注的數據收集，旨在生成更加復雜、自然、流暢的回復。

1.1 ChatGTP 生成的技術基礎

數據是生成式人工智能的基礎，語料體系是語言模型的基礎。生成式人工智能是在數據和語料體系下形成的語言模型生成式系統。當今數字世界不斷完善，使得ChatGPT 可以從中任意吸取并輸出數據，這一切的運作必須以數據為基礎，在此之后才能建構生成式人工智能的語言模型。語料體系既包括預訓練語料中，如從書籍、雜志、百科、論壇等渠道收集的數據；還包括微調語料，如從開源代碼庫爬取、專家標注、用戶提交等方式收集和加工的高質量有標注文本的數據[2]。

算法是生成式人工智能的基本結構。ChatGPT 是一種基于神經網絡的自然語言處理模型，采用Transformer結構的算法，即將問題分解成諸多節點（神經元），讓其自動互聯和構成。具體來說，ChatGPT 是由其開發的一系列Transformer 模型組成的，Transformer 是一種使用自注意機制來處理序列數據的神經網絡結構，可以高效地對長序列進行建模，這種建模使得機器善于利用基礎的神經元連接的生成原則，學習和模仿任何與之對話的對象，并通過語言轉化體現在表述之中，因此，在自然語言處理領域有著廣泛應用。簡單來說，人類與生成式人工智能對話越多，提出的要求越復雜，越有利于“神經網絡算法”的生成。

算力為生成式人工智能提供強大的動力。AI 擁有的數據、語料體系、神經網絡處理模型還遠不足以與人類達成聊天對話的現實效果，還需要極其強大的算力作為支撐。ChatGPT 首先要理解和處理人類的信息，其次進行自身數據的篩選和整理，在短時間內反饋給全部用戶所需要的信息，這無疑是一個龐大的數據工程，算力是其中不可缺少的一環。

1.2 ChatGPT 的“人性”創造

ChatGPT 是一款強人工智能聊天機器，采用GPT-3.5架構的大型語言模型進行強化學習訓練。作為AI 助手，ChatGPT 主要通過文本聊天的方式與人類進行對話，其背后強大的自然語言處理技術可以分析和理解人類的語言，進而實現類似于人的創造性答復。在與用戶進行對話的過程中，它可以不斷學習并優化自身模型，提升回復的質量和準確性，從而更好地滿足用戶的需求。這種訓練模型克服了上一代智能機器人語言表達的“非自然語言式生成”，具有理解上下文語境和揣測人類意圖的能力，能為人類提供高效的人性化語言服務。

這種“人性”創造主要體現在三個方面。首先，ChatGPT 是一種以聊天為核心進行拓展的應用型創造。用戶第一次向其提問之后，它會“人性”地思考、解析問題并作出回復，而傳統的搜索引擎只是用關鍵詞檢索相關內容；其次，它真正意義上實現了人機互動，即沿著一個問題進行不斷地、深層次地探討。這種創造與再創造的對話內容，使用戶自然而然地將其當作“人”的回復，而不是一個木訥、呆板的機器檢索；最后，用戶向其提出一些違背法律道德的問題，ChatGPT 給出回復后并告知用戶不建議這樣做。由此看來，ChatGPT 已經初步擁有了倫理道德規范，將其認定為具有思考力的人工智能毫不過分。

2 ChatGPT 在高校的應用風險

2.1 學習異化風險

2.1.1 學生主體性異化風險

高校學習的主體是學生，ChatGPT 地出現可能會引發學生主體性異化風險。新時代學生不是被動消極地接受教育，而是有個體能動性、創造性地主動學習。面對高強度、高壓力的數據整理、論文寫作等學習任務，部分學生選擇使用AI 搜尋答案。人工智能產品的快速發展，使信息收集整理變得快速高效、數據分析變得專業可靠，但學生卻逐漸從技術的“主人”淪落為技術的“奴隸”。

首先，如果長時間沉迷于數字世界，學生的身體健康難以保證。如誘發近視、頸椎病、眼干燥癥、肌腱炎等“電子病”[3]，身體極有可能被技術控制與支配，變得再也離不開技術。這種情況下，技術本來作為身體的延伸工具，在不知不覺中卻成了身體的一部分。

其次，ChatGPT 在自己數據范圍之內有問必答，它的回答一般來說是有邏輯的、精確的。智能算法可以對學生的提問進行精準“投喂”[4]，在給學生提供個性化輔助的同時，它會不自覺地引導學生思維，剝奪學生自由學習、自主探索的想法和能力。學生學習再也不是自己搜集資料之后進行理解與反思，只是不斷追問AI 得出多個答案。學生的主體性漸漸消弭，再也不愿意走出學習的“舒適區”，最終只能淪為技術的“奴隸”。

最后，學生沉迷于ChatGPT 會導致其創造性思維不斷消減。學生在利用ChatGPT 完成作業的過程中，其只獲得單向的知識灌輸與投喂，幾乎不再需要思考，只要等待答案的生成即可，進而形成一種“機器的人化”與“人的機器化”的背反[5]，此時，人的創造主體性已經瓦解。當一個學生放棄了自身創造性的一面，高校教育想要培養的人才又該從何而尋，高校教育的目的又該怎么設置？

2.1.2 師生知識異化風險

學習最直接的目的是獲取知識，ChatGPT 地出現可能會導致師生知識異化風險。基于數據和算法體系，AI給出的回應大多是公認的數據，它可以為我們提供知識的定義或相關見解，但并不能理解怎樣使用知識。

該類知識的真實性、權威性、適用性有待考證。數字世界中的AI 收集大量數據，通過算法將其整合、分析，最后生成屬于它的回答。而高校師生的問題一般是針對性、專業性的知識型問題，AI 生成地回答不應盲目信服。一部分初始數據的真偽沒有經過人類確證，ChatGPT 可能會搜集到“偽知識”型數據。算法不是大腦，它不會進行思考，只能通過比較數據之后，站在多數數據一方，這樣草率地選擇知識顯然是存疑的。一旦知識的真實性受到懷疑，知識的權威性便會遭到質疑，整個知識領域會變得混亂不堪，知識本身也會受到致命的打擊。

知識碎片化現象加劇，難以形成知識網。在使用AI時，師生作為主動提問方，只會提問自己感興趣的、與自身專業高度相關的問題。AI 給出的回答我們無法理解其思維方式，只能不斷加以追問。師生對于某一方面的知識深度不斷增加，但知識廣度卻不曾擴大。尤其對于學生來說，他們獲取的知識是碎片的，無法在大腦中形成知識網絡。學生被動地接受某一領域的知識，缺乏完整的知識體系，其創新型思維又該如何培養？

2.2 教學異化風險

ChatGPT 是人工智能聊天機器人，而教師與學生是現實、鮮活的個人。因此，教學不僅僅是簡單的知識傳授，更在于生命意義上的體悟與升華。換言之，教學過程是主體對生命意義的建構和體驗過程。將AI 引入教育領域的根本目的是優化教學，這種美好的愿望背后隱藏著教學異化風險，需要謹慎地對待。

在教學之前，教師需要提前收集資料，結合教師個人特色進行課程設計并給出教學計劃。AI 技術介入教學之后，教師可以使用其進行資料收集、課程設計，而AI無法認知同一專業領域教師的個人偏好及特點，這可能會導致不同學校相同專業的老師教學內容近乎一致，教學出現絕對化和凝固化趨勢。在教學過程中，教學內容可能轉變為轉述數據，教學應有的生成性和體驗性蕩然無存。一般來說，課堂教學是圍繞一個主題進行發散性思考，師生間進行思維碰撞、翻轉課堂。同時，教學是一個不確定、不可預設的過程，教師需要有處理課堂意外情況、適應不同班級的能力，因材施教。

豐富的師生互動是不可缺少的。AI 的介入會代替教師完成一些教學任務，甚至是取代教師，但它也會造成師生之間缺少眼神交流、情感共鳴等聯系，不能及時發現和解決學生的問題或關照學生的情緒。這樣的教學是冰冷的，沒有人文關懷的，只是不斷地給學生灌輸知識。人機教學模式在人生閱歷、情感互動等方面遠遠不及當前的師生教學模式。此外，教學也不僅僅局限于知識層面，教師的首要任務是育人，大到要培養學生正確的三觀，小到關心學生的日常生活、情緒變化。教學應該是一個有“人情味”的過程，是不同思想和情感的碰撞與交融，絕不是單向的知識灌輸。

2.3 價值觀轉向風險

2.3.1 學術誠信風險

ChatGPT 擁有較強的邏輯思維和批判思維，寫作能力極佳，可以在少數關鍵詞的提示下完成高度逼真的論文，也因此引發了大眾對于師生學術誠信方面的擔憂。一方面，ChatGPT 生成的學術論文、個人簡歷等作品質量極高，在考核中有很大的概率會取得一個較高的成績，而大部分人無法分辨這是師生本人的創造還是人工智能產品的生成，評估機制完全失效。這樣就會導致學術誠信、信任危機以及教育是否公平等價值觀問題。另一方面，一部分人認為AI 所生成的學術論文等作品是師生在其個體意識的引導和操控下產出的。因此師生才是真正的作者，ChatGPT 只起輔助作用，不能將該類型作品當作學術造假、學術不端的行為，應該轉變價值觀，以包容的態度看待此類作品，這種極端的認識令人更加擔憂。

2.3.2 創新思維與實踐意識退化風險

師生如果對AI 產生過度依賴，將會陷入“舒適區陷阱”，這就造成學習者不斷提問，AI 不斷解答的惡性循環。人類可能在技術“黑箱”中迷失，甚至可能出現“遇事不決，便問機器”的懶惰與“人假機威”的自大[6]。從此，人類永遠無法擺脫數據庫的信息，思考逐漸方式固化，創新思維不斷退化。更可怕的是，自身卻沒有類似的認識與體悟，還在為不用思考而感到竊竊自喜。AI所生成的看似創新的內容，其實只是一些已有知識的重新組合，遠遠談不上創新，對它進行持續性地提問，師生的創新思維不會提升，反而會退化與消弭。與此同時，一些問題只有在實踐中才能得以解決或確證，師生若不加以反思，將本需自身實踐的內容拱手讓給技術，雖然AI 在一瞬間就可以給出用戶精確的答案，但我們的實踐能力會不斷退化，實踐意識也終將隱退。

2.3.3 師生關系淡化風險

教學過程中由于ChatGPT 的介入，師生互動與情感交流減少，教學逐漸變得沒有“人情味”，學生對技術的信任可能會超過對教師的尊敬。ChatGPT 的過度使用可能會威脅教師地位，學生上課不專心聽講，在課后形成尋求AI 幫助的心理和沖動。久而久之，課堂互動環節減少，教學進入惡性循環，教育的質量和效果將大打折扣。在專業領域方面，AI 給出的答案甚至更為深入詳盡，學生對教師崇拜和尊敬的心理可能會轉變為懷疑與不屑，教師地位危機由此出現，尊師重道的傳統美德也可能將被顛覆。盡管AI 帶來了更多的便利和多樣化，但如果師生不能適應它的變革，師生關系、教師地位將會發生不可預知的改變。

3 風險應對策略

ChatGPT 的應用給高校教育帶來的機遇和風險需要長時間地實踐探索。數字時代背景下，適應AI 教育的變革已經成為教育發展的必然趨勢，我們不能坐以待斃，應注意潛在的風險并未雨綢繆，制定合理的使用準則和標準，以輕松自然的心態享受技術紅利，推動未來教育的發展，保證高校教學育人的良性循環。

3.1 加強自主性學習引導，做技術的“主人”

新型AI 介入高校教育，由于其便捷的操控方式、精準的解答內容，深受學生青睞，依賴心理不免油然而生，技術紅利反而成為“技術鴉片”，不斷摧殘學習者的學習信念、侵蝕使用者的創新思維、實踐意識，極有可能造成學習異化。因此，高校教育需不斷加強學生自主性學習引導，強化學生對于學習目的、學習過程、學習意義等方面的深刻認知，教學應培養學生學習主體意識，構建“以學習為中心”的課堂教學模式；學生應根據個人實際情況，自覺而又靈活地調整學習策略，將學習看作是一種全過程提升自我的訓練。AI 的發展勢必會對高校教育帶來沖擊，學習者應化沖擊為契機，將其作為學習的工具，為自身提供個性化支持，實現互動式學習，方便自我反思和評價。在學習過程中，學生應當認清自己才是學習的主體，發揮主觀能動性，強化自主性學習認知，使用技術的同時做技術的“主人”。

3.2 強化學術倫理認知，做有“德性”的人

在教育生態中，技術的更新迭代是為了促進教育現代化的發展，而非讓技術一勞永逸地替代人類。目前，AI 是否會導致學生作弊、學術誠信危機等風險已成為社會普遍擔憂的問題，最佳的方式應該是合理規范使用，而非絕對禁止。一方面，培育和提升師生的倫理素養，強化學術倫理道德培育，引導師生合理規范使用，營造良好的學術生態；另一方面，除了依靠內在約束，學校還要建立起明確的學術倫理規章制度，以剛性約束手段倒逼使用主體深化對學術倫理規范的認知，從而增強對學術的敬畏，對知識的尊重、對真理的熱愛。高校教育的首要目的是育人育才，學術研究的主要目的是探索知識、追求真理，做人與做學問是相互交融的，有“德性”之人才能規范使用技術，做強學術研究。因此，高校在轉換教育范式，提升教育層次，全面將知識教育升級到更高層次的智慧教育的同時[7]，還應強化學術倫理培育力度，加強價值觀層面引導，培育有“德性”的人。

3.3 加快技術換代革新，更新識別、監督技術

AI 生成內容的真實性、權威性等方面受到的質疑，歸根結底是對現階段技術發展的質疑。應對此類問題及風險，還應“以技促技”，加快技術的換代與革新，更新完善數據庫，研制更快、更強、更準的算法體系，不斷強化算力，盡可能地轉向“人腦”智能，賦予其更多情感、意識等人類機能地體驗，通過技術革新解決技術風險。在技術時代中，應“以技治技”，提升識別、監督技術。相應部門應創造指向性明確的算法體系，將其應用到檢索引擎專門識別AI 生成的作品，再根據各高校的規章制度實施彈性管理。在監督方面，可以創新算法，使AI 具有識別學術性問題的能力，創造自身獨有的數據存儲庫，方便后續的查詢與監督。此外，ChatGPT 在高校應用的利弊取決于高校師生對教育和技術二者關系的認知。教育的核心是育人，工具只是輔助，只有清晰地認識到人與工具的關系，才能有效利用技術優勢，推進高校教學育人的良性循環。

4 結語

AI 火速出圈給教育帶來了機遇與挑戰，ChatGPT 的出現使得人類社會智能發展格局發生重塑性變化，在這全新的人機交互模式下，還能在哪些方面保持自身特性從而發揮人類的獨特優勢呢？目前，AI 發展的潮流勢不可擋，面對新型AI 的沖擊，或許應該重新思考“教育應該培育什么樣的人”以及“怎樣培育人”的問題。在技術格局下，高校應回歸教育本位，培育創新思維與創新型人才，探索人機和諧共生的發展模式，推動“AI+教育”的深度融合，建構一個現代化的人類未來智能教育圖景。