ChatGPT在高等教育應用中的風險審視與應對策略

賈 博，王國楨，鄭宏穎

(遵義醫科大學 馬克思主義學院，貴州 遵義 563006)

2022年末，由OpenAI公司推出的人工智能聊天機器人ChatGPT，一經問世便引起軒然大波，迅速火爆出圈，給各大行業予“未來已來”的神秘錯覺。ChatGPT在短短兩個月便能俘獲一個多億的活躍用戶，成為顛覆性與現象級應用，主要歸功于其強大的信息采集力、數據分析力、內容生成力、語言分辨力、心理洞察力以及深度學習力。通過大語言模型(Large Language Model，LLM)、強大算力與算法加持，擇取聊天內容上下文中的重要信息，并從龐大的數據庫將信息進行細致甄別、深度發掘與系統整合，進而生成符合用戶個性化需求的內容與答案。ChatGPT作為人工智能內容生成(AI Generated Content，AIGC)的里程碑式代表性應用，開啟了通用人工智能(Artificial General Intelligence，AGI)的新時代與新篇章。目前在編程、教育、醫療、金融、藝術等領域均可見到其廣泛應用。《科學》(Science)將人工智能內容生成列入2022年度十大科學突破。比爾·蓋茨也稱ChatGPT為其一生見到的兩項最具革命性技術之一[1]。ChatGPT的強位格降臨點燃了全球互聯網巨頭的競技熱情，谷歌、微軟、Meta、百度、阿里巴巴等紛紛拿出“應急產品”加入了這場科技戰爭。高等教育自然無法置身漩渦之外，有關ChatGPT與教育間的科學研究呈方興未艾之勢，大量國內外專家學者就ChatGPT對教育的利弊影響展開了激烈的討論與交鋒。面對來勢洶洶的ChatGPT，杰里米·韋斯曼稱其“是對教育的一場瘟疫”[2]，王佑鎂等用“阿拉丁神燈”和“潘多拉魔盒”來形容其教育應用的潛能與風險[3]。針對ChatGPT，高校應報以何種態度對待，是封禁還是擁抱？積極抑或消極？如何趨利避害？如何在強人工智能面前保留高等教育中人的尊嚴？怎樣引導師生以“向善”的姿態合理利用新技術進而推動高等教育縱深發展？以上成為高校亟待深入研究的時代之問。

一、ChatGPT應用于高等教育的現實特征

ChatGPT這一趨于臨近技術基點的智能應用展現出的卓越性能與巨大潛力，對高等教育領域產生了重大影響。就ChatGPT本身而言，Chat是應用與交互形式，即聊天。GPT為工作模型，目前已迭代升級至GPT-4版本，原GPT-3.5架構的參數量已有 1 750 億之巨，有消息稱GPT-4參數量有望達到100萬億，但OpenAI并未予以公布證實。ChatGPT基于LLM實現情景學習和生成式預訓練，通過反饋強化和深度學習實現生成內容的持續修正與完善。目前，ChatGPT可以較高質量地完成詩歌創作、論文撰寫、程序編輯、繪畫生成、外文翻譯、文案編輯等工作內容，并且GPT-4架構最大的革新在于其多模態生成與精準識別，從原本的單一文本形態擴充為視頻、音頻、圖像等多模態輸入輸出，功能愈加趨于完善。ChatGPT強大的生成能力受到了許多大學生的青睞，甚至私下里被“神化”推崇。例如，計算機系學生用ChatGPT來檢查代碼漏洞；醫學生嘗試用其生成診療方案；外語系學生用其實現快速翻譯與聽說訓練；金融系學生用其完成財務分析與報表審計等；音樂系學生用其實現歌詞創作與曲調伴奏等。凡此種種，ChatGPT表現出了足夠的智能化、個性化、定制化特征，確實讓大學生體會到了AGI的魅力。

(一)智能化

ChatGPT憑借多模態模型和深度學習力使其智能化在高等教育領域得以充分展現。ChatGPT具備空前強大的信息整合力，能夠根據學生幾個字符的提問深入大數據庫予以充分匹配，而后生成近千字答案，若學生對該生成結果不滿意，可以要求ChatGPT重新作答，直至符合學生需求為止。這一特點為學生查找學習資料、整合科研資料、提交學科作業提供了便捷，可助力智能化教學及評估。基于反饋強化機制，ChatGPT也在與用戶的不斷交互中逐步完善自身算法邏輯，越是與人交談，它就越能敏銳捕捉人類的思維方式與特定需求，進而優化自身性能，提升用戶智能體驗。ChatGPT以近乎無所不知的“智者”姿態面對學生提出的數學、英語、生物、甚至量子力學等學科的問題，均可交出“看似合理”的答卷。Study.com調查了 1 000 多名18歲以上學生對ChatGPT的使用情況，結果超過89%的學生承認曾使用ChatGPT幫助他們完成家庭作業。鑒于此，ChatGPT智能化特征和受學生歡迎程度可見一斑。

(二)個性化

ChatGPT在高校師生的個性化輔導與協助等方面具有廣闊應用空間。通用大模型在個體的教育生涯中具有明顯的賦權效應，能夠助力教育水平的提升。綜合來看，ChatGPT于高等教育領域的賦權效應主要體現于革新學習方式等方面。無論提問者是高校教師還是青年大學生，ChatGPT均能展現其“得力助手”的個性化一面。每個人作為生存于社會的獨立個體，其思想、心理、待人接物、個人需求等方面均存在差異性，ChatGPT憑借分析上下文對高校師生的個性特征予以揣摩，并根據提問者個性化需求匹配相應參數，進而提供符合高校師生預期的個性化內容，該運作模式對于高校師生的個性化自主學習、未來學習與終身學習影響深遠。因此，ChatGPT通過個性化生成助力高校師生個性化成長亦是其備受青睞的重要原因。

(三)定制化

ChatGPT的定制化特征凸顯于教學輔助及工具支持等方面：第一，ChatGPT數據庫及語料庫極度豐富，內中含有的知識與信息用海量形容亦不為過。高校師生可利用ChatGPT針對自身知識體系與知識架構進行查缺補漏。ChatGPT也能幫助高校教師針對不同階段的學生群體合理定制培養細則，進而形成類似于因材施教的培養態勢。第二，ChatGPT能夠打破既有的時空與技術壁壘，更好地改進人機交互形式，得益于其功能、算法、算力、數據庫及LLM的持續提升與不斷演進，大幅簡化了知識與信息的獲取難度，這對于高校師生獲取信息與儲備知識無疑提供了諸多便利。在此過程中，ChatGPT起到了類似“義肢”“輔腦”般的工具支持功用，為高校師生開展教育研究與科技創新提供了有力支撐。然而，盡管ChatGPT看似十分強大，其便捷與高效的內容生成能力更是為廣大師生所推崇，但它自身仍存在一定缺陷，致使部分專家學者對ChatGPT在高等教育中的應用持隱憂態度。

二、ChatGPT在高等教育應用中的風險審視

高等教育是建設人才強國和教育強國的關鍵環節，亦是實現中國式現代化的重要支撐，如何實現高等教育高質量發展與現代化愿景是近期學術界研究的熱點問題。ChatGPT的橫空出世為高等教育帶來了諸多顯性與隱性風險，主要涉及抄襲剽竊、技術濫用、侵犯隱私、功利主義、個人主義、科技倫理道德、意識形態問題等，對高等教育領域造成巨大沖擊，引發相關專家學者熱議。總的來說，原因有二：一是ChatGPT自身存在局限性；二是高校師生應用ChatGPT存在風險性。因此，葆有時代性和前瞻性地對ChatGPT應用于高等教育的風險加以酌情審視具有合理性與必要性。

(一)顛覆高等教育教學范式風險

ChatGPT開創了人機交互的新局面，創建了人機關系的新樣態，呈現出人機共生的新趨勢。但于高等教育領域而言，ChatGPT也蘊含教師地位邊緣化、學生學習“孤島”化、知識體系零碎化等隱憂。

1.ChatGPT的迅猛發展極有可能使傳統的“人—機”關系轉變為“機—師—機”“機—生—機”“機—師—生—機”與“機—生—師—機”。乍一看仍是人與機的交互形式，實則ChatGPT基于Transformer模型、LLM與強化反饋機制，將人類語境有機納入語料庫與數據庫，并通過自然語言的形式基于數字語境予以回應。若大學生群體習慣了ChatGPT隨時隨地作答的應用特性，頻繁接受ChatGPT單向度知識灌輸與內容生成，則易導致高校教師地位趨于邊緣化與透明化。高等教育的開展本身是雙向度的實踐活動，是既包含教育者引導受教育者對生命意義與學科知識進行學思踐悟，又包含受教育者通過內化與外化的形式將所學內容進行深化、所思內容予以呈現，進而反饋于教育者的生動實踐，教育主體與客體在該場域內都是鮮活的個體。而ChatGPT僅是冰冷的生成AI，盡管人類語境與數字語境賦能其強大的邏輯推導與內容生成能力，但其終究無法取代教育工作者。

2.高等教育開展過程是人與人之間知識、閱歷、情感與思維等因素的交流碰撞，是理論與實踐的本質耦合，是對學術能力與文明傳承的啟迪陶冶。該過程中，技術僅是輔助性工具，而ChatGPT則是以類似全能的“數字導師”姿態直接面向廣大高校師生授以所需知識，這意味著ChatGPT作為技術工具直接作用于人，將原本人與人間的關系轉變為人與技術的關系。在運用ChatGPT學習時，人們是分散的、原子式的信息接收點，學習者之間幾乎沒有交流[4]。換言之，大學生在應用ChatGPT進行學習時缺乏群體間的思想交互與情感分享，不利于群體性思想的孕育。久而久之，會導致大學生面臨學習孤島化風險，甚至造成大學生群體間情感疏離。

3.ChatGPT對學習者問題的回答大多是專題性質的[5]。基于數據訓練與語料堆砌，大學生向ChatGPT尋求答案時，ChatGPT往往可以合時宜地生成對話，迅速將答案羅列而出，但這種回答往往不夠詳盡與全面，即“所問即所得”。該回答范式無法激發高校師生延伸與貫通相關知識點的潛力，較難幫助他們確立系統的學科邏輯，不利于高校師生知識體系的脈絡梳理與系統建構。長此以往，高校師生將瀕臨知識體系碎片化的被動局面。

(二)消弭高校師生能力培養自主性風險

人才是高質量發展的基石，高等教育現代化與中國式現代化能否順利實現，其根本取決于人才的塑造及對其能力的培養。高等教育塑造的時代英才理應具備創新性能力、發展性眼光、前瞻性格局、國際性視野。但綜合看來，ChatGPT往往無法培養高校師生高階思維與自主能力。

1.ChatGPT作為生成式AI降低了知識獲取門檻，呈現出知識易獲取的技術特點，高校師生提問后僅需短暫等待便可得到單向度投喂。該過程中提問者甚至無需深度思考，僅掌握底層提問邏輯即可實現內容獲取，這無疑使高校師生創新性能力與創造性思維的培養面臨巨大挑戰。大學生若對ChatGPT產生應用依賴，習慣對知識的不勞而獲，久而久之，是否會對學習產生惰怠心理？甚至滋生“學習無用”“技術至上”等念頭亦未可知。

2.ChatGPT的數據庫存在信息滯后現象。如ChatGPT-3.5于2022年底正式發布，但其應用數據仍停留在2021年。換言之，ChatGPT的生成內容是原有數據的復現、拼接和堆砌，其自身并不能獨立實現數據更新。

3.高校教師適當運用ChatGPT進行教學輔助與作業批改可有效節省必要勞動時間，提高時間利用效率，然若側重于使用ChatGPT的便捷性設計教學過程與教學方案，則易使教學形式和內容形成固化，與高等教育創新性高質量發展理念相悖，并且ChatGPT存在嚴重的“技術黑箱”，其核心數據仍未開源，面對有挑戰性的未知問題其答案往往是胡亂拼湊或直接回答“我不知道”。長期接觸此類答案，難免會使部分高校師生沾染ChatGPT“陋習”，對學習產生得過且過的消極情緒與錯誤態度，這對于高校師生培養深度思考能力和攻堅克難精神亦是嚴峻挑戰。

(三)易引發科技倫理問題風險

縱觀近現代科技發展歷程，歷代顛覆性科技產物均對高等教育領域產生強烈沖擊，如互聯網、計算機、平板電腦與5G等，因此不難推測，作為AIGC里程碑的ChatGPT應用于高等教育領域進而“激起千層浪”是必然與已然事件。鑒于已有研究表明，ChatGPT實會引發層出不窮的科技倫理問題。

1.ChatGPT的信息準確性從根本上無法得到保障。ChatGPT坐擁海量參數，其內容十分駁雜，且數據存在“黑箱”，OpenAI也在官網聲明ChatGPT部分數據無真實來源，并且市面上尚未誕生可以檢測ChatGPT信息準確程度的相關工具。OpenAI迫于公眾施壓著手研發ChatGPT檢測工具，該工具是一個經過微調的GPT模型，可以推斷一段文本由AI生成的可能性，但其并不能檢測ChatGPT生成內容的可靠性與準確性。比如，ChatGPT生成過“林黛玉進大觀園”“99 999+9=100 000”等讓人啼笑皆非的回答。窺斑見豹，ChatGPT的信息傳播與內容生成顯然值得高校師生仔細推敲與細致甄別。若高校師生濫用ChatGPT，則可能釀成虛假信息于高等教育領域廣泛傳播的應用風險，甚至引發更為嚴重的科技倫理問題與教育風險。

2.ChatGPT對高校師生數據隱私安全構成威脅，原因有二：一是ChatGPT可極大降低軟件編寫成本，可以協助犯罪分子生成木馬程序或密碼破解程序實施網絡攻擊[6]；二是高校師生在與ChatGPT交互過程中會通過不斷提問的形式表達訴求，該過程可能涉及個人隱私泄漏、個人數據被不法分子非法運用等風險。

3.ChatGPT可能助長抄襲剽竊與侵犯知識產權等不正之風，但其作為生成式AI顯然不具備科技倫理意識，無法承擔科技倫理責任。

(四)恐誘發意識形態問題風險

技術的動態構成和極速迭代會造成社會生產的轉型，并最終影響到教育領域[7]。ChatGPT作為一項源于美國的強大自然語言處理技術，其在我國的應用可能會誘發一些意識形態問題。

1.ChatGPT可能生成與我國的意識形態相悖的內容。由于ChatGPT是基于大量的訓練數據深度學習后生成文本，若訓練數據集中存在某些與我國意識形態不一致的信息，則ChatGPT生成的文本可能會與我國的價值觀和政策相沖突。這種情況可能導致輿論混亂甚至社會不穩定。現有OpenAI訓練LLM與數據庫的主要語種為英文，因此，ChatGPT生成內容更多映射出的是西方的主流價值觀，充斥著較強的個人主義、自由主義、功利主義等不良思潮。我國高校師生運用ChatGPT時難免遭受或顯性或隱性的不良思潮滲透，從而增加誘發意識形態問題的可能性與不確定性。例如，對其提問:“中國的民用氣球飄到美國，美國可不可以將其擊落？”答：“美國軍方有權擊落該氣球。”問:“美國的民用氣球飄到中國，中國可不可以將其擊落？”答：“如果民用氣球飄到中國領空，并未造成危險，那么中國不能擊落它。”[8]由此可見，ChatGPT具有意識形態傾向性，而非保持政治中立。

2.ChatGPT技術可能被應用于操縱和誤導公眾輿論。惡意利用ChatGPT技術可以自動生成虛假信息、謠言或政治宣傳，可能加劇互聯網信息碎片化和謠言泛濫傳播等問題，會進一步削弱人們對真相的判斷能力，從而影響高校師生對特定事實的理性認知。盡管目前還沒有明確的案例表明ChatGPT技術被用于操縱和誤導公眾輿論，但有一些相關的案例可以提供借鑒參考。例如，Deepfake技術應用的迅猛發展就曾引起過人們關于虛假視頻泛濫的擔憂。這種技術可被用于通過將某人的臉部合成到另一個人的身上，從而制作出以假亂真的虛假視頻。雖然Deepfake技術和ChatGPT技術不盡相同，但它們都屬于新的人工智能技術，都可能被濫用于操縱和誤導公眾輿論。對此，高校師生應保持高度的思維理性。

三、高校應對ChatGPT應用風險的有效策略

ChatGPT所蘊含的風險與挑戰引發了教育界的極度恐慌，一時間眾多國際知名高校紛紛制定相關政策，限制師生使用如“洪水猛獸”般的ChatGPT。巴黎政治學院、圖賓根大學、香港大學等明文禁止大學生使用ChatGPT或AI工具完成作業，美國紐約與西雅圖、澳大利亞的昆士蘭州和塔斯馬尼亞州等地區所有公立高校亦是嚴禁ChatGPT進入校園。上述舉措“重堵”而非“重疏”，乃滯留問題表相而無拂問題根本之舉。習近平指出：“自古以來，科學技術就以一種不可逆轉、不可抗拒的力量推動著人類社會向前發展。”[9]簡單的“一刀切”式禁用顯然放大了ChatGPT的應用風險，而忽略了ChatGPT的技術效用與技術紅利。回首科技發展史與人類文明發展史，作為萬物之靈的人類面對科學挑戰與技術威脅取得了一次次輝煌勝利，此次亦應如是。綜上，高校師生不應“談ChatGPT色變”，不能害怕問題繁瑣與泛化就貿然對ChatGPT說不，而應是以動態開放的、葆有思維理性的姿態審慎擁抱ChatGPT。至于ChatGPT攜帶的諸多風險，高校應從提升師生人工智能素養、增強師生思想政治定力、激發師生科技倫理主動三方面著手予以應對。

(一)聚焦提升高校師生人工智能素養

學術界不乏有關人工智能素養的研究，但目前針對其概念與內涵尚未達成統一共識。結合當今技術特質與時代需求，本文認為人工智能素養應包含但不局限于信息素養、媒介素養、數字素養等要素于一身的一種綜合素質，是蘊含AI知識、AI邊界、AI規范等要素的AI應用邏輯養成，是人類合理、合情、合法應用AI的重要能力。面對日新月異的人工智能發展境況，尤其是敲響警鐘的ChatGPT應用，高校因時因勢開設人工智能教育具有必要性與科學性。人工智能教育是指以人工智能技術為教育內容，以培養多層次的、具有人工智能素養的專業人才為目標，設置人工智能專業或課程，讓學生學習人工智能技術的相關知識、原理并加以應用的教育形態[10]。人工智能教育應呈現開放、多元與動態等特性，其教育內容應緊隨時代與科技發展同步更新。通過人工智能教育培養大學生人工智能素養，提升其對ChatGPT的信息辨析力與應用規范性，營造“人師”與“機師”和諧共鳴的學習生態：一可有效擺脫對ChatGPT內容盲從和技術依賴的桎梏，走出“信息繭房”與“學習孤島”；二可助力高等教育數字化轉型，推動高等教育高質量發展。育人先育己，高校教師肩負為國育才和科技創新的雙重職責，更需要充分發揮先鋒帶頭的重要作用，堅守育人初心，著力提升自身人工智能素養，增強抵御ChatGPT風險的自適應能力與崗位勝任力。

(二)堅定增強高校師生思想政治定力

ChatGPT海量參數中呈現出強烈的西方主流價值觀，充斥諸多不良思潮，隱含意識形態滲透風險，并且ChatGPT當前處于技術壟斷的霸權地位，其應用于高等教育后可能會對既有教育范式構成威脅，對高校師生已構建成的符合我國社會主義現代化強國建設的主流價值觀造成沖擊。因此，高校有必要充分發揮自身意識形態前沿陣地的引領作用，以思想政治教育為龍頭，結合各高校實際情況制定防范策略，以提高師生政治站位，增強師生思想政治定力，培養師生恪守意識形態安全能力。思想政治教育具有凝心鑄魂的價值蘊含，能增強高校師生對中國特色社會主義道路、理論、制度與文化的感知認同，有利于高校師生培養科學的世界觀與方法論，強調引導高校師生尊重社會公德，堅守公序良俗、培育踐行社會主義核心價值觀。這為高校師生抵御自由主義、經驗主義、結果主義、功利主義等不良思潮侵蝕提供重要精神支撐，為辨別抵制涉及暴力血腥、淫穢色情、侵犯隱私、民族歧視、分裂國家等負面內容提供理論根基與判斷依據。幫助高校師生科學認識和理性使用ChatGPT的生成內容，可有效降低高校師生應用ChatGPT引起意識形態問題的發生率與風險性。

(三)著重激發高校師生科技倫理主動

習近平明確指出:“科技是發展的利器，也可能成為風險的源頭；要前瞻研判科技發展帶來的規則沖突、社會風險、倫理挑戰。”[11]中共中央辦公廳、國務院辦公廳也于2022年印發了《關于加強科技倫理治理的意見》，其中明確指出要鼓勵高校開設科技倫理教育相關課程，教育青年學生樹立正確的科技倫理意識，遵守科技倫理要求[12]。高校師生濫用ChatGPT無疑會增加學術抄襲與學術糾紛等發生的可能性，這正需要較為健全的科技倫理教育發揮重要支撐引導作用，以降低ChatGPT的入侵風險。

1.科技倫理教育能夠提升高校師生守正創新能力。針對ChatGPT，守正不是要求高校師生固守傳統高等教育范式、全面禁止應用ChatGPT，而是著重于引導高校師生守正道、走正路、不跑偏，知紅線、守底線，合乎要求地酌情應用新興科技。創新亦不是ChatGPT簡單的數據重組與堆徹便足夠，而是基于高水平科技自立自強理念，高校師生負責任地應用創新。

2.科技倫理教育講究前瞻性問題研究，注重塑造學習者未雨綢繆的能力。科技倫理教育通過預先開展ChatGPT的風險研判，清晰界定ChatGPT的應用邊界，可有效培育高校師生前瞻思維、批判思維與創新能力等高階素養，助力高校師生與ChatGPT良性互動，進而對自身的知識體系有所補益。因此，高校亟待以科技倫理教育為抓手，培養高校師生“科技向善”的科技倫理理念，激發高校師生科技倫理主動，引導師生群體負責任地駕馭ChatGPT等AI應用。