生成式人工智能賦能教育領(lǐng)域的技術(shù)優(yōu)勢與風(fēng)險(xiǎn)應(yīng)對策略

隨著人工智能技術(shù)的迅猛發(fā)展，生成式人工智能（Generative AI）在教育領(lǐng)域的應(yīng)用日益廣泛。探討生成式人工智能技術(shù)在教育中的優(yōu)勢以及相應(yīng)的風(fēng)險(xiǎn)，并提出有效的風(fēng)險(xiǎn)應(yīng)對策略成為教育領(lǐng)域亟待關(guān)注的技術(shù)賦能問題。生成式人工智能具有提供個(gè)性化學(xué)習(xí)支持、實(shí)現(xiàn)自適應(yīng)教學(xué)方法和提高教育資源普及性等技術(shù)優(yōu)勢，但是其數(shù)據(jù)隱私與安全性的缺失、人工智能偏見與歧視、人際交流與情感支持的喪失等風(fēng)險(xiǎn)給教育領(lǐng)域帶來的可能性風(fēng)險(xiǎn)，需要通過加強(qiáng)數(shù)據(jù)隱私保護(hù)與安全措施、減少人工智能偏見與歧視的影響以及強(qiáng)調(diào)人際交流與情感支持等教育性途徑加以應(yīng)對。

生成式人工智能（Generative AI）是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。其本質(zhì)是一個(gè)無監(jiān)督或部分監(jiān)督的機(jī)器學(xué)習(xí)框架，并通過使用統(tǒng)計(jì)學(xué)、概率等生成人工遺跡。[1]近年來，借由通用語言模型不斷迭代引發(fā)的諸領(lǐng)域變革性討論正是生成式人工智能創(chuàng)新性引用的體現(xiàn)，OpenAI不斷推出的ChatGPT系列更成為介入教育領(lǐng)域的前沿話題。當(dāng)前，生成式人工智能技術(shù)在賦能教育主體、客體、內(nèi)容、方法、途徑、管理、評價(jià)等諸多領(lǐng)域均展開實(shí)踐探究，同時(shí)各種前所未有的新興風(fēng)險(xiǎn)也逐漸涌現(xiàn)。基于此，有必要全面剖析生成式人工智能融入教育領(lǐng)域的技術(shù)優(yōu)勢，預(yù)判其可能存在的風(fēng)險(xiǎn)，并提出可行的風(fēng)險(xiǎn)應(yīng)對措施，以期實(shí)現(xiàn)生成式人工智能賦能教育領(lǐng)域，以技術(shù)推動(dòng)鑄魂育人。

生成式人工智能融入教育領(lǐng)域的技術(shù)優(yōu)勢

當(dāng)前，隨著類ChatGPT技術(shù)的不斷更新進(jìn)步，生成式人工智能已被廣泛應(yīng)用于人類社會(huì)生活的眾多領(lǐng)域，并彰顯出獨(dú)樹一幟的技術(shù)優(yōu)勢。其能夠促進(jìn)教育的個(gè)性化、即時(shí)化、自適應(yīng)化和多樣化，為教育的改革和發(fā)展提供了新的機(jī)遇和可能性。

（一）提供個(gè)性化學(xué)習(xí)支持

個(gè)性化學(xué)習(xí)是通過生成式人工智能技術(shù)實(shí)現(xiàn)的一種教育方法，它能夠根據(jù)學(xué)生的學(xué)習(xí)風(fēng)格、興趣和學(xué)習(xí)進(jìn)度，提供定制化的學(xué)習(xí)資源和教學(xué)活動(dòng)。在學(xué)習(xí)平臺(tái)如Khan Academy和Coursera等的應(yīng)用中，個(gè)性化學(xué)習(xí)已被證明對提高學(xué)習(xí)效率和成績有顯著影響。這些平臺(tái)利用生成式人工智能技術(shù)分析學(xué)生的學(xué)習(xí)數(shù)據(jù)，推薦適合其學(xué)習(xí)風(fēng)格和水平的課程內(nèi)容和學(xué)習(xí)路徑，從而為學(xué)生提供了個(gè)性化的學(xué)習(xí)支持。[2]這種個(gè)性化學(xué)習(xí)支持可以通過智能教育系統(tǒng)的數(shù)據(jù)分析和學(xué)習(xí)算法來實(shí)現(xiàn)，例如推薦系統(tǒng)、學(xué)習(xí)路徑優(yōu)化等。ChatGPT等生成式人工智能所提供的定制化學(xué)習(xí)體驗(yàn)有助于提高學(xué)生的學(xué)習(xí)效率和成績，同時(shí)也增強(qiáng)了他們的學(xué)習(xí)動(dòng)機(jī)和參與度。

（二）實(shí)現(xiàn)自適應(yīng)教學(xué)方法

生成式人工智能技術(shù)還可以實(shí)現(xiàn)自適應(yīng)教學(xué)方法，即根據(jù)學(xué)生的學(xué)習(xí)情況和反饋信息，自動(dòng)調(diào)整教學(xué)內(nèi)容、難度和節(jié)奏，最大程度促進(jìn)學(xué)生個(gè)人的學(xué)習(xí)進(jìn)步。EdTech公司Squirrel AI在中國的一項(xiàng)研究中展示了自適應(yīng)教學(xué)方法的潛力，他們的智能教育系統(tǒng)利用機(jī)器學(xué)習(xí)算法分析學(xué)生的學(xué)習(xí)行為和表現(xiàn)，根據(jù)個(gè)人的學(xué)習(xí)需求和能力水平，動(dòng)態(tài)調(diào)整教學(xué)內(nèi)容和難度。這種自適應(yīng)教學(xué)方法有效地提高了學(xué)生的學(xué)習(xí)效果，同時(shí)在國內(nèi)外學(xué)術(shù)期刊上發(fā)表了多篇研究論文支持其效果。生成式人工智能所提供的自適應(yīng)教學(xué)方法依賴于智能教育系統(tǒng)對學(xué)生學(xué)習(xí)數(shù)據(jù)的實(shí)時(shí)監(jiān)測和分析，通過機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘技術(shù)來識(shí)別學(xué)生的學(xué)習(xí)需求和弱點(diǎn)，從而提供針對性的學(xué)習(xí)支持和指導(dǎo)。

（三）提高教育資源普及性

生成式人工智能技術(shù)可以通過在線教育平臺(tái)、虛擬教學(xué)助手等形式，將教育資源和服務(wù)擴(kuò)展到更廣泛的學(xué)生群體。通過智能教育系統(tǒng)的互動(dòng)學(xué)習(xí)環(huán)境，學(xué)生可以隨時(shí)隨地訪問高質(zhì)量的教育資源，進(jìn)行自主學(xué)習(xí)和課程學(xué)習(xí)。Massive Open Online Courses的興起為提高教育資源的可及性提供了有力的證據(jù)。平臺(tái)如edX和Udacity等為全球?qū)W生提供了免費(fèi)或付費(fèi)的高質(zhì)量課程，通過生成式人工智能技術(shù)實(shí)現(xiàn)了個(gè)性化學(xué)習(xí)支持和自適應(yīng)教學(xué)方法。這些平臺(tái)的成功案例表明，生成式人工智能在提高教育資源的可及性方面發(fā)揮了重要作用。生成式人工智能通過提供個(gè)性化和數(shù)字化的教育資源，有助于彌補(bǔ)地區(qū)教育資源不足的問題，提高教育的普及性和公平性。

可以預(yù)見，生成式人工智能基于在未來極有可能重塑教育者與受教育者之間的互動(dòng)關(guān)系，革新教育內(nèi)容和方法，提升教育管理和評價(jià)的效率，助力建立更加靈活、多樣化和普惠性的教育體系。

生成式人工智能融入教育領(lǐng)域面臨的風(fēng)險(xiǎn)

生成式人工智能融入教育領(lǐng)域?yàn)榻逃膫€(gè)性化、智能化發(fā)展提供了強(qiáng)大的技術(shù)驅(qū)動(dòng)，然而“技術(shù)總是同時(shí)打開兩個(gè)相反的可能性”，[3]智能技術(shù)作為一把“雙刃劍”，在為教育領(lǐng)域帶來無限可能的同時(shí)，其面臨的數(shù)據(jù)隱私與安全性的缺失、人工智能偏見與歧視以及人際交流與情感支持的喪失等問題也大大增加了教育發(fā)展的不確定性。

（一）數(shù)據(jù)隱私與安全性的缺失

生成式人工智能技術(shù)在教育領(lǐng)域的應(yīng)用需要大量的學(xué)生學(xué)習(xí)數(shù)據(jù)訓(xùn)練模型，這些獲取的和網(wǎng)絡(luò)爬蟲抓取的數(shù)據(jù)涉及個(gè)人隱私和敏感信息。2018年，美國一家在線學(xué)習(xí)平臺(tái)Coursera曾因未經(jīng)許可共享用戶數(shù)據(jù)而面臨訴訟。這一事件引發(fā)了對在線教育平臺(tái)數(shù)據(jù)隱私保護(hù)的關(guān)注，提醒教育機(jī)構(gòu)和技術(shù)提供商加強(qiáng)數(shù)據(jù)隱私保護(hù)與安全措施，確保學(xué)生學(xué)習(xí)數(shù)據(jù)的合法使用和保護(hù)。因此，教育機(jī)構(gòu)和技術(shù)提供商需要采取有效的數(shù)據(jù)保護(hù)和安全措施，防止數(shù)據(jù)泄露、濫用和未經(jīng)授權(quán)的訪問。此外，還需要考慮數(shù)據(jù)共享和轉(zhuǎn)移的合規(guī)性，以確保學(xué)生數(shù)據(jù)的合法使用和保護(hù)。

（二）人工智能偏見與歧視

生成式人工智能算法可能受到訓(xùn)練數(shù)據(jù)的偏見影響，導(dǎo)致在教育領(lǐng)域出現(xiàn)歧視性結(jié)果和不公平對待的問題。例如，如果訓(xùn)練數(shù)據(jù)集中存在性別、種族或經(jīng)濟(jì)地位等方面的偏見，那么生成的智能教育系統(tǒng)可能會(huì)對某些學(xué)生群體產(chǎn)生不公平的影響。研究人員曾發(fā)現(xiàn)一些在線學(xué)習(xí)平臺(tái)的推薦系統(tǒng)存在性別、種族和地理位置等方面的偏見。例如，某些推薦算法更傾向于向男性學(xué)生推薦STEM領(lǐng)域的課程，而向女性學(xué)生推薦人文科學(xué)類課程。這種人工智能偏見的存在引發(fā)了對教育平臺(tái)算法公正性和平等性的擔(dān)憂。因此，教育機(jī)構(gòu)和技術(shù)提供商需要采取措施來檢測和糾正人工智能算法中的偏見，確保教育資源和機(jī)會(huì)的公正分配。

（三）人際交流與情感支持的喪失

生成式人工智能教育系統(tǒng)可能會(huì)降低學(xué)生與教師之間的實(shí)時(shí)交流和情感聯(lián)系，從而影響教育過程中的人際關(guān)系和情感支持。雖然智能教育系統(tǒng)可以提供個(gè)性化的學(xué)習(xí)支持和反饋，但它們往往缺乏人類教師的情感理解和情感指導(dǎo)能力。在一些在線學(xué)習(xí)環(huán)境中，學(xué)生可能缺乏與教師和同學(xué)之間的實(shí)時(shí)交流和情感支持。研究發(fā)現(xiàn)，這種缺乏人際交流和情感支持的環(huán)境可能影響學(xué)生的學(xué)習(xí)體驗(yàn)和成就。因此，教育機(jī)構(gòu)和技術(shù)提供商需要關(guān)注如何在生成式人工智能教育系統(tǒng)中加入情感識(shí)別和情感智能技術(shù)，加強(qiáng)人際交流和情感支持的建設(shè)，以提高教學(xué)過程中的人際交流質(zhì)量和情感支持水平，提高教學(xué)質(zhì)量和學(xué)生滿意度。

生成式人工智能融入教育領(lǐng)域的風(fēng)險(xiǎn)應(yīng)對策略

習(xí)近平總書記指出：“要加強(qiáng)人工智能同保障和改善民生的結(jié)合，從保障和改善民生、為人民創(chuàng)造美好生活的需要出發(fā)，推動(dòng)人工智能在人們?nèi)粘９ぷ鳌W(xué)習(xí)、生活中的深度運(yùn)用，創(chuàng)造更加智能的工作方式和生活方式。”面對生成式人工智能在融入教育領(lǐng)域過程中的風(fēng)險(xiǎn)，有必要通過加強(qiáng)數(shù)據(jù)隱私保護(hù)與安全措施、減少人工智能偏見與歧視的影響、強(qiáng)調(diào)人際交流與情感支持的重要性等措施來保障智能技術(shù)在教育領(lǐng)域的良好應(yīng)用。

（一）加強(qiáng)數(shù)據(jù)隱私保護(hù)與安全措施

生成式人工智能在個(gè)人隱私信息的處理過程中，可能存在違法收集、使用個(gè)人隱私信息進(jìn)行不當(dāng)商業(yè)利用等風(fēng)險(xiǎn)，因此在應(yīng)用于教育領(lǐng)域的過程中，教育機(jī)構(gòu)和技術(shù)提供商應(yīng)建立健全數(shù)據(jù)隱私政策和安全管理制度，確保學(xué)生學(xué)習(xí)數(shù)據(jù)的安全存儲(chǔ)、傳輸和處理。同時(shí)綜合運(yùn)用多種數(shù)據(jù)加密、訪問控制和身份驗(yàn)證等技術(shù)手段，加強(qiáng)對學(xué)生數(shù)據(jù)的保護(hù)和監(jiān)控。2023年7月10日，我國國家互聯(lián)網(wǎng)信息辦公室聯(lián)合多個(gè)部門發(fā)布了《生成式人工智能管理暫行辦法》，以此規(guī)制ChatGPT等生成式人工智能技術(shù)的應(yīng)用風(fēng)險(xiǎn)。在不斷制定和完善人工智能法律法規(guī)的基礎(chǔ)上，科研機(jī)構(gòu)和科技企業(yè)也應(yīng)在國家有關(guān)部門的領(lǐng)導(dǎo)與支持下，盡快開發(fā)出安全可控、適合師生使用的生成式人工智能技術(shù)產(chǎn)品，確保隱私保護(hù)及數(shù)據(jù)安全。

（二）減少人工智能偏見與歧視的影響

生成式人工智能系統(tǒng)的偏見往往源于訓(xùn)練數(shù)據(jù)源的偏見。因此，教育機(jī)構(gòu)和技術(shù)提供商應(yīng)采集和使用多樣化、全面性的數(shù)據(jù)集，包括不同性別、種族、社會(huì)背景的學(xué)生群體，平衡樣本集合，以確保生成式人工智能系統(tǒng)能夠反映各種學(xué)生群體的特點(diǎn)和需求，減少訓(xùn)練數(shù)據(jù)中的偏見，提高生成式人工智能系統(tǒng)的公平性和包容性。同時(shí)還要對算法進(jìn)行定期評估和審查，及時(shí)發(fā)現(xiàn)并糾正潛在的偏見和歧視問題。此外，促進(jìn)人工智能與人類教師的協(xié)同合作也是減少人工智能偏見與歧視的重要途徑。人工智能系統(tǒng)可以提供個(gè)性化學(xué)習(xí)資源和評估反饋，而人類教師可以發(fā)揮專業(yè)知識(shí)和情感支持的優(yōu)勢，為學(xué)生提供全面的教育支持。通過人機(jī)協(xié)同合作，可以有效彌補(bǔ)彼此的不足，提高教育的質(zhì)量和公平性。

（三）強(qiáng)調(diào)人際交流與情感支持的重要性

教育是人的教育，教育的本質(zhì)旨在回答教育如何使“人”成為人的問題。[4]雖然生成式人工智能技術(shù)為學(xué)生提供了更加高效、個(gè)性化的學(xué)習(xí)路徑，但是人際交流與情感支持對教育“現(xiàn)實(shí)的人”的重要性依然不容忽視。為了確保教育的全面性和人性化，在生成式人工智能教育系統(tǒng)中，應(yīng)設(shè)計(jì)情感識(shí)別和情感表達(dá)功能，促進(jìn)學(xué)生與教師之間的情感交流和情感支持。此外，還可以通過在線教育平臺(tái)提供實(shí)時(shí)教師支持和虛擬輔導(dǎo)服務(wù)，彌補(bǔ)智能教育系統(tǒng)在人際交流和情感支持方面的不足。

聚焦當(dāng)下，隨著谷歌Gemini，OpenAI-Sora等大模型的全面開源和逐漸推廣，可以預(yù)見的是，技術(shù)迭代必將推動(dòng)教育領(lǐng)域產(chǎn)生深遠(yuǎn)變革。與此同時(shí)，正如聯(lián)合國教科文組織于2023年9月7日頒布的《生成式人工智能教育與研究應(yīng)用指南》中所強(qiáng)調(diào)：“教育行業(yè)從業(yè)者必須在未來更進(jìn)一步考慮倫理原則”，以更好應(yīng)對學(xué)習(xí)數(shù)據(jù)和個(gè)人信息被大規(guī)模收集和分析的過程中產(chǎn)生的個(gè)人隱私泄露問題，技術(shù)依賴性增加引發(fā)人工智能透明度和公平性問題以及對于教育資源的不平等分配風(fēng)險(xiǎn)等。[5]面對這些風(fēng)險(xiǎn)，我們需要積極探索技術(shù)與人文教育的有機(jī)結(jié)合，強(qiáng)調(diào)人的主體地位，將人工智能技術(shù)作為教育的輔助工具，而非取代人的角色。同時(shí)，建立健全的法律法規(guī)和倫理準(zhǔn)則，保護(hù)學(xué)生的隱私權(quán)和個(gè)人權(quán)益，促進(jìn)技術(shù)的可持續(xù)發(fā)展和社會(huì)的可持續(xù)進(jìn)步。只有在充分認(rèn)識(shí)和應(yīng)對風(fēng)險(xiǎn)的基礎(chǔ)上，我們才能更好地把握生成式人工智能技術(shù)帶來的機(jī)遇，實(shí)現(xiàn)教育的公平、普及和提升。

參考文獻(xiàn)

[1]MLADAN J：《CAMPBELL M.Generative artificial intelligence：trends and prospects》，載《Computer》，2022，55（10）：107-112頁。

[2]劉勇、徐佳慧、董躍武等：《高等教育中如何應(yīng)用ChatGPT類生成式人工智能——聯(lián)合國教科文組織<高等教育中的ChatGPT和人工智能：快速入門指南>解析》，載《中國教育信息化》，2024，30（02）：71-80頁。

[3]張一兵、貝爾納·斯蒂格勒、楊喬喻：《技術(shù)、知識(shí)與批判——張一兵與斯蒂格勒的對話》，載《江蘇社會(huì)科學(xué)》，2016（04）：1-7頁。

[4]王夏杰、鄧淑華：《馬克思教育思想及其重要啟示——基于“現(xiàn)實(shí)的人”研究視域》，載《中共山西省委黨校學(xué)報(bào)》，2020，43（05）：12-15頁。

[5]蘭國帥、杜水蓮、宋帆等：《生成式人工智能教育：關(guān)鍵爭議、促進(jìn)方法與未來議題——UNESCO〈生成式人工智能教育和研究應(yīng)用指南〉報(bào)告要點(diǎn)與思考》，載《開放教育研究》，2023，29（06）：15-26頁。

[6]鄧建鵬、趙治松：《文生視頻類人工智能的風(fēng)險(xiǎn)與三維規(guī)制：以Sora為視角》，載《新疆師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版）》，2024-03-25：1-9頁。

作者簡介

強(qiáng)子言 長安大學(xué)經(jīng)濟(jì)與管理學(xué)院信息管理與信息系統(tǒng)專業(yè)學(xué)生

楊延慶 西安醫(yī)學(xué)院黨委學(xué)工部副教授，研究方向?yàn)橛?jì)算機(jī)應(yīng)用技術(shù)