生成式人工智能嵌入教育治理的基本邏輯和風(fēng)險(xiǎn)防范*

摘 要：生成式人工智能是推動(dòng)教育治理變革的時(shí)代機(jī)遇。從技術(shù)維度、制度維度以及行動(dòng)維度上分析，生成式人工智能嵌入教育治理都具有一定的時(shí)代價(jià)值。但其在嵌入過(guò)程中可能會(huì)引發(fā)治理秩序、治理質(zhì)量、治理異化等多方面的風(fēng)險(xiǎn)。結(jié)合當(dāng)前我國(guó)教育治理實(shí)踐，從夯實(shí)組織基礎(chǔ)建設(shè)，改善技術(shù)整合效果，聚焦主體發(fā)展局限等方面提出應(yīng)對(duì)生成式人工智能嵌入教育治理的風(fēng)險(xiǎn)防范策略，以期促進(jìn)生成式人工智能更好地服務(wù)于教育治理數(shù)字化轉(zhuǎn)型。

關(guān) 鍵 詞：生成式人工智能;教育治理;數(shù)字轉(zhuǎn)型;教育治理現(xiàn)代化;人機(jī)交互

引用格式：任苗苗，孫瑜，季吳瑕.生成式人工智能嵌入教育治理的基本邏輯和風(fēng)險(xiǎn)防范[J].教學(xué)與管理，2024（27）：28-33.

自2022年11月ChatGPT-3.5發(fā)布以來(lái)，以ChatGPT為代表的大語(yǔ)言模型成為人工智能發(fā)展的引爆點(diǎn)，人工智能技術(shù)的創(chuàng)新發(fā)展有望驅(qū)動(dòng)新一輪的科技革命和產(chǎn)業(yè)變革[1] ?，F(xiàn)階段，作為一種現(xiàn)象級(jí)應(yīng)用，社會(huì)思潮對(duì)生成式人工智能這一“革命性”技術(shù)抱有極大的信心[2]。這也引發(fā)了教育領(lǐng)域?qū)ι墒饺斯ぶ悄芗夹g(shù)的激烈討論，其應(yīng)用于教育治理領(lǐng)域的價(jià)值、意義等相關(guān)理論分析也競(jìng)相出現(xiàn)。然而，技術(shù)既是賦能者，也是被影響者，加之生成式人工智能的發(fā)展并不完善，其嵌入教育治理的結(jié)果不可預(yù)知[3]。為進(jìn)一步厘清生成式人工智能對(duì)教育治理領(lǐng)域帶來(lái)的影響及可能誘發(fā)的風(fēng)險(xiǎn)，本研究以生成式人工智能嵌入教育治理的時(shí)代價(jià)值為切入點(diǎn)，在分析其嵌入教育治理基本邏輯的基礎(chǔ)上，著力探討技術(shù)嵌入過(guò)程中可能誘發(fā)的治理風(fēng)險(xiǎn)及防范策略，以期促進(jìn)生成式人工智能更好地服務(wù)于教育治理的數(shù)字化轉(zhuǎn)型。

一、生成式人工智能嵌入教育治理的時(shí)代價(jià)值

1.助力教育治理現(xiàn)代化的新勢(shì)能

教育治理現(xiàn)代化是一項(xiàng)系統(tǒng)工程，其應(yīng)有之義是實(shí)現(xiàn)技術(shù)與人的統(tǒng)一。教育現(xiàn)代化具有普及化與個(gè)性化的雙重特征，強(qiáng)調(diào)與人文理念相結(jié)合。生成式人工智能嵌入教育治理，在實(shí)現(xiàn)教育治理現(xiàn)代化的過(guò)程中以智能化和人本化相統(tǒng)一的價(jià)值理念為指引，為教育治理現(xiàn)代化提供了新勢(shì)能。首先，生成式人工智能可以通過(guò)智能教育資源管理和預(yù)測(cè)，優(yōu)化教育資源供需管理，提高優(yōu)質(zhì)教育資源使用效益。例如，在學(xué)生智慧學(xué)習(xí)系統(tǒng)中接入生成式人工智能技術(shù)，為學(xué)生提供及時(shí)學(xué)習(xí)信息和個(gè)性化學(xué)習(xí)推介服務(wù)，促進(jìn)學(xué)生學(xué)習(xí)效果優(yōu)化，提升教育效能，有利于兼顧規(guī)?；蛡€(gè)性化的平衡。其次，教育治理的對(duì)象是人，教育治理要服務(wù)于人的發(fā)展[4]，故而教育治理現(xiàn)代化內(nèi)含人的現(xiàn)代化這一旨?xì)w。生成式人工智能的邏輯起點(diǎn)是人，具備了較強(qiáng)的理解人類自然語(yǔ)言邏輯的能力和反饋學(xué)習(xí)能力。例如，虛擬教學(xué)助手給予學(xué)生的學(xué)習(xí)互動(dòng)和學(xué)習(xí)陪伴，有助于實(shí)現(xiàn)教育治理以人為本的價(jià)值理念。

2.促進(jìn)教育治理科學(xué)化的新介質(zhì)

基于科學(xué)管理的意義，教育治理科學(xué)化包含科學(xué)、和諧與合作三重要意。首先，科學(xué)。生成式人工智能具有高效的數(shù)據(jù)采集、處理、集成和利用能力，利用智能數(shù)據(jù)采集和自動(dòng)內(nèi)容生成，可以促使由以往數(shù)據(jù)封閉下的經(jīng)驗(yàn)決策轉(zhuǎn)向數(shù)據(jù)驅(qū)動(dòng)的科學(xué)決策。其次，和諧。我國(guó)教育網(wǎng)絡(luò)基礎(chǔ)設(shè)施東西部之間、城鄉(xiāng)之間存在差異。數(shù)字技術(shù)發(fā)展中，數(shù)據(jù)資產(chǎn)要素回流擴(kuò)散的效應(yīng)有限，而生成式人工智能具有大規(guī)模數(shù)據(jù)庫(kù)，為數(shù)據(jù)資源交流共享提供機(jī)會(huì)，降低數(shù)據(jù)資本跨區(qū)域流動(dòng)的成本，可以更便捷高效地調(diào)配區(qū)域教育數(shù)字資源，充分釋放數(shù)據(jù)紅利，促使教育治理方案更加系統(tǒng)化，有利于教育治理協(xié)調(diào)發(fā)展。最后，合作。生成式人工智能的數(shù)據(jù)交流共享機(jī)制，可以實(shí)現(xiàn)數(shù)據(jù)互補(bǔ)，增加信息傳輸效率，有助于打破以往科層制造的壁壘，促使教育數(shù)據(jù)要素跨主體流通，促進(jìn)教育治理跨部門合作。

3.推進(jìn)教育治理民主化的新動(dòng)力

教育治理的目標(biāo)之一是多元主體參與政府教育決策，提高決策的民主化[5]。教育治理的過(guò)程是不斷推進(jìn)教育民主化的過(guò)程，生成式人工智能有助于實(shí)現(xiàn)更加真實(shí)的教育民主化。第一，生成式人工智能促使教育實(shí)踐中的利益相關(guān)者擺脫科層制的權(quán)力約束，參與教育治理的機(jī)會(huì)增多，參與主體向微觀擴(kuò)散，縱深度增加，讓決策自下而上成為可能。第二，生成式人工智能有助于跨主體治理，除學(xué)校之外，可以讓企業(yè)、組織、社區(qū)、公民等教育之外的主體參與教育治理更加便捷，參與主體的廣泛增加，有助于加強(qiáng)教育和人之間的發(fā)展聯(lián)系，促進(jìn)教育觀念和方法緊跟時(shí)代發(fā)展。第三，生成式人工智能的使用能推動(dòng)完善法律法規(guī)體系，其技術(shù)特性的留痕與可追蹤性增強(qiáng)了教育執(zhí)法的公正和透明，其催生的虛實(shí)二維場(chǎng)景變化豐富，實(shí)現(xiàn)了教育司法模式線上線下融合。這些有助于增強(qiáng)教育法治的控制力和執(zhí)行力，通過(guò)助力元治理保障教育治理的民主化。

二、生成式人工智能嵌入教育治理的基本邏輯

技術(shù)進(jìn)步往往會(huì)影響制度變遷，但其連接機(jī)制并不是單純的技術(shù)變化到制度變革的作用。在技術(shù)嵌入的過(guò)程中，技術(shù)是賦能者會(huì)影響制度變遷，制度存在且持續(xù)產(chǎn)生力量會(huì)影響技術(shù)發(fā)展?；诖朔N共識(shí)，研究引入“技術(shù)執(zhí)行分析框架”（由美國(guó)學(xué)者簡(jiǎn)·E·芳汀在結(jié)合信息技術(shù)和組織理論的基礎(chǔ)上提出），其認(rèn)為技術(shù)包括客觀的技術(shù)（因特網(wǎng)、軟件、硬件和數(shù)字設(shè)施等）和被執(zhí)行的技術(shù)（客觀技術(shù)的感知、設(shè)計(jì)和使用）。該理論關(guān)注的焦點(diǎn)在于信息技術(shù)、組織、內(nèi)嵌性以及制度等之間的關(guān)系，由三個(gè)主要命題構(gòu)成：個(gè)體對(duì)技術(shù)的認(rèn)知和使用受到制度的影響，行動(dòng)者的基本認(rèn)知和制度影響著個(gè)體新技術(shù)的感知、設(shè)計(jì)、執(zhí)行和使用;技術(shù)執(zhí)行是認(rèn)知、文化、結(jié)構(gòu)和政治嵌入的結(jié)果;技術(shù)嵌入組織可能出現(xiàn)非預(yù)期的效果，該結(jié)果源自于技術(shù)的、理性的、社會(huì)的和政治的邏輯。從技術(shù)、制度和行動(dòng)三個(gè)維度對(duì)生成式人工智能嵌入教育治理的基本邏輯進(jìn)行分析。

1.技術(shù)維度：生成式人工智能嵌入教育治理的方法論可行

首先，就其運(yùn)行邏輯來(lái)看。內(nèi)部運(yùn)行邏輯，生成式人工智能源自深度學(xué)習(xí)技術(shù)和快速增長(zhǎng)的數(shù)字內(nèi)容需求，利用自然語(yǔ)言處理和自然語(yǔ)言生成技術(shù)，采用大模型、小樣本和人類反饋強(qiáng)化學(xué)習(xí)的訓(xùn)練原則[6]，技術(shù)基礎(chǔ)使其具備強(qiáng)大的學(xué)習(xí)能力，極大地促進(jìn)了生成式人工智能在不同領(lǐng)域的應(yīng)用。外在邏輯而言，生成式人工智能的生產(chǎn)具有實(shí)踐導(dǎo)向性，具備從“感知—認(rèn)知—決策—行動(dòng)”全流程重塑和顛覆教育治理的巨大能量：自然語(yǔ)言處理增強(qiáng)數(shù)據(jù)感知，深度神經(jīng)網(wǎng)絡(luò)提高價(jià)值認(rèn)知，人類反饋強(qiáng)化學(xué)習(xí)優(yōu)化教育決策，大語(yǔ)言模型提升行動(dòng)精度。如同經(jīng)濟(jì)社會(huì)中的生產(chǎn)力發(fā)展一樣，教育治理中技術(shù)發(fā)展同樣具備進(jìn)步特征，即教育治理趨向利用更有效的治理技術(shù)，這為生成式人工智能嵌入教育治理提供了價(jià)值基礎(chǔ)。

其次，從技術(shù)擴(kuò)散的角度分析，教育治理并非一個(gè)先驗(yàn)的、既定的事實(shí)，而是一個(gè)正在進(jìn)行的人類構(gòu)造，而技術(shù)的擴(kuò)散同樣受到社會(huì)文化情境的影響。社會(huì)存在技術(shù)之維，且是行動(dòng)者創(chuàng)造并占有經(jīng)濟(jì)、政治和文化技術(shù)以實(shí)現(xiàn)社會(huì)秩序構(gòu)建或改造的有效武器[7]。實(shí)用性是其開(kāi)發(fā)過(guò)程中的基本保證，為了確保其在教育治理中得到廣泛應(yīng)用，生成式人工智能有動(dòng)力去重塑教育治理主體的思維、認(rèn)知和文化，驅(qū)動(dòng)教育治理的結(jié)構(gòu)、法規(guī)和運(yùn)行等產(chǎn)生變革，從而促使生成式人工智能嵌入教育治理的內(nèi)部邏輯與外部邏輯一致。由此，教育治理可被視為是由技術(shù)工具變革構(gòu)建而形成的社會(huì)現(xiàn)象，這為生成式人工智能嵌入教育治理提供了方法論基礎(chǔ)。

2.制度維度：生成式人工智能倒逼教育治理轉(zhuǎn)型

在顯性層面，制度的本質(zhì)是規(guī)則和要求，能夠干預(yù)主體的行動(dòng)。行政組織是制度的重要體現(xiàn)和實(shí)施載體，通過(guò)提供權(quán)威準(zhǔn)則獲得合法存在。如果主體想要獲得合理支持，必須遵從組織提供的規(guī)則和要求，當(dāng)制度鼓勵(lì)使用技術(shù)時(shí)，其行為才會(huì)更加適用。信息技術(shù)通過(guò)對(duì)組織協(xié)調(diào)和信息施加影響，使得廣泛層面的效率變得可行[8]。實(shí)踐中，效率的增長(zhǎng)主要依賴組織的結(jié)構(gòu)和設(shè)計(jì)，行政組織追求行政效率和服務(wù)質(zhì)量。生成式人工智能對(duì)教育治理產(chǎn)生的一個(gè)重要影響是改變了信息處理和加工方式，治理過(guò)程中大量程序化的信息處理由生成式人工智能的“輸入—輸出”完成，治理效率和服務(wù)回應(yīng)得到提升。因此，生成式人工智能嵌入教育治理具備制度基礎(chǔ)，即使從增強(qiáng)制度的執(zhí)行力出發(fā)，行政組織也會(huì)積極將生成式人工智能引入教育治理。

在隱性層面，制度具有內(nèi)在邏輯和偏好，可能受到日常運(yùn)作、規(guī)范準(zhǔn)則、文化信仰和社會(huì)網(wǎng)絡(luò)等隱性因素的影響，由此導(dǎo)致技術(shù)使用結(jié)果的不可預(yù)知。良好的制度文化生態(tài)有助于將適用于生成式人工智能的制度優(yōu)勢(shì)轉(zhuǎn)化為治理效能。技術(shù)嵌入將迫使政府轉(zhuǎn)變?cè)诮逃卫磉^(guò)程中的角色和合法性地位。當(dāng)組織中的主體掌握了技術(shù)和制度權(quán)力的規(guī)律，技術(shù)可以發(fā)揮力量填補(bǔ)決策合理化的漏洞，在此過(guò)程中，治理主體所處的以紀(jì)律權(quán)威為主導(dǎo)，并依靠其無(wú)法論證的權(quán)威準(zhǔn)則的社會(huì)形態(tài)被打破，倒逼其適應(yīng)技術(shù)權(quán)力發(fā)展下治理組織“合理的行政機(jī)構(gòu)”這一身份，主客體從權(quán)力制衡到民主平等，重塑教育治理形態(tài)。

3.行動(dòng)維度：生成式人工智能促進(jìn)教育治理適應(yīng)信息社會(huì)發(fā)展

技術(shù)和制度的最終指向均為實(shí)踐活動(dòng)，只有在實(shí)踐中才能實(shí)現(xiàn)兩者統(tǒng)一，發(fā)揮生成式人工智能技術(shù)對(duì)教育治理的變革力量。一方面，技術(shù)塑造行動(dòng)者的行為方式。大數(shù)據(jù)以其規(guī)模整全性和實(shí)時(shí)流動(dòng)性促使物理世界向虛擬世界轉(zhuǎn)化，形成數(shù)字世界和現(xiàn)實(shí)世界的數(shù)字孿生，將人類帶入“數(shù)字化時(shí)代”。當(dāng)把社會(huì)看成是一個(gè)正在進(jìn)行的人類構(gòu)造[9]，隨著技術(shù)的信息化不斷加深，大數(shù)據(jù)和人工智能緊密交織，呈現(xiàn)出融合發(fā)展的狀態(tài)，并由此建構(gòu)出現(xiàn)實(shí)世界理想的數(shù)據(jù)化表象，人類進(jìn)入“數(shù)字化生存”階段，其實(shí)踐活動(dòng)隨之信息化。教育的邏輯起點(diǎn)以促進(jìn)人的身心發(fā)展為旨?xì)w，教育活動(dòng)同樣遵循該價(jià)值邏輯[10]。因此，當(dāng)生成式人工智能成為信息社會(huì)的現(xiàn)象級(jí)應(yīng)用，其必然對(duì)教育產(chǎn)生沖擊，為適應(yīng)特定信息技術(shù)變革的社會(huì)場(chǎng)域，教育治理實(shí)踐必將主動(dòng)吸納這一技術(shù)，通過(guò)新技術(shù)嵌入以謀求信息化發(fā)展中教育治理的效能提升。

另一方面，行動(dòng)具有主體間性，是一種相向而為的行為方式。當(dāng)行動(dòng)者對(duì)周圍的人和事物產(chǎn)生影響的時(shí)候，其自身也必定是一個(gè)遭受者，主動(dòng)和被動(dòng)的行動(dòng)相互砥礪，從而達(dá)到特定情境的平衡。當(dāng)技術(shù)力量發(fā)展時(shí)，教育治理的創(chuàng)新行動(dòng)將采用更有效的新技術(shù)以改善低效的舊技術(shù)。在此過(guò)程中，為了達(dá)到新的平衡，教育治理的相關(guān)主體必將采取行動(dòng)以獲得發(fā)展，因此，當(dāng)相關(guān)主體使用生成式人工智能滿足自身需求時(shí)，會(huì)激發(fā)生成式人工智能蘊(yùn)含促使教育治理轉(zhuǎn)型的強(qiáng)大力量。在變革的過(guò)程，行動(dòng)和技術(shù)及其他相關(guān)要素相互作用，通過(guò)螺旋的方式交互生長(zhǎng)，產(chǎn)生共變。可見(jiàn)，生成式人工智能和教育治理存在內(nèi)在的相互關(guān)聯(lián)機(jī)制。

三、生成式人工智能嵌入教育治理的風(fēng)險(xiǎn)表征

1.治理秩序風(fēng)險(xiǎn)：生成式人工智能嵌入教育治理的制度性風(fēng)險(xiǎn)

基礎(chǔ)設(shè)施薄弱引發(fā)嵌入秩序失衡。生成式人工智能是基于算法、算力和數(shù)據(jù)量的發(fā)展，對(duì)大數(shù)據(jù)、云計(jì)算、網(wǎng)絡(luò)基站等數(shù)字基礎(chǔ)設(shè)施的建設(shè)要求較高。然而，受困于地形、交通和財(cái)政投入等原因[11]，加之?dāng)?shù)字設(shè)施建設(shè)成本較高，我國(guó)城鄉(xiāng)之間、東西部數(shù)字基礎(chǔ)設(shè)施建設(shè)仍然存在較大的現(xiàn)實(shí)差異，中西部偏遠(yuǎn)地區(qū)尤為薄弱[12]。而不平衡不充分的基礎(chǔ)設(shè)施建設(shè)會(huì)造成部分群體數(shù)字失聲，加劇邊緣群體的數(shù)字貧窮現(xiàn)象，加深模型數(shù)據(jù)編碼偏見(jiàn)，使生成式人工智能與教育治理雙向互嵌的結(jié)構(gòu)不完整，造成教育治理秩序失衡。

人力資源短缺引發(fā)應(yīng)用秩序失衡。一方面，生成式人工智能嵌入教育治理，其投入建設(shè)、管理運(yùn)營(yíng)、服務(wù)維護(hù)均需要專業(yè)技術(shù)人員，然而，專業(yè)設(shè)置滯后于市場(chǎng)需求，既掌握教育問(wèn)題又精通數(shù)字技術(shù)的跨學(xué)科人才較為匱乏，限制生成式人工智能在教育中的推廣;另一方面，區(qū)域教育發(fā)展不均衡，不同地區(qū)師生和管理人員的數(shù)字能力參差不齊，政策執(zhí)行者資質(zhì)信息分布不對(duì)稱致使政策制定和政策執(zhí)行出現(xiàn)偏差，進(jìn)一步拉大地區(qū)之間的教育差距，加深“數(shù)字鴻溝”。技術(shù)運(yùn)用能力缺失的行動(dòng)者容易造成生成式人工智能嵌入教育治理表面化，技術(shù)無(wú)法真正參與治理，引發(fā)技術(shù)應(yīng)用失序，教育治理僵化。

制度規(guī)范滯后引發(fā)行動(dòng)秩序失衡。技術(shù)迭代速度加快使技術(shù)創(chuàng)新和應(yīng)用域的閾值加寬，前沿部分沒(méi)有規(guī)則可以約束[13]。以ChatGPT為例，其發(fā)布時(shí)間是2022年11月，距離我國(guó)2023年7月發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，中間仍然有8個(gè)月的時(shí)間差，這期間既有的社會(huì)規(guī)范無(wú)力約束新興的技術(shù)行為。此外，管理辦法標(biāo)準(zhǔn)界限模糊，其本意旨在提升治理流程效率，但對(duì)于基層治理人員，模糊的標(biāo)準(zhǔn)極易產(chǎn)生過(guò)度的標(biāo)準(zhǔn)化，使應(yīng)用人員產(chǎn)生“技術(shù)惰性”，而對(duì)于技術(shù)精英，無(wú)清晰統(tǒng)一的標(biāo)準(zhǔn)使其具備更多的創(chuàng)造空間，這些行動(dòng)以自我規(guī)則為標(biāo)準(zhǔn)，容易產(chǎn)生“行動(dòng)失范”。

2.治理質(zhì)量風(fēng)險(xiǎn)：生成式人工智能嵌入教育治理的行動(dòng)性風(fēng)險(xiǎn)

內(nèi)容生成方式對(duì)核心價(jià)值的挑戰(zhàn)：首先，生成式人工智能的內(nèi)容源于大規(guī)模數(shù)據(jù)訓(xùn)練，這些數(shù)據(jù)和語(yǔ)料庫(kù)是否含有極端思想和信息無(wú)法保證，若包含敏感信息的內(nèi)容廣泛運(yùn)用于教育教學(xué)和管理，會(huì)對(duì)社會(huì)主義教育思想產(chǎn)生挑戰(zhàn);其次，通過(guò)采用“上下文學(xué)習(xí)”的方法訓(xùn)練模型，人與機(jī)器的對(duì)話內(nèi)容會(huì)作為新的語(yǔ)料加入大模型學(xué)習(xí)過(guò)程，即使投入教育治理的成熟模型價(jià)值無(wú)涉，但學(xué)習(xí)過(guò)程中的參數(shù)、賦值等仍為操縱價(jià)值觀提供了溫床;再次，其“輸入—輸出”的內(nèi)容生成方式，代替了思想勞動(dòng)的創(chuàng)造過(guò)程，致使技術(shù)空心化，對(duì)教育治理中人的主體價(jià)值產(chǎn)生挑戰(zhàn);最后，當(dāng)生成式人工智能在教育中普及，其語(yǔ)料庫(kù)來(lái)源趨于統(tǒng)一，技術(shù)本身將會(huì)形成信息繭房，輸出內(nèi)容標(biāo)準(zhǔn)單一，長(zhǎng)此以往，將固化甚至極化主體觀念，消弭教育治理主體的批判性思維。

內(nèi)容形成過(guò)程加劇治理信任危機(jī)。一方面，借助生成式人工智能進(jìn)行的實(shí)踐活動(dòng)，將公開(kāi)的治理程序轉(zhuǎn)化成不可見(jiàn)的算法黑箱，技術(shù)不透明的服務(wù)將導(dǎo)致治理爭(zhēng)議，當(dāng)技術(shù)權(quán)力消解政府公權(quán)力，剝離現(xiàn)實(shí)世界人與人的主體交流，極有可能造成治理中政府公信力的流失，當(dāng)技術(shù)權(quán)威代替政府信任，便可能造成“技術(shù)利維坦”。另一方面，生成式人工智能提升教育治理智能化的同時(shí)也帶來(lái)了高度復(fù)雜性和高度不確定性[14]，且其小樣本學(xué)習(xí)能力和思維鏈推理能力加劇了人工智能的不可解釋性[15]。人類反饋強(qiáng)化學(xué)習(xí)的特性使開(kāi)放網(wǎng)絡(luò)節(jié)點(diǎn)的使用者成為風(fēng)險(xiǎn)節(jié)點(diǎn)遍布世界各地，當(dāng)某個(gè)節(jié)點(diǎn)觸發(fā)問(wèn)題，由于源頭的模糊性，可能將責(zé)任歸結(jié)于治理主體，從而影響大眾對(duì)政府在教育治理中的滿意度，引發(fā)信任危機(jī)。

3.治理異化風(fēng)險(xiǎn)：生成式人工智能嵌入教育治理的技術(shù)性風(fēng)險(xiǎn)

話語(yǔ)生態(tài)催生技術(shù)工具濫用。理論上，生成式人工智能的深度神經(jīng)網(wǎng)絡(luò)技術(shù)依賴于數(shù)據(jù)、算法、算力等的集成性突破，其生成結(jié)果來(lái)自統(tǒng)計(jì)曲線擬合，具備可計(jì)算性模擬的正確路徑，隨著技術(shù)的不斷迭代，在技術(shù)勢(shì)能累積足夠時(shí)，會(huì)產(chǎn)生“逃逸效應(yīng)”，脫離人類控制，成為突破內(nèi)容加工范疇的通用人工智能?，F(xiàn)實(shí)中，生成式人工智能的技術(shù)基礎(chǔ)依然依靠?jī)?nèi)容綜述、符號(hào)表征和格式轉(zhuǎn)換，屬于內(nèi)容加工的范疇，生成結(jié)果來(lái)自推理智能。技術(shù)基礎(chǔ)決定其話語(yǔ)生態(tài)具備廣度和深度的優(yōu)勢(shì)，但準(zhǔn)確性存疑。而對(duì)于治理工作者，為了避免沖突，可能會(huì)依賴技術(shù)工具迎合生成結(jié)果進(jìn)行機(jī)械工作，對(duì)治理權(quán)力的舍棄會(huì)造成治理主體責(zé)任缺失，而生成結(jié)果信息失真會(huì)異化教育治理，破壞原有的教育治理結(jié)構(gòu)。

技術(shù)使用伴隨數(shù)據(jù)安全問(wèn)題。首先，生成式人工智能的模型訓(xùn)練數(shù)據(jù)集主要來(lái)源于網(wǎng)絡(luò)爬蟲(chóng)，數(shù)據(jù)大多未獲得版權(quán)所有者許可，容易引發(fā)產(chǎn)權(quán)爭(zhēng)議和法律糾紛。目前的模型訓(xùn)練不存在反學(xué)習(xí)能力，模型輸出無(wú)法刪除基于用戶數(shù)據(jù)的深度學(xué)習(xí)結(jié)果，未經(jīng)許可使用的數(shù)據(jù)可能侵犯用戶的“數(shù)字遺忘權(quán)”。其次，在技術(shù)使用中必然會(huì)產(chǎn)生公共數(shù)據(jù)、個(gè)體數(shù)據(jù)、研究數(shù)據(jù)及跨界數(shù)據(jù)等[16]，數(shù)據(jù)生命周期管理如何刪除數(shù)據(jù)不得而知，其可能面臨被竊取、篡改、濫用和販賣的風(fēng)險(xiǎn)。在治理過(guò)程中必然涉及數(shù)據(jù)流通，而目前的技術(shù)水平尚不完善、監(jiān)管機(jī)制不健全，這些數(shù)據(jù)一旦被別有用心之人利用，可能帶來(lái)不可預(yù)知的安全問(wèn)題。最后，技術(shù)使用主體本身可能隱匿著安全問(wèn)題。一方面，相關(guān)主體風(fēng)險(xiǎn)防范意識(shí)較差，在數(shù)據(jù)存儲(chǔ)、使用和監(jiān)管中，數(shù)據(jù)被泄露和違規(guī)使用的風(fēng)險(xiǎn)極大;另一方面，個(gè)別主體公共精神缺失，其可能為了利益最大化進(jìn)行數(shù)據(jù)操縱和篡改。

模型訓(xùn)練引發(fā)算法異化風(fēng)險(xiǎn)。生成式人工智能的“認(rèn)識(shí)”由自然語(yǔ)言模型決定，看似價(jià)值無(wú)涉的“機(jī)器身份”[17]，其實(shí)質(zhì)取決于算法及訓(xùn)練的數(shù)據(jù)集，這使技術(shù)開(kāi)發(fā)者可以通過(guò)數(shù)據(jù)庫(kù)裁剪和算法操控，植入價(jià)值觀偏好。而當(dāng)生成式人工智能嵌入教育輔助治理時(shí)，看似高效，卻依賴算法衡量，教育大數(shù)據(jù)的應(yīng)用基于技術(shù)框架，應(yīng)用主體是機(jī)器，可能對(duì)抗人類選擇，背離教育治理的初衷，造成治理上的觀念偏差，使治理缺乏“人性”。此外，當(dāng)訓(xùn)練數(shù)據(jù)和算法隱匿某種語(yǔ)言或者某個(gè)國(guó)家文化，這種底層的系統(tǒng)偏見(jiàn)將會(huì)對(duì)我國(guó)教育治理的傳統(tǒng)樸素價(jià)值觀造成沖擊，帶來(lái)教育治理異化的風(fēng)險(xiǎn)。

四、生成式人工智能嵌入教育治理的風(fēng)險(xiǎn)防范

1.夯實(shí)組織基礎(chǔ)建設(shè)，架構(gòu)面向技術(shù)嵌入的教育治理機(jī)制

第一，通過(guò)人工智能新型基礎(chǔ)設(shè)施建設(shè)，消解基礎(chǔ)設(shè)施薄弱引發(fā)的嵌入秩序失衡。首先，加快人工智能新型基礎(chǔ)設(shè)施布局。生成式人工智能嵌入教育治理必須以數(shù)字基礎(chǔ)設(shè)施為前提，必要的軟硬件設(shè)施是生成式人工智能全面嵌入教育治理的基礎(chǔ)支撐。其次，通過(guò)協(xié)調(diào)與合作實(shí)現(xiàn)傳統(tǒng)基礎(chǔ)設(shè)施建設(shè)智能轉(zhuǎn)型。傳統(tǒng)基礎(chǔ)設(shè)施為新型數(shù)字基礎(chǔ)設(shè)施提供了底盤支撐，數(shù)字設(shè)備行業(yè)細(xì)分的交互融合為傳統(tǒng)設(shè)施改造升級(jí)提供了契機(jī)，可通過(guò)“智能+”的應(yīng)用提高新型設(shè)施與傳統(tǒng)設(shè)施的分工與互動(dòng)。再次，可通過(guò)數(shù)字空間建設(shè)與合作降低治理對(duì)實(shí)體空間的依賴。數(shù)字空間打破了物理限制，能夠激活數(shù)字基礎(chǔ)設(shè)施薄弱地區(qū)的數(shù)字資產(chǎn)使用率，使偏遠(yuǎn)地區(qū)與外部社會(huì)有更多的數(shù)據(jù)交換和聯(lián)系，促進(jìn)區(qū)域外部數(shù)據(jù)回流，減緩偏遠(yuǎn)地區(qū)教育數(shù)據(jù)的雙向流通問(wèn)題。

第二，組建智能技術(shù)實(shí)踐行動(dòng)小組，降低人力資源短缺引發(fā)的應(yīng)用秩序問(wèn)題。區(qū)域教育治理行政部門需聯(lián)合學(xué)校、技術(shù)開(kāi)發(fā)商對(duì)教育資源、技術(shù)資源以及制度資源進(jìn)行整合盤活，完善“智能+教育治理”資源供給系統(tǒng)。一方面，立足基層信息化人員現(xiàn)狀提供個(gè)性化精準(zhǔn)幫扶。個(gè)性化幫扶不能僅僅停留在技術(shù)培訓(xùn)和指導(dǎo)，更應(yīng)指向核心競(jìng)爭(zhēng)力，引導(dǎo)基層管理人員主動(dòng)適應(yīng)新技術(shù)環(huán)境，培養(yǎng)其創(chuàng)造性解決問(wèn)題的能力。另一方面，注重?cái)?shù)字治理人才的規(guī)?；瘜I(yè)培養(yǎng)。既要重視教育行政管理部門的人員發(fā)展，更要立足校情制定人才培養(yǎng)機(jī)制，構(gòu)建“政—企—家—校—社”協(xié)同的教育治理共同體。同時(shí)，在培養(yǎng)內(nèi)容上，要充分利用學(xué)科群建設(shè)的契機(jī)，設(shè)置跨學(xué)科課程體系，以滿足數(shù)字化治理人才發(fā)展的復(fù)合型知識(shí)要求。

第三，構(gòu)建主動(dòng)式教育治理制度框架，減少制度規(guī)范滯后引發(fā)的行動(dòng)秩序失衡。首先，完善教育數(shù)據(jù)應(yīng)用標(biāo)準(zhǔn)規(guī)范體系。新型人工智能的基礎(chǔ)歸根結(jié)底是大數(shù)據(jù)的應(yīng)用，因此，可從數(shù)據(jù)生命周期的角度規(guī)范人工智能的研發(fā)、開(kāi)發(fā)、應(yīng)用標(biāo)準(zhǔn)。其次，在制度設(shè)計(jì)過(guò)程中，將德治與法治相結(jié)合。在規(guī)則適用上以國(guó)家法律為底線，輔以科技發(fā)展的道德規(guī)范宣講，改善制度生成過(guò)程中的教育治理生態(tài)。再次，完善各主體自治機(jī)制。通過(guò)數(shù)字技術(shù)的賦能，增強(qiáng)制度制定過(guò)程的公開(kāi)透明，提升立約的公平、便捷和效率，充分發(fā)揮政府、企業(yè)、社會(huì)、學(xué)校、家庭等主體的自治作用，各主體參與度提升，民主權(quán)利得以實(shí)現(xiàn)，促進(jìn)形成更好的教育治理制度設(shè)計(jì)。

2.改善技術(shù)整合效果，構(gòu)建人技融合的教育治理質(zhì)量體系

第一，通過(guò)“人—技”關(guān)系的改進(jìn)化解內(nèi)容生成方式對(duì)核心價(jià)值觀的潛在威脅。首先，培育治理主體的智能素養(yǎng)。通過(guò)持續(xù)的技能培訓(xùn)、網(wǎng)絡(luò)研修等方式提升各主體的智能治理理念、思維、知識(shí)和能力，引導(dǎo)其在智能化治理過(guò)程中發(fā)揮價(jià)值。其次，持續(xù)推進(jìn)技術(shù)祛魅。通過(guò)人文價(jià)值關(guān)懷加強(qiáng)技術(shù)發(fā)展的科技理性和價(jià)值取向，合理規(guī)范生成式人工智能的發(fā)展方向，促使人的發(fā)展與技術(shù)發(fā)展和諧共生。再次，充分挖掘大思政的價(jià)值。把握主體能動(dòng)性，主動(dòng)引導(dǎo)國(guó)產(chǎn)生成式人工智能語(yǔ)料庫(kù)的健康發(fā)展，通過(guò)模擬現(xiàn)實(shí)和化約現(xiàn)實(shí)使社會(huì)主義核心價(jià)值觀入腦入心，引導(dǎo)教育治理行動(dòng)者主動(dòng)選擇合宜的知識(shí)加工方式，構(gòu)建合理的治理行為，避免對(duì)“技術(shù)魅力”的過(guò)分依賴和迷戀。

第二，通過(guò)“技—治”關(guān)系的改進(jìn)化解內(nèi)容形成過(guò)程造成的治理信任危機(jī)。首先，構(gòu)建“共建共治共享”的教育治理格局。鼓勵(lì)多元主體以適當(dāng)?shù)慕巧尤虢逃卫恚ㄟ^(guò)對(duì)話協(xié)商與合作制定人工智能總體發(fā)展規(guī)劃，塑造“成果共享、權(quán)責(zé)同擔(dān)”的責(zé)權(quán)體系[18]。其次，建立責(zé)任倫理體系。將事后過(guò)失責(zé)任轉(zhuǎn)向事前倫理責(zé)任，通過(guò)事前治理對(duì)可能的風(fēng)險(xiǎn)進(jìn)行預(yù)警，通過(guò)將無(wú)限責(zé)任轉(zhuǎn)為有限責(zé)任以避免治理主體責(zé)任過(guò)失的擴(kuò)大化，通過(guò)提升倫理意識(shí)降低治理主體可能遭受的責(zé)任泛化侵害。最后，設(shè)計(jì)具備實(shí)時(shí)監(jiān)測(cè)的智能教育治理場(chǎng)景。通過(guò)動(dòng)態(tài)化檢測(cè)技術(shù)在治理場(chǎng)景中的應(yīng)用方式與執(zhí)行效果，洞察可能存在的倫理風(fēng)險(xiǎn)，及時(shí)調(diào)控生成式人工智能嵌入教育治理的過(guò)程和方式。

3.聚焦主體發(fā)展局限，設(shè)計(jì)符合人機(jī)交互的教育治理制度規(guī)范

第一，構(gòu)建適應(yīng)人機(jī)交互的智能素養(yǎng)建設(shè)工程以化解話語(yǔ)生態(tài)催生的技術(shù)工具濫用問(wèn)題。首先，發(fā)揮關(guān)鍵教育治理主體的引領(lǐng)作用?？赏ㄟ^(guò)持續(xù)性多維度的創(chuàng)新科技培訓(xùn)，強(qiáng)化不同層級(jí)中領(lǐng)導(dǎo)者的智能素養(yǎng)，潛移默化影響教育治理行動(dòng)者的主體責(zé)任意識(shí)。其次，創(chuàng)建面向不同主體的智能素養(yǎng)模型。治理主體不同，其能力素養(yǎng)具有不同的特質(zhì)。如領(lǐng)導(dǎo)者需要具備智能決策能力，其決策能力來(lái)自對(duì)生成結(jié)果的理性判斷，決策過(guò)程中的洞察力是關(guān)鍵;基層人員需要具備智能執(zhí)行能力，其執(zhí)行能力受到對(duì)技術(shù)理解的影響，對(duì)智能生成結(jié)果的解釋能力是重點(diǎn)。最后，關(guān)注人機(jī)交互中多維度的主體訴求，可從情感需求、人文訴求和育人訴求設(shè)計(jì)生成式智能教育系統(tǒng)的倫理規(guī)約準(zhǔn)則[19]。

第二，設(shè)計(jì)針對(duì)教育數(shù)據(jù)治理的政策保障體系以減少技術(shù)使用伴隨的數(shù)據(jù)安全問(wèn)題。首先，構(gòu)建數(shù)據(jù)治理的政策保障體系，完善數(shù)據(jù)異常的預(yù)警機(jī)制，規(guī)避因教育治理中數(shù)據(jù)流通標(biāo)準(zhǔn)產(chǎn)生的負(fù)面效應(yīng)。其次，保持?jǐn)?shù)據(jù)權(quán)力的謙遜。將公民自身數(shù)據(jù)的所有權(quán)、使用權(quán)、控制權(quán)和處置權(quán)交還給公民自己[20]，通過(guò)技術(shù)賦權(quán)消解權(quán)力隱匿的數(shù)據(jù)操縱和篡改問(wèn)題。再次，建立教育數(shù)據(jù)安全管理機(jī)制?？赏ㄟ^(guò)教育數(shù)據(jù)分級(jí)保護(hù)將一般數(shù)據(jù)、重要數(shù)據(jù)和核心數(shù)據(jù)進(jìn)行差異化運(yùn)作，通過(guò)設(shè)置數(shù)據(jù)責(zé)任人和管理機(jī)構(gòu)落實(shí)數(shù)據(jù)安全責(zé)任，通過(guò)數(shù)據(jù)風(fēng)險(xiǎn)動(dòng)態(tài)監(jiān)測(cè)加強(qiáng)風(fēng)險(xiǎn)評(píng)估，調(diào)整數(shù)據(jù)使用行為。最后，完善教育數(shù)據(jù)安全應(yīng)急機(jī)制?？赏ㄟ^(guò)應(yīng)急團(tuán)隊(duì)建設(shè)、數(shù)據(jù)安全事件等級(jí)和分類、應(yīng)急響應(yīng)流程和措施、不定期演習(xí)等方式建立詳細(xì)的應(yīng)急預(yù)案對(duì)突發(fā)安全事件進(jìn)行響應(yīng)、處置和報(bào)告，最大限度保障教育數(shù)據(jù)安全。

第三，建立針對(duì)教育生成內(nèi)容的治理規(guī)范以降低模型訓(xùn)練引發(fā)的算法異化風(fēng)險(xiǎn)。首先，強(qiáng)化算法透明原則?！渡墒饺斯ぶ悄芊?wù)管理暫行辦法》第十九條從技術(shù)開(kāi)發(fā)商的角度對(duì)算法的可解釋性進(jìn)行了規(guī)定。此外，要從其他利益相關(guān)者和具體的教育應(yīng)用情景加強(qiáng)算法解釋性規(guī)定的執(zhí)行落地。其次，構(gòu)建規(guī)范化標(biāo)準(zhǔn)和修正機(jī)制，優(yōu)化教育生成內(nèi)容治理體系。在技術(shù)上加強(qiáng)算法研究，采用監(jiān)控算法提高大模型的技術(shù)向善能力，建立黑名單機(jī)制屏蔽可能的惡意內(nèi)容。在標(biāo)準(zhǔn)上，制定可操作和可實(shí)施的標(biāo)準(zhǔn)規(guī)范。如在生成式人工智能的開(kāi)發(fā)應(yīng)用等環(huán)節(jié)體現(xiàn)平等原則，對(duì)不同數(shù)據(jù)樣本進(jìn)行標(biāo)準(zhǔn)化修正，確保輸出內(nèi)容符合公序良俗。在算法設(shè)計(jì)中加入道德倫理規(guī)范，規(guī)避智能技術(shù)導(dǎo)致的歧視與偏見(jiàn)，破除算法偏見(jiàn)形成的認(rèn)知性壁壘[21]。最后，完善針對(duì)生成內(nèi)容的教育法律法規(guī)建設(shè)。在技術(shù)的發(fā)展過(guò)程中，及時(shí)對(duì)生成內(nèi)容的準(zhǔn)確性、正當(dāng)性和合法性進(jìn)行規(guī)制，明確非法內(nèi)容生產(chǎn)的法律后果，同時(shí)加強(qiáng)對(duì)相關(guān)法律法規(guī)的執(zhí)行和監(jiān)督，以使非法內(nèi)容生產(chǎn)無(wú)所遁形。

參考文獻(xiàn)

[1] 沈威.ChatGPT：形成機(jī)理與問(wèn)題應(yīng)對(duì)[N].中國(guó)社會(huì)科學(xué)報(bào)，2023-03-07（A07）.

[2] 秦渝超，劉革平，許穎.生成式人工智能如何重塑教學(xué)活動(dòng)——基于活動(dòng)理論的模型構(gòu)建與應(yīng)用[J].中國(guó)遠(yuǎn)程教育，2023，43（12）：34-45.

[3][8] 簡(jiǎn)·E·芳汀.構(gòu)建虛擬政府：信息技術(shù)與制度創(chuàng)新[M].邵國(guó)松，譯.北京：中國(guó)人民大學(xué)出版社，2010：7-13，30.

[4] 袁振國(guó).數(shù)字化轉(zhuǎn)型視野下的教育治理[J].中國(guó)教育學(xué)刊，2022（08）：1-6+18.

[5] 褚宏啟.基礎(chǔ)教育治理的三個(gè)層面及其推進(jìn)策略[J].中國(guó)基礎(chǔ)教育，2022（10）：11-14.

[6] Ren X，Tong L，Zeng J，et al. AIGC Scenario Analysis and Research on Technology Roadmap of Internet Industry Application[J].China Communications，2023，20（10）：292-304.

[7] 周凡，李惠斌. 后馬克思主義[M].北京：中央編譯出版社，2007：269.

[9] 劉鵬.“結(jié)構(gòu)與行動(dòng)”視域下的科學(xué)哲學(xué)[J].南京社會(huì)科學(xué)，2019（02）：51-56.

[10] 劉旭東.論行動(dòng)視域下的教育回歸原點(diǎn)[J].教育研究，2022，43（11）：66-76.

[11] 亢延錕，侯嘉奕，陳斌開(kāi).教育基礎(chǔ)設(shè)施、人力資本與共同富裕[J].世界經(jīng)濟(jì)，2023，46（07）：140-164.

[12] 中國(guó)網(wǎng)絡(luò)空間研究院.第49次中國(guó)互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告[R].北京：電子工業(yè)出版社，2022：19-20.

[13] 邱澤奇.技術(shù)化社會(huì)治理的異步困境[J].社會(huì)發(fā)展研究，2018，5（04）：2-26+242.

[14] 曾宇航，史軍.政府治理中的生成式人工智能：邏輯理路與風(fēng)險(xiǎn)規(guī)制[J].中國(guó)行政管理，2023，39（09）：90-95.

[15] 劉金瑞.生成式人工智能大模型的新型風(fēng)險(xiǎn)與規(guī)制框架[J].行政法學(xué)研究，2024（02）：17-32.

[16] 劉三女牙，楊宗凱，李卿.教育數(shù)據(jù)倫理：大數(shù)據(jù)時(shí)代教育的新挑戰(zhàn)[J].教育研究，2017，38（04）：15-20.

[17] 何祎金.生成式人工智能技術(shù)治理的三重困境與應(yīng)對(duì)[J].北京工業(yè)大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2024，24（02）：124-134.

[18] 王小芳，王磊.“技術(shù)利維坦”：人工智能嵌入社會(huì)治理的潛在風(fēng)險(xiǎn)與政府應(yīng)對(duì)[J].電子政務(wù)，2019（05）：86-93.

[19] 趙磊磊，閆志明.生成式人工智能教育應(yīng)用的生態(tài)倫理與風(fēng)險(xiǎn)紓解[J].貴州師范大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2023（05）：151-160.

[20] 阿萊克斯·彭特蘭.智慧社會(huì)：大數(shù)據(jù)與社會(huì)物理學(xué)[M]. 汪小帆，汪容，譯.杭州：浙江人民出版社，2015：171.

[21] 沈苑，汪瓊.人工智能教育應(yīng)用的偏見(jiàn)風(fēng)險(xiǎn)分析與治理[J].電化教育研究，2021，42（08）：12-18.

[作者：任苗苗（1992- ），女，河南焦作人，云南師范大學(xué)教育學(xué)部，博士生，重慶三峽學(xué)院計(jì)算機(jī)科學(xué)與工程學(xué)院，講師;孫瑜（1974- ），女，云南昆明人，云南師范大學(xué)信息學(xué)院，教授，博士;季吳瑕（2000- ），女，江蘇南通人，南京師范大學(xué)教育科學(xué)學(xué)院，碩士生。]

【責(zé)任編輯 趙武星】