元宇宙教育生態倫理的安全沙箱設計與監管機制

文章編號：1673-5862（2023）05-0469-06

摘"""要：借鑒沙箱技術和監管沙箱的應用，提出了監管沙箱向元宇宙教育的功能遷移假設。依據元宇宙教育的核心目標，分析了知識倫理風險產生的根源;依據元宇宙教育實踐的人機共生能動性，論述了技術倫理風險產生的原因;依據元宇宙教育的跨越時空性，闡述了文化倫理風險產生的緣由。從保護受教育者個體視角，根據求真向善審美的教育標準和規則，以學習情景的生成、計算和評估為手段，以個體“知情意行”的發展為教育效度評價指標，依據“觸發-執行”原理，設計了從“失誤-容錯”到“危險-退出”的風險監測和防范等級。建立了以法律和教育規則治理和管理接口、教育情景實時動態信息計算和教育效度測量、人機交互數據捕獲、受教育者個體風險監控等多模塊支持的元宇宙教育生態倫理的安全沙箱模型和監管機制。

關"鍵"詞：元宇宙教育; 倫理風險; 安全沙箱; 監管機制

中圖分類號：TP311""""文獻標志碼：A

doi：10.3969/j.issn.1673-5862.2023.05.016

Design and supervision mechanism of safety sandbox for ecological ethics of metaverse education

ZHANG Yan， LUO Xu， LIU Zhe， ZHOU Ying

（Computer and Basic Mathematics Education Department， Shenyang Normal University， Shenyang 110034， China）

Abstract：Drawing on the application of sandbox technology and regulatory sandbox， a hypothesis of functional transfer from regulatory sandbox to metaverse education is proposed. Based on the core objectives of metaverse education， the root causes of knowledge ethical risks were analyzed; Based on the human-machine symbiotic initiative of metaverse education practice， the reasons for the emergence of technological ethical risks are discussed; Based on the transcendence of time and space in metaverse education， the reasons for the emergence of cultural ethical risks are elaborated. From the perspective of protecting the individual educated， according to educational standards and rules of seeking truth， kindness， and aesthetics， using the generation， calculation， and evaluation of learning scenarios as a means， taking the development of individual “knowing， feeling， willing and doing” as the evaluation index of educational validity. Based on the principle of “trigger execution”， a risk monitoring and prevention level has been designed from “error tolerance” to “danger exit”. A security sandbox model and regulatory mechanism for metaverse education ecological ethics have been established， supported by multiple modules such as legal and educational rule governance and management interfaces， real-time dynamic information calculation and educational validity measurement of educational scenarios， human-machine interaction data capture， and individual risk monitoring of learners.

Key words：metaverse education; ethical risk; safety sandbox; supervision mechanism

元宇宙描繪和構造了未來社會的愿景形態^［1］。盡管元宇宙的資本效益逐漸減弱，但是腦機接口等最新人體實驗的推進，使得元宇宙支撐技術不斷獲得新突破，人們正在利用最先進的技術及技術聚合改變著人類的生存生活環境，更重要的是改變和創造著人類自身。元宇宙是一個由人類創造出來的人工世界與現實世界互構互建的新生態，是一個高維度復雜性智能化的新生態。目前元宇宙的內涵、發展及其規律等尚具有很多不確定性，但是人們已經身處于這個新生態的產生、發展和應用進程之中，而且已經逐步接受了現實世界被局部地解構，并與人工世界進行重構的事實。元宇宙不可避免地對現實世界中的人類主體意識和行為、社會行動和結果產生各種程度的沖擊，人類相對于外部世界的主體性受到挑戰^［2］。事實上，教育領域對新技術的應用和推廣始終堅持擁抱和審慎的態度，也能夠確認信息技術正在與教育從滲透走向融合，并起到重構教育生態的作用^［3］。元宇宙教育生態的健康發展必然依靠其倫理價值體系的建構，而其倫理安全的監管機制就成為教育研究領域給予積極回應的首要問題。對元宇宙教育倫理安全的監管，可以從網絡安全領域采用的沙箱（sandbox）技術獲得啟示。

1"沙箱技術及監管沙箱機制

1.1"沙箱技術

沙箱最早始于網絡瀏覽器的安全應用，主要是防止病毒木馬等通過瀏覽器途徑感染本地機器。沙箱的安全機制是通過隔離沙箱對進程、內存、存儲等資源的操作，控制沙箱內的進程對本地系統資源的調用。沙箱技術的原理主要是對沙箱中的進程行為進行重定向，也就是指沙箱能夠做到讓沙箱內進程操作的文件、注冊表等路徑重定向到其他沙箱所指定的位置，這樣進程企圖操作的資源就不會被訪問，形成了具有隔離作用的虛擬化環境，從而保證資源的安全性。沙箱的主要技術包括安全隔離并輕量化的虛擬技術、鑒定存在風險軟件的自動識別技術、用戶行為風險識別和動態評估技術等^［4］。

1.2"監管沙箱及其機制

監管沙箱是英國金融行為監管局于2016年提出的概念。在科技大發展的情況下，金融科技創新步伐迅速加快，英國設立了大量“突破性”金融科技初創企業。若對其使用嚴格的金融監管框架，將在一定程度上阻礙金融創新，延遲創新產品或服務進入市場的時間并增加成本^［5］。但是，科技創新也必然帶來源自技術及其倫理的新的金融風險，而金融風險的發生將會導致金融消費者的權益受到損害。在激勵金融科技創新和保護金融消費者權益二者的利弊權衡下，產生了金融監管沙箱機制。監管沙箱機制通過確定適用企業和機構對象、設定準入標準、建立監督管理、實施測試等環節，在測試期滿后決定是否允許或推動參測產品正式進入市場，并且根據測試情況，制定、修改或明確有關法律法規^［6］。監管沙箱在英國推出后，被美國、澳大利亞、馬來西亞、新加坡和我國的香港、臺灣等地區紛紛效仿。

2"監管沙箱向元宇宙教育的功能遷移

2.1"元宇宙教育倫理的主要安全風險

教育首先是對人類文明的代際傳承和社會傳播，文明傳承是教育最基本的價值體現，也應成為對一切教育行為進行善惡評判的衡量標尺^［7］。元宇宙教育應該幫助受教育者建立基本完備的知識體系和核心價值觀。“知識倫理”不僅僅是指“知識”中內涵的價值追求、道德理想與規范，也包含著人們在“選擇、認識、理解知識”時所依據的價值追求、道德理想與規范^［8］。目前元宇宙教育回避了3個根本的問題：1）教育研究領域介入元宇宙的滯后可否保證元宇宙教育的知識體系和框架能夠充分正確建立;2）核心價值觀是否能夠合理有效蘊含在知識體系中;3）是否能夠構建一個與現實教育相一致的包含個人層面、社會層面、國家層面等的知識倫理價值體系。對這些問題的不確定和不肯定回答，就必然導致元宇宙教育不可避免地存在知識倫理風險。

元宇宙教育是人類和機器共生共存的新生態，隨著深度學習、腦機接口和以ChatGPT為代表的通用人工智能技術的發展，機器的智能已經逐漸發展為有自主意識的類人智能或者超人智能。所以，元宇宙教育實踐中就同時體現著人的能動性和機器的能動性，而且機器的能動性通常表現出“黑盒”特質。那么在人機協同融合的生態中，人們的想法或者創意是否符合倫理標準;趣味和動機是否與教育目標價值一致;生產的結果是否被人類社會共同或者普遍的接受。更深層次的是，在不確定人工智能的內部邏輯和功能結構的“黑盒”中，人們是否能夠自覺自動反制人工智能。雖然為了推動可持續人工智能發展，各國的人工智能發展戰略都開始增強對人工智能可解釋性和可信性的關注，著重加強對人工智能的風險管理與治理^［9］，但是人工智能算法不是中立的，人類的偏見和錯誤經常被編碼到系統中，這進一步剝奪了弱勢群體的權利，造成了社會的不平等^［10］。所以，元宇宙教育必須注意規避和防范人工智能的技術倫理風險。

現實世界的教育實踐總是處于一定社會關系的人所進行的活動，帶有鮮明的歷史性和地域性，存在時間和空間的界限。元宇宙教育的終極目標是擺脫時間和空間的局限，打破時空邊界，直至實現跨越時空性的實踐理想，這必將挑戰教育實踐的社會歷史性。不同的社會歷史條件必然產生不同的文化及文化繼承，元宇宙教育實踐向社會歷史性發起的挑戰主要表現在對文化的挑戰。當元宇宙教育實踐可以跨越不同的文化背景時，那么人們的實踐應該如何尊重不同時空的文化？如何避免不同文化的沖突？元宇宙與現實世界的文化觀念如何分辨、認同和融合？人機共生合成體實際上正在消解人類實體存在原有的界限，人可以超越時空的限制進行信息符號的交流^［11］。但是，目前尚沒有可行的方法來設計共同的算法，使得該算法能夠協調道德價值和個人自我利益，更別說考慮不同文化對生活權衡的各種道德態度^［12］。所以，元宇宙教育也必須注意規避和防范文化倫理風險。

2.2"監管沙箱向元宇宙教育的安全沙箱遷移

目前元宇宙已經在元宇宙游戲、元宇宙藝術和元宇宙教育等領域搶先布局，各種元宇宙產品被不斷研發和發布。從廣義的教育概念出發，教育是一切有目的地影響人的身心發展的社會實踐活動，元宇宙教育的范圍應該包括元宇宙游戲和元宇宙藝術。利用元宇宙的技術平臺，教育可以真正成為一個多樣的、開放的、綜合的大系統，從而促進教育的變革和進步。與金融領域技術創新與推廣相類比，元宇宙教育存在著一方面要鼓勵教育技術創新，給受教育者提供優質高效的教育，另一方面又要抵抗伴隨教育技術創新而來的倫理安全風險。所以，元宇宙教育價值的定位決定了元宇宙教育生態的促進理念和監管策略，在追求“真善美”的教育價值共識基礎上，需要重新衡量和建構元宇宙教育的求真價值、向善價值和審美價值的生態關系和結構，在教育的理論和實踐范疇下，從倫理安全的基本要求入手，設計元宇宙教育的安全沙箱和監管機制，制定相應的準入標準，從而實現受教育者個體全面協調統一發展的教育目標。元宇宙教育生態倫理的安全沙箱準入標準見表1。

3"元宇宙教育倫理的安全沙箱設計與監管機制

3.1"元宇宙教育與現實世界教育的治理和管理接口模塊

元宇宙教育生態不可避免存在法律風險。例如，在知識產權層面，原創者面臨侵權風險;在人機融合層面，個人隱私讓渡更具隱蔽性，私人領域和個人信息會以看不見的方式被僭越;在技術支撐層面，虛擬產品得到價值轉化，但交易雙方權利義務尚不明確^［13］。元宇宙教育生態的法律層面治理具有無可置疑的權威性。與法律治理介入相比，教育管理的介入就需要首先理清哪些教育管理的政策、規定和方法是與元宇宙教育過程的技術化、教育環境的資本化、教育思想的人本化等相適應的部分，構建元宇宙教育效度的評價指標體系，從“知情意行”各個方面評估受教育者個體的教育增值狀況，并依據評估結果的普遍性結論，反饋給教育管理研究，從而進一步建立完善和應用元宇宙教育的教育規則。目前人工智能研究的熱點是可解釋人工智能，這種技術自然會被吸納到元宇宙教育生態中來，在算法“黑盒”的同時兼顧算法“白盒”，也就是對所創建和運行的規則進行解釋。具體地說，“白盒化”治理和管理接口的設計可以在一定程度上實現對模型和所在系統的解釋。在此基礎上對解釋結果進行進一步的分析可以驗證所構建模型是否存在與教育規律相悖的問題。如果存在，可以及時檢查訓練數據和訓練方法，必要時調整模型本身。如果模型得到驗證，可以利用分析結果對模型進行功能闡述與說明，從而提高用戶對模型和系統的理解與信任程度^［14］。

3.2"教育情景實時動態信息計算和教育效度測量模塊

元宇宙教育能夠自動生成與受教育者個體特征相適應的一系列動態的教育情景，支持個體的自主性學習和個性化學習，通過元宇宙教育中的分布式云計算技術和深度學習網絡，實現一定數學模型下教育情景的科學正確性、情感正向性和審美感受性的推演計算。元宇宙本質是全身沉浸性，而這意味著完全的自主性^［15］。元宇宙吸納的智能技術可以將現實和虛擬結合起來，運用智能技術的語義分析及內嵌算法，變換學習場景，生成個性化內容^［16］。所以，對元宇宙教育的內容、形式和價值的呈現，將逐步從形式化和割裂分治的方法，向整合化和自動生成的方法轉變，也就是以不斷生成的整體的教學情景作為教育過程的研究對象。在建立元宇宙教育的“真”“善”“美”基本標準和規則的前提下，設計以生成的教育情景為輸入數據的學習結果預測計算模型，用以判斷受教育者和學習者對知識技術掌握與應用的正確性、情緒狀態與情感發展脈絡的良好性、創意與設想的新奇性、經驗與反思的積極主動性等。利用元宇宙教育效度的評價指標體系，從判斷力和分析力、共情力和聯想力、想象力和創造力、執行力和行動力等評估受教育者個體的教育增值狀況，也就是從知情意行的多個維度評價受教育者的個人化的沉浸式的教育實踐效果。元宇宙教育生態倫理的安全沙箱模型如圖1所示。

3.3"教育情景的人機交互數據捕獲模塊

元宇宙是物理和信息相互融合的世界。通過物聯網、智能穿戴設備、全息技術和交互技術等，元宇宙實時的環境、對象、資源、模式等動態變化信息可以傳遞給受教育者，同時受教育者在現實物理世界的生理和心理活動信息也可以傳遞給元宇宙的相關組件接口。在信息的雙向傳遞中，受教育者的教育實踐和體驗信息數據可以直接促進元宇宙教育按照受教育者自我發現和自我成就的獨特性要求，自動發生相應的轉移、變化和生成。受教育者的腦電信息、心電信息、體溫、呼吸、眼球轉速、面部表情等，能夠以數據的形式支持對受教育者生理心理狀態的判斷。所以，應該建立多維度生理信號的情緒評價模型，用以判斷受教育者是否可以承擔當前或即將發生的刺激和壓力，是否將會出現過于激動、興奮、不安和緊張等狀態，為適時適當地監管控制和規避風險充分準備生理活動和心理活動2個方面的基礎數據。當然，這需要進一步控制學生的隱私邊界滲透，在知情同意的前提下，適度地向外界開放自己的個人隱私^［17］。元宇宙教育信息與物理信息的融合與監測模型如圖2所示。

3.4"受教育者個體風險監控模塊

在算法和自動化的設計及運行模式下，依據“觸發-執行”原理，研究建立元宇宙教育的五級受教育者個體風險自動監控模型。針對第2模塊的元宇宙教育環境、對象、資源和模式等的科學正確性、情感正向性和審美感受性的計算，為及時發現偏離“真”“善”“美”基本標準的情況，設定從第1級到第3級的風險防范策略。當受教育者進行試驗和嘗試性實踐活動時，對出現的一些失誤進行適當容錯，以發現和解決根本性問題和關鍵性問題為目標，設定“失誤-容錯”風險監測和防范觸發器;對出現的失誤或者錯誤引起算法執行的故障進行排除和恢復，以保證受教育者的實踐活動能夠繼續完成為目標，設定“故障-恢復”風險監測和防范觸發器;對出現的已不可避免導向錯誤結果的試驗和嘗試，導致算法的執行陷入不良循環的狀態進行終止，以啟發受教育者選擇更加合理的實踐活動路徑為目標，設定“阻滯-回溯”風險監測和防范觸發器。針對第3模塊的受教育者生理和心理活動信息的捕獲和數據計算，按照不同人群過激反應的生理心理學標準，設定從第4級到第5級的風險防范策略。當出現過激反應的時候，如果過激反應屬于較輕的程度，設定“意外-中斷”風險監測和防范觸發器，如果過激反應屬于較重的程度，設定“危險-退出”風險監測和防范觸發器。元宇宙教育的五級個體風險自動監測和防范模型如圖3所示。

4"結""語

未來元宇宙將在科學、技術、藝術、文化和經濟等領域開拓廣闊的研究方向，產生豐富的研究成果，從而反哺于元宇宙教育，使其充分全面地育化人類，完成人類的自我認識、自我意識和自我實現的終極理想。對元宇宙教育的倫理風險與防范的研究，不是技術悲觀主義的保守策略，而是技術樂觀主義的開放思維。教育領域需要積極采取應對策略，構建元宇宙教育可持續發展的一切基礎和條件，創新元宇宙教育運行的原則和規則，探索人類與機器的共生共進方法，優化人類與機器的協同融合模式，促進元宇宙教育生態從低階有序向高級有序的演進。

參考文獻：

［1］喻國明，耿曉夢. 元宇宙： 媒介化社會的未來生態圖景［J］. 新疆師范大學學報（哲學社會科學版）， 2022，43（3）：110-118.

［2］張輝，曾雄，梁正. 探微“元宇宙”：概念內涵、形態發展與演變機理［J］. 科學學研究， 2023，41（5）：769-776.

［3］雒亮，祝智庭. 元宇宙的教育實踐價值與目標路徑辨析［J］. 中國遠程教育， 2022（6）：1-10.

［4］王忠春，陳慶榮，劉婷. 大數據下新型安全沙箱技術運用分析與研究［J］. 網絡空間安全， 2022，13（6）：89-97.

［5］袁芳. 監管沙箱對我國金融科技監管的啟示［J］. 金融發展研究， 2018（1）：85-87.

［6］夏偉亮，徐文德. “監管沙箱”的比較研究與分析： 最新進展、實踐經驗與啟示［J］. 西部金融， 2017 （10）：18-24.

［7］張永波. 智慧教育倫理觀的建構機理研究［J］. 中國電化教育， 2020（3）：49-55.

［8］藺素琴. 改革開放以來小學語文教科書知識倫理演變研究［D］. 西安： 陜西師范大學， 2022：28-32.

［9］王萍，田小勇，孫僑羽. 可解釋教育人工智能研究： 系統框架、應用價值與案例分析［J］. 遠程教育雜志， 2021，39（6）：20-29.

［10］O'NEIL C. Weapons of math destruction： How big data increases inequality and threatens democracy［M］. New York： Crown Publishing Group， 2016.

［11］朱洪洋. 學習幻肢與神經全景敞視：腦機接口技術應用于教育的主要倫理挑戰［J］. 電化教育研究， 2020，41（5）：39-44.

［12］BONNEFON J F，SHARIFF A，RAHWAN I. The social dilemma of autonomous vehicles［J］. Science， 2016，352：1573-1576.

［13］向安玲，高爽，彭影彤，等. 知識重組與場景再構： 面向數字資源管理的元宇宙［J］. 圖書情報知識， 2022，39（1）：30-38.

［14］盧宇，章志，王德亮，等. 可解釋人工智能在教育中的應用模式研究［J］. 中國電化教育， 2022（8）：9-15.

［15］李保艷，劉永謀. 元宇宙的本質、面臨的風險與應對之策［J］. 科學·經濟·社會， 2022，40（1）：15-26.

［16］于英姿，胡凡剛. 隱憂與消解：智能技術之于教育的倫理省思［J］. 遠程教育雜志， 2020，38（3）：55-64.

［17］蔣艷雙，崔璨，劉嘉豪，等. 教育領域中的情感計算技術： 應用隱憂、生成機制與實踐規約［J］. 中國電化教育， 2022（5）：91-98.

收稿日期：2023-05-09

基金項目：國家社會科學基金資助項目（BLA210217）。

作者簡介：張"巖（1968—），女，遼寧沈陽人，沈陽師范大學教授，碩士。