人工智能教育倫理問題及其規約

張立國 劉曉琳 常家碩

[摘? ?要] 人類誕生后，生物學意義上的進化就基本上停止了，自此，以人為界，好奇心推動科學，控制欲推動技術，啟動了人類文明的演變圖景?？茖W和技術的發展是由向外和向內兩個向度展開的，向外由太陽系、銀河系到宇宙;向內指向人類自身，由生命運動到意識運動，催生了人工智能。人工智能的類人屬性，第一次動搖了以世界為舞臺、人類為主角的社會活動劇幕，由此引發了人工智能倫理問題，當然也包括人工智能教育倫理問題。人工智能教育倫理問題是人類教育群體中植入類人，由于“演員”群體的轉變而引發的問題，其主要議題包括類人的倫理問題、新的人與人行為準則的調整問題以及“演員”活動的舞臺——人工智能教育場問題。人工智能教育倫理問題的規約應該以追求人類的福祉為宗旨，聚焦實踐，主要從習俗遷移、規范構建、法律約束等方面著手。

[關鍵詞] 人工智能; 智能教育; 教育倫理; 倫理問題; 規約

[中圖分類號] G434? ? ? ? ? ? [文獻標志碼] A

[作者簡介] 張立國（1965—），男，陜西綏德人。教授，博士，主要從事教育技術學基本理論、網絡教育研究。E-mail：zhangliguok@126.com。

一、引? ?言

教育是常進常新的事業，不僅具有穩定性，而且具有發展性。教育倫理亦然，不僅具有永恒性，而且具有時代性。進入21世紀以來，隨著人工智能技術的不斷創新及其在教育中的推廣和應用，人們在擁抱人工智能的同時，也產生了一些擔憂，特別是對人工智能對學習者可能產生傷害的憂慮，由此，人工智能教育倫理問題成了教育領域的學者關切的熱點。

已有相關研究主要集中在：（1）對人工智能教育倫理風險的表現描述，如削弱教師地位、侵犯學生自由、加大教育不平等、對教育正向價值的壓制、對教育育人價值的僭越[1];（2）對人工智能教育倫理風險成因的探索，如教育機器人的身份與權力邊界模糊、教育數據泄露以及技術濫用[2];（3）對人工智能教育可能產生的倫理風險進行規避的原則探討，如提出采用“以人為本”“以德為先”“以法為界”的原則以防范和消除這些倫理風險[3]。這些研究為我們進一步研究人工智能教育倫理問題奠定了基礎，但是，依然存在著些許問題，主要表現在：第一，在人工智能教育倫理問題的界定上，較多的研究從現象級上列舉和描述了若干人工智能教育倫理問題，而缺乏在理論層面上對其本質的厘定;第二，在人工智能教育倫理的討論上，總體上缺乏對人工智能教育倫理問題進行分層、分類討論的對象域，并且在具體問題的探討上較多地關注人工智能教育應用層面上所涉及的倫理問題，而對于教育人工智能倫理底層理論的探討較少;第三，在人工智能教育倫理問題的解決上，主要集中在對西方發達國家已有原則的介紹和解讀，而缺乏在更為深刻層面上對人工智能教育倫理問題規約理路的慎思。針對現有人工智能教育倫理研究的不足，有必要明確探討以下三個基礎性問題：（1）究竟什么是人工智能教育倫理問題？（2）人工智能教育倫理問題有哪些，為什么是這些問題？（3）人工智能教育倫理問題規約的基本思想應該是什么，應該包括哪些方面？通過回答以上問題，以期拋磚引玉，為人工智能教育事業的健康發展作出理論貢獻。

二、人工智能教育倫理問題界定

倫理是人倫道德之理，是指“人與人相處的各種道德行為準則”[4]。教育倫理是教育活動中人與人交往的各種行為規范和準則。教育倫理是一個歷史范疇，其合理性必須在特定歷史時段的教育生態中談論。因此，討論人工智能教育倫理問題首先必須討論人工智能教育生態環境。人工智能技術教育應用實際上改變的是教育生態，是人工智能教育生態的建構，是對傳統教育生態的解構和重構。在教育生態重構的過程中，由于人工智能扮演了人的部分角色，從而改變了人與人之間的關系，引發了人們對新的人與人、人與類人、類人與類人相處的行為規范問題的探討，這就是人工智能教育的倫理問題。

教育生態是發展的、分階段的。依據技術的發展及其融入教育的歷程，可以將教育生態劃分為傳統教育、信息化教育以及人工智能教育。實際上，人工智能教育生態可以看作是信息化教育生態的高級階段。依據人工智能教育生態的成熟與否，大致可以將人工智能教育倫理問題劃分為兩類：一類是教育信息化從1.0向2.0的過渡階段，人工智能技術在教育中初步應用引發的倫理問題，我們將之稱為弱人工智能教育倫理問題;另一類則是人工智能技術相對成熟，已經形成穩定的智能教育生態后出現的倫理問題，我們稱之為強人工智能教育倫理問題。

本文所討論的人工智能倫理問題屬于第一類，關涉弱人工智能教育倫理問題。顯然，弱人工智能教育倫理問題不僅是歷史的、具體的、相對穩定的，而且是動態的、發展的;弱人工智能教育倫理問題與強人工智能教育倫理問題的表現和成因不盡相同，不能混為一談，同時二者又是有聯系的——弱人工智能教育倫理問題是強人工智能教育倫理問題的基礎和前提，強人工智能教育倫理揚棄了弱人工智能教育倫理;更為重要的是，無論是弱人工智能教育倫理還是強人工智能教育倫理，都是對傳統教育倫理和信息化教育倫理的揚棄，因此，人工智能教育倫理依然是群體的、相對共善的。正如畢達哥拉斯所言，“凡是現存的事物都要在某種循環里再生，沒有什么東西是絕對新的”[5]。弱人工智能倫理問題實際是以機器深度學習為基礎，以期用機器模擬人的智能，在幫助人類解決各種教育問題或提供教育服務時引發的倫理問題。因此，弱人工智能教育倫理不僅包括教育人工智能創建者和使用者等利益相關者的職業道德及倫理，而且包括類人內隱的程序代碼所涉及的道德問題，以及由人工智能與教育相融合過程中導致的人類教育行為準則的整體調整問題。需要補充說明的是，我們不僅要認識到弱人工智能教育倫理與教育倫理的交集，而且要知曉盡管機器倫理與人工智能倫理是不同的，但是就智能程度而言，弱人工智能倫理依然是機器倫理的子集，主要關注智能機器對其他機器和人類行為的影響[6]。

三、人工智能教育倫理問題透視

倫理問題從來都是產生于人類群體中的，離開人類群體無所謂倫理。傳統的教育群體網絡體系由于類人的人工智能植入，改變了原有的群體網絡構成和結構，形成了新的教育群體網絡。從表面上來看，在這一進程中，似乎對類人的人工智能行為規范是人工智能教育倫理議題的主要問題，實際上，一方面，類人的教育行為會受到原有教育群體網絡中人的倫理準則的規約（這里的類人既指個體，也指群體，因此，類人與類人之間的行為關系整體而言從屬于人與人之間的行為關系，受到人與人之間行為關系的約束）;另一方面，由于新的類人的嵌入，也會引發原有教育群體中人與人行為關系網絡的調整，兩種力量交織角力形成新的教育群體行為準則。因此，從本質上來看，人工智能教育倫理問題是人與人行為關系的調整問題，主要關涉兩大議題：一是人與人工智能的行為關系，即植入人類教育生態中的類人所涉及的數據和算法方面的倫理議題;二是人與人的行為關系問題，即新的人與人之間的教育倫理議題。兩大議題都是人及類人的行為關系問題，由于所有的教育行為都是在一定的空間（教育場）中展開的，因此，人工智能教育場的演變及其倫理挑戰也就成為兩大議題的基礎性問題，如圖1所示。

（一）人工智能教育場的演變及其倫理挑戰

教育場可以理解為教育倫理發生的環境與情景，是教與學活動的“舞臺”。傳統的教育場都是真實的教與學活動場景，所有的教育倫理都是真實教與學活動場景中教師、學習者、管理者等主體行為的準則。行為與角色密切相關，而角色又與場景密切相關，因此，行為與場景也密切相關。人永遠是具體社會場域中的人，扮演好“角色”演員，是對每個“本色”演員的基本倫理要求，人工智能也不例外，它也需要扮演好自己的角色。網絡技術、人工智能技術和虛擬現實技術等在教與學活動中的應用使得傳統的教育場發生了革命性的變革，即從真實的教育場轉變為真實教育場、虛擬教育場和混合教育場并存的教育場。信息是教育場中流通的關鍵要素。依據美國技術哲學家伯格曼（Albert Borgmann）的觀點，教育場中的信息形態可以劃分為三類，即“關于現實的信息（自然信息）、為了現實的信息（文化信息）和作為現實的信息（技術信息）”[7]。伯格曼對信息的分類為我們透視人工智能教育場的倫理提供了有益的理論視角，因為“每一種類型的信息都根據其自身的方式來塑造人與現實的關聯性”[8]，從而形成不同的教育場，如圖2所示。

與自然信息相對應的是傳統社會教育和家庭教育場，與文化信息相對應的是傳統學校教育場，而與技術信息相對應的是人工智能教育場。傳統的教育場是現實的真實場景，而人工智能教育場是超現實的虛擬教育和混合教育場。有意義的美好教育需要三類教育場的有機融合，尤其是現實的教育與超現實的教育場之間的融合，保持教育教學符號與事物、教育信息與現實之間的平衡。

人工智能與教育的融合在促發教育倫理場演變進化的同時，也帶來了一系列新的倫理挑戰。首先，我們必須警惕為了超現實而超現實，即將超現實教育場的構建本身作為目的而凸顯，忽視將其作為美好教育生活的實現路徑而加以選擇，謹防強化人工智能教育應用的減負性、感官性和消費性，而弱化其人文關懷性和道德性。其次，智能教育研究者和實踐者還必須清醒地認識到，超現實的虛擬教育場與真實的教育場在教與學的體驗以及教學規律方面可能存在較大差異。超現實的虛擬教育場趨向于替代真實教育現實，甚至淹沒真實教育現實，它的趣味化、仿真化和透明化等使得真實教育現實顯得乏味、粗糙和繁重，對此種“趣悅化學習”的過分強調，掩蓋了認知投入對學習的重要性[9]。因此，我們必須警惕將超現實教育信息的消費、體驗和認知“誤認為”是對真實教育現實的參與、體驗和認知。最后，超現實的教育場需要同真實的教育場有機融合、互為補充。教育主體若長期沉浸于虛擬的超現實場域之中，其認識對象、工具和方式以及思維方式都會打上虛擬思維和行為的烙印，人們可能有意無意地依賴、迷戀虛擬教育場，使傳統真實教育場淪為虛擬教育場的背景，而不再為主體參與真實的現實教育活動提供更多的可能和契機[10]。

（二）類人教育倫理問題

如果說網絡技術和虛擬現實技術教育應用主要改變的是教育活動場域以及教育活動的客體，那么人工智能技術則主要改變的是教育活動的主體。人工智能充當人的教育角色必然被賦予了人的教育權利，同時必須承擔相應的教育責任，權利與責任是教育人工智能這個硬幣的兩面，因此，其教育行為必須受到人與人之間的教育行為倫理的規約。

從表面上來看，類人的教育倫理問題主要包括數據倫理問題與算法倫理問題，然而由于類人無法獨立于教育場而存在，類人的數據倫理與算法倫理都會深深地打上教育倫理的印記，因此，類人的教育倫理問題將同時涉及數據倫理、算法倫理和教育倫理等兩個方面。

1. 教育人工智能數據倫理問題

人工智能教育生態的穩定運行需要大數據作為基本保障，教學活動和教育管理過程中產生的行為、狀態、成績、情感與交互等方面的數據將被人工智能系統收集、存儲和使用，由此產生的數據倫理問題必須受到重視。首先，在數據的收集上，應該強調任何數據主體有權利知曉數據采集類型和方法以及數據安全保護措施，而現今對于收集數據的類型和方法始終邊界不清;其次，在數據的存儲上，會不會產生數據意外泄露，機器代理應該在多大程度上擁有數據的控制權[11]，在人工智能系統的整個生命周期中如何保證師生的數據隱私權等權益不受到侵犯，誰該擁有所收集到的數據，會不會涉及侵權等諸多問題需要一一回答;最后，在數據的使用上，人工智能的數據挖掘分析能力已經在很大程度上超過了以往技術，而數據所解釋出的種種不平等情況甚至會對個別學生的合法權利產生負面影響，進而引發新的教育不平等問題，因此，必須對相關數據及分析結果的使用權提出明確的界限和更高的安全驗證。

2. 教育人工智能算法倫理問題

教育人工智能算法倫理問題實際上是由于智能機器本體性智慧不足引發的教育倫理問題。首先，歷史性與發展性背離。人工智能通過采集過去記錄的教育數據，分析、挖掘學習者特征并以此為基礎作出決策和預測學習者未來的發展趨勢。雖然機器學習和深度學習算法能夠根據歷史性數據預測未來，這在概率統計學意義上具有合理性，但是由于教育生態中學生未來發展的不確定性，算法不可避免地存在對學生成長的歷史或文化的偏差與偏見，這與教育教學現實的復雜性、創造性和發展性相背離[12]。其次，平均化與精準化的背離。人工智能根據學習者過去的教育數據為其制訂學習推薦方案，是算法對教育數據中的歷史案例進行平均化處理的結果。目前，應用到教學中的弱人工智能仍處于決策標準化和平均化的水平，在滿足學習者個體學習和發展的多樣性和靈活性需求上存在局限性[11]，這背離了人工智能促進個性化學習、精準化學習診斷和服務的初衷。

（三）新的人與人之間的教育倫理問題

如果說類人的教育倫理問題是人類教育倫理對類人行為的透視問題，那么人的教育倫理問題則是由于類人在教育場域中的植入而催生的新的人的行為以及人與人行為關系的再調整問題，主要涉及教育人工智能創建者與監測者的問責問題、施教者的角色調整問題和學習者的角色轉換問題。

1. 教育人工智能創建者與監測者的問責問題

人工智能的設計開發人員（創建者）包括智能系統設計工程師、智能軟件架構工程師、程序設計和開發工程師等。他們在進行教育類人的設計和開發過程中，一方面，需要保證教育人工智能系統的穩健性和安全性、智能決策結果的可解釋性、智能算法的非歧視性和公平性，并且支持對教育類人不良行為后果的問責追因;另一方面，教育人工智能創建者所設計開發的類人教師或學習伙伴需要支持學生的主觀能動性的激發，重視學生核心素養的培育。對此，教育類人的創建者肩負不同的倫理責任：智能系統設計工程師需要考慮不同使用對象在能力、需求及文化背景等方面的差異性，以向善的目的設計產品，謹防對使用者造成傷害與歧視;智能軟件架構工程師需要遵照安全性、可靠性和透明性三大原則進行系統架構，保護用戶個人數據的安全，保障智能系統運行的穩定，支持對教育人工智能不當表現的追蹤問責;程序設計和開發工程師最重要的職責是秉承公平和公正的原則，設計無偏見的算法。

教育人工智能的監測者是負責對系統的一致性、安全性和公平性進行測試和審查的專業人員，主要包括制定教育人工智能標準的組織或人員、數據分析和維護專員等。通常在教育人工智能系統部署之初就開展安全性測試，而審查則是在系統啟用之后，主要針對教育人工智能系統應用過程中的決策，通過對歷史性數據的分析，從準確性、合理性和合法性三個方面對教育人工智能決策進行審查[11]，并提出相應的整改措施。為了便于監測者審查，教育人工智能的創建者需要建立對系統作出的判斷、決策、教學支持進行存儲的機制和解釋方案，從而在一定程度上監督和保證教育人工智能的設計、開發和使用符合特定的教育教學倫理要求。監測者在對教育人工智能系統的倫理規范進行審查之后，應該向系統的創建者反饋教育人工智能系統存在的倫理問題，并對其提出相關改進策略或建議。此外，考慮到監測員在履職過程中可能出現行為失范，因而有必要制定教育人工智能監測者的職業修養和道德標準，在此基礎上建立監測員問責制。類人創建者與監測者的問責問題如圖3所示。

2. 施教者的角色調整問題

人工智能教育場中施教者的角色調整主要包括施教者角色定位調整和角色內容調整兩方面的問題。施教者角色定位調整主要指教師在新的人工智能教育場中重新定義自身角色地位及其與智能導師之間的關系;角色內容調整則指教師為了適應人工智能教育場中新的角色地位而在其工作內容上作出恰當改變，同時包括為了滿足新的工作內容需求而對自身教育教學理念、知識結構和技能、職業道德修養等職業勝任力的更新和提升。人工智能教育場中的教學工作由人機協同開展，人工智能能夠實現抽象知識可視化、智能出題批改、基于大數據的學習分析和資源推薦，人機協同擔任施教者角色可以減少人類教師的重復性勞動，使其有更多的時間專注于育人的本體性活動。但是，施教者對人工智能技術的使用不能突破其角色定位和角色內容所規定的合乎價值和理性的限度，否則可能造成一系列新的倫理困境[13]。根據成因，這些倫理困境可歸納為兩大類：一類是由于在教學實踐中過分依賴人工智能使得教師身體缺位，掩蓋教師在教育教學活動中的重要性，削弱教師的主體性地位而引發的倫理困境;另一類則主要是由于教師職業素養更新滯后于新的人工智能教育實踐需求而引發的教師角色行為失德失范問題。例如：教師在利用人工智能采集和分析學生的學習行為數據的過程中，對學生隱私和個人信息安全的威脅，以及由于教師缺乏對人工智能決策機制的正確認識而導致的教育實踐中所作出的可能有悖教育倫理準則的決策，等等。

3. 學習者的角色轉換問題

長期沉浸在“超現實”的虛擬教育場，會使學習者的角色地位發生一些微妙的轉換，由此將帶來學習者群體的諸多倫理問題。其中，學習者“本我”與“非我”的主體性異位問題最為突出[14]。人工智能技術為學習者提供了一個客觀地審視“我”的途徑，人工智能提供的學習者畫像讓其逐漸接受“量化自我”的學習方式，但或許還不能形成正確“量化自我”的思維意識。學習者在人工智能分析自我、延展自我、增強自我功能的支持下，獲得了放大自身個性的學習體驗，形成與現實中的自我相差甚遠的“虛擬人格”，這種“虛擬人格”不僅僅是“非我”，更是人工智能支持下的一種“超我”的存在，雖然“超我”與現實中的“本我”受同一個精神主體控制，但是人工智能可能使現實世界的主體將“超我”作為另一客體看待，由此可能導致學習者自我的現實性與虛擬性之間的張力和平衡被撕裂[15]。

學習者“本我”與“非我”主體性異位不利于人工智能教育的正常開展，亦會阻礙學習者的認知發展，并將派生出一系列新的倫理問題：其一是過分趣悅化問題。人工智能創設的趣悅化教與學情境似乎在一定程度上可以降低認知負荷，但是有效學習必須承載一定的認知負荷，并且越是復雜知識的學習就越需要較高的內在負荷，過分趣悅化將會降低學生的學習質量。其二是知識產權問題。人工智能自動化生成的學習產出能否屬于學習者本人的成果，如何界定該成果的產權歸屬，是否涉及誠信，對于上述問題，當前并沒有形成統一的倫理規范[16]。其三是身體傷害和教育社會化體驗降低問題。學習者長期與類人交互將從根本上改變傳統以人—人交互為中心的教學生態，這是否會傷害學習者的身體健康，是否會減少與其他真實的學習者和施教者交互的機會，弱化學習者在真實生活情境中的學習體驗，進而對他們的身心健康造成不良影響[17]。

四、人工智能教育倫理問題規約

從理論上來說，人工智能教育倫理問題規約的基本思想是以人類福祉追求為宗旨，采用自上而下、自下而上以及兩者相結合綜合運用的理路來解決問題。自上而下的智能教育倫理規約實際上是倫理問題解決的演繹路徑，指的是以教育倫理的基本準則為依據，診斷、分析和解決人工智能教育倫理問題;自下而上的人工智能教育倫理規約實際上是倫理問題解決的歸納路徑，指的是通過在人工智能教育倫理場景中，針對具體教育情境中的倫理問題，構建新的準則;當然也可以綜合運用以上兩種路徑規約人工智能教育倫理問題。具體而言，人工智能教育倫理問題的規約可以從習俗遷移、規范構建、法律約束以及聚焦實踐等方面開展綜合治理。

（一）習俗遷移

教育是亙古的事業。人工智能教育既是對傳統教育的發展，也是對傳統教育的繼承，同樣，人工智能教育倫理也是兼具發展性與穩定性的倫理。教育的穩定性根源在于教育本質的恒定，無論在什么樣的教育形態中，教育的育人本質不會變。從根本上來看，無論人工智能技術將來如何發展，學生和教師永遠不會完全被機器取代，即教育永遠是人教人的事業！那些認為教師抑或學生完全被機器人取代的論調，既不符合邏輯，也不符合常識。若教師和學生完全被取代，教育就沒有存在的必要，“學生”只要被制造就可以了，需要教嗎？若如此，人工智能教育倫理還有談論的必要嗎？

因此，不論教育如何改革，不論何種新型技術問世，我們必須堅守的就是立足教育本質，將傳統的與教育本質密切相關的教育習俗遷移于新的人工智能教育形態之中，只有將教育本質習俗根植于每個人的內心，以此為根基規約類人行為，發展傳統教育倫理體系，構建新的與人工智能教育相適應的倫理規范，才是我們的基本立場。

（二）規范構建

從本質上來看，人工智能教育倫理問題是隨著人工智能技術的發展及其教育應用帶來的新問題，或許我們可以從技術的角度考慮在一定程度上解決問題。

第一，植入倫理規則。我們可以借助新技術將倫理規則植入智能系統，作為類人必須執行的指令，并使得其在教育教學活動中習得人類倫理，不斷完善自身倫理規則。需要特別注意的是，植入的倫理規則不能僅僅圍繞人這個中心而忽視了機器人的特殊性，需要以人機倫理的適應性為前提，實現人與人工智能技術理性價值標準的相一致，因此，倫理規則的植入需要倫理學家、教育學家與人工智能設計人員共同參與、合力完成[18]。

第二，人工干預。在倫理規則嵌入之后，仍然需要對其進行人工干預。由于人工智能具有復雜性、難預測性，所以，在倫理規則嵌入之后，還要對其進行不斷的評估和調試，以便最后真的能建構成一套完備的倫理體系。需要特別注意的是，為了防止類人作出違反倫理規則的行為，在植入倫理規則的同時，還應該預留“切斷開關”，以便遇到危機時能及時切斷整個系統，從而保障安全。

（三）法律約束

針對人類與人工智能愈加模糊的人機界限，政府需要出臺相關法律規定人工智能的角色地位，明確其權利與責任，并確定六類利益相關人員（智能系統創建者、智能系統使用者、智能系統監測員、智能決策主體和決策執行者、數據主體）[19]的權利與責任，以保證人工智能系統的穩定性、透明性和可解釋性?？紤]到人工智能教育倫理問題的復雜性，其治理涉及社會不同層面，治理范圍大并且技術專業性極強，僅靠立法難免顧此失彼，因此，在法律約束的基礎上，仍然需要政府、非政府組織與個人之間開展合作，緊密配合、協同治理。

（四）聚焦實踐

教育存在中不可或缺的活動以及與這些活動密切聯系在一起的情感，是倫理生活的“宇宙根源”。當法律、倫理準則以及習俗都不能保證人與類人的行為具有規范性時，具體情境中的以解決教育痛點問題、關鍵問題為導向的向善的人工智能教育實踐活動就體現出了它們的力量。實際上，這也是應對智能教育倫理挑戰的根本出路。可以這樣認為，包括人工智能教育倫理問題在內的所有人工智能倫理問題的根源就在于人工智能的智慧不足。若類人的人工智能智慧與人類相當或接近，那么問題反倒簡單了，我們依據人的教育倫理規約即可。問題是與我們相處的是一些類人，或者更準確地說是一些有特殊才能的類人，而且類人是多樣的、復雜的，更為重要的是，它們還是不斷“進化”的，由此，習俗遷移、規范建立、法律約束都可能滯后于火熱的人工智能教育實踐。因此，聚焦人工智能教育實踐，聚焦現實的、真實的問題解決，在技術上精進發展，使人工智能更具智慧，使類人更像人，在教育上人類與類人統力合作，為人類的美好未來努力奮斗，才是應對弱人工智能教育倫理挑戰的根本出路。

五、結? ?語

當前學界關于弱人工智能教育倫理問題的考量并沒有脫離“人類中心主義”的思維范式。在這種思維范式中，盡管我們考慮到了主體人的發展性，考慮到了類人對人的影響性，但是，總體而言，我們依然是以人為界的。以人為界討論弱人工智能教育倫理是沒有問題的，畢竟我們都是歷史的、具體的人，到目前為止，我們所認識的世界依然是以人類為中心的世界。問題是當我們仰望浩瀚的星空，將人工智能教育倫理問題置于波瀾壯闊的物質運動歷史之中，不難發現“人為上帝”之界終將被突破。這并不是說人工智能最終一定會完全替代人類，而是說舊人類一定會被新人類取代。新人類或許就是碳基生命與硅基生命融合生成的“奇點人”[20]。若如此，強人工智能抑或超人工智能教育倫理問題又會是一個怎樣的情形？這自然已經超越了我們的想象。然而，未來已來，對處于從弱人工智能到強人工智能窗口期的人類，審慎樂觀、密切關注、積極應對類人的發展，尤其是要聚精會神于人與類人的融合發展，或許是我們的唯一選擇。

[參考文獻]

[1] 吳河江，涂艷國，譚轢紗.人工智能時代的教育風險及其規避[J].現代教育技術，2020，30（4）：18-24.

[2] 杜靜，黃榮懷，李政璇，周偉，田陽.智能教育時代下人工智能倫理的內涵與建構原則[J].電化教育研究，2019（7）：21-29.

[3] 馮銳，孫佳晶，孫發勤.人工智能在教育應用中的倫理風險與理性抉擇[J].遠程教育雜志，2020（3）：47-54.

[4] 中國社會科學院語言研究所詞典編輯室.現代漢語詞典[M].3版.北京：商務印書館，1996：852.

[5] 羅素.西方哲學史[M].何兆武，李約瑟，譯.北京：商務印書館，1982：178.

[6] ANDERSON M， ANDERSON S， ARMEN C. Towards machine ethics： implementing two action-based ethical theories[C]// ANDERSON M， ANDERSON S， ARMEN C. Machine ethics： papers from the AAAI Fall Symposium， Technical Report FS-05-06. Menlo Park： AAAI Press， 2005： 1-7.

[7] 李波，李倫.技術信息超現實問題的倫理反思——基于伯格曼的技術哲學和信息哲學[J].自然辯證法研究，2017（2）：32-34.

[8] VERBEEK P P. Devices of engagement： on Borgmann's philosophy of information and technology[J]. Techné： research in philosophy and technology， 2002， 6（ 1）： 48-63.

[9] 劉曉琳，張立國.技術增強型學習環境中的“離心效應”：現象、成因及破解[J].電化教育研究，2019（12）：44-50.

[10] BOURGMANN A. Holding onto reality： the nature of information at the turn of the millennium[M]. Chicago： University of Chicago Press， 1999：83.

[11] 鄧國民，李梅.教育人工智能倫理問題與倫理原則探討[J].電化教育研究，2020（6）：39-45.

[12] TUOMI I. The impact of artificial intelligence on learning， teaching， and education： policies for the future[M]. Luxembourg： Publications Office of the European Union， 2018：73.

[13] 劉磊，劉瑞.人工智能時代的教師角色轉變：困境與突圍——基于海德格爾技術哲學視角[J].開放教育研究，2020（3）：44-50.

[14] 范國睿.智能時代的教師角色[J].教育發展研究，2018（10）：69-74.

[15] 孫田琳子.虛擬現實教育應用的倫理反思——基于伯格曼技術哲學視角[J].電化教育研究，2020（9）：48-54.

[16] DAVIES C R. An evolutionary step in intellectual property rights-artificial intelligence and intellectual property[J]. Computer law & security review，2011，27（6）：601-619.

[17] 劉霞.人工智能時代師生關系的倫理審視[J].教師教育研究，2020（2）：7-12.

[18] 張崢嶸，楚國鋒.互聯網背景下人工智能發展中的倫理研究[J].網絡安全技術與應用，2020（12）：140-141.

[19] TOMSETT R， BRAINES D， HARBORNE D， et al. Interpretable to whom？ A role-based model for analyzing interpretable machine learning systems[C]//Proceedings of the 2018 ICML Workshop on Human Interpretability in Machine Learning. Stockholm： CoRR， 2018：8-14.

[20] 呂乃基.大歷史觀視野下的人工智能[J].系統科學學報，2016（4）：1-10.