新一代人工智能對高等教育的變革與風險防范

彭建升

（莆田學院，福建 莆田 351100）

1 新一代人工智能與教育融合發展

1.1 新一代人工智能與自主學習

自主學習，是新一代人工智能的技術核心，與傳統人工智能解決確定性的問題相比，新一代人工智能通過交互學習和記憶實現解決不確定問題。人工智能發展還不足70年，但已經實現三次較大的跨越發展，根據對數據的處理方式可以簡單分為“推理時代”“知識工程時代”和“數據挖掘時代”三個發展階段。2016年，谷歌AlphaGo通過對龐大圍棋數據深度學習擊敗世界頂級圍棋手，成為新一代人工智能數據挖掘時代的標志性事件。人類對世界的認知也經歷過三次革命：第一次認知革命是發明語言和文字，使人類的智能可以脫離生命體以文字的形式傳承下去；第二次認知革命伴隨著工業革命出現，人類可以高效利用物質和能量創造機械化工具解放勞動力；第三次認知革命是近一百年人類開始研究計算機、腦科學、人工智能來延伸人類的智能。

1.2 教育領域新一代人工智能相關概念

教育領域的新一代人工智能通常可以分成兩大類：人工智能賦能教育和人工智能學科教育。前者主要是指應用新一代人工智能技術創新教育模式以提高教育質量，后者主要是指發展人工智能學科以培養新一代人工智能技術人才。

1.3 我國教育領域新一代人工智能發展

2018年，教育部印發《高等學校人工智能創新行動計劃》，提出我國高等學校要建設成為世界主要的人工智能創新中心和人才培養高地。2019年，教育部再印發《中國教育現代化2035》，明確提出要建成服務全民終身學習的現代教育體系。全國高等學校紛紛響應新時代國家發展對教育領域中新一代人工智能的發展的要求，已有上百所高校設置了人工智能、智能機器人等工程專業，紛紛成立新一代人工智能研究中心，加快建設智慧校園。我國主要從三個維度推進教育領域中新一代人工智能的發展，一是發展人工智能學科，加快培養新一代人工智能高層次人才；二是推動新一代人工智能研究與技術應用；三是建設智慧校園，促進新一代人工智能在學習應用。

2 新一代人工智能對高等教育的變革

以高等教育中的新一代人工智能為研究對象，可把新一代人工智能對高等教育的變革方向聚焦在三個主要方向，分別是師生關系、科學研究、高等學校治理。

2.1 高等教育主體多維延展與局限

新一代人工智能將大力變革以師生為主體的教與學組織模式，個性化需求將更加深入，從而達到對人的教育高質量發展目標。高校教師的作用將更多回歸到啟發性、引導性教育，而知識的傳授將更多依賴新一代人工智能技術支撐。學生學習的知識結構體系、實驗演示與操作、學習成果評價等將通過知識互聯、海量數據、虛擬現實等技術實現更高效、更個性化、更人性化的學習效果。

2.2 科研組織形式與技術倫理

新一代人工智能由于具有強大的數據挖掘與學習能力，將對科研人員在科研前期準備工作提供強大支持，在文獻檢索、數據分析、模擬實驗、預測結果等方面為科研人員提供幫助，讓科研人員很快定位出科學研究前沿動態與研究進展，避免重復無效科研工作。科研人員將有更多時間與精力聚集在所研究的問題，提出創新性方法、開創性思路。傳統科研團隊的組織形式也將變革，將完全突破學科界限，跨學科將不再是科學研究的障礙，科研團隊成員更加聚焦問題的解決路徑，提供創新性思路。但是新一代人智能作為一種工具必然面臨著技術倫理問題，在科研中涉及隱私、偏見、歧視、公平等倫理問題的管控仍不完善。

2.3 高等教育治理與教育公平

新一代人工智能的應用使得高等教育去中心化趨勢將越來越清晰。高等學校將不再是單向地向學生輸出教育內容的唯一中心，學生也可反向參與課程建設，高等教育辦學將更加開放、自由，能更好地服務學生的個性化發展需求。新一代人工智能對辦學質量數據的挖掘與學習，將使對學生、教師的評價更加客觀、公正、人性化，更有利于個體的個性化成長。

3 高等教育領域中的新一代人工智能風險挑戰

3.1 弱化教育初心風險

新一代人工智能作為一種技術工具，如果不考慮高等教育立德樹人的初心與使命，技術手段越高效，其違背育人初心與使命的問題就越突出。高等教育不能像工廠流水線，高效生產數據標準上的合格產品，而必須考慮培養具有專業知識與完整人格的高層次人才。當高等教育過分依賴新一代人工智能技術時，教與學之間容易轉變為數據與數據之間的簡單交互，造成高等教育向形式化、表層化和同質化發展。因此，必須正視高等教育領域中的新一代人工智能可能存在有智能無智慧的技術應用風險，必須考慮對人的教育存在的不確定性，必須堅守對人的教育的初心與使命。

3.2 高等教育治理倫理風險

新一代人工智能技術應用高等教育的內容將極大豐富，知識更新更快，這可能讓教師與大學生感到無所適從，高校同事之間、學生之間的競爭可能被放大，強者更強弱者更弱。由于高等教育個人學習的數據管理機制還不完善，個人隱私掌握的少數人手里，新一代人工智能有可能在大學里構建成一座福柯式“全景式監獄”，學習能力標簽化、教育歧視等問題難于避免。高校對人的教育更需要文化、藝術、道德等熏陶，這種獨特需求也難于被新一代人工智能技術所勝任。

3.3 教育大數據與算法倫理風險

新一代人工智能技術依賴大數據采集、存儲與調用，必然面臨可能的數據泄露和信息安全問題，同時數據算法的黑箱、算法歧視等問題也層出不窮，高等教育領域也難于幸免。在大數據時代，高等教育各類數據都有可能被不良公司或個人挖掘、預測、監控，大學生個人存在被侵犯個人隱私的風險，隱私可能變得“透明”。數據收集、存儲、調用沒有建立統一標準和規范，影響新一代人工智能健康有序發展。同時，新一代人工智能依賴數據算法，可能存在偏見、歧視等一系列倫理問題。一方面，新一代人工智能算法只關注數據的輸入和輸出，使用者對算法“黑箱”幾乎一無所知，即使是算法設計者也無法掌控，這種不確定性算法推送的學習服務忽視了學習者的知情權。另一方面，新一代人工智能算法提供的個性化服務，在某種程度上約束了大學生的選擇權，對其成長是否有負面作用尚無定論。

4 高等教育領域中新一代人工智能風險防范

4.1 構建高等教育新一代人智能應用的倫理規范

高等教育的對象是高層次人才，新一代人工智能教育應用不能有違高等教育倫理和高等教育發展規律。必須加強高等教育領域新一代人工智能應用規范的頂層設計，既要符合新一代人工智能的技術要求，又要結合高等教育對人的塑造特殊要求，制定高等教育領域新一代人工智能應用的倫理規范。推動建立新一代人工智能在社會、家庭廣泛認可的倫理準則、道德標準，確保高等教育領域新一代人工智能應用健康有序發展。

4.2 構建高等教育新一代人工智能應用有效監管機制

新一代人工智能的技術核心是數據與算法，構建有效監管機制主要在數據和算法兩大方向入手。歐盟等出臺《統一數據保護條例》，提出具體的數據管理規定，傳遞出“數據正義”理念，其核心是數據透明和規避數據歧視，這為我國新一代人工智能數據管理提供借鑒。由于高等教育新一代人工智能事中算法黑箱的不可控特點，對其監管更應注重事前和事后監管。

4.3 構建以人的全面發展為目標的高等教育倫理共識

人的全面發展應當成為高等教育的主要目標，高校對高層次人才的培養不應只滿足掌握專業知識，而要兼顧道德、人性、人格、尊嚴、情感、文化素養等多方面培育，而這些是新一代工智能技術的難于勝任的場景。因此高等教育領域的新一代人工智能在強調知識、創造、發明的同時，更要關注增進人的智慧與自身自我成長，使人的全面發展成為高等教育倫理共識，規避人文、藝術、心理、情感、道德教育的缺失，培養具有批判性思維、文化素養、創新精神和同理心的高層次人才，使得培養出的人才在新一代人工智能與人類共同協作的社會中發揮更重要作用。