人工智能研究中的探索空間與倫理界限

邢晶晶

【摘? 要】 教育在人工智能的加持下，促進了教與學效率的提高。人工智能在教育領(lǐng)域的應用具有巨大的探索和發(fā)展空間，但是也存在著不可逾越的倫理界限。秉持發(fā)展“以人為本”的生成性人工智能，要在探索的同時不越界，做到保護隱私、尊重人格等。

【關(guān)鍵詞】 人工智能；探索空間；倫理界限

人工智能（AI）是一個技術(shù)科學領(lǐng)域，其研究和開發(fā)包括理論、方法、技術(shù)和應用系統(tǒng)，旨在模擬和增強人工智能。人工智能分為強人工智能與弱人工智能，本質(zhì)區(qū)別在于是否擁有自主意識。人工智能賦能教育的現(xiàn)象比比皆是，比如電子書包、多媒體交互、VR虛擬等技術(shù)。以及2022年發(fā)布的聊天機器人程序GPT，其功能強大，甚至被學生用來“解放”頭腦和雙手，代寫作業(yè)和論文。人工智能研究需要辯證看待。要在將人工智能應用于教育中時發(fā)揮其正向的作用，同時避免跨越其反向的邊界線。因為在涉及與人相關(guān)的研究時，人工智能技術(shù)的應用是存在限制的。人工智能隨之帶來的一系列倫理挑戰(zhàn)，我們需要積極應對其隱患。做到發(fā)展“以人為本”的生成性人工智能，更好地為人類服務(wù)。

一、人工智能的底層邏輯：大數(shù)據(jù)、算法和算力

我們想要知道人工智能涉及的倫理問題，就需要解開人工智能的“黑匣子”，了解人工智能的底層邏輯。為什么都是設(shè)定好的程序，預先寫好的算法，還會出問題呢？人工智能因為沒有人為因素介入通常被人們認為是公平的。但是實際的情況并卻不如人所愿。人工智能中也會出現(xiàn)對種族的歧視和女性的厭惡，也就是說人工智能中也是存在偏見和歧視的。那么，究竟是什么原因?qū)е碌模咳斯ぶ悄艿钠娭饕从谒惴ê蛿?shù)據(jù)。它的算法和數(shù)據(jù)使得它對某些特定的種族和性別表現(xiàn)出了負面偏見。人工智能和大數(shù)據(jù)是密不可分的關(guān)系，大數(shù)據(jù)是人工智能的能量來源，而算法則是推動人工智能發(fā)展的引擎。算法是計算機根據(jù)大數(shù)據(jù)歸納得出的識別邏輯、解決問題的方法。算力是計算機處理信息的能力。隨著互聯(lián)網(wǎng)的高速發(fā)展和信息時代的運轉(zhuǎn)，產(chǎn)生的是一個數(shù)據(jù)爆炸的結(jié)局。計算成本降低與算力進步使得處理和分析海量數(shù)據(jù)成為可能。例如當你走進一家4S店時，經(jīng)理似乎對你不感冒，你上前詢問理由，經(jīng)理回答：“當你走進門的那一刻，我們的攝像頭已經(jīng)對你進行面部識別，你的月工資、工作單位、最高消費水平等都一覽無余?！笨梢哉f，算法在幕后重新建立了一種秩序，幾乎所有的經(jīng)濟運行流程或人們的活動都受其影響。算法社會的前提條件是將萬物都數(shù)據(jù)化，包括了人的數(shù)據(jù)化。

二、人工智能研究中的探索空間

（一）腦機接口技術(shù)

腦機接口是可以連接機器外部設(shè)備與大腦的技術(shù)。目前了解到的腦機接口技術(shù)被用來幫助高位截肢的病人開球；幫助漸凍人實現(xiàn)意念打字；以及幫助出車禍的患者實現(xiàn)意念喝水等等。這項與人工智能有關(guān)的技術(shù)在教育、醫(yī)療、娛樂、健康等領(lǐng)域都多有應用。舉一個貼近現(xiàn)實的例子：腦機接口中最廣泛應用的技術(shù)是“人工耳蝸”。它能夠?qū)⒔邮盏降穆曇艮D(zhuǎn)化為電信號，并將這些信號傳輸?shù)蕉佒械碾姌O上。電極通過刺激耳蝸神經(jīng)來激活大腦的聽覺功能。腦機接口技術(shù)把一些不可能變成了可能。

腦機接口技術(shù)還可以分為兩類技術(shù)路線：侵入式和非侵入式。腦科學本身就是復雜的科學，收集的腦電信號是十分微弱的且易受噪音干擾?，F(xiàn)在廣泛應用的是非侵入式技術(shù)。但是，當一些高位截癱患者需要功能恢復時就只能依靠植入腦機接口。利用侵入式技術(shù)，可以實現(xiàn)對視聽功能的重塑，從而輔助治療帕金森病和阿爾茨海默病等疾??；而非侵入式技術(shù)則可以用于監(jiān)測和改善睡眠質(zhì)量等問題。

（二）智能化課堂

當人工智能融入教育，是康莊大道還是荊棘密布的小路？

人工智能已經(jīng)開始進入教育領(lǐng)域，豐富了人們的教學方式與獲取知識的方式。但是過多的碎片知識涌入、眼花繚亂的智慧學習模式，與教育的本質(zhì)是否一致？AI在學習的過程中，應該扮演什么角色？傳統(tǒng)的課堂教學往往是老師和學生之間的互動，學生大多是被動聽課，而且教學過程中缺乏實時反饋和互動。通過人工智能技術(shù)，可以實現(xiàn)智能化課堂，提高教學質(zhì)量和效率。例如智能教室通過視頻監(jiān)控、語音識別等技術(shù)，對學生的表情、動作、語言等進行實時監(jiān)測和分析，幫助老師更好地了解學生的狀態(tài)，調(diào)整教學內(nèi)容和方法，提高教學效果。

目前，一些大學已開始嘗試將人工智能引入課堂，與傳統(tǒng)教學方式結(jié)合，以改進教學主體之間的互動，有效提升學生的主體性，并推動傳統(tǒng)教育向智能教育的轉(zhuǎn)變。例如利用智能終端和即時反饋系統(tǒng)改造了智慧教室，為師生提供高效的教學與學習環(huán)境，并借助語音識別和圖像識別技術(shù)為學生提供智能化的自主測評平臺等。

現(xiàn)在，智能教育平臺的類型有很多，主要包括自動化教學平臺、智能化教學平臺和在線教育平臺。自動化教學平臺主要面向教師，幫助教師實現(xiàn)課程的自動化管理和授課；智能化教學平臺主要面向?qū)W生，幫助學生實現(xiàn)課堂學習的智能化；在線教育平臺主要是面向在校學生和在職人員，幫助他們實現(xiàn)遠程在線學習。

（三）個性化學習

個性化學習是指收集和分析學生的學習數(shù)據(jù)，使用人工智能描述每個學生的學習風格和特點，然后自動調(diào)整教學內(nèi)容、方法和節(jié)奏，使每個孩子都能接受最適合自己的教育。

雖然教育倡導個性化教學，但教師在面對眾多學生的情況下，很難感知和分析每個學生的學習情況。因此，實施個性化教學變得較為困難?，F(xiàn)有的在線教學大都不是真正的個性化教學，只是將傳統(tǒng)教室移到了手機和電腦等電子設(shè)備上，仍無法及時有效地關(guān)注學習者的學習狀況。然而，隨著人工智能的出現(xiàn)，有望有效解決這一問題。

隨著人工智能技術(shù)的普及和應用，個性化學習資源的獲取和利用得以加速。慕課等在線教育平臺作為我國教育領(lǐng)域的重要代表，已經(jīng)積累了大量的教育數(shù)據(jù)，為廣大學習者提供了豐富的學習資源。然而，學生在挑選課程時，往往會依據(jù)個人的興趣和現(xiàn)有的知識水平進行選擇，這一現(xiàn)象在一定程度上可能導致信息過載，甚至引發(fā)學生的興趣喪失。通過利用人工智能的機器學習方法，結(jié)合學生的知識水準、興趣喜好、學習習慣和學習情緒等數(shù)據(jù)信息，可以對學生的行為進行分析，對學生進行個性化的篩選和推薦。因此，大學教育可以使用人工智能來推動學生對具有個性化的專業(yè)領(lǐng)域資源的選擇，并開展個體化的教學。

三、人工智能研究中的倫理界限

（一）隱私保護的“最后一個堡壘”

腦機接口技術(shù)涉及對個人大腦活動的數(shù)據(jù)采集和分析，如果這些數(shù)據(jù)被濫用或泄露，將對個人的隱私權(quán)產(chǎn)生威脅。因此，在使用腦機接口技術(shù)進行教育應用時，必須確保學生的個人隱私不受侵犯，并采取相應的安全措施。目前人工智能的廣泛應用已經(jīng)明顯顯示出隱私保護問題。首先，教育過程中使用腦機接口來實時監(jiān)測學生的腦波動并及時反饋，這是否真正有利于教學效率提高，還是會阻礙學生進入高度集中的學習狀態(tài)？其次，腦機接口是否會取代傳統(tǒng)的學習方式，使學生不再需要努力學習？如果我們能夠?qū)崿F(xiàn)知識的直接傳輸，這無疑會進一步加強教育的機械性和技術(shù)化程度。再次，對于腦機接口技術(shù)的操作和控制，需要建立一套完善的道德和倫理準則。例如在教育應用中使用腦機接口技術(shù)來解讀學生的思維和情感狀態(tài)，需要確保這一技術(shù)的使用是基于學生的知情同意，并且盡可能避免對學生產(chǎn)生不必要的倫理壓力。此外，教育者需要在利用腦機接口技術(shù)時充分尊重學生的選擇權(quán)，避免過度干預學習過程和結(jié)果。最后，腦機接口技術(shù)在教育應用中的使用也需要考慮到公平和公正原則。如果腦機接口技術(shù)只被少數(shù)特定群體所掌握和應用，將會加劇教育資源的不平等分配問題。因此，有必要建立相應的監(jiān)管機制和教育政策，確保腦機接口技術(shù)的應用不會加劇社會不公平問題。

（二）“全景監(jiān)獄”

首先，個人隱私和數(shù)據(jù)安全是智能化課堂面臨的重要問題。在收集學生的學習數(shù)據(jù)和行為信息時，需要確保學生的隱私得到保護，防止數(shù)據(jù)被濫用或泄露。

其次，智能化課堂還可能加劇教育不平等問題。雖然智能化技術(shù)可以提供個性化的學習內(nèi)容，但是對于那些沒有機會接觸到智能化課堂的學生來說，他們可能會面臨學習資源不足的情況，從而進一步拉大教育差距，出現(xiàn)教育鴻溝。

再次，事實上，在智能課堂中，對學生的學習行為數(shù)據(jù)的采集屬于一種外部監(jiān)控，它涉及監(jiān)控對象的意愿度、監(jiān)控事務(wù)范圍、監(jiān)控數(shù)據(jù)的應用去向和監(jiān)控評價質(zhì)量等方面的倫理風險。從局限的數(shù)據(jù)調(diào)查，一般情況下會演變?yōu)槿轿弧⑷^程、全員覆蓋的常規(guī)化和合法性的數(shù)據(jù)監(jiān)督，而調(diào)查的對象也會逐步喪失其道德主體的身份，而成為數(shù)據(jù)透明的客體對象。人工智能技術(shù)對學生的學習過程進行實時全過程監(jiān)控，記錄學生的表情、動作、語言，對學生的性格有消極的作用，會對學生造成很大的心理負擔，有侵犯學生個人隱私的嫌疑。甚至有可能將學生變?yōu)椤氨硌菪汀比烁竦娜恕?/p>

最后，智能化課堂的應用也需要謹慎對待。雖然智能化技術(shù)可以提高學習效果，但是過分依賴智能化系統(tǒng)可能削弱學生的自主學習能力和創(chuàng)造力。因此，在智能化課堂的設(shè)計與實施過程中，需要充分考慮如何平衡智能化技術(shù)和傳統(tǒng)教學方法，以確保學生全面發(fā)展和個性發(fā)展的需求得到滿足。

（三）個人信息泄露的危機

師生關(guān)系冷漠化。比如慕課的大量使用，導致在傳統(tǒng)的教育中，教師和學生的二元關(guān)系變成了機器、學生、教師的三元關(guān)系，在空間上對教師和學生的對話產(chǎn)生了影響，使學生無法直接感受教師的情感、態(tài)度、價值觀，學生逐漸成為缺少感情色彩的知識接受者。機器是冰冷的，只有具有人文關(guān)懷的教師才是學生的引導者。在大數(shù)據(jù)的推送下，學生接受的信息過量，信息迷航導致學生壓力倍增，會損傷身心健康。個性化學習需要收集和分析大量學生的個人數(shù)據(jù)，也可能涉及敏感信息的獲取和使用，如學生的姓名、年齡、學生成績等。在個人數(shù)據(jù)的收集和使用過程中，必須確保學生數(shù)據(jù)的安全和隱私。個性化學習還可能陷入算法偏倚和認知限制的困境。個性化學習系統(tǒng)依賴于算法來分析學生數(shù)據(jù)并做出學習推薦，但算法的設(shè)計和實現(xiàn)可能存在偏倚和錯誤。如算法可能過分關(guān)注學生的某些學科，忽略其他學科的重要性。

人工智能教育的發(fā)展促進了大數(shù)據(jù)在教育領(lǐng)域的拓展。教育機構(gòu)利用各種數(shù)據(jù)采集設(shè)備和數(shù)據(jù)分析系統(tǒng)獲取學生的各種信息，并利用強大的算法對這些海量數(shù)據(jù)進行深入分析。不僅可以對學生成績進行排名，還可以“計算”出一個人的道德品質(zhì)、政治素養(yǎng)、思維能力、心理健康狀況、行為習慣等，甚至可以“讀懂”其隱藏的伎倆?？梢哉f，在人工智能時代，一切都有可能被記錄，一切都可以成為大數(shù)據(jù)，智能算法系統(tǒng)比我們更了解自己，人們毫無保留地暴露在數(shù)據(jù)智能分析之下。

學生在平時使用人工智能應用時，表面是風平浪靜的個性化學習，背后卻是將學生的所有數(shù)據(jù)收集起來被數(shù)據(jù)公司利用，被智能教育商分享和使用，甚至他們已經(jīng)創(chuàng)建了一個教育用戶數(shù)據(jù)庫。這使得數(shù)據(jù)和個人信息的“所有權(quán)”變得毫無意義。

四、結(jié)語

文章首先梳理了人工智能的底層邏輯，明晰人工智能是如何實現(xiàn)目標的，講清楚了人工智能的操作邏輯和基本原理。人工智能在教育中的應用越來越廣泛和深入，與教育的融合也越來越普遍。人工智能與傳統(tǒng)教育的融合推動了高等教育的改革。人工智能在教育中的應用可以實現(xiàn)跨時空學習，提升學習和教學效率等。在人工智能的時代下，高等教育中的主體，也面臨著挑戰(zhàn)和不容忽視的倫理問題，我們必須充分利用人工智能帶來的技術(shù)優(yōu)勢，以推動社會進步和創(chuàng)新發(fā)展。然而，我們也要著重關(guān)注倫理邊界，確保人工智能技術(shù)的教育應用不會對人類產(chǎn)生負面影響。同時，應以教育技術(shù)的理性態(tài)度，客觀地評估人工智能技術(shù)的效果和潛在風險，以確保其發(fā)展符合社會的共同利益和人類價值觀。只有在正確的引導下，人工智能才能成為社會發(fā)展的強有力支撐，為人類帶來更多福祉。

參考文獻：

［1］ 孫佳晶，馮銳. 人工智能教育應用的倫理風險研究［J］. 大眾文藝. 2020（03）：248-249.

［2］ 鄭忠梅. 教育技術(shù)理性的倫理意蘊——基于Web2.0的網(wǎng)絡(luò)教育文化視角的分析［J］. 中國電化教育，2011（03）：8-11+32.

［3］ 董云川，韋玲. 人工智能促進高等教育發(fā)展的倫理糾偏［J］. 重慶高教研究，2021，9（02）：51-58.