999精品在线视频,手机成人午夜在线视频,久久不卡国产精品无码,中日无码在线观看,成人av手机在线观看,日韩精品亚洲一区中文字幕,亚洲av无码人妻,四虎国产在线观看 ?

從“國際人工智能與教育會議”審視面向數(shù)字人文主義的人工智能與教育

2022-03-04 12:56:56苗逢春
現(xiàn)代教育技術(shù) 2022年2期
關(guān)鍵詞:人工智能課程教育

苗逢春

(1.北京師范大學 互聯(lián)網(wǎng)教育智能技術(shù)及應用國家工程實驗室,北京,100875;2.聯(lián)合國教科文組織總部 教育信息化與教育人工智能部門,法國巴黎,75007)

基于大數(shù)據(jù)、算法、云計算等技術(shù)的突破,人工智能技術(shù)在近七八年間出現(xiàn)了飛躍性發(fā)展,而其與移動寬帶技術(shù)的結(jié)合進一步加速了壟斷性數(shù)字平臺和數(shù)字應用的跨國、跨界滲透。在人與技術(shù)的關(guān)系中,技術(shù)提供商與用戶之間的信息不對稱逐漸演變?yōu)閿?shù)據(jù)控制方面的不對稱、用戶和政府對數(shù)據(jù)處理算法不知情的單盲性算法不對稱、云計算壟斷企業(yè)在計算能力方面壓倒性且難以逆轉(zhuǎn)的不對稱。這種技術(shù)控制力與人文控制能力之間的完全失衡,造成了以全球壟斷性人工智能數(shù)字技術(shù)供應商為代表的數(shù)字私有治理體的崛起。數(shù)字私有治理不但沖擊了主權(quán)國家主導的傳統(tǒng)治理體系,也助推了重視和迷信數(shù)字技術(shù)之變革力量、忽視人之主導作用的“技術(shù)解決方案主義”(Technological Solutionism)的產(chǎn)生。更嚴重的是,可能會導致隱形技術(shù)和算法在人類不知情的情況下操控數(shù)據(jù)并試圖控制人類行為“技術(shù)主導、人類仆從”的反人文主義傾向。針對這些問題,全球治理機構(gòu)和一些有遠見的國家呼吁將人文主義確立為人工智能與教育全球治理的指導原則,并通過各種治理機制引導相關(guān)實踐。本研究將對2021 年“國際人工智能與教育會議”進行綜述,在此基礎(chǔ)上,闡述人文主義技術(shù)應用原則的緣起與流變,探討落實該原則所需的國際治理共識與國家政策供給、人工智能素養(yǎng)及其培養(yǎng)、促進公平與全納的重點戰(zhàn)略領(lǐng)域,并展望該原則指導下教育人工智能創(chuàng)新的可能發(fā)展方向。

一 國際人工智能與教育會議:以知識分享和協(xié)商共議促進人工智能全球治理

2021 年11 月,聯(lián)合國教科文組織(以下簡稱“教科文組織”)發(fā)布了兩個對人工智能與教育領(lǐng)域具有深遠影響的文件:《人工智能倫理問題建議書》[1]、《一起重新構(gòu)想我們的未來:為教育打造新的社會契約》[2],兩者都是教科文組織歷時四年在廣泛咨詢193 個會員國政府和各界意見的基礎(chǔ)上,由獨立委員會撰寫并由其最高治理機構(gòu)全體大會發(fā)布的國際共識性文件。其中,《人工智能倫理問題建議書》試圖為各國監(jiān)管人工智能各領(lǐng)域應用的倫理和社會問題、平衡私有數(shù)字治理的沖擊提供國際文據(jù);而《一起重新構(gòu)想我們的未來:為教育打造新的社會契約》旨在引導社會各界共同協(xié)商人類可持續(xù)發(fā)展所需的教育,并由此出發(fā)重新界定知識和學習。這兩個文件分別從人工智能和教育基本需求的角度出發(fā)對人工智能與教育的深度耦合和相互增強提供了國際共識框架。2021 年“國際人工智能與教育會議”是繼這兩個文件頒布后,圍繞這些重要國際共識召開的第一個國際會議。

1 2021 年“國際人工智能與教育會議”簡介

2021 年12 月7 日~8 日,教科文組織與中華人民共和國教育部、中國教科文組織全國委員會共同舉辦“國際人工智能與教育會議”(下文簡稱“2021 年國際會議”)。為落實上述兩個文件,會議主題被確定為“確保人工智能服務公共利益,促進教育變革轉(zhuǎn)型”1詳見網(wǎng)站:https://en.unesco.org/news/international-forum-artificial-intelligence-and-education-2021,旨在引導人工智能與教育的全球治理,增強各國人文主義指導下的技術(shù)創(chuàng)新和創(chuàng)新應用,引導全球人工智能的開發(fā)與應用聚焦于教育和人類的共同利益。考慮到人文主義指導的人工智能與教育的全球治理、國家政策和戰(zhàn)略性實踐,會議主要圍繞以下分議題展開:①推進人工智能與教育的全球治理和國家政策的制定與實施;②確保人工智能服務于教育共同利益所需的人工智能素養(yǎng)培養(yǎng);③挖掘數(shù)據(jù),以加強教育管理和學習評估;④通過引導,將人工智能創(chuàng)造性地應用于促進教育的包容與性別平等;⑤促進人工智能在非洲的應用,并確保人工智能與教育領(lǐng)域的公平。

在為期兩天的線上和線下同步會議中,共有來自107 個國家的1763 名代表實時參加,并有來自50 多個國家的73 名發(fā)言人分享了各自的觀點和經(jīng)驗。來自14 個國家的16 位現(xiàn)任教育部或信息產(chǎn)業(yè)部部長/副部長出席會議并發(fā)言,有1063 名國際參會人員實時觀看國際平臺的會議直播,有7070 名中國參會人員通過中國教育部的直播平臺實時觀看會議。代表聯(lián)合國教科文組織最高治理機構(gòu)的全體大會主席出席開幕式并講話,教科文組織教育助理總干事Giannini、社會與人文科學助理總干事Ramos、外聯(lián)和非洲優(yōu)先部門助理總干事Matoko 出席會議并發(fā)言。

會上,中國教育部部長懷進鵬致開幕詞,副部長鐘登華做主旨演講,言簡意賅地分享了中國經(jīng)驗,并提出了與會議宗旨和會議目標相契合的全球倡議。其中,懷進鵬部長十分鐘的致辭可凝練為以下四個方面:①人工智能與教育發(fā)展的一個前提——高質(zhì)量全民教育的高普及率;②中國教育改革創(chuàng)新的三項指導原則——公平包容、立德樹人與優(yōu)質(zhì)教育、技術(shù)創(chuàng)新和教育信息化推動教育變革;③中國教育數(shù)字轉(zhuǎn)型和智能升級的三個領(lǐng)域——人工智能教育政策供給、人工智能與教育教學深度融合以及用學并舉、人工智能促進全民終身學習;④關(guān)于國際人工智能與教育治理及合作的三項倡議——應變識變,順勢而為,開放交流、共筑共享,倡導人類、環(huán)境和生態(tài)系統(tǒng)整體觀下的倫理與安全。而鐘登華副部長做了題為“利用人工智能助推教育高質(zhì)量發(fā)展——中國的探索與實踐”的演講,他將理論與實踐相結(jié)合,分享了以下三方面內(nèi)容:①中國人工智能與教育五個領(lǐng)域的經(jīng)驗——智能技術(shù)驅(qū)動的“六位一體”(包括網(wǎng)絡、平臺、資源、校園、應用、安全)的教育新基建政策規(guī)劃,人工智能與教育理念、教育模式的融合實驗,教師人工智能應用能力建設,人工智能賦能教育治理現(xiàn)代化,中小學、職業(yè)教育院校和高效人工智能課程建設;②人工智能對教育提出的三個挑戰(zhàn)——智能時代對學生能力(如創(chuàng)新能力、溝通能力、人機協(xié)作能力和解決復雜問題能力)培養(yǎng)提出新挑戰(zhàn)、智能時代對教師角色轉(zhuǎn)變提出新要求(人機結(jié)合的教育將成為常態(tài))、智能時代對學校治理模式提出新考驗;③《教育信息化“十四五”規(guī)劃》確定的人工智能與教育融合發(fā)展的四個重點——人工智能教育應用尤其是以智能技術(shù)為支撐的新型教學模式,面向基礎(chǔ)教育、職業(yè)教育和高等教育的人工智能能力的普及教育、特色教育和專業(yè)教育,智能教育管理服務尤其是以數(shù)據(jù)驅(qū)動為核心的全業(yè)務、全流程教育治理新體系,關(guān)注人工智能教育應用的倫理安全問題。

2 通過持續(xù)性國際會議,參與、引領(lǐng)人工智能與教育的全球治理

《聯(lián)合國教科文組織憲章》確定了組織核心使命[3],即通過促進會員國在教育、科學和文化領(lǐng)域的合作,增強“人類智慧與道德的團結(jié)”,維護世界和平與安全。教科文組織通過以下功能定位發(fā)揮其在全球教育治理中的作用:①促進各國人民和各文化族群之間的相互認知和理解,主要手段為支持制定和實施相關(guān)領(lǐng)域必要的國際協(xié)約、推廣國際共識性建議。②為普及優(yōu)質(zhì)教育注入新的動力,主要手段包括與會員國合作規(guī)劃和實施教育活動;通過開展會員國之間體制性的合作,推進不同種族、性別和社會背景的人群享有平等的受教育權(quán);倡議自由和責任心兼顧的教育方法。③傳承、分享和豐富知識,主要手段包括鼓勵國家在開放知識產(chǎn)權(quán)領(lǐng)域的合作。

召開各國廣泛參與的國際會議,是教科文組織落實政府間共識性文件和促進知識傳播與分享的重要手段。規(guī)劃良好且可持續(xù)召開的會議,是貫穿上述前瞻理念倡議、理念立法與推廣、能力建設和知識分享各層次功能的縱向線索。在此背景下,為支持人工智能時代的教育政策及規(guī)劃,聯(lián)合國教科文組織、中國教育部與中國教科文組織全國委員會于2019 年5 月在北京共同舉辦首屆國際人工智能與教育會議——“國際人工智能與教育會議”(2019 年)[4]。參會的130 多個國家代表中有50 多名教育部長,他們圍繞人工智能與教育達成了首個國際文件《北京共識——人工智能與教育》[5](下文簡稱《北京共識》)。2020 年12 月,教科文組織與中國以線上線下融合的方式舉辦了第二屆“國際人工智能與教育會議”,論壇主題為“培養(yǎng)人工智能時代需要的能力”2詳見網(wǎng)站:https://en.unesco.org/news/international-forum-artificial-intelligence-and-futures-education-2020。

2019 年~2021 年連續(xù)召開的三屆“國際人工智能與教育會議”共召集了來自全球150 多個國家的8000 余名實時參會或聽會代表,累計分享了200 多名政策制定者或?qū)<业难葜v或發(fā)言,為世界各國提供了人工智能與教育領(lǐng)域最具代表性和影響力的知識分享平臺。教科文組織與中國通過國際會議打造的這一國際治理平臺凝聚了該領(lǐng)域比較重要的國際共識,同時推動了核心國際知識成果的迭代更新。作為第一屆會議的成果,《北京共識》闡明了教科文組織倡導的、關(guān)于技術(shù)應用的人本主義原則的內(nèi)涵,并結(jié)合下述各領(lǐng)域中的教育使命提出了系統(tǒng)且具體的政策和實踐建議:促進教育公平、包容發(fā)展的人工智能政策供給;人工智能促進教育的管理和供給;人工智能賦能教學和教師;人工智能促進學習和學習評價;培養(yǎng)人工智能時代生活和工作所需的價值觀與技能;人工智能致力于為全民提供終身學習的機會;促進教育人工智能應用的公平與包容;性別公平的人工智能并用人工智能促進性別平等;確保教育數(shù)據(jù)和算法使用合乎倫理且可審核。第二屆會議所交流的知識和經(jīng)驗經(jīng)匯總后發(fā)表在《人工智能時代的能力培養(yǎng)綜合報告》中[6],明確提出人工智能時代的生活、學習和工作需要人人掌握與機器協(xié)作所需的價值導向、人工智能基本知識和人工智能技術(shù)的基本操作能力,提出并初步界定了人工智能素養(yǎng)的概念。在第二屆、第三屆會議期間,教科文組織出版發(fā)行了北京師范大學參與撰寫的《人工智能與教育:政策制定者指南》[7],完成了針對全球193 個會員國的中小學人工智能課程的調(diào)研,并啟動了中國企業(yè)贊助的“人工智能與未來學習”項目3詳見網(wǎng)站:https://en.unesco.org/themes/ict-education/ai-futures-learning。在第三屆會議期間,教科文組織用六個語言版本發(fā)布了《人工智能與教育:政策制定者指南》和“中小學人工智能課程調(diào)查報告”。可見,在人工智能與教育國際治理領(lǐng)域,中國已經(jīng)超越被動參與階段,成為國家經(jīng)驗分享的重要貢獻者和國際規(guī)則制定的合作引領(lǐng)者。

二 數(shù)字人文主義是教育新基建不可或缺的人文底座

教科文組織倡導的人文主義源于聯(lián)合國在1948 年發(fā)布的《世界人權(quán)宣言》[8]。該宣言明確提出,所有國際合作均須以保護每個人的基本權(quán)利和基本尊嚴為原則。教科文組織在其憲章和后續(xù)系列文件中都明確申明支持《世界人權(quán)宣言》,最典型的文件和報告包括:1972 年的“富爾報告”[9]、1996 年的“德洛爾報告”[10]、2015 年聯(lián)合國通過2030 年可持續(xù)發(fā)展的17 個目標后教科文組織發(fā)布的有關(guān)2030 年教育可持續(xù)發(fā)展議程的《仁川宣言》[11],以及2021 年發(fā)布的“關(guān)于未來教育的報告”。

基于這些全球共識性文件和引領(lǐng)性報告,教科文組織主張的教育領(lǐng)域的人文主義理念可以概括為:教育的根本出發(fā)點和價值首先在于維護人的權(quán)利(Human Right)、人的尊嚴(Human Dignity)和有安全保障的生命(Secured Life),并應確保不同種族、性別和社會經(jīng)濟背景的所有人接受教育機會的平等性(Equality),以及針對殘障人士和母語為非官方語言等弱勢群體提高教育的包容性(Inclusion),通過高質(zhì)量的教育培養(yǎng)每個人獲得體面的生活所需的價值觀、知識和技能,借此服務人類社會的公共利益。例如,《仁川宣言》明確指出“人文主義的教育和發(fā)展觀”是2030 年教育議程的指導原則,提出“其基礎(chǔ)是人的權(quán)利和尊嚴,社會正義、包容以及與文化、語言和民族的多樣性”“重申教育是一項公益事業(yè)、基本人權(quán)和確保實現(xiàn)其它權(quán)利的基礎(chǔ)”。

本研究認為應從人與自然的關(guān)系、人與人的關(guān)系、人與社會的關(guān)系、人與技術(shù)的關(guān)系等方面理解教科文組織秉持的人文主義教育治理理念:

①超越狹義人本主義,在生物圈整體視域中界定人與自然、人與人關(guān)系層次的人文主義。狹義人本主義(Human-Centrism)的存在論基礎(chǔ)是人異于萬物、人高于動物,甚至人高于自然。但近幾個世紀以來,人類和動物賴以生存的地球家園迅速惡化,恰恰是人類為追求以人為單一本體的主體利益最大化而任意踐踏動物的生存權(quán)和恣意消費自然的結(jié)果。不同人類族群之間的資源分配不均,也是人與人關(guān)系不平等、某些族群利益高于其他族群的結(jié)果。在教科文組織2021版“關(guān)于未來教育的報告”中對此進行了闡釋:“為追求增長和發(fā)展,我們?nèi)祟愖屪匀画h(huán)境不堪重荷,現(xiàn)已危及我們自身的生存”“不斷擴大的社會和經(jīng)濟不平等、氣候變化、生物多樣性喪失、超出地球極限的資源使用、民主的倒退和顛覆性的技術(shù)自動化,是當前這個歷史轉(zhuǎn)折點的標志”。人類社會面臨的歷史性生存危機,逼迫人文主義者借鑒生物中心主義(Biocentrism)的倫理學觀點,建構(gòu)人與生物圈一體的整體哲學視域,即從人與動物平等、所有生物在生物圈中具有平等內(nèi)在價值的出發(fā)點來思考人與地球萬物尤其是與其它生物的主客體互動。基于此,應拋棄人與萬物的主客體分離觀和“人優(yōu)于萬物”的實踐原則。為了維持可持續(xù)生存,人類應克制對自然資源的不合理訴求,并盡量中和消費各類資源過程中對生物圈和自然的破壞。生物圈整體論視域中的改良人文主義不僅是教科文組織教育治理的指導理念,更是近期指導聯(lián)合國2030 年可持續(xù)發(fā)展目標和應對全球氣候變暖的重要理據(jù),應該成為國內(nèi)教育信息化實踐的指導原則。同時,全球治理機構(gòu)應將維持人類生存的環(huán)境和人類可獲取的資源定義為全球公域(Global Commons)和公共產(chǎn)品(the Public Good),包括大氣層、外太空、海洋及其它維系人類生命所需的相關(guān)環(huán)境和生物支持系統(tǒng)。在此基礎(chǔ)上,通過各類全球治理機構(gòu)協(xié)商確定各主權(quán)國家和民權(quán)群體相對認可的共同利益(the Common Good),并以此作為國際立法和全球共治的基礎(chǔ)。

②從人文主義和工具理性主義之間的平衡與互鑒出發(fā),理解和界定人與社會關(guān)系層次的人文主義。教科文組織人文主義優(yōu)先的教育理念與世界銀行、經(jīng)濟合作與發(fā)展組織(the Organisation for Economic Cooperation and Development,OECD)等國際組織主張的以經(jīng)濟和技術(shù)合作為目的之工具理性主義(Instrumental Rationality)的治理理念有顯著差異,后者將人視為人力資源,對就業(yè)技能和產(chǎn)業(yè)技能培訓的強調(diào)優(yōu)先于對人權(quán)的保護和對平等的追求。教科文組織在與其他國際治理機構(gòu)互動的過程中,并未回避工具理性主義在教育治理尤其是在培養(yǎng)適應社會發(fā)展之人才方面的合理價值。例如,《仁川宣言》明確提出,要在確保教育包容、教育公平和性別平的基礎(chǔ)上,提供實現(xiàn)個體人和社會人的人文價值與功利價值所需的價值觀、知識和技能。

③從數(shù)字人文主義的視角出發(fā)[12],界定人與技術(shù)關(guān)系層次的人文主義原則并提出場景性釋義。數(shù)字人文主義是對人與技術(shù)尤其是人與“智能”工具之間關(guān)系的釋義。人類為適應原始社會、農(nóng)業(yè)社會、工業(yè)社會和信息社會的社會環(huán)境需要所發(fā)明、創(chuàng)造的工具,反向界定了人類的生產(chǎn)、生活和學習方式。2010 年以來,移動寬帶技術(shù)、設備和各類應用逐漸普及,數(shù)字化正在改變我們對客觀事物、主觀概念及與其密切相關(guān)的人類的認知和社會行為的傳統(tǒng)定義。數(shù)字化學習不限于傳統(tǒng)知識的數(shù)字化傳遞,更重要的是已觸及數(shù)字化的知識表達、數(shù)字化的學習過程、人與技術(shù)的互動。在人與技術(shù)的互動模式中,人類在數(shù)字化和物理混合空間中的現(xiàn)實性和虛擬性社會互動顯著增多而且兩種社會交往方式之間日益融合,呈現(xiàn)出兩棲性社會互動的趨勢。人與技術(shù)互動的這些新模式,顛覆了非數(shù)字化時代確立的很多社會文化范疇及其核心概念。其中,人工智能技術(shù)的發(fā)展作為社會各方面數(shù)字化轉(zhuǎn)型的重要組成部分,貫穿于我們的生活、工作和包括教育在內(nèi)的公共服務領(lǐng)域。具體來說,人工智能驅(qū)動的學習數(shù)字化不僅是對“傳統(tǒng)”形式的知識進行數(shù)字化傳輸,更多的是指在機器學習和日益強大的算法的助推作用下,人類獲取的數(shù)字化知識、對知識的數(shù)字化獲取方式以及相對脫離人類的自動化知識生產(chǎn)和表征。同時,人機協(xié)同的快速發(fā)展,對現(xiàn)有的關(guān)于人是什么樣的存在、人存在的意義是什么等根本問題的界定提出了挑戰(zhàn),也對人與人、人與技術(shù)之互動關(guān)系的界定產(chǎn)生了深遠影響。數(shù)字人文主義正在被定義,并將對整個教育系統(tǒng)的規(guī)劃發(fā)展、人工智能與教育領(lǐng)域的工作發(fā)揮直接指導作用。《北京共識》闡釋了人文主義針對人類應用技術(shù)的場景性原則:“重申教科文組織在人工智能使用方面的人文主義取向,以期保護人權(quán)并確保所有人具備在生活、學習、工作中進行有效人機合作以及可持續(xù)發(fā)展所需的相應價值觀和技能”“人工智能的開發(fā)應當為人所控、以人為本;人工智能的部署應服務于人并以增強人的能力為目的;人工智能的設計應合乎倫理、避免歧視,應公平、透明且可審核;應在整個價值鏈全過程中監(jiān)測并評估人工智能對人和社會的影響”。2021年11 月,聯(lián)合國教科文組織通過《人工智能倫理問題建議書》,對人類設計應用人工智能技術(shù)的全價值鏈以及在生活、學習、生產(chǎn)各類應用場景應遵循的人文主義原則進行了更詳盡的闡釋。

數(shù)字人文主義對教育領(lǐng)域的結(jié)構(gòu)性影響,是在數(shù)字化時代對“學會做人”“學會求知”“學會做事”“學會共處”這“四個學會”的重新定義:在數(shù)字化時代,界定人是一種什么樣的存在并由此重新界定“學會做人”(包括數(shù)字化時代做人的規(guī)范);界定數(shù)字化知識和數(shù)字化時代學習的特點并由此重構(gòu)“學會求知”;重新審視數(shù)字化時代人與人的相處和人與技術(shù)的互動;審視數(shù)字化時代的問題解決,學會做事、學會工作和學會創(chuàng)業(yè)等。

在2021 年國際會議上,教科文組織大會主席Mour?o 提出:數(shù)字技術(shù)的發(fā)展會撼動本地乃至全球的倫理標準和原則。如果放任其濫用,人工智能算法便會進一步惡化長期存在的歧視、教唆暴力等問題。為此,世界各國必須將人工智能作為公共數(shù)字產(chǎn)品,而教育是將該理念轉(zhuǎn)化為行動的最佳途徑。教科文組織教育助理總干事Giannini 在會議致辭中強調(diào):人文主義是教科文組織所有法規(guī)文本、共識性文件和全球報告中關(guān)于技術(shù)應用的一以貫之的原則。教科文組織的核心價值觀是,在教育系統(tǒng)接納技術(shù)時保證人的基本權(quán)利和尊嚴不受侵犯;包容、公平和性別平等是一切教育技術(shù)方案的核心指導原則;教育技術(shù)創(chuàng)新必須被納入可共享的公共數(shù)字產(chǎn)品范疇。新技術(shù)在教育中的應用也應服務于正確的教育發(fā)展方向,尊重每個學生的權(quán)利和需求。

會上,來自14 個國家的16 位部長/副部長均結(jié)合本國實踐,對上述觀點給予了支持。懷進鵬部長分享的推動中國教育改革發(fā)展的三個原則與人文主義的理念相契合:首要原則是“堅持公平包容”。教育公平是社會公平的基礎(chǔ),因此中國政府堅持以人民為中心的發(fā)展思想,把教育公平作為國家基本教育政策,著力縮小區(qū)域、城鄉(xiāng)、校際、群體間的教育發(fā)展差距。中國在2021 年實現(xiàn)了教育的全面脫貧攻堅,使困擾了中國幾十年的義務教育階段輟學問題得到解決。同時,城鄉(xiāng)基本公共教育服務均等化持續(xù)推進,通過信息化共享優(yōu)質(zhì)教育資源,有效彌合了數(shù)字鴻溝。此外,懷進鵬部長還強調(diào)“堅持教育高質(zhì)量發(fā)展”和“堅持改革創(chuàng)新”兩個原則的重要性。圍繞實現(xiàn)“全球共同利益”的教育理念,懷進鵬部長提出了三點倡議,其中第三點是“安全為基,行穩(wěn)致遠”,他表示:“安全是發(fā)展的前提。聯(lián)合國教科文組織剛剛通過的《人工智能倫理問題建議書》提出,在人工智能系統(tǒng)的整個生命周期,都應采取措施實現(xiàn)人類、環(huán)境和生態(tài)系統(tǒng)的安全保障。教育面向下一代,關(guān)系人類未來,更應把安全放在更加重要的位置,統(tǒng)籌好安全和發(fā)展的關(guān)系,加快探索完善人工智能技術(shù)教育應用中的倫理安全規(guī)則、技術(shù)與管理方式,夯實智能時代教育技術(shù)變革的安全基礎(chǔ),使智能技術(shù)真正促進教育發(fā)展,造福人類社會”。

可見,從人類、環(huán)境和生態(tài)系統(tǒng)整體觀出發(fā),以包容和公平為原則的數(shù)字人文主義應被確立為教育系統(tǒng)數(shù)字化新基建的人文底座。人工智能促進人類智能發(fā)展的理念建構(gòu)和制度重構(gòu),應不斷完善人類價值導向,滿足技術(shù)向善、技術(shù)服務于人的發(fā)展需求;應從頂層設計和基層實施各層面避免教育新基建中用技術(shù)優(yōu)先壓制人類主觀能動性的“技術(shù)解決方案主義”。面向數(shù)字人文主義深化人工智能與教育的相互增強,是該領(lǐng)域需要進行理論建構(gòu)和實踐探索的命題。

三 確保人工智能服務于教育公共利益的全球治理文據(jù)與國家政策供給

1 數(shù)字私有治理的崛起及其對人工智能全球治理格局的影響

人工智能在各個領(lǐng)域的快速部署會威脅到數(shù)據(jù)隱私和人權(quán),加劇已有歧視,并引發(fā)新形式的偏見和排斥。就人工智能治理而言,政府間治理機構(gòu)和會員國的公共治理需面對迅速崛起的人工智能技術(shù)供應商所施加的私人治理壓力[13],因為私營人工智能開發(fā)商尤其是數(shù)字平臺持有者已定義并實施了其私有規(guī)范體系。人工智能工具用于追蹤用戶數(shù)據(jù)、識別用戶行為模式、評估用戶行為的算法,往往是在用戶并非完全知情、尚未明確同意的情況下運行的。除充當規(guī)則制定者之外,人工智能工具的私人持有者同時還扮演規(guī)則監(jiān)管者的角色,而當用戶與用戶、用戶與供應商之間產(chǎn)生糾紛沖突時,這些平臺的持有者會充當?shù)谝粫r間內(nèi)糾紛調(diào)解員的角色。私人治理的崛起,打亂了將人工智能作為共同數(shù)字產(chǎn)品以最大化地服務于公共利益的主權(quán)國家公共治理體系。而新冠疫情在全世界的流行,驅(qū)使跨政府全球治理體、主權(quán)國家公共治理體和各獨立公民團體應急性、全方位地采納數(shù)字化平臺以支持疫情期間的遠程辦公,這種對數(shù)字化工作手段的依賴在后疫情時期會進一步深化和泛化。智能化數(shù)字平臺的成熟與新冠疫情助推的數(shù)字平臺的普及應用在2020 年發(fā)生了歷史性重疊,由跨政府全球治理體、主權(quán)國家公共治理體、公民社會自發(fā)治理體和數(shù)字化私有治理體構(gòu)成的多元化全球治理格局成型,如圖1 所示。在未來一段時間內(nèi),對任何領(lǐng)域的全球治理分析都需以這些治理主體之間的張力與制衡關(guān)系為基礎(chǔ)。

圖1 多元化全球治理主體之間的張力與制衡

2 人工智能與教育的全球治理文件與國家政策規(guī)劃

為了引領(lǐng)世界各國應對上述挑戰(zhàn),教科文組織于2018 年啟動有關(guān)人工智能倫理問題全球治理文件的制定。2021 年11 月,教科文組織第41 屆全體大會通過了《人工智能倫理問題建議書》,為不同政府和主權(quán)國家治理體提供了全球人工智能治理的立法依據(jù)。需要指出的是,該建議書還需通過關(guān)于人工智能和數(shù)據(jù)保護的國家法規(guī)方能得以實施。而國家層面針對人工智能一般性問題的治理仍然嚴重滯后,還有超過三分之一的國家沒有任何形式的數(shù)據(jù)隱私保護法來保障公民的基本數(shù)據(jù)隱私,并監(jiān)管人工智能技術(shù)開發(fā)與應用過程中對公民數(shù)據(jù)獲取和使用過程的合法性[14]。除了一般的數(shù)據(jù)保護條例,針對人工智能與教育治理的政策更是處于空白狀態(tài)。教育部門的政策制定者亟需加深對人工智能在教育領(lǐng)域應用中相關(guān)獨特倫理問題的理解,并制定相關(guān)的政策。為此,各國政府需要持續(xù)關(guān)注并提升政策制定者在理解國際法規(guī)、結(jié)合本土需求批判分析人工智能的潛能與風向、基于人文需求制定人工智能與教育政策的能力。

2021 年4 月,教科文組織發(fā)布《人工智能與教育:政策制定者指南》。該指南以人文主義作為指導原則,界定并呈現(xiàn)了以下內(nèi)容模塊:①教育政策制定者關(guān)于人工智能的必備領(lǐng)域性知識,包括人工智能對社會和人的影響、人工智能基本原理、人工智能技術(shù)、現(xiàn)階段人工智能的潛力和局限;②人工智能與教育政策的關(guān)鍵領(lǐng)域與和實踐案例,包括人工智能支持教育供給與教育管理、人工智能賦能教學與教師、人工智能支持學習與評價;③借助人工智能應對2030 年教育可持續(xù)發(fā)展目標面臨的挑戰(zhàn),包括人工智能倫理問題,數(shù)字鴻溝及與人工智能鴻溝,包容、公平、性別平等,人機互動中人的主動性保護;④現(xiàn)有人工智能與教育的政策評估與政策規(guī)劃建議。

從全球治理角度出發(fā),該指南試圖引導教育政策圍繞以下問題批判性地審視人工智能與教育的關(guān)系,并制定確保人工智能服務于教育共同利益的相關(guān)政策(具體的政策目標如圖2 所示):①國家政策如何確保人工智能在教育中的應用合乎倫理并促進教育公平?②如何借助人工智能實現(xiàn)未兌現(xiàn)的全民優(yōu)質(zhì)教育承諾?③如何挖掘人工智能的潛能,支持各國期望的學習的未來和數(shù)字人文主義?④如何界定并培養(yǎng)人與人工智能協(xié)作所需的基本素養(yǎng)和高階人工智能能力?

圖2 數(shù)字人文主義導向的人工智能與教育政策目標

在2021 年國際會議上,16 位部長/副部長均表達了對數(shù)字人文主義導向的人工智能與教育全球治理的支持,并分享了國家政策供給的成果或有關(guān)規(guī)劃。其中,塞爾維亞第一副總理兼教育與科技部部長Ru?i?表示:將于2022 年根據(jù)《人工智能倫理問題建議書》制定針對本國的人工智能倫理問題指南。在此之前,該國已將人工智能倫理作為人工智能課程的重要教學內(nèi)容,并要求主管數(shù)據(jù)的政府官員接受關(guān)于人工智能相關(guān)專題的強制性培訓。

在人工智能及人工智能與教育領(lǐng)域,中國是“先行、先試、先管”國家的典范。在2021 年國際會議上,懷進鵬部長分享了“中國教育數(shù)字轉(zhuǎn)型和智能升級的三個領(lǐng)域”:①“加大人工智能教育政策供給”,宣布中國“近期計劃發(fā)布一系列政策文件,適應人工智能等新一代信息技術(shù)發(fā)展,更新教育理念,變革教育模式,深化教育體制機制改革,優(yōu)化教育資源配置,創(chuàng)新教育供給服務,增強教育空間的開放性和學習資源的社會性,全面提高教育治理水平,構(gòu)建教育發(fā)展新生態(tài)”。②推動人工智能與教育教學的深度融合。實施人工智能助推教師隊伍建設行動,多措并舉助力教師主動適應互聯(lián)網(wǎng)、人工智能等現(xiàn)代信息技術(shù)變革,創(chuàng)新教育教學和教育管理模式;加強人工智能相關(guān)學科、專業(yè)建設,提升智能技術(shù)專業(yè)人才培養(yǎng)質(zhì)量,確保人工智能可持續(xù)發(fā)展;將人工智能教育全面融入各級各類教育,提高學生的數(shù)字技能和數(shù)字素養(yǎng)。③利用人工智能促進全民終身學習。構(gòu)建智能技術(shù)支持下學校、家庭、社會協(xié)同育人的教育體系,建立健全生涯規(guī)劃教育長效機制,利用智能技術(shù)保障弱勢群體受教育的權(quán)利;建設服務終身學習的學分銀行,探索并實現(xiàn)多種學習渠道、學習方式、學習過程的銜接,推動形成“人人皆學、處處能學、時時可學”的學習型社會。而鐘登華副部長介紹了中國關(guān)于教育新基建的規(guī)劃及其原則:“出臺推進教育新型基礎(chǔ)設施建設的指導意見,并以人工智能、大數(shù)據(jù)等技術(shù)為驅(qū)動,構(gòu)建網(wǎng)絡、平臺、資源、校園、應用、安全六位一體的教育基礎(chǔ)設施,推動教育數(shù)字轉(zhuǎn)型、智能升級、融合創(chuàng)新”,并強調(diào)“高度關(guān)注人工智能教育應用的倫理安全問題。將加強對人工智能發(fā)展帶來的安全、倫理和隱私等潛在風險的研判,理性推進人工智能與教育的融合共生,在發(fā)展中保障安全”。

四 面向數(shù)字人文主義的人工智能素養(yǎng)界定與培養(yǎng)

關(guān)于人工智能倫理和數(shù)據(jù)保護等的國際法律文件或共識性建議書是人工智能全球治理的必要工具;而國家級的法規(guī)和政策供給是全球治理在主權(quán)國家公共治理層面的具體執(zhí)法手段。但單純依靠法規(guī)的頂層設計而無民眾對相關(guān)倫理和社會問題的基本理解,往往難以確保人工智能在各領(lǐng)域的應用會服務于公共利益。為此,各國政府和國際社會需要支持公民具備一定程度的人工智能安全倫理意識和必要的人工智能應用能力。所有公民均需具備的人工智能的價值取向、知識和操作技能,可統(tǒng)稱為“人工智能素養(yǎng)”。在培養(yǎng)人文主義導向的人工智能素養(yǎng)的基礎(chǔ)上,各國還需培養(yǎng)一定數(shù)量的、具有高階人工智能能力的人才,以滿足各部門智能升級過程中創(chuàng)造的新型崗位需求,從而促進當?shù)氐娜斯ぶ悄軇?chuàng)新。這些素養(yǎng)和技能最終服務于數(shù)字人文主義框架下合乎倫理且有效的人機協(xié)作智能的養(yǎng)成。人工智能素養(yǎng)既是數(shù)字人文主義視域中人的自我發(fā)展和人才培養(yǎng)目標,也是確保人文主義內(nèi)化為公民日常行為所需的個體價值導向和能力保障。

教科文組織于2021 年啟動研制中小學人工智能能力指導框架的項目4詳見網(wǎng)站:https://events.unesco.org/event?id=2883602288,并通過2021 年國際會議明確界定了中小學人工智能素養(yǎng)和人工智能能力。其中,中小學人工智能素養(yǎng)包括:①關(guān)于人工智能的價值導向和基礎(chǔ)知識,即對以下問題的基本理解——人工智能對生活、學習和生產(chǎn)的潛在影響,人工智能能做什么、不能做什么,人工智能何時對人類有益及其益處何時應被質(zhì)疑,人工智能如何被用來支持人類公共利益;②數(shù)據(jù)素養(yǎng),即理解人工智能如何搜集、清洗、管理和分析數(shù)據(jù);③算法素養(yǎng),即對算法如何發(fā)掘數(shù)據(jù)模式、構(gòu)建數(shù)據(jù)關(guān)聯(lián)并用以支持人—機協(xié)作的基本理解。而中小學人工智能能力包括:①相關(guān)倫理問題和社會問題;②算法與程序設計;③不同層次的數(shù)據(jù)素養(yǎng);④人工智能底層技術(shù)和應用技術(shù);⑤應用人工智能技術(shù)的情境化問題解決。普及人工智能素養(yǎng)和培養(yǎng)高階人工智能能力的有效方法,是將人工智能的相關(guān)能力納入學校、技術(shù)和職業(yè)教育培訓機構(gòu)、高等教育機構(gòu)的相關(guān)課程中。

在2021 年國際會議上,教科文組織公布了2021 年對會員國中小學人工智能課程的調(diào)研(下文簡稱“2021 年教科文組織調(diào)研”)結(jié)果[16]:在193 個會員國中,有11 個國家實施了政府制定、頒發(fā)的中小學人工智能課程,而這些國家無一來自非洲。這些課程大多作為信息技術(shù)課程的一部分,少數(shù)是較為獨立的人工智能課程(如表1 所示)。此外,包括已實施中小學人工智能課程的塞爾維亞在內(nèi)的5 個國家正在研制政府主導的中小學人工智能課程(如表2 所示)。

表1 政府制定、頒發(fā)和實施的中小學人工智能課程

表2 正在研制中的政府主導的中小學人工智能課程

2021 年教科文組織調(diào)研結(jié)果還顯示,目前政府研制發(fā)布的中小學人工智能課程的開放模式主要包括:政府主導并研制的課程、政府指導下的地方研制課程(有代表性的是比利時不同語言區(qū)域開發(fā)的課程)、政府授權(quán)私有機構(gòu)開發(fā)的課程(有代表性的是沙特阿拉伯和卡塔爾授權(quán)私有企業(yè)開發(fā)的課程)。經(jīng)對比可知:私有企業(yè)對中小學人工智能課程的開發(fā)與推廣超前于政府主導的課程。基于嚴格的中小學人工智能課程框架標準,2021 年教科文組織調(diào)研選擇了以下私有或非政府機構(gòu)的中小學人工智能課程作為分析政府課程的對標:IBM 的“青年教育技術(shù)挑戰(zhàn)課程”5詳見網(wǎng)站:https://www.ibm.org/edtech-youth-challenge/、英特爾的“面向青年人的人工智能”6詳見網(wǎng)站:https://www.intel.com/content/www/us/en/corporate/artificial-intelligence/ai-for-youth.html、微軟的“青年人工智能技能”7詳見網(wǎng)站:https://news.microsoft.com/en-in/microsoft-collaborates-with-aicte-nasscom-ey-github-and-quess-corp-to-empower-indias-youth-with-tech-skills-to-be-job-ready/,以及麻省理工學院的“每日人工智能”8詳見網(wǎng)站:https://raise.mit.edu/daily/index.html。

在上述各政府主導的中小學人工智能課程中,有的國家僅有兩小時的簡單介紹,但也有國家設置了每年超過200 個課時、累計900 個小時的課時量,可見各國課時分配非常不均衡。整體而言,私有企業(yè)課程規(guī)劃的課時較長,大多通過課外課程的方式實施。各國已有的中小學人工智能課程主要涵蓋三個領(lǐng)域(約9 個模塊)的內(nèi)容,包括:①人工智能基礎(chǔ),如算法與程序設計、數(shù)據(jù)素養(yǎng)、人工智能在具體場景中的問題解決等;②人工智能倫理問題與社會影響,如人工智能倫理問題、人工智能的社會性影響、人工智能的跨界應用和影響等;③理解、應用和開發(fā)人工智能技術(shù),如理解和應用人工智能底層技術(shù)、理解和應用人工智能應用技術(shù)、開發(fā)人工智能技術(shù)與工具等。表3 顯示了目前各國對三個領(lǐng)域中小學人工智能課程的平均課時分配,可以看出:已有中小學人工智能課程存在偏重理論知識、輕視理解與應用核心技術(shù)的傾向。基于全球調(diào)研,教科文組織梳理了中小學人工智能課程領(lǐng)域的主要問題并提出了相應建議:

表3 三個領(lǐng)域的課時分配(單位:小時)

1 對人工智能能力培養(yǎng)的重視并未轉(zhuǎn)為高質(zhì)量課程開發(fā)的意識

全球大多數(shù)國家認同人工智能能力培養(yǎng)的重要性。在2021 年國際會議上,越南教育與培訓部副部長Phuc 提出:越南將人工智能視為技術(shù)研發(fā)和促進經(jīng)濟發(fā)展的核心,并將從中小學開始培養(yǎng)下一代人工智能人才;同時,將提升教師、學生和其他用戶應用人工智能的意識,培養(yǎng)人工智能技術(shù)研發(fā)的高端人才等。但是,全球多數(shù)國家對中小學生人工智能能力的培養(yǎng)仍停留在空談階段,應加強中小學人工智能課程的開發(fā)與實施,發(fā)揮政府對私有課程的審核和審批作用。在多數(shù)國家,中小學人工智能尚屬于新的課程領(lǐng)域,缺乏關(guān)于課程實施的大規(guī)模、實證性評估,故各國應加強對不同背景下中小學人工智能課程培養(yǎng)目標設定及分學段劃分、教師培養(yǎng)與教學方法設計、課程對學生人工智能能力當前和中長期影響等方面的循證研究。

2 跨界和跨學科合作不應成為人工智能課程與商業(yè)技術(shù)、商業(yè)品牌捆綁的立論基礎(chǔ)

在多數(shù)國家,捆綁各自技術(shù)平臺的私有企業(yè)課程填補了政府主導的中小學人工智能課程的缺失。在呼吁跨界和跨學科合作的背景下,中小學人工智能課程的開發(fā)需建立由政府主管部門、教師和教研代表、學術(shù)專家和企業(yè)代表組成的課程開發(fā)隊伍。其中,國家或地方政府應持續(xù)強化開發(fā)、實施人工智能課程的能力和課程監(jiān)管能力,引導、管理私有企業(yè)和非政府機構(gòu)在課程開發(fā)與實施過程中的作用。為確保學生獲得基礎(chǔ)性知識、可跨平臺遷移的技能、可跨場景應用的倫理和價值取向,課程目標和學習結(jié)果的界定應立足于基本應用原理和通用方法,而不應從某個商業(yè)平臺、設備或產(chǎn)品的具體操作出發(fā)。學校應盡量追求“平臺去偏”(Platform-Agnostic)和“品牌去偏”(Brand-Agnostic)的課程內(nèi)容,避免與單一或某些企業(yè)的人工智能平臺或技術(shù)品牌捆綁;同時,應鼓勵企業(yè)向?qū)W生提供比較不同平臺和工具的機會。

3 人工智能教師的能力需求和教學資源需求是有效實施人工智能課程的前提

上述調(diào)研顯示,幾乎所有被調(diào)查國家都表示教師和教學資源是有效課程實施的必要條件,但只有不到一半的課程在其開發(fā)之初對教師和有關(guān)資源的需求進行了調(diào)研與分析,這導致某些國家頒布的人工智能課程標準常因教師能力準備不足、教學資源匱乏、倡導的教學方法脫離社會現(xiàn)狀等原因而無法按期實施。鑒于人工智能課程的復雜性,應對現(xiàn)有師資的技術(shù)能力和教學法現(xiàn)狀進行調(diào)查并分析其與課程實施之間的差距,在此基礎(chǔ)上開發(fā)處于學校和教師最近發(fā)展區(qū)的課程;確保教師、教研人員代表參與課程的開發(fā)和預實驗,提升人工智能課程的可操作性,并在課程實施籌備階段開展基于需求分析的教師培訓;同時,應基于有關(guān)課程內(nèi)容所需的基本教學軟硬件和課程資源,對資源配置所需的一次性經(jīng)費投入和維持可持續(xù)發(fā)展的持續(xù)投入進行可行性分析,確保課程的資源要求不脫離實際。另外,還應重視開放性教學資源的價值,意識到學校購置技術(shù)平臺或?qū)W生使用人工智能工具并非所有人工智能課程實施的前提條件。即便是在算法與程序設計、數(shù)據(jù)建模和模式識別、人工智能技術(shù)開發(fā)等對平臺和工具要求較高的模塊中,仍可在一定程度上搜集、應用開放免費的學習工具和資源。在資源貧乏的國家和地區(qū),也涌現(xiàn)了一些基于紙筆開展算法和人工智能原型設計練習、辨識和分析生活中人工智能技術(shù)及其工作機制、反思生活中人工智能倫理問題等方面的成功案例。

4 人工智能課程目標應更聚焦于技術(shù)創(chuàng)新能力和真實問題解決能力的培養(yǎng)

在上述調(diào)研中,問及開發(fā)人工智能課程的動機時,各國普遍認同培養(yǎng)學生在人工智能領(lǐng)域的創(chuàng)新能力和問題解決能力的重要性。但從學習目標設定和課時分配等方面分析,現(xiàn)有課程并未顯示各國對理解、應用和開發(fā)人工智能技術(shù)的重視。此外,對人工智能倫理問題的理解必須結(jié)合數(shù)據(jù)和算法設計和應用的核心過程,對相關(guān)社會問題的分析也應結(jié)合人工智能的全價值鏈和具體場景展開。中小學人工智能課程應進一步發(fā)揮對各國技術(shù)人才和創(chuàng)新人才培養(yǎng)的奠基作用,為學生提供更多深入理解并創(chuàng)造性地應用已有技術(shù)、開展與年齡相適應的技術(shù)創(chuàng)新等機會;應結(jié)合對人工智能底層技術(shù)的理解審視其中的倫理問題,應從人工智能技術(shù)設計、開發(fā)、部署、應用、監(jiān)測、評估、迭代或淘汰的全價值鏈,整體分析有關(guān)的倫理問題,并結(jié)合具體的應用場景抽象討論其社會影響。

5 人工智能課程領(lǐng)域為項目式學習提供了廣泛應用和演化的實踐場景

在上述調(diào)研中,有關(guān)教學方法的反饋普遍認可項目式學習是實施人工智能課程的有效教學方法。對項目式學習有效性的判斷,主要在于其可提供技能學習與培養(yǎng)的場景和真實問題解決的計劃。一方面,現(xiàn)有中小學人工智能課程實施中對項目式學習的逐步認可和實踐嘗試,引發(fā)了該領(lǐng)域教學方式的變革;另一方面,人工智能課程的算法與程序設計、數(shù)據(jù)結(jié)構(gòu)與數(shù)據(jù)模式識別、應用技術(shù)解決問題、開發(fā)新技術(shù)方案、人工智能倫理與社會問題等均屬于建構(gòu)不良的學習專題,與建構(gòu)主義框架下的項目式學習高度內(nèi)洽。而這些復雜、開放的概念和真實性的問題情境,為項目式學習提供了進一步分化和演變的場景。人工智能課程開發(fā)者在提供教學法建議時,應強調(diào)教學任務的跨學科性和開放性,為學生提供結(jié)合任務理解和應用人工智能技術(shù)的機會,支持批判性思維、設計思維、計算思維、復雜溝通能力和協(xié)同創(chuàng)作能力等的培養(yǎng)。

6 靈活的課程管理和實施方式不應弱化人工智能課程的核心價值

上述調(diào)研也揭示了中小學人工智能課程存在獨立設課、融入信息與通信技術(shù)(或信息科技)課程、與數(shù)學學科融合、與其它非技術(shù)類課程融合等課程設置的方式,而目前的人工智能課程模塊多以融合課程為主。課時安排也存在專屬課內(nèi)課時分配、課內(nèi)外課時結(jié)合、完全課外課時、借用其它學科課時等多種課時安排方式。總的來說,現(xiàn)有的各國人工智能課程以選修課方式為主,而課程地位與各國教育部長重視人工智能能力培養(yǎng)的政治表態(tài)還相去甚遠。因此,各國應在中小學課程圖譜中確立人工智能課程或模塊在人工智能時代人才培養(yǎng)中的價值定位,并做好與其價值和課程目標相應的獨立課時保障。對于適合采用跨學科方式實施的課程目標和課程內(nèi)容,也應有明確的課程目標界定、教學活動規(guī)劃、課時分配和學習結(jié)果評價計劃。

五 促進人工智能與教育的公平與包容:非洲優(yōu)先和性別優(yōu)先戰(zhàn)略

數(shù)字人文主義從宏觀上將技術(shù)創(chuàng)新界定為面向所有人的數(shù)字公共產(chǎn)品,并期望通過全球治理將其變?yōu)樗腥丝勺杂稍L問的全球公共資源。然而,人工智能領(lǐng)域的創(chuàng)新尚未充分地服務于人類共同利益。盡管人工智能在支持有視聽障礙和語言障礙的學習者獲得學習機會等方面具有明顯優(yōu)勢,但由于這些領(lǐng)域的商業(yè)獲利微薄,相關(guān)技術(shù)研發(fā)和應用推廣并未得到重視。國際組織和政府機構(gòu)應從人文主義指導原則出發(fā),制定針對落后國家和弱勢群體的優(yōu)先發(fā)展戰(zhàn)略。

1 數(shù)字鴻溝剝奪了弱勢群體對數(shù)字化時代社會必需品的平等使用權(quán)

當學校在新冠疫情期間關(guān)閉時,數(shù)字技術(shù)成為獲得遠程學習機會的關(guān)鍵生命線。不管是在疫中還是疫后,數(shù)字技術(shù)已然成為一種社會必需品,以確保教育作為一項人權(quán)不會被因自然災害、全球流行病、戰(zhàn)亂沖突等造成的學校關(guān)閉而中斷。然而,不同國家、性別和群體間的數(shù)字鴻溝仍然存在,若無國際治理和國家政策干預,數(shù)字鴻溝會持續(xù)擴大并剝奪弱勢群體對數(shù)字化工具和數(shù)字資源等新時代社會必需品的平等使用權(quán),從而拉大不同條件下教育質(zhì)量的差距,惡化無教育或低質(zhì)量教育人群的收入和生存能力,進一步擴大下一代的數(shù)字鴻溝,形成惡性循環(huán)。

2020 年底,教科文組織、世界銀行與聯(lián)合國兒童基金會聯(lián)合開展的調(diào)查揭示了發(fā)達和欠發(fā)達國家間的數(shù)字鴻溝[15]:發(fā)達國家?guī)缀跞坎捎迷诰€學習;而在缺乏寬帶連接的不發(fā)達國家中,有三分之一甚至一半的學生在長達一年的學校停課期間無法獲得任何遠程學習機會。教科文組織發(fā)布的2021 年“全球教育監(jiān)控報告”揭示了數(shù)字資源使用權(quán)限和應用等方面的性別不平等現(xiàn)象,相對于男性互聯(lián)網(wǎng)常用用戶占全球男性的28%,女性常用用戶僅占15%;在掌握計算機編程的人口中,男性比女性多四倍;而在申請技術(shù)領(lǐng)域?qū)@娜丝谥校行员扰远?3 倍[16]。

2 以“非洲優(yōu)先”戰(zhàn)略引領(lǐng)國際上人工智能與教育的平等發(fā)展

2013 年,教科文組織在第37 屆全體大會上確立了“非洲優(yōu)先”(Priority Africa)和“性別平等優(yōu)先”(Priority Gender Equality)兩個全球優(yōu)先戰(zhàn)略,并通過了關(guān)于2014~2021 年實施“非洲優(yōu)先戰(zhàn)略”“性別平等優(yōu)先”的中期規(guī)劃[17][18]。2021 年,教科文組織制定了新一輪非洲優(yōu)先戰(zhàn)略規(guī)劃——“全球非洲優(yōu)先:2022-2029 年非洲優(yōu)先操作性戰(zhàn)略規(guī)劃”[19],明確提出發(fā)掘新興技術(shù)在支持非洲可持續(xù)發(fā)展方面的潛力,尤其是要在實施《人工智能倫理問題建議書》的基礎(chǔ)上,推動非洲國家進行合乎倫理的、平等和包容的人工智能應用。而在2021 年國際會議上,教科文組織提出倡議并分享了實踐建議:若要協(xié)助非洲國家等發(fā)展中國家彌合數(shù)字鴻溝,緊跟人工智能的革命浪潮,非洲各國及其合作伙伴應深入分析人工智能技術(shù)應用和開發(fā)所需的核心前提條件,立足于建設影響深遠且堅實有效的基礎(chǔ)性信息化系統(tǒng)。

(1)建設人工智能基礎(chǔ)設施并強化國家所有權(quán)

欠發(fā)達國家無法繞過應用和推廣人工智能技術(shù)所需的基礎(chǔ)設施建設,包括促進互聯(lián)網(wǎng)的普及和國家具有自主權(quán)的云計算中心的建設等。盡管云計算被認為是一種更高效的解決方案,但也引發(fā)了“數(shù)據(jù)主權(quán)”(Data Sovereignty)等問題:當受國家法律和治理結(jié)構(gòu)約束的地方群體的數(shù)據(jù)被存儲在由境外或私人所有者控制的云平臺上時,國家機構(gòu)如何維護其數(shù)據(jù)主權(quán)?如何在采用云端人工智能部署方案與人工智能平臺及相關(guān)數(shù)據(jù)的國家自主權(quán)之間達成平衡?這些問題有待進一步研究和探討。此外,在以經(jīng)濟援助為背景的能力建設雙邊和多邊國際合作中需警惕隱形殖民化傾向:在經(jīng)濟領(lǐng)域處于強勢地位的西方國家會借助教育領(lǐng)域國際援助項目,在西式民主、西方文化標準、強勢語言、西式教學方法等方面推廣其倡導的理念和范式。對此,教科文組織倡議建構(gòu)和秉承以原生地為中心的國際合作理念。

(2)鼓勵開源算法和數(shù)據(jù)分享,開發(fā)適應本地教育系統(tǒng)的算法和人工智能技術(shù)

現(xiàn)有算法的可傳遞性較弱,意味著基于一組用戶數(shù)據(jù)訓練的算法不能直接用于解決不同情景的類似問題。發(fā)展中國家對人工智能在教育中的應用起步較晚,應借鑒人工智能技術(shù)早期采納國家在算法和技術(shù)應用中總結(jié)的經(jīng)驗教訓,采用開源算法構(gòu)建適用于本地的人工智能系統(tǒng)。例如,面向非洲開發(fā)的首批個性化知識構(gòu)建平臺之一——M-Shule9詳見網(wǎng)站:https://m-shule.com/(肯尼亞斯瓦希里語種中意為“移動學校”),是肯尼亞本土創(chuàng)業(yè)者開發(fā)的人工智能學習平臺,使用者可通過手機訪問該平臺,獲得學習內(nèi)容定制、學習評估等服務。為實現(xiàn)此類平臺的構(gòu)建,教科文組織倡議推廣開源算法,建設用于支持機器學習算法的全球可信教育數(shù)據(jù)共同體(Educational Data Commons)。

(3)支持發(fā)展中國家人工智能素養(yǎng)和人工智能能力的培養(yǎng)

根據(jù)上述關(guān)于中小學人工智能課程的調(diào)研結(jié)果,目前尚無非洲國家針對中小學開發(fā)和實施人工智能課程。教科文組織在制定中小學人工智能能力框架的基礎(chǔ)上,計劃支持會員國政府開發(fā)中小學人工智能課程。作為該項目的一部分,教科文組織與加拿大的非政府組織“兒童和青年編程”(Kids Code Jeunesse)10詳見網(wǎng)站:https://kidscodejeunesse.org/在2021 年國際會議上宣布聯(lián)合啟動“數(shù)據(jù)與算法掃盲”(Data and Algorithm Literacy)項目11詳見網(wǎng)站:https://en.unesco.org/news/unesco-and-kids-code-jeunesse-join-forces-promote-data-and-algorithms-literacy。會議期間,與會發(fā)言嘉賓展示了支持非洲兒童青少年人工智能技能培訓的非政府組織“非洲青少年極客”(Africa Teen Geeks)12詳見網(wǎng)站:https://africateengeeks.co.za的相關(guān)經(jīng)驗,來自中國的高校和相關(guān)組織也分享了援助非洲項目的成果或合作意向。

(4)培養(yǎng)教師在富含人工智能的教育環(huán)境中工作的能力

《北京共識》明確指出:師生之間的人際互動和協(xié)作應始終作為教育的核心,教師不能被人工智能系統(tǒng)所取代。教科文組織呼吁會員國和合作伙伴在采用人工智能系統(tǒng)時,應確保教師的權(quán)利和工作條件受到保護。目前,中國、韓國和一些歐洲國家已經(jīng)率先開始反思教師的角色,并界定其在人工智能教學環(huán)境中所需具備的能力,制定并實施了相關(guān)的培訓課程,以幫助教師有效地使用人工智能工具和平臺。為此,會議呼吁各國在大面積推廣教育人工智能平臺和工具之前,應對人工智能如何影響未來的教與學進行基于證據(jù)的論證;同時,對教師有效應用人工智能所需的價值觀、知識和技能進行系統(tǒng)規(guī)劃,并對教師培訓計劃做出相應的調(diào)整。

3 人工智能與教育領(lǐng)域的“性別平等優(yōu)先”戰(zhàn)略:權(quán)利、能力與從業(yè)

教科文組織在“2014-2021 年性別平等優(yōu)先中期規(guī)劃”的基礎(chǔ)上,于2019 年制定了更為明確的實施戰(zhàn)略——“從受教育權(quán)到教育賦能:教科文組織關(guān)于教育中的性別平等和通過教育實現(xiàn)性別平等的戰(zhàn)略(2019-2025 年)”[20]。該戰(zhàn)略提出了確保女性平等接受教育進而為女性賦能的發(fā)展路徑,其中與數(shù)字技能、數(shù)字學習、人工智能應用相關(guān)的內(nèi)容是:①消除數(shù)字技術(shù)和人工智能技術(shù)訪問權(quán)方面的性別鴻溝,確保消除人工智能算法、數(shù)據(jù)搜集、行為預測與反饋等方面的性別歧視;②培養(yǎng)女童和婦女平等的數(shù)字技能、人工智能素養(yǎng)和人工智能操作能力;③協(xié)助增強女性在數(shù)字技術(shù)和人工智能領(lǐng)域的自信心與自我效能感,并在數(shù)字產(chǎn)業(yè)和人工智能領(lǐng)域的人員招聘和職業(yè)發(fā)展方面確保性別平等,增強女性在該領(lǐng)域的從業(yè)自信心和從業(yè)能力。

在2021 年國際會議上,聯(lián)合國兒童婦女基金會分享了《人工智能應用于兒童的政策指南》[21];聯(lián)合國婦女署表示“支持性別平等的技術(shù)和創(chuàng)新行動聯(lián)盟”[22];一些全球合作伙伴也分享了支持女性數(shù)字技能和人工智能能力培養(yǎng)的項目,如致力于女性青少年人工智能培訓的非政府機構(gòu)項目“青少年人工智能”13詳見網(wǎng)站:https://www.teensinai.com/,其對敘利亞等戰(zhàn)亂地區(qū)的青少年提供了特殊的支持。

4 借助人工智能促進教育包容

當前,人工智能在課堂教學中的應用多處于探究試錯階段,沒有充足可信的數(shù)據(jù)支持人工智能可提高學習質(zhì)量的論斷,也尚無成熟的應用模式值得大面積推廣。在教育人工智能技術(shù)尚不成熟的技術(shù)醞釀階段,可明顯促進教育包容的人工智能應用是能被普遍認可的技術(shù)應用突破口。近年來,教科文組織通過在教育信息化領(lǐng)域設全球獎項14詳見網(wǎng)站:https://en.unesco.org/themes/ict-education/ict-education-prize、征集優(yōu)秀案例和組織國際會議等渠道,搜集并認可借助人工智能技術(shù)為殘障人士、語言少數(shù)群體及文化少數(shù)群體提供包容性學習機會的全球優(yōu)秀案例和技術(shù)方案。其中,“改變閱讀障礙”項目15詳見網(wǎng)站:https://www.changedyslexia.org/榮獲2019 年聯(lián)合國教科文組織教育信息化獎,該項目通過人工智能支持的眼動跟蹤技術(shù)支持閱讀障礙者的早期診斷與矯治;中國開放大學的“一村一名大學生”項目16詳見網(wǎng)站:https://en.unesco.org/news/open-university-china-awarded-unesco-prize-its-use-ai-empower-rural-learners榮獲2020 年聯(lián)合國教科文組織教育信息化獎,該項目借助智能語音信箱和智能學習管理系統(tǒng)等支持面向農(nóng)村地區(qū)的教育扶貧項目。2021 年國際會議還展示了華為開發(fā)的免費手機應用軟件“智能手語”(StorySign)17詳見網(wǎng)站:https://consumer.huawei.com/be-fr/campaign/storysign/,其借助人工智能支持手語系統(tǒng)展示學習內(nèi)容,支持聽覺障礙者的學習;展示了借助眼動跟蹤技術(shù)輔助教師診斷水平分析及閱讀障礙快速監(jiān)測的Lexplore 平臺18詳見網(wǎng)站:https://www.lexplore.com;還列舉了借助人工智能診斷、治療其它殘障問題的應用領(lǐng)域,分享了部分優(yōu)秀案例,如借助人工智能行為視覺識別技術(shù)支持自閉癥遠程評估的平臺等19詳見網(wǎng)站:https://www.nodaautismdiagnosis.com/。

脫離人文主義的指導原則和缺乏監(jiān)管的人工智能算法,不僅會惡化人類社會中長期存在的對弱勢群體的歧視和排斥問題,還會助長針對弱勢個體的網(wǎng)絡暴力、煽動行為并傳播憎恨語言,甚至發(fā)展為造成弱勢群體自殺率上升的反數(shù)字人文主義的誘因。《人工智能倫理問題建議書》明確提出,要防止群體歧視性算法和技術(shù)應用中對弱勢群體的暴力語言和行為。但是,國家層面的專題立法和監(jiān)管執(zhí)法尚處于空白期或萌芽期,而借助人工智能促進針對殘障群體、低收入群體、非主流文化和語言群體的教育包容在多數(shù)國家的政策實踐中處于被遺忘或邊緣化的狀態(tài)。教科文組織發(fā)布的“2020 年全球教育監(jiān)控報告”指出[23]:全球約有10 億人有某種類型的殘障,大約40%的低收入國家在新冠疫情大流行期間并未為這些殘障學生提供有針對性的數(shù)字化遠程教學支持,包容性人工智能技術(shù)的供給則更為稀缺。借此報告,教科文組織呼吁各國將促進教育包容的人工智能技術(shù)創(chuàng)新和大規(guī)模創(chuàng)新應用納入國家教育人工智能的核心戰(zhàn)略,并提供優(yōu)先政策支持和經(jīng)費保障;同時,鼓勵和支持弱勢群體參與教育人工智能技術(shù)的設計和研發(fā)。

六 展望與建議:從人文主義的教育需求出發(fā)引導教育人工智能創(chuàng)新

自2019 年以來,教科文組織搜集并分析了100 多個全球人工智能與教育的實踐案例[24][25],組織了50 多個國家的政策研討和多次全球調(diào)研。縱觀各國現(xiàn)狀,人工智能在教育管理、教學實踐中的應用存在比較普遍的反人文主義誤區(qū):包括人工智能企業(yè)的商業(yè)“造魅”,即在商業(yè)利益驅(qū)動下,鼓吹現(xiàn)有人工智能算法已能變革教學和學習方式并提高課堂學習質(zhì)量;教育實踐界的人工智能“蠱魅”,尤其是中小學教研界為追求短期績效,基于對人工智能的不對稱知識,跟風式地將傳統(tǒng)教學行為包裝為人工智能應用創(chuàng)新,或搞割裂人工智能與教育內(nèi)在聯(lián)系的運動式試點、無視學生和教師數(shù)據(jù)隱私的盲目推廣;學術(shù)界脫離實踐的“造魅”和“祛魅”,即學界從短期學術(shù)利益出發(fā),先對人工智能的教學潛能進行理論“造魅”,然后通過論證進行自我“祛魅”的書齋式自證邏輯。基于2021 年國際會議對有關(guān)全球共識的研討和實踐分享,本研究針對人工智能在教育管理、教學實踐中的應用與創(chuàng)新提出如下建議:

1 人工智能教學應用首先要保障所有學生的基本學習質(zhì)量和社會情感發(fā)展

在2021 年國際會議上,近20 個國家的政策制定者表達了在國家層面借助人工智能技術(shù)推動2030 年教育議程實現(xiàn)的需求,以及對賦能教師和教學、監(jiān)測學習過程、監(jiān)控潛在輟學趨勢等人工智能創(chuàng)新的具體需要。在關(guān)于“挖掘數(shù)據(jù)以加強教育管理和學習評估”的分議題討論中,與會代表達成以下共識:在課堂教學中引入基于人工智能技術(shù)的教學平臺不應成為一個默認的命題,而不計代價和后果、盲目引入數(shù)據(jù)挖掘工具是推廣人工智能教育應用的錯誤出發(fā)點;在課堂教學中引入人工智能工具,應基于對學生基本權(quán)利的尊重并事先征得學生或其監(jiān)護人的同意;課堂教學中的人工智能工具必須確保對特殊學生群體的包容,充分考慮學生在社會情感、認知、體育與健康等方面的多樣性發(fā)展需求,并兼顧不同學習進度學生的需求;在挖掘數(shù)據(jù)分析支持學習評價的潛力時,應重點關(guān)注存在學習困難并面臨厭學和退學風險的學生,確保所有學生達到基本的學習質(zhì)量標準要求,而避免使用單純地從認知角度出發(fā)硬性劃分優(yōu)等生和差生并加以區(qū)別對待的算法。

目前,在應用人工智能監(jiān)控學習困難和退學風險等領(lǐng)域,開始涌現(xiàn)出部分有潛力的技術(shù)平臺和案例。在2021 年國際會議上,芬蘭圖爾庫大學展示了人工智能合作學習平臺ViLLE20詳見網(wǎng)站:https://www.learninganalytics.fi/en/ville(榮獲2020年聯(lián)合國教科文組織教育信息化獎),該平臺已被廣泛應用于芬蘭中小學的課程學習,其通過分析學習者的數(shù)據(jù)來監(jiān)測課程目標的達成情況、評估個體的學習效果及其潛在的學習失敗、輟學等情況,并進行輟學預警。該平臺相關(guān)數(shù)據(jù)結(jié)果顯示,應用該平臺15 周后,全體學生的總成績提高了12%,其中數(shù)學成績提高了11%。但是,該平臺并未提供大面積對比其它教育干預手段的相關(guān)數(shù)據(jù)。2021 年國際會議上還展示了英國開放大學的“開放大學分析”平臺(OU Analyse),該平臺支持基于短期數(shù)據(jù)(如學生提交的短文寫作)和長期數(shù)據(jù)(如一門課程的完成率和通過率)的學生學習成功率預測,并據(jù)此為教師提供學習成績預警和教學策略調(diào)整提示,充分發(fā)揮了教師在分析和決策中的關(guān)鍵作用。該平臺提供的教學實驗報告顯示,教師參考平臺提供的預測信息越多,學生的學習成績就越好。考慮到開放大學的教學場景以在線學習為主,該平臺在以傳統(tǒng)教學模式為主的綜合性大學中的應用效果是否和普通中小學相同尚缺乏證據(jù)。

2021 年7 月,教科文組織發(fā)起了一項關(guān)于新冠疫情大流行期間各會員國利用人工智能支持學習連續(xù)性和學習質(zhì)量的調(diào)查,193 個會員國中僅有5 個國家積極參與作答。可見在全球范圍內(nèi),尚缺乏有嚴謹實證數(shù)據(jù)支持的有效教育人工智能創(chuàng)新技術(shù)和證明可提升學習質(zhì)量的創(chuàng)新應用。

2 從教育公共利益出發(fā)謀求人工智能創(chuàng)新應用的關(guān)鍵領(lǐng)域

教科文組織從教育公共利益出發(fā),列舉了人工智能可重點謀求創(chuàng)新的5 個關(guān)鍵領(lǐng)域:①保護師生人權(quán)和數(shù)據(jù)隱私的法規(guī)、策略或工具;②使用語言、圖像處理技術(shù),為殘障人士、語言少數(shù)群體及文化少數(shù)群體提供包容、平等的在線學習機會;③使用數(shù)據(jù)分析提高學習質(zhì)量,促進學習者跨學科能力的提升;④使用人工智能工具支持遠程總結(jié)性評估和高利害考試;⑤利用大數(shù)據(jù)監(jiān)測長期學習效果,并為輟學提供預警等。對于第一個領(lǐng)域,教科文組織在頒布《人工智能倫理問題建議書》的基礎(chǔ)上,正進一步研發(fā)人工智能應用于教育的倫理指導規(guī)范,包括:防止搜集使用學習者及其它教育數(shù)據(jù)的倫理規(guī)范;防止性別歧視、能力預測歧視和殘障人士歧視等算法歧視的倫理規(guī)則;防止侵犯性人工智能工具進入教室等教育場所的規(guī)則;確保人工智能教學環(huán)境下保護和鼓勵師生主觀能動性的倫理原則。同時,各國政府部門應關(guān)注現(xiàn)有法律法規(guī)和倫理框架尚未管轄的問題,動態(tài)完善人工智能應用于教育的倫理規(guī)范和管理規(guī)范,確保教育用戶的基本權(quán)利不受侵犯,促進教育平等性和包容性等人文主義目標的實現(xiàn)。

3 從激發(fā)師生高階思維和能動性出發(fā)引領(lǐng)下一代教育人工智能創(chuàng)新

展望人工智能與教育的發(fā)展和創(chuàng)新,懷進鵬部長在2021 年國際會議上提出“應變識變,順勢而為”,并提及大數(shù)據(jù)、超級計算、傳感網(wǎng)等領(lǐng)域可能出現(xiàn)的立論和技術(shù)創(chuàng)新。其中,“應變識變”針對的是技術(shù)發(fā)展和教育教學需求。《人工智能與教育:政策制定者指南》概述了主要的人工智能技術(shù)并呼吁關(guān)注新興技術(shù)的教育潛力。教科文組織教育助理總干事Giannini 則提及下一代互聯(lián)網(wǎng)(互聯(lián)網(wǎng)3.0)——以“元宇宙”概念集成的互聯(lián)網(wǎng)、人工智能和增強現(xiàn)實等技術(shù)已蓄勢待發(fā)。政策制定者和研究者應關(guān)注人工智能在多模態(tài)生物識別技術(shù)、基于規(guī)則和小規(guī)模數(shù)據(jù)的算法等方面可能出現(xiàn)的技術(shù)突破,審視創(chuàng)新性技術(shù)及其組合可能實現(xiàn)的技術(shù)性能。

問題建構(gòu)是一切教育人工智能技術(shù)創(chuàng)新的起點,而教育管理、教學與學習、學習評價與認證等方面的深層次人文主義需求,是教育人工智能問題建構(gòu)的重要來源。現(xiàn)有的教育人工智能平臺和工具多停留在替代或部分替代人類承擔低技能要求的任務單元,包括借助語音—圖像—文字轉(zhuǎn)換技術(shù)支持對學習內(nèi)容的無障礙訪問、基于知識圖譜進行知識灌輸和傳授、基于學生的知識掌握程度推送學習內(nèi)容等。夸大人工智能在這類任務中的重要性,其實是宣揚借助人工智能實現(xiàn)基于事實性知識的灌輸式教學,故難以實現(xiàn)借助人工智能實現(xiàn)教育教學變革的愿景。致力于教育人工智能創(chuàng)新的相關(guān)部門應借助人工智能對培養(yǎng)高水平思維和創(chuàng)造能力的支持,開展以學習者為中心的協(xié)作學習,謀求人工智能與教學的深度融合;同時,從監(jiān)控學習過程、解決學習問題的角度,通過人工智能向?qū)W習者提供針對性方法和開放性建議,并整合跨平臺、多來源的數(shù)據(jù),以加強教育管理和學習評估,預測學習問題和輟學風險,助力人類教育決策。

值得一提的是,懷進鵬部長還倡議“攜手合作,共筑共享”。中國應與各國、各界加強合作,依托《開放教育資源建議書》、《開放科學建議書》等國際共識文件[26][27],分享體現(xiàn)中國教育智慧的優(yōu)質(zhì)教育資源,“為國際社會持續(xù)提供優(yōu)質(zhì)教育公共產(chǎn)品”;同時,開放教育算法和可信教育數(shù)據(jù)領(lǐng)域的國際共同體將成為教育人工智能領(lǐng)域的重要發(fā)展趨勢。中國學界和企業(yè)界應積極參與創(chuàng)建相關(guān)的專業(yè)共同體,引領(lǐng)人工智能與教育的政策迭代、實踐創(chuàng)新和循證研究。

猜你喜歡
人工智能課程教育
國外教育奇趣
華人時刊(2022年13期)2022-10-27 08:55:52
題解教育『三問』
當代陜西(2022年4期)2022-04-19 12:08:52
數(shù)字圖像處理課程混合式教學改革與探索
軟件設計與開發(fā)實踐課程探索與實踐
計算機教育(2020年5期)2020-07-24 08:53:38
為什么要學習HAA課程?
教育有道——關(guān)于閩派教育的一點思考
2019:人工智能
商界(2019年12期)2019-01-03 06:59:05
人工智能與就業(yè)
辦好人民滿意的首都教育
數(shù)讀人工智能
小康(2017年16期)2017-06-07 09:00:59
主站蜘蛛池模板: 二级毛片免费观看全程| 中文成人在线| 国产微拍一区二区三区四区| AV在线天堂进入| 久久久精品无码一区二区三区| 国产毛片片精品天天看视频| 亚洲视频a| 夜夜操国产| 国产在线精彩视频二区| 亚洲国产看片基地久久1024| 日韩欧美中文字幕在线精品| 国产特级毛片aaaaaa| 91精品国产91久无码网站| 国产精品太粉嫩高中在线观看| 久久一本精品久久久ー99| 国产精品美女自慰喷水| 国产91蝌蚪窝| 国产第八页| 国产美女精品在线| 国产拍揄自揄精品视频网站| 在线免费看黄的网站| 亚洲综合久久一本伊一区| 在线观看精品国产入口| 亚洲资源站av无码网址| www.91在线播放| 天堂av高清一区二区三区| 国产欧美视频综合二区| 国产成人福利在线| 中文国产成人久久精品小说| 免费欧美一级| 91精品专区国产盗摄| 99在线视频精品| 毛片基地美国正在播放亚洲 | 日本免费新一区视频| 欧美在线精品一区二区三区| 综合五月天网| 国产精品福利在线观看无码卡| 亚洲中文无码h在线观看 | 欧美区一区二区三| 午夜视频免费试看| 国产午夜无码专区喷水| 亚洲天堂网视频| 国产真实乱子伦视频播放| lhav亚洲精品| 中文字幕亚洲另类天堂| 538国产视频| 国产亚洲现在一区二区中文| 午夜不卡视频| 欧美一级高清视频在线播放| 久久综合国产乱子免费| 欧美α片免费观看| 久久久久久久久久国产精品| 亚洲无限乱码一二三四区| 国产一级妓女av网站| 狠狠干综合| 精品少妇人妻一区二区| 99久久免费精品特色大片| 亚洲一区二区成人| 亚洲成人77777| 免费看的一级毛片| 国产精品亚洲专区一区| 欧美成人手机在线观看网址| 久久综合一个色综合网| 日本AⅤ精品一区二区三区日| 99视频精品在线观看| 国产清纯在线一区二区WWW| 久久精品女人天堂aaa| 天天摸天天操免费播放小视频| 一级毛片在线播放免费观看| 99九九成人免费视频精品| 黄色成年视频| 国产午夜一级淫片| 中文字幕亚洲无线码一区女同| 欧美午夜网站| 日韩亚洲高清一区二区| 18禁黄无遮挡免费动漫网站| 色婷婷成人| 少妇被粗大的猛烈进出免费视频| 一级黄色网站在线免费看| 99热这里只有精品免费| 高清无码手机在线观看| 亚洲第一区在线|