郭婉瑢 馮曉英 宋佳欣



[摘? ?要] 學習分析的最終目標在于支持學習設(shè)計決策,在實踐層面更好地促進基于證據(jù)的教學改進。研究通過對設(shè)計分析視角下的學習分析研究進行系統(tǒng)性文獻綜述,分析了學習分析支持學習設(shè)計決策的層次、方法及路徑。研究結(jié)果表明,學習分析尚不能完全支持學習設(shè)計決策,可以通過基于學習理論提出設(shè)計分析框架、關(guān)注研究變量的階段性和連續(xù)性、選擇理論驅(qū)動的技術(shù)方法三方面助力學習分析支持學習設(shè)計決策。為了更好地促進學習分析支持學習設(shè)計決策,需要解決設(shè)計分析的堵點問題,打通學習設(shè)計與學習分析的閉環(huán),雙向賦能為教學改進提供循證基礎(chǔ)。
[關(guān)鍵詞] 學習分析; 學習設(shè)計; 設(shè)計分析; 系統(tǒng)性文獻綜述
[中圖分類號] G434? ? ? ? ? ? [文獻標志碼] A
[作者簡介] 郭婉瑢(1994—),女,甘肅蘭州人。博士研究生,主要從事學習設(shè)計與學習分析、教師專業(yè)發(fā)展等研究。E-mail:gwr31010067@mail.bnu.edu.cn。
一、引? ?言
在新一代信息技術(shù)革命的背景下,教育教學實踐已經(jīng)由傳統(tǒng)基于經(jīng)驗的教學改進向基于證據(jù)的教學改進轉(zhuǎn)變[1],而學習分析領(lǐng)域的深入發(fā)展為促進基于證據(jù)的教學改進提供了抓手,能夠通過整體性的方法和數(shù)據(jù)為改進學習、教學、組織以及決策提供見解[2-3],最終服務于學習設(shè)計決策,這個過程能夠有效為教育教學的改進提供證據(jù)。
(一)學習分析支持學習設(shè)計決策的發(fā)展脈絡(luò)
自2011年第一屆學習分析與知識國際會議(LAK)舉辦以來,學習分析領(lǐng)域經(jīng)歷了從“學習分析技術(shù)”到“學習分析”再到“學習分析學”的發(fā)展脈絡(luò)[4],而通過學習分析支持學習設(shè)計決策一直是學習分析貫穿始終的核心目標。研究從學習分析支持學習設(shè)計決策的視角,梳理了學習分析的發(fā)展脈絡(luò),發(fā)現(xiàn)其歷經(jīng)了以下四個階段。
階段一:準備探索階段(2011—2012年),強調(diào)學習分析技術(shù)的開發(fā)。注重學習分析技術(shù)的開發(fā)和應用,探索學習分析的技術(shù)研發(fā)和發(fā)展策略。該階段對學習分析領(lǐng)域的研究處于準備和探索期,尚未對學習分析支持學習設(shè)計決策予以較多關(guān)注。
階段二:整合應用階段(2013—2014年),立足學習與分析領(lǐng)域的整合應用。由于學習與分析的進一步整合,有學者開始提出學習設(shè)計影響學習分析的觀點[2],也逐步衍生出學習分析難以有效支持學習設(shè)計決策的一系列問題[5]。
階段三:多元發(fā)展階段(2015—2018年),著眼學習分析的跨學科融合和多模態(tài)分析。旨在發(fā)揮學習分析學科領(lǐng)域的多樣性和多模態(tài)優(yōu)勢,拓展理解和改進學習設(shè)計決策的視角。例如,有研究通過學習者、環(huán)境和學習活動中的多模態(tài)數(shù)據(jù)來預測學習者當前的學習狀態(tài),給予及時的學習設(shè)計決策支持[6-7]。
階段四:融合深化階段(2019年至今),聚焦學習分析與學習設(shè)計領(lǐng)域的融合發(fā)展。學習分析領(lǐng)域意識到,在理論基礎(chǔ)缺位的情況下收集、分析、解釋和預測學習數(shù)據(jù),會導致數(shù)據(jù)驅(qū)動的研究難以深入理解教育教學的理念和要素[8-9],因此,學習分析開始回歸教育的本質(zhì)屬性。實踐層面表現(xiàn)為開始反思能否通過學習分析實現(xiàn)基于證據(jù)的教學改進,研究層面逐步開始反思學習分析研究能否真正支持學習設(shè)計決策,其中一些學者認為學習分析有效支持學習設(shè)計決策需要打通學習設(shè)計與學習分析閉環(huán)[10-11],設(shè)計分析的概念也應運而生。
(二)設(shè)計分析的概念內(nèi)涵
目前對于設(shè)計分析的內(nèi)涵理解有狹義和廣義兩種,在目標、數(shù)據(jù)、與學習分析的關(guān)系界定上均有所不同(見表1)。狹義上的設(shè)計分析只關(guān)注設(shè)計態(tài)的分析,指采用學習分析的技術(shù)方法,對學習設(shè)計的過程要素進行分析,提出對學習設(shè)計決策的建議,本質(zhì)上是通過對學習設(shè)計方案的分析,支持學習設(shè)計的改進和優(yōu)化。例如,埃爾南德斯等人提出的AL4LD框架[11],框架中的設(shè)計分析層是對設(shè)計分析狹義概念的延展。
廣義上的設(shè)計分析既關(guān)注設(shè)計態(tài)的分析,也關(guān)注實施態(tài)的分析[12-13],指采用學習分析的技術(shù)方法,對學習設(shè)計、學習過程、學習結(jié)果的過程數(shù)據(jù)進行分析,提出對學習設(shè)計決策以及教學實施過程的綜合改進建議,本質(zhì)上是通過對設(shè)計態(tài)和實施態(tài)的分析,支持基于證據(jù)鏈的全過程教學改進,打通學習設(shè)計與學習分析的閉環(huán)。
為了讓理論研究更好地服務于實踐層面的教育教學決策,不僅需要對學習設(shè)計方案本身進行改進,更需要實現(xiàn)以學習設(shè)計為起點的、基于全過程證據(jù)鏈的教學改進。因此,既需要關(guān)注設(shè)計態(tài),也需要關(guān)注實施態(tài),需要解決的關(guān)鍵問題是如何打通學習設(shè)計與學習分析閉環(huán),而設(shè)計分析為打通閉環(huán)提供了方法論。為解決目前研究與實踐層面的關(guān)鍵問題,研究通過系統(tǒng)循證的逐層剖析,綜述學習分析支持學習設(shè)計決策的層次、效果和方法路徑,為打通學習設(shè)計與學習分析閉環(huán),促進基于證據(jù)的教學改進指明方向。
二、 學習分析支持學習設(shè)計決策的分析框架
學習分析對學習設(shè)計決策的支持度有很大差異,而這個差異主要體現(xiàn)在兩個維度上:一是學習分析對學習設(shè)計的解釋力度,二是學習分析對學習設(shè)計的分析粒度。根據(jù)學習分析支持學習設(shè)計決策的強弱程度,研究構(gòu)建了如圖1所示的分析框架。
(一)解釋力度
解釋力度指學習分析的結(jié)果能否轉(zhuǎn)換或表征為學習設(shè)計決策的方法或策略,能否為學習設(shè)計的改進和優(yōu)化提供明確的路徑,其強弱水平取決于學習設(shè)計決策意見的具體程度,解釋力度強的研究能夠更好地為學習設(shè)計決策提供證據(jù)[14]。
(二)分析粒度
研究中通常以學習設(shè)計的分層嵌套關(guān)系為劃分依據(jù),因此,分析粒度從粗到細包括了學習環(huán)境、學習活動、學習策略等。細粒度的學習活動與粗粒度的學習活動相比,能夠更細致地在微觀層面挖掘?qū)W習規(guī)律[15],提升學習分析對學習設(shè)計決策的支持度。
三、 研究方法和過程
(一)研究問題
本研究旨在通過系統(tǒng)性文獻綜述(Systematic Review)法,以設(shè)計分析為視角,探究學習分析研究能否支持學習設(shè)計決策。研究問題包括:(1)學習分析研究能否支持學習設(shè)計決策,支持的效果如何;(2)學習分析研究是如何支持學習設(shè)計決策的;(3)如何打通學習設(shè)計與學習分析的閉環(huán)。
(二)研究方法與過程
研究對國際學習分析領(lǐng)域核心期刊和會議論文進行檢索、篩選和評估。研究過程包括計劃、檢索文獻、評估文獻質(zhì)量、抽取數(shù)據(jù)、整合數(shù)據(jù)、撰寫綜述六個具體的步驟[16]。
1. 檢索文獻
目前,設(shè)計分析視角的學習分析實證研究數(shù)量比較有限,因此,為了更加全面、準確地定位相關(guān)主題的高質(zhì)量文獻,研究借鑒系統(tǒng)性文獻綜述期刊篩選方法[17],選取五種關(guān)注學習分析主題的國際核心期刊作為文獻來源,包括Internet and Higher Education、Computers & Education、International Journal of Computer-Supported Collaborative Learning、British Journal of Education Technology、Interactive Learning Environments。此外,學習分析與知識國際會議(LAK)是學習分析領(lǐng)域最具影響力的研究論壇之一,為學習分析領(lǐng)域產(chǎn)出了諸多前沿的研究成果[18],因此,本研究將LAK會議論文作為另一重要來源進行文獻篩選。最終,全文共獲取到2019—2021年間的期刊論文1310篇,LAK會議論文220篇。
2. 評估文獻質(zhì)量
為確保樣本文獻與研究問題的高度相關(guān)性,本研究根據(jù)研究問題制定了文獻納入標準,包括采用實證研究方法、研究主題是“學習分析”、研究關(guān)注的“學習分析”基于“設(shè)計分析”視角、研究對“設(shè)計分析視角的學習分析”進行準確描述四項標準。對檢索到的文獻進行兩輪甄別,最終納入樣本文獻105篇。
3. 抽取與整合數(shù)據(jù)
為整合設(shè)計分析視角的學習分析研究成果,需要抽取樣本文獻的關(guān)鍵信息。本研究基于研究問題,主要從學習分析支持學習設(shè)計決策的層次、理論基礎(chǔ)、研究變量、技術(shù)方法等維度對其進行編碼分析。
四、 學習分析支持學習設(shè)計決策的三個層次
針對研究問題1,研究根據(jù)分析框架將樣本文獻劃分為如圖2所示的三個層次,回答學習分析研究支持學習設(shè)計決策的效果問題。
(一)層次一:學習分析作為學習設(shè)計決策的間接證據(jù)
層次一的研究共計23篇文獻,這一層次研究主要在表征、分析、預測學習者的學習過程,對于學習設(shè)計的改進建議通過基于研究結(jié)論的演繹,缺少基于學習理論或分析框架的合理證據(jù),往往需要基于經(jīng)驗的二次解釋才能為學習設(shè)計服務。例如,有研究借助各類方法技術(shù)挖掘各類學習要素與學習效果之間的關(guān)系[19],應用各類數(shù)據(jù)預測學習效果或表征學習者的學習過程等[20-22],研究者對研究結(jié)果的解釋視角具有很強的主觀性。
因此,該層次研究解釋力度較弱,對學習設(shè)計的分析粒度是局部的,學習分析對學習設(shè)計決策的支持度也較弱。研究結(jié)果也難以在實踐中進行復制和重用,只能為學習設(shè)計決策提供間接的證據(jù)。
(二)層次二:學習分析驅(qū)動的局部學習設(shè)計決策
層次二的研究共計73篇文獻,總體占比最高,研究解釋力度從適中到弱均有,對學習設(shè)計的分析粒度從局部到整體均有覆蓋,因此,學習分析對學習設(shè)計決策的支持度也相對適中,能夠提供支持學習設(shè)計決策的局部證據(jù)。根據(jù)學習設(shè)計要素的粒度可以把層次二研究細分為以下三類:
1. 學習分析驅(qū)動的學習環(huán)境設(shè)計變化
這類研究有學習環(huán)境與學習設(shè)計要素對應的分析框架,能夠解釋學習環(huán)境設(shè)計的變化規(guī)律,為學習環(huán)境整體設(shè)計提供改進建議。例如,有研究把不同情境下的學習投入行為對應到學習活動的層面,對比不同學習情境中的學生投入度的差異,提出學習環(huán)境的設(shè)計決策建議[23]。
2. 學習分析驅(qū)動的學習活動調(diào)整
這類研究針對某一類型學習活動與學習設(shè)計要素對應的分析框架,能夠呈現(xiàn)細粒度的學習活動的設(shè)計路徑,分析學習者在學習活動中的行為模式、認知發(fā)展等,從而為某一類型的學習活動提供改進建議。例如,有研究分析了學習者的課前學習模式,證明了不同課前學習模式下學生學習軌跡的差異,并基于課前學習模式提出了課前準備環(huán)節(jié)的具體設(shè)計建議[24]。
3. 學習分析驅(qū)動的學習策略選擇
這類研究針對某一學習策略下學習者的學習效果,通過語義或行為模式的編碼呈現(xiàn)學習者的學習路徑,從而為基于學習策略的細化活動設(shè)計提出建議。例如,有研究探究社會調(diào)節(jié)學習策略對學習者的影響,通過對比學習者行為序列模式的差異,提出基于社會調(diào)節(jié)學習策略的細化活動設(shè)計建議[25]。
以上學習分析驅(qū)動的研究只關(guān)注局部學習設(shè)計決策,能夠深入發(fā)掘某一要素學習設(shè)計的規(guī)律,對某一類環(huán)境、活動和策略的設(shè)計決策提供更準確且真實的證據(jù)。但該層次的學習分析研究對學習設(shè)計決策的支持度差異較大,原因是這一類研究只能為學習設(shè)計決策提供某一類環(huán)境、活動、策略的局部支撐,分析粒度差異較大,缺乏對學習設(shè)計決策的整體性支持。
(三)層次三:學習分析促進學習設(shè)計的直接決策
層次三的研究共計9篇文獻,占比最少,解釋力度較強,對學習設(shè)計的分析粒度是整體性的,因此,學習分析對學習設(shè)計決策的支持度相對較強,能夠提供支持學習設(shè)計決策的直接證據(jù)。研究者從不同視角探索了學習分析如何直接支持學習設(shè)計決策,例如:有研究構(gòu)建了學習設(shè)計的分析模型和分析層框架[11,26];也有研究構(gòu)建了情境化的學習分析設(shè)計理論模型[27],證明與學習情境相聯(lián)結(jié)的學習分析可以直接促進學習設(shè)計決策。
該層次研究的優(yōu)點在于學習設(shè)計的解釋力度較強,強調(diào)學習設(shè)計與學習分析活動/要素直接的對應和聯(lián)結(jié),理論框架和分析框架包括整體性的學習設(shè)計要素,能夠在學習過程中提供直接的學習設(shè)計決策,為打通學習設(shè)計與學習分析的閉環(huán)提供方法路徑。但是由于研究框架的復雜性,研究的實證部分并不能完全支持研究框架的驗證,很難深入挖掘某一學習設(shè)計要素的規(guī)律。
五、 學習分析支持學習設(shè)計決策的方法路徑
對樣本文獻的分析發(fā)現(xiàn),理論基礎(chǔ)、研究變量和技術(shù)方法是影響學習分析支持學習設(shè)計決策的關(guān)鍵因素。針對研究問題2,分析出以下學習分析支持學習設(shè)計決策的方法路徑:
(一)路徑一:遵循學習理論,提出明確的設(shè)計分析框架
對研究文獻分析發(fā)現(xiàn),學習分析對學習設(shè)計決策支持度越高,學習理論與研究的關(guān)系越緊密,支持度高的研究不僅明確強調(diào)學習理論的指導作用,并能夠基于學習理論提出研究操作性層面的設(shè)計框架。層次一無學習理論基礎(chǔ)的研究最多,占總研究文獻的72%;層次二中有52.7%的研究文獻有明確的學習理論基礎(chǔ),并在此基礎(chǔ)上提出了研究的設(shè)計框架,但是沒有學習理論基礎(chǔ)的研究文獻仍占28.4%;層次三的研究雖然總體較少,但其中62.5%的研究文獻均有明確的學習理論基礎(chǔ),且基于學習理論基礎(chǔ)提出了設(shè)計分析框架。
因此,理論基礎(chǔ)能夠為數(shù)據(jù)的選擇和解釋提供有效支撐[28]。基于學習理論的學習分析研究能夠保障研究與實踐的一致性,同時也有助于識別數(shù)據(jù)痕跡和學習結(jié)果之間有意義的模式和關(guān)聯(lián)[8],決定需要研究哪些問題來改進學習,如何解釋分析結(jié)果,從而為學習設(shè)計決策提供可行的建議;而基于學習理論的設(shè)計分析框架,增強了學習分析支持學習設(shè)計決策的操作性,能夠決定選擇什么數(shù)據(jù)和分析方法,如何分析,從而為研究提供設(shè)計和分析的指南,提升學習設(shè)計決策的準確性[29]。因此,為了增強學習分析對學習設(shè)計決策的支持度,學習分析需要擺脫數(shù)據(jù)陷阱,以學習理論為本位,構(gòu)建明確的學習設(shè)計分析框架,讓學習分析研究回歸支持學習設(shè)計決策的核心目標。
(二)路徑二:關(guān)注研究變量的階段性和連續(xù)性,強化學習分析的情境特征
研究變量能夠決定學習變量的表征方式和支持學習設(shè)計決策的粒度。對樣本文獻進行分析,發(fā)現(xiàn)學習分析對學習設(shè)計決策支持度越高,越能夠細粒度地表征學習過程,強調(diào)學習分析變量的階段性和連續(xù)性,能夠關(guān)注不同學習環(huán)境、教學設(shè)計和時間段的學習變化,將研究重點由群體差異轉(zhuǎn)移到個體的動態(tài)過程上,操作層面可以通過表征研究變量的階段性和連續(xù)性,強化學習分析的情境特征來實現(xiàn)。
1. 學習分析變量的階段性
有62篇研究文獻從不同維度上凸顯了研究變量的階段性特征,集中表現(xiàn)在以下幾個方面:
其一,學習設(shè)計的階段性:研究會區(qū)分不同學習階段的學習設(shè)計特征,把學習活動要素表征的階段性特征納入評價范圍,分類討論不同階段的學習設(shè)計與要素的關(guān)系。例如,有研究考慮課前、課中、課后的學習設(shè)計要素與學習結(jié)果的關(guān)系[30],或者考慮更細粒度的每周的學習設(shè)計要素與學習結(jié)果的關(guān)系[31]等。
其二,學習過程的階段性:研究會針對每一學習周期的學習過程進行分析。例如,有研究針對開學到期中周期、期中到期末周期兩個階段表征學習者的行為表現(xiàn)或認知特征[32]。
其三,學習行為的階段性:這類研究會挖掘某一類學習活動的序列模式表征學習者行為。例如,有研究應用順序挖掘表征不同類型學習者的行為模式和特征[25,33],通過行為序列更細粒度地表征學習活動的階段特征。
2. 學習分析變量的連續(xù)性
有11篇研究文獻體現(xiàn)了研究變量的連續(xù)性特征,主要體現(xiàn)在學習過程的連續(xù)統(tǒng)一結(jié)構(gòu)。這類研究會將學習過程定義為一系列連續(xù)且動態(tài)的行為過程,提煉和拆分學習過程的不同階段以及每個階段對應的行為特征,對學習分析變量進行細粒度的表征。例如:有研究把工程設(shè)計中的自我調(diào)節(jié)學習表征為計劃、表現(xiàn)、自我反思三個連續(xù)的階段和觀察、構(gòu)思、分析、重新構(gòu)思、評估五個連續(xù)行為的結(jié)構(gòu),表征自我調(diào)節(jié)學習過程的連續(xù)性特征[34];抑或?qū)W習過程表征為個體學習、組內(nèi)知識構(gòu)建和組間知識構(gòu)建三個連續(xù)的部分,突出表現(xiàn)集體認知的連續(xù)和循環(huán)過程[32]。
(三)路徑三:選擇理論驅(qū)動的技術(shù)方法,追溯學習過程的動態(tài)變化
在研究方法方面,樣本覆蓋了質(zhì)性研究、定量研究和混合研究三種實證研究方法,分析發(fā)現(xiàn),定量研究仍然是學習分析最常用的研究方法。如圖3所示,學習分析主要采用了語義分析、描述性統(tǒng)計、推斷性統(tǒng)計三類定量研究類型和11種定量研究的具體的技術(shù)方法,支持學習設(shè)計決策效果越好的研究,會側(cè)重于選擇語義分析,或者幾種定量研究類型相融合的方法。
技術(shù)方法決定了支持學習設(shè)計決策分析結(jié)果的表征方式和準確性。文獻分析發(fā)現(xiàn),對學習設(shè)計決策支持度較高的學習分析研究,其技術(shù)方法呈現(xiàn)出由數(shù)據(jù)驅(qū)動轉(zhuǎn)向理論驅(qū)動的趨勢,傾向于采用分析語義特征、學習者縱向剖面特征以及學習演變過程的技術(shù)方法,一定程度上突破數(shù)據(jù)的限制,為學習設(shè)計決策提供更直接且細粒度的證據(jù)。
1. 趨勢1:分析主題語義特征的技術(shù)方法
研究的技術(shù)方法開始關(guān)注學習過程的主題語義特征,如數(shù)據(jù)分析方法有認知網(wǎng)絡(luò)分析、文本主題模型分析、社會認知網(wǎng)絡(luò)特征分析等。
首先,關(guān)注學習過程主題語義的數(shù)據(jù)分析方法改變了通過外顯行為數(shù)據(jù)分析學習特征的方式,直接通過學習者的認知網(wǎng)絡(luò)結(jié)構(gòu)或者主題內(nèi)容結(jié)構(gòu)進行分析,有效增強學習設(shè)計與數(shù)據(jù)之間的關(guān)聯(lián),能夠?qū)W習過程作出更深入的評價。其次,技術(shù)方法突破了傳統(tǒng)內(nèi)容分析人工語義編碼的限制,能夠量化話語元素之間的復雜時間關(guān)系和主題分類[35-36],提供對學習過程新的理解,從而提供更細致的學習設(shè)計決策支持。
2. 趨勢2:分析學習者縱向剖面特征的技術(shù)方法
研究逐漸從以變量為中心的技術(shù)方法向縱向以學習者為中心的技術(shù)方法轉(zhuǎn)變,比較典型的數(shù)據(jù)分析技術(shù)方法有潛在轉(zhuǎn)換分析、潛在剖面分析等。
以學習者為中心的縱向剖面分析能夠挖掘個人學習軌跡隨時間推移的變化過程,識別和分類具有共同學習行為模式或同一特征的學習者[24,34],提升對學習過程的理解,從而提供更加細致的學習設(shè)計原則或干預措施,進而改進教學。
3. 趨勢3:分析學習演變過程的技術(shù)方法
研究的學習分析技術(shù)方法關(guān)注捕捉學習相關(guān)變量的演變過程,典型的技術(shù)方法有過程挖掘、順序挖掘、狀態(tài)轉(zhuǎn)移分析、生存分析、共現(xiàn)分析和(隱藏)馬爾可夫模型等。
首先,這類技術(shù)方法能夠彌補當前靜態(tài)數(shù)據(jù)分析的方法和技術(shù)(例如頻率分析等)的不足,提供對學習過程新的解釋視角,并且有可能改變學習過程的概念[37],例如,有研究表征了學生隨著時間的推移展現(xiàn)的不同學習行為、不同類型學習者的行為模式[33,38];其次,這類技術(shù)方法能夠以整體視角分析學習行為之間的復雜關(guān)系,把學習過程和方法視為一系列細粒度行為的組合,從而提供更精準的學習設(shè)計決策建議。
六、 結(jié)論與展望
根據(jù)本研究提出的設(shè)計分析概念內(nèi)涵和學習分析支持學習設(shè)計決策的路徑結(jié)果,進一步提煉了基于證據(jù)教學改進的要素和關(guān)鍵環(huán)節(jié),構(gòu)建了設(shè)計分析視角支持基于證據(jù)的教學改進的系統(tǒng)模型(如圖4所示),以期深化對設(shè)計分析要素關(guān)系的認識。
基于證據(jù)的教學改進包括了設(shè)計分析的設(shè)計態(tài)和實施態(tài)兩部分,這個過程既包括了設(shè)計分析的狹義概念(設(shè)計態(tài)),即對學習設(shè)計方案本身的分析和優(yōu)化,明確了研究分析的要素,需要有明確的學習理論基礎(chǔ)支撐,進而為實施態(tài)研究提供了整體設(shè)計框架,也拓展到設(shè)計分析的廣義概念(設(shè)計態(tài)和實施態(tài)),即學習過程和學習結(jié)果的分析,再到學習設(shè)計的反饋優(yōu)化,打通學習設(shè)計與學習分析的閉環(huán)。根據(jù)本研究提出的方法路徑,學習分析研究可以從研究變量、數(shù)據(jù)和技術(shù)方法三點著力,促進學習分析支持學習設(shè)計決策,而這個過程能夠解析學習過程和學習結(jié)果要素,在理論基礎(chǔ)的支撐下為學習設(shè)計的反饋優(yōu)化提供解釋框架。
(一)結(jié)論
研究基于設(shè)計分析視角,對2019—2021年105篇學習分析領(lǐng)域的高水平實證研究成果展開系統(tǒng)性文獻綜述,根據(jù)學習分析支持學習設(shè)計決策的層次分析,發(fā)現(xiàn)學習分析能夠在一定程度上支持學習設(shè)計決策,也有少數(shù)研究能夠直接支持學習設(shè)計決策,但是總體而言,學習設(shè)計與學習分析閉環(huán)尚未打通。
這是因為學習設(shè)計與學習分析閉環(huán)存在堵點,導致在具體操作層面,研究在理論基礎(chǔ)、研究變量和技術(shù)方法上很難達到平衡。一方面,有清晰的學習設(shè)計與學習分析理論框架的研究存在“虎頭蛇尾”的現(xiàn)象,雖然對學習設(shè)計與學習分析之間的關(guān)系有清晰的操作框架,但無法根據(jù)理論框架和設(shè)計框架做深入的實證驗證;另一方面,對學習設(shè)計決策精準的研究能夠通過多種技術(shù)方法對學習設(shè)計的局部決策做支撐,但是缺乏理論層面的操作框架,很難整體上支持學習設(shè)計決策。
(二)未來展望:打通學習設(shè)計與學習分析閉環(huán)的著力點
產(chǎn)生以上現(xiàn)象的本質(zhì)原因在于學習分析與學習設(shè)計閉環(huán)仍然存在堵點,例如,在數(shù)據(jù)層面尚未打通學習分析與學習設(shè)計的數(shù)據(jù)壁壘,在教學實踐層面缺少對教師學習設(shè)計與學習分析環(huán)節(jié)的支持等,但其中核心堵點在于如何在設(shè)計層面建立學習設(shè)計與學習分析的強連接。因此,建議未來從以下兩方面著力解決堵點問題:
著力點一:解決學習設(shè)計難以適應學習分析的表征結(jié)構(gòu)的堵點。一方面,質(zhì)性的、經(jīng)驗性的學習設(shè)計缺少通用的表征方式,限制了學習設(shè)計的構(gòu)建、驗證以及傳播;另一方面,現(xiàn)有的學習設(shè)計表征結(jié)構(gòu)和學習分析量化數(shù)據(jù)挖掘之間存在不兼容的地方,例如:學習分析對于交互網(wǎng)絡(luò)、認知網(wǎng)絡(luò)的分析結(jié)果如何對應到學習設(shè)計上,對于學習活動認知負荷、注意力水平的測量如何對應到學習設(shè)計上?未來可以考慮構(gòu)建學習設(shè)計的分類框架和細粒度的學習設(shè)計表征框架,記錄學習活動的時間、序列、難度、交互等特征,促進學習設(shè)計與學習分析展開有效對話。
著力點二:解決學習分析指標難以評估學習設(shè)計的堵點。由于學習環(huán)境的設(shè)計難以控制,學習分析的數(shù)據(jù)表征只能依賴系統(tǒng)已生成的指標,如學生的交互水平、登錄時長、討論質(zhì)量等,而這些指標并不能與學習設(shè)計直接對應,很難通過學習分析的數(shù)據(jù)分析結(jié)果判斷哪些活動能夠促進或者阻礙有效的學習,也無法提供學習活動如何組織和持續(xù)的證據(jù),因此,也無法有效發(fā)揮學習分析對學習設(shè)計的解釋和改進作用。未來可以考慮建立與學習設(shè)計數(shù)據(jù)兼容的數(shù)據(jù)特征體系和設(shè)計驅(qū)動分層嵌套的學習分析方法體系,在海量的數(shù)據(jù)中識別和提取有意義的特征,選擇匹配的學習分析方法,為學習設(shè)計精準決策的落地提供可能。
綜上所述,為了打通學習設(shè)計與學習分析的閉環(huán),需要從解決兩者之間的堵點著力。學習設(shè)計與學習分析的發(fā)展應該同頻共振,未來要將學習設(shè)計作為學習分析的設(shè)計框架,增強學習分析的解釋性和操作性;要將學習分析作為學習設(shè)計的解釋框架,增強學習設(shè)計的嚴謹性和可行度,雙向賦能打通學習設(shè)計與學習分析的閉環(huán)。
[參考文獻]
[1] 牟智佳,高雨婷,武法提. 基于證據(jù)的教師增值評價:走向智能時代的教學效能評測[J]. 電化教育研究,2022(5):17-25.
[2] LOCKYER L, HEATHCOTE E, DAWSON S. Informing pedagogical action: aligning learning analytics with learning design[J]. American behavioral scientist, 2013,57(10):1439-1459.
[3] SIEMENS G, LONG P. Penetrating the fog: analytics in learning and education[J]. Educause review,2011,46(5):31-40.
[4] 吳永和,李若晨,王浩楠.學習分析研究的現(xiàn)狀與未來發(fā)展——2017年學習分析與知識國際會議評析[J].開放教育研究,2017(5):42-56.
[5] TERVAKARI A, KUOSA K, KORO J, et al. Teachers' learning analytics tools in a social media enhanced learning environment[C]// 2014 International Conference on Interactive Collaborative Learning. Dubai, United Arab Emirates: Institute of Electrical and Electronics Engineers Inc., 2014: 355-360.
[6] CUKUROVA M, LUCKIN R, MILLAN E, et al. The NISPI framework: analysing collaborative problem-solving from students' physical interactions[J]. Computers & education, 2017,116:93-109.
[7] SPIKOL D, RUFFALDI E, DABISIAS G, et al. Supervised machine learning in multimodal learning analytics for estimating success in project-based learning[J]. Journal of computer assisted learning, 2018,34(4):366-377.
[8] GASEVIC D, KOVANOVIC V, JOKSIMOVIC S. Piecing the learning analytics puzzle: a consolidated model of a field of research and practice[J]. Learning: research and practice,2017,3(1):63-78.
[9] MANGAROSKA K, GIANNAKOS M. Learning analytics for learning design: a systematic literature review of analytics-driven design to enhance learning[J]. Institute of electrical and electronics engineers (IEEE),2019,12(4):1-19.
[10] LAW N, LI L, HERRERA L F, et al. A pattern language based learning design studio for an analytics informed inter-professional design community[J]. Interaction design and architecture,2017(33):92-112.
[11] HERNANDEZ-LEO D, MARTINEZ-MALDONADO R, PARDO A, et al. Analytics for learning design: a layered framework and tools[J]. British journal of educational technology,2019,50:139-152.
[12] KENNEDY G, CORRIN L, LOCKYER L, et al. Completing the loop: returning learning analytics to teachers[C]//31st Annual Conference of the Australian Society for Computers in Tertiary Education. Dunedin, New Zealand: Australasian Society for Computers in Learning in Tertiary Education (ASCILITE),2014:436-440.
[13] KOEDINGER K R, STAMPER J C, MCLAUGHLIN E A, et al. Using data-driven discovery of better student models to improve student learning[C]//16th International Conference on Artificial Intelligence in Education. Memphis, TN, United States: Springer Verlag,2013:421-430.
[14] WILEY K J, DIMITRIADIS Y, BRADFORD A, et al. From theory to action: developing and evaluating learning analytics for learning design[C]//10th International Conference on Learning Analytics and Knowledge: Shaping the Future of the Field. Frankfurt, Germany: Association for Computing Machinery,2020:569-578.
[15] NGUYEN Q, RIENTIES B, TOETENEL L. Unravelling the dynamics of instructional practice: a longitudinal study on learning design and VLE activities[C]//7th International Conference on Learning Analytics and Knowledge. Vancouver, BC, Canada: Association for Computing Machinery,2017:168-177.
[16] 黃甫全,游景如,涂麗娜,曾文婕. 系統(tǒng)性文獻綜述法:案例、步驟與價值[J]. 電化教育研究,2017(11):11-18,25.
[17] HSU Y C, HUNG J L, CHING Y H. Trends of educational technology research: more than a decade of international research in six ssci-indexed refereed journals[J]. Educational technology research and development, 2013,61(4):685-705.
[18] 陳雅云,郭勝男,馬曉玲,吳永和. 數(shù)智融合時代學習分析技術(shù)的演進、貢獻與展望——2021學習分析與知識國際會議(LAK)評述[J]. 遠程教育雜志,2021(4):3-15.
[19] SHER V, HATALA M, GA?譒EVI■ D. Analyzing the consistency in within-activity learning patterns in blended learning[C]//10th International Conference on Learning Analytics and Knowledge: Shaping the Future of the Field. Frankfurt, Germany: Association for Computing Machinery,2020:1-10.
[20] DOLECK T, LEMAY D J, BRINTON C G. Evaluating the efficiency of social learning networks: perspectives for harnessing learning analytics to improve discussions[J]. Computers & education, 2021,164:1-11.
[21] ZHANG S, CHEN H X, WEN Y, et al. Exploring the influence of interactive network and collective knowledge construction mode on students' perceived collective agency[J]. Computers & education,2021,171:1-18.
[22] VRZAKOVA H, AMON M J, STEWART A, et al. Focused or stuck together: multimodal patterns reveal triads' performance in collaborative problem solving[C]//10th International Conference on Learning Analytics and Knowledge: Shaping the Future of the Field. Frankfurt, Germany: Association for Computing Machinery,2020:295-304.
[23] LIMA F D B, LAUTERT S L, GOMES A S. Contrasting levels of student engagement in blended and non-blended learning scenarios[J]. Computers & education, 2021,172(3):1-13.
[24] SUN Z R, XIE K. How do students prepare in the pre-class setting of a flipped undergraduate math course? A latent profile analysis of learning behavior and the impact of achievement goals[J]. The internet and higher education,2020,46(1):1-13.
[25] HWANG G J, WANG S Y, LAI C L. Effects of a social regulation-based online learning framework on students' learning achievements and behaviors in mathematics[J]. Computers & education,2021,160(6):1-19.
[26] YAN H X, LIN F H, KINSHUK. Including learning analytics in the loop of self-paced online course learning design[J]. International journal of artificial intelligence in education, 2021,31(4):878-895.
[27] SHIBANI A, KNIGHT S, SHUM S B. Contextualizable learning analytics design: a generic model, and writing analytics evaluations[C]//9th International Conference on Learning Analytics and Knowledge. Tempe, AZ, United States: Association for Computing Machinery,2019:210-219.
[28] REIMANN P. Connecting learning analytics with learning research: the role of design-based research[J]. Learning: research and practice,2016,2(2):130-142.
[29] BERNACKI M L, CHAVEZ M M, UESBECK P M. Predicting achievement and providing support before stem majors begin to fail[J]. Computers & education, 2020,158(6):1-19.
[30] WANG F H . On the relationships between behaviors and achievement in technology-mediated flipped classrooms: a? two-phase online behavioral PLS-SEM model[J].Computers & education, 2019, 142:1-12.
[31] WANG F H . Interpreting log data through the lens of learning design: second-order predictors and their relations with learning outcomes in flipped classrooms[J].Computers & Education, 2021,168:1-18.
[32] ZHANG S, CHEN J, WEN Y, et al. Capturing regulatory patterns in online collaborative learning: a network analytic approach[J]. International journal of computer-supported collaborative learning,2021,16(1):37-66.
[33] XING W L, TANG H T, PEI B. Beyond positive and negative emotions: looking into the role of achievement emotions in discussion forums of MOOCs[J]. The internet and higher education,2019,43:1-9.
[34] LI S, CHEN G, XING W, et al. Longitudinal clustering of students' self-regulated learning behaviors in engineering design[J]. Computers & education, 2020,153(3):1-15.
[35] SUN M, WANG M H, WEGERIF R, et al. How do students generate ideas together in scientific creativity tasks through computer-based mind mapping?[J]. Computers & education,2022,176:1-16.
[36] HUJALA M, KNUTAS A, HYNNINEN T, et al. Improving the quality of teaching by utilising written student feedback: a streamlined process[J]. Computers & education,2020,157:1-15.
[37] AZEVEDO R. Issues in dealing with sequential and temporal characteristics of self- and socially-regulated learning[J].Metacognition learning, 2014,9(2):217-228.
[38] TSAI M J, WU A H. Visual search patterns, information selection, and information anxiety during online information problem solving[J]. Computers & education, 2021,172(11):1-15.
Can Learning Analytics Support Learning Design Decisions?
—A Systematic Literature Review of Learning Analytics from A Design
Analysis Perspective
GUO Wanrong,? FENG Xiaoying,? SONG Jiaxin
(Laboratory of Learning Design and Learning Analysis, Beijing Normal University, Beijing 100875)
[Abstract] The ultimate goal of learning analytics is to support learning design decisions and better facilitate evidence-based instructional improvement at the practice level. This study analyzes the levels, methods, and pathways of learning analytics to support learning design decisions through a systematic literature review of learning analytics research from the perspective of design analysis. The research results suggest that learning analytics cannot yet fully support learning design decisions, and learning analytics can be helped to support learning design decisions by proposing a design analysis framework based on learning theory, focusing on the stages and continuity of research variables, and choosing a theory-driven technical approach. In order to better facilitate learning analytics to support learning design decisions, it is necessary to solve the blockage problem of design analytics, open the closed loop of learning design and learning analytics, and provide an evidence-based foundation for instructional improvement by two-way empowerment.
[Keywords] Learning Analytics; Learning Design; Design Analysis; Systematic Literature Review