劉清堂 盧國慶 鄧偉 吳林靜 梅鐳 王嬌嬌



【摘要】移動互聯網+教育促進了教育數據采集方法的革新。移動經驗取樣法是一種移動技術與經驗取樣方法相結合的縱向即時數據采集方法。本研究在系統梳理移動經驗取樣法的理論基礎、取樣方法和相關工具的基礎上,重點對情境感知移動經驗取樣工具的功能流程和關鍵技術進行重點分析,設計并實現了一款指向真實學習情境的教育即時數據采集工具。該工具以智能終端為信息采集載體,實現隨機取樣、間隔取樣、基于事件的取樣和設備取樣四種取樣方式。接著,從感知有用性與感知易用性兩個方面,通過焦點小組討論對工具進行了評價與完善,并對工具的功能進行了橫向比較。最后,對工具的應用進行了展望,以期為移動經驗取樣工具的本土化研究及應用提供借鑒與參考。
【關鍵詞】? 經驗取樣法;移動經驗取樣法;移動技術;情境感知技術;取樣方法;取樣工具;教育數據采集
【中圖分類號】? G40-057? ? ? ?【文獻標識碼】? A? ? ? ?【文章編號】? 1009-458x(2021)6-0035-11
一、問題的提出
教育數據采集方法關乎教育量化研究質量。結果類、過程類、自我報告等數據捕獲與測量方法是教育數據采集的主要方式(Azevedo, 2015),但有其自身的局限性。指向結果的測量方法包括測驗和遷移測試等,是采集學習結果數據的有效方法。指向過程的數據測量方法和工具有屏幕錄像、日志文件、面部表情識別、生理傳感器等,能夠全面、有效地捕獲學習過程信息。但是,采用這些方法進行量化與表征時采用的多為觀察性指標,編碼格式不一致,也難以采集個體內部心理狀態信息。傳統的自我報告法(如前測、后測問卷)常用于采集個體特性與狀態數據,然而該方法采集到的數據具有一定的滯后性和延遲性,難以捕獲到個體在真實情境中即時的內部心理狀態信息。經驗取樣法(experience sampling method, ESM)應運而生,它能夠有效解決采用傳統自我報告法采集數據時存在回憶偏差的問題,捕獲個體在具體情境中的真實狀態信息。ESM的日益普及得益于兩個因素:一是數據采集質量高,通過最小化回憶偏差、最大化生態效度提高了教育數據采集質量;二是數據采集移動設備迅速發展并普及。
隨著情境感知、移動技術的蓬勃發展,智能手機、PDA等移動設備得到普及。這些移動設備在任何地方、任何時間都能與互聯網連接,進行數據傳輸與交換。在社會科學領域,移動設備逐漸成為流行和通用的經驗取樣工具(Kuntsche & Labhart, 2013; Raento, Oulasvirta, & Eagle, 2009)。這些設備大多具有情境感知功能,能夠實時、智能地獲取個體的位置、活動、社交等信息,對個體的學習環境與內在學習狀態有所“認識”。
然而,國內教育領域研究者很少利用移動設備進行ESM相關實證研究,究其原因,主要是對移動經驗取樣理論和方法缺乏認識,進而導致國內教育領域缺少合適的、開源的、適配的移動經驗取樣工具。基于此,本研究圍繞以下問題開展研究:截至目前有哪些縱向數據采集方法和移動經驗取樣工具?針對這些方法與工具的不足,如何設計和開發教育領域中本土化的移動經驗取樣工具?移動經驗取樣工具如何在教育中更好地應用?基于以上問題,本研究在對移動經驗取樣法的理論基礎、取樣方法和取樣工具進行系統梳理的基礎上,設計并開發了一款移動經驗取樣工具,并對其教育應用進行了展望。
二、移動經驗取樣法的相關研究
(一)相關概念
經驗取樣法(以下簡稱“ESM”),又稱“生態瞬時評估法”(ecological momentary assessment,EMA),是一種在真實的情境下對被試的環境、行為和體驗等信息進行即時縱向采集的研究方法(段錦云, 等, 2012; 盧國慶, 等, 2019)。最初的使用方法是當被試收到提醒工具(如鬧鐘、手表等)發出的信號時,主動報告自己的真實狀態。本質上,經驗取樣法也是一種自我報告的方法,它通過提醒工具和自我報告相結合來獲取即時數據。但是,不同于傳統的自陳測驗方法,經驗取樣法強調在自然情境中采集數據,在時間與空間維度上更加接近事件發生的真實情境,能獲取更為真實的數據。
移動經驗取樣法(mobile experience sampling method,mESM)指采用移動設備(如智能手機)的經驗取樣方法。不同于傳統的ESM,mESM能夠充分利用移動設備的情境感知技術,對環境信息和個體行為進行有效的“感知”,并對個體所在的環境信息(如位置、噪聲、光線等)、行為信息(如活動、社會交互等)和生物信息(如溫度、心跳、眼動等)進行自動記錄,同時也可以通過即時的自我報告獲取用戶的主觀體驗和感知。這種數據采集方法能夠采集多種模態數據,具有更好的內部效度和生態效度。
(二)mESM的理論基礎
ESM來源于心流(flow)理論。心流理論最早由米哈里·希斯贊特米哈伊(Mihaly Csikszentmihalyi)提出,指當個體專心于某件事情時感覺到時間飛逝、物我兩忘這樣一種完全沉浸其中的愉悅滿足感(朱珂, 等, 2018),又稱“沉浸體驗”。心流是一種積極的最佳體驗與滿足狀態,它能夠很好地解釋個體在任務中的沉浸狀態。希斯贊特米哈伊(Cs?kszentmihályi, 1975)認為,技能(abilities)和挑戰(challenges)是影響沉浸體驗的主要因素。研究發現只有個體感知的任務挑戰性與自身技能均很高,并且任務對于自身也很重要或相關的時候,才會產生很好的投入或最優的體驗(Shernoff, et al., 2014, pp. 475-494)。而經驗取樣法最早用于測量個體的沉浸體驗。研究者采用mESM能夠很好地測量學生即時的學習體驗(Larson & Csikszentmihalyi, 2014, pp. 21-34),有效地感知學習者當下的真實環境信息,客觀地捕獲學習者的行為信息。
(三)幾種常見的取樣方法
mESM是一種密集型縱向研究法(intensive longitudinal method,ILM),利用被試隨身攜帶的移動設備,在不同的教育情境中對被試多次采樣,以獲得學習者在不同活動中的環境、個體行為和心理狀態信息等。經過文獻梳理(Bolger & Laurenceau, 2013, pp. 18-21; Conner, et al., 2009; Zirkel, Garcia, & Murphy, 2015),常見的縱向數據采集方式有隨機取樣、間隔取樣、事件取樣和設備取樣(或情境感知取樣)四種方式。這些經驗取樣方式的使用情境、技術平臺、花費、復雜度和控制度等特點見表1。
在表1中,隨機取樣、間隔取樣、事件取樣是典型的三種傳統取樣方式。隨機取樣一般是指每天的取樣信號發送時間隨機(例如,每天3~8次),發送信號的時間未知。這種研究方法一般用來調查被試即時的體驗,如學業情緒等。間隔取樣一般是指在固定的時間對被試進行取樣。事件取樣主要用于圍繞特定的事件而進行信息采集的研究,一般在事件發生的過程中或事件之后立即進行取樣。
不同于傳統的經驗取樣方式,新興的設備取樣(device-contingent sampling)充分利用傳感器等技術設備自動感知、觸發以完成更復雜的即時數據采集(MIT, 2008)。它是一種情境驅動的經驗取樣方式,一些研究者將這種方式開發為具體的移動應用程序(Intille, et al., 2003)。移動設備內置多種傳感器(如麥克風、相機、GPS、加速度等),能夠捕捉和記錄音頻、圖片、位置和運動等信息(Kuntsche & Labhart, 2013)。Bolger(2013, p. 19)將這種方式描述為基于設備的取樣,并概括了這種取樣方式可以獲得的五種數據類型:①體驗(如情感、行為和感知)的自陳測驗;②生理指標(如心率);③任務表現(如呈現在智能設備上的認知類任務);④環境指標(如環境噪聲、溫度、拍攝情境圖片);⑤空間數據(如GPS信息)。
(四)mESM工具相關研究
ESM從傳統的提醒工具(如鬧鐘)與紙質問卷結合的方式,逐步向移動技術支持下的提醒與問卷集成的mESM方式演進。mESM是契合移動互聯網時代的技術與特征,形成的新一代用戶信息行為研究方法(胡蓉, 等, 2018)。與早期的提醒鬧鐘與紙質問卷相結合的方式相比,mESM呈現出新的特性,具有情境感知、智能觸發、多模態信息采集等特點。國外研究者開發了許多mESM工具,這些工具集成了情境感知、在線問卷調查、移動組件和管理組件等模塊,支持掌上電腦、智能手機等主流移動平臺(Conner, 2015; Van Berkel, Ferreira, & Kostakos, 2018)。目前mESM工具主要包括移動應用程序、短消息/語音服務和終端用戶開發三類。
1. 移動應用程序實現mESM
利用智能設備搭載移動應用程序(App)是常見的mESM工具,這類工具應用較廣泛。ESP是第一款移動經驗取樣應用程序(Barrett & Barrett, 2001),主要應用在掌上電腦上,用于采集用戶即時的思想、感受和行為等。MyExperience以掌上電腦為平臺,主要通過位置傳感器、藍牙傳感器、用戶交互和設備狀態等記錄設備使用日志,并通過用戶的自我報告收集用戶反饋(Froehlich, et al., 2007)。然而,該程序主要用于評估移動設備的一些功能,應用范圍有限。StudentLife是一款以智能手機(安卓環境)為平臺,通過傳感器和采集器,結合內置的分類器,自動感應學生的活動、睡眠和社會交往情況等的移動應用程序(Wang, et al., 2014)。研究者利用該工具的情境感知功能,結合動態自陳測驗,探究一學期內學生的活動、睡眠和社會交往等與學生的壓力、情緒等自我報告的內部狀態的關聯,表明情境感知獲得的分類數據與學生自我報告的數據之間存在相關性。雖然該應用程序具有很強的學生事件分類功能,但是該程序存在兼容性不高、擴展性不強等弱點。Ohmage是一款不僅能夠通過用戶自陳測驗收集用戶即時反饋,而且實現利用傳感器采集GPS、加速度等情境數據,以及利用穿戴設備采集心率、血壓等生物數據的應用程序(Tangmunarunkit, et al., 2015)。但是,該工具針對特定群體,主要應用在醫學健康領域。
2. 短消息/語音服務實現mESM
利用智能設備的短消息/語音服務可以實現mESM。Kuntsche等(2013)提出了一種基于Internet的手機優化評估技術(internet-based cell phone-optimized assessment technique,ICAT),該技術包括回顧性基準自我報告評估,以及給參與者發送短信,短信中包含了連接到Internet存儲的超鏈接問卷。SurveySignal是一款成熟的mESM應用軟件,最初是由芝加哥大學開發的,主要基于短消息服務(short message service,SMS),結合在線問卷系統而實現移動經驗取樣(Hofmann & Patel, 2015)。該工具比較成熟,只要智能終端聯網即可參與經驗取樣研究。研究表明,基于SMS的取樣是一種新穎、方便且具有成本效益的方式,可以收集有關情境特征的數據,同時最大限度地降低回憶偏差,但是這些工具不支持國內運營商。另外,有研究者(Sumaya & Darling, 2018)將移動技術與交互式語音響應技術結合使用,通過呼叫平臺以語音的形式采集信息。一般而言,這類工具只能實現隨機提醒和間隔提醒。
3. 終端用戶開發實現mESM
為降低研究者的開發難度,國外出現了終端用戶開發(end-user development,EUD)平臺。 ESMAC是一款基于XML配置的事件觸發的情境感知經驗取樣工具,支持Android 4.4以上終端設備的可視化用戶終端編程平臺(Bachmann, et al., 2015),它采用基于流程布局,集成了在線測試、位置和活動分類器等功能。Jeeves是一款基于可拖拽模塊的用戶終端可視化編程平臺(Rough & Quigley, 2017),研究者可以像搭建積木一樣構建自己的經驗取樣應用程序。movisensXS是一款基于流程布局的用戶可視化編程平臺,集成了情境感知、表單等可視化引擎,由研究者在終端平臺上根據研究需要進行創建和修改,并導出對應的應用程序,以開展經驗取樣研究(Stade & Seyff, 2017)。這類可視化的用戶終端編程環境,或基于塊布局,或基于流程布局,其開發的移動應用程序不支持跨平臺運行,兼容性低,并且只能滿足經驗取樣的部分功能,加之隱私保護等問題,很難直接應用在國內的教育研究中。
通過上述分析,國外在經驗取樣移動工具的實現、演進、應用等方面積累了豐富的成果,為社會心理學、組織行為學、醫療健康等領域的研究做出了巨大貢獻,取得了很好的應用成效,主要體現在以下三個方面:第一,在數據層面,通過經驗取樣工具能夠采集獨特的數據集,這些數據是參與者在真實情境中的體驗數據,無法采用其他方法獲得。同時,重復測量的數據具有一定的“嵌套”特點,使得這些數據具有很強的統計分析潛力。第二,在分析層面,有助于研究個體內部心理特征與行為的變化及其過程。第三,在理論層面,這類工具的應用能夠拓展已有的理論模型,提高理論精度,擴展特定理論的解釋力(張銀普, 等, 2016)。因此,我們認為,mESM在教育中具有很強的應用潛力,能夠有效促進真實情境下的學習體驗研究(萬力勇, 等, 2019),有助于研究者了解教育環境如何影響并塑造學習、行為和其他結果,探究個體、行為、環境之間的多元關聯。
然而,這種工具仍然存在一些技術難點,也體現在三個方面:第一,搭載App的主要缺點是,智能設備使用不同的操作系統(如iOS、Android、Windows Mobile、BlackBerry等),以及這些操作系統具有不同的版本,需要開發每個操作系統下的程序,同時要兼容不同版本以安裝在所有手機上,否則該應用程序將局限于某種類型的手機。第二,SMS/語音取樣方法局限于自我報告與對位置的評估(通過IP地址),情境感知功能會受到限制,如果將情境感知技術融入mESM,這種方式不是很好的解決方案。第三,可視化終端用戶開發方案雖然能夠減輕研究人員編寫ESM程序的負擔,但是,這種方式在一定程度阻礙了邏輯流程,降低了程序的自由程度和可控性,不是應用情境感知技術的有效解決方案。
最后,在技術實現上,仍然存在若干難題未得到解決:其一,在功能上,情境感知mESM工具有哪些功能流程?如何將情境感知技術與mESM融合從而更全面地采集學生的學習數據?其二,在取樣方式上,事件取樣等方式如何與學生的日程學習事件相關聯?如何實現自動交互及更新?其三,在數據關聯上,經驗取樣平臺數據如何與第三方問卷調查平臺的數據關聯?等等。這些問題也是本研究擬突破的技術難點。
在國內,目前對于ESM的研究僅僅停留在理論探討和方法框架梳理層面,鮮有mESM工具開發與應用相關研究。因此,迫切需要本土化的可訪問的mESM研究設計工具。該工具能夠將情境感知技術與自我報告相結合,能讓計算機科學領域以外的研究者配置mESM研究參數,并嵌入他們的研究設計之中。本研究立足經驗取樣的工具層面,旨在設計并實現一款跨平臺、兼容性高的情境感知mESM工具——“日程管家”,在對mESM工具進行需求分析、功能模塊設計以及關鍵問題分析的基礎上,對mESM工具進行開發實現與應用展望。
三、情境感知的mESM工具設計
(一)工具的需求分析
為解決傳統的采用自我報告法進行教育數據采集存在的滯后與回憶偏差問題,結合移動技術、情境感知技術等,本研究提出了采集學生即時數據的情境感知mESM,設計并實現了教育領域采集即時數據的mESM工具。該工具能夠實現隨機取樣、間隔取樣、基于事件取樣和設備取樣四種取樣方式,并自動獲取個體在真實情境中的環境信息,將傳統問卷調查法與移動提醒方式相結合,能夠獲取個體的即時心理狀態信息,以及個體在真實環境中的上下文信息。簡言之,系統主要需求是在實現隨機取樣、間隔取樣、基于日程事件取樣、設備取樣四種取樣方式的基礎上,支持用戶填寫問卷,并根據用戶歷史統計信息,生成學習者學習儀表盤,共計六項需求,見表2。
工具的需求具體包括:①隨機取樣。該工具允許研究者在管理端設置提醒時間段、提醒次數與最小時間間隔等。例如,本周在上午8:00~晚上10:00的時間段內每天隨機提醒一次。②間隔取樣。該工具允許研究者在管理端設置提醒時間段、提醒次數等。例如,本月內每天上午9:00~12:00的時間段內每天等距間隔提醒2次。③基于事件的取樣。主要指學生的學習計劃安排、日程事件,主要包括學生的自主計劃以及學生的課程信息。④設備取樣。經驗取樣情境感知主要通過傳感器、采集器等設備或技術等實現移動設備對個體所處的環境有所感知,進而使得計算機能夠對使用者所處的環境有所認識。⑤自我報告。鑒于目前已經存在第三方問卷調查平臺,該工具能夠與主流的問卷調查平臺兼容,如問卷星和qualtrics等。⑥儀表盤。該工具能夠根據學習者足跡生成學習儀表盤,對學習行為信息、個體內在心理狀態、環境信息進行個性化反饋。
(二)工具的功能流程
日程管家包括學習者的移動端和研究者的管理端兩部分,其功能流程見圖1。研究者在管理端進行測試管理、用戶管理、日程管理及相關數據分析。其中,測試管理主要指設置ESM研究項目的相關參數,如項目名稱、項目描述、采集項、生效日期、取樣方式、提醒時間段、提醒次數、第三方問卷鏈接等參數。
當預先設置的日程事件觸發時,移動終端會自動提醒學習者,詢問其是否正在進行學習;如果在學習,接著通過第三方問卷平臺自我報告此刻學習情境下的認知、情感、動機等心理狀態;智能終端對學習者此刻的學習地點、噪聲、光線等環境信息自動進行采集;如果學習者沒有在學習,就詢問學習者本周學習任務是否已經完成,并重新設置下一次在線學習的具體時間,待到設定時間后繼續提醒學習者。
(三)工具的模塊設計
移動端和管理端的功能模塊見圖2。移動端功能主要包括:①注冊登錄,支持用戶注冊、登錄移動應用程序;②日程管理,支持用戶增加、刪除、修改和查看日程等操作;③提醒查看,支持用戶查看系統推送的通知;④自我報告,支持用戶填寫預設的采集項目;⑤個人信息修改,支持用戶對個人信息的修改操作。
對于管理端,主要包括:①用戶管理,支持系統管理員增加、禁用、查看用戶,支持批量導入用戶;②課程/日程管理,對于課程信息支持導入用戶課程,對于學生新建的日程信息支持管理員查看、導出日程信息;③取樣項目管理,支持新建經驗取樣項目,修改經驗取樣項目信息,部署或暫停經驗取樣項目,經驗取樣項目選項主要包括第三方問卷的綁定,選擇用戶,選擇采集項、取樣周期、采樣方式等;④統計分析,對用戶的基本信息、學習時間、學習地點、學習日程安排、實際學習情況等進行分析;⑤信息管理,支持系統管理員查看、修改關于我們、意見反饋、語言、字典等信息。
(四)工具的關鍵技術分析
mESM工具得到的結構化的數據集主要包括兩類:一類是個體沉浸在真實情境下的心理狀態數據,此類數據通過學習者自我報告的形式填寫上傳,其類型由第三方問卷平臺設定,可以是學習者此刻的學習動機、認知投入和情感投入等內部心理狀態;另一類數據通過移動端的傳感器等捕獲,主要包括學習者的環境信息,如位置信息等。獲得的取樣數據集為{沉浸真實情境下的學生心理狀態信息,自動采集的環境信息}。為此,該工具主要用到情境感知、日程事件更新機制、跨平臺數據交換技術等。
1. 情境感知技術實現環境信息的自動采集
將情境感知技術與ESM相結合具有一定的應用價值。通過情境感知技術自動采集用戶的客觀情境信息,有助于豐富學生數據集,減輕學生參與負擔。工具中情境感知技術由位置傳感器、光線傳感器、聲音采集器與事件分類器等以及用戶交互組成。工具使用自動感應活動、會話和睡眠等分類器,對用戶的活動或狀態進行分類。對于用戶的活動,主要根據位置傳感器、加速度傳感器實現用戶靜止、走路、跑、騎自行車、乘坐機動車等移動方式的判定;對于用戶的對話主要根據麥克風采集的音頻特征,獲取用戶的對話個數以及對話的持續時間等;針對用戶的睡眠主要根據加速度傳感器、麥克風、光線感應器等獲得用戶的睡眠情況(如入睡時刻、深度睡眠時長、起床時刻等)。設睡眠時間為SD(sleep duration),
其中,[Wi]指相關因素的權重,[Fi]指相關因素,分別代表:①光線特征;②手機設備使用特征(手機鎖的狀態);③活動特征(如靜止);④聲音特征(如安靜)等。
2. 日程事件更新機制實現其與取樣方式的關聯
取樣方式是教育數據采集的核心。不同取樣方式如何與學生的日程事件關聯是本工具解決的重要技術問題。本研究通過日程事件動態更新機制實現取樣方式與學生日程事件的關聯,是工具的創新之處。對于隨機取樣和間隔取樣,工具根據用戶回答交互情況,自動更新數據庫日程事件。對于設備取樣,工具實現信號提醒發生時刻的情境感知數據采集。對于事件取樣,該工具允許研究者在管理端設置基于日程事件的提醒方案。學習事件分為兩類:①學習者在移動端設置的日程計劃事件;②研究者在管理端設置的學生課程事件。定義學習事件Study Event={Study Event Title, Starting Time, End Time, Study Location, Study Partner, Notes}?;趯W習事件的提醒是指在學生的學習發生期間自動提醒用戶,其提醒規則如下:
其中,[T]為提醒時刻,[Tstart]為日程事件開始時刻,[Tend]為日程時間結束時刻。如果日程事件的時間大于1個小時,第一次提醒的時間為開始時間過半小時后提醒;如果日程事件的時間小于一個小時,第一次提醒的時間為開始時間到結束時間的中間時間點。
3. 在網絡請求中嵌入字段實現跨平臺信息交換
不同數據源之間的數據交換、關聯和整合是教育數據采集的難點。本研究主要通過網絡請求中嵌入字段的方式,解決平臺與第三方問卷數據之間如何關聯的技術難題,為跨平臺數據關聯提供了參考。鑒于目前已經存在很成熟的問卷系統,例如,問卷星和qualtrics等,本工具并沒有像其他工具或框架一樣,如AWARE(Ferreira, et al., 2015),開發獨立的出題測驗功能。本工具兼容第三方問卷平臺,通過在網絡請求中嵌入字段實現跨平臺信息交換。對于問卷星而言,根據其平臺接口的要求,參數名為sojumpparm;數據類型是string,編碼后最大長度為150個字符,本研究將UserID通過參數以HTTP網絡請求的方式(get請求)傳送至問卷星平臺,從而實現在問卷星問卷之間的區分。對qualtrics而言,同樣是get請求,不同的是需要在問卷平臺embedded-data中設定具體的參數名稱,然后以HTTP網絡請求的方式將用戶ID傳送至系統,系統會自動標識,網絡請求鏈接參考如下:https://YOURORG.az1.qualtrics.com/jfe/form/SV_0000000?Participant=UserID。
在此基礎上,在第三方問卷平臺中來源詳情自動與用戶ID相互關聯,將采集的數據同步上傳到服務器,并支持在無網絡下自動采集、本地存儲,有網絡時自動上傳云端。數據層的實體主要為用戶、日程、取樣實例、作答、資源等;第三方問卷平臺與之關聯的實體主要為問卷,其具體關聯見圖3。
四、情境感知的mESM工具的開發及評價
(一)工具系統架構
日程管家工具的開發采用了C/S架構(客戶端/服務器端架構),移動端采用Reat Navite混合開發框架技術,這種開發模式生成的移動安裝程序能同時在Android和iOS兩大主流平臺運行;服務器后端的開發環境是Java JDK 11,采用MVC模式(model view controller)來響應用戶請求,用內嵌的servlet容器,配合Nginx反向代理完成多服務部署。該工具采用“數據層—動作層—觸發層—感應層”四層架構,見圖4。
日程管家工具最終實現界面如圖5所示。
(二)工具的評價與完善
在日程管家的設計階段,本研究設計出了具體的原型方案,并對其進行評價與完善。方案的評價主要基于技術接受模型(technology acceptance model,TAM)(Davis, 1989),從感知有用性(perceived usefulness)、感知易用性(perceived ease of use)兩個方面,主要采用焦點小組方法,對取樣工具的可用性、可理解性、靈活性等進行了討論。焦點小組法是可用性測試的常見方法之一(顧小清, 等, 2010),它一般由使用者、開發者等組成討論小組,針對工具的設計方案開展討論,獲得一些定性數據,從而了解使用者對工具的看法和態度,并通過后續的改進使之更符合用戶的要求。
1. 焦點小組評價
為了對方案原型進行評價,并發現設計方案中存在的問題,本研究組織了焦點小組,選擇了4名參與者。這些參與者包括一位教育心理學專家,一位有多年豐富經驗的項目經理,還有兩名用戶(數字媒體專業研究生)。此次焦點小組的成員人數雖然較少,但涵蓋了經驗取樣的研究者、設計者和使用者等。焦點小組討論圍繞經驗取樣工具的技術接受程度,結合TAM框架,從感知有用性和感知易用性兩個方面對設計方案進行評價。通過此次研討發現存在的主要問題如下:
(1)關于感知易用性的問題。第一,鬧鐘的強制推送會對用戶產生很強的干擾。用戶反饋:“這種提醒方式肯定會干擾我的正常學習和生活。在公共場所或者安靜的教室內,如果我將手機設置為震動或者靜音,但是手機突然鬧鈴提醒,讓我回答問題,我很不喜歡這種提醒方式?!钡诙?,多媒體的上傳加重了研究者和學生的負擔,能否自動采集相關環境信息。專家認為:“用戶上傳音頻、視頻和多媒體資源,無論對于使用者還是對于研究者的后期分析都增加了很大的工作量。能否利用智能手機內部的傳感器將環境中的光線和音頻進行自動獲取和分析?”第三,音頻和視頻的采集限制和存儲問題。項目經理反映:“圖片、音頻和視頻如果大量存儲的話,會增加服務器的負擔,可能會引起加載太慢。”
(2)關于感知有用性的問題。第一,對用戶而言,實用性較低。用戶反饋:“該應用程序除了學習提醒之外,如果能讓我對學習進度有宏觀的了解就最好不過了?!钡诙鄙儆脩舴答仯约半[私問題?!斑@個工具僅僅是一個取樣工具,對我來說是沒有任何反饋的,功能流程和界面不是很友好。感覺有人采集了我手機里面信息,但是我并不知道他獲得了我的什么信息,我十分擔心自己的隱私?!?/p>
2. 工具完善
根據焦點小組反饋的問題,本研究做以下改進:
(1)有關感知易用性的改進。第一,將鬧鐘的強制提醒方式修改為系統通知的推送方式,讓用戶在特定的場合可以將手機設置為震動模式,而通知推送將會震動提醒,這樣就會降低對用戶的干擾 [問題1]。第二,增強經驗取樣的情境感知功能。利用手機內置的傳感器和采集器,對用戶環境中的光線、噪聲和位置等進行自動檢測 [問題2]。第三,增加音頻和視頻取樣的規則,時長小于10秒或者3~10秒,不對內容進行分析,僅僅對音頻和視頻的特征進行分析。另外,為了減輕服務器的負擔,將圖片、音頻和視頻采用輕量級第三方服務器存儲(如阿里云OSS存儲)[問題3]。
(2)有關感知有用性的改進。第一,將用戶的學習、環境情況等信息以個性化儀表盤的形式呈現給用戶,增強實用性[問題1]。第二,對界面進行重新設計,增加用戶的反饋界面。第三,針對用戶隱私,在用戶知情同意后才進行相關數據的采集,即用戶同意相關權限之后方可采集[問題2]。第四,組織多名軟件測試人員先后進行多次黑盒測試、白盒測試等,結果表明該工具已經能夠穩定使用,功能流程全部實現。
(三)工具的橫向比較
日程管家與其他mESM工具的功能比較結果如表3所示,主要有五個方面的不同:第一,在運行系統上,本工具兼容移動設備的主流操作系統(Android/iOS),除SurveySignal、AWARE之外,大多數工具只能在單類操作系統上運行。第二,在自我報告方面,日程管家與SurveySignal支持添加第三方問卷平臺的鏈接,而其他7個工具不支持該功能,而是具有獨立的問卷系統,通過后臺編寫問卷題項。第三,在取樣方式上,本工具同時支持隨機取樣、固定取樣、基于事件的取樣以及設備取樣,而其他工具存在取樣方式缺失問題,如MyExperience、SurveySignal不支持事件取樣與設備取樣等。第四,在參數配置方面,日程管家允許后臺配置參數,而其他大多數工具配置復雜,如MyExperience、Ohmage通過XML配置增加了語法錯誤的可能性,Jeeves、MovisensXS 通過可視化編程配置參數等。第五,在儀表盤方面,日程管家支持儀表盤反饋,其他工具除Ohmage外,大多不支持這項功能??梢钥闯觯涸摴ぞ咧С种髁鞑僮飨到y,實現了四種取樣方式,兼容主流第三方問卷平臺,具有更多的情境感知功能,配置參數更加簡單方便,同時融合了儀表盤等元素,有助于mESM在教育領域研究中的本土化應用。
五、研究總結
(一)應用展望
2007年,Hektner等人在著作Experience sampling method: Measuring the quality of everyday life中系統介紹了ESM在教育領域的應用范圍,包括學生學習的時間分布、課堂結構、課堂體驗、課外活動、教師體驗等方面(Hektner, Schmidt, & Csikszentmihalyi, 2007, pp. 229-251)。近年來,隨著情境感知技術的發展,通過情境感知獲取個體信息,進而分析個體學習行為和環境關系的相關研究逐漸受到重視。mESM在學生投入、主觀體驗和學習環境信息采集等方面的應用研究取得了進展。這些研究主要聚焦課堂瞬時學習投入(Schmidt, Rosenberg, & Beymer, 2018),大學生非正式學習(Xie, Heddy, & Greene, 2019; Xie, Heddy, & Vongkulluksn, 2019)、移動學習、混合學習(Henrie, et al., 2015; Manwaring, et al., 2017)和大班講授型課堂(Shernoff, et al., 2017)等情境下個體的學習體驗。
在研究設計方面,不同研究者根據具體的研究情境與研究問題進行不同的移動經驗取樣設計。在環境因素方面,這些研究主要關注個體的學習時間、地點位置、活動類型、學習原因和自主性等;在行為因素方面,主要關注個體的學習行為、社會交互等;在個體因素方面,主要關注自我效能、認知投入、學習動機和學業情緒等方面。
因此,mESM在教育領域的應用方面,以社會認知理論(social cognitive theory,SCT)為視角,將個體的學習放在更加宏觀的社會境脈下進行考量,探究個體、環境、行為三者的互動關系(見圖6),建立環境因素、個體因素與行為結果關系的整合模型是應用的一個重要方向。本研究擬采用已經開發實現的mESM工具(日程管家),實現學習的環境信息、學習投入等信息的縱向即時采集。擬以具體課程為案例,聚焦具體的學習活動單元,探究學習情境下學生學習環境與學習投入變化規律,探索學生行為模式、認知模式和情緒模式,縱向分析情境因素(學生位置、學習材料、多媒體使用、學習活動類型等)與學生學習投入的關聯。
(二)研究總結
在學習發生的真實情境中進行教育數據采集是提高教育研究質量的重要途徑之一。為提高教育數據采集的情境性、真實性和生態性,本研究在對理論、方法、工具進行系統綜述的基礎上,將情境感知技術與經驗取樣法相結合,設計開發了mESM工具——日程管家。該工具主要包括管理端、移動端,實現了隨機取樣、間隔取樣、事件取樣、設備取樣四種采樣方式,融合了情境感知技術,能夠智能地采集學生的光線、位置和噪聲等環境信息,即時獲取個體在真實情境下的內部心理狀態。該工具將情境感知技術應用于ESM信息的自動采集,使用日程事件更新機制實現日程事件與取樣方式的關聯,使用嵌入式字段實現不同數據源之間的數據交換與關聯,具有一定的創新性與參考價值。
同時,研究者要意識到mESM存在的若干不足。第一,移動設備取樣的效果依賴與手機網絡的連接,任何原因導致網絡關閉或沒有接收到網絡信號都會導致參與者接收提醒的時間比預期的晚。第二,提醒本身會對學生學習造成一定的干擾,可以通過縮短重復測量問卷的長度來減弱干擾及被試負擔。第三,工具依賴于第三方問卷平臺,在增加了便捷性的同時也增加了一定的信息安全風險。值得注意的是,在mESM工具設計和使用中,應當遵守相關法律法規,經被收集者同意,遵循合法、正當、必要的原則,明示收集、使用信息的目的、方式和范圍,以防出現個人信息的過度采集和隱私泄露等安全問題。
[參考文獻]
段錦云,陳文平. 2012. 基于動態評估的取樣法:經驗取樣法[J]. 心理科學進展(7):1110-1120.
顧小清,顧鳳佳. 2010. 微型移動學習的可用性設計[J]. 電化教育研究(2):52-57.
胡蓉,唐振貴,趙宇翔,等. 2018. 移動經驗取樣法:促進真實情境下的用戶信息行為研究[J]. 情報學報(10):1046-1059.
盧國慶,謝魁,張文超,等. 2019. 面向即時數據采集的經驗取樣法:應用、價值與展望[J]. 電化教育研究(6):19-26.
萬力勇,趙呈領,許夢. 2019. 經驗取樣法(ESM):促進真實情境下的學習體驗研究[J]. 遠程教育雜志(6):19-31.
張銀普,駱南峰,石偉. 2016. 經驗取樣法——一種收集“真實”數據的新方法[J]. 心理科學進展(2):305-316.
朱珂,李冰青,蘇林猛. 2018. 網絡學習空間中協同學習的觸發機制及實證研究[J]. 中國電化教育(7):25-32.
Azevedo, & Roger. (2015). Defining and measuring engagement and learning in science: Conceptual, theoretical, methodological, and analytical issues. Educational Psychologist, 50(1), 84-94.
Bachmann, A., Zetzsche, R., Schankin, A., Riedel, T., Beigl, M., Reichert, M., et al. (2015). ESMAC: A web-based configurator for context-aware experience sampling apps in ambulatory assessment. Paper presented at the Proceedings of the 5th EAI International Conference on Wireless Mobile Communication and Healthcare.
Barrett, L. F., & Barrett, D. J. (2001). An introduction to computerized experience sampling in psychology. Social Science Computer Review, 19(2), 175-185.
Bolger, N., & Laurenceau, J.-P. (2013). Intensive longitudinal methods: An introduction to diary and experience sampling research. New York: Guilford Press.
Conner, T. (2015, May). Experience sampling and ecological momentary assessment with mobile phones. Retrieved October 10, 2019, from http://www.otago.ac.nz/psychology/otago047475.pdf
Conner, T. S., Tennen, H., Fleeson, W., & Barrett, L. F. (2009). Experience sampling methods: A modern idiographic approach to personality research. Social & Personality Psychology Compass, 3(3), 292-313.
Cs?kszentmihályi, M. (1975). Beyond boredom and anxiety. San Francisco, CA: Jossey-Bass.
Davis, F. D. Perceived usefulness, perceived ease of use, and user acceptance of information technology. MIS quarterly, 1989: 319-340.
Ferreira, D., Kostakos, V., & Dey, A. K. (2015). Aware: Mobile context instrumentation framework. Frontiers in ICT, 2, 6.
Froehlich, J., Chen, M. Y., Consolvo, S., Harrison, B., & Landay, J. A. (2007). My Experience: A system for in situ tracing and capturing of user feedback on mobile phones. Paper presented at the Proceedings of the 5th international conference on Mobile systems, applications and services.
Hektner, J. M., Schmidt, J. A., & Csikszentmihalyi, M. (2007). Experience sampling method: Measuring the quality of everyday life. Sage.
Henrie, C. R., Bodily, R., Manwaring, K. C., & Graham, C. R. (2015). Exploring intensive longitudinal measures of student engagement in blended learning. The International Review of Research in Open and Distributed Learning, 16(3).
Hofmann, W., & Patel, P. V. (2015). Survey Signal: A convenient solution for experience sampling research using participants own smartphones. Social Science Computer Review, 33(2), 235-253.
Intille, S. S., Rondoni, J., Kukla, C., Ancona, I., & Bao, L. (2003). A context-aware experience sampling tool. Paper presented at the CHI03 extended abstracts on human factors in computing systems.
Kuntsche, E., & Labhart, F. (2013). Icat: Development of an internet-based data collection method for ecological momentary assessment using personal cell phones. European Journal of Psychological Assessment, 29(2), 140-148.
Kuntsche, E., & Labhart, F. (2013). Using personal cell phones for ecological momentary assessment: An overview of current developments. European Psychologist, 18(1), 3.
Larson, R., & Csikszentmihalyi, M. (2014). The experience sampling method Flow and the foundations of positive psychology. New York: Springer.
Manwaring, K. C., Larsen, R., Graham, C. R., Henrie, C. R., & Halverson, L. R. (2017). Investigating student engagement in blended learning settings using experience sampling and structural equation modeling. Internet and Higher Education, 35, 21-33.
MIT (Producer). (2008). Context-aware experience sampling. Retrieved October 10, 2019, from http://web.mit.edu/caesproject/
Raento, M., Oulasvirta, A., & Eagle, N. (2009). Smartphones: An emerging tool for social scientists. Sociological methods & research, 37(3), 426-454.
Rough, D. J., & Quigley, A. (2017). Jeeves-an experience sampling study creation tool. Paper presented at the Proceedings of BCS Health Informatics Scotland (HIS).
Schmidt, J. A., Rosenberg, J. M., & Beymer, P. N. (2018). A person-in-context approach to student engagement in science: Examining learning activities and choice. Journal of Research in Science Teaching, 55(1), 19-43.
Shernoff, D. J., Csikszentmihalyi, M., Schneider, B., & Shernoff, E. S. (2014). Student engagement in high school classrooms from the perspective of flow theory. Applications of flow in human development and education. New York: Springer.
Shernoff, D. J., Sannella, A. J., Schorr, R. Y., Sanchez-Wall, L., Ruzek, E. A., Sinha, S., et al. (2017). Separate worlds: The influence of seating location on student engagement, classroom experience, and performance in the large university lecture hall. Journal of Environmental Psychology, 49, 55-64.
Stade, M., & Seyff, N. (2017). Features for mobile feedback tools: Applying the KANO method. Paper presented at the Proceedings of Mensch und Computer 2017-Tagungsband.
Sumaya, I. C., & Darling, E. (2018). Procrastination, flow, and academic performance in real time using the experience sampling method. The Journal of genetic psychology, 179(3), 123-131.
Tangmunarunkit, H., Hsieh, C.-K., Longstaff, B., Nolen, S., Jenkins, J., Ketcham, C., et al. (2015). Ohmage: A general and extensible end-to-end participatory sensing platform. ACM Transactions on Intelligent Systems and Technology (TIST), 6(3), 38.
Van Berkel, N., Ferreira, D., & Kostakos, V. (2018). The experience sampling method on mobile devices. ACM Computing Surveys (CSUR), 50(6), 93.
Wang, R., Chen, F., Chen, Z., Li, T., Harari, G., Tignor, S., et al. (2014). Student Life: Assessing mental health, academic performance and behavioral trends of college students using smartphones. Paper presented at the Proceedings of the 2014 ACM international joint conference on pervasive and ubiquitous computing.
Xie, K., Heddy, B. C., & Greene, B. A. (2019). Affordances of using mobile technology to support experience-sampling method in examining college students engagement. Computers & Education, 128, 183-198.
Xie, K., Heddy, B. C., & Vongkulluksn, V. W. (2019). Examining engagement in context using experience-sampling method with mobile technology. Contemporary Educational Psychology, 101788.
Zirkel, S., Garcia, J. A., & Murphy, M. C. (2015). Experience-sampling research methods and their potential for Education Research. Educational Researcher, 44(1), 7-16.
收稿日期:2019-11-19
定稿日期:2020-07-31
作者簡介:劉清堂,教授,博士生導師;盧國慶,博士研究生;鄧偉,博士,副教授;吳林靜,博士,副教授;梅鐳,王嬌嬌,碩士研究生。華中師范大學教育信息技術學院(430079)。
責任編輯 單 玲