機器學習在動物行為分析中的應用研究進展

何 泉,吳 磊,柳 瓏

(1.國防科技大學文理學院,中國湖南 長沙 410073;2.湖南科技大學大數據與智能決策研究中心,中國湖南 湘潭 411201)

動物行為從宏觀上反映了動物高級中樞神經功能、學習記憶能力、心理狀態、運動協調性等,可用于評估動物對環境或藥物的生理反應和變化,因此通常應用于毒理學、藥理學、運動損傷及恢復等方面的研究。近年來,由于動物行為數據采集手段不斷改善和提高,大量復雜高維的數據隨之產生,這些行為數據具有更加客觀、精確、完整的特點。盡管近些年來,行為自動分析技術逐漸取代了過去低效率的人工分析方式,但是大部分行為分析技術依然只關注行為的完成度,如大鼠完成直立的次數、進入中間場地的次數、走完迷宮的次數等。而多個變量之間可能已經不再適用于傳統假設模型,在這樣的情況下,依靠于簡單計數或計時的傳統分析方法顯然已遠遠滿足不了當下需求,研究人員需要依靠機器學習等更加先進的手段對數據進一步加工處理。機器學習方法提供了非常適合研究這些動物行為數據的途徑,能夠實現高質量、高通量的行為分析。

盡管目前機器學習應用覆蓋的領域極廣,但是國內外對機器學習在動物行為分析領域的研究依舊相對較少,綜述性文獻更是寥寥無幾。本文在動物行為數據采集方式不斷發展的背景下,綜合闡述了機器學習在動物行為各方面研究的應用、優勢及挑戰等相關內容,為未來動物行為研究工作提供參考。

1 動物行為特點

與微觀的生理學分析不同,動物行為的發生是由多種混合因素所控制的,如大腦功能、肢體狀態、晝夜節律等,它反映的是動物的整體狀態。因此,定性和定量分析對動物行為的研究非常重要?？茖W的行為學研究需要建立通用的基準和框架等一系列標準,在這些標準之下才能獲得相對客觀的、可靠的、可相互交流的行為實驗數據。因此,構建清晰合理的動物行為結構,對行為學領域的研究具有重要意義,也有助于研究人員開發出切實可行的動物行為識別算法。

一般而言,行為結構從大到小可分為行為譜(ethogram)、動作(movement)、姿勢(pose)3 個層次[1](圖1)。行為譜為一系列可重復的且可被定義的動作的組合[2]。例如:在大鼠的行為中,行為譜包括梳洗、求偶、覓食等。動作則是包含于行為譜中的一系列完整的最小分割單元,如步行、轉彎、直立等。而姿勢指的是某一時刻的身體形狀和位置。行為譜、動作、姿勢三者共同構成了動物基本行為結構,為研究人員理解動物行為和開發行為研究方法提供了基本依據。

圖1 行為結構Fig.1 The behavior structure

由于行為采集手段的不斷發展,選取適當的行為采集裝置就能夠產生大量行為數據,采集到的數據由原來的單一變為復雜、少量變為多量、間斷變為連續。早期的動物行為學研究常常通過判斷指定的某一行為特征達到評估行為能力的目的,這種研究方式不僅單一、易受人為主觀判斷的干擾,而且還有可能忽略潛在的判斷指標。新的采集手段意味著必然要發展新的數據分析方法,在大數據時代,必然也要緊隨時代步伐。機器學習方法憑借其優良的魯棒性、適應性以及強大的大數據處理能力,越來越受到行為研究者的青睞。其實,機器學習方法在動物行為分析中的應用已經很常見,并有望成為未來動物行為數據處理的“主力軍”。

2 機器學習算法概述

顧名思義,機器學習就是將數據輸入到計算機,通過某種算法使得計算機發現數據中隱含的規律,獲取新的知識和經驗,產生相適應的模型,并對其他同類數據具有預測功能。

機器學習算法的應用受到數據質量的影響。例如:障礙物遮擋、信號丟失等導致的數據缺失,系統誤差、信號干擾等導致的數據錯誤,采集時間不夠、采集條件限制所導致的數據不足等,都會對算法效果產生影響。當數據存在缺失和錯誤時,研究人員需要盡可能擴大有效數據量,才能在一定程度上抵御數據缺失和數據錯誤帶來的學習失誤,因此足夠量的準確數據是保證機器學習算法良好運行的前提。在處理行為數據時,如何定義和提取關鍵特征至關重要。通常,在建立學習模型之前,研究人員需要人為觀察并挑選出可能能夠區分和定義行為的特征,并在訓練模型的過程中注重參數的調節,這樣在后續處理中才有可能“一勞永逸”,利用已訓練好的模型大批量處理同類新數據。

根據是否需要對輸入數據分配標簽,機器學習可分為監督學習和無監督學習(表1)。以下就兩者分別進行闡述。

表1 機器學習在行為數據上的應用Table 1 Application of machine learning in behavior data

2.1 監督學習

監督學習通過已有的輸入數據與輸出數據之間的對應關系生成一個函數,將輸入映射到合適的輸出。它需要在進行識別分類之前人為對輸入數據添加相應標簽,即在動物行為識別中,研究人員首先需要對動物行為數據進行分類并構建合適的特征。典型的監督學習方法有:支持向量機(support vector machine,SVM)、決策樹(decision tree)、貝葉斯網絡(Bayesian network)、神經網絡(neural network,NN)等。

監督學習是目前動物行為研究中使用最多的分析方法。其中,SVM通常用于動物行為分類,其通過對動物運動中的各項特征進行劃分,找到最佳分類間隔,構建行為分類模型[3]。例如:三軸加速度傳感采集到的加速度數據可以用于判別動物是否處于行走、站立、躺臥狀態。隱馬爾可夫模型(hidden Markov model,HMM)可以對動物行為模塊之間的轉換進行預測和判斷,構建合理的行為序列[4]。神經網絡也可用于行為識別與分類。相比于傳統機器學習算法,神經網絡用作監督學習時,能夠簡化特征提取步驟。它通常由機器來自動學習并提取數據特征,但是它對數據量要求更高,小樣本數據中存在的偏離值更容易使特征提取出現偏差,從而導致準確率下降[5]。同時,欠擬合和過擬合的出現也會導致神經網絡的預測準確率下降。因此,研究人員在應用神經網絡時需要調節多個參數以使其達到最優狀態。根據筆者所調研的現有文獻,神經網絡目前多應用于視頻采集的動物行為數據[6～8]。Stern等[6]利用卷積神經網絡(convolutional neural network,CNN)對視頻進行逐幀檢測,以分析果蠅是否與產卵基質相接觸,所得結果的錯誤率僅為0.072%,該研究甚至發現了數據中由于人為大意出現的標注錯誤。Arac等[7]利用跟隨于長短時記憶神經網絡(long short-term memory network,LSTM)后的GoogLeNet構成的CNN模型來監測小鼠爪子對食物顆粒的抓取,并利用相同的網絡來監測小鼠在三室測試中的活動,該研究還引入遷移學習以解決大量圖片需要人工標記的問題。除了視頻圖像外,神經網絡同樣可以應用于其他類型的數據,如:將神經網絡引入三維標記點坐標[9],可自動學習坐標點隱藏的規律并識別分類。

2.2 無監督學習

相比于監督學習,無監督學習在動物行為識別中使用頻率較低。無監督學習的目的是探尋原始資料中的潛在規則,了解資料的內部結構,它不需要人為對數據安排相應標簽,這也是與監督學習的最大區別。無監督學習主要包括聚類、降維、異常值檢測等。Yabumoto等[10]用主成分分析(principal component analysis,PCA)方法對酒精給藥研究中絨猴位置相對應的每個坐標值進行分析,將狨猴的運動模式分為正常、醉酒(鎮靜與興奮)、興奮狀態。Rezaei等[11]采用自適應高斯混合模型(adaptive Gaussian mixed model,AGMM)算法檢測動物的質心,提取動物在長時間內的運動軌跡,并利用PCA法對被定位動物的三維深度數據進行分析,確定動物的姿態。無監督學習也可用于發現人眼不易察覺的新的運動模式或運動異常情況。為了探尋果蠅幼蟲的神經活動與行為之間的聯系,Vogelstein等[12]應用迭代去噪樹算法(iterative denoising tree,IDT)確認先前已知的行為特征并發現了新的行為特征。當應用無監督學習處理數據時,因為沒有“正確標簽”的驗證數據集,所以其錯誤標記率和準確性的計算是相當困難的。因此,可以利用標簽平滑的方式,將原始數據與平滑后標簽數據對比,從而評價無監督學習的性能[13]。

3 機器學習算法在動物行為學上的應用

早在20世紀,科學家就為研究動物行為發明了多種采集行為的設備和方法,如紅外傳感器[14]、觸摸屏[15]、激光多普勒測振儀[16]、加速度傳感器[17]、視頻記錄(包括普通 2D 相機和深度相機)[3～4,18～19]、光學標記捕捉系統[20～25]等。行為采集設備的發展使獲取到的行為數據量激增,并且形式更加豐富多樣,機器學習無疑能為這些數據提供更加便捷、快速的處理方法。機器學習主要應用于行為分析的如下幾個領域:行為識別與分類、運動狀態切換及行為預測、行為結構構建、相互作用及社會關系等。但是,行為數據的分析并不只是簡單應用某種單一類型的學習方式,其往往需要監督學習和無監督學習共同評價。比如:PCA降維和SVM的結合可以先對大量行為數據特征降維,隨后選擇貢獻更大的主要特征輸入到SVM中進行分類,在保證相對高的正確率的同時,減少冗余的特征,降低計算量,提高計算效率。

3.1 行為識別與分類

統計某一特定行為發生的頻率以及時長是傳統行為分析中較為重要的一環。比如,在大鼠曠場實驗中,直立行為常被解讀為探索性指標,以表征大鼠興奮性和活動性。有研究報道,在帕金森病大鼠模型建立后,相比于假手術對照組,實驗組大鼠直立行為次數明顯減少,并與其大腦損傷程度呈正相關[26～27]。過去,由于受到行為采集設備和數據分析方法發展的限制,這些行為實驗的結果通常由受過訓練的實驗人員進行分類和計數,但人工統計方式工作量大,耗時費力,且不能保證不同實驗人員判斷標準的一致性,而新的行為采集方式的發展和數據分析方法理論的成熟得以讓行為分類及計數走向自動化。

一種最簡單的行為自動分類的方式就是人為對行為直接進行定義,比如通過設置速度閾值可以定義動物的運動狀態[28]。但是,依據這種方法構建的行為分類模型只能選取少量特征進行定義[29],很難調到最優值,并難以定義更加復雜的行為[30]。通過監督學習方式,人們可以訓練帶有標簽的行為數據得到相應的行為分類模型,并對沒有標簽的行為數據進行分類預測。但在進行監督學習之前,研究人員不僅需要人為添加標簽,往往還需要定義行為特征,如運動速度、身體傾斜角度、頭部偏角等等,然后再把這些特征輸入到監督學習的分類器里進行學習分類。盡管有研究直接使用原始數據,如三軸加速度傳感器獲得的加速度值[31],作為特征輸入也能獲得良好效果,但是另外一些原始數據,如相機拍攝的照片、錄制的視頻,往往很難直接獲得良好的分類效果。此外,研究人員往往希望能夠在動物行為上觀測到更加易于理解的變化,比如:動物的頭部是否發生左右不對稱偏轉、動物肢體運動的靈活性是否下降、動物的某一行為發生頻率是否有所變化等,而不僅是加速度、標記點坐標變化等此類較為不直觀的特征。所以,人為指定或構建具有物理學意義的特征,也便于對行為的變化有更加直觀的了解。監督學習在行為學研究上已有不少應用。Wang等[3]利用監督學習方式從深度圖象中提取2D和3D特征,并通過SVM訓練人工標記的數據集得到一個行為多分類模型,分析結果顯示,同時對2D和3D特征進行訓練可以獲得更高的分類精確度。Steele等[29]基于不同行為的線性組合,利用邏輯回歸方法構建疾病組和對照組的二分類模型。該模型能對6周齡后的亨廷頓病轉基因小鼠和感染朊病毒3.5個月后的小鼠與其各自對照組進行有效區分。Bidder等[31]利用K近鄰(k-nearest neighbor,KNN)算法對8個物種的5種行為模式進行分析,結果表明其分類準確度和精確度與更復雜的方法相似,并且計算量更少。

當對相機拍攝的圖像或視頻進行分析時,通常需要先檢測出畫面中動物所在位置,以便與環境背景區分,再對檢測框中的動物進行行為分類或其他操作。動物圖像目標檢測與分類通常應用到深度學習方法。根據所需步驟數,常見的基于深度學習的目標檢測方法可以分為兩大類:第一類為兩步的目標檢測算法,常見的包括R-CNN[32]、SPP-net[33]、Fast R-CNN[34]、Faster R-CNN[35]、RFCN[36]以及Mask R-CNN[37]等;第二類為一步目標檢測算法,常見的有 OverFeat[38]、YOLO[39～40]、SSD[41～42]等。還有一些算法嘗試結合兩者優勢,比如RON[43]等。相較于兩步的目標檢測算法,一步目標檢測算法速度更快,但是在精度上表現不佳;而兩步的目標檢測算法雖然在速度上慢于一步目標檢測算法,但其在小尺度目標上的檢測精度要優于一步目標檢測算法。例如:Thenmozhi等[44]使用SSD(single shot multibox detector)算法對山羊進行識別并分類,其異常行為預測率與YOLO算法對比高出了3%～6%。在該項研究當中,深度學習的利用大大簡化了最為繁瑣的特征提取環節。

機器學習算法在行為識別與分類上得到了很好的應用,但因為其在行為分類上的應用需要預先定義行為類別,且無法自動發現新的行為類別,所以當其遇到未預先定義的行為時,很可能實施錯誤分類。在這種情況下,研究人員可以結合無監督學習方法探索行為結構,及時發現新行為或異常行為。

3.2 運動狀態切換及行為預測

動物日常行為之間的轉換都具有一定的轉換概率,根據動物之前以及當下的行為狀態可以判斷之后可能發生的行為的概率,如大鼠飲水之后進食的概率要大于躺下休息或前進行走的概率。構建動物行為時間序列模型可預測運動狀態切換情況,目前較為常用的模型為HMM。

在HMM中,t時刻的狀態僅依賴于t-1時刻的狀態,該模型可通過前面的狀態計算出后一個狀態出現的概率,因此HMM可以用于估計動物在不同行為模式之間切換的概率,并達到預測行為的目的。該模型可用圖2表示。

圖2 隱馬爾可夫模型示意圖圖中Dt表示在t時刻下的隱藏狀態,St表示在t時刻下的可見狀態,箭頭代表狀態的轉換和輸出。每個狀態之間都有一定的轉換概率,轉換概率用P表示,如P(St/Dt)表示在Dt狀態下發生St事件的概率。Fig.2 The hidden Markov modelDtrepresents the hidden state at time t,Strepresents the observation at time t.There is a certain transitional probability between each state.P represents transitional probability.For example,P(St/Dt)is the Markov transitional probability from the state Dtat time t to the state Stat time t.

Jiang等[45]利用HMM來描述小鼠行為的時序特征,他們構建了一個混合深度學習框架,這個框架由兩個部分構成,首先是無監督學習層,用于編碼視覺和上下文特征,隨后是監督學習層,用于評估HMM的觀測概率;該模型對籠內小鼠行為的識別率達到96.5%,比人眼識別的71.6%高出了20多個百分點。Michelot等[46]開發了一個名為moveHMM的程序包,用以分析動物運動數據,該程序包使研究人員能夠更加直觀地訪問HMM框架。

3.3 行為結構構建

過去,行為模塊是通過人類仔細觀察識別出來的,但近年來技術的不斷進步使行為的組成部分有了更全面的描述。行為結構的構建可用到機器學習算法中的無監督學習,無監督學習可用于挖掘行為的內在固有結構,探尋行為的基本單元、模塊或組分并構建合理的行為結構層次,而基本行為單元的發現可以為構建復雜行為提供結構基礎。因為無監督學習不需要預先為數據安排標簽,所以它探尋的數據結構相對比較客觀。2015年,Wiltschko等[4]提出了一種基于機器視覺和機器學習的用于評估行為模塊分類以及行為間聯系的新方法。該研究使用基于深度測量的三維成像系統構造小鼠三維姿勢動力學在亞秒時間尺度上的結構,利用無監督學習等計算模型可有效地將小鼠行為描述為一系列可重復的、具有轉移概率的行為序列模塊。該研究說明,無監督學習在動物行為分析上的最大優勢在于,它具有開發和發現人眼無法察覺到的新行為或異常行為及其潛在規律的潛能,并能系統揭示實驗中行為的整體結構,為破譯在環境、基因和神經活動影響下的行為語言描述建立了一個客觀的框架,這是需要人為添加行為標簽的監督學習無法做到的。

行為由各種重復的模塊所構成,但不同行為并不是孤立存在的,而是具有一定的過渡性和連續性。有觀點認為,大腦通過特定的序列表達更簡單的行為模式化模塊來構建連貫的行為。在上面提到的文獻[4]中,作者利用AR-HMM算法構建不同行為模塊間切換狀態模型,他提出將單個行為模塊稱為行為“音節”,而這些音節之間的過渡部分稱為行為“語法”。由此可見,在機器學習算法的幫助下,未來行為模塊的構造和模塊轉變將更加清晰明了,可為了解大腦對行為的控制提供理論支撐。

3.4 相互作用及社會關系

在行為神經科學中,社會行為是神精病學研究和動物模型神經學測試的重要組成部分。異常的社會行為可以指示神精疾病,如亨廷頓病、阿爾茨海默病、雷特綜合征等[47]。因此,研究實驗動物的社會行為將有助于疾病的動物實驗研究向人類的臨床試驗和治療過渡。社會關系根據兩只動物的相對位置及其變化大致可分為以下幾類:接近、接觸、追隨、遠離、分離等,在這基礎上還可以進一步細分,如接觸可分為頭頭相接、頭尾相接、并排、背對背等[48]。另一方面,人們還可根據動物間的社會行為目的來區分行為模式,如攻擊、求偶、捕食等。目前,將機器學習應用于社會行為數據分析的文獻較少,現有報道大多都是根據制定的人工規則來研究社會行為。Lorbach等[47]利用期待最大化算法構建兩只大鼠之間相互關系的高斯混合模型。Arac等[7]利用機器學習方法研究兩只小鼠間的社會關系互動,用YOLO 3神經網絡來檢測小鼠的位置,計算兩只小鼠身體重心的距離以及鼻尖尾部之間的距離,以確認小鼠之間鼻尖貼鼻尖、鼻尖貼身體、鼻尖貼尾部等互動情形。

除了以上所提到的幾種應用外,機器學習還可以應用于軌跡追蹤[46]、行為數據降維、行為變化機制研究[4]、行為與神經活動關系[49]等方面,應用范圍非常廣,但它需要使用者了解一定的編程知識以及算法背后的數學原理,因此對于大部分沒有編程基礎的生物研究者而言,其使用的門檻往往也較高。不過,現已開發的一些程序包[46]能夠讓動物行為研究者更方便地將機器學習應用于自己的研究當中,盡管使用的靈活度有限,但無疑也提供了一些便利。

4 機器學習行為學應用面臨的挑戰

盡管機器學習方法的發展為行為學研究帶來了極大便利,但機器學習行為學應用依舊面臨著許多挑戰,這不僅是機器學習的本質使然,更是動物行為研究特點所決定的。

4.1 數據獲取

機器學習的首要任務是獲取合適的數據。但是,動物行為以及其生存環境的復雜性為數據獲取帶來困難。一方面,在視頻錄制的動物行為采集中,由于不可避免的遮擋,攝像頭難以全方位捕捉到動物體態,而三軸加速度傳感器等雖不受障礙物遮擋,卻也很難獲得動物活動全貌;另一方面,動物行為易受到人為干擾,尤其在實驗過程中,不可避免地與人類接觸以及實驗環境條件的影響,會引起動物警覺。因此,在采集動物行為數據的時候,要盡可能避免人為干擾,同時也要進一步改良實驗裝置。

4.2 特征選擇

特征選擇是機器學習過程中很重要的一環,直接決定機器學習的效果。目前這一部分并沒有太多的規律或方法可循,主要的特征選擇方式還是依靠人類經驗,通過人的觀察找到可能有意義的指標,研究者再將這些指標輸入到機器學習中進行訓練。盡管如此,還是有一些方法和過程能夠用于選擇參考和檢驗所選特征的優劣度。獲取特征的過程被稱為特征工程,包括特征構建、特征提取、特征選擇3個部分(表2)。

表2 特征工程過程及方法Table 2 The process and common methods of feature engineering

4.3 算法選擇

選擇合適的算法也是動物行為學研究的一個挑戰。由于相關研究相對較少以及動物種類與行為的多樣性和復雜性,目前各種算法之間的效果很難有一個標準來比較。對于生物研究者而言,使用機器學習需要懂一定的編程知識和算法數學原理。根據現有文獻資料,筆者在圖3中盡可能多地列出可能適合于行為分析的機器學習算法,以供讀者參考。圖中實線連接線為該分析用到的主要算法,虛線連接線為可考慮使用的算法,但這個分類并不絕對,研究者需要根據實際情況選擇適合的算法,比較不同算法的效果以獲得最優結果。

圖3 機器學習算法在行為分析中的應用Fig.3 Application of machine learning in behavior analysis

5 總結與展望

機器學習作為近年來備受青睞的數據處理方法,與傳統行為分析方法相比有著巨大的優勢。機器學習算法在動物行為數據上的應用,可以提高數據分析效率和準確性,識別和預測動物行為,分析動物行為結構與社會關系。它在實驗動物行為試驗、生態監測、畜牧業管理等領域都有很大的應用潛力。

實驗動物通常被作為研究生命原理和功能的承載者。由于生命機體的復雜性以及代謝通路的代償作用,微觀生理變化不一定能夠表現在宏觀上,而動物行為則是動物整體狀態的表現,它從宏觀上反映了動物高級中樞神經功能、學習記憶能力、心理狀態、運動協調性等,可評估動物對環境或藥物的身體反應和變化。傳統的動物行為學通過某種特定的行為學實驗評估動物的某項生理行為指標,如:水迷宮實驗用于監測動物的學習和記憶能力,曠場實驗用于判斷大鼠的活躍度、緊張度和興趣度等,懸尾實驗用于評價大鼠抑郁狀態……以往的這些傳統行為實驗通常不會產生大量(超出人工處理能力范圍)的行為數據,而近年來傳感器、數字圖像、三維標記的發展對行為數據處理提出了新的要求。相較于傳統的人工和軟件分析,機器學習極大增強了數據分析能力,并帶來一種更加靈活、客觀、準確的研究手段,為未來實驗動物運動異常模型的建立和評估提供了有效方法[11]。

除了實驗動物學以外,機器學習在生態學研究和畜牧業管理也發揮了極大作用。在自然生態環境中,野生動物會由于覓食、遷徙、求偶、躲避捕食等活動需要而轉移位置。研究者通過動物的運動特征可得知其運動狀態,如在覓食時,動物會用短步緩慢移動,而在躲避攻擊時會用長步快速移動。觀察野生動物的活動通?？梢酝ㄟ^附著傳感器、全球定位系統(global positioning system,GPS)、衛星遙感技術等來獲取動物活動信息。應用機器學習算法可以大大減輕數據分析的壓力,提供合理的預測模型。機器學習算法可用于研究動物對種子的傳播作用[50]、野生動物遷徙[51]、棲息地選擇[52]等,有助于保護野生動植物多樣性,管理棲息地,維護自然環境平衡。在畜牧業動物管理方面,機器學習算法可以識別動物情緒、預警疾病、監測飲食等,判斷動物是否受到不良因素刺激,有助于農場管理人員及時排除問題,改善動物生活環境,提高動物福利,有效減少動物死亡率,降低農場損失。

綜上所述,隨著信息化的發展,研究者要順應大數據潮流,結合現代化信息手段,開發動物行為采集新方法以及行為分析新算法,靈活運用機器學習算法,提高動物行為學分析的高效性和準確性。