基于改進粒子群優化的支持向量機與情景感知的人體活動識別

王 楊，趙紅東

（1. 河北工業大學電子信息工程學院，天津300401； 2. 邯鄲學院信息工程學院，河北邯鄲056005）

（*通信作者電子郵箱zhaohd@hebut.edu.cn）

0 引言

人類活動識別目前已經成為了數據挖掘及物聯網應用領域的熱門研究課題［1］。它的應用非常廣泛，在遠程醫療、軍事、游戲、室內導航及商業推薦［2-6］等領域均可以發現它的身影。

人體活動識別（Human Activity Recognition，HAR）目前普遍采用的方法是將加速度傳感器或陀螺儀傳感器采集到的數據作為人體活動的特征向量，使用一定的機器學習算法，如支持向量機（Support Vector Machine，SVM）、決策樹、多層感知器、貝葉斯、隨機森林等對人體活動類別進行識別［7-10］。

Al-Ghannam 在文獻［11］中將從祈禱者攜帶的智能手機當中采集的加速度傳感器數據作為特征向量，使用懷卡托智能分析環境（Waikato Environment for Knowledge Analysis，WEKA）工具包中的分類器對祈禱者的活動進行識別。共測試了3 種不同的分類器:樸素貝葉斯、IB1 算法和J48 決策樹，對4 種活動類別（站立、鞠躬、跪倒、坐下）的識別率達到了88%。Susi 等［12］使用3 種分類器:決策樹、樸素貝葉斯、K最近鄰（K-Nearest Neighbors，KNN）算法進行了人類活動的識別。對于KNN，上樓和下樓的識別準確率達到了80%；對于樸素貝葉斯，上樓和下樓的識別準確率在68%～74%。對行走和奔跑，識別率分別達到了89%和93%。Kwapisz 等［13］通過構建3種模型對“行走”“慢跑”“上樓”“下樓”“坐下”“站立”6 種活動進行了識別，模型包括決策樹（J48）、邏輯回歸和多層神經網絡。每種模型均使用默認設置，識別準確率分別達到了85.1%、78.1%和91%。

目前的研究，對人體活動的識別準確率普遍不高，這與他們在研究的過程當中選擇的分類模型未經過優化，均采用的是默認參數有關。為了提升HAR 的識別準確率，本方案使用改進的粒子群優化算法對SVM 的懲罰系數C與核函數系數σ進行優化處理，使用優化后的SVM 對人體的六種活動進行識別，同時，使用情景感知對識別的結果進行判定及糾錯，提升了HAR的識別精度。

本文的主要貢獻為:

1）分析了粒子群優化（Particle Swarm Optimization，PSO）算法的局限性，同時給出了粒子群優化算法的改進方法，避免了粒子群優化算法易于陷于局部最優、后期收斂速度慢的問題。

2）將改進之后的粒子群優化算法用于對SVM 的懲罰系數C與核函數系數σ的優化，提升了SVM分類模型的性能。

3）提出了情景分析的方法（根據人體活動之間的實際轉換邏輯或統計模型）對錯誤的識別結果進行修正，提高了HAR的識別精度，為模式識別的優化提供了一個新的思路。

4）在公開的人體活動數據集HARUS（Human Activity Recognition Using Smartphones）上對本方案進行了詳細周密的測試，結果符合預期。

1 方法描述

1.1 SVM 算法及相關參數

SVM 算法通過構造最優分割超平面［14］來實現對樣本分類。設有（xi，yi）表示一組含有n個樣本的數據（1 ≤i≤n），xi表示樣本的特征，yi表示樣本的類別，其識別分類可以等價于不等式約束條件下的二次規劃求解［15］:

其中:C為懲罰因子，即對誤差的寬容度，理論上可以取大于0的任何值。C越高，說明越不能容忍出現誤差，容易過擬合；C越小，容易欠擬合［16］。ξi為松弛變量，上述式（1）可以通過引入拉格朗日乘子來進行求解，可以求得其對偶形式為:

由式（2）推導，可以得到決策函數如下:

其中:αi為拉格朗日算子，b*為判別函數的閾值，K(x，xi)為核函數，常見的形式有線性核函數、徑向基核函數（Radial Basis Function，RBF）、多項式核函數等。其中徑向基核函數的泛化能力較強［17］，故本文采用RBF作為SVM的核函數。

RBF核函數的公式如下:

對于采用RBF 核函數的SVM 分類器來說，其中懲罰因子C的大小權衡了經驗風險（對樣本的擬合能力）和結構風險（對測試樣本的預測能力），參數σ與樣本的劃分精細程度有關［18］。從上述推導可以發現，如何選取合適的C和σ值是影響SVM性能至關重要的因素。

1.2 粒子群優化算法的改進

粒子群優化算法是模擬鳥群捕食過程的一種群智能算法，是一種典型的全局優化算法［19］，最早是由Kennedy 和Eberhart在1995提出，后經改進，形成了目前常用的帶有權重的粒子群算法［20］。基本形式描述如下:

在D維搜索空間中，粒子集為:

其中:m為粒子種群的大小，對于粒子xi，具有位置xi={xi1，xi2，…，xiD}和速度vi={vi1，vi2，…，viD}兩個屬性［21］，位置信息就是尋優的一個潛在的解。每個粒子按照自己的速度飛行并搜尋食物（最優解），在搜尋的過程中，每個粒子都會記錄下自己經過的個體歷史最優極值pi={pi1，pi2，…，piD}，同時，整個種群之間通過信息的共享，會記錄一個全族經歷過的歷史最優極值pg={pg1，pg2，…，pgD}。每次迭代過程中，粒子通過個體極值和群體極值按照式（5）更新自身的速度和位置:

其中:D表示設定的粒子群的維度；vk表示在進行第k次迭代的過程中粒子的飛行速度；xk表示在進行第k次迭代的過程中粒子所處的位置；c1、c2表示粒子的學習因子；rand1、rand2表示在0～1內的任意常數；wi表示飛行慣性權重；pibest表示某一個粒子尋找到的歷史個體極值；pigbest表示整個粒子群尋找到的歷史全局極值。每一次迭代，根據適應度函數來評估所有的粒子，每一個粒子都會向種群中最好的粒子位置飛行，從而實現粒子在可解空間中的尋優［22］。整個過程直到滿足尋優條件或達到迭代次數時為止。

本文分析了PSO 基本形式存在的問題，并提出了改進方案，描述如下:

1）原模型中，種群中的粒子隨機出生，這種情況容易造成粒子的趨同，不利于全局最優值的搜尋。針對這一問題，提出了區域內粒子數目限制的改進方案，增強種群的多樣性，利于全局最優值的搜尋，加快了算法的收斂。公式如下所示:

式（6）、（7）、（8）中:m為粒子總數，mzone為每個子區域內的粒子總數，首先，按照式（6）將尋優空間劃分為Ntotal個子區域，然后，按照式（7）隨機生成每一個粒子的出生位置，在初始化的過程中，記錄下每個子區域當中粒子的數目，區域內粒子的總數目必須要滿足式（8）設定的條件，否則重新生成粒子的出生位置。

2）當某個粒子經過群體歷史極值區域后，特別是之后經過多次迭代該粒子無法尋找到更優的位置時，這個粒子將會變得“懶惰”，從式（9）也可以發現這一點:

在達到全局極值附近時，式（9）當中的后兩項變化將逐漸減小，對速度的影響在減弱，特別是在使用動態慣性權重時，如式（10）所示:

其中:Kmax為總迭代數，k為當前迭代的次數，可以看出慣性權重也隨著迭代次數的增加在線性減小［23-24］，粒子的“懶惰”現象更為明顯。針對這種現象，本算法設定以下改進規則，當某一粒子經過群體歷史全局極值點之后，連續3 次迭代均無法尋找到更佳的位置之后，在此粒子的種群所屬區域之外，按照式（11）隨機生成一個全新的粒子:

這樣即能保持原粒子繼續在全局極值點附近精細搜尋更優的位置；同時又可以保持整個種群的活力，避免陷入局部最優，提高搜尋到全局最優點的概率。

3）當某個粒子經過群體歷史極值區域之后，如果連續多次迭代之后，全部種群當中的粒子都無法取得比它更優的極值點之后，意味著很有可能該粒子所處的位置就在全局最優點附近。雖然根據PSO 的特點，全部種群的粒子有向這個粒子靠近，繼續搜尋最優點的特點，但是后期收斂速度慢，如果粒子群比較分散，也不利于精細化搜尋工作。針對這一現象，本文提出，當滿足這一條件后，按式（12）在該粒子附近“分裂”新的粒子:

這些新產生的粒子將協助搜尋全局最優點，本方案設置新生成的粒子數目i=5。

1.3 情景感知

本方案提出的情景感知是指根據人體運動狀態轉換的現實邏輯或統計概率，判斷分類器的識別結果是否出現錯誤，在分類結果發生錯誤的時候對識別的結果進行修正。這樣做的原因是，人體活動作為一個時序樣本，它并不像一般的模式識別中樣本和樣本之間毫無聯系，而是在前后相連的兩個待識別的樣本之間必然存在一定的邏輯關系。

活動之間的現實轉換邏輯如圖1所示。

圖1 人類活動之間的轉換邏輯Fig. 1 Transition logic between human activities

作為一個時序數據，如果前一個活動樣本被識別為“坐下”，那么，根據現實邏輯，緊接著它的下一個活動類別應該不能是“上樓”或者“下樓”，中間應該存在一個“站立”的過渡狀態。在圖1 中，有箭頭相連的部分表示符合活動類別轉換邏輯，意味著這兩種活動類別在識別時可以存在先后關系，沒有箭頭相連的情況表示按照常識不存在轉換關系，也意味著這兩種活動類別在分類器識別時不應該存在相連續的關系。例如，“坐下”和“上樓”之間沒有箭頭相連，那么，在分類識別階段，如果上一活動狀態被識別為“坐下”時，那么，下一活動類別就一定不能是“上樓”，故可以根據這一特性，來對分類的結果進行判斷并糾錯。

本方案實驗所選用的數據集HARUS也是一個時序數據，因此，也符合人體運動轉換邏輯。對測試集中的活動轉換情況進行統計，統計結果如表1 所示，一共有2 947 個活動樣本，列代表t-1 時刻的活動類別，行代表t時刻的活動類別。從第一行可以看出，當前一個狀態為“行走”的時候，下一個活動一共發生了478次“行走”、18次“下樓”；從第二行可以看出當前一個狀態為“上樓”的時候，下一個活動一共發生了448 次“上樓”、7次“下樓”、15次“站立”。這符合實際的轉換邏輯。

表1 HARUS數據集當中的活動轉換邏輯Tab. 1 Activity transition logic in dataset HARUS

但當上一狀態為“躺下”時，下一狀態一共發生了519 次“躺下”、18 次“行走”。一般情況下，由“躺下”直接轉變為“行走”是不符合實際邏輯的，但是在樣本采樣窗體寬度為2.56 s的情況下，每一個識別結果之間的間隔為2.56 s［25］，在這么長的時間里這種不符合運動轉化邏輯的情況是可能存在的（年輕人的動作轉換頻率快），但是概率不大。從數據集的統計情況也可以印證這一點，六種活動類別當中，只有在“躺下”時，發生了“行走”這樣的不符合常識的狀態轉化，但只發生了18次。綜上所述，數據集中的活動轉換關系符合現實情況，所以，本方案的情景感知環節以數據集當中活動類別轉換的統計情況來進行識別結果的判定及糾錯。情景感知環節的偽代碼如下所示:

即當識別結果產生之后，按照轉化邏輯表1，分析在上一類別之后，發生此次活動類別的概率:如果概率不為0，則認為識別結果正確；如果發生的概率為0，則認為識別的結果錯誤，此時，將上一時刻識別的活動類別作為本次的識別結果進行輸出，完成糾錯。

2 IPSO-SVM結合情景感知的人體活動識別

本方案使用經IPSO 算法優化的SVM 對人體的6 種活動進行識別；同時，使用情景感知對SVM 的識別結果進行判定及糾錯，達到提升整體識別精度的目的。IPSO 算法對SVM 的優化按以下步驟進行:

1）首先，對粒子群進行初始化。在SVM 模型的默認配置中C的值通常為1，在粒子尋優的過程中，可以將C的搜索范圍設定為0～103，徑向基核函數系數σ的取值一般為1/num_features，num_features為特征維數，本文特征向量維數是40，故在默認模型下σ的取值為0.025，所以，將σ的取值范圍設定為0～1是可行的。在確定了懲罰因子與核函數系數的搜索范圍之后，按照式（6）、（7）、（8）在懲罰因子C與核函數系數σ的可能取值范圍之內隨機生成50 個粒子。每一個粒子就代表一種C與σ的組合。由于C與σ是決定SVM 分類性能的關鍵因素，所以每一個粒子就代表一種SVM 分類模型，是潛在的要搜尋的能夠取得最優整體識別精度的SVM模型。

2）對式（5）各項參數進行初始化。c1、c2為學習因子，根據PSO 的算法的定義，需滿足條件c1+c2=4。當c1為0 則代表不考慮粒子自身經驗，會導致喪失群體多樣性，即每個粒子都向當前群體最優的粒子移動；當c2為0 則代表不考慮其他粒子的經驗，沒有信息共享，會導致收斂變慢。故為了結合自身經驗與信息共享在尋優過程中的優勢，通常設c1=c2=2。rand1、rand2為區間0～1內的偽隨機常數。

3）采用能直接反映SVM 性能的整體識別精度來作為粒子群的適應度函數，使用該適應度函數評估粒子種群中的各個粒子，識別精度的計算公式如式（13）所示:

其中:Nright為識別正確的樣本數量，Stotal為識別的樣本總數。

4）利用式（5）對粒子群完成更新。其中包括三個方面內容:粒子群中每個粒子狀態的更新、粒子個體最優位置pibest的更新，以及全局最優位置pigbest的更新。

5）判斷是否滿足本文提出的PSO改進方案中的條件2和條件3，如果滿足則按照式（11）或式（12）進行粒子的再生或增殖操作。

6）終止條件:當更新迭代次數達到設定的最大迭代次數，或者粒子適應值滿足要求時，則迭代終止，輸出最后結果；否則，重復循環步驟3）～5），繼續進行評估和更新，一直到滿足終止條件為止。SVM優化階段的流程如圖2所示。

圖2 SVM參數優化的流程Fig. 2 Flow chart of SVM parameter optimization

圖3是重復10遍的IPSO對SVM尋優的粒子適應度迭代。圖3 中，橫坐標為迭代次數，縱坐標為種群中全局最優粒子的適應度（即最優全局識別精度），從實驗中發現，在150 次迭代之后，適應度已經不再提高，這其中，最佳的識別精度達到了91.2%，所以，在IPSO 粒子尋優過程中可以將迭代次數確定為200。

在分類階段，使用優化后的SVM 模型對人體活動進行識別，流程如圖4所示。

人體加速度數據采用時間寬度為2.56 s的滑動窗體進行分割，對分割的每一個窗體內的數據進行特征提取。按照5折交叉驗證對SVM 模型進行訓練，SVM 模型訓練完畢后，使用測試集對SVM 的性能進行驗證，在分類器識別出結果之后，按照1.3節介紹的方法進行情景感知糾錯。

圖3 迭代優化的適應度曲線Fig. 3 Curve of iterative optimization fitness

圖4 基于IPSO-SVM與情景感知的人體活動識別流程Fig. 4 Flow chart of human activity recognition based on IPSOSVM and context-awareness

3 實驗結果分析

測試數據來源于UCI 大學的人類活動數據集HARUS（Human Activity Recognition Using Smartphones）［26］。人體活動的數據來自于佩戴于腰間的手機當中的三軸加速度傳感器。本文對三軸加速度傳感器測得的三軸人體加速度值進行特征向量的提取。由于人體活動的頻率一般小于25 Hz，根據奈奎斯特采樣定律，采樣頻率設定為50 Hz。采樣獲得的加速度傳感器數據是包含噪聲的，所以在提取特征之前還需要消除噪聲，首先使用中值濾波器對原始數據進行濾波，再通過一個截止頻率為20 Hz 的三階巴特沃茲低通濾波器進行消除噪聲的處理。此時的加速度數據是人體加速度和重力加速共同作用下的數值，在進行特征提取之前，還要將二者進行分離，考慮到重力加速度是一個頻率變化較低的分量，所以，在原始數據上使用一個截止頻率為0.3 Hz 的高通濾波器就可以從數據當中分離出人體加速度，在經過去噪處理的人體加速度數據上，采用時間寬度為2.56 s 的滑動窗體對數據流進行分割，如圖5所示。

圖5 傳感器數據流的切割Fig. 5 Sensor data stream cutting

根據以往的研究，窗體之間存在50%的重疊是必要的，這樣做保證了獲取信息的完整性。對分割的每一個窗體內的數據流按照表2 所列公式對人體加速度數據進行時域特征的計算，最后，進行歸一化處理，形成最終的人體活動特征向量。

表2 提取的特征及計算公式Tab. 2 Extracted features and calculation formulas

為了同本文提出的粒子優化的SVM 與情景分析（Improved Particle Swarm Optimization SVM and Context awareness，IPSC）方案進行對比，本研究同時測試了KNN、SVM、邏輯回歸（Logistic Regression，LR）、決策樹（Decision Tree，DT）四種分類模型，這4 種模型均采用默認參數。在對比階段，本文對4 個指標Accuracy、Precision、Recall、F1-score進行了測試。其中，Accuracy 是指分類正確的樣本占總樣本的比例，即:

其中:Ncorrect為分類正確的樣本總數，Ntotal為識別的樣本總數。

結果如圖6所示。

圖6 分類算法識別精度的比較Fig. 6 Comparison of recognition accuracy of classification algorithms

本方案的識別混淆矩陣如表3所示。

從測試結果可以看出，本方案（IPSC）在參與測試的分類算法中取得了最佳的識別準確率，達到了94.2%。這一方面得益于IPSO對SVM的優化，也得益于采用的情景感知的糾錯方案，在發生錯誤識別時，及時對錯誤的識別結果進行了糾正。實驗的結果符合預期，證明本方案IPSO對SVM的優化是有效果的，IPSO-SVM結合情景分析的方案是可行的。

表3 IPSC分類算法的識別混淆矩陣Tab. 3 Recognition confusion matrix of IPSC classification algorithm

Precision指模型中準確預測為正的樣本與所有預測為正樣本的比例，計算公式為:

圖7 分類算法Precision值的比較Fig. 7 Precision comparison of classification algorithms

式（15）中TP為正確地被判斷為“正”的樣本，FP為錯誤地被判斷為“正”的樣本。可以看出，在“行走”“坐下”“站立”三個活動的識別中，本方案都取得了全面的優勢，在“上樓”“下樓”兩個活動的識別中取得了第二好的成績。

Recall指實際為正的樣本中被準確預測為正的樣本所占的比例。

圖8 分類算法Recall值的比較Fig. 8 Recall comparison of classification algorithms

式（16）中FN為錯誤地被判斷為“負”的樣本。F1-score是精確率和召回率的調和平均值，計算公式為:

可以看出在某一類活動類別的識別中本方案并沒有取得最優的成績，其原因在于本文的研究側重于提高6 類人體活動的整體識別準確率，故在IPSO 粒子尋優階段也是采用整體的識別精度作為適應度函數，并以此適應度函數對所有粒子的優劣進行評估，最終獲得的最優粒子也是取得最高的整體識別精度的懲罰因子C與核函數系數σ的組合。粒子尋優期間并沒有特定地使用某一活動類別的識別精度來評估粒子的優略，這可能會造成某一類活動類別的識別精度受到損失，但保證了最終的整體識別精度。為了進一步提高所有活動類別的識別準確率，在將來的研究中可以通過引入新的傳感器數據（氣壓傳感器）、增加特征向量維數或特征向量類型（增加頻域的特征）等方法來進一步增強識別的準確率。

圖9 分類算法F1-score值的比較Fig. 9 F1-score comparison of classification algorithms

在Recall和F1-score的測試當中，本方案取得了普遍優于其他四種算法的成績。特別是與采用默認參數的SVM 模型相比，整體識別精度提高了5.6%，IPSO 及情景分析的方法對模型效果的提升相當明顯，證明IPSO-SVM 結合情景分析的方案是可行的。

根據特征向量的采集方法，待識別的人體活動樣本是一個時間在2.56 s 內的活動狀態，本方案在使用IPSO 優化的SVM 進行人體活動樣本識別時，就是對一個個孤立的時間點上的靜態樣本進行識別，沒有考慮樣本之間的邏輯連接關系，通過上述實驗看到，已經取得了91.2%的識別準確率，優于其他的分類模型。但是，正如引言所述，人體活動類別的識別，主要應用場合如室內導航、遠程醫療、智能推薦等領域，僅僅識別某一個時間點的靜態活動類別是沒有實際使用價值的，往往需要進行連續的監測識別，是一個動態的過程，這樣，在IPSO-SVM 完成識別的基礎上，就可以根據活動類別的前后邏輯聯系（情境感知），進一步提高識別的準確率，最終識別準確率達到了94.2%。故本方案在不考慮動態轉換特點的情況下，單純地使用IPSO-SVM 識別，取得識別準確率也優于一般的方法，說明IPSO 對SVM 的優化是可行的。另外，在實際使用的領域中可以利用動態轉化的特點進一步提高識別的準確率，在實際使用過程中具有很強的泛化能力。

4 結語

本方案首先對粒子群優化算法進行了分析并針對其局限性進行了改進，然后使用經改進的粒子群算法優化后的SVM對人體日常的六種活動進行識別，在識別的過程中，充分利用了人體活動樣本自身的特點（樣本之間的轉化存在邏輯關系）來對識別結果進行糾正，提高了HAR 的識別精度，識別精度達到了94.2%。在目前普遍采用高維特征向量及復雜分類器模型解決分類問題的情形下，結合分類樣本自身的特點來提高識別精度的方法為將來的模式識別提供了一個嶄新的思路。實驗證明，這種方法是可行的。

本方案沒有考慮人體多樣性對各類活動之間轉換概率的影響，不同年齡、不同性別的人，表現出來的活動類別轉換概率是不同的，將來在有適當的數據庫時，可以繼續進行相關內容的研究。