基于改進(jìn)粒子群和模糊神經(jīng)網(wǎng)絡(luò)的霧霾分類研究*

裴佳佳 劉媛華

（上海理工大學(xué)管理學(xué)院 上海 200093）

1 引言

近幾十年來，我國的灰霾現(xiàn)象日趨嚴(yán)重。根據(jù)衛(wèi)星觀測，我國約30%的國土面積、近8億人口正遭受霧霾的危害，對人們身心健康、交通安全、工農(nóng)業(yè)生產(chǎn)、生態(tài)系統(tǒng)、網(wǎng)絡(luò)輿論等方面造成了極大的危害［1～3］。我國建立諸多氣象站、環(huán)境監(jiān)測中心，遙感技術(shù)也應(yīng)用到了霧霾研究中，為我們提供了數(shù)據(jù)支持。在前人研究的基礎(chǔ)上［4～5］，本文建立了霧霾分類預(yù)測模型，為各地區(qū)霧霾預(yù)測提供更精確的信息、理論和技術(shù)支持。

由于霧霾及其影響因子之間呈現(xiàn)較強(qiáng)的非線性關(guān)系，神經(jīng)網(wǎng)絡(luò)有著極強(qiáng)的非線性映射特性、自學(xué)習(xí)能力以及并行分布處理能力，能夠更好地反映霧霾數(shù)據(jù)非線性這一特征。D Mishra［6］等建立了神經(jīng)網(wǎng)絡(luò)與模糊邏輯回歸結(jié)合的預(yù)測模型，對印度地區(qū)的PM2.5濃度進(jìn)行預(yù)測，實(shí)驗(yàn)結(jié)果證明該組合預(yù)測模型比人工神經(jīng)網(wǎng)絡(luò)和多元線性回歸模型預(yù)測都要好。模糊神經(jīng)網(wǎng)絡(luò)作為神經(jīng)網(wǎng)絡(luò)中的一種，融合了神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)機(jī)制和模糊系統(tǒng)的語言推理能力等優(yōu)點(diǎn)，故本文應(yīng)用模糊神經(jīng)網(wǎng)絡(luò)模型對霧霾進(jìn)行分類預(yù)測。

在已有的研究中，主要從以下幾個(gè)方面對粒子群算法進(jìn)行改進(jìn)：1）基于參數(shù)和學(xué)習(xí)策略的改進(jìn)。劉楊［7］等系統(tǒng)的介紹和分析比較了動(dòng)態(tài)調(diào)整慣性權(quán)重的四種方法，結(jié)果表明選擇合適的方法對求解單峰和多峰函數(shù)至關(guān)重要；2）與其他智能優(yōu)化算法結(jié)合。Nguyen等［8］提出了一種遺傳算子優(yōu)化PSO的連續(xù)型特征選擇算法，該算法提高了PSO的搜索能力，但受群落初始分布影響較大，不利于搜尋到全局優(yōu)化解；梁靜等［9］針對大規(guī)模問題的高維特性提出了動(dòng)態(tài)隨機(jī)分組的協(xié)同進(jìn)化粒子群算法，證明了該算法的有效性以及高性能；3）與經(jīng)典理論，例如灰色理論、信息論、混沌理論等；4）形式結(jié)構(gòu)的改變。并行計(jì)算和二分制等。但粒子群算法對于初始種群的位置敏感性強(qiáng)，以上研究均未考慮這一特性，且在優(yōu)化精度、算法收斂性上都有待提高。本文采用佳點(diǎn)集理論生成均勻的粒子群算法初始種群，然后用改進(jìn)的粒子群算法結(jié)合模糊神經(jīng)網(wǎng)絡(luò)建立預(yù)測模型對霧霾等級進(jìn)行預(yù)測。

2 相關(guān)概念

2.1 佳點(diǎn)集理論

華羅庚等提出佳點(diǎn)集理論（Good Point Set，GPS），理論性質(zhì)優(yōu)越，體現(xiàn)在采用佳點(diǎn)集方法取的點(diǎn)的偏差小于隨機(jī)選取的點(diǎn)，其基本原理和結(jié)構(gòu)如下［12］：設(shè)GS是s維歐式空間中的單位立方體，且r∈GS。若,1≤k≤n}，其偏差滿 足φ(n)=C(r,ε)nε-1，其中C(r,ε)是和r,ε（ε是任意的正數(shù)）有關(guān)的常數(shù)，則稱Pn(k)為佳點(diǎn)集，r為佳點(diǎn)。令{rk=,1≤k≤s}（其中ρ是滿足(ρ-3)/2≥s的最小素?cái)?shù)），表示小數(shù)部分。

佳點(diǎn)集相關(guān)定理如下：

定理1給定Pn(i)(1≤i≤n)具有偏差Φ(n),f∈Bt（t維囿變函數(shù)類），則

其中V(f)為f的全偏差。

定理2若f(x)滿足

使用給定的n個(gè)點(diǎn)上的函數(shù)值構(gòu)成任何加權(quán)和以近似計(jì)算函數(shù)f(x)在GS上的積分，誤差不大于Ο(n-1)。

定理3假設(shè)x1,x2,…,xn為Dt上的均勻分布，即Pn={x1,x2,…,xn},Pn的偏差

成立的概率為1。

由定理1和定理2可知，使用佳點(diǎn)集理論近似積分，樣本的誤差只與樣本n有關(guān)，而與空間維數(shù)m無關(guān)，因此佳點(diǎn)集理論為高維近似計(jì)算提供良好的理論基礎(chǔ)。由定理3可知，使用佳點(diǎn)集選取點(diǎn)的偏差為Ο(nn-1)，而隨機(jī)選取點(diǎn)的偏差為，這證明佳點(diǎn)集理論生成點(diǎn)優(yōu)于隨機(jī)生成點(diǎn)。這是佳點(diǎn)集方法具有優(yōu)越性的理論基礎(chǔ)，也是本文方法具有更好穩(wěn)定性的理論基礎(chǔ)。張玲等［11］利用佳點(diǎn)集的理論和方法改進(jìn)遺傳算法中的交叉操作，提出了佳點(diǎn)集遺傳算法，理論和實(shí)驗(yàn)方面證明算法性能的優(yōu)越性。本文借鑒佳點(diǎn)集理論構(gòu)造解空間中的佳點(diǎn)，將其作為初始種群。

2.2 模糊神經(jīng)網(wǎng)絡(luò)

本文選用T-S模糊神經(jīng)網(wǎng)絡(luò)來建立模型。T-S模糊系統(tǒng)是一種自適應(yīng)能力很強(qiáng)的模糊系統(tǒng)，該模型不僅能自動(dòng)更新，而且能不斷修正模糊子集的隸屬函數(shù)。T-S模糊系統(tǒng)用如下的“if-then”規(guī)則形式來定義，在規(guī)則為Ri的情況下，模糊推理如下：

假設(shè)對于輸入量x=[x1,x2,…,xk]，首先根據(jù)模糊規(guī)則計(jì)算各輸入變量xj的隸屬度：

將各隸屬度進(jìn)行模糊計(jì)算，采用模糊算子為連乘算子：

根據(jù)模糊計(jì)算結(jié)果計(jì)算模糊模型的輸出值yi：

T-S模型的模糊神經(jīng)網(wǎng)絡(luò)不僅訓(xùn)練時(shí)間短，而且訓(xùn)練結(jié)果穩(wěn)定［14］。T-S模糊神經(jīng)網(wǎng)絡(luò)分為輸入層、模糊化層、模糊規(guī)則計(jì)算層和輸出層四層。輸入層與輸入向量xi連接，節(jié)點(diǎn)數(shù)與輸入向量的維數(shù)相同。模糊化層采用隸屬度函數(shù)（4）對輸入值進(jìn)行模糊化得到模糊隸屬度值μ。模糊規(guī)則計(jì)算層采用模糊連乘公式（5）計(jì)算得到ω。輸出層采用公式（6）計(jì)算模糊神經(jīng)網(wǎng)絡(luò)的輸出。

3 模型構(gòu)建

3.1 協(xié)同進(jìn)化粒子群

本文的模型不僅著重于粒子的多樣性和全局搜索能力；同時(shí)也對收斂性和學(xué)習(xí)能力、學(xué)習(xí)速度進(jìn)行了改進(jìn)。具體體現(xiàn)為佳點(diǎn)集理論初始化種群、多種群多策略進(jìn)化（加入收斂因子和線性慣性權(quán)重）、多子種群分布式協(xié)同進(jìn)化（共享最優(yōu)位置信息）三方面。

3.1.1 佳點(diǎn)集理論初始化種群

在經(jīng)典粒子群算法中，初始粒子群是隨機(jī)產(chǎn)生的，有很大的不確定性，容易因分布不均勻致使算法陷入局部最優(yōu)，影響算法的收斂性。為解決這一問題，需最大限度增加種群的多樣性，使初始種群更好地表征解空間特征。本文借鑒佳點(diǎn)集理論均勻設(shè)計(jì)初始粒子種群，以增加初始種群的多樣性［15］。

圖1和圖2分別是隨機(jī)方法和佳點(diǎn)集的指數(shù)生成方法生成的二維初始粒子分布圖，粒子個(gè)數(shù)均為400。

對比圖1和圖2，隨機(jī)方法產(chǎn)生的初始種群分布相對雜亂，不均勻且有重疊的點(diǎn)，佳點(diǎn)集理論生成的初始種群更均勻，沒有重疊點(diǎn)，具有較好的多樣性。由佳點(diǎn)集理論定理1和定理2可知，佳點(diǎn)的構(gòu)造與空間維數(shù)無關(guān)，適合求解高維問題。而且每次取點(diǎn)時(shí)，所得佳點(diǎn)的分布效果是一樣，具有良好的穩(wěn)定性。綜上，選用佳點(diǎn)集方法生成協(xié)同進(jìn)化粒子群算法的初始粒子群。

圖1 隨機(jī)法生成二維種群

圖2 佳點(diǎn)集法生成二維種群

3.1.2 多策略的進(jìn)化方式（策略協(xié)同）

衡量優(yōu)化算法的一個(gè)重要方面就是能夠較好地平衡算法的全局和局部搜索能力，在初始階段，著重全局搜索，隨著搜索運(yùn)行，逐漸偏向于局部搜索。為此，本文引入了多策略進(jìn)化的方法，即群體中的不同子種群按照不同進(jìn)化模式（速度和位置更新方程）來調(diào)節(jié)自身的運(yùn)動(dòng)，使得群體中一部分子種群著重于全局搜索，而其他子種群著重于局部搜索，以平衡算法的全局和局部搜索能力。

目前，除了標(biāo)準(zhǔn)PSO模型外，還有其他一些改進(jìn)的模型［16］。

1）認(rèn)知模型：

2）社會模型：

3）Barebones模型：

4）廣泛學(xué)習(xí)模型：

本文對原有模型［16］進(jìn)行兩點(diǎn)改進(jìn)：一是每迭代一次，各子種群從五種PSO模型中隨機(jī)選擇一個(gè)作為自身進(jìn)化模式。以此拓展了在迭代中不斷縮小的種群搜索空間，使粒子能夠跳出先前搜索到的最優(yōu)值位置，在更大的空間中開展搜索，同時(shí)保持了種群多樣性，提高算法尋找最優(yōu)值的可能性。

二是收斂性。為了粒子群的全局搜索能力與局部搜索能力較好的平衡，加入非線性收斂因子α和線性慣性權(quán)重w，以增加算法的計(jì)算速度，更快找到最優(yōu)解，具體公式如下［17］。

其中，e為自然對數(shù)的底數(shù)；t為當(dāng)前迭代次數(shù)；T為最大迭代次數(shù)。初始階段α衰減程度降低，以便算法全局尋優(yōu)；后期提升α的衰減程度，提高算法局部尋優(yōu)能力。wmax為最大慣性權(quán)重，wmin為最小慣性權(quán)重。標(biāo)準(zhǔn)測試函數(shù)說明w從0.9減少到0.4時(shí)能極大地改善PSO算法的性能［18］。

3.1.3 種群間協(xié)同策略

種群協(xié)同是實(shí)現(xiàn)協(xié)同進(jìn)化最主要的方式。在協(xié)作方式上，本文算法基于種群間相互評價(jià)的評價(jià)環(huán)節(jié)協(xié)同［19］。在協(xié)同架構(gòu)上屬于多種群分布式協(xié)同［20～21］。不同的子種群可采用不同的操作、策略、參數(shù)以實(shí)現(xiàn)進(jìn)化。

本文模型中，將粒子種群隨機(jī)劃分為五個(gè)子種群，每個(gè)子種群代表解空間的一個(gè)子空間。每次迭代過程中，五個(gè)子種群從五種進(jìn)化策略中隨機(jī)選取一種進(jìn)化，五個(gè)子種群并行開展進(jìn)化；一次迭代過程結(jié)束后，比較五個(gè)子種群的適應(yīng)度值，將五個(gè)子種群中全局最優(yōu)位置的位置記錄下來［22］；而其他子種群均向全局最優(yōu)學(xué)習(xí)，使其余子種群以最便利的方式學(xué)習(xí)到最優(yōu)位置，以此來有效提高算法的搜索效率。

3.2 融合協(xié)同進(jìn)化粒子群和改進(jìn)模糊神經(jīng)網(wǎng)絡(luò)的霧霾預(yù)測方法

IMPMSPSO-FNN的基本思想是運(yùn)用多種群協(xié)同進(jìn)化粒子群算法（IMPMSPSO）對模糊神經(jīng)網(wǎng)絡(luò)（FNN）初始權(quán)值和閾值進(jìn)行優(yōu)化，獲取其最優(yōu)值，使模糊神經(jīng)網(wǎng)絡(luò)（FNN）的分類準(zhǔn)確率達(dá)到最優(yōu)。

圖3 IMPMSPSO-FNN分類模型流程圖

IMPMSPSO-FNN分類模型大致步驟如下。

Step 1確定FNN結(jié)構(gòu)和粒子維數(shù)：根據(jù)需解決問題的特征，確定FNN結(jié)構(gòu)。將FNN初始權(quán)值和閾值作為一個(gè)整體映射到IMPMSPSO的初始粒子群，每個(gè)粒子的維數(shù)為FNN權(quán)值、閾值個(gè)數(shù)之和。根據(jù)實(shí)際應(yīng)用，本模型粒子維數(shù)D=345；

Step 2初始化：隨機(jī)初始化IMPMSPSO相關(guān)參數(shù)：種群個(gè)數(shù)N=100，最大慣性權(quán)重wmax=0.6，最小慣性權(quán)重wmin=0.4，學(xué)習(xí)因子c1=c2=2.05，迭代次數(shù)M=10；

Step 3生成適應(yīng)度函數(shù)：運(yùn)用佳點(diǎn)集理論產(chǎn)生IMPMSPSO初始粒子群，并將其映射到FNN作為其初始權(quán)值和閾值，通過式（1）～（6）訓(xùn)練和測試FNN，并對學(xué)習(xí)率進(jìn)行改進(jìn)，取其每一類分類準(zhǔn)確率平方和的負(fù)值作為適應(yīng)度函數(shù)；

Step 4全局最優(yōu)位置和各子群最優(yōu)位置：將初始粒子群隨機(jī)分為五個(gè)子種群，求其適應(yīng)度值，比較得出全局最優(yōu)位置和各自種群最優(yōu)位置；

Step 5位置和速度更新迭代：五個(gè)子種群從五個(gè)進(jìn)化策略（式（7～10））中隨機(jī)選取一種進(jìn)化，并加入收斂因子和線性慣性權(quán)重，式（11）和式（12）；

Step 6各子種群協(xié)同進(jìn)化：一次迭代完成后，選取全局最優(yōu)位置，將其位置信息共享給其他子種群；

Step 7判斷是否達(dá)到最大迭代次數(shù)，若未達(dá)到，返回Step 5，繼續(xù)操作；若已達(dá)到，將所得權(quán)值和閾值賦給FNN，得出最終結(jié)果，算法結(jié)束。

4 實(shí)證分析

4.1 模型性能分析

本文選取Sphere、Rastrigin、Ackley三個(gè)標(biāo)準(zhǔn)函數(shù)進(jìn)行測試。對比算法選取經(jīng)典粒子群算法（PSO）、多種群多策略協(xié)同粒子群（MPMSPSO）以及本文改進(jìn)的MPMSPSO（IMPMSPSO），三個(gè)測試函數(shù)如下所示。

本文三種算法均設(shè)置種群個(gè)數(shù)N=100，粒子維數(shù)D=30，最大迭代次數(shù)M=100，分別運(yùn)算三個(gè)測試函數(shù)，為消除隨機(jī)性對結(jié)果的影響，取15次結(jié)果的平均值作為最終結(jié)果。運(yùn)算結(jié)果如表1所示。三個(gè)函數(shù)尋優(yōu)收斂曲線如圖4～圖6所示。

圖4 Sphere函數(shù)尋優(yōu)收斂曲線

圖6 Ackley函數(shù)尋優(yōu)收斂曲線

表1 三種測試函數(shù)的測試結(jié)果

為了更直觀地反映三個(gè)算法的尋優(yōu)性能，以下三個(gè)圖給出了Sphere、Rastrigin、Ackley三個(gè)函數(shù)的尋優(yōu)收斂曲線。

圖5 Ratrigin函數(shù)尋優(yōu)收斂曲線

從表1可以看出，本文中提出的IMPMSPSO算法較其他兩種算法最接近于目標(biāo)函數(shù)全局最優(yōu)值。就計(jì)算精度上，最大值、最小值、平均值均優(yōu)于PSO算法和MPMSPSO算法；在算法穩(wěn)定性上，三個(gè)測試函數(shù)的計(jì)算結(jié)果，IMPMSPSO算法對應(yīng)測試函數(shù)的方差總體上是最小的；在收斂速度上，如圖4～圖6所示，IMPMSPSO算法尋優(yōu)曲線能夠以更快的速度尋找到最優(yōu)解。綜上所述，IMPMSPSO算法不僅能夠提高搜索精度和收斂速度，而且求得的結(jié)果也更加穩(wěn)定。

4.2 實(shí)驗(yàn)數(shù)據(jù)及其預(yù)處理

本文霧霾樣本數(shù)據(jù)集選取上海市2015年1月1日至2018年10月31日共1381個(gè)樣本集，（其中2017年9月26日至2017年10月14日 的數(shù) 據(jù) 缺失）。其中各污染物濃度值每日數(shù)據(jù)根據(jù)均為上海環(huán)境監(jiān)測中心當(dāng)日每小時(shí)數(shù)據(jù)求平均的結(jié)果；其余氣象數(shù)據(jù)從美國NOAA網(wǎng)站［23］獲得。空氣質(zhì)量等級劃分均按國家標(biāo)準(zhǔn)。

該數(shù)據(jù)集包含天氣屬性有12個(gè)，分別為日期、PM2.5濃度、PM10濃度、Ο3濃度、SΟ2濃度、NΟ2濃度、CO濃度、氣溫、露點(diǎn)、濕度等。經(jīng)過初步數(shù)據(jù)整理，獲取的數(shù)據(jù)集為1381行（數(shù)據(jù)數(shù)），11列（氣象數(shù)據(jù)屬性）。本文使用前一天的霧霾屬性數(shù)據(jù)對第二日的霧霾情況進(jìn)行分類預(yù)測。歷史氣象數(shù)據(jù)中存在缺失值，本文運(yùn)用分段三次樣條插值法來填補(bǔ)缺失值，通過調(diào)用Matlab中的fillnissing函數(shù)對數(shù)據(jù)進(jìn)行預(yù)處理。本文數(shù)據(jù)集五個(gè)等級包含的數(shù)據(jù)量如表2所示。

表2 數(shù)據(jù)集各等級數(shù)據(jù)量及占比

由于本文數(shù)據(jù)集中2017年9月26日至2017年10月14日的數(shù)據(jù)缺失，故令2015年1月1日 至2017年9月26日的數(shù)據(jù)共999條作為訓(xùn)練數(shù)據(jù)；2017年10月14日至2018年10月31日共382條數(shù)據(jù)為測試集。

4.3 實(shí)驗(yàn)結(jié)果

為了證明本文模型的有效性，引入其他四種模型進(jìn)行比較：1）經(jīng)典BP神經(jīng)網(wǎng)絡(luò)模型；2）一般T-S模糊神經(jīng)網(wǎng)絡(luò)模型；3）IMPMSPSO優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)模型；4）MPMSPSO優(yōu)化的FNN模型。

根據(jù)實(shí)際應(yīng)用，確定本模型中FNN的網(wǎng)絡(luò)結(jié)構(gòu)為11-15-5，學(xué)習(xí)率xite=0.05，最大迭代次數(shù)M=10。其他模型參數(shù)設(shè)置相同。本文IMPMSPSO-TSFNN模型對測試集的分類結(jié)果如圖7所示。

圖7 IMPMSPSO-FNN分類結(jié)果

運(yùn)用四種模型分別對霧霾進(jìn)行分類，為了消除隨機(jī)性，選取5次運(yùn)行結(jié)果的平均值作為最終結(jié)果。分類結(jié)果如表3所示。

從表3可知，單一的運(yùn)用BP神經(jīng)網(wǎng)絡(luò)和FNN神經(jīng)網(wǎng)絡(luò)預(yù)測，各等級預(yù)測精度不足，且分類結(jié)果不穩(wěn)定，參差不齊；IMPMSPSO-BP模型相較于BP神經(jīng)網(wǎng)絡(luò)，各等級的預(yù)測精度均有所提高，說明IMPMSPSO算 法 的 有 效 性；MPMSPSO-FNN和IMPMSPSO-FNN模型相較于其他三種模型來說，各等級預(yù)測精度最好，且各等級之間較均勻且穩(wěn)定，說明加入改進(jìn)慣性權(quán)重和收斂因子的IMPMSPSO-FNN模型更具有優(yōu)越性。這兩種模型在預(yù)測精度上比較接近，為了比較兩種模型，選取計(jì)算中兩種模型最優(yōu)適應(yīng)度值近似時(shí)的適應(yīng)度優(yōu)化曲線圖，如圖8和圖9所示。

圖8 IMPMSPSO-FNN模型適應(yīng)度優(yōu)化曲線圖

圖9 MPMSPSO-FNN模型適應(yīng)度優(yōu)化曲線圖

表3 霧霾五個(gè)等級分類準(zhǔn)確率對比

5 結(jié)語

本文提出了佳點(diǎn)集理論結(jié)合多種群多策略協(xié)同進(jìn)化算法改進(jìn)的粒子群算法（IMPMSPSO），并用IMPMSPSO對模糊神經(jīng)網(wǎng)絡(luò)的初始權(quán)值和閾值進(jìn)行優(yōu)化，建立了IMPMSPSO-FNN分類預(yù)測模型。應(yīng)用本文模型對上海市霧霾進(jìn)行預(yù)測分類，結(jié)果表明，相較于傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)分類模型、FNN神經(jīng)網(wǎng)絡(luò)分類模型，IMPMSPSO-FNN分類預(yù)測模型具有較高的預(yù)測精度和收斂性。但是在本模型中，多種群多策略協(xié)同進(jìn)化粒子群算法太過注重開發(fā)種群多樣性的和全局搜索能力，對全局搜索能力和局部搜索能力的平衡開發(fā)不足，在最優(yōu)解的求解速度上還有待提高。在以后的研究中，應(yīng)當(dāng)注重提高模型的求解速度。