ID3決策樹(shù)在預(yù)測(cè)電解槽出鋁量中的研究與實(shí)現(xiàn)

孫長(zhǎng)好,王 健,楊 飛,姜海超

(內(nèi)蒙古霍煤鴻駿鋁電有限責(zé)任公司，內(nèi)蒙古 霍林郭勒 029200)

現(xiàn)代大型鋁電解槽一種多相-多場(chǎng)交互作用下的復(fù)雜電化學(xué)反應(yīng)器[1],具有非線性、大時(shí)變、大時(shí)滯和多輸入多輸出的特點(diǎn)[2]，且不能建立精確的數(shù)學(xué)模型[3]。電解槽的各種工藝參數(shù)的調(diào)整往往憑借專業(yè)管理者的主觀經(jīng)驗(yàn)，依賴人工進(jìn)行槽況判斷、趨勢(shì)分析和運(yùn)行操作決策，其經(jīng)驗(yàn)水平往往決定了策略的正確性。傳統(tǒng)的人工控制決策方式已經(jīng)難以適應(yīng)現(xiàn)代鋁電解生產(chǎn)要求[4]，知識(shí)自動(dòng)化是鋁電解槽實(shí)現(xiàn)尋優(yōu)決策的必由之路，應(yīng)用機(jī)器學(xué)習(xí)技術(shù)，建設(shè)工業(yè)大數(shù)據(jù)分析平臺(tái)，充分挖掘數(shù)據(jù)潛在價(jià)值，將鋁電解數(shù)據(jù)庫(kù)中包含的專家知識(shí)和經(jīng)驗(yàn)進(jìn)行知識(shí)表示和自動(dòng)推理，模擬管理者的決策過(guò)程，本文將ID3決策樹(shù)應(yīng)用于鋁電解槽出鋁量預(yù)測(cè)，對(duì)于輔助工藝管理人員做出科學(xué)的決策，提高生產(chǎn)智能管理水平具有現(xiàn)實(shí)意義。

1 ID3決策樹(shù)分類算法的基本思想

1.1 ID3算法的基本思想及實(shí)現(xiàn)

Ross Quinlan在CLS學(xué)習(xí)算法的基礎(chǔ)上，提出ID3決策樹(shù)概念。作為一種機(jī)器學(xué)習(xí)方法，ID3算法著眼于從一組無(wú)次序、無(wú)規(guī)則的事例中推理出決策樹(shù)表示形式的分類規(guī)則。采用自頂向下遞歸的貪婪算法構(gòu)造。從根結(jié)點(diǎn)開(kāi)始，以樣本集的最大信息增益屬性作為啟發(fā)搜索條件，將數(shù)據(jù)樣本劃分成不同的樣本子集，每個(gè)樣本集構(gòu)成新生分裂節(jié)點(diǎn)，對(duì)該分裂結(jié)點(diǎn)繼續(xù)向下遍歷屬性，不斷遞歸調(diào)用，僅當(dāng)下列條件之一成立時(shí)返回：

(1) 節(jié)點(diǎn)上的樣本集屬于同一類；

(2)沒(méi)有用來(lái)進(jìn)一步劃分樣本的屬性。

生成決策樹(shù)的每個(gè)葉子即對(duì)應(yīng)一個(gè)決策分類, 因此，從根到葉節(jié)點(diǎn)的一條路徑就對(duì)應(yīng)著一條合取規(guī)則，整棵決策樹(shù)就對(duì)應(yīng)著一組析取表達(dá)式規(guī)則。生成決策樹(shù)實(shí)現(xiàn)流程如圖1所示。

圖1 ID3決策樹(shù)算法流程圖

1.2 信息增益標(biāo)準(zhǔn)

Ross Quinlan提出以信息熵的最速下降作為選擇測(cè)試屬性的方法，該屬性能反映出分類樣本中的信息量最小，具有最小的隨機(jī)性，這使得對(duì)一個(gè)對(duì)象分類所需的期望測(cè)試數(shù)目達(dá)到最小，并確保找到一棵簡(jiǎn)單的決策樹(shù)。

設(shè)S是s個(gè)訓(xùn)練樣本的集合，包含m個(gè)不同的屬性，從而定義了m個(gè)不同的類Ci(i=1,...,m),si是S中屬于類Ci的樣本個(gè)數(shù)。以熵的概念來(lái)定義樣本集的信息量：

其中，pi是樣本屬于類Ci的概率，并用si/s估算。

設(shè)屬性A具有v個(gè)不同值{a1,a2,...,av}，可以把S劃分成v個(gè)子集{s1,s2,...,s}，如果A被選為測(cè)試屬性，則這些子集對(duì)應(yīng)于包含集合S的節(jié)點(diǎn)上生長(zhǎng)出來(lái)的分枝。設(shè)sij表示在子集sj中類ci的樣本數(shù)，那么，根據(jù)屬性A分類的子集的熵為：

使用屬性A對(duì)樣本集S進(jìn)行分類所獲得的信息增益計(jì)算方法是：

Gain(A)=1(s1+...+sj)-E(A)

用樣本集的總信息熵減去屬性A的每個(gè)分支的信息熵與權(quán)重的乘積，通常，信息增益越大，意味著用屬性A進(jìn)行劃分所獲得的決策確定性越大。

眾多學(xué)者對(duì)ID3決策樹(shù)做了深入改進(jìn)研究，文獻(xiàn)[5]將粗糙集理論用于決策樹(shù)算法的屬性選擇標(biāo)準(zhǔn)，文獻(xiàn)[6]、[7]針對(duì)靜態(tài)分類規(guī)則的缺陷，展開(kāi)動(dòng)態(tài)數(shù)據(jù)樣本集決策樹(shù)研究，文獻(xiàn)[8]提出了一種加權(quán)的決策樹(shù)算法，通過(guò)引入屬性權(quán)值參數(shù)?，強(qiáng)化重要屬性。

Gain(A)=1(s1+...+sj)-?E(A)

文獻(xiàn)[8]中作者對(duì)權(quán)值的設(shè)定并沒(méi)有具體的依據(jù)，只是根據(jù)假設(shè)來(lái)人為的設(shè)定權(quán)值。結(jié)合電解鋁的生產(chǎn)工藝，提出一種改進(jìn)的ID3算法，應(yīng)用回歸分析計(jì)算各條件屬性影響出鋁量的權(quán)重W1,W2,...,Ws(s表示條件屬性的個(gè)數(shù))，然后通過(guò)Wi來(lái)求解各?i。

使用Python語(yǔ)言實(shí)現(xiàn)算法如下：

# 計(jì)算信息熵

def calcEntropy(sampleSet):

numSample = len(sampleSet)

PropCounts = {}

# 樣本遍歷

for sample in sampleSet:

currentProp = sample[-1]

if currentProp not in PropCounts.keys():

PropCounts[currentProp]= 0

PropCounts[currentProp]+=1

entropy = 0.0

for key in PropCounts: # 計(jì)算信息熵

probability = float(PropCounts[key]) / numSample

entropy = entropy - probability * log(probability, 2)

return entropy

2 數(shù)據(jù)預(yù)處理

表1的鋁電解原始數(shù)據(jù)無(wú)法直接應(yīng)用于ID3算法，需要首先進(jìn)行數(shù)據(jù)的規(guī)范化處理，主要包括數(shù)據(jù)校正和離散化過(guò)程。

表1 3031#電解槽原始數(shù)據(jù)

2.1 數(shù)據(jù)校正

鋁電解控制系統(tǒng)在進(jìn)行采樣時(shí)，由于網(wǎng)絡(luò)堵塞丟幀或者人工輸入時(shí)失誤導(dǎo)致數(shù)據(jù)序列出現(xiàn)異常值，處理辦法主要有二種，一是采用過(guò)濾的方法，將含有異常數(shù)據(jù)的記錄丟棄，該種方法處理簡(jiǎn)單，但會(huì)失去部分信息；二是使用插值算法，其思想是：鋁電解過(guò)程是一個(gè)緩慢的變化過(guò)程，可根據(jù)系統(tǒng)運(yùn)行的慣性，參考空值前后的數(shù)據(jù)進(jìn)行分析填補(bǔ)。

2.2 數(shù)據(jù)離散化

在鋁電解生產(chǎn)工藝中，影響出鋁量的主要因素有：日平均電壓(AvgVol)、分子比(Ratio)、電解質(zhì)水平(Bath_H)、鋁水平(Metal_H)，電解質(zhì)溫度(Temp)等，這些原始數(shù)據(jù)是連續(xù)的，無(wú)法直接應(yīng)用于ID3算法，因此，有必要將其轉(zhuǎn)換成適合數(shù)據(jù)挖掘的形式，本文采用直方圖的策略進(jìn)行數(shù)據(jù)離散化。

直方圖是一種直觀的數(shù)據(jù)歸約形式。將屬性數(shù)據(jù)分布劃分為不相交的子集，該子集的高度或面積代表屬性值的平均頻率，一般地，確定屬性值的劃分有以下幾種方法：

等高：在等高的直方圖中，每個(gè)子集的頻率區(qū)間是一個(gè)常數(shù)，即臨近數(shù)據(jù)樣本個(gè)數(shù)相同。

等寬：在等寬的直方圖中，每個(gè)子集的寬度區(qū)間是一個(gè)常數(shù)，通常，數(shù)據(jù)離散化處理后會(huì)得到一些空數(shù)據(jù)區(qū)間，生成決策樹(shù)的過(guò)程中會(huì)丟失一定的規(guī)則，因此，應(yīng)當(dāng)對(duì)這些空數(shù)據(jù)區(qū)間進(jìn)行前后合并，表2是經(jīng)等寬離散化處理后所生成電解槽序列化數(shù)據(jù)。

表2 3031#電解槽離散化數(shù)據(jù)

3 產(chǎn)生決策樹(shù)

對(duì)某工區(qū)31臺(tái)電解槽近半年的數(shù)據(jù)預(yù)處理，選擇日平均電壓(AvgVol)、分子比(Ratio)、電解質(zhì)水平(Bath_H)、鋁水平(Metal_H)，電解質(zhì)溫度(Temp)作為影響出鋁量(Metal_Mass)的5個(gè)條件屬性，分別進(jìn)行粒度為98 mV，0.08，21 mm，22 mm，6 ℃和53 kG的等寬離散化處理，生成序列化數(shù)據(jù)表示，經(jīng)ID3算法評(píng)判后構(gòu)造出鋁量決策樹(shù)，如圖2所示，由于生成的出鋁量決策樹(shù)規(guī)模較大，圖中僅繪制出溫度序列為7和2的出鋁量決策分枝。

圖2 出鋁量決策樹(shù)

圖中分枝Temp(7) -> Metal_H(7) -> AvgVol(2) -> Bath_H(6) -> 26表示：當(dāng)電解質(zhì)溫度在[991,997] ℃，鋁水平在[322,344] mm，日平均電壓在[3953,4051] mV,電解質(zhì)水平在[200,220] mm時(shí)，出鋁量決策范圍應(yīng)為[3018,3071] kG。

從該決策樹(shù)中可見(jiàn)，在某些情況下，5個(gè)條件屬性并非都對(duì)出鋁量產(chǎn)生決定影響，甚至其中的2個(gè)條件屬性就可以決策出鋁量，如Temp(2) -> Ratio(3) ->32表示：當(dāng)電解質(zhì)溫度在[961,967] ℃，分子比在[2.41,2.49]時(shí)，出鋁量決策范圍應(yīng)為[2859,2912] kG，出現(xiàn)這種情況的原因在于數(shù)據(jù)樣本的不完備性，從而出現(xiàn)決策的近似表達(dá)，隨著電解槽數(shù)據(jù)的日積月累，數(shù)據(jù)樣本趨于完備，機(jī)器學(xué)習(xí)的廣度和深度逐步加深，決策的表達(dá)會(huì)趨于精確。

4 結(jié) 語(yǔ)

利用ID3算法對(duì)鋁電解數(shù)據(jù)庫(kù)中包含的專家知識(shí)和經(jīng)驗(yàn)進(jìn)行知識(shí)表示和自動(dòng)推理，從而生成出鋁量決策規(guī)則，對(duì)于輔助工藝管理人員做出科學(xué)判斷提供決策支持，同理，也可應(yīng)用于電解槽管理其它方面，以提高生產(chǎn)智能管理水平。