基于RBF和樸素貝葉斯的紅葡萄酒質量等級分類

文/劉攀

1 引言

在確定紅葡萄酒的質量時，通常通過雇用一組合格的葡萄酒評委來完成。每個葡萄酒飲用者在品嘗葡萄酒后對分類指數進行評分，然后對其進行求和以獲得總分以確定葡萄酒的質量。因此研究一種高效可靠的智能分類識別方法很有必要；這里在紅葡萄酒的多種物理化學成份測定的基礎上，使用機器學習理論中的徑向基神經網絡和樸素貝葉斯理論相結合的構建分類模型，實現紅葡萄酒質量的有效分類。

2 基于RBF和樸素貝葉斯的紅酒分類模型

2.1 RBF簡介

RFB（徑向基）神經網絡是J.Moody和C.Darken在1988年提出的基于徑向基函數的神經網絡算法。RBF神經網絡是局部逼近網絡，可以以任意精度逼近任意連續或離散函數，并且可以處理系統內難以分析的規則。特別適用于解決非線性分類和預測問題。然而，當訓練樣本的數量增加時，RBF網絡中隱藏層神經元的數量增加，這增加了RBF網絡的復雜性。結構過于龐大，從而運算量也有所增加。

RBF神經網絡是具有三層結構的前饋神經網絡，包括輸入層，隱含層和輸出層。輸入層與其他神經網絡相同。其結構圖如圖1。

圖1：RBF神經網絡

圖2：RBF_NB結構圖

如上圖，輸入層為（X1，X2，...， Xp），隱含層為（c1，c2，....，ch），輸出層為 y，（w1，w2，....，wm）則為隱含層到輸出層的連接權重。隱藏層的每個節點使用非線性函數h（x）作為徑向基函數。隱含層的作用是將向量從低維p映射到高維h，使得低維線性不可分割的情況可以變得對高維線性可分。主要就是核函數的思想。因此，網絡從輸入到輸出的映射是非線性的，而網絡輸出對于可調參數是線性的。網絡的權重可以通過線性方程直接求解，這極大地加速了學習并避免了局部最小值。

徑向基神經網絡的激活函數可表示為高斯函數：

徑向基神經網絡的結構可以如下獲得：

其中xp是第p個輸入樣本，ci是第i個中心點，h是隱層中的節點數。n是樣本或分類輸出的數量，bi是第i個神經元的閾值。

2.2 樸素貝葉斯分類簡介

樸素貝葉斯分類器（NBC）是一種非常簡單的分類算法。對于要分類的給定項目，在該事件發生的條件下，每個類別的出現概率最大，被認為屬于哪個類別。樸素貝葉斯分類的思想基礎如下：

（1）設x={a1, a2, a3…, am}是要分類的項目，并且每個a是x的特征屬性。

（2）有類別集合C={y1, y2, …, yn}

（3）計算P(y1|x), P(y2|x), …, P(yn|x)

（4）如果P(yk|x)=max{P(y1|x), P(y2|x), …, P(yn|x) },則x∈yk

如何計算步驟3中的各種條件概率。可以這么做：

（1）查找要分類的已知分類的集合，該集合將成為訓練樣本集。

（2）統計數據為每個類別下的每個要素屬性生成條件概率估計。即

（3）如果各個特征屬性是獨立的，那么貝葉斯定理得出以下結論：

因為分母對所有類別是相同的，因此我們只需要最大化分子，并且每個要素屬性是獨立的，所以有

NBC模型假設屬性彼此獨立，但是在現實數據中，各屬性會有相關性，也正是這個假設，限制了NBC模型的使用。

2.3 RBF和樸素貝葉斯相結合的模型建立

本文中使用的數據是一組紅葡萄酒的物理化學參數。包括固定酸度，揮發酸度，檸檬酸，殘糖，氯化物，游離二氧化硫，總二氧化硫，密度，pH值，硫酸鹽，酒精，質量，共1599個樣本。

品質為酒的評分，分值從1到10。把紅葡萄酒等級分類，是把品質小于5的作為第一類，把品質為5和6的作為第二類，把大于6的作為第三類。

在本文中，RBF神經網絡和樸素貝葉斯分類器相結合，這種分類算法稱為RBF_NB，結構圖如圖2。

由圖2可知，神經網絡仍由三層結構組成，輸入層神經元個數為11，即紅葡萄酒的11種物理化學成分指標。 輸出層神經元個數為3，輸出為某一樣本屬于第幾類的概率，從三個數據中的最大值判斷樣本屬于第幾類。 改進的RBF_NB算法主要是修改了隱含層與輸出層的連接權重。其工作具體步驟為：

（1）數據的標準化旨在消除每個要素屬性的維度的影響。使用matlab函數mapminmax()對數據進行歸一化處理。即y = (ymax - ymin)*(x - xmin)/(xmax - xmin) + ymin； ymax=1, ymin=-1

（2）對樣本進行隨機排序，選擇前1270行數據作為訓練數據，最后329行數據作為測試數據。

（3）構建RBF神經網絡。輸入層神經元個數為11，即紅葡萄酒數據的11維特征屬性。激勵函數是高斯函數，輸出層中的神經元數量為3.隱含層中的神經元數量設置為h，通過實驗證明，h=15具有最佳效果。使用k-means聚類，獲取15個聚類中心點，方差計算公式為：

（4）利用樸素貝葉斯確定隱藏層到輸出層的權值：

（5）根據RBF神經網絡原理，計算出輸出層的值，比較三個值得大小，確定分類。

在開始的 kmeans聚類的操作下，相似樣本會聚到一類，而通過隱藏層的高斯函數，計算出的結果正是樣本與中心點的距離，離中心點越近，輸出值越大，反之輸出值越小，而權值是該聚類的一類屬于最終分類某一類的概率，該聚類里越多的樣本屬于最終分類的某一類， 則概率則大，反之則小。

3 實驗效果比對

從收集的數據中，隨機選擇1270組作為訓練數據，并使用329組作為測試數據。分別用NBC，RBF神經網絡和RBF_NB算法進行訓練，而表1反映了紅酒的正確分類率。 這里為了對比的科學性，表1中的數據是進行20次訓練測試后的數據。

由表1可知，RBC_NB算法不僅對訓練數據有不錯的分類正確率，泛化能力也不錯。而RBF神經網絡的泛化能力太差，出現過擬合現象。

4 結論

RBF神經網絡具有收斂速度快，泛化能力強等特征，但是針對所采集的紅葡萄酒物理化學成分指標的數據學習，訓練數據可以達到很好的準確率，但泛化能力不理想。 本文提出的RBF神經網絡和樸素貝葉斯分類相結合的模型，訓練數據和測試數據都有很好的正確率，分類效果顯著。這種分類模型對于釀酒廠對紅酒進行分類具有一定的參考意義。