基于改進自組織神經(jīng)網(wǎng)絡(luò)的創(chuàng)業(yè)數(shù)據(jù)評估建模與仿真

尹詩

（上海第二工業(yè)大學(xué)，上海 201209）

隨著社會經(jīng)濟的不斷發(fā)展，學(xué)校和國家為畢業(yè)生就業(yè)提供了眾多資源，例如大力支持自主創(chuàng)業(yè)、提供政策扶持等，這使得越來越多的高校畢業(yè)生在畢業(yè)時會選擇自主創(chuàng)業(yè)。但目前高校對創(chuàng)業(yè)數(shù)據(jù)的分析匱乏，故無法對學(xué)生進行積極引導(dǎo)，而現(xiàn)有的一些算法模型也存在準(zhǔn)確性及預(yù)測穩(wěn)定性較差等問題[1]。因此為了更優(yōu)地推進大學(xué)生自主創(chuàng)業(yè)水準(zhǔn)、提高高校創(chuàng)業(yè)數(shù)據(jù)分析能力，文中基于改進自組織神經(jīng)網(wǎng)絡(luò)技術(shù)提出了一種創(chuàng)業(yè)數(shù)據(jù)評估模型與仿真方法。該建模方法通過SOFM 算法對數(shù)據(jù)做出選擇與分類，并利用Duplex算法對數(shù)據(jù)集的劃分、回歸模型及共識模型的建立等過程進行了創(chuàng)業(yè)數(shù)據(jù)的建模與仿真，仿真結(jié)果充分體現(xiàn)了所提方法在進行創(chuàng)業(yè)數(shù)據(jù)建模時的優(yōu)勢，同時還驗證了該方法的可靠性與有效性，并為高校進一步分析創(chuàng)業(yè)數(shù)據(jù)提供了重要參考。

1 自組織神經(jīng)網(wǎng)絡(luò)

1.1 基本原理

自組織神經(jīng)網(wǎng)絡(luò)（Self-Organizing Map,SOM）是人工智能領(lǐng)域神經(jīng)網(wǎng)絡(luò)技術(shù)的一個重要分支，本質(zhì)上是一種基于無監(jiān)督機器學(xué)習(xí)的自組織競爭網(wǎng)絡(luò)，其基本思想是Rosenblatt 根據(jù)人腦神經(jīng)元自組織、自適應(yīng)的特征而提出的[2]。SOM 模型是對研究對象的拓撲分析，即將研究對象抽象成高維空間向低維空間的非線性映射，同時不改變研究對象的拓撲結(jié)構(gòu)，使得原本在高維空間抽象的拓撲結(jié)構(gòu)在低維空間以可視化的方式展示出來。SOM 模型能夠在無人為干預(yù)的條件下，通過自主學(xué)習(xí)與訓(xùn)練不斷改變和優(yōu)化網(wǎng)絡(luò)模型中涉及的相關(guān)參數(shù)，并可對輸入對象進行有效分類。目前，其經(jīng)常被使用在分類聚類、模式識別、組合優(yōu)化及數(shù)據(jù)壓縮等領(lǐng)域中。

典型自組織神經(jīng)網(wǎng)路SOM的網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。

圖1 典型自組織神經(jīng)網(wǎng)路SOM的網(wǎng)絡(luò)結(jié)構(gòu)

由圖1 可知，SOM 網(wǎng)絡(luò)結(jié)構(gòu)主要由輸入層和競爭層（輸出層）兩部分神經(jīng)元組構(gòu)成[3]。其中，輸入層用來接收輸入對象對應(yīng)向量，向量的各個元素分別存儲于輸入層不同的神經(jīng)元之中，這些神經(jīng)元與競爭層神經(jīng)元相連，并通過二者之間的連接渠道將對應(yīng)元素的數(shù)據(jù)傳遞給競爭層。競爭層利用這些數(shù)據(jù)構(gòu)建不同的判別函數(shù)，再根據(jù)某種規(guī)則對各判別函數(shù)的值進行對比，從而選擇其中的最優(yōu)解，同時根據(jù)得到的最優(yōu)解進行反推，進而可以不斷調(diào)整網(wǎng)絡(luò)模型的輸入?yún)?shù)。

競爭層包含一個重要的過程——競爭學(xué)習(xí)，其主要作用在于使競爭層的各節(jié)點進行競爭，且當(dāng)某一節(jié)點取勝后（依賴判別函數(shù)），按照該節(jié)點的相關(guān)屬性對模型參數(shù)進行調(diào)整。當(dāng)神經(jīng)網(wǎng)絡(luò)中輸入相似的研究對象時，該節(jié)點更容易取勝，從而完成模型的競爭學(xué)習(xí)。競爭學(xué)習(xí)主要包括以下3 個環(huán)節(jié)[4]。

1）競爭：競爭層中每個神經(jīng)元與輸入層神經(jīng)元之間的連接權(quán)值構(gòu)成對應(yīng)的判別函數(shù)。當(dāng)輸入對象為自變量時，計算判斷函數(shù)所對應(yīng)的因變量值，并選擇這些值中的最優(yōu)解對應(yīng)的神經(jīng)元為該次自適應(yīng)競爭學(xué)習(xí)的最佳匹配神經(jīng)元。

2）合作：最佳匹配神經(jīng)元與周圍其他神經(jīng)元進行合作，共同進行模型的自適應(yīng)學(xué)習(xí)，同時其也成為所需調(diào)整的神經(jīng)元[5]。

3）自適應(yīng)：最佳匹配神經(jīng)元拓撲鄰域中所有的神經(jīng)元需要根據(jù)輸入對象不斷調(diào)整輸入層與競爭層之間的連接權(quán)值，以此改變這些神經(jīng)元所組成的判別函數(shù)，進而對模型的輸入?yún)?shù)進行優(yōu)化。

1.2 改進自組織神經(jīng)網(wǎng)絡(luò)

SOM 模型的優(yōu)勢在于具有自適應(yīng)性，在進行非線性映射的同時能夠保證輸入對象的拓撲結(jié)構(gòu)不發(fā)生改變，但其缺點也較為明顯，例如網(wǎng)絡(luò)模型在訓(xùn)練時有些節(jié)點可能始終無法取勝，使得網(wǎng)絡(luò)出現(xiàn)死神經(jīng)元，并造成資源浪費。此外，若要給SOM 網(wǎng)絡(luò)增加新的訓(xùn)練類別，則必須重新進行完整的學(xué)習(xí)，綜合擴展性能較弱[6]。

針對上述傳統(tǒng)SOM 算法模型存在的問題，國內(nèi)外學(xué)者均提出了多種不同的改進方案，其中被大家熟知且應(yīng)用最為廣泛的是芬蘭學(xué)者Kohonen 建立的自組織特征映射神經(jīng)網(wǎng)絡(luò)（Self-Organizing Feature Map，SOFM）模型。該模型相對于傳統(tǒng)SOM 模型除了能夠解決上述問題外，其思想更為完整且算法處理效果更優(yōu)[7]。SOFM 模型在架構(gòu)上與傳統(tǒng)SOM 模型相似，均是由輸入層與競爭層組成，不同的是SOFM模型的競爭層優(yōu)化成了全互連的神經(jīng)元整列，其對應(yīng)的拓撲網(wǎng)絡(luò)架構(gòu)如圖2 所示。

圖2 SOFM網(wǎng)絡(luò)結(jié)構(gòu)

SOFM 模型的輸入層與SOM 相同，均為輸入對象對應(yīng)向量各元素神經(jīng)元的集合；而競爭層則是由n×n個神經(jīng)元所組成的二維全互連陣列。SOFM 模型將高維對象對應(yīng)的向量映射到二維平面上，且在網(wǎng)絡(luò)訓(xùn)練過程中將輸入向量的維度固定為所設(shè)置的初始值m。該m個神經(jīng)元與二維競爭層上的神經(jīng)元通過連接權(quán)值進行連接。競爭層中根據(jù)不斷的競爭學(xué)習(xí)使SOFM 模型的訓(xùn)練結(jié)果朝著最有利方向反復(fù)優(yōu)化。最終，得到唯一的最佳匹配神經(jīng)元[8]。在訓(xùn)練過程中，網(wǎng)絡(luò)模型會不斷地加強取勝的神經(jīng)元和處于取勝神經(jīng)元鄰域的神經(jīng)元，同時對其他的神經(jīng)元進行抑制[9]。其示意圖如圖3 所示。

圖3 模型競爭層訓(xùn)練示意圖

其中，二維競爭層上的神經(jīng)元均有與之對應(yīng)的正負號，代表著該神經(jīng)元在此次訓(xùn)練中是被加強或是被抑制（“+”代表加強，“-”代表抑制）。

2 數(shù)據(jù)建模

文中研究的目的是基于改進自組織神經(jīng)網(wǎng)絡(luò)模型對創(chuàng)業(yè)數(shù)據(jù)進行建模與仿真，進而實現(xiàn)創(chuàng)業(yè)數(shù)據(jù)智能評估。其數(shù)據(jù)建模過程如圖4 所示。

圖4 基于改進自組織神經(jīng)網(wǎng)絡(luò)模型的數(shù)據(jù)建模過程

上述過程可描述為：首先通過自組織特征映射神經(jīng)網(wǎng)絡(luò)SOFM 模型對研究對象的特征變量進行選擇與分類，使具有相似性的變量產(chǎn)生聚集，同時在其中選擇若干子集進行后續(xù)處理；然后利用Duplex算法將數(shù)據(jù)子集劃分為訓(xùn)練集、驗證集、測試集，再根據(jù)訓(xùn)練集建立回歸分析模型[10]；隨后利用驗證集對各模型的預(yù)測結(jié)果進行分析，并選擇其中的最優(yōu)模型計算對應(yīng)的誤差；最后根據(jù)得到的誤差計算最終共識模型各部分的權(quán)重，并利用加權(quán)的方法將預(yù)測集的結(jié)果進行組合，形成最后的共識作為評估結(jié)果[11]。

2.1 SOFM分類聚類過程

SOFM 模型應(yīng)用于分類聚類領(lǐng)域的算法流程如圖5 所示。聚類中常用相似度作為必要條件，把相似度高的元素聚集在一類，相似度低的元素則處于不同的類[12]。文中在設(shè)計時，用歐氏距離表示相似度。

圖5 SOFM算法流程

具體步驟為：

1）SOFM 模型各參數(shù)初始化，同時將連接權(quán)值設(shè)置為隨機值；

2）利用歐氏距離計算輸入層向量與競爭層神經(jīng)元之間的距離；

3）選擇歐氏距離最優(yōu)解對應(yīng)的神經(jīng)元作為最佳匹配神經(jīng)元；

4）根據(jù)最佳匹配神經(jīng)元調(diào)整步驟1）中的連接權(quán)值；

5）判斷是否滿足終止條件，若滿足，則輸出聚類結(jié)果，流程結(jié)束；若不滿足，則跳轉(zhuǎn)至步驟2），流程繼續(xù)。

2.2 建立回歸模型

目前常用的回歸模型分為兩大類[13]：線性算法和非線性算法。其中線性算法包括最小二乘法（LSM）、多元線性回歸等；而非線性算法則包括BP 神經(jīng)網(wǎng)絡(luò)、SVM 算法等。文中在考慮實際建模需求的情況下選用最小二乘法，即LSM 算法。該算法是統(tǒng)計學(xué)中的一種經(jīng)典算法，也被稱為最小平方法，其數(shù)學(xué)模型可簡單描述如下[14]：

y=Xb+c（1）

式中，y為響應(yīng)變量，X為對數(shù)據(jù)采樣所得到的樣本矩陣，b為回歸向量，c為偏差因子。

2.3 建立共識模型

共識模型的構(gòu)建可分為兩部分：1）選擇適合的建模方法，訓(xùn)練多個相互獨立的子模型；2）采用某種共識規(guī)則將上述模型進行組合，并得到最終的共識結(jié)果[15-16]。為了使共識模型更加準(zhǔn)確，在訓(xùn)練子模型時，要使最終的子模型具有一定的預(yù)測能力且互不關(guān)聯(lián)。而在對子模型進行組合時，也要采用最優(yōu)的關(guān)聯(lián)規(guī)則。建立共識模型的主要目的在于單個子模型所涉及的面相對較窄，而共識模型能在多個緯度上對數(shù)據(jù)的信息進行分析，同時還可降低噪聲等無關(guān)因素的影響。為此，文中建立了基于SOFM 的共識模型，如圖6 所示。

圖6 基于SOFM的共識模型

該模型的工作流程可描述為：

1）原始數(shù)據(jù)通過SOFM 模型選擇若干數(shù)據(jù)子集；

2）對每個樣本子集利用LSM 和BP 神經(jīng)網(wǎng)絡(luò)訓(xùn)練相應(yīng)的子模型；

3）利用模型評價參數(shù)對子模型進行評價，并選擇各數(shù)據(jù)子集中最優(yōu)的子模型；

4）通過共識規(guī)則將子模型進行組合，得到最終的共識模型。

3 仿真測試

為了驗證文中基于改進自組織神經(jīng)網(wǎng)絡(luò)的創(chuàng)業(yè)數(shù)據(jù)評估建模方法的有效性與可靠性，采用某高校近十年的創(chuàng)新創(chuàng)業(yè)原始數(shù)據(jù)集對所提出的建模仿真方法進行測試。

3.1 硬件配置

建模仿真實驗的硬件條件具體如表1 所示。

表1 建模仿真硬件條件

3.2 數(shù)據(jù)建模仿真

在上述硬件條件下，將原始數(shù)據(jù)集分為8 組，為了體現(xiàn)所提建模算法的優(yōu)勢，分別利用文中方法和文獻[16]中的方法進行建模，同時利用預(yù)測均方根誤差（RMSE）和標(biāo)準(zhǔn)差（SD）作為判別模型的標(biāo)準(zhǔn)。均方根誤差（RMSE）的值越小，模型的表現(xiàn)效果越優(yōu)；標(biāo)準(zhǔn)差（SD）的值越小，則對數(shù)據(jù)的預(yù)測越穩(wěn)定。兩種方法的建模結(jié)果分別如表2 和表3 所示。

表2 文中方法建模結(jié)果

表3 文獻[16]方法建模結(jié)果

由以上兩個表格的結(jié)果可以看出，文中建模方法的均方根誤差（RMSE）和標(biāo)準(zhǔn)差（SD）均小于文獻[16]中的建模方法，充分說明所提方法在模型準(zhǔn)確性和預(yù)測穩(wěn)定性上均優(yōu)于對比方法；同時該項測試驗證了文中所提方法的可行性與可靠性，并能夠為準(zhǔn)確地進行創(chuàng)業(yè)數(shù)據(jù)建模與仿真提供了重要參考。

4 結(jié)束語

文中基于改進自組織神經(jīng)網(wǎng)絡(luò)算法，提出了一種創(chuàng)業(yè)數(shù)據(jù)評估建模方法。該方法由SOFM 算法模塊、Duplex 算法模塊、回歸模型模塊和共識模塊4 部分組成，各部分相互配合共同完成創(chuàng)業(yè)數(shù)據(jù)的建模與仿真。為了驗證所提建模方法的有效性，文中設(shè)計了一組對照實驗，并以均方根誤差（RMSE）和標(biāo)準(zhǔn)差（SD）作為判別標(biāo)準(zhǔn)參數(shù)。測試結(jié)果說明，文中方法在模型準(zhǔn)確性和預(yù)測穩(wěn)定性上均優(yōu)于對比方法，驗證了所提方法在數(shù)據(jù)建模中的可行性。