基于知識的神經(jīng)網(wǎng)絡(luò)在出行方式選擇中的應(yīng)用研究

摘 要：針對神經(jīng)網(wǎng)絡(luò)和決策樹方法在算法上的本質(zhì)聯(lián)系和互補優(yōu)勢，將C4.5決策樹提取規(guī)則的基于知識的神經(jīng)網(wǎng)絡(luò)（knowledgebased neural network，KBNN）用于出行方式預(yù)測。對居民通勤出行方式選擇數(shù)據(jù)的分析表明，KBNN相比于決策樹方法、普通前饋神經(jīng)網(wǎng)絡(luò)和多項Logit模型（MNL）有更高的預(yù)測精度，方法不僅提高了網(wǎng)絡(luò)的可解釋性，且易于構(gòu)造、收斂速度更快，實用性較強，為出行方式選擇預(yù)測提供了新的思路。

關(guān)鍵詞：出行方式選擇；神經(jīng)網(wǎng)絡(luò)；決策樹；基于知識的神經(jīng)網(wǎng)絡(luò)；多項Logit模型

中圖分類號：TP183 文獻標志碼：A

文章編號：1001-3695(2008)09-2651-04

Research of travel mode choice with knowledgebased neural network

XIANYU Jianchuan，JUAN Zhicai

(College of Antai Economics Management， Shanghai Jiaotong University， Shanghai 200052， China)

Abstract:Based on the similarity between neural network and decision tree， the method of knowledgebased neural network (KBNN) combined the rule induction of decision tree and the accurate approximation of neural network.This research showed how to construct a neural network based on rules from a decision tree generated by C4.5 method. A network built by this method and models based on decision tree， neural network and multinomial Logit (MNL) were specified， estimated and comparatively evaluated. The prediction results show that decision tree and neural network models offer slightly better performance than MNL model and the KBNN model demonstrates highest performance. The analysis of actual investigation data shows that the model has fast convergence and high precision， which is of great importance for travel mode choice prediction.

Key words:travel mode choice; neural network; decision tree; knowledgebased neural network; multinomial Logit(MNL)

出行方式選擇預(yù)測方法一直是出行行為研究領(lǐng)域的重要課題，預(yù)測結(jié)果直接影響到交通需求管理和交通控制策略的有效實施。自19世紀70年代MNL模型出現(xiàn)以來^[1]，基于效用最大化理論的離散選擇模型，因其數(shù)據(jù)利用率高、可移植性強、能夠完成對不同出行者群體的政策影響評價等優(yōu)點而在方式選擇分析中得到了廣泛應(yīng)用^[2~4]。然而研究人員也發(fā)現(xiàn)離散選擇模型有其自身的弱點：模型的固定結(jié)構(gòu)往往忽略了解釋變量之間以及對特定群體分析中選擇方案之間的相互關(guān)系，模型的線性效用函數(shù)不能全面地表征解釋變量之間、解釋變量和被解釋變量之間的相互聯(lián)系^[5]。

近年來，人工智能和機器學習領(lǐng)域的研究成果為出行行為研究提供了新的思路。研究表明決策樹

(decision tree，DT)^[6~8]和神經(jīng)網(wǎng)絡(luò)（neural network，NN）^[9，10]等數(shù)據(jù)挖掘方法能夠靈活地表征方案屬性和選擇結(jié)果之間的相互關(guān)系，從樣本數(shù)據(jù)中學習、識別和提取模式特征，并且能夠通過計算過程提高對噪聲數(shù)據(jù)的自適應(yīng)能力，在出行行為預(yù)測中，相對于傳統(tǒng)的Logit類模型有明顯的優(yōu)勢。

1 基于知識的神經(jīng)網(wǎng)絡(luò)

神經(jīng)網(wǎng)絡(luò)是構(gòu)成KBNN的基礎(chǔ)。然而NN的層數(shù)、各層節(jié)點數(shù)、網(wǎng)絡(luò)權(quán)值和閾值等參數(shù)的確定，目前還沒有一個通用的方法，網(wǎng)絡(luò)的學習結(jié)果易受初始參數(shù)的影響，不利于對具體問題的分析解釋^[11]。針對上述問題，國內(nèi)外不少學者就如何從神經(jīng)網(wǎng)絡(luò)中抽取規(guī)則進行了探討^[12~14]。其中KBNN在提高神經(jīng)網(wǎng)絡(luò)計算性能方面效果頗為顯著，已成為一種較好的神經(jīng)網(wǎng)絡(luò)構(gòu)造方式^[15]。KBNN最早由Towell等人提出，是一種根據(jù)已獲得的知識規(guī)則構(gòu)造的神經(jīng)網(wǎng)絡(luò)，而規(guī)則的獲取主要有兩種方式：來自專家系統(tǒng)的經(jīng)驗和從數(shù)據(jù)中提取的規(guī)則^[15]。從數(shù)據(jù)中提取規(guī)則方面，借助前饋網(wǎng)絡(luò)和分類決策樹在功能上的互補性，利用決策樹來確定網(wǎng)絡(luò)結(jié)構(gòu)、隱層數(shù)、隱層節(jié)點數(shù)及網(wǎng)絡(luò)參數(shù)的初始化方法能有效構(gòu)建網(wǎng)絡(luò)結(jié)構(gòu)，并能提高網(wǎng)絡(luò)學習速度和泛化能力^[16]。針對上述背景，本文首先利用決策樹方法提取規(guī)則構(gòu)造KBNN，然后以通勤出行方式選擇為例，通過KBNN與普通前饋神經(jīng)網(wǎng)絡(luò)、決策樹算法和MNL模型在預(yù)測精度和模型可解釋性方面的比較，分析方法用于出行方式預(yù)測的優(yōu)勢。

2 基于決策樹的KBNN的構(gòu)造

決策樹的生成是從根節(jié)點開始，自上而下的遞歸過程。其分類的實質(zhì)是對數(shù)據(jù)樣本屬性特征進行測試，選擇其中信息增益最大的屬性對樣本進行劃分，并以這些屬性及其相應(yīng)取值形成分類邊界，得到從根節(jié)點到葉節(jié)點的不同路徑。每條路徑對應(yīng)一條分類規(guī)則，而整棵樹則對應(yīng)一組析取表達式規(guī)則。多層前饋神經(jīng)網(wǎng)絡(luò)與決策樹方法在本質(zhì)上的對應(yīng)關(guān)系^[15]（表1）為利用決策樹抽取規(guī)則研究神經(jīng)網(wǎng)絡(luò)學習過程提供了有利條件。下面以一個異或問題為例（圖1），結(jié)合具有連續(xù)屬性神經(jīng)網(wǎng)絡(luò)設(shè)計的超平面方法^[18]，說明決策樹規(guī)則下基于知識的神經(jīng)網(wǎng)絡(luò)的構(gòu)造方法。

a）根據(jù)進入決策樹規(guī)則集的屬性變量的個數(shù)預(yù)設(shè)網(wǎng)絡(luò)輸入層節(jié)點數(shù)。本例中，feature1、feature2、feature3三個屬性特征與神經(jīng)網(wǎng)絡(luò)輸入層的三個節(jié)點相對應(yīng)。

b）將以if A≥a ∧…∧B≤b then class is I形式表示準則的條件改寫為(A-a)≥0 ∧…∧(B-b)≤0的形式。其中(A-a)為簡單超平面。選擇改寫后的條件中互不重復(fù)的簡單超平面表達式，以表達式個數(shù)為節(jié)點數(shù)構(gòu)造網(wǎng)絡(luò)第一隱層。本例中的三個超平面為feature1-2≥0，feature2-0.3≥0，feature3-0.5≤0，與網(wǎng)絡(luò)第一隱層（超平面層）的三個節(jié)點相對應(yīng)。

c）由決策樹的葉節(jié)點和分類類別數(shù)確定神經(jīng)網(wǎng)絡(luò)第二隱層和輸出層節(jié)點數(shù)。本例中有四個葉節(jié)點，對應(yīng)神經(jīng)網(wǎng)絡(luò)第二隱層（規(guī)則層）四個節(jié)點；三個分類類別對應(yīng)神經(jīng)網(wǎng)絡(luò)三個輸出節(jié)點。

d）以Towell等人^[15]提出的兩條定理為依據(jù)，設(shè)定神經(jīng)網(wǎng)絡(luò)各參數(shù)的初值。

定理1 按下面的公式選擇權(quán)值和閾值的神經(jīng)網(wǎng)絡(luò)能夠映射前提數(shù)充分小的合取決策規(guī)則：ωp=-ωn=ω＞0(1)

θ=-(2P-1)ω/2(2)

其中：ωp為與決策規(guī)則中肯定前提對應(yīng)的連接權(quán)；ωn為與決策規(guī)則中否定前提對應(yīng)的連接權(quán)；θ為神經(jīng)元閾值；P為神經(jīng)元連接中肯定前提的個數(shù)。

定理2 按下面的公式選擇權(quán)值和閾值的神經(jīng)網(wǎng)絡(luò)能夠映射前提數(shù)充分小的析取決策規(guī)則：ωp=ω＞0(3)

θ=-ω/2(4)

其中各參數(shù)的含義同定理1。

輸入層與第一隱層神經(jīng)元間的初始連接權(quán)重對應(yīng)超平面與各屬性的連接，有連接關(guān)系的為1，否則為0。第一隱層神經(jīng)元的閾值初始化為超平面的常數(shù)項；第二隱層起到“與”的作用，每個神經(jīng)元對應(yīng)決策樹中的一條分類規(guī)則。由定理1，前提條件為肯定判斷的，連接權(quán)初始化為ω；前提條件為否定判斷的，連接權(quán)初始化為-ω。第二隱層神經(jīng)元的閾值初始化為-(2P-1) ω/2；輸出層神經(jīng)元起到“或”的作用，對應(yīng)各種決策類別。由定理2，連接權(quán)初始化為ω，神經(jīng)元的閾值初始化為-ω/2，而ω的取值需要試探^[16]。

這一參數(shù)的初始化方法比隨機分配的權(quán)重和偏置的初值更利于網(wǎng)絡(luò)的訓練，能夠提高網(wǎng)絡(luò)收斂速度。按上述規(guī)則，圖1中的異或問題就映射到了圖2中的神經(jīng)網(wǎng)絡(luò)。圖2中的實線表示有非零初始連接權(quán)，虛線表示初始連接權(quán)為零。

構(gòu)造決策樹時，有部分屬性未使用，其中可能有對分類決策有效的屬性，所以需要增加構(gòu)造決策樹時未使用的屬性特征，擴展網(wǎng)絡(luò)隱層節(jié)點。這些新增輸入節(jié)點連接權(quán)的初值和閾值可隨機設(shè)定。

e）網(wǎng)絡(luò)訓練。根據(jù)各種經(jīng)典的神經(jīng)網(wǎng)絡(luò)訓練方法，完成對所構(gòu)造KBNN的訓練，用于對未知樣本數(shù)據(jù)的預(yù)測。

3 KBNN用于出行方式選擇

3.1 建模數(shù)據(jù)

以某市2004年人口出行調(diào)查數(shù)據(jù)庫為數(shù)據(jù)來源，研究被調(diào)查的上下班通勤出行者對步行、自行車、助動車、公共交通、小汽車五種方式的選擇情況。用于建模的通勤者數(shù)據(jù)共1 391人，首先按出行方式歸類。每一類的80%作為訓練樣本，另20%作為測試樣本。合并后的訓練集中，不同出行方式樣本作隨機排列。樣本數(shù)據(jù)的方式劃分情況如表2所示。

表2 樣本統(tǒng)計表

出行方式訓練集測試集

步行(M1) 134 (12.04%)33 (11.87%)

自行車(M2)322(28.93%)81(29.14%)

助動車(M3)84(7.55%)21(7.55%)

公共交通(M4)527(47.35%)132 (47.48%)

小汽車(M5)46(4.13%)11 (3.96%)

合計1 113(100%)278 (100%)

通勤出行方式選擇主要受到出行者及其家庭的社會經(jīng)濟屬性、運輸系統(tǒng)屬性、通勤出行自身特性等因素的影響。為此模型選擇12個變量作為輸入，如表3所示，輸出層五個節(jié)點與五種通勤方式對應(yīng)。采用傳統(tǒng)的BP算法進行訓練，輸出類別采用勝者為王的方式確定，輸出值最大節(jié)點對應(yīng)的類別為輸出類別。

表3 輸入變量表

變量名定義類型

性別(xb) 0—女；1—男名義變量

年齡(nl)周歲數(shù)值變量

教育程度(edu)1—小學及以下；2—初中；3—高中；

4—專科；5—本科；6—研究生及以上名義變量

職業(yè)(zhy)1—單位負責人；2—專業(yè)技術(shù)人員；

3—辦事人員；4—商業(yè)服務(wù)人員；

5—農(nóng)林牧漁水利生成人員；6—生成運輸設(shè)備操作人員；名義變量

人均自行車(rjzx)擁有自行車臺數(shù)與通勤成員數(shù)之比名義變量

人均助動車(rjzd)擁有助動車臺數(shù)與通勤成員數(shù)之比名義變量

人均小汽車(rjxq) 擁有小汽車臺數(shù)與通勤成員數(shù)之比名義變量

通勤成員數(shù)(tq)0—通勤成員數(shù)為1； 1—通勤成員數(shù)大于1名義變量

人均收入(ainc)家庭總收入（元）與家庭成員數(shù)之比數(shù)值變量

月均收入(minc)通勤者月平均收入（元）數(shù)值變量

公休日(gxr)0—有固定公休日；1—無固定公休日 名義變量

通勤距離(dis)家到單位距離/km數(shù)值變量

3.2 網(wǎng)絡(luò)結(jié)構(gòu)

將表3中的12個屬性變量作為KBNN的輸入，利用C4.5算法生成規(guī)則選擇適當?shù)木群鸵?guī)模生成的經(jīng)過裁減的決策樹如圖3所示。根據(jù)構(gòu)造KBNN的規(guī)則，提取其中互不重復(fù)的10個簡單超平面表達式，即rjzx0.5、rjzd0、rjzd1、rjxq-0、xb1、ainc1500、minc-3500、dis1、dis-2.5、dis-8。然后構(gòu)造一個輸入層有12個節(jié)點、超平面層（第一隱層）有10個節(jié)點、規(guī)則層（第二隱層）有12個節(jié)點、輸出層有5個節(jié)點的神經(jīng)網(wǎng)絡(luò)。按前述方法初始化連接權(quán)重和閾值，得到用于預(yù)測通勤出行方式選擇的KBNN。為驗證所構(gòu)造KBNN的預(yù)測精度，將相同的訓練集和測試集分別用于C4.5算法決策樹、BP神經(jīng)網(wǎng)絡(luò)和MNL模型。

3.3 出行方式的識別與分類

下面通過KNBB模型與決策樹方法、普通前饋神經(jīng)網(wǎng)絡(luò)和MNL模型對出行方式預(yù)測效果的比較，分析KNBB模型用于方式選擇分析的特點和優(yōu)勢。

建立用于出行方式預(yù)測的決策樹模型。訓練集用C4.5算法構(gòu)造并裁減得到如圖3所示的決策樹，其預(yù)測結(jié)果如表4所示。從表中可知，決策樹無論是對訓練樣本還是測試樣本的預(yù)測精度都比較有限。

表4 四種方法結(jié)果比較

方法超平面節(jié)點數(shù) 規(guī)則層節(jié)點數(shù) 隱層節(jié)點數(shù) 訓練次數(shù)訓練精度測試精度

C4.579.2%82.7%

BP22 5 00073.5%81.3%

MNL 70.1%74.4%

KBNN10122 10082.66% 85.6%

普通前饋神經(jīng)網(wǎng)絡(luò)采用單隱層BP神經(jīng)網(wǎng)絡(luò)。為便于比較，設(shè)定隱層神經(jīng)元為22個，對應(yīng)于KBNN超平面層和規(guī)則層神經(jīng)元數(shù)之和。BP網(wǎng)的傳遞函數(shù)也采用式(7)所示函數(shù)。BP網(wǎng)的連接權(quán)重和閾值的初始化隨機完成。

用于出行方式預(yù)測的MNL模型以步行方式為基準，以出行者家庭和個人的社會經(jīng)濟屬性為解釋變量。用訓練集樣本數(shù)據(jù)對模型參數(shù)的標定如表5所示。其中變量定義同表3。

表5 MNL模型參數(shù)標定結(jié)果

選擇方案固有常數(shù)參數(shù)估計值t statistic

M21.139 47.157

M31.045 56.217

M41.167 16.500

M50.912 57.198

M2影響變量

dis-0.000 2-2.816

ainc-0.000 2-3.110

age0.027 12.427

edu1/edu2/edu3高中以下學歷0.252 81.938

M3影響變量

rjzx+rjzd+rjxq0.825 63.314

age0.039 72.032

M4影響變量

zhy4商業(yè)服務(wù)人員-0.553 4-1.970

edu1/edu2/edu3高中以下學歷-0.323 8-2.469

gxr-0.272 9-5.017

rjzx+rjzd+rjxq-0.163 9-4.515

M5影響變量

zhy1單位負責人0.997 43.472

edu3高中學歷-0.904 3-2.003

rjzx+rjzd+rjxq1.167 12.216

Number of cases=1 113；LL(0)=-1 791.304 4

LL(c)=-930.198 8；LL(β^)=-826.944 2

-2[LL(0)-LL(β^)]=1 928.720 4

-2[LL(c)-LL(β^)]=206.409 2；ρ20=0.538 4

從四種模型方法預(yù)測結(jié)果（表4）的比較可以看出，KBNN的訓練精度和預(yù)測精度是四種方法中最高的，而C4.5決策樹和BP網(wǎng)絡(luò)都較MNL模型有更高的訓練和測試精度。相比于BP網(wǎng)絡(luò)，KBNN不僅訓練精度有所提高，而且訓練次數(shù)大大減少。由于BP神經(jīng)網(wǎng)絡(luò)的初始連接權(quán)重和閾值都是隨機選取的，需要訓練多次才能得到一個訓練精度和測試精度都比較高的網(wǎng)絡(luò)。即使訓練次數(shù)較大、預(yù)測精度較高的BP神經(jīng)網(wǎng)絡(luò)的預(yù)測能力也與KBNN有一定差距；相比于C4.5決策樹，KBNN方法通過增加輸入特征變量、調(diào)整已獲得的超平面、調(diào)整各層之間的連接方式、連接權(quán)重和閾值得到了對訓練集和測試集的更高預(yù)測精度；相比于MNL模型，KBNN方法的訓練精度和預(yù)測精度也都有明顯提高。

表6和7分別列出了KBNN對訓練集和測試集的預(yù)測結(jié)果。無論是測試集還是訓練集，網(wǎng)絡(luò)對助動車、公共交通和小汽車方式有更好的識別能力；而步行和自行車方式的相似性比較大，網(wǎng)絡(luò)對這兩類方式的識別能力較弱。對助動車、公共交通和小汽車三種方式的樣本，其錯誤預(yù)測的結(jié)果也都分布在這三種方式內(nèi)部。這種預(yù)測結(jié)果是合理的，因為相對于步行和自行車方式，助動車、公共交通和小汽車方式都屬于機動出行方式，在出行距離和出行時間消耗特征上更為相似。網(wǎng)絡(luò)對全體樣本的個體預(yù)測率為83.25%，對五種方式的群體預(yù)測率分別為91.6%、105.96%、115.24%、96.81%、91.23%。從群體預(yù)測率看，網(wǎng)絡(luò)對自行車和助動車的預(yù)測率偏高，而對另三種方式的預(yù)測率則偏低。

表6 KBNN對訓練樣本預(yù)測結(jié)果

M1(120)M2(346)M3(100)M4(506)M5(41)

M1(134)1096710081.3489.55

M2(322)10257456079.81107.45

M3(84)0237410088.10119.05

M4(527)1020440183.4996.02

M5(46)00004086.9689.13

表7 KBNN對測試樣本預(yù)測結(jié)果

樣本預(yù)測結(jié)果

M1(33)M2(81)M3(21)M4(132)M5(11)

M1(33)27500081.82100

M2(81)465010080.25100

M3(21)002170100100

M4(132)2110115187.12100

M5(11)00001090.91100

4 結(jié)束語

決策樹規(guī)則下基于知識的神經(jīng)網(wǎng)絡(luò)，首先利用C4.5決策樹方法確定神經(jīng)網(wǎng)絡(luò)的各層神經(jīng)元數(shù)目、神經(jīng)元之間的連接方式、網(wǎng)絡(luò)連接權(quán)重和閾值的初始化參數(shù)，然后用一般BP網(wǎng)絡(luò)的訓練算法完成網(wǎng)絡(luò)的學習過程。這一方法既利用了決策樹能夠產(chǎn)生規(guī)模較小的規(guī)則集的能力，又利用了神經(jīng)網(wǎng)絡(luò)較強的容錯能力和精確的逼近能力，能夠在一定程度上彌補決策樹裁減所損失的預(yù)測精度，又能為網(wǎng)絡(luò)結(jié)構(gòu)設(shè)定、網(wǎng)絡(luò)參數(shù)的初始化提供更多的指導(dǎo)，同時還提高了網(wǎng)絡(luò)的可理解性。城市居民出行方式選擇是一個復(fù)雜的非線性系統(tǒng)，KBNN具有很好的非線性映射能力，在通勤出行方式選擇中的應(yīng)用表明，構(gòu)造的網(wǎng)絡(luò)在個體預(yù)測和群體預(yù)測上都比普通的決策樹、BP神經(jīng)網(wǎng)絡(luò)和MNL模型更為準確，實用性較強。更為重要的是，KBNN更加易于構(gòu)造，學習速度和泛化能力更好。

然而，由于決策樹算法自身的特點也造成了所提出的KBNN構(gòu)造方法的一些缺陷：a）當樣本類別較多、分類問題較復(fù)雜時，決策樹過于龐大，網(wǎng)絡(luò)超平面層和規(guī)則層神經(jīng)元過多，這時需要按一定精度和網(wǎng)絡(luò)規(guī)模選擇超平面和分類規(guī)則得到合理的網(wǎng)絡(luò)結(jié)構(gòu)。b）在輸入屬性特征中有一部分可能是對分類結(jié)果有影響而在構(gòu)建決策樹時沒用到的，為此需要擴展從決策樹規(guī)則中得到的隱層節(jié)點，探討這些節(jié)點與輸入層、輸出層節(jié)點的連接方式和初始連接參數(shù)的選取。c）將KBNN方法與離散選擇建模思想結(jié)合，增強模型的行為學基礎(chǔ)。為了提高KBNN算法的預(yù)測能力和預(yù)測結(jié)果的可解釋性，還需要在上述幾個方面作進一步的研究。

參考文獻：

［1］DANIEL L，F(xiàn)ADDEN M C.Conditional Logit analysis of qualitative choice behavior[C]//Frontiers in Econometrics.New York:Academic Press，1973.

[2]CAO L.A model for travel mode switching[R].New Jersey:New Jersey Institute of Technology，1998.

[3]SASCHA H，ROB V N，SERGE H，et al.Homeactivity approach to multimodal travel choice modeling[C]//Proc of the 85th Transportation Research Board Annual Meeting.Washington DC:National Academy Press，2006:180187.

[4]ERIC J M，MATTHEW J R，JUAN A C.A tourbased model of travel mode choice[C]//Proc of the 10th International Conference on Travel Behavior Research.Netherlands:Springer，2003：399-422.

[5]XIE Chi，LU Jinyang，EMILY P.Work travel mode choice modeling using data mining: decision trees and neural networks[C]//Proc of the 82nd Transportation Research Board Annual Meeting.Washington DC:[s.n.]，2003:50-61.

[6]GEERT W，KEON V，THEO A，et al.Identifying decision structure underlying activity patterns: an exploration of data mining algorithms[J].Transportation Research Record，2000，1718:1-9.

[7]THILL J C，AARON W.Tree induction of spatial choice behavior[J].Transportation Research Record，2000，1719:250-258.

[8]YAMAMOTO T R，KITAMURA R，F(xiàn)UJI J.Driver’s route choice behavior: analysis by data mining algorithms[J].Transportation Research Record，2002，1807:59-66.

[9]ABOLFAZL M，ERIC J M.Nested Logit models and artificial neural networks for predicting household automobile choices: comparison of performance[J].Transportation Research Record，2002，1807:92100.

[10]DAVID A H，TU T T.A comparison of the predictive potential of artificial neural networks and nested logit models for commuter mode choice[J].Transportation Research Part E，2000，36(3):155172.

[11]王文成.神經(jīng)網(wǎng)絡(luò)及其在汽車工程中的應(yīng)用[M].北京：北京理工大學出版社， 1998.

[12]張麗平，閆德勤，張鳳梅.一種基于神經(jīng)網(wǎng)絡(luò)規(guī)則提取的新方法[J].計算機工程與應(yīng)用，2006，42(29)：180183.

[13]王濤，孟慶春，殷波，等.神經(jīng)網(wǎng)絡(luò)規(guī)則提取及其在特征帶識別中的應(yīng)用[J].數(shù)據(jù)采集與處理，2003，18(1)：1216.

[14]LI Renpu，WANG Zhengou.Mining classification rules using rough sets and neural networks[J].European Journal of Operational Research，2004，157(2): 439-448.

[15]TOWELL G G，SHAVLIK J W.Knowledgebased artificial neural networks[J].Artificial Intelligence，1994，70(1-2):119165.

[16]李愛軍，羅四維，黃華，等.基于決策樹的神經(jīng)網(wǎng)絡(luò)[J].計算機研究與發(fā)展，2005，42(8)：13121317.

[17]SON N H，SZCZUKA M S，SLEZAK D.Neural networks design: rough set approach to continuous data[C]//Proc of the 1st European Symposiam on Principles of Data Mining and Knowledge Discovery.London:SpringerVerlag，1997:359-366.