TensorFlow中不同神經(jīng)網(wǎng)絡模型對MNIST數(shù)據(jù)集影響研究

摘 要：在TensorFlow中，神經(jīng)網(wǎng)絡模型對訓練數(shù)據(jù)的效果有很大的影響。在與圖像數(shù)據(jù)相關的模型中有幾種訓練數(shù)據(jù)模型：深度神經(jīng)網(wǎng)絡模型、非線性神經(jīng)網(wǎng)絡模型、多層神經(jīng)網(wǎng)絡模型，它們對不同類型的數(shù)據(jù)集有不同的影響。MNSIT集是神經(jīng)網(wǎng)絡模型性能檢驗的常用數(shù)據(jù)集，不同的神經(jīng)網(wǎng)絡模型在數(shù)據(jù)集上有不同的結果。

關鍵詞：MNIST集；神經(jīng)網(wǎng)絡模型

中圖分類號：TP183；TP391.41 文獻標識碼：A 文章編號：2096-4706（2018）11-0075-03

Research on Influence of Different Neural Network Models on

MNIST Data Set in TensorFlow

FAN Minghao

（Zhejiang Sci-Tech University，Hangzhou 310018，China）

Abstract：In TensorFlow，neural network model has great influence on the result of training data. In the training related to image data，there are several training data models：deep neural network model，nonlinear neural network model，multi-layer neural network model，they have different influence on different types of data sets. The MNSIT sets is the common data set for neural network model performance checking，and different neural network models have different results on the data set.

Keywords：MNIST sets；neural network model

1 MNIST數(shù)據(jù)集

在機器學習中，神經(jīng)網(wǎng)絡為了實現(xiàn)某項功能，就必須在已經(jīng)建立的神經(jīng)網(wǎng)絡中輸入大量的數(shù)據(jù)，使用者的目的不同，輸入數(shù)據(jù)也不盡相同。在關于神經(jīng)網(wǎng)絡的學習中，MNSIT數(shù)據(jù)集是基本的入門數(shù)據(jù)集，它是由70000張手寫數(shù)字的圖片封裝而來。在MNSIT數(shù)據(jù)集中它又被分為60000張訓練數(shù)據(jù)集，以及10000張測試數(shù)據(jù)集。

在神經(jīng)網(wǎng)絡模型驗證和測試中，MNIST數(shù)據(jù)集具有一定的代表性，通過使用MNSIT數(shù)據(jù)集可以很好地看出不同的神經(jīng)網(wǎng)絡模型的性能。

2 深層神經(jīng)網(wǎng)絡

深層神經(jīng)網(wǎng)絡是基于淺層神經(jīng)網(wǎng)絡而言的，他們的不同之處就在于深層神經(jīng)網(wǎng)絡具有兩個重要的特性——多層和非線性。

2.1 淺層神經(jīng)網(wǎng)絡的缺點

在淺層神經(jīng)網(wǎng)絡中僅有輸入層、輸出層和一層未加激活函數(shù)的隱藏層。根據(jù)計算公式：y=Σwixi+b，可以看出，淺層神經(jīng)網(wǎng)絡是簡單的線性函數(shù)，對于復雜的非線性情況無法很好地進行處理。而且在線性模型中，無論增加多少隱藏層，通過公式：y=x·W1·W2…Wn=x·W’，可以看出其最終都會化簡成為一個新的單層神經(jīng)網(wǎng)絡，這樣就無法發(fā)揮多層神經(jīng)網(wǎng)絡的優(yōu)勢。……