淺析簡單神經網絡的發展及簡單模型

陳曉燕

摘要：隨著人工智能的興起和對深度學習的深入研究，神經網絡作為深度學習的算法之一，再次成為一個熱門的研究課題。近年來，隨著神經網絡研究的不斷推進，解決了很多領域中的一些瓶頸的問題，同時還體現出其良好的智能性。本文主要從人工神經網絡的發展歷史、結構和簡單模型等方面進行了講述。

關鍵詞：人工神經網絡;發展歷程;結構

中圖分類號：TP183 文獻標識碼：A 文章編號：1007-9416（2019）05-0223-02

0 引言

1956年，科學家麥卡錫和明斯基在美國相遇;在這次會面中他們提出“如何用機器模擬人類智能”，因此，“人工智能”的概念首次被提出，同時也標志著人工智能這一門學科的誕生。在此之后，“人工智能”的概念被迅速傳開。人工智能是指人類各種智力勞動或智能行為，如判斷、推理、證明、鑒定、感知、理解、交流、學習、解決問題等思維活動。它可以被一些智能機器人工實現。例如：語音識別、機器翻譯、圖像識別、人機對話、人機游戲、知識表示等。人工神經網絡作為人工智能中的重要算法，在模式識別、智能機器人、自動控制、預測估計、生物學、醫學、經濟學等領域都取得了重大突破。

1 人工神經網絡的發展

神經網絡的概念起源于Maiqialuoke和皮茨在1943年提出的“明迪克馬欽”想法，“明迪克馬欽”指的是一種類似生物神經元特征互連模型的機器。他們構建了一個神經元模型，它代表了大腦的基本組成部分，并顯示了邏輯系統的共性。隨著人工神經網絡研究的深入，研究目標從“腦機”轉變為“學習機”。這時，一個一直關注神經系統的科學家——Hebb提出來學習模型。直到20世紀60年代初，Widrow提出了自適應線性元素。

到了20世紀70年代，Grossberg和Kehuoen已經為神經網絡編碼的研究做出了重要的貢獻。通過生物學和心理學的一些知識，Grossberg提出了幾種具有新特性的非線性動態系統結構。Werbos在1970年代發展出反向繁殖的方法。在神經元的相互作用下，Huopufeierde引入了一個遞歸神經網絡，即著名的休普費爾德網絡。20世紀80年代中期，帕克和Lumeierhat重新發現了反向傳播算法。在過去的十年里，神經網絡已經應用到了人們生活的方方面面，包括圖像處理、信號處理、商業、醫藥等。

2 人工神經網絡的結構

基本處理單元的連接決定了神經元的結構。神經網絡僅由多個“神經元”組成，每個神經元包括多個輸入x1、x2 ……xn、偏移量和輸出。下面是這個簡單“神經元”的結構，如圖1所示。

這個"神經元"是一個x1，x2...xn和偏移Θ為輸入值的操作單元。其輸出為 f（t）=f（x1*wj1+x2*wj2+...+ xn*wjn-Θ）。其中，Θ是神經單元的偏置，wj是權重，神經元在權重為正時處于興奮狀態，在權重為負時處于抑制狀態。n是輸入的個數，yj是輸出，f（_）是“激發函數”，而激發函數通常是非線性函數，這樣就可以實現對各種復雜函數的逼近。常用的激發函數是二值函數、S形函數或雙曲切線函數。S形函數為：

雙曲正切函數為：

從函數表達式可以看出，S形函數的輸出總是位于x軸上方，雙曲切線函數的輸出可以位于x軸上方，也可以位于x軸下方。可以看出，這種單一的“神經元”輸入輸出映射關系實際上是一種邏輯回歸。

3 神經網絡模型

神經網絡將許多神經元連接在一起。這些神經元有一個單獨的輸出，并與其他神經元相連。一個神經元的輸出也可以作為另一個神經元的輸入，因此有許多不同的連接方法。不同的連接方法對應不同的權系數。輸入層、隱藏層和輸出層通常組成一個經典的神經網絡。輸入層和輸出層的節點經常固定，中間的隱藏層經常不固定。箭頭表示數據的傳輸的方向，如圖2所示。

由圖2可知，神經元的模型還可以看做一個有向圖：對于每個節點都存在一個狀任意兩個節點間的連線都含有權值wii，對于每個節點都存在一個閾值。在每個節點上定義了一個變換函數f（）。

4 人工神經網絡的學習算法

人工神經網絡主要包含三種學習算法：有師學習、無師學習和監督學習。

有師學習是指可以根據期望值與實際輸出之間的差異來改變權重，從而使實際結果接近期望的結果。因此，有師學習需要一位教師來提供期望的結果。無師的學習，即不需要提供期望和產出。只是向神經網絡提供輸入模式，神經網絡能自動適應具有相似特性的輸入并分組。增強學習仍然有教師，但教師并不提供期望值，而是當輸出正確的結果時給予相應的響應。

5 結語

人工智能不斷深入到各行各業，其身后的神經網絡算法所帶來的益處更是影響到了人們生活的各個方面。人工神經網絡獨特的非線性自適應信息處理能力已成功地應用于神經專家系統、模式識別、智能控制、組合優化、預測等領域。將人工神經網絡與其他研究方法相結合，將促進科技的快速發展。

參考文獻

[1] 李俊杰.淺談人工智能在生活中的應用[J].科技風，2019（15）：84.