人工神經(jīng)網(wǎng)絡模型主要考慮網(wǎng)絡連接的拓撲結構、神經(jīng)元的特征、學習規(guī)則等。目前，已有近40種神經(jīng)網(wǎng)絡模型，其中有反傳網(wǎng)絡、感知器、自組織映射、Hopfield網(wǎng)絡、波耳茲曼機、適應諧振理論等。根據(jù)連接的拓撲結構，神經(jīng)網(wǎng)絡模型可以分為：

（1）前向網(wǎng)絡 網(wǎng)絡中各個神經(jīng)元接受前一級的輸入，并輸出到下一級，網(wǎng)絡中沒有反饋，可以用一個有向無環(huán)路圖表示。這種網(wǎng)絡實現(xiàn)信號從輸入空間到輸出空間的變換，它的信息處理能力來自于簡單非線性函數(shù)的多次復合。網(wǎng)絡結構簡單，易于實現(xiàn)。反傳網(wǎng)絡是一種典型的前向網(wǎng)絡。

（2）反饋網(wǎng)絡 網(wǎng)絡內神經(jīng)元間有反饋，可以用一個無向的完備圖表示。這種神經(jīng)網(wǎng)絡的信息處理是狀態(tài)的變換，可以用動力學系統(tǒng)理論處理。系統(tǒng)的穩(wěn)定性與聯(lián)想記憶功能有密切關系。Hopfield網(wǎng)絡、波耳茲曼機均屬于這種類型。

學習是神經(jīng)網(wǎng)絡研究的一個重要內容，它的適應性是通過學習實現(xiàn)的。根據(jù)環(huán)境的變化，對權值進行調整，改善系統(tǒng)的行為。由Hebb提出的Hebb學習規(guī)則為神經(jīng)網(wǎng)絡的學習算法奠定了基礎。Hebb規(guī)則認為學習過程最終發(fā)生在神經(jīng)元之間的突觸部位，突觸的聯(lián)系強度隨著突觸前后神經(jīng)元的活動而變化。在此基礎上，人們提出了各種學習規(guī)則和算法，以適應不同網(wǎng)絡模型的需要。有效的學習算法，使得神經(jīng)網(wǎng)絡能夠通過連接權值的調整，構造客觀世界的內在表示，形成具有特色的信息處理方法，信息存儲和處理體現(xiàn)在網(wǎng)絡的連接中。

根據(jù)學習環(huán)境不同，神經(jīng)網(wǎng)絡的學習方式可分為監(jiān)督學習和非監(jiān)督學習。在監(jiān)督學習中，將訓練樣本的數(shù)據(jù)加到網(wǎng)絡輸入端，同時將相應的期望輸出與網(wǎng)絡輸出相比較，得到誤差信號，以此控制權值連接強度的調整，經(jīng)多次訓練后收斂到一個確定的權值。當樣本情況發(fā)生變化時，經(jīng)學習可以修改權值以適應新的環(huán)境。使用監(jiān)督學習的神經(jīng)網(wǎng)絡模型有反傳網(wǎng)絡、感知器等。非監(jiān)督學習時，事先不給定標準樣本，直接將網(wǎng)絡置于環(huán)境之中，學習階段與工作階段成為一體。此時，學習規(guī)律的變化服從連接權值的演變方程。非監(jiān)督學習最簡單的例子是Hebb學習規(guī)則。競爭學習規(guī)則是一個更復雜的非監(jiān)督學習的例子，它是根據(jù)已建立的聚類進行權值調整。自組織映射、適應諧振理論網(wǎng)絡等都是與競爭學習有關的典型模型。

研究神經(jīng)網(wǎng)絡的非線性動力學性質，主要采用動力學系統(tǒng)理論、非線性規(guī)劃理論和統(tǒng)計理論，來分析神經(jīng)網(wǎng)絡的演化過程和吸引子的性質，探索神經(jīng)網(wǎng)絡的協(xié)同行為和集體計算功能，了解神經(jīng)信息處理機制。為了探討神經(jīng)網(wǎng)絡在整體性和模糊性方面處理信息的可能，混沌理論的概念和方法將會發(fā)揮作用。混沌是一個相當難以精確定義的數(shù)學概念。一般而言，“混沌”是指由確定性方程描述的動力學系統(tǒng)中表現(xiàn)出的非確定性行為，或稱之為確定的隨機性?！按_定性”是因為它由內在的原因而不是外來的噪聲或干擾所產(chǎn)生，而“隨機性”是指其不規(guī)則的、不能預測的行為，只可能用統(tǒng)計的方法描述?；煦鐒恿W系統(tǒng)的主要特征是其狀態(tài)對初始條件的靈敏依賴性，混沌反映其內在的隨機性?；煦缋碚撌侵该枋鼍哂谢煦缧袨榈姆蔷€性動力學系統(tǒng)的基本理論、概念、方法，它把動力學系統(tǒng)的復雜行為理解為其自身與其在同外界進行物質、能量和信息交換過程中內在的有結構的行為，而不是外來的和偶然的行為，混沌狀態(tài)是一種定態(tài)。混沌動力學系統(tǒng)的定態(tài)包括：靜止、平穩(wěn)量、周期性、準同期性和混沌解?；煦畿壘€是整體上穩(wěn)定與局部不穩(wěn)定相結合的結果，稱之為奇異吸引子。一個奇異吸引子有如下一些特征：（1）奇異吸引子是一個吸引子，但它既不是不動點，也不是周期解；（2）奇異吸引子是不可分割的，即不能分為兩個以及兩個以上的吸引子；（3）它對初始值十分敏感，不同的初始值會導致極不相同的行為。

人工神經(jīng)網(wǎng)絡-優(yōu)越性

工神經(jīng)網(wǎng)絡的特點和優(yōu)越性，主要表現(xiàn)在三個方面：

第一，具有自學習功能。例如實現(xiàn)圖像識別時，只在先把許多不同的圖像樣板和對應的應識別的結果輸入人工神經(jīng)網(wǎng)絡，網(wǎng)絡就會通過自學習功能，慢慢學會識別類似的圖像。自學習功能對于預測有特別重要的意義。預期未來的人工神經(jīng)網(wǎng)絡計算機將為人類提供經(jīng)濟預測、市場預測、效益預測，其應用前途是很遠大的。

第二，具有聯(lián)想存儲功能。用人工神經(jīng)網(wǎng)絡的反饋網(wǎng)絡就可以實現(xiàn)這種聯(lián)想。

第三，具有高速尋找優(yōu)化解的能力。尋找一個復雜問題的優(yōu)化解，往往需要很大的計算量，利用一個針對某問題而設計的反饋型人工神經(jīng)網(wǎng)絡，發(fā)揮計算機的高速運算能力，可能很快找到優(yōu)化解。

人工神經(jīng)網(wǎng)絡-研究方向

神經(jīng)網(wǎng)絡的研究可以分為理論研究和應用研究兩大方面。

理論研究可分為以下兩類：

1、利用神經(jīng)生理與認知科學研究人類思維以及智能機理。

2、利用神經(jīng)基礎理論的研究成果，用數(shù)理方法探索功能更加完善、性能更加優(yōu)越的神經(jīng)網(wǎng)絡模型，深入研究網(wǎng)絡算法和性能，如：穩(wěn)定性、收斂性、容錯性、魯棒性等；開發(fā)新的網(wǎng)絡數(shù)理理論，如：神經(jīng)網(wǎng)絡動力學、非線性神經(jīng)場等。

應用研究可分為以下兩類：

1、神經(jīng)網(wǎng)絡的軟件模擬和硬件實現(xiàn)的研究。

2、神經(jīng)網(wǎng)絡在各個領域中應用的研究。這些領域主要包括：

模式識別、信號處理、知識工程、專家系統(tǒng)、優(yōu)化組合、機器人控制等。隨著神經(jīng)網(wǎng)絡理論本身以及相關理論、相關技術的不斷發(fā)展，神經(jīng)網(wǎng)絡的應用定將更加深入。