BP神經網絡的結構優(yōu)化及應用.pdf

1、隨著存儲技術、信息技術的發(fā)展，知識的發(fā)現的需要日益迫切。在這情況下，作為一種有力的發(fā)現知識的工具，數據挖掘應運而生。但是，在數據挖掘的過程中，經常碰到的一個問題是要挖掘的數據的特征較為復雜，較難把握并提取其內在聯系。神經網絡具有非線性的映射能力，能較好地解決這一問題。BP神經網絡是現今比較流行的一種神經網絡，并且已在各個行業(yè)的數據挖掘中得到較廣泛的應用。
　　 但是，BP神經網絡也存在其缺點。隱層結構難以確定就是其中之一。BP神

2、經網絡的隱層節(jié)點的數目決定了整個網絡的規(guī)模和性能，若包含太多的隱節(jié)點則會導致冗余和網絡結構的龐大，增加網絡的計算復雜度，致使網絡的響應變慢，并且導致網絡的‘過擬合’現象；若包含太少的隱節(jié)點則會使訓練無法完成或是不足以表現要挖掘的對象的特征。一直以來，隱層節(jié)點數目的確定都缺乏理論指導，并且，固定的隱節(jié)點數較不靈活，會在誤差曲面中的平坦區(qū)域停留相當長的時間，而且一旦陷入到極小點就會導致訓練無法繼續(xù)。自適應地變化的隱節(jié)點數目是此問題的較理想的

3、解決方法。常用的調整隱節(jié)點數目的算法包括增長法與修剪法。對于修剪法，在訓練的初期需構造一個規(guī)模較龐大的網絡，這樣會使算法復雜度大增。此外，眾多學者都指出，網絡的隱節(jié)點數應盡量取少——即在能夠完成訓練的基礎下，增加1、2個隱節(jié)點去提高訓練速度即可。為此，本文提出了一種基于梯度變化而增加BP神經網絡隱層節(jié)點數目的算法。此算法能根據網絡訓練的情況較好地調整隱節(jié)點的數目，并擺脫局部極小點。此外，本文還對遺傳算法作出了簡要的介紹，并且將這種增長隱