基于一種進化模型的rbf網絡參數優化
張剛林，劉光燦
（長沙學院電子與通信工程系，湖南長沙410003）
摘 要：優化rbf網絡中的參數是一個非常復雜的問題，因為其目標函數包含大量的局部****點。提出一種基于群的算法發生器模型來優化rbf網絡中的中心和寬度，并同時用最小二乘法優化其線性權重：該進化模型的優勢在于把搜索任務進行功能分解。一種****的mackey-glass混沌時間序列被用來檢驗算法的性能。無驗結果表明，提出的算法要優于其他一些算法，如^均值算法、遺傳算法或粒子群算法的預測結果。
關鍵詞：rbf神經網絡；參數估計；進化模型
中圖分類號：tp 27 文獻標識碼：a
1引言
由于可以以任意精度逼近任何函數，前饋人工神經網絡一直是學術界研究和應用的熱點，在這一點上，rbf神經網絡已經從理論下被證明。由于其簡單的結構、非線性逼近的精度和快速學習的能力，它已成為最流行的前饋神經網絡之一。然而，由于目標函數包含大量的局部****點，估計神經網絡模型中的參數是一個非常困難的優化問題。以往的研究表明，rbf網絡中心的選擇對模型的性能有著重大的影響，它也是優化的主要任務。日前，比較常用的優化rbf網絡中心的方法有遺傳算法、群蟻算法及粒子群等。本文提出了一種基于群的算法發生器模型來優化rbf神經網絡中的中心和寬度，并同時用最小二乘法優化其線性權重。為其他一些算法比較，rbf神經網絡被用來預測一種標準的時間序列。實驗結果表明提出的算法要優于現存的一些算法。
2 rbf神經網絡結構
rbf神經網絡是一種特殊的3層的前饋網絡，包括輸入層、隱含層和輸出層。不失一般性，圖l含一個輸出結點的rbf網絡框架圖，如圖l所示。
其輸入輸出關系可表示為
式中，w0稱為偏差；wk(k=l，2，…，m)為連接隱含結點和輸出結點的權重；m為隱含層結點數目；φ(x，zi)為基函數，表示第i個結點輸入向量x和其中心zi的距離：
最常用的徑向基函數是高斯形式的：
式中，σ為寬度
結合方程(1)和(2)，高斯rbf神經網絡可表示為
3 rbf神經網絡的參數估計算法
估計rbf網絡中的參數是非常困難的，因為其目標函數有大量的局部****點。進化算法是模仿自然界中生物群體的選擇、雜交、變異等行為而發展起來的一種優化算法，它是建立在自然選擇和適者生存機理基礎上的迭代概率性搜索算法。利用進化算法可以在解空間內對解進行多點隨機搜索，并找出****解，由于進化算法的隨機特性，所有解都有被搜索的可能，因而可以找到全局****解。而且進化算法作為一種全局搜索的算法有目標函數不需可微或連續、易執行和穩健性等優點。最近d提出了一種實數編碼的基于群的算法發生器。這種方法把搜索分為4個獨立的策略：選擇策略；生成后代策略；替換策略；更新策略。基于這種基于群的算法發生器本文提出了一種進化模型來優化rbf網絡參數。
算法的具體執行步驟如下：
stepl 記rrf網絡的線性權重為
記中心和寬度為
為表述方便，把模型(3)寫成如下兩種形式：
step2在可能解空間初始化規模為n的群體來表示可能的rbf網絡中心和寬度向量記為：x1，x 2，…，xn。
|
