一種混合核函數svm建模方法及其應用
陽春華,王覺,朱紅求,桂衛華
(中南大學信息科學與工程學院,湖南長沙410083)
摘 要:為了提高模型的泛化能力和精度,提出了一種基于混合核函數的支持向量機( svm)建模方法。所提出的混合核函數由徑向基函數和多項式函數加權組合而成,克服了支持向量機模型中單個核函數的局限性:并利用量子粒子群算法( qpso)對懲罰系數、核參數以及混合權重系數進行綜合尋優,求取****化參數組合,從而提高模型的精度。采用鋅濕法冶煉凈化過程現場數據對建模的方法進行了測試,結果表明,所提出的混合核函數支持向量機模型具有較好的泛化性能和預測精度,預測結果滿足現場工藝生產的要求。
關鍵詞:混合核函數;支持向量機;qpso算法;凈化過程
中圖分類號:tp 273 文獻標識碼:a
l引言
支持向量機( svm) 作為一種基于結構風險最小化學習訓練方法,較好地解決了小樣本、高維數、非線性、局部極小值等實際問題,具有很強的泛化能力,在故障檢測與診斷、過程預測、文本分類、生物信息學、模式識別和冶金過程等領域獲得了廣泛的應用[24]。
支持向量機求解模式識別問題的關鍵在于選擇一個合適的核函數。為了提高支持向量機模型的精度,人們提出了混合核函數方法,一般由一個高斯核和一個多項式核線性組合而成。模型中的參數選擇對混合核函數是否為****起著關鍵作用。本文采用qpso算法對svm模型的參數進行尋優。利用sinc函數對所提出支持向量機建模方法進行了驗證分析,并將該建模方法應用于濕法煉鋅凈化過程離子濃度預測,結果表明,所提出的預測模型具有很好的泛化性能,模型預測精度滿足過程現場的工業技術要求,可以用來指導現場的過程操作優化。
2混合核函數
核函數的選取在很大程度上影響著svm模型的擬合能力和預測精度。核函數的引入極大地提高了學習機器的非線性處理能力,同時也保持了學習機器在高維空間中的內在線性,從而使得學習很容易得到控制。核函數將原空間的數據隱含地表示在高維的特征空間中,并在其中訓練了一個線性的分類器,訓練過程并不需要知道具體的非線性映射。通過調節不同的核參數,可以隱式的改變特征空間的vc維數,從而決定線性分類面能達到的最小經驗誤差。
smits g f和jordaan em提出了一種結合了全局核函數和局部核函數的混合核函數。局部性核函數學習能力強、泛化能力較弱,而全局性核函數泛化性能強、學習能力較弱,因此考慮把這兩類核函數通過線性加權疊加構成新的核函數,解決現有核函數學習性能單一的缺陷。
polynomial核函數和rbf核函數是兩種典型的全局核函數和局部核函數:
polynomial核函數:
rbf核函數:
將兩類核函數混合,可得:
式中,kpoly、 krbf分別為多現實核函數及rbf核函數;λ為混合權重系數,可調節兩種核函數的作用大小。
3基于qpso的混合核svm方法
sun從量子力學的角度,通過對粒子收斂行為的研究,提出了量子粒子群算法。在qpso中,由于粒子滿足聚集態的性質完全不同,使粒子能在整個可行解空間中搜索全局****解,因而qpso算法在搜索能力上遠優于標準粒子群算法。qpso中粒子的更新如下:
式中,mbest為所有個體當前****位置的中心點;pij為第i個個體在第,維上的****位置;pgj為粒子群在第j上的****位置;pcij是介于pij與pgj之間的隨機位置;m為粒子群規模;φ,u為(0,1)之間的隨機數;α為收縮擴張系數,它是qpso收斂的一個重要參數,第t次迭代時可取: |