基于特征向量提取的核回歸建模方法研究
鄧曉剛，田學民
中吲石油大學（華東）信息與控制工程學院，山東東營257061）
摘 要：針對工業(yè)軟測量中的非線性數(shù)據(jù)回歸問題，提出一種基于特征向量提取的核回歸建模方法。基于核函數(shù)非線性變換技術，建立非線性軟測量模型——核回歸模型。為了減少核回歸模型中的優(yōu)化參數(shù)，采用特征向量提取( fvs)算法選擇核回歸模型的特征向量，最后采用改進的粒子群優(yōu)化算法估計模型參數(shù)。在工業(yè)數(shù)據(jù)上的應用結果說明了方法的有效性。
關鍵詞：核建模方法；特征向量提取；粒子群算法
中圖分類號：tp 277 文獻標識碼：a
1引 言
工業(yè)過程控制與優(yōu)化的目的在于提高產品質量，然而傳統(tǒng)的質量儀表不僅價格昂貴，維護復雜，而且往往具有較大的檢測滯后，難以滿足在線實時質量控制的要求。軟測量技術有效地補充了傳統(tǒng)測量儀表的不足，而且投資低、維護簡單，為先進控制技術的實施提供了有利條件。
軟測量建模方法是軟測量技術的核心，也是目前研究人員最為關心的熱點問題。近些年來，國內外對軟測量建模方法尤其是非線性軟測量建模方法進行了大量的研究。文獻[14]分別提出了非線性偏最小二乘( npls)、神經(jīng)網(wǎng)絡(nn)等方法，最近核函數(shù)技術逐漸被用于非線性回歸方法，如核偏最小二乘( kpls)、支持向量機(svm)方法。本文針對工業(yè)軟測量中的數(shù)據(jù)的非線性特性，提出一種核回歸建模方法。該方法構造核回歸模型，采用特征向量提取方法選擇模型的特征向量，使用智能優(yōu)化算法估計模型參數(shù)，最后使用工業(yè)數(shù)據(jù)驗證方法的
2核回歸軟測量模型
軟測量建模的目的是尋找輸入變量和輸出變量之間的數(shù)學關系。對于給定的m維過程輸入變量（即輔助變量）和過程輸出變量（即主導變量或質量變量）y一般情況下，工業(yè)過程中的x和y之間的關系是非線性的。首先對輸入變量x作某種非線性變換，即作如下映射：
從而使映射后的中(x)與輸出變量y之間為線性關系，因此本文建立如下結構的軟測量模型：
式中，w為模型參數(shù)；e為建模誤差。
軟測量模型的求解是一個關于參數(shù)向量w的優(yōu)化問題，首先需要建立優(yōu)化目標函數(shù)。如果已知包含n個樣本的訓練數(shù)據(jù)x=[x1，x2，…，xn]∈r和y∈r，則常用的優(yōu)化目標是使得所有n個訓練樣本的誤差損失函數(shù)最小，如下：
式(3)的****解向量w存在于訓練樣本張成的空間中，如下式：
結合式(3)和式(4)，進一步整理得到：
建模過程中所使用的非線性映射垂(．)往往是未知的，但是根據(jù)核函數(shù)技術，非線性映射空間中兩個向量的內積可用原始空間中的核函數(shù)來表示。常用的核函數(shù)有高斯核函數(shù)，多項式核函數(shù)等。本文采用高斯核函數(shù)。根據(jù)核函數(shù)變換，式(5)轉化為式(6)。
如果訓練數(shù)據(jù)中有可能含有異常點或離群點，為了提高參數(shù)估計的準確性，式(3)還可以用一種魯棒性更強的優(yōu)化目標函數(shù)來代替，本文中給出一種基于huber m估計器的優(yōu)化目標函數(shù)，如式(7)。
3基于特征向量提取的棋型稀疏化
本文擬采用智能優(yōu)化算法求解已經(jīng)建立的核回歸軟測量模型。優(yōu)化過程中參數(shù)的個數(shù)等于訓練樣本的個數(shù)，隨著訓練樣本數(shù)目的增加，需要求解的參數(shù)也隨之增加 |
