0 引言

    該方法作為解決非線性問題的有效手段得到了全面的關注和研究，它的原理是把輸入信號映射到高維的特征空間中，在高維的特征空間里再進行線性運算^[1]，從而解決非線性問題。核方法不需要知道映射的具體形式，只需要確定變換后內積的核函數的形式。基于最小均方誤差（LMS）算法的核最小均方誤差（KLMS）算法已經被證明能夠在有高斯噪聲的環境下很好地解決非線性問題^[2]，而在實際應用中往往會存在著非高斯沖擊噪聲^[3]，因而KLMS算法的性能會受到很大的影響。在線性算法中，用對數作為代價函數的最小對數絕對差（LLAD）算法被用來解決這種存在非高斯噪聲的問題^[4]。文獻[4]中的實驗結果表明， 最小對數絕對差（LLAD）算法和傳統的最小均方誤差（LMS）算法相比，前者具有很好的抗沖擊干擾能力，但是LLAD算法僅僅適用于線性系統。本文將LLAD算法引入到核空間中，提出核最小對數絕對差（KLLAD）算法，以此來解決存在非高斯噪聲的非線性問題，由于KLLAD算法以對數作為代價函數，能夠降低測量誤差e(i)對算法更新的影響，所以它在魯棒性和收斂方面都有很好的表現。

1 KLMS和LLAD自適應濾波算法

1.1 KLMS算法

    Mercer核是一個連續、對稱、正定的核函數κ：R^m×R^m→R^[5]，常用的核函數包括高斯核和多項式核，本文使用的高斯核定義如下：

    其中h是核參數，根據Mercer的理論研究，任何核函數κ(u，u′)都可以通過映射φ以內積的形式把輸入空間U映射到高維特征空間F（內積空間）中^[6]，其數學表達式如下 ：

    如果定義φ(u)=κ(u，·)，則特征中空間F本質上也是一個核再生希伯特空間，KLMS算法實質上就是在特征空間F中的線性LMS算法^[2]。首先，通過映射φ將輸入信號u(i)映射到特征空間F中后變成φ(u(i))，定義φ(i)=φ(u(i))，然后對新的輸入數列{φ(i)，d(i)}應用LMS算法可以得到：

    其中，e(i)是第i次的預測誤差，η是步長，w(i)是對特征空間中對自適應濾波器抽頭矢量的估計。由式(3)可以看出，KLMS算法本質上是在高緯特征空間中的線性LMS算法，是解決非線性問題的有效手段，有著非常廣泛的應用。

1.2 LLAD算法

    在傳統的LMS算法中，定義輸入信號為u(i)，期望輸出為d(i)，濾波器輸出為y(i)，誤差信號e(i)=d(i)-y(i)=d(i)-w(i)^Tu(i)，w(i)是自適應濾波器的抽頭系數矢量，最常見的代價函數是E(e(i)²)，通過減少代價函數來逼近待辨識的系統，而在LLAD算法中應用對數作為代價函數^[4]：

    當式（5）=0時，代價函數便取得最優解，其中a為設計的參數且a>0，因此LLAD算法的自適應濾波器的抽頭矢量更新表達式變為：

其中μ為步長參數。

    分析式(6)可知，當e(i)很大時算法更新近似于符號（SA）算法，當e(i)很小時，算法更新近似于傳統的LMS算法。因此LLAD算法綜合了LMS和SA兩種算法^[4]，與LMS算法相比具有很好的抗沖擊噪聲性能，與SA算法相比具有更好的收斂性能。

2 KLLAD自適應濾波算法

    最小對數絕對差（LLAD）算法雖然具有很好的抗沖擊噪聲性能和收斂性能，但其只適用于線性系統，并不能直接用來解決非線性問題，因此本文在LLAD算法的基礎上提出KLLAD算法，在核空間中應用LLAD算法，把LLAD算法推廣到核空間來解決非線性問題，并用系統辨識來驗證其魯棒性和收斂性能。

    首先，通過映射φ將輸入信號u(i)映射到特征空間F中后變成φ(u(i))，定義φ(i)=φ(u(i))，然后對新的輸入數列{φ(i)，d(i)}應用LLAD算法可以得到KLLAD算法，KLLAD算法第i次的預測誤差:

    由式(4)可以得出KLLAD算法的代價函數為：

    如果或者 F(e(i))=0，則對數代價函數可以取得最優解，所以對數代價函數 J(e(i))的最優解與代價函數 F(e(i))的最優解是一致的^[4]。由于 F(e(i))=E(|e(i)|)，利用式(6)可以得出：

    綜上所述，KLLAD算法本質上是在特征空間中的LLAD算法，所以其具有LLAD算法的魯棒性。

3 實驗仿真結果分析

    系統辨識是自適應濾波器的一個重要應用，本文用非線性系統辨識來驗證KLLAD算法的性能，定義系統噪聲由高斯噪聲和非高斯沖擊噪聲線性組合而成，系統噪聲混入期望信號對期望信號產生干擾，實驗中分別用KLLAD、KLMS和LLAD三種算法來對該未知系統進行逼近，并對比三種算法的魯棒性和收斂性。

    非線性系統由一個線性信道和一個非線性信道組合而成^[7]，其中線性信道選擇為：H(z)=1+0.2z^-1，非線性信道為：y=x-0.9x²，其中x為線性信道的輸出。定義非高斯沖擊噪聲表示為K_i A_i，K_i是一個伯努利過程且p(K_i=1)=p_r，A_i是零均值的高斯過程，系統噪聲n(i)由一個方差為σ²的白高斯噪聲和沖擊噪聲K_i A_i組成^[8，9]，在實驗中KLLAD算法的參數設定為：核參數h=0.1，σ²=0.4，a=5^[4]，μ=0.1；KLMS算法中σ²=0.4，μ=0.05；LLAD算法中σ²=0.4，μ=0.01。三種算法的訓練數據是1 000，測試數據是100，學習曲線取計算30次的平均值。三種算法的性能對比如圖1、圖2和圖3所示。其中圖1是沒有非高斯沖擊噪聲的環境，即p_r=0；圖2是存在5%的非高斯沖擊噪聲的情況（p_r=0.05，A_i=150）；圖3是存在很大單點非高斯沖擊噪聲的情況（A₅₀₀=1 500）。

    從圖1可以看出：在沒有沖擊噪聲的環境下，KLLAD（μ=0.1）算法和KLMS算法（μ=0.05）具有相近的穩態誤差，而且KLLAD算法收斂速度比KLMS要快；與LLAD算法（μ=0.01）相比，KLLAD算法的穩態誤差要遠遠低于LLAD算法，由此也證明了LLAD算法不適用于非線性系統，表明了提出KLLAD算法的必要性。從圖2可以看出：在存在非高斯沖擊噪聲的環境里，KLLAD算法與LLAD都有很好的魯棒性，能夠避免沖擊噪聲對算法更新迭代的影響，使算法具有穩定性；但是KLMS算法由于受到系統非高斯沖擊噪聲的影響，穩態誤差波動較大，其收斂性能大大降低，KLLAD算法要優于KLMS算法。圖3是在第500次迭代時出現一個很大的非高斯沖擊噪聲，從圖中可以看出：在500次迭代時該沖擊噪聲對KLLAD和LLAD算法并無影響，而KLMS算法在i=500時出現了較大的波動，產生了較大的誤差，在非高斯沖擊噪聲消失后，KLMS算法又會收斂于一個較低的穩態誤差，其結果更進一步驗證了KLLAD算法的魯棒性和KLMS算法的局限性，在有非高斯沖擊的環境下KLLAD算法要遠遠優于KLMS算法。

4 結論

    本文提出的核最小對數絕對差（KLLAD）算法是將最小絕對差(LLAD)算法與核方法相結合而形成的新的算法，由于KLLAD算法使用對數作為代價函數，有效降低了測量誤差e(i)對算法更新迭代的影響^[4]，使算法更具穩定性，以此來解決存在非高斯沖擊噪聲的非線性問題，從系統辨識的實驗仿真結果來看，在存在非高斯沖擊噪聲的環境里KLLAD算法與LLAD算法、KLMS算法相比，前者確實具有很好的魯棒性和收斂性能。

參考文獻

[1] LIU W，PRINCIPLE J C，HAYKIN S.Kernel adaptive filtering：a comprehensive introdtion[M].Hoboken，NJ，USA：Wiley，2010.

[2] LIU W，POKHAREL P P，PRINCIPLE J C.The kernel least-mean-square algorithm[J].IEEE Trans.Signal Process.，2008，56（2）：543-554.

[3] CHAMBERS J，AVLONITIS A.A robust mixed-norm adaptive filter algorithm[J].IEEE Signal Process.，1997，4(2)：46-48.

[4] SAYIN M O，VANLI N D，KOZAT S S.A novel family of adaptive filtering based on logarithmic cost[J].IEEE Trans.Signal Process.，2014，62(17)：4411-4424.

[5] ARONSZAJN N.Theory of reproducing kernels[J].Trans.Amer.Math，Soc.，1950，68(3)：337-404.

[6] BURGES C J C.A tutorial on support vecter machines for patten recognition[J].Data Min.Knowl.Disc.，1998，2(2)：121-167.

[7] MIAO Q Y，LI C G.Kernel least-mean mixed-norm algorithm[C].ACAI.Xiamen：IET，2012：1285-1288.

[8] TANRIKULU O，CHANBERS J A.Convergence and steadystate properties of the least-mean mixed-norm(LMMN) adaptive algorithm[J].Proc.IEE-Vis.，Image & Signal Process.，1996，143(3)：137-142.

[9] WALACH E，WIDROW B.The least mean fourth(LMF) adaptive algorithm and its family[J].IEEE Trans.Inform.Theory，1984，30(2)：275-283.