什么是基追蹤算法

　　基追蹤（basis pursuit）算法是一種用來求解未知參量L1范數(shù)最小化的等式約束問題的算法。

　　基追蹤是通常在信號處理中使用的一種對已知系數(shù)稀疏化的手段。將優(yōu)化問題中的L0范數(shù)轉(zhuǎn)化為L1范數(shù)的求解就是基追蹤的基本思想。

　　比如我原先有一個優(yōu)化問題：

　　min ||x||_0（就是L0范數(shù)的最小值）subject to y=Ax。

　　這個||x||_0，就是表示x中有多少個非零元素；那么我們要求min ||x||_0，就是想知道含有最多0元素的那個解x是什么。

　　但是呢，L0范數(shù)有非凸性，不怎么好求解，這時我們就轉(zhuǎn)而求解L1范數(shù)的優(yōu)化問題。

　　那么，基追蹤算法就是轉(zhuǎn)而求解

　　min||x||_1（就是L1范數(shù)的最小值）subject to||y-Ax||_2=0（2范數(shù)）

　　這個||x||_1，就是x的絕對值；那么我們要求min||x||_1，就是求絕對值最小的那個解x是什么。

　　更通俗一點來講，比如我要求一個線性方程組

　　Ax=b

　　x就是我們要求的未知量。這個A矩陣不是個方陣，是個欠定矩陣，那么就導(dǎo)致這個線性方程組會有若干組解。那么我們到底要哪組解好呢？

　　如果在一般情況下，可以直接用最小二乘法來獲得一組最小二乘解，就是x=（A‘A）^（-1）A’b。但是我們現(xiàn)在利用基追蹤，就是想要來獲得一組含0元素最多的解。

? ? ? ? 提出了一種新的基追蹤求解算法。依據(jù)信號特性自適應(yīng)地選取字典；通過l1范數(shù)的近似表示，將有約束的極值問題轉(zhuǎn)化為無約束問題，并利用一種新的迭代算法進行快速求解；幾類典型信號實驗結(jié)果驗證了本方法具有良好的去噪效果。 關(guān)鍵詞：基追蹤 字典 去噪 基追蹤方法是信號稀疏表示領(lǐng)域的一種新方法。它尋求從完備的（過完備）函數(shù)（基）集合中得到信號的最稀疏的表示，即用盡可能少的基精確地表示原信號，從而獲得信號的內(nèi)在本質(zhì)特性。基追蹤方法采用表示系統(tǒng)的范數(shù)作為信號稀疏性的度量，通過最小化l1范數(shù)將信號稀疏表示問題定義為一類有約束的極值問題，進而轉(zhuǎn)化為線性規(guī)劃問題進行求解。 目前，基追蹤方法在一維信號處理領(lǐng)域有很好的應(yīng)用。

　　以David L.Donoho為代表的斯需求量福大學(xué)統(tǒng)計系工作組利用基追蹤方法在一維實信號去噪和超分辨方面取得取了很多很好的應(yīng)用結(jié)果。盡管使用了一種新的線性規(guī)劃算法——內(nèi)點算法，基追蹤方法由于要在所有的字典向量中極小化一個全局目標(biāo)函數(shù)，其計算量仍然是很大的。正因為求解大尺度線性規(guī)劃問題的困難，目前的基追蹤方法局限于一維的信號去噪和超分辨處理。本文提出一種新的思路來求解上述有約束的極值問題。首先依據(jù)信號特性自適應(yīng)地選取字典；通過l1范數(shù)的近似表示，將有約束的極值問題轉(zhuǎn)化為無約束問題，并利用一種迭代算法進行快速求解；最后通過幾類典型信號去噪實驗來驗證本方法的應(yīng)用效果。實驗結(jié)果表明，改進的基追蹤方法能夠快速穩(wěn)定實現(xiàn)，。同時具有良好的去噪效果。

　　1 字典的構(gòu)造

? ? ? ?對于觀測到的離散信號s∈H，H為Hilbert空間，給定H中的字典φ={φγ，γ∈Γ}，其中Γ為指標(biāo)集，φγ為H中的基函數(shù)，也稱為原子。基追蹤方法將信號稀疏表示問題定義為以下有結(jié)束的極值問題，即

　　其中，αγ（γ∈Γ）為表示系數(shù)。如果將字典中的向量表示成矩陣φ的例，系數(shù)表示成一個列向量，則（1）式可表示成 min||α||1 subject to s=φα （2） 在含噪觀測的情況下，考慮如下模型： y=s+σz 其中s為真實信號，y為觀測信號，z為標(biāo)準(zhǔn)高斯白噪聲，σ為噪聲根方差。基追蹤方法去噪歸結(jié)為求解以下優(yōu)化問題：

　　以上最優(yōu)化問題致力于最小化信號重建誤差，同時使得信號的表示最稀疏。正則化參數(shù)λ控制著允許誤差與稀疏性之間的平衡。 由（3）式可見，基追蹤方法去噪的核心問題涉及到原子的選取、字典的構(gòu)造、求解算法設(shè)計等三個方面。其中，字典的構(gòu)造是基追蹤方法的重要環(huán)節(jié)。為了盡可能精確地表示信號，字典與信號應(yīng)用是自適應(yīng)的，或者說字節(jié)是從信號的學(xué)習(xí)中得到的。通常，基追蹤方法所使用的字典有完備的、過完備的、欠完備的等。可以根據(jù)信號的先驗信息及實際需要設(shè)計字典。一般設(shè)計的字典是完備或過完備的。對于簡單信號去噪，一般只需要構(gòu)造完備的字典。對于復(fù)合信號對噪問題，通常需要構(gòu)造過完備的字典。對于完備字典，同樣存在信號的稀疏表示問題，因為噪聲總是處處奇異的。本文所采用的字典主要有： （1）Heaviside字典

　　此字典中原子不是正交的，但是對于任意長度為n的一維離散信號s=（s1s2…sn）都有以下表示：

　　Heaviside字典具有上三角形式，結(jié)構(gòu)簡單，善于捕捉分片常數(shù)信號中的突變特征。 （2）時間-尺度字典（小波字典） 以Haar小波字典為例： 你小波基：ψ=l［0，1］，母小波基：ψ=1［1/2，1］，1-1［0，1/2］ Haar小波字典中包含小波基的平移和伸縮變換以及小波基的平移變換。 設(shè)ψ=（a，b，v），其中α∈（0，∞）為尺度變量，b∈［0，n］表征位置，v∈{0，1}表征性別。Haar小波字典形式為：

　　包含n個原子，構(gòu)成一組正交基。當(dāng)然還有其它類型的小波字典，盡管有些小波基沒有類似Haar小波基這樣明確的小波函數(shù)表達(dá)式，但它們的字典都有與Haar小波字典類似的離散結(jié)構(gòu)。比較常用的主要用Daubechies、Coiflet、Symmlet等。小波字典應(yīng)用于表示分片光滑信號。 （3）Heaviside字典+小波字典 對于比較復(fù)雜的復(fù)合信號，單一的字典下無法得到信號的最稀疏表示，此時可將幾種字典合成，從而得到過完備的字典。例如Heaviside字典+小波字典。