① 壓縮感知理論基本介紹
姓名:王鑫磊
學號:21011110262
學院:通信工程學院
【嵌牛導讀】壓縮感知是信號處理領域進入21世紀以來取得的最耀眼的成果之一,並在磁共振成像、圖像處理等領域取得了有效應用。壓縮感知理論在其復雜的數學表述背後蘊含著非常精妙的思想。基於一個有想像力的思路,輔以嚴格的數學證明,壓縮感知實現了神奇的效果,突破了信號處理領域的金科玉律——奈奎斯特采樣定律。即,在信號采樣的過程中,用很少的采樣點,實現了和全采樣一樣的效果。
【嵌牛鼻子】壓縮感知,欠采樣,稀疏恢復
【嵌牛提問】壓縮感知相比奈奎斯特采樣定律的主要突破是什麼?
【嵌牛正文】
1.CS的初步理解
CS是一個針對信號采樣的技術,是在采樣過程中完成數據壓縮的過程。我們知道在對模擬信號按一定采樣頻率進行采樣並得到數字信號的過程中,要想完整保留原始信號中的信息,采樣頻率必須大於信號中最高頻率的2倍(奈奎斯特采樣定理)。但Candes等人又提出了,如果信號在頻域是稀疏的,那麼它可以由遠低於采樣定理要求的采樣點重建恢復。Nyquist定理中的采樣為等間距采樣,若采樣頻率低必然會引起混疊,如果不等間距采樣呢?如果是隨機采樣呢?隨機采樣必然會發生頻譜泄露,但泄露會均勻分布在整個頻域且泄露值都較小,而最大的幾個峰值可以通過設置閾值檢測出來,從而有了恢復出原始信號的可能。
圖1展示了一原始的模擬信號在頻域是稀疏的,僅由三個頻率分量組成,為了得到數字信號,首先要在時域對其進行采樣,根據壓縮感知理論,可以在時域進行隨機亞采樣,之後得到的頻譜會產生如圖所示的泄露,但可以通過閾值檢測求出原始信號的真實頻率分量,從而恢復出原始信號。
2. CS的數學模型
CS有兩個前提條件:
假設:x是長度為N的原信號,稀疏度為k,它是未知的;Φ為測量矩陣,對應采樣過程,也就是壓縮的過程,如隨機采樣,是已知的;采樣後的結果為:y=Φx,也是已知的;因此壓縮感知問題是:在已知測量值y和測量矩陣Φ的基礎上,求解原信號x的過程。然而一般信號x本身並不稀疏,需要在某種稀疏基上進行稀疏表示,即x=Ψs, 其中s為稀疏向量,即為所求的稀疏信號;Ψ為稀疏基矩陣,也叫稀疏變換矩陣,如傅里葉變換。
於是最終問題表示為:
y = ΦΨs = Θs (1)
已知y,Φ,Ψ,求s, Θ稱為感知矩陣。感知矩陣需要滿足約束等距原則(RIP),因此需要測量矩陣Φ和稀疏基Ψ滿足不相關,即采樣過程與稀疏過程不相關。Candes等人又找到了獨立同分布的高斯隨機測量矩陣可以稱為普適的壓縮感知測量矩陣,於是滿足高斯分布的隨機測量矩陣就成了CS最常用的觀測矩陣。
3. CS的常用方法
已知(1)方程有無數解,因此需要通過增加約束來得到唯一解。方程是稀疏的,因此我們需要找到這個方程里所有解中最稀疏的內個就行了。
求解上述方程一般有三種思路:凸優化演算法,貪婪演算法,貝葉斯理論。CS常用演算法有:
基追蹤重構演算法 (Basis Pursuit, BP):BP演算法是一種凸優化方法。
正交匹配追蹤演算法 (OMP):OMP屬於貪婪演算法。
閾值迭代演算法 : 包括軟閾值迭代(ISTA)和迭代硬閾值(IHT)。ISTA的一種改進方法為快速閾值迭代(FISTA)。
【嵌牛參考】
[1]. Dandes, E. J. . 「Near-optimal signal recovery from random projections.」 Universal encoding strategies IEEE Transactions on Information Theory 52(2006).
[2]. Donoho, D. L. . 「Compressed sensing.」 IEEE Transactions on Information Theory 52.4(2006):1289-1306.
② 壓縮感知
【嵌牛導讀】:傳統基於奈奎斯特定律的信號采樣方法暴露出來的缺點越來越多,幾年來一種新的理論----壓縮感知打破了奈奎斯特采樣定理(采樣速率大於信號最高頻率的兩倍),成為了新的研究熱點。
【嵌牛鼻子】:壓縮感知;信號採集;欠奈奎斯特采樣;正交匹配追蹤
【嵌牛提問】:壓縮感知的原理?
【嵌牛正文】:
2004年,D.Donoho等人提出了壓縮感知理論,Tao T等人在此基礎上進行了改進[ ],為超寬頻信號採集問題的解決開辟了一條新的道路。該理論是假設待采樣信號在某個空間內具有稀疏的特性(只有少量的非零元素),利用測量矩陣將高維的稀疏信號投影為低維的測量值,從而完成對信號的壓縮。然後通過優化求解的方法,可以精確重構出原始信號。該理論將壓縮和數模變換合圍一體,利用低采樣率完成對寬頻信號的壓縮采樣,降低了對AD器件性能的要求,具有十分良好的發展前景,其系統框圖如下圖所示。
壓縮感知主要分為三個部分:信號稀疏表示、壓縮測量、信號重構。
信號稀疏表示:
首先介紹一下壓縮感知中十分重要的幾個概念。
稀疏性:如果一個向量的大多數元素都為0,只有少量元素具有有效值,那麼這個向量就具有稀疏性[ ]。
稀疏度:如果一個向量中非零元素個數小於N,即‖x‖_0
壓縮測量:
壓縮測量是壓縮感知中非常重要的一步,其關鍵在於壓縮矩陣的選擇。壓縮矩陣的作用就是將高維的信號映射為低維的輸出信號,完成信號的壓縮測量。測量過程可以用下式表示。
令測量矩陣A_(l*n)=φ_(l*n)*Ɵ_(n*n),上式可簡化為下式:
如果要求信號能夠重構,那麼這種映射應該是一一對應的,即特定的µ只能映射為唯一的y。這樣的唯一性是保證信號能夠精確重構的前提。為了滿足這樣的重構條件,測量矩陣A必須滿足一定的條件。T.TAO等人提出為此提出了RIP條件(受限等距特性)。如果A能滿足下式的不等式:
上式表示在測量矩陣滿足RIP條件時,重構出的信號的誤差在相當小的一個范圍內。經過上面的討論,我們就為精確重構出信號提供了理論上的保障。
信號重構:
重構演算法是壓縮感知的核心內容和最後一步,其恢復精確度和演算法復雜程度決定了采樣系統的可行性和實用性。由采樣輸出y_(l*1)求解輸入信號µ_(n*1)是一個未知數個數多餘方程個數的欠定方程。通常情況下其解有無數個,需要進行優化求解來確定最優解。
常用的優化求解演算法為:貪婪演算法,凸優化演算法和組合演算法。
AIC(模擬信息轉換器), 其結構如下圖所示。
單像素相機
每次只取一個像素點,隨機取若干次。運用演算法對所取的像素值進行處理,恢復出原始信號
醫學成像
③ 如何學習凸優化課程
[book-optimization.rar]-這是一本講解最優化的書籍,是全英文的。這是一部經典的外國教材,對最優化問題闡述的非常之精闢[Optimal.rar]-幾個凸優化函數,用於解決非約束和帶約束條件的凸優化問題[stanford_convex_optimization_book.rar]-國外的經典的有關於凸優化數學方面的教材,值得研究有關優化方面的研究者學習[convex_analysis_foundation.zip]-凸分析基礎中文教材。純粹這方面的資料不多(多為凸優化之類),中文的書籍更難找,有用該方面知識的同行多多交流。[ConvexOptimization.rar]-凸優化問題經常出現在許多不同的領域。全面介紹了主題,這本書展示了如何解決這些問題都可以高效率地詳細數字。其重點是識別凸優化問題,然後找到解決他們最合適的技術。文本包含許多實例和作業練習,並會提出問題,如工程,計算機科學,數學,統計,金融,經濟領域的學生,研究者和實踐者。[cvx.zip]-斯坦福大學凸規劃的程序,很經典,多次在IEEE的文章中出現[convex_optimization.rar]-凸優化程序包,包含各種凸優化演算法,可供方便調用.[signal_decomposition_by_bp.rar]-基於基追蹤(basispursuit)對信號進行稀疏表示的演算法[cvx.zip]-凸規劃建模系統,包含用戶手冊,有助於學習壓縮感知。[grads.rar]-最優化理論與演算法(第2版)這本書中的課後作業。用C實現的一些具體演算法。
④ 誰懂利用CVX優化方面的知識,比如簡單說一下CVX的凸優化原理,或者提供一些資料,非常感謝,有用再加分
[ book-optimization.rar ] - 這是一本講解最優化的書籍,是全英文的。這是一部經典的外國教材,對最優化問題闡述的非常之精闢 [ Optimal.rar ] - 幾個 凸優化 函數,用於解決非約束和帶約束條件的凸優化問題 [ stanford_convex_optimization_book.rar ] - 國擾咐跡外的經典的有關於 凸優化 數學方面的教材,值得研緩並究有關優化方面的研究者學習 [ convex_analysis_foundation.zip ] - 凸分析基礎 中文教材。簡圓純粹這方面的資料不多(多為 凸優化 之類),中文的書籍更難找,有用該方面知識的同行多多交流。 [ ConvexOptimization.rar ] - 凸優化 問題經常出現在許多不同的領域。全面介紹了主題,這本書展示了如何解決這些問題都可以高效率地詳細數字。其重點是識別凸優化問題,然後找到解決他們最合適的技術。文本包含許多實例和作業練習,並會提出問題,如工程,計算機科學,數學,統計,金融,經濟領域的學生,研究者和實踐者。 [ cvx .zip ] - 斯坦福大學凸規劃的程序,很經典,多次在IEEE的文章中出現 [ convex_optimization.rar ] - 凸優化 程序包,包含各種凸優化演算法,可供方便調用. [ signal_decomposition_by_bp.rar ] - 基於基追蹤(basis pursuit)對信號進行稀疏表示的演算法 [ cvx .zip ] - 凸規劃建模系統,包含用戶手冊,有助於學習壓縮感知。 [ grads.rar ] - 最優化理論與演算法(第2版)這本書中的課後作業。用C 實現的一些具體演算法。
⑤ 畢業設計--基於壓縮感知的重構演算法性能比較(貪婪演算法和凸優化演算法)求指導
於壓縮感知的重構演算法性能比較(貪婪演算法和凸優化算
肯定
的