降維演算法

1. 誰能給我詳細講一下拉普拉斯降維的演算法步驟啊

在數學以及物理中， 拉普拉斯運算元或是拉普拉斯算符（英語：Laplace operator, Laplacian）是一個微分運算元，通常寫成 Δ 或 ∇²；這是為了紀念皮埃爾-西蒙·拉普拉斯而命名的。拉普拉斯運算元有許多用途，此外也是橢圓型運算元中的一個重要例子。在物理中，常用於波方程的數學模型、熱傳導方程以及亥姆霍茲方程。在靜電學中，拉普拉斯方程和泊松方程的應用隨處可見。在量子力學中，其代表薛定諤方程式中的動能項。在數學中，經拉普拉斯運算元運算為零的函數稱為調和函數；拉普拉斯運算元是霍奇理論的核心，並且是德拉姆上同調的結果。

2. 機器學習中的降維演算法和梯度下降法

機器學習中有很多演算法都是十分經典的，比如說降維演算法以及梯度下降法，這些方法都能夠幫助大家解決很多問題，因此學習機器學習一定要掌握這些演算法，而且這些演算法都是比較受大家歡迎的。在這篇文章中我們就給大家重點介紹一下降維演算法和梯度下降法。
降維演算法
首先，來說一說降維演算法，降維演算法是一種無監督學習演算法，其主要特徵是將數據從高維降低到低維層次。在這里，維度其實表示的是數據的特徵量的大小，當特徵量大的話，那麼就給計算機帶來了很大的壓力，所以我們可以通過降維計算，把維度高的特徵量降到維度低的特徵量，比如說從4維的數據壓縮到2維。類似這樣將數據從高維降低到低維有兩個好處，第一就是利於表示，第二就是在計算上也能帶來加速。
當然，有很多降維過程中減少的維度屬於肉眼可視的層次，同時壓縮也不會帶來信息的損失。但是如果肉眼不可視，或者沒有冗餘的特徵，這怎麼辦呢？其實這樣的方式降維演算法也能工作，不過這樣會帶來一些信息的損失。不過，降維演算法可以從數學上證明，從高維壓縮到的低維中最大程度地保留了數據的信息。所以說，降維演算法還是有很多好處的。
那麼降維演算法的主要作用是什麼呢？具體就是壓縮數據與提升機器學習其他演算法的效率。通過降維演算法，可以將具有幾千個特徵的數據壓縮至若干個特徵。另外，降維演算法的另一個好處是數據的可視化。這個優點一直別廣泛應用。
梯度下降法
下面我們給大家介紹一下梯度下降法，所謂梯度下降法就是一個最優化演算法，通常也稱為最速下降法。最速下降法是求解無約束優化問題最簡單和最古老的方法之一，雖然現在已經不具有實用性，但是許多有效演算法都是以它為基礎進行改進和修正而得到的。最速下降法是用負梯度方向為搜索方向的，最速下降法越接近目標值，步長越小，前進越慢。好比將函數比作一座山，我們站在某個山坡上，往四周看，從哪個方向向下走一小步，能夠下降的最快;當然解決問題的方法有很多，梯度下降只是其中一個，還有很多種方法。
在這篇文章中我們給大家介紹了關於機器演算法中的降維演算法以及梯度下降法，這兩種方法是機器學習中十分常用的演算法，降維演算法和梯度下降法都是十分實用的，大家在進行學習機器學習的時候一定要好好學習這兩種演算法，希望這篇文章能夠幫助大家理解這兩種演算法。

3. matlab中的降維函數是什麼

drttoolbox : Matlab Toolbox for Dimensionality Rection是Laurens van der Maaten數據降維的工具箱。
裡面囊括了幾乎所有的數據降維演算法：
- Principal Component Analysis ('PCA')
- Linear Discriminant Analysis ('LDA')
- Independent Component Analysis ('ICA')
- Multidimensional scaling ('MDS')
- Isomap ('Isomap')
- Landmark Isomap ('LandmarkIsomap')
- Locally Linear Embedding ('LLE')
- Locally Linear Coordination ('LLC')
- Laplacian Eigenmaps ('Laplacian')
- Hessian LLE ('HessianLLE')
- Local Tangent Space Alignment ('LTSA')
- Diffusion maps ('DiffusionMaps')
- Kernel PCA ('KernelPCA')
- Generalized Discriminant Analysis ('KernelLDA')
- Stochastic Neighbor Embedding ('SNE')
- Neighborhood Preserving Embedding ('NPE')
- Linearity Preserving Projection ('LPP')
- Stochastic Proximity Embedding ('SPE')
- Linear Local Tangent Space Alignment ('LLTSA')
- Simple PCA ('SPCA')

4. 統計方法中，有哪些降維方法

七種降維方法：
1、缺失值比率 (Missing Values Ratio)
2、 低方差濾波 (Low Variance Filter)
3、 高相關濾波 (High Correlation Filter)
4、 隨機森林/組合樹 (Random Forests)
5、 主成分分析 (PCA)
6、 反向特徵消除 (Backward Feature Eliminati
7、 前向特徵構造 (Forward Feature Construction)

5. 降維演算法裡面的「維」是指一維數組還是矩陣，到底是什麼意思求朋友指導

都可以啊親，，，看你的數據咯~你的原始數據是向量，降維自然就是低維向量，你的數據是矩陣，降維就可以降成低階矩陣，，，流形之類的結構降維本質上等價於其上的切空間降維，降維手段不僅可以通過鄰域展開，也可以通過切空間內的數學量降維，對於向量空間來說，可用的實在太多了，加油~~

6. 數據降維是什麼意思

數據降維是將數據進行降維處理的意思。

降維，通過單幅圖像數據的高維化，將單幅圖像轉化為高維空間中的數據集合，對其進行非線性降維。尋求其高維數據流形本徵結構的一維表示向量，將其作為圖像數據的特徵表達向量。降維處理是將高維數據化為低維度數據的操作。一般來說，化學過程大都是一個多變數的變化過程，一般的化學數據也都是多變數數據。

(6)降維演算法擴展閱讀：

數據降維運用：

通過單幅圖像數據的高維化,將單幅圖像轉化為高維空間中的數據集合,對其進行非線性降維,尋求其高維數據流形本徵結構的一維表示向量,將其作為圖像數據的特徵表達向量。從而將高維圖像識別問題轉化為特徵表達向量的識別問題,大大降低了計算的復雜程度,減少了冗餘信息所造成的識別誤差,提高了識別的精度。

通過指紋圖像的實例說明,將非線性降維方法(如Laplacian Eigenmap方法)應用於圖像數據識別問題,在實際中是可行的,在計算上是簡單的,可大大改善常用方法(如K-近鄰方法)的效能,獲得更好的識別效果。此外,該方法對於圖像數據是否配準是不敏感的,可對不同大小的圖像進行識別,這大大簡化了識別的過程。

7. le如何做

le如何做：LE是一種降維演算法，它看問題的角度和常見的降維演算法不太相同，是從局部的角度去構建數據之間的關系。

常見的流形降維演算法除了ISOMAP(等距特徵映射)和 LLE(局部線性映射)之外，使用拉普拉斯矩陣進行特徵映射的LE演算法也是很常見而且實用的一種流行演算法。

其思想十分簡潔，同時也擁有不錯的降維效果。

LE演算法是一種保留數據局部特徵的流形降維演算法。其主要思想是在低維空間內盡可能保留數據局部樣本點之間的結構不變。

具體來講，拉普拉斯特徵映射是一種基於圖的降維演算法，它希望相互間有關系的點（在圖中相連的點）在降維後的空間中盡可能地靠近，從而在降維後仍能保持原有的數據結構。

8. 層次聚類演算法是降維還是升維

層次聚類演算法是降維。

層次聚類演算法通過計算不同類別數據點間的相似度來創建一棵有層次的嵌套聚類樹。 在聚類樹中，不同類別的原始數據點是樹的最低層，樹的頂層是一個聚類的根節點。 創建聚類樹有自下而上合並和自上而下分裂兩種方法，本篇文章介紹合並方法。

層次聚類演算法原理：

層次聚類的合並演算法通過計算兩類數據點間的相似性，對所有數據點中最為相似的兩個數據點進行組合，並反復迭代這一過程。簡單的說層次聚類的合並演算法是通過計算每一個類別的數據點與所有數據點之間的距離來確定它們之間的相似性，距離越小，相似度越高。

9. 求大神簡述一下LLE演算法（或降維演算法）在模式識別和數據挖掘中是怎樣被應用的呢，謝謝

1. 關於LLE演算法具體的理論部分你可參考http://www.pami.sjtu.e.cn/people/xzj/introcelle.htm

2. Locally linear embedding (LLE)，使用這種演算法可以進行非線性降維，關鍵是其能夠使降維後的數據保持原有拓撲結構

   先給出一張下面演算法得到的圖 ，圖中第一幅

   LLE演算法可以歸結為三步:

   （1）尋找每個樣本點的k個近鄰點；

   （2）由每個樣本點的近鄰點計算出該樣本點的局部重建權值矩陣；

   （3）由該樣本點的局部重建權值矩陣和其近鄰點計算出該樣本點的輸出值。

3. 為原始數據，第三個為降維後的數據，可以看出處理後的低維數據保持了原有的拓撲結構。

4. 另，本人對LLE演算法不是很熟悉，在此介紹一下其他降維演算法的使用，以SVD演算法為例。

   電影推薦。

   （1）假設現在有一個用戶和電影評分的二維矩陣，矩陣內容是用戶對電影的評分，現有得知某個用戶對部分電影的評分，由此為該用戶推薦他可能喜歡的電影。

   （2）假設用戶有100W，電影有100W部，那麼對於任意一種推薦演算法來說，這個數據量都很大，該問題無法在單機上進行運算解決；

   （3）這100W維特徵中必然存在一些幾乎不重要的特徵，這時，我們就需要用降維演算法進行降維，降維的目的就是去掉大量的不重要的特徵，以簡化運算；

   （4）在此例中，可以使用SVD(或SVD++)演算法對矩陣進行降維

圖片相似度

（1）通常，進行圖片相似度判斷首先會將圖片通過傅里葉變換轉換成數值代表的矩陣，矩陣代表著該圖片，一般來說矩陣維數越高越精確

（2）同樣，維數過高的情況下，相似度計算成本很高，因此同樣需要降維，在圖片相似度識別中常用的降維演算法是PCA演算法；

總之，降維的目的就是減少特徵的維數，減少運算的成本。

以上皆為我的拙見，如有疑義請指正。

10. 請問當今比較流行的數據降維演算法有哪些

這個要看你的需求和數據的data distribution，找到最合適的演算法解決你的問題。
如果數據分布比較簡單，線性映射降維就夠了，比如PCA、ICA。
如果數據分布比較復雜，可能需要用到manifold learning，具體演算法比如SOM、MDS、ISOMAP、LLE，另外deep learning也可以用來做降維。