Ⅰ 每個數據科學人都應該知道的7種回歸技術
介紹 線性回歸和邏輯回歸通常是人們在數據科學中學習的第一種演算法。由於它們的受歡迎程度，許多分析師甚至認為它們是唯一的回歸形式。哪兒些稍微有工作經驗的人也會認為它們是所有回歸分析形式的中最重要的。
事實是，有無數種形式的回歸可以使用。每種形式的回歸都有其自身的重要性和最適合應用的特定場景。在本文中，我會以簡單的方式解釋了數據科學中最常用的7種回歸形式。通過這篇文章，我也希望人們能夠對回歸的廣度有一個概念，而不是僅僅對他們遇到的每個問題應都用線性/邏輯回歸，並希望他們能夠使用這么多的回歸技術！
如果您是數據科學的新手，並且正在尋找一個開始學習的地方，那麼「 數據科學 」課程是一個很好的起點！它涵蓋了Python，統計和預測建模的核心主題，它是你進入數據科學的第一步的完美方法。
什麼是回歸分析？
回歸分析是預測建模技術的一種技術，它研究依賴（目標）和自變數（預測變數）之間的關系。該技術用於預測，時間序列建模和查找變數之間的因果關系。例如，通過回歸可以最好地研究魯莽駕駛與駕駛員發生道路交通事故數量之間的關系。
回歸分析是建模和分析數據的重要工具。在這里，我們將曲線/直線線擬合到數據點，使得數據點距曲線或直線的距離之間的差異最小化。我將在接下來的章節中詳細解釋這一點。
為什麼我們使用回歸分析？
如上所述，回歸分析是估計兩個或更多變數之間的關系。讓我們通過一個簡單的例子來理解這一點：
比方說，你想根據當前的經濟狀況估算公司的銷售增長率。您有最近的公司數據表明銷售增長約為經濟增長的2.5倍。利用這種洞察力，我們可以根據當前和過去的信息預測公司的未來銷售情況。
使用回歸分析有許多好處。如下：
它表明因變數和自變數之間的顯著關系。 它表示多個自變數對一個因變數的影響強度。
回歸分析還允許我們比較不同尺度上測量的變數的影響，例如價格變化的影響和促銷活動的數量。這些優勢有助於市場研究人員/數據分析師/數據科學家消除和評估用於構建預測模型的最佳變數集。
我們有多少種回歸技術？
我們有各種各樣的回歸技術可用用於預測。這些技術主要由三個指標（自變數的數量，因變數的類型和回歸線的形狀）驅動。我們將在以下部分詳細討論它們。
對於創造性的，如果您覺得需要使用上述參數的組合，您甚至可以製作新的回歸，以前人們沒有使用過。但在開始之前，讓我們了解最常用的回歸：
1.線性回歸
它是最廣為人知的建模技術之一。線性回歸通常是人們在學習預測建模時最先選擇的幾個方法之一。在該方法中，因變數是連續的，自變數可以是連續的或離散的，並且回歸線的性質是線性的。
線性回歸使用最佳擬合直線（也稱為回歸線）在因變數（Y）和一個或多個自變數（X）之間建立關系。
它由方程Y = a + b * X + e表示，其中a是截距，b是直線的斜率，e是誤差項。該等式可以根據給定的預測變數預測目標變數的值。
簡單線性回歸和多元線性回歸之間的區別在於，多元線性回歸具有（> 1）個獨立變數，而簡單線性回歸只有1個獨立變數。現在的問題是「我們如何獲得最佳擬合線？」。
如何獲得最佳擬合線（a和b的值）？
這項任務可以通過最小二乘法輕松完成。它是用於擬合回歸線的最常用方法。它通過最小化每個數據點到直線的垂直偏差的平方和來計算觀測數據的最佳擬合線。因為偏差首先要平方，所以當相加時，正值和負值之間不會抵消。
我們可以使用度量的R平方來評估模型性能 。
重點： 自變數和因變數之間必須存在線性關系 多元回歸存在多重共線性，自相關，異方差等問題。 線性回歸對異常值非常敏感。它可以極大地影響回歸線並最終影響預測值。 多重共線性可以增加系數估計的方差，並使估計對模型中的微小變化非常敏感。結果是系數估計不穩定 在多個獨立變數的情況下，我們可以選擇正向選擇，逆向淘汰和逐步方法來選擇最重要的自變數。 2. 邏輯回歸
邏輯回歸方法用於查找事件成功的概率和失敗的概率。當因變數本質上是二進制（0/1，真/假，是/否）時，我們應該使用邏輯回歸。這里Y值的范圍從0到1，它可以用下面的等式表示。
odds = p /（1-p）=事件發生概率/非事件發生概率 ln（賠率）= ln（p /（1-p）） logit（p）= ln（p /（1-p））= b0 + b1X1 + b2X2 + b3X3 .... + bkXk
以上，p是存在感興趣特徵的概率。這時候你應該要問一個問題就是「為什麼我們要在等式中使用對數log？」。
由於我們在這里使用的是二項分布（因變數），我們需要選擇最適合此分布的鏈接函數。而且，它是logit函數。在上面的等式中，選擇此參數是為了以最大化觀察樣本值的可能性，而不是最小化平方誤差的總和（如在普通回歸中一樣）。
重點： 它被廣泛用於分類問題 邏輯回歸不需要依賴因變數和自變數之間的線性關系。它可以處理各種類型的關系，因為它將非線性對數變換應用於預測的優勢比 為避免過度擬合和欠擬合，我們應該包括所有重要的變數。確保這種做法的一個好方法是使用逐步方法來估計邏輯回歸 它需要較大樣本量，因為在樣本量較小時，最大似然估計的效率低於普通的最小二乘法 自變數不應相互關聯，即不具有多重共線性。但是，我們可以選擇在分析和模型中包含分類變數的交互作用。 如果因變數的值是序數，那麼它被稱為序數邏輯回歸 如果因變數是多類的，那麼它被稱為多元邏輯回歸。 3.多項式回歸
如果自變數的冪大於1，則回歸方程是多項式回歸方程。下面的等式表示多項式方程：
Y = A + B * X ^ 2
在這種回歸技術中，最佳擬合線不是直線。它是一條與數據點吻合的曲線。
重點： 雖然可能存在擬合更高次多項式以獲得更低誤差的誘惑，但這可能會導致過度擬合。始終繪制關系圖以查看是否匹配，並專注於確保曲線符合問題的本質。以下是繪圖如何幫助的示例： 特別注意的是末端的曲線，看看這些形狀和趨勢是否有意義。較高的多項式最終會產生奇怪的結果。 4.逐步回歸
當我們處理多個自變數時，會使用這種形式的回歸。在這種技術中，自變數的選擇是在自動過程的幫助下完成的，這個過程是不需要人為的去進行干預的。
通過觀察R方、t檢驗和AIC指標等統計值來識別重要變數，可以實現這一壯舉。逐步回歸基本上適合回歸模型，通過基於指定的標准一次一個地添加/刪除協變數。下面列出了一些最常用的逐步回歸方法：
標准逐步回歸做兩件事。它根據每個步驟的需要添加和刪除預測變數。 正向選擇從模型中最重要的預測變數開始，並為每個步驟添加變數。 向後消除從模型中的所有預測變數開始，並刪除每個步驟的最不重要的變數。
該建模技術的目的是以最少的預測變數來最大化預測能力。它是處理數據集更高維度的方法之一。
5.嶺回歸
嶺回歸是一種在數據存在多重共線性（自變數高度相關）時使用的技術。在多重共線性中，即使最小二乘估計（OLS）是無偏的，但它們的方差也很大，這使得觀測值偏離真實值。通過在回歸估計中增加一定程度的偏差，嶺回歸可以減少標准誤差。
上面，我們看到了線性回歸的方程。還記得嘛？它可以表示為：
y = a + b * x
這個方程也有一個誤差項。完整的等式變為：
y = a + b * x + e（誤差項），[誤差項是校正觀測值和預測值之間預測誤差所需的值] 表示多個自變數，=> y = a + y = a + b1x1 + b2x2 + .... + e。
在線性方程中，預測誤差可以分解為兩個子分量。首先是由於偏差，第二是由於方差。由於這兩個或兩個組件中的任何一個，都可能發生預測錯誤。在這里，我們將討論由於方差引起的錯誤。
嶺回歸通過收縮參數 λ（lambda）解決了多重共線性問題 。看下面的方程。
在這個方程中，我們有兩個組成部分。第一個是最小二乘項，另一個是β2 （β平方）總和的λ，其中β是系數。這被添加到最小二乘項，以便縮小參數以具有非常低的方差。
重點： 該回歸的假設與最小二乘回歸相同，但不假設正態性 它會縮小系數的值，但不會達到零，這表明沒有特徵選擇功能 這是一種正則化方法，並使用l2正則化。 6.Lasso回歸
類似於嶺回歸，Lasso（最小絕對收縮和選擇運算元）也會對回歸系數的絕對大小進行限制。此外，它還能夠降低線性回歸模型的可變性並提高其准確性。請看下面的方程：
Lasso回歸與嶺回歸的不同之處在於，它在懲罰函數中使用絕對值而不是平方。這導致懲罰（或等效地約束估計值的絕對值的總和）值，從而導致一些參數估計值恰好為零。應用的懲罰越大，估計值就會縮小到絕對零值。這導致從給定的n個變數中進行變數選擇。
重點： 該回歸的假設與最小二乘回歸相同，但不假設正態性 它將系數縮小到零（恰好為零），這肯定有助於特徵選擇 這是一種正則化方法並使用l1正則化 如果預測變數高度相關，則Lasso僅選取其中一個並將其他預測縮減為零 7.彈性網路回歸
彈性網路回歸是Lasso回歸和嶺回歸技術的混合體。它使用L1和L2先驗作為正則化器進行訓練。當存在多個相關的特徵時，彈性網路是很有用的。Lasso可能隨機選擇其中一種，而彈性網很可能同時選擇兩個。
在Lasso回歸和嶺回歸之間進行權衡的一個實際優勢是，它允許彈性網路在旋轉下繼承嶺回歸的一些穩定性。
重點： 在變數高度相關的情況下，它鼓勵群體效應 所選變數的數量沒有限制 它會受到雙重收縮的影響 如何選擇正確的回歸模型？
當你只知道一兩種技術時，生活通常是很簡單的。我所知道的其中一個培訓機構告訴他們的學生 - 如果結果是連續的 - 那就用線性回歸。如果是二進制的 - 那就用邏輯回歸！但是，我們可以使用的選項數量越多，選擇正確的選項就越困難。回歸模型也會發生類似的情況。
在多種類型的回歸模型中，基於自變數和因變數的類型，數據中的維度以及數據的其他基本特徵來選擇最適合的回歸方法是很重要的。以下是應該選擇正確的回歸模型的關鍵因素：
數據挖掘是構建預測模型的必然部分。在選擇正確的模型之前，應該首先確定變數之間的相關系數和影響 為了比較不同模型的擬合優度，我們可以分析不同的指標，如參數的統計顯著性，R方，調整後的R方，AIC指標，BIC指標和誤差項。另一個是Mallow的Cp標准。這基本上通過將模型與所有可能的子模型（仔細選擇它們）進行比較，來檢查模型中可能存在的偏差。 交叉驗證是評估用於預測的模型的最佳方式。在這里，可以將數據集分為兩組（訓練和驗證）。觀測值和預測值之間的簡單均方差可以衡量預測的准確性。 如果你的數據集有多個混淆變數，則不應選擇自動模型選擇方法，因為你不會希望同時將它們放在模型中。 這也取決於你的目標。與具有高度統計意義的模型相比，功能較弱的模型更容易實現。 回歸正則化方法（Lasso回歸，嶺回歸和彈性網路回歸）在數據集中各變數之間具有高維度和多重共線性的情況下運行良好。 結束語
到現在為止，我希望你已經對回歸有所了解。考慮數據條件來應用這些回歸技術。找出使用哪種技術的最佳技巧之一就是檢查變數族，即離散變數還是連續變數。
在本文中，我討論了7種類型的回歸以及與每種技術相關的一些關鍵事實。作為這個行業的新人，我建議你學習這些技術，然後在你的模型中實現它們。
-以上就是作者推薦的七種數據科學人必知必會的七種回歸模型，如果大家對這七種模型感興趣，那就自己動手去實驗一下吧，只知道理論是不夠的，要多動手實驗，才能真正的掌握這些模型。
7 Types of Regression Techniques you should know!
Ⅱ 回歸演算法有哪些
回歸演算法有：
線性回歸使用最佳的擬合直線（也就是回歸線）在因變數（Y）和一個或多個自變數（X）之間建立一種關系。
用一個方程式來表示它，即Y=a+b*X + e，其中a表示截距，b表示直線的斜率，e是誤差項。這個方程可以根據給定的預測變數（s）來預測目標變數的值。
邏輯回歸是用來計算「事件=Success」和「事件=Failure」的概率。當因變數的類型屬於二元（1 / 0，真/假，是/否）變數時，我們就應該使用邏輯回歸。這里，Y的值從0到1，它可以方程表示。