決策樹id3演算法

㈠ 向大神求教！python寫的決策樹的ID3演算法怎麼一直提示bestfeat=labels[bestfeat_index]超出索引啊！

1、對當前訓練集，計算各屬性的信息增益（假設有屬性A1,A2,…An）；
2、選擇信息增益最大的屬性Ak（1<=k<=n），作為根節點；
3、把在Ak處取值相同的例子歸於同一子集，作為該節點的一個樹枝，Ak取幾個值就得幾個子集；
4、若在某個子集中的所有樣本都是屬於同一個類型（本位只討論正(Y)、反(N)兩種類型的情況），則給該分支標上類型號作為葉子節點；
5、對於同時含有多種（兩種）類型的子集，則遞歸調用該演算法思路來完成樹的構造。

㈡ 常見決策樹分類演算法都有哪些

在機器學習中，有一個體系叫做決策樹，決策樹能夠解決很多問題。在決策樹中，也有很多需要我們去學習的演算法，要知道，在決策樹中，每一個演算法都是實用的演算法，所以了解決策樹中的演算法對我們是有很大的幫助的。在這篇文章中我們就給大家介紹一下關於決策樹分類的演算法，希望能夠幫助大家更好地去理解決策樹。
1.C4.5演算法
C4.5演算法就是基於ID3演算法的改進，這種演算法主要包括的內容就是使用信息增益率替換了信息增益下降度作為屬性選擇的標准；在決策樹構造的同時進行剪枝操作；避免了樹的過度擬合情況；可以對不完整屬性和連續型數據進行處理；使用k交叉驗證降低了計算復雜度；針對數據構成形式，提升了演算法的普適性等內容，這種演算法是一個十分使用的演算法。
2.CLS演算法
CLS演算法就是最原始的決策樹分類演算法，基本流程是，從一棵空數出發，不斷的從決策表選取屬性加入數的生長過程中，直到決策樹可以滿足分類要求為止。CLS演算法存在的主要問題是在新增屬性選取時有很大的隨機性。
3.ID3演算法
ID3演算法就是對CLS演算法的最大改進是摒棄了屬性選擇的隨機性，利用信息熵的下降速度作為屬性選擇的度量。ID3是一種基於信息熵的決策樹分類學習演算法，以信息增益和信息熵，作為對象分類的衡量標准。ID3演算法結構簡單、學習能力強、分類速度快適合大規模數據分類。但同時由於信息增益的不穩定性，容易傾向於眾數屬性導致過度擬合，演算法抗干擾能力差。
3.1.ID3演算法的優缺點
ID3演算法的優點就是方法簡單、計算量小、理論清晰、學習能力較強、比較適用於處理規模較大的學習問題。缺點就是傾向於選擇那些屬性取值比較多的屬性，在實際的應用中往往取值比較多的屬性對分類沒有太大價值、不能對連續屬性進行處理、對雜訊數據比較敏感、需計算每一個屬性的信息增益值、計算代價較高。
3.2.ID3演算法的核心思想
根據樣本子集屬性取值的信息增益值的大小來選擇決策屬性，並根據該屬性的不同取值生成決策樹的分支，再對子集進行遞歸調用該方法，當所有子集的數據都只包含於同一個類別時結束。最後，根據生成的決策樹模型，對新的、未知類別的數據對象進行分類。
在這篇文章中我們給大家介紹了決策樹分類演算法的具體內容，包括有很多種演算法。從中我們不難發現決策樹的演算法都是經過不不斷的改造趨於成熟的。所以說，機器學習的發展在某種程度上就是由於這些演算法的進步而來的。

㈢ 決策樹ID3，C4.5，CART演算法中某一屬性分類後，是否能運用該屬性繼續分類

用過的分類屬性是不能在用來分類的，假設：再用來分類的情況下，在數據很充分時，相當於把整個數據集合中的每一條信息用樹結構表達出來。

㈣ 有關ID3演算法判定樹的翻譯

本文就基於決策樹的分類系統進行了說明，主要介紹了根據決策樹演算法中的ID3演算法，利用開發工具Visual C++ 6.0完成系統的方法。首先介紹了機器學習、歸納學習、決策樹學習等方面的相關背景。接著詳細介紹了決策樹，ID3演算法的理論知識，包括信息熵知識,演算法原理,以及分析了ID3演算法的優劣。本文針對本系統的實際情況，詳細的介紹了系統中的各模塊和實現方法，以及系統功能的全過程。
另外，本文還比較詳細的介紹了系統開發工具Visual C++ 6.0,從實現本系統的角度，對涉及的相關內容進行了介紹。通過對系統不同實驗數據的實驗結果的分析，直觀的顯示了系統能夠完成的所有功能。文章的最後做出了總體上的結論，並指出了本分類系統的存在的許多不足之處，這也為以後的進一步研究奠定了基礎。

㈤ 以汽車保險為例:假定訓練資料庫具有兩個屬性:年齡和汽車類型。 使用ID3演算法得到一個決策樹,怎麼畫

咨詢記錄 · 回答於2021-10-18

㈥ 決策樹方法的基本思想是什麼

決策樹的基本思想
決策樹演算法是最早的機器學習演算法之一。
演算法框架
1.決策樹主函數
各種決策樹的主函數都大同小異，本質上是一個遞歸函數。該函數的主要功能是按照某種規則生長出決策樹的各個分支節點，並根據終止條件結束演算法。一般來講，主函數需要完成如下幾個功能。
（1）輸入需要分類的數據集和類別標簽
（2）根據某種分類規則得到最優的劃分特徵，並創建特徵的劃分節點--計算最優特徵子函數
（3）按照該特徵的每個取值劃分數據集為若幹部分--劃分數據集子函數
（4）根據劃分子函數的計算結果構建出新的節點，作為樹生長出的新分支
（5）檢驗是否符合遞歸的終止條件
（6）將劃分的新節點包含的數據集和類別標簽作為輸入，遞歸執行上述步驟。
2.計算最優特徵子函數
計算最優特徵子函數是除主函數外最重要的函數。每種決策樹之所以不同，一般都是因為最優特徵選擇的標准上有所差異，不同的標准導致不同類型的決策樹。如：ID3的最優特徵選擇標準是信息增益、C4.5是信息增益率、CART是節點方差的大小等。
在演算法邏輯上，一般選擇最優特徵需要遍歷整個數據集，評估每個特徵，找到最優的那一個特徵返回。
3.劃分數據集函數
劃分數據集函數的主要功能是分隔數據集，有的需要刪除某個特徵軸所在的數據列，返回剩餘的數據集；有的乾脆將數據集一分為二。
4.分類器
所有的機器學習演算法都要勇於分類或回歸預測。決策樹的分類器就是通過遍歷整個決策樹，使測試集數據找到決策樹中葉子節點對應的類別標簽。這個標簽就是返回的結果。

㈦ ID3演算法的背景知識

ID3演算法最早是由羅斯昆（J. Ross Quinlan）於1975年在悉尼大學提出的一種分類預測演算法，演算法的核心是「信息熵」。ID3演算法通過計算每個屬性的信息增益，認為信息增益高的是好屬性，每次劃分選取信息增益最高的屬性為劃分標准，重復這個過程，直至生成一個能完美分類訓練樣例的決策樹。
決策樹是對數據進行分類，以此達到預測的目的。該決策樹方法先根據訓練集數據形成決策樹，如果該樹不能對所有對象給出正確的分類，那麼選擇一些例外加入到訓練集數據中，重復該過程一直到形成正確的決策集。決策樹代表著決策集的樹形結構。
決策樹由決策結點、分支和葉子組成。決策樹中最上面的結點為根結點，每個分支是一個新的決策結點，或者是樹的葉子。每個決策結點代表一個問題或決策，通常對應於待分類對象的屬性。每一個葉子結點代表一種可能的分類結果。沿決策樹從上到下遍歷的過程中，在每個結點都會遇到一個測試，對每個結點上問題的不同的測試輸出導致不同的分支，最後會到達一個葉子結點，這個過程就是利用決策樹進行分類的過程，利用若干個變數來判斷所屬的類別。

㈧ 實現ID3決策樹學習演算法

http://www.rulequest.com/download.html
http://www.rulequest.com/See5-demo.zip
這里有些。
Diversity(整體)-diversity(左節點)-diversity(右節點)，值越大，分割就越好。

三種diversity的指標：

1. min(P(c1),P(c2))

2. 2P(c1)P(c2)

3. [P(c1)logP(c1)]+[P(c2)logP(c2)]

這幾個參數有相同的性質：當其中的類是均勻分布的時候，值最大；當有一個類的個數為0的時候，值為0。

選擇分割的時候，對每個欄位都考慮；對每個欄位中的值先排序，然後再一一計算。最後選出最佳的分割。

樹的生成：

錯誤率的衡量：最初生成的樹中也是有錯誤率的！因為有些葉子節點並不是「Pure」的。

樹的修剪：是不是當所以的葉子都很純是，這棵樹就能工作的很好呢?

修剪的要點是：應該回溯多少、如何從眾多的子樹總尋找最佳的。

1) 鑒別生成候選子樹 ：使用一個調整的錯誤率。AE(T)=E(T)+aleaf_count(T)。一步步的生成一些候選子樹。

2) 對子樹的評估：通過test set找到最佳子樹

3) 對最佳子樹進行評估：使用evaluation set。

4) 考慮代價(cost)的問題

㈨ 求基於ID3演算法的決策樹研究與實現的中英文翻譯，跟數據挖掘，決策樹，ID3演算法有關的中英文翻譯都可以

還是一樣郵件查收吧