ginipython

㈠ python中的sklearn中决策树使用的是哪一种算法

sklearn中决策树分为DecisionTreeClassifier和DecisionTreeRegressor，所以用的算法是CART算法，也就是分类与回归树算法(classification and regression tree,CART)，划分标准默认使用的也是Gini，ID3和C4.5用的是信息熵，为何要设置成ID3或者C4.5呢

㈡ python里怎么计算信息增益，信息增益比，基尼指数

1、首先自定义一份数据，分别计算信息熵，条件信息熵，从而计算信息增益。

㈢ 求python大神解释下这段代码，没接触过python不会啊

这就是一段构造函数。
(self,
n_estimators=10,
criterion="gini",
max_depth=None,
min_samples_split=2,
min_samples_leaf=1,
min_weight_fraction_leaf=0.,
max_features="auto",
max_leaf_nodes=None,
bootstrap=True,
oob_score=False,
n_jobs=1,
random_state=None,
verbose=0,
warm_start=False,
class_weight=None):
这是构造函数的参数，有默认值。

super(RandomForestClassifier, self).__init__(
base_estimator=DecisionTreeClassifier(),
n_estimators=n_estimators,
estimator_params=("criterion", "max_depth", "min_samples_split",
"min_samples_leaf", "min_weight_fraction_leaf",
"max_features", "max_leaf_nodes",
"random_state"),
bootstrap=bootstrap,
oob_score=oob_score,
n_jobs=n_jobs,
random_state=random_state,
verbose=verbose,
warm_start=warm_start,
class_weight=class_weight)

supper会调用基类构造函数，你可以认为这一串就是基类构造函数的参数。

self.criterion = criterion
self.max_depth = max_depth
self.min_samples_split = min_samples_split
self.min_samples_leaf = min_samples_leaf
self.min_weight_fraction_leaf = min_weight_fraction_leaf
self.max_features = max_features
self.max_leaf_nodes = max_leaf_nodes

这一串就是属性赋值。

㈣ GBDT 如何实现特征组合提取

以Python调用sklearn为例，在你建立GBDT对象并作fit之后，可以使用如下代码获得你要的规则代码：

dot_data = tree.export_graphviz(model_tree, out_file=None,
max_depth=5, feature_names=names_list, filled=True, rounded=True) # 将决策树规则生成dot对象

其中tree就是你的数对象，如果你的out_file后面是一个文件名，那么你的规则会输出到文件中；如果是None（就像上面代码），那么值会保存在dot_data中。

无论哪种方法，你都能获得规则文本。然后剩下的就是普通的文本解析的事情了。

在决策树算法对象的tree_属性中，存储了所有有关决策树规则的信息（示例中的决策树规则存储在model_tree.tree_中）。最主要的几个属性：

• children_left：子级左侧分类节点

• children_right：子级右侧分类节点

• feature：子节点上用来做分裂的特征

• threshold：子节点上对应特征的分裂阀值

• values：子节点中包含正例和负例的样本数量

上述属性配合节点ID、节点层级便迭代能得到如下的规则信息：

1 [label="rfm_score <= 7.8375 gini = 0.1135 samples =
14581 value = [13700, 881]", fillcolor="#e58139ef"] ;

其中规则开始的1代表节点ID，rfm_score是变量名称，rfm_score
<= 7.8375是分裂阀值，gini = 0.1135是在当前规则下的基尼指数，nsamples是当前节点下的总样本量，nvalue为正例和负例的样本数量。

来源：知乎

㈤ 基于python的决策树能进行多分类吗

决策树主文件 tree.py

[python] view plain

• #coding:utf-8

• frommathimportlog

• importjson

• fromplotimportcreatePlot

• classDecisionTree():

• def__init__(self,criterion="entropy"):

• self.tree=None

• self.criterion=criterion

• def_is_continuous_value(self,a):

• #判断一个值是否是连续型变量

• iftype(a).__name__.lower().find('float')>-1or

• type(a).__name__.lower().find('int')>-1:

• returnTrue

• else:

• returnFalse

• def_calc_entropy(self,dataset):

• #计算数据集的香农熵

• classes=dataset.ix[:,-1]

• total=len(classes)

• cls_count={}

• forclsinclasses:

• ifclsnotincls_count.keys():

• cls_count[cls]=0

• cls_count[cls]+=1

• entropy=1.0

• forkeyincls_count:

• prob=float(cls_count[key])/total

• entropy-=prob*log(prob,2)

• returnentropy

• def_calc_gini(self,dataset):

• #计算数据集的Gini指数

• classes=dataset.ix[:,-1]

• total=len(classes)

• cls_count={}

• forclsinclasses:

• ifclsnotincls_count.keys():

• cls_count[cls]=0

• cls_count[cls]+=1

• gini=1.0

• forkeyincls_count:

• prob=float(cls_count[key])/total

• gini-=prob**2

• returngini

• def_split_data_category(self,dataset,feature,value):

• #对分类变量进行拆分

• #将feature列的值为value的记录抽取出来，同时删除feature列

㈥ python中的sklearn中决策树使用的是哪一种算法

要弄清楚这个问题，首先要弄懂决策树三大流行算法ID3、C4.5和CART的原理，以及sklearn框架下DecisionTreeClassifier的帮助文档。
3个算法的主要区别在于度量信息方法、选择节点特征还有分支数量的不同。
ID3，采用熵（entropy）来度量信息不确定度，选择“信息增益”最大的作为节点特征，它是多叉树，即一个节点可以有多个分支。
C4.5，同样采用熵（entropy）来度量信息不确定度，选择“信息增益比”最大的作为节点特征，同样是多叉树，即一个节点可以有多个分支。
CART，采用基尼指数（Gini index）来度量信息不纯度，选择基尼指数最小的作为节点特征，它是二叉树，即一个节点只分两支。
然后你认真阅读sklearn的DecisionTreeClassifier的帮助文档，可以发现，度量信息的方法默认是Gini，但可以改成entropy，请按需选择；构建的树是二叉树；可以通过设置max_deepth、max_leaf等来实现“剪枝”，这是根据CART的损失函数减少的理论进行的。
所以总结说，如果信息度量方法按照默认的设置，那么sklearn所用的决策树分类器就是CART，如果改成了entropy，那么只是使用了别的度量方法而已。其实两者差不多。

㈦ 这段代码是什么意思这是python的一个脚本吗，这里面的call是什么意思，求大神

看样子是一个比较大的项目里的一个脚本。首先要明确这是一个windows的批处理脚本，并不是python脚本。
再大概看了下其内容，似乎是一个有关数据处理的软件（BI即商业智能），这种类似软件有可能会依赖于一些现有的数据处理库（多半是python写的），这个脚本的作用就是调用一些列工具把python代码转换成windows下的exe。

㈧ python中的sklearn中决策树使用的是哪一种算法

sklearn中决策树分为DecisionTreeClassifier和DecisionTreeRegressor，所以用的算法是CART算法，也就是分类与回归树算法(classification and regression tree,CART)，划分标准默认使用的也是Gini，ID3和C4.5用的是信息熵

㈨ python中的sklearn中决策树使用的是哪一种算法

sklearn中决策树分为DecisionTreeClassifier和DecisionTreeRegressor，所以用的算法是CART算法，也就是分类与回归树算法(classification and regression tree,CART)，划分标准默认使用的也是Gini，ID3和C4.5用的是信息熵，为何要设置成ID3或者C4.5呢？