决策树ID3、C4.5、CART、随机森林、bagging、boosting、Adaboost、GBDT、xgboost
决策树1、决策树学习算法主要由三部分构成:特征选择决策树生成决策树的剪枝特征选择而我们应该基于什么准则来判定一个特征的分类能力呢?这时候,需要引入一个概念:信息增益.,下面是公式(其中xi表示事件,P表示概率):举个例子关于熵的,求明天我以什么方式去上学,骑自行车的概率是1/2,走路1/2,p(x1)=1/2,p(x2)=1/2,带入上面的公式就可以了。下面举一个例子https://www.bil