gbdt 第3页

分类树模型的特征选择

对于决策树模型（包括基于决策树的RF和GBDT），都有如下函数：dt=DecisionTreeClassifier()dt.feature_importances_feature_importances

王金松·2023-12-06 11:06

各种boost全梳理，一文搞定boosting模型

下列的这些算法就是常见的Boosting算法：AdaBoost、GBDT、XGBoost、LightGBM和C

lucifer777·2023-11-30 07:29

决策树可视化，被惊艳到了！

目前无论是机器学习竞赛还是工业界,最流行、应用最广泛的xgboost其实是优化后的GBDT（LightGBM里面的boosting比较经典稳定的也是GBDT哦！）

Wang_AI·2023-11-30 00:59

All About Interview - Day 2

RF、GBDT和XGBoost都属于集成学习（EnsembleLearning），集成学习的目的是通过结合多个基学习器的预测结果来改善单个学习器的泛化能力和鲁棒性。

认真学习的兔子·2023-11-29 21:37

58同城算法工程师一面＆二面面试题

来源：投稿作者：LSC编辑：学姐一面40min1.Gbdt和xgboost的区别XGBoost是对GBDT的改进和扩展，它提供了更高的效率、更好的性能、正则化技术、内置特征选择等功能。

深度之眼·2023-11-26 23:29

【面经&八股】搜广推方向：常见面试题（一）

2.XGBoost和GBDT是什么？有什么区别？3.偏差与方差。延伸知识（集成学习的三种方式:Bagging、Boosting、Stacking）。4.随机森林是什么？

笃℃·2023-11-26 21:08

深度 | 蚂蚁金服DASFAA论文带你深入了解GBDT模型

小蚂蚁说：2018年5月21日，国际顶级数据库会议DASFAA2018（InternationalConferenceonDatabaseSystemsforAdvancedApplications）在澳大利亚黄金海岸举办。本文是蚂蚁金服录用于DASFAA的论文UnpackLocalModelInterpretationforGBDT（作者：方文静、周俊、李小龙、朱其立）的简要介绍。我有几张阿里云

煊琰·2023-11-23 20:55

【自学】Decision Tree、Random Forest、GBDT、XGBoost

等等很简单（b站）3、白手起家的百万富翁（b站）目录一、DecisionTree（决策树）1.1什么是决策树1.2决策树建立过程1.3回归决策树二、RandomForest（随机森林）2.1什么是随机森林三、GBDT

Miracle.W·2023-11-19 12:15

阿里云——算法面经

目录一面二面三面四面五面一面自我介绍讲项目，结合项目问问题数据的特征选择数据有噪声怎么办决策树、RM、GBDT、XGBoost（包括剪枝，预剪枝后剪枝好处坏处）lr到lr的损失函数深度学习防过拟合措施几种激活函数几种优化器

fpga和matlab·2023-11-15 17:31

决策树的Boosting策略是什么

在决策树的Boosting策略中，最常见的算法是梯度提升决策树（GradientBoostingDecisionTrees，简称GBDT）。

温柔的行子·2023-11-15 17:19

18. 机器学习——集成学习

机器学习面试题汇总与解析——集成学习本章讲解知识点什么是集成学习AdaBoost梯度提升树(GradientBoostingDecisionTree,GBDT)随机森林(RandomForest，简称RF

qq_32468785·2023-11-13 14:28

【读书笔记-＞推荐系统】02-01 协同过滤

CF)、逻辑回归(LogisticRegression,LR),进化到因子分解机（FactorizationMachine,FM)、梯度提升树（GradientBoostingDecisionTree,GBDT

小明2766·2023-11-13 01:44

GBDT减少模型偏差、随机森林减小模型方差

1、Adaboost算法原理，优缺点：理论上任何学习器都可以用于Adaboost.但一般来说，使用最广泛的Adaboost弱学习器是决策树和神经网络。对于决策树，Adaboost分类用了CART分类树，而Adaboost回归用了CART回归树。Adaboost算法可以简述为三个步骤：(1)首先，是初始化训练数据的权值分布D1。假设有N个训练样本数据，则每一个训练样本最开始时，都被赋予相同的权值：w

cuisidong1997·2023-11-12 13:59

天池_龙珠_机器学习训练营学习笔记3

一、LightGBM介绍LightGBM是2017年由微软推出的可扩展机器学习系统，它是一款基于GBDT（梯度提升决策树）算法的分布式梯度提升框架，为了满足缩短模型计算时间的需求，LightGBM的设计思路主要集中在减小数据对内存与计算性能的使用

大摆鹅_Big Data·2023-11-12 09:06

【机器学习】集成学习代码练习（随机森林、GBDT、XGBoost、LightGBM等）

本文是中国大学慕课《机器学习》的“集成学习”章节的课后代码。课程地址：https://www.icourse163.org/course/WZU-1464096179课程完整代码：https://github.com/fengdu78/WZU-machine-learning-course代码修改并注释：黄海广，[email protected] warningswarni

风度78·2023-11-12 02:18

最详细的LightGBM参数介绍与深入分析

您有：GBDT、DA

倾城一少·2023-11-11 02:28

收藏 | 机器学习模型与算法最全分类汇总！

包括线性回归、逻辑回归、Lasso回归、Ridge回归、线性判别分析、近邻、决策树、感知机、神经网络、支持向量机、AdaBoost、GBDT、XGBoost、LightGBM、CatBoost、随机森林

louwill12·2023-11-10 15:12

干货| 机器学习模型与算法最全分类汇总！

包括：线性回归、逻辑回归、Lasso回归、Ridge回归、线性判别分析K近邻、决策树、感知机、神经网络、支持向量机AdaBoost、GBDT、XGBoost、LightGBM、CatBoost、随机森林聚类算法与

Python数据之道·2023-11-08 07:02

决策树- 随机森林/GBDT/XGBoost

转载：决策树-随机森林/GBDT/XGBoostBagging:各分类器之间没有依赖关系，可各自并行，Bagging+决策树=随机森林Boosting:各分类器之间有依赖关系，必须串行，比如Adaboost

weixin_50304531·2023-10-31 23:18

20181125 XGBoost 学习笔记

2.xgboostvsgbdt说到xgboost，不得不说gbdt。

dichu8371·2023-10-31 20:56

python机器学习——xgboost简介

xgboost简介（1）背景（2）什么是XGBoost（3）为什么要用XGBoost（4）XGBoost相比传统gbdt有何不同？xgboost为什么快？xgboost如何支持并行？

曹文杰1519030112·2023-10-30 09:17

机器学习算法实习面经（阿里一面+GrowingIO两面）

先是一个简单的自我介绍；1.然后介绍了项目的框架和主要创新点；2.说一下随机森林和Adaboost，以及区别3.说一下GBDT和Adaboost，以及区别4.你用到了LDA说一下LDA的原理5.对于PCA

李德洋·2023-10-29 00:21

【ML】cheatsheet

LR原理与面试题目DT,Adaboost,GBDT,xgboost原理细节与例子https://www.cnblogs.com/createMoMo/p/12635709.htmlxgboost挺详细的算法原理与例子

xzen·2023-10-25 02:10

spark-技术链接

GBDT原理及利用GBDT构造新的特征-Python实现https://blog.csdn.net/shine19930820/article/details/71713680https://github.com

felixanna·2023-10-24 18:30

机器学习的平台化发展趋势

例如在模型方面，经过实践检验过的模型基本还是LR和GBDT，以及这两者的一些变种和结合，例如FM、LR+GBDT等等；再例如在特征处理方面，常用的包括离散化、归一化、平滑等等。

musicml·2023-10-23 11:41

机器学习之GBT, since 2021-04-18

(2021.04.18Sun)GradientBoostingDecisionTree,GBT/GBDT梯度下降树通过加法模型(基函数的线性组合)，以及不断减小训练过程的残差来达到将数据分类或回归的算法

Mc杰夫·2023-10-22 18:51

集成学习入门与实战

阳云yy·2023-10-21 04:24

绝境逆生

1.过拟合的解决办法2.L1/L2正则化3.特征如何降维（pcalda）4.pca和lda的区别5.GBDT，XGBOOST，RF，对XGB参数的理解（LR,SVM,XGBOOST,这三个模型中哪个处理数据不平衡的

涛来涛去·2023-10-18 21:32

Boost-GBDT

GBDT也是集成学习Boosting家族的成员，但是却和传统的Adaboost有很大的不同。回顾下Adaboost，我们是利用前一轮迭代弱学习器的误差率来更新训练集的权重，这样一轮轮的迭代下去。

zhouycoriginal·2023-10-18 14:47

机器学习聚类算法——BIRCH算法、DBSCAN算法、OPTICS算法

随机森林算法、极端随机树和单颗决策树分类器对手写数字数据进行对比分析_极端随机森林算法机器学习集成学习——Adaboost分离器算法机器学习之SVM分类器介绍——核函数、SVM分类器的使用机器学习集成学习——GBDT

张小鱼༒·2023-10-18 08:29

GBDT+LR简介

文章目录一.GBDT+LR简介二.逻辑回归模型三.GBDT模型四.GBDT+LR模型一.GBDT+LR简介在协同过滤和矩阵分解存在的劣势就是仅利用了用户与物品相互行为信息进行推荐，忽视了用户自身特征，物品自身特征以及上下文信息等

LKID体·2023-10-18 06:12

机器学习算法的分类

1.按学习方式分类1）监督学习应用场景：分类、回归、排序常见算法：分类，Logistic回归/SVM/NN回归，线性回归排序，GBDT2）非监督学习应用场景：聚类、降维、关联规则的学习常见算法：聚类，K-Means

奔跑的何小鹿·2023-10-17 19:53

gbdt 回归特征重要性排序_GBDT算法原理及应用

一、GBDT算法原理GradientBoostingDecisionTree(GBDT)是梯度提升决策树。

weixin_39778003·2023-10-15 10:31

逻辑回归总结

将数据进行二分类2）前提：假设数据符合伯努利分布3）模型：sigmoid函数4）损失函数：极大似然函数（为什么要用极大似然函数）5）求解：梯度下降方法（其他优化方法）6）多分类问题7）优点8）缺点9）gbdt

孙有涵·2023-10-13 19:22

全网最浅显易懂的GBDT(xgboost)算法原理深入剖析

梯度提升（Gradientboosting）是一种用于回归、分类和排序任务的技术，属于Boosting算法族的一部分。Boosting是一族可将弱学习器提升为强学习器的算法，属于集成学习（ensemblelearning）的范畴。Boosting方法基于这样一种思想：对于一个复杂任务来说，将多个专家的判断进行适当的综合所得出的判断，要比其中任何一个专家单独的判断要好。通俗地说，就是“三个臭皮匠顶个

ShallowLearner·2023-10-09 18:07

XGB算法梳理

算法原理XGB(extremegradientboosting)是GBDT的一种工业实现，也是通过不断增加新树，拟合伪残差去降低损失函数。

凌霄文强·2023-10-08 13:36

推荐系统（十四）多任务学习：阿里ESMM（完整空间多任务模型）

天泽28·2023-10-05 19:03

2021-04-19

了解常用的机器学习模型，并掌握机器学习模型的建模与调参流程完成相应学习打卡任务相关原理介绍与推荐线性回归模型决策树模型GBDT模型XGBoost模型LightGBM模型推荐教材代码示例读取数据线性回归&

4d2551dd443a·2023-10-05 17:13

机器学习面试之GBDT

（参考：https://www.cnblogs.com/ScorpioLu/p/8296994.html）（参考：https://www.cnblogs.com/ModifyRong/p/7744987.html）（参考：https://blog.csdn.net/google19890102/article/details/51746402）一、集成学习方法（1）Bagging对训练样本重采样来

梦无音·2023-10-05 17:06

关于lightgbm处理category特征的理解

之前一直使用的集成回归树模型都是RF，Xgboost，GBDT这三个，其中RF是bagging思想，Xgboost和GBDT是boosting思想。

_从前从前_·2023-09-30 07:20

【机器学习】随机森林（Random Forest）、GBDT（Gradient Boosting Decision Tree）、XGBoost（eXtreme Gradient Boosting）

随机森林步骤bootstrappeddataset:创建一个引导数据集根据引导数据集创建决策树，每一步用变量的一个随机子集（列的随机子集）创建不断重复上述两个过程bagging：bootstrapping+aggregateGBDT好处：决策树算法相比于其他的算法需要更少的特征工程，比如可以不用做特征标准化，可以很好的处理字段缺失的数据，也可以不用关心特征间是否相互依赖等。决策树能够自动组合多个特

小丫么小阿豪·2023-09-27 21:47

Adaboost,GBDT,Xgboost

两大流派，如果各个弱分类器之间没有依赖关系，可以各自并行，就属于Bagging流派，典型代表为随机深林；如果各个分类器之间有依赖关系，而且必须串行，就属于Boosting流派，典型代表为Adaboost,GBDT

writ·2023-09-27 20:24

XGBoost和GBDT的区别

前辈的总结如下：1.传统GBDT以CART作为基分类器，XGBoost还支持线性分类器，这个时候XGBoost相当于带L1和L2正则化项的Logistic回归（分类问题）或者线性回归（回归问题）。

Rover Ramble·2023-09-25 22:55

GBDT 二分类算法实践

问题：1、残差，残差近似等于用损失函数的负梯度residual=2*y/exp(2*y*f(i))f(i)初始值为02、叶子节点估值node.predict_value，每个叶子节点region下的所有instance的残差值image.png用牛顿法进行优化得到如下公式：image.png代码实现：sum(residual(i))/sum(|residual(i)|*|2-residual(i)

邵红晓·2023-09-25 22:04

lambdaMART-1.GBDT

（损失函数的负梯度提升方向）答案：梯度提升算法（GradientBoosting）,GBDT使用梯度提升（GradientBoosting）作为训练方法。

吹洞箫饮酒杏花下·2023-09-22 12:16

十、(机器学习)-决策树和梯度提升树

决策树CART与梯度提升树GBDT1、CART分类回归树简介CART分类回归树是一种典型的二叉决策树，可以做分类和回归，如果待预测结果是离散数据，则CART生成分类决策树，如果待预测结果是连续型数据，则

_23__·2023-09-21 18:24

机器学习第九课--随机森林

比如构建一个评分卡系统，业界的标配是GBDT或者XGBoost等集成模型，主要因为它的效果确实好，而且稳定。还有一点是这些模型的可解释性也很好，不像深度学习模型就像个黑盒子。

好人cc·2023-09-21 09:11

基于GBDT+Tkinter+穷举法按排队时间预测最优路径的智能导航推荐系统——机器学习算法应用(含Python工程源码)+数据集（四）

.百度地图API调用4.GUI界面设计5.路径规划6.智能推荐系统测试1.训练准确率2.测试效果3.程序应用相关其它博客工程源代码下载其它资料下载前言本项目的核心是利用百度地图API获取步行时间和借助GBDT

小胡说人工智能·2023-09-20 04:04

基于GBDT+Tkinter+穷举法按排队时间预测最优路径的智能导航推荐系统——机器学习算法应用(含Python工程源码)+数据集（二）

损失函数3）测试集测试4）自定义特征并预测3.百度地图API调用1）申请密钥2）地址编码服务3）轻量级路线规划服务相关其它博客工程源代码下载其它资料下载前言本项目的核心是利用百度地图API获取步行时间和借助GBDT

小胡说人工智能·2023-09-20 04:33

基于GBDT+Tkinter+穷举法按排队时间预测最优路径的智能导航推荐系统——机器学习算法应用(含Python工程源码)+数据集（三）

目录前言总体设计系统整体结构图系统流程图运行环境Python环境Pycharm环境Scikit-learnt模块实现1.数据预处理2.客流预测3.百度地图API调用4.GUI界面设计1）手绘地图导入2）下拉菜单设计3）复选框设计4）最短路径结果输出界面设计5）智能推荐结果输出设计6）界面展示5.路径规划6.智能推荐相关其它博客工程源代码下载其它资料下载前言本项目的核心是利用百度地图API获取步行时