高性能计算GBDT的原理是什么?
蓝海大脑高性能计算GPU服务器研究人员表示:
GBDT是梯度提升决策树,是一种基于Boosting的算法,采用以决策树为基学习器的加法模型,通过不断拟合上一个弱学习器的残差,最终实现分类或回归的模型。关键在于利用损失函数的负梯度在当前模型的值作为残差的近似值,从而拟合一个回归树。对于分类问题:常使用指数损失函数;对于回归问题:常使用平方误差损失梯度函数(此时,其负梯度就是通常意义的残差),对于一般损失函数来说就是残差的近似。
蓝海大脑 京ICP备18017748号-1