机器学习之XGboost代码实现

最新推荐文章于 2025-04-05 16:56:55 发布

蜗牛遥遥

最新推荐文章于 2025-04-05 16:56:55 发布

阅读量1.2w

点赞数 7

分类专栏：机器学习文章标签： XGboost 程序实现算法对比机器学习

本文链接：https://blog.csdn.net/qq_37960402/article/details/88638082

版权

本文详细介绍了如何在Python中实现XGboost，包括基本应用、自定义损失函数以及与其他算法如逻辑回归、随机森林等的对比。通过实例展示了XGboost的训练、预测过程，并提供了自定义目标函数和评估指标的方法。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

XGboost代码实现
XGboost的原生语言是c++，所以它的运行速度比较快。这里将会举例介绍一下python中如何调用XGboost，如果想了解XGboost的理论部分，可以参考这篇博客

文章目录

例1： XGboost基本应用

数据集：以鸢尾花数据集为例

# /usr/bin/python
# -*- encoding:utf-8 -*-
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
import xgboost as xgb

def show_accuracy(a, b, tip):
    acc = a.ravel() == b.ravel()
    print (acc)
    print (tip + '正确率：\t', float(acc.sum()) / a.size)

if __name__ == "__main__":
    #加载iris数据集
    data=load_iris()
    X=data.data
    Y=data.target
    X_train,X_test,y_train,y_test=train_test_split(X,Y,test_size=0.25,random_state=1)  #训练集和测试集
    data_train = xgb.DMatrix(X_train,label=y_train)
    data_test = xgb.DMatrix(X_test,label=y_test)
    print (data_train)
    print (type(data_train))
    # 设置参数
    param = {'max_depth': 3, 'eta': 1, 'silent': 1, 'objective': 'multi:softmax','num_class': 3} # logitraw
    watchlist = [(data_test, 'eval'), (data_train, 'train')]
    n_round = 7
    bst = xgb.train(param, data_train, num_boost_round=4, evals=watchlist)  
    y_hat = bst.predict(data_test)
    show_accuracy(y_hat, y_test, 'XGBoost ')

结果显示：
在这里插入图片描述
xgb.train(),bst.predicty

bst = xgb.train(param, data_train, num_boost_round=4, evals=watchlist)
y_hat = bst.predict(data_test)

xgb.train()和xgb.predict是xgboost训练和测试的方式
xgb.train()函数原型：

xgboost.train(params,dtrain,num_boost_round=10,evals=(),obj=None,feval=None,maxim

最低0.47元/天解锁文章