贝叶斯优化的XGBoost信用风险评估模型

TP391%F832.4; 信用风险评估是银行和其他金融机构信贷审批业务中必不可少的一环.为进一步提高信用风险评估的准确率和模型可解释性,提出了基于贝叶斯优化的极端梯度提升树(extreme gradient boosting,XGBoost)信用风险评估模型.XGBoost集成学习模型预测准确率高,基学习器采用树模型,易于可视化,具有良好的可解释性.然而,XGBoost模型超参数众多,模型效果依赖于超参数的精确设置.在这项研究中,采用贝叶斯高斯过程(GP)作为XGBoost的超参数优化器,并与网格搜索、随机搜索进行比较研究.所提出的模型在三个信用贷款数据集上进行训练和测试,选择准确率和F1分...

Full description

Saved in:
Bibliographic Details
Published in计算机工程与应用 Vol. 59; no. 20; pp. 283 - 294
Main Authors 贾颖, 赵峰, 李博, 葛诗煜
Format Journal Article
LanguageChinese
Published 山东工商学院 计算机科学与技术学院,山东 烟台 264005 15.10.2023
Subjects
XGBoost模型
信用风险评估
credit scoring
Gaussian processes
贝叶斯优化
高斯过程
Bayesian optimization
XGBoost model
Online AccessGet full text
ISSN1002-8331
DOI10.3778/j.issn.1002-8331.2303-0422

Cover

More Information
Summary:TP391%F832.4; 信用风险评估是银行和其他金融机构信贷审批业务中必不可少的一环.为进一步提高信用风险评估的准确率和模型可解释性,提出了基于贝叶斯优化的极端梯度提升树(extreme gradient boosting,XGBoost)信用风险评估模型.XGBoost集成学习模型预测准确率高,基学习器采用树模型,易于可视化,具有良好的可解释性.然而,XGBoost模型超参数众多,模型效果依赖于超参数的精确设置.在这项研究中,采用贝叶斯高斯过程(GP)作为XGBoost的超参数优化器,并与网格搜索、随机搜索进行比较研究.所提出的模型在三个信用贷款数据集上进行训练和测试,选择准确率和F1分数等四项指标评价模型性能.实验结果发现将贝叶斯高斯过程用于XGBoost模型的超参数优化,收敛速度快.所提出的模型在三个数据集上的准确率比表现最好的对比模型分别高出3.5、3.62和0.91个百分点.
ISSN:1002-8331
DOI:10.3778/j.issn.1002-8331.2303-0422