XGBoost

1. 待完善：XGBoost (Extreme Gradient Boosting)

本笔记旨在记录机器学习竞赛中的常胜将军 XGBoost。它本质上是对传统梯度提升决策树 (GBDT) 算法的高度优化和高效实现。后续需补充其在损失函数中引入二阶导数 (泰勒展开) 以及显式正则化项的数学原理。