最近学习了模型融合的方法,遇到了Stacking的方法来解决模型融合的问题,因此做了以下总结。
1.Stacking是什么?
Stacking简单理解就是讲几个简单的模型,一般采用将它们进行K折交叉验证输出预测结果,然后将每个模型输出的预测结果合并为新的特征,并使用新的模型加以训练。
Stacking模型本质上是一种分层的结构,这里简单起见,只分析二级Stacking.假设我们有3个基模型M1、M2、M3。
基模型M1,对训练集train训练,然后用于预测train和test的标签列,分别是P1,T1
模型融合的图示如下
最近学习了模型融合的方法,遇到了Stacking的方法来解决模型融合的问题,因此做了以下总结。
1