【DeepCV】三个臭皮匠顶个诸葛亮--模型集成

Backto DeepCV

通常，训练多个模型共同作用胜过单一的模型。在竞赛中，几乎所有的顶尖队伍中都用到了模型集成。

组队方式： ensemble 中不同模型的生成方式

同一模型，不同初始化

使用 cross-validation 来确定 hyper-parameters， 然后给定一个模型，多组不同的初始值，进行训练。然后一起去打怪。
类似于公立学校，不同背景的人来，大班上课，同一套教师班子。

同一模型，不同节点

计算资源有限，肿么办？把训练中的不同时间节点的 checkpoint 保存下来，集成到一起，看看效果喽~ 实践中貌似还不错。
类似于 影分身之术。我，和昨天的我，和前天的我，和大前天的我，一起上。

高手组团，竞争上岗

针对一些具体的任务，已经有一些比较好的模型出现了，但是性能还比较接近，时而这个好，时而那个好，都很强但是没有稳定的第一。那好办，全请过来，一起干。
类似于八仙过海，各显神通。我只要过海,你们自己竞争个最优方案来。

各管一边，协作突破

针对一些特别宽泛的任务，比如图像分割。可以针对 自然风景，交通路况，室内室外等不同场景，设计不同的模型，各管一项。最后把结果 Fusion 成一体，从而达到在全场景测试中不错的成绩。
类似于 兵来将挡水来土掩。