train set、dev set和test set的三者联系与区别

train set:该集合是用于训练模型的。

dev set:该集合是用于在训练模型中评估模型,以促进模型优化的。

test set:该集合是用于测试训练好的模型是否有效的。

简而言之就是:

你使用了train set训练一个模型,这个模型有一个优化目标,利用dev set来评估你的模型,确定你模型离你的目标差距。在不断迭代中不断用train set训练模型,dev set评估模型,不断靠近你的目标直至最优。之后用test set来验证模型效果。

注意:dev set 和 test set需要在同一分布下。

这里是因为如果你dev set 和 test set属于不同分布,你在dev set训练出的模型是不会符合test set的。

如下图所示(源于吴恩达深度学习课程):

你的dev set+优化目标就是图中靶子+靶心,你训练的模型就是这这个靶子里评估,不断优化靠近靶心,但是如果你dev set 和 test set属于不同分布,你就会发现你最终验证的是图上红色线画的靶子,这显而易见你训练的模型完全不能很好符合test set。

所以要让你的模型符合test set,必须要dev set 和 test set属于同一分布

  • 3
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值