目标检测中训练集、验证集和测试集(train、val、test)

val是validation的简称。
training dataset 和 validation dataset都是在训练的时候起作用。
而因为validation的数据集和training没有交集,所以这部分数据对最终训练出的模型没有贡献。
validation的主要作用是来验证是否过拟合、以及用来调节训练参数等。目标检测中val其实就是用来监测训练过程的,超参确定后,监测过程可有可无。

比如你训练0-10000次迭代过程中,train和validation的loss都是不断降低,
但是从10000-20000过程中train loss不断降低, validation的loss不降反升。
那么就证明继续训练下去,模型只是对training dataset这部分拟合的特别好,但是泛化能力很差。
所以与其选取20000次的结果,不如选择10000次的结果。
这个过程的名字叫做 Early Stop, validation数据在此过程中必不可少。

如果你去跑caffe自带的训练demo,你会用到train_val.prototxt,这里面的val其实就是validation。
而网络输入的TEST层,其实就是validation,而不是test。你可以通过观察validation的loss和train的loss定下你需要的模型。

但是为什么现在很多人都不用validation了呢?
我的理解是现在模型中防止过拟合的机制已经比较完善了,Dropout\BN等做的很好了。
而且很多时候大家都用原来的模型进行fine tune,也比从头开始更难过拟合。
所以大家一般都定一个训练迭代次数,直接取最后的模型来测试。

  • 6
    点赞
  • 23
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
在机器学习,我们通常需要将数据集划分成训练集验证集测试集三部分。 训练集是用来训练模型的数据集,模型会根据这些数据学习到特征和模式。 验证集是用来调整模型参数以及选择最佳模型的数据集。我们可以在训练模型时使用验证集来检验模型的性能,并且不断调整模型的参数,直到找到最优的模型。 测试集是用来评估模型性能的数据集。在模型训练和调整参数之后,我们需要使用测试集来评估模型在未知数据上的性能,从而判断模型是否足够好用。 在 Matlab ,我们可以使用 `cvpartition` 函数将数据集划分成训练集验证集测试集。例如,下面的代码将数据集划分为 70% 的训练集、15% 的验证集和 15% 的测试集: ```matlab c = cvpartition(labels,'HoldOut',0.3); train_idx = c.training; test_idx = c.test; train_data = data(train_idx,:); train_labels = labels(train_idx,:); test_data = data(test_idx,:); test_labels = labels(test_idx,:); c2 = cvpartition(train_labels,'HoldOut',0.2); val_idx = c2.test; val_data = train_data(val_idx,:); val_labels = train_labels(val_idx,:); train_data(val_idx,:) = []; train_labels(val_idx,:) = []; ``` 其,`labels` 是数据集的标签,`data` 是数据集的特征矩阵。首先使用 `cvpartition` 函数将数据集划分为训练集测试集,然后再次使用 `cvpartition` 函数将训练集划分为训练集验证集。最终得到的 `train_data`、`train_labels`、`val_data`、`val_labels`、`test_data` 和 `test_labels` 即为划分后的数据集。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值