一方法 学习曲线法:
一般来说,学习曲线如下图所示,模型精度随着数据量的提升而提升,到了一定程度放缓:
因此,可以用不同的数据量去训练模型,绘制模型精度和数据量的关系。如下图,观察数据量和精度趋势,如果在猛烈上涨,则说明提升数据量会有显著帮助,如果已经平缓,说明没有必要再去收集数据了。
4准则:
1 数据集必须能够覆盖到模型使用时所有结构性变化。比如识别人的时候,需要输入人的各种姿势,角度等等。
2 关联性,让模型找到规律。 简单来说,就是要量大。
3 数据信息量要比模型变数量多十倍以上。数据信息量可以简单理解为数据集中包含多少个数字。
例如ResNet 有25636712个参数,千万级别。那么数据信息应当有1个亿以上。图像的大小是256*256,1000张图就是大概两亿个像素。所以1000张图够。
4、数据品质。数据品质不好,模型会有误差,可以通过增加数据量提升模型精度。
增加数据量如果增加100倍,预期模型数误差下降10倍,公式如下图:
取4个准则里估算的数据量的最大值。
参考:
https://www.bilibili.com/video/BV14r4y1D7UA/?spm_id_from=333.337.search-card.all.click&vd_source=fd23946b01c2a9a3f921de79df667850