2020-7-22 吴恩达-改善深层NN-w1 深度学习的实用层面(课后作业)

本文讨论了在深度学习中如何处理训练/开发/测试集的划分,强调验证集和测试集应来自同一分布。针对高方差问题,提出了增加正则化、获取更多训练数据等解决方案。解释了权重衰减(如L2正则化)的作用,以及调整正则化超参数λ的影响。此外,还涉及了dropout技术在训练和测试阶段的应用,以及归一化输入对于优化成本函数的重要性。
摘要由CSDN通过智能技术生成

参考链接

1.If you have 10,000,000 examples, how would you split the train/dev/test set?
如果你有1000万个样本,如何划分训练/开发/测试集合?

  • 33% train . 33% dev . 33% test
  • 60% train . 20% dev . 20% test
  • 98% train . 1% dev . 1% test。正确

理由参见课程。大量数据的时候,只需要1%的验证和测试就足够了。

==============================================================
2.The dev and test set should: 开发集和测试集应该

  • Come from the same distribution。正确。
  • Come from the different distribution
  • Be indentical to each other(same (x,y) pairs)
  • Have the same number of examples

建议大家要确保验证集和测试集的数据来自同一分布。参考课程

===============================================================
3.If your Neural Network model seems to have high variance, what

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值