机器学习(深度学习)优化策略

本文探讨了机器学习和深度学习系统优化的各种策略,包括正交化以提高效率,采用单一数值评估指标以简化优化过程,满足和优化多个指标,以及训练、开发和测试集的合理划分。此外,文章还讨论了开发和测试集大小的调整原则,以及何时改变这些设定以适应评估指标的变化。
摘要由CSDN通过智能技术生成

优化策略(总)

   一个系统从开发出来到实际的应用需要层层的优化,对于一个机器学习或者深度学习系统,我们需要进行怎样的优化,这篇博客可以提供给你一些思路。资源来自于(吴恩达《深度学习》+《设计模式原理》+一些最新的深度学习领域论文文献)

id ideas
1 搜集更多的数据
2 搜集更多样的数据(场景、姿势)
3 用梯度下降算法训练的更久一点
4 用不同的优化算法(adam优化算法等)
5 尝试规模更大或者更小的神经网络
6 尝试正则化或者dropout
7 修改网络架构(激活函数、改变隐藏层的单元数目)
8

  有的项目组可能花很长时间去优化其中的某一项或几项,但最后反而可能会降低模型的准确度。如何进行模型的优化以达到我们想要的想过是这篇博客主要讨论的问题。

1.正交化

在这里插入图片描述
  例如汽车的案例,汽车的有3个按钮,一个方向盘,一个油门,一个刹车。而

  • 2
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值