吴恩达机器学习——多元梯度下降,学习率,特征,特征多项式

本文探讨了在吴恩达的机器学习课程中,如何判断梯度下降是否正常,强调了自动收敛测试的局限性,并讨论了学习率选择对模型训练的影响。此外,还提到了特征选择在模型构建中的重要性和多项式回归的应用,指出特征选择的恰当性对于构建高效模型至关重要。
摘要由CSDN通过智能技术生成

如何判断梯度下降是正常的???

梯度下降的每步后代价函数的值
如果迭代正常,每一步迭代后J(Θ)都应该下降。并且下降的程度逐渐减缓。

自动收敛测试

如果代价函数小于某个值ε时, 例如ε可以是1e-3,但是通常选择一个ε非常困难,依靠自动收敛检测不一定可靠,还是通过图像比较可靠。

学习速率的选择


从代价函数图像表现出代价函数的值迭代后不断上升,或呈震荡,意味着学习速率过大,会使得梯度下降过程中越过最低点,造成代价函数的值上升、不稳定。这样会使得迭代不稳定、或者不一定收敛。
当然,步长过大也可能会出现收敛缓慢,但一般出现的问题是不一定迭代后每一步代价函数的值都下降。
只要学习率足够小,梯度下降总能够找到一个最小代价值。但是学习速率过小,则会造成使得要走很多很多步才能找到这个值。
学习速率的选择

特征

特征
这所房子有多个特征,例如房子的位置、面积、房间数、长度、深度、层数等。
选择的特征不同,得到的模型也不同,选择合适的特征,你可能会得到一个更好的模型。

多项式回归

建模过程
建模过程,上图选择深度、宽度得到的面积来建模,并不直接选择临街的宽度、房子的长度来建模。
在这里插入图片描述
通过对数据的观察以及你的数理知识,你可以建立一个好、更复杂的模型。
尽管有很多的特征你可以自由的选择,但不一定所有的特征都合适。后面的介绍的算法能够观察给出的数据,自动为你选择合适的特征,计算出一个更符合数据的模型。

  • 3
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
资源包主要包含以下内容: ASP项目源码:每个资源包中都包含完整的ASP项目源码,这些源码采用了经典的ASP技术开发,结构清晰、注释详细,帮助用户轻松理解整个项目的逻辑和实现方式。通过这些源码,用户可以学习到ASP的基本语法、服务器端脚本编写方法、数据库操作、用户权限管理等关键技术。 数据库设计文件:为了方便用户更好地理解系统的后台逻辑,每个项目中都附带了完整的数据库设计文件。这些文件通常包括数据库结构图、数据表设计文档,以及示例数据SQL脚本。用户可以通过这些文件快速搭建项目所需的数据库环境,并了解各个数据表之间的关系和作用。 详细的开发文档:每个资源包都附有详细的开发文档,文档内容包括项目背景介绍、功能模块说明、系统流程图、用户界面设计以及关键代码解析等。这些文档为用户提供了深入的学习材料,使得即便是从零开始的开发者也能逐步掌握项目开发的过程。 项目演示与使用指南:为帮助用户更好地理解和使用这些ASP项目,每个资源包中都包含项目的演示文件和使用指南。演示文件通常以视频或图文形式展示项目的主要功能和操作流程,使用指南则详细说明了如何配置开发环境、部署项目以及常见问题的解决方法。 毕业设计参考:对于正在准备毕业设计的学生来说,这些资源包是绝佳的参考材料。每个项目不仅功能完善、结构清晰,还符合常见的毕业设计要求和标准。通过这些项目,学生可以学习到如何从零开始构建一个完整的Web系统,并积累丰富的项目经验。
资源包主要包含以下内容: ASP项目源码:每个资源包中都包含完整的ASP项目源码,这些源码采用了经典的ASP技术开发,结构清晰、注释详细,帮助用户轻松理解整个项目的逻辑和实现方式。通过这些源码,用户可以学习到ASP的基本语法、服务器端脚本编写方法、数据库操作、用户权限管理等关键技术。 数据库设计文件:为了方便用户更好地理解系统的后台逻辑,每个项目中都附带了完整的数据库设计文件。这些文件通常包括数据库结构图、数据表设计文档,以及示例数据SQL脚本。用户可以通过这些文件快速搭建项目所需的数据库环境,并了解各个数据表之间的关系和作用。 详细的开发文档:每个资源包都附有详细的开发文档,文档内容包括项目背景介绍、功能模块说明、系统流程图、用户界面设计以及关键代码解析等。这些文档为用户提供了深入的学习材料,使得即便是从零开始的开发者也能逐步掌握项目开发的过程。 项目演示与使用指南:为帮助用户更好地理解和使用这些ASP项目,每个资源包中都包含项目的演示文件和使用指南。演示文件通常以视频或图文形式展示项目的主要功能和操作流程,使用指南则详细说明了如何配置开发环境、部署项目以及常见问题的解决方法。 毕业设计参考:对于正在准备毕业设计的学生来说,这些资源包是绝佳的参考材料。每个项目不仅功能完善、结构清晰,还符合常见的毕业设计要求和标准。通过这些项目,学生可以学习到如何从零开始构建一个完整的Web系统,并积累丰富的项目经验。
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值