2022吴恩达机器学习课程——第一课

已于 2022-12-22 11:48:05 修改
阅读量911 收藏 9
点赞数
分类专栏： 深度学习入门 文章标签： 人工智能 python
于 2022-12-06 22:28:19 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Lyz1_2_3/article/details/128189773
版权

注：参考B站视频教程

视频链接：【(强推|双字)2022吴恩达机器学习Deeplearning.ai课程】

写在前面：文章只是为了记录学习课程的整个过程，方便以后查漏补缺，方便找到对应章节，希望看到这篇文章的同学能够认真的看一遍视频教程，会有很大收获！

下一篇：2022吴恩达机器学习课程——第二课（神经网络）

文章目录

第一周

一、监督学习与无监督学习

监督学习：输入数据和标签，让机器进行学习后，再输入一个它从未见过的数据，让机器预测输出。

一些监督学习的例子：

在这里插入图片描述

1、回归：房价预测
在这里插入图片描述

2、分类：乳腺癌检测
在这里插入图片描述

在这里插入图片描述

分类需要找到一个“决策边界”

在这里插入图片描述

3、监督学习总结
在这里插入图片描述

无监督学习：数据和标签之间没有联系

在这里插入图片描述

4、聚类：新闻&基因序列&人员分组
聚类：获取没有标签的数据，尝试将他们自动分组到不同的簇中去。

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

5、无监督学习的总结
在这里插入图片描述

在这里插入图片描述

二、线性回归

线性回归模型是一种特殊类型的监督学习模型

1、线性回归模型
在这里插入图片描述

训练集：

在这里插入图片描述

预测函数 f（x）

在这里插入图片描述

2、代价函数
a、代价函数公式
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

b、理解代价函数

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

c、可视化代价函数

当只有一个参数w时，代价函数看起来像U型曲线

在这里插入图片描述

当有两个参数w和b时:
在这里插入图片描述

在这里插入图片描述

三、梯度下降

编写算法，能够自动找到w和b，最小化代价函数，使用梯度下降进行训练

1、梯度下降的实现
在这里插入图片描述

出现局部最小值：在这里插入图片描述

同步更新w和b:

在这里插入图片描述

2、理解梯度下降
在这里插入图片描述

3、学习率
在这里插入图片描述

局部最小值：
在这里插入图片描述

接近最小值，导数会自动变小，参数更新步伐变小：
在这里插入图片描述

4、导数更新过程
在这里插入图片描述

在这里插入图片描述

用于线性回归的梯度下降，代价函数不会出现多个局部最小值，只会有一个全局最小值，图像是一个凸函数

在这里插入图片描述

5、运行梯度下降
在这里插入图片描述

第二周

一、向量化

1.1多维特征
在这里插入图片描述

含有n个特征的模型的定义：
在这里插入图片描述

多元线性回归模型：
在这里插入图片描述

1.2向量化-part1
在这里插入图片描述

1.3向量化-part2

使用Numpy的点积运算，效率更高

在这里插入图片描述

在这里插入图片描述

1.4用于多元线性回归的梯度下降法
在这里插入图片描述
在这里插入图片描述

二、特征缩放

2.1特征缩放-part1
在这里插入图片描述

在这里插入图片描述

重新缩放这些特征，使它们具有可比较的值的范围，可以显著加快梯度下降速度
在这里插入图片描述

2.2特征缩放-part2
最大值归一化
在这里插入图片描述

均值归一化
在这里插入图片描述

Z-Score归一化
在这里插入图片描述

当数据差别较大时，最好进行特征缩放
在这里插入图片描述

2.3判断梯度下降是否收敛
在这里插入图片描述

2.4如何设置学习率
当把α设置为很小的值时，发现损失函数J的值还会增大，说明是程序出现了bug
在这里插入图片描述

在这里插入图片描述

2.5特征工程
在这里插入图片描述

2.6多项式回归
在这里插入图片描述

在这里插入图片描述

第三周

一、逻辑回归

1.1分类
在这里插入图片描述

线性回归不适合于分类问题
在这里插入图片描述

1.2逻辑回归

逻辑回归虽然有“回归”这个词，但它是用来分类的
在这里插入图片描述

逻辑回归模型
在这里插入图片描述

在这里插入图片描述

1.3决策边界

在这里插入图片描述

线性决策边界
在这里插入图片描述

非线性决策边界
在这里插入图片描述

逻辑回归可以学会拟合非常复杂的数据
如果不用高阶多项式，也就是说你使用的特征只有x1,x2,x3,那么逻辑回归的决策边界永远是线性的，永远是一条直线
在这里插入图片描述

二、训练逻辑回归模型

2.1逻辑回归中的代价函数

给定训练集，如何选择参数w和b
在这里插入图片描述

对逻辑回归来说，平方损失函数不是一个好的选择，用它生成的图中会有很多局部最小值
在这里插入图片描述

逻辑回归模型定义
在这里插入图片描述

在这里插入图片描述

总结
在这里插入图片描述

2.2简化逻辑回归代价函数

y不是0就是1，不能取其他任何值
在这里插入图片描述

在这里插入图片描述

三、逻辑回归中的梯度下降

在这里插入图片描述

逻辑回归中的梯度下降方法
在这里插入图片描述

虽然逻辑回归的梯度下降公式和线性回归中的十分相似，但是本质并不一样，因为函数f(x)的定义变了
在这里插入图片描述

四、正则化

4.1过拟合问题

在这里插入图片描述

在这里插入图片描述

4.2解决过拟合问题

  • 收集更多训练数据
  • 减少特征数量
  • 正则化
    在这里插入图片描述

在这里插入图片描述

正则化要做的是尽可能地让算法缩小参数的值，而不是要求一定要把参数变为0
正则化的作用是：保留所有的特征，但防止特征权重过大，只有时候会导致过拟合
在这里插入图片描述
参数b是否正则化，并没有太大的区别

总结
在这里插入图片描述

4.3正则化
在这里插入图片描述

正则化的思想是：参数值越小，模型可能越简单，也许是因为模型的特征变少了，那它过拟合的可能性也变小了
在这里插入图片描述

选择合适的正则化参数λ
在这里插入图片描述

4.4用于线性回归的正则化方法
在这里插入图片描述

以下是可选内容

正则化在每次迭代中做的就是，将w乘上一个略小于1的数
在这里插入图片描述

推导过程：
在这里插入图片描述

4.5用于逻辑回归的正则化方法
在这里插入图片描述

在这里插入图片描述

now_try_
关注
  • 0
    点赞
  • 踩
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
机器学习-吴恩达课程第一章
qq_40840281的博客
02-14 117
一、引言 1.1 机器学习是什么 定义：1、在进行特定编程的情况下，给予计算机学习能力的领域（西洋棋） 2、一个程序被认为能从经验E中学习，解决任务T，达到性能度量值P，当且仅当，有了经验E后，经过P评判，程序在处理T时的性能有所提升。在西洋棋的例子中，经验e就是程序上万次的自我练习的经验，而任务就是下棋；性能度量P就是它在与一些新的对手比赛时，赢得比赛的概率。 1.2 监督学习 eg.预测房价 ...
吴恩达机器学习系列课程笔记——第一章：什么是机器学习(Machine Learning)
weixin_43895667的博客
07-16 2671
吴恩达机器学习系列课程笔记——第一章：什么是机器学习Machine Learning
【机器学习】吴恩达课程1-Introduction
weixin_62403234的博客
07-15 2020
【机器学习】吴恩达课程1-Introduction
吴恩达机器学习课程资源（笔记、中英文字幕视频、课后作业，提供百度云镜像！）
记录学习的小白
07-21 7783
课程，可以说是机器学习入门的第一课和最热门课程，作者在github开源了吴恩达机器学习个人笔记，用python复现了课程作业，成为热门项目，star数达到11671+。由于某种原因，国内用户访问github非常慢，下载资源经常失败，于是，为方便读者，我们把github内容做成镜像文件予以发布，针对非会员无法一次性保存大量文件，我把所有文件压缩成一个iso文件，转存即可，只需5秒即可保存！密码1fih，包含视频和字幕，下载后解压，建议用potplayer播放，此视频与mp4一致。...
吴恩达机器学习全课程笔记第一篇
亿维数组's博客
02-17 1584
本文章是吴恩达机器学习网课前30p的重点内容截屏以及一些记录
吴恩达 - 机器学习课程笔记（持续更新）
做一只猫的博客
02-26 2万+
吴恩达机器学习
吴恩达 深度学习专项课程 第一课 作业
09-05
在本资源中，我们关注的是吴恩达在Coursera平台上的深度学习专项课程——"神经网络与深度学习"的第一课。吴恩达是斯坦福大学的计算机科学教授，他在机器学习和人工智能领域有着深厚的造诣，是全球知名的教育者和研究...
吴恩达深度学习第五课序列模型作业
02-19
【标题】"吴恩达深度学习第五课序列模型作业"主要涵盖了深度学习中的一个重要主题——序列模型。在深度学习领域，序列模型主要用于处理具有时间序列性质的数据，如自然语言处理（NLP）、语音识别、时间序列预测等。...
吴恩达深度学习deeplearning第一课课后测验及编程作业（含答案）
08-29
在本资源中，我们关注的是吴恩达的深度学习课程——"deeplearning.ai"的第一课的课后测验和编程作业，其中包含了完整的答案。吴恩达是人工智能和机器学习领域的知名专家，他的课程因其深入浅出的讲解而广受好评。...
吴恩达机器学习-ex2-逻辑回归（ex2data1和ex2data2)
最新发布
04-13
在本课程中，我们将深入探讨吴恩达教授的机器学习课程中的第二课——逻辑回归（Logistic Regression）。逻辑回归是一种广泛应用于分类问题的统计模型，它不仅简单而且实用，是理解机器学习入门的一个重要概念。 ...
吴恩达机器学习全套教学视频
11-12
txt文件里面附有吴恩达机器学习视频全套教程和相关电子文件的百度云盘链接，链接时效永久，3个积分不贵哦
自己做的吴恩达深度学习作业答案（第三课）
01-21
吴恩达，全名Andrew Ng，是全球知名的机器学习和人工智能专家，他在斯坦福大学任教，并且是Coursera在线教育平台的联合创始人之一。他的深度学习课程深受全球学生和专业人士的欢迎，因其深入浅出的教学风格和实用的...
吴恩达最受欢迎AI课程机器学习Cousera《Machine Learning》课程完整版
Iron_man的博客
10-05 5378
百度网盘链接：https://pan.baidu.com/s/1jNvLV-dqO9DhkMsmmPlI8w 提取码: a644 内容说明： 1. 本课程简介：这门课基本涵盖了机器学习的主要知识点：线性回归、逻辑回归、支持向量机、神经网络、K-Means、异常检测等。课程中没有复杂的公式推导和理论分析，让机器学习初学者能够快速对整个机器学习知识点有比较整体的认识，非常方便初学者快速入门。 2...
机器学习1.0
qq_39441111的博客
10-20 261
机器学习 定义：如果某计算机程序在T任务中的性能（由P衡量）随着经验E的提高而提高，则可以说它是从经验E中学习有关某类任务T和性能度量P的。 简单的来说： 打个比方—>玩跳棋。 E =玩许多跳棋游戏的经验 T =扮演跳棋的任务。 P =程序将赢得下一场比赛的概率。 通常，可以将任何机器学习问题分配给以下两种广泛的分类之一： 监督学习和无监督学习。 监督学习 在监督学习中，我们得到了一个数据集，并且已经知道我们正确的输出应该是什么样子，并且认为输入和输出之间存在关系。 监督学习问题分为“回归”和“分类”
吴恩达机器学习Deeplearning.ai课程学习笔记(Supervised Machine Learning Regression and Classification---week1)
weixin_61573157的博客
02-13 356
机器学习即Machine learning，涉及很多学科，简单点来说，就是使用计算机通过“学习“大量的数据模拟实现人类的行为，也就是让计算机自己学习到一些所谓的”知识与技能“（例如什么是苹果？什么是香蕉？），而且能够通过一些算法组织其实现不断学习不断完善自身的性能与知识架构，换句话说，让计算机越来越”知识渊博“，也就是-----人工智能。
【经典】吴恩达《机器学习》课程
热门推荐
Beyond_2016的博客
09-02 3万+
如果要推荐《机器学习》的学习课程，那必然首选吴恩达的《机器学习》课程，无论是国内还是国外，这是最火的机器学习入门课程，没有之一。吴恩达老师用易于理解、逻辑清晰的语言对机器学习算法进行介绍，无数新手正是通过这门课程了解了机器学习。 吴恩达老师的《机器学习》课程主要有两门，一门是Cousera上的课程，另一门是斯坦福大学的课程CS229: Machine Learning。这两门课程各有侧重点： ...
吴恩达机器学习入门（配合吴恩达机器学习视频篇）
moffy_abo的博客
02-28 1万+
这几天把吴恩达机器学习的视频看了下，都是很基础的，很适合入门视频链接：网易云课堂-吴恩达机器学习配套讲解链接：第一节　第二节　第三节　第四节　第五节入门的话每天看一节就可以，用到的知识也都很基础（微积分、矩阵等大学里都学过的知识）...
吴恩达 机器学习2022 第一课
linyuxi_loretta的博客
10-11 594
一共有三个部分：Supervised Machine Learning: Regression and Classification,Advanced Learning Algorithms,Unsupervised Learning, Recommenders, ReinforcementAGI即Artificial general intelligence的简写，人工通用智能。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值