第二章持续更新ing
文章目录
关注我的公众号~ 一起学习
欢迎大家扫码关注我的公众号~ 获取更多学习资源与内容
目前学习内容:
- 前端基础知识点学习-JS红宝书/CSS权威手册(这个就不发了哈哈哈当个兴趣)
- 跟着《算法图解》扎实学习数据结构与算法
- 从0.1开始的C++编程小练习
- 吴恩达深度学习课程笔记
- 人工智能领域研究&学习
关注我 一起在代码之路上前行
最重要的 是互相督促着一起学习鸭~
第二章 神经网络基础
使用logistic回归 进行神经网络基础的学习
1.二分分类
logistic回归是一个用于二分分类的算法
举个栗子
64x64像素的 猫猫图片
特征向量维度为 64x64x3
用nx来表示输入的特征向量的维度
二分分类目的
训练出一个分类器(learn a classifier)
这个分类器以图片的特征向量x为输入 预测输出的结果标签y是1还是0
在上面的例子就是——
判断图片里是不是猫猫
2.logistic回归(的模型)
什么是logistic回归?
可以被看做是一个非常小的神经网络
这是一个学习算法 用在**“输出的y标签是0或者1的”**监督学习问题当中
例如:
logistic模型
给模型一个m样本的训练集 让模型 通过学习 调整参数
logistic回归的输出
Logistic回归中 我们的输出是
sigmoid函数:
sigmoid函数图像如下:
可以注意到我们输出的yhat中有两个未知参数w b
所以——
在实现logistic回归中 我们要做的是——学习参数w和参数b
3.logistic回归损失函数
为了训练logistic回归模型的参数w以及b 需要定义一个成本函数
接下来进行学习:用logistic回归来训练的成本函数
定义损失函数 来衡量 预测输出值y和y的实际值 有多接近
下图:损失函数公式
举例
因为需要让越小越好
当y取不同的值时 y hat需要尽可能接近不同的值——来达到上述值更小的目的
3’.logistic回归成本函数
损失函数适用于单个训练样本
成本函数衡量的是全体训练样本上的表现
下图为回归成本函数 Cost Function
在训练logistic回归模型时 要找到合适的参数w和b 来让成本函数J尽可能得小
4.梯度下降法
学习 如何将logistic回归看做一个非常小的神经网络
我们使用梯度下降法训练或者学习训练集上的参数w和b——寻找w和b 让成本函数最小!
梯度下降法会朝着全局最小值的方向移动——
5.微积分与导数
6.更多导数的例子
这两章讲解了一些微积分 方面的知识
7.计算图
Computation Graph
TO BE CONTINUED