深度学习:第一门课,神经网络和深度学习:第二周,神经网络的编程基础

第二周:神经网络编程基础
2.1 二分类

如何处理训练集

前向暂停,前向传播。反向暂停,反向传播
神经网络训练过程:前向传播,反向传播
逻辑回归:用于二分类
图片:三个矩阵:红绿蓝,像素强度值
把所有像素值放到一个特征向量中。

x,y,(x,y),X,Y,Mtrain,Mtest
X.shape,Y.shape


2.2 逻辑回归


2.3 逻辑回归代价函数
损失函数:误差函数:L
看预测值和实际值有多接近:

  • 一般:预测值和实际值平方差或者平方差一半
  • 逻辑回归:逻辑回归特有损失函数。因为优化目标不是凸优化,只能是多个局部最优值,梯度下降找不到全局最优值。

样本个数:

  • 一个:损失函数
  • 多个:代价函数,代价函数是参数的总代价

2.4 梯度下降法


2.5 导数


2.6 导数例子


2.7 计算图

反向传输:计算梯度 或者 导数
计算图:解释计算过程


2.8 使用计算图求导数


2.9 逻辑回归的梯度下降。(公式推导)


2.10 m个样本的梯度下降。(公式推导)


2.11 向量化
非向量化:for循环
向量化:np.dot(w,x)+b


2.12 向量化的例子
numpy库


2.13 向量化逻辑回归。(未整理)


2.14 向量化逻辑回归的梯度输出 (未整理)


2.15 python中的广播


2.16 关于 python numpy向量说明

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值