UFLDL Tutorial 课程核心内容提炼-1：神经网络

最新推荐文章于 2019-11-17 09:32:42 发布

这是一个快乐的人

最新推荐文章于 2019-11-17 09:32:42 发布

阅读量443

点赞数

分类专栏：深度学习机器学习人工智能文章标签：神经网络机器学习

本文链接：https://blog.csdn.net/zhaohang_1/article/details/79373765

版权

机器学习同时被 3 个专栏收录

17 篇文章 1 订阅

订阅专栏

人工智能

11 篇文章 0 订阅

订阅专栏

深度学习

4 篇文章 0 订阅

订阅专栏

该课程在斯坦福深度学习课上，点此打开

--------------------------------------------------分割线------------------------------------------------------

一、概述

训练样本集： $\textstyle (x(^ i),y(^ i))$

神经网络算法能够提供一种复杂且非线性的假设模型 $\textstyle h_{W,b}(x)$

上图这个“神经元”是一个以 $\textstyle x_1, x_2, x_3$ 及截距 $\textstyle +1$ 为输入值的运算单元，其输出为 $\textstyle h_{W,b}(x) = f(W^Tx) = f(\sum_{i=1}^3 W_{i}x_i +b)$ ，其中，为激活函数。这里使用激活函数Sigmoid：

这个单一“神经元”的输入－输出映射关系其实就是一个逻辑回归（logistic regression）

Sigmoid图像：

二、神经网络模型

1.圆圈来表示神经网络的输入；

2.标上“ $\textstyle +1$ ”的圆圈被称为偏置节点，也就是截距项；

3.神经网络最左边的一层叫做输入层，最右的一层叫做输出层（本例中，输出层只有一个节点）；

4.中间所有节点组成的一层叫做隐藏层；

5. $\textstyle n_l=3$ （层），将第 $\textstyle l$ 层记为 $\textstyle L_l$ ， $\textstyle L_1$ 是输入层，输出层是 $\textstyle L_{n_l}$ ；

6.神经网络有参数 $\textstyle (W,b) = (W^{(1)}, b^{(1)}, W^{(2)}, b^{(2)})$ ， $\textstyle W^{(l)}_{ij}$ （下面的式子中用到）是第 $\textstyle l$ 层第 $\textstyle j$ 单元与第 $\textstyle l+1$ 层第 $\textstyle i$ 单元之间的联接参数；