【吴恩达】神经网络与深度学习笔记

1.2 什么是神经网络

一句话，一种模拟人类大脑工作原理的强学习算法。下面举一个预测房价的例子

假如放假只受房子大小影响，如上，如果用线性回归算法，则可以用一个假设函数去拟合它。而右边的神经网络则实现了该假设函数的功能：输入房子的尺寸x，经过这个神经元，输出预测房价y，该网络实现了x到y的精准映射。

1.3 用神经网络进行监督学习

结构化数据与非结构化数据。结构化数据就是数据的数据库，意味着每个特征比如房屋大小，寝室数量都有清晰的定义；非结构化数据，比如图像、音频、文本。

1.4 为什么深度学习会兴起

数据的采集越来越方便，如下图，随着数据量的增加，深度学习的性能明显优于其他算法。

large NN >> medium NN >> small NN >> Traditional learning algorithm

2.1 二分类

使用逻辑回归算法解决二分类问题

假设函数y：$$\hat {y} = \sigma (w^T x + b)$$   $$\sigma (z) = \frac {1} {1 + e^{-z}}$$

损失函数：$$J (w, b) = \frac {1} {m} \sum_{i=1}^{m} L(\hat {y}^{(i)} ,  y^{(i)}) = -\frac{1} {m} \sum_{i=1}^{m} { y^{(i)} log \hat {y}^{(i)} +  (1-y^{(i)}) log (1-\hat {y}^{(i)}) }$$

未完待续。。。