深度学习：第一门课，神经网络和深度学习：第三周，浅层神经网络

第三周：浅层神经网络
3.1 神经网络概述

---

3.2 神经网络的表示

输入层，隐藏层，输出层
隐藏层：监督学习，训练集有x,y，训练集中的东西无法看到。

---

3.3 计算一个神经网络的输出

---

3.4 多样本向量化
逻辑回归：各个训练样本组合成矩阵，对矩阵各列进行计算。
神经网络：通过对逻辑回归中等式变形，让神经网络计算输出值。所有训练样本同时进行。

---

3.5 向量化实现的解释

---

3.6 激活函数

---

3.7 非线性激活函数

---

3.8 激活函数的导数

---

3.9 神经网络梯度下降

---

3.10 直观理解反向传播

---

3.11 随机化初始

---