【吴恩达 Machine Learning】 第二课 Week 1 学习笔记

第二课 week1

1.1 神经元和大脑

1.2 示例：需求预测

T恤是否成为畅销品的几个因素：affordability实惠性、awareness买家的认知度、perceived quality感知质量导致的偏见

$a$：activation，代表激活，指的是一个神经元向他下游的神经元发送多少高输出。在本示例中将购买能力、意识和感知质量称为激活。

层layer：一组神经元，将相同的特征作为输入，如何一起输出一些数字。一个层可以有许多神经元，也可以只有一个。

神经网络在实践中实现特定层中每个神经元的方式，所以为每个神经元都绘制一个箭头。

为了简化描述，可以使用向量的形式去表示。

在房屋预测问题中，通过手动特征工程来获取更好的特征。神经网络不需要我们手动设计特征，可以自己去学习。

多层感知网络：

1.3 示例：图像感知

1.4 神经网络中的层

• 输入层input layer，隐藏层hidden layer，输出层output layer
• 输入层一般表示成第0层，一般说神经网络层数的时候不包含输入层
• 右上角方括号表示层数，右下方角标表示神经元

简单网络示意：

复杂网络示意：

将输入定义为$a^{[0]}$，这样激活函数可以适用于第一层。

1.5 前向传播

示例：手写数字

前向传播：传播神经元激活，从左到右计算。

1.6 代码实现

示例：咖啡豆烘焙问题

1.7 Tensorflow

1）数据格式

矩阵（张量）vs一维向量，tensorflow中用矩阵进行运算。

2）网络搭建

3）前向传播的实现

大写字母表示矩阵，小写字母表示向量和标量。

tensorflow的计算方式:

向量点积：

向量矩阵运算：

矩阵运算：

各个示例实际按矩阵$X$中的行排列，而不是$X$的转置中排列，因此tensorflow中的代码是$a\_in$而不是$AT$。