【深度学习】- 吴恩达作业
文章目录
【c1w1】
1.选择题
【结构化数据 VS 非结构化数据】
结构化数据:由明确定义的数据类型组成,其模式可以使其易于搜索
非结构化数据:通常由不容易搜索的数据组成,其中包括音频、视频和社交媒体发布等格式。
【c1w2】
1.选择题
神经元节点先计算线性函数,再计算激活函数
广播:广播会在缺失维度和轴长度为1的维度上进行(相乘也可以)
【 * and np.dot】
2.构建一个逻辑回归分类器来识别猫
2.1 Python Basics with Numpy (optional assignment)
2.2 Logistic Regression with a Neural Network mindset
【c1w3】
1.选择题
t a n h tanh tanh 激活函数效果总是优化 s i g m o i d sigmoid sigmoid ——函数值域在-1和+1d 激活函数其均值更接近零均值
python 中 axis = 0, axis = 1——1表示横轴,方向从左到右;0表示纵轴,方向从上到下
- 初始化问题
对于逻辑回归,把权重初始化为 0 是可以的
对于神经网络,如果把权重或者参数都初始化为 0,那么梯度下降将不会起作用——(所有的隐含层都是对称的)
当使用 np.random.randn()*1000 初始化——如果用 t a n h tanh tanh 或者 s i g m o i d sigmoid sigmoid 激活函数,如果 W W W 很大,计算计算激活值 z = W x + b z = Wx + b z=Wx+b ,Z 就会很大,可能会停在 t a n h / s i g m o i d tanh/sigmoid tanh/sigmoid函数的平坦的地方,这些地方梯度很小,意味着梯度下降会很慢,因此学习也会慢
2.通过一个隐藏层的神经网络来做平面数据的分类
【c1w4】
1.选择题
超参数——隐藏层的大小、神经网络的层数、 学习率、迭代次数
网络层按照隐藏层数+1—输入和输出层不算作隐藏层