weixin_43581877的博客

原创 深度学习复习笔记

深度学习（邱锡鹏）复习笔记 第1章 绪论： 人工智能、机器学习、深度学习、表示学习、特征工程区别和联系 神经元的构造 神经网络的发展历史 前馈神经网络： 激活函数相关知识Sigmoid、Logistic、RELU、Tanh优缺点和不足，需要改进的地方 前馈神经网络的参数数量和计算流程 P92 eg:神经元个数对应权重的维度 0初始化的问题 eg：习题4-8 为什么在用反向传播算法进行参数学习时要采用随机参数初始化的方式而不是直接令W =0 b=0 ？ 因为如果参数都设为0，在第一遍前向计算的过程中所有的隐藏