- 博客(2)
- 收藏
- 关注
原创 激活函数的作用
激活函数激活函数(Activation Function)负责对上层神经元的输出进行处理,将结果传递到下层神经元。激活函数在神经网络里起着至关重要的作用,具体如下。我们先看这个不使用激活函数的例子:这是两层网络,有俩神经元。(一个体重90多公斤,一个体重80多公斤,塔门说,你这激活函数不讲武德。)它们的权重矩阵和偏置参数分别是W1,b1W_{1},b_{1}W1,b1和W2,b2W_{2},b_{2}W2,b2,设输入向量为x\boldsymbol{x}x,输出为y^\hat{y}
2020-12-04 22:36:24 8716 3
原创 Deep Learning 读书随笔(一)
目录线性代数部分标量、向量、矩阵和张量矩阵矩阵的基本定义和运算单位矩阵和逆矩阵单位矩阵逆矩阵线性相关和生成子空间线性代数部分线性代数是深度学习的基础前置知识之一,下面就线性代数的一些知识做一些总结。标量、向量、矩阵和张量标量(scalar):一个单独的数,就是一个标量。向量(vector):一个向量是一列数,这些数是有序排列的。可以用 xix_{i}xi 来表示向量中的元素。如果一个向量有 nnn 个元素,那么这个向量属于实数集 R\mathbb{R}R 的 nnn 次笛卡尔乘积构成的集合。
2020-11-22 13:09:09 178
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人