- 博客(6)
- 收藏
- 关注
RSS订阅原创 github项目管理和贡献代码
一、作为所有者1、给合作者管理权限github项目可以添加合作者共同管理项目，打开设置Manage access -> add people对方通过以后就行了。2、创建项目分支项目分为主分支（master）和其他分支，master是发行的版本，一般是比较完善的版本。代码开发先在开发分支上进行，当比较完善之后再合并到master上，作为新版本。从master创建新分支的方法如下：等下接着写 。。。...
2022-01-05 10:31:19
687
原创 GRU反向传播公式推导
1、正向传播计算图（红色部分不属于时间步t）：公式：2、反向传播GRU反向传播的计算图（红色部分不属于时间步t）：根据计算图，从上往下推导反向传播的公式。对于输出激活函数是softmax，损失函数是交叉熵的情况，常用的公式是： (1)我在RN...
2021-08-02 22:57:03
2194
5
原创 LSTM反向传播公式推导
1、正向传播LSTM的正向传播公式：由于传播过程比较复杂，我们画一个计算草图来反映时间步t的正向传播中，各个量的关系：计算图中红色部分不属于时间步t，而是属于时间步t+1，把这几个红色的计算加入以后，可以更清晰的看到，的值会传播到两个位置（即在时间步t的正向传播中，传递到，在时间步t+1的正向传播中，传递到；而的值会传播到5个位置（即时间步t的正向传播中，传递到,在时间步t+1的正向传播中，传递到、、和）。这对于理解反向传播中、的导数从何而来非常重要，在...
2021-08-01 19:24:03
2523
4
原创 推导RNN反向传播
先考虑一个样本（输入和激活都是向量而不是矩阵）正向传播： g是激活函数，例如tanh 输出的激活函数是softmax，损失函数是交叉熵 损失函数对所有时间步求和以上五个式子就是正向传播中计算输出和损失用到的所有公式，通过对他们链式法则求导，我们也可以推出反向传播的所有公式反向传播：当输出的激活函数是softmax，损失函数是交叉熵时，损失函数对线性...
2021-07-31 16:48:01
1118
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人