bigru参数计算_手工计算深度学习模型中的参数数量

计算深度学习模型的可训练参数的数量被认为太微不足道了，因为您的代码已经可以为您完成此操作。但是我想在这里留下笔记，让我们偶尔参考一下。以下是我们将要运行的神经网络模型：

1. 前馈神经网络(FFNN)
2. 循环神经网络(RNN)
3. 卷积神经网络(CNN)

我们将使用Keras的API构建机器学习模型，以便于原型设计和干净的代码，因此我们可以在此处快速导入依赖库：

构建之后model，调用model.count_params()以验证可训练的参数数量。

1. 前馈神经网络(FFNN)

• i， 输入大小
• h，隐藏层的大小
• o，输出大小

对于一个隐藏层，

num_params

=各层之间的连接+每层中的偏差

= (i×h + h×o)+(h + o)

例1.1：输入大小为3，隐藏层大小为5，输出大小为2

图1.1

• i = 3
• h = 5
• o = 2

num_params

=各层之间的连接+每层中的偏差

= (3×5 + 5×2)+(5 &