超级会员免费看
X1是[batch_size,feature_size]
X2是[batch_size,feature_size]
X1*W1+X2*W2等价于[X1:X2]*W3
其中*是矩阵相乘,:是feature dimension concat
W1是[feature_size,feature_size2]
W2是[feature_size,feature_size2]
W3是[feature_size*2,feature_size2]
本文探讨了在论文公式中加号的实际含义，通过矩阵运算的例子解释了X1和X2如何通过权重W1和W2进行结合。X1和X2的维度为[batch_size, feature_size]，经过与W1和W2的矩阵相乘后，可以等价于concat后的[X1:X2]与W3的乘积，其中W1和W2的尺寸分别为[feature_size, feature_size2]，W3的尺寸为[feature_size*2, feature_size2]，揭示了深度学习中加法操作的数学原理。"
93485548,7376343,二值权重神经网络训练实践与理解,"['深度学习', '量化', '神经网络', '训练优化', '模型压缩']
扫一扫
7469
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
