- 博客(1)
- 收藏
- 关注
RSS订阅转载 交叉熵学习
交叉熵学习 什么是交叉熵 语言模型的性能通常用交叉熵和复杂度(perplexity)来衡量。交叉熵的意义是用该模型对文本识别的难度，或者从压缩的角度来看，每个词平均要用几个位来编码。交叉熵可在神经网络(机器学习)中作为损失函数，交叉熵作为损失函数还有一个好处是***使用sigmoid函数在梯度下降时能避免均方误差损失函数学习速率降低的问题***，因为学习速率可以被输出的误差所控制。 什么是信息量 ...
2019-10-15 10:46:13
113
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人