- 博客(3)
- 收藏
- 关注
原创 分类模型评价指标及其含义
1.混淆矩阵对于二分类问题,预测结果和真实结果两两结合会出现如下四种情况:TP、FP、FN、TN可以理解为 TP:预测为positive,实际为Ture,预测正确。 FP:预测为positive,实际为False,预测错误。 FN:预测为negative,实际为Ture,预测错误。 TN:预测为nagative,实际为False,预测正确。 2.准确率准确率(Accuracy)预测正确的结果占总样本的百分比:虽然准确率能够判断总的正确率,.
2021-08-29 18:18:38 1326 3
原创 Transformer学习笔记
小白第一次学习transformer,特意做个笔记,以便后续复习首先在学习transformer之前,我先简单学习了RNN和LSTM网络(参考链接https://zhuanlan.zhihu.com/p/123211148)RNN的特点:RNN对具有序列特性的数据非常有效,它能挖掘数据中的时序信息以及语义信息。RNN结构和特点:其中X是输入层,U是输入层到隐藏层的权重矩阵,S是隐藏层,V是隐藏层到输出层的权重矩阵,O是输出层,W是每个时间点之间的权重矩阵。我们注意到,RNN之所以可以..
2021-08-29 13:36:06 1267 1
原创 梯度消失和梯度爆炸的理解以及解决办法
BP算法思路:损失函数对第层到第层的权重矩阵求偏导等于损失函数对第层神经元状态值的误差项乘以相应的第层的神经元的激活值。其中损失函数对第层神经元状态值的误差项可以通过如下式子计算,即第层神经元的误差项是与所有与该神经元相连接的层神经元的误差项的加权和再乘以该神经元激活函数的梯度计算得到的。BP神经网络计算过程:(1)输入信号通过前向传播算法依次计算输入层、若干中间层和输出层中所有神经元的状态值和激活值。(2)根据输出层的预测结果和真实的样本标签计算误差函数值,并利用后向传播算法将误.
2021-08-28 11:09:37 699
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人