- 博客(7)
- 收藏
- 关注
原创 On Loss Functions for Deep Neural Networks in Classification读后感
分类问题中的另一类loss函数In particular, for purely accuracy focused research, squared hinge loss seemsto be a better choice at it converges faster as well as provides better performance.It is also more robu...
2018-11-17 12:12:05 342
原创 处理不平衡类别的loss
在进行多分类问题的时候,常常会遇到数据不平衡的状况,对于多分类问题,常见的loss有categorical crossentroy,可以考虑手动设置loss权重来增加模型的准确度,将类别较少的类权重增高。在试验中,用的数据是情感分析label2的数据集,在不加权重f1值为0.53,权重为[1 2 3 1]后f1值为0.55, 权重为[1 2 6 1]后f1值为0.567。...
2018-11-17 11:06:45 2826
原创 java核心技术ch5
子类构造器关键词super多态,可以将一个子类的对象赋值给超类的变量,但不能将一个超类的引用赋给子类变量。另外,假设employee是manger的超类,在执行employee e = new manger()之后,e只能调用employee中有的方法,不能调用manger中有,但employee中没有的,注意的是,如果manger中覆盖了employee中的同名方法,那么调用的是manger...
2018-11-16 09:40:25 92
原创 全球AI挑战赛-细粒度情感分析赛道
*** 这是我全力参加的第一个数据类比赛,成绩不谈,重在过程。很感谢比赛中帮助我的实验室师兄们,尤其是陈师兄,刘师兄,还有林大哥和张大哥,具体名字我就不透露了。写这个总结的目的主要是为了整理下过去二十多天所跑的思路想法,如有错误,希望各位大佬能指正,学业繁忙,不能及时回复尽情理解,我会慢慢更新的。*** # 数据预处理...
2018-11-13 21:20:13 1522 2
原创 JAVA核心技术 ch4
对象构造不一定要用构造函数,也可以调用一些对象方法,比如String s = new Date().toString()。更改器与访问器方法的差别,访问器方法只访问对象不修改对象,更改器会更改对象状态。访问器方法不应该返回引用可变对象,否则违反封装原则。一个方法可以访问所属类的所有对象的私有数据,即访问同一类的其他对象实例。final 关键词 设置 域 不能再更改静态域 与 静态方法为...
2018-11-13 20:01:36 120
原创 Attention Is All You Need读后感
Attention is all your need论文地址, 此文仅仅是为了记录自己的学习过程 ,有错误欢迎大家指正。1. 提出背景在过去几年中,以LSTM和GRU的循环神经网络在nlp领域中发挥了巨大的作用吗,但是此类模型有一些缺陷,一个是存储记忆限制了训练样本的batch size, 二是计算代价大,三也就是此类模型固有缺陷,训练时候序列之间两个对象的联系依赖于两个对象的距离,这...
2018-11-05 23:52:29 533
原创 Empirical Evaluation of Gated Recurrent Neural Networks on Sequence Modeling读后感
论文地址此文仅仅记录一下自己的学习过程循环神经网络历史背景循环神经网络是一个序列模型,它与传统CNN最大的不同在于它具有记忆性,它可以记录以前的状态,根据以前的状态和当下的输入生成一个新的状态。它同时也是一个概率生成模型,印象中我感觉它跟HMM有很多相同点,不过HMM能训练的参数比较少,这也许就是HMM比较弱的原因。继续回到循环神经网络,它在训练的时候有一个很大的问题,就是梯度消失和梯度爆...
2018-11-03 00:43:31 614
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人