- 博客(3)
- 收藏
- 关注
RSS订阅原创 第三次打卡
完成自然语言处理方向的三个任务：批量归一化及其变种群归一化、层归一化等有助于改进优化；word vector的跳词和连续词袋模型、负采样跟层序softmax训练方法也启发后续的图卷积网络；TextCNN效果出奇地好，在短信鉴别等实际应用中大有用处...
2020-02-22 15:43:31
68
原创 第二次打卡
完成三个任务：过拟合及欠拟合等问题，欠拟合好解决，增加模型复杂度即可，过拟合需要考虑引入正则惩罚项、丢弃层、进行数据增强、模型集成等，这些可能在后续课程会提及，另外，梯度爆炸可以通过梯度裁剪来控制，梯度消失可以采取残差网络、跨层联接等方法来弥补，SENet值得一看；NMT、Attention、Transformer非常精彩，不知道这些跟Subword model结合的效果如何，很想了解这方面的进展...
2020-02-17 00:48:22
90
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人