我的学习套路(lstm做文本分类为例)
0. 下载github代码
git clone gihub地址
先把代码下载到本地
1. 数据有哪些?
2. 目标有哪些?
3. 数据input 是什么样的,一个batch 怎么获取。
3.1 数据预处理:其实就是 切词形成高频词表,把停用词去掉。
3.2 把训练数据顶一个最长的长度限制,超过截取。然后把每个句子变成词典id序列。同时把每个词(term)形成一个128维度(可以是64/128/100/256)的向量。 此时就把 每条训练数据先变成ids ,再变成向量组,可以是zero的向量组。
3.3 把label的值,做成one-hot的形式,是个向量。
4. 数据是怎么流向的。
5. 模型结构。
在使用多层RNN需要注意的地方:在使用单层RNN时,embedding_dim和hidden_dim在数值上可以不一致,但涉及到多层的时候,需要将两者的数值相等,否则会报错
6. loss function是什么?这个其实最重要,但往往被忽略
7. 如何测试。