数据:性别 年龄 症状(实体抽取模型抽取对主诉抽取出症状) 科室
1.训练词向量(对症状去重,生成字典,使用pkuseg.pktest()分词并指定词典)
2.将对应症状转换为词向量,加上性别,年龄 做随机森林的输入(性别,年龄至关重要,将验证集精准度从42%提高到84%)
3.将科室编码
4.拟合模型,测试集accuracy 为84%
实践中问题和解决办法:
Q:如何训练模型?年龄和性别转化为数值,但是症状如何处理?
A:首先想到编码,通过把每个症状用一个数值表示,训练后效果太差,因为一个症状和另一个症状的编码大小没有实际意义,机器学习分类需要算距离,该距离用编码无法表示。然后想到训练词向量,然后将症状用对应词向量表示,问题解决了。
Q:如果遇到以前没有过的症状,词向量该如何表示?
A:首先想到用字向量替换词向量,这样很少碰到没遇到过的字,但是由于每个症状字数不一,而模型输入维度数据需要一致,所以决定还是使用词向量,因为很少会出现以前没见过的症状(利用fasttext对字向量取平均作为整个句子向量的思想,或许可以用该症状的每个字向量相加平均得到一个结果表示词向量,这样不论多少字,维度都一致,有机会实践)
Q:
每条主诉信息对应的症状数量可能不一?如何保证模型输入维度一致
A:
设定每条主诉信息对应N个症状,如小于N,则补全为空症状,每个症状对应一个词向量,空症状对应的词向量为[0.0,0.0,…]
代码: