2301_79590979的博客

原创 使用BERT模型实现文本二分类任务（包括数据不平衡问题）

我在这使用的是谷歌给出的基于中文预训练的bert模型，如果你觉得这个模型效果不太好的话，可以使用哈工大或者百度训练的roberta模型，哈工大团队声称百度训练的模型更适合给社交媒体中的文本进行分类，但是直接加到我的代码中可能会导致假阳性样本过高，所以我没有使用。需要注意的是，我的任务本来是多分类任务，但是由于数据本身存在不平衡的现象，计算机辅助分类的效果很差，因此我将多分类任务转化成多个二分类任务，也就是说，这段python脚本只需要判断输入的文本是否属于某个类别即可。accuracy值重要程度相对较低。