目录
一、 论文所解决的问题
采用集成学习的方式,集成了RoBERTa, ALBERT, and XLNet三种bert改进的版本,以一定的权重进行结果的计算,解决虚假评论预测问题。
二、 创新点
采用了集成学习方式,打败了各自单独处理虚假评论检测的结果。
三、 模型架构图
将输入分别用三种网络计算,将得到的结果进行加权求和,再利用交叉熵损失函数计算。
四、 设置参数及所用的数据集
1. 网络构成
RoBERTa::768 hidden layers, 12 layers, 125 million parameters, and 12 attention heads.
XLnets : 768 hidden layers, 12 layers, 110 million parameters, and 12 attention