[每日一氵] BERT下游二分类任务精确率P约为0.5，召回率R约为1的问题

最新推荐文章于 2022-06-17 10:01:34 发布
最新推荐文章于 2022-06-17 10:01:34 发布
阅读量1k 收藏 1
点赞数
分类专栏： 每日一氵 文章标签： 分类 bert
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/HaoZiHuang/article/details/122056376
版权

在这里插入图片描述
怎么能把上边儿这个玩意儿关了啊???
这样行不？？
在这里插入图片描述
好吧不行

昨天训练BERT玩儿，跑了一下test，结果精确率约为0.5，召回率约为1，？？？？？？
在这里插入图片描述

这BERT这么吊的吗？？？ 召回率率基本上为1???

后来想了一下，大概就是把所有的样本预测为正类了，而TEST集中正负样本为1:1，所以召回率为1，准确率为0.5

诶，这不是训练过的样本吗？？怎么会全预测为1呢？

哦，原来是我训练完了，忘了把模型从服务器上down下来了…
hai
在这里插入图片描述在这里插入图片描述
这样就正常多了

在此感谢另一位队友，感谢老铁的帮助！！！

氵文大师
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 6
    评论
专栏目录
改进BERT的中文评论情感分类模型
罗伯特技术屋
09-07 702
为了改善现有基于深度学习网络的中文评论情感分类方法，同时提高中文评论情感分类的正确率和效率，基于Tensorflow框架，对传统BERT模型进行改进，以Nlpcc2013和Nlpcc2014公开的微博评论数据集为实验数据，分别从两个数据集中清洗抽取出3 949条和14 163条情感极性明显的评论，将数据输入改进后的RoBERTa模型中，提取语义后利用Sigmoid函数进行情感正负极性分类。
为什么神经网络模型在测试集上的准确率高于训练集上的准确率？
种花家的奋斗兔的博客
03-21 1万+
类似下图： 或者下图： 来自：吴恩达机器学习Regularization部分。 如上图所示，有时候我们做训练的时候，会得到测试集的准确率或者验证集的准确率高于训练集的准确率，这是什么原因造成的呢？经过查阅资料，有以下几点原因，仅作参考，不对的地方，请大家指正。 （1）数据集太小的话，如果数据集切分的不均匀，或者说训练集和测试集的分布不均匀，如果模型能够正确捕捉到数据内部的分布模式话...
二分类问题,损失函数值一直为0.693,准确率一直为0.5附近的解决办法
weixin_43327191的博客
11-30 3981
对于二分类问题，损失函数一般用的是binary_crossentropy，要注意loss=0.693...是一个特殊值，因为二分类问题随便猜测的概率就为0.5,用交叉熵进行计算:loss=-ln(0.5) 解决的办法: 在每个卷积层与激活函数层之间都加了一个BatchNorm2d 将数据归一化后，网络可以迅速收敛 ...
求大佬帮忙，神经网络loss不变0.06931，准确率二分类为0.5
qq_30440691的博客
03-13 1654
import torch import torch.nn as nn import torch.nn.functional as F import pandas as pd import numpy as np import torch.utils.data as data import torch.autograd as autograd from MyHAN.utils import matrix_mul, element_wise_mul import sklearn.metrics as metr.
在二分类问题中，准确率一直处于50%上下的解决方法
weixin_30819163的博客
09-11 1万+
最近在 猫狗识别 项目中，不知为何准确率（训练集准确率和验证集准确率）一直处于0.5左右，这说明网络根本没有学习。后来查阅了许多他人的经验，并做了总结。 首先谈谈我的是如何解决的： 网络结构：AlexNet 优化器：Adam （这里正是问题所在） 框架：PyTorch 关于优化器，我最开始使用的的是 torch.optim.Adam()，但是训练100个Epoch后，准确率始终在...
Bert踩坑总结—————分类准确率过低
weixin_38527856的博客
09-17 1万+
使用bert进行文本分类，主要踩的坑有： 数据格式，看自己写的类中如何提取标签和文本 fine-tuning的配置，除了指定文件路径外，可以调整学习率为万分之一到十万分之一之间 fine-tuning中train.sh看是哪个模型保存了，要在predict.sh中引用 如果运行结果多次不变，就删除eval_output中的模型，重新跑一次 数据集一定要Shuffle！！！！这是我调试ber...
BERT手把手实现分类任务-Pytorch
03-15
BERT 手把手实现分类任务-Pytorch 本资源摘要信息主要讲解了如何使用 Pytorch 实现 BERT 手把手分类任务。BERT 是一种基于 transformer 的语言模型，可以 fine-tune 来适应各种任务。 1. 什么是 BERT？ BERT...
课程设计基于thuc新闻数据集的Bert文本分类任务python实现源代码.zip
06-22
基于thuc新闻数据集的Bert文本分类任务python实现源代码.zip基于thuc新闻数据集的Bert文本分类任务python实现源代码.zip基于thuc新闻数据集的Bert文本分类任务python实现源代码.zip基于thuc新闻数据集的Bert文本分类...
基于Bert的中文文本分类任务python源码+说明（期末大作业）
最新发布
06-22
基于Bert的中文文本分类任务python源码+说明（期末大作业）本项目是一套成熟的大作业项目系统，获取98分，主要针对计算机相关专业的正在做大作业的学生和需要项目实战练习的学习者，可作为课程设计、期末大作业。...
基于bert实现文本多分类任务
12-21
文本多分类任务是自然语言处理领域的一个重要任务，它的目标是根据输入的文本内容将其归类到多个预定义的类别中。在这个特定的项目中，我们看到开发者使用BERT（Bidirectional Encoder Representations from ...
NLP：实现BERT完成对英文数据集的二分类任务.zip
04-21
**BERT（Bidirectional Encoder Representations from Transformers）**是Google在2018年提出的一种预训练语言模型，它在自然语言处理（NLP）领域取得了重大突破，尤其在理解上下文语境方面表现出色。BERT模型的核心...
准确率、召回率、F-1值、ROC
weixin_41961559的博客
06-17 877
准确率、召回率、f1值
准确度(accuracy)、精确率（precision)、召回率（recall）、F1值 谈谈我的看法
热门推荐
凡心所向.AI
08-22 6万+
前言 准确度、精确率、召回率、F1值作为评估指标，经常用到分类效果的评测上。比较好理解的二分类问题，准确度评估预测正确的比例，精确率评估预测正例的查准率，召回率评估真实正例的查全率。如何把这些评估指标用到多分类上呢，比如有三个类别A、B、C，准确度好理解，只要关系是否预测正确即可；那么精确率和召回率怎么理解呢？我们可以把多分类问题拆分成多个二分类问题，比如A类别是否预测正确，B类别是否预测正确，C类别是否预测正确，分别计算各个类别的每个类别的精确率和召回率，最终求均值既能作为所有样本的评估指标。 基本概
召回率R,精确率P,精度accuracy,F1计算
qq_41299133的博客
12-15 2698
召回率R,精确率P,精度accuracy,F1计算一、召回率R,精确率P,精度accuracy,F1定义二、使用步骤参考 一、召回率R,精确率P,精度accuracy,F1定义 二、使用步骤 from sklearn.metrics import accuracy_score, precision_score, recall_score, f1_score #1表示白球，0表示黑球 y_true = [1, 1, 1, 0, 0, 0, 1, 0, 0, 1] y_pred = [1, 1, 0,
机器学习结果统计－准确率、召回率，F1-score
Net_Wolf_007的专栏
06-27 1万+
对机器学习结果统计概述说明
理解准确率、精确率、召回率等评价指标含义以及在SVM模型中的应用
Liii_NN的博客
09-06 1万+
目录 一、混淆矩阵 二、实例分析 1、准确率（Accuracy） 2、精确率（Precision） 3、召回率（Recall） 4、F值 5、AUC 总结 一、混淆矩阵 混淆矩阵（Confusion Matrix）是评估模型结果的指标，属于模型评估的一部分，如下图所示。 实际表现 1 0 预测表现 1 TP FP 0 FN TN 如果用T(True)代表正确、F(False)代表错误、P(Pos...
准确率（Precision查准率）召回率（Recall查全率）和F-Meansure、mAP
yaoweijiao的博客
04-11 1万+
一、准确率、召回率、F1 一句话解释：一般来说，Precision 就是检索出来的条目中（比如：文档、网页等）有多少是准确的，Recall就是所有准确的条目有多少被检索出来了。 1、实际上非常简单，精确率是针对我们预测结果而言的，它表示的是预测为正的样本中有多少是真正的正样本。那么预测为正就有两种可能了，一种就是把正类预测为正类(TP)，另一种就是把负类预测为正类(FP)，也就是
模型评估方法以及评估指标——准确率、精确率、召回率以及P-R曲线和ROC曲线介绍
qq_42600675的博客
12-06 1万+
模型评估方法以及评估指标介绍前言一、准确率、精确率、召回率1.1 准确率(Accuracy)1.2 精确率(Precision)1.3 召回率(Recall)二、P-R曲线和ROC曲线2.1 P-R曲线2.2 ROC曲线三、模型评估验证方法3.1 Holdout检验3.2 交叉检验3.3 自助法 前言 ”没有测量，就没有科学“ 在机器学习中，只有选择与问题相匹配的评估方法，才能快速地发现模型选择或训练过程中出现的问题，迭代地对模型进行优化。模型评估主要是离线评估和在线评估两个阶段，本文整理了常见的模
NLP中BERT在文本二分类中的应用
weixin_38267719的博客
06-28 5448
最近参加了一次kaggle竞赛Jigsaw Unintended Bias in Toxicity Classification，经过一个多月的努力探索，从5月20日左右到6月26日提交最终的两个kernel，在public dataset上最终排名为4%(115/3167)，说实话以前也并没有怎么接触过NLP方面的东西，对深度学习的理解也不是特别深刻。 BERT是目前非常火的NLP模型，采用两段...
bert微调做二分类任务代码
05-11
下面是使用PyTorch实现BERT微调进行二分类任务的代码示例： ```python import torch from torch.utils.data import TensorDataset, DataLoader, RandomSampler, SequentialSampler from transformers import ...
评论 6
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值