CUDA error: CUBLAS_STATUS_ALLOC_FAILED when calling `cublasCreate(handle)`

在进行情感分类任务时遇到了GPU运行错误,原因是使用预训练模型计算损失时,标签值超过了预期范围。原来的做法是将标签转换为ID,而新方法直接传递整数标签。修正方案是删除不必要的转换步骤,直接返回整数标签,从而解决了问题。
摘要由CSDN通过智能技术生成

在做情感分类时出现了这个错误。用gpu跑会显示这个,当我切换到cpu跑时,定位到错误label index超范围了。

原因:之前做分类任务的时候是自己用logits算loss的,在做dataset处理的时候convert_tokens_to_ids(label),然后根据vocab,label就是了一百多。这回我直接将label传入预训练模型里算loss,所以报错了。这里面的label应该是[0,1,2..]

outputs = self.roberta(inputs_embeds=input_emb, attention_mask=attention_mask, labels=label)

改正:删掉convert_tokens_to_ids(label),直接return int(label),问题解决。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值