MindSpore GPU1.8.1
Ubuntu 22.4
GPU 1080Ti
【操作步骤&问题现象】
mindspore模型在训练过程中的速度明显低于pytorch模型。
具体到代码而言,在损失函数中,使用到了几次该算子。
我根据API映射将该算子迁移过来。
#pytorch
log_prob = logits - torch.log(exp_logits.sum(1, keepdim=True))
mean_log_prob_pos = (mask * log_prob).sum(1) / mask.sum(1)
#mindspore
log_prob = logits - ops.log(ops.ReduceSum(keep_dims=True)(exp_logits, 1) + 1e-8)
op_sum = ops.ReduceSum()
mean_log_prob_pos = op_sum(mask * log_prob,1) /op_sum(mask,1)
【截图信息】
****************************************************解答*****************************************************
可参照一下这里,有性能分析,可以自检一下自己的模型:https://www.mindspore.cn/mindinsight/docs/zh-CN/r1.8/performance_profiling.html