最近在使用cuda核函数实现PSROI Pooling 和 Deformable PSROI Pooling时发现,结果与自带库函数不一致,检查kernel是否存在float型参数。
如果有,在python中改为cp.float32(param)后传入。
cupy kernel cuda核函数直接计算与调用pytorch或mxnet框架等库函数结果不一致[已解决]
最新推荐文章于 2024-08-24 06:30:00 发布
最近在使用cuda核函数实现PSROI Pooling 和 Deformable PSROI Pooling时发现,结果与自带库函数不一致,检查kernel是否存在float型参数。
如果有,在python中改为cp.float32(param)后传入。