Tan_Hao的博客

原创 百度飞桨（PaddlePaddle）如何使用mish激活函数

百度飞桨（PaddlePaddle）如何使用mish激活函数 在YOLO-V4中，作者使用了一个新的深度学习激活函数 Mish。 （大概长成图上这个样子） 大家看到这个图像，是不是感觉很熟悉呢？这个函数图像和我们熟悉的ReLU长得很像，但是和ReLU相比，该函数保留了负数，而不是将负值全部丢弃。 Mish的梯度要比ReLU更加平滑，该函数在最终准确度上比Swish(+0.494%)和ReLU（+1.671%）都有提高。 然而这么好的激活函数，在百度的API文档里翻不出来… 既