swish和h-swish激活函数（附matlab画图）

swish激活函数：

h-swish激活函数：

MobileNetV3在激活函数方面建立在MobileNetV2的基础上，MobileNetV2使用ReLU6作为激活函数。然而，MobileNetV3采用了H-Swish激活函数，这是基于Swish的一种近似解决方案。虽然Swish在性能上优于ReLU6，但是它的计算成本较高。H-Swish则在保持与Swish相似效果的同时，降低了计算负担，使得MobileNetV3在性能和计算开销之间取得了更好的平衡。

x = linspace(-6, 6, 1000);
y = zeros(size(x));
z = y;

for i = 1:length(x)
    y(i) = x(i) * (1 / (1 + exp(-x(i))));
    z(i) = x(i) *  (min(max(x(i) + 3, 0), 6) / 6);
end

% 绘制曲线图
plot(x, y, 'b', 'LineWidth', 2);
hold on; % 保持图形窗口打开以添加更多内容
plot(x, z, 'r', 'LineWidth', 2);
hold off; % 关闭保持绘图状态

% 添加图注
legend('swish', 'h-swish');
title('swish 和 h-swish');
grid on;

效果图如下