【PyTorch】教程：torch.nn.Softshrink

最新推荐文章于 2024-09-25 15:57:52 发布

老周有AI~算法定制

最新推荐文章于 2024-09-25 15:57:52 发布

阅读量969

点赞数

分类专栏： PyTorch 文章标签： pytorch 深度学习 python

by: JW

本文链接：https://blog.csdn.net/zhoujinwang/article/details/129641865

版权

PyTorch 专栏收录该内容

46 篇文章

订阅专栏

Softshrink是PyTorch中的一种激活函数，用于信号降噪。该函数在输入大于λ时对输入减去λ，在输入小于-λ时对输入加上λ，否则输出为0。默认参数λ为0.5。它在图像处理和压缩感知等领域有应用。

摘要由CSDN通过智能技术生成

torch.nn.Softshrink

原型

CLASS torch.nn.Softshrink(lambd=0.5)

参数

lambd (float) – $\lambda$ 为 Softshrink参数，默认为 0.5, 必须不小于0

定义

$\text{SoftShrinkage}(x)=\begin{cases} x-\lambda, & \text{if } x > \lambda \\ x+\lambda, & \text{if } x < -\lambda \\ 0, & \text{otherwise} \end{cases}$

图

在这里插入图片描述

代码

import torch
import torch.nn as nn

m = nn.Softshrink()
input = torch.randn(4)
output = m(input)

print("input: ", input)
print("output: ", output)

# input:  tensor([ 0.9876, -2.0183, -0.7573, -1.7960])
# output:  tensor([ 0.4876, -1.5183, -0.2573, -1.2960])