softmax和权重对应相加

ass=torch.tensor([2, 4, 4]).type(torch.FloatTensor)
asas=torch.softmax(ass,0)

#结果
asas:tensor([0.2905, 0.3548, 0.3548])
                num_zi = torch.sum(torch.pow(raw_wi_repeat - wi, 2), dim=0, keepdim=True)  # [1,4]
                num_zi = (-num_zi).exp()

                num_zi = torch.where(num_zi < cc, dd, num_zi)  ## a中小于cc的用dd替换,否则a替换,即不变
                num_zero = (num_zi > 0).nonzero()
                num_mu = torch.sum(num_zi, dim=1, keepdim=True)  # [1]
                aa = num_zi / num_mu
                ab=torch.softmax(num_zi,1)

其中

num_zi:tensor([[0.9835, 0.9300, 0.9112, 0.9105, 0.9943, 0.9922, 0.9055, 0.9570, 0.9182,
         0.9089, 0.9513, 0.9396, 0.9451]])
num_zi.shape:    torch.Size([1, 13])

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
softmax把一堆实数的值映射到0-1区间,并且使他们的和为1.
max,就是,假如a>b,那么一直取a。没有第二种可能。
但有时会希望,经常取大的,小的偶尔能取到。那么就用softmax了。按照softmax计算取a和b的概率,概率和它本来的大小有关。
在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值