python log函数_python编写softmax函数、交叉熵函数实例

39d432da80f97d2d42845da48646fd4d.png

python代码如下:

import numpy as np
 
# Write a function that takes as input a list of numbers, and returns
# the list of values given by the softmax function.
def softmax(L):
 pass
 expL = np.exp(L)
 sumExpL = sum(expL)
 result = []
 for i in expL:
  result.append(i*1.0/sumExpL)
 return result

python编写交叉熵公式:

import numpy as np
 
def cross_entropy(Y, P):
 Y = np.float_(Y)
 P = np.float_(P)
 return -np.sum(Y * np.log(P) + (1 - Y) * np.log(1 - P))

import numpy as np

def cross_entropy(Y, P):

Y = np.float_(Y)

P = np.float_(P)

return -np.sum(Y * np.log(P) + (1 - Y) * np.log(1 - P))

MSE:

6e954d63daa59635a47301d129ec5ccd.png

cross-entropy:

cbf3cedcda0c5bce14de0ce084935421.png

从上述的公式可以看出,交叉熵的损失函数只和分类正确的预测结果有关系,而MSE的损失函数还和错误的分类有关系,该分类函数除了让正确的分类尽量变大,还会让错误的分类变得平均,但实际在分类问题中这个调整是没有必要的。

但是对于回归问题来说,这样的考虑就显得很重要了。所以,回归问题熵使用交叉上并不合适。

以上这篇python编写softmax函数、交叉熵函数实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。

交叉熵损失函数是深度学习中常用的一个损失函数,它是用来衡量实际输出与期望输出之间的差异的。在分类问题中,如果使用softmax作为输出层的激活函数,那么就可以使用交叉熵损失函数来计算误差。因此,采用softmax交叉熵损失函数是指在使用softmax作为输出层激活函数时所使用的损失函数。 而交叉熵损失函数是一种广义的损失函数,它可以用于多种深度学习任务,不仅仅局限于分类任务。在分类问题中,我们通常使用softmax作为输出层的激活函数,从而使得交叉熵损失函数成为了常用的损失函数之一。但是,在其他任务中,我们可能需要使用其他的输出层激活函数,例如sigmoid、tanh等,这时候我们仍然可以使用交叉熵损失函数来计算误差。 下面是使用Python实现采用softmax交叉熵损失函数交叉熵损失函数的代码: ``` import numpy as np # 采用softmax交叉熵损失函数 def softmax_cross_entropy_loss(y, y_hat): n = y.shape loss = -np.sum(y * np.log(y_hat + 1e-12)) / n return loss # 交叉熵损失函数 def cross_entropy_loss(y, y_hat): n = y.shape loss = -np.sum(y * np.log(y_hat + 1e-12) + (1 - y) * np.log(1 - y_hat + 1e-12)) / n return loss # 测试代码 y = np.array([0, 1, 0, 0]) y_hat = np.array([0.1, 0.7, 0.1, 0.1]) print("采用softmax交叉熵损失函数:", softmax_cross_entropy_loss(y, y_hat)) print("交叉熵损失函数:", cross_entropy_loss(y, y_hat)) ``` 其中,y表示实际输出,y_hat表示模型预测输出。采用softmax交叉熵损失函数只需要计算实际输出和预测输出之间的差异,而交叉熵损失函数还需要考虑实际输出和预测输出都为0或1时的情况。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值