tansig、logsig公式与导数推导

已于 2023-12-17 14:32:37 修改
阅读量6.6k 收藏 23
点赞数
分类专栏： 神经网络初级学习 文章标签： 概率论 机器学习 线性代数
于 2022-05-17 09:17:05 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/dbat2015/article/details/124813796
版权

原文来自 《老饼玩转-BP神经网络》icon-default.png?t=N7T8https://www.bbbdata.com/nn

目录

一、公式

二、导数

三、求导过程

(一)tansig求导过程

(二)logsig求导过程

tansig和logsig经常用于做BP神经网络的激活函数，它们的导数都有良好的性质：导数可以用自身表示。

本文讲述tansig和logsig的导数推导过程。

一、公式

tansig和logsig都是S型曲线，它们的区别在于，tansig的取值范围在[-1,1]之间，而logsig的范围在[0,1]之间 。


二、导数

tansig和logsig的导数公式如下：

tansig求导

logsig求导

三、求导过程

下面我们具体推导tansig和logsig的导数过程

(一)tansig求导过程

又

 即有：

所以，tansig只需要算出自身的平方值，再1-即可以得到导数值。

(二)logsig求导过程

 所以，logsig只要算出自身值，再 自身体-自身值的平方即可得到导数值。

 相关文章

​《BP神经网络梯度推导》

​​​​​​《BP神经网络提取的数学表达式》

《一个BP的完整建模流程》

老饼讲解-BP神经网络
关注
  • 0
    点赞
  • 踩
  • 23
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
基于matlab的BP神经网络
04-02
基于matlab的 BP神经网络的logsig函数和其导数函数 BP神经网络的Tansig函数具有在输入0附近的时候是线性，远离0是非线性的特性
tansig和logsig有什么区别，为什么BP神经网络喜欢用tansig
dbat
07-06 6513
为什么BP神经网络一般使用tansig,相信这是很多人的困惑。 我们不妨来分析tansig和logsig的属性、特性、导数等方面，找出为什么倾向使用tansig的原因.
（matlab实现）sigmoid函数和tanh函数以及ReLU函数
热门推荐
lanluyug的博客
08-06 5万+
1. logsig函数即是logistic Regression（逻辑回归）中的sigmoid函数。 logsig函数表达式为： matlab实现： figure('NumberTitle', 'off', 'Name', 'Sigmoid函数'); x=-10:0.1:10; y= 1 ./ (1 + exp(-x)); plot(x,y); xlabel('X轴');ylabel(...
BP神经网络的logsig函数和其导数函数.m
03-30
bp神经网络BP神经网络的logsig函数和其导数函数.m
矩阵求导完全解析
12-13
矩阵求导完全解析https://blog.csdn.net/wxf2012301351/article/details/84989934 配套的代码
BP神经网络的Tansig函数.m
03-30
BP神经网络的Tansig函数.m
Sigmoid函数（logsig）求导
亲亲Friends的博客
05-15 9751
通常情况下，我们所说的Sigmoid函数定义如下： σ(x)=11+e−x=exex+1. \sigma(x)=\frac{1}{1+e^{-x}}=\frac{e^x}{e^x+1}. σ(x)=1+e−x1​=ex+1ex​. 它的形状如下： 导数如下： dσ(x)dx=σ(x)⋅(1−σ(x)). \frac{d\sigma(x)}{dx}=\sigma(x)\cdot (1-\sigma(x)). dxdσ(x)​=σ(x)⋅(1−σ(x)). 本篇博文讲σ(x)\sigma(x)σ(x)导数的推
tansig与tanh激活函数
weixin_39982211的博客
03-09 1万+
发现matlab一个比较奇怪的地方 之前刚接触神经网络的时候是用的matlab，选用激活函数的时有sigmoid，tansig等等 后面转其他平台设计网络的时候发现再也没见过tansig函数？ 看着tanh和tansig比较像又不敢确定，于是心血来潮搜一下 发现网上根本没人比较这两个东西…就更好奇了 查了公式，matlab的tansig表达式是： 21+e−2x−1 \frac{2}{1+e^{-...
matlab中tansig函数的用法,BP神经网络使用隐含层使用tansig函数如何在代码中取k值...
weixin_32001191的博客
03-19 1779
clear allclcp_train=[0.012 0.035 0.156 0.036 0.009 0.026 0.125 0.001 0.002 0.040;0.025 0.056 0.264 0.058 0.352 0.036 0.062 0.026 0.123 0.030;0.036 0.190 0.036 0.042 0.042 0.001 0.021 0.062 0.020 0.123...
logsig、tansig、relu函数曲线绘制
张齐贤的博客
07-02 9324
% https://blog.csdn.net/lanluyug/article/details/76791271 figure('NumberTitle', 'off', 'Name', 'Sigmoid函数'); x=-10:0.1:10; y= 1 ./ (1 + exp(-x)); plot(x,y); xlabel('X轴');ylabel('Y轴');%坐标轴表示对象标签 grid o...
案例27 遗传算法的优化计算——建模自变量降维.rar_14O_WHZM_遗传算法 _遗传算法 降维_遗传算法降维
07-15
这个代码是对遗传算法的优化，具有良好的性能！
MATAB神经网络源码及数据分析-Elman神经网络-预测.zip
最新发布
05-22
MATAB神经网络源码及数据分析-Elman神经网络-预测
BP神经网络逼近
05-15
BP神经网络逼近BP神经网络逼近BP神经网络逼近BP神经网络逼近BP神经网络逼近BP神经网络逼近BP神经网络逼近BP神经网络逼近BP神经网络逼近BP神经网络逼近
宽度学习 Broad Learning System MATLAB代码（2）：NORB实践
03-19
陈俊龙教授团队“Broad Learning System: An Effective and Efficient Incremental Learning System Without the Need for Deep Architecture”的中文综述，原文将在IEEE Transactions on Neural Networks and ...
BP网络项目.rar
03-13
BP神经网络学习资源，有matlab代码 有讲解...1.BP神经网络的logsig函数和其导数函数 2.BP神经网络的newff和newcf创建网络 3.BP神经网络的Tansig函数 4.BP网络的创建 有很高的参考价值，适合本科 研究生做项目 科研
神经网络matlab源程序代码
03-13
%tansig输出范围是[-1 1] logsig输出范围是[0 1] %在三层网络中，隐含层神经元个数n2和输入层神经元个数n1关系约为 n2=2*n1+1 %net=newff(PR,[S1 S2...SNl],{TF1 TF2...TFNl},BTF,BLF,PF) takes, %PR -- R x 2 ...
神经网络模型及其MATLAB仿真程序设计
07-15
神经网络模型及其MATLAB仿真程序设计 一共三个压缩包，要全部下来才能解压
BP网络预测问题-Venice_Lagoon_data1993.txt
08-13
 net=newff,[8,1],{'tansig','logsig'},'trainlm');  net.trainParam.lr=0.1;  net.trainParam.epochs=10000;  net.trainParam.goal=0.01;  net=train; data5=rand; data6=rand; k4=0; k7=0; for k5=...
新版Matlab中神经网络训练函数Newff的详细讲解-新版Matlab中神经网络训练函数Newff的使用方法.doc
08-12
二、 新版newff与旧版newff调用语法对比 Example1比如输入input（6*1000），输出output为（4*1000），那么旧版定义：net=newff,[14,4],{'tansig','purelin'},'trainlm');新版定义：net=newff; Example2比如输入...
matlab神经网络工具箱激活函数tansig和logsig
05-16
MATLAB神经网络工具箱中有许多不同的激活函数可供选择，其中tansig和logsig是其中两个常用的激活函数。 tansig代表张成S型的双曲正切函数，它是一个非常受欢迎的激活函数，因为它允许神经元的输出在负无穷大和正无穷大之间进行变化。通过这种方式，tansig可以确保输出始终在0和1之间，并且对于在0处的输入，它的输出为0.5。这种激活函数常用于隐藏层，而tansig函数的导数通常用于反向传播算法中。 logsig代表对数S型激活函数，它在MATLAB神经网络工具箱中也是常用的激活函数之一。这个函数的输出始终在0和1之间，而且输出的曲线会随着输入值的不断变化而变得越来越陡峭。logsig函数通常用于输出层。logsig函数的导数也可以用于反向传播算法中。 总之，tansig和logsig是两种常用的激活函数，它们在神经网络中具有重要作用。使用这些激活函数时需要考虑输入和输出的取值范围，并且需要注意梯度消失等问题。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

老饼讲解-BP神经网络

请老饼喝杯咖啡

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值