![](https://img-blog.csdnimg.cn/20201014180756916.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习基础
文章平均质量分 78
小跑的芥子
这个作者很懒,什么都没留下…
展开
-
Netron pth文件转onnx并显示出shape(size)的网络结构图
提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档目录前言一、pth转onnx二、onnx格式给网络结构增加shape功能总结前言提示:Netron pth文件转onnx并显示出shape(size)的网络结构图。一、pth转onnx提示:pth文件是pytorch训练后保存的网络模型开放式神经网络交换(Open Neural Network Exchange)ONNX格式所谓开放就是ONNX定义了一组和环境,平台均无关的标准格式,可使模型在不同框架之间进行转移。换句话说原创 2022-02-21 15:07:40 · 4553 阅读 · 1 评论 -
深度学习-激活函数
总结激活函数从各个博客上扒来然后总结的sigmoid激活函数函数图像sigmoid导数导数图像sigmoid的缺点:1)输出范围在0~1之间,均值为0.5需要做数据偏移,不方便下一层学习2)当x很大或很小时,存在导数很小的情况,另外神经网络的主要训练方法是BP算法(反向传播),其基础是导数的链式法则,即多个导数的乘积,而sigmoid的导数最大值为0.25,多个小于等于0.25的数值相乘,运算结果很小,随着网络的加深,梯度反向传播到浅层网络时,基本没法引起参数的扰动,造成梯度消失。原创 2020-08-12 14:19:21 · 192 阅读 · 2 评论