![](https://img-blog.csdnimg.cn/20201014180756926.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 73
亲亲Friends
这个作者很懒,什么都没留下…
展开
-
Pytorch查看,输出,打印模型各个网络层的名字和参数
很简单,以下代码即可:for name, param in mymodel.named_parameters(): print(name) print(param.data) print("requires_grad:", param.requires_grad) print("-----------------------------------")输出示例:clientA.0.weighttensor([[ 1.2868, 1.2431, 2.0032,原创 2021-10-27 17:02:40 · 9910 阅读 · 0 评论 -
Softmax求导
softmax的方程为:p=softmax(z) where pi=ezi∑j=1kezjfor i=1,⋯ ,k.\boldsymbol{p}=\text{softmax}(\boldsymbol{z})\, \text{where}\, p_i=\frac{e^{z_i}}{\sum^k_{j=1}e^{z_j}} \text{for}\, i=1,\cdots,k .p=softmax(z)wherepi=∑j=1kezjezifori=1,⋯,k.上式中p\boldsymbol{原创 2021-04-22 17:49:35 · 661 阅读 · 0 评论 -
逻辑回归(logistic regression)损失函数(loss function)推导
逻辑回归(logistic regression)逻辑回归(LR)可以看做线性回归(linear regression)的拓展,二者的区别是:逻辑回归的结果为0或1,即分类;线性回归的结果是连续值,即回归1。Binary LR本文重点在二分类逻辑回归,其一般形式为:y^=σ(z)=σ(xTw) .\hat{y}=\sigma(z)=\sigma(\boldsymbol{x^T}\boldsymbol{w})\,.y^=σ(z)=σ(xTw).注意,这里σ(z)\sigma(z)σ(z)是Si原创 2021-04-09 13:03:35 · 10265 阅读 · 1 评论 -
PyTorch如何保存模型和读取模型
方案1 (推荐方案)保存模型torch.save(the_model.state_dict(), PATH)加载模型the_model = TheModelClass(*args, **kwargs) # 定义模型the_model.load_state_dict(torch.load(PATH)) # 读取参数注:本方案只保留和读取模型参数。方案2保存模型torch.save(the_model, PATH)加载模型the_model = torch.load(P原创 2020-08-26 17:19:27 · 3619 阅读 · 1 评论 -
如何可视化PyTorch的网络模型计算图和后传路径图(可视化PyTorch网络结构)
PyTorchViz包(https://github.com/szagoruyko/pytorchviz)可以用来方便地绘制PyTorch正向网络计算图和后传计算路径,本文讲解如何使用PyTorchViz包,主要参考网站包括:https://towardsdatascience.com/understanding-pytorch-with-an-example-a-step-by-step-tutorial-81fc5f8c4e8ehttps://stackoverflow.com/questions原创 2020-07-15 19:37:17 · 8769 阅读 · 6 评论 -
Sigmoid函数(logsig)求导
通常情况下,我们所说的Sigmoid函数定义如下:σ(x)=11+e−x=exex+1.\sigma(x)=\frac{1}{1+e^{-x}}=\frac{e^x}{e^x+1}.σ(x)=1+e−x1=ex+1ex.它的形状如下:导数如下:dσ(x)dx=σ(x)⋅(1−σ(x)).\frac{d\sigma(x)}{dx}=\sigma(x)\cdot (1-\sigma(x)).dxdσ(x)=σ(x)⋅(1−σ(x)).本篇博文讲σ(x)\sigma(x)σ(x)导数的推原创 2020-05-15 22:33:17 · 10524 阅读 · 0 评论 -
从零开始手工实现卷积神经网络CNN以及img2col和col2img的实现方法
本文主要实现卷积神经网络(Convolutional Neural Network, CNN)中卷积操作的forward和backward函数。CNN主要包括卷积(Convolution),池化(pooling),全连接(Fully Connected)操作。相信点进来的同学对这些操作的细节已经很熟悉了,不熟悉的同学可以参考这一篇博文(本人看过讲CNN最简单易懂、最好的博文,没有之一):An In...原创 2020-03-31 18:08:35 · 7526 阅读 · 4 评论