自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(15)
  • 收藏
  • 关注

原创 loss scale的理解

loss scale的理解

2023-02-25 16:57:16 1983

原创 Linux使用nohup命令后台运行程序并输出日志,解决python文件中print不能输出的问题

Linux使用nohup命令后台运行程序并输出日志,解决python文件中print不能输出的问题

2023-01-18 22:32:12 6752

转载 RNN中的梯度消失:隐藏层的梯度&隐藏层系数的梯度

引用自:Why LSTMs Stop Your Gradients From Vanishing: A View from the Backwards Pass最近在学习邱锡鹏老师的《神经网络与深度学习》,看到了循环神经网络。书中写道:为什么隐藏层系数的梯度没有消失?这篇博客写的非常清楚,故记录一下:WRW_RWR​的梯度是影响不到的,但是他的梯度更多地来自于当前时间步的几个相邻状态(公式中体现的是累加)。而对于hkh_khk​而言,若k<<tk<<tk<<t

2022-05-09 18:46:26 299

转载 激活函数非零为中心的影响

激活函数 非零为中心

2022-05-08 21:14:22 882

原创 C++:给定一个字符串,验证是否为回文,只考虑字母和数字字符,忽略字母大小写。

#include<iostream> #include<cstring> using namespace std; int isPalindrome(char s[]); int main() { char s[100]; gets(s); if (isPalindrome(s)) cout << "true"; else cout << "false"; return 0; } void tolwr(char

2020-05-10 10:07:26 1249

原创 Pytorch:卷积神经网络CNN,使用重复元素的网络(VGG)训练MNIST数据集99%以上正确率

import torchfrom torch import nnfrom torch.nn import initimport torchvisionimport torchvision.transforms as transformsimport sysimport d2lzh_pytorch as d2limport timebatch_size=128trainset ...

2020-04-24 15:02:49 1024

原创 Pytorch:使用循环神经网络LSTM训练MNIST数据集

import torchfrom torch import nnfrom torch.nn import initimport torchvisionimport torchvision.transforms as transformsimport sysimport d2lzh_pytorch as d2limport timefrom torch.autograd import...

2020-04-24 14:55:48 579

原创 C语言:设n为正整数,求解n使不等式a&lt;1+1/(1+1/2)+1/(1+1/2+1/3)+.......+1(1+1/2+...+1/n)&lt;b成立,输出可能为区间也可能是整数

#include<stdio.h>int main(){ int a, b, m; scanf("%d %d", &a, &b); double ans=0; double sum=0; int n=1; double j=0; double x=0; int jishu=0; while(1) { #构建函数中的一项 j=...

2020-03-31 16:19:12 2167 1

原创 Pytorch搭建CNN(重复元素的网络VGG)实现cifar-10分类:20轮近74%准确率

参考书目:动手学深度学习(pytorch版)原书链接import torchfrom torch import nnfrom torch.nn import initimport torchvisionimport torchvision.transforms as transformsimport sysimport d2lzh_pytorch as d2limport time...

2020-03-30 15:24:53 1115

原创 LLIS寒假学习(6):动手学深度学习(pytorch版):softmax回归的简介实现逐步理解

首先导入所需包和模块import torchfrom torch import nnfrom torch.nn import initimport numpy as npimport syssys.path.append("..") import d2lzh_pytorch as d2l一.获取和读取数据batch_size = 256#设置批量大小train_iter, t...

2020-03-19 10:52:53 221

原创 LLIS寒假学习(5):动手学深度学习(pytorch版):softmax回归从零开始实现逐步解读

一.具体问题图像分类数据集(Fashion-MNIST)详细请转原书:图像分类数据集二.从零开始实现首先导入本节实现所需的包或模块。import torchimport torchvisionimport numpy as npimport syssys.path.append("..") # 为了导入上层目录的d2lzh_pytorch,我直接把这个包放到了代码文件所在的文件夹...

2020-03-18 22:15:51 270

原创 LLIS寒假学习(4):动手学深度学习(pytorch版):softmax回归解读

对比线性回归模型其输出为连续值,softmax回归模型的输出则为离散值。对于像图像类别这样的离散值预测问题,我们可以使用诸如softmax回归在内的分类模型。一.具体问题考虑一个简单的图像分类问题,其输入图像的高和宽均为2像素,且色彩为灰度。这样每个像素值都可以用一个标量表示。我们将图像中的4像素分别记为x1x_1x1​,x2x_2x2​,x3x_3x3​,x4x_4x4​。假设训练数据集中...

2020-03-18 15:23:28 189

原创 LLIS寒假学习(3):动手学深度学习(pytorch版):线性回归的简洁实现解读

强大的深度学习框架可以减少大量重复性工作,我们可以使用PyTorch更方便地实现线性回归的训练。生成数据集%matplotlib inline #设置作图嵌入显示import torch from IPython import d...

2020-03-08 18:04:45 288

原创 LLIS寒假学习(2):动手学深度学习(pytorch版):线性回归代码实现的逐步理解

一.具体问题根据房屋的面积(平方米)和房龄(年)来预测该房屋的售出价格(元)。假设房屋价格只与上述两个因素决定。二.模型定义设房屋的面积为 x1,房龄为 x2 ,售出价格为 y。假设输出与各个输入之间是线性关系:y^=x1w1+x2w2+b其中 w1和 w2是权重(weight),b 是偏差(bias),且均为标量。它们是线性回归模型的参数(parameter)。模型输出 yˆ 是线性回...

2020-03-08 12:11:16 316

原创 LLIS寒假学习(1):纯小白入门动手学深度学习(pytorch版)

首先回顾一下自己在学这门学课时的状态:大一,计算机系,有C++学习的基础,线性代数学习的基础,python的最基本语法。其次没有任何关于这门学科的基础,所以在探索《动手学深度学习(pytorch版)》的时候,的确遇到了很大的困难。 主要有这么几点: 1.数学原理大致是可以看懂的,但是用代码从零开始实现遇到了困难。 2.函数的语法不是太懂,可能是因为不熟悉python,未知函数学习过程中有些...

2020-03-07 11:38:59 677 1

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除