深度学习
文章平均质量分 62
1只小包子
没什么好说的,开始吧
展开
-
NNML学习记录
NNML学习记录第一章 神经网络识别手写数字我们希望有一个算法能让我们找到的权重的偏置以至于网络的输出y(x)能够拟合所有的输入x,为了量化我们这一目标我们使用二次代价函数 之所以定义这个二次代价而不是最大化正确分类数目这一直接代价,是因为分类图像关于权重和偏置并不是平滑的,对权重和偏置做微小的改变不会影响到最终的分类效果。这样无法通过梯度下降的方法通过改变权重改变分类器的性能。...原创 2018-08-22 20:38:15 · 1054 阅读 · 0 评论 -
AI Challenger 2018 农作物病害细粒度分类-----Pytorch 深度学习实战
AI Challenger 2018 农作物病害细粒度分类比赛地址数据集地址 密码: 4ac21 前言2 代码组织结构3 完整流程解析   &amp原创 2018-11-12 15:51:42 · 22038 阅读 · 42 评论 -
ResNet结构分析
源码ResNet封装 在torchvision中封装了Resnet的源码,下面通过对ResNet源码的分析进一步了解ResNet网络结构,方便对ResNet结构进行修改,同时学习网络源码的组织方式,方便日后搭建自己的神经网络源码解析def resnet50(pretrained=False, **kwargs): """Constructs a ResNet-50 model....原创 2018-11-08 11:38:06 · 25907 阅读 · 5 评论 -
10.23
std And Meannumpy.flatten() 与 numpy.ravel()numpy.flatten() 与 numpy.ravel()numpy.flatten() 与 numpy.ravel()numpy.flatten() 与 numpy.ravel()在对图像进行预处理送入到神经网络时 将图像进行归一化会对最终效果产生较好影响 对于RGB图像分别对每一个channe...原创 2018-10-24 23:04:22 · 163 阅读 · 0 评论 -
Pytorch 记录
detach对于训练数据训练过程中不会出现out of memory的情况 但是在测试的时候随着测试的进行 GPU的memory会出现越来越多的占用 最终出现out of memory的情况torch.no_grad对于测试时out of memory问题在训练过程中由于loss.backward() 会将计算图的隐藏变量梯度清除,从而释放空间 而在测试的时候没有这一机制,因此有可能随...原创 2018-10-23 19:36:04 · 3648 阅读 · 0 评论 -
ROI Pooling
ROI Pooling广泛应用在CNN目标检测中,例如在一幅图像中检测目标物体(在街景中检测多个行人和车辆,ROI poolig通过对输入特征应用最大值池化得到固定尺寸的feature map.在目标检测模型中,通常分为两个部分:1.区域选择(Region Proposal):在给定的Image中选择所有可能的目标区域,这一步骤的输出结果是一系列目标区域的bounding box2. 分类:...原创 2018-10-09 23:01:52 · 906 阅读 · 0 评论 -
原始图像ROI如何映射到feature
结论在SPP-net中,假设(x’,y’)表示特征图上坐标点,(x,y)表示该坐标点在原始输入图像上的对应点。则有结论 (x,y)=(S * x’,S * y’) 其中S代表所有卷积层和池化层的stride 乘积则有: 左上角点 x’= ⌊x/S ⌋+1 右下角点 x’=⌈x/S⌉-1 (为了处理有小数的情况 同时左上角点和右下角点都向图像内侧近似,所以左上角加一 右下角减一 同时为了减...原创 2018-10-11 19:31:28 · 1736 阅读 · 0 评论 -
Pytorch 数据加载与数据预处理
数据加载分为加载torchvision.datasets中的数据集以及加载自己使用的数据集两种情况。torchvision.datasets中的数据集torchvision.datasets中自带MNIST,Imagenet-12,CIFAR等数据集,所有的数据集都是torch.utils.data.Dataset的子类,都包含 _ _ len _ (获取数据集长度)和 _ getIte...原创 2018-09-12 20:48:53 · 19326 阅读 · 0 评论 -
使用Screen解决服务器训练模型训练中断问题
使用ssh连接到服务器时,如果连接非正常中断(例如使用Xshell长时间未操作自动断开连接 ),重新连接的时候会重新创建一个session,这样如果在进行模型训练时,未训练结束发生非正常中断,则无法恢复到模型训练的session。此时可以通过screen来解决该问题。screen -S sessionName 创建一个session screen -ls 列出所有的sessions...原创 2018-09-06 22:22:57 · 3573 阅读 · 0 评论 -
服务器配置Anaconda环境
下载Anaconda安装包并配置Pytorch清华大学开源软件站 对于服务器无法获得root权限的账号 可以通过WinSCP将下载的Anaconda上传到服务器 执行bash Anaconda-xxx-Linux-x86_64.sh将环境变量添加到.bashrc中 export PATH=/home/lujunfeng/anaconda3/bin:$PATH source...原创 2018-09-03 20:00:46 · 6208 阅读 · 0 评论 -
反向传播公式推导与计算图表示
计算图模型与反向传播前向传导与反向传导的区别是前向传导是计算每一个输入对于每一个节点的影响(计算∂/∂X,其中X表示输入),反向传导计算每一个节点对于每一个输出的影响(∂Y/∂,Y表示每一个输出)之所以反向传播比前向传播计算效率要高的多,是因为在神经网络中一般而言输入节点个数远远要大于输出节点个数(当然 如果是输出节点个数远远大于输入节点的时候 前向传导效率要高于反向传导 但是基本不存在这样的...原创 2018-08-23 15:06:30 · 2531 阅读 · 0 评论 -
2019大数据挑战赛
文章目录1.前言2.基础知识准备2.1 语义相似度度量2.2 representation based model(表示模型)和 interaction based model(交互模型)2.3 point-wise,pair-wise,list-wise 训练方式2.4 排序常用评价指标1.前言2.基础知识准备对于此次比赛,从本质上讲是计算query与title相似度,而相似度的度量方式一...原创 2019-08-18 23:04:32 · 2391 阅读 · 0 评论