深度学习&pytorch知识点
深度学习的资料,文献阅读的方法。 随便设置个 付费,不想 随便被看到,博士期间 深度学习pytorch的小计 ,总结
优惠券已抵扣
余额抵扣
还需支付
¥89.90
¥99.00
购买须知?
本专栏为图文内容,最终完结不会低于15篇文章。
订阅专栏,享有专栏所有文章阅读权限。
本专栏为虚拟商品,基于网络商品和虚拟商品的性质和特征,专栏一经购买无正当理由不予退款,不支持升级,敬请谅解。
Cookie_Cheng
这个作者很懒,什么都没留下…
展开
-
YOLOV3中 IoU的探究
IoU= Intersection over UnionGeneralized Intersection over UnionGIoU=1- IoU+ 覆盖方框-并集/覆盖方框DIoU=1-IoU+ 中心欧氏距离/对角距离CIoU=DIoU+ 长宽比的反正切值的平方距离CIoUCIoUCIoU原始公式:v=4π2(arctanwgthgt−arctanwh)2v=\frac{4}{\pi^2} (arctan\frac{w^{gt}}{h^{gt}} - arctan\frac{w}{h}原创 2021-07-22 22:10:16 · 690 阅读 · 0 评论 -
2021-07-22
detail of Dropout in pytorchmy test codes:the corresponding output:my test codes:import torchdrop = torch.nn.Dropout2d(p=0.5,inplace=False )a = torch.randn( (2,3,2,2) )print(a.shape)# a = torch.arange(3*2*2*2).float()print(a.shape)a = a.reshape(原创 2021-07-22 18:21:08 · 516 阅读 · 0 评论 -
visdom 对np text torch的可视化
run :vidsomin cmd line, then you can add text and pictures to thehttps://pypi.org/project/visdom/很多博客中写到,要使用 python -m visdom.server, 但是在有的用户中无法实现权限其实只用visdom就可以了[chengweimin@G202COM ~]$ visdomChecking for scripts.It's Alive!INFO:root:Applicatio原创 2021-03-19 14:45:51 · 528 阅读 · 0 评论 -
torch tensor张量 扩充维度 复制维度 expand repeat 深拷贝 浅拷贝 问题探析, 对tensor的广播计算, 高维度tensor 与 低维度tensor的兼容
expand 扩充维度的作用import torcha = torch.ones([1,1,2,3])b = a.expand( [1,2,2,3])print(a,'\n',b)a += 2print(a,'\n',b)output:atensor([[[[1., 1., 1.], [1., 1., 1.]]]]) b tensor([[[[1., 1., 1.], [1., 1., 1.]], [[1., 1., 1原创 2021-03-11 21:12:18 · 4362 阅读 · 0 评论 -
torch的补零方法,本来就带有镜像, 重复,常数的功能。
import torchsrc = torch.arange(9).reshape(1, 1, 3, 3).type(torch.FloatTensor)print(src.cpu().numpy())zeroPad2d = torch.nn.ZeroPad2d(2)dst = zeroPad2d(src)print(dst.cpu().numpy())constantPad2d = torch.nn.ConstantPad2d(2, value=2)dst = constantPad2d(s原创 2021-01-18 22:03:08 · 1931 阅读 · 0 评论 -
torch旋转方法.rotate rot90 numpy
旋转 增广时 , 采用 TF中的 rotate 比 torch.rot90 np.rot90 要好。 可以旋转 非直角度数。 但是老版本的torch 不支持 对tensor的直接旋转。 PIL可以直接输出为图片。转为tensor后为255import torchimport torchvision.transforms.functional as TFx = torch.ones((10,7))rx = TF.rotate( TF.to_pil_image(x) , 30)rx = TF.r原创 2020-12-30 16:50:04 · 4043 阅读 · 5 评论 -
python 闭包 和史良讨论, 闭包的自动反向传播。 需要设置为requires_grad 属性为 True就行了。
’#!/usr/bin/env python3# -*- coding: utf-8 -*-"""author: Cheng Weimin cheng_weimin@foxmail.comCreated on Tue Dec 1 20:55:13 2020"""import torchdef f(x): def g(y): return x + y return ga = torch.ones(1,requires_grad=True)b = torch原创 2020-12-01 21:15:18 · 774 阅读 · 0 评论 -
pytorch conda安装 失败 pip 安装 可以装好
今天 pytorch 安装 出了问题, 各种 ctype dll caffe dll 没有。 反复卸载都 处理不好。而且conda install 前还要自己手动 先 uninstall ,等了很久, 检查各种环境。最后换成 pip 安装, 采用官方的 源 , 很快就 装好 了。 而且 pip 安装会 默认 先卸载 之前的 版本。...原创 2020-09-01 16:48:24 · 725 阅读 · 0 评论 -
显卡超频 linux arch 3090
需要的命令:https://www.flathub.org/apps/details/com.leinardi.gwe安装前 加入setup guider 把其他需求安装了, 提示 先安装 flatpak 并重启电脑。原创 2020-12-30 14:23:29 · 1251 阅读 · 3 评论 -
样本类别分布不均衡 imbalance 问题的处理
样本类别分布不均衡导致的危害?样本类别不均衡将导致样本量少的分类所包含的特征过少,并很难从中提取规律;即使得到分类模型,也容易产生过度依赖与有限的数据样本而导致过拟合问题,当模型应用到新的数据上时,模型的准确性会很差。以下以二分类问题为例说明。SMOTE(Synthetic Minority Over-sampling Technique)过采样小样本(扩充小类,产生新数据)即该算法构造的数据是新样本,原数据集中不存在的。该基于距离度量选择小类别下两个或者更多的相似样本,然后选择其中一个样本,并原创 2020-09-07 11:37:58 · 830 阅读 · 0 评论 -
apex 安装, 还是要到官放GitHub 主页进行, 其他博客的推荐 代码 可能不全,导致 安装错误
GitHub NVIDIA apex里面有相关的 说明。原创 2020-08-26 16:25:32 · 763 阅读 · 0 评论 -
256GPU 一小时训练 ImageNet。批的大小大于8K后 准确率 急速降低。
原创 2020-08-24 20:36:24 · 826 阅读 · 0 评论 -
正则化如何防止过拟合- 深度学习的积累
正则化方法:防止过拟合,提高泛化能力在训练数据不够多时,或者overtraining时,常常会导致overfitting(过拟合)。其直观的表现如下图所示,随着训练过程的进行,模型复杂度增加,在training data上的error渐渐减小,但是在验证集上的error却反而渐渐增大——因为训练出来的网络过拟合了训练集,对训练集外的数据却不work。为了防止overfitting,可以...原创 2020-07-15 20:05:21 · 138 阅读 · 0 评论 -
经典网络模型 数据集 与 比赛
https://www.cnblogs.com/alexanderkun/p/6923064.htmlAlexNet、VGG、GoogLeNet、ResNet对比 LeNet主要是用于识别10个手写数字的,当然,只要稍加改造也能用在ImageNet数据集上,但效果较差。而本文要介绍的后续模型都是ILSVRC竞赛历年的佼佼者,这里具体比较AlexNet、VGG、GoogLeNe...原创 2020-07-15 20:04:00 · 121 阅读 · 0 评论 -
DL 历史改进文献
VGG的文献 2015,源自ImageNet Large-ScaleVisual RecognitionChallenge (ILSVRC)Convolutional networks (ConvNets) have recently enjoyed a great success in large-scale imageand video recognition (Krizhevsky...原创 2020-07-15 20:03:29 · 80 阅读 · 0 评论 -
DAG Directed acyclic graph 有向无环图
通过定义 连通层add = additionLayer(2,'Name','add_1')relu_1 = reluLayer('Name','relu_1');relu_2 = reluLayer('Name','relu_2');lgraph = layerGraph;lgraph = addLayers(lgraph,relu_1);lgraph = addLayers(...原创 2020-07-15 20:02:08 · 148 阅读 · 0 评论 -
人工智能-深度学习 基础概念的积累
前馈网络,又称前馈神经网络(feedforward neural network),是人工神经网络的一种。在该类神经网络中,各神经元从输入层开始,接收前一级输入,并输出到下一级,直至输出层。整个网络中无反馈,可用一个有向无环图表示。前馈网络采用一种单向多层结构。其中每一层包含若干个神经元,同一层的神经元之间没有互相连接,层间信息的传送只沿一个方向进行。其中,第一层称为输入层;最后一层为输出层;...原创 2020-07-15 20:01:22 · 78 阅读 · 0 评论 -
MATLAB 生成GPU code,配置GPU coder mex -setup C++
使用记录: 在1070工作站上mySkipNet_predict486x648_mex% 时间已过 0.030922 秒。 % 时间已过 0.052490 秒。加速的效果比较明显。此外有1070编译的 mex可以在xps15上使用,但是不能使用外部传递出来的mexw64,而要使用 codegen内部的 mexw64,其中带有 其它的文件cu,bat,lib,exp等等,都可以删掉,...原创 2020-07-15 20:00:02 · 755 阅读 · 0 评论 -
MATLAB 深度学习 1
网络结构变化的 改变:分支结构的 神经网络:layerGraph 函数中看到:看完 后面的 convlayer 就可以懂下面这个 DnCNN的 结构了, 最后的 1 3x3x64 使得 map 回到 50x50 , regressionlayer 应该是和 目标做 差, 明天具体看看 这一层到底怎么处理的。观察网络结构的讲解 可...原创 2020-07-15 19:58:40 · 299 阅读 · 0 评论