- 博客(13)
- 资源 (13)
- 收藏
- 关注
RSS订阅
原创 Linux常见命令汇总
Linux下统计当前文件夹下的文件个数、目录个数统计当前文件夹下文件的个数，包括子文件夹里的ls -lR|grep "^-"|wc -l统计文件夹下目录的个数，包括子文件夹里的ls -lR|grep "^d"|wc -l统计当前文件夹下文件的个数ls -l |grep "^-&quot
2018-12-06 11:08:08
1586
11
原创 PyTorch学习之六个学习率调整策略
PyTorch学习率调整策略通过torch.optim.lr_scheduler接口实现。PyTorch提供的学习率调整策略分为三大类，分别是有序调整：等间隔调整(Step)，按需调整学习率(MultiStep)，指数衰减调整(Exponential)和 余弦退火CosineAnnealing。自适应调整：自适应调整学习率 ReduceLROnPlateau。自定义调整：自定义调整学习率 ...
2018-12-24 22:06:38
60703
11
原创 Fractional Max-Pooling
Fractional Max-Pooling suggests a method for performing the pooling operation with filters smaller than 2x2. This is done by randomly generating pooling regions with a combination of 1x1, 1x2, 2x1 or ...
2018-12-20 13:18:45
2718
原创 定点化就是把浮点转换成指定位宽的整数
定点化就是把浮点转换成指定位宽的整数。需要定点化操作的情形：将浮点数转换为指定位宽的整数；定点数的精度调整，即移位、截断；定点数的乘加运算；定点数对齐。1 定点化转换对于一个浮点小数，我们要将其转换为9bit位宽的整数，如何转换才能保证最大保留其精度呢？这里举例说明。假设一个浮点数如下：num_float = 0.1234567对应定点数位宽为：bit = 9这里假...
2018-12-19 15:20:12
257
转载 深度学习(框架)默认值列表
deeplearning-default-valueFunctionsObject names in ChainerParameter names in ChainerChainerPyTorchTensorFlowdropoutratio0.5 (drop ratio)0.5 (drop ratio)Required (keep ratio)Links...
2018-12-18 22:46:34
367
原创 PyTorch学习之归一化层（BatchNorm、LayerNorm、InstanceNorm、GroupNorm）
BN，LN，IN，GN从学术化上解释差异：BatchNorm：batch方向做归一化，算NHW的均值LayerNorm：channel方向做归一化，算CHW的均值InstanceNorm：一个channel内做归一化，算H*W的均值GroupNorm：将channel方向分group，然后每个group内做归一化，算(C//G)HW的均值...
2018-12-18 19:31:10
111325
8
转载 pytorch在cpu上加载预先训练好的GPU模型以及GPU上加载CPU上训练的Model
有时候我们在CPU上训练的模型，因为一些原因，切换到GPU上，或者在GPU上训练的模型，因为条件限制，切换到CPU上。 GPU上训练模型时，将权重加载到CPU的最佳方式是什么?今天我们来讨论一下：提取模型到指定的从官方文档中我们可以看到如下方法torch.load('tensors.pt')# 把所有的张量加载到CPU中torch.load('tensors.pt', map_locat...
2018-12-18 10:24:22
6759
2
原创 Linux显存占用无进程清理方法
在跑Caffe、TensorFlow、pytorch之类的需要CUDA的程序时，强行Kill掉进程后发现显存仍然占用，这时候可以使用如下命令查看到top或者ps中看不到的进程，之后再kill掉：fuser -v /dev/nvidia*接着杀掉显示出的进程（有多个）：kill -9 12345kill -9 12345m批量清理显卡中残留进程：sudo fuser -v /dev/...
2018-12-17 17:30:49
25713
6
原创 图像分类优化技巧（Bag of Tricks for Image Classification with Convolutional Neural Networks）
Bag of Tricks for Image Classification with Convolutional Neural Networks，李沐大神18年12月的新作，用卷积神经网络进行图像分类的一些技巧。论文：Bag of Tricks for Image Classification with Convolutional Neural Networks本文主要讨论训练神经网络过程中...
2018-12-13 20:05:55
3267
转载 盘点卷积神经网络中十大令人拍案叫绝的操作
转载自https://www.jianshu.com/p/71804c97123dCNN从2012年的AlexNet发展至今，科学家们发明出各种各样的CNN模型，一个比一个深，一个比一个准确，一个比一个轻量。我下面会对近几年一些具有变革性的工作进行简单盘点，从这些充满革新性的工作中探讨日后的CNN变革方向。注：水平所限，下面的见解或许有偏差，望大牛指正。另外只介绍其中具有代表性的模型，一些著名...
2018-12-10 17:38:50
1276
原创 Batch Normalization Fusion
本文地址：发现关于Batch Normalization Fusion的资料比较少，所以搜集了一些相关资料，并整理如下：关于Batch Normalization请参考Batch Normalization学习笔记及其实现这里不再详细解释。1 PyTorch 卷积与BatchNorm的融合https://zhuanlan.zhihu.com/p/493290302 模型推理加速方法 B...
2018-12-07 10:29:47
2419
转载 一个实例搞定sys.argv[]用法
原文支持python2，略作修改，支持python3sys.argv[]是用来获取命令行参数的，sys.argv[0]表示代码本身文件路径，所以参数从1开始，以下两个例子说明:
2018-12-05 15:32:00
3800
转载 JS-YAML demo
---# Collection Types ############################################################################################################################################## http://yaml.org/type/map.html -...
2018-12-04 19:48:17
2071
CUDA C编程权威指南
2019-05-02
CUDA并行程序设计 GPU编程指南
2019-05-02
linux下安装Anaconda3+pytorch+tensorboardX依赖包
2019-03-23
Quartz 示例代码
2017-05-02
Java反射机制代码
2017-05-01
java反射示例代码
2017-05-01
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人