- 博客(40)
- 资源 (9)
- 收藏
- 关注
原创 【OpenCV】VideoWriter类解析
Backto OpenCV IndexVideoWriter(const string& filename, int fourcc, double fps,Size frameSize, bool isColor=true);filename 输出视频文件名。fourcc为 四个字符用来表示压缩帧的codec 例如:CV_FOURCC(‘P’,‘I’,‘M’,‘1’) = M...
2019-03-28 19:45:07 826
原创 【DeepCV】模型 C++化
Backto DeepCV追究速度的极致,归宿总是C++。\text{追究速度的极致,归宿总是C++。}追究速度的极致,归宿总是C++。 大致可以分为三个层次:Level 0:C++ 里调用 Python 代码eg. https://github.com/BIGBALLON/CPP-Call-TensorflowLevel 1: C++ 里直接调用模型这里又分为两类,一类是通过框架的...
2019-03-28 16:13:11 181
原创 【DeepCV】模型压缩
Backto DeepCV模型压缩,或曰 精简网络设计,目的是压缩一个模型,让它可以更好的部署到手机、无人机、FPGA 等上面去。当然前提是保证精度差不多,但是模型小了,功耗低了,在嵌入式上跑起来就顺畅了。大致流程是:input: pre-trained modelprocess: a mixed formula of pruning/distillation/quantization...
2019-03-28 15:24:59 317
原创 【DeepCV】模型训练--有图有真相
Backto DeepCV在实际训练模型中,要把关键指标用图表现出来,观察-判断-调整-观察,直到达到预设目标(放弃)为止。Figure 1 通过观察 epoch-loss 曲线,判定 LR 是否得当;Figure 2 通过观察更细化的 epoch-loss 曲线,epoch 细化成了每个 mini-batch,batch 参数设置是否得当;Figure 3 通过观察 Accuracy...
2019-03-28 12:05:25 202
原创 【DeepCV】三个臭皮匠顶个诸葛亮--模型集成
Backto DeepCV通常,训练多个模型共同作用胜过单一的模型。在竞赛中,几乎所有的顶尖队伍中都用到了模型集成。组队方式: ensemble 中不同模型的生成方式同一模型,不同初始化使用 cross-validation 来确定 hyper-parameters, 然后给定一个模型,多组不同的初始值,进行训练。然后一起去打怪。类似于公立学校,不同背景的人来,大班上课,同一套教师班...
2019-03-27 19:17:57 361
原创 【DeepCV】模型正则化 regularization
Backto DeepCVregularization 本意就是调整对象(函数等)使其更合乎常态(regular)或平滑,翻译成 正则化 不明所以。我喜欢叫他 抛光。不够雅,但是表意更准确。regularization 的目的是控制网络的 capacity,以防止 over-fitting.L2-regularization最常用的.为Loss函数引入惩罚项 12λω2\frac 1...
2019-03-26 17:48:02 203
原创 【DeepCV】Fine-tuning pre-trained model 在预训练模型上精调
Backto DeepCV拿过来一个 pre-trained mode,希望能 fine-tune 成解决当前问题的 mode。又是一门手艺。首先,定策略动手前要先分析燃油(new dataset)的数量和质量(与pre-used 的dataset 的相似性)。xvery similar datasetvery different datasetvery litt...
2019-03-26 16:53:40 776
原创 【DeepCV】学习率设定和优化器选取LR&Optimizer
Backto DeepCV全凭经验和运气去试验。几个思路:LR 设一个定值(如 0.1),让真实的 LR′=LRnum_batchesLR' = \frac{LR}{num\_batches}LR′=num_batchesLR, 去调节 mini-batch的数量LR 设定一个初值(如 0.1), 开始训练,观察 validation 的效果,发现优化不动了,就 L...
2019-03-26 16:29:14 654
原创 【DeepCV】预训练模型 pre-trained model - zoo
Backto DeepCV基本上每个框架下都有一个model zoo, 放着预训练好的模型。但是这些模型一般都是经典的模型复现,通常去 github 搜索会有更新的,更针对性的,优化性能更好的模型。还有就是追踪 paper,看他们作者的开源。...
2019-03-26 16:02:05 813
原创 【DeepCV】激活函数 Activation Function
Backto DeepCVActivation Function,从生理神经类比上,模拟的是神经元的激活。从数学计算角度看,完成的非线性部分任务。具体的选型上,倒是简单,之前的 sigmoid/tanhsigmoid / tanhsigmoid/tanh 都已经被抛弃了,现在是 ReLUReLUReLU 及其变种一家独大。可以看看类似的任务中用的什么,就选择什么。觉得不好用,还可...
2019-03-26 15:37:26 159
原创 【DeepCV】CNN中的 filter size 和 pooling size
Backto DeepCVfilter size,尤其是前期,建议小,建议密, 比如经典的 conv(3x3,stride=1,padding=0) 可以大幅减少参数个数,提高模型准确率,同时还能保持前层输入的空间结构。对于 pooling size,一般都是采用 max_pooling(2x2)....
2019-03-26 15:07:44 7471
原创 【DeepCV】图像的尺寸
Backto DeepCV输入的图像的size,一般期待是 power of 2 的,或者最差必须是偶数的。比如,32(CIFAR-10)64224(ImageNet)384512这样的。在 feed 进网络之前,做好预处理。...
2019-03-26 15:02:07 278
原创 【DeepCV】模型参数的初始化方式
Backto DeepCV模型选好了,在训练之前,那么多的 www 和 bbb 该如何初始化呢?trial & error,试错中前行全部置为 0超级省事,但是 absolutely wrong!所有参数都是 0 ,还是所有的神经元步调完全一致,怎么训练,怎么梯度下降?随机初始化为近 0 值哎,这还靠谱些。比如指定, w∼N(0,1)w \sim N(0,1)w∼N(0,1)...
2019-03-26 14:41:58 277
原创 【DeepCV】白化 whitening
Backto DeepCV之前说过 PCA, PCA 构建新的特征(主成分),除去特征之间的相关性(正交)。whitening 就是在 PCA 的基础上,再进一步,使得所有的特征都具有相同的方差(normalization)。Normalization 的方式,当然还是通用的,除以标准差。Step 0: 原始输入Step 1: find PCsStep 2: Apply PCA,...
2019-03-26 14:06:09 266
原创 【DLCV】CV数据集加强 Data Augmentation
Backto DLCVdata augmentation to boost the performance\text{data augmentation to boost the performance}data augmentation to boost the performanceCV...
2019-03-26 10:46:20 479
原创 【DL】常用的后端分类器
classfier 分类器description 描述Scenes 使用问题Softmaxyj=ezj∑ieziy_j= \frac{e^{z_j}}{\sum_{i}{e^{z_i}}}yj=∑ieziezjclassificationSoftmax输出的是 n~ classification 的概率。对于 input ZZZ 中的每一个值ZjZ_j...
2019-03-22 10:08:38 274
原创 【DL】深度学习简介
Backto DL Index通过层次化的方法可以让计算机通过构建简单的概念来学习复杂概念. 为了获得优异的性能, 我们需要构建一个很深(层次很多)的关系图. 因此我们把这一类方法就做深度学习. 深度就是深度, 仅此而已....
2019-03-22 10:01:29 371
原创 【Py】matplotlib 使用指南
BacktoPython Indeximportfrom matplotlib import pyplot as pltplt.switch_backend('agg')plot and saveframe = plt.gca()plt.imshow(data)#plt.colorbar() frame.axes.get_yaxis().set_visible(False)...
2019-03-21 18:31:42 199
原创 【Py】Pandas使用指南
Backto Python IndexScenes: 存储信息到 CSV 文件import pandas as pd#任意的多组列表a = [1,2,3]b = [4,5,6] #字典中的key值即为csv中列名dataframe = pd.DataFrame({'a_name':a,'b_name':b})#将DataFrame存储为csv,index表示是否显示...
2019-03-21 18:12:42 147
原创 【DL】神奇的BN: Batch Nomalization
Backto DL IndexBN 论文源自 这里.Abstract: Training Deep Neural Networks is complicated by the fact that the distribution of each layer’s inputs changes during training, as the parameters of the previou...
2019-03-21 15:14:18 436
原创 【DeepCV】深度学习-计算机视觉 索引 (DeepCV Index)
Backto Home预处理对比度归一化(Contrast Normalization)白化 whitening数据集增强
2019-03-21 12:19:53 582
原创 【Slides】深度学习的高级技巧 - by 台湾大学电机工程学助理教授李宏毅
Backto DL MaterialsSlides : 链接: https://pan.baidu.com/s/1IMdot9UrWvu28HWH6tscSQ 提取码: kdz3Videos: https://www.youtube.com/watch?v=xki61j7z-30
2019-03-20 17:33:17 295
原创 【Linux】压缩文件 tar 指令指南
Backto []c – create a archive file.x – extract a archive file.t – viewing content of archive file.f – filename of archive file.v – show the progress of archive file.j – filter archive through ...
2019-03-19 17:43:20 163
原创 【ML】容量、过拟合和欠拟合
Backto ML Index在训练一个模型的时候,通常我们会先在一个训练集(training set) 上让模型学习,然后放到一个陌生的测试集(test set)上让模型考试。在 training set 上的误差称为训练误差(training error), test set 上的误差称为 泛化误差(generalization error/test error).对于一个模型而言,我...
2019-03-19 17:06:15 246
原创 【Slides】一天搞懂深度学习 by 台湾大学电机工程学助理教授李宏毅
链接: https://pan.baidu.com/s/1SzfuZtyFmNY2w2aMuM2xaA 提取码: 3xfeLecture I: Introduction of Deep LearningDL 统共分三步,Step 1: Desgin a Network StrutureStep 2: Set Learning TargetStep 3: Dive into lea...
2019-03-19 15:17:43 467
原创 【DL】深度学习的深度学习资料
Backto DL Index台大AP 李宏毅 系列83页的《深度学习的高级技巧》链接:https://pan.baidu.com/s/1FCrFen0kU5TEc2__G6KFyQ提取码:qacg链接:https://pan.baidu.com/s/1Tf2n0odUqQPdPmE1tCGRvg提取码:fmyv...
2019-03-18 18:24:10 360
原创 【iTools】Xshell使用教程
Backto iTools IndexXshell 是 Windows 端的Terminal,Windows端使用 Xshell对Linux端进行远程操作.File Transfer从 Windows 传文件到 Linux,首先登录 Linux,然后输入 command# to choose file in GUI windowrz -E Ref使用Xshell在Windo...
2019-03-18 11:17:23 400
原创 【DL】硬件资源信息查看Nvidia GPU / CPU / Mem / Disk
# to check the version of CUDAnvcc --version## *nix - onlycat /usr/local/cuda/version.txt # to check the version of CUDNN## *nix - onlycat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A ...
2019-03-15 16:45:50 1236
原创 【iTools】Vim使用教程
Backto iTools Index# to open a file named xx~$ vim xx# by default, you entered the 'normal' modepress 'i' to insert, press 'esc' backto normalin normal mode, insert ':q' to quit, ':wq' to save...
2019-03-15 16:22:35 221
原创 【Python】virtualenv 和 virtualenvwrapper
Backto Python Indexvirtualenv 用于创建虚拟环境, 而 virtualenvwrapper 用于伴生管理。使用起来,比较生硬,建议转 conda.强用的话,保重身体:创建基本环境:mkvirtualenv [环境名]删除环境:rmvirtualenv [环境名]激活环境:workon [环境名]退出环境:deactivate列出所有环境:wo...
2019-03-15 16:15:09 93
原创 【Python】py27m vs py27mu
Backto Python Indexpy27m 和 py27mu 是两种不同的Linux发行版,它们是CPython的配置。 m是narrow-unicode(2-byte)的版本,mu是wide-unicode(4-byte)的版本。混淆了版本会提示 xxx.whl is not a supported wheel on this platform..最新的系统一般都是 mu 的。...
2019-03-15 15:09:59 787
原创 【Python】pip 使用指南
Backto Python Index常用指令# to upgrade pippython -m pip install –upgrade pippip 源国内常用的源清华大学 https://pypi.tuna.tsinghua.edu.cn/simple/ 阿里云 http://mirrors.aliyun.com/pypi/simple/ 中国科技大学 https...
2019-03-15 14:13:15 194
原创 【PyTorch】报错场景及解决方案汇总
ErrorCaseSolutionReasonRuntimeError: Error(s) in loading state_dict for ResNet:load_state_dict()model.load_state_dict( checkpoint[‘state_dict’], strict=False)version not matchAsse...
2019-03-15 11:36:10 1765
原创 【Python】Python2.x vs Python3.x
Backto Python IndexHistory 历史因缘常见不同2.x3.x备注print xxxprint(xxx)xrangerange
2019-03-14 19:15:03 137
原创 【TF】TensorFlow 禁用 GPU,强制使用 CPU
Backto TensorFlow Index.import osos.environ["CUDA_VISIBLE_DEVICES"]="-1" import tensorflow as tf原理:TF 读取 GPU cards,是从 0 开始编号的。所以把GPU数量设置为 -1,TF 就乖乖的用 CPU 了。RefPrevent TensorFlow from acc...
2019-03-08 16:55:56 2682
原创 【DL】解决 "No module named 'utils.nms.cpu_nms' "报错 'cpu_nms.py'
跑一些开源模型,会遇到这样的报错:cpu-nms 报错ModuleNotFoundError: No module named ‘utils.nms.cpu_nms’解决方案:把 cpu_nms.pyx(一般路径为 ./utils/nms/cpu_nms.pyx) 替换为 cpu_nms.py.cpu_nms.py 下载这样, cpu-nms 就可以用了gpu-nms 报错懒得处...
2019-03-05 10:10:17 17218 4
VCForPython27.zip
2019-07-24
cpu_nms.py
2019-03-05
ImageWatch --Visual Studio 图像 Debug 神器
2018-08-09
光线追踪综述paper
2018-08-09
网上能找到的最新版本的 glut
2018-08-08
GLFWv2.7.6 Win32 版本
2018-08-08
GLFWv2.6 Win32 版本
2018-08-08
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人