DL
文章平均质量分 69
北境の守卫
Good
展开
-
【PyTorch】模型部署
Backto PyTorch Index最佳实践 Best Practice2020-07-03 : C++ / TensorRT技术路径 PathsTorchScript-Libtorch / offcial C++ frontend官方推荐和主代码演进的方向The PyTorch team is betting heavily on TorchScript/libtorch as the path for going from research to production. Our i.原创 2020-07-03 14:34:59 · 828 阅读 · 0 评论 -
【DL】常用的后端分类器
classfier 分类器description 描述Scenes 使用问题Softmaxyj=ezj∑ieziy_j= \frac{e^{z_j}}{\sum_{i}{e^{z_i}}}yj=∑ieziezjclassificationSoftmax输出的是 n~ classification 的概率。对于 input ZZZ 中的每一个值ZjZ_j...原创 2019-03-22 10:08:38 · 298 阅读 · 0 评论 -
【DeepCV】深度学习 GPU 和计算平台的选取
Backto DeepCV最佳实践 Best Practice模型设计阶段:Nvidia GTX/RTX 次新款训练阶段:能 TPU 就 TPU,不能则 AWS内幕细节 Details实体GPU厂家,Nvidia 一家独大,AMD,Intel,其他公司,一概不考虑。Nvidia GPU 系列,Tesla 卡、Quadro卡、 Titan 卡都是用 霸王条款 圈钱的东西,仅考...原创 2019-04-11 17:29:50 · 380 阅读 · 0 评论 -
【DL】PyTorch安装指南
Backto PyTorch Index# Step 1: Check python versionpython --version# Step 2: Check cuda version(Linux)cat /usr/local/cuda/version.txt# Step 3: Download pytorch fromhttps://pytorch.org/get-start...原创 2019-04-23 10:22:03 · 238 阅读 · 0 评论 -
【DL】卷积基础操作: Kernel, Padding, Stride & Column
Backto DeepLearning Index一般在模型表述中,卷积操作的简写类似 k(3,3)-c512-s1-d2, 其中 k 代表 kernel(大小), c 代表 column(层数),s 代表 stride(步长), d 代表 dilation(膨胀系数)。这四个是卷积操作的基本属性。StrideStride 其实就是一个 down-sampling 的过程。dilati...原创 2019-05-07 13:48:18 · 3223 阅读 · 1 评论 -
【DL】CNN的感受野 Receptive Field
Backto Deep Learning Index本文源自 A Guide to Receptive Field Arithmetic for Convolutional Neural NetworksThe receptive field is defined as the region in the input space that a particular CNN’s featu...翻译 2019-05-07 16:13:56 · 338 阅读 · 0 评论 -
【DL】卷积膨胀 Dilation
Backto DeepLearning Indexdilationdilation 是对 kernel 进行膨胀,多出来的空隙用 0 padding。用于克服 stride 中造成的 失真问题。对应关系是 kd=(k−1)×d+1k_{d} = (k -1)\times d + 1kd=(k−1)×d+1, 对原始kernel 进行 d 倍 dilation 之后得到新的 kdk_d...原创 2019-05-07 17:00:12 · 7634 阅读 · 1 评论 -
【DL】CNN 的骨干网络 backbone
Backto Deep Learning IndexCNN Backbone往往是各种CNN模型的一个共享结构。概念中提到,它是Object Detection, Scene Parsing, OCR等任务的前导性任务。常用的 backbone 有AlexNet: https://papers.nips.cc/paper/4824-imagenet-classification-wit...原创 2019-05-07 17:46:35 · 9300 阅读 · 0 评论 -
【DL】mini-batch策略
Backto Deep Learning Index基础概念epoch : 所有训练集使用一次,叫一个 epochone epoch = one forward pass and one backward pass of all the training examples对应代码中的参数是 n_epochs.batch_size : 一个 batch 中 samples 的个数...原创 2019-05-16 11:25:28 · 904 阅读 · 0 评论 -
【Linux】Linux 深度学习环境配置
Step 1: Install OS以 Ubuntu 16.04 为例,Win + Linux 双系统教程Step 2: 配置环境# connect WIFI# Set Source to Aliyun or Tsinghuasudo cp /etc/apt/source.list /etc/apt/source.list.baksu # if auths failed, `sudo...原创 2019-05-17 17:22:49 · 671 阅读 · 0 评论 -
【DL】深度残差网络 Residual Network, ResNet
Backto Model Zoo缘起直觉上:越深的网络representation能力越好,精度越高理论上:深层网络应该达到至少不差于浅层网络的精度表现,因为让深层网络一部分与浅层网络等同,多余部分变成恒等 identity,二者效果就等同了。实践中:随着深度的逐步增大,训练误差和测试误差反而会增大思路why?: 首先,不是 over-fitting 问题,因为训练误差也变...原创 2019-05-29 11:59:18 · 597 阅读 · 0 评论 -
【DL】常用卷积核 1x1, 3x3
Backto DL Index列举几个常用的卷积核1x1conv: k(1,1) 经常出现,乍一看无用,其实非常巧妙。如果仅从二维(H, W)考虑,确实无用。但实际上,在 cnn 中,必然还有着潜藏的维度 – 深度/Channels ©。这才是 1x1 起作用的地方: feature dimension reduction。按照 PyTorch 中 (N, C, H, W) 的顺序,N=...原创 2019-05-29 17:09:18 · 2789 阅读 · 0 评论 -
【DL】深度学习简介
Backto DL Index通过层次化的方法可以让计算机通过构建简单的概念来学习复杂概念. 为了获得优异的性能, 我们需要构建一个很深(层次很多)的关系图. 因此我们把这一类方法就做深度学习. 深度就是深度, 仅此而已....原创 2019-03-22 10:01:29 · 393 阅读 · 0 评论 -
【DL】深度学习的深度学习资料
Backto DL Index台大AP 李宏毅 系列83页的《深度学习的高级技巧》链接:https://pan.baidu.com/s/1FCrFen0kU5TEc2__G6KFyQ提取码:qacg链接:https://pan.baidu.com/s/1Tf2n0odUqQPdPmE1tCGRvg提取码:fmyv...原创 2019-03-18 18:24:10 · 378 阅读 · 0 评论 -
【DL】神奇的BN: Batch Nomalization
Backto DL IndexBN 论文源自 这里.Abstract: Training Deep Neural Networks is complicated by the fact that the distribution of each layer’s inputs changes during training, as the parameters of the previou...原创 2019-03-21 15:14:18 · 458 阅读 · 0 评论 -
【DL】深度学习术语汇编(Deep Learning Terminology)
RefCNN:weight decay,momentum,batch normalizationcnn常用参数记录原创 2018-08-23 11:55:56 · 549 阅读 · 0 评论 -
【DL】感知机 Perceptron
Backto Deep Learning Index原创 2018-09-09 21:37:41 · 326 阅读 · 1 评论 -
【DL】TensorFlow Index
Backto Deep Learning Index.TensorFlow 基础概念 TensorFlow 学习资源原创 2018-09-09 21:46:55 · 252 阅读 · 0 评论 -
【DL】小而美的开源库
Tencent/FeatherCNN Tencent/FeatherCNN https://github.com/Tencent/FeatherCNNFeatherCNN, developed by Tencent TEG AI Platform, is a high-performance lightweight CNN inference library. FeatherCNN is ...原创 2018-09-17 11:02:34 · 252 阅读 · 0 评论 -
【DL by Ng】Deeplearning.ai 深度学习工程师课程 -- By Andrew Ng 吴恩达
三个版本deeplearning.ai 付费版本, 带练习.Coursera 版本网易云课堂翻译版本, 没有练习. 但是网速快, 可以下载观看. 我选择的是 网易云课堂的版本. 先快速粗略地过一下基础知识和整体框架, 在工作中遇到相应的问题再去深入. Ref吴恩达deeplearning.ai学完总结 : 很用心了. 给我的学习计划和体例安排带来很大的启发. ...原创 2018-10-03 23:42:25 · 1778 阅读 · 0 评论 -
【DL】P, AP, mAP
Backto ML Index这几个评价标准, 通常都是用在 CV 领域.P: Precision 精度一个模型的准确率指的是对 一张图像而言, 正确预测的某个类别的数量除以这张图像中这个类别的总数PC=N(TruePositives)CN(TotalObjects)CP_C = \frac {N(\text{TruePositives})_C}{N(\text{TotalObject...原创 2018-10-28 10:30:52 · 457 阅读 · 0 评论 -
【DL】解决 "No module named 'utils.nms.cpu_nms' "报错 'cpu_nms.py'
跑一些开源模型,会遇到这样的报错:cpu-nms 报错ModuleNotFoundError: No module named ‘utils.nms.cpu_nms’解决方案:把 cpu_nms.pyx(一般路径为 ./utils/nms/cpu_nms.pyx) 替换为 cpu_nms.py.cpu_nms.py 下载这样, cpu-nms 就可以用了gpu-nms 报错懒得处...原创 2019-03-05 10:10:17 · 17465 阅读 · 4 评论 -
【TF】TensorFlow 禁用 GPU,强制使用 CPU
Backto TensorFlow Index.import osos.environ["CUDA_VISIBLE_DEVICES"]="-1" import tensorflow as tf原理:TF 读取 GPU cards,是从 0 开始编号的。所以把GPU数量设置为 -1,TF 就乖乖的用 CPU 了。RefPrevent TensorFlow from acc...原创 2019-03-08 16:55:56 · 2852 阅读 · 0 评论 -
【Slides】一天搞懂深度学习 by 台湾大学电机工程学助理教授李宏毅
链接: https://pan.baidu.com/s/1SzfuZtyFmNY2w2aMuM2xaA 提取码: 3xfeLecture I: Introduction of Deep LearningDL 统共分三步,Step 1: Desgin a Network StrutureStep 2: Set Learning TargetStep 3: Dive into lea...原创 2019-03-19 15:17:43 · 479 阅读 · 0 评论 -
【DL】硬件资源信息查看Nvidia GPU / CPU / Mem / Disk
# to check the version of CUDAnvcc --version## *nix - onlycat /usr/local/cuda/version.txt # to check the version of CUDNN## *nix - onlycat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A ...原创 2019-03-15 16:45:50 · 1259 阅读 · 0 评论 -
【Slides】深度学习的高级技巧 - by 台湾大学电机工程学助理教授李宏毅
Backto DL MaterialsSlides : 链接: https://pan.baidu.com/s/1IMdot9UrWvu28HWH6tscSQ 提取码: kdz3Videos: https://www.youtube.com/watch?v=xki61j7z-30原创 2019-03-20 17:33:17 · 313 阅读 · 0 评论 -
【DeepCV】深度学习-计算机视觉 索引 (DeepCV Index)
Backto Home预处理对比度归一化(Contrast Normalization)白化 whitening数据集增强原创 2019-03-21 12:19:53 · 610 阅读 · 0 评论 -
【CV】图像的对比度归一化(Contrast Normalization)
以下来自, CNN神经网络层次分析 : 很好地总结了CNN 中的各层操作3)、局部对比度归一化层Local Contrast Normalization Layer-N:该模块主要进行的是局部做减和做除归一化,它会迫使在特征map中的相邻特征进行局部竞争,还会迫使在不同特征maps的同一空间位置的特征进行竞争。在一个给定的位置进行减法归一化操作,实际上就是该位置的值减去邻域各像素的加权...原创 2018-08-23 11:11:27 · 14213 阅读 · 1 评论