【CV】FairMOT:物体追踪新框架 总结FairMOT: 一个全新的One-Shot Online MOT 框架,构建 DLA-34 backbone 提取特征随后平行进行Detection 和 ReID 两个分支任务,之后将两个分支的 Loss 合并均衡优化,以达到精度和速度的最优结果。背景传统的 MOT 框架,如DeepSORT,是两步走,先 Detection 再 在Detction 给的 BBX 上提取特征进行 Re-ID 进而匹配关联前后出现的物体。但是,这种模式存在一些难以克服的难题:两个模型,太重,时间太长,难以实现实
【Linux】系统账户管理 system user 以 Ubuntu 为例# add usersudo adduser user_name# grant new user root privilegeusermod -aG sudo user_name# delete a usersudo deluser user_name# switch usersu – another_user_name# show which user I am usingwhoami
【VSCode】插件 Python : Python 开发支持 Backto VS Code微软官方出品,Python 开发支持,用于将 VS Code 打造成一个轻量的 Python IDE.个人而言,已替代笨重的 PyCharm (since 2020.05.05).Tips & TricksEditing自动补全method 名字并添加括号,将光标置于括号内"python.autoComplete.addBrackets": true,Quick Fixes, 类似 np, plt 等的自动补齐 importFormatting.
【VSCode】插件 Pylance : 给 Python 带来编译语言般的开发支持 Backto VS CodePylance 是 微软在 2020.06.01 发布的一款 python 语言支持 vs code 插件。Fast, feature-rich language support for PythonPylance is an extension that works alongside Python in Visual Studio Code to provide performant language support. Under the hood, Pylanc.
【Git】常用的 .gitignore 模板 Backto GitPython Projects####################################################### Project Specific ######################################################### folders to ignore####################################################### General Setttings.
【PyTorch】模型部署 Backto PyTorch Index最佳实践 Best Practice2020-07-03 : C++ / TensorRT技术路径 PathsTorchScript-Libtorch / offcial C++ frontend官方推荐和主代码演进的方向The PyTorch team is betting heavily on TorchScript/libtorch as the path for going from research to production. Our i.
【PyTorch】目标检测与场景分割神器 - Detectron2 Backto PyTorch IndexDetectron2 @ 2019-10-10github $$ docsDetectron2 ,对 Detectron1 彻底重写,抛弃 Caffe2,直接基于 PyTorch (>= 1.3), 以 Mask-RCNN benchmark 为基底,全新构建。基于 PyTorch:直观,友好模块化:灵活,可扩展,能够直接在单个或多个 ...
【Python】Pillow-SIMD:Pillow 加速版 Backto Python IndexSIMD 代表 single instruction, multiple data, 充分压榨多核(Intel) CPU 的性能. 常用的 CPU SIMD 指令集有MMX, SSE-SSE4, AVX, AVX2, AVX512, NEON 等。Pillow-SIMD 就是 应用 SIMD 加速的 Pillow,100% API cover, pr...
【Python】Pillow - PIL 升级版 Backto Python IndexPIL 已经停更好多年了,只是还没有官宣 dead 而已。升级替代者就是 Pillow.老代码中看到 PIL的,就直接安装 Pillow 。API 看 官方文档
【Python】图像数据读写利器 -- imageio Backto Python Index极简化的图像数据读写库,官方文档 .两大特性依赖少Python 3.5+NumpyPillow有扩展包,历史版本 Imageio version 2.6.x supports Python 2.7 and 3.4.接口简洁import imageioim = imageio.imread('imageio:chelsea.pn...
【PyTorch】开发、运行、部署环境 Backto PyTorch IndexVS Code + Docker办公编码使用 Windows, 编辑器 VS Code,Remote 到 Ubuntu 服务器,利用 Docker 隔离部署开发环境配置顺序Docker+VSCode配置属于自己的炼丹炉ubuntu+docker使用nvidia显卡运行pytorch...
【Python】编译打包神器 Nuitka Backto Python IndexNuitka: 一步到位,解决 Python软件的运行速度慢和源代码反编译不安全两大难题Nuitka is a Python compiler written in Python.It’s fully compatible with Python 2.6, 2.7, 3.3, 3.4, 3.5, 3.6, 3.7 & later.You ...
【PyTorch】版本更新追踪 Backto PyTorch IndexRelease 1.5 @ 2020-04-23功能升级:主要的 torchvision,torchtext 和 torchaudio 库,并推出将模型从 Python API 转换为 C ++ API 等功能.工业级部署:Facebook 还和 Amazon 合作,推出了两个重磅的工具:TorchServe 模型服务框架和 TorchElasti...
【PyTorch】站在PyTorch的肩膀上玩CV:TorchVision Backto PyTorch IndexTorchVision 是基于 PyTorch 深度定制的一个 CV 包,包含 CVer 常用的 数据集,模型,图像操作等。注意,TorchVison 一直在更新中,代码结构变化也很大,一定要注意安装与 PyTorch, Python 相匹配的版本。最新支持的数据集、模型、操作等,参看最新的 文档.Tipsset image backendtor...
【Python】numpy的小函数 Backto Python Index均分函数 numpy.arange() 和 numpy.linspace()前者按整数步长均分,后者份数浮点均分>> np.arange(3, 7, 2)[3 5]numpy.linspace(start, stop, num=50, endpoint=True, retstep=False)>>> np.l...
【Python】Python 日期时间操作包 - datetime Backto Python Indeximport datetime# make datetime from stringstart_time = datetime.datetime.strptime("2019-08-20 14:35:25", '%Y-%m-%d %H:%M:%S')# datetime to string and printprint(start_time.st...
【CV】资源汇总--基于视频监控的异常行为检测 Backto [CV]领域综述 An Overview of Video Anomaly Detection数据集: 人群异常行为检测数据集汇总经典论文: 深度学习之异常检测+视频预测+预训练+视频标注+镜头边界检测+行为分割+视频生成gif–附带源码和作者主页 ⊙\odot⊙ Real-world Anomaly Detection in Surveillance Videos ⊙...
【Python】conda使用指南 Backto Python Index.Anaconda 是一个用于科学计算的Python发行版,里面预装好了conda、某个版本的python、众多packages、科学计算工具等等,提供包管理与环境管理的功能,可以很方便地解决多版本python并存、切换以及各种第三方包安装问题。conda是一个工具,其核心功能是包管理与环境管理。包管理与pip的使用类似,环境管理则允许用户方便地安装不...
【Python】数据结构之集合: set() Backto Python Index很好玩儿的数据结构,多用于无序数据去重多组数据逻辑运算,寻找交集,并集,非集等操作见https://blog.csdn.net/business122/article/details/7541486...
【OpenCV】opencv-python 版使用要点 Backto OpenCV Indeximage size# for gray imagerows,cols = img.shapeh,w = img.shape# for color imagerows, cols, channels = img.shapeh,w,c = img.shape
【TF】模型读写相关 Backto TF Indexsave model训练中用 .ckpt 格式,方便中断和再训练。训练完稿后用 .pb 格式,变量constant 化,体积小,速度快。TensorFlow 保存模型为 PB 文件 - lonlon ago的文章 - 知乎https://zhuanlan.zhihu.com/p/32887066...
【CV】numpy 视角下的 image Backto Python Indexnp array to other image-formatsarr = np.random.random(3, 512, 512)to pilformatted = ((arr - np.min(arr))*255 / (np.max(arr) - np.min(arr) + 1e-0.5)).astype('uint8')img = Ima...
【iTools】视频编辑神器 FFmpeg 用序列图片制作视频把图像重命名为 img%3d.xxxdef rename_files(): path_src = './your_dir' name_files = os.listdir(path_src) index = 1 for name_file in name_files: new_name = 'img{:03d}'.forma...
【Python】变量共享 Variable sharing Backto Python Index跨文件共享推荐把这种变量定义在专门的 config.py 文件中, 然后通过不同的文件 import config 之后再去访问。https://stackoverflow.com/a/45646477
【DL】常用卷积核 1x1, 3x3 Backto DL Index列举几个常用的卷积核1x1conv: k(1,1) 经常出现,乍一看无用,其实非常巧妙。如果仅从二维(H, W)考虑,确实无用。但实际上,在 cnn 中,必然还有着潜藏的维度 – 深度/Channels ©。这才是 1x1 起作用的地方: feature dimension reduction。按照 PyTorch 中 (N, C, H, W) 的顺序,N=...
【DL】深度残差网络 Residual Network, ResNet Backto Model Zoo缘起直觉上:越深的网络representation能力越好,精度越高理论上:深层网络应该达到至少不差于浅层网络的精度表现,因为让深层网络一部分与浅层网络等同,多余部分变成恒等 identity,二者效果就等同了。实践中:随着深度的逐步增大,训练误差和测试误差反而会增大思路why?: 首先,不是 over-fitting 问题,因为训练误差也变...
【PyTorch】模型可视化之 pytorch-summary Backto PyTorch Index我个人最喜欢的模型可视化工具, github安装 pip install torchsummary应用from torchsummary import summary...summary(your_model, input_size=(channels, H, W))info 分析每一层的类型、shape 和 参数量模型整体的...
模型可视化工具 Backto PyTorch IndexTensorBoard(X)NN SVG: 在线交互,成图美观,表意可以,灵活性差。Netron: LaTex 生成工具,看上去很棒,暂未尝试tikz_cnn: 挺美观的,也是 LaTex 生成工具PlotNeuralNet: 不错Ref论文中卷积神经网络常见的示意图用什么软件来画比较容易? - 李佳骏的回答 - 知乎https:/...
【PyTorch】小经验 Tips Backto PyTorch IndexFlagstorch.backends.cudnn.benchmark = true : 让内置的 cuDNN 的 auto-tuner 自动寻找最适合当前配置的高效算法,来达到优化运行效率的问题。应该遵循以下准则:如果网络的输入数据维度或类型上变化不大,设置 torch.backends.cudnn.benchmark = true 可以...
【DeepCV】超参数 Hyperparameters Backto DeepCVNotes from Neural Network Hyperparameters.What is Hyperparameters?Most machine learning algorithms involve “hyperparameters” which are variables set before actually optimizing the mo...
【PyTorch】自定义模型结构 Backto PyTorch Index本来想自己总结一下,发现一篇好文已经总结的非常好了:Some important Pytorch tasks - A concise summary from a vision researcher: 设计自定义模型中,freeze / update/ delete / add some layers, 和自定义 loss_function 等,非...
【Linux】Linux 深度学习环境配置 Step 1: Install OS以 Ubuntu 16.04 为例,Win + Linux 双系统教程Step 2: 配置环境# connect WIFI# Set Source to Aliyun or Tsinghuasudo cp /etc/apt/source.list /etc/apt/source.list.baksu # if auths failed, `sudo...
【PyTorch】效率优化 Backto PyTorch IndexPytorch有什么节省内存(显存)的小技巧? - 郑哲东的回答 - 知乎https://www.zhihu.com/question/274635237/answer/573633662
【DL】mini-batch策略 Backto Deep Learning Index基础概念epoch : 所有训练集使用一次,叫一个 epochone epoch = one forward pass and one backward pass of all the training examples对应代码中的参数是 n_epochs.batch_size : 一个 batch 中 samples 的个数...
【PyTorch】模型加载与保存 Backto PyTorch Index模型保存# 保存整个模型的结构信息和参数信息, 保存的对象是模型 model ,可以是pth方式,也可以是pkl的方式torch.save(model, './model.pth') # 方式1# 保存模型的参数, 保存的对象是模型的状态 model.state_dict()torch.save(model.state_dict(), '....
【Python】配置新环境 Backto Python Index原则: 使用 conda 管理多版本环境,使用 pip 安装包。Step 1: conda 环境安装conda 后,进入 conda prompt,第一步切换 conda 源. 清华源已废,用科大源。配置一次即可。conda config --add channels https://mirrors.ustc.edu.cn/anaconda/pkg...
【DL】TensorBoardX: Bring TesorBoad to X-frameworks Backto Deep Learning IndexGoogle 为 TensorFlow 带来了超强的可视化分析工具 TensorBoard,xmsl 其他Framework player。 TensorBoardX 应用而生,搭建起了其他 Framework(PyTorch, MXNet, numpy 等) 到 TensorBoard 的桥梁: 比如在 PyTorch 代码中 impor...
【Python】Six: Python 2 and 3 Compatibility Library Backto Python IndexSix 是一个用于 smooth Python 2vs3 代码兼容性的包,名字来源 6=2×36 = 2\times36=2×3 。资源: github ⊙\odot⊙ readthedocs应用案例:
【DL】CNN 的骨干网络 backbone Backto Deep Learning IndexCNN Backbone往往是各种CNN模型的一个共享结构。概念中提到,它是Object Detection, Scene Parsing, OCR等任务的前导性任务。常用的 backbone 有AlexNet: https://papers.nips.cc/paper/4824-imagenet-classification-wit...
【DL】卷积膨胀 Dilation Backto DeepLearning Indexdilationdilation 是对 kernel 进行膨胀,多出来的空隙用 0 padding。用于克服 stride 中造成的 失真问题。对应关系是 kd=(k−1)×d+1k_{d} = (k -1)\times d + 1kd=(k−1)×d+1, 对原始kernel 进行 d 倍 dilation 之后得到新的 kdk_d...
【DL】CNN的感受野 Receptive Field Backto Deep Learning Index本文源自 A Guide to Receptive Field Arithmetic for Convolutional Neural NetworksThe receptive field is defined as the region in the input space that a particular CNN’s featu...
【DL】卷积基础操作: Kernel, Padding, Stride & Column Backto DeepLearning Index一般在模型表述中,卷积操作的简写类似 k(3,3)-c512-s1-d2, 其中 k 代表 kernel(大小), c 代表 column(层数),s 代表 stride(步长), d 代表 dilation(膨胀系数)。这四个是卷积操作的基本属性。StrideStride 其实就是一个 down-sampling 的过程。dilati...
【PyTorch】模型参数初始化 weights_init Backto PyTorch Index方法一:调用 applytorch.nn.Module.apply(fn)# 递归的调用weights_init函数,遍历nn.Module的submodule作为参数# 常用来对模型的参数进行初始化# fn是对参数进行初始化的函数的句柄,fn以nn.Module或者自己定义的nn.Module的子类作为参数# fn (Module ->...
【Python】函数参数 arguments Backto Python Index##带星参数: *args, **kwargs单星号和双星号,代表 多参数的传入或变量的拆解。最初,星号变量是用在函数的参数传递上的,在下面的实例中,单个星号代表这个位置接收任意多个非关键字参数,在函数的*b位置上将其转化成元组,而双星号代表这个位置接收任意多个关键字参数,在**b位置上将其转化成字典:*: 该位置接受任意多个非关键字(non-ke...
【Python】zip 函数 Backto Python Indexzip 函数是Python里面具有代表性、超好用的 built-in 函数之一。其作用就是,给定任意多个 sequence,把相同下标的元素组合成tuple,再返回。简化了一大票操作。对于Python2 中的 zip 返回的是一个 tuple 的 list。Help on built-in function zip in module __built...
【Python】scipy.misc 模块 Backto Python之前一直搞不懂 misc 的含义,后来查了官网,吐了一口老血: misc 是 miscellaneous 的缩写,杂项 的意思。代表没别的合适的地方放了,就放在这里了。官网的介绍是Miscellaneous routines (scipy.misc)Various utilities that don’t have another home.和图像io相关...
【Python】图像处理库PIL中图像格式转换 Backto Python Index此处图像格式指的是内存中图像的格式,比如 RGB 图像,灰度图像等,而不是硬盘上存储的 png,jpg 等文件格式。不管文件格式如何,读取到内存中,都会变成 PIL 指定的格式,在 PIL 中,一共设置了 8 个格式:1,L,P,RGB,RGBA,CMYK,YCbCr,I,F。其中最常用的就是 L: 8-bit 灰度图像,RGB 24-bit 彩色...
【Python】PIL模块之 ImageOps Backto Python IndexImageOps 打包了一些 ready-to-use 的常用函数。比如ExpandImageOps.expand(image, border=0, fill=0)⇒ imageborder = (Left, Top, Right, Bottom) 四个方位 padding像素尺寸。fill 是 填充的图像颜色,RefPython图像处...
【Python】EasyDict:Make Dictionary Easier Backto Python IndexEasyDict 可以像操作属性一样操作dict里的变量,爽的飞起。>>> from easydict import EasyDict as edict>>> d = edict({'foo':3, 'bar':{'x':1, 'y':2}})>>> d.foo3>>> d...
【iTools】MingW使用指南 mingw 是 Winodows 下一款 Unix-style 的命令行工具,也是 Git 等windows版本的默认shell。现记录一些常用操作:切换盘符到 F 盘 , cd /f/
【iTools】配置 SSH for Github,Gitlab等 SSH (Secure SHell)is a cryptographic network protocol for operating network services securely over an unsecured network. Typical applications include remote command-line login and remote command exec...
【iTools】Wox - Windows 原生快捷启动工具 Backto Windows 装机软件安装: 1. 文件索引:everything 2. 安装 Python + Wox, 即开即用Config: 开机启动后隐藏,记忆上次结果Hot Key 看自己喜好喝方便,我选择的是 Ctrl + space.Tip1: 快速打开文件夹文件夹在 Folder 应用中登记,添加触发键 @。然后在 box 中输入 @ 快速找到文件夹,Alt +...
【iTools】Clipboard 扩展 -- Ditto Backto Windows 装机软件官网下载安装配置:五天后失效db path 到指定位置快捷键,系统默认是 Ctrl + `, 若不冲突,使用默认的就好。使用快捷键,触发剪贴板可以选择paste选项....
【iTools】Github使用指南 Backto []纯网站线上操作看到一个好的项目,star 代表点赞,赞完无关;watch代表关注,有什么进展会notify;fork 代表开一条分支copy到自己的repo了,自己也有了一份。自己的repo里做了一些改进,想 merge 到原repo里,就要发起一个 PR: pull request ; 或者原 repo 更新了,自己 fork 的过时了想同步过来,就要发起一个 反向...
【DL】PyTorch安装指南 Backto PyTorch Index# Step 1: Check python versionpython --version# Step 2: Check cuda version(Linux)cat /usr/local/cuda/version.txt# Step 3: Download pytorch fromhttps://pytorch.org/get-start...
【CV】2D摄像头 Backto DeepCV2D 摄像头产生的是平面图像和视频流。IR 镜头IR镜头就是红外线镜头,主要用于夜视,监控摄像头上。普通CCTV镜头在白天准确调焦后,到夜间会产生焦点偏移,不得不在白天和黑夜反复对焦. IR镜头采用特殊光学材料,且对每个镜片单元进行多层镀膜,最大限度改善日夜光线变化所带来的影响。无需反复调整。IR镜头的焦点在红外光和可见光都是一致的,因此也叫齐焦镜头。因为要夜...
【CV】3D摄像头 Backto DeepCV触摸屏实现了交互方式从一维到平面, 而 3D 摄像头将交互方式从平面变为立体。2D摄像头有平面,3D 多出来的那一个 dimension,指的是 深度depth。获取3D信息,有两种方式,一种是模拟人眼视差用多个2D摄像头合成3D场景,另外一种是2D摄像头搭配深度传感器。1. 视差法 - 双目视觉 Stereo人眼是一个天然的 3D 相机, 这主要得益于偏...
【DeepCV】深度学习 GPU 和计算平台的选取 Backto DeepCV最佳实践 Best Practice模型设计阶段:Nvidia GTX/RTX 次新款训练阶段:能 TPU 就 TPU,不能则 AWS内幕细节 Details实体GPU厂家,Nvidia 一家独大,AMD,Intel,其他公司,一概不考虑。Nvidia GPU 系列,Tesla 卡、Quadro卡、 Titan 卡都是用 霸王条款 圈钱的东西,仅考...
【Python】shutil模块: High-level file operations Backto Python Indeximport shutil# copy file (dst could be file or dir):contentshutil.copy(src,dst)# copy file (dst could be file or dir):content and create/modify/access timeshutil.copy2(src...
【Python】os模块: Miscellaneous operating system interfaces Backto Python Indeximport os# concatenate pathos.path.join(part1,part2,part3)# list all file/sub-dir names in the current directory given by path# not for files in sub-diros.listdir(path)#...
【DeepCV】轻量化模型 Lightweight model Backto DeepCVCNN 在CV领域大放异彩,但是网络层数不断增加,模型体积越来越大,引出了实用中的效率问题。效率问题主要是模型的存储问题和模型进行预测的速度问题(以下简称速度问题)第一,存储问题。数百层网络有着大量的权值参数,保存大量权值参数对设备的内存要求很高;第二,速度问题。在实际应用中,往往是毫秒级别,为了达到实际应用标准,要么提高处理器性能(看英特尔的提高速度就知道...
【OpenCV】VideoWriter类解析 Backto OpenCV IndexVideoWriter(const string& filename, int fourcc, double fps,Size frameSize, bool isColor=true);filename 输出视频文件名。fourcc为 四个字符用来表示压缩帧的codec 例如:CV_FOURCC(‘P’,‘I’,‘M’,‘1’) = M...
【DeepCV】模型 C++化 Backto DeepCV追究速度的极致,归宿总是C++。\text{追究速度的极致,归宿总是C++。}追究速度的极致,归宿总是C++。 大致可以分为三个层次:Level 0:C++ 里调用 Python 代码eg. https://github.com/BIGBALLON/CPP-Call-TensorflowLevel 1: C++ 里直接调用模型这里又分为两类,一类是通过框架的...
【DeepCV】模型压缩 Backto DeepCV模型压缩,或曰 精简网络设计,目的是压缩一个模型,让它可以更好的部署到手机、无人机、FPGA 等上面去。当然前提是保证精度差不多,但是模型小了,功耗低了,在嵌入式上跑起来就顺畅了。大致流程是:input: pre-trained modelprocess: a mixed formula of pruning/distillation/quantization...
【DeepCV】模型训练--有图有真相 Backto DeepCV在实际训练模型中,要把关键指标用图表现出来,观察-判断-调整-观察,直到达到预设目标(放弃)为止。Figure 1 通过观察 epoch-loss 曲线,判定 LR 是否得当;Figure 2 通过观察更细化的 epoch-loss 曲线,epoch 细化成了每个 mini-batch,batch 参数设置是否得当;Figure 3 通过观察 Accuracy...
【DeepCV】三个臭皮匠顶个诸葛亮--模型集成 Backto DeepCV通常,训练多个模型共同作用胜过单一的模型。在竞赛中,几乎所有的顶尖队伍中都用到了模型集成。组队方式: ensemble 中不同模型的生成方式同一模型,不同初始化使用 cross-validation 来确定 hyper-parameters, 然后给定一个模型,多组不同的初始值,进行训练。然后一起去打怪。类似于公立学校,不同背景的人来,大班上课,同一套教师班...
【DeepCV】模型正则化 regularization Backto DeepCVregularization 本意就是调整对象(函数等)使其更合乎常态(regular)或平滑,翻译成 正则化 不明所以。我喜欢叫他 抛光。不够雅,但是表意更准确。regularization 的目的是控制网络的 capacity,以防止 over-fitting.L2-regularization最常用的.为Loss函数引入惩罚项 12λω2\frac 1...
【DeepCV】Fine-tuning pre-trained model 在预训练模型上精调 Backto DeepCV拿过来一个 pre-trained mode,希望能 fine-tune 成解决当前问题的 mode。又是一门手艺。首先,定策略动手前要先分析燃油(new dataset)的数量和质量(与pre-used 的dataset 的相似性)。xvery similar datasetvery different datasetvery litt...
【DeepCV】学习率设定和优化器选取LR&Optimizer Backto DeepCV全凭经验和运气去试验。几个思路:LR 设一个定值(如 0.1),让真实的 LR′=LRnum_batchesLR' = \frac{LR}{num\_batches}LR′=num_batchesLR, 去调节 mini-batch的数量LR 设定一个初值(如 0.1), 开始训练,观察 validation 的效果,发现优化不动了,就 L...
【DeepCV】预训练模型 pre-trained model - zoo Backto DeepCV基本上每个框架下都有一个model zoo, 放着预训练好的模型。但是这些模型一般都是经典的模型复现,通常去 github 搜索会有更新的,更针对性的,优化性能更好的模型。还有就是追踪 paper,看他们作者的开源。...
【DeepCV】激活函数 Activation Function Backto DeepCVActivation Function,从生理神经类比上,模拟的是神经元的激活。从数学计算角度看,完成的非线性部分任务。具体的选型上,倒是简单,之前的 sigmoid/tanhsigmoid / tanhsigmoid/tanh 都已经被抛弃了,现在是 ReLUReLUReLU 及其变种一家独大。可以看看类似的任务中用的什么,就选择什么。觉得不好用,还可...
【DeepCV】CNN中的 filter size 和 pooling size Backto DeepCVfilter size,尤其是前期,建议小,建议密, 比如经典的 conv(3x3,stride=1,padding=0) 可以大幅减少参数个数,提高模型准确率,同时还能保持前层输入的空间结构。对于 pooling size,一般都是采用 max_pooling(2x2)....
【DeepCV】图像的尺寸 Backto DeepCV输入的图像的size,一般期待是 power of 2 的,或者最差必须是偶数的。比如,32(CIFAR-10)64224(ImageNet)384512这样的。在 feed 进网络之前,做好预处理。...
【DeepCV】模型参数的初始化方式 Backto DeepCV模型选好了,在训练之前,那么多的 www 和 bbb 该如何初始化呢?trial & error,试错中前行全部置为 0超级省事,但是 absolutely wrong!所有参数都是 0 ,还是所有的神经元步调完全一致,怎么训练,怎么梯度下降?随机初始化为近 0 值哎,这还靠谱些。比如指定, w∼N(0,1)w \sim N(0,1)w∼N(0,1)...
【DeepCV】白化 whitening Backto DeepCV之前说过 PCA, PCA 构建新的特征(主成分),除去特征之间的相关性(正交)。whitening 就是在 PCA 的基础上,再进一步,使得所有的特征都具有相同的方差(normalization)。Normalization 的方式,当然还是通用的,除以标准差。Step 0: 原始输入Step 1: find PCsStep 2: Apply PCA,...
【DLCV】CV数据集加强 Data Augmentation Backto DLCVdata augmentation to boost the performance\text{data augmentation to boost the performance}data augmentation to boost the performanceCV...
【DL】常用的后端分类器 classfier 分类器description 描述Scenes 使用问题Softmaxyj=ezj∑ieziy_j= \frac{e^{z_j}}{\sum_{i}{e^{z_i}}}yj=∑ieziezjclassificationSoftmax输出的是 n~ classification 的概率。对于 input ZZZ 中的每一个值ZjZ_j...
【DL】深度学习简介 Backto DL Index通过层次化的方法可以让计算机通过构建简单的概念来学习复杂概念. 为了获得优异的性能, 我们需要构建一个很深(层次很多)的关系图. 因此我们把这一类方法就做深度学习. 深度就是深度, 仅此而已....
【Py】matplotlib 使用指南 BacktoPython Indeximportfrom matplotlib import pyplot as pltplt.switch_backend('agg')plot and saveframe = plt.gca()plt.imshow(data)#plt.colorbar() frame.axes.get_yaxis().set_visible(False)...
【Py】Pandas使用指南 Backto Python IndexScenes: 存储信息到 CSV 文件import pandas as pd#任意的多组列表a = [1,2,3]b = [4,5,6] #字典中的key值即为csv中列名dataframe = pd.DataFrame({'a_name':a,'b_name':b})#将DataFrame存储为csv,index表示是否显示...
【DL】神奇的BN: Batch Nomalization Backto DL IndexBN 论文源自 这里.Abstract: Training Deep Neural Networks is complicated by the fact that the distribution of each layer’s inputs changes during training, as the parameters of the previou...
【Slides】深度学习的高级技巧 - by 台湾大学电机工程学助理教授李宏毅 Backto DL MaterialsSlides : 链接: https://pan.baidu.com/s/1IMdot9UrWvu28HWH6tscSQ 提取码: kdz3Videos: https://www.youtube.com/watch?v=xki61j7z-30
【Linux】压缩文件 tar 指令指南 Backto []c – create a archive file.x – extract a archive file.t – viewing content of archive file.f – filename of archive file.v – show the progress of archive file.j – filter archive through ...
【ML】容量、过拟合和欠拟合 Backto ML Index在训练一个模型的时候,通常我们会先在一个训练集(training set) 上让模型学习,然后放到一个陌生的测试集(test set)上让模型考试。在 training set 上的误差称为训练误差(training error), test set 上的误差称为 泛化误差(generalization error/test error).对于一个模型而言,我...
【Slides】一天搞懂深度学习 by 台湾大学电机工程学助理教授李宏毅 链接: https://pan.baidu.com/s/1SzfuZtyFmNY2w2aMuM2xaA 提取码: 3xfeLecture I: Introduction of Deep LearningDL 统共分三步,Step 1: Desgin a Network StrutureStep 2: Set Learning TargetStep 3: Dive into lea...
【DL】深度学习的深度学习资料 Backto DL Index台大AP 李宏毅 系列83页的《深度学习的高级技巧》链接:https://pan.baidu.com/s/1FCrFen0kU5TEc2__G6KFyQ提取码:qacg链接:https://pan.baidu.com/s/1Tf2n0odUqQPdPmE1tCGRvg提取码:fmyv...
【iTools】Xshell使用教程 Backto iTools IndexXshell 是 Windows 端的Terminal,Windows端使用 Xshell对Linux端进行远程操作.File Transfer从 Windows 传文件到 Linux,首先登录 Linux,然后输入 command# to choose file in GUI windowrz -E Ref使用Xshell在Windo...
【DL】硬件资源信息查看Nvidia GPU / CPU / Mem / Disk # to check the version of CUDAnvcc --version## *nix - onlycat /usr/local/cuda/version.txt # to check the version of CUDNN## *nix - onlycat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A ...