深度学习
文章平均质量分 80
深度学习
万俟淋曦
CSDN专家博主,阿里云专家博主,中国人工智能学会会员。分享机器人领域技术,包括SLAM,ROS,CV,DL等,助力机器人领域研究者成长进步,为我国机器人研发与制造领域添砖加瓦。
展开
-
pytorch 学习之 学习率调整策略
学习率调整一、 所有学习率调整函数的基类class _LRSccheduler(object): def __init__(self, optimizer, last_epoch=-1):主要属性:optimizer:关联的优化器last_epoch:记录epoch数base_lrs:记录初始学习率主要方法:step():更新下一个epoch的学习率get_lr():虚函数,计算下一个epoch的学习率二、调整策略有序调整:Step、MultiStep、Expon原创 2021-01-28 21:16:08 · 383 阅读 · 0 评论 -
pytorch 学习之 优化器
优化器管理并更新模型中的可学习参数的值,使得模型输出更接近真实标签。初始化函数class Optimizer(object): def __init__(self, params, defaults): # 优化器超参数,是一个dict{超参数:值} self.defaults = defaults # 参数的缓存,如momentum的缓存 self.state = defaultdict(dict) # 管理的参原创 2021-01-28 21:12:04 · 270 阅读 · 0 评论 -
pytorch 学习之 损失函数
损失函数损失函数(loss):Loss=f(y^,y)Loss=f(\hat{y}, y)Loss=f(y^,y) ,衡量模型输出与真实标签的差异,针对一个样本。代价函数(cost):Coss=1N∑iNf(y^i,yi)Coss=\frac{1}{N}\sum_i^Nf(\hat{y}_i, y_i)Coss=N1∑iNf(y^i,yi) ,计算整个样本集loss的平均值。目标函数(objective):Obj=Cost+RegularizationObj=Cost+Regulariza原创 2021-01-28 21:07:35 · 562 阅读 · 0 评论 -
常用数据增强方法(基于pytorch)
技术不重要,而是思想。原则:让训练集与测试集更接近关于名称: 数据增强、数据扩增、数据增广 都是他。方法分类:空间位置:如平移色彩:如灰度图、色彩抖动形状:如放射变换上下文场景:如遮挡、填充具体方法:数据中心化数据标准化缩放裁剪旋转翻转填充噪声添加灰度变换线性变换仿射变换亮度、饱和度及对比度变换在深度学习模型的训练过程中,数据扩增是必不可少的环节。现有深度学习的参数非常多,一般的模型可训练的参数量基本上都是万到百万级别,而训练集样本的数量很难有这么多,数据扩增可以扩原创 2020-11-01 11:50:25 · 11830 阅读 · 1 评论 -
数据集相关知识
学习笔记,如有疑问欢迎交流。一、什么是数据集?由数据样本组成的集合。样本之间是独立的(不依赖其他样本),单个样本拿出来仍然可以称为此目标的样本。(最好)没有必然联系(除目标外),比如飞机和蓝天,如果数据集中的飞机都出现在蓝天里,结果可能将蓝天也分类为飞机。详见 数据集-百度百科二、 什么样的数据集是好的?样本数量足够多分布比较广(尽可能包含目标物体所有情况)三、 怎样划分数据集?我们获得数据后要对其进行划分,数据集一般包括:训练集(Training Set):模型用于训练和调.原创 2020-11-01 11:39:40 · 5444 阅读 · 0 评论 -
ImportError: libcublas.so.9.0: cannot open shared object file: No such file or directory
一、问题描述import tensorflow 时遇到错误,报错如下:Traceback (most recent call last): File "<stdin>", line 1, in <module> File "/home/thz/anaconda3/envs/python2/lib/python2.7/site-packages/tensorflow/__init__.py", line 24, in <module> from tens原创 2020-07-21 15:32:08 · 1129 阅读 · 0 评论 -
梯度下降算法详解(从下山比喻、数学推导到代码实现)
1. 方向导数方向导数:类比于函数的偏导数是函数沿坐标轴方向的变化率,方向导数是函数沿某一射线方向的变化率。定理:如果函数 f(x,y)f(x,y)f(x,y) 在点 P0(x0,y0)P_0(x_0,y_0)P0(x0,y0) 可微分,那么函数在该点沿任一方向 lll 的方向导数存在,且有∂f∂l∣(x0,y0)=fx(x0,y0)cosα+fy(x0,y0)cosβ(1)\left. \frac{\partial f}{\partial l} \right|_{(x_0,y_0)}=原创 2020-06-04 11:04:55 · 5501 阅读 · 2 评论 -
YOLOv4 文献翻译阅读及拓展阅读(附拓展文献下载链接)
先看看效果对比YOLOv4 的运行速度是 EfficientDet 的两倍。使 YOLOv3 的 AP 和 FPS 分别提高 10%10\%10% 和 12%12\%12%,达到 43.5%43.5%43.5% AP 和 656565 FPS。一、概览论文地址:https://arxiv.org/abs/2004.10934源码地址:https://github.com/AlexeyA...原创 2020-04-25 11:28:03 · 1760 阅读 · 0 评论 -
PointNet++ 文献翻译阅读及拓展阅读
一、概览论文地址:https://arxiv.org/ftp/arxiv/papers/2003/2003.09644.pdf论文框架:研究目的: 增强 PointNet 识别细粒度模式的能力和对复杂场景的泛化能力,使其能够能够高效、稳健地学习深层点集特征。研究思路: 递归应用PointNet的分层神经网络来对输入点集进行嵌套划分解决方法:研究贡献:实验数据集:...原创 2020-04-02 23:03:37 · 1276 阅读 · 4 评论 -
PointNet 文献阅读及拓展阅读
一、概览论文地址:https://arxiv.org/pdf/1612.00593.pdf论文框架:研究目的: 在混乱场景的 RGB-D 图像中估计出一组已知目标的 6D 姿态。研究思路: 充分利用两个互补数据源—— RGB 图像和深度图像。解决方法: 提出DenseFusion —— 一种可单独处理两个数据源的异质架构。研究贡献:提出了一种将 RGB-D 输入中的颜色和深度信...原创 2020-03-27 12:09:28 · 2302 阅读 · 0 评论 -
DenseFusion 文献阅读及拓展阅读
一、概览论文地址:https://arxiv.org/abs/1901.04780研究目的: 在混乱场景的 RGB-D 图像中估计出一组已知目标的 6D 姿态。研究思路: 充分利用两个互补数据源—— RGB 图像和深度图像。解决方法: 提出DenseFusion —— 一种可单独处理两个数据源的异质架构。研究贡献:提出了一种将 RGB-D 输入中的颜色和深度信息结合起来的原则性方法...原创 2020-03-12 18:16:10 · 2052 阅读 · 2 评论 -
Darknet 输出网络结构详解
先来张图一、各列说明1. layer这一列顾名思义,是层名称。数字是层编号,后面是层名称。conv:卷积层。res:shortcut层(跨层连接,借鉴 resnet 而来,所以用res表示)yolo:YOLO层。route:融合层,就是把层进行合并,然后输出到下一层。(后面再仔细讲)upsample:上采样层。2. filters这是对于 conv 来说的,代表过滤器的通道...原创 2020-01-28 23:14:42 · 7188 阅读 · 4 评论 -
利用 DarkNet 训练和测试神经网络的常用命令
此教程在ubuntu下执行,如果在windows下,需将./darknet换成你的darknet.exe的路径。1. 训练模型./darknet detector train [.data] [.cfg] [.weight]说明:[.data]是.data文件的路径。[.cfg]是.cfg文件的路径。[.weight]是预训练权重文件的路径,可以是.weight文件,也可以是.back...原创 2019-12-14 20:52:59 · 1867 阅读 · 1 评论 -
yolov3-voc.cfg 参数超详细说明
[net] # [xxx]开始的行表示网络的一层,其后的内容为该层的参数配置,[net]为特殊的层,配置整个网络# Testing # 测试模式,batch 和 subdivisions 一般都为1batch=1 subdivisions=1# Training ...原创 2019-12-14 17:39:15 · 2579 阅读 · 1 评论 -
关于深度学习的 batch、iteration 和 epoch
假设整个数据集的图片用 dataSet 表示。把 dataSet 的图片都训练一遍,就叫一个epoch。又可以将整个 dataSet 分成几批去训练,每一批的数量就是 batch。而把 batch 的图片都训练一遍,就叫一个iteration。有这样的对应关系:dataSetepochbatchiteration并且有: iteration * batch = dataSet 的等...原创 2019-12-14 15:16:54 · 238 阅读 · 0 评论 -
Darknet训练YOLO V3输出日志log中各参数的意义
参数说明Region Avg IOU平均的IOU,代表预测的bounding box和ground truth的交集与并集之比,期望该值趋近于1Class确定是标注物体的概率,期望该值趋近于1.Obj期望该值趋近于1.No Obj期望该值越来越小但不为零.Avg Recall期望该值趋近1avg平均损失,期望该值趋近于0...原创 2019-12-14 14:15:52 · 4304 阅读 · 10 评论 -
Ubuntu下 Darknet 训练 YOLO 快速上手
OS:Ubuntu 16.04Framework:darknetDataset Format:VOC零、来看看官网的简介Darknet: Open Source Neural Networks in C.Darknet is an open source neural network framework written in C and CUDA. It is fast, easy ...原创 2019-12-09 09:09:03 · 1225 阅读 · 0 评论