deep learning
tigerlib
种一棵树最好的时间是十年前,其次是现在
展开
-
labelme标注工具json格式标签转化为mask多值图
【代码】labelme标注工具json格式标签转化为mask多值图。原创 2022-01-05 17:55:52 · 2533 阅读 · 0 评论 -
TensorFlow实现多层神经网络进行fashion_mnist时装分类
import osimport numpy as npimport tensorflow as tffrom tensorflow.python import keras# fashion_mnist数据集:70000张灰度图像,涵盖10个类别(T恤衫/上衣、裤子、套衫、裙子、外套、凉鞋、衬衫、运动鞋、包包)class SingleNN(object): model = k...原创 2019-11-04 20:42:13 · 859 阅读 · 0 评论 -
神经网络 模型 构建API
方法1import tensorflow as tffrom tensorflow.python.keras import layersfrom tensorflow.python.keras.models import Sequential, Modelmodel1 = Sequential([ layers.Flatten(input_shape=(28,28)), ...原创 2019-11-04 16:52:09 · 464 阅读 · 0 评论 -
速成教程:TensorFlow如何实现简单的模型训练
简单线性回归训练模型代码import tensorflow as tfimport osos.environ['TF_CPP_MIN_LOG_LEVEL']='2'tf.app.flags.DEFINE_integer("max_step", 200, "训练模型的步数") # 训练步数tf.app.flags.DEFINE_string("model_path", ...原创 2019-08-10 20:24:08 · 3372 阅读 · 1 评论 -
TensorFlow中变量的相关操作
1 变量的创建和初始化import tensorflow as tfx = tf.Variable(5.0,name="x")weights = tf.Variable(tf.random_normal([3, 4], stddev=0.35, seed=1), name="weights")biases = tf.Variable(tf.zeros([4]), name="biases...原创 2019-08-09 20:34:50 · 294 阅读 · 0 评论 -
TensorFlow中张量的动态形状和静态形状
1 静态形状静态形状 是指当你在创建一个张量或者由操作推导出一个张量时,这个张量的维度是确定的。它是一个元组或列表。tf.Tensor.get_shape()—— 获取Tensor对象的静态形状tf.Tensor.set_shape()—— 更新Tensor对象的静态形状,通常在不能直接推断的情况下使用(1)转换静态形状的时候,1-D到1-D,2-D到2-D,不能跨阶数改变形状(2)对...原创 2019-08-09 19:06:26 · 2249 阅读 · 1 评论 -
TensorFlow中的张量及其相关操作
TensorFlow 的张量就是一个 n 维数组, 类型为tf.Tensor。文章目录1 创建张量1.1 创建固定值张量1.2 创建随机张量2 张量的阶3 张量的类型4 张量的变换4.1 类型的变换4.2 形状的变换5 张量的切片与扩展6 其它张量运算1 创建张量1.1 创建固定值张量操作代码说明全零张量tf.zeros(shape, dtype=tf.floa...原创 2019-08-09 15:36:56 · 718 阅读 · 0 评论 -
Windows10中Tensorboard“无法访问此网站”解决办法
启动TensorBoard命令(如下),谷歌浏览器中输入http://handsomeboy:6006/无法访问TensorBoardtensorboard --logdir="./summary/"尝试关闭防火墙,修改文件夹的访问权限未果。启动命令添加host选项,奇迹发生了!!!tensorboard --logdir="./summary/" --host=127.0.0.1...原创 2019-08-08 17:04:17 · 2084 阅读 · 1 评论 -
InsightFace: a Deep Learning Toolkit for Face Analysis
InsightFace人脸识别GitHub地址 和 官方文档环境配置(Python2.7)pip install 包名 -i https://pypi.tuna.tsinghua.edu.cn/simplepip install mxnet==1.5.0pip install scikit-learn==0.20.0pip install pillow==6.2.1pip insta...原创 2020-01-20 11:04:49 · 312 阅读 · 0 评论 -
基于深度学习高性能中文车牌识别 High Performance Chinese License Plate Recognition Framework.
HyperLPR项目地址:https://github.com/zeusees/HyperLPR探索 Python + HyperLPR 进行车牌识别原创 2020-01-17 14:26:58 · 873 阅读 · 0 评论 -
经典目标检测算法详解(R-CNN、SPP-Net、Fast R-CNN、Faster R-CNN、YOLO、SSD)
1 目标检测算法分类两步走的目标检测:先进行区域推荐,而后进行目标分类代表:R-CNN、SPP-net、Fast R-CNN、Faster R-CNN端到端的目标检测:采用一个网络一步到位代表:YOLO、SSD...原创 2019-11-19 20:39:26 · 4944 阅读 · 5 评论 -
Faster R-CNN详解
经过RCNN和Fast RCNN的积淀,Ross B. Girshick在2016年提出了新的Faster RCNN,在结构上,Faster RCN已经将特征抽取(feature extraction),proposal提取,bounding box regression(rect refine),classification都整合在了一个网络中,使得综合性能有较大提高,在检测速度方面尤为明显...转载 2019-11-14 00:21:55 · 439 阅读 · 0 评论 -
ResNet(残差网络)之残差模块
2015年何凯明提出的152层ResNet,获得了ILSVRC比赛图像识别的冠军(top1误差3.6%),同时也使得卷积神经网络有了真正的“深度”。随着网络深度的增加,训练变得愈加困难,这主要是因为在基于随机梯度下降的网络训练过程中,误差信号的多层反向传播非常容易引发“梯度弥散”(梯度过小会使回传的训练误差信号极其微弱)或者“梯度爆炸”(梯度过大导致模型出现NaN)的现象。目前一些特殊的权重初始...原创 2019-11-10 16:12:23 · 40909 阅读 · 0 评论 -
GoogLeNet之inception模块
GoogLeNet最初的想法很简单: 若想得到更好的预测效果,就要增加网络的复杂度。可从两个角度出发:网络深度和网络宽度。更复杂的网络会带来更大的计算资源消耗,而且当卷积核个数设计不合理导致卷积核中的参数没有被完全利用(多数权重都趋近于0)时,会导致大量计算资源的浪费。GoogLeNet引入inception模块来解决这个问题inception模块的作用: 代替人工确定卷积层中的卷积核大小或者...原创 2019-11-09 19:58:41 · 2049 阅读 · 1 评论 -
Alex-Net结构之LRP解析(局部响应规范化LRP 与 批规范化操作BN 对比)
局部响应规范化(LRP,Local Response Normalization)参数说明:bx,yi:b^i_{x,y}:bx,yi:规范化后的值,iii是通道的位置,代表更新第几个通道的值,xxx与yyy代表待更新像素的位置;ax,yi:a^i_{x,y}:ax,yi:输入值,激活函数Relu的输出值;k、α、β、n/2:k、\alpha、\beta、n/2:k、α、β、n/...原创 2019-11-09 14:46:13 · 940 阅读 · 0 评论 -
多通道卷积计算
输入特征为多通道时,卷积计算1、一个卷积核计算过程当输入有多个通道(channel)时(例如图片可以有 RGB 三个通道),卷积核需要拥有相同的channel数,每个卷积核 channel 与输入层的对应 channel 进行卷积,将每个 channel 的卷积结果按位相加得到最终的 Feature Map。2、多卷积核(多个Filter)当有多个卷积核时,可以学习到多种不同的特征,对应...原创 2019-11-05 20:44:14 · 5816 阅读 · 1 评论 -
4层神经网络的前向传播与反向传播计算过程
444 层神经网络:设置 LLL 为第几层,nnn 为每一层的个数,L=[L1,L2,L3,L4],n=[5,5,3,1]L=[L1,L2,L3,L4],n=[5,5,3,1]L=[L1,L2,L3,L4],n=[5,5,3,1]1、前向传播(1)单个样本向量表示每层经过 线性计算 和 激活函数 两步计算z[1]=W[1]x+b[1],a[1]=g[1](z[1]),输入x,输出a[1]...原创 2019-11-05 14:57:31 · 1194 阅读 · 0 评论 -
NHWC与NCHW
"channels_last":设置为 “NHWC” 时,排列顺序为 [batch, height, width, channels]"channels_first":设置为 “NCHW” 时,排列顺序为 [batch, channels, height, width]其中 N 表示这批图像有几张,H 表示图像在竖直方向有多少像素,W 表示水平方向像素数,C 表示通道数。Tensorflo...原创 2019-11-04 17:30:54 · 1403 阅读 · 0 评论 -
分治策略和“端到端”思想
传统机器学习算法的分治法(以图像识别为例)将整个要解决的问题分解为:预处理、特征提取与选择、分类器设计等若干步骤分治法的动机:将图像识别的母问题分解为简单可控且清晰的若干小的子问题注:在分步解决子问题时,尽管可在子问题上得到最优解,但子问题上的最优解并不意味着就能得到全局最优解。深度学习中的“端到端”思想在整个学习过程中并不进行人为的子问题划分,而是完全交给深度学习模型直接学习得到...原创 2019-10-17 21:27:26 · 392 阅读 · 0 评论 -
迁移学习(Transfer Learning)
实际当中,做一个具体场景的计算机视觉任务时,为了避免浪费过多的计算时间,往往不是从头开始训练一个网络:而是利用数据、任务或模型之间的相似性,将在旧的领域学习过或训练好的模型,应用于新的领域这样的一个过程。这就是迁移学习。前提:两个任务的输入属于同一性质:要么同是图像、要么同是语音或其他迁移学习在什么情况下使用?有两个方面需要我们考虑的当我们有海量的数据资源时,可以不需要迁移学习,机器...原创 2019-10-16 21:40:08 · 1787 阅读 · 0 评论 -
偏差 / 方差 / 噪声
1 数据集划分训练集(train set):用训练集对算法或模型进行训练过程;验证集(development set):利用验证集(又称为简单交叉验证集,hold-out cross validation set)进行交叉验证,选择出最好的模型;测试集(test set):最后利用测试集对模型进行测试,对学习方法进行评估。小数据量时代,如 100、1000、10000 的数据量大小,可以...原创 2019-10-13 17:27:42 · 1020 阅读 · 0 评论 -
卷积神经网络(CNN)基本部件
卷积神经网络由一个或多个卷积层、池化层以及全连接层等组成。与其他深度学习结构相比,卷积神经网络在图像等方面能够给出更好的结果。这一模型也可以使用反向传播算法进行训练。相比较其他浅层或深度神经网络,卷积神经网络需要考量的参数更少,使之成为一种颇具吸引力的深度学习结构。文章目录卷积神经网络1 卷积层(Convolutions)2 池化层(Pooling、Subsampling)3 全...原创 2019-08-14 13:32:43 · 1804 阅读 · 0 评论 -
目标检测的经典模型
1 R-CNN 模型不使用暴力方法,而是用候选区域方法(region proposal method),创建目标检测的区域改变了图像领域实现物体检测的模型思路R-CNN是以深度神经网络为基础的物体检测的模型 ,R-CNN在当时以优异的性能令世人瞩目以R-CNN为基点,后续的SPPNet、Fast R-CNN、Faster R-CNN模型都是照着这个物体检测思路。R-CNN模型实现步骤(...原创 2019-08-30 20:15:56 · 2533 阅读 · 0 评论 -
卷积神经网络模型的压缩
卷积神经网络的压缩深度神经网络面临着严峻的过参数化——模型内部参数存在着巨大的冗余。在模型训练阶段,这种冗余是十分必要的,在一定程度上,网络越深,参数越多,模型越复杂,其最终的效果也往往越好。总体而言,绝大多数的压缩算法,均旨在将一个庞大而复杂的预训练模型,转化为一个精简的小模型。按照压缩过程中,对网络结构的破坏程度,将模型压缩技术分为**“前端压缩”与“后端压缩”**。1 后端压缩(对原...原创 2019-09-11 16:41:52 · 928 阅读 · 0 评论 -
深度神经网络中的损失函数
深度神经网络中的目标函数(objective function)亦称:“损失函数”(loss function)& “代价函数”(cost function)可谓整个深度网络模型的“指挥棒”通过样本的预测结果与真实标记之间产生的误差,反向传播 指导网络参数学习 与 表示学习1 分类任务的损失函数1.1 交叉熵(cross entrypy)损失函数亦称Softmax损失...原创 2019-09-19 23:33:41 · 1157 阅读 · 0 评论 -
目标检测算法——Faster R-CNN解析
文章目录1 标准数据集----ImageNet2 潜在物体候选框(ROI, regions of interest)获取方法2.1 选择性搜索(selective search)2.3 区域预测网络(RPN, region proposal network)3 候选框缩放3.1 Crop+Warp3.2 空间金字塔池化(SPP,spatial pyramid pooling)3.3 RoI Poo...原创 2019-09-28 00:32:08 · 444 阅读 · 0 评论 -
目标检测算法——YOLO与SSD解析
文章目录1 YOLO(you only look once)算法1.1 YOLO整体结构1.2 网格(grid)——`7*7*30`1.2.1 单元格(grid cell)1.2.2 网格输出筛选1.3 非最大抑制(NMS)1.4 YOLO训练1.5 与Faster R-CNN比较2 SSD(Single Shot MultiBox Detector)算法2.1 SSD简介2.2 SSD结构2.3...原创 2019-09-30 17:57:38 · 7454 阅读 · 1 评论 -
深层神经网络与优化算法
文章目录1 为什么使用深层网络2 四层网络的前向传播与反向传播2.1 前向传播2.2 反向传播3 参数与超参数3.1 参数2.5.3.2 超参数4 优化遇到的问题4.1 梯度消失4.2 局部最优5 优化遇到的问题5.1 参数初始化策略5.2 批梯度下降算法(Batch Gradient Descent)5.3 小批量梯度下降法(Mini-Batch Gradient Descent)5.4 小批量...原创 2019-08-13 22:13:35 · 425 阅读 · 0 评论