![](https://img-blog.csdnimg.cn/20201014180756780.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
文章平均质量分 75
风轻云淡_Cauchy
这个作者很懒,什么都没留下…
展开
-
Tensorflow卷积神经网络之conv1d和conv2d的解读笔记
1. 问题在看《Tensorflow实战google深度学习框架》的卷积神经网络章节的时候。文中提到tensorflow卷积层的接口 conv1d和conv2d等;而且示例也没看懂,和预想的理论计算的结果不一致。接下来,分析tensorflow的conv1d和conv2d的源码。2. conv1d2.1 source codedef conv1d(value, filters, stride, padding, use_cudnn_on_gpu=None, data_forma原创 2020-09-02 16:35:03 · 3691 阅读 · 0 评论 -
Tensorflow之神经网络学习率
1. 学习率引入在梯度下降中,有一个系数,叫 学习率(learning rage)。它决定了沿着让代价函数下降程度最大的方向向下走的步伐有多大。学习率的设置,对神经网络训练效果至关重要。如果学习速率太小,结果就是只能这样像小宝宝一样一点点地挪动,去努力接近最低点,这样就需要很多步才能到达最低点,所以如果太小的话,可能会很慢,因为它会一点点挪动,它会需要很多步才能到达全局最低点。如果太大,那么梯度下降法可能会越过最低点,甚至可能无法收敛,下一次迭代又移动了一大步,越过一次,又越过一次,一次次越过最低点,直原创 2020-09-09 10:50:01 · 852 阅读 · 0 评论 -
Tensorflow卷积神经网络LeNet模型学习
Tensorflow卷积神经网络LeNet模型学习1. 基于LeNet模型的卷积神经网络模型1.1 第一层:卷积11.2 第二层:池化11.3 第三层:卷积21.4 第四层:池化21.5 第五层:全连接11.6 第六层:全连接22. 卷积神经网络模型训练此文章是经《Tensorflow: 实战Google深度学习框架》一书的研读,作为私密笔记便于以后查阅。1. 基于LeNet模型的卷积神经网络模型此MINIST手写数字识别的卷积神经网络模型,由6层网络组成:卷积1、池化1、卷积2、池化2、全连接1、全原创 2020-09-11 17:12:04 · 272 阅读 · 0 评论 -
目标检测R-CNN解读
目标检测R-CNN解读0. 物体检测算法常用到的概念0.1 Bounding Box(bbox)0.2 Intersection over Union(IoU)0.3 非极大值抑制(Non-Maximum Suppression又称NMS)1. 介绍2. R-CNN的物体检测2.1 模型设计2.1.1 候选区域2.1.2 特征提取2.2 测试阶段检测2.2.1 运行时分析2.3 训练2.3.1 有监督的预训练2.3.2 Domain-specific fine-tuning2.3.3 目标分类2.4 Res原创 2021-02-14 22:20:11 · 207 阅读 · 0 评论 -
深度学习目标检测Object Detection--基本知识概念
深度学习目标检测Object Detection--基本知识概念1. Bounding Box(bbox)2. Intersection over Union(IoU)3. 非极大值抑制(Non-Maximum Suppression又称NMS)4. mAP1. Bounding Box(bbox)bbox是包含物体的最小矩形,该物体应在最小矩形内部,如上图红色框蓝色框和绿色框。物体检测中关于物体位置的信息输出是一组(x,y,w,h)数据,其中x,y代表着bbox的左上角(或者其他固定点,可自定义),转载 2021-02-23 22:11:08 · 1267 阅读 · 0 评论 -
目标检测-性能
Performance benchmark numbers for our starter model are generated with the tool described in Section 1Model NameModel sizeDeviceGPUCPUCOCO SSD MobileNet v127 MbPixel 3 (Android 10)22ms46ms*Pixel 4 (Android 10)20ms29ms*iPhone X转载 2021-03-25 23:03:00 · 124 阅读 · 0 评论 -
目标检测--anchor boxes介绍
分享知乎上的一篇文章《锚框:Anchor box综述》转载 2021-03-02 23:19:02 · 206 阅读 · 0 评论 -
Tensorflow目标检测-Yolo v3模型学习
Tensorflow目标检测-Yolo v3模型学习1. 调试detection程序报错2. 使用自己的fruit图片验证鉴于Tensorflow官方object detection 训练的fruit,检测效果差(目前还没找到实质原因),从网上找了Yolo-v3模型目标检测。学习Kaggle的《Yolo v3 Object Detection in Tensorflow》,按照github上的指引学习测试即可。如有侵权,请告知删除。1. 调试detection程序报错在跑detection.py程序时原创 2021-01-20 23:35:19 · 830 阅读 · 0 评论 -
Tensorflow之目标检测Object Detection探索学习
Tensorflow之目标检测Object Detection探索学习1. tf两个版本的链接1.1 Tensorflow 2.x1.2 Tensorflow 1.x2. tensorflow 1.x 的object detection2.1 下载最新models2.2 Python Package Installation2.2.1 整体步骤2.2.2 测试package是否安装成功2.3 Python Package Installation1. tf两个版本的链接https://github.co原创 2020-12-30 10:53:13 · 2016 阅读 · 5 评论 -
目标检测-ROI Pooling介绍
分享简书上的一篇文章《【目标检测】RoI Pooling及其改进》RoI是Region of Interest的简写,是指对一张图片的“感兴趣区域”,用于RCNN系列算法当中,输入图片在经过卷积网络得到feature maps后,利用选择搜索或者RPN算法来得到多个目标候选框,这些以输入图片为参考坐标的候选框在feature maps上的映射区域,即为目标检测中所说的RoI。作者:牧世链接:https://www.jianshu.com/p/670a3e42107d来源:简书著作权归作者所有。商业转载 2021-03-02 22:14:01 · 2744 阅读 · 0 评论 -
yolo-v3 tensorflow object detection训练自己的数据
yolo-v3 tensorflow object detection训练自己的数据1. 快速开始1.1 下载源码1.2 依赖package安装2. 训练自己的数据二级目录三级目录最近看tensorflow的目标检测的yolo-v3模型,没法儿使用自己的数据进行训练测试。从GitHub中发现一个现成的 tensorflow-yolov3,作者是YunYang。现通过此框架,训练水果数据。1. 快速开始1.1 下载源码git clone https://github.com/YunYang1994/t原创 2021-02-02 12:38:14 · 231 阅读 · 0 评论 -
目标检测从两阶段R-CNN系列到单阶段YOLO系列精炼
目标检测从两阶段R-CNN系列到单阶段YOLO系列1. 两阶段之R-CNN1.1 算法基本流程1.2 训练过程中的微调1.3 边界回归1.4 R-CNN问题2. 两阶段之SPP-Net2.1 原图只一次CNN全图特征2.2 空间金字塔池化SPP基于神经网络的目标检测方法,可以分为两类:1)两阶段目标检测R-CNNSPP-NetFast R-CNNFaster R-CNNR-FCNMask R-CNN等2)单阶段目标检测SSDYOLORetinaNetRefineDet 等原创 2021-03-01 23:32:09 · 3809 阅读 · 1 评论 -
tensorflow目标检测--识别赵丽颖
tensorflow目标检测--识别赵丽颖1. 训练2. 测试3. 测试效果因为在前面目标检测中,我训练 水果检测,没有取得很好的效果,所以就先找了个简单的例子,识别特定的人脸。这里使用赵丽颖(我的女神)为例。1. 训练数据准备、训练模型,参考我的博客《Tensorflow之目标检测Object Detection探索学习》。在训练完成后,我们需要生成自己的模型文件。使用object_detection目录下的export_inference_graph.py python程序。具体如下: pyt原创 2020-12-27 06:55:56 · 1083 阅读 · 2 评论 -
西尔维斯特方程(Sylvester equation)官方求解有问题
为了要使上述方程成立,矩阵的行和列需要满足一定条件,A和B都要是方阵,大小分别是n和m,而X和C要是n行m列的矩阵,n和m也可以相等,四个矩阵都是大小相同的方阵。其中A、B及C是已知的矩阵,问题是要找出符合条件的X。其中所有矩阵的系数都是复数。西尔维斯特方程有唯一解X的充分必要条件是A和-B没有共同的特征值。最后矩阵计算形式变为。原创 2024-01-02 19:00:03 · 1139 阅读 · 2 评论 -
CNN神经网络--VGG模型
摘自《百度人工智能课程》VGG是当前最流行的CNN模型之一,2014年由Simonyan和Zisserman提出,其命名来源于论文作者所在的实验室Visual Geometry Group。AlexNet模型通过构造多层网络,取得了较好的效果,但是并没有给出深度神经网络设计的方向。VGG通过使用一系列大小为3x3的小尺寸卷积核和池化层构造深度卷积神经网络,并取得了较好的效果。 VGG模型因为结构简单、应用性极强而广受研究者欢迎,尤其是它的网络结构设计方法,为构建深度神经网络提供了方向。图3 是VGG-1转载 2021-03-09 22:09:09 · 1736 阅读 · 0 评论 -
Tensorflow MNIST原始图片TFRecord方式识别---1. 原始图片生成TFRecord文件
Tensorflow MNIST原始图片TFRecord方式识别---1. 原始图片生成TFRecord文件1. 原始图片生成TFRecord文件1.1 原始图片准备1.2 生成TFRecord文件1.3 验证TFRecord文件正确性想做一个完整的tensorflow手写数字识别。计划步骤如下:1)原始图片,数据处理,生成TFRecord文件2)设计CNN MNIST手写数字识别的模型3)从TFRecord文件中,到处图片数据,进行训练4)取一张手写数字图片进行测试1. 原始图片生成TFRec原创 2020-09-16 10:12:23 · 105 阅读 · 0 评论 -
Tensorflow的TFRecord文件的读写学习
Tensorflow的TFRecord文件的读写学习1. TFRecord文件读写介绍1.1 TFRecordWriter类1.2 TFRecordReader类1.3 Example 类2. TFRecord文件读写代码示例1. TFRecord文件读写介绍1.1 TFRecordWriter类写records到TFRecord文件中, 属性是TFRecord文件位置。实现方式:将Example对象序列化数据,放在TFRecordWriter的方法write中, 然后关闭close。成功将reco原创 2020-09-15 10:29:27 · 154 阅读 · 0 评论 -
Tensorflow之卷积神经网络池化层max_pool和avg_pool
$ J_\alpha(x) = \sum_{m=0}^\infty \frac{(-1)^m}{m! \Gamma (m + \alpha + 1)} {\left({ \frac{x}{2} }\right)}^{2m + \alpha} \text {,行内公式示例} $原创 2020-09-06 10:18:11 · 817 阅读 · 0 评论 -
Non-Deep Network(ParNet,Parallel Network)
Non-Deep Network拜读0、摘要Abstract1、Introduction介绍2、相关工作(这部分可以不用关注)3、Method方法3.1 PARNET BLOCK3.2 Network 介绍本文是普林斯顿大学的Jia Deng团队的最新力作ParNet。它凭借12层的深度网络在ImageNet上达到了80.7%的top-1精度。所提ParNet以RepVGG的模块为出发点,同时提出了针对非深度网络设计的SSE模块构建了一种新型的模块RepVGG-SSE 。所提方案凭借非常浅的结构取得了非常原创 2021-12-09 15:44:42 · 2545 阅读 · 0 评论 -
神经网络--丢弃法(Dropout)
丢弃法(Dropout)是深度学习中一种常用的抑制过拟合的方法,其做法是在神经网络学习过程中,随机删除一部分神经元。训练时,随机选出一部分神经元,将其输出设置为0,这些神经元将不对外传递信号。图16 是Dropout示意图,左边是完整的神经网络,右边是应用了Dropout之后的网络结构。应用Dropout之后,会将标了×\times×的神经元从网络中删除,让它们不向后面的层传递信号。在学习过程中,丢弃哪些神经元是随机决定,因此模型不会过度依赖某些神经元,能一定程度上抑制过拟合。图16 Dropout示转载 2021-03-05 08:44:07 · 3480 阅读 · 2 评论 -
神经网络--CNN的池化、激活函数、批处理归一化Batch Normalization
转自《百度人工智能学习课程》如有侵权,请告知作者删除。感谢!1. 池化(Pooling)池化是使用某一位置的相邻输出的总体统计特征代替网络在该位置的输出,其好处是当输入数据做出少量平移时,经过池化函数后的大多数输出还能保持不变。比如:当识别一张图像是否是人脸时,我们需要知道人脸左边有一只眼睛,右边也有一只眼睛,而不需要知道眼睛的精确位置,这时候通过池化某一片区域的像素点来得到总体统计特征会显得很有用。由于池化之后特征图会变得更小,如果后面连接的是全连接层,能有效的减小神经元的个数,节省存储空间并提高计转载 2021-03-04 22:51:09 · 2047 阅读 · 1 评论 -
神经网络--基本概念$CNN的卷积
从百度人工智能课程里,看到对神经网络的基本概念的介绍,觉得通俗易懂,写的挺好。就摘出来了。备注:如有侵权,请告知删除。1. 神经网络的基本概念人工神经网络包括多个神经网络层,如卷积层、全连接层、LSTM等,每一层又包括很多神经元,超过三层的非线性神经网络都可以被称为深度神经网络。通俗的讲,深度学习的模型可以视为是输入到输出的映射函数,如图像到高级语义(美女)的映射,足够深的神经网络理论上可以拟合任何复杂的函数。因此神经网络非常适合学习样本数据的内在规律和表示层次,对文字、图像和语音任务有很好的适用性。转载 2021-03-03 08:25:46 · 430 阅读 · 0 评论 -
ResNet论文--精简快速阅读其中的奥秘
转载:Deep Residual Learning for Image Recognition(译)转载 2021-02-21 07:22:45 · 174 阅读 · 0 评论 -
卷积神经网络之AlexNet学习
1)中心思想consists of five convolutional layers, some of which are followed by max-pooling layers,and three fully-connected layers with a final 1000-way softmax。Dropout method reduce overfitting in the fully-connected layers。2)模型结构3)Local Response Normaliz原创 2021-02-17 16:28:22 · 215 阅读 · 0 评论 -
Introduction to Keras for Engineers--官网学习
Introduction to Keras for Engineers--官网学习1. keras训练基本步骤2. keras训练步骤--准备数据2.1 数据加载2.1.1 格式要求等说明2.1.2 举例学习Keras,我从一个官方样例Mnist手写数字识别入手,现在着重学习一下为工程师准备的keras介绍。1. keras训练基本步骤1)准备数据格式诸如Numpy Arrays 或者 Tensorflow的Dataset样式。进一步,数据预处理,数据正则归一或者词向量。2)构建模型3)评估原创 2020-11-11 23:51:23 · 287 阅读 · 0 评论 -
Keras入门--Mnist手写数字识别(源自Keras官方样例)
Keras入门--Mnist手写数字识别--源自Keras官方样例1. Keras官方Mnist例子2. 改造模型2.1 加载keras相关模块2.2 准备训练和测试Mnist数据2.3 构建模型2.4 训练模型并保存模型3. 测试1. Keras官方Mnist例子https://keras.io/examples/vision/mnist_convnet/2. 改造模型2.1 加载keras相关模块import osimport tempfileimport numpy as np# fr原创 2020-11-11 08:56:12 · 1235 阅读 · 1 评论 -
RNN学习之时间序列预测sin正弦函数
在学习《Tensorflow实战Google深度学习框架》的循环神经网络应用样例:预测sin正弦函数的时间序列问题。源码运行一直有问题。如下错误:ValueError: Trying to share variable rnn/multi_rnn_cell/cell_0/basic_lstm_cell/kernel, but specified shape (60, 120) and found shape (40, 120).找原因,网上看到有人从多层LSTM入手,改为list添加两层Cell。原创 2020-11-05 23:11:20 · 701 阅读 · 0 评论 -
从LeNet-5 CNN模型入门PyTorch
从LeNet-5 CNN模型入门PyTorch1. PyTorch 准备1.1 PyTorch特点2. 完整代码2.1 LeNet模型2.2 训练2.2 测试3. 解读PyTorch3.1 CNN Api3.1.1二维卷积Conv2d1. PyTorch 准备最好安装PyTorch独立环境,和其他深度学习框架的环境分开。具体安装细节,官方网站最全。https://pytorch.org/get-started/previous-versions/注:安装的时候,将torchvision包也一起安装了原创 2020-10-16 16:54:20 · 392 阅读 · 1 评论