- 博客(89)
- 收藏
- 关注
RSS订阅
原创 深度学习资料整理目录，与大家一起讨论
目录1. 空洞卷积作用... 62. Image Pyramid. 63. SPP（Spatial Pyramid Pooling）... 64. deformable convnets V1&V2. 84.1 V1和V2区别... 95. bigbatch 训练... 106. 多GPU并行训练... 107. RoI Pooling与RoIWrap Pooling与RoIAlign Pooling与Preci...
2020-06-02 09:33:33
533
2
转载 堆叠hourglass网络
本文目录1. 简介2. stacked hourglass3. hourglass4. 上采样myUpsample5. 残差模块6. conv7. ConvBlock1. 简介该论文利用多尺度特征来识别姿态，如下图所示，每个子网络称为hourglass Network，是一个沙漏型的结构，多个这种结构堆叠起来，称作stacked hourglass。堆叠的...
2019-09-18 13:53:08
1153
2
原创 深度学习 残差块
目录恒等残差块——The identity block卷积残差块——The convolutional block 恒等残差块——The identity block The identity block是ResNets中使用的标准块，对应于输入激活（例如 a [1]）与输出激活具有相同维度（例如a [l +2]）。（1）、两层恒等残差块下图展示了ResNets的...
2019-09-18 13:16:28
22546
转载 深度学习最全优化方法总结比较（SGD，Adagrad，Adadelta，Adam，Adamax，Nadam）
本文将梳理：每个算法的梯度更新规则和缺点 为了应对这个不足而提出的下一个算法 超参数的一般设定值 几种算法的效果比较 选择哪种算法0.梯度下降法深入理解以下为个人总结，如有错误之处，各位前辈请指出。对于优化算法，优化的目标是网络模型中的参数θ（是一个集合，θ1、θ2、θ3 ......）目标函数为损失函数L = 1/N ∑ Li （每个样本损失函数的叠加求均值）。这个损失函数...
2019-09-08 21:03:30
1624
转载 Focal Loss理解
1. 总述Focal loss主要是为了解决one-stage目标检测中正负样本比例严重失衡的问题。该损失函数降低了大量简单负样本在训练中所占的权重，也可理解为一种困难样本挖掘。2. 损失函数形式Focal loss是在交叉熵损失函数基础上进行的修改，首先回顾二分类交叉上损失：是经过激活函数的输出，所以在0-1之间。可见普通的交叉熵对于正样本而言，输出概率越大损失越小。对...
2019-09-07 16:19:06
760
原创 smoothL1 loss不用L1 loss和L2 LOSS
为了从两个方面限制梯度： 当预测框与 ground truth 差别过大时，梯度值不至于过大； 当预测框与 ground truth 差别很小时，梯度值足够小。考察如下几种损失函数，其中 x 为预测框与 groud truth 之间 elementwise 的差异：损失函数对 x 的导数分别为：观察 (4)，当 x 增大时 L2 损失对 x 的导数...
2019-09-07 13:08:21
1580
转载 CNN中FLOPs计算
转载地址：https://blog.csdn.net/sinat_34460960/article/details/84779219在这之前我们先看一下CNN的前向传播计算公式，便于理解什么是parameters和FLOPs，这里参考Andrew老师课堂上的课件，如下：前向传播过程其实就是将输入或上层输出左乘以一个W，然后加上一个b，最后使用合适的\sigma函数进行激活的过程，...
2019-04-17 13:36:03
3977
转载 最全的Detectron代码分析：从Faster R-CNN 到 Mask R-CNN
原创地址：http://rowl1ng.com/tech/faster-rcnn.htmlDetectron（使用caffe2）是face book开源的的各种目标检测算法的打包（比如mask rcnn、FPN的）。 本文mask rcnn的部分基于pytorch实现的一版Detectron：Detectron.pytorch（参考了Faster R-CNN的pytorch实现），需要安装...
2019-03-22 10:45:11
3865
转载 detectron中的blobs
原文：https://blog.csdn.net/u013548568/article/details/79430512主要是从roidb生成blobs的过程以上便是整体的流程图，那么简单说一下detectron产生anchor的过程相对于之前faster产生一系列的anchor不同，FPN在每一个level上面都会创建属于该level感受野的anchor，假设stride为4,8,...
2019-03-20 11:57:32
417
转载 detectron中的roidb
roidb数据结构roidb的类型是list, 其中的每个元素的数据类型都是dict, roidb列表的长度为数据集的数量(即图片的数量), roidb中每个元素的详细情况如下表所示:for entry in roidb 数据类型 详细说明 entry['id'] int 代表了当前image的img_id entry['file_name'] str...
2019-03-20 11:56:40
367
转载 faster RCNN系列之Non-local Neural Networks
原创地址：https://blog.csdn.net/u010158659/article/details/78635219Motivation“Non-local”直译为“非局部”。个人的理解是指特征提取时，当前输入数据的特征计算要考虑其它输入数据的信息。举例来说，非局部操作的关注点就是在于如何建立起图像上两个有一定距离的像素之间的联系，如何建立视频里两帧的联系，如何建立一段话中不同词的...
2019-01-09 09:34:21
405
转载 faster RCNN系列之Group Normalization
引用地址：https://blog.csdn.net/u014380165/article/details/79810040论文：Group Normalization论文链接：https://arxiv.org/abs/1803.08494Group Normalization（GN）是针对Batch Normalization（BN）在batch size较小时错误率较高而提出的改进...
2019-01-08 10:26:18
457
转载 渐进式神经网络结构搜索技术（Progressive Neural Architecture Search）（2018年最强最智能的图像分类）详解
转发地址为：https://yq.aliyun.com/articles/622265?spm=a2c4e.11155472.0.0.402c3fa6VbJvBH神经网络结构搜索是谷歌的AutoML的一个具体分支。约翰斯霍普金斯大学刘晨曦博士和Alan Yullie 教授，以及Google AI的李飞飞、李佳等多名研究者提出渐进式神经网络结构搜索技术，论文被ECCV 2018接收作为Oral。...
2018-12-12 21:40:59
6666
2
转载 HDFS的运行原理
简介HDFS（Hadoop Distributed File System ）Hadoop分布式文件系统。是根据google发表的论文翻版的。论文为GFS（Google File System）Google 文件系统（中文，英文）。HDFS有很多特点： ① 保存多个副本，且提供容错机制，副本丢失或宕机自动恢复。默认存3份。 ② 运行在廉价的机器上。 ③ 适合大
2018-07-08 17:03:47
168
原创 深度学习与信息安全（网络安全）结合几点启示
从事网络安全又几年时间，从事过早期FW、UTM、WAF等开发工作，对网络安全应该有一定的基础；同时也从事人工智能，尤其是深度学习2年。一直想将深度学习与信息安全结合，提供一套解决方案。也看了一些这方面的相关文章，已经当前安全公司在这方面的研究，大体总结如下：一、深度学习与信息安全结合的当前形势： 信息安全公司将深度学习与信息安全结合，国内应该才刚刚起步，的确有些公司已在尝试...
2018-07-08 16:53:11
5799
1
转载 FPN（feature pyramid networks）算法详解
转自：https://blog.csdn.net/u014380165/article/details/72890275 这篇论文是CVPR2017年的文章，采用特征金字塔做目标检测，有许多亮点，特来分享。论文：feature pyramid networks for object detection 论文链接：https://arxiv.org/abs/1612.0...
2018-06-20 11:43:56
591
转载 DenseNet算法详解（2017 CVPR，resnet改良）
转自：https://blog.csdn.net/u014380165/article/details/75142664论文：Densely Connected Convolutional Networks 论文链接：https://arxiv.org/pdf/1608.06993.pdf 代码的github链接：https://github.com/liuzhua...
2018-06-20 11:33:51
3871
转载 ResNeXt算法详解（resnet提升篇）
转自：https://blog.csdn.net/u014380165/article/details/71667916论文：Aggregated Residual Transformations for Deep Neural Networks论文链接：https://arxiv.org/abs/1611.05431PyTorch代码：https://github...
2018-06-20 11:29:32
30078
7
转载 目标检测|YOLOv2原理与实现(附YOLOv3)
转发：https://zhuanlan.zhihu.com/p/35325884前言在前面的一篇文章中，我们详细介绍了YOLOv1的原理以及实现过程。这篇文章接着介绍YOLOv2的原理以及实现，YOLOv2的论文全名为YOLO9000: Better, Faster, Stronger，它斩获了CVPR 2017 Best Paper Honorable Mention。在这篇文章中，作者首先在Y...
2018-06-05 15:15:17
8237
3
转载 GoogLeNet 之 Inception(V1-V4)
转载：http://blog.csdn.net/diamonjoy_zone/article/details/70576775参考：1. Inception[V1]: Going Deeper with Convolutions2. Inception[V2]: Batch Normalization: Accelerating Deep Network T
2017-11-26 12:16:49
6778
转载 WAFaas modsecurity整体规则的介绍
安装脚本：wget -O /tmp/modsecurity.sh -t 0 http://lnamp.yundaiwei.com/modsecurity/install.sh&&sh /tmp/modsecurity.sh* mod_security是Apache服务器的一个模块，可以有效防护SQL注入、xss跨站等攻击方式。* 安装使用mod_security模块会增加CPU占用，请
2017-06-20 10:37:32
2104
转载 LBaas之（六）python-neutronclient架构分析
python-neutronclient架构分析命令执行流程图 1 命令执行流程 当执行neutron命令时，Python-neutronclient实际执行shell.py中的main函数。在main函数中，构造一个NeutronShell对象，然后调用该对象的run()函数。在run()函数中，进行log配置、参数解析、等操作，然后调用run_subco
2017-05-30 22:01:57
1184
转载 LBaas之（五） Liberty版本Neutron LBaas实现分析
架构模块示意图 这里参考的是lbaasv2的driver，neutron_lbaas.conf中的service_provider即为lbaasv2的driver： service_provider=LOADBALANCERV2:Haproxy:neutron_lbaas.drivers.haproxy.plugin_driver.HaproxyOnHostPluginDriver
2017-05-30 21:56:20
1834
转载 LBaas之（四）Neutron/LBaaS/API
目录1OpenStack LBaaS API 1.01.1Overview1.1.1Intended Audience1.1.2Document Change History1.1.3Resources1.2Chapter 1. Overview1.2.1High-Level Task Flow1.2.2Concepts
2017-05-27 08:50:05
1058
转载 LBass之（三）Neutron LBaaS Service基本知识
在OpenStack Grizzly版本中，Quantum组件引入了一个新的网络服务：LoadBalancer（LBaaS），服务的架构遵从Service Insertion框架。LoadBalancer为租户提供到一组虚拟机的流量的负载均衡，其基本实现为：在neutron-lbaas-agent中生成Haproxy的配置文件然后启动Haproxy。Neutron LBaaS Service
2017-05-27 08:45:51
1547
转载 LBaas只（二） Neutron中的L4/L7高级服务框架与LBaaS
Service InsertionService Insertion是Neutron中实现L4/L7层服务的框架。Neutron以前只有一级插件结构用于实现各种L2层技术(如LinuxBridge,OVS等，部署时分两块：用于和数据库打交道的NeutronPlugin+用于干实际事情的L2Agent），对于L3层的路由和dhcp是采用单独的agent(l3-agent,dhcp-agent
2017-05-27 08:43:57
503
转载 LBaas之（一）官网配置
ContentsLBaaS v1LBaaS v2Configuring LBaaS v2 with an agentConfiguring LBaaS v2 with OctaviaAdd LBaaS panels to DashboardLBaaS v2 operationsBuilding an LBaaS v2 load balancerAdding an
2017-05-27 08:41:39
1201
转载 openstack plugin 之（九）怎样修改 Openstack Horizon（Dashboard）的显示界面
上一篇文章介绍了 Dashboard 的基本结构框架，那接下来的问题就是如何在这个框架中加入我们自己想要的内容了。在真正动手之前，让我们先来看看官方的页面是怎么做出来的。首先我们进入 /usr/share/openstack-dashboard/openstack_dashboard/dashboards/admin/networks 文件夹下面，可以看到有这几个文件和子文件夹：../netw
2017-05-25 15:55:05
1772
1
转载 openstack plugin 之（八）怎样修改 Openstack Horizon（Dashboard）的显示界面
Openstack 有很多项目，比如 nova 是虚拟机管理，neutron 是虚拟网络管理， glance 是存储管理，而 horizon 是负责 Openstack 的统一界面。horizon 的源代码和 neutron 的不太一样，分布在两个地方，一个是 /usr/lib/python2.7/dist-packages/horizon 下面，这里放的是一些最基本的、可以共享的类、表格和模板等
2017-05-25 15:54:04
2562
转载 openstack plugin 之（七）怎怎样写 OpenStack Neutron 的 Extension
上文说到需要在 /neutronclient/v2_0/myextension/extension.py 中分别定义五个 class：List/Show/Create/Delete/UpdateExtension。具体形式如下：import argparseimport loggingfrom neutronclient.neutron import v2_0 as neut
2017-05-25 15:52:55
464
转载 openstack plugin 之（六）怎样写 OpenStack Neutron 的 Extension
通过上几章的介绍，我们现在的 myplugin 文件夹看上去应该是这样的：- neutron/ - plugins/ - myplugin/ - __init__.py - plugin.py - extensions/ - __init__.py - myextension.py -
2017-05-25 15:51:46
410
转载 openstack plugin 之（五）怎样写 OpenStack Neutron 的 Extension
接着之前一篇文章，再来谈谈 Extension 的具体实现问题。我使用的是本地数据库加远程API调用的方法，所以先要定义一下数据库中 myextension 如何存储。首先，我们可以在自己的 plugin 根目录下新建一个 db 文件夹，以及三个文件：- neutron/ - plugins/ - myplugin/ - __init__.py -
2017-05-25 15:47:04
363
转载 openstack plugin 之（四）如何区分 OpenStack Neutron Extension 和 Plugin
原文链接：https://www.cnblogs.com/zhutianshi/p/3902315.htmlNeutron 里面的 extension 和 plugin 是非常相似的两个概念，我花了好久才貌似搞懂了两者的区别，还不一定完全正确。在OpenStack 的官网wiki中，可以找到它们两个的定义：Plugin：Neutron exposes a logical API ...
2017-05-25 15:45:45
520
3
转载 openstack plugin 之（三）怎样写 OpenStack Neutron 的 Extension
前两篇文章讨论了怎么写一个 Neutron 的插件。但是最基本的插件只包括 Network， Port，和 Subnet 三种资源。如果需要引入新的资源，比如一个二层的 gateway 的话，就需要在插件的基础上再写一个 extension， 也就是扩展。Neutron 已经预定义了很多扩展，可以参看 neutron/extensions 下面的文件，我在这里就不一一列举了。如果正好有一种是你
2017-05-25 15:44:32
517
转载 openstack plugin 之（二）怎样写 OpenStack Neutron 的 Plugin
其实上一篇博文中的内容已经涵盖了大部分写Neutron插件的技术问题，这里主要还遗留了一些有关插件的具体实现的问题。首先，Neutron对最基本的三个资源：Network, Port 和 Subnet 的基本调用都已经定义好了API接口。如果你的插件也需要用到这些资源，最好直接实现它们的接口。API接口的定义可以再 neutron/neutron_plugin_base_v2.py 这个文件中
2017-05-25 15:42:27
502
转载 openstack plugin 之（一）怎样写 OpenStack Neutron 的 Plugin
鉴于不知道Neutron的人也不会看这篇文章，而知道的人也不用我再啰嗦Neutron是什么东西，我决定跳过Neutron简介，直接爆料。首先要介绍一下我的开发环境。我没有使用DevStack，而是直接在电脑上安装了三个Virtual Box，然后根据OpenStack的Ubuntu 安装指南部署了一个环境：一个控制节点，一个网络节点和一个计算节点。接下来我会直接在控制节点上修改 /neutro
2017-05-25 15:41:09
732
1
转载 NAPI 之（三）——技术在 Linux 网络驱动上的应用和完善
前言：NAPI 是 Linux 上采用的一种提高网络处理效率的技术，它的核心概念就是不采用中断的方式读取数据，而代之以首先采用中断唤醒数据接收的服务程序，然后 POLL 的方法来轮询数据，（类似于底半（bottom-half）处理模式）；从我们在实验中所得到的数据来看，在随着网络的接收速度的增加，NIC 触发的中断能做到不断减少，目前 NAPI 技术已经在网卡驱动层和网络层得到了广泛的应用，驱
2017-05-25 10:05:52
710
转载 NAPI之（二）——机制分析
NAPI 的核心在于：在一个繁忙网络，每次有网络数据包到达时，不需要都引发中断，因为高频率的中断可能会影响系统的整体效率，假象一个场景，我们此时使用标准的 100M 网卡，可能实际达到的接收速率为 80MBits/s，而此时数据包平均长度为 1500Bytes，则每秒产生的中断数目为： 80M bits/s / (8 Bits/Byte * 1500 Byte) = 6667 个中断 /s
2017-05-25 10:03:38
723
转载 NAPI之（一）——原理和实现
概述 NAPI是Linux新的网卡数据处理API，据说是由于找不到更好的名字，所以就叫NAPI(New API)，在2.5之后引入。简单来说，NAPI是综合中断方式与轮询方式的技术。中断的好处是响应及时，如果数据量较小，则不会占用太多的CPU事件；缺点是数据量大时，会产生过多中断，而每个中断都要消耗不少的CPU时间，从而导致效率反而不如轮询高。轮询方式与中断方式相反，它更适合处
2017-05-25 09:54:51
12616
转载 经典KVM详解，太详细太深入了
KVM 介绍（1）：简介及安装http://www.cnblogs.com/sammyliu/p/4543110.html学习 KVM 的系列文章： （1）介绍和安装（2）CPU 和 内存虚拟化（3）I/O QEMU 全虚拟化和准虚拟化（Para-virtulizaiton）（4）I/O PCI/PCIe设备直接分配和 SR-IOV（5）libvirt
2017-05-24 09:22:31
18330
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人