文献阅读（44）

最新推荐文章于 2021-05-22 19:11:26 发布
最新推荐文章于 2021-05-22 19:11:26 发布
阅读量371 收藏 2
点赞数
分类专栏： NPU
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/tiaozhanzhe1900/article/details/103332814
版权

文章目录

  • 题目：Inference of Quantized Neural Networks on Heterogeneous All-Programmable Devices
  • 时间：2018
  • 会议：DAT
  • 研究机构：赛灵思

1 缩写 & 引用

FINN: A framework for fast, scalable binarized neural network inference 2017 FPGA
Accelerating binarized convolutional neural networks with software-programmable FPGAs 2017 FPGA

2 abstract & introduction

这篇论文描述了一个实时的目标检测的视频流，跑在Zynq UltraScale+(XCZU3EG)，实现了16FPS，网络是基于Tiny YOLO进行修改

3 构建tincy yolo

3.1 优化1：定点化+FINN：1fps

所有的feature map value是3bit，权重是-1或者1，输入层和输出层是8bit
中间四层最大池化和六层卷积层用FINN-based QNN实现
因为板子资源不够，不能层与层之间流水，只能一层计算完再计算下一层，latency会很大
然后这部分集成到Darknet，因为FINN是HLS的库函数，只需要在layer description中把函数指针重定向到库函数。

3.2 优化2：NEON向量化：2.5fps

开始一些跑在CPU的代码，Darknet并没有进行优化，就是简单的im2col然后变成矩阵乘法，这里用ARM的NEON进行优化，本周就是SIMD向量化的计算，然后把矩阵slice成竖直的条条，可以增加数据的局部性

3.3 优化3：网络结构tiny-yolo->tincy-yolo：5fps

在这里插入图片描述

在这里插入图片描述

3.4 优化4：并行化

开发板是Zynq UltraScale+ XCZU3EG，包括了四核ARM Cortex-A53和双核ARM Cortex-R5，而多核可以并行操作。通过线程池来实现并行

tiaozhanzhe1900
关注
专栏目录
文献阅读3
qq_40107571的博客
08-20 774
多尺度超分辨论文合集
python查阅文献
平平淡淡，戒急用忍，一生学闭嘴。
09-02 3873
隐藏 1.什么是Scihub？2.为什么我们需要用Python工具下载3.新姿势：用Python写好的API工具超方便下载论文4.论文关键词批量下载5.异步批量下载优化，增加超时控制6.根据DOI号下载文献7.工作原理 一、找到sci-hub目前可用的域名二、对用户输入的论文地址进行解析，找到相应论文三、下载 文献搜索对于广大学子来说真的是个麻烦事，如果你的学校购买的论文下载权限不够多，或者不在校园内，那就很头痛了。幸好，我们有Python制作的这个论文搜索工具，简化了我们学习的复杂性。 2020-05-2
基于PYNQ-Z2实现BNN硬件加速
谦豫
06-23 7078
用HLS工具在PYNQ-Z2开发板上实现BNN(二值神经网络)硬件加速——毕设小结 传统的图像识别算法已经较难适应新形势下的图像检测与识别的需求，基于深度学习的人工神经网络技术可以深度挖掘图像的特征信息，有广阔的应用前景。但是卷积神经网络的冗余性较高，二值神经网络作为其变体，大大简化了神经网络，便于硬件实现。因此，本文主要对二值神经网络各模块的加速设计进行研究。
FINN CNV二值网络论文
qq_35608277的博客
02-29 1567
一种快速，可扩展的二值化神经网络框架 2016 FINN: A Framework for Fast, Scalable Binarized Neural Network Inference Abstract FINN，一个使用灵活的异构流结构构建的快速和灵活的FPGA加速器的框架。实现了全连接、卷积和池化层，每层计算资源可以根据用户提供的吞吐量要求进行调整。在ZC706嵌入式FPGA平台上，系统...
二值神经网络（Binary Neural Network，BNN）
qq_27245709的博客
04-22 2822
转载自多篇博客，仅用作个人学习，如需删除，请见谅并联系本人。 BNN Bengio大神的著作《Binarized Neural Networks: Training Neural Networks with Weights and Activations Constrained to +1 or −1》： 链接：https://arxiv.org/abs/1602.02830 参考代码：h...
FINN（一）探索基于 FPGA 的深层神经网络推断的全新框架
点赞的都能无bug通过！
02-24 2201
FINN探索前言WHAT IS FINNFINN 有哪些特性？进一步了解 FINNWhy Xilinx? 前言 一个用于构建可扩展和FPGA上的快速BNN推理加速器 专门针对量化神经网络 每秒处理数亿次机器学习推断 您听说过 FINN 吗？没有？这个答案并不令人惊讶，因为这是一个用于探索基于 FPGA 的深层神经网络推断的实验框架的全新再实现，而且它现在仍是赛灵思研究实验室 (Xilinx Research Lab) 的测试版。然而， 虽然还是测试版，它已经发布了 v0.4b（测试版），并且自从在 GitH
FPGA2016~2018，FPL2017会议论文整理（持续更新）
Edward-Bao
01-07 9819
      目录                                                              FPGA2016会议论文                                         FPGA2017会议论文                                         FPGA2018会议论文       ...
【Binarized Neural Networks】论文笔记
我是一只比菜鸟还菜的菜鸟！
07-04 2400
[NIPS '16]论文地址：https://arxiv.org/pdf/1602.02830.pdf 代码地址：https://github.com/MatthieuCourbariaux/BinaryNet 这篇文章提出了一个新的网络：二值化网络(BNN)，在运行时使用二值权重和激活。在训练时，二值权重和激活用于计算参数梯度。即网络权重和激活参数只有1和-1两种。
文献阅读01期：LMNN
机语
05-22 468
今日Outline：20210522 - LMNN Spotlight：Weinberger K Q, 2009, Distance Metric Learning for Large Margin Nearest Neighbor Classification [1] 1.摘要&简介 针对KNN算法，将常用的欧式距离替换为马氏距离（Mahanalobis distance），提出新的目标函数，在MNIST数据集上进行测试，并将其命名为LMNN。 对比SVM，无需进行特别处理，便可进行多分.
伪时序分析文献阅读——PAGA
watermel__的博客
02-24 1万+
PAGA: graph abstraction reconciles clustering with trajectory inference through a topology preserving map of single cells PAGA：图抽象通过生成单个细胞的拓扑结构并保存其映射来调节聚类和轨迹推断 （在保留细胞图谱的基础上，完成细胞轨迹的推断，其实就是统一聚类和轨迹推断的空间结构） F. Alexander Wolf1 , Fiona K. Hamey2, Mireya Plass3,
【文献阅读】进化导向的策略梯度RL
wxmcp3的博客
07-15 1133
Evolution-Guided Policy Gradient in Reinforcement Learning Brief 文章链接 paper 代码链接code 作者 Kagan Tumer作者 另外一个作者是因特尔人工智能研究院的。Intel AI · Ai-Lab 俄勒冈州立大学协作机器人与智能系统研究所 Collaborative Robotics and Intelligent Systems Institute Oregon State University Abstract 文章是在.
模型压缩之 BinaryNet
丁丁的博客
12-03 1万+
1. 动机 深度学习在图像、语音、文本等领域都取得了巨大的成功，推动了一系列智能产品的落地。但深度模型存在着参数众多，训练和 inference 计算量大的不足。目前，基于深度学习的产品大多依靠服务器端运算能力的驱动，非常依赖良好的网络环境。 很多时候，出于响应时间、服务稳定性和隐私方面的考虑，我们更希望将模型部署在本地（如智能手机上）。为此，我们需要解决模型压缩的问题——将模型大小、内存占用...
Deep Compression/Acceleration（模型压缩加速总结）
Mars_WH的专栏
12-07 3322
模型压缩论文目录结构`structure`量化`quantization`Binarized Neural Networks: Training Deep Neural Networks with Weights and Activations Constrained to +1 or -1FINN: A Framework for Fast, Scalable Binarized Neural ...
pip超时问题(timeout)的解决方法
热门推荐
26岁从菜鸟开始
11-25 5万+
参考的两个链接： http://www.cnblogs.com/wuyong09/p/5698167.html www.cnblogs.com/llhf/p/python-proxy-for-pip.html 我们需要安装的python包一般通过pip工具下载，而pip的源地址是官方网址：pypi.python.org，网络协议：HTTPS。 但是我们在国内的某些站点下载速度特
深度学习：模型压缩/加速（Model Compression/acceleration)资源汇总
taopengtp的博客
07-04 1587
一.CVPR历年模型压缩（减枝）项目 https://github.com/he-y/Awesome-Pruning 二.结构 structure Searching for MobileNetV3 arxiv:https://arxiv.org/abs/1905.02244v1 中文解读：重磅！MobileNetV3 来了！ [BMVC2018] IGCV3: Interleaved...
《Soft Filter Pruning for Accelerating Deep Convolutional Neural Networks》论文笔记
m_buddy的博客
01-03 2465
1. 概述 这篇文章中给出了一种叫作SFP（Soft Filter Pruning），它具有如下两点优点： 1）Larger model capacity。相比直接剪裁掉网络中的filters，再在这个基础上finetune，这篇论文中的方法将其保留，这为优化网络的表达以及任务能力提供了更多空间。 2）Less dependence on the pretrained model，采用上述的方法可...
【论文笔记】二值化神经网络（Binarized Neural Network）
elaine_bao的专栏
03-22 1万+
文章链接：Binarized Neural Networks: Training Deep Neural Networks with Weights and Activations Constrained to +1 or -1 是2016年2月份新出的一篇文章。文章的主要思想是通过二值化weights和activations，来提高NN的速度和减少其内存占用。
文献阅读（10）BNN
tiaozhanzhe1900的博客
02-21 482
文章目录1 introduction1 abstract & introduction2 方法1 abstract & introduction1 abstract & introduction 题目：ShiftAddNet: A Hardware-Inspired Deep Network 时间：2020 会议：NIPS 研究机构：莱斯大学 1 introduction 从硬件的角度看，乘法操作可以用移位和加法实现，那么也就是说明，传统的给予乘法的卷积网络可以用移位和加法代替，
<模型汇总_1>牛逼的深度卷积神经网络CNN
lqfarmer的博客
04-26 1万+
最近在整理深度学习中用到的算法、常见的模型和优化技巧，于是，决定整理成一个深度学习模型和一个深度学习优化算法单元，大家一起学习，有什么问题可以在微信群里讨论，同时也热烈欢迎大家加入微信群“深度学习与NLP”，入群方式可以看公众号右下角。下面给出模型单元的目录： 1、CNN：Convolutional Neural Network 2、GAN：Generative Adversa
关于蒙特卡洛的相关文献
最新发布
05-21
以下是一些关于蒙特卡洛方法的经典文献： 1. Metropolis, N., & Ulam, S. (1949). The Monte Carlo method. Journal of the American Statistical Association, 44(247), 335-341. 这篇文章是蒙特卡洛方法的开创性文献之一，介绍了蒙特卡洛方法的基本思想和应用。 2. Hammersley, J. M., & Handscomb, D. C. (1964). Monte Carlo methods. Chapman and Hall. 这本书是蒙特卡洛方法的经典教材，详细介绍了蒙特卡洛方法的理论和应用。 3. Rubinstein, R. Y., & Kroese, D. P. (2016). Simulation and the Monte Carlo method. John Wiley & Sons. 这本书是蒙特卡洛方法的实践指南，介绍了蒙特卡洛方法的各种应用和实现技巧。 4. Glasserman, P. (2003). Monte Carlo methods in financial engineering. Springer Science & Business Media. 这本书介绍了蒙特卡洛方法在金融工程中的应用，包括期权定价、风险管理等方面。 5. Robert, C. P., & Casella, G. (2004). Monte Carlo statistical methods. Springer Science & Business Media. 这本书介绍了蒙特卡洛方法在统计学中的应用，包括贝叶斯统计、马尔可夫链蒙特卡洛等方面。 以上文献只是蒙特卡洛方法领域的冰山一角，如果你想深入了解蒙特卡洛方法，还需要阅读更多相关文献。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值