DianNao系列加速器总结（1）——架构与运算单元

最新推荐文章于 2022-06-01 08:34:53 发布
最新推荐文章于 2022-06-01 08:34:53 发布
阅读量1.6k 收藏 12
点赞数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44546360/article/details/89877158
版权

本文为DianNao系列加速器总结的第一篇，有较多公式，简书不支持公式渲染，公示完整版待该总结完成后将统一发表在个人博客

简介

DianNao系列是中科院计算所推出的系列机器学习加速器，包括以下四个成员：

  • DianNao：神经网络加速器，DianNao系列的开山之作。
  • DaDianNao：神经网络“超级计算机”，DianNao的多核升级版本
  • ShiDianNao：机器视觉专用加速器，集成了视频处理部分
  • PuDianNao：机器学习加速器，DianNao系列收山之作，可支持7种机器学习算法

DianNao系列相比于其他神经网络加速器，除了关心运算的实现外，更关心存储的优化。

整体架构

DianNao系列的整体架构比较类似，均分为以下三个部分：

  • 运算核心：完成对应的运算加速功能
  • 缓存：缓存输入输出数据与参数，减小访存带宽需求
  • 控制：协调运算核心和缓存的工作

前三代（DianNao，DaDianNao，ShiDianNao）的整体架构如下图所示：

7241055-d3afdf7b59a22621.png
DianNao_structure.png

其中：

  • NBin，NBout和SB：均为存储器，分别用于存储输入数据，输出数据或临时数据和参数
  • NFU：运算核心，用于完成神经网络相关的运算

以下为原论文中所绘制的架构图（左图为DianNao/DaDianNao，右图为ShiDianNao）：
[图片上传中...(PuDianNao_structure.png-dc039b-1525185332874-0)]

最低0.47元/天 解锁文章
无用技术研究所
关注
CPU,GPU,DPU,TPU,NPU,BPU等处理器的性能及概念
s13596191285的博客
03-16 127
CPU,GPU,DPU,TPU,NPU,BPU各种U还在傻傻分不清么？本文带你领略这些不同的U所代表的意义，让你有醍醐灌顶般的醒悟收获，有需要的朋友可以借鉴参考。
DianNao系列加速器总结（2）——存储与映射
月见樽
05-14 723
由于本文公式较多，简书不支持公式渲染，完整版已发布在个人博客 存储 DianNao系列的存储的设计理念是分裂存储，这样有几个好处： 增大带宽：相同大小的单个存储器和多个存储器相比，多个存储器能提供更大的带宽 匹配位宽：有些数据对位宽的需求不同，将位宽需求不同的数据放在不同位宽的存储器中可以避免位宽浪费 DianNao与DaDianNao DianN...
深度神经网络处理器--DianNao系列
yy171310916的博客
10-19 1085
全世界都在学中国话 一次看到这些 paper的名字，是在一个冰天雪地的，美国东北部偏僻的一个大学城里。听到印度女教授努力的发出‘dian nao’的发音，我心中不禁有一种温暖而自豪的感觉。我们花了整整半节课研究了diannao等一系列的产品。毕竟这一系列paper可以说是开启了AI加速器的先河了。之后才有了如今AI Accelerator百花齐放的局面，真可谓是前人‘挖坑’，后人‘灌水’。总而言之，这一系列产品尤其是Dian Nao 和Da Dian Nao在AI加速器发展过程中起到了举足轻重的作用。异国他
寒武纪DianNao系列论文
04-25
寒武纪系列论文原文：DianNao、DaDianNao、ShiDianNao、PuDianNao、Cambricon等
DianNao运算单元与体系结构分析
月见樽
12-24 332
首发于个人博客 运算单元 基本信息 名称 参数 数据输入位宽 bit 权值输入位宽 bit 数据输出位宽 bit 功能 矩阵乘法、最大值池化、平均值池化 乘法器数量 加法器数量 结构 strutrue.png NFU的整体结构如上所示，该部分分为三个部分，分别是NFU-1、NFU-2和NFU...
神经网络加速器设计（1）理论准备
qq_40985621的博客
03-28 1978
fpga神经网络卷积层加速器设计
AI芯片：服务器级处理器Dadiannao分析
qq_37719487的博客
01-26 1002
DaDianNao: A Machine-Learning Supercomputer 一、Diannao与Dadiannao   Diannao和Dadiannao这两篇文章都发表于2014年。如果把Diannao看作是一个嵌入式终端处理器，那么Dadiannao就是服务器上使用的大规模高性能处理器。  以前听过龙芯CPU的发展方向，3A5000工艺提高主频，3C5000工艺增加核数。Diannao是在单核情况下对结构设计（主频）的探索，Dadiannao是对多核架构设计...
显示硬件发展与视频开发系列(6)----显示标注与视频处理单元(6)：NPU
qq_33277028的博客
03-02 783
NPU（Neural network Processing Unit）， 即神经网络处理器。用电路模拟人类的神经元和突触结构。NPU为神经网络而生，对神经网络进行硬件支持。 嵌入式神经网络处理器（NPU）采用“数据驱动并行计算”的架构，特别擅长处理视频、图像类的海量多媒体数据。视频与图像是人工智能数据的重要组成部分，在今天有着最广泛的应用。 NPU是网络处理器，可以认为是一个组件（或者子系统），有时候也称为NPU协处理器。NPU和TPU一样，偏...
TPU原理技术与xPU
吴建明wujianming_110117
06-01 2244
TPU原理技术与xPU
dadiannao_by Chenyunji
03-09
In this article, we introduce a custom multi-chip machine-learning architecture along those lines. We show that, on a subset of the largest known neural network layers, it is possible to achieve a speedup of 450.65x over a GPU, and reduce the energy by 150.31x on average for a 64-chip system. We implement the node down to the place and route at 28nm, containing a combination of custom storage and computational units, with industry-grade interconnects
AI论文集合
04-26
腾讯AI实验室17年在人工智能方向的优秀论文集合，主要是语音处理。
寒武纪 DaDianNao: A Machine-Learning Supercomputer
01-14
寒武纪 DaDianNao: A Machine-Learning Supercomputer
基于FPGA的深度学习加速器设计与实现
06-25
现场可编程门阵列FPGA作为常用的加速手段之一，具有高性能、低功耗、 可编程等特点。本文采用FPGA设计针对深度学习通用计算部分的加速器，主要工作有： 1)、分析深度神经网络、卷积神经网络的预测过程和训练过程算法共性和特 性，并以此为基础设计FPGA运算单元，算法包括前向计算算法、本地预训练算法和全局训练算法。 2)、根据FPGA资源情况设计基本运算单元，包括前向计算单元和权值更新 运算单元。运算单元均进行可配置和流水线设计，在适应不同规模深度学习神经 网络的同时具有高吞吐率。 3)、分析FPGA加速器的上层框架和数据通路，编写linux操作系统下驱动 程序以及面向上层用户简单易用的调用接口。 4)、通过大量实验测试分析影响加速器性能的各种因素，得到加速器的性能、能耗趋势，使用测试数据集与CPU、GPU平台进行性能、功率、能耗等参数对比，分析FPGA实现的优劣性。
《DaDianNao: A Machine-Learning Supercomputer》
凡物加倍磨治，皆能变化气质
02-28 600
阅读总结 DaDianNao:机器学习超级计算机 – MICRO2014 Abstract ： We show that, on a subset of the largest known neural network layers, it is possible to achieve a speedup of 450.65x over a GPU, and reduce the energy by 150.31x on average for a 64-chip system. III. THE GP
AI芯片：寒武纪NPU设计分析（DianNao）
热门推荐
evolone的专栏
06-22 2万+
国内人工智能处理器独角兽寒武纪，在这个领域，算是走在了世界前沿，经过最近几年的迅猛发展，取得了辉煌的成果。 最近花了些时间研究了下寒武纪发表的一系列论文中介绍的NPU的结构。 记录下来，算是对最近学习内容的总结。 寒武纪从2014年开始，发表了一系列的论文，本文仅分析其中几篇： （1）DianNao: A Small-Footprint High-Throughput Accelerato...
Reading Note(2)——DaDianNao
zheyuan的博客
10-23 257
0.Briefly Speaking 本文于2014年发布于MICRO(2014 47th Annual IEEE/ACM Inernational Symposium on Microarchitecture)上，本文的工作是在前作DianNao的基础上进一步对加速器访存进行优化得到的。主要思路就是：尽管CNNs和DNNs的访存需求很大，但是没有超出多结点系统片上存储的能力之和，所以如果可以将神经网络计算所需的所有数据分布式地存放在多个计算结点组成的系统上(本地)，这样就可以实现真正的高内部带宽和低外部通
VHDL & Verilog HDL 语言编程的经验之谈
evolone的专栏
07-27 3180
1.最近debug代码，发现一个RAM的读有问题。 波形大意是： 首先一共给RAM写了16个数据，然后再去依次读取数据，这个时候问题就来了，前面十五个数据都能正确读出，最后一个数据非但不能正确读出，而且还显示是红色未知不确定的值（XXXXXX）。 这是怎么回事？ 首先怀疑是没有正确写入。 去查看写入的代码及波形，并无异常。 其次，怀疑是没有正确读取，或许是读取地址有问题，读到未写值的地...
sizeof()、size()、length()
evolone的专栏
03-30 1万+
编程刷题中碰到的问题，由于对sizeof()的理解有误，认为sizeof()与函数size()和函数length()功能一样，导致我一个下午都在找错，最后终于……说多了都是泪…… 然后就在网上找解答，参考如下文章： (1)http://www.cnblogs.com/wanghetao/archive/2012/04/04/2431760.html 这篇文章探讨sizeof()，真的非常详细，
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值