如何编译并调试NVDLA编译器源码

已于 2022-11-20 09:45:40 修改
阅读量1.3k 收藏 7
点赞数 5
分类专栏： nvdla 文章标签： caffe 深度学习 人工智能
于 2022-11-20 09:04:06 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/yvbycf/article/details/127922123
版权
本文介绍了NVDLA编译器的背景和工作原理，包括其在Caffe框架下的神经网络模型转换。接着，详细阐述了如何在docker容器和Ubuntu16.04上编译及调试NVDLA编译器源码，并分享了基于GDB和VSCode的调试技巧。此外，提到了NVDLA软件栈存在的问题，以及通过Tengine扩展NVDLA前端的可能性。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

如何编译并调试NVDLA编译器源码

一.NVDLA编译器

1.1 什么是NVDLA？

NVDLA简单来说就是英伟达公司开源的AI处理器框架。NVDLA处理器主要包括Convolution Core,SDP,CDP,PDP等几个部分，分别进行卷积，线性运算，池化运算等等。可以单个模块工作，也可以多个模块协同工作。比如说Convlotion卷积得到的结果可以作为SDP的输入进行relu计算。

为了让NVDLA的硬件可以更高效的配置，官方还开源了配套的软件工具链。

  • compiler 编译器
  • runtime 运行时
  • kmd 内核驱动程序

其中compiler就是本文要介绍的重点，笔者是研0进入实验室接触的编译器项目。苦于开发经验不足，在大型项目的开发和源码阅读调试上走了很多的弯路，本文主要记录了compiler源码阅读的一些心得和实践经验！

1.2 NVDLA软件栈是如何工作的

nvdla compiler

  • NVDLA编译器主要是将市面上主流框架描述的神经网络模型层层抽象&#
了解本专栏 订阅专栏 解锁全文 超级会员免费看
OSDT19-NVDLA开源编译器分析和对比.pdf
12-09
OSDT19-NVDLA开源编译器分析和对比
nvdla 入门翻译文档.pdf
08-31
翻译的NVDLA 加速引擎的文档，学习交流，一块进步！
NVDLA compiler
夏天Alex
04-14 3800
NVDLA简介 nvdia深度学习加速器(NVDLA)是一种免费开放式架构，具有可扩展性，高度可配置性，旨在简化集成和可移植性。NVDLA软件生态系统包括一个设备上的软件堆栈（开源版本的一部分），一个完整的培训基础架构，用于构建包含深度学习的新模型，以及将现有模型转换为可在设备上使用的形式的解析器软件。可以提供其自己的硬件平台以及软件内核： NVDLA可以加速神经网络推理工作，可分两步完成 针对DLA硬件优化训练有素的神经网络，并将图形转换为DLA HW指令。转换后的图形将保存到称为可加载的平面缓冲区
全球首个软硬件推理平台 ：NVDLA 编译器正式开源
HyperAI超神经
09-16 904
By 超神经场景描述：为深度学习设计新的定制硬件加速器，是目前的一个趋势，但用一种新的设计，实现最先进的性能和效率却具有挑战性。近日，英伟达开源了软硬件推理平台 NVAD...
delphi7无法编译已经使用的单元怎么解决_NVDLA 深度学习推理编译器现已开源
weixin_39854681的博客
11-29 198
为深度学习设计新的定制化硬件加速器，是件备受广大开发者欢迎的事情，但是如想要这种新的设计能够同时实现最先进的性能和效率，却是一项复杂且具有挑战性的难题。两年前，NVIDIA为NVIDIA深度学习加速器（NVIDIA Deep Learning Accelerator，简称：NVDLA）的硬件设计开源代码，以帮助推动在定制化硬件设计中采用高效的AI推理。同样的NVDLA也被移植在NVIDIA Jet...
全球首个软硬件推理平台 ：NVDLA编译器正式开源
AI科技大本营
09-17 1227
作者 | 神经小姐姐来源 |HyperAI超神经（ID:HyperAI）【导读】为深度学习设计新的定制硬件加速器，是目前的一个趋势，但用一种新的设计，实现最先进的性能和...
nvdla_investigate
weixin_42749767的博客
10-23 5248
1.NVDLA简介 英伟达深度学习加速器(NVDLA)是一种免费开放式架构，NVDLA具有可扩展性，高度可配置性，旨在简化集成和可移植性。NVDLA软件生态系统包括一个设备上的软件堆栈（开源版本的一部分），一个完整的培训基础架构，用于构建包含深度学习的新模型，以及将现有模型转换为可在设备上使用的形式的解析器软件。可以提供其自己的硬件平台以及软件内核： 硬件架构：基于Xavier–全球首款专为汽车...
手把手教你在FPGA上移植NVDLA+Tengine并且跑通任意神经网络（1）
yvbycf的博客
11-26 5750
在FPGA上移植AI加速器，跑通任意神经网络模型
学习开源硬件：开源IP，开源RISC-V与开源SoC等
纸上谈芯的专栏
01-01 3729
目录 开源IP 开源RISC-V 开源SoC 当下，“开源”已经变得越来越普遍，越来越深入人心。各行各业开源项目如火如荼，无论是个人还是企业都在积极参与。各路好汉踊跃地分享自己的劳动成果，公布源代码，开放指令集或有更宏大的愿景来建立新的生态及建设产业链。 在这其中，“开源硬件”对于集成电路从业人员来说无疑是一缕清泉。对于软件来说，开源项目之多，开源规模之大，开源方面之广，硬件显然是难以比...
NVDLA runtime vp 搭建
夏天Alex
04-15 2516
简介 NVDLA虚拟平台提供了一个可精确注册的系统，可以在该系统上快速开发和调试软件。该虚拟平台基于GreenSocs QBOX，它是与QEMU和SystemC共同仿真的解决方案。下面的图89显示了NVDLA虚拟模拟器的顶层示意图。包含ARMv8“虚拟” SoC板的QEMU仿真器，以提供高性能CPU仿真和通用设备。该仿真器包装在带有一组TLM-2.0接口的标准SystemC模块内，可以与其他SystemC模块进行交互。 1、下载 Virtual Simulator $ git clone https:/
NVDLA专题13：NVDLA软件部分设计和Compiler library
最新发布
fangfanglovezhou的博客
09-10 709
NVDLA软件部分设计和Compiler library介绍。
NVDLA的工作流程分析
02-23
源代码阅读 NVDLA编译器 默认参数设置 Usage: ./nvdla_compiler [options] --prototxt <prototxt> --caffemodel <caffemodel> where options include: -h print this help message -P project -i <inputpath> inputPath -o <outputpath> outputs wisdom files in 'outp
NVDLA RunTime编译运行
宁月的博客
05-06 2254
1. 构造kmd 2. 构造umd 3. 运行Complier生成loadabel 4. 在VP运行RunTime 详细内容见笔记 http://note.youdao.com/noteshare?id=6a0fa4ab9a362cfdabc861ecadc0dd5a
NVDLA专题1：NVDLA框架介绍
fangfanglovezhou的博客
08-12 2389
NVDLA专题1,NVDLA框架总结和介绍。
NVDLA MAC参数的一些疑惑
qq_42850441的博客
06-17 171
1 欢迎使用Markdown编辑器 斜体样式 你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想**加粗样式typecho**学习如何使用Markdown编辑器, 可以仔细阅读这篇文章，了解一下Markdown的基本语法知识。 新的改变 我们对Markdown编辑器进行了一些功能拓展与语法支持，除了标准的Markdown编辑器功能，我们增加了如下几点新功能，帮助你用它写博客......
nvcc编译器参数
热门推荐
fb_help的专栏
02-08 1万+
nvcc编译器参数 参考： http://docs.nvidia.com/cuda/cuda-compiler-driver-nvcc/index.html https://www.cnblogs.com/shrimp-can/p/5567518.htm nvcc编译器参数 示例 nvcc编译器参数 nvcc是cuda程序的编译器，了解它的一些关键参数有利于我们更加从容，更加准...
Ubuntu16.04 NVDLA环境搭建
hywCogost的专栏
08-27 2461
Download the Virtual Simulator $ git clone https://github.com/nvdla/vp.git $ cd vp $ git submodule update --init --recursive Install Dependencies 1. Install required tools and libraries $ sudo apt-g...
NVDLA VP使用指南
lbai7134的博客
12-23 3582
本文用流水账的形式记录如何使用nvdla的virtual platform编译生成NVDLA硬件可识别代码并且在QEMU中模拟运行。NVDLA硬件为full模式，并没有对硬件做任何的配置。 下载nvdla/vp中提到的docker，所有的编译工具都已经预编译并且放在/usr/local/nvdla/中 docker pull nvdla/vp 准备caffe模型 可以从以下链接下载编译好了的caffe模型，并从以下链接获取测试样例。此处需要注意，caffe模型是使用黑底白字训练的，而我们得到的测试
如何编译并调试nvdla
07-14
编译和调试NVDLA需要按照以下步骤进行： 1. 安装依赖项：首先，确保您的系统上安装了必要的依赖项，如CMake、GCC、G++、Flex和Bison。您还需要安装Verilator，这是用于进行模拟编译和调试的工具。 2. 下载源代码：从NVDLA GitHub存储库中获取源代码。您可以使用Git命令或直接下载源代码的压缩包。 3. 配置和生成：进入源代码目录，并创建一个新的构建目录。使用CMake配置项目并生成构建系统的Makefile。在这个过程中，您可以指定一些选项，如生成的目标架构（HLS或FPGA），以及调试支持等。 4. 编译：在生成的构建系统目录中，运行make命令来编译源代码。这将生成NVDLA的可执行文件和库文件。 5. 运行模拟：如果您希望进行模拟调试，可以使用Verilator工具来运行NVDLA的模拟。具体的命令将根据您的具体配置和选项有所不同。在模拟过程中，您可以使用GDB等调试工具来调试代码。 6. 考虑性能优化：如果您希望进一步优化NVDLA的性能，可以通过调整相关的优化选项和参数来实现。这可以包括使用更高级的编译器优化选项、调整存储器访问模式等。 7. 测试和验证：一旦您成功编译和调试了NVDLA，您可以使用一些测试向量和输入数据来验证其功能和正确性。您还可以使用性能基准来评估其性能。 通过遵循以上步骤，您应该能够成功编译和调试NVDLA，并根据您的需求对其进行优化和验证。请注意，这只是一个简单的概述，具体的步骤可能因环境和配置而有所不同。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

雪中奇侠

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值