- 博客(13)
- 收藏
- 关注
RSS订阅原创 【2023 - CANN训练营第二季】 --Ascend C (4)
kernel存放的正是之前我们实现的核函数核Add算子实现，我们需要修改的，根据CANN训练营第二季 --Ascend C (2)中Tilling的shape类型（固定，动态，非对齐）等知识来修改代码。算子原型主要描述了算子的输入输出、属性等信息以及算子在AI处理器上相关实现信息，并关联上述Tiling实现、Shape推导等函数。// 算子插件实现文件目录，单算子模型文件的生成不依赖算子适配插件，无需关注。// 由于不同的核有不同的数据量，所以不同的核有不同的offset。
2023-10-01 21:27:10
440
原创 【2023 - CANN训练营第二季】 --Ascend C (3)
根据上一节介绍，核函数中会调用算子类的Init和Process函数，本节具体讲解如何基于编程范式实现算子类。//使用DeQue接口从VecOut的Queue中取出LocalTensor。//使用EnQue将LocalTensor放入VecIn的Queue中。//使用FreeTensor将不再使用的LocalTensor进行回收。//使用FreeTensor释放不再使用的LocalTensor。// 主函数，调用算子的应用程序，含CPU域及NPU域调用。//Stage2：Compute函数实现。
2023-10-01 21:25:29
195
原创 【2023 - CANN训练营第二季 】-- Ascend C （2)Tilling
下面将从一个简单的Add算子为例介绍Tiling的实现流程。本样例中待处理数据的Shape大小可以平均分配到每个核上，并且可以对齐到一个data block（32B）的大小。
2023-10-01 21:23:40
343
原创 【2023 - CANN训练营第二季】 -- Ascend C(1)
Ascend C算子编程是SPMD（Single-Program Multiple-Data）编程，具体到Ascend C编程模型中的应用，是将需要处理的数据被拆分并同时在多个计算核心（类比于上文介绍中的多个进程）上运行，从而获取更高的性能。在核函数中，需要为在一个核上执行的代码规定要进行的数据访问和计算操作，当核函数被调用时，多个核都执行相同的核函数代码，具有相同的参数，并行执行。编程中使用到的函数可以分为三类：核函数（device侧执行）、host侧执行函数、device侧执行函数（除核函数之外的）。
2023-10-01 21:20:40
433
原创 【2023 · CANN训练营第一季】1.基础理论知识
华为公司面向计算机视觉、自然语言处理、推荐系统、类机器人等领域量身打造了基于“达芬奇 (DaVinci)架构”的异腾(Ascend) A处理器，开启了智能之旅。华为的AI全栈解决方案包括硬件，AI框架，CANN异构计算架构，相关SDK，部署平台生态等，其中，CANN作为软件和硬件之间的桥梁，向上兼容兼容多种AI框架，向下调用并加速硬件，是学习华为的AI全栈解决方案的重中之重。另外CANN本身还要连接上层的应用层和下层的计算硬件，具体功能可以看下方的一图解，在实际操作中，使用和感知较多的应该是其应用层。
2023-05-14 15:18:04
143
原创 【2023 · CANN训练营第一季】Pytorch模型的迁移和调优
在这一部分，首先介绍了pytorch的在线对接方案，以及达芬奇架构的计算单元，和Ascend-pytorch的安装。Vector贾盖各种基本的计算类型和许多定制的计算类型，主要包括ip16，p32，int32，int8等。在打通流程的通路之上，对于新增的网络类型或结构，只需涉及相关计框架类算子，反算类算子的开发和实现向图建立和实现机制等结构可保持复用。进入之后，在 模型开发（pytorch) - pytorch网络模型迁移和训练 - 模型迁移与训练 - 模型迁移 - 手工迁移中有详细解释。
2023-05-14 15:17:16
370
原创 【2023 · CANN训练营第一季】AI应用开发流程
在MobaXterm 左上角的session点击，之后将服务器的ip复制，用户名选择root,使用配置的密码或者密匙连接，连接成果后，首先使用 su - HwHiAiUser 切换用户，之后就可以根据readme去跑我们的样例了。本次CANN训练营将使用官方提供的云服务器和共享镜像，可以免去前期繁琐的环境配置，首先需要在华为云官网注册自己的账号，并在活动界面申请代金卷和共享镜像，之后等待几天收到共享镜像之后就可以前往华为云配置自己的ECS服务器。MobaXterm 的SSH链接。
2023-05-14 15:14:15
86
原创 【Mindstudio训练营第一期】新手班---实际操作过程中遇到的一些问题
报这个错说明deployment没有配置上，首先在file---setting---tools---deployments 里找到自己的服务器，选择然后apply,一般就可以了，：可能是模型转换出错，我一开始使用Ascend --- Model converter工具，转换模型，因为新手不熟悉很容易出错，因此建议使用atc命令重新转换模型试试。后面咨询了大佬说是权限问题。是直接关掉现在的界面，把需要的文件放到空白的文件夹里，重新打开file---open---对应的文件。在本次案例中可能涉及的操作。
2022-12-24 21:21:09
528
原创 【Mindstudio训练营第一期】新手班--对具体案例FASTSCNN的pipeline可视化和代码的解读
在实际设置中，最主要的是注意模块支持的数据类型，以及模块绑定的路径，如模型推理中的model Path,要绑定远端的模型路径，因为整个推理过程是要在远端跑的。在README中其实就已经有比较直观的对与各个插件模块的介绍，总体上如下图所示，整个Stream分成了输入---前处理---推理---后处理---输出。首先先将图像输入，放入。的FASTSCNN.om的模型中进行推理，之后在后处理模块dataserialize，将stream结果组装成json字符串输出中，最后通过appsink输出结果。
2022-12-24 21:17:43
120
原创 【Mindstudio训练营第一期】新手班，使用Mindstudio进行语义分割
在项目的Readme 中一般会提供详细的操作流程，在其中找到相关的模型和权重连接，下载后放在自己项目的model文件夹中，并在File --- deployment ---upload 同步两边的文件夹。将从网上下载好的测试照片改名为test.jpg，放置在自己的项目目录下，不需要同步，直接RUN，运行正常，就能将远端的结果mask.png同步回本地。链接：https://www.hiascend.com/forum/thread-0229107184941536124-1-1.html。
2022-12-24 21:11:16
117
原创 使用Mindstudio连接ECS服务器并进行环境搭建【Mindstudio训练营第一期】
使用Mindstudio连接ECS服务器并进行环境搭建【Mindstudio训练营第一期】
2022-12-24 21:09:11
166
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人