- 博客(29)
- 收藏
- 关注
原创 在香橙派AIPro上运行Ascend C自定义算子
CANN社区版从8.0RC1.alpha001开始,已经支持Atlas 200 A2推理产品进行Ascend C算子开发。据此,笔者在香橙派AIPro开发板上进行Ascend C环境搭建和例程运行。
2024-03-15 11:15:03
2106
1
原创 2023CANN训练营第2季————Ascend C算子Tiling切分原理与实战
使用Ascend C进行昇腾AI芯片算子开发,开发者仅需要把关注点放在数据切分和计算逻辑实现上。固定shape算子切分相对简单,动态shape的算子需要如何去实现呢?本篇笔记从复习切分的基本概念出发,讲述了一种动态shape的切分方法,并编程进行了验证。
2024-01-01 14:02:55
1141
原创 【腾讯云HAI域探秘】体验半小时在HAI上跑起Segment Anything
在使用GPU进行AI开发时,我们经常会被各种底层固件和驱动的版本,操作的权限,软件版本兼容,莫名其妙的环境报错,龟速的下载速度劝退。腾讯云高性能应用服务 HAI 不同于当下的“云算力服务器”,秉持着为AI全流程开发提供优质服务的理念,通过智能选型、一键部署、可视化界面等为开发者在GPU和AI之间架起一座桥梁,更难得的是对热门的大模型做了进一步的优化,更好地释放GPU算力,帮助开发者打造更便捷、更高效的AI应用。
2023-12-12 22:29:46
117
原创 2023CANN训练营第2季——谈谈AscendC算子学习体会
从何入手开始学习AscendC算子?本篇笔记谈谈学习体会:建议先搭建CPU和NPU的环境,把例程跑起来,对AscendC算子有个直观的感受;然后再去学习理论知识,本文精选了几个学习资料,并推荐了学习顺序;继而通过模仿例程,进行算子开发实战。希望对想学习AscendC算子开发,还没有动手的小伙伴有所裨益。
2023-10-25 17:11:38
160
原创 2023年CANN训练营第二季——叭一叭几款AscendC算子支持芯片的运算单元以及AscendC提供的API接口
AscendC编程时,我们需要获取可执行运算的核心数,本文描述了几款芯片的核心数,以及获取这些信息的API,并进行了简单调用测试。
2023-10-19 20:45:23
591
原创 2023·CANN训练营第二季——跟着sample仓例程,动手写(改)自己的AscendC算子
AscendC算子先进,硬核吗?必须是!那AscendC算子开发很难了,必须不是,算子开发很难,但AscendC开发算子不难!把复杂的事情流程(范式)化,把困难的事情简单(SPMD)化,这才是AscendC算子开发的硬核所在。这篇文档,交流下通过参考例程,动手写(改)出自己的AscendC算子。
2023-10-17 22:30:20
134
原创 2023·CANN训练营第二季——高阶班——搭建NPU开发调试环境下篇:使用启智NPU资源搭建成功
Ascend C算子开发支持孪生调试技术,可以在CPU侧模拟NPU侧的行为,因此可以先在CPU侧开发和调试。但进行单算子API方式和模型方式调用等操作时,还是需要真实NPU环境的,本文介绍如何在启智平台成功搭建AscendC算子开发和调试环境。
2023-10-11 10:22:43
350
原创 亚马逊云科技【云上探索实验室】第三季”——codewhisperer“码”上带来的“爽”体验
CodeWhisperer是一个很不错的生产力工具,一个能理解自然语言,“读”的懂代码和注释,并且能转换成正确代码的“大聪明,机灵鬼”谁不爱呢
2023-10-09 09:08:43
11304
原创 华为产品测评官-开发者之声——初识华为云软件开发生产线CodeArts
在骄阳似火的六七月间,参加了华为、CSDN共同打造的“2023华为产品测评官——开发者之声”第一期活动,同样也是热火朝天。本期开放体验的是5个产品,有4个之前或多或少都有过接触,只有软件开发生产线CodeArts之前完全不了解一个软件产品。经过本次体验,动手完成例程项目开发,我理解CodeArts是为软件开发服务的一个软件产品,是华为将在自己的软件研发实践、前沿研发理念、先进研发工具集成在一起,给开发者提供的一站式云端DevSecOps平台,解决了开发软件项目全过程中的众多痛点和堵点,是一款实实在在好软件。
2023-07-24 13:36:08
498
原创 【2023 · CANN训练营第一季】——开发者套件进阶,玩转智能小车课程笔记
基于新款开发者套件Atlas 200I DK A2的智能小车,采用人工智能的方法,对摄像头采集到实时影像进行推理,产生电机等运动机构的控制指令,在特定环境里,实现自动行驶、自动泊车、目标跟踪等功能。昇腾官方开源了“玩”小车的全部软、硬件资料,还准备了模拟环境,让还没有小车的小伙伴体验自动驾驶的乐趣。
2023-05-31 17:52:58
180
原创 【2023 · CANN训练营第一季】——应用开发深入讲解——模型转换的ATC工具
在昇腾平台做推理应用,需要将Caffe,TensorFlow等开源框架网络模型转换成Davinci架构专用模型(OM格式)。昇腾张量编译器(Ascend Tensor Compiler,简称ATC)是异构计算架构CANN体系下的模型转换工具,模型转换过程中,ATC会进行算子调度优化、权重数据重排、内存使用优化等具体操作,对原始的深度学习模型进行进一步的调优,从而满足部署场景下的高性能需求,使其能够高效执行在昇腾AI处理器上。
2023-05-31 17:39:17
312
原创 【2023 · CANN训练营第一季】——初识新一代开发者套件Atlas 200I DK A2
Atlas 200I DK A2开发者套件(小藤),终于要来了。不仅硬件功能更完善,更是下足了“软”功夫。极简高效的开发工具:一键烧录工具,支持在线/离线镜像烧录;模型适配工具,提供数据标注、数据集转换、模型迁移学习训练等完整适配功能。Chatbot、智能小车、机械臂、智能语言等丰富多彩的Demo,让开发者低门槛上手,体验到轻松玩转AI的乐趣。
2023-05-31 17:07:43
322
原创 【2023 · CANN训练营第一季】——将LeNet-5的Pytorch训练迁移到Modelarts平台进行训练
本篇笔记记录了如何将迁移好的Pytorch训练代码部署到Modelarts平台完成训练。完整的记录了,从环境搭建、代码准备、代码运行、结果保存的全过程,以及其中需要用的软件工具,重点是注册镜像等Modelarts的操作等,方便新手小伙伴们参考。
2023-05-31 16:35:03
199
原创 【2023 · CANN训练营第一季】——搭建环境:创建ECS,下载sample仓
环境搭建是CANN训练营实战的第一课,笔记描述了在华为云上创建ECS服务器,并修改Ubuntu源和pip源为国内镜像地址;在本地安装远程连接和查看代码的工具软件,以Windows为例介绍几个常用的工具软件;下载sample仓,并用Visual Studio Code连接到ECS上,远程打开sample目录。并描述了一个由于缓存导致Visual Studio Code连接失败的问题和解决方法。
2023-05-31 16:28:17
144
原创 【2023 · CANN训练营第一季】——学习优化-01跟着视频学CANN
2023年,CANN训练营已经进入第三个年头,2021年和2022年共举办了七期训练营,留下了丰富的学习视频。这些往期的视频回放存在B站的“昇腾Ascend”,更早期的视频在B站“起飞的老谭”上。现在将往期的视频,按推理、模型、算子这三个方向进行分类整理,方便大家学习和使用。 1、推理:有AscendCL(Ascend Computing Language)和MindX SDK的应用开发编程方式,MindX底层应该也是调用AscendCL接口。 Ascend
2023-05-31 12:12:27
151
原创 【2023 · CANN训练营第一季】——Ascend C算子沙箱实验
CANN 训练营的AscendC算子课程,以在线课程的方式提供了一个沙箱实验环境。这将有助于帮助开发者了解AscendC算子开发的软、硬件环境;熟悉自定义Ascend C算子的开发流程和关键代码;同时也可以了解到自定义算子包的部署路径及部署后的各类文件。
2023-05-31 11:27:28
119
原创 【2023 · CANN训练营第一季】——Ascend C算子开发入门——第三次课
不同于采用Python的DSL和TIK方式,Ascend C使用C/C++作为前端语言的算子开发工具,通过四层接口抽象、并行编程范式、孪生调试等技术,极大提高了算子的开发效率,助力AI开发者低成本完成算子开发和模型调优部署。第三节课的主要内容,是掌握端到端的Ascend C算子开发流程。 根据算子的输入张量描述、算子逻辑及算子属性,推理出算子的输出张量描述,包括张量的Shape,数据类型及数据排布格式等信息。下的TIK C++算子用例,将开发好的算子,编译好后,打包成自定义算子包,部署到系统中。
2023-05-31 01:14:58
337
原创 【2023 · CANN训练营第一季】——TIKC++算子开发入门——第二次课
Ascend C使用C/C++作为前端语言的算子开发工具,通过四层接口抽象、并行编程范式、孪生调试等技术,极大提高了算子的开发效率,助力AI开发者低成本完成算子开发和模型调优部署。
2023-05-30 22:50:34
218
原创 【2023 · CANN训练营第一季】——Ascend C算子开发入门——第一次课
Ascend C使用C/C++作为前端语言的算子开发工具,通过四层接口抽象、并行编程范式、孪生调试等技术,极大提高了算子的开发效率,助力AI开发者低成本完成算子开发和模型调优部署。
2023-05-30 22:21:13
364
原创 【2023 · CANN训练营第一季】——听CANN首席架构师解密Ascend C算子开发
2023年5月昇腾AI开发者峰会上,昇腾CANN首席架构师闫长江老师解密了全新的Ascend C算子编程体系。正好CANN训练营开设了Ascend C算子开发的课程,学习完成后再听大神的串讲,有种豁然开朗的感觉。
2023-05-30 21:48:11
83
1
原创 【2023 · CANN训练营第一季】——Ascend C sqrt算子实战
编写一个Ascend C的sqrt算子,并通过内核调用方式在cpu和npu模式下进行验证。在训练营沙箱环境下,cpu模式工作正常结果正确,npu模式下编译报错,以后有机会再研究。
2023-05-30 20:35:09
237
1
原创 【2023 · CANN训练营第一季】——Ascend C算子背后的魔法
Ascend C算子,2023年CANN的一个神奇魔法,得益于Ascend C算子的孪生调试技术,我们可以了解到更多的技术细节,本文试图对隐藏在多核并行,流水计算、dobule buffer背后的CANN Ascend C算子魔法进行摸索和理解,是什么样的技术让用户编写的简单代码可以先实现上述神奇的功能。本文没有请专业人士审查,分析的结果未必正确,只是个人的一种理解,如有错漏,欢迎大家指正!!!
2023-05-29 21:44:47
312
原创 【2023 · CANN训练营第一季】——Ascend C算子代码分析—Add算子(内核调用符方式)
Ascend C算子实践,以add算子为例,掌握开发流程,以及内核调用符方式的调试方法
2023-05-28 22:15:58
375
原创 【2023 · CANN训练营第一季】——在华为AI加速型ECS上安装Pytorch和Tensorflow框架
在华为云AI加速型ECS上安装pytorch和tensorflow框架
2023-05-28 09:11:04
196
1
原创 【2023 · CANN训练营第一季】——根据ReadMe运行第一个Sample例程
昇腾提供了以CANN AscendCL接口开发的样例仓,样例仓提供了C&C++、Python两种语言的样例,方便开发者学习。
2023-05-27 23:49:46
110
1
原创 【2023 · CANN训练营第一季】——编译时找不到头文件,找不到库文件,怎么办???
编译时找不到头文件,找不到库文件,怎么办???本文讲述了解决此类问题的方法
2023-05-27 22:21:12
2205
1
原创 【2023 · CANN训练营第一季】——模型推理时数据预处理方法及归一化参数计算
对待推理图片执行模型推理前,需要对图片进行预处理,以满足模型的输入要求。我们可以通过阅读模型训练代码,查看预处理的方法。在做基于Ascend CL模型推理时,通常使用的有OpenCV、AIPP、DVPP这三种方式,或者是它们的混合方式,本文比较了这三种方式的特点,并以Resnet50的pytorch模型为例,结合训练营提供的sample,说明了分别是如何实现预处理的。本文还介绍了AIPP做减均值/乘系数的参数是如何计算的。
2023-05-27 13:08:15
299
1
原创 【2023 · CANN训练营第一季】——4小时搞定训练营笔记
2023年CANN训练营,吸引了超800名学员参加,共发表了数百篇学习笔记。笔记难写吗?其实,只要动手去写就行!有哪些笔记可以写?这些笔记都需要怎么写?通过这篇笔记,和“新”入营的小伙伴们交流下,自己写作训练营笔记的体会。最后,再提醒大家一下,本期还有个神奇的笔记倍增魔法:根据规则,写好一篇笔记,发在N个平台,那就是N篇笔记。
2023-05-27 11:29:41
289
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人