- 博客(29)
- 收藏
- 关注
RSS订阅原创 在香橙派AIPro上运行Ascend C自定义算子
CANN社区版从8.0RC1.alpha001开始，已经支持Atlas 200 A2推理产品进行Ascend C算子开发。据此，笔者在香橙派AIPro开发板上进行Ascend C环境搭建和例程运行。
2024-03-15 11:15:03
2106
1
原创 2023CANN训练营第2季————Ascend C算子Tiling切分原理与实战
使用Ascend C进行昇腾AI芯片算子开发，开发者仅需要把关注点放在数据切分和计算逻辑实现上。固定shape算子切分相对简单，动态shape的算子需要如何去实现呢？本篇笔记从复习切分的基本概念出发，讲述了一种动态shape的切分方法，并编程进行了验证。
2024-01-01 14:02:55
1141
原创 【腾讯云HAI域探秘】体验半小时在HAI上跑起Segment Anything
在使用GPU进行AI开发时，我们经常会被各种底层固件和驱动的版本，操作的权限，软件版本兼容，莫名其妙的环境报错，龟速的下载速度劝退。腾讯云高性能应用服务 HAI 不同于当下的“云算力服务器”，秉持着为AI全流程开发提供优质服务的理念，通过智能选型、一键部署、可视化界面等为开发者在GPU和AI之间架起一座桥梁，更难得的是对热门的大模型做了进一步的优化，更好地释放GPU算力，帮助开发者打造更便捷、更高效的AI应用。
2023-12-12 22:29:46
117
原创 2023CANN训练营第2季——谈谈AscendC算子学习体会
从何入手开始学习AscendC算子？本篇笔记谈谈学习体会：建议先搭建CPU和NPU的环境，把例程跑起来，对AscendC算子有个直观的感受；然后再去学习理论知识，本文精选了几个学习资料，并推荐了学习顺序；继而通过模仿例程，进行算子开发实战。希望对想学习AscendC算子开发，还没有动手的小伙伴有所裨益。
2023-10-25 17:11:38
160
原创 2023年CANN训练营第二季——叭一叭几款AscendC算子支持芯片的运算单元以及AscendC提供的API接口
AscendC编程时，我们需要获取可执行运算的核心数，本文描述了几款芯片的核心数，以及获取这些信息的API，并进行了简单调用测试。
2023-10-19 20:45:23
591
原创 2023·CANN训练营第二季——跟着sample仓例程，动手写（改）自己的AscendC算子
AscendC算子先进，硬核吗？必须是！那AscendC算子开发很难了，必须不是，算子开发很难，但AscendC开发算子不难！把复杂的事情流程（范式）化，把困难的事情简单（SPMD）化，这才是AscendC算子开发的硬核所在。这篇文档，交流下通过参考例程，动手写（改）出自己的AscendC算子。
2023-10-17 22:30:20
134
原创 2023·CANN训练营第二季——高阶班——搭建NPU开发调试环境下篇：使用启智NPU资源搭建成功
Ascend C算子开发支持孪生调试技术，可以在CPU侧模拟NPU侧的行为，因此可以先在CPU侧开发和调试。但进行单算子API方式和模型方式调用等操作时，还是需要真实NPU环境的，本文介绍如何在启智平台成功搭建AscendC算子开发和调试环境。
2023-10-11 10:22:43
350
原创 亚马逊云科技【云上探索实验室】第三季”——codewhisperer“码”上带来的“爽”体验
CodeWhisperer是一个很不错的生产力工具，一个能理解自然语言，“读”的懂代码和注释，并且能转换成正确代码的“大聪明，机灵鬼”谁不爱呢
2023-10-09 09:08:43
11304
原创 华为产品测评官－开发者之声——初识华为云软件开发生产线CodeArts
在骄阳似火的六七月间，参加了华为、CSDN共同打造的“2023华为产品测评官——开发者之声”第一期活动，同样也是热火朝天。本期开放体验的是5个产品，有4个之前或多或少都有过接触，只有软件开发生产线CodeArts之前完全不了解一个软件产品。经过本次体验，动手完成例程项目开发，我理解CodeArts是为软件开发服务的一个软件产品，是华为将在自己的软件研发实践、前沿研发理念、先进研发工具集成在一起，给开发者提供的一站式云端DevSecOps平台，解决了开发软件项目全过程中的众多痛点和堵点，是一款实实在在好软件。
2023-07-24 13:36:08
498
原创 【2023 · CANN训练营第一季】——开发者套件进阶，玩转智能小车课程笔记
基于新款开发者套件Atlas 200I DK A2的智能小车，采用人工智能的方法，对摄像头采集到实时影像进行推理，产生电机等运动机构的控制指令，在特定环境里，实现自动行驶、自动泊车、目标跟踪等功能。昇腾官方开源了“玩”小车的全部软、硬件资料，还准备了模拟环境，让还没有小车的小伙伴体验自动驾驶的乐趣。
2023-05-31 17:52:58
180
原创 【2023 · CANN训练营第一季】——应用开发深入讲解——模型转换的ATC工具
在昇腾平台做推理应用，需要将Caffe，TensorFlow等开源框架网络模型转换成Davinci架构专用模型（OM格式）。昇腾张量编译器（Ascend Tensor Compiler，简称ATC）是异构计算架构CANN体系下的模型转换工具，模型转换过程中，ATC会进行算子调度优化、权重数据重排、内存使用优化等具体操作，对原始的深度学习模型进行进一步的调优，从而满足部署场景下的高性能需求，使其能够高效执行在昇腾AI处理器上。
2023-05-31 17:39:17
312
原创 【2023 · CANN训练营第一季】——初识新一代开发者套件Atlas 200I DK A2
Atlas 200I DK A2开发者套件（小藤），终于要来了。不仅硬件功能更完善，更是下足了“软”功夫。极简高效的开发工具：一键烧录工具,支持在线/离线镜像烧录;模型适配工具,提供数据标注、数据集转换、模型迁移学习训练等完整适配功能。Chatbot、智能小车、机械臂、智能语言等丰富多彩的Demo，让开发者低门槛上手，体验到轻松玩转AI的乐趣。
2023-05-31 17:07:43
322
原创 【2023 · CANN训练营第一季】——将LeNet-5的Pytorch训练迁移到Modelarts平台进行训练
本篇笔记记录了如何将迁移好的Pytorch训练代码部署到Modelarts平台完成训练。完整的记录了，从环境搭建、代码准备、代码运行、结果保存的全过程，以及其中需要用的软件工具，重点是注册镜像等Modelarts的操作等，方便新手小伙伴们参考。
2023-05-31 16:35:03
199
原创 【2023 · CANN训练营第一季】——搭建环境：创建ECS，下载sample仓
环境搭建是CANN训练营实战的第一课，笔记描述了在华为云上创建ECS服务器，并修改Ubuntu源和pip源为国内镜像地址；在本地安装远程连接和查看代码的工具软件，以Windows为例介绍几个常用的工具软件；下载sample仓，并用Visual Studio Code连接到ECS上，远程打开sample目录。并描述了一个由于缓存导致Visual Studio Code连接失败的问题和解决方法。
2023-05-31 16:28:17
144
原创 【2023 · CANN训练营第一季】——学习优化-01跟着视频学CANN
2023年，CANN训练营已经进入第三个年头，2021年和2022年共举办了七期训练营，留下了丰富的学习视频。这些往期的视频回放存在B站的“昇腾Ascend”，更早期的视频在B站“起飞的老谭”上。现在将往期的视频，按推理、模型、算子这三个方向进行分类整理，方便大家学习和使用。 1、推理：有AscendCL(Ascend Computing Language)和MindX SDK的应用开发编程方式，MindX底层应该也是调用AscendCL接口。 Ascend
2023-05-31 12:12:27
151
原创 【2023 · CANN训练营第一季】——Ascend C算子沙箱实验
CANN 训练营的AscendC算子课程，以在线课程的方式提供了一个沙箱实验环境。这将有助于帮助开发者了解AscendC算子开发的软、硬件环境；熟悉自定义Ascend C算子的开发流程和关键代码；同时也可以了解到自定义算子包的部署路径及部署后的各类文件。
2023-05-31 11:27:28
119
原创 【2023 · CANN训练营第一季】——Ascend C算子开发入门——第三次课
不同于采用Python的DSL和TIK方式，Ascend C使用C/C++作为前端语言的算子开发工具，通过四层接口抽象、并行编程范式、孪生调试等技术，极大提高了算子的开发效率，助力AI开发者低成本完成算子开发和模型调优部署。第三节课的主要内容，是掌握端到端的Ascend C算子开发流程。 根据算子的输入张量描述、算子逻辑及算子属性，推理出算子的输出张量描述，包括张量的Shape，数据类型及数据排布格式等信息。下的TIK C++算子用例，将开发好的算子，编译好后，打包成自定义算子包，部署到系统中。
2023-05-31 01:14:58
337
原创 【2023 · CANN训练营第一季】——TIKC++算子开发入门——第二次课
Ascend C使用C/C++作为前端语言的算子开发工具，通过四层接口抽象、并行编程范式、孪生调试等技术，极大提高了算子的开发效率，助力AI开发者低成本完成算子开发和模型调优部署。
2023-05-30 22:50:34
218
原创 【2023 · CANN训练营第一季】——Ascend C算子开发入门——第一次课
Ascend C使用C/C++作为前端语言的算子开发工具，通过四层接口抽象、并行编程范式、孪生调试等技术，极大提高了算子的开发效率，助力AI开发者低成本完成算子开发和模型调优部署。
2023-05-30 22:21:13
364
原创 【2023 · CANN训练营第一季】——听CANN首席架构师解密Ascend C算子开发
2023年5月昇腾AI开发者峰会上，昇腾CANN首席架构师闫长江老师解密了全新的Ascend C算子编程体系。正好CANN训练营开设了Ascend C算子开发的课程，学习完成后再听大神的串讲，有种豁然开朗的感觉。
2023-05-30 21:48:11
83
1
原创 【2023 · CANN训练营第一季】——Ascend C sqrt算子实战
编写一个Ascend C的sqrt算子，并通过内核调用方式在cpu和npu模式下进行验证。在训练营沙箱环境下，cpu模式工作正常结果正确，npu模式下编译报错，以后有机会再研究。
2023-05-30 20:35:09
237
1
原创 【2023 · CANN训练营第一季】——Ascend C算子背后的魔法
Ascend C算子，2023年CANN的一个神奇魔法，得益于Ascend C算子的孪生调试技术，我们可以了解到更多的技术细节，本文试图对隐藏在多核并行，流水计算、dobule buffer背后的CANN Ascend C算子魔法进行摸索和理解，是什么样的技术让用户编写的简单代码可以先实现上述神奇的功能。本文没有请专业人士审查，分析的结果未必正确，只是个人的一种理解，如有错漏，欢迎大家指正！！！
2023-05-29 21:44:47
312
原创 【2023 · CANN训练营第一季】——Ascend C算子代码分析—Add算子（内核调用符方式）
Ascend C算子实践，以add算子为例，掌握开发流程，以及内核调用符方式的调试方法
2023-05-28 22:15:58
375
原创 【2023 · CANN训练营第一季】——在华为AI加速型ECS上安装Pytorch和Tensorflow框架
在华为云AI加速型ECS上安装pytorch和tensorflow框架
2023-05-28 09:11:04
196
1
原创 【2023 · CANN训练营第一季】——根据ReadMe运行第一个Sample例程
昇腾提供了以CANN AscendCL接口开发的样例仓，样例仓提供了C&C++、Python两种语言的样例，方便开发者学习。
2023-05-27 23:49:46
110
1
原创 【2023 · CANN训练营第一季】——编译时找不到头文件，找不到库文件，怎么办？？？
编译时找不到头文件，找不到库文件，怎么办？？？本文讲述了解决此类问题的方法
2023-05-27 22:21:12
2205
1
原创 【2023 · CANN训练营第一季】——模型推理时数据预处理方法及归一化参数计算
对待推理图片执行模型推理前，需要对图片进行预处理，以满足模型的输入要求。我们可以通过阅读模型训练代码，查看预处理的方法。在做基于Ascend CL模型推理时，通常使用的有OpenCV、AIPP、DVPP这三种方式，或者是它们的混合方式，本文比较了这三种方式的特点，并以Resnet50的pytorch模型为例，结合训练营提供的sample，说明了分别是如何实现预处理的。本文还介绍了AIPP做减均值/乘系数的参数是如何计算的。
2023-05-27 13:08:15
299
1
原创 【2023 · CANN训练营第一季】——4小时搞定训练营笔记
2023年CANN训练营，吸引了超800名学员参加，共发表了数百篇学习笔记。笔记难写吗？其实，只要动手去写就行！有哪些笔记可以写？这些笔记都需要怎么写？通过这篇笔记，和“新”入营的小伙伴们交流下，自己写作训练营笔记的体会。最后，再提醒大家一下，本期还有个神奇的笔记倍增魔法：根据规则，写好一篇笔记，发在N个平台，那就是N篇笔记。
2023-05-27 11:29:41
289
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人