Cyan2077-CSDN博客

原创【2023 · CANN训练营第一季】高阶班 TIK C++算子端到端测试验证与性能采集

host侧算子实现开发，包括算子原型注册、Shape推导等函数实现与注册、Tiling实现与注册和信息库配置当使用内核调用符时，会生成相应的二进制可执行文件，可以使用性能采集工具运行NPU模式下生成的可执行文件从而采集TIK C++ 算子在昇腾平台上执行的性能数据设置环境变量(昇腾实际安装的位置): source /usr/local/Ascend/ascend-toolkit/ …/ set_env.sh。

2023-05-30 12:51:12 186

原创【CANN训练营0基础赢满分秘籍】高阶班 TIK C++算子动态shape实现与调试技术

CPU下运行结果NPU下运行结果。

2023-05-30 12:50:39 156

原创【2023 · CANN训练营第一季】高阶班 TIK C++算子动态shape实现与调试技术

CPU下运行结果NPU下运行结果。

2023-05-30 12:47:48 176

原创【CANN训练营0基础赢满分秘籍】了解3/2/0级接口API的概念

用于存放核上Local Memory(内部存储）的数据定义原型//获取LocalTensor中的某个值，返回T类型的立即数 template ctypename T1 > void Setvalue(const uint32_t offset , const T1 value) const;

2023-05-17 17:15:33 387

原创【CANN训练营0基础赢满分秘籍】TIKC++算子开发入门

核函数(Kernel Function )是TIK C++ 算子设备侧的入口。TIK C++ 允许用户使用核函数这种C/C++ 函数的语法扩展来管理设备侧的运行代码，用户在核函数中实现算子逻辑的编写，例如自定义算子类及其成员函数以实现该算子的所有功能。核函数是主机侧和设备侧连接的桥梁。核函数(内核函数)是Tik C++ 算子设备侧的入口。

2023-05-17 17:14:36 409

原创【CANN训练营0基础赢满分秘籍】TIK C++算子编程范式及算子实现

流水任务(Stage)指的是单核处理程序中主程序调度的并行任务。在核函数内部，可以通过流水任务实现数据的并行处理来提升性能。在之前我们已经学过HelloWorld核函数的实现在add_tik2核函数的实现中实例化KernelAdd算子类，调用Init()函数完成内存初始化，调用Process()函数完成核心逻辑注：算子类名和成员函数名无特殊要求，开发者可根据自身的C/C++编码习惯，决定核函数中的具体实现。

2023-05-17 17:14:17 559

原创【2023 · CANN训练营第一季】高阶班 TIK C++算子编程范式及算子实现

流水任务(Stage)指的是单核处理程序中主程序调度的并行任务。在核函数内部，可以通过流水任务实现数据的并行处理来提升性能。在之前我们已经学过HelloWorld核函数的实现在add_tik2核函数的实现中实例化KernelAdd算子类，调用Init()函数完成内存初始化，调用Process()函数完成核心逻辑注：算子类名和成员函数名无特殊要求，开发者可根据自身的C/C++编码习惯，决定核函数中的具体实现。

2023-05-17 16:36:51 274

原创【2023 · CANN训练营第一季】TIKC++算子开发入门

核函数(Kernel Function )是TIK C++ 算子设备侧的入口。TIK C++ 允许用户使用核函数这种C/C++ 函数的语法扩展来管理设备侧的运行代码，用户在核函数中实现算子逻辑的编写，例如自定义算子类及其成员函数以实现该算子的所有功能。核函数是主机侧和设备侧连接的桥梁。核函数(内核函数)是Tik C++ 算子设备侧的入口。

2023-05-11 15:43:57 251