weixin_46227276的博客

/ 获取Host侧传入的Tiling参数// 初始化算子类// 算子类的初始化函数// 完成算子实现的核心逻辑修改文件，定义Tiling参数。BEGIN_TILING_DATA_DEF(TilingData) // 注册一个tiling的类，以tiling的名字作为入参// 添加tiling字段，总计算数据量// 添加tiling字段，每个核上总计算数据分块个数// 注册算子tilingdata类到对应的AddCustom算子#endif。

*核函数（Kernel Function）是Ascend C算子设备侧实现的入口。**在核函数中，需要为在一个核上执行的代码规定要进行的数据访问和计算操作，当核函数被调用时，多个核都执行相同的核函数代码，具有相同的参数，并行执行。Ascend C允许用户使用核函数这种C/C++函数的语法扩展来管理设备端的运行代码，用户在核函数中进行算子类对象的创建和其成员函数的调用，由此实现该算子的所有功能。核函数是主机端和设备端连接的桥梁。// 核函数实现// 初始化函数，获取处理的输入输出地址，完成内存初始化。

可以使用ATC（Ascend Tensor Compiler）工具将开源框架的网络模型转换为适配昇腾AI处理器的离线模型（*.om文件）。执行以下命令，将ONNX模型转换为昇腾AI处理器能识别的*.om模型文件。如果想快速体验使用转换后的om离线模型文件进行推理，请准备好环境、om模型文件、符合模型输入要求的*.bin格式的输入数据，并参考。类型的模型描述信息，并释放模型运行所需的工作内存和权值内存。接口根据模型加载中返回的模型ID获取模型基本信息。接口及时释放描述模型输入、输出数据类型的数据。

并从AscendCL的初始化与去初始化、运行管理资源的申请与释放、数据传输、Stream管理、多Device切换以及同步等待等关键步骤来展开内容。：在多Device环境中，每个Device都有一个Context。接口切换到相应的Context，从而在对应的Device上执行任务。在多线程环境下，每个线程可以创建自己的Stream来执行任务。：在每个Device上执行相应的任务，如模型推理或算子执行。在单线程环境下，可以创建一个Stream来管理任务的执行。：在需要等待特定Device上的任务完成时，使用。

*AscendCL是一套用于在昇腾平台上开发深度神经网络应用的C语言API库。**它提供运行资源管理、内存管理、模型加载与执行、算子加载与执行、媒体数据处理等API，实现利用昇腾硬件计算资源进行深度学习推理计算、图形图像预处理、单算子加速计算等能力。使用AscendCL接口开发AI应用的整体接口调用流程包括初始化AscendCL、申请运行管理资源、执行模型推理/单算子调用/媒体数据处理、释放运行管理资源和去初始化AscendCL。

使用ATC工具将ONNX模型转换为昇腾AI处理器可识别的.om格式，这里以。首先，下载并解压样例包MyFirstApp_ONNX.zip。各参数的解释如下，详细约束说明请参见《接下来，实现每个函数的具体操作。已在环境上部署昇腾AI软件栈。