神经网络操作的数据就是张量,对张量的各种操作,就是算子
自定义算子的原因
外部算子就是C++,python的智能模拟,严格上不叫算子
操作逻辑
python自定义算子
前向和反向函数
神经网络的计算过程非常清洗的表示而已
两个类的区别
前向
反向
注意事项
官方开发手册有详细的介绍
C++自定义算子
这个才是真正的底层和核心,比只会python调库强多了,当然是在python调库已经炉火纯青的前提
前向
反向
相关维度和类型
二维矩阵
算子注册
JIT编译
settools
cuda算子又是更高阶的
前向反向和注册
注册
思路
算子内部原理
正反向计算
在这里插入图片描述
总结