自制深度学习推理框架
文章平均质量分 97
C++实现一个深度学习推理框架,可以实现YOLOv5等常见网络的推理。
Super.Bear
https://github.com/Paraniod1
展开
-
自制深度学习推理框架之表达式层的设计与实现
在 PNNX 中,Expression 类**用于表示和处理计算图中的算子或节点的表达式**。这些表达式通常涉及张量之间的运算、函数调用、以及其他数学或逻辑操作。原创 2024-08-30 19:50:25 · 1208 阅读 · 0 评论 -
自制深度学习推理框架之卷积和池化算子的设计与实现
池化算子和卷积算子是神经网络中的常见操作,本文将介绍其具体的计算,并了解卷积的加速计算Im2col算法。原创 2024-08-30 18:18:29 · 1517 阅读 · 0 评论 -
自制深度学习推理框架之计算图设计
计算图(Computational Graph)是一种用于表示数学运算和数据流的图结构,在深度学习中,它用于描述神经网络中的操作及其依赖关系。节点:表示操作(如加法、乘法、激活函数等)或变量(如输入、权重、偏置等)。边:表示数据的流动,通常是张量(Tensor)在节点间传递。原创 2024-08-16 17:33:04 · 1084 阅读 · 0 评论 -
自制深度学习推理框架之Tensor模板类的设计与实现
张量(Tensor)是一个多维数组的通用化概念,在数学和计算科学中被广泛使用,特别是在机器学习、物理学和工程学等领域。它是标量(0维张量)、向量(1维张量)和矩阵(2维张量)的一般化,可以扩展到更高的维度。Tensor可以看作是一个具有任意维数的多维数组。张量的维数,即张量的轴的数量。0维张量是标量,1维张量是向量,2维张量是矩阵,依此类推。每个维度的长度。形状决定了张量在每个维度上包含的元素数量。张量中的元素类型,如整型、浮点型等。原创 2024-08-16 16:52:10 · 883 阅读 · 0 评论 -
自制深度学习推理框架之入门基础
从零自制深度学习推理框架,主要介绍了环境配置和基础库的使用。原创 2024-08-11 16:46:35 · 1019 阅读 · 0 评论