前向推理框架
天才da熊猫
这个作者很懒,什么都没留下…
展开
-
pytorch安装遇到的问题记录
E:Error, pkgProblemResolver::Resolve generated breaks, this may be caused by helsudo apt-get dist-upgrade原创 2020-10-26 10:04:22 · 206 阅读 · 0 评论 -
生成onnx模型过程记录
onnx::ModelProto mymodel; onnx::GraphProto graph; mymodel.clear_graph(); mymodel.set_producer_name("pytorch 1.3");//important onnx::OperatorSetIdProto* myopset = mymodel.add_opset_import(); //important mymodel.set_allocated_graph(&graph); gr.原创 2020-10-19 09:34:13 · 6222 阅读 · 0 评论 -
ncnn试用
参考ncnn的example,该代码关闭了默认half计算,需要注意的是,在extract之前必须设置input,否则在匹配输入blob时会出现匹配不上的err,计算结果与caffe对比,误差很小。具体代码如下:#include "net.h"#include <stdio.h>#if 1int main(){ ncnn::Net TestNet; TestNet.opt.use_vulkan_compute = true; TestNet.opt.use_fp16_sto原创 2020-10-12 14:23:40 · 627 阅读 · 0 评论 -
TNN conv2d_1x1 opencl计算流程
首先说一下feature map的数据存储格式:(b*h) * (w4* c /4),dim0如下表,dim1为b*h,这点与mace相同。w0 w1 ... wn w0 w1 ... c0 c1 c2 c3 c0 c1 c2 c3 ... c0 c1 c2 c3 c4 c5 c6 c7 c4 c5 c6 c7 ... weight的存储格式:(c_out/4)*(c_in * 4)c_in_0 c_in_1原创 2020-07-08 14:43:41 · 610 阅读 · 0 评论 -
No matching distribution found for onnxruntime
使用pip install onnxruntime报错:ERROR: Could not find a version that satisfies the requirement onnxruntime (from versions: none)ERROR: No matching distribution found for onnxruntime看了onnxruntime issue建议使用pip3安装但是当时的安装环境(python3.5)安装pip3有403的error,查看当时原创 2020-07-01 10:00:15 · 10469 阅读 · 0 评论