- 博客(10)
- 收藏
- 关注
RSS订阅原创 使用Codestral和VS Code的continue插件实现AI辅助代码生成
使用vllm部署Codestral模型，并使用continue插件辅助代码编写
2024-06-04 12:00:21
769
1
原创 TensorRT 加载模型onnx报错： Error Code 10: Internal Error (Could not find any implementation for node
Error Code 10: Internal Error (Could not find any implementation for node
2022-10-27 15:48:23
3094
1
原创 TensorRT导包问题导致‘Process finished with exit code -1073741819’
1.背景在python版本TensorRT进行推理计算时候由于导入了pytorch库，导致一直异常退出。可能是由于pytorch也依赖了cuda相关的库，冲突了。2. 例子错误例子：正确：参考：Importing tensorrt causes Process finished with exit code -1073741819 (0xC0000005) · Issue #1767 · NVIDIA/TensorRT · GitHub...
2022-04-26 11:09:27
3377
原创 解决“possibly undefined macro: AC_PROG_LIBTOOL”的问题笔记
安装protobuf这一步报“possibly undefined macro: AC_PROG_LIBTOOL”这个错误根据网上说明，安装了libtool，不过我没有管理员不是用命令安装，而是使用离线包再配置环境变量安装，大概是如下步骤./configure --prefix=安装目录makemake install把bin和lib的位置配置到.bashrc文件仍然出现上面错误参考：https://stackoverflow.com/questions/536361
2021-12-08 09:53:54
1061
原创 ArangoDB笔记1---安装，启动，授权，名词说明，简单增删改查
0.说明由于工作需要调研了一下图数据库。如果在linux系统，推荐使用 Nebula图数据库, 这个图数据库国内大厂用的挺多的。由于工作需要，需要在windows系统上使用图数据库，当时看了ArangoDB, Neo4j, OrientDB以及DGraph.看DGraph官网后期不考虑Windows版本就放弃使用。Windows看了相关数据，最终ArangoDB。Neo4j也是不错的，社区和各种插件都很完善，奈何其他人不想用，所以也放弃了。提供两个性能比较的连接。网上几个图数据库的性能比较内容也是挺多的
2021-09-06 16:05:52
927
原创 运行nvidia-smi命令出现failed to initialize nvml: not found的错误
1. 描述环境： win7 系统， 显卡驱动466.27具体过程：安装NVIDIA 1080显卡驱动，运行nvidia-smi命令（需要把“MVSMI”目录放到环境变量）报错内容：NVIDIA-SMI has failed because you are not: a) running as an administrator or b) there is not at least one TCC device in the system以管理员身.
2021-08-17 15:51:19
5593
2
原创 OpenVino, MNN, TensorRT加载加密模型
1. 简介说明OpenVino， MNN以及TensorRT怎么加载加密模型， 简要说明相关接口。2. 示例OpenVinostd::vector<unit8_t> model;std::vector<unit8_t> weights;std::string xmlpath="model.xml";std::string binpath="model.bin";std::string password="xxx";decrypt_file(xmlpath,
2021-07-23 10:25:10
2412
12
原创 TensorFlow的pb模型（加密）加载 C++
1.简介 直接加载TF未加密的PB模型文件比较简单， 网上有较多的例子。此例子展示加载加密后的pb模型文件的简略步骤。使用ParseFromString(）这个函数进行。2. 例子头文件#include "tensorflow\core\public\session.h"#include "tensorflow\core\platform\env.h"加载std::string encryptPBFile="model.pb"std::string decryptM...
2021-07-22 19:31:39
1152
8
原创 解决TensorRT同一数据每次返回结果都不一致问题
问题描述：最近进行把TF的模型转化为UFF文件部署到TensorRT。在进行测试的时候发现一个问题，同一个数据使用TRT进行推理，但是每次结果都不一样。输出的结果本应是softmax算子输出结果， 但是输出的结果看着都是随机的，而且数值求和结果非1，而是有的非常大，有的非常小。排查了一整天发现是因为我的日志头文件导入的顺序导致这个问题。#include "easylogging++.h"#include "common.h"#include "buffers.h"#include "Nv
2021-07-21 11:42:01
2073
原创 连接win10显示 “无法连接到远程计算机”
尝试使用下面的文章解决， 但是没有成功https://blog.csdn.net/dugushangliang/article/details/97619059然后使用如下链接解决：http://www.luobowin10.com/wenzhang/11190.html可能两个链接都要尝试设置一下吧说明：我的用户名查看是通过控制面板-》用户账户-》用户账户 查看的...
2021-07-20 09:53:58
364
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人