zhuyi3.14-CSDN博客

原创【jetson推理内存信息】

简单来说，这句话告诉我们：在从硬盘加载这个 TensorRT 模型的过程中，系统没有使用额外的 CPU 内存，但是 GPU 内存增加了 1 MiB，使得现在 GPU 上总共使用了 13 MiB 的内存。

2023-09-26 13:48:29 146

原创【TensorRT在Jetson平台的跨设备引擎警告】

TRT] [W]不建议在不同型号的设备上使用引擎计划文件，这可能会影响性能甚至导致错误。这个警告通常出现在使用预先生成的 .engine 文件进行推理时。尽管它看起来令人担忧，但在大多数情况下，如果你确定硬件和软件环境没有发生变化，你可以安全地忽略这个警告。

2023-09-26 11:25:35 1313

原创在 Linux 中永久设置 PYTHONPATH 环境变量

在 Python 编程中，你可能会需要导入自定义模块或包。默认情况下，Python 解释器会在预定的几个目录中搜索这些模块和包。但是，如果你的模块或包存储在其他目录中，你需要告诉 Python 解释器去哪里找它们。这就是 PYTHONPATH 环境变量的用途。PYTHONPATH 是一个环境变量，用于指定 Python 查找模块和包的附加路径。当你尝试导入一个 Python 模块或包时，Python 解释器会在 PYTHONPATH 中列出的目录里寻找。

2023-09-26 10:10:28 1665

原创【TensorRT python API Inference pipeline】

提示： Inference pipeline 推理管道（框架）：import cv2# TODO: 在这里导入模型的预处理和后处理函数# TODO: 应用模型特定的预处理# 分配缓冲区# 分配输入和输出的内存# 准备输入数据并复制到设备# 绑定输入输出缓冲区# 创建 CUDA 流# 执行推理# 同步 CUDA 流# 获取输出数据# TODO: 应用模型特定的后处理# 主函数# TODO: 使用或保存 output_result。

2023-09-25 10:24:42 193

原创 pip安装和Wheel安装

提示：Python 社区提供了大量的第三方库，以帮助开发者更高效地完成工作。但是，如何便捷地管理和分发这些库呢？本文将介绍 Wheel 文件和元数据的概念，以及它们如何简化 Python 包的安装和分发过程。Wheel 文件：是 Python 的一种分发包格式，它的扩展名通常是 .whl。Wheel 文件实质上是一个压缩文件，其中包含了 Python 代码、二进制文件以及与该 Python 包相关的所有元数据。元数据（Metadata）：是关于数据的数据。

2023-09-22 14:55:43 2887

原创批处理（batch）

提示：在深度学习和机器学习中，"批处理（batch）"是一种处理数据的方式，即一次处理多个数据样本，而不是逐一处理。这样做通常可以加速计算并提高模型性能。"显式批处理（explicit batch）"是与"隐式批处理（implicit batch）"相对的。在显式批处理中，批量大小是作为模型输入的一个维度明确给出的。换句话说，你需要在模型的输入张量中明确地包含一个用于批量大小的维度。

2023-09-22 10:34:39 162

原创【CMake和GCC】

问题：GCC 和 CMake 的关系是什么？提示：在软件开发的过程中，编译和构建是不可或缺的环节。对于我这个新手而言，总是对这些概念感到困惑。这篇博客通过我与GPT4各自的理解去尝试解释CMake、GCC、CMakeLists.txt和Makefiles之间的关系。你可以把CMakeLists.txt看作是人类可读的“编译指导书”，而Makefiles就是这个“指导书”的机器可读版本。这样，当你运行make（或者在Windows下运行相应的构建工具），它就会根据这个“指导书”来编译和链接你的代码。

2023-09-21 19:47:30 217 1

shallowink的博客