qq_44442727的博客

最近想试试推理加速，因为跑的预测有点慢，一开始是打算从数据处理上实现，采用并行数据处理，但是这个有所难度，而且有几张显卡可用，就想着怎么把显卡利用上。而且了解到推理加速后，就先尝试一下看看效果，这里尝试的是tensorrt，暂记一下设置过程。首先是tensorrt的安装，有很多教程，但是版本不一定匹配，这里大家可以找到根据自己的软件版本进行安装的方法。

第一步，查询电脑显卡驱动信息，个人电脑显卡查询如下第二步，若不确定下什么版本驱动，查询网站：https://www.nvidia.cn/Download/Find.aspx?lang=cn把个人电脑显卡配置填上第三步，选中符合显卡GPU的驱动下载安装，我基本上是默认的，自己设置都行，影响不大。安装完成进一步安装CUDA，但是CUDA需要对应版本才能调用显卡GPU，所以还要明确CUDA版本。版本可以通过已经安装的显卡驱动查询，右键电脑桌面空白处，打开nvidia显卡驱动面板，如下操作：即可获得需

深度学习目标检测框架在进行图像计算时需要GPU进行加速，需要用到硬件GPU显卡，目标检测框架和硬件GPU建立联系需要通过①显卡驱动软件；②CUDA软件依次建立联系。这两个软件，可直接从NVIDIA官网下载，版本没有非常严格的需求，根据我们的框架要求，需让显卡驱动软件可安装的CUDA版本大于11.1，CUDA版本为11.1.

最近有个框架要安装环境，环境有一定的版本要求，装的过程中发现安装的环境无法编译成功，多方查找原因后发现原来是CUDA版本太低了，于是升级了一下cuda版本，过程中也发现自己在Ubuntu系统上装CUDA比较生疏，于是大致记一下过程，为以后做参考。（由于我是在windows下连的Linux服务器上装的，部分界面无法截图拷出，但是执行的命令基本不差，最后也是安装上了，并且编译过了，通过了验证）首先是出现的错误，编译过程的错误是缺少依赖来着–dependency–xx，具体忘了在有问题的环境下运行测试代码错

一般应该是直接连上网线就能用，我用的园区有线网络，需要配置ipv4网址和个人账户登陆，我的wifi连接有问题。上面的设置完了基本就能使了，有网络安装东西或查阅资料都很方便。接下来解释部署环境了。首先是安装显卡驱动，这里有点玄学，我一时也没搞明白，但最后是能用了。一开始在命令行输入nvidia-smi是没有结果的，说明没有安装显卡驱动，于是开始安装：显卡版本查询：https://www.nvidia.cn/Download/index.aspx?lang=cn安装过程有点复杂，搞了好几个小时都没正常解

前面所做的工作以及当前的都是为了编译我的框架用的，由于框架编译dcnv2报了gcc版本过低的问题（系统自带4.8），我又看了以前编译过的gcc是5.4，所以选择升级gcc版本。期间碰到automake版本报错问题，版本低要升级，于是编译gcc出错后，重新解决了automake的问题，我升级的是automake1.15。至此待顺利完成gcc的编译，就可对框架进行编译，我是在这样的情况下完成框架编译的。根据显卡的配置，越新越高级的显卡需要的显卡驱动版本越新，老的显卡驱动可能带不动。