
NVIDIA
Arnold-FY-Chen
On the way to AI Fellow...
-
原创 Cudnn占用大量内存问题
近来在对一个3D图像识别模型做部署裁剪时发现,做了一些有效的裁剪后,模型启动后占用的内存虽然减少了两三百个M,但是再继续对网络做裁剪缺减少不明显了,包含封装调用这个模型的deepstream插件在内始终占用800多个M,感觉很奇怪,于是花了些时间,捣腾琢磨网络本身的C++实现代码,找出哪些代码执行后占用了可观的内存,最后发现,其他跟训练有关的可减的都减了也没见省多少内存,但是模型启动的过程中,当cudnn的API被第一次调用时,启动有卡顿,同时看着内存一路不停飙升,把相关网络层的代码注释掉试试,...2020-09-30 22:29:0842
0
-
原创 Xavier NX上安装Deepstream导致NX不断的重启
使用安装SDK Manager后再使用JetPack安装板子的方式非常慢而且由于网络慢容易出错,所以直接使用SD Image烧写TF卡是最快的安装方式,将image写入TF卡后,启动板子可以看到Ubuntu18.04和和TensorRT等大部分工具软件已经打包在image内一起安装了,但是Deepstream却没有包含进去,这点很奇怪。 我们使用的SD Image是6月份从NVIDIA官网上下载的nv-jetson-nx-sd-card-image-r32.4.2,为何不下载使用最新...2020-07-25 19:52:22204
0
-
原创 制作支持GPU的用于部署AI模型的ARM64版docker镜像
hub.docker.com上绝大部分镜像都是只能在X86平台上使用的,arm上的很少,arm64上的装有Ubuntu18.04的只找到个arm64v8/ubuntu:18.04镜像,pull下来后使用过,里面很多东西没安装,连基本的vim都没有安装,而且安装完一些支持包后使用nvidia-docker run 创建的容器里面GPU设备总是找不到,GPU测试通不过,虽然CUDA和cuD...2020-04-12 21:05:131145
24
-
原创 配置NVIDIA Jetson AGX Xavier
首先调整一个Xavier的运行模式和风扇速度,Xavier加电时默认没有启动风扇,运行一段时间后会非常烫,长期这样可能容易坏,所以至少需要把风扇启动起来。Xavier的Ubuntu18.04桌面的右上方有菜单可以选择设置运行的功耗模式,也可以使用下面的nvpmodel命令来设置: sudo nvpmodel --query #查看当前的模式,默认为2, 功耗15W ...2020-04-12 18:01:041499
0
-
原创 安装和使用NVIDIA Jetson AGX Xavier
对近几个月在Nvidia Jetson AGX Xavier上的工作做一下记录备忘,Xavier是NVIDIA的边缘计算板子的最新版本也是最高配的序列,NVIDIA Jetson序列板子的具体配置可参见下图: 因机器人上需要部署网络层次深体量大的高精度AI图像识别物体检测模型,一般的边缘计算板子扛不住,于是让公司购买了NVIDIA Jetson AGX...2020-04-12 14:47:434045
6
-
原创 我的AI之路(40)--解决Ubuntu内核更新导致桌面启动出错登录界面无法显示的问题
最近服务器安装软件时被做了更新,Ubuntu16.04 LST的内核也被更新到了最新的GNU/Linux 4.4.0-171-generic x86_64,结果服务器重启后就出现这个以前经常见过的错误:The system is running in low-graphics mode 用之前的解决办法: 先检查确保/etc/modprob.d/下有blacklis...2020-01-12 00:06:02446
0
-
原创 启用NVIDIA GPU驱动后每次Linux内核更新后图形界面进不去的问题
Ubuntu的内核更新比较频繁,自动更新打开后,如果你disable掉了系统默认的nouveau驱动启用了NVIDIA GPU卡对应的驱动(具体步骤参见我的AI之路(10)--如何在Linux下安装CUDA和cuDNN),可能经常遇到内核更新后在机器重启后发现登录界面的字体和图标变得不正常地超大而且输入登录口令后屏幕一闪又回到了登录界面,这说明NVIDIA GPU的驱动没有被加载,系统...2019-04-27 18:42:021724
0
-
原创 我的AI之路(33)--解决CUDA10.1和NVIDIA GPU新版驱动430.xx序列造成黑屏或循环登录问题
到目前为止,CUDA最新版仍然是10.1版,只是出了update2 https://developer.nvidia.com/cuda-downloads,自CUDA10.1开始,使用run文件安装过程中有了较大的变化,步骤进行了简化,也不再包含opengl文件所以无需--no-opengl-files参数,但是对于装有集成显卡+N卡的双显卡的环境,安装CUDA10.1有可能会造成问题。...2019-10-03 01:58:221688
0