深度学习环境准备之docker常用操作详解和pycharm/tensorboard远程使用方法

作为深度学习算法工程师,除了要跟论文、公式、数据、代码打交道,还有更基础、有时候也是最头疼的就是环境,环境操作的熟练程度对工作效率有重要影响。经过无数次的挖坑踩坑,有必要把常用的环境操作进行总结梳理。

为了支持多个不同的工程,只有一个环境一般是不够的,使用过的多环境工具有anaconda虚拟环境、pipenv、docker等,但在大规模工程实践中,docker在多系统移植、多平台支持和多用户复用和隔离等方面有着非常大的优势,所以应用更加广泛。本文主要介绍docker的基本操作,以及搭建好docker环境后,如何使用本地pycharm远程连接docker环境并在本地浏览器使用tensorboard进行可视化分析。

一、docker基本操作和应用场景

docker有两个基本概念:镜像(image)和容器(container),二者的关系类似于类和对象,一个是静态且固化的环境文件,一个是运行起来的、可以修改和操作的环境实例。docker的所有操作的前提是已经安装好docker软件,并且存在至少一个基础镜像,基础镜像可以从远程镜像仓拉取或者自行下载。

下面从基于一个基础镜像启动一个新的容器开始:

1.查看所有本地镜像

查看本地镜像的命令是:

 docker images

可以看到镜像名称、ID、创建时间、size和标签(TAG),假设有一个镜像名称和标签为image_test:1.0

2.创建容器

创建容器的命令有:

docker run
或docker create

二者都是基于一个镜像创建新的容器,区别是docker create只创建不启动,而docker run创建后启动。

注意在docker19版本之前,docker是不支持gpu的,因而无法使用nvidia显卡,如果需要使用nvidia,需要使用nvidia-docker命令,而docker19版本之后不需要。假设我们要创建一个名为container_test的容器并启动它:

nvidia-docker run --name container_test image_test:1.0

如果需要启动后直接进入容器,则需要加上-it参数

如果需要外部访问容器,需要用-p参数设置容器与服务器之间的端口映射。由于后续要使用pycharm(默认22端口)和tensorboard(默认6006端口),所以至少需要设置两个端口映射。

如果需要挂载服务器地址,需要用-v参数设置容器与服务器之间的地址映射。由于需要使用docker运行服务器中/home/my_name/projects下的代码,所以需要将这个地址映射到容器内,假设新建一个/workspace

由于默认给docker分配的共享内存只有64M,所以需要用--shm-size调整大小。

所以完整命令可以写为:

nvidia-docker run --name container_test  --shm-size="32g" -v /home/my_name/projects:/workspace -p 40010:22 -p 40011:6006 -it  image_test:1.0
要在PyCharm中配置深度学习环境需要以下步骤: 1. 安装Docker:首先需要安装DockerDocker是一个容器化平台,可以用来管理和运行各种应用。可以在Docker官方网站上下载并安装适用于您操作系统的版本。 2. 下载Docker镜像:接下来,需要下载一个包含深度学习环境Docker镜像。可以在Docker Hub上找到多个深度学习环境的镜像,如TensorFlow、PyTorch等。可以根据自己的需求选择适当的镜像,然后使用命令行或Docker客户端下载该镜像。 3. 创建Docker容器:下载完成后,需要使用Docker镜像创建一个Docker容器。可以通过运行以下命令创建一个新的容器: ``` docker run -it --name=my_container -v /path/to/host/folder:/path/to/container/folder -p 8888:8888 image_name ``` 这个命令会创建一个名为my_container的容器,并将主机的一个文件夹挂载到容器内部的一个文件夹中,以便在容器中访问主机上的文件。同时,将容器内的端口8888映射到主机的端口8888上。 4. 在PyCharm中配置Docker:打开PyCharm,转到"File" -> "Settings" -> "Project: your_project" -> "Project Interpreter"。点击右上角的齿轮图标,在弹出的对话框中选择"Add" -> "Docker"。然后选择你之前创建的Docker容器。 5. 配置Python解释器:回到"Project Interpreter"页面,点击右下角的加号按钮,在弹出的对话框中选择"System Interpreter" -> "Docker"。然后从下拉菜单中选择你之前创建的Docker容器。 6. 安装Python包:现在你可以在PyCharm项目中使用深度学习库了。使用PyCharm的包管理器来安装所需的Python包,如tensorflow、pytorch等。只需在"Project Interpreter"页面中点击加号按钮,然后搜索并选择需要的包即可。 通过以上步骤,你就成功地在PyCharm中配置了深度学习环境。现在你可以在PyCharm中编写、调试和运行深度学习代码了。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值