q742971636的博客

max-model-len：这个参数表示模型的上下文长度，即模型可以处理的最大输入长度。如果用户输入的长度超过这个限制，模型通常会报告错误，表明输入过长。为了符合该限制，通常需要对输入进行截断。max_num_seqs：这个参数指定了在同一时间内可以并行处理的请求数量，也就是批处理中的序列数量。如果这个值设置得过高，可能会消耗更多的内存，因此降低它可以帮助节省内存。相差很大，Vllm快得多。平均时间: 16.79 秒。平均时间: 3.31 秒。平均时间: 1.63 秒。

这将创建一个名为 “docker” 的组。您可以使用此组来管理 Docker 容器的访问权限。

JetBrains Gateway是一款紧凑型桌面应用，可让您通过 JetBrains IDE 远程工作，甚至无需下载这些IDE。通过在桌面端安装这款软件，您可以直接调试服务器上的代码。

CMD提供容器默认的执行命令，可以被运行容器时传入的命令覆盖。ENTRYPOINT配置容器启动时执行的默认可执行文件，可以被运行容器时传入的命令追加到其参数之后。综合来说，CMD通常用于提供应用的默认启动命令，而ENTRYPOINT通常用于配置容器以类似可执行程序的方式运行。你也可以同时使用它们，以ENTRYPOINT提供基础执行文件，而CMD提供默认参数。

请注意，删除镜像是一个潜在的危险操作，因为这些镜像可能被其他容器使用。确保您真的希望删除这些没有名字的镜像，以避免对正在运行的容器产生负面影响。：这个符号是管道操作符，它将第一个命令的输出传递给下一个命令。：该部分命令会列出所有没有名字（没有标签）的镜像的ID。标志表示只显示镜像ID，而不是完整的信息，而。命令将上一个命令的输出作为参数传递给。表示只显示没有关联到任何容器的镜像。命令，从而删除这些镜像。

在Docker中，可以使用docker history命令查看镜像的历史记录。然而，默认情况下，docker history命令的输出是以简洁模式显示的，可能会省略一些细节。要显示更详细的信息，您可以使用docker history --no-trunc命令。请注意，docker history命令还可以与其他选项一起使用，例如–quiet（仅显示镜像ID）或–format（使用自定义格式显示历史记录）。您可以根据需要进一步调整命令的输出。执行此命令后，将显示完整的镜像历史记录，包括每个层的详细信息。

有一个nfs盘挂载到本机，本机docker想用这个nfs盘存储。此时docker自动用起了devicemapper 。docker 用 devicemapper 这个后备存储有个默认卷的限制，是10g。现在都用overlay2了。dd解决，首先在nfs盘里面dd出一个500G大文件系统出来： dd if=/dev/zero of=/home/kevin_xie/yifeinfs/docker.data bs=1G count=500dd 用来复制、抽取、转换文件，这里复制、抽取的大小可以以具体

docker run 的时候增加参数 --storage-opt size=30Gdocker run -it --gpus all --storage-opt size=30G kevinchina/deeplearning:cuda10.1pytorch1.7.1baseenv0.1 bash

cpuminiconda3的一个基础镜像，其中安装fastapi和opencv。kevinchina/deeplearning:miniconda3base0.2FROM kevinchina/deeplearning:wrfbaseenvCOPY deps /depsRUN rm -rf /etc/yum.repos.d/* && \ cp /deps/CentOS-Base.repo /etc/yum.repos.d/ && \ yum clea

dockerfileCOPY hl.tar.gz /wrf_env/得到(base) [root@fce482f7fc63 wrf_env]# lltotal 4-rw-r--r--. 1 root root 143 Dec 9 03:35 hl.tar.gzADD hl.tar.gz /wrf_env1/得到(base) [root@fce482f7fc63 wrf_env1]# lltotal 0drwxr-xr-x. 2 root root 24 Dec 9 03:32 t

centOS镜像的话，dockerfile 加一句：RUN cp /usr/share/zoneinfo/Asia/Shanghai /etc/localtime && echo 'Asia/Shanghai' >/etc/timezone

https://ivanzz1001.github.io/records/post/docker/2018/04/20/docker-harbor-architecture

1docker login去DockerHub官网建立帐号，然后创建仓库deeplearning。本地使用docker login进行登陆。登陆成功有提示。2 docker tag更名docker tag cpu:v1 kevinchina/deeplearning:cpuv13 docker push上传docker push kevinchina/deeplearning:cpuv1等待即可：...

参考：https://blog.csdn.net/wenwenxiong/article/details/78728696软链接systemctl stop dockermv /var/lib/docker /home/dockerln -s /home/docker /var/lib/docker

如图所示，docker run -d -p 8080:8080 tomcat 启动tomcat服务。然后docker logs 1ba487b1e2ca查看容器启动日志都没问题，但浏览器访问tomcat 8080就是出现404，且我的防火墙已经关闭。经查验，解决方式需要 删除容器内的webapps空文件夹，然后把webapps.list改名为webapps。docker exec -it 1ba487b1e2ca /bin/bash # 进入容器rm -rf webapps # 删除mv web

查看Docker存储位置如此可以查看存储位置：sudo docker info | grep "Docker Root Dir"使用软链接方式修改Docker存储位置docker 的默认存储路径是/var/lib/docker，改成软链接即可。# 关闭dockersudo systemctl stop docker.socketsudo systemctl stop docker# 创建一个目录用于存储mkdir -p /home/work/docker_root# 移动文件cp -

利用–shm-size参数：docker run -it --shm-size="6g" ubuntu

1 需求pytorch、tensorflow、mxnet等深度学习框架使用GPU的时候，不一样的版本会有一些CUDA要求，所以环境一直是困扰，Docker推出后，NVIDIA基于Docker给出解决方案，答案就是NVIDIA Container Toolkit。github链接：https://github.com/NVIDIA/nvidia-docker架构图：2 安装2.1 安装前需要知道我的机器是centOS 7，显卡是2080TI 11G，上面有GPU驱动和CUDA。参考：ht

身在Docker容器里身不由己，wget能很好解决：下载：wget https://repo.anaconda.com/miniconda/Miniconda3-py38_4.9.2-Linux-x86_64.sh安装：sh Miniconda3-py38_4.9.2-Linux-x86_64.sh所以记住这2个仓库：https://repo.anaconda.com/miniconda/https://repo.anaconda.com/archive/...

容器提交成镜像，-a是提交者，-m是提交信息，73021fc5a50f 是容器id，yolov5image:v1分别是镜像名称和TAG。拉取Docker Hub的镜像，docker pull，最好是去Docker Hub搜索后找。入门重点是镜像的命令学习、容器的命令学习，之后学习compose、网络。-v是将宿主机的路径挂载到镜像中某个路径。镜像保存为rar压缩包，容器id。