docker制作python大模型镜像(miniconda环境),工程改造记录

**环境说明:**从系统镜像开始打造python大模型镜像,之前是人工手动装的方式,并且模型和依赖在公网中,对于离线交付环境不太友好,所以打造的离线化交付版本

Dockerfile:

FROM centos:7.9
ENV PYTHONIOENCODING=utf-8
ENV NCCL_DEBUG=INFO
##下载阿里的镜像源,装一些基础命令依赖等
RUN curl -o /etc/yum.repos.d/CentOS-Base.repo https://mirrors.aliyun.com/repo/Centos-7.repo && yum -y install python3  python  wget bind
## 项目启动的一些路径需要创建
RUN mkdir -p /export  &&  chmod -R 777  /export && mkdir -p /root/logs &&  mkdir -p /deploy/app
## 装miniconda的脚本
COPY deploy-miniconda.sh /deploy
## 项目代码cp
COPY app  /deploy/app
## 工作目录
WORKDIR /deploy/app
## python项目的依赖文件写在里面,供pip install 用
ADD requirements.txt /tmp/requirements.txt
## 大模型知识库的文件,ADD和COPY指令需要追加目录根,不然会将文件的内容拷进去,用下面目录到目录的方式也行
COPY XXX /deploy/XXX

## 安装miniconda
RUN sh /deploy/deploy-miniconda.sh
##下面是手动装遇到需要手动输入的解决方式,现在用脚本解决了,不然安装miniconda需要按回车N次 
#RUN  cd /deploy &&  sh -c '/bin/echo -e "\nyes\nyes" |  /bin/bash ./miniconda.sh'
## 安装好miniconda设置环境变量
ENV  PATH="/root/miniconda3/bin:${PATH}"
ENV  ANACONDA_HOME=/root/miniconda3/
## source进入python开发环境
RUN export PATH="/root/miniconda3/bin:${PATH}" && export ANACONDA_HOME=/root/miniconda3/ &&  source activate
##安装项目依赖
RUN export LANG=zh_CN.UTF-8  && pip install --default-timeout=1000 -r /tmp/requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
## 启动脚本
RUN chmod 777 /deploy/app/start.sh
## 启动服务
CMD ["python", "-u", "server.py"]
## 原本用下面的方式,因为source过,容器内部环境有变,会提示找不到路径
#CMD sh /deploy/app/start.sh
#ENTRYPOINT /deploy/app/start.sh

大模型,想想还是打个码吧,虽然是开源的
在这里插入图片描述

安装miniconda的脚本

#!/usr/bin/bash
set -e
wget "https://mirrors.tuna.tsinghua.edu.cn/anaconda/miniconda/Miniconda3-py311_24.1.2-0-Linux-x86_64.sh" -O ~/miniconda.sh
bash ~/miniconda.sh -b -p $HOME/miniconda3
~/miniconda3/bin/conda init $(echo $SHELL | awk -F '/' '{print $NF}')
echo 'Successfully installed miniconda...'
echo -n 'Conda version: '
~/miniconda3/bin/conda --version
echo -e '\n'
exec bash


清华源地址:https://mirrors.tuna.tsinghua.edu.cn/anaconda/miniconda/

### 制作镜像
docker build -f Dockerfile -t model:v1 .
### 测试
docker run -it -d --name py-model model:v1 -p xxx:xxx

python报错

huggingface_hub.errors.HFValidationError: Repo id must be in the form ‘repo_name‘ or ‘namespace/repo

这个就是大模型数据路径指的不对,修改成正确的即可

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值