docker部署m3e-large-api环境

本文介绍了如何在Docker容器中使用NVIDIAGeForceRTX3090显卡,通过docker-compose.yml文件配置m3e_api服务,强调了显卡映射和环境变量(尤其是API密钥)设置的重要性。
摘要由CSDN通过智能技术生成

服务器环境:

显卡驱动:Driver Version: 530.30.02

CUDA版本:CUDA Version: 12.1

显卡:NVIDIA GeForce RTX 3090共4张

用CPU就挺快的,所以我没把显卡映射到docker容器中,但从容器的代码中能看到,只要把显卡映射到容器就能自动判断是否有显卡。

docker-compose.yml内容如下:

version: '3'
services:
  m3e_api:
    container_name: m3e_api

    environment:
      TZ: Asia/Shanghai

    image: registry.cn-hangzhou.aliyuncs.com/fastgpt_docker/m3e-large-api:latest

    restart: always

    networks:
      - general

    ports:
      - "6200:6008"

networks:
  general:
    external: true

然后把m3e配置到one-api

注意:密钥一定要配置成“sk-aaabbbcccdddeeefffggghhhiiijjjkkk”

因为容器里的执行脚本中,判断了key是不是等于 “sk-aaabbbcccdddeeefffggghhhiiijjjkkk”,key不一致会出现401错误。

也可以在docker-compose.yml的environment中自定义key的值。

environment:

  sk-key:'sk-112233'

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值