本地部署开源的大语言模型(LLM) API 管理工具 One API 并实现外部访问

One API 是一款开源的大语言模型（LLM）API 管理工具，它提供了一个统一的接口，能够聚合不同的大语言模型 API（如 OpenAI、Hugging Face、文心一言等），使得开发者可以使用统一的请求格式来调用不同模型的服务，无需针对每个模型单独编写调用代码，从而简化了开发流程，提高了开发效率。

第一步，本地部署安装 One API

1，打开 Linux 终端，确保 Docker 已经安装好了。首先拉取 One API 镜像。

docker pull justsong/one-api

2，创建部署目录。

mkdir -p /data/oneapi/data && cd /data/oneapi/

3，用 vim docker-compose.yaml 创建 docker-compose.yaml 文件，把下面代码复制进去并保存。

version: '3'  
services:  
  one-api:  
    image: justsong/one-api 
    container_name: oneapi  
    restart: always  
    ports:  
      - "3000:3000"    #设置端口映射，可自定义
    environment:  
      - TZ=Asia/Shanghai  
    volumes:  
      - /data/oneapi/data:/data

4，启动容器。

docker compose up -d

5，在浏览器输入 http://本地IP:3000，就可以看到 One API  界面了。点击右上角登录。

6，在登录界面输入用户名和密码，初始用户名：root，密码：123456 ，登录后记得要更改密码。

7，更改密码。

8，添加新的渠道。

第二步，外网访问本地的 One API

安装路由侠内网穿透。

1，当前未提供网页管理，需要先在任意一台 Windows 机器安装路由侠 Windows 版本，用作跨机器管理。

2，在路由侠客户端主界面，进入“设备管理”，点击右下角的“添加设备”，此时可查看到对应的安装码，此安装码用于将设备添加到对应账号下，可选中后复制。

3，直接下载后导入：

wget https://dl.luyouxia.com:8443/v2/lyx-docker-x86_64.tar
docker load -i lyx-docker-x86_64.tar

4，然后使用该镜像启动容器

docker run --name lyx -it --restart=always --net=host -e code=这里填写安装码 luyouxia/lyx

5，此时，需要等待下载和安装的过程，如果一切正常，最终可以看到一些输出，并且可以看到如下提示：

[Device] Logged in. Token: ....

这就表示安装成功了。

当前 Linux 终端这边，如果是使用的上面的命令，Docker 是运行在前台，此时可以按住 Ctrl+C ，退出路由侠，容器也将退出。现在可以使用以下命令将其放入后台持续运行：

docker start lyx

注意如果容器删除，重新 docker run， 将创建为新的设备。

需要注意的是，因为容器参数已经添加了 --restart=always，这样开机就会自动启动，不需要再手动启动路由侠了。

6，现在回到 Windows 这边设备列表，点击右上角的×返回主界面，再次进入，就可以找到这个设备，可以修改名称。

7，回到主界面，点击【内网映射】。

8，注意右上角的设备名称下拉框，这里选中刚刚添加的设备名称，此时在这个界面上添加的映射，就属于刚刚这个设备。添加或修改一般需要等待30秒，容器中的路由侠进程就会更新并加载。切换好设备后，点击【添加映射】。

9，选择【原生端口】。

10，在内网端口里填写端口 3000 后点击【创建】按钮，如下图。

11，创建好后，就可以看到一条映射的公网地址，鼠标右键点击【复制地址】。

12，在外网电脑上，打开浏览器，在地址栏输入从路由侠生成的外网地址，就可以看到内网部署的 One API 界面了。