原生GPT本地及云端部署方式保姆级教程

前提条件

部署必须要有一个超过1年的Github账号

本地服务部署

运行效果

部署方法

  1. 下载安装包

暂时无法在飞书文档外展示此内容

  1. GitHub授权登录:

https://dash.pandoranext.com/

登录后是这个样子:

  1. 复制下面红框里面这个License Id

  1. 编辑Config.json,粘贴刚复制的License Id 到下面license_id这个红色框部分。

  1. 双击运行PandoraNext.exe

  1. 运行成功会出现如下字样

  1. 浏览器地址输入:http://127.0.0.1:8181/ 回车运行即可
  2. 可以用账号密码登录,也可以用AccessToken登录

AccessToken获取方式

访问如下链接:

https://chat.openai.com/api/auth/session

  1. 运行成功截图

服务器部署

服务器购买

88元的就可以

99元这个就可以

安装Docker环境

要在CenterOS上安装Docker,可以遵循以下简洁明了的步骤:

  1. 更新软件包索引: 首先,打开终端,并使用以下命令更新您的系统到最新版本:
sudo yum update
  1. 安装依赖包: 安装一些必要的软件包,这些软件包能让Yum使用通过HTTPS来传输数据:
sudo yum install -y yum-utils
  1. 设置Docker仓库: 接下来,添加Docker的官方仓库,以便从中安装:
sudo yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo
  1. 安装Docker引擎: 现在,安装Docker引擎:
sudo yum install docker-ce docker-ce-cli containerd.io
  1. 启动Docker服务: 安装完成后,启动Docker服务:
sudo systemctl start docker
  1. 验证安装(可选) : 最后,运行Hello World镜像来验证Docker是否正确安装:
sudo docker run hello-world

如果这个Hello World镜像可以运行,说明Docker已经在您的CenterOS系统上安装并配置成功了。

下载项目

1.在服务器上创建一个目录

2.执行如下命令

git clone https://github.com/pandora-next/deploy.git

获取授权

  1. GitHub授权登录:

https://dash.pandoranext.com/

登录后是这个样子:

  1. 复制下面红框里面这个命令

  1. 在你刚才的目录执行如上复制的命令

运行项目:

docker-compose up -d

设置nginx反向代理:

server {
        listen 443 ssl http2;
        server_name 换成你的名字;
        
        charset utf-8;
        
        ssl_certificate      certs/chat.zhile.io.crt;
        ssl_certificate_key  certs/chat.zhile.io.key;

        ...省略若干其他配置...
        
        location / {
                proxy_http_version         1.1;
                proxy_pass                 http://127.0.0.1:8181/;
                proxy_set_header        Connection                "";
                proxy_set_header           Host                        $http_host;
                proxy_set_header         X-Forwarded-Proto         $scheme;
                proxy_set_header           X-Real-IP                  $remote_addr;
                proxy_set_header           X-Forwarded-For            $proxy_add_x_forwarded_for;
                
                proxy_buffering off;
                proxy_cache off;
                
                send_timeout 600;
                proxy_connect_timeout 600;
                proxy_send_timeout 600;
                proxy_read_timeout 600;
        }

        ...省略若干其他配置...
}
GPT4All本地部署是指将OpenAI的GPT模型部署在本地环境中,以便更好地满足用户的需求和保护数据隐私。本地部署可以通过以下步骤实现: 首先,需要准备合适的硬件设备,如强大的计算机或服务器,以满足GPT4All模型的计算需求。 其次,需要下载和配置GPT4All模型的软件包及相关依赖。这些软件包通常包含了模型的训练代码、预训练的权重文件以及模型调用的接口等。 接下来,进行模型的加载和初始化工作。这包括加载权重文件、建立模型的计算图结构、设置模型的参数等。这个过程需要一定的时间和计算资源。 然后,可以依据业务需求对模型进行进一步的定制化和优化。这可能包括修改模型的超参数、微调模型的权重,或者添加自定义的训练数据等。这样可以提高模型在特定任务上的表现。 最后,可以通过编写代码调用本地部署GPT4All模型,实现对用户输入的解析和生成相应的输出。这个过程通常包括将用户输入转化为模型可以接受的格式,并处理模型的输出以得到最终的结果。 总之,GPT4All本地部署允许用户在本地环境中运行和定制GPT模型,从而更好地满足个性化需求,提高数据隐私保护,并降低对云服务的依赖性。但是,需要注意的是本地部署也有一些挑战,如硬件资源需求高、模型的训练和调试工作较为复杂等。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

柚米汇

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值