草履虫都能学会,flask接入星火语言大模型搭建自己的AI网站(小白友好,非常详细)

前言:该教程使用宝塔的python项目管理器和flask+gunicorn+nginx部署讯飞星火的语言大模型

下面是教程使用的源码: (旧版,下图新版可私信获取)

http://t.csdnimg.cn/D4ZWOicon-default.png?t=N7T8http://t.csdnimg.cn/D4ZWO

部署效果:114.55.119.203:8001

一、购买服务器

1、首先,部署网站得有一个云服务器,我用的是阿里云的ECS(系统是CentOS7),

新手学习的可以买99一年的,比较实惠

!一定要把公网IPv4勾上,不然后续补救会很麻烦!

2、进入云服务器命令行页面,输入命令安装宝塔,我安装的是CentOS版,等待安装完成

这里是宝塔官网:宝塔面板下载,免费全能的服务器运维软件 (bt.cn)

3、记录下宝塔的访问地址,账号,密码

4、前往阿里云开放相应安全组,在控制台-网络与安全-安全组-手动添加,如图我打开的是11357端口

5、输入外网面版地址,账号密码,进入自己的宝塔

二、部署自己的项目

1、进入宝塔的软件商店,下载python项目管理器

2、使用python项目管理器,项目文件夹中必须要有requirements.txt,可通过下面方法生成:

打开pycharm 工具(tools)-同步Python要求(Sync Python Requirements)生成requirements.txt文件

也可以通过 pip3 freeze > requirements.txt 命令自动生成requirements.txt文件,但requirements.txt里的模块则是你环境内所有安装的模块(不推荐)

3、压缩项目文件,拖动上传打包好的项目,到宝塔项目处

3、进入python项目管理器,如图配置,使用gunicorn

Gunicorn,是针对Python、在Unix系统上运行的、用来解析HTTP请求的网关服务。
它的特点是:能和大多数的Python web框架兼容;使用简单;轻量级的资源消耗;高性能

4、如果遇到缺少库,可在模块处添加

5、显示运行中即可

6、添加宝塔和阿里云的安全组,本文是将8001端口开放,其他配置如图所示

宝塔的在 安全组-添加安全规则

阿里的在 控制台-网络与安全-安全组-手动添加

7、将链接中对应的IP端口换成8001即可访问

三、优化性能

1、将wokers\threads调高,python项目管理器中,点击配置

bind:绑定地址和端口

workers:工作进程数,通常设置为CPU核心数的2-4倍
threads:每个工作进程的线程数
accesslog:访问日志文件路径
errorlog:错误日志文件路径

2、配置nginx反向代理

打开Nginx,到如图所示位置,根据自己的文件路径,复制粘贴下面的代码

如果没有域名,可填写自己服务器的公网IP

server {
    listen 80;
    server_name 123.456.789.012;  # 这里填写你的公网 IP 地址

    root /www/wwwroot/Ai_falsk;   # 网站根目录,这里直接指向 Flask 应用的根目录

    location / {
        proxy_pass http://127.0.0.1:8001;  # 将请求代理到 Flask 应用的端口
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
    }

    location /templates/ {
        alias /www/wwwroot/Ai_falsk/templates/;  # 指定静态资源的目录
    }

    # 可选:配置其他静态资源的位置,比如 /static/
    # location /static/ {
    #     alias /www/wwwroot/Ai_falsk/static/;
    # }

    # 可选:如果需要 HTTPS 支持,可以在这里配置 SSL 相关内容

    # error_page 404 /404.html;
    # 可选:自定义错误页面

    # access_log /var/log/nginx/access.log;
    # error_log /var/log/nginx/error.log;
    # 可选:配置访问日志和错误日志的位置
}

以上是全部内容,如有问题可私信作者

  • 13
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值