AI聊天GPT的服务器选型及服务器初始化

已于 2023-09-06 14:05:54 修改
阅读量1.1k 收藏 3
点赞数 3
分类专栏： 开源项目 文章标签： 服务器 运维 项目部署 ChatGPT PlumGPT
于 2023-09-06 13:53:21 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Susan003/article/details/132211192
版权

文章目录

部署服务器选型及服务器初始化

我这边选的是腾讯云海外服务器
必须为海外服务器，因为我们需要直调国外的API，当然你也可以通过nginx代理chatgpt的api，然后购买国内服务器

点击跳转选购服务器

来到这里！往下滑

在这里插入图片描述

选择服务器

一般2核2g或者2核4g已经足够撑起当前网站的运行了

系统选择 CentOS Stream 8
在这里插入图片描述

跳转到控制台

点击我跳转轻量级服务器控制台

这就是刚刚购买的那台服务器

在这里插入图片描述

密码重置

点击更多

在这里插入图片描述

重置完成后，开始用Xshell工具连接刚刚的服务器

Xshell下载地址，点击跳转

连接成功

输入账户root
密码为刚刚重置的那个
在这里插入图片描述

开始安装JDK

这边使用openjdk，一键安装，为了方便快速

命令：yum -y list java*

在这里插入图片描述
安装JDK1.8

命令：yum install -y java-1.8.0-openjdk.x86_64

查看jdk版本
java -version
显示版本号，说明安装成功了
在这里插入图片描述

安装宝塔

命令：yum install -y wget && wget -O install.sh https://download.bt.cn/install/install_6.0.sh && sh install.sh ed8484bec

在这里插入图片描述
后续操作（y/n）？ 输入y即可

在这里插入图片描述

安装成功

在这里插入图片描述

输入BT命令，调起面板

输入：bt
在这里插入图片描述
这边我一般只修改3个东西，面板端口，用户名，和登录密码

修改用户名

输入对应的账号
在这里插入图片描述

修改密码

输入对应的密码
在这里插入图片描述

更改端口

我这边更改端口为5000
在这里插入图片描述

注意！更改为5000端口后，我们需要去腾讯云服务器控制台的防火墙放开当前这个端口号

点击它

在这里插入图片描述

选择防火墙

在这里插入图片描述

添加规则

在这里插入图片描述

添加5000端口

在这里插入图片描述

打开Xshell

命令：bt default

复制这个外网面板地址，在浏览器打开

在这里插入图片描述

在浏览器打开

点击高级

在这里插入图片描述

点击继续

在这里插入图片描述

输入刚刚的账号密码

在这里插入图片描述

登录成功

在这里插入图片描述

有账号则绑定，没账号注册

在这里插入图片描述

宝塔开始安装必要的软件

选择商店
在这里插入图片描述

安装redis

在这里插入图片描述

点击安装

在这里插入图片描述

安装nginx

在这里插入图片描述
在这里插入图片描述

安装mysql

在这里插入图片描述
在这里插入图片描述

等待安装完成

大概过程需要15分钟左右

在这里插入图片描述

调整为首页展示

开启首页展示
在这里插入图片描述

放行3306端口

在这里插入图片描述

腾讯云服务器端口放行3306

在这里插入图片描述

重置root数据库密码

在这里插入图片描述

提交

在这里插入图片描述

初始化Plum-GPT数据库

打开后端工程下面的默认SQL

在这里插入图片描述

修改SQL，配置请求key

注意这个key已经过期了，用不了，需要你们自己拿自己的key配上去，
如果你没有key，请加作者微信：typsusan（key是120额度，速度快，收费，不贵）
我不卖，但是你需要，我可以给你去买
在这里插入图片描述

添加数据库

在这里插入图片描述

添加数据库

这个账号密码需要记住哦！
放到chatgpt-template工程的application.yml文件
在这里插入图片描述

导入数据库

导入刚刚那个SQL文件
在这里插入图片描述

上传后，点击导入

在这里插入图片描述

导入成功

在这里插入图片描述

配置服务器文件地址

创建图片默认文件夹

命令：mkdir -p /data/chat

在这里插入图片描述

命令：mkdir -p /data/chat/identify

在这里插入图片描述

命令：mkdir -p /data/chat/default

在这里插入图片描述

创建完成

在这里插入图片描述

上传默认的头像

/data/chat/default 下面是用户的默认头像 jpg结尾格式，名称为0~51的图片

在这里插入图片描述
在这里插入图片描述

nginx配置https

选购域名

https://buy.cloud.tencent.com/domain

搜索你想要的名称

域名一般都是购买期限为1年，价格为10~60价格不等，还有免费的ssl

在这里插入图片描述

购买完成后

跳转到域名控制台

在这里插入图片描述

域名开始解析服务器ip

在这里插入图片描述

快速解析

在这里插入图片描述

选择刚刚购买的那台服务器

在这里插入图片描述

开始配置nginx配置

以下是全部的配置，部分需要根据你实际情况修改

user  www www;
worker_processes auto;
error_log  /www/wwwlogs/nginx_error.log  crit;
pid        /www/server/nginx/logs/nginx.pid;
worker_rlimit_nofile 51200;

stream {
    log_format tcp_format '$time_local|$remote_addr|$protocol|$status|$bytes_sent|$bytes_received|$session_time|$upstream_addr|$upstream_bytes_sent|$upstream_bytes_received|$upstream_connect_time';
  
    access_log /www/wwwlogs/tcp-access.log tcp_format;
    error_log /www/wwwlogs/tcp-error.log;
    include /www/server/panel/vhost/nginx/tcp/*.conf;
}

events
    {
        use epoll;
        worker_connections 51200;
        multi_accept on;
    }

http
    {
        include       mime.types;
		#include luawaf.conf;

		include proxy.conf;

        default_type  application/octet-stream;

        server_names_hash_bucket_size 512;
        client_header_buffer_size 32k;
        large_client_header_buffers 4 32k;
        client_max_body_size 50m;

        sendfile   on;
        tcp_nopush on;

        keepalive_timeout 60;

        tcp_nodelay on;

        fastcgi_connect_timeout 300;
        fastcgi_send_timeout 300;
        fastcgi_read_timeout 300;
        fastcgi_buffer_size 64k;
        fastcgi_buffers 4 64k;
        fastcgi_busy_buffers_size 128k;
        fastcgi_temp_file_write_size 256k;
		fastcgi_intercept_errors on;

        gzip on;
        gzip_min_length  1k;
        gzip_buffers     4 16k;
        gzip_http_version 1.1;
        gzip_comp_level 2;
        gzip_types     text/plain application/javascript application/x-javascript text/javascript text/css application/xml;
        gzip_vary on;
        gzip_proxied   expired no-cache no-store private auth;
        gzip_disable   "MSIE [1-6]\.";

        limit_conn_zone $binary_remote_addr zone=perip:10m;
		limit_conn_zone $server_name zone=perserver:10m;

        server_tokens off;
        access_log off;
server
    {
        listen 80;
        server_name www.plumgpt.com plumgpt.com;
        index index.html index.htm index.php;
        add_header Content-Security-Policy upgrade-insecure-requests;
        #error_page   404   /404.html;
        include enable-php.conf;
        
        
        if ($http_host ~ "^www.plumgpt.com$") {
          rewrite ^(.*) https://plumgpt.com$1 permanent;
        }
        
        if ($http_host ~ "^http://plumgpt.com/#/chat$") {
          rewrite ^(.*) https://plumgpt.com$1 permanent;
        }
        
        if ($http_host ~ "^plumgpt.com/#/chat$") {
          rewrite ^(.*) https://plumgpt.com$1 permanent;
        }
        
        
        location / {
          root /www/wwwroot/dist;
          if ( $http_user_agent ~ "(MIDP)|(WAP)|(UP.Browser)|(Smartphone)|(Obigo)|(Mobile)|(AU.Browser)|(wxd.Mms)|(WxdB.Browser)|(CLDC)|(UP.Link)|(KM.Browser)|(UCWEB)|(SEMC-Browser)|(Mini)|(Symbian)|(Palm)|(Nokia)|(Panasonic)|(MOT-)|(SonyEricsson)|(NEC-)|(Alcatel)|(Ericsson)|(BENQ)|(BenQ)|(Amoisonic)|(Amoi-)|(Capitel)|(PHILIPS)|(SAMSUNG)|(Lenovo)|(Mitsu)|(Motorola)|(SHARP)|(WAPPER)|(LG-)|(LG/)|(EG900)|(CECT)|(Compal)|(kejian)|(Bird)|(BIRD)|(G900/V1.0)|(Arima)|(CTL)|(TDG)|(Daxian)|(DAXIAN)|(DBTEL)|(Eastcom)|(EASTCOM)|(PANTECH)|(Dopod)|(Haier)|(HAIER)|(KONKA)|(KEJIAN)|(LENOVO)|(Soutec)|(SOUTEC)|(SAGEM)|(SEC-)|(SED-)|(EMOL-)|(INNO55)|(ZTE)|(iPhone)|(Android)|(Windows CE)|(Wget)|(Java)|(curl)|(Opera)" ) {
          	  root /www/wwwroot/h5;
          }
        }
        
        
        
        location /request/open {
            proxy_pass http://你服务器的ip:8099;
            proxy_set_header Host $host;
            proxy_set_header X-Real-IP $remote_addr;
            proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
            proxy_set_header REMOTE-HOST $remote_addr;
            proxy_connect_timeout 30s;
            proxy_read_timeout 86400s;
            proxy_send_timeout 30s;
            proxy_http_version 1.1;
            proxy_set_header Upgrade $http_upgrade;
            proxy_set_header Connection "upgrade";
        
            add_header Cache-Control no-cache;
            add_header Cache-Control private;
            
            if ($http_user_agent ~* "Scrapy|Sogou web spider|Baiduspider") {
            	return 403;
            }
            if ($http_user_agent ~ "FeedDemon|JikeSpider|Indy Library|Alexa Toolbar|AskTbFXTV|AhrefsBot|CrawlDaddy|CoolpadWebkit|Java|Feedly|UniversalFeedParser|ApacheBench|Microsoft URL Control|Swiftbot|ZmEu|oBot|jaunty|Python-urllib|lightDeckReports Bot|YYSpider|DigExt|YisouSpider|HttpClient|MJ12bot|heritrix|EasouSpider|LinkpadBot|Ezooms|^$" )
            {
            	return 403;
            } 
            if ($request_method !~ ^(GET|HEAD|POST)$) {
            	return 403;
            }
            if ($http_user_agent ~ "Mozilla/4.0\ \(compatible;\ MSIE\ 6.0;\ Windows\ NT\ 5.1;\ SV1;\ .NET\ CLR\ 1.1.4322;\ .NET\ CLR\ 2.0.50727\)") {
            	return 404;
            }
            if ($proxy_add_x_forwarded_for != $remote_addr){
            	return 444;
            }
        
            expires -1s;
        }
        
        location /webSocket/  {   
           proxy_pass http://你服务器的ip:8099;    
           proxy_http_version 1.1;    
           proxy_read_timeout 3600s;
           proxy_set_header Upgrade $http_upgrade;    
           proxy_set_header Connection "Upgrade";    
           proxy_set_header X-real-ip $remote_addr;
           proxy_set_header X-Forwarded-For $remote_addr;
                       if ($http_user_agent ~* "Scrapy|Sogou web spider|Baiduspider") {
            	return 403;
            }
            if ($http_user_agent ~ "FeedDemon|JikeSpider|Indy Library|Alexa Toolbar|AskTbFXTV|AhrefsBot|CrawlDaddy|CoolpadWebkit|Java|Feedly|UniversalFeedParser|ApacheBench|Microsoft URL Control|Swiftbot|ZmEu|oBot|jaunty|Python-urllib|lightDeckReports Bot|YYSpider|DigExt|YisouSpider|HttpClient|MJ12bot|heritrix|EasouSpider|LinkpadBot|Ezooms|^$" )
            {
            	return 403;
            } 
            if ($request_method !~ ^(GET|HEAD|POST)$) {
            	return 403;
            }
            if ($http_user_agent ~ "Mozilla/4.0\ \(compatible;\ MSIE\ 6.0;\ Windows\ NT\ 5.1;\ SV1;\ .NET\ CLR\ 1.1.4322;\ .NET\ CLR\ 2.0.50727\)") {
            	return 404;
            }
            if ($proxy_add_x_forwarded_for != $remote_addr){
            	return 444;
            }
        }
        
        rewrite ^(.*) https://$server_name$request_uri permanent;
        

        location ~ .*\.(gif|jpg|jpeg|png|bmp|swf)$
        {
            expires      30d;
        }

        location ~ .*\.(js|css)?$
        {
            expires      12h;
        }

        location ~ /\.
        {
            deny all;
        }

        access_log  /www/wwwlogs/access.log;
    }
server
    {
        listen 80;
        listen 443 ssl http2;
        server_name www.plumgpt.com plumgpt.com;
        index index.html index.htm index.php;
        add_header Content-Security-Policy upgrade-insecure-requests;
        
       
        
        if ($http_host ~ "^www.plumgpt.com$") {
          rewrite ^(.*) https://plumgpt.com$1 permanent;
        }
      
        if ($server_port !~ 443){
            rewrite ^(/.*)$ https://$host$1 permanent;
         }
        ssl_certificate /www/wwwroot/plumgpt.com_nginx/plumgpt.com_bundle.pem;
        ssl_certificate_key /www/wwwroot/plumgpt.com_nginx/plumgpt.com.key;
        ssl_session_timeout 10m;
        ssl_ciphers EECDH+CHACHA20:EECDH+CHACHA20-draft:EECDH+AES128:RSA+AES128:EECDH+AES256:RSA+AES256:EECDH+3DES:RSA+3DES:!MD5;
        ssl_protocols TLSv1.1 TLSv1.2 TLSv1.3;
        ssl_prefer_server_ciphers on;
        ssl_session_cache shared:SSL:10m;
        #error_page   404   /404.html;
        include enable-php.conf;
        
        
        location / {
          root /www/wwwroot/dist;
          if ( $http_user_agent ~ "(MIDP)|(WAP)|(UP.Browser)|(Smartphone)|(Obigo)|(Mobile)|(AU.Browser)|(wxd.Mms)|(WxdB.Browser)|(CLDC)|(UP.Link)|(KM.Browser)|(UCWEB)|(SEMC-Browser)|(Mini)|(Symbian)|(Palm)|(Nokia)|(Panasonic)|(MOT-)|(SonyEricsson)|(NEC-)|(Alcatel)|(Ericsson)|(BENQ)|(BenQ)|(Amoisonic)|(Amoi-)|(Capitel)|(PHILIPS)|(SAMSUNG)|(Lenovo)|(Mitsu)|(Motorola)|(SHARP)|(WAPPER)|(LG-)|(LG/)|(EG900)|(CECT)|(Compal)|(kejian)|(Bird)|(BIRD)|(G900/V1.0)|(Arima)|(CTL)|(TDG)|(Daxian)|(DAXIAN)|(DBTEL)|(Eastcom)|(EASTCOM)|(PANTECH)|(Dopod)|(Haier)|(HAIER)|(KONKA)|(KEJIAN)|(LENOVO)|(Soutec)|(SOUTEC)|(SAGEM)|(SEC-)|(SED-)|(EMOL-)|(INNO55)|(ZTE)|(iPhone)|(Android)|(Windows CE)|(Wget)|(Java)|(curl)|(Opera)" ) {
          	  root /www/wwwroot/h5;
          }
        }
        

        
        location /request/open {
            proxy_pass http://你服务器的ip:8099;
            proxy_set_header Host $host;
            proxy_set_header X-Real-IP $remote_addr;
            proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
            proxy_set_header REMOTE-HOST $remote_addr;
            proxy_connect_timeout 30s;
            proxy_read_timeout 86400s;
            proxy_send_timeout 30s;
            proxy_http_version 1.1;
            proxy_set_header Upgrade $http_upgrade;
            proxy_set_header Connection "upgrade";
        
            add_header Cache-Control no-cache;
            add_header Cache-Control private;
        
            if ($http_user_agent ~* "Scrapy|Sogou web spider|Baiduspider") {
            	return 403;
            }
            if ($http_user_agent ~ "FeedDemon|JikeSpider|Indy Library|Alexa Toolbar|AskTbFXTV|AhrefsBot|CrawlDaddy|CoolpadWebkit|Java|Feedly|UniversalFeedParser|ApacheBench|Microsoft URL Control|Swiftbot|ZmEu|oBot|jaunty|Python-urllib|lightDeckReports Bot|YYSpider|DigExt|YisouSpider|HttpClient|MJ12bot|heritrix|EasouSpider|LinkpadBot|Ezooms|^$" )
            {
            	return 403;
            } 
            if ($request_method !~ ^(GET|HEAD|POST)$) {
            	return 403;
            }
            if ($http_user_agent ~ "Mozilla/4.0\ \(compatible;\ MSIE\ 6.0;\ Windows\ NT\ 5.1;\ SV1;\ .NET\ CLR\ 1.1.4322;\ .NET\ CLR\ 2.0.50727\)") {
            	return 404;
            }
            if ($proxy_add_x_forwarded_for != $remote_addr){
            	return 444;
            }
        
            expires -1s;
        }
        
        location /chat {
          rewrite ^/chat/(.*)$ /$1 break;
          root /data/chat;
        }
        
        location /webSocket/  { 
           proxy_pass http://你服务器的ip:8099;    
           proxy_http_version 1.1;    
           proxy_read_timeout 3600s;
           proxy_set_header Upgrade $http_upgrade;    
           proxy_set_header Connection "Upgrade";    
           proxy_set_header X-real-ip $remote_addr;
           proxy_set_header X-Forwarded-For $remote_addr;
           
                       if ($http_user_agent ~* "Scrapy|Sogou web spider|Baiduspider") {
            	return 403;
            }
            if ($http_user_agent ~ "FeedDemon|JikeSpider|Indy Library|Alexa Toolbar|AskTbFXTV|AhrefsBot|CrawlDaddy|CoolpadWebkit|Java|Feedly|UniversalFeedParser|ApacheBench|Microsoft URL Control|Swiftbot|ZmEu|oBot|jaunty|Python-urllib|lightDeckReports Bot|YYSpider|DigExt|YisouSpider|HttpClient|MJ12bot|heritrix|EasouSpider|LinkpadBot|Ezooms|^$" )
            {
            	return 403;
            } 
            if ($request_method !~ ^(GET|HEAD|POST)$) {
            	return 403;
            }
            if ($http_user_agent ~ "Mozilla/4.0\ \(compatible;\ MSIE\ 6.0;\ Windows\ NT\ 5.1;\ SV1;\ .NET\ CLR\ 1.1.4322;\ .NET\ CLR\ 2.0.50727\)") {
            	return 404;
            }
            if ($proxy_add_x_forwarded_for != $remote_addr){
            	return 444;
            }
        }

        access_log  /www/wwwlogs/access.log;
    }
include /www/server/panel/vhost/nginx/*.conf;
}
修改nginx配置 替换你服务器ip

所以的地方都替换
可以自己检索一下文字 “你的服务器的ip”
在这里插入图片描述

域名替换

注意所以的地方都需要替换
1，黄色框框替换为你自己购买的域名
2，蓝色框框是PC前端vue打包好后存放的地址
3，绿色框框是手机端打包好后存放的地址

在这里插入图片描述

域名证书

这个地方替换为你域名证书存放的地址
在这里插入图片描述

写入到nginx

在这里插入图片描述

更改配置

将刚刚配置好的全部替换到这里面来

在这里插入图片描述

如果对以上步骤有疑惑，不懂的可以加博主vx：typsusan

【AI】生成式AI服务器最低配置
每日出拳老爷子的博客
06-19 999
UI采用open-web-ui，模型用Ollama管理，在局域网做成SAAS服务。注意，之所以是最低配置，纯粹因为公司申请花钱麻烦，所以有条件的话当然直接双GPU，A100走起，320GDDR4走起。"技嘉（GIGABYTE）C102G全景式 机箱熏黑钢化玻璃侧透兼容360/240水冷散热器。一些基础的注意事项包括，主板看是否支持14代CPU，版型是ATX还是MATX等，机箱需要匹配。考虑数据安全，又想用AI赋能企业内部的日常工作，答案只有一个，本地部署。电源要看瓦数，目前这个配置至少要750W以上。
AI大模型探索之路-应用篇13：企业AI大模型选型指南
寻道AI，探索AI无限可能！
04-16 3946
在打造企业AI大模型的路上，我们常常会遇到一系列的选型和概念挑战。例如，如何选择合适的模型，如何挑选GPU，以及什么是微调和监督微调等。本文旨在深入剖析这些常见问题，为大家提供一个全面的概览，帮助大家更好地理解和利用这些强大的工具。
服务器支持gpt系统,在 64 位服务器中建立并启动到 GPT Windows
weixin_32709413的博客
07-30 767
在 64 位服务器中建立并启动到 GPT Windows10/10/2020本文内容本文介绍如何在 GUID 分区表和 GPT 磁盘中成功设置 (分区) 镜像。适用于： Windows Server 2012R2原始 KB 编号： 814070摘要与 32 位 (MBR) 镜像中的主启动记录不同，在 Windows GPT 磁盘上成功创建和启动到镜像启动卷需要执行更多步骤。 本文还介绍了在主...
AstrBot：多平台 LLM 聊天机器人框架，让 AI 触手可及！
不太专注于VPS技术
03-02 1448
AstrBot 是一款 多平台大型语言模型（LLM）聊天机器人及开发框架，提供松耦合、异步的 AI 机器人解决方案。它支持多种消息平台接入，拥有强大的插件系统和Agent 执行能力，让 AI 具备更高的可扩展性和适应性。
gpt项目服务器快速搭建（2023.11.30已测试成功）
ZhangHW_的博客
11-30 1117
ChatGPT Web 开源项目：https://github.com/Chanzhaoyu/chatgpt-web.git。如果能正常打印版别号，说明 Node 装置成功。如果能正常打印版别号，说明 PNPM 装置成功。值，改为自己的 API Keys。build 成功后，将。
利用本地或服务器搭建GPT环境
Chimengmeng的博客
09-01 4213
【一】参考博客来源 【1】时光大佬 时光大佬的自建GPT https://www.cnblogs.com/an-shiguang/p/17499195.html 【2】大佬的GPT (1)pandora https://chatgpt.shiguang666.eu.org/ 基于开源项目搭建本地GPT环境 使用GPT需要已有GPT账号或者是有 token 登录界面 ...
【服务器GPT+MJ+GPTs】创建部署GPT+MJ+GPTs程序网站
朝花夕拾
01-24 7346
博文“【服务器GPT+MJ+GPTs程序】创建部署GPT+MJ+GPTs程序网站”介绍了在服务器上创建和部署结合GPT、MJ和GPTs程序的网站。文章详细探讨了如何整合这三种程序，以实现更强大和多样化的功能。通过对服务器的有效管理，作者分享了在搭建过程中的经验和技巧，使读者能够轻松理解和应用这一技术组合。
大语言模型选型及部署
weixin_51105279的博客
08-18 1344
主要帮助读者通过模型评测网站，进行模型选型；并通过XInference进行模型部署
AI人工智能领域分类的开源资源
最新发布
AI天才研究院
04-28 1024
随着人工智能技术的快速发展，开源生态已成为推动技术创新和产业落地的核心驱动力。本文旨在建立清晰的AI开源资源分类框架，详细解析各领域代表性工具的技术架构、核心算法和适用场景，为开发者提供从技术选型到项目落地的全流程指南。基础机器学习框架与工具链深度学习核心库与模型动物园自然语言处理（NLP）和计算机视觉（CV）垂直领域工具强化学习、生成式AI等前沿方向开源方案模型部署、超参数调优、数据处理等工程化工具。
使用RPA通过GPT大模型AI Agent自动执行业务流程任务企业级应用开发实战：如何进行RPA项目的风险评估与管理
AI天才研究院
11-19 211
1.背景介绍 在过去的一段时间里，人工智能（AI）和机器学习技术正在引领着越来越多的人工智能应用的发展方向。当前，人工智能在图像、自然语言处理、语音合成、聊天机器人等领域已经取得了非凡的成果。而在业务应用方面，相比于传统的业务流程自动化工具，基于AI的自动化工具更具备应对复杂业务流程及提升效率的能力。基于此，人工智能助手（AI assistant）成为
LangChain实战：利用LangChain SQL Agent和GPT进行文档分析和交互
python122_的博客
06-20 879
GPT版本0125 可以完美地提供JSON格式的数据。OpenAI致力于增强函数调用，并确保它符合用于创建可供计算机读取格式的标准用例。如果设计目标正是针对这种情况，并且仅供企业内部员工使用，那么我会使用SQLAgent 来处理企业数据库！但是我觉得允许LLM模型自主执行查询依然风险太大了。
gpt和mbr用来装服务器系统,给win10分区用MBR还是GPT？详解MBR还是GPT的区别
weixin_32556315的博客
08-06 6830
大家给win10系统分区常见的一般都是MBR和GPT这两种模式，初学者对MBR和GPT都不熟悉，不清楚这两种模式谁好一点？其实，GPT意为GUID分区表，这是一个正逐渐取代MBR的新标准，它由UEFI辅住而形成的，GPT在今后的发展就会越来越占优势，MBR也会逐渐被GPT取代，想进一步了解的小伙伴一起往下看。win10分区表MBR与GPT介绍:一般都是MBR分区的，只有不超过1T硬盘空间MBR和G...
OpenAI新上线GPT太强了，服务器瞬间挤爆，马斯克：你们太沉迷了
weixin_36896856的博客
12-05 724
点击上方“AI遇见机器学习”，选择“星标”公众号重磅干货，第一时间送来自：机器之心试着和 ChatGPT 聊了几句，它把我的问题解决了。当每个人都在苦苦等待 GPT-4 发布时，OpenAI 却一直迟迟没有消息，仍在修复其前身。这家总部位于旧金山的公司于昨日发布了一个名为 ChatGPT 的新模型，它是 GPT-3 的衍生产品，它以对话的方式进行交互。这种对话允许 ChatGPT 回答后续问题，承...
爆肝将近 5 万字使用 Python 本地端、服务器端搭建 QQ 智能聊天机器人（新手教程）
唤醒手腕
02-06 8279
01、QQ聊天机器人开发 WebQQ介绍 WebQQ腾讯公司推出的使用网页方式上QQ的服务，特点是无需下载和安装QQ软件，只要能打开WebQQ的网站就可以登录QQ与好友保持联系。具有Web产品固有的便利性，同时在Web上最大限度的保持了客户端软件的操作习惯。 通过WebQQ利用爬虫类的脚本，我们能够接受已登录用户所有好友信息，并且相应的聊天信息。但是2018年12月12日，QQ发布公告，称由于业务调整，webQQ已经于2019年1月1日停止服务，并提示用户下载QQ客户端。 采用Python语言制作方案
部署基于go-proxy-bingai+Bing的AI聊天服务器
如花
06-29 5076
最后 在Cloudflare域名下添加一个路由 （客户端域名+/sydney/*） worker选择上面创建好的服务端worker。下一步 创建服务端程序workers 创建新应用 名称随便取(关系到域名 但是给的国内访问不了 后面需要添加自己的域名)因为vercel给的链接也访问不了 还是得需要绑定自己的域名 还是用上面的 搞一个二级域名就行。分配的域名无法访问 需要替换成自己的域名 添加自定义域 （需要在网站里加入过后才能在此处选择）右上角设置-服务选择 选择本站 即可拥有一个自己的ai聊天机器人。
【gpt】免费部署个人gpt平台（无需tz）
热门推荐
```On Earth, Be Water, By Coding```
04-03 1万+
免费部署个人gpt平台（无需tz）
AI各种模型的聊天机器人的接入聊天平台（服务器和本地搭建）
昨天发生了什么？
05-30 2619
我们一起维护一个完全免费开源知识库。
在国内购买GPT服务前的一定要注意！！！
菜鸟的博客
11-18 5294
本人已经入坑GPT多日，从最开始的应用GPT到现在的自己研发GPT，聊聊我对使用ChatGPT的一些思考，有需要使用GPT的朋友或者正在使用GPT的朋友，一定要看完这篇文章，可能会比较露骨，也算是把国内知识库、AI的套路摆上了台面。
如何部署GPT模型至自有服务器：从零开始搭建你的智能聊天机器人
欢迎来到“Python算法探索”，我是GT算法工程师，一名热爱计算机算法的博主。在这里，我们将一起深入探索Python世界中的各种算法，从基础到高级，从理论到实践。我参加过很多算法比赛，积累了丰富的经验，希望通过这个播客与你分享。让我们一起用Python探
03-21 1406
通过本文的介绍，你应该能够了解如何将GPT模型部署到自有服务器上，并搭建一个简单的聊天机器人API接口。当然，这只是一个起点，你可以根据自己的需求进一步扩展和优化这个系统。希望这个教程对你有所帮助！
大规模语言模型的应用开发 AI应用快速开发与部署 快速构建和部署GPT模型 基于检索增强生成（RAG）的工作流支持的模型 自定义 支持多种开源及
03-10
### 构建和部署大规模语言模型及其RAG工作流 为了满足快速开发、构建并部署像GPT这样的大规模语言模型的需求，尤其是带有检索增强生成（RAG）功能的支持自定义和多种开源模型的应用程序，可以考虑利用现有的工具和技术栈来简化流程。 #### 使用Langchain或LlamaIndex框架加速开发过程 通过采用Langchain或者LlamaIndex这类高级别的抽象层框架，开发者能够更高效地创建复杂的大规模语言处理应用程序。这些框架不仅提供了易于使用的API接口用于集成不同的预训练模型，还内置了许多实用的功能模块，比如向量数据库连接器、索引管理服务等，从而大大减少了从零开始搭建系统的难度[^3]。 对于希望实现基于RAG的工作流来说，上述提到的两个框架都具备良好的支持能力。它们允许用户轻松配置外部数据源作为查询扩展的基础，并且可以通过简单的几行代码完成整个流水线的设计与实施。例如，在Python环境中仅需不到十行的有效编码即可启动一个基础版本的服务实例。 #### 集成多样的开源模型选项 当涉及到具体的技术选型时，除了官方推荐的标准组件外，还可以探索其他社区贡献者维护的各种插件化解决方案。这使得最终产品能够在保持灵活性的同时拥有广泛的适用范围——无论是针对特定领域优化过的微调变体还是完全自主训练的新颖结构都能被纳入考量之中。 值得注意的是，由于不同类型的底层算法可能存在兼容性差异，因此建议优先选用那些已经过充分测试验证并与所选平台具有良好协作记录的产品组合。此外，考虑到性能表现的重要性，务必提前评估候选方案在目标硬件环境下的实际运行效果[^1]。 ```python from langchain import LangChain, models # 初始化链路对象 lang_chain = LangChain() # 加载指定名称/路径处存储的语言模型实例 model_instance = models.load_model('path_to_custom_gpt') # 定义输入输出模式及其他必要参数设置... result = lang_chain.process(query="example query", model=model_instance) print(result) ``` #### 实现离线部署的能力 最后一点但同样重要的是关于能否做到独立于云端资源之外运作的问题。得益于现代软件工程实践的进步，现在有许多途径可以帮助我们达成这一目的。一方面，许多流行的大规模语言模型本身即提供有适用于本地计算机执行的形式；另一方面，则可通过容器镜像打包等方式进一步封装依赖关系以便迁移至任意计算节点上执行。
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

来自上海的这位朋友

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值