AI新时代:利用FastGPT高效构建企业级知识库问答系统

当今环境,所有企业都有一个绕不开的问题:信息过载。面对大量的信息资源,一方面,人员流失导致企业知识资产的流失几乎是必然现象,项目也往往受制于关键信息的同频而产生很大的负面影响。另一方面,业务模式无论多么简单,新员工上手的学习曲线同样陡峭,往往在同一类问题的解决上反复浪费资源,重复制造车轮。

解决上述问题,企业知识库算是一个比较合适的方案:一个能够保存企业智慧、促进信息共享、提高工作效率、加速新员工培训、支持决策制定的知识协同系统。员工只需要按照企业制定的统一要求,把属于企业的知识放进去,经知识库加工后输出,逐渐在企业内外部共享使用。随着知识库内容和功能的完善,将为企业管理和协同带来巨大的帮助。

知识库有了雏形,我们就可以借助GPT为企业员工和用户更好的输出知识库内容,提升使用体验,从而提升效率。在本文中,我们将借助OpenAI的GPT和开源程序FastGPT的组合方案,低成本实现企业知识库问答系统的搭建,相比于以往服务商提供的动辄几万块的知识库解决方案,甚至让你不需要花钱就能达到同样甚至更好的效果。

FastGPT简介

FastGPTLOGO

免费开源程序FastGPT 是一个基于 LLM 大语言模型的知识库问答系统,支持企业内部免费私有化部署,也支持付费商用多用户版本,目前Github9.2kStar,提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排,从而实现复杂的问答场景!

[FastGPT项目地址>>]

功能特点:

  • 项目开源
    FastGPT 遵循附加条件 Apache License 2.0 开源协议,你可以 Fork 之后进行二次开发和发布。FastGPT 社区版将保留核心功能,商业版仅在社区版基础上使用 API 的形式进行扩展,不影响学习使用。
  • 独特的 QA 结构
    针对客服问答场景设计的 QA 结构,提高在大量数据场景中的问答准确性。
  • 可视化工作流
    通过 Flow 模块展示了从问题输入到模型输出的完整流程,便于调试和设计复杂流程。
  • 无限扩展
    基于 API 进行扩展,无需修改 FastGPT 源码,也可快速接入现有的程序中。
  • 便于调试
    提供搜索测试、引用修改、完整对话预览等多种调试途径。
  • 支持多种模型
    支持 GPT、Claude、文心一言等多种 LLM 模型,未来也将支持自定义的向量模型。

工作原理:

工作原理

搭建准备

  • 服务器:2核2G3M20GB以上即可,推荐入手阿里云99元/年ECS云服务器,推荐购买链接:
    [www.aliyun.com/minisite/go…]
  • 域名:阿里云购买域名并在上述购买服务器上进行企业备案(企业备案完成大概1~2周左右时间)。
  • API-Key:购买可以支持gpt-3.5和4系列、国内主流AI等多个大模型的聚合API,推荐购买链接:[one.meithink.com/]

以上就是搭建所需全部条件,搭建费用总计成本200元以内,准备好后可继续往下阅读。

搭建步骤

  • 在服务器完成宝塔安装(略)

  • 服务器端口放行3000(或把默认设置3000修改为自定义的端口并放行)
    放行端口

  • Docker部署FastGPT

    • 打开宝塔,安装Ngixn推荐环境,再在应用商店安装Docker管理器,进入SSH终端;
      进入终端
    • 命令创建文件夹并拉取配置文件:
mkdir fastgpt
cd fastgpt
curl -O https://raw.githubusercontent.com/labring/FastGPT/main/files/deploy/fastgpt/docker-compose.yml
curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json

    • yml和json设置
      docker-compose.yml文件主要改三个位置(密码、接口、API-Key),如下图:
      yml设置
      config.json可不修改,按需添加。建议添加默认模型:gpt-4-turbo
      新增模型
    • 注意,在国内拉取github源镜像可能会非常缓慢甚至卡住不动,这里建议从yml设置文件中修改镜像源为阿里云,如下图:
      修改镜像
    • 分别执行以下三条命令,拉取镜像并启动:
      cd fastgpt
      docker-compose pull
      docker-compose up -d
    • 完成后,打开你的服务器ip+端口访问,比如:1.1.1.1:3000
  • url绑定程序

    • 在域名服务商控制台,将访问域名解析到你的服务器IP,如www.123.com;
    • 在宝塔面板→网站→添加网站,设置如图:
      添加网站
    • 添加SSL证书(略);
    • 反向代理ip,绑定url:
      反向代理
    • 通过域名访问成功即完成搭建。
      fastgpt界面

FastGPT使用

搭建成功后,通过用户名和密码访问私有化部署的FastGPT即可展开使用,你可以基于企业特点选择怎样去使用它,这里我们来简要介绍几个核心功能:

  • 创建知识库
    提前准备好你的投喂资料,然后根据系统提示完成知识库的创建即可:
    创建知识库1 创建知识库2 创建知识库3
  • 绑定应用
    新建一个应用,并将知识库与该应用捆绑,你还可以设定回答模型,提示词,语音设置等。
    关联应用
  • 高级编排
    个人感觉这是FastGPT最良心的功能,高级编排是大模型回答前的预判断条件语句,可以更好的分类用户问题并给出更准确的回答。
    高级编排
  • 设置外链
    你可以为你的知识库应用生成无需登录即可访问的外部链接。这样做,我们可以将知识库用在任何我们需要的地方,也可以用frame形式嵌入网站。
    设置外链
  • 设置OpenAI格式的API
    此功能是FastGPT得以广泛使用的原因之一。我们可以将知识库以API的形式输出(OpenAI Chat格式),如此以来大大扩展了知识库的使用面积,可以任意场景快速接入知识库,包括我们熟知的Nextchat这一类AI程序,也可以对接使用,方法和接入OpenAI的API一致。因为蛋壳API是聚合了几十种大模型于一身,通过Newapi进行了格式统一,所以我们购买后可以通过蛋壳API任意调用其中的大语言模型,比如gpt系列+知识库、通义千问+知识库、讯飞星火+知识库、智谱清言+知识库等等。模型调用请参考
    API输出
  • 效果展示
    我基于网站FAQ用FastGPT + gpt-3.5 + chatgpt-demo做了个蛋壳AI客服,[蛋壳AI客服访问链接>>]:
    [效果展示
    知识库建设思路

目前看来,中国大部分中小企业还是没有知识库概念的,老板不重视,员工更不会重视,就像开篇说的那样,企业在人才流失的同时,也流失了太多本应该属于企业的知识沉淀。企业太缺乏这种资产保护意识了!

FastGPT的出现,从一定意义上来说更加具体了知识库的概念,降低了知识库的入门标准,拉低了成本,我在本文也重点介绍了知识库问答系统搭建的整个过程,总的来说还是非常简单的。如此以来也可以倒逼企业建设属于自己的知识库,降本增效就在眼前,无论企业大小,都可以开始着手尝试应用了!

如果还没有头绪着手开始这件事,以下方式可以参考:

  1. 指定1名人员作为知识库管理员,并安排其完成基于FastGPT的知识库问答系统搭建,功能使用培训;
  2. 各个部门指定1名人员并分配后台账号,负责录入并调校本部门知识档案的输出(包含但不限于规章制度、工作流程、优秀案例、企业文化、宣传资料、产品资料、技术文件等等),并定期维护和更新本部门资料;
  3. 由知识库管理员基于知识库创建不同功能的应用,如新员工AI培训师、AI财务助理、AI客服等等,还可以通过知识库API继续深度开发知识库相关应用程序。

总结

虽然短期来看,搭建企业知识库比较费时费力,并有一定滞后性,甚至影响员工工作的积极性,尤其是在知识库内容不全面急需补充的阶段。但是长期来看,建设企业知识库不仅可以提高企业的运营效率,还可以促进企业的持续学习和发展,提高客户满意度,支持决策制定,降低风险,最终加强企业的竞争力。

在这里插入图片描述

大模型&AI产品经理如何学习

求大家的点赞和收藏,我花2万买的大模型学习资料免费共享给你们,来看看有哪些东西。

1.学习路线图

在这里插入图片描述

第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;

第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;

第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;

第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;

第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;

第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

2.视频教程

网上虽然也有很多的学习资源,但基本上都残缺不全的,这是我自己整理的大模型视频教程,上面路线图的每一个知识点,我都有配套的视频讲解。

在这里插入图片描述

在这里插入图片描述

(都打包成一块的了,不能一一展开,总共300多集)

因篇幅有限,仅展示部分资料,需要点击下方图片前往获取

3.技术文档和电子书

这里主要整理了大模型相关PDF书籍、行业报告、文档,有几百本,都是目前行业最新的。
在这里插入图片描述

4.LLM面试题和面经合集

这里主要整理了行业目前最新的大模型面试题和各种大厂offer面经合集。
在这里插入图片描述

👉学会后的收获:👈
• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。
在这里插入图片描述

1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集

👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

在这里插入图片描述

  • 10
    点赞
  • 16
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值