5 分钟在网站上增加一个 AI 助手,你也可以做到!

在生成式 AI 不断奔涌的创新浪潮中,企业和组织都在寻找在实际环境可以落地且能够产生业务价值的应用场景。经过了一段时间的摸索和实践,大家都把落地锁定在 “知识库” 领域,将其用在企业内部知识库建设、对外的客户服务、学术研究和在线教学等场景。

越来越多的企业用户希望在其业务网站中配备一个智能的 AI 助手,比方说公共机构针对企业信用情况及相关政策的查询服务、宠物医院问诊咨询、消防安全知识问答、机械制造专业知识服务、互联网商家的智能客服等。

为了找到一款满足以上需求的开源项目,我费了不少功夫,终于在 GitHub 榜单上发现了一款,于 2024 年 4 月发布的基于 LLM 大语言模型的开源知识库问答系统:MaxKB

这是一款完全由国人开发的开源知识库问答系统,该项目仅发布不到 5 个月,就在 GitHub 上斩获了超过 9,000 个 Star,项目的版本迭代、社区交互、issue 提交都非常活跃。

GitHub 项目地址:https://github.com/1Panel-dev/MaxKB

MaxKB 简单易用、界面简洁,支持本地部署,即便是刚刚接触知识库应用的新人小白,也能在 5 分钟内为自己的网站增加一个 AI 助手。

下面就来给大家演示一下使用 MaxKB 构建智能问答 AI 助手的具体过程。

安装部署

MaxKB 支持一键在线快速部署,对于 Ubuntu 22.04 / CentOS 7.6 64 位系统的用户,只需要执行以下命令就可以在服务器完成 MaxKB 的部署。

docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data -v ~/.python-packages:/opt/maxkb/app/sandbox/python-packages cr2.fit2cloud.com/1panel/maxkb

此外,用户还可以通过 1Panel 应用商店快速安装 MaxKB,非常方便。

部署完成后,可以使用默认账号密码登录,进入 MaxKB 后,我们可以看到上方横栏清晰地列有应用、知识库、系统管理三大板块。

配置大模型

大模型的选择影响着知识库的向量化结果和问答时返回的答案。MaxKB 给予了用户自由的模型选择权利,支持对接各种大语言模型,包括通过 Ollama 对接用户本地的私有大模型(比如 Llama 3、Qwen 2 等)、同时也支持国内外的公共大模型,比如 OpenAI、通义千问、千帆大模型、豆包大模型等。

在 MaxKB 中选择 “系统管理”→“模型设置” 后,就可以看到支持的大模型供应商列表,演示中我选择的是千帆大模型,按照提示输入就配置好了。

创建知识库

知识库是 MaxKB 的核心。实际上,我们上一步配置的大模型在经由供应商预训练时,使用的知识库数据量已经足够支持大模型回答使用者大部分的问题了。但是由于这些通用大模型并未学习特定专业领域的专业知识 ,在专业领域特有的术语与概念方面表现较差,要想投入生产,往往需要专业 AI 工程师通过再训练来提高模型在专业领域上的知识面。

MaxKB 的知识库功能在这里起到的作用就是帮助普通人和企业用更低的成本来优化模型的回答结果,而且无需经过复杂、专业、耗时的训练,就可以实现 “人人皆可玩转大模型” 的目标。

一路按照 MaxKB 的提示上传、分段、导入,等到文件状态变为 “成功”,知识库就创建完成了。

创建应用

配置好了大模型和知识库,就可以来创建应用了。

MaxKB 的创建应用功能极大地简化了大模型调用和预设的流程,同时内置了强大的工作流引擎和函数库,支持编排 AI 工作过程,能够满足复杂业务场景下的需求。

在创建应用时,选择事先配置好的大模型和知识库,在提示词中设定小助手的身份以增加模型准确率。为小助手填写开场白,帮助访客了解小助手的功能。

在这里插入图片描述

嵌入网站

MaxKB 的应用嵌入有全屏和浮窗两种嵌入模式,两种模式各有优势,用户可以根据需求自行选择嵌入模式。

进入 “应用概览” 页面,点击 “嵌入第三方” 选项,复制悬浮窗模式脚本,打开网页在线文档项目,将嵌入脚本放入 index.html 中。打开网站,可以看到小助手的悬浮图标已经出现在网页上,点击小助手图标,弹出对话框,就可以进行提问和对话了。

如果你使用的是像 WordPress、Halo 这样的 CMS 系统,可以直接在他们的管理后台通过代码注入功能增加这段代码。Halo 建站工具还额外提供了 MaxKB 插件,支持自动同步文章到 MaxKB、一键开启 MaxKB 浮窗。

写在最后

综合体验下来,MaxKB 带来了很多惊喜,在实用性、流畅性、上手难度、UI 美观度上的表现都很优秀,不愧是登顶过 GitHub Trending 趋势榜主榜的项目。

目前,MaxKB 项目正在以月度为单位进行快速迭代,项目的开发者积极收集用户提出的需求和反馈的问题,认真打磨项目,真正做到了项目与用户共同成长。

最后,再放上 MaxKB 相关的资源网站,供大家参考学习:

  • MaxKB 官网: https://maxkb.cn/

  • MaxKB GitHub 仓库:https://github.com/1Panel-dev/MaxKB

如何系统的去学习大模型LLM ?

大模型时代,火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业?”“谁的饭碗又将不保了?”等问题热议不断。

事实上,抢你饭碗的不是AI,而是会利用AI的人。

科大讯飞、阿里、华为等巨头公司发布AI产品后,很多中小企业也陆续进场!超高年薪,挖掘AI大模型人才! 如今大厂老板们,也更倾向于会AI的人,普通程序员,还有应对的机会吗?

与其焦虑……

不如成为「掌握AI工具的技术人」,毕竟AI时代,谁先尝试,谁就能占得先机!

但是LLM相关的内容很多,现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学,学习成本和门槛很高。

基于此,我用做产品的心态来打磨这份大模型教程,深挖痛点并持续修改了近70次后,终于把整个AI大模型的学习门槛,降到了最低!

在这个版本当中:

第一您不需要具备任何算法和数学的基础
第二不要求准备高配置的电脑
第三不必懂Python等任何编程语言

您只需要听我讲,跟着我做即可,为了让学习的道路变得更简单,这份大模型教程已经给大家整理并打包,现在将这份 LLM大模型资料 分享出来:包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁:全网最全《LLM大模型入门+进阶学习资源包》免费分享(安全链接,放心点击)👈

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点,那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集,涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)
在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程(LLaLA/Meta/chatglm/chatgpt)

在这里插入图片描述

五、AI产品经理大模型教程

在这里插入图片描述

LLM大模型学习路线

阶段1:AI大模型时代的基础理解

  • 目标:了解AI大模型的基本概念、发展历程和核心原理。

  • 内容

    • L1.1 人工智能简述与大模型起源
    • L1.2 大模型与通用人工智能
    • L1.3 GPT模型的发展历程
    • L1.4 模型工程
    • L1.4.1 知识大模型
    • L1.4.2 生产大模型
    • L1.4.3 模型工程方法论
    • L1.4.4 模型工程实践
    • L1.5 GPT应用案例

阶段2:AI大模型API应用开发工程

  • 目标:掌握AI大模型API的使用和开发,以及相关的编程技能。

  • 内容

    • L2.1 API接口
    • L2.1.1 OpenAI API接口
    • L2.1.2 Python接口接入
    • L2.1.3 BOT工具类框架
    • L2.1.4 代码示例
    • L2.2 Prompt框架
    • L2.3 流水线工程
    • L2.4 总结与展望

阶段3:AI大模型应用架构实践

  • 目标:深入理解AI大模型的应用架构,并能够进行私有化部署。

  • 内容

    • L3.1 Agent模型框架
    • L3.2 MetaGPT
    • L3.3 ChatGLM
    • L3.4 LLAMA
    • L3.5 其他大模型介绍

阶段4:AI大模型私有化部署

  • 目标:掌握多种AI大模型的私有化部署,包括多模态和特定领域模型。

  • 内容

    • L4.1 模型私有化部署概述
    • L4.2 模型私有化部署的关键技术
    • L4.3 模型私有化部署的实施步骤
    • L4.4 模型私有化部署的应用场景

这份 LLM大模型资料 包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁:全网最全《LLM大模型入门+进阶学习资源包》免费分享(安全链接,放心点击)👈

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值