Rasa网页部署以及和LLM的结合

已于 2024-04-01 11:45:51 修改
阅读量954 收藏 24
点赞数 27
文章标签： python
于 2024-04-01 11:45:21 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_29837229/article/details/137226993
版权

一 Rasa如何部署在网页中？

参考如下链接，有多种方法

https://forum.rasa.com/t/rasa-3-chatbot-integration-with-website/50193
image-20230815184915479 image-20230815185623371 image-20230815185842167
方法1：
https://github.com/vba34520/Rasa-UI/tree/master

步骤如下

1.credentials.yml中添加如下内容

socketio:
  user_message_evt: user_uttered
  bot_message_evt: bot_uttered
  session_persistence: true

2.把上面github中的common.js index.html两个都拷贝到rasa3test工作目录下，

3.启动服务 rasa run --enable-api

4.点击打开index.html，就可实现

image-20230809175922625

方法2：

https://github.com/Dustyposa/rasa_bot_front_dist

步骤：

1.把该目录下文件都拷贝到rasa3test目录下

2.点击index.html

3.执行命令  rasa run --cors "*"

二 Rasa-x的安装及使用

Rasa-x是什么？

重点：Rasa-x只支持rasa3以下的版本。 rasa3不支持。

rasax的功能主要是可以在线编辑story，多人在线会话并后台保存。

盲目按照网上教程安装rasax，会打包安装rasa2.8 rasa-sdk2.8 rasax等。已经写好的脚本就没法用。

PASS

三 Rasa-Gpt的研究和使用

Rasa-Gpt是什么

https://cloud.tencent.com/developer/article/2296206?areaSource=102001.11&traceId=3Adc3qXo3YPWBG0_bq96F

将Langchain/LlamaIndex和Rasa集成, 可以实现在Rasa添加多租户，会话和元数据.

相当于rasa进行聊天时候，如果匹配到意图是out_of_scope，就会执行action_gpt_fallback, 该action不仅能调用chatgpt做回复，还能实现langchain来导入本地数据，从本地数据中索引出问题答案来做回答。

源码： https://github.com/paulpierre/RasaGPT
路径： /Users/lijieqiong/work/myCode/ContextDialog/rasa_github/RasaGPT-main

安装，mac上安装不成功，在linux上安装

# 获取代码
git clone https://github.com/paulpierre/RasaGPT.git
cd RasaGPT

## 设置.env文件
cp .env-example .env

# 编辑您的.env文件并添加所有必要的凭证
make install

报错,

解决，修改 app/rasa/actions/Dockerfile 和 docker-compose.yml中的User

重新make install。成功，make run 也成功

重点：

然后怎么用？ 就不知道了。 这玩意干嘛的？不知道怎么用？ 和action中调用glm服务有区别吗？？

四 RASA 根据domain准备多个服务

rasa train的参数命令
rasa train [-h]   [-v 指定logging的输出级别是info] 
                  [-vv --debug， 指定log输出级别是debug] 
                  [--quiet 只输出warning级别的log] 
                  [--logging-config-file LOGGING_CONFIG_FILE 指定log输出路径]
                  [--data DATA data目录[DATA ...]]
                  [-c CONFIG config目录] 
                  [--domain  DOMAIN domain文件路径] 
                  [--out OUT输出模型目录，默认为models]
                  [--dry-run] [--augmentation AUGMENTATION] [--debug-plots] [--num-threads NUM_THREADS] 
                  [--fixed-model-name FIXED_MODEL_NAME 固定模型目录和模型文件的名称]
                  [--persist-nlu-data]
                  [--force强制重新训练，即便数据没有做改动，避免有时候系统检测文件没更新不做重训] 
                  [--finetune [FINETUNE]微调一个模型，如果不指定目录，就微调models下最新的模型文件] 
                  [--epoch-fraction EPOCH_FRACTION] [--endpoints ENDPOINTS指定endpoint文件]
                  {core,nlu  可以单独训练nlu和core模型，也可以都重训练 ...
rasa shell的参数命令
rasa shell [-h] [-v] [-vv] [--quiet] [--logging-config-file LOGGING_CONFIG_FILE] 
                  [--conversation-id CONVERSATION_ID] 
                  [-m MODEL 指定模型路径] 
                  [--log-file LOG_FILE 指定log路径]
                  [--use-syslog] [--syslog-address SYSLOG_ADDRESS] 
                  [--syslog-port SYSLOG_PORT] [--syslog-protocol SYSLOG_PROTOCOL] 
                  [--endpoints ENDPOINTS 指定endpoint文件]
                  [-i INTERFACE 指定服务界面，默认是0.0.0.0] 
                  [-p PORT 指定运行端口，默认是5055] [-t AUTH_TOKEN] 
                  [--cors [CORS [CORS ...]]指定xx，默认是*来代表所有白名单] 
                  [--enable-api 允许api接口外露] 
                  [--response-timeout RESPONSE_TIMEOUT]
                  [--request-timeout REQUEST_TIMEOUT] 
                  [--remote-storage REMOTE_STORAGE 指定远程模型目录地址] 
                  [--ssl-certificate SSL_CERTIFICATE] [--ssl-keyfile SSL_KEYFILE]
                  [--ssl-ca-file SSL_CA_FILE] [--ssl-password SSL_PASSWORD] 
                  [--credentials CREDENTIALS 指定credential.yml文件] 
                  [--connector CONNECTOR 指定连接的服务] [--jwt-secret JWT_SECRET]
                  [--jwt-method JWT_METHOD] [--jwt-private-key JWT_PRIVATE_KEY]
                  {nlu  只使用nlu模型做短语解析}
rasa run actions 的参数命令
rasa run actions  [-h] [-v] [-vv] [--quiet] 
                  [--logging-config-file LOGGING_CONFIG_FILE] 
                  [-p PORT指定端口，默认是5055] 
                  [--cors Use * to whitelist all origins] 
                  [--actions ACTIONS 指定actions目录]
                  [--ssl-keyfile SSL_KEYFILE] 
                  [--ssl-certificate SSL_CERTIFICATE] [--ssl-password SSL_PASSWORD] 
                  [--auto-reload]

五 RASA如何与LLM结合

参考https://rasa.com/blog/answering-questions-about-structured-data-with-rasa-open-source-and-chatgpt/

https://pythonwarriors.com/how-to-use-chatgpt-with-rasa/

https://pipedream.com/apps/openai/integrations/rasa

https://www.upwork.com/services/product/development-it-an-interactive-rasa-botfront-chatbot-with-deployment-1334779461280882688

https://blog.csdn.net/duan_zhihua/article/details/129803691

https://rasa.com/docs/rasa/next/llms/large-language-models/

https://cloud.tencent.com/developer/article/2296209

https://github.com/RasaHQ/kb-demo-chatgpt

https://github.com/artmatsak/grace


https://blog.csdn.net/lly1122334/article/details/106072969

Python调用Rasa API服务进行连续对话

https://zhuanlan.zhihu.com/p/87747660

用rasa 如何使用http服务

https://mp.weixin.qq.com/s/KeZIgq6J092PNEaZwo0URg

动手给fay（github数字人开源项目）加上rasa及chatglm：兼顾实时、可控、记忆及大模型的生成能力](https://www.bilibili.com/video/BV1D14y1f7pr/)

https://mp.weixin.qq.com/s?__biz=MzU2NzkxNDY0Ng==&mid=2247485919&idx=1&sn=9927a3826ac3a1c12f13cca97b134eca&chksm=fc94b026cbe339308cf65992d93359e46e48f38d0e118da1a951b75c95e8072e5abdeb45cc60&scene=21#wechat_redirect

六 RASA研究前沿

一 Rasa结合chatgpt，基于结构化数据来回答问题

使用如下方法，这种基于 LLM 的方法的好处是我们可以立即开始回答这些问题，而无需重新训练机器人！我们只需确保附加字段最终出现在我们放入提示中的 CSV 表示形式中。要尝试此操作，请修改存储库中的 actions.py 文件以读取restaurants_extra.csv 文件。重新启动操作服务器，您的机器人现在将能够回答这些问题。

image-20230908112003539

文档介绍：https://rasa.com/blog/answering-questions-about-structured-data-with-rasa-open-source-and-chatgpt/
代码参考：https://github.com/RasaHQ/kb-demo-chatgpt

重点：

1.用自定义action的方法，从action中构建prompt，然后调用chatgpt

image-20230908113427323

2.将csv格式的数据传输给rasa构建prompt，同时可以本地知识读取

image-20230908113416667

  1. 增加一个分类器，来区分用户正常信息和注入攻击信息，来区分并拒绝injection

image-20230908113405210

​

二 摆脱意图：新的对话模型
https://rasa.com/blog/breaking-free-from-intents-a-new-dialogue-model/
https://rasa.com/blog/were-a-step-closer-to-getting-rid-of-intents/

image-20230913170215032

无意识对话现已成为 Rasa Pro 的测试版功能

使用一个组件： IntentlessPolicy，可以支持无意识对话。传入rasa的是问题答案对列表。

使用IntentlessPolicy，我们的机器人已经提供了良好的问答体验，理解用户表达问题的多种不同方式：

IntentlessPolicy处理逻辑： 根据对话历史记录决定下一步做什么，而不仅仅是最后一条用户消息。但与其他 Rasa策略不同的是，它直接处理用户发送的文本，而不是依赖 NLU 模型来预测意图。

无意识对话的定义方式

img

image-20230913171143154

image-20230913171743566

再一个例子：

地址

/myCode/ContextDialog/rasa_github/rasa-main/examples/e2ebot

story定义

- story: rejects suggestion, indirectly
  steps:
  - intent: search_restaurant
  - action: utter_suggest_cuisine
  - user: "I had that yesterday"
  - action: utter_suggest_cuisine

config定义

policies:
- name: TEDPolicy
  epochs: 200
三 rasa结合google calenda来创建日程表
文档：https://rasa.com/blog/connect-your-assistant-with-google-calendar/
代码：https://github.com/RasaHQ/HandsOn_with_rasa
重点1：写从googlecalenda中取日程的函数
image-20230915112113928
重点2：写一个自动生成event的函数（而不是从nlu中获得event)
image-20230915112500952
四 slotmapping啥意思，如何使用
https://rasa.com/blog/how-to-use-global-slot-mappings/
小芒果的学习星球
关注
  • 27
    点赞
  • 踩
  • 24
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Rasa：使用大语言模型进行意图分类
段智华的博客
09-17 3283
LLM意图分类器是一种全新的意图分类器，利用大型语言模型（LLM）来对意图进行分类。在使用LLM进行意图分类时，可以自定义提示（prompt），以指导LLM预测消息的意图。在Rasa的最新版本（3.x）中，引入了一种新的意图分类方法，即使用大型语言模型（LLM）和一种称为检索增强生成（RAG）的方法进行意图分类。要在的机器人中使用基于LLM的意图分类器，需要在config.yml文件中添加LLMIntentClassifier。这是因为LLM生成的响应与现有的意图进行映射，防止任何提示泄露给用户。
ChatGPT 使用 拓展资料：用 Rasa Open Source 和 ChatGPT 回答有关结构化数据的问题
段智华的博客
03-27 7226
大多数聊天机器人查询 API 和/或数据库以与对话之外的世界进行交互。自定义操作是在 Rasa 中构建该功能的便捷方式。对于此示例，我们有两个自定义操作。第一个操作，action_show_restaurants从 API 获取餐厅推荐，将它们呈现给用户，并将结果存储在槽中。第二个动作回答后续问题，从“结果”槽中获取先前 API 调用的结果，并使用 ChatGPT API 回答问题。在上面的示例对话中，用户询问“其中哪些有 Wifi？
Rasa：停止构建“代理”，并推出真正有效的LLM聊天机器人
段智华的博客
02-20 379
Rasa：停止构建“代理”，并推出真正有效的LLM聊天机器人最初“大模型可以做任何事情”的宣传已经过时。工程师们现在正忙于运行真正的应用程序。如果你已经完成了打地鼠游戏、调整体温、在文本中添加另一种提示技术，并希望你的应用程序这次能够正常工作，那么你可能会想尝试一下Rasa发布的CALM开发版。每当用户与LLM代理交互时，LLM代理都会动态地计算出它们的业务逻辑，可以在整个互联网上导航，为我们做任何事情。但商业聊天机器人根本不是这样的。
打通Rasa Action Server和LLM接口的尝试方法
NLP工程化
01-01 427
本文使用最简单的方法对打通 Rasa Action Server 和 LLM 接口进行了尝试，即当 Rasa 对话 intent 为 out_of_scope 时，调用 action_gpt_fallback 的 action，在 action 中根据 tracker.latest_message.get("text")拿到 user_input，然后再调用知识库模型的 API 接口。
Rasa 3.x 学习系列-摆脱意图：一种新的对话模式
段智华的博客
02-26 869
Rasa 3.x 学习系列-摆脱意图：一种新的对话模式在2019年的一篇文章中，Alan Nichol写道 ：是时候摆脱意图了。一年后，Rasa发布了Rasa中的第一个无意图（或“端到端”）对话模型。现在，我们宣布迈出了一个重要的步伐，将LLM的强大功能带入Rasa的对话管理中。首先，意图非常有用。语言的一个显著特征是人类可以理解从未被说过的句子，比如几年前的这个标题：当我们定义意图时，我们创建代表人们与我们的机器人交互时可能会说的各种东西的bucket。
Rasa 3.0的发展趋势是什么？
ZimingUit的博客
02-22 941
Rasa 最新发布的主要版本：Rasa 3.x ，很高兴Rasa社区发生的最重要的变化和改进。 Rasa开源3.0将模型体系结构与框架体系结构分开，使我们能够运行任意模型体系结构。它还附带了一些增强功能，重点是在使用Rasa构建会话式AI助理时改善开发人员的体验。改进后的计算后端使我们能够试验体系结构，降低维护成本，并实现大规模的协作开发。槽位映射有一些改进，可以使实现所需的槽位行为和表单更容易。有了一个新的实验特性，它旨在帮助我们找出如何在事件跟踪器存储之上添加一个“语义层”，以便更容易地识别和跟踪对话
从零开始：基于LLM大模型构建智能应用程序的完整指南
热门推荐
禅与计算机程序设计艺术
06-07 1万+
在我们即将发布的帖子中，我们将讨论 LLM 链、意图识别、添加特定于任务的工具、集群、创建推荐系统、微调开源 LLM 以及我们测试系统的方式等话题不断改进并从研究和开源社区中学习。在零样本学习中，语言模型被要求在没有明确示例的情况下完成任务，而在少样本学习中，为模型提供了有限数量的示例，或“少样本”，嵌入在提示中. 提示对于将模型引导到一个方向并避免产生幻觉非常重要。根据您的需要，其他方法可能更有效。LLM大模型是一种基于深度学习技术的模型，它可以自动学习并理解大量的数据，从而实现高效、准确的预测和分类。
从零开始构建LLM智能代理:基础架构和关键组件
AI架构设计之禅
05-24 336
从零开始构建LLM智能代理:基础架构和关键组件 作者：禅与计算机程序设计艺术 1. 背景介绍 1.1 LLM智能代理的兴起 近年来，大型语言模型（LLM）在自然语言处理领域取得了显著的进展，展现出惊人的文
Generative AI原理本质、技术内核及工程实践之基于Vertex AI的大模型（一）Vertex AI 简介
段智华的博客
06-11 870
Vertex AI 是一个机器学习 (ML) 平台，可让您训练和部署机器学习模型和 AI 应用，以及自定义大型语言模型 (LLM)，以在 AI 驱动的应用中使用。Vertex AI 结合了数据工程、数据科学和机器学习工程工作流，使您的团队能够使用通用工具集进行协作，并利用 Google Cloud 的优势扩缩您的应用。Vertex AI 提供了几种模型训练和部署的选项：借助 AutoML，您可以训练表格、图片、文本或视频数据，不需要编写代码，也不需要准备数据分块。
kairon：基于RASA构建的工具套件，用于使用高级NLP训练和部署您的聊天机器人
02-05
Kairon被设想为基于Web的微服务驱动套件，可帮助大规模培训Rasa上下文AI助手。 它旨在通过为他们提供无编码的Web界面来适应，培训，测试和维护此类助手，从而使与AI助手一起工作的人们的生活变得容易。 什么是凯伦...
rasa-webchat:Rasa和Botfront的功能丰富的聊天小部件
04-28
:warning: rasa网络聊天的1.0.1版本适用于2.3.x和2.4.x版本的rasa。 对于其他rasa版本，请使用1.0.0。 特征 短信 快速回覆 图片 轮播 降价支持 持续性会议 打字指示 消息之间的智能延迟 易于导入脚本标签或作为...
Rasa安装相关软件依赖包
08-07
为避免网络问题导致安装超时的情况，这里将Rasa、RasaX相关的依赖包下载到本地进行离线安装，尽管使用本地安装存在问题，但可以先进行安装，将其加载到pip缓存，随后使用在线安装命令进行安装，即可避免在线安装时间...
rasa-ui：Rasa UI是Rasa框架的前端
01-31
Rasa UI提供了一个Web应用程序，可以通过Web界面快速轻松地创建和管理机器人，NLU组件（正则表达式，示例，实体，意图等）和核心组件（故事，动作，响应等）。 它还为Rasa提供了一些便利功能，例如训练和加载模型，...
OpsPilot是一个基于Rasa和LLM技术的ChatBot，为运维系统提供ChatOps.zip
04-25
本资源是经过本地编译测试、可打开、可运行的文件或源码，可以用于毕业设计、课程设计的应用、参考和学习需求，请放心下载。 祝愿你在这个毕业设计项目中取得巨大进步，顺利毕业！ 但强调一下，这些项目源码仅供...
使用 Selenium 自动化获取 CSDN 博客资源列表详解
abments的博客
06-14 751
使用 Selenium 自动化获取 CSDN 博客资源列表详解。可以与刷资源浏览量
GLM+vLLM 部署调用
qq_38915354的博客
06-13 1204
vLLM 框架是一个高效的大型语言模型（LLM）推理和部署服务系统
2024 年最新基于 LLOneBot NT 框架搭建 QQ 机器人详细教程（更新中）
最新发布
唤醒手腕的博客
06-14 634
llonebot（LLOneBot）是一个与OneBot（也称为CQHTTP）协议兼容的机器人框架，它允许开发者使用不同的编程语言（如Python、Go、JavaScript等）编写机器人应用，并与各种支持 OneBot 协议的聊天平台（如QQ、Telegram、Discord等）进行交互。onebot 11 背景。
rasa能否部署在静态网页上
06-09
Rasa 本身是一个 Python 包，主要提供了对话管理和自然语言处理的功能，需要在后端运行。因此，如果您想要在静态网页上部署 Rasa，需要将其与前端技术进行集成。 一种常见的集成方式是使用 Rasa 的 REST API 接口，将其部署在一个能够访问该 API 的服务器上，然后在静态网页中通过 JavaScript 发送请求来进行对话交互。您可以使用任何支持 JavaScript 的前端框架，例如 React、Vue、Angular 等。 另外，为了更好地在静态网页上部署 Rasa，您可以考虑使用 Rasa Web Chat 这样的开源工具，它提供了一个可嵌入的聊天窗口，您可以将其放置在您的网页中。Rasa Web Chat 工具已经集成了 Rasa 的 REST API 接口，并可以进行对话交互。 总之，Rasa 可以在静态网页上部署，但需要通过 REST API 接口与前端进行集成，或者使用 Rasa Web Chat 工具来实现嵌入式聊天窗口。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值