《ai企业级知识库》- 使用api启动rasa热切换模型文件

阿丹：

        在线上环境在准备切换模型文件的时候，更希望通过一些简单，并且热点的方式来将训练好的模型文件进行切换。rasa这里准备了相应的接口来完成这个事情。那么这里就记录一下这接口。关于后面的部署是很重要的事情。

api模式

Rasa的API模式下,您可以在线上模型保持运行的同时进行模型的重新训练和模型文件的切换。这是Rasa支持的一个非常有用的功能,可以确保在重新训练和切换模型时不会中断线上服务。

训练新模型

在另一个终端或者进程中,使用Rasa命令行工具进行模型的重新训练,例如:

rasa train

这将创建一个新的模型文件夹,其中包含新训练好的模型文件。

复制新模型
将新训练好的模型文件夹复制到Rasa服务器上的某个位置,例如/app/new_model。
重新加载模型
发送一个POST请求到Rasa服务器的/model端点,指定新模型文件夹的路径,例如:
 

curl -XPOST 'http://localhost:5005/model' -d '{"model_file": "/app/new_model"}'

这将触发Rasa服务器加载新模型并进行热更新,而不会中断当前正在运行的会话
验证新模型
您可以通过向Rasa发送一些测试消息来验证新模型是否已成功加载并正常工作。
 

需要注意的是,在更新模型的过程中,可能会有一个短暂的响应延迟,因为Rasa需要一些时间来加载新模型。但是,一旦新模型加载完成,服务就将恢复正常运行。

通过这种方式,您可以在线上环境中平滑地更新Rasa模型,而不会造成任何服务中断。这对于持续改进和维护对话系统非常有帮助。