LangServe APIHandler:定制化LangChain REST API
在客户端,获取到RemoteRunnable后,通过invoke往服务端传递input参数,参数类型要与服务端类型一致,在上例子,服务端接收的是dict,在客户端需要传递的是dict,最后在服务端解析input,根据解析的参数来获取上下文。值得注意的是,LangServe不仅提供了Python SDK,还支持TypeScript,这意味着前端开发者同样能在JavaScript环境中调用这些服务,开拓了从前端实现复杂逻辑,如流式输出,的可能性。更令人兴奋的是,通过LangServe提供的。
原创
2024-06-27 10:45:56 ·
796 阅读 ·
0 评论