如何部署 LangChain App 作为 API

介绍

 

最近，我想在我的网站上添加我自己的 AI 助手 - https://zhifj.com. 我希望它能回答有关我的项目和我自己的问题，并大体上谈论机器学习和人工智能。我的网站是建立在 SvelteKit 上的，我本可以选择直接从前端使用 OpenAI 的 API。但是，我希望助手具有可扩展性。也就是说，在未来，我希望它能够浏览我的博客、项目和我网站上的其他材料，并更好地回答问题。因此，为了这个目的并保持网站简单，我使用 FastAPI 创建了一个 LangChain 应用程序，它将通过 REST API 与我的网站集成。我希望体验类似于 ChatGPT，即它应该能够记住对话的上下文并自然地继续对话。我在 Deta Space 上部署了应用程序，这非常简单。让我逐步引导您完成整个过程。我们现在将使应用程序保持简单。在以后的博客中，我将解释如何使用 Wea​​viate 或 Pinecone 等矢量数据库将您的网站添加为上下文，以使聊天助手更了解您。

因此，在本教程中，我将向您展示如何使用 LangChain、FastAPI 和 Deta Space 创建用于获取 OpenAI 输出的 API。让我们开始。

配置

1. 从新目录中的新 Python 项目开始。在我们的示例中，我们将项目目录称为LangChainAPI.

2. LangChainAPI在calledapp和 new 文件中创建一个目录.env

3. 在 app 文件夹中，创建一个空__init__.py文件和一个新的main.pyandconversation.py文件。

4. 在这个新目录中，使用以下终端命令启动虚拟环境。

   <span style="color:var(--syntax-text-color)"><code>python <span style="color:var(--syntax-error-color)">-m</span> venv venv
   </code></span>

5. 这就是项目结构的样子

   <span style="color:var(--syntax-text-color)"><code>
   ├── app│ 
   │   ├── __init__.py
   │   ├── main.py
   │   ├── conversation.py
   ├── .venv| 
   └── .gitignore
   └── .env
   
   </code></span>

6. 激活环境。

   对于 Windows

   <span style="color:var(--syntax-text-color)"><code>venv<span style="color:var(--syntax-literal-color)">\S</span>cripts<span style="color:var(--syntax-literal-color)">\a</span>ctivate.bat
   </code></span>

   对于苹果操作系统/Linux

   <span style="color:var(--syntax-text-color)"><code><span style="color:var(--syntax-text-color)">source </span>venv/bin/activate
   </code></span>

7. 安装依赖项。

   <span style="color:var(--syntax-text-color)"><code>pip <span style="color:var(--syntax-text-color)">install </span>langchain fastapi <span style="color:var(--syntax-string-color)">"uvicorn[standard]"</span> openai python-dotenv
   </code></span>

8. 安装 Deta Space CLI

   对于 Windows

   <span style="color:var(--syntax-text-color)"><code>iwr <https://deta.space/assets/space-cli.ps1> <span style="color:var(--syntax-error-color)">-useb</span> | iex
   </code></span>

   对于苹果操作系统/Linux

   <span style="color:var(--syntax-text-color)"><code>iwr <https://deta.space/assets/space-cli.ps1> <span style="color:var(--syntax-error-color)">-useb</span> | iex
   </code></span>

9. 启动 Git 存储库并提交

   <span style="color:var(--syntax-text-color)"><code>git init
   git add <span style="color:var(--syntax-text-color)">.</span>
   git commit <span style="color:var(--syntax-error-color)">-m</span> <span style="color:var(--syntax-string-color)">"First Commit"</span>
   </code></span>

10. 在https://deta.space/signup上创建一个帐户并从设置中获取您的访问令牌。

    

11. 在 CLI 中登录到 Deta Space。它将要求访问令牌。粘贴它。

    <span style="color:var(--syntax-text-color)"><code>space login
    </code></span>