⏳ 摘要
最近越来越多朋友私信问我，怎么用 LangChain 搭一个能读自己文档、还能对接模型回答问题的机器人？
📌 不用开服务器、也不用接 OpenAI 付费 API，我们可以用 FastAPI + LangChain + 本地模型，部署一个 属于自己的知识问答助手！
而且，我还整理了这类项目中最容易踩坑的报错合集，比如：
ImportError: cannot import name ... from langchainAttributeError: 'NoneType' object has no attribute 'run'
这篇文章，就从 0 到 1 带你搭一个属于自己的私有智能助手系统，还能优雅处理 LangChain 那些常见的“更新地狱”问题🔥
博主 默语带您 Go to New World.
✍ 个人主页—— 默语 的博客👦🏻 优秀内容
《java 面试题大全》
《java 专栏》
《idea技术专区》
《spring boot 技术专区》
《MyBatis从入门到精通》
《23种设计模式》
《经典算法学习》
《spring 学习》
《MYSQL从入门到精通》数据库是开发者必会基础之一~
🍩惟余辈才疏学浅，临摹之作或有不妥之处，还请读者海涵指正。☕🍭
🪁 吾期望此文有资助于尔，即使粗浅难及深广，亦备添少许微薄之助。苟未尽善尽美，敬请批评指正，以资改进。！💻⌨
默语是谁？
大家好，我是 默语，别名默语博主，擅长的技术领域包括Java、运维和人工智能。我的技术背景扎实，涵盖了从后端开发到前端框架的各个方面，特别是在Java 性能优化、多线程编程、算法优化等领域有深厚造诣。
目前，我活跃在CSDN、掘金、阿里云和 51CTO等平台，全网拥有超过15万的粉丝，总阅读量超过1400 万。统一 IP 名称为 默语 或者 默语博主。我是 CSDN 博客专家、阿里云专家博主和掘金博客专家，曾获博客专家、优秀社区主理人等多项荣誉，并在 2023 年度博客之星评选中名列前 50。我还是 Java 高级工程师、自媒体博主，北京城市开发者社区的主理人，拥有丰富的项目开发经验和产品设计能力。希望通过我的分享，帮助大家更好地了解和使用各类技术产品，在不断的学习过程中，可以帮助到更多的人，结交更多的朋友.
我的博客内容涵盖广泛，主要分享技术教程、Bug解决方案、开发工具使用、前沿科技资讯、产品评测与使用体验。我特别关注云服务产品评测、AI 产品对比、开发板性能测试以及技术报告，同时也会提供产品优缺点分析、横向对比，并分享技术沙龙与行业大会的参会体验。我的目标是为读者提供有深度、有实用价值的技术洞察与分析。
默语：您的前沿技术领航员
👋 大家好，我是默语！
📱 全网搜索“默语”，即可纵览我在各大平台的知识足迹。📣 公众号“默语摸鱼”，每周定时推送干货满满的技术长文，从新兴框架的剖析到运维实战的复盘，助您技术进阶之路畅通无阻。
💬 微信端添加好友“Solitudemind”，与我直接交流，不管是项目瓶颈的求助，还是行业趋势的探讨，随时畅所欲言。
📅 最新动态：2025 年 4 月 22 日
快来加入技术社区，一起挖掘技术的无限潜能，携手迈向数字化新征程！
🚀《手把手教你用 FastAPI + LangChain 部署本地问答机器人（含报错解决大全）》
💡 引言：为什么用 FastAPI + LangChain？
LangChain 可以让大模型调用外部工具、结合数据库、处理文档、读网页……
FastAPI 是轻量级 Web 框架，用它做 API 接口，完美适配 LangChain 项目 🧩
| 技术组件 | 用途 | 优势 |
|---|---|---|
| FastAPI | 提供 RESTful 接口 | 快速开发、异步支持、自动文档生成 |
| LangChain | 构建 LLM 应用框架 | 支持链式调用、丰富模块、文档解析 |
| FAISS / Chroma | 文档向量检索 | 本地私有知识库搭建神器 🔍 |
🛠 正文内容
1️⃣ 环境搭建与依赖安装
📦 创建项目结构
llm-chatbot/
├── app/
│ ├── main.py # FastAPI 主应用
│ └── qa_chain.py # LangChain 问答逻辑
├── docs/ # 私有文档目录
├── requirements.txt
🧪 安装依赖（建议使用虚拟环境）
pip install fastapi uvicorn langchain openai chromadb
小心💥：LangChain 更新频率非常高，请务必锁版本！
langchain==0.1.14
chromadb==0.4.24
2️⃣ 构建 LangChain 问答逻辑模块
我们在 qa_chain.py 中封装核心功能：文档加载 → 向量存储 → 检索问答 💬
📁 文档加载与向量化
import os;
from langchain.document_loaders import DirectoryLoader;
from langchain.embeddings import OpenAIEmbeddings;
from langchain.vectorstores import Chroma;
loader = new DirectoryLoader("docs", "pdf");
documents = loader.load();
db = new Chroma(documents, new OpenAIEmbeddings());
⚠️ 小心：Chroma 的向量存储路径默认写在
.chromadb文件夹中，不可删除！
🔄 构建问答链（retrieval QA）
from langchain.chains import RetrievalQA;
from langchain.chat_models import ChatOpenAI;
retriever = db.asRetriever();
llm = new ChatOpenAI("gpt-3.5-turbo");
qa_chain = new RetrievalQA(llm, retriever);
3️⃣ 编写 FastAPI 接口服务
在 main.py 中创建异步接口，接收问题，返回答案 📡
from fastapi import FastAPI, Request;
from qa_chain import qa_chain;
app = new FastAPI();
@app.post("/ask")
async def ask_question(request: Request):
json = await request.json();
query = json["question"];
answer = qa_chain.run(query);
return { "answer": answer };
运行服务：
uvicorn app.main:app --reload
4️⃣ 报错汇总 & 问题排查指南 📉
❌ ImportError: cannot import name 'XYZ' from 'langchain'
原因： LangChain 模块频繁调整路径 🚧
解决办法：
- 🔒 固定 langchain 版本号
- ✅ 查找官网文档确定模块位置是否变更
- ✅ 使用
dir(langchain)调试模块结构
❌ AttributeError: 'NoneType' object has no attribute 'run'
原因： QA链未初始化或加载失败 💥
解决办法：
- ✅ 检查向量数据库是否加载成功
- ✅ 检查传入文档是否为空
assert qa_chain is not None : "QA Chain 初始化失败";
5️⃣ 加分功能拓展 💡（可选）
🔐 接入 API Key 鉴权
from fastapi.security import APIKeyHeader;
api_key_header = new APIKeyHeader("X-API-Key");
@app.post("/ask")
async def ask(q: Request, key: str = Depends(api_key_header)):
if key != "your-secret-key":
raise HTTPException(403, "权限不足");
🧠 支持上传自定义文档
使用 FastAPI UploadFile，支持前端上传 PDF、TXT、Markdown 并实时入库 ✨
✅ 总结：部署你的专属 AI 知识助手！
🎯 至此，我们就完成了一个拥有如下能力的本地问答机器人：
- 🔍 基于私有文档内容进行问答
- 🚀 接口异步响应，前端对接简单
- 🧠 支持 LangChain 的链式调用逻辑
- 🧩 可对接 Chroma / FAISS 等本地向量数据库
它可以应用在企业知识库、教程助手、简历问答、产品文档 Q&A 等多个场景中！💼
📚 参考资料
如对本文内容有任何疑问、建议或意见，请联系作者，作者将尽力回复并改进📓；( 联系微信:Solitudemind )
点击下方名片，加入 IT 技术核心学习团队。一起探索科技的未来，共同成长。
为了让您拥有更好的交互体验，特将这行文字设置为可点击样式：点击下方名片，加入 IT
技术核心学习团队。一起探索科技的未来，共同成长。
扫一扫
267
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
