Langchain-Chatchat 本地源代码部署 二次开发

纯纯记录

拉取代码

git clone --depth 1 https://github.com/chatchat-space/Langchain-Chatchat.git

初始化开发环境

Langchain-Chatchat 自 0.3.0 版本起，为方便支持用户使用 pip 方式安装部署，以及为避免环境中依赖包版本冲突等问题， 在源代码/开发部署中不再继续使用 requirements.txt 管理项目依赖库，转为使用 Poetry 进行环境管理。

安装 Poetry

在安装 Poetry 之前，如果您使用 Conda，请创建并激活一个新的 Conda 环境，例如使用 conda create -n chatchat python=3.9 创建一个新的 Conda 环境。

pip install poetry
#安装完按成后执行下面命令，使 Poetry 使用 virtualenv python environment
poetry config virtualenvs.prefer-active-python true

安装源代码/开发部署所需依赖库

进入主项目目录，并安装 Langchain-Chatchat 依赖

cd  Langchain-Chatchat/libs/chatchat-server/
poetry install -E xinference

大概执行5分钟左右安装完成

更新开发部署环境依赖库

当开发环境中所需的依赖库发生变化时，一般按照更新主项目目录(Langchain-Chatchat/libs/chatchat-server/)下的 pyproject.toml 再进行 poetry update 的顺序执行。（这一步暂时没用到，后续二开再用）

设置源代码根目录

如果您在开发时所使用的 IDE 需要指定项目源代码根目录，请将主项目目录(Langchain-Chatchat/libs/chatchat-server/)设置为源代码根目录。

设置数据目录

cd Langchain-Chatchat/libs/chatchat-server/chatchat
export CHATCHAT_ROOT=/parth/to/chatchat_data

windows
我是用pycharm来实现的

Working directory: D:/workespace/Langchain-Chatchat/libs/chatchat-server/chatchat
environment variables:PYTHONUNBUFFERED=1;CHATCHAT_ROOT=D:\workespace\Langchain-Chatchat\libs\chatchat-server\chatchat
然后断点看看成功没

继续执行，执行完毕之后，发现会多如下几个内容

修改chatchat 配置项

从 0.3.1 版本开始，所有配置项改为 yaml 文件，具体参考 Settings。

修改为自己的配置后，执行以下命令初始化项目配置文件和数据目录：

cd libs/chatchat-server
python chatchat/cli.py init

初始化知识库

!!!这个命令会清空数据库、删除已有的配置文件，如果您有重要数据，请备份。

cd libs/chatchat-server
python chatchat/cli.py kb --recreate-vs

如需使用其它 Embedding 模型，或者重建特定的知识库，请查看 python chatchat/cli.py kb --help 了解更多的参数。

上面步骤，我使用pychar来实现的。

执行后，部分结果如下

启动服务

cd libs/chatchat-server
python chatchat/cli.py start -a

上面步骤我使用pycharm实现的

启动后

二次开发示例

这里先做一个中间件，后续想在中间件里面做鉴权。

写一个中间件类

  
class RequestInterceptorMiddleware:  
    def __init__(self, app):  
        self.app = app  
  
    async def __call__(self, request: Request, call_next):  
        start_time = time.time()  
  
        # 打印请求的 URL 和入参信息  
        logger.info(f"Request URL: {request.url}")  
        logger.info(f"Request method: {request.method}")  
        body = await request.body()  
        logger.info(f"Request body: {body.decode('utf-8')}")  
  
        # 权限判断  
        if not self.has_permission(request):  
            from fastapi.responses import JSONResponse  
            return JSONResponse(status_code=403, content={"detail": "Permission denied"})  
  
        # 调用下一个中间件或路由  
        response = await call_next(request)  
        process_time = time.time() - start_time  
        logger.info(f"Processed in {process_time:.4f} seconds")  
        return response  
  
    def has_permission(self, request: Request) -> bool:  
        # 在这里实现你的权限判断逻辑  
        # 比如检查请求头中的token，或者用户角色等  
        auth_header = request.headers.get("Authorization")  
        if auth_header == "Bearer your_token":  
            return True  
        return False

注册这个中间件

app.middleware("http")(RequestInterceptorMiddleware(app))

启动后，后续每次请求都会进入该方法。如下图