阿里云服务器部署向量数据库Chroma并通过Client连接

最新推荐文章于 2024-10-01 10:14:42 发布

Ignacito

最新推荐文章于 2024-10-01 10:14:42 发布

阅读量1.7k

点赞数 9

文章标签：阿里云数据库人工智能 python gpt-3 chatgpt

本文链接：https://blog.csdn.net/weixin_48707135/article/details/138344788

版权

Chroma是一个开源的轻量级向量数据库，用于存储知识并支持大语言模型。它支持内存模式和服务器部署，通过Docker方便安装。文章介绍了如何创建客户端、创建和查询collection的过程。

摘要由CSDN通过智能技术生成

Chroma简介

官网：https://docs.trychroma.com/
Chroma是一个开源的向量数据库。可以为大语言模型提供额外的知识存储。

Chroma的优势

开源
简单轻便
- 内存模式下无需额外部署
相对较快

Server模式的部署

内存模式虽然简单轻便，但也只限于开发验证（重启应用数据会丢失）。实际使用还是需要在服务器部署起来。

前置条件

开通云服务器并安装docker
ali云官方安装教程

获取Docker镜像并部署

你可以直接从DockerHub拉取Chroma官方镜像

docker pull chromadb/chroma

之后执行命令，运行docker

docker run -d --name chromadb-container -p 8899:8000 chromadb/chroma

注：上面8899是指宿主机(host)的端口号，后面的8000 (即 -p 参数后的8000) 代表的是容器(container)内部的端口号。
这样chroma就在服务器上运行了

客户端访问

创建chroma 客户端

import os
import chromadb
from langchain_openai import OpenAIEmbeddings

# 创建client
    client = chromadb.HttpClient(
    							 host=os.environ.get("CHROMA_SERVER_IP"),  # 你的服务器ip
                                 port=8899,  # 你的服务器端口
                                 )

创建collection

# 创建collection
    collection = client.get_or_create_collection(
        name="hello", # collection名称
    )

向collection添加文档

# embedding函数，这里用了langchain的openai embedding函数
    embeddings = OpenAIEmbeddings().embed_documents
    # 向collection中添加文档
    collection.add(
        embeddings=embeddings(texts=["hello world", "goodbye world"]),  # 每个文档的向量
        documents=["hello world", "goodbye world"],  # 文档的原文
        ids=[f"id{i}" for i in range(len(["hello world", "goodbye world"]))]  # 每个文档的 id
    )

查询

# 查询向量数据库
    result = collection.query(
        query_embeddings=embeddings(texts=["hello"]),
        n_results=1
    )

    print(result)

结果：

{'ids': [['id0']], 'distances': [[0.21401809153891344]], 'embeddings': None, 'metadatas': [[None]], 'documents': [['hello world']], 'uris': None, 'data': None}