探索 Snowflake Cortex：如何使用 LangChain 与大型语言模型交互

最新推荐文章于 2024-10-05 18:17:29 发布

sjufgwgfhoia

最新推荐文章于 2024-10-05 18:17:29 发布

阅读量361

点赞数 3

文章标签： langchain 语言模型交互

本文链接：https://blog.csdn.net/sjufgwgfhoia/article/details/142372823

版权

引言

在现代技术发展的浪潮中，大型语言模型（LLMs）已经成为自然语言处理领域的前沿。Snowflake Cortex 为我们提供了即时访问由 Mistral、Reka、Meta 和 Google 等公司研究人员训练的顶级大型语言模型的机会。本文将指导您如何使用 LangChain 库与 Snowflake Cortex 进行交互，充分利用这些强大的工具。

安装和设置

要开始使用，我们需要安装 snowflake-snowpark-python 库，并配置连接 Snowflake 的凭证。这些凭证可以通过环境变量设置，或者直接传递给模型。

%pip install --upgrade --quiet snowflake-snowpark-python

注意：可能需要重启内核以使用更新的包。

import getpass
import os

# 设置环境变量用以连接 Snowflake
if os.environ.get("SNOWFLAKE_ACCOUNT") is None:
    os.environ["SNOWFLAKE_ACCOUNT"] = getpass.getpass("Account: ")

if os.environ.get("SNOWFLAKE_USERNAME") is None:
    os.environ["SNOWFLAKE_USERNAME"] = getpass.getpass("Username: ")

if os.environ.get("SNOWFLAKE_PASSWORD") is None:
    os.environ["SNOWFLAKE_PASSWORD"] = getpass.getpass("Password: ")

if os.environ.get("SNOWFLAKE_DATABASE") is None:
    os.environ["SNOWFLAKE_DATABASE"] = getpass.getpass("Database: ")

if os.environ.get("SNOWFLAKE_SCHEMA") is None:
    os.environ["SNOWFLAKE_SCHEMA"] = getpass.getpass("Schema: ")

if os.environ.get("SNOWFLAKE_WAREHOUSE") is None:
    os.environ["SNOWFLAKE_WAREHOUSE"] = getpass.getpass("Warehouse: ")

if os.environ.get("SNOWFLAKE_ROLE") is None:
    os.environ["SNOWFLAKE_ROLE"] = getpass.getpass("Role: ")

接下来，我们通过 LangChain 库连接到 Snowflake Cortex：

from langchain_community.chat_models import ChatSnowflakeCortex
from langchain_core.messages import HumanMessage, SystemMessage

# 默认使用 `snowflake-arctic` 模型
chat = ChatSnowflakeCortex()

如果想手动指定 Snowflake 的凭证，可以使用以下代码：

chat = ChatSnowflakeCortex(
    model="snowflake-arctic",
    cortex_function="complete",
    temperature=0,
    max_tokens=10,
    top_p=0.95,
    account="YOUR_SNOWFLAKE_ACCOUNT",
    username="YOUR_SNOWFLAKE_USERNAME",
    password="YOUR_SNOWFLAKE_PASSWORD",
    database="YOUR_SNOWFLAKE_DATABASE",
    schema="YOUR_SNOWFLAKE_SCHEMA",
    role="YOUR_SNOWFLAKE_ROLE",
    warehouse="YOUR_SNOWFLAKE_WAREHOUSE"
)

调用模型

现在，我们可以使用 invoke 方法调用模型：

messages = [
    SystemMessage(content="You are a friendly assistant."),
    HumanMessage(content="What are large language models?"),
]
response = chat.invoke(messages)

print(response)