深入探索Snowflake Cortex：使用LangChain与行业领先的大语言模型互动

最新推荐文章于 2024-10-05 18:17:29 发布

mmlihaio

最新推荐文章于 2024-10-05 18:17:29 发布

阅读量267

点赞数 4

文章标签： langchain 语言模型人工智能 python

本文链接：https://blog.csdn.net/mmlihaio/article/details/142680269

版权

引言

在当今的AI领域，Snowflake Cortex提供了一种强大的方式来访问由Mistral、Reka、Meta、Google等公司研究人员训练的大型语言模型(LLMs)。其中包括Snowflake Arctic，这是一个由Snowflake开发的开放企业级模型。在本文中，我们将探讨如何利用LangChain与Snowflake Cortex进行交互。

主要内容

安装和设置

首先，我们需要安装snowflake-snowpark-python库，并配置连接到Snowflake的凭证。您可以选择通过环境变量或直接传递凭证的方式进行配置。

%pip install --upgrade --quiet snowflake-snowpark-python

import getpass
import os

# 设置环境变量以连接到Snowflake
if os.environ.get("SNOWFLAKE_ACCOUNT") is None:
    os.environ["SNOWFLAKE_ACCOUNT"] = getpass.getpass("Account: ")

if os.environ.get("SNOWFLAKE_USERNAME") is None:
    os.environ["SNOWFLAKE_USERNAME"] = getpass.getpass("Username: ")

if os.environ.get("SNOWFLAKE_PASSWORD") is None:
    os.environ["SNOWFLAKE_PASSWORD"] = getpass.getpass("Password: ")

if os.environ.get("SNOWFLAKE_DATABASE") is None:
    os.environ["SNOWFLAKE_DATABASE"] = getpass.getpass("Database: ")

if os.environ.get("SNOWFLAKE_SCHEMA") is None:
    os.environ["SNOWFLAKE_SCHEMA"] = getpass.getpass("Schema: ")

if os.environ.get("SNOWFLAKE_WAREHOUSE") is None:
    os.environ["SNOWFLAKE_WAREHOUSE"] = getpass.getpass("Warehouse: ")

if os.environ.get("SNOWFLAKE_ROLE") is None:
    os.environ["SNOWFLAKE_ROLE"] = getpass.getpass("Role: ")

调用模型

我们可以使用invoke或generate方法来调用模型。

from langchain_community.chat_models import ChatSnowflakeCortex
from langchain_core.messages import HumanMessage, SystemMessage

# 默认使用`cortex`提供的模型：`snowflake-arctic`，使用函数：`complete`
chat = ChatSnowflakeCortex()

# 调用模型生成回复
messages = [
    SystemMessage(content="You are a friendly assistant."),
    HumanMessage(content="What are large language models?"),
]
response = chat.invoke(messages)
print(response.content)

手动指定凭证

如果您希望手动指定Snowflake凭证，可以使用以下代码：

chat = ChatSnowflakeCortex(
    model="snowflake-arctic",
    cortex_function="complete",
    temperature=0,
    max_tokens=10,
    top_p=0.95,
    # 指定Snowflake凭证
    account="YOUR_SNOWFLAKE_ACCOUNT",
    username="YOUR_SNOWFLAKE_USERNAME",
    password="YOUR_SNOWFLAKE_PASSWORD",
    database="YOUR_SNOWFLAKE_DATABASE",
    schema="YOUR_SNOWFLAKE_SCHEMA",
    role="YOUR_SNOWFLAKE_ROLE",
    warehouse="YOUR_SNOWFLAKE_WAREHOUSE"
)