使用LangChain轻松集成Snowflake Cortex进行LLM调用-CSDN博客

本文链接：https://blog.csdn.net/aehrutktrjk/article/details/142725886

引言

随着大型语言模型（LLM）的广泛应用，如何高效地整合这些先进的AI技术成为了开发者关注的焦点。Snowflake Cortex提供了对业界领先的LLM的即时访问，使得与这些模型的交互变得更加便捷。本文将介绍如何使用LangChain与Snowflake Cortex进行集成，帮助开发者更加高效地调用这些强大的模型。

主要内容

一、安装和设置

首先，安装snowflake-snowpark-python库：

%pip install --upgrade --quiet snowflake-snowpark-python

接下来，配置连接到Snowflake的凭证。可以通过环境变量设置：

import getpass
import os

if os.environ.get("SNOWFLAKE_ACCOUNT") is None:
    os.environ["SNOWFLAKE_ACCOUNT"] = getpass.getpass("Account: ")

# 其他环境变量配置省略

这些环境变量将用于后续与Snowflake Cortex的交互。

二、与模型交互

我们将使用默认的snowflake-arctic模型。可以通过以下代码进行设置和调用：

from langchain_community.chat_models import ChatSnowflakeCortex
from langchain_core.messages import HumanMessage, SystemMessage

chat = ChatSnowflakeCortex()

messages = [
    SystemMessage(content="You are a friendly assistant."),
    HumanMessage(content="What are large language models?"),
]
response = chat.invoke(messages)
print(response)

此代码将发送消息给模型并返回结果。

三、手动指定凭证

如果希望手动指定Snowflake凭证：

chat = ChatSnowflakeCortex(
    model="snowflake-arctic",
    cortex_function="complete",
    temperature=0,
    max_tokens=10,
    top_p=0.95,
    account="YOUR_SNOWFLAKE_ACCOUNT",
    username="YOUR_SNOWFLAKE_USERNAME",
    password="YOUR_SNOWFLAKE_PASSWORD",
    database="YOUR_SNOWFLAKE_DATABASE",
    schema="YOUR_SNOWFLAKE_SCHEMA",
    role="YOUR_SNOWFLAKE_ROLE",
    warehouse="YOUR_SNOWFLAKE_WAREHOUSE"
)