探索Yi LLM：解锁大型语言模型的潜力

mmlihaio

于 2024-10-06 21:30:56 发布

阅读量74

点赞数 2

文章标签：语言模型人工智能自然语言处理 python

本文链接：https://blog.csdn.net/mmlihaio/article/details/142732189

版权

# 引言

随着人工智能技术的不断进步，大型语言模型（LLM）在多个领域展现出了巨大的潜力。01.AI由李开复博士创立，是引领AI 2.0的先锋公司，提供了先进的Yi系列语言模型。本文将为您介绍如何使用Yi LLM API，并提供实用的代码示例，帮助您充分利用其强大功能。

# 主要内容

## Yi LLM概述

Yi系列语言模型参数范围从6B到数千亿，具有多模态能力。01.AI提供开放API平台和开源选择，例如Yi-34B/9B/6B和Yi-VL。

## 安装和配置

要开始使用Yi LLM，首先需要安装相关包，并获取API密钥。

### 安装LangChain社区包

```bash
%pip install -qU langchain-community

获取API密钥

访问灵机万物官网申请API密钥。申请时需指定使用区域（国内或国际）。

使用Yi LLM

在使用之前，请确保已将API密钥添加到环境变量中。

import os
os.environ["YI_API_KEY"] = "YOUR_API_KEY"

from langchain_community.llms import YiLLM

# 加载模型
llm = YiLLM(model="yi-large")

您可以根据需要指定区域：

# llm = YiLLM(model="yi-large", region="domestic")  # 或 "international"

基本用法

# 调用模型
res = llm.invoke("What's your name?")
print(res)

高级功能

生成多个响应

res = llm.generate(
    prompts=[
        "Explain the concept of large language models.",
        "What are the potential applications of AI in healthcare?",
    ]
)
print(res)

流式传输

for chunk in llm.stream("Describe the key features of the Yi language model series."):
    print(chunk, end="", flush=True)

异步流式传输

import asyncio

async def run_aio_stream():
    async for chunk in llm.astream(
        "Write a brief on the future of AI according to Dr. Kai-Fu Lee's vision."
    ):
        print(chunk, end="", flush=True)

asyncio.run(run_aio_stream())

调整生成参数

llm_with_params = YiLLM(
    model="yi-large",
    temperature=0.7,
    top_p=0.9,
)

res = llm_with_params(
    "Propose an innovative AI application that could benefit society."
)
print(res)