探索Upstage的高性能LLM组件：提升多轮对话体验

tt_jishu

于 2024-09-27 19:19:44 发布

阅读量130

点赞数 2

文章标签： python 开发语言

本文链接：https://blog.csdn.net/tt_jishu/article/details/142600718

版权

引言

在人工智能领域，语言模型的性能不断提升。而Upstage作为AI领域的领先公司，专注于提供高于人类水平的LLM（大型语言模型）组件。本文将介绍Upstage的Solar Mini Chat和其他功能，帮助您了解如何利用这些工具提升多轮对话应用的性能。

主要内容

Solar Mini Chat

Solar Mini Chat是一款专注于英语和韩语的快速、强大的高级大型语言模型。它经过专门微调用于多轮聊天，能有效处理长对话，是开发互动应用的理想选择。

Upstage提供的其他功能

除了Solar，Upstage还提供以下功能：

RAG（检索增强生成）：支持真实场景下的检索增强生成。
Groundedness Check：检查回答是否基于上下文。
Layout Analysis：解析包含表格和图像的文档。

安装和设置

安装langchain-upstage包

pip install -qU langchain-core langchain-upstage

获取API Keys

确保获取API Key并设置环境变量UPSTAGE_API_KEY。

代码示例

环境设置

import os

os.environ["UPSTAGE_API_KEY"] = "YOUR_API_KEY"

Chat功能示例

from langchain_upstage import ChatUpstage

chat = ChatUpstage()
response = chat.invoke("Hello, how are you?")
print(response)

文本嵌入示例

from langchain_upstage import UpstageEmbeddings

embeddings = UpstageEmbeddings(model="solar-embedding-1-large")
doc_result = embeddings.embed_documents(
    ["Sung is a professor.", "This is another document"]
)
print(doc_result)

query_result = embeddings.embed_query("What does Sung do?")
print(query_result)

Groundedness Check示例

from langchain_upstage import UpstageGroundednessCheck

groundedness_check = UpstageGroundednessCheck()

request_input = {
    "context": "Mauna Kea is an inactive volcano on the island of Hawaii. Its peak is 4,207.3 m above sea level, making it the highest point in Hawaii and second-highest peak of an island on Earth.",
    "answer": "Mauna Kea is 5,207.3 meters tall.",
}
response = groundedness_check.invoke(request_input)
print(response)

布局分析示例

from langchain_upstage import UpstageLayoutAnalysisLoader

file_path = "/PATH/TO/YOUR/FILE.pdf"
layzer = UpstageLayoutAnalysisLoader(file_path, split="page")

# 使用API代理服务提高访问稳定性
docs = layzer.load()  # 或 layzer.lazy_load()

for doc in docs[:3]:
    print(doc)