探索Upstage的强大功能：Solar LLM及其应用

最新推荐文章于 2024-09-27 19:19:44 发布

ahdfwcevnhrtds

最新推荐文章于 2024-09-27 19:19:44 发布

阅读量255

点赞数 6

文章标签： python

本文链接：https://blog.csdn.net/ahdfwcevnhrtds/article/details/142338519

版权

# 探索Upstage的强大功能：Solar LLM及其应用

## 引言

近年来，人工智能在自然语言处理领域取得了显著进展。Upstage是一家领先的AI公司，其Solar LLM组件因其卓越的性能而备受关注。本文将介绍如何利用Upstage提供的工具构建多轮对话系统、进行文本嵌入和验证回复的可靠性。

## 主要内容

### Solar Mini Chat

Solar Mini Chat是一款专注于英语和韩语的高级大型语言模型。它经过特殊调整，能够出色地处理多轮对话和需要长上下文理解的任务，如RAG（检索增强生成）。与同类模型相比，它在交互应用中表现尤其突出。

### Upstage的其他特性

除了Solar Mini Chat，Upstage还提供其他特性，如：

- **Groundedness Check**：验证助手回复的可靠性。
- **Layout Analysis**：分析和序列化含表格和图像的文档。

### 环境安装和设置

要开始使用这些特性，可以通过以下命令安装`langchain-upstage`包：

```bash
pip install -qU langchain-core langchain-upstage

请记得获取API密钥并设置环境变量UPSTAGE_API_KEY。

代码示例

环境设置

import os

os.environ["UPSTAGE_API_KEY"] = "YOUR_API_KEY"

聊天助手

使用ChatUpstage构建简单的聊天助手：

from langchain_upstage import ChatUpstage

chat = ChatUpstage()
response = chat.invoke("Hello, how are you?")
print(response)

文本嵌入

嵌入文本到向量：

from langchain_upstage import UpstageEmbeddings

embeddings = UpstageEmbeddings(model="solar-embedding-1-large")
doc_result = embeddings.embed_documents(
    ["Sung is a professor.", "This is another document"]
)
print(doc_result)

query_result = embeddings.embed_query("What does Sung do?")
print(query_result)

可靠性检查

验证回复的可靠性：

from langchain_upstage import UpstageGroundednessCheck

groundedness_check = UpstageGroundednessCheck()

request_input = {
    "context": "Mauna Kea is an inactive volcano on the island of Hawaii. Its peak is 4,207.3 m above sea level, making it the highest point in Hawaii and second-highest peak of an island on Earth.",
    "answer": "Mauna Kea is 5,207.3 meters tall.",
}
response = groundedness_check.invoke(request_input)
print(response)

布局分析

进行文档布局分析：

from langchain_upstage import UpstageLayoutAnalysisLoader

file_path = "/PATH/TO/YOUR/FILE.pdf"
layzer = UpstageLayoutAnalysisLoader(file_path, split="page")

# 为提高访问稳定性，建议使用API代理服务 #
docs = layzer.load()  # or layzer.lazy_load()

for doc in docs[:3]:
    print(doc)