打造长文本生成神器：Skeleton of Thought 详解及实战

bhawfgrcbtwny

于 2024-10-10 19:52:44 发布

阅读量205

点赞数 2

文章标签： python

本文链接：https://blog.csdn.net/bhawfgrcbtwny/article/details/142830779

版权

引言

在自然语言处理领域，生成长文本一直是一个挑战。Skeleton of Thought 技术通过先生成提纲，再逐点展开的方法，显著提升了长文本生成的效率和质量。本文将深入探讨这一技术的实现方法，并提供实用的代码示例，帮助你快速上手。

主要内容

Skeleton of Thought 的基本原理

Skeleton of Thought 旨在先创建文本的骨架结构，然后填充每个要点。这不仅提高了生成速度，同时也增强了文本的连贯性和结构化。

环境搭建

使用 Skeleton of Thought 需要设置 OpenAI API 和 LangChain 环境。

获取 OpenAI API Key

前往 OpenAI 账户的 API Keys 页面生成一个新的密钥，并设置 OPENAI_API_KEY 环境变量。
安装 LangChain CLI

通过以下命令安装 LangChain CLI：
```
pip install -U langchain-cli
```
此外，由于某些地区的网络限制，建议使用 API代理服务提高访问稳定性。

使用 Skeleton of Thought

创建新项目

通过 LangChain 创建一个新的项目：

langchain app new my-app --package skeleton-of-thought

添加到现有项目

如果已存在项目，可以直接添加包：

langchain app add skeleton-of-thought

然后在 server.py 文件中引入并配置：

from skeleton_of_thought import chain as skeleton_of_thought_chain

add_routes(app, skeleton_of_thought_chain, path="/skeleton-of-thought")

配置 LangSmith (可选)

LangSmith 可以用于项目监控与调试：

export LANGCHAIN_TRACING_V2=true
export LANGCHAIN_API_KEY=<your-api-key>
export LANGCHAIN_PROJECT=<your-project>

运行以下命令启动本地服务器：

langchain serve

服务器将运行在 http://localhost:8000。

代码示例

以下是一个简单的示例用法，使用 FastAPI 和 LangServe：

from langserve.client import RemoteRunnable

# 使用本地服务器作为API端点
runnable = RemoteRunnable("http://localhost:8000/skeleton-of-thought")

# 调用生成文本的函数
response = runnable.run({"input": "生成一个关于人工智能的长文章提纲"})

print(response)