介绍Anthropic API的引用(Citations)

今天，我们推出了一项新的应用程序接口功能–“引用”（Citations），让 Claude 的回答以源文件为基础。 克劳德现在可以提供详细的参考资料，说明它在生成答案时使用的确切句子和段落，从而获得更可验证、更可信的输出结果。 Citations 可在 Anthropic API 和谷歌云的 Vertex AI 上使用。

通过验证获得信任

所有 Claude 模型在设计时都经过了可信赖和可引导的训练。 在此基础上，Citations 解决了人工智能应用中的一个特定需求：验证人工智能生成的响应背后的来源。

以前，开发人员依赖于复杂的提示，指示 Claude 包含来源信息，这往往导致性能不一致，并在提示工程和测试方面投入大量时间。 有了 "引用 "功能，用户现在可以在上下文窗口中添加源文件，在查询模型时，Claude 会在输出中自动引用从这些来源推断出的主张。

我们的内部评估显示，Claude 的内置引用功能优于大多数定制实施，可将召回准确率提高 15%。

使用案例

有了 Citations，开发人员就可以创建人工智能解决方案，在以下使用案例中提供更强的责任感：

• 文件摘要： 生成案件卷宗等长篇文件的简明摘要，并将每个关键点链接回原始出处。
• 复杂的 Q&A：在大量文件（如财务报表）的语料库中为用户查询提供详细答案，每个回复要素都可追溯到相关文本的特定部分。
• 客户支持： 创建支持系统，通过参考多个产品手册、常见问题解答和支持票据来回答复杂的问题，并始终引用准确的信息来源。

工作原理

启用 "引用 "功能后，应用程序接口会将用户提供的源文件（PDF 文档和纯文本文件）分块处理成句子。 然后，这些分块句子以及用户提供的上下文会连同用户的查询一起传递给模型。 或者，用户也可以提供自己的源文件块。

Claude 会分析查询并生成响应，其中包括基于所提供块的精确引文以及源材料中任何主张的上下文。

这种方法无需文件存储，可与消息 API 无缝集成，因此具有出色的灵活性和易用性。

定价

引文使用我们基于令牌的标准定价模式。 虽然它可能会使用额外的输入标记来处理文档，但用户不会为返回引用文本本身的输出标记付费。

快速上手

下面是一个如何将引用与消息 API 结合使用的示例：

curl https://api.anthropic.com/v1/messages \
  -H "content-type: application/json" \
  -H "x-api-key: $ANTHROPIC_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -d '{
    "model": "claude-3-5-sonnet-20241022",
    "max_tokens": 1024,
    "messages": [
      {
        "role": "user",
        "content": [
          {
            "type": "document",
            "source": {
              "type": "text",
              "media_type": "text/plain",
              "data": "The grass is green. The sky is blue."
            },
            "title": "My Document",
            "context": "This is a trustworthy document.",
            "citations": {"enabled": true}
          },
          {
            "type": "text",
            "text": "What color is the grass and sky?"
          }
        ]
      }
    ]
  }'

引文的工作原理

提供文档并启用引用

• 包含任何支持格式的文档： PDF 文件、纯文本或自定义内容文件
• 在每个文档上设置 citations.enabled=true。 目前，必须在请求中的所有文档上启用引文，否则就不启用。
• 请注意，目前只支持文本引用，还不能进行图像引用。

总结

Anthropic 在一篇博文中解释说，开发人员可以添加源文件，让模型自动引用从这些文件中推断出的说法。Anthropic 表示，“引用”在文档摘要、问答和客户支持应用中尤其有用，该功能可以促使模型插入源引用。

Anthropic 的所有其它模型都不支持引用功能，只有 Claude 3.5 Sonnet 和 Claude 3.5 Haiku 支持。此外，该功能也不是免费的。Anthropic 指出，根据源文件的长度和数量，引用可能会产生费用。

根据 Citations 使用的 Anthropic 标准 API 定价，如果使用 Claude 3.5 Sonnet，一个大约 100 页的源文档将花费大约 0.30 美元，如果使用 Claude 3.5 Haiku，则花费 0.08 美元。对于希望减少幻觉和其他人工智能错误的开发人员来说，这可能是值得的。

文档

https://docs.anthropic.com/en/docs/build-with-claude/citations