OpenAI API 中文文档 - 文本补全

我们发现,在这种情况下,重新采样 3 或 5 次(或使用 k=3,5 的 best_of)并选择以“停止”作为其finish_reason的样本可能是一种有效的方法。例如,如果你给 API 提示,“正如笛卡尔所说,我认为,因此”,它将以很高的概率返回完成“我是”。中性标签很重要,因为在许多情况下,即使是人类也很难确定某事是积极的还是消极的,而在这种情况下,它两者都不是。一定要校对你的例子——这个模型通常足够聪明,可以看穿基本的拼写错误并给你一个响应,但它也可能认为这是故意的,它可能会影响响应。
摘要由CSDN通过智能技术生成

文本补全

了解如何生成或操作文本

介绍

完成终结点可用于各种任务。它为我们的任何模型提供了一个简单但功能强大的界面。您输入一些文本作为提示,模型将生成一个文本补全,尝试匹配您为其提供的任何上下文或模式。例如,如果你给 API 提示,“正如笛卡尔所说,我认为,因此”,它将以很高的概率返回完成“我是”。

开始探索完井的最佳方式是通过我们的游乐场。它只是一个文本框,您可以在其中提交提示以生成完成。要亲自尝试,请在 Playground 中打开此示例

为冰淇淋店写一个标语。

提交后,您将看到如下所示的内容:

为冰淇淋店写一个标语。我们用每一勺提供微笑!

您看到的实际完成情况可能会有所不同,因为默认情况下 API 是不确定的。这意味着每次调用它时,即使提示保持不变,您也可能得到略有不同的完成。将温度设置为 0 将使输出大部分具有确定性,但可能会保留少量可变性。

这个简单的文本输入、文本输出界面意味着您可以通过提供说明或仅提供您希望它做什么的几个示例来“编程”模型。它的成功通常取决于任务的复杂性和提示的质量。一个好的经验法则是考虑如何为中学生写一个单词问题来解决。编写良好的提示为模型提供了足够的信息,以便了解您想要什么以及它应该如何响应。

本指南涵盖一般提示设计最佳实践和示例。要了解有关使用我们的 Codex 模型处理代码的更多信息,请访问我们的代码指南

请记住,默认模型的训练数据在 2021 年中断,因此它们可能不了解当前事件。我们计划在未来增加更多的持续培训。

提示设计

基本

我们的模型可以做任何事情,从生成原始故事到执行复杂的文本分析。因为他们可以做很多事情,所以你必须明确描述你想要什么。展示,而不仅仅是讲述,通常是良好提示的秘诀。

创建提示有三个基本准则:

展示和讲述。 通过说明、示例或两者的组合来明确您想要什么。如果希望模型按字母顺序对项目列表进行排名或按情绪对段落进行分类,请显示这是您想要的。

提供高质量的数据。 如果尝试生成分类器或让模型遵循模式,请确保有足够的示例。一定要校对你的例子——这个模型通常足够聪明,可以看穿基本的拼写错误并给你一个响应,但它也可能认为这是故意的,它可能会影响响应。

检查您的设置。 温度和top_p设置控制模型在生成响应时的确定性。如果你要求它给出只有一个正确答案的答案,那么你需要把这些设置得更低。如果您正在寻找更多样化的响应,那么您可能希望将它们设置得更高。人们使用这些设置的第一个错误是假设它们是“聪明”或“创造力”控件。

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值