GPT-3 再更新，新增编辑和插入文本功能，简直不要太好用！

编译 | 禾木木

出品 | AI科技大本营（ID:rgznai100）

GPT-3 是 OpenAL 提出的基于上下文的超大规模自然处理深度学习模型。这意味着如果你给 GPT-3 某些上下文内容时，它会试图去填充其余内容。例如给出句子的前部分，它会推测出下半部分。

但最近 OpenAL 在官博和推特上发布了新版本的 GPT-3 和 Codex，它们可以编辑与插入，而不仅仅是完成现有版本。新功能可以修改现有内容、而不仅是预测文本，以往的 GPT-3 只能根据上下文预测；而新版本 GPT-3 则可以修改现有内容，也可以使内容变得更加有趣。

我们先一起来看一个例子：

GPT-3 和 Codex 传统上会根据之前出现的文本在现有内容的末尾添加文本。无论是使用文本还是代码，写作不仅仅是附加，它是一个更新迭代过程，对现有文本进行修改。根据例子可以发现新版本可以编辑文本、更改当前存在的内容或在内容中间添加文本。

插入文本

GPT-3 原有的功能是基于上下文进行推测，新的插入功能是在现有内容的中间添加上下文相关的文本。为模型提供未来的上下文可以提高应用程序的完成质量，例如编写长篇文本、在段落之间转换、遵循大纲或引导模型走向结尾。

如果没有下文的内容，模型会生成与第二部分无关的内容。当考虑到下文时，模型就会生成一段能够良好连接两部分内容的文本。

在上面的示例中，希望在大纲的两节标题之间填写文本。如果没有添加上下文语境背景的第二小节标题，GPT-3模型会生成与第二部分无关的填充文本。若添加内容有助于提示语境，模型就会生成能有机联系各部分小标的填充文本。

插入对于编写代码的确在开发中很有用。在日常软件开发中，程序员通常需要参考前后的代码逻辑，然后在当前文件中添加新的代码。

例如 GPT-3 参考上下文代码，模型成功完成了缺失的功能prune，同时连接到已经编写的代码。

编辑现有文本

之前的 GPT-3 和 Codex 会根据出现的文本在现有内容的末尾添加文本。无论是写文本还是写代码，真正人类的写作工作都不仅仅是个叠加字符的过程，它是一个既有文本不断被修正的迭代过程。

GPT-3 推出的编辑功能更多的是修改现有内容，而不是根据上文推测下文。

通过对现有文本指定为提示，并给出如何修改指示，GPT-3 编辑功能可以修改文本的语气或者结构，或者做一些针对性的修改，例如单词拼写。

在上面的示例中， GPT-3 执行下面三种指示：添加一首诗；将这首诗修改为第一人称；将这首诗修改为带有适当称呼和签名的字母。

总结

从 GPT-3 出现以来，可以看到巨量模型发展越来越快，越来越智能，未来模型的发展会带来哪些变化还不确定，就目前来说已经有很大的进步。

你怎么看呢？

参考链接：

https://openai.com/blog/gpt-3-edit-insert/

往

期

回

顾

技术

Pandas&SQL语法归纳总结

资讯

Nginx宣布在俄罗斯禁止贡献

资讯

又居家办公，要签合同怎么办？

技术

一行Python代码能干嘛？来看！

分享

点收藏

点点赞

点在看