uncle_ll的博客

当你开始与 GPT-4 进行交互时，OpenAI 会向 GPT-4 发送一条隐藏消息，以检查你的插件是否已安装。这条消息会简要介绍你的插件，包括其描述信息、端点和示例。模型就成了智能的 API 调用者。当用户询问关于插件的问题时，模型可以调用你的插件 API。是否调用插件是基于 OpenAPI 规范和关于应该使用 API 的情况的自然语言描述所做出的决策。一旦模型决定调用你的插件，它就会将 API 的结果合并到上下文中，以向用户提供响应。因此，插件的 API 响应必须返回原始数据而不是自然语言响应。

在为 LLM 编写输入文本时，

开发基于 LLM 的应用程序，核心是将 LLM 与 OpenAI API 集成。LLM 已被证明在总结文本方面表现出色。在大多数情况下，LLM 能够提取文本的核心思想并重新表达，使生成的摘要流畅且清晰。媒体监测：快速了解重要信息，避免信息过载。趋势观察：生成技术新闻的摘要或对学术论文进行分组并生成有用的摘要。客户支持：生成文档概述，避免客户被大量的信息所淹没。电子邮件浏览：突出显示最重要的信息，并防止电子邮件过载。从视频中提取文字记录根据文字记录生成摘要。

如图 2-4 所示，在这种模式下，你提供一些文本（在图中标记为 I）和指令（在图中标记为 J），模型将尝试修改文本。如果你是国际用户，请注意，你的个人信息和输入的数据可能会从你的所在地传输到 OpenAI 在美国的服务器上。每个模型都有自己的功能和定价，且这些模型是专有的，你不能根据自己的需求直接修改模型的代码。可以使用函数定义将自然语言转换为 API 调用或数据库查询，从文本中提取结构化数据，并通过调用外部工具来创建聊天机器人，而无须创建复杂的提示词以确保模型以特定的格式回答可以由代码解析的问题。

GPT-4 和其他 GPT 模型是基于大量数据训练而成的大语言模型 （large language model，LLM），它们能够以非常高的准确性识别和生成人类可读的文本。GPT-4 和 ChatGPT 基于一种特定的神经网络架构，即 Transformer。Transformer 就像阅读机一样，它关注句子或段落的不同部分，以理解其上下文并产生连贯的回答。此外，它还可以理解句子中的单词顺序和上下 文意思。这使 Transformer 在语言翻译、问题回答和文本生成等任务中非常有效。