OpenAI大模型API代码落地实战模拟本地知识库和多轮会话实现

AI大模型_学习君

于 2024-10-05 10:15:00 发布

阅读量247

点赞数 10

文章标签：人工智能深度学习机器学习 ai大模型 LLM 代码本地知识库

本文链接：https://blog.csdn.net/python12345678_/article/details/142684492

版权

学习OpenAI API的意义在于多方面的，不仅限于对技术本身的掌握，更关乎于对当前大模型领域发展趋势的理解与应用。

技术创新与引领： OpenAI作为大模型技术的先行者之一，其API设计和功能定义往往代表了行业内的最新趋势和技术标准。学习OpenAI API可以帮助开发者和研究者理解最新的自然语言处理技术如何被实际应用，以及如何设计高效、易用的API接口，这对推动整个行业的技术创新具有重要意义。

标准化实践： OpenAI的API设计在很大程度上定义了大模型交互的行业标准，包括但不限于数据格式、请求响应模式、安全性考量等。掌握这些标准有助于开发者在不同平台间迁移或整合大模型服务，提高开发效率和互操作性。

功能全面性： OpenAI API因其全面的功能而受到推崇，不仅支持基础的文本生成，还包含了对函数调用的支持、上下文管理、细粒度的控制选项等高级特性。这为开发者提供了极大的灵活性，能够满足从简单到复杂的各种应用场景需求。

一、OpenAI API 类型

Chat Completion API： 随着对话式AI需求的激增，Chat Completion API成为了OpenAI产品线中的明星产品。相较于传统的Completion API，Chat Completion API更加侧重于对话上下文的理解和连续对话的能力，这使得它在聊天机器人、客服系统、教育辅助等领域展现出巨大潜力。由于Chat Completion API更能体现大模型在交互性和个性化方面的优势，因此逐渐成为主流应用的选择。

Completion API： 目前使用有所下降，但它在某些特定场景下仍有其价值，如短文本生成或原型验证等。

同时，Chat Completion API的流行也反映了技术迭代的方向，即更注重用户体验和场景适应性。学习这两种API的差异和应用场景，有助于开发者更好地根据实际需求选择合适的工具。

二、OpenAI API 参数详解

model： 必选参数，大模型的名称

messages： 必选参数，提示词；（里面可以指定角色）

max_tokens： 可选参数，代表返回结果的token数量；

temperature： 可选参数，取值范围为0-2，默认值为1。参数代表采样温度，数值越小，则模型会倾向于选择概率较高的词汇，生成的文本会更加保守；而当temperature值较高时，模型会更多地选择概率较低的词汇，生成的文本会更加多样；

top_p： 可选参数，取值范围为0-1，默认值为1，和temperature作用类似，用于控制输出文本的随机性，数值越趋近与1，输出文本随机性越强，越趋近于0文本随机性越弱；通常来说若要调节文本随机性，top_p和temperature两个参数选择一个进行调整即可；这里更推荐使用temperature参数进行文本随机性调整；

n：可选参数，默认值为1，表示一个提示返回几个Completion；

stream： 可选参数，默认值为False，表示回复响应的方式，当为False时，模型会等待返回结果全部生成后一次性返回全部结果，而为True时，则会逐个字进行返回；

logprobs： 可选参数，默认为null，该参数用于指定模型返回前N个概率最高的token及其对数概率。例如，如果logprobs设为10，那么对于生成的每个token，API会返回模型预测的前10个token及其对数概率；

stop： 可选参数，默认为null，该参数接受一个或多个字符串，用于指定生成文本的停止信号。当模型生成的文本遇到这些字符串中的任何一个时，会立即停止生成。这可以用来控制模型的输出长度或格式；

presence_penalty： 可选参数，默认为0，取值范围为[-2, 2]，该参数用于调整模型生成新内容（例如新的概念或主题）的倾向性。较高的值会使模型更倾向于生成新内容，而较低的值则会使模型更倾向于坚持已有的内容，当返回结果篇幅较大并且存在前后主题重复时，可以提高该参数的取值；

frequency_penalty： 可选参数，默认为0，取值范围为[-2, 2]，该参数用于调整模型重复自身的倾向性。较高的值会使模型更倾向于避免重复，而较低的值则会使模型更可能重复自身；当返回结果篇幅较大并且存在前后语言重复时，可以提高该参数的取值；

logit_bias： 该参数接受一个字典，用于调整特定token的概率。字典的键是token的ID，值是应用于该token的对数概率的偏置；在GPT中我们可以使用tokenizer tool查看文本Token的标记。一般不建议修改；

tools： 可以调用的函数；

tool_choice： 调用函数的策略；废弃的参数：

functions： 可以调用的函数；

function_call： 调用函数的策略；

三、模拟本地知识库实现