GPT中的temperature参数不是用在对话的而是用在调用OPEN API过程中的

已于 2023-06-22 19:06:21 修改
阅读量3.5k 收藏
点赞数 1
分类专栏： 梦幻AI训练营 文章标签： gpt chatgpt 人工智能 AI编程
于 2023-06-18 00:54:30 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/lifetragedy/article/details/131266591
版权
temperature参数常被误认为影响GPT对话创造力，但其实它只在调用OPEN AI API时发挥作用。该参数控制生成文本的多样性和创造性，值越大，多样性越高但可能增加不合理内容。在普通GPT对话中添加temperature无效，而在API调用时是必要的。通过示例展示了在cURL和JavaScript中如何设置temperature参数。
摘要由CSDN通过智能技术生成

前言

自从吴恩达OPENAI《ChatGPT 提示工程》放出后，各个层面反响热列。很多人看到了temperature这个参数，都以为在对话中或者说对话的末尾放上一个temperature=0-2的值就可以达到让GPT极大的发挥出自我创造能力、甚至写文章天马行空。

笔者这边觉得有义务指出这种用法是完全没有理解吴恩达的的教程。不信？让我们来试试看在GPT对话过程中加入了temperature到底有没有用呢？

下面我们做一个对比实验

我们使用不加temperature参数的提示词

 5.1假期在上海到底怎么玩，请写一篇不要超过500字的上海游玩指南。

我们来看GPT的输出。

 我们使用加temperature参数的提示词

按照网上最红火的几篇文章说的：当你加了这个temperature参数后，GPT甚至会写出去火星游玩的天马行空的“行文”。

真的是这样么？我们一起来看：

5.1假期在上海到底怎么玩，请写一篇不要超过500字的上海游玩指南。temperature=
了解本专栏 订阅专栏 解锁全文 超级会员免费看
TGITCIC
关注
专栏目录
订阅专栏
LLM探索：GPT类模型的几个常用参数 Top-k, Top-p, Temperature
人工智能曾小健
06-21 5273
上一篇文章介绍了几个开源LLM的环境搭建和本地部署，在使用ChatGPT接口或者自己本地部署的LLM大模型的时候，经常会遇到这几个参数，本文简单介绍一下~top_ptop_k。
惊爆GPT OpenAPI的调用以及API内的参数详解
lifetragedy的专栏
06-18 1906
本文详细的向初学者揭示了GPT的OPEN API调用方式和各参数正确调用，文中事无俱细的给出了至少3种语言工具调用GPT OPEN API的方式。
chat-gpt笔记：参数temperature与top_p
路过君的博客
09-19 1635
温度采样参数取值介于 0 和 2 之间。较高的值（如 0.8）将使输出更加随机，而较低的值（如 0.2）将使其更加集中和确定性。我们通常建议此参数或top_p参数不要同时更改。
gpt4o参数设置对输出内容的影响
最新发布
博客简介
08-02 490
影响大模型输出文本字数的参数主要有以下几个： - "maxTokens": 此参数直接限制了模型生成的文本最大长度。如果模型遇到结尾指示符（例如句点）之前就达到了最大长度，则会截断输出。 - "temperature": 较高的温度会导致模型生成更短的文本，因为高温度会增加模型选择较短句子的可能性。 - "topP": 较小的 "topP" 值会导致模型生成更短的文本，因为较小的 "topP" 值会限制模型在生成每个词时考虑的候选词数。 - "presencePenalty": 较高的 "presence
ChatGPT中 top_p 和 temperature 的作用机制
weixin_43815222的博客
06-30 6732
可以看到，当 temperature 更大时，模型的选择更加随机（每个 token 的概率更加接近）， 给予原本低概率的 token 更大的选择机会，从而产生更多样化和创意的输出。相反， temperature 更小使模型的选择更加确定，给予原本高概率的 token 更大的选择机 会，从而产生更集中和一致的输出。考虑 a$，他的概率是 0.25 ，加上前面的所有概率得到 0.75。时，模型在每次选择 token时只选择概率最大的那一个，于是我们每次询 问 (同样的prompt) 都会得到完全相同的回答。
chatgpt的实用技巧四temperature 格式
weixin_70812760的博客
01-18 1475
在提问中，向 GPT 投喂资料，这样可以好地帮助 GPT 思考并回答。当 temperature 为 0.7/1 时候，结果发散具备创力。设置 temperature 数值不同，得到的回答散发度也不相同。对于偏文学方面数值可以设置大一点。偏理工方面数值可以设置小一点。GPT3.5 temperature 的范围为：0-0.7；GPT4.0 temperature 的范围为：0-1；当 temperature 为 0 时候，结果可稳定。数值越大，回答越发散，数值越小，回答越稳定。
chatGPT API中参数temperature的含义是什么
chenhao0568的专栏
11-16 1645
会使模型生成更多样化、更有创造性、更不可预测的回答。这在你需要更多的创造性或多样性时很有用，例如进行创意写作或探索不同的回答可能性。是一个调节模型输出“保守性”和“创新性”的工具。低温度倾向于保守，高温度倾向于创新。选择合适的温度值取决于你的具体需求和场景。：会导致模型生成更确定、更一致、更少出乎意料的回答。如果你希望得到更直接、基于事实的、可预测的回答，应该使用较低的温度值。
tf.random.categorical、温度参数temperature
あずにゃん梓喵的博客
07-25 963
日萌社 人工智能AI：Keras PyTorch MXNet TensorFlow PaddlePaddle 深度学习实战（不定时更新） 1.接下来我们将介绍一种新的技巧，取代之前我们熟悉的使用贪心算法从结果分布中获得最有可能的预测ID。 而此处的案例中贪心算法也即取出65个不重复字符维度中的最大概率值的索引值，该索引值便对应的字符。 2.tf.random.categorical...
使用 GPT-4o 的视觉功能 使用 Python 和 OpenAI API
iCloudEnd的博客
05-22 653
OpenAI的新旗舰型号GPT-4o已经上市整整两天了！它的视觉功能非常重要，我想对其进行测试，那么还有什么比使用 OpenAI 的 API 与模型交互更好的方法呢？这样我们就可以一石二鸟——测试 API 和新模型的图像处理。我们将通过两个示例来强调该模型的视觉特征。在一个中，我们将处理静态图像，在另一个中处理视频。对于我们的第一个用例，我们将为模型提供几何数学问题的图片，看看它是否可以解决该问题。在我们的第二个用例中，我们将要求 GPT-4o 总结和描述视频的内容。
使用GPT4 API
AI天才研究院
07-27 235
使用GPT-4 API 作者：禅与计算机程序设计艺术 / Zen and the Art of Computer Programming 1. 背景介绍 1.1 问题的由来 随着人工智能技术的飞速发展，自然语言处理（NLP）已经成为了一个热
【llm模型-参数解释】-temperature（基于GPT4的返回理解）
hao3011432091的博客
03-15 2476
较低的温度使得模型更加保守，倾向于生成大家都能想到的、平滑流畅的内容。这种调整让模型在生成文本时更愿意冒险，尝试新颖或不常见的词汇组合，从而增加文本的多样性和创新性，但同时也可能降低文本的连贯性和合理性。温度 < 1：让概率分布更加尖锐，增加高概率事件的概率，同时降低低概率事件的概率。这会使模型在生成文本时倾向于选择更确定、更常见的词汇，从而生成的文本看起来更加流畅和合理，但可能牺牲一些创意和多样性。相反，如果游戏的"温度"调得高，那就意味着你在游戏中愿意大胆猜测，即便是一些看起来不太可能的词也敢于尝试。
大模型中的temperature参数+随机采样策略
ningyanggege的博客
05-16 8115
使用GPT-3.5的时候发现相同的输入会得不一样的结果。
什么是人工智能领域模型的 temperature 参数？
汪子熙的专家技术分享
04-27 1266
例如，如果我们想要生成一些具有创意和想象力的句子，我们可以将温度参数设置为较高的值，这将使生成的句子更加多样化和有趣。相反，如果我们想要生成一些更加准确和可靠的句子，我们可以将温度参数设置为较低的值，这将使生成的句子更加清晰和精准。相反，如果将温度参数设置为较低的值，softmax函数的输出结果将更加尖锐，这将使生成结果更加确定性。当 Temperature 较高时（如 0.8 或 1.0），模型会更倾向于选择概率较低的单词，生成的文本具有较高的多样性和创造性，但可能牺牲了一定的连贯性和准确性。
OpenAI GPT模型进行对话生成时，设置top_p，Temperature，Top k，Top-p sampling，Frequency penalty，Presence penalty
qq_15821487的博客
06-06 5574
在使用OpenAI GPT模型进行对话生成时，设置top_p参数可以控制生成下一个单词的概率分布，即从所有可能的单词中，只选择概率最高的一部分作为候选单词。例如，如果设置top_p=0.7，则模型将仅考虑概率最高的70%的单词作为候选单词。这么做可以一定程度上增加生成的多样性，避免生成过于单调或重复的回答。用于调整随机从生成模型中抽样的程度，因此每次点击“生成”时，相同的提示可能会产生不同的输出。Top p 通常设置为较高的值（如 0.75），目的是限制可能被采样的低概率 token 的长度。
GPT-4o模型介绍和使用方法
u013099529的专栏
06-14 499
GPT-4o是OpenAI推出的第四代生成预训练变换器（Generative Pre-trained Transformer）模型的一个优化版本，旨在提供更高效、更准确的自然语言处理（NLP）能力。1. 架构改进：相比于前代模型，GPT-4o在架构上进行了优化，提升了模型的效率和响应速度。2. 训练数据：GPT-4o使用了更大规模、更高质量的数据集进行训练，覆盖了更多的语言和领域。4. 增强的上下文理解：GPT-4o对上下文的理解能力进一步提升，能够更准确地捕捉文本中的细微含义和语境信息。
ChatGPT模型采样算法详解
略懂……略懂……
02-15 2万+
采样算法对ChatGPT的文本生成质量至关重要。本文重点讲解ChatGPT中temperature和top_p的采样原理，以及它们对模型输出的影响。帮助大家生成更灵活生动的内容。
OpenAI API参数详解
热门推荐
培根芝士的专栏
02-16 2万+
OpenAI官网文档：https://platform.openai.com/docs/introductionhttps://platform.openai.com/docs/introduction为提供的提示和参数创建完成https://api.openai.com/v1/completionsPOSTRequest Body使用的模型ID。您可以使用模型API列表查看所有可用的模型，有关它们的描述，请参阅我们的模型概述。生成完成的提示，编码为字符串、字符串数组、token数组或token数组的数组。
Open AI API 参数解释
致大尽微 家国天下
05-07 1350
使用 OpenAI 的 API
ChapGpt中api接口中各参数的详解
weixin_42612804的博客
02-16 611
A: ChapGPT API 接口中的参数包括：prompt：输入一段文本，ChatGPT 将以此为基础进行回答；length：控制 ChatGPT 生成文本的长度；temperature：控制 ChatGPT 生成文本的创造性；top_p：控制 ChatGPT 生成文本的置信度；repetition_penalty：控制 ChatGPT 生成文本中重复的内容；stop_token：设置 Chat...
如何在Python中使用langchain调用chatglm
06-07
在这个示例中，我们使用了OpenAI的API来调用LangChaing生成文本。我们首先设置了API密钥，然后指定了生成引擎为“davinci”，输入文本为input_text，生成的最大长度为1024个token，生成1个样本，停止序列为None，...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

TGITCIC

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值