OPENAI chatgpt API的使用指南

0. 前言

最近刚接触GPT的API，将一些使用流程记录下来

1. 普通token的收费逻辑

详见https://openai.com/pricing
目前是1000个token，gpt4收费0.03美元，gpt3.5收费0.01美元
假如要创建一个chat机器人，那么每一次都要把之前的所有message都送入API里，所以说每次聊天越长，最后token数会越多，也就越贵。
例如某次聊天如下

用户：你好，介绍一下生活大爆炸这个电视剧
GPT：好的，生活大大爆炸是xxxxxxxx
用户：你对电视剧中的人物有什么看法
GPT：我认为，电视剧里的XXX XXX

类似于上面的一场对话，第一次送入 API的是

用户：你好，介绍一下生活大爆炸这个电视剧

当GPT返回答案后，如果想让GPT记得之前说的是啥（在这里是哪部电视剧），就需要把前面的历史记录都送进去，也就是说，第二次送入API的是：

用户：你好，介绍一下生活大爆炸这个电视剧
GPT：好的，生活大大爆炸是xxxxxxxx
用户：你对电视剧中的人物有什么看法

所以越往后面token越多，越贵

2. Assistants API的收费逻辑

官方推出的个人定制GPT，暂时没有提供API，但是目前提供了一个Assistants的API，可以当作同样的来使用，效果可能略有不同，具体需要尝试。

• 收费方式：如果给Assistants已经设定了一些instructions，那么每次询问，其实还是会算这个instructions的钱，并不会便宜。
• 需要先给账户充钱，我充了5刀多点，API才会显示gpt4的model的选项。

3. 实现简单的一问一答

def get_answer(prompt=None,image=None):
    '发送一个请求给API，返回caption'
    client = OpenAI()
    response = client.chat.completions.create(
    model="gpt-4-vision-preview",
    messages=[
        {
        "role": "user",
        "content": [
            {"type": "text", "text": prompt},
            {
            "type": "image_url",
            "image_url": {
                "url": f"data:image/jpeg;base64,{image}",
            },
            },
        ],
        }
    ],
    max_tokens=2000,
    )
    return response.choices[0].message.content

我这里使用的是gpt-4-vision-preview模型，注意这时候max_tokens如果设置过小就会报错找不到gpt4模型，调大就行了。

4. 需要注意问题

1. 官方有限制，限制API使用频率，所以如果大批量使用，需要注意其限制情况。
2. 账户分几个等级，详见https://platform.openai.com/docs/guides/rate-limits/usage-tiers
   tier1是需要交$5才行。一个月最多充$100；
   tier2要交$50，而且需要等待7天以上才会生效。