市面上的大模型也是参考OpenAI的,了解Open AI后再去看其他模型,就简单多了,细节上稍有不同。
Open AI提供了两类AI。
1. Comletion API:这个是Open AI最早推出的API,它基于生成模型GPT-3来完成给定的文本提示,主要功能是问答,文本摘要,补全,续写,翻译。
2. Chat API:这个是Chat API是Open AI基于高级模型GPT-4等的设计的API,用于对话和互动的场景,他的功能包括Comletion API,可用于智能对话,个人助手,聊天机器人,客服支持。可以保持多伦的上下文信息和定制角色实现复杂的对话。
下面是调用示例:
def get_chat_completion(session, user_prompt, model="gpt-3.5-turbo"):
_session = copy.deepcopy(session)
_session.append({"role": "user", "content": user_prompt})
response = client.chat.completions.create(
model=model,
messages=_session,
# 以下默认值都是官方默认值
temperature=1, # 生成结果的多样性 0~2之间,越大越随机,越小越固定
stream=False, # 数据流模式,一个个字接收
top_p=1, # 随机采样