智谱AI语言模型GLM-4接口开发文档

最新推荐文章于 2025-04-21 11:42:46 发布
原创 最新推荐文章于 2025-04-21 11:42:46 发布
· 3k 阅读 · 19 ·
版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#ChatGPT #zhipuai

GLM-4

GLM-4 提供了多款模型，适用于各种应用场景。查看GLM-4系列模型比较，选择最适合的模型。

模型编码：glm-4-plus、glm-4-0520、glm-4 、glm-4-air、glm-4-airx、glm-4-long 、 glm-4-flashx 、 glm-4-flash

同步调用

接口请求

类型说明
方法https
请求URLhttps://open.bigmodel.cn/api/paas/v4/chat/completions
调用方式同步调用，等待模型完成执行并返回最终结果或使用SSE调用
字符编码UTF-8
请求格式JSON
响应格式JSON或标准Stream Event
请求类型POST
开发语言任何能够发起HTTP请求的开发语言

请求参数

参数名称类型必填参数描述
modelString是要调用的模型编码。
messagesList是调用语言模型时，当前对话消息列表作为模型的提示输入，以JSON数组形式提供，例如{“role”: “user”, “content”: “Hello”}。可能的消息类型包括系统消息、用户消息、助手消息和工具消息。
request_idString否由用户端传递，需要唯一；用于区分每次请求的唯一标识符。如果用户端未提供，平台将默认生成。
do_sampleBoolean否当do_sample为true时，启用采样策略；当do_sample为false时，温度和top_p等采样策略参数将不生效。默认值为true。
streamBoolean否该参数在使用同步调用时应设置为false或省略。表示模型在生成所有内容后一次性返回所有内容。默认值为false。如果设置为true，模型将通过标准Event Stream逐块返回生成的内容。当Event Stream结束时，将返回一个data: [DONE]消息。
temperatureFloat否采样温度，控制输出的随机性，必须为正数取值范围是：[0.0, 1.0]，默认值为0.95。
top_pFloat否另用温度取样的另一种方法，取值范围是：[0.0, 1.0]，默认值为0.7。
max_tokensInteger否模型输出的最大token数，最大输出为4095，默认值为1024。
stopList否模型遇到stop指定的字符时会停止生成。目前仅支持单个stop词，格式为[“stop_word1”]。
toolsList否模型可以调用的工具。
typeString是工具类型，目前支持 function、retrieval、web_search。 function: Object (必需): 仅当工具类型为 function 时补充。  name: String (必需): 函数名称，只能包含 a-z、A-Z、0-9、下划线和连字符。最大长度限制为64。  description: String (必需): 用于描述函数的能力。模型将根据此描述确定函数调用的方式。  parameters: Object (必需): 参数字段必须传递一个Json Schema对象，以准确定义函数接受的参数。如果调用函数时不需要参数，则可以省略此参数。 "parameters": { "type": "object", "properties": { "location": { "type": "string", "description": "城市，例如：北京" }, "unit": { "type": "string", "enum": ["celsius", "fahrenheit"] }},"required": ["location"]}更多详情：函数调用使用指南retrieval: Object 描述: 仅当工具类型为 retrieval 时补充。  knowledge_id: String (必需): 涉及知识库ID时，请前往开放平台的知识库模块创建或获取。  prompt_template: String (非必需): 请求模型时的知识库模板，默认模板：  从文档 "{{ knowledge }}" 中查找问题的答案 "{{question}}" 如果找到答案，仅使用文档的陈述来回答问题；如果未找到，则使用自己的知识回答，并告知用户此信息不是来自文档。不要重复问题，直接开始回答。用户自定义模板时，知识库内容占位符和用户端问题占位符必须分别为{{ knowledge }}和{{ question }};更多详情：Retrieval使用指南web_search: Object 描述: 仅当工具类型为 web_search 时补充，如果tools中存在type retrieval，则web_search将不生效。  enable: Boolean (非必需): 网络搜索功能：默认为关闭状态（False）。启用搜索：设置为 True。禁用搜索：设置为 False。  search_query: String (非必需): 强制自定义搜索键内容。  search_result: Boolean (非必需): 获取网页搜索来源的详细信息。默认禁用。启用：true，禁用：false。更多详情：web_search使用指南
tool_choiceString或Object否用于控制模型选择调用哪个函数的方式，仅在工具类型为function时补充。默认auto，目前仅支持auto。
user_idString否终端用户的唯一ID，帮助平台对终端用户的非法活动、生成非法不当信息或其他滥用行为进行干预。ID长度要求：至少6个字符，最多128个字符。

message 格式

System Message 格式

参数名称类型必填参数说明
roleString是消息的角色信息，此时应为system
contentString是消息内容

User Message Format

参数名称类型必填参数说明
roleString是消息的角色信息，此时应为user
contentString是消息内容

Assistant Message Format

参数名称类型必填参数说明
roleString是消息的角色信息，此时应为assistant
contentString是"content"与"tool_calls"二必选一。 消息内容。其中包括了tool_calls字段，content字段为空。
tool_callsList是"content"与"tool_calls"二必选一。 模型产生的工具调用消息
idString是工具id
typeString是工具类型, 支持web_search、retrieval、function
functionObject否type为"function"时不为空
nameString是函数名称
argumentsString是模型生成的调用函数的参数列表，JSON 格式。请注意，模型可能会生成无效的JSON，也可能会虚构一些不在您的函数规范中的参数。在调用函数之前，请在代码中验证这些参数是否有效。

Tool Message格式

Tool Message表示调用工具后的返回结果。模型然后根据工具消息输出自然语言格式的消息给用户。

参数名称类型必填参数描述
roleString是消息的角色信息，此时应为tool。
contentString是工具消息的内容，调用工具后的返回结果。
tool_call_idString是工具调用的记录。

响应参数

参数名称类型参数描述
idString任务ID
createdLong请求创建时间，为Unix时间戳，单位为秒
modelString模型名称
choicesList当前对话的模型输出内容
indexInteger结果索引
finish_reasonString模型推理终止的原因。可以是’stop’、‘tool_calls’、‘length’、‘sensitive’或’network_error’。
messageObject模型返回的文本消息
roleString当前对话角色，默认为’assistant’（模型）
contentString当前对话内容。命中函数时为null，否则返回模型推理结果。
tool_callsList模型生成的应调用的函数名称和参数。
functionObject包含模型生成的函数名称和JSON格式的参数。
nameString模型生成的函数名称。
argumentsString模型生成的函数调用参数的JSON格式。调用函数前请验证参数。
idString命中函数的唯一标识符。
typeString模型调用的工具类型，目前仅支持’function’。
usageObject模型调用结束时返回的token使用统计。
prompt_tokensInteger用户输入的token数量
completion_tokensInteger模型输出的token数量
total_tokensInteger总token数量
web_searchList返回与网页搜索相关的信息。
iconString来源网站的图标
titleString搜索结果的标题
linkString搜索结果的网页链接
mediaString搜索结果网页的媒体来源名称
contentString搜索结果网页引用的文本内容

请求示例

from zhipuai import ZhipuAI
client = ZhipuAI(api_key="")  # 请填写您自己的APIKey
response = client.chat.completions.create(
    model="glm-4",  # 请填写您要调用的模型名称
    messages=[
        {"role": "user", "content": "作为一名营销专家，请为我的产品创作一个吸引人的口号"},
        {"role": "assistant", "content": "当然，要创作一个吸引人的口号，请告诉我一些关于您产品的信息"},
        {"role": "user", "content": "智谱AI开放平台"},
        {"role": "assistant", "content": "点燃未来，智谱AI绘制无限，让创新触手可及！"},
        {"role": "user", "content": "创作一个更精准且吸引人的口号"}
    ],
)
print(response.choices[0].message)

响应示例

{
  "created": 1703487403,
  "id": "8239375684858666781",
  "model": "glm-4",
  "request_id": "8239375684858666781",
  "choices": [
      {
          "finish_reason": "stop",
          "index": 0,
          "message": {
              "content": "以AI绘蓝图 — 智谱AI，让创新的每一刻成为可能。",
              "role": "assistant"
          }
      }
  ],
  "usage": {
      "completion_tokens": 217,
      "prompt_tokens": 31,
      "total_tokens": 248
  }
}

流式输出

响应参数

参数名称类型参数描述
idString智谱AI开放平台生成的任务序号，调用请求结果接口时请使用此序号
createdLong请求创建时间，为Unix时间戳，单位为秒
choicesList当前对话的模型输出内容
indexInteger结果索引
finish_reasonString模型推理终止的原因。'stop’表示自然结束或触发stop词，'tool_calls’表示模型命中函数，'length’表示达到token长度限制，'sensitive’表示内容被安全审核接口拦截（用户应判断并决定是否撤回公开内容），'network_error’表示模型推理异常。
deltaObject模型增量返回的文本信息
roleString当前对话角色，默认为’assistant’（模型）
contentString当前对话内容。命中函数时为null，否则返回模型推理结果。
tool_callsList模型生成的应调用的函数名称和参数。
functionObject包含模型生成的函数名称和JSON格式的参数。
nameString模型生成的函数名称。
argumentsString模型生成的函数调用参数的JSON格式。调用函数前请验证参数。
idString命中函数的唯一标识符。
typeString模型调用的工具类型，目前仅支持’function’。
usageObject模型调用结束时返回的token使用统计。
prompt_tokensInteger用户输入的token数量
completion_tokensInteger模型输出的token数量
total_tokensInteger总token数量
web_searchList返回与网页搜索相关的信息。icon
iconString来源网站的图标
titleString搜索结果的标题
linkString搜索结果的网页链接
mediaString搜索结果网页的媒体来源名称
contentString搜索结果网页引用的文本内容

请求示例

我们已经升级到最新的模型GLM-4和GLM-3-Turbo，支持系统提示、函数调用、检索、Web_Search等新功能。要使用这些新功能，需要升级到最新版本的Python SDK。如果您安装了旧版本的SDK，请更新到最新版本。

pip install --upgrade zhipuai

from zhipuai import ZhipuAI
client = ZhipuAI(api_key="")  # 请填写您自己的APIKey
response = client.chat.completions.create(
    model="glm-4",  # 请填写您要调用的模型名称
    messages=[
        {"role": "system", "content": "你是一个乐于回答各种问题的小助手，你的任务是提供专业、准确、有洞察力的建议。"},
        {"role": "user", "content": "我对太阳系的行星非常感兴趣，尤其是土星。请提供关于土星的基本信息，包括它的大小、组成、环系统以及任何独特的天文现象。"},
    ],
    stream=True,
)
for chunk in response:
    print(chunk.choices[0].delta)

响应示例:

data: {"id":"8313807536837492492","created":1706092316,"model":"glm-4","choices":[{"index":0,"delta":{"role":"assistant","content":"土"}}]}
data: {"id":"8313807536837492492","created":1706092316,"model":"glm-4","choices":[{"index":0,"delta":{"role":"assistant","content":"星"}}]}
....
data: {"id":"8313807536837492492","created":1706092316,"model":"glm-4","choices":[{"index":0,"delta":{"role":"assistant","content":"，"}}]}
data: {"id":"8313807536837492492","created":1706092316,"model":"glm-4","choices":[{"index":0,"delta":{"role":"assistant","content":"主要由"}}]}
data: {"id":"8313807536837492492","created":1706092316,"model":"glm-4","choices":[{"index":0,"finish_reason":"length","delta":{"role":"assistant","content":""}}],"usage":{"prompt_tokens":60,"completion_tokens":100,"total_tokens":160}}
data: [DONE]

函数调用

请求示例
from zhipuai import ZhipuAI

client = ZhipuAI(api_key="") # 请填写您自己的APIKey

tools = [
    {
        "type": "function",
        "function": {
            "name": "query_train_info",
            "description": "根据用户提供的信息查询火车时刻",
            "parameters": {
                "type": "object",
                "properties": {
                    "departure": {
                        "type": "string",
                        "description": "出发城市或车站",
                    },
                    "destination": {
                        "type": "string",
                        "description": "目的地城市或车站",
                    },
                    "date": {
                        "type": "string",
                        "description": "要查询的火车日期",
                    },
                },
                "required": ["departure", "destination", "date"],
            },
        }
    }
]
messages = [
    {
        "role": "user",
        "content": "你能帮我查一下2024年1月1日从北京南站到上海的火车票吗？"
    }
]
response = client.chat.completions.create(
    model="glm-4", # 请填写您要调用的模型名称
    messages=messages,
    tools=tools,
    tool_choice="auto",
)
print(response.choices[0].message)

响应示例

{
  "id": "8231168139794583938",
  "model": "glm-4",
  "request_id": "8231168139794583938",
  "created": 1703490288,
  "choices": [
      {
          "finish_reason": "tool_calls",
          "index": 0,
          "message": {
              "role": "assistant",
              "tool_calls": [
                  {
                      "id": "call_8231168139794583938",
                      "index": 0,
                      "type": "function",
                      "function": {
                          "arguments": '{"date": "2024-01-01","departure": "北京南站","destination": "上海"}',
                          "name": "query_train_info"
                      }
                  }
              ]
          }
      }
  ],
  "usage": {
      "completion_tokens": 31,
      "prompt_tokens": 120,
      "total_tokens": 151
  }
}

异步调用

接口请求

类型说明
传输方式HTTPS
请求URLhttps://open.bigmodel.cn/api/paas/v4/async/chat/completions
调用方式异步，结果必须通过查询接口获取
字符编码UTF-8
请求格式JSON
响应格式JSON
HTTP方法POST
开发语言任何能够发起HTTP请求的开发语言

请求参数

请求参数与同步API调用相同。

响应参数

参数名称类型描述
request_idString请求发起时客户端提交的任务号或平台生成的任务号。
idString智谱AI开放平台生成的任务序号，查询结果时使用此序号。
modelStringAPI请求时调用的模型名称。
task_statusstring请求的处理状态：PROCESSING（处理中），SUCCESS（成功），FAIL（失败）。此状态必须查询才能确定结果。

调用示例

from zhipuai import ZhipuAI

client = ZhipuAI(api_key="") # 请填写您自己的APIKey
response = client.chat.asyncCompletions.create(
    model="glm-4",  # 请填写您要调用的模型名称
    messages=[
        {
            "role": "user",
            "content": "
作为童话之王，请以始终保持一颗善良的心为主题，写一篇简短的童话故事。故事应能激发孩子们的学习兴趣和想象力，同时帮助他们更好地理解和接受故事中蕴含的道德和价值观。"
        }
    ],
)
print(response)

响应示例

id='123456789' request_id='654321' model='glm-4' task_status='PROCESSING'

任务结果查询

接口请求

类型说明
传输方式https
请求URLhttps://open.bigmodel.cn/api/paas/v4/async-result/{id}
调用方式同步调用，等待模型完全执行并返回最终结果
字符编码UTF-8
请求格式JSON
响应格式JSON
HTTP方法GET
开发语言同步调用，等待模型完全执行并返回最终结果

请求参数

参数名称类型必填描述
idString是任务id

响应参数

参数名称类型描述
modelString模型名称
choicesList当前对话模型输出内容，目前仅返回一个
indexInteger结果索引
finish_reasonString模型推理终止的原因。"stop"表示自然结束或触发stop词，"length"表示达到token长度限制。
messageObject模型返回的文本消息
roleString当前对话角色，目前默认为assistant（模型）
contentString当前对话内容
tool_callsList模型生成的应调用的函数名称和参数。
functionObject
nameString模型生成的应调用的函数名称。
argumentsString模型生成的函数调用参数的JSON格式。注意，模型生成的JSON不一定有效，可能包含函数模式中未定义的参数。在调用函数前，请在你的代码中验证参数。
idString命中函数的唯一标识符。
typeString模型调用的工具类型，目前仅支持’function’。"
task_statusString处理状态：PROCESSING（处理中），SUCCESS（成功），FAIL（失败）
request_idString客户端请求时提交的任务号或平台生成的任务号
idString智谱AI开放平台生成的任务序号，调用请求结果接口时使用此序号
usageObject本次模型调用的token统计
prompt_tokensint用户输入的token数量
completion_tokensint模型输出的token数量
total_tokensint总token数量

请求示例

import time
from zhipuai import ZhipuAI

client = ZhipuAI(api_key="") # 请填写您自己的APIKey

response = client.chat.asyncCompletions.create(
    model="glm-4",  # 请填写您要调用的模型名称
    messages=[
        {
            "role": "user",
            "content": "
作为童话之王，请以始终保持一颗善良的心为主题，写一篇简短的童话故事。故事应能激发孩子们的学习兴趣和想象力，同时帮助他们更好地理解和接受故事中蕴含的道德和价值观。"
        }
    ],
)
task_id = response.id
task_status = ''
get_cnt = 0

while task_status != 'SUCCESS' and task_status != 'FAILED' and get_cnt <= 40:
    result_response = client.chat.asyncCompletions.retrieve_completion_result(id=task_id)
    print(result_response)
    task_status = result_response.task_status

    time.sleep(2)
    get_cnt += 1

响应示例:

{"id":"123456789","request_id":"123123123","model":null,"task_status":"PROCESSING"}
{"id":"123456789","request_id":"123123123","model":null,"task_status":"PROCESSING"}

... ...

{"id":"123456789","request_id":"123123123","model":null,"task_status":"PROCESSING"}
{
    "id": "123456789",
    "request_id": "123123123",
    "model": "glm-4",
    "task_status": "SUCCESS",
    "choices": [
        {
            "index": 0,
            "finish_reason": "stop",
            "message": {
                "content": "从前，有一个美丽的村庄，那里的孩子们都喜欢一起玩耍、学习和探索。其中有一个小男孩叫小明，他有一颗善良的心，总是乐于帮助别人。

一天，小明在森林里发现了一只翅膀受伤的小鸟，无法飞翔。小明心疼这只小鸟，便把它带回家，用温暖和爱心照顾它。在小明的细心照料下，小鸟的翅膀渐渐康复，开始在房间里飞来飞去。

看到小鸟奇迹般的康复，小明对鸟类产生了浓厚的兴趣，想要了解更多关于鸟类的知识。他开始阅读有关鸟类的书籍，学习它们的习性和生活方式。通过学习，小明对鸟类有了深刻的了解，他和那只小鸟也建立了深厚的友谊。

一天，小明在森林里散步时，发现了一只被困在猎人陷阱里的小兔子。小明毫不犹豫地救出了小兔子。小兔子感激地看着小明，并告诉他森林里有一个神秘的宝藏——一颗能实现愿望的魔法宝石。

充满好奇心的小明决定去寻找这颗宝石。他带着小鸟和小兔子踏上了冒险之旅。在旅途中，他们遇到了许多挑战，但小明始终保持着善良的心，勇敢地面对每一个困难。他不仅学会了如何与森林里的动物相处，还学会了许多生存技能。

经过一段时间的努力，小明终于找到了那颗魔法宝石。宝石发出耀眼的光芒，将小明和他的朋友们带到了一个美丽的世界。在那里，他们遇到了一位智慧的老人，老人告诉小明，宝石的力量来自于一个人的善良之心。只有拥有善良之心的人才能激活宝石的力量，实现自己的愿望。

小明明白了这个道理，感谢了老人，带着宝石回到了现实世界。他用宝石的力量帮助他人，让村庄变得更加美好。小明成为了村庄里的榜样，通过他的行动，孩子们明白了始终保持一颗善良的心的重要性。

从此以后，小明和村民们幸福地生活在一起。听过小明故事的孩子们明白了善良之心的重要性。他们以小明为榜样，努力成为一个有爱心、有责任感的人。在这个过程中，他们的学习兴趣和想象力也被激发，成长为优秀的孩子。

这个故事告诉我们，始终保持一颗善良的心，用我们的行动去影响周围的人。只有拥有善良之心的人，才能解锁自己的潜力，实现梦想。让我们都努力成为一个有善良之心的人。",
                "role": "assistant",
                "tool_calls": null
            }
        }
    ],
    "usage": {
        "prompt_tokens": 52,
        "completion_tokens": 470,
        "total_tokens": 522
    }
}

links：
https://open.bigmodel.cn/dev/api/normal-model/glm-4

GLM-4-9B VLLM 推理使用；openai接口调用、requests调用
weixin_42357472的博客
06-06 933
glm4 vllm openai
【深度学习】大模型GLM-4-9B Chat ，微调与部署(3) TensorRT-LLM、TensorRT量化加速、Triton部署
q742971636的博客
07-25 2773
TensorRT-LLM官方目前说在v0.12.0版本才会支持GLM-4-9B Chat ，下面以v0.10.0的魔改来做GLM-4-9B Chat的量化部署。本文目标就是加速GLM-4-9B Chat，看看能多快。A100卡。
GLM-4-Flash免费调用： 智谱AI首个免费API，零成本调用大模型，支持128K上下文。java 环境运行注意问题
ChinaBiuBiuBiu的博客
08-28 1239
因github中 import com.wd.common.core.domain.R;这个找不到,所以改了下返回值类型为String。
清华发布GLM 4！32B参数模型硬刚GPT-4o，性能惊艳
最新发布
2401_84204413的博客
04-21 1210
GLM 4的出现，无疑是大语言模型领域的一次重大突破。它不仅在技术上实现了多项创新，更在性能和实用性之间找到了完美的平衡。无论是对于追求高性能的科研人员，还是希望在实际业务中应用AI的企业，GLM 4都提供了一个极具性价比的选择。而其开源的传统，更是让更多的开发者和用户能够参与到这一前沿技术的探索和应用中来。在未来的道路上，GLM 4还将不断进化，持续为用户提供更强大的功能和更优质的服务。我们有理由相信，GLM 4将成为大语言模型领域的一颗璀璨明珠，引领着人工智能技术走向更加辉煌的未来。
glm库参考文档
03-30
glm库参考文档glm库参考文档glm库参考文档glm库参考文档glm库参考文档glm库参考文档glm库参考文档glm库参考文档glm库参考文档glm库参考文档glm库参考文档glm库参考文档glm库参考文档glm库参考文档glm库参考文档glm库参考文档glm库参考文档glm库参考文档glm库参考文档glm库参考文档glm库参考文档
GLM-4 (4) - SelfAttention
daihaoguang的博客
07-16 981
Attention是架构核心。刚开始使用的一般是，本质上是希望在维度上进行切分，效果类似于CNN中多个通道。如果头的个数是n_head，那么querykeyvalue都被切分成n_head份，分别做操作，最后将结果拼接。后面又开发出了，也就是说query还是和之前一样，但是会在多个头之间共享。实验结果表明，大大提升了解码速度；同时考虑到kv_cache缓存，大大减小了存储每个头的键和值所需的内存开销。根据上图，我们很容易理解3种注意力的区别。
打败GPT-4的最强开源中文大模型GLM-4终于亮相了（附：超详细搭建过程）
m0_71062934的博客
06-09 1351
GLM-4是智谱AI研发的最新一代开源基座预训练大模型，与GPT-4性能比肩，尤其擅长中文处理。该模型在多个关键领域进行了升级，比如提高了上下文处理长度至128KB，加快推理速度并降低成本，增强智能特性。它在“大海捞针”测试中展现了极高的精确度，并在多模态能力上接近DALLE-3，拓宽了其在图像和语音等领域的应用范围。
LLMs之GLM-4：GLM-4的简介(全覆盖【对话版即ChatGLM4的+工具调用+多模态文生图】能力→Agent)、安装和使用方法、案例应用之详细攻略
热门推荐
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
01-16 1万+
​ LLMs之GLM-4：GLM-4的简介(全覆盖【对话版即ChatGLM4的+工具调用+多模态文生图】能力→Agent)、安装和使用方法、案例应用之详细攻略 目录 GLM-4的简介 GLM-4的安装和使用方法 GLM-4的案例应用 GLM-4的简介 2024年01月16日，智谱AI在「智谱AI技术开放日(Zhipu DevDay)」推出新一代基座大模型GLM-4。智谱AI发布 All Tools、GLMs、MaaS API、大模型
对标ChatGPT生态: 智谱全新大模型 GLM-4 发布
Jay的个人博客
01-16 2969
在大规模多任务语言理解评测中，GLM-4的表现明显优于GPT-3.5，其平均得分已经达到了GPT-4的95%水平，在某些特定任务上甚至表现相当；而在GSM8K数学评测数据集上，GLM-4的评分与GPT-4相比只有4.6%的差异；此外，在MATH数据集上，GLM-4的得分比GPT-3.5高出了15%，虽然相对于GPT-4稍逊9%。在中英文混合评测中，GLM-4在Prompt级别和中文方面的表现均达到了GPT-4的88%。
【LLM大模型】用智谱 GLM-4大模型开发自己的 IDEA插件
2401_85963303的博客
07-15 1074
GLM-4模型的API提供了多种功能，包括但不限于文本生成、多模态处理、长文本理解和智能对话等。开发者可以通过API接入GLM-4模型，实现各种智能应用的开发。特点支持长上下文：GLM-4模型支持128K的对话上下文。多模态能力：具备处理文本、图像等多种数据类型的多模态能力。快速推理和并发：支持更快的推理速度和更多的并发请求，降低了推理成本。智能体能力增强：增强了智能体（Agent）的能力，可以更好地理解和执行复杂任务。
【机器学习】GLM-4V：图片识别多模态大模型（MLLs）初探
人工智能领域博客
06-21 1万+
本文首先在引言中强调了一下OpenAI兼容API的重要性，希望引起读者重视，其次介绍了GLM-4V的原理与模型结构，最后简要讲了下FastAPI以及搭配组件，并基于FastAPI封装了OpenAI兼容API的GLM-4V大模型服务端接口，并给出了客户端实现。本文内容在工作中非常实用，希望大家能有所收获并与我交流。期待您的关注+三连！
AI大模型探索之路-实战篇3：基于私有模型GLM-企业级知识库开发实战
寻道AI，探索AI无限可能！
04-22 4098
在当今信息时代，数据已经成为企业的核心资产之一。对于许多企业而言，信息安全和私密性是至关重要的，因此对外部服务提供的数据接口存在天然的警惕性。因此常规的基于在线大模型接口落地企业知识库项目，很难满足这些企业的安全需求。面对这样的挑战，只有私有化的部署方案才能满足企业需求；在实战篇2中《AI大模型探索之路-实战篇2：基于CVP架构-企业级知识库实战落地》，设计实现了基于CVP架构的企业知识库。本篇文章中将对企业知识库进行进一步的改造升级，以满足企业安全性方面的需求；
智谱AI发布国产最强大模型GLM4，理解评测与数学能力仅次于Gemini Ultra和GPT-4，编程能力超过Gemini-pro，还有对标GPTs商店的GLMs
DataLearnerAI
01-16 8071
这是在智谱AI开发者大会上推出的新一代基座大语言模型，GLM4相比较此前最大的特点是三个变化：性能全面提升、上下文长度更长、支持更强的多模态能力。GLM4（GLM4）详细信息 | 名称、简介、使用方法，开源情况，商用授权信息 | 数据学习 (DataLearner)
GLM-4开源版本终于来了：超越Llama3，多模态比肩GPT4V，MaaS平台也大升级 | 最新快讯
www3300300的专栏
06-15 740
值得一提的是，GLM-4-Air 的 API 大幅提升了推理速度，相比 GLM-4-0116，GLM-4-Air 的推理速度提升了 200%，每秒可以输出 71 个 token，远远超过人眼的阅读速度。在强大的文本模型之外，智谱 AI 同时开源了基于 GLM-4-9B 的多模态模型 GLM-4V-9B。智谱表示，大模型价格调整是基于技术突破、算力效率提升和成本控制的综合结果，未来每隔一段时间就会对价格做出调整，以更好的满足开发者、客户的需求，极具竞争力的价格不仅是合理的，而且也符合自身的商业策略。
GLM4模型环境配置+模型微调+模型部署学习笔记
weixin_42264784的博客
07-23 2015
本篇文章的目的在于记录视频学习如何对大预言模型的实操。
Datawhale出品：《GLM-4 大模型部署微调教程》发布！
Langchain的博客
06-13 1668
就在昨天，智谱 AI 发布了最新开源模型 GLM4,通过 10T 高质量多语言数据与更先进的训练技术,达到了更加出色的生成效果。
5. GLM4入门介绍
Andy_shenzl的博客
03-21 5184
也就是说，assistant消息和role消息是一一对应的，而且在一般情况下，assistant消息只会围绕messages参数中的最后一个role信息进行回答。system role用于身份设定不过，值得一提的是，user和assistant的这种提问方式尽管足够清晰，但往往形式上不够丰富，例如在实践中人们发现，给聊天机器人进行一个身份设置，其实是非常有效的引导模型创作我们想要的结果的方法，例如如果我们希望获得一个关于“什么是机器学习？
GLM-4 在线体验及部署经验
旭的博客
06-07 1515
本文主要介绍使用virtualenv库生成venv，进而部署/运行GLM-4-9B-Chat开源双语对话语言模型的方法。
【劲爆消息】GLM4 开源了！！！人工智能大模型又一大进步
2301_76225313的博客
08-20 321
在人工智能领域，开源项目总是能够激发社区的创新活力。今天，我们要分享一个令人震撼的消息：智谱 AI 推出的最新一代预训练模型 GLM-4 系列中的开源版本——GLM-4-9B，现已全面开源！GLM-4-9B 不仅仅是一个模型，它是智谱 AI 对深度学习和自然语言处理能力的一次全新探索。在语义理解、数学推理、代码执行等多个领域，GLM-4-9B 展现出了超越 Llama-3-8B 的卓越性能。
我想基于 GLM-4 大型语言模型为个人 AI 助理系统设计和开发一个应用程序。
03-31
好的！以下是关于如何基于GLM-4大型语言模型为个人AI助理系统设计和开发应用程序的详细介绍： --- ### 基于GLM-4开发个人AI助理系统的步骤 #### 1. **明确需求** 首先需要明确你的个人AI助理的具体功能需求。例如： - 是否支持自然语言对话交互？ - 是否需要集成特定领域的知识库（如医疗、法律等）？ - 是否提供任务管理、日程安排等功能？ 明确目标有助于后续的设计和开发工作。 #### 2. **选择技术栈** GLM-4作为强大的预训练模型，可以为你提供核心的语言处理能力。除此之外，还需要考虑其他技术支持，比如： - 框架：可以选择Python生态中的Flask/Django用于搭建后端服务。 - 数据存储：如果涉及用户数据保存，可以用SQLite/MongoDB等数据库。 - 前端界面：若需图形化界面，可以使用React/Vue.js或其他前端框架。 #### 3. **接入GLM-4 API** 如果你计划直接通过API调用GLM-4的功能，则需要注册并获取官方提供的访问密钥，并按照文档说明编写相应的接口代码。示例伪代码如下： ```python import requests def query_glm(prompt): url = "https://api.glm.com/v1/chat" # 示例URL，请替换为实际地址 headers = {"Authorization": "Bearer YOUR_ACCESS_TOKEN"} data = { "model": "glm-4", "messages": [{"role": "user", "content": prompt}] } response = requests.post(url, json=data, headers=headers) return response.json()["choices"][0]["message"]["content"] result = query_glm("你好") print(result) # 输出结果 ``` #### 4. **构建个性化功能模块** 根据需求，在基础对话功能之上添加自定义特性，例如： - 日历整合：允许用户查询日期或设置提醒事项； - 文件助手：帮助整理文件夹内容或将文本提取到指定位置； - 学习工具：利用GLM的知识生成学习卡片或总结文章要点。 #### 5. **测试与优化** 完成初步开发之后进入调试阶段，重点检查以下几个方面： - 对话流畅度是否满足预期； - 特定场景下的错误率以及响应速度； - 用户隐私保护措施的有效性。 #### 6. **部署上线** 最终将应用发布至云端服务器或者本地环境供日常使用。推荐方案包括AWS Lambda函数计算平台、阿里云ECS实例等等。 --- ### 注意事项 - 确保遵守相关法律法规及GLM-4的服务条款； - 尽量减少不必要的网络请求以降低运行成本； - 关注用户体验反馈以便持续改进产品性能。 希望以上信息对你有所帮助！
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

学亮编程手记

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值