同步首发！智谱开源GLM-4-0414全部6个模型并上线昇思、魔乐开源社区

于 2025-04-18 17:01:44 发布
阅读量812 收藏 9
点赞数 11
文章标签： 开源 人工智能 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Kenji_Shinji/article/details/147336622
版权

4月15日，昇思MindSpore开源社区、魔乐社区第一时间上架智谱全新开源的GLM-4-0414 32B/9B模型，并完成精度测试。智谱GLM-4-0414拥有 32B/9B两个尺寸，涵盖基座、推理、沉思模型，均遵循 MIT 许可协议。其中，推理模型 GLM-Z1-32B-0414 性能媲美 DeepSeek-R1 等顶尖模型，实测推理速度可达 200 Tokens/秒。 

模型介绍：

image.png

基座模型 GLM-4-32B-0414 拥有 320 亿参数，其性能可与国内、外参数量更大的主流模型相媲美。该模型利用 15T 高质量数据进行预训练，特别纳入了丰富的推理类合成数据，为后续的强化学习扩展奠定了基础。在后训练阶段，除了进行面向对话场景的人类偏好对齐，还通过拒绝采样和强化学习等技术，重点增强了模型在指令遵循、工程代码生成、函数调用等任务上的表现，以强化智能体任务所需的原子能力。

GLM-4-32B-0414 在工程代码、Artifacts生成、函数调用、搜索问答及报告撰写等任务上均表现出色，部分 Benchmark 指标已接近甚至超越GPT-4o、DeepSeek-V3-0324（671B）等更大模型的水平。

image.png

GLM-Z1-32B-0414 是一款具备深度思考能力的推理模型。该模型在 GLM-4-32B-0414 的基础上，采用了冷启动与扩展强化学习策略，并针对数学、代码、逻辑等关键任务进行了深度优化训练。与基础模型相比，GLM-Z1-32B-0414 的数理能力和复杂问题解决能力得到显著增强。此外，训练中整合了基于对战排序反馈的通用强化学习技术，有效提升了模型的通用能力。

在部分任务上，GLM-Z1-32B-0414 凭借 32B 参数，其性能已能与拥有 671B 参数的 DeepSeek-R1 相媲美。通过在 AIME 24/25、LiveCodeBench、GPQA 等基准测试中的评估，GLM-Z1-32B-0414 展现了较强的数理推理能力，能够支持解决更广泛复杂任务。

image.png

GLM-Z1-9B-0414是沿用了上述一系列技术，训练出的一个 9B 的小尺寸模型。虽然参数量更少，但GLM-Z1-9B-0414 在数学推理及通用任务上依然表现出色，整体性能已跻身同尺寸开源模型的领先水平。特别是在资源受限的场景下，该模型可以很好地在效率与效果之间取得平衡，为需要轻量化部署的用户提供强有力的选择。

image.png

沉思模型GLM-Z1-Rumination-32B-0414代表了智谱对 AGI 未来形态的下一步探索。与一般推理模型不同，沉思模型通过更多步骤的深度思考来解决高度开放与复杂的问题。其关键创新在于，它能在深度思考过程中整合搜索工具处理复杂任务，并运用多种规则型奖励机制来指导和扩展端到端的强化学习训练。该模型支持“自主提出问题—搜索信息—构建分析—完成任务”的完整研究闭环，从而在研究型写作和复杂检索任务上的能力得到了显著提升。

欢迎广大开发者下载体验！

魔乐社区模型下载链接：

  • https://modelers.cn/models/MindSpore-Lab/GLM-4-32B-Base-0414

  • https://modelers.cn/models/MindSpore-Lab/GLM-Z1-Rumination-32B-0414

  • https://modelers.cn/models/MindSpore-Lab/GLM-Z1-32B-0414

  • https://modelers.cn/models/MindSpore-Lab/GLM-Z1-9B-0414

  • https://modelers.cn/models/MindSpore-Lab/GLM-4-32B-0414

  • https://modelers.cn/models/MindSpore-Lab/GLM-4-9B-0414

以下为手把手教程：（以GLM-Z1-9B-0414+昇思MindSpore基于昇腾推理为例）

# 01快速开始

GLM-Z1-9B-0414推理至少需要1台（1卡）Atlas 800T A2（64G）服务器服务器（基于BF16权重）。昇思MindSpore提供了GLM-Z1-9B-0414推理可用的Docker容器镜像，供开发者快速体验。

1

下载昇思MindSpore推理容器镜像

执行以下 Shell 命令，拉取昇思 MindSpore GLM-Z1 推理容器镜像：

docker pull swr.cn-central-221.ovaijisuan.com/mindformers/mindspore_glm_z1:20250414复制

2

启动容器

执行以下命令创建并启动容器：

docker run -it --privileged  --name=GLM-Z1 --net=host \
   --shm-size 500g \
   --device=/dev/davinci0 \
   --device=/dev/davinci1 \
   --device=/dev/davinci2 \
   --device=/dev/davinci3 \
   --device=/dev/davinci4 \
   --device=/dev/davinci5 \
   --device=/dev/davinci6 \
   --device=/dev/davinci7 \
   --device=/dev/davinci_manager \
   --device=/dev/hisi_hdc \
   --device /dev/devmm_svm \
   -v /usr/local/Ascend/driver:/usr/local/Ascend/driver \
   -v /usr/local/Ascend/firmware:/usr/local/Ascend/firmware \
   -v /usr/local/sbin/npu-smi:/usr/local/sbin/npu-smi \
   -v /usr/local/sbin:/usr/local/sbin \
   -v /etc/hccn.conf:/etc/hccn.conf \
   swr.cn-central-221.ovaijisuan.com/mindformers/mindspore_glm_z1:20250414
   /bin/bash复制

注意事项：

  • 如果部署在多机上，每台机器中容器的hostname不能重复。如果有部分宿主机的hostname是一致的，需要在起容器的时候修改容器的hostname。

  • 后续所有操作均在容器内操作。

3

模型下载

执行以下命令为自定义下载路径 /home/work/GLM-Z1-9B-0414 添加白名单：

export HUB_WHITE_LIST_PATHS=/home/work/GLM-Z1-9B-0414复制

执行以下 Python 脚本从魔乐社区下载昇思 MindSpore 版本的 GLM-Z1-9B-0414 文件至指定路径 /home/work/GLM-Z1-9B-0414 。下载的文件包含模型代码、权重、分词模型和示例代码，占用约18GB 的磁盘空间：

from openmind_hub import snapshot_download
snapshot_download(
    repo_id="MindSpore-Lab/GLM-Z1-9B-0414",
    local_dir="/home/work/GLM-Z1-9B-0414",
    local_dir_use_symlink=False
)复制

下载完成的 /home/work/GLM-Z1-9B-0414 文件夹目录结构如下：


GLM-Z1-9B-0414
  ├── config.json                               # 模型json配置文件
  ├── tokenizer.model                           # 词表model文件
  ├── tokenizer_config.json                     # 词表配置文件
  ├── predict_glm4_z1_9b.yaml                   # 模型yaml配置文件
  └── weights
        ├── model-xxxxx-of-xxxxx.safetensors    # 模型权重文件
        ├── tokenizer.json                      # 模型词表文件
        ├── xxxxx                               # 若干其他文件
        └── model.safetensors.index.json        # 模型权重映射文件复制

注意事项：

  • /home/work/GLM-Z1-9B-0414 可修改为自定义路径，确保该路径有足够的磁盘空间（约 18GB）。

  • 下载时间可能因网络环境而异，建议在稳定的网络环境下操作。

# 02服务化部署

1

修改模型配置文件

在 predict_glm4_z1_9b.yaml 中对以下配置进行修改（若为默认路径则无需修改）：


load_checkpoint: '/home/work/GLM-Z1-9B-0414/weights'         # 配置为实际的模型绝对路径
auto_trans_ckpt: True                                  # 打开权重自动切分，自动将权重转换为分布式任务所需的形式
load_ckpt_format: 'safetensors'
processor:
  tokenizer:
    vocab_file: "/home/work/GLM-Z1-9B-0414/tokenizer.model"  # 配置为tokenizer文件的绝对路径复制

2

一键启动MindIE

MindSpore Transformers提供了一键拉起MindIE脚本，脚本中已预置环境变量设置和服务化配置，仅需输入模型文件目录后即可快速拉起服务。
进入 mindformers/scripts 目录下，执行MindIE启动脚本：

cd /home/work/mindformers/scripts
bash run_mindie.sh --model-name GLM-Z1-9B-0414 --model-path /home/work/GLM-Z1-9B-0414 --max-prefill-batch-size 1复制

参数说明：

  • --model-name：设置模型名称

  • --model-path：设置模型目录路径

查看日志：

tail -f output.log复制

当log日志中出现 `Daemon start success!` ，表示服务启动成功。

3
执行推理请求测试

执行以下命令发送流式推理请求进行测试：

curl -w "\ntime_total=%{time_total}\n" -H "Accept: application/json" -H "Content-type: application/json" -X POST -d '{"inputs": "请介绍一个北京的景点", "parameters": {"do_sample": false, "max_new_tokens": 128}, "stream": false}' http://127.0.0.1:1025/generate_stream &

# 03声明

本文档提供的模型代码、权重文件和部署镜像，当前仅限于基于昇思MindSpore AI框架体验 GLM-Z1-9B-0414 的部署效果，不支持生产环境部署。

相关使用问题请反馈至ISSUE（链接：https://gitee.com/mindspore/mindformers/issues）。

昇思MindSpore AI框架将持续支持相关主流模型演进，并根据开源情况面向全体开发者提供镜像与支持。

5. GLM4入门介绍
Andy_shenzl的博客
03-21 5091
也就是说，assistant消息和role消息是一一对应的，而且在一般情况下，assistant消息只会围绕messages参数中的最后一个role信息进行回答。system role用于身份设定不过，值得一提的是，user和assistant的这种提问方式尽管足够清晰，但往往形式上不够丰富，例如在实践中人们发现，给聊天机器人进行一个身份设置，其实是非常有效的引导模型创作我们想要的结果的方法，例如如果我们希望获得一个关于“什么是机器学习？
NL2SQL技术方案系列(3)：大模型工具调用实战NL2API技术方案以及行业案例讲解1
丨汀、的博客
04-23 1246
NL2SQL技术方案系列(3)：大模型工具调用实战NL2API技术方案以及行业案例讲解1
智谱AI发布国产最强大模型GLM4，理解评测与数学能力仅次于Gemini Ultra和GPT-4，编程能力超过Gemini-pro，还有对标GPTs商店的GLMs
DataLearnerAI
01-16 8026
这是在智谱AI开发者大会上推出的新一代基座大语言模型，GLM4相比较此前最大的特点是三个变化：性能全面提升、上下文长度更长、支持更强的多模态能力。GLM4（GLM4）详细信息 | 名称、简介、使用方法，开源情况，商用授权信息 | 数据学习 (DataLearner)
清华智谱最新GLM4 –9B模型很惊艳
xx_nm98的博客
07-17 2134
GLM-4-9B是智谱 AI 推出的最新一代预训练模型 GLM-4 系列中的开源版本。在语义、数学、推理、代码和知识等多方面的数据集测评中， GLM-4-9B 及其人类偏好对齐的版本 GLM-4-9B-Chat 均表现出超越 Llama-3-8B 的卓越性能。除了能进行多轮对话，GLM-4-9B-Chat 还具备网页浏览、代码执行、自定义工具调用（Function Call）和长文本推理（支持最大 128K 上下文）等高级功能。本代模型增加了多语言支持，
GLM4模型详解 - 智谱AI开源大模型全面解析
携梦问道的博客
12-16 3799
智谱AI开源协议发布时间: 2024年6月5日开源版本: GLM-4-9B系列支持语言: 26种语言在超长上下文处理方面有突出优势提供了丰富的工具调用能力多模态能力设计优雅部署要求相对合理新手建议从Chat版本开始需要处理长文本选择1M版本图像处理任务使用V版本重视提示词设计优化效果希望这篇文章能帮助你更好地了解和使用GLM4模型！
智谱AI GLM4开源！快速上手体验
IT大头的博客
06-05 3626
GLM-4-9B 是智谱 AI 推出的最新一代预训练模型 GLM-4 系列中的开源版本。在语义、数学、推理、代码和知识等多方面的数据集测评中，GLM-4-9B 及其人类偏好对齐的版本 GLM-4-9B-Chat 均表现出较高的性能。GLM-4-9B 模型具备了更强大的推理性能、更长的上下文处理能力、多语言、多模态和 All Tools 等突出能力。
一文可懂国内外主流AI大模型
最新发布
wangxi06的专栏
02-18 889
人工智能技术的飞速进步，正在重塑全球商业格局，其影响辐射到各个行业领域。大模型时代，开源与闭源模型不断涌现，大模型为AI领域注入了新的活力，基于开源大模型的应用如雨后春笋般出现，同时也为研究者和开发者提供了更广阔的创新空间。在此，梳理当前国内外主流的大模型，并赋予简单介绍。
大模型~合集22
whaosoft143ai的博客
06-05 346
值得一提的是，GLM-4-Air 的 API 大幅提升了推理速度，相比 GLM-4-0116，GLM-4-Air 的推理速度提升了 200%，每秒可以输出 71 个 token，远远超过人眼的阅读速度。在强大的文本模型之外，智谱 AI 同时开源了基于 GLM-4-9B 的多模态模型 GLM-4V-9B。智谱表示，大模型价格调整是基于技术突破、算力效率提升和成本控制的综合结果，未来每隔一段时间就会对价格做出调整，以更好的满足开发者、客户的需求，极具竞争力的价格不仅是合理的，而且也符合自身的商业策略。
智谱清言 App 面向 C 端开放 AI 视频通话服务；谷歌 GameNGen：神经网络驱动的实时游戏引擎丨RTE 开发者日报
声网的博客
08-30 1237
我们欢迎更多的小伙伴参与「RTE 开发者日报」内容的共创，感兴趣的朋友请通过开发者社区或公众号留言联系，记得报暗号「共创」。对于任何反馈（包括但不限于内容上、形式上）我们不胜感激、并有小惊喜回馈，例如你希望从日报中看到哪些内容；自己推荐的信源、项目、话题、活动等；或者列举几个你喜欢看、平时常看的内容渠道；内容排版或呈现形式上有哪些可以改进的地方等。素材来源官方媒体/网络新闻。
[AI资讯·0612] AI测试高考物理题，最高准确率100%，OpenAI与苹果合作，将ChatGPT融入系统中，大模型在物理领域应用潜力显现
老牛啊
06-12 1872
高考多地结束，端午佳节，各类科目答案网上流传。AI测试物理题，最高准确率100%，涉及矢量标量概念。多选题部分，海螺AI表现最佳。AppleIntelligence功能发布，支持图片AI消除、系统录音通话录音等。用户无需注册即可体验ChatGPT-4，适用于搭载特定芯片的设备。AppleIntelligence强调隐私保护和智能体验升级。iOS18、iPadOS18、macOSSequoia等新操作系统集成AI功能。OpenAI与苹果合作，将ChatGPT融入系统中。大模型在物理领域应用潜力显现。
Qwen2大模型微调入门实战-命名实体识别（NER）任务（完整代码）
SoulmateY的博客
06-20 4586
基于Qwen2-1.5B大模型，实现命名实体识别（NER）任务，是学习LLM微调非常好的入门任务之一，本文将提供完整的代码、模型、数据以及SwanLab实验过程，来帮助你学习如何进行微调。
使用 Ollama 本地运行各种 LLM
python123456_的博客
05-31 1189
今天看看另外一个产品Ollama。Ollama 的安装非常简单，只需从官网（https://ollama.com/download）下载后解压缩，并在 Terminal 中运行脚本即可完成环境设置。我尝试运行 Llama3，虽然在运行时占用了大量电脑资源，使得其他应用运行变慢，但整体体验尚可。Ollama 支持多种大型语言模型（https://ollama.com/library）。
LLMs之GLM-4：GLM-4的简介(全覆盖【对话版即ChatGLM4的+工具调用+多模态文生图】能力→Agent)、安装和使用方法、案例应用之详细攻略
热门推荐
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
01-16 1万+
​ LLMs之GLM-4：GLM-4的简介(全覆盖【对话版即ChatGLM4的+工具调用+多模态文生图】能力→Agent)、安装和使用方法、案例应用之详细攻略 目录 GLM-4的简介 GLM-4的安装和使用方法 GLM-4的案例应用 GLM-4的简介 2024年01月16日，智谱AI在「智谱AI技术开放日(Zhipu DevDay)」推出新一代基座大模型GLM-4。智谱AI发布 All Tools、GLMs、MaaS API、大模型
GLM4实践-GLM4智能体的本地化实现及部署
YELLOWAUG的博客
04-03 7621
实现GLM4智能体的本地化部署及调用，本文较长，涉及的技术点也较多
智谱 GLM-4-9B-Chat 模型认知微调，如何给模型洗脑（二）
瓦罗兰特顶级C位的博客
10-12 1059
本篇文章分享下 LLaMA-Factory 模型微调工具的安装与使用，基于该工具实现了对模型 GLM-4-9B-Chat 的认知微调，GLM-4-9B-Chat 模型的安装与调试及微调环境创建可参考上一篇文章。
智谱GLM-4-9B，超越Llama3，多模态媲美GPT4V
nulifancuoAI的博客
06-18 1565
在 2023 年 3 月发布开源对话模型 ChatGLM-6B 后，智谱 AI 迅速成为国内外开源大模型领域的重要力量。今年 6 月，智谱 AI 再次发力，开源了其第四代 GLM 系列模型 —— GLM-4-9B，并首次加入了多模态能力。该模型不仅在性能上超越了 Llama 3 8B，更在多模态能力方面展现出与 GPT-4V 相媲美的实力。Huggingface模型下载：AI快站模型免费加速下载：THUDM智谱 AI 开源 GLM-4-9B，标志着中国开源大模型技术取得了新的突破。
本地部署GLM-4-9B清华智谱开源大模型方法和对话效果体验
老牛啊
06-08 2337
清华大学和智谱AI推出了全面升级的新一代基座大模型GLM-4，整体性能相比GLM3提升60%，支持128K上下文，可根据用户意图自主理解和规划复杂指令、完成复杂任务……
GLM4与ChatGLM-6B
顺其自然~专栏
08-16 1076
此外，由于ChatGLM-6B的开源性质，它也吸引了大量的研究者和开发者对其进行研究和改进。不过，通过训练超过1T标识符的中英双语对话数据，ChatGLM-6B在中文问答和对话回答方面已经具备了强大的能力。它基于Transformer架构，通过多层的自注意力机制和注意力权重，能够捕捉到句子中的长距离依赖关系，提高模型的性能。以GLM-4-9B为例，其参数量达到90亿，这相比一些较小的模型提供了更强的处理能力和更高的性能。：GLM4系列模型，特别是GLM-4-9B-Chat版本，支持更高级的功能，如。
GLM4智能体实践-通过GLM4 API构建线上智能体
YELLOWAUG的博客
03-08 2273
使用GLM4 API 构建自定义知识库及智能体。图文教程，简单易懂
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值