最能打的小模型，API调用免费了！

8⽉27⽇，智谱AI的BigModel开放平台宣布：大模型GLM-4-Flash调用全部免费！

然后我就赶紧去试试了（薅羊毛）！新用户可以免费⽀持2个并发，128上下文，个⼈使⽤是够够的了。

GLM-4-Flash模型介绍

GLM-4-Flash，**堪称“最能打的小模型”，**是智谱AI所推出的GLM-4系列预训练模型的开源版本。在叠加调用免费的优势，简直是无敌了！

GLM-4-Flash经全面测评，在语义理解、数学逻辑、逻辑推理、代码执行以及广泛知识覆盖等方面，其表现显著超越了Llama-3-8B模型。

GLM-4-Flash模型还具备多种核心功能，包括但不限于流畅的多轮对话能力、内置的网页浏览功能、直接的代码执行支持、灵活的自定义工具调用接口，以及卓越的长文本推理性能（支持处理最大128K的上下文内容），这些功能造就了GLM-4-flash强大的智能化应用能力。

模型优势

GLM-4-Flash所展示的高性能，归功在数据预处理的精细度、预训练技术的创新性以及模型能力的卓越性上，共同构筑了这款高性能多语言处理模型。

数据预训练：在GLM-4-Flash的开发过程中，团队创造性地引入了大语言模型作为数据筛选的核心驱动力。这一策略不仅大幅提升了数据筛选的精准度，还确保了所收集数据的多样性与高质量。通过这一先进流程，GLM-4-Flash成功汇聚了超过10TB的优质多语言数据资源，这些数据覆盖了广泛的领域与语境，为模型的学习与泛化能力奠定了坚实的基础。

预训练技术：为了进一步提高训练效率并优化计算资源的使用，GLM-4-Flash采用了前沿的FP8（半精度浮点数）技术进行高效的预训练。FP8技术通过减少数据表示所需的比特数，显著降低了计算过程中的内存占用和功耗，从而在不影响模型精度的前提下，实现了训练速度的飞跃式提升。这一创新不仅缩短了模型的开发周期，还降低了整体运营成本，使得GLM-4-Flash在应对大规模数据集时展现出前所未有的高效性。

模型能力：GLM-4-Flash模型的核心竞争力在于其强大的推理性能与多语言能力。该模型支持长达128K的上下文推理，这一能力远超传统模型，使得GLM-4-Flash能够更准确地理解复杂的长文本语境，从而生成更加连贯、贴切的响应。同时，作为一款多语言处理模型，GLM-4-Flash能够无缝处理多种语言的输入，无论是常见的英文、中文，还是其他小众语言，都能保持高水平的处理质量和效率。这种跨语言的通用性极大地拓宽了模型的应用场景，满足了全球化背景下多样化的语言处理需求。

模型调用示例

GLM-4-Flash已在大型模型即服务（MaaS）平台bigmodel.cn上发布，用户完成注册流程后，即可亲身体验其卓越的视频创作能力。

首先，请打开智谱官网 https://bigmodel.cn/，随后直接使用您的手机号进行注册。完成注册并成功登录后，在后台页面的右上角，有一个名为“API秘钥”的选项。轻轻一点，便会展现出API秘钥

有了秘钥后，接口请求方式有两种，一种是使用 HTTP 接口，另外一种是使用官方提供的 SDK。如果你在项目中使用，更推荐安装 SDK。

为便于开发者高效利用GLM-4-Flash的强大功能，以下将通过Python SDK的使用指南，详细阐述如何调用该服务。详细文档请参考：https://open.bigmodel.cn/dev/

1、SDK安装与初始化

首先，请确保您已安装或更新至最新版本的智谱AI SDK。若尚未安装，可通过以下命令进行安装：

pip install zhipuai

若已安装但非最新版本，请使用以下命令进行升级：

pip install --upgrade zhipuai

安装完成后，您可以通过以下代码引入智谱AI客户端，并初始化API密钥：

from zhipuai import ZhipuAI  # 初始化客户端，请替换'你的API_KEY'为您的实际API密钥``   ``client = ZhipuAI('你的API_KEY')

2、调用代码

如下为完整的调用示例代码：

from zhipuai import ZhipuAI``client = ZhipuAI(api_key="") # 请填写您自己的APIKey``response = client.chat.completions.create(`    `model="GLM-4-Flash",  # 填写需要调用的模型编码`    `messages=[`        `{"role": "system", "content": "你是一个乐于解答各种问题的助手，你的任务是为用户提供专业、准确、有见地的建议。"},`        `{"role": "user", "content": "我对太阳系的行星非常感兴趣，特别是土星。请提供关于土星的基本信息，包括其大小、组成、环系统和任何独特的天文现象。"},`    `],`    `stream=True,``)``for chunk in response:`    `print(chunk.choices[0].delta)

应用示例

作为人工智能领域的一个开发者，平时无非是写写代码，看看前沿的论文。而通过GLM-4-Flash，这方面的工作明显更加得心应手了。写代码的话我们扔个代码需求给他，就可以产出代码，我自己在稍微运行调试一下就能用了。

写一段iris聚类的python示例代码

  `from sklearn import datasets`  `from sklearn.cluster import KMeans`  `import numpy as np`  `# 加载Iris数据集`  `iris = datasets.load_iris()`  `X = iris.data`  `# 应用KMeans聚类算法，这里我们假设有3个类别（对应Iris数据集的3个品种）`  `kmeans = KMeans(n_clusters=3, random_state=0)`  `kmeans.fit(X)`  `# 输出聚类结果`  `print("聚类标签：")`  `print(kmeans.labels_)`  `# 输出每个簇的中心点（均值）`  `print("每个簇的中心点：")`  `print(kmeans.cluster_centers_)`  `# 输出每个样本的类别概率（即属于每个类别的概率）`  `print("每个样本的类别概率：")`  `print(kmeans.predict_proba(X))`

我们可以根据结果，加一些代码需求，比如下面这样：

将分类结果画出散点图，标注下模型分类的效果

import matplotlib.pyplot as plt``from sklearn import datasets``from sklearn.cluster import KMeans``import numpy as np` `# 加载Iris数据集``iris = datasets.load_iris()``X = iris.data``y = iris.target` `# 应用KMeans聚类算法，这里我们假设有3个类别（对应Iris数据集的3个品种）``kmeans = KMeans(n_clusters=3, random_state=0)``kmeans.fit(X)` `# 获取聚类结果``labels = kmeans.labels_` `# 为每个样本绘制散点图``plt.figure(figsize=(14, 7))` `# 绘制真实标签的散点图``for i in range(3):`   `plt.scatter(X[y == i, 0], X[y == i, 1], label=f'Class {i}')` `# 绘制KMeans聚类结果``for i in range(3):`   `plt.scatter(X[labels == i, 0], X[labels == i, 1], c='red', marker='x', label=f'Cluster {i}')` `plt.title('Iris Clustering with KMeans')``plt.xlabel('Sepal length (cm)')``plt.ylabel('Sepal width (cm)')``plt.legend()``plt.show()``   ``#运行这段代码后，你将得到一个包含三个不同颜色散点的图，以及用红色十字表示的聚类结果。图中的红色十字将位于真实类别中心附近，表示KMeans聚类算法的效果。

另外一个需求是是论文阅读和翻译，我们很经常要追踪AI最新的英文论文，普通的翻译软件经常翻译会比较生硬，比如很多术语软件直接就会直译， Transformer直接翻译成变形金刚，而通过GLM-4-Flash就可以很生动准确地翻译好。

你是一个人工智能专家，请翻译下这段论文：``The dominant sequence transduction models are based on complex` `recurrent or convolutional neural networks in an encoder-decoder configuration. The best performing models also connect the encoder and decoder through an attention mechanism. We propose a new simple network architecture, the Transformer, based solely on attention mechanisms, dispensing with recurrence and convolutions entirely. Experiments on two machine translation tasks show these models to be superior in quality while being more parallelizable and requiring significantly less time to train. Our model achieves 28.4 BLEU on the WMT 2014 English-to-German translation task, improving over the existing best results, including ensembles by over 2 BLEU. On the WMT 2014 English-to-French translation task, our model establishes a new single-model state-of-the-art BLEU score of 41.8 after training for 3.5 days on eight GPUs, a small fraction of the training costs of the best models from the literature. We show that the Transformer generalizes well to other tasks by applying it successfully to English constituency parsing both with large and limited training data.

如下为翻译《Attention is all you need》摘要的结果，术语翻译很准确，可以感受到翻译质量还是很不错的：

主要的序列转换模型是基于编码器-解码器配置的复杂循环神经网络或卷积神经网络。表现最好的模型还通过注意力机制连接编码器和解码器。我们提出了一种新的简单网络架构，称为Transformer，它完全基于注意力机制，摒弃了循环和卷积。在两个机器翻译任务上的实验表明，这些模型在质量上更胜一筹，同时更易于并行化，并且训练时间显著减少。在我们的模型中，WMT 2014英语到德语翻译任务上实现了28.4 BLEU的分数，超过了现有的最佳结果，包括超过2 BLEU的集成模型。在WMT 2014英语到法语翻译任务上，我们的模型在8个GPU上训练了3.5天之后，达到了41.8的新单模型BLEU最佳分数，这是文献中最佳模型训练成本的一小部分。我们通过将Transformer成功应用于英语成分句法分析和大量及有限训练数据，展示了该模型在其它任务上的泛化能力。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

• 大模型 AI 能干什么？
• 大模型是怎样获得「智能」的？
• 用好 AI 的核心心法
• 大模型应用业务架构
• 大模型应用技术架构
• 代码示例：向 GPT-3.5 灌入新知识
• 提示工程的意义和核心思想
• Prompt 典型构成
• 指令调优方法论
• 思维链和思维树
• Prompt 攻击和防范
• …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

• 为什么要做 RAG
• 搭建一个简单的 ChatPDF
• 检索的基础概念
• 什么是向量表示（Embeddings）
• 向量数据库与向量检索
• 基于向量检索的 RAG
• 搭建 RAG 系统的扩展知识
• 混合检索与 RAG-Fusion 简介
• 向量模型本地部署
• …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

• 为什么要做 RAG
• 什么是模型
• 什么是模型训练
• 求解器 & 损失函数简介
• 小实验2：手写一个简单的神经网络并训练它
• 什么是训练/预训练/微调/轻量化微调
• Transformer结构简介
• 轻量化微调
• 实验数据集的构建
• …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

• 硬件选型
• 带你了解全球大模型
• 使用国产大模型服务
• 搭建 OpenAI 代理
• 热身：基于阿里云 PAI 部署 Stable Diffusion
• 在本地计算机运行大模型
• 大模型的私有化部署
• 基于 vLLM 部署大模型
• 案例：如何优雅地在阿里云私有部署开源大模型
• 部署一套开源 LLM 项目
• 内容安全
• 互联网信息服务算法备案
• …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】