8⽉27⽇,智谱AI的BigModel开放平台宣布:大模型GLM-4-Flash调用全部免费!
然后我就赶紧去试试了(薅羊毛)!新用户可以免费⽀持2个并发,128上下文,个⼈使⽤是够够的了。
GLM-4-Flash模型介绍
GLM-4-Flash,**堪称“最能打的小模型”,**是智谱AI所推出的GLM-4系列预训练模型的开源版本。在叠加调用免费的优势,简直是无敌了!
GLM-4-Flash经全面测评,在语义理解、数学逻辑、逻辑推理、代码执行以及广泛知识覆盖等方面,其表现显著超越了Llama-3-8B模型。
GLM-4-Flash模型还具备多种核心功能,包括但不限于流畅的多轮对话能力、内置的网页浏览功能、直接的代码执行支持、灵活的自定义工具调用接口,以及卓越的长文本推理性能(支持处理最大128K的上下文内容),这些功能造就了GLM-4-flash强大的智能化应用能力。
模型优势
GLM-4-Flash所展示的高性能,归功在数据预处理的精细度、预训练技术的创新性以及模型能力的卓越性上,共同构筑了这款高性能多语言处理模型。
**数据预训练:**在GLM-4-Flash的开发过程中,团队创造性地引入了大语言模型作为数据筛选的核心驱动力。这一策略不仅大幅提升了数据筛选的精准度,还确保了所收集数据的多样性与高质量。通过这一先进流程,GLM-4-Flash成功汇聚了超过10TB的优质多语言数据资源,这些数据覆盖了广泛的领域与语境,为模型的学习与泛化能力奠定了坚实的基础。
**预训练技术:**为了进一步提高训练效率并优化计算资源的使用,GLM-4-Flash采用了前沿的FP8(半精度浮点数)技术进行高效的预训练。FP8技术通过减少数据表示所需的比特数,显著降低了计算过程中的内存占用和功耗,从而在不影响模型精度的前提下,实现了训练速度的飞跃式提升。这一创新不仅缩短了模型的开发周期,还降低了整体运营成本,使得GLM-4-Flash在应对大规模数据集时展现出前所未有的高效性。
**模型能力:**GLM-4-Flash模型的核心竞争力在于其强大的推理性能与多语言能力。该模型支持长达128K的上下文推理,这一能力远超传统模型,使得GLM-4-Flash能够更准确地理解复杂的长文本语境,从而生成更加连贯、贴切的响应。同时,作为一款多语言处理模型,GLM-4-Flash能够无缝处理多种语言的输入,无论是常见的英文、中文,还是其他小众语言,都能保持高水平的处理质量和效率。这种跨语言的通用性极大地拓宽了模型的应用场景,满足了全球化背景下多样化的语言处理需求。
模型调用示例
GLM-4-Flash已在大型模型即服务(MaaS)平台bigmodel.cn上发布,用户完成注册流程后,即可亲身体验其卓越的视频创作能力。
首先,请打开智谱官网 https://bigmodel.cn/,随后直接使用您的手机号进行注册。完成注册并成功登录后,在后台页面的右上角,有一个名为“API秘钥”的选项。轻轻一点,便会展现出API秘钥
有了秘钥后,接口请求方式有两种,一种是使用 HTTP 接口,另外一种是使用官方提供的 SDK。如果你在项目中使用,更推荐安装 SDK。
为便于开发者高效利用GLM-4-Flash的强大功能,以下将通过Python SDK的使用指南,详细阐述如何调用该服务。详细文档请参考:https://open.bigmodel.cn/dev/
1、SDK安装与初始化
首先,请确保您已安装或更新至最新版本的智谱AI SDK。若尚未安装,可通过以下命令进行安装:
pip install zhipuai
若已安装但非最新版本,请使用以下命令进行升级:
pip install --upgrade zhipuai
安装完成后,您可以通过以下代码引入智谱AI客户端,并初始化API密钥:
from zhipuai import ZhipuAI # 初始化客户端,请替换'你的API_KEY'为您的实际API密钥`` ``client = ZhipuAI('你的API_KEY')
2、调用代码
如下为完整的调用示例代码:
from zhipuai import ZhipuAI``client = ZhipuAI(api_key="") # 请填写您自己的APIKey``response = client.chat.completions.create(` `model="GLM-4-Flash", # 填写需要调用的模型编码` `messages=[` `{"role": "system", "content": "你是一个乐于解答各种问题的助手,你的任务是为用户提供专业、准确、有见地的建议。"},` `{"role": "user", "content": "我对太阳系的行星非常感兴趣,特别是土星。请提供关于土星的基本信息,包括其大小、组成、环系统和任何独特的天文现象。"},` `],` `stream=True,``)``for chunk in response:` `print(chunk.choices[0].delta)
**应用示例
**
作为人工智能领域的一个开发者,平时无非是写写代码,看看前沿的论文。而通过GLM-4-Flash,这方面的工作明显更加得心应手了。写代码的话我们扔个代码需求给他,就可以产出代码,我自己在稍微运行调试一下就能用了。
写一段iris聚类的python示例代码
`from sklearn import datasets` `from sklearn.cluster import KMeans` `import numpy as np` `# 加载Iris数据集` `iris = datasets.load_iris()` `X = iris.data` `# 应用KMeans聚类算法,这里我们假设有3个类别(对应Iris数据集的3个品种)` `kmeans = KMeans(n_clusters=3, random_state=0)` `kmeans.fit(X)` `# 输出聚类结果` `print("聚类标签:")` `print(kmeans.labels_)` `# 输出每个簇的中心点(均值)` `print("每个簇的中心点:")` `print(kmeans.cluster_centers_)` `# 输出每个样本的类别概率(即属于每个类别的概率)` `print("每个样本的类别概率:")` `print(kmeans.predict_proba(X))`
我们可以根据结果,加一些代码需求,比如下面这样:
将分类结果画出散点图,标注下模型分类的效果
import matplotlib.pyplot as plt``from sklearn import datasets``from sklearn.cluster import KMeans``import numpy as np` `# 加载Iris数据集``iris = datasets.load_iris()``X = iris.data``y = iris.target` `# 应用KMeans聚类算法,这里我们假设有3个类别(对应Iris数据集的3个品种)``kmeans = KMeans(n_clusters=3, random_state=0)``kmeans.fit(X)` `# 获取聚类结果``labels = kmeans.labels_` `# 为每个样本绘制散点图``plt.figure(figsize=(14, 7))` `# 绘制真实标签的散点图``for i in range(3):` `plt.scatter(X[y == i, 0], X[y == i, 1], label=f'Class {i}')` `# 绘制KMeans聚类结果``for i in range(3):` `plt.scatter(X[labels == i, 0], X[labels == i, 1], c='red', marker='x', label=f'Cluster {i}')` `plt.title('Iris Clustering with KMeans')``plt.xlabel('Sepal length (cm)')``plt.ylabel('Sepal width (cm)')``plt.legend()``plt.show()`` ``#运行这段代码后,你将得到一个包含三个不同颜色散点的图,以及用红色十字表示的聚类结果。图中的红色十字将位于真实类别中心附近,表示KMeans聚类算法的效果。
另外一个需求是是论文阅读和翻译,我们很经常要追踪AI最新的英文论文,普通的翻译软件经常翻译会比较生硬,比如很多术语软件直接就会直译, Transformer直接翻译成变形金刚,而通过GLM-4-Flash就可以很生动准确地翻译好。
你是一个人工智能专家,请翻译下这段论文:``The dominant sequence transduction models are based on complex` `recurrent or convolutional neural networks in an encoder-decoder configuration. The best performing models also connect the encoder and decoder through an attention mechanism. We propose a new simple network architecture, the Transformer, based solely on attention mechanisms, dispensing with recurrence and convolutions entirely. Experiments on two machine translation tasks show these models to be superior in quality while being more parallelizable and requiring significantly less time to train. Our model achieves 28.4 BLEU on the WMT 2014 English-to-German translation task, improving over the existing best results, including ensembles by over 2 BLEU. On the WMT 2014 English-to-French translation task, our model establishes a new single-model state-of-the-art BLEU score of 41.8 after training for 3.5 days on eight GPUs, a small fraction of the training costs of the best models from the literature. We show that the Transformer generalizes well to other tasks by applying it successfully to English constituency parsing both with large and limited training data.
如下为翻译《Attention is all you need》摘要的结果,术语翻译很准确,可以感受到翻译质量还是很不错的:
主要的序列转换模型是基于编码器-解码器配置的复杂循环神经网络或卷积神经网络。表现最好的模型还通过注意力机制连接编码器和解码器。我们提出了一种新的简单网络架构,称为Transformer,它完全基于注意力机制,摒弃了循环和卷积。在两个机器翻译任务上的实验表明,这些模型在质量上更胜一筹,同时更易于并行化,并且训练时间显著减少。在我们的模型中,WMT 2014英语到德语翻译任务上实现了28.4 BLEU的分数,超过了现有的最佳结果,包括超过2 BLEU的集成模型。在WMT 2014英语到法语翻译任务上,我们的模型在8个GPU上训练了3.5天之后,达到了41.8的新单模型BLEU最佳分数,这是文献中最佳模型训练成本的一小部分。我们通过将Transformer成功应用于英语成分句法分析和大量及有限训练数据,展示了该模型在其它任务上的泛化能力。
大模型&AI产品经理如何学习
求大家的点赞和收藏,我花2万买的大模型学习资料免费共享给你们,来看看有哪些东西。
1.学习路线图
第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;
第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;
第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;
第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;
第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;
第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;
第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。
2.视频教程
网上虽然也有很多的学习资源,但基本上都残缺不全的,这是我自己整理的大模型视频教程,上面路线图的每一个知识点,我都有配套的视频讲解。
(都打包成一块的了,不能一一展开,总共300多集)
因篇幅有限,仅展示部分资料,需要点击下方图片前往获取
3.技术文档和电子书
这里主要整理了大模型相关PDF书籍、行业报告、文档,有几百本,都是目前行业最新的。
4.LLM面试题和面经合集
这里主要整理了行业目前最新的大模型面试题和各种大厂offer面经合集。
👉学会后的收获:👈
• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;
• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;
• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;
• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。
1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集
👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓