LLM、AGI、多模态AI 篇四：ChatGLM3部署和应用

已于 2024-08-13 11:55:24 修改
阅读量1.2k 收藏 19
点赞数 19
分类专栏： 计算机技术杂谈 文章标签： agi 人工智能 LLM 大语言模型
于 2024-01-05 23:22:41 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zhiyuan411/article/details/135336409
版权
本文详细介绍了开源大语言模型ChatGLM3的部署和应用，包括推荐硬件配置、Python环境搭建、模型下载、环境激活、依赖安装、Demo运行，以及在Langchain+RAG框架下的应用和OpenAI API的支持。ChatGLM3以其强大的性能和丰富的功能，为AI对话和代码执行提供了新的可能。
摘要由CSDN通过智能技术生成

文章目录

系列

LLM、AGI、多模态AI 篇一：开源大语言模型简记
LLM、AGI、多模态AI 篇二：Prompt编写技巧
LLM、AGI、多模态AI 篇三：微调模型
LLM、AGI、多模态AI 篇四：ChatGLM3部署和应用
LLM、AGI、多模态AI 篇五：基于LoRA微调ChatGLM3

简介

ChatGLM3-6B 是 ChatGLM 系列最新一代的开源模型，在保留了前两代模型对话流畅、部署门槛低等众多优秀特性的基础上，ChatGLM3-6B 引入了如下特性：

  1. 更强大的基础模型&
了解本专栏 订阅专栏 解锁全文 超级会员免费看
李小白杂货铺
关注
专栏目录
订阅专栏
LLM、AGI、多模态AI 篇五：基于LoRA微调ChatGLM3
生活在别处
01-06 1228
hiyouga/LLaMA-Factory 是一个开源的 GitHub 仓库项目，它提供了一个易于使用的框架，主要用于大型语言模型（LLM）的微调和训练。这个项目旨在简化用户对多个著名开源大模型进行定制化训练的过程，包括但不限于 Baichuan、Baichuan2、BLOOM、BLOOMZ、ChatGLM3、Falcon、InternLM、以及 LLaMA 等模型。
LLM、AGI、多模态AI 篇三：微调模型
生活在别处
01-01 1240
即：将 LLM 的应用工程化，“无缝” 接入内部的各种平台和工具，持续处理用户对于数据的反馈，以持续迭代软件数据集。例如，将微调后的模型集成到内部的聊天机器人平台中，以提供更好的用户体验，并不断收集用户的反馈，以改进模型的性能。LoRA 的核心思想是通过对模型的权重进行分解，将其表示为一个低秩的矩阵，然后通过对低秩矩阵进行微调，来实现对模型的微调。LoRA（Low-Rank Adaptation）是一种用于微调大型语言模型的技术，它可以在不改变模型结构的情况下，对模型进行微调，以适应新的任务或数据集。
本地部署 big-AGI
engchina的专栏
01-09 645
本地部署 big-AGI
【ChatGLM3】第三代大语言模型多GPU部署指南
Java技术栈，分享不断学习、不断超越、不断积累的历程！
12-08 5609
经过测试对比，ChatGLM3比ChatGLM2强大了很多很多，可以在一定程度上满足商用ChatGLM系列大模型的迭代速度还是比较快的，可以感受到研究人员的努力一款优秀的具有自主知识产权的国产大模型，数据安全有保障，有活跃的社区，有越来越丰富的文档资料希望ChatGLM可以早日超越ChatGPT。
LLM、AGI、多模态AI 篇二：Prompt编写技巧
生活在别处
01-01 1366
扩展数据（Extended Data）：可以提供一些关于饮品制作、材料选择等方面的数据，以帮助大语言模型生成更加准确、详细的文本。指令（Instruction）：请生成一份饮品推荐列表，包括饮品的名称、材料、制作方法和口感等相关信息。要求（Requirements）：生成的文本应简洁明了、易于理解，包含准确的材料和制作方法。示例（Sample）：请以以下饮品为例，生成一份推荐列表：西瓜汁、柠檬水、薄荷茶。角色（Role）：你是一位美食博主，需要推荐一些适合夏天的清凉饮品。
LLM、AGI、多模态AI 篇一：开源大语言模型简记
生活在别处
12-28 1451
Qwen是阿里云推出的大型模型系列（通义千问），其多模态版本Qwen-Audio支持各种音频和文本输入，能输出文本，适用于所有类型音频的多任务学习，在各种基准测试任务中都取得了令人印象深刻的性能。Llama2-Chinese是基于 Llama2进行中文预训练的开源大模型，是开源社区第一个能下载、能运行的中文LLaMA2模型，全部开源且完全可商用。百川智能推出的新一代开源大语言模型，采用2.6万亿代币的高质量语料训练，在多个权威的中文、中文和多语言的通用、领域基准上取得了同尺寸的最佳效果。
多模态大模型是新一代人工智能技术范式
热门推荐
weixin_43178406的博客
05-02 5万+
 本文主要介绍了推开通用人工智能大门，多模态大模型是新一代人工智能技术范式，希望能对学习大模型的同学们有所帮助。 文章目录 1. 前言 2. 书籍推荐 2.1 内容简介 2.2 本书作者 2.3 本书目录 2.4 适合读者
LLM大模型：使用CLIP和LLM构建多模态RAG系统
2301_81888214的博客
07-18 681
在本文中我们将探讨使用开源大型语言多模态模型(Large Language Multi-Modal)构建检索增强生成(RAG)系统。本文的重点是在不依赖LangChain或LLlama index的情况下实现这一目标，这样可以避免更多的框架依赖。
七天入门LLM大模型 | 3：LLM和多模态模型高效推理实践
Langchain的博客
06-28 821
Xinference支持大语言模型，语音识别模型，多模态模型的部署，简化了部署流程，通过一行命令完成模型的部署工作。作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。LLM会产生误导性的 “幻觉”，依赖的信息可能过时，处理特定知识时效率不高，缺乏专业领域的深度洞察，同时在推理能力上也有所欠缺。使用ModelScope NoteBook完成语言大模型，视觉大模型，音频大模型的推理。
LeCun数十年经验之谈：视觉是建立AGI的核心，视频理解难点在哪？语言模型技术为何难以复用于视觉？
OpenGVLab的博客
10-11 795
我们做视频理解多年，对LeCun谈到的难点有深刻体会，也非常赞同视觉等高维信息对于AI理解世界是至关重要的，这也许就是通向AGI的道路。不过，2024年2月19日，”人工智能教父“ Geoffrey Hinton在牛津大学的公开演讲上, 强调LLM具备真正的理解能力。
OpenAI Canvas用户反馈：并不如外界传言般“炸裂”，更不是“AGI的终极交互形态” | LeetTalk Daily...
LinkTime_Cloud的博客
10-12 678
“LeetTalk Daily”，每日科技前沿，由LeetTools AI精心筛选，为您带来最新鲜、最具洞察力的科技新闻。Canvas作为一个独立的界面，通过与ChatGPT的结合来提升用户的协作能力和创作效率。尽管用户对其独立性与现有工具的整合存在不同看法，但这一新工具的推出无疑为人机协作开辟了新的可能性。我们将介绍Canvas的功能，包括实时编辑和建议的能力，这些功能超越了传统的问答模式，提供...
DINO&DINO v2：颠覆自监督视觉特征表示学习
家鸽的代码屋
10-15 1057
DINO系列学习总结
新质技术之生成式AI、大模型、多模态技术开发与应用研修班
Lynn121的博客
10-17 492
在当前的科技飞速发展的时代，生成式人工智能、大模型、多模态技术的出现正为企业的数字化转型带来革命性变革。该研修班特别设计了为期四天的课程，从生成式AI的核心概念入手，逐步深入探讨大模型的应用开发以及多模态技术的集成运用。通过此次研修班，学员不仅能获得最新的AI技术知识，还能获得行业权威机构的职业技能认证，这将极大提升其在未来职场中的竞争力。本次研修班采取理论与实战相结合的培训模式，旨在让学员不仅能够全面掌握生成式AI、大模型和多模态技术的最新理论，还能通过实战练习，掌握将这些技术应用于实际业务。
论文及其创新点学习cvpr2022 On the Integration of Self-Attention and Convolution
qq_53536373的博客
10-13 607
论文创新点，将注意力机制 和卷积 相结合。
最近AI产品开发的热点在什么领域？
最新发布
m0_46568584的博客
10-18 882
更贴合人类的思考方式：去年，不管是ChatGPT还是通义千问、KIMI等，经常会遇到问着问着他就“傻”了，开始答非所问，就我个人使用而言，从今年下半年开始，模型越来越聪明，他会给我提供一些新奇的想法，而且还会先我一步思考。AI产品开发中，搜索领域已成为炙手可热的焦点，背后的原因还是很值得说一说的。《黑神话：悟空》不仅在短短3天内销量突破1000万套，成为有史以来最快达到这一销售里程碑的单机游戏之一，更重要的是，它展现了AI技术在游戏领域带来的巨大潜力，包括AI驱动的NPC、AI生成的场景、AI辅助开发等。
计算机毕业设计Python深度学习房价预测 房源可视化 房源爬虫 二手房可视化 二手房爬虫 递归决策树模型 机器学习 深度学习 大数据毕业设计
全网粉丝100W+、全栈领域优质创作者、B站、github、CSDN等社区技术专家、专注于高端精品毕业项目源码实战
10-18 505
计算机毕业设计Python深度学习房价预测 房源可视化 房源爬虫 二手房可视化 二手房爬虫 递归决策树模型 机器学习 深度学习 大数据毕业设计
大数据与人工智能在金融风险控制中的应用
2405_87249521的博客
10-16 1043
通过对海量数据的实时分析和智能化的预测模型，金融机构能够更准确地识别潜在风险，采取适当的防范措施，从而提升金融市场的稳定性和安全性。传统的信用评估主要依赖于财务报表和历史信用记录，而大数据技术可以结合客户的社交媒体行为、购物习惯、互联网搜索记录等非结构化数据，为风险评估提供更全面的视角。同时，AI还能够自动识别潜在的合规风险，减少人工审核的压力。大数据与人工智能在金融风险管理中有着广泛的应用场景，从信用评估、市场风险分析，到反欺诈和监管合规，都可以利用这些技术来提升风险控制的效率和准确性。
骨架提取（持续更新）
xiongmaowangd的博客
10-13 704
骨架提取是图像处理或计算机视觉中的一种技术，用于从二值化图像中提取物体的中心线或轮廓，通常称为“骨架”或“细化图像”。这一技术主要用于简化形状表示，同时保留物体的拓扑结构。这里我们强调了，是对二值化图像中进行提取。
【深度学习】RNN实战
言兼小师傅的博客
10-15 443
【代码】【深度学习】RNN实战。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

李小白杂货铺

打赏是一种友谊，让我们更亲密。

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值