部署ChatGLW-6B出现的问题

已于 2023-11-20 14:52:29 修改
阅读量82 收藏
点赞数
分类专栏： 错误记录 文章标签： python
于 2023-11-17 18:22:38 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/laochu250/article/details/134468684
版权

库问题

版本匹配

cuda 11.1 对应的torch 1.10

版本过高导致编译问题，目前已测试一下版本可以
    typing_extensions==4.8
    transformers==4.26.1
    gradio==3.50.0

windows环境下文件路径使用\\

ChatGLM2-6B 部署
Linux猿
06-21 644
本文主要对 ChatGLM2-6B 模型的部署和推理过程进行介绍。
chatglm3-6b.zip
03-18
2. **模型微调**：将chatglm3-6b和bge-large-zh模型在特定的问答数据集上进行微调，使它们适应知识库问答的场景，提高对特定领域问题的理解和回答能力。 3. **融合策略**：将两个模型的输出进行融合，可以通过投票...
本地部署 ChatGLM-6B
engchina的专栏
05-06 1968
本地部署 ChatGLM-6B
在windows部署ChatGLM-6B
小马过河R的博客
09-03 980
如何本地离线部署大语言模型
大模型ChatGLM-6B实现本地部署
qq_15060477的博客
03-04 1525
1、 确保你的电脑中已安装git，git lfs。2、确保你的电脑满足以下任一一种配置：（1）内存不低于32G，大显存显卡无要求。（2）内存不低于16G，显存不低于8G。3、若满足2(2)，则请确保你的显卡驱动和cuda、cudnn已经安装，并且相互之间版本对应。若满足2(1)，则继续继续往下看。
手把手教你如何部署ChatGLM-6B大模型
qq_51987242的博客
07-15 1598
最近咸鱼时间学习了大模型的知识，正好不上班，趁着这时间写一下自己的实践供大家参考。
ChatGLM-6B 部署与使用指南
最新发布
jooolin的博客
09-25 1331
ChatGLM-6B 是清华大学与智谱 AI 开源的一款对话语言模型，基于 General Language Model (GLM) 架构，参数达到 62 亿，因其卓越的语言理解与生成能力，受到广泛关注。
本地部署chatGLM3-6b教程
weixin_42118737的博客
05-09 2236
之前一直用的chatGLM2，将FastGPT本地化跑通后，现在试试将chatGLM2升级为chatGLM3。升级就比较顺利了，过程如下，该过程参考了哔哩哔哩网站的一个视频。
清华 ChatGLM-6B 中文对话模型部署简易教程
小白的成长
03-20 6万+
ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM) 架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只需 6GB 显存）。 ChatGLM-6B 使用了和 ChatGPT 相似的技术，针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持，62 亿参数的 ChatGLM-6B 已经能生成相当符合人类偏好的回答。
如何在本地部署运行ChatGLM-6B
JXYZH11的博客
05-06 2034
本篇技术博客将向您介绍如何使用 ChatGLM-6B 进行聊天，涵盖了获取运行代码、下载模型、环境配置以及网页版 Gradio Demo 的配置和运行等方面。通过这篇技术博客，您将了解如何在个人电脑上使用 ChatGLM-6B 进行聊天，并且可以根据自己的需要对其进行修改和扩展。
Windows下cpu部署运行清华大学ChatGLM-6B语言模型（详解).docx
06-08
在本文档中，我们将深入探讨如何在Windows操作系统下部署和运行清华大学开发的ChatGLM-6B语言模型。ChatGLM-6B是一款强大的开源对话语言模型，具备中英双语支持和图像理解功能，其基础是General Language Model (GLM...
ChatGLM3+更强大的基础模型： ChatGLM3-6B 的基础模型 ChatGLM3-6B-Base 采用了更多样的训练数
01-11
ChatGLM3 是智谱AI和清华大学 KEG 实验室联合发布的新一代...更全面的开源序列： 除了对话模型 ChatGLM3-6B 外，还开源了基础模型 ChatGLM3-6B-Base 、长文本对话模型 ChatGLM3-6B-32K。以上所有权重对学术研究完全开放
Chatglm2-6b-int4资源文件
10-12
Chatglm2-6b-int4资源文件
python list转换字符串报错TypeError: sequence item 0: expected str instance, int found
热门推荐
laochu250的博客
03-28 14万+
今天敲小例子，报了错TypeError: sequence item 0: expected str instance, int found 小例子：list1=[1,'two','three',4] print(' '.join(list1)) 以为会打印 1 two three 4 结果报了错 Traceback (most recent call last):   File ""
解决python3输出中文的问题
laochu250的博客
04-12 3万+
我是一个python小白，之前一直使用的英文来编码。今天突然想输出中文，结果出现很多问题。 使用python版本是3.x，教程书却使用的2.x，然后就引来一些问题。 首先python3默认使用utf-8编码，所以可以不用在开头加注释# -*- coding: utf-8 -*-。 例子：a="您好"       print(a) 就直接运行还会报错的原因是本人本人新建的文件编码默认是AN
jquery toogle()动画抖动
laochu250的博客
03-22 667
我是敲的《锋利的jquery》代码，发现一个toggle()函数不能切换几种状态。 第一步，上网查了一下，利用 alert(jQuery.fn.jquery);查看jquery版本，我的是3.1.1。 第二步，接着上网查看3.1.1版本api，发现jquery在1.9版本移除了。 总结：多看看与自己对应版本的api，发现并解决问题。
ArtifactDescriptorException: Failed to read artifact description **jar missing
laochu250的博客
06-11 467
Eclipse maven报错 ArtifactDescriptorException: Failed to read artifact description **jar missing 解决方法： pom.xml porject添加 <repositories> <repository> <snapshots> ...
第一次使用Bootstrap
laochu250的博客
06-04 388
使用Bootstrap是因为其他人也使用了，然后自己尝试做了一个按钮下拉菜单，导入了bootstrap.min.css文件之后，打开浏览器解析，按钮的样式存在，没有响应。接着想着导入bootstrap.min.js文件就可以吧，结果还是没有响应。没办法，打开js文件之后，发现是用jquery语言写的，那就应该在此之前导入jquery的框架，果然，下拉菜单显示出来。所以，在导入bootstrap.j
win10本地部署chatglm-6b
09-10
在Windows 10系统上本地部署ChatGLM-6B，你需要遵循以下步骤： 1. 确保你的系统满足运行ChatGLM-6B的硬件要求，比如拥有足够的内存和适当的GPU（推荐使用NVIDIA的GPU）。 2. 安装Python环境。你可以从Python官网...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值