部署代码生成模型CodeGeeX2

最新推荐文章于 2024-08-19 08:00:00 发布
最新推荐文章于 2024-08-19 08:00:00 发布
阅读量4.2k 收藏 7
点赞数 1
文章标签： nlp
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_51987242/article/details/132238101
版权

模型下载

大家需要从huggingface下载CodeGeex2的模型文件，可以直接下载到本地，也可以git clone，这里给huggingface的地址，大家自行下载

THUDM/codegeex2-6b · Hugging Face

 模型部署

首先我们得有个环境去跑起来，这里我用的是阿里云的平台，具体怎么申请，可以看我的第一篇博客。首先新建一个文件夹codeGeex2，然后继续建一个codegeex2-6b的文件夹，我们要把下载的模型相关文件全部放在这个文件夹里面。我的如图所示

 模型测试

这里官方给了测试代码，github地址如下：GitHub - THUDM/CodeGeeX2: CodeGeeX2: A More Powerful Multilingual Code Generation Model我们只需要把python测试代码的模型路径改成自己的地址就行，然后就可以测试啦

羊驼锋
关注
预训练模型-代码补全（一）：CodeGeeX（清华大学）
u013250861的博客
12-07 2070
随着NLP预训练模型的发展，大语言模型在各个领域的作用也越来越大。几个月前，GitHub基于OpenAI的GPT-3训练的Copilot效果十分惊艳，可惜现在已经开始收费（参考：Copilot Labs插件——基于AI的代码解释和代码翻译神器）。而最近，清华大学也发布了一个代码补全神器——CodeGeeX。一、CodeGeeX简介这是一个具有130亿个参数的大型多语言代码生成模型，它预先经过20多种编程语言的大型代码库的训练。截至2022年6月22日，CodeGeeX已经在1536个Ascend 910 A
CodeFuse - 蚂蚁集团开源代码大模型
编码时光
10-06 509
关于 CodeFuse 模型 CodeFuse-13B CodeFuse-CodeLlama-34B-4bits CodeFuse-CodeLlama-34B CodeFuse-StarCoder-15B MFTCoder FasterTransformer4CodeFuse
本地部署多语言代码生成模型CodeGeeX2
Python，数据分析，机器学习，深度学习
10-11 4483
CodeGeeX2 是多语言代码生成模型CodeGeeXKDD’23) 的第二代模型。CodeGeeX2 基于ChatGLM2架构加入代码预训练实现，得益于 ChatGLM2 的更优性能，CodeGeeX2 在多项指标上取得性能提升（+107% > CodeGeeX；更强大的代码能力：基于 ChatGLM2-6B 基座语言模型，CodeGeeX2-6B 进一步经过了 600B 代码数据预训练，相比一代模型，在代码能力上全面提升，
CodeGeeX一款基于大模型全能的智能编程助手
小相探索IT世界
07-18 1606
CodeGeeX是智谱AI旗下的代码生成大模型，2022年9月发布第一代模型，以每半年更新一代模型的迭代速度不断进化，致力于探索大模型代码生成能力的上限。基于模型打造的CodeGeeX智能编程助手，不仅支持代码补全、代码注释、代码修复、代码翻译等基础功能，还支持联网代码问答、代码解释器、检索增强等进阶实用功能。CodeGeeX对个人用户完全免费，在各种主流IDE均可免费下载使用。官网地址：https://codegeex.cn/开源地址：https://github.com/THUDM/CodeGeeX
codegeex2-6b-int4 部署
m0_60657960的博客
06-14 332
模型文件仓库文件地址推理教程。
国产开源代码模型之光：CodeGeeX4 - ALL - 9B本地部署体验实战大全
最新发布
寻道码路，探索编程之路的无限可能。
08-19 1870
在当今这个数字化进程飞速推进的时代，软件开发的效率与质量已成为决定项目成败的关键要素。代码生成模型作为一种极具创新性的技术手段，宛如一场悄然兴起的革命，正逐步重塑着开发者的工作模式与流程。CodeGeeX4 - ALL - 9B 的惊艳登场，毫无疑问地为这一领域注入了一股磅礴且强劲的力量。
CodeGeeX2模型安装
liuzhenghua66的博客
11-27 961
pytorch与cuda对应版本：https://pytorch.org/get-started/previous-versions/demo.gpus为CodeGeeX2官方仓库的demo文件夹下的gps文件，需要修改num_gpus为机器实际的值，可以通过。cuda tookit版本：https://anaconda.org/nvidia/cuda-toolkit。由于huggingface国内无法访问，我们使用镜像站下载。
windows10下安装CodeGeeX2，AI编程助手
qq_43335960的博客
07-28 2116
3、启动后通过本地http://127.0.0.1:7860访问，也会生成一个72小时的公网URL，供远程访问。1、下载程序：git clone https://github.com/THUDM/CodeGeeX2。2、直接用ChatGLM2-6B的依赖python .\demo\run_demo.py即可启动。链接:https://caiyun.139.com/m/i?如果嫌安装依赖麻烦，做了一个不带模型的整合包，下载后点击run.bat即可运行。
【AI应用】在VSCode中集成AI编程 ------CodeGeeX智能编程助手
AnChenliang_1002的博客
12-13 2549
CodeGeeX是一款基于大模型的全能的智能编程助手。它可以实现代码的生成与补全、自动添加注释、代码翻译以及智能问答等功能，能够帮助开发者显著提高工作效率。CodeGeeX支持主流的编程语言，并适配多种主流IDE。CodeGeeX的功能：本文以VSCode中安装使用CodeGeeX插件为例，介绍CodeGeeX的使用方法；领略一下AI的强大；打开VSCode，在扩展中搜索CodeGeeX，点击安装即可，如下图所示： 安装成功后如下图所示： 在左侧就可以看到这个插件了；点击接受即可；然后长按下图图标，拖动到最
智胜未来：国内大模型+Agent应用案例精选，以及主流Agent框架开源项目推荐
丨汀、的博客
07-25 1295
智胜未来：国内大模型+Agent应用案例精选，以及主流Agent框架开源项目推荐
AI Coding Assistant 智能编程助手方案指标对比
AI炼丹师的专栏
02-22 1691
前端： HTML、JavaScript、CSS、Less、swan、San、Vue、Scss、Sass、Stylus、pug、mermaid。基于智能生成、智能问答2大核心能力，覆盖代码生成、研发知识问答、单元测试用例生成、代码解释、代码注释、代码翻译、代码调试、代码检查等八大研发场景。支持注释生成代码、增强生成代码、生成单元测试、代码生成doc注释、代码解释、生成行间注释、长函数拆分等。Java、Python、Go、JavaScript、TypeScript、C/C++、C# 等。
SWIFT:让大模型微调变得简单高效
步子哥的博客
08-03 504
SWIFT的出现,无疑为大模型的定制化应用铺平了道路。它集成了当前最先进的训练技术,提供了全面的模型支持,同时保持了简单易用的特性。无论是初学者还是经验丰富的AI研究人员,都能在SWIFT中找到适合自己的工具。随着AI技术的不断发展,像SWIFT这样的开源框架将发挥越来越重要的作用。它不仅推动了技术的民主化,也为AI创新提供了重要的基础设施支持。可以预见,在SWIFT的助力下,更多创新的AI应用将会涌现,为各行各业带来新的机遇和变革。
代码生成-CodeGeeX2本地部署体验
qyhua的专栏
06-13 1366
CodeGeeX2 是多语言代码生成模型) 的第二代模型。不同于一代 CodeGeeX（完全在国产华为昇腾芯片平台训练） ，CodeGeeX2 是基于架构加入代码预训练实现，得益于 ChatGLM2 的更优性能，CodeGeeX2 在多项指标上取得性能提升（+107% > CodeGeeX；
《CodeGeeX2 一个让你编码效率翻倍的扩展，分享几个使用小技巧》学习笔记
墨门
08-08 905
列表结束 /explain。
探索代码之美：CodeGeeX2 - 深度代码分析工具
gitblog_00069的博客
04-25 421
探索代码之美：CodeGeeX2 - 深度代码分析工具 CodeGeeX2CodeGeeX2: A More Powerful Multilingual Code Generation Model项目地址:https://gitcode.com/gh_mirrors/co/CodeGeeX2 项目简介 是一个强大的深度学习驱动的代码分析和理解工具。该项目旨在帮助开发者更好地理解和探索源代码，通过...
部署CodeFuse-CodeGeeX2-6B
qq_41311382的博客
04-29 456
可以使用ModelScope默认的环境，CPU免费，GPU有使用时常，也可以自己挂阿里云的DSW，这里使用ModelScope的，因为要用GPU所以选择后者。通过调整transformers版本解决：pip install transformers==4.33.2。按照ModelScope的模型指引页面，安装好对应的依赖。通过调整torch版本解决：pip install torch==2.2.1。1、在哪里找LLM模型。
CodeGeeX2: 更强大的多语言代码生成模型
qq837993702的博客
08-17 992
CodeGeeX2 是多语言代码生成模型) 的第二代模型。不同于一代 CodeGeeX（完全在国产华为昇腾芯片平台训练） ，CodeGeeX2 是基于架构加入代码预训练实现，得益于 ChatGLM2 的更优性能，CodeGeeX2 在多项指标上取得性能提升（+107% > CodeGeeX；
CodeGeeX2 模型全新上线，编程助手能力全面升级！
马沛专栏
08-01 880
在新模型的支撑下，插件中的问答功能“Ask CodeGeeX”也得到了升级。更新后，该功能使用的模型换成了基于CodeGeeX2-6B微调得到的对话模型，在回答编程相关的问题时，比之前更专业、更智能。在 HumanEval 评测中，CodeGeeX2-6B的表现全面超越了参数规模更大的 StarCoder 模型以及 OpenAI 的 Code-Cushman-001 模型（GitHub Copilot 曾使用的模型）。相比一代模型 ，CodeGeeX2-6B在代码生成的精度和速度上都有极大的提升。
api-for-open-llm对接CodeGeex2部署流程
wl826214的博客
01-08 1039
使用api-for-open-llm对接CodeGeex2，提供OpenAI接口，部署流程
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

羊驼锋

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值