国产开源代码模型之光：CodeGeeX4 - ALL - 9B本地部署体验实战大全

最新推荐文章于 2025-04-02 11:30:00 发布

寻道AI小兵

最新推荐文章于 2025-04-02 11:30:00 发布

阅读量3.9k

点赞数 114

分类专栏：国产开源大模型开发实战手册文章标签：人工智能 AIGC 语言模型 AI编程开源

本文链接：https://blog.csdn.net/xiaobing259/article/details/141297127

版权

国产开源大模型开发实战手册专栏收录该内容

60 篇文章

订阅专栏

引言

在当今这个数字化进程飞速推进的时代，软件开发的效率与质量已成为决定项目成败的关键要素。代码生成模型作为一种极具创新性的技术手段，宛如一场悄然兴起的革命，正逐步重塑着开发者的工作模式与流程。CodeGeeX4 - ALL - 9B 的惊艳登场，毫无疑问地为这一领域注入了一股磅礴且强劲的力量。

它宛如一颗璀璨的新星，在软件开发的浩瀚星空中闪耀着独特的光芒。其不仅代表着技术层面的重大突破，更象征着一种全新的可能性，为开发者们开启了一扇通往高效与便捷的大门。无论是面对复杂多变的业务需求，还是追求精益求精的代码质量，CodeGeeX4 - ALL - 9B 都展现出了无与伦比的潜力与优势，让开发者们在代码的世界中能够更加游刃有余，尽情施展才华。

一、CodeGeeX 系列模型的演进

CodeGeeX 自诞生以来，不断进化和完善。从初代模型到如今的 CodeGeeX4 - ALL - 9B，每一次的更新都带来了性能的提升和功能的扩展。
早期版本的 CodeGeeX 已经在代码生成、补全和优化等方面展现出了一定的优势，为开发者提供了有价值的帮助。而随着技术的不断发展，CodeGeeX4 - ALL - 9B 更是在诸多方面实现了重大突破。

CodeGeeX4-ALL-9B，集代码补全和生成、代码问答、代码解释器、工具调用、联网搜索、项目级代码问答等所有能力于一体的代码大模型；

CodeGeeX4-ALL-9B 在 BigCodeBench 和 NaturalCodeBench等公开基准测试中取得了极具竞争力的表现。它是目前参数量少于
100亿的最强代码生成模型，甚至超越了更大的通用模型，在推理速度和模型性能方面达到了最佳平衡。

在这里插入图片描述

二、CodeGeeX4 - ALL - 9B 的特点与优势

1. 卓越的性能表现

在代码生成的准确性和效率方面，CodeGeeX4 - ALL - 9B 表现出色。它能够快速理解开发者的需求，并生成高质量的代码片段，大大减少了开发过程中的错误和重复劳动。
在处理复杂的逻辑和算法时，能够提供精准的解决方案，展现出强大的推理能力。

2. 强大的泛化能力

可以适应多种编程语言和不同的开发场景，无论是 Web 开发、移动应用开发还是数据科学领域，都能提供有效的支持。
对于新的、未曾见过的编程问题，能够基于已有的知识和模式进行合理的推测和生成。

3. 高效的上下文理解

能够充分理解代码的上下文信息，从而生成更贴合上下文逻辑的代码。这对于大型项目和复杂代码库的开发尤为重要。
可以在长代码文件中准确把握变量、函数之间的关系，为代码的续写和优化提供有力支持。

4. 开源的价值

作为开源模型，CodeGeeX4 - ALL - 9B 允许开发者深入研究其内部机制，促进技术的交流和创新。
社区的力量可以进一步推动模型的优化和改进，为其发展注入源源不断的活力。

三、性能评估与比较

为了更好地了解 CodeGeeX4 - ALL - 9B 的性能，我们将其与其他类似的代码生成模型进行了比较。
在多个权威的代码生成评测数据集上，CodeGeeX4 - ALL - 9B 都取得了优异的成绩。与同等规模的模型相比，它在生成代码的准确性、可读性和可维护性方面表现更优。
在这里插入图片描述

四、应用场景与实际案例

1. 快速开发原型
在项目的初始阶段，CodeGeeX4 - ALL - 9B 可以帮助开发者快速生成原型代码，为后续的开发提供基础框架。
例如，在一个新的 Web 应用项目中，能够快速生成基本的页面结构和后端接口的代码框架。

2. 代码优化与重构
对于现有代码，模型可以提供优化建议和重构方案，提高代码的质量和性能。
比如，对于一段性能不佳的数据库查询代码，能够给出更高效的实现方式。

3. 辅助学习与教学
对于初学者和学生来说，CodeGeeX4 - ALL - 9B 可以作为学习编程的辅助工具，帮助理解代码结构和编程概念。
通过生成不同类型的代码示例，加深对编程语言特性的理解。

五、本地IDE插件接入

1、安装CodeGeeX插件

在这里插入图片描述

2、注册CodeGeeX账号

在这里插入图片描述

3、问题对话测试

我们可以充分借助 CodeGeeX 的强大功能来助力我们实现快速编写代码
在这里插入图片描述

4、联网功能测试

勾选“联网”功能，可以基于互联网进行实时查询；弥补大模型自身知识库的不足。
在这里插入图片描述

六、模型本地部署

1、Ollama安装部署

1）安装ollama

curl -fsSL https://ollama.com/install.sh | sh

下载完成如下：
在这里插入图片描述

请根据实际发布的版本号替换上述命令中的版本信息。
2）验证安装
安装完成后，您可以通过运行以下命令来验证Ollama是否正确安装：

ollama --version

如果安装正确，该命令将输出Ollama的版本信息。
在这里插入图片描述

3）启动ollama

ollama serve

启动如下：
在这里插入图片描述

2、codegeex4部署运行

可以在https://ollama.com/library查看支持的codegeex版本
在这里插入图片描述

部署运行codegeex4

ollama run codegeex4

启动之后，就可以进行对话测试了。
在这里插入图片描述

3、模型对话体验

Ollama启动后可以直接输入提示信息，按回车键发送即可
在这里插入图片描述

4、模型API调用

ollama启动后会对外提供端口为11434的API服务，我们可以基于API进行模型对话测试
1）API调用测试一：

curl http://localhost:11434/api/chat -d '{
  "model": "codegeex4",
"stream": false,
  "messages": [
    { "role": "user", "content": "什么是AI大模型" }
  ]
}'

模型返回如下：

{"model":"codegeex4","created_at":"2024-08-14T08:21:18.066601982Z","message":{"role":"assistant","content":"AI大模型，通常是指基于深度学习的复杂神经网络架构，如深度神经网络（DNN）、卷积神经网络（CNN）或Transformer等。这些模型在处理大量数据时表现出极高的效率和准确度，可以应用于各种不同的任务，例如图像识别、自然语言处理、语音识别和生成、机器翻译、推荐系统等。\n\nAI大模型的训练需要大量的计算资源和数据，通常需要使用高性能的硬件设备，如图形处理器（GPU）或张量处理单元（TPU）。这些模型在参数数量上通常非常大，包含数百万甚至数十亿个参数。通过在大规模数据集上的迭代学习，它们能够从数据中自动提取出高级特征和模式，从而实现高度自动化、高效和智能的应用。\n\n随着技术的进步，AI大模型不仅在学术界得到了广泛的研究和应用，也在工业界取得了显著的成功，推动了人工智能的快速发展。"},"done_reason":"stop","done":true,"total_duration":1951689855,"load_duration":26872764,"prompt_eval_count":10,"prompt_eval_duration":20903000,"eval_count":179,"eval_duration":1860269000}

2）API调用测试二：

curl http://localhost:11434/api/chat -d '{
  "model": "codegeex4",
"stream": false,
  "messages": [
    { "role": "user", "content": "请使用python编写一个快速排序" }
  ]
}'

模型返回如下：

{"model":"codegeex4","created_at":"2024-08-14T08:19:05.686416111Z","message":{"role":"assistant","content":"当然可以。快速排序（Quick Sort）是一种高效的排序算法，采用分而治之的策略将一个大列表分成两个小列表。下面是一个简单的Python实现：\n\n```python\ndef quick_sort(arr):\n    if len(arr) \u003c= 1:\n        return arr\n    else:\n        pivot = arr[0]\n        less_than_pivot = [x for x in arr[1:] if x \u003c= pivot]\n        greater_than_pivot = [x for x in arr[1:] if x \u003e pivot]\n        return quick_sort(less_than_pivot) + [pivot] + quick_sort(greater_than_pivot)\n\n# 测试\nif __name__ == \"__main__\":\n    test_list = [3, 6, 8, 10, 1, 2, 1]\n    print(\"原始列表:\", test_list)\n    sorted_list = quick_sort(test_list)\n    print(\"排序后的列表:\", sorted_list)\n```\n\n这个代码定义了一个名为`quick_sort`的函数，它接受一个列表作为参数并返回排序后的列表。这个实现使用了分而治之的策略：首先选择一个“基准”元素（在这个例子中是列表的第一个元素），然后重新排列列表中的所有元素，使得那些比基准小的元素都在基准的前面，而比基准大的元素都在基准的后面。这个过程在较小的子列表上递归重复进行，直到整个列表排序完成。\n\n请注意，这个实现是为了演示和理解算法基本概念而设计的。在实际应用中，快速排序通常会有更高效的版本，特别是在处理大数据集时。"},"done_reason":"stop","done":true,"total_duration":3541571137,"load_duration":26828645,"prompt_eval_count":13,"prompt_eval_duration":20696000,"eval_count":322,"eval_duration":3451936000}

七、未来展望

随着技术的不断发展，我们可以期待 CodeGeeX4 - ALL - 9B 在以下方面继续进化：

1.更强大的性能和更高的准确性
通过不断优化模型结构和训练算法，进一步提高代码生成的质量和效率。
2. 多模态支持
结合图像、音频等多模态信息，为开发者提供更丰富的开发体验。
3. 与其他技术的融合
与云计算、容器化等技术相结合，实现更灵活和高效的部署和使用方式。

八、相关资料

GitHub：https://github.com/THUDM/CodeGeeX4
HuggingFace: https://huggingface.co/THUDM/codegeex4-all-9b
ModelScope: https://modelscope.cn/models/ZhipuAl/codegeex4-all-9b
WiseModel: https://wisemodel.cn/models/ZhipuAl/codegeex4-all-9b

结语

CodeGeeX4 - ALL - 9B 作为一款出类拔萃的强大开源代码模型，为广大开发者带来了前所未有的便捷与效率的大幅提升。它的横空出世，绝非仅仅是技术层面上的简单进步，更称得上是对传统软件开发方式的一场意义深远的变革。

在未来的发展道路上，我们坚信它必将持续发挥至关重要的作用，犹如一座永不熄灭的灯塔，照亮软件开发领域的前行方向。它将不断创造出更多令人瞩目的价值，为我们的工作和生活带来更加便捷、高效和创新的体验。CodeGeeX4 - ALL - 9B 的未来充满了无限可能，让我们满怀期待，共同见证它在技术的海洋中乘风破浪，书写属于自己的辉煌篇章。

在这里插入图片描述

😎 作者介绍：我是寻道AI小兵，资深程序老猿，从业10年+、互联网系统架构师，目前专注于AIGC的探索。
📖 技术交流：欢迎关注【小兵的AI视界】公众号或扫描下方👇二维码，加入技术交流群，开启编程探索之旅。
💘精心准备📚500本编程经典书籍、💎AI专业教程，以及高效AI工具。等你加入，与我们一同成长，共铸辉煌未来。
如果文章内容对您有所触动，别忘了点赞、⭐关注，收藏！加入我，让我们携手同行AI的探索之旅，一起开启智能时代的大门！