【AI 大模型】使用 AI 大模型 编程 ② ( CodeGeeX 工具 | CodeGeeX 功能 | VSCode 安装使用 CodeGeeX | Tabby 工具 | Tabby 部署与使用 )

已于 2024-08-01 14:52:18 修改
阅读量894 收藏 10
点赞数 9
分类专栏： 人工智能 文章标签： 人工智能 vscode 大模型 AI 编程 CodeGeeX GitHub Copilot Tabby
于 2024-08-01 14:15:36 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-NC-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/shulianghan/article/details/140837850
版权
#GPT-4o mini 来袭：开发者如何驾驭新一代AI模型？#

文章目录


在这里插入图片描述





一、CodeGeeX 工具


CodeGeeX 可以作为 GitHub Copilot 的平替 , 二者功能基本一致 ;


1、CodeGeeX 简介


CodeGeeX 官方网站 : https://codegeex.cn/

CodeGeeX 使用文档 : https://zhipu-ai.feishu.cn/wiki/X6qEwPfHXi0hSOkJUSKc6DkDnGN

CodeGeeX 是 清华大学 和 智谱 AI 联合开发 的 " 多语言代码生成模型 " , 是国产的 AI 编程大模型 ;


2、CodeGeeX 功能


CodeGeeX 有如下四大功能 :

  • 代码编写 :
    • 根据注释生成代码 : 根据开发者的输入或注释 , 自动生成相应的代码片段 ;
    • 根据代码生成后续代码 ;
  • 代码注释 : 自动为代码添加注释 , 可以是 逐行添加 , 也可以为一个代码块添加总结性注释 , 以帮助开发者 更好地理解 代码逻辑 和 功能 ;
  • 代码翻译 : 将 Python 代码转为 Java 代码 ;
  • 代码问答 : 选中代码 , 在开发过程中遇到问题时直接向 AI 大模型 提问 , 可提问如下方面的问题 :
    • 代码逻辑
    • 语法错误
    • 最佳实践

在这里插入图片描述


3、CodeGeeX 使用与授权


CodeGeeX 目前 个人免费使用 , 模型开源 , 商用需要进行授权 ;

CodeGeeX 是可以 本地部署 的 , 需要联系 智普公司 提供服务 , 在公司内部的本地局域网部署一套离线大模型 ;


4、CodeGeeX 插件支持


CodeGeeX 提供 VSCode / Intellij IDEA / PyCharm / VS 等开发环境的插件 ;

在这里插入图片描述


5、Intellij IDEA 安装 CodeGeeX 插件


选择 " 菜单栏 / File / Settings " 选项 ;

在这里插入图片描述

在 Settings 对话框中的 Plugins 面板中 , 搜索 CodeGeeX 插件 ,

在这里插入图片描述

点击 Install 按钮 , 安装该插件 ;

弹出 第三方插件提醒 , 选择 " Accept " 按钮选项 ;

在这里插入图片描述

杯具了 ε(┬┬﹏┬┬)3 , 必须是 专业版的 Intellij IDEA , 并且版本要 2021.1 以上的版本 ;

在这里插入图片描述

我的社区版装不上 ;

在这里插入图片描述


6、VSCode 安装 CodeGeeX 插件


点击左侧的 扩展 Extension 按钮 , 在扩展搜索栏中搜索 " CodeGeeX " , 这个插件的全称是 " CodeGeeX: AI Code AutoComplete, Chat, Auto Comment " ;

在这里插入图片描述

安装完成后 , 会提示 登录 , 点击 Login 按钮 , 开始登录 CodeGeeX ;

在这里插入图片描述

提示需要登录 , 选择 Allow 选项 ;

在这里插入图片描述

这里选择第一个选项 , 在默认浏览器中登录账号 ;

在这里插入图片描述

直接使用 手机号 + 验证码 登录即可 ;

在这里插入图片描述

登录完毕后的提示信息 :

在这里插入图片描述

登录成功后 , 在右下角显示如下内容 :

在这里插入图片描述

登录后 , 可以点击左侧的 CodeGeeX 按钮 , 显示 CodeGeeX 界面 ;

在这里插入图片描述


7、VSCode 使用 CodeGeeX 插件进行补全编程


使用示例 : 在开发环境中想要自动生成代码的位置 , 直接按下 Tab 键 , 就可以生成代码 , 再次按下 Tab 键 , 可以将生成的代码插入 ;

在这里插入图片描述

首先 , 编写 HTML 文本结构 和 CSS 样式 ;

<!DOCTYPE html>
<html lang="en">

<head>
    <meta charset="UTF-8">
    <!-- 设置 meta 视口标签 -->
    <meta name="viewport" content="width=device-width, initial-scale=1.0, user-scalable=no,maximum-scale=1.0,minimum-scale=1.0">
    <meta http-equiv="X-UA-Compatible" content="ie=edge">
    <title>JavaScript</title>
    <style>
        .box {
            /* 设置外部div的样式 */
            /* 相对定位，相对于其正常位置进行定位 */
            position: relative;
            /* 宽度为 400 像素 */
            width: 400px;
            /* 底部边框为 1 像素实线，颜色为灰色 */
            border-bottom: 1px solid #ccc;
            /* 上下间距 100 像素，左右自动居中 */
            margin: 100px auto;
        }
        
        .box input {
            /* 设置 .box 内的输入框样式 */
            /* 输入框宽度为370像素 */
            width: 370px;
            /* 输入框高度为30像素 */
            height: 30px;
            /* 去掉边框 */
            border: 0;
            /* 去掉默认的外边框样式 */
            outline: none;
        }
        
        .box img {
            /* 设置 .box 内的图片样式 */
            /* 绝对定位，相对于最近的非static定位父元素 */
            position: absolute;
            /* 距离父元素顶部 2 像素 */
            top: 2px;
            /* 距离父元素右侧 2 像素 */
            right: 2px;
            /* 图片宽度高度为24像素 */
            width: 24px;
            height: 24px;
        }
    </style>

</head>

<body>
    <div class="box">
        <label for="">
            <img src="images/close.png" alt="" id="">
        </label>
        <input type="password" name="" id="">
    </div>

    <script>

    </script>
</body>

</html>

然后 , 在 <script> </script> 代码块中 , 添加如下注释 ;

// 获取 DOM 元素 然后为 按钮添加点击事件 , 点击按钮后可显示密码 , 再次点击隐藏密码 , 使用 type 属性来切换密码框的类型

最后 , 输入完注释后 , 点击回车键 , 然后点击 tab 键 , 生成如下代码 :

<!DOCTYPE html>
<html lang="en">

<head>
    <meta charset="UTF-8">
    <!-- 设置 meta 视口标签 -->
    <meta name="viewport" content="width=device-width, initial-scale=1.0, user-scalable=no,maximum-scale=1.0,minimum-scale=1.0">
    <meta http-equiv="X-UA-Compatible" content="ie=edge">
    <title>JavaScript</title>
    <style>
        .box {
            /* 设置外部div的样式 */
            /* 相对定位，相对于其正常位置进行定位 */
            position: relative;
            /* 宽度为 400 像素 */
            width: 400px;
            /* 底部边框为 1 像素实线，颜色为灰色 */
            border-bottom: 1px solid #ccc;
            /* 上下间距 100 像素，左右自动居中 */
            margin: 100px auto;
        }
        
        .box input {
            /* 设置 .box 内的输入框样式 */
            /* 输入框宽度为370像素 */
            width: 370px;
            /* 输入框高度为30像素 */
            height: 30px;
            /* 去掉边框 */
            border: 0;
            /* 去掉默认的外边框样式 */
            outline: none;
        }
        
        .box img {
            /* 设置 .box 内的图片样式 */
            /* 绝对定位，相对于最近的非static定位父元素 */
            position: absolute;
            /* 距离父元素顶部 2 像素 */
            top: 2px;
            /* 距离父元素右侧 2 像素 */
            right: 2px;
            /* 图片宽度高度为24像素 */
            width: 24px;
            height: 24px;
        }
    </style>

</head>

<body>
    <div class="box">
        <label for="">
            <img src="images/close.png" alt="" id="">
        </label>
        <input type="password" name="" id="">
    </div>

    <script>
        // 获取 DOM 元素 然后为 按钮添加点击事件 , 点击按钮后可显示密码 , 再次点击隐藏密码 , 使用 type 属性来切换密码框的类型
        var input = document.querySelector('input');
        var img = document.querySelector('img');
        var flag = 0;
        img.onclick = function () {
            if (flag == 0) {
                input.type = 'text';
                img.src = 'images/open.png';
                flag = 1;

    </script>
</body>

</html>

在这里插入图片描述

然后再上述基础上 , 继续执行如下操作 :

按下 回车键 , 会自动生成后续代码的提示 , 再按下 TAB 键 , 可以将代码插入进去 ;

重复上述操作 , 直到代码生成完毕 ;

在这里插入图片描述

最终生成的代码如下 :

<!DOCTYPE html>
<html lang="en">

<head>
    <meta charset="UTF-8">
    <!-- 设置 meta 视口标签 -->
    <meta name="viewport" content="width=device-width, initial-scale=1.0, user-scalable=no,maximum-scale=1.0,minimum-scale=1.0">
    <meta http-equiv="X-UA-Compatible" content="ie=edge">
    <title>JavaScript</title>
    <style>
        .box {
            /* 设置外部div的样式 */
            /* 相对定位，相对于其正常位置进行定位 */
            position: relative;
            /* 宽度为 400 像素 */
            width: 400px;
            /* 底部边框为 1 像素实线，颜色为灰色 */
            border-bottom: 1px solid #ccc;
            /* 上下间距 100 像素，左右自动居中 */
            margin: 100px auto;
        }
        
        .box input {
            /* 设置 .box 内的输入框样式 */
            /* 输入框宽度为370像素 */
            width: 370px;
            /* 输入框高度为30像素 */
            height: 30px;
            /* 去掉边框 */
            border: 0;
            /* 去掉默认的外边框样式 */
            outline: none;
        }
        
        .box img {
            /* 设置 .box 内的图片样式 */
            /* 绝对定位，相对于最近的非static定位父元素 */
            position: absolute;
            /* 距离父元素顶部 2 像素 */
            top: 2px;
            /* 距离父元素右侧 2 像素 */
            right: 2px;
            /* 图片宽度高度为24像素 */
            width: 24px;
            height: 24px;
        }
    </style>

</head>

<body>
    <div class="box">
        <label for="">
            <img src="images/close.png" alt="" id="">
        </label>
        <input type="password" name="" id="">
    </div>

    <script>
        // 获取 DOM 元素 然后为 按钮添加点击事件 , 点击按钮后可显示密码 , 再次点击隐藏密码 , 使用 type 属性来切换密码框的类型
        var input = document.querySelector('input');
        var img = document.querySelector('img');
        var flag = 0;
        img.onclick = function() {
            if (flag == 0) {
                input.type = 'text';
                img.src = 'images/open.png';
                flag = 1;
            } else {
                input.type = 'password';
                img.src = 'images/close.png';
                flag = 0;
            }
        }
    </script>
</body>

</html>

执行效果 :

在这里插入图片描述





二、Tabby 工具



1、Tabby 工具简介


Tabby 是 开源的 基于 AI 的自托管编码助手 , 可以认为是 AI 编程客户端 ;

Tabby 工具的

  • 项目代码
  • 模型文件
  • VSCode 扩展插件

都是开源的 , 在 GitHub 上都有提供 ;


GitHub Copilot 和 CodeGeeX 等 AI 编程工具 包含 :

  • 开发环境插件 , 如 : VSCode / PyCharm 等开发环境中安装的 编程插件 ;
  • 远程大模型 : 本地插件 请求 远程服务器 中的大模型 , 进行 AI 编程 ;

Tabby 只是一个本地使用的 客户端工具 , 也就是 插件 , 没有提供远程的云服务 和 大模型 , 需要自己部署 大模型 进行使用 ;


2、Tabby 相关网站资源


Tabby 官网 : https://tabby.tabbyml.com

在这里插入图片描述

Tabby 官方文档 : https://tabby.tabbyml.com/docs/welcome/

在这里插入图片描述

Tabby 项目代码 : https://github.com/TabbyML/tabby
在这里插入图片描述

Tabby 可用模型 : https://tabby.tabbyml.com/docs/models/

在这里插入图片描述


3、Tabby 使用场景


Tabby 大模型 适用于 如下场景 :

  • 需要 AI 编程 的 开发场景 ,
  • 无法使用外部大模型应用 , 如 : GitHub Copilot , CodeGeeX ;
  • 公司 只能 使用内网环境 , 无法使用外网 ;
  • 公司代码属于机密

开发团队 在内网 部署 自己的 LLM 大型语言模型 , 程序员本地 通过部署 Tabby 使用 大模型进行 AI 编程 ;

Tabby 客户端插件 支持所有的 开源 AI 编程模型 ;


4、Tabby 部署与使用


在 WIndows 系统中部署 Tabby , 参考 https://tabby.tabbyml.com/docs/quick-start/installation/windows/ 文档 ;

到 Tabby 开源项目的 release 版本发布页面 https://github.com/TabbyML/tabby/releases 页面 , 下载对应的版本 ;

  • tabby_x86_64-windows-msvc.zip 是 集成显卡版本 ;
  • tabby_x86_64-windows-msvc-cuda117.zip 是 独立显卡版本 ;
  • 在这里插入图片描述

下载 tabby_x86_64-windows-msvc-cuda117.zip 文件 ;
在这里插入图片描述

解压文件 , 得到 tabby.exe 和 llama-server.exe 两个可执行文件 ;

在这里插入图片描述

独立显卡 的 电脑 运行

.\tabby.exe serve --model StarCoder-1B --chat-model Qwen2-1.5B-Instruct --device cuda

命令 ;

上述命令中的模型 , 可以在 https://tabby.tabbyml.com/docs/models/ 页面中查看 ;
在这里插入图片描述

运行上述命令后 , 会下载大模型数据 ;

在这里插入图片描述

下载的大模型数据会存放在 C:\Users\octop.tabby 目录中 , 其中 octop 是我的电脑的用户名 ;

在这里插入图片描述

之后可以通过 http://localhost:8080 地址访问 Tabby ;


集成显卡的电脑 , 下载 tabby_x86_64-windows-msvc.zip 程序 , 然后执行

.\tabby.exe serve --model StarCoder-1B --chat-model Qwen2-1.5B-Instruct

命令 , 注意 与 独立显卡 的 部署安装 操作进行区分 ;

韩曙亮
关注
  • 9
    点赞
  • 踩
  • 10
    收藏
    觉得还不错? 一键收藏
  • 7
    评论
专栏目录
【AI Code】CodeGeex：你的免费AI编程助手——基于清华ChatGLM的130亿参数预训练大模型
禅与计算机程序设计艺术
04-12 2万+
CodeGeeX是一个具有130亿参数的多编程语言代码生成预训练模型。CodeGeeX采用华为MindSpore框架实现，在鹏城实验室“鹏城云脑II”中的192个节点（共1536个国产昇腾910 AI处理器）上训练而成。截至2022年6月22日，CodeGeeX历时两个月在20多种编程语言的代码语料库（>8500亿Token）上预训练得到。高精度代码生成。
AI编码助手:tabby
03-07
主要语言：Python 项目分类：[AI] 项目标签：[编程助手] [编码利器] 推荐理由：一个AI编码助手，旨在帮助开发人员更高效...Tabby是一项实验性的项目，旨在探索如何将人工智能引入软件开发工作流程中，以提高开发效率。
使用Tabby搭建本地化AI编程工具
leonhongliang806的博客
04-26 761
tabby，搭建AI编程工具
AI大模型避坑（一）：Tabby如何安装在windows端成功安装，应该选择哪个版本
最新发布
weixin_45754647的博客
07-18 617
如果你有NVIDIA显卡，可以选择相应的CUDA版本或普通版本。如果你没有NVIDIA显卡或者未安装CUDA工具包，选择普通版本（tabby_x86_64-windows-msvc.zip）。如果你的显卡支持Vulkan并且你安装了Vulkan运行时，也可以选择Vulkan版本。
design\games\ vsCoder 在线IDE+本地部署 AI 编码助手Tabby 初探
u012296499的博客
06-12 3197
介绍了一种将开源的 code-server 和 AI 助手 Tabby 部署到自己服务器的方案。通过自己的服务器，可以获得更灵活、成本效益更高的解决方案。文章提及了选择该方案的原因，部署架构的步骤，以及作者的实际测试结果。最后，作者鼓励读者尝试该方案并提供了 Tabby 官方的演示环境地址。
Tabby - 基于AI大模型的编程助手
新缸中之脑
04-09 2662
Tabby是一个自托管 AI 编码助手。GitHub Copilot 的开源/本地替代方案。推荐：用快速搭建3D场景。
「多模态大模型」解读 | 突破单一文本模态局限
Baihai_IDP的博客
07-05 930
换言之，模型在训练阶段会学习如何将输入的词（或tokems）转换为向量表征（即嵌入），这一过程是通过优化模型参数完成的，在推理阶段，当新的输入序列传入模型时，模型会直接使用已学习到的参数来产生相应的嵌入向量，而不需要再经历一个单独的、显式的编码步骤。在这种情况下，模型接收到的是一幅部分信息被掩盖的图像，模型需要重建完整图像。无论处理的是文本里的字词（words）或是图像中的像素点（pixels），对输入序列进行编码的核心思想是将其转化为一系列数字，即所谓的向量嵌入（vector embeddings）。
基于GitHub代码库训练模型本地化AI代码自动补全 - Tabby Linux Debian/CentOS
07-20 3684
即对内部代码安全性要求很高时，可以采取Tabby项目模型的本地化部署，不用担心本地项目代码隐私泄露，同时有很好的享受GitHub代码库的建议。编码时调用默认tabby并提示补全时，服务器资源消耗大，可以通过top命令查看，可以考虑高性能设备或者GPU加速。输入注释或者编码时，会自动补全，即灰色斜体部分，如果接收就直接按Tab键，采纳建议，否则正常进行编码。本文选择了CPU，打开终端，在clone下来的tabby根目录下，执行下面的命令。部署完成后，如简单粗暴断开外部网络，甚至拔掉网线，依然可以使用。
基于GitHub代码库训练模型本地化AI代码自动补全 - Tabby Windows10
07-19 3448
基于GitHub代码库训练模型本地化AI代码自动补全 - Tabby Windows10
WSL2使用CUDA运行AI代码提示工具Tabby
MANX98的博客
11-27 623
在WSL2使用Widows显卡启动AI代码提示工具Tabby服务端
AI编码助手：Tabby
01-09
一个AI编码助手，旨在帮助开发人员更高效地编写代码。它可以提供代码建议、自动完成和错误检查，从而加速编码过程。Tabby是一项实验性的项目，旨在探索如何将人工智能引入软件开发工作流程中，以提高开发效率。
通过CodePilot.ai标签启动板「Tab Launchpad by CodePilot.ai」-crx插件
03-19
搜索应该更容易，我们希望Tab Launchpad可以使搜索和查找变得更容易。选项卡启动板会打开新的选项卡，以帮助您快速有效地查看结果 0.2更新-现在支持联合搜索！一个用于搜索多个搜索引擎的输入框 0.3更新-通过从2个...
Tab Launchpad by CodePilot.ai-crx插件
04-04
搜索应该更容易，我们希望Tab Launchpad可以使搜索和查找变得更容易。 选项卡启动板会打开新的选项卡，以帮助您快速有效地查看结果。 0.2更新-现在支持联合搜索！ 一个用于搜索多个搜索引擎的输入框。 0.3更新-通过...
开启深度学习之路-开篇
01-20
学习人工智能通常可以从基础的编程语言开始，如Python，因为它是AI领域最常用的语言。然而，真正理解AI的核心在于机器学习和深度学习。对于初学者，书籍往往比视频更适合系统学习，因为书籍能提供更为连贯和深入的...
Control by voice . EXO-crx插件
04-04
Chrome浏览器提供了丰富的API供扩展程序使用，例如Tab API可以控制标签页，Browser Action API可以响应浏览器工具栏上的按钮点击，还有WebRequest API可以监听和修改网络请求等。这些API允许开发者创建出高度定制化...
Oracle P/L SQL实现发送Email、浏览网页等网络操作功能
02-14
Oracle P/L SQL实现发送Email、浏览网页等网络操作功能 Oracle P/L SQL实现发送Email、浏览网页等网络操作功能，以下是此过程包的头部，包体经常打包处理plb，感兴趣用户可以下载下来。 --.使用聚合函数实现 多行...
jfinalpluginsjfinal-dreampie.zip
07-17
7.Flyway 数据库自动脚本升级 Plugin，用于自动生成或升级数据库，避免不断使用数据库工具修改数据导致的版本问题 public class FlywayPlugin implements IPlugin { } 8.lesscss compiler plugin，编译...
vim插件打包
01-13
set expandtab &quot;以下三个配置配合使用，设置tab和缩进空格数 set shiftwidth=4 set tabstop=4 &quot;set cursorline &quot;为光标所在行加下划线 set number &quot;显示行号 set autoread &quot;文件在Vim之外修改过，自动重新读入 set...
import rlcompleter import readline readline.parse_and_bind(&quot;tab: complete&quot;)
04-04
I'm sorry, as an AI language model, I cannot execute this code as it is designed to be executed in a Python environment. However, this code seems to enable tab completion in the Python interpreter using the `readline` module. It binds the tab key to the `complete` function provided by the `rlcompleter` module, which allows for autocompletion of Python code.
评论 7
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值