自建AI编程助手 | 本地 Yi-Coder模型 + Cursor 5分钟写一个网页

最新推荐文章于 2024-10-12 14:54:57 发布

小天才学习机打游戏

最新推荐文章于 2024-10-12 14:54:57 发布

阅读量1.1k

点赞数 17

文章标签： AI编程金融人工智能深度学习 prompt 架构

本文链接：https://blog.csdn.net/m0_59164520/article/details/142342438

版权

Yi-Coder[1] 是一个开源的高性能代码语言大模型，为实现高效编程设计。它支持 52 种编程语言，擅长处理需要长上下文理解的任务，例如项目级代码理解和生成。该模型有两种大小（15亿和 90亿参数），并且提供基础版和聊天版。

本教程中，你将学习如何

使用与 OpenAI 兼容的 API 在本地运行 Yi-coder 模型
使用 Yi-coder 驱动 Cursor

Cursor 是最热门的 AI 代码编辑器之一。它可以用专门为编码任务训练的 LLM（如 Yi coder）来完成编码辅助任务。你可以将 Yi-coder-9B 配置为 Cursor 的私有 LLM 后端。

用与 OpenAI 兼容的 API 在本地运行 Yi-coder 模型

要获取 Cursor 所需的本地 Yi-coder-9B 的公共 HTTPs endpoint，请按照以下说明操作。

安装开源 Gaia 节点——一组轻量且可移植的 LLM 推理工具。

Gaia’s tech stack is built on top of WasmEdge[2], a WebAssembly-based runtime optimized for serverless computing and edge applications. This setup allows for efficient deployment of Yi-Coder in different environments, providing flexibility and scalability.

curl -sSfL 'https://github.com/GaiaNet-AI/gaianet-node/releases/latest/download/install.sh' | bash

然后，使用以下命令行下载并初始化模型。

gaianet init --config https://raw.githubusercontent.com/GaiaNet-AI/node-configs/main/yi-coder-9b-chat/config.json

最后，使用 gaianet start 来运行节点。

gaianet start

然后你会得到一个 HTTPS URL，像这样 https://NODE-ID.us.gaianet.network.

同时，您可以打开浏览器为 `http://localhost:8080` 来问有关编程的问题。

我们以 8k 上下文窗口启动了 Yi Coder 9b 模型。如果你的机器有较大的 GPU RAM（例如 24GB），则可以将上下文大小一直增加到 128k。较大的上下文大小在编码中特别有用，因为我们可能需要将大量源代码文件塞入 LLM 提示中才能完成复杂的任务。

将 Yi-coder-9B 集成到 Cursor

接下来，让我们使用在我们自己的机器上运行的 Yi-Coder-9B 配置 Cursor。

只需使用你的 Gaia 节点 URL 覆盖 Cursor 的默认 OpenAI URL，修复模型名称和“API 密钥”，就可以开始工作了！请参阅此处[3]的详细说明。

现在，让我们测试 Yi-coder-9b 来编写一个简单的搜索页面。

我提示模型生成了一个简单的搜索页面。

然后，我要求 Yi-coder-9b 修改按钮上的文字标签。Yi-coder-9b LLM LLM 解释了搜索按钮的工作原理。

网页如预期运行！

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述