零基础入门AI：四步快速搭建本地的编程助手

最新推荐文章于 2024-07-18 18:33:02 发布
最新推荐文章于 2024-07-18 18:33:02 发布
阅读量1.2k 收藏 10
点赞数 13
文章标签： 人工智能 自然语言处理 大语言模型 ai大模型 HuggingFace 本地部署 0基础入门ai
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zhishi0000/article/details/139827335
版权

由于种种原因，小伙伴们在写代码时，不一定能用上Github Copilot；或者由于代码安全的原因，不能使用外网的编程助手。今天我就介绍一种利用开源大语言模型在本地搭建编程助手的方案：

  • IDE插件：Continue
  • 本地开源大语言模型框架：Ollama
  • 本地开源大语言模型（推荐 Code Llama）

该方案适用于 VS Code 和 PyCharm，搭建的步骤类似，如下步骤中以VS Code为例说明。

Step 1: 安装 Continue 插件

在VS Code 和 PyCharm的插件市场中搜索并安装 Continue 插件，以VS Code为例，安装步骤截图如下： 1.png 安装完成后，默认会有一些在线的大语言模型供试用（需要联网）。 2.png

更多关于Continue插件的细节，可以参考Continue插件的官网：Continue官网

Continue插件支持GPT-4 / Claude-2 等收费大语言模型，只需要将自己的 api key 更新到配置文件中的 apiKey 即可，以下步骤将介绍如何使用 Continue 插件调用本地开源大语言模型。

Step 2: 安装本地开源大语言模型框架 Ollama

Ollama 是一个可以在本地部署和管理开源大语言模型的框架，由于它极大的简化了开源大语言模型的安装和配置细节，一经推出就广受好评，目前已在github上获得了46k star。

Step 3: 下载代码大语言模型 Code Llama

安装Ollama后，即可一键安装开源大语言模型。Ollama支持大部分主流的开源大语言模型，但是在编程助手的使用场景下，我更推荐Meta发布的 CodeLlama，包含 7b / 13b / 34b / 70b 四种参数规模，小伙伴们可以根据本地GPU的性能，下载合适的Code Llama版本

参数版本链接命令
7 billionViewollama run codellama:7b
13 billionViewollama run codellama:13b
34 billionViewollama run codellama:34b
70 billionViewollama run codellama:70b

PS: Code Llama除了有不同的参数版本，根据微调语料的不同类型，还有基础、Python、instruct三种类型的微调版本，其中instruct是经过自然语言指令微调的，更适合本文的使用场景，所以推荐使用 instruct 版本，以上表格中的命令默认下载的就是instruct版本。

Step 4: 配置 Continue + Ollama

Ollama服务运行后，默认的API接口地址是localhost:11434，能够为本机提供服务。

也可以在Ollama中配置环境变量 OLLAMA_HOST=0.0.0.0:11434 来对局域网提供服务，API接口地址就是:11434。（

将大语言模型的信息和API接口地址添加到 Continue 的配置文件中，举例如下：

json复制代码"models": [
    {
      "title": "codellama:7b",
      "provider": "ollama",
      "model": "codellama:7b",
      "api_base": "localhost:11434"
    }

修改完配置文件后，在 IDE 的 Continue 插件界面选择本地大模型，就可以愉快的使用本地大模型玩耍了：

3.png

至此，Continue插件就可以和本地大语言模型联动，调用本地的大语言模型来辅助编程，实现本地的编程助手。

Bingo! 运行 Continue + Ollama

如下图中的例子，我让大模型帮忙写一下python的函数，用于判断输入的数字是不是质数： 4.png

添加常用的快捷指令 (可选)

阅读 Continue 插件的配置文件，会发现其中已经内置了一些快捷指令，其实就是将一段提示词简化为一个命令，比如:

  • comment: 为选中的代码添加注释，对应的提示词是 Write comments for the highlighted code
  • edit: 编辑选中的代码，对应的提示词是 Edit highlighted code

参照这些示例，我们也可以添加自己常用的快捷指令，比如我添加了一个代码评审的快捷指令 review，具体配置如下：

json复制代码"custom_commands": [
    {
      "name": "review",
      "prompt": "Act as a comprehensive code review assistant to help me analyze and improve the selected code",
      "description": "Code review for highlighted code"
    }
  ]

PS:

  • 实际使用时，可以用大语言模型来辅助生成代码、改BUG、添加注释、解释代码等等。
  • 以上例子中，我仅以最小规模的7B版本为例，本地GPU性能更强的话，可以尝试更大参数规模的版本，使用效果会更好一些。
  • 本文推荐的代码大语言模型 Code Llama 的训练语料中，中文语料所占的比例较少，所以使用英文提问的效果会更好一些。
  • Ollama同样也支持一些中文的开源模型，比如qwen 、Yi等等，这些大模型对中文的支持就会更好一些，可以参照文中的方法安装使用。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么？
  • 大模型是怎样获得「智能」的？
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例：向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示（Embeddings）
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
  • …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2：手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身：基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例：如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
python_知世
关注
  • 13
    点赞
  • 踩
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
使用Ollama和Continue打造开源AI代码助手
步子哥的博客
07-11 1530
Ollama是一个强大的工具,允许用户在本地设备上运行各种大型语言模型(LLMs)。它支持多种模型,包括Llama、GPT-J等,使得在个人电脑上使用先进的AI模型成为可能。通过结合Ollama和Continue,我们可以在自己的编辑器中构建一个强大、灵活且完全开源的AI代码助手。从代码补全到智能对话,从本地运行到自定义微调,这个方案为开发者提供了前所未有的AI辅助编程体验。随着开源AI技术的不断进步,我们相信这样的本地AI代码助手将成为每个开发者工具箱中不可或缺的一部分。
一款VS Code 和 JetBrains 的AI编码插件
weixin_42684490的博客
03-03 2053
Continue是一个基于 概率逻辑运算（LLM）的VS Code和JetBrains的开源智能编码插件。
探秘Continue：一款强大的持续集成工具
gitblog_00080的博客
03-21 861
探秘Continue：一款强大的持续集成工具 continue⏩ Continue is an open-source autopilot for VS Code and JetBrains—the easiest way to code with any LLM项目地址:https://gitcode.com/gh_mirrors/co/continue 在软件开发中，持续集成（Continu...
windows部署ollama+maxkb+vscode插件continue打造本地AI
omnibots的博客
05-28 1941
我采用docker运行maxkb，本地运行ollama形式。可能是windows N卡的驱动优化比较好，这样子使用好像更流畅。我的机器是内存32G，显卡4060 8G，实测跑10G左右的模型可以流畅，16G的模型一分钟就蹦出几个字。
12k Star！Continue：Github Copilot 开源本地版、开发效率和隐私保护兼得、丰富功能、LLM全覆盖！
lythinking的博客
05-31 1369
您还知道该问题与文件“readme.md”和“helloNested.py”有关，因此您键入“@readme”和“@hello”来查找并选择它们。您输入“@issue”并选择您正在处理的问题。每个上下文提供程序都是一个插件，这意味着如果您想引用此处未看到的某些信息源，您可以请求（或构建！等，插件可在Vscode、JetBrains中直接下载，立即体验无缝且安全的本地开发环境，让你的开发效率和隐私保护兼得！上下文提供程序允许您键入“@”并查看内容的下拉列表，这些内容都可以作为上下文提供给 LLM。
免费打造个人专属的高颜值本地大模型AI助手，无限量使用 Ollama+LobeChat开源工具，在本地运行AI大模型，安全的和AI对话。
tigerhhzz的博客
04-16 4188
Lobe Chat：现代化设计的开源 ChatGPT/LLMs 聊天应用与开发框架，支持语音合成、多模态、可扩展的（function call）插件系统，一键免费拥有你自己的 ChatGPT/Gemini/Claude/Ollama 应用。如果是跑4b，7b等小模型，普通电脑就可以了，如果要跑32b比较大的，最好是有GPU，还要显存比较大。硬盘没啥要求，比如4b的模型，才2.3GB而已，30b的也就30GB左右，完全不用担心磁盘.70b模型:64GB内存，32也能跑，太卡。13b模型: 32GB内存。
首个适配Visual Studio平台的国产智能编程助手CodeGeeX正式上线！C#程序员必备效率神器！
马沛专栏
04-03 1280
侧边栏也可以通过拖拽的方式变宽，或是同其他visual窗口一样进行停靠、锚定，或放在您更习惯的左侧或右侧位置，确保在 Visual Studio 上编程的丝滑体验。手动为代码添加注释，需要投入大量的时间和精力。编程过程中，需要解释大段的代码块才便于后续的处理，那你只需要选中代码块，这时这段代码会自动出现在侧边栏，您只需要询问 CodeGeeX，让它解释这段代码即可。与此同时，CodeGeeX已经在根据您项目中代码的上下文，提供给光标当前位置合适的代码建议、变量名称等，并以灰色的内容提示，显示在光标后。
普通电脑也能跑大模型，三步搞定私人AI助手 | LLaMA-3本地部署小白攻略
最新发布
07-18 976
“在你的电脑上运行一个强大的AI助手，它不仅能力超群，还把所有秘密都藏在你的硬盘里。好奇这是如何实现的吗？动动手，三分钟就可以完成LLaMA-3的本地部署！”01—LLaMA-3‍‍‍‍最近在试验检索增强生成（RAG）的项目，想试试换一个强点的模型试试看效果是否有改观，动手试了一下本地搭建一个私有大模型作为基模型，这次试试LLama3，下次搭阿里通义千问的Qwen2模型。早在4月份，Meta开源...
只需 6 行代码，打造个人 AI 编程助手
DO_Community的博客
05-09 1462
在 Paperspace Gradient 上使用像 Code Llama 这样的人工智能助手探索编程的未来，改变开发者创建、调试和部署软件的方式。
9个神奇免费AI编程助手，实现高效自动代码生成！
阿福聊编程
03-12 7451
是阿里巴巴团队推出的一款基于通义大模型的智能编程辅助工具，提供行级/函数级实时续写、自然语言生成代码、单元测试生成、代码注释生成、代码解释、研发智能问答、异常报错排查等能力，并针对阿里云 SDK/API 的使用场景调优，为开发者带来高效、流畅的编码体验。CodeWhisperer 支持 15 种编程语言，包括 Java、Python、JavaScript、TypeScript、C#、Go、PHP、Rust、Kotlin、SQL、Ruby、C++、C、Shell、Scala。
Python零基础快速入门
06-14
? ? ??课程设计通俗易懂，即使您从未有过编程经验，也可以加入学习！ 课程的开始由简单的样例入手，... 本课程是您进入Web编程、爬虫编写、系统运维、机器学习、人工智能和数据分析等领域前的一个Python入门级课程！
python零基础入门-Crossin的编程教室
07-23
### Python零基础入门知识点概述 #### 一、Python为何适合编程入门 - **原因解析**： - **简单性**：Python语法简洁明了，学习曲线平缓，非常适合编程新手快速上手。 - **应用广泛**：无论是Web开发、数据分析、...
Python基础入门：从零开始的Python编程
同时，Python在Web开发、数据分析、人工智能、机器学习等领域都有广泛的应用，学习Python将为你打开更多的职业发展机会。 ```python # 示例代码 print("Hello, Python!") ``` **总结：** Python简洁易读，应用广泛...
Python基础入门：从零开始掌握Python编程
# 1. 引言 ## 1.1 为什么学习Python编程 Python作为一种简单易学的编程语言，越来越受到广大...- Python在人工智能、数据科学等领域有着广泛的应用，学习Python可以为未来的职业发展打下坚实的基础。 ## 1.2 Py
Python基础入门：从零开始搭建博客系统
Python基础介绍 ## 1.1 Python简介 Python是一种高级编程语言，由Guido van Rossum于1989年开发，并在1991年发布，以其简洁、易读和拥有大量开发库而闻名。Python的设计目标是提供一种简单而易于理解的语法，使...
本地离线部署Ai大模型的三种方案，含安装教程！
专注于分享人工智能精品资源：Ai副业项目、Ai效率神器！
05-26 4442
在GPU下运行：docker run -d -p 3000:8080 --gpus=all -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama。：虽然初期的硬件投资较高，但长期使用本地部署可能比持续支付云服务的使用费用更为经济，特别是在处理大量数据或频繁使用时。本地处理可以避免这些问题，提高处理效率。
本地部署 CodeLlama 并在 VSCode 中使用 CodeLlama
热门推荐
engchina的专栏
08-27 1万+
本地部署 CodeLlama 并在 VSCode 中使用 CodeLlama
continue插件二次开发调试并打包
qq_43614355的博客
05-23 489
期间可能会因为网络原因安装依赖报错，需要多试几次。下载后直接双击运行即可。
AIGC零基础入门小白
06-05
AIGC是人工智能领域的在线学习平台，提供了丰富的课程和实践项目，适合各种不同背景和技能水平的学习者，包括零基础的小白。如果你是零基础入门小白，可以从以下几个方面着手学习： 1. 学习Python编程语言，Python是人工智能领域最流行的编程语言之一，也是AIGC课程的主要编程语言。你可以从基础语法、数据类型、流程控制等方面开始学习。 2. 学习机器学习基础知识，包括监督学习、无监督学习、深度学习等，可以通过AIGC的课程和实践项目来学习和实践。 3. 学习常用的机器学习框架和工具，例如TensorFlow、Keras、PyTorch等，这些工具可以帮助你更高效地进行机器学习任务。 4. 实践项目，通过参与实践项目来巩固所学知识和提高实际操作能力。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值