Continue-AI编程助手本地部署llama3.1+deepseek-coder-v2

云樱梦海

已于 2024-08-04 15:48:47 修改

阅读量1.2k

点赞数 23

文章标签： AI编程助手 Continue llama3.1 deepseek-coder

于 2024-08-04 15:44:57 首次发布

本文链接：https://blog.csdn.net/GHY2016/article/details/140906775

版权

领先的开源人工智能代码助手。您可以连接任何模型和任何上下文，以在 IDE 内构建自定义自动完成和聊天体验话不多说，直接开整！

Ollama 本地安装模型：

官网下载安装： https://ollama.com/download

以Windows11为例：

模型默认存储路径：C:\Users\你的用户名\.ollama\models\blobs

模型离线下载：https://pan.quark.cn/s/dbc3fdeffc68

由于文件较大，网络不好的可以先现在解压到本地

打开cmd命令行运行：

ollama run deepseek-coder-v2:16b

ollama run llama3.1:8b

ollama pull nomic-embed-text:latest

VScode搜索：Continue

打开配置文件：

配置文件示例：

  "models": [
    {
      "title": "Ollama",
      "provider": "ollama",
      "model": "llama3.1:8b"
    }
  ],
  "tabAutocompleteModel": {
    "title": "deepseek-coder-v2:16b",
    "provider": "ollama",
    "model": "deepseek-coder-v2:16b"
  },
  "embeddingsProvider": {
    "provider": "ollama",
    "model": "nomic-embed-text"
  },