本地大模型1：安装部署本地Ollama大模型

推荐1：文章来自B站【云城叨叨】的视频的总结，想要获得更全面的内容请前往：【2024年7月最新视频，从无到有，教你本地部署Chat GPT大语言模型】 https://www.bilibili.com/video/BV11ZbBeUEEo/?share_source=copy_web

视频重要点截图

推荐2：Ollama全面指南：安装、使用与高级定制_ollama安装-CSDN博客

目录

一、安装Ollama大模型启动器

1.浏览器打开Ollama，点击Download

2.选择对应系统的版本，点击Download for ...下载

3.下载后双击进入，点击install安装，等待安装完成

4.安装完成后Win+R，输入cmd进入，输入ollama并回车，显示如下页面则ollama安装成功

二、安装大模型

1.修改环境变量，安装大模型到D盘（默认是C盘）。Win+i进入设置，搜索【查看高级系统设置】，进入【环境变量】

2.进入Path，配置Ollama安装位置的环境变量，配置完后点击确定

 3.新建变量名OLLAMA_MODELS（图片错了），设置路径，三连【确定】。注意：一定要重启Ollama！！！否则依然会安装到C盘，步骤在图片后

4.点击进入Models，选择需要的大模型，这里以llama3.1为例，点击进入

5.初学者以8b（8亿训练参数）为例，下拉点击选择8b（选择后复制内容会变化），点击复制

6.在cmd粘贴并回车，等待下载

7.错误：如果出现下面的错误，可以试试粘贴回车重试几遍，或者再重启ollama，还不行试试再搭个梯子，最后依然不行就去搜一下试试别的方法？

---

一、安装Ollama大模型启动器

1.浏览器打开Ollama，点击Download

2.选择对应系统的版本，点击Download for ...下载

3.下载后双击进入，点击install安装，等待安装完成

  

4.安装完成后Win+R，输入cmd进入，输入ollama并回车，显示如下页面则ollama安装成功

二、安装大模型

1.修改环境变量，安装大模型到D盘（默认是C盘）。Win+i进入设置，搜索【查看高级系统设置】，进入【环境变量】

2.进入Path，配置Ollama安装位置的环境变量，配置完后点击确定

 3.新建变量名OLLAMA_MODELS（图片错了），设置路径，三连【确定】。注意：一定要重启Ollama！！！否则依然会安装到C盘，步骤在图片后

重启：在右下角找到羊驼图标，右键或者单机，在弹出的下拉框选择【Quit Ollama】，然后Win+R打开cmd，输入ollama回车即可。等以后下载了大模型后，直接【ollama run 模型名字】即可打开模型。

 

4.点击进入Models，选择需要的大模型，这里以llama3.1为例，点击进入

5.初学者以8b（8亿训练参数）为例，下拉点击选择8b（选择后复制内容会变化），点击复制

6.在cmd粘贴并回车，等待下载

下载成功并测试对话

7.错误：如果出现下面的错误，可以试试粘贴回车重试几遍，或者再重启ollama，还不行试试再搭个梯子，最后依然不行就去搜一下试试别的方法？

三、用java连接ollama

点击前往推荐文章

四、用python连接ollama

点击前往我的文章