第一章 Ollama安装

本文介绍了OLLAMA命令行工具的使用方法,包括安装不同模型如Gemma和Qwen(后者以通义千问为例),强调了Qwen0.5b版本资源少但结果可能不准确,而72b版本资源庞大。OLLAMA支持创建、拉取、删除和管理模型,以及提供详细的命令列表。
摘要由CSDN通过智能技术生成

访问官网:https://ollama.com

对应进行安装

所有模型:

https://ollama.com/library

其中gemma就是谷歌Meta近期新发布的模型

llama2模型基本不支持中文语言,gemma模型对中文支持比较友好

支持国产我选的是 qwen 通义千问-阿里的大模型

直接 ollma run qwen:0.5b 就可以

通义千问的0.5b版本的模型只有395M,运行资源少,结果不准确

而72b版本的模型有41G,

初期ollama,后期云平台

OLLAMA命令

#创建一个模型
ollama create example -f Modelfile

#拉取一个模型
ollama pull llama2
该命令还可以用于更新本地模型。只有diff会被拉动。

#删除模型
ollama rm llama2

# 复制模型
ollama cp llama2 my-llama2

#除了上述命令之外,Ollama CLI还提供了其他各种命令。执行 ollama --help 命令可以查看完整的命令列表:
ollama --help

  serve       Start ollama
  create      Create a model from a Modelfile
  show        Show information for a model
  run         Run a model
  pull        Pull a model from a registry
  push        Push a model to a registry
  list        List models
  cp          Copy a model
  rm          Remove a model
  help        Help about any command

  • 7
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
安装 CentOS 上的 Ollama 可以分为以下几个步骤: 1. 下载 CentOS 的 ISO 镜像文件。 2. 创建一个可引导的安装介质,例如制作启动盘或者使用虚拟机。 3. 在启动介质上选择安装 CentOS,并按照向导进行操作。 4. 在安装 CentOS 后,使用 root 用户登录系统。 5. 安装 Ollama 所需的依赖库和工具,例如 Git、Python 等。 6. 下载 Ollama 源码并进行编译和安装。 7. 配置 Ollama 的运行环境和参数。 下面是一个比较详细的安装步骤说明: 1. 下载 CentOS 的 ISO 镜像文件 可以在 CentOS 官方网站上下载最新版本的 ISO 镜像文件,链接如下:https://www.centos.org/download/ 选择合适的版本、镜像类型和下载方式进行下载。 2. 创建一个可引导的安装介质 使用制作启动盘或者使用虚拟机的方式创建一个可引导的安装介质,并将下载好的 CentOS ISO 镜像文件挂载到介质上。 3. 安装 CentOS 在启动介质上选择安装 CentOS,并按照向导进行操作。注意在安装时需要选择合适的分区和网络设置,建议在安装时选择开启 SSH 服务。 4. 使用 root 用户登录系统 安装完成后,使用 root 用户登录系统。 5. 安装 Ollama 所需的依赖库和工具 在 root 用户下执行以下命令,安装 Ollama 所需的依赖库和工具: ``` yum install git python3 python3-pip gcc-c++ make cmake openssl-devel -y ``` 6. 下载 Ollama 源码并进行编译和安装 在 root 用户下执行以下命令,下载 Ollama 源码并进行编译和安装: ``` git clone https://github.com/masquerade817/ollama.git cd ollama mkdir build && cd build cmake .. make -j4 make install ``` 7. 配置 Ollama 的运行环境和参数 在安装完成后,可以在 /etc/ollama/ 目录下找到配置文件,例如 ollama.conf。可以根据需要进行修改配置文件,例如修改监听端口、调整日志级别等。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

明爷们儿

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值