Ollama for windows OR macos

已于 2024-07-26 15:40:57 修改
阅读量3.7k 收藏 1
点赞数 3
分类专栏： AI 文章标签： Ai
于 2024-07-26 15:39:54 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/lry421308/article/details/140716672
版权

Ollama

Ollama一个开源的AI工具，包含大量的模型

下载

地址www.ollama.com
在这里插入图片描述

开始使用

运行下载好的ollma，这是很多人便会觉得不适：因为ollama是没有默认的图形化界面的，那我们去哪里下载我们要用的模型呢？这里以windows为例：

1、双击运行安装

在这里插入图片描述

2、安装完后，打开终端，输入：ollama -v OR ollama --version，如果显示

在这里插入图片描述
就说明安装成功了

3、打开官网ollama.com,点击右上角Models

在这里插入图片描述
点击你想使用的模型

4、选择规格

一般的模型有7/8B，70B，200即更高B三种选项。一般的电脑选7/8B，性能好的游戏本可以选择70B挑战一下（但会比较卡），非企业用户不要选择200B即更高（应为你会发现即使运行一个世纪也跑不出来）

5、下载模型

这里我选择llama3.1 8B，选择好，复制型号代码
在这里插入图片描述
打开终端，将代码粘贴进去，运行
在这里插入图片描述
这时他就开始下载了
在这里插入图片描述
等待他下载完，每次使用时，将官网的那串代码复制到终端里运行就可以和它对话了

Ollama 在本地快速启动并执行LLM【大语言模型】
penriver的博客
03-19 2545
Ollama 让你快速的在本地部署、启动并执行大语言模型 Ollama makes it easy to get up and running with large language models locally. Get up and running with Llama 2, Mistral, Gemma, and other large language models.
ollama教程——Ollama Tools功能详解实现复杂任务的完整教程
walkskyer的博客
08-19 1683
Ollama是一个开源框架，专门设计用于在本地运行大型语言模型。它通过将模型权重、配置和数据捆绑到一个包中，从而优化了设置和配置细节，包括GPU使用情况，这大大简化了在本地运行大型模型的过程。Ollama支持macOS和Linux操作系统，并且已经为Windows平台发布了预览版。Ollama的一个重要优势是其易用性。安装过程非常简单，例如在macOS上，用户可以直接从官网下载安装包并运行。而对于Windows用户，官方推荐在WSL 2中以Linux方式使用命令安装。
AI大模型企业应用实战：Prompt让LLM理解知识
2401_84204413的博客
06-25 2579
• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；
Ollama：零代码部署大模型，轻松玩转AI
会编程的吕洞宾的博客
02-22 3537
同局域网访问，检验是否可以，在另一台电脑浏览器中访问http://192.168.1.72:11434/，地址根据自己服务器地址更换。也可以在浏览器中输入如下地址http://127.0.0.1:11434/访问，出现如下内容说明安装成功。在[Service]标记下，添加如下内容，如下图所示（如果实在不理解什么涵义，直接添加下面内容就可以）重启ollama工具，在任务中找到ollama图标，然后右击鼠标右键，点击Quit Ollama。如果需要每次系统重启，ollama随机启动运行，在执行如下命令。
Windows下载安装Ollama本地运行大模型，新手详细
changyana的博客
11-07 2万+
下载安装Ollama并运行大模型教程，进行系统环境变量配置，新手详细。
ollama教程（window系统）
老王的博客
01-12 1万+
介绍在window操作系统下安装和使用ollama。
2024 Ollama 一站式解决在Windows系统安装、使用、定制服务与实战案例
风吹落叶的博客
08-28 4899
各位未来的开发者们请上座，下面教程走完大致需要40分钟就可以让掌握大模型本地化部署与使用。Ollama是一个专为在本地环境中运行和定制大型语言模型而设计的工具。它提供了一个简单而高效的接口，用于创建、运行和管理这些模型，同时还提供了一个丰富的预构建模型库，可以轻松集成到各种应用程序中。Ollama的目标是使大型语言模型的部署和交互变得简单，无论是对于开发者还是对于终端用户。
Ollama入门（windows版本）
qq_40600379的博客
03-25 5031
通过简单的安装指令，可以让用户执行一条命令就在本地运行开源大型语言模型，如gemma。
在 Windows 上使用 Ollama 配置本地及外网访问
weixin_45131680的博客
05-07 8128
Ollama 是一款开创性的人工智能（AI）和机器学习（ML）工具平台，它极大地简化了 AI 模型的开发和使用过程。它不仅提供了一系列工具，更重要的是，这些工具使用起来非常直观且高效，不管你是 AI 领域的专业人士还是初涉此道的新手，都能在 Ollama 上找到对应的支持。不止于方便使用，Ollama 还让先进的 AI 模型和计算资源的获取不再局限于少数人。对于 AI 和 ML 社区而言，Ollama 的诞生具有里程碑意义，它推动了 AI 技术的普及，让更多的人能够去尝试和实践自己的 AI 创意。
window上安装ollama
JoyceLiu_Ronghua的博客
07-02 1889
Ollama是一个开源项目，旨在提供一个简单、高效的方式来运行大型语言模型（LLMs）。开源：Ollama是完全开源的，这意味着任何人都可以查看、修改和使用其代码。本地运行：Ollama允许用户在自己的硬件上运行大型语言模型，而不需要依赖云服务。多种模型支持：Ollama支持多种预训练的大型语言模型，如GPT、BERT等。易于使用：Ollama提供了简单的命令行界面和API，使得部署和使用模型变得容易。自定义模型：用户可以根据自己的需求训练和微调模型，然后通过Ollama进行部署。高性能。
什么是 Ollama？如何安装运行？一文讲清
2301_82000445的博客
08-10 1万+
Ollama 是一个可以在本地部署和管理开源大语言模型的框架，由于它极大的简化了开源大语言模型的安装和配置细节，一经推出就广受好评，目前已在github上获得了46k star。不管是著名的羊驼系列，还是最新的AI新贵Mistral，等等各种开源大语言模型，都可以用Ollama实现一键安装并运行，支持的更多模型的列表可以查看Ollama官网。本文就让我们一起入门Ollama。
ollama教程——使用Ollama与LangChain实现Function Calling(函数调用)的详细教程（二）【附完整源码】
walkskyer的博客
07-15 2166
Ollama 是一个开源框架，专门设计用于在本地运行大型语言模型。它的主要特点是将模型权重、配置和数据捆绑到一个包中，从而优化了设置和配置细节，包括 GPU 使用情况，简化了在本地运行大型模型的过程。Ollama 支持 macOS 和 Linux 操作系统，并且已经为 Windows 平台发布了预览版。Ollama 的一个重要优势是其易用性。安装过程简单，例如在 macOS 上，用户可以直接从官网下载安装包并运行。对于 Windows 用户，官方推荐在 WSL 2 中以 Linux 方式使用命令安装。
使用Windows安装Ollama大语言模型
Jerryqjr的博客
07-18 483
本文主要介绍如何在Windows系统快速部署Ollama开源大语言模型运行工具，并安装Open WebUI结合cpolar内网穿透软件，实现在公网环境也能访问你在本地内网搭建的大语言模型运行环境。近些年来随着ChatGPT的兴起，大语言模型 LLM（Large Language Model）也成为了人工智能AI领域的热门话题，很多大厂也都推出了自己的大语言模型，并或多或少的开源了自己的大语言模型，今天就来分享一个最近很火，且对于小白来说比较好上手本地部署的运行本地LLM的工具Ollama。
ollama在windows系统上安装总结以及注意事项
热门推荐
scj0725的博客
04-22 4万+
注意：您应该至少有 8 GB 可用 RAM 来运行 7B 型号，16 GB 来运行 13B 型号，32 GB 来运行 33B 型号。在系统变量中添加一个名为：OLLAMA_MODELS的变量名，路径选择一个合适的位置。然后拉去这个大模型的话，直接复制右边的命令：ollama run llama3。安装模型默认都是安装在c盘的，如果c盘空间不足可以指定安装模型位置。直接点击下载，会根据你的系统自动下载相应的版本。一定要注意，自己的电脑配置是否适合模型的大小。下载完之后，直接点击安装，默认安装到c盘。
Windows安装与配置Ollama
weixin_40280870的博客
01-21 2万+
Windows安装与配置Ollama
亲测在Windows系统安装、使用、定制Ollama服务
终极量化数据的专栏
11-08 2098
Ollama是一个专为在本地环境中运行和定制大型语言模型而设计的工具。它提供了一个简单而高效的接口，用于创建、运行和管理这些模型，同时还提供了一个丰富的预构建模型库，可以轻松集成到各种应用程序中。Ollama的目标是使大型语言模型的部署和交互变得简单，无论是对于开发者还是对于终端用户。
ollama 部署教程（window、linux）
cnzzs的博客
10-23 9243
目录一、官网二、安装方式一：window10版本下载三、安装方式二：linux版本docker四、 模型库五、运行模型六、API服务七、python调用ollama库调用langchain调用requests调用aiohttp调用八、模型添加方式1.线上pull2.导入 GGUF 模型文件3.导入 safetensors...
Windows下最详尽的Ollama+Deepseek-r1 本地部署手册
huang9604的博客
02-05 2万+
Windows下最详尽的Ollama+Deepseek-r1 本地部署手册
在 Windows 环境下安装 Ollama 及 Ollama使用技巧
最新发布
fx_yzjy101的专栏
02-25 2065
Ollama 是一款支持本地部署和运行大型语言模型（LLM）的开源工具，提供简洁的命令行操作和丰富的模型库。以下是详细安装步骤与实用技巧，助你快速上手。推荐这种安装方法，释放系统盘空间。如果已经安装到系统盘了，用这个方法也可以释放系统盘的空间（将近4.7GB）。点击“Install”按钮，开始安装。
ollama gui
01-29
After extracting files into a preferred directory, launching `ollama.exe` (Windows) or running `./ollama` (Linux/MacOS) should start up the program successfully[^2]. ```bash # Example command line ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值