“揭秘：为什么羊驼Ollama成为计算机运行大型语言模型的最佳拍档？“

最近，AIM 评测了在计算机上本地运行大语言模型（LLM）的最佳工具，Ollama 脱颖而出，成为最高效的解决方案，提供了无与伦比的灵活性。Ollama 是 Jeffrey Morgan 开发的一款开源工具，它正在彻底改变爱好者在本地终端上运行大语言模型的方式。

Ollama 具有友好的用户界面，并与 LLaMA 2 和 Mistral 等流行模型兼容，希望安全、经济、高效地进行大语言模型实验的用户可以轻松考虑使用 Ollama。它能让用户利用先进人工智能模型的力量，而无需依赖云服务或昂贵的硬件。

AIM 通过在 Linux (Pop！_OS)、macOS 和 Windows 等多个操作系统上运行多个大语言模型对 Ollama 进行了测试，以便让读者全面了解这款实用工具。

Ollama：在本地快速运行大语言模型的工具

奥拉马运行猎鹰 2 号

虽然它是在终端上本地运行大语言模型的最快解决方案，但如果你不习惯这样做，也可以使用图形用户界面，但它需要一些额外的步骤（大多数基本用户都希望避免这些步骤）。

Ollama 可以直接从其库中获取大量大语言模型，只需执行一条命令即可下载。下载完成后，只需执行一条命令即可开始使用。这对那些工作负荷主要围绕终端窗口的用户很有帮助。如果他们在某个地方卡住了，无需切换到另一个浏览器窗口就能得到答案。

在 Linux 上使用 Ollama 时，我们发现其开发人员采用了一种令人惊讶的方法。当你执行安装脚本时，它会自行处理所有 GPU 驱动程序，无需额外步骤。

另一方面，我们发现 macOS 的安装程序是三个平台中最精致的，因为它非常易于浏览和使用。当然，你最终必须切换到终端，但它带你进入终端的方式非常流畅。

不过，如果你想通过图形用户界面使用 Ollama，可以使用 Open Web UI。但它只能通过 Docker 容器安装，这对于不熟悉容器概念的用户来说可能会很麻烦。

AIM 指出，Ollama 唯一的缺点是没有提供官方文档，说明如何使用已经下载的大语言模型。

模型最重要

最肯定的是，使用像 Ollama 这样的最小实用工具在本地运行大语言模型，会让你比其他工具更有优势，但归根结底，你使用的是什么模型最重要。

例如，我们在 Ollama 上并排使用了 Llama 2 和 Llama 3，结果让我们大吃一惊。

在 Ollama 中运行 llama2 和 llama3

正如您所看到的，Llama 2 在几秒钟内就开始回答我们的问题，而 LLaMA 3 则花了很长时间，但却针对给定的标准给出了令人信服的详细答案。我们在多个实用工具上测试了 LLaMA 2，但 Llama + 终端给出的结果最快，因此我们得出结论：在终端中使用时，Ollama 的速度最快。

此外，如果你尝试加载一个超出你的规格所能承受的非常大的模型，就像其他工具一样，Ollama 将无法加载给定的模型。更可悲的是，它甚至不会通知你 Ollama 已经停止加载模型。

解决这个问题的唯一办法就是密切关注系统资源。当你看到资源消耗突然下降时，说明 Ollama 加载模型失败，你可以停止整个过程（否则会无休止地显示加载动画）。

总之，我们发现 Ollama 灵活而快速。它既能让你使用图形用户界面，又能在终端中快速响应，可谓一举两得。不过，如果你想使用一些简单的工具，我们很快就会向你介绍 Jan，这是一款能让你在本地运行大语言模型的工具，可以让你事半功倍。

如何系统的去学习大模型LLM ？

作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。

但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的 AI大模型资料 包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

😝有需要的小伙伴，可以V扫描下方二维码免费领取🆓

一、全套AGI大模型学习路线

AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！

二、640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

四、AI大模型商业化落地方案

阶段1：AI大模型时代的基础理解

• 目标：了解AI大模型的基本概念、发展历程和核心原理。
• 内容：
  • L1.1 人工智能简述与大模型起源
  • L1.2 大模型与通用人工智能
  • L1.3 GPT模型的发展历程
  • L1.4 模型工程
    - L1.4.1 知识大模型
    - L1.4.2 生产大模型
    - L1.4.3 模型工程方法论
    - L1.4.4 模型工程实践
  • L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

• 目标：掌握AI大模型API的使用和开发，以及相关的编程技能。
• 内容：
  • L2.1 API接口
    - L2.1.1 OpenAI API接口
    - L2.1.2 Python接口接入
    - L2.1.3 BOT工具类框架
    - L2.1.4 代码示例
  • L2.2 Prompt框架
    - L2.2.1 什么是Prompt
    - L2.2.2 Prompt框架应用现状
    - L2.2.3 基于GPTAS的Prompt框架
    - L2.2.4 Prompt框架与Thought
    - L2.2.5 Prompt框架与提示词
  • L2.3 流水线工程
    - L2.3.1 流水线工程的概念
    - L2.3.2 流水线工程的优点
    - L2.3.3 流水线工程的应用
  • L2.4 总结与展望

阶段3：AI大模型应用架构实践

• 目标：深入理解AI大模型的应用架构，并能够进行私有化部署。
• 内容：
  • L3.1 Agent模型框架
    - L3.1.1 Agent模型框架的设计理念
    - L3.1.2 Agent模型框架的核心组件
    - L3.1.3 Agent模型框架的实现细节
  • L3.2 MetaGPT
    - L3.2.1 MetaGPT的基本概念
    - L3.2.2 MetaGPT的工作原理
    - L3.2.3 MetaGPT的应用场景
  • L3.3 ChatGLM
    - L3.3.1 ChatGLM的特点
    - L3.3.2 ChatGLM的开发环境
    - L3.3.3 ChatGLM的使用示例
  • L3.4 LLAMA
    - L3.4.1 LLAMA的特点
    - L3.4.2 LLAMA的开发环境
    - L3.4.3 LLAMA的使用示例
  • L3.5 其他大模型介绍

阶段4：AI大模型私有化部署

• 目标：掌握多种AI大模型的私有化部署，包括多模态和特定领域模型。
• 内容：
  • L4.1 模型私有化部署概述
  • L4.2 模型私有化部署的关键技术
  • L4.3 模型私有化部署的实施步骤
  • L4.4 模型私有化部署的应用场景

学习计划：

• 阶段1：1-2个月，建立AI大模型的基础知识体系。
• 阶段2：2-3个月，专注于API应用开发能力的提升。
• 阶段3：3-4个月，深入实践AI大模型的应用架构和私有化部署。
• 阶段4：4-5个月，专注于高级模型的应用和部署。

这份完整版的大模型 LLM 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

😝有需要的小伙伴，可以Vx扫描下方二维码免费领取🆓