昨晚，Meta发布了最新最强的开源大模型：Llama 3.1。



手把手教你本地运行Meta最新大模型：Llama 3.1，惊奇发现他说自己是ChatGPT？_Java

该模型共有三个版本：

  • • 8B
  • • 70B
  • • 405B

对于这次发布，Meta已经在超过150个涵盖广泛语言范围的基准数据集上评估了性能。此外，Meta还进行了广泛的人工评估，在现实场景中将Llama 3.1与竞争模型进行比较。Meta的实验评估表明：

405B版本的评估数据与目前最强的GPT-4、GPT-4o和Claude 3.5 Sonnet相比具有不错的竞争力：



手把手教你本地运行Meta最新大模型：Llama 3.1，惊奇发现他说自己是ChatGPT？_Java_02

此外，8B和70B版本与具有相似参数规模的模型相比也有相同甚至更好的表现：



手把手教你本地运行Meta最新大模型：Llama 3.1，惊奇发现他说自己是ChatGPT？_技术交流_03

使用 ollama 运行 Llama3.1

下面就来尝个鲜，手把手在本地把Llama3.1的8B版本跑起来。只要跟着下面的步骤做，你不需要有任何技术背景，也能完成。

  1. 1. 安装 ollama

前往官网下载最新的 Ollama：https://ollama.com/



手把手教你本地运行Meta最新大模型：Llama 3.1，惊奇发现他说自己是ChatGPT？_Java_04

  1. 1. 下载完成之后，打开安装程序，并完成安装步骤。
  2. 2. 打开终端，执行命令：ollama run llama3.1

手把手教你本地运行Meta最新大模型：Llama 3.1，惊奇发现他说自己是ChatGPT？_chatgpt_05

等待模型下载完成

  1. 3. 完成模型下载，如下图所示：

手把手教你本地运行Meta最新大模型：Llama 3.1，惊奇发现他说自己是ChatGPT？_llama_06

已经弹出提示：Send a message，可以与AI进行互动了。

  1. 4. 测试一下，尝试让他教我学习Java？

手把手教你本地运行Meta最新大模型：Llama 3.1，惊奇发现他说自己是ChatGPT？_技术交流_07

彩蛋

最后，常规操作，问一下你是谁：

手把手教你本地运行Meta最新大模型：Llama 3.1，惊奇发现他说自己是ChatGPT？_Java_08

啥情况？是ChatGPT？看到这里的小伙伴也试试看，也是一样的结果吗？有朋友知道为什么吗？知道的评论区求解。