Ubuntu安装大模型LLama，实操步骤

前言

1. 因为国内镜像源不太清楚有没有最新的仓库源，我是推荐用科学上网工具，都已经玩大模型了，这个都没有的话就直接算了吧
2. 这个是面向有一定的Linux使用经验的人员，有一些细节没有展开讲，而且每个人电脑环境都不同，就算严格按照步骤来，也有可能出现各种各样的情况，所以要有一定的经验，具备问题处理的能力，没什么人能把所有问题枚举出来
3. 机器要好，不做训练的话吃的就是内存和CPU，最新的llama3:8b最低要求16GB运行内存，llama3:70b最低要求32GB运行内存
4. 如果要做微调训练，量力而行，12GB显存是最低要求，并且最好是满血4080supper，国内阉割版4090貌似有问题(有朋友反馈，但没验证)

安装步骤概览

1. 安装docker
2. 安装GPU驱动，AMD和NVIDIA不同
3. 在docker内安装ollama，以GPU加速模式运行
4. 在docker内调用ollama安装大模型llama3:8b/70b等

安装docker

1. 更新软件包

sudo apt update
sudo apt upgrade

2. 安装Docker在Ubuntu上依赖包

sudo apt-get install ca-certificates curl gnupg lsb-release

3. 添加Docker官方的GPG密钥，这里使用了Docker官方的GPG密钥地址，以确保安全性

curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -

4. 添加Docker的软件源

sudo add-apt-repository “deb [arch=amd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable”

5. 安装Docker

sudo apt-get install docker-ce docker-ce-cli containerd.io

6. 默认情况